인공지능이 포르노 산업을 뒤흔들고 있다

삽화: 게티 이미지 / 이코노미스트

피ORN은 오랫동안 신기술의 시험장이었습니다.
15세기에 요하네스 구텐베르크가 인쇄기를 발명했을 때, 그것은 곧바로 외설적인 팸플릿을 인쇄하는 데 사용되었습니다.
성인 영화는 할리우드 주류 영화보다 1년 앞선 1977년에 비디오로 출시되어 한동안 판매를 장악했습니다.
인터넷의 전신인 프랑스의 미니텔이 1980년대 초에 출시되었을 때, 초기에는 성인 서비스가 전체 트래픽의 3분의 1에서 절반을 차지했습니다.
8mm 카메라, 케이블 TV, 그리고 이제는 인공지능( AI )도 비슷한 양상을 보입니다.

많은 기업들이 인공지능(AI) 도입을 망설이는 가운데 , 이미 AI 기술은 음란물 제작에 활용되고 있습니다.
포르노 사이트는 AI가 생성한 영상과 이미지로 넘쳐나고 있습니다.
초지능 모델로 수익을 창출하고 높은 기업 가치를 정당화하기 위해 고군분투하는 대형 AI 기업들도 이 시장에 뛰어들고 있습니다.
xAI 의 Grok은 이미 노골적인 이미지와 영상을 생성할 수 있는 자극적인 모드를 제공하고 있습니다.
OpenAI 는 12월부터 Chat GPT 에서 성인 콘텐츠를 제공할 예정입니다 (단, 인증된 성인만 이용 가능). 시장 조사기관인 글로벌 커머스 미디어(Global Commerce Media)에 따르면, AI 기반 성인 콘텐츠 시장은 올해 25억 달러 규모에 달할 것으로 예상되며, 2028년까지 매년 27%씩 ​​꾸준히 성장할 전망입니다.

인공지능(AI) 의 도입 속도는 포르노 산업과 사회 전반에 걸쳐 근본적인 질문을 던지고 있습니다.
출연자들은 알고리즘에 밀려나게 될까요? 합성 포르노가 보편화된다면 시청자들은 진짜 포르노에 돈을 지불할까요? 오랫동안 업계를 장악해 온 포르노 스튜디오와 플랫폼들은 어떻게 될까요? 이러한 질문들에 대한 답은 AI가 앞으로 더욱 보수적인 사업들을 어떻게 재편할지 엿볼 수 있게 해줍니다.
더 심각한 문제는 이미 아동 성학대 이미지에 대한 금지 조치를 우회하거나 사기 행위에 이용되는 성인용 딥페이크를 제작하는 데 사용되고 있는 AI 도구들이 제기 하는 새로운 위험성입니다 .

AI 기업들 에게 포르노 산업의 매력은 분명합니다.
바로 '섹스'가 잘 팔린다는 점입니다.
여론조사기관 유고브(YouGov)에 따르면 영국 남성의 4분의 3, 여성의 절반이 성인 콘텐츠를 시청한 경험이 있다고 답했습니다.
(많은 사람들이 낯선 사람에게 이를 고백하기 부끄러워하기 때문에 실제 수치는 훨씬 더 높을 것으로 예상됩니다.
) 전 세계 포르노 산업은 매년 거의 1,000억 달러의 수익을 올리고 있으며, 이는 AI 산업의 두 배에 달하는 규모입니다.
데이터 제공업체 시밀러웹(Similarweb)에 따르면 전 세계에서 가장 많이 방문하는 웹사이트 50개 중 5개가 포르노 사이트입니다.
오랫동안 포르노 산업은 포르노허브(Pornhub)나 엑스햄스터(xHamster)처럼 무료 영상을 제공하고 광고 수익으로 운영되는 '튜브 사이트'들이 주도해 왔습니다.
하지만 최근에는 유료 구독 플랫폼들이 등장하여 콘텐츠 시청료를 부과하고, 맞춤형 콘텐츠나 개인 채팅 서비스 등에 추가 요금을 받고 있습니다.
가장 잘 알려진 플랫폼인 온리팬스(OnlyFans)는 2024 회계연도에 14억 달러 이상의 매출과 5억 2천만 달러의 순이익을 기록했습니다.

과거에는 비디오부터 인터넷 스트리밍에 이르기까지 새로운 기술들이 등장할 때마다 음란물 배포 비용을 줄여주었기 때문에 점차 확산되었습니다.
하지만 인공 지능 (AI) 은 진화적이라기보다는 혁명적입니다.
AI는 사용자의 요구에 맞춰 맞춤형 음란물을 제작할 수 있기 때문입니다.
이 기술의 활용 범위는 상상력(그리고 AI 기업들이 모델에 적용하기로 합의한 제약 조건들)에 따라 무궁무진합니다.
일부 AI 기반 음란물 생성기는 사용자가 피부색, 체형, 성격, 심지어 사용자와의 관계까지 고려하여 이상적인 파트너를 불러내어 판타지를 실현하고 동반자 역할을 하도록 할 수 있습니다.
(독서를 좋아하고 발 페티시가 있는, 운동으로 다져진 몸매의 92세 할머니의 누드 사진을 원하시나요? AI가 제공해 드릴 수 있습니다.
) 상상력을 좀 더 발휘하고 싶은 사람들을 위해 몇 가지 입력만으로 텍스트나 오디오 기반의 에로티카를 만들어주는 섹스봇도 있습니다.

업계 일각에서는 더 높은 목표를 이야기하기도 합니다.
검열 없는 이미지 생성기인 언스테이블 디퓨전(Unstable Diffusion)의 창립자 아르만 차우드리(Arman Chaudhry)는 AI를 훈련 시켜 포르노를 제작하는 개발자들을 미술 교사가 누드 인물 드로잉부터 시작하는 것에 비유합니다.
그는 모델들이 세상과 해부학적 구조를 얼마나 잘 이해하는지 알아보는 좋은 시험대라고 설명합니다.
하지만 옷을 입은 사람의 사진을 입력받아 그럴듯한 누드 이미지를 만들어내는 누드화 앱의 목적은 이와는 거리가 멀어 보입니다.
이러한 앱들은 학교 폭력 가해자들 사이에서 이상하리만치 인기를 끌고 있습니다.

기계의 등장

성인 산업에 대한 통계는 제대로 집계되지 않고 있지만, 모든 징후는 AI 기반 포르노 시장이 호황을 누리고 있음을 시사합니다.
최근 몇 년 동안  AI 포르노 생성기와 누디파이 앱에 대한 구글 검색량이 증가했습니다.
디지털 사기를 전문으로 다루는 매체인 Indicator는 5월까지 6개월 동안 85개의 누디파이 사이트를 추적한 결과, 이들 사이트가 월평균 약 1,850만 건의 방문을 기록하고 5월까지 1년간 최대 3,600만 달러의 수익을 올린 것으로 나타났습니다.
옥스퍼드 대학교와 케임브리지 대학교 연구진이 주도한 연구에 따르면, 짝짓기에 초점을 맞춘 AI 동반 ​​서비스를 제공하는 가장 인기 있는 웹사이트 10곳은 2025년 1분기에 7,850만 건의 방문을 기록했습니다.
저희 자체 분석에 따르면 10월까지 3개월 동안 이들 사이트의 트래픽은 이보다 세 배나 많았습니다.

본래는 좀 더 점잖은 용도로 개발된 AI 도구들조차 성적인 용도로 이용되고 있습니다.
음란물 차단 챗봇 개발사인 판도라봇(Pandorabots)의 대표 로렌 쿤제는 기계와 오랜 시간 대화를 나누는 두 부류가 가장 많으며, 이들은 지루해하는 아이들과 성적인 욕구를 가진 사람들이라고 지적합니다.
판도라봇에서 제공하는 여성 캐릭터 쿠키(Kuki)는 사용자 3분의 1로부터 성적인 제안을 받고 있으며, 15년 동안 9천만 번이나 사랑해라는 말을 들었습니다.
쿤제는 AI 의 모든 활용 분야 중 성적인 채팅은 소비자의 수요가 가장 높고, 구현하기 가장 쉬우며, 수익 창출 가능성도 가장 높다고 말합니다.

기술적 혁신에 직면한 다른 많은 산업과 마찬가지로, 변화의 영향은 해당 산업 종사자와 기존 기업에 가장 즉각적으로 느껴집니다.
화면 속 인간 배우에 대한 수요가 완전히 사라질 가능성은 낮습니다.
작년에 학술지 ' 인지와 감정(Cognition and Emotion) '에 발표된 한 연구에서 연구진은 참가자들에게 노출이 심한 사람들의 이미지를 보여주고 어떤 이미지가 AI 가 만든 것인지 판단하도록 요청했습니다 (결과적으로 AI가 만든 이미지는 없었습니다). 그런 다음 참가자들은 이미지가 얼마나 자극적인지 평가했습니다.
연구 결과, 참가자들은 AI가 만든 이미지라고 생각한 이미지에 자극을 받았지만, 실제 사람이 만든 이미지보다는 자극이 덜했습니다.
연구진은 사람들이 허구의 인물인 안나 카레니나나 네드 스타크에게 공감하는 것처럼, 가상 모델에도 자극을 느낄 수 있다고 밝혔습니다.

하지만 기술이 발전함에 따라 기계가 만든 포르노와 경쟁하는 것은 점점 더 어려워지고 있습니다.
 2022년 iScience 에 발표된 한 연구에 따르면, 인공적으로 생성된 얼굴 사진이 실제 사람 사진보다 더 진짜처럼 인식될 가능성이 높다고 합니다.
 심리학 저널 Psychological Science 에 발표된 또 다른 연구에서는 참가자들이 인공 지능 학습 데이터와 포르노에서 과도하게 많이 등장하는 백인 얼굴 사진 중에서 가짜를 식별하는 데 특히 어려움을 겪는다는 사실을 발견했습니다 . OnlyFans 크리에이터를 위한 자동 채팅 서비스인 Flirtflow의 창립자 레오 사로스는 최근 몇 달 동안 인공지능 기술이 눈에 띄게 발전하여 사용자들이 기계와 메시지를 주고받고 있다는 사실을 거의 인지하지 못한다고 말합니다.
사로스는 마치 매트릭스 같아요.라며, 자신이 그 안에 있다는 사실을 모르는 한, 의심도 없고 즐기게 되죠.라고 덧붙였습니다.

유명 포르노 배우들이 가장 큰 타격을 입을 것으로 예상됩니다.
팬들은 필연적으로 딥페이크 기술을 이용해 그들의 얼굴을 성인 영상에 합성 하거나 , 동의 없이 그들의 작품을 AI 도구 학습에 활용할 것이기 때문 입니다.
이러한 상황을 받아들이고 AI 기업에 자신의 초상권을 라이선스하고 팬들로부터 팁을 받는 아바타를 만들어 이 흐름에 편승하려는 배우들도 있습니다.
60세인 비키 베트는 올해 초 에바 AI 앱(현재는 조이 AI 앱으로 이전)에 자신의 디지털 복제본을 출시했는데,  AI는  나이 차별이 심한 업계에서 그녀의 경력을 연장하는 데 도움이 될 수 있다고 생각합니다.
하루에 1,000명이 넘는 남성과 잠자리를 가진 것으로 화제를 모았던 보니 블루는 온라인과 오프라인에서 팬들과 소통하기 때문에 자신의 포르노 활동이 미래에도 지속될 것이라고 주장합니다.
그녀는 많은 부분이 낯선 사람들과의 소통이고, 또 많은 부분이 대중과의 소통이에요.라며 어떻게 그런 소통을 대체할 수 있겠어요?라고 말합니다.

아마추어 배우와 모델들 사이에서 AI는 고된 노동을 없애주는 유용한 도구입니다.
이제 대부분은 대형 포르노 스튜디오에서 일하는 대신 구독 플랫폼에서 팬들에게 직접 돈을 받고 있습니다.
이들은 포르노 배우, 카메라맨, 편집자, 행정 보조 역할까지 모두 수행합니다.
 AI 비디오 생성기는 완성도 높은 2분짜리 클립 제작 시간을 며칠에서 몇 시간으로 단축시켜 줍니다.
챗봇은 수익성이 높은 개인 메시지 업무를 대신합니다.
예를 들어, Flirtflow는 개인 채팅 수익의 8%를 수수료로 받는데, 이는 크리에이터가 팬들에게 응답할 사람을 직접 고용하는 비용보다 훨씬 적습니다.
성인 엔터테인먼트 산업 협회인 자유언론연합(Free Speech Coalition)의 전무이사이자, 이름에서 알 수 있듯이 선정적인 콘텐츠를 제공하는 사이트인 Kink.com의 전 대표였던 앨리슨 보든은  AI 덕분에 이들은 지치지 않고 사업을 확장할 수 있습니다.
라고 말합니다.

로보스쿨

수십 년 동안 포르노 유통을 장악해 온 중간상들도 영향을 받고 있습니다.
구독 사이트에 사업을 빼앗긴 스튜디오들은 이제 새로운 위험에 직면해 있습니다.
막대한 제작비를 들여 만든 영상들이 인공지능 봇 학습에 슬며시 이용되고 있는 것입니다.
지난 7월, 미국의 성인 영화 제작사 스트라이크 3 홀딩스는 페이스북 소유주인 메타를 상대로 저작권 침해 혐의로 소송을 제기했습니다.
메타는 자사의 영상을 이용해 AI 모델을 학습시켰다는 것입니다.
(메타는 혐의를 부인하고 있습니다.) 변호사 로렌스 월터스는 점점 더 많은 포르노 배우들이 계약서에 과거 작품을 모델 학습에 사용하지 못하도록 하는 조항을 요구하고 있다고 말합니다.
월터스 변호사는  AI 는 점점 더 널리 퍼지고 있기 때문에 스튜디오들은 과연 자신들의 권리를 포기할 것인지 고민해야 한다고 덧붙였습니다.

성인 콘텐츠를 제공하는 플랫폼들은 중대한 결정을 내려야 합니다.
바로 AI가 생성한 콘텐츠를 허용할지 여부입니다.
기술 발전 방향에 따라 이 결정은 플랫폼의 빠른 성장과 몰락을 가르는 중요한 요소가 될 수 있습니다.
OnlyFans는 AI가 수정했지만 완전히 기계적으로 생성한 콘텐츠는 허용하지 않습니다.
이 플랫폼은 인터넷이 AI 가 만든 음란물로 넘쳐나는 상황에서 실제 성인 콘텐츠가 사용자들을 끌어들일 것이라는 전략에 도전하고 있습니다.
Fanvue와 같은 다른 사이트들은 AI 가 생성한 성인 콘텐츠를 제공한다는 점을 적극적으로 홍보합니다 . OnlyFans의 전 CEO였던 암라팔리 간은 12월에 성인 전용 소셜 플랫폼인 Vylit을 출시할 예정이며, 이 플랫폼에서는 AI 생성 콘텐츠를 명확하게 표시할 것입니다.
간은 투명성이 정말 중요합니다.
라고 말합니다.

전반적으로 인공지능(AI)은 업계 생산성을 크게 향상시킬 것으로 기대됩니다.
이는 일자리 감소를 초래할 가능성이 높지만, AI는 배우들이 시청자들이 요구하는 위험한 행위, 예를 들어 폭력적이거나 극단적인 행위를 하거나 성병 감염 위험을 무릅쓰고 안전하지 않은 성관계를 갖는 것에서 벗어나게 해 줄 수도 있습니다.
그러나 AI 기술은 폭력적이고 불법적인 음란물을 제작하거나 성적 으로 노골적인 딥페이크를 유포하는 등 카메라 앞의 배우들에게서 위험을 다른 모든 사람에게로 전가할 가능성도 있습니다.

차트: 이코노미스트

규제 당국은 인공지능( AI) 이 인간이 제작했을 때 불법인 유형의 콘텐츠를 생산하는 데 사용될 가능성을 가장 우려하고 있습니다.
자선 단체인 인터넷 감시 재단( IWF )은 AI가 생성한 아동 성학대 이미지 수천 건이 온라인에서 공유되고 있음을 발견했습니다.
이러한 이미지에 대한 보고는 올해 첫 10개월 동안 2024년 전체 보고 건수보다 두 배 이상 증가했습니다.
이러한 이미지는 점점 더 사실적이고 잔혹해지는 것으로 보입니다.
대부분의 AI 도구는 사용자가 이러한 불법 콘텐츠를 제작하는 것을 차단하려고 하지만, IWF가 발견한 이미지 중 상당수는 오픈 소스 AI 모델을 컴퓨터에 다운로드하여 암호화된 프롬프트를 이용해 안전 장치를 우회한 사용자에 의해 제작되었습니다 .

표현의 자유 옹호자들은 이러한 이미지 제작 과정에서 아동이 다치지 않으므로 금지해서는 안 된다고 주장할지도 모릅니다.
그러나 이러한 금기를 깨는 것은 오히려 아동 학대를 정상화시켜 실제 아동을 위험에 빠뜨릴 수 있습니다.
온라인에서 더욱 흔해진 다른 유형의 공격적인 성행위를 모방하는 사례가 늘고 있다는 강력한 증거가 있습니다.
캐나다 맥길 대학교의 에란 쇼어 교수와 공동 저자들은 가장 많이 시청된 포르노 영상에서 목 조르기, 때리기, 강제로 입을 막는 행위가 놀라울 정도로 증가했음을 발견했습니다(차트 1 참조). 너무나 많은 사람들이 동의 없이 성관계 중 목이 졸리고 있습니다.

차트: 이코노미스트

인디애나 대학교의 데비 허베닉 교수와 동료 연구진은 젊은 여성들이 성관계 중 합의하에 목이 졸린 경험이 있다고 응답한 비율이 급증하고 있다는 사실을 발견했습니다.
특히 25~29세 여성의 40% 이상이 파트너에게 목이 졸린 적이 있다고 답했습니다(차트 2 참조). 비록 동의하에 이루어진 것이라 할지라도 이는 우려스러운 현상입니다.
보건 전문가들은 목을 안전하게 조르는 방법은 없으며, 목이 졸리면 몇 초 만에 의식을 잃을 수 있다고 경고합니다.
올해 초 영국 정부는 목 조르기 장면을 묘사하는 포르노를 불법화하는 법안을 도입했습니다.
쇼어 교수는 주류 포르노와 성 담론에서 목 조르기 행위가 증가하는 추세는 젊은이들이 이러한 행위를 정상적인 성적 행위의 일부로 받아들이도록 부추길 수 있다고 냉소적으로 지적했습니다.

두 번째 우려는 누구의 얼굴이라도 음란물로 바꿔버릴 수 있는 딥페이크 기술입니다.
신원 도용 방지 단체인 홈 시큐리티 히어로즈(Home Security Heroes)는 이제 선명한 얼굴 사진 한 장으로 딥페이크 영상을 만드는 데 25분도 채 걸리지 않는다고 추산합니다.
이 기술은 작년에 테일러 스위프트의 노출이 심한 딥페이크 이미지가 온라인에 퍼지면서 큰 화제가 되었습니다.
점점 더 많은 사람들이 이러한 피해자가 되고 있습니다.
영국의 국립 인공 지능 연구소인 앨런 튜링 연구소(Alan Turing Institute)의 조사에 따르면 여성의 거의 3분의 1, 남성의 5분의 1이 딥페이크의 표적이 될까 봐 걱정하는 것으로 나타났습니다.

차트: 이코노미스트

온라인 사기꾼들이 딥페이크 포르노를 이용해 사람들을 협박하거나 신뢰를 얻는 사례가 점점 늘고 있습니다.
성 노동자이자 팟캐스트 '컴큐리어스(ComeCurious)'의 진행자인 리드 앰버는 자신이 온라인에 게시한 자료들이 도용되어 자신의 이름으로 된 그럴듯한 이미지와 음성 클립이 만들어지고 있다고 의심합니다.
그녀는 소셜 미디어와 메시지 앱에서 자신을 사칭하는 사기꾼들에게 속았다는 팔로워들의 메시지를 매주 여러 건씩 받고 있습니다.
성적인 것과 섹스는 사람들에게 매우 취약한 영역이기 때문에, 누군가가 자신을 원한다고 믿기 위해 스스로의 믿음을 잠시 접어두게 됩니다.
라고 그녀는 말합니다.
이것은 취약한 사람들을 노리는 행위입니다.

규제 당국은 다양한 접근 방식을 시도하고 있습니다.
유럽 연합의 AI 법은 실제처럼 보이는 합성 콘텐츠에 라벨을 붙이도록 요구합니다.
멜라니아 트럼프 영부인이 주도한 미국의 테이크 잇 다운 법(Take It Down Act)은 실제 이미지든 기계로 생성된 이미지든 관계없이 아동이나 성인의 동의 없이 음란물을 온라인에 게시하는 것을 금지합니다.
덴마크는 개인의 초상권에 대한 권리를 부여할 계획입니다.
영국은 AI 개발자와 아동 보호 단체에 AI 모델을 테스트하여 아동 성학대를 모방하는 데 사용될 수 없는지 확인할 수 있는 권한을 부여할 예정입니다 . 최근 포르노 산업 에 대한 검토를 주도했던 영국 상원의원 가브리엘 버틴은 정부에 누드화 앱을 전면 금지할 것을 청원하고 있습니다.
버틴 의원은 누드화 앱이 왜 필요할까요?라며 대개 여성을 학대하고 모욕하기 위한 것입니다.
라고 말합니다.

인터넷 감시

하지만 포르노는 수십 년 동안 규제망을 교묘하게 피해 왔습니다.
그리고 인공지능은 어떤 입법보다도 빠르게 발전하고 있습니다.
결국 업계 스스로 규제해야 하는 상황입니다.
오픈 AI가 Chat GPT 에서 음란 콘텐츠를 어떻게 감시할지는 여전히 불분명합니다.
최고경영자인 샘 알트만은 성인 이용자를 성인답게 대하겠다는 말만 했습니다.
대부분의 인기 사이트는 광고주와 결제 처리 업체가 제재를 가하기 전에 불법 콘텐츠를 잡아내기 위해 수많은 콘텐츠 검토 담당자를 고용하고 있습니다.
2020년 마스터카드와 비자가 포르노허브에 대한 결제를 차단한 것은 이 카드 회사들을 포르노 업계의 비공식 경찰로 만들었습니다.

몬트리올 퀘벡 대학교의 발레리 라포인트 교수는 많은 사용자들이 스스로 음란한 본능을 억제한다고 생각합니다.
대중은 사용자와의 상호작용 데이터를 수집하여 판매하거나 맞춤형 광고에 활용할 수 있는 새로운 챗봇에 대해 경계심을 갖고 있습니다.
라포인트 교수는 이렇게 말합니다.
만약 당신이 대기업의 최고 경영자라면, 지배적인 성향의 챗봇과 대화하다가 개인 정보가 유출될 위험을 감수하고 싶겠습니까?

포르노그래피는 오랫동안 한계를 시험하고 성의 경계를 허물어 왔습니다.
인공지능( AI )이 등장하기 훨씬 전부터 일본 애니메이션 스타일의 포르노는 생물학적 한계를 넘어 신체를 왜곡해 왔습니다.
실제 배우들이 출연하는 수많은 영상물조차도 결코 순하지 않습니다.
하지만 AI는 이미지를 매우 저렴하게 제작할 수 있고, 점점 더 기상천외한 시나리오를 가능하게 하기 때문에, 웹은 머지않아 더욱 극단적인 합성 음란물로 넘쳐날 것입니다.
점점 더 많은 젊은 사용자들이 AI 포르노 생성기에 의해 왜곡된 인식을 갖게 됨에 따라, 많은 사람들에게 있어 섹스를 특별하게 만드는 인간적인 교감을 소중히 여기도록 장려하는 것이 더욱 중요해집니다.
일반인들이 자신의 섹스 비디오를 공유할 수 있는 웹사이트인 MakeLoveNotPorn의 설립자 신디 갤럽이 늘 강조하듯이, 실제 섹스는 포르노보다 훨씬 더 놀랍고 혁신적입니다.
 ■