NSFW AI 혁명 속으로: AI 생성 포르노가 판도를 바꾸고 논란을 불러일으키는 방법

NSFW AI 혁명 속으로: AI 생성 포르노가 판도를 바꾸고 논란을 불러일으키는 방법

0

Inside the NSFW AI Revolution: How AI-Generated Porn Is Changing the Game and Courting Controversy

NSFW AI – 생성형 인공지능을 활용해 “직장에서 부적절한”(Not Safe For Work) 성인 콘텐츠를 만드는 것 – 은 뜨거운 논란의 현상으로 급부상했다. AI가 생성한 에로틱 이미지와 딥페이크 포르노 영상부터, 음성 복제 유혹자와 챗봇 “여자친구”에 이르기까지, 머신러닝은 성인 콘텐츠의 판도를 바꾸고 있다. 이는 매혹적인 가능성과 시급한 윤리적 질문을 동시에 불러일으키는 기술 혁명이다. 옹호자들은 판타지와 창의성의 새로운 길을 환영하는 반면, 비판자들은 괴롭힘, 동의 위반, 사회적 해악을 경고한다. 2025년 중반, NSFW AI는 기로에 서 있다: 틈새 커뮤니티와 스타트업이 받아들이고, 입법자들이 면밀히 조사하며, 그 여파에 휘말린 이들은 두려워한다. 이 종합 보고서에서는 NSFW AI가 무엇인지, 어디서 번성하고 있는지, 최신 동향(플랫폼 금지부터 새로운 법률까지), 윤리적 딜레마, 논쟁 양측의 목소리, 그리고 전 세계가 이 통제 불능의 AI 신세계를 어떻게 조절하고 규제하려 애쓰는지 파헤친다. AI가 생성한 포르노의 거친 세계와, 이것이 단순히 포르노만의 문제가 아니라 프라이버시, 권력, 그리고 성적 콘텐츠의 미래에 관한 것임을 들여다보자.

NSFW AI란 무엇이며, 어떻게 작동하는가?

NSFW AI는 노골적인 성인 콘텐츠(포르노 이미지, 영상, 오디오, 텍스트 등)를 종종 놀라울 정도로 사실적으로 생성하는 인공지능 시스템을 의미한다. 이 시스템들은 최근 AI 예술 및 미디어 혁신의 기반이 된 첨단 생성형 기술을 활용하지만, 성인 등급(X-rated) 자료에 적용된다. 주요 혁신에는 방대한 이미지와 영상 데이터셋으로 학습된 딥러닝 모델이 포함되며, 이들은 사용자 프롬프트에 따라 새로운 콘텐츠를 만들어낸다. 예를 들어, Stable Diffusion과 같은 텍스트-이미지 변환(diffusion) 모델은 간단한 텍스트 설명만으로도 사실적인 누드 또는 성적 이미지를 생성할 수 있다 globenewswire.com. “딥페이크” 기술은 영상에서 얼굴을 바꾸거나 합성해 실제 인물(종종 유명인이나 일반인)이 실제로 찍지 않은 포르노에 출연한 것처럼 보이게 만든다. 첨단 음성 복제 도구는 사람의 목소리를 놀라울 정도로 정확하게 모방해, 대상 목소리로 에로틱 오디오나 “야한 대화”를 생성할 수 있다. 그리고 대형 언어 모델은 자극적인 에로틱 소설을 쓰거나 채팅을 통해 성적 역할극에 참여할 수 있다.

본질적으로, NSFW AI 시스템은 모든 AI 예술 또는 미디어를 생성하는 것과 동일한 알고리즘을 사용합니다. 단지 포르노 또는 에로틱한 훈련 데이터로 훈련되거나 미세 조정되었을 뿐입니다. 생성적 적대 신경망(GANs)은 누드 이미지를 만드는 초기 개척자였으나, 확산 모델과 트랜스포머 기반 모델이 사실감을 크게 향상시켰습니다. 최신 NSFW 이미지 생성기는 사용자의 프롬프트에 맞춘 고화질 누드 이미지를 최소한의 노력으로 생성할 수 있습니다 globenewswire.com. 딥페이크 비디오 제작자는 종종 특수 소프트웨어(일부는 오픈소스)를 사용하여 기존 성인 비디오에서 한 얼굴을 다른 얼굴에 매핑하여 합성 포르노를 만들어내며, 이는 실제 영상과 구분하기 어려울 수 있습니다 cbsnews.com. 음성 AI 서비스는 오디오 샘플을 받아 그 목소리로 새로운 음성(노골적인 내용 포함)을 생성할 수 있습니다. 그리고 AI 기반 챗봇은 자연어 생성을 이용해 맞춤형 에로틱 대화나 섹스팅을 즉시 제공합니다.

허구와 현실의 경계가 흐려지고 있습니다. 한 관찰자가 언급했듯이, “이미 매우 사실적인 NSFW AI 생성기의 이미지, 목소리, 비디오는 계속 진화하고 있으며, 성인 콘텐츠가 만들어지고 소비되고 이해되는 방식을 더욱 변화시키고 있다” chicagoreader.com. 사용자는 이제 간단한 프롬프트만으로 맞춤형 포르노 장면—예를 들어, 판타지 속 유명인과의 만남 이미지나 전 연인이 노골적인 말을 하는 오디오 클립—을 만들어낼 수 있습니다. 이는 불과 몇 년 전만 해도 불가능했던 일입니다. 이 새롭게 얻은 힘은 동의, 프라이버시, 창의적 판타지와 착취의 차이에 대한 시급한 질문을 제기합니다. 그 근본 기술 자체는 도덕적으로 중립적이며 무엇이든 생성할 수 있지만, 인간의 성과 실제 인물의 외모에 적용될 때 그 함의는 복잡해집니다.

AI 생성 성인 콘텐츠의 주요 형태

AI 생성 이미지: 텍스트-이미지 모델(예: Stable Diffusion)은 프롬프트로부터 노골적인 에로틱 또는 포르노 이미지를 생성할 수 있습니다. 사용자는 외모, 시나리오 등을 지정할 수 있어, 원하는 대로 독특한 누드 또는 성적 이미지를 얻을 수 있습니다 globenewswire.com. 이러한 모델 중 다수는 오픈소스이거나 사용자 맞춤형이어서, 주류 AI 도구가 허용하지 않는 콘텐츠도 생성할 수 있습니다.
딥페이크 포르노 영상: 딥페이크 기술을 이용해 창작자들이 한 사람의 얼굴을 성인 비디오에 합성하여, 실제로 참여하지 않은 사람의 가짜 포르노 영상을 만듭니다. 이러한 AI 조작 영상은 종종 동의 없이 유명인이나 일반인을 대상으로 합니다 cbsnews.com theguardian.com. 딥페이크의 품질은 2024~2025년에 이르러 매우 사실적으로 보일 정도로 향상되었으며, 더 강력한 GPU와 알고리즘의 도움을 받고 있습니다.
음성 클로닝 및 오디오: AI 음성 생성기는 유명인이나 지인의 목소리를 복제해 노골적인 오디오 클립을 만듭니다(예: 유명 여배우가 음란하게 말하는 것을 시뮬레이션하거나, 어떤 목소리로든 에로틱 오디오북을 제작). ElevenLabs와 같은 정교한 음성 AI 덕분에 신음, 대화, 내레이션을 원하는 목소리로 쉽게 생성할 수 있어, 포르노 오디오에서의 사칭 문제에 대한 우려가 커지고 있습니다.
에로틱 챗봇 및 픽션: AI 언어 모델이 NSFW 채팅과 스토리텔링에 사용됩니다. “AI 여자친구” 앱과 에로틱 롤플레이 챗봇은 2023~2025년 사이에 폭발적으로 인기를 끌었습니다. 이 챗봇들은 사용자가 뜨거운 채팅이나 섹스팅에 참여할 수 있게 하며, 무제한의 에로틱 텍스트를 생성합니다. 일부는 시각 자료와 음성 노트도 결합합니다. 이는 새로운 형태의 성인 콘텐츠, 즉 상호작용형 AI 동반자가 친밀한 판타지를 충족시키는 것을 의미합니다 chicagoreader.com sifted.eu.

주요 AI 플랫폼(예: OpenAI의 DALL·E나 Midjourney)은 포르노 출력물을 금지하지만, 오픈소스 및 성인 기술 커뮤니티는 이러한 기술을 받아들여 NSFW의 경계를 넓히고 있습니다. 많은 도구의 오픈소스 특성은 “혁신과 협업을 장려”하지만, 동시에 안전장치를 제거하고 규제되지 않은 노골적 콘텐츠를 생성하기 쉽게 만듭니다 chicagoreader.com chicagoreader.com. 이처럼 혁신과 규제 사이의 긴장이 다양한 플랫폼에서 전개되고 있습니다.

NSFW AI를 이끄는 플랫폼, 애플리케이션, 커뮤니티

활기차고 (때로는 그늘진) 플랫폼과 온라인 커뮤니티의 생태계가 AI 생성 성인 콘텐츠를 만들고 공유하기 위해 등장했습니다. 주요 기술 기업들이 AI 서비스에서 노골적인 콘텐츠를 금지하기 때문에 arnoldit.com blog.republiclabs.ai, NSFW AI 붐은 독립 개발자, 오픈소스 모델, 그리고 틈새 스타트업에 의해 주도되고 있습니다. 다음은 NSFW AI가 존재하고 번성하는 주요 영역들입니다:

오픈소스 모델 허브: CivitAI – 인기 있는 커뮤니티 웹사이트 – 는 사용자 제작 AI 모델과 이미지의 방대한 라이브러리를 호스팅하며, 여기에는 성인 콘텐츠에 특화된 많은 모델도 포함되어 있습니다 chicagoreader.com. 사용자는 헨타이, 리얼리틱 누드, 페티시 아트 등에 맞게 미세 조정된 Stable Diffusion 모델을 다운로드하고, 자신이 생성한 이미지를 공유할 수 있습니다. 이러한 사이트의 개방성 덕분에 NSFW AI 창작자들의 필수 공간이 되었습니다. 하지만, 이는 곧 최소한의 게이트키핑을 의미하기도 합니다; 콘텐츠는 예술적 에로틱 아트부터 극단적인 포르노그래픽 자료까지 다양합니다. Hugging Face와 같은 다른 사이트들도 NSFW 모델을 (경고와 함께) 호스팅한 적이 있으며, 4chan이나 GitHub 같은 포럼에서도 “유출된” 검열 없는 모델이 공유된 바 있습니다.
NSFW 이미지 생성기 및 앱: 현재 수많은 웹 기반 서비스가 AI 에로틱 이미지 생성에 특화되어 있습니다. 예를 들어, Candy.ai, Arting.ai, Vondy, OurDream 등과 같은 플랫폼(대부분 구독 기반)은 사용자가 비교적 적은 제약으로 맞춤형 성인 이미지를 생성할 수 있게 해줍니다 chicagoreader.com chicagoreader.com. 일부는 고품질 렌더링과 포토리얼리즘부터 애니메이션까지 다양한 스타일을 자랑하며, 다양한 취향을 만족시킵니다. 많은 서비스가 2024~2025년에 등장했으며, 종종 무료 체험이나 토큰을 제공하고, 누가 더 리얼리스틱하거나 상상력 넘치는 NSFW 아트를 만들 수 있는지 경쟁합니다. 이들의 마케팅은 개인화와 프라이버시를 강조하며, 사용자가 “촬영된 기존 콘텐츠의 제약에서 벗어나 안전하고 사적인 환경에서 원하는 것을 정확히 만들 수 있다”고 약속합니다 globenewswire.com.
AI 포르노 커뮤니티와 포럼: 최근 단속 이전까지, 전용 딥페이크 포르노 웹사이트들은 이 활동의 중심지였다. 가장 악명 높았던 곳은 Mr. Deepfakes로, 2018년에 설립되어 딥페이크 연예인 포르노와 비연예인 대상물 모두를 위한 “가장 두드러지고 주류적인 시장”이 되었다 cbsnews.com. 이용자들은 이 사이트에서 노골적인 딥페이크 영상을 업로드하고 시청할 수 있었으며, 심지어 비용을 지불하면 비동의 맞춤 포르노를 의뢰할 수도 있었다 cbsnews.com. 이 사이트는 기술을 논의하고 콘텐츠를 교환하는 포럼을 통해 커뮤니티를 형성했다. 하지만, 이후 자세히 설명하겠지만, Mr. Deepfakes는 중요한 서비스 제공업체를 잃은 후 2025년에 폐쇄되었다 cbsnews.com. 이러한 단속 이후에도 딥페이크 포르노 커뮤니티는 사라지지 않았으며, 분열되어 이동했다. 전문가들은 주요 사이트가 해체되면 “이용자 커뮤니티가 흩어지면서, 콘텐츠를 교환하기 위해 텔레그램과 같은 덜 주류적인 플랫폼으로 이동할 가능성이 높다”고 지적한다 cbsnews.com. 실제로, 암호화된 앱과 틈새 포럼이 더 큰 플랫폼에서 쫓겨난 많은 NSFW AI 열성자들의 새로운 거처가 되고 있다.
AI “여자친구” 및 동반자 서비스: 여러 스타트업이 에로틱 콘텐츠 생성과 상호작용 동반자 기능을 결합하고 있습니다. 주목할 만한 예로는 Oh(런던 소재)가 있는데, 이 회사는 자신들을 “AI OnlyFans”를 구축한다고 소개합니다. 즉, 사용자가 AI로 생성된 가상 모델과 텍스트, 음성, 이미지로 상호작용하는 에로틱 동반자 플랫폼입니다 sifted.eu sifted.eu. Oh는 2025년 초에 “자율적으로 노출이 심한 봇”을 만들기 위해 450만 달러를 투자받았으며, 이 봇들은 사용자를 향해 먼저 플러팅 메시지를 보내기도 합니다 sifted.eu sifted.eu. 사이트에서는 대부분 허구의 여성 캐릭터(일부는 실제 성인 크리에이터의 외모를 라이선스 받아 수익을 배분하는 “디지털 트윈”)로 구성된 반나체 AI 봇 프로필을 볼 수 있습니다 sifted.eu. 사용자는 이 봇들과 채팅하며 섹시한 문자, AI로 생성된 누드 사진, 심지어 복제된 목소리로 생성된 음성 메시지도 받을 수 있습니다 sifted.eu. 2023~2024년경에 DreamGF, Kupid AI, FantasyGF, Candy.ai 등 유사 서비스가 다수 등장했으며, 이는 AI 기반 성인 채팅 동반자 트렌드를 보여줍니다 sifted.eu. 이 서비스의 매력은 24시간 언제든지, 완전히 맞춤화된 에로틱 상호작용이 가능하다는 점입니다. 본질적으로 가상 캠걸 또는 남자친구를 알고리즘이 구동하는 셈입니다.
기존 성인 플랫폼의 적응: 전통적인 성인 콘텐츠 플랫폼도 AI의 물결을 비켜가지 못하고 있습니다. OnlyFans라는 인기 크리에이터 구독 서비스는 AI 생성 성인 콘텐츠의 급증에 직면해 왔습니다. 정책상 OnlyFans는 AI 생성 이미지가 오직 본인 인증된 크리에이터 본인을 특징으로 하고, AI 콘텐츠임이 명확히 표시된 경우에만 허용합니다 reddit.com. 타인을 사칭하거나 팬과의 채팅을 자동화하기 위해 AI를 사용하는 것은 금지되어 있습니다 reddit.com. 그럼에도 불구하고, 명백히 AI로 생성된 누드(이상한 손이나 모든 이미지에서 “생기 없는 눈” 등 명백한 오류가 있는) 팩을 아무것도 모르는 구독자에게 판매하는 계정이 있다는 보고가 있습니다 reddit.com. 일부 인간 크리에이터들은 가짜 AI 모델이 플랫폼을 점령해 자신의 수익에 타격을 줄까 봐 분노하고 있습니다 reddit.com uniladtech.com. 한 성노동자는 AI가 “진짜 크리에이터가 투자하는 노력, 창의성, 번거로움을 빼앗아간다”며, “내 팬들에게 해가 되는 일”이라고 한탄했고, 이것이 성에 대한 비현실적인 기대를 더욱 악화시킬까 걱정한다고 밝혔습니다 reddit.com reddit.com. 반면, 일부 영리한 성인 크리에이터들은 AI 도구를 받아들이고 있습니다. 이미지 생성기를 활용해 콘텐츠를 향상시키거나 늘리거나, 자신의 외모를 Oh와 같은 회사에 라이선스하여 추가 수입을 얻고 있습니다 sifted.eu. 성인 콘텐츠 업계 전반(포르노 스튜디오, 캠 사이트 등)도 콘텐츠 제작을 위해 AI를 신중하게 실험하고 있지만, 동시에 전문 영역 밖에서 사용자 생성 노골적 콘텐츠의 범람을 가능하게 할 수 있는 파괴적 힘으로 경계하고 있습니다. 업계 분석가들은 현재 추세가 계속된다면 AI 기반 성인 콘텐츠가 2027년까지 온라인 포르노 소비의 30% 이상을 차지할 수 있다고 예측합니다 globenewswire.com. 이는 이 기술이 얼마나 빠르게 확장되고 있는지를 보여줍니다.

NSFW AI 커뮤니티는 빠르게 변화하고 다양합니다. 취미로 AI 에로티카를 “창의적이고 개인적인 탐구”로 여기는 아마추어 예술가들부터 악의적인 가짜 누드를 생성하는 하드코어 딥페이크 조직까지 존재합니다 chicagoreader.com. 새로운 플랫폼과 도구가 거의 매주 등장하며, 각각 자유와 제한의 균형이 다릅니다. 2025년 한 리뷰에서는 “NSFW AI 생성기의 세계는 방대하고 빠르게 변화한다”고 평했으며, 어떤 플랫폼은 초현실적인 비주얼에 집중하고, 다른 곳은 인터랙티브 스토리텔링에 집중하며, 각자 고유의 윤리적 회색 지대를 차지하고 있습니다 chicagoreader.com. 이들을 하나로 묶는 것은 온디맨드, 고도로 개인화된 성인 콘텐츠의 약속과, 그 힘을 다루는 데 따르는 위험입니다.

2025: AI 포르노의 범람과 거세지는 반발

2025년 중반까지 NSFW AI는 전환점을 맞이했습니다. 한편으로는 콘텐츠가 그 어느 때보다 널리 퍼지고 설득력 있게 되었고, 다른 한편으로는 대중의 우려와 규제 감시가 새로운 정점에 이르렀습니다. 최근에는 유명한 남용 사건, 신속한 규제 대응, 그리고 기술 업계 내의 자율 규제까지 등장했습니다. 아래는 AI 생성 포르노를 둘러싼 2024~2025년의 주요 뉴스와 트렌드를 정리한 것입니다:

논란과 비동의 딥페이크 스캔들

아마도 NSFW AI 논쟁을 가장 크게 촉발시킨 것은 비동의 딥페이크 포르노의 급증일 것입니다. 이는 AI를 이용해 누군가(대부분 여성)가 실제로 하지 않은 누드나 성행위에 등장한 것처럼 보이게 만드는 것입니다. 이 행위는 처음에는 유명인들을 대상으로 시작되었지만, 점점 더 일반인을 대상으로 하고 있으며, 종종 괴롭힘이나 “리벤지 포르노”의 형태로 사용되고 있습니다. 2023년까지 이 문제는 심각할 정도로 만연하고 접근하기 쉬워졌습니다. 조사 보도에 따르면 누구나 구글을 통해 딥페이크 포르노 웹사이트를 쉽게 찾을 수 있고, 디스코드에 가입해 맞춤형 딥페이크를 요청할 수 있으며, 심지어 신용카드로 결제까지 할 수 있었습니다. 이는 “제작자”들이 서비스를 공개적으로 광고하는 theguardian.com theguardian.com 등지에서 번성하는 지하 경제가 되었습니다. 연구 결과에 따르면 여성과 소녀들이 이 트렌드의 압도적인 피해자임이 지속적으로 밝혀지고 있습니다. AI 안전 기업 센서티(Sensity)의 획기적인 보고서에 따르면, 온라인 딥페이크의 95~96%가 비동의 성적 이미지였으며, 거의 모두가 여성을 묘사하고 있었습니다 theguardian.com. 여배우 테일러 스위프트부터 온라인 인플루언서에 이르기까지 여성 유명인들이 가짜 누드 사진이 소셜 미디어에서 바이럴되는 피해를 입었습니다 klobuchar.senate.gov. 더욱 충격적인 것은, 일반인과 미성년자까지 표적이 되고 있다는 점입니다. 예를 들어, 한 14세 소녀는 반 친구들이 앱을 이용해 자신의 가짜 포르노 이미지를 만들어 스냅챗에 공유한 사실을 알게 되었습니다 klobuchar.senate.gov.

2023년 1월, 한 트위치 비디오 게임 스트리머가 여성 동료들이 등장하는 딥페이크 포르노 사이트의 브라우저 탭을 열어둔 채로 적발된 사건이 있었다. 해당 스트리머는 눈물로 사과했지만, 여성 중 한 명인 트위치 스트리머 QTCinderella는 “이것이 바로 침해당한 기분이다… 내 ‘누드’ 사진이 동의 없이 퍼지는 것을 보는 것”이라며 강렬하게 반응했다 theguardian.com. 그녀는 대중의 시선을 받는 여성으로서 이제 인터넷에서 가짜 성적 이미지를 삭제하기 위해 시간과 돈을 써야 하는 것이 얼마나 불공평한지를 강조했다 theguardian.com theguardian.com. 그녀의 호소—“이런 식으로 괴롭힘을 당하는 것이 내 일의 일부가 되어서는 안 된다”—는 공감을 불러일으키며 딥페이크 포르노가 심각한 학대의 한 형태임을 대중적으로 알렸다.

그 이후로 이러한 사례는 더욱 늘어났다. 2024년에는 여러 국가의 학생들이 AI 누드 합성의 가해자이자 피해자가 되었다. 호주에서는 여러 여학생의 가짜 노출 사진이 동의 없이 생성·유포되어 학교 공동체가 충격에 빠졌고, 경찰 수사와 대중의 분노를 촉발했다 theguardian.com. 2025년 홍콩에서는 명문 홍콩대학교의 한 법대생이 최소 20명의 여학생과 교사의 AI 포르노 이미지를 만들었다는 의혹이 제기되었고, 대학 측의 초기 처벌이 단순 경고장에 그치면서 논란이 일었다 cbsnews.com cbsnews.com. 홍콩 당국은 현행법상 이러한 이미지의 유포만이 범죄이며, 단순 생성은 공개적으로 유포하지 않았다면 처벌할 수 없는 허점이 있음을 지적했다 cbsnews.com. 여성 인권 단체들은 홍콩이 “보호 조치에서 뒤처져 있다”고 비판했고, 홍콩 프라이버시 위원회는 해악 의도가 있을 수 있다며 형사 수사를 시작했다 cbsnews.com cbsnews.com. 이 사건은 누구나 표적이 될 수 있으며, 기존 법률이 종종 현실을 따라가지 못함을 보여주었다.

이러한 학대 속에서, 피해자들은 심각한 정서적 및 평판상의 피해를 호소한다. 초현실적으로 사실적인 가짜 성행위에 자신이 묘사되는 것은 심각한 트라우마를 남긴다. 논리적으로는 가짜임을 알아도 말이다. 한 대학생은 불만을 품은 동급생이 포르노 사이트에 자신을 AI로 생성한 영상을 올린 것을 발견하고 “내 얼굴이 나오는 걸 보니 비현실적이었다… 그들은 마치 영혼이 없는 것처럼 보였다”고 말했다 centeraipolicy.org. 피해자들은 무력감을 느낀다. 자신이 이런 이미지에 동의한 적도 없을 뿐더러, 삭제하는 것도 너무 어렵기 때문이다. 한 언론인은 “비동의 딥페이크 포르노는 삶을 파괴하는 비상사태다”라고 썼다. 이는 여성들이 누가 이 가짜 영상을 봤는지 불안해하며 살아가게 만들고, 웹에서 해당 콘텐츠를 지우기 위해 “악몽 같은 두더지 잡기 게임”에 에너지를 쏟게 만든다 theguardian.com klobuchar.senate.gov. 옹호자들은 이를 여성들을 침묵시키고 위협하기 위해 고안된 일종의 성적 사이버테러리즘에 비유했다 theguardian.com.

주요 소셜 미디어 플랫폼조차도 본의 아니게 AI 음란물의 확산을 조장하고 있다. 2024년 초, 테일러 스위프트의 딥페이크 음란 이미지가 X(구 트위터)에서 수백만 뷰를 기록하며 광범위하게 퍼지자, 플랫폼은 일시적으로 그녀의 이름 검색 결과를 차단하기도 했다 cbsnews.com. 메타(페이스북/인스타그램) 역시 2024년에 여성 이미지를 AI로 디지털 누드화하는 “누디파이” 앱 광고 수백 건을 게재한 것으로 드러났다. 이는 정책 위반임에도 불구하고 이루어진 일이다. CBS 뉴스의 조사 이후, 메타는 이 광고들 중 다수를 삭제하고 심사 과정에서 누락된 사실을 인정했다 cbsnews.com. 이러한 광고의 존재는 AI “스트리핑” 앱이 얼마나 일상화되고 접근하기 쉬워졌는지를 보여준다. 심지어 합법적인 광고 네트워크에서도 말이다 cbsnews.com.

플랫폼 금지 및 업계의 자율 규제

공공의 압력에 직면하여, 일부 기술 플랫폼과 서비스 제공업체들은 지난 1년간 NSFW AI 콘텐츠를 억제하기 위한 조치를 취했습니다. 주목할 만한 발전 중 하나는 앞서 언급된 2025년 5월 Mr. Deepfakes의 폐쇄였습니다. 이 사이트는 “핵심 서비스 제공업체가 지원을 철회했다”며 폐쇄를 발표했는데, 이로 인해 사이트가 사실상 오프라인 상태가 되었습니다 cbsnews.com. 확인된 바는 없지만, 이는 인프라 또는 호스팅 제공업체(아마도 클라우드 서비스, 도메인 등록기관, 또는 DDoS 보호 서비스)가 법적 또는 평판상의 위험 때문에 관계를 끊기로 결정했음을 시사합니다. 시점도 미국 의회가 주요 딥페이크 금지법을 통과시킨 직후여서(아래에서 논의) 많은 이들이 이를 더 광범위한 단속의 일환으로 보고 있습니다 cbsnews.com. Henry Ajder라는 잘 알려진 딥페이크 전문가는 이 폐쇄를 대규모 악용 네트워크의 “중앙 노드” 해체로 평가하며 환영했습니다 cbsnews.com. 그는 “이것은 축하할 만한 순간”이라고 말하면서도, 비동의 딥페이크 이미지 문제는 “사라지지 않을 것”이며 – 분산될 뿐 다시는 이처럼 주류의 입지를 회복하지는 못할 것이라고 경고했습니다 cbsnews.com. 실제로 Ajder는 해당 커뮤니티들이 새로운 거처를 찾겠지만, “이처럼 크고 두드러진” 원스톱 대형 사이트를 갖는 것만큼은 되지 않을 것이며, 이것이 “중대한” 진전이라고 언급했습니다 cbsnews.com.

대형 기술 기업들도 도구 및 광고 측면을 다루기 시작했습니다. 2024년 5월, 구글은 딥페이크 포르노를 생성하는 플랫폼이나 그 제작 방법을 안내하는 튜토리얼에 대한 광고를 금지하는 정책을 업데이트했습니다arnoldit.com. 구글의 이 조치는 2024년 5월 말부터 시행되며, Google Ads를 통한 이러한 서비스의 홍보를 차단하려는 노력이었습니다. (구글은 이전에도 Colab 플랫폼을 딥페이크 모델 훈련에 사용하는 것을 금지했으며, 2018년만 해도 Reddit과 Pornhub 같은 사이트들은 AI로 생성된 비동의 포르노를 공식적으로 금지한 바 있습니다arnoldit.com.) 이는 구글이 더 심각한 상황에 대비하는 조치로 해석되었습니다. ExtremeTech의 한 보도는 “2018년의 딥페이크 포르노가 조잡해 보였다면, 지금은 훨씬 더 현실적으로 보일 것”이라며 더 엄격한 광고 규정의 필요성을 설명했습니다arnoldit.com. 소셜 미디어 기업들 역시 콘텐츠 관리 정책을 업데이트하고 있습니다. 예를 들어, Pornhub와 주요 성인 사이트들은 2018년에 딥페이크(비동의 포르노)를 금지하겠다고 약속했으며, 유럽에서는 2024~25년 새로운 규정에 따라 포르노 사이트들이 적극적으로 “유해 콘텐츠 단속”을 하지 않으면 벌금을 부과받게 되었습니다subscriber.politicopro.com. 더 넓은 안전 강화의 일환으로, Pornhub의 모회사는 일부 지역(프랑스 및 미국 일부 주 등)에서 새로운 법률 준수 문제로 서비스를 일시 중단하기도 했습니다subscriber.politicopro.com. 이는 성인 플랫폼들이 콘텐츠 안전 조치를 진지하게 받아들이거나 접근을 차단해야 하는 상황에 처했음을 보여줍니다.

주류 AI 기업들은 NSFW(노골적이거나 부적절한 콘텐츠) 용도와 계속 거리를 두고 있습니다. OpenAI의 이미지 모델 DALL·E와 ChatGPT 서비스는 성적 콘텐츠에 대해 엄격한 필터를 유지합니다. Midjourney(인기 있는 AI 이미지 생성기)는 음란물 프롬프트를 금지할 뿐만 아니라, 사용자가 NSFW 요청을 교묘하게 시도하는 것을 막기 위해 맥락을 인식하는 자동화된 모더레이션을 도입했습니다arxiv.org. 한 모델의 필터가 영리한 프롬프트 문구에 의해 뚫릴 경우, 그 사건은 공개적으로 알려지고 개발자들은 가드레일을 더욱 강화합니다(끝없는 술래잡기 게임). 반면, 새로운 진입자들은 때때로 검열의 부재를 판매 포인트로 내세우기도 합니다. 예를 들어, Stability AI의 최신 Stable Diffusion XL 모델은 안전 필터 없이 로컬에서 실행할 경우 기술적으로 NSFW 이미지를 생성할 수 있으며, 일부 소규모 회사들은 “경쟁사에 비해 NSFW 콘텐츠에 대한 제한이 적다”고 공개적으로 광고합니다latenode.com. 이는 AI 산업 내의 분열을 보여줍니다. 대형 업체들은 신중함과 브랜드 안전을 우선시하는 반면, 소규모 또는 오픈 프로젝트들은 검열되지 않은 생성형 AI(포르노 포함)에 대한 수요를 충족시키고 있습니다.

주요 법적 및 규제 발전(2024–2025)

아마도 가장 중대한 발전은 AI 포르노의 위험에 대응하는 입법자들로부터 나왔습니다. 전 세계적으로 정부는 비동의 딥페이크를 처벌하고, 피해자를 보호하며, 심지어 AI 도구 자체를 규제하는 법률을 제정하기 시작했습니다. 다음은 주요 움직임을 정리한 내용입니다:

미국 – 테이크 잇 다운 법안(2025): 2025년 4월, 미국 의회는 초당적으로 “테이크 잇 다운 법안”을 압도적으로 통과시켰으며, 이는 AI 생성 음란 이미지를 직접적으로 다루는 최초의 연방법이다 klobuchar.senate.gov. 이 법은 동의 없이 실제 또는 AI로 생성된 친밀한 이미지를 제작하거나 공유하는 행위를 연방법상 범죄로 규정한다. 특히, 온라인 플랫폼이 피해자가 신고한 후 48시간 이내에 해당 콘텐츠를 삭제하도록 요구한다 klobuchar.senate.gov. 이 법안은 멜라니아 트럼프 영부인이 주도하고 양당 상원의원이 공동 발의했으며, 2025년 5월 도널드 트럼프 대통령이 서명했다 klobuchar.senate.gov. 이는 트럼프 2기 정부의 첫 주요 인터넷 법으로, “급속히 확산되는 [비동의 포르노] 문제”에 대한 직접적 대응으로 평가된다 klobuchar.senate.gov. 피해자 옹호자들은 이 법이 너무 늦게 나왔다며 환영했다. “딥페이크는 끔찍한 새로운 학대 기회를 만들고 있다”고 에이미 클로버샤 상원의원은 말하며, 이제 피해자들이 자료를 삭제하고 가해자에게 책임을 물을 수 있게 되었다고 덧붙였다 klobuchar.senate.gov. 특히 메타, 구글, 스냅 등 주요 IT 기업들도 이 법안을 지지했는데, 이는 반드시 조치가 필요하다는 공감대의 신호였다 klobuchar.senate.gov. 이 법은 위반자에게 벌금과 최대 2년의 징역형을 포함한 처벌을 규정한다 cbsnews.com. 또한 피해자가 제작자/유포자를 상대로 손해배상 소송을 제기할 수 있어 민사적 대응도 가능하다. 표현의 자유 및 프라이버시 단체들은 법의 남용 가능성에 대해 경고했는데, 예를 들어 Fight for the Future의 리아 홀랜드는 “의도는 좋지만 조문이 허술하다”며, 악의적 행위자가 삭제 요청을 남용해 정당한 콘텐츠를 검열할 수 있다고 우려했다 klobuchar.senate.gov. 그럼에도 불구하고, 테이크 잇 다운 법안은 현재 시행 중이며, 미국 연방정부가 AI 성적 착취 문제에 본격적으로 대응하는 첫 걸음을 내디뎠다.
미국 주들: 연방 차원의 조치 이전에도 여러 미국 주들이 자체 법률을 제정했습니다. 캘리포니아, 텍사스, 버지니아, 뉴욕 등은 2019~2023년에 동의 없이 딥페이크 포르노를 제작하거나 유포하는 것을 불법으로 규정하는 법률(종종 리벤지 포르노 또는 성적 사칭 관련 법률로 분류됨)을 통과시켰습니다. 2025년에도 각 주는 법률을 계속 정비했습니다. 예를 들어, 테네시주는 2025년 7월 1일부터 시행되는 “딥페이크 이미지 방지법”을 도입하여, 동의 없이 친밀한 모습을 사용한 경우 민사 및 형사상 소송이 가능하도록 했습니다 wsmv.com wsmv.com. 이 법안은 한 지역 TV 기상캐스터가 자신의 가짜 누드 사진이 온라인에 퍼지는 것을 발견한 후, 본인과 가족이 겪은 고통에 대해 증언한 것이 계기가 되었습니다 wsmv.com. 테네시주는 또한 AI 아동 포르노 도구 자체를 범죄화하는 법도 통과시켰습니다. 즉, AI 생성 아동 성적 학대물 제작용 소프트웨어를 알고 소지, 유포, 제작하는 행위를 중범죄로 규정했습니다 wsmv.com. 이 법은 AI로 생성된 아동 포르노의 참혹함을 인식하고, 기술 자체를 겨냥해 사전에 차단하려는 취지입니다(이런 도구를 테네시주에서 소지하면 E급 중범죄, 제작하면 B급 중범죄에 해당) wsmv.com.
유럽 – EU 전체 조치: 유럽연합은 두 갈래 접근법을 취하고 있습니다: 광범위한 AI 규제와 특정 형사 지침입니다. 곧 도입될 EU AI 법안(2024/2025년 최종 확정 예정)은 생성형 AI 콘텐츠가 투명성 의무를 충족하도록 요구할 것입니다. 딥페이크는 “제한적 위험” AI로 분류되어 전면 금지되지는 않지만, AI 생성물임을 명확히 표시해야 하며(예: 워터마크 또는 고지문), 기업은 학습 데이터의 세부 정보를 공개해야 합니다 euronews.com euronews.com. 이를 준수하지 않을 경우 최대 1,500만 유로 이상의 벌금이 부과될 수 있습니다 euronews.com. 또한, EU는 비동의 성적 딥페이크의 생성 또는 공유를 명시적으로 범죄로 규정하는 여성폭력 방지 지침을 승인했습니다 euronews.com. 이 지침은 EU 회원국이 2027년까지 이 행위를 금지하도록 의무화합니다(구체적 처벌은 각국에 위임) euronews.com euronews.com. 이는 유럽 전역에서 동의 없이 누군가의 가짜 포르노 이미지를 만드는 것이 범죄가 됨을 의미하며, 실제 리벤지 포르노와 동일하게 다루게 됩니다.
프랑스: 프랑스는 2024년에 형법에 새로운 조항을 도입하며 적극적으로 움직였습니다. 이제 프랑스에서는 동의 없이 AI로 생성된 시각 또는 음성 자료를 공유하는 것이 불법입니다 euronews.com. 온라인 서비스를 통해 이뤄질 경우, 처벌이 더 무거워집니다(최대 2년 징역, 4만 5천 유로 벌금) euronews.com. 특히 프랑스는 음란 딥페이크를 전면적으로 금지했으며, 누군가 이를 가짜라고 표시하려 해도 예외가 없습니다 euronews.com. 따라서 프랑스에서는 성적 딥페이크를 제작하거나 유포할 경우 최대 3년의 징역과 7만 5천 유로의 벌금에 처해질 수 있습니다 euronews.com. 프랑스 법은 또한 디지털 규제 기관인 ARCOM에 해당 콘텐츠의 삭제와 신고 시스템 개선을 플랫폼에 강제할 수 있는 권한을 부여합니다 euronews.com.
영국: 2023–2024년 영국도 법을 개정했습니다. 성범죄법의 개정으로 동의 없이 성적 딥페이크를 제작할 경우 최대 2년의 징역형에 처해질 수 있습니다 euronews.com euronews.com. 별도로, 2023 온라인 안전법(대대적인 인터넷 규제법)은 동의 없는 성적 이미지(딥페이크 포함)를 소셜 미디어에 공유하거나 공유하겠다고 위협하는 행위를 명시적으로 불법으로 규정하고, 플랫폼이 해당 자료를 “적극적으로 삭제”하거나 노출을 방지하도록 요구합니다 euronews.com. 플랫폼이 이를 이행하지 않을 경우 전 세계 매출의 최대 10%에 달하는 벌금이 부과될 수 있어, 준수에 대한 강력한 유인이 됩니다 euronews.com. 그러나 일부 전문가들은 영국이 아직 공유되지 않은 딥페이크 제작 자체를 범죄로 규정하지 않아, 이미지가 비공개로 보관될 경우(홍콩 사례와 유사하게) 피해자가 여전히 취약하다고 지적합니다 euronews.com. 영국이 딥페이크 도구의 개발 및 배포 자체도 범죄로 규정해야 한다는 요구도 있습니다 euronews.com.
덴마크: 2025년 6월, 덴마크 의회는 자신의 외모에 대한 저작권을 개인에게 부여하는 획기적인 법안을 통과시켰습니다. 본질적으로, 딥페이크에 맞서기 위한 방법으로 당신의 얼굴을 “당신의 지적 재산”으로 만드는 것입니다 euronews.com. 이 법은 동의 없이 개인의 특징을 “디지털로 모방”하는 것을 만들거나 공유하는 행위를 불법으로 만듭니다 euronews.com. “당신은 자신의 몸, 목소리, 그리고 얼굴 특징에 대한 권리가 있습니다.”라고 덴마크 문화부 장관은 말하며, 이를 허위정보 및 성적 오용에 대한 보호로 설명했습니다 euronews.com. 세부 사항은 아직 확정되지 않았지만, 이 법은 누군가 당신의 딥페이크를 만드는 것을 “외모 권리” 침해, 즉 저작권 침해와 유사하게 다룰 것으로 보이며, 이는 삭제 요청 및 법적 조치를 크게 단순화할 수 있습니다.
대한민국: 대한민국은 (최근 몇 년간 디지털 성범죄로 어려움을 겪은 만큼) 딥페이크 포르노로 큰 타격을 받은 최초 국가 중 하나였다. 2021년까지 대한민국은 성적 딥페이크의 제작 또는 유포를 금지했으며, 2024년 말에는 이러한 콘텐츠의 소지 또는 시청까지도 범죄로 규정했다. 2024년 9월에 통과된 법안(2024/25년 윤 대통령이 서명)은 성적 딥페이크 이미지/영상의 구매, 소지, 시청을 불법으로 만들었고, 위반자는 최대 3년의 징역에 처해질 수 있다 cbsnews.com cbsnews.com. 제작/유포는 이미 불법(5년 이상의 징역)이며, 새 법안이 서명되면 최대 7년까지 상향된다 cbsnews.com. 이러한 강경한 입장은 딥페이크가 청소년들 사이에서 자주 공유되고 있다는 점을 인식한 것이다. 실제로 2024년 한국 경찰은 올해 상반기에만 딥페이크 성적 콘텐츠 관련 387명을 체포했으며, 그 중 80%가 10대였다 cbsnews.com. 이 문제는 10대들 사이에서(동급생, 교사 등 딥페이크 제작) 너무 만연해져, 한국은 해당 자료를 찾는 것조차 중범죄로 다루고 있다 cbsnews.com cbsnews.com. 서울의 활동가들은 “반복되는 딥페이크 성범죄, 국가는 공범이다”라는 문구가 적힌 팻말을 들고 더 강력한 조치를 요구하며 집회를 열었고 cbsnews.com, 정부는 이에 대응해 이러한 조치를 내놓았다.
중국: 어떤 종류의 포르노도 중국에서는 엄격히 불법이며, 이는 AI 생성 포르노에도 해당됩니다. 더불어, 중국은 2023년 1월 “딥 합성” 기술에 대한 선구적인 규제를 도입하여, 오해를 불러일으킬 수 있는 AI 생성 또는 변형 미디어에는 명확한 라벨 또는 워터마크가 있어야 하며, 이러한 기술을 사칭, 사기, 또는 보안 위협에 사용하는 것을 금지했습니다 oxfordmartin.ox.ac.uk afcea.org. 본질적으로, 중국은 사전적으로 라벨이 없는 딥페이크를 금지하고, 이를 제작하는 사람들을 처벌할 수 있는 광범위한 권한을 당국에 부여했습니다. 중국의 음란물 전면 금지와 결합되어, NSFW AI 콘텐츠는 이중으로 금지되어 있습니다. 비록 지하에서 존재할 수는 있지만, 중국 검열 당국은 이를 즉시 삭제하고 처벌할 수 있는 법적 수단을 갖추고 있습니다.

전 세계적으로, 추세는 명확합니다: 비동의 AI 성적 이미지가 각국에서 범죄화되고, 플랫폼에는 이를 감시할 의무가 부과되고 있습니다. 2025년 말에는, 딥페이크 포르노에 대한 법적 환경이 불과 2년 전(미국 일부 주와 한국 등 소수 국가만 관련 법이 있었던 때)보다 훨씬 덜 관대해졌습니다. 그러나 집행과 인식은 여전히 과제입니다. 많은 피해자들이 이제 법의 보호를 받는다는 사실을 모르고 있고, 경찰과 검사들도 익명 온라인 범죄자를 수사할 역량이 부족한 경우가 많습니다. 법 적용 범위도 다양합니다 – 어떤 곳은 사적 제작만으로도 처벌하고, 어떤 곳은 유포 시에만 처벌합니다. 그럼에도 불구하고, AI 생성 성적 학대를 실제 학대로 인식하는 흐름은 분명합니다. 한 미국 법학 교수는 이 입법의 물결이 피해자에게 다시 힘을 돌려주며, “AI 시대에도 당신의 이미지와 신체에 대한 권리가 있다”는 메시지를 보낸다고 평가했습니다 euronews.com.

윤리적 수렁: 동의, 딥페이크, 그리고 사회적 영향

법적 영역을 넘어, NSFW AI는 심오한 윤리적·사회적 질문을 제기합니다. 핵심에는 동의 문제가 있습니다 – 묘사된 사람의 동의(혹은 인지) 없이 생성된 노골적 콘텐츠가 윤리적일 수 있을까요? 대부분은 비동의 딥페이크가 명백한 윤리적 잘못이며, 본질적으로 성적 침해의 한 형태라고 동의할 것입니다. 그러나 딜레마는 더 깊습니다: 실제 인물의 이미지를 동의 하에 사용한 AI 포르노(예: 상업용 포르노 영상으로 학습)라면 “피해자 없는” 것일까요, 아니면 추가 동의나 보상 없이 그 배우의 초상을 착취하는 것일까요? 완전히 허구의 AI 포르노 – 실제 인물이 등장하지 않는 경우 – 는 해가 없을까요, 아니면 아동 착취나 강간 시나리오와 같은 위험한 환상을 정상화할 수 있을까요? 그리고 AI 모델의 편향은 에로틱 콘텐츠에서 어떻게 나타날까요?

동의와 프라이버시: 가장 즉각적인 우려는 사람들이 AI가 자신의 얼굴을 어떻게 사용할지에 대해 전혀 통제하거나 동의할 수 없다는 점입니다. 온라인에 사진을 올린 적이 있는 사람(혹은 본인은 아니더라도 지인이 사진을 가지고 있다면)이라면 누구나 이론적으로 포르노 딥페이크의 얼굴이 될 위험에 처해 있습니다. 특히 대중의 시선을 받는 여성들은 이제 소름 끼치는 현실과 함께 살아갑니다. AI 덕분에 인터넷이 당신의 누드 사진이나 성관계 동영상이 있다고 “생각”하는 상황으로 아침을 맞이할 수 있습니다 theguardian.com. 이는 근본적인 개인의 존엄성과 프라이버시를 침해하는 일입니다. 덴마크 법이 말하듯, 당신은 자신의 얼굴과 몸에 대한 권리를 가져야 하지만, 현재의 기술과 사회적 규범은 이를 보장하지 못합니다. 윤리학자들은 이러한 가짜가 존재한다는 사실 자체만으로도 해악이라고 주장합니다. 이는 당신의 동의 없이 만들어진, 당신이 연루된 성행위를 묘사한 것이기 때문입니다. 심리적으로는 일종의 성폭력처럼 느껴질 수 있습니다. “인터넷은 영원하다”는 사실은 피해를 더 심화시킵니다. 한 번 유포된 이미지는 반복적으로 다시 나타나 피해자가 트라우마를 계속 겪게 만듭니다. 이 모든 요소로 인해 비동의 AI 포르노는 심각한 윤리적 위반이 됩니다. 사회는 이제 이를 다른 성범죄와 동등하게 낙인과 결과를 다루기 시작했지만, 앞서 논의했듯 법은 아직 따라잡지 못하고 있습니다.

딥페이크와 진실: 또 다른 측면은 딥페이크가 현실과 허구의 경계를 흐린다는 점입니다. AI 포르노 이미지가 점점 더 실제처럼 보이면서, 보는 이들은 그것이 가짜임을 인식하지 못해 평판이 더욱 손상될 수 있습니다. 가짜 성관계 영상 하나로 누군가는 직장을 잃거나, 인간관계가 파괴되거나, 협박(“섹스토션”)의 대상이 될 수 있습니다. 나중에 가짜임이 밝혀져도 수치심과 평판 손상은 완전히 회복될 수 없습니다. 이는 이런 가짜를 만드는 이들의 윤리적 책임을 더욱 무겁게 만듭니다. 그들은 실제 삶과 생계를 가지고 장난치는 것입니다. 또한 사회적 과제를 부각시킵니다. 이제는 보는 것이 더 이상 믿는 것이 아닐 때, 우리는 어떻게 미디어에 대한 신뢰를 유지할 수 있을까요? 일부 전문가들은 딥페이크를 “진실에 대한 공격”이라고 부르며, 포르노 맥락에서는 여성을 비하하고 처벌하는 무기로 사용된다고 지적합니다 theguardian.com.

미성년자와 AI 생성 CSAM: 아마도 가장 만장일치로 동의되는 윤리적 한계선은 AI가 생성한 아동 성적 학대물(CSAM)—즉, 미성년자가 성적 상황에 등장하는 묘사—일 것입니다. 실제 아동이 제작 과정에서 피해를 입지 않았더라도, 사실상 모든 규제 기관과 플랫폼은 AI가 생성한 아동 포르노를 실제 CSAM과 똑같이 불법적이고 해로운 것으로 간주합니다. 윤리적 근거는 명확합니다. 이러한 콘텐츠는 아동을 성적으로 대상화하며 실제 범죄를 부추길 수 있기 때문입니다. 또한 종종 실제 아동의 사진을 사용해 생성되기도 합니다(예: 아동의 순수한 사진을 AI로 “누드화”하거나 변형하는 것—이는 그 아동의 존엄성과 사생활을 극도로 침해하는 행위임) centeraipolicy.org. 불행히도, 이런 일이 실제로 일어나고 있다는 증거가 있습니다. 스탠포드 연구원 David Thiel은 Stable Diffusion의 인기 AI 학습 데이터셋에 수백 장의 알려진 아동 학대 이미지가 포함되어 있음을 발견했습니다 centeraipolicy.org. 이는 해당 모델이 실제 범죄 학대 이미지로 부분적으로 학습되었음을 의미하며, 이는 매우 심각한 문제입니다. 비록 현재는 해당 이미지들이 삭제되고 있다 하더라도, 애초에 사용되었다는 사실 자체가 AI 개발자들이 자신도 모르게 학대 콘텐츠로 모델을 학습시켰을 수 있음을 보여줍니다. 더 나아가, 신중한 안전장치가 없다면 AI가 불법 학습 입력과 유사한 새로운 이미지를 생성할 수도 있습니다. 일부 포럼 사용자들은 AI를 이용해 미성년자 사진을 “옷을 벗기거나” 불법 이미지를 만들려 시도한 바 있으며, 이에 대해 법 집행기관이 신속히 대응하고 있습니다. 윤리적으로는 거의 만장일치에 가깝게 합의되어 있습니다: AI는 절대 CSAM을 생성하는 데 사용되어서는 안 됩니다. 그러나 이를 실제로 구현하는 것은 쉽지 않습니다. 모델이 그러한 콘텐츠를 생성하려는 모든 시도나 프롬프트를 명시적으로 거부하도록 학습시키거나, 그러한 시도 자체를 중범죄로 규정하는 법률(테네시 주처럼)이 필요합니다. 기술 기업들은 이제 “child”라는 단어나 미성년자 관련 암시가 프롬프트에 포함되면 차단하는 필터를 하드코딩하는 경우가 많습니다. 하지만 악의적인 사용자는 우회 방법을 시도합니다. 이 문제의 위험성은 매우 큽니다. AI가 이런 식으로 오용될 경우, 학대 생존자를 다시 피해자로 만들 수 있고, “실제 아동이 피해를 입지 않았다”는 잘못된 정당화 아래 소아성애자들에게 새로운 자료를 제공할 수 있습니다. 많은 윤리학자들은 “피해자가 없는 범죄”라는 주장에 대해, 실제든 AI든 아동 착취 묘사를 소비하는 행위 자체가 이를 정상화함으로써 실제 학대를 부추길 가능성이 높다고 지적합니다 centeraipolicy.org reddit.com. 따라서, 대부분이 동의하는 확고한 윤리적 한계선이 존재합니다: 아동 성적 콘텐츠 생성을 위한 AI의 사용 또는 생성은 명백히 잘못된 일이며, 모든 수단(기술적, 법적)으로 반드시 막아야 합니다.

훈련 데이터와 강제된 콘텐츠: NSFW AI 모델이 어떻게 구축되는지에는 덜 명확하지만 중요한 윤리적 문제가 있습니다. 많은 AI 포르노 생성기는 인터넷에서 긁어모은 대규모 데이터셋(포르노 웹사이트 포함)으로 훈련되었습니다. 이는 실제 사람들의 이미지(포르노 배우, 웹캠 모델, 심지어 유출된 개인 누드 사진까지)가 해당 개인의 동의 없이 훈련 데이터로 사용되었다는 뜻입니다. AI 기업들은 이를 조용히 진행했고, 연구자들이 그 실태를 밝혀내기 시작한 것은 나중의 일이었습니다. 예를 들어, “These Nudes Do Not Exist”라는 AI 누드 생성기는 “Czech Casting”이라는 포르노 회사의 콘텐츠로 훈련된 것으로 밝혀졌는데, 이 회사는 여성에게 성행위를 강요한 혐의로 조사 중이었습니다 centeraipolicy.org. 즉, AI는 인신매매나 강간의 피해자일 수도 있는 여성들의 영상으로 실제로 훈련되었고, 그들의 신체나 유사한 자세의 다른 사람들의 이미지를 재생성하는 법을 학습한 셈입니다. 그 여성들은 분명히 자신의 이미지가 추가적으로 끝없이 새로운 포르노를 만드는 데 사용되는 것에 동의하지 않았습니다. 그 상황의 한 피해자는 자신의 이미지가 AI 훈련 세트에 포함된 것에 대해 “불공평하게 느껴지고, 내 자유가 빼앗기는 기분”이라고 말했습니다 centeraipolicy.org. 덜 극단적인 경우에도, 모델들은 소셜 미디어나 모델 촬영에서 수백만 장의 평범한 여성 사진을 학습했을 수 있는데, 이들 역시 포르노 생성의 원본 자료가 되는 데 동의하지 않았습니다. 모든 AI 포르노 모델에는 훈련 데이터 속 실제 사람들의 유령이 깃들어 있습니다. 그들 중 일부는 아무렇지 않을 수도 있습니다. 예를 들어, 자발적으로 포르노를 촬영한 성인 배우들은 자신의 작업을 확장하는 기술을 반길 수도 있습니다. 하지만 (유출된 이미지의 일반인이나, 업계를 떠나고 싶은 포르노 배우 등) 다른 이들은 AI가 자신의 모습을 영원히 새로운 성적 콘텐츠로 재가공한다는 사실에 경악할 것입니다. 이는 지적 재산권과 초상권에 대한 윤리적 질문을 제기합니다. 자신의 이미지가 수익성 있는 AI 포르노 도구 개발에 기여했다면 보상을 받아야 할까요? 일부는 그렇다고 주장합니다. 이 모델들은 “훈련 데이터에 등장한 남성과 여성의 덕분에 직접적으로 이익을 얻으면서” 감사 인사조차 하지 않는다고 말합니다 centeraipolicy.org. 반면, 데이터가 공개적으로 이용 가능했다면 현행 지적 재산권법상 AI 훈련에 사용하는 것이 정당하다고 보는 시각도 있습니다. 윤리적 합의는 최소한 명백히 비동의적이거나 학대적인 자료는 사용하지 말아야 한다는 것에 기울고 있습니다(예: 보복 포르노나 인신매매 영상 등은 금지되어야 함). 기업들은 이제 이런 콘텐츠가 포함되어 있는지 데이터셋을 점검하기 시작했지만, 과거에는 그렇지 않았던 것이 문제입니다. AI 정책 센터에 따르면, AI 포르노 모델은 거의 “확실하게” 일부 비동의적 친밀 이미지(NCII)로 훈련되었을 것이라고 합니다 centeraipolicy.org. 앞으로는 더 엄격한 데이터셋 선별과, 사람들이 자신의 이미지를 AI 훈련 세트에서 삭제할 수 있는 ‘옵트아웃’ 등록제 도입 요구가 나오고 있습니다 centeraipolicy.org. 이는 기술적, 물리적으로 복잡하지만, 생성형 AI에서의 데이터 윤리에 대한 논의는 점점 더 커지고 있다.

허구이지만 극단적인 콘텐츠: 또 다른 까다로운 영역입니다. 실제 인물이 등장하지 않는다면, AI 포르노가 만들어낼 수 있는 것에 어떤 한계가 있어야 할까요? 일부는 AI가 초극단적이거나 비주류 성적 콘텐츠를 가능하게 할 수 있다고 우려합니다. 이는 현실 세계에서는 불가능한 것이며, 해로울 수 있다는 것입니다. 예를 들어, 강간, 수간, ‘스너프’(살인) 포르노, 혹은 앞서 언급한 아동 시나리오의 시뮬레이션 등이 있습니다. 옹호자들은 “차라리 AI가 하는 게 현실에서 누군가가 하는 것보다 낫다”고 말할 수 있지만, 비판자들은 이것이 사람들을 둔감하게 하거나 실제 행동을 부추길 수 있다고 우려합니다. 최소한, 이런 판타지를 AI가 충족시키도록 허용하는 것이 사회적 경계를 넘는 것인지에 대한 도덕적 의문을 제기합니다. Oh와 같은 플랫폼은 “불법 행위”를 모두 차단한다고 밝히고 있습니다. 이들의 봇은 아동 성애물이나 기타 범죄적 성적 주제에는 관여하지 않습니다 sifted.eu. 이는 책임 있는 기업들이 시도하는 윤리적 안전장치입니다. 하지만 오픈소스 모델에는 내재된 도덕성이 없으므로, 명시적으로 제한하지 않는 한 사용자가 사실상 무엇이든 생성하도록 프롬프트할 수 있습니다. 이는 결국 개인의 양심(과 현지 법률)에 책임이 전가된다는 뜻입니다. 대부분의 AI 커뮤니티는 불법적이거나 폭력적인 성적 콘텐츠에 대해 강력한 필터를 적용하는 것이 윤리적 입장입니다. 그러나 한 OnlyFans 크리에이터가 암울하게 예측했듯, “AI 아동 학대를 연령 놀이로 포장하거나, AI 강간 시나리오”와 같은 것이 생성되는 것은 시간문제이며, “이 문제에 대해 더 많이 논의해야 한다”고 말했습니다 reddit.com. 윤리적 질문은 여전히 해결되지 않았습니다. 즉, 초현실적인 상상 속 범죄 묘사의 존재 자체가 해악인가? 많은 이들은 특히 미성년자가 관련된 경우(명백히 범죄인 경우)에는 그렇다고 봅니다. 다른 극단적 판타지의 경우, 사회적 합의는 이루어지지 않았지만, 디지털 윤리 분야에서 활발히 논의되고 있는 영역입니다.

성별과 재현: NSFW AI 역시 그 소스 데이터의 편견과 고정관념을 계승합니다. 주류 포르노의 상당수는 여성에 대한 성차별적이거나 비현실적인 묘사로 비판받아 왔으며, AI는 이러한 클리셰를 더욱 증폭시킬 수 있습니다. 예를 들어, 여성의 대상화나 한정된 신체 유형만을 다루는 포르노로 주로 학습된 모델이라면, 그 결과물도 이를 반영하게 됩니다. 이는 비현실적인 미의 기준이나 성적 대본을 강화할 수 있습니다. 게다가, 대부분의 AI 에로틱 컴패니언과 이미지 생성 봇은 기본적으로 여성으로 설정되어, 이성애 남성 사용자를 대상으로 합니다. 예를 들어, Oh 플랫폼의 AI 봇 목록은 “대부분이 여성”이며, 노출이 심한 아바타로 구성되어 있습니다 sifted.eu. 비평가들은 이것이 여성을 디지털 장난감으로 보는 시각을 강화하고, (대부분 남성인) 사용자들이 실제 관계를 바라보는 방식에 영향을 줄 수 있다고 우려합니다. 일부 AI 컴패니언 창업자들조차도, 사람들이 실제 파트너와의 관계 대신 AI 판타지에 몰입하게 되면 미래의 친밀감이 “이상해지거나” “디스토피아적”이 될 수 있음을 인정합니다 sifted.eu. 이러한 AI 여자친구가 여성은 항상 이용 가능하고, 순응적이며, 모든 요구에 맞춰진 존재라는 해로운 고정관념을 강화할 수 있다는 주장도 있습니다 sifted.eu. 심리학자와 페미니스트들은 이러한 기술이 외로움, 여성혐오, 왜곡된 성적 기대와 같은 문제를 악화시킬 수 있다고 우려합니다. 반면, 지지자들은 이러한 도구가 인간관계에 어려움을 겪는 이들에게 안전한 배출구를 제공하거나, 낙인 없이 성을 탐구할 수 있도록 도울 수 있다고 말합니다. 윤리적으로 이는 양날의 검입니다: AI 여자친구가 누군가의 소통 능력을 향상시키거나 위안을 줄 수 있을까요? 가능성 있습니다. 동시에, 실제 인간관계에서 도피하게 하거나 여성을 단순히 맞춤형 객체로 취급하게 만들 수도 있을까요? 역시 가능성 있습니다. 이러한 서비스가 성장함에 따라 사회는 이 질문들에 더 많이 직면하게 될 것입니다.

요약하자면, NSFW AI의 윤리는 동의, 피해, 그리고 우리가 성과 인격에 대해 사회적으로 전달하는 메시지를 중심으로 전개됩니다. 윤리적 포르노의 황금률, 즉 모든 등장인물이 동의한 성인 참가자여야 한다는 원칙은 AI 포르노에서는 완전히 무너집니다. 여기서는 실제로 “참여한” 사람이 아무도 없기 때문에 동의 자체가 불가능합니다. 우리는 자신의 외모, 심지어 데이터까지 동의의 개념을 확장해야 하는 상황에 직면했습니다. 한 논평에서 말하듯, 이 기술은 디지털 시대에 “친밀감, 동의, 창작의 자유의 근본”을 재고하게 만듭니다 chicagoreader.com. 윤리적 지형은 회색지대가 많지만, 아동 콘텐츠나 실존 인물의 비동의적 사용 등 몇몇 레드라인은 반드시 지켜져야 하며, 개인의 자율성 존중이 허용 범위를 결정하는 기준이 되어야 한다는 공감대가 커지고 있습니다. 한편, 모든 AI 기반 성적 콘텐츠 제작을 병리화하지 않도록 주의해야 합니다. 동의한 성인들이 스스로를 위해 사용하는 경우, 이는 긍정적인 도구가 될 수도 있습니다. 과제는 혁신적이고 동의에 기반한 사용은 장려하면서, 착취적 사용은 근절하는 것입니다.

지지자 vs. 비평가: NSFW AI를 둘러싼 논쟁

NSFW AI에 대한 반응은 양극화되어 있다. 일부는 이를 성인 엔터테인먼트와 개인의 자유에 있어 흥미로운 진화로 환영하는 반면, 다른 이들은 사회적 위협으로 비난한다. 양측의 주요 주장을 살펴보자:

지지자(프로-NSFW AI)의 주장:

창의적 자유와 성적 탐구: 지지자들은 AI가 사적이고 판단받지 않는 방식으로 성, 판타지, 취향을 탐구할 수 있는 긍정적인 출구가 될 수 있다고 주장한다. 현실에서 특정 판타지를 실현하기 부끄럽거나 불가능한 사용자도 AI 생성 콘텐츠나 챗봇을 통해 안전하게 이를 경험할 수 있다. 이는 성에 대한 금기와 수치심을 줄일 수 있다. 일부는 이를 ‘성인들이 안전하고 사적인 환경에서 AI와 함께 시각적 판타지를 공동 창작할 수 있다’며 역량 강화라고 부르기도 한다고, 한 AI 성인 플랫폼 CEO는 말했다 globenewswire.com. 이런 관점에서 생성형 AI는 단지 도구일 뿐이며, 에로틱 아트나 성인용품과 마찬가지로 건강한 성적 표현을 증진시킬 수 있다.
성인 엔터테인먼트의 개인화와 혁신: 지지자들은 NSFW AI가 기존 포르노에 비해 비할 데 없는 개인화를 제공한다고 강조한다 globenewswire.com. 스튜디오가 제작한 것을 수동적으로 소비하는 대신, 개인이 자신의 취향(체형, 시나리오 등)에 딱 맞는 콘텐츠를 생성할 수 있다. 이러한 사용자 주도 모델은 성인 콘텐츠의 ‘원 사이즈 핏 올’ 패러다임을 ‘파괴’하는 혁신으로 여겨진다 globenewswire.com. 주류 제작자가 무시하는 틈새 취향도 충족시킬 수 있다(합법인 한에서). 이 분야의 스타트업들은 AI가 성인 콘텐츠 제공 방식을 양자 도약시킨다고 자주 홍보하며, 사용자의 통제권을 강화한다고 주장한다 globenewswire.com. 또한, 사용자가 다른 사람과 상호작용하거나 자신의 판타지를 AI 외에는 누구에게도 밝힐 필요가 없으므로 프라이버시도 존중된다고 주장한다.
해로운 욕구에 대한 안전한 대체물: 더 논란이 되는 찬성 논거 중 하나는 AI 포르노가 해로운 행동의 무해한 대체물이 될 수 있다는 것입니다. 예를 들어, 일부에서는 소아성애자가 CGI나 AI로 생성된 아동 포르노를 사용함으로써 실제 아동을 해치지 않고 충동을 해소할 수 있다고 이론화하기도 했습니다(이 주장은 매우 논란이 많고 대부분의 전문가들이 반대하지만, 논의에 종종 등장합니다). 또 다른 이들은 폭력적인 성적 환상을 가진 사람들이 실제 피해자를 찾는 대신 AI 시뮬레이션을 사용할 수 있다고 제안합니다. 본질적으로 이는 “사람에게 해를 끼치기보다는 픽셀에 해소하는 것이 낫다”는 입장입니다. 그러나 이는 여전히 추측에 불과하고 윤리적으로도 논란이 많습니다. AI가 실제 범죄를 줄인다는 명확한 증거는 없으며, 오히려 범죄를 조장할 수도 있다는 비판도 있습니다. 그럼에도 불구하고 일부 표현의 자유 옹호자들은 실제로 아무도 직접적으로 해를 입지 않는 한, AI 형태의 혐오스러운 환상조차도 범죄화되어서는 안 되는 사고 실험이라고 주장합니다. 이 관점은 주류는 아니지만, 극단적 콘텐츠에 대한 논쟁에서 존재합니다 reddit.com.
소수 커뮤니티와 정체성 지원: AI는 기존의 주류 포르노에서 거의 다뤄지지 않았던 커뮤니티를 위한 콘텐츠를 생성할 수 있습니다. 예를 들어, 특정 LGBTQ 판타지, 특정 동의 조건이 포함된 BDSM 시나리오, 혹은 환상적 요소가 포함된 에로틱 아트 등이 있습니다. 예를 들어 퍼리(furry)나 헨타이 서브컬처의 일부 구성원들은 실제 배우로는 불가능한 콘텐츠를 만들기 위해 AI 아트를 사용합니다. 이는 에로틱 아트의 범위를 넓히는 것으로 여겨집니다. 또한 AI는 장애가 있거나 기타 제약이 있는 사람들이 기존에는 불가능했던 방식으로 가상 친밀감을 경험할 수 있게 해줍니다. 사회적 상호작용에 어려움을 겪는 이들은 판단하지 않는 AI 파트너에게서 동반자감을 느낄 수 있습니다. “AI OnlyFans” 스타트업의 창립자와 같은 지지자들은 이러한 AI 동반자가 사회에 “순기능”이 될 수 있다고 주장합니다. 특히 다른 형태의 동반자가 부족한 사람들에게는 더욱 그렇습니다 sifted.eu. 그의 관점에서, 누군가 외롭거나 착취적인 형태의 포르노를 소비하고 있다면, AI 파트너는 통제된, 어쩌면 더 건강한 대안이 될 수 있습니다 sifted.eu.
창조된 모델과 실제 모델의 동의: 또 다른 NSFW AI 옹호 논리는, 실제로 존재하지 않는 AI 생성 배우를 포르노에 사용하는 것이 성인 산업의 많은 문제를 없앨 수 있다는 것이다. 포르노 여배우가 AI로 생성된다면 실제 출연자를 착취할 위험이 없다. AI 세트에서는 누구의 신체도 실제로 성병이나 학대의 위험에 노출되지 않는다. 이론적으로는, 결국 일부 실제 포르노 제작을 대체하여 위험한 상황에 처한 인간 출연자에 대한 피해를 줄일 수 있다. (물론 반론으로, 그 출연자들은 종종 자발적으로 그 자리에 있고, 대체된다면 수입을 잃을 수 있으니 복잡하다.) 하지만 미래학자들은 완벽하게 사실적인 AI 포르노가 실제 사람이 잠재적으로 굴욕적인 일에 참여하지 않아도 수요를 충족시킬 수 있는 세상을 상상한다 – 본질적으로 더 윤리적인 포르노 공급망이다. 일부 성인 창작자들은 심지어 자발적으로 자신의 “디지털 트윈”(이미지/음성 라이선스 제공)을 만들어 AI가 일부 노동을 대신하게 하고 있다 – 동의와 수익 분배를 통해 sifted.eu. 이 모델이 확대된다면, 인간 창작자들이 자신의 통제 하에 일부 콘텐츠 제작을 AI에 맡기면서 수익을 얻을 수 있어, 어쩌면 윈윈이 될 수 있다.
표현의 자유와 예술적 가치: 시민 자유의 관점에서, 일부는 NSFW AI조차도 표현의 한 형태로 옹호한다. 에로틱 아트와 포르노는 오랫동안 많은 나라에서 (외설물을 제외하고) 보호받는 표현으로 여겨져 왔다. AI는 단지 표현 매체를 확장할 뿐이다. 예술가가 누드를 그리거나 합의된 포르노 장면을 촬영할 수 있다면, 왜 AI에게 누드 아트 작품을 만들라고 지시할 수 없겠는가? 그들은 AI 성적 콘텐츠를 전면 금지하는 것은 성 긍정적 예술이나 정당한 창작 활동까지 검열할 수 있는 과잉 규제라고 주장한다. 모든 관련자가 동의한다면(물론 AI가 관련될 때는 복잡하지만, 과정이 동의된 것이라 가정할 때), 성인은 자신이 원하는 성적 콘텐츠를 만들고 소비할 자유가 있어야 한다, AI의 도움을 받든 아니든. 전자 프런티어 재단(EFF)과 같은 단체는 딥페이크 기술에 대한 광범위한 금지에 신중할 것을 경고하며, 이 기술이 유익한 용도도 있고, 기술 자체를 금지하기보다는 나쁜 행위자만을 좁게 겨냥하는 것이 낫다고 지적한다 klobuchar.senate.gov. 이 논쟁의 자유주의적 입장은 이렇게 말한다: 실제 피해(비동의 사용 등)만 처벌하고, 도구나 합의된 판타지는 범죄화하지 말라.

비판자들의 주장 (NSFW AI 반대):

동의 위반 및 이미지 남용: 비평가들은 NSFW AI가 이미 개인의 동의와 초상권에 대한 대규모 남용을 가능하게 했다고 강조합니다. 비동의 딥페이크 유행은 그 자체로 증거입니다 – 인생이 망가지고, 사생활이 산산조각 납니다. 이들은 이것이 일부의 문제가 아니라 지금까지 딥페이크 기술의 주류 사용 사례라고 주장합니다: 딥페이크의 96%가 포르노였고, 사실상 모두 동의 없이 제작됨 theguardian.com. 이 기술은 본질적으로 이러한 남용에 쉽게 악용될 수 있어 위험한 무기라고 말합니다. 직접적으로 표적이 되지 않더라도, 훈련 데이터나 누군가의 판타지에 포함되는 것에 대해 동의할 수 있는 어떤 능력도 없다는 점이 문제입니다. 누군가는 성적 자율성이 완전히 침해될 수 있습니다 – 타인이 허공에서 노골적인 이미지를 생성함으로써 말이죠. 비평가들은 이것이 근본적으로 비윤리적이며, 관음증이나 다른 성범죄처럼 비난받아야 한다고 말합니다. “수백 개의 AI 옷 벗기기 앱”이 쉽게 접근 가능하다는 사실은 klobuchar.senate.gov 어떤 여성의 사진도 몇 초 만에 포르노화될 수 있다는 뜻이며, 많은 이들이 이를 감당할 수 없고 공포스러운 상황이라고 부릅니다.
정서적·심리적 피해: AI 포르노 딥페이크의 피해자가 되면 극심한 정신적 고통 – 굴욕, 불안, PTSD, 심지어 자살 충동 – 을 겪을 수 있습니다. 비극적인 예: 미국의 한 17세 소년이 2022년 가짜 누드 사진을 이용한 섹스토션 사기범에게 협박당한 후 자살했습니다 klobuchar.senate.gov. 자신에 대한 딥페이크를 발견한 여성들이 겪는 심리적 충격은 엄청나며, 이는 가상 공간에서의 성폭행과도 같다고 묘사됩니다. 따라서 비평가들은 NSFW AI가 잠재적으로 대규모 괴롭힘과 남용을 촉진하는 도구라고 봅니다 – 특히 취약한 사람들(여성, 미성년자, 혐오 기반 성적 딥페이크의 표적이 될 수 있는 LGBTQ 등)에게 “비상사태”라고까지 합니다 theguardian.com. 이들은 기술의 어떤 주장되는 이점도 지금 실제로 벌어지는 이러한 피해를 상쇄할 수 없다고 주장합니다.
착취적 콘텐츠의 정상화: 비판자들은 AI 포르노, 특히 극단적이거나 비동의 시나리오가 범람하면 이러한 이미지가 정상화되어 프라이버시와 동의와 같은 것들에 대한 사회적 제재가 약화될 수 있다고 우려한다. 만약 유명인이나 동급생의 가짜 누드가 “일상적인 인터넷 잡담거리”가 된다면, 사람들은 타인의 프라이버시 침해에 무감각해질 수 있다. 또한 이는 여성의 이미지를 마음대로 사용할 수 있는 성적 대상물로 보는 여성혐오적 사고방식을 부추길 수 있다. 윤리적으로 이는 복수 포르노나 도촬과 유사하다 – 이를 확산시키는 것은 여성의 몸이 그들 자신의 것이 아니라는 메시지를 전달한다. 추가로, 비평가들은 AI가 일탈적 성향을 심화시킬 수 있다고 우려한다 – 예를 들어, AI로 시뮬레이션된 강간 포르노를 소비하는 사람이 실제로 폭력을 저지를 가능성이 높아지거나, AI 생성 아동 포르노를 가진 소아성애자가 실제 아동 학대로 나아갈 수 있다는 것이다. 증거에 대한 논쟁은 있지만, 많은 심리학자들은 미디어가 행동을 강화할 수 있음을 감안해 주의를 촉구한다.
관계와 사회에 미치는 영향: 일부 사회학자와 페미니스트들은 AI 성적 동반자와 초개인화된 포르노가 실제 인간 관계를 약화시킬 수 있다고 우려한다. 많은 사람들이 완벽하게 순응적인 AI “여자친구”에 의존하게 된다면, 독립적인 욕구와 경계를 가진 실제 파트너와의 관계 형성 능력은 어떻게 될까? 성과 로맨스에 대한 왜곡된 기대와 사회적 고립이 심화될 수 있다는 걱정이 있다. 한 AI 동반자 앱의 창업자조차 이를 “매우 디스토피아적”이라고 부르며, 사람들이 서로 단절되는 “이상한 친밀성의 미래”를 만들 수 있다고 말했다 sifted.eu. 강화되는 고정관념 – 종종 AI 여자친구는 순종적인 여성 페르소나로 구현된다 – 은 사용자들 사이에서 성차별적 태도를 고착시킬 수 있다. 따라서 비평가들은 NSFW AI가 외로움, 여성혐오, 친밀감의 상품화와 같은 문제를 악화시킬 수 있다고 주장한다.
예술가, 공연자, 노동자에 대한 위협: 창작 분야와 성인 산업에 종사하는 이들은 NSFW AI를 생계와 권리에 대한 위협으로 보고 있습니다. 시각 예술가들(예: 에로티카 일러스트레이터나 모델)은 AI가 허락 없이 그들의 작품을 수집(scraping)한 뒤, 그들의 스타일이나 인물로 새로운 이미지를 생성하는 것을 경험합니다. 이는 지적 재산권의 도둑질처럼 느껴지며, 커미션 아트 시장을 약화시킵니다. 사진작가들은 AI 이미지 생성기가 촬영을 위한 모델 고용을 대체할까 우려합니다. 포르노 배우와 성노동자들은 AI “클론”이나 완전히 허구의 AI 모델이 소비자를 빼앗거나, 그들의 작업 가치를 떨어뜨리는 콘텐츠로 시장을 넘칠까 걱정합니다. 여러 OnlyFans 창작자들은 수입 감소와 팬들의 불만을 보고했는데, 이는 아마도 더 저렴하고 항상 이용 가능한 AI 생성 콘텐츠와의 경쟁 때문일 수 있습니다 reddit.com. 그들은 AI가 본질적으로 그들의 이미지와 매력을 무단으로 차용(appropriated)했으며, 노력이나 인간적인 터치 없이 이뤄진 불공정 경쟁이라고 주장합니다. 이는 실제 노동자들에게 지속 불가능한 수준으로 가격을 끌어내릴 것이라고도 합니다. 성노동자들은 또한 더 많은 콘텐츠를 만들거나 24/7로 이용 가능해야 한다는 압박을 받을까 두려워하며, 이는 그들의 노동을 더욱 상품화할 수 있습니다 reddit.com. 노동조합과 옹호 단체들은 기업들이 권리, 요구, 임금이 없는 AI 포르노 스타를 인간보다 선호하는 세상을 우려합니다. 이는 일자리를 없애고, 원래 이 모델을 훈련시킨 공연자들의 초상을 착취할 수 있는 시나리오입니다. 요약하자면, 비평가들은 NSFW AI가 인간의 창의성과 노동을 약화시키고, 인간의 데이터를 이용해 끝없는 무료(또는 저렴한) 콘텐츠를 생산한다고 봅니다.
도덕성과 법의 미끄러운 경사: 정책적 관점에서 비평가들은 지금 NSFW AI에 확실한 한계를 두지 않으면 통제 불가능한 미래로 이어질 수 있다고 주장합니다. AI 포르노를 “단순한 판타지”로 받아들인다면, 동의와 같은 현실 문제와 교차할 때 어떻게 될까요? 예를 들어, 누군가 전 애인을 대상으로 AI 포르노를 만들고 “그냥 판타지일 뿐”이라고 주장한다면, 그것이 정당화될까요? 대부분은 아니라고 할 것입니다 – 전 애인은 분명히 피해를 입습니다. 그래서 비평가들은 예방 원칙을 선호합니다: 초기에 경계를 그어야 한다는 것입니다. 일부는 딥페이크 생성 도구를 자물쇠 따기 도구나 해킹 도구처럼 취급해야 한다고까지 주장합니다 – 불법은 아니지만 엄격히 통제하고, 명백히 남용을 위해 설계된 도구(예: 비동의로 이미지를 벗기는 “nudify” 앱)는 전면 금지해야 한다는 것입니다. 강력한 규제를 지지하는 윤리학자들은 남용 가능성이 소수의 긍정적 사용 사례보다 훨씬 크다고 주장합니다. 그들은 종종 피해자의 목소리를 인용합니다: 한 기술 윤리학자는 “10대 소녀가 AI로 생성된 포르노에서 자신을 본다면 – 그 한 번의 경험, 그 한 번의 인생 파탄만으로도 이 기술에 대한 엄격한 통제를 정당화한다”고 말했습니다. 표현의 자유도 중요하지만, 타인의 자율성과 안전을 희생해서는 안 된다고 그들은 말합니다.

주목할 점은 모든 사람이 극단적인 입장에만 있는 것은 아니라는 것입니다. 많은 이들이 NSFW AI의 가능성과 위험성을 모두 인정합니다. 예를 들어, 한 사용자는 허구의 캐릭터로 맞춤형 에로티카를 생성할 수 있다는 점(무해한 사용)을 높이 평가하면서도, 실제 인물을 위조하는 데 사용하는 것은 전적으로 비난할 수 있습니다. 따라서 논쟁은 종종 경계선을 어디에 그을 것인가에 집중됩니다. 공적 담론에서 나타나는 새로운 합의는 다음과 같습니다. AI 성인 콘텐츠는 동의와 투명성이 있을 때만 허용되며, 허가 없이 실제 인물이 포함되거나 미성년자가 포함된 경우에는 엄격히 금지된다는 것입니다. 성인 AI 콘텐츠를 지지하는 많은 기술자들조차도 비동의 딥페이크는 변명의 여지가 없으며 범죄로 규정되어야 한다고 동의합니다 cbsnews.com. 반대로, 일부 비판자들조차도 동의하는 성인들이 이러한 도구를 자신을 위해 사용할 수 있어야 한다고 인정합니다(예: 커플이 공유하는 판타지의 AI 아트를 만들거나, 성 노동자가 AI를 이용해 자신의 사업을 확장하는 것은 개인의 선택이어야 한다는 것).

지지자와 비판자 간의 분열은 때때로 기술 낙관주의와 사회적 회의주의의 경계로 나뉩니다. 기술 애호가들은 NSFW AI를 (일부 문제는 관리해야 하지만) 흥미로운 개척지로 보지만, 사회적 옹호자들은 이를 반드시 억제해야 할 새로운 형태의 디지털 학대로 봅니다. 두 관점 모두 타당하며, 앞으로의 과제는 (창의적 자유, 사적 즐거움, 산업 혁신 등) 이익을 극대화하면서 (비동의 착취, 허위정보, 노동자 대체 등) 해악을 최소화하는 것입니다. 어떤 해결책이든 기술자, 입법자, 윤리학자, 성인 산업 종사자, 이미지 악용 피해자 등 다양한 집단의 의견이 필요합니다. 2025년 현재, 이 대화가 본격적으로 시작되었습니다.

(요약하자면, 양측의 입장을 간단히 비교하면 다음과 같습니다:)

지지자들은 NSFW AI가 성인 창작의 자유를 확대하고, 안전한 판타지 실현을 제공하며, 동의하는 창작자가 수익을 올리거나 외로운 개인이 동반자를 찾는 데도 도움이 될 수 있다고 주장합니다. 본질적으로 이는 포르노의 기술적 진화로, 윤리적으로 사용된다면 누구에게도 해를 끼치지 않고 개인의 자유를 증진시킨다고 봅니다 globenewswire.com sifted.eu.
비평가들은 말한다 이것이 이미지 기반 성적 학대의 물결을 부추기고, 동의와 프라이버시를 침식시키며, 사용자의 성과 관계에 대한 인식을 왜곡할 수 있고, 실제 사람들의 이미지와 노동을 그들의 동의 없이 이익을 위해 착취한다고 한다 theguardian.com reddit.com. 그들의 관점에서 NSFW AI가 사회(특히 여성과 취약 계층)에 끼치는 비용은 일부 사용자가 얻는 사적 이익보다 훨씬 크기 때문에 강력한 제한과 감독이 필요하다.

맞서 싸우기: NSFW 콘텐츠를 위한 AI 콘텐츠 모더레이션과 안전장치

NSFW AI의 위험성을 고려할 때, 이를 관리하기 위한 기술적·정책적 안전장치 개발 경쟁도 동시에 벌어지고 있다. 이 싸움은 여러 방면에 걸쳐 있다: AI 생성 콘텐츠를 더 잘 감지하는 도구 개발, 콘텐츠 모더레이션 필터 구현, 진짜와 가짜를 구분할 수 있는 규범이나 워터마크 도입 등이다. 다음은 NSFW AI의 어두운 면을 억제하기 위해 AI와 플랫폼이 시도하는 방법들이다:

자동 NSFW 필터: 많은 AI 이미지 생성기는 포르노그래피 분류기를 포함하고 있어 노골적인 결과물을 차단하거나 필터링하려고 시도한다. 예를 들어, 공식 Stable Diffusion 릴리스에는 누드 또는 성적 이미지를 감지해 표시하거나 흐리게 처리하는 “Safety Checker”가 포함되어 있다 arxiv.org. OpenAI의 DALL·E는 성적 콘텐츠를 암시하는 프롬프트조차 거부한다. Midjourney는 금지어 목록이 매우 길고, AI를 이용해 프롬프트의 맥락을 해석한다. 요청이 포르노적이거나 착취적이라고 의심되면 이미지를 생성하지 않는다 arxiv.org. 이러한 필터는 완벽하지 않다(사용자들은 금지어의 완곡어법이나 철자 오류를 이용해 우회하는 방법을 계속 찾는다 arxiv.org). 그럼에도 불구하고, 일반 사용자가 우연히 또는 쉽게 NSFW 이미지를 생성하는 것을 막아준다. 이들은 최초 방어선 역할을 하며, 특히 노골적인 콘텐츠를 호스팅하고 싶지 않은 주류 플랫폼에서 중요하다. 일부 오픈소스 포크에서는 이러한 필터를 제거하지만, 그 경우 책임은 사용자(및 해당 콘텐츠가 게시되는 플랫폼)로 넘어간다.
딥페이크 탐지 도구: 연구 측면에서는 딥페이크 탐지 알고리즘 개발에 상당한 노력이 기울여지고 있습니다. 마이크로소프트와 Sensity 같은 스타트업들은 영상/이미지에서 조작의 흔적(불일치하는 조명, 얼굴 아티팩트, 디지털 워터마크 등)을 분석하는 AI를 개발했습니다. 한 평가에서 Hive Moderation 모델(일부 소셜 미디어에서 사용하는 AI 모더레이션 제품군)이 AI로 생성된 인물과 실제 인물을 구분하는 데 가장 높은 정확도를 보였습니다 emerginginvestigators.org. 이러한 탐지기는 플랫폼에서 업로드를 스캔하는 데 사용됩니다(예: 페이스북이 이미지를 누드 여부뿐 아니라, 누군가의 알려진 가짜인지도 스캔할 수 있음). 탐지기 개발은 쫓고 쫓기는 게임입니다. 생성형 모델이 발전할수록 탐지기도 발전해야 합니다. EU는 기업들이 이러한 시스템을 도입하도록 압박하고 있습니다 – AI법의 투명성 규정과 여성폭력 방지 지침은 플랫폼이 AI 포르노를 식별하고 삭제할 수 있도록 사실상 의무화합니다 euronews.com euronews.com. 일부 탐지 방법은 메타데이터나 특정 생성기에서 나오는 알려진 패턴(예: 일부 AI 도구는 픽셀 패턴에 보이지 않는 워터마크를 남김)에 의존합니다. 업계에서는 더 적극적인 접근법도 고려 중입니다: AI 콘텐츠를 생성 시점에 워터마킹하기. 예를 들어 구글은 AI로 생성된 이미지를 태그하는 방법을 연구 중이며, 이를 통해 편집 후에도 AI 제작 이미지임을 인식할 수 있습니다. 오픈AI는 언어 모델에서 생성된 텍스트에 대한 암호학적 워터마크를 제안했습니다. 널리 채택된다면, 자동 필터가 AI 포르노를 확산 전에 표시하는 데 도움이 될 수 있습니다. 하지만 오픈소스 모델은 자발적으로 워터마크를 삽입하지 않을 가능성이 높고, 공격자는 워터마크를 제거하려 시도할 수 있습니다.
콘텐츠 해싱 및 데이터베이스: 리벤지 포르노와 딥페이크에 대응하기 위해, 기술 기업과 NGO들은 이미 알려진 불법 이미지의 데이터베이스를 만들었습니다(예: 실제 아동 학대 이미지는 PhotoDNA 같은 암호학적 해시 사용). 딥페이크에도 유사한 접근이 검토되고 있습니다: 피해자가 가짜 이미지를 신고하면, 그 이미지의 해시를 삭제 요청 데이터베이스에 추가해 다른 곳에 업로드될 때 즉시 인식하고 삭제할 수 있습니다. 영국의 온라인 안전법 하에서 도입될 예정인 시스템도 이러한 사전 탐지를 포함할 수 있습니다 – 플랫폼이 “금지된 콘텐츠가 처음부터 나타나지 않도록 방지” euronews.com해야 한다는 요구입니다. 실제로는 업로드 시점에 이미 알려진 불법 이미지나 영상을 스캔하는 것을 의미합니다. AI 가짜의 문제는 가해자가 끝없이 변형본을 생성할 수 있다는 점입니다. 하나를 해싱해도 다음 것을 잡아내지 못합니다. 그래서 AI 기반 유사성 탐지가 필요하며, 이는 이미 알려진 가짜와 매우 유사하거나, 온라인에 노출을 원하지 않는다고 등록한 사람과 일치하는 콘텐츠를 표시할 수 있습니다.
포르노 사이트의 모더레이션: 흥미롭게도, Pornhub과 같은 주류 성인 사이트들은 딥페이크로 인해 모더레이션을 강화해야 했다. Pornhub는 2018년부터 동의 없이 실제 인물을 묘사한 AI 생성 콘텐츠의 업로드를 금지했다. 이들은 사용자 신고와 모더레이터의 검토에 의존해 이를 적발하지만, 수백만 건의 업로드가 있어 쉽지 않다. EU의 디지털 서비스법은 더 엄격한 책임을 부과하고 있다: 2024년, Pornhub(및 Xvideos, Xnxx와 같은 유사 사이트)는 불법적이고 유해한 콘텐츠를 사전에 방지하지 않으면 벌금을 부과받는 subscriber.politicopro.com 대형 플랫폼으로 지정되었다. 이는 아마도 자동 필터링에 투자해야 함을 의미한다. 포르노 사이트들은 앞으로 모든 신규 영상에 딥페이크 감지기를 사용할 수 있다. 또한 업로더 신원 인증도 도입했는데, 완벽하진 않지만(가짜 업로더가 본인 인증 후 타인의 가짜 영상을 올릴 수 있음), 추적 가능성을 높인다.
소셜 미디어 정책: 트위터(X)와 레딧 같은 소셜 네트워크는 “AI로 생성 또는 변형된 친밀한 이미지”를 당사자 동의 없이 공유하는 것을 명시적으로 금지하도록 정책을 업데이트했다. 레딧은 2018년 첫 딥페이크 유행 이후 이를 금지했다. 페이스북의 커뮤니티 기준은 해로운 방식으로 속일 가능성이 있는 합성 미디어(즉, 누군가의 가짜 포르노 포함)를 금지한다. 하지만 집행은 여전히 불완전하다 – 언급했듯, 2024년에도 X에서 딥페이크 콘텐츠가 바이럴되었고 cbsnews.com, 메타는 AI 누드 광고를 삭제하라는 비난을 받고서야 조치했다 cbsnews.com. 그럼에도 불구하고, 새로운 법률(Take It Down Act, EU 규정)로 인해 이들에게 법적 의무가 부과된다. 앞으로는 더 빠른 대응 시간이 기대된다 – 예를 들어, 미국 법에 따르면 플랫폼은 신고된 NCII를 48시간 내에 삭제하지 않으면 처벌받는다 klobuchar.senate.gov klobuchar.senate.gov. 이는 의심스러울 때 삭제 쪽으로 판단할 가능성이 높다는 뜻이다. 또한 “이것은 나의 AI 가짜입니다”라는 신고 기능을 통합해 사용자가 신속히 남용을 신고할 수 있도록 할 수도 있다.
연령 확인 및 접근 통제: 또 다른 중재 측면은 미성년자가 AI 포르노에 접근하는 것을 방지하는 것입니다. 기존 포르노 사이트는 연령 확인을 실시하지만(완벽하게 시행되지는 않음), 일부 관할 구역(프랑스, 유타, 텍사스 등)에서는 성인 사이트에 대해 엄격한 연령 확인을 요구하는 법률을 통과시켰습니다 versustexas.com. AI 도구는 이 문제를 복잡하게 만드는데, 생성형 모델은 아무런 제약 없이 개인적으로 사용할 수 있기 때문입니다. 하지만 일부 AI 플랫폼은 NSFW 모드에 접근하기 위해 신분증 확인을 요구하기 시작했으며, 사용자가 성인임을 보장하기 위함입니다. 예를 들어, Infatuated.ai 플랫폼은 강력한 연령 확인 프로토콜과 미성년자가 포함된 모든 프롬프트 차단을 강조했습니다 globenewswire.com. Replika(인공지능 챗봇 앱)는 에로틱 롤플레이를 허용했다가 많은 미성년자가 사용하게 되어 논란이 되었고, 이후 결제 또는 신분증 확인을 통해 18세 이상 사용자에게만 에로틱 콘텐츠를 제한했습니다. 적어도 상업적 서비스에서는 성인용 AI 콘텐츠를 아동으로부터 차단하려는 노력이 있습니다. 이는 실제로 학생들이 딥페이크 도구를 사용해 또래를 괴롭힌 사례가 있었기 때문에 중요합니다 cbsnews.com. 청소년에게 윤리적·법적 결과에 대해 교육하는 것도 중재의 일부이며, 일부 학교에서는 딥페이크 인식 교육을 디지털 시민 교육 과정에 포함시키기 시작했습니다 nea.org.
협력 및 모범 사례: AI 오용에 맞서기 위해 기술 기업, 법 집행 기관, NGO 간의 협력이 이루어지고 있습니다. Partnership on AI의 미디어 무결성 그룹이나 Coalition for Content Provenance and Authenticity (C2PA)와 같은 이니셔티브는 콘텐츠의 진위 인증 기준을 마련하는 것을 목표로 합니다. 기업들은 이미지/비디오가 어떻게 생성되었는지(카메라 vs AI 소프트웨어)에 대한 메타데이터를 포함할 수 있습니다. 한편, 법 집행 기관도 딥페이크에 대한 교육을 받아 피해자 신고를 진지하게 받아들이고 증거를 수집하는 방법을 익히고 있습니다. 유로폴은 2023년에 딥페이크 포르노를 신흥 위협으로 지목하고, 회원국에 대응 자원 할당을 촉구했습니다 theguardian.com.
AI 모델에 대한 제한 사항: 더 직접적인 방어선은 유해한 콘텐츠를 생성할 수 있는 모델의 배포를 제한하는 것입니다. 일부 AI 모델 저장소는 약관을 두고 있습니다. 예를 들어, Stability AI는 Stable Diffusion 2.0의 학습 데이터에 명백한 포르노 이미지를 공식적으로 포함하지 않기로 결정했는데, 이는 부분적으로 포르노 생성 능력이 너무 뛰어나지 않게 하기 위함이었습니다(이로 인해 사용자들은 새 모델이 “고지식하다”고 불평했습니다). AI 모델 허브인 Hugging Face는 명백히 포르노를 위해 만들어진 모델의 호스팅을 거부하거나, 사용자가 오용하지 않겠다는 동의를 요구하는 큰 면책 조항을 포함하기도 합니다. 또 하나 주목할 만한 사례가 있었습니다. 2022년 말, 크라우드펀딩 사이트 Kickstarter는 “Unstable Diffusion”이라는, 포르노 최적화 AI 모델 개발을 위한 자금 모금 캠페인을 arnoldit.com에서 금지했습니다. Kickstarter는 포르노 AI 프로젝트에 대한 정책을 근거로 이를 중단시켰습니다. 이 사건은 NSFW AI에 대한 자금 지원과 후원조차도 장애물에 부딪힐 수 있음을 보여주었습니다. 애플과 같은 앱스토어 역시 필터링되지 않은 AI 앱에 적대적입니다. 애플은 NSFW 결과물을 생성할 수 있는 일부 AI 이미지 생성 앱을 삭제했고, 개발자들에게 필터 추가를 요구했습니다. 따라서 가장 진보된 AI 모델에 대한 접근은 어느 정도 기업 정책에 의해 제한될 수 있습니다. 하지만 진정한 오픈소스 모델은 쉽게 통제할 수 없습니다. 일단 공개되면 토렌트나 포럼을 통해 확산됩니다. 그래서 이 조치는 한계가 있습니다.

AI 포르노 시대의 콘텐츠 모더레이션은 분명히 도전적입니다. 잠재적으로 위반이 될 수 있는 콘텐츠의 양은 방대하며 계속 증가하고 있습니다. 하지만 기술이 기술에 맞서고 있습니다. AI 자체가 AI를 막는 데 사용되고 있습니다. 예를 들어, Meta는 머신러닝 분류기를 사용해 누드 이미지에서 유명인의 얼굴을 감지하여 딥페이크를 잡아내고, 딥페이크 특유의 합성 흔적을 탐지한다고 알려져 있습니다. Reality Defender와 같은 스타트업은 기업에 실시간으로 딥페이크 콘텐츠를 스캔하고 제거하는 서비스를 제공합니다 realitydefender.com. 그리고 새로운 법률로 인해 플랫폼이 이러한 조치에 투자하지 않으면 심각한 벌금이나 소송 위험에 처할 수 있습니다.

유망한 방안 중 하나는 인증된 미디어라는 개념입니다. 예를 들어, 모든 합법적인 포르노 제작자가 자신의 영상을 암호학적으로 서명해 진짜임을 증명한다면, 서명이 없는 “누구누구의 섹스 테이프”는 의심스러운 것으로 표시할 수 있습니다. 이를 보편적으로 구현하는 것은 복잡하지만, 출처 증명이라는 개념이 (포르노뿐 아니라 모든 미디어의 허위정보 방지를 위해) 연구되고 있습니다.

궁극적으로, 중재는 결코 완벽할 수 없습니다 – 여전히 많은 것이 거친 웹상에서 빠져나갈 것입니다. 암호화되거나 탈중앙화된 플랫폼은 최악의 콘텐츠를 숨기게 될 것입니다. 하지만 적어도 주류 및 합법적인 영역에서는 NSFW AI의 피해를 완화하기 위한 공동의 노력이 있습니다. 희망은 합법적인 사용(합의된 성인 콘텐츠, 판타지 아트 등)이 존재할 수 있으면서도 악의적인 사용은 신속하게 식별되고 제거되는 환경을 만드는 것입니다. 이는 피해자들이 “두더지 잡기”에 비유할 만큼 어려운 일입니다 klobuchar.senate.gov – 하지만 법률, AI 탐지기, 플랫폼 정책, 사용자 교육이라는 도구들이 함께 심층 방어를 형성합니다.

여파와 미래: 창작자 및 성인 산업에 미치는 영향

NSFW AI가 기존 질서를 뒤흔들면서, 이미 포르노 배우와 성노동자, 에로틱 아티스트, 콘텐츠 스튜디오 등 성인 엔터테인먼트 생태계의 실제 인물들에게 영향을 미치고 있습니다. 일부는 새로운 기술에서 기회를 찾고 있지만, 다른 이들은 자신이 시대에 뒤처지거나 원치 않게 휩쓸릴 것을 두려워합니다.

성인 배우와 성노동자: 아마도 가장 직접적인 영향은 성인 콘텐츠를 제작해 생계를 유지하는 이들에게 나타납니다. 한편으로, 일부 영리한 창작자들은 AI를 활용해 자신의 작업을 보강하고 있습니다. 예를 들어, 성인 모델들은 AI 사진 생성기를 사용해 자신을 더욱 향상되거나 스타일리시하게 표현한 이미지를 만들어 판매할 수 있습니다(비싼 사진 촬영이 필요 없게 됨) – 단, 이미지가 여전히 본인과 닮았고 플랫폼 규정을 준수해야 합니다 reddit.com. 몇몇 인플루언서는 “AI 버전”의 자신을 만들어 화제가 되기도 했습니다. 예를 들어, 2023년 인플루언서 캐린 마조리는 자신의 성격을 본뜬 AI 챗봇을 출시해 팬들이 친밀하게 대화할 수 있도록 유료 서비스를 제공했습니다. 마찬가지로, 스타트업 Oh의 “디지털 트윈” 개념은 포르노 배우가 자신의 이미지를 라이선스해 AI 아바타가 팬들과 채팅하거나 공연하도록 하여, 최소한의 추가 노동으로 새로운 수익원을 창출할 수 있게 합니다 sifted.eu. 이러한 움직임은 업계 내 일부가 AI를 자신을 확장하는 도구로 보고 있음을 보여줍니다 – 이론적으로 AI를 통해 실제로 1:1로 만날 수 있는 것보다 더 많은 팬을 상대할 수 있습니다.

한편, 많은 퍼포머들이 걱정하고 있다. 팬들이 AI로 자신만의 판타지 콘텐츠를 맞춤 제작할 수 있다면, 실제 사람들에게 돈을 지불하는 것을 멈추지 않을까? 완전히 허구(하지만 현실적인) 여성의 이미지를 사용하는 AI 생성 OnlyFans 프로필이 등장했다는 보고도 있으며, 때로는 의심을 피하기 위해 #AI 워터마크가 붙어 있고, 더 저렴하게 콘텐츠를 판매하거나 사용자들에게 스팸을 보내기도 한다고 한다 reddit.com. 이런 종류의 경쟁은 실제 창작자들의 수입에 타격을 줄 수 있다. 일부 성노동자들은 성공의 기준이 알고리즘처럼 24시간 내내 콘텐츠를 쏟아내는 것이 되어가는 신흥 표준을 보는 것이 “낙담스럽다”고 말한다. 인간에게는 불가능하지만 AI에게는 쉬운 기준이기에, 인간 창작자들은 AI를 도입하거나 도태될 압박을 받게 된다 reddit.com. 또한 감정적인 측면도 있다. 한 베테랑 창작자는, AI를 사용해 완벽한 몸이나 무한한 결과물을 만들어내는 것은 사실상 “속임수”이며, 인간 창작자들이 쏟는 진짜 노력과 진정성을 reddit.com 폄하하는 것처럼 느껴진다고 썼다. “그건 비열한 짓이야. 내 팬들에게도, 내 몸[과 콘텐츠]에 쏟은 내 노력에도 모욕이야.”라고 그녀는 AI로 가짜 콘텐츠를 만드는 이들에 대해 말했다 reddit.com.

이미 일부 반발과 적응이 나타나고 있다. 창작자들이 모여 가짜 AI 프로필을 지적하고, 플랫폼들이 실제 창작자가 AI에 의해 사칭당하지 않도록 정책을 조정하고 있다. 앞서 언급했듯 OnlyFans는 타인의 초상 사용을 금지하고 AI 콘텐츠에는 태그를 요구한다 reddit.com. 심지어 창작자들이 AI 가짜 계정에 맞서 법적 조치를 모색한다는 이야기도 있다. 예를 들어, OnlyFans의 봇 계정을 걸러내기 위한 소송 소문이 있다 reddit.com. 또한, 퍼포머들은 동의와 이미지 권리에 대해서도 걱정한다. 예를 들어, 은퇴한 포르노 배우가 자신의 과거 장면이 AI 학습에 사용되어, 이제는 본인의 동의나 보상 없이 “그녀”의 새로운 노골적 영상을 AI가 만들어내는 상황이 생길 수 있다. 이는 할리우드 배우들이 AI가 자신의 초상을 사용하는 것에 대해 우려하는 것과 유사하지만, 포르노 배우들은 이미지가 매우 민감한 것과 연결되어 있기 때문에 더 많은 것을 걸고 있다. 업계는 배우들이 AI가 자신을 어떻게 시뮬레이션할 수 있는지 협상할 수 있는 배우조합의 입장과 비슷한 무언가를 개발해야 할지도 모른다. 실제로, 덴마크가 개인에게 초상권을 부여하는 접근법은 전 세계 퍼포머들이 이러한 맥락에서 자신의 얼굴/몸에 대한 소유권을 주장할 수 있게 할 수 있다 euronews.com.

스튜디오와 프로듀서들: 전통적인 포르노 스튜디오 역시 타격을 받을 수 있습니다. 소수의 팀이 AI 도구를 사용해 배우를 고용하지 않고도 그럴듯한 성인 영상을 제작할 수 있다면, 대형 스튜디오의 경쟁력이 약화됩니다. 하지만 현재의 AI 영상은 아직 장시간의 콘텐츠를 위한 전문 스튜디오 수준에는 미치지 못합니다. 대부분 짧은 클립이거나 실제 영상과 결합해야 합니다. 일부 스튜디오는 특수 효과나 후반 작업(예: 출연자 젊게 보이기, 시각 효과 강화, 또는 익명성을 위해 문신 제거 등)에 AI를 활용하기 시작할 수 있습니다. 또 다른 활용 예시는, 수작업으로는 비용이 많이 들었던 사실적인 성인 애니메이션 제작입니다. 하지만 스튜디오들은 해적판과 유사한 위협에도 직면합니다. 악의적인 이들이 AI를 이용해 프리미엄 콘텐츠나 모델의 모조품을 만들 수 있기 때문입니다. 예를 들어, 스튜디오가 인기 스타와 전속 계약을 맺고 있다면, 누군가가 그 스타를 딥페이크로 새로운 장면에 합성해 유출할 수 있습니다. 이는 스튜디오의 수익과 스타의 브랜드에 타격을 줄 수 있습니다. 스튜디오들은 계약된 인재의 상표권이나 퍼소나 권리를 강력히 집행하는 방식으로 대응할 수 있습니다. 해적판보다 먼저, 기술 기업과 협력해 스타의 공식 AI 콘텐츠(수익 공유 포함)를 제작하는 방어적 전략이 등장할 수도 있습니다.

에로티카 아티스트와 작가들: 영상 출연자 외에도, 에로틱 만화, 일러스트, 문학을 창작하는 이들을 생각해볼 수 있습니다. AI는 이미 예술 스타일을 모방할 수 있습니다. 특히 2022년 말에는 AI로 생성된 애니메이션 에로티카가 헨타이 커뮤니티에 대거 유입되어 논란이 일었습니다. 일부 의뢰인은 비용과 편의성을 이유로 인간 아티스트 대신 AI를 사용하기 시작했습니다. 아티스트들은 DeviantArt와 같은 플랫폼에서 AI 기능 도입에 항의하기도 했습니다. 맞춤형 에로틱 아트와 스토리 시장이, 누구나 무료로 개인화된 만화나 야설을 생성할 수 있게 되면 붕괴할 수 있다는 우려가 있습니다. 하지만 애호가들은 AI가 여전히 복잡한 스토리텔링이나 정교한 예술에서는 한계를 보인다고 지적합니다. 인간 아티스트는 AI가 가지지 못한 창의성과 감정을 제공합니다. 가장 가능성 있는 결과는 하이브리드 방식입니다. 아티스트가 AI로 초안을 잡거나 색을 입힌 뒤, 자신만의 터치를 더하는 식입니다. 하지만 덜 알려진 아티스트들은 많은 시청자에게 “충분히 괜찮다”고 여겨지는 원클릭 AI 결과물과 경쟁하기 어려울 수 있습니다. 이는 에로틱 아트에서 “진짜 수작업” 가치가 새롭게 부각될 필요성을 제기합니다. 실제로 인간이 만들었다는 사실에 더 많은 비용을 지불하는 팬들이 있기 때문입니다.

성인 산업의 입장: 흥미롭게도, 대형 성인 엔터테인먼트 기업들은 AI에 대해 공개적으로는 비교적 조용한 편입니다. 아마도 내부적으로 전략을 모색 중이거나, 주목을 받으면 더 많은 감시를 받을 수 있기 때문일 수 있습니다. 성인 산업은 역사적으로 기술 도입에 매우 빠른 편이었습니다(인터넷, 웹캠, VR 포르노 등). 이미 성인 사이트에서는 “딥페이크 셀럽 닮은꼴” 콘텐츠(일부 지역에서는 법적 회색지대)를 판매하고, AI 기반 추천 시스템을 실험하고 있습니다. 캠 모델 업계에서는 일부 사이트가 모델이 오프라인일 때 고객 유지를 위해 AI 챗봇을 시험해본 바 있습니다. 하지만 주요 플랫폼에서 인간 연예인을 AI로 완전히 대체하는 일은 아직 일어나지 않았습니다. 이는 기술의 미성숙과 진짜 상호작용을 선호하는 이용자들의 성향 때문이기도 합니다.

하지만, 경제적 압박이 적응을 강요할 수 있다. 가령, 가정적으로 2-3년 내에 AI가 원하는 두 명의 유명인으로 풀 HD 포르노 영상을 즉석에서 생성할 수 있다면, 무명 배우가 출연하는 전문 포르노 시장은 침체될 수 있다 – 무한한 무료 판타지가 제공되는데 왜 돈을 내고 구독하겠는가? 업계는 진정성, 실시간 상호작용, 커뮤니티와 같은 AI가 제공할 수 없는 요소를 강조하는 방향으로 전환할 수 있다. 역설적으로 “100% 인간, 진짜 쾌락”과 같은 태그로 마케팅하는 포르노가 등장할 수도 있다. 반대로, 업계는 비용 절감을 위해 AI를 도입할 수도 있다 – 예를 들어, 한 명의 배우가 연기한 뒤 AI로 얼굴을 바꿔 한 번의 촬영으로 여러 “다른” 영상을 만드는 식이다(이상적으로는 동의하에). 이 시나리오는 윤리적 문제를 야기할 수 있다(시청자가 같은 사람이 변형된 것임을 아는가? 출연자는 변형된 영상마다 돈을 받는가, 아니면 한 번만 받는가?).

한 가지 긍정적인 영향은 안전에 있을 수 있다: AI가 위험한 행위를 시뮬레이션할 수 있다면, 스튜디오는 출연자를 위험에 빠뜨리지 않기 위해 이를 활용할 수 있다. 예를 들어, 출연자가 극한의 스턴트를 직접 하지 않고 기본적인 장면만 촬영한 뒤, AI로 강렬한 부분을 생성할 수 있다. 또는 앞서 언급한 것처럼, 출연자가 옷을 입고 촬영한 뒤 AI가 누드 버전을 생성할 수도 있는데, 이는 실제로 현장에서 벗지 않고도 포르노에 출연할 수 있는 한 방법이 될 수 있다(다만, 이 역시 진정성과 동의에 대한 논란을 불러일으킬 수 있다).

시장 분화: 성인 콘텐츠 시장은 여러 계층으로 분화될 가능성이 높다:

고급 인간 콘텐츠는 실제 상호작용을 강조(개인 맞춤 영상, 크리에이터와 직접 소통하는 OnlyFans, 라이브 캠쇼 등 – 인간의 존재 자체가 핵심인 것들)할 것이다.
AI 생성 콘텐츠는 매우 저렴하거나 무료로, 튜브 사이트나 개인 채널에 넘쳐날 수 있다. 이는 일반 소비자나 매우 특정한 판타지(유명인 등)를 가진 이들을 만족시킬 수 있다. 딥페이크 포르노가 반합법적 상태로 남는다면, 더 지하화되거나 비상업적 포럼에 머물 수 있다.
하이브리드 콘텐츠는 크리에이터가 AI를 활용하되 직접 관여하는 형태다. 예를 들어, 모델이 자신의 이미지를 AI로 보정하거나 환상적인 장면에 배치한 AI 보강 이미지 세트를 판매할 수 있다. 투명하고 동의가 이루어진다면, 팬들은 다양한 변주를 긍정적으로 받아들일 수 있다.

창작자에 대한 정신적 및 사회적 영향: 자신의 얼굴이 동의 없이 사용되거나, 기계와 경쟁해야 한다는 압박감 등으로 인해 창작자들이 받는 감정적 고통을 무시할 수 없습니다. OnlyFans 창작자들의 Reddit 댓글에서는 불안감과 심지어 절망감까지 드러났습니다 reddit.com reddit.com. 이는 예술가, 배우 등 다른 창작 분야에서 AI에 대해 벌어지는 일과 비슷하지만, 성인 업계에서는 낙인과 제도적 지원 부족으로 인해 우려를 표명하거나 보호를 요청하기가 더 어려울 수 있습니다. 앞으로 성노동자 옹호 단체들이 디지털 권리와 AI까지 활동 범위를 넓혀, 훈련 데이터셋에서 자신의 정보를 삭제할 권리나 동의 없는 딥페이크 금지 등과 같은 사안을 위해 싸울 가능성이 있습니다. (미국의 Adult Performers Actors Guild와 같은) 노조는 계약서에 AI 관련 조항을 협상할 수도 있습니다. 예를 들어, 한 출연자가 자신의 영상이 훗날 자신의 이미지를 대체할 AI 훈련에 사용되지 않도록 요구하거나, 최소한 사용 시 대가를 지급받도록 할 수 있습니다.

소비자 행동 측면에서, 초기의 일화적 증거에 따르면 많은 포르노 시청자들은 여전히 실제라는 사실을 아는 것을 선호합니다 – 실제 인간 출연자에게는 특별한 매력이 있습니다. 일부 이용자들은 AI 포르노가 “영혼이 없다”거나, 신기함이 사라지면 덜 만족스럽다고 보고합니다. 그래서 인간 창작자들은 AI가 결코 진정으로 복제할 수 없는 진정성과 개인적 연결을 강조함으로써 자신의 관객을 유지할 수 있습니다. 하지만 AI가 발전함에 따라 그 격차는 줄어들 수 있고, AI와 함께 자란 젊은 세대는 구분을 두지 않을 수도 있습니다.

신인에게 기회가 될까? 흥미로운 반전도 있습니다: AI는 성인 콘텐츠 시장 진입 장벽을 낮출 수 있습니다. 실제 자신의 몸이나 얼굴을 공개하지 않을 사람이 AI 페르소나 – 가상의 섹시 아바타 – 를 만들어 그 아바타의 콘텐츠를 판매할 수 있습니다. 본질적으로 AI 대리인을 통한 캠걸이나 OnlyFans 모델이 되는 셈입니다. 일부 이용자들은 이를 시도해 다양한 성공을 거두었습니다. 이는 자신의 신원이나 신체를 노출하지 않고도 판타지를 수익화할 수 있는 길을 엽니다. 다만, 현재 플랫폼들은 신분 확인을 요구해 사칭이나 미성년자 문제를 방지하고 있으므로, 개인은 여전히 등록해야 하고, 해당 콘텐츠가 가상의 인물의 AI 생성물임을 명시해야 할 가능성이 높습니다. 만약 허용된다면, 이는 새로운 유형의 창작자, 즉 AI 기반 성인 창작자를 탄생시킬 수 있습니다. 이들은 실제 모델과 경쟁하는 진짜 사업가이지만, 그들의 상품은 완전히 가상 캐릭터입니다. “가짜” 모델에게도 사용자가 돈을 지불할까요? 충분히 매력적이고 상호작용이 뛰어나며, 특히 처음에는 가짜임을 알아차리지 못한다면 가능할 수 있습니다. 어떤 이용자들은 “항상 이용 가능하고 기분이 나쁜 날이 없는” AI 모델을 오히려 선호할 수도 있습니다. 이는 인간 출연자들에게는 당연히 불안한 일입니다.

산업에 대한 규제 및 법적 영향: 딥페이크에 대한 새로운 법률로 인해, 성인 플랫폼들은 비동의 콘텐츠를 금지할 법적 유인이 생겼습니다. 아이러니하게도, 이는 (동의한 출연자만을 다루는) 기존의 규제된 성인 비즈니스가 불법 AI 사이트에 비해 더 강력한 입지를 갖게 만들 수 있습니다. 집행이 강력하다면, 딥페이크 포르노를 원하는 이용자들은 접근이 더 어려워질 수 있고, 이는 그들을 불법 다크웹 소스로 몰거나 아예 습관을 포기하게 만들 수 있습니다. 한편, 동의한 AI 창작물(예: 모델이 자신의 AI 버전에 동의하는 경우)은 새로운 라이선스 상품 카테고리가 될 수 있습니다. 이는 법적 명확화가 필요합니다: 예를 들어, 모델이 자신의 얼굴에 저작권이나 상표권을 얻어 허락 없이 AI 복제본을 만든 사람을 고소할 수 있을까요? 덴마크와 곧 시행될 미국 주법 등 일부 국가는 그 방향으로 움직이고 있습니다 euronews.com. 이는 출연자들이 자신의 브랜드를 보호하는 데 도움이 될 것입니다.

영향 요약: 성인 콘텐츠 산업은 잠재적인 패러다임 전환의 시작점에 있습니다. AI를 윤리적이고 투명하게 활용해 적응하는 이들은 번창하거나 최소한 생존할 수 있습니다. 이를 무시하는 이들은 콘텐츠의 홍수와 변화하는 소비자 습관에 맞서 고전할 수 있습니다. 한 AI 기업가는 AI 동반자에 대해 “모든 새로운 혁신은 극적인 변화처럼 느껴질 수 있다… 이것은 진화다”라고 말했습니다 sifted.eu. 이 진화가 기존 창작자 생태계를 보완할지, 아니면 잠식할지가 관건입니다.

결론: 딜레마로 가득한 새로운 에로틱 프런티어

NSFW AI의 등장은 부인할 수 없이 판도라의 상자를 열었습니다. 불과 몇 년 만에, 우리는 AI가 웃긴 고양이 사진을 생성하던 것에서 한 사람의 인생을 파괴할 수 있는 가짜 누드 사진을 만들어내는 단계까지 목격했습니다. 이 기술은 강력하고, 양날의 검이며, 이제는 사라지지 않을 것입니다. 한편으로는, 평범한 사람들이 원하는 어떤 에로틱 이미지나 시나리오도 만들어낼 수 있게 하여, 성인 엔터테인먼트에서 소비자와 창작자의 경계를 흐리고 있습니다. 이는 개인화된 쾌락, 창의적 탐구, 그리고 종종 기술적으로 정체되어 있던 수십억 달러 규모 산업에서 새로운 비즈니스 모델의 가능성을 품고 있습니다. 반면, NSFW AI는 새로운 형태의 학대—일부는 이를 “디지털 강간”이라 부릅니다—를 촉진하여, 개인(대부분 여성)이 디지털 영역에서 자신의 이미지와 신체에 대한 통제권을 빼앗기게 만들었습니다. 이는 우리 법체계에 도전장을 던지며, AI 시대에 맞는 사칭, 포르노, 동의의 정의를 업데이트하기 위해 분투하게 만듭니다. 그리고 AI에 의해 증강되거나 시뮬레이션될 때, 성, 표현의 자유, 인간적 연결의 본질에 대한 불편한 질문과 마주하게 만듭니다.

2025년 말 현재, 추가적인 안전장치와 책임 강화를 향해 추세가 움직이고 있습니다. 미국과 유럽연합의 주요 입법, 아시아의 단속, 그리고 플랫폼 정책 변화는 모두 비동의 AI 포르노가 사회적으로 용납될 수 없는 것으로 널리 인식되고 있음을 보여줍니다. 동시에, 생성형 기술 자체가 발전함에 따라 남용을 감지하고 억제하기 위한 기술도 개발되고 있습니다. 앞으로도 고양이와 쥐의 추격전 같은 역동성은 계속될 것입니다. 새로운 안전 조치가 도입될 때마다, 악의적 행위자들은 새로운 회피 기술로 대응할 수 있습니다. 하지만 이제 집단적 인식 수준이 훨씬 높아졌습니다. AI 포르노는 더 이상 인터넷의 특이한 변두리 현상이 아니라, 의회와 언론에서 다루는 주류 사회적 우려의 주제가 되었습니다. 이러한 대중적 인식은 피해자들이 목소리를 내고 정의를 요구하며, 기업들이 책임을 지도록 압박하는 힘이 될 수 있습니다.

앞을 내다보면, 글로벌 협력이 핵심이 될 것입니다. 이 문제들은 국경에서 멈추지 않습니다. 한 나라에서 만들어진 딥페이크가 다른 나라에서 누군가의 인생을 망칠 수 있습니다. 정부들이 모범 사례를 공유하는 것이 중요할 것입니다(유로뉴스의 유럽 법률 설문조사가 보여주듯, 많은 국가들이 서로의 접근법에서 배우고 있습니다 euronews.com euronews.com). 향후 몇 년 안에 이미지 기반 성적 학대에 맞서기 위한 국제적 프레임워크나 조약이 등장할 수도 있습니다. 최악의 범죄를 인권에 대한 범죄로 다루는 것이죠. 그동안 시민사회 단체와 교육자들은 계속해서 인식을 높이고, 미디어 리터러시(사람들이 “유출된” 친밀한 콘텐츠를 믿거나 공유하기 전에 두 번 생각하도록 하는 것)를 가르치며, 피해자를 지원해야 할 것입니다.

NSFW AI와 관련된 모든 어두움에도 불구하고, 모든 것이 절망적인 것만은 아니다라는 점을 주목할 필요가 있습니다. 동의가 이루어진 맥락에서는, 어떤 사람들은 실제로 여기서 행복을 얻기도 합니다. 예를 들어, 커플이 AI로 생성된 롤플레이 시나리오로 친밀감을 더하거나, 성인 창작자가 AI 페르소나를 이용해 집에서 안전하게 수입을 올리거나, 혹은 누군가가 자신만의 판타지가 AI 예술이나 이야기로 처음 구현되는 것을 보는 경우 등입니다. 이러한 사용 사례들은 논의에서 잊혀져서는 안 됩니다. 이는 기술 자체가 본질적으로 악한 것이 아님을 보여줍니다. 이 기술은 도구일 뿐이며, 인간의 의도를 증폭시킵니다. 선하든 악하든 말이죠. 우리의 과제는 이 기술의 사용을 동의와 창의적 목적에 맞게 이끌고, 악의적 사용에는 강력히 대응하는 것입니다.

아티스트, 창작자, 그리고 성노동자 – 즉, 성인 콘텐츠 세계에 몸담고 있는 이들은 이 새로운 환경에서 계속 적응하고 자신만의 공간을 만들어갈 것입니다. 많은 이들이 “AI 윤리” 논의에 자신의 목소리가 포함되도록 싸우고 있으며, 동의와 보상 메커니즘을 요구하고 있습니다. 그들이 실질적으로 요구하는 것은 단순합니다: 허락 없이 우리 것으로 가져가지 마세요. 사회 전체가 예술, 뉴스, 포르노 등 모든 AI 영역에서 이 원칙을 두고 씨름하고 있습니다.

결론적으로, NSFW AI는 기술, 성, 법률, 윤리의 교차점에 서 있습니다. 이는 우리에게 디지털 시대에 동의, 프라이버시, 심지어 현실 자체의 개념을 재정의하도록 도전하고 있습니다. 2020년대 후반은 이 영역을 지배할 규범과 규칙을 정하는 데 중요한 시기가 될 것입니다. 우리는 AI 포르노가 어디에나 있지만 엄격히 규제되고, 주로 선하거나 중립적인 목적으로 사용되는 미래로 향하고 있을까요? 아니면 주류 매체에서는 이를 몰아내지만, 불법 거래처럼 어두운 구석에서 번성하는 발칸화 현상을 보게 될까요? 그 결과는 지금 입법자, 기술 기업, 사용자들이 내리는 결정에 달려 있습니다.

한 가지 확실한 것은, 이미 병에서 나온 지니를 다시 넣을 수는 없다는 점입니다. 우리는 NSFW AI를 없던 일로 만들 수 없습니다. 하지만 우리는 이 기술과 책임감 있게 공존하는 법을 배우고 반드시 실천해야 합니다. 사용자로서 우리는 이 도구를 사용할 때 타인의 존엄성을 존중해야 하며, 기업으로서는 처음부터 안전장치를 구축해야 하고, 정부로서는 명확한 경계를 설정해야 하며, 커뮤니티로서는 남용을 용납하지 않아야 합니다. 경계심과 공감을 가지고, AI 포르노의 ‘와일드 웨스트’ 시대가 보다 문명화된 영역으로 진화하길 기대합니다. 그곳에서는 동의한 성인들이 새로운 형태의 에로틱 아트와 연결을 즐길 수 있고, 기술을 악용하려는 이들은 차단될 수 있습니다. NSFW AI의 이야기는 아직 진행 중이며, 2025년 중반은 그저 1장에 불과합니다. 지금 사회의 대응이 이 기술이 궁극적으로 친밀한 콘텐츠 영역에서 우리를 풍요롭게 할지, 위험에 빠뜨릴지 결정하게 될 것입니다.

출처:

Oremus, Will. “Congress passes bill to fight deepfake nudes, revenge porn.” The Washington Post (via Klobuchar Senate site), 2025년 4월 28일 klobuchar.senate.gov klobuchar.senate.gov.
Fawkes, Violet. “8 Best NSFW AI Image Generators – Finding pleasure at the crossroads of code and consent.” Chicago Reader, 2025년 4월 13일 chicagoreader.com chicagoreader.com.
Mahdawi, Arwa. “Nonconsensual deepfake porn is an emergency that is ruining lives.” The Guardian, 2023년 4월 1일 theguardian.com theguardian.com.
페리스, 레일라. “AI 생성 포르노 사이트 Mr. Deepfakes, 서비스 제공업체의 지원 중단으로 폐쇄.” CBS 뉴스, 2025년 5월 5일 cbsnews.com cbsnews.com.
CBS 뉴스/AFP. “AI 생성 포르노 스캔들, 홍콩대학에서 법대생이 20명의 여성 딥페이크를 만들었다는 의혹으로 파문.” CBS 뉴스, 2025년 7월 15일 cbsnews.com cbsnews.com.
라이언스, 에밋. “한국, 성적 딥페이크 영상 소지·시청도 범죄로 규정 예정.” CBS 뉴스, 2024년 9월 27일 cbsnews.com cbsnews.com.
웨딩턴, 케일럽. “딥페이크, AI 생성 아동 포르노 대응 새 법률, 테네시주에서 시행.” WSMV 뉴스 내슈빌, 2025년 6월 30일 wsmv.com wsmv.com.
데스마레, 안나. “덴마크, 저작권 보호로 딥페이크에 맞서다. 유럽에는 어떤 법이 있나?” 유로뉴스, 2025년 6월 30일 euronews.com euronews.com.
니콜-슈바르츠, 카이. “AI OnlyFans를 만나다: 한 스타트업이 ‘에로틱 동반자’ 플랫폼 구축에 수백만 달러를 유치한 방법.” Sifted, 2025년 3월 13일 sifted.eu sifted.eu.
Wilson, Claudia. “상원, DEFIANCE 법안 통과.” Center for AI Policy (CAIP), 2024년 8월 1일 centeraipolicy.org centeraipolicy.org.
Arnold, Stephen. “구글, 의심스러운 콘텐츠에 맞서다 — AI가 제대로 해낼 수 있을까?” Beyond Search 블로그, 2024년 5월 24일 arnoldit.com arnoldit.com.
Holland, Oscar. “대만의 린즈링, 딥페이크 시련과 AI 허위정보와의 싸움에 대해 말하다.” CNN, 2023년 10월 5일 (연예인 딥페이크 관련 맥락).
(본문 전반에 인용된 추가 정책 문서, 보도자료, 보고서 등.)

AI deepfake porn ‘humiliated’ ex-British MP. #BBCNews

AI deepfake porn ‘humiliated’ ex-British MP. #BBCNews

Watch this video on YouTube.

Tags: NSFW, 인공지능