Vo vnútri NSFW AI revolúcie: Ako AI-generované porno mení pravidlá hry a vyvoláva kontroverzie

NSFW AI – používanie generatívnej umelej inteligencie na tvorbu „Not Safe For Work“ obsahu pre dospelých – sa stalo horúcou témou. Od AI-generovaných erotických obrázkov a deepfake porno videí po zvukovo klonované zvodkyne a chatbot „priateľky“ – strojové učenie mení krajinu obsahu pre dospelých. Je to technologická revolúcia, ktorá prináša lákavé možnosti aj naliehavé etické otázky v rovnakom rozsahu. Zástancovia vítajú nové možnosti fantázie a kreativity, zatiaľ čo kritici varujú pred obťažovaním, porušovaním súhlasu a spoločenskými škodami. V polovici roka 2025 sa NSFW AI nachádza na rázcestí: prijímaná úzkymi komunitami a startupmi, skúmaná zákonodarcami a obávaná tými, ktorí sa ocitli v jej krížovej paľbe. V tejto komplexnej správe sa ponoríme do toho, čo je NSFW AI, kde sa jej darí, najnovších vývojov (od zákazov platforiem po nové zákony), etických dilem, hlasov na oboch stranách debaty a toho, ako sa svet snaží moderovať a regulovať tento nespútaný nový rozmer AI. Poďme poodhaliť oponu divokého sveta AI-generovaného porna – a prečo to nie je len o porne, ale aj o súkromí, moci a budúcnosti sexuálneho obsahu.

Čo je NSFW AI a ako funguje?

NSFW AI označuje systémy umelej inteligencie, ktoré generujú explicitný obsah pre dospelých – vrátane pornografických obrázkov, videí, zvuku a textu – často s ohromujúcim realizmom. Tieto systémy využívajú tie isté najmodernejšie generatívne technológie, ktoré stoja za nedávnymi prelomami v AI umení a médiách, ale aplikované na materiál s hodnotením X. Kľúčové inovácie zahŕňajú modely hlbokého učenia trénované na obrovských dátových súboroch obrázkov a videí, ktoré sa učia vytvárať nový obsah na základe požiadaviek používateľa. Napríklad text-to-image difúzne modely ako Stable Diffusion dokážu vytvoriť fotorealistické nahé alebo sexuálne obrázky zo stručného textového opisu globenewswire.com. „Deepfake“ techniky umožňujú vymieňať alebo syntetizovať tváre vo videách, čím to vyzerá, že skutoční ľudia (často celebrity alebo súkromné osoby) účinkujú v porne, ktoré nikdy nenatočili. Pokročilé nástroje na klonovanie hlasu dokážu napodobniť hlas človeka s neuveriteľnou presnosťou, čo umožňuje generovanie erotického audia alebo „špinavej reči“ v cieľovom hlase. A veľké jazykové modely dokážu generovať šteklivé erotické príbehy alebo sa zapojiť do sexuálnej role-play konverzácie cez chat.

V podstate NSFW AI systémy používajú rovnaké algoritmy, ktoré generujú akékoľvek AI umenie alebo médiá – len sú trénované alebo doladené na pornografických alebo erotických tréningových dátach. Generative Adversarial Networks (GANs) boli priekopníkmi vo vytváraní nahých obrázkov, ale difúzne modely a modely založené na transformeroch výrazne zlepšili vernosť. Moderné NSFW generátory obrázkov dokážu vytvárať vysokodefiničné nahé obrázky prispôsobené požiadavkám používateľa s minimálnym úsilím globenewswire.com. Tvorcovia deepfake videí často používajú špecializovaný softvér (niektorý open source) na mapovanie jednej tváre na inú v existujúcich videách pre dospelých, čím vzniká syntetická pornografia, ktorú je ťažké odlíšiť od skutočných záberov cbsnews.com. Služby Voice AI dokážu zobrať zvukovú vzorku a generovať novú reč (vrátane explicitného obsahu) v danom hlase. AI chatboty využívajú generovanie prirodzeného jazyka na poskytovanie personalizovaných erotických konverzácií alebo sextingu na požiadanie.

Hranice medzi fikciou a realitou sa stierajú. Ako poznamenal jeden pozorovateľ, „už teraz vysoko realistické obrázky, hlasy a videá NSFW AI generátorov sa neustále vyvíjajú, čo ďalej mení spôsob, akým sa obsah pre dospelých vytvára, konzumuje a chápe“ chicagoreader.com. Používateľ si teraz môže vyčarovať vlastnú pornografickú scénu – napríklad obrázok fantazijného stretnutia so slávnou osobnosťou alebo zvukovú nahrávku ex, ktorá hovorí explicitné veci – jednoduchým zadaním, čo bolo pred pár rokmi nemožné. Táto novonadobudnutá moc vyvoláva naliehavé otázky o súhlase, súkromí a rozdiele medzi kreatívnou fantáziou a zneužívaním. Samotná základná technológia je morálne agnostická – dá sa použiť na vytvorenie čohokoľvek – ale keď sa zameria na ľudskú sexualitu a podobu skutočných ľudí, dôsledky sa stávajú problematickými.

Kľúčové formy AI-generovaného obsahu pre dospelých

• AI-generované obrázky: Text-to-image modely (napr. Stable Diffusion) dokážu vytvárať explicitné erotické alebo pornografické obrázky na základe zadaní. Používatelia môžu špecifikovať vzhľad, scenár atď., čím získajú jedinečné nahé alebo sexuálne obrázky na požiadanie globenewswire.com. Mnohé z týchto modelov sú open-source alebo používateľsky prispôsobené, čo umožňuje obsah nad rámec toho, čo povoľujú bežné AI nástroje.
• Deepfake porno videá: Pomocou deepfake technológie tvorcovia nasadia tvár osoby na porno video, čím vytvoria falošný porno klip niekoho, kto sa nikdy nezúčastnil. Tieto AI-manipulované videá často cielia na celebrity alebo súkromné osoby bez ich súhlasu cbsnews.com theguardian.com. Kvalita deepfake videí sa zlepšila natoľko, že v rokoch 2024–2025 mnohé vyzerajú alarmujúco realisticky, čo umožňujú výkonnejšie GPU a algoritmy.
• Klonovanie hlasu a audio: AI generátory hlasu klonujú hlasy celebrít alebo známych osôb na vytváranie explicitných audio klipov (napríklad simulovanie, že známa herečka rozpráva oplzlo, alebo tvorba erotických audiokníh s akýmkoľvek hlasom). Sofistikovaná hlasová AI (ako ElevenLabs) umožňuje jednoducho generovať vzdychy, dialógy alebo rozprávanie v zvolenom hlase, čo vyvoláva obavy z vydávania sa za iných v pornografickom audiu.
• Erotické chatboty a fikcia: AI jazykové modely sa používajú na NSFW chat a rozprávanie príbehov. Aplikácie „AI priateľka“ a erotické role-play chatboty zaznamenali explóziu popularity v rokoch 2023–2025. Tieto boty dokážu viesť so používateľmi šteklivý chat alebo sexting a generovať neobmedzené erotické texty. Niektoré kombinujú aj vizuály a hlasové poznámky. Ide o novú formu obsahu pre dospelých – interaktívni AI spoločníci uspokojujúci intímne fantázie chicagoreader.com sifted.eu.

Zatiaľ čo hlavné AI platformy (ako OpenAI’s DALL·E alebo Midjourney) zakazujú pornografický obsah, open-source a adult tech komunity tieto technológie prijali a posúvajú NSFW hranice. Open-source povaha mnohých nástrojov „podporuje inovácie a spoluprácu“, ale zároveň uľahčuje odstraňovanie ochranných opatrení a generovanie neregulovaného explicitného obsahu chicagoreader.com chicagoreader.com. Ako uvidíme, tento rozpor medzi inováciou a reguláciou sa prejavuje naprieč rôznymi platformami.

Platformy, aplikácie a komunity poháňajúce NSFW AI

Živý (a niekedy tienistý) ekosystém platforiem a online komunít vznikol na tvorbu a zdieľanie AI-generovaného obsahu pre dospelých. Keďže veľké technologické spoločnosti zakazujú explicitný obsah na svojich AI službách arnoldit.com blog.republiclabs.ai, boom NSFW AI poháňajú nezávislí vývojári, open-source modely a špecializované startupy. Tu sú niektoré z hlavných oblastí, kde NSFW AI žije a prosperuje:

• Open-source modelové knižnice: CivitAI – populárna komunitná webstránka – hostí obrovskú knižnicu AI modelov a obrázkov vytvorených používateľmi, vrátane mnohých špecializovaných na obsah pre dospelých chicagoreader.com. Používatelia si môžu stiahnuť vyladené Stable Diffusion modely na hentai, realistické akty, fetišistické umenie atď. a zdieľať svoje vygenerované obrázky. Otvorenosť takýchto stránok z nich urobila hlavné miesto pre tvorcov NSFW AI. Znamená to však aj minimálnu kontrolu obsahu; obsah sa pohybuje od umeleckej erotiky až po extrémny pornografický materiál. Ďalšie stránky ako Hugging Face hostili NSFW modely (s varovaniami) a fóra ako 4chan či GitHub tiež zdieľali „uniknuté“ necenzurované modely.
• NSFW generátory obrázkov a aplikácie: Množstvo webových služieb sa dnes špecializuje na AI generovanie erotických obrázkov. Napríklad platformy ako Candy.ai, Arting.ai, Vondy, OurDream a ďalšie (často na báze predplatného) umožňujú používateľom generovať vlastné obrázky pre dospelých s relatívne malými obmedzeniami chicagoreader.com chicagoreader.com. Niektoré ponúkajú vysokokvalitné vizualizácie a širokú škálu štýlov – od fotorealistických po anime – a oslovujú rôzne vkusy. Mnohé sa objavili v rokoch 2024–2025, často ponúkajú bezplatné skúšky alebo tokeny a súťažia v tom, kto dokáže vytvoriť najrealistickejšie alebo najkreatívnejšie NSFW umenie. Ich marketing zdôrazňuje personalizáciu a súkromie, pričom používateľom sľubujú, že si môžu vytvoriť presne to, čo chcú „v bezpečnom, súkromnom prostredí, bez obmedzení prednahraného obsahu“ globenewswire.com.
• AI porno komunity a fóra: Pred nedávnymi zásahmi boli špecializované webové stránky s deepfake pornom centrami tejto aktivity. Najznámejšou bola stránka Mr. Deepfakes, založená v roku 2018, ktorá sa stala „najvýznamnejším a najmainstreamovejším trhom“ pre deepfake porno celebrít, ako aj ne-celebrít cbsnews.com. Používatelia na stránke mohli nahrávať a pozerať explicitné deepfake videá a dokonca si za poplatok objednať vlastné nevyžiadané porno cbsnews.com. Stránka vytvorila komunitu s fórami na diskusiu o technikách a výmenu obsahu. Ako však podrobnejšie rozoberieme neskôr, Mr. Deepfakes bol zatvorený v roku 2025 po strate kľúčového poskytovateľa služieb cbsnews.com. Po takýchto zásahoch komunita deepfake porna nezmizla – rozdelila sa a presunula. Odborníci poznamenávajú, že zrušenie veľkej stránky „rozptýli komunitu používateľov, pravdepodobne ich posunie na menej mainstreamové platformy, ako je Telegram“, kde si vymieňajú obsah cbsnews.com. Šifrované aplikácie a špecifické fóra sú dnes skutočne novým domovom pre mnohých NSFW AI nadšencov, ktorých vytlačili z väčších platforiem.
• AI „priateľka“ a sprievodné služby: Vlna startupov spája generovanie erotického obsahu s interaktívnym spoločníctvom. Jedným z pozoruhodných príkladov je Oh (so sídlom v Londýne), ktorý sa prezentuje ako tvorca „AI OnlyFans“ – erotickej sprievodnej platformy, kde používatelia komunikujú s AI-generovanými virtuálnymi modelmi prostredníctvom textu, hlasu a obrázkov sifted.eu sifted.eu. Oh získal 4,5 milióna dolárov začiatkom roku 2025 na vytvorenie „autonómnych sporo odetých botov“, ktorí môžu dokonca proaktívne posielať používateľom flirtujúce správy sifted.eu sifted.eu. Na svojej stránke používatelia vidia profily polonahých AI botov – väčšinou fiktívnych ženských postáv, hoci niektoré sú „digitálne dvojníčky“ skutočných dospelých tvorcov, ktorí licencujú svoju podobu (a získavajú podiel na príjmoch) sifted.eu. Používatelia môžu s týmito botmi chatovať a dostávať šteklivé texty, AI-generované nahé fotky a dokonca aj hlasové poznámky vytvorené klonovanými hlasmi sifted.eu. Viacero podobných služieb sa objavilo okolo rokov 2023–2024: DreamGF, Kupid AI, FantasyGF, Candy.ai a ďalšie, čo naznačuje trend AI poháňaných erotických chat spoločníkov sifted.eu. Príťažlivosťou je 24/7, plne prispôsobiteľná erotická interakcia – v podstate virtuálna camgirl alebo priateľ poháňaný algoritmami.
• Zavedené platformy pre dospelých sa prispôsobujú: Tradičné platformy s obsahom pre dospelých nie sú vlnou AI nedotknuté. OnlyFans, populárna služba na odber obsahu od tvorcov, zápasí s nárastom AI-generovaného obsahu pre dospelých. Podľa pravidiel OnlyFans povoľuje AI-generované obrázky iba vtedy, ak zobrazujú samotného overeného tvorcu a sú jasne označené ako AI obsah reddit.com. Zakazujú používanie AI na napodobňovanie iných osôb alebo na automatizovaný chat s fanúšikmi reddit.com. Napriek tomu sa objavili správy o účtoch, ktoré predávajú balíčky zjavne AI-generovaných nahých fotografií (s typickými chybami ako zvláštne ruky alebo „mŕtve oči“ na každom obrázku) nič netušiacim odberateľom reddit.com. Niektorí ľudskí tvorcovia sú pobúrení, obávajú sa, že falošné AI modely by mohli zaplaviť platformu a poškodiť ich zárobky reddit.com uniladtech.com. Jedna sex workerka sa sťažovala, že AI „berie úsilie, kreativitu a námahu“, ktorú skutoční tvorcovia vkladajú, nazvala to „medvedia služba mojim fanúšikom“ a obáva sa, že to ešte zhorší nerealistické očakávania od sexu reddit.com reddit.com. Na druhej strane, niektorí šikovní tvorcovia pre dospelých prijímajú AI nástroje – používajú generátory obrázkov na vylepšenie alebo znásobenie svojho obsahu, alebo licencujú svoju podobizeň spoločnostiam ako Oh pre dodatočný príjem sifted.eu. Celý priemysel s obsahom pre dospelých (porno štúdiá, cam stránky atď.) opatrne experimentuje s AI na tvorbu obsahu, no zároveň ju vníma s obavami ako rušivý prvok, ktorý by mohol umožniť záplavu užívateľmi generovaného explicitného obsahu mimo profesionálnej sféry. Analytici odvetvia predpovedajú, že AI-generovaný obsah pre dospelých by mohol tvoriť viac ako 30 % online spotreby porna do roku 2027, ak budú súčasné trendy pokračovať globenewswire.com, čo je dôkazom, ako rýchlo sa táto technológia rozširuje.

Komunita NSFW AI je rýchlo sa vyvíjajúca a rozmanitá, od amatérskych umelcov, ktorí skúmajú AI erotiku ako „kreatívne a osobné skúmanie“, až po tvrdé deepfake kruhy generujúce škodlivé falošné nahotinky chicagoreader.com. Nové platformy a nástroje sa objavujú takmer každý týždeň, pričom každá ponúka iný pomer slobody a obmedzení. Ako to zhrnula jedna recenzia z roku 2025: „svet NSFW AI generátorov je rozsiahly a rýchlo sa mení“, pričom niektoré platformy sa zameriavajú na hyperrealistické vizuály, iné na interaktívne rozprávanie príbehov a každá z nich zaberá vlastnú etickú šedú zónu chicagoreader.com. To, čo ich spája, je prísľub na požiadanie, vysoko personalizovaného obsahu pre dospelých – a riziká, ktoré prichádzajú s takouto mocou.

2025: Záplava AI porna a narastajúca vlna odporu

V polovici roku 2025 dosiahlo NSFW AI bod zlomu. Na jednej strane sa obsah stal rozšírenejším a presvedčivejším než kedykoľvek predtým; na druhej strane verejné obavy a regulačný dohľad dosiahli nové maximum. Medzi nedávne udalosti patria incidenty zneužitia s vysokým profilom, rýchle regulačné reakcie a dokonca aj samoregulácia v rámci technologického priemyslu. Nižšie rekapitulujeme niektoré z hlavných správ a trendov rokov 2024–2025 týkajúcich sa AI-generovaného porna:

Kontroverzie a škandály s nevyžiadanými deepfake

Azda nič nepoháňalo debatu o NSFW AI viac ako nárast neželaného deepfake pornografie – používanie AI na to, aby to vyzeralo, že niekto (zvyčajne žena) sa objavil nahý alebo v sexuálnych aktoch, ktoré nikdy neurobil. Táto prax začala s celebritami, ale čoraz viac sa zameriava na bežných ľudí, často ako forma obťažovania alebo „pomstychtivého porna“. Do roku 2023 sa stala znepokojivo rozšírenou a dostupnou: investigatívne správy zistili, že ktokoľvek mohol ľahko nájsť deepfake porno stránky cez Google, pripojiť sa na Discord a požiadať o vlastné falošné videá, a dokonca zaplatiť kreditnou kartou – prekvitajúca podzemná ekonomika, kde „tvorcovia“ otvorene inzerujú svoje služby theguardian.com theguardian.com. Štúdie opakovane zistili, že obeťami tohto trendu sú v drvivej väčšine ženy a dievčatá. Prelomová správa spoločnosti Sensity (firma zaoberajúca sa bezpečnosťou AI) zistila, že 95–96 % deepfake obsahu online tvorili neželané sexuálne obrázky, takmer všetky zobrazovali ženy theguardian.com. Falošné nahé fotografie známych žien od herečky Taylor Swift až po internetové osobnosti sa stali virálnymi na sociálnych sieťach klobuchar.senate.gov. Ešte znepokojujúcejšie je, že terčom sa stali aj súkromné osoby a maloletí: napríklad 14-ročné dievča zistilo, že spolužiaci použili aplikáciu na vytvorenie falošných porno obrázkov s jej podobou a zdieľali ich na Snapchate klobuchar.senate.gov.

Jedna výrazná udalosť sa stala v januári 2023, keď bol streamer videohier na Twitchi pristihnutý s otvorenou kartou prehliadača na deepfake porno stránke zobrazujúcej jeho ženské kolegyne. Streamer sa so slzami v očiach ospravedlnil, no jedna zo žien, Twitch streamerka QTCinderella, reagovala emotívne: „Takto vyzerá pocit zneuctenia… vidieť moje ‘nahé’ fotky šírené“ bez súhlasu theguardian.com. Zdôraznila, aké nespravodlivé je, že ako žena na očiach verejnosti teraz musí tráviť čas a peniaze bojom za odstránenie falošných sexuálnych obrázkov zo internetu theguardian.com theguardian.com. Jej výzva – „Nemalo by byť súčasťou mojej práce byť takto obťažovaná“ – zasiahla verejnosť a pritiahla pozornosť médií na deepfake porno ako vážnu formu zneužívania.

Odvtedy sa takéto prípady len množia. V roku 2024 sa študenti vo viacerých krajinách stali páchateľmi aj obeťami AI výmeny nahých fotografií. V Austrálii otriasli školskou komunitou falošné explicitné obrázky viacerých študentiek, ktoré boli vytvorené a zdieľané bez ich súhlasu, čo viedlo k policajnému vyšetrovaniu a verejnému pobúreniu theguardian.com. V Hongkongu v roku 2025 údajne študent práva na prestížnej Hongkonskej univerzite vytvoril AI porno obrázky najmenej 20 spolužiačok a učiteliek, čo spôsobilo škandál, keď univerzita najskôr udelila len varovný list cbsnews.com cbsnews.com. Hongkonské úrady poznamenali, že podľa platnej legislatívy je trestné iba šírenie takýchto obrázkov, nie ich samotné vytvorenie, čo ponecháva medzeru v zákone, ak páchateľ falošné obrázky verejne nezdieľal cbsnews.com. Skupiny za práva žien označili mesto za „zaostávajúce“ v ochrane, a hongkonský komisár pre ochranu súkromia aj tak začal trestné vyšetrovanie s odvolaním sa na možný úmysel ublížiť cbsnews.com cbsnews.com. Prípad zdôraznil, že terčom sa môže stať ktokoľvek a existujúce zákony často nestíhajú držať krok.

Uprostred týchto zneužívaní obete opisujú vážne emocionálne a reputačné škody. Byť zobrazený v hyperrealistickom falošnom sexuálnom akte je hlboko traumatizujúce, aj keď človek logicky vie, že je to falošné. „Je to surreálne vidieť svoju tvár… Vyzerali akoby boli vnútri mŕtvi,“ povedala jedna vysokoškoláčka, ktorá našla AI-generované videá seba samej na porno stránke (nahrané nespokojným bývalým spolužiakom) centeraipolicy.org. Obete sa cítia bezmocné, nielen preto, že nikdy nesúhlasili s takýmito obrázkami, ale aj preto, že je veľmi ťažké ich odstrániť. Ako napísala jedna novinárka, „neželaný deepfake porno je núdzová situácia, ktorá ničí životy.“ Núti ženy žiť v stave paranoje, premýšľať, kto tieto falošné obrázky videl, a odvádza ich energiu do „nočnej hry na krtka“, keď sa snažia vymazať obsah z internetu theguardian.com klobuchar.senate.gov. Aktivisti to prirovnali k forme sexuálneho kyberterorizmu, ktorý má za cieľ umlčať a zastrašiť ženy theguardian.com.

Dokonca aj hlavné platformy sociálnych médií neúmyselne uľahčujú šírenie AI explicitného obsahu. Začiatkom roku 2024 sa explicitné deepfake obrázky Taylor Swift rozšírili na X (predtým Twitter) tak masívne – získali milióny zobrazení – že platforma dočasne zablokovala výsledky vyhľadávania jej mena, aby zastavila túto vlnu cbsnews.com. Zistilo sa, že Meta (Facebook/Instagram) v roku 2024 zobrazovala stovky reklám na „nudify“ aplikácie (nástroje, ktoré digitálne vyzliekajú obrázky žien pomocou AI), napriek tomu, že takéto reklamy porušujú pravidlá. Po vyšetrovaní CBS News Meta mnohé z týchto reklám odstránila a priznala, že prešli cez kontrolu cbsnews.com. Prítomnosť takýchto reklám ukazuje, ako normalizované a dostupné sa AI aplikácie na „vyzliekanie“ stali, dokonca aj na legitímnych reklamných sieťach cbsnews.com.

Zákazy platforiem a samoregulácia v odvetví

Vzhľadom na verejný tlak niektoré technologické platformy a poskytovatelia služieb v uplynulom roku podnikli kroky na obmedzenie NSFW AI obsahu. Významným vývojom bolo zatvorenie Mr. Deepfakes v máji 2025, o ktorom už bola reč. Stránka oznámila, že končí svoju činnosť po tom, čo „kľúčový poskytovateľ služieb stiahol svoju podporu“, čo v podstate stránku vyradilo z prevádzky cbsnews.com. Hoci to nie je potvrdené, naznačuje to, že infraštruktúrny alebo hostingový poskytovateľ (možno cloudová služba, registrátor domén alebo služba ochrany pred DDoS útokmi) sa rozhodol ukončiť spoluprácu, pravdepodobne kvôli právnym alebo reputačným rizikám. Časovanie bolo len pár dní po tom, čo americký Kongres schválil významný zákon proti deepfake (rozoberaný nižšie), čo mnohí vnímajú ako súčasť širšieho zásahu cbsnews.com. Henry Ajder, známy odborník na deepfake, oslávil zatvorenie ako rozbitie „centrálneho uzla“ veľkej siete zneužívania cbsnews.com. „Toto je moment na oslavu,“ povedal, pričom však varoval, že problém nevyžiadaných deepfake obrázkov „nezmizne“ – rozptýli sa, ale pravdepodobne už nikdy nezíska takúto mainstreamovú pozíciu cbsnews.com. Ajder skutočne poznamenal, že tieto komunity si nájdu nové útočiská, ale „nebudú také veľké a výrazné“ ako mať jednu veľkú centrálnu stránku, čo je „zásadný“ pokrok cbsnews.com.

Veľké technologické spoločnosti tiež začali riešiť aspekt nástrojov a reklám. V máji 2024 Google aktualizoval svoje zásady, aby zakázal reklamy na platformy, ktoré vytvárajú deepfake porno alebo návody, ako ho vytvoriť arnoldit.com. Krok Googlu, ktorý nadobudol účinnosť na konci mája 2024, bol snahou zastaviť propagáciu týchto služieb prostredníctvom Google Ads. (Google už predtým zakázal používanie svojej platformy Colab na trénovanie deepfake modelov a už v roku 2018 stránky ako Reddit a Pornhub oficiálne zakázali AI-generované nevyžiadané porno arnoldit.com.) Tento krok bol prezentovaný ako príprava Googlu na horšie časy: „ak deepfake porno vyzeralo v roku 2018 nepresvedčivo, teraz bude určite vyzerať oveľa realistickejšie,“ poznamenala správa ExtremeTech, čím odôvodnila potrebu prísnejších pravidiel pre reklamu arnoldit.com. Sociálne siete podobne aktualizujú moderovanie obsahu – napríklad Pornhub a hlavné stránky pre dospelých sa v roku 2018 zaviazali zakázať deepfaky (ako nevyžiadané porno) a v Európe nové pravidlá v rokoch 2024–25 nútia porno stránky aktívne „zakročiť proti škodlivému obsahu“ alebo čeliť pokutám subscriber.politicopro.com. V rámci širšieho úsilia o bezpečnosť vlastník Pornhubu dokonca na krátky čas pozastavil služby v niektorých regiónoch (ako Francúzsko a niektoré štáty USA) kvôli obavám z dodržiavania nových zákonov subscriber.politicopro.com, čo ilustruje, ako sú platformy pre dospelých nútené brať ochranu obsahu vážne alebo zrušiť prístup.Mainstreamové AI firmy sa naďalej dištancujú od NSFW využitia. OpenAI’s image model DALL·E a služba ChatGPT udržiavajú prísne filtre proti sexuálnemu obsahu. Midjourney (populárny AI generátor obrázkov) nielenže zakazuje pornografické zadania, ale implementoval automatizovanú moderáciu, ktorá rozpoznáva kontext, aby zabránil používateľom prepašovať NSFW požiadavky arxiv.org. Keď sú filtre jedného modelu prekonané šikovným formulovaním zadania, incidenty sa stávajú verejnými a vývojári sprísňujú ochranné opatrenia (večná hra na mačku a myš). Na druhej strane, noví hráči niekedy propagujú svoj nedostatok cenzúry ako predajnú výhodu: napríklad najnovší model Stability AI Stable Diffusion XL dokáže technicky vytvárať NSFW obrázky, ak je spustený lokálne bez bezpečnostného filtra, a niektoré menšie spoločnosti otvorene inzerujú „menej obmedzení na NSFW obsah v porovnaní s konkurenciou“ latenode.com. To ukazuje rozdelenie v AI priemysle: veľkí hráči sa prikláňajú k opatrnosti a bezpečnosti značky, zatiaľ čo menšie alebo otvorené projekty vychádzajú v ústrety dopytu po necenzurovanej generatívnej AI – vrátane porna.

Hlavné právne a regulačné zmeny (2024–2025)

Možno najzásadnejšie zmeny prichádzajú od zákonodarcov reagujúcich na nebezpečenstvá AI porna. Po celom svete začínajú vlády prijímať zákony na potrestanie nevyžiadaných deepfakeov, ochranu obetí a dokonca aj reguláciu samotných AI nástrojov. Tu je prehľad významných krokov:

• Spojené štáty – Zákon Take It Down (2025): V apríli 2025 americký Kongres drvivou väčšinou schválil dvojstranný „Take It Down Act“, prvý federálny zákon, ktorý priamo rieši AI-generované intímne obrázky klobuchar.senate.gov. Ustanovuje, že je federálnym trestným činom vytvárať alebo zdieľať nevyžiadané intímne obrázky (skutočné alebo AI-generované) osoby. Kľúčové je, že vyžaduje od online platforiem, aby odstránili takýto obsah do 48 hodín od nahlásenia obete klobuchar.senate.gov. Tento zákon – presadzovaný prvou dámou Melaniou Trumpovou a spoluautormi zo senátorov oboch strán – bol podpísaný prezidentom Donaldom Trumpom v máji 2025 klobuchar.senate.gov. Je považovaný za prvý významný internetový zákon druhého Trumpovho obdobia a priamu reakciu na „rýchlo rastúci problém [nevyžiadanej pornografie]“ klobuchar.senate.gov. Ochrancovia obetí ho označili za dlho očakávaný. „Deepfaky vytvárajú desivé nové príležitosti na zneužívanie,“ povedala senátorka Amy Klobuchar a dodala, že teraz môžu obete dosiahnuť odstránenie materiálu a páchateľov postaviť pred zodpovednosť klobuchar.senate.gov. Významné technologické spoločnosti ako Meta, Google a Snap tento zákon podporili – čo je znakom konsenzu, že bolo potrebné konať klobuchar.senate.gov. Zákon stanovuje tresty vrátane pokút a až 2 rokov väzenia pre páchateľov cbsnews.com. Umožňuje tiež obetiam žalovať tvorcov/distribútorov o náhradu škody, čím posilňuje občianskoprávne konanie. Skupiny za slobodu prejavu a ochranu súkromia upozornili na možné zneužitie zákona – napríklad Lia Holland z Fight for the Future ho označila za „dobre mienený, ale zle napísaný“, pričom sa obáva, že zlí aktéri by mohli zneužívať požiadavky na odstránenie na cenzúru legitímneho obsahu klobuchar.senate.gov. Napriek tomu je Take It Down Act už v platnosti a predstavuje prvý skutočný krok federálnej vlády USA v boji proti sexuálnemu zneužívaniu pomocou AI vo veľkom rozsahu.
• Štáty USA: Ešte pred federálnymi opatreniami viaceré štáty USA prijali vlastné zákony. Kalifornia, Texas, Virgínia, New York a ďalšie prijali v rokoch 2019–2023 zákony, ktoré zakazujú vytvárať alebo šíriť deepfake pornografiu bez súhlasu (často zaradené pod zákony o pomsteckej pornografii alebo sexuálnej imitácii). V roku 2025 štáty pokračovali v úprave zákonov. Napríklad, Tennessee zaviedol zákon „Preventing Deepfake Images Act“ účinný od 1. júla 2025, ktorý vytvára občianskoprávne aj trestnoprávne dôvody na žalobu pre každého, koho intímna podobizeň je použitá bez súhlasu wsmv.com wsmv.com. Impulz prišiel po tom, čo miestna televízna meteorologička zistila, že sa na internete šíria falošné nahé fotografie s jej podobou, čo ju viedlo k svedectvu o dopade na ňu a jej rodinu wsmv.com. Tennessee tiež prijal zákon kriminalizujúci samotné nástroje na AI detskú pornografiu – stáva sa trestným činom vedome vlastniť, distribuovať alebo vyrábať softvér určený na tvorbu AI-generovaného materiálu sexuálneho zneužívania detí wsmv.com. Tento zákon uznáva hrôzu AI-generovanej detskej pornografie a snaží sa jej predísť zameraním sa na samotnú technológiu (vlastnenie takéhoto nástroja v TN je teraz trestným činom triedy E, výroba triedy B) wsmv.com.
• Európa – celoúnijné opatrenia: Európska únia zvolila dvojitý prístup: všeobecné regulácie AI a špecifické trestné smernice. Pripravovaný Zákon EÚ o AI (očakávané dokončenie v rokoch 2024/2025) bude vyžadovať, aby generatívny AI obsah spĺňal povinnosti transparentnosti. Deepfaky, klasifikované ako AI s „obmedzeným rizikom“, nebudú úplne zakázané, ale musia byť jasne označené ako AI-generované (napr. vodoznaky alebo upozornenia) a spoločnosti musia zverejniť podrobnosti o svojich tréningových dátach euronews.com euronews.com. Nedodržanie môže znamenať pokuty až do výšky 15 miliónov eur alebo viac euronews.com. Okrem toho EÚ schválila Smernicu o násilí na ženách, ktorá výslovne kriminalizuje nevyžiadané vytváranie alebo zdieľanie sexuálnych deepfakov euronews.com. Ukladá povinnosť členským štátom EÚ zakázať toto správanie (presné tresty ponechané na jednotlivých krajinách) do roku 2027 euronews.com euronews.com. To znamená, že v celej Európe bude vytvorenie falošného pornografického obrázka niekoho bez jeho súhlasu trestným činom, čím sa zjednotí prístup s tým, ako sa rieši skutočná pomsta pornografiou.
• Francúzsko: Francúzsko v roku 2024 rázne zakročilo s novým ustanovením vo svojom trestnom zákonníku. Vo Francúzsku je teraz nezákonné zdieľať akýkoľvek AI-generovaný vizuálny alebo zvukový záznam osoby bez jej súhlasu euronews.com. Ak sa to uskutoční prostredníctvom online služby, tresty sa zvyšujú (až na 2 roky väzenia, pokuta 45 000 €) euronews.com. Dôležité je, že Francúzsko výslovne zakázalo pornografické deepfaky, aj keby sa niekto pokúsil ich označiť ako falošné euronews.com. Takže vo Francúzsku je vytvorenie alebo šírenie sexuálneho deepfaku trestné až tromi rokmi väzenia a pokutou 75 000 € euronews.com. Francúzsky zákon tiež dáva právomoc digitálnemu regulátorovi ARCOM, aby mohol nútiť platformy odstrániť takýto obsah a zlepšiť systémy nahlasovania euronews.com.
• Spojené kráľovstvo: Spojené kráľovstvo v rokoch 2023–2024 tiež aktualizovalo zákony. Novely zákona o sexuálnych trestných činoch umožnia trestať vytvorenie sexuálneho deepfaku bez súhlasu až 2 rokmi väzenia euronews.com euronews.com. Samostatne, zákon o online bezpečnosti 2023 (rozsiahla internetová regulácia) výslovne zakazuje zdieľanie alebo vyhrážanie sa zdieľaním nesúhlasných sexuálnych obrázkov (vrátane deepfakov) na sociálnych sieťach a vyžaduje od platforiem, aby „proaktívne odstraňovali“ takýto materiál alebo zabránili jeho zverejneniu euronews.com. Ak platformy zlyhajú, hrozia im pokuty až do výšky 10 % celosvetových príjmov – čo je obrovská motivácia na dodržiavanie predpisov euronews.com. Niektorí odborníci však upozorňujú, že Spojené kráľovstvo stále nekriminalizuje vytvorenie deepfaku, ktorý nie je zdieľaný, čo je medzera, ktorá ponecháva obete zraniteľné, ak sú obrázky uchovávané v súkromí (podobne ako v prípade Hongkongu) euronews.com. Objavujú sa výzvy, aby Spojené kráľovstvo dokonca kriminalizovalo samotný vývoj a distribúciu deepfake nástrojov euronews.com.
• Dánsko: V júni 2025 dánsky parlament schválil prelomový zákon, ktorý dáva jednotlivcom autorské práva na ich vlastnú podobizeň – v podstate robí z vašej tváre „vaše duševné vlastníctvo“ ako spôsob boja proti deepfakom euronews.com. Tento zákon zakáže vytvárať alebo zdieľať „digitálne napodobeniny“ čŕt osoby bez jej súhlasu euronews.com. „Máte právo na vlastné telo, vlastný hlas a vlastné črty tváre,“ povedal dánsky minister kultúry, pričom to označil za ochranu pred dezinformáciami a sexuálnym zneužitím euronews.com. Hoci detaily ešte nie sú známe, naznačuje to, že Dánsko bude považovať vytvorenie deepfaku o vás za porušenie „práva na podobizeň“, podobne ako porušenie autorských práv, čo by mohlo výrazne zjednodušiť odstránenie a právne kroky.
• Južná Kórea: Južná Kórea bola jednou z prvých krajín, ktoré tvrdo zasiahla deepfake pornografia (vzhľadom na jej problémy s digitálnymi sexuálnymi trestnými činmi v posledných rokoch). Do roku 2021 Južná Kórea zakázala vytváranie alebo zdieľanie sexuálnych deepfake; koncom roka 2024 zašla ešte ďalej a kriminalizovala dokonca aj držbu alebo pozeranie takéhoto obsahu. Zákon schválený v septembri 2024 (podpísaný prezidentom Yoonom v rokoch 2024/25) urobil nelegálnym kupovať, vlastniť alebo pozerať sexuálne explicitné deepfake obrázky/videá, pričom porušovatelia čelia až 3 rokom väzenia cbsnews.com cbsnews.com. Vytváranie/šírenie už bolo nelegálne (5+ rokov väzenia) a maximálna sadzba bola zvýšená na 7 rokov, ak by bol nový zákon podpísaný cbsnews.com. Tento agresívny postoj uznáva, že tieto falzifikáty boli často vymieňané medzi mládežou; v skutočnosti kórejská polícia v roku 2024 oznámila 387 zatknutí súvisiacich so sexuálnym deepfake obsahom len v prvej polovici roka – 80 % zatknutých boli tínedžeri cbsnews.com. Problém sa medzi tínedžermi stal natoľko rozšíreným (vytváranie falzifikátov spolužiakov, učiteľov atď.), že Kórea to považuje za vážny trestný čin už len vyhľadávať takýto materiál cbsnews.com cbsnews.com. Aktivisti v Soule protestovali s transparentmi s nápisom „Opakované deepfake sexuálne trestné činy, štát je tiež spolupáchateľom“ a žiadali prísnejšie opatrenia cbsnews.com, na čo vláda reagovala týmito opatreniami.
• Čína: Pornografia akéhokoľvek druhu je v Číne prísne nelegálna a to platí aj pre AI-generovanú pornografiu. Navyše, Čína zaviedla prelomové regulácie „deep synthesis“ technológií v januári 2023, ktoré vyžadujú, aby akékoľvek AI-generované alebo upravené médiá, ktoré by mohli zavádzať, mali jasné označenia alebo vodoznaky a zakazujú použitie takejto technológie na vydávanie sa za niekoho iného, podvody alebo ohrozovanie bezpečnosti oxfordmartin.ox.ac.uk afcea.org. V podstate Čína preventívne zakázala neoznačené deepfaky a dala úradom široké právomoci trestať tých, ktorí ich vytvárajú. V kombinácii s plošným zákazom obscénnych materiálov je NSFW AI obsah v Číne dvojnásobne zakázaný – hoci pravdepodobne existuje v podzemných kruhoch, čínski cenzori majú právne nástroje na jeho okamžité vymazanie a stíhanie.

Globálne je trend jasný: ne-súhlasné AI sexuálne zobrazenia sú kriminalizované naprieč jurisdikciami a platformy sú povinné ich kontrolovať. Do konca roka 2025 je právne prostredie oveľa menej tolerantné voči deepfake pornu než len dva roky predtým, keď takéto zákony mali len niektoré americké štáty a krajiny ako Južná Kórea. Vymáhanie a povedomie však zostávajú výzvou. Mnohé obete stále nevedia, že ich už zákony chránia, a polícia/prokurátori sú často zle vybavení na vyšetrovanie anonymných online páchateľov. Zákony sa tiež líšia – niekde sa trestá už samotné vytvorenie, inde len distribúcia. Napriek tomu je trend uznávať AI-generované sexuálne zneužívanie ako skutočné zneužívanie neprehliadnuteľný. Ako poznamenal jeden americký profesor práva, táto vlna legislatívy vracia moc späť do rúk obetí a vysiela odkaz, že „máte právo na svoj vlastný obraz a telo, aj v ére AI“ euronews.com.

Etická bažina: Súhlas, deepfaky a spoločenský dopad

Mimo právnej sféry NSFW AI vyvoláva zásadné etické a spoločenské otázky. V jadre je otázka súhlasu – môže byť explicitný obsah etický, ak je generovaný bez súhlasu (alebo dokonca vedomia) zobrazovaných osôb? Väčšina by súhlasila, že ne-súhlasné deepfaky sú jasným etickým prehreškom, v podstate formou sexuálneho zneužitia. Dilemy však idú hlbšie: Čo AI-generovaná pornografia využívajúca skutočné obrázky ľudí získané so súhlasom (napr. trénovanie na komerčných porno videách) – je to „bez obetí“ alebo to zneužíva podobu účinkujúcich bez ďalšieho súhlasu či odmeny? A čo úplne fiktívne AI porno – kde nie je zobrazená žiadna skutočná osoba – je to bez škody, alebo to môže normalizovať nebezpečné fantázie (ako zneužívanie detí či znásilnenie)? A ako sa prejavujú predsudky v AI modeloch v erotickom obsahu?

Súhlas a súkromie: Najnaliehavejším problémom je, že ľudia nemajú žiadnu kontrolu ani súhlas s tým, ako môže AI použiť ich podobizeň. Každý, kto niekedy zverejnil fotografiu online (alebo aj tí, ktorí nie, ak má ich známy ich fotografiu), je teoreticky v ohrození, že sa stane tvárou pornografického deepfaku. Ženy, najmä tie na verejnosti, teraz žijú s mrazivou realitou: môžete sa zobudiť a zistiť, že internet si „myslí“, že má vaše nahé fotografie alebo sexuálne videá, vďaka AI theguardian.com. Toto porušuje základnú osobnú dôstojnosť a súkromie. Ako uvádza dánsky zákon, mali by ste mať právo na svoju vlastnú tvár a telo – no súčasné technológie a normy to nezaručujú. Etici tvrdia, že už samotná existencia týchto falzifikátov, aj keď nie sú široko rozšírené, je škodlivá – je to zobrazenie sexuálneho aktu, do ktorého ste boli zapojení bez vášho súhlasu. Môže to pôsobiť ako forma sexuálneho útoku z psychologického hľadiska. Skutočnosť, že „internet je navždy“, škodu ešte zvyšuje: po rozšírení sa tieto obrázky môžu opakovane objavovať, čo núti obete prežívať traumu znova a znova. Všetky tieto faktory robia z nevyžiadaného AI porna vážne etické porušenie. Spoločnosť ho začína vnímať na úrovni iných sexuálnych trestných činov, pokiaľ ide o stigmu a dôsledky, ale ako už bolo spomenuté, zákony ešte len dobiehajú.

Deepfaky a pravda: Ďalším aspektom je, ako deepfaky rozmazávajú realitu. Keďže AI pornografické obrázky vyzerajú čoraz reálnejšie, diváci si nemusia uvedomiť, že sú falošné, čo ešte viac poškodzuje povesť. Falošné sexuálne video môže niekoho stáť prácu, zničiť vzťahy alebo byť použité na vydieranie („sextortion“). Aj keď sa neskôr dokáže, že je falošné, poníženie a poškodenie povesti sa nedá úplne napraviť. To zvyšuje etickú zodpovednosť tvorcov takýchto falzifikátov – hrajú sa so skutočnými životmi a obživou. Zároveň to poukazuje na spoločenskú výzvu: ako si udržať dôveru v médiá, keď už videné nie je dôveryhodné? Niektorí odborníci nazývajú deepfaky „útokom na pravdu“, ktorý je v kontexte porna zneužívaný na ponižovanie a trestanie žien theguardian.com.

Neplnoletí a AI-generovaný CSAM: Azda najviac jednomyseľne odsúvanou etickou hranicou je AI-generovaný materiál sexuálneho zneužívania detí (CSAM) – teda zobrazenia neplnoletých v sexuálnych situáciách. Aj keď pri jeho vzniku nebol skutočný dieťa poškodené, prakticky všetci regulátori a platformy považujú AI-generovanú detskú pornografiu za rovnako nelegálnu a škodlivú ako skutočný CSAM. Etické odôvodnenie je jasné: takýto obsah sexualizuje deti a môže podnecovať skutočné trestné činy. Často je tiež generovaný pomocou fotografií skutočných detí (napr. z nevinných fotografií dieťaťa sa pomocou AI vytvorí „nahá verzia“ alebo sa inak upraví – čo je odporné porušenie dôstojnosti a súkromia dieťaťa) centeraipolicy.org. Žiaľ, existujú dôkazy, že sa to deje. Výskumník zo Stanfordu, David Thiel, objavil stovky známych obrázkov zneužívania detí vložených v populárnom AI tréningovom datasete pre Stable Diffusion centeraipolicy.org. To znamená, že model bol čiastočne trénovaný na skutočných kriminálnych obrázkoch zneužívania, čo je mimoriadne problematické. Aj keď sa tieto obrázky teraz odstraňujú, samotný fakt, že boli použité, poukazuje na to, ako vývojári AI mohli nevedomky trénovať modely na zneužívajúcom obsahu. Ešte horšie je, že bez dôkladných opatrení by AI mohla potenciálne generovať nové obrázky, ktoré sa podobajú týmto nelegálnym tréningovým vstupom. Niektorí používatelia na fórach sa pokúsili použiť AI na „vyzliekanie“ fotografií neplnoletých alebo vytváranie nelegálnych obrázkov – trend, ktorý sa orgány činné v trestnom konaní snažia rýchlo zastaviť. Z etického hľadiska panuje takmer konsenzus: AI by nikdy nemala byť použitá na tvorbu CSAM. Implementácia tohto princípu je však zložitá – vyžaduje, aby modely boli trénované na explicitné odmietanie akýchkoľvek pokusov o vytvorenie takéhoto obsahu, alebo aby zákony stanovili takéto pokusy za závažný trestný čin (ako to urobil Tennessee). Technologické spoločnosti teraz často natvrdo implementujú filtre, aby už len slovo „dieťa“ alebo náznaky neplnoletosti v zadaní boli zablokované. No protivní užívatelia hľadajú obchádzky. Ide o mimoriadne vážnu vec, pretože ak sa AI zneužije týmto spôsobom, môže znovu traumatizovať obete zneužívania a poskytnúť novú „potravu“ pedofilom pod falošnou zámienkou, že „skutočné dieťa nebolo poškodené“. Mnohí etici oponujú argumentu o „zločine bez obete“ tým, že konzumácia akéhokoľvek zobrazenia detského zneužívania, či už skutočného alebo AI, pravdepodobne podnecuje skutočné zneužívanie tým, že ho normalizuje centeraipolicy.org reddit.com. Preto ide o tvrdú etickú hranicu, na ktorej sa väčšina zhoduje: generovanie alebo používanie AI na detský sexuálny obsah je kategoricky nesprávne a musí byť za každú cenu (technicky aj právne) zabránené.

Tréningové dáta a vynútený obsah: Existuje menej zrejmý, ale dôležitý etický problém v tom, ako sú NSFW AI modely vytvárané. Mnohé AI generátory porna boli trénované na veľkých datasetoch stiahnutých z internetu – vrátane pornografických stránok. To znamená, že skutočné obrázky ľudí (pornoherci, webcam modelky, dokonca aj uniknuté súkromné nahé fotky ľudí) sa stali tréningovými dátami bez súhlasu týchto osôb. AI spoločnosti to robili potichu a až neskôr začali výskumníci odhaľovať rozsah. Napríklad bolo zistené, že jeden AI generátor nahoty s názvom „These Nudes Do Not Exist“ bol trénovaný na obsahu z „Czech Casting“, porno spoločnosti, ktorá je vyšetrovaná za nútenie žien k sexu centeraipolicy.org. Takže AI bola doslova trénovaná na videách žien, ktoré mohli byť obeťami obchodovania s ľuďmi alebo znásilnenia – a efektívne sa učila regenerovať obrázky ich tiel alebo iných v podobných pozíciách. Tieto ženy určite nedali súhlas na ďalšie použitie svojich obrázkov na vytváranie nekonečného nového porna. Ako povedala jedna obeť tejto situácie o tom, že jej obrázok bol v AI tréningovom datasete: „príde mi to nespravodlivé, mám pocit, že mi berú slobodu“ centeraipolicy.org. Aj v menej extrémnych prípadoch mohli modely absorbovať milióny bežných fotografií žien zo sociálnych sietí alebo modelingových fotení – tieto osoby tiež nesúhlasili s tým, aby sa stali zdrojovým materiálom pre generovanie porna. Každý AI porno model nesie duchov skutočných ľudí vo svojich tréningových dátach. Mnohým z týchto ľudí by to možno vôbec neprekážalo – napríklad dospelým hercom, ktorí dobrovoľne natáčali porno, by to nemuselo vadiť alebo by dokonca podporili technológiu, ktorá rozvíja ich prácu. Ale iní (ako súkromné osoby na uniknutých fotkách alebo pornoherci, ktorí opustili priemysel a chcú ísť ďalej) by boli zhrození, keby vedeli, že AI môže navždy remixovať ich podobu do nového sexuálneho obsahu. To vyvoláva etické otázky duševného vlastníctva a práv na podobizeň. Mali by byť jednotlivci odškodnení, ak ich obrázky pomohli vytvoriť ziskový AI porno nástroj? Niektorí tvrdia áno – tieto modely „priamo profitujú z mužov a žien, ktorí sa objavili v tréningových dátach“ bez akéhokoľvek poďakovania centeraipolicy.org. Iní tvrdia, že ak boli dáta verejne dostupné, podľa súčasných zákonov o duševnom vlastníctve je ich použitie na AI tréning v poriadku. Etický konsenzus sa prikláňa aspoň k tomu, nepoužívať zjavne nesúhlasný alebo zneužívajúci materiál pri tréningu (napr. známe videá pomstychtivého porna alebo obchodovania s ľuďmi by mali byť zakázané). Firmy začínajú kontrolovať datasety na takýto obsah, ale historicky to nerobili, čo je znepokojujúce. Ako uviedlo Centrum pre AI politiku, AI porno modely boli takmer „určite“ trénované aj na niektorých nesúhlasných intímnych obrázkoch (NCII) centeraipolicy.org. Do budúcnosti sa objavujú výzvy na prísnejšiu kuráciu datasetov a možno aj na register „opt-out“, aby si ľudia mohli odstrániť svoje obrázky z AI tréningových súborov <a href=“https://www.centeraipolicy.org/work/the-senate-passes-the-defiance-act#:~:text=These%20are%20contentious%20topics.%20%E2%80%9COpt,content%20to%20train%20centeraipolicy.org. Toto je technicky a logisticky zložité, ale diskusia o etike údajov v generatívnej AI je čoraz hlasnejšia.

Fiktívny, ale extrémny obsah: Ďalšia zložitá oblasť – ak nie je zobrazená žiadna skutočná osoba, existujú nejaké limity pre to, čo by mala AI pornografia vytvárať? Niektorí sa obávajú, že AI by mohla umožniť ultra-extrémny alebo okrajový sexuálny obsah, ktorý by bolo v reálnom svete nemožné získať, a že to môže byť škodlivé. Napríklad simulácie znásilnenia, bestiality, „snuff“ (vražednej) pornografie alebo, ako už bolo spomenuté, detských scenárov. Obrancovia môžu povedať: „Radšej nech je to AI, než aby to niekto robil v realite,“ ale kritici sa obávajú, že to môže znížiť citlivosť ľudí alebo povzbudiť k napodobňovaniu. Minimálne to vyvoláva morálne otázky o tom, či umožnenie AI uspokojovať takéto fantázie neprekračuje spoločenskú hranicu. Platformy ako Oh tvrdia, že blokujú akékoľvek „nelegálne praktiky“ – ich boti sa nezapájajú do obsahu s pedofíliou alebo inými kriminálnymi sexuálnymi témami sifted.eu. Toto je etická poistka, o ktorú sa zodpovedné firmy snažia. Open-source modely však nemajú žiadnu vnútornú morálku; používatelia ich môžu navádzať na generovanie prakticky čohokoľvek, ak model nie je výslovne obmedzený. To znamená, že zodpovednosť padá na individuálne svedomie (a miestne zákony). Etický postoj väčšiny AI komunít je nastaviť tvrdé filtre proti nelegálnemu alebo násilnému sexuálnemu obsahu. Napriek tomu, ako pochmúrne predpovedala jedna OnlyFans tvorkyňa, je pravdepodobne len otázkou času, kedy niekto použije AI na generovanie vecí ako „AI zneužívanie detí označené ako age-play, alebo AI scenáre znásilnenia,“ a že „o tomto treba viac hovoriť“ reddit.com. Etická otázka zostáva nevyriešená: je existencia hyper-realistického imaginárneho zobrazenia trestného činu sama o sebe škodlivá? Mnohí sa prikláňajú k áno, najmä ak ide o maloletých (kde je to jasne trestné). Pri iných extrémnych fantáziách spoločnosť nedospela ku konsenzu, ale je to oblasť aktívnej debaty v digitálnej etike.

Rod a reprezentácia: NSFW AI tiež preberá predsudky a stereotypy zo svojich zdrojových dát. Mnohé mainstreamové porno bolo kritizované za sexizmus alebo nerealistické zobrazenie žien a AI môže tieto tropy ešte zosilniť. Ak sú modely trénované prevažne na porne, ktoré objektivizuje ženy alebo zobrazuje len úzky okruh typov postáv, výstupy to budú odrážať. To môže posilniť nerealistické štandardy krásy alebo sexuálne scenáre. Navyše, väčšina AI erotických spoločníčok a obrazových botov je predvolene ženského pohlavia, čo vychádza z predpokladu, že užívateľmi budú heterosexuálni muži. Napríklad, ponuka AI botov na platforme Oh je „väčšinou ženská“ ako sporo odeté avatary sifted.eu. Kritici sa obávajú, že to posilňuje vnímanie žien ako digitálnych hračiek a môže ovplyvniť, ako (väčšinou mužskí) užívatelia vnímajú skutočné vzťahy. Niektorí zakladatelia AI spoločníkov sami uznávajú, že budúcnosť intimity môže byť „čudná“ alebo „dystopická“, ak sa ľudia odpoja od skutočných partnerov v prospech AI fantázie sifted.eu. Tvrdí sa, že tieto AI priateľky môžu posilňovať škodlivé stereotypy o ženách, ktoré sú vždy dostupné, ústretové a prispôsobené každej túžbe sifted.eu. Psychológovia a feministky vyjadrujú obavy, že takéto technológie môžu zhoršiť problémy ako osamelosť, mizogýniu alebo skreslené očakávania od sexu. Na druhej strane, zástancovia tvrdia, že tieto nástroje môžu poskytnúť bezpečný priestor pre tých, ktorí majú problémy s ľudskými vzťahmi, alebo pomôcť ľuďom objavovať sexualitu bez stigmy. Z etického hľadiska ide o dvojsečnú zbraň: Môže AI priateľka niekoho naučiť lepšej komunikácii alebo poskytnúť útechu? Možno. Môže tiež niekoho viesť k úniku od skutočných ľudských vzťahov a vnímaniu žien len ako prispôsobiteľných objektov? Možno. Spoločnosť sa bude musieť s týmito otázkami vyrovnať čoraz viac, ako budú takéto služby rásť.

Zhrnutie: Etika NSFW AI sa točí okolo súhlasu, škody a spoločenských odkazov, ktoré vysielame o sexualite a osobnosti. Zlaté pravidlo etického porna – že každý zobrazený je súhlasný dospelý účastník – je v prípade AI porna úplne prevrátené, keďže často nikto zo zobrazených sa v skutočnosti „nezúčastnil“ a teda nemohol dať súhlas. Sme nútení rozšíriť naše chápanie súhlasu aj na podobu človeka a dokonca na jeho dáta. Ako uviedol jeden komentár, táto technológia nás núti prehodnotiť „samotné základy intimity, súhlasu a tvorivej slobody“ v digitálnom veku chicagoreader.com. Etická krajina je plná šedých zón, no rastie zhoda, že určité červené čiary (detský obsah, nesúhlasné použitie skutočných identít) musia byť vynucované a že rešpektovanie autonómie jednotlivcov by malo určovať, čo je považované za prijateľné. Zároveň musíme byť opatrní, aby sme nepatologizovali všetku tvorbu sexuálneho obsahu s AI – pre súhlasných dospelých, ktorí to používajú pre seba, to môže byť pozitívny nástroj. Výzvou je umožniť inovatívne, súhlasné využitie a zároveň potláčať tie zneužívajúce.

Zástancovia verzus kritici: Debata o NSFW AI

Reakcie na NSFW AI sú polarizované. Niektorí to oslavujú ako vzrušujúci vývoj v oblasti zábavy pre dospelých a osobnej slobody; iní to odsudzujú ako spoločenskú hrozbu. Poďme si rozobrať hlavné argumenty na oboch stranách:

Argumenty podporovateľov (pro-NSFW AI):

• Kreatívna sloboda a sexuálne objavovanie: Zástancovia tvrdia, že AI môže byť pozitívnym ventilom na objavovanie sexuality, fantázií a úchyliek v súkromí a bez odsudzovania. Používatelia, ktorí by sa mohli cítiť trápne alebo nie sú schopní niektoré fantázie realizovať v reálnom živote, tak môžu bezpečne urobiť prostredníctvom AI-generovaného obsahu alebo chatbotov. To by mohlo potenciálne znížiť tabu a hanbu okolo sexuality. Niektorí to dokonca nazývajú posilňujúcim: „súhlasiaci dospelí môžu spolu s AI vytvárať svoje vizuálne fantázie v bezpečnom, súkromnom prostredí,“ hovorí CEO jednej AI platformy pre dospelých globenewswire.com. V tomto pohľade je generatívna AI len nástroj – podobne ako erotické umenie alebo sexuálne hračky – ktorý môže podporiť zdravé sexuálne vyjadrenie.
• Personalizácia a inovácie v zábave pre dospelých: Podporovatelia zdôrazňujú, že NSFW AI poskytuje neprekonateľnú personalizáciu v porovnaní s tradičným pornom globenewswire.com. Namiesto pasívnej konzumácie toho, čo vyprodukujú štúdiá, si jednotlivci môžu generovať obsah presne podľa svojich predstáv (typy tiel, scenáre atď.). Tento model riadený používateľom je vnímaný ako inovácia, ktorá „narušuje“ univerzálny prístup k obsahu pre dospelých globenewswire.com. Môže vyhovieť aj špecifickým záujmom, ktoré hlavný prúd ignoruje (pokiaľ sú legálne). Startupy v tejto oblasti často prezentujú AI ako kvantový skok v spôsobe, akým je obsah pre dospelých doručovaný – dáva kontrolu do rúk používateľa globenewswire.com. Tiež tvrdia, že rešpektuje súkromie: používatelia nemusia komunikovať s iným človekom ani nikomu okrem AI prezrádzať svoje fantázie.
• Bezpečná náhrada za škodlivé túžby: Kontroverznejším argumentom v prospech je, že AI porno môže slúžiť ako neškodná náhrada za inak škodlivé správanie. Napríklad niektorí teoretizovali, že pedofili používajúci CGI alebo AI-generované detské porno by si mohli uspokojiť svoje túžby bez toho, aby ublížili skutočným deťom (tento argument je veľmi sporný a väčšina odborníkov ho odmieta, no občas sa objavuje). Iní naznačujú, že tí, ktorí majú násilné sexuálne fantázie, by mohli použiť AI simulácie namiesto hľadania skutočných obetí. V podstate ide o postoj „radšej nech to vybavia na pixeloch než na ľuďoch“. Stále však ide o špekulatívnu a eticky problematickú otázku – neexistujú jasné dôkazy, že AI znižuje skutočnú kriminalitu; môže ju dokonca podporovať (ako oponujú kritici). Napriek tomu niektorí zástancovia slobody prejavu tvrdia, že aj odporné fantázie v AI forme sú myšlienkové experimenty, ktoré by nemali byť kriminalizované, pokiaľ nie je priamo poškodená skutočná osoba. Tento pohľad nie je hlavný prúd, ale v debatách o extrémnom obsahu existuje reddit.com.
• Podpora okrajových komunít a identít: AI dokáže generovať obsah pre komunity, ktoré mali historicky málo zastúpenia v mainstreamovom porne – napríklad určité LGBTQ fantázie, BDSM scenáre so špecifickými parametrami súhlasu alebo erotické umenie s fantastickými prvkami. Niektorí členovia furry alebo hentai subkultúr napríklad používajú AI umenie na tvorbu obsahu, ktorý by s reálnymi hercami nebol možný. Toto sa vníma ako rozšírenie možností erotického umenia. Navyše, AI môže umožniť ľuďom s postihnutím alebo inými obmedzeniami zažiť virtuálnu intimitu spôsobmi, ktoré by inak nemohli. Tí, ktorí majú problémy so sociálnou interakciou, môžu nájsť spoločnosť v AI partnerovi, ktorý ich nesúdi. Zástancovia, ako zakladateľ startupu „AI OnlyFans“, tvrdia, že títo AI spoločníci by mohli byť „čistým prínosom“ pre spoločnosť, najmä pre ľudí, ktorým chýbajú iné formy spoločnosti sifted.eu. Podľa neho, ak je niekto osamelý alebo konzumuje vykorisťujúce formy porna, AI partner je kontrolovaná, možno zdravšia alternatíva sifted.eu.
• Súhlas vytvorených vs. skutočných modelov: Ďalším argumentom v prospech NSFW AI je, že používanie AI-generovaných hercov (ktorí v skutočnosti neexistujú) v porne by mohlo eliminovať mnohé problémy dospelého priemyslu. Nehrozí riziko zneužitia skutočného účinkujúceho, ak je pornoherečka generovaná AI. Nikto nie je v skutočnosti vystavený riziku pohlavných chorôb alebo zneužívania na AI natáčaní. Teoreticky by to mohlo časom nahradiť časť skutočnej produkcie porna, čím by sa znižilo riziko pre ľudských účinkujúcich v nebezpečných situáciách. (Samozrejme, protiargumentom je, že títo účinkujúci tam často chcú byť a mohli by prísť o príjem, ak by boli nahradení, takže je to zložité.) Futuristi si však predstavujú svet, kde dokonale realistické AI porno dokáže uspokojiť dopyt bez toho, aby sa skutočná osoba musela zapojiť do potenciálne ponižujúcej práce – v podstate etickejší dodávateľský reťazec porna. Niektorí tvorcovia pre dospelých dokonca dobrovoľne vytvárajú svoje „digitálne dvojčatá“ (licencovaním svojho obrazu/hlasu), aby za nich mohla AI vykonávať časť práce – so súhlasom a zdieľaním zisku sifted.eu. Tento model, ak by sa rozšíril, by mohol umožniť ľudským tvorcom zarábať peniaze a zároveň presunúť časť tvorby obsahu na AI pod ich kontrolou, čo by mohlo byť výhodné pre obe strany.
• Sloboda prejavu a umelecká hodnota: Z pohľadu občianskych slobôd niektorí obhajujú aj NSFW AI ako formu vyjadrenia. Erotické umenie a porno sú už dlho považované za chránený prejav (okrem obscénnosti) v mnohých krajinách. AI len rozširuje médium vyjadrenia. Ak môže umelec nakresliť akt alebo natočiť konsenzuálnu pornoscénu, prečo by nemohol zadať AI vytvoriť akt? Tvrdia, že úplný zákaz AI sexuálneho obsahu by bol prehnaný zásah, ktorý by mohol cenzurovať sex-pozitívne umenie alebo legitímnu tvorivú činnosť. Za predpokladu, že všetci zúčastnení súhlasili (čo je pri AI zložité, ale povedzme, že proces je konsenzuálny), tvrdia, že dospelí by mali mať slobodu vytvárať a konzumovať sexuálny obsah podľa vlastného výberu, s pomocou AI alebo bez nej. Skupiny ako Electronic Frontier Foundation varovali pred širokými zákazmi deepfake technológií, pričom poukazujú na to, že technológia má aj prospešné využitie a že je lepšie cieliť na zlých aktérov než zakazovať samotnú technológiu klobuchar.senate.gov. Tento libertariánsky prúd v debate hovorí: trestať skutočnú ujmu (ako je nekonsenzuálne použitie), ale nekriminalizovať nástroj alebo konsenzuálnu fantáziu.

Argumenty kritikov (proti NSFW AI):

• Porušenie súhlasu a zneužívanie obrázkov: Kritici zdôrazňujú, že NSFW AI už umožnila masívne zneužívanie súhlasu a podoby jednotlivcov. Epidémia nevyžiadaných deepfakeov hovorí sama za seba – životy zničené, súkromie rozbité. Tvrdia, že nejde o okrajový jav, ale o hlavný spôsob využitia deepfake technológií doteraz: 96 % deepfakeov bolo pornografických a v podstate všetky boli bez súhlasu theguardian.com. Táto technológia je podľa nich zo svojej podstaty náchylná na takéto zneužitie, čím sa stáva nebezpečnou zbraňou. Aj keď ľudia nie sú priamo terčom, absencia akejkoľvek možnosti udeliť súhlas na zaradenie do tréningových dát alebo do niečej fantázie je znepokojujúca. Človek môže mať svoju sexuálnu autonómiu úplne podkopanú tým, že iní generujú jeho explicitné obrázky z ničoho. Kritici tvrdia, že toto je zásadne neetické a malo by to byť odsúdené podobne ako voyeurizmus alebo iné sexuálne trestné činy. Existencia „stoviek AI aplikácií na vyzliekanie“, ktoré sú ľahko dostupné klobuchar.senate.gov, znamená, že fotografia akejkoľvek ženy môže byť zmenená na pornografiu v priebehu sekúnd, čo mnohí označujú za neudržateľnú a terorizujúcu situáciu.
• Emočná a psychologická ujma: Byť obeťou AI porno falošného obsahu môže spôsobiť akútny psychický stres – poníženie, úzkosť, PTSD, dokonca aj samovražedné myšlienky. Tragický príklad: 17-ročný chlapec v USA zomrel samovraždou v roku 2022 po tom, čo ho vydierač vydieral falošnými nahými fotografiami klobuchar.senate.gov. Psychologická záťaž žien, ktoré objavia deepfake svojich vlastných obrázkov, je obrovská; opisuje sa to ako virtuálna forma sexuálneho útoku. Preto kritici vnímajú NSFW AI ako nástroj, ktorý uľahčuje obťažovanie a zneužívanie v potenciálne obrovskom rozsahu – ako „núdzový stav“ pre zraniteľných ľudí (najmä ženy, maloletých, LGBTQ jednotlivcov, ktorí by mohli byť terčom nenávistne motivovaných sexuálnych falzifikátov atď.) theguardian.com. Tvrdia, že žiadne údajné prínosy tejto technológie neprevážia nad skutočnými škodami, ktoré sa dejú už teraz.
• Normalizácia vykorisťujúceho obsahu: Kritici sa obávajú, že záplava AI porna, najmä extrémnych alebo ne-súhlasných scenárov, by mohla normalizovať takéto obrázky a narušiť spoločenské sankcie týkajúce sa vecí ako súkromie a súhlas. Ak sa falošné nahé fotografie celebrít alebo spolužiakov stanú „bežným internetovým materiálom“, ľudia môžu byť menej citliví na porušovanie súkromia iných. Môže to tiež podporovať misogýnne zmýšľanie (vnímanie žien ako vždy dostupných sexuálnych objektov, ktorých obrázky možno používať podľa ľubovôle). Z etického hľadiska je to podobné ako pomsta pornografii alebo tajnému fotografovaniu pod sukňu – umožniť tomu šíriť sa vysiela správu, že ženské telá nepatria im samotným. Okrem toho sa kritici obávajú, že AI môže eskalovať deviantné chute – napríklad niekto, kto konzumuje AI-simulované znásilňovacie porno, by mohol byť náchylnejší spáchať násilie, alebo pedofil s AI-generovaným detským pornom by sa mohol aj tak dopracovať k zneužívaniu skutočných detí. Hoci dôkazy sú predmetom diskusie, mnohí psychológovia vyzývajú na opatrnosť, keďže médiá môžu posilňovať správanie.
• Dopad na vzťahy a spoločnosť: Niektorí sociológovia a feministky vyjadrujú obavy, že AI sexuálni spoločníci a hyperpersonalizované porno by mohli narušiť skutočné ľudské vzťahy. Ak sa mnohí ľudia obrátia na AI „priateľky“, ktoré sú dokonale poslušné, čo sa stane s ich schopnosťou vytvárať vzťahy so skutočnými partnermi, ktorí majú vlastné potreby a hranice? Objavuje sa obava z rastúcej sociálnej izolácie a skreslených očakávaní ohľadom sexu a romantiky. Zakladateľ jednej AI aplikácie pre spoločníkov sám označil tento trend za potenciálne „veľmi dystopický“ a že by mohol vytvoriť „čudnú budúcnosť intimity“, kde sa ľudia od seba odpájajú sifted.eu. Stereotypy, ktoré sa posilňujú – často sú AI priateľky submisívne ženské postavy – môžu upevňovať sexistické postoje medzi používateľmi. Kritici teda tvrdia, že NSFW AI môže zhoršiť problémy ako osamelosť, mizogýniu a komodifikáciu intimity.
• Hrozba pre umelcov, účinkujúcich a pracovníkov: Tí, ktorí pôsobia v kreatívnych oblastiach a v adult priemysle, vnímajú NSFW AI ako hrozbu pre svoje živobytie a práva. Vizuálni umelci (napr. ilustrátori erotiky alebo modelky) zisťujú, že AI zbiera ich diela bez povolenia a následne generuje nové obrázky v ich štýle alebo s ich podobou. Toto pôsobí ako krádež duševného vlastníctva a podkopáva trh s objednaným umením. Fotografovia sa obávajú, že AI generátory obrázkov nahradia najímanie modelov na fotenia. Pornoherci a sexuálni pracovníci sa obávajú, že AI „klony“ alebo úplne fiktívne AI modely odvedú zákazníkov – alebo zaplavia trh obsahom, ktorý znehodnotí ich prácu. Niekoľko tvorcov na OnlyFans hlásilo pokles príjmov a sťažnosti fanúšikov, pravdepodobne kvôli konkurencii AI-generovaného obsahu, ktorý je lacnejší a vždy dostupný reddit.com. Tvrdia, že ide o neférovú konkurenciu, pretože AI v podstate privlastnila ich obrázky a atraktivitu bez námahy alebo ľudského dotyku, a že to zníži ceny na neudržateľnú úroveň pre skutočných pracovníkov. Sexuálni pracovníci sa tiež obávajú, že na nich bude vyvíjaný tlak, aby používali AI na tvorbu viac obsahu alebo boli dostupní 24/7, čo ešte viac zkomodifikuje ich prácu reddit.com. Odbory a advokačné skupiny sa obávajú sveta, kde by firmy mohli uprednostniť AI pornohviezdu (bez práv, požiadaviek či mzdy) pred ľudskou – scenár, ktorý by mohol zničiť pracovné miesta a zneužiť podobu účinkujúcich, ktorí pôvodne tieto modely trénovali. Stručne povedané, kritici vnímajú NSFW AI ako podkopávanie ľudskej kreativity a práce využívaním ľudských dát na produkciu nekonečného množstva voľne (alebo lacno) dostupného obsahu.
• Šmykľavý svah morálky a zákona: Z pohľadu politiky kritici tvrdia, že ak teraz nestanovíme pevné limity pre NSFW AI, môže to viesť k neovládateľnej budúcnosti. Ak prijmeme AI porno ako „len fantáziu“, čo sa stane, keď sa to pretne so skutočnými otázkami ako je súhlas? Napríklad, ak niekto vytvorí AI porno svojho ex a tvrdí, že je to len fantázia, ospravedlňuje ho to? Väčšina by povedala nie – ex je zjavne poškodený. Preto sa kritici prikláňajú k princípu opatrnosti: stanoviť hranice včas. Niektorí dokonca navrhujú, aby sa nástroje na tvorbu deepfake-ov regulovali podobne ako nástroje na vyberanie zámkov alebo hacking – nie sú samy o sebe nelegálne, ale sú prísne kontrolované, a nástroje jasne určené na zneužitie (ako „nudify“ aplikácie, ktoré slúžia výlučne na nevyžiadané vyzliekanie obrázkov) úplne zakázať. Etici, ktorí podporujú silnú reguláciu, tvrdia, že potenciál na zneužitie ďaleko prevyšuje okrajové pozitívne prípady použitia. Často sa odvolávajú na hlasy obetí: ako povedal jeden technologický etik, „Teenagerka, ktorá sa uvidí v AI-generovanom porne – tá jedna skúsenosť, ten jeden zničený život, ospravedlňuje prísnu kontrolu tejto technológie.“ Sloboda prejavu je dôležitá, hovoria, ale nemôže byť na úkor agentúry a bezpečnosti iných.

Stojí za zmienku, že nie každý je na jednom alebo druhom extréme – mnohí uznávajú ako prísľub, tak aj nebezpečenstvo NSFW AI. Napríklad používateľ môže oceniť možnosť generovať vlastnú erotiku fiktívnych postáv (neškodné použitie), pričom úplne odsudzuje jej použitie na falšovanie skutočnej osoby. Debata sa teda často sústreďuje na to, kde stanoviť hranicu. Zdá sa, že vznikajúci konsenzus vo verejnej diskusii je: AI obsah pre dospelých je prijateľný len so súhlasom a transparentnosťou a je prísne zakázaný, ak zahŕňa skutočných ľudí bez povolenia alebo akýchkoľvek maloletých. Aj mnohí technológovia podporujúci AI obsah pre dospelých súhlasia, že deepfaky bez súhlasu sú neospravedlniteľné a mali by byť kriminalizované cbsnews.com. Na druhej strane, aj niektorí kritici pripúšťajú, že dospelí so súhlasom by mali mať možnosť tieto nástroje používať pre seba (napríklad pár, ktorý si vytvára AI umenie svojej spoločnej fantázie, alebo sexuálna pracovníčka, ktorá používa AI na rozšírenie svojho podnikania, by to mala byť voľba toho jednotlivca).

Rozdelenie zástancov a kritikov niekedy kopíruje líniu medzi technologickým optimizmom a spoločenským skepticizmom. Technologickí nadšenci vidia NSFW AI ako vzrušujúcu hranicu (s určitými problémami na zvládnutie), zatiaľ čo spoločenskí obhajcovia ju vnímajú ako novú formu digitálneho zneužívania, ktorú treba obmedziť. Obe perspektívy sú oprávnené – a výzvou do budúcnosti bude maximalizovať prínosy (kreatívna sloboda, súkromné potešenie, inovácia v odvetví) a minimalizovať škody (zneužitie bez súhlasu, dezinformácie, vytláčanie pracovníkov). Akékoľvek riešenie si vyžiada vstup technológov, zákonodarcov, etikov, odvetvia pre dospelých a obetí zneužitia obrázkov. K roku 2025 sa táto diskusia skutočne začala.

(Na zhrnutie, tu je rýchle porovnanie oboch strán:)

• Zástancovia tvrdia, že NSFW AI posilňuje kreativitu dospelých, ponúka bezpečné naplnenie fantázií a môže dokonca pomôcť tvorcom so súhlasom speňažiť alebo osamelým jednotlivcom nájsť spoločnosť – v podstate ide o technologickú evolúciu porna, ktorá, ak sa používa eticky, nikomu neubližuje a rozširuje osobnú slobodu globenewswire.com sifted.eu.
• Kritici hovoria, že to poháňa vlnu sexuálneho zneužívania založeného na obrázkoch, narúša súhlas a súkromie, potenciálne deformuje pohľad používateľov na sex a vzťahy a zneužíva skutočné obrázky a prácu ľudí na zisk bez ich súhlasu theguardian.com reddit.com. Podľa nich náklady NSFW AI pre spoločnosť (najmä pre ženy a zraniteľné skupiny) ďaleko prevyšujú súkromné výhody, ktoré z toho niektorí používatelia majú, a preto si vyžadujú prísne obmedzenia a dohľad.

Protiúder: Moderovanie AI obsahu a ochranné opatrenia pre NSFW materiál

Vzhľadom na riziká NSFW AI prebieha paralelne preteky vo vývoji technologických a politických ochranných opatrení na jeho zvládnutie. Tento boj prebieha na viacerých frontoch: budovanie lepších nástrojov na detekciu AI-generovaného obsahu, zavádzanie filtrov na moderovanie obsahu a vytváranie noriem alebo vodoznakov na rozlíšenie skutočného od falošného. Tu je spôsob, akým sa AI a platformy snažia skrotiť temnú stránku NSFW AI:

• Automatizované NSFW filtre: Mnohé AI generátory obrázkov obsahujú klasifikátory pornografie, ktoré sa snažia blokovať alebo filtrovať explicitný výstup. Napríklad oficiálne vydanie Stable Diffusion obsahuje „Safety Checker“, ktorý označuje a rozmazáva nahé alebo sexuálne obrázky arxiv.org. OpenAI DALL·E jednoducho odmietne akýkoľvek prompt, ktorý čo i len naznačuje sexuálny obsah. Midjourney má rozsiahly zoznam zakázaných slov a používa AI na interpretáciu kontextu promptu – nevyprodukuje obrázky, ak má podozrenie, že požiadavka je pornografická alebo vykorisťujúca arxiv.org. Tieto filtre nie sú dokonalé (používatelia neustále nachádzajú spôsoby, ako ich obísť, napríklad používaním eufemizmov alebo preklepov zakázaných výrazov arxiv.org). Napriek tomu zabraňujú bežnému alebo náhodnému generovaniu NSFW obrázkov bežnými používateľmi. Fungujú ako prvá línia obrany, najmä na hlavných platformách, ktoré nechcú hostiť explicitný obsah. Niektoré open-source verzie tieto filtre odstraňujú, ale potom zodpovednosť prechádza na používateľa (a akúkoľvek platformu, na ktorú je obsah zverejnený).
• Nástroje na detekciu deepfake: Na výskumnej strane sa venuje značné úsilie algoritmom na detekciu deepfake. Spoločnosti ako Microsoft a startupy ako Sensity vyvinuli AI, ktorá analyzuje videá/obrázky na znaky manipulácie (napríklad nekonzistentné osvetlenie, artefakty na tvári alebo digitálne vodoznaky). V jednom hodnotení mal model Hive Moderation (AI moderátorský balík používaný niektorými sociálnymi sieťami) najvyššiu presnosť pri rozpoznávaní AI-generovaných postáv oproti skutočným emerginginvestigators.org. Tieto detektory používajú platformy na skenovanie nahrávaného obsahu (napr. Facebook môže skenovať obrázok na nahotu a zároveň aj na to, či nejde o známu falošnú podobizeň niekoho). Vývoj detektorov je hra na mačku a myš: ako sa generatívne modely zlepšujú, detektory sa musia tiež zlepšovať. EÚ tlačí na to, aby firmy implementovali takéto systémy – pravidlá transparentnosti AI Actu a smernica o násilí na ženách v podstate prikazujú, aby platformy vedeli identifikovať AI porno a odstránili ho euronews.com euronews.com. Niektoré detekčné metódy sa spoliehajú na metadáta alebo známe vzory od konkrétnych generátorov (napr. niektoré AI nástroje zanechávajú neviditeľné vodoznaky v pixeloch). Odvetvie zvažuje aj proaktívnejší prístup: vodoznakovanie AI obsahu už pri jeho vzniku. Google napríklad pracuje na metódach, ako označiť AI-generované obrázky tak, aby akákoľvek kópia bola rozpoznateľná ako AI-vytvorená aj po úpravách. OpenAI navrhuje kryptografické vodoznaky pre texty z jazykových modelov. Ak by sa to široko prijalo, mohlo by to pomôcť automatizovaným filtrom označiť AI porno ešte pred jeho rozšírením. Open-source modely však pravdepodobne nebudú dobrovoľne vodoznakovať výstupy a protivníci sa môžu pokúsiť vodoznaky odstrániť.
• Hashovanie obsahu a databázy: Na boj proti pomstivému pornu a deepfake vytvorili technologické firmy a mimovládne organizácie databázy známych zneužívajúcich obrázkov (napríklad pomocou kryptografických hashov ako PhotoDNA pre skutočné obrázky zneužívania detí). Podobný prístup sa zvažuje aj pre deepfake: ak obeť nahlási falošný obrázok, jeho hash by sa mohol pridať do databázy na odstránenie, aby bol okamžite rozpoznaný a odstránený, ak by bol nahraný inde. Pripravovaný systém v Spojenom kráľovstve podľa Online Safety Act môže zahŕňať takúto proaktívnu detekciu – vyžadujúc od platforiem, aby „zabránili [zakázanému obsahu] objaviť sa už na začiatku“ euronews.com. V praxi to znamená skenovanie známych nelegálnych obrázkov alebo videí pri nahrávaní. Problém pri AI falzifikátoch je, že páchatelia môžu generovať nekonečné varianty, takže hashovanie jedného nezachytí ďalší. Tu je potrebná detekcia podobnosti na báze AI, ktorá vie označiť obsah, ktorý sa veľmi podobá známym falzifikátom alebo zodpovedá osobe, ktorá sa zaregistrovala ako niekto, kto nechce mať žiadne explicitné obrázky online.
• Moderovanie na porno stránkach: Zaujímavosťou je, že hlavné stránky s obsahom pre dospelých ako Pornhub museli kvôli deepfake videám zlepšiť svoje moderovanie. Pornhub od roku 2018 zakázal nahrávanie akéhokoľvek AI-generovaného obsahu zobrazujúceho skutočných ľudí bez ich súhlasu. Spoliehajú sa na nahlasovanie používateľmi a kontrolu moderátormi, aby takéto videá zachytili, no pri miliónoch nahrávok je to náročné. Digitálny zákon o službách EÚ prináša prísnejšiu zodpovednosť: v roku 2024 boli Pornhub (a podobné stránky Xvideos, Xnxx) označené ako veľké platformy, ktoré musia proaktívne zmierňovať nelegálny a škodlivý obsah, inak im hrozia pokuty subscriber.politicopro.com. To pravdepodobne znamená investovanie do automatizovaného filtrovania. Porno stránky môžu začať používať deepfake detektory na každé nové video. Teraz majú aj overovanie identity pre nahrávateľov; hoci to nie je neomylné (falošní nahrávači sa môžu overiť ako oni sami a nahrať falošné video niekoho iného), pridáva to možnosť vystopovania.
• Pravidlá sociálnych sietí: Sociálne siete ako Twitter (X) a Reddit aktualizovali pravidlá a výslovne zakázali zdieľanie „intímnych obrázkov vytvorených alebo upravených AI“ bez súhlasu dotknutej osoby. Reddit zakázal deepfaky už v roku 2018 po prvej vlne. Facebookove komunitné štandardy zakazujú syntetické médiá, ktoré môžu zavádzať škodlivým spôsobom (čo zahŕňa aj falošné porno niekoho). Vynucovanie však zostáva nejednotné – ako bolo spomenuté, deepfake obsah sa v roku 2024 stále stal virálnym na X cbsnews.com, a Meta musela byť verejne kritizovaná, aby odstránila AI reklamy s nahotou cbsnews.com. Nové zákony (Take It Down Act, pravidlá EÚ) im však teraz ukladajú právne povinnosti. Môžeme očakávať rýchlejšie reakčné časy – napríklad podľa amerického zákona majú platformy 48 hodín na odstránenie nahláseného NCII, inak im hrozia sankcie klobuchar.senate.gov klobuchar.senate.gov. To pravdepodobne znamená, že firmy budú radšej obsah odstrániť, ak si nebudú isté. Môžu tiež integrovať mechanizmy na nahlasovanie „toto je AI falošný obsah o mne“, aby používatelia mohli rýchlo označiť zneužitie.
• Overenie veku a kontrola prístupu: Ďalším aspektom moderácie je zabrániť, aby maloletí mali prístup k AI pornu. Tradičné pornografické stránky majú overovanie veku (hoci nedokonale vynucované) a niektoré jurisdikcie (ako Francúzsko, Utah, Texas) prijali zákony vyžadujúce prísne overovanie veku na stránkach pre dospelých versustexas.com. AI nástroje to komplikujú – generatívne modely sa dajú používať súkromne bez akejkoľvek kontroly. Niektoré AI platformy však začali vyžadovať overenie totožnosti na prístup k NSFW režimom, aby sa zabezpečilo, že používatelia sú dospelí. Napríklad platforma Infatuated.ai zdôraznila robustné protokoly na overovanie veku a blokovanie akýchkoľvek požiadaviek týkajúcich sa maloletých globenewswire.com. Replika (AI chatbot aplikácia) mala neslávne známy prípad, keď umožnila erotickú rolu a mnohí maloletí ju začali používať; po kritike obmedzili erotický obsah len pre používateľov 18+ overením veku cez platbu alebo doklad totožnosti. Takže aspoň na komerčných službách existuje snaha oddeliť AI obsah pre dospelých od detí. To je dôležité, pretože samotné deti použili deepfake nástroje na šikanovanie rovesníkov (ako sme videli v školách) cbsnews.com. Vzdelávanie mladých ľudí o etických a právnych dôsledkoch je tiež súčasťou moderácie – niektoré školy už začali zahrňovať povedomie o deepfake do digitálneho občianstva nea.org.
• Spolupráca a osvedčené postupy: Boj proti zneužívaniu AI viedol ku spolupráci medzi technologickými firmami, políciou a mimovládnymi organizáciami. Iniciatívy ako skupina pre integritu médií Partnership on AI alebo Koalícia pre pôvod a autentickosť obsahu (C2PA) sa snažia nastaviť štandardy pre overovanie pravosti obsahu. Firmy môžu pridávať metadáta o tom, ako bol obrázok/video vytvorené (fotoaparát verzus AI softvér). Medzitým je polícia školená o deepfake, aby brala hlásenia obetí vážne a vedela, ako zbierať dôkazy. Europol v roku 2023 označil deepfake porno za vznikajúcu hrozbu a vyzval členské štáty, aby vyčlenili zdroje na boj proti nemu theguardian.com.
• Obmedzenia AI modelov: Priamejšou líniou obrany je obmedzenie distribúcie modelov schopných vytvárať škodlivý obsah. Niektoré repozitáre AI modelov majú podmienky: napríklad Stability AI sa rozhodla oficiálne nezahrnúť žiadne zjavne pornografické obrázky do svojho tréningového súboru pre Stable Diffusion 2.0, čiastočne aby sa zabránilo tomu, že bude príliš dobrý v generovaní porna (používatelia sa sťažovali, že nový model je v dôsledku toho „prísny“). Hugging Face (centrum AI modelov) niekedy odmieta hostiť modely, ktoré sú zjavne určené na porno, alebo pridáva veľké upozornenie, ktoré vyžaduje, aby používatelia súhlasili, že ich nebudú zneužívať. Bol tu aj pozoruhodný prípad: koncom roka 2022 crowdfundingová stránka Kickstarter zakázala kampaň „Unstable Diffusion“, čo bol pokus vyzbierať peniaze na vytvorenie AI modelu optimalizovaného na porno. Kickstarter uviedol ako dôvod politiku proti pornografickým AI projektom a kampaň zrušil arnoldit.com. Tento incident poukázal na to, že aj financovanie a podpora NSFW AI môže čeliť prekážkam. Obchody s aplikáciami ako Apple sú tiež nepriateľské voči nefiltrovaným AI aplikáciám – Apple odstránil niektoré AI generátory obrázkov, ktoré mohli produkovať NSFW výstupy, čím donútil vývojárov pridať filtre. Takže prístup k najpokročilejším AI modelom môže byť do určitej miery obmedzený firemnou politikou. Skutočne open-source modely však nemožno ľahko obmedziť – po zverejnení sa šíria cez torrenty a fóra. Ide teda o obmedzené opatrenie.

Moderovanie obsahu v ére AI porna je nepochybne náročné. Množstvo potenciálne porušujúceho obsahu je obrovské a rastie. Technológia však odpovedá technológiou: AI sa používa na boj proti AI. Napríklad Meta údajne používa strojové učenie na detekciu známych tvárí na nahých obrázkoch, aby zachytila deepfaky celebrít, a na detekciu typických artefaktov deepfakov. Startupy ako Reality Defender ponúkajú firmám služby na skenovanie a odstraňovanie deepfake obsahu v reálnom čase realitydefender.com. A právne nástroje, ktoré teraz poskytujú nové zákony, znamenajú, že platformy, ktoré do týchto opatrení neinvestujú, riskujú vážne pokuty alebo žaloby.

Jednou zo sľubných ciest je myšlienka overených médií: ak by napríklad všetci legitímni producenti porna kryptograficky podpisovali svoje videá ako skutočné, potom by čokoľvek bez podpisu, čo by tvrdilo, že je „sex tape tej-a-tej osoby“, mohlo byť označené ako podozrivé. Je to zložité implementovať univerzálne, ale koncept pôvodu sa skúma (nielen pre porno, ale pre všetky médiá, aby sa obmedzila dezinformácia).

Nakoniec, moderovanie nikdy nebude úplne spoľahlivé – na divokom webe stále veľa vecí prejde. Šifrované alebo decentralizované platformy budú ukrývať ten najhorší obsah. Ale aspoň v hlavných a legálnych oblastiach existuje koordinované úsilie zmierniť škody spôsobené NSFW AI. Dúfame, že sa podarí vytvoriť prostredie, kde môžu existovať legitímne využitia (súhlasný obsah pre dospelých, fantasy umenie atď.), ale škodlivé využitia budú rýchlo identifikované a odstránené. Je to náročná úloha – obete ju opisujú ako hru na “whack-a-mole” klobuchar.senate.gov – ale súbor zákonov, AI detektorov, politík platforiem a vzdelávania používateľov spolu tvorí hĺbkovú obranu.

Dôsledky a budúcnosť: Dopad na tvorcov a priemysel pre dospelých

Keď NSFW AI narúša status quo, už teraz ovplyvňuje skutočných ľudí v ekosystéme zábavy pre dospelých – od pornohviezd a sexuálnych pracovníkov po erotických umelcov a štúdiá s obsahom. Niektorí v novej technológii vidia príležitosť, iní sa obávajú, že budú nahradení alebo do nej zatiahnutí proti svojej vôli.

Herečky a pracovníci v sexbiznise: Pravdepodobne najpriamejší vplyv je na tých, ktorí si zarábajú tvorbou obsahu pre dospelých. Na jednej strane niektorí šikovní tvorcovia prijímajú AI na rozšírenie svojej práce. Napríklad modelky pre dospelých môžu používať AI generátory fotografií na vytváranie vylepšených alebo štylizovaných obrázkov seba samých na predaj (čím sa vyhnú nákladným fotením) – pokiaľ obrázky stále pripomínajú ich a spĺňajú pravidlá platforiem reddit.com. Niektoré influencerky sa dostali do správ tým, že vytvorili “AI verzie” seba samých: napríklad v roku 2023 influencerka Caryn Marjorie spustila AI chatbot svojej osobnosti, s ktorým si fanúšikovia mohli za poplatok intímne písať. Podobne startup Oh s konceptom “digitálnych dvojčiat” znamená, že pornohviezda môže licencovať svoj obraz na vytvorenie AI avatara, ktorý chatuje alebo vystupuje pre fanúšikov, čím si vytvára nový zdroj príjmu s minimálnou ďalšou prácou sifted.eu. Tieto kroky naznačujú, že niektorí v odvetví vnímajú AI ako nástroj na rozšírenie svojich možností – teoreticky môžu prostredníctvom AI zabaviť viac fanúšikov, než by fyzicky zvládli jeden na jedného.

Na druhej strane, mnoho účinkujúcich sa obáva. Ak si fanúšikovia môžu nechať vyrobiť svoj vysnívaný obsah na mieru pomocou AI, prestanú platiť skutočným ľuďom? Objavili sa správy o AI-generovaných profiloch na OnlyFans, ktoré používajú úplne fiktívne (ale realistické) ženy, niekedy označené vodoznakom #AI po vzniku podozrenia, predávajú obsah lacnejšie alebo spamujú používateľov na reddit.com. Tento druh konkurencie môže poškodiť príjmy skutočných tvorcov. Niektorí sexworkeri hovoria, že je to „demotivujúce“ vidieť, ako sa objavuje nový štandard, kde úspech znamená produkovať obsah 24/7 ako algoritmus – štandard, ktorý je pre človeka nemožný, ale pre AI ľahký, čím tlačí ľudí, aby buď prijali AI, alebo zostali pozadu reddit.com. Je tu aj emocionálna stránka: ako napísal jeden skúsený tvorca, používanie AI na efektívne „podvádzanie“ generovaním bezchybného tela alebo nekonečného výstupu pôsobí, akoby to znehodnocovalo skutočné úsilie a autentickosť, ktorú ľudskí tvorcovia vkladajú do svojej práce reddit.com. „To je podraz – urážka mojich fanúšikov… a tvrdej práce, ktorú vkladám do svojho tela [a obsahu],“ povedala o tých, ktorí používajú AI na falšovanie obsahu reddit.com.

Už teraz vidíme určitý odpor a prispôsobovanie sa: tvorcovia sa spájajú, aby upozorňovali na falošné AI profily, a platformy upravujú pravidlá, aby uistili, že skutočných tvorcov AI nebude napodobňovať. OnlyFans, ako už bolo spomenuté, zakazuje používanie cudzej podoby a vyžaduje označovanie AI obsahu reddit.com. Objavili sa dokonca úvahy o právnych krokoch proti AI podvodom – napríklad fáma o žalobe na odstránenie bot účtov na OnlyFans reddit.com. Okrem toho sa účinkujúci obávajú o súhlas a práva na podobizeň – napríklad bývalá pornoherečka môže zistiť, že jej minulé scény boli použité na trénovanie AI, ktorá teraz generuje nové explicitné videá „jej osoby“ bez jej súhlasu alebo akejkoľvek platby. Je to podobné obavám hollywoodskych hercov, že AI používa ich podobu – s tým rozdielom, že pornoherci riskujú ešte viac, pretože ich obraz je spojený s veľmi citlivou témou. Odvetvie možno bude musieť vyvinúť niečo ako postoj Screen Actors Guild, kde herci môžu vyjednávať, ako ich AI môže alebo nemôže simulovať. Skutočne, dánsky prístup, ktorý jednotlivcom priznáva autorské práva na podobizeň, by mohol posilniť postavenie účinkujúcich na celom svete, aby si mohli nárokovať vlastníctvo svojej tváre/tela v týchto kontextoch euronews.com.

Štúdiá a producenti: Tradičné porno štúdiá môžu byť tiež narušené. Ak malý tím s AI nástrojmi dokáže vyrobiť použiteľné erotické video bez najímania hercov, veľké štúdiá strácajú výhodu. Súčasné AI video však zatiaľ nedosahuje kvalitu profesionálnych štúdií pri dlhšom obsahu – väčšinou ide o krátke klipy alebo je potrebné ich kombinovať so skutočnými zábermi. Niektoré štúdiá môžu začať používať AI na špeciálne efekty alebo postprodukciu (napr. omladzovanie účinkujúcich, vylepšovanie vizuálov alebo dokonca odstránenie identifikačných tetovaní kvôli anonymite). Ďalšie možné využitie: generovanie realistických erotických animácií, ktoré boli manuálne drahé na výrobu. Štúdiám však hrozí aj niečo ako pirátstvo: nečestní aktéri môžu pomocou AI vytvárať napodobeniny prémiového obsahu alebo modelov. Napríklad, ak má štúdio pod zmluvou populárnu hviezdu, niekto môže túto hviezdu deepfake-núť do nových scén a zverejniť ich. To môže ukrojiť zo zisku štúdia aj značky hviezdy. Štúdiá môžu reagovať prísnym presadzovaním ochranných známok alebo osobnostných práv svojich zmluvných talentov. Môžeme vidieť, že porno štúdiá sa spoja s technologickými firmami a vytvoria autorizovaný AI obsah svojich hviezd (s delením príjmov) skôr, než to urobia piráti, ako obranný krok.

Erotickí umelci a spisovatelia: Okrem video účinkujúcich treba zvážiť aj tých, ktorí tvoria erotické komiksy, ilustrácie alebo literatúru. AI už dokáže napodobniť umelecké štýly – najmä komunita hentai umenia zaznamenala koncom roku 2022 príval AI-generovanej anime erotiky, čo spôsobilo rozkoly. Niektorí zadávatelia začali používať AI namiesto platenia ľudským umelcom, s odôvodnením ceny a pohodlia. Umelci protestovali na platformách ako DeviantArt (ktorý čelil odporu za zavedenie AI funkcií). Objavuje sa obava, že trh s vlastnou erotickou tvorbou a príbehmi by sa mohol zrútiť, keď si každý môže nechať vygenerovať personalizovaný komiks alebo poviedku zadarmo. Nadšenci však poukazujú, že AI stále zápasí s komplexným rozprávaním príbehov a skutočne prepracovaným umením – ľudskí umelci ponúkajú úroveň kreativity a emócií, ktorú AI môže postrádať. Pravdepodobným výsledkom je hybridný prístup: umelci použijú AI na návrh alebo vyfarbenie diel, potom pridajú vlastné úpravy. Menej etablovaní umelci však môžu mať problém konkurovať jedným klikom generovaným AI výstupom, ktoré mnohým divákom stačia ako „dostatočne dobré“. To vyvoláva potrebu možno nového „autentického ručne vyrobeného“ hodnotového prvku v erotickom umení, podobne ako niektorí fanúšikovia radi zaplatia viac za vedomie, že dielo vytvoril človek.

Postoj erotického priemyslu: Zaujímavé je, že veľké spoločnosti v oblasti zábavy pre dospelých boli verejne ohľadom AI pomerne ticho. Možno preto, že si interne hľadajú stratégie, alebo preto, že by upútanie pozornosti mohlo vyvolať väčšiu kontrolu. Erotický priemysel bol historicky rýchly v prijímaní technológií (internet, webkamery, VR porno atď. prijal medzi prvými). Už teraz vidíme, že erotické stránky predávajú obsah „deepfake celebrít“ (čo je v niektorých krajinách právne na hrane) a experimentujú s AI odporúčaniami. Vo svete cammingu niektoré stránky skúšali AI chatboty, aby udržali zákazníkov, keď sú modelky offline. Priama náhrada ľudských zabávačov AI sa však na veľkých platformách zatiaľ neudiala, čiastočne pre nedostatočnú vyspelosť technológie a preferenciu používateľov pre skutočnú interakciu.

Avšak, ekonomický tlak môže prinútiť adaptáciu. Ak by hypoteticky o 2-3 roky AI dokázala na požiadanie vygenerovať plnohodnotné HD porno video s akoukoľvek dvojicou celebrít, trh s profesionálnym pornom s neznámymi hercami by mohol upadnúť – prečo platiť alebo si predplácať, keď sú k dispozícii nekonečné bezplatné fantázie? Priemysel by sa mohol preorientovať na zdôrazňovanie autenticity, živej interakcie a komunity – vecí, ktoré AI nedokáže poskytnúť. Mohli by sme vidieť porno propagované s tagmi ako „100% ľudské, skutočné potešenie“ ako predajným argumentom, ironicky. Naopak, priemysel by mohol AI začleniť na zníženie nákladov – napríklad by jeden herec vystupoval a potom by AI zmenila jeho tvár, aby z jedného natáčania vzniklo viacero „rôznych“ videí (ideálne so súhlasom). Takýto scenár by vyvolal etické otázky (vedia diváci, že ide o tú istú osobu s upravenou tvárou? Dostane účinkujúci zaplatené za každé variantné video alebo len raz?).

Jedným z pozitívnych dopadov by mohol byť vplyv na bezpečnosť: Ak by AI dokázala simulovať rizikové akty, štúdiá by ju mohli využiť na to, aby nevystavovali účinkujúcich nebezpečenstvu. Napríklad namiesto toho, aby účinkujúci vykonávali extrémny kúsok, mohli by natočiť niečo základné a AI by vygenerovala intenzívnu časť. Alebo, ako už bolo spomenuté, účinkujúci by mohol natáčať oblečený a AI by vygenerovala nahú verziu, čo by mohol byť spôsob, ako niekto môže účinkovať v porne bez toho, aby bol na pľaci skutočne nahý (hoci táto myšlienka sama o sebe vyvoláva diskusiu o autenticite a súhlase).

Fragmentácia trhu: Je pravdepodobné, že trh s obsahom pre dospelých sa rozdelí do viacerých úrovní:

• Prémiový ľudský obsah zdôrazňujúci skutočnú interakciu (personalizované videá, OnlyFans s priamym zapojením tvorcu, živé cam show – veci, kde je ľudská prítomnosť podstatou).
• AI-generovaný obsah, ktorý môže byť extrémne lacný alebo zadarmo, zaplaví tube stránky alebo súkromné kanály. To môže uspokojiť príležitostných divákov alebo tých s veľmi špecifickými fantáziami (celebrity atď.). Ak deepfake porno zostane polo-nelegálne, môže zostať viac v podzemí alebo na nekomerčných fórach.
• Hybridný obsah, kde tvorcovia využívajú AI, ale zostávajú zapojení. Napríklad modelka môže predávať AI-vylepšené sady svojich obrázkov – v podstate jej podobu, ale zdokonalenú alebo umiestnenú do fantastických scén pomocou AI. Pokiaľ je to transparentné a so súhlasom, fanúšikovia môžu oceniť túto rozmanitosť.

Mentálny a sociálny dopad na tvorcov: Nemožno ignorovať emocionálnu záťaž tvorcov pri pohľade na to, ako sú ich tváre možno použité bez súhlasu, alebo len tlak súťažiť so strojmi. Komentáre na Reddite od tvorcov OnlyFans odhalili určitú úzkosť a dokonca zúfalstvo reddit.com reddit.com. To odráža, čo sa deje v iných kreatívnych odvetviach (umelci, herci) v súvislosti s AI – ale v oblasti dospelých prác môže stigma a nedostatok inštitucionálnej podpory sťažovať vyjadrenie obáv alebo hľadanie ochrany. Môžeme očakávať, že advokačné skupiny za práva sex-pracovníkov rozšíria svoj záber o digitálne práva a AI, budú bojovať napríklad za právo byť odstránený z tréningových datasetov alebo za zákaz deepfake videí interpretov bez ich súhlasu. Odbory (ako Adult Performers Actors Guild v USA) môžu vyjednávať AI klauzuly v zmluvách. Napríklad interpretka môže trvať na tom, aby štúdio nepoužilo jej zábery na trénovanie AI, ktorá by mohla neskôr nahradiť jej obraz, alebo aspoň aby jej za to zaplatili.

Pokiaľ ide o správanie spotrebiteľov, skoré neoficiálne dôkazy naznačujú, že mnohí diváci porna stále uprednostňujú vedomie, že niečo je skutočné – existuje príťažlivosť skutočných ľudských interpretov. AI porno môže podľa niektorých používateľov pôsobiť „bez duše“ alebo menej uspokojivo, keď pominie novota. Ľudskí tvorcovia si teda môžu udržať svoje publikum zdôrazňovaním svojej autenticity a osobného prepojenia, ktoré AI nedokáže skutočne napodobniť. Na druhej strane, ako sa AI zlepšuje, rozdiel sa môže zmenšovať a mladšie generácie vyrastajúce s AI možno nebudú robiť rozdiel.

Príležitosť pre nové talenty? Existuje zaujímavá opačná stránka: AI by mohla znižovať bariéry pre vstup do priestoru obsahu pre dospelých kontrolovaným spôsobom. Niekto, kto by nikdy nezdieľal svoje skutočné telo alebo tvár, by si mohol vytvoriť AI personu – fiktívneho sexi avatara – a predávať obsah tohto avatara. V podstate byť camgirl alebo OnlyFans modelkou cez AI proxy. Niektorí používatelia to už vyskúšali s rôznym úspechom. Otvára to dvere ľuďom, aby zarábali na fantáziách bez odhalenia identity alebo tela. Platformy však v súčasnosti vyžadujú overenie identity na zabránenie catfishingu a problémom s neplnoletými, takže jednotlivec by sa aj tak musel zaregistrovať a pravdepodobne uviesť, že obsah je AI-generovaný a ide o fiktívnu osobu. Ak by to bolo povolené, mohlo by to vytvoriť novú kategóriu tvorcov obsahu: tvorcovia obsahu pre dospelých poháňaní AI, ktorí sú skutoční podnikatelia, ale ich produktom je úplne virtuálna postava. Súťažili by so skutočnými modelmi. Platili by používatelia za „falošný“ model? Možno, ak je dostatočne atraktívna a interaktívna, a najmä ak by si spočiatku neuvedomili, že je falošná. Dá sa predstaviť, že niektorí používatelia by dokonca uprednostnili AI modelku, ktorá je „vždy dostupná a nikdy nemá zlý deň“. To je z pochopiteľných dôvodov znepokojujúce pre ľudských interpretov.

Regulačný a právny vplyv na odvetvie: S novými zákonmi o deepfake-och majú adult platformy právne motivácie zakázať všetko, čo nie je konsenzuálne. To by mohlo paradoxne posilniť pozíciu zavedených, regulovaných adult spoločností (ktoré pracujú len s dobrovoľnými účinkujúcimi) oproti nelegálnym AI stránkam. Ak bude vymáhanie zákona silné, používatelia, ktorí chcú deepfake porno, ho môžu získať ťažšie, čo by ich mohlo priviesť buď k nelegálnym zdrojom na dark webe, alebo ich od tohto zvyku odradiť. Medzitým by sa konsenzuálne AI výtvory (napríklad modelka súhlasiaca s AI verziou samej seba) mohli stať novou kategóriou licencovaných produktov. Bude to vyžadovať právne objasnenie: napríklad, môže si modelka získať autorské právo alebo ochrannú známku na svoju tvár, aby mohla žalovať niekoho, kto vytvorí jej AI klon bez povolenia? Niektoré krajiny ako Dánsko a pravdepodobne pripravované zákony jednotlivých štátov USA sa uberajú týmto smerom euronews.com. To by pomohlo účinkujúcim chrániť svoju značku.

Zhrnutie vplyvu: Odvetvie s obsahom pre dospelých je na začiatku potenciálnej zmeny paradigmy. Tí, ktorí sa prispôsobia – využívaním AI eticky a transparentne – môžu prosperovať alebo aspoň prežiť. Tí, ktorí to ignorujú, môžu zápasiť s prívalom obsahu a meniacimi sa spotrebiteľskými návykmi. Ako povedal jeden AI podnikateľ o AI spoločníkoch: „každá nová inovácia môže pôsobiť ako drastická zmena… je to evolúcia“ sifted.eu. Otázkou je, či táto evolúcia doplní alebo pohltí existujúci ekosystém tvorcov.

Záver: Nová erotická hranica plná dilem

Vzostup NSFW AI nepopierateľne otvoril Pandorinu skrinku. Za pár rokov sme boli svedkami toho, ako AI prešla od generovania vtipných obrázkov mačiek k vytváraniu falošných nahých fotografií, ktoré môžu zničiť niečí život. Táto technológia je mocná, dvojsečná a je tu, aby zostala. Na jednej strane umožňuje obyčajným ľuďom vytvoriť akýkoľvek erotický obraz alebo scénu, o akej snívajú, čím rozmazáva hranice medzi spotrebiteľom a tvorcom v zábavnom priemysle pre dospelých. Sľubuje personalizované potešenie, kreatívne objavovanie a možno aj nové obchodné modely v miliardovom odvetví, ktoré bolo často technologicky stagnujúce. Na druhej strane NSFW AI podnietila nové formy zneužívania – niektorí to nazývajú „digitálne znásilnenie“ – tým, že jednotlivcom (väčšinou ženám) odobrala kontrolu nad vlastnými obrazmi a telami v digitálnom priestore. Spôsobuje problémy našim právnym systémom, ktoré sa snažia aktualizovať definície zosobnenia, pornografie a súhlasu pre AI éru. A núti spoločnosť čeliť nepríjemným otázkam o povahe sexuality, slobode prejavu a ľudskom spojení, keď sú tieto aspekty rozšírené alebo simulované AI.

Od konca roku 2025 sa kyvadlo prikláňa k ochranným opatreniam a zodpovednosti. Významná legislatíva v USA a EÚ, zásahy v Ázii a zmeny politík platforiem všetko naznačujú, že nevyžiadané AI porno je všeobecne považované za neprijateľné. Súčasne sa vyvíjajú technológie na detekciu a odrádzanie od zneužívania, aj keď samotná generatívna technológia sa zlepšuje. Môžeme očakávať, že dynamika „mačky a myši“ bude pokračovať: každé nové bezpečnostné opatrenie môže byť sprevádzané novými technikami obchádzania zo strany zlomyseľných aktérov. Kolektívne povedomie je však teraz oveľa vyššie – AI porno už nie je len okrajová internetová zvláštnosť; je to hlavná téma záujmu v parlamentoch a redakciách. Toto verejné povedomie môže posilniť obete, aby prehovorili a žiadali spravodlivosť, a tlačiť na firmy, aby prevzali zodpovednosť.

Pri pohľade do budúcnosti bude globálna spolupráca kľúčová. Tieto problémy sa nezastavujú na hraniciach – deepfake vytvorený v jednej krajine môže zničiť niekomu život v inej. Bude dôležité, aby vlády zdieľali najlepšie postupy (ako ukazuje prieskum európskych zákonov od Euronews, mnohé krajiny sa učia z prístupov iných euronews.com euronews.com). Možno sa v nasledujúcich rokoch objaví medzinárodný rámec alebo zmluva na boj proti sexuálnemu zneužívaniu založenému na obrazoch, ktorá bude najhoršie trestné činy považovať za porušenie ľudských práv. Medzitým budú musieť občianske organizácie a pedagógovia pokračovať vo zvyšovaní povedomia, vyučovaní mediálnej gramotnosti (aby ľudia dvakrát premýšľali, než uveria alebo zdieľajú „uniknutý“ intímny obsah) a v podpore obetí.

Napriek všetkej temnote spojenej s NSFW AI stojí za zmienku, že nie je všetko len zlé a beznádejné. V konsenzuálnych kontextoch niektorí ľudia z toho získavajú skutočné šťastie – či už ide o pár, ktorý si spestruje intímny život AI-generovanými rolovými scenármi, alebo dospelého tvorcu, ktorý používa AI personu na bezpečný zárobok z domu, alebo jednoducho jednotlivcov, ktorí konečne vidia svoju konkrétnu fantáziu zobrazenú v AI umení alebo príbehu. Tieto prípady by nemali byť v diskusii prehliadané; zdôrazňujú, že samotná technológia nie je zo svojej podstaty zlá. Je to nástroj – taký, ktorý zosilňuje ľudské úmysly, dobré aj zlé. Našou úlohou je usmerniť jej použitie k súhlasným a kreatívnym účelom a dôrazne chrániť pred zlomyseľným využitím.

Umelci, tvorcovia a sexworkerky – ľudia, ktorí pôsobia vo svete obsahu pre dospelých – sa pravdepodobne budú naďalej prispôsobovať a vytvárať si priestor v tomto novom prostredí. Mnohí bojujú za to, aby „AI etika“ zahŕňala aj ich hlasy, požadujú mechanizmy súhlasu a odmeňovania. V podstate žiadajú niečo jednoduché: neberte nám bez opýtania. Celá spoločnosť sa s touto zásadou vyrovnáva vo všetkých oblastiach AI, od umenia cez správy až po porno.

Na záver, NSFW AI stojí na priesečníku technológie, sexuality, práva a etiky. Núti nás nanovo definovať pojmy súhlas, súkromie a dokonca aj samotnú realitu v digitálnom veku. Druhá polovica 20. rokov 21. storočia bude kľúčová pri stanovovaní noriem a pravidiel, ktoré budú tento priestor riadiť. Smerujeme k budúcnosti, kde bude AI porno všadeprítomné, ale prísne regulované, využívané prevažne na dobré alebo neutrálne účely? Alebo uvidíme balkanizáciu, kde ho hlavné platformy vyčistia, zatiaľ čo bude prekvitať v temných kútoch, podobne ako nelegálny obchod? Výsledok závisí od rozhodnutí, ktoré sa robia práve teraz – zákonodarcami, technologickými spoločnosťami a používateľmi.

Jedno je isté: džin je už z fľaše von. NSFW AI nemôžeme odinštalovať. Ale môžeme a musíme sa naučiť s ňou žiť zodpovedne. Ako používatelia to znamená rešpektovať dôstojnosť iných pri používaní týchto nástrojov; ako firmy, zabudovať bezpečnosť už od začiatku; ako vlády, stanoviť jasné hranice; a ako komunity, netolerovať zneužívanie. S ostražitosťou a empatiou je nádej, že fáza „divokého západu“ AI porna sa vyvinie do civilizovanejšieho prostredia – kde si dospelí so súhlasom môžu užívať nové formy erotického umenia a spojenia, zatiaľ čo tí, ktorí by technológiu zneužívali, budú držaní na uzde. Príbeh NSFW AI sa ešte len píše a polovica roka 2025 je len prvou kapitolou. Odozva spoločnosti teraz určí, či táto technológia nakoniec obohatí alebo ohrozí našu sféru intímneho obsahu.

Zdroje:

• Oremus, Will. „Kongres schválil zákon na boj proti deepfake nahote a pomste pornom.“ The Washington Post (cez stránku senátorky Klobuchar), 28. apríla 2025 klobuchar.senate.gov klobuchar.senate.gov.
• Fawkes, Violet. „8 najlepších NSFW AI generátorov obrázkov – Hľadanie potešenia na križovatke kódu a súhlasu.“ Chicago Reader, 13. apríla 2025 chicagoreader.com chicagoreader.com.
• Mahdawi, Arwa. „Nesúhlasné deepfake porno je núdzová situácia, ktorá ničí životy.“ The Guardian, 1. apríla 2023 theguardian.com theguardian.com.
• Ferris, Layla. „Webstránka s AI-generovaným pornom Mr. Deepfakes ukončila činnosť po tom, čo poskytovateľ služieb stiahol podporu.“ CBS News, 5. mája 2025 cbsnews.com cbsnews.com.
• CBS News/AFP. „Škandál s AI-generovaným pornom otriasol Hongkonskou univerzitou po tom, čo študent práva údajne vytvoril deepfaky 20 žien.“ CBS News, 15. júla 2025 cbsnews.com cbsnews.com.
• Lyons, Emmet. „Južná Kórea sa chystá kriminalizovať držbu alebo sledovanie sexuálne explicitných deepfake videí.“ CBS News, 27. septembra 2024 cbsnews.com cbsnews.com.
• Wethington, Caleb. „Nové zákony proti deepfakom a AI-generovanému detskému pornu vstupujú do platnosti v Tennessee.“ WSMV News Nashville, 30. júna 2025 wsmv.com wsmv.com.
• Desmarais, Anna. „Dánsko bojuje proti deepfakom prostredníctvom autorských práv. Aké ďalšie zákony existujú v Európe?“ Euronews, 30. júna 2025 euronews.com euronews.com.
• Nicol-Schwarz, Kai. „Zoznámte sa s AI OnlyFans: Ako jeden startup získal milióny na vybudovanie platformy ‘erotických spoločníkov’.“ Sifted, 13. marca 2025 sifted.eu sifted.eu.
• Wilson, Claudia. „Senát schválil zákon DEFIANCE.“ Center for AI Policy (CAIP), 1. augusta 2024 centeraipolicy.org centeraipolicy.org.
• Arnold, Stephen. „Google zaujíma postoj — proti pochybnému obsahu. Podarí sa to AI správne?“ Beyond Search blog, 24. mája 2024 arnoldit.com arnoldit.com.
• Holland, Oscar. „Lin Chi-ling z Taiwanu o svojej skúsenosti s deepfake a boji proti dezinformáciám AI.“ CNN, 5. októbra 2023 (pre kontext o deepfake celebrít).
• (Ďalšie politické dokumenty, tlačové správy a správy, ako sú citované v texte.)