Uvnitř NSFW AI revoluce: Jak AI-generované porno mění pravidla hry a vyvolává kontroverze

NSFW AI – použití generativní umělé inteligence k vytváření „pro práci nevhodného“ (Not Safe For Work) obsahu pro dospělé – se stalo žhavým fenoménem. Od AI-generovaných erotických obrázků a deepfake pornografických videí po svůdné hlasové klony a chatbotí „přítelkyně“ – strojové učení přetváří oblast obsahu pro dospělé. Jde o technologickou revoluci, která přináší stejně lákavé možnosti jako naléhavé etické otázky. Zastánci vítají nové cesty pro fantazii a kreativitu, zatímco kritici varují před obtěžováním, porušováním souhlasu a společenskými škodami. V polovině roku 2025 stojí NSFW AI na rozcestí: přijímaná okrajovými komunitami a startupy, pod drobnohledem zákonodárců a obávaná těmi, kdo se ocitli v jejím křížovém ohni. V této obsáhlé zprávě se ponoříme do toho, co NSFW AI je, kde se jí daří, jaké jsou nejnovější trendy (od zákazů na platformách po nové zákony), etické dilemata, hlasy obou stran debaty a jak se svět snaží tuto nespoutanou novou dimenzi AI moderovat a regulovat. Poodhalme oponu divokého světa AI-generovaného porna – a proč nejde jen o porno, ale také o soukromí, moc a budoucnost sexuálního obsahu.

Co je NSFW AI a jak funguje?

NSFW AI označuje systémy umělé inteligence, které generují explicitní obsah pro dospělé – včetně pornografických obrázků, videí, audia a textu – často s ohromující věrohodností. Tyto systémy využívají stejné špičkové generativní technologie, které stojí za nedávnými průlomy v AI umění a médiích, ale jsou aplikovány na materiál s ratingem X. Klíčovými inovacemi jsou modely hlubokého učení trénované na obrovských datových souborech obrázků a videí, které se učí vytvářet nový obsah na základě uživatelských zadání. Například text-to-image difuzní modely jako Stable Diffusion dokážou vytvořit fotorealistické nahé nebo sexuální obrázky z jednoduchého textového popisu globenewswire.com. „Deepfake“ techniky umožňují zaměňovat nebo syntetizovat obličeje ve videích, takže to vypadá, že skuteční lidé (často celebrity nebo soukromé osoby) vystupují v pornu, které nikdy nenatočili. Pokročilé nástroje pro klonování hlasu dokážou napodobit hlas člověka s neuvěřitelnou přesností, což umožňuje generovat erotické audio nebo „špinavé řeči“ v cílovém hlasu. A velké jazykové modely umí generovat žhavé erotické příběhy nebo se zapojit do sexuální role-play konverzace v chatu.

V podstatě NSFW AI systémy používají stejné algoritmy, které generují jakékoli AI umění nebo média – pouze jsou trénovány nebo doladěny na pornografických nebo erotických tréninkových datech. Generativní adversariální sítě (GANs) byly průkopníky ve vytváření nahých obrázků, ale difuzní modely a modely založené na transformerech výrazně zlepšily věrnost. Moderní NSFW generátory obrázků dokážou vytvořit vysoce kvalitní nahé obrázky přizpůsobené uživatelským zadáním s minimálním úsilím globenewswire.com. Tvůrci deepfake videí často používají specializovaný software (některý open source) k mapování jedné tváře na druhou v existujících erotických videích, čímž vzniká syntetická pornografie, kterou je těžké rozeznat od skutečných záběrů cbsnews.com. Služby Voice AI mohou vzít zvukový vzorek a generovat novou řeč (včetně explicitního obsahu) v daném hlasu. A AI chatboti využívají generování přirozeného jazyka k poskytování personalizovaných erotických konverzací nebo sextingu na vyžádání.

Hranice mezi fikcí a realitou se stírají. Jak poznamenal jeden pozorovatel, „již nyní vysoce realistické obrázky, hlasy a videa NSFW AI generátorů se neustále vyvíjejí a dále mění způsob, jakým je dospělý obsah vytvářen, konzumován a chápán“ chicagoreader.com. Uživatel si nyní může vyvolat vlastní pornografickou scénu – například obrázek vysněného setkání s celebritou nebo zvukovou nahrávku ex, která říká explicitní věci – jednoduchým zadáním, což bylo ještě před pár lety nemožné. Tato nově nabytá moc vyvolává naléhavé otázky ohledně souhlasu, soukromí a rozdílu mezi kreativní fantazií a zneužitím. Samotná základní technologie je morálně neutrální – lze ji použít k vytvoření čehokoli – ale když je zaměřena na lidskou sexualitu a podobu skutečných lidí, důsledky jsou problematické.

Klíčové formy AI-generovaného obsahu pro dospělé

• AI-generované obrázky: Text-to-image modely (např. Stable Diffusion) dokážou vytvářet explicitní erotické nebo pornografické obrázky na základě zadání. Uživatelé mohou specifikovat vzhled, scénář atd., což umožňuje vytvářet jedinečné nahé nebo sexuální obrázky na vyžádání globenewswire.com. Mnoho takových modelů je open-source nebo uživatelsky přizpůsobených, což umožňuje obsah nad rámec toho, co dovolují běžné AI nástroje.
• Deepfake porno videa: Pomocí deepfake technologie tvůrci nasazují obličej určité osoby na záběry z pornografického videa, čímž vytvářejí falešný pornoklip s někým, kdo se natáčení nikdy neúčastnil. Tyto AI-manipulované videa často cílí na celebrity nebo soukromé osoby bez jejich souhlasu cbsnews.com theguardian.com. Kvalita deepfake videí se natolik zlepšila, že v letech 2024–2025 mnohé vypadají alarmujícím způsobem realisticky, a to díky výkonnějším GPU a algoritmům.
• Klonování hlasu a audio: AI generátory hlasu klonují hlasy celebrit nebo známých osob za účelem tvorby explicitních audio nahrávek (například simulace, že slavná herečka mluví sprostě, nebo vytváření erotických audioknih s jakýmkoli hlasem). Sofistikovaná hlasová AI (jako ElevenLabs) umožňuje snadno generovat sténání, dialogy nebo vyprávění v libovolném hlasu, což vyvolává obavy z vydávání se za jiné osoby v pornografickém audiu.
• Erotické chatboty a fikce: AI jazykové modely se používají pro NSFW chat a vyprávění příběhů. Aplikace „AI přítelkyně“ a erotické role-play chatboty zažily obrovský nárůst popularity v letech 2023–2025. Tito boti dokážou vést s uživateli žhavé konverzace nebo sexting a generovat neomezené množství erotického textu. Někteří kombinují i vizuály a hlasové zprávy. To představuje novou formu obsahu pro dospělé – interaktivní AI společníci naplňující intimní fantazie chicagoreader.com sifted.eu.

Zatímco mainstreamové AI platformy (jako OpenAI’s DALL·E nebo Midjourney) zakazují pornografický obsah, open-source a komunita dospělých technologií tyto technologie přijaly a posouvají hranice NSFW obsahu. Open-source povaha mnoha nástrojů „podporuje inovace a spolupráci“, ale zároveň usnadňuje odstraňování ochran a generování neregulovaného explicitního obsahu chicagoreader.com chicagoreader.com. Jak uvidíme, tento střet mezi inovací a regulací se odehrává napříč různými platformami.

Platformy, aplikace a komunity pohánějící NSFW AI

Živý (a někdy i stínový) ekosystém platforem a online komunit vznikl za účelem tvorby a sdílení AI-generovaného obsahu pro dospělé. Protože velké technologické společnosti zakazují explicitní obsah na svých AI službách arnoldit.com blog.republiclabs.ai, boom NSFW AI je poháněn nezávislými vývojáři, open-source modely a specializovanými startupy. Zde jsou některé z hlavních oblastí, kde NSFW AI žije a prosperuje:

• Open-source modelové huby: CivitAI – populární komunitní web – hostí obrovskou knihovnu uživatelsky vytvořených AI modelů a obrázků, včetně mnoha specializovaných na obsah pro dospělé chicagoreader.com. Uživatelé si mohou stahovat vyladěné modely Stable Diffusion pro hentai, realistické akty, fetišistické umění atd. a sdílet své vygenerované obrázky. Otevřenost takovýchto stránek z nich udělala hlavní místo pro tvůrce NSFW AI. Znamená to však také minimální dohled; obsah sahá od umělecké erotiky až po extrémní pornografii. Další stránky jako Hugging Face hostily NSFW modely (s varováním) a fóra jako 4chan nebo GitHub také sdílely „uniklé“ necenzurované modely.
• NSFW generátory obrázků a aplikace: Řada webových služeb se nyní specializuje na AI generování erotických obrázků. Například platformy jako Candy.ai, Arting.ai, Vondy, OurDream a další (často na bázi předplatného) umožňují uživatelům generovat vlastní obrázky pro dospělé s relativně malým množstvím omezení chicagoreader.com chicagoreader.com. Některé se chlubí vysoce kvalitními rendery a širokou škálou stylů – od fotorealistických po anime – a oslovují různé vkusy. Mnohé se začaly objevovat v letech 2024–2025, často nabízejí bezplatné zkušební verze nebo tokeny a soutěží o to, kdo vytvoří nejvíce realistické nebo nápadité NSFW umění. Jejich marketing zdůrazňuje personalizaci a soukromí, slibuje uživatelům, že si mohou vytvořit přesně to, co chtějí „v bezpečném, soukromém prostředí, bez omezení předem natočeného obsahu“ globenewswire.com.
• Komunity a fóra o AI pornu: Před nedávnými zásahy byly specializované webové stránky s deepfake pornem centry této aktivity. Nejznámější byl Mr. Deepfakes, založený v roce 2018, který se stal „nejvýznamnějším a nejmainstreamovějším tržištěm“ pro deepfake porno celebrit i necelebritních obětí cbsnews.com. Uživatelé na stránce mohli nahrávat a sledovat explicitní deepfake videa a dokonce si za poplatek objednat vlastní nevyžádané porno cbsnews.com. Stránka podporovala komunitu s fóry pro diskusi o technikách a výměnu obsahu. Jak však podrobněji popíšeme později, Mr. Deepfakes byl uzavřen v roce 2025 poté, co přišel o klíčového poskytovatele služeb cbsnews.com. Po takových zásazích však komunita deepfake porna nezmizela – rozštěpila se a přesunula jinam. Odborníci upozorňují, že rozpuštění hlavního webu „rozhání komunitu uživatelů, pravděpodobně je to posouvá na méně mainstreamové platformy, jako je Telegram“, kde si vyměňují obsah cbsnews.com. Šifrované aplikace a specializovaná fóra jsou nyní novým domovem pro mnoho NSFW AI nadšenců, kteří byli vyhnáni z větších platforem.
• AI „přítelkyně“ a služby společníků: Vlna startupů spojuje generování erotického obsahu s interaktivním doprovodem. Jedním z výrazných příkladů je Oh (se sídlem v Londýně), který se prezentuje jako tvůrce „AI OnlyFans“ – erotická platforma společníků, kde uživatelé komunikují s AI-generovanými virtuálními modely prostřednictvím textu, hlasu a obrázků sifted.eu sifted.eu. Oh získal na začátku roku 2025 investici 4,5 milionu dolarů na vytvoření „autonomních spoře oděných botů“, kteří mohou uživatelům dokonce sami od sebe posílat flirtující zprávy sifted.eu sifted.eu. Na stránkách uživatelé vidí profily polonahých AI botů – většinou fiktivních ženských postav, ale některé jsou „digitální dvojčata“ skutečných tvůrců pro dospělé, kteří licencují svou podobu (a mají podíl na příjmech) sifted.eu. Uživatelé si s těmito boty mohou psát, dostávat sexy zprávy, AI-generované nahé fotky a dokonce i hlasové poznámky vytvořené klonovanými hlasy sifted.eu. Řada podobných služeb se objevila kolem let 2023–2024: DreamGF, Kupid AI, FantasyGF, Candy.ai atd., což naznačuje trend AI poháněných erotických chatovacích společníků sifted.eu. Lákadlem je 24/7, plně přizpůsobitelná erotická interakce – v podstatě virtuální camgirl nebo přítel poháněný algoritmy.
• Zavedené platformy pro dospělé se přizpůsobují: Tradiční platformy s obsahem pro dospělé nejsou vlnou AI nedotčeny. OnlyFans, populární služba pro předplatné tvůrců, se potýká s nárůstem AI-generovaného obsahu pro dospělé. Podle pravidel OnlyFans povoluje AI-generované obrázky pouze pokud zobrazují samotného ověřeného tvůrce a jsou jasně označeny jako AI obsah reddit.com. Zakazují používání AI k napodobování jiných osob nebo k automatizaci chatu s fanoušky reddit.com. Přesto se objevily zprávy o účtech, které prodávají balíčky zjevně AI-generovaných nahých fotografií (s typickými chybami jako podivné ruce nebo „mrtvé oči“ na každém obrázku) nic netušícím odběratelům reddit.com. Někteří lidskí tvůrci jsou rozhořčeni, protože se obávají, že falešné AI modely by mohly zaplavit platformu a poškodit jejich výdělky reddit.com uniladtech.com. Jedna sexworkerka si postěžovala, že AI „bere úsilí, kreativitu a starosti“, které skuteční tvůrci vkládají, označila to za „medvědí službu mým fanouškům“ a obává se, že to zhorší nerealistická očekávání ohledně sexu reddit.com reddit.com. Na druhou stranu někteří chytří tvůrci obsahu pro dospělé přijímají AI nástroje – používají generátory obrázků k vylepšení nebo znásobení svého obsahu, nebo licencují svou podobu firmám jako Oh pro extra příjem sifted.eu. Průmysl s obsahem pro dospělé jako celek (porno studia, cam stránky atd.) opatrně experimentuje s AI pro tvorbu obsahu, ale zároveň ji sleduje s obavami jako rušivou sílu, která by mohla umožnit příval uživatelsky generovaného explicitního obsahu mimo profesionální sféru. Analytici odvětví předpovídají, že AI-generovaný obsah pro dospělé by mohl tvořit více než 30 % online spotřeby porna do roku 2027, pokud budou současné trendy pokračovat globenewswire.com, což ukazuje, jak rychle se tato technologie rozšiřuje.

Komunita NSFW AI je rychle se vyvíjející a rozmanitá, od amatérských umělců, kteří zkoumají AI erotiku jako „kreativní a osobní průzkum“, až po tvrdá deepfake uskupení vytvářející škodlivé falešné nahotiny chicagoreader.com. Téměř každý týden se objevují nové platformy a nástroje, z nichž každý nabízí jinou rovnováhu mezi svobodou a omezeními. Jak uvedla jedna recenze z roku 2025, „svět NSFW AI generátorů je rozsáhlý a rychle se měnící“, přičemž některé platformy se zaměřují na hyperrealistickou vizuální stránku, jiné na interaktivní vyprávění příběhů a každá zaujímá své vlastní etické šedé zóny chicagoreader.com. Co je spojuje, je příslib na vyžádání, vysoce personalizovaného obsahu pro dospělé – a nebezpečí, která přicházejí s takovou mocí.

2025: Záplava AI porna a rostoucí odpor

V polovině roku 2025 dosáhla NSFW AI bodu zlomu. Na jedné straně se obsah stal rozšířenějším a přesvědčivějším než kdy dříve; na druhé straně veřejné obavy a regulační dohled dosáhly nového vrcholu. Mezi nedávné události patří vysoce medializované případy zneužití, rychlé reakce regulátorů a dokonce i samoregulace v technologickém průmyslu. Níže shrnujeme některé z hlavních zpráv a trendů let 2024–2025 týkajících se AI generovaného porna:

Kontroverze a skandály s nevyžádanými deepfaky

Možná nic nerozdmýchalo debatu o NSFW AI více než nárůst ne-souhlasné deepfake pornografie – tedy využívání AI k tomu, aby to vypadalo, že někdo (obvykle žena) se objevil nahý nebo v sexuálních aktech, které nikdy neudělal. Tato praxe začala u celebrit, ale stále častěji cílí na obyčejné lidi, často jako forma obtěžování nebo „pomstychtivé pornografie“. Do roku 2023 se stala znepokojivě rozšířenou a snadno dostupnou: investigativní zprávy zjistily, že kdokoli mohl snadno najít weby s deepfake pornografií přes Google, připojit se na Discord a požádat o vlastní padělky, a dokonce platit kreditní kartou – vzkvétající podzemní ekonomika, kde „tvůrci“ otevřeně inzerují své služby theguardian.com theguardian.com. Studie opakovaně zjistily, že oběťmi tohoto trendu jsou drtivě ženy a dívky. Průlomová zpráva společnosti Sensity (firma zabývající se bezpečností AI) zjistila, že 95–96 % deepfake obsahu online tvořily ne-souhlasné sexuální snímky, téměř všechny zobrazující ženy theguardian.com. Známé ženy od herečky Taylor Swift po internetové osobnosti měly své falešné nahé fotografie, které se staly virálními na sociálních sítích klobuchar.senate.gov. Ještě znepokojivější je, že byly cíleny i na soukromé osoby a nezletilé: např. čtrnáctiletá dívka zjistila, že spolužáci použili aplikaci k vytvoření falešných pornografických snímků s její podobiznou a sdíleli je na Snapchatu klobuchar.senate.gov.

Jedna výrazná událost se odehrála v lednu 2023, kdy byl streamer videoher na Twitchi přistižen s otevřenou záložkou prohlížeče na stránce s deepfake pornografií, která zobrazovala jeho kolegyně. Streamer se slzami v očích omluvil, ale jedna z žen, Twitch streamerka QTCinderella, reagovala velmi emotivně: „Takhle vypadá pocit narušení… vidět své ‘nahé’ fotky šířené“ bez souhlasu theguardian.com. Zdůraznila, jak nespravedlivé je, že jako žena na veřejnosti teď musí trávit čas a utrácet peníze za boj o odstranění falešných sexuálních snímků ze internetu theguardian.com theguardian.com. Její prosba – „Nemělo by být součástí mé práce být takto obtěžována“ – zasáhla veřejnost a přitáhla pozornost k deepfake pornografii jako vážné formě zneužívání.

Od té doby se podobné případy jen množí. V roce 2024 se studenti v několika zemích stali jak pachateli, tak oběťmi AI výměny nahoty. V Austrálii otřásly školní komunitou falešné explicitní snímky několika studentek, které byly vytvořeny a šířeny bez jejich souhlasu, což vedlo k policejnímu vyšetřování a veřejnému pobouření theguardian.com. V Hongkongu v roce 2025 údajně student práv na prestižní Hongkongské univerzitě vytvořil AI pornografické snímky nejméně 20 spolužaček a učitelek, což vyvolalo skandál, když univerzita zpočátku udělila pouze varovný dopis cbsnews.com cbsnews.com. Hongkongské úřady upozornily, že podle současných zákonů je trestné pouze šíření těchto snímků, nikoli jejich samotné vytvoření, což ponechává mezeru, pokud pachatel falešné snímky veřejně nešířil cbsnews.com. Skupiny za práva žen označily město za „zaostávající“ v ochraně, a hongkongský komisař pro ochranu soukromí přesto zahájil trestní vyšetřování s odkazem na možný úmysl způsobit újmu cbsnews.com cbsnews.com. Případ ukázal, že terčem se může stát kdokoli a stávající zákony často nestíhají držet krok.

Uprostřed těchto zneužití oběti popisují vážné emocionální a reputační škody. Být zobrazen v hyperrealistickém falešném sexuálním aktu je hluboce traumatizující, i když člověk logicky ví, že je to falešné. „Je to surreální vidět svůj obličej… Vypadaly tak nějak mrtvé uvnitř,“ řekla jedna vysokoškolská studentka, která našla AI-generovaná videa sebe sama na porno stránce (nahraná nespokojeným bývalým spolužákem) centeraipolicy.org. Oběti se cítí bezmocné, nejen proto, že s takovými obrázky nikdy nesouhlasily, ale také proto, že je velmi obtížné je odstranit. Jak napsala jedna novinářka, „nepovolené deepfake porno je nouzová situace, která ničí životy.“ Nutí ženy žít ve stavu paranoie, přemýšlet, kdo tyto falešné obrázky viděl, a odvádí jejich energii do „noční můry hry na krtka“, kdy se snaží obsah odstranit z internetu theguardian.com klobuchar.senate.gov. Ochránci práv to přirovnávají k formě sexuálního kyberterorismu, jehož cílem je umlčet a zastrašit ženy theguardian.com.

Dokonce i hlavní platformy sociálních médií neúmyslně usnadňují šíření AI explicitního obsahu. Začátkem roku 2024 se explicitní deepfake obrázky Taylor Swift rozšířily na X (dříve Twitter) natolik – získaly miliony zhlédnutí – že platforma dočasně zablokovala výsledky vyhledávání jejího jména, aby zastavila šíření cbsnews.com. Bylo zjištěno, že Meta (Facebook/Instagram) v roce 2024 zobrazovala stovky reklam na „nudify“ aplikace (nástroje, které pomocí AI digitálně svlékají obrázky žen), přestože takové reklamy porušují pravidla. Po vyšetřování CBS News Meta mnoho těchto reklam odstranila a přiznala, že prošly kontrolou omylem cbsnews.com. Přítomnost takových reklam ukazuje, jak normalizované a dostupné se AI „svlékací“ aplikace staly, dokonce i na legitimních reklamních sítích cbsnews.com.

Zákazy na platformách a samoregulace v odvětví

Vzhledem k tlaku veřejnosti některé technologické platformy a poskytovatelé služeb v uplynulém roce podnikli kroky k omezení NSFW AI obsahu. Významným vývojem bylo uzavření Mr. Deepfakes v květnu 2025, o kterém již byla řeč. Stránka oznámila, že končí poté, co „klíčový poskytovatel služeb stáhl svou podporu“, což efektivně vyřadilo stránku z provozu cbsnews.com. Ačkoliv to nebylo potvrzeno, naznačuje to, že poskytovatel infrastruktury nebo hostingu (možná cloudová služba, registrátor domén nebo služba ochrany proti DDoS útokům) se rozhodl ukončit spolupráci, pravděpodobně kvůli právním nebo reputačním rizikům. Načasování přišlo jen několik dní poté, co americký Kongres schválil významný zákon proti deepfake technologiím (viz níže), což mnozí vnímají jako součást širšího zásahu cbsnews.com. Henry Ajder, známý odborník na deepfaky, oslavil uzavření jako rozbití „centrálního uzlu“ velké sítě zneužívání cbsnews.com. „Tohle je důvod k oslavě,“ řekl, zároveň však varoval, že problém nevyžádaných deepfake obrázků „nezmizí“ – rozptýlí se, ale pravděpodobně už nikdy nezíská tak silné postavení v hlavním proudu cbsnews.com. Ajder také poznamenal, že tyto komunity si najdou nové působiště, ale „už to nebude tak velké a výrazné“ jako mít jedno hlavní místo, což je „zásadní“ pokrok cbsnews.com.

Velké technologické společnosti také začaly řešit aspekt nástrojů a reklam. V květnu 2024 Google aktualizoval své zásady, aby zakázal reklamy na platformy, které vytvářejí deepfake porno nebo návody, jak ho vytvářet arnoldit.com. Tento krok Google, který vstoupil v platnost na konci května 2024, byl snahou omezit propagaci těchto služeb prostřednictvím Google Ads. (Google již dříve zakázal používání své platformy Colab pro trénování deepfake modelů a již v roce 2018 stránky jako Reddit a Pornhub oficiálně zakázaly AI-generované nevyžádané porno arnoldit.com.) Tento krok byl prezentován jako příprava Google na horší časy: „pokud deepfake porno vypadalo v roce 2018 neohrabaně, teď bude vypadat zatraceně realističtěji,“ poznamenala zpráva ExtremeTech, která tím odůvodnila potřebu přísnějších pravidel pro reklamu arnoldit.com. Podobně i společnosti sociálních médií aktualizují moderování obsahu – například Pornhub a hlavní stránky pro dospělé slíbily v roce 2018 zákaz deepfake videí (jako nevyžádaného porna) a v Evropě nové předpisy v letech 2024–25 nutí porno stránky aktivně „potírat škodlivý obsah“, jinak jim hrozí pokuty subscriber.politicopro.com. V rámci širšího úsilí o bezpečnost dokonce vlastník Pornhubu dočasně pozastavil služby v některých regionech (například ve Francii a v některých státech USA) kvůli obavám z dodržování nových zákonů subscriber.politicopro.com, což ukazuje, že platformy pro dospělé jsou nuceny brát ochranu obsahu vážně, nebo přerušit přístup.Hlavní AI firmy se nadále distancují od NSFW využití. OpenAI’s image model DALL·E a služba ChatGPT udržují přísné filtry proti sexuálnímu obsahu. Midjourney (populární AI generátor obrázků) nejenže zakazuje pornografické podněty, ale zavedl automatizovanou moderaci, která rozpoznává kontext, aby zabránil uživatelům propašovat NSFW požadavky arxiv.org. Když jsou filtry jednoho modelu překonány chytrým formulováním promptu, incidenty se dostanou na veřejnost a vývojáři zpřísní ochranná opatření (věčný souboj kočky s myší). Na druhou stranu, noví hráči někdy zdůrazňují svůj nedostatek cenzury jako prodejní argument: například nejnovější model Stability AI Stable Diffusion XL může technicky generovat NSFW obrázky, pokud je spuštěn lokálně bez bezpečnostního filtru, a některé menší firmy otevřeně inzerují „méně omezení na NSFW obsah ve srovnání s konkurencí“ latenode.com. To ukazuje na rozdělení v AI průmyslu: velcí hráči volí opatrnost a bezpečnost značky, zatímco menší nebo otevřené projekty vycházejí vstříc poptávce po necenzurované generativní AI – včetně porna.

Hlavní právní a regulační vývoj (2024–2025)

Možná nejzásadnější změny přicházejí od zákonodárců reagujících na nebezpečí AI porna. Po celém světě začínají vlády přijímat zákony na potrestání nevyžádaných deepfaků, ochranu obětí a dokonce i regulaci samotných AI nástrojů. Zde je přehled významných kroků:

• Spojené státy – Zákon Take It Down (2025): V dubnu 2025 americký Kongres drtivou většinou schválil bipartisanský „Take It Down Act“, první federální zákon, který se přímo zabývá AI-generovanými intimními obrázky klobuchar.senate.gov. Zákon činí federálním trestným činem vytváření nebo sdílení nevyžádaných intimních snímků (skutečných nebo AI-generovaných) osoby. Klíčové je, že vyžaduje, aby online platformy odstranily takový obsah do 48 hodin od nahlášení obětí klobuchar.senate.gov. Tento zákon – prosazovaný první dámou Melanií Trumpovou a spolupodepsaný senátory z obou stran – podepsal prezident Donald Trump v květnu 2025 klobuchar.senate.gov. Je považován za první významný internetový zákon druhého Trumpova období a přímou reakci na „rychle rostoucí problém [nevyžádané pornografie]“ klobuchar.senate.gov. Zástupci obětí jej označili za dlouho očekávaný. „Deepfaky vytvářejí děsivé nové možnosti zneužití,“ uvedla senátorka Amy Klobuchar a dodala, že nyní mohou oběti nechat materiál odstranit a pachatelé budou pohnáni k odpovědnosti klobuchar.senate.gov. Významné technologické společnosti jako Meta, Google a Snap tento zákon podpořily – což je známka shody, že bylo třeba něco udělat klobuchar.senate.gov. Zákon stanovuje tresty včetně pokut a až 2 let vězení pro pachatele cbsnews.com. Obětem také umožňuje žalovat tvůrce/distributory o náhradu škody, což posiluje občanskoprávní ochranu. Skupiny hájící svobodu projevu a soukromí varovaly před možným zneužitím zákona – například Lia Holland z Fight for the Future jej označila za „dobře míněný, ale špatně napsaný“, s obavou, že zlí aktéři by mohli zneužít požadavky na odstranění k cenzuře legitimního obsahu klobuchar.senate.gov. Přesto je Take It Down Act nyní v platnosti a znamená první skutečný krok federální vlády USA v boji proti sexuálnímu zneužívání pomocí AI ve velkém měřítku.
• Státy USA: Ještě před federálními kroky přijalo několik států USA vlastní zákony. Kalifornie, Texas, Virginie, New York a další přijaly v letech 2019–2023 zákony, které činí nelegálním vytváření nebo šíření deepfake pornografie bez souhlasu (často zařazované pod zákony proti pomstě prostřednictvím pornografie nebo sexuálního napodobování). V roce 2025 státy pokračovaly v upřesňování legislativy. Například Tennessee zavedlo zákon „Preventing Deepfake Images Act“ s účinností od 1. července 2025, který vytváří občanskoprávní i trestněprávní odpovědnost pro každého, jehož intimní podoba je použita bez souhlasu wsmv.com wsmv.com. Impulsem byl případ, kdy místní televizní meteoroložka zjistila, že se na internetu šíří falešné nahé fotografie s její podobou, což ji vedlo k svědectví o dopadu na ni a její rodinu wsmv.com. Tennessee také přijalo zákon kriminalizující samotné nástroje pro AI dětskou pornografii – stává se trestným činem vědomě vlastnit, distribuovat nebo vyrábět software určený k vytváření AI-generovaného materiálu sexuálního zneužívání dětí wsmv.com. Tento zákon uznává hrůznost AI-generované dětské pornografie a snaží se jí předejít tím, že cílí přímo na samotnou technologii (vlastnictví takového nástroje je v TN nyní zločin třídy E, výroba zločin třídy B) wsmv.com.
• Evropa – opatření na úrovni EU: Evropská unie zvolila dvojí přístup: širokou regulaci AI a specifické trestní směrnice. Připravovaný EU AI Act (očekávaný k dokončení v letech 2024/2025) bude vyžadovat, aby generativní AI obsah splňoval povinnosti transparentnosti. Deepfaky, klasifikované jako AI s „omezeným rizikem“, nebudou zcela zakázány, ale musí být jasně označeny jako vytvořené AI (např. vodoznakem nebo upozorněním) a společnosti musí zveřejnit podrobnosti o trénovacích datech euronews.com euronews.com. Nedodržení může znamenat pokuty až do výše 15 milionů eur nebo více euronews.com. Kromě toho EU schválila směrnici o násilí na ženách, která výslovně kriminalizuje nevyžádané vytváření nebo sdílení sexuálních deepfaků euronews.com. Ukládá členským státům EU povinnost tuto činnost zakázat (přesné tresty určí jednotlivé země) do roku 2027 euronews.com euronews.com. To znamená, že v celé Evropě bude vytvoření falešného pornografického obrázku někoho bez jeho souhlasu trestným činem, což se sjednocuje s tím, jak je řešena skutečná pomsta pornografií.
• Francie: Francie v roce 2024 razantně zasáhla novým ustanovením ve svém trestním zákoníku. Nyní je ve Francii nelegální sdílet jakýkoli AI-generovaný vizuální nebo zvukový záznam osoby bez jejího souhlasu euronews.com. Pokud je to provedeno prostřednictvím online služby, tresty se zvyšují (až 2 roky vězení, pokuta 45 000 €) euronews.com. Důležité je, že Francie výslovně zcela zakázala pornografické deepfaky, i když by se někdo pokusil je označit za falešné euronews.com. Takže ve Francii je vytvoření nebo šíření sexuálního deepfaku trestáno až 3 lety vězení a pokutou 75 000 € euronews.com. Francouzský zákon také dává pravomoc digitálnímu regulátorovi ARCOM nařizovat platformám odstranění takového obsahu a zlepšení systémů hlášení euronews.com.
• Spojené království: Velká Británie v letech 2023–2024 také aktualizovala zákony. Novely Sexual Offenses Act stanoví, že vytvoření sexuálního deepfaku bez souhlasu bude trestáno až 2 lety vězení euronews.com euronews.com. Samostatně Online Safety Act 2023 (rozsáhlá regulace internetu) výslovně zakazuje sdílení nebo vyhrožování sdílením nesouhlasných sexuálních snímků (včetně deepfaků) na sociálních sítích a vyžaduje, aby platformy „proaktivně odstraňovaly“ takový materiál nebo mu zabránily v objevení se euronews.com. Pokud platformy selžou, hrozí jim pokuty až do výše 10 % celosvětových příjmů – což je obrovská motivace k dodržování předpisů euronews.com. Někteří odborníci však upozorňují, že Spojené království stále nekriminalizuje vytvoření deepfaku, který není sdílen, což je mezera, která ponechává oběti zranitelné, pokud jsou snímky uchovávány v soukromí (podobně jako v případě Hongkongu) euronews.com. Ozývají se výzvy, aby Spojené království dokonce kriminalizovalo samotný vývoj a distribuci deepfake nástrojů euronews.com.
• Dánsko: V červnu 2025 dánský parlament schválil průlomový zákon, který dává jednotlivcům autorská práva na jejich vlastní podobu – v podstatě činí váš obličej „vaším duševním vlastnictvím“ jako způsob boje proti deepfakeům euronews.com. Tento zákon učiní nelegálním vytváření nebo sdílení „digitálních napodobenin“ charakteristik osoby bez jejího souhlasu euronews.com. „Máte právo na své vlastní tělo, svůj vlastní hlas a své vlastní rysy obličeje,“ uvedl dánský ministr kultury a označil to jak za ochranu proti dezinformacím a sexuálnímu zneužití euronews.com. Zatímco detaily se ještě upřesňují, naznačuje to, že Dánsko bude považovat vytvoření deepfakeu vaší osoby za porušení „práv na podobu“, podobně jako porušení autorských práv, což by mohlo výrazně zjednodušit odstraňování a právní kroky.
• Jižní Korea: Jižní Korea byla jednou z prvních zemí, které tvrdě zasáhla deepfake pornografie (vzhledem k jejím problémům s digitálními sexuálními trestnými činy v posledních letech). Do roku 2021 Jižní Korea zakázala vytváření nebo sdílení sexuálních deepfake materiálů; na konci roku 2024 zašla ještě dál a kriminalizovala dokonce i držení nebo sledování takového obsahu. Zákon schválený v září 2024 (podepsaný prezidentem Yoonem v roce 2024/25) učinil nelegálním nákup, držení nebo sledování sexuálně explicitních deepfake obrázků/videí, přičemž pachatelům hrozí až 3 roky vězení cbsnews.com cbsnews.com. Vytváření/šíření už bylo nelegální (5+ let vězení) a maximální trest byl zvýšen na 7 let, pokud bude nový zákon podepsán cbsnews.com. Tento razantní postoj odráží skutečnost, že tyto padělky byly často vyměňovány mezi mládeží; ve skutečnosti korejská policie v roce 2024 oznámila 387 zatčení souvisejících se sexuálním deepfake obsahem jen v první polovině roku – 80 % zadržených byli teenageři cbsnews.com. Problém se stal mezi teenagery natolik rozšířeným (vytváření padělků spolužáků, učitelů atd.), že Korea to považuje za závažný trestný čin i jen vyhledávat takový materiál cbsnews.com cbsnews.com. Aktivisté v Soulu protestovali s transparenty „Opakované deepfake sexuální trestné činy, stát je také spolupachatelem“ a požadovali tvrdší opatření cbsnews.com, na což vláda reagovala těmito kroky.
• Čína: Pornografie jakéhokoli druhu je v Číně přísně nelegální a to se vztahuje i na AI-generovanou pornografii. Navíc Čína zavedla průkopnickou regulaci „deep synthesis“ technologií v lednu 2023, která vyžaduje, aby jakékoli AI-generované nebo upravené médium, které by mohlo klamat, mělo jasné označení nebo vodoznaky a zakazuje použití takové technologie k vydávání se za někoho jiného, podvodům nebo ohrožení bezpečnosti oxfordmartin.ox.ac.uk afcea.org. V podstatě Čína preventivně zakázala neoznačené deepfaky a dala úřadům široké pravomoci trestat jejich tvůrce. V kombinaci s plošným zákazem obscénních materiálů je NSFW AI obsah dvojnásobně zakázán – ačkoliv pravděpodobně existuje v podzemních kruzích, čínští cenzori mají právní nástroje k jeho okamžitému smazání a stíhání.

Celosvětově je trend jasný: nepovolené AI sexuální zobrazení je kriminalizováno napříč jurisdikcemi a platformy jsou povinny je kontrolovat. Do konce roku 2025 je právní prostředí mnohem méně tolerantní k deepfake pornografii než jen o dva roky dříve, kdy takové zákony mělo jen několik amerických států a zemí jako Jižní Korea. Prosazování a povědomí však zůstávají výzvou. Mnoho obětí stále neví, že je nyní chrání zákony, a policie/prokurátoři často nejsou vybaveni k vyšetřování anonymních online pachatelů. Zákony se také liší – někde se trestá i soukromá tvorba, jinde jen distribuce. Přesto je trend k uznání AI-generovaného sexuálního zneužití jako skutečného zneužití nezaměnitelný. Jak poznamenal jeden americký profesor práva, tato vlna legislativy vrací moc do rukou obětí a vysílá vzkaz, že „máte právo na svůj vlastní obraz a tělo, i v době AI“ euronews.com.

Etické bahno: souhlas, deepfaky a dopad na společnost

Mimo právní sféru vyvolává NSFW AI zásadní etické a společenské otázky. V jádru je otázka souhlasu – může být explicitní obsah někdy etický, pokud je generován bez souhlasu (nebo dokonce vědomí) zobrazených osob? Většina by souhlasila, že deepfaky bez souhlasu jsou jasně eticky špatné, v podstatě forma sexuálního zneužití. Dilemata jsou však hlubší: Co AI-generovaná pornografie využívající skutečné osoby, jejichž snímky byly získány se souhlasem (např. trénink na komerčních porno videích) – je to „bez oběti“, nebo to zneužívá podobu těchto účinkujících bez dalšího souhlasu či odměny? A co zcela fiktivní AI porno – kde není zobrazena žádná skutečná osoba – je to bez újmy, nebo to může normalizovat nebezpečné fantazie (například scénáře zneužívání dětí nebo znásilnění)? A jak se projevují předsudky v AI modelech v erotickém obsahu?

Souhlas a soukromí: Nejbezprostřednějším problémem je, že lidé nemají žádnou kontrolu ani souhlas s tím, jak může AI použít jejich podobu. Každý, kdo kdy zveřejnil fotografii online (nebo i ti, kteří ne, pokud má jejich známý jejich fotografii), je teoreticky ohrožen tím, že se stane tváří pornografického deepfaku. Ženy, zejména ty na veřejnosti, nyní žijí s mrazivou realitou: můžete se probudit a zjistit, že internet „si myslí“, že má vaše nahé fotografie nebo sexuální videa, díky AI theguardian.com. To porušuje základní osobní důstojnost a soukromí. Jak říká dánský zákon, měli byste mít právo na vlastní tvář a tělo – současné technologie a normy to však nezaručují. Etici tvrdí, že již samotná existence těchto padělků, i když nejsou široce rozšířené, je škodlivá – jde o zobrazení sexuálního aktu, do kterého jste byli zapojeni bez vašeho svolení. Může to působit jako forma sexuálního napadení z psychologického hlediska. Skutečnost, že „internet je navždy“, škodu ještě zvyšuje: jakmile se tyto obrázky rozšíří, mohou se opakovaně objevovat a nutit oběti znovu prožívat trauma. Všechny tyto faktory činí nevyžádané AI porno vážným etickým prohřeškem. Společnost ho začíná vnímat na úrovni jiných sexuálních trestných činů, pokud jde o stigma a důsledky, ale jak bylo zmíněno, zákony stále dohánějí.

Deepfaky a pravda: Dalším aspektem je, jak deepfaky rozmazávají realitu. S tím, jak AI pornografické obrázky vypadají stále reálněji, si diváci nemusí uvědomit, že jsou falešné, což dále poškozuje pověst. Falešné sexuální video může někoho stát práci, zničit vztahy nebo být použito k vydírání („sextortion“). I když se později prokáže, že je falešné, ponížení a poškození pověsti nelze zcela napravit. To zvyšuje etickou odpovědnost tvůrců těchto padělků – hrají si se skutečnými životy a obživou. Zároveň to zdůrazňuje společenskou výzvu: jak si udržet důvěru v média, když už „vidět“ neznamená „věřit“? Někteří odborníci označují deepfaky za „útok na pravdu“, který je v kontextu pornografie zbraní k ponižování a trestání žen theguardian.com.

Nezletilí a AI-generovaný CSAM: Snad nejjednoznačněji odsouhlasenou etickou hranicí je AI-generovaný materiál zobrazující sexuální zneužívání dětí (CSAM) – tedy zobrazení nezletilých v sexuálních situacích. I když při jeho vzniku nebylo ublíženo žádnému skutečnému dítěti, prakticky všichni regulátoři a platformy považují AI-generovanou dětskou pornografii za stejně nelegální a škodlivou jako skutečný CSAM. Etické odůvodnění je jasné: takový obsah sexualizuje děti a může podněcovat skutečné trestné činy. Často je také generován pomocí fotografií skutečných dětí (například když je nevinná fotografie dítěte „svlečena“ nebo upravena pomocí AI – odporné porušení důstojnosti a soukromí dítěte) centeraipolicy.org. Bohužel existují důkazy, že k tomu dochází. Výzkumník ze Stanfordu, David Thiel, objevil stovky známých snímků zneužívání dětí vložených v populární AI trénovací sadě pro Stable Diffusion centeraipolicy.org. To znamená, že model byl částečně trénován na skutečných kriminálních snímcích zneužívání, což je velmi problematické. I když jsou nyní odstraňovány, samotný fakt, že byly použity, ukazuje, jak vývojáři AI mohli nevědomky trénovat modely na zneužívajícím obsahu. Ještě horší je, že bez pečlivých opatření by AI mohla potenciálně generovat nové snímky, které se podobají těmto nelegálním trénovacím vstupům. Někteří uživatelé na fórech se pokusili použít AI k „svlékání“ fotografií nezletilých nebo k vytváření nelegálních obrázků – trend, který se policie snaží rychle zastavit. Z etického hlediska panuje téměř shoda: AI by nikdy neměla být použita k vytváření CSAM. Jeho prosazení je však složité – vyžaduje, aby modely byly trénovány k explicitnímu odmítání jakéhokoliv zadání nebo pokusu o vytvoření takového obsahu, nebo aby zákony jakýkoliv takový pokus považovaly za závažný trestný čin (jako v Tennessee). Technologické firmy nyní často pevně nastavují filtry, takže i samotné slovo „dítě“ nebo náznaky nezletilosti v zadání budou zablokovány. Ale uživatelé s nekalými úmysly hledají způsoby, jak to obejít. Riziko je extrémně vysoké, protože pokud je AI takto zneužita, může znovu traumatizovat oběti zneužívání a poskytnout nový materiál pedofilům pod falešnou záminkou, že „žádnému skutečnému dítěti nebylo ublíženo.“ Mnoho etických odborníků zde vyvrací argument o „zločinu bez oběti“ tím, že poukazují na to, že konzumace jakéhokoliv zobrazení zneužívání dětí, ať už skutečného nebo AI, pravděpodobně podněcuje skutečné zneužívání tím, že ho normalizuje centeraipolicy.org reddit.com. Proto jde o tvrdou etickou hranici, na které se většina shodne: generování nebo používání AI pro dětský sexuální obsah je kategoricky špatné a musí být zabráněno všemi prostředky (technickými i právními).

Tréninková data a vynucený obsah: Existuje méně zřejmý, ale důležitý etický problém v tom, jak jsou NSFW AI modely vytvářeny. Mnoho AI generátorů porna bylo trénováno na velkých datasetech stažených z internetu – včetně pornografických webů. To znamená, že skutečné obrázky lidí (pornoherci, webcam modelky, dokonce i uniklé soukromé nahé fotky) skončily jako tréninková data bez souhlasu těchto osob. AI společnosti to dělaly tiše a teprve později začali výzkumníci odhalovat rozsah tohoto jednání. Například jeden AI generátor nahoty s názvem „These Nudes Do Not Exist“ byl trénován na obsahu z „Czech Casting“, pornografické společnosti vyšetřované kvůli nátlaku na ženy k sexu centeraipolicy.org. Takže AI byla doslova trénována na videích žen, které mohly být oběťmi obchodu s lidmi nebo znásilnění – a efektivně se učila znovu vytvářet obrázky jejich těl nebo jiných v podobných pozicích. Tyto ženy rozhodně nedaly souhlas k dalšímu využití svých obrázků k vytváření nekonečného nového porna. Jak řekla jedna oběť této situace o svém obrázku v AI tréninkovém setu: „připadá mi to nespravedlivé, mám pocit, že mi berou svobodu“ centeraipolicy.org. I v méně extrémních případech mohly modely vstřebat miliony běžných fotografií žen ze sociálních sítí nebo modelingových focení – ani tyto osoby nesouhlasily s tím, aby se staly zdrojovým materiálem pro generování porna. Každý AI porno model v sobě nese duchy skutečných lidí ve svých tréninkových datech. Mnoha z těchto lidí by to možná vůbec nevadilo – například dospělým hercům, kteří dobrovolně natáčeli porno, by to nemuselo vadit, nebo by dokonce mohli podporovat technologie, které rozvíjejí jejich práci. Ale jiní (jako soukromé osoby na uniklých snímcích, nebo pornoherci, kteří odešli z branže a chtějí začít znovu) by byli zděšeni, kdyby věděli, že AI může navždy remixovat jejich podobu do nového sexuálního obsahu. To vyvolává etické otázky duševního vlastnictví a práv na podobu. Měli by být jednotlivci odměněni, pokud jejich obrázky pomohly vytvořit výdělečný AI porno nástroj? Někteří tvrdí, že ano – tyto modely „přímo profitují z mužů a žen, kteří byli v tréninkových datech“ bez jakéhokoliv poděkování centeraipolicy.org. Jiní tvrdí, že pokud byla data veřejně dostupná, je podle současných zákonů o duševním vlastnictví jejich použití pro AI trénink v pořádku. Etický konsenzus se přiklání alespoň k tomu, nepoužívat zjevně nesouhlasný nebo zneužívající materiál při tréninku (např. známé pomstychtivé porno nebo videa z obchodu s lidmi by měla být zakázána). Firmy začínají datasety na takový obsah kontrolovat, ale historicky to nedělaly, což je alarmující. Jak uvádí Center for AI Policy, je téměř „jisté“, že AI porno modely byly trénovány i na nějakých nesouhlasných intimních snímcích (NCII) centeraipolicy.org. Do budoucna se objevují výzvy k přísnější kuraci datasetů a možná i k zavedení registru „opt-out“, aby si lidé mohli své obrázky z AI tréninkových setů odstranit centeraipolicy.org. Toto je technicky a logisticky složité, ale debata kolem datové etiky v generativní AI je stále hlasitější.

Fiktivní, ale extrémní obsah: Další ošemetná oblast – pokud není zobrazena žádná skutečná osoba, existují nějaké limity pro to, co by měla AI porno vytvářet? Někteří se obávají, že AI by mohla umožnit ultra-extrémní nebo okrajový sexuální obsah, který by ve skutečném světě nebylo možné získat, a že by to mohlo být škodlivé. Například simulace znásilnění, bestiality, „snuff“ (pornografie zobrazující vraždu), nebo jak již bylo zmíněno, scénáře s dětmi. Obránci mohou říkat: „Lepší, když je to AI, než aby to někdo dělal ve skutečnosti,“ ale kritici se obávají, že by to mohlo otupit citlivost lidí nebo je povzbudit k napodobování. Minimálně to vyvolává morální otázky, zda umožnění AI uspokojovat takové fantazie nepřekračuje společenskou hranici. Platformy jako Oh uvádějí, že blokují jakékoli „nelegální praktiky“ – jejich boti se nezapojí do obsahu s pedofilií nebo jiných kriminálních sexuálních témat sifted.eu. Toto je etické opatření, o které se zodpovědné společnosti snaží. Ale open-source modely nemají žádnou vrozenou morálku; uživatelé je mohou přimět generovat prakticky cokoli, pokud model není výslovně omezen. To znamená, že odpovědnost padá na individuální svědomí (a místní zákon). Etický postoj většiny AI komunit je nastavit tvrdé filtry proti nelegálnímu nebo násilnému sexuálnímu obsahu. Přesto, jak jeden tvůrce z OnlyFans poněkud pochmurně předpověděl, je pravděpodobně jen otázkou času, než někdo použije AI k vytvoření věcí jako „AI zneužívání dětí označené jako age-play, nebo AI scénáře znásilnění,“ a že „o tom je potřeba více mluvit“ reddit.com. Etická otázka zůstává nevyřešena: je existence hyper-realistického imaginárního zobrazení trestného činu sama o sobě škodlivá? Mnozí se přiklánějí k odpovědi ano, zejména pokud jde o nezletilé (kde je to jasně trestné). U jiných extrémních fantazií společnost nedospěla ke konsenzu, ale je to oblast aktivní debaty v digitální etice.

Gender a reprezentace: NSFW AI také přebírá předsudky a stereotypy ze svých zdrojových dat. Mnoho mainstreamového porna bylo kritizováno za sexistické nebo nereálné zobrazení žen a AI může tyto stereotypy zesilovat. Pokud jsou modely trénovány převážně například na pornu, které objektivizuje ženy nebo ukazuje jen úzký okruh typů postav, výstupy to budou odrážet. To může posilovat nereálné standardy krásy nebo sexuální scénáře. Navíc většina AI erotických společníků a obrazových botů je ve výchozím nastavení ženského pohlaví, což cílí na předpokládané heterosexuální mužské uživatele. Například nabídka AI botů na platformě Oh je „většinou ženská“ jako spoře oděné avatary sifted.eu. Kritici se obávají, že to posiluje vnímání žen jako digitálních hraček a může ovlivnit, jak (převážně mužští) uživatelé vnímají skutečné vztahy. Někteří zakladatelé AI společníků sami uznávají, že budoucnost intimity by mohla být „podivná“ nebo „dystopická“, pokud se lidé odpojí od skutečných partnerů ve prospěch AI fantazie sifted.eu. Bylo argumentováno, že tyto AI přítelkyně mohou posilovat škodlivé stereotypy o ženách, které jsou vždy k dispozici, vstřícné a přizpůsobené každému rozmaru sifted.eu. Psychologové a feministky vyjadřují obavy, že takové technologie mohou zhoršovat problémy jako osamělost, misogynii nebo zkreslená očekávání ohledně sexu. Na druhou stranu zastánci tvrdí, že tyto nástroje mohou poskytnout bezpečný ventil těm, kteří mají potíže s mezilidskými vztahy, nebo pomoci lidem prozkoumat sexualitu bez stigmatizace. Z etického hlediska je to dvojsečná zbraň: Může AI přítelkyně někoho naučit lépe komunikovat nebo poskytnout útěchu? Možná. Může také někoho vést k úniku od skutečných lidských vztahů a vnímat ženy jen jako přizpůsobitelné objekty? Možná. Společnost se s těmito otázkami bude muset vyrovnat, jak budou tyto služby růst.

Shrnuto, etika NSFW AI se točí kolem souhlasu, škody a společenských sdělení, která vysíláme o sexualitě a osobnosti. Zlaté pravidlo etického porna – že každý zobrazený je dospělý účastník dávající souhlas – je u AI porna zcela převráceno, protože často nikdo zobrazený se ve skutečnosti „neúčastnil“ a tudíž nemohl dát souhlas. Jsme nuceni rozšířit naše chápání souhlasu i na podobu a dokonce i na data člověka. Jak uvedl jeden komentář, tato technologie nás nutí znovu promyslet „samé základy intimity, souhlasu a tvůrčí svobody“ v digitálním věku chicagoreader.com. Etická krajina je plná šedých zón, ale rostoucí shoda je, že určité červené linie (dětský obsah, neautorizované použití skutečných identit) musí být vynucovány a že respekt k autonomii jednotlivce by měl určovat, co je považováno za přijatelné. Zároveň musíme být opatrní, abychom nepatologizovali veškerou tvorbu sexuálního obsahu pomocí AI – pro dospělé, kteří ji používají pro sebe, to může být pozitivní nástroj. Výzvou je umožnit inovativní, konsensuální využití a zároveň potírat ta zneužívající.

Zastánci vs. kritici: Debata o NSFW AI

Reakce na NSFW AI jsou polarizované. Někteří to oslavují jako vzrušující evoluci v oblasti zábavy pro dospělé a osobní svobody; jiní to odsuzují jako společenskou hrozbu. Pojďme si rozebrat hlavní argumenty obou stran:

Argumenty zastánců (pro-NSFW AI):

• Kreativní svoboda a sexuální objevování: Zastánci tvrdí, že AI může být pozitivním ventilem pro zkoumání sexuality, fantazií a fetišů v soukromí a bez odsuzování. Uživatelé, kteří by se mohli stydět nebo nejsou schopni určité fantazie realizovat v reálném životě, tak mohou bezpečně učinit pomocí AI-generovaného obsahu nebo chatbotů. To by mohlo potenciálně snížit tabu a stud kolem sexuality. Někteří to dokonce označují za posilující: „dospělí se souhlasem mohou společně vytvářet své vizuální fantazie v bezpečném, soukromém prostředí“ s pomocí AI, říká CEO jedné AI platformy pro dospělé globenewswire.com. V tomto pohledu je generativní AI jen nástroj – podobně jako erotické umění nebo sexuální pomůcky – který může podpořit zdravé sexuální vyjádření.
• Personalizace a inovace v zábavě pro dospělé: Zastánci zdůrazňují, že NSFW AI poskytuje nepřekonatelnou personalizaci ve srovnání s tradičním pornem globenewswire.com. Místo pasivní konzumace toho, co vyrobí studia, si jednotlivci mohou generovat obsah přesně podle svých představ (typy postav, scénáře atd.). Tento model řízený uživateli je vnímán jako inovace, která „narušuje“ univerzální paradigma obsahu pro dospělé globenewswire.com. Může vyhovět i okrajovým zájmům, které hlavní producenti ignorují (pokud jsou legální). Startupy v této oblasti často prezentují AI jako kvantový skok v tom, jak je obsah pro dospělé doručován – dává kontrolu do rukou uživatele globenewswire.com. Argumentují také, že to respektuje soukromí: uživatelé nemusí komunikovat s jiným člověkem ani nikomu kromě AI odhalovat své fantazie.
• Bezpečná náhrada za škodlivé touhy: Kontroverznějším pro-argumentem je, že AI porno může sloužit jako neškodná náhrada za jinak škodlivé chování. Například někteří teoretizují, že pedofilové používající CGI nebo AI-generované dětské porno by mohli ukojit své touhy, aniž by ublížili skutečným dětem (tento argument je silně zpochybňován a většina odborníků ho odmítá, ale objevuje se). Jiní naznačují, že lidé s násilnými sexuálními fantaziemi by mohli využít AI simulace místo hledání skutečných obětí. V podstatě jde o postoj „raději ať to vybíjejí na pixelech než na lidech“. Zůstává to však spekulativní a eticky problematické – neexistují jasné důkazy, že AI snižuje skutečnou kriminalitu; může ji dokonce podporovat (jak namítají kritici). Přesto někteří zastánci svobody projevu tvrdí, že i odporné fantazie v AI podobě jsou myšlenkové experimenty, které by neměly být kriminalizovány, pokud není přímo ublíženo skutečné osobě. Tento názor není hlavním proudem, ale v debatách o extrémním obsahu existuje reddit.com.
• Podpora okrajových komunit a identit: AI může generovat obsah pro komunity, které měly v mainstreamovém pornu historicky malou reprezentaci – například určité LGBTQ fantazie, BDSM scénáře se specifickými parametry souhlasu nebo erotické umění s fantastickými prvky. Někteří členové furry nebo hentai subkultur například využívají AI umění k tvorbě obsahu, který by s reálnými herci nebyl možný. To je vnímáno jako rozšíření možností erotického umění. Navíc AI může umožnit lidem s postižením nebo jinými omezeními zažít virtuální intimitu způsoby, které by jinak nebyly možné. Ti, kteří mají potíže se sociální interakcí, mohou najít společnost v AI partnerovi, který je nesoudí. Zastánci, jako zakladatel startupu „AI OnlyFans“, tvrdí, že tito AI společníci by mohli být „čistým přínosem“ pro společnost, zejména pro lidi, kterým chybí jiné formy společnosti sifted.eu. Podle něj, pokud je někdo osamělý nebo konzumuje vykořisťující formy porna, AI partner je kontrolovaná, možná zdravější alternativa sifted.eu.
• Souhlas vytvořených vs. reálných modelů: Dalším argumentem ve prospěch NSFW AI je, že používání AI-generovaných herců (kteří ve skutečnosti neexistují) v pornu by mohlo eliminovat mnoho problémů dospělého průmyslu. Není zde riziko zneužití skutečného účinkujícího, pokud je pornoherečka vytvořena AI. Nikdo ve skutečnosti neriskuje pohlavně přenosné nemoci nebo zneužití na AI natáčení. Teoreticky by to mohlo nakonec nahradit část skutečné produkce porna, a tím snížit újmu lidským účinkujícím v rizikových situacích. (Samozřejmě, protiargumentem je, že tito účinkující tam často chtějí být a mohli by přijít o příjem, pokud by byli nahrazeni, takže je to složité.) Futuristé si ale představují svět, kde dokonale realistické AI porno může uspokojit poptávku, aniž by se do potenciálně ponižující práce musel zapojit skutečný člověk – v podstatě etičtější dodavatelský řetězec porna. Někteří tvůrci pro dospělé dokonce dobrovolně vytvářejí své „digitální dvojníky“ (licencováním svých obrázků/hlasů), aby za ně AI mohla vykonávat část práce – se souhlasem a podílem na zisku sifted.eu. Tento model, pokud by se rozšířil, by mohl umožnit lidským tvůrcům vydělávat peníze a zároveň přenechat část tvorby obsahu AI pod jejich kontrolou, což by mohlo být výhodné pro obě strany.
• Svoboda projevu a umělecká hodnota: Z pohledu občanských svobod někteří hájí i NSFW AI jako formu vyjádření. Erotické umění a porno jsou v mnoha zemích dlouhodobě považovány za chráněný projev (kromě obscénnosti). AI pouze rozšiřuje médium vyjádření. Pokud může umělec nakreslit akt nebo natočit konsensuální porno scénu, proč by nemohl zadat AI vytvoření aktu? Tvrdí, že úplný zákaz AI sexuálního obsahu by byl přehnaný zásah, který by mohl cenzurovat sex-pozitivní umění nebo legitimní kreativní snahy. Pokud všichni zúčastnění souhlasí (což je u AI složité, ale řekněme, že proces je konsensuální), tvrdí, že dospělí by měli mít svobodu vytvářet a konzumovat sexuální obsah dle svého výběru, ať už s pomocí AI, nebo bez ní. Skupiny jako Electronic Frontier Foundation varovaly před širokými zákazy deepfake technologií, přičemž upozorňují, že technologie má i prospěšné využití a že je lepší cílit na špatné aktéry než zakazovat samotnou technologii klobuchar.senate.gov. Tento libertariánský proud v debatě říká: trestejte skutečnou újmu (například nekonsensuální použití), ale nekriminalizujte nástroj ani konsensuální fantazii.

Argumenty kritiků (proti NSFW AI):

• Porušování souhlasu a zneužívání obrazů: Kritici zdůrazňují, že NSFW AI již umožnila masivní zneužívání souhlasu a podoby jednotlivců. Epidemie nevyžádaných deepfake videí mluví sama za sebe – zničené životy, rozbitá soukromí. Tvrdí, že to není okrajový jev, ale hlavní způsob využití deepfake technologií dosud: 96 % deepfake videí bylo pornografických a v podstatě všechna byla bez souhlasu theguardian.com. Tato technologie je podle nich ze své podstaty náchylná k takovému zneužití a představuje nebezpečnou zbraň. I když lidé nejsou přímo cílem, absence jakékoli možnosti dát souhlas se zařazením do trénovacích dat nebo do něčí fantazie je znepokojující. Člověk může mít svou sexuální autonomii zcela podkopanou tím, že o něm někdo vygeneruje explicitní obrázky z ničeho. Kritici tvrdí, že je to zásadně neetické a mělo by to být odsouzeno podobně jako voyeurismus nebo jiné sexuální trestné činy. Existence „stovek AI aplikací na svlékání“ snadno dostupných klobuchar.senate.gov znamená, že fotografie jakékoli ženy může být během vteřin přeměněna na pornografii, což mnozí označují za neudržitelnou a děsivou situaci.
• Emocionální a psychická újma: Být obětí AI pornofake může způsobit akutní psychické potíže – ponížení, úzkost, PTSD, dokonce i sebevražedné myšlenky. Tragický příklad: sedmnáctiletý chlapec v USA zemřel v roce 2022 sebevraždou poté, co ho vyděrač vydíral falešnými nahými fotografiemi klobuchar.senate.gov. Psychická zátěž žen, které objeví deepfake materiály se svou podobou, je obrovská; je to popisováno jako virtuální forma sexuálního napadení. Kritici proto vnímají NSFW AI jako nástroj, který usnadňuje obtěžování a zneužívání v potenciálně obrovském měřítku – „nouzový stav“ pro zranitelné osoby (zejména ženy, nezletilé, LGBTQ osoby, které mohou být cílem nenávistně motivovaných sexuálních podvrhů atd.) theguardian.com. Tvrdí, že žádné domnělé přínosy této technologie nepřeváží nad skutečnými škodami, které se dějí již nyní.
• Normalizace vykořisťujícího obsahu: Odpůrci se obávají, že příval AI porna, zejména extrémních nebo nevyžádaných scénářů, by mohl normalizovat takové obrázky a narušit společenské sankce týkající se například soukromí a souhlasu. Pokud se falešné nahé fotografie celebrit nebo spolužáků stanou „běžným internetovým materiálem“, lidé mohou otupět vůči porušování soukromí druhých. Může to také posilovat misogynní myšlení (vnímání žen jako snadno dostupných sexuálních objektů, jejichž obrázky lze používat dle libosti). Z etického hlediska je to podobné pomstě pornem nebo tajnému focení pod sukně – umožnění šíření takového obsahu vysílá zprávu, že ženská těla nejsou jejich vlastní. Kritici se navíc obávají, že AI může eskalovat deviantní chutě – např. někdo, kdo konzumuje AI simulované znásilňovací porno, může být náchylnější k páchání násilí, nebo pedofil s AI generovaným dětským pornem může přesto přejít k zneužívání skutečných dětí. Ačkoliv se o důkazech diskutuje, mnoho psychologů vyzývá k opatrnosti, vzhledem k tomu, jak média mohou posilovat chování.
• Dopad na vztahy a společnost: Někteří sociologové a feministky vyjadřují obavy, že AI sexuální společníci a hyperpersonalizované porno by mohli narušit skutečné lidské vztahy. Pokud se mnoho lidí obrátí k AI „přítelkyním“, které jsou dokonale poslušné, co se stane s jejich schopností navazovat vztahy se skutečnými partnery, kteří mají vlastní potřeby a hranice? Objevuje se obava ze zvyšující se sociální izolace a zkreslených očekávání ohledně sexu a romantiky. Zakladatel jedné aplikace s AI společníkem sám označil tento trend za potenciálně „velmi dystopický“ a že by mohl vytvořit „podivnou budoucnost intimity“, kde se lidé od sebe odpojí sifted.eu. Posilované stereotypy – často jsou AI přítelkyně podřízené ženské postavy – by mohly upevnit sexistické postoje mezi uživateli. Kritici tedy tvrdí, že NSFW AI může zhoršit problémy jako osamělost, misogynii a komodifikaci intimity.
• Hrozba pro umělce, performery a pracovníky: Ti, kteří působí v kreativních oborech a v adult průmyslu, vnímají NSFW AI jako hrozbu pro své živobytí a práva. Vizuální umělci (např. ilustrátoři erotiky nebo modelky) zjišťují, že AI scrapuje jejich práci bez povolení a následně generuje nové obrázky v jejich stylu nebo s jejich podobou. To působí jako krádež duševního vlastnictví a podkopává trh s uměním na zakázku. Fotografové se obávají, že generátory AI obrázků nahradí najímání modelek na focení. Pornoherci a sexuální pracovníci se bojí, že AI „klony“ nebo zcela fiktivní AI modely odvedou zákazníky – nebo zaplaví trh obsahem, který znehodnotí jejich práci. Několik tvůrců z OnlyFans hlásilo pokles příjmů a stížnosti fanoušků, pravděpodobně kvůli konkurenci AI-generovaného obsahu, který je levnější a vždy dostupný reddit.com. Tvrdí, že jde o neférovou konkurenci, protože AI v podstatě přivlastnila jejich obrázky a atraktivitu bez úsilí nebo lidského doteku, a že to srazí ceny na neudržitelnou úroveň pro skutečné pracovníky. Sexuální pracovníci se také obávají, že na ně bude vyvíjen tlak, aby používali AI k tvorbě více obsahu nebo byli k dispozici 24/7, což dále komodifikuje jejich práci reddit.com. Odbory a advokační skupiny se obávají světa, kde by firmy mohly upřednostnit AI pornohvězdu (bez práv, požadavků nebo mzdy) před lidskou – což je scénář, který by mohl zlikvidovat pracovní místa a zneužít podobu performerů, kteří tyto modely původně trénovali. Stručně řečeno, kritici vidí NSFW AI jako podkopávání lidské kreativity a práce tím, že využívá lidská data k produkci nekonečného množství bezplatného (nebo levného) obsahu.
• Klukavý svah morálky a práva: Z pohledu politiky kritici tvrdí, že pokud nyní nestanovíme pevné limity pro NSFW AI, může to vést k neovladatelné budoucnosti. Pokud přijmeme AI porno jako „jen fantazii“, co se stane, když se to střetne s reálnými otázkami, jako je souhlas? Například pokud někdo vytvoří AI porno svého ex a tvrdí, že je to jen fantazie, omlouvá ho to? Většina lidí řekne ne – ex je zjevně poškozen. Kritici se proto přiklánějí k principu předběžné opatrnosti: stanovit hranice včas. Někteří dokonce navrhují, aby se nástroje na tvorbu deepfake posuzovaly podobně jako nástroje na vyháčkování zámků nebo hacking – samy o sobě nejsou nelegální, ale jsou silně regulované, a nástroje zjevně určené ke zneužití (jako „nudify“ aplikace, které slouží čistě k nevyžádanému svlékání obrázků) by měly být zcela zakázány. Etici, kteří podporují silnou regulaci, tvrdí, že potenciál ke zneužití daleko převyšuje okrajové pozitivní případy užití. Často zmiňují hlasy obětí: jak řekl jeden technologický etik, „Dospívající dívka, která se uvidí v AI-generovaném pornu – ten jeden zážitek, ten jeden zničený život, ospravedlňuje přísnou kontrolu této technologie.“ Svoboda projevu je důležitá, říkají, ale nesmí být na úkor agency a bezpečí ostatních.

Stojí za zmínku, že ne každý je na jednom či druhém extrému – mnoho lidí uznává jak příslib, tak nebezpečí NSFW AI. Například uživatel může ocenit možnost generovat vlastní erotiku fiktivních postav (neškodné použití), zatímco zcela odsuzuje použití k vytvoření falešného obrazu skutečné osoby. Debata se tedy často soustředí na to, kde stanovit hranici. Zdá se, že se v rámci veřejné diskuse objevuje shoda: AI obsah pro dospělé je přijatelný pouze se souhlasem a transparentností a je přísně zakázán, pokud zahrnuje skutečné osoby bez jejich svolení nebo jakékoli nezletilé. I mnoho technologů podporujících AI obsah pro dospělé souhlasí, že deepfaky bez souhlasu jsou neobhajitelné a měly by být kriminalizovány cbsnews.com. Na druhou stranu i někteří kritici připouštějí, že dospělí s vlastním souhlasem by měli mít možnost tyto nástroje používat pro sebe (například pár vytvářející AI umění své společné fantazie, nebo sexworkerka využívající AI k rozšíření svého podnikání – to by mělo být rozhodnutí daného jednotlivce).

Rozdělení na zastánce a kritiky někdy kopíruje linii mezi technologickým optimismem a sociálním skepticismem. Technologičtí nadšenci vidí NSFW AI jako vzrušující hranici (s určitými problémy k řešení), zatímco sociální obhájci ji vnímají jako novou formu digitálního zneužívání, kterou je třeba omezit. Oba pohledy jsou oprávněné – a výzvou do budoucna bude maximalizovat přínosy (tvůrčí svoboda, soukromé potěšení, inovace v odvětví) a minimalizovat škody (zneužití bez souhlasu, dezinformace, vytlačování pracovníků). Jakékoliv řešení si vyžádá vstup technologů, zákonodárců, etických odborníků, zástupců odvětví pro dospělé i obětí zneužití obrazů. K roku 2025 tato debata skutečně začala.

(Pro shrnutí zde je rychlé srovnání obou stran:)

• Zastánci tvrdí, že NSFW AI posiluje kreativitu dospělých, nabízí bezpečné naplnění fantazií a může dokonce pomoci tvůrcům se souhlasem zpeněžit svou tvorbu nebo osamělým jednotlivcům najít společnost – v podstatě jde o technologický vývoj pornografie, který, pokud je používán eticky, nikomu neškodí a rozšiřuje osobní svobodu globenewswire.com sifted.eu.
• Kritici říkají, že to pohání vlnu sexuálního zneužívání založeného na obrázcích, narušuje souhlas a soukromí, potenciálně deformuje pohled uživatelů na sex a vztahy a využívá skutečné obrázky a práci lidí k zisku bez jejich souhlasu theguardian.com reddit.com. Podle nich náklady NSFW AI pro společnost (zejména pro ženy a zranitelné skupiny) výrazně převyšují soukromé přínosy, které někteří uživatelé získávají, což odůvodňuje silná omezení a dohled.

Obrana: Moderace AI obsahu a ochranná opatření pro NSFW materiál

Vzhledem k rizikům NSFW AI probíhá paralelní závod o vývoj technologických a politických ochranných opatření k jeho řízení. Tento boj probíhá na několika frontách: vytváření lepších nástrojů pro detekci AI-generovaného obsahu, zavádění filtrů pro moderaci obsahu a podpora norem nebo vodoznaků pro rozlišení skutečného a falešného. Zde je, jak se AI a platformy snaží zkrotit temnou stránku NSFW AI:

• Automatizované NSFW filtry: Mnoho AI generátorů obrázků obsahuje klasifikátory pornografie, které se snaží blokovat nebo filtrovat explicitní výstupy. Například oficiální verze Stable Diffusion obsahuje „Safety Checker“, který označuje a rozmazává nahé nebo sexuální obrázky arxiv.org. OpenAI DALL·E jednoduše odmítá jakýkoli prompt, který byť jen naznačuje sexuální obsah. Midjourney má rozsáhlý seznam zakázaných slov a používá AI k interpretaci kontextu promptu – nevytvoří obrázky, pokud má podezření, že požadavek je pornografický nebo vykořisťující arxiv.org. Tyto filtry nejsou dokonalé (uživatelé neustále nacházejí způsoby, jak je obejít, například používáním eufemismů nebo překlepů zakázaných výrazů arxiv.org). Přesto zabraňují běžnému nebo náhodnému generování NSFW obrázků běžnými uživateli. Fungují jako první obranná linie, zejména na hlavních platformách, které nechtějí hostit explicitní obsah. Některé open-source verze tyto filtry odstraňují, ale pak odpovědnost přechází na uživatele (a jakoukoli platformu, na kterou je obsah nahrán).
• Nástroje pro detekci deepfake: Na výzkumné straně je věnováno značné úsilí algoritmům pro detekci deepfake. Společnosti jako Microsoft a startupy jako Sensity vyvinuly AI, která analyzuje videa/obrázky na známky manipulace (například nekonzistentní osvětlení, artefakty na obličeji nebo digitální vodoznaky). V jednom hodnocení měl model Hive Moderation (AI sada pro moderaci používaná některými sociálními sítěmi) nejvyšší přesnost při rozpoznávání AI-generovaných postav oproti skutečným emerginginvestigators.org. Tyto detektory používají platformy ke skenování nahrávaného obsahu (například Facebook může skenovat obrázek na nahotu a zároveň i na to, zda nejde o známý falešný obrázek někoho). Vývoj detektorů je hra na kočku a myš: jak se generativní modely zlepšují, detektory se musí také zlepšovat. EU tlačí na firmy, aby takové systémy zavedly – pravidla transparentnosti v AI Act a směrnice o násilí na ženách v podstatě nařizují, aby platformy dokázaly identifikovat AI porno a odstranit ho euronews.com euronews.com. Některé detekční metody spoléhají na metadata nebo známé vzory od konkrétních generátorů (například některé AI nástroje zanechávají neviditelné vodoznaky ve vzorcích pixelů). Průmysl také zvažuje proaktivnější přístup: vodoznakování AI obsahu při jeho vzniku. Google například pracuje na metodách, jak označovat AI-generované obrázky tak, aby jakákoli kopie byla rozpoznatelná jako vytvořená AI i po úpravách. OpenAI navrhla kryptografické vodoznaky pro text z jazykových modelů. Pokud by se to široce přijalo, mohlo by to pomoci automatizovaným filtrům označit AI porno dříve, než se rozšíří. Otevřené modely však pravděpodobně nebudou dobrovolně vodoznakovat výstupy a útočníci se mohou pokusit vodoznaky odstranit.
• Hashování obsahu a databáze: Pro boj s pomstychtivou pornografií a deepfaky vytvořily technologické firmy a neziskové organizace databáze známých zneužívajících obrázků (například pomocí kryptografických hashů jako PhotoDNA pro skutečné obrázky zneužívání dětí). Podobný přístup se zvažuje i pro deepfaky: pokud se oběť přihlásí s falešným obrázkem, jeho hash by mohl být přidán do databáze pro odstranění, aby byl okamžitě rozpoznán a odstraněn, pokud by byl nahrán jinde. Připravovaný britský systém podle zákona o online bezpečnosti může zahrnovat takovou proaktivní detekci – vyžadující, aby platformy „zabránily [zakázanému obsahu] v tom, aby se vůbec objevil“ euronews.com. V praxi to znamená skenování známých nelegálních obrázků nebo videí při nahrávání. Problém u AI padělků je, že pachatelé mohou generovat nekonečné varianty, takže hashování jednoho nezachytí další. Zde je potřeba detekce podobnosti založená na AI, která dokáže označit obsah, který se úzce podobá známým padělkům nebo odpovídá osobě, která se zaregistrovala jako někdo, kdo nechce mít online žádné explicitní obrázky.
• Moderace na pornografických stránkách: Zajímavé je, že hlavní stránky s pornografií jako Pornhub musely kvůli deepfake videím zlepšit svou moderaci. Pornhub od roku 2018 zakázal nahrávání jakéhokoli AI-generovaného obsahu zobrazujícího skutečné osoby bez jejich souhlasu. Spoléhají na hlášení uživatelů a kontrolu moderátory, aby tyto případy odhalili, ale při milionech nahrávek je to obtížné. Digitální akt EU přináší přísnější odpovědnost: v roce 2024 byly Pornhub (a podobné stránky Xvideos, Xnxx) označeny jako velké platformy, které musí proaktivně omezovat nelegální a škodlivý obsah, jinak jim hrozí pokuty subscriber.politicopro.com. To pravděpodobně znamená investice do automatizovaného filtrování. Pornografické stránky mohou začít používat detektory deepfake videí na každé nové video. Nyní také mají ověřování identity pro nahrávající; i když to není neprůstřelné (podvodníci se mohou ověřit jako oni sami a nahrát falešné video někoho jiného), přidává to dohledatelnost.
• Pravidla sociálních sítí: Sociální sítě jako Twitter (X) a Reddit aktualizovaly pravidla a výslovně zakazují sdílení „intimních snímků vytvořených nebo upravených AI“ bez souhlasu dotčené osoby. Reddit zakázal deepfaky už v roce 2018 po první vlně. Komunitní standardy Facebooku zakazují syntetická média, která pravděpodobně klamou škodlivým způsobem (což zahrnuje falešné porno někoho). Prosazování je však stále nedůsledné – jak bylo zmíněno, deepfake obsah se v roce 2024 stále šířil virálně na X cbsnews.com, a Meta musela být donucena odstranit reklamy na AI nahotu cbsnews.com. Nové zákony (Take It Down Act, pravidla EU) jim však nyní ukládají právní povinnosti. Můžeme očekávat rychlejší reakční dobu – např. podle amerického zákona mají platformy 48 hodin na odstranění nahlášeného NCII, jinak jim hrozí sankce klobuchar.senate.gov klobuchar.senate.gov. To pravděpodobně znamená, že firmy budou v případě pochybností raději obsah odstranit. Mohou také integrovat mechanismy pro hlášení „toto je AI podvrh mě“, aby uživatelé mohli rychle označit zneužití.
• Ověřování věku a kontrola přístupu: Dalším aspektem moderace je zabránit nezletilým v přístupu k AI pornu. Tradiční pornografické stránky mají ověřování věku (nedokonale vynucované) a některé jurisdikce (jako Francie, Utah, Texas) přijaly zákony vyžadující přísné ověřování věku pro stránky pro dospělé versustexas.com. AI nástroje to komplikují – generativní modely lze používat soukromě bez jakéhokoliv dohledu. Některé AI platformy však začaly vyžadovat ověření totožnosti pro přístup k NSFW režimům, aby zajistily, že uživatelé jsou dospělí. Například platforma Infatuated.ai zdůraznila robustní protokoly ověřování věku a blokování jakýchkoliv promptů týkajících se nezletilých globenewswire.com. Replika (aplikace AI chatbota) měla nechvalně známý případ, kdy umožnila erotickou roli a mnoho nezletilých ji začalo používat; po vlně kritiky omezili erotický obsah pouze na uživatele 18+ ověřením věku přes platbu nebo doklad totožnosti. Takže alespoň na komerčních službách existuje snaha oddělit obsah pro dospělé v AI od dětí. To je důležité, protože samotné děti použily deepfake nástroje k šikaně vrstevníků (jak jsme viděli ve školách) cbsnews.com. Vzdělávání mladých lidí o etických a právních důsledcích je také součástí moderace – některé školy již začaly zařazovat povědomí o deepfake do osnov digitálního občanství nea.org.
• Spolupráce a osvědčené postupy: Boj proti zneužívání AI vedl ke spolupráci mezi technologickými firmami, policií a neziskovými organizacemi. Iniciativy jako skupina pro integritu médií Partnership on AI nebo Koalice pro původ a autenticitu obsahu (C2PA) si kladou za cíl nastavit standardy pro ověřování obsahu. Firmy mohou přidávat metadata o tom, jak byl obrázek/video vytvořen (fotoaparátem vs AI softwarem). Mezitím je policie školena na deepfaky, aby brala hlášení obětí vážně a věděla, jak sbírat důkazy. Europol v roce 2023 označil deepfake porno za nově vznikající hrozbu a vyzval členské státy, aby vyčlenily prostředky na boj proti němu theguardian.com.
• Omezení AI modelů: Přímější obranou je omezení distribuce modelů schopných vytvářet škodlivý obsah. Některá úložiště AI modelů mají svá pravidla: například Stability AI se rozhodla oficiálně nezařadit žádné zjevně pornografické obrázky do trénovací sady Stable Diffusion 2.0, částečně proto, aby model nebyl příliš dobrý v generování porna (uživatelé si pak stěžovali, že nový model je „puritánský“). Hugging Face (AI model hub) někdy odmítá hostovat modely, které jsou zjevně určeny pro porno, nebo přidává velké upozornění, že uživatelé musí souhlasit, že je nebudou zneužívat. Došlo také k významnému případu: koncem roku 2022 crowdfundingová stránka Kickstarter zakázala kampaň „Unstable Diffusion“, což byl pokus získat peníze na vytvoření AI modelu optimalizovaného pro porno. Kickstarter se odvolal na politiku proti pornografickým AI projektům a kampaň zrušil arnoldit.com. Tento incident ukázal, že i financování a podpora NSFW AI může čelit překážkám. Obchodní platformy s aplikacemi, jako je Apple, jsou také nepřátelské k nefiltrovaným AI aplikacím – Apple odstranil některé aplikace pro generování AI obrázků, které mohly vytvářet NSFW výstupy, a donutil vývojáře přidat filtry. Takže přístup k nejpokročilejším AI modelům může být do určité míry omezen firemní politikou. Opravdu open-source modely však nelze snadno zastavit – jakmile jsou zveřejněny, šíří se přes torrenty a fóra. Jde tedy o omezené opatření.

Moderace obsahu v době AI porna je nepochybně náročná. Množství potenciálně závadného obsahu je obrovské a stále roste. Ale technologie odpovídá na technologii: AI se sama používá k boji proti AI. Například Meta údajně používá strojové učení k rozpoznávání známých tváří na nahých snímcích, aby odhalila deepfaky celebrit, a k detekci typických artefaktů deepfaků. Startupy jako Reality Defender nabízejí firmám služby pro skenování a odstraňování deepfake obsahu v reálném čase realitydefender.com. A právní síla nových zákonů znamená, že platformy, které do těchto opatření neinvestují, riskují vážné pokuty nebo žaloby.

Jednou z nadějných cest je myšlenka autentizovaných médií: pokud by například všichni legitimní producenti porna kryptograficky podepisovali svá videa jako skutečná, pak by cokoli bez podpisu, co se vydává za „sex tape té a té osoby“, mohlo být označeno jako podezřelé. Je to složité zavést univerzálně, ale koncept původu se zkoumá (nejen pro porno, ale pro všechna média, aby se omezila dezinformace).

Nakonec moderování nikdy nebude neprůstřelné – na divokém webu toho stále hodně proklouzne. Šifrované nebo decentralizované platformy budou ukrývat ten nejhorší obsah. Ale alespoň v hlavním proudu a v rámci zákona existuje koordinované úsilí zmírnit škody způsobené NSFW AI. Cílem je vytvořit prostředí, kde mohou existovat legitimní využití (souběžný obsah pro dospělé, fantasy umění atd.), ale škodlivé využití je rychle identifikováno a odstraněno. Je to těžký úkol – oběťmi popisovaný jako hra na „whack-a-mole“ klobuchar.senate.gov – ale sada zákonů, AI detektorů, politik platforem a vzdělávání uživatelů dohromady tvoří hloubkovou obranu.

Dopady a budoucnost: Dopad na tvůrce a průmysl pro dospělé

Jak NSFW AI narušuje status quo, už nyní ovlivňuje skutečné lidi v ekosystému zábavy pro dospělé – od pornohvězd a sexuálních pracovnic až po erotické umělce a studia s obsahem. Někteří v nové technologii nacházejí příležitost, zatímco jiní se obávají, že budou nahrazeni nebo do ní nechtěně vtaženi.

Dospělí herci a sexuální pracovníci: Možná nejpřímější dopad je na ty, kteří si vydělávají tvorbou obsahu pro dospělé. Na jedné straně někteří zkušení tvůrci přijímají AI, aby rozšířili svou práci. Například modelky pro dospělé mohou používat AI generátory fotografií k vytváření vylepšených nebo stylizovaných snímků sebe samých na prodej (čímž si ušetří nákladné focení) – pokud obrázky stále připomínají je a splňují pravidla platforem reddit.com. Několik influencerů se dostalo do zpráv tím, že vytvořili „AI verze“ sebe samých: např. v roce 2023 influencerka Caryn Marjorie spustila AI chatbota své osobnosti, se kterým si fanoušci mohli platit za intimní chatování. Podobně startup Oh s konceptem „digitálních dvojčat“ znamená, že pornohvězda může licencovat svůj obraz k vytvoření AI avatara, který chatuje nebo vystupuje pro fanoušky, čímž vzniká nový zdroj příjmů s minimální další prací sifted.eu. Tyto kroky ukazují, že někteří v odvětví vnímají AI jako nástroj pro rozšíření sebe sama – teoreticky mohou prostřednictvím AI pobavit více fanoušků, než by fyzicky zvládli jeden na jednoho.

Na druhou stranu, mnoho vystupujících má obavy. Pokud si fanoušci mohou nechat vytvořit svůj vysněný obsah na míru pomocí AI, přestanou platit skutečným lidem? Objevily se zprávy o AI-generovaných profilech na OnlyFans, které používají zcela fiktivní (ale realistické) ženy, někdy označené vodoznakem #AI po vznesení podezření, prodávají obsah levněji nebo spamují uživatele reddit.com. Tento typ konkurence může poškodit příjmy skutečných tvůrců. Některé sexuální pracovnice říkají, že je „skličující“ vidět, jak se objevuje nový standard, kdy úspěch znamená chrlit obsah 24/7 jako algoritmus – což je pro člověka nemožné, ale pro AI snadné, a tím pádem jsou lidé tlačeni k tomu, aby buď přijali AI, nebo zůstali pozadu reddit.com. Je tu také emocionální složka: jak napsala jedna zkušená tvůrkyně, používání AI k efektivnímu „podvádění“ generováním bezchybného těla nebo nekonečného množství obsahu působí, že to snižuje hodnotu skutečného úsilí a autenticity, kterou do toho lidské tvůrkyně vkládají reddit.com. „To je podraz – neúcta k mým fanouškům… a k tvrdé práci, kterou věnuji svému vlastnímu tělu [a obsahu],“ řekla o těch, kteří používají AI k falšování obsahu reddit.com.

Už nyní vidíme určitou odpor a adaptaci: tvůrci se spojují, aby upozorňovali na falešné AI profily, a platformy upravují pravidla, aby ujistily, že skuteční tvůrci nebudou AI napodobováni. OnlyFans, jak bylo zmíněno, zakazuje používání cizí podoby a vyžaduje označování AI obsahu reddit.com. Dokonce se mluví o tom, že by tvůrci mohli podniknout právní kroky proti AI podvodům – například se šíří zvěsti o žalobě, která by měla odstranit bot účty na OnlyFans reddit.com. Kromě toho mají vystupující obavy ohledně souhlasu a práv k podobě – například bývalá pornoherečka může zjistit, že její staré scény byly použity k trénování AI, která nyní generuje nové explicitní videa „s ní“ bez jejího souhlasu nebo jakékoli platby. To je podobné obavám hollywoodských herců ohledně AI, která používá jejich podobu – jenže pornoherci mají v sázce ještě víc, protože jejich obraz je spojen s velmi citlivou oblastí. Průmysl možná bude muset vyvinout něco jako postoj Screen Actors Guild, kde herci mohou vyjednávat, jak AI může nebo nemůže jejich podobu simulovat. Skutečně, dánský přístup, kdy jednotlivci mají autorská práva ke své podobě, by mohl dát vystupujícím po celém světě možnost nárokovat si vlastnictví své tváře/těla v těchto souvislostech euronews.com.

Studia a producenti: Tradiční porno studia mohou být také narušena. Pokud malý tým s AI nástroji dokáže vytvořit obstojné erotické video bez najímání herců, velká studia ztrácejí svou výhodu. Současné AI video však zatím nedosahuje profesionální studiové kvality pro delší obsah – jde většinou o krátké klipy nebo je potřeba je kombinovat se skutečnými záběry. Některá studia mohou začít používat AI pro speciální efekty nebo postprodukci (například omlazení účinkujících, vylepšení vizuálů, nebo dokonce odstranění identifikačních tetování kvůli anonymitě). Další možný způsob využití: generování realistických erotických animací, které byly dříve nákladné na ruční výrobu. Studia však čelí i hrozbě chování podobného pirátství: nepoctiví aktéři by mohli pomocí AI vytvářet napodobeniny prémiového obsahu nebo modelek. Například pokud má studio pod smlouvou populární hvězdu, někdo by mohl tuto hvězdu deepfakeovat do nových scén a tyto scény zveřejnit. To by mohlo ukrojit ze zisků studia i značky samotné hvězdy. Studia mohou reagovat důsledným vymáháním ochranných známek nebo osobnostních práv svých smluvních talentů. Můžeme také vidět, že porno studia budou spolupracovat s technologickými firmami na tvorbě autorizovaného AI obsahu svých hvězd (s podílem na zisku) dříve, než to udělají piráti, jako obranný krok.

Erotickí umělci a autoři: Kromě video účinkujících zvažme i ty, kteří tvoří erotické komiksy, ilustrace nebo literaturu. AI už nyní dokáže napodobovat umělecké styly – zejména komunita hentai umění zaznamenala koncem roku 2022 příliv AI-generované anime erotiky, což způsobilo rozkoly. Někteří zadavatelé začali používat AI místo placení lidským umělcům, s odkazem na cenu a pohodlí. Umělci protestovali na platformách jako DeviantArt (který čelil odporu kvůli zavedení AI funkcí). Objevuje se obava, že trh s vlastním erotickým uměním a příběhy by mohl zkolabovat, když si každý může nechat zdarma vygenerovat personalizovaný komiks nebo povídku. Nadšenci však upozorňují, že AI stále zápasí se složitým vyprávěním a skutečně propracovaným uměním – lidský umělec nabízí úroveň kreativity a emocí, kterou AI může postrádat. Pravděpodobným výsledkem je hybridní přístup: umělci budou používat AI k návrhům nebo vybarvování děl a pak přidají vlastní úpravy. Méně zavedení umělci však mohou mít problém konkurovat jedním kliknutím generovaným AI výstupům, které mnoha divákům přijdou „dostatečně dobré“. To zvyšuje potřebu možná nové „autentické ruční práce“ v erotickém umění, podobně jako někteří fanoušci rádi zaplatí víc za vědomí, že dílo skutečně vytvořil člověk.

Postoj erotického průmyslu: Zajímavé je, že velké společnosti v oblasti zábavy pro dospělé byly k AI zatím veřejně poměrně zdrženlivé. Možná proto, že interně zkoumají své strategie, nebo protože by přitáhly větší pozornost a kontrolu. Erotický průmysl byl historicky rychlý v přijímání technologií (brzy přijal internet, webkamery, VR porno atd.). Již nyní vidíme, že erotické stránky prodávají obsah „deepfake celebrit“ (což je v některých zemích právně šedá zóna) a experimentují s AI doporučováním obsahu. Ve světě cammingu některé stránky zkoušely AI chatboty, aby udržely zákazníky, když jsou modelky offline. Ale úplná náhrada lidských účinkujících AI se na hlavních platformách zatím neobjevila, částečně kvůli nedostatečné vyspělosti technologie a preferenci uživatelů pro skutečnou interakci.

Nicméně, ekonomický tlak může vynutit adaptaci. Pokud by hypoteticky za 2-3 roky AI dokázala na požádání vygenerovat plnohodnotné HD porno video s jakoukoli dvojicí celebrit, trh s profesionálním pornem s neznámými herci by mohl upadnout – proč platit nebo si předplácet, když je k dispozici nekonečno bezplatných fantazií? Průmysl by se mohl přeorientovat na důraz na autenticitu, živou interakci a komunitu – tedy na věci, které AI nemůže poskytnout. Mohli bychom vidět porno propagované štítky jako „100% lidé, skutečné potěšení“ jako prodejní argument, ironicky. Naopak, průmysl by mohl AI začlenit ke snížení nákladů – např. jeden herec by vystupoval a AI by pak změnila jeho obličej, aby z jednoho natáčení vzniklo více „různých“ videí (ideálně se souhlasem). Takový scénář by vyvolal etické otázky (vědí diváci, že jde o tu samou osobu s upraveným vzhledem? Dostává herec zaplaceno za každou variantu videa, nebo jen jednou?).

Jedním z pozitivních dopadů by mohla být bezpečnost: Pokud by AI dokázala simulovat riskantní akty, studia by ji mohla využít, aby neohrožovala herce. Například místo toho, aby herci prováděli extrémní kaskadérský kousek, natočili by něco základního a AI by vygenerovala intenzivní část. Nebo, jak již bylo zmíněno, herec by mohl natáčet oblečený a AI by vytvořila nahou verzi, což by mohl být způsob, jak umožnit někomu vystupovat v pornu, aniž by byl na place skutečně nahý (i když tato myšlenka sama o sobě vyvolává debatu o autenticitě a souhlasu).

Fragmentace trhu: Je pravděpodobné, že trh s obsahem pro dospělé se rozpadne do několika úrovní:

• Vysoce kvalitní lidský obsah zdůrazňující skutečnou interakci (personalizovaná videa, OnlyFans s přímým zapojením tvůrce, živé cam show – tedy věci, kde je lidská přítomnost klíčová).
• AI-generovaný obsah, který může být extrémně levný nebo zdarma, zaplavující tube stránky nebo soukromé kanály. To by mohlo uspokojit příležitostné konzumenty nebo ty s velmi specifickými fantaziemi (celebritní apod.). Pokud deepfake porno zůstane napůl nelegální, může zůstat spíše v podzemí nebo na nekomerčních fórech.
• Hybridní obsah, kde tvůrci využívají AI, ale zůstávají zapojeni. Například modelka by mohla prodávat AI-vylepšené sady svých snímků – v podstatě její podobu, ale zdokonalenou nebo umístěnou do fantastických scén pomocí AI. Pokud je to transparentní a se souhlasem, fanoušci by mohli ocenit rozmanitost.

Psychický a sociální dopad na tvůrce: Nelze přehlédnout emocionální zátěž pro tvůrce, když vidí, že jsou jejich tváře možná použity bez souhlasu, nebo jen tlak na to, aby soutěžili se stroji. Komentáře na Redditu od tvůrců z OnlyFans odhalily určitou úzkost a dokonce zoufalství reddit.com reddit.com. To odráží, co se děje v jiných kreativních odvětvích (umělci, herci) ohledně AI – ale v oblasti dospělého průmyslu může stigma a nedostatek institucionální podpory ztěžovat vyjadřování obav nebo hledání ochrany. Můžeme očekávat, že advokační skupiny za práva sexworkerů rozšíří svůj záběr o digitální práva a AI, budou bojovat například za právo být odstraněn z trénovacích datasetů nebo za zákaz deepfake videí performerů bez souhlasu. Odbory (jako Adult Performers Actors Guild v USA) by mohly vyjednávat AI klauzule ve smlouvách. Například performerka by mohla trvat na tom, aby studio nepoužilo její záběry k trénování AI, která by mohla později nahradit její obraz, nebo aby jí za to alespoň zaplatili.

Pokud jde o chování spotřebitelů, první neoficiální důkazy naznačují, že mnoho diváků porna stále dává přednost vědomí, že je něco skutečné – skuteční lidské performeři mají své kouzlo. AI porno může podle některých uživatelů působit „bezcitně“ nebo méně uspokojivě, jakmile opadne novost. Lidským tvůrcům tak může zůstat publikum, pokud budou zdůrazňovat svou autentičnost a osobní propojení, které AI nemůže skutečně napodobit. Na druhou stranu, jak se AI zlepšuje, může se tento rozdíl zmenšovat a mladší generace, které vyrůstají po boku AI, už možná nebudou rozlišovat.

Příležitost pro nové talenty? Existuje zajímavá druhá strana: AI by mohla snížit bariéry pro vstup do prostoru s obsahem pro dospělé kontrolovaným způsobem. Někdo, kdo by nikdy nesdílel své skutečné tělo nebo tvář, by si mohl vytvořit AI personu – fiktivního sexy avatara – a prodávat obsah tohoto avatara. V podstatě být camgirl nebo modelkou na OnlyFans prostřednictvím AI zástupce. Někteří uživatelé to zkoušeli s různým úspěchem. Otevírá to dveře lidem, kteří mohou zpeněžit fantazie, aniž by odhalili svou identitu nebo tělo. Platformy však v současnosti vyžadují ověření identity, aby zabránily podvodům a problémům s nezletilými, takže jednotlivec by se stejně musel registrovat a pravděpodobně uvést, že obsah je AI-generovaný a zobrazuje fiktivní osobu. Pokud by to bylo povoleno, mohlo by to vytvořit novou kategorii tvůrců obsahu: tvůrci obsahu pro dospělé pohánění AI, kteří jsou skutečnými podnikateli, ale jejich produktem je zcela virtuální postava. Soutěžili by se skutečnými modelkami. Platili by uživatelé za „falešný“ model? Možná, pokud by byla dostatečně atraktivní a interaktivní, a zvlášť pokud by si zpočátku neuvědomili, že je falešná. Lze si představit, že někteří uživatelé by dokonce mohli upřednostnit AI modelku, která je „vždy dostupná a nikdy nemá špatný den“. To je pro lidské performery z pochopitelných důvodů znepokojující.

Regulační a právní dopad na odvětví: S novými zákony o deepfakech mají adult platformy právní motivaci zakázat vše, co není konsensuální. To by paradoxně mohlo posílit pozici zavedených, regulovaných erotických podniků (které pracují pouze s dobrovolnými účinkujícími) oproti nelegálním AI stránkám. Pokud bude vymáhání silné, uživatelé, kteří chtějí deepfake porno, ho budou mít obtížněji dostupné, což je může přivést buď k nelegálním zdrojům na dark webu, nebo je to od tohoto zvyku odradí. Mezitím by konsensuální AI výtvory (například modelka souhlasící s AI verzí sebe sama) mohly představovat novou licencovanou produktovou kategorii. Bude to vyžadovat právní vyjasnění: např. může si modelka zajistit autorská práva nebo ochrannou známku na svůj obličej, aby mohla žalovat někoho, kdo vytvoří její AI klon bez povolení? Některé země jako Dánsko a možná i připravované zákony jednotlivých států USA směřují k tomuto konceptu euronews.com. To by pomohlo účinkujícím chránit svou značku.

Shrnutí dopadu: Průmysl s erotickým obsahem stojí na začátku potenciálního posunu paradigmatu. Ti, kteří se přizpůsobí – využitím AI eticky a transparentně – mohou prosperovat nebo alespoň přežít. Ti, kteří to ignorují, mohou mít potíže v boji s přívalem obsahu a měnícími se spotřebitelskými návyky. Jak řekl jeden AI podnikatel o AI společnících: „každá nová inovace může působit jako drastická změna… je to evoluce“ sifted.eu. Otázkou je, zda tato evoluce doplní, nebo pohltí stávající ekosystém tvůrců.

Závěr: Nová erotická hranice, plná dilemat

Vzestup NSFW AI nepopiratelně otevřel Pandořinu skříňku. Během několika málo let jsme byli svědky toho, jak AI přešla od generování vtipných obrázků koček k vytváření falešných nahých fotografií, které mohou zničit život člověka. Tato technologie je mocná, dvousečná a je tu, aby zůstala. Na jedné straně umožňuje obyčejným lidem vytvářet jakýkoli erotický obraz nebo scénář, o kterém sní, a stírá hranice mezi spotřebitelem a tvůrcem v oblasti erotické zábavy. Nabízí příslib personalizovaného potěšení, kreativního zkoumání a možná i nových obchodních modelů v miliardovém odvětví, které bylo často technologicky stagnující. Na druhé straně NSFW AI podnítila nové formy zneužívání – někteří to nazývají „digitální znásilnění“ – tím, že zbavuje jednotlivce (většinou ženy) kontroly nad jejich vlastními obrazy a těly v digitálním prostoru. Vyvolává to výzvy pro naše právní systémy, které se snaží aktualizovat definice napodobování, pornografie a souhlasu pro věk AI. A nutí společnost čelit nepříjemným otázkám o povaze sexuality, svobody projevu a lidského spojení, když je posíleno nebo simulováno AI.

K listopadu 2025 se kyvadlo přiklání k ochraně a odpovědnosti. Významná legislativa v USA a EU, zásahy v Asii a změny v pravidlech platforem všechny naznačují, že nevyžádané AI porno je široce považováno za nepřijatelné. Současně se vyvíjejí technologie na detekci a prevenci zneužití, i když se samotná generativní technologie zlepšuje. Lze očekávat, že dynamika „kočky a myši“ bude pokračovat: každé nové bezpečnostní opatření může být provázeno novými technikami obcházení ze strany škodlivých aktérů. Kolektivní povědomí je však nyní mnohem vyšší – AI porno už není okrajovou internetovou zvláštností; je to hlavní téma zájmu v parlamentech i redakcích. Toto veřejné povědomí může obětem dodat sílu promluvit a požadovat spravedlnost a přimět firmy, aby převzaly odpovědnost.

Při pohledu do budoucna bude klíčová globální spolupráce. Tyto problémy nekončí na hranicích – deepfake vytvořený v jedné zemi může zničit život někomu v jiné. Bude důležité, aby si vlády vyměňovaly osvědčené postupy (jak ukazuje průzkum evropských zákonů od Euronews, mnoho zemí se učí z přístupů ostatních euronews.com euronews.com). Možná v příštích letech vznikne mezinárodní rámec nebo úmluva pro boj s obrazovým sexuálním zneužíváním, která bude nejhorší činy považovat za zločiny proti lidským právům. Mezitím bude nutné, aby občanské organizace a pedagogové pokračovali ve zvyšování povědomí, výuce mediální gramotnosti (aby lidé dvakrát přemýšleli, než uvěří nebo sdílí „uniklý“ intimní obsah) a podpoře obětí.

Navzdory všem temným stránkám NSFW AI stojí za zmínku, že není vše jen beznaděj a zmar. V konsensuálních kontextech z toho někteří lidé skutečně čerpají štěstí – ať už jde o pár, který si zpestřuje intimitu AI-generovanými roleplay scénáři, dospělého tvůrce, který pomocí AI identity bezpečně vydělává z domova, nebo jednotlivce, kteří konečně vidí svou specifickou fantazii ztvárněnou v AI umění či příběhu. Tyto případy by neměly být v debatě opomíjeny; zdůrazňují, že samotná technologie není ze své podstaty zlá. Je to nástroj – takový, který zesiluje lidské úmysly, ať už dobré, nebo špatné. Naším úkolem je směrovat jeho využití ke konsensuálním a kreativním cílům a důsledně chránit před zneužitím.

Umělci, tvůrci a sexworkeři – lidé, kteří obývají svět obsahu pro dospělé – se pravděpodobně budou i nadále přizpůsobovat a hledat si místo v tomto novém prostředí. Mnozí bojují za to, aby „AI etika“ zahrnovala i jejich hlasy, požadují mechanismy souhlasu a odměňování. Ve skutečnosti žádají něco jednoduchého: neberte nám bez dovolení. Celá společnost se s tímto principem potýká ve všech oblastech AI, od umění přes zpravodajství až po porno.

Závěrem lze říci, že NSFW AI stojí na průsečíku technologií, sexuality, práva a etiky. Nutí nás znovu definovat pojmy souhlas, soukromí a dokonce i samotnou realitu v digitálním věku. Druhá polovina 20. let 21. století bude klíčová pro nastavení norem a pravidel, které budou tuto oblast řídit. Míříme do budoucnosti, kde bude AI porno všudypřítomné, ale přísně regulované, využívané převážně k dobrým nebo neutrálním účelům? Nebo uvidíme balkanizaci, kdy ho hlavní platformy vyčistí, zatímco bude vzkvétat v temných zákoutích, podobně jako nelegální obchod? Výsledek závisí na rozhodnutích, která se činí právě teď – zákonodárci, technologickými firmami a uživateli.

Jedno je jisté: džin je z láhve venku. NSFW AI nemůžeme znovu „odvynalézt“. Ale můžeme a musíme se naučit s ní žít zodpovědně. Jako uživatelé to znamená respektovat důstojnost ostatních při používání těchto nástrojů; jako firmy zabudovat bezpečnost od začátku; jako vlády nastavit jasné hranice; a jako komunity netolerovat zneužívání. S ostražitostí a empatií je naděje, že fáze „divokého západu“ AI porna se vyvine v civilizovanější prostředí – takové, kde si dospělí s oboustranným souhlasem mohou užívat nové formy erotického umění a spojení, zatímco ti, kdo by tuto technologii zneužívali, budou drženi na uzdě. Příběh NSFW AI se stále píše a polovina roku 2025 je teprve první kapitolou. Reakce společnosti nyní určí, zda tato technologie nakonec obohatí, nebo ohrozí naši oblast intimního obsahu.

Zdroje:

• Oremus, Will. „Kongres schvaluje zákon na boj proti deepfake nahotinám a pomstě pornem.“ The Washington Post (přes stránky senátorky Klobuchar), 28. dubna 2025 klobuchar.senate.gov klobuchar.senate.gov.
• Fawkes, Violet. „8 nejlepších NSFW AI generátorů obrázků – Hledání potěšení na křižovatce kódu a souhlasu.“ Chicago Reader, 13. dubna 2025 chicagoreader.com chicagoreader.com.
• Mahdawi, Arwa. „Nesouhlasné deepfake porno je nouzová situace, která ničí životy.“ The Guardian, 1. dubna 2023 theguardian.com theguardian.com.
• Ferris, Layla. „Web s AI-generovanou pornografií Mr. Deepfakes ukončil provoz poté, co poskytovatel služeb stáhl podporu.“ CBS News, 5. května 2025 cbsnews.com cbsnews.com.
• CBS News/AFP. „Skandál s AI-generovanou pornografií otřásl Hongkongskou univerzitou poté, co student práv údajně vytvořil deepfaky 20 žen.“ CBS News, 15. července 2025 cbsnews.com cbsnews.com.
• Lyons, Emmet. „Jižní Korea se chystá kriminalizovat držení nebo sledování sexuálně explicitních deepfake videí.“ CBS News, 27. září 2024 cbsnews.com cbsnews.com.
• Wethington, Caleb. „Nové zákony proti deepfakům a AI-generované dětské pornografii vstupují v platnost v Tennessee.“ WSMV News Nashville, 30. června 2025 wsmv.com wsmv.com.
• Desmarais, Anna. „Dánsko bojuje proti deepfakům pomocí autorskoprávní ochrany. Jaké další zákony existují v Evropě?“ Euronews, 30. června 2025 euronews.com euronews.com.
• Nicol-Schwarz, Kai. „Seznamte se s AI OnlyFans: Jak jeden startup získal miliony na vybudování platformy pro ‚erotické společníky‘.“ Sifted, 13. března 2025 sifted.eu sifted.eu.
• Wilson, Claudia. „Senát schvaluje zákon DEFIANCE.“ Centrum pro politiku AI (CAIP), 1. srpna 2024 centeraipolicy.org centeraipolicy.org.
• Arnold, Stephen. „Google zaujímá postoj — proti pochybnému obsahu. Zvládne to AI správně?“ Blog Beyond Search, 24. května 2024 arnoldit.com arnoldit.com.
• Holland, Oscar. „Lin Chi-ling z Tchaj-wanu o svém deepfake utrpení a boji proti dezinformacím AI.“ CNN, 5. října 2023 (pro kontext deepfake celebrit).
• (Další politické dokumenty, tiskové zprávy a zprávy, jak je citováno v celém textu.)