Unutar NSFW AI revolucije: Kako AI-generirana pornografija mijenja pravila igre i izaziva kontroverze

NSFW AI – korištenje generativne umjetne inteligencije za stvaranje “Not Safe For Work” sadržaja za odrasle – eksplodiralo je u fenomen o kojem se žestoko raspravlja. Od AI-generiranih erotskih slika i deepfake porno videa do zavodnica s kloniranim glasom i chatbot “djevojaka”, strojno učenje mijenja krajolik sadržaja za odrasle. To je tehnološka revolucija koja otvara primamljive mogućnosti i hitna etička pitanja u jednakoj mjeri. Zagovornici pozdravljaju nove puteve za fantaziju i kreativnost, dok kritičari upozoravaju na uznemiravanje, kršenje pristanka i društvenu štetu. Sredina 2025. zatiče NSFW AI na raskrižju: prihvaćen od strane nišnih zajednica i startupa, pod povećalom zakonodavaca i strahom onih koji su se našli na njegovoj meti. U ovom sveobuhvatnom izvještaju istražujemo što je NSFW AI, gdje napreduje, najnovija zbivanja (od zabrana na platformama do novih zakona), etičke dileme, glasove s obje strane rasprave i kako se svijet bori moderirati i regulirati ovu neukrotivu novu dimenziju AI-ja. Povucimo zavjesu s divljeg svijeta AI-generirane pornografije – i zašto se ne radi samo o pornografiji, već o privatnosti, moći i budućnosti seksualnog sadržaja.

Što je NSFW AI i kako funkcionira?

NSFW AI odnosi se na sustave umjetne inteligencije koji generiraju eksplicitan sadržaj za odrasle – uključujući pornografske slike, videozapise, audio i tekst – često sa zapanjujućim realizmom. Ovi sustavi koriste iste najmodernije generativne tehnologije koje stoje iza nedavnih AI dostignuća u umjetnosti i medijima, ali primijenjene na materijal za odrasle s oznakom X. Ključne inovacije uključuju modele dubokog učenja trenirane na ogromnim skupovima podataka slika i videa, koji uče stvarati novi sadržaj kao odgovor na korisničke upite. Na primjer, difuzijski modeli za pretvorbu teksta u sliku poput Stable Diffusion mogu stvoriti fotorealistične nage ili seksualne slike iz jednostavnog tekstualnog opisa globenewswire.com. “Deepfake” tehnike omogućuju zamjenu ili sintetiziranje lica u videima, čineći da izgleda kao da stvarne osobe (često slavne ili privatne osobe) sudjeluju u pornografiji koju nikada nisu snimile. Napredni alati za kloniranje glasa mogu oponašati nečiji glas s nevjerojatnom točnošću, omogućujući generiranje erotskog audio sadržaja ili “prljavog razgovora” u ciljanoj glasovnoj boji. A veliki jezični modeli mogu generirati vruće erotske priče ili sudjelovati u seksualnoj igri uloga putem chata.

U suštini, NSFW AI sustavi koriste iste algoritme koji generiraju bilo koju AI umjetnost ili medij – samo su trenirani ili dodatno podešeni na pornografskim ili erotskim podacima za treniranje. Generativne suparničke mreže (GAN-ovi) bile su rani pioniri u stvaranju golih slika, ali difuzijski modeli i modeli temeljeni na transformatorima znatno su poboljšali vjernost. Moderni NSFW generatori slika mogu proizvesti slike gole visoke rezolucije prilagođene korisničkim upitima uz minimalan trud globenewswire.com. Kreatori deepfake videa često koriste specijalizirani softver (neki su otvorenog koda) za mapiranje jednog lica na drugo u postojećim odraslim videima, stvarajući sintetičku pornografiju koju je teško razlikovati od stvarnih snimaka cbsnews.com. AI servisi za glas mogu uzeti audio uzorak i generirati novi govor (uključujući eksplicitni sadržaj) tim glasom. AI chatbotovi koriste generiranje prirodnog jezika za pružanje personaliziranih erotskih razgovora ili sextinga na zahtjev.

Granice između fikcije i stvarnosti se brišu. Kako je jedan promatrač primijetio, “već sada vrlo realistične slike, glasovi i videi NSFW AI generatora nastavljaju se razvijati, dodatno transformirajući način na koji se odrasli sadržaj stvara, konzumira i razumije” chicagoreader.com. Korisnik sada može prizvati prilagođenu pornografsku scenu – primjerice, sliku fantazijskog susreta sa slavnom osobom ili audio isječak bivšeg partnera koji izgovara eksplicitne stvari – jednostavnim upitom, što je bilo nemoguće prije samo nekoliko godina. Ova nova moć otvara hitna pitanja o pristanku, privatnosti i razlici između kreativne fantazije i iskorištavanja. Sama temeljna tehnologija je moralno agnostična – može se koristiti za stvaranje bilo čega – ali kada se usmjeri na ljudsku seksualnost i stvarne ljudske likove, implikacije postaju problematične.

Ključni oblici AI-generiranog sadržaja za odrasle

• AI-generirane slike: Tekst-u-sliku modeli (npr. Stable Diffusion) mogu proizvesti eksplicitne erotske ili pornografske slike na temelju upita. Korisnici mogu specificirati izgled, scenarij itd., što rezultira jedinstvenim golim ili seksualnim slikama na zahtjev globenewswire.com. Mnogi takvi modeli su otvorenog koda ili prilagođeni korisnicima, omogućujući sadržaj izvan onoga što dopuštaju mainstream AI alati.
• Deepfake pornografski videozapisi: Korištenjem deepfake tehnologije, kreatori mapiraju nečije lice na odrasli video, stvarajući lažni pornografski isječak osobe koja nikada nije sudjelovala. Ovi AI-manipulirani videozapisi često ciljaju slavne osobe ili privatne pojedince bez pristanka cbsnews.com theguardian.com. Kvaliteta deepfakeova toliko se poboljšala da mnogi do 2024.–2025. izgledaju alarmantno realistično, uz pomoć snažnijih GPU-ova i algoritama.
• Kloniranje glasa i audio: AI generatori glasa kloniraju glasove slavnih osoba ili poznanika kako bi proizveli eksplicitne audio isječke (na primjer, simulirajući poznatu glumicu kako priča prljavo ili stvarajući erotske audioknjige s bilo kojim glasom). Sofisticirani AI za glas (poput ElevenLabs) čini trivijalnim generiranje uzdaha, dijaloga ili naracije u odabranom glasu, što izaziva zabrinutost zbog lažnog predstavljanja u pornografskom audio sadržaju.
• Erotski chatbotovi i fikcija: AI jezični modeli koriste se za NSFW chat i pripovijedanje. Aplikacije “AI djevojka” i erotski chatbotovi za uloge eksplodirali su u popularnosti oko 2023.–2025. Ovi botovi mogu sudjelovati s korisnicima u vrućem chatu ili sextingu, generirajući neograničen erotski tekst. Neki kombiniraju vizuale i glasovne poruke. Ovo predstavlja novi oblik sadržaja za odrasle – interaktivni AI suputnici koji zadovoljavaju intimne fantazije chicagoreader.com sifted.eu.

Dok mainstream AI platforme (poput OpenAI-jevog DALL·E ili Midjourneyja) zabranjuju pornografski sadržaj, open-source i adult tech zajednice prigrlile su ove tehnologije kako bi pomaknule NSFW granice. Open-source priroda mnogih alata “potaknula je inovacije i suradnju”, ali također olakšava uklanjanje zaštita i generiranje nereguliranog eksplicitnog sadržaja chicagoreader.com chicagoreader.com. Kao što ćemo vidjeti, ovaj sukob između inovacije i regulacije odvija se na raznim platformama.

Platforme, aplikacije i zajednice koje pokreću NSFW AI

Živopisan (i ponekad mračan) ekosustav platformi i online zajednica pojavio se za stvaranje i dijeljenje AI-generiranog sadržaja za odrasle. Budući da velike tehnološke tvrtke ne dopuštaju eksplicitan sadržaj na svojim AI uslugama arnoldit.com blog.republiclabs.ai, procvat NSFW AI-ja pokreću neovisni developeri, open-source modeli i specijalizirani startupovi. Ovo su neka od ključnih područja gdje NSFW AI živi i napreduje:

• Open-source čvorišta modela: CivitAI – popularna web stranica zajednice – sadrži ogromnu biblioteku AI modela i slika koje su kreirali korisnici, uključujući mnoge specijalizirane za sadržaj za odrasle chicagoreader.com. Korisnici mogu preuzimati fino podešene Stable Diffusion modele za hentai, realistične gole slike, fetiš umjetnost itd., te dijeliti svoje generirane slike. Otvorenost ovakvih stranica učinila ih je glavnim mjestom za NSFW AI kreatore. Međutim, to također znači minimalno filtriranje; sadržaj varira od umjetničke erotske umjetnosti do ekstremnog pornografskog materijala. Druge stranice poput Hugging Face također su ugostile NSFW modele (uz upozorenja), a forumi poput 4chan ili GitHub također su dijelili “procurjele” necenzurirane modele.
• NSFW generatori slika i aplikacije: Brojne web-usluge sada se specijaliziraju za AI generiranje erotskih slika. Na primjer, platforme poput Candy.ai, Arting.ai, Vondy, OurDream i druge (često temeljene na pretplati) omogućuju korisnicima generiranje prilagođenih slika za odrasle s relativno malo ograničenja chicagoreader.com chicagoreader.com. Neke se hvale visokokvalitetnim prikazima i širokim rasponom stilova – od fotorealističnih do anime – privlačeći razne ukuse. Mnoge su se pojavile 2024.–2025., često nudeći besplatne probne verzije ili tokene, natječući se tko može stvoriti najrealističniju ili najmaštovitiju NSFW umjetnost. Njihov marketing naglašava personalizaciju i privatnost, obećavajući korisnicima da mogu stvoriti točno ono što žele “u sigurnom, privatnom okruženju, bez ograničenja unaprijed snimljenog sadržaja” globenewswire.com.
• AI porn zajednice i forumi: Prije nedavnih suzbijanja, posvećene deepfake pornografske web stranice bile su središta za ovu aktivnost. Najzloglasnija je bila Mr. Deepfakes, osnovana 2018., koja je postala “najistaknutije i najmainstream tržište” za deepfake pornografiju slavnih, kao i meta koje nisu slavne osobe cbsnews.com. Korisnici na stranici mogli su učitavati i gledati eksplicitne deepfake videozapise, pa čak i naručivati prilagođenu pornografiju bez pristanka za određenu cijenu cbsnews.com. Stranica je poticala zajednicu s forumima za raspravu o tehnikama i razmjenu sadržaja. Međutim, kako ćemo kasnije detaljnije opisati, Mr. Deepfakes je zatvoren 2025. godine nakon što je izgubio ključnog pružatelja usluga cbsnews.com. Nakon takvih suzbijanja, deepfake pornografska zajednica nije nestala – ona se rascjepkala i preselila. Stručnjaci napominju da raspuštanje velike stranice “raspršuje zajednicu korisnika, vjerojatno ih gurajući prema manje mainstream platformama poput Telegrama” za razmjenu sadržaja cbsnews.com. Doista, šifrirane aplikacije i nišni forumi novi su dom za mnoge NSFW AI entuzijaste koji su protjerani s većih platformi.
• AI “Djevojka” i usluge pratnje: Val startupa spaja generiranje erotskog sadržaja s interaktivnim društvom. Jedan od značajnih primjera je Oh (sa sjedištem u Londonu), koji se predstavlja kao graditelj “AI OnlyFans” – erotske platforme za pratnju gdje korisnici komuniciraju s AI-generiranim virtualnim modelima putem teksta, glasa i slika sifted.eu sifted.eu. Oh je prikupio 4,5 milijuna dolara početkom 2025. za stvaranje “autonomnih oskudno odjevenih botova” koji čak mogu proaktivno slati korisnicima koketne poruke sifted.eu sifted.eu. Na njihovoj stranici korisnici vide profile polugolih AI botova – uglavnom izmišljenih ženskih likova, iako su neki “digitalni blizanci” stvarnih odraslih kreatora koji licenciraju svoj izgled (i uzimaju dio prihoda) sifted.eu. Korisnici mogu razgovarati s tim botovima i primati seksi poruke, AI-generirane gole slike, pa čak i glasovne poruke generirane kloniranim glasovima sifted.eu. Nekoliko sličnih usluga pojavilo se oko 2023.–2024.: DreamGF, Kupid AI, FantasyGF, Candy.ai, itd., što ukazuje na trend AI-pokretanih chat pratitelja za odrasle sifted.eu. Privlačnost je 24/7, potpuno prilagodljiva erotska interakcija – u suštini virtualna cam djevojka ili dečko pokretani algoritmima.
• Uspostavljene platforme za odrasle se prilagođavaju: Tradicionalne platforme za sadržaj za odrasle nisu ostale netaknute AI valom. OnlyFans, popularna usluga pretplate za kreatore, suočila se s porastom AI-generiranog sadržaja za odrasle. Prema pravilima, OnlyFans dopušta AI-generirane slike samo ako prikazuju samog verificiranog kreatora i jasno su označene kao AI sadržaj reddit.com. Zabranjeno je korištenje AI-a za imitaciju drugih ili za automatizirani chat s obožavateljima reddit.com. Unatoč tome, pojavila su se izvješća o računima koji prodaju pakete očito AI-generiranih golih fotografija (s prepoznatljivim greškama poput čudnih ruku ili “mrtvih očiju” na svakoj slici) nesvjesnim pretplatnicima reddit.com. Neki ljudski kreatori su bijesni, bojeći se da bi lažni AI modeli mogli preplaviti platformu i naštetiti njihovoj zaradi reddit.com uniladtech.com. Jedna seksualna radnica požalila se da AI “oduzima trud, kreativnost i gnjavažu” koju pravi kreatori ulažu, nazvavši to “medvjeđom uslugom mojim obožavateljima” i izrazila zabrinutost da će to pogoršati nerealna očekivanja o seksu reddit.com reddit.com. S druge strane, neki snalažljivi kreatori za odrasle prihvaćaju AI alate – koriste generatore slika za poboljšanje ili umnožavanje svog sadržaja, ili licenciraju svoj lik tvrtkama poput Oh za dodatnu zaradu sifted.eu. Industrija sadržaja za odrasle u cjelini (porno studiji, cam stranice itd.) oprezno eksperimentira s AI-jem za kreiranje sadržaja, ali ga također promatra s oprezom kao disruptivnu silu koja bi mogla omogućiti poplavu korisnički-generiranog eksplicitnog sadržaja izvan profesionalne sfere. Analitičari industrije predviđaju da bi AI-generirani sadržaj za odrasle mogao činiti više od 30% online konzumacije pornografije do 2027. godine ako se trenutni trendovi nastave globenewswire.com, što pokazuje koliko se brzo ova tehnologija širi.

NSFW AI zajednica brzo se razvija i raznolika je, od umjetnika hobista koji istražuju AI erotiku kao “kreativno i osobno istraživanje” do hardcore deepfake grupa koje stvaraju zlonamjerne lažne gole slike chicagoreader.com. Nove platforme i alati pojavljuju se gotovo svaki tjedan, svaka nudeći drugačiju ravnotežu slobode i ograničenja. Kako je jedan pregled iz 2025. rekao, “svijet NSFW AI generatora je ogroman i brzo se mijenja”, pri čemu se neke platforme fokusiraju na hiperrealistične vizuale, druge na interaktivno pripovijedanje, a svaka zauzima vlastito etičko sivo područje chicagoreader.com. Ono što ih ujedinjuje je obećanje na zahtjev, visoko personaliziranog sadržaja za odrasle – i opasnosti koje dolaze s takvom moći.

2025: Poplava AI pornografije i rastući otpor

Do sredine 2025., NSFW AI dosegao je prijelomnu točku. S jedne strane, sadržaj je postao rašireniji i uvjerljiviji nego ikad; s druge strane, javna zabrinutost i regulatorni nadzor dosegnuli su novi vrhunac. Nedavni događaji uključuju incidente zlostavljanja visokog profila, brze regulatorne odgovore, pa čak i samoregulaciju unutar tehnološke industrije. U nastavku donosimo pregled nekih od glavnih vijesti i trendova 2024.–2025. vezanih uz AI-generiranu pornografiju:

Kontroverze i skandali s neovlaštenim deepfakeovima

Možda ništa nije više potaknulo raspravu o NSFW AI-u od porasta ne-suglasne deepfake pornografije – korištenje AI-a kako bi se činilo da je netko (obično žena) prikazan gol ili u seksualnim radnjama koje nikada nije učinio/la. Ova praksa je započela s poznatim osobama, ali sve češće cilja obične ljude, često kao oblik uznemiravanja ili “osvetničke pornografije”. Do 2023. godine postala je uznemirujuće raširena i lako dostupna: istraživačka izvješća su otkrila da bilo tko može lako pronaći deepfake pornografske web stranice putem Googlea, pridružiti se Discordu kako bi naručio/la prilagođene lažnjake, pa čak i platiti kreditnom karticom – procvjetala je podzemna ekonomija s “kreatorima” koji otvoreno oglašavaju usluge theguardian.com theguardian.com. Studije su dosljedno pokazale da su žene i djevojke u velikoj većini žrtve ovog trenda. Ključno izvješće tvrtke Sensity (tvrtka za AI sigurnost) otkrilo je da je 95–96% deepfake sadržaja na internetu ne-suglasna seksualna slika, gotovo sve prikazuju žene theguardian.com. Poznate žene, od glumice Taylor Swift do internetskih osobnosti, imale su lažne gole slike koje su postale viralne na društvenim mrežama klobuchar.senate.gov. Još alarmantnije, na meti su se našle i privatne osobe i maloljetnici: npr. 14-godišnja djevojčica otkrila je da su njezini školski kolege koristili aplikaciju za izradu lažnih pornografskih slika nje i dijelili ih na Snapchatu klobuchar.senate.gov.

Jedan istaknuti incident dogodio se u siječnju 2023., kada je Twitch streamer videoigara uhvaćen s otvorenom karticom preglednika na deepfake porno stranici s njegovim kolegicama. Streamer se uplakano ispričao, ali jedna od žena, Twitch streamerica QTCinderella, dala je snažan odgovor: “Ovako izgleda osjećaj povrede… vidjeti slike mene ‘gole’ kako se šire” bez pristanka theguardian.com. Naglasila je koliko je nepravedno što kao žena u javnosti sada mora trošiti vrijeme i novac boreći se da lažne seksualne slike o njoj budu uklonjene s interneta theguardian.com theguardian.com. Njezina molba – “Ne bi smjelo biti dio mog posla da budem ovako zlostavljana” – odjeknula je i privukla pažnju javnosti na deepfake pornografiju kao ozbiljan oblik zlostavljanja.

Od tada su se takvi slučajevi samo umnožili. U 2024. godini, učenici u više zemalja postali su i počinitelji i žrtve AI zamjene golotinje. U Australiji je školska zajednica bila potresena lažnim eksplicitnim slikama nekoliko učenica koje su generirane i dijeljene bez njihova pristanka, što je potaknulo policijsku istragu i javno zgražanje theguardian.com. U Hong Kongu 2025. godine, student prava na prestižnom Sveučilištu u Hong Kongu navodno je stvorio AI porno slike najmanje 20 kolegica i profesorica, izazvavši skandal kada je početna kazna sveučilišta bila samo pismo upozorenja cbsnews.com cbsnews.com. Vlasti Hong Konga istaknule su da je prema važećem zakonu kazneno djelo samo distribucija takvih slika, a ne samo njihovo stvaranje, ostavljajući rupu u zakonu ako počinitelj nije javno podijelio lažnjake cbsnews.com. Ženske udruge osudile su grad kao “zaostao” u zaštiti, a povjerenik za privatnost Hong Konga ipak je pokrenuo kaznenu istragu, navodeći moguću namjeru nanošenja štete cbsnews.com cbsnews.com. Slučaj je naglasio da svatko može biti meta i da postojeći zakoni često teško prate razvoj događaja.

Usred ovih zloupotreba, žrtve opisuju ozbiljnu emocionalnu i reputacijsku štetu. Biti prikazan u hiperrealističnom lažnom seksualnom činu je duboko traumatično, čak i ako logički znate da je lažno. “Nadrealno je vidjeti svoje lice… Izgledali su nekako mrtvo iznutra,” rekla je jedna studentica koja je pronašla AI-generirane videozapise sebe na porno stranici (koje je postavio nezadovoljni bivši kolega) centeraipolicy.org. Žrtve se osjećaju nemoćno, ne samo zato što nikada nisu pristale na takve slike, već i zato što ih je izuzetno teško ukloniti. Kako je napisala jedna novinarka, “nepristanak na deepfake pornografiju je hitan problem koji uništava živote.” To prisiljava žene da žive u stanju paranoje, pitajući se tko je sve vidio te lažne sadržaje, i usmjerava njihovu energiju u “noćnu moru igre whack-a-mole” pokušavajući ukloniti sadržaj s interneta theguardian.com klobuchar.senate.gov. Aktivisti su to usporedili s oblikom seksualnog kibernetičkog terorizma osmišljenog da ušutka i zastraši žene theguardian.com.

Čak su i mainstream platforme društvenih mreža nenamjerno olakšavale širenje AI eksplicitnog sadržaja. Početkom 2024. eksplicitne deepfake slike Taylor Swift proširile su se X-om (bivši Twitter) toliko široko – prikupivši milijune pregleda – da je platforma privremeno blokirala rezultate pretrage za njezino ime kako bi zaustavila širenje cbsnews.com. Utvrđeno je da Meta (Facebook/Instagram) 2024. prikazuje stotine oglasa za “nudify” aplikacije (alate koji digitalno svlače slike žena pomoću AI-a), unatoč tome što takvi oglasi krše pravila. Nakon istrage CBS Newsa, Meta je uklonila mnoge od tih oglasa i priznala da su prošli kroz provjeru cbsnews.com. Prisutnost takvih oglasa pokazuje koliko su normalizirane i dostupne AI aplikacije za “svlačenje”, čak i na legitimnim oglasnim mrežama cbsnews.com.

Zabrane na platformama i samoregulacija industrije

Suočeni s pritiskom javnosti, neke tehnološke platforme i pružatelji usluga poduzeli su korake kako bi obuzdali NSFW AI sadržaj u protekloj godini. Značajan razvoj događaja bilo je gašenje Mr. Deepfakes u svibnju 2025. godine, o čemu je ranije bilo riječi. Stranica je objavila da se gasi nakon što je “ključni pružatelj usluga povukao svoju podršku”, što je učinkovito isključilo stranicu s interneta cbsnews.com. Iako nije potvrđeno, to sugerira da je infrastrukturni ili hosting pružatelj usluga (moguće cloud servis, registar domena ili DDoS zaštita) odlučio prekinuti suradnju, vjerojatno zbog pravnog ili reputacijskog rizika. Tajming je bio svega nekoliko dana nakon što je američki Kongres donio glavni zakon protiv deepfakeova (o čemu više u nastavku), zbog čega su mnogi to vidjeli kao dio šireg obračuna cbsnews.com. Henry Ajder, poznati stručnjak za deepfake, pozdravio je zatvaranje kao razbijanje “centralnog čvora” velike mreže zlostavljanja cbsnews.com. “Ovo je trenutak za slavlje,” rekao je, uz upozorenje da problem neovlaštenih deepfake slika “neće nestati” – raspršit će se, ali vjerojatno nikada više neće steći tako snažno uporište u mainstreamu cbsnews.com. Doista, Ajder je primijetio da će te zajednice pronaći nova utočišta, ali “neće biti tako velike i istaknute” kao što je to bio slučaj s jednom velikom centraliziranom stranicom, što je “ključan” napredak cbsnews.com.

Velike tehnološke kompanije također su počele rješavati aspekt alata i oglasa. U svibnju 2024. Google je ažurirao svoja pravila kako bi zabranio oglase za platforme koje stvaraju deepfake pornografiju ili tutorijale o tome kako je napraviti arnoldit.com. Googleov potez, koji stupa na snagu krajem svibnja 2024., bio je pokušaj da se zaustavi promocija tih usluga putem Google Adsa. (Google je prethodno zabranio korištenje svoje Colab platforme za treniranje deepfake modela, a još 2018. stranice poput Reddita i Pornhuba službeno su zabranile AI-generiranu neodobrenu pornografiju arnoldit.com.) Ovo je predstavljeno kao Googleova priprema za još gore što dolazi: “ako je deepfake pornografija izgledala loše 2018., sada će sigurno izgledati puno realističnije,” navodi se u izvješću ExtremeTecha, opravdavajući potrebu za strožim pravilima za oglase arnoldit.com. Društvene mreže također ažuriraju moderiranje sadržaja – primjerice, Pornhub i glavne adult stranice obećale su 2018. zabraniti deepfakeove (kao neodobrenu pornografiju), a u Europi nova pravila u 2024.–25. prisiljavaju pornografske stranice da aktivno “suzbijaju štetan sadržaj” ili će se suočiti s kaznama subscriber.politicopro.com. Kao dio šireg nastojanja za sigurnost, vlasnik Pornhuba čak je nakratko obustavio uslugu u nekim regijama (poput Francuske i određenih američkih saveznih država) zbog zabrinutosti oko usklađenosti s novim zakonima subscriber.politicopro.com, što pokazuje kako su adult platforme prisiljene ozbiljno shvatiti zaštitu sadržaja ili onemogućiti pristup.

Glavne AI tvrtke i dalje se distanciraju od NSFW upotrebe. OpenAI-jev model za slike DALL·E i ChatGPT usluga održavaju stroge filtere protiv seksualnog sadržaja. Midjourney (popularni AI generator slika) ne samo da zabranjuje pornografske upite, već je implementirao automatiziranu moderaciju koja prepoznaje kontekst kako bi spriječio korisnike da potajno unesu NSFW zahtjeve arxiv.org. Kada filtri jednog modela budu zaobiđeni domišljatim formulacijama upita, incidenti postaju javni i developeri dodatno pooštravaju zaštitu (vječna igra mačke i miša). S druge strane, novi sudionici ponekad ističu svoj nedostatak cenzure kao prednost: primjerice, najnoviji model Stability AI-ja, Stable Diffusion XL, tehnički može generirati NSFW slike ako se pokreće lokalno bez sigurnosnog filtera, a neke manje tvrtke otvoreno oglašavaju “manje ograničenja na NSFW sadržaj u odnosu na konkurenciju” latenode.com. Ovo pokazuje podjelu u AI industriji: veliki igrači biraju oprez i sigurnost brenda, dok manji ili otvoreni projekti zadovoljavaju potražnju za necenzuriranim generativnim AI-jem – uključujući pornografiju.

Glavni pravni i regulatorni razvoj (2024.–2025.)

Možda su najvažniji razvojni događaji došli od zakonodavaca koji odgovaraju na opasnosti AI pornografije. Diljem svijeta, vlade počinju donositi zakone za kažnjavanje neodobrenih deepfakeova, zaštitu žrtava, pa čak i regulaciju samih AI alata. Evo pregleda značajnih poteza:

• Sjedinjene Države – Zakon o uklanjanju (Take It Down Act) (2025): U travnju 2025. američki Kongres je velikom većinom usvojio dvostranački “Zakon o uklanjanju”, prvi savezni zakon koji se izravno bavi AI-generiranim intimnim slikama klobuchar.senate.gov. On čini saveznim kaznenim djelom stvaranje ili dijeljenje intimnih slika (stvarnih ili AI-generiranih) bez pristanka osobe. Ključno, zahtijeva od internetskih platformi da uklone takav sadržaj u roku od 48 sati nakon što ga žrtva prijavi klobuchar.senate.gov. Ovaj zakon – za koji se zalagala Prva dama Melania Trump i koji su supotpisali senatori iz obje stranke – potpisao je predsjednik Donald Trump u svibnju 2025. klobuchar.senate.gov. Smatra se prvim velikim internetskim zakonom Trumpovog drugog mandata i izravnim odgovorom na “brzo rastući problem [neželjene pornografije]” klobuchar.senate.gov. Zagovornici žrtava pohvalili su ga kao davno potreban. “Deepfakeovi stvaraju zastrašujuće nove prilike za zlostavljanje,” rekla je senatorica Amy Klobuchar, dodajući da sada žrtve mogu ukloniti materijal i počinitelji biti pozvani na odgovornost klobuchar.senate.gov. Posebno je važno da su velike tehnološke tvrtke poput Mete, Googlea i Snapa podržale ovaj zakon – što je znak konsenzusa da se nešto moralo poduzeti klobuchar.senate.gov. Zakon predviđa kazne uključujući novčane kazne i do 2 godine zatvora za počinitelje cbsnews.com. Također omogućuje žrtvama da tuže kreatore/distributere za odštetu, čime se jača građanska zaštita. Grupe za slobodu govora i privatnost upozorile su na moguću zloupotrebu zakona – primjerice, Lia Holland iz Fight for the Future nazvala ga je “dobronamjernim, ali loše napisanim”, strahujući da bi zlonamjerni akteri mogli zloupotrijebiti zahtjeve za uklanjanje kako bi cenzurirali legitimni sadržaj klobuchar.senate.gov. Ipak, Zakon o uklanjanju je sada na snazi, što označava prvi pravi korak savezne vlade SAD-a u borbi protiv AI seksualne eksploatacije u velikim razmjerima.
• Američke savezne države: Čak i prije djelovanja na saveznoj razini, više američkih saveznih država donijelo je vlastite zakone. Kalifornija, Teksas, Virginia, New York i druge donijele su zakone u razdoblju 2019.–2023. kojima je nezakonito stvarati ili distribuirati deepfake pornografiju bez pristanka (često svrstano pod zakone o osvetničkoj pornografiji ili seksualnoj imitaciji). U 2025. godini, države su nastavile usavršavati zakone. Na primjer, Tennessee je uveo “Preventing Deepfake Images Act” koji stupa na snagu 1. srpnja 2025., stvarajući građanske i kaznene osnove za tužbu za svakoga čiji je intimni lik korišten bez pristanka wsmv.com wsmv.com. Poticaj je došao nakon što je lokalna TV meteorologinja otkrila da se njezine lažne gole fotografije šire internetom, zbog čega je svjedočila o utjecaju na nju i njezinu obitelj wsmv.com. Tennessee je također donio zakon kojim se kriminaliziraju sami alati za AI dječju pornografiju – čime je kazneno djelo svjesno posjedovati, distribuirati ili proizvoditi softver namijenjen stvaranju AI-generiranog materijala seksualnog zlostavljanja djece wsmv.com. Ovaj zakon prepoznaje užas AI-generirane dječje pornografije i nastoji ga spriječiti ciljajući samu tehnologiju (posjedovanje takvog alata u TN-u sada je kazneno djelo klase E, a proizvodnja klase B) wsmv.com.
• Europa – Mjere na razini EU-a: Europska unija primjenjuje dvostruki pristup: opće regulative o umjetnoj inteligenciji i posebne kaznene direktive. Nadolazeći EU AI Akt (očekuje se dovršetak 2024./2025.) zahtijevat će da generativni AI sadržaj ispunjava obveze transparentnosti. Deepfakeovi, koji su klasificirani kao AI s “ograničenim rizikom”, neće biti potpuno zabranjeni, ali moraju biti jasno označeni kao AI-generirani (npr. vodenim žigom ili izjavom), a tvrtke moraju otkriti pojedinosti o svojim podacima za treniranje euronews.com euronews.com. Nepoštivanje može rezultirati kaznama do 15 milijuna eura ili više euronews.com. Dodatno, EU je odobrila Direktivu o nasilju nad ženama koja izričito kriminalizira neovlašteno stvaranje ili dijeljenje seksualnih deepfakeova euronews.com. Ona nalaže da države članice EU-a zabrane takvo ponašanje (točne kazne prepuštene su svakoj zemlji) do 2027. godine euronews.com euronews.com. To znači da će u cijeloj Europi izrada lažne pornografske slike neke osobe bez pristanka biti kazneno djelo, usklađeno s načinom na koji se tretira stvarna osveta pornografijom.
• Francuska: Francuska je 2024. godine odlučno nastupila s novom odredbom u svom Kaznenom zakonu. Sada je u Francuskoj nezakonito dijeliti bilo kakav AI-generirani vizualni ili audio zapis osobe bez njezinog pristanka euronews.com. Ako se to učini putem internetske usluge, kazne su veće (do 2 godine zatvora, 45.000 € kazne) euronews.com. Važno je napomenuti da je Francuska posebno izričito zabranila pornografske deepfakeove, čak i ako ih netko pokuša označiti kao lažne euronews.com. Dakle, u Francuskoj je izrada ili distribucija seksualnog deepfakea kažnjiva s do 3 godine zatvora i 75.000 € kazne euronews.com. Francuski zakon također ovlašćuje svog digitalnog regulatora ARCOM da prisili platforme na uklanjanje takvog sadržaja i poboljšanje sustava za prijavu euronews.com.
• Ujedinjeno Kraljevstvo: UK je također 2023.–2024. ažurirao zakone. Izmjene Zakona o seksualnim deliktima učinit će stvaranje seksualnog deepfakea bez pristanka kaznenim djelom za koje je predviđena kazna do 2 godine zatvora euronews.com euronews.com. Neovisno o tome, Zakon o internetskoj sigurnosti iz 2023. (opsežna regulacija interneta) izričito zabranjuje dijeljenje ili prijetnju dijeljenjem seksualnih slika bez pristanka (uključujući deepfakeove) na društvenim mrežama, te zahtijeva od platformi da “proaktivno uklone” takav materijal ili spriječe njegovo pojavljivanje euronews.com. Ako platforme ne uspiju, suočavaju se s kaznama do 10% globalnog prihoda – što je ogroman poticaj za poštivanje propisa euronews.com. Međutim, neki stručnjaci napominju da UK još uvijek ne kriminalizira stvaranje deepfakea koji nije podijeljen, što ostavlja žrtve ranjivima ako su slike zadržane privatno (slično scenariju u Hong Kongu) euronews.com. Postoje pozivi da UK čak kriminalizira razvoj i distribuciju samih deepfake alata euronews.com.
• Danska: U lipnju 2025. danski je parlament usvojio revolucionarni zakon kojim se pojedincima daje autorsko pravo nad vlastitim likom – u suštini, vaše lice postaje “vaše intelektualno vlasništvo” kao način borbe protiv deepfakeova euronews.com. Ovim zakonom bit će nezakonito stvarati ili dijeliti “digitalne imitacije” nečijih osobnih obilježja bez pristanka euronews.com. “Imate pravo na vlastito tijelo, vlastiti glas i vlastite crte lica,” rekao je danski ministar kulture, predstavljajući to i kao zaštitu od dezinformacija i seksualne zloupotrebe euronews.com. Iako se detalji još čekaju, zakon sugerira da će Danska tretirati izradu deepfakeova kao povredu “prava na lik”, slično kršenju autorskih prava, što bi moglo znatno pojednostaviti uklanjanje sadržaja i pravne postupke.
• Južna Koreja: Južna Koreja bila je jedna od prvih zemalja koje su teško pogođene deepfake pornografijom (s obzirom na njezine probleme s digitalnim seksualnim zločinima posljednjih godina). Do 2021. godine, Južna Koreja je zabranila izradu ili dijeljenje seksualnih deepfakeova; krajem 2024. otišla je još dalje te kriminalizirala čak i posjedovanje ili gledanje takvog sadržaja. Zakon donesen u rujnu 2024. (potpisao predsjednik Yoon 2024./25.) učinio je nezakonitim kupnju, posjedovanje ili gledanje seksualno eksplicitnih deepfake slika/videa, a prekršitelji mogu dobiti do 3 godine zatvora cbsnews.com cbsnews.com. Izrada/distribucija je već bila nezakonita (više od 5 godina zatvora), a kazna je povećana na maksimalno 7 godina ako novi zakon bude potpisan cbsnews.com. Ovakav agresivan pristup prepoznaje da su se ti lažni sadržaji često razmjenjivali među mladima; naime, 2024. korejska policija je izvijestila o 387 uhićenja povezanih s deepfake seksualnim sadržajem samo u prvoj polovici godine – 80% uhićenih bili su tinejdžeri cbsnews.com. Problem je postao toliko raširen među tinejdžerima (izrada lažnih sadržaja o školskim kolegama, učiteljima itd.) da ga Koreja tretira kao ozbiljan zločin čak i samo traženje takvog materijala cbsnews.com cbsnews.com. Aktivisti u Seulu prosvjedovali su s transparentima na kojima je pisalo “Ponavljajući deepfake seksualni zločini, država je također suučesnik” tražeći strože mjere cbsnews.com, a vlada je odgovorila ovim mjerama.
• Kina: Pornografija bilo koje vrste strogo je ilegalna u Kini, a to se odnosi i na AI-generiranu pornografiju. Štoviše, Kina je u siječnju 2023. uvela pionirske propise o tehnologiji “duboke sinteze”, zahtijevajući da svaki AI-generirani ili izmijenjeni medij koji bi mogao zavarati mora imati jasne oznake ili vodene žigove te zabranjujući korištenje takve tehnologije za lažno predstavljanje, prijevaru ili ugrožavanje sigurnosti oxfordmartin.ox.ac.uk afcea.org. U suštini, Kina je preventivno zabranila nelabelirane deepfakeove i dala vlastima široke ovlasti za kažnjavanje onih koji ih stvaraju. U kombinaciji s općom zabranom opscenog materijala, NSFW AI sadržaj je dvostruko zabranjen – iako vjerojatno postoji u podzemnim krugovima, kineski cenzori imaju pravne alate za njegovo trenutno brisanje i procesuiranje.

Globalno, trend je jasan: nepristančana AI seksualna slika postaje kriminalizirana u raznim jurisdikcijama, a platforme su obvezne nadzirati takav sadržaj. Do kraja 2025., pravni okvir je znatno manje tolerantan prema deepfake pornografiji nego samo dvije godine ranije, kada su samo neke američke savezne države i zemlje poput Južne Koreje imale takve zakone. Međutim, provedba i svijest i dalje su izazovi. Mnoge žrtve još uvijek ne znaju da ih zakoni sada štite, a policija/tužitelji često nisu opremljeni za istraživanje anonimnih online počinitelja. Zakoni se također razlikuju – neka mjesta kažnjavaju čak i privatno stvaranje, druga samo ako je sadržaj distribuiran. Ipak, momentum prema priznavanju AI-generiranog seksualnog zlostavljanja kao stvarnog zlostavljanja je neosporan. Kako je primijetio jedan američki profesor prava, ovaj val zakonodavstva vraća moć u ruke žrtava i šalje poruku da “imate prava nad vlastitom slikom i tijelom, čak i u doba AI-a” euronews.com.

Etnička močvara: Pristanak, deepfakeovi i društveni utjecaj

Izvan pravne sfere, NSFW AI otvara duboka etička i društvena pitanja. U središtu je pitanje pristanka – može li eksplicitan sadržaj ikada biti etičan ako je generiran bez pristanka (ili čak znanja) onih koji su prikazani? Većina bi se složila da su nepristančani deepfakeovi očigledno etički pogrešni, u biti oblik seksualnog nasilja. No dileme su još dublje: Što je s AI-generiranom pornografijom koja koristi slike stvarnih ljudi dobivene uz pristanak (npr. treniranje na komercijalnim porno videima) – je li to “bez žrtava” ili iskorištava lik tih izvođača bez daljnjeg pristanka ili naknade? Što je s potpuno izmišljenom AI pornografijom – gdje nije prikazana stvarna osoba – je li to bezopasno, ili može normalizirati opasne fantazije (poput iskorištavanja djece ili scenarija silovanja)? I kako se pristranosti AI modela odražavaju u erotskom sadržaju?

Pristanak i privatnost: Najneposrednija zabrinutost je što ljudi imaju nultu kontrolu ili pristanak nad time kako bi AI mogao koristiti njihov lik. Svatko tko je ikada objavio fotografiju na internetu (ili čak i oni koji nisu, ako poznanik ima njihovu fotografiju) teoretski je u opasnosti da postane lice pornografskog deepfakea. Žene, osobito one u javnosti, sada žive s jezivom stvarnošću: mogli biste se probuditi i otkriti da internet “misli” da ima vaše gole fotografije ili seksualne snimke, zahvaljujući AI-u theguardian.com. Ovo krši temeljno osobno dostojanstvo i privatnost. Kako danski zakon kaže, trebali biste imati pravo na svoje vlastito lice i tijelo – no trenutna tehnologija i norme to ne jamče. Etičari tvrde da samo postojanje ovih lažnjaka, čak i ako nisu široko rasprostranjeni, predstavlja štetu – to je prikaz seksualnog čina u kojem sudjelujete, stvoren bez vašeg dopuštenja. To može imati psihološki učinak sličan seksualnom napadu. Činjenica da “internet pamti zauvijek” dodatno povećava štetu: jednom kad se prošire, te slike mogu se iznova pojavljivati, tjerajući žrtve da ponovno proživljavaju traumu. Svi ovi čimbenici čine AI pornografiju bez pristanka ozbiljnim etičkim prekršajem. Društvo je počelo to tretirati ravnopravno s drugim seksualnim zločinima u smislu stigme i posljedica, ali kao što je već rečeno, zakoni još uvijek sustižu.

Deepfakeovi i istina: Drugi aspekt je kako deepfakeovi zamagljuju stvarnost. Kako AI pornografske slike izgledaju sve stvarnije, gledatelji možda neće shvatiti da su lažne, što dodatno šteti ugledu. Lažni seksualni video mogao bi nekome oduzeti posao, uništiti odnose ili biti iskorišten za ucjenu (“sextortion”). Čak i ako se kasnije dokaže da je lažan, poniženje i šteta za ugled ne mogu se u potpunosti ispraviti. To etički povećava odgovornost kreatora takvih lažnjaka – oni se igraju stvarnim životima i egzistencijama. Također naglašava društveni izazov: kako održati povjerenje u medije kad vidjeti više ne znači vjerovati? Neki stručnjaci deepfakeove nazivaju “napadom na istinu” koji se u kontekstu pornografije koristi kao oružje za omalovažavanje i kažnjavanje žena theguardian.com.

Maloljetnici i AI-generirani CSAM: Možda je najšire prihvaćena etička crvena linija AI-generirani materijal seksualnog zlostavljanja djece (CSAM) – tj. prikazi maloljetnika u seksualnim scenarijima. Čak i ako nijedno stvarno dijete nije ozlijeđeno tijekom stvaranja, gotovo svi regulatori i platforme tretiraju AI-generiranu dječju pornografiju kao jednako nezakonitu i štetnu kao i pravi CSAM. Etičko obrazloženje je jasno: takav sadržaj seksualizira djecu i može potaknuti stvarne zločine. Također se često generira korištenjem fotografija stvarne djece (npr. uzimanje nevine fotografije djeteta i “nagođenje” ili izmjena putem AI – odvratno kršenje dostojanstva i privatnosti tog djeteta) centeraipolicy.org. Nažalost, postoje dokazi da se to događa. Istraživač sa Stanforda, David Thiel, otkrio je stotine poznatih slika zlostavljanja djece ugrađenih u popularni AI skup podataka za treniranje Stable Diffusiona centeraipolicy.org. To znači da je model djelomično treniran na stvarnim kriminalnim slikama zlostavljanja, što je duboko problematično. Čak i ako se one sada uklanjaju, sama činjenica da su korištene ističe kako AI developeri možda nesvjesno treniraju modele na zlostavljačkom sadržaju. Još gore, bez pažljivih zaštitnih mjera, AI bi potencijalno mogao generirati nove slike koje nalikuju tim ilegalnim ulazima za treniranje. Neki korisnici na forumima pokušali su koristiti AI za “svlačenje” fotografija maloljetnika ili stvaranje nedopuštenih slika – trend koji policija pokušava spriječiti. Etički, postoji gotovo konsenzus: AI se nikada ne smije koristiti za stvaranje CSAM-a. Ipak, provedba toga je zahtjevna – zahtijeva da modeli budu trenirani da izričito odbiju svaki upit ili pokušaj stvaranja takvog sadržaja, ili zakone koji svaki takav pokušaj čine ozbiljnim kaznenim djelom (kao što je to učinio Tennessee). Tehnološke tvrtke sada često ugrađuju filtre tako da će čak i riječ “dijete” ili naznake maloljetnosti u upitu biti blokirane. No, zlonamjerni korisnici pokušavaju zaobići te mjere. Ulog je izuzetno visok, jer ako se AI zloupotrijebi na ovaj način, može ponovno viktimizirati žrtve zlostavljanja i pružiti novi materijal pedofilima pod lažnim opravdanjem da “nijedno stvarno dijete nije ozlijeđeno.” Mnogi etičari ovdje pobijaju argument “zločina bez žrtve” ističući da konzumacija bilo kakvog prikaza iskorištavanja djece, stvarnog ili AI, vjerojatno potpiruje stvarno zlostavljanje normalizirajući ga centeraipolicy.org reddit.com. Stoga, ovo je čvrsta etička granica oko koje se većina slaže: generiranje ili korištenje AI-a za seksualni sadržaj s djecom je kategorički pogrešno i mora se spriječiti svim sredstvima (tehničkim i pravnim).

Podaci za treniranje i prisilni sadržaj: Postoji manje očit, ali važan etički problem u načinu na koji se NSFW AI modeli razvijaju. Mnogi AI generatori pornografije trenirani su na velikim skupovima podataka prikupljenim s interneta – uključujući pornografske web stranice. To znači da su slike stvarnih ljudi (porno glumaca, webcam modela, pa čak i procurile privatne gole fotografije) završile kao podaci za treniranje bez pristanka tih pojedinaca. AI kompanije su to radile tiho, a tek kasnije su istraživači počeli otkrivati razmjere toga. Na primjer, otkriveno je da je jedan AI generator golih slika pod nazivom “These Nudes Do Not Exist” treniran na sadržaju s “Czech Casting”, porno kompanije koja je pod istragom zbog prisiljavanja žena na seks centeraipolicy.org. Dakle, AI je doslovno treniran na videozapisima žena koje su možda bile žrtve trgovine ljudima ili silovanja – učinkovito učeći regenerirati slike njihovih tijela ili drugih u sličnim pozama. Te žene sigurno nisu pristale na daljnju upotrebu svojih slika za stvaranje beskonačno nove pornografije. Kako je jedna žrtva te situacije rekla o svojoj slici u AI skupu za treniranje: “osjećam se nepravedno, osjećam kao da mi se oduzima sloboda” centeraipolicy.org. Čak i u manje ekstremnim slučajevima, modeli su možda “progutali” milijune svakodnevnih fotografija žena s društvenih mreža ili modnih snimanja – ni ti ljudi nisu pristali postati izvorni materijal za generiranje pornografije. Svaki AI porno model nosi duhove stvarnih ljudi u svojim podacima za treniranje. Mnogima od tih ljudi to možda ne bi smetalo – primjerice, odraslim izvođačima koji su dobrovoljno snimali pornografiju možda ne bi smetalo ili bi čak poticali tehnologiju koja proširuje njihov rad. No, drugi (poput privatnih osoba na procurjelim slikama ili porno glumaca koji su napustili industriju i žele nastaviti dalje) bili bi užasnuti da znaju da AI možda zauvijek prepravlja njihov lik u novi seksualni sadržaj. To otvara etička pitanja intelektualnog vlasništva i prava na lik. Trebaju li pojedinci biti kompenzirani ako su njihove slike pomogle u stvaranju profitabilnog AI porno alata? Neki tvrde da da – ti modeli “izravno profitiraju od muškaraca i žena koji su se pojavili u podacima za treniranje” bez ijedne zahvale centeraipolicy.org. Drugi tvrde da, ako su podaci bili javno dostupni, prema važećim zakonima o intelektualnom vlasništvu dopušteno ih je koristiti za treniranje AI-ja. Etički konsenzus naginje barem ne korištenju očito nevoljkog ili zlostavljačkog materijala u treniranju (npr. poznata “osvetnička pornografija” ili videozapisi trgovine ljudima trebali bi biti zabranjeni). Kompanije su počele provjeravati skupove podataka na takav sadržaj, ali povijesno to nisu činile, što je zabrinjavajuće. Kako je naveo Center for AI Policy, gotovo je “sigurno” da su AI porno modeli trenirani na nekoj nevoljnoj intimnoj slici (NCII) centeraipolicy.org. U budućnosti se traži stroža selekcija skupova podataka, pa čak i registar za “isključivanje” kako bi ljudi mogli ukloniti svoje slike iz AI skupova za treniranje <a href=”https://www.centeraipolicy.org/work/the-senate-passes-the-defiance-act#:~:text=These%20are%20contentious%20topics.%20%E2%80%9COpt,content%20to%20train%20centeraipolicy.org. Ovo je tehnički i logistički složeno, ali rasprava o podatkovnoj etici u generativnoj AI postaje sve glasnija.

Izmišljeni, ali ekstremni sadržaj: Još jedno osjetljivo područje – ako nije prikazana stvarna osoba, postoje li ikakva ograničenja za ono što AI pornografija smije stvarati? Neki se brinu da bi AI mogao omogućiti ultra-ekstreman ili rubni seksualni sadržaj koji bi bilo nemoguće dobiti u stvarnom svijetu, te da to može biti štetno. Na primjer, simulacije silovanja, bestijalnosti, “snuff” (ubojstva) pornografije ili, kao što je spomenuto, scenarija s djecom. Branitelji bi mogli reći: “Bolje da to radi AI nego da to netko učini u stvarnosti,” ali kritičari se boje da bi to moglo desenzibilizirati ljude ili potaknuti na djelovanje. U najmanju ruku, to otvara moralna pitanja o tome prelazi li dopuštanje AI-u da zadovolji takve fantazije društvenu granicu. Platforme poput Oh tvrde da blokiraju sve “ilegalne prakse” – njihovi botovi neće sudjelovati u pedofilskom sadržaju ili drugim kriminalnim seksualnim temama sifted.eu. Ovo je etička zaštita koju odgovorne tvrtke pokušavaju provesti. No, open-source modeli nemaju urođeni moral; korisnici ih mogu navesti da generiraju gotovo bilo što ako model nije izričito ograničen. To znači da teret pada na osobnu savjest (i lokalne zakone). Etički stav većine AI zajednica je postaviti stroge filtere protiv ilegalnog ili nasilnog seksualnog sadržaja. Ipak, kako je jedan OnlyFans kreator sumorno predvidio, vjerojatno je samo pitanje vremena kada će netko koristiti AI za generiranje stvari poput “AI zlostavljanja djece označenog kao age-play, ili AI scenarija silovanja,” te da “o tome treba više razgovarati” reddit.com. Etičko pitanje ostaje neriješeno: je li postojanje hiper-realistične imaginirane prikaza zločina samo po sebi štetno? Mnogi smatraju da jest, osobito ako uključuje maloljetnike (gdje je to jasno kazneno djelo). Za druge ekstremne fantazije, društvo još nije postiglo konsenzus, ali to je područje aktivne rasprave u digitalnoj etici.

Spol i reprezentacija: NSFW AI također nasljeđuje pristranosti i stereotipe iz svojih izvornih podataka. Mnogo mainstream pornografije kritizirano je zbog seksističkih ili nerealnih prikaza žena, a AI može pojačati te trope. Ako su modeli trenirani pretežno na, recimo, pornografiji koja objektivizira žene ili na uskom rasponu tipova tijela, rezultati će to odražavati. To bi moglo dodatno učvrstiti nerealne standarde ljepote ili seksualne skripte. Štoviše, većina AI erotskih pratitelja i botova za slike su po defaultu ženski, prilagođeni pretpostavljenim heteroseksualnim muškim korisnicima. Na primjer, popis AI botova na platformi Oh je “većinom žene” kao oskudno odjeveni avatari sifted.eu. Kritičari se boje da to dodatno učvršćuje gledanje na žene kao digitalne igračke i može utjecati na to kako (uglavnom muški) korisnici doživljavaju stvarne odnose. Neki osnivači AI pratitelja sami priznaju da bi budućnost intimnosti mogla postati “čudna” ili “distopijska” ako se ljudi odvoje od stvarnih partnera u korist AI fantazije sifted.eu. Tvrdilo se da bi ove AI djevojke mogle učvrstiti štetne stereotipe o ženama koje su uvijek dostupne, susretljive i prilagođene svakoj želji sifted.eu. Psiholozi i feministkinje izražavaju zabrinutost da bi takve tehnologije mogle pogoršati probleme poput usamljenosti, mizoginije ili iskrivljenih očekivanja o seksu. S druge strane, zagovornici tvrde da ti alati mogu pružiti siguran izlaz onima koji se bore s ljudskim odnosima ili pomoći ljudima da istraže seksualnost bez stigme. Etički, to je dvosjekli mač: Može li AI djevojka nekome pomoći da postane bolji komunikator ili pružiti utjehu? Moguće. Može li također omogućiti nekome da se povuče iz stvarnih ljudskih odnosa i žene tretira kao puko prilagodljive objekte? Moguće. Društvo će se morati sve više suočavati s tim pitanjima kako takve usluge budu rasle.

Ukratko, etika NSFW AI vrti se oko pristanka, štete i društvenih poruka koje šaljemo o seksualnosti i osobnosti. Zlatno pravilo etičke pornografije – da je svaka prikazana osoba odrasli sudionik koji pristaje – potpuno je preokrenuto AI pornografijom, gdje često nitko prikazan zapravo nije “sudjelovao” i stoga nikada nije mogao pristati. Prisiljeni smo proširiti pojam pristanka na nečiji lik, pa čak i na nečije podatke. Kako je jedan komentar rekao, ova tehnologija nas prisiljava da preispitamo “same temelje intimnosti, pristanka i kreativne slobode” u digitalnom dobu chicagoreader.com. Etički krajolik pun je sivih zona, ali raste konsenzus da se određene crvene linije (dječji sadržaj, nekonzensualna upotreba stvarnih identiteta) moraju strogo provoditi, te da poštovanje autonomije pojedinaca treba voditi što se smatra prihvatljivim. U međuvremenu, moramo biti oprezni da ne patologiziramo sav seksualni sadržaj stvoren AI-jem – za odrasle koji pristaju i koriste ga za sebe, to može biti pozitivan alat. Izazov je omogućiti inovativne, konsenzualne upotrebe da napreduju, dok se istovremeno iskorjenjuju one eksploatatorske.

Pristalice vs. kritičari: Rasprava o NSFW AI

Reakcije na NSFW AI su polarizirane. Neki to slave kao uzbudljivu evoluciju u industriji za odrasle i osobnoj slobodi; drugi to osuđuju kao društvenu prijetnju. Pogledajmo ključne argumente s obje strane:

Argumenti pristaša (za NSFW AI):

• Kreativna sloboda i seksualno istraživanje: Pristalice tvrde da AI može biti pozitivan izlaz za istraživanje seksualnosti, fantazija i fetiša na privatan način, bez osude. Korisnici koji bi se mogli osjećati posramljeno ili nesposobno ostvariti određene fantazije u stvarnom životu, to mogu sigurno učiniti uz AI-generirani sadržaj ili chatbotove. To bi potencijalno moglo smanjiti tabu i sram oko seksualnosti. Neki to čak nazivaju osnažujućim: “odrasli koji pristaju mogu zajedno stvarati svoje vizualne fantazije u sigurnom, privatnom okruženju” uz pomoć AI, kaže direktor jedne AI platforme za odrasle globenewswire.com. U ovom pogledu, generativni AI je samo alat – slično erotskoj umjetnosti ili seksualnim igračkama – koji može unaprijediti zdrav seksualni izraz.
• Personalizacija i inovacija u industriji za odrasle: Pristalice ističu kako NSFW AI omogućuje neusporedivu personalizaciju u odnosu na tradicionalnu pornografiju globenewswire.com. Umjesto pasivnog konzumiranja onoga što studiji proizvode, pojedinci mogu generirati sadržaj točno prema vlastitim željama (tipovi tijela, scenariji itd.). Ovaj model vođen korisnicima smatra se inovacijom koja “remeti” univerzalni pristup sadržaju za odrasle globenewswire.com. Može zadovoljiti nišne interese koje mainstream producenti ignoriraju (dokle god su legalni). Startupi u ovom području često ističu AI kao kvantni skok u načinu isporuke sadržaja za odrasle – stavljajući kontrolu u ruke korisnika globenewswire.com. Također tvrde da poštuje privatnost: korisnici ne moraju komunicirati s drugom osobom niti otkrivati svoje fantazije ikome osim AI-u.
• Sigurna zamjena za štetne želje: Jedan od kontroverznijih argumenata u prilog je da bi AI pornografija mogla poslužiti kao bezopasna zamjena za inače štetno ponašanje. Na primjer, neki su teoretizirali da bi pedofili korištenjem CGI ili AI-generirane dječje pornografije mogli zadovoljiti svoje porive bez nanošenja štete stvarnoj djeci (ovaj argument je vrlo osporavan i većina stručnjaka ga odbacuje, ali se povremeno iznosi). Drugi sugeriraju da bi oni s nasilnim seksualnim fantazijama mogli koristiti AI simulacije umjesto da traže stvarne žrtve. U suštini, ovo je stav “bolje da to izbace na piksele nego na ljude”. Međutim, to ostaje spekulativno i etički problematično – nema jasnih dokaza da AI smanjuje stvarni kriminal; možda ga čak i potiče (kako kritičari uzvraćaju). Ipak, neki zagovornici slobode govora tvrde da čak i odvratne fantazije u AI obliku predstavljaju misaone eksperimente koji ne bi trebali biti kriminalizirani sve dok nijedna stvarna osoba nije izravno oštećena. Ovo gledište nije mainstream, ali postoji u raspravama o ekstremnom sadržaju reddit.com.
• Podrška nišnim zajednicama i identitetima: AI može generirati sadržaj za zajednice koje su povijesno imale malo zastupljenosti u mainstream pornografiji – na primjer, određene LGBTQ fantazije, BDSM scenarije s posebnim parametrima pristanka ili erotsku umjetnost s fantastičnim elementima. Neki pripadnici furry ili hentai subkultura, primjerice, koriste AI umjetnost za stvaranje sadržaja koji bi bio nemoguć s pravim glumcima. Ovo se smatra širenjem opsega erotske umjetnosti. Dodatno, AI može omogućiti osobama s invaliditetom ili drugim ograničenjima da dožive virtualnu intimnost na načine koji im inače nisu dostupni. Oni koji imaju poteškoća s društvenom interakcijom mogli bi pronaći društvo u AI partneru koji ih ne osuđuje. Pristalice, poput osnivača startupa “AI OnlyFans”, tvrde da bi ti AI partneri mogli biti “neto pozitivni” za društvo, posebno za ljude koji nemaju druge oblike društva sifted.eu. Po njegovom mišljenju, ako je netko usamljen ili konzumira eksploatacijske oblike pornografije, AI partner je kontrolirana, možda zdravija alternativa sifted.eu.
• Pristanak stvorenih naspram stvarnih modela: Još jedan argument u korist NSFW AI-ja je da bi korištenje AI-generiranih glumaca (koji zapravo ne postoje) u pornografiji moglo eliminirati mnoge probleme industrije za odrasle. Nema rizika od iskorištavanja stvarnog izvođača ako je porno glumica generirana umjetnom inteligencijom. Nečije tijelo zapravo nije izloženo riziku od spolno prenosivih bolesti ili zlostavljanja na AI setu. U teoriji, to bi moglo na kraju zamijeniti dio stvarne pornografske produkcije, čime bi se smanjila šteta za ljudske izvođače u rizičnim situacijama. (Naravno, protuargument je da ti izvođači često sami biraju biti tamo i mogli bi izgubiti prihod ako ih zamijeni AI, pa je stvar složena.) No, futuristi zamišljaju svijet u kojem savršeno realistična AI pornografija može zadovoljiti potražnju bez da ijedna stvarna osoba mora sudjelovati u potencijalno degradirajućem radu – zapravo etičniji lanac opskrbe pornografijom. Neki autori za odrasle čak dobrovoljno stvaraju svoje “digitalne blizance” (licenciranjem svojih slika/glasa) kako bi AI mogao obavljati dio posla umjesto njih – uz pristanak i podjelu dobiti sifted.eu. Ovaj model, ako se proširi, mogao bi omogućiti ljudskim autorima da zarađuju dok dio stvaranja sadržaja prepuštaju AI-ju pod svojom kontrolom, što bi moglo biti dobitak za obje strane.
• Sloboda govora i umjetnička vrijednost: Iz perspektive građanskih sloboda, neki brane čak i NSFW AI kao oblik izražavanja. Erotska umjetnost i pornografija dugo se smatraju zaštićenim govorom (osim opscenosti) u mnogim zemljama. AI samo proširuje medij izražavanja. Ako umjetnik može nacrtati akt ili snimiti dogovorenu porno scenu, zašto ne bi mogao potaknuti AI da stvori umjetnički akt? Oni tvrde da bi potpuno zabranjivanje AI seksualnog sadržaja bilo pretjerano i moglo bi cenzurirati seks-pozitivnu umjetnost ili legitimne kreativne pothvate. Pod uvjetom da su svi uključeni dali pristanak (što je nezgodno kad je AI u pitanju, ali recimo da je proces dobrovoljan), tvrde da odrasli trebaju imati slobodu stvaranja i konzumiranja seksualnog sadržaja po vlastitom izboru, uz pomoć AI-ja ili bez nje. Grupe poput Electronic Frontier Foundation upozorile su na široke zabrane deepfake tehnologije, ističući da tehnologija ima korisne primjene i da je bolje ciljati loše aktere nego zabranjivati samu tehnologiju klobuchar.senate.gov. Ova libertarijanska crta u raspravi kaže: kaznite stvarnu štetu (poput nekonsenzualne upotrebe), ali ne kriminalizirajte alat ili dobrovoljnu fantaziju.

Argumenti kritičara (protiv NSFW AI-ja):

• Kršenja pristanka i zloupotreba slika: Kritičari naglašavaju da je NSFW AI već omogućio masovnu zloupotrebu pristanka i lika pojedinaca. Epidemija deepfakeova bez pristanka govori sama za sebe – životi su uništeni, privatnost narušena. Oni tvrde da ovo nije marginalna pojava, već glavni način korištenja deepfake tehnologije do sada: 96% deepfakeova bilo je pornografsko i gotovo svi su nastali bez pristanka theguardian.com. Ova tehnologija, kažu, po svojoj prirodi pogoduje takvoj zloupotrebi, čineći je opasnim oružjem. Čak i kada ljudi nisu izravno meta, zabrinjavajući je nedostatak mogućnosti da pristanu na uključivanje u podatke za treniranje ili u nečiju fantaziju. Osobi može biti seksualna autonomija potpuno narušena kada drugi generiraju eksplicitne slike nje iz ničega. Kritičari tvrde da je to u osnovi neetično i da bi trebalo biti osuđeno kao i voajerizam ili drugi seksualni zločini. Postojanje “stotina AI aplikacija za svlačenje” koje su lako dostupne klobuchar.senate.gov znači da fotografija bilo koje žene može biti pornografizirana u nekoliko sekundi, što mnogi nazivaju neodrživom i zastrašujućom situacijom.
• Emocionalna i psihološka šteta: Biti žrtva AI pornografskog lažnjaka može uzrokovati akutnu mentalnu patnju – poniženje, anksioznost, PTSP, pa čak i suicidalne misli. Tragičan primjer: 17-godišnji dječak u SAD-u počinio je samoubojstvo 2022. nakon što ga je iznuđivač ucjenjivao lažnim golim fotografijama klobuchar.senate.gov. Psihološki teret za žene koje otkriju deepfakeove sebe je ogroman; opisuje se kao virtualni oblik seksualnog napada. Stoga kritičari vide NSFW AI kao alat koji olakšava uznemiravanje i zlostavljanje u potencijalno velikim razmjerima – “izvanredno stanje” za ranjive osobe (posebno žene, maloljetnike, LGBTQ osobe koje bi mogle biti meta seksualnih lažnjaka iz mržnje itd.) theguardian.com. Oni tvrde da nikakve navodne koristi ove tehnologije ne nadmašuju stvarne štete koje se već sada događaju.
• Normalizacija iskorištavajućeg sadržaja: Protivnici se brinu da bi poplava AI pornografije, posebno ekstremnih ili ne-konsenzualnih scenarija, mogla normalizirati takve slike i narušiti društvene sankcije oko stvari poput privatnosti i pristanka. Ako lažne gole fotografije slavnih osoba ili kolega iz razreda postanu “uobičajen internetski materijal”, ljudi bi mogli postati desenzibilizirani na kršenje tuđe privatnosti. To bi također moglo poticati mizogine stavove (gledanje na žene kao lako dostupne seksualne objekte čije se slike mogu koristiti po volji). Etički, to je slično osvetničkoj pornografiji ili snimanju ispod suknje – dopuštanje širenja šalje poruku da ženska tijela nisu njihova vlastita. Dodatno, kritičari strahuju da bi AI mogao eskalirati devijantne ukuse – npr., netko tko konzumira AI simuliranu pornografiju silovanja mogao bi postati skloniji nasilju, ili pedofil s AI-generiranom dječjom pornografijom mogao bi ipak prijeći na zlostavljanje stvarne djece. Iako su dokazi predmet rasprave, mnogi psiholozi pozivaju na oprez, s obzirom na to kako mediji mogu pojačati ponašanje.
• Utjecaj na odnose i društvo: Neki sociolozi i feministkinje izražavaju zabrinutost da bi AI seksualni suputnici i hiper-personalizirana pornografija mogli potkopati stvarne ljudske odnose. Ako se mnogi ljudi okrenu AI “djevojkama” koje su savršeno poslušne, što se događa s njihovom sposobnošću za stvaranje odnosa s pravim partnerima koji imaju vlastite potrebe i granice? Postoji zabrinutost zbog povećanja društvene izolacije i iskrivljenih očekivanja o seksu i romantici. Sam osnivač jedne AI aplikacije za suputništvo nazvao je to potencijalno “vrlo distopijskim” i da bi to moglo stvoriti “čudnu budućnost intimnosti” gdje se ljudi međusobno isključuju sifted.eu. Stereotipi koji se pojačavaju – često su AI djevojke podređene ženske persone – mogli bi učvrstiti seksističke stavove među korisnicima. Stoga, kritičari tvrde da bi NSFW AI mogao pogoršati probleme poput usamljenosti, mizoginije i komodifikacije intimnosti.
• Prijetnja za umjetnike, izvođače i radnike: Oni u kreativnim industrijama i industriji za odrasle vide NSFW AI kao prijetnju svojoj egzistenciji i pravima. Vizualni umjetnici (npr. ilustratori erotike ili modeli) primjećuju da AI preuzima njihov rad bez dopuštenja, a zatim generira nove slike u njihovom stilu ili njihovih osoba. To doživljavaju kao krađu intelektualnog vlasništva i potkopavanje tržišta za naručenu umjetnost. Fotografi se brinu da će AI generatori slika zamijeniti angažiranje modela za snimanja. Porno glumci i seksualni radnici zabrinuti su da će AI “klonovi” ili potpuno izmišljeni AI modeli preuzeti potrošače – ili preplaviti tržište sadržajem koji obezvrjeđuje njihov rad. Nekoliko OnlyFans kreatora prijavilo je pad prihoda i pritužbe obožavatelja, vjerojatno zbog konkurencije AI-generiranog sadržaja koji je jeftiniji i uvijek dostupan reddit.com. Tvrde da je to nelojalna konkurencija jer je AI zapravo prisvojio njihove slike i privlačnost bez truda ili ljudskog dodira, te da će to sniziti cijene na neodrživu razinu za stvarne radnike. Seksualni radnici također strahuju da bi mogli biti pod pritiskom da koriste AI za stvaranje više sadržaja ili da budu dostupni 24/7, dodatno komodificirajući njihov rad reddit.com. Sindikati i zagovaračke skupine brinu o svijetu u kojem bi tvrtke mogle preferirati AI porno zvijezdu (bez prava, zahtjeva ili plaće) umjesto ljudske – scenarij koji bi mogao uništiti radna mjesta i iskoristiti sličnosti izvođača koji su izvorno trenirali te modele. Ukratko, kritičari vide NSFW AI kao potkopavanje ljudske kreativnosti i rada korištenjem ljudskih podataka za proizvodnju beskonačne količine besplatnog (ili jeftinog) sadržaja.
• Klizavi teren morala i zakona: S gledišta politike, kritičari tvrde da bi nepostavljanje čvrstih ograničenja za NSFW AI sada moglo dovesti do nekontrolirane budućnosti. Ako prihvatimo AI pornografiju kao “samo fantaziju”, što se događa kada se ona preklopi sa stvarnim pitanjima poput pristanka? Na primjer, ako netko napravi AI pornografiju svoje bivše osobe i tvrdi da je to samo fantazija, opravdava li to čin? Većina bi rekla ne – bivša osoba je očito povrijeđena. Stoga se kritičari priklanjaju načelu predostrožnosti: povući granice rano. Neki su čak zagovarali da se alati za izradu deepfakeova tretiraju kao alati za obijanje brava ili hakiranje – nisu nužno ilegalni, ali su strogo kontrolirani, a alati očito namijenjeni zloupotrebi (poput “nudify” aplikacija koje služe isključivo za neovlašteno skidanje odjeće sa slika) trebali bi biti potpuno zabranjeni. Eticisti koji zagovaraju snažnu regulaciju tvrde da potencijal za zloupotrebu daleko nadmašuje rijetke pozitivne primjere. Često se pozivaju na glasove žrtava: kako je jedan tehnološki etičar rekao, “Djevojka tinejdžerica koja se vidi u AI-generiranoj pornografiji – to jedno iskustvo, taj jedan uništen život, opravdava strogu kontrolu ove tehnologije.” Sloboda izražavanja je važna, kažu, ali ne može biti na štetu tuđe autonomije i sigurnosti.

Vrijedno je napomenuti da nisu svi na jednom ili drugom ekstremu – mnogi prepoznaju i obećanja i opasnosti NSFW AI-ja. Na primjer, korisnik može cijeniti mogućnost generiranja prilagođene erotike s izmišljenim likovima (bezopasna upotreba), dok istovremeno potpuno osuđuje korištenje za lažiranje stvarne osobe. Rasprava se stoga često usredotočuje na gdje povući granicu. Čini se da se u javnom diskursu pojavljuje konsenzus: AI sadržaj za odrasle prihvatljiv je samo uz pristanak i transparentnost, a strogo je zabranjen kada uključuje stvarne osobe bez dopuštenja ili bilo kakve maloljetnike. Čak se i mnogi tehnolozi koji podržavaju AI sadržaj za odrasle slažu da su deepfakeovi bez pristanka neopravdani i trebali bi biti kriminalizirani cbsnews.com. S druge strane, čak i neki kritičari priznaju da bi odrasle osobe koje pristaju trebale moći koristiti ove alate za sebe (na primjer, par koji izrađuje AI umjetnost svoje zajedničke fantazije ili seksualna radnica koja koristi AI za proširenje svog posla – to bi trebala biti odluka te osobe).

Podjela između pristaša i kritičara ponekad se poklapa s linijama tehnološkog optimizma naspram društvenog skepticizma. Tehnološki entuzijasti vide NSFW AI kao uzbudljivu granicu (s nekim problemima za upravljanje), dok društveni zagovornici to vide kao novi oblik digitalnog zlostavljanja koji treba ograničiti. Oba su pogleda valjana – a izazov u budućnosti bit će maksimizirati koristi (kreativna sloboda, privatno uživanje, inovacije u industriji) uz minimaliziranje šteta (iskorištavanje bez pristanka, dezinformacije, gubitak radnih mjesta). Svako rješenje zahtijevat će doprinos tehnologa, zakonodavaca, etičara, industrije za odrasle i žrtava zloupotrebe slika. Od 2025. ta je rasprava zaista započela.

(Za sažetak, evo brze usporedbe dviju strana:)

• Pristaše kažu da NSFW AI osnažuje kreativnost odraslih, nudi sigurno ispunjenje fantazija i može čak pomoći kreatorima uz pristanak da unovče svoj rad ili usamljenim osobama da pronađu društvo – u suštini tehnološka evolucija pornografije koja, ako se koristi etički, nikome ne šteti i povećava osobnu slobodu globenewswire.com sifted.eu.
• Kritičari kažu da to potiče val seksualnog zlostavljanja putem slika, narušava pristanak i privatnost, potencijalno iskrivljuje korisnikove poglede na seks i odnose te iskorištava slike i rad stvarnih ljudi radi profita bez njihovog pristanka theguardian.com reddit.com. Po njihovom mišljenju, troškovi NSFW AI-ja za društvo (posebno za žene i ranjive skupine) daleko nadmašuju privatne koristi koje neki korisnici dobivaju, što opravdava snažna ograničenja i nadzor.

Protunapad: AI moderacija sadržaja i zaštitne mjere za NSFW materijal

S obzirom na rizike NSFW AI-ja, postoji paralelna utrka za razvoj tehnoloških i političkih zaštitnih mjera za njegovo upravljanje. Ova borba odvija se na više frontova: izrada boljih alata za detekciju AI-generiranog sadržaja, implementacija filtera za moderaciju sadržaja i poticanje normi ili vodenih žigova za razlikovanje stvarnog od lažnog. Evo kako AI i platforme pokušavaju obuzdati mračnu stranu NSFW AI-ja:

• Automatski NSFW filteri: Mnogi AI generatori slika uključuju klasifikatore pornografije koji pokušavaju blokirati ili filtrirati eksplicitni sadržaj. Na primjer, službena verzija Stable Diffusion dolazi s “Safety Checkerom” koji označava i zamagljuje gole ili seksualne slike arxiv.org. OpenAI-ev DALL·E jednostavno odbija svaki upit koji i nagovještava seksualni sadržaj. Midjourney ima opsežan popis zabranjenih riječi i koristi AI za tumačenje konteksta upita – neće generirati slike ako posumnja da je zahtjev pornografski ili eksploatatorski arxiv.org. Ovi filteri nisu savršeni (korisnici stalno pronalaze načine da ih zaobiđu, primjerice korištenjem eufemizama ili pogrešnog pisanja zabranjenih pojmova arxiv.org). Ipak, oni sprječavaju slučajno ili nenamjerno generiranje NSFW slika od strane općih korisnika. Djeluju kao prva linija obrane, osobito na mainstream platformama koje ne žele imati eksplicitni sadržaj. Neki open-source forkovi uklanjaju ove filtere, ali tada odgovornost prelazi na korisnika (i svaku platformu na kojoj se sadržaj objavljuje).
• Alati za otkrivanje deepfakeova: Na istraživačkoj strani, značajni napori ulažu se u algoritme za otkrivanje deepfakeova. Tvrtke poput Microsofta i startupi poput Sensityja razvili su AI koji analizira videozapise/slike tražeći znakove manipulacije (poput neusklađenog osvjetljenja, artefakata na licu ili digitalnih vodenih žigova). U jednoj evaluaciji, Hive Moderation model (AI sustav za moderaciju koji koriste neke društvene mreže) imao je najveću točnost u otkrivanju AI-generiranih likova u odnosu na stvarne emerginginvestigators.org. Ovi detektori koriste se na platformama za skeniranje prijenosa (npr. Facebook može skenirati sliku na golotinju, ali i na to je li poznata lažna slika nečije osobe). Razvoj detektora je igra mačke i miša: kako se generativni modeli poboljšavaju, detektori također moraju napredovati. EU potiče tvrtke na implementaciju takvih sustava – pravila transparentnosti AI Akta i direktiva o nasilju nad ženama zapravo nalažu da platforme moraju biti u mogućnosti identificirati AI pornografiju i ukloniti je euronews.com euronews.com. Neke metode detekcije oslanjaju se na metapodatke ili poznate uzorke iz specifičnih generatora (npr. određeni AI alati ostavljaju nevidljive vodene žigove u uzorcima piksela). Industrija također razmatra proaktivniji pristup: vodeni žigovi na AI sadržaju u trenutku stvaranja. Google, primjerice, radi na metodama označavanja AI-generiranih slika tako da se svaka kopija može prepoznati kao AI-izrada čak i nakon uređivanja. OpenAI je predložio kriptografske vodene žigove za tekst iz jezičnih modela. Ako bi se to široko usvojilo, moglo bi pomoći automatskim filtrima da označe AI pornografiju prije nego što se proširi. Međutim, open-source modeli vjerojatno neće dobrovoljno označavati izlazne podatke, a protivnici mogu pokušati ukloniti vodene žigove.
• Hashiranje sadržaja i baze podataka: Kako bi se suzbili osvetnička pornografija i deepfakeovi, tehnološke tvrtke i nevladine organizacije stvorile su baze podataka poznatih zlostavljačkih slika (koristeći kriptografske hash vrijednosti poput PhotoDNA za stvarne slike zlostavljanja djece, na primjer). Sličan pristup razmatra se i za deepfakeove: ako žrtva prijavi lažnu sliku, njezin hash mogao bi se dodati u bazu za uklanjanje kako bi se odmah prepoznala i uklonila ako se ponovno učita negdje drugdje. Nadolazeći sustav u Ujedinjenom Kraljevstvu prema Zakonu o online sigurnosti mogao bi uključivati takvu proaktivnu detekciju – zahtijevajući od platformi da “spriječe [zabranjeni sadržaj] da se uopće pojavi” euronews.com. U praksi to znači skeniranje poznatih ilegalnih slika ili videa prilikom prijenosa. Izazov s AI lažnjacima je što počinitelji mogu generirati beskonačne varijante, pa hashiranje jedne neće uhvatiti sljedeću. Tu je potrebna AI detekcija sličnosti, koja može označiti sadržaj koji jako podsjeća na poznate lažnjake ili odgovara osobi koja je registrirala da ne želi eksplicitne slike na internetu.
• Moderacija na porno stranicama: Zanimljivo, mainstream adult stranice poput Pornhuba morale su unaprijediti svoju moderaciju zbog deepfakeova. Pornhub je još 2018. zabranio upload bilo kakvog AI-generiranog sadržaja koji prikazuje stvarne osobe bez pristanka. Oslanjaju se na prijave korisnika i pregled moderatora kako bi ih otkrili, ali uz milijune uploadova, to je teško. EU-ov Zakon o digitalnim uslugama donosi strožu odgovornost: 2024. Pornhub (i slične stranice Xvideos, Xnxx) označeni su kao velike platforme koje moraju proaktivno sprječavati ilegalan i štetan sadržaj ili se suočiti s kaznama subscriber.politicopro.com. To vjerojatno znači ulaganje u automatizirano filtriranje. Porno stranice bi mogle početi koristiti detektore deepfakeova na svakom novom videu. Također sada imaju provjeru identiteta za uploadere; iako nije nepogrešiva (lažnjaci se mogu verificirati kao oni sami i uploadati lažnjak nekog drugog), to dodaje mogućnost praćenja.
• Pravila društvenih mreža: Društvene mreže poput Twittera (X) i Reddita ažurirale su pravila kako bi izričito zabranile dijeljenje “intimnih slika proizvedenih ili izmijenjenih AI-jem” bez pristanka osobe. Reddit je zabranio deepfakeove još 2018. nakon prvog vala. Facebookova pravila zajednice zabranjuju sintetičke medije koji bi mogli obmanuti na štetan način (što uključuje lažnu pornografiju nekoga). Provedba je i dalje nedosljedna – kao što je spomenuto, deepfake sadržaj je i dalje postao viralan na X-u 2024. cbsnews.com, a Meta je morala biti posramljena da ukloni AI oglase s golotinjom cbsnews.com. Ipak, novi zakoni (Take It Down Act, EU pravila) sada im nameću pravne obveze. Možemo očekivati brže vrijeme reakcije – npr., prema američkom zakonu, platforme imaju 48 sati za uklanjanje prijavljenog NCII ili se suočavaju s kaznama klobuchar.senate.gov klobuchar.senate.gov. To vjerojatno znači da će tvrtke radije ukloniti sadržaj kad su u dvojbi. Također bi mogli integrirati mehanizme za prijavu “ovo je AI lažnjak mene” kako bi korisnici mogli brzo prijaviti zloupotrebu.
• Provjera dobi i kontrole pristupa: Još jedan aspekt moderiranja je sprječavanje maloljetnika u pristupu AI pornografiji. Tradicionalne pornografske stranice imaju provjere dobi (koje se nesavršeno provode), a neke jurisdikcije (poput Francuske, Utaha, Teksasa) donijele su zakone koji zahtijevaju strogu provjeru dobi za stranice za odrasle versustexas.com. AI alati to kompliciraju – generativni modeli mogu se koristiti privatno bez ikakve kontrole. No, neke AI platforme su počele zahtijevati provjeru identiteta za pristup NSFW načinima rada, kako bi osigurale da su korisnici punoljetni. Na primjer, platforma Infatuated.ai naglasila je robustne protokole za provjeru dobi i blokiranje svih upita koji uključuju maloljetnike globenewswire.com. Replika (aplikacija AI chatbota) imala je zloglasan slučaj kada je dopuštala erotsku igru uloga i mnogi maloljetnici su je koristili; nakon reakcije javnosti, ograničili su erotski sadržaj na korisnike 18+ provjerom dobi putem plaćanja ili osobne iskaznice. Dakle, barem na komercijalnim servisima, postoji nastojanje da se odvoji AI sadržaj za odrasle od djece. Ovo je važno jer su i djeca sama koristila deepfake alate za zlostavljanje vršnjaka (kao što smo vidjeli u školama) cbsnews.com. Edukacija mladih o etičkim i pravnim posljedicama također je dio moderiranja – neke škole su počele uključivati svijest o deepfakeovima u kurikulum digitalnog građanstva nea.org.
• Suradnja i najbolje prakse: Borba protiv zloupotrebe AI-a dovela je do suradnje između tehnoloških tvrtki, policije i nevladinih organizacija. Inicijative poput medijske integritetske grupe Partnership on AI ili Koalicije za podrijetlo i autentičnost sadržaja (C2PA) imaju za cilj postavljanje standarda za autentifikaciju sadržaja. Tvrtke mogu uključiti metapodatke o tome kako je slika/video nastao (kamera ili AI softver). U međuvremenu, policija se obučava o deepfakeovima kako bi ozbiljno shvatila prijave žrtava i znala kako prikupiti dokaze. Europol je 2023. označio deepfake pornografiju kao novu prijetnju i pozvao države članice da izdvoje resurse za borbu protiv nje theguardian.com.
• Ograničenja AI modela: Direktnija linija obrane je ograničavanje distribucije modela sposobnih za stvaranje štetnog sadržaja. Neki repozitoriji AI modela imaju uvjete: na primjer, Stability AI je odlučio službeno ne uključiti očito pornografske slike u svoj skup podataka za treniranje Stable Diffusion 2.0, dijelom kako bi izbjegli da model bude previše dobar u generiranju pornografije (korisnici su se žalili da je novi model zbog toga “pristojan”). Hugging Face (AI model hub) ponekad odbija hostati modele koji su očito napravljeni za pornografiju ili uključuje veliko odricanje od odgovornosti kojim korisnici moraju pristati da ga neće zloupotrebljavati. Zabilježen je i značajan slučaj: krajem 2022. crowdfunding stranica Kickstarter zabranila je kampanju za “Unstable Diffusion”, što je bio pokušaj prikupljanja novca za izradu AI modela optimiziranog za pornografiju. Kickstarter se pozvao na politiku protiv pornografskih AI projekata i ugasio je kampanju arnoldit.com. Ovaj incident je istaknuo da čak i financiranje i podrška za NSFW AI mogu naići na prepreke. Trgovine aplikacija poput Appleove također su neprijateljski nastrojene prema nefiltriranim AI aplikacijama – Apple je uklonio neke AI aplikacije za generiranje slika koje su mogle proizvoditi NSFW sadržaj, tjerajući developere da dodaju filtere. Tako pristup najnaprednijim AI modelima može biti ograničen korporativnom politikom do određene mjere. Međutim, istinski open-source modeli ne mogu se lako zaustaviti – jednom kad su objavljeni, šire se putem torrenta i foruma. Dakle, ovo je ograničena mjera.

Moderiranje sadržaja u doba AI pornografije je nedvojbeno izazovno. Količina potencijalno prekršajnog sadržaja je golema i raste. No, tehnologija odgovara na tehnologiju: sama AI se koristi za borbu protiv AI-ja. Na primjer, Meta navodno koristi klasifikatore strojnog učenja za prepoznavanje poznatih lica na golim slikama kako bi uhvatila deepfakeove slavnih osoba, te za otkrivanje artefakata tipičnih za deepfakeove. Startupi poput Reality Defender nude usluge tvrtkama za skeniranje i uklanjanje deepfake sadržaja u stvarnom vremenu realitydefender.com. A pravna snaga koju sada daju novi zakoni znači da platforme koje ne ulažu u ove mjere riskiraju ozbiljne kazne ili tužbe.

Jedan obećavajući smjer je ideja autentificiranih medija: ako, recimo, svi legitimni proizvođači pornografije kriptografski potpisuju svoje videozapise kao stvarne, tada se sve bez potpisa, a tvrdi da je “seks snimka te-i-te osobe”, može označiti kao sumnjivo. Ovo je komplicirano za univerzalnu provedbu, ali koncept porijekla se istražuje (ne samo za pornografiju, već za sve medije, kako bi se suzbile dezinformacije).

U konačnici, moderiranje nikada neće biti nepogrešivo – mnogo toga će i dalje proći na divljem webu. Šifrirane ili decentralizirane platforme će skrivati najgori sadržaj. No barem u mainstream i legalnim arenama, postoji zajednički napor da se ublaži šteta od NSFW AI. Nada je stvoriti okruženje u kojem legitimne upotrebe (suglasni sadržaj za odrasle, fantastična umjetnost itd.) mogu postojati, ali se zlonamjerne upotrebe brzo identificiraju i uklanjaju. To je težak zadatak – žrtve ga opisuju kao igru “whack-a-mole” klobuchar.senate.gov – ali skup zakona, AI detektora, pravila platformi i edukacije korisnika zajedno čini višeslojnu obranu.

Posljedice i budućnost: Utjecaj na kreatore i industriju za odrasle

Kako NSFW AI remeti status quo, već sada utječe na stvarne ljude u ekosustavu zabave za odrasle – od porno zvijezda i seksualnih radnika do erotskih umjetnika i studija za sadržaj. Neki u novoj tehnologiji vide priliku, dok se drugi boje da će postati suvišni ili nevoljko uvučeni u to.

Izvođači za odrasle i seksualni radnici: Možda je najizravniji učinak na one koji zarađuju za život stvaranjem sadržaja za odrasle. S jedne strane, neki snalažljivi kreatori prihvaćaju AI kako bi nadopunili svoj rad. Na primjer, modeli za odrasle mogu koristiti AI generatore fotografija za izradu poboljšanih ili stiliziranih slika sebe za prodaju (štedeći na skupim fotosessionima) – sve dok slike i dalje nalikuju njima i zadovoljavaju pravila platforme reddit.com. Nekoliko influencera dospjelo je u vijesti stvaranjem “AI verzija” sebe: npr., 2023. influencerica Caryn Marjorie lansirala je AI chatbot svoje osobnosti s kojim su obožavatelji mogli intimno razgovarati uz plaćanje. Slično tome, startup Oh-ov koncept “digitalnih blizanaca” znači da bi porno zvijezda mogla licencirati svoj lik za izradu AI avatara koji razgovara ili nastupa za obožavatelje, stvarajući novi izvor prihoda uz minimalan dodatni rad sifted.eu. Ovi potezi pokazuju da neki u industriji vide AI kao alat za vlastito skaliranje – teoretski mogu zabaviti više obožavatelja putem AI nego što bi to fizički mogli jedan-na-jedan.

S druge strane, mnogi izvođači su zabrinuti. Ako obožavatelji mogu dobiti svoj fantazijski sadržaj po narudžbi od strane AI-a, hoće li prestati plaćati stvarnim osobama? Postoje izvještaji o AI-generiranim OnlyFans profilima koji koriste potpuno izmišljene (ali realistične) žene, ponekad označene s #AI nakon što se pojavi sumnja, prodajući sadržaj jeftinije ili spamajući korisnike na reddit.com. Ovakva konkurencija može naštetiti prihodima stvarnih kreatora. Neke seksualne radnice kažu da je “deprimirajuće” vidjeti kako se pojavljuje standard prema kojem uspjeh znači izbacivati sadržaj 24/7 kao algoritam – standard koji je nemoguć za čovjeka, ali lak za AI, čime se ljudi prisiljavaju ili da usvoje AI ili da zaostanu reddit.com. Tu je i emocionalna komponenta: kako je napisala jedna iskusna kreatorica, korištenje AI-a za učinkovito “varanje” generiranjem besprijekornog tijela ili beskonačnog sadržaja čini se kao da umanjuje stvarni trud i autentičnost koju ljudski kreatori ulažu reddit.com. “To je podlo – nepoštovanje prema mojim obožavateljima… i prema trudu koji ulažem u svoje tijelo [i sadržaj],” rekla je o onima koji koriste AI za lažiranje sadržaja reddit.com.

Već vidimo određeni otpor i prilagodbu: kreatori se udružuju kako bi prozvali lažne AI profile, a platforme prilagođavaju pravila kako bi uvjerile da stvarne kreatore AI neće imitirati. OnlyFans, kao što je navedeno, zabranjuje korištenje tuđeg lika i zahtijeva označavanje AI sadržaja reddit.com. Čak se spominje i mogućnost da kreatori pokrenu pravne postupke protiv AI lažnjaka – primjerice, kruže glasine o tužbi radi uklanjanja bot računa na OnlyFansu reddit.com. Osim toga, izvođači su zabrinuti zbog pristanka i prava na vlastiti lik – npr., umirovljena porno glumica mogla bi otkriti da se njezine stare scene koriste za treniranje AI-a koji sada generira nove eksplicitne videozapise “nje” bez njezinog pristanka ili ikakve naknade. Ovo je slično zabrinutostima holivudskih glumaca oko toga da AI koristi njihov lik – osim što porno glumci imaju još više toga na kocki jer je njihov imidž vezan uz nešto vrlo osjetljivo. Industrija će možda morati razviti nešto poput stava Screen Actors Guilda, gdje glumci mogu pregovarati o tome kako ih AI može ili ne može simulirati. Doista, danski pristup davanja autorskih prava na lik pojedincima mogao bi osnažiti izvođače diljem svijeta da zatraže vlasništvo nad svojim licem/tijelom u ovim kontekstima euronews.com.

Studiji i producenti: Tradicionalni porno studiji također bi mogli biti ugroženi. Ako mali tim s AI alatima može proizvesti prihvatljiv odrasli video bez angažiranja glumaca, veliki studiji gube svoju prednost. Ipak, trenutni AI video još nije na razini profesionalne studijske kvalitete za duži sadržaj – uglavnom se radi o kratkim isječcima ili zahtijeva kombiniranje sa stvarnim snimkama. Neki studiji mogli bi početi koristiti AI za specijalne efekte ili post-produkciju (npr. pomlađivanje izvođača, poboljšanje vizuala ili čak uklanjanje prepoznatljivih tetovaža radi anonimnosti). Još jedna moguća upotreba: generiranje realističnih animacija za odrasle koje su prije bile skupe za ručnu izradu. No, studiji se suočavaju i s prijetnjom ponašanja nalik piratstvu: nepošteni akteri mogli bi koristiti AI za izradu kopija premium sadržaja ili modela. Na primjer, ako studio ima popularnu zvijezdu pod ugovorom, netko bi mogao napraviti deepfake te zvijezde u novim scenama i pustiti ih u javnost. To bi moglo umanjiti dobit studija i vrijednost brenda zvijezde. Studiji bi mogli odgovoriti snažnim provođenjem zaštite žiga ili prava na osobnost svojih ugovornih talenata. Možda ćemo vidjeti porno studije kako surađuju s tehnološkim tvrtkama na stvaranju autoriziranog AI sadržaja sa svojim zvijezdama (uz podjelu prihoda) prije nego što to učine pirati, kao obrambeni potez.

Erotski umjetnici i pisci: Osim video izvođača, tu su i oni koji stvaraju erotske stripove, ilustracije ili književnost. AI je već sposoban oponašati umjetničke stilove – hentai zajednica posebno je do kraja 2022. doživjela navalu AI-generirane anime erotike, što je izazvalo podjele. Neki naručitelji počeli su koristiti AI umjesto da plaćaju ljudske umjetnike, navodeći cijenu i praktičnost. Umjetnici su prosvjedovali na platformama poput DeviantArt (koji je doživio kritike zbog uvođenja AI značajki). Postoji strah da bi se tržište za personaliziranu erotsku umjetnost i priče moglo urušiti kad svatko može besplatno generirati personalizirani strip ili priču za odrasle. Ipak, entuzijasti ističu da se AI još uvijek muči s kompleksnim pripovijedanjem i istinski profinjenom umjetnošću – ljudski umjetnici nude razinu kreativnosti i emocije koju AI može nedostajati. Vjerojatan ishod je hibridni pristup: umjetnici koriste AI za skiciranje ili bojanje radova, a zatim dodaju vlastite detalje. No, manje afirmirani umjetnici mogli bi se teško natjecati s AI rješenjima na jedan klik koja mnogim gledateljima djeluju “dovoljno dobro”. To otvara potrebu za možda novom vrijednošću “autentične ručne izrade” u erotskoj umjetnosti, slično kao što su neki fanovi spremni platiti više znajući da je djelo izradio čovjek.

Stav industrije za odrasle: Zanimljivo, velike tvrtke za zabavu za odrasle bile su relativno tihe u javnosti po pitanju AI-a. Moguće zato što interno istražuju svoje strategije ili jer bi privlačenje pažnje moglo donijeti više nadzora. Industrija za odrasle povijesno je brzo prihvaćala tehnologiju (prva je prigrlila internet, web kamere, VR pornografiju itd.). Već vidimo stranice za odrasle koje prodaju “deepfake sadržaj nalik slavnim osobama” (pravno sivo područje u nekim državama) i eksperimentiraju s AI preporukama. U svijetu camminga, nekoliko cam stranica isprobalo je AI chatbotove za zadržavanje korisnika kad modeli nisu online. No, potpuna zamjena ljudskih izvođača AI-em još se nije dogodila na velikim platformama, dijelom zbog nezrelosti tehnologije i preferencije korisnika za stvarnu interakciju.

Međutim, ekonomski pritisak mogao bi prisiliti na prilagodbu. Ako bi, hipotetski, za 2-3 godine AI mogao generirati full HD porno video bilo koja dva slavna lika na zahtjev, tržište profesionalne pornografije s nepoznatim glumcima moglo bi doživjeti pad – zašto plaćati ili se pretplaćivati kad su beskonačne besplatne fantazije dostupne? Industrija bi se mogla preusmjeriti na naglašavanje autentičnosti, interakcije uživo i zajednice – stvari koje AI ne može pružiti. Možda ćemo vidjeti pornografiju oglašenu oznakama poput “100% ljudi, pravo zadovoljstvo” kao prodajnu točku, ironično. S druge strane, industrija bi mogla uključiti AI radi smanjenja troškova – npr. imati jednog glumca koji nastupa, a zatim koristiti AI za promjenu lica kako bi se stvorilo više “različitih” videa iz jednog snimanja (uz pristanak, idealno). Taj scenarij bi otvorio etička pitanja (znaju li gledatelji da je to ista osoba izmijenjena? Dobiva li izvođač plaću po varijanti videa ili samo jednom?).

Jedan pozitivan utjecaj mogao bi biti na sigurnost: Ako AI može simulirati rizične radnje, studiji bi ga mogli koristiti kako bi izbjegli izlaganje izvođača opasnosti. Na primjer, umjesto da izvođači izvode ekstremne vratolomije, mogli bi snimiti nešto osnovno, a AI bi generirao intenzivni dio. Ili, kao što je spomenuto, izvođač bi mogao snimati odjeven, a AI bi generirao golu verziju, što bi mogao biti način da se netko pojavi u pornografiji bez stvarnog skidanja na setu (iako ta ideja otvara vlastitu raspravu o autentičnosti i pristanku).

Fragmentacija tržišta: Vjerojatno će se tržište sadržaja za odrasle fragmentirati u više razina:

• Vrhunski ljudski sadržaj s naglaskom na stvarnu interakciju (personalizirani videi, OnlyFans s izravnim angažmanom kreatora, live cam showovi – stvari gdje je ljudska prisutnost ključna).
• AI-generirani sadržaj koji bi mogao biti izuzetno jeftin ili besplatan, preplavljujući tube stranice ili privatne kanale. To bi moglo zadovoljiti povremene potrošače ili one s vrlo specifičnim fantazijama (slavne osobe itd.). Ako deepfake pornografija ostane poluilegalna, mogla bi ostati više u podzemlju ili na nekomercijalnim forumima.
• Hibridni sadržaj gdje kreatori koriste AI, ali ostaju uključeni. Na primjer, model bi mogao prodavati AI-poboljšane setove svojih slika – zapravo svoj lik, ali usavršen ili smješten u fantastične scene pomoću AI-a. Sve dok je transparentno i uz pristanak, obožavatelji bi mogli cijeniti raznolikost.

Mentalni i društveni utjecaj na kreatore: Ne može se zanemariti emocionalni teret za kreatore kada vide možda vlastita lica korištena bez pristanka, ili samo pritisak da se natječu sa strojevima. Komentari s Reddita od OnlyFans kreatora jasno su pokazali određenu anksioznost pa čak i očaj reddit.com reddit.com. Ovo odražava ono što se događa i u drugim kreativnim sektorima (umjetnici, glumci) u vezi s AI – ali u industriji za odrasle, stigma i nedostatak institucionalne podrške mogu otežati da izraze zabrinutost ili potraže zaštitu. Možda ćemo vidjeti da se zagovaračke grupe za seksualne radnike šire svoj fokus na digitalna prava i AI, boreći se za stvari poput prava na uklanjanje iz skupova podataka za treniranje ili zabranu deepfakeova izvođača bez pristanka. Sindikati (poput Adult Performers Actors Guild u SAD-u) mogli bi pregovarati o AI klauzulama u ugovorima. Na primjer, izvođačica bi mogla inzistirati da studio ne koristi njezine snimke za treniranje AI koji bi kasnije mogao zamijeniti njezin lik, ili barem da joj plate ako to učine.

Što se tiče ponašanja potrošača, rani anegdotski dokazi sugeriraju da mnogi gledatelji pornografije i dalje preferiraju znati da je nešto stvarno – postoji privlačnost u stvarnim ljudskim izvođačima. AI pornografija ponekad može djelovati “bezdušno” ili manje zadovoljavajuće, izvještavaju neki korisnici, kad prođe početna novost. Tako bi ljudski kreatori mogli zadržati svoju publiku naglašavajući svoju autentičnost i osobnu povezanost, što AI ne može istinski replicirati. Ipak, kako AI napreduje, ta bi se razlika mogla smanjiti, a mlađe generacije koje odrastaju uz AI možda neće praviti razliku.

Prilika za nove talente? Postoji zanimljiva druga strana: AI bi mogao smanjiti prepreke za ulazak u prostor sadržaja za odrasle na kontroliran način. Netko tko nikada ne bi dijelio svoje pravo tijelo ili lice mogao bi stvoriti AI osobu – izmišljeni seksi avatar – i prodavati sadržaj tog avatara. U biti, biti camgirl ili OnlyFans model putem AI posrednika. Neki korisnici su to pokušali s različitim uspjehom. To otvara vrata ljudima da unovče fantazije bez izlaganja svog identiteta ili tijela. Međutim, platforme trenutno zahtijevaju provjeru identiteta kako bi spriječile lažno predstavljanje i probleme s maloljetnicima, pa bi se pojedinac ipak morao registrirati i vjerojatno naznačiti da je sadržaj AI-generiran i da prikazuje izmišljenu osobu. Ako bi to bilo dopušteno, to bi moglo stvoriti novu kategoriju kreatora sadržaja: AI-pokretani kreatori za odrasle koji su stvarni poduzetnici, ali je njihov proizvod potpuno virtualni lik. Natjecali bi se s pravim modelima. Bi li korisnici plaćali za “lažnog” modela? Moguće, ako je dovoljno privlačna i interaktivna, a posebno ako u početku ne shvate da je lažna. Može se zamisliti da bi neki korisnici zapravo više voljeli AI model koji je “uvijek dostupan i nikad nema loš dan.” Ovo je ljudskim izvođačima uznemirujuće iz očitih razloga.

Regulatorni i pravni utjecaj na industriju: S novim zakonima o deepfakeovima, adult platforme imaju pravne poticaje zabraniti bilo što što nije uz pristanak. To bi ironično moglo ojačati poziciju etabliranih, reguliranih adult biznisa (koji rade samo s izvođačima koji su dali pristanak) u odnosu na nelegalne AI stranice. Ako je provedba stroga, korisnici koji žele deepfake pornografiju mogli bi teže doći do nje, što bi ih moglo natjerati ili na ilegalne izvore na dark webu ili ih obeshrabriti od te navike. U međuvremenu, AI kreacije uz pristanak (poput modela koji pristaje na AI verziju sebe) mogle bi postati nova kategorija licenciranih proizvoda. To će zahtijevati pravno pojašnjenje: npr., može li model dobiti autorsko pravo ili žig na svoje lice kako bi mogao tužiti nekoga tko napravi AI klon bez dopuštenja? Neke zemlje poput Danske i moguće nadolazeći zakoni američkih saveznih država idu u tom smjeru euronews.com. To bi pomoglo izvođačima da zaštite svoj brend.

Sažetak utjecaja: Industrija sadržaja za odrasle nalazi se na početku potencijalne promjene paradigme. Oni koji se prilagode – koristeći AI etički i transparentno – mogli bi uspjeti ili barem preživjeti. Oni koji to ignoriraju mogli bi se boriti protiv vala sadržaja i promjene potrošačkih navika. Kako je jedan AI poduzetnik rekao o AI suputnicima: “svaka nova inovacija može se činiti kao drastična promjena… to je evolucija” sifted.eu. Pitanje je hoće li ta evolucija nadopuniti ili kanibalizirati postojeći ekosustav kreatora.

Zaključak: Nova erotska granica, puna dilema

Uspon NSFW AI-a nedvojbeno je otvorio Pandorinu kutiju. U samo nekoliko godina, svjedočili smo kako je AI prešao od generiranja smiješnih slika mačaka do generiranja lažnih golih fotografija koje mogu uništiti nečiji život. Ova tehnologija je moćna, dvosjekla i tu je da ostane. S jedne strane, omogućuje običnim ljudima da stvore bilo koju erotsku sliku ili scenarij koji mogu zamisliti, brišući granice između potrošača i kreatora u industriji za odrasle. Nudi obećanje personaliziranog užitka, kreativnog istraživanja i možda novih poslovnih modela u višemilijardnoj industriji koja je često bila tehnološki stagnirajuća. S druge strane, NSFW AI je potaknuo nove oblike zlostavljanja – neki to nazivaju “digitalnim silovanjem” – oduzimajući pojedincima (uglavnom ženama) kontrolu nad vlastitim slikama i tijelima u digitalnom svijetu. To izaziva naše pravne sustave, koji se žure ažurirati definicije imitacije, pornografije i pristanka za AI doba. I prisiljava društvo da se suoči s neugodnim pitanjima o prirodi seksualnosti, slobode izražavanja i ljudske povezanosti kada su pojačani ili simulirani od strane AI-a.

Od kraja 2025., klatno se njiše prema zaštitnim mjerama i odgovornosti. Glavni zakoni u SAD-u i EU, strože kontrole u Aziji i promjene politika platformi svi ukazuju na to da se AI pornografija bez pristanka široko smatra neprihvatljivom. Paralelno, razvija se tehnologija za otkrivanje i sprječavanje zloupotreba, čak i dok sama generativna tehnologija napreduje. Možemo očekivati da će se dinamika “mačke i miša” nastaviti: svaka nova sigurnosna mjera može biti dočekana novim tehnikama izbjegavanja od strane zlonamjernih aktera. No, kolektivna svijest je sada puno veća – AI pornografija više nije nišna internetska čudnovatost; to je glavna tema zabrinutosti u parlamentima i redakcijama. Ta javna svijest može osnažiti žrtve da progovore i zahtijevaju pravdu, te potaknuti tvrtke da preuzmu odgovornost.

Gledajući unaprijed, globalna suradnja bit će ključna. Ova pitanja ne zaustavljaju se na granicama – deepfake napravljen u jednoj zemlji može uništiti nečiji život u drugoj. Bit će važno da vlade dijele najbolje prakse (kao što pokazuje istraživanje Euronewsa o europskim zakonima, mnoge zemlje uče iz pristupa drugih euronews.com euronews.com). Možda bi u narednim godinama mogao nastati međunarodni okvir ili ugovor o suzbijanju seksualnog zlostavljanja putem slika, tretirajući najgore prekršaje kao zločine protiv ljudskih prava. U međuvremenu, organizacije civilnog društva i edukatori morat će nastaviti podizati svijest, podučavati medijsku pismenost (kako bi ljudi dvaput razmislili prije nego što povjeruju ili podijele “procurjeli” intimni sadržaj) i pružati podršku žrtvama.

Unatoč svoj tamnoj strani povezanoj s NSFW AI-em, vrijedi napomenuti da nije sve tako crno. U kontekstu pristanka, neki ljudi iz toga izvlače stvarnu sreću – bilo da je riječ o paru koji začinjava svoj odnos AI-generiranim scenarijima uloga, odraslom kreatoru koji koristi AI osobu za sigurno zarađivanje od kuće, ili jednostavno pojedincima koji napokon vide svoju specifičnu fantaziju prikazanu u AI umjetnosti ili priči. Ovi slučajevi upotrebe ne bi smjeli biti izgubljeni u raspravi; oni naglašavaju da sama tehnologija nije inherentno zla. To je alat – onaj koji pojačava ljudske namjere, dobre ili loše. Naš je zadatak usmjeriti njezinu upotrebu prema pristanku i kreativnosti, i snažno se boriti protiv zlonamjernih namjera.

Umjetnici, kreatori i seksualni radnici – ljudi koji djeluju u svijetu sadržaja za odrasle – vjerojatno će se nastaviti prilagođavati i pronalaziti prostor u ovom novom okruženju. Mnogi se bore kako bi osigurali da “AI etika” uključuje i njihove glasove, zahtijevajući mehanizme pristanka i naknade. Oni zapravo traže nešto jednostavno: ne uzimajte od nas bez pitanja. Šire društvo suočava se s tim načelom u svim AI domenama, od umjetnosti do vijesti do pornografije.

Zaključno, NSFW AI stoji na raskrižju tehnologije, seksualnosti, prava i etike. Izaziva nas da redefiniramo pojmove pristanka, privatnosti, pa čak i same stvarnosti u digitalnom dobu. Druga polovica 2020-ih bit će ključna za postavljanje normi i pravila koja upravljaju ovim područjem. Krećemo li prema budućnosti u kojoj je AI pornografija sveprisutna, ali strogo regulirana, i koristi se uglavnom u dobre ili neutralne svrhe? Ili ćemo svjedočiti balkanizaciji, gdje je glavni mediji izbacuju dok ona cvjeta u mračnim kutovima, slično ilegalnoj trgovini? Ishod ovisi o odlukama koje se donose sada – od strane zakonodavaca, tehnoloških tvrtki i korisnika.

Jedno je sigurno: duh je pušten iz boce. Ne možemo poništiti izum NSFW AI-ja. Ali možemo i moramo naučiti živjeti s njim odgovorno. Kao korisnici, to znači poštivati dostojanstvo drugih pri korištenju ovih alata; kao tvrtke, ugrađivati sigurnost od samog početka; kao vlade, postavljati jasne granice; a kao zajednice, ne tolerirati zloupotrebe. Uz budnost i empatiju, nada je da će “divlji zapad” faza AI pornografije evoluirati u civiliziraniji teren – onaj u kojem odrasle osobe uz pristanak mogu uživati u novim oblicima erotske umjetnosti i povezivanja, dok su oni koji bi zloupotrijebili tehnologiju zadržani podalje. Priča o NSFW AI-ju još se piše, a sredina 2025. je tek prvo poglavlje. Odgovor društva sada će oblikovati hoće li ova tehnologija na kraju obogatiti ili ugroziti nas u području intimnog sadržaja.

Izvori:

• Oremus, Will. “Kongres usvaja zakon za borbu protiv deepfake golotinje, osvetničke pornografije.” The Washington Post (preko Klobuchar Senate site), 28. travnja 2025. klobuchar.senate.gov klobuchar.senate.gov.
• Fawkes, Violet. “8 najboljih NSFW AI generatora slika – Pronalaženje užitka na raskrižju koda i pristanka.” Chicago Reader, 13. travnja 2025. chicagoreader.com chicagoreader.com.
• Mahdawi, Arwa. “Nekonzensualna deepfake pornografija je hitan problem koji uništava živote.” The Guardian, 1. travnja 2023. theguardian.com theguardian.com.
• Ferris, Layla. “AI-generirana porno stranica Mr. Deepfakes zatvorena nakon što je pružatelj usluga povukao podršku.” CBS News, 5. svibnja 2025. cbsnews.com cbsnews.com.
• CBS News/AFP. “Skandal s AI-generiranim pornografskim sadržajem potresa Sveučilište u Hong Kongu nakon što je student prava navodno stvorio deepfakeove 20 žena.” CBS News, 15. srpnja 2025. cbsnews.com cbsnews.com.
• Lyons, Emmet. “Južna Koreja sprema se kriminalizirati posjedovanje ili gledanje seksualno eksplicitnih deepfake videa.” CBS News, 27. rujna 2024. cbsnews.com cbsnews.com.
• Wethington, Caleb. “Novi zakoni protiv deepfakeova i AI-generirane dječje pornografije stupaju na snagu u Tennesseeju.” WSMV News Nashville, 30. lipnja 2025. wsmv.com wsmv.com.
• Desmarais, Anna. “Danska se bori protiv deepfakeova zaštitom autorskih prava. Koji još zakoni postoje u Europi?” Euronews, 30. lipnja 2025. euronews.com euronews.com.
• Nicol-Schwarz, Kai. “Upoznajte AI OnlyFans: Kako je jedan startup prikupio milijune za izgradnju platforme ‘erotskih pratitelja’.” Sifted, 13. ožujka 2025. sifted.eu sifted.eu.
• Wilson, Claudia. “Senat usvaja DEFIANCE zakon.” Centar za AI politiku (CAIP), 1. kolovoza 2024. centeraipolicy.org centeraipolicy.org.
• Arnold, Stephen. “Google zauzima stav — protiv upitnog sadržaja. Hoće li AI to ispravno napraviti?” Beyond Search blog, 24. svibnja 2024. arnoldit.com arnoldit.com.
• Holland, Oscar. “Lin Chi-ling s Tajvana o svojoj deepfake nevolji i borbi protiv AI dezinformacija.” CNN, 5. listopada 2023. (za kontekst o deepfakeovima slavnih osoba).
• (Dodatni dokumenti o politici, priopćenja za medije i izvješća kako je navedeno u tekstu.)