Znotraj NSFW AI revolucije: Kako umetna inteligenca spreminja pornografsko industrijo in sproža polemike

NSFW AI – uporaba generativne umetne inteligence za ustvarjanje “za delo neprimerne” odrasle vsebine – je eksplodirala v vročo in perečo temo. Od z umetno inteligenco ustvarjenih erotičnih slik in deepfake pornografskih videov do zapeljivk s kloniranim glasom in chatbot “punc”, strojno učenje preoblikuje področje odrasle vsebine. Gre za tehnološko revolucijo, ki odpira mamljive možnosti in hkrati sproža nujna etična vprašanja. Zagovorniki pozdravljajo nove poti za fantazijo in ustvarjalnost, medtem ko kritiki opozarjajo na nadlegovanje, kršitve privolitve in škodo za družbo. Sredi leta 2025 je NSFW AI na razpotju: sprejet v nišnih skupnostih in zagonskih podjetjih, pod drobnogledom zakonodajalcev in v strahu tistih, ki jih je zajel v navzkrižni ogenj. V tem celovitem poročilu raziskujemo, kaj NSFW AI je, kje uspeva, najnovejši razvoj (od prepovedi na platformah do novih zakonov), etične dileme, glasove obeh strani razprave in kako se svet trudi moderirati ter regulirati to neukrotljivo novo dimenzijo umetne inteligence. Odkrijmo zakulisje divjega sveta z umetno inteligenco ustvarjene pornografije – in zakaj ne gre le za pornografijo, temveč za zasebnost, moč in prihodnost spolne vsebine.

Kaj je NSFW AI in kako deluje?

NSFW AI se nanaša na sisteme umetne inteligence, ki ustvarjajo eksplicitno odraslo vsebino – vključno s pornografskimi slikami, videi, zvokom in besedilom – pogosto z osupljivo realističnostjo. Ti sistemi uporabljajo enake najsodobnejše generativne tehnologije, ki so v zadnjem času povzročile preboje na področju umetnosti in medijev z umetno inteligenco, vendar so uporabljene za vsebine z oznako X. Ključne inovacije vključujejo modele globokega učenja, ki so trenirani na ogromnih zbirkah slik in videov ter se naučijo ustvarjati novo vsebino kot odziv na uporabniške pozive. Na primer, difuzijski modeli za pretvorbo besedila v sliko, kot je Stable Diffusion, lahko ustvarijo fotorealistične nage ali spolne slike iz preprostega besedilnega opisa globenewswire.com. “Deepfake” tehnike omogočajo zamenjavo ali sintetiziranje obrazov v videih, zaradi česar je videti, kot da resnične osebe (pogosto znane osebnosti ali zasebniki) nastopajo v pornografiji, ki je v resnici niso nikoli posnele. Napredna orodja za kloniranje glasu lahko z osupljivo natančnostjo posnemajo glas osebe in omogočajo ustvarjanje erotičnega zvoka ali “umazanega govora” v ciljnem glasu. Veliki jezikovni modeli pa lahko ustvarjajo vroče erotične zgodbe ali sodelujejo v spolni igri vlog prek klepeta.

V bistvu sistemi NSFW AI uporabljajo iste algoritme, ki generirajo katerokoli AI umetnost ali medije – le da so trenirani ali dodelani na pornografskih ali erotičnih učnih podatkih. Generativne adversarialne mreže (GAN) so bile pionirji pri ustvarjanju golih slik, vendar so difuzijski modeli in modeli, ki temeljijo na transformatorjih, močno izboljšali zvestobo. Sodobni generatorji NSFW slik lahko ustvarijo visokoločljive gole slike, prilagojene uporabnikovim pozivom z minimalnim naporom globenewswire.com. Ustvarjalci deepfake videov pogosto uporabljajo specializirano programsko opremo (nekatera je odprtokodna), da preslikajo en obraz na drugega v obstoječih odraslih videih, s čimer ustvarijo sintetično pornografijo, ki jo je težko ločiti od resničnih posnetkov cbsnews.com. Glasovne AI storitve lahko vzamejo zvočni vzorec in ustvarijo nov govor (vključno z eksplicitno vsebino) v tem glasu. In AI-poganjani klepetalniki uporabljajo generiranje naravnega jezika za zagotavljanje personaliziranih erotičnih pogovorov ali sextinga na zahtevo.

Meje med fikcijo in resničnostjo se zabrisujejo. Kot je opazil nekdo, »že zdaj zelo realistične slike, glasovi in videi NSFW AI generatorjev se še naprej razvijajo in še naprej spreminjajo način, kako se ustvarja, porablja in razume vsebina za odrasle« chicagoreader.com. Uporabnik lahko zdaj prikliče prilagojeno pornografsko sceno – na primer sliko fantazijskega srečanja s slavno osebo ali zvočni posnetek bivšega, ki izreka eksplicitne stvari – z enostavnim pozivom, kar je bilo nemogoče še pred nekaj leti. Ta nova moč odpira nujna vprašanja o privolitvi, zasebnosti in razliki med ustvarjalno fantazijo in izkoriščanjem. Sama osnovna tehnologija je moralno agnostična – lahko se uporablja za ustvarjanje česarkoli – vendar, ko je usmerjena v človeško spolnost in podobe resničnih ljudi, postanejo posledice zapletene.

Ključne oblike z umetno inteligenco ustvarjene vsebine za odrasle

• Z umetno inteligenco ustvarjene slike: Besedilno-v-sliko modeli (npr. Stable Diffusion) lahko iz pozivov ustvarijo eksplicitne erotične ali pornografske slike. Uporabniki lahko določijo videz, scenarij itd., kar omogoča edinstvene gole ali spolne slike na zahtevo globenewswire.com. Veliko takih modelov je odprtokodnih ali prilagojenih uporabnikom, kar omogoča vsebino, ki presega tisto, kar dovoljujejo glavni AI orodji.
• Deepfake pornografski videi: Z uporabo deepfake tehnologije ustvarjalci preslikajo obraz osebe na odrasli video, s čimer ustvarijo lažen pornografski posnetek nekoga, ki v njem nikoli ni sodeloval. Ti z umetno inteligenco manipulirani videi pogosto ciljajo na slavne osebe ali zasebnike brez njihove privolitve cbsnews.com theguardian.com. Kakovost deepfake posnetkov se je tako izboljšala, da je v letih 2024–2025 veliko teh videov videti zaskrbljujoče realistično, k čemur pripomorejo zmogljivejši grafični procesorji in algoritmi.
• Kloniranje glasu in avdio: Generatorji glasov z umetno inteligenco klonirajo glasove slavnih oseb ali znancev za ustvarjanje eksplicitnih avdio posnetkov (na primer, simulacija, da znana igralka govori umazano, ali ustvarjanje erotičnih zvočnih knjig s katerim koli glasom). Napredna glasovna umetna inteligenca (kot ElevenLabs) omogoča enostavno generiranje stokov, dialoga ali pripovedi v izbranem glasu, kar sproža zaskrbljenost glede lažnega predstavljanja v pornografskem avdiu.
• Erotični klepetalniki in fikcija: Jezikovni modeli umetne inteligence se uporabljajo za NSFW klepet in pripovedovanje zgodb. Aplikacije “AI dekle” in erotični klepetalniki za igranje vlog so doživeli razcvet priljubljenosti okoli let 2023–2025. Ti boti se lahko z uporabniki zapletajo v vroče pogovore ali sexting ter ustvarjajo neomejeno količino erotičnega besedila. Nekateri združujejo tudi vizualne in glasovne zapiske. To predstavlja novo obliko vsebin za odrasle – interaktivni AI spremljevalci, ki zadovoljujejo intimne fantazije chicagoreader.com sifted.eu.

Medtem ko glavni AI-ji (kot sta OpenAI-jev DALL·E ali Midjourney) prepovedujejo pornografske vsebine, so odprtokodne in “adult tech” skupnosti te tehnologije sprejele za premikanje NSFW meja. Odprtokodna narava številnih orodij “spodbuja inovacije in sodelovanje”, hkrati pa omogoča enostavno odstranjevanje varoval in ustvarjanje nereguliranih eksplicitnih vsebin chicagoreader.com chicagoreader.com. Kot bomo videli, se to nasprotje med inovacijami in regulacijo odraža na različnih platformah.

Platforme, aplikacije in skupnosti, ki poganjajo NSFW AI

Živahen (in včasih senčen) ekosistem platform in spletnih skupnosti se je pojavil za ustvarjanje in deljenje z umetno inteligenco generirane vsebine za odrasle. Ker velike tehnološke družbe prepovedujejo eksplicitno vsebino na svojih AI storitvah arnoldit.com blog.republiclabs.ai, je razcvet NSFW AI poganjan s strani neodvisnih razvijalcev, odprtokodnih modelov in nišnih zagonskih podjetij. Tukaj je nekaj ključnih področij, kjer NSFW AI živi in uspeva:

• Središča odprtokodnih modelov: CivitAI – priljubljena skupnostna spletna stran – gosti ogromno knjižnico uporabniško ustvarjenih AI modelov in slik, vključno s številnimi, specializiranimi za vsebine za odrasle chicagoreader.com. Uporabniki lahko prenesejo prilagojene Stable Diffusion modele za hentai, realistične nage, fetiš umetnost itd. in delijo svoje generirane slike. Odprtost takšnih strani jih je naredila za glavno izbiro ustvarjalcev NSFW AI. Vendar pa to pomeni tudi minimalno nadzorovanje vsebine; vsebina sega od umetniške erotične umetnosti do ekstremnega pornografskega materiala. Druge strani, kot je Hugging Face, so gostile NSFW modele (z opozorili), forumi kot 4chan ali GitHub pa so delili tudi “izpuščene” necenzurirane modele.
• NSFW generatorji slik in aplikacije: Številne spletne storitve se zdaj specializirajo za AI generiranje erotičnih slik. Na primer, platforme kot so Candy.ai, Arting.ai, Vondy, OurDream in druge (pogosto na naročnino) uporabnikom omogočajo ustvarjanje prilagojenih slik za odrasle z razmeroma malo omejitvami chicagoreader.com chicagoreader.com. Nekatere izpostavljajo visokokakovostne upodobitve in širok nabor slogov – od fotorealističnih do anime – in tako nagovarjajo različne okuse. Mnoge so se pojavile v letih 2024–2025, pogosto ponujajo brezplačne preizkuse ali žetone in tekmujejo, kdo lahko ustvari najbolj realistično ali domiselno NSFW umetnost. Njihovo oglaševanje poudarja personalizacijo in zasebnost, uporabnikom obljubljajo, da lahko ustvarijo točno to, kar si želijo “v varnem, zasebnem okolju, brez omejitev vnaprej posnetih vsebin” globenewswire.com.
• Skupnosti in forumi za AI pornografijo: Pred nedavnimi ukrepi so bile temu namenjene spletne strani z deepfake pornografijo središča za to dejavnost. Najbolj zloglasna je bila Mr. Deepfakes, ustanovljena leta 2018, ki je postala »najbolj izpostavljena in osrednja tržnica« za deepfake pornografijo slavnih osebnosti kot tudi neznanih tarč cbsnews.com. Uporabniki so lahko na strani nalagali in gledali eksplicitne deepfake videoposnetke ter celo naročili izdelavo neprostovoljne pornografije po meri za določeno ceno cbsnews.com. Spletna stran je spodbujala skupnost s forumi za razpravo o tehnikah in izmenjavo vsebin. Vendar pa je bil, kot bomo podrobneje opisali kasneje, Mr. Deepfakes zaprt leta 2025 po izgubi ključnega ponudnika storitev cbsnews.com. Po takšnih ukrepih skupnost deepfake pornografije ni izginila – razdelila se je in preselila drugam. Strokovnjaki ugotavljajo, da razpustitev večje strani »razprši skupnost uporabnikov, ki jih to verjetno potisne na manj običajne platforme, kot je Telegram«, kjer si izmenjujejo vsebine cbsnews.com. Dejansko so šifrirane aplikacije in nišni forumi postali nov dom za številne NSFW AI navdušence, ki so jih pregnali z večjih platform.
• AI »Punca« in storitvene spremljevalke: Val zagonskih podjetij združuje generiranje erotičnih vsebin z interaktivnim druženjem. Eden izmed vidnejših primerov je Oh (s sedežem v Londonu), ki se predstavlja kot ustvarjalec »AI OnlyFans« – erotična spremljevalna platforma, kjer uporabniki komunicirajo z virtualnimi modeli, ki jih generira umetna inteligenca, preko besedila, glasu in slik sifted.eu sifted.eu. Oh je v začetku leta 2025 zbral 4,5 milijona dolarjev za ustvarjanje »avtonomnih pomanjkljivo oblečenih botov«, ki lahko celo proaktivno pošiljajo uporabnikom spogledljive pogovore sifted.eu sifted.eu. Na njihovi spletni strani uporabniki vidijo profile napol golih AI botov – večinoma izmišljenih ženskih likov, čeprav so nekateri »digitalne dvojnice« resničnih ustvarjalcev za odrasle, ki licencirajo svojo podobo (in prejemajo delež prihodka) sifted.eu. Uporabniki lahko klepetajo s temi boti in prejemajo zapeljiva sporočila, AI-generirane gole slike in celo glasovne zapiske, ustvarjene s kloniranimi glasovi sifted.eu. Številne podobne storitve so se pojavile okoli let 2023–2024: DreamGF, Kupid AI, FantasyGF, Candy.ai itd., kar kaže na trend AI-pogovornih spremljevalcev za odrasle sifted.eu. Privlačnost je 24/7, popolnoma prilagodljiva erotična interakcija – v bistvu virtualna camgirl ali fant, ki ga poganjajo algoritmi.
• Uveljavljene platforme za odrasle se prilagajajo: Tradicionalne platforme za vsebine za odrasle niso ostale nedotaknjene zaradi vala umetne inteligence. OnlyFans, priljubljena naročniška storitev za ustvarjalce, se je soočila z valom vsebin za odrasle, ustvarjenih z umetno inteligenco. Po pravilniku OnlyFans dovoljuje slike, ustvarjene z umetno inteligenco, samo če prikazujejo preverjenega ustvarjalca samega in so jasno označene kot vsebina, ustvarjena z umetno inteligenco reddit.com. Prepovedano je uporabljati umetno inteligenco za posnemanje drugih ali za avtomatizirano klepetanje z oboževalci reddit.com. Kljub temu so se pojavila poročila o računih, ki prodajajo pakete očitno z umetno inteligenco ustvarjenih golih fotografij (s prepoznavnimi napakami, kot so nenavadne roke ali “mrtve oči” na vsaki sliki) nič hudega slutečim naročnikom reddit.com. Nekateri človeški ustvarjalci so besni, saj se bojijo, da bi lažni modeli z umetno inteligenco lahko preplavili platformo in škodovali njihovemu zaslužku reddit.com uniladtech.com. Ena izmed spolnih delavk je potožila, da umetna inteligenca “odvzame trud, ustvarjalnost in napor”, ki ga vlagajo pravi ustvarjalci, to označila za “medvedjo uslugo mojim oboževalcem” in izrazila skrb, da bo to še poslabšalo nerealna pričakovanja glede spolnosti reddit.com reddit.com. Po drugi strani pa nekateri iznajdljivi ustvarjalci za odrasle sprejemajo orodja umetne inteligence – uporabljajo generatorje slik za izboljšanje ali množitev svoje vsebine ali pa licencirajo svojo podobo podjetjem, kot je Oh, za dodaten zaslužek sifted.eu. Industrija vsebin za odrasle na splošno (porno studii, cam strani itd.) previdno eksperimentira z umetno inteligenco za ustvarjanje vsebin, hkrati pa jo opazuje z zadržanostjo kot moteč dejavnik, ki bi lahko omogočil poplavo vsebin z eksplicitno vsebino, ki jih ustvarjajo uporabniki zunaj profesionalne sfere. Analitiki industrije napovedujejo, da bi lahko vsebine za odrasle, ustvarjene z umetno inteligenco, predstavljale več kot 30 % spletne pornografske potrošnje do leta 2027, če se bodo trenutni trendi nadaljevali globenewswire.com, kar kaže, kako hitro se ta tehnologija širi.

Skupnost NSFW AI je hitro razvijajoča se in raznolika, od ljubiteljskih umetnikov, ki raziskujejo AI erotiko kot »kreativno in osebno raziskovanje«, do trdih deepfake krogov, ki ustvarjajo zlonamerne lažne nage slike chicagoreader.com. Skoraj vsak teden se pojavijo nove platforme in orodja, vsaka ponuja drugačno ravnovesje med svobodo in omejitvami. Kot je zapisano v enem pregledu iz leta 2025: »svet NSFW AI generatorjev je obsežen in hitro se spreminja«, nekatere platforme se osredotočajo na hiperrealistične vizualne podobe, druge na interaktivno pripovedovanje zgodb, vsaka pa zaseda svoje etično sivo območje chicagoreader.com. Kar jih združuje, je obljuba na zahtevo, visoko personalizirane vsebine za odrasle – in nevarnosti, ki jih prinaša takšna moč.

2025: Poplava AI pornografije in naraščajoč odpor

Do sredine leta 2025 je NSFW AI dosegel prelomno točko. Po eni strani je vsebina postala bolj razširjena in prepričljiva kot kdaj koli prej; po drugi strani pa so javna zaskrbljenost in regulativni nadzor dosegli nov vrh. Nedavni dogodki vključujejo odmevne primere zlorab, hitre odzive regulatorjev in celo samoregulacijo znotraj tehnološke industrije. Spodaj povzemamo nekatere glavne novice in trende 2024–2025 v zvezi z AI-generirano pornografijo:

Spori in škandali z neprostovoljnimi deepfake posnetki

Morda nič ni bolj spodbudilo razprave o NSFW umetni inteligenci kot porast ne-soglasne deepfake pornografije – uporaba umetne inteligence, da izgleda, kot da se je nekdo (običajno ženska) pojavil gol ali v spolnih dejanjih, ki jih nikoli ni storil. Ta praksa se je začela s slavnimi osebami, a vedno pogosteje cilja na običajne ljudi, pogosto kot oblika nadlegovanja ali “maščevalne pornografije.” Do leta 2023 je postala zaskrbljujoče razširjena in dostopna: preiskovalna poročila so pokazala, da je lahko kdorkoli zlahka našel spletne strani z deepfake pornografijo prek Googla, se pridružil Discordu za naročilo ponarejenih posnetkov po meri in celo plačal s kreditno kartico – cvetoče podzemno gospodarstvo, kjer “ustvarjalci” odkrito oglašujejo storitve theguardian.com theguardian.com. Študije dosledno ugotavljajo, da so ženske in dekleta v veliki večini žrtve tega trenda. Prelomno poročilo podjetja Sensity (podjetje za varnost umetne inteligence) je ugotovilo, da je 95–96 % deepfake vsebin na spletu ne-soglasnih spolnih podob, skoraj vse prikazujejo ženske theguardian.com. Znane ženske osebnosti, od igralke Taylor Swift do spletnih vplivnic, so imele lažne gole fotografije, ki so postale viralne na družbenih omrežjih klobuchar.senate.gov. Še bolj zaskrbljujoče je, da so bile tarče tudi zasebne osebe in mladoletniki: npr. 14-letno dekle je ugotovilo, da so sošolci uporabili aplikacijo za ustvarjanje lažnih pornografskih slik z njo in jih delili na Snapchatu klobuchar.senate.gov.

En izmed odmevnih incidentov se je zgodil januarja 2023, ko so Twitch videoigralnega streamerja ujeli z odprtim zavihkom brskalnika na strani z deepfake pornografijo, ki je prikazovala njegove sodelavke. Streamer se je v solzah opravičil, a ena od žensk, Twitch streamerka QTCinderella, je podala čustven odziv: »Tako je videti, ko se počutiš zlorabljenega… ko vidiš slike sebe ‘gole’ razširjene naokoli« brez privolitve theguardian.com. Poudarila je, kako nepošteno je, da mora kot ženska v javnosti zdaj porabljati čas in denar za boj, da bi odstranila lažne spolne slike sebe z interneta theguardian.com theguardian.com. Njena prošnja – »Ne bi smelo biti del moje službe, da sem tako nadlegovana« – je močno odmevala in pritegnila pozornost širše javnosti na deepfake pornografijo kot resno obliko zlorabe.

Od takrat so se takšni primeri le še množili. Leta 2024 so učenci v več državah postali tako storilci kot žrtve AI golih zamenjav. V Avstraliji je šolsko skupnost pretreslo, ko so bile ustvarjene in brez privolitve deljene lažne eksplicitne slike več dijakinj, kar je sprožilo policijsko preiskavo in ogorčenje javnosti theguardian.com. V Hongkongu leta 2025 naj bi študent prava na prestižni Univerzi v Hongkongu ustvaril AI pornografske slike vsaj 20 sošolk in učiteljic, kar je povzročilo škandal, ko je bila prva kazen univerze zgolj opozorilno pismo cbsnews.com cbsnews.com. Hongkonške oblasti so poudarile, da je po trenutni zakonodaji kazniva le distribucija takšnih slik, ne pa že njihovo ustvarjanje, kar pušča pravno luknjo, če storilec ponaredkov ni javno delil cbsnews.com. Skupine za pravice žensk so obsodile mesto kot »zaostajajoče« pri zaščiti, hongkonški informacijski pooblaščenec pa je kljub temu sprožil kazensko preiskavo zaradi možnega namena povzročitve škode cbsnews.com cbsnews.com. Primer je poudaril, da je lahko vsakdo tarča in da se obstoječa zakonodaja pogosto težko prilagaja.

Sredi teh zlorab žrtve opisujejo hudo čustveno in ugledno škodo. Biti prikazan v hiperrealističnem lažnem spolnem dejanju je globoko travmatično, tudi če logično veš, da je ponarejeno. »Nadrealistično je videti svoj obraz… Izgledali so nekako mrtvi v sebi,« je povedala ena študentka, ki je našla AI-generirane videoposnetke sebe na pornografski strani (naložil jih je nezadovoljen bivši sošolec) centeraipolicy.org. Žrtve se počutijo brez moči, ne le zato, ker nikoli niso privolile v takšne slike, ampak tudi zato, ker jih je tako težko odstraniti. Kot je zapisala ena novinarka, »neprostovoljna deepfake pornografija je izredna situacija, ki uničuje življenja.« Ženske sili, da živijo v stanju paranoje, sprašujejo se, kdo je videl te ponaredke, in svojo energijo usmerjajo v »nočno moro igre whack-a-mole«, ko poskušajo izbrisati vsebino s spleta theguardian.com klobuchar.senate.gov. Zagovorniki so to primerjali z obliko spolnega kibernetskega terorizma, namenjenega utišanju in zastraševanju žensk theguardian.com.

Tudi glavne platforme družbenih omrežij so nehote omogočale širjenje eksplicitnih AI vsebin. V začetku leta 2024 so se eksplicitne deepfake slike Taylor Swift tako razširile na X (prej Twitter) – zbrale so milijone ogledov – da je platforma začasno blokirala rezultate iskanja njenega imena, da bi ustavila val cbsnews.com. Ugotovljeno je bilo, da je Meta (Facebook/Instagram) leta 2024 prikazovala stotine oglasov za aplikacije »nudify« (orodja, ki s pomočjo AI digitalno slačijo slike žensk), čeprav takšni oglasi kršijo pravila. Po preiskavi CBS News je Meta odstranila veliko teh oglasov in priznala, da so se izmuznili skozi pregled cbsnews.com. Prisotnost takšnih oglasov kaže, kako normalizirane in dostopne so postale AI aplikacije za »slačenje«, celo na legitimnih oglaševalskih omrežjih cbsnews.com.

Prepovedi na platformah in samoregulacija industrije

Zaradi pritiska javnosti so nekateri tehnološki portali in ponudniki storitev v preteklem letu sprejeli ukrepe za omejitev NSFW AI vsebin. Pomemben razvoj je bil ukinitev strani Mr. Deepfakes maja 2025, kot je bilo omenjeno prej. Spletna stran je sporočila, da se zapira, potem ko je “ključni ponudnik storitev umaknil svojo podporo,” kar je dejansko povzročilo, da je stran postala nedosegljiva cbsnews.com. Čeprav ni potrjeno, to nakazuje, da se je infrastrukturni ali gostiteljski ponudnik (morda ponudnik oblačnih storitev, registrar domen ali ponudnik zaščite pred DDoS napadi) odločil prekiniti sodelovanje, verjetno zaradi pravnih ali uglednih tveganj. Časovno se je to zgodilo le nekaj dni po tem, ko je ameriški kongres sprejel pomemben zakon proti deepfake vsebinam (o čemer več spodaj), zaradi česar so mnogi to videli kot del širšega zatiranja cbsnews.com. Henry Ajder, znan strokovnjak za deepfake, je zaprtje pozdravil kot razbitje “osrednjega vozlišča” velike zlorabniške mreže cbsnews.com. “To je trenutek za praznovanje,” je dejal, a hkrati opozoril, da problem neprostovoljnih deepfake slik “ne bo izginil” – razpršil se bo, a verjetno nikoli več ne bo dosegel tako množičnega vpliva cbsnews.com. Ajder je namreč poudaril, da bodo te skupnosti našle nove domove, vendar “ne bodo tako velike in izpostavljene” kot v primeru ene osrednje strani, kar je “ključni” napredek cbsnews.com.

Velika tehnološka podjetja so prav tako začela naslavljati vidik orodij in oglasov. Maja 2024 je Google posodobil svoje politike in prepovedal oglaševanje platform, ki ustvarjajo deepfake pornografijo ali ponujajo vadnice, kako jo ustvariti arnoldit.com. Googlov ukrep, ki začne veljati konec maja 2024, je bil poskus omejiti promocijo teh storitev prek Google Ads. (Google je že prej prepovedal uporabo svoje platforme Colab za treniranje deepfake modelov, in že leta 2018 so strani, kot sta Reddit in Pornhub, uradno prepovedale AI-generirano neprostovoljno pornografijo arnoldit.com.) To je bilo predstavljeno kot Googlov pripravljalni ukrep na še hujše razmere: »če je deepfake pornografija leta 2018 izgledala okorno, bo zdaj zagotovo videti veliko bolj realistično,« je poročalo ExtremeTech in s tem utemeljilo potrebo po strožjih oglasnih pravilih arnoldit.com. Podobno tudi podjetja družbenih omrežij posodabljajo moderiranje vsebin – na primer, Pornhub in večje strani za odrasle so leta 2018 obljubile prepoved deepfake vsebin (kot neprostovoljno pornografijo), v Evropi pa nova pravila v letih 2024–25 prisiljujejo pornografske strani, da aktivno »ukrepajo proti škodljivi vsebini« ali pa tvegajo globe subscriber.politicopro.com. V okviru širših prizadevanj za varnost je lastnik Pornhuba celo začasno prekinil storitev v nekaterih regijah (kot so Francija in določene ameriške zvezne države) zaradi skrbi glede skladnosti z novimi zakoni subscriber.politicopro.com, kar ponazarja, kako so platforme za odrasle prisiljene resno jemati varnostne ukrepe za vsebine ali pa onemogočiti dostop.

Glavne AI družbe se še naprej distancirajo od NSFW (nevarnih za delo) uporab. OpenAI-jev slikovni model DALL·E in storitev ChatGPT ohranjata stroge filtre proti spolni vsebini. Midjourney (priljubljen generator AI slik) ne prepoveduje le pornografskih pozivov, ampak je uvedel avtomatizirano moderiranje, ki prepoznava kontekst, da prepreči uporabnikom, da bi pretihotapili NSFW zahteve arxiv.org. Ko so filtri enega modela premagani s prebrisanimi besedili pozivov, incidenti postanejo javni in razvijalci še dodatno zaostrijo varovala (večen pregon med mačko in mišjo). Po drugi strani pa novi ponudniki včasih izpostavljajo svoj manjši nadzor kot prodajno prednost: na primer, najnovejši model Stable Diffusion XL podjetja Stability AI lahko tehnično ustvari NSFW slike, če se zažene lokalno brez varnostnega filtra, nekatere manjše družbe pa odkrito oglašujejo »manj omejitev za NSFW vsebine v primerjavi s konkurenco« latenode.com. To prikazuje razkol v AI industriji: veliki igralci se nagibajo k previdnosti in varnosti blagovne znamke, medtem ko manjši ali odprti projekti zadovoljujejo povpraševanje po necenzurirani generativni AI – vključno s pornografijo.

Glavni pravni in regulativni premiki (2024–2025)

Morda so najpomembnejši premiki prišli od zakonodajalcev, ki se odzivajo na nevarnosti AI pornografije. Po svetu vlade začenjajo sprejemati zakone za kaznovanje neprostovoljnih deepfake-ov, zaščito žrtev in celo regulacijo samih AI orodij. Tukaj je povzetek pomembnih ukrepov:

• Združene države Amerike – Zakon o odstranitvi (Take It Down Act) (2025): Aprila 2025 je ameriški kongres z veliko večino sprejel dvostranski “Zakon o odstranitvi” (Take It Down Act), prvi zvezni zakon, ki se neposredno ukvarja z AI-generiranimi intimnimi slikami klobuchar.senate.gov. Zakon določa, da je zvezni zločin ustvarjanje ali deljenje intimnih slik brez soglasja (resničnih ali AI-generiranih) osebe. Ključno je, da zahteva od spletnih platform, da odstranijo takšno vsebino v 48 urah po prijavi žrtve klobuchar.senate.gov. Ta zakon – za katerega se je zavzemala prva dama Melania Trump in sta ga soavtorirala senatorja iz obeh strank – je maja 2025 podpisal predsednik Donald Trump klobuchar.senate.gov. Šteje se za prvi večji internetni zakon v Trumpovem drugem mandatu in neposreden odziv na “hitro rastoč problem [nesoglasne pornografije]” klobuchar.senate.gov. Zagovorniki žrtev so ga označili kot dolgo pričakovanega. “Deepfake-i ustvarjajo grozljive nove možnosti za zlorabo,” je dejala senatorka Amy Klobuchar in dodala, da lahko zdaj žrtve dosežejo odstranitev materiala in povzročitelji so odgovorni klobuchar.senate.gov. Pomembno je, da so ta zakon podprla tudi velika tehnološka podjetja, kot so Meta, Google in Snap – kar kaže na soglasje, da je bilo treba nekaj ukreniti klobuchar.senate.gov. Zakon predvideva kazni, vključno z denarnimi globami in do 2 leti zapora za storilce cbsnews.com. Prav tako žrtvam omogoča, da tožijo ustvarjalce/distributerje za odškodnino, kar krepi civilno ukrepanje. Skupine za svobodo govora in zasebnost so opozorile na morebitne zlorabe zakona – na primer, Lia Holland iz Fight for the Future ga je označila za “dobronameren, a slabo napisan,” saj se boji, da bi lahko zlonamerni posamezniki zlorabili zahteve za odstranitev za cenzuro legitimne vsebine klobuchar.senate.gov. Kljub temu je Zakon o odstranitvi (Take It Down Act) zdaj v veljavi in pomeni prvi resni korak zvezne vlade ZDA v boju proti spolnemu izkoriščanju z umetno inteligenco v velikem obsegu.
• Zvezne države ZDA: Še preden je ukrepala zvezna oblast, so številne ameriške zvezne države sprejele lastne zakone. Kalifornija, Teksas, Virginija, New York in druge so v letih 2019–2023 sprejele predpise, ki prepovedujejo ustvarjanje ali razširjanje deepfake pornografije brez soglasja (pogosto uvrščeno pod zakone o maščevalni pornografiji ali spolni imitaciji). Leta 2025 so države še naprej izpopolnjevale zakonodajo. Na primer, Tennessee je uvedel zakon “Preventing Deepfake Images Act”, ki začne veljati 1. julija 2025 in uvaja civilne in kazenske tožbe za vsakogar, katerega intimna podoba je uporabljena brez soglasja wsmv.com wsmv.com. Pobuda je sledila potem, ko je lokalna televizijska meteorologinja odkrila, da se po spletu širijo njene ponarejene gole fotografije, zaradi česar je pričala o vplivu na njo in njeno družino wsmv.com. Tennessee je sprejel tudi zakon, ki kriminalizira same pripomočke za AI otroško pornografijo – kaznivo je zavestno posedovati, razširjati ali proizvajati programsko opremo, namenjeno ustvarjanju z umetno inteligenco generiranega gradiva spolne zlorabe otrok wsmv.com. Ta zakon priznava grozote otroške pornografije ustvarjene z umetno inteligenco in jih skuša preprečiti s ciljanjem na samo tehnologijo (posedovanje takega orodja v TN je zdaj kaznivo dejanje razreda E, proizvodnja pa razreda B) wsmv.com.
• Evropa – ukrepi na ravni EU: Evropska unija je ubrala dvojen pristop: splošna pravila o umetni inteligenci in posebne kazenske direktive. Prihajajoči Zakon o umetni inteligenci EU (pričakuje se, da bo dokončan v letih 2024/2025) bo zahteval, da vsebina, ustvarjena z generativno umetno inteligenco, izpolnjuje zahteve glede preglednosti. Deepfake posnetki, ki so razvrščeni kot umetna inteligenca z “omejenim tveganjem”, ne bodo popolnoma prepovedani, vendar morajo biti jasno označeni kot ustvarjeni z umetno inteligenco (npr. z vodnimi žigi ali opozorili), podjetja pa bodo morala razkriti podrobnosti o svojih učnih podatkih euronews.com euronews.com. Neupoštevanje lahko pomeni globe do 15 milijonov evrov ali več euronews.com. Poleg tega je EU sprejela Direktivo o nasilju nad ženskami, ki izrecno kriminalizira neprostovoljno ustvarjanje ali deljenje spolnih deepfake posnetkov euronews.com. Direktiva nalaga državam članicam EU, da tovrstno ravnanje prepovejo (natančne kazni določi vsaka država posebej) do leta 2027 euronews.com euronews.com. To pomeni, da bo po vsej Evropi ustvarjanje lažne pornografske slike nekoga brez njegove privolitve kaznivo dejanje, kar je usklajeno z obravnavo pravega maščevalnega pornografskega gradiva.
• Francija: Francija je leta 2024 sprejela odločne ukrepe z novo določbo v svojem kazenskem zakoniku. Zdaj je v Franciji nezakonito deliti kakršnokoli z umetno inteligenco ustvarjeno vizualno ali zvočno podobo osebe brez njenega soglasja euronews.com. Če je to storjeno prek spletne storitve, so kazni višje (do 2 leti zapora, 45.000 € globe) euronews.com. Pomembno je, da je Francija posebej prepovedala pornografske deepfake posnetke, tudi če bi jih kdo poskušal označiti kot lažne euronews.com. Tako je v Franciji ustvarjanje ali razširjanje spolnega deepfake posnetka kaznivo z do 3 leti zapora in 75.000 € globe euronews.com. Francoska zakonodaja prav tako pooblašča njenega digitalnega regulatorja ARCOM, da lahko prisili platforme k odstranitvi takšnih vsebin in izboljšanju sistemov za prijavo euronews.com.
• Združeno kraljestvo: Tudi Združeno kraljestvo je v letih 2023–2024 posodobilo zakone. Spremembe Zakona o spolnih kaznivih dejanjih bodo ustvarjanje spolnega deepfake-a brez soglasja kaznovale z do 2 letoma zapora euronews.com euronews.com. Ločeno Zakon o spletni varnosti 2023 (obsežna ureditev interneta) izrecno prepoveduje deljenje ali grožnjo z deljenjem nesoglasnih spolnih slik (vključno z deepfake-i) na družbenih omrežjih in zahteva od platform, da »proaktivno odstranijo« takšno gradivo ali preprečijo, da bi se pojavilo euronews.com. Če platforme ne ukrepajo, jim grozijo globe do 10 % svetovnega prihodka – kar je velik motiv za spoštovanje zakonodaje euronews.com. Vendar pa nekateri strokovnjaki opozarjajo, da Združeno kraljestvo še vedno ne kriminalizira ustvarjanja deepfake-a, ki ni deljen, kar pušča žrtve ranljive, če so slike shranjene zasebno (podobno kot v primeru Hongkonga) euronews.com. Pojavljajo se pozivi, da bi Združeno kraljestvo celo kriminaliziralo razvoj in distribucijo samih orodij za deepfake euronews.com.
• Danska: Junija 2025 je danski parlament sprejel prelomni zakon, ki posameznikom daje avtorske pravice nad lastno podobnostjo – v bistvu postane vaš obraz “vaša intelektualna lastnina” kot način boja proti deepfake-om euronews.com. Ta zakon bo prepovedal ustvarjanje ali deljenje “digitalnih posnemanj” značilnosti osebe brez soglasja euronews.com. “Imate pravico do lastnega telesa, lastnega glasu in lastnih obraznih potez,” je dejal danski minister za kulturo, ki je to predstavil kot zaščito pred dezinformacijami in spolno zlorabo euronews.com. Čeprav podrobnosti še niso znane, zakon nakazuje, da bo Danska obravnavala ustvarjanje deepfake-a o vas kot kršitev vaših “pravic do podobnosti”, podobno kot kršitev avtorskih pravic, kar bi lahko močno poenostavilo postopke odstranitve in pravne ukrepe.
• Južna Koreja: Južna Koreja je bila ena prvih držav, ki jo je močno prizadel deepfake pornografski material (glede na njene težave z digitalnimi spolnimi zločini v zadnjih letih). Do leta 2021 je Južna Koreja prepovedala ustvarjanje ali deljenje spolnih deepfake vsebin; konec leta 2024 je šla še dlje in kaznovala celo posedovanje ali ogled takšne vsebine. Zakon, sprejet septembra 2024 (podpisan s strani predsednika Yoona v 2024/25), je prepovedal nakup, posedovanje ali ogled spolno eksplicitnih deepfake slik/videov, kršiteljem pa grozi do 3 leta zapora cbsnews.com cbsnews.com. Ustvarjanje/razširjanje je bilo že prej nezakonito (5+ let zapora), z novim zakonom pa se je kazen zvišala na največ 7 let, če je bil zakon podpisan cbsnews.com. Ta agresiven pristop priznava, da so se te ponaredke pogosto izmenjevali med mladimi; dejansko je korejska policija leta 2024 poročala o 387 aretacijah v povezavi z deepfake spolno vsebino samo v prvi polovici leta – 80 % aretiranih je bilo najstnikov cbsnews.com. Problem je postal tako razširjen med najstniki (ponaredki so delali o sošolcih, učiteljih itd.), da ga Koreja obravnava kot resen zločin že samo iskanje takšnega materiala cbsnews.com cbsnews.com. Aktivisti v Seulu so protestirali z napisi “Ponovljeni deepfake spolni zločini, država je tudi sokrivec” in zahtevali ostrejše ukrepe cbsnews.com, na kar je vlada odgovorila s temi ukrepi.
• Kitajska: Pornografija kakršnekoli vrste je v Kitajski strogo prepovedana, kar velja tudi za z umetno inteligenco ustvarjeno pornografijo. Poleg tega je Kitajska januarja 2023 uvedla pionirske predpise o tehnologiji »globoke sinteze«, ki zahtevajo, da mora biti vsak z umetno inteligenco ustvarjen ali spremenjen medij, ki bi lahko zavajal, jasno označen ali opremljen z vodnim žigom ter prepovedujejo uporabo takšne tehnologije za posnemanje, goljufije ali ogrožanje varnosti oxfordmartin.ox.ac.uk afcea.org. V bistvu je Kitajska preventivno prepovedala neoznačene deepfake posnetke in dala oblastem široka pooblastila za kaznovanje tistih, ki jih ustvarjajo. V kombinaciji s splošno prepovedjo nespodobnega gradiva je NSFW vsebina z umetno inteligenco dvojno prepovedana – čeprav verjetno obstaja v podzemnih krogih, imajo kitajski cenzorji pravna orodja, da jo takoj izbrišejo in preganjajo.

Globalno je trend jasen: neprostovoljna spolna podoba z umetno inteligenco postaja kaznivo dejanje v različnih jurisdikcijah, platforme pa so dolžne to nadzorovati. Do konca leta 2025 je pravni okvir bistveno manj permisiven do deepfake pornografije kot pred dvema letoma, ko so imeli takšne zakone le nekateri zvezni ameriški državi in države, kot je Južna Koreja. Vendar pa ostajata izvajanje in ozaveščenost izziva. Številne žrtve še vedno ne vedo, da jih zakoni zdaj ščitijo, policija/tožilci pa so pogosto slabo opremljeni za preiskovanje anonimnih spletnih storilcev. Zakoni se tudi razlikujejo – nekje kaznujejo že zasebno ustvarjanje, drugje le, če je vsebina razširjena. Kljub temu je zagon k priznavanju spolne zlorabe z umetno inteligenco kot resnične zlorabe nedvoumen. Kot je dejal eden od ameriških pravnih profesorjev, ta val zakonodaje vrača moč v roke žrtvam in pošilja sporočilo, da »imate pravico do svoje podobe in telesa, tudi v dobi umetne inteligence« euronews.com.

Etična močvara: privolitev, deepfake in družbeni vpliv

Poleg pravne sfere NSFW umetna inteligenca odpira globoka etična in družbena vprašanja. V središču je vprašanje privolitve – ali je lahko eksplicitna vsebina sploh etična, če je ustvarjena brez privolitve (ali celo vedenja) upodobljenih oseb? Večina bi se strinjala, da so neprostovoljni deepfake posnetki očitno etično napačni, v bistvu oblika spolne zlorabe. A dileme segajo globlje: Kaj pa pornografija, ustvarjena z umetno inteligenco, ki uporablja podobe resničnih ljudi, pridobljene s privolitvijo (npr. učenje na komercialnih pornografskih videih) – je to »brez žrtev« ali izkorišča podobo nastopajočih brez dodatne privolitve ali nadomestila? Kaj pa povsem izmišljena AI pornografija – kjer ni upodobljene nobene resnične osebe – je to brez škode ali lahko normalizira nevarne fantazije (kot so izkoriščanje otrok ali scenariji posilstva)? In kako se pristranskosti v AI modelih odražajo v erotični vsebini?

Soglasje in zasebnost: Najbolj neposredna skrb je, da ljudje nimajo nobenega nadzora ali soglasja glede tega, kako bi lahko umetna inteligenca uporabila njihovo podobo. Vsak, ki je kdaj objavil fotografijo na spletu (ali tudi tisti, ki je niso, če ima znanec njihovo fotografijo), je teoretično v nevarnosti, da postane obraz pornografskega deepfakea. Ženske, še posebej tiste v javnosti, zdaj živijo z grozljivo realnostjo: lahko se zbudite in ugotovite, da internet “meni”, da ima vaše gole fotografije ali seks posnetke, zahvaljujoč umetni inteligenci theguardian.com. To krši temeljno osebno dostojanstvo in zasebnost. Kot pravi danska zakonodaja, bi morali imeti pravico do svojega obraza in telesa – a trenutna tehnologija in norme tega ne zagotavljajo. Etiki trdijo, da že sam obstoj teh ponaredkov, tudi če niso široko razširjeni, predstavlja škodo – gre za prikaz spolnega dejanja, v katerega ste vključeni brez vašega dovoljenja. To lahko psihološko učinkuje kot oblika spolnega napada. Dejstvo, da “internet je večen”, škodo še poveča: ko so te slike enkrat v obtoku, se lahko večkrat pojavijo, zaradi česar žrtve ponovno doživljajo travmo. Vsi ti dejavniki naredijo neprostovoljno AI pornografijo za resno etično kršitev. Družba jo začenja obravnavati na enaki ravni kot druge spolne zločine glede stigme in posledic, a kot omenjeno, zakonodaja še vedno zaostaja.

Deepfake in resnica: Drugi vidik je, kako deepfake zabriše resničnost. Ker so AI pornografske slike vse bolj resnične, gledalci morda ne bodo vedeli, da so ponarejene, kar še dodatno škoduje ugledu. Lažen seks video lahko nekomu vzame službo, uniči odnose ali se uporabi za izsiljevanje (“sextortion”). Tudi če se kasneje dokaže, da je ponaredek, ponižanja in škode za ugled ni mogoče popolnoma izbrisati. To etično še poveča odgovornost ustvarjalcev takšnih ponaredkov – igrajo se z resničnimi življenji in preživetji. To poudarja tudi družbeni izziv: kako ohraniti zaupanje v medije, ko videno ni več verodostojno? Nekateri strokovnjaki deepfake označujejo kot “napad na resnico”, ki je v kontekstu pornografije orožje za ponižanje in kaznovanje žensk theguardian.com.

Mladoletniki in z umetno inteligenco ustvarjen CSAM: Morda je najbolj soglasno sprejeta etična meja z umetno inteligenco ustvarjen material spolne zlorabe otrok (CSAM) – torej upodobitve mladoletnikov v spolnih scenarijih. Tudi če pri njegovem nastanku ni bil poškodovan noben pravi otrok, skoraj vsi regulatorji in platforme obravnavajo z umetno inteligenco ustvarjeno otroško pornografijo kot enako nezakonito in škodljivo kot pravi CSAM. Etični razlog je jasen: takšna vsebina seksualizira otroke in lahko spodbuja resnične zločine. Pogosto je ustvarjena tudi s fotografijami pravih otrok (npr. vzame se nedolžna fotografija otroka in jo z umetno inteligenco “razgali” ali spremeni – grozljivo kršenje otrokovega dostojanstva in zasebnosti) centeraipolicy.org. Žal obstajajo dokazi, da se to dogaja. Raziskovalec s Stanforda, David Thiel, je odkril stotine znanih slik zlorabe otrok, vključenih v priljubljen učni nabor podatkov za Stable Diffusion centeraipolicy.org. To pomeni, da je bil model delno izurjen na resničnih kriminalnih slikah zlorabe, kar je izjemno problematično. Tudi če jih zdaj odstranjujejo, dejstvo, da so bile sploh uporabljene, poudarja, kako lahko razvijalci umetne inteligence nenamerno izurijo modele na zlorabljajoči vsebini. Še huje, brez skrbnih varovalk bi lahko umetna inteligenca ustvarila nove slike, ki spominjajo na te nezakonite učne primere. Nekateri uporabniki na forumih so poskušali uporabiti umetno inteligenco za “razgaljanje” fotografij mladoletnikov ali ustvarjanje prepovedanih slik – trend, ki ga organi pregona pospešeno poskušajo preprečiti. Etično gledano obstaja skoraj soglasje: umetna inteligenca nikoli ne bi smela biti uporabljena za ustvarjanje CSAM. Vendar pa je to težko uresničiti – modeli morajo biti izurjeni, da izrecno zavrnejo vsak poskus ali zahtevo po takšni vsebini, ali pa morajo zakoni vsak tak poskus opredeliti kot hudo kaznivo dejanje (kot je to storil Tennessee). Tehnološka podjetja zdaj pogosto vgradijo filtre, tako da bo že sama beseda “otrok” ali namig na mladoletnost v zahtevi blokirana. A nasprotujoči si uporabniki iščejo obvode. Vprašanje je izjemno pomembno, saj če se umetna inteligenca zlorabi na ta način, lahko ponovno viktimizira žrtve zlorab in pedofilom ponudi novo gradivo pod lažnim izgovorom, da “noben pravi otrok ni bil poškodovan.” Mnogi etiki nasprotujejo argumentu “zločina brez žrtve” s poudarkom, da uživanje kakršnekoli upodobitve izkoriščanja otrok, resnične ali z umetno inteligenco ustvarjene, verjetno spodbuja resnične zlorabe s tem, ko jih normalizira centeraipolicy.org reddit.com. Zato je to trda etična meja, o kateri se večina strinja: ustvarjanje ali uporaba umetne inteligence za spolne vsebine z otroki je kategorično napačno in jo je treba preprečiti z vsemi sredstvi (tehničnimi in pravnimi).

Podatki za učenje in prisiljena vsebina: Obstaja manj očitno, a pomembno etično vprašanje pri tem, kako so NSFW AI modeli zgrajeni. Številni generatorji AI pornografije so bili naučeni na velikih zbirkah podatkov, zbranih s spleta – vključno s pornografskimi spletnimi stranmi. To pomeni, da so slike resničnih ljudi (porno igralcev, webcam modelov, celo osebne gole fotografije, ki so ušle v javnost) pristale kot podatki za učenje brez soglasja teh posameznikov. AI podjetja so to storila tiho, šele kasneje so raziskovalci začeli razkrivati obseg tega početja. Na primer, za en AI generator golih slik z imenom “These Nudes Do Not Exist” so ugotovili, da je bil naučen na vsebini iz “Czech Casting”, porno podjetja, ki je pod preiskavo zaradi prisiljevanja žensk v spolne odnose centeraipolicy.org. Tako je bil AI dobesedno naučen na videoposnetkih žensk, ki so bile morda žrtve trgovine z ljudmi ali posilstva – in se je tako naučil ponovno ustvarjati slike njihovih teles ali drugih v podobnih položajih. Te ženske zagotovo niso dale soglasja za nadaljnjo uporabo svojih slik za ustvarjanje neskončno nove pornografije. Kot je ena od žrtev te situacije povedala o svoji sliki v zbirki za učenje AI: “zdi se mi nepošteno, zdi se mi, kot da mi jemljejo svobodo” centeraipolicy.org. Tudi v manj ekstremnih primerih so modeli morda zajeli milijone vsakdanjih fotografij žensk s socialnih omrežij ali modnih snemanj – te osebe prav tako niso privolile, da postanejo izvorni material za ustvarjanje pornografije. Vsak AI porno model nosi duhove resničnih ljudi v svojih podatkih za učenje. Mnogim od teh ljudi je to morda povsem v redu – na primer, odraslim izvajalcem, ki so prostovoljno snemali pornografijo, to morda ne moti ali celo spodbujajo tehnologijo, ki nadgrajuje njihovo delo. Drugi (kot so zasebniki na ušlelih slikah ali porno igralci, ki so zapustili industrijo in želijo naprej) pa bi bili zgroženi, če bi izvedeli, da AI morda za vedno premeša njihovo podobo v novo spolno vsebino. To odpira etična vprašanja intelektualne lastnine in pravic do podobnosti. Bi morali biti posamezniki plačani, če so njihove slike pomagale ustvariti dobičkonosen AI porno orodje? Nekateri menijo, da da – ti modeli “neposredno služijo na račun moških in žensk, ki so bili v podatkih za učenje”, brez kakršnekoli zahvale centeraipolicy.org. Drugi menijo, da če so bili podatki javno dostopni, so po trenutni zakonodaji o intelektualni lastnini primerni za učenje AI. Etični konsenz se nagiba vsaj k temu, da se jasno nesoglasna ali zlorabljajoča vsebina ne uporablja za učenje (npr. znani primeri maščevalne pornografije ali videoposnetki trgovine z ljudmi bi morali biti prepovedani). Podjetja začenjajo preverjati zbirke podatkov za takšno vsebino, a zgodovinsko gledano tega niso počela, kar je zaskrbljujoče. Kot je zapisano v Center for AI Policy, so AI porno modeli skoraj “zagotovo” bili naučeni na nekaterih nesoglasnih intimnih slikah (NCII) centeraipolicy.org. V prihodnje se pojavljajo pozivi k strožji kuraciji zbirk podatkov in morda celo k registru “opt-out”, da bi ljudje lahko odstranili svoje slike iz zbirk za učenje AI <a href=”https://www.centeraipolicy.org/work/the-senate-passes-the-defiance-act#:~:text=These%20are%20contentious%20topics.%20%E2%80%9COpt,content%20to%20train%20centeraipolicy.org. To je tehnično in logistično zapleteno, vendar je razprava o podatkovni etiki v generativni umetni inteligenci vse glasnejša.

Izmišljena, a ekstremna vsebina: Še eno zapleteno področje – če ni upodobljena nobena resnična oseba, ali obstajajo kakšne meje, kaj naj bi AI pornografija ustvarjala? Nekateri se bojijo, da bi AI lahko omogočila ultra-ekstremno ali obrobno spolno vsebino, ki bi bila v resničnem svetu nemogoča, in da bi to lahko bilo škodljivo. Na primer, simulacije posilstva, bestialnosti, “snuff” (umor) pornografije ali, kot je bilo omenjeno, scenarijev z otroki. Zagovorniki bi lahko rekli: “Boljše, da to naredi AI kot da bi to nekdo storil v resnici,” a kritiki se bojijo, da bi to lahko desenzibiliziralo ljudi ali jih spodbudilo k dejanjem. Vsaj postavlja moralna vprašanja o tem, ali dovoljevanje AI, da zadovoljuje takšne fantazije, prestopi družbeno mejo. Platforme, kot je Oh, pravijo, da blokirajo vse “nezakonite prakse” – njihovi boti se ne bodo ukvarjali z vsebino o pedofiliji ali drugimi kriminalnimi spolnimi temami sifted.eu. To je etično varovalo, ki ga odgovorna podjetja poskušajo uveljaviti. Toda odprtokodni modeli nimajo prirojene morale; uporabniki jih lahko spodbudijo, da ustvarijo praktično karkoli, če model ni izrecno omejen. To pomeni, da je breme na posameznikovi vesti (in lokalni zakonodaji). Etično stališče večine AI skupnosti je, da postavijo stroge filtre proti nezakoniti ali nasilni spolni vsebini. Kljub temu, kot je ena ustvarjalka na OnlyFans mračno napovedala, je verjetno le vprašanje časa, kdaj bo nekdo uporabil AI za ustvarjanje stvari, kot so “AI zloraba otrok, označena kot igra vlog z različnimi starostmi, ali AI scenariji posilstva,” in da “o tem je treba več govoriti” reddit.com. Etično vprašanje ostaja nerešeno: ali je obstoj hiperrealistične izmišljene upodobitve zločina sam po sebi škodljiv? Mnogi menijo, da da, še posebej, če vključuje mladoletne (kjer je to jasno kaznivo). Za druge ekstremne fantazije družba še ni dosegla soglasja, a to je področje aktivne razprave v digitalni etiki.

Spol in reprezentacija: NSFW AI prav tako podeduje pristranskosti in stereotipe iz svojih izvornih podatkov. Velik del mainstream pornografije je bil kritiziran zaradi seksističnih ali nerealističnih prikazov žensk, AI pa lahko te vzorce še okrepi. Če so modeli večinoma trenirani na pornografiji, ki objektivizira ženske ali prikazuje le ozek spekter telesnih tipov, bodo tudi rezultati to odražali. To lahko utrjuje nerealne lepotne standarde ali spolne scenarije. Poleg tega so večina AI erotičnih spremljevalk in slikovnih botov privzeto ženske, kar je namenjeno domnevno heteroseksualnim moškim uporabnikom. Na primer, platforma Oh ima večino AI botov kot “ženske” v pomanjkljivih avatarjih sifted.eu. Kritiki opozarjajo, da to utrjuje dojemanje žensk kot digitalnih igračk in lahko vpliva na to, kako (večinoma moški) uporabniki dojemajo resnične odnose. Nekateri ustanovitelji AI spremljevalcev sami priznavajo, da bi lahko prihodnost intimnosti postala “čudna” ali “distopična”, če bi se ljudje odtujili od resničnih partnerjev v korist AI fantazije sifted.eu. Trdi se, da bi te AI “punce” lahko utrjevale škodljive stereotipe o tem, da so ženske vedno na voljo, ustrežljive in prilagojene vsaki želji sifted.eu. Psihologi in feministke izražajo skrb, da bi takšne tehnologije lahko še poslabšale težave, kot so osamljenost, mizoginija ali izkrivljena pričakovanja glede spolnosti. Po drugi strani pa zagovorniki pravijo, da bi ta orodja lahko nudila varen izhod tistim, ki imajo težave v človeških odnosih, ali pa ljudem pomagala raziskovati spolnost brez stigme. Etično gledano gre za dvorezen meč: Ali bi lahko AI punca nekomu pomagala postati boljši komunikator ali nudila tolažbo? Mogoče. Ali bi lahko prav tako omogočila, da se nekdo umakne iz resničnih človeških odnosov in ženske obravnava kot zgolj prilagodljive predmete? Mogoče. Družba se bo morala s temi vprašanji še bolj soočiti, ko bodo takšne storitve rasle.

Povzetek: etika NSFW AI se vrti okoli privolitve, škode in družbenih sporočil, ki jih pošiljamo o spolnosti in osebnosti. Zlato pravilo etične pornografije – da je vsaka prikazana oseba polnoleten, privolil udeleženec – je popolnoma postavljeno na glavo z AI pornografijo, kjer pogosto nihče od prikazanih dejansko ni “sodeloval” in zato ni mogel privoliti. Prisiljeni smo razširiti pojem privolitve na lastno podobo in celo lastne podatke. Kot je zapisal en komentar, nas ta tehnologija sili, da ponovno premislimo “same temelje intimnosti, privolitve in ustvarjalne svobode” v digitalni dobi chicagoreader.com. Etična pokrajina je polna sivih con, a vse več je soglasja, da je treba določene rdeče črte (vsebina z otroki, neprivoljena uporaba resničnih identitet) strogo uveljavljati in da mora spoštovanje posameznikove avtonomije voditi, kaj je sprejemljivo. Hkrati moramo biti previdni, da ne patologiziramo vsega ustvarjanja spolnih vsebin z AI – za odrasle, ki to uporabljajo zase in s privolitvijo, je lahko to pozitivno orodje. Izziv je omogočiti, da inovativne, privoljne uporabe uspevajo, medtem ko izkoreninimo izkoriščevalske.

Zagovorniki proti kritikom: razprava o NSFW AI

Reakcije na NSFW AI so polarizirane. Nekateri jo slavijo kot vznemirljivo evolucijo v industriji za odrasle in osebno svobodo; drugi jo obsojajo kot družbeno grožnjo. Oglejmo si ključne argumente obeh strani:

Argumenti podpornikov (za NSFW AI):

• Ustvarjalna svoboda in spolno raziskovanje: Zagovorniki trdijo, da je lahko AI pozitiven izhod za raziskovanje spolnosti, fantazij in fetišev na zaseben, neobsojajoč način. Uporabniki, ki bi jih bilo v resničnem življenju sram ali ne bi mogli uresničiti določenih fantazij, jih lahko varno raziskujejo z vsebinami ali klepetalniki, ki jih ustvari AI. To bi lahko zmanjšalo tabu in sram okoli spolnosti. Nekateri to imenujejo celo opolnomočenje: »odrasli, ki privolijo, lahko skupaj ustvarjajo svoje vizualne fantazije v varnem, zasebnem okolju« z AI, pravi direktor ene AI platforme za odrasle globenewswire.com. Po tem pogledu je generativna AI zgolj orodje – podobno erotični umetnosti ali spolnim igračkam – ki lahko izboljša zdravo spolno izražanje.
• Personalizacija in inovacije v industriji za odrasle: Podporniki poudarjajo, da NSFW AI omogoča neprimerljivo personalizacijo v primerjavi s tradicionalno pornografijo globenewswire.com. Namesto pasivnega sprejemanja vsega, kar ustvarijo studii, si lahko posamezniki ustvarijo vsebino, ki je natančno prilagojena njihovim željam (telesne značilnosti, scenariji itd.). Ta model, ki ga vodi uporabnik, velja za inovacijo, ki »ruši« enotno paradigmo vsebin za odrasle globenewswire.com. Lahko zadovolji nišne interese, ki jih glavni proizvajalci ignorirajo (dokler so zakoniti). Startupi na tem področju pogosto predstavljajo AI kot kvantni preskok v načinu dostave vsebin za odrasle – nadzor je v rokah uporabnika globenewswire.com. Prav tako trdijo, da spoštuje zasebnost: uporabnikom ni treba komunicirati z drugo osebo ali razkrivati svojih fantazij komurkoli razen AI.
• Varna zamenjava za škodljive želje: Bolj kontroverzen argument v prid je, da bi lahko AI pornografija služila kot neškodljiva zamenjava za sicer škodljivo vedenje. Na primer, nekateri so teoretizirali, da bi pedofili, ki uporabljajo CGI ali z umetno inteligenco ustvarjeno otroško pornografijo, lahko potešili svoje nagone, ne da bi škodovali resničnim otrokom (ta argument je zelo sporen in ga večina strokovnjakov zavrača, a se vseeno pojavlja). Drugi predlagajo, da bi tisti z nasilnimi spolnimi fantazijami lahko uporabili AI simulacije namesto iskanja resničnih žrtev. V bistvu gre za stališče “bolje, da to izživijo na piksljih kot na ljudeh”. Vendar pa to ostaja špekulativno in etično sporno – ni jasnih dokazov, da AI zmanjšuje dejansko kriminaliteto; lahko jo celo spodbuja (kot odgovarjajo kritiki). Kljub temu nekateri zagovorniki svobode govora menijo, da tudi najbolj odvratne fantazije v obliki AI predstavljajo miselne eksperimente, ki ne bi smeli biti kriminalizirani, dokler ni neposredno prizadeta nobena resnična oseba. To stališče ni prevladujoče, vendar obstaja v razpravah o ekstremnih vsebinah reddit.com.
• Podpora nišnim skupnostim in identitetam: Umetna inteligenca lahko ustvari vsebine za skupnosti, ki so bile v preteklosti slabo zastopane v glavni pornografiji – na primer določene LGBTQ fantazije, BDSM scenarije s specifičnimi parametri privolitve ali erotično umetnost s fantastičnimi elementi. Nekateri člani furry ali hentai subkultur na primer uporabljajo AI umetnost za ustvarjanje vsebin, ki bi bile z resničnimi igralci nemogoče. To se vidi kot širjenje obsega erotične umetnosti. Poleg tega lahko AI omogoči ljudem z invalidnostmi ali drugimi omejitvami, da doživijo virtualno intimnost na načine, ki jih sicer ne bi mogli. Tisti, ki imajo težave s socialno interakcijo, lahko najdejo družbo v AI partnerju, ki jih ne obsoja. Zagovorniki, kot je ustanovitelj startupa “AI OnlyFans”, trdijo, da bi ti AI spremljevalci lahko bili “neto pozitivni” za družbo, še posebej za ljudi, ki jim primanjkuje drugih oblik druženja sifted.eu. Po njegovem mnenju, če je nekdo osamljen ali uživa izkoriščevalske oblike pornografije, je AI partner nadzorovana, morda bolj zdrava alternativa sifted.eu.
• Soglasje ustvarjenih proti resničnim modelom: Še en argument v prid NSFW AI je, da bi uporaba z umetno inteligenco ustvarjenih igralcev (ki v resnici ne obstajajo) v pornografiji lahko odpravila številne težave v industriji za odrasle. Ni tveganja izkoriščanja dejanske izvajalke, če je porno igralka ustvarjena z umetno inteligenco. Nihče ni dejansko izpostavljen tveganju za spolno prenosljive bolezni ali zlorabe na AI setu. V teoriji bi to lahko sčasoma nadomestilo del resnične porno produkcije in tako zmanjšalo škodo za človeške izvajalce v tveganih situacijah. (Seveda je protiargument ta, da se ti izvajalci pogosto sami odločijo za to delo in bi lahko izgubili dohodek, če bi jih nadomestili, zato je zadeva zapletena.) Futuristi pa si predstavljajo svet, kjer bi popolnoma realistična AI pornografija lahko zadovoljila povpraševanje, ne da bi bila pri tem kakršnakoli resnična oseba izpostavljena morebitno ponižujočemu delu – v bistvu bolj etična dobavna veriga pornografije. Nekateri ustvarjalci za odrasle celo prostovoljno ustvarjajo “digitalne dvojčke” samih sebe (prek licenciranja svojih slik/glasov), da lahko AI opravi del dela namesto njih – s soglasjem in delitvijo dobička sifted.eu. Če bi se ta model razširil, bi lahko človeški ustvarjalci zaslužili denar, medtem ko bi del ustvarjanja vsebin prepustili AI pod svojim nadzorom, kar bi lahko bila rešitev, koristna za obe strani.
• Svoboda govora in umetniška vrednost: Z vidika državljanskih svoboščin nekateri zagovarjajo celo NSFW AI kot obliko izražanja. Erotična umetnost in pornografija sta že dolgo zaščiteni obliki govora (razen obscenosti) v mnogih državah. AI zgolj razširja medij izražanja. Če lahko umetnik nariše akt ali posname soglasno porno sceno, zakaj ne bi smel spodbuditi AI, da ustvari umetniško golo podobo? Trdijo, da bi popolna prepoved spolnih vsebin, ustvarjenih z AI, pomenila pretiran poseg, ki bi lahko cenzuriral seks-pozitivno umetnost ali legitimne ustvarjalne projekte. Če so vsi vpleteni soglašali (kar je pri AI zapleteno, a recimo, da je postopek soglasen), menijo, da bi morali imeti odrasli svobodo ustvarjanja in uživanja spolnih vsebin po lastni izbiri, z AI ali brez nje. Skupine, kot je Electronic Frontier Foundation, so opozorile pred širokimi prepovedmi deepfake tehnologije, saj ima ta tudi koristne uporabe in je bolje ciljno ukrepati proti zlorabam kot prepovedati tehnologijo kot tako klobuchar.senate.gov. Ta libertarni pogled v debati pravi: kaznujte dejansko škodo (kot je nesoglasna uporaba), vendar ne kriminalizirajte orodja ali soglasne fantazije.

Argumenti kritikov (proti NSFW AI):

• Kršitve soglasja in zloraba podob: Kritiki poudarjajo, da je NSFW AI že omogočil množično zlorabo soglasja in podob posameznikov. Epidemija neprostovoljnih deepfake posnetkov govori sama zase – življenja so uničena, zasebnost je razbita. Trdijo, da to ni obrobni pojav, temveč glavni način uporabe deepfake tehnologije doslej: 96 % deepfake posnetkov je bilo pornografskih in praktično vsi brez soglasja theguardian.com. Ta tehnologija se po njihovem mnenju že po naravi zlorablja, zaradi česar je nevarno orožje. Tudi kadar ljudje niso neposredno tarča, je zaskrbljujoče, da nimajo nobene možnosti dati soglasja za vključitev v učne podatke ali v tuje fantazije. Osebi je lahko spolna avtonomija popolnoma spodkopana, če drugi ustvarjajo eksplicitne slike nje iz nič. Kritiki pravijo, da je to v osnovi neetično in bi moralo biti obsojeno podobno kot voajerizem ali druge spolne zlorabe. Obstoj “stotin AI aplikacij za slačenje”, ki so zlahka dostopne klobuchar.senate.gov, pomeni, da je lahko vsaka ženska fotografija v nekaj sekundah spremenjena v pornografsko, kar mnogi označujejo za nevzdržno in zastrašujoče.
• Čustvena in psihološka škoda: Biti žrtev AI pornografskega ponaredka lahko povzroči hudo duševno stisko – ponižanje, anksioznost, PTSD, celo samomorilne misli. Tragičen primer: 17-letni fant v ZDA je leta 2022 storil samomor, potem ko ga je izsiljevalec s ponarejenimi golimi fotografijami izsiljeval klobuchar.senate.gov. Psihološka obremenitev žensk, ki odkrijejo deepfake posnetke sebe, je ogromna; opisujejo jo kot virtualno obliko spolnega napada. Zato kritiki vidijo NSFW AI kot orodje, ki omogoča nadlegovanje in zlorabo v potencialno ogromnem obsegu – kot “izredne razmere” za ranljive ljudi (zlasti ženske, mladoletne, LGBTQ posameznike, ki bi lahko bili tarča sovražnih spolnih ponaredkov itd.) theguardian.com. Trdijo, da nobene domnevne koristi te tehnologije ne odtehtajo resnične škode, ki se dogaja zdaj.
• Normalizacija izkoriščevalske vsebine: Kritiki se bojijo, da bi poplava AI pornografije, še posebej ekstremnih ali neprostovoljnih scenarijev, lahko normalizirala takšne slike in oslabila družbene sankcije glede zasebnosti in privolitve. Če postanejo lažne nage slike slavnih oseb ali sošolcev »običajna internetna roba«, se lahko ljudje desenzibilizirajo za kršenje zasebnosti drugih. To bi lahko tudi spodbujalo mizogine miselnosti (dojemanje žensk kot vedno dostopnih spolnih objektov, katerih slike se lahko uporablja po želji). Etično je to primerljivo z maščevalno pornografijo ali snemanjem pod krilom – dopuščanje širjenja take vsebine pošilja sporočilo, da ženska telesa niso njihova last. Poleg tega kritiki menijo, da bi AI lahko stopnjevala deviantne okuse – npr. nekdo, ki uživa v AI-simulirani posiljevalski pornografiji, bi lahko postal bolj nagnjen k nasilju, ali pa bi pedofil z AI-generirano otroško pornografijo še vedno lahko napredoval do zlorabe pravih otrok. Čeprav so dokazi predmet razprav, številni psihologi pozivajo k previdnosti, saj lahko mediji okrepijo vedenje.
• Vpliv na odnose in družbo: Nekateri sociologi in feministke izražajo zaskrbljenost, da bi lahko AI spolni spremljevalci in hiperpersonalizirana pornografija oslabili resnične človeške odnose. Če se veliko ljudi zateka k AI »puncam«, ki so popolnoma ustrežljive, kaj se zgodi z njihovo sposobnostjo vzpostavljanja odnosov z resničnimi partnerji, ki imajo lastne potrebe in meje? Obstaja skrb glede naraščajoče socialne izolacije in izkrivljenih pričakovanj glede seksa in romantike. Ustanovitelj ene izmed aplikacij za AI spremljevalce je sam to označil kot potencialno »zelo distopično« in da bi lahko ustvarilo »čudno prihodnost intimnosti«, kjer se ljudje odtujujejo drug od drugega sifted.eu. Okrepljeni stereotipi – pogosto so AI punce podrejene ženske osebnosti – bi lahko utrjevali seksistična stališča med uporabniki. Kritiki tako menijo, da bi NSFW AI lahko poslabšal težave, kot so osamljenost, mizoginija in komodifikacija intimnosti.
• Grožnja za umetnike, izvajalce in delavce: Tisti v ustvarjalnih poklicih in industriji za odrasle vidijo NSFW umetno inteligenco kot grožnjo svojemu preživetju in pravicam. Vizualni umetniki (npr. ilustratorji erotike ali modeli) ugotavljajo, da umetna inteligenca brez dovoljenja pobira njihova dela in nato ustvarja nove slike v njihovem slogu ali z njihovo podobo. To doživljajo kot krajo intelektualne lastnine in spodkopavanje trga za naročena umetniška dela. Fotografom je v skrbeh, da bodo generatorji slik z umetno inteligenco nadomestili najemanje modelov za fotografiranja. Porno igralci in spolni delavci so zaskrbljeni, da bodo “kloni” z umetno inteligenco ali povsem izmišljeni AI modeli odvrnili potrošnike – ali pa preplavili trg z vsebinami, ki razvrednotijo njihovo delo. Več ustvarjalcev na OnlyFans je poročalo o padcu prihodkov in pritožbah oboževalcev, verjetno zaradi konkurence z vsebinami, ki jih ustvari umetna inteligenca, saj so cenejše in vedno na voljo reddit.com. Menijo, da gre za nelojalno konkurenco, ker si je umetna inteligenca v bistvu prisvojila njihove podobe in privlačnost brez truda ali človeškega pristopa, kar bo cene za resnične delavce potisnilo na nevzdržne ravni. Spolne delavke in delavci se tudi bojijo, da bodo pod pritiskom, da uporabljajo umetno inteligenco za ustvarjanje več vsebin ali da bodo na voljo 24/7, kar še dodatno blagoizira njihovo delo reddit.com. Sindikati in zagovorniške skupine so zaskrbljeni zaradi sveta, kjer bi podjetja raje izbrala AI porno zvezdo (brez pravic, zahtev ali plačila) kot pa človeka – scenarij, ki bi lahko izbrisal delovna mesta in izkoriščal podobnosti izvajalcev, ki so prvotno trenirali te modele. Skratka, kritiki vidijo NSFW umetno inteligenco kot podkopavanje človeške ustvarjalnosti in dela z uporabo človeških podatkov za ustvarjanje neskončne zaloge brezplačnih (ali poceni) vsebin.
• Spolzek teren morale in prava: S stališča politike kritiki trdijo, da bi lahko pomanjkanje strogih omejitev za NSFW umetno inteligenco zdaj vodilo v neobvladljivo prihodnost. Če sprejmemo AI pornografijo kot “samo fantazijo”, kaj se zgodi, ko se preplete z resničnimi vprašanji, kot je privolitev? Na primer, če nekdo ustvari AI pornografijo svojega bivšega in trdi, da gre le za fantazijo, ali je to opravičljivo? Večina bi rekla ne – bivši je očitno prizadet. Zato se kritiki nagibajo k načelu previdnosti: meje je treba postaviti zgodaj. Nekateri so celo zagovarjali, da bi orodja za ustvarjanje deepfake obravnavali tako kot orodja za lomljenje ključavnic ali hekerska orodja – niso nujno nezakonita, a so strogo nadzorovana, orodja, ki so očitno namenjena zlorabi (kot so “nudify” aplikacije, ki obstajajo izključno za neprostovoljno slačenje slik), pa bi povsem prepovedali. Etiki, ki zagovarjajo strogo regulacijo, trdijo, da potencial za zlorabo močno presega redke pozitivne primere uporabe. Pogosto se sklicujejo na glasove žrtev: kot je dejal eden od tehnoloških etikov, “Najstnica, ki se vidi v AI-generirani pornografiji – ta ena izkušnja, to eno uničeno življenje, upravičuje stroge omejitve te tehnologije.” Svoboda izražanja je pomembna, pravijo, vendar ne sme biti na račun avtonomije in varnosti drugih.

Vredno je omeniti, da niso vsi na enem ali drugem ekstremu – mnogi priznavajo tako obljube kot nevarnosti NSFW umetne inteligence. Na primer, uporabnik morda ceni možnost ustvarjanja prilagojene erotike s fiktivnimi liki (neškodljiva uporaba), hkrati pa popolnoma obsoja uporabo za ponarejanje resnične osebe. Razprava se zato pogosto osredotoča na to, kje potegniti mejo. Zdi se, da se v javni razpravi oblikuje soglasje: AI vsebine za odrasle so sprejemljive le z dovoljenjem in transparentnostjo, in so strogo prepovedane, kadar vključujejo resnične osebe brez dovoljenja ali kakršnekoli mladoletnike. Tudi mnogi tehnologi, ki podpirajo AI vsebine za odrasle, se strinjajo, da so neprostovoljni deepfake-i neopravičljivi in bi morali biti kriminalizirani cbsnews.com. Po drugi strani pa tudi nekateri kritiki priznavajo, da bi morali odrasli s soglasjem imeti možnost uporabe teh orodij zase (na primer, par, ki ustvarja AI umetnost svoje skupne fantazije, ali spolna delavka, ki uporablja AI za širitev svojega posla, bi morala biti izbira posameznika).

Delitev med podporniki in kritiki včasih poteka po liniji tehnološkega optimizma proti družbenemu skepticizmu. Tehnološki navdušenci vidijo NSFW AI kot vznemirljivo področje (s nekaterimi izzivi za upravljanje), medtem ko družbeni zagovorniki to vidijo kot novo obliko digitalne zlorabe, ki jo je treba omejiti. Obe perspektivi sta legitimni – in izziv v prihodnosti bo maksimirati koristi (ustvarjalna svoboda, zasebno uživanje, inovacije v industriji) ter minimizirati škodo (neprostovoljno izkoriščanje, dezinformacije, izpodrivanje delavcev). Kakršnakoli rešitev bo zahtevala prispevek tehnologov, zakonodajalcev, etikov, industrije za odrasle in žrtev zlorabe slik. Do leta 2025 se je ta pogovor resnično začel.

(Za povzetek, tukaj je hitra primerjava obeh strani:)

• Podporniki pravijo, da NSFW AI krepi ustvarjalnost odraslih, omogoča varno uresničevanje fantazij in lahko celo pomaga ustvarjalcem s soglasjem pri monetizaciji ali osamljenim posameznikom pri iskanju družbe – v bistvu tehnološka evolucija pornografije, ki, če se uporablja etično, nikomur ne škoduje in povečuje osebno svobodo globenewswire.com sifted.eu.
• Kritiki pravijo, da to spodbuja val spolnih zlorab na podlagi slik, spodjeda privolitev in zasebnost, potencialno izkrivlja uporabnikovo dojemanje spolnosti in odnosov ter izkorišča podobe in delo resničnih ljudi za dobiček brez njihovega soglasja theguardian.com reddit.com. Po njihovem mnenju so družbeni stroški NSFW umetne inteligence (zlasti za ženske in ranljive skupine) veliko večji od zasebnih koristi, ki jih imajo nekateri uporabniki, zato so potrebne stroge omejitve in nadzor.

Protiudar: moderiranje vsebin z umetno inteligenco in varovala za NSFW gradivo

Glede na tveganja NSFW umetne inteligence poteka vzporedna tekma za razvoj tehnoloških in političnih varoval za njeno upravljanje. Ta boj poteka na več frontah: razvoj boljših orodij za zaznavanje vsebin, ustvarjenih z umetno inteligenco, uvajanje filtrov za moderiranje vsebin ter spodbujanje norm ali vodnih žigov za razlikovanje med resničnim in lažnim. Tukaj je, kako umetna inteligenca in platforme poskušajo zajeziti temno plat NSFW umetne inteligence:

• Avtomatizirani NSFW filtri: Številni generatorji slik z umetno inteligenco vključujejo klasifikatorje pornografije, ki poskušajo blokirati ali filtrirati eksplicitne rezultate. Na primer, uradna izdaja Stable Diffusion ima “Safety Checker”, ki označi in zamegli gole ali spolne slike arxiv.org. OpenAI-jev DALL·E preprosto zavrne vsak poziv, ki namiguje na spolno vsebino. Midjourney ima obsežen seznam prepovedanih besed in uporablja umetno inteligenco za razumevanje konteksta poziva – ne bo ustvaril slik, če sumi, da je zahteva pornografska ali izkoriščevalska arxiv.org. Ti filtri niso popolni (uporabniki nenehno najdejo načine, kako jih zaobiti, na primer z evfemizmi ali napačno črkovanimi prepovedanimi izrazi arxiv.org). Kljub temu preprečujejo naključno ali nenamerno ustvarjanje NSFW slik s strani splošnih uporabnikov. Delujejo kot prva obrambna linija, zlasti na večjih platformah, ki ne želijo gostiti eksplicitnih vsebin. Nekatere odprtokodne različice te filtre odstranijo, a potem odgovornost preide na uporabnika (in na vsako platformo, kjer je vsebina objavljena).
• Orodja za zaznavanje deepfake vsebin: Na raziskovalni strani je veliko truda vloženega v algoritme za zaznavanje deepfake vsebin. Podjetja, kot je Microsoft, in zagonska podjetja, kot je Sensity, so razvila umetno inteligenco, ki analizira videoposnetke/slike za znake manipulacije (na primer neskladna osvetlitev, artefakti na obrazu ali digitalni vodni žigi). V eni izmed ocen je imel model Hive Moderation (sistem za moderiranje z umetno inteligenco, ki ga uporabljajo nekatera družbena omrežja) najvišjo natančnost pri zaznavanju likov, ustvarjenih z umetno inteligenco, v primerjavi s pravimi emerginginvestigators.org. Te detektorje uporabljajo platforme za pregledovanje naloženih vsebin (npr. Facebook lahko sliko pregleda zaradi golote in tudi preveri, ali gre za znano ponarejeno sliko nekoga). Razvoj detektorjev je igra mačke in miši: ko se generativni modeli izboljšujejo, se morajo izboljšati tudi detektorji. EU si prizadeva, da bi podjetja uvedla takšne sisteme – pravila o preglednosti v okviru Akta o umetni inteligenci in direktiva o nasilju nad ženskami dejansko zahtevajo, da morajo platforme prepoznati AI pornografijo in jo odstraniti euronews.com euronews.com. Nekatere metode zaznavanja temeljijo na metapodatkih ali znanih vzorcih določenih generatorjev (npr. nekatera orodja z umetno inteligenco puščajo nevidne vodne žige v vzorcih pikslov). Industrija razmišlja tudi o bolj proaktivnem pristopu: vodni žig vsebine, ustvarjene z umetno inteligenco, že ob nastanku. Google na primer razvija metode za označevanje slik, ustvarjenih z umetno inteligenco, tako da je vsaka kopija prepoznana kot umetno ustvarjena, tudi po urejanju. OpenAI je predlagal kriptografske vodne žige za besedila iz jezikovnih modelov. Če bi to postalo splošno sprejeto, bi lahko avtomatizirani filtri lažje zaznali AI pornografijo, še preden se razširi. Vendar odprtokodni modeli verjetno ne bodo prostovoljno označevali svojih izhodov, nasprotniki pa lahko poskušajo odstraniti vodne žige.
• Hashiranje vsebin in baze podatkov: Za boj proti maščevalni pornografiji in deepfake vsebinam so tehnološka podjetja in nevladne organizacije ustvarile baze znanih zlorabljenih slik (z uporabo kriptografskih hashov, kot je PhotoDNA za resnične slike zlorabe otrok, na primer). Podoben pristop se preučuje za deepfake vsebine: če žrtev prijavi ponarejeno sliko, se njen hash lahko doda v bazo za odstranjevanje, tako da jo je mogoče takoj prepoznati in odstraniti, če se naloži drugje. Prihajajoči sistem v Združenem kraljestvu v okviru Zakona o spletni varnosti bo morda vključeval takšno proaktivno zaznavanje – od platform bo zahteval, da “preprečijo [prepovedano vsebino], da bi se sploh pojavila” euronews.com. V praksi to pomeni pregledovanje znanih nezakonitih slik ali videoposnetkov ob nalaganju. Izziv pri AI ponaredkih je, da lahko storilci ustvarijo neskončno število različic, zato hashiranje ene ne bo zaznalo naslednje. Tu je potrebna zaznava podobnosti na osnovi umetne inteligence, ki lahko označi vsebino, ki je zelo podobna znanim ponaredkom ali ustreza osebi, ki je registrirala, da ne želi nobenih eksplicitnih slik na spletu.
• Moderacija na porno straneh: Zanimivo je, da so morale glavne strani za odrasle, kot je Pornhub, zaradi deepfake vsebin izboljšati svojo moderacijo. Pornhub je od leta 2018 prepovedal nalaganje kakršnekoli z umetno inteligenco ustvarjene vsebine, ki prikazuje resnične osebe brez njihove privolitve. Zanašajo se na prijave uporabnikov in pregled moderatorjev, da te vsebine odkrijejo, vendar je to ob milijonih naložkov težko. Akt EU o digitalnih storitvah prinaša strožjo odgovornost: leta 2024 so bili Pornhub (in podobne strani Xvideos, Xnxx) označeni kot velike platforme, ki morajo proaktivno preprečevati nezakonite in škodljive vsebine ali tvegati globe subscriber.politicopro.com. To verjetno pomeni naložbe v avtomatizirano filtriranje. Porno strani bodo morda začele uporabljati detektorje deepfake vsebin na vsakem novem videu. Zdaj imajo tudi preverjanje identitete za nalagalce; čeprav to ni nezmotljivo (ponarejevalci se lahko preverijo kot sami in naložijo ponaredek nekoga drugega), to poveča sledljivost.
• Pravila družbenih omrežij: Družbena omrežja, kot sta Twitter (X) in Reddit, so posodobila pravila in izrecno prepovedala deljenje »intimnih slik, ustvarjenih ali spremenjenih z umetno inteligenco« brez soglasja osebe. Reddit je deepfake vsebine prepovedal že leta 2018 po prvem valu. Facebookova pravila skupnosti prepovedujejo sintetične vsebine, ki bi lahko zavajale na škodljiv način (kar vključuje tudi lažno pornografijo nekoga). Izvajanje ostaja neenotno – kot omenjeno, so deepfake vsebine leta 2024 še vedno postale viralne na X cbsnews.com, Meta pa je morala biti javno osramočena, da je odstranila oglase z AI goloto cbsnews.com. Kljub temu pa nova zakonodaja (Take It Down Act, pravila EU) zdaj nalaga pravne obveznosti. Lahko pričakujemo hitrejše odzivne čase – npr. po ameriški zakonodaji imajo platforme 48 ur časa, da odstranijo prijavljeno NCII ali tvegajo kazni klobuchar.senate.gov klobuchar.senate.gov. To verjetno pomeni, da se bodo podjetja v dvomu raje odločila za odstranitev. Prav tako bodo morda uvedli mehanizme za prijavo »to je AI ponaredek mene«, da bodo uporabniki lahko hitro prijavili zlorabo.
• Preverjanje starosti in nadzor dostopa: Drugi vidik moderacije je preprečevanje, da bi mladoletniki dostopali do AI pornografije. Tradicionalne pornografske strani imajo preverjanje starosti (ki je pogosto slabo izvajano), nekatere jurisdikcije (kot so Francija, Utah, Teksas) pa so sprejele zakone, ki zahtevajo strogo preverjanje starosti za strani za odrasle versustexas.com. AI orodja to zapletejo – generativne modele je mogoče uporabljati zasebno, brez kakršnegakoli nadzora. Nekatere AI platforme pa so začele zahtevati preverjanje osebne izkaznice za dostop do NSFW načinov, da zagotovijo, da so uporabniki odrasli. Na primer, platforma Infatuated.ai je poudarila zanesljive protokole za preverjanje starosti in blokiranje vseh pozivov, ki vključujejo mladoletnike globenewswire.com. Replika (aplikacija za AI klepet) je imela razvpit primer, ko je dovoljevala erotično igranje vlog in so jo uporabljali številni mladoletniki; po odzivu javnosti so omejili erotično vsebino na uporabnike 18+ s preverjanjem starosti prek plačila ali osebne izkaznice. Tako vsaj na komercialnih storitvah obstaja prizadevanje, da bi ločili AI vsebine za odrasle od otrok. To je pomembno, ker so otroci sami uporabljali deepfake orodja za ustrahovanje vrstnikov (kot smo videli v šolah) cbsnews.com. Izobraževanje mladih o etičnih in pravnih posledicah je prav tako del moderacije – nekatere šole so začele vključevati ozaveščanje o deepfake vsebinah v učne načrte digitalnega državljanstva nea.org.
• Sodelovanje in najboljše prakse: Boj proti zlorabi AI je privedel do sodelovanja med tehnološkimi podjetji, organi pregona in nevladnimi organizacijami. Pobude, kot sta skupina za medijsko integriteto Partnership on AI ali Koalicija za izvor in avtentičnost vsebin (C2PA), si prizadevajo postaviti standarde za preverjanje pristnosti vsebin. Podjetja lahko vključijo metapodatke o tem, kako je bila slika/video ustvarjena (kamera ali AI programska oprema). Medtem pa se organi pregona izobražujejo o deepfake vsebinah, da bodo resno obravnavali prijave žrtev in znali zbirati dokaze. Europol je leta 2023 označil deepfake pornografijo kot novo grožnjo in pozval države članice, naj namenijo sredstva za boj proti njej theguardian.com.
• Omejitve za modele umetne inteligence: Bolj neposredna obrambna linija je omejevanje distribucije modelov, ki so sposobni ustvarjati škodljivo vsebino. Nekateri repozitoriji AI modelov imajo določene pogoje: na primer, Stability AI se je odločil, da v svoj učni nabor za Stable Diffusion 2.0 uradno ne vključi nobenih očitno pornografskih slik, deloma zato, da model ne bi bil preveč dober pri ustvarjanju pornografije (uporabniki so se posledično pritoževali, da je novi model »zadržan«). Hugging Face (središče za AI modele) včasih zavrne gostovanje modelov, ki so očitno namenjeni pornografiji, ali pa doda veliko izjavo o omejitvi odgovornosti, kjer morajo uporabniki potrditi, da modela ne bodo zlorabljali. Zgodil se je tudi opazen primer: konec leta 2022 je platforma za množično financiranje Kickstarter prepovedala kampanjo za “Unstable Diffusion”, ki je skušala zbrati sredstva za razvoj AI modela, optimiziranega za pornografijo. Kickstarter se je skliceval na politiko proti pornografskim AI projektom in kampanjo ukinil arnoldit.com. Ta dogodek je poudaril, da se lahko celo financiranje in podpora za NSFW AI soočita z ovirami. Tudi trgovine z aplikacijami, kot je Applova, so nenaklonjene nefiltriranim AI aplikacijam – Apple je odstranil nekatere aplikacije za generiranje slik z AI, ki so lahko ustvarjale NSFW vsebine, s čimer je razvijalce prisilil k dodajanju filtrov. Tako je lahko dostop do najnaprednejših AI modelov do neke mere omejen s korporativno politiko. Vendar pa resnično odprtokodnih modelov ni mogoče zlahka omejiti – ko so enkrat objavljeni, se širijo po torrentih in forumih. Zato je to omejen ukrep.

Moderiranje vsebin v dobi AI pornografije je nedvomno zahtevno. Količina potencialno spornih vsebin je ogromna in še narašča. A tehnologija odgovarja na tehnologijo: tudi umetna inteligenca se uporablja za boj proti umetni inteligenci. Na primer, Meta naj bi uporabljala strojno učenje za prepoznavanje znanih obrazov na golih slikah, da bi zaznala deepfake posnetke slavnih, ter za zaznavanje značilnih sledi mešanja, ki so tipične za deepfake. Startupi, kot je Reality Defender, ponujajo podjetjem storitve za sprotno pregledovanje in odstranjevanje deepfake vsebin realitydefender.com. In pravna moč, ki jo prinašajo novi zakoni, pomeni, da platformam, ki v te ukrepe ne vlagajo, grozijo resne kazni ali tožbe.

Ena obetavna pot je ideja avtenticiranih medijev: če bi na primer vsi legitimni producenti pornografije kriptografsko podpisali svoje videe kot resnične, bi bilo mogoče vse, kar nima podpisa in se predstavlja kot “seks posnetek te in te osebe”, označiti kot sumljivo. To je univerzalno težko uvesti, a koncept izvora se raziskuje (ne le za pornografijo, temveč za vse medije, da bi omejili dezinformacije).

Na koncu moderiranje nikoli ne bo neprebojno – veliko bo še vedno ušlo skozi divji splet. Šifrirane ali decentralizirane platforme bodo skrivale najslabšo vsebino. A vsaj na glavnih in zakonitih področjih obstaja usklajen trud za zmanjšanje škode NSFW umetne inteligence. Upanje je ustvariti okolje, kjer lahko legitimne uporabe (sporazumna vsebina za odrasle, fantazijska umetnost itd.) obstajajo, zlonamerne uporabe pa so hitro prepoznane in odstranjene. To je velik izziv – žrtve ga opisujejo kot igro “udarjanja krtov” klobuchar.senate.gov – vendar orodja zakonov, AI detektorjev, platformskih pravil in izobraževanja uporabnikov skupaj tvorijo večplastno obrambo.

Posledice in prihodnost: vpliv na ustvarjalce in industrijo za odrasle

Ker NSFW umetna inteligenca ruši status quo, že vpliva na resnične ljudi v ekosistemu zabave za odrasle – od pornozvezd in spolnih delavcev do erotičnih umetnikov in studiev z vsebinami. Nekateri v novi tehnologiji vidijo priložnost, drugi pa se bojijo, da bodo postali odveč ali nehote potegnjeni vanjo.

Igralci za odrasle in spolni delavci: Morda je najneposrednejši učinek na tiste, ki si služijo kruh z ustvarjanjem vsebin za odrasle. Po eni strani nekateri iznajdljivi ustvarjalci sprejemajo umetno inteligenco, da nadgradijo svoje delo. Na primer, modeli za odrasle lahko uporabljajo AI generatorje fotografij za ustvarjanje izboljšanih ali stiliziranih slik sebe za prodajo (s tem se izognejo dragim fotografiranjem) – dokler slike še vedno spominjajo nanje in ustrezajo pravilom platforme reddit.com. Nekateri vplivneži so prišli v novice, ker so ustvarili “AI različice” sebe: npr. leta 2023 je vplivnica Caryn Marjorie lansirala AI klepetalnika svoje osebnosti, s katerim so lahko oboževalci intimno klepetali za plačilo. Podobno koncept “digitalnih dvojčkov” startupa Oh pomeni, da bi lahko pornozvezda licencirala svojo podobo za ustvarjanje AI avatarja, ki klepeta ali nastopa za oboževalce, kar ustvari nov vir prihodka z minimalnim dodatnim delom sifted.eu. Ti premiki kažejo, da nekateri v industriji vidijo AI kot orodje za svojo razširitev – teoretično lahko z AI zabavajo več oboževalcev, kot bi jih lahko fizično ena na ena.

Po drugi strani pa je veliko nastopajočih zaskrbljenih. Če si lahko oboževalci po meri ustvarijo svojo fantazijsko vsebino z umetno inteligenco, bodo prenehali plačevati resničnim osebam? Poročali so o profilih na OnlyFans, ki jih je ustvarila umetna inteligenca in uporabljajo popolnoma izmišljene (a realistične) ženske, včasih označene z #AI po pojavu suma, ki prodajajo vsebino ceneje ali spamajo uporabnike na reddit.com. Takšna konkurenca lahko škoduje dohodku pravih ustvarjalcev. Nekatere spolne delavke pravijo, da je “depresivno” videti, kako nastaja nov standard, kjer uspeh pomeni neprestano ustvarjanje vsebin 24/7 kot algoritem – standard, ki ga človek ne more doseči, umetna inteligenca pa zlahka, zato so ljudje pod pritiskom, da uporabijo umetno inteligenco ali pa zaostanejo reddit.com. Prisoten je tudi čustveni vidik: kot je zapisala ena izkušena ustvarjalka, se uporaba umetne inteligence za učinkovito “goljufanje” z ustvarjanjem popolnega telesa ali neskončne produkcije zdi, kot da zmanjšuje vrednost resničnega truda in pristnosti, ki ju vlagajo človeški ustvarjalci reddit.com. “To je podlo – škoduje mojim oboževalcem… in trdemu delu, ki ga vlagam v svoje telo [in vsebino],” je dejala o tistih, ki uporabljajo umetno inteligenco za ponarejanje vsebine reddit.com.

Že opažamo nekaj odboja in prilagajanja: ustvarjalci se združujejo, da bi izpostavili lažne AI profile, in platforme prilagajajo pravila, da bi zagotovile, da resničnih ustvarjalcev umetna inteligenca ne bo posnemala. OnlyFans, kot omenjeno, prepoveduje uporabo podobe druge osebe in zahteva označevanje AI vsebine reddit.com. Govori se celo o tem, da bi ustvarjalci sprožili pravne postopke proti AI ponaredkom – na primer, krožijo govorice o tožbi za odstranitev bot računov na OnlyFans reddit.com. Poleg tega nastopajoče skrbi soglasje in pravice do podobe – npr. upokojena porno igralka lahko ugotovi, da se njeni pretekli prizori uporabljajo za učenje umetne inteligence, ki zdaj ustvarja nove eksplicitne videe “nje” brez njenega soglasja ali plačila. To je podobno skrbi hollywoodskih igralcev glede uporabe njihove podobe z umetno inteligenco – le da imajo porno igralci še več na kocki, saj je njihova podoba povezana z zelo občutljivo vsebino. Industrija bo morda morala razviti nekaj podobnega stališču Screen Actors Guild, kjer lahko igralci pogajajo, kako jih umetna inteligenca lahko ali ne sme simulirati. Pravzaprav bi danski pristop, ki posameznikom podeljuje avtorske pravice do podobe, lahko omogočil nastopajočim po vsem svetu, da uveljavljajo lastništvo nad svojim obrazom/telesom v teh kontekstih euronews.com.

Studii in producenti: Tradicionalne porno studie bi lahko prav tako doživele motnje. Če lahko majhna ekipa z AI orodji ustvari sprejemljiv odrasli video brez najema igralcev, velike studie izgubijo svojo prednost. Vendar trenutni AI video še ni na ravni profesionalne studijske kakovosti za daljšo vsebino – večinoma gre za kratke posnetke ali pa je potrebno združevanje z resničnimi posnetki. Nekatere studie bi lahko začele uporabljati AI za posebne učinke ali post-produkcijo (npr. pomlajevanje nastopajočih, izboljšanje vizualnih učinkov ali celo odstranjevanje prepoznavnih tetovaž zaradi anonimnosti). Možna je tudi uporaba za ustvarjanje realističnih odraslih animacij, ki so bile ročno zelo drage. Toda studie se soočajo tudi z grožnjo piratstva: nepošteni akterji bi lahko z AI ustvarili ponaredke vrhunske vsebine ali modelov. Na primer, če ima studio priljubljeno zvezdo pod pogodbo, bi lahko nekdo z deepfake tehnologijo to zvezdo vstavil v nove prizore in jih razširil. To bi lahko zmanjšalo dobiček studia in vrednost zvezdine blagovne znamke. Studie bi lahko odgovorile z močnim uveljavljanjem blagovnih znamk ali pravic osebnosti svojih pogodbenih talentov. Morda bomo videli, da se bodo porno studie povezovale s tehnološkimi podjetji za ustvarjanje pooblaščene AI vsebine svojih zvezd (z delitvijo prihodkov), še preden to storijo pirati, kot obrambni ukrep.

Erotični umetniki in pisci: Poleg video nastopajočih pomislite še na tiste, ki ustvarjajo erotične stripe, ilustracije ali literaturo. AI je že sposoben posnemati umetniške sloge – zlasti hentai skupnost je doživela naval AI-generirane anime erotike konec leta 2022, kar je povzročilo razkole. Nekateri naročniki so začeli uporabljati AI namesto plačevanja človeškim umetnikom, zaradi stroškov in priročnosti. Umetniki so protestirali na platformah, kot je DeviantArt (ki je doživel odpor zaradi uvedbe AI funkcij). Obstaja strah, da bi se trg za naročeno erotično umetnost in zgodbe lahko sesul, ko si lahko vsak brezplačno ustvari personaliziran strip ali zgodbo. Vendar navdušenci poudarjajo, da ima AI še vedno težave s kompleksnim pripovedovanjem in resnično izpiljeno umetnostjo – človeški umetniki ponujajo raven ustvarjalnosti in čustev, ki jih AI lahko primanjkuje. Verjeten izid je hibridni pristop: umetniki uporabljajo AI za osnutke ali barvanje, nato pa dodajo svoje popravke. Manj uveljavljeni umetniki pa bodo morda težko konkurirali enoklikovnim AI izdelkom, ki so za mnoge gledalce “dovolj dobri.” To odpira potrebo po morda novi vrednosti “avtentično ročno izdelano” v erotični umetnosti, podobno kot nekateri oboževalci plačajo več, če vedo, da je delo ustvaril človek.

Stališče industrije za odrasle: Zanimivo je, da so velika podjetja za zabavo za odrasle v javnosti glede AI razmeroma tiha. Morda zato, ker interno raziskujejo svoje strategije ali ker bi lahko pritegnili več pozornosti. Industrija za odrasle je bila zgodovinsko gledano hitra pri sprejemanju tehnologije (zgodaj je sprejela internet, spletne kamere, VR pornografijo itd.). Že zdaj vidimo, da strani za odrasle prodajajo “deepfake posnetke znanih osebnosti” (kar je v nekaterih državah pravno vprašljivo) in eksperimentirajo z AI-podprtimi priporočili. V svetu spletnih kamer so nekatere strani preizkusile AI klepetalne bote, da bi ohranile angažiranost strank, ko modeli niso na voljo. A popolna zamenjava človeških izvajalcev z AI se na večjih platformah še ni zgodila, deloma zaradi nezrelosti tehnologije in uporabniške preference za pristno interakcijo.

Vendar pa lahko gospodarski pritisk prisili k prilagoditvi. Če bi, hipotetično, čez 2-3 leta lahko umetna inteligenca na zahtevo ustvarila celoten HD porno video s katerima koli dvema zvezdnikoma, bi se trg za profesionalno pornografijo z neznanimi igralci lahko sesul – zakaj bi plačevali ali se naročali, če so na voljo neskončne brezplačne fantazije? Industrija bi se morda preusmerila v poudarjanje avtentičnosti, žive interakcije in skupnosti – stvari, ki jih umetna inteligenca ne more zagotoviti. Morda bomo videli pornografijo, oglaševano z oznakami, kot je »100 % človeško, pravi užitek« kot prodajno točko, ironično. Po drugi strani pa bi industrija lahko vključila umetno inteligenco za znižanje stroškov – npr. en igralec nastopa, nato pa z umetno inteligenco zamenjajo obraz in ustvarijo več »različnih« videov iz enega snemanja (idealno s soglasjem). Takšen scenarij bi sprožil etična vprašanja (ali gledalci vedo, da gre za isto osebo, ki je bila preoblikovana? Ali izvajalec dobi plačilo za vsako različico videa ali samo enkrat?).

Eden od pozitivnih vplivov bi lahko bil na področju varnosti: Če lahko umetna inteligenca simulira tvegana dejanja, bi jo studii lahko uporabili, da izvajalcev ne bi izpostavljali nevarnosti. Na primer, namesto da bi izvajalci izvajali ekstremne podvige, bi lahko posneli nekaj osnovnega, intenzivni del pa bi ustvarila umetna inteligenca. Ali, kot je bilo omenjeno, bi lahko izvajalec snemal oblečen, umetna inteligenca pa bi ustvarila golo različico, kar bi lahko bil način, da se nekdo pojavi v pornografiji, ne da bi bil dejansko gol na snemanju (čeprav ta ideja sproža svojo razpravo o avtentičnosti in soglasju).

Fragmentacija trga: Verjetno se bo trg za vsebine za odrasle razdelil na več nivojev:

• Vrhunska človeška vsebina, ki poudarja resnično interakcijo (personalizirani videi, OnlyFans z neposrednim stikom z ustvarjalci, živi cam šovi – stvari, kjer je človeška prisotnost bistvena).
• Vsebine, ustvarjene z umetno inteligenco, ki bi lahko bile izjemno poceni ali brezplačne, preplavljajo tube strani ali zasebne kanale. To bi lahko zadovoljilo priložnostne uporabnike ali tiste z zelo specifičnimi fantazijami (zvezdniki itd.). Če bo deepfake pornografija ostala pol-ilegalna, bo morda ostala bolj v podzemlju ali na nekomercialnih forumih.
• Hibridne vsebine, kjer ustvarjalci uporabljajo umetno inteligenco, a ostajajo vključeni. Na primer, model bi lahko prodajal z umetno inteligenco izboljšane serije svojih slik – v bistvu svojo podobo, a izpopolnjeno ali postavljeno v fantastične prizore z umetno inteligenco. Dokler je to transparentno in s soglasjem, bi oboževalci morda cenili raznolikost.

Duševni in socialni vpliv na ustvarjalce: Ni mogoče prezreti čustvene obremenitve ustvarjalcev, ko vidijo, da se morda njihovi lastni obrazi uporabljajo brez privolitve, ali pa pritiska, da morajo tekmovati s stroji. Komentarji na Redditu s strani ustvarjalcev na OnlyFans so razkrili nekaj tesnobe in celo obupa reddit.com reddit.com. To odraža dogajanje v drugih ustvarjalnih sektorjih (umetniki, igralci) glede umetne inteligence – vendar je v industriji za odrasle stigma in pomanjkanje institucionalne podpore, kar lahko oteži izražanje skrbi ali iskanje zaščite. Morda bomo videli, da bodo zagovorniške skupine za spolne delavce razširile svoje delovanje na področje digitalnih pravic in umetne inteligence, ter se borile za pravice, kot so pravica do odstranitve iz učnih podatkovnih zbirk ali prepoved deepfake posnetkov izvajalcev brez privolitve. Sindikati (kot je Adult Performers Actors Guild v ZDA) bi lahko v pogodbah pogajali klavzule o umetni inteligenci. Na primer, izvajalka bi lahko vztrajala, da studio ne uporablja njenega posnetka za učenje umetne inteligence, ki bi lahko kasneje nadomestila njeno podobo, ali pa ji vsaj plača, če to storijo.

Kar zadeva obnašanje potrošnikov, zgodnji anekdotični dokazi kažejo, da številni gledalci pornografije še vedno raje vedo, da je nekaj resnično – v resničnih človeških izvajalcih je določena privlačnost. Nekateri uporabniki poročajo, da je pornografija z umetno inteligenco lahko včasih »brez duše« ali manj zadovoljiva, ko začetna novost mine. Tako lahko človeški ustvarjalci ohranijo svojo publiko z izpostavljanjem svoje pristnosti in osebne povezave, česar umetna inteligenca ne more resnično posnemati. Kljub temu bi se lahko, ko se umetna inteligenca izboljšuje, ta razlika zmanjšala, mlajše generacije, ki odraščajo ob umetni inteligenci, pa morda ne bodo več ločevale.

Priložnost za nove talente? Obstaja zanimiva druga plat: umetna inteligenca bi lahko znižala ovire za vstop v prostor za vsebine za odrasle na nadzorovan način. Nekdo, ki nikoli ne bi delil svojega pravega telesa ali obraza, bi lahko ustvaril AI osebnost – izmišljenega seksi avatarja – in prodajal vsebine tega avatarja. V bistvu bi bil camgirl ali OnlyFans model prek AI posrednika. Nekateri uporabniki so to že preizkusili z različno uspešnostjo. To odpira vrata ljudem, da monetizirajo fantazije, ne da bi razkrili svojo identiteto ali telo. Vendar platforme trenutno zahtevajo preverjanje identitete, da preprečijo zavajanje in težave z mladoletnimi, zato bi se posameznik še vedno moral registrirati in verjetno označiti, da je vsebina ustvarjena z umetno inteligenco in prikazuje izmišljenega človeka. Če bi to dovolili, bi lahko nastala nova kategorija ustvarjalcev vsebin: ustvarjalci za odrasle, ki jih poganja umetna inteligenca, ki so resnični podjetniki, vendar je njihov izdelek popolnoma virtualni lik. Tekmovali bi z resničnimi modeli. Bi uporabniki plačali za »ponarejenega« modela? Morda, če je dovolj privlačna in interaktivna, še posebej, če sprva ne bi vedeli, da je ponarejena. Predstavljamo si lahko, da bi nekateri uporabniki celo raje imeli AI model, ki je »vedno na voljo in nikoli nima slabega dne«. To je iz očitnih razlogov zaskrbljujoče za človeške izvajalce.

Regulativni in pravni vpliv na industrijo: Z novimi zakoni o deepfakeih imajo odrasle platforme pravne spodbude, da prepovejo vse, kar ni na podlagi soglasja. To bi lahko ironično okrepilo položaj uveljavljenih, reguliranih podjetij za odrasle (ki sodelujejo le z nastopajočimi, ki so dali soglasje) v primerjavi z nezakonitimi AI spletnimi stranmi. Če bo izvrševanje strogo, bodo uporabniki, ki želijo deepfake pornografijo, težje prišli do nje, kar bi jih lahko bodisi pognalo v nezakonite vire na temnem spletu ali pa jih odvrnilo od te navade. Medtem bi lahko soglasne AI stvaritve (na primer model, ki soglaša z AI verzijo sebe) postale nova licencirana kategorija izdelkov. To bo zahtevalo pravno pojasnilo: npr., ali lahko model dobi avtorske pravice ali blagovno znamko na svoj obraz, da lahko toži nekoga, ki brez dovoljenja ustvari njen AI klon? Nekatere države, kot je Danska in verjetno prihajajoča zakonodaja posameznih zveznih držav ZDA, se nagibajo k tej ideji euronews.com. To bi pomagalo nastopajočim zaščititi svojo blagovno znamko.

Povzetek vpliva: Industrija vsebin za odrasle je na začetku morebitne paradigme spremembe. Tisti, ki se bodo prilagodili – z etično in transparentno uporabo AI – bi lahko uspevali ali vsaj preživeli. Tisti, ki bodo to ignorirali, se bodo morda težko borili proti plimskemu valu vsebin in spreminjajočim se navadam potrošnikov. Kot je dejal eden izmed AI podjetnikov o AI spremljevalkah: »vsaka nova inovacija se lahko zdi drastična sprememba… to je evolucija« sifted.eu. Vprašanje je, ali bo ta evolucija dopolnila ali kanibalizirala obstoječi ekosistem ustvarjalcev.

Zaključek: Nova erotična meja, polna dilem

Vzpon NSFW AI je nedvomno odprl Pandorino skrinjico. V le nekaj letih smo bili priča, kako je AI prešel od ustvarjanja smešnih slik mačk do ustvarjanja lažnih golih fotografij, ki lahko uničijo človekovo življenje. Ta tehnologija je moč­na, dvorezen meč in ostaja z nami. Po eni strani omogoča običajnim ljudem, da ustvarijo katerokoli erotično sliko ali scenarij, ki si ga lahko zamislijo, in briše meje med potrošnikom in ustvarjalcem v industriji za odrasle. Obljublja personaliziran užitek, ustvarjalno raziskovanje in morda nove poslovne modele v več milijard dolarjev vredni industriji, ki je bila pogosto tehnološko zastarela. Po drugi strani pa je NSFW AI spodbudil nove oblike zlorab – nekateri temu pravijo »digitalno posilstvo« – saj posameznikom (večinoma ženskam) odvzema nadzor nad lastnimi podobami in telesi v digitalnem svetu. Izziva naše pravne sisteme, ki se trudijo posodobiti definicije posnemanja, pornografije in soglasja za dobo AI. In sili družbo, da se sooči z neprijetnimi vprašanji o naravi spolnosti, svobode izražanja in človeške povezanosti, kadar jih AI nadgradi ali simulira.

Od konca leta 2025 se nihalo nagiba k zaščitnim ukrepom in odgovornosti. Ključna zakonodaja v ZDA in EU, ostre akcije v Aziji ter spremembe platformnih politik vse kažejo, da je nekonsenzualna AI pornografija splošno obravnavana kot nesprejemljiva. Hkrati se razvija tehnologija za zaznavanje in preprečevanje zlorab, tudi ko se sama generativna tehnologija izboljšuje. Pričakujemo lahko, da se bo dinamika mačke in miši nadaljevala: vsak nov varnostni ukrep lahko izzove nove tehnike izmikanja s strani zlonamernih akterjev. Toda kolektivna ozaveščenost je zdaj veliko večja – AI pornografija ni več nišna internetna posebnost; je osrednja tema v parlamentih in redakcijah. Ta javna ozaveščenost lahko opolnomoči žrtve, da spregovorijo in zahtevajo pravico, ter pritisne na podjetja, da prevzamejo odgovornost.

Če pogledamo naprej, bo globalno sodelovanje ključno. Ti izzivi se ne ustavijo na mejah – deepfake, ustvarjen v eni državi, lahko uniči življenje nekomu v drugi. Pomembno bo, da si vlade izmenjujejo dobre prakse (kot kaže raziskava Euronews o evropski zakonodaji, se številne države učijo iz pristopov drugih euronews.com euronews.com). Morda se bo v prihodnjih letih pojavil mednarodni okvir ali pogodba za boj proti spolnim zlorabam na podlagi slik, ki bi najhujša kazniva dejanja obravnavala kot kršitve človekovih pravic. Medtem bodo morale skupine civilne družbe in izobraževalci še naprej ozaveščati, učiti medijske pismenosti (da bodo ljudje dvakrat premislili, preden verjamejo ali delijo “uščitene” intimne vsebine) in podpirati žrtve.

Kljub vsem temnim platem NSFW AI velja poudariti, da ni vse tako črno. V konsenzualnih kontekstih nekateri iz tega resnično črpajo srečo – naj bo to par, ki popestri svojo intimnost z AI-generiranimi scenariji igranja vlog, odrasli ustvarjalec, ki z AI osebo varno zasluži od doma, ali posamezniki, ki končno vidijo svojo specifično fantazijo upodobljeno v AI umetnosti ali zgodbi. Te uporabe ne bi smele biti prezrte v razpravi; poudarjajo, da tehnologija sama po sebi ni inherentno zla. Je orodje – ki ojača človeške namene, dobre ali slabe. Naša naloga je, da usmerimo njeno uporabo v konsenzualne in ustvarjalne namene ter odločno varujemo pred zlonamernimi nameni.

Umetniki, ustvarjalci in spolni delavci – ljudje, ki delujejo v svetu odrasle vsebine – bodo verjetno še naprej prilagajali in si ustvarjali prostor v tem novem okolju. Mnogi se borijo, da bi “AI etika” vključevala tudi njihove glasove, zahtevajo mehanizme za soglasje in nadomestilo. Pravzaprav zahtevajo nekaj preprostega: ne jemljite od nas brez vprašanja. Družba kot celota se s tem načelom sooča na vseh področjih AI, od umetnosti do novic in pornografije.

Za zaključek, NSFW AI stoji na stičišču tehnologije, spolnosti, prava in etike. Izziva nas, da na novo opredelimo pojme privolitev, zasebnost in celo samo resničnost v digitalni dobi. Druga polovica 2020-ih bo ključna za postavitev norm in pravil, ki bodo urejala to področje. Ali gremo proti prihodnosti, kjer bo AI pornografija vseprisotna, a strogo regulirana, uporabljena večinoma v dobre ali nevtralne namene? Ali pa bomo priča balkanizaciji, kjer jo bodo glavni mediji izločili, medtem ko bo uspevala v temnih kotičkih, podobno kot prepovedana trgovina? Rezultat je odvisen od odločitev, ki se sprejemajo zdaj – s strani zakonodajalcev, tehnoloških podjetij in uporabnikov.

Ena stvar je gotova: duha ni več mogoče spraviti nazaj v steklenico. NSFW AI ne moremo odkriti nazaj. Vendar pa se lahko in se moramo naučiti živeti z njim odgovorno. Kot uporabniki to pomeni spoštovati dostojanstvo drugih pri uporabi teh orodij; kot podjetja vgrajevati varnost že od začetka; kot vlade postavljati jasne meje; in kot skupnosti ne tolerirati zlorab. Z budnostjo in empatijo je upanje, da se bo “divji zahod” faza AI pornografije razvila v bolj civilizirano področje – kjer bodo odrasli s privolitvijo lahko uživali v novih oblikah erotične umetnosti in povezovanja, medtem ko bodo tisti, ki bi tehnologijo zlorabljali, zadržani na distanci. Zgodba NSFW AI se še vedno piše, sredina leta 2025 pa je šele prvo poglavje. Družbeni odziv zdaj bo oblikoval, ali nas bo ta tehnologija na področju intimnih vsebin na koncu obogatila ali ogrozila.

Viri:

• Oremus, Will. “Congress passes bill to fight deepfake nudes, revenge porn.” The Washington Post (prek strani Klobuchar Senate), 28. april 2025 klobuchar.senate.gov klobuchar.senate.gov.
• Fawkes, Violet. “8 Best NSFW AI Image Generators – Finding pleasure at the crossroads of code and consent.” Chicago Reader, 13. april 2025 chicagoreader.com chicagoreader.com.
• Mahdawi, Arwa. “Nonconsensual deepfake porn is an emergency that is ruining lives.” The Guardian, 1. april 2023 theguardian.com theguardian.com.
• Ferris, Layla. “Spletna stran z AI-generirano pornografijo Mr. Deepfakes se zapira, potem ko je ponudnik storitev umaknil podporo.” CBS News, 5. maj 2025 cbsnews.com cbsnews.com.
• CBS News/AFP. “Univerzo v Hong Kongu pretresa škandal z AI-generirano pornografijo, potem ko naj bi študent prava ustvaril deepfake posnetke 20 žensk.” CBS News, 15. julij 2025 cbsnews.com cbsnews.com.
• Lyons, Emmet. “Južna Koreja bo kriminalizirala posedovanje ali ogled spolno eksplicitnih deepfake videoposnetkov.” CBS News, 27. september 2024 cbsnews.com cbsnews.com.
• Wethington, Caleb. “Novi zakoni proti deepfakeom in AI-generirani otroški pornografiji stopijo v veljavo v Tennesseeju.” WSMV News Nashville, 30. junij 2025 wsmv.com wsmv.com.
• Desmarais, Anna. “Danska se bori proti deepfakeom z zaščito avtorskih pravic. Kakšni drugi zakoni obstajajo v Evropi?” Euronews, 30. junij 2025 euronews.com euronews.com.
• Nicol-Schwarz, Kai. “Spoznajte AI OnlyFans: Kako je startup zbral milijone za gradnjo platforme ‘erotičnih spremljevalcev’.” Sifted, 13. marec 2025 sifted.eu sifted.eu.
• Wilson, Claudia. »Senat sprejme zakon DEFIANCE.« Center za politiko umetne inteligence (CAIP), 1. avgust 2024 centeraipolicy.org centeraipolicy.org.
• Arnold, Stephen. »Google zavzema stališče — proti vprašljivi vsebini. Bo umetna inteligenca to pravilno razumela?« Beyond Search blog, 24. maj 2024 arnoldit.com arnoldit.com.
• Holland, Oscar. »Lin Chi-ling s Tajvana o svoji izkušnji z deepfake in boju proti dezinformacijam z umetno inteligenco.« CNN, 5. oktober 2023 (za kontekst o deepfake slavnih oseb).
• (Dodatni politični dokumenti, sporočila za javnost in poročila, kot je navedeno v celotnem besedilu.)