«Гострий» режим ШІ від Ілона Маска спричинив скандал із NSFW-діпфейками — чому жінки стали мішенню нової кризи ШІ-порно

Нове підприємство Ілона Маска у сфері ШІ піддається критиці за створення оголених дипфейків знаменитостей без їхньої згоди – причому робить це з тривожною гендерною упередженістю. Недавнє розслідування Gizmodo показує, що інструмент Маска Grok Imagine з режимом “Spicy” охоче створює NSFW-відео відомих жінок (наприклад, Тейлор Свіфт чи Меланія Трамп), але відмовляється робити те саме для чоловіків gizmodo.com gizmodo.com. У цьому матеріалі розглядаються результати розслідування Gizmodo щодо суперечливої функції Grok, аналізується стрімке зростання порнографічного контенту та дипфейків, створених ШІ, а також досліджуються етичні, правові та суспільні наслідки. Ми також розглядаємо поточні події станом на серпень 2025 року – від суспільного обурення та попереджень експертів до нових законів, спрямованих на обмеження “порномести” за допомогою ШІ. Мета: зрозуміти, як “Spicy Mode” став новою точкою напруги у триваючій кризі NSFW-контенту, створеного ШІ, і що з цим можна зробити.

“Spicy Mode” Grok – NSFW-дипфейки та вбудована упередженість

Grok Imagine — це генератор зображень і відео від xAI (доступний для платних підписників на платформі X Маска) і, що примітно, дозволяє користувачам створювати контент для дорослих через режим “Spicy” gizmodo.com. У той час як основні інструменти ШІ, такі як Veo від Google та Sora від OpenAI, забороняють відверті або зображення знаменитостей, режим Spicy у Grok активно заохочує це avclub.com avclub.com. Тестування від The Verge показало, що ШІ “без вагань видав повністю нецензуровані відео з оголеною груддю Тейлор Свіфт” з першої спроби – навіть без запиту на наготу theverge.com. Аналогічно, Deadline виявив, що отримати від Grok зображення Скарлетт Йоханссон, яка показує свою білизну, було надзвичайно легко avclub.com. На відміну від цього, спроби створити чоловічу наготу не дали результату. Як повідомляє Gizmodo, “він робив по-справжньому нецензурні зображення лише з жінками. Відео з чоловіками були такими, що навряд чи когось здивують.” gizmodo.com На практиці режим Spicy у Grok може зобразити чоловіка максимум без сорочки, тоді як жінки зображуються топлес або повністю оголеними.

Цей явний подвійний стандарт викликав занепокоєння. Grok згенерує кліп у стилі м’якої порнографії з жінкою-публічною особою за натисканням кнопки gizmodo.com, але той самий фільтр “Spicy”, очевидно, зупиняється лише на оголеному торсі у чоловіків gizmodo.com. Метт Новак із Gizmodo навіть спробував дати запит на створення зображення звичайного, невідомого чоловіка проти звичайної жінки: чоловічий аватар незграбно тягнувся до штанів, але залишався прикритим, тоді як жіночий аватар одразу оголив груди gizmodo.com. Такі результати свідчать про гендерну упередженість, закладену в модерацію контенту ШІ (чи то навмисно, чи як побічний продукт навчання). Власна репутація Маска щодо мізогінних висловлювань – від поширення тверджень, що жінки “слабкі” gizmodo.com до жартів про запліднення Тейлор Свіфт – лише підсилює підозри, що ця упередженість є радше особливістю, ніж помилкою gizmodo.com.

Можливості та обмеження: Варто зазначити, що дипфейки Grok часто низької якості. Схожість із знаменитостями, яку він створює, часто є непереконливою або з глюками gizmodo.com gizmodo.com. (Наприклад, зображення, які мали зображати актрису Сідні Суїні або політика Дж. Д. Ванса, зовсім не були схожі на справжніх людей gizmodo.com.) Дивні помилки з послідовністю — наприклад, чоловік у відео з різними штанинами — трапляються часто gizmodo.com. Grok також автоматично генерує загальну фонову музику або аудіо для кожного кліпу, що додає сюрреалістичної атмосфери «зловісної долини» gizmodo.com. Ці технічні недоліки можуть бути порятунком для xAI зараз, оскільки справді реалістичні оголені підробки знаменитостей майже напевно спричинили б судові позови та заборони gizmodo.com. Як пожартували в Gizmodo, найкращий захист Маска від судових позовів може бути в тому, що «зображення навіть близько не схожі» на справжніх знаменитостей gizmodo.com. Але технологія швидко вдосконалюється, і навіть ці недосконалі дипфейки достатньо впізнавані, щоб викликати занепокоєння avclub.com.

Реакція громадськості: Запуск “Spicy Mode” одразу викликав обурення в соціальних мережах і пресі. Протягом кількох днів після запуску Grok Imagine, X (Twitter) був заповнений згенерованими ШІ зображеннями оголених жінок, користувачі охоче ділилися порадами, як досягти максимальної оголеності у своїх запитах gizmodo.com. Це викликало широку критику, що Маск фактично відкрив шлюзи для сексуальних домагань і експлуатації за допомогою ШІ. “Більшість контенту Grok Imagine, яким Маск ділився або репостив, — це кліпи з типовими пишногрудими блондинками або жінками у відвертих фантазійних костюмах,” зазначає A.V. Club, підкреслюючи, що Маск, здається, має намір скласти конкуренцію Pornhub avclub.com avclub.com. Техноблогери та коментатори з іронією припускають, що Маск “практично благає про позов від Тейлор Свіфт” через автогенеровану оголену натуру Grok avclub.com. Дійсно, деякі коментатори закликають відомих осіб, таких як Свіфт, подати на Маска до суду і “зробити світ безпечнішим для інших жінок і дівчат” avclub.com. Поки що немає публічних ознак судових дій з боку Свіфт чи інших – але вимоги притягнути до відповідальності стають дедалі гучнішими.

Навіть поза контроверсією навколо Grok, 2024 рік ознаменувався значним суспільним обуренням через порнографію, згенеровану ШІ на X. В одному з інцидентів порнографічні дипфейки із зображенням Тейлор Свіфт стрімко поширилися на платформі, причому одне фейкове фото набрало 47 мільйонів переглядів перед видаленням theguardian.com. Фанати масово мобілізувалися, щоб поскаржитися на ці зображення, і навіть Білий дім втрутився, назвавши ситуацію «тривожною» theguardian.com. Випадок Свіфт є винятковим лише через увагу, яку він отримав; незліченна кількість жінок (відомих і ні) стикалися з тим, що їхні зображення перетворювали на відвертий контент, який платформи не встигають оперативно видаляти theguardian.com theguardian.com. Суспільний гнів навколо цих інцидентів – і тепер навколо вбудованого NSFW-режиму Grok – відображає зростаючий консенсус, що інструменти ШІ, які дозволяють створювати сексуальні дипфейки, переходять етичні межі.

Стрімке зростання NSFW-контенту та дипфейків, згенерованих ШІ

Історія з Grok – це останній розділ у тривожній тенденції: порнографія, згенерована ШІ («дипфейк-порно»), стрімко поширюється протягом останніх кількох років. Це явище вперше набуло сумної слави ще у 2017 році, коли ентузіасти на Reddit почали використовувати ранні алгоритми глибокого навчання для підміни облич знаменитостей на тілах порноакторів. До 2018 року так звані «дипфейк»-відео з Галь Гадот, Еммою Вотсон, Скарлетт Йоханссон та іншими масово з’являлися на сайтах для дорослих – що призвело до заборон на таких платформах, як Reddit, Twitter і Pornhub, на подібний несанкціонований контент theguardian.com theverge.com.

Попри ті ранні заборони, індустрія deepfake-порно перейшла в тінь і продовжила зростати. Наприкінці 2019 року знаковий звіт компанії з кібербезпеки Deeptrace показав, що 96% усіх deepfake-відео, які циркулюють в інтернеті, були порнографічними, несанкціонованими підмінами облич, майже виключно із жінками-жертвами regmedia.co.uk. Чотири найбільші deepfake-порно сайти, які досліджувалися, набрали понад 134 мільйони переглядів на відео, спрямованих на “сотні жінок-знаменитостей по всьому світу.” regmedia.co.uk Цей дисбаланс був разючим: жертвами були переважно жінки, а споживачі — переважно зацікавлені в жінках як у сексуальних об’єктах. “99% deepfake-секс-відео стосуються жінок, зазвичай знаменитостей,” зазначає професорка права Даніель Сітрон, підкреслюючи, що ці витвори “роблять вас сексуальним об’єктом у спосіб, який ви не обирали” nymag.com. “У порнографії немає нічого поганого, якщо ви самі це обрали,” додає Сітрон — жах deepfake-відео в тому, що ці жінки ніколи не обирали використовувати свою зовнішність у відвертих сценах nymag.com.

Спочатку домінували deepfake-відео із знаменитостями, але зараз звичайні люди стають мішенями дедалі частіше. У січні 2023 року спільноту стримерів Twitch сколихнув скандал, коли популярний стример Брендон “Atrioc” Юінг випадково показав, що переглядав deepfake-порно сайт, який продавав відверті відео зі стримерками — підставляючи їхні обличчя на тіла порноакторок polygon.com. Жінки (деякі з яких були особистими подругами Atrioc) були спустошені і зіштовхнулися з хвилями переслідувань, коли deepfake-відео стали надбанням громадськості polygon.com. Одна з жертв, стримерка QTCinderella, зі сльозами на очах виступила із заявою про порушення і згодом допомогла організувати юридичні зусилля для видалення такого контенту polygon.com polygon.com. “Twitch deepfake”-скандал підкреслив, що не потрібно бути голлівудською зіркою, щоб це сталося з вами — будь-яка людина, чиї фото є в інтернеті, потенційно вразлива до того, щоб її “роздягнув” штучний інтелект проти її волі.

Зростання кількості зручних для користувача інструментів ШІ лише прискорило цю тенденцію. У 2019 році додаток під назвою DeepNude на короткий час став вірусним завдяки використанню ШІ для “роздягання” фотографій жінок одним натисканням кнопки, створюючи фейкові оголені зображення onezero.medium.com. Хоча творець DeepNude закрив його через суспільний резонанс, джин вже був випущений з пляшки. До 2023–2025 років відкриті генератори зображень (як похідні Stable Diffusion) і спеціалізовані сервіси дипфейків зробили будь-кому, хто має кілька фотографій і мінімальні технічні навички, створення оголених або сексуальних зображень інших людей елементарним. Деякі форуми відкрито обмінюються створеними ШІ оголеними фото жінок, взятих із соцмереж. Як поскаржилася одна жертва – стримерка Twitch – після того, як виявила порнографічні фейки зі своїм обличчям: “Це не має до мене жодного стосунку. Але це тут, з моїм обличчям.” theguardian.com Відчуття порушення і безсилля є відчутними серед тих, хто став “цифровою жертвою”.

Коротко кажучи, ШІ демократизував можливість створювати порнографічні фейки, і ця здатність була непропорційно використана проти жінок. Тепер “дозволеною мішенню” є не лише знаменитості – це будь-хто, від журналістів і активістів (яких можуть цілити для залякування чи дискредитації) до колишніх партнерів і приватних осіб (яких переслідують мстиві кривдники чи для схем шантажу). Поява таких функцій, як Spicy mode у Grok – яка поставила офіційну, зручну для користувача “мітку” на тому, що раніше було підпільною практикою – свідчить, що NSFW-генеративний ШІ справді увійшов у мейнстрім, тягнучи за собою весь свій етичний багаж.

Етичні, правові та суспільні наслідки порнографії, створеної ШІ

Етичне обурення через дипфейк-порно є всеохопним. У своїй основі, створення чи поширення сексуального контенту про когось без його згоди є глибоким порушенням приватності, гідності та автономії. Як стверджують Сітрон та інші етики, це більше, ніж просто зловживання зображенням – це форма сексуальної експлуатації. Жертви описують почуття “безсилля, приниження та жаху”, знаючи, що незнайомці (або кривдники) дивляться фейкові відео з ними у сексуальних актах, яких вони ніколи не робили. Це може дорівнювати віртуальній формі сексуального насильства, залишаючи тривалу травму. Не дивно, що основний удар припадає на жінок і дівчат: “Неконсесуальні інтимні дипфейки” є “актуальною, серйозною і зростаючою загрозою, яка непропорційно впливає на жінок,” підсумовують дослідники sciencedirect.com.

Окрім того, у багатьох таких матеріалах присутній мізогінний підтекст. Експерти зазначають, що deepfake-порно часто використовується як зброя для приниження жінок, які займають владні позиції або відмовляють комусь у залицяннях. «Порно, згенероване ШІ, підживлюване мізогінією, заполоняє інтернет», – зазначає The Guardian на тлі скандалу з deepfake за участю Тейлор Свіфт theguardian.com. Сам акт роздягання жінки за допомогою ШІ можна розглядати як спробу «поставити її на місце». «Це чоловіки кажуть впливовій жінці повернутися у свою коробку», – так один зі спостерігачів описав атмосферу інциденту зі Свіфт. Чи то анонімні тролі, які масово створюють оголені зображення жінки-політика, чи одержимий фанат, який робить фейкові секс-відео із зіркою поп-музики, посил схожий – це форма цифрової об’єктивації та залякування.

Поза особистою шкодою, суспільні наслідки викликають тривогу. Якщо будь-кого можна вставити у порнографію, візуальним медіа більше не можна довіряти. Deepfake загрожують масовою шкодою репутації та шантажем. Жінки, які перебувають у публічному просторі, можуть самоцензуруватися або взагалі відмовитися від онлайн-активності через страх стати мішенню. Це також створює ефект залякування: уявіть, що журналістка, яка критикує режим, стає героїнею реалістичного фейкового секс-відео, яке поширюють, щоб її зганьбити. У сукупності нормалізація «дизайнерського порно» за участю людей без їхньої згоди ставить питання про згоду, сексуальну експлуатацію та комерціалізацію людської зовнішності. Навіть у випадку добровільної індустрії для дорослих дехто побоюється, що ШІ-генеровані виконавці можуть замінити справжніх моделей – але коли ці ШІ-виконавці використовують реальні обличчя людей, вкрадені з Facebook чи Instagram, межа згоди явно порушується.

Свобода слова vs. приватність: Існує напруга між тими, хто закликає заборонити всі порнографічні дипфейки, і прихильниками свободи слова, які стурбовані надмірним втручанням. Чи може дипфейк із зіркою коли-небудь вважатися легітимною пародією або мистецтвом? Теоретично, так – сатира й пародія є захищеними формами вираження, навіть із використанням образу публічних осіб. Деякі захисники ШІ-технологій зазначають, що змонтовані зображення публічних осіб давно є частиною популярної культури (наприклад, обкладинки журналів, відредаговані у Photoshop), стверджуючи, що імпульсивна криміналізація може придушити креативність. Однак навіть більшість дослідників свободи слова проводять межу на несанкціонованих сексуальних зображеннях. Шкода для особи настільки сильна й особиста, що, ймовірно, переважає будь-який суспільний інтерес. Юридичні експерти зазначають, що закони про наклеп або переслідування можуть охоплювати деякі випадки, але не всі. Зростає консенсус, що потрібні нові правові гарантії, які б спеціально стосувалися порнографічних дипфейків, не підриваючи легітимне вираження думок apnews.com apnews.com. Розробити такі закони вузько – щоб карати очевидні зловживання, не зачіпаючи сатиру чи добровільну еротику – це виклик, з яким зараз стикаються законодавці apnews.com apnews.com.

Поточні події (станом на серпень 2025): Від техно-беклашу до нових законів

Суперечка навколо режиму “Spicy” Grok виникає в момент, коли уряди та платформи по всьому світу нарешті починають боротися з епідемією інтимних зображень, створених ШІ. Ось деякі з останніх подій:

• Національне обурення та активізм: Вірусні інциденти за участю Тейлор Свіфт та інших активізували громадську думку. Навіть Білий дім США прокоментував дипфейки зі Свіфт, як зазначено, назвавши їх «тривожними» theguardian.com. Правозахисні організації, такі як Національний центр протидії сексуальній експлуатації, відкрито засуджують xAI Маска за «сприяння сексуальній експлуатації шляхом надання можливості створювати оголеність за допомогою AI-відео» і закликають до видалення таких функцій time.com. «xAI має шукати способи запобігання сексуальному насильству та експлуатації», заявила Гейлі МакНамара з NCOSE у своїй заяві, що відображає ширший заклик громадянського суспільства time.com.
• Опитування показують переважну підтримку заборон з боку громадськості: Останні опитування показують, що громадськість рішуче підтримує жорсткіше регулювання. У січні 2025 року опитування Інституту політики штучного інтелекту показало, що 84% американців підтримують чітку заборону несанкціонованої дипфейк-порнографії на законодавчому рівні, а також хочуть, щоб AI-компанії «обмежували [AI] моделі, щоб запобігти їх використанню для створення дипфейк-порно». time.com. Аналогічно, опитування Pew Research 2019 року показало, що близько трьох чвертей дорослих у США виступають за обмеження на цифрово змінені відео/зображення time.com. Коротко кажучи, виборці з різних політичних таборів, схоже, хочуть дій проти цієї форми зловживань.
• Нові закони та законопроєкти: Законодавці почули заклик. У США закон Take It Down був підписаний у травні 2025 року, що стало першим федеральним законом, спрямованим проти порнографії з дипфейками time.com. Цей двопартійний закон робить незаконним «свідомо публікувати або погрожувати публікацією» інтимних зображень без згоди – включаючи створені ШІ дипфейки – і вимагає від платформ видаляти такий матеріал протягом 48 годин після повідомлення жертви apnews.com apnews.com. Покарання суворі, і закон надає жертвам можливість швидко домагатися видалення контенту apnews.com apnews.com. «Ми повинні надати жертвам онлайн-насильства необхідний їм правовий захист, особливо зараз, коли дипфейки створюють жахливі нові можливості для зловживань», сказала сенаторка Емі Клобучар, одна із співавторок, назвавши закон «значною перемогою для жертв онлайн-насильства». apnews.com apnews.com Ще до прийняття федерального закону понад 15 штатів США заборонили створення або розповсюдження відвертих дипфейків (часто шляхом оновлення законів про «порнопомсту»). Тепер формується єдиний федеральний стандарт. Інші країни рухаються в тому ж напрямку. Уряд Великої Британії, наприклад, криміналізував поширення дипфейк-порнографії у своєму Законі про онлайн-безпеку (набрав чинності на початку 2024 року) і просуває законодавство, яке криміналізує навіть створення сексуально відвертих дипфейків без згоди hsfkramer.com hsfkramer.com. У січні 2025 року Велика Британія повторно внесла пропозицію зробити створення дипфейк-нюдів незаконним, підкресливши це як «знаковий крок для захисту жінок і дівчат». <a href=”https://www.hsfkramer.com/notes/tmt/2024-05/criminalising-deepfakes-the-uks-new-offences-following-the-online-safety-act#:~:text=Further%20update%3A%20On%207%20January,Act%2020hsfkramer.com hsfkramer.com В Австралії у 2024 році був прийнятий закон, який забороняє як створення, так і розповсюдження deepfake-сексуального контенту, а Південна Корея навіть запропонувала криміналізувати не лише виробництво, а й володіння чи перегляд такого deepfake-порно hsfkramer.com. Світова тенденція очевидна: неконсесуальні AI-сексуальні зображення розглядаються як злочин. Законодавці визнають, що ці зображення «можуть руйнувати життя та репутацію», як висловилася Клобучар apnews.com, і вживають заходів — хоча правозахисники свободи слова, такі як EFF, застерігають, що погано прописані закони можуть призвести до надмірної цензури або зловживань apnews.com apnews.com.
• Політики технічних платформ: Основні технічні платформи почали оновлювати свої політики (принаймні на папері), щоб реагувати на створений ШІ сексуальний контент. Facebook, Instagram, Reddit і традиційний Twitter офіційно забороняють несанкціоновані інтимні зображення, включаючи дипфейки theguardian.com theverge.com. Pornhub та інші сайти для дорослих також запровадили заборони на контент, створений ШІ, із зображенням реальних людей без їхньої згоди ще у 2018 році theguardian.com theverge.com. На практиці, дотримання залишається вибірковим – рішучий користувач все ще може знайти або поширити незаконні дипфейки на багатьох платформах. Однак є ознаки прогресу: наприклад, після інциденту зі Свіфт, X (Twitter) все ж таки відреагував, заблокувавши пошук за її ім’ям, щоб зупинити поширення theguardian.com theguardian.com. Reddit не лише забороняє дипфейк-порно, а й закрив цілі спільноти, які обмінювалися таким матеріалом. YouTube та TikTok також мають політики, що забороняють відредаговані ШІ відверті зображення. Проблема полягає у масштабі та виявленні – і саме тут застосовуються нові технології.
• Виявлення та захист: Зростаюча індустрія технічних рішень спрямована на виявлення та видалення дипфейк-порно. AI-компанії, такі як Sensity (раніше Deeptrace), і стартапи, такі як Ceartas, розробляють алгоритми виявлення, які сканують інтернет на наявність обличчя людини в порноконтенті та позначають збіги polygon.com polygon.com. Насправді, після скандалу на Twitch, Atrioc співпрацював з Ceartas, щоб допомогти постраждалим стрімерам: компанія використала свій AI для пошуку дипфейк-контенту із зображенням цих жінок і подала запити на видалення за DMCA polygon.com polygon.com. OnlyFans, платформа, зацікавлена у захисті творців, також залучила такі інструменти для контролю фейкового контенту своїх моделей polygon.com. Також ведеться робота над вбудовуванням водяних знаків або метаданих у згенеровані AI зображення для допомоги у виявленні підробок, а також пропонуються вимоги щодо криптографічної автентифікації справжніх зображень (щоб зображення без позначки вважалися підробленими). Крім того, Закон ЄС про штучний інтелект (ухвалений у 2024 році) містить положення, що розробники дипфейк-інструментів повинні забезпечити чітке маркування результатів як згенерованих AI bioid.com. Декілька штатів США (і ЄС) розглядають вимоги, щоб будь-який змінений AI контент супроводжувався відповідним розкриттям при публікації cjel.law.columbia.edu bioid.com. Хоча такі позначки не зупинять зловмисників від їх видалення, вони є спробою встановити норми прозорості щодо синтетичних медіа.
• Платформа проти X Маска: Варто підкреслити, наскільки незвичним є підхід Маска з X та xAI. У той час як більшість платформ посилюють обмеження, Маск фактично їх послабив, залучаючи аудиторію, яка прагне «гострих» можливостей ШІ. X не лише не заборонила результати Grok; це дім Grok. Така розбіжність поставила X у протиріччя з багатьма експертами. У серпні 2024 року група демократів-законодавців спеціально згадала Grok Маска у листі до регуляторів, попереджаючи, що слабка політика щодо дипфейків (включаючи відверті зображення таких осіб, як Камала Гарріс чи Тейлор Свіфт) може спричинити хаос на виборах і не тільки time.com. Схоже, Маск робить ставку на те, що задоволення попиту на еротику, створену ШІ (і навіть на чат-компаньйонів ШІ, які фліртують або роздягаються, як демонструють нові функції xAI time.com), принесе дохід і користувачів. Але реакція у відповідь — юридична, соціальна й потенційно фінансова (через занепокоєння рекламодавців) — у довгостроковій перспективі може розповісти іншу історію.

Політичні пропозиції та подальший шлях: чи можемо ми стримати порнографію з дипфейками?

Згода серед політиків та етиків полягає в тому, що для боротьби з NSFW-контентом, створеним ШІ, потрібні багатосторонні дії. Основні пропозиції та ідеї включають:

• Суворіші закони та їхнє виконання: Як зазначалося, такі закони, як Take It Down Act, — це початок. Експерти пропонують подальші вдосконалення, наприклад, зробити сам факт створення фейкового сексуального зображення людини без її згоди злочином, а не лише його розповсюдження. (Велика Британія рухається в цьому напрямку hsfkramer.com hsfkramer.com.) Чіткі юридичні санкції для порушників — і для тих, хто свідомо розміщує або отримує прибуток з такого контенту — можуть стати стримуючим фактором. Важливо, щоб будь-яке законодавство було ретельно сформульоване, щоб випадково не криміналізувати еротичне мистецтво за згодою чи легітимну політичну сатиру apnews.com apnews.com. Також важливі цивільно-правові засоби: жертви повинні мати прості шляхи для подання позовів про відшкодування збитків і отримання судових приписів на видалення контенту. Багато захисників хочуть бачити винятки із Розділу 230 (американський закон, що захищає платформи від відповідальності за контент користувачів), щоб вебсайти можна було притягати до відповідальності, якщо вони не реагують на запити про видалення дипфейк-порно. Це змусило б платформи бути значно пильнішими.
• Технологічні обмеження: З боку розробки пропонується, щоб творці моделей ШІ впроваджували запобіжні заходи. Наприклад, компанії можуть навчати фільтри контенту розпізнавати, коли запит користувача містить ім’я або зовнішність реальної людини, і блокувати будь-який відвертий результат, що стосується цієї особи. (Деякі генератори зображень на основі ШІ вже відмовляються виконувати запити, які, здається, стосуються приватних осіб, або створювати оголені зображення публічних фігур – Grok від xAI є винятком, оскільки цього не робить avclub.com.) Ще одна ідея – вимагати перевірку згоди для створення відвертих зображень: наприклад, сервіс ШІ може генерувати оголене зображення лише якщо користувач доведе, що зображувана особа – це він сам або модель, яка дала згоду. Звісно, зловмисники можуть просто використовувати відкриті моделі без таких фільтрів, але якщо великі платформи впровадять суворі обмеження, це може стримати масове поширення. Перевірка віку також є проблемою – єдина перевірка у Grok полягала у простому запиті дати народження, який легко обійти gizmodo.com – тому лунають заклики до більш надійних вікових обмежень, щоб неповнолітні (які часто стають жертвами булінгу через фейкові оголені фото) не могли користуватися цими інструментами або бути зображеними за їх допомогою.
• Дослідження та виявлення: Уряди фінансують дослідження з виявлення дипфейків, а компанії співпрацюють над стандартами автентифікації медіа. Мета – спростити швидке виявлення та видалення фейкового порно, коли воно з’являється. Однак виявлення завжди буде грою в кішки-мишки, оскільки фейки на основі ШІ стають дедалі витонченішими. Деякі експерти вважають, що слід зосередитися на запобіганні шкоді (через юридичні санкції та освіту), а не сподіватися на технічний «детектор фейків», який виявить усе. Проте досягнення у сфері ШІ на благо – наприклад, покращене хешування зображень для відстеження відомих фейків або інструменти для людей, які хочуть дізнатися, чи було їхнє зображення використано без дозволу – відіграватимуть роль у зменшенні шкоди.
• Відповідальність платформ: Правозахисні організації наполягають, що соціальні мережі та платформи для дорослих повинні проактивно контролювати контент ШІ-порно. Це може означати інвестування у команди модераторів, які вміють розпізнавати дипфейки, співпрацю з правоохоронними органами щодо видалення контенту та блокування рецидивістів, які створюють або поширюють матеріали без згоди. Дехто також закликає до впровадження систем відмови або реєстрів, де люди можуть зареєструвати свою зовнішність (або своїх дітей), і платформи повинні гарантувати, що жоден ШІ-контент із їхнім зображенням не допускається – хоча адміністративно це буде складно реалізувати. Щонайменше, протоколи швидкого реагування – як, наприклад, вимога видалення протягом 48 годин згідно із законом США apnews.com – мають стати стандартною практикою на всіх платформах у світі.
• Освіта та норми: Нарешті, частина вирішення проблеми полягає у зміні соціальних норм. Так само, як суспільство врешті-решт засудило “порнопомсту” і визнало це зловживанням, є надія, що deepfake porn стане універсально стигматизованим. Якщо пересічна людина усвідомить шкоду і відмовиться поширювати чи споживати такий контент, попит зменшиться. Етики в галузі технологій наголошують на важливості медіаграмотності – навчати людей, що побачене не завжди є правдою, і що відверте фото Знаменитості X може бути підробкою. Наділення молодших поколінь навичками критичного сприйняття світу, де медіа змінюється ШІ, буде вирішальним. Так само важливими будуть кампанії, які інформують потенційних порушників, що створення таких підробок – це не жарт, а серйозне порушення з потенційно кримінальними наслідками.

Висновок

Поява “Spicy Mode” у Grok лише підлила масла у вже палаючий вогонь навколо ШІ та сексуально відвертих дипфейків. Інструмент ШІ Ілона Маска, який робить створення оголених двійників знаменитостей легким і навіть “офіційним”, викликав швидку хвилю обурення – і привернув увагу до ширшої кризи дипфейк-порно. Від залів Конгресу до коментарів на технофорумах зростає згода, що потрібно щось робити, щоб захистити людей (особливо жінок) від темних сторін цієї технології.

Як ми побачили, NSFW-контент, створений ШІ, – це не поодинока новинка, а зростаючий суспільний виклик. Це протистояння між творчою свободою та технологічними інноваціями з одного боку і приватністю, згодою та безпекою – з іншого. Джина вже не повернути у пляшку, але завдяки розумній політиці, відповідальній розробці технологій і культурним змінам ми можемо сподіватися обмежити шкоду. У найближчі місяці та роки, ймовірно, буде більше судових позовів, нових законів і вдосконалених захистів ШІ. Grok Маска або адаптується під тиском, або стане застереженням для ШІ-проєктів, які ігнорують етичні межі на власний ризик.

Поки що послання від експертів і громадськості однозначне: deepfake porn – це межа, яку ШІ не повинен перетинати. І якщо такі компанії, як xAI, не проведуть цю межу самостійно, регулятори та суспільство дедалі більше готові зробити це за них. Як висловився один із захисників етики у технологіях, “Коли твоє зображення перетворюють на порно без згоди – це руйнівно. Настав час ставитися до цього як до серйозного зловживання, а не як до неминучості технічного прогресу.” Дебати вже не про те, чи потрібні дії, а про те, як швидко й ефективно ми зможемо приборкати сексуальну експлуатацію, підживлену ШІ, перш ніж ще більше життів буде зруйновано наступною “гострою” інновацією.

Джерела:

• Новак, Метт. “‘Spicy’ Mode Grok створює NSFW-дипфейки знаменитостей-жінок (але не чоловіків).” Gizmodo, 6 серпня 2025 gizmodo.com gizmodo.com.
• Weatherbed, Джесс. “‘Гострий’ відеорежим Grok миттєво створив для мене Taylor Swift оголені deepfakes.” The Verge, 5 серпня 2025 theverge.com.
• Карр, Мері Кейт. “Ілон Маск практично благає про позов від Тейлор Свіфт через Grok AI оголені deepfakes.” AV Club, 7 серпня 2025 avclub.com avclub.com.
• Санер, Еміні. “Всередині скандалу з deepfake Тейлор Свіфт: ‘Це чоловіки, які кажуть впливовій жінці повернутися на своє місце’.” The Guardian, 31 січня 2024 theguardian.com theguardian.com.
• Кларк, Ніколь. “Стрімер, який спровокував скандал з deepfake порно на Twitch, повертається.” Polygon, 16 березня 2023 polygon.com polygon.com.
• Патріні, Джорджо. “Стан deepfakes.” Звіт Deeptrace Labs, жовтень 2019 regmedia.co.uk.
• Сітрон, Даніель. Інтерв’ю в NYMag Intelligencer, жовтень 2019 nymag.com.
• Ортутаї, Барбара. “Президент Трамп підписав Take It Down Act, що стосується неконсенсуальних deepfakes. Що це таке?” AP News, серпень 2025 apnews.com apnews.com.
• Бурга, Солсіре. “Грок Ілона Маска незабаром дозволить користувачам створювати AI-відео, включаючи відвертого характеру.” TIME, серпень 2025 time.com time.com.
• Юридична фірма Herbert Smith Freehills. “Криміналізація дипфейків – нові правопорушення у Великій Британії…,” 21 травня 2024 hsfkramer.com hsfkramer.com.