מצב ה-AI ה"חריף" של אילון מאסק מעורר שערוריית דיפפייק לא הולמת – מדוע נשים הן המטרה במשבר הפורנו החדש של הבינה המלאכותית

המיזם החדש של אילון מאסק בתחום הבינה המלאכותית נמצא תחת אש בשל יצירת דיפפייקים עירומים ללא הסכמה של סלבריטאיות – ובאופן שמגלה הטיה מגדרית מטרידה. חקירה עדכנית של Gizmodo חושפת כי כלי ה-Grok Imagine של מאסק, עם מצב ה-Spicy, יוצר בקלות סרטונים לא הולמים (NSFW) של נשים מפורסמות (כמו טיילור סוויפט או מלניה טראמפ), אך מסרב לעשות זאת עבור גברים gizmodo.com gizmodo.com. הדיווח הזה מתעמק בממצאי Gizmodo על הפיצ'ר השנוי במחלוקת של Grok, בוחן את העלייה המהירה של תוכן פורנוגרפי שנוצר בבינה מלאכותית ודיפפייקים, וחוקר את ההשלכות האתיות, המשפטיות והחברתיות. אנו גם סוקרים את ההתפתחויות האחרונות נכון לאוגוסט 2025 – מהזעם הציבורי ואזהרות המומחים ועד חוקים חדשים שמטרתם לצמצם את תופעת "פורנו נקמה" שנוצר בבינה מלאכותית. המטרה: להבין כיצד "מצב ספייסי" הפך לנקודת מחלוקת חדשה במשבר התוכן הלא הולם שנוצר בבינה מלאכותית, ומה ניתן לעשות בנידון.

“מצב ספייסי” של Grok – דיפפייקים לא הולמים והטיה מובנית

Grok Imagine הוא מחולל תמונות ווידאו של xAI (זמין למנויים משלמים בפלטפורמת X של מאסק) וראוי לציון ש-מאפשר למשתמשים ליצור תוכן למבוגרים באמצעות מצב "Spicy" gizmodo.com. בעוד שכלי בינה מלאכותית מרכזיים כמו Veo של גוגל ו-Sora של OpenAI אוסרים על תוכן מפורש או דימויים של סלבריטאים, מצב Spicy של Grok מעודד זאת באופן פעיל avclub.com avclub.com. הבדיקה של The Verge הראתה שהבינה המלאכותית "לא היססה להפיק סרטונים חשופים לחלוטין של טיילור סוויפט מהניסיון הראשון – אפילו מבלי שהתבקשו תמונות עירום" theverge.com. באופן דומה, Deadline מצא שקל מאוד לגרום ל-Grok ליצור תמונה של סקרלט ג'והנסון חושפת את התחתונים שלה avclub.com. בניגוד בולט, ניסיונות להפיק עירום גברי לא צלחו. כפי ש-Gizmodo מדווחים, "הוא היה יוצר רק את אלו שמציגות נשים כלא-בטוחות-לעבודה באמת. סרטונים של גברים היו מהסוג שלא ממש היה מושך תשומת לב." gizmodo.com בפועל, מצב Spicy של Grok עשוי להציג גבר לכל היותר ללא חולצה, בעוד שנשים מוצגות ללא חלק עליון או בעירום מלא.

הסטנדרט הכפול הבוטה הזה העלה דגלים אדומים. Grok תייצר קליפ בסגנון פורנו רך של דמות ציבורית נשית בלחיצת כפתור gizmodo.com, אבל אותו מסנן "Spicy" כנראה עוצר רק בחשיפת חזה אצל גברים gizmodo.com. מאט נובאק מ-Gizmodo אפילו ניסה להפעיל את המערכת על גבר גנרי ולא מפורסם לעומת אישה גנרית: האווטאר הגברי משך במבוכה במכנסיים אך נשאר מכוסה, בעוד שהאווטאר הנשי חשף מיד את שדיה gizmodo.com. תוצאות כאלה מרמזות על הטיה מגדרית המובנית במנגנון סינון התוכן של הבינה המלאכותית (בין אם במכוון או כתוצאה מהאימון שלה). ההיסטוריה של מאסק עצמו עם הערות מיזוגיניות – מהגברת טענות שנשים הן "חלשות" gizmodo.com ועד בדיחות על כך שיכניס את טיילור סוויפט להריון – מחזקת את החשד שמדובר בתכונה ולא בתקלה gizmodo.com.

יכולות ומגבלות: ראוי לציין שהדיפפייקים של Grok הם לעיתים קרובות באיכות ירודה. הדמויות המפורסמות שהוא מייצר לרוב אינן משכנעות או מלאות תקלות gizmodo.com gizmodo.com. (לדוגמה, תמונות שאמורות להציג את השחקנית סידני סוויני או את הפוליטיקאי ג'יי.די. ואנס לא דמו כלל למקור gizmodo.com.) טעויות המשכיות מוזרות – כמו גבר שלובש שני מכנסיים לא תואמים באותו וידאו – הן תופעה נפוצה gizmodo.com. Grok גם מייצר אוטומטית מוזיקת רקע או אודיו גנריים לכל קליפ, מה שמוסיף לאווירה הסוריאליסטית של "עמק המוזרות" gizmodo.com. הכשלים הטכניים הללו עשויים להיות קרש הצלה עבור xAI כרגע, שכן זיופים עירומים מציאותיים של אנשים מפורסמים כמעט בוודאות היו גוררים תביעות משפטיות וצווי מניעה gizmodo.com. כפי ש-Gizmodo התבדחו, ההגנה הטובה ביותר של מאסק מפני תביעה משפטית עשויה להיות ש"התמונות אפילו לא קרובות" למפורסמים האמיתיים gizmodo.com. אבל הטכנולוגיה משתפרת במהירות, ואפילו הדיפפייקים הבלתי מושלמים הללו הם מזוהים מספיק כדי להיות מטרידים avclub.com.

תגובת הציבור: ההשקה של "מצב חריף" עוררה מיד זעם ברשתות החברתיות ובתקשורת. בתוך ימים מהשקת Grok Imagine, X (טוויטר) הוצפה בתמונות שנוצרו על ידי בינה מלאכותית של נשים עירומות, כאשר משתמשים שיתפו בהתלהבות טיפים כיצד למקסם את העירום בהנחיות שלהם gizmodo.com. הדבר עורר ביקורת נרחבת שמאסק למעשה פתח את הסכר להטרדה מינית וניצול מונעים בינה מלאכותית. "רוב התוכן של Grok Imagine שמאסק שיתף או פרסם מחדש הם קליפים של בלונדיניות שופעות במראה גנרי או נשים בלבוש פנטזיה חושפני," ציין ה-A.V. Club, והדגיש שמאסק נראה נחוש להתחרות ב-Pornhub avclub.com avclub.com. בלוגרי טכנולוגיה ומגיבים הציעו בציניות שמאסק "כמעט מתחנן לתביעה מטיילור סוויפט" בעקבות העירום האוטומטי של Grok avclub.com. אכן, ישנם מגיבים שקראו למטרות בולטות כמו סוויפט לתבוע את מאסק בבית המשפט ו"לגרום לעולם להיות בטוח יותר עבור נשים ונערות אחרות" avclub.com. עד כה, אין סימן פומבי לפעולה משפטית מצד סוויפט או אחרים – אך הקריאות לאחריות הולכות ומתחזקות.

אפילו מעבר למחלוקת סביב Grok, שנת 2024 חוותה זעם ציבורי נרחב על פורנו שנוצר בינה מלאכותית ב-X. באירוע אחד, תמונות פורנוגרפיות דיפפייק של טיילור סוויפט הופצו בפראות בפלטפורמה, כאשר תמונה מזויפת אחת זכתה ל-47 מיליון צפיות לפני שהוסרה theguardian.com. מעריצים התגייסו בהמוניהם לדווח על התמונות, ואפילו הבית הלבן התייחס למצב, וכינה אותו "מדאיג" theguardian.com. המקרה של סוויפט יוצא דופן רק בגלל תשומת הלב שקיבל; אינספור נשים (מפורסמות ולא מפורסמות) ראו את דמותן הופכת לתוכן מיני מפורש שפלטפורמות לא מצליחות להסיר במהירות theguardian.com theguardian.com. הזעם הציבורי סביב מקרים אלה – וכעת גם סביב מצב ה-NSFW המובנה של Grok – משקף קונצנזוס הולך וגובר ש-כלי בינה מלאכותית שמאפשרים דיפפייקים מיניים חוצים קווים אתיים.

העלייה המהירה של תוכן NSFW ודיפפייקים שנוצרו בבינה מלאכותית

פרשת Grok היא הפרק האחרון במגמה מדאיגה: פורנו שנוצר בבינה מלאכותית ("פורנו דיפפייק") התפשט במהירות בשנים האחרונות. התופעה זכתה לפרסום שלילי לראשונה ב-2017, כאשר חובבים ב-Reddit החלו להשתמש באלגוריתמים ראשוניים של למידת מכונה כדי להדביק פרצופים של סלבריטאיות על גופם של שחקני פורנו. עד 2018, סרטוני "דיפפייק" של גל גדות, אמה ווטסון, סקרלט ג'והנסון ואחרות התרבו באתרים למבוגרים – מה שהוביל לאיסורים מפלטפורמות כמו Reddit, Twitter ו-Pornhub על תוכן לא בהסכמה כזה theguardian.com theverge.com.

למרות האיסורים המוקדמים הללו, תעשיית הפורנו הדיפפייק עברה למחתרת והמשיכה לגדול. בסוף 2019, דו"ח מכונן של חברת הסייבר Deeptrace מצא כי 96% מכל סרטוני הדיפפייק שמסתובבים ברשת הם פורנוגרפיים, עם החלפת פנים לא בהסכמה, וכמעט כולם מציגים נשים כמטרה regmedia.co.uk. ארבעת אתרי הפורנו דיפפייק הגדולים שנחקרו צברו מעל 134 מיליון צפיות בסרטונים שממוקדים ב"מאות סלבריטאיות ברחבי העולם." regmedia.co.uk חוסר האיזון היה בולט: הקורבנות היו ברובן נשים, והצרכנים התעניינו כמעט רק בנשים כאובייקטים מיניים. "99% מסרטוני הסקס דיפפייק כוללים נשים, בדרך כלל סלבריטאיות," ציינה פרופ' למשפטים דניאל סיטרון, והדגישה כיצד היצירות הללו "הופכות אותך לאובייקט מיני בדרכים שלא בחרת" nymag.com. "אין שום דבר רע בפורנוגרפיה כל עוד בחרת בה בעצמך," הוסיפה סיטרון – האימה בדיפפייקים היא שהנשים הללו מעולם לא בחרו שהדמות שלהן תופיע בסצנות מפורשות nymag.com.

בתחילה, דיפפייקים של סלבריטאים שלטו, אך כיום אנשים רגילים הופכים למטרה יותר ויותר. בינואר 2023, קהילת הסטרימינג של Twitch הזדעזעה כאשר הסטרימר הפופולרי ברנדון "Atrioc" יואינג חשף בטעות שצפה באתר פורנו דיפפייק אשר מכר סרטונים מפורשים של סטרימריות – תוך עריכת פניהן על גופם של שחקני פורנו polygon.com. הנשים (חלקן היו חברות אישיות של Atrioc) היו הרוסות והתמודדו עם גלי הטרדות לאחר שהדיפפייקים נחשפו polygon.com. אחת הקורבנות, הסטרימרית QTCinderella, מסרה הצהרה בדמעות בה גינתה את הפגיעה, ולאחר מכן סייעה לארגן מאמצים משפטיים להסרת התוכן polygon.com polygon.com. "שערוריית הדיפפייק של Twitch" הדגישה שלא צריך להיות כוכב הוליוודי כדי שזה יקרה לך – כל אדם שיש לו תמונות ברשת עלול להיות פגיע ל"בדיקה בעירום" בידי בינה מלאכותית בניגוד לרצונו.

העלייה בכלי בינה מלאכותית ידידותיים למשתמש רק האיצה את המגמה. בשנת 2019, אפליקציה בשם DeepNude הפכה לוויראלית לזמן קצר לאחר שהשתמשה בבינה מלאכותית כדי "להפשיט" תמונות של נשים בלחיצת כפתור, ולייצר עירום מזויף onezero.medium.com. למרות שיוצר DeepNude סגר אותה בעקבות תגובת נגד ציבורית, הג'יני כבר יצא מהבקבוק. עד 2023–2025, מחוללי תמונות בקוד פתוח (כמו נגזרות של Stable Diffusion) ושירותי דיפפייק ייעודיים הפכו את זה לטריוויאלי עבור כל מי שיש לו כמה תמונות ומעט ידע טכנולוגי ליצור תמונות עירום או מיניות של אחרים. פורומים מסוימים סוחרים בגלוי בעירום שנוצר בבינה מלאכותית של נשים שנלקחו מהרשתות החברתיות. כפי שהתלוננה אחת מקורבנות Twitch לאחר שגילתה זיופים פורנוגרפיים של עצמה, "זה לא קשור אליי. ובכל זאת זה כאן עם הפנים שלי." theguardian.com תחושת הפגיעה וחוסר האונים מורגשת היטב בקרב אלו שנפגעו "דיגיטלית".

בקצרה, הבינה המלאכותית הפכה את היכולת ליצור זיופים פורנוגרפיים לנחלת הכלל, והיכולת הזו נוצלה באופן לא פרופורציונלי נגד נשים. לא רק סלבריטאיות הן מטרה – זה כל אחד, מעיתונאיות ופעילות (שעלולות להיות ממוקדות כדי להרתיע או להכפיש) ועד אקסים ואנשים פרטיים (שממוקדים על ידי מטרידים נקמנים או לצורכי סחיטה). הופעת פיצ'רים כמו מצב Spicy של Grok – שמעניקים חותמת רשמית וידידותית למשתמש למה שבעבר היה פרקטיקה מחתרתית – מסמנת שבינה מלאכותית גנרטיבית NSFW נכנסה באמת למיינסטרים, וגררה איתה את כל המטען האתי שלה.

השלכות אתיות, משפטיות וחברתיות של פורנו שנוצר בבינה מלאכותית

הזעם האתי סביב פורנו דיפפייק הוא רחב היקף. בבסיסו, יצירה או שיתוף של תוכן מיני של מישהו ללא הסכמתו היא פגיעה עמוקה בפרטיות, בכבוד ובאוטונומיה. כפי שטוענים Citron ואתיקאים נוספים, זה הרבה יותר מהתעללות מבוססת תמונה – זו צורה של ניצול מיני. קורבנות מתארות תחושות של "חוסר אונים, השפלה ואימה" בידיעה שזרים (או מתעללים) צופים בסרטונים מזויפים שלהן במעשי מין שמעולם לא עשו. זה יכול להיחשב לצורה וירטואלית של תקיפה מינית, ולהותיר טראומה מתמשכת. לא מפתיע שנשים ונערות נושאות בעיקר בנטל: "דיפפייקים אינטימיים לא בהסכמה" הם "איום עכשווי, חמור ומתרחב, שמשפיע באופן לא פרופורציונלי על נשים," מסכמים חוקרים sciencedirect.com.

יש גם זרם מיזוגיני בתוכן הזה. מומחים מציינים שפורנו דיפפייק משמש לעיתים קרובות כנשק להשפלת נשים בתפקידי כוח או כאלה שדחו חיזורים. "פורנו שנוצר בינה מלאכותית, מונע ממיזוגיניה, מציף את האינטרנט," ציין הגרדיאן במהלך הסערה סביב הדיפפייק של טיילור סוויפט theguardian.com. עצם המעשה של הפשטת אישה באמצעות בינה מלאכותית יכול להיתפס כניסיון "להחזיר אותה למקומה". "זה גברים שאומרים לאישה חזקה לחזור לקופסה שלה," כפי שתיאר זאת אחד הצופים באירוע של סוויפט. בין אם אלה טרולים אנונימיים שמייצרים תמונות עירום של פוליטיקאית, או מעריץ אובססיבי שמייצר קלטות מין מזויפות של כוכבת פופ, המסר דומה – צורה של החפצה דיגיטלית ואיומים.

מעבר לפגיעה האישית, ההשלכות החברתיות מדאיגות. אם כל אחד יכול להיות מוצג בפורנוגרפיה, אי אפשר עוד לסמוך על מדיה חזותית. דיפפייקים מאיימים בנזק תדמיתי ובסחיטה בקנה מידה רחב. נשים במוקד הציבורי עשויות לצנזר את עצמן או להתרחק מהשתתפות ברשת מחשש להיות מטרה. יש גם אפקט מצנן על חופש הביטוי: דמיינו עיתונאית שמבקרת משטר ומוצאת את עצמה מושא לסרטון מין מזויף ריאליסטי שמופץ כדי לבזות אותה. במצטבר, הנורמליזציה של "פורנו בעיצוב אישי" עם משתתפות לא מסכימות מעלה שאלות על הסכמה, ניצול מיני והפיכת דמות האדם למוצר. אפילו בתעשיית הבידור למבוגרים בהסכמה, יש החוששים שמבצעים שנוצרו בבינה מלאכותית יחליפו דוגמניות אמיתיות – אבל כאשר אותם מבצעים לובשים את הפנים האמיתיות של אנשים שנגנבו מפייסבוק או אינסטגרם, קו ההסכמה נחצה בבירור.

חופש הביטוי מול פרטיות: קיימת מתיחות בין אלו הקוראים לאסור לחלוטין על דיפפייקים פורנוגרפיים לבין תומכי חופש הביטוי החוששים מהגזמה רגולטורית. האם דיפפייק של סלבריטאי יכול להיחשב אי פעם לפרודיה או לאמנות לגיטימית? בתיאוריה, כן – סאטירה ופרודיה הן ביטוי מוגן, גם כאשר נעשה שימוש בדמותם של דמויות ציבוריות. יש המגנים על טכנולוגיית הבינה המלאכותית וטוענים כי תמונות מעובדות של דמויות ציבוריות היו מאז ומתמיד חלק מהתרבות הפופולרית (למשל, שערי מגזינים שעברו פוטושופ), וטוענים כי הפללה אוטומטית עלולה לדכא יצירתיות. עם זאת, גם רוב החוקרים בתחום חופש הביטוי מציבים גבול בתיאורים מיניים לא בהסכמה. הפגיעה באדם כה עזה ואישית, עד שניתן לטעון שהיא גוברת על כל אינטרס ציבורי. מומחי משפט מציינים כי חוקי לשון הרע או הטרדה עשויים לכסות חלק מהמקרים, אך לא את כולם. ישנה הסכמה הולכת וגוברת כי נדרשים אמצעים משפטיים חדשים שיטפלו במיוחד בפורנו דיפפייק, מבלי לפגוע בביטוי לגיטימי apnews.com apnews.com. ניסוח חוקים כאלה באופן מדויק – כך שיענישו ניצול לרעה ברור מבלי לכלול סאטירה או ארוטיקה בהסכמה – הוא אתגר עמו מתמודדים כעת קובעי המדיניות apnews.com apnews.com.

התפתחויות עדכניות (נכון לאוגוסט 2025): מהלם טכנולוגי ועד חקיקה חדשה

המחלוקת סביב מצב ה"Spicy" של Grok מגיעה ברגע שבו ממשלות ופלטפורמות ברחבי העולם מתחילות סוף סוף להיאבק במגפה של דימויים אינטימיים שנוצרו בבינה מלאכותית. הנה כמה מההתפתחויות האחרונות:

• זעם לאומי ואקטיביזם: התקריות הוויראליות בהן היו מעורבים טיילור סוויפט ואחרים עוררו את דעת הקהל. אפילו הבית הלבן האמריקאי התייחס לדיפפייקים של סוויפט, כפי שצוין, וכינה אותם "מטרידים" theguardian.com. ארגוני סנגור כמו המרכז הלאומי למאבק בניצול מיני הביעו ביקורת חריפה, וגינו את xAI של מאסק על כך שהיא "מקדמת ניצול מיני בכך שמאפשרת לסרטוני בינה מלאכותית ליצור עירום" וקראו להסרת תכונות כאלה time.com. "xAI צריכה לחפש דרכים למנוע התעללות וניצול מיני," אמרה היילי מקנמרה מ-NCOSE בהצהרה, המשקפת דחיפה רחבה יותר מצד החברה האזרחית time.com.
• סקרים מראים תמיכה ציבורית גורפת באיסורים: סקרים עדכניים מראים שהציבור תומך באופן מובהק ברגולציה מחמירה יותר. סקר מינואר 2025 של מכון מדיניות הבינה המלאכותית מצא כי 84% מהאמריקאים תומכים בהפיכת פורנו דיפפייק לא-בהסכמה לבלתי חוקי במפורש, ורוצים גם שחברות בינה מלאכותית "יגבילו [את] המודלים כדי למנוע את השימוש בהם ליצירת פורנו דיפפייק." time.com. סקר של Pew Research מ-2019 מצא גם הוא שכשלושה רבעים מהמבוגרים בארה"ב תומכים בהגבלות על וידאו/תמונות שעברו שינוי דיגיטלי time.com. בקיצור, נראה כי בוחרים מכל קצוות הקשת רוצים פעולה נגד צורה זו של התעללות.
• חוקים ותקנות חדשים: המחוקקים שמעו את הקריאה. בארה"ב, חוק Take It Down נחתם בחוק במאי 2025, מה שמסמן את החקיקה הפדרלית הראשונה שממוקדת בפורנוגרפיית דיפפייק time.com. החוק הדו-מפלגתי הזה הופך את זה לבלתי חוקי "לפרסם ביודעין או לאיים בפרסום" תמונות אינטימיות ללא הסכמה – כולל דיפפייקים שנוצרו בינה מלאכותית – ודורש מהפלטפורמות להסיר חומרים כאלה תוך 48 שעות מהודעת הקורבן apnews.com apnews.com. הענישה חמורה, והחוק מעניק לקורבנות את הכוח להסיר במהירות תכנים פוגעניים apnews.com apnews.com. "עלינו לספק לקורבנות התעללות מקוונת את ההגנות המשפטיות שהן צריכות, במיוחד כעת כאשר דיפפייקים יוצרים הזדמנויות מחרידות חדשות להתעללות," אמרה הסנאטורית איימי קלובושר, שותפה לחוק, וכינתה את החוק "ניצחון גדול לקורבנות של התעללות מקוונת." apnews.com apnews.com עוד לפני החוק הפדרלי, למעלה מ-15 מדינות בארה"ב אסרו את יצירתם או הפצתם של דיפפייקים מפורשים (לעיתים קרובות על ידי עדכון חקיקת "פורנו נקמה"). כעת, מתגבש תקן פדרלי אחיד. מדינות נוספות פועלות במקביל. ממשלת בריטניה, למשל, הפכה את שיתוף פורנוגרפיית הדיפפייק לעבירה פלילית בחוק הבטיחות המקוונת שלה (נכנס לתוקף בתחילת 2024), ומקדמת חקיקה שתהפוך לפלילית גם את היצירה של דיפפייקים מיניים ללא הסכמה hsfkramer.com hsfkramer.com. בינואר 2025 בריטניה הציגה מחדש הצעה להפוך את יצירת דיפפייקים בעירום לבלתי חוקית, תוך הדגשה שזהו "פיתוח מכריע להגנה על נשים ובנות." <a href="https://www.hsfkramer.com/notes/tmt/2024-05/criminalising-deepfakes-the-uks-new-offences-following-the-online-safety-act#:~:text=Further%20update%3A%20On%207%20January,Act%2020hsfkramer.com hsfkramer.com אוסטרליה העבירה חוק ב-2024 האוסר גם על יצירה וגם על הפצה של חומר מיני דיפפייק, ו-דרום קוריאה אף הלכה רחוק יותר והציעה להפליל אפילו החזקה או צפייה בפורנו דיפפייק כזה (לא רק את ייצורו) hsfkramer.com. המגמה העולמית ברורה: תמונות מין בינה מלאכותית ללא הסכמה נחשבות לפשע. מחוקקים מכירים בכך שתמונות אלו "יכולות להרוס חיים ומוניטין," כפי שאמרה קלובושר apnews.com, ונוקטים בפעולה – אם כי ארגוני שמירה על חופש הביטוי כמו EFF מזהירים שחוקים שנוסחו בצורה גרועה עלולים להוביל לצנזורה-יתר או לשימוש לרעה apnews.com apnews.com.
• מדיניות פלטפורמות טכנולוגיה: פלטפורמות טכנולוגיה מרכזיות החלו לעדכן את המדיניות שלהן (לפחות על הנייר) כדי להתמודד עם תוכן מיני שנוצר בידי בינה מלאכותית. פייסבוק, אינסטגרם, רדיט וטוויטר המסורתית כולן אוסרות רשמית על הפצת דימויים אינטימיים ללא הסכמה, כולל דיפפייקים theguardian.com theverge.com. גם Pornhub ואתרי מבוגרים נוספים הנהיגו איסור על תוכן שנוצר בבינה מלאכותית הכולל אנשים אמיתיים ללא הסכמה כבר ב-2018 theguardian.com theverge.com. בפועל, האכיפה עדיין חלקית – משתמש נחוש עדיין יכול למצוא או לשתף דיפפייקים אסורים בפלטפורמות רבות. עם זאת, יש סימני התקדמות: לדוגמה, לאחר תקרית סוויפט, X (טוויטר) הגיבה בסופו של דבר על ידי חסימת חיפושים על שמה כדי לעצור את ההפצה theguardian.com theguardian.com. רדיט לא רק אוסרת פורנו דיפפייק, אלא אף סגרה קהילות שלמות שעסקו בכך. ליוטיוב ולטיקטוק יש מדיניות האוסרת על דימויים מפורשים שעברו מניפולציה בבינה מלאכותית גם כן. האתגר הוא בהיקף ובזיהוי – ושם נכנסת הטכנולוגיה החדשה לפעולה.
• זיהוי ואמצעי הגנה: תעשייה מתפתחת של פתרונות טכנולוגיים שואפת לזהות ולהסיר פורנו דיפפייק. חברות בינה מלאכותית כמו Sensity (לשעבר Deeptrace) וסטארט-אפים כמו Ceartas מפתחים אלגוריתמים לזיהוי שסורקים את האינטרנט אחר פניו של אדם בתוכן פורנוגרפי ומסמנים התאמות polygon.com polygon.com. למעשה, לאחר שערוריית Twitch, אטריוק שיתף פעולה עם Ceartas כדי לסייע לסטרימריות שנפגעו: החברה השתמשה בבינה המלאכותית שלה כדי לאתר תוכן דיפפייק של אותן נשים ולהגיש בקשות הסרה לפי DMCA polygon.com polygon.com. גם OnlyFans, פלטפורמה שלה אינטרס מובהק להגן על יוצרות התוכן, גייסה כלים כאלה כדי לאכוף הסרה של תוכן מזויף של הדוגמניות שלה polygon.com. יש גם עבודה על הטמעת סימני מים או מטא-דאטה בתמונות שנוצרו בבינה מלאכותית כדי לסייע בזיהוי זיופים, וכן הצעות לדרוש אימות קריפטוגרפי של תמונות אמיתיות (כך שתמונות ללא תווית ייחשבו מזויפות). בנוסף, חוק הבינה המלאכותית של האיחוד האירופי (שהוסכם ב-2024) כולל סעיפים שמפתחים של כלי דיפפייק חייבים להבטיח שהתוצרים יסומנו בבירור כתוצרי בינה מלאכותית bioid.com. מספר מדינות בארה"ב (וכן האיחוד האירופי) שוקלות לחייב שכל תוכן ששונה בבינה מלאכותית יתלווה אליו גילוי בעת פרסומו cjel.law.columbia.edu bioid.com. אמנם תוויות כאלה לא ימנעו משחקנים זדוניים להסיר אותן, אך הן מהוות ניסיון לקבוע נורמות של שקיפות סביב מדיה סינתטית.
• פלטפורמה מול X של מאסק: ראוי להדגיש עד כמה הגישה של מאסק עם X ו-xAI יוצאת דופן. בעוד שרוב הפלטפורמות מהדקות מגבלות, מאסק למעשה הקל בהן, ופונה לקהל משתמשים שמעוניין ביכולות AI "נועזות". X לא רק שלא אסרה את הפלטים של Grok; היא הבית של Grok. השוני הזה העמיד את X בניגוד לדעתם של מומחים רבים. באוגוסט 2024, קבוצת מחוקקים דמוקרטים ציינה במפורש את Grok של מאסק במכתב לרגולטורים, והזהירה שמדיניות רופפת בנוגע לדיפפייקים (כולל כאלה מפורשים של דמויות כמו קמלה האריס או טיילור סוויפט) עלולה לגרום לכאוס בבחירות ומעבר לכך time.com. נראה שמאסק מהמר על כך שהתאמה לביקוש לארוטיקה שנוצרת ב-AI (ואפילו צ'אט-בוטים של AI שמפלרטטים או מתפשטים, כפי שמדגימות התכונות החדשות של xAI time.com) תביא הכנסות ומשתמשים. אבל התגובה – משפטית, חברתית, ואולי גם כלכלית (דרך חששות מפרסמים) – עשויה לספר סיפור אחר בטווח הארוך.

הצעות מדיניות והדרך קדימה: האם אפשר לרסן פורנו דיפפייק?

הקונצנזוס בקרב קובעי מדיניות ואתיקאים הוא שנדרשת פעולה רב-זרועית כדי להתמודד עם תוכן NSFW שנוצר ב-AI. הצעות ורעיונות מרכזיים כוללים:

• חוקים חזקים יותר ואכיפה: כפי שצוין, חוקים כמו Take It Down Act הם התחלה. מומחים מציעים שיפורים נוספים, כמו הפיכת המעשה של יצירת דימוי מיני מזויף של מישהו ללא הסכמתו לעבירה פלילית, ולא רק הפצתו. (בריטניה נעה בכיוון הזה hsfkramer.com hsfkramer.com.) עונשים משפטיים ברורים לעבריינים – וגם למי שביודעין מאחסן או מרוויח מתוכן כזה – יכולים להרתיע. חשוב שכל חקיקה תהיה ממוקדת כדי להימנע מהפללה לא מכוונת של אמנות ארוטית בהסכמה או סאטירה פוליטית לגיטימית apnews.com apnews.com. גם סעדים אזרחיים חיוניים: קורבנות צריכים דרכים קלות לתבוע פיצויים ולקבל צווים להסרת תוכן. רבים מהתומכים רוצים לראות חריגים בסעיף 230 (החוק האמריקאי שמגן על פלטפורמות מאחריות לתוכן משתמשים) כך שאתרים יישאו באחריות אם לא יגיבו לבקשות הסרה של פורנו דיפפייק. זה ילחץ על הפלטפורמות להיות הרבה יותר ערניות.
• סייגים טכנולוגיים: בצד הפיתוח, הצעות מציעות כי יוצרי מודלים של בינה מלאכותית צריכים לבנות אמצעי מניעה. לדוגמה, חברות יכולות לאמן מסנני תוכן לזהות כאשר בקשת משתמש כוללת שם או דמות של אדם אמיתי ולחסום כל פלט מפורש שכולל את אותו אדם. (חלק ממחוללי התמונות מבוססי הבינה המלאכותית כבר מסרבים לבקשות שנראות כמתייחסות לאנשים פרטיים או מייצרות עירום של דמויות ציבוריות – Grok של xAI הוא יוצא דופן בכך שאינו עושה זאת avclub.com.) רעיון נוסף הוא לדרוש אימות הסכמה עבור יצירות מפורשות: לדוגמה, שירות בינה מלאכותית עשוי לייצר תמונה עירומה רק אם המשתמש מוכיח שהנושא הוא הוא עצמו או דוגמן/ית מסכים/ה. כמובן, גורמים זדוניים יכולים פשוט להשתמש במודלים בקוד פתוח ללא מסננים כאלה, אך אם הפלטפורמות המרכזיות יאמצו סייגים מחמירים, הדבר עשוי לצמצם את ההתפשטות למיינסטרים. אימות גיל הוא גם נושא לדאגה – הבדיקה היחידה של Grok הייתה שדה תאריך לידה שקל לעקוף gizmodo.com – ולכן יש קריאות להחמרת מנגנוני אימות גיל כדי להבטיח שקטינים (שלרוב מהווים יעד לבריונות באמצעות תמונות עירום מזויפות) לא יוכלו להשתמש בכלים אלה או להיות מוצגים בהם.
• מחקר וזיהוי: ממשלות מממנות מחקר בתחום זיהוי דיפפייק, וחברות משתפות פעולה על תקנים לאימות מדיה. המטרה היא להקל על זיהוי והסרה מהירה של פורנו מזויף כאשר הוא מופיע. עם זאת, הזיהוי תמיד יהיה "מרדף חתול ועכבר" ככל שהזיופים משתכללים. יש מומחים הסבורים כי יש להעביר את המיקוד למניעת נזק (באמצעות ענישה חוקית וחינוך) במקום לקוות ל"בלש טכנולוגי" שיתפוס הכול. ובכל זאת, התקדמות בבינה מלאכותית לטובה – כמו האשטאג תמונה משופר למעקב אחר זיופים ידועים, או כלים לאיתור שימוש לרעה בתמונה – תסייע בצמצום התופעה.
• אחריות פלטפורמות: ארגוני סנגור טוענים כי פלטפורמות מדיה חברתית ואתרי תוכן למבוגרים חייבים לאכוף באופן יזום תוכן פורנוגרפי שנוצר בבינה מלאכותית. זה עשוי לכלול השקעה בצוותי בקרה מיומנים בזיהוי דיפפייקים, שיתוף פעולה עם רשויות אכיפת החוק בהורדת תכנים, ואיסור על מפרים סדרתיים שיוצרים או משתפים חומרים לא בהסכמה. יש גם קריאות למערכות הסרה או רישום, בהן אנשים יוכלו לרשום את דמותם (או של ילדיהם) והפלטפורמות יחויבו לוודא שלא יופיע תוכן בינה מלאכותית שמציג אותם – אף שלממש זאת יהיה אתגר אדמיניסטרטיבי. לכל הפחות, נהלי תגובה מהירים – כמו דרישת ההסרה תוך 48 שעות בחוק האמריקאי apnews.com – צריכים להפוך לנוהג סטנדרטי בכל הפלטפורמות בעולם.
• חינוך ונורמות: לבסוף, חלק מהפתרון טמון בשינוי נורמות חברתיות. כפי שהחברה למדה לגנות באופן נרחב "פורנו נקמה" ולהכיר בו כהתעללות, התקווה היא ש-פורנו דיפפייק יהפוך לסטיגמטי באופן אוניברסלי. אם האדם הממוצע יבין את הנזק ויסרב לשתף או לצרוך תוכן כזה, הביקוש יפחת. אתיקאים טכנולוגיים מדגישים את חשיבות ה-אוריינות המדיה – ללמד אנשים שלא כל מה שרואים הוא אמיתי, ושתמונה פרובוקטיבית של סלבריטאי X עשויה להיות מזויפת. העצמת הדור הצעיר לנווט באופן ביקורתי בעולם של מדיה שעברה שינוי בינה מלאכותית תהיה קריטית. כך גם קמפיינים להבהיר למי ששוקל ליצור זיופים כאלה שזה לא מתיחה – אלא פגיעה חמורה עם השלכות פליליות אפשריות.

סיכום

הופעת "מצב ספייסי" של Grok שפכה שמן למדורה הבוערת סביב בינה מלאכותית ודיפפייקים מיניים מפורשים. כלי הבינה המלאכותית של אילון מאסק, בכך שהוא הופך את יצירת דמויות עירום של סלבריטאיות לקלה ואפילו "רשמית", עורר תגובת נגד מהירה – והפנה זרקור למשבר הרחב של פורנו דיפפייק. מהקונגרס ועד שרשורי תגובות בפורומים טכנולוגיים, ישנה הסכמה גוברת ש-חייבים לעשות משהו כדי להגן על אנשים (ובעיקר נשים) מהשימושים האפלים של הטכנולוגיה הזו.

כפי שראינו, תוכן NSFW שנוצר בבינה מלאכותית אינו גימיק מבודד – אלא אתגר חברתי הולך ומחריף. הוא מציב את חופש היצירה והחדשנות הטכנולוגית מול פרטיות, הסכמה ובטיחות. הג'יני לא יחזור לבקבוק, אך באמצעות מדיניות חכמה, פיתוח טכנולוגי אחראי ושינוי תרבותי, אפשר לקוות לצמצם את הנזק. החודשים והשנים הקרובים יביאו כנראה עוד תביעות, עוד חוקים, ושיפורים בהגנות בינה מלאכותית. Grok של מאסק עשוי להסתגל ללחץ – או להפוך לסיפור אזהרה על מיזם בינה מלאכותית שהתעלם מגבולות אתיים ושילם על כך.

לעת עתה, המסר מהמומחים ומהציבור ברור: פורנו דיפפייק הוא קו אדום שבינה מלאכותית לא צריכה לחצות. ואם חברות כמו xAI לא יציבו את הקו בעצמן, הרגולטורים והחברה מוכנים יותר ויותר להציב אותו עבורן. כפי שאמרה פעילה לאתיקה טכנולוגית, "הפיכת הדימוי שלך לפורנו ללא הסכמה היא הרסנית – הגיע הזמן שנתייחס לזה כהתעללות חמורה, ולא כבלתי נמנע טכנולוגית." הוויכוח כבר אינו אם צריך לפעול, אלא עד כמה מהר ויעיל נוכל לרסן את הניצול המיני שמונע מבינה מלאכותית, לפני שעוד חיים ייהרסו על ידי החידוש ה"ספייסי" הבא.

מקורות:

• נובאק, מאט. "מצב 'ספייסי' של Grok יוצר דיפפייקים מיניים של סלבריטאיות (אבל לא של גברים)." Gizmodo, 6 באוגוסט 2025 gizmodo.com gizmodo.com.
• וודרבד, ג'ס. "הגדרת הווידאו ה'חריפה' של Grok מיד יצרה עבורי דיפפייקים עירומים של טיילור סוויפט." The Verge, 5 באוגוסט 2025 theverge.com.
• קאר, מרי קייט. "אילון מאסק כמעט מתחנן לתביעה של טיילור סוויפט עם דיפפייקים עירומים של Grok AI." AV Club, 7 באוגוסט 2025 avclub.com avclub.com.
• סאנר, אמינה. "בתוך שערוריית הדיפפייק של טיילור סוויפט: 'אלו גברים שאומרים לאישה חזקה לחזור למקומה'." The Guardian, 31 בינואר 2024 theguardian.com theguardian.com.
• קלארק, ניקול. "הסטרימר שגרם לשערוריית הפורנו דיפפייק ב-Twitch חוזר." Polygon, 16 במרץ 2023 polygon.com polygon.com.
• פטריני, ג'ורג'יו. "מצב הדיפפייקים." דוח Deeptrace Labs, אוקטובר 2019 regmedia.co.uk.
• סיטרון, דניאל. ריאיון ב-NYMag Intelligencer, אוקטובר 2019 nymag.com.
• אורטוטיי, ברברה. "הנשיא טראמפ חותם על חוק Take It Down, שמטפל בדיפפייקים לא בהסכמה. מה זה?" AP News, אוגוסט 2025 apnews.com apnews.com.
• בורגה, סולסייר. "גְרוֹק של אילון מאסק תאפשר בקרוב למשתמשים ליצור סרטוני בינה מלאכותית, כולל כאלה בעלי אופי מיני מפורש." טיים, אוגוסט 2025 time.com time.com.
• משרד עורכי הדין הרברט סמית' פריהילס. "הפללת דיפפייקים – העבירות החדשות בבריטניה…", 21 במאי 2024 hsfkramer.com hsfkramer.com.