דיפ-פייק (Deepfake)

מה זה דיפ-פייק: מקור המונח והמנגנון הטכני (GAN)

דיפ-פייק (Deepfake) הוא תמונה, סרטון או הקלטה מזויפים שנוצרו על ידי AI ונראים אמיתיים באופן משכנע — למרות שהאירוע המתועד בהם מעולם לא קרה במציאות. השם עצמו הוא צירוף של "למידה עמוקה" (Deep Learning) ו-"מזויף" (Fake), והמונח עצמו נטבע בסוף 2017 על ידי משתמש אנונימי ברשת Reddit שכינה את עצמו "deepfakes" והחל לפרסם סרטונים פורנוגרפיים שבהם פני שחקניות הוחלפו בפני ידוענות, באמצעות תוכנת החלפת-פנים בקוד-פתוח. השימוש הפוגעני הזה — תוכן אינטימי לא-מוסכם — נשאר עד היום אחד השימושים הנפוצים והמזיקים ביותר של הטכנולוגיה, לא רק דוגמה היסטורית.

מבחינה טכנית, דיפ-פייק מבוסס בעיקר על שני סוגי רשתות-נוירונים. הראשון הוא "מקודד-אוטומטי" (Autoencoder) — רשת שלומדת לדחוס תמונת-פנים למרחב-מספרי מצומצם ("מרחב-סמוי") ואז לשחזר אותה ממנו; אם מאמנים מקודד-אוטומטי אחד לדחוס-ולשחזר את פניו של אדם א' ומקודד שני את פניו של אדם ב', אפשר "לערבב" את הקידוד של האחד עם הפענוח של השני ולקבל פנים-מוחלפות. השני, המשמעותי-יותר להתפתחות התחום, הוא "רשת יריבה-גנרטיבית" (GAN — Generative Adversarial Network), מסגרת שהציגו איאן גודפלו ושותפיו-למחקר במאמר-פורץ-דרך מ-2014: שתי רשתות-נוירונים מתחרות זו-בזו במשחק אימונים — "רשת-יוצרת" (Generator) מנסה לייצר תמונות מזויפות משכנעות-ככל-האפשר, ו"רשת-מבחינה" (Discriminator) מנסה להבחין בין התמונות-האמיתיות למזויפות; ככל שהאימון מתקדם, שתי הרשתות משתפרות בו-זמנית, עד שהיוצרת מייצרת תוצרים שהמבחינה כבר לא מצליחה לזהות כמזויפים. הרעיון הזה — תחרות-פנימית שמניעה שיפור מתמשך — הוא הבסיס-המתמטי שעליו נבנו רוב כלי-הדיפ-פייק המתקדמים מאז אמצע-שנות-2010.

מעבר להחלפת-פנים, ונזק כספי מתועד: מקרה Arup

עם השנים, טווח-היכולות התרחב הרבה מעבר להחלפת-פנים סטטית בסרטון קיים. כלים מודרניים משלבים כמה טכנולוגיות יחד: יצירת וידאו שלם מטקסט-בלבד, שיבוט-קול (Voice Cloning) מדגימת-שמע קצרה, וסנכרון-שפתיים מדויק שמתאים תנועת-פה לקול חדש — כדי לייצר תוכן שבו אדם (לעיתים אישיות ציבורית מוכרת) "אומר" או "עושה" משהו שמעולם לא אמר או עשה, לפעמים בזמן-כמעט-אמיתי במהלך שיחת-וידאו חיה, לא רק כקובץ-מוקלט-מראש.

היכולת הזו כבר גרמה לנזק כספי מתועד ומדיד. במקרה הבולט ביותר עד כה, בפברואר 2024, עובד-כספים בחברת ההנדסה הרב-לאומית Arup בהונג-קונג הוטעה להעביר כ-25 מיליון דולר (כ-200 מיליון דולר הונג-קונגי) לחשבונות-בנק של נוכלים, אחרי שהשתתף בשיחת-ועידה-בווידאו שבה כל המשתתפים — כולל מנהל-הכספים-הראשי (CFO) של החברה עצמה — היו למעשה דיפ-פייקים שנוצרו מקטעי-וידאו ואודיו אמיתיים שנאספו מפגישות-חברה מוקלטות שפורסמו קודם-לכן ברשת. העובד עצמו ציין אחר-כך שמשהו "נראה קצת מוזר" אצל דמות-המנכ"ל, אבל הוא פנה לשאר-המשתתפים-בשיחה לאישור — ואלה, שגם הם היו מזויפים, אישרו את ההעברה. המשטרה בהונג-קונג תיארה זאת כמקרה הראשון-הידוע-שלה שבו נוכלים השתמשו בדיפ-פייק כדי להונות גורם-פיננסי בהיקף כזה.

השפעה פוליטית (שיחות-ביידן המזויפות), ושימושים לגיטימיים

תחום שני שבו דיפ-פייק כבר השפיע על אירועים ממשיים הוא פוליטיקה. יומיים לפני הפריימריז המקדימות של מפלגת הדמוקרטים בניו-המפשייר, בינואר 2024, אלפי תושבי-המדינה קיבלו שיחות-רובוט אוטומטיות (Robocalls) שנשאו הקלטת-קול מזויפת של נשיא-ארצות-הברית ג'ו ביידן, שקראה למאזינים "לשמור את הקול שלכם לנובמבר" ולא להצביע בפריימריז. הוועדה הפדרלית לתקשורת (FCC) קבעה בספטמבר 2024 קנס של 6 מיליון דולר נגד היועץ הפוליטי סטיב קריימר, שהודה שהזמין את יצירת ההקלטה המזויפת, וחברת-התקשורת Lingo Telecom, שהעבירה את השיחות ברשת תוך זיוף מספר-המתקשר, הסכימה לשלם קנס נוסף של מיליון דולר במסגרת הסדר עם ה-FCC. זה נחשב למקרה הראשון-הידוע-שבו דיפ-פייק שימש בפוליטיקה הלאומית האמריקאית.

חשוב לזכור שלטכנולוגיית הדיפ-פייק יש גם שימושים לגיטימיים ומועילים: אולפני-קולנוע משתמשים בה להצערת או להזקנת שחקנים, לשחזור-קול של שחקן שנפטר באמצע-צילומים, ולדיבוב סרטים לשפות אחרות תוך שמירה על תנועות-השפתיים המקוריות של השחקן. חברות-הדרכה משתמשות בה ליצירת סרטוני-הכשרה עם "מציגים" וירטואליים בשפות מרובות בלי צילום מחדש. ההבחנה בין שימוש-יצירתי-מוצהר לבין הטעיה מכוונת היא לרוב שאלה של שקיפות — האם הצופה יודע שהתוכן מלאכותי — לא שאלה של הטכנולוגיה עצמה.

זיהוי כמרוץ-חימוש, והרגולציה שרודפת אחרי הטכנולוגיה

זיהוי דיפ-פייקים הוא מרוץ-חימוש טכנולוגי מתמשך, לא בעיה שנפתרה פעם-אחת. שיטות-זיהוי נשענות על כמה גישות במקביל: ניתוח-חזותי לחיפוש-פגמים (הבהובי-עיניים לא-טבעיים, תאורה לא-עקבית בין הפנים לרקע, גבולות-מיזוג מטושטשים), ניתוח-מטא-דאטה טכני של הקובץ, וכלי-AI ייעודיים שאומנו במיוחד לזהות "טביעות-אצבע" סטטיסטיות שרשתות-הדיפ-פייק משאירות מאחוריהן בתמונה. הבעיה המובנית היא שכל שיפור בזיהוי מלמד את יוצרי-הדיפ-פייקים אילו סימנים-מסגירים להסתיר בדור-הבא של הכלים — בדיוק אותו עיקרון-היריבות שעומד בבסיס ה-GAN עצמו, רק ברמת-תעשייה ולא ברמת-אלגוריתם-בודד. חברת-הסטארטאפ הישראלית Clarity (תל אביב, נוסדה ב-2022) מתמחה בדיוק בזירת-המרוץ הזו — טכנולוגיית-זיהוי-דיפ-פייקים וסימון-תוכן מוצפן, שלפי דיווחים שימשה גורמי-ביטחון וגופים ממשלתיים בישראל לאימות אמינות-תיעוד רגיש בעקבות אירועי 7 באוקטובר 2023; החברה נרכשה ב-2026 על ידי חברת-השכר-הגלובלית Deel תמורת כ-45–50 מיליון דולר.

הרגולציה מתחילה לרדוף אחרי הטכנולוגיה, אבל בקצב איטי משמעותית מקצב-ההתפתחות שלה. באיחוד האירופי, סעיף 50 בחוק ה-AI (AI Act) מטיל החל מאוגוסט 2026 חובת-שקיפות על ספקים ומפיצים של תוכן-מזויף-בטכנולוגיית-AI: יוצרי-מערכות חייבים לסמן פלט מלאכותי בפורמט הניתן-לקריאה-מכונה, ומפיצי-תוכן (לרבות כל ארגון שמפרסם או מפיץ תוכן) חייבים לוודא ולגלות כשתוכן נוצר או שונה על ידי AI — הנחיה-רשמית מבהירה שאזכור בתנאי-השימוש בלבד, בלי סימון גלוי, אינו מספיק. בארצות-הברית, חוק TAKE IT DOWN שנחתם למעשה-חוק במאי 2025 מפליל פרסום תוכן אינטימי לא-מוסכם — כולל "זיופים דיגיטליים" (דיפ-פייקים) — ומחייב אתרים ופלטפורמות-רשתות-חברתיות להסיר תוכן כזה תוך 48 שעות מרגע קבלת בקשה מהנפגע, כאשר הפלטפורמות קיבלו שנה (עד מאי 2026) להקים מנגנון-דיווח-והסרה פורמלי, בעוד האיסור הפלילי עצמו נכנס לתוקף מיידית עם החתימה.

תרמיות-קול, ופתרון מבני: תקן C2PA

דיפ-פייק קול לבדו — בלי מרכיב-וידאו כלל — הפך לכלי-הונאה נפוץ ומטריד במיוחד, כי הוא דורש כמות-קלט קטנה-ביותר: מחקר משנת 2023 הראה שאפשר לשכפל קול מוכר מדגימת-שמע של שלוש שניות בלבד, שניתן לאסוף בקלות מסרטון ברשת-חברתית או מהודעת-קול. הוועדה הפדרלית לסחר האמריקאית (FTC) הוציאה במרץ 2023 אזהרה רשמית לצרכנים בשם "נוכלים משתמשים ב-AI כדי לשפר את תרמיות-החירום-המשפחתי שלהם" — תיאור של "תרמית-הנכד" (Grandparent Scam) המשודרגת: שיחת-טלפון מבוהלת מ"נכד" שנשמע בדיוק כמו הנכד-האמיתי, טוען שנקלע לתאונה או למעצר ומבקש כסף דחוף, כשבפועל הקול כולו סינתטי. הרשות ממליצה להתייחס בחשד לכל בקשה דחופה-לכסף שמלווה בדרישה לאמצעי-תשלום קשה-למעקב (העברה בנקאית, כרטיסי-מתנה, מטבע-קריפטוגרפי), ולוודא זהות באמצעות ערוץ-תקשורת חלופי ועצמאי — לא להסתמך על הקול-לבדו כאמצעי-זיהוי, גם כשהוא נשמע משכנע-לחלוטין.

תשובה טכנולוגית-מבנית לבעיית-הזיהוי, שמנסה לעקוף את מרוץ-החימוש עצמו, היא תקן "מוצא-התוכן" (Content Provenance) בשם C2PA — קואליציה שהקימו ב-2021 מיקרוסופט, Adobe, ה-BBC, Intel, Arm ו-Truepic. במקום לנסות לזהות-אחרי-מעשה שקובץ מסוים הוא דיפ-פייק, C2PA מצרף לקובץ מלכתחילה "אישור-תוכן" (Content Credential) חתום קריפטוגרפית — מעין "דרכון דיגיטלי" שמתעד מי יצר את הקובץ, באילו כלים, ואילו עריכות בוצעו בו לאורך הדרך. חשוב להבין את המגבלה המובנית של הגישה הזו: C2PA אינו כלי-זיהוי-דיפ-פייקים ואינו קובע אם תוכן "אמיתי" או "מזויף" — הוא רק מתעד את ההיסטוריה של קובץ שסומן-מלכתחילה, כך שהוא מועיל בעיקר לתוכן שיוצר-בתום-לב בחר-לסמן, לא ככלי-אכיפה נגד תוכן שנוצר-בזדון-מלכתחילה בלי כל סימון.

התופעה המשנית: "הדיבידנד של השקרן"

מעבר לנזק הישיר של דיפ-פייק ספציפי, החוקרים מצביעים על תופעה משנית מדאיגה לא-פחות שכונתה "הדיבידנד של השקרן" (Liar's Dividend) — ככל שהציבור מודע-יותר לקיומם של דיפ-פייקים, קל-יותר לדמויות-ציבוריות להכחיש הקלטות-אמיתיות ומביכות שלהן בטענה שהן מזויפות, גם כשהן אינן. כלומר, עצם קיומה של הטכנולוגיה מערער את האמון בכל ראיה-חזותית-ואודיו, לא רק בתוכן שבאמת נוצר-מלאכותית — נזק שקשה למדוד אך משפיע על השיח הציבורי כולו, ולא רק על קורבנות ישירים של זיוף ספציפי.