שלוש שאלות שונות, לא שאלה אחת
כשרואים תמונה, סרטון או הקלטה ושואלים "זה אמיתי?", בפועל אפשר לשאול כמה שאלות שונות. הדוח NIST AI 100-4 של המכון הלאומי האמריקאי לתקנים וטכנולוגיה (NIST), שפורסם בנובמבר 2024 כסקירה טכנית ולא כתקנה מחייבת, מחלק את התחום לשתי משפחות. הראשונה היא מעקב אחר נתוני מקור (provenance) — תיעוד מראש של מקור הקובץ והיסטוריית העריכה שלו, בסימן מים או בנתונים נלווים (מטא-דאטה). השנייה היא זיהוי תוכן סינתטי — ניסיון לקבוע בדיעבד אם קובץ נוצר או שונה בידי AI. חשוב לדעת שתיעוד מקור אינו רק תווית "נוצר ב-AI": לפי NIST הוא יכול לתעד גם שתמונה צולמה במצלמה. הדוח עצמו מציין שיעילותן של רבות מהשיטות עדיין לא נבחנה במלואה.
סימן מים: מה נשאר בתוך הקובץ
סימן מים יכול להיות גלוי, כמו לוגו שקוף, או סמוי — שינוי זעיר בתוכן שאדם לא מבחין בו ורק תוכנה ייעודית מזהה. NIST מדגיש שלגלאי של סימן סמוי יש תמיד הסתברות שאינה אפס לטעות לשני הכיוונים, ושסימן גלוי שמכסה חלק קטן מהתמונה אפשר למחוק בקלות, לפעמים אפילו בטעות. דוגמה מוכרת היא SynthID של Google DeepMind: לפי החברה, הסימן מוטבע ברגע יצירת התמונה או הווידאו ומתוכנן לעמוד בחיתוך, בפילטרים, בשינוי קצב פריימים ובדחיסה. אלא ש-NIST מזכיר ששיטות רבות של סימן סמוי נשענות על גלאי ייעודי לשיטה, ואם כל יצרן משתמש בשיטה משלו, מי שבודק צריך שירות בדיקה נפרד לכל יצרן. המשמעות המעשית: בדיקה שלא מצאה SynthID אומרת רק שאין בקובץ את הסימן של Google, לא שהקובץ צולם בידי אדם.
נתוני מקור חתומים: מה חתימה מוכיחה
הדרך השנייה היא לצרף לקובץ נתונים שמתעדים מי יצר אותו, באיזה כלי ומה נערך בו — הרעיון שמאחורי תקן C2PA ותוויות Content Credentials. NIST מסביר שנתונים כאלה נוסעים בדרך כלל יחד עם הקובץ, ולכן כל מי שמעתיק או עורך אותו יכול לשנות אותם, ולעיתים קרובות הם נמחקים לגמרי כשמשתפים קבצים ברשתות חברתיות — לפעמים כדי להטעות ולפעמים מטעמי פרטיות. חתימה קריפטוגרפית מוסיפה ביטחון שהקובץ והנתונים לא שונו מאז החתימה, אבל לפי NIST היא ממלאת תפקיד של "נוטריון" בלבד: היא מעידה שהחותם צירף את הנתונים, לא שהם נכונים. גם C2PA עצמה מדגישה שהתוויות אינן קובעות אם התוכן "אמיתי", אלא רק אם נתוני המקור תקינים, לא שונו וחתומים בידי גורם מוכר.
למה צילום מסך מוחק את ההיסטוריה
צילום מסך, צילום של תמונה או הקלטה מחדש של שמע יוצרים קובץ חדש, והנתונים המצורפים לקובץ המקורי לא עוברים אליו. ה-Content Authenticity Initiative מתארת במפורש ש"שידור חוזר" כזה מסיר למעשה את הנתונים החתומים, ושדווקא סימן מים יכול לשרוד אותו. לכן C2PA מציעה את מה שהיא מכנה Content Credentials "עמידים": שילוב של נתונים חתומים, סימן מים שמכיל מזהה קצר ומפנה למקום שבו שמורים הנתונים, וטביעת אצבע של התוכן שמאפשרת לאתר אותו גם כשהנתונים הוסרו. היוזמה עצמה מציינת את החולשה של כל רכיב לבדו: נתונים אפשר להסיר, סימן מים מוגבל בכמות המידע שהוא נושא ואפשר להסירו או לזייפו, והתאמה לפי טביעת אצבע אינה ודאית. לפי הסבר C2PA, השילוב הזה נועד לאפשר למצוא את נתוני המקור בענן גם אחרי שהוסרו מהקובץ.
זיהוי סטטיסטי: הערכה, לא הוכחה
כשאין סימן ואין נתוני מקור, נשאר זיהוי בדיעבד: תוכנה שמחפשת עקבות שמשאיר תהליך היצירה, כמו סדירויות בפיקסלים, או בדיקה בידי בני אדם. NIST מתאר את זה כמשחק חתול ועכבר: כל שיטת זיהוי חדשה נענית במחוללים משופרים, וגלאים רבים עובדים היטב רק על המחוללים שעליהם אומנו. קושי נוסף הוא תוכן סינתטי בחלקו — תמונה אמיתית שחפץ אחד נמחק ממנה והושלם ב-AI. הדוח מזכיר שבזיהוי שמע דווחו, נכון לספטמבר 2024, רמות דיוק בין 50% ליותר מ-90%, בהתאם לשיטה ולמאגר הבדיקה, ושמחקר מ-2024 מצא שבני אדם זיהו שמע, תמונה ווידאו סינתטיים ברמה קרובה לניחוש. מכיוון ש"הרשעה" שגויה של תוכן אנושי עלולה לגרום נזק חמור, יש חוקרים שמעדיפים לדווח כמה זיופים גלאי תופס כששיעור ההתראות השגויות מוגבל לערך נמוך מאוד. הפירוט על כלי הזיהוי עצמם נמצא בערך זיהוי תוכן שנוצר על ידי בינה מלאכותית.
מה אפשר להסיק — ומה לא
שלוש השיטות עונות על שאלות שונות, ואף אחת מהן אינה מכריעה לבדה אם מה שמוצג בקובץ קרה באמת. נתוני מקור תקינים וחתומים נותנים, לפי NIST, מידה מסוימת של ביטחון שהקובץ הגיע מהמקור המוצהר. היעדר נתוני מקור, לעומת זאת, אינו ראיה לזיוף: NIST כותב שרק אם נתוני מקור יהפכו לנפוצים, היעדרם במקום שבו היו צפויים עשוי להפוך לסימן, לפחות בהקשרים מסוימים. הרגולציה מתחילה לדרוש את השכבה הזו. באיחוד האירופי, סעיף 50 של ה-AI Act מחייב ספקי מערכות שמפיקות שמע, תמונה, וידאו או טקסט סינתטיים לסמן את התוצר בפורמט קריא-מכונה שניתן לזהות. לפי הנציבות האירופית, החובה חלה מ-2 באוגוסט 2026, ולמערכות שכבר היו בשוק לפני כן נקבעה תקופת מעבר עד 2 בדצמבר 2026. זו חובה על הספקים; היא אינה הופכת תווית כלשהי להוכחה שהתוכן נכון.