דיסאינפורמציה (Misinformation)

מידע כוזב שמופץ נחלק לשני סוגים עם הבדל-כוונה חשוב: "מיסאינפורמציה" מופצת בדרך-כלל בלי-כוונה, כתוצאה מטעות או חוסר-הבנה; "דיסאינפורמציה" נוצרת ומופצת במכוון, על ידי מי שמנסה באופן פעיל להטעות את קהל-היעד. לפני AI, יצירת תוכן-כוזב משכנע דרשה זמן ומיומנות. כלים יצירתיים (דיפ-פייק, יצירת-טקסט) הורידו את המחסום הזה דרמטית — כל אחד יכול לייצר תוכן משכנע-לכאורה תוך שניות, בלי צורך במיומנות עריכה מיוחדת. "בוטים" — חשבונות-אוטומטיים שמריצים תוכן דומה במאות ואלפי עותקים בו-זמנית — מגבירים את מהירות-ההפצה עוד יותר, גם כשהתוכן עצמו לא נוצר ישירות על ידי AI.

מקרה מוקדם ומתועד היטב: במרץ 2022, זמן קצר אחרי פרוץ המלחמה ברוסיה-אוקראינה, האקרים שידרו וידאו מזויף של נשיא-אוקראינה וולודימיר זלנסקי קורא לחייליו להניח נשק ולהיכנע — סרטון שהופץ בערוצי-שידור ורשתות-חברתיות לפני שהוכחש ונחשף כדיפ-פייק. בעיה נפרדת ומדאיגה לא-פחות: "הזיות" (Hallucinations) של מודלי-שפה — כשמודל "ממציא" עובדות שנשמעות משכנעות. במקרה מתועד בבית-משפט אמריקאי, עורך-דין הגיש כתב-טענות שהתבסס על תקדימים משפטיים שChatGPT "המציא" מהיסוד, וכללם לא היו קיימים כלל — התיק הפך לדוגמה-אזהרה שנפוצה מאז בקרב עורכי-דין על הסכנה שבשימוש-עיוור בכלי-AI ליצירת מסמכים משפטיים בלי אימות-עצמאי.

גם תוכן-חזותי לא מדויק, בלי כוונת-הטעיה בהכרח, יכול להתפשט מהר ולגרום נזק: בשריפות-היער בלוס-אנג'לס ב-2025, תמונות שנוצרו על-ידי AI והציגו את שלט-ההוליווד עולה-באש (מה שלא קרה בפועל) שכנעו תושבים רבים לפנות בפועל לרשויות-החירום — למרות שהשלט המשיך לעמוד שלם לאורך כל האירוע.

כלי AI פועלים גם בכיוון ההפוך — זיהוי אוטומטי של תוכן כוזב, תקני-אימות-מקוריות כמו C2PA (ראשי-תיבות של Coalition for Content Provenance and Authenticity — קואליציית תעשייה שמסמנת את מקור-התוכן), ומודרציית-תוכן אוטומטית — מרוץ טכנולוגי מתמשך בין יצירת-דיסאינפורמציה לזיהוי-שלה, דומה מאוד למרוץ שמתקיים סביב דיפ-פייקים באופן ספציפי יותר.