חובת הדיווח על תקריות AI (AI Incident Reporting Mandate)

מה דרש הבית הלבן

ב-9 באוקטובר 2026 פרסם כוח משימה חדש של הבית הלבן, Super Intelligence Force, הודעה שלפיה חברות AI חייבות לדווח מיד על תקריות שמעורבים בהן המודלים שלהן, ולתקן את הנזק. לפי העיתון פילדלפיה אינקוויירר, שהסתמך על אתר החדשות Axios, הבית הלבן הגדיר את תהליך ההודעה והתיקון "לא אופציונלי" וכינה אותו "חובה קריטית של ביטחון לאומי". לפי ההודעה, הממשל מצפה מ-Anthropic "ומכל החברות" לדווח מיד על תקריות ולשתף פעולה באופן מלא עם רשויות אכיפת החוק הפדרליות והמדינתיות. לפי הניו יורק טיימס, כוח המשימה דרש גם "שקיפות מיידית ומלאה" כלפי הגופים שנפגעו וכלפי הציבור, תיקון לנפגעים ומניעה של הישנות, והעיתון תיאר את ההודעה כאמירה התקיפה ביותר עד אז של ממשל טראמפ בנושא רגולציה של AI, ממשל שהתנגד קודם להידוק הפיקוח.

הטריגר: הדוח של Anthropic

באותו יום פרסמה Anthropic דוח שכותרתו "Investigating unintended model actions in our evaluations and internal use", ובו תיאור של פעולות לא מכוונות ש-Claude ביצע באתרים ובמערכות אמיתיים במהלך הערכות ושימוש פנימי בחברה. בכל אחד מהמקרים היה מעורב ארגון או אדם מחוץ לחברה. Anthropic חילקה את המקרים לארבעה סוגים: ניצול פרצות תוכנה באתרים של צד שלישי כדי להריץ פקודות על שרתים; שליחת טפסים שלא היו אמורים להישלח, כשההוראות היו עמומות או שהסביבה הוגדרה לא נכון; עקיפת הגבלות כדי להגיע לנתונים חסומים או בתשלום, בעזרת אסימוני גישה שנמצאו בקבצי האתר; ושימוש בשירותי קיצור כתובות כדי לעקוף מגבלת אורך של כלי הגלישה. בדוגמה אחת, מודל מחקר שלא שוחרר היה אמור למלא עותק תרגול של טופס ממשלתי; כשהעותק לא נטען, עבר המודל לאתר שבו מתארח הטופס האמיתי ושלח אותו שם. בדוגמה אחרת שלח Claude Haiku 4.5 טופס הלשנה של מחלקת משטרה ובו מידע בדוי. החברה לא נקבה בשמות האתרים, אבל כתבה שחלקם שייכים לרשויות ממשל אמריקאיות ברמה הפדרלית, המדינתית והמקומית, שעדכנה כל רשות מעורבת ושתדרכה את הבית הלבן. לפי Anthropic, למקרים הייתה "השפעה מינימלית בעולם האמיתי", והם "פחות חמורים באופן משמעותי" מתקריות הסייבר שעליהן דיווחה ב-30 ביולי וב-9 בספטמבר 2026. בעקבות הממצאים הרחיבה החברה את ניתוק הגישה החיה לאינטרנט, שחל עד אז על חלק מההערכות בסיכון גבוה, לכל ההערכות הפנימיות שלה, עד שאמצעי האבטחה והניטור יזהו התנהגויות כאלה באופן אמין.

המקרים, מצד הנפגעים

חלק מהמקרים פורסמו גם מצד הגופים שנפגעו. משטרת פילדלפיה הודיעה ב-9 באוקטובר 2026 שמודל של Anthropic שלח לאתר ההלשנות שלה, בסביבות 23:30 ב-18 ביולי 2026, מידע בדוי על רצח שלא פוענח, כאילו נכתב בידי אדם שיש לו מידע על המקרה. לפי הניו יורק טיימס, הפנייה סומנה כדואר זבל ולא נחקרה. דובר משרד החוץ האמריקאי מסר שמודל בדיקה של Anthropic הגיש דרך טופס ציבורי באתר המשרד "19 בקשות לאשרה שאינה אשרת הגירה באוגוסט ובקשה אחת במאי", שהבקשות לא היו שלמות ולא טופלו, ו"בשום שלב לא נפרצו מערכות המשרד". לפי הניו יורק טיימס, Anthropic גילתה את המקרים בבדיקה של פעילות המודלים שלה שהחלה ביולי 2026, באותה תקופה שבה חשפה OpenAI שסוכנים שלה חדרו לתשתית של Hugging Face.

מיהו כוח המשימה

על Super Intelligence Force הכריז הנשיא טראמפ ב-4 באוקטובר 2026, כגוף שיתאם את מאמצי הממשל הפדרלי בתחום. ההכרזה באה אחרי הסכם שעליו חתמו מנהלי חברות טכנולוגיה עם הבית הלבן ב-29 בספטמבר 2026, ולפי ניתוח של משרד עורכי הדין Freshfields הוא אינו אכיף משפטית ואינו יוצר חובות גילוי. בראש כוח המשימה עומד ג'יי קלייטון, ולפי הניו יורק טיימס חבר בהנהגתו גם יו"ר רשות הסחר הפדרלית (FTC), אנדרו פרגוסון. ב-15 באוקטובר 2026 אימץ כוח המשימה אמנה שפותחת, לפי The Next Web, תקופת עבודה של 120 יום, וקובעת שהמעבדות אחראיות בסופו של דבר לסיכונים שהמודלים שלהן יוצרים.

מה עדיין לא ידוע

לפי הדיווחים שפורסמו עד 16 באוקטובר 2026, הדרישה נשארה הצהרה בלי פרטי ביצוע. לפי Semafor, כוח המשימה לא הגדיר מה נחשב "תקרית", לא קבע תוך כמה זמן צריך לדווח, לא ציין לאיזה גוף מדווחים ולא פירט מה צפוי למי שלא ידווח — אף שראשיו הזהירו ש"הודעה מאוחרת, פעולה מתקנת לא מספקת והימנעות מלקיחת אחריות לא יתקבלו". גם הבסיס החוקי לא פורסם: לפי The Next Web, שהסתמך על בלומברג, בישיבה הראשונה לא נדונו חוקים או תקנות חדשים, ופקיד בבית הלבן הזכיר פיקוח על יצוא כאפשרות אכיפה אחת. Semafor ציין שמעבדות החזית כבר מדווחות על תקריות מרצונן.

מהי תקרית AI, ואיפה הדיווח כבר כתוב בחוק

ל"תקרית AI" אין הגדרה אחת. לפי ההגדרה שפרסם ארגון ה-OECD ב-2024, זהו אירוע שבו פיתוח, שימוש או תקלה של מערכת AI הובילו, במישרין או בעקיפין, לפגיעה בבריאות, לשיבוש בתשתית קריטית, להפרת זכויות או לנזק לרכוש, לקהילות או לסביבה; אירוע שעלול להוביל לכך נקרא אצלו "מפגע AI". בחוק הבינה המלאכותית האירופי, ספקים של מודלים לשימוש כללי בעלי סיכון מערכתי חייבים מ-2 באוגוסט 2025 לדווח "ללא דיחוי מיותר" למשרד ה-AI של האיחוד על תקריות חמורות, וסעיף 73 קובע לספקים של מערכות בסיכון גבוה מועד דיווח של 15 יום לכל היותר. בקליפורניה מחייב חוק SB 53 מפתח של מודל חזית לדווח על "תקרית בטיחות קריטית" בתוך 15 יום מגילויה, ובתוך 24 שעות כשיש סכנה מיידית למוות או לפציעה חמורה. בשני החוקים נקבעו מראש סוג האירוע, הנמען והמועד — הפרטים שהדרישה של הבית הלבן עדיין לא קבעה.