קיימים מאגרים ציבוריים שמתעדים מקרים שבהם מערכות בינה מלאכותית גרמו נזק, פעלו באופן מפלה, או נכשלו בצורה שהגיעה לידיעת הציבור. דוח מדד ה-AI של אוניברסיטת סטנפורד סופר אותם מדי שנה.
לפי מהדורת 2026, בשנת 2025 תועדו 362 תקריות כאלה, לעומת 233 ב-2024 — עלייה של כ-55 אחוזים בתוך שנה.
הפרשנות למספר הזה מורכבת יותר מכפי שנדמה, ובאופן שכדאי להבין. עלייה במספר התקריות המתועדות אינה מוכיחה בהכרח שהמערכות נעשות מסוכנות יותר. שלושה גורמים אחרים דוחפים אותו למעלה בו-זמנית: יותר מערכות בשימוש, ולכן יותר הזדמנויות לכשל; מודעות ציבורית ותקשורתית גבוהה יותר, ולכן יותר מקרים שמדווחים במקום לעבור בשקט; ומאגרי תיעוד שמתרחבים ומשתפרים בעצמם.
סוגי המקרים שנספרים מגוונים מאוד, וזו סיבה נוספת לזהירות: אותו מאגר עשוי לכלול מערכת זיהוי פנים שהובילה למעצר שווא, צ'אטבוט שהשיב תשובה מסוכנת, מודל שהפיץ מידע כוזב שהתפשט ברשת, וכלי סינון מועמדים שהפלה קבוצה שלמה. אלה אירועים שונים לחלוטין בחומרתם ובאופיים, והם נספרים כיחידה אחת.
מנגד, הספירה כמעט בוודאות נמוכה מהמציאות. תקרית נכנסת למאגר רק אם מישהו זיהה אותה, טרח לדווח, והדיווח עמד בקריטריונים. כשל בשירות פנימי בארגון, החלטה שגויה של מערכת סינון מועמדים, או תשובה שגויה שגרמה נזק כלכלי לאדם בודד — לרוב אינם מגיעים לשום מאגר.
שווה להשוות את הקצב הזה לקצב שבו מערכות פוליטיות מגיבות. באותן שנים בערך יותר מהוכפל מספר חוקי ה-AI ברמת המדינות בארצות-הברית — מ-49 ב-2023 ל-131 ב-2024 — כלומר גם התיעוד וגם הרגולציה מאיצים במקביל, ולא בהכרח באותו קצב ולא בהכרח בתגובה זה לזה.
לכן המספר שימושי בעיקר כמגמה ולא כמדידה מדויקת. המספרים כאן מתייחסים לשנים 2024 ו-2025 כפי שתועדו בדוחות שפורסמו ב-2025 וב-2026.