מספר התקריות המתועדות בבינה מלאכותית (AI Incident Counts)
הגדרה
ב-2025 תועדו 362 תקריות שבהן מערכות בינה מלאכותית גרמו נזק או פעלו באופן בעייתי, לעומת 233 ב-2024 — עלייה של כ-55 אחוזים בתוך שנה אחת.
מה נספר, ומי סופר
קיימים מאגרים ציבוריים שמתעדים מקרים שבהם מערכות בינה מלאכותית גרמו נזק, פעלו באופן מפלה, או נכשלו בצורה שהגיעה לידיעת הציבור. המרכזי שבהם הוא מאגר תקריות ה-AI, שמופעל בידי הארגון Responsible AI Collaborative, ודוח מדד ה-AI של אוניברסיטת סטנפורד סופר את רשומותיו מדי שנה.
362 ב-2025, לעומת 233 ב-2024
לפי מהדורת 2026 של הדוח, בשנת 2025 תועדו 362 תקריות כאלה, לעומת 233 ב-2024 — תוספת של 129 תקריות, עלייה של כ-55 אחוזים בתוך שנה. שני המספרים מתייחסים לשנים קלנדריות שלמות, והם מתפרסמים פעם בשנה בלבד.
למה עלייה בספירה אינה בהכרח הרעה
הפרשנות למספר הזה מורכבת יותר מכפי שנדמה, ובאופן שכדאי להבין. עלייה במספר התקריות המתועדות אינה מוכיחה בהכרח שהמערכות נעשות מסוכנות יותר. שלושה גורמים אחרים דוחפים אותו למעלה בו-זמנית: יותר מערכות בשימוש, ולכן יותר הזדמנויות לכשל; מודעות ציבורית ותקשורתית גבוהה יותר, ולכן יותר מקרים שמדווחים במקום לעבור בשקט; ומאגרי תיעוד שמתרחבים ומשתפרים בעצמם.
מה בעצם נספר כתקרית אחת
סוגי המקרים שנספרים מגוונים מאוד, וזו סיבה נוספת לזהירות: אותו מאגר עשוי לכלול מערכת זיהוי פנים שהובילה למעצר שווא, צ׳אטבוט שהשיב תשובה מסוכנת, מודל שהפיץ מידע כוזב שהתפשט ברשת, וכלי סינון מועמדים שהפלה קבוצה שלמה. אלה אירועים שונים לחלוטין בחומרתם ובאופיים, והם נספרים כיחידה אחת.
המאגר עצמו מודה בכך בגלוי. בעמוד הקריטריונים שלו הוא כותב שבהיעדר קו ברור שמפריד בין אלגוריתמים, בינה, והנזקים שהם עלולים לגרום — במישרין או בעקיפין — הוא נוקט קריטריון מסתגל: דיווחים מתקבלים או נדחים על בסיס מערכת כללים שהולכת וגדלה, שמתועדת במדריך העורכים שלו. במילים אחרות, ההגדרה של "תקרית" אינה קבועה מראש אלא נבנית תוך כדי עבודה, וזו סיבה נוספת להשוות בזהירות בין שנה לשנה.
ותת-ספירה בכיוון השני
מנגד, הספירה כמעט בוודאות נמוכה מהמציאות. תקרית נכנסת למאגר רק אם מישהו זיהה אותה, טרח לדווח, והדיווח עמד בקריטריונים. כשל בשירות פנימי בארגון, החלטה שגויה של מערכת סינון מועמדים, או תשובה שגויה שגרמה נזק כלכלי לאדם בודד — לרוב אינם מגיעים לשום מאגר. לכן המספר שימושי בעיקר כמגמה ולא כמדידה מדויקת של כמות הנזק בעולם.
המאגר עדיין חי, אבל הספירה שנתית
בדיקה של המאגר ב-7 בספטמבר 2026 העלתה שהוא ממשיך לקלוט דיווחים חדשים — הרשומות האחרונות בו נשאו תאריך 4 בספטמבר 2026 — כך שהמספרים כאן אינם שריד של פרויקט שנעצר. אבל הספירה השנתית עצמה מתפרסמת רק במהדורה השנתית של דוח סטנפורד, ולכן נתון 2026 יהיה זמין רק במהדורת 2027.
שווה להשוות את הקצב הזה לקצב שבו מערכות פוליטיות מגיבות. מספר חוקי ה-AI ברמת המדינות בארצות-הברית יותר מהוכפל באותן שנים — מ-49 ב-2023 ל-131 ב-2024 — כלומר גם התיעוד וגם הרגולציה מאיצים במקביל, ולא בהכרח באותו קצב ולא בהכרח בתגובה זה לזה.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
כמה תקריות AI תועדו בשנה האחרונה שנספרה?
לפי דוח מדד ה-AI של סטנפורד ממהדורת 2026, ב-2025 תועדו 362 תקריות, לעומת 233 ב-2024 — עלייה של כ-55 אחוזים בתוך שנה.
האם עלייה במספר התקריות אומרת שה-AI נעשה מסוכן יותר?
לא בהכרח. שלושה גורמים אחרים דוחפים את המספר למעלה בו-זמנית: יותר מערכות בשימוש, מודעות ציבורית גבוהה יותר שמייצרת יותר דיווחים, ומאגרי תיעוד שמתרחבים בעצמם.
אילו סוגי מקרים נספרים כתקרית?
מגוון רחב מאוד, וזו חולשה של המספר: זיהוי פנים שהוביל למעצר שווא, תשובה מסוכנת של צ׳אטבוט, הפצת מידע כוזב, או כלי סינון מועמדים מפלה — כולם נספרים כיחידה אחת, למרות שהם שונים לחלוטין בחומרתם.
האם המספר משקף את כל התקריות שקרו בפועל?
כמעט בוודאות לא. תקרית נכנסת למאגר רק אם מישהו זיהה אותה, דיווח עליה, והדיווח עמד בקריטריונים. כשלים בשירותים פנימיים בארגונים ונזק לאדם בודד לרוב אינם מגיעים לשום מאגר.
האם המאגר עדיין מתעדכן, ומתי יהיה נתון ל-2026?
כן — בבדיקה מ-7 בספטמבר 2026 הרשומות האחרונות בו נשאו תאריך 4 בספטמבר 2026. אבל הספירה השנתית מתפרסמת רק בדוח השנתי של סטנפורד, ולכן נתון 2026 יהיה זמין רק במהדורת 2027.