התקפה יריבה (Adversarial Attack)

תוקף מוסיף "רעש" מחושב-מתמטית לתמונה — למשל של תמרור עצור — כדי שהמודל יזהה אותו בטעות כתמרור-אחר לגמרי, בעוד שלעין אנושית התמונה נראית זהה לחלוטין למקור.

התקפות יריבות חושפות פגיעות מדאיגה: מודלים "חכמים" מאוד יכולים להתבלבל משינוי זעיר שבן-אדם לא היה שם לב אליו כלל — נושא מחקר קריטי לפני פריסת AI במערכות בטיחותיות כמו רכב אוטונומי.