בינה מלאכותית מוסברת (Explainable AI)

מודלים מורכבים כמו רשתות-נוירונים עמוקות מקבלים החלטות מדויקות, אך קשה מאוד להבין למה — התהליך הפנימי כולל מיליוני חישובים שלא ניתן "לקרוא" בקלות כמו עץ-החלטה. XAI מפתח כלים שמצביעים אילו חלקים בקלט השפיעו הכי הרבה על התשובה.

ברפואה, אשראי, וגיוס-עובדים — תחומים עם השלכות משמעותיות על אנשים — יש דרישה גוברת (ולעיתים חוקית) שהחלטה מבוססת-AI תלווה בהסבר קריא לבן-אדם, לא רק תשובה בלי נימוק.