SHAP (SHapley Additive exPlanations) היא שיטת-הסבריות שהציגו ב-2017 סקוט לונדברג ושותפתו-למחקר, במאמר "A Unified Approach to Interpreting Model Predictions". הבסיס המתמטי שלה הוא "ערך שפלי" (Shapley Value) — רעיון מתורת-המשחקים משנות ה-50, שמחלק באופן הוגן את התגמול-הכולל של קבוצה בין חברי-הקבוצה, לפי התרומה השולית של כל אחד מהם בכל סדר-הצטרפות אפשרי. SHAP מתרגם את הרעיון הזה לעולם למידת-המכונה: כל מאפיין-קלט הוא "שחקן", והתחזית הסופית של המודל היא "התגמול" שצריך לחלק ביניהם בהגינות.
בפועל, SHAP מחשב לכל מאפיין-קלט ערך-תרומה מספרי מדויק — כמה כל מאפיין "משך" את התחזית למעלה או למטה ביחס לתחזית-ברירת-המחדל הממוצעת. סכום כל ערכי-התרומה שווה בדיוק להפרש בין התחזית בפועל לתחזית-הממוצעת — תכונה מתמטית ("אדיטיביות") שמבטיחה שההסבר עקבי ומדויק, לא רק אינדיקציה כללית. זה שונה מ-LIME, ששוב ושוב מתאים מודל-פשוט מקומי ומבוסס-קירוב; SHAP נשען על יסודות תיאורטיים חזקים יותר מתורת-המשחקים, במחיר עלות-חישוב גבוהה יותר במקרה הכללי. התוצאה המעשית היא שאפשר להציג לכל תחזית בודדת גרף פשוט שמראה אילו מאפיינים דחפו אותה כלפי מעלה, ואילו דחפו אותה כלפי מטה.
החישוב המדויק של ערכי-שפלי דורש בדיקת כל השילובים האפשריים של מאפיינים — עלות שגדלה באופן אקספוננציאלי עם מספר-המאפיינים, ולכן בלתי-אפשרית בפועל למודלים עם עשרות או מאות מאפיינים. כדי להתגבר על זה, פותחו קירובים יעילים למקרים ספציפיים — למשל TreeSHAP, גרסה מהירה משמעותית שמנצלת את המבנה הפנימי הידוע של מודלים מבוססי-עצים כמו יער אקראי או XGBoost. הקירובים האלה הפכו את SHAP לכלי מעשי גם על מודלים גדולים, לא רק על דוגמאות-לימוד קטנות.
SHAP נחשב היום לאחד משני הכלים הנפוצים ביותר בתחום הבינה המלאכותית המוסברת, לצד LIME, וזמין כספריית-קוד-פתוח סטנדרטית שמפתחים מריצים כשלב שגרתי בבדיקת מודל. היתרון המרכזי שלו על פני שיטות-הסבריות מתחרות הוא הביסוס התיאורטי המוצק בתורת-המשחקים, שמעניק לתוצאות שלו תכונות מתמטיות מוכחות — לא רק הסבר אינטואיטיבי שנראה סביר. המחיר של היתרון הזה הוא עלות-חישוב גבוהה יותר בממוצע מ-LIME, פשרה שרוב הצוותים מוכנים לקבל כשהדיוק וההגינות של ההסבר חשובים יותר ממהירות-החישוב.