ערך שפלי (Shapley Value)

יסודות בינה מלאכותית

הגדרה

ערך שפלי הוא שיטה מתורת-המשחקים לחלוקה הוגנת של תגמול שקבוצת-שחקנים משיגה יחד, לפי התרומה השולית הממוצעת של כל שחקן על פני כל סדרי-ההצטרפות האפשריים — הרעיון המתמטי שעליו מבוססת שיטת ההסבריות SHAP בבינה מלאכותית.

הרעיון: חלוקה הוגנת לפי תרומה שולית

ערך שפלי (Shapley Value) הוא שיטה מתורת-המשחקים לחלוקה הוגנת של תגמול שקבוצת-שחקנים משיגה יחד, כשלא כל שחקן תורם לה באותה מידה. הרעיון: לבחון, עבור כל סדר-הצטרפות אפשרי של השחקנים לקבוצה, כמה כל שחקן "מוסיף" לתגמול ברגע שהוא מצטרף — התרומה השולית שלו לקבוצה-החלקית שכבר קיימת באותו רגע. ערך שפלי של שחקן הוא הממוצע של כל התרומות השוליות האלה, על פני כל סדרי-ההצטרפות האפשריים, ולא רק סדר אחד שרירותי. שחקן שתמיד תורם הרבה, כמעט בכל סדר שבו הוא מצטרף, מקבל חלק גדול מהתגמול הסופי; שחקן שהצטרפותו כמעט אינה משנה דבר מקבל כמעט כלום.

המקור: לויד שפלי, 1951–1953

השיטה קרויה על שם לויד שפלי (Lloyd Shapley), מתמטיקאי אמריקאי שפעל בעיקר ב-RAND Corporation. שפלי תיאר את הרעיון לראשונה ב-21 באוגוסט 1951, בתזכיר-מחקר פנימי של RAND בשם Notes on the n-Person Game — II: The Value of an n-Person Game, ופרסם את הניסוח הפורמלי המלא כעבור שנתיים, ב-1953, במאמר A Value for n-person Games, בתוך הקובץ Contributions to the Theory of Games. שפלי המשיך לעבוד ב-RAND עד 1981, ולאחר-מכן באוניברסיטת UCLA, ונחשב לאחת הדמויות המרכזיות בתורת-המשחקים השיתופית של המחצית השנייה של המאה ה-20. ב-2012 הוא זכה בפרס נובל לכלכלה — אך לא על ערך שפלי עצמו, אלא יחד עם אלווין רות', על תורת ההקצאות היציבות ועל יישומה בתכנון-שווקים.

ארבע תכונות שמבטיחות פתרון יחיד

מה שהופך את ערך שפלי לפתרון מיוחד, ולא רק לנוסחה שרירותית אחת מיני רבות, הוא שהוא הפתרון היחיד שמקיים בו-זמנית ארבע תכונות שכל אחת מהן הגיונית-לחלוטין בפני עצמה: יעילות — סכום החלקים שמקבלים כל השחקנים שווה בדיוק לתגמול הכולל של הקבוצה; סימטריה — שני שחקנים שתורמים אותו הדבר בכל הרכב אפשרי מקבלים חלק שווה; שחקן-אפס — שחקן שההצטרפות שלו אינה משנה את התגמול בשום הרכב מקבל אפס; ואדיטיביות — חלוקה של שני משחקים-משולבים שווה לסכום החלוקות הנפרדות שלהם. שפלי הוכיח שהתנאים האלה יחד מגדירים פתרון יחיד, לא רק פתרון סביר מבין כמה אפשרויות.

המחיר החישובי: גידול אקספוננציאלי

המחיר של ההגינות הזאת הוא חישובי: כדי לחשב ערך שפלי במדויק צריך לבחון את התרומה השולית של כל שחקן בכל תת-הקבוצות האפשריות של שאר השחקנים — מספר שגדל אקספוננציאלית עם מספר-השחקנים, שכן כל שחקן נוסף מכפיל את מספר תתי-הקבוצות האפשריות. כבר בקבוצה של כמה עשרות חברים חישוב מדויק הופך לבלתי-מעשי מבחינת זמן-ריצה, ולכן בפועל נעזרים בקירובים מבוססי-דגימה אקראית של סדרי-הצטרפות, שמעריכים את הערך בלי לבדוק כל אפשרות אפשרית.

מחלוקת-עלויות ועד כוח-הצבעה

היישום ההיסטורי הראשון של ערך שפלי היה בעולם העסקי: חלוקה הוגנת של עלויות או רווחים משותפים בין שותפים — למשל חלוקת החיסכון שכמה גופים משיגים כשהם חולקים ביניהם תשתית יקרה. ב-1954 הרחיבו שפלי ומרטין שוביק את הרעיון לעולם ההצבעות: מדד שפלי-שוביק (Shapley–Shubik power index) מיישם את ערך שפלי על משחקי-הצבעה בינאריים, ומודד את כוח-ההצבעה בפועל של כל חבר בגוף מכריע לפי ההסתברות שהוא זה שהופך קואליציה מפסידה למנצחת — יישום שממחיש עד כמה הרעיון המקורי כללי ורחוק מבינה מלאכותית.

מתורת-המשחקים לבינה מלאכותית מוסברת

בעשורים שאחרי, ערך שפלי מצא שימוש חדש הרחק מתחום-המקור שלו: בבינה מלאכותית מוסברת. שיטת ההסבריות SHAP (SHapley Additive exPlanations), מ-2017, מתרגמת את הרעיון למודל למידת-מכונה — כל מאפיין-קלט הוא "שחקן", והתחזית הסופית של המודל היא "התגמול" שיש לחלק ביניהם בהגינות. אותו קושי חישובי שמלווה את הערך המקורי מלווה גם את SHAP, ולכן פותחו לו קירובים ייעודיים כמו TreeSHAP למודלים מבוססי-עצים. כך רעיון מתמטי משנות ה-50 של תורת-המשחקים הפך לכלי-עבודה יומיומי בבדיקת מודלי בינה מלאכותית.

שאלות נפוצות ❓

מה זה ערך שפלי, במשפט אחד?

שיטה מתורת-המשחקים לחלק תגמול שקבוצה משיגה יחד בין חבריה, לפי התרומה השולית הממוצעת של כל אחד מהם על פני כל סדרי-ההצטרפות האפשריים לקבוצה.

מי המציא את ערך שפלי, ומתי?

לויד שפלי, מתמטיקאי אמריקאי שפעל ב-RAND Corporation, תיאר את הרעיון לראשונה ב-1951 ופרסם אותו בניסוח פורמלי מלא ב-1953, במאמר A Value for n-person Games.

האם לויד שפלי קיבל פרס נובל על ערך שפלי?

הוא קיבל את פרס נובל לכלכלה ב-2012 — אך על תרומה אחרת: תורת ההקצאות היציבות ותכנון-שווקים, יחד עם אלווין רות', ולא על ערך שפלי עצמו.

מה הקשר בין ערך שפלי ל-SHAP בבינה מלאכותית?

SHAP מתרגם את רעיון ערך שפלי לעולם למידת-המכונה: כל מאפיין-קלט נחשב "שחקן", והתחזית הסופית של המודל היא "התגמול" שיש לחלק ביניהם לפי התרומה השולית של כל מאפיין.