LIME — שיטת-הסבריות שמסתירה חלקים מהקלט ובודקת את ההשפעה

LIME (Local Interpretable Model-agnostic Explanations) היא שיטת-הסבריות שהציגו ב-2016 מרקו טוליו ריבירו ושותפיו-למחקר, במאמר שנקרא "Why Should I Trust You?". הרעיון המרכזי: כדי להסביר תחזית בודדת של מודל "קופסה-שחורה" — בלי לדעת מה קורה בתוכו — LIME משנה מעט את הקלט המקורי שוב ושוב (למשל מסתירה מילים בודדות במשפט, או אזורים בתמונה), ובודקת איך תחזית-המודל משתנה בכל פעם. מהתגובות האלה היא מתאימה מודל פשוט-להסבר (למשל רגרסיה ליניארית) שמדמה את התנהגות המודל המורכב, אבל רק בסביבה המקומית הצרה של אותה תחזית ספציפית.

התכונה שהופכת את LIME לשימושית כל-כך היא היותה "אגנוסטית-למודל" — היא לא צריכה לדעת שום דבר על המבנה הפנימי של המודל שהיא מסבירה, רק את תחזיותיו. אפשר להפעיל אותה על רשת-נוירונים עמוקה, על יער אקראי, או על כל מודל אחר, בלי לשנות אף שורת-קוד בתוכו. התוצאה שהיא מפיקה, לרוב, היא רשימה קצרה של המילים או האזורים בקלט שתרמו הכי הרבה לתחזית — למשל אילו מילים בביקורת-מוצר גרמו למודל-סנטימנט לסווג אותה כשלילית.

ל-LIME יש מגבלה מובנית שגלומה בשמה: ההסבר תקף רק באופן מקומי, סביב התחזית הספציפית שנבדקה — הוא לא בהכרח מתאר את התנהגות המודל באופן כללי. מחקרים גם הראו שההסברים יכולים להיות לא-יציבים: הרצה חוזרת על אותו קלט בדיוק, עם פרמטרים מעט שונים, עלולה להניב הסברים שונים במקצת. חרף המגבלות האלה, LIME הפך לאחד משני הכלים הנפוצים ביותר בתחום הבינה המלאכותית המוסברת, לצד SHAP, וזמין כספריית-קוד-פתוח סטנדרטית. חלק מהמחקר שבא בעקבותיו התמקד בניסיון לצמצם את חוסר-היציבות הזה, בלי לוותר על הפשטות שהפכה את השיטה לפופולרית מלכתחילה.

בפועל, LIME משמש מפתחי-AI ומדעני-נתונים כשלב שגרתי בבדיקת מודל לפני פריסתו — לוודא שהתחזיות מתבססות על סיבות הגיוניות ולא על דפוסים מקריים או מוטים במאגר-האימון. הפופולריות שלו נובעת בעיקר מהפשטות היחסית של הרעיון וקלות ההטמעה שלו בכל מודל קיים, גם כזה שאף אחד לא תכנן מלכתחילה עם הסבריות בראש. בתעשיות מוסדרות כמו אשראי וביטוח, שבהן נדרש הסבר קריא-לאדם לכל החלטה אוטומטית, LIME הוא לרוב אחד הכלים הראשונים שצוותי-פיתוח בוחנים, בדיוק בגלל הקלות הזו.