בעיית המסגרת (Frame Problem)

מה לא משתנה כשעושים משהו

כשאדם מוציא כוס מהארון, הוא יודע שהכוס זזה — ויודע בלי לחשוב שהטמפרטורה בחדר, הצבע של הקומקום והתאריך נשארו כשהיו. למחשב שמייצג את העולם במשפטים לוגיים זה לא מובן מאליו. בעיית המסגרת (Frame Problem), בניסוח של אנציקלופדיית סטנפורד לפילוסופיה, היא "האתגר של ייצוג ההשפעות של פעולה בלוגיקה, בלי לייצג במפורש מספר גדול של אי-השפעות שהן מובנות מאליהן מבחינה אינטואיטיבית".

לבעיה יש שני פנים. בעיני רוב חוקרי הבינה המלאכותית זו בעיה טכנית בלוגיקה. אבל פילוסופים רבים ראו בה, לפי האנציקלופדיה, רמז לשאלה עמוקה יותר: איך אנחנו מצליחים להחליט על סמך מה שרלוונטי בלבד, בלי לשקול במפורש את כל מה שלא רלוונטי?

1969: מקארתי, הייז והטלפון

את הבעיה הגדירו ג'ון מקארתי ופטריק הייז במאמר "Some Philosophical Problems from the Standpoint of Artificial Intelligence" מ-1969. בדוגמה שלהם, כדי להוכיח שאדם יכול להתקשר לאדם אחר, הם "נאלצו להוסיף את ההנחה שאם לאדם יש טלפון, הוא עדיין מחזיק בו אחרי שחיפש מספר בספר הטלפונים". עם רצף של פעולות, כתבו, צריך לרשום תנאים רבים שקובעים שפעולות מסוימות אינן משנות דברים מסוימים: עם n פעולות ו-m תכונות ייתכן שיידרשו mn תנאים כאלה.

אנציקלופדיית סטנפורד מדגימה זאת בפעולות "צבע" ו"הזז". נוסחה אחת אומרת שאחרי צביעה החפץ בצבע החדש, ונוסחה אחרת אומרת שאחרי הזזה הוא במקום החדש. אם צובעים חפץ בכחול ואז מזיזים אותו לגינה, הלוגיקה מסיקה רק שהוא בגינה — שום דבר לא שולל את האפשרות שההזזה שינתה את צבעו. הפתרון הישיר הוא "אקסיומות מסגרת" (Frame Axioms) שאומרות במפורש שהזזה לא משנה צבע וצביעה לא משנה מקום. אבל מכיוון שרוב הפעולות לא משפיעות על רוב התכונות, צריך כמעט אקסיומה לכל צירוף של פעולה ותכונה — נטל שהולך וגדל עם כל פעולה ותכונה שמוסיפים.

חוק האינרציה של השכל הישר

מה שחסר, לפי האנציקלופדיה, הוא דרך לומר כלל-אצבע כללי: אפשר להניח שפעולה לא משנה תכונה, אלא אם יש ראיה לכך. ההנחה הזו נקראת "חוק האינרציה של השכל הישר". ויקיפדיה מזכירה שכבר לייבניץ, בסביבות 1679, ניסח עיקרון דומה: כברירת מחדל מניחים שכל דבר נשאר במצב שבו הוא נמצא.

המכשול הוא שהלוגיקה הקלאסית היא "מונוטונית": הוספת עובדות יכולה רק להוסיף מסקנות, לעולם לא לבטל אותן. לכן אי אפשר לנסח בה כלל עם רשימה פתוחה של חריגים. החוקרים פיתחו לוגיקות "לא-מונוטוניות" שמאפשרות מסקנות ברירת-מחדל שאפשר לחזור מהן. גם זה לא היה פשוט. ב-1987 הציגו סטיב הנקס ודרו מקדרמוט מאוניברסיטת ייל את "בעיית הירי של ייל": אקדח נטען, עובר רגע, ויורים בתרנגול הודו בשם פרד. הפתרון המתבקש אמר שפרד מת — אבל אותה לוגיקה התירה גם פתרון שבו האקדח "התרוקן" באופן מסתורי ופרד שרד. בסופו של דבר נמצאו פתרונות עובדים, ולפי האנציקלופדיה הבעיה בגרסתה הטכנית "פחות או יותר נפתרה".

הרובוט, הפצצה והעגלה

את הסיפור המפורסם ביותר על הבעיה כתב הפילוסוף דניאל דנט במאמר "Cognitive Wheels: The Frame Problem of AI". רובוט בשם R1 לומד שהסוללה הרזרבית שלו נעולה בחדר עם פצצת זמן. הוא מוצא את המפתח, ומחליט למשוך החוצה את העגלה שעליה מונחת הסוללה. הסוללה יוצאת — אבל גם הפצצה הייתה על העגלה. R1 ידע את זה, ופשוט לא הסיק שמשיכת העגלה תוציא גם אותה.

המתכננים בונים את R1D1, שמסיק את כל תוצאות הלוואי של מעשיו. הוא בדיוק סיים להסיק שמשיכת העגלה לא תשנה את צבע הקירות, והתחיל להוכיח שהגלגלים יסתובבו יותר פעמים ממספר הגלגלים שבעגלה — כשהפצצה התפוצצה. הדגם הבא, R2D1, אמור להתעלם מתוצאות לא רלוונטיות. הוא יושב מחוץ לחדר, וכשצועקים עליו לעשות משהו הוא עונה: "אני עושה. אני עסוק בלהתעלם מאלפי השלכות שקבעתי שהן לא רלוונטיות". ואז הפצצה מתפוצצת. דנט כתב שזו לא רק מבוכה טכנית, אלא "בעיה אפיסטמולוגית חדשה ועמוקה".

מבעיה בלוגיקה לשאלה על רלוונטיות

לפי אנציקלופדיית סטנפורד, האזכור המשמעותי הראשון של הבעיה בספרות הפילוסופית היה אצל דנט, ב-1978. הפילוסוף ג'רי פודור שאל ב-1983 שאלה דומה: איך התוכנית של מכונה "קובעת אילו אמונות הרובוט צריך לבחון מחדש" אחרי פעולה? מצד החישוב, החוקר דרו מקדרמוט תיאר פתרון מעשי שנקרא "אל תעיר כלב ישן": לעדכן רק את מה שהפעולה שינתה, ולהשאיר את השאר כמו שהוא.

אבל השאלה הפילוסופית נשארת: איך יודעים מה רלוונטי? האנציקלופדיה מראה שהתשובה תלויה בהקשר. אם רובוט מוציא כוס מהארון כדי להכין תה, רלוונטי שאפשר למלא אותה; אם המשימה היא לנקות את הארון, רלוונטי דווקא המדף שהתפנה. פודור כינה זאת "הבעיה של המלט: מתי להפסיק לחשוב", ופילוסופים כמו הוברט דרייפוס טענו שניסיון לקבוע רלוונטיות בכללים מוביל לנסיגה אינסופית של הקשרים.

ומה עם הבינה המלאכותית של היום?

בעיית המסגרת נולדה בבינה המלאכותית הסימבולית, זו שמייצגת ידע במשפטים מפורשים. האנציקלופדיה מציינת שאצל חוקרים שעובדים מחוץ לגישה הזו, למשל ברובוטיקה "ממוקמת" (Situated Robotics), שבה הרובוט פועל ומגיב בתוך הסביבה עצמה, הבעיה הלוגית "פשוט לא מופיעה" בעבודה היומיומית. עם זאת, היא מוסיפה ש"אפשר לטעון" שהבעיה מתעוררת גם ברשתות נוירונים, ושפילוסופים רבים עדיין רואים בבעיה האפיסטמולוגית איום ממשי על ההסבר החישובי של המחשבה.

בתחום אחד הרעיון הפך לכלי עבודה. בלוגיקה שמשמשת לבדיקת תוכנות (Separation Logic) יש כלל שנקרא "כלל המסגרת": הוא מאפשר לנתח קטע קוד רק לפי הזיכרון שהוא נוגע בו, ולהסיק שכל השאר נשאר כמו שהיה. לפי ויקיפדיה, אוטומציה של הכלל הזה הגדילה מאוד את היכולת של כלי הסקה אוטומטית לבדוק קוד, עד יישום תעשייתי בבסיסי קוד של עשרות מיליוני שורות.