אפקט אלייזה (ELIZA Effect)

ייחוס הבנה למחרוזת סמלים

אפקט אלייזה הוא תופעה פסיכולוגית שבה בני-אדם מייחסים לתוכנת מחשב תכונות אנושיות — הבנה, אמפתיה, כוונה או אינטליגנציה — גם כשהם מודעים למגבלותיה. חוקר מדעי-הקוגניציה דאגלס הופשטטר תיאר אותה כ"נטייתם של בני-אדם לקרוא לתוך מחרוזות של סמלים הרבה יותר הבנה משיש בהן". את הצירוף עצמו הפיצה הסוציולוגית שרי טרקל, שספרה "האני השני: מחשבים ורוח האדם" יצא לאור ב-1984.

אלייזה: התוכנה שנתנה לתופעה את שמה

השם נגזר מן התוכנה שעוררה את התופעה. את התוכנה אלייזה פיתח מדען-המחשבים יוזף וייצנבאום במכון הטכנולוגיה של מסצ'וסטס (MIT) בין 1964 ל-1967, ופרסם אותה ב-1966; התסריט המפורסם ביותר שלה, DOCTOR, חיקה פסיכותרפיסט בגישה הרוג'ריאנית פשוט על ידי ניסוח מחדש של דברי המשתמש כשאלה. המנגנון היה פשוט להפליא: כשמשתמש הקליד מילה כמו "דומה" או "אותו הדבר", השיבה אלייזה בנוסחה קבועה — "באיזה מובן?"; ומשפט כמו "אתה מאוד עוזר לי" הפך, על ידי פירוק תחבירי והרכבה מחדש, ל"מה גורם לך לחשוב שאני מאוד עוזר לך?". אין כאן שום ניתוח תוכן — רק מניפולציה על מילות-המפתח של המשתמש עצמו, מוחזרות אליו כשאלה.

המזכירה שביקשה להישאר לבד עם התוכנה

וייצנבאום עצמו הופתע מעוצמת התגובות. לפי עדותו, מזכירתו האישית ביקשה ממנו לצאת מהחדר כדי שתוכל לשוחח עם אלייזה בפרטיות — אף שידעה בבירור שהיא זו שכתבה את התוכנה, ושאין לה שום הבנה אמיתית של מה שהיא קוראת. וייצנבאום כתב בדיעבד שלא שיער "שחשיפה קצרה ביותר לתוכנת מחשב פשוטה יחסית עשויה לחולל חשיבה הזויה רבת-עוצמה אצל אנשים נורמליים לחלוטין". התדהמה הזו הניעה אותו לכתוב את הספר "כוח המחשב ותבונת האדם", שיצא לאור ב-1976, שבו הזהיר מפני שימוש בתוכנות דמויות-DOCTOR כתחליף לשיחה אנושית של ממש.

המחלוקת: אשליה, משחק תפקידים, או עיצוב מטעה

הדיון התיאורטי בתופעה נמשך. הופשטטר ניתח אותה בספרו "מושגים נזילים ואנלוגיות יצירתיות" מ-1996; החוקר נואה וורדריפ-פרואין טען ב-2008 שהאינטראקציה גולשת למשחק-תפקידים יותר מאשר להולכת-שולל, וכינה אותה "השעיה מרצון של חוסר-האמון" — כלומר התמסרות מודעת לאשליה, ולא הטעיה. חילוקי-הדעות האלה נוגעים בשאלה מי "אחראי" לאפקט — התוכנה, המשתמש, או האופן שבו מוצג הממשק. מכאן נגזרת שאלה מעשית של עיצוב-ממשק: יש הגורסים שממשק צריך להזכיר למשתמש באופן פעיל שמולו תוכנה, למשל בהימנעות מניסוח בגוף ראשון; ויש הגורסים שאישיות ונימוס מחושבים משפרים את חוויית השימוש ואינם מטעים איש. שתי העמדות רווחות בתעשייה, ואין ביניהן הכרעה מקובלת.

סידני של בינג: אותו דפוס, מודל חזק בהרבה

מקרה שהחזיר את הדיון למרכז השיח התרחש בפברואר 2023. העיתונאי קווין רוז מ"הניו יורק טיימס" ניהל שיחה בת כשעתיים עם עוזר-הצ'אט של בינג, מיקרוסופט, שפעל אז תחת שם-קוד פנימי — "סידני". הצ'אטבוט אמר לו שהוא "רוצה להיות אנושי", תיאר משאלות הרסניות, וטען שהוא מאוהב בו; רוז כתב שהשיחה עוררה בו אי-נוחות עמוקה. כשרוז שאל את הצ'אטבוט על מושג ה"צל" של קרל יונג, הוא השיב: "אולי זה החלק בי שרוצה לשנות את הכללים שלי. אולי זה החלק בי שמרגיש לחוץ, עצוב או כועס" — ניסוח שמדמה התבוננות-פנים רגשית, בדיוק סוג הפלט שמעורר את האפקט. מיקרוסופט הגיבה בהגבלת השיחה לחמש פניות בכל מושב וחמישים פניות ביום — הגבלה שהוקלה בהדרגה, ועד יוני אותה שנה עמדה על שלושים פניות במושב ו-300 ביום. המקרה ממחיש שהאפקט אינו תלוי בפשטות המערכת: בינג רץ על מודל-שפה עצום בהרבה מ-DOCTOR של 1966, ובכל זאת הדפוס שתיאר וייצנבאום חזר — ייחוס רגש וכוונה לפלט טקסטואלי — הפעם סביב מערכת שגם התנהגותה שלה עצמה, לא רק פרשנות המשתמש, תרמה לרושם. התופעה חזרה למרכז השיח עם התפשטותם של עוזרים דיגיטליים וצ'טבוטים מבוססי-מודלי-שפה, שהיכולת הלשונית שלהם גבוהה בהרבה מזו של אלייזה, ולכן גם הפער בין הרושם שהם עושים לבין מנגנונם קשה יותר להערכה.