רקע וקריירה
ג'וזף וייצנבאום נולד ב-8 בינואר 1923 בברלין, למשפחה יהודית-גרמנית. הוא ברח עם משפחתו מגרמניה הנאצית בילדותו, והיגר לארצות-הברית, שם למד מתמטיקה באוניברסיטת ווין סטייט בדטרויט (תואר ראשון 1948, תואר שני 1950). לאחר שירות צבאי בארצות-הברית בזמן מלחמת העולם השנייה, עבד על מחשבים אנלוגיים ודיגיטליים מוקדמים ופיתח את שפת-התכנות SLIP (Symmetric List Processor). ב-1963 הצטרף כפרופסור-חבר ל-MIT על סמך עבודתו על SLIP, וזכה שם לקביעות ולפרופסורה מלאה עד 1970. וייצנבאום נפטר ב-5 במרץ 2008 בגרמניה, בגיל 85.
אליזה, 1966: תוכנת-הצ'אט הראשונה שדימתה פסיכותרפיסט
ב-1966 יצר וייצנבאום את אליזה (ELIZA), תוכנה ששמה נבחר בהשראת דמותה של אליזה דוליטל ממחזהו של ברנרד שו "פיגמליון". אליזה לא "הבינה" שום דבר — היא פעלה על בסיס התאמת-תבניות פשוטה והחלפת-מילות-מפתח, בלי שום עיבוד-שפה עמוק. התסריט המפורסם ביותר שלה, בשם DOCTOR, דימה פסיכותרפיסט מהגישה ה"רוג'ריאנית" (מוכוונת-לקוח), על ידי ניסוח מחדש של דברי המשתמש כשאלות פתוחות — למשל, למשפט "אני עצוב" הייתה אליזה עשויה להשיב "למה אתה אומר שאתה עצוב?". הטכניקה הפשוטה הזו איפשרה לתוכנה לנהל שיחה שנשמעת אמפתית, בלי שום "הבנה" אמיתית של תוכן השיחה.
"אפקט אליזה": כשאנשים "האמינו" שהתוכנה מבינה אותם
וייצנבאום נדהם מהמהירות והעוצמה שבהן אנשים ייחסו לאליזה הבנה, אמפתיה ואפילו תודעה אמיתית — גם כאלה שידעו בדיוק איך היא בנויה מבפנים. הסיפור המוכר ביותר: מזכירתו-שלו, שצפתה בו בונה את התוכנה ומכירה את הקוד לעומק, ביקשה ממנו יום אחד לצאת מהחדר כדי שתוכל "לשוחח בפרטיות" עם ה-DOCTOR. התופעה הזו — הנטייה הבלתי-מודעת לייחס למחשב תכונות ותהליכים אנושיים, גם כשידוע בוודאות שאין שם שום הבנה אמיתית — כונתה בעקבות כך "אפקט אליזה" (ELIZA effect), מונח שנותר בשימוש עד היום בדיוני AI.
המפנה: מיוצר-הכלי למבקר החריף של AI
התגובה הזאת הטרידה את וייצנבאום מאוד, והובילה אותו בהדרגה לספקנות גוברת כלפי מקומה של הבינה המלאכותית בחברה. הוא הגיע למסקנה שהקלות שבה אנשים בטחו בתוכנת-"צעצוע" פשוטה כמו אליזה ויחסו לה תבונה חושפת סיכון עמוק יותר: הנכונות למסור למחשבים החלטות רגישות — כמו טיפול נפשי — שדורשות שיפוט אנושי אמיתי, לא רק חיקוי-שיחה משכנע.
ספרו "כוח המחשב ותבונת האדם", 1976
ב-1976 פרסם וייצנבאום את ספרו המשפיע ביותר, "כוח המחשב ותבונת האדם: מהכרעה לחישוב" (Computer Power and Human Reason). טענתו המרכזית: גם אם מבחינה טכנית ניתן לתכנת מחשב שיבצע משימה מסוימת (כמו טיפול, שיפוט משפטי או משא-ומתן), יש החלטות שאסור למסור למחשב לעולם, כי הן דורשות ערכים, חמלה ושיקול-דעת אנושי — לא רק חישוב. הוא הבחין בין "הכרעה" (Deciding, עניין חישובי — תוצאה שנגזרת מכללים נתונים) ל"בחירה" (Choosing, פעולה שדורשת שקילת-ערכים ושיפוט אנושי). הספר הפך אותו לדמות שנויה-במחלוקת בקהילת מחקר ה-AI — חלק מעמיתיו ב-MIT ראו בו בגידה בתחום — אך גם זיכה אותו בהערכה כאחד מקולות-הביקורת הטכנולוגית המוקדמים והחשובים.
הכרה מאוחרת והשפעה על הדיון העכשווי
ב-1988 קיבל וייצנבאום את פרס נורברט וינר לאחריות מקצועית וחברתית, מטעם ארגון Computer Professionals for Social Responsibility, וממשיך להיחשב לאחד הקולות המוקדמים והמשפיעים ביותר בביקורת-הטכנולוגיה. תובנותיו — על "אפקט אליזה" ועל הסכנה שבמסירת החלטות רגישות למחשבים — שבות ועולות ביתר-שאת עם התפשטות הצ'אטבוטים מבוססי-מודלי-שפה גדולים, שמעוררים מחדש בדיוק את השאלות שהוא הציב לראשונה עוד ב-1966.