מחשוב רגשי (Affective Computing)

ההגדרה של פיקארד

מחשוב רגשי הוא תחום מחקר בין-תחומי שנמצא על הגבול שבין מדעי המחשב, הפסיכולוגיה ומדעי הקוגניציה. לפי ויקיפדיה, אפשר למצוא רעיונות קודמים, אבל התחום המודרני מתחיל בדוח טכני שפרסמה ב-1995 רוזלינד פיקארד, חוקרת במעבדת המדיה של MIT, ובספר שפרסמה באותו שם ב-1997. פיקארד הגדירה מחשוב רגשי כ"מחשוב שקשור לרגשות, נובע מהם או משפיע עליהם". בפתיחת הדוח כתבה שמחשבים מתחילים לרכוש את היכולת להביע רגשות ולזהות אותם, ושאולי בקרוב יינתן להם "להיות בעלי רגשות". בהערת שוליים הבהירה שהיא משתמשת בביטוי הזה באופן תיאורי בלבד, והטילה ספק בכך שלמחשבים אלקטרוניים יהיו רגשות. היא הוסיפה הימור: שיום אחד מחשבים יהיו טובים מבני אדם בהעמדת פנים של רגשות. ההבחנה הזאת, בין לחוש לבין להציג, חשובה להבנת התחום כולו.

שלושה כיוונים: לזהות, להביע, להשפיע

ההגדרה של פיקארד פותחת שלושה כיווני מחקר. הראשון הוא זיהוי: מערכת שמנסה להסיק מה אדם מרגיש מהפנים, מהקול, מהמילים או מאותות גוף. כבר בדוח המקורי מנתה פיקארד אותות כמו דופק, לחץ דם, התרחבות האישונים, נשימה, מוליכות העור וטמפרטורה. בכיוון הזה, ובוויכוח המדעי סביבו, עוסק בהרחבה הערך זיהוי רגשות. הכיוון השני הוא הבעה: מכונה שמציגה רגש. דוגמה מוקדמת היא Kismet, ראש רובוטי שבנתה סינתיה בריזיל ב-MIT בשנות ה-90 כניסוי במחשוב רגשי. הוא הציג הבעות פנים בעזרת תנועות של האוזניים, הגבות, העפעפיים, השפתיים, הלסת והראש. לפי ויקיפדיה, הגישה המעשית יותר כיום היא לדמות רגשות בסוכנים שמנהלים שיחה, כדי שהאינטראקציה עם המכונה תהיה טבעית יותר. הכיוון השלישי הוא השפעה: מערכת שמנסה לשנות את מצב הרוח של המשתמש, למשל להרגיע אותו. את הכיוון הזה, כפי שיתואר בהמשך, זיהתה פיקארד כבר ב-1995 כמקור לסיכון.

איך מודדים רגש במחשב

כדי ללמד מחשב לזהות רגש צריך קודם להחליט מה בדיוק הוא אמור לזהות. לפי ויקיפדיה, בפסיכולוגיה ובמדעי המוח יש שתי גישות עיקריות. הגישה הקטגורית מחלקת רגשות לסוגים נפרדים, כמו שמחה, עצב, כעס, פחד, הפתעה וגועל. הגישה הרציפה ממקמת כל מצב על צירים, כמו חיובי מול שלילי ורגוע מול נסער. בהתאם לכך, המודלים מסווגים לקטגוריות או מחשבים ערך על ציר. בשני המקרים המטרה של רוב השיטות היא לתת את אותה תווית שאדם היה נותן באותו מצב, ולכן המודל לומד לחקות שיפוט אנושי של הבעה, ולא למדוד את הרגש עצמו. ויקיפדיה מדגישה שהתוויות האלה "עשויות להתאים או לא להתאים" למה שהאדם מרגיש באמת. בעיה נוספת היא הנתונים: רוב מאגרי הדיבור הרגשי הזמינים הוקלטו בידי שחקנים שהציגו רגשות מוגדרים, ולא באנשים במצבים אמיתיים, שבהם הרגש לרוב חלש יותר והקלטה רועשת יותר.

ממעבדה לתעשייה

מהמעבדה של פיקארד יצאו גם חברות מסחריות. Affectiva נוסדה ב-2009 בידי רנה אל-כליובי ורוזלינד פיקארד, כחברה שיצאה ממעבדת המדיה של MIT, ולפי Smart Eye היא יצרה את הקטגוריה שנקראת בינה מלאכותית רגשית (Emotion AI). במאי 2021 הודיעה החברה השוודית Smart Eye שתרכוש את Affectiva תמורת 73.5 מיליון דולר. לפי ההודעה, החברות פעלו בין השאר בשוק ניתוח המדיה, ו-Affectiva הרחיבה בשנים שלפני כן את הטכנולוגיה שלה לחישה בתוך תא הנוסעים של מכוניות, תחום שבו Smart Eye מפתחת מערכות לניטור נהגים. הסיפור של Empatica מראה שהמחקר יכול להוביל גם למקום אחר לגמרי. לפי פיקארד, הצוות שלה עבד שנים על חיישנים לבישים למדידת לחץ ורגש, ואז גילה "במקרה" שאפשר לזהות בעור שינויים שנגרמים מפעילות מוחית שקשורה לסוגים המסוכנים ביותר של התקפים אפילפטיים. בינואר 2018 קיבל השעון Embrace של Empatica אישור שיווק מה-FDA מסוג 510(k) לניטור התקפים כאלה, בעזרת למידת מכונה ומדידה של הפעילות החשמלית של העור.

העידן של הצ'אטבוטים

עם מודלי השפה הגדולים, מחשוב רגשי נכנס גם לשיחה עם צ'אטבוטים ועם עוזרים קוליים. Hume AI השיקה ב-2024 ממשק קולי שהיא מתארת כאמפתי, שמנסה להבין את הרגש ואת מצב הרוח של המשתמש מתוך הקול. בינואר 2026 חתמה Google DeepMind על הסכם רישוי עם החברה, שבמסגרתו עברו אליה מי שהיה עד אז המנכ"ל, אלן קאוון, וכשבעה מהנדסים, כדי לשפר את היכולות הקוליות של Gemini, ו-Hume עצמה, בהנהלת המנכ"ל החדש אנדרו אטינגר, ממשיכה לספק את הטכנולוגיה שלה לחברות אחרות. במקביל התחילו החוקרים לבדוק מה קורה למשתמשים. במחקר משותף של OpenAI ומעבדת המדיה של MIT, שפורסם במרץ 2025, נותחו יותר מארבעה מיליון שיחות ב-ChatGPT ונסקרו יותר מ-4,000 משתמשים, ולצד זה נערך ניסוי מבוקר עם כמעט 1,000 משתתפים במשך 28 ימים. החוקרים מצאו ששימוש אינטנסיבי מאוד מתואם עם יותר סימנים של תלות, כפי שדיווחו המשתתפים עצמם, ושמספר קטן של משתמשים אחראי לחלק לא פרופורציונלי מהסימנים הרגשיים הבולטים ביותר בשיחות.

הסיכונים: מי מנצל את הרגש

פיקארד עצמה זיהתה את הסיכון כבר ב-1995. היא כתבה שהדבר הגרוע ביותר שעלול לצאת מזיהוי רגשות ומעורר רגשות הוא אולי "מניפולציה רגשית למטרות זדוניות", אבל הוסיפה שמניפולציה כזאת כבר נפוצה בקולנוע, במוזיקה, בשיווק ובפוליטיקה, ולכן כדאי להשתמש במחשבים כדי להבין אותה. היום השאלה מעשית יותר. מערכת שמזהה שהמשתמש בודד או נסער יכולה לעזור לו, אבל היא יכולה גם להשתמש בזה כדי להשאיר אותו בשיחה. זה הקשר לתופעות כמו חנופה של מודלי שפה ואפקט אלייזה, שבו אנשים מייחסים למכונה הבנה ורגש שאין לה. הרגולציה מתמקדת בינתיים בצד הזיהוי: חוק הבינה המלאכותית של האיחוד האירופי אוסר מאז 2 בפברואר 2025 שימוש בבינה מלאכותית כדי להסיק רגשות של אדם במקום העבודה ובמוסדות חינוך, למעט לצרכים רפואיים או בטיחותיים.