זיהוי רגשות (Emotion Recognition)
הגדרה
זיהוי רגשות הוא שימוש בבינה מלאכותית כדי לנחש מה אדם מרגיש מתוך הבעות פנים, קול, טקסט או אותות גוף — תחום שהבסיס המדעי שלו שנוי במחלוקת, ושהאיחוד האירופי אסר בעבודה ובבתי ספר.
💡 דוגמה
מצלמה במשרד מנתחת את פני העובדים ומסמנת מי "נראה לא מרוכז" — אבל פרצוף חמור יכול לבטא עייפות, מחשבה עמוקה או סתם אור חזק בעיניים.
באיחוד האירופי שימוש כזה במקום העבודה אסור מאז פברואר 2025.
מה המערכת מנסה לעשות
זיהוי רגשות הוא ניסיון ללמד מחשב לזהות מה אדם מרגיש. לפי ויקיפדיה, רוב העבודה בתחום מתמקדת בארבעה מקורות מידע: הבעות פנים בווידאו, הדרך שבה אדם מדבר בהקלטה, מה שהוא כותב, ואותות גוף שנמדדים במכשירים לבישים. בקול, למשל, המערכת בוחנת את גובה הצליל, את העוצמה, את קצב הדיבור ואת איכות הקול. בטקסט היא נשענת על מילים ועל מבנה המשפט, או על מודל שאומן על אוסף גדול של משפטים שאנשים תייגו מראש לפי הרגש שהם מבטאים. המערכת אינה רואה רגש. היא רואה תנועת שרירים בפנים, שינוי בטון או בחירת מילים, ומנחשת מהם מה עובר על האדם. הפער בין הסימן החיצוני לבין מה שקורה בפנים הוא לב המחלוקת סביב התחום. ויקיפדיה מציינת שגם בין בני אדם, הגעה לאמת לגבי הרגש שאדם חווה דורשת עבודה, תלויה בקריטריונים שנבחרו וכרוכה בדרך כלל באי-ודאות.
איפה משתמשים בזה
השימושים שוויקיפדיה מונה מגוונים: עזרה לילדים על הרצף האוטיסטי, עזרה לעיוורים לקרוא הבעות פנים של אחרים, רובוטים שמגיבים בצורה טבעית יותר לאנשים, וניטור סימני קשב אצל נהגים. חברות כמו Affectiva מוכרות תוכנה שאוספת מידע על הבעות פנים וקול, בין השאר לחקר תגובות של צופים. השימוש השנוי ביותר במחלוקת הוא בגיוס עובדים. חברת HireVue, שמפעילה ראיונות עבודה מצולמים, הפסיקה לנתח את הבעות הפנים של המועמדים אחרי שמועמדים וחוקרי בינה מלאכותית העלו חששות. לפי ויקיפדיה, מנכ"ל החברה אמר שהיכולת "לא הייתה שווה את החשש", אף שלדבריו לא נמצאה בה הטיה. המקרה ממחיש דפוס חוזר: כשהמערכת משפיעה על פרנסה, ההנחה שאפשר לקרוא רגש מפנים הופכת לשאלה של הוגנות ולא רק של דיוק.
הספק המדעי: פרצוף אינו רגש
ב-2019 פרסמו לסה פלדמן בארט ועמיתיה סקירה רחבה בכתב העת Psychological Science in the Public Interest, שבחנה את הראיות לגבי שש קטגוריות רגש: כעס, גועל, פחד, שמחה, עצב והפתעה. מסקנתם הייתה שתנועות פנים שנחשבות סימן לרגש מסוים אינן מעידות עליו באופן אוניברסלי, בלי קשר להקשר, לאדם ולתרבות. אנשים אכן מזעיפים פנים לפעמים כשהם כועסים, אבל לא תמיד, ואותה הבעה יכולה לבטא כמה רגשות או משהו שאינו רגש כלל — חיוך, למשל, יכול לסמן כניעה ולא שמחה. החוקרים הטילו ספק בכך שהידע הקיים מצדיק את השימוש שעושות בו חברות טכנולוגיה שמנסות "לקרוא רגשות". גם מבחינה טכנית התוצאות מוגבלות: לפי ויקיפדיה, כלי ראייה ממוחשבת כמו Amazon Rekognition מדויקים רק בזיהוי שמחה, ובעיקר אמינים כ"גלאי אושר".
חברות ורגולטורים נסוגים
ביוני 2022 הודיעה מיקרוסופט שלא תציע עוד גישה פתוחה לטכנולוגיה שסורקת פנים ומתיימרת להסיק מהן את מצבו הרגשי של אדם. החברה נימקה זאת בהיעדר הסכמה מדעית על עצם ההגדרה של "רגשות", בשאלה אם המסקנות תקפות בין שימושים, אזורים וקבוצות אוכלוסייה, ובחששות מוגברים לפרטיות. באוקטובר 2022 הזהיר משרד הממונה על המידע בבריטניה (ICO) ארגונים מפני טכנולוגיות לניתוח רגשות. סגן הממונה סטיבן בונר אמר שהשוק "לא בשל" ושהטכנולוגיות האלה "אולי עוד לא עובדות, ואולי לעולם לא יעבדו". לדבריו, הפריסות היחידות שיחזיקו מעמד הן אלה שעובדות באמת, שיש מי שאחראי להן ושמגובות במדע. בין הנתונים שמערכות כאלה מנתחות מנה הדיווח דופק, תנועות עיניים, הבעות פנים, לחות העור, צורת ההליכה וטון הדיבור.
חוק הבינה המלאכותית האירופי
חוק הבינה המלאכותית של האיחוד האירופי הפך את הספק המדעי לאיסור. מאז 2 בפברואר 2025 אסור שם להשתמש במערכות בינה מלאכותית כדי להסיק רגשות של אדם במקום העבודה ובמוסדות חינוך, למעט מערכות שנועדו לצרכים רפואיים או בטיחותיים. בדברי ההסבר לחוק נכתב שהאיסור נובע מאמינות מוגבלת של המערכות, מחוסר ספציפיות ומיכולת הכללה מוגבלת, ושהבעת רגשות משתנה מאוד בין תרבויות ובין אנשים. עוד נכתב שבעבודה ובלימודים יש פערי כוחות, ולכן הסיכון לתוצאות מפלות ולפגיעה בזכויות גבוה במיוחד. מחוץ לשני התחומים האלה זיהוי רגשות אינו אסור, אבל החוק מסווג אותו כמערכת בסיכון גבוה, שחלות עליה דרישות מחמירות. מי שמפעיל מערכת כזאת חייב גם ליידע את האנשים שנחשפים אליה שהיא פועלת. מבחינת המשתמש, המשמעות פשוטה: כשמערכת טוענת שהיא יודעת מה אתם מרגישים, כדאי לשאול על סמך מה, ומה יקרה אם היא טועה.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
האם בינה מלאכותית באמת יודעת מה אני מרגיש?
לא במישרין. המערכת רואה סימנים חיצוניים — תנועת פנים, טון קול, מילים — ומנחשת מהם. סקירה מדעית מ-2019 מצאה שתנועות פנים אינן מעידות על רגש מסוים באופן אוניברסלי, בלי קשר להקשר, לאדם ולתרבות.
האם זיהוי רגשות אסור?
באיחוד האירופי, מאז 2 בפברואר 2025, אסור להשתמש בבינה מלאכותית כדי להסיק רגשות של אדם במקום העבודה ובמוסדות חינוך, למעט לצרכים רפואיים או בטיחותיים. בתחומים אחרים זה מותר, אבל מסווג כסיכון גבוה ומחייב ליידע את האנשים שנחשפים למערכת.
במה זה שונה מזיהוי פנים?
זיהוי פנים מנסה לקבוע מי האדם. זיהוי רגשות מנסה לקבוע מה הוא מרגיש. אותה מצלמה יכולה לשמש לשניהם, אבל השאלות המדעיות והמשפטיות שונות.
למה מיקרוסופט הפסיקה להציע את היכולת?
ביוני 2022 הודיעה החברה שלא תציע עוד גישה פתוחה לטכנולוגיה שמתיימרת להסיק מצב רגשי מהבעות פנים, בנימוק של היעדר הסכמה מדעית על ההגדרה של רגשות, ספק לגבי תקפות המסקנות בין אוכלוסיות וחששות לפרטיות.
יש לזה שימושים מועילים?
ויקיפדיה מונה למשל עזרה לילדים על הרצף האוטיסטי ולעיוורים בקריאת הבעות פנים, וניטור סימני קשב אצל נהגים. גם החוק האירופי מחריג מהאיסור מערכות שנועדו לצרכים רפואיים או בטיחותיים.