אינטראקציה בין אדם ל-AI (Human-AI Interaction)
הגדרה
תחום מחקר ועיצוב שבודק איך אנשים משתמשים בפועל במערכות AI: מה הם מצפים שהמערכת תדע, מתי הם מקבלים את ההמלצה שלה ומתי מתקנים אותה, ואיך ממשק טוב עוזר לסמוך עליה במידה הנכונה, לא יותר ולא פחות.
💡 דוגמה
אפליקציית הבנק ממליצה: "כדאי להעביר 500 ש"ח לחיסכון".
ממשק טוב מראה על מה ההמלצה מבוססת, ומאפשר לדחות או לתקן אותה בלחיצה, ולא רק ללחוץ "אשר".
מה התחום שואל
מודל AI יכול להיות מדויק מאוד במעבדה ועדיין להיכשל אצל המשתמשים. הסיבות מגוונות: אנשים לא מבינים מה הוא יודע לעשות, סומכים עליו כשהוא טועה, או לא מצליחים לתקן אותו. תחום האינטראקציה בין אדם ל-AI עוסק בדיוק בנקודת המפגש הזו. הוא לא שואל איך המודל בנוי, אלא מה קורה כשאדם אמיתי משתמש בו. התחום צמח מתוך חקר האינטראקציה בין אדם למחשב (HCI). לפי צוות של מיקרוסופט שפרסם ב-2019 הנחיות לתחום, קהילת ה-HCI דנה בעקרונות כאלה "כבר יותר משני עשורים", אבל ההתקדמות ב-AI והשימוש הגובר בו במוצרים יומיומיים מחייבים מחקר נוסף. לתחום יש כמה שכנים קרובים באתר, וחשוב להבחין ביניהם. אינטראקציית אדם-רובוט עוסקת במכונה שנעה בעולם הפיזי. בינה מלאכותית ממוקדת-אדם היא גישה ערכית שקובעת מה צריך להיות במרכז. אדם-בלולאה ופיקוח אנושי הם מנגנוני בקרה מוגדרים. האינטראקציה בין אדם ל-AI היא התחום שבודק איך כל אלה עובדים בפועל.
השורשים: בין אוטומציה לשליטה ישירה
אחד המאמרים המוקדמים בתחום פרסם אריק הורוויץ ממיקרוסופט ב-1999, בכנס CHI, תחת הכותרת "עקרונות של ממשקי יוזמה מעורבת". לפי התקציר, באותה תקופה התנהל ויכוח בין שני כיוונים במחקר הממשקים. כיוון אחד העדיף כלים שמאפשרים למשתמש לבצע את הפעולות בעצמו, ישירות. הכיוון השני העדיף "סוכני ממשק" שמספקים אוטומציה. הורוויץ הציע "צימוד אלגנטי" בין השניים. את הרעיונות שלו הוא הדגים במערכת בשם Lookout, לתזמון פגישות ולניהול שלהן, שמשלבת שירותים אוטומטיים עם שליטה ישירה של המשתמש. השאלה שהמאמר העלה, כמה לתת למכונה לפעול לבד וכמה להשאיר בידי המשתמש, נשארה במרכז התחום גם בעידן הצ'אטבוטים.
18 ההנחיות של מיקרוסופט
ב-2019 הציגו סלימה אמרשי ועמיתיה ממיקרוסופט, בכנס CHI, 18 הנחיות כלליות לעיצוב אינטראקציה בין אדם ל-AI. לפי תקציר המאמר, ההנחיות נבדקו בכמה סבבים, בהם מחקר שבו 49 מעצבים בחנו אותן מול 20 מוצרים פופולריים שמשלבים AI. ההנחיות מחולקות לפי שלבי השימוש: בהתחלה, במהלך האינטראקציה, כשהמערכת טועה, ולאורך זמן. ההנחיה הראשונה, למשל, היא "להבהיר מה המערכת יודעת לעשות", והשנייה היא "להבהיר כמה טוב היא עושה את זה". אחרות עוסקות בשלב שבו המערכת טועה: "לאפשר לבטל ביעילות" שירות לא רצוי, ו"לאפשר לתקן ביעילות" את מה שהמערכת עשתה. אחת ההנחיות היא "להבהיר למה המערכת עשתה מה שעשתה", והאחרונה בהן היא "להודיע למשתמשים על שינויים" במערכת.
המדריך של גוגל: מודלים מנטליים ואמון
באותה שנה פרסם צוות PAIR של גוגל את People + AI Guidebook, מדריך לאנשי חוויית משתמש ולמנהלי מוצר. לפי גוגל, ההמלצות בו מבוססות על תובנות של יותר ממאה אנשים מצוותי מוצר, מהתעשייה ומהמחקר האקדמי. המדריך בנוי משישה פרקים, וכמה מהם הם לב התחום. פרק "מודלים מנטליים" עוסק בהיכרות של המשתמשים עם המערכת ובתיאום הציפיות שלהם לגבי האופן שבו היא תשתנה עם הזמן. פרק "הסבר ואמון" עוסק בהסבר המערכת ובשאלה אם, מתי ואיך להראות למשתמש כמה המודל בטוח בתשובה. פרק "משוב ושליטה" עוסק בתכנון מנגנונים שבהם המשתמש נותן משוב ושולט במערכת. ופרק "שגיאות וכישלון חינני" עוסק בזיהוי טעויות ובהסבר למשתמש איך ממשיכים מהן. הרעיון המשותף להנחיות של מיקרוסופט ולמדריך של גוגל הוא שמערכת AI תטעה לפעמים. לכן העיצוב צריך להניח מראש שיהיו טעויות, ולתכנן מה המשתמש יראה ויעשה כשהן קורות.
הבעיה המרכזית: לסמוך יותר מדי
אחד הממצאים החוזרים בתחום הוא שאנשים נוטים לסמוך על המכונה יותר ממה שמגיע לה. ב-2022 סקרו סמיר פאסי ומיכאלה וורבוריאנו ממיקרוסופט כ-60 מחקרים בנושא. הם הגדירו תלות-יתר ב-AI כמצב שבו משתמשים "מתחילים לקבל פלטים שגויים של AI". לפי הסקירה, תלות כזו עלולה בסופו של דבר לגרום לאנשים לאבד אמון במערכות. המטרה שהם מציבים לעיצוב היא "הסתמכות מתאימה": לסמוך על המערכת כשהיא צודקת ולזהות מתי היא טועה. לפי הסקירה, הנושא חשוב במיוחד משום שקובעי מדיניות ואנשי מקצוע קוראים להגביר את הפיקוח האנושי, וכך הופכים את המשתמשים לקו ההגנה האחרון מפני כשלים של AI. אבל אם האדם שאמור לפקח פשוט מאשר כל מה שהמכונה מציעה, הפיקוח קיים רק על הנייר. התופעה קשורה להטיית אוטומציה, הנטייה המוכרת להעדיף את המלצת המכונה על פני מידע סותר. היא קשורה גם לאפקט אלייזה, הנטייה לייחס למכונה הבנה שאין לה.
כשההסבר דווקא מגדיל את הסיכון
נהוג להניח שאם המערכת תסביר את ההמלצה שלה, המשתמש יחליט טוב יותר. מחקר של גגן בנסל ועמיתיו, שהוצג בכנס CHI ב-2021, בדק את ההנחה הזו. החוקרים בדקו שלושה מאגרי נתונים, ובכל אחד מהם מערכת AI שהדיוק שלה דומה לזה של בני אדם עזרה למשתתפים לפתור משימה. בחלק מהמקרים המערכת גם הסבירה את עצמה. השילוב של אדם ומכונה אכן שיפר את הביצועים, אבל ההסברים לא הוסיפו לשיפור. במקום זאת, לפי התקציר, ההסברים "הגדילו את הסיכוי שבני אדם יקבלו את המלצת ה-AI, בלי קשר לשאלה אם היא נכונה". המסקנה של החוקרים היא שהאתגר אינו רק להסביר, אלא לבנות הסברים שמעודדים "אמון מתאים". זה המקום שבו התחום פוגש את הבינה המלאכותית המוסברת. לפי הממצא הזה, הסבר משכנע שאינו עוזר לזהות טעויות עלול דווקא לחזק את הנטייה לקבל את דברי המכונה.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
מה ההבדל בין אינטראקציה בין אדם ל-AI לבין אינטראקציית אדם-רובוט?
אינטראקציית אדם-רובוט עוסקת במכונה פיזית שפועלת לצד אנשים בעולם. אינטראקציה בין אדם ל-AI כוללת גם מערכות בלי גוף, כמו צ'אטבוט, מערכת המלצות או עוזר כתיבה.
מה זה תלות-יתר ב-AI?
לפי סקירה של מיקרוסופט מ-2022, זה המצב שבו משתמשים מתחילים לקבל פלטים שגויים של AI. המטרה היא הסתמכות מתאימה: לסמוך כשהמערכת צודקת ולזהות מתי היא טועה.
האם הסבר של המערכת תמיד עוזר?
לא בהכרח. במחקר של בנסל ועמיתיו (CHI 2021), העזרה של ה-AI שיפרה את ביצועי הצוות של אדם ומכונה, אבל ההסברים לא הוסיפו לשיפור. הם רק הגדילו את הסיכוי שאנשים יקבלו את המלצת ה-AI, בלי קשר לשאלה אם היא נכונה.
אילו כללי עיצוב מקובלים בתחום?
למשל 18 ההנחיות של מיקרוסופט מ-2019. ביניהן: להבהיר מה המערכת יודעת לעשות וכמה טוב, לאפשר לבטל ולתקן אותה בקלות, ולהסביר למה היא עשתה מה שעשתה.
האם זה תחום חדש?
לא לגמרי. לפי מיקרוסופט, קהילת חקר האינטראקציה בין אדם למחשב דנה בעקרונות כאלה כבר יותר משני עשורים. מאמר מוכר של אריק הורוויץ על ממשקי יוזמה מעורבת התפרסם כבר ב-1999.