בינה מלאכותית ממוקדת-אדם (Human-Centered AI)

רעיון אחד: להגביר את האדם, לא להחליף אותו

בסרטים ובספרים, כותב חוקר הממשקים בן שניידרמן, הבינה המלאכותית מופיעה כחלום או כסיוט. בשני המקרים האנשים כבר לא שולטים, "המכונות שולטות". הוא מציע אפשרות שלישית: עתיד שבו מחשבים "מגבירים באופן דרמטי את היכולות האנושיות, מעצימים אנשים ומבטיחים שליטה אנושית". את הגישה הזו הוא מכנה בינה מלאכותית ממוקדת-אדם (Human-Centered AI, ובקיצור HCAI). שניידרמן הקים ב-1983 את המעבדה לאינטראקציה בין אדם למחשב באוניברסיטת מרילנד, וב-2022 פרסם את הספר Human-Centered AI בהוצאת אוניברסיטת אוקספורד. אבל המונח רחב ממנו. הוא מופיע במסמכי מדיניות ובמדריכי עיצוב של חברות, ומכון סטנפורד לבינה מלאכותית ממוקדת-אדם (Stanford HAI) נושא אותו בשמו. חשוב להבחין: המכון הוא מוסד מחקר, ו-HCAI היא גישה. מי שעובד לפי הגישה לא חייב להיות קשור למכון.

שני צירים במקום סרגל אחד

התפיסה הנפוצה רואה באוטומציה סרגל אחד: ככל שהמכונה עושה יותר, האדם שולט פחות. במאמר מ-2020 הציע שניידרמן להפריד בין שני צירים, שליטה אנושית ואוטומציה, ולטעון ש"רמות גבוהות של שליטה אנושית ורמות גבוהות של אוטומציה ממחשב יכולות לשפר את הביצועים האנושיים". לפי תקציר המאמר, למסגרת יש שלוש מטרות: לתכנן מערכות שבהן גם השליטה וגם האוטומציה גבוהות; להבין באילו מצבים נדרשת שליטה אנושית מלאה או שליטה ממוחשבת מלאה; ולהימנע מהסכנות של יותר מדי שליטה אנושית או יותר מדי שליטה של המחשב. התוצאה הרצויה, לפי שניידרמן, היא מערכות אמינות, בטוחות וראויות לאמון. מערכות כאלה תומכות ב"מסוגלות העצמית, המיומנות, היצירתיות והאחריות של האדם".

לא לחקות אדם, לבנות כלי-על

שניידרמן מבחין בין שתי מטרות של מחקר ה-AI. האחת היא לחקות התנהגות אנושית, שהוא מכנה "מדע ה-AI". השנייה היא לבנות יישומים מועילים, "הנדסת ה-AI". לטענתו, מעצבים טועים כשהם לוקחים את המטרה הראשונה ומיישמים אותה על השנייה. הרצון לבנות מכונה שדומה לאדם עלול לבוא על חשבון עיצוב "מובן, צפוי ובר-שליטה". במקום מכונות דמויות אדם הוא מציע לחשוב על "כלי-על" (supertools), כלים שמגבירים את מה שהאדם יכול לעשות. לצד כלי-העל הוא מונה עוד שלושה דימויים לעיצוב: מכשירים פעילים, מכשירים שמופעלים מרחוק ותצוגות עתירות מידע. הגישה הזו מתחברת לתחום העוסק בבינה מלאכותית מוסברת, כי מערכת שאי אפשר להבין קשה גם לשלוט בה.

ממשל: שלוש שכבות של אחריות

HCAI איננה רק עניין של עיצוב מסכים. שניידרמן פרסם גם חמש-עשרה המלצות לממשל של AI, שמתחלקות לשלוש שכבות. השכבה הראשונה היא צוות הפיתוח: מערכות אמינות, שנבנות בשיטות מוכחות של הנדסת תוכנה. השנייה היא הארגון: "תרבות בטיחות", שהמנהלים מטפחים. השלישית היא גורמים מבחוץ: "הסמכה ראויה לאמון" בידי פיקוח עצמאי. ההיגיון: כדי שמערכת תהיה בטוחה, לא מספיק שהמהנדס יתכנן אותה היטב. צריך גם ארגון עם תרבות בטיחות, וגם גוף חיצוני שבודק את המערכת. כאן נמצאת גם הנקודה שבה הגישה פוגשת מושגים אחרים באתר. פיקוח אנושי ואדם-בלולאה הם מנגנונים מוגדרים לשמירה על שליטה. HCAI היא תפיסה רחבה יותר, שקובעת למה צריך את המנגנונים האלה ואיך משלבים אותם במוצר כבר מתחילתו.

מהמחקר למסמכי המדיניות

הרעיון חלחל למדיניות. במאי 2019 אומצו עקרונות ה-AI של ה-OECD, ואחד מהם נקרא אז "ערכים ממוקדי-אדם והוגנות". לפיו, מי שמפתח ומפעיל מערכות AI צריך לכבד את שלטון החוק, זכויות האדם וערכים דמוקרטיים. בעדכון של מאי 2024 שונה שם העיקרון ל"כיבוד שלטון החוק, זכויות האדם והערכים הדמוקרטיים", והביטוי "הכרעה אנושית" (human determination) הוחלף ב"יכולת לפעולה ולפיקוח אנושיים". באפריל 2019 פרסמה קבוצת המומחים של הנציבות האירופית הנחיות ל-AI אמין, עם שבע דרישות מרכזיות. הראשונה בהן היא "פעולה ופיקוח אנושיים": מערכות AI צריכות "להעצים בני אדם, לאפשר להם לקבל החלטות מושכלות" ולשמור על זכויותיהם. גם חברות אימצו את השפה. במאי 2019 פרסם צוות PAIR של גוגל את People + AI Guidebook, שנכתב כדי לעזור לאנשי חוויית משתמש ולמנהלי מוצר "לנקוט גישה ממוקדת-אדם ל-AI". לפי גוגל, ההמלצות בו מבוססות על נתונים ותובנות של יותר ממאה אנשים מצוותי מוצר, מהתעשייה ומהמחקר האקדמי.

הביקורת: מה בדיוק "ממוקד" כאן?

ההצלחה של המונח היא גם החולשה שלו. כשכל אחד יכול להכריז שהמערכת שלו ממוקדת-אדם, קשה לדעת מה בדיוק מובטח. ב-2023 ניסו החוקרות טרה קפל ומרגוט ברתרטון, בכנס CHI, למפות איך קהילת המחקר משתמשת במונח. לפי התקציר, מערכות AI פותחו עד כה בעיקר בגישה ש"ממוקדת בטכנולוגיה", והחשש מההשלכות החברתיות הוא שגרם לחוקרי AI ולחוקרי ממשקים לפנות ל-HCAI. לדבריהן, "נותרה עמימות ניכרת" לגבי המשמעות של תכנון והערכה של HCAI. הן סקרו באופן ביקורתי את הספרות שמשתמשת במונח, זיהו בה אשכולות מחקר מבוססים ותחומים מתפתחים כמו אינטראקציה עם AI ו-AI אתי, ובסוף הציעו הגדרה חדשה משלהן. עצם הצורך בהגדרה חדשה מראה שאין עדיין הגדרה אחת מוסכמת. לכן, כשחברה מצהירה שהמוצר שלה ממוקד-אדם, כדאי לשאול שאלות מעשיות: מי יכול לעצור את המערכת? האם אפשר להבין למה היא החליטה כך? ומי נושא באחריות כשהיא טועה?