בינה מלאכותית אחראית (Responsible AI)

במקום לפתח מוצר AI ואז "לתקן" בעיות אתיות שהתגלו אחרי-השקה, גישת-אחריות מטמיעה בדיקות-הוגנות, בטיחות ושקיפות כבר בשלבי התכנון והפיתוח המוקדמים-ביותר — לא כתוספת מאוחרת שמצטרפת רק אחרי שנזק כבר נגרם.

אחד המסמכים המשפיעים-ביותר שהניחו את הבסיס לגישה הזו הוא "קווים-מנחים לבינה-מלאכותית-אמינה" (Ethics Guidelines for Trustworthy AI), שפרסמה קבוצת-המומחים-הבכירה של האיחוד-האירופי (AI HLEG — High-Level Expert Group on AI) באפריל 2019. מאז, ארגונים רבים — טכנולוגיים וממשלתיים כאחד — אימצו "עקרונות בינה מלאכותית אחראית" רשמיים משלהם כמדיניות פנימית: מסגרת שאמורה להנחות החלטות-פיתוח יומיומיות בפועל, לא רק הצהרת-כוונות כלליות שנשארת על-הנייר. עקרונות כאלה נוגעים בדרך-כלל לאותם תחומים חוזרים: הוגנות, שקיפות, פרטיות, בטיחות, ואחריותיות — אבל האופן שבו כל ארגון בוחר לתרגם אותם לתהליכי-עבודה קונקרטיים משתנה מאוד, ולעיתים נשאר סתום-במכוון.

המחיר של היעדר-גישה-כזו מתועד בשני מקרים בולטים. ב-2015 תייגה מערכת-הזיהוי של Google Photos זוג שחור-עור בטעות כ"גורילות" — תקלה שנבעה ממערך-אימון לא-מגוון-מספיק, ושחשפה עד-כמה קל להחמיץ בדיקת-הוגנות בסיסית לפני-השקה. ב-2018 נהרגה אלן הרצברג בפגיעה של רכב-אוטונומי בניסוי של Uber באריזונה — התקרית הראשונה מסוגה של הולכת-רגל שנהרגה על-ידי רכב-אוטונומי, ותזכורת חדה לכך שבטיחות-AI היא לא רק שיקול תיאורטי.

החיסרון המרכזי בגישה הזו הוא שקשה למדוד את "האחריותיות" עצמה: בניגוד לביצועי-דיוק שיש להם ציון ברור, אין מדד-מוסכם-אחד ל"עד-כמה מוצר אחראי" — מה שהופך את הביקורת השכיחה כלפי ארגונים — שהם מאמצים "עקרונות" כמצג-חיצוני בלי שינוי-פרקטי אמיתי מאחוריהם — לביקורת שקשה להפריך רק על-סמך מסמך-עקרונות פומבי, בלי בדיקה עצמאית ובלתי-תלויה של הפרקטיקה בפועל. בגלל זה גם רגולציות חיצוניות, לא רק עקרונות פנימיים וולונטריים, נתפסות היום כחלק הכרחי מהתמונה — לא תחליף לאחריות ארגונית, אלא רשת-ביטחון למצבים שבהם היא נכשלת.