אחריותיות אלגוריתמית (Algorithmic Accountability)

השאלה: מי עונה כשהאלגוריתם טועה

אחריותיות אלגוריתמית (Algorithmic Accountability) עוסקת בחלוקת האחריות לתוצאות של פעולות בעולם האמיתי שאלגוריתמים השפיעו עליהן. אלגוריתמים כבר מאשרים או דוחים בקשות לכרטיס אשראי ולוויזה, בוחרים את מי לבדוק בביקורת מס, מדרגים תוצאות חיפוש ומחליטים מה יופיע בפיד. לרוב הם פועלים כ"קופסה שחורה": מי שנפגע רואה רק את התוצאה, לא את הדרך שבה התקבלה. החוקר ניקולס דיאקופולוס תיאר זאת כך: האלגוריתמים "יכולים לטעות. יש להם הטיות. ובכל זאת הם יושבים בקופסאות שחורות אטומות".

המושג קרוב לשקיפות ולהסבר, אבל אינו זהה להם. שקיפות שואלת אם אפשר לראות מה המערכת עושה; בינה מלאכותית מוסברת שואלת אם אפשר להבין למה; אחריותיות שואלת מי יענה על הנזק ומה יקבל מי שנפגע. ההבחנה חשובה, כי לפעמים אי אפשר להסביר מודל מורכב עד הסוף — וגם אז מישהו צריך לשאת באחריות.

שבעה עקרונות מ-2017

אחד המסמכים המוקדמים שניסחו את הרעיון הוא הצהרה מ-12 בינואר 2017 של מועצת המדיניות האמריקנית של האגודה למכונות מחשוב (ACM). היא מונה שבעה עקרונות לשקיפות ולאחריותיות של אלגוריתמים: מודעות להטיות האפשריות ולנזק שהן עלולות לגרום; גישה ותיקון — מנגנונים שמאפשרים למי שנפגע לערער ולקבל סעד; אחריותיות; הסבר על ההליך ועל ההחלטות הספציפיות; תיעוד מקור הנתונים שעליהם אומן המודל; יכולת ביקורת — שמירת המודלים, הנתונים וההחלטות כך שאפשר יהיה לבדוק אותם כשיש חשד לנזק; ותיקוף ובדיקה שגרתית אם המודל מפלה.

העיקרון השלישי הוא לב העניין: "מוסדות צריכים לשאת באחריות להחלטות שמקבלים האלגוריתמים שבהם הם משתמשים, גם אם לא ניתן להסביר בפירוט כיצד האלגוריתמים מגיעים לתוצאותיהם". במילים אחרות, "המחשב החליט" אינו תירוץ.

"הבוט הוא ישות נפרדת": שני מקרים

ב-2024 הכריע בית הדין לתביעות אזרחיות בקולומביה הבריטית בעניין Moffatt נגד אייר קנדה. בוט השירות באתר החברה אמר ללקוח שאיבד את סבתו שהוא יכול לקנות כרטיס במחיר מלא ולבקש החזר לפי תעריף אבל בתוך 90 יום. החברה סירבה להחזיר, והפנתה לעמוד אחר באתר שקבע אחרת. בדיון טענה אייר קנדה שהבוט הוא "ישות משפטית נפרדת שאחראית למעשיה". חבר בית הדין כריסטופר ריברס כינה את הטענה "יוצאת דופן" ודחה אותה: הבוט הוא חלק מאתר החברה, והחברה אחראית לכל המידע שבו. הסכום היה 880 דולר קנדי בלבד, אבל המקרה זכה לתהודה בינלאומית.

מקרה כבד בהרבה, אף שאינו של בינה מלאכותית, הוא שערוריית הדואר הבריטי. בין 1999 ל-2015 הורשעו שלא כדין יותר מ-900 מנהלי סניפי דואר בגניבה, הונאה וזיוף חשבונות, על סמך נתונים שגויים של מערכת הנהלת החשבונות Horizon. הדואר התעקש שהמערכת אמינה, וב-2019 קבע שופט שהיא "הכילה באגים, שגיאות ופגמים". המקרה מראה מה קורה כשמוסד מתייחס לפלט של מערכת כאל אמת שאינה צריכה הוכחה.

הכלים: הערכת השפעה, ביקורת וזכות ערעור

הכלי המעשי המרכזי הוא הערכת השפעה לפני שהמערכת עולה לאוויר. קנדה הייתה מהראשונות לחייב זאת. ההנחיה הממשלתית שלה לקבלת החלטות אוטומטית נכנסה לתוקף ב-1 באפריל 2019, עם חובת עמידה עד 1 באפריל 2020. היא מחייבת משרדי ממשלה להשלים ולפרסם הערכת השפעה אלגוריתמית לפני הפעלת מערכת, ולפי התוצאה לסווג אותה לאחת מארבע רמות השפעה, מרמה I עד רמה IV. הדרישות משתנות לפי הרמה, ובהן: הודעה לציבור שההחלטה אוטומטית, הסבר משמעותי איך ולמה התקבלה, בדיקה בידי מומחים מתאימים, מעורבות אנושית ומידע על דרכי ערעור.

כלי נוסף הוא ביקורת חיצונית, כמו ביקורת-הטיה מחייבת שבה נבדקים כלי גיוס בניו יורק. באירופה, הזכות שלא להיות כפוף להחלטה אוטומטית בלבד והזכות להסבר מתוארות בערך קבלת החלטות אוטומטית.

חקיקה שנתקעה

הניסיונות להפוך את העיקרון לחוק כללי נתקלו בקשיים. בארצות הברית הוגשה הצעת "חוק האחריותיות האלגוריתמית" ב-10 באפריל 2019, ושוב ב-21 בספטמבר 2023 בידי הסנטור רון ויידן ו-11 סנטורים נוספים. הגרסה של 2023 נועדה להורות לנציבות הסחר הפדרלית (FTC) לחייב הערכות השפעה של מערכות החלטה אוטומטיות, אצל חברות שהכנסותיהן השנתיות הממוצעות עולות על 50 מיליון דולר או ששוויין עולה על 250 מיליון דולר. הפעולה האחרונה שנרשמה לגביה היא הפניה לוועדה בסנאט.

באיחוד האירופי הציעה הנציבות ב-28 בספטמבר 2022 "הנחיית אחריות לבינה מלאכותית", שנועדה להקל על נפגעים להוכיח נזק ממערכת AI באמצעות "חזקת סיבתיות" שניתנת לסתירה. בתוכנית העבודה שלה ל-2025 הודיעה הנציבות שתמשוך את ההצעה, והיא נמשכה רשמית באוקטובר 2025. החובות על מערכות בסיכון גבוה נשארו בחוק הבינה המלאכותית עצמו.

מה למדנו עד כה

באוגוסט 2021 פרסמו מכון עדה לאבלייס, מכון AI Now ושותפות הממשל הפתוח את מה שהגדירו כמחקר הגלובלי הראשון על "הגל הראשון" של מדיניות אחריותיות אלגוריתמית במגזר הציבורי. הם מצאו פעילות בינלאומית ערה, אבל גם מגוון רחב מאוד של צורות — מהתחייבויות מחייבות בחוק ועד עקרונות כלליים והנחיות וולונטריות — והצביעו על המגבלות של כלים משפטיים ומדיניותיים להבטחת מערכות בטוחות ואחראיות.

לקח נוסף נוגע ל"אדם בלולאה". מוסדות נוטים להניח שאם עובד חותם על ההחלטה, האחריות מטופלת. אבל עובד שסומך על המערכת יותר מדי — תופעה שנקראת הטיית אוטומציה — אינו בודק אותה באמת. לכן אחריותיות אמיתית דורשת יותר מחתימה: תיעוד שמאפשר לבדוק מה קרה, גורם מוגדר שעונה על הנזק, ודרך פשוטה לנפגע לערער.