קבלת החלטות אוטומטית (Automated Decision-Making)

מה נחשב החלטה אוטומטית

קבלת החלטות אוטומטית (Automated Decision-Making, ובקיצור ADM) היא, בהגדרה המקובלת, שימוש בנתונים, במכונות ובאלגוריתמים כדי לקבל החלטות במגוון תחומים — מינהל ציבורי, עסקים, בריאות, חינוך, משפט ותעסוקה — ברמות שונות של פיקוח או התערבות אנושית. הדוגמאות המוכרות הן דירוג אשראי שקובע אם תקבלו הלוואה, סינון אוטומטי של קורות חיים, וזיהוי "חשד להונאה" בבקשות לקצבאות. כדאי להבחין בין שני מצבים: מערכת שמכריעה לבד, ומערכת שממליצה לאדם שמחליט. ההבחנה נשמעת פשוטה, אבל בפועל היא מטושטשת — פקיד שמאשר כמעט כל המלצה של המערכת אינו באמת בודק אותה. לא כל מערכת כזו היא "בינה מלאכותית" במובן של מודל-שפה; חלקן מבוססות על כללים או על התאמת נתונים אוטומטית. מה שמשותף להן הוא ההשפעה הישירה על חיי אדם.

סעיף 22 בתקנות הגנת המידע האירופיות

החוק המרכזי בתחום הוא סעיף 22 בתקנות הגנת המידע הכלליות של האיחוד האירופי (GDPR). לפיו, לאדם יש זכות "שלא להיות כפוף להחלטה המבוססת אך ורק על עיבוד אוטומטי, לרבות פרופיילינג, שמייצרת השפעות משפטיות לגביו או משפיעה עליו באופן משמעותי דומה". הזכות אינה מוחלטת: היא אינה חלה כשההחלטה נחוצה לחוזה, כשהיא מותרת בחוק שקובע אמצעי הגנה, או כשהאדם נתן הסכמה מפורשת. אבל גם במקרים האלה חייב הארגון להבטיח לפחות שלוש זכויות: לקבל התערבות אנושית, להביע את עמדתו ולערער על ההחלטה. המילים "אך ורק" הן לב העניין, ולכן השאלה מה נחשב "החלטה" ומתי מעורבות אנושית היא אמיתית הגיעה לבית הדין של האיחוד האירופי.

שני פסקי דין על דירוג אשראי

ב-7 בדצמבר 2023 נתן בית הדין של האיחוד האירופי את פסק הדין הראשון שעסק בהיקף סעיף 22, בעניין SCHUFA, חברת דירוג האשראי הגדולה בגרמניה. אישה נדחתה בבקשת הלוואה בעקבות דירוג שלילי, וביקשה לדעת את ההיגיון שמאחוריו. בית הדין קבע שכאשר ציון הסבירות שמחשבת חברת הדירוג ממלא "תפקיד מכריע" בהחלטה אם לתת אשראי, יצירת הציון עצמה היא "החלטה" לפי סעיף 22 — גם אם את ההחלטה הפורמלית מקבל הבנק. ב-27 בפברואר 2025, בעניין Dun & Bradstreet Austria, עסק בית הדין באישה שחברת סלולר סירבה לחתום איתה על חוזה בעקבות דירוג שלילי. נקבע שמגיע לה מידע תמציתי, שקוף ומובן על "ההליך והעקרונות שיושמו בפועל" ביצירת הציון — לא בהכרח האלגוריתם עצמו — ושכאשר החברה טוענת לסוד מסחרי, בית משפט או רשות פיקוח יכולים לבחון את המידע ולהכריע מה יימסר.

כשזה משתבש: שני מקרים ממשלתיים

שני מקרים ממחישים את הנזק האפשרי. באוסטרליה פעלה בין יולי 2016 למאי 2020 תוכנית שכונתה Robodebt: מערכת השוותה אוטומטית את נתוני מקבלי הקצבאות עם הכנסה ממוצעת לפי נתוני רשות המסים, והטילה על האזרחים להוכיח שאינם חייבים כסף. זוהו כ-470 אלף חובות שהוצאו שלא כדין. ב-2019 קבע בית המשפט הפדרלי שהשיטה אינה חוקית, ובדוח ועדת החקירה הממלכתית מיולי 2023 היא תוארה כ"כישלון יקר של מינהל ציבורי, במונחים אנושיים וכלכליים". בהולנד השתמשו הרשויות באלגוריתם שסימן בקשות לסבסוד מעונות יום כחשודות בהונאה, ולפי אמנסטי אינטרנשיונל הוא השתמש באזרחות לא-הולנדית כגורם סיכון. עשרות אלפי הורים נפגעו, עם חובות, אובדן עבודה ופינויים, והשערורייה הביאה לנפילת הממשלה בינואר 2021.

חוק הבינה המלאכותית האירופי וזכות ההסבר

חוק הבינה המלאכותית של האיחוד האירופי מוסיף שכבה נוספת. הוא מגדיר כ"סיכון גבוה" בין השאר מערכות שמעריכות כושר אשראי או קובעות דירוג אשראי (למעט זיהוי הונאות), מערכות לגיוס ולמיון מועמדים לעבודה, ומערכות שבהן רשויות מעריכות זכאות לקצבאות ולשירותים ציבוריים חיוניים. סעיף 86 בחוק מעניק לאדם שנפגע מהחלטה המבוססת על מערכת כזו זכות לקבל "הסברים ברורים ומשמעותיים" על תפקיד המערכת בתהליך ועל העיקרים של ההחלטה. החובות על מערכות בסיכון גבוה מסוג זה היו אמורות לחול מ-2 באוגוסט 2026, אך במסגרת חבילת הפישוט Digital Omnibus, שמועצת האיחוד אישרה סופית ב-29 ביוני 2026, נדחו ל-2 בדצמבר 2027. ההסבר עצמו אינו עניין פשוט: במודלים מורכבים קשה לומר למה התקבלה החלטה מסוימת, וזו בדיוק השאלה שבה עוסק תחום הבינה המלאכותית המוסברת.

ארצות הברית: הנחיה שניתנה ונמשכה

בארצות הברית אין חוק כללי מקביל לסעיף 22, והדיון מתנהל לפי תחומים. בתחום האשראי, הלשכה להגנה פיננסית על הצרכן (CFPB) פרסמה ב-26 במאי 2022 הנחיה שלפיה מלווים שמשתמשים ב"אלגוריתמים מורכבים, לרבות בינה מלאכותית או למידת מכונה", חייבים עדיין למסור למי שנדחה את "הסיבות העיקריות הספציפיות" לדחייה, ו"אינם יכולים להצדיק אי-עמידה בדרישות רק משום שהטכנולוגיה שבה הם משתמשים מסובכת או אטומה מכדי להבינה". ב-12 במאי 2025 נכללה ההנחיה ברשימת ההנחיות שהלשכה משכה. בתחום התעסוקה התפתח מסלול נפרד של כללים לכלי גיוס אוטומטיים, שמתואר בערך על בינה מלאכותית בגיוס עובדים.