מה זה, וטווח-הביצועים הרחב
בינה מלאכותית בממשל, המכונה גם "ממשל באמצעות אלגוריתם" (Government by Algorithm), היא שימוש רשויות ציבוריות באלגוריתמים ובמערכות-AI לניהול שירותים לאזרח, קבלת-החלטות מנהליות, ואיתור-סיכונים — מרישום לידה אוטומטי ועד זיהוי הונאת-קצבאות. הטווח בין המקרים המתועדים רחב: מדינות כמו אסטוניה מציגות דוגמה למערכת שמצמצמת בירוקרטיה בלי מחיר-זכויות ניכר, בעוד מערכת הולנדית לאיתור-הונאות-רווחה נסגרה על-ידי בית-משפט בגלל פגיעה בזכויות-יסוד. הערך הזה הוא המסגרת הכללית; שיטור חזוי וניקוד-סיכון בהונאת-קצבאות, הקיימים באתר כערכים נפרדים, הם שני יישומים צרים וספציפיים בתוכה — לא היקף שלם של "AI בממשל".
אסטוניה: שירות פרואקטיבי
אסטוניה נחשבת דוגמה מובילה לממשל דיגיטלי: כשילד נולד במדינה, בית-החולים מעביר את תעודת-הלידה ישירות למרשם-האוכלוסין, וההורים משלימים את הרישום ובחירת-השם באינטרנט במקום להסתובב בין משרדים נפרדים כפי שנדרש בעבר. מאוקטובר 2019, במסגרת השירות הפרואקטיבי הראשון מסוגו במדינה, הורים לתינוק שזה-עתה נולד כבר אינם צריכים להגיש בקשה לקצבאות המגיעות להם — המערכת "דוחפת" את הזכאות אליהם מיוזמתה ומבקשת מהם רק לאשר אותה. אותו עיקרון-פרואקטיביות חל גם על אירועי-חיים אחרים, כמו אבטלה או שכול: הממשל מזהה את האירוע ומציע שירות במקום לחכות שהאזרח יבקש אותו. התשתית שמאחורי כל זה היא X-Road, מערכת-חילופי-הנתונים המבוזרת של אסטוניה, שלפי הרשות המפעילה אותה ממשיכה להתעדכן כדי להוסיף בקרת-פרטיות ואחריותיות בדרך שבה הממשל משתמש בנתוני-האזרח — לא רק להרחיב את מספר השירותים האוטומטיים.
הולנד: SyRI ופסק-הדין שסגר אותה
החקיקה שהסמיכה את מערכת SyRI (Systeem Risico Indicatie) בהולנד אושרה בפרלמנט ב-2013, כמעט בלי דיון ציבורי משמעותי, ונכנסה לתוקף ב-1 בינואר 2014. המערכת סימנה תושבים כבעלי-סיכון-גבוה להונאת-קצבאות על סמך ניתוח נתונים ממספר מאגרים ממשלתיים, בלי שהאזרחים המסומנים ידעו על כך; היא הופעלה, בין השאר, בשתי שכונות בדרום-רוטרדם, מה שעורר מחאה מקומית עוד ב-2019. ב-5 בפברואר 2020 קבע בית-המשפט המחוזי בהאג, בתביעה שהגישו ארגוני-זכויות-אדם ואיגוד-עובדים הולנדי, שהחקיקה שהסמיכה את SyRI והשימוש בו הפרו את סעיף 8 לאמנה האירופית לזכויות-אדם — הזכות לפרטיות ולחיי-משפחה — משום שלא עמדו במבחן-המידתיות הנדרש להתערבות כזו, ופסק על הפסקה מיידית של המערכת. פסק-הדין נחשב לתקדים בין-לאומי מוקדם ובולט של בית-משפט שעוצר שימוש ממשלתי ב-AI על בסיס זכויות-אדם, לא רק תקלה טכנית.
ארצות-הברית: אימוץ נרחב אך שטחי
מחקר משותף של אוניברסיטת סטנפורד, אוניברסיטת ניו-יורק ו-Administrative Conference of the United States, שפורסם בפברואר 2020 תחת הכותרת "Government by Algorithm: Artificial Intelligence in Federal Administrative Agencies", בדק את השימוש ב-AI בסוכנויות הפדרליות האמריקאיות ומצא ש-45% מהסוכנויות שנבדקו כבר ניסו כלי-AI וכלי-למידת-מכונה עד 2020, כשמעל מחצית מהיישומים פותחו בבית, בידי מומחים פנימיים של הסוכנות עצמה ולא בידי ספקים חיצוניים. המחקר תואר כמקיף ביותר שנעשה עד אז בנושא בארצות-הברית, ומצביע על פער בין אימוץ נרחב-למדי לבין מידת-התחכום של היישומים בפועל.
מה משותף לשלושת המקרים
שלושת המקרים יחד ממחישים שהמשתנה המכריע אינו אם ממשלה מאמצת AI, אלא איך: אסטוניה בנתה את המערכת סביב הסכמה שקופה ותועלת ישירה לאזרח; הולנד השתמשה במערכת אטומה שסיננה אוכלוסיות בלי מנגנון-ערר אפקטיבי, ושילמה על כך בפסק-דין שסגר אותה; וברוב הסוכנויות האמריקאיות שנבדקו במחקר הסטנפורדי, האימוץ עדיין ניסיוני ומקומי, לא מערכתי. ההבדל הזה — שקיפות מול אטימות, הטבה מול סינון — חוזר גם בשני היישומים הצרים-יותר שבאתר, שיטור חזוי וניקוד-סיכון בהונאת-קצבאות, ומסביר חלק ניכר מהוויכוח הציבורי סביב AI ממשלתי בכלל.