אתיקה של בינה מלאכותית (AI Ethics)

על מה התחום מדבר

אתיקה של בינה מלאכותית (AI Ethics) היא שם כולל לשאלות המוסריות שמעוררות מערכות AI. לפי ההגדרה המקובלת, התחום כולל הטיה אלגוריתמית, הוגנות, אחריותיות, שקיפות, פרטיות ורגולציה — במיוחד כשמערכות משפיעות על החלטות על בני אדם או מקבלות אותן בעצמן. הוא כולל גם אתגרים עתידיים או אפשריים: מכונות שאמורות לפעול באופן מוסרי, נשק אוטונומי, בטיחות ויישור של מערכות חזקות, אובדן משרות, דיסאינפורמציה, השאלה אם למערכות מסוימות יש מעמד מוסרי, וסיכונים קיומיים. תחומי יישום כמו רפואה, חינוך, משפט פלילי וצבא מעוררים שאלות חריפות במיוחד.

כדאי להבחין בין המונח הזה לשני מונחים קרובים. בינה מלאכותית אחראית היא הדרך שבה ארגונים מתרגמים עקרונות לתהליכי עבודה. בטיחות בינה מלאכותית מתמקדת במניעת נזק מהמערכת עצמה. האתיקה רחבה משניהם: היא שואלת מה נכון לעשות, לא רק איך עושים זאת בבטחה.

שורשים: מהמחזה ועד חוקי הרובוטיקה

השאלות ותיקות מהמחשבים עצמם. המחזה R.U.R של קארל צ'אפק, שהועלה לראשונה ב-1921, העניק לעולם את המילה "רובוט" — מהמילה הצ'כית לעבודת כפייה — ועסק ברובוטים בעלי רגשות שמנוצלים לעבודה. בשנות ה-50 כתב נורברט וינר את "השימוש האנושי בבני אדם", ודן בסכנה ששיתוף הפעולה בין אדם למכונה יוביל לדה-הומניזציה. אייזק אסימוב ניסח את שלושת חוקי הרובוטיקה, ובסיפוריו בחן שוב ושוב איפה הם נשברים — מה שמרמז שאף מערכת חוקים קבועה לא תצפה את כל המצבים.

ב-2010 כינסה בריטניה צוות שעדכן את חוקי אסימוב והבהיר שהאחריות לבינה מלאכותית מוטלת על היצרן או על הבעלים והמפעיל — לא על המכונה. זו עדיין אחת השאלות המרכזיות בתחום, ובה עוסק הערך אחריותיות אלגוריתמית.

גל העקרונות: על מה כולם מסכימים

בסוף העשור הקודם פרסמו חברות, מוסדות מחקר וממשלות מסמכי עקרונות לבינה מלאכותית אתית בקצב מהיר. ב-8 באפריל 2019, למשל, פרסמה קבוצת המומחים של הנציבות האירופית את "הנחיות האתיקה לבינה מלאכותית אמינה". באותה שנה מיפו אנה ג'ובין, מרצ'לו איינקה ואפי ואיינה את המסמכים, ומצאו התכנסות עולמית סביב חמישה עקרונות: שקיפות, צדק והוגנות, אי-גרימת נזק, אחריות ופרטיות. ברנט מיטלשטדט ספר באותה שנה לפחות 84 יוזמות ציבוריות ופרטיות שפרסמו עקרונות כאלה.

אבל ההסכמה חלקית. ג'ובין ועמיתיה מצאו פערים מהותיים באופן שבו כל מסמך מפרש את העקרונות, בסיבה שבגללה הם חשובים, בתחומים שעליהם הם חלים ובדרך שבה צריך ליישם אותם. כך אותה מילה, למשל "שקיפות", יכולה לציין דברים שונים במסמכים שונים.

המסגרות הבין-לאומיות, וישראל

שתי מסגרות בין-לאומיות בולטות. עקרונות ה-OECD אומצו ב-2019 ועודכנו במאי 2024, ולפי הארגון יש להם 47 מצטרפים. הם כוללים חמישה עקרונות ערכיים — צמיחה מכלילה ורווחה; זכויות אדם וערכים דמוקרטיים, כולל הוגנות ופרטיות; שקיפות ויכולת הסבר; עמידות, אבטחה ובטיחות; ואחריותיות — וחמש המלצות למדינות. בנובמבר 2021 אימצו 193 המדינות החברות באונסק"ו את ההמלצה על אתיקה של בינה מלאכותית, שהארגון מגדיר כתקן הגלובלי הראשון בתחום. היא נשענת על ארבעה ערכי יסוד ועשרה עקרונות, ובהם פיקוח וקביעה אנושיים, קיימות ואוריינות.

בישראל פרסמו משרד החדשנות, המדע והטכנולוגיה ומשרד המשפטים בדצמבר 2023, אחרי כשנה של הערות ציבור, מסמך "עקרונות מדיניות, רגולציה ואתיקה". הוא מציע עקרונות אתיים על בסיס עקרונות ה-OECD בהתאמות: קידום צמיחה ומובילות ישראלית בחדשנות; האדם במרכז; שוויון ומניעת אפליה פסולה; שקיפות והסברתיות; אמינות, עמידות, אבטחה ובטיחות; ואחריותיות. גם סין פרסמה ב-25 בספטמבר 2021 "נורמות אתיות" עם שש דרישות בסיס, ובהן הגנה על פרטיות, שליטה ואמינות, וחיזוק האחריות.

הוויכוח: האם עקרונות מספיקים

הביקורת המרכזית על הגישה היא שעקרונות כלליים קלים לניסוח וקשים ליישום. במאמר "עקרונות לבדם אינם יכולים להבטיח בינה מלאכותית אתית" מ-2019 השווה מיטלשטדט את אתיקת ה-AI לאתיקה הרפואית, שהעקרונות שלה דומים. לטענתו, לפיתוח AI חסרים ארבעה דברים שיש לרפואה: מטרות משותפות וחובות נאמנות; היסטוריה ונורמות מקצועיות; שיטות מוכחות לתרגם עקרונות למעשה; ומנגנוני אחריות משפטיים ומקצועיים חזקים. מסקנתו: אין עדיין סיבה לחגוג הסכמה על עקרונות כלליים, כי היא "מסתירה מחלוקת פוליטית ונורמטיבית עמוקה".

לצד העקרונות קיימים היום גם כלים מחייבים יותר: חוקים כמו חוק הבינה המלאכותית האירופי, תקנים שגוף חיצוני בודק, וחובות ביקורת ודיווח. השאלה מה צריך להיות חוק ומה מספיק כהתחייבות מרצון נשארת פתוחה, ומדינות עונות עליה אחרת.

איך לקרוא את התחום באתר

כל אחד מהעקרונות שחוזרים במסמכים מפורט בערך משלו. על דעות קדומות שמודל יורש מהנתונים — בערך הטיה אלגוריתמית, ועל הדרכים למדוד ולתקן אותן — בערך הוגנות אלגוריתמית. על היכולת לראות ולהבין מה המודל עושה — בערכים שקיפות ובינה מלאכותית מוסברת. על מה קורה למידע האישי — בערך פרטיות נתונים. על הדרישה שאדם יוכל לעצור את המערכת — בערך פיקוח אנושי. על מי שנושא בנזק — בערך אחריותיות אלגוריתמית.

הצד המחייב מתואר בערכים רגולציית בינה מלאכותית, חוק הבינה המלאכותית האירופי ותקני בינה מלאכותית. ולשאלה איך מוודאים שמערכת חזקה תפעל לפי כוונות האדם — בערך יישור. קריאה בסדר הזה עוברת מהשאלה "מה נכון?" אל השאלה "איך מוודאים שזה קורה?".