המאמר, המחברים וארבע הקטגוריות
סטיבן קייב וקאנטה דיהאל, שניהם ממרכז לוורהיום לעתיד התבונה שבאוניברסיטת קיימברידג', פרסמו ב-2020 מאמר בשם The Whiteness of AI בכתב-העת Philosophy & Technology (כרך 33, עמודים 685–703). המשפט הפותח את התקציר מגדיר את מושא המחקר: This paper focuses on the fact that AI is predominantly portrayed as white—in colour, ethnicity, or both — המאמר עוסק בעובדה שבינה מלאכותית מוצגת ברובה כלבנה: בצבע, במוצא אתני, או בשניהם.
המאמר בודק ארבע קטגוריות של ייצוג: רובוטים הומנואידיים אמיתיים, צ'טבוטים ועוזרות וירטואליות, תצלומי מלאי שמאיירים כתבות על בינה מלאכותית, וייצוגי בינה מלאכותית בקולנוע ובטלוויזיה. רק האחרונה שייכת לתחום היצירות, אך הטענה נשענת על ארבעתן יחד.
לפני הלובן: הראיה שאפשר לייחס גזע למכונה
המאמר אינו פותח בטענה על לובן אלא בטענה מוקדמת ממנה — שגם רובוט נתפס בעיני צופים כשייך לקטגוריה גזעית. בניסוי שערכו כריסטוף בארטנק ועמיתיו ב-2018 צולם הרובוט ההומנואידי Nao וגון החומר שלו הותאם לגוני עור מתצלומי מלאי של אנשים לבנים ושחורים. בין 7% ל-20% מהנבדקים בחרו באפשרות "לא רלוונטי", ובין 53% ל-70% זיהו את הרובוט כשייך לגזע שממנו נגזר הגוון.
באותה שנה ניתחו סטרייט ועמיתיו תגובות חופשיות של גולשים לשלושה סרטונים של אנדרואידית בשלוש זהויות גזעיות. הם מצאו שהתגובות לרובוטית השחורה היו שליליות במידה מובהקת יותר, ושהרובוטית השחורה והרובוטית האסייתית ספגו יותר מפי שניים תגובות מנשלות-אנושיות מאשר הלבנה.
מה שעולה מסקירת הקולנוע והטלוויזיה
בסעיף על מסך מונים המחברים רשימה: שליחות קטלנית (ארנולד שוורצנגר), רובוקופ, כל הרפליקנטים בסדרת בלייד ראנר, סוני מ-I, Robot, אווה מהסרט אקס מכינה ומריה מהסרט מטרופוליס — כולם, לדבריהם, מגולמים בידי שחקנים לבנים ונראים לבנים על המסך; ולרובוטים העשויים מתכת או פלסטיק ניתנים בדרך כלל תווי פנים לבנים. גם בינה מלאכותית חסרת גוף, הם מוסיפים, מדובבת בידי שחקנים לבנים: HAL 9000 וסמנתה מ-Her.
הם מציינים שכל הדוגמאות מגיעות מהוליווד, שפועלת במדינה שבה 18% מהאוכלוסייה היספנית, ושלפי ספירתם רק רובוט בדיוני אחד הוא בעל רקע כזה — בנדר רודריגז מ-Futurama, שגם הוא מדובב בידי שחקן לבן. רק סדרות מאוחרות עם מערך רחב של אנדרואידים, כמו וסטוורלד ו-Humans, ניסו לגוון את התמונה.
שתי הקריאות הראשונות: מי יוצר, ומה מיוחס
הקריאה הראשונה היא הפשוטה: יצירות שנוצרות בסביבה לבנה משקפות אותה. המחברים אינם מסתפקים בה, ונימוקם בא מתוך אותן יצירות עצמן — המדע הבדיוני מייחס לחייזרים גזע בקביעות, והם מביאים את הביקורת על ג'אר ג'אר בינקס ועל ווטו בטרילוגיית הפרה-קוול של Star Wars. אם החייזר מגוזע, הבחירה להציג בינה מלאכותית כלבנה היא בחירה ולא ברירת מחדל.
הקריאה השנייה נשענת על מושג "המסגרת הגזעית הלבנה", שטבע הסוציולוג ג'ו פיגן ב-2006. תבונה, מקצועיות וכוח הן תכונות שהמסגרת הזאת מייחסת בעיקר ללבנים, ומכאן: To imagine a truly intelligent machine, one with general intelligence, is therefore to imagine a White machine — לדמיין מכונה תבונית באמת, בעלת תבונה כללית, פירושו לדמיין מכונה לבנה. בסיפורי ההשתלטות, הם מוסיפים, המכונה העליונה אינה מדומיינת כמי שנתפסו כנחותים אלא כמיטב-שבמיטב של הלבנים עצמם.
הקריאה השלישית: אוטופיה שמוחקת
אחת התקוות המרכזיות מבינה מלאכותית, כותבים קייב ודיהאל, היא חיי נוחות — מכונה שתיטול על עצמה את העבודות המלוכלכות, המשעממות או המסוכנות. בביקורת התרבות, הם מזכירים, הפנאי של המעמדות האמידים נשען היסטורית על עבודתן של נשים ממעמד הפועלים ובנות מיעוטים, עבודה שהוסתרה מן העין. הם מצטטים את בל הוקס, שמביאה זיכרונות של יורשת לבנה שגדלה עם משרתים שחורים: Blacks, I realized, were simply invisible to most white people, except as a pair of hands offering a drink on a silver tray.
מכאן הטענה: מכונה לבנה מאפשרת לאוטופיה המדומיינת לוותר על אותם בני-אדם לגמרי, גם בתפקיד המשרת. המחברים מפנים לג'ניפר רי, שכתבה שפרסומות לרובוטים ביתיים אמיתיים "בולטות בלובן שלהן", ושהן שומרות את החירות מעבודת הבית לנשים לבנות תוך מחיקת הנשים שמבצעות אותה בפועל.
שלוש ההשלכות — ומה המחברים עצמם מסייגים
בסיכום מונים המחברים שלוש השלכות אפשריות של מה שמכונה לעיתים "נזקים ייצוגיים" — מונח שהם עצמם מייחסים לבלודג'ט ואחרים (2020) ואינם טוענים לו. הראשונה: ייצוג עקבי אינו רק משקף אסוציאציה אלא מנציח אותה, ועלול לתחזק כוח-אדם הומוגני בתחום. השנייה: Portrayals of AI as White situate these machines in a power hierarchy above currently marginalised groups — ייצוגי בינה מלאכותית כלבנה ממקמים אותה בהיררכיית כוח מעל קבוצות מוחלשות; הם קושרים זאת להטיית האוטומציה, הנטייה להעדיף המלצה של מערכת אוטומטית על פני המלצה אנושית. השלישית: הטיית הדיון הציבורי אל הסיכונים והסיכויים של גברים לבנים ממעמד הביניים, במקום אל הקבוצות שצפויות להיפגע יותר.
ראוי להביא גם את הסתייגותם שלהם: All three, and the implications that we posit, need further investigation — שלוש הקריאות וההשלכות שהם מציעים טעונות מחקר נוסף. הערך הזה מדווח על עבודתם ואינו מכריע בה.