מגדר בייצוגי בינה מלאכותית (Gendered AI in Fiction)

AI בתרבות הפופולרית

הגדרה

הדפוסים המגדריים בדמויות של מכונות חושבות ביצירות בדיוניות — ומה נמצא כשספרו 327 דמויות במקום להניח מה יש בהן.

הטענה הרווחת, ולמה היא דורשת מדידה

בשיח על מכונות חושבות ביצירות חוזרת טענה מוכרת: מכונות ממוגדרות-נשית ממלאות תפקידי שירות וכניעות, וממוגדרות-גברית הן איום. היא נשמעת נכונה מפני שקל להעלות דוגמאות לשני הצדדים — אבל דוגמאות אינן מדידה, והזיכרון בוחר את מה שמתאים לו.

ההבחנה הזאת אינה קטנוּנית, מפני שהיא משנה את המסקנה. כשמישהו טרח לספור, התברר שחלק מן הדפוסים אכן קיימים ומובהקים — ושדווקא הממד המרכזי שהטענה נשענת עליו, הכניעות, אינו אחד מהם.

הסקר שספר את הדמויות

כריס נסל, שמפעיל את האתר ⁦Sci-fi interfaces⁩, בנה מסד נתונים גלוי של דמויות בינה מלאכותית בקולנוע ובטלוויזיה וקידד כל אחת לפי מגדר, סוג גוף, מידת ציות, מוסריות ועוד. בגרסה שפרסם באפריל 2019 כלל המדגם 327 דמויות, מסרטים וסדרות שבין מטרופוליס (1927) ל-⁦Upgrade⁩ (2018).

הממצא הבסיסי הוא פער מספרי: מבין 327 הדמויות, מספר הזכריות גדול פי שניים בערך ממספר הנקביות. הפער החד ביותר הוא בקטגוריה שנסל מכנה "מגדר חברתי" — דמויות שהסימן היחיד למגדרן הוא קול השחקן או כינוי הגוף שנוקטות כלפיהן דמויות אחרות, כמו ⁦R2-D2⁩ שמכונה "הוא" שוב ושוב בלי שום סימן מגדרי אחר. שם היחס הוא חמישה זכרים לכל נקבה.

איפה נמצא דפוס מובהק: הגוף

בחיתוך של מגדר מול סוג הגוף מדווח נסל על שלושה ממצאים. כשבינה מלאכותית מוצגת כבלתי-ניתנת להבחנה מאדם, היא נקבית באופן מובהק יותר מזכרית — ובכיוון ההפוך, דמות ממוגדרת-נשית נוטה הרבה יותר לגוף אנושי לגמרי מאשר לגוף של רובוט. רובוטים אנתרופומורפיים, דמויי-אדם אך ניכרים כמכונה, נוטים להיות זכריים. וכשהגוף מכני לגמרי, הדמות נוטה שלא להיות לא זכר ולא נקבה.

יוצא דופן שהוא מציין: בינה מלאכותית חסרת גוף וקול נקבי שכיחה הרבה יותר מבינה מלאכותית חסרת גוף וקול גברי, שלה יש במדגם שלו דוגמה אחת בלבד — ⁦JARVIS⁩ מסרטי מארוול. ברשימת חסרות-הגוף בקול נקבי הוא מונה, בין השאר, את סמנתה מ-⁦Her⁩, את ⁦VIKI⁩ מ-⁦I, Robot⁩ ואת ⁦Axiom⁩ מ-⁦WALL-E⁩. הוא עצמו מדגיש שהמספרים בחיתוכים האלה קטנים, ושהמסקנות מהם זהירות יותר מן הממצא הכללי.

איפה לא נמצא דפוס: הכניעות

כאן הסקר סותר את הטענה הרווחת. נסל בדק ארבע דרגות של ציות — מרצון חופשי מלא ועד ציות עיוור — ומסקנתו מנוסחת במפורש: ⁦Female-presenting AI do not appear to have significant disproportions of subservience⁩ — לדמויות ממוגדרות-נשית אין, לפי הנתונים שלו, עודף מובהק של כניעות. הסטייה הגדולה ביותר מהתפלגות אחידה, מציין הוא, הייתה 4.1%.

בפתיחות של הפוסטים המאוחרים בסדרה הוא מעמיד את שתי התוצאות זו לצד זו כשאלות ותשובות: האם דמויות ממוגדרות-נשית מקבלות סוג גוף אחר מזכריות? כן. האם הן כנועות יותר? לא.

ממד שלישי: מוסריות, ולמה ברירת המחדל היא זכר

בחיתוך של מגדר מול מוסריות נמצא דפוס אחר לגמרי. דמויות ממוגדרות-נשית נוטות אל האמצע ולא אל הקצוות; דמויות ממוגדרות-גברית נוטות להיות טובות מאוד או רעות מאוד; ודמויות שמגדרן נזיל — לרוב כאמצעי הטעיה בעלילה — מרוכזות בקצה הרע, וסקיינט מהסרט שליחות קטלנית היא הדוגמה שנסל נותן.

לפער המספרי עצמו מציעה קאתי פרל, שעוסקת בעיצוב ממשקי קול, הסבר בפוסט אורחת באותה סדרה: אנדרוצנטריות, כלומר ברירת מחדל תרבותית זכרית שכל סטייה ממנה דורשת סימון. בניסוחה: ⁦I believe that much of the time, when writers create an AI character, it is male by default, unless there is something important about being female⁩ — ברוב המקרים, לדעתה, כשכותב יוצר דמות בינה מלאכותית היא זכרית כברירת מחדל, אלא אם יש חשיבות לכך שתהיה נקבית. היא מוסיפה שכשאנשים רואים רובוט בלי סימנים נשיים מובהקים הם מייחסים לו בדרך כלל מגדר זכרי, ושכדי לסמן דמות כנקבית נוטים היוצרים להוסיף מאפיינים מוגזמים.

מהיצירה למוצר, ובחזרה

פרל מציינת שבמוצרים אמיתיים הכיוון הפוך: לרוב העוזרות הקוליות קול נשי, ואילו רובוטים ביתיים ממוגדרים לרוב כזכרים. את ההסבר לצד הקולי היא מפנה לספרו של קליפורד נאס ⁦Wired for Speech⁩, שלפיו קול נשי נתפס כמי שעוזר לנו לפתור בעיה בעצמנו, וקול גברי כדמות סמכות שמוסרת לנו את התשובה.

המעבר מיצירה למוצר מתועד גם בשם עצמו: באפריל 2014 השיקה מיקרוסופט עוזרת קולית בשם ⁦Cortana⁩, על שם דמות הבינה המלאכותית מסדרת המשחקים ⁦Halo⁩, וג'ן טיילור — שמדובבת את הדמות במשחקים — חזרה לדובב את הגרסה האמריקאית של המוצר. בצד המחקרי, הספר ⁦AI Narratives⁩ (בעריכת סטיבן קייב, קאנטה דיהאל ושרה דילון, הוצאת אוניברסיטת אוקספורד, 2020) כולל פרק של קייט דבלין ואוליביה בלטון בשם ⁦The Measure of a Woman: Fembots, Fact and Fiction⁩, שמראה כיצד ייצוגי רובוטיות נשיות ביצירות והפיתוח הטכנולוגי בפועל הזינו יחד ציפיות צרות מנשיות. ראוי לסייג: הסקר של נסל הוא מסד נתונים שקודד אדם אחד, על מדע בדיוני מסך בלבד.

ארבעה ממדים מגדריים — מה מקובל להניח לעומת מה שנמצא בסקר של 327 הדמויות
מספר הדמויותסוג הגוףכניעותמוסריות
מה מקובל להניחמכונה נשית היא דימוי שכיח מאודלא נדון בדרך כללמכונה נשית משרתת, מכונה גברית מאיימתהמכונה המאיימת היא הדמות הזכרית
מה נמצא בסקרדמויות זכריות רבות פי שניים בערך מנקביותנשית נוטה לגוף אנושי לגמרי, זכרית לרובוט דמוי-אדםאין עודף מובהק של כניעות אצל דמויות נשיותנשית נוטה לאמצע, זכרית לקצוות — טובה מאוד או רעה מאוד
מעמד הממצאפער גדול וברור בכל המדגםמובהק, אך המספרים בחיתוכים קטניםתוצאה שלילית מפורשת, סטייה מרבית של 4.1%מגמה, לא הכרעה

שאלות נפוצות ❓

מה בדיוק הטענה שנבדקה כאן?

שדמויות של מכונות חושבות ביצירות ממוגדרות בדפוס קבוע: נשיות בתפקידי שירות וכניעות, גבריות כאיום. הערך מביא מה נמצא כשספרו את הדמויות במקום להסתמך על דוגמאות.

כמה דמויות נספרו, ומאיפה?

327 דמויות בינה מלאכותית מקולנוע ומטלוויזיה, מהסרט מטרופוליס (1927) ועד ⁦Upgrade⁩ (2018), במסד נתונים גלוי שבנה כריס נסל ופרסם באפריל 2019.

אז דמויות נשיות אינן כנועות יותר?

לפי הסקר, לא. נסל בדק ארבע דרגות ציות ומסקנתו מפורשת: אין לדמויות ממוגדרות-נשית עודף מובהק של כניעות, והסטייה הגדולה ביותר מהתפלגות אחידה הייתה 4.1%.

איפה כן נמצא הבדל מובהק?

בשניים: בסוג הגוף — דמות נשית נוטה להיות בלתי-ניתנת להבחנה מאדם, ורובוט דמוי-אדם אך ניכר-כמכונה נוטה להיות זכרי; ובמוסריות — דמויות נשיות נוטות אל האמצע וזכריות אל הקצוות.

איך זה קשור למוצרים שאנחנו משתמשים בהם?

מיקרוסופט קראה לעוזרת הקולית שהשיקה באפריל 2014 ⁦Cortana⁩, על שם דמות הבינה המלאכותית מסדרת ⁦Halo⁩, והחזירה את ג'ן טיילור, שמדובבת את הדמות במשחקים, לדובב את המוצר.