טימניט גברו (Timnit Gebru)

היסטוריה ואנשי מפתח

הגדרה

טימניט גברו היא חוקרת בינה-מלאכותית אריתראית-אתיופית-אמריקאית, שותפה-למחקר בפריצת-הדרך Gender Shades (2018), מייסדת-שותפה של Black in AI ומייסדת מכון-המחקר העצמאי DAIR (Distributed AI Research Institute); בדצמבר 2020 עזבה את צוות-האתיקה-של-AI בגוגל בעקבות מחלוקת פומבית על תהליך-אישור-פרסום של מאמר-מחקר.

רקע והשכלה

טימניט גברו נולדה באדיס אבבה שבאתיופיה, להורים אריתראים, והיגרה לארצות-הברית כפליטה בגיל העשרה. למדה הנדסת-חשמל באוניברסיטת סטנפורד (תואר ראשון ותואר שני), והשלימה שם ב-2017 דוקטורט בראיית-מחשב (computer vision) בהנחיית החוקרת פיי-פיי לי. בין 2004 ל-2013, לפני הדוקטורט, עבדה כמהנדסת-תוכנה וקול בחברת אפל, ובין השאר פיתחה אלגוריתמי עיבוד-אותות עבור ה-iPad הראשון. בין 2013 ל-2017 המשיכה במחקר בסטנפורד וב-Microsoft Research, בשילוב למידה-עמוקה עם נתוני Google Street View.

מחקר Gender Shades (2018)

ב-2018 פרסמה גברו, יחד עם ג'וי בואולמוויני מ-MIT Media Lab, את המחקר Gender Shades, שבדק לראשונה את דיוק מערכות-סיווג-מגדר מסחריות מובילות תוך הצטלבות של גזע ומגדר גם-יחד. הממצא המרכזי: שיעור-הטעות במקרה-הגרוע-ביותר הגיע ל-34.7 אחוזים על נשים כהות-עור, לעומת 0.8 אחוזים בלבד על גברים בהירי-עור, באותה משימה בדיוק. המחקר, שהוצג בכנס Fairness, Accountability, and Transparency (FAT*), הפך לאחת הדוגמאות המשפיעות והמצוטטות ביותר להטיה אלגוריתמית מתועדת בספרות המקצועית.

עזיבת גוגל בדצמבר 2020

בגוגל, בין 2018 ל-2020, כיהנה גברו כמובילה-משותפת של צוות-האתיקה-של-AI, לצד מרגרט מיטשל. בדצמבר 2020 עזבה את החברה, בעקבות מחלוקת סביב תהליך-אישור-הפרסום הפנימי של מאמר-מחקר שכתבה בשיתוף חוקרות נוספות, הידוע בכינויו "Stochastic Parrots" ועוסק בסיכונים של מודלי-שפה גדולים. גרסאות-האירוע של הצדדים חלוקות: גברו טענה שפוטרה; הודעתה הראשונה של גוגל תיארה את מה שקרה כהתפטרות שהחברה "קיבלה". העזיבה עוררה מחאה פומבית נרחבת — אלפי עובדי גוגל וחוקרים נוספים חתמו על מכתבי-מחאה, ותשעה חברי קונגרס אמריקאים דרשו הבהרות מהחברה.

Black in AI (2017)

ב-2017 ייסדה גברו, יחד עם רדיאת אבבה, את ארגון Black in AI, שהחל כסדנה בכנס NeurIPS והתפתח לארגון עצמאי שמטרתו להגדיל את הנוכחות וההשתלבות של אנשים שחורים בתחום הבינה המלאכותית, דרך שיתופי-פעולה, חונכות ותמיכה מקצועית לחוקרים ולחוקרות.

מכון DAIR (2021)

ב-2 בדצמבר 2021 ייסדה גברו את DAIR (Distributed AI Research Institute), מכון-מחקר עצמאי ומבוזר שמגדיר את עצמו כגוף שנועד לאזן את ההשפעה הרחבה של חברות-הטכנולוגיה הגדולות על מחקר, פיתוח ופריסה של בינה מלאכותית, מתוך התמקדות בהשפעת הטכנולוגיה על קהילות מוחלשות — ובפרט על אפריקה ועל התפוצה האפריקאית. בפברואר 2023 הצטרפו למכון שני חוקרים שעזבו את צוות-האתיקה-של-AI בגוגל, אלכס האנה ודילן בייקר. ב-2024 שיתף המכון פעולה עם מכון Weizenbaum ואוניברסיטת TU Berlin בפרסום דו"ח שבחן את האופן שבו תעשיית-הטכנולוגיה מנצלת "עובדי-נתונים" — בהם מפקחי-תוכן ומתייגי-נתונים ברחבי העולם.

שאלות נפוצות ❓

מה זה מחקר Gender Shades, ומה תרומתה של גברו אליו?

מחקר מ-2018 שגברו כתבה יחד עם ג'וי בואולמוויני, שבדק דיוק של מערכות-סיווג-מגדר מסחריות לפי גזע ומגדר גם-יחד, ומצא שיעור-טעות של 34.7% על נשים כהות-עור לעומת 0.8% על גברים בהירי-עור — אחת הדוגמאות המצוטטות ביותר להטיה אלגוריתמית.

מה קרה בעזיבתה של גברו מגוגל בדצמבר 2020?

גברו עזבה את גוגל בעקבות מחלוקת סביב אישור-פרסום של מאמר-מחקר שכתבה (הידוע בכינוי 'Stochastic Parrots'). גרסאות הצדדים חלוקות: היא טענה שפוטרה, וגוגל תיארה זאת בהודעתה הראשונה כהתפטרות שהחברה קיבלה. העזיבה עוררה מחאה פומבית נרחבת.

מה זה Black in AI?

ארגון שגברו ייסדה ב-2017 יחד עם רדיאת אבבה, שהחל כסדנה בכנס NeurIPS ומטרתו להגדיל את הנוכחות וההשתלבות של אנשים שחורים בתחום הבינה המלאכותית.

מה זה DAIR, ומתי נוסד?

DAIR (Distributed AI Research Institute) הוא מכון-מחקר עצמאי שגברו ייסדה ב-2 בדצמבר 2021, שמתמקד בהשפעת הבינה המלאכותית על קהילות מוחלשות, ובפרט על אפריקה והתפוצה האפריקאית.