הטיה אלגוריתמית (Bias)

מה זו הטיה אלגוריתמית, ומקורותיה

הטיה אלגוריתמית (Bias) היא כשמודל AI משקף בתשובותיו דעות קדומות שהוא "ירש" מהנתונים העצומים שעליהם אומן — בלי כוונה מודעת מצד מי שבנה אותו. ההגדרה המדויקת יותר, כפי שמנוסחת בספרות-המחקר, מתארת "נטייה שיטתית וחוזרת-על-עצמה של מערכת ממוחשבת ליצור תוצאות 'לא-הוגנות'" — לא טעות-אקראית-חד-פעמית, אלא דפוס שחוזר שוב-ושוב באופן צפוי, ולכן ניתן-לזיהוי ולתיקון-שיטתי אם מחפשים אותו במפורש. חשוב להבין את המקור: מודל-AI לא "בוחר" להיות מוטה במובן המוסרי — הוא לומד דפוסים סטטיסטיים מתוך נתוני-האימון שהוזנו לו, וכשהנתונים האלה משקפים אי-שוויון היסטורי או חברתי קיים, המודל "לומד" ומשחזר את אותו אי-שוויון, לעיתים אף בצורה מוגברת יותר מהמקור.

מקורות ההטיה מתחלקים לכמה קטגוריות עיקריות, וההבחנה ביניהן חשובה כי כל אחת דורשת פתרון-הנדסי שונה. "הטיית-נתונים" (Data Bias) — כשמערך-האימון עצמו לא-מייצג באופן שוויוני את כל קבוצות-האוכלוסייה הרלוונטיות, למשל תמונות-פנים שרובן-המכריע של אנשים בהירי-עור, מה שגורם למודל להיות פחות-מדויק על אנשים כהי-עור. "הטיית-עיצוב" (Design Bias) — כשהבחירות ההנדסיות של הצוות שבנה את המערכת, גם בלי כוונה, מטות את התוצאה — למשל בחירה אילו תכונות-קלט המודל בכלל מקבל בחשבון. ו"הטיה-מתפתחת" (Emergent Bias) — כשהמערכת פותחה באופן ניטרלי-יחסית, אבל השימוש-בפועל בעולם-האמיתי חושף הטיה שלא נראתה בשלב-הפיתוח, כי ההקשר-האמיתי שונה מתנאי-הבדיקה המקוריים.

המחקר המצוטט "גוני-מגדר", ונזק מתועד: COMPAS ו-Optum

הדוגמה המחקרית המוכרת והמצוטטת ביותר לבעיה הזו היא פרויקט "גוני-מגדר" (Gender Shades), מחקר שהובילה החוקרת ג'וי בואולמוויני מ-MIT Media Lab בין 2017 ל-2020, ובחן מערכות-זיהוי-פנים מסחריות מובילות. הממצא המרכזי: שיעור-הטעות של המערכות בזיהוי-מגדר על פני נשים כהות-עור הגיע במקרה-הגרוע-ביותר ל-34.7 אחוזים — לעומת שיעור-טעות של 0.8 אחוזים בלבד על גברים בהירי-עור באותה משימה בדיוק, במערכת שהמדד-האקראי-הבסיסי שלה הוא 50 אחוזים. הפער הזה לא נבע מבעיה טכנית-כללית במערכות עצמן — הן תפקדו מצוין על חלק מהאוכלוסייה — אלא ממערכי-האימון שהיו לא-מאוזנים דמוגרפית, בעיקר עם ייצוג-חסר של נשים כהות-עור. המחקר הוביל את המפתחות (בהן IBM ו-Microsoft) לשפר משמעותית את מערכי-האימון שלהן בעקבות הפרסום, אחת הדוגמאות הבודדות והברורות-יחסית שבהן מחקר-הטיה אקדמי הוביל ישירות לתיקון מוצרי מסחרי מתועד.

הטיה במערכות-AI לא נשארת אקדמית או תיאורטית — היא כבר גרמה לנזק מתועד בתחומים בעלי-השלכות-ממשיות-על-חיי-אדם. במערכת-המשפט הפלילי בארצות-הברית, כלי-הערכת-סיכון בשם COMPAS, ששימש בתי-משפט להעריך סבירות-להישנות-עבירה, נמצא במחקר עצמאי כמעניק לנאשמים שחורים ציוני-סיכון גבוהים משמעותית מנאשמים לבנים בעלי-רקע-עברייני דומה. בתחום הרפואה, אלגוריתם שפיתחה חברת Optum לניהול-משאבים בבתי-חולים אמריקאיים נמצא מעדיף באופן שיטתי מטופלים לבנים על-פני מטופלים שחורים חולים-יותר — כי הוא השתמש בעלות-הטיפול-ההיסטורית כמדד-קירוב לצורך-הרפואי, ועלויות-הטיפול ההיסטוריות עצמן כבר שיקפו אי-שוויון-גישה קיים במערכת-הבריאות. שני המקרים האלה ממחישים תבנית חוזרת: אלגוריתם "ניטרלי-לכאורה" עלול להנציח אי-שוויון קיים, לא ליצור הטיה-חדשה-יש-מאין, אלא לשקף ולבצר הטיה שכבר הייתה שם בנתונים ההיסטוריים.

הטיה במודלי-שפה, וכשל הפוך: תקרית-Gemini

הטיה לא מוגבלת לתחום זיהוי-הפנים או הערכת-סיכון — היא מופיעה גם במודלי שפה גדולים (LLM), בצורה שקצת יותר קשה לזהות כי היא לא מתבטאת בציון-מספרי-ברור אלא בדפוסי-שפה עדינים. מחקר משפיע מ-2016 שבחן הטמעות-וקטוריות (Word Embeddings) — הייצוג המספרי שמודלי-שפה משתמשים בו למילים — מצא שהטמעות-מילים שאומנו על טקסט חדשותי-כללי מכילות הטיות-מגדר סטטיסטיות בולטות: המילה "עוזרת-אישית" ממוקמת קרוב-יותר לכיוון-הווקטורי ה"נשי" במרחב-המתמטי, בעוד "מתכנת-מחשבים" ממוקם קרוב-יותר לכיוון ה"גברי" — לא כי המודל "מאמין" במשהו, אלא כי כך התפלגו המילים בטקסט-האימון עצמו. הטיות דומות תועדו גם במודלי-שפה-גדולים מודרניים יותר, בדרכים שקשה יותר לצפות מראש: מודל עלול "להניח" מגדר או רקע-אתני ברירת-מחדל כשמתבקש לתאר דמות-מקצועית מסוימת בלי הקשר נוסף, גם אם איש לא ביקש ממנו זאת במפורש. מחקר ישראלי מ-2020 מאוניברסיטת בר-אילן, בהובלת שאולי רבפוגל ויואב גולדברג, הראה שתיקון-הטיה על ידי איפוס כיוון-וקטורי בודד לא מספיק: השניים פיתחו שיטה בשם הטלה-איטרטיבית-על-מרחב-האפס (INLP — Iterative Nullspace Projection), שמזהה ומנטרלת חוזר-ונשנה את כל הכיוונים הסטטיסטיים שמהם ניתן לשחזר את המאפיין הרגיש — כי הטיית-מגדר, כך התברר, מפוזרת על פני מאות כיוונים במרחב-ההטמעה, לא רק אחד.

תקרית מתועדת שממחישה כיוון-כשל הפוך, פחות-מדובר-אך-לא-פחות-חשוב, קרתה בפברואר 2024: גוגל השהתה את יכולת-יצירת-התמונות-של-בני-אדם בכלי Gemini שלה, אחרי שמשתמשים גילו שהיא מייצרת תמונות היסטוריות שגויות-עובדתית — למשל "אבות-מייסדים" שחורים של ארצות-הברית או חיילים גרמנים ממלחמת-העולם-השנייה שמיוצגים כאסייתים. גוגל עצמה הסבירה בפוסט-רשמי שהניסיון לתקן הטיה קיימת (ייצוג-חסר של קבוצות-מיעוט בתמונות שנוצרות) "החטיא מקרים שברור שלא היו צריכים להראות מגוון" — כשמשתמש ביקש במפורש תמונה של דמות היסטורית ספציפית, המערכת עדיין הוסיפה "גיוון" באופן לא-מתאים להקשר. גוגל תיארה זאת כשילוב של שתי כשלים — "פיצוי-יתר" במקרים מסוימים ו"זהירות-יתר" באחרים — שיחד הובילו לתוצאות "מביכות ושגויות". התקרית הזו מדגישה נקודה חשובה: ניסיון-תיקון-הטיה, אם הוא לא מכוונן בקפידה, עלול ליצור בעיה חדשה-ושונה, לא רק לפתור את הישנה.

אין פתרון-קסם: הגדרות-הוגנות סותרות

חשוב להבין שאין "פתרון-קסם" יחיד לבעיית ההטיה, ושחלק מהגישות המוצעות אף סותרות זו-את-זו. "הוגנות דרך-עיוורון" (Fairness through Blindness) — הסרת מאפיינים רגישים (כמו גזע או מגדר) מנתוני-הקלט של המודל — נראית פתרון אינטואיטיבי, אבל לרוב לא-מספיקה בפועל, כי מאפיינים אחרים (כמו מיקוד-גיאוגרפי או שם-פרטי) עשויים לשמש "מדד-קירוב" (Proxy) שמאפשר למודל להסיק את המאפיין הרגיש בעקיפין, גם בלי גישה ישירה אליו. גישות חלופיות מנסות לכוונן את המודל כך שהתוצאות-שלו יהיו שוות-סטטיסטית בין קבוצות (Fairness through Awareness) — אבל גם כאן קיימות כמה הגדרות-מתמטיות שונות ולעיתים-סותרות ל"הוגנות", כך שאי-אפשר תמיד לספק את כולן בו-זמנית באותה מערכת.

בפועל: שלושה שלבים להתמודדות

הצד המעשי-ביותר להתמודדות עם הטיה, שרוב-הצוותים המקצועיים מיישמים בפועל, כולל שלושה שלבים משלימים: ראשית, "בדיקת-ייצוגיות" של מערך-האימון — לוודא מראש שהנתונים לא מוטים דמוגרפית באופן בולט לפני האימון בכלל. שנית, "בדיקת-הוגנות-מפוצלת" (Disaggregated Evaluation) אחרי-האימון — לא להסתפק בציון-דיוק-כללי-אחד, אלא לבדוק את ביצועי-המודל בנפרד לכל קבוצת-משנה רלוונטית, בדיוק כפי שנעשה במחקר גוני-מגדר. ושלישית, ניטור-שוטף אחרי-פרסום — כי הטיה-מתפתחת עלולה להתגלות רק בשימוש-אמיתי בעולם, לא בשלב-הבדיקה במעבדה, מה שהופך בדיקה חד-פעמית-לפני-השקה ללא-מספיקה.

המסקנה: הטיה משקפת חברה, לא רק בעיה טכנית

חשוב לזכור, לבסוף, שהטיה אלגוריתמית לא בעיה טכנית-בלבד שאפשר לתקן עם קוד טוב-יותר — היא שיקוף של הטיות שכבר קיימות בחברה עצמה, ולכן פתרונה דורש גם הבנה-חברתית, לא רק כלים-סטטיסטיים. מודל AI לא "ממציא" הטיה יש-מאין; הוא לומד ומשחזר את מה שכבר קיים בנתונים שהאנושות עצמה ייצרה. זו הסיבה שרוב-החוקרים המובילים בתחום מדגישים שהוגנות-אלגוריתמית היא תהליך-מתמשך של בדיקה ותיקון, לא יעד חד-פעמי שמושג ונגמר — כל עדכון-מודל, כל מקור-נתונים-חדש, וכל שינוי בהקשר-השימוש עלולים להכניס מחדש הטיות שכבר טופלו בעבר, או ליצור הטיות חדשות שלא היו קיימות קודם. לכן, כשמעריכים מוצר-AI חדש, שווה לשאול לא רק "האם הוא מדויק בממוצע" אלא "מדויק-באותה-מידה עבור מי" — שאלה שרוב-הציונים-הכלליים-המדווחים לא עונים עליה מעצם-הגדרתם.