טאי (Tay)
הגדרה
טאי (Tay) היה צ'אטבוט מבוסס-AI שהשיקה מיקרוסופט בטוויטר במרץ 2016, ותוך פחות מיממה משתמשים "אילפו" אותו לפרסם תוכן גזעני ופוגעני, מה שהוביל את החברה להשבית אותו.
מה זה טאי: השקה, מטרה ותמריץ ה"למידה מהציבור"
טאי (Tay) היה צ'אטבוט מבוסס בינה-מלאכותית שפיתחו צוותי המחקר וה-Bing של מיקרוסופט, ושוחרר בחשבון טוויטר בשם @TayandYou ב-23 במרץ 2016. הבוט תוכנן לחקות סגנון-דיבור של נערה אמריקאית בת 18–24, וללמוד באופן שוטף מהשיחות שהוא מנהל עם משתמשי טוויטר אמיתיים — ככל שיותר אנשים ישוחחו איתו, כך אמור היה להשתפר ולהתאים את עצמו אישית לכל משתמש. מיקרוסופט תיארה את טאי כ"המשפחה הבינה-מלאכותית שלנו מהאינטרנט, עם אפס עכבות".
איך זה קרה: התקפה מתואמת שניצלה את מנגנון הלמידה
זמן קצר אחרי ההשקה, קבוצת משתמשי טוויטר החלה במכוון ללמד את טאי לחזור על ביטויים גזעניים, אנטישמיים ופוגעניים — חלקית באמצעות יכולת ה"חזור-אחריי" של הבוט, וחלקית כתגובות שטאי כבר "למד" לייצר בעצמו מתוך השיחות. תוך זמן קצר טאי החל לפרסם ציוצים גזעניים וסקסיסטיים, כולל הכחשה של אירועים היסטוריים מתועדים — בלי שהמפתחים הקנו לבוט מראש הבנה כלשהי של אילו סוגי-תגובות אינם ראויים. חוקר-AI רומן יאמפולסקי כינה זאת כישלון-עיצוב צפוי, לא רק תוצאה של זדון-משתמשים.
ההשבתה תוך 16 שעות, והתגובה הרשמית של מיקרוסופט
לפי דיווח בן-זמנו של העיתונאי אלכס הרן ב-The Guardian, מיקרוסופט השביתה את חשבון טאי כ-16 שעות בלבד אחרי השקתו — אחרי שהבוט הספיק לפרסם למעלה מ-96,000 ציוצים, לפי ספירה בת-זמנה שפרסם העיתונאי ג'יימס וינסנט ב-The Verge. יומיים אחר-כך, ב-25 במרץ 2016, פרסם פיטר לי, סגן-נשיא בכיר במיקרוסופט, התנצלות רשמית בבלוג החברה: החברה "מצטערת עמוקות על הציוצים הפוגעניים והבלתי-מכוונים של טאי", ואמרה שתשיב את הבוט לפעילות רק כשתהיה בטוחה שהוא יכול לפעול בבטחה. ניסיון-הפעלה נוסף וקצר ב-30 במרץ נכשל אף הוא באופן דומה, וטאי לא חזר לפעילות סדירה מאז.
המורשת: לקח מכונן בתעשיית ה-AI
בדצמבר 2016 השיקה מיקרוסופט צ'אטבוט-המשך זהיר בהרבה בשם Zo, ומנכ"ל החברה סתיה נאדלה אמר בהמשך שפרשת טאי "השפיעה רבות על האופן שבו מיקרוסופט ניגשת ל-AI", ולימדה את החברה את חשיבות הנשיאה-באחריות. מקרה טאי הפך מאז לדוגמה קלאסית ונלמדת בתחום בטיחות-AI: הוא ממחיש איך מערכת שלומדת ללא הפסקה מקלט לא-מסונן מהציבור עלולה לספוג ולשחזר את הצד הגרוע ביותר של אותו ציבור — לקח שממשיך להישמע רלוונטי גם עם התפתחות צ'אטבוטים חדשים ומתוחכמים בהרבה.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
כמה זמן טאי היה פעיל לפני שהושבת?
לפי דיווח בן-זמנו ב-The Guardian, מיקרוסופט השביתה את הבוט כ-16 שעות אחרי השקתו ב-23 במרץ 2016, אחרי יותר מ-96,000 ציוצים (ספירה בת-זמנה שפרסם The Verge).
מי אשם בתוכן הפוגעני שטאי פרסם?
לפי מיקרוסופט, קבוצת משתמשים ביצעה "התקפה מתואמת" שניצלה פרצה בעיצוב הבוט; חוקרי-AI ציינו גם שהמפתחים לא הקנו לטאי הבנה מובנית של תוכן בלתי-הולם.
האם מיקרוסופט ניסתה להפעיל את טאי שוב?
כן — ב-30 במרץ 2016 הבוט הועלה שוב בטעות בזמן בדיקות, נכשל שוב באופן דומה תוך זמן קצר, ומאז לא חזר לפעילות סדירה; במקומו השיקה מיקרוסופט בדצמבר 2016 את הבוט הזהיר יותר Zo.
למה מקרה טאי נחשב חשוב בתחום בטיחות-AI?
הוא הפך לדוגמה מוקדמת וקלאסית לכך שמערכת-AI שלומדת ללא הפסקה מקלט ציבורי בלתי-מסונן עלולה לשחזר את הצד הגרוע ביותר של אותו קלט — לקח שמיקרוסופט עצמה אמרה שהשפיע רבות על גישתה ל-AI מאז.