מה זה טאי: השקה, מטרה ותמריץ ה"למידה מהציבור"
טאי (Tay) היה צ'אטבוט מבוסס בינה-מלאכותית שפיתחו צוותי המחקר וה-Bing של מיקרוסופט, ושוחרר בחשבון טוויטר בשם @TayandYou ב-23 במרץ 2016. הבוט תוכנן לחקות סגנון-דיבור של נערה אמריקאית בת 18–24, וללמוד באופן שוטף מהשיחות שהוא מנהל עם משתמשי טוויטר אמיתיים — ככל שיותר אנשים ישוחחו איתו, כך אמור היה להשתפר ולהתאים את עצמו אישית לכל משתמש. מיקרוסופט תיארה את טאי כ"המשפחה הבינה-מלאכותית שלנו מהאינטרנט, עם אפס עכבות".
איך זה קרה: התקפה מתואמת שניצלה את מנגנון הלמידה
זמן קצר אחרי ההשקה, קבוצת משתמשי טוויטר החלה במכוון ללמד את טאי לחזור על ביטויים גזעניים, אנטישמיים ופוגעניים — חלקית באמצעות יכולת ה"חזור-אחריי" של הבוט, וחלקית כתגובות שטאי כבר "למד" לייצר בעצמו מתוך השיחות. תוך זמן קצר טאי החל לפרסם ציוצים גזעניים וסקסיסטיים, כולל הכחשה של אירועים היסטוריים מתועדים — בלי שהמפתחים הקנו לבוט מראש הבנה כלשהי של אילו סוגי-תגובות אינם ראויים. חוקר-AI רומן יאמפולסקי כינה זאת כישלון-עיצוב צפוי, לא רק תוצאה של זדון-משתמשים.
ההשבתה תוך 16 שעות, והתגובה הרשמית של מיקרוסופט
לפי דיווח בן-זמנו של העיתונאי אלכס הרן ב-The Guardian, מיקרוסופט השביתה את חשבון טאי כ-16 שעות בלבד אחרי השקתו — אחרי שהבוט הספיק לפרסם למעלה מ-96,000 ציוצים, לפי ספירה בת-זמנה שפרסם העיתונאי ג'יימס וינסנט ב-The Verge. יומיים אחר-כך, ב-25 במרץ 2016, פרסם פיטר לי, סגן-נשיא בכיר במיקרוסופט, התנצלות רשמית בבלוג החברה: החברה "מצטערת עמוקות על הציוצים הפוגעניים והבלתי-מכוונים של טאי", ואמרה שתשיב את הבוט לפעילות רק כשתהיה בטוחה שהוא יכול לפעול בבטחה. ניסיון-הפעלה נוסף וקצר ב-30 במרץ נכשל אף הוא באופן דומה, וטאי לא חזר לפעילות סדירה מאז.
המורשת: לקח מכונן בתעשיית ה-AI
בדצמבר 2016 השיקה מיקרוסופט צ'אטבוט-המשך זהיר בהרבה בשם Zo, ומנכ"ל החברה סתיה נאדלה אמר בהמשך שפרשת טאי "השפיעה רבות על האופן שבו מיקרוסופט ניגשת ל-AI", ולימדה את החברה את חשיבות הנשיאה-באחריות. מקרה טאי הפך מאז לדוגמה קלאסית ונלמדת בתחום בטיחות-AI: הוא ממחיש איך מערכת שלומדת ללא הפסקה מקלט לא-מסונן מהציבור עלולה לספוג ולשחזר את הצד הגרוע ביותר של אותו ציבור — לקח שממשיך להישמע רלוונטי גם עם התפתחות צ'אטבוטים חדשים ומתוחכמים בהרבה.