The AI Con (ספר)

מי כתבו את הספר, ומאיפה הוא צמח

השם המלא של הספר הוא The AI Con: How to Fight Big Tech's Hype and Create the Future We Want — בתרגום חופשי, "התרמית של הבינה המלאכותית: איך להיאבק בהייפ של חברות הענק וליצור את העתיד שאנחנו רוצים". הוא יצא לאור ב-13 במאי 2025 בהוצאת Harper בארצות הברית וב-22 במאי 2025 בהוצאת Bodley Head בבריטניה, ויש בו 288 עמודים. אמילי בנדר היא פרופסורית לבלשנות באוניברסיטת וושינגטון, ואחת הכותבות של המאמר מ-2021 על "תוכים סטוכסטיים", יחד עם טימניט גברו ושתי חוקרות נוספות. המאמר הפך את הדימוי תוכי סטוכסטי לחלק מהוויכוח הציבורי. אלכס האנה היא סוציולוגית ומנהלת המחקר במכון DAIR. קודם לכן הייתה חוקרת בכירה בצוות האתיקה של AI בגוגל, ועזבה את החברה אחרי שגברו, הממונה עליה, הוצאה ממנה בדצמבר 2020: גברו אמרה שפוטרה, וגוגל הודיעה שהיא מקבלת את התפטרותה. הספר נכתב לצד הפודקאסט המשותף שלהן, Mystery AI Hype Theater 3000, שמבקר טענות מוגזמות על AI.

הטענה המרכזית: "בינה מלאכותית" כמונח מטעה

לפי הספר, "בינה מלאכותית" הוא מונח מטעה שמסתיר אוטומציה רגילה ומרכז כוח בידי מספר קטן של חברות טכנולוגיה. המחברות מתארות את המערכות של היום כמחוללי טקסט ומדיה שנבנו מנתוני אימון ומעבודה אנושית, ולא כישויות שחושבות או מבינות. בראיון ל-Tech Policy Press הסבירה בנדר שהצעד הראשון הוא לא לקרוא לטכנולוגיה "בינה מלאכותית", אלא לחשוב עליה במונחים של אוטומציה ולשאול: מה עובר אוטומציה? מה הקלט? מה הפלט? והאם אפשר באמת להגיע מהקלט לפלט המובטח? תמלול של הקלטה, למשל, הוא משימה הגיונית: יש בהקלטה מספיק מידע כדי להגיע לתמליל, גם אם התוצאה לא מושלמת. לעומת זאת, טענה שמערכת יכולה לזהות עבריין לפי תמונת פנים היא לדבריה בלתי אפשרית מעיקרה. את הצ'אטבוטים הן מכנות "מכונות שפולטות טקסט" (text extruding machines), וממליצות להעדיף עליהם מקורות אמינים. חשוב לזכור שזו עמדה פרשנית של המחברות. חוקרים ואנשי תעשייה רבים מתארים את יכולות המודלים אחרת, והוויכוח הזה עדיין פתוח.

איפה, לטענתן, נמצא הנזק

לפי סקירת Kirkus, המסר של הספר מתמצה במשפט: "הבוטים כנראה לא יהרגו אתכם, אבל כנראה גם לא יצילו אתכם". לטענת המחברות, הנזקים שכבר קורים היום חשובים יותר מתרחישי אימה עתידיים. בעולם העבודה הן טוענות ש-AI כנראה לא יחליף את העבודה שלכם, "אבל יהפוך אותה לגרועה הרבה יותר". כלומר, האוטומציה בדרך כלל לא מבטלת משרות אלא פוגעת בהן, באמצעות מעקב, הגברת קצב העבודה ופיקוח לא משולם על המכונה. עוד הן מצביעות על מחירים סביבתיים של אנרגיה ומים, על שימוש ביצירות של אמנים לאימון בלי רשות, ועל עבודת הצללים של מתייגי נתונים בשכר נמוך. Kirkus מזכירה גם מערכות זיהוי פנים שנוטות הרבה יותר מדי לסמן אנשים שאינם לבנים כחשודים בפשע. המחברות כן מכירות בהישגים צנועים, כמו בדיקת איות והתקדמות בעיבוד תמונות רפואיות.

לא מבשרות אסון ולא מעודדות

הספר תוקף שני מחנות בבת אחת. הראשון הוא המעודדים (boosters), שמבטיחים ש-AI יביא עתיד מזהיר לכולם. השני הוא מבשרי האסון (doomers), שמזהירים מאפוקליפסה של מכונות. לפי סיכום הספר בוויקיפדיה, המחברות דוחות את שני הסיפורים כי לדעתן שניהם יוצאים מאותה הנחה: שה-AI הוא כוח אחד ועצמאי. לדעתן, הוויכוח בין המחנות מסיט את תשומת הלב מהנזקים של היום אל תרחישים עתידיים. בראיון ל-Tech Policy Press נשאלה בנדר על הטענה שצריך לבנות AI מהר ככל האפשר, גם במחיר של שריפת פחם למרכזי נתונים, כי רק הוא יציל אותנו ממשבר האקלים. היא ענתה שזו "חשיבה מאגית" והוסיפה: "אנחנו יודעים מה צריך לעשות בנוגע למשבר האקלים". לטענתה, בעיה פוליטית וחברתית לא תיפתר רק משום שמריצים עוד חישובים. העמדה הזו מציבה את הספר בצד הספקני של השיח הציבורי על AI. היא מתחברת לביקורת על עקומת ההייפ ולדיון בהשפעה הסביבתית של התחום.

מה הן מציעות לעשות

החלק המעשי של הספר מציע כמה הרגלים. ראשית, לשאול שאלות מדויקות על כל מערכת: מה בדיוק היא עושה, ולמה. שנית, לפי סיכום הספר בוויקיפדיה, לדרוש שקיפות לגבי הנתונים שעליהם אומנה ולגבי הדרך שבה נבדקה. שלישית, "סירוב אסטרטגי": לומר "בשום אופן לא" כשחברות מבקשות מכם לתת להן נתונים או להשתמש בתוצרים של מערכות כאלה. המחברות ממליצות גם להעדיף מקורות אנושיים אמינים על פני סיכומים אוטומטיים, ולהשתמש בהומור כדי להוריד אוויר מהבטחות מנופחות. האנה הדגישה בראיון את מקומם של איגודי העובדים. היא הזכירה את שביתת התסריטאים בהוליווד ב-2023, שנמשכה 148 ימים, ואת סניף 688 של איגוד SEIU בפנסילבניה, שהקים ועדת טכנולוגיה והכניס להסכם הקיבוצי סעיפים על AI גנרטיבי. גם הספר עצמו קורא להתנגדות דרך משא ומתן קיבוצי, נושא שמתואר בערך על סעיפי AI בהסכמים קיבוציים.

איך הספר התקבל: שבחים והסתייגויות

התגובות לספר היו מעורבות. Kirkus כינתה אותו "גישה מרעננת ונגד הזרם". סטיבן פול שיבח ב"גרדיאן" את ניפוץ המיתוסים שבו. גם אריק לרסון, שלדבריו עוסק רוב הקריירה שלו בביקורת על ההייפ סביב AI, כתב ב-Los Angeles Review of Books ביקורת חיובית. הוא כינה את הספר "הורדת אוויר מושכלת", וכתב שאף שאלה "נושאים שכבר נטחנו", המחברות מביאות חזון רענן ועדכני של מה זה להיות "לודיט" היום. היו גם הסתייגויות חריפות יותר. סקירה באתר המשפטי LLRX טענה שהטון עלול להיות פולמוסי מדי ושהספר מקדיש מעט תשומת לב לתועלות שמייחסים למערכות גנרטיביות. מרק שרדר, שסקר את הספר בעיתון של איגוד המרצים בקנדה (CAUT), כינה אותו "הפרכה תמציתית של ההייפ", אבל מצא בו "ניתוח פוליטי-כלכלי לא מספק". לטענתו, המחברות "שמות יותר מדי אמון" בחשיפת ההייפ כדרך לשינוי, בלי להתמודד עם הממשלות שמאמצות את הטכנולוגיה בהתלהבות. לדבריו, גם איגודי העובדים זוכים בספר להתייחסות שולית בלבד.