AI Snake Oil (ספר)

מי כתבו את הספר, ומאיפה בא השם

השם המלא של הספר הוא AI Snake Oil: What Artificial Intelligence Can Do, What It Can't, and How to Tell the Difference — בתרגום חופשי, "שמן הנחשים של הבינה המלאכותית: מה היא יכולה לעשות, מה לא, ואיך להבחין ביניהם". "שמן נחשים" הוא כינוי אמריקאי לתרופת פלא מזויפת, והמחברים משתמשים בו לתיאור מערכות AI שההבטחות סביבן מנופחות. הספר יצא לאור ב-24 בספטמבר 2024 בהוצאת אוניברסיטת פרינסטון, ויש בו 360 עמודים ושמונה פרקים. ב-23 בספטמבר 2025 יצאה מהדורה בכריכה רכה, ולפי ויקיפדיה נוספו לה הקדמה ואחרית דבר חדשות. ארווינד נאראיאנן הוא פרופסור למדעי המחשב בפרינסטון ומנהל המרכז למדיניות טכנולוגיות מידע של האוניברסיטה. סאיאש קאפור היה דוקטורנט בפרינסטון כשהספר יצא, ולפני כן עבד כמהנדס תוכנה בפייסבוק, שם עזר לפתח AI לסינון תוכן. לפי האתר האישי שלו, הוא השלים את דרישות הדוקטורט בפרינסטון באוגוסט 2026, ועתיד להצטרף כפרופסור-עוזר לבית הספר למידע של אוניברסיטת ברקלי ביולי 2027. לפי Science News, רעיון הספר נולד כשהשקפים של הרצאה שנתן נאראיאנן ב-2019, בשם "איך לזהות שמן נחשים של AI", הפכו לוויראליים. נאראיאנן חבר לקאפור, שלמד אז בקורס שנאראיאנן לימד עם פרופסור נוסף, על גבולות הניבוי במצבים חברתיים. ב-2023 נכללו השניים ברשימת TIME100 AI של מגזין טיים.

ההבחנה המרכזית: לא כל AI הוא אותו דבר

לפי המחברים, אנשים רבים עדיין חסרים את הידע להבחין בין מערכת AI שעובדת לבין שמן נחשים, שאותו הם מגדירים כ"AI שאינו עובד, ואינו יכול לעבוד, כפי שמפרסמים אותו". חלק גדול מהבלבול, לטענתם, נובע מהמונח עצמו. ג'ושוע רוטמן מה"ניו יורקר" מביא מהספר משל: דמיינו עולם שבו אין מילים נפרדות לכלי תחבורה, אלא רק המילה הכללית "רכב". בעולם כזה יתנהלו ויכוחים סוערים אם רכבים ידידותיים לסביבה, בלי שאיש ישים לב שצד אחד מדבר על אופניים והצד השני על משאיות. כך גם "AI", לדבריהם: מונח אחד שמכסה טכנולוגיות עם רמות יכולת שונות מאוד. לכן הספר מפרק את התחום לסוגים. בינה מלאכותית מנבאת (predictive AI) משתמשת בנתוני עבר כדי להעריך מה יקרה בעתיד, למשל מי יצליח בעבודה. בינה מלאכותית יוצרת, כמו ChatGPT, מייצרת טקסט ותמונות בתגובה לבקשה. לפי עמוד הספר בהוצאה, הוא עוסק בנזקים ש-AI כבר גורם בתחומים כמו חינוך, רפואה, גיוס עובדים, בנקאות, ביטוח ומשפט פלילי, ומסביר למה ארגונים נופלים בפח של שמן הנחשים. Science News מונה בין הדוגמאות בספר כלים שמתיימרים לנבא הצלחה בלימודים, את הסבירות שאדם יבצע פשע, סיכון למחלות, מלחמות אזרחים והונאות בקצבאות.

למה AI מנבא הוא, לטענתם, הבעיה הגדולה

את עיקר הביקורת מפנים המחברים לבינה מלאכותית מנבאת, ובמיוחד לכלים שמתיימרים לנבא את העתיד וההתנהגות של בני אדם. "בזירה הזו מרוכז רוב שמן הנחשים של AI", הם כותבים, ומוסיפים: "AI מנבא לא רק שאינו עובד היום, הוא כנראה גם לעולם לא יעבוד, בגלל הקשיים המובנים בניבוי התנהגות אנושית". לפי רוטמן, מערכות כאלה כבר משולבות בחיינו יותר משנדמה: מחלקות משאבי אנוש נעזרות בהן כדי להעריך אילו מועמדים יצליחו, ובתי חולים כדי להחליט את מי לשחרר הביתה ואת מי לאשפז. ובכל זאת, כותב רוטמן, כמעט אף פעם לא בודקים אותן בקפדנות ובאופן עצמאי, וכשבודקים, הן נכשלות לעיתים קרובות. דוגמה מהספר היא מערכת בשם Retorio, שמבטיחה לנבא את התפקוד העתידי של מועמד בעבודה מתוך ראיון וידאו. חוקרים מצאו שמשקפיים, צעיף, מדף ספרים ברקע או שליחת קורות חיים כקובץ PDF יכלו לשנות את הציון באופן דרמטי. דוגמה אחרת היא מערכת ניסיונית שנועדה לקבוע אילו חולי דלקת ריאות צריכים להישאר בבית החולים. היא "למדה" שחולי אסתמה מחלימים מהר יותר, ולכן נטתה להמליץ לשלוח אותם הביתה. בפועל הם החלימו מהר יותר משום שלעיתים קרובות אושפזו מיד בטיפול נמרץ וקיבלו טיפול אינטנסיבי. המערכת לא הופעלה מעולם. המסקנה של המחברים: "ניבוי טוב אינו החלטה טובה". לפי Kirkus, הם טוענים שכשמערכת משפיעה על אדם מסוים, תמיד צריך פיקוח אנושי, גם אם זה עולה יותר.

בינה יוצרת, רשתות חברתיות וסיכון קיומי

כלפי בינה מלאכותית יוצרת המחברים סלחניים יותר. לפי Kirkus הם רואים בה יתרונות גדולים, ולפי Science News הם מכירים בערכה כשמשתמשים בה בתבונה. ועדיין, בחלק שכותרתו "אוטומציה של שטויות" (Automating bullshit) הם כותבים: "ChatGPT טוב באופן מדהים בלהישמע משכנע בכל נושא שעולה על הדעת. אבל אין מקור אמת במהלך האימון". כלומר, המודל מאומן להישמע טבעי, ולא לבדוק אם מה שהוא אומר נכון. פרק נפרד מסביר למה AI לא יכול לפתור את בעיות סינון התוכן ברשתות החברתיות: בין השאר, הוא מתקשה להבין הקשר ודקויות. הפרק החמישי שואל אם בינה מלאכותית מתקדמת היא איום קיומי, ועונה בשלילה. לפי סיכום הספר בוויקיפדיה, המחברים מתארים בו "סולם של כלליות" (Ladder of Generality), שבו כל שלב הוא דרך חישוב גמישה וכללית יותר מקודמתה: מחומרה שנבנתה למשימה אחת, דרך מחשבים מתוכנתים ומחשבים שהתוכנית שלהם שמורה בזיכרון, למידת מכונה ולמידה עמוקה, ועד מודלים מאומנים מראש ומודלים שכוונו למלא הוראות. לדבריהם, עדיין לא ידוע מה יהיו השלבים הבאים, או אם הסולם יסתיים בסופו של דבר במבוי סתום. המסקנה שלהם, כפי שמצטט Science News: "עלינו לדאוג הרבה יותר ממה שאנשים יעשו עם AI מאשר ממה ש-AI יעשה בעצמו". העיתונאי טימותי לי כתב בניוזלטר Understanding AI שהפרק הזה הוא החלק האהוב עליו בספר, משום שהוא מתמודד חזיתית עם הטיעונים של מבשרי האסון. באותו פרק עוסקים המחברים גם באפקט אלייזה: הנטייה לייחס לתוכנות שמגיבות לנו יותר תבונה משיש בהן.

מי מנפח את ההייפ, ומה המחברים מציעים

לפי ויקיפדיה, הפרק השביעי מנסה להסביר למה המיתוסים על AI שורדים, ומייחס את ההייפ לכמה קבוצות, ובהן חברות, כלי תקשורת וחוקרים. חברות מקדמות מודלים חדשים בלי לחשוף כראוי איך הם עובדים ועל מה הם למדו. כלי תקשורת מעדיפים לפעמים תמריצים כלכליים על פני דיוק, ומחזרים הודעות של חברות. וחוקרים תורמים להייפ דרך מחקרים שאי אפשר לשחזר ודרך דליפת נתונים, מצב שבו מודל נבחן על מידע שכבר ראה באימון. לגבי הפתרון, Science News מסכם שלמחברים יש עמדה ברורה: החברה הייתה צייתנית מדי כלפי תעשיית הטכנולוגיה, ורגולציה טובה יותר היא הכרחית. "אנחנו לא מוכנים להשאיר את עתיד ה-AI בידי האנשים שאחראים עליו כיום", הם כותבים. לפי עמוד הספר בהוצאה, הם מזהירים גם מפני עולם שבו AI נשאר בשליטת חברות טכנולוגיה גדולות שכמעט אינן נותנות דין וחשבון. במקביל לספר כותבים השניים ניוזלטר, שבמקור נקרא כמו הספר ומעדכן את הטיעונים לפי ההתפתחויות. נכון לאוקטובר 2026, הכתובת הישנה שלו מפנה לאתר בשם AI as Normal Technology. זה גם שמו של חיבור שפרסמו באפריל 2025 במכון נייט לתיקון הראשון (Knight First Amendment Institute). הם טוענים בו שיש להתייחס ל-AI כאל טכנולוגיה "רגילה", כמו החשמל והאינטרנט: טכנולוגיה שעשויה לשנות את העולם, אבל לא מעין מין נפרד שעלול להפוך לבינת-על. לדבריהם, ההשפעות הכלכליות והחברתיות הגדולות יגיעו לאט, בקצב של עשורים.

איך הספר התקבל

הספר זכה לשבחים בעיתונות המדעית ובעיתונות הכללית, ולצדם גם להסתייגויות. אליזבת קוויל, שסקרה אותו ב-Science News, כתבה שהמחברים "משיגים בדיוק את המטרה שהציבו לעצמם": לאפשר לאנשים להבחין בין AI שעובד היטב לבין שמן נחשים. היא גם ציינה שהטכנולוגיה מתקדמת מהר, ולכן חלק מהפרטים עלולים להתיישן עד שהספר יגיע לקוראים. Kirkus העניק לספר ביקורת מסומנת בכוכב, וכתב שהוא מציע "עצות שימושיות מאוד למי שעובד עם AI או מושפע ממנו — כלומר, כמעט כולם". אנדרו רובינסון כלל אותו ב-Nature ברשימת עשרה ספרי מדע חיוניים מהשנה החולפת, ולפי הציטוט שמביאה ההוצאה כתב שזה "אחד הטובים" בנושא השנוי במחלוקת הזה. לפי ההוצאה, הספר גם עלה לגמר פרס PROSE של איגוד המו"לים האמריקאים, בקטגוריית מדעי המחשב והמידע. היו גם הסתייגויות, מסוגים שונים. ג'ושוע רוטמן, שדן בספר בהרחבה ב"ניו יורקר", כתב שבהשוואה לטכנולוגים רבים, המחברים ספקנים מאוד לגבי מה שה-AI של היום מסוגל להשיג, "ואולי הם לא צריכים להיות". לדבריו, יש מומחים, ובהם ג'פרי הינטון, שחושבים שאולי כבר יש טעם לדבר על מערכות AI עם רגשות או נקודת מבט, ומיליארדי דולרים מושקעים בהפיכתן לחזקות יותר. הסתייגות אחרת, לפי ויקיפדיה, כתבה אלכסיה מרטינס בכתב העת Journalism and Mass Communication Quarterly: לדבריה, הספר מתמקד במערב, ולא בוחן די הצורך איך AI משפיע על מדינות אחרות.