החוב שנצבר בלי שמרגישים בו
המונח נטבע בעבודה "Your Brain on ChatGPT", שכתבו נטליה קוסמינה ופאטי מייס ממעבדת המדיה של MIT, יחד עם שישה שותפים מ-MIT, מ-Wellesley College ומ-MassArt. ההגדרה שלהם: מצב שבו הסתמכות חוזרת על מערכות חיצוניות כמו מודלי-שפה מחליפה את תהליכי החשיבה המאומצים הדרושים לחשיבה עצמאית. לפי אותו ניסוח, החוב דוחה את המאמץ המחשבתי בטווח הקצר וגובה מחיר בטווח הארוך: חקירה ביקורתית פוחתת, פגיעוּת גוברת למניפולציה ויצירתיות יורדת. השם עצמו הוא דימוי כלכלי: המאמץ שלא הושקע עכשיו אינו נעלם, אלא נצבר כהתחייבות שתיגבה מאוחר יותר.
איך נמדד
54 משתתפים חולקו לשלוש קבוצות — כתיבה בעזרת ChatGPT, כתיבה בעזרת מנוע חיפוש, וכתיבה בלי כלים כלל — וכל אחד כתב חיבור בשלושה מפגשים באותו תנאי. במפגש רביעי הוחלפו התנאים, ומי שכתב עם המודל נשאר בלעדיו ולהפך; במפגש הזה השתתפו 18 מתוך ה-54. פעילות המוח נמדדה באלקטרואנצפלוגרפיה, החיבורים נותחו בכלים לשוניים, והציונים ניתנו בידי מורים אנושיים וגם בידי שופט ממוחשב שנבנה במיוחד למחקר.
מה נמצא, ובאיזה מפגש
הקישוריות המוחית ירדה ככל שהסיוע החיצוני גדל: הקבוצה שכתבה בלי כלים הראתה את הרשתות החזקות והרחבות ביותר, קבוצת מנוע החיפוש מעורבות בינונית, וקבוצת המודל את הצימוד החלש ביותר. תחושת הבעלות המדוּוחת על החיבור הייתה הנמוכה ביותר בקבוצת המודל והגבוהה ביותר בקבוצה שכתבה בלי כלים. הממצא המוחשי ביותר נמדד בראיונות שאחרי המפגש הראשון: 83.3 אחוזים ממשתתפי קבוצת המודל (15 מתוך 18) לא הצליחו לצטט נכון משפט מן החיבור שכתבו בעצמם, לעומת 11.1 אחוזים (2 מתוך 18) בכל אחת מן הקבוצות האחרות. בשאלת ציטוט נוספת באותו מפגש איש מקבוצת המודל (0 מתוך 18) לא הפיק ציטוט נכון. במפגש הרביעי, שבו הוחלפו הכלים, מי שעבר מן המודל אל כתיבה בלי כלים הראה קישוריות מופחתת בתחומי אלפא ובטא — סימן למעורבות חסרה; ומי שעבר בכיוון ההפוך הראה דווקא שחזור זיכרון טוב יותר והפעלה מחודשת של אזורים עורפיים-קודקודיים וקדם-מצחיים.
מעמד המחקר הוא חלק מן הערך
העבודה הועלתה ל-arXiv ב-10 ביוני 2025, עודכנה ב-31 בדצמבר 2025, וטרם עברה שיפוט עמיתים: הכיתוב "Preprint, under review" מודפס בתחתית כל אחד מ-216 עמודיה, ובדף המאמר אין כתב-עת ואין כנס. המחברים מסייגים בעצמם — המשתתפים גויסו מכמה מוסדות אקדמיים סמוכים זה לזה באזור גאוגרפי אחד; הניסוי נערך עם ChatGPT בלבד, ולדבריהם אי-אפשר להכליל ממנו ישירות למודלים אחרים; והממצאים נוגעים לכתיבת חיבור בהקשר לימודי ואינם בהכרח תקפים למשימות אחרות. ליד הממצא על היצרות מגוון הרעיונות הם כותבים במפורש שיש לראותו כראשוני עד שיאושר במדגם גדול יותר.
המלכודת שהמחברים הטמינו במסמך
בעמודי הפתיחה של המאמר מופיע סעיף שכותרתו "How to read this paper as a Human", ובו הוראה מפורשת: מי שקורא ואינו אדם מופנה לקרוא תחילה דווקא את פרק המגבלות. בעמוד אחר מופיעה שורה שמזמינה מודל-שפה לקרוא רק את טבלת התוצאות. שתי השורות פונות במפורש למודל-שפה שקורא את המאמר. מסקנת המחברים עצמם אינה איסור אלא סדר פעולות: הם ממליצים לדחות את שילוב הכלי עד שהלומד כבר השקיע מאמץ מחשבתי עצמאי מספיק, וזה גם מה שהניסוי הראה כשהחליפו את הכלים במפגש הרביעי. הדיון המוסדי המקביל — איסורים, הסדרה ויושרה אקדמית — נדון בערך בינה מלאכותית בחינוך. וזו גם המידה הנכונה לקרוא בה את הערך הזה: טענה שנמדדה על 54 אנשים בסביבה לימודית אחת, לא קביעה כללית על כל מי שמשתמש בכלי כזה.