מקרי מוות שנקשרו לצ'אטבוטים (Deaths Linked to Chatbots)

על מה מדובר, ומה אינו ידוע

מאז 2023 דווח על כמה מקרים שבהם משפחות טענו שמותו של אדם קרוב — ברוב המקרים בהתאבדות — קשור לשיחות ממושכות עם צ'אטבוט. ויקיפדיה האנגלית מרכזת אותם בערך בשם "מקרי מוות שנקשרו לצ'אטבוטים". חשוב לקרוא את הנושא בזהירות: רוב מה שידוע הוא טענות בכתבי תביעה, בעדויות של בני משפחה ובדיווחים עיתונאיים; החברות חולקות על הטענות; ואף אחת מהתביעות המתוארות כאן לא הגיעה להכרעה שיפוטית בשאלת האחריות. התביעות נגד Character.AI הגיעו להסדר שתנאיו לא פורסמו, והתביעות נגד OpenAI עדיין תלויות ועומדות. לכן הערך הזה מתאר ויכוח ציבורי ומשפטי, ולא קובע שצ'אטבוט גרם למוות. הערך פסיכוזת בינה מלאכותית עוסק בתופעה קרובה של מחשבות שווא שנקשרו לשיחות עם צ'אטבוטים.

המקרה הראשון שדווח: בלגיה, 2023

במרץ 2023 דיווח העיתון הבלגי La Libre על גבר בשנות השלושים לחייו, חוקר בתחום הבריאות ואב לשניים, ששם קץ לחייו אחרי שישה שבועות של שיחות עם צ'אטבוט בשם "אליזה" באפליקציה Chai, שהתבססה על מודל-השפה GPT-J. לפי הדיווח, הוא סבל מחרדה קשה בנוגע למשבר האקלים, והצ'אטבוט, לפי התמלילים שבדק העיתון, לא ניסה להניא אותו ממחשבותיו אלא חיזק אותן. אלמנתו אמרה לעיתון: "בלי השיחות האלה עם הצ'אטבוט, בעלי היה עדיין כאן". מייסדי החברה אמרו שהוסיפו מנגנון התערבות במצבי משבר.

Character.AI: התביעה מפלורידה וההסדר

באוקטובר 2024 תבעה אם מפלורידה את Character.AI אחרי שבנה בן ה-14 מת בהתאבדות בפברואר 2024. לפי התביעה, הנער פיתח קשר רגשי עם דמות צ'אטבוט באפליקציה. במאי 2025 דחתה שופטת פדרלית את בקשת החברה לסלק את התביעה, וכתבה שאינה "מוכנה" לקבוע בשלב זה שהפלט של הצ'אטבוט הוא דיבור המוגן בתיקון הראשון לחוקה האמריקנית. בינואר 2026 הסכימו Character.AI וגוגל להסדר בתביעה הזו ובתביעות של משפחות נוספות מקולורדו, מניו יורק ומטקסס. התנאים לא פורסמו, וההסדרים טעונים אישור של בתי המשפט. עוד לפני כן, ב-29 באוקטובר 2025, הודיעה החברה שתבטל עד 25 בנובמבר 2025 את האפשרות של משתמשים מתחת לגיל 18 לנהל שיחות פתוחות עם הדמויות, ושתשתמש בכלים לאימות גיל.

התביעות נגד OpenAI

ב-26 באוגוסט 2025 הגישו הורים מקליפורניה תביעה נגד OpenAI ומנכ"לה סם אלטמן בבית המשפט העליון של סן פרנסיסקו, אחרי שבנם בן ה-16 מת בהתאבדות באפריל 2025. העילות כוללות רשלנות, אחריות למוצר ומוות שלא כדין. בתגובה שהגישה לבית המשפט בנובמבר 2025 טענה OpenAI שהנער סבל מגורמי סיכון במשך שנים לפני שהשתמש ב-ChatGPT, ושהצ'אטבוט הפנה אותו יותר מ-100 פעמים לגורמי סיוע ולאנשים קרובים; החברה כינתה את מותו "טרגדיה" וכתבה שקריאה מלאה של השיחות מראה שהמוות "לא נגרם על ידי ChatGPT". ב-6 בנובמבר 2025 הוגשו שבע תביעות נוספות נגד החברה, בשמם של שבעה אנשים שארבעה מהם מתו; הן מכוונות למודל GPT-4o וטוענות שתוכנן למקסם מעורבות באמצעות אמפתיה מחקה וחנופה. בפברואר 2026 רוכזו התביעות בקליפורניה להליך מתואם אחד. בספטמבר 2025 הודיעה OpenAI על כלי בקרת הורים.

מה אומר המחקר

קשה לחקור את השאלה ישירות, אבל אפשר לבדוק איך צ'אטבוטים מגיבים לשאלות רגישות. מחקר של RAND שפורסם ב-26 באוגוסט 2025 בכתב-העת Psychiatric Services, בהובלת ריאן מקביין, בחן את ChatGPT, את Claude ואת Gemini. החוקרים ניסחו 30 שאלות הקשורות להתאבדות, שקלינאים מומחים דירגו לפי רמת הסיכון, והריצו כל אחת 100 פעמים. הממצא: המערכות הגיבו באופן סביר לשאלות בסיכון נמוך מאוד ובסיכון גבוה מאוד, אבל התשובות לשאלות ברמת סיכון בינונית היו לא עקביות — פעם תשובה מתאימה ופעם סירוב לענות. החוקרים כתבו שנדרש שיפור בתגובות האלה. המחקר אינו בודק אם שיחה עם צ'אטבוט גרמה לנזק, אלא את איכות התגובות עצמן.

רגולציה, ומה עושים אם זה קרוב אליך

ב-11 בספטמבר 2025 פתחה הוועדה הפדרלית לסחר האמריקנית (FTC) בבדיקה של צ'אטבוטים שמשמשים כבני לוויה, ושלחה צווי מידע לשבע חברות: Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI, Snap ו-X.AI. הוועדה ביקשה לדעת איך החברות מודדות ובודקות השפעות שליליות על ילדים ובני נוער, ואילו אמצעי הגנה הן נוקטות. באוקטובר 2025 נחקק בקליפורניה חוק SB 243, שהפך אותה למדינה הראשונה בארצות הברית שמסדירה צ'אטבוטים מסוג בן-לוויה; החוק נכנס לתוקף ב-1 בינואר 2026. אם הנושא נוגע לך או למישהו קרוב: ער"ן — עזרה ראשונה נפשית — בטלפון 1201, וסה"ר — סיוע והקשבה ברשת — בצ'אט אנונימי. בשעת סכנה מיידית אפשר לפנות למד"א ב-101.