מה החוק קובע ומתי נחתם
חוק הצ'אטבוטים הנלווים נחתם בקליפורניה ב-13 באוקטובר 2025 ונרשם כפרק 677 לחוקי אותה שנה. הוא אינו עוסק בכל שירות שיחה מבוסס בינה מלאכותית, אלא בקטגוריה מוגדרת אחת: מערכות שהמשתמש מנהל איתן קשר אישי מתמשך. רוב חובותיו מנוסחות כפעולות שעל המפעיל לבצע — לגלות, להתריע, להפנות לעזרה ולדווח — לצד דרישה למנוע יצירת תוכן של פגיעה עצמית. "מפעיל" הוא מי שמעמיד פלטפורמת צ'אטבוטים נלווים לרשות משתמש במדינה, והוראות החוק נוספו כפרק חדש לקוד העסקים והמקצועות של קליפורניה. החוק נכנס לתוקף ב-1 בינואר 2026.
מהו "צ'אטבוט נלווה" ומה מוחרג
ההגדרה בחוק היא מערכת בינה מלאכותית עם ממשק בשפה טבעית, שמספקת תגובות מסתגלות ודמויות-אדם ומסוגלת לענות על צורך חברתי של המשתמש, בין היתר במאפיינים אנתרופומורפיים וביכולת לקיים קשר לאורך אינטראקציות רבות. החוק מחריג במפורש בוט המשמש רק לשירות לקוחות, לצורכי תפעול עסקי, לפריון וניתוח של מידע מקור, למחקר פנימי או לסיוע טכני; דמות במשחק וידאו שתגובותיה מוגבלות למשחק ואינה יכולה לדון בבריאות נפשית, בפגיעה עצמית או בתוכן מיני מפורש; ורמקול חכם עצמאי המשמש כעוזר קולי, שאינו מקיים קשר לאורך אינטראקציות רבות ואינו מייצר פלט שעשוי לעורר תגובות רגשיות.
חובות הגילוי והנוהל למצבי אובדנות
אם אדם סביר שמשוחח עם צ'אטבוט נלווה עלול לחשוב שהוא משוחח עם בן אדם, המפעיל חייב להציג הודעה ברורה ובולטת שהדמות מלאכותית ואינה אדם. בנוסף, מפעיל אינו רשאי להפעיל צ'אטבוט נלווה בלי נוהל למניעת יצירת תוכן של מחשבות אובדניות, אובדנות או פגיעה עצמית, ובכלל זה הפניית המשתמש לגורמי סיוע במשבר — קו חם או שירות מסרונים — כשהוא מביע מחשבות כאלה. את פרטי הנוהל חובה לפרסם באתר המפעיל.
הגנות נוספות כשהמשתמש קטין
כשידוע למפעיל שהמשתמש קטין, נוספות שלוש חובות: לגלות לו שהוא מתקשר עם בינה מלאכותית; להציג לו כברירת מחדל, לפחות אחת לשלוש שעות של שיחה נמשכת, הודעה ברורה ובולטת שמזכירה לו לקחת הפסקה ושהדמות נוצרה באופן מלאכותי; ולנקוט אמצעים סבירים כדי למנוע מהצ'אטבוט לייצר חומר חזותי מיני מפורש או להנחות את הקטין לעסוק במעשים כאלה. בנוסף, כל מפעיל חייב לגלות שצ'אטבוטים נלווים עשויים שלא להתאים לחלק מהקטינים.
דיווח שנתי ואכיפה אזרחית
החל מ-1 ביולי 2027 מפעיל ידווח מדי שנה למשרד למניעת אובדנות של קליפורניה על מספר הפעמים שבהן הפנה משתמש לגורם סיוע במשבר בשנה שקדמה, ועל הנהלים שהנהיג לזיהוי מחשבות אובדניות ולמניעת תגובות בנושא. הדוח אינו כולל מזהים או מידע אישי, והמשרד מפרסם את נתוניו באתרו. מי שנפגע מהפרת החוק רשאי להגיש תביעה אזרחית ולתבוע צו מניעה, שכר טרחת עורך דין, ופיצוי בגובה הנזק בפועל או 1,000 דולר להפרה — הגבוה מביניהם. החוק מחייב את המפעיל להשתמש בשיטות מבוססות-ראיות למדידת מחשבות אובדניות, וקובע שחובותיו מצטברות לחובות שמטילים חוקים אחרים ואינן באות במקומן.