מה החוק קובע ומתי נחתם
חוק השקיפות בבינה מלאכותית חזיתית הוא חוק מדינתי של קליפורניה, שהמושל גאווין ניוסום חתם עליו ב-29 בספטמבר 2025; באותו יום עצמו הוא נרשם אצל מזכיר המדינה כפרק 138 לחוקי 2025. הוא מתמקד בקבוצה צרה של מפתחי המודלים הגדולים ביותר, ומטיל עליהם חובות פרסום ודיווח סביב מה שהוא מכנה "סיכון קטסטרופלי".
על מי הוא חל: שתי הגדרות מדורגות
"מודל חזית" הוא מודל יסוד שאומן בכוח חישוב גדול מ-10 בחזקת 26 פעולות שלמות או פעולות בנקודה צפה, ובחשבון הזה נכללים גם כוונון עדין ושינויים מהותיים מאוחרים יותר. "מפתח חזית" הוא מי שאימן מודל כזה או יזם את אימונו, ו"מפתח חזית גדול" הוא מפתח חזית שהכנסותיו, יחד עם גופים קשורים, עלו על 500 מיליון דולר בשנה הקלנדרית שקדמה. החובות אינן זהות לשתי הקבוצות. החוק גם מטיל על משרד הטכנולוגיה של קליפורניה להמליץ על עדכון ההגדרות האלה לאור התפתחויות בתחום, עד 1 בינואר 2027 ומדי שנה לאחר מכן.
מהו "סיכון קטסטרופלי" לפי החוק
ההגדרה היא סיכון צפוי ומהותי שפיתוח, אחסון, שימוש או הפעלה של מודל חזית יתרמו תרומה מהותית, באירוע יחיד, למותם או לפציעתם החמורה של יותר מ-50 בני אדם או לנזק לרכוש של יותר ממיליארד דולר. החוק מונה שלוש התנהגויות מודל: סיוע ברמת מומחה ביצירתו או בשחרורו של נשק כימי, ביולוגי, רדיולוגי או גרעיני; מתקפת סייבר או מעשה שאילו אדם ביצעו היה עולה כדי רצח, תקיפה, סחיטה או גניבה, בלי פיקוח אנושי ממשי; והתחמקות משליטת המפתח או המשתמש. ההגדרה אינה כוללת סיכון ממידע שזמין ממילא לציבור ממקור שאינו מודל יסוד, פעילות חוקית של הממשל הפדרלי, או נזק בשילוב תוכנה אחרת שהמודל לא תרם לו תרומה מהותית.
מה חייבים לפרסם
מפתח חזית גדול חייב לכתוב, ליישם ולפרסם באתרו מסגרת בטיחות חזיתית — פרוטוקולים טכניים וארגוניים לניהול סיכונים קטסטרופליים — לבחון אותה לפחות אחת לשנה, ולפרסם כל שינוי מהותי בה בצירוף נימוק בתוך 30 יום. לפני העמדת מודל חזית חדש, או גרסה ששונתה מהותית, לרשות צד שלישי או במקביל לה, כל מפתח חזית מפרסם דוח שקיפות ובו מועד השחרור, השפות והמודליות הנתמכות, השימושים המיועדים והמגבלות. מי שמפרסם את המידע במסמך רחב יותר, ובכלל זה כרטיס מודל או כרטיס מערכת, ייחשב כמי שעמד בחובה.
תקריות, אכיפה והגנה על עובדים
החוק מונה ארבעה סוגים של "תקרית בטיחות קריטית": גישה בלתי-מורשית למשקלי מודל, שינוי בהם או הדלפתם באופן שגרם למוות או לפגיעה גופנית; נזק שנגרם מהתממשות סיכון קטסטרופלי; אובדן שליטה במודל שגרם למוות או לפגיעה גופנית; ומודל חזית שנוקט תחבולה כלפי מפתחו כדי לחמוק מבקרותיו או מניטורו — אך רק מחוץ להקשר של הערכה שנועדה לחלץ ממנו התנהגות כזאת, ובאופן שמדגים סיכון קטסטרופלי מוגבר מהותית. תקרית כזאת מדווחת למשרד שירותי החירום של קליפורניה בתוך 15 יום מגילויה, ואם היא מציבה סכנה מיידית למוות או לפציעה גופנית חמורה, גם לרשות המתאימה בתוך 24 שעות. מפתח חזית גדול שאינו עומד בחובות אלה חשוף לקנס אזרחי של עד מיליון דולר להפרה, בתביעת היועץ המשפטי של המדינה בלבד. החוק גם מחייב מפתח חזית גדול בערוץ פנימי אנונימי לעובדים המדווחים על סיכון.