פסגת בטיחות ה-AI (AI Safety Summit)
הגדרה
סדרת פסגות בין-ממשלתיות על בינה מלאכותית, שנפתחה בבלצ'לי פארק שבבריטניה בנובמבר 2023 והמשיכה בסיאול, בפריז ובניו דלהי — ובדרך עברה מהתמקדות בסיכוני המודלים החזקים להשקעות ולאימוץ.
💡 דוגמה
כמו אסיפת ועד בית שבה כל הדיירים חותמים על "נשמור על הבניין" — בלי קנסות ובלי מפקח.
כך עובדות הצהרות הפסגות: מסכימים על עקרונות, וכל מדינה מחליטה לבד מה לעשות בפועל.
פסגה ראשונה, באחוזה של פורצי הצפנים
ב-1 וב-2 בנובמבר 2023 כינסה ממשלת בריטניה בבלצ'לי פארק את פסגת בטיחות ה-AI (AI Safety Summit), כנס בין-ממשלתי שהוקדש לבטיחות ולרגולציה של בינה מלאכותית. ראש הממשלה דאז, רישי סונאק, הפך את התחום לאחד מסדרי העדיפויות של ממשלתו, והמקום נבחר בכוונה: באחוזה הזו פעלו במלחמת העולם השנייה פורצי הצפנים הבריטים, ובהם אלן טיורינג. לפני הפסגה דיווח ה-BBC שצפויים להגיע אליה כ-100 מנהיגים, מומחי AI ובכירים בתעשייה, ובהם סגנית נשיא ארצות הברית קמלה האריס ונשיאת הנציבות האירופית אורסולה פון דר ליין. על הבמה הופיעו יחד שרת המסחר האמריקאית ג'ינה ריימונדו וסגן שר המדע הסיני וו ז'אוחוי, ואילון מאסק, שהגיע גם הוא, אמר בשולי הפסגה כי "לא ברור לי שאנחנו באמת יכולים לשלוט בדבר כזה". הפסגה הזו פתחה סדרה של פסגות המשך, שכל אחת מהן נשאה שם אחר.
הצהרת בלצ'לי, ומה הוחלט ביום השני
ביום הראשון חתמו 28 מדינות והאיחוד האירופי על הצהרת בלצ'לי, ובהן ארצות הברית, סין, הודו, ערב הסעודית וישראל. ההצהרה מתמקדת ב"חזית" של הבינה המלאכותית — מודלים כלליים בעלי יכולות גבוהות במיוחד, וכן מערכות ייעודיות שיכולותיהן עלולות לגרום נזק — וקובעת כי קיים "פוטנציאל לנזק חמור, ואף קטסטרופלי, מכוון או לא מכוון", הנובע מהיכולות המשמעותיות ביותר של המודלים האלה. סדר היום שהציבה כלל שני חלקים: זיהוי משותף של סיכוני בטיחות ובניית הבנה מדעית שלהם, וגיבוש מדיניות מבוססת-סיכון בכל מדינה. ניו זילנד הצטרפה להצהרה באוקטובר 2024. ביום השני הסכימו מנהיגי עשר מדינות והאיחוד האירופי, יחד עם עשר חברות — ובהן OpenAI, Anthropic, Google DeepMind, Meta, מיקרוסופט, Mistral AI ו-xAI — לשתף פעולה בבדיקת הדור הבא של המודלים לפני שחרורם ואחריו. סין לא נמנתה עם המשתתפים במושב הזה. בסמוך לפסגה הכריזה בריטניה על מכון בטיחות ה-AI שלה, וכבר ביום הראשון הודיעה ארצות הברית על מכון משלה. המדינות גם הזמינו דוח מדעי בינלאומי בראשות יושוע בנג'יו; הדוח המלא הראשון פורסם בינואר 2025 בשם הדוח הבינלאומי לבטיחות AI.
סיאול 2024: בטיחות, חדשנות והכלה
הפסגה השנייה התקיימה בסיאול ב-21 וב-22 במאי 2024, בהובלה משותפת של דרום קוריאה ובריטניה. כבר בשמה, הצהרת סיאול הרחיבה את המיקוד: היא מציגה בטיחות, חדשנות והכלה כמטרות קשורות זו בזו. עליה חתמו מנהיגי אוסטרליה, קנדה, צרפת, גרמניה, איטליה, יפן, דרום קוריאה, סינגפור, בריטניה וארצות הברית, והאיחוד האירופי. בנספח להצהרה הביעו החותמות כוונה להקים רשת בינלאומית של מכוני בטיחות AI. למחרת אימצו שרים מ-27 מדינות, וביניהן ישראל, הודו וערב הסעודית, לצד נציג האיחוד האירופי, הצהרת שרים שעסקה בין היתר בזיהוי ספים שמעליהם סיכון ממודל חזית ייחשב חמור, בהיעדר אמצעים מתאימים להפחתתו. בפסגה הזו גם קיבלו על עצמן חברות AI את התחייבויות הבטיחות לבינה מלאכותית חזיתית, ובהן פרסום מסגרת בטיחות שמתמקדת בסיכונים חמורים עד הפסגה בצרפת (ראו מסגרת בטיחות חזיתית).
פריז 2025: מבטיחות ל"פעולה"
הפסגה השלישית, "פסגת הפעולה ל-AI" (AI Action Summit), נערכה בגראן פאלה בפריז ב-10 וב-11 בפברואר 2025, בראשות משותפת של נשיא צרפת עמנואל מקרון וראש ממשלת הודו נרנדרה מודי. ההצהרה הסופית עסקה בבינה מלאכותית "פתוחה, מכלילה, שקופה, אתית, בטוחה, מאובטחת ואמינה", בצמצום ריכוזיות השוק, בעתיד שוק העבודה ובאנרגיה. לפי הגרדיאן תמכו בה 60 חותמים, ובהם סין, אבל ארצות הברית ובריטניה סירבו לחתום. דובר ממשלת בריטניה אמר שההצהרה "לא סיפקה די בהירות מעשית על משילות גלובלית" ולא התמודדה מספיק עם שאלות של ביטחון לאומי. סגן נשיא ארצות הברית ג'יי-די ואנס הזהיר בנאומו כי "רגולציה מופרזת של תחום ה-AI עלולה להרוג תעשייה מחוללת שינוי", ובדברים שהגרדיאן פירש כביקורת על פסגת בלצ'לי ביקר כינוסים שהיו, לדבריו, מהוססים וחוששים מסיכון יותר מדי.
ניו דלהי 2026, ולאן הסדרה ממשיכה
הפסגה הרביעית, פסגת ההשפעה של ה-AI (AI Impact Summit), התקיימה בניו דלהי בפברואר 2026, והייתה הראשונה בסדרה שנערכה במדינה מהדרום הגלובלי. לפי ממשלת הודו, נכון ל-5 במרץ 2026 אישרו את הצהרת ניו דלהי 92 מדינות וארגונים בינלאומיים, ובהם ארצות הברית, סין, ישראל והאיחוד האירופי. מכון ברוקינגס ציין שהחתימה האמריקאית בולטת, משום שארצות הברית לא הצטרפה להצהרת פריז, ותיאר את מסלול הסדרה כמעבר מ"בטיחות" בבריטניה ובקוריאה, דרך "פעולה" בפריז, ועד להתמקדות בהפצה ובאימוץ של AI ברחבי העולם. בשולי הפסגה הודיע נשיא שווייץ גי פרמלן שארצו תארח את הפסגה הבאה בז'נבה ב-2027, ושאיחוד האמירויות יארח את זו שאחריה ב-2028. לפי אתר הפסגה, היא מתוכננת ל-21 וב-22 ביוני 2027.
מה הפסגות משיגות, ומה לא
אף אחת מההצהרות אינה מחייבת משפטית. הצהרת ניו דלהי עצמה מתארת את תוצריה כהנחיות ועקרונות "וולונטריים ולא מחייבים". כבר בבלצ'לי דיווח הגרדיאן שאין הסכמה בינלאומית של ממש על הצורה של רגולציה עולמית או על מי שינסח אותה, ושהמשתתפות לא הסכימו להפוך את צוות המשימה הבריטי לגוף שיבדוק מודלים מכל העולם לפני שחרורם. ובכל זאת, הפסגות הותירו מוסדות ומסמכים: מכוני בטיחות לאומיים ורשת שמחברת ביניהם, דוח מדעי בינלאומי שמתעדכן, והתחייבויות וולונטריות של חברות. מכון ברוקינגס תיאר את פסגת ניו דלהי כ"יותר תערוכה מסחרית מאשר כנס מדיניות", ותהה מה יבוא אחרי "בטיחות", "פעולה" ו"השפעה".
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
| בלצ'לי פארק, 2023 | סיאול, 2024 | פריז, 2025 | ניו דלהי, 2026 | |
|---|---|---|---|---|
| מארחת | בריטניה | דרום קוריאה ובריטניה | צרפת, בראשות משותפת עם הודו | הודו |
| שם הפסגה | פסגת בטיחות הבינה המלאכותית | פסגת סיאול לבינה מלאכותית | פסגת הפעולה לבינה מלאכותית | פסגת ההשפעה של הבינה המלאכותית |
| המסמך המרכזי | הצהרת בלצ'לי | הצהרת סיאול | הצהרה על בינה מלאכותית מכלילה ובת-קיימא | הצהרת ניו דלהי |
| מי חתם | 28 מדינות והאיחוד האירופי, כולל ארה"ב, סין וישראל | מנהיגי 10 מדינות והאיחוד האירופי; הצהרת השרים — 27 מדינות, כולל ישראל | 60 חותמים לפי הגרדיאן בזמן הפסגה, כולל סין; ארה"ב ובריטניה סירבו | 92 מדינות וארגונים לפי ממשלת הודו, כולל ארה"ב, סין וישראל |
| הדגש | סיכונים ממודלי חזית | בטיחות, חדשנות והכלה | אימוץ, עבודה, אנרגיה וריכוזיות | הפצה ואימוץ של בינה מלאכותית |
שאלות נפוצות ❓
מתי ואיפה התקיימה פסגת בטיחות ה-AI הראשונה?
ב-1 וב-2 בנובמבר 2023, בבלצ'לי פארק שבאנגליה, ביוזמת ממשלת בריטניה. זה המקום שבו פעלו פורצי הצפנים הבריטים במלחמת העולם השנייה.
האם ישראל חתומה על הצהרות הפסגות?
ישראל נמנית עם 28 המדינות שחתמו על הצהרת בלצ'לי, עם המדינות שאימצו את הצהרת השרים בסיאול, ועם 92 המדינות והארגונים שאישרו את הצהרת ניו דלהי לפי רשימת ממשלת הודו.
למה ארצות הברית ובריטניה לא חתמו בפריז?
בריטניה אמרה שההצהרה לא סיפקה די בהירות על משילות גלובלית ולא עסקה מספיק בביטחון לאומי. בכתבת הגרדיאן לא הובא נימוק אמריקאי רשמי, אבל סגן הנשיא ואנס הזהיר בנאומו מפני רגולציה מופרזת.
האם להצהרות יש תוקף משפטי?
לא. אלה הצהרות כוונות וולונטריות. ההשפעה המעשית שלהן היא בעיקר המוסדות שנולדו בעקבותיהן, כמו מכוני הבטיחות הלאומיים והדוח המדעי הבינלאומי.
איפה תתקיים הפסגה הבאה?
שווייץ הודיעה שתארח את הפסגה של 2027 בז'נבה, ולפי אתר הפסגה היא מתוכננת ל-21 וב-22 ביוני 2027. איחוד האמירויות אמור לארח את הפסגה של 2028.