ההצהרה על בינת-על (Statement on Superintelligence)

מה נכתב, ומי פרסם

ההצהרה על בינת-על (Statement on Superintelligence) פורסמה ב-22 באוקטובר 2025 על ידי מכון Future of Life (FLI), ארגון ללא מטרות רווח שנוסד במרץ 2014 בידי קבוצה שכללה את הפיזיקאי מקס טגמרק ואת יאן טאלין, ממייסדי סקייפ. הטקסט כולו הוא משפט אחד: "אנו קוראים לאסור את פיתוחה של בינת-על, ולא להסיר את האיסור לפני שיתקיימו 1. קונצנזוס מדעי רחב שהדבר ייעשה באופן בטוח ובר-שליטה, ו-2. תמיכה ציבורית חזקה." המכון מגדיר בינת-על כבינה מלאכותית שמסוגלת לעלות על כל בני האדם ברוב המשימות הקוגניטיביות, וכותב שמומחים מובילים מעריכים שמערכות כאלה עשויות להגיע בתוך עשר שנים, בלי שיטות מבוססות לשליטה בהן. ההצהרה אינה מציעה מנגנון, חוק או גוף מפקח — היא מסמנת עמדה ומבקשת חתימות.

מי חתם

עם הפרסום דיווח המגזין TIME על יותר מ-700 חותמים. בולטת במיוחד הקשת הפוליטית והמקצועית הרחבה: שני החוקרים המכונים "סנדקי ה-AI", ג'פרי הינטון ויהושע בנג'יו, וגם סטיוארט ראסל; אנשי עסקים כמו סטיב ווזניאק וריצ'רד ברנסון; הנסיך הארי ומייגן, דוכס ודוכסית סאסקס; סטיב בנון, מקורבו של דונלד טראמפ, לצד סוזן רייס, יועצת לביטחון לאומי בממשל אובמה; האדמירל בדימוס מייק מולן; פאולו בננטי, יועץ הוותיקן לבינה מלאכותית; זוכי פרס נובל, ובהם דרון אג'מאוגלו ופרנק וילצ'ק; הסופר יובל נח הררי; והשחקנים סטיבן פריי וג'וזף גורדון-לוויט. בין החותמים היה גם ליאו גאו, חבר הסגל הטכני של OpenAI. בתחילת אוקטובר 2026 הציג אתר ההצהרה מונה של 76,532 חתימות, כולל כ-5,000 שנאספו בעצומה מקבילה של ארגון Ekō.

במה זה שונה ממכתב ההשהיה של 2023

זו אינה היוזמה הראשונה של המכון. במרץ 2023 פרסם FLI את המכתב "Pause Giant AI Experiments", שדרש השהיה ניתנת לאימות של שישה חודשים באימון מערכות חזקות מ-GPT-4, וצבר יותר מ-1,100 חתימות. המכתב ההוא הופץ ברחבי העולם אך לא השיג את מטרתו. ההצהרה של 2025 שונה בשני היבטים: היא אינה מבקשת הפסקה קצובה בזמן אלא איסור מותנה, שיוסר רק כששני התנאים מתקיימים יחד; והיא מכוונת במפורש לבינת-על, ולא לכל מודל חזק. הרקע הוא הצהרות של החברות עצמן: לפי TIME, סם אלטמן תיאר את OpenAI כ"חברת מחקר לבינת-על", ובאוקטובר 2025 אמר המדען הראשי של החברה, יאקוב פחוצקי, שייתכן שמערכות למידה עמוקה רחוקות פחות מעשור מבינת-על.

הסקר שליווה את ההצהרה

לצד ההצהרה פרסם המכון סקר ארצי בארצות הברית. לפי הנתונים שפרסם, 64% מהנשאלים סבורים שאין לפתח בינת-על עד שיהיה הסכם מדעי שהיא בטוחה וניתנת לשליטה, רק 5% תומכים בפיתוח מהיר ככל האפשר, ו-73% תומכים ברגולציה חזקה. נשיא המכון, מקס טגמרק, סיכם זאת במילים "95% מהאמריקאים לא רוצים מרוץ לבינת-על, והמומחים רוצים לאסור אותה". חשוב לקרוא את הנתונים בהקשרם: את הסקר פרסם הארגון שיזם את ההצהרה ושמקדם את עמדתה.

ביקורת, ומה קרה אחר כך

הביקורת המרכזית נוגעת ליישום. ניתוח משפטי של משרד DDG הצרפתי מ-24 באוקטובר 2025 הצביע על כך שההצהרה אינה קובעת מי מוסמך לקבוע שהושג קונצנזוס מדעי, ואיך תימדד הסכמת הציבור. דיין גמברל מ-Reboot Democracy כתב ב-29 באוקטובר 2025 שהמושג "בינת-על" אינו מוגדר ולכן אינו ניתן למשילות, ושההתמקדות באיום היפותטי מסיטה את תשומת הלב מנזקים מוחשיים ומריכוז הכוח בידי חברות הטכנולוגיה. הוויכוח עבר בהמשך גם לזירת החקיקה: בספטמבר 2026 הציגו הסנאטור ברני סנדרס וחבר הקונגרס גרג קסאר הצעה לאסור פיתוח מערכות בינת-על ולעצור פיתוח מתקדם עד שתוקם רשות פדרלית לבטיחות AI. סקר של Data for Progress מצא תמיכה של 68% בהצעה, ומכון R Street מתח עליה ביקורת חריפה בטענה שתפגע בהשקעות ובביטחון הלאומי.