המכון לחקר בינת מכונה (MIRI)

מה זה MIRI

MIRI, ראשי תיבות של Machine Intelligence Research Institute, הוא ארגון מחקר ללא מטרות רווח שיושב בברקלי שבקליפורניה. לפי ויקיפדיה, המכון מתמקד בזיהוי ובניהול של סיכונים קיומיים אפשריים מבינה מלאכותית, כלומר סיכונים שעלולים לאיים על המשך קיומה של האנושות. המכון עצמו מנסח את משימתו כך: "אנחנו עושים מחקר והסברה לציבור שנועדו לעזור למנוע הכחדה של בני האדם כתוצאה מפיתוח בינת-על מלאכותית". בראש המכון עומד המנכ"ל מאלו בורגון, נייט סוארס מכהן כנשיא, ואליעזר יודקובסקי, שהקים את הארגון, רשום באתר כמייסד-שותף. MIRI אינו זרוע של חברת טכנולוגיה אלא ארגון עצמאי. לדבריו, הוא מזהיר מפני סכנת ההכחדה שבבינת-על כבר יותר משני עשורים; בשנים האחרונות עיקר מאמציו מופנה לשאלה איך משכנעים ממשלות לעצור את פיתוחה.

ממכון הסינגולריות ל-MIRI

המכון נוסד ב-2000 בשם Singularity Institute for Artificial Intelligence, בידי יודקובסקי ובני הזוג בריאן וסבין אטקינס, שמימנו את צעדיו הראשונים. לפי סקירת-עבר שפרסם המכון ב-2024, מטרתו המקורית הייתה "לנסות להאיץ את ההגעה לבינה מלאכותית חכמה מבני אדם מהר ככל האפשר". לפי אותה סקירה, סביב 2003 עבר המכון להתמקד בבעיית היישור — איך מבטיחים שמטרותיה של מערכת כזו יתאמו לרצונות בני האדם. ב-2005 החל המכון לפעול בעמק הסיליקון והתמקד בסיכונים, שלפי ויקיפדיה מדענים בתחום התעלמו מהם אז במידה רבה, ומ-2006 ארגן את "פסגת הסינגולריות", כנס על עתיד הבינה המלאכותית וסיכוניה, תחילה בשיתוף אוניברסיטת סטנפורד ובמימון המשקיע פיטר ת'יל. בדצמבר 2012 מכר המכון את שמו, את כתובת האתר ואת הכנס לארגון Singularity University, ובחודש שלאחר מכן אימץ את השם Machine Intelligence Research Institute.

המחקר: בינה ידידותית ויסודות של סוכן

המחקר המוקדם של MIRI, בהובלת יודקובסקי, עסק לפי ויקיפדיה בעיקר ב"בעיית השליטה" ובתכנון של בינה מלאכותית "ידידותית" — הן בתכנון הראשוני של המערכת והן במנגנונים שיבטיחו שתישאר כזו גם כשהיא משתנה ומשתפרת. מ-2013 התמקד המכון במה שכינה יסודות תאורטיים של סוכנים (Agent Foundations): שאלות מתמטיות ופילוסופיות על האופן שבו מערכת שמקבלת החלטות צריכה לחשוב. דוגמה מוכרת היא מאמר מ-2015 של חוקרי המכון על יכולת לקבל תיקון והתערבות אנושית (Corrigibility) — איך בונים מערכת שלא תתנגד לכך שבני אדם יתקנו אותה או יכבו אותה. ב-2017 עבר המכון לכיווני מחקר הנדסיים יותר. בדצמבר 2020 כתב נייט סוארס שמאמץ המחקר הזה "נכשל ברובו", במובן שלא נותרה לו וליודקובסקי די תקווה בכיוון כדי להמשיך להשקיע בו את עיקר מאמציהם; סקירת 2024 של המכון חזרה על ההערכה הזו. לפי ויקיפדיה, המכון מזהה את עצמו עם עקרונות תנועת האלטרואיזם האפקטיבי, ובין התורמים שלו היו קרן Open Philanthropy, שהעניקה לו מענקים בהיקף של מיליוני דולרים, ומייסד-השותף של אתריום ויטליק בוטרין.

המפנה של 2023: ממעבדה לזירה הציבורית

בינואר 2024 הודיע MIRI על שינוי כיוון שכבר החל ב-2023: שלושה יעדים — מדיניות, תקשורת ומחקר — והמכון העריך שסביר שמדיניות ותקשורת יקבלו עדיפות על פני מחקר. היעד המדיני היה להגדיל את הסיכוי שממשלות העולם הגדולות יגיעו להסכם בינלאומי שיעצור את ההתקדמות לעבר בינה מלאכותית חכמה מבני אדם — עד שהידע והביטחון המוצדק של האנושות בהבנת התחום ישתנו מן היסוד, ועד שאפשר יהיה לאבטח מערכות כאלה מפני גורמים זדוניים או פזיזים. המכון הסביר שהוא נעשה פסימי יותר לגבי הסיכוי שמחקר היישור יספיק להניב תוצאות, אם המדיניות לא תקנה לו זמן. את העדכון פרסם מאלו בורגון, שמינויו למנכ"ל הוכרז באוקטובר 2023. המפנה הזה התחבר לקו שיודקובסקי הציג עוד ב-2023, במאמר דעה במגזין טיים, שבו קרא להקפאה עולמית בלתי מוגבלת בזמן של ריצות-אימון גדולות. בספטמבר 2025 יצא ספרם של יודקובסקי וסוארס, "If Anyone Builds It, Everyone Dies", שנכנס לרשימת רבי-המכר של הניו יורק טיימס; הספר מסכם את הטיעון ואת הדרישה לעצור בכל העולם את פיתוח הבינה המלאכותית הכללית בקנה מידה גדול.

צוות הממשל הטכני: איך נראה "מתג כיבוי"

בתחום המדיניות פועל צוות הממשל הטכני של המכון (Technical Governance Team). לפי אתר הצוות, הוא עוסק במחקר טכני שמשרת מטרות של ממשל AI, ואינו מתמקד בהסברה לציבור או במחקר יישור. במאי 2025 פרסמו חוקרי הצוות סדר יום מחקרי שבו התרחיש המועדף עליהם הוא בניית תשתית טכנית, משפטית ומוסדית שתאפשר להגביל פיתוח AI מסוכן ברמה הבינלאומית — מה שהם מכנים "מתג כיבוי" (Off Switch) — ובהמשך עצירה מתואמת. בנובמבר 2025 פרסם הצוות דוגמה להסכם בינלאומי למניעת יצירה מוקדמת של בינת-על: קואליציה בהובלת ארצות הברית וסין שתגביל את היקף האימון של מודלים ואת המחקר המסוכן. את מגבלות האימון מציעים המחברים לבטא בספי-חישוב, ולאכוף באמצעות מעקב אחרי שבבי AI ואימות השימוש בהם. המחברים עצמם מודים ש"עדיין אין" רצון פוליטי ליישם הסכם כזה.

מהמאמר אל הקונגרס, והביקורת

ב-23 בספטמבר 2026 הכריזו הסנטור ברני סנדרס וחבר בית הנבחרים גרג קסאר על הצעת חוק בשם Ban Artificial Superintelligence Act. לפי סוכנות AP, ההצעה תאסור לצמיתות על בינת-על מלאכותית, תשהה את פיתוח המערכות המתקדמות ביותר עד שייקבעו כללי בטיחות, ותקים משרד ממשלתי חדש לבינה מלאכותית; AP ציינה גם שסיכוייה לעבור בקונגרס בשליטה רפובליקנית נמוכים. באותו יום הודיע MIRI שהוא תומך בהצעה, וכתב שהיא "מצוינת אבל לא מושלמת". נכון לאוקטובר 2026 מדובר בהצעת חוק בלבד. העמדות של MIRI שנויות במחלוקת. הסופר אדם בקר כתב באטלנטיק על ספרם של יודקובסקי וסוארס שהמחברים "פשוט טועים" ואינם מציגים טיעון מדעי מבוסס-ראיות; מבקרים אחרים, כמו גארי מרקוס, כתבו שהמצב מדאיג אבל לא עד כדי כך. על האיש שהקים את המכון אפשר לקרוא בערך על אליעזר יודקובסקי.