מכון עתיד החיים (Future of Life Institute)

מי הם ומה הם רוצים

מכון עתיד החיים (Future of Life Institute, או FLI) הוא ארגון אמריקאי ללא מטרות רווח שנוסד במרץ 2014 בידי חמישה אנשים: הקוסמולוג מקס טגמרק מ-MIT, הפיזיקאי אנתוני אגירה, יאן טאלין ממייסדי סקייפ, ויקטוריה קרקובנה, שהצטרפה בהמשך ל-DeepMind, ומאיה צ'יטה-טגמרק. המשימה המוצהרת שלו היא להרחיק טכנולוגיות מחוללות שינוי מסיכונים קיצוניים בקנה מידה עצום ולכוון אותן לטובת החיים. הוא עוסק גם בביוטכנולוגיה ובנשק גרעיני, אבל בעיקר בבינה מלאכותית, ובמיוחד בסיכון מ-AGI ומבינת-על. הארגון מתאר את עצמו כ"צוות החשיבה הוותיק והגדול בעולם בתחום ה-AI", ולפיו יש בו לפחות 35 עובדים במשרה מלאה, ומשרדים בקליפורניה, בבריסל, בלונדון ובוושינגטון. נכון לאוקטובר 2026, לפי אתר המכון, אגירה מכהן כנשיא וכמנכ"ל, טגמרק כמייסד וכיושב ראש, וטאלין חבר בדירקטוריון. הפעילות כוללת מענקי מחקר, הסברה ציבורית ושתדלנות מול האו"ם, ממשל ארצות הברית ומוסדות האיחוד האירופי.

כסף ועצמאות

בינואר 2015 הודיע המכון שאילון מאסק החליט לתרום 10 מיליון דולר לתוכנית מחקר עולמית של המכון, שמטרתה לשמור על AI מועיל לאנושות. ב-2021 קיבל המכון מהמתכנת ויטליק בוטרין תרומה גדולה וללא תנאים, שממנה נוצרה הקרן שמממנת את תקציב הפעילות שלו. לפי המכון, התורמים — ובהם בוטרין — אינם מעורבים בהחלטות, למעט טאלין, שמכהן בדירקטוריון מאז ההקמה, והוא אינו מקבל תרומות מחברות AI. ב-2023 פורסם במגזין השוודי Expo שהמכון הציע מענק לקרן שהקים אתר חדשות שוודי מהימין הקיצוני; טגמרק אמר שהמכון גילה את עמדות האתר בבדיקת נאותות כמה חודשים אחרי ההצעה, ושהמענק בוטל מיד.

מאסילומר למכתב ההשהיה

ב-2015 כינס המכון כנס בפוארטו ריקו, ושם הפיץ מכתב פתוח על בטיחות AI שעליו חתמו בהמשך סטיבן הוקינג, מאסק וחוקרי AI רבים. ב-2017 כינס את כנס "AI מועיל" באסילומר שבקליפורניה, ומשם יצאו 23 עקרונות אסילומר ל-AI — מהעקרון שמטרת המחקר צריכה להיות "בינה מועילה" ועד הקביעה שמירוץ חימוש בנשק אוטונומי קטלני צריך להימנע. נכון לאוקטובר 2026 מציג דף העקרונות באתר המכון 5,720 חתימות. המכון פעל גם נגד נשק אוטונומי: ב-2017 הפיק את הסרט הקצר Slaughterbots, וב-2018 ניסח התחייבות שקראה לחוקים נגד נשק אוטונומי קטלני. ב-22 במרץ 2023 פרסם המכון את המכתב "Pause Giant AI Experiments", שקרא להשהות לפחות לשישה חודשים את האימון של מערכות חזקות מ-GPT-4. בבדיקה באוקטובר 2026 הציג דף המכתב 31,810 חתימות. המכתב עורר גם ביקורת: בתחילה נאספו בו חתימות מזויפות, ומרגרט מיטשל, משותפות מאמר "התוכי הסטוכסטי" שצוטט במכתב, אמרה שבכך שהמכתב מתייחס לרעיונות מפוקפקים רבים כמובנים מאליהם, הוא "קובע סדר עדיפויות ונרטיב על AI שמיטיבים עם תומכי FLI", ושהתעלמות מנזקים קיימים "היא פריבילגיה שלחלקנו אין".

מדד הבטיחות של חברות ה-AI

מאז 2024 מפרסם המכון מדד בטיחות שמדרג את חברות ה-AI המובילות בציונים מ-A עד F. במהדורת קיץ 2026, שפורסמה ביולי על בסיס ראיות שנאספו עד 3 ביוני 2026, הוערכו תשע חברות ב-37 מדדים בשישה תחומים, בידי פאנל של שבעה חוקרים ומומחי משילות. Anthropic קיבלה את הציון הכולל הגבוה ביותר, C+; אחריה OpenAI ו-Google DeepMind עם C, ו-Meta עם D+. ל-Z.ai ול-Alibaba Cloud ניתן D-, ו-xAI, DeepSeek ו-Mistral קיבלו F. בתחום "הבטיחות הקיומית" הציון הגבוה ביותר בטבלה היה D+ (Anthropic ו-OpenAI). לפי פאנל המדד, כמה מהחברות המובילות החלישו או ביטלו התחייבויות לעצור באופן חד-צדדי אם מתקרבים ל"קווים אדומים", וחברות שאסרו בעבר שימושים צבאיים מחפשות כעת שותפויות ביטחוניות. בציטוט שפורסם לצד המדד אמר סטיוארט ראסל ש"מירוץ היכולות הפך לקיצוני יותר". חשוב לזכור שהמדד הוא תוצר של ארגון שמקדם עמדה מוגדרת בוויכוח על AI, גם אם הציונים ניתנים בידי פאנל חיצוני.

קמפיינים: מבינת-על ל"פרו-אנושי"

באוקטובר 2025 פרסם המכון את ההצהרה על בינת-על, שקוראת לאסור פיתוח בינת-על עד שתהיה הסכמה מדעית רחבה שאפשר לפתח אותה בבטחה ותוך שליטה, ותמיכה ציבורית חזקה. ב-4 במרץ 2026 הציג המכון, יחד עם קואליציה רחבה, את ההצהרה הפרו-אנושית: 33 עקרונות בחמישה נושאים, ובהם השארת בני האדם בשליטה, הימנעות מריכוז כוח ואחריות של חברות AI. בין העקרונות: שלילת אישיות משפטית מ-AI, חובת סימון "בוט או לא" ואחריות פלילית למנהלים במקרים חמורים שמפורטים בה. על ההצהרה חתמו אישים מקצוות הקשת, ובהם סטיב בנון, סוזן רייס, ראלף ניידר, מרדית' וויטאקר, יושוע בנג'יו וסטיוארט ראסל, וארגונים כמו איגוד המורים האמריקאי. בספטמבר 2026 כינס אגירה בוושינגטון "אספה פרו-אנושית" שבה השתתפו גם ברני סנדרס ובנון, ו-Scripps News דיווח אז על יותר ממיליון חתימות על ההצהרה.

ביקורת ומחלוקת

המחלוקת המרכזית סביב המכון נוגעת לסדר העדיפויות. לפי הגרדיאן, מבקרים האשימו את המכון בכך שהוא מעדיף תרחישי אסון מדומיינים על פני חששות מיידיים, כמו הטיות גזעיות ומגדריות שמוטמעות במערכות. בין מבקרות מכתב ההשהיה היו החוקרות מרגרט מיטשל, טימניט גברו ואמילי בנדר, ובנדר כינתה חלק מטענותיו "מטורפות" (unhinged). המכון דוחה את הטענה: בשאלות ותשובות שפרסם על המכתב כתב שהוא "בהחלט" מודאג גם מנזקים קיימים, ושתמך ביוזמות כמו חוק ה-AI האירופי. מנגד, המכון הצליח לגייס סביב עמדותיו קואליציות לא שגרתיות: את ההצהרה הפרו-אנושית הציג כמסמך של "קואליציה רחבה של קבוצות שמרניות, פרוגרסיביות וארגוני חברה אזרחית". כדאי לקרוא את פעילותו בהתאם — כארגון שמשלב מחקר, דירוג חברות, שתדלנות וקמפיינים ציבוריים, ופועל לקידום עמדה מוגדרת בוויכוח על AI.