ניק בוסטרום (Nick Bostrom)

בטיחות ואתיקה

הגדרה

ניק בוסטרום הוא פילוסוף שוודי-בריטי מאוניברסיטת אוקספורד, מחבר הספר רב-המכר "אינטליגנציית-על: דרכים, סכנות, אסטרטגיות" (2014), ומהדמויות המרכזיות בשיח העולמי על סיכון קיומי מבינה מלאכותית כללית.

רקע והקמת מכון עתיד-האנושות

בוסטרום נולד ב-1973 בשוודיה, ולמד פיזיקה תיאורטית, נוירומדע חישובי, לוגיקה ופילוסופיה — שילוב תחומים בלתי-שגרתי שעיצב את סגנון-המחקר שלו. השלים דוקטורט בפילוסופיה בבית-הספר לכלכלה בלונדון (LSE) ב-2000, ולימד תקופה קצרה באוניברסיטת ייל. ב-2005 ייסד וניהל את מכון עתיד-האנושות (Future of Humanity Institute) באוניברסיטת אוקספורד — גוף מחקר בין-תחומי שעסק בסיכונים ארוכי-טווח לאנושות, ובהם סיכונים הקשורים לבינה מלאכותית מתקדמת.

טיעון הסימולציה ו"אינטליגנציית-על" (2014)

ב-2003 פרסם בוסטרום את "טיעון הסימולציה" (simulation argument), הטוען שלפחות אחת משלוש טענות חייבת להיות נכונה: תרבויות כמעט אף פעם לא מגיעות לשלב טכנולוגי מתקדם מספיק להרצת סימולציות, תרבויות כאלה כמעט אף פעם לא בוחרות להריץ סימולציות של אבותיהן, או שרובנו חיים בפועל בתוך סימולציה כזו. ב-2014 יצא ספרו "אינטליגנציית-על: דרכים, סכנות, אסטרטגיות", שהפך לרב-מכר של הניו יורק טיימס והציב על סדר-היום הציבורי את השאלה מה קורה אם בינה מלאכותית תעלה משמעותית על היכולת האנושית.

מכתב 1996 והמחלוקת של 2023

בינואר 2023 התפרסם מכתב שכתב בוסטרום ב-1996, כשהיה סטודנט לתואר שני, לרשימת-תפוצה — ובו התבטאויות גזעניות ושימוש במילת-גנאי. בוסטרום פרסם התנצלות באתרו האישי וכינה את המכתב "מגעיל", אך מבקרים ציינו שלא חזר בו במפורש מהטענה המרכזית שהופיעה בו. אוניברסיטת אוקספורד חקרה את הפרשה, וקבעה באוגוסט 2023 שאינה רואה בבוסטרום אדם גזען ושההתנצלות שפרסם הייתה כנה. באפריל 2024 נסגר מכון עתיד-האנושות שניהל כמעט עשרים שנה, על רקע גל שערוריות שפגע בתנועות ה"אלטרואיזם האפקטיבי" וה"לונגטרמיזם" שעמן זוהה המכון.

סגירת המכון והתפקיד הנוכחי

כיום בוסטרום הוא החוקר הראשי של יוזמת המאקרו-אסטרטגיה (Macrostrategy Research Initiative), עמותת-מחקר עצמאית. הוא נמנה עם הפילוסופים המצוטטים ביותר בעולם, ועבודתו על סיכון קיומי, טיעון-הסימולציה והשערת-העולם-הפגיע (vulnerable world hypothesis) עיצבה במידה רבה את השפה שבה קהילת בטיחות-הבינה-המלאכותית דנה בסיכונים ארוכי-טווח. ב-2024 פרסם ספר-המשך, "אוטופיה עמוקה" (Deep Utopia), שעוסק במשמעות החיים בעולם שבו רוב הבעיות הטכניות כבר נפתרו.

שאלות נפוצות ❓

מה זה "טיעון הסימולציה" של בוסטרום?

טענה שפרסם ב-2003, ולפיה לפחות אחת משלוש אפשרויות חייבת להיות נכונה: תרבויות כמעט אף פעם לא מגיעות ליכולת טכנולוגית להרצת סימולציות, תרבויות כאלה כמעט אף פעם לא בוחרות להריץ אותן, או שרובנו חיים בפועל בתוך סימולציה.

מה קרה במחלוקת סביב מכתב 1996 של בוסטרום?

בינואר 2023 התפרסם מכתב-רשימת-תפוצה גזעני שכתב ב-1996. בוסטרום התנצל באתרו, ואוניברסיטת אוקספורד קבעה באוגוסט 2023 שאינה רואה בו אדם גזען ושההתנצלות הייתה כנה.

למה מכון עתיד-האנושות (FHI) נסגר?

המכון, שבוסטרום ייסד וניהל באוקספורד מ-2005, נסגר באפריל 2024 על רקע גל שערוריות שפגע בתנועות ה"אלטרואיזם האפקטיבי" וה"לונגטרמיזם" שעמן זוהה.

מה טוען הספר "אינטליגנציית-על" (2014)?

הספר, שהפך לרב-מכר של הניו יורק טיימס, דן במה עלול לקרות אם בינה מלאכותית תעלה משמעותית על היכולת האנושית — ובסיכונים שכרוכים בפיתוח כזה.