מרוץ החימוש בבינה מלאכותית (AI Arms Race)
הגדרה
כינוי המשמש בשיח על תחרות בין מדינות, ובראשן ארצות הברית וסין, בפיתוח בינה מלאכותית ובשימושים הצבאיים בה; החוקר פול שאר ערער ב-2021 על התאמתו להגדרה הקלאסית של מרוץ חימוש.
💡 דוגמה
נניח ששתי רשתות מתחרות על פתיחת הסניף הראשון בשכונה חדשה, ואחת מהן מקצרת את בדיקות הבטיחות כדי לא לאחר.
זה החשש שמכונה "מרוץ לתחתית": שהתחרות עצמה תגרום לוותר על זהירות.
מה מתארת המטאפורה
"מרוץ החימוש בבינה מלאכותית" הוא כינוי לתחרות בין מדינות, ובראשן ארצות הברית וסין, על פיתוח בינה מלאכותית והטמעתה כדי להשיג יתרון צבאי, כלכלי ואסטרטגי. הביטוי שאול ממרוצי החימוש בנשק גרעיני וקונבנציונלי, ולעיתים מכונה כך כל תחרות על עליונות בבינה מלאכותית, גם כשאינה צבאית. לפי פול שאר, שכיהן אז כסגן נשיא וכמנהל המחקר במרכז לביטחון אמריקני חדש (CNAS) וכתב ספר על נשק אוטונומי, הביטוי הפך לביטוי שגור שמשתמשים בו גם המבקרים של שילוב בינה מלאכותית בצבא וגם התומכים בו. שאר פותח את מאמרו בציטוט ממכתב פתוח של חוקרי בינה מלאכותית ורובוטיקה מ-2015 נגד נשק אוטונומי, שבו נכתב, בתרגום, כי "השאלה המרכזית של האנושות היום היא אם להתחיל מרוץ חימוש עולמי בבינה מלאכותית או למנוע את פריצתו". בכירים אמריקנים השתמשו בביטוי באופנים שונים: מייקל גריפין, אז תת-שר ההגנה, אמר ב-2018 ש"ייתכן שיש מרוץ חימוש בבינה מלאכותית, אבל אנחנו עוד לא בתוכו", ואילו ויל רופר, אז ראש הרכש של חיל האוויר האמריקני, הזהיר ב-2020 מפני הסיכון לפגר ב"מרוץ חימוש דיגיטלי עם סין". הערך הזה עוסק בתופעה הגאופוליטית ובשיח סביבה; השימוש הצבאי עצמו מתואר בערך בינה מלאכותית בלוחמה.
2017: המדינות מצהירות
ב-2017 בלטו, בין היתר, מסמכים והצהרות בארצות הברית, בסין וברוסיה שהציגו את הבינה המלאכותית כזירת תחרות. באפריל 2017 הקים משרד ההגנה האמריקני את פרויקט מייבן, ובמזכר ההקמה נכתב שעליו לשלב בינה מלאכותית ולמידת מכונה כדי לשמור על יתרון מול "יריבים ומתחרים שיכולותיהם הולכות וגדלות". ביולי 2017 פרסמה מועצת המדינה של סין את "תוכנית הפיתוח לבינה מלאכותית מהדור החדש". לפי התרגום של פרויקט DigiChina באוניברסיטת סטנפורד, התוכנית קובעת ש"בינה מלאכותית הפכה למוקד חדש של התחרות הבינלאומית", מציבה יעד שעד 2030 תהיה סין "מרכז החדשנות העיקרי בעולם בבינה מלאכותית", ומדברת על שילוב עמוק של הטכנולוגיה בכלכלה, בחברה ובהגנה הלאומית. בתחילת ספטמבר 2017 אמר נשיא רוסיה ולדימיר פוטין בפני סטודנטים ש"מי שיהיה המוביל בתחום הזה יהיה שליט העולם". באותו נאום, לפי הדיווח, אמר גם שרוסיה אינה רוצה שמדינה אחת תשלוט בתחום לבדה, ושאם תוביל בו, תשתף את הידע עם העולם כולו. פרטי התוכנית הסינית והתעשייה שצמחה בעקבותיה מתוארים בערך תעשיית הבינה המלאכותית בסין.
מדיניות בשם התחרות: שבבים ותוכניות לאומיות
התחרות תורגמה גם לצעדי מדיניות. ב-7 באוקטובר 2022 הטיל משרד המסחר האמריקני מגבלות יצוא על שבבי מחשוב מתקדמים ועל ציוד לייצור שבבים לסין. בהודעה הרשמית נימקה ארצות הברית את הצעד בהגנה על "האינטרסים של הביטחון הלאומי ושל מדיניות החוץ" שלה. המהלכים שבאו בעקבות זאת משני הצדדים מתוארים בערך על מלחמת פיקוח-היצוא של השבבים. ביולי 2025 פרסם הבית הלבן את "תוכנית הפעולה האמריקנית לבינה מלאכותית", שכותרתה "לנצח במרוץ". בפתיחתה נכתב ש"ארצות הברית נמצאת במרוץ להשגת דומיננטיות עולמית בבינה מלאכותית", ושכמו שארצות הברית ניצחה במרוץ לחלל, "הכרחי שארצות הברית ובעלות בריתה ינצחו במרוץ הזה". סין מציגה את הדברים אחרת. ביוזמה לממשל עולמי של בינה מלאכותית, שפרסם משרד החוץ הסיני באוקטובר 2023, נכתב שסין מתנגדת "למתיחת קווים אידאולוגיים או ליצירת קבוצות סגורות כדי למנוע ממדינות אחרות לפתח בינה מלאכותית", וכן ל"מונופולים טכנולוגיים ולצעדי כפייה חד-צדדיים". באותו מסמך נקראו המדינות, "ובמיוחד המדינות הגדולות", לנקוט גישה זהירה ואחראית לשימוש בבינה מלאכותית בתחום הצבאי. יוזמה בין-ממשלתית בהובלת סין מתוארת בערך ארגון שיתוף הפעולה העולמי בבינה מלאכותית.
הביקורת: האם זה באמת מרוץ חימוש?
לא כולם מקבלים את המטאפורה. במאמר מ-2021 בכתב העת Texas National Security Review, שכותרתו "הפרכת התאוריה של מרוץ החימוש בבינה מלאכותית", טען פול שאר שאף שמדינות מתחרות בבירור על פיתוח בינה מלאכותית לצבא, התחרות הזו אינה עומדת בהגדרה המקובלת של מרוץ חימוש. הוא נשען על הגדרה של מייקל וואלאס מ-1979, ולפי אחד הקריטריונים בה מרוץ חימוש כרוך בקצב צמיחה חריג ובו-זמני של ההוצאות הצבאיות של שתי מדינות או יותר. לדבריו, נכון לזמן כתיבת המאמר, היקף ההוצאה הצבאית על בינה מלאכותית, "לפחות בשלב זה", היה רחוק מלהצדיק את התואר. עם זאת, שאר אינו טוען שהתחרות בטוחה. הוא מצביע על שני סיכונים: שאימוץ רחב של בינה מלאכותית יהפוך את הלחימה למהירה יותר ולפחות נשלטת בידי בני אדם, ויקשה לעצור הסלמה; ושתחושת "מרוץ" תגרום למדינות לקצר את בדיקות הבטיחות של מערכות חדשות. את הסיכון השני הוא מכנה "מרוץ לתחתית" בבטיחות, ומשווה אותו לדינמיקה תחרותית שלדבריו ייתכן שתרמה לתאונות של מכוניות אוטונומיות ושל טייס אוטומטי במטוסי נוסעים. כלומר, לפי שאר, לא היקף ההוצאה אלא עצם התפיסה שמתקיים "מרוץ" היא שעלולה לגרום למדינות לוותר על זהירות.
שיתוף פעולה בתוך התחרות
לצד התחרות היו גם רגעים של הסכמה. ב-16 בנובמבר 2024 נפגשו נשיא ארצות הברית ג'ו ביידן ונשיא סין שי ג'ינפינג, ולפי הסיכום שפרסם הבית הלבן, שני המנהיגים "אישרו את הצורך לשמור על שליטה אנושית בהחלטה על שימוש בנשק גרעיני", וכן הדגישו את הצורך לפתח בינה מלאכותית בתחום הצבאי "באופן זהיר ואחראי". בסיכום הוזכרו גם דיאלוג "גלוי ובונה" בין המדינות על בינה מלאכותית ושיתוף חסות הדדי בהחלטות בנושא בעצרת הכללית של האו"ם. מדובר בהצהרה מדינית, ולא בהסכם מחייב. במקביל נמשך באו"ם הדיון על הסדרת נשק אוטונומי קטלני, וב-25 באוגוסט 2026 חידשו מזכ"ל האו"ם ונשיאת הוועד הבינלאומי של הצלב האדום את קריאתם לאמץ כללים בנושא.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
האם זה באמת מרוץ חימוש במובן הקלאסי?
יש מי שמערערים על כך. פול שאר טען ב-2021 שהתחרות אינה עומדת בהגדרה המקובלת, משום שההוצאה הצבאית על בינה מלאכותית לא הייתה אז בהיקף ובקצב צמיחה של מרוצי חימוש קלאסיים. מנגד, בממשל האמריקני מתארים את התחרות במפורש כ"מרוץ" שיש לנצח בו.
מה זה "מרוץ לתחתית" בבטיחות?
החשש שתחושת תחרות תגרום למדינות או לחברות לקצר בדיקות ולהכניס לשימוש מערכות שלא נבדקו די הצורך, כדי לא לפגר אחרי המתחרה. שאר מציין זאת כאחד הסיכונים העיקריים של התחרות, גם אם אינה מרוץ חימוש במובן הקלאסי.
מה הקשר בין השבבים למרוץ?
באוקטובר 2022 הגבילה ארצות הברית יצוא של שבבים מתקדמים וציוד לייצור שבבים לסין, ונימקה זאת בשיקולי ביטחון לאומי ומדיניות חוץ. הפרטים מופיעים בערך על מלחמת פיקוח-היצוא של השבבים.
מה עמדת סין?
בתוכנית הפיתוח שלה מ-2017 הציבה סין יעד להפוך עד 2030 למרכז החדשנות העיקרי בעולם בתחום. ביוזמה לממשל עולמי של בינה מלאכותית מ-2023 היא מתנגדת ל"מונופולים טכנולוגיים ולצעדי כפייה חד-צדדיים", וקוראת למעצמות לנקוט גישה זהירה בשימוש צבאי.
האם ארצות הברית וסין הסכימו על משהו?
כן, לפחות בעניין אחד. לפי סיכום הבית הלבן של פגישת ביידן ושי בנובמבר 2024, שני המנהיגים אישרו את הצורך לשמור על שליטה אנושית בהחלטה על שימוש בנשק גרעיני.