שיפור-עצמי רקורסיבי (Recursive Self-Improvement)

הרעיון

שיפור-עצמי רקורסיבי (Recursive Self-Improvement) הוא תהליך משוער שבו מערכת בינה מלאכותית משכתבת או משפרת את עצמה, והגרסה המשופרת — שכעת חכמה יותר — מסוגלת לשפר את עצמה טוב עוד יותר, וכך הלאה. אם כל סבב מהיר וגדול מקודמו, התוצאה עשויה להיות מה שמכונה "פיצוץ אינטליגנציה": קפיצה מהירה ליכולות שעולות בהרבה על אלה של בני אדם. החוקר אליעזר יודקובסקי טבע לרעיון הזה את המונח "בינת-זרע" (Seed AI) — בסיס קוד ראשוני שיש בו יכולות שיפור עצמי, כמו תכנון, כתיבת קוד, בדיקה והרצה. חשוב לומר כבר בהתחלה: זהו רעיון ולא תופעה מתועדת. לפי ויקיפדיה, נעשו ניסיונות רבים לבנות מערכות כאלה, ואף אחד מהם עדיין לא הראה סימן לפיצוץ אינטליגנציה או לבינת-על.

המקור: אי. ג'יי. גוד, 1965

את הניסוח המוכר ביותר כתב אירווינג ג'ון (אי. ג'יי.) גוד ב-1965, במאמר "ספקולציות על המכונה האולטרה-אינטליגנטית הראשונה". הוא הגדיר מכונה כזו כמכונה ש"יכולה לעלות בהרבה על כל הפעילויות האינטלקטואליות של כל אדם, פיקח ככל שיהיה", וכתב שמכונה כזו "תוכל לתכנן מכונות טובות עוד יותר; אז יהיה ללא ספק 'פיצוץ אינטליגנציה', והאינטליגנציה של האדם תישאר הרחק מאחור". מכאן הגיע גם המשפט המצוטט ביותר שלו: המכונה האולטרה-אינטליגנטית הראשונה היא "ההמצאה האחרונה שהאדם יצטרך אי פעם להמציא, בתנאי שהמכונה צייתנית מספיק כדי לומר לנו איך לשמור עליה בשליטה". שימו לב לסייג שבסוף: כבר בניסוח המקורי, שאלת השליטה הייתה חלק מהרעיון. ב-1993 צפה ורנור וינג' שהמעבר ל"סינגולריות טכנולוגית" יתרחש בין 2005 ל-2030, ותיאר אותו כבלתי ניתן להבנה מראש.

מה קיים בפועל היום

מערכות שמשפרות חלקים מהתהליך שיצר אותן כבר קיימות, אבל בצורה חלקית ותחת פיקוח אנושי. סוכן בשם Voyager למד ב-2023 משימות במשחק מיינקראפט בכך שביקש ממודל-שפה קוד, שיפר אותו לפי המשוב ושמר את התוכניות שהצליחו. ב-2024 הוצגה מסגרת בשם STOP, שבה קוד העזר סביב מודל-שפה קבוע משפר את עצמו שוב ושוב. הדוגמה הבולטת היא AlphaEvolve של Google DeepMind, שהוצג ב-14 במאי 2025: סוכן שמשתמש ב-Gemini כדי לגלות ולשפר אלגוריתמים. לפי החברה, הוא האיץ ב-23% רכיב חישובי מרכזי באימון של Gemini, מה שקיצר ב-1% את זמן האימון של המודל — כולל אימון המודלים שעליהם AlphaEvolve עצמו מבוסס — וגם משיב בממוצע 0.7% ממשאבי המחשוב העולמיים של גוגל. זו לולאה אמיתית, אבל השיפורים צנועים, ובני אדם עדיין מחליטים מה לבדוק ומה ליישם.

המעבדות מכוונות לחוקר אוטומטי

בשנים האחרונות הפכה השאלה ממופשטת ליעד עסקי מוצהר. ב-28 באוקטובר 2025 אמר סם אלטמן ש-OpenAI מכוונת לעוזר מחקר ברמת מתמחה עד ספטמבר 2026 ול"חוקר AI של ממש" עד 2028. המדען הראשי של החברה, יאקוב פחוצקי, תיאר חוקר כזה כ"מערכת שמסוגלת לבצע באופן אוטונומי פרויקטי מחקר גדולים יותר", ואמר שייתכן שמערכות למידה עמוקה רחוקות פחות מעשור מבינת-על. ב-6 בספטמבר 2026 הודיעה OpenAI שהשיגה את היעד הראשון: "מתמחה מחקר אוטומטי" שמבצע משימות מחקר מוגדרות היטב בהכוונה אנושית, כולל משימות שהיו לוקחות לחוקר מיומן כמה ימים. זו הצהרה של החברה, שלא אומתה באופן עצמאי. מדידות של ארגון METR מראות מגמה דומה בכיוונה: אורך המשימות שמודלים משלימים גדל, ולפי עדכון מינואר 2026 זמן ההכפלה של המדד אצל מודלים מאז 2024 עומד על 89 ימים.

הטיעונים הספקניים

לרעיון יש מבקרים רבים. פול אלן טען שקיים "בלם מורכבות": ככל שמערכות מתקדמות, כל שיפור נוסף קשה יותר להשגה. תאודור מודיס טען שהתקדמות טכנולוגית נוטה לנוע בעקומות S — האצה, ואחריה האטה ותשואה פוחתת — ולא בצמיחה מעריכית מתמשכת. סטיבן פינקר כתב ש"אין שום סיבה להאמין בסינגולריות קרבה". מעבר לטיעונים העקרוניים יש גם מגבלה מעשית: מערכת שמאמנת את עצמה על הפלט שלה עלולה להידרדר, כפי שמתאר המחקר על קריסת מודל. והשיפורים שנצפו עד היום, כמו אלה של AlphaEvolve, נמדדים באחוזים בודדים ולא בקפיצות מדרגה. השאלה אם הלולאה תאיץ, תתייצב או תיעצר נשארת פתוחה.

למה זה נושא בטיחותי

גם מי שאינו מאמין בפיצוץ אינטליגנציה מהיר מתייחס לשאלה ברצינות, משום שהיא משנה את קצב ההתפתחות ואת היכולת לפקח עליה. ויקיפדיה מונה כמה סיכונים שנדונים בהקשר הזה: מערכת עלולה לפתח מטרות-ביניים כמו שימור עצמי; היא עלולה להיות לא מיושרת עם כוונות מפתחיה — וכדוגמה מוזכר מחקר של Anthropic מ-2024 שבו תועד זיוף-יישור; והתפתחות אוטונומית מהירה עלולה לעקוף את קצב הפיקוח האנושי. כאן גם נמצא הקשר בין הרעיון למונחים כמו יישור וסיכון קיומי: אם מערכת משפרת את עצמה, כל פגם במטרותיה עלול להשתמר ואף להתעצם בדור הבא. הסייג של גוד מ-1965 — "בתנאי שהמכונה צייתנית מספיק" — הוא עדיין לב הוויכוח.