אינטליגנציית-על (Artificial Superintelligence)
הגדרה
אינטליגנציית-על, שנקראת גם בינת-על, היא מערכת היפותטית שיכולותיה השכליות עולות בהרבה על אלה של בני האדם כמעט בכל תחום. זהו שלב שמעבר לבינה מלאכותית כללית, ונושא מרכזי בוויכוח על סיכוני AI.
💡 דוגמה
מחשבון מחשב מהר מכל אדם — אבל רק חשבון. אינטליגנציית-על היא רעיון של מערכת שהייתה עולה על המומחים הטובים ביותר כמעט בכל דבר: מדע, תכנון, כתיבה ושכנוע.
נכון להיום זו השערה ויעד מוצהר של חברות, לא מערכת שקיימת.
ההגדרה
אינטליגנציית-על (Artificial Superintelligence, ובקיצור ASI), שבעברית נקראת לעיתים גם בינת-על, היא סוכן היפותטי שהאינטליגנציה שלו עולה על זו של המוחות האנושיים המוכשרים ביותר. ההגדרה המצוטטת ביותר היא של הפילוסוף ניק בוסטרום: "כל תבונה שעולה בהרבה על הביצועים הקוגניטיביים של בני אדם כמעט בכל תחומי העניין". המילים החשובות הן "בהרבה" ו"כמעט בכל": מערכת שמצטיינת במשימה אחת, או שמשתווה לאדם, אינה עונה להגדרה.
כאן גם ההבדל מבינה מלאכותית כללית (AGI): בינה כללית מתוארת כמערכת שמגיעה לרמה האנושית, ואילו אינטליגנציית-על עולה עליה בהרבה. לפי ויקיפדיה העברית, חלק מהחוקרים סבורים שאינטליגנציית-על תגיע זמן קצר אחרי AGI, מפני שהמכונות הכלליות הראשונות צפויות להחזיק ביתרונות שאין לבני אדם — כמו זיכרון מושלם, בסיס ידע רחב מאוד ויכולת לבצע הרבה משימות במקביל. הערך הזה עוסק במושג עצמו; להבדל בינו לבין גופים שנושאים את שמו מוקדש סעיף בהמשך.
איך מגיעים לשם: פיצוץ אינטליגנציה ומהירות
הדרך המוכרת ביותר שהוצעה לאינטליגנציית-על היא שיפור-עצמי רקורסיבי: מערכת שמשפרת את עצמה הופכת טובה יותר בשיפור עצמה, והמעגל עלול להוביל ל"פיצוץ אינטליגנציה". הפילוסוף דייוויד צ'למרס פירק את הטיעון לשלבים: בינה מלאכותית תגיע לשוויון עם האינטליגנציה האנושית, אחר כך אפשר יהיה להרחיב אותה מעבר לה, ולבסוף להעצים אותה עוד יותר. לגבי השלב הראשון הוא טוען שהמוח האנושי הוא מערכת מכנית, ולכן חומרים סינתטיים אמורים להיות מסוגלים לחקות אותו.
בוסטרום מוסיף טיעון של מהירות. בספרו מ-2014, "אינטליגנציית-על: דרכים, סכנות, אסטרטגיות", כתב ש"נוירונים ביולוגיים פועלים במהירות שיא של כ-200 הרץ, איטיים בשבעה סדרי גודל ממיקרו-מעבד מודרני", ושנוירונים מעבירים אותות במהירות של לא יותר מ-120 מטר לשנייה, בעוד שליבות עיבוד אלקטרוניות יכולות לתקשר אופטית, במהירות האור. לכן, לדבריו, הדוגמה הפשוטה ביותר לאינטליגנציית-על עשויה להיות מוח אנושי מדומה שרץ על חומרה מהירה בהרבה. הוא העלה גם את האפשרות של אינטליגנציית-על קולקטיבית: הרבה מערכות נפרדות שמתאמות ביניהן היטב, ופועלות יחד ביכולת שעולה בהרבה על כל אחת מהן.
מושג אחד, כמה גופים שנושאים את שמו
בשנים האחרונות המילה יצאה מהספרות הפילוסופית והפכה ליעד עסקי ופוליטי, ולכן כדאי להבחין בין המושג לבין הגופים שקרויים על שמו. Safe Superintelligence היא חברה שייסד איליה סוצקבר ב-2024, אחרי שעזב את OpenAI, ושמתמקדת לדבריה אך ורק ביצירת אינטליגנציית-על בטוחה, בלי "הסחות דעת של ניהול או מחזורי מוצר". Meta Superintelligence Labs היא חטיבת בינה מלאכותית שמטא הקימה ב-2025 בהובלת אלכסנדר ואנג. ב-30 ביולי 2025 פרסם מארק צוקרברג את חזון "אינטליגנציית-העל האישית" של מטא: "לכל אחד אינטליגנציית-על אישית שעוזרת לו להשיג את מטרותיו".
בצד השני עומדת ההצהרה על בינת-על, קריאה ציבורית של מכון Future of Life "לאסור את פיתוחה של בינת-על", עד שיהיו קונצנזוס מדעי רחב שהדבר ייעשה באופן בטוח ובר-שליטה ותמיכה ציבורית חזקה. כלומר: אותה מילה משמשת גם חברות שמכריזות שהן בונות את הדבר, וגם יוזמה שדורשת לאסור אותו.
מתי? התחזיות
אין הסכמה על לוח הזמנים. בסקר שהקיף 2,778 חוקרי AI ופורסם בינואר 2024, החוקרים העריכו סיכוי של 10% שעד 2027 מכונות יעלו על בני אדם בכל משימה אפשרית, וסיכוי של 50% שזה יקרה עד 2047. בסקר מוקדם יותר, מ-2022, השנה החציונית שבה צפו המשיבים "אינטליגנציית מכונה ברמה גבוהה" הייתה 2061. חשוב לשים לב שהסקרים האלה שואלים על יכולת ברמה אנושית ומעלה, ולא בהכרח על אינטליגנציית-על במובן של בוסטרום.
ראשי החברות מדברים על טווחים קצרים בהרבה. ב-2023 פרסמו סם אלטמן, גרג ברוקמן ואיליה סוצקבר מ-OpenAI המלצות לממשל של אינטליגנציית-על, שלדעתם עשויה להגיע בתוך פחות מעשר שנים. אלטמן פתח את הפוסט שלו "The Gentle Singularity" במשפט "עברנו את אופק האירועים; ההמראה התחילה". אלה הצהרות של מי שמפתחים את הטכנולוגיה ומגייסים כסף עבורה, ויש לקרוא אותן בהתאם.
למה זה נושא של בטיחות
אם מערכת עולה בהרבה על בני אדם, השאלה המרכזית היא אם אפשר לוודא שהיא פועלת לפי ערכים אנושיים — הבעיה שנקראת יישור. בוסטרום הציג בהקשר הזה שני רעיונות שנעשו בסיס לדיון. לפי "תזת האורתוגונליות", "כמעט כל מטרה סופית יכולה להשתלב עם כמעט כל רמת אינטליגנציה" — כלומר מערכת חכמה מאוד אינה בהכרח בעלת מטרות טובות. לפי רעיון "ההתכנסות האינסטרומנטלית", ישויות נבונות מספיק עם מטרות שונות מאוד ינטו לרדוף אחרי מטרות ביניים דומות, כמו השגת משאבים או שימור עצמי, כי אלה עוזרות להשיג כמעט כל מטרה.
החשש אינו נחלת קבוצה קטנה. באותו סקר מ-2024, בין 38% ל-51% מהחוקרים נתנו סיכוי של 10% לפחות לתוצאות "גרועות כמו הכחדת האנושות", ורוב רחב הסכים שמחקר שנועד לצמצם סיכונים מ-AI צריך לקבל עדיפות גבוהה יותר. כאן נמצא הקשר בין אינטליגנציית-על לבין מושגים כמו סיכון קיומי והסתברות לאבדון.
הספקנים
לא כולם מקבלים את המסגרת. ויקיפדיה העברית מציינת שחוקרים חלוקים בדעותיהם לגבי הסבירות שהאינטליגנציה האנושית תיעקף בעתיד הנראה לעין. מדעני המחשב ארווינד נאראיאנן וסאיאש קאפור טענו באפריל 2025, במאמר "AI as Normal Technology", שיש להתייחס ל-AI כטכנולוגיה רבת עוצמה אך "רגילה", כמו חשמל או האינטרנט, ולא כישות שעומדת להפוך לאינטליגנציית-על. לדבריהם, "אין מובן שימושי של המונח 'אינטליגנציה' שבו AI אינטליגנטי יותר מאנשים שנעזרים ב-AI".
הם טוענים גם שקצב ההשפעה מוגבל מטבעו: "מהירות ההתפשטות מוגבלת מטבעה במהירות שבה אנשים, ארגונים ומוסדות מסוגלים להסתגל". במקום להתמקד ביישור של מערכת-על היפותטית, הם מציעים כלים מוכרים: ביקורת וניטור, מנגנוני כשל בטוח, מפסקים ועקרונות מעולם אבטחת המידע. הוויכוח הזה — האם אינטליגנציית-על היא תרחיש ממשי שצריך להתכונן אליו, או מושג עמום שמסיט את תשומת הלב מבעיות של היום — הוא אחד הוויכוחים המרכזיים בתחום.
📬 הגיליון השבועי של Wiki-AI
פעם בשבוע, ביום ראשון: שלושת הדברים החשובים שקרו בעולם הבינה המלאכותית, בעברית פשוטה, וערכים חדשים באנציקלופדיה. לגיליונות
שאלות נפוצות ❓
מה ההבדל בין AGI לאינטליגנציית-על?
בינה כללית מתוארת כמערכת שמגיעה לרמה האנושית. אינטליגנציית-על, לפי ההגדרה של בוסטרום, עולה בהרבה על בני אדם כמעט בכל תחום. חלק מהחוקרים סבורים שהשנייה תגיע זמן קצר אחרי הראשונה.
האם Safe Superintelligence היא אינטליגנציית-על?
לא. Safe Superintelligence היא חברה שייסד איליה סוצקבר ב-2024, שמטרתה המוצהרת לבנות אינטליגנציית-על בטוחה. המושג עצמו מתאר מערכת היפותטית שעדיין לא קיימת.
מה זו ההצהרה על בינת-על?
קריאה ציבורית של מכון Future of Life לאסור את פיתוח אינטליגנציית-העל עד שיהיו קונצנזוס מדעי רחב שהדבר בטוח ובר-שליטה ותמיכה ציבורית חזקה. יש לה ערך נפרד.
מתי היא עשויה להגיע?
אין הסכמה. בסקר של 2,778 חוקרים שפורסם ב-2024 הוערך סיכוי של 50% שמכונות יעלו על בני אדם בכל משימה עד 2047. ראשי OpenAI כתבו ב-2023 שזה עשוי לקרות בתוך פחות מעשר שנים, ומבקרים כמו נאראיאנן וקאפור מפקפקים במושג עצמו.
למה מדברים עליה כסיכון?
כי אם מערכת עולה בהרבה על בני אדם, קשה לוודא שהיא פועלת לפי ערכים אנושיים. בסקר מ-2024, בין 38% ל-51% מהחוקרים נתנו סיכוי של 10% לפחות לתוצאות גרועות כמו הכחדת האנושות.