הסינגולריות הטכנולוגית (Technological Singularity)

השורש הרעיוני נטוע במאמרו של המתמטיקאי הבריטי אי-ג'יי גוד מ-1965, שטבע את מושג "התפוצצות-האינטלגנציה": מכונה על-אינטליגנטית תוכל לתכנן מכונות טובות אף ממנה, וכך תיווצר "התפוצצות" בלתי-נמנעת שתשאיר את האינטליגנציה האנושית הרחק מאחור. המתמטיקאי וסופר-המדע-הבדיוני ורנר וינג' טבע את המונח "סינגולריות" עצמו בטור-דעה במגזין Omni ב-1983, והרחיב אותו במאמרו המשפיע "The Coming Technological Singularity" (1993) — תיאר רגע-מעבר שמעבר לו קשה במיוחד לחזות עתיד אנושי, כי בינה-על תתקדם בקצב שחורג מיכולת-ההבנה האנושית. ריי קורצווייל הביא את הרעיון לתודעה הציבורית הרחבה בספרו "הסינגולריות מתקרבת" (2005), עם "חוק התשואות-המואצות" שלו, וחזה ש-AI ברמה-אנושית יגיע סביב 2029 והסינגולריות עצמה סביב 2045 — תחזית שחזר ואישרר ב-2024.

הרעיון שנוי-במחלוקת עמוקה. מבקרים בולטים — סטיבן פינקר, פול אלן, ג'רון לניר וגורדון מור עצמו — מטילים ספק בהנחת-הצמיחה-המעריכית, וטוענים שההתקדמות הטכנולוגית נוטה להיראות כעקומת-S עם תשואות-פוחתות, לא כפיצוץ בלתי-פוסק. פול אלן טען שככל שההבנה מעמיקה, ההתקדמות דווקא נעשית קשה יותר, לא קלה יותר ("בלם-המורכבות"). מנגד, הפיזיקאי סטיבן הוקינג הזהיר ש-AI מוצלח עשוי להיות "ההישג האחרון" של האנושות, ללא בטחונות מתאימים.

הדיון האקדמי מבחין בין "המראה קשה" (hard takeoff) — שיפור-עצמי מהיר תוך שעות או ימים, מהיר-מדי לתיקון-כיוון אנושי — לבין "המראה רך" (soft takeoff) לאורך עשורים, שמאפשר הכוונה אנושית מתמשכת. סקרים מ-2025 מראים שרוב המומחים צופים בינה כללית מלאכותית (AGI) עד 2100, כשההערכה החציונית העדכנית עומדת סביב 2040. ביוני 2025 קבע מנכ"ל OpenAI סם אלטמן ש"תהליך ההמראה כבר החל" — לא רגע-מפנה בודד, אלא "עקומה מעריכית משוגעת" מתמשכת. ארגונים כמו מכון-מחקר-הבינה-המכונתית (Machine Intelligence Research Institute) עוסקים במחקר-יישור (alignment) שמנסה להבטיח שמטרות מערכות-AI עתידיות יישארו תואמות לערכים אנושיים, גם אם היכולות שלהן יעלו על אלה של בני-אדם.