בטיחות בינה מלאכותית (AI Safety)

בטיחות AI כוללת טווח רחב: מניעת תשובות מזיקות בשיחה יומיומית, עד מחקר על איך להבטיח שמערכות עתידיות עוצמתיות יותר יישארו בשליטה ויפעלו לטובת בני-אדם.

התחום כולל גם היבטים טכניים (יישור, מעקות-בטיחות, בדיקות-פריצה) וגם היבטים מדיניים (רגולציה, תקנים בין-לאומיים) — ונחשב היום לאחד התחומים הצומחים ביותר סביב פיתוח AI.