פיקוח אנושי (Human Oversight)

מערכת עם פיקוח אנושי שומרת ערוץ שבו בן-אדם יכול לבדוק, לתקן, או לעצור אותה — גם אם היא פועלת רוב הזמן בעצמה, בלי צורך באישור לכל פעולה בודדת.

זהו עקרון-מפתח ברגולציית AI רבה (כולל ה-EU AI Act) — הדרישה שמערכות מסוימות, במיוחד בסיכון-גבוה, יישארו תמיד ניתנות לפיקוח, ביקורת והתערבות אנושית, לא "קופסה שחורה" אוטונומית לחלוטין.