מודרציית תוכן (Content Moderation)

פלטפורמות גדולות מקבלות יותר תוכן מדי דקה ממה שצוותי-מודרציה אנושיים יכולים לבדוק. מערכות AI סורקות אוטומטית תמונות, וידאו וטקסט, ומסמנות תוכן חשוד להסרה או לבדיקה אנושית נוספת.

האתגר המרכזי: איזון בין הסרת תוכן מזיק לשמירה על חופש-ביטוי לגיטימי — מודל AI עלול לטעות לשני הכיוונים, גם לפספס תוכן מזיק וגם לחסום תוכן תמים בטעות.