רגולריזציה (Regularization)

מודל גדול מדי ביחס לכמות הנתונים עלול פשוט "לזכור" את דוגמאות-האימון בעל-פה, במקום ללמוד את הכלל הכללי מאחוריהן — תופעה שנקראת התאמת-יתר. רגולריזציה מגבילה מלאכותית את יכולת המודל "לשנן" בדרך הזו.

טכניקות נפוצות כוללות הענשה על פרמטרים גדולים מדי, או שיטות כמו Dropout שמכבות אקראית חלק מהרשת בזמן האימון — מכריחות את המודל לא להסתמך על מסלול-פתרון בודד ושביר.