פרמטרים (Parameters)

פרמטרים (Parameters) הם הערכים המספריים הפנימיים שמודל AI "לומד" ומכוונן במהלך האימון — במובן מסוים, הם ה"זיכרון" של המודל, המקום שבו כל מה שהוא למד מאוחסן.

ככל שיש למודל יותר פרמטרים, בדרך כלל יש לו יכולת רבה יותר ללכוד תבניות מורכבות — וזו הסיבה שמודלי שפה גדולים נמדדים ומושווים לעיתים קרובות לפי "גודלם" במונחי מיליארדי פרמטרים.

יותר פרמטרים אינו יתרון חד-משמעי: מודל גדול יותר דורש יותר זיכרון וכוח חישוב להרצה, מה שמייקר ומאט אותו — ולכן חלק ניכר ממחקר ה-AI היום מתמקד ביצירת מודלים קטנים יותר שמשיגים ביצועים דומים ליריבים גדולים מהם.