עלות האימון היא הוצאה חד-פעמית: משלמים אותה פעם אחת כדי לייצר את המודל, ואז אפשר להריץ אותו שוב ושוב. היא הסיבה המרכזית לכך שרק מספר קטן של חברות בעולם מפתחות מודלים חזיתיים.
קצב העלייה חד. אימון GPT-2, שיצא בפברואר 2019, הוערך בכ-50 אלף דולר. אימון GPT-3, שיצא במאי 2020, הוערך בחישוב שנעשה באותה שנה בכ-4.6 מיליון דולר. מודל Megatron-Turing NLG משנת 2021 הוערך בכ-11 מיליון, ו-PaLM של גוגל מאפריל 2022 בכ-8 מיליון. את עלות האימון של GPT-4, שיצא במרץ 2023, OpenAI לא פרסמה; סם אלטמן אמר שהיא עלתה על 100 מיליון דולר.
מדד יציב יותר מדולרים הוא כמות החישוב, שנמדדת ביחידה שנקראת פטה-פלופ-יום. כאן אין הערכות אלא נתונים מדווחים: GPT-1 דרש פטה-פלופ-יום אחד ב-2018, GPT-3 דרש 3,640 ב-2020, ו-Llama 3.1 של Meta דרש 440 אלף ביולי 2024 — פי מאה ועשרים מ-GPT-3 בארבע שנים. לפי דוח מדד ה-AI של סטנפורד ממהדורת 2025, כמות החישוב לאימון מודל חזיתי מכפילה את עצמה בערך כל חמישה חודשים.
העלות הזו היא הסיבה המרכזית לכך שבניית מודלים חזיתיים עברה כמעט כולה מהאקדמיה לתעשייה: לפי אותו דוח, כמעט 90 אחוזים מהמודלים הבולטים שיצאו ב-2024 הגיעו מחברות מסחריות, לעומת כ-60 אחוזים ב-2023. מעבדה אוניברסיטאית פשוט אינה יכולה לממן סכומים כאלה.
ראוי לזכור שכל מספרי הדולרים כאן הם הערכות של גורמים חיצוניים או אמירות של מנהלים, ולא דיווח כספי מבוקר. עלות האימון של מודלים מסחריים כמעט אינה מתפרסמת רשמית, ולכן הפער בין ההערכות השונות לאותו מודל עשוי להיות גדול. כמות החישוב, לעומת זאת, מדווחת לעיתים קרובות יותר והיא הבסיס האמין יותר להשוואה.