מודל אוטורגרסיבי (Autoregressive Model)

במקום להפיק תשובה שלמה בבת אחת, מודל אוטורגרסיבי בוחר מילה (או חלקיק-מילה) אחת בכל פעם, מוסיף אותה להקשר, ומשתמש בהקשר המעודכן כדי לחזות את הבאה בתור — וחוזר חלילה.

זו הסיבה שתשובות מ-ChatGPT או Claude "נכתבות" בהדרגה על המסך במקום להופיע בבת אחת — כל מילה חדשה תלויה בכל מה שנכתב לפניה, כולל מה שהמודל עצמו כבר "אמר" באותה תשובה.