אורך הקשר (Context Length)

אורך-הקשר קובע כמה טקסט — שיחה קודמת, מסמך שהודבק, קוד ארוך — המודל יכול להתחשב בו בבת אחת בעת יצירת תשובה. מודלים מוקדמים הוגבלו לכמה אלפי טוקנים; מודלים מודרניים תומכים לעיתים במאות אלפים.

חלון-הקשר הוא המונח הנפוץ יותר לאותו רעיון בפועל — כשמדברים על "כמה המודל זוכר", בדרך כלל מתכוונים בדיוק לאורך-ההקשר הנתמך שלו.