כוונון-עדין חסכוני (PEFT)

מודלים ושפה

כוונון-עדין "מלא" (עדכון כל הפרמטרים) יקר בזיכרון ובחישוב, ודורש לשמור עותק שלם נפרד של המודל לכל משימה. PEFT מציעה אלטרנטיבות שמעדכנות רק שבריר קטן מהפרמטרים, ומשאירות את השאר קבוע.

מעבר ל-LoRA, המשפחה כוללת שיטות נוספות (כמו Prompt Tuning), וכולן חולקות אותו רעיון: להשיג רוב היתרון של כוונון-עדין מלא, במחיר-חישוב ואחסון קטן בהרבה.