קריאה לפונקציות (Function Calling)

במקום לענות "יש עכשיו 22 מעלות בתל אביב" (שעלול להיות שגוי או מיושן), מודל עם קריאה-לפונקציות מייצר בקשה מובנית שמופעלת בפועל ע"י תוכנה חיצונית, והתוצאה חוזרת למודל להשלמת התשובה.

יכולת זו הופכת מודל שפה מ"מנוע-טקסט" למרכיב בתוך מערכת גדולה יותר — הוא יכול לבדוק מזג-אוויר אמיתי, לחפש באינטרנט, או לעדכן לוח-שנה, במקום להסתמך רק על מה שהוא "זוכר".

בפועל, המפתח מגדיר מראש "סכימה" (Schema) שמתארת לכלי אילו פונקציות קיימות ואילו פרמטרים הן דורשות — למשל פונקציה בשם get_weather שמקבלת פרמטר city. כשמשתמש שואל "מה מזג האוויר בתל אביב", המודל לא מנחש תשובה, אלא מייצר קריאה מובנית כמו get_weather(city="תל אביב"), שקוד חיצוני מריץ בפועל ומחזיר תוצאה אמיתית שהמודל משלב לבסוף בתשובתו הסופית למשתמש.

היכולת הוצגה רשמית על ידי OpenAI ביוני 2023, ומאז אומצה כמעט על ידי כל ספקי מודלי השפה הגדולים בממשקי-התכנות שלהם. היא אבן-הבניין הטכנית שהפכה סוכני-AI מתוחכמים למעשיים — בלעדיה מודל יכול רק "לדבר על" פעולות, לא באמת לבצע אותן בעולם האמיתי. מודל יכול גם לשרשר כמה קריאות-פונקציות ברצף באותה משימה — למשל לחפש טיסה, ואז לבדוק את מזג-האוויר ביעד, ורק אז לנסח המלצה כוללת — בלי שהמשתמש יצטרך לבקש כל שלב בנפרד.

התפתחות מאוחרת יותר, קריאה-מקבילית-לפונקציות (Parallel Function Calling), מאפשרת למודל לבקש כמה פעולות בו-זמנית באותה תשובה אחת — במקום להמתין לתוצאה של פעולה אחת לפני שהוא מבקש את הבאה, מה שמקצר משמעותית את זמן-התגובה הכולל במשימות מורכבות שדורשות כמה מקורות-מידע שונים בבת אחת — למשל בדיקת מזג-אוויר בשלושה יעדים שונים במקביל, במקום שלושה סבבי-שיחה נפרדים.