פלט מובנה (Structured Output)

תשובת-טקסט חופשית קשה לניתוח אוטומטי ע"י תוכנה — משפט אחד יכול לנוסח אותו מידע בעשרות דרכים שונות. פלט מובנה מכריח את המודל להתאים לתבנית מדויקת ומראש, כמו שדות קבועים בפורמט-נתונים סטנדרטי (JSON — JavaScript Object Notation), שהוצג לראשונה בתחילת שנות ה-2000 כדי לאפשר תקשורת בין דפדפן לשרת בלי צורך בתוספים.

עד 2024, פלט מובנה הושג בעיקר באמצעות בקשה מנוסחת-היטב בפרומפט ("החזר רק JSON תקין") — שיטה לא-אמינה במאה אחוז, שהמודל עלול לסטות ממנה. מאוגוסט 2024, OpenAI ואחרות הציעו אכיפה טכנית אמיתית ברמת-השרת, שמבטיחה שהפלט תמיד יתאים בדיוק למבנה המבוקש.

השיטה נשענת לרוב על תקן פורמלי בשם JSON Schema, שמגדיר בדיוק אילו שדות מותרים, אילו סוגי-נתונים (טקסט, מספר, רשימה) כל שדה יכול להכיל, ואילו שדות הם חובה. כשמפתח מספק סכימה כזו, השרת יכול לאכוף שהפלט תמיד יתאים לה במדויק — לא רק "ברוב המקרים", כפי שהיה נהוג לפני 2024.

זו טכנולוגיית-חיבור מרכזית בין מודלי שפה ומערכות-תוכנה קיימות — אפליקציה יכולה "לבקש" מהמודל להחזיר תמיד תשובה בצורה שהקוד שלה יודע לפרש בוודאות, בלי צורך "לנחש" מה המודל התכוון. תחום-המחקר הרחב יותר שעוסק בבעיה הזו — לימוד-מכונה שמייצר תוצרים מובְנים ותלויי-זה-בזה, לא רק ערכים בודדים — מכונה בספרות האקדמית "חיזוי מובנה" (Structured Prediction).

שימוש עסקי נפוץ במיוחד: חילוץ-מידע ממסמכים לא-מובְנים (כמו חשבוניות סרוקות או מיילים) לתוך טבלה מסודרת שאפשר לייבא ישירות למערכת-הנהלת-חשבונות — משימה שהייתה דורשת בעבר כללים ידניים מורכבים לכל פורמט-מסמך בנפרד, והיום ניתנת לביצוע עם פרומפט אחד וסכימת-פלט מוגדרת מראש. חברות רבות בתחום הפיננסים והביטוח, שמעבדות מסמכים בהיקפים גדולים, מדווחות על צמצום ניכר בזמן-העיבוד הידני בזכות המעבר לגישה הזו, במקום להסתמך על צוותי-הקלדה-ידנית או על כללי-חילוץ נוקשים לכל תבנית-מסמך בנפרד.