ניתוב סוכנים (Agent Routing)

ניתוב סוכנים (Agent Routing) הוא החלטה אוטומטית לאיזה סוכן מתמחה, מודל, או כלי-AI לשלוח בקשה נתונה — כדי שכל בקשה תטופל על-ידי הכתובת הכי מתאימה לה. כשמערכת-AI כוללת כמה סוכנים או מודלים מתמחים (אחד לשאלות-חשבוניות, אחד לתמיכה-טכנית, אחד לשיחת-מכירות), ניתוב הוא השלב הראשוני שקובע לאיזה מהם להעביר בקשה חדשה שנכנסת — לפני שכל טיפול ממשי בתוכן הבקשה בכלל מתחיל.

ניתוב מבוצע לרוב על-ידי מודל-שפה קטן ומהיר ("שכבת-ניתוב") שקורא רק את תחילת-הבקשה ומסווג אותה במהירות לקטגוריה מתאימה, לפני שהוא מעביר אותה הלאה — כך שרוב עלות-החישוב היקרה נחסכת לבקשות שבאמת דורשות אותה. דוגמה מוחשית: מוקד-תמיכה מבוסס-AI שמקבל פנייה "אני רוצה להחזיר מוצר פגום" מנתב אותה אוטומטית לסוכן-החזרות המתמחה, בעוד פנייה "איך משנים כתובת-משלוח" מנותבת לסוכן-חשבון נפרד — בלי שהמשתמש בכלל מבחין שיש כמה "מוחות" נפרדים מאחורי-הקלעים.

ניתוב חכם יכול גם לחסוך עלויות משמעותיות: בקשה פשוטה מנותבת למודל קטן וזול, בעוד בקשה מורכבת מנותבת למודל חזק (ויקר) יותר — מאזן בין איכות-תשובה לעלות-הפעלה בהתאם למורכבות בפועל, במקום להריץ כל בקשה, קלה כמורכבת, דרך המודל היקר ביותר הזמין באופן גורף.

ניתוב שגוי הוא נקודת-כשל שקטה ומטעה: בניגוד לתקלה גלויה, בקשה שנותבה לסוכן הלא-נכון עדיין מקבלת תשובה — רק תשובה פחות-מדויקת או פחות-רלוונטית, בלי שגיאה גלויה שמעוררת חשד מיידי. לכן מערכות-ניתוב רציניות נבדקות שיטתית מול מדגם גדול של בקשות אמיתיות, ולא רק מול כמה דוגמאות ידניות שנראות ברורות מראש בעיני המפתח.