לאנגסמית' (LangSmith)

כלים וסוכנים

הגדרה

לאנגסמית' (LangSmith) היא פלטפורמת המעקב, ההערכה והניטור המסחרית-הסגורה של לאנגצ'יין, שיצאה רשמית בפברואר 2024 ומיועדת לכל מסגרת-סוכנים ולא רק ללאנגצ'יין עצמה.

מוצר-אח, לא אותו מוצר

לאנגסמית' (LangSmith) היא לא לאנגצ'יין (LangChain) עם שם אחר. השתיים שייכות לאותה חברה, אבל הן שני מוצרים נפרדים עם מודל-רישוי הפוך: לאנגצ'יין היא ספריית-קוד-פתוח שמורדת מאות מיליוני פעמים בחודש, ולאנגסמית' - לפי ויקיפדיה - היא "פלטפורמת נצפות והערכה בקוד-סגור", שהחברה שחררה בפברואר 2024. בפועל המוצר יצא לבטא סגורה כבר ביולי 2023, כשההודעה הרשמית תיארה אותו כפלטפורמה מאוחדת ל"דיבוג, בדיקה, הערכה וניטור" של אפליקציות מבוססות-מודל - ארבע פעולות שעד אז דרשו כלים נפרדים: לוג פרטי לדיבוג, גיליון-אלקטרוני להשוואת-פרומפטים, ולפעמים תסריט-בדיקה נפרד לגמרי לניטור-פרודקשן.

ההבדל הקריטי, שקל לפספס: לאנגסמית' אינה כבולה ללאנגצ'יין. התיעוד הרשמי שלה מציין שהיא "עובדת עם מסגרות-פיתוח וספקים רבים" ותומכת גם ב-OpenTelemetry כפרוטוקול-מעקב סטנדרטי, כך שאפשר להריץ אותה מול OpenAI Agents SDK, LangGraph, או קוד עצמאי לגמרי - בלי לכתוב שורת-קוד אחת בלאנגצ'יין. זה מה שהופך אותה למוצר-תשתית בפני עצמו, לא לתוסף-דיבוג של ספרייה אחת. מבחינת מיצוב-שוק, זה גם ההסבר לכך שלאנגסמית' מופיעה בכל דיון על נצפוּת-סוכנים גם אצל ארגונים שלא נגעו בלאנגצ'יין - היא מתחרה ישירות בלאנגפיוז ובפיניקס של Arize על אותו קהל בדיוק, לא רק משרתת לקוחות-לאנגצ'יין קיימים.

שלוש שכבות: מעקב, הערכה, ניטור

כמו רוב הכלים בקטגוריה הזו, לאנגסמית' בנויה סביב שלוש יכולות. "מעקב" (Tracing) מציג "בדיוק מה הסוכן עושה, צעד אחר צעד", כדי "לאתר את הבעיות שפוגעות בזמן-תגובה, בעלות ובאיכות התשובה" - כלשון האתר הרשמי. "הערכה" מאפשרת "לנקד ולשפר את ביצועי הסוכן", דרך שילוב של שיפוט-מודל (LLM-as-judge) ובדיקות-קוד דטרמיניסטיות על מערכי-נתונים קבועים - כלומר אפשר להריץ את אותה סוויטת-בדיקות שוב ושוב אחרי כל שינוי בפרומפט או במודל, ולראות אם הציון עלה או ירד. ו"ניטור" נותן תמונת-זמן-אמת על ביצועים בפרודקשן, כולל מעקב-עלויות והתראות דרך Webhook או PagerDuty - כך שצוות-תפעול יכול לדעת על קפיצה בעלויות-טוקנים או בשיעור-כשלים לפני שמשתמש-קצה מתלונן.

הפלטפורמה תומכת ב-SDK בכמה שפות - פייתון, TypeScript, Go, Java - ומתחברת ישירות למסגרות-סוכנים נפוצות, מעבר ללאנגצ'יין עצמה. השילוב הזה בין ארבע הפעולות המקוריות (דיבוג, בדיקה, הערכה, ניטור) תחת ממשק אחד הוא בדיוק מה שהמאמר-המכונן מ-2023 הבטיח - וזה מה שהפך את המוצר, ולא רק את המושג 'נצפוּת-סוכנים', לקטגוריית-מוצר מוכרת בפני עצמה.

SmithDB ו-Insights: מנגנון ייעודי לנפח

מה שמבדיל את לאנגסמית' מכלי-מעקב כלליים הוא תשתית-הנתונים שמאחוריה. החברה בנתה SmithDB - מסד-נתונים "ייעודי לעקבות-סוכנים", שלפי תיאורה מספק "ביצועים תת-שנייתיים על פני מיליוני עקבות". זה פתרון לבעיה ממשית: סוכן שרץ בפרודקשן מייצר נפח-עקבות עצום - כל תור-שיחה מייצר עשרות מקטעים-מקוננים (קריאת-מודל, קריאת-כלי, קריאת-כלי-משנה), ומסד-נתונים כללי שלא תוכנן לשאילתות-עץ כאלה נתקע כשמנסים לשאול עליו שאלות בזמן-אמת, כמו "אילו עקבות מהשבוע האחרון כללו יותר משלוש קריאות-כלים רצופות לאותו כלי".

מעל התשתית הזו יושבת יכולת שנקראת Insights, שמתוארת כמסוגלת "לנתח ולקבץ באופן אוטומטי את העקבות שלך כדי לזהות דפוסי-שימוש, התנהגויות-סוכן נפוצות ומצבי-כשל" - כלומר לא להסתפק בהצגת עקבה בודדת, אלא לאתר תבנית חוזרת על פני אלפי ריצות בלי שמישהו יגדיר מראש מה לחפש. זו בדיוק היכולת ש"נצפוּת סוכנים", כמושג-על, מתארת כ"תשובה לשאלות שאיש לא חשב עליהן מראש" - ולאנגסמית' הופכת אותה למוצר קונקרטי ולא רק לעיקרון תיאורטי.

שלוש דרכי-פריסה, מוצר אחד סגור

לאנגסמית' מוצעת בשלוש צורות-פריסה: ענן מנוהל לגמרי, פריסה היברידית, ועצמאית (Self-Hosted) בתוך תשתית הלקוח. שלושתן, לפי התיעוד הרשמי, "כוללות נצפות, הערכה, הנדסת-פרומפטים ופריסה" - כלומר אין הבדל ביכולות בין המודלים, רק במי מארח את הנתונים. זה חשוב לארגונים שאסור להם להוציא נתוני-שיחה החוצה - בנקאות, בריאות, מגזר ציבורי - אבל עדיין רוצים את היכולות המסחריות של המוצר בלי לבנות תחליף פנימי.

עם זאת, בשונה מלאנגצ'יין, לאנגסמית' עצמה נשארת קוד-סגור בכל שלוש הצורות - מודל-עסקי שממנו החברה מרוויחה כסף, בזמן שהספרייה שנושאת חלק משמה נשארת חינמית וניתנת לשינוי. זהו בעצם אותו מודל-עסקי קלאסי של "ליבה חינמית, כלי-הפעלה בתשלום" שרוב הכלים המסחריים בקטגוריה הזו מאמצים - לאנגצ'יין פותה מפתחים לתוך האקוסיסטם דרך הספרייה, ואז מוכרת להם את שכבת-התפעול שהם צריכים כדי להריץ את זה בייצור בביטחון.

אימוץ בקנה-מידה ארגוני

לפי האתר הרשמי, ללאנגצ'יין יש מעל 350 מיליון הורדות חודשיות של הכלים הפתוחים שלה, ומעל 7,000 לקוחות פעילים בלאנגסמית' עצמה - ובהם חמש מתוך עשר החברות הגדולות בעולם (Fortune 10). עמוד-המוצר הרשמי מציג רשימת-לקוחות שכוללת את Expedia, Autodesk, Workday, Nvidia, ServiceNow ו-Coinbase - חברות מתעשיות שונות לגמרי (נסיעות, תוכנת-תכנון, HR, שבבים, ניהול-IT ארגוני, קריפטו), מה שמעיד שהצורך בנצפוּת-סוכנים חוצה תחומי-עיסוק ולא מוגבל לחברות-טכנולוגיה טהורות.

המספרים האלה ממקמים את לאנגסמית' כאחד המוצרים המסחריים הבולטים בקטגוריה - בניגוד לחלק מהמתחרים שצמחו קודם כפרויקט-קוד-פתוח ורק אחר-כך התחילו לגבות כסף. קנה-המידה הזה הוא גם מה שמאפשר ל-SmithDB להיבנות ולהצדיק את עצמה: בלי מיליוני עקבות ביום מלקוחות אמיתיים, מסד-נתונים ייעודי לעקבות-סוכנים הוא פשוט הנדסת-יתר.

המקום בתוך הקטגוריה

לאנגסמית' אינה היחידה שמציעה מעקב, הערכה וניטור לסוכני-AI - לאנגפיוז ופיניקס של Arize מציעות דבר דומה בקוד פתוח, ו-Braintrust מציעה תשתית-הערכה דומה בקוד סגור. מה שמייחד את לאנגסמית' הוא השילוב בין שני דברים שקשה למצוא יחד: אינטגרציה עמוקה ומיידית עם המסגרת הפתוחה הנפוצה ביותר לבניית סוכנים (לאנגצ'יין ו-LangGraph), יחד עם קנה-מידה ארגוני מוכח. המחיר הוא שהמוצר עצמו סגור - מי שרוצה שקיפות מלאה על הקוד שרץ על הנתונים שלו יפנה לרוב לאלטרנטיבה הפתוחה.

מבחינת ההגדרה של הקטגוריה: לאנגסמית' זכאית למקום כאן לא רק כי היא 'עוד כלי-ניטור', אלא כי היא הייתה מהראשונות שאיחדו דיבוג, בדיקה, הערכה וניטור תחת מוצר אחד סביב מסגרת-סוכנים - ולפי כך עיצבה בפועל איך נראית 'פלטפורמת נצפוּת-סוכנים' כקטגוריית-מוצר, ולא רק כמושג כללי כפי שהוא מתואר בערך נצפוּת סוכנים.

מעבר לנצפות: גם שכבת-פריסה

לצד שלוש היכולות המרכזיות, האתר הרשמי מציין גם רכיב "פריסה וסביבות-הרצה-מבודדות (Sandboxes) להרחבת-סוכן בפרודקשן" - כלומר לאנגסמית' לא נעצרת בהצגת מה שקרה, אלא נכנסת גם לשכבת-ההרצה עצמה: מתן סביבה מבודדת שבה סוכן יכול לפעול בביטחון בקנה-מידה, בלי שריצה בעייתית אחת תשפיע על ריצות אחרות. זו הרחבה טבעית מבחינת המוצר - ארגון שכבר סומך על לאנגסמית' לצפייה ולהערכה נוטה גם לרצות שהיא תספק את שכבת-ההרצה, כדי לצמצם את מספר הספקים שהוא צריך לנהל ולתחזק במקביל.

ההרחבה הזו גם מסבירה חלק מהמעבר של לאנגסמית' ממוצר-דיבוג צר לפלטפורמה רחבה יותר: מה שהתחיל כ'כלי לראות מה קרה' התרחב בהדרגה ל'כלי שגם מריץ את זה בפועל' - מגמה שמאפיינת גם מתחרות אחרות בקטגוריה ככל שהן בשלות.

מהכאב המקורי: מה בדיוק פתרה הגרסה הראשונה

כדאי לחזור לרגע להודעה המקורית מיולי 2023 כדי להבין למה המוצר תפס: לפניה, "דיבוג" של שרשרת-לאנגצ'יין משמעו לרוב הדפסות ל-console שנעלמות ברגע שהתהליך מסתיים, בלי דרך נוחה לחזור אחורה ולראות מה בדיוק נכנס ויצא מכל שלב. הפונקציה שההודעה מכנה "בדיקה" (Testing) פתרה בעיה מקבילה: "יצירת מערכי-נתונים והשוואת פרומפטים/שרשראות זו-לצד-זו" - כלומר לראשונה היה אפשר להריץ שתי גרסאות-פרומפט על אותם עשרות קלטים ולראות תוצאה-מול-תוצאה בטבלה אחת, במקום לבדוק ידנית דוגמה-דוגמה ולנסות לזכור אם הגרסה הקודמת הייתה טובה יותר.

הצירוף הזה - נראות מלאה על כל צעד, יחד עם יכולת-השוואה שיטתית בין גרסאות - הוא מה שהפך פיתוח-סוכנים מתהליך של 'ניסוי וטעייה עם זיכרון גרוע' לתהליך שאפשר לתעד ולשחזר. בדיוק בגלל זה המוצר תואר מההתחלה כ"פלטפורמה מאוחדת", ולא כאוסף של שלושה כלים נפרדים.

מה שלוקח בחשבון: עלות ותלות בספק

כמו כל מוצר-SaaS שמתומחר לפי נפח-שימוש, לאנגסמית' יוצרת שאלת-עלות שלא קיימת בדיוק באותה צורה בכלים-פתוחים שרצים על תשתית של הארגון עצמו: ככל שהסוכן פעיל יותר ומייצר יותר עקבות, כך גדלה החשבונית החודשית, לא רק עומס-השרתים הפנימי. לארגון שכבר משתמש בלאנגצ'יין ו-LangGraph, המעבר ללאנגסמית' טבעי כי האינטגרציה כבר קיימת בקוד; אבל צוות שבחר במסגרת-סוכנים אחרת לגמרי צריך לשקול את זה מול לאנגפיוז או פיניקס, ששתיהן מציעות הרצה-עצמאית בלי תלות בחשבונית-לפי-נפח וללא נעילה למודל-עסקי אחד.

זו בדיוק הסיבה שהשוק תומך בכמה שחקנים מקבילים ולא התכנס למוצר יחיד: הבחירה בין 'סגור ומשולב-עמוק, עם תשתית-נתונים ייעודית כמו SmithDB' לבין 'פתוח, עצמאי, וזול-יותר בקנה-מידה גדול' היא החלטה אסטרטגית ולא רק טכנית, ולעיתים קרובות היא זו שמכריעה בין לאנגסמית' למתחרותיה יותר מהשוואת-פיצ'רים גרידא.

שאלות נפוצות ❓

האם לאנגסמית' היא קוד פתוח, כמו לאנגצ'יין?

לא. לפי ויקיפדיה היא "פלטפורמת נצפות והערכה בקוד-סגור" שהחברה שחררה בפברואר 2024 - בניגוד ללאנגצ'יין עצמה, שהיא ספרייה פתוחה ברישיון MIT. אפשר לפרוס אותה בענן, בהיברידי או עצמאית, אבל בשלושת המקרים המוצר עצמו סגור.

צריך להשתמש בלאנגצ'יין כדי להשתמש בלאנגסמית'?

לא. לפי התיעוד הרשמי היא "עובדת עם מסגרות-פיתוח וספקים רבים" ותומכת ב-OpenTelemetry כתקן-מעקב כללי, כך שאפשר לחבר אליה כל קוד שמייצר עקבות תקניות, כולל OpenAI Agents SDK.

מה זה SmithDB?

מסד-הנתונים הייעודי שלאנגסמית' בנתה כדי לתמוך בשאילתות על מיליוני עקבות-סוכנים בזמן תת-שנייתי - תשתית שנועדה לפתור את בעיית-הנפח שכלי-מעקב כלליים נתקלים בה מול סוכנים פעילים בקנה-מידה.

מתי לאנגסמית' יצאה?

היא נכנסה לבטא סגורה ביולי 2023, כשההודעה תיארה אותה כפלטפורמה מאוחדת לדיבוג, בדיקה, הערכה וניטור, ולפי ויקיפדיה שוחררה רשמית בפברואר 2024 - כשנה וחצי אחרי שלאנגצ'יין עצמה יצאה כספרייה פתוחה.