הבעיה: שאלות-סנתזה שאחזור רגיל לא פותר
GraphRAG היא שיטת-אחזור-מוגבר-בייצור (RAG) שפיתח צוות Microsoft Research בהובלת דארן אדג' (Darren Edge) וג'ונתן לארסון (Jonathan Larson), ותוארה לראשונה במאמר "From Local to Global: A Graph RAG Approach to Query-Focused Summarization", שהוגש לפרסום באפריל 2024. המאמר יוצא מתצפית פשוטה על מגבלה של RAG רגיל (הערך אחזור-מוגבר-בייצור (RAG) באתר הזה מסביר את הארכיטקטורה הבסיסית): שיטת-האחזור המקובלת — חלוקת מסמכים לקטעים, המרתם להטמעה וקטורית, ואחזור הקטעים הדומים ביותר לשאלה — מתפקדת היטב בשאלות-עובדה ממוקדות שהתשובה להן יושבת בקטע טקסט בודד, למשל "מתי נוסדה החברה?". היא נכשלת, לעומת זאת, בשאלות שהמאמר מכנה "שאלות-סנתזה גלובליות" (global sensemaking questions) — שאלות כמו "מהם הנושאים המרכזיים במערך הנתונים הזה?", שהתשובה להן פזורה על-פני מאות או אלפי מסמכים ולא מרוכזת באף קטע בודד. את הבעיה הזו המאמר מגדיר לא כבעיית-אחזור אלא כבעיית-סיכום-ממוקד-שאילתה (query-focused summarization): לא לשלוף את הקטע הנכון, אלא לסנתז תשובה שדורשת התבוננות על הקורפוס כולו בבת-אחת.
בניית גרף-הידע: חילוץ-ישויות וזיהוי-קהילות בשיטת ליידן
כדי לפתור את זה, GraphRAG מוסיפה שלב-אינדוקס שלם לפני שלב האחזור. ראשית, מודל-שפה עובר על קטעי-הטקסט (Text Units) שהמסמכים פוצלו אליהם, ומחלץ מהם ישויות (Entities), קשרים ביניהן (Relationships) וטענות-מפתח (Claims) — בדיוק כמו שאדם היה מסמן מי מוזכר כאן, ומה הקשר שלו לגורם האחר שמוזכר באותו קטע. התוצר הוא גרף-ידע (Knowledge Graph) שמחבר את כל הישויות שחולצו מהקורפוס כולו. שנית, על הגרף הזה מופעל אלגוריתם ליידן (Leiden Algorithm) לזיהוי-קהילות (Community Detection) — שיטה שמקבצת ישויות קרובות-זו-לזו לתוך קהילות היררכיות, כלומר קבוצות-נושא בכמה רמות-פירוט, מהכללי ביותר (למשל "בריאות") ועד הספציפי ביותר (למשל "מחקר קליני על תרופה מסוימת"). שלישית, עבור כל קהילה כזו, בכל רמה בהיררכיה, מודל-שפה מייצר מראש סיכום-קהילה (Community Report) — תקציר של מה שהקהילה הזו עוסקת בו לפי כל הישויות והקשרים שבתוכה. כל התהליך הזה קורה פעם אחת, בזמן האינדוקס, לפני שמשתמש שואל שאלה כלשהי.
שאילתה: חיפוש גלובלי מול חיפוש מקומי
בזמן השאילתה עצמה GraphRAG בוחרת בין שני אופני-חיפוש עיקריים, לפי סוג השאלה. חיפוש גלובלי (Global Search) מיועד לשאלות-סנתזה שדורשות ראייה של הקורפוס כולו: המערכת פונה לסיכומי-הקהילות שנוצרו מראש (לא למסמכי-המקור עצמם), ומרכיבה מהם תשובה בתהליך דמוי מפה-וצמצום (Map-Reduce) — כל סיכום-קהילה "מצביע" בנפרד על מידת-הרלוונטיות שלו לשאלה, ואז מודל-שפה מאחד את התשובות-החלקיות הרלוונטיות ביותר לכדי תשובה אחת. חיפוש מקומי (Local Search), לעומת זאת, מיועד לשאלות שמתמקדות בישות ספציפית ובשכנות המיידית שלה בגרף — קרוב יותר באופיו לאחזור-מוגבר-בייצור רגיל, אך נעזר במבנה-הגרף כדי להביא גם מידע-הקשר על ישויות קשורות ולא רק על הישות עצמה. גרסאות מאוחרות יותר הוסיפו שני אופנים נוספים: DRIFT Search, שמשלב חיפוש-מקומי סביב ישות ספציפית יחד עם הקשר-קהילתי רחב יותר; ו-Basic Search, נפילה-חזרה (Fallback) לחיפוש-וקטורי פשוט כשהמבנה הגרפי אינו נחוץ.
קוד פתוח ואימוץ
Microsoft פרסמה את הקוד כפרויקט קוד-פתוח בשם microsoft/graphrag תחת רישיון MIT, עם גרסה ראשונה ביולי 2024; נכון ל-2026 המאגר צבר למעלה מ-36 אלף כוכבים ב-GitHub. במאמר המקורי Microsoft פרסמה גם תוצאות-השוואה: על קורפוסים בגודל של כמיליון טוקן, GraphRAG הראתה שיפורים משמעותיים לעומת בסיס-השוואה של RAG רגיל, נמדדים לפי שני מדדים — מקיפות (Comprehensiveness) ומגוון (Diversity) של התשובות שנוצרו — בדיוק סוגי-המדד שרלוונטיים לשאלות-סנתזה גלובליות ולא לדיוק-עובדתי נקודתי.
המחיר: אינדוקס יקר, וניסיונות להוזיל אותו
היתרון הזה בא במחיר ברור: בניית גרף-הידע דורשת להריץ מודל-שפה על כל קטעי-הטקסט בקורפוס כדי לחלץ ישויות וקשרים, ואז להריץ אותו שוב כדי לייצר סיכום לכל קהילה בכל רמת-היררכיה — עלות-אינדוקס גבוהה משמעותית מחלוקה פשוטה לקטעים בלי חילוץ. Microsoft עצמה התמודדה עם הבעיה הזו בשני צעדים נפרדים. בנובמבר 2024 פרסמה שיפור בשם "בחירת-קהילות דינמית" (Dynamic Community Selection): לפני שמודל-שפה יקר (GPT-4o) מעבד את כל סיכומי-הקהילה, מודל זול וקל יותר (GPT-4o-mini) מדרג כל סיכום לפי רלוונטיות לשאלה ומסנן את הלא-רלוונטיים מראש — שיפור שהוריד את עלות החיפוש הגלובלי ב-77 אחוז ברמת-קהילה הראשונה, תוך שמירה על איכות דומה. כעבור עשרה ימים, ב-25 בנובמבר 2024, הציגה Microsoft גישה רדיקלית יותר בשם LazyGraphRAG: במקום לחלץ ישויות וקשרים באמצעות מודל-שפה כבר בזמן האינדוקס, LazyGraphRAG מסתפקת בשלב האינדוקס בחילוץ-ביטויי-שם (Noun Phrase Extraction) פשוט מבוסס-כללי-שפה, ודוחה את השימוש היקר במודל-שפה לזמן השאילתה בלבד — מה שהופך את עלות-האינדוקס לזהה לזו של RAG וקטורי רגיל, כ-0.1 אחוז בלבד מעלות אינדוקס GraphRAG המלאה. לפי Microsoft, בתקציב-בדיקות-רלוונטיות של 100, LazyGraphRAG משיגה איכות-תשובה דומה לחיפוש הגלובלי המלא, אך במחיר-שאילתה נמוך פי יותר מ-700; ובתקציב של 500 היא עולה על כל השיטות המתחרות תמורת 4 אחוזים בלבד מעלות-השאילתה של החיפוש הגלובלי.
איך מודדים "מקיפות" ו"מגוון": השוואות זוגיות
המדדים "מקיפות" ו"מגוון" אינם מספרים מוחלטים אלא תוצאה של השוואה זוגית: בכל מבחן, שתי תשובות מוצגות זו לצד זו — אחת מ-GraphRAG ואחת מבסיס-ההשוואה — ומודל-שפה נפרד מתבקש להכריע איזו מהן טובה יותר לפי הקריטריון הנבדק, בלי לדעת איזו תשובה שייכת לאיזו שיטה. שיעור-הניצחון (Win Rate) שמתקבל מסכם כמה פעמים כל שיטה "ניצחה" מתוך כלל ההשוואות. בבלוג-ההמשך מנובמבר 2024, למשל, הדוח על שיפור בחירת-הקהילות-הדינמית דיווח על שיעורי-ניצחון של 58 עד 60 אחוז על-פני חיפוש-גלובלי סטטי, במדדי המקיפות וה"העצמה" (Empowerment) — מדד נוסף שבודק עד כמה התשובה נותנת לקורא כלים להבין ולפעול לפי המידע, לא רק כמות-מידע גולמית.
טענות-מפתח (Claims): לא רק ישויות וקשרים
מעבר לישויות ולקשרים ביניהן, שלב-החילוץ של GraphRAG מזהה גם טענות-מפתח (Claims) — היגדים קונקרטיים שמיוחסים לישות מסוימת בטקסט, למשל "חברה X רכשה את חברה Y בשנה מסוימת". הטענות האלה נשמרות מקושרות הן לישויות שהן עוסקות בהן והן למקור-הטקסט-המדויק שממנו חולצו, כך שכל תשובה שנשענת עליהן אפשר לעקוב אחורה עד למשפט המקורי במסמך. זו תוספת שמבדילה את הגישה מסתם "גרף-ישויות" גנרי: הגרף לא רק ממפה מי מחובר למי, אלא גם שומר אילו טענות ספציפיות נטענו על כל קשר כזה — מידע שמאפשר גם דיוק רב יותר בתשובה, וגם שקיפות לגבי המקור שממנו היא הגיעה.
עדכון הגרף כשמסמכים חדשים נוספים
יש הבדל גם בתחזוקה השוטפת בין שתי הגישות. ב-RAG וקטורי רגיל, הוספת מסמך חדש היא פעולה מקומית ופשוטה: מחלקים אותו לקטעים, ממירים אותם להטמעה, ומוסיפים למאגר — בלי לגעת במה שכבר קיים, בדיוק כפי שמתואר בערך אחזור-מוגבר-בייצור (RAG). ב-GraphRAG התמונה מורכבת יותר: מסמך חדש עשוי להכניס ישויות וקשרים שמשנים את מבנה-הקהילות שכבר חושב — ישות חדשה עלולה לגשר בין שתי קהילות שהיו נפרדות עד כה, כך שעדכון מלא-משמעות עלול לדרוש הרצה חוזרת, לפחות חלקית, של זיהוי-הקהילות וסיכומן, ולא רק תוספת נקודתית כמו ב-RAG וקטורי. זו אחת הסיבות שפריסות GraphRAG בפועל נוטות להתאים לקורפוסים שמתעדכנים במחזורים מתוזמנים (למשל אינדוקס-מחדש שבועי או חודשי) ולא לזרם רציף של מסמכים בודדים שנכנסים כל הזמן.
לא לבד בשוק: LightRAG ופרויקטים דומים
ההצלחה של GraphRAG עוררה מתחרים אקדמיים ולא רק מסחריים. LightRAG, שפיתחה קבוצת-מחקר באוניברסיטת הונג-קונג (HKUDS — Data Intelligence Lab@HKU) ושפורסמה ב-2024, ממצבת את עצמה במפורש כ"חלופה יעילה ל-GraphRAG של Microsoft": היא משלבת ארכיטקטורה דו-שכבתית של גרף-ידע ומסד-וקטורי יחד, וטוענת שהיא מפחיתה דרמטית את מספר קריאות-מודל-השפה הנדרשות הן באינדוקס והן בשאילתה, לעומת GraphRAG המקורית. הפרויקט קוד-פתוח תחת רישיון MIT, ונכון ל-2026 מוצג כדוגמה מובילה לגל רחב יותר של "RAG מבוסס-גרף" שהתפתח בעקבות המאמר המקורי של Microsoft — עדות לכך ש-GraphRAG לא רק פתרה בעיה ספציפית, אלא הפכה לקטגוריה שלמה שחוקרים ומפתחים נוספים ממשיכים לחדש בתוכה.
מתי GraphRAG משתלמת ומתי לא
המחיר הגבוה הופך את GraphRAG לכלי ממוקד ולא לתחליף גורף ל-RAG רגיל: היא משתלמת בעיקר עבור קורפוסים גדולים וסטטיים-יחסית שעליהם עתידים להישאל הרבה שאלות-סנתזה חוזרות — למשל ארכיון-מחקר, מאגר-מסמכי-חברה, או קורפוס-חדשות — כי עלות-האינדוקס החד-פעמית מתחלקת על פני שאילתות רבות. עבור מסמך בודד, קורפוס קטן, או צורך בעיקר בשליפת-עובדות ממוקדות (במקום סנתזה רוחבית), RAG רגיל — או אפילו הזנת המסמך כולו לחלון-ההקשר, כפי שמתואר בערך אחזור-מוגבר-בייצור (RAG) — פשוט זול ומהיר יותר, בלי הצורך בשלב-אינדוקס יקר שתועלתו מוגבלת. GraphRAG ו-LazyGraphRAG יחד ממחישים בעיה כללית יותר בתחום ה-RAG: לכל שיפור-איכות יש עלות-חישוב נלווית, וההחלטה איזו גרסת-RAG להשתמש בה היא בסופו של דבר החלטת-תקציב, לא רק החלטה טכנית.