Huawei Pangu

מה זה Pangu, ומה הגבול מול וואווי

Pangu הוא השם שנתנה וואווי למשפחת מודלי הבינה המלאכותית שלה, על שם דמות הבורא הקדמון במיתולוגיה הסינית. הערך הזה עוסק במודלים עצמם: אילו דורות יצאו, איך הם בנויים ובאילו תנאים אפשר להשתמש בהם. ההיסטוריה של החברה, שבבי Ascend ושכבת התוכנה CANN שסביבם, וההגבלות האמריקאיות על וואווי, מתוארים בערך וואווי. מודל מזג האוויר Pangu-Weather מוזכר כאן בקצרה, והגישה כולה מוסברת בערך על חיזוי מזג אוויר בבינה מלאכותית.

קו מרכזי במשפחה הוא החומרה: לפי וואווי, מודלי השפה PanGu-α, ‏PanGu-Σ ו-openPangu אומנו על שבבי Ascend שלה, ולא על מעבדים גרפיים של NVIDIA. עם השנים התפצלה המשפחה לשני מסלולים. האחד הוא מודלים עסקיים שמוצעים ללקוחות דרך Huawei Cloud ומותאמים לענפים כמו כרייה, ייצור ופיננסים. השני הוא openPangu, סדרה של מודלים שהמשקלים שלהם פורסמו לציבור, בתנאי רישיון שניסחה וואווי עצמה.

2021–2023: מודל ענק בסינית על שבבים מקומיים

המאמר הראשון יצא באפריל 2021 והציג את PanGu-α, מודל שפה בסינית עם עד 200 מיליארד פרמטרים. הוא פותח בידי וואווי ושותפיה, ובהם מעבדת Peng Cheng הסינית ואוניברסיטת בייג'ינג. הוא פותח בסביבת התוכנה MindSpore של וואווי ואומן על אשכול של 2,048 מעבדי Ascend 910, על 1.1 טרה-בייט של טקסט סיני שנאסף מתחומים רבים. המאמר מציג את GPT-3 כדוגמה למודלים של מאות מיליארדי פרמטרים, ו-PanGu-α היה הדרך של וואווי ושותפיה לבנות מודל בסדר גודל כזה בסינית, על החומרה ועל התוכנה של וואווי. בפלטפורמת OpenI של מעבדת Peng Cheng פורסמו להורדה המשקלים של הגרסאות בנות 2.6 ו-13 מיליארד פרמטרים, ואילו גרסת 200 המיליארד סומנה שם "בקרוב".

במרץ 2023 הלכה וואווי צעד נוסף עם PanGu-Σ, מודל של 1.085 טריליון פרמטרים. הוא נבנה על בסיס PanGu-α, אבל הפך את המודל הצפוף למודל דליל, שבו רק חלק מהרשת פעיל בכל צעד, בשיטה שהחוקרים כינו Random Routed Experts. הוא אומן על 329 מיליארד טוקנים, ולפי המאמר שיטת האחסון והחישוב החדשה הגדילה את קצב האימון פי 6.3.

Pangu 3.0: מודלים שלא כותבים שירים

ב-7 ביולי 2023 השיק ג'אנג פינגאן, מנכ"ל Huawei Cloud, את Pangu 3.0, וקבע כבר אז את הכיוון: לדבריו, Pangu לא נועד להצטיין במשימות כמו כתיבת שירים, אלא לשנות ענפי תעשייה שלמים. המערכת נבנתה בשכבות שוואווי כינתה "5+N+X": בבסיס חמישה מודלי יסוד, לשפה, לראייה ממוחשבת, לשילוב של כמה סוגי מידע, לחיזוי ולחישוב מדעי; מעליהם מודלים לענפים ספציפיים; ומעליהם יישומים לתרחישים מוגדרים. המודלים הוצעו בארבעה גדלים, מ-10 מיליארד ועד 100 מיליארד פרמטרים.

המוצר הבולט מאותה תקופה לא היה מודל שפה בכלל. באותו חודש פורסם בכתב העת Nature מאמר על Pangu-Weather, מודל לחיזוי מזג אוויר שאומן על 39 שנים של נתונים גלובליים. לפי המאמר, בבדיקה על נתוני ניתוח-מחדש הוא השיג תוצאות טובות יותר בכל המשתנים שנבדקו ממערכת החיזוי המבצעית של המרכז האירופי לתחזיות לטווח בינוני, שנחשבת למערכת הטובה בעולם.

Pangu 5.5 ו-openPangu: מסלול עסקי ומסלול פתוח

ב-20 ביוני 2025 הציגה Huawei Cloud את Pangu 5.5, ובו מודל חשיבה של 718 מיליארד פרמטרים שבנוי כתמהיל של 256 מומחים, לצד מודל ראייה ממוחשבת של 30 מיליארד פרמטרים. לפי החברה, מודלי Pangu פרוסים ביותר מ-500 תרחישים ביותר מ-30 ענפים, מממשל ופיננסים ועד מכרות, רכבות ומטאורולוגיה.

ב-30 ביוני 2025 הודיעה וואווי על פתיחת מודלים לציבור: מודל צפוף של 7 מיליארד פרמטרים ו-Pangu Pro MoE, מודל של 72 מיליארד פרמטרים בשיטת תמהיל מומחים. המשקלים של המודל הגדול וקוד ההרצה שלו פורסמו ראשונים. באוקטובר 2025 פתחה החברה גם את openPangu-Ultra-MoE-718B-V1.1, מודל של 718 מיליארד פרמטרים שמתוכם 39 מיליארד פעילים, שמשלב מצב חשיבה מהיר ומצב חשיבה איטי ומעמיק. לפי וואווי, שיעור ההזיות שלו במצב המהיר ירד מ-10.11% בגרסה הקודמת ל-3.85%.

המחלוקת על Qwen

בתחילת יולי 2025 הגיעה מחלוקת. קבוצה בשם HonestAGI פרסמה ב-GitHub מאמר שטען ל"מתאם יוצא דופן" בין Pangu Pro MoE לבין Qwen 2.5 14B של עליבאבא, וטענה שהמודל של וואווי הוא תוצאה של מִחזור מודל קיים ולא של אימון עצמאי. Reuters דיווחה ב-7 ביולי 2025 שלא הצליחה לזהות מי עומד מאחורי HonestAGI.

מעבדת Noah's Ark של וואווי דחתה את הטענות. לדבריה המודל "לא מבוסס על אימון המשך של מודלים של יצרנים אחרים", והצוות "ביצע חידושים מרכזיים בתכנון הארכיטקטורה ובמאפיינים הטכניים". המעבדה הוסיפה שהיא מקפידה על דרישות הרישיון של קוד פתוח כשהיא משתמשת בקוד של צד שלישי.

openPangu 2.0, ורישיון שמחריג את אירופה

ב-12 ביוני 2026, בכנס המפתחים HDC 2026, הכריז ריצ'רד יו, יו"ר חטיבת המכשירים של וואווי, על openPangu 2.0 בשתי גרסאות עם חלון הקשר של 512 אלף טוקנים: Pro, עם 505 מיליארד פרמטרים שמתוכם 18 מיליארד פעילים, ו-Flash, עם 92 מיליארד פרמטרים שמתוכם 6 מיליארד פעילים. וואווי טענה שעל שבבי Ascend התפוקה של שבב בודד מגיעה עד פי שניים מזו של מודלים פתוחים מובילים אחרים. על כך שהמודל הגדול כולל 505 מיליארד פרמטרים בלבד הסביר יו שחלק גדול מכוח המחשוב של וואווי משמש חברות סיניות אחרות, ומה שנשאר לה עצמה מוגבל מאוד. גרסת Flash נפתחה ב-30 ביוני, והמשקלים של גרסת Pro, יחד עם קוד הרצה בסיסי ודוח טכני, פורסמו ב-31 ביולי 2026. לפי כרטיס המודל, Pro אומן על כ-34 טריליון טוקנים.

לפי וואווי, כל האימון המקדים של המודל נעשה על שבבי Ascend 910B בלי מעבדים של NVIDIA. אתר Open Source For You ציין שטענות הביצועים של החברה עדיין לא אומתו בידי גופי מדידה עצמאיים. כדאי גם לקרוא את הרישיון: בגרסה 2.0 של רישיון openPangu, המשתמש מתחייב שלא להוריד, להתקין, להריץ או להשתמש במודל בכל דרך אחרת בתוך האיחוד האירופי. מי שמפיץ מוצר או שירות שמבוסס על המודל חייב להציג את הכיתוב Powered by openPangu, ומי שמגיש תביעת זכויות יוצרים או פטנטים בטענה שהמודל מפר אותם מאבד את הרישיון. נכון לאוקטובר 2026, openPangu-2.0-Pro הוא המודל הפתוח החדש ביותר במשפחה.