אשיש ואסוואני (Ashish Vaswani)

היסטוריה ואנשי מפתח

הגדרה

אשיש ואסוואני הוא מדען-מחשב הודי-אמריקאי, מחברו-הראשון (מתוך שמונה מחברים שווי-תרומה) של מאמר "תשומת לב היא כל שצריך" (2017) שהציג את ארכיטקטורת הטרנספורמר — ולפי הצהרת-התרומה הרשמית של המאמר עצמו, מי שתכנן ויישם את מודלי-הטרנספורמר הראשונים.

לימודים: מהודו לתרגום-מכונה ב-USC

ואסוואני נולד ב-1986 בהודו, ולמד הנדסת-מחשבים בתואר-ראשון במכון-הטכנולוגי Birla Institute of Technology שבמסרא. עבר לארצות-הברית להשלמת דוקטורט במדעי-המחשב באוניברסיטת דרום-קליפורניה (USC), בהנחיית דייוויד צ'יאנג וליאנג הואנג, וסיים אותו ב-2014 עם עבודה שכותרתה "דגמים קטנים, מהירים ומדויקים יותר לתרגום-מכונה סטטיסטי" (Smaller, Faster, and Accurate Models for Statistical Machine Translation). התמחותו בעיבוד רצפי-מילים לצורכי תרגום היא שהובילה אותו, כמה שנים אחר-כך, אל הפרויקט שהפך אותו למוכר בעולם כולו: חיפוש דרך יעילה לעבד רצפי-טקסט ארוכים בלי הסתמכות על רשתות-נשניות (RNN) איטיות-מטבען.

"Attention Is All You Need": תפקיד מתועד, לא רק שם ברשימה

ואסוואני הצטרף לצוות גוגל בריין ב-2016. שם היה שותף-מרכזי לכתיבת מאמר "תשומת לב היא כל שצריך", שפורסם ב-12 ביוני 2017 ומתואר בהרחבה בערך נפרד באתר. חשוב להבחין בין השם ברשימת-המחברים לבין התרומה בפועל: הערת-שוליים שכתבו שמונת המחברים עצמם בראש המאמר, ולא פרשנות חיצונית, קובעת במפורש כי "אשיש, יחד עם איליה [פולוסוקין], תכנן ויישם את מודלי-הטרנספורמר הראשונים, והיה מעורב באופן קריטי בכל היבט של העבודה". כלומר, בעוד יעקב אוסקוריט הציע לראשונה לוותר על רשתות-נשניות לטובת קשב-עצמי, ונועם שזייר תרם את מנגנוני "קשב-מכפלת-נקודה מוגדל" ו"קשב מרובה-ראשים", תפקידו המתועד של ואסוואני היה תרגום הרעיון התיאורטי למודל עובד בפועל. סדר-שמות המחברים במאמר נקבע באקראי במפורש, כדי לשקף תרומה שווה של כולם — אך ואסוואני מופיע ראשון ברשימה, ומכאן הכינוי הרווח "מחברו-הראשון" של המאמר.

אחרי גוגל: שתי חברות-הזנק, Adept ו-Essential AI

ואסוואני עזב את גוגל בריין ב-2021, אחרי כחמש שנים בצוות. באפריל 2022 יצאה מ"מצב-סמוי" חברת Adept AI, שאותה הקים יחד עם דייוויד לואן (לשעבר מנהל-הנדסה ב-OpenAI ואחר-כך בגוגל בריין) וניקי פארמאר — עמיתתו-לשעבר בגוגל, ועצמה אחת משמונת מחברי מאמר ה-Transformer. Adept, שגייסה באותו חודש 65 מיליון דולר בסבב-A בהובלת Greylock ו-Addition, ניסתה לבנות מודל שמפעיל תוכנת-מחשב כמו משתמש-אנושי. ואסוואני עזב את Adept בסוף 2022, והקים יחד עם פארמאר חברה נוספת, Essential AI, שבה כיהן כמנכ"ל. בדצמבר 2023 הודיעה Essential AI על גיוס 56.5 מיליון דולר בהובלת קרן March Capital, ובין המשקיעים המשתתפים היו גם גוגל, אנבידיה ו-AMD.

אנבידיה רוכשת את הצוות (יוני 2026)

ביוני 2026 רכשה אנבידיה, בעסקת רכש-צוות (acquihire), את ואסוואני ואת חלק ניכר מצוות Essential AI. לפי דיווחים מאותו חודש, אחד המניעים לעסקה היה גם להרחיק את ואסוואני ואת חברתו ממעגל-ההשפעה של AMD, ששימשה עד אז משקיעה אסטרטגית מוקדמת ב-Essential AI וגם ספקית עיקרית של חומרת-האימון שלה. לפי אותו דיווח יחיד, בתפקידו החדש באנבידיה הוא עוסק בפיתוח משפחת המודלים הפתוחים Nemotron. מאמר ה-Transformer שכתב, לעומת זאת, ממשיך לחיות עצמאית מקריירתו העסקית: הוא נמנה כיום עם המאמרים המצוטטים ביותר במדעי-המחשב בכלל.

שאלות נפוצות ❓

מה בדיוק ואסוואני תרם למאמר ה-Transformer, מעבר להיותו מחברו-הראשון?

לפי הערת-התרומה הרשמית שכתבו שמונת המחברים בראש המאמר עצמו, ואסוואני, יחד עם איליה פולוסוקין, תכנן ויישם את מודלי-הטרנספורמר הראשונים והיה מעורב בכל היבט של העבודה — תרומה שמתועדת במאמר עצמו, לא רק שיוך של שם לרשימה.

מה למד ואסוואני לפני שהצטרף לגוגל בריין?

דוקטורט במדעי-המחשב מאוניברסיטת דרום-קליפורניה (USC), שהושלם ב-2014, בנושא דגמים לתרגום-מכונה סטטיסטי — תחום שקירב אותו לבעיית עיבוד רצפי-הטקסט שממנה צמח הטרנספורמר.

אילו חברות הקים ואסוואני אחרי שעזב את גוגל?

שתיים: Adept AI ב-2022, יחד עם דייוויד לואן וניקי פארמאר, שממנה עזב בסוף אותה שנה; ו-Essential AI, שהקים יחד עם פארמאר וכיהן בה כמנכ"ל.

מה קרה ל-Essential AI ב-2026?

ביוני 2026 רכשה אנבידיה את ואסוואני ואת חלק מצוות Essential AI בעסקת רכש-צוות; במסגרת תפקידו החדש הוא עוסק בפיתוח משפחת המודלים הפתוחים של החברה, Nemotron.