וויצ'ך זרמבה (Wojciech Zaremba)

היסטוריה ואנשי מפתח

הגדרה

וויצ'ך זרמבה הוא חוקר למידת-מכונה פולני-אמריקאי, אחד ממייסדי-השותפים המקוריים של OpenAI בדצמבר 2015, שחתם יחד עם גרג ברוקמן על ההודעה הרשמית של OpenAI על Codex באוגוסט 2021.

רקע והשכלה

וויצ'ך זרמבה נולד ב-30 בנובמבר 1988 בקלוצ'בורק שבפולין. הוא למד מתמטיקה ומדעי-המחשב באוניברסיטת ורשה, וסיים שם תואר ראשון במתמטיקה (2010), תואר ראשון במדעי-המחשב (2012) ותואר שני במתמטיקה (2012) — שלושה תארים אקדמיים שונים באותה אוניברסיטה. ב-2016 קיבל דוקטורט בלמידה עמוקה מאוניברסיטת ניו-יורק (NYU), בהנחיית יאן לקון ורוב פרגוס, על עבודת-מחקר שכותרתה "למידת אלגוריתמים מנתונים" — ניסיון להצמיד את יכולת-הלמידה של רשתות-נוירונים לכוח החישוב האלגוריתמי של מחשב-תכנות רגיל, לרבות עבודה מוקדמת על מכונות-טיורינג נוירוניות ועל למידת-חיזוק.

מאמר-יסוד על נקודות-תורפה ברשתות-נוירונים

עוד לפני שסיים את הדוקטורט, היה זרמבה שותף למאמר-מחקר פורץ-דרך שהוגש לפרסום ב-21 בדצמבר 2013, "תכונות מסקרנות של רשתות-נוירונים" (Intriguing Properties of Neural Networks), יחד עם כריסטיאן סגדי, איליה סוצקבר, איאן גודפלו ואחרים — המאמר שהציג לראשונה את התופעה של "דוגמאות יריבות" (adversarial examples): שינויים זעירים ובלתי-נראים לעין בתמונת-קלט שגורמים לרשת-נוירונים מאומנת לטעות בסיווגה, אף שהיא מדויקת ברוב המקרים האחרים. במהלך לימודיו שהה זרמבה גם ב-Google Brain וב-Facebook AI Research, שני מרכזי-המחקר המובילים של אותה תקופה.

אחד ממייסדי-השותפים של OpenAI

בדצמבר 2015 היה זרמבה אחד מ-11 מייסדים-שותפים שהקימו את OpenAI כעמותת-מחקר ללא-מטרות-רווח, לצד אילון מאסק, סם אלטמן, איליה סוצקבר, גרג ברוקמן, אנדריי קרפאתי, ג'ון שולמן ואחרים מתחום למידת-המכונה. לפי ויקיפדיה, ויתר זרמבה על הצעות-עבודה מתחרות ששוויין הוערך בפי שניים עד שלושה משכרו הצפוי ב-OpenAI, כדי להצטרף בכל-זאת למיזם החדש והבלתי-מוכח באותה עת — עדות מוקדמת למחויבותו למטרת הארגון על פני תמורה כלכלית ישירה, עוד לפני שהחברה הוכיחה את עצמה בפועל.

הובלת צוות-הרובוטיקה: יד רובוטית פותרת קוביה הונגרית

בשנים הראשונות של OpenAI הוביל זרמבה, לפי ויקיפדיה, את קבוצת-המחקר בתחום הרובוטיקה. הישגה הבולט ביותר תועד במאמר שהוגש ב-16 באוקטובר 2019, "פתרון קוביה הונגרית באמצעות יד רובוטית", שזרמבה נמנה עם שמונה-עשר מחבריו האישיים (רשימת המחברים ב-arXiv כוללת גם את OpenAI עצמה) — צוות שתיאר יד רובוטית שלמדה, באמצעות למידת-חיזוק שהתאמנה כמעט כולה בסביבת-סימולציה, לפתור בעצמה קוביה הונגרית פיזית בעולם האמיתי, אתגר שדרש התמודדות עם רעש חושי ומכני שאינו קיים בסימולציה. ב-2020 פורק צוות-הרובוטיקה של OpenAI כליל.

אחרי הרובוטיקה: מודלי-שפה וכתיבת-קוד

לאחר פירוק צוות-הרובוטיקה עבר זרמבה, לפי ויקיפדיה, להוביל צוותים שעסקו במודלי GPT של OpenAI, ב-GitHub Copilot וב-Codex — מודל-הקוד שהחברה הציגה באוגוסט 2021, ושאת ההודעה הרשמית עליו חתם זרמבה יחד עם גרג ברוקמן. נכון להיום הוא ממשיך לעבוד ב-OpenAI, ומכהן גם כחבר-ייעוץ בגופים חיצוניים כמו חברת Growbots ומכון Qualia Research לחקר התודעה.

שאלות נפוצות ❓

מה הרקע המחקרי של זרמבה לפני שהקים את OpenAI?

דוקטורט בלמידה עמוקה מ-NYU (2016) בהנחיית יאן לקון, ושותפות למאמר-היסוד "תכונות מסקרנות של רשתות-נוירונים" (2013), שהציג לראשונה את תופעת ה"דוגמאות היריבות" — שינויים זעירים בתמונה שמטעים רשת-נוירונים מאומנת.

האם זרמבה נחשב אחד ממייסדי OpenAI?

כן — הוא אחד מ-11 מייסדים-שותפים שהקימו את OpenAI בדצמבר 2015, לצד אילון מאסק, סם אלטמן, איליה סוצקבר וגרג ברוקמן.

על מה זרמבה עבד ב-OpenAI לפני Codex?

לפי ויקיפדיה, הוא הוביל בשנים הראשונות את צוות-הרובוטיקה של החברה, שפיתח יד רובוטית שלמדה לפתור קוביה הונגרית פיזית (מאמר מ-2019). הצוות פורק ב-2020.

איך שמו קשור להודעה הרשמית על Codex?

זרמבה חתם, יחד עם גרג ברוקמן, על ההודעה הרשמית של OpenAI על Codex באוגוסט 2021 — לאחר שהוביל את הצוותים שעסקו במודלי GPT, ב-GitHub Copilot וב-Codex עצמו.