יורגן שמידהובר (Jürgen Schmidhuber)

היסטוריה ואנשי מפתח

הגדרה

יורגן שמידהובר הוא חוקר בינה מלאכותית גרמני, מחבר-שותף עם ספ הוכרייטר של מאמר ה-LSTM משנת 1997, ומנהל-המדע של מעבדת-הבינה-המלאכותית השווייצרית IDSIA מאז 1995.

לימודים באוניברסיטה הטכנית של מינכן

יורגן שמידהובר נולד ב-17 בינואר 1963 במינכן, גרמניה המערבית. הוא למד באוניברסיטה הטכנית של מינכן (TUM), שם קיבל תואר-דיפלומה במדעי-המחשב ובמתמטיקה ב-1987, דוקטורט במדעי-המחשב ב-1991, ואת ה'הבילטציה' (Habilitation) — התואר הגרמני-אקדמי שמעניק זכות-הוראה עצמאית באוניברסיטה — ב-1993. את עבודת-הדוקטורט שלו הנחו וילפריד בראואר וקלאוס שולטן.

LSTM: פתרון לשכחה המהירה של רשתות נשניות

בתחילת שנות ה-1990 הנחה שמידהובר את תלמידו ספ הוכרייטר, שבעבודת-הדיפלומה שלו מ-1991 זיהה לראשונה באופן פורמלי את 'בעיית הגרדיאנט הנעלם' — הסיבה לכך שרשתות-נוירונים עמוקות ונשניות מתקשות ללמוד מהקשר רחוק. שמידהובר והוכרייטר פיתחו יחד את הפתרון: ארכיטקטורת 'זיכרון קצר-ארוך' (Long Short-Term Memory — LSTM), שפורסמה במלואה בכתב-העת Neural Computation ב-1997. LSTM הפכה לארכיטקטורה הדומיננטית בעיבוד רצפי-שפה וקול במשך יותר מעשור, עד שהוחלפה ברובה על-ידי הטרנספורמר.

IDSIA, TUM ו-KAUST

מ-1995 משמש שמידהובר מנהל-המדע (Scientific Director) של IDSIA — מעבדת-הבינה-המלאכותית השווייצרית (Dalle Molle Institute for Artificial Intelligence Research) בלוגאנו. במקביל לימד כפרופסור באוניברסיטה הטכנית של מינכן בין 2004 ל-2009, ולאחר-מכן כפרופסור לבינה מלאכותית באוניברסיטת לוגאנו (USI) בין 2009 ל-2021. מ-2021 הוא מכהן כמנהל יוזמת-הבינה-המלאכותית באוניברסיטת המלך עבדאללה למדע וטכנולוגיה (KAUST) בערב הסעודית, ומשמש שם גם יו״ר-משותף של מרכז-המצוינות לבינה מלאכותית גנרטיבית.

פריצות-דרך נוספות: DanNet ורשתות-מהירות

ב-2011 בנה צוות ב-IDSIA בראשות שמידהובר ופוסט-דוקטורנטו דן צ'ירשאן רשת-קונבולוציה מהירה, המואצת על מעבדי-גרפיקה (GPU) וידועה בכינוי 'DanNet'. בתחרות German Traffic Sign Recognition Benchmark שנערכה באותה שנה זו הייתה הרשת הראשונה שהציגה ביצועי-זיהוי-תמונה על-אנושיים בתחרות מבוקרת — עם שיעור-שגיאה נמוך פי-שניים משיעור-השגיאה האנושי, ופי-שלושה משיעור-השגיאה של המתחרה הבא בתור. בין 2011 ל-2012 זכתה הגישה בכל תחרות שבה השתתפה, ברציפות. ב-2015 פרסם שמידהובר, עם רופש סריבסטבה וקלאוס גרף, את 'Highway Networks' — ארכיטקטורה שאפשרה לראשונה אימון רשתות-הזנה-קדימה בנות מאות שכבות, ושימשה כמבשרת-דרך לרשתות השייריות (ResNet) שהוצגו זמן קצר אחר-כך.

מחלוקת על ייחוס-קרדיט

לאורך הקריירה טען שמידהובר בפומבי, ולעיתים במחלוקת, שתרומתו לתחום הלמידה-העמוקה לא זכתה להכרה מספקת — הן ביחס לזוכי פרס טיורינג 2018 (ג'פרי הינטון, יושוע בנג'יו ויאן לה-קאן), והן ביחס לרעיונות מוקדמים שפרסם כבר ב-1991 על רשתות מתחרות (adversarial), שלטענתו קדמו לרשת ה-GAN (Generative Adversarial Network) שהציג איאן גודפלו ב-2014. הקהילה המחקרית חלוקה בשאלת-הייחוס הזו, וגודפלו עצמו דחה את הטענה בפומבי.

פרסים והכרה

שמידהובר זכה בפרס הלמהולץ (Helmholtz Award) של האגודה הבינלאומית לרשתות-נוירונים ב-2013, בפרס-החלוצים לרשתות-נוירונים (Neural Networks Pioneer Award) של IEEE ב-2016, בפרס Pioneers of AI Research של NVIDIA באותה שנה, ובפרס סטייגר (Steiger Award) ב-2019. הוא חבר באקדמיה האירופית למדעים ואמנויות.

שאלות נפוצות ❓

מה בדיוק תרם שמידהובר לפיתוח LSTM?

שמידהובר היה מנחה-הדוקטורט של ספ הוכרייטר, ופיתח איתו יחד את פתרון 'זיכרון קצר-ארוך' (LSTM) — הרחבה של רשת-נוירונים נשנית עם תא-זיכרון פנימי — שפורסמה במלואה במאמר משותף ב-1997.

איפה שמידהובר עובד היום?

הוא ממשיך לשמש מנהל-המדע של IDSIA בשווייץ מאז 1995, ומ-2021 מכהן גם כמנהל יוזמת-הבינה-המלאכותית באוניברסיטת KAUST בערב הסעודית.

על מה נסבה המחלוקת בין שמידהובר לחוקרים אחרים בתחום?

שמידהובר טען בפומבי שתרומתו לתחום לא זכתה להכרה מספקת, כולל ביחס לזוכי פרס טיורינג 2018 וביחס לרעיונות מוקדמים שלו על רשתות מתחרות, שלטענתו קדמו ל-GAN של איאן גודפלו מ-2014 — טענה שהקהילה המחקרית חלוקה בעניינה.