קלוד שאנון (Claude Shannon)

היסטוריה ואנשי מפתח

הגדרה

קלוד שאנון היה מהנדס ומתמטיקאי אמריקאי, מייסד תורת המידע במאמרו פורץ-הדרך "תורה מתמטית של תקשורת" (1948), ואחד מארבעת מחברי ההצעה הפורמלית לוועידת דארטמות' ב-1955 — ההצעה שבה הופיע לראשונה בכתב המונח "בינה מלאכותית".

מי היה קלוד שאנון

שאנון נולד ב-30 באפריל 1916 בפטוסקי שבמישיגן, וגדל בגיילורד שבאותה מדינה. קיבל תואר ראשון בהנדסת-חשמל ובמתמטיקה מאוניברסיטת מישיגן ב-1936, ועבר למכון הטכנולוגיה של מסצ'וסטס (MIT), שם כתב את עבודת-התזה לתואר שני שלו, "ניתוח סימבולי של מעגלי ממסרים ומיתוג" (1937) — עבודה שהראתה כיצד לממש את חוקי האלגברה הבוליאנית באמצעות מעגלי-ממסרים חשמליים, ותוארה בדיעבד כ"תעודת-הלידה של המהפכה הדיגיטלית". ב-1940 השלים דוקטורט במתמטיקה ב-MIT, ועבר לבל לאבס (Bell Labs), שם עבד גם על מחקר-קריפטוגרפיה בזמן מלחמת-העולם השנייה.

1948: "תורה מתמטית של תקשורת" ולידת תורת המידע

ב-1948 פרסם שאנון בכתב-העת Bell System Technical Journal את המאמר "A Mathematical Theory of Communication" (תורה מתמטית של תקשורת), בשני חלקים — ביולי (כרך 27, גיליון 3, עמ' 379–423) ובאוקטובר (גיליון 4, עמ' 623–656) — שנחשב מאז למאמר המכונן של תורת המידע. המאמר הציג את מושג ה"אנטרופיה" ככלי מתמטי למדידת כמות המידע במסר, את משפט קיבולת-הערוץ (Channel Capacity) שקובע מהו קצב-ההעברה המרבי-האמין של מידע דרך ערוץ רועש, ואת משפט קידוד-המקור. באותו מאמר טבע שאנון גם את השימוש הפורמלי במונח "ביט" (bit) כיחידת-מידע בינארית, וציין במפורש שהמילה הוצעה לו בידי הסטטיסטיקאי ג'ון טוקי. ב-1949 יצא המאמר גם כספר, "The Mathematical Theory of Communication", בשיתוף עם וורן וויבר שהוסיף לו מבוא לקהל הרחב. תורת המידע שנוסדה כאן היא הבסיס המתמטי לכל תקשורת דיגיטלית מודרנית — מדחיסת-קבצים ועד רשתות-סלולר.

שאנון והבינה המלאכותית: דארטמות', שחמט ועכבר שלומד

ב-31 באוגוסט 1955 היה שאנון אחד מארבעת החותמים — יחד עם ג'ון מקארתי, מרווין מינסקי ונתנאל רוצ'סטר — על ההצעה הפורמלית לוועידת דארטמות', המסמך שבו הופיע לראשונה בכתב הצירוף "Artificial Intelligence" (פירוט מלא על הוועידה עצמה ועל תפקידו שם נמצא בערך הייעודי לוועידה). כבר ב-1950 פרסם שאנון את המאמר "Programming a Computer for Playing Chess", שהציע לראשונה שיטה שיטתית למשחק-שחמט ממוחשב באמצעות פונקציות-הערכה ואלגוריתם מיני-מקס — ובו גם העריך את מספר המשחקים האפשריים בשחמט בכ-10 בחזקת 120 (מספר העמדות החוקיות עצמן קטן בהרבה — כ-4.8 כפול 10 בחזקת 44), הערכה שמכונה מאז "המספר של שאנון". באותה שנה בנה גם את "תזאוס" (Theseus), עכבר חשמלי-מכני שפתר מבוכים בניסוי-וטעייה תוך שהוא "זוכר" מסלולים שכבר נוסו — הדגמה מוקדמת ליכולת-למידה מכנית, שנים לפני שהמונח "למידת מכונה" נטבע כלל.

תרומות נוספות: קריפטוגרפיה, תקשורת ואופנה טכנולוגית

מעבר לתורת המידע, שאנון תרם למחקר-הקריפטוגרפיה התיאורטי — מאמרו "Communication Theory of Secrecy Systems" (1949) הניח יסודות מתמטיים למושג "חשאיות מושלמת" — היה שותף להמצאת אפנון-פולסים-בקוד (PCM) לתקשורת דיגיטלית, ותרם לתורת גרפי-הזרימה (signal-flow graphs, 1942). מ-1956 ואילך שימש חבר-סגל ב-MIT, עם כיסא-מחקר קבוע במעבדת-האלקטרוניקה של המוסד. מחוץ למחקר הפורמלי היה גם בעל תחביבים טכנולוגיים ידועים — בין השאר בנה יחד עם המתמטיקאי אדוארד ת'ורפ אחד ממחשבי-הלבוש הראשונים בעולם, מכשיר זעיר שנועד לחזות תוצאות ברולטה.

פרסים ומורשת

בין פרסיו: מדליית המדע הלאומית האמריקאית (1966), מדליית הכבוד של ה-IEEE (1966), פרס קיוטו (1985) ופרס מרקוני למפעל-חיים (2000). ב-1973 הוענק לראשונה פרס קלוד א' שאנון, הנקרא על-שמו ומוענק מדי שנה על תרומה לתורת המידע. שאנון נפטר ב-24 בפברואר 2001 במדפורד שבמסצ'וסטס, בגיל 84, לאחר שנים של מחלת-אלצהיימר. מורשתו הכפולה — תורת המידע מצד אחד, והשותפות בניסוח המונח "בינה מלאכותית" מצד שני — הופכת אותו לאחת הדמויות הבודדות שעומדות בבסיס גם המחשוב הדיגיטלי המודרני וגם תחום ה-AI כתחום-מחקר עצמאי.

שאלות נפוצות ❓

במה שאנון ידוע יותר: תורת המידע או ועידת דארטמות'?

בעיקר בתורת המידע, שאותה ייסד לבדו במאמרו "A Mathematical Theory of Communication" (1948) — תרומה עצמאית ומכוננת בפני עצמה. בנוסף לכך היה אחד מארבעת מחברי ההצעה הפורמלית לוועידת דארטמות' ב-1955, יחד עם מקארתי, מינסקי ורוצ'סטר.

מה זו "אנטרופיה" במאמר של שאנון מ-1948?

כלי מתמטי למדידת כמות המידע הממוצעת במסר — ככל שתוצאה עתידית פחות צפויה, כך היא נושאת יותר "מידע" במובן שהמאמר הגדיר. המושג, יחד עם משפט קיבולת-הערוץ ומשפט קידוד-המקור, הניח את הבסיס המתמטי לתורת המידע כולה.

מי הציע את המילה "ביט"?

שאנון עצמו כתב במאמרו מ-1948 שהמילה "bit" (קיצור של binary digit) הוצעה לו בידי הסטטיסטיקאי ג'ון טוקי, ואימץ אותה כיחידת-המידע הבסיסית של תורת המידע.

האם שאנון עסק גם ישירות ב-AI לפני דארטמות'?

כן — ב-1950 פרסם מאמר שהציע שיטה שיטתית למשחק-שחמט ממוחשב (מיני-מקס ופונקציות-הערכה), ובאותה שנה בנה את "תזאוס", עכבר חשמלי-מכני שפותר מבוכים בניסוי-וטעייה — הדגמה מוקדמת ליכולת-למידה מכנית.