חוק בייס (תומאס בייס)

היסטוריה ואנשי מפתח

הגדרה

חוק בייס הוא משפט הסתברותי יסודי שמראה כיצד לעדכן הערכת-סבירות לאור ראיה חדשה; המאמר שהציג אותו פורסם ב-1763, לאחר מות מחברו — הכומר האנגלי תומאס בייס, שמת ב-1761 — בידי חברו ריצ'רד פרייס.

מי היה תומאס בייס: כומר אנגלי שכמעט לא פרסם דבר בחייו

תומאס בייס נולד בסביבות שנת 1701 — לא תאריך-הלידה המדויק ולא מקום-הלידה ידועים בוודאות, מפני שנרשם בטבילה בכנסייה נבדלת (Dissenting) שלא שימרה את מסמכיה. הוא היה בנו של ג'ושוע בייס, כומר פרסביטריאני, ובן למשפחה נוצרית-נבדלת מוכרת משפילד. למד לוגיקה ותיאולוגיה באוניברסיטת אדינבורו החל מ-1719, ומאמצע שנות ה-1730 שימש כומר בקפלת מאונט-ציון בטנברידג' וולס, עד 1752. בחייו פרסם רק שני חיבורים: ספר תיאולוגי מ-1731, וחיבור מתמטי אנונימי מ-1736 שהגן על חשבון-האינפיניטסימלי של אייזק ניוטון מפני ביקורת הבישוף ג'ורג' ברקלי. ב-1742 נבחר לחבר החברה המלכותית (Royal Society) — הכרה יוצאת-דופן לאדם שפרסם עד אז כה מעט. הוא מת ב-7 באפריל 1761 בטנברידג' וולס, ונקבר בבית-הקברות בנהיל פילדס בלונדון, המיועד לנוצרים-נבדלים. מעבר לעובדות אלה, כמעט דבר נוסף על חייו האישיים אינו מתועד.

מה חוק בייס בעצם אומר

חוק בייס הוא נוסחה הסתברותית לעדכון הערכת-סבירות של השערה לאור ראיה חדשה: הוא משלב את ההסתברות הראשונית של ההשערה (הסתברות קודמת) עם הסבירות שהראיה הייתה מתקבלת לו ההשערה הייתה נכונה, ומחלק בהסתברות הכוללת של הראיה עצמה — וכך מניב הסתברות מעודכנת (הסתברות בתר-קודמת). המונח המקצועי לבעיה שבייס פתר הוא "הסתברות הפוכה": בהינתן תוצאות שכבר נצפו, מהי ההסתברות שהובילה אליהן — כיוון הפוך לחישוב-הסתברויות הרגיל, שמניח הסתברות ידועה מראש ומחשב ממנה תוצאות צפויות.

'חיבור לפתרון בעיה בתורת-הסיכויים' — כתב-היד שנותר בלי לפרסמו

בייס ניסח את הפתרון שלו במאמר בשם An Essay Towards Solving a Problem in the Doctrine of Chances ("חיבור לפתרון בעיה בתורת-הסיכויים"), ובו הראה כיצד להסיק את ההסתברות של פרמטר בלתי-ידוע — למשל, הסתברות-הצלחה של תהליך בינומי — מתוך תוצאות שכבר נצפו בפועל. הוא מעולם לא פרסם את המאמר בחייו, ואין תיעוד לכך שהראה אותו למישהו לפני מותו.

ריצ'רד פרייס והפרסום הבתר-מותי, דצמבר 1763

לאחר מות בייס העבירה משפחתו את כתביו לריצ'רד פרייס, כומר ומתמטיקאי בריטי שהיה חברו. פרייס ערך את כתב-היד, הוסיף לו הקדמה ונספח משלו, והציג אותו בפני החברה המלכותית בלונדון ב-23 בדצמבר 1763. המאמר נדפס בכתב-העת של החברה, Philosophical Transactions (כרך 53, 1763) — כך שהתרומה המתמטית המרכזית ביותר של בייס לא הייתה מוכרת כלל לציבור עד לאחר מותו, ורק בזכות המאמץ העריכתי של פרייס.

ממשפט שכמעט נשכח למסד של הבינה המלאכותית

במשך עשרות שנים לאחר פרסומו נותר החוק בשולי הסטטיסטיקה, ורק במחצית השנייה של המאה ה-20 הפך לגישה מרכזית ומוכרת בשם "בייסיאניזם", בין השאר הודות לזמינות-חישוב שאפשרה ליישם אותו בקנה-מידה גדול. היום הוא מהווה את הבסיס המתמטי לשיטות למידת-מכונה נפוצות: סיווג בייסיאני נאיבי (Naive Bayes Classifier), הפועל בהנחה מפשטת של אי-תלות בין תכונות, ורשת בייסיאנית (Bayesian Network), שמייצגת במפורש רשת-תלויות מורכבת בין משתנים — שתי גישות שונות מאוד ליישום, אך הבנויות שתיהן על אותו עיקרון-עדכון יסודי שבייס הציג.

שאלות נפוצות ❓

מי היה תומאס בייס?

כומר פרסביטריאני אנגלי (כ-1701–1761), שלמד לוגיקה ותיאולוגיה באדינבורו ושימש כומר בטנברידג' וולס. בחייו פרסם רק שני חיבורים, שאף אחד מהם אינו חוק בייס עצמו — ונבחר לחבר החברה המלכותית ב-1742.

מה חוק בייס אומר, במילים פשוטות?

הוא מראה איך לעדכן הערכת-סבירות של השערה כשמופיעה ראיה חדשה: משלבים את ההסתברות הראשונית שלה עם הסבירות שהראיה הייתה מופיעה אילו ההשערה נכונה, ומקבלים הסתברות מעודכנת.

למה חוק בייס פורסם רק אחרי מותו של בייס?

בייס מעולם לא פרסם את המאמר בחייו. רק לאחר מותו העבירה משפחתו את כתביו לחברו ריצ'רד פרייס, שערך אותם והציג אותם בפני החברה המלכותית ב-23 בדצמבר 1763.

איך חוק בייס קשור לבינה מלאכותית של היום?

הוא הבסיס המתמטי המשותף לשיטות כמו סיווג בייסיאני נאיבי ורשת בייסיאנית — שתי גישות שונות מאוד ליישום, המבוססות שתיהן על אותו עיקרון של עדכון-הסתברות לאור ראיה.