Magnifica Humanitas (האנציקליקה על בינה מלאכותית)

מהי אנציקליקה

אנציקליקה היא סוג מסוים של מסמך אפיפיורי: מכתב הוראה רשמי של האפיפיור בענייני אמונה, מוסר וחברה. המילה באה מיוונית, ופירושה "מכתב חוזר", מכתב שנשלח לכמה קהילות בבת אחת. בכנסייה הקתולית היא נחשבת למסמך הוראה סמכותי, ושמה נקבע בדרך כלל לפי המילים הראשונות שלה. אנציקליקות נמענות באופן מסורתי לבישופים, אבל זו פונה גם "לכל המאמינים הקתולים, לכל הנוצרים ולכל אנשי הרצון הטוב". לקורא ישראלי אפשר לחשוב עליה כעל מסמך עקרוני של הנהגת הכנסייה, שמנחה את מוסדותיה ואת המאמינים בה כיצד לחשוב ולפעול בשאלה מסוימת.

המסמך: תאריך, נושאים ושם

השם המלא הוא "מכתב אנציקליקה Magnifica Humanitas של האפיפיור ליאו ה-14 על שמירת האדם בעידן הבינה המלאכותית". האפיפיור חתם עליו ברומא ב-15 במאי 2026, "השנה השנייה לכהונתי" כלשונו. התאריך נבחר בכוונה: באותו יום בשנת 1891 פרסם האפיפיור ליאו ה-13 את האנציקליקה Rerum Novarum ("דברים חדשים"), שעסקה בזכויות העובדים בעידן המהפכה התעשייתית, וממנה התפתחה מה שמכונה התורה החברתית של הכנסייה. ליאו ה-14 מציין את יום השנה ה-135 שלה, ומשווה בין "הדברים החדשים" של אז לאלה של היום: דיגיטליזציה, בינה מלאכותית ורובוטיקה. בהצגת המסמך אמר שהשינוי הנוכחי בסדר גודל דומה, "ואולי עם השלכות גדולות עוד יותר".

לצד הבינה המלאכותית, המסמך עוסק ביסודות התורה החברתית של הכנסייה, באמת, בעבודה ובחירות, ובמעבר מ"תרבות הכוח" ל"ציוויליזציה של אהבה", כולל נשק ובינה מלאכותית. השם הלטיני פירושו "האנושות המפוארת", ובנוסח האנגלי המסמך נפתח במילים "האנושות, שנבראה בידי האל במלוא הדרה, עומדת היום בפני בחירה מכרעת".

בבל או ירושלים

המסמך בנוי סביב שתי תמונות מהתנ"ך: בניית מגדל בבל, ובניית חומות ירושלים בידי נחמיה אחרי שיבת ציון. בבל מייצגת לדבריו פרויקט של גאווה ואחידות, "שפה אחת, טכנולוגיה אחת, כיוון אחד", שמקריב את כבוד האדם למען היעילות; נחמיה מייצג בנייה משותפת, שבה כל משפחה מקבלת קטע חומה משלה. מכאן המסקנה המרכזית: הבחירה העיקרית אינה בין "כן" ל"לא" לטכנולוגיה, אלא בין בניית בבל לבניית ירושלים מחדש. הטכנולוגיה כשלעצמה אינה רעה, אבל גם אינה ניטרלית, כי היא מקבלת את תכונותיהם של מי שמתכננים, מממנים, מסדירים ומשתמשים בה. ובניסוח מפסקה 15 של המסמך: בעידן הבינה המלאכותית, כשכבוד האדם מאוים בצורות חדשות של דה־הומניזציה (שלילת האנושיות), מוטלת עלינו החובה הדחופה להישאר אנושיים במלוא מובן המילה.

מה נאמר על הבינה המלאכותית

הפרק על הבינה המלאכותית פותח בהסתייגות: כל אמירה על בינה מלאכותית עלולה להתיישן מהר, וגם מפתחיה מבינים רק באופן חלקי איך היא פועלת, שכן מערכות כאלה "מטופחות" יותר משהן "נבנות". לפי המסמך, המערכות האלה רק מחקות חלק מתפקודי הבינה האנושית: אין להן גוף, חוויה או רגש, ואין להן מצפון מוסרי. בשימוש האישי הוא מזהיר מפני הסתמכות יתר, מפני רושם של אובייקטיביות שמסתיר את ההנחות של מי שאימן את המערכת, ומפני חיקוי של קשר אנושי שעלול להחליש את הרצון ליצור קשרים אמיתיים.

מכאן נגזרות כמה קביעות: אי אפשר לראות בבינה המלאכותית כלי ניטרלי מבחינה מוסרית, כי כל כלי מגלם בחירות במה שהוא מודד, מתעלם ממנו וממטב; וקריאה לזהירות ואף, לעיתים, להאטה באימוץ אינה התנגדות לקידמה. גם יישור (alignment) של מערכות לערכים אנושיים אינו מספיק לדבריו, אם המוסר הזה נקבע בידי מעטים. המסמך קורא "לפרק את הבינה המלאכותית מנשקה", כלומר לשחרר אותה ממרוץ התחרות הצבאי, הכלכלי והקוגניטיבי.

עבודה ונשק

בפרק על כבוד העבודה המסמך מצטט את Antiqua et Nova: הבינה המלאכותית מבטיחה לפטור עובדים ממשימות שגרתיות, אבל היא עלולה לאלץ אותם להתאים את עצמם לקצב המכונה, להוריד את רמת המיומנות שלהם ולחשוף אותם לפיקוח אוטומטי. הוא קובע ששמירה על מקומות עבודה צריכה להישאר הכלל, כי האדם הוא תכלית ולא אמצעי, ומציע שכל הכנסה של אוטומציה ובינה מלאכותית תלווה בצעדים שאפשר לבדוק, להגנה על התעסוקה, על ההסבה המקצועית ועל השתתפות העובדים.

בעניין הנשק הוא קובע שאסור להפקיד בידי מערכות מלאכותיות החלטות קטלניות או בלתי הפיכות, ושההחלטה להפעיל כוח קטלני חייבת להישאר בשליטה אנושית אפקטיבית.

ההשקה והתגובות

המסמך הוצג ב-25 במאי 2026 באולם הסינוד בוותיקן, בנוכחות האפיפיור. בין הדוברים היה כריסטופר אולה, ממייסדי Anthropic וראש מחקר הפרשנות שלה, שאמר שהמעבדות זקוקות ל"מבקרים מיודעים שיגידו להן כשהן נכשלות"; האפיפיור הודה לו וכינה את השיח הזה "סימן גדול לתקווה". האפיפיור אמר שם שהבינה המלאכותית "צריכה להתפרק מנשקה", בהשוואה לתמיכה רבת השנים של הכנסייה בפירוק נשק גרעיני.

התגובות לא היו אחידות. לפי אוניברסיטת דורהאם, המסמך עורר עניין תקשורתי רב, אבל גם שאלות על הרכב הפאנל ועל השאלה אם אפיפיור כשיר לדבר על בינה מלאכותית; את השתתפותו של אולה היו שבירכו כמעורבות רצינית, והיו שחששו מ"השתלטות תאגידית". בסוף אוקטובר 2026, בכנס שארגנו האקדמיה האפיפיורית לחיים ו-Future of Life Institute, סיכם האפיפיור חמישה עקרונות מתוך המסמך, ובהם שמכונות הן כלים ולא אנשים, ושיש החלטות שאסור להעביר למכונות.

ההקשר: מסמכים קודמים

בהערות השוליים האנציקליקה מפנה שוב ושוב ל-Antiqua et Nova, המסמך שפרסמו שתי מחלקות של הכס הקדוש בינואר 2025, וגם לנאומו של האפיפיור פרנציסקוס במושב פסגת G7 על בינה מלאכותית ב-14 ביוני 2024. עוד קודם, ב-28 בפברואר 2020, חתמו האקדמיה האפיפיורית לחיים, Microsoft, IBM, ארגון המזון והחקלאות של האו"ם ומשרד החדשנות האיטלקי על Rome Call for AI Ethics, אמנה וולונטרית לבינה מלאכותית אתית. לפי פרופ' אנה רולנדס מאוניברסיטת דורהאם, שהשתתפה בפאנל ההשקה, זהו הטקסט האפיפיורי הראשון שהבינה המלאכותית היא מוקדו המרכזי. המסמך הוזכר גם בסיקור של בקשות לפטור דתי משימוש בבינה מלאכותית בעבודה, אך הדיווחים חלוקים בשאלה אם מבקשי הפטור אכן הסתמכו עליו.