בטיחות ואתיקה
השאלות שמעבר ל"איך זה עובד" — האם אפשר לסמוך על מערכת AI, למי היא עלולה להזיק, ואיך מגנים מפני שימוש לרעה. הקטגוריה מכסה מונחים מתחום בטיחות ה-AI (כמו הטיה אלגוריתמית שמשקפת הטיות קיימות בנתוני-האימון), פרטיות (מה בדיוק AI "יודע" עלינו ואיך זה נשמר), ואתיקה (מי אחראי כשמערכת AI טועה, ואילו שימושים נחשבים בעייתיים גם כשהטכנולוגיה עצמה כשירה). זו לא קטגוריה תיאורטית בלבד: רוב המונחים כאן קשורים ישירות להחלטות מעשיות שחברות, ממשלות ומשתמשים בודדים כבר צריכים לקבל היום — מהאם לסמוך על תשובה של צ'אטבוט בעניין רפואי ועד לשאלה איך לזהות תוכן מזויף. הכתיבה כאן מכוונת במיוחד להישאר מאוזנת: לא להפחיד יתר על המידה ולא להמעיט בסיכונים אמיתיים, אלא להסביר מה בדיוק הבעיה הטכנית או החברתית שכל מונח מתאר, כדי שהקורא יוכל לגבש דעה מבוססת בעצמו. חלק מהמונחים כאן — כמו רגולציית AI או שקיפות אלגוריתמית — נמצאים עדיין בשלב מוקדם יחסית של דיון ציבורי ומשפטי, ולכן חשוב לקרוא אותם כתיאור של מצב מתפתח ולא כתשובה סופית וקבועה.
בדיקות-פריצה יזומות (Red Teaming)
בדיקות-פריצה יזומות (Red Teaming) הוא תהליך שבו מומחים מנסים במכוון "לשבור" מודל AI כדי לגלות ולתקן חולשות לפני שמנצלים אותן.
בטיחות בינה מלאכותית (AI Safety)
בטיחות בינה מלאכותית הוא תחום מחקר ומדיניות שעוסק במניעת נזק ממערכות AI — מטעויות יומיומיות ועד תרחישים חמורים יותר ככל שהמערכות נעשות עוצמתיות יותר.
בינה מלאכותית אחראית (Responsible AI)
בינה מלאכותית אחראית הוא מונח-מטרייה לגישת-פיתוח שמשלבת שיקולי בטיחות, הוגנות, שקיפות ואחריותיות לאורך כל מחזור-החיים של מוצר AI — לא כתוספת בדיעבד.
דיסאינפורמציה (Misinformation)
דיסאינפורמציה היא מידע כוזב שמופץ (בכוונה או בטעות), ו-AI מגביר את הסיכון הזה — הן ביכולת לייצר תוכן מזויף משכנע (טקסט, תמונה, וידאו), והן במהירות ההפצה שלו.
הוגנות אלגוריתמית (Algorithmic Fairness)
הוגנות אלגוריתמית היא תחום שמפתח שיטות למדוד ולתקן אפליה במערכות AI — כדי שמודל לא יפלה לרעה קבוצות שונות באוכלוסייה, גם בלי כוונה מודעת.
הונאת פישינג
הונאת פישינג היא ניסיון הונאה שמתחזה לגוף אמיתי כדי לגנוב פרטים אישיים — ו-AI הפך אותה למשוכללת יותר.
הטיה אלגוריתמית (Bias)
הטיה אלגוריתמית (Bias) היא כשמודל AI משקף בתשובותיו דעות קדומות שהוא "ירש" מהנתונים העצומים שעליהם אומן — בלי כוונה מצד מי שבנה אותו.
הרעלת נתונים (Data Poisoning)
הרעלת נתונים היא התקפה שבה תוקף מזריק במכוון נתונים שגויים או זדוניים לתוך מערך-האימון של מודל, כדי לפגוע בהתנהגותו — נזק שקורה עוד לפני שהמודל בכלל הושלם.
התקפה יריבה (Adversarial Attack)
התקפה יריבה היא שינוי קטן ומחושב-בקפידה בקלט (למשל תמונה) שגורם למודל AI לטעות בגדול — שינוי כל-כך עדין שעין אנושית כמעט לא מבחינה בו.
זכויות יוצרים ובינה מלאכותית
זכויות יוצרים ובינה מלאכותית היא סוגיה משפטית פתוחה: האם מותר לאמן מודלים על יצירות מוגנות בלי רשות, ולמי שייכת יצירה שנוצרה בעזרת AI.
יישור (Alignment)
יישור (Alignment) הוא התחום שעוסק בלוודא שמודל AI פועל בהתאם לכוונות וערכים אנושיים, ולא רק "עונה נכון" מבחינה טכנית.
מודרציית תוכן (Content Moderation)
מודרציית תוכן היא סינון וסימון תוכן פוגעני, מסוכן או בלתי-הולם ברשתות חברתיות ופלטפורמות — מבוצעת היום בעיקר ע"י מערכות AI, בגלל הכמות העצומה של תוכן שמועלה מדי שנייה.
מעקות בטיחות (Guardrails)
מעקות בטיחות (Guardrails) הם כללים והגבלות שמוטמעים במודל AI כדי למנוע ממנו לספק תוכן מזיק, מסוכן או בלתי הולם.
סיכון קיומי (Existential Risk)
סיכון קיומי, בהקשר AI, הוא הדאגה התיאורטית שמערכת בינה מלאכותית עוצמתית מאוד עלולה לגרום נזק חמור ובלתי-הפיך לאנושות — נושא שנוי-במחלוקת בקהילת המחקר.
עקומת המוזרות (Uncanny Valley)
עקומת המוזרות (Uncanny Valley) היא התחושה הלא-נעימה שאנשים חווים כשדמות מלאכותית נראית כמעט-אנושית אבל לא לגמרי.
פיקוח אנושי (Human Oversight)
פיקוח אנושי הוא עקרון שלפיו מערכת AI, גם כשהיא פועלת באופן אוטומטי ברוב הזמן, נשארת בת-בקרה ובת-עצירה ע"י בני-אדם — לא "עצמאית לגמרי" ללא כתובת אחריות.
פרטיות נתונים
פרטיות נתונים היא השאלה מה קורה למידע שמזינים לכלי AI — האם הוא נשמר, משמש לאימון עתידי, או נחשף לצדדים אחרים.
רגולציית בינה מלאכותית (AI Regulation)
רגולציית בינה מלאכותית היא חוקים ותקנות שממשלות מחוקקות כדי לפקח על פיתוח ושימוש ב-AI — כמו ה-EU AI Act, החוק המקיף הראשון מסוגו באיחוד האירופי.
שימוש כפול (Dual Use)
שימוש כפול הוא מונח שמתאר טכנולוגיה שיכולה לשמש הן למטרות מועילות והן למטרות מזיקות — כמעט כל טכנולוגיית AI יצירתית נושאת אתה סיכון כפול כזה.
שקיפות (Transparency)
שקיפות (Transparency) היא עד כמה ברור למשתמש איך ולמה מודל AI הגיע לתשובה מסוימת.