8 בדיקות לפני שמשתמשים בתשובה של AI
סמנו כל בדיקה שביצעתם. הסימון נשאר רק בעמוד הפתוח.
סימנתם 0 מתוך 8
למה זה קורה: המודל מנבא את המשך הטקסט, ואינו שולף בהכרח עובדה ממאגר מסודר. לכן הוא עלול לייצר שם ספר או מאמר שנשמע אמין אך אינו קיים.
לדוגמה: תלמיד מכין עבודה בספרות ומקבל הפניה לספר עברי עם שם מחבר ומספר עמוד.
איך בודקים בפועל
- חפשו את שם הספר והמחבר בקטלוג ספרייה.
- פתחו את המקור ובדקו שהוא אכן תומך בטענה.
למה זה קורה: כשפרט נדיר לא הופיע בבירור באימון, המודל ממשיך לייצר רצף סביר גם אם הפרט שגוי. הוא עלול להציג ניחוש באותו טון שבו הוא מציג מידע נכון.
לדוגמה: הורה שואל מה מינון תרופה לילד ומקבל מספר מדויק שנראה מקצועי.
איך בודקים בפועל
- סמנו את הפרטים שעליהם תלויה ההחלטה.
- אמתו אותם מול מקור בלתי תלוי; במינון תרופה פנו לאיש מקצוע.
למה זה קורה: נתוני האימון נאספו עד תאריך מסוים; שינוי מאוחר יותר אינו חלק מהם. מידע חדש יכול להיכנס לשיחה דרך מקור חיצוני, בלי לשנות את האימון המקורי.
לדוגמה: בעלת עסק קטן שואלת על כלל מס שהשתנה לאחרונה בישראל.
איך בודקים בפועל
- פתחו מקור רשמי עדכני ובדקו את תאריך הפרסום.
- ספקו בשיחה את הנוסח העדכני ובדקו שהתשובה מתייחסת אליו.
למה זה קורה: המודל לומד דפוסים מתוך נתוני האימון, שעשויים לשקף אי־שוויון ודעות קדומות. כך הוא עלול להניח מגדר של בעל מקצוע גם בלי שהתבקש.
לדוגמה: מורה מבקש דמויות לתרגיל: הכלי מתאר את כל המהנדסים כגברים ואת כל המטפלים כנשים.
איך בודקים בפועל
- סמנו הנחות על מגדר או רקע שלא נמסרו בבקשה.
- השוו כמה תיאורים ובדקו אם אותו דפוס חוזר.
- ערכו את הדוגמאות לפני השימוש בכיתה.
למה זה קורה: שירותים רבים שומרים שיחות, ולעיתים משתמשים בתוכן לאימון עתידי. שיחה שנראית אישית אינה כשלעצמה הבטחה שהמידע לא יישמר או ייחשף.
לדוגמה: הורה רוצה לנסח פנייה לקופת החולים ומדביק מסמך עם תעודת זהות ומידע רפואי.
איך בודקים בפועל
- הוציאו פרטים מזהים ומידע רגיש לפני ההזנה.
- השתמשו במקרה בדוי לצורך תרגול ניסוח.
- בדקו מה השירות אומר על שמירה ושימוש בשיחות.
למה זה קורה: גם כשמספקים מסמך, המודל עלול לסטות ממנו אל מידע מנתוני האימון. סיכום או ציטוט שנראים מתאימים אינם בהכרח נאמנים למקור.
לדוגמה: תלמיד מסכם סיפור בעברית ומקבל משפט במירכאות שלא מצא בסיפור.
איך בודקים בפועל
- חפשו את המשפט במקור והשוו מילה במילה.
- בדקו גם את ההקשר, ולא רק את קיום המשפט.
- אם לא מצאתם אותו, אל תציגו אותו כציטוט.
למה זה קורה: מודל שפה יכול לסייע בניסוח ובהסבר, אך גם להציג מידע שגוי בביטחון. כשלטעות יש השלכות רפואיות, משפטיות או כספיות, יש לבדוק עובדות קריטיות באופן עצמאי.
לדוגמה: עצמאי מקבל תשובה על הוצאה עסקית ורוצה לפעול לפיה בדיווח המס.
איך בודקים בפועל
- הפרידו בין טיוטת הסבר לבין החלטה לביצוע.
- אמתו עובדות קריטיות מול מקור בלתי תלוי.
- לפני פעולה בעלת השלכות, בדקו עם איש מקצוע מתאים.
למה זה קורה: החלטת מודל מתפזרת על פני פרמטרים רבים ואינה נשמרת כסיבה קריאה. הסבר בדיעבד אינו בהכרח חשיפה של המנגנון הפנימי שהוביל לתשובה.
לדוגמה: רכזת בית ספר מקבלת דירוג הצעות לפרויקט והסבר משכנע למה אחת מהן עדיפה.
איך בודקים בפועל
- השוו את הנימוקים לפרטים שהופיעו בהצעות.
- בדקו אם ההסבר מוסיף הנחות שלא נמסרו.
- אל תראו בהסבר לבדו הוכחה שהתוצאה מוצדקת.
עוד בערכה: רשימת בדיקות · חידון · מיתוס מול מציאות · מילון למורים