תקנות סימון תוכן שנוצר בבינה מלאכותית (סין)

בטיחות ואתיקה

הגדרה

תקנות סיניות שפורסמו במרס 2025 ונכנסו לתוקף בספטמבר 2025, ומטילות חובות סימון של תוכן שנוצר או סונתז בבינה מלאכותית על ספקי שירות, על פלטפורמות ועל המשתמשים עצמם.

מי הוציא את התקנות ומתי

התקנות פורסמו ב-14 במרס 2025 בידי מנהל המרחב הסייברי של סין (Cyberspace Administration of China) יחד עם משרד התעשייה וטכנולוגיית המידע, המשרד לביטחון הפנים והמינהל הממלכתי לרדיו וטלוויזיה; מועד ההוצאה הרשום על המסמך עצמו הוא 7 במרס 2025. הן נכנסו לתוקף ב-1 בספטמבר 2025 ונשענות על חוק אבטחת הסייבר הסיני ועל שורת תקנות קודמות בנושא המלצות אלגוריתמיות, סינתזה עמוקה ושירותי בינה מלאכותית יוצרת. "תוכן שנוצר או סונתז בבינה מלאכותית" מוגדר בהן כטקסט, תמונות, שמע, וידאו, סצנות וירטואליות או מידע אחר שנוצר בטכנולוגיית בינה מלאכותית.

שני סוגי סימון

התקנות מבחינות בין שני סוגים. "סימון מפורש" הוא תווית שמתווספת לתוכן או לממשק ומופיעה כטקסט, צליל או תמונה, כך שהמשתמש יכול לתפוס אותה בבירור. "סימון מרומז" הוא תווית שמוטמעת בנתוני הקובץ באמצעים טכניים ואינה נתפסת בקלות. הסימון המרומז נדרש במטא-נתונים של כל קובץ תוכן מסונתז ועליו לכלול את מאפייני התוכן, שם הספק או קודו ומספר סימוכין; הטמעה בדרך של סימן מים דיגיטלי היא בגדר עידוד, לא חובה.

מה נדרש מספק השירות

חובת הסימון המפורש אינה גורפת: היא חלה כשהשירות נופל לגדר המצבים שבפסקה הראשונה של סעיף 17 לתקנות הסינתזה העמוקה. במקרים אלה התקנות מפרטות היכן למקם את התווית בכל מדיום — בתחילת טקסט, בסופו או באמצעו, בהודעה קולית, במקום בולט בתמונה, במסך הפתיחה של וידאו או של סצנה וירטואלית. כשהספק מאפשר הורדה, שכפול או ייצוא, עליו לוודא שהקובץ היוצא נושא את הסימון. משתמש רשאי לבקש תוכן בלי סימון מפורש, ואז על הספק להבהיר לו בהסכם השירות את חובותיו ואחריותו ולשמור את היומנים הרלוונטיים לפחות שישה חודשים. התקנות מחייבות גם להסביר בהסכם השירות את שיטות הסימון ואת סגנונן, ולהפנות את המשתמש לקרוא אותן.

פלטפורמות, חנויות אפליקציות ומשתמשים

פלטפורמה שמפיצה תוכן בודקת אם המטא-נתונים נושאים סימון מרומז, ולפי התוצאה מוסיפה סביב הפריט תווית שמודיעה למשתמשים שהתוכן מסונתז, שייתכן שהוא מסונתז, או שהוא חשוד ככזה. חנות אפליקציות נדרשת לברר בעת בדיקת אפליקציה אם היא מספקת שירותי בינה מלאכותית יוצרת, ואם כן — לבדוק את החומרים הנוגעים לסימון. המשתמש המפרסם תוכן מסונתז חייב להצהיר על כך ביוזמתו, ואסור למחוק, לשנות, לזייף או להסתיר סימון בזדון.

תקן לאומי מחייב לצד התקנות

לצד התקנות פורסם תקן לאומי בשם "טכנולוגיית אבטחת סייבר — שיטת סימון לתוכן שנוצר בבינה מלאכותית", שגיבשו הוועדה הטכנית הלאומית 260 לאבטחת סייבר והמינהל הממלכתי לפיקוח על השוק, ואף הוא נכנס לתוקף ב-1 בספטמבר 2025. התקן קובע את הפורמט של התוויות הגלויות ואת המטא-נתונים שיש להוסיף כסימון מרומז. בעת רישום אלגוריתם או הערכת בטיחות מוסר הספק גם את החומרים הנוגעים לסימון. חריגה מהתקנות מטופלת בידי רשויות הפיקוח על המידע, התקשורת, ביטחון הפנים והשידור.

שאלות נפוצות ❓

על מי חלות תקנות הסימון הסיניות?

על ספקי שירותי מידע מקוונים הכפופים לתקנות הסיניות בנושא המלצות אלגוריתמיות, סינתזה עמוקה ושירותי בינה מלאכותית יוצרת; על פלטפורמות שמפיצות תוכן; על חנויות אפליקציות; ועל המשתמשים עצמם, שחייבים להצהיר ביוזמתם כשהם מפרסמים תוכן שנוצר או סונתז בבינה מלאכותית.

מה ההבדל בין סימון מפורש לסימון מרומז?

סימון מפורש הוא תווית שהמשתמש יכול לתפוס בבירור — טקסט, צליל או תמונה בתוכן או בממשק. סימון מרומז מוטמע בנתוני הקובץ באמצעים טכניים ואינו נתפס בקלות, ועליו לכלול את מאפייני התוכן, שם הספק או קודו ומספר סימוכין.

האם כל תוכן שנוצר בבינה מלאכותית חייב בתווית נראית?

לא. חובת הסימון המפורש חלה כשהשירות נופל לגדר המצבים שבפסקה הראשונה של סעיף 17 לתקנות הסינתזה העמוקה. הסימון המרומז, לעומת זאת, נדרש במטא-נתונים של קובצי תוכן מסונתז. משתמש אף רשאי לבקש תוכן בלי סימון מפורש, ואז נשמרים היומנים לפחות שישה חודשים.

מה חייבת לעשות פלטפורמה שמפיצה תוכן?

לבדוק אם המטא-נתונים של הקובץ נושאים סימון מרומז, ולהוסיף סביב הפריט תווית בולטת בהתאם: שהתוכן מסונתז, שייתכן שהוא מסונתז לפי הצהרת המשתמש, או שהוא חשוד ככזה על סמך סימנים שזוהו. עליה גם לספק למשתמשים כלי סימון ולעודד אותם להצהיר ביוזמתם.

האם יש תקן טכני שמלווה את התקנות?

כן. תקן לאומי בשם "טכנולוגיית אבטחת סייבר — שיטת סימון לתוכן שנוצר בבינה מלאכותית", שגיבשו הוועדה הטכנית הלאומית 260 לאבטחת סייבר והמינהל הממלכתי לפיקוח על השוק, נכנס לתוקף באותו יום שבו נכנסו התקנות לתוקף וקובע את פורמט התוויות ואת המטא-נתונים.