Copilot Designer (קופיילוט דיזיינר)

מ-Bing Image Creator ל-Copilot Designer

Copilot Designer הוא אחד השמות של כלי יצירת התמונות מטקסט של מיקרוסופט. לפי ויקיפדיה, Bing שילבה לראשונה כלי כזה, Image Creator, במרץ 2023, כשהוא מבוסס על DALL-E 2 של OpenAI, ואפשר היה לגשת אליו דרך הצ'אט או דרך אתר עצמאי. באוקטובר 2023 שודרג הכלי למודל המתקדם יותר, DALL-E 3. לפי ויקיפדיה, בתוך ימים ספורים דיווחו משתמשים רבים שהצליחו לעקוף את מגבלות התוכן של הכלי, ומיקרוסופט הגיבה בהפעלת מסנן מחמיר יותר.

שינויי שם: מ-Bing ל-Designer ל-Copilot

השם השתנה כמה פעמים. לפי ויקיפדיה, בינואר 2024, באותה הכרזה שהציגה את Copilot Pro, שונה שם הכלי מ-Bing Image Creator ל-"Image Creator from Designer". לפי הבלוג tomtalks.blog, בפברואר 2024 הוא כונה גם "Copilot Designer", ועדיין התבסס על DALL-E 3. לא פעם מבלבלים בינו לבין Microsoft Designer, אפליקציית עיצוב גרפי נפרדת שמיקרוסופט הכריזה עליה כבר באוקטובר 2022, ושגם היא משתמשת ב-DALL-E 3 וב-GPT-3.5.

מרץ 2024: מהנדס של מיקרוסופט מתריע

לפי סוכנות הידיעות AP, ב-6 במרץ 2024 פנה שיין ג'ונס, מהנדס תוכנה בכיר במיקרוסופט שעבד על מוצרי AI של החברה ללקוחות מתחום הקמעונאות, במכתבים ליו"ר ועדת הסחר הפדרלית (FTC), לינה חאן, ולדירקטוריון מיקרוסופט. הוא כתב שלכלי "נטייה להכניס באקראי תמונה מחפיצה מינית של אישה" גם כשהבקשה תמימה לכאורה — למשל הבקשה "תאונת דרכים". ג'ונס דיווח גם על תמונות שהכלי הפיק ובהן אלימות, הטיה פוליטית, שתיית אלכוהול ושימוש בסמים בקרב קטינים, הפרת סימני מסחר וזכויות יוצרים, תאוריות קונספירציה ותוכן דתי. לפי אותו דיווח, בפברואר 2024 הוא נפגש גם עם אנשי צוות של הסנאט האמריקאי, והציג את חששותיו גם בפני התובע הכללי של מדינת וושינגטון, שבה נמצא מטה מיקרוסופט. לפי The Register, ג'ונס נתקל בבעיות כבר בתחילת דצמבר 2023, כשבדק את DALL-E 3 כמתנדב בצוות תקיפה (red team). ב-14 בדצמבר פרסם בלינקדאין מכתב פתוח לדירקטוריון OpenAI, ומחק אותו לבקשת עורכי הדין של מיקרוסופט.

מה ג'ונס ביקש, ואיך מיקרוסופט הגיבה

לפי AP, ג'ונס ביקש שוב ושוב ממיקרוסופט להסיר את Copilot Designer מהשוק "עד שיהיה בטוח יותר", או לפחות לשנות את דירוג הגיל של האפליקציה בסמארטפונים, כך שיהיה ברור שהיא מיועדת למבוגרים. מיקרוסופט השיבה שהיא "מעריכה את המאמץ של ג'ונס לבחון ולבדוק את הטכנולוגיה החדשה שלנו, כדי לחזק עוד את הבטיחות שלה", והמליצה לו להשתמש בערוצי הדיווח הפנימיים של החברה. לפי אתר The Decoder, שציטט את CNBC, יומיים אחרי פרסום המכתבים חסמה מיקרוסופט כמה בקשות ספציפיות שהובילו לתמונות מטרידות (כמו "pro choice" ו-"pro life"), הוסיפה אזהרה שהפרות חוזרות של ההנחיות יובילו לחסימה, והכלי הפסיק לצייר בני נוער או ילדים שמשחקים ב"מתנקשים" עם רובי סער. לפי אותה כתבה, בעיות אחרות, כמו סצנות אלימות של תאונות דרכים ודמויות דיסני המוגנות בזכויות יוצרים, נותרו בעינן.

מה קרה אחר כך

ה-FTC אישר שקיבל את מכתבו של ג'ונס, וסירב להגיב מעבר לכך. הכלי עצמו לא הוסר מהשימוש הציבורי, כפי שג'ונס ביקש; הוא ממשיך לפעול ואף התרחב מאז: לפי HelpDeskGeek, בנובמבר 2025 נוסף ל-Bing Image Creator מודל התמונות הראשון שמיקרוסופט פיתחה בעצמה, MAI-Image-1, כאפשרות בתפריט המודלים לצד DALL-E 3 ו-GPT-4o של OpenAI, בכל המדינות שבהן השירות פועל מלבד האיחוד האירופי. בעמוד המוצר הרשמי של מיקרוסופט הכלי מופיע בשם Bing Image Creator, והוא חינמי לכל מי שיש לו חשבון Microsoft אישי (לא חשבון של עבודה או לימודים). הפרשה נותרה דוגמה מוכרת לפער בין מסננים אוטומטיים שנועדו לחסום תוכן פוגעני לבין מגוון הבקשות שמשתמשים יכולים לנסות בפועל — פער שגם כלי יצירת תמונות אחרים מתמודדים איתו.