צביעת תמונות (Image Colorization)

תמונה, קול ווידאו

הגדרה

צביעת תמונות היא הוספת צבע אוטומטית לתצלום שחור-לבן בעזרת מודל AI. הצבעים אינם משוחזרים מהמקור — תצלום שחור-לבן אינו שומר אותם כלל — אלא נבחרים כניחוש סביר שהמודל למד ממיליוני תמונות אחרות.

מה הכלי עושה, ומה הוא לא עושה

צביעת תמונות היא הוספת צבע לתצלום שחור-לבן בעזרת מודל שלמד ממיליוני תמונות צבעוניות. כדאי להתחיל ממה שהיא איננה: מידע על הצבע אינו נשמר בתצלום שחור-לבן, ולכן אין מה לשחזר ממנו. המאמר שהניח את יסודות התחום המודרני — של ריצ'רד ז'אנג, פיליפ איזולה ואלכסיי אפרוס, ממרץ 2016 — אומר זאת כבר בשני משפטיו הראשונים: המשימה היא "להזות" גרסה צבעונית סבירה, והבעיה, בלשונם, "תת-מוגדרת בבירור" — יש לה יותר מתשובה נכונה אחת.

מהאפולו ועד למחלוקת על "אזרח קיין"

צביעה קדמה למחשב בהרבה: חלק מסרטיו של ז'ורז' מלייס — ובהם עותקים של "מסע אל הירח" מ-1902 — נצבעו ביד בסטודיו של ברת' ואליזבת תוילייה בפריז. הצביעה הממוחשבת הראשונה פותחה בידי הקנדי וילסון מארקל ושימשה ב-1970 לצילומי הירח של תוכנית אפולו. בשנות ה-80 התלקחה מחלוקת סוערת על צביעת סרטים קלאסיים: סיסקל ואיברט כינו זאת ב-1986 "הוונדליזם החדש של הוליווד", וכשטד טרנר הביע ביולי 1988 עניין בצביעת "אזרח קיין", הודיע רוג'ר מאייר, נשיא Turner Entertainment, ב-14 בפברואר 1989 שהוחלט לא להמשיך.

איך מודל לומד לצבוע

הגישה שהשתלטה על התחום מתייחסת לצביעה כאל בחירה מתוך רשימת אפשרויות, לא כאל מדידה של ערך אחד נכון. באימון מעודדים את המודל בכוונה לגוון, אחרת הוא מתכנס לחום-אפרפר בטוח — הניחוש הממוצע הבטוח ביותר, וגם המשעמם ביותר. המערכת אומנה על למעלה ממיליון תמונות צבעוניות, ובשימוש היא רצה במעבר יחיד ברשת נוירונים, בלי חישוב נפרד לכל תמונה.

מבחן טיורינג של הצבע: 32%

כדי למדוד את התוצאה העמידו החוקרים זו לצד זו את התמונה שהמודל צבע ואת התמונה הצבעונית האמיתית, וביקשו מנבדקים לבחור איזו מהשתיים אמיתית. השיטה הטעתה את הנבדקים ב-32% מהניסיונות, הרבה יותר משיטות שקדמו לה. שימו לב מה המספר מודד ומה לא: כמה התוצאה נראית משכנעת, לא כמה היא נכונה. תמונה יכולה להיראות אמינה לגמרי ולתת לשמלה צבע שמעולם לא היה לה.

מה זה אומר לתמונה המשפחתית שלכם

מכאן עצה מעשית: שמרו את הסריקה המקורית בשחור-לבן לצד הגרסה הצבועה, והתייחסו לצבועה כאיור ולא כתיעוד. ואם אתם יודעים משהו אמיתי על התמונה — שהמעיל היה ירוק, שהבית היה מלבנים אדומות — יש כלים לכך: עבודה מאוחרת יותר של אותה קבוצת חוקרים, שהוצגה בכנס SIGGRAPH ב-2017, מאפשרת לסמן "רמזים" נקודתיים, והרשת מפיצה אותם לאזורים הדומים. זה לא הופך את התוצאה למדויקת, אבל מחליף חלק מהניחוש בידע שלכם.

שאלות נפוצות ❓

האם הצבעים שיוצאים הם הצבעים שהיו במציאות?

לא. תצלום שחור-לבן אינו שומר את מידע הצבע, ולכן אין מה לשחזר ממנו. המאמר המכונן בתחום מגדיר את המשימה במפורש כ"הזיה" של גרסה צבעונית סבירה, ואת הבעיה כתת-מוגדרת — יש לה יותר מתשובה נכונה אחת. הצבע שיוצא הוא הצבע ההגיוני ביותר לפי מיליוני התמונות שהמודל ראה, לא הצבע שהיה בחדר.

אז מה בכל זאת התועלת בזה?

צביעה עוזרת לעין לקרוא תמונה ישנה — להפריד בין אנשים לרקע, להרגיש את הזמן והמקום, להראות אותה לילדים. זה שימוש לגיטימי לגמרי כל עוד הגרסה הצבועה מסומנת ככזו ולא מחליפה את המקור. הבעיה מתחילה כשמתייחסים אליה כראיה על איך הדברים באמת נראו.

אפשר להגיד למודל שהשמלה הייתה כחולה?

כן, בכלים שתומכים בכך. עבודה של אותה קבוצת חוקרים שהוצגה בכנס SIGGRAPH ב-2017 מאפשרת למשתמש לסמן "רמזים" נקודתיים של צבע על התמונה, והרשת מפיצה אותם לאזורים הדומים בתמונה. כך חלק מהניחוש מוחלף בידע אמיתי של מי שמכיר את התצלום.

זה אותו דבר כמו צביעת סרטים ישנים בטלוויזיה בשנות ה-80?

הרעיון זהה, הטכנולוגיה שונה מאוד. הצביעה הממוחשבת הראשונה פותחה בידי וילסון מארקל ושימשה ב-1970 לצילומי הירח של אפולו, והצביעה המסחרית של סרטים קלאסיים בשנות ה-80 עוררה מחלוקת חריפה — סיסקל ואיברט כינו אותה ב-1986 "הוונדליזם החדש של הוליווד". גם אז וגם היום הצבע נבחר, לא משוחזר.