RT-1 — מודל-הרובוטיקה של Google שקדם ל-RT-2

רובוטיקה

הגדרה

RT-1 הוא מודל-רובוטיקה מבוסס-טרנספורמר שפרסמה Google בדצמבר 2022, שאומן על 130 אלף פרקי-התנסות אמיתיים ושימש הבסיס וקו-ההשוואה שממנו נמדד השיפור של RT-2.

RT-1 (Robotics Transformer 1) הוא מודל-רובוטיקה מבוסס-טרנספורמר שפרסמה Google בדצמבר 2022. ההסבר הכללי של מודל ראייה-שפה-פעולה (VLA) — הגישה שאליה RT-1 עדיין לא היה שייך — נמצא בערך הנפרד. RT-1 עצמו קדם לה: הוא אומן מאפס אך ורק על נתוני-רובוט אמיתיים, בלי אימון-מקדים על טקסט או תמונות מהאינטרנט, ותפקידו כאן כפול — מודל בפני עצמו, וגם הבסיס וקו-ההשוואה שממנו נמדד השיפור של RT-2, המודל שהציג לראשונה את גישת ה-VLA.

המאגר שעליו אומן RT-1 נאסף בעזרת צי של 13 רובוטים מסוג Everyday Robots — זרוע בעלת שבע דרגות-חופש, תפסן דו-אצבעי ובסיס נייד — לאורך 17 חודשים, ומכיל יותר מ-130 אלף פרקי-התנסות על פני יותר מ-700 משימות שונות. הרשת עצמה קטנה יחסית: כ-35 מיליון פרמטרים בלבד. את התמונה מעבדת רשת EfficientNet-B3 שאומנה מראש על ImageNet, ומפיקה ממנה מפת-תכונות בגודל 9 על 9 על 512; שכבות שמשלבות את ההוראה הלשונית לתוך עיבוד התמונה אותחלו כך שלא ישנו מיד את מה שהרשת המוכנה-מראש כבר יודעת, וההוראה הלשונית עצמה מקודדת במקודד-משפטים כללי במקום ברשת שאומנה במיוחד למשימה. כל הרכיבים האלה יחד רצים ב-3 הרצים בשנייה. במבחנים על משימות שנראו באימון RT-1 הצליח ב-97 אחוזים מהניסיונות — עדיפות של 25 נקודות-אחוז על השיטה המתחרה הקרובה ביותר.

על הוראות חדשות, שלא הופיעו בנתוני-האימון בניסוח הזה, RT-1 הצליח ב-76 אחוזים — עדיפות של 24 נקודות-אחוז על קו-הבסיס הבא בטיבו. הוא הפגין גם עמידות מסוימת: 83 אחוזים הצלחה מול חפצים מסיחי-דעת בסביבה, ו-59 אחוזים כשהרקע עצמו השתנה. עם זאת, בדיוק המגבלה הזו — כל היכולת מגיעה מנתוני-רובוט בלבד, בלי ידע-עולם מהאינטרנט — היא שהניעה את Google DeepMind לפתח את RT-2 כעבור כשמונה חודשים.

RT-1 גם הודגם במטבח אמיתי בשילוב עם מתכנן-משימות בשם PaLM-SayCan, שפירק הוראה מורכבת לרצף צעדים; המערכת המשולבת ביצעה בהצלחה 67 אחוזים מהמשימות, ובהן תוכניות בנות עד 50 צעדים. וכשאימנו את RT-1 גם על נתונים מרובוט אחר לגמרי, זרוע Kuka IIWA, דיוק משימת-ליקוט-מהמכל עלה מ-22 ל-39 אחוזים — סימן ראשון לכך שהמודל יכול להעביר ידע בין גופים רובוטיים שונים.