תאונת הרכב האוטונומי של אובר בטמפי

מה קרה

לפי דוח המועצה הלאומית לבטיחות בתחבורה בארצות הברית (NTSB), ב-18 במרץ 2018, בשעה 21:58, פגע רכב ניסוי של אובר בהולכת רגל שחצתה את שדרת מיל (Mill Avenue) בעיר טמפי שבאריזונה. הרכב, רכב שטח מדגם וולוו XC90 משנת 2017, צויד על ידי חטיבת הטכנולוגיות המתקדמות של אובר (ATG) במערכת נהיגה אוטונומית שהייתה עדיין בפיתוח. הוא נסע אז במצב אוטונומי כ-19 דקות, בנתיב הימני ובמהירות של 45 מייל לשעה, ובמושב הנהג ישבה נהגת בטיחות שתפקידה היה להשגיח על המערכת ולהתערב בעת הצורך. הכביש היה יבש ומואר בתאורת רחוב. הולכת הרגל חצתה את הכביש במקום שאין בו מעבר חצייה, כשהיא מובילה אופניים לצידה, ונהרגה בתאונה. בדיווח של NPR מיום התאונה נכתב שייתכן שזה מקרה המוות הראשון של הולך רגל שמעורב בו רכב בנהיגה עצמית, וצוין שבמאי 2016 נהרג נהג של טסלה מדגם Model S בתאונה שבה הייתה מעורבת טכנולוגיית נהיגה אוטומטית.

מה ראתה המערכת, ולמה לא בלמה

לפי ה-NTSB, המערכת זיהתה את הולכת הרגל 5.6 שניות לפני הפגיעה ועקבה אחריה עד הרגע האחרון, אבל מעולם לא סיווגה אותה נכון כהולכת רגל ולא חזתה נכון את מסלולה. תחילה סווגה כרכב, ואחר כך גם כעצם לא מזוהה וכרוכבת אופניים. בתכנון של המערכת, בכל פעם שהסיווג השתנה היא הפסיקה להתחשב בהיסטוריית התנועה של העצם, והתכנון הזה פגע בחיזוי המסלול. רק 1.2 שניות לפני הפגיעה קבעה המערכת שהתנגשות קרובה, ובמצב כזה התכנון הסתמך על הנהגת שתשתלט על הרכב. המערכת לא נועדה לבלום בחירום רק כדי להפחית את עוצמת הפגיעה, והופעל בה מנגנון שאובר כינתה "דיכוי פעולה": שנייה אחת שבה המערכת לא בולמת, כדי לוודא את הסכנה או לאפשר לנהג להשתלט. לפי החברה, המנגנון נועד להתמודד עם חשש מהתראות שווא, והנהגת לא קיבלה התראה כשהופעל. מערכות ההתרעה והבלימה האוטומטית של וולוו נוטרלו בזמן נהיגה אוטונומית, וה-NTSB קבע שהנטרול "הסיר שכבה של יתירות בטיחותית".

נהגת הבטיחות ושאננות האוטומציה

התכנון של אובר הניח שנהג קשוב יזהה סכנה וישתלט בזמן. לפי ה-NTSB, מצלמה פנימית הראתה שהנהגת הסיטה את מבטה מהכביש לפרקי זמן ארוכים, אל תחתית הקונסולה המרכזית שבה הניחה את הטלפון האישי שלה, ולפי רישומי אפליקציית וידאו בטלפון הוזרם בו וידאו לאורך כל הנסיעה. היא החזירה את מבטה לכביש כשנייה לפני הפגיעה, ורק אז ניסתה להטות את ההגה. בראיון אחרי התאונה אמרה לחוקרים שהתעסקה באותם רגעים במסך הבקרה של המערכת, אבל לפי הנתונים לא הייתה פעילות כזו לפני התאונה. הדוח קבע שאילו הייתה קשובה, כנראה היה לה די זמן לזהות את הולכת הרגל ולהימנע מהתאונה או להפחית את עוצמת הפגיעה, וכי ההסחה הממושכת היא "השפעה טיפוסית של שאננות אוטומציה", כלומר הירידה בקשב של מי שמשגיח על מערכת אוטומטית שבדרך כלל עובדת. לפי ממצאי הדוח, עייפות או השפעת חומרים אצל הנהגת לא היו בין הגורמים לתאונה. בספטמבר ובאוקטובר 2017 איחדה אובר את תפקידיהם של שני מפעילים ברכב לתפקיד של מפעיל יחיד, ולפי ה-NTSB ההחלטה הגבירה את העומס על המפעילה היחידה.

מה קבע דוח ה-NTSB

ה-NTSB אימץ את דוח החקירה הסופי ב-19 בנובמבר 2019. המועצה מדגישה שחקירותיה אינן נועדו לקבוע אשמה או אחריות משפטית. לפי הדוח, הסיבה הסבירה לתאונה הייתה כשל של מפעילת הרכב בניטור סביבת הנהיגה ופעולת המערכת האוטונומית, משום שהטלפון האישי שלה הסיח את דעתה לאורך הנסיעה. בין הגורמים התורמים שמנה הדוח: נוהלי הערכת הסיכונים הלקויים של ATG, פיקוח לא יעיל על מפעילי הרכבים והיעדר מנגנונים מתאימים להתמודדות עם שאננות אוטומציה — "כולם תוצאה של תרבות בטיחות לקויה". בין הגורמים הנוספים מנה הדוח גם את חציית הכביש של הולכת הרגל מחוץ למעבר חצייה, ואת הפיקוח הלא מספיק של משרד התחבורה של אריזונה על ניסויי רכב אוטונומי. ה-NTSB המליץ למינהל הלאומי לבטיחות בתנועה בכבישים (NHTSA) לחייב כל מי שמנסה מערכת נהיגה אוטונומית בפיתוח בכבישים ציבוריים להגיש דוח הערכה עצמית של בטיחות, ולהקים תהליך לבחינת הדוחות; לאריזונה המליץ לדרוש מהמפתחים תוכנית לניהול הסיכונים לפני מתן היתר ניסוי. לפי הדוח, כשאובר חידשה את הניסויים בדצמבר 2018, מערכות הבלימה של וולוו נשארו פעילות, המערכת החלה להביא בחשבון הולכי רגל שחוצים מחוץ למעבר חצייה, ומנגנון השהיית הבלימה בוטל בהדרגה.

ההשלכות המשפטיות והמסחריות

מיד אחרי התאונה השעתה אובר את כל פעילות הרכבים האוטונומיים שלה בפיטסבורג, בטמפי, בסן פרנסיסקו ובטורונטו, ולפי AP אסר מושל אריזונה דאג דוסי על החברה להמשיך בניסויים במדינה. במרץ 2019 הודיעה התביעה של מחוז יאבאפאי, שקיבלה את התיק בגלל ניגוד עניינים אפשרי, שלאחר בדיקה "אין בסיס לאחריות פלילית" של אובר כתאגיד, כלומר שלא יוגש נגד החברה אישום פלילי. בינואר 2021 השלימה אובר את מכירת חטיבת ATG לחברת Aurora Innovation, עסקה שהוכרזה קודם לכן. נהגת הבטיחות הואשמה בהריגה ברשלנות, וביולי 2023 הודתה במסגרת הסדר טיעון בעבירה של סיכון (endangerment) ונידונה לשלוש שנות מבחן בפיקוח. בדיון טען עורך דינה שגם אובר צריכה לשאת בחלק מהאשמה, בין השאר משום שהציבה אותה ברכב בלי עובד נוסף; התובעת אמרה לשופט שלנאשמת היה "תפקיד אחד ויחיד" — לשמור את עיניה על הכביש. השאלה הרחבה, מה קורה כשאדם משמש גיבוי למערכת אוטומטית, נדונה בערכים הטיית אוטומציה ואדם-בלולאה, והטכנולוגיה עצמה מוסברת בערך רכב אוטונומי.