Dział autonomicznych taksówek robotów Amazon, Zoox, wycofał z serwisu 332 pojazdy z powodu krytycznej usterki oprogramowania, która powoduje, że nieoczekiwanie wjeżdżają one pod nadjeżdżający ruch. Wycofanie pojazdów na zlecenie amerykańskiej Krajowej Administracji Bezpieczeństwa Ruchu Drogowego (NHTSA) wynika z niskiego poziomu zaufania publicznego do bezpieczeństwa pojazdów autonomicznych – najnowsze dane AAA pokazują, że tylko 13% ludzi czuje się w nich bezpiecznie.
Problem: Przemieszczanie się na niebezpiecznym terytorium
Problem pojawił się po raz pierwszy 26 sierpnia, kiedy zautomatyzowana taksówka Zoox skręciła szeroko w prawo, wjeżdżając pod nadjeżdżający pojazd, po czym na chwilę się tam zatrzymała. Późniejsza analiza wykazała 62 podobne zdarzenia pomiędzy 26 sierpnia a 5 grudnia. W tych przypadkach pojazdy albo niepotrzebnie przekroczyły oznaczenia pasów ruchu, zwłaszcza w pobliżu skrzyżowań, albo zatrzymały się bezpośrednio na drodze nadjeżdżających pojazdów. To zachowanie znacznie zwiększa ryzyko kolizji, chociaż przed wycofaniem nie zgłoszono żadnych wypadków.
Podstawowe przyczyny i poprawki oprogramowania
Zoox zidentyfikował kilka czynników, które doprowadziły do błędu:
– Nieprawidłowa identyfikacja zaparkowanych pojazdów (błędnie zaklasyfikowane jako poruszające się przeszkody)
– Nieoczekiwane przeliczenie trasy
– Nieudane próby uniknięcia blokowania nadjeżdżającego ruchu na skrzyżowaniach.
Firma wydała pierwszą aktualizację oprogramowania 7 listopada, a kolejną na początku tego miesiąca. Od 19 grudnia wszystkie pojazdy Zoox poruszające się po drogach publicznych zostały zaktualizowane o najnowsze łatki. Zoox twierdzi jednak, że będzie nadal monitorować wydajność pojazdów i ulepszać oprogramowanie, aby zapobiec przyszłym zdarzeniom.
Dlaczego to jest ważne
To wycofanie podkreśla ciągłe wyzwania związane z wdrażaniem w pełni autonomicznych systemów w rzeczywistych środowiskach. Nawet drobne błędy oprogramowania mogą mieć poważne konsekwencje w sytuacjach na drodze, co pokazuje, że technologia autonomicznej jazdy nie jest jeszcze doskonała. Incydent uwydatnia potrzebę dokładnych testów, redundancji i ciągłych aktualizacji drogą bezprzewodową, aby zapewnić bezpieczeństwo przed powszechnym wdrożeniem publicznym.
Chociaż nie doszło do żadnych kolizji, ten incydent potwierdza, że pojazdy autonomiczne nadal wymagają znacznych ulepszeń i nadzoru, zanim można będzie w pełni zaufać, że będą działać bez interwencji człowieka.
