Uber: System AI widział kobietę na drodze, ale ją zlekceważył

Są już wyniki śledztwa dotyczącego tragicznego wypadku, który miał miejsce w marcu bieżącego roku w mieście Tempe w Arizonie. W pełni autonomiczne Volvo od Ubera zabiło tam na środku drogi kobietę prowadzącą rower. Okazuje się, że wystąpił poważny błąd w oprogramowaniu rozwijanym przez inżynierów Ubera.

System AI, kamery i radary bez problemu wykryły i śledziły przechodzącą przez drogę kobietę, ale zlekceważyły ją, uznając za fałszywy alarm. Kierowca testowy Ubera, który znajdował się za kierownicą pojazdu, nie był skupiony na obserwacji drogi, tylko był zajęty czytaniem wiadomości na swoim smartfonie i zdołał zobaczyć kobietę, gdy było już za późno na jakąkolwiek reakcję. Kobieta doznała na tyle poważnych obrażeń, że zmarła krótko po przewiezieniu do szpitala.

Raport stwierdza, że nie była to wina LIDAR-a, radarów, czujników czy kamer, bo funkcjonowały one prawidłowo tuż przed tym zdarzeniem, a w logach nie ma żadnej informacji o ich awarii. Problemem nie była również ograniczona widoczność. Chociaż kobieta przechodziła przez drogę w kiepsko oświetlonym miejscu, i kierowca mógł jej nie dostrzec, to jednak systemy nie mają takich ograniczeń i widzą przeszkody na setki metrów do przodu, bez względu na to, czy panuje dzień czy noc.

Za cały wypadek odpowiada więc niedopracowane oprogramowanie tworzone przez Ubera. System został zaprogramowany tak, żeby ignorował pieszych i rowery poruszające się po drodze. Miał też ignorować spadające na drogę liście i walające się po niej śmieci.

Wszystko wskazuje na to, że kobietę prowadzącą rower określił jako nieistotny obiekt i uderzył w nią, bez żadnego hamowania, jakby w ogóle nie istniała. To bardzo smutne wieści, bo chociaż systemy autonomiczne wykazują się o wiele większymi zdolnościami od zwykłych kierowców i zapewniają na drogach o wiele większy poziom bezpieczeństwa, to jednak wciąż najsłabszym elementem jest człowiek.

W tym przypadku zawiódł z dwóch stron, a mianowicie poprzez niedopracowanie oprogramowania oraz bezmyślne wtargnięcie na drogę. Na szczęście władze Ubera wykazały się dużą odpowiedzialnością i biją się w pierś.

Rodzinie śmiertelnie potrąconej kobiety zostało wypłacone zadośćuczynienie w formie finansowej, a zarząd przeprowadza wewnętrzny audyt w firmie oraz już zatrudnił byłego prezesa Narodowej Rady Bezpieczeństwa Transportu (NTSB), aby korzystać z jego doświadczeń przy rozwijaniu technologii pojazdów autonomicznych.

Uber wstrzymał też testy wszystkich swoich pojazdów autonomicznych na terenie całych Stanów Zjednoczonych, aż do odwołania. Miejmy nadzieję, że cenną lekcję firma przekaże również innym firmom pracującym nad tymi technologiami, abyśmy w przyszłości wszyscy byli bardziej bezpieczni.

Źródło: GeekWeek.pl/ / Fot. Uber