Naukowcy oszukali Autopilota i zmusili Teslę do awaryjnego hamowania [FILM]

Eksperci z Uniwersytetu Ben Guriona w Beer Szewie w Izraelu przygotowali eksperyment, w trakcie którego w bardzo prosty sposób udało się im oszukać systemy autonomiczne znajdujące się na pokładzie Modelu X od Tesli i zmusić pojazd do gwałtownego zahamowania.

Na początek użyli projektora, za pomocą którego wyświetlili obraz ludzkiej sylwetki na drodze oraz znaku ograniczenia prędkości. W obu przypadkach auto zwolniło, a nawet gwałtownie zatrzymało się. Najnowszy test polegał na umieszczeniu małego wyświetlacza przy drodze. Wyświetlana była na nim reklama burgerów, w której użyto symbolu znaku stop.

Model X gwałtownie zatrzymał się w trakcie jazdy, zupełnie jakby dojechał do drogi z pierwszeństwem przejazdu i ustawionym przy niej znakiem stop. Inżynierowie wskazują, że gdyby reklama taka pojawiła się na wyświetlaczach przy głównych drogach, pojazdy Tesli mogłyby zatrzymywać się w miejscu i wówczas na pewno doszłoby do groźnych incydentów.

Symbol znaku stop pojawił się w reklamie tylko na 500 ms, a to już wystarczyło do reakcji Autopilota. Problemem jest tutaj system bazujący na kamerach, a nie na na technologii LiDAR. Auta wyposażone w ten radar o wiele lepiej mapują otoczenie pojazdu i bez problemu wykrywają elementy, które nie są bezpośrednio związane z infrastrukturą drogową.

Chociaż w naturalnych warunkach może się to nigdy nie zdarzyć, naukowcy uważają, że ten patent mogą wykorzystać cyberprzestępcy dla zabawy, w celu sparaliżowania jakiegoś miasta. Na świecie coraz częściej zdarza się bowiem, że hakowane są cyfrowe billboardy reklamowe w celu wyświetlania na nich jakichś informacji.

Trzeba tutaj podkreślić, że inżynierowie przeprowadzili testy na dwóch wersjach oprogramowania pokładowego, starszej i najnowszej, która obecnie jest w użyciu we wszystkich pojazdach tej marki. W obu przypadkach ich sztuczka zadziałała, co pokazuje, jak wciąż niedopracowane są to technologie.

Naukowcy podkreślają, że nie robią takich testów z nudów i dla zabawy, przyświeca im cel wykrycia jak największej ilości błędów i współpraca z inżynierami, by je szybko usunęli, tym samym zapewniając większe bezpieczeństwo posiadaczom takich pojazdów.

Źródło: GeekWeek.pl/Ben Guriona University / Fot. Ben Guriona University