Tesla zgodziła się zaktualizować oprogramowanie w prawie 54 tysięcy swoich pojazdów, ponieważ niedawna aktualizacja oprogramowania „Full Self-Driving” pozwoliła im łamać przepisy ruchu drogowego i przejeżdżać przez znaki stopu bez całkowitego zatrzymania. Jest to najnowszy sygnał, że organy regulacyjne muszą działać i ustalić zasady poruszania się autonomicznych samochodów.

Korporacja Tesla zgodziła się na wycofanie funkcjonalności automatyzujących jazdę po dwóch spotkaniach z przedstawicielami National Highway Traffic Safety Administration. Po omówieniu obaw NHTSA, Tesla poinformowała, że wycofa funkcję „Rolling Stop” jako część funkcjonalności profilu jazdy w oprogramowaniu Full Self Driving”. Dzięki nowej aktualizacji oprogramowania funkcja „Rolling Stop” nie będzie już możliwa.

Istnieje wiele dowodów na to, że wersja beta FSD firmy, która jest obecnie testowana przez wybranych klientów na drogach publicznych, nie jest jeszcze gotowa na premierę. Kilka filmów przedstawia pojazdy z włączoną funkcją zmierzające w kierunku pieszych. Tesla niedawno wprowadziła do swojego oprogramowania FSD tryb „Asertywny”, który zgodnie z oficjalną dokumentacją częściej zmienia pas, nie wjeżdża na nadjeżdżający pas i może bezpiecznie się zatrzymać.

Zgodnie z dokumentami NHTSA, funkcja ta pozwalała samochodom przejeżdżać przez znaki stopu z prędkością „do 5,6 mil na godzinę”, gdy spełniono określoną liczbę kryteriów – w tym nie było żadnych innych „poruszających się pojazdów”, pieszych lub rowerzystów w pobliżu. Zwolennicy bezpieczeństwa drogowego byli tym zbulwersowani.

Zasadne wydaje się zatem postawione w tym kontekście pytanie  - co się stanie, jeśli FSD uzna, że ​​dziecko przechodzące przez ulicę „nie robi różnicy” i się nie zatrzyma? Brak umiejętności implementacji moralności do wnioskowania powoduje, że powstają niebezpieczne zachowania maszyny wnioskującej w sposób algorytmiczny.