Wynalazek, która rozpalał wyobraźnie entuzjastów techniki, popełnił błąd, który spowodował śmierć kierowcy. Samochód spowodował wypadek na skrzyżowaniu dróg w USA. Jak pisze Jacek Grzyb w artykule na portalu LIn: "Technika bywa zawodna - w słoneczny dzień kamery zamontowane na samochodzie nie zidentyfikowały prawidłowo dużej białej plamy, która wyłoniła się przed samochodem, biorąc ją za fragment równie jasnego nieba. Tymczasem owa plama była ciągnikiem siodłowym."
Z dokumentacji, zgromadzonej przez policję, wyłania się dość ponura historia. Tesla przejechała przez skrzyżowanie pod naczepą, kasując przód i pojechała dalej, bez zatrzymania. Kierowca nawet nie zdążył zareagować i zginął na miejscu. Poza kwestiami, związanymi z technologią i jej zaawansowaniem, pojawiają się pytania natury moralnej - kto jest za to odpowiedzialny: programista, producent samochodu, dostawca technologii, albo może władze stanu? Albo nawet nieszczęśliwy kierowca?
ZOBACZ TEŻ: Rząd będzie walczył z cyberprzestępczością. Powoła nową instytucję
Przeciwnicy takich rozwiązań pokazują, że tesle i mercedesy zostały w tę funkcję wyposażone za wcześnie, a samokierujące się samochody to nie to samo, co aplikacje na smartfony i wersji beta nie można testować na klientach, a takie sytuacje pokazują, że technika nie dojrzała do takich rozwiązań. Kolosalny błąd, będący konsekwencją, powstrzyma proces wprowadzania samochodów w pełni autonomicznych, czyli jeżdżacych bez kierowcy, a nie mające funkcje autopilota, jak feralna tesla.
Obciążając producenta aut, należy jeszcze zapytać, kogo powinny chronić w pierwszym rzędzie oprogramowanie samochodów? Jacek Grzyb pisze w swoim tekście: "przeprowadzono nawet badania, z których jasno wynikało, że ludzie skłaniają się ku odpowiedzi: trzeba ratować jak najwięcej osób kosztem życia kierowcy. Jednocześnie ci sami badani nie wyrażali chęci kupna samochodu, który w ekstremalnej sytuacji, ratując innych uczestników ruchu, może doprowadzić do śmierci kierowcy". Można zaprogramować samochód jak się chce, ale przyjmie za to odpowiedzialność? Poza apsektem moralnym, kto wypłaci odszkodowanie? I czy powinniści rzędowi zer i jedynek pozwolić decydować o ludzkim życiu i śmierci? Odpowiedzi na te pytania będą miały konsekwencje na dekady.