Stručnjak DARPA-e upozorava da autonomna automobilska poduzeća ne rade na sigurnom A.I.

Autonomni razvoj automobila ima problem suradnje. To je prema Havi Siegelmann, voditeljici programa Agencije za napredne istraživačke projekte (ili DARPA), koja je tvrdila da su tvrtke s kojima je razgovarala mlake o zajedničkom radu na izradi A.I. sigurnije.

"Sljedeći program na kojem radim je sigurnost A.I. … Tvrtke s kojima sam kontaktirao, koje rade na bespilotnim letjelicama i automobilima koji se sami voze, izjavile su da zapravo nisu zainteresirane za zajednički rad na sigurnosti umjetne inteligencije ”, rekao je Siegelmann u panel diskusiji na konferenciji o umjetnoj inteligenciji na razini čovjeka u organizaciji GoodAI-a u Pragu, Češka, u petak. Komentari su došli dok proizvođači automobila povećavaju svoje napore na autonomiji, a Waymo je ovog ljeta dostigao osam milijuna milja, ali pitanja su se zadržala oko najboljeg načina za pristup sigurnosti. U ožujku je 49-godišnja Elaine Herzberg prva osoba koju je ubio autonomni automobil. No, dok su proizvođači automobila pokazali entuzijazam za komunikacijske tehnologije na cesti kao što je 5G, pokazali su manje zanimanje za komunikaciju o razvoju.

Vidi više: Autonomni automobili će dobiti sigurnije s jednom ključnom promjenom, Jaguar Boss otkriva

Siegelmann nije prvi koji je istaknuo ovo pitanje. Ralf Speth, izvršni direktor Waymo partnera Jaguar Land Rover, izjavio je u travnju na Sajmu automobila u Pekingu da “moramo biti sigurni da ćemo dobiti pravu okolinu. Nijedna automobilska tvrtka to više ne može samostalno, tako da vlada, akademska zajednica i industrija u svim sektorima moraju stvarno raditi zajedno … ako radimo zajedno, također s pravim sustavom kibernetičke sigurnosti, tada autonomna tehnologija može biti budućnost. ”

Nakon incidenta u ožujku, a Bloomberg Op-ed je tvrdio da industrija treba promijeniti svoje stavove prema razvoju. Sigurnost opsjednuta zrakoplovna industrija, pisac David Fickling napomenuo, dijeli informacije o padovima kako bi jedni drugima pomogli. Suradnja je veliki uspjeh, a putnici lete oko sedam trilijuna kilometara godišnje bez gotovo bilo kakvih incidenata, ali čini se da proizvođači nerado dijele podatke usred utrke kako bi najprije došli do autonomnih automobila.

Siegelmann je uglavnom pozitivan u vezi s A.I. u cjelini, dalje govoreći: "Mislim da bi korist bila sjajna, i mislim da ako obrazujemo ljude o tome i svi znaju koliko i mi kao istraživači na terenu, to bi vjerojatno bilo najbolje rješenje."

Napomena urednika: Konferencija o umjetnoj inteligenciji na razini čovjeka financirala je Inverse putovanje i smještaj kako bi pokrila događaj, ali organizacija nema informacija o Inverse-ovom uredničkom izvještavanju.