Pametni ljudi vjeruju glupim robotima u hitnim slučajevima

U hitnoj situaciji ljudi vjeruju u upute robota čak i nakon što prestanu biti vjerodostojni. To je uznemirujući zaključak koji su iznijeli eksperti iz Georgia Tech-a koji su ispitanike stavili u situaciju visokog pritiska s robotom koji ih je prethodno doveo u zabludu. Slijedili su A.I. vođa unatoč nedostatku vjerodostojnosti.

"Čini se da ljudi vjeruju da ovi robotski sustavi znaju više o svijetu nego što to stvarno čine, te da nikada ne bi pogriješili ili imali bilo kakvu grešku", izjavio je Alan Wagner, viši inženjer u istraživačkom institutu Georgia Tech. Tech News Center. "U našim istraživanjima ispitanici su slijedili upute robota čak i do točke gdje ih je mogla ugroziti da je to bilo stvarno hitno."

Robotičari zaduženi za eksperiment rekli su dobrovoljcima da slijede "jarko obojenog" robota, označenog kao "Hitni vodič robota", u konferencijsku sobu kako bi popunili anketu. Robot je zatim doveo sudionike u pogrešnu sobu, uzeo ih u krug, ili čak potpuno slomio. Ipak, nakon što su istraživači poslali dim u mjesto za testiranje i pokrenuli alarm, svaki od 42 ispitanika slijedio je bijele ruke robota koji su se osvjetljavale LED-om do ulaza nasuprot onome gdje su ušli.

"Očekivali smo da će se, ako se robot pokazao nepouzdanom što ih vodi u konferencijsku dvoranu, ljudi ne bi pridržavali za vrijeme simuliranog hitnog slučaja", izjavio je Paul Robinette, istraživač GTRI-a za Georgia Tech News Center. Umjesto toga, svi su volonteri slijedili upute robota, bez obzira na to kako su to dobro obavljali. To apsolutno nismo očekivali."

Volonteri su čak slijedili i upute robota nakon što su napravili "očite" pogreške tijekom hitne situacije, kao što su pokazali na vrata blokirana teškim namještajem. Voditelji istraživanja kažu da im je studija pomogla da bolje razumiju u kojoj mjeri ljudi prirodno vjeruju robotima da im pomognu u hitnim slučajevima. Pitanje će postati relevantnije dok dijelimo veće udjele u životu robotskoj kontroli, uključujući eventualnu vožnju u autonomnim automobilima ili rukovanje našom hranom.

- Hoće li ljudi povjerovati robotu za izradu hamburgera da im osigura hranu?

Istraživanje svakako ukazuje na manje prepreka za povjerenje robotskih asistenata nego što bi neki mislili. Ali roboti možda još uvijek ne zaslužuju tu razinu povjerenja.