Evo kako možemo zaustaviti budućnost Rogue A.I. iz imitacije HAL 9000

Kako zaustaviti budućnost A.I. od neposlušnosti zapovijedi i izboru da ide svojim putem? Može zvučati kao zaplet 2001: Odiseja u svemiru, ali jedan stručnjak tvrdi da je to nešto o čemu smo možda već počeli razmišljati. Naravno, mogli bismo isključiti Googleov algoritam pretraživanja ako je ikada prevario, ali kad se suoči s financijskim i pravnim posljedicama, može biti lakše reći nego učiniti. U budućnosti, kako rastemo ovisno o naprednijoj A.I., to bi se moglo pokazati nemogućim.

“Ovaj algoritam nije namjerno dizajnirao sebe da se nemoguće ponovno pokrenuti ili isključiti, ali to je su-evoluiralo tako da bude tako “, rekao je Stuart Armstrong, istraživač u Institutu Future of Humanity, na Pirate Summit 2016 u srijedu. To znači da je teško izmijeniti promjenu s nenamjernim rezultatima i možda nije prva A.I. pronaći sebe u toj situaciji.

Rješenje Isaaca Asimova bila su tri zakona robotike, koji tvrdim idejama kao da ne uzrokuju štetu ljudima. Problem je u tome što je šteta prilično subjektivna i otvorena za tumačenje. Ljudi rade više na vrijednostima, poput razumijevanja da je loše uzrokovati štetu i tumačiti situaciju, nego raditi na nekom čvrstom pravilu da nikada ne smiju štetiti.

"Zbog ove vrste problema ljudi su sada mnogo više zainteresirani za korištenje strojnog učenja kako bi dobili vrijednosti, umjesto da ih pokušavaju kodirati na ovaj tradicionalni način", rekao je Armstrong. „Vrijednosti su stabilne na način da druge stvari nisu u A.I. Vrijednosti se suštinski brane. ”

Ali čak iu takvim situacijama važno je dizajnirati A.I. kako bi ih prekinuli dok trče. Sigurna prekidnost omogućuje sigurne promjene politike, koje mogu izbjeći neželjene posljedice naučenih vrijednosti. Ako je HAL 9000 ikada pokušao zaustaviti otvaranje vrata od jastučića, važno je da možemo ustanoviti da su vrijednosti A.I. zabrljane, te intervenirati bez sustava.