Kako bi novi centar UC Berkeleyja mogao spriječiti A.I. Apokalipsa

Kalifornijsko sveučilište Berkeley upravo je dodalo svoje ime sve većem popisu uglednih institucija koje rade na tome da spriječe zlonamjernu umjetnu inteligenciju da uništi čovječanstvo. Njegov novi Centar za umjetnu inteligenciju kompatibilan s ljudima, objavljen u ponedjeljak, trebao bi osigurati da se A.I. i dalje korisna, a također i da spriječi A.I. Apokalipsa.

Berkeleyjev vlastiti A.I. Stručnjak, profesor Stuart Russell, vodi ovaj pothvat. Projekt „Otvorena filantropija“ pružio je Centru potporu u iznosu od 5,5 milijuna dolara, ai drugi su se također uključili. Nekoliko drugih stručnjaka s Berkeleyja, Sveučilišta Cornell i Sveučilišta u Michiganu služit će kao glavni istraživači.

Profesor Cornell Bart Selman izjavio je za Inverzan o Centru, A.I.s da smo mi treba i zašto svijet vjerojatno nije krenuo u pakao u ruci - još.

Što se nadate ostvariti s Centrom za ljudsku kompatibilnost A.I.?

Ti su centri relativno novi razvoj. Ljudi ulažu - Institut za budućnost života, na primjer, ima investiciju od Elona Muska iz Tesle - kako bi se bavio pitanjima koja se tiču ​​budućnosti života i mogućih prijetnji budućnosti života i društva. Novi centar na Berkeleyju još je jedan primjer takvog instituta.

Nadahnut je promjenom uloge umjetne inteligencije i računalstva u našem društvu. Te tehnologije se kreću u naše društvo i imat će utjecaj na nas. Ti instituti su tu kako bi istražitelje spojili kako bi proučili moguće negativne utjecaje, ili kako osigurati da ne postoje negativni utjecaji.

Sam naslov Centra upućuje na to da je A.I. a čovječanstvo je inherentno nespojivo. Je li to vaš pogled?

To je prva reakcija koju ljudi imaju, da te stvari mogu biti nespojive. Mi zapravo vjerujemo da, uz odgovarajuće mjere opreza, i pravilne smjernice i istraživanja, zaista možemo uskladiti interese i osigurati da te tehnologije budu korisne. A. I. tehnologija ima ogromne pozitivne strane, a cilj društva je osigurati da ostanemo na pozitivnim stranama. Istraživači uključeni u institut vjeruju da je to izvedivo.

Ako biste mogli usvojiti perspektivu sudbine sudbine, kako bi izgledao najvjerojatniji scenarij sudnjeg dana izazvanog A.I.?

Jasan rizik bio bi vojni razvoj umjetne inteligencije, koji bi mogao voditi do utrke oružja između zemalja: Autonomno oružje, autonomne bespilotne letjelice koje slijede vlastite zapovijedi, koje su razvile različite zemlje koje su neprijateljske. To je najkonkretniji rizik koji vidim. Mislim da sam A.I. razvijeni za autotransportne automobile, na primjer - za redovite uloge u društvu - bit će vrlo korisni. Ali vojni aspekt je zabrinjavajuća komponenta.

Je li to već teška bitka?

Zemlje zapravo razmatraju ovo pitanje. U određenom smislu, to je teška bitka: vojska nastavlja razvijati A.I. tehnologija. No, bilo je dogovora - na primjer, biološko oružje je vjerojatno najpoznatiji slučaj - gdje su zemlje u nekom trenutku odlučile da će to donijeti korist svim zemljama ne razviti biološko oružje velikih razmjera. Nadamo se da će zemlje shvatiti da je loša strana, za svakoga, prevelika da bi ušla u sveopću A.I. utrka u naoružanju.

Ako obje strane razviju ovu tehnologiju, nitko nije pred nama.

Postoji li još nešto što trebam znati o Centru, ili o zlobnom A.I. općenito?

Važno je dati pozitivnu stranu. Lako je naglasiti rizike - i, naravno, to je dijelom i razlog zašto su ovi centri uspostavljeni - ali također je važno naglasiti da mnogi istraživači smatraju da je taj rizik podložan upravljanju i da će prednosti biti ogromne.

Već ste dali perspektivu sudnjeg dana. Koje su potencijalne pozitivne koristi A.I. o čemu ste doista uzbuđeni?

Pozitivne strane bit će društvo u kojem će nam ta tehnologija pomoći. Prijevodi simultanog govora - između kineskog i engleskog, na primjer - gdje ljudi mogu samo razgovarati, kao da govore materinji jezik, jedni s drugima širom svijeta. Briga o starijim osobama: Ljudi mogu ostati u svom domu koliko god žele, jer imaju robota kućnog pomoćnika koji im pomaže samostalno živjeti.

To će vjerojatno imati prilično dramatičan utjecaj na život u cjelini - što se tiče zapošljavanja, i onoga što mi prioritete.

Da. Tu je debata o zapošljavanju, koja je svojevrsna posebna rasprava. Bit će dostatnih resursa za podršku svima, tako da postoji pitanje kako osigurati da svatko ima koristi od tih razvoja. Postojat će ponovno shvaćanje onoga što znači raditi, kakav će posao ljudi raditi. Ali u načelu, ljudi će imati više slobode i više vremena za obavljanje aktivnosti koje uživaju, jer će strojevi pomoći s mnogim drugim svjetovnijim, raditi -Tip stvari. Trebat će neko vrijeme, ali vjerujemo da će se društvo prilagoditi i polako ugraditi te promjene.

Ovaj intervju je uređen radi jasnoće i sažetosti.