AI Bolje u kompromisu od ljudi, pronalazi novu studiju

Suočimo se. Otkako je prvi put sanjala umjetna inteligencija, ljudi su se bojali dana kad nas preuzmu naši gospodari AI. No, neki istraživači testiraju sposobnost umjetne inteligencije ne samo konkurirati s čovječanstvom, ali također surađivati.

U studiji objavljenoj u četvrtak u. T Nature Communications tim profesora kompjuterskih znanosti BYU-a, Jacob Crandall i Michael Goodrich, zajedno s kolegama na MIT-u i drugim sveučilištima, izradili su algoritam za podučavanje strojeva suradnji i kompromisu.

Istraživači su programirali strojeve s algoritmom nazvanim S # i vodili ih kroz brojne igre s različitim partnerima - strojno-strojnim, ljudsko-strojnim i ljudsko-ljudskim - kako bi testirali koji bi uparivanje rezultiralo najvećim kompromisima. Ispostavilo se da su strojevi (ili barem oni koji su programirani s S #) mnogo bolje u kompromisu nego ljudi.

Ali to bi moglo reći više o "ljudskim neuspjehima", kaže glavni istraživač Jacob Crandall Inverzan, "Naši ljudski sudionici imali su tendenciju da budu nelojalni - oni bi pukli usred kooperativnog odnosa - i nepošteni - oko polovice naših sudionika odlučilo je ne slijediti svoje prijedloge - u nekom trenutku interakcije."

Strojevi koji su programirani da poštuju poštenje, s druge strane, bili su pošteni. “Ovaj konkretni algoritam uči da su moralne osobine dobre. Programirano je da ne laže, a također uči održavati suradnju nakon što se ona pojavi “, kaže Crandall.

Osim toga, istraživanje je pokazalo da su određene strategije suradnje učinkovitije od drugih. Jedan od njih je bio “jeftin razgovor”, jednostavni verbalni signali koji odgovaraju određenoj situaciji, poput “Slatki. Postajemo bogati! ”Ili“ Prihvaćam vaš posljednji prijedlog. ”Ili, da izrazim nezadovoljstvo,“ Prokletstvo! ”“ Platit ćete za to! ”Ili čak“ U vaše lice! ”

Bez obzira na to koja se vrsta igre igrala ili tko je igrao, jeftini razgovor je udvostručio količinu suradnje. On je također humanizirao strojeve, pri čemu su ljudski igrači često bili nesposobni reći jesu li bili u interakciji s strojem ili čovjekom.

Budući da je fokus ovog istraživanja bio na testiranju S # algoritma, jedan nedostatak istraživanja je da ne uzima u obzir kulturne razlike među ljudima koje bi mogle utjecati na to kako različite ljudske populacije mogu koristiti ili interpretirati strategije poput jeftinog razgovora ili kako Mnogi ljudski igrači mogu se upustiti u obmanu ili nelojalnost.

U konačnici, u konačnoj kratkoj priči knjige Isaaca Asimova iz 1950. godine Ja, Robot - "Evitable Conflict" - AI gospodari zapravo preuzimaju planet. Ali, zato što su tako razumne i programirane s nekim neraskidivim etičkim pravilima, to je dobra stvar za ljudsku rasu. I, kao što ova studija pokazuje, jer su ljudske interakcije neuredne i komplicirane, možda možemo vjerovati strojevima. Pod pretpostavkom, naravno, ako su programirani za iskrenost.

Sažetak:

Budući da je Alan Turing zamišljao umjetnu inteligenciju, tehnički napredak često je mjeren sposobnošću da se pobijedi na ljudima u susretima s nultom sumom (npr. Šah, poker ili id). Manje je pozornosti posvećeno scenarijima u kojima je suradnja između čovjeka i stroja korisna, ali ne i trivijalna, kao što su scenariji u kojima ljudske i strojne preferencije nisu u potpunosti usklađene niti potpuno sukobljene. Suradnja ne zahtijeva čistu računalnu moć, već je olakšana intuicijom, kulturnim normama, emocijama, signalima i unaprijed razvijenim dispozicijama. Ovdje razvijamo algoritam koji kombinira najsuvremeniji algoritam za učenje s mehanizmima za signalizaciju. Pokazali smo da ovaj algoritam može surađivati ​​s ljudima i drugim algoritmima na razinama koje se sučeljavaju s ljudskom suradnjom u različitim dvostrukim stohastičkim igrama s dva igrača. Ovi rezultati upućuju na to da je opća suradnja čovjek-stroj ostvariva pomoću ne-trivijalnog, ali u konačnici jednostavnog skupa algoritamskih mehanizama.