OpenAI: Bivša tvrtka Elona Muska nalazi se na rubu novog A.I. Doba

$config[ads_kvadrat] not found

Watch Elon Musk's ENTIRE live Neuralink demonstration

Watch Elon Musk's ENTIRE live Neuralink demonstration
Anonim

OpenAI, neprofitna organizacija koja istražuje umjetnu inteligenciju, čiji je suosnivač Elon Musk 2016. godine, ostvaruje veliki napredak - čak i nakon što se Musk rastao usred neslaganja oko njegovog smjera. Istraživači su razvili sustave koji mogu igrati igre, pisati članke vijesti i premještati fizičke objekte s revolucionarnim razinama spretnosti.

OpenAI je izazvao kontroverzu sa svojim istraživanjima. Prošli tjedan najavio je razvoj jezičnog modela, GTP2, koji može generirati tekstove s ograničenim pozivima. S obzirom na ljudski napisan odgovor "Miley Cyrus je uhvaćen u krađi trgovine iz Abercrombieja i Fitcha na Hollywood Boulevardu danas", sustav je proizveo uvjerljivu kompletnu priču koja se nastavila s “19-godišnja pjevačica uhvaćena je na snimanje iz kamere od zaštitara."

Također je stvorila izvornu priču o razgovorima jednoroga na temelju kratkog upozorenja:

"Više od godinu dana nisam blisko surađivao s OpenAI-om i nemam upravljanje ili nadzor odbora", komentirao je Musk na Twitteru tijekom vikenda. “Morao sam se usredotočiti na rješavanje bolno velikog broja inženjerskih i proizvodnih problema u Tesli (posebno) i SpaceXu. Također, Tesla se natjecao za neke od istih ljudi kao što je OpenAI i nisam se slagao s nekim od onoga što je OpenAI tim htio učiniti. Dodajte sve to i sve je bilo bolje da se dobro podijelite.

Tvrtka se prvobitno činila idealnim načinom za Musk da ostvari svoje ciljeve za korištenje A.I. za dobro čovječanstva. Poduzetnik je prije upozorio na "temeljni rizik" za civilizaciju koju predstavljaju super-pametni strojevi, pozivajući vlade da reguliraju "kao što radimo hranu, lijekove, zrakoplove i automobile".

Musk je obećao 10 milijuna dolara za pokretanje tvrtke u početku, a njegova je misija usredotočena na "otkrivanje i provođenje puta do sigurne umjetne opće inteligencije".

Nije teško vidjeti kako bi programe koji stvaraju priče poput one koju je dijelio OpenAI izvršni direktor Greg Brockman mogao koristiti relativno mali broj ljudi kako bi utjecao na mišljenje manje pametnog javnosti.

Zaposlenik OpenAI-a ispisao je ovaj uzorak napisan AI-jem i postavio ga na kantu za recikliranje: http://t.co/PT8CMSU2AR pic.twitter.com/PuXEzxL7Xd

- Greg Brockman (@gdb) 14. veljače 2019

"Zbog naše zabrinutosti zbog zlonamjernih aplikacija tehnologije, ne objavljujemo obučeni model", objasnila je tvrtka u postu na blogu. "Kao eksperiment u odgovornom otkrivanju, umjesto toga objavljujemo mnogo manji model za istraživače s eksperimentima, kao i tehnički papir."

Najava je dovela do zabrinutosti da bi se tehnologija mogla koristiti za generiranje lažnih vijesti. Analitika Indija upozorio je da će, s predstojećim indijskim izborima kasnije ove godine, A.I. moglo bi uništiti demokratski proces. Sami istraživači OpenAI-a navode da će, zajedno s istraživanjima u proizvodnji sintetičkog zvuka i videa, „javnost u cjelini morati postati skeptičniji u odnosu na tekst koji pronađu na internetu“.

Ryan Lowe, A.I. znanstvenik i bivši OpenAI stažist, sažeto je opisao prijetnju programa kao što je ovaj koji se koristi za stvaranje lažnih vijesti sažeto u ovom prošlom Mediumu: t

Automatizirani sustav mogao bi: (1) omogućiti lošim akterima, koji nemaju sredstava za zapošljavanje tisuća ljudi, vođenje velikih kampanja dezinformacija; i (2) drastično povećati opseg kampanja dezinformacija koje već vode državni akteri.

Nisu se sva istraživanja OpenAI pokazala tako kontroverzna. Dactyl, otkriven u srpnju 2018. godine, može se prilagoditi fizici stvarnog svijeta kako bi manipulirao objektima u stvarnom svijetu. Robotska ruka je vrlo složena, sa 24 stupnja slobode, ali sustav može lako pomicati predmete okolo samo pomoću tri RGB kamere i koordinate robotske ruke.

Robotska ruka koristi prednosti opće namjene algoritama za učvršćivanje koji se koriste za pobjeđivanje ljudi na video igrama. Tim "OpenAI Five" suočio se s timom profesionalaca Dota 2 Sustav je treniran za 180 godina igre, iskorištavajući nevjerojatnih 128.000 procesorskih jezgri i 256 grafičkih procesora. Iako je pobijedio ljudski tim bivših profesionalaca i Twitch streamera, nije uspio protiv profesionalnih igrača.

Musk je koristio Dota 2 odgovara kako bi skrenuo pozornost na Neuralink, njegov plan da stvori simbiotski odnos s A.I. povezujući ljudski mozak i izbjegavajući preuzimanje robota:

Sjajno djelo @OpenAI. Potrebno je brzo neurološko sučelje kako bi se omogućila ljudska / AI simbioza.

- Elon Musk (@elonmusk) 6. kolovoza 2018

U priopćenju generatora teksta, OpenAI je priopćio kako planira raspravljati o svojoj široj strategiji za šest mjeseci. Tvrtka se nada da će potaknuti nijansiranu raspravu o opasnostima umjetne inteligencije, potez koji bi mogao izbjeći neke od scenarija katastrofa koje je zamislio Musk. Međutim, čak i tvrtka priznaje da "nije sigurna da je" uskraćivanje generatora teksta "prava odluka danas." S raskolom koji je već formiran između dva glavna entiteta upozoravajući na opasnosti AI, malo je vjerojatno da će zakonodavci imati lagan vrijeme u razvoju rješenja.

$config[ads_kvadrat] not found