OpenAI tvrtke Elon Musk može biti mišić za sigurno istraživanje umjetne inteligencije

Tijekom vikenda, Elon Musk, Sam Altman i druge silicijske doline neočekivano su najavili pokretanje OpenAI, neprofitne tvrtke koja opisuje svoj cilj kao: “unaprijediti digitalne inteligencije na način koji će najvjerojatnije donijeti korist čovječanstvu u cjelini, neograničeno potrebom da se ostvari financijski povratak."

“Budući da su naša istraživanja oslobođena financijskih obveza, možemo se bolje usredotočiti na pozitivan ljudski utjecaj. Vjerujemo A.I. treba biti proširenje pojedinačnih ljudskih volja i, u duhu slobode, što je moguće šire i ravnomjernije raspodijeljeno."

Postoje dvije glavne ponude iz ove objave. Prvi je da Musk i tvrtka vide A.I. istraživanja upravo sada kao preusko usmjerena na postizanje kratkoročne praktične vrijednosti, i žele pomoći potaknuti napore koji poduzimaju širi, sveobuhvatniji pristup razvoju A.I. sustavi. Drugo, više prikriveno je da je Musk još uvijek zabrinut zbog potencijala A.I. da nanese štetu ako razvijemo i uvedemo polupečene sustave. Musk se ranije zvao A.I. „Naša najveća egzistencijalna prijetnja“ i sugerirali su da je regulatorni nadzor možda potreban kako bi se spriječile potencijalne opasnosti. OpenAI bi mogao biti način pružanja tog nadzora bez potrebe za federalnim nadzorom.

Što rade Musk i njegovi kolege drugačije od onoga što su drugi učinili. Uostalom, open source A.I. nije ništa novo. Google je napravio vlastiti A.I. softver otvorenog koda prošlog mjeseca, a to je postalo standardan postupak. No, s 1 milijardom dolara, OpenAI je već jedna od najvećih organizacija koje rade na A.I. istraživanja, i vrlo lako najveća neprofitna organizacija. Njezin je cilj javno objaviti svoje rezultate, a sve patente bez naknade. Imaju mrkvu i štap i namjeravaju ga koristiti za vođenje industrije.

Ideja je da se OpenAI koristi kao neka vrsta protuteže većim korporacijama, privatnim istraživačkim laboratorijima, pa čak i svjetskim vladama koje imaju nevjerojatne iznose novca i resursa da bi ih natočili u svoje A.I. istraživanja koja možda nisu posvećena prijateljskim ciljevima i mogla bi umjesto toga dovesti do tehnologija s lošim primjenama. Istraživači koji rade s OpenAI-om u osnovi će se baviti "prijateljskom", bez pritiska da pokažu trenutne rezultate. Može postojati veća pažnja za sigurnosne i dizajnerske značajke koje privatna poduzeća mogu zanemariti. Neće biti bijele kule u kojoj samo nekoliko odabranih kontrolira put A.I. razvoj. Svima će biti dobrodošao svijet.

U intervjuu s Backchannel Musk također naglašava želju da se napravi širok izbor A.I. sustavi. "Želimo A.I. biti rasprostranjen ”, kaže on. "Mislimo da je mnogo dobro."

To je važno, jer prelazi u možda glavni razlog zbog kojeg Musk i Altman žele demokratizirati A.I. Oni vjeruju da je najbolja vrsta A.I. - vrsta koja će na koristan način donijeti korist čovječanstvu bez stvaranja robotskih vladara - je ona vrsta koja "služi kao produžetak individualne ljudske volje", kako kaže Musk. On nastavlja:

"Kao u A.I. produženje sebe, tako da je svaka osoba u suštini simbiotska s AI, za razliku od AI kao velike središnje inteligencije koja je vrsta drugog. Ako razmišljate o tome kako koristite, recimo, aplikacije na internetu, imate svoju e-poštu i imate društvene medije i aplikacije na svojim telefonima - one vas zapravo čine nadčovečnim i ne mislite na njih kao Budući da ste drugi, smatrate da su oni produžetak sebe. Dakle, u mjeri u kojoj možemo voditi AI u tom smjeru, želimo to učiniti. Našli smo brojne inženjere i istraživače istomišljenika na polju AI koji se osjećaju slično.

U osnovi, vizija OpenAI za A.I. istraživanje je decentralizirana zajednica koja pomaže povezivanju ljudskih bića s drugima i sa samim svijetom.

Musk još nije naveo kako će spriječiti istraživanje unutar OpenAI-a - ili preusmjeravanje vanjskih skupina - u opasnom smjeru. I tu je još nešto vrijedno spomenuti: Open source sustavi imaju smisla samo ako se podaci koji se koriste za izradu algoritama za strojno učenje slobodno dijele. Inteligentni sustav mora naučiti kako biti inteligentan, a za to to treba, treba učiti iz podataka i iskustva. To je kao izgradnja brane - potrebni su i nacrti (algoritam) i građevinski materijali (podaci) kako bi se zapravo napravilo nešto što će zaustaviti vodu.

Zato su ljudi i dalje ograničeni u tome što mogu učiniti s Googleovim TensorFlowom - oni još nemaju podatke koje Google ima. Osim ako suradnje izgrađene na OpenAI-ju ne omogućuju slobodan pristup istim podacima s kojima rade istraživači unutar tvrtke, Musk-ova vizija neće nužno biti ostvarena - ili barem ne na način na koji je promiče.

Musk, Altman i drugi osnivači OpenAI-a počeli su nešto što će imati ogroman utjecaj na rast A.I. odavde dalje. U isto vrijeme, morat će biti otvoreni u svojoj predanosti poticanju istraživačke zajednice otvorenog koda, što znači biti javnost o svojim planovima za neprofitno društvo i biti voljni dijeliti podatke. Inače, OpenAI neće biti mnogo drugačiji od tvrtki u stadu koje je dizajnirano za stado.