Emulacije mozga postavljaju tri masivna moralna pitanja i strašno praktičnu

Postoji skupina znanstvenika koji vjeruju da kad se ljudska tijela pojave i vitalni znakovi blijede, zaborav se još uvijek može zadržati. Besmrtnost je stvar fikcije, ali emulacija mozga - koja se ponekad naziva i "učitavanje uma" - je stvar super spekulativne znanosti. Ideja da se živčani sustavi mogu modelirati u softveru kako bi se osobnosti u hardveru zapalile (ili ponovo pokrenule) nije točno točno, ali je vjerojatnije nego što je bilo Tron Neki neuroznanstvenici smatraju da bi se to moglo dogoditi u sljedećih 50 godina i da bi tehnologija mogla stići prije potpuno funkcionalne umjetne inteligencije.

Kada dođe, donijet će s tim značajan broj moralnih nedaća. A ulozi su previsoki da bi se moglo uzeti u obzir etika.

"Ne želimo se popeti na nebo na hrpi leševa", kaže kompjuterski neuroznanstvenik Anders Sandberg, nedvojbeno najzastupljenija osoba na emulaciji mozga, na Međunarodnom kongresu Globalne budućnosti 2045. godine.

Može li se svijest replicirati?

Na srži emulacije mozga je teorija da će se svijest prenijeti s anatomskog mozga na model softvera. U izvješću "Emulacija cijelog mozga: putokaz" Sanderg i istraživač Nick Bostrom iz Oxfordskog sveučilišta pišu da bi emulator mozga bio "detaljan i dovoljno točan da proizvede fenomenološke učinke uma" - to je iskustvo i svijest, viđen više od filozofski pogled nego bilo što drugo.

Znanstveno, svijest je dokazana obrascima električne aktivnosti. Ali to je u konačnici kompliciranije od toga; postoji metafizički element. Životinje i ljudi, u nekim kontekstima, smatraju se svjesnima ako pokazuju osjetila poput svijesti, budnosti i samosvijesti. Ali teško je razgovarati o svijesti bez razgovora o duši.

Umjesto skakanja u zečju rupu o tome može li digitalna svijest zadovoljiti biološke ili psihološke teorije identiteta, Michael Cerullo iz Fondacije za očuvanje mozga tvrdi da će nas emulacija mozga prisiliti da stvorimo novu definiciju svijesti. U dokumentu iz 2015. opisuje ga kao "psihološki identitet grananja", stanje u kojem će se "svijest nastaviti sve dok postoji kontinuitet u psihološkoj strukturi".

"Mi smo prisiljeni prihvatiti mogućnost da se osobni identitet može podijeliti u više primjeraka, od kojih svaki zadržava kontinuitet svijesti s originalom", piše Cerullo u časopisu. Umovi i strojevi, "Mi smo na jedinstvenoj točki u povijesti gdje moramo donositi odluke o budućnosti čovječanstva na temelju našeg najboljeg razumijevanja filozofije uma i svijesti."

No hoće li emulacije replicirati ili ugostiti replikatore? Kada treperite u post nakon učitavanja posta, hoće li to i dalje biti vi? Nema načina da se sazna.

Jesmo li u redu s ubijanjem mnogih pokusnih životinja?

Razvijanje emulacije mozga svakako će zahtijevati korištenje pokusnih životinja. Sandberg predviđa da će najraniji pokušaji biti učinjeni na životinjama s dobro definiranim živčanim sustavima, poput puževa u ribnjaku i voćnih mušica, a zatim prijeći na životinje laboratorijskih kralježnjaka, poput miševa. Zapravo je razumno što će miševi biti prva stvorenja koja će imitirati mozak: Europska unija je uložila više od milijardu eura u projekt ljudskog mozga koji pokušava potpuno oponašati mozak miša i dijelove ljudskog mozga do 2023.

Neki tvrde da znanstveni povratak nadmašuje troškove korištenja životinja u pokusima. Važno je, međutim, pauziranje da bi se razmotrilo je li vrijedno eksperimentiranja vrlo lako dovesti do ničega. Sandberg piše: “Neizravne teorije tvrde da životinje ne zaslužuju moralno razmatranje, ali učinak ljudskih djelovanja na njih je važan…. Naše dužnosti prema njima samo su neizravne dužnosti prema čovječanstvu."

Jesu li emulacije jednake?

Postoji argument da će biti vrijedno naučiti kako oponašati mozak, tako da se buduća istraživanja mogu obaviti na imitiranom mozgu. Ali to postavlja pitanje: ima li emulacija istu moralnu težinu kao i “stvarna” životinja ili čovjek? Dok je u nekim scenarijima emulacija mozga put za daljnju svijest, u drugima ona stvara pod-vrstu osjetilnih stvorenja.

U Biti nitko, neuroetičar Thomas Metzinger propituje kako bi emulacije ljudskog mozga mogle ikada postati bez ozbiljnog prelaska granica etike. Piše:

"Ono što današnji odbori za etiku ne vide je kako prvi strojevi koji zadovoljavaju minimalno dovoljno ograničenja za svjesno iskustvo mogu biti jednako kao i mentalno retardirana djeca. Oni bi također patili od svih vrsta funkcionalnih i reprezentativnih deficita. Ali oni bi sada također subjektivno iskusili te deficite. Osim toga, oni ne bi imali nikakav politički lobi - nema predstavnika u bilo kojem etičkom odboru."

I ako mi učinio uspješno stvaramo emulacije mozga, mogli bismo ih hipotetički prisiliti da rade za nas. Carl Shulman iz Instituta za istraživanje strojne inteligencije predviđa da bi razvoj inteligentnog softvera opremljenog emuliranim mozgovima zamijenio ljudski rad - udvostručenje veličine gospodarstva, ali i smanjenje plaća za ljude. To bi također moglo dovesti do nekih prilično sjebanih praksi.

"Softver za emulaciju mozga može se promijeniti kako bi se oponašao učinak lijekova, neurokirurgije, genetskih promjena i drugih intervencija", piše Shulman. "Eksperimenti s takvim promjenama vjerojatno bi učinili emulacije kognitivno oštećene ili mentalno bolesne u većini slučajeva, ali u nekim slučajevima mogu rezultirati povećanjem produktivnosti."

Možemo li riskirati?

Emulacije mozga mogu postati naši gospodari umjesto naših slugu. U svom radu, Shulman također predlaže budućnost koja, ako se tehnološki proces ne kontrolira pažljivo, "brzo umnožavanje i razvoj umova može uzrokovati ljudsko izumiranje." To bi bili superorganizmi poput Johnnyja Deppovog Will Caster-a u prevazilaženje - hiper-inteligentan i sveprisutan.

To je moguća budućnost unošenja mozga u svrhu moći - i suočimo se s tim, ljudi koji žele živjeti zauvijek zvuče sumnjivo megalomanski. Na konferenciji Transhuman Visions 2014, neuroznanstvenik Randal Koene rekao je da je kao vrsta ono što trebamo biti "učinkoviti i utjecajni i kreativni u mnogo većoj sferi". Ono što preostaje je vidjeti jesu li ljudska poboljšanja koja postoje u ovoj sferi posljedično znači kraj čovječanstva.