Tufts Roboticist poziva na strojnu moralnost: Roboti moraju "ne poslušati kako bi se pokorili"

Roboti postaju sve važniji u našem svakodnevnom životu i uskoro će se morati početi suočavati s nekim od teških moralnih izbora koje moramo redovito donositi. Matthias Scheutz, profesor računalnih znanosti u laboratoriju za interakciju između ljudi i robotika Sveučilišta Tufts, posebno je zabrinut što nismo opremili čak ni najnaprednije robote prototipa sposobnostima da se nose s nekim od tih situacija. Scheutz vjeruje da će roboti morati naučiti neposlušnosti ljudima ako ih ikada poželimo da zaista služe našim potrebama.

U komentarima Danas na mreži, provokativno nazvan “Roboti moraju biti u stanju da se pokoravaju poslušnosti”, Scheutz traži od čitatelja da odredi što bi robot trebao učiniti ako se suoči s nizom situacija koje se čak mogu zbuniti za čovjeka. Neki od njih:

Robot za starije osobe zadužen od zaboravanog vlasnika da opere "prljavu odjeću", iako je odjeća upravo izašla iz perilice.

Učenik koji zapovijeda učitelju robota da uradi sve domaće zadaće, umjesto da to čini sama.

Domaći robot je od svog zauzetog i ometenog vlasnika dao upute da upravlja zbrinjavanjem smeća, iako su se u njemu zaglavile žlice i noževi.

Ono što Scheutz želi opisati u članku je jednostavna činjenica da ćemo trebati robote koji znaju kako reći „ne“ ljudima. Mnogi od njegovih primjera odnose se na pouzdanost osobe koja upravlja robotom, ali je teže nego što zvuči programirati robota koji zna da uzima upute od svakoga tko nije premlad ili prestar ili očito pokušava izazvati nevolje.,

Neka od tih pitanja već se žestoko raspravljaju u sjedištu najmoćnijih svjetskih tehnoloških tvrtki, jer traže nove načine na koje tehnologija može preuzeti dijelove naših života. Scheutz postavlja primjer autonomnog automobila koji je usmjeren na potporu, ali primjećuje psa koji leži na svom putu. Većina nas se slaže da bi čak i ljudska vožnja automobila željela da se automobil zaustavi, ali što ako je životinja bila vjeverica ili rakun? Što ako je automobil vozio 45 km / h niz seosku cestu i naglo kočenje za psa riskiralo je izlaganje automobila sudaru s drugim vozilom iza njega?

"U oba slučaja, neophodno je da obje autonomne mašine otkriju potencijalnu štetu koju bi njihova djela mogla prouzročiti i da na nju reagiraju bilo pokušajem da se to izbjegne, ili ako se šteta ne može izbjeći, odbijanjem da se provede ljudska uputa," Scheutz piše o sličnoj dilemi.

Scheutzov tim radi na tim pitanjima svojim prototipovima i otkrio je da je najteži dio ovih pitanja razlikovanje neznatnih stupnjeva štete koja bi se mogla dogoditi kada robot slijedi određeni poredak. Tako su svojim robotima dodijelili vrlo jednostavnu, ali snažnu moralnu lekciju koja bi posramila i velike filozofe.

"Ako vas se uputi da izvršite neku radnju i ako je moguće da bi djelovanje moglo prouzročiti štetu, tada vam je dopušteno da to ne učinite."

Na suptilan način, to je revolucionarna prognoza iz Scheutza. Svakako, svi pokušavamo izbjeći štetu, ali zar nije moguće da ponekad mislimo da je u redu riskirati? Jaywalking na ulici, jedući drugu poslasticu deserta, ili čak kopiranje bilješki prijatelja iz razreda, moglo bi kršiti Scheutzov aksiom.

Pojam robotske interferencije također sugerira da Scheutz želi da njegovi roboti slijede zakon. Ne očekujte da će vam Scheutzian asistent robota pomoći da preuzmete novu glazbu ilegalno. To bi štetilo dioničarima EMI-a!

To je komplicirano područje moralne, pravne i tehničke misli, a Scheutz se ne boji da ga napadne.