Human Rights Watch: Kina koristi velike podatke za ciljne skupine manjina

Kineska vlada koristi prediktivne policijske algoritme za ciljanje etničkih manjina u pokrajini Xinjiang, navodi se u izvješću Human Rights Watcha objavljenom u ponedjeljak.

Pokrajina u sjeverozapadnoj Kini dom je 11 milijuna Uyghursa, turske muslimanske etničke skupine koja je posljednjih godina diskriminirana od strane kineske vlade.

Vlasti sada, kako se izvješćuje, koriste velike podatke kako bi sustavno ciljali bilo koga tko se sumnjiči za političku nelojalnost. Potez je dio kampanje "Strike Hard", čiji je cilj ukidanje potencijalnih terorističkih aktivnosti u Kini. U praksi, to je dovelo do nesrazmjernog policijskog djelovanja ujgura, kaže Human Rights Watch.

Prediktivni policijski sustav, poznat kao IJOP - Integrirana zajednička operacijska platforma - dobiva podatke iz raznih različitih nadzornih alata. To uključuje CCTV kamere, registarske tablice i brojeve osobnih iskaznica dobivenih od sigurnosnih kontrolnih točaka, te osobne podatke, uključujući zdravstvene, bankarske i pravne zapise.

Osim automatskog nadzora, vladini dužnosnici provode i kućne posjete kako bi prikupili podatke o stanovništvu. Jedan kineski biznismen podijelio je obrazac koji je popunio za evidenciju IJOP-a s Human Rights Watchom - između ostalog, upitnik je pitao je li poduzetnik Ujgur, koliko često moli i kamo ide za vjerske službe.

Sve ove ulazne podatke koristi IJOP za označavanje ljudi kao potencijalnih prijetnji. Kada netko bude označen, policija otvara daljnju istragu i vodi ih u pritvor ako se smatra sumnjivim.

"Po prvi put smo u mogućnosti pokazati da korištenje kineske vlade velikim podacima i prediktivnim policijskim radom ne samo da krši prava privatnosti, već i službenicima omogućuje samovoljno pritvaranje ljudi", rekla je Maya Wang, visoki kineski istraživač Human Rights Watcha.

Prema izvješću, neki od ljudi koji su bili označeni otpremljeni su u političke obrazovne centre gdje su zatvoreni na neodređeno vrijeme bez suđenja.

"Od oko travnja 2016., prema procjenama Human Rights Watcha, vlasti u Xinjiangu poslale su desetke tisuća Ujgura i drugih etničkih manjina u" centre za političko obrazovanje ", navodi se u izvješću. IJOP daje kredibilitet tim zadržavanjima primjenom objektivne, algoritamske analize na diskriminacijska uhićenja.

Da stvar bude gora, unutarnje djelovanje IJOP-a zavijeno je u tajnost.

"Ljudi u Xinjiangu ne mogu odoljeti niti izazivati ​​sve intruzivniju kontrolu svoga svakodnevnog života jer većina ne zna ni za taj program" crne kutije "ili kako funkcionira", rekao je Wang.

To je isti problem koji izaziva najsofisticiranije sustave strojnog učenja: postupci odlučivanja koje primjenjuju su neprozirni čak i kreatorima algoritma.

Korištenje IJOP-a u Kini je vrijedno pažnje obratiti pažnju, jer se predviđanje policijskog djelovanja vjerojatno povećava kako se tehnologija poboljšava. Kao što je Jon Christian istaknuo The Outline, prediktivni policijski sustavi već se koriste na nekim mjestima u Sjedinjenim Državama. Policijski odjel u Los Angelesu koristi softver koji predviđa gdje će se i kada zločini vjerojatno dogoditi, kako bi ih policajci mogli otjerati.

S druge strane kaznenopravnog sustava sudnice ponekad koriste algoritme koji potencijalnim paroleima daju ocjene rizika kako bi suci mogli donositi bolje odluke. Nažalost, ti navodno nepristrani algoritmi zapravo diskriminiraju na temelju rase.

Kineski ulazak u prediktivni rad policije naglašava važnost provedbe odgovornog algoritma kako strojno učenje nastavlja ulaziti u javni sektor. Možda je vrijeme da vlade pametne vlade usvoje novu mantru: Ponekad umjetna inteligencija stvara više problema nego što ih rješava.