Tehnologije za prepoznavanje lica FBI-a ne poštuju vašu privatnost i prava

Tko je pas čuvar? Ured za odgovornost vlade, kako to sugerira njegov naslov. Nedavno izvješće GAO-a o korištenju tehnologije za prepoznavanje lica u vladi našlo se u javnosti u srijedu. U osnovi, dobili smo situaciju. Loša situacija. Ukratko: FBI svojim programima za prepoznavanje lica krši vašu privatnost i ne govori vam o tome. Plus, FBI ne provjerava jesu li ti programi točni i pouzdani.

FBI i biometrija idu natrag - ljubavna veza počela je s bazama podataka o otiscima prstiju. Ali sada ide i dalje od toga. "Biometrija", FBI-u i prema GAO-u, znači "automatsko prepoznavanje pojedinaca na temelju njihovih bioloških i bihevioralnih karakteristika." U 2011. FBI je uveo pilot svoj sustav identifikacije sljedećih generacija (NGI); četiri godine kasnije, u travnju 2015. godine, u potpunosti je funkcionirao.

NGI djelomično koristi Interstate Photo System (IPS) za te takozvane biometrije. Ova baza podataka - uz vanjske baze podataka iz privatnih tvrtki - omogućuje vladinim agencijama pristup preko 411 milijuna fotografije lica (trenutačna američka populacija iznosi samo 319 milijuna). Ministarstvo pravosuđa tvrdi da je većina tih fotografija snimljena s fotografija - "Više od 80 posto fotografija u NGI-IPS-u je kriminalno" - ali se također udružuju s brojnim državama kako bi dobili pristup vozačkim dozvolama i fotografijama za putovnice. GAO kaže da je trenutak a sumnjiv je "rezerviran za zločin", on ili ona su u knjigama - tj. u NGI-IPS-u.

Ono što nije sasvim jasno iz izvješća je koliko FBI ima problema s fotografijama društvenih medija. FBI tvrdi da ih ne uključuje u NGI-IPS, ali ih koristi:

"… fotografije snimljene sa sigurnosnih kamera ili fotografija društvenih medija nisu upisane u NGI-IPS … Prema podacima FBI-a, vanjske baze podataka ne sadrže privatne fotografije ili fotografije iz društvenih medija, a FBI ne održava te fotografije; samo traži protiv njih."

Ali vrijedi napomenuti koliko bi društveni mediji mogli biti. Aplikacija fotografije vašeg računala može prepoznati vas i vaše prijatelje. Facebook također radi, a zabrinjavajuće je dobro katalogizirati svaku osobu na fotografiji. Svaki put kada koristite Snapchat objektiv, Snapchat mapira jedinstvene konture vašeg lica. I to se ne zaustavlja - ove tehnologije su praktički svugdje.

Bez obzira na to, nije samo FBI zabavan s vašim licem: pristup se proteže do lokalnih policijskih odjela. (Postoji i sljedeće: "Sustav prepoznavanja lica Ministarstva obrane koristi se kao potpora borcima na terenu kako bi se identificirali neprijateljski borci.") FBI je jedina agencija sa direktno pristup, ali svi ostali mogu jednostavno zatražiti pristup. Nakon što je pristup odobren, agencija o kojoj je riječ šalje fotografiju FBI-u i traži određeni broj potencijalnih podudaranja. (Fotografija može biti visoke razlučivosti, ali, poznavajući sigurnosne kamere, vjerojatno nije.) Kad jednom stigne, NGI-IPS pokreće fotografiju kroz svoju bazu podataka, a zatim, kaže GAO, "mora se provesti ljudska analiza." "29 obučenih stručnjaka za biometrijske slike u uslugama FACE Procjena usporedbe analize lica" daje konačnu riječ. Naposljetku, potreban broj potencijalnih susreta pronalazi put natrag u agenciju. Tada je na toj agenciji da utvrdi jesu li ti očigledni sumnjivci stvarni osumnjičeni.

Evo kako to radi:

“Konkretno, tehnologija izdvaja značajke s lica i stavlja ih u format - koji se često naziva i otisak lica - koji se između ostalog može koristiti za provjeru. Jednom kada je stvoren faceprint, tehnologija može koristiti algoritam za prepoznavanje lica kako bi usporedila otiske lica jedan prema drugom da bi proizvela pojedinačnu vrijednost rezultata koja predstavlja stupanj sličnosti između dva lica."

Ovisno o vašem poznavanju znanstvene fantastike, to može ili ne mora izgledati kao pouzdan, pouzdan sustav. Nije. Evo a odjeljak zaglavlje u izvješću GAO:

"FBI ima ograničene informacije o točnosti sposobnosti tehnologije prepoznavanja lica."

Sve što FBI zna je to, kad je to učinio testirajte stopu točnosti podudaranja 50 potencijalnih programa - što je učinila, uznemirujuće, s testnom bazom podataka, a ne sa stvarnom bazom podataka - to je 86 posto točno. FBI "nije procijenio točnost pretraživanja prepoznavanja lica u NGI-IPS-u u svom operativnom okruženju - postavka u kojoj su upisane fotografije, a ne testna baza fotografija - koriste se za potragu za istražnim tragovima." brinuti se o tome koliko su točni sustavi prepoznavanja lica u privatnim poduzećima: nema revizija.

Osamdeset šest posto točno. Drugim riječima: oko četiri od pet zvijezda. Ako je vaš lokalni sushi restoran imao četiri od pet zvjezdica, razmislite o narudžbi. No kao što mali broj recenzija može poremetiti ocjenu restorana, tako i visok Broj mogućih podudaranja može iskriviti točnost NGI-IPS-a. Pedeset potencijalnih podudaranja maksimalno mogu zatražiti agencije; sustav može ispljunuti što manje dva, GAO kaže da što je manji popis, to je sustav manje točan.

Postoji i čitava dosadna lažna pozitivna stvar. "Službenici FBI-a izjavili su da nisu procijenili koliko često NGI-IPS pretraživanja prepoznavanja lica pogrešno odgovaraju osobi s bazom podataka (stopa lažno pozitivnih)." Lažni pozitivni rezultati su - oprostite na mom jeziku - ozbiljni jebeni problemi, jer oni "mogu promijeniti tradicionalna pretpostavka nevinosti u kaznenim predmetima stavljanjem više tereta na okrivljenika da pokaže da nije onaj koji ga sustav identificira. “Sustav se može oboriti na oba kraja jednadžbe: ako je fotografija loše kvalitete, stope uspješnosti pada; ako je softver lošeg kvaliteta, stopa uspjeha pada. Niske stope uspješnosti znače mnogo lažnih pozitivnih rezultata.

GAO, nakon što je dovršio izvješće, dao je američkom državnom odvjetniku Loretti Lynch i ravnatelju FBI Jamesu Comeyu šest preporuka. Suština: Ministarstvo pravosuđa ima problem s neprozirnošću. Javnost može znati da se krši njezina privatnost, ali javnost ne zna točno kako krši se njegova privatnost. Također, Ministarstvo pravosuđa mora otkloniti nedostatak nadzora kako bi se osiguralo minimalno prekoračenje privatnosti. Konačno, Ministarstvo pravosuđa mora osigurati - iako retroaktivno - da su ti programi pouzdani.

Ministarstvo pravde se samo u potpunosti složilo s jednom preporukom. Ona se "djelomično složila" s još dva, ali je odbacila preostala tri - od kojih su dva pokušala utvrditi točnost smjernica.