Algoritam se testira u San Franciscu kako bi se odredilo predtražbeno jamstvo

Sustav kaznenog pravosuđa je usred algoritamske promjene. Oko 30 jurisdikcija - uključujući cijelu državu Arizonu, Kentucky i New Jersey, kao i gradove poput San Francisca i Chicaga - testiralo je algoritam koji određuje troškove jamstva na temelju podataka o kaznenim evidencijama širom zemlje. Nisu svi suci nužno spremni prihvatiti digitalne preporuke.

Algoritam su stvorili Laura i John Arnold Foundation iz Houstona, a naziva se Procjena javne sigurnosti ili PSA. Cilj algoritma je izvući predrasude iz određivanja jamčevine koristeći podatke iz 1,5 milijuna slučajeva prije suđenja. U prošlosti, međutim, algoritmi su nosili iste predrasude ljudi koji ih stvaraju.

Devet čimbenika ulazi u algoritam, prema web-lokaciji zaklade:

• Je li sadašnje djelo nasilno
• Ima li osoba u tijeku optužnicu u vrijeme uhićenja

• Ima li osoba ranije osuđujuće presude za prekršaj
• Ima li osoba prije osude za kazneno djelo
• Je li osoba ranije osuđivana za nasilni zločin
• Dob osobe u vrijeme uhićenja
• Da li se ta osoba nije pojavila na pretpretresnom saslušanju u posljednje dvije godine
• Nije li se osoba pojavila na saslušanju prije saslušanja prije više od dvije godine
• Je li osoba prethodno bila osuđena na kaznu zatvora.

Algoritam ne uzima u obzir rasu, spol, dohodak, obrazovanje, zaposlenost ili susjedstvo. To, prema temeljima, čini PSA neutralnim.

Ipak, suci u San Franciscu nisu dosljedno slijedili preporuke San Francisco Chronicle izvještaji.

San Francisco se preselio koristiti algoritam nakon što je grad tužila nacionalna skupina za ljudska prava koja je tvrdila da je prekomjerna kaucija povrijedila siromašne više nego bogate. Bogati ljudi koji su počinili manje zločine kupovali su izlaz iz zatvora, dok su siromašni ljudi koji nisu mogli priuštiti prekomjerne kaucije ostavljeni u ćeliji do trenutka zakazivanja suđenja.

PSA je trebala izjednačiti igralište gledajući podatke, a ne neposredni kriminal. Algoritam koristi povijesne podatke kako bi prosuđivao koliko je vjerojatno da će osoba počiniti drugo kazneno djelo ili izbjeći suđenje ako se stavi pod jamčevinu, Izvješće manjina stil. Ako je vjerojatnost velika, jamstvo je postavljeno više i obrnuto.

Sličan algoritam koji je izradio Northpointe upotrijebljen je za navođenje datuma puštanja zatvorenika. ProPublica objavili rezultate istraživanja u svibnju koji su otkrili da su ocjene "procjene rizika" koje je dao Northpointeov algoritam nerazmjerno predvidio da su crnci vjerojatnije počinili još jedan zločin nego bijeli ljudi nakon što su izašli. Samo je 20 posto Northpointeovih predviđanja bilo točno.

Napredne tehnologije za kartiranje i velike podatke, s druge strane, također pomažu u provedbi zakona i policijskih kriminalnih točaka.

Algoritam zaklade nastoji izbjeći sličnu pristranost uklanjanjem demografskih pokazatelja. Međutim, da li doista djeluje ili ne, neće se vidjeti dok se suci zapravo ne počnu oslanjati na algoritme iznad presedana i intuicije.