Zašto još uvijek vjerujemo Amazonu? Kako Big Tech divovi ne uspijevaju zaštititi društvo

Amazon je možda očekivao veliku pažnju javnosti kada je objavio gdje će uspostaviti svoje novo sjedište - ali, kao i mnoge druge tehnološke tvrtke, vjerojatno nije očekivao koliko bi odgovor bio negativan. U odabranim područjima Amazonije u New Yorku i Virginiji, lokalni političari su odbijali nagovore koji su se financirali od poreznih obveznika i koje su obećali tvrtki. Novinari iz cijelog političkog spektra počeli su se baviti poslom - i društveni mediji ispunili su glasove njujorčana i Virginijaca koji su obećavali otpor.

Isto tako, otkrića da je Facebook iskoristio antisemitske teorije zavjere kako bi potkopao legitimnost svojih kritičara, pokazuju da umjesto da se mijenja, Facebook bi radije išao u ofenzivu. Čak i kad su Amazon i Apple vidjeli da su im dionice na tržištu nakratko nadmašile 1 trilijun dolara, rukovoditelji tehnologije odvučeni su pred Kongres, pokušavali su dosljedno zauzeti stav o govoru mržnje, uhvatili su ih prikrivajući seksualne nedjela, i vidjeli svoje zaposlenike koji protestiraju zbog poslovnih dogovora.

U nekim krugovima to se doživljava kao gubitak povjerenja javnosti u tehnološke tvrtke koje su obećale preoblikovati svijet - društveno, ekološki i politički - ili barem kao frustraciju načinom na koji su te tvrtke promijenile svijet. Međutim, tehnološke tvrtke moraju učiniti mnogo više od povrata povjerenja javnosti; oni moraju dokazati da su to zaslužili na prvom mjestu - što, kada su postavljeni u kontekst povijesti tehnologije i skepticizma, nisu.

Gledajući daleko od problema

Velike tehnološke tvrtke koristile su svoje projekte u nejasnom utopijskom, pozitivnom zvučnom žargonu koji zamračuje politiku i javnu politiku, nadilazeći partizanstvo i - prikladno - izbjegavajući nadzor. Google je svoje radnike podsjećao: "Nemojte biti zli." Facebook je radio na tome da "učini svijet otvorenijim i povezanijim". Tko bi mogao prigovoriti tim idealima?

Znanstvenici su upozorili na opasnosti platformi poput ovih, mnogo prije nego što su se čak i njihovi osnivači rodili. Godine 1970. društveni kritičar i povjesničar tehnologije Lewis Mumford predvidio je da će cilj onoga što je on nazvao “kompjutorstvo” biti “opremanje i obrada beskrajne količine podataka, kako bi se proširila uloga i osigurala dominacija elektroenergetskog sustava. Iste je godine glavni feministički mislilac Jo Freeman upozorio na neravnotežu moći koja je ostala u sustavima koji su činili da svi budu jednaki.

Isto tako, 1976. godine, računalni znanstvenik Joseph Weizenbaum predvidio je da će se ljudi u predstojećim desetljećima naći u stanju nevolje kada se sve više oslanjaju na neprozirne tehničke sustave. Nebrojena slična upozorenja objavljena su od tada, uključujući važnu nedavnu stipendiju kao što je istraživanje znanstvenika Safiya Noble o tome kako Google traži repliciranje rasnih i spolnih predrasuda i izjava znanstvenika medija Sive Vaidhyanthana da je "problem s Facebookom Facebook."

Tehnološke tvrtke su moćne i bogate, ali njihovi dani izbjegavanja kontrole možda se završavaju. Čini se da američka javnost počinje sumnjati da su tehnološki divovi nepripremljeni, a možda i nevoljni, da preuzmu odgovornost za alate koje su pokrenuli na svijetu.

Nakon predsjedničkih izbora u SAD-u, zabrinutost i dalje ostaje velika da ruske i druge strane vlade koriste bilo koju dostupnu platformu društvenih medija kako bi posijale razdor i nezadovoljstvo u društvima širom svijeta.

Facebook još uvijek nije riješio probleme u zaštiti privatnosti i transparentnosti podataka koji su prouzročili skandal u Cambridgeu Analytica. Twitter je preferirani megafon za predsjednika Donalda Trumpa i dom zabrinjavajućih količina nasilnog govora mržnje. Budućnost korporativnih ureda Amazona oblikuje se kao višestruka svađa između izabranih dužnosnika i ljudi koje oni navodno predstavljaju.

Je li to neznanje ili naivnost?

Imajući u vidu sadašnju situaciju s poviješću kritika tehnologije, teško je ne zaključiti da tehnološke tvrtke zaslužuju krizu s kojom se suočavaju. Te tvrtke traže od ljudi da im povjere svoju e-poštu, osobne podatke, povijest pretraživanja na mreži i financijske informacije, do te mjere da mnoge od tih tvrtki ponosno reklamiraju da poznaju pojedince bolje nego što znaju sami. Oni promoviraju svoje najnovije sustave, uključujući "pametne zvučnike" i "pametne kamere", nastojeći osigurati da se svaki trenutak buđenja korisnika - i trenutaka spavanja - mogu pratiti, unoseći više podataka u njihove algoritme za stvaranje novca.

Ipak, naizgled neizbježno, te tvrtke nastavljaju pokazivati ​​koliko su bezvrijedne u povjerenju, propuštaju podatke, dijele osobne podatke i ne sprečavaju hakiranje, jer polako ispunjavaju svijet uznemirujućom tehno-paranoijom koja je vrijedna epizode “Black Mirror” „.

Odgovori tehnoloških tvrtki na svako novo otkriće odgovaraju standardnom obrascu: nakon što se pojavi skandal, uključena tvrtka izražava alarm da je sve pošlo po zlu, obećava da će istražiti i obećati da će u budućnosti biti bolje. Neko vrijeme - dani, tjedni ili čak mjeseci - kasnije, tvrtka otkriva da je skandal bio izravna posljedica načina na koji je sustav dizajniran, te istjeruje zabrinutog izvršnog direktora kako bi izrazio ogorčenje zbog destruktivnog korištenja loših ljudi pronađenih za njihov sustav, ne priznajući da je problem sam sustav.

Sam Zuckerberg rekao je američkom Senatu u travnju 2018. da ga je skandal s Cambridge Analyticom naučio "da imamo odgovornost ne samo davati ljudima alate, nego i osigurati da se ti alati upotrebljavaju zauvijek". dok stvarate tvrtku s više milijardi dolara.

Obnova od lijevog

Korištenje bilo koje tehnologije - od noža do računala - nosi rizike, ali kako se tehnološki sustavi povećavaju u veličini i složenosti, opseg tih rizika također se povećava. Tehnologija je korisna samo ako je ljudi mogu koristiti na siguran način, na način na koji koristi prevladavaju opasnosti, i ako se osjećaju sigurni da razumiju i prihvaćaju potencijalne rizike. Prije nekoliko godina, Facebook, Twitter i Google većini su se ljudi možda činili benignim načinom komuniciranja koji je donio više u društvo nego što je to bilo. No, sa svakim novim skandalom i neuspjelim odgovorima, sve više ljudi vidi da te tvrtke predstavljaju ozbiljnu opasnost za društvo.

Koliko god to moglo biti primamljivo ukazati na gumb "isključeno", ne postoji jednostavno rješenje. Tehnološki divovi su postali dio svakodnevnog života za stotine milijuna ljudi. Sugeriranje da ljudi jednostavno odustaju jednostavno je, ali ne prepoznaje koliko su se ljudi na tim platformama oslanjali - i koliko se mogu osjećati u zamci u sve nepodnošljivijoj situaciji.

Kao rezultat toga, ljudi kupuju knjige o tome kako je Amazon loše - naručujući ih na Amazonu. Oni provode Google pretraživanja članaka o tome koliko informacija Google zna o svakom pojedinom korisniku. Tvita o tome koliko mrze Twitter i objavljuju članke na Facebooku o najnovijem Facebook skandalu.

Tehnološke tvrtke mogle bi se naći na čelu sve teže baze korisnika, jer su njihove platforme proširile nezadovoljstvo sve dalje i dalje nego što je to bilo moguće u prošlosti. Ili bi se mogli dramatično promijeniti, razbiti se, pretvoriti neke kontrole u demokratske odluke svojih korisnika i preuzeti odgovornost za štetu koju su njihove platforme i proizvodi napravili svijetu. Do sada, međutim, čini se da industrija nije otišla dalje od pružanja polu-pečenih isprika dok je nastavila poslovati kao i obično. Nadam se da će se to promijeniti. Ali ako je prošlost bilo koji vodič, vjerojatno neće.

Ovaj članak je izvorno objavljen na razgovoru Zacharyja Loeba. Pročitajte izvorni članak ovdje.