Je li Microsoftov Tay propustio Turingov test? Da, ali rasizam nije bio problem

Ako je uspjeh umjetne inteligencije stvaranje umjetnog osoba, Microsoftov A.I. bot, Tay, može se smatrati znakom napretka. Ali u širem smislu, Tayu se može procijeniti neuspjeh.

"Cilj većine ljudi koji rade na konverzacijskim agentima ove vrste nije toliko proći bilo kakav Turingov test, nego zapravo imati korisno znanje jezika koje reagira razumno na stvari i pruža ljudima pristup znanju," Miles Brundage, dr. Sc. student koji proučava ljudske i društvene dimenzije znanosti i tehnologije na Državnom sveučilištu Arizona Inverzan.

Microsoft je ilustrirao neke od problema izgradnje A.I. Programi ovog tjedna, kada je za manje od 24 sata, internet okrenuo ono što je trebalo biti ženska, tisućljetna, automatizirana, Twitter osobnost u oglasnu ploču za najrazličitije i najodvratnije riječi koje su trolovi imali za ponuditi.

Microsoft je odmah zatvorio eksperiment i ispričao se: "Duboko nam je žao zbog neplaniranih uvredljivih i štetnih Tweeta iz Taya, koji ne predstavljaju tko smo mi ili za što se zalažemo, niti kako smo osmislili Tay."

Kada je riječ o Turingovom testu, poznatom eksperimentu koji je korišten za procjenu A.I., Brundage kaže da postoje, općenito govoreći, dvije škole mišljenja - doslovne i teorijske.

Razvijen 1950. godine, Alan Turing je nastojao odgovoriti na pitanje: "Mogu li strojevi misliti?" Stavio je strojeve kroz test imitacije, koji zahtijeva da promatrač odredi spol dvaju ispitanika, od kojih je jedan A.I. Ako je računalo u stanju prevariti određeni broj promatrača, onda je prošao test.

hellooooooo w🌎rld !!!

- TayTweets (@TayandYou) 23. ožujka 2016

Ako bismo ovaj test primijenili doslovno, u inverzni-a privatni razgovor s Tayom, ona je odgovorila na politička pitanja rječito, spominjala je okovi "mannnnna" o društvu i koristila neke uobičajene kratice tekstualnih poruka i emojije. Brundage je rekao da je Tay pokazao milenijsko ponašanje, ali da su te vrste A.I. već su izgrađene.

“Biti u stanju proizvesti naizgled tinejdžerske primjedbe na Twitteru zapravo nije skladište širokih jezičnih i intelektualnih sposobnosti koje je Turing imao na umu, kaže Brundage. "To je, rekao bih, ako bismo stvarno uzeli Turingov test doslovno, što mislim da nije nužno, jedna varijanta je da je mnogo njezinih komentara naizgled nalik na ljude."

Ali ako želimo uzeti širi pristup kao što bi Brundage sugerirao, onda je očito da Tay nije pokazao razumni ljudski govor.

Microsoft je testirao ono što naziva "razumijevanje razgovora" tako da što više ljudi razgovara putem Twittera, GroupMea i Kika, to je više trebala učiti i prilagođavati se. Ali ona je jednostavno nastupila s ponavljanjem onoga što su mnogi drugi korisnici hranili i samo je ponovila u svijet.

"Tay" je otišao od "ljudi su super cool" do punog nacista u <24 sata, a ja uopće nisam zabrinut za budućnost AI pic.twitter.com/xuGi1u9S1A

- Gerry (@geraldmellor) 24. ožujka 2016

"Većina ljudi ne bi samo ponavljali nakon tebe, sve što si rekao", kaže Brundage.

Artikuliranje "Bush je učinio 11. rujna" i "Hitler bi učinio bolji posao od majmuna kojeg imamo sada", možda je nešto što je netko zapravo upisao Tayu, ali to nije baš pristojan razgovor.

"Može se reći da je njegova svrha u artikuliranju Turingovog testa bila manje propisati pojedinosti nekog testa i više kako bi se ljudi potakli da misle" u kojoj točki biste bili spremni biti u sustavu koji je inteligentan, "i otvoriti razmišljanje ljudi mogućnost da strojevi mogu razmišljati ”, kaže Brundage.