Umjetna inteligencija nije prepoznala rasističko ponašanje. Kriv je nemar korporacija

Kako se povećao pritisak medija da se zaustavi trend virtualnog zlostavljanja na društvenim mrežama, tako su digitalne platforme zaposlile na tisuće moderatora čiji je zadatak bio uklanjanje neželjenog sadržaja. Jednom kada je ljudstvo postalo preopterećeno količinom izvještaja koje je svakodnevno trebalo priložiti, korporacije su se okrenule automatizaciji. Na početku procesa, u javnost je odaslana poruka kako je plan uspio. Facebook je tako nebrojeno puta iznio podatak kako većinu postova povezanih s terorizmom briše umjetna inteligencija, pritom se hvaleći kako je 99 posto postova Al-Qaede i Islamske države, tehnologija uklonila prije nego što su ih korisnici upozorili na sporan sadržaj.

Ali čini se kako je i ta tehnologija pokazala svoja ograničenja. Nakon što je BBC-jeva novinarka Cristina Criddle izvijestila o komentaru, koji je sadržao emoji orangutana na Instagram stranici nogometaša Bukayoa Sake, dobila je sljedeći odgovor: "Naša je tehnologija utvrdila da ovaj komentar nije u suprotnosti sa smjernicama naše zajednice."

Nekoliko dana kasnije izvršni direktor Instagrama Adam Mosseri priznao je da su počinjene pogreške. "Neke od komentara umjetna inteligencija je označila kao benigne komentare, što apsolutno nisu. Problem je sada riješen"- napisao je Mosseri.

No, nisu svi uvjereni kako je razlog previda isključivo tehnološke vrste. Novinar Charles Arthur, izjavio je kako nije potpuno uvjeren da se korporacije dovoljno trude. "Tehnologija je daleko od savršene jer su ljudi koji ih stvaraju daleko od savršenog. Obučavanje sustava da je slanje orangutana crnom nogometašu pogrešno, ne bi trebalo biti toliko teško. Kompetentni programer trebao bi na tome raditi maksimalno sat vremena", objasnio je.

Bill Mitchell iz BCS-a, institucije koje zastupa one koji rade u informacijskoj tehnologiji i računalnim znanostima, kako u Ujedinjenom Kraljevstvu, tako i u inozemstvu, predlaže pak nešto strože rješenje. On želi natjerati društvene medije da provjeravaju identitet svojih korisnika.

"Osnovna ideja je jednostavna. Budite odgovorni za svoje ponašanje. Ako učinite nešto što je potpuno odvratno i neprihvatljivo, onda zaslužujete biti kažnjeni, pa ćete drugi puta promisliti o onome što ste učinili ", vjeruje Mitchell.

No, velik dio stručnjaka, kao i neki članovi BCS-a skeptični su prema ovoj ideji.

Posljednjih 20 godina obilježio je dosad neviđen razvoj svijeta interneta, od novih tehnologija, poduzeća, načina rada, kupovine, rezerviranja smještaja pa sve do naručivanja hrane i prijevoza. EU Direktiva o elektroničkoj trgovini, koja je temelj jedinstvenog digitalnog tržišta, donesena je 2000., kada su platforme kao što su Amazon, Google i Booking.com tek počele s radom, a Facebook, Airbnb i Instagram nisu ni postojali.

Zakonodavstvo EU-a mora ići ukorak s trenutnim zbivanjima, te EU radi na novom zakonodavnom okviru, Aktu o digitalnim uslugama (DSA). On daje smjernice za novo internetsko okruženje, uključujući internetske platforme, kako bi se osiguralo bolje i sigurnije mjesto za korisnike i poduzeća diljem EU-a.

Zastupnici Europskog parlamenta naveli su, pak, svoje prioritete za Akt o digitalnim uslugama.

Bilo kako bilo, kada su se društveni mediji prvi put pojavili na sceni, činilo se da obećavaju novo doba demokratske komunikacije, gdje su političari, slavne osobe i radnička klasa jednaki. No danas je taj san umro, a ne postoji dogovor o tome kako stvari učiniti boljima, vjeruje Rory Cellan-Jones, kolumnist BBC-a.