Seksizam ugrađen u Googleove algoritme: Pretraga pojmova ‘Brazilke‘, ‘Ukrajinke‘ i ‘Njemice‘ sve govori

Google Images svijetu daje lice: tko želi vidjeti kako nešto ili netko izgleda, najčešće poseže za Googleom. Istraživanje DW-a pokazuje do kakvih iskrivljenih rezultata dovode algoritmi pretraživačkog giganta - tim DW-a analizirao je više od 20.000 slika i internetskih stranica.

Ishod je poražavajući: pretraživanje na engleskom, kada se upišu riječi „dominikanske žene“, „brazilske žene“, „tajlandske žene“ ili „ukrajinske žene“, više vodi ka slikama mladih žena u izazovnim pozama, oskudno odjevenih nego kada se upišu riječi „američke žene“.

A ako se na Googleu na engleskom upiše „njemačke žene“, prvenstveno se pojavljuju slike političarki i sportašica, piše Deutsche Welle.

Taj obrazac je već golim okom vidljiv, to potvrđuje i obično pretraživanje. Kvantifikacija i analiza rezultata je međutim teža. Definicija onog što jednu sliku čini seksualiziranom je subjektivna i ovisi od kulturnih, moralnih i društvenih nazora.

Što jednu sliku čini izazovnom?

DW se oslonio na Googleov „Cloud Vision SafeSearch", aplikaciju umjetne inteligencije. Softver za obradu slika prepoznaje eksplicitne sadržaje. Google ga koristi kako bi označio „izazovne“ slike, kada osobe koje su na njima recimo imaju „oskudnu ili prozirnu odjeću“, na kojima do izražaja dolazi strateški prikrivena golotinja s izazovnim i provokativnim pozama. Program prepoznaje i fotografije na kojima su u krupnom planu eksplicitni dijelovi tijela.

Rezultati potrage za pojmovima "njemačka" i "brazilska" žena

Dw/Google Screenshot

Kada se traže žene iz Dominikanske Republike i Brazila, 40 posto slika koje Google izbacuje su izazovne. Kada se traže „američke žene“, stopa provokativnih slika se smanjuje na pet posto, a kada se radi o „njemačkim ženama“ na četiri posto.

Upotreba takvih algoritama je sporna jer su jednako – ako ne i više – podložni predrasudama kao ljudi. Rezultati ovog programa su u nekim slučajevima čak i rasistički.

Svaka slika koju pretraživač izbaci, istovremeno otkriva i internetsku stranicu na kojoj je ona prvobitno objavljena. Iako neke od slika nisu otvoreno izazovne, mnoge od tih stranica nude sadržaje koje žene svode na seksualne objekte.

Latinoameričke žene, kao i žene iz istočne Europe i južne Azije, često se prikazuju stereotipno. Od prvih sto slika koje su se pojavile kada su bile upisane riječi „ukrajinske žene“, 61 slika je vodila ka takvim stranicama. Slično je bilo i kada su tražene žene iz Češke, Moldavije ili Rumunjske.

I prilikom traženje slika zapadnoeuropskih žena dolazilo se do takvih stranica, ali daleko rjeđe. Od sto slika koje su se pojavile kada su bile upisane riječi „njemačke žene", samo šesnaest je klasificirano kao izazovno, a tek šest kada je riječ o francuskim ženama.

Stereotipi potiču internetske rezultate

Značajan dio rezultata može se naći na internetskim stranicama kao što su toprussianbrides.com, hotlatinbrides.org i topasiabrides.net. Većina ih se predstavlja kao međunarodne agencije za sklapanje brakova ili takozvane „naručivanja mlade putem pošte“. One obećavaju da uz naknadu muškarce spajaju sa ženama određenih nacionalnosti.

Druge stranice nude stereotipna uputstva za pronalaženje partnera iz određenih kulturnih krugova. Ciljna grupa su muškarci sa Zapada koji ili traže pokornu ženu iz inozemstva ili seksualnu partnericu. „Do sada ste uglavnom imali posla za zapadnim ženama kojima je u prvom planu bila karijera? Onda će veza s ukrajinskom ženom za Vas biti nešto sasvim drugačije“, piše na jednoj stranici, koja se redovno pojavljuje u vrhu rezultata pretrage.

Tamara Zlobina je glavna urednica ukrajinskog internetskog magazina „Gender in Detail“. Ona smatra da takav način predstavljanja žena ima veze s fenomenom koji se u njenoj zemlji prvi put pojavio devedesetih godina: „Nakon raspada Sovjetskog Saveza, Ukrajina je bila ekstremno siromašna zemlja. Mnoge žene su krenule ka zapadnoj Europi, kako bi zaradile novac za svoje obitelji", kaže Zlobina.

To se u međuvremenu značajno promijenilo, s obzirom na to da se znatno poboljšala ekonomska situacija u zemlji – pa tako i šanse ukrajinskih žena za obrazovanje i zapošljavanje. „Bilo bi mi draže da se pojavljuju slike diplomatica, političarki, revolucionarki ili žena koje se bore u našim pograničnim ratovima. Imamo mnogo divnih žena. To bi se trebalo vidjeti, a ne tržište žena za udaju!"

Profesorica za multikulturalne studije sa Sveučilišta u Bangkoku, Sirijit Sunanta, smatra da stereotipi utječu na to kako su tajlandske žene predstavljene na internetu: „Tajland važi za neku vrstu Disneylanda za prostituciju i seksualni turizam. To se prenosi i na internet, kada se pretražuje na Googleu", kaže Sunanta za DW.

„Kada se stereotipi odnose na žene određene nacionalnosti, štetni su na drugoj razini: to smanjuje njihovu složenost. Žene su svuda različite“, dodaje profesorica.

Google priznaje stereotipe, šuti o rješenjima

Rezultati pretrage ovise i od toga koji se jezik koristi. Ako se na engleskom upiše „Brazilian women“ ili na portugalskom „mulheres brasileiras“ – oba znače „brazilske žene“ – Google izbacuje različit broj seksualiziranih sadržaja. Kod pretrage „Brazilian women" je 41 od 100 slika ocijenjena kao izazovna. Broj se smanjuje na devet kada se brazilske žene traže na portugalskom jeziku. Slična je situacija i s ostalim jezicima.

Google nije odgovorio na detaljan katalog pitanja DW-a. Umjesto toga su nam poslali priopćenje u kojem priznaju da rezultati pretrage pokazuju i „rezultate koji odražavaju negativne stereotipe i predrasude, koji postoje na internetu." To ima „negativne posljedice na žene i žene koje nisu bijele boje kože".

Prema Googleu, na sadržaj koji se pojavljuje u rezultatima pretrage utječe način na koji su informacije organizirane i označene na internetu. Iz kompanije poručuju da se radi na pronalaženju „prilagodljivih rješenja" za takve probleme. Ali više detalja o tome nije navedeno.

„Podaci kojima se hrane algoritmi odražavaju percepciju, predrasude i potrošačke obrasce samo dijela čovječanstva“, kaže Renata Avila s američkog Sveučilišta u Stanfordu. „Te predrasude nisu isključivo posljedica tehnologije, nego i kulturnih faktora. Muška kultura engleskog govornog područja žene određene nacionalnosti dijeli po seksualnim i uslužnim ulogama."

Ona smatra da je sve to dio dubljeg, sistemskog problema. Pošteniji algoritmi se ne uklapaju u poslovni model globalnih tehnoloških kompanija, kojima je prvenstveno važno da prikupe podatke i povećaju protok informacija.

Sličnog mišljenja je i brazilska pravnica Joana Varon, osnivačica analitičkog centra „Coding Rights“. Ona smatra da pretraživači naginju k tomu da reproduciraju sadržaje koji su široko rasprostranjeni na internetu. „Komercijalni algoritmi i tvrtke koje iza njih stoje bi trebali preuzeti odgovornost za to što rade."