Godina 2025., iako nije daleko odmaknula, s razlogom se smatra prijelomnom u sektoru umjetne inteligencije. Nova tehnologija razvija se eksplozivnom brzinom unatrag dvije godine, no pomaci su mnogo sporiji kada je riječ o regulaciji tog sektora.
Regulativa i potreba da se o tome usuglase svi ključni igrači bila je jedna od ključnih tema ovotjednog Pariškog summita o umjetnoj inteligenciji na kojem su sudjeluovali američki potpredsjednik J. D. Vance, kineski zamjenik premijera Zhang Guoqing te izvršni direktor OpenAI-ja Sam Altman i Sundar Pichai iz Googlea. Iako je događaj prilika za sklapanje poslova i objavljivanje novih ulaganja, jednako je važan eventualni pomak u smjeru dogovora o upravljanju i nadzorom nad AI sektorom.
U tom kontekstu zanimljivo je podsjetiti se kako je sektor umjetne inteligencije reguliran u Europskoj uniji. Summit u Parizu održava se, naime, samo tjedan dana nakon što se primjenjivati počela većina nove europske regulative za područje umjetne inteligencije koja će se primjenjivati u državama članicama. Akt o umjetnoj inteligenciji, koji je donesen prošlog ljeta, prvi je pokušaj sveobuhvatnog reguliranja novih tehnologija u svijetu. Pokušaj je to europskih institucija da anticipiraju potencijalne opasne posljedice eksplozivnog, a praktički nekontroliranog razvoja AI-ja u svjetskim poduzetničkim laboratorijima, o kojem upozoravaju brojni vodeći ljudi iz struke.
PROČITAJTE VIŠE Hrvatski stručnjaci: Ovo je golem uspjeh Kineza, ali Amerika i dalje ima nešto daleko važnije!
Etički i sigurnosno problematične AI tehnologije mogu se činiti kao dio distopijskog svijeta iz televizijskih serija poput Black Mirrora. Međutim, u svijetu se već odavno koriste. Jedna od najboljih ilustracija su Kina i njezin sustav "društvenog bodovanja". "Social scoring" metoda je kojom se riječima kineskih vlasti "nagrađuju ponašanja koja grade društveno povjerenje, a kažnjava loše ponašanje", po novome je u EU zabranjen.
Međutim, ne treba ići na drugi kraj svijeta za primjere praksi koje su na meti Akta. Prije nekoliko godina skandal s algoritamskim utvrđivanjem varanja na dječjem doplatku srušio je tadašnju nizozemsku vladu. Desetine tisuća obitelji, većinom iz ranjivih društvenih skupina, pogrešno su optužene zbog samoučećeg algoritma koji ih je optužio za prijevaru. Nekima od njih dugovi su doslovno uništili život - zabilježena su samoubojstva, rastave i izuzimanje djece iz obitelji zbog pada ispod granice siromaštva.
Europski akt zato identificira osam zabranjenih praksi u cilju zaštite europskih korisnika od sustava na europskom tržištu. Novi sustavi svrstava u četiri kategorije, ovisno o riziku koji predstavljaju građanima. Akt tako razlikuje neprihvatljive sustave, koji se zabranjuju na području Unije, one visokog rizika, kod kojih je korištenje moguće uz strogo određena pravila, sustave kod kojih je potrebno osigurati da građani znaju da je riječ o tehnologiji AI-ja te sustave minimalnog ili nikakvog rizika. U ovu posljednju skupinu ulaze tehnologije poput videoigara temeljenih na umjetnoj inteligenciji i filteri za spam.
Među praksama koje Akt o AI-ju izričito zabranjuje je korištenje tog sustava za profiliranje ljudi ili predviđanje o tome hoće li se pojedinac upustiti u kriminalni prijestup. Izuzetak su sustavi koji se koriste isključivo kao dodatni alat u ljudskoj procjeni izravno povezanoj s kriminalnom aktivnošću. Akt zabranjuje i sustave za tzv. čitanje emocija na radnom mjestu i u obrazovnim institucijama, osim iz medicinskih ili sigurnosnih razloga. Zabranjeno je "neciljano prikupljanje i korištenje materijala s interneta ili nadzornih kamera u svrhu stvaranja ili širenja baza facijalnog prepoznavanja".
Među praksama koje je Unija svrstala u neprihvatljive su i sustavi koji kategoriziraju ljude na temelju njihovih biometričkih podataka - otisaka prstiju, skeniranja zjenica, facijalnog prepoznavanja i glasovnih otisaka kada se koriste u svrhu utvrđivanja rase, političke orijentacije, članstva u sindikatima, vjerskih i drugih opredjeljenja, spolnog života ili seksualne orijentacije, osim u slučaju legalnih baza koje uključuju one u sektoru provođenja zakona.
Zabranjena je i biometrička identifikacija na daljinu u realnom vremenu na javnim prostorima, čak i u svrhu policijskog postupanja, osim u slučaju potrage za konkretnom žrtvom, primjerice u slučaju otmice, ili za prevenciju specifičnih prijetnji poput terorizma.
Akt strogo zabranjuje bilo kakvu štetnu manipulaciju ili namjernu prijevaru korisnika, čiji je cilj ili posljedica utjecaj na ponašanje pojedinca te sve sustave koji mogu iskoristiti ranjivost određenih skupina. Djelujući s ciljem dobrobiti djece i drugih ranjivih skupina, zabranjeni su i svi algoritmi koji imaju efekt "zečje rupe", a to su oni koji pokušavaju zadržati pažnju korisnika nudeći sadržaje koji predstavljaju izravnu ugrozu za život ili zdravlje korisnika.
PROČITAJTE VIŠE Ovo su ‘Kockar‘, tech milijarder te kontroverzni wunderkind: Vode najveći projekt današnjice
Ove regulative dio su pravila koje je Europska unija uvela kako bi zaštitila svoje tržište od potencijalno štetnih proizvoda i kako bi na globalnom planu osigurala da se AI razvija na odgovoran i vjerodostojan način. Novim aktom određene su i kazne za kompanije koje ne budu poštovale europske uredbe, a idu do sedam posto godišnjeg prihoda tvrtke.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....