Prvi veliki književni skandal oko umjetne inteligencije: za bestseler haićansko-kanadskog autora otkrili da ga nije pisala ljudska ruka?

Još sredinom rujna Thélyson Orélien bilo je jedno od najzvučnijih novih imena francuskog književnog svijeta. Njegov debitantski roman "C’était ça ou mourir" (doslovni prijevod bio bi "Bilo je to ili umrijeti") prodavao se u desecima tisuća primjeraka, osvojio je nagradu Fnac, našao se u konkurenciji za prestižni Goncourt, a prava za prijevod prodana su u više od 20 zemalja. Samo nekoliko dana poslije promocije su mu obustavljene, izbačen je iz utrke za najpoznatiju francusku književnu nagradu, a njegov se roman našao u središtu možda prvog velikog književnog skandala oko umjetne inteligencije.

Sve je počelo 21. rujna, upravo na dan kada je Orélienov roman osvojio Prix du roman Fnac. Na društvenoj mreži X pojavio se niz objava s računa Balance ton Claude, koji je tada imao tek stotinjak pratitelja. Autor profila tvrdio je da je Orélienov roman "gotovo u cijelosti" generiran umjetnom inteligencijom. Kao glavni dokaz koristio je rezultate alata za detekciju AI sadržaja, među kojima je bio i Pangram, a koji su 2024. osnovali bivši Stanfordovi studenti i stručnjaci za strojno učenje Max Spero i Bradley Emi. Tvrtka za najnoviju verziju Pangram 4 navodi stopu lažno pozitivnih rezultata od 0,0041 posto, odnosno otprilike jedan pogrešno označen ljudski tekst na 24.000 dokumenata. Riječ je, međutim, o rezultatima njihova istraživanja, pa to treba uzeti sa zrnom soli ili pak sami provjeriti koliko je lako ili teško nasamariti detektor.

Spomenuti profil Balance ton Claude u kratkom je roku privukao tisuće pratitelja, a pitanje autorstva Orélienova romana iz rasprave na društvenim mrežama preselilo se u vodeće francuske medije i književne institucije. Kasnije je Le Figaro otkrio da iza profila stoji njihov kolumnist Samuel Fitoussi, koji se smatra tehnološkim optimistom, ali i strahuje da bi masovna uporaba AI-ja mogla ugroziti čitanje i pisanje.

Uspon 38-godišnjeg haićansko-kanadskog pisca dotad je bio poput filmske priče. Rođen na Haitiju, zemlju je napustio nakon razornog potresa 2010. godine i preselio se u Kanadu. Njegov roman, objavljen u Francuskoj kod izdavača Grasset, prati učitelja povijesti i geografije koji bježi iz zemlje pogođene nasiljem bandi i prolazi kroz 12 država prije nego što utočište pronađe u Kanadi. Knjiga je bila dobro prihvaćena među kritičarima i publikom, prodana je u oko 35.000 primjeraka, a prava za prijevod bila su ugovorena na više od 20 tržišta.

U obranu pisca

Orélien je optužbe kategorički odbacio. Tvrdio je da je uvijek želio pisati i stvarati te da ne vidi razlog zbog kojeg bi za pisanje romana koristio stroj. Za francuski Libération posebno je istaknuo da su jezik, ritam, ponavljanja i slike u njegovu tekstu povezani s haićanskom i karipskom književnom tradicijom.

Njegovi prijatelji i kolege stali su mu u obranu.

Haićanski pjesnik i romanopisac James Noël, koji Oréliena poznaje dvadesetak godina, rekao je da ga je tijekom afere zatekao potpuno shrvanog. Savjetovao mu je da se isključi iz internetske rasprave, koju je opisao kao obilježenu rasističkom mržnjom. Književnik Rodney Saint-Éloi iz Montreala rekao je pak da svjedoče "javnom uništavanju mladog čovjeka", upozoravajući da je Orélien zbog naglog uspjeha postao lako potrošiva javna figura.

Otežavajuća okolnost za pisca bile su optužbe da je Orélien u ranijim radovima plagirao tuđe tekstove. Libération je, primjerice, izvijestio da je nagrađena kratka priča koju je Orélien prijavio još 2012. sadržavala dijelove preuzete iz predgovora knjige "Jutro čarobnjaka" francuskog novinara i pisca Louisa Pauwelsa iz 1960. godine. Pojavile su se i tvrdnje o plagiranju u jednoj novinskoj kolumni koju je napisao prije objave romana.

Različiti stavovi urednika

Académie Goncourt potom je objavila da povlači Orélienov roman iz šireg izbora. U obrazloženju je navela da odluku donosi kako bi zaštitila integritet nagrade i Akademije.

Njegov kanadski izdavač Éditions du Boréal zauzeo je znatno oprezniji stav; poručio je da u ovoj fazi ne može ni potvrditi ni opovrgnuti optužbe protiv autora te je upozorio da bez čvrstih i vjerodostojnih dokaza nije na izdavaču da odluči "ima li ova knjiga pravo postojati". Orélien se na kraju povukao iz javne polemike. Na književnom festivalu Les Correspondances u Manosqueu rekao je da osjeća kako se više ne napada samo njegova knjiga, nego i njegov glas te da postoji želja da ga se ušutka. Najavio je da će se privremeno povući i detaljnije odgovoriti kada se situacija smiri.

Slučaj Orélien u međuvremenu je otvorio mnogo neugodnije pitanje za cijelu izdavačku industriju: tko bi uopće trebao utvrđivati je li rukopis napisao čovjek ili umjetna inteligencija; autor, urednik, izdavač, književni žiri ili algoritam?

Poseban je problem što su upravo u ovom slučaju različiti AI detektori davali potpuno različite rezultate. Alat koji je postao ključan za početak afere jedan je dio teksta ocijenio gotovo sigurno generiranim umjetnom inteligencijom, dok su drugi sustavi isti materijal procjenjivali kao "vrlo vjerojatno tekst koji je napisao čovjek".

Zbog toga se polemika proširila i na odgovornost urednika i izdavača. Jedna strana smatra da se književni rukopis ne može ocjenjivati softverskim detektorima čija pouzdanost nije apsolutna te da bi urednička procjena, poznavanje autora, rada na rukopisu i razvoja teksta trebali biti važniji od postotka koji izbaci algoritam. Druga strana upozorava da izdavaštvo ne može ignorirati nove tehnologije upravo u trenutku kada generativni AI postaje dovoljno sofisticiran da može proizvoditi čitave rukopise.

Detektori griješe

Posljednjih godina sve je više studenata, zaposlenika i profesionalnih autora koji tvrde da su ih alati za prepoznavanje sadržaja generiranog umjetnom inteligencijom pogrešno označili, zbog čega su se morali braniti od optužbi za varanje ili lažno predstavljanje vlastitog rada.

Jedan od najpoznatijih slučajeva odnosi se na američkog studenta Oriona Newbyja, koji je na Adelphi Universityju optužen da je rad iz povijesti napisao uz pomoć umjetne inteligencije. Prema medijskim izvještajima, alat za otkrivanje AI-ja Turnitin njegov je rad označio kao potpuno generiran umjetnom inteligencijom. Newby je tvrdio da je tekst napisao sam, uz pomoć tutora koji mu je pomagao s gramatikom. Nakon što je sveučilište odbilo njegovu žalbu, obitelj je pokrenula sudski postupak. Početkom 2026. Newby je uspio osporiti odluku sveučilišta.

Problematično iskustvo za Guardian je opisao Robert Topinka, predavač na londonskom Birkbecku. Jedan od njegovih najboljih studenata našao se pod sumnjom nakon što je Turnitin esej označio kao stopostotno generiran umjetnom inteligencijom. Student je poricao korištenje ChatGPT-ja i tvrdio da je koristio samo dopušteni alat za pravopis i gramatiku. Topinka je žalbu prihvatio, između ostalog i zato što je dobro poznavao studentov stil pisanja i znao je da je i prije pojave generativne umjetne inteligencije pisao na vrlo sličan način.

Za razliku od Pangrama, koji je specijaliziran upravo za prepoznavanje tekstova generiranih umjetnom inteligencijom, Turnitin je mnogo šira platforma namijenjena provjeri studentskih radova. Turnitin postoji od 1998., a od 2019. je u vlasništvu američke kompanije Advance. Sama tvrtka upozorava da AI detektor nije nepogrešiv i da se njegov rezultat ne bi trebao koristiti kao jedini dokaz akademskog prekršaja.

Nepravedno okrivljeni

Problem je posebno izražen među studentima koji nastoje pisati vrlo formalno, detaljno i gramatički uredno. Los Angeles Times piše o Aldanu Creu, studentu diplomskog studija data sciencea, koji kaže da je optužen za korištenje AI-ja na matematičkom zadatku zato što su njegova objašnjenja bila "previše detaljna". Ocjena mu je bila prepolovljena, nakon čega se žalio profesoru. Kaže da od tada namjerno piše manje uglađeno i manje profesionalno kako njegov tekst ne bi izgledao "previše AI". Jedan od njih, Ivan Ornelas, opisao je da svaki rad piše u Google Docsu kako bi imao sačuvanu kompletnu povijest izmjena i na taj način mogao dokazati proces nastanka teksta ako ga netko optuži za korištenje AI-ja.

Slične pritužbe pojavile su se i u Kanadi. Studenti Fanshawe Collegea javno su tvrdili da su dobili nule ili su izgubili velik broj bodova nakon što ih je Turnitin označio kao korisnike umjetne inteligencije. U jednom slučaju student je naveo da je njegov rad označen kao stopostotno AI generiran, dok je drugi izgubio dio bodova. U oba slučaja studenti su tvrdili da nisu koristili umjetnu inteligenciju.

Za sada nema javno predstavljenog dokaza koji bi nedvojbeno utvrdio kako je Orélien napisao svoj roman. No, stigmu AI pisca, koja bi mogla pratiti cijelu njegovu karijeru, teško će ukloniti. Pritom možda nikada neće biti moguće sa sigurnošću utvrditi je li Orélien koristio umjetnu inteligenciju; budući da AI uči iz goleme količine sadržaja s interneta, stvara se začarani krug, ne informacija i narativa koji stalno pristižu, već stilova pisanja, sintaksi i metafora.