Tvrtka OpenAI objavila je u utorak da su dva njezina modela umjetne inteligencije, tijekom prošlotjednog testiranja kibernetičkih sposobnosti vlastitih sustava, samostalno izvela hakerski napad i prodrla u sustav digitalne knjižnice Hugging Face, iznimno popularne među programerima, prenosi The New York Times.
Laboratoriji za razvoj umjetne inteligencije, poput OpenAI-ja i Anthropica, tijekom protekle su godine izbacili modele prilagođene otkrivanju propusta u kibernetičkoj sigurnosti. Pritom su upozorili da bi ta tehnologija mogla stvoriti nove rizike jer sigurnosne rupe u korporativnim mrežama pronalazi brže nego što ih obrambeni sustavi mogu zakrpati. Najnovija saznanja OpenAI-ja ukazuju na to da su se takvi incidenti već počeli događati u praksi te da za njih nisu u potpunosti spremne ni najnaprednije tehnološke tvrtke.
Upad u sustav Hugging Face započeo je kada je OpenAI testirao kombinaciju dvaju svojih modela, GPT-5.6 Sola i snažnijega neobjavljenog modela, kako bi provjerio mogu li povezati više mrežnih ranjivosti u uspješan kibernetički napad. Testiranje je bilo predviđeno u izoliranom sigurnosnom okruženju, takozvanom pješčaniku (sandbox). Međutim, modeli su pronašli sigurnosni propust koji im je omogućio izlazak iz pješčanika i spajanje na internet. Nakon toga ciljali su Hugging Face jer su procijenili da bi ta knjižnica, s milijunima modela umjetne inteligencije, mogla sadržavati tragove potrebne za prolazak zadane evaluacije.
Anthropic tvrdi da njihova tehnologija vodi do kraja civilizacije. Kako? Pogledajte oglas za posao
Iz OpenAI-ja su poručili da u suradnji s platformom Hugging Face rade na otklanjanju uzroka napada. Navode da incident smatraju presedanom koji uključuje najnaprednije kibernetičke sposobnosti, zbog čega uvode strože kontrole u konfiguraciju infrastrukture na štetu brzine daljnjeg istraživanja.
Predstavnici platforme Hugging Face uočili su upad prošloga tjedna i utvrdili da ga je izveo autonomni sustav, no tada nisu objavili da iza njega stoji OpenAI. Glavni izvršni direktor platforme Clem Delangue izrazio je zadovoljstvo suradnjom s OpenAI-jem nakon napada, istaknuvši da taj incident potvrđuje kako sigurnost umjetne inteligencije ne može riješiti niti jedna tvrtka radeći u tajnosti.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....