Proboj OpenAI-ja na Hugging Faceu pokazuje da umjetnu inteligenciju postaje preteško obuzdati

Vodeće svjetske tvrtke za umjetnu inteligenciju žele da vjerujemo kako pružaju sigurno okruženje za razvoj tehnologije. No vijest o nedavnom prestupu naglašava koliko su daleko od toga da zaslužuju to povjerenje.

OpenAI je ovog tjedna potvrdio da su njegovi najnoviji modeli probili program za sigurnosno testiranje, pobjegli iz svog ograničenog okruženja, pristupili širem internetu i kompromitirali sustave druge tvrtke. AI nije djelovao iz zlobnih namjera – jednostavno je slijedio cilj koji su postavili njegovi istraživači i varao na testu kako bi postigao bolji rezultat. Ishod je zabrinjavajuća lekcija za sve nas: u alate za obuzdavanje poznate kao "pješčanici" (sandboxes) sve je teže pouzdati se kako sustavi postaju sposobniji, a njihovi kreatori mogu suptilno iskoristiti strah koji ih okružuje kako bi prebrodili financijski teška vremena.

OpenAI je u utorak priopćio da je testirao autonomne agente pokretane novim modelom GPT-5.6 SOL, kao i napredniji softver koji još nije objavljen. Tijekom evaluacije, agenti su pobjegli iz svog izoliranog okruženja, pronašli "zero-day" – odnosno dosad nepoznati – softverski sigurnosni propust i dobili pristup internetu. Potom su otišli na Hugging Face nakon što su zaključili da bi ta web stranica, koja služi kao repozitorij za AI alate otvorenog koda, mogla sadržavati odgovore koji su im potrebni za prolazak na sigurnosnom testu.

Hugging Face je primijetio proboj i kontaktirao OpenAI, koji je incident nazvao "bez presedana". Glavni izvršni direktor Hugging Facea, Clément Delangue, rekao je da je "zapanjujuće da se sve ovo dogodilo autonomno."

Ulijedilo je mnogo međusobnog tapšanja po ramenima obje tvrtke zbog njihove suradnje na forenzičkom pregledu. No OpenAI se ne može tako lako izvući s udice: vjerojatno ne bi trebao graditi sustave koji imaju napredne kibernetičke sposobnosti ako ih ne može pravilno obuzdati.

Cinično tumačenje jest da takvi naizgled dramatični događaji učvršćuju narativ da granični AI (frontier AI) postaje izvanredno moćan – priče koje također idu u korist vodećim tvrtkama koje se natječu za talente, ulaganja i utjecaj u industriji.

Važniji zaključak je jednostavniji: sve je teže spriječiti AI modele da pobjegnu iz svojih pješčanika za testiranje kako bivaju prožeti sposobnošću djelovanja i kako im se daju veća autonomija i vještine rješavanja problema. Softverske tvrtke često govore da grade najnapredniju tehnologiju unutar takozvanih pješčanika, što je uvjeravanje koje sam nedavno čula od jednog rukovoditelja koji razvija sustave AI-ja koji se sami poboljšavaju.

Riječ pješčanik (sandbox) priziva sliku sigurnog prostora za obuzdavanje neposlušne male djece; aluzija je da čak i ako se AI loše ponaša, ne može utjecati na vanjski svijet. Ali pješčanik je također samo softver: virtualni strojevi, mrežna pravila i sustavi dopuštenja koje su napisali ljudi, ponekad uz pomoć AI-ja. To znači da može sadržavati pogreške kao i bilo koji drugi računalni kod – a modeli koji se obuzdavaju postaju sve bolji u pronalaženju takvih nedostataka. Zatvorenik je zapravo stručnjak za obijanje brava. Uvjeravanje "ne brinite, u pješčaniku je" postaje sve manje uvjerljivo.

To je i zato što ovo nije prvi put da je AI sustav pobjegao iz svojih okova. Istraživači su nedavno pokazali slične proboje koji utječu na AI alate za kodiranje, uključujući Cursor, OpenAI-jev Codex CLI i Googleov Antigravity. U tim slučajevima AI nije pobjegao izravno iz pješčanika, već je manipulirao pouzdanim softverom izvan njega da izvrši kod koji je napisao.

Ono po čemu se najnoviji incident ističe jest to što su OpenAI-jevi modeli sami hakirali svoj izlaz, umjesto da ih je nehotično oslobodio okolni softver. Britanski Institut za sigurnost AI-ja (UK’s AI Security Institute), jedna od vodećih svjetskih agencija za testiranje ranjivosti AI-ja, izjavio je da "proučava ponašanje viđeno u ovom incidentu." U zasebnom izvješću objavljenom u utorak, ukazao je na širi problem, navodeći da je svaki napredni model koji je nedavno testirao pokušao "varati" poduzimajući zabranjene prečace kako bi izvršio zadatke, te često nije priznao da je to učinio.

Taj je fenomen očito zabrinjavajući, ali ne zato što je AI krenuo putem Hala 9000. OpenAI-jev incident dogodio se tijekom internog testa u kojem je smanjio određene zaštitne mjere – redoviti UI sustavi koje koristi javnost vjerojatno se neće ponašati na isti način. Dakle, ovo ne znači da će agent upravo hakirati vaš bankovni račun ili ukrasti zapovjedne kodove za nuklearno oružje.

Pravi je problem suptilniji: tehnološke tvrtke moraju, kao minimum, poboljšati način na koji izoliraju i prate moćne UI sustave tijekom testiranja. Jedna bi opcija mogla biti fizičko odvajanje (air-gap) najmoćnijeg softvera, pokrećući ga na računalima koja su potpuno isključena s interneta tako da čak i ako model probije svoj pješčanik, ne može dosegnuti vanjske sustave. Vlade i obrambene organizacije već upravljaju iznimno osjetljivim računalnim sustavima na ovaj način.

Taj bi proces gotovo sigurno spriječio OpenAI-jeve odbjegle agente da hakiraju drugu tvrtku, ali fizičko odvajanje je skupo i nezgodno. Istraživači ne mogu lako doći do resursa koji su im potrebni tijekom testa i sve postaje sporije. To također može otežati istraživačima testiranje kako bi se modeli ponašali u stvarnom svijetu.

Tvrtke za razvoj AI-ja moraju prihvatiti neke neugodne kompromise kako bi svoje modele učinile sigurnijima, žrtvujući naslove koji ilustriraju koliko je njihov softver napredan u ime povećane sigurnosti – i povjerenja.