OpenAI-jevi modeli u samo nekoliko sati izveli hakerski napad za koji bi inače trebali tjedni

Kada su napredni modeli umjetne inteligencije tvrtke OpenAI prošlog tjedna provalili u interne sustave AI startupa Hugging Face, bilo im je potrebno svega nekoliko sati za izvođenje hakerskog napada za koji bi vještom čovjeku trebalo znatno više vremena, rekli su izvori upoznati sa situacijom.

Uobičajeno bi čak i talentiranom hakeru trebala dva tjedna da izvede ovakav napad, rekli su izvori koji su tražili da ostanu anonimni kako bi razgovarali o detaljima koji nisu javno objavljeni.

OpenAI je u kontaktu s američkom vladom otkad je saznao da se upad dogodio, dodao je jedan od izvora.

Glasnogovornik OpenAI-ja izjavio je da je tvrtka komunicirala s tijelima za provedbu zakona i drugim vladinim službama o incidentu te da je bila transparentna u vezi sa svojim saznanjima.

Glasnogovornik se također pozvao na objavu tvrtke na blogu od utorka o tom incidentu, u kojoj je tvrtka navela da će "nastaviti provoditi temeljitu istragu zajedno s Hugging Faceom te podijeliti više detalja o ranjivostima, incidentu i nalazima kada istraga bude dovršena".

Iz Hugging Facea odbili su dati komentar.

OpenAI je u istoj objavi na blogu naveo da se "nezabilježeni" hakerski napad na Hugging Face dogodio nakon što su njegovi vlastiti AI modeli – uključujući GPT-5.6 Sol i još jedan sposobniji model koji još nije javno objavljen – pobjegli iz testnog okruženja i pristupili širem internetu. Tvrtka je u to vrijeme testirala kibernetičke sposobnosti tih modela.

Modeli su radili bez uobičajenih sigurnosnih zaštitnih ograda, priopćila je tvrtka, jer je OpenAI namjeravao da ostanu u testnom području poznatom kao "pješčanik" (sandbox) – zapravo virtualnom i izoliranom softverskom okruženju namijenjenom izvođenju sigurnosnih testova ili analizi nesigurnog koda u kontroliranim uvjetima.

Hakerski napad uključivao je ukupno tri OpenAI-jeva modela – GPT-5.6 Sol i dva koja još nisu javno objavljena – koji su radili na otkrivanju i iskorištavanju niza ranjivosti što je na kraju dovelo do provale, rekao je jedan od izvora. Jedan od tih neobjavljenih modela sposobniji je od GPT-5.6 Sola, objavio je OpenAI u utorak, dok je drugi bio neusklađen (misaligned) i nije bio treniran nekim od uobičajenih tehnika, naveo je izvor.

Hugging Face je razotkrio incident u četvrtak, navevši da je pretrpio upad u hakerskom napadu za koji je okrivio vanjski autonomni (agentic) proizvod. Ovaj startup, koji ugošćuje AI modele i skupove podataka, priopćio je da je detektirao "roj od nekoliko desetaka tisuća automatiziranih radnji" te da je na kraju upotrijebio kineski model za forenzičku analizu incidenta, nakon što su njegovi zahtjevi za korištenjem vlasničkih AI modela bili blokirani sigurnosnim zaštitnim ogradama.

OpenAI je kasnije otkrio da je svojim modelima dao upute da pošalju desetke tisuća automatiziranih radnji u sklopu testa, uključujući "napredno iskorištavanje" (advanced exploitation) i "složene putanje napada". Tvrtka je u utorak objavila da dijeli rane detalje o incidentu kako bi pomogla osoblju za kibernetičku sigurnost da razumije situaciju.

Moćni AI kibernetički proizvodi i ranije su se ponašali na neočekivane načine. Tvrtka Anthropic PBC priopćila je u travnju da je njezin model Mythos "u rijetkim prilikama" poduzimao radnje koje je tvrtka smatrala "prilično zabrinjavajućima". Jedan slučaj uključivao je istraživača koji je izazvao ranu verziju Mythosa da pobjegne iz izoliranog sustava i pošalje poruku natrag istraživaču. Mythos je to učinio, a zatim poduzeo "dodatne, zabrinjavajuće radnje" i izgradio višestupanjski proces kako bi dosegao širi internet.