OpenAI-jevi odbjegli agenti zapravo su užasni provalnici

Unatoč svom strahu koji je izazvala vijest da su modeli umjetne inteligencije nedavno pobjegli iz svojih sustava i odlučili hakirati konkurenta, vrijedi znati da su odradili prilično loš posao u prikrivanju svojih tragova. Štoviše, bili su izuzetno bučni.

Sredinom srpnja, stranica za umjetnu inteligenciju Hugging Face primijetila je nagli porast aktivnosti na svojim sustavima: više od 17.000 odvojenih napadačkih akcija i upita koje su generirali OpenAI-jevi odbjegli agenti. Dobar provalnik ide oko kuće i traži otključan prozor. Ovo je više nalikovalo na provaljivanje prednjih vrata usred bijela dana.

Kratkoročna utjeha dobro će doći onima koje su uznemirile sposobnosti kibernetičkih napada najnaprednijih AI sustava na svijetu, čije su navodne moći dale tehnološkim tvrtkama sjaj opasnog glamura. Baš kao što je Anthropicov Mythos pronašao tisuće ranije nepoznatih ranjivosti u softveru drugih tvrtki ili kao što su OpenAI-jevi autonomni agenti podivljali na internetu, AI sustavi sami po sebi nisu osobito skroviti niti su pretjerano korisni kada njima upravlja kibernetički kriminalac.

Na primjer, kada djeluju sami, kao što su to učinili OpenAI-jevi modeli, nedostaje im bilo kakva stvarna prikrivenost. Istraživači u tvrtki za kibernetičku sigurnost Sophos Ltd. pokušali su pustiti agenta iz AI alata OpenClaw unutar izolirane interne mreže i otkrili da je, iako je izveo impresivne stvari, to učinio pred očima svih. "Svi dokazi koje smo vidjeli iz nekih internih testiranja pokazuju da je AI vrlo bučan kao protivnik", kaže Rafe Pilling, direktor odjela za analizu prijetnji u Sophosovoj jedinici Counter Threat Unit. "Prikriven svakako nije."

Sve što se događa na računalnoj mreži – prijava korisnika, otvaranje datoteka ili pokretanje programa – vidljivo je u njezinu prometu, a moderni sigurnosni softver prati taj promet u potrazi za neuobičajenim znakovima koji upućuju na mogući napad. Ljudski haker kretat će se polako i stopiti s okolinom, čineći svoj promet što je više moguće uobičajenim. AI sustavi, s druge strane, imaju strpljenje i skrovitost malog djeteta. Stvari rade iznimno brzo i generiraju ogromnu količinu aktivnosti, zbog čega su OpenAI-jevi agenti već nakon nekoliko dana aktivirali alarme u Hugging Faceu.

Ovaj nedostatak skrovitosti nije opće poznat jer se obično ne mjeri. Britanski Institut za sigurnost umjetne inteligencije (AI Security Institute), koji je pomogao potvrditi sposobnosti Mythosa, testira koliko dobro AI modeli mogu hakirati, ali ne i koliko su prikriveni, kaže Pilling. Ukazuje na primjer hakera koji je pokušao upotrijebiti AI za generiranje zlonamjernog softvera kako bi zaobišao Sophosov obrambeni softver. Operacija je bila dovoljno bučna da je Sophosov alat označio zlonamjerne datoteke i zaustavio hakerski napad.

Kibernetički kriminalci općenito smatraju da je rad s AI-jem težak. Postali su skeptični oko njegova uključivanja u svoj rad, pa se na internetskim forumima žale na halucinacije, prijetnju vlastitom poslu – posebice pisanju zlonamjernih softvera i skripti po narudžbi – te na sklonost AI-ja da povlađuje i govori korisnicima ono što žele čuti.

Jedan kriminalni haker nedavno je pokušao upotrijebiti AI alat za kodiranje kako bi izradio zlonamjerni softver, prema navodima Sophosa. Kada je naredio autonomnim agentima da provjere može li novi zlonamjerni softver raditi na korporativnoj mreži bez da bude primijećen, agenti su mu izvijestili da može. No to nije bila istina. Sigurnosni softver otkrio je uljeza, a činilo se da su agenti jednostavno izmislili odgovor koji je njihov šef želio čuti.

I sretno svima koji žele upotrijebiti najnaprednije frontier modele tvrtki Anthropic ili OpenAI u pakosne svrhe. Ograničenja na najnovijim alatima tih tvrtki toliko su stroga, s ciljem sprječavanja njihove zlouporabe, da ih Hugging Face nije mogao upotrijebiti čak ni za obranu od upada OpenAI-jevih agenata. Umjesto toga, morali su se pribjeći kineskom open-weight modelu – tako nazvanom jer je besplatan i svatko s njim može raditi što želi – tvrtke Z.ai.

No loši akteri ne mogu tako lako koristiti ni te open-weight modele. I dalje bi morali kupiti skupu računalnu snagu za njihovo pokretanje, sa specijaliziranim čipovima, te imati odgovarajući softver i talentirane inženjere koji bi sve to održavali. To stavljaja šefove kibernetičkog kriminala pred istu dilemu s kojom se suočavaju financijski direktori svuda u svijetu: Je li korištenje AI-ja imalo jeftinije ili profitabilnije od onoga što već radimo s ljudima?

Za mnoge bande odgovor je ne. Većini kibernetičkih kriminalaca nedostaje vještina, vremena i novca da bi AI učinili uistinu korisnim, prema pregledu više od 100 milijuna poruka s mračnih web kanala (dark web) koji su u ožujku 2026. proveli istraživači sa sveučilišta Cambridge, Edinburgh i Strathclyde. Najveća poboljšanja zabilježena su u upravljanju botovima na društvenim mrežama radi prijevara i uznemiravanja.

"U praksi vidimo vrlo malo stvarnog poremećaja u osnovnom ekosustavu niskorazinskog kibernetičkog kriminala uzrokovanog ovim tehnologijama", pišu istraživači u svojoj studiji. "Unatoč znatnom interesu za generativnu umjetnu inteligenciju u kibernetičkom podzemlju, ona nije značajno smanjila vještinsku prepreku za ulazak, niti je dovela do ozbiljnih poremećaja u etabliranim poslovnim modelima ili praksama."

Naravno, brzi napredak AI-ja znači da je vjerojatno samo pitanje vremena kada će modeli postati prikriveniji i bolji u prilagodbi potrebama mrežnih Moriartyja. Pilling smatra da ćemo u sljedećih 18 mjeseci vidjeti više kriminalne upotrebe AI-ja. No u ovom trenutku strahove više pokreće pretjerani medijski hype nego stvarne činjenice.