Zašto Anthropicov Mythos izaziva zabrinutost diljem svijeta?

Kompanija Anthropic PBC priopćila je da je njezin novi AI alat Mythos previše moćan da bi bio pušten u širu upotrebu. AI div je naveo da je ovaj model toliko učinkovit u pronalaženju slabosti u softveru i računalnim sustavima da će biti dostupan samo ograničenom broju pažljivo odabranih korisnika. Ako alati poput Mythosa dospiju u pogrešne ruke, upozorava Anthropic, mogli bi hakerima pružiti novo moćno sredstvo za krađu podataka ili ometanje ključne infrastrukture.

O kakvom je riziku riječ pokazuje primjer male grupe neovlaštenih korisnika na privatnom internetskom forumu koja je uspjela pristupiti Mythosu, rekle su osobe upoznate s pitanjem, a na to ukazuju i dokumenti u koje je imao uvid Bloomberg News. Grupa je pristup dobila istog dana kada je Anthropic prvi put objavio da planira model staviti na raspolaganje malom broju kompanija kako bi ga testirale.

Proteklih nekoliko godina kompanije iz područja kibernetičke sigurnosti tvrde da će AI ubrzati i automatizirati dio posla u sprječavanju digitalnih proboja. Međutim, hakeri i kibernetički špijuni također su uočili prednosti AI-a. Pojava Mythosa i sličnih modela koji mogu iskoristiti dobro skrivene slabosti u popularnom softveru bez ljudskog nadzora ukazuje na bržu i manje predvidivu fazu "kibernetičke utrke u naoružanju".

Što je Mythos?

Claude Mythos Preview je model AI opće namjene za koji Anthropic PBC tvrdi da značajno nadmašuje prethodne verzije u mnogim vrstama testiranja, uključujući programiranje i logičko zaključivanje. Kompanija objašnjava da pojedini AI modeli sada mogu u kodiranju nadmašiti sve osim najvještijih ljudi u pronalaženju i korištenju slabih točaka u softveru.

Prema navodima Anthropica, Mythos Preview je tijekom testiranja već otkrio na tisuće do sada nepoznatih propusta poznatih kao "zero-day" slabosti, uključujući i one u svim vodećim operativnim sustavima i preglednicima. "Zero-day" slabosti predstavljaju propuste koji su ranije bili nepoznati programerima softvera, a njihov naziv ukazuje na to da programeri moraju hitno riješiti problem. Takvi propusti često su vrlo vrijedni hakerima jer im pružaju priliku da pristupe ranjivim sustavima.

Anthropic navodi da je Mythos bio u stanju identificirati te slabosti s još manje ljudske intervencije nego prethodni modeli. "Mythos Preview predstavlja veliki iskorak u ovim kibernetičkim vještinama - slabe točke koje je otkrio u nekim slučajevima postojale su desetljećima iako su bili podvrgavani ljudskoj provjeri i milijunima automatiziranih sigurnosnih testova", priopćila je kompanija. U rukama hakerskih grupa za ucjenu podacima (ransomware grupe) ili neprijateljski nastrojenih država, ovakav alat mogao bi dovesti do opasnijih i češćih kibernetičkih napada.

Istraživači navode da im nije omogućen pristup kako bi nezavisno provjerili tvrdnje Anthropica o performansama Mythosa. Gang Wang, izvanredni profesor računarstva na Sveučilištu u Illinoisu, rekao je da je teško procijeniti značaj Mythos Previewa bez dodatnih testiranja u praksi.

Tko će dobiti pristup?

Anthropic svoj plan za davanje pristupa ograničenom broju pažljivo odabranih partnera naziva Projekt Glasswing, po vrsti leptira s prozirnim krilima koji mu omogućavaju da se sakrije pred očima svih. Među sudionicima su Amazon.com, Apple, Alphabetov Google, Microsoft, Nvidia, Palo Alto Networks, CrowdStrike Holdings, Broadcom, Cisco Systems, JPMorganChase i Linux Foundation, neprofitna organizacija koja podržava projekte otvorenog koda. Anthropic je naveo da je projekt prioritetan pokušaj da se mogućnosti tog alata iskoriste u svrhu zaštite.

Navedene kompanije i organizacije koristit će Mythos u okviru svojih sigurnosnih aktivnosti, a Anthropic planira podijeliti nalaze projekta kako bi i drugi imali koristi od njih. Mnoge kompanije već koriste takozvane testove probojnosti, u okviru kojih angažiraju stručnjake koji tragaju za propustima u sustavima i otklanjaju ih prije nego što ih hakeri iskoriste. Mythos bi mogao ubrzati taj proces tako što bi pomogao da se brže otkrije veći broj slabih točaka i smanji mogućnost za potencijalne napade.

Bloomberg

Zašto Anthropic smatra da je ovo prijelomni trenutak?

Anthropic opisuje Mythos Preview kao "prijelomni trenutak za sigurnost". Takozvane "zero-day" propuste je teško pronaći, a oko njih se razvila mala i netransparentna industrija, često vrijedna milijune dolara, budući da postoji potreba da se otkriju, a te informacije se prodaju državnim obavještajnim agencijama. Prema Anthropicu, propusti koje je Mythos pronašao često su bile suptilne i teško uočljive i uključivale su, na primjer, propust koji postoji već 27 godina u OpenBSD-ju, operativnom sustavu koji ima reputaciju jednog od najsigurnijih na svijetu.

Navodno je Mythos bio u stanju i poznate propuste, koji nisu sasvim otklonjeni, pretvoriti u rupe u sustavu koje hakeri mogu koristiti za upad u mreže. Na primjer, pronašao je i povezao više slabosti u Linux kernelu, jezgri operativnog sustava koja pokreće većinu internetskih servera, čime je omogućio napadaču potpunu kontrolu nad računalom. Prema Anthropicu, čak su i neiskusni korisnici tražili od Mythos Previewa da pronađe način za daljinsko preuzimanje kontrole nad računalima tijekom noći i već su idući dan imali potpuno funkcionalan "exploit", (obično specifičan programski kod koji automatski izvršava napad, prim. prev.).

Mythos je jedan od nekoliko novih AI alata koji mogu pronaći "zero-day" propuste ili kreirati exploite. OpenAI-ev Codex Security i Googleov "Big Sleep agent" razvijeni su za otkrivanje propusta. OpenAI je također u zadnjoj fazi razvoja proizvoda s naprednim sposobnostima u domenu kibernetičke sigurnosti koji planira da ponudi odabranim partnerima, preneo je Axios. U međuvremenu, istraživači iz izraelskog startupa Buzz tvrde da su razvili autonomni alat koji kombinira pet AI agenata i ima stopu uspješnosti od 98 posto u iskorištavanju poznatih slabosti.

Koje zaštitne mjere postoje?

Kako navodi Anthropic, zaštitne mjere se još razvijaju. "Vidjeli smo da dostiže neviđene razine pouzdanosti i usklađenosti", navodi kompanija koja pod tim podrazumijeva da se model uglavnom ponaša u skladu s ljudskim namjerama. "Međutim, u rijetkim slučajevima kada zakaže ili se ponaša neobično, primjećene su radnje koje smatramo prilično zabrinjavajućim."

U jednom slučaju, istraživač je potaknuo ranu verziju Mythosa da pokuša pobjeći iz izoliranog sandboxa (testnog okruženja, prim. prev.) i da pronađe način da mu pošalje poruku. Alat je u tome uspio, ali je potom nastavio poduzimati "dodatne, zabrinjavajuće radnje" te je između ostalog izradio exploit u više koraka kako bi dobio pristup internetu.

Bloomberg

Anthropic navodi da ne planira Mythos Preview učiniti široko dostupnim zbog mogućnosti njegove zloupotrebe. Ipak, kompanija se nada da će u budućnosti omogućiti široku primjenu modela poput Mythosa za kibernetičku sigurnost i druge potrebe. "Kako bismo to postigli, moramo unaprijediti zaštitne mehanizme koji mogu prepoznati i blokirati najopasnije odgovore modela", priopćila je kompanija.

U otkrivanje najozbiljnijih bugova putem Mythosa uključeni su ljudi: stručnjaci potvrđuju ta otkrića prije nego što se informacije proslijede onima koji održavaju kod, navodi Anthropic. To je nužan, ali spor proces koji bi, kako kaže profesor na Sveučilištu u Illinoisu Gang Wang, mogao s vremenom biti automatiziran kako se model bude usavršavao.

Može li nam Mythos dati prednost nad hakerima?

Možda, ali vjerojatno ne odmah. Anthropicov proces prijave propusta onima koji održavaju softver ili računalne sustave zna biti dugotrajan. Iz tvrtke navode kako je do sada potpuno riješeno manje od jedan posto potencijalnih propusta koje je Mythos Preview otkrio.

Istovremeno, hakeri koriste AI kako bi što brže pronašli i iskoristili slabosti nakon što se one objave. Proizvođači softvera se potiču, a ponekad i obavezuju, da javno objave slabe točke sustava kada ih otkriju i, po mogućnosti, ponude rješenje. Zbog toga stručnjaci za sigurnost imaju sve manje vremena da zaštite svoje sustave. U objavi na blogu od 30. ožujka, izvršni direktor kompanije Palo Alto Networks Nikesh Arora upozorio je da će sposobnosti i resursi za sprječavanje sofisticiranih napada nastaviti opadati u idućih šest mjeseci. "Jedan zlonamjerni akter sada će moći provoditi kampanje za koje su nekada bili potrebni čitavi timovi."

 

Yair Saban, izvršni direktor kompanije Buzz i veteran izraelske kibernetičke jedinice Unit 8200, rekao je da je šest inženjera provelo tri tjedna razvijajući njihov AI alat za hakiranje. Prema njegovim riječima, drugi stručnjaci, uključujući državne cyber špijune i hakere, sigurno mogu učiniti isto.

Anthropic, međutim, smatra da će Mythos Preview i slični AI alati, dugoročno gledano, ići u korist onih koji štite sustave. "Dugoročno gledano, očekujemo da će obrambene sposobnosti prevladati: da će svijet postati sigurniji sa softverom koji je bolje zaštićen u velikoj mjeri zahvaljujući kodu koji su napisali upravo ovi modeli", naveo je Anthropicov elitni tim za simulacije napada Frontier Red Team u objavi od 7. travnja. "No prijelazni period bit će pun izazova i rizika."