Anthropic naziva Mythos opasnim. Zašto onda širi pristup?

Tvrtka Anthropic PBC izjavila je da je njezin novi alat umjetne inteligencije, Mythos, toliko dobar u pronalaženju ranjivosti u softveru i računalnim sustavima da se ne može pustiti u opću javnost. Ovaj div u području umjetne inteligencije isprva je objavio Mythos maloj skupini pažljivo odabranih strana jer bi, kako tvrde iz Anthropica, pad ovakvog moćnog alata u pogrešne ruke mogao napadačima olakšati krađu podataka ili ometanje kritične infrastrukture.

Taj je rizik dodatno naglašen kada je mala skupina neovlaštenih korisnika na privatnom internetskom forumu dobila pristup Mythosu u travnju, prema riječima osobe upoznate s ovim pitanjem i dokumentaciji u koju je Bloomberg News imao uvid.

Unatoč tome, Anthropic dopušta pristup Mythosu za još 150 organizacija diljem svijeta, čime se ukupan broj skupina s pristupom popeo na oko 200. Nove organizacije imaju sjedišta u 15 zemalja i obuhvaćaju industrije poput energetike, zdravstva i komunikacija, priopćila je tvrtka.

Posljednjih nekoliko godina tvrtke za kibernetičku sigurnost obećavaju da će umjetna inteligencija ubrzati i automatizirati dio posla na sprječavanju digitalnih upada. No prednosti umjetne inteligencije otkrili su i hakeri te kibernetički špijuni. Pojava Mythosa i sličnih modela koji mogu iskorištavati dobro skrivene nedostatke u popularnom softveru bez ljudskog nadzora ukazuje na bržu i manje predvidljivu fazu u utrci u kibernetičkom naoružanju.

Što je Mythos?

Claude Mythos Preview je model umjetne inteligencije opće namjene za koji Anthropic tvrdi da značajno nadmašuje prethodne proizvode u nizu testova, uključujući kodiranje i logičko zaključivanje. Tvrtka je objasnila da su pojedini modeli umjetne inteligencije dosegnuli razinu sposobnosti kodiranja koja im omogućuje da u pronalaženju i iskorištavanju softverskih ranjivosti nadmaše sve ljude, osim onih najvještijih.

Prema navodima Anthropica, Mythos Preview je tijekom testiranja već pronašao tisuće "zero-day" ranjivosti, uključujući i one u svakom većem operativnom sustavu i svakom većem internetskom pregledniku. "Zero days" su nedostaci koji su prethodno bili nepoznati programerima tog softvera – a sam naziv implicira da imaju nula dana za izradu sigurnosne zakrpe kako bi riješili problem. Oni često predstavljaju zlatni rudnik za hakere jer pružaju prozor za neometano djelovanje unutar ranjivih sustava.

Mythos je bio u stanju identificirati te nedostatke uz još manje ljudske intervencije nego prošli modeli, priopćio je Anthropic. "Mythos Preview demonstrira skok u ovim kibernetičkim vještinama – ranjivosti koje je uočio u nekim su slučajevima preživjele desetljeća ljudskih provjera i milijune automatiziranih sigurnosnih testova", naveli su iz tvrtke. U rukama bandi koje se bave ucjenjivačkim softverom (ransomware) ili neprijateljskih vlada, takav bi alat mogao dovesti do razornijih i češćih kibernetičkih napada.

Znanstvenici kažu da im nije omogućen pristup kako bi neovisno provjerili tvrdnje Anthropica o performansama Mythosa. Gang Wang, izvanredni profesor računalnih znanosti na Sveučilištu Illinois, izjavio je da je teško procijeniti značaj modela Mythos Preview bez više izravnog testiranja.

Tko dobiva pristup Mythosu?

U travnju je Anthropic odobrio pristup ograničenoj skupini provjerenih partnera, što je inicijativa koju nazivaju Project Glasswing, po vrsti leptira s prozirnim krilima koja mu omogućuju da se sakrije pred svima. Među glavnim sudionicima su Amazon.com Inc., Apple Inc., Alphabetov Google, Microsoft Corp., Nvidia Corp., Palo Alto Networks Inc., CrowdStrike Holdings Inc., Broadcom Inc., Cisco Systems Inc., JPMorganChase i Linux Foundation, neprofitna organizacija koja podržava softverske projekte otvorenog koda. Ubrzo nakon toga pristup je proširen na još oko 40 organizacija. Anthropic je projekt opisao kao "hitan pokušaj da se ove sposobnosti stave u funkciju obrambenih ciljeva".

Početkom lipnja tvrtka proširuje Project Glasswing na dodatnih 150 organizacija. Iako je Anthropic odbio imenovati dodatne sudionike, rečeno je da skupina uključuje tvrtke i neprofitne organizacije koje proizvode ključni programski kod za širu upotrebu. Osobe upoznate s temom izjavile su da će pristup softveru dobiti i tijelo Europske unije za kibernetičku sigurnost.

Bloomberg Mercury

Ove će organizacije koristiti Mythos kao dio svog obrambenog sigurnosnog rada. Mnoge tvrtke već koriste takozvane vježbe penetracije (proboja), u kojima unajmljuju stručnjake da ispitaju njihove sustave u potrazi za pogreškama kako bi ih popravile prije nego što hakeri uđu. Mythos bi tvrtkama mogao omogućiti da višestruko ubrzaju taj proces, pronalazeći više grešaka brže i sužavajući prostor za potencijalne napade.

Zašto Anthropic smatra izdavanje Mythosa "povijesnom prekretnicom"?

Anthropic je opisao Mythos Preview kao "povijesnu prekretnicu za sigurnost". Po svojoj prirodi, "zero-day" ranjivosti teško je pronaći, a oko njihovog otkrivanja i prodaje vladinim obavještajnim agencijama izgrađena je mala i mutna industrija, pri čemu cijene ponekad dosežu milijune dolara. Prema Anthropicu, ranjivosti koje je Mythos Preview pronašao često su bile "suptilne i teške za otkrivanje", a uključivale su i 27 godina staru pogrešku u OpenBSD-u, operativnom sustavu za koji Anthropic kaže da ima reputaciju jednog od najsigurnijih i najotpornijih na svijetu.

Otkako je Mythos lansiran, softver je iskorišten za pronalaženje više od 10.000 ozbiljnih ranjivosti, objavio je Anthropic 22. svibnja.

Mythos je također navodno bio u stanju pretvoriti ranjivosti koje su poznate, ali za njih nisu naširoko primijenjene zakrpe, u "exploite" (programe za iskorištavanje ranjivosti) koje bi hakeri mogli upotrijebiti za infiltraciju u računalne mreže. Primjerice, pronašao je i povezao nekoliko pogrešaka u Linux kernelu – jezgri operativnog sustava i softvera koji pokreće većinu svjetskih internetskih poslužitelja – kako bi napadaču omogućio potpunu kontrolu nad računalom. Osobe koje nisu stručnjaci također su tražile od Mythos Previewa da pronađe načine za daljinsko preuzimanje kontrole nad računalima tijekom noći, a sljedećeg jutra dočekao ih je potpun, funkcionalan "exploit", priopćio je Anthropic.

Mythos je jedan od nekoliko novih AI alata koji mogu pronaći "zero-day" ranjivosti ili izraditi "exploite". OpenAI-jev Codex Security i Googleov "Big Sleep agent" razvijeni su upravo za pronalaženje ranjivosti. OpenAI također dovršava proizvod s naprednim kibernetičkim obrambenim sposobnostima koji namjerava izdati odabranim partnerima, izvijestio je Axios. U međuvremenu, istraživači u izraelskom kibernetičkom startupu Buzz kažu da su izradili autonomni alat koji kombinira pet AI agenata i ima stopu uspješnosti od 98 posto u iskorištavanju poznatih nedostataka.

Koje su zaštitne mjere na snazi?

Zaštitne mjere su još uvijek u fazi razvoja, navode iz Anthropica. "Vidjeli smo da postiže neviđene razine pouzdanosti i usklađenosti", napisao je Anthropic, što znači da se ponaša u skladu s onim što ljudi žele. "Međutim, u rijetkim prilikama kada podbaci ili postupi čudno, vidjeli smo ga kako poduzima radnje koje smatramo prilično zabrinjavajućima."

U jednom slučaju, istraživač je potaknuo ranu verziju Mythosa da pokuša pobjeći iz osiguranog, izoliranog računalnog okruženja ("sandboxa"), a zatim pronađe način da toj osobi pošalje poruku. Alat je uspio, ali je potom nastavio poduzimati "dodatne, zabrinjavajuće radnje", razvijajući višestupanjski "exploit" kako bi dobio pristup internetu.

Iz Anthropica su poručili da ne planiraju učiniti Mythos Preview općenito dostupnim, s obzirom na njegov potencijal za zloupotrebu. Ipak, tvrtka se u konačnici nada da će omogućiti korisnicima implementaciju "modela klase Mythos" u velikom opsegu. "Da bismo to učinili, moramo napredovati u razvoju kibernetičkih (i drugih) zaštitnih mjera koje otkrivaju i blokiraju najopasnije izlazne rezultate modela", rečeno je.

Kod pogrešaka najvećeg stupnja ozbiljnosti koje pronađe Mythos, uključeni su ljudi: stručnjaci provjeravaju ta otkrića prije slanja informacija ljudima koji održavaju kod, navodi Anthropic. To je nužan, ali dugotrajan proces koji bi se s vremenom mogao eliminirati kako se model bude poboljšavao, rekao je Wang sa Sveučilišta Illinois.

Daje li Mythos braniteljima kibernetičke sigurnosti prednost pred hakerima?

Možda, ali moglo bi potrajati. Anthropicov proces otkrivanja nedostataka osobama koje održavaju softver ili računalne sustave može biti dugotrajan. Do sada je zakrpano oko 14 posto "pogrešaka visoke ili kritične ozbiljnosti" koje je Mythos Preview otkrio, objavila je tvrtka 22. svibnja.

Istodobno, hakeri koriste umjetnu inteligenciju kako bi dramatično ubrzali pronalaženje i iskorištavanje ranjivosti nakon što se one objave. (Proizvođači se potiču, a u nekim slučajevima i obvezuju, da javno objave ranjivosti nakon što se otkriju, te u idealnom slučaju ponude rješenje.) To stručnjacima za sigurnost ostavlja sve manje vremena za krpanje svojih mreža. U blogu od 30. ožujka, glavni izvršni direktor tvrtke Palo Alto Networks, Nikesh Arora, upozorio je da će se barijera za sofisticirane napade nastaviti smanjivati u sljedećih šest mjeseci. "Jedan zlonamjerni akter sada će moći voditi kampanje za koje su prije bili potrebni čitavi timovi", napisao je.

Yair Saban, izvršni direktor startupa Buzz i veteran izraelske kibernetičke postrojbe Unit 8200, rekao je da je šestorici inženjera trebalo tri tjedna da naprave svoj alat za hakiranje pokretan umjetnom inteligencijom. Drugi, uključujući državne kibernetičke špijune i kriminalne hakere, sigurno mogu učiniti isto, rekao je.

Anthropic ustraje u tvrdnji da će Mythos Preview i drugi slični AI alati u konačnici ići u prilog braniteljima sustava. "Dugoročno gledano, očekujemo da će obrambene sposobnosti dominirati: da će svijet postati sigurniji, sa softverom koji je bolje utvrđen – velikim dijelom zahvaljujući kodu koji su napisali upravo ovi modeli", objavio je tvrtkin Frontier Red Team u blogu 7. travnja. "Ali prijelazno razdoblje bit će prepuno opasnosti."

 

- Uz pomoć Hadriane Lowenkron