Mythos ne predstavlja prijetnju samo bankama

Mythos, novi model umjetne inteligencije za koji je Anthropic PBC najavljivao da je preopasan za objavljivanje, isprva se činio kao problem isključivo za banke. Nekoliko dana nakon što je tvrtka najavila novu tehnologiju, američki ministar financija Scott Bessent pozvao je čelnike Wall Streeta kako bi se uvjerio da poduzimaju mjere opreza za obranu svojih sustava. Time je Anthropicu napravio neprocjenjivu reklamu, ali i potaknuo pitanja o tome tko uopće dobiva ekskluzivan pristup njihovom opasnom proizvodu.

Američko Ministarstvo financija sada traži pristup Mythosu. Jedna organizacija koja ga već ima je britanski Institut za sigurnost umjetne inteligencije koji je postao vodeći svjetski neutralni arbitar za procjenu sigurnosti AI sustava.

Institut je utvrdio da je dio pompe oko Mythosa opravdan. On je doista sposobniji za izvođenje složenih kibernetičkih napada od drugih AI alata poput ChatGPT-ja ili Geminija. Međutim, najopasniji je za pojednostavljene sustave ili sustave sa "slabom obranom". Velike banke imaju neke od najsigurnijih IT sustava na svijetu, makar Mythos i drugi moćni AI alati u pogrešnim rukama svakako predstavljaju prijetnju. U opasnosti je prije svega čitav niz malih i srednjih tvrtki koje su najranjivije na hakere i zlonamjerne aktere.

Kibernetički stručnjaci već se dugo žale da je tvrtkama sigurnost često u drugom planu. Rezultat toga su online usluge i softver koji su prepuni programskih pogrešaka, što hakerima omogućuje infiltraciju u računalne sustave.

Tehnološke tvrtke se protiv tog problema bore tzv. "odgovornim otkrivanjem pogrešaka" (engl. responsible disclosure). Nakon što se u softveru pronađe greška, ona se javno objavljuje uz predloženo rješenje, što omogućuje korisnicima da poprave kod i nastave koristiti program. Microsoft jednom mjesečno objavljuje programske pogreške koje je tvrtka pronašla u Officeu 365, Windowsu i drugim proizvodima (svakog drugog utorka u mjesecu – na "Patch Tuesday").

IT osoblje u bankama kao što su Barclays Plc i Wells Fargo & Co. zatim na temelju prijedloga popravlja kod, testira promjene kako bi osigurali da neće narušiti postojeće sustave, čeka odobrenje uprave, a potom ih implementira. To obično traje tjednima ili mjesecima.

Do pojave generativne umjetne inteligencije taj je proces funkcionirao sasvim dobro jer bi zlonamjernim akterima obično trebalo više vremena da osmisle napad na sustav na temelju objavljene pogreške. Morali bi proučavati grešku i eksperimentirati s različitim metodama njezinog iskorištavanja.

 

Alati umjetne inteligencije potpuno su promijenili priču. Još otprije dvije godine hakeri mogu kopirati pojedinosti o greški iz objava i zalijepiti ih u ChatGPT, a zatim mu narediti da pretraži javne baze izvornog koda (poput GitHuba) za slične obrasce koje bi potom mogli iskoristiti. Recimo, na primjer, da Microsoft objavi kako su njegovi istraživači pronašli grešku u načinu na koji Office 365 obrađuje datoteke. Chatbot ne samo da bi mogao predložiti kako iskoristiti taj propust, već i brzo pronaći drugi softver poput Microsoft Outlooka ili Teamsa koji ima slične nedostatke.

Sve je to postalo još lakše za hakere u posljednjih nekoliko mjeseci jer su AI tvrtke svojim modelima podarile "agentske" sposobnosti. To znači da modeli sada mogu djelovati samostalno. Claude Cowork, alat koji je Anthropic objavio u siječnju, može obavljati zadatke poput slanja e-pošte i zakazivanja sastanaka u kalendaru. Za one koji žele provaliti u softver, takvi alati neće samo pronaći slabosti, već će automatski iskušavati različite metode eksploatacije sve dok jedna od njih ne uspije.

Mythos čak može iskoristiti više softverskih grešaka za višeslojne napade, što su prije znali samo najvještiji hakeri. To je slično kao kada lopov planira provalu od nekoliko koraka: prvo mora pronaći otvoreni prozor, ući kroz njega i iznutra otključati vrata, a zatim isključiti alarm. Svaki pojedini korak sam po sebi nije dovoljan, ali zajedno oni omogućuju potpuni pristup.

Upotreba AI-a za phishing i ransomware

Do sada utjecaj generativne umjetne inteligencije na kibernetičku sigurnost nije bio u potpunosti definiran. Nije postojao jedinstveni alat koji bi mogao pokrenuti razorne nove napade, ali su se veliki jezični modeli ipak koristili za nadograđivanje starih trikova zanata. Hakeri su koristili chatbotove kako bi dotjerali poruke za phishing da izgledaju vjerodostojnije ili su stvarali avatare u lažnim videopozivima kako bi zavarali ljude da, recimo, pomisle da je muškarac u svom dnevnom boravku zapravo mlada žena.

No, agentska umjetna inteligencija mogla bi pružiti dodatni poticaj hakerskoj djelatnosti. Takozvani black hat hakeri obično ne napadaju banke jer su one iznimno sigurne. Umjesto toga, oni skeniraju internet i traže potencijalne mete, bilo da je riječ o bolnici u koju se mogu infiltrirati kako bi tražili otkupninu (putem ransomwarea) ili maloj obiteljskoj trgovini. Nedavni napredak u umjetnoj inteligenciji predstavlja problem za takve organizacije jer sada u trenutku u kojem pružatelj softvera otkrije grešku ostaje mu premalo vremena za ažuriranje sustava i ispravljanje grešaka.

Prema podacima na stranici zerodayclock.com, prosječno vrijeme između objavljivanja softverske greške i izrade funkcionalnog napada smanjilo se sa 771 dana u 2018. godini na manje od četiri sata.

Anthropicova upozorenja o Mythosu svakako pogoduju njihovim naporima za stvaranje publiciteta prije inicijalne javne ponude dionica te doprinose fami o moći njihove tehnologije. Međutim, ona također podsjećaju na prijeko potrebno suočavanje s činjenicom da je vremenski prozor između objave IT propusta i njihovog iskorištavanja praktički nestao. To nameće pitanja o tome je li responsible disclosure uopće dobra ideja i je li proces popravljanja pogrešaka koji traje tjednima i mjesecima postao uzaludan.

 

Čak ni Wall Street još ne može odgovoriti na ova pitanja, ali banke barem imaju osoblje i novac za provedbu teških strukturnih promjena potrebnih za popravak pogrešaka u gotovo stvarnom vremenu. Veći će problem imati manje tvrtke koje moraju reagirati jednako brzo, a trebat će tehničku i regulatornu pomoć koju tržište još uvijek ne može pružiti.