text size
Kompanija Anthropic PBC priopćila je da je njezin novi AI alat Mythos previše moćan da bi bio pušten u širu upotrebu. AI div je naveo da je ovaj model toliko učinkovit u pronalaženju slabosti u softveru i računalnim sustavima da će biti dostupan samo ograničenom broju pažljivo odabranih korisnika. Ako alati poput Mythosa dospiju u pogrešne ruke, upozorava Anthropic, mogli bi hakerima pružiti novo moćno sredstvo za krađu podataka ili ometanje ključne infrastrukture.
O kakvom je riziku riječ pokazuje primjer male grupe neovlaštenih korisnika na privatnom internetskom forumu koja je uspjela pristupiti Mythosu, rekle su osobe upoznate s pitanjem, a na to ukazuju i dokumenti u koje je imao uvid Bloomberg News. Grupa je pristup dobila istog dana kada je Anthropic prvi put objavio da planira model staviti na raspolaganje malom broju kompanija kako bi ga testirale.
Proteklih nekoliko godina kompanije iz područja kibernetičke sigurnosti tvrde da će AI ubrzati i automatizirati dio posla u sprječavanju digitalnih proboja. Međutim, hakeri i kibernetički špijuni također su uočili prednosti AI-a. Pojava Mythosa i sličnih modela koji mogu iskoristiti dobro skrivene slabosti u popularnom softveru bez ljudskog nadzora ukazuje na bržu i manje predvidivu fazu "kibernetičke utrke u naoružanju".
.webp){kind=icon}
