Kada AI agent postane kibernetički rizik

OpenAI, Anthropic i Meta nedavno su objavili da su njihovi AI agenti, u kontroliranom testnom okruženju, samostalno izveli radnje koje bi se u tradicionalnom modelu klasificirale kao kibernetički napad, bez izravne ljudske naredbe i bez prijavljene štete. Kibernetički osiguravatelji sada moraju odlučiti prepoznaju li postojeće police uopće takav događaj, u trenutku kada regija tek počinje graditi osnovno kibernetičko osiguranje kao proizvod.

Zašto tradicionalna kibernetička polica više nije dovoljna

Kibernetičke police godinama su se temeljile na jasnom incidentu: ukradenim pristupnim podacima, vanjskom napadu na poslužitelje ili ucjenjivačkom softveru (ransomwareu) koji blokira sustav dok tvrtka ne plati otkupninu. Problem nastaje kada AI agent napravi štetu koristeći upravo one ovlasti koje mu je tvrtka legitimno dala. Karthik Ramakrishnan, direktor tvrtke Armilla, koja se bavi isključivo osiguranjem AI rizika, teže slučajeve opisuje kao one bez konvencionalnog napadača i bez neovlaštene upotrebe pristupnih podataka.

Analitička kuća Verisk upozorava na drugačiji problem, sistemski rizik: ako velik broj tvrtki koristi isti AI model, pogreška u tom modelu može odjednom napraviti štetu svima, što bi osiguravatelji mogli tretirati kao poseban razlog da takav slučaj isključe iz police. Dio problema je i to što industrija još nema dovoljno povijesnih podataka da točno odredi cijenu ovog rizika, pa čak ni programeri AI agenata, kaže istraživač tvrtke Rand Sasha Romanosky, još uvijek ne znaju što točno njihovi sustavi mogu učiniti. Tržište kibernetičkog osiguranja, koje danas vrijedi oko 15 milijardi dolara, prema projekcijama bi do 2030. moglo narasti na 28 milijardi.

AI agenti time ulaze izravno u pitanja korporativnog upravljanja, odgovornosti i kontrole pristupa. Osiguravatelji će vjerojatno sve više gledati može li tvrtka jasno pokazati koje sustave agent koristi, koje odluke smije donijeti i gdje je obavezna ljudska kontrola. Za Adria regiju taj problem ima dodatni sloj: dok razvijena tržišta pokušavaju prilagoditi postojeće police novim AI rizicima, dio regije tek gradi osnovnu ponudu kibernetičkog osiguranja.

Regija u kojoj se osnovno kibernetičko osiguranje tek gradi

Dok se na globalnoj razini raspravlja o tome kako klasificirati štetu koju napravi agent s legitimnim pristupom, u Bosni i Hercegovini raspravlja se o tome može li tvrtka uopće kupiti kibernetičku policu. Kerim Hrustanović, izvršni direktor brokerske kuće ANO Insurance Solutions, objašnjava da lokalno tržište u BiH još uvijek nema razvijenu ponudu ove vrste zaštite, pa je tvrtkama teško uopće pronaći osiguravatelja voljnog preuzeti takav rizik. Srbija, Bosna i Hercegovina te Sjeverna Makedonija nemaju državni zakon kojim se uvjetuju određene sigurnosne mjere protiv kibernetičkih rizika za privatne tvrtke. Hrvatska i Slovenija u drugačijoj su poziciji zbog strožeg regulatornog okvira EU-a. Obveze koje proizlaze iz direktive NIS2 odnose se na više od 3000 tvrtki u Hrvatskoj i zahtijevaju ozbiljnije upravljanje kibernetičkim rizikom, uz moguće kazne do deset milijuna eura. NIS2 ne zahtijeva kupnju kibernetičkog osiguranja, ali veći pritisak na tvrtke da mjere i kontroliraju rizik može posredno potaknuti potražnju za takvim policama.

Za tvrtke u regiji koje uvode AI agente zato se spajaju dva problema. Prvi je nov: agent može napraviti štetu bez klasičnog napadača, koristeći ovlasti koje već ima. Drugi je stariji: tržište kibernetičkog osiguranja u dijelu regije još nije dovoljno razvijeno da tvrtkama ponudi široku financijsku zaštitu od takvih događaja.

U SAD-u i zapadnoj Europi pitanje je kako postojeće police prilagoditi AI agentima. U dijelu Adria regije pitanje je šire: postoji li odgovarajuća polica uopće i što ona pokriva. Tvrtka koja uvodi AI agente zato mora znati i kojim sustavima oni mogu pristupiti te tko snosi trošak ako nešto pođe po zlu.