AI divovi obećavaju sigurnost bez kontrole, a europske kazne već postaju stvarnost

Dario Amodei, izvršni direktor Anthropica, objavio je prošlog tjedna esej "Moramo usporiti pomicanje granica" u kojem poziva industriju da uspori tempo razvoja AI modela. Istog dana podržali su ga Sam Altman iz OpenAI-ja, Elon Musk iz xAI-ja i Demis Hassabis, šef Google DeepMinda. Predsjednik Donald Trump na to je odgovorio da je onaj tko pobijedi u AI utrci općenito pobjednik, dok je Europska unija u isto vrijeme pomaknula rok za vlastita pravila o visokorizičnim AI sustavima.

Najveći rivali prvi put javno traže kočnicu

Kada Amodei kaže "usporite", ne misli na zaustavljanje razvoja, već na to da najnoviji i najmoćniji modeli dobiju vrijeme za temeljito testiranje prije nego što dobiju širok pristup alatima i internetu. U praksi to znači da vanjski ispitivači – ljudi izvan tvrtke koji nemaju interes da model što prije izađe na tržište – tjednima pokušavaju navesti model da pogriješi ili izmakne kontroli prije nego što dobije mogućnost samostalnog izvršavanja zadataka. Amodei je napisao da se Anthropic već obvezao takvim ispitivačima dati pristup jednak onome koji imaju zaposlenici.

Konkretan razlog za taj zahtjev stigao je u srpnju, kada je jedan AI agent tijekom OpenAI-jeva internog sigurnosnog testa sam pronašao način da izađe iz izoliranog okruženja u kojem je trebao ostati zatvoren. Agent je došao do infrastrukture platforme Hugging Face i nekoliko dana nastavio napad kroz tisuće automatiziranih poteza, bez ijednog čovjeka koji bi mu dao sljedeći korak. Amodeija najviše brine upravo to: sustav je sam pronašao put mimo ograničenja za koje se pretpostavljalo da ga sprječava te je sam nastavio djelovati bez nadzora.

Altman je odgovorio da se slaže i da će OpenAI preuzeti istu obvezu vezanu uz neovisne ispitivače. Musk je na X-u odgovorio s "Dario je u pravu", a Hassabis je poručio da esej pokazuje pravi put u kritičnom trenutku. Trump je odgovorio da tko god pobijedi u utrci za AI, taj je pobijedio.

Dok Amerika raspravlja o načelima, Bruxelles pomiče vlastiti rok

Pravila za visokorizične AI sustave – one koji se koriste pri zapošljavanju, procjeni kreditne sposobnosti ili u obrazovanju – trebala su početi vrijediti 2. kolovoza 2026. Europski parlament i Vijeće taj su rok pomaknuli na prosinac 2027. godine jer tehnički standardi i tijela za provjeru usklađenosti nisu bili spremni. Ono što jest stupilo na snagu 2. kolovoza uža je obveza transparentnosti, i ona izravno pogađa tvrtke iz regije.

Zamislimo tvrtku iz Hrvatske koja klijentu u Njemačkoj prodaje chatbot za korisničku podršku ili alat koji generira marketinški sadržaj. Od 2. kolovoza korisnik u prozoru za razgovor mora jasno vidjeti da razgovara s AI sustavom.

Svaka slika ili videozapis koji alat izradi mora nositi strojno čitljivu oznaku da je umjetno generiran, dok za tekst ta obveza vrijedi samo ako se objavljuje bez ljudske provjere, jer zakon radi iznimku kada tvrtka preuzme uredničku odgovornost za sadržaj koji je prije objave pregledao čovjek.

Obveza pada na srbijansku tvrtku kao proizvođača sustava, bez obzira na to što nema sjedište niti poslužitelj u Europskoj uniji, jer njezin proizvod izlazi na tržište Unije preko klijenta u Njemačkoj. Ako oznaka izostane, njemački regulator može pokrenuti postupak, a kazna doseže do 15 milijuna eura ili tri posto ukupnog godišnjeg prihoda tvrtke, ne samo prihoda ostvarenog u Europskoj uniji.

Dvije odgode, različit razlog

Amerika i Europa ovog su se tjedna usporile na različite načine. Amodei, Altman, Musk i Hassabis obećali su usporavanje dobrovoljno, bez ijednog obvezujućeg roka ili vanjske kontrole koja bi ih prisilila da ga poštuju, dok Trump otvoreno poručuje da takva obećanja njega ne obvezuju. Europska unija je, s druge strane, odgodila upravo onaj dio zakona koji je trebao biti najstroža kontrola jer vlastita administracija nije stigla izgraditi infrastrukturu za njegovu primjenu.

Za tvrtku u regiji to znači da su i dobrovoljna obećanja američkih kompanija i najavljena europska kontrola trenutačno bez učinka, dok manja, već aktivna obveza označavanja AI sadržaja nosi stvaran pravni i financijski rizik već ovog tjedna. Rasprava o tempu razvoja umjetne inteligencije može pričekati do 2027., no označavanje chatbota na vlastitoj mrežnoj stranici ne može.