Rat s Anthropicom: Zbog čega je SAD blokirao vlastiti najmoćniji AI alat?

Trumpova administracija u petak je učinila Sjedinjene Države ranjivijima na kibernetičke prijetnje, tvrdeći pritom da ih štiti. Ministarstvo trgovine dalo je tvrtki Anthropic PBC, jednoj od vodećih američkih kompanija za umjetnu inteligenciju, otprilike 90 minuta da prekine strani pristup svojim dvama najmoćnijim modelima. Umjesto toga, tvrtka ih je povukla od svih – od San Francisca do Šangaja. Vladina naredba oslabit će američku kibernetičku obranu i AI industriju o kojoj ta obrana ovisi.

Počnimo s prijetnjom. Prema pisanju Wall Street Journala, istraživači u kompaniji Amazon.com Inc. naveli su Fable 5, zaštićenu verziju Mythosa (Anthropicovog najmoćnijeg i najopasnijeg modela), da pročita programski kod i pronađe sigurnosne propuste u njemu. To je nešto što može učiniti bilo koji AI agent za kodiranje koji drži do sebe. Iz Anthropica su poručili da je ta tehnika otkrila tek nekoliko manjih, već poznatih slabosti koje drugi javno dostupni modeli pronalaze jednako lako i bez ikakvih trikova.

Katie Moussouris, izvršna direktorica tvrtke Luta Security, koja je izgradila Microsoftov program za nagrađivanje pronalazaka sigurnosnih propusta (bug-bounty) i pomogla dizajnirati prvi takav program za Pentagon, pregledala je izvještaj na zahtjev Anthropica. U članku na web stranici Lute navela je da ono što je Fable učinio uopće nije opasno, već da je to "najvrjednija stvar koju AI model može učiniti za obrambenu sigurnost". Na LinkedInu je napisala: "Ako je cilj nacionalna obrana, ovo je autogol protiv nas samih." Mythos bi itekako mogao biti opasan, što Anthropic i priznaje. No Fable 5 trebao je biti siguran, a ovo navodno "probijanje zaštite" (jailbreak) ne pruža nikakav dokaz da on to nije.

Fable čak nije učinio ništa posebno. Iz Anthropica su napomenuli da drugi široko dostupni modeli, uključujući OpenAI-jev GPT-5.5, rade istu stvar, pa gašenje modela jedne tvrtke ne mijenja ništa. Naredba Trumpove administracije također nije bila precizno oblikovana kako bi se šteta smanjila na minimum. Kako je primijetio Jimmy Goodrich, viši suradnik na Institutu za globalne sukobe i suradnju Sveučilišta u Kaliforniji, ona zabranjuje Kanađanima, Britancima i drugim državljanima savezničkih zemalja u američkim laboratorijima korištenje modela koje su izgradili njihovi vlastiti poslodavci.

Ako ništa drugo, Fable je bio previše oprezan da bi predstavljao prijetnju. Njegove zaštitne ograde (guardrails) bile su toliko teške da su se i sami korisnici pobunili. The Verge je otkrio da je model odbijao ili degradirao pitanja o mitohondrijima, lijekovima za astmu i staničnim membranama. Programeri su slali prijave o pogreškama jer je prestao raditi na uobičajenim sigurnosnim zadacima. Osobno sam više puta izgubio pristup radeći na temama u kojima, čak i nakon što je moj upit označen kao sporan, nisam uspio dokučiti čemu se točno zaštitni mehanizmi protive. Nešto što je previše opasno da bi stranac to smio dotaknuti ne može istovremeno biti previše plaho za upotrebu.

A Fable je bio dobar u obrani. Jedan programer opisao je kako ga je usmjerio na program od 90.000 linija koda, gdje je model otkrio pogreške koje su GPT-5.5 i Anthropicov vlastiti raniji model propustili. U ime nacionalne sigurnosti, administracija je obrambenim snagama oduzela jedan od boljih kibernetičkih alata u zemlji.

Povijest pokušaja tehnoloških lidera da ograde svoje inovacije od potencijalnih rivala duga je. Krajem 18. stoljeća Britanija je predvodila svijet u tekstilnim strojevima, pa je zabranila izvoz strojeva, a emigriranje vještih mehaničara proglasila kaznenim djelom. Ta je politika odgodila američku industrijalizaciju za nekoliko godina, ali je nije mogla spriječiti jer je znanje živjelo u ljudima. Godine 1789. mladi šegrt po imenu Samuel Slater emigrirao je prerušen u poljoprivrednog radnika i po sjećanju ponovno izgradio strojeve u tvornici u Rhode Islandu. Engleska ga pamti kao "Slatera izdajnika". Amerika ga pamti kao oca svoje industrijske revolucije.

Zid je Britaniji kupio vrijeme, ali je napuknuo. AI kod je mnogo lakše kopirati nego tkalačke stanove. Kontrole izvoza mogu Americi kupiti vrijeme, ali samo ako zemlja to vrijeme iskoristi za povećanje svog vodstva u AI-ju. A to vodstvo sada je samo po sebi sigurnosno pitanje: model koji je uočio pogreške koje su njegovi rivali propustili ista je vrsta alata koji čuva mreže jedne nacije. Dakle, tko god vodi u AI-ju, vodit će u obrani – i u napadu. Vodstvo počiva na laboratorijima i ljudima koji grade te modele.

Ti ljudi većinom nisu Amerikanci. Prema podacima Global AI Talent Trackera Paulson Instituta, američke institucije zapošljavaju blizu 60 posto najboljih svjetskih istraživača u području AI-ja, što je vodstvo izgrađeno premoćno na ljudima rođenima u inozemstvu, od kojih su mnogi iz Kine. Amerika je nekada privlačila najbolje. To je sada teže, nakon godine dana ukidanja studentskih viza u osjetljivim područjima i tretiranja znanstvenika rođenih u inozemstvu kao tereta, a ne kao imovine. Izvozna naredba učinila je apsurd očiglednim zabranivši nekima od samih ljudi koji su izgradili ove modele da ih koriste. No moć administracije ne proteže se na uskraćivanje ljudima pristupa sadržaju vlastitog mozga, a istraživači koje odbije odnijet će svoj mozak rivalu.

Svijet sada zna da se američki AI model može isključiti u roku od 90 minuta, dok je kineski model otvorenog koda (open-weight), jednom kada se preuzme, vaš zauvijek. Partner u tvrtki rizičnog kapitala Andreessen Horowitz procijenio je da otprilike 80 posto američkih startupova koji grade na otvorenim modelima sada kreće od kineskog modela. I dok taj promet teče prema Kini, administracija ubrzava svog rivala: ranije ove godine odobrila je Kini kupnju Nvidia Corp.-ovog H200, čipa koji je otprilike šest puta moćniji od najnaprednijeg koji je prethodno dopustila Kini da kupi, i to za 25 posto udjela u prihodu.

Kontrole koje ova američka vlada provodi ionako propadaju. Odsječen od Nvidije, kineski laboratorij Zhipu AI, kojeg je Washington stavio na crnu listu početkom 2025., izdao je vrhunski multimodalni model treniran u potpunosti na kineskim čipovima i podijelio njegove parametre. Prema najnovijem indeksu Sveučilišta Stanford, najbolji kineski modeli sada su unutar nekoliko bodova od američke granice, a dvije su strane više puta razmijenile vodstvo.

Ili je Trumpova administracija toliko nesposobna da je jednom naredbom sasvim slučajno oslabila američku kibernetičku obranu – vodstvo u AI-ju o kojem ta obrana ovisi – i poziciju zemlje u odnosu na Kinu, ili ništa od toga nije bilo slučajno. Ovo je najnovija runda u njezinoj dugoj borbi s Anthropicom koja je započela u veljači, kada je tvrtka odbila Pentagonu dati neograničen pristup svojim modelima, navodeći rizik od domaćeg nadzora i autonomnog oružja. Administracija je naredila saveznim agencijama da prestanu koristiti njezinu tehnologiju i označila je tvrtku kao rizik za lanac opskrbe, što je oznaka inače rezervirana za neprijateljske strane dobavljače. Ministarstvo obrane, odnosno ministar Pete Hegseth, odao je namjeru na platformi X: "Prije tri mjeseca, @DeptofWar izbacio je @AnthropicAI iz naše zgrade – zauvijek. Svaki dan koji prođe dokazuje zašto je to bio ispravan potez."

To nije jezik sigurnosne procjene. To je jezik zamjeranja i osvete.

Dizajniranje politike koja je ovako izvrsno samoporažavajuća zahtijeva svojevrsni antitalent. No prijetnje kojih se administracija navodno boji neće čekati dok ona raščišćava račune.