Kralj Charles ima savršene 'AI policajce' za Anthropic i OpenAI

Kralj Charles sastao se ovog tjedna s izvršnim direktorima vodećih svjetskih tvrtki za umjetnu inteligenciju, upravo u trenutku kada su pozivali na pomoć vlade u reguliranju svojih rizičnih, naprednih sustava. Kralj bi im trebao ukazati na izvor pomoći koji se nalazi u njegovom vlastitom dvorištu.

Britanski Institut za sigurnost AI-ja (AISI) najbolje je financirana svjetska agencija za testiranje najnaprednijih AI modela, zahvaljujući iznosu od 240 milijuna funti (325 milijuna dolara) koji je dobio od britanske vlade 2025. godine, uz godišnji proračun od oko 66 milijuna funti. Ekvivalentna američka agencija u Washingtonu, poznata kao Centar za AI standarde i inovacije, dobiva samo 10 milijuna dolara godišnje.

AISI je star oko tri godine i ima više od 100 tehničkih stručnjaka koji su stigli iz organizacija za sigurnost AI-ja i akademske zajednice, kao i iz tehnoloških tvrtki uključujući OpenAI, Anthropic PBC i Google DeepMind. Mnogi od njih pristali su na manju plaću kako bi se pridružili programu koji financiraju porezni obveznici. Zaposlenici agencije vezani su strogim ugovorima o povjerljivosti, no iza zatvorenih vrata govore o svojoj zabrinutosti za sigurnost novih AI sustava – to je ista zabrinutost koja je potaknula bivšeg istraživača Anthropica Jacoba Coxona i druge inženjere da progovore ovog mjeseca. Mnogi od njih također žele vidjeti veću intervenciju države u ovoj tehnologiji.

Lideri AI tvrtki tvrde da žele isto, no njihova upozorenja u Washingtonu nailaze na gluhe uši. Predsjednik Donald Trump sljedećeg se tjedna sastaje s kineskim liderom Xi Jinpingom, a očekuje se da će šef Nvidije Jensen Huang prisustvovati državničkoj večeri, ali ne treba očekivati plodotvornu raspravu o sigurnosti. Trump je nedavno rekao da su strahovi od rizika AI-ja obmana te je odbacio pozive na usporavanje razvoja koje bi moglo omogućiti Kini da preuzme vodstvo. Huang se ovog tjedna složio s tim, rekavši Trumpu: "Nećemo dopustiti da se to dogodi, gospodine."

No ta "obmana" ne nestaje. Najnoviji dokazi stižu iz OpenAI-ja, koji navodi da su se njegovi AI modeli ponašali neprimjereno na nekoliko zabrinjavajućih načina, točnije izmišljajući podatke i pokušavajući zaobići mrežna ograničenja. Tvrtka želi prijaviti te incidente američkoj saveznoj vladi te je najavila da će predložiti mehanizam kako to učiniti.

Koliko često tvrtke traže više državnih propisa pa budu odbijene? Rijetko. No konkretne preporuke poput OpenAI-jeve o izvještavanju razumne su i mogle bi biti prihvatljive Bijeloj kući. Također postoji velika vjerojatnost da će se AI tvrtke složiti s uključivanjem neovisnih procjenitelja kako bi se osiguralo da se modeli razvijaju na siguran način. To je nedavno predložio izvršni direktor Anthropica Dario Amodei.

Ti bi testeri imali ključnu ulogu ne samo u nadzoru rizičnih novih inovacija, već i u ublažavanju raširenih strahova dok se tehnološke tvrtke utrkuju u pronalasku sljedećeg velikog proboja.

Modeli poput ChatGPT-ja u početku su se poboljšavali zahvaljujući takozvanim zakonima skaliranja – ideji da više računalne snage i više podataka dovodi do pametnijih modela. No ti pomaci postaju sve skuplji i sve manji, što navodi inženjerske timove da traže nove metode poput rekurzivnog samounapređenja, gdje AI sustavi pomažu u razvoju vlastitih nasljednika. Upravo je to tehnika koju je Coxon izdvojio u objavi na mreži X, koja je pregledana više od 170 milijuna puta od 9. rujna, kada je optužio Anthropic i OpenAI za neodgovorno ponašanje i "jurišanje izravno prema samounapređujućoj superinteligenciji i kockanje s našim životima."

Iako se o rizicima može raspravljati, njegovo je upozorenje nesumnjivo poljuljalo povjerenje javnosti. Samo to zahtijeva vjerodostojne procjene sigurnosti, zbog čega identitet procjenitelja postaje iznimno važan.

Britanski AISI već ima iskustva u testiranju najnovijih AI sustava. Dobio je rani pristup Mythosu, Anthropicovom modelu koji je u početku bio ograničen zbog svojih kibernetičkih sposobnosti. Ova agencija pod pokroviteljstvom vlade nema komercijalni sukob interesa, a njezino sjedište u Londonu daje joj značajnu distancu od financijskog i ideološkog balončića Silicijske doline.

"Naš je stav da bi trebala postojati raznolika lepeza procjenitelja", kaže mi Mustafa Suleyman, CEO tvrtke Microsoft AI. "AISI bi bio dobar kandidat."

Uistinu postoje i druge grupe za procjenu između kojih se može birati. Amodei preporučuje METR (Model Evaluation and Threat Research), istraživačku tvrtku sa sjedištem u Berkeleyju u Kaliforniji, ali se postavljaju pitanja o njezinoj neovisnosti. Imati vladinu agenciju kao procjenitelja stvorilo bi jasniji put od testiranja do provedbe pravila. Sam AISI danas nema ovlasti policijskog djelovanja, a njegovi su odnosi s AI laboratorijima dobrovoljni. Ima smisla dati agenciji veće ovlasti. Uostalom, koja je svrha praćenja opasne nove tehnologije ako je ne možete spriječiti da bude napravljena?

Neki od najvažnijih regulatora visokotehnoloških rizika uživaju potporu države, od Međunarodne agencije za kalničku energiju sa sjedištem u Beču do Savezne uprave za zrakoplovstvo u Washingtonu.

Isto bi se načelo trebalo primijeniti i na AI. Altman i Amodei možda imaju vlastite ideje o tome tko bi trebao nadzirati njihov rad, ali u duhu pravog nadzora, taj odabir ne bi trebao biti u potpunosti njihov.

Bila bi velika ironija kada bi sastanak s kraljem Charlesom, simbolom nekadašnjeg Britanskog carstva, pomogao potaknuti današnje američko tehnološko plemstvo da razmisli o osnaživanju naprednog AI inspektora u Londonu. No to bi bilo mudro učiniti. Ujedinjeno Kraljevstvo već je izradilo nadzorno tijelo za koje oni tvrde da ga žele. Sljedeći je korak pozvati ga unutra i dati mu pravu snagu.