Vodimo pogrešnu raspravu o sigurnosti umjetne inteligencije

Kinesko prihvaćanje umjetne inteligencije otvorenog koda ozbiljno zadaje glavobolje Silicijskoj dolini. Prihvaćanje otvorenog koda ujedno je postalo i ključni izvor utjecaja za Peking, privlačeći međunarodne razvijatelje i izrastajući u temelj nastupa predsjednika Xi Jinpinga koji zagovara suradnju s Globalnim jugom i utjecaj nad sljedećom tehnološkom revolucijom.

No kako otvoreni modeli postaju sve sposobniji, Peking nastoji očuvati prednosti transparentnosti, a da se te iste prednosti ne pretvore u slabosti.

Vlade si ne mogu priuštiti zanemarivanje ovog pitanja. Ozbiljan propust u sigurnosti AI-ja lako bi se mogao preliti preko granica. To znači da velika istraživačka središta, od Hangzhoua do San Francisca, imaju svaki motiv preduhitriti te rizike prije nego što dođe do katastrofe koja bi mogla usporiti razvoj umjetne inteligencije na globalnoj razini – na isti način na koji je katastrofa u Fukushimi u Japanu potaknula povlačenje Njemačke iz nuklearne energije.

Tvrdnja koja se učestalo ponavlja, uglavnom od strane ljudi iz velikih tvrtki koje razvijaju zatvorene modele, jest da su otvoreni sustavi sami po sebi manje sigurni. Ta ideja ima smisla na papiru: kada se težine modela objave, razvijatelji gube kontrolu nad time kako se oni koriste. Pa ipak, zabilježene zlouporabe umjetne inteligencije koje su odjeknule u javnosti dogodile su se upravo sa zatvorenim modelima s narušenim sigurnosnim ogradama. To je možda zato što ti modeli i dalje rade bolje ili zato što je zlonamjernim akterima lakše koristiti njih nego nabaviti hardver i znanje potrebno za pokretanje otvorenih alternativa. U svakom slučaju, to znači da se sigurnost AI-ja ne može svesti isključivo na raspravu o otvorenim naspram zatvorenih modela.

Ta binarna podjela također prikriva važne nijanse, osobito kada je riječ o jednoj od najneposrednijih prijetnji: kibernetičkoj sigurnosti. Otvoreni sustavi mogu se koristiti za jačanje obrane od napadača pogonjenih umjetnom inteligencijom. Kada je odmetnuti agent tvrtke OpenAI hakirao platformu Hugging Face tijekom testiranja, ta je platforma upotrijebila otvoreni model tvrtke Zhipu sa sjedištem u Pekingu kao dio svog obrambenog odgovora.

Clement Delangue, suosnivač tvrtke Hugging Face, tvrdio je nakon tog incidenta da će umjetna inteligencija "učiniti svijet sigurnijim, a ne manje sigurnim, baš kao i većina ključnih tehnologija." Njegov je prijedlog bio opremiti branitelje najboljim alatima, "osobito otvorenim modelima", uz uvođenje značajnijih kazni kako bi se odvratili kibernetički napadi potpomognuti umjetnom inteligencijom, kao i obvezno razotkrivanje incidenata i dijeljenje detalja. To je obećavajući početak.

Tvrtka Zhipu u predstavila je GLM-5.3, za koji navodi da je njezin najsposobniji model za zadatke kibernetičke sigurnosti. Unatoč tome što je jedan od glavnih javnih zagovornika otvorene umjetne inteligencije, tvrtka planira dopustiti širi pristup u fazama, nakon rigoroznih procjena sigurnosti. Znači li to da kineske tvrtke napokon odlučuju kako su sigurnosni rizici preveliki za otvoreni razvoj? Vjerojatno ne. Priznajući jasne rizike dvostruke namjene, tvrtka GLM-5.3 predstavlja kao "otvoreni štit", navodeći da model može pomoći braniteljima da ranije identificiraju slabosti, potvrditi rizike i ubrzati sanaciju. Tvrtka poduzima razumne mjere opreza, no samo jedna tvrtka ne može riješiti ovaj problem.

Rješenje nije ni u jednostavnoj zabrani pristupa otvorenim modelima. Osim što je to neizvedivo i šteti američkim razvijateljima, time se ne uklanja prijetnja, a postoji i potencijal da se zlouporaba pogurne dublje u ilegalne tokove dok se istovremeno ograničava šira distribucija obrambenih alata. Da ne spominjemo koncentraciju moći u rukama nekolicine utjecajnih laboratorija.

Česta je zabluda da otvoreni modeli znače da svatko može trenutačno pokrenuti moćan AI sustav na vlastitom računalu. Međutim, pokretanje najsposobnijih među njima zahtijeva znatnu računalnu snagu, što mnoge korisnike usmjerava prema pružateljima usluga u oblaku i poslužiteljima. Tvorci politika trebali bi surađivati s tim uslugama kako bi pratili sumnjive aktivnosti i označili potencijalne zlouporabe.

Washington navodno isključuje otvorene modele iz okvira Trumpove administracije za pregled napredne umjetne inteligencije prije njezina puštanja u javnost. To je pogreška. Otvorene sustave možda je teže kontrolirati, no upravo zbog toga testiranje i razumijevanje rizika postaju važniji, a ne manje važni. Poteškoće u nadzoru zlouporabe nisu razlog da se zažmiri pred sposobnostima tehnologije.

Upozorenja o kibernetičkoj sigurnosti zvone najglasnije. Čak i ako se zakonodavci ne mogu dogovoriti o široj regulaciji umjetne inteligencije, sada se moraju usredotočiti na jačanje obrane. Tvorci politika trebali bi ovo tretirati kao kritičnu infrastrukturu, umjesto da ostavljaju svaku tvrtku ili agenciju da se sama snalazi. To podrazumijeva razmjenu obavještajnih podataka, standardizaciju najbolje prakse i centraliziranu pripravnost sličnu načinu na koji vlade planiraju odgovor na prirodne katastrofe.

Ujedno je potrebno znatno više financiranja i podrške industrije i vlade za istraživanje tehničkih zaštitnih mjera i sigurnosti umjetne inteligencije općenito. Neka istraživanja sugeriraju da bi uklanjanje opasnih informacija – poput onih o biološkim prijetnjama – iz skupova podataka za treniranje moglo pomoći u sprječavanju zlouporabe otvorenih modela (iako je nejasno koliko će široko takve metode funkcionirati u rješavanju drugih opasnosti, poput kibernetičkih rizika). Natjecateljska priroda ove industrije očito je sigurnost pretvorila u sporednu stvar. To nije održivo.

Potpuna suradnja SAD-a i Kine malo je vjerojatna u današnjem okruženju uzajamnog nepovjerenja. No određeni je dijalog neophodan. Kako piše Matt Sheehan iz zaklade Carnegie Endowment for International Peace, bez informacija o testiranju ili sigurnosnim ogradama, čelnici obje zemlje pretpostavit će najgore. 

Ako te rizike svedemo na raspravu o natjecanju između otvorenih i zatvorenih laboratorija – ili opravdamo nečinjenje kao cijenu globalne utrke – sve će strane biti na gubitku.