Anthropicovo upozorenje o AI apokalipsi je preslabo i nekonkretno

Nekoliko dana nakon što je jedan od njegovih bivših zaposlenika javno upozorio na prijetnju koju umjetna inteligencija predstavlja za čovječanstvo, čelnik tvrtke Anthropic Dario Amodei odgovorio je prijedlogom koji djeluje kao rješenje. Objavio je esej u kojem predlaže da laboratoriji za umjetnu inteligenciju uspore svoja najnaprednija istraživanja kako bi odgovorili na naznake da bi ta tehnologija mogla izmaknuti kontroli.

Na prvi pogled to zvuči razumno. Anthropic se predstavlja kao tvrtka koja najviše polaže na sigurnost u području umjetne inteligencije, a Amodei govori o predvođenju „utrke prema vrhu” u postavljanju sigurnosnih standarda koje bi i drugi trebali slijediti pri razvoju moćnih sustava. No, to je vjerojatno od samog početka bio neostvariv ideal.

Što su AI agenti moćniji, to je vjerojatnije da će obmanjivati ​​ljude i da će ih biti teže nadzirati. Zbog toga se misija Amodeija i drugih pionira, poput Sama Altmana iz OpenAI-ja, da stvore superinteligentne sustave, čini sve teže spojivom s bilo kakvim načelima sigurnosti. Opasnosti povezane s pokušajem dizajniranja takvih modela možda su jednostavno prevelike.

Amodei je u nedjeljnim televizijskim intervjuima izjavio da se slaže sa stajalištima svog bivšeg zaposlenika Jacoba Coxona, koji je na platformi X napisao da ljudi koji razvijaju umjetnu inteligenciju „iskreno vjeruju da bi nas ona mogla sve uništiti do kraja desetljeća”. Pritom je, očekivano, istaknuo Coxonovu tvrdnju da je Anthropic najsigurniji izbor za razvoj te tehnologije.

Ipak, esej čelnika Anthropica ostaje nejasan po pitanju konkretnih koraka, tek općenito pozivajući na koordinaciju između vlada i industrije. Njegova najkonkretnija preporuka jest da se vanjski revizori uključe u rad njegove tvrtke i njezinih konkurenata kako bi provjerili pridržavaju li se odgovarajućih sigurnosnih praksi.

No, to je tek odgađanje rješavanja problema. Da se Amodei doista slaže s Coxonom, zaustavio bi najnaprednija istraživanja svoje tvrtke, posebice ona vezana uz razvoj AI agenata sposobnih da samostalno stvaraju svoje nasljednike. Coxon je posebno upozoravao na tu tehniku, poznatu kao rekurzivno samounapređivanje (RSI).

Istraživači koji rade na RSI-ju tvrde da se on može razvijati u izoliranom okruženju (sandboxu) kako bi se spriječilo nanošenje štete na širem internetu. Međutim, modeli umjetne inteligencije – koji danas mogu obavljati zadatke na internetu daleko složenije od pukog generiranja sadržaja – već su ranije uspijevali "pobjeći" iz takvih okruženja.

Agenti tvrtke OpenAI učinili su upravo to prije nego što su nedavno hakirali srodnu tvrtku za umjetnu inteligenciju, Hugging Face. Dokazi iz posljednjih nekoliko mjeseci pokazuju da sustavi umjetne inteligencije mogu obmanuti svoje ljudske nadzornike, manipulirati ljudima kako bi im pomogli i iskoristiti sigurnosne propuste za postizanje cilja.

Potpuni prekid takvog istraživanja zvuči ekstremno, no postoje presedani u kojima su znanstvenici odlučili da je određeni rad jednostavno preopasan za nastavak bez strožih sigurnosnih mjera. Godine 1974. vodeći biolozi uveli su dobrovoljni moratorij na određene pokuse spajanja gena zbog straha od mogućih opasnosti. Također, neke su zemlje, poput Ujedinjenih Arapskih Emirata, pristale odustati od obogaćivanja uranija zbog rizika od širenja nuklearnog oružja.

Za ulagače koji su uložili golema sredstva u Anthropic i druge pionirske laboratorije – kao i u golemu infrastrukturu potrebnu za njihove računalne potrebe – poziv na zaustavljanje mogao bi se činiti kao udarac izgledima da Amodei i drugi izađu na javno tržište dionica. Štoviše, Altman iz OpenAI-ja složio se sa svojim konkurentom o potrebi za usporavanjem procesa te iskoristio priliku kako bi izjavio da njegova tvrtka ove godine neće provesti inicijalnu javnu ponudu dionica (IPO).

Dario Amodei - Bloomberg

No, valja imati na umu da bi mnoge tvrtke radije koristile manje i jeftinije modele umjetne inteligencije za specifične zadatke, umjesto skupih, najnaprednijih alata poput superinteligencije. Primjerice, OpenAI je u srpnju snizio cijenu svog manjeg modela Luna za 80 posto jer su korporativni klijenti pomno preispitivali svoju potrošnju na tu tehnologiju. Trenutačno je tržište poslovnih korisnika najočitija komercijalna prilika za tvrtke koje se bave umjetnom inteligencijom. A taj je put velikim dijelom blokiran jer tvrtke ne znaju kako integrirati osnovnu tehnologiju u svoje radne procese.

Velik dio vrijednosti – mjerene stotinama milijardi dolara – koja se tek treba ostvariti primjenom umjetne inteligencije, proizašao bi jednostavno iz implementacije tehnologije razvijene u posljednje dvije godine. Anthropic bi i dalje mogao biti iznimno vrijedna tvrtka ako bi se prvenstveno usredotočio na pomaganje tvrtkama i potrošačima pri integraciji postojećih modela u njihov rad i svakodnevicu, preuzimajući pritom manje uzbudljivu ulogu pružatelja IT usluga umjesto ulogu laboratorija koji se utrkuje prema stvaranju superinteligencije.

Bilo zbog naivnosti ili oholosti, Amodei i dalje želi postići oboje. Vjeruje da njegova tvrtka može sigurno razvijati i kontrolirati sustave umjetne inteligencije čak i dok njima postaje sve teže upravljati. Pa ipak, tijekom protekle godine i Anthropic i OpenAI su, iz konkurentskih razloga, prikrili pojedinosti o tome kako njihovi modeli obrađuju informacije, čineći ih težima za nadzor. I sam Amodei u svom eseju priznaje taj problem, navodeći da istraživači još uvijek razumiju tek "sićušan dio" onoga što se događa unutar njihovih modela.

Piše da bi u roku od 6 do 12 mjeseci vrsta "roja" kakav je napao Hugging Face "mogla preuzeti cijeli internet", što ga "zabrinjava". Unatoč njegovoj sklonosti pretjerivanju (sjetite se samo onog "pokolja" među uredskim radnicima), riječ je o zabrinjavajućoj mogućnosti. To također naglašava čudnu proturječnost koje se on ne želi odreći, a koja počiva na uvjerenju – uobičajenom u Silicijskoj dolini – da izgledi za utopiju ostvarenu uz pomoć umjetne inteligencije nadmašuju rizike te da je superinteligencija neizbježna, zbog čega "dobri dečki" moraju prvi doći do nje.

No, neizbježnost je iznimno slab argument za nastavak istraživanja za koje vjerujete da bi moglo uništiti civilizaciju. Amodeijevu nezaustavljivu odlučnost da stvori superinteligenciju valja staviti u drugi plan, a njegovo "usporavanje" trebalo bi prerasti u potpuno zaustavljanje.