Gdje stoje Sam Altman, Elon Musk i drugi tehnološki čelnici po pitanju zaštitnih mehanizama za AI

Rasprava o tome koliko daleko i koliko brzo napreduje umjetna inteligencija stavlja tehnološke čelnike pred ozbiljnu dilemu. S jedne strane, žele prenijeti svoju zabrinutost zbog potencijalnih opasnosti te tehnologije i ponudili su različita rješenja koja uključuju i usporavanje njezina razvoja. S druge strane, nakon što su u AI uložili stotine milijardi dolara, nastoje smiriti javnost bez da uplaše ulagače i klijente.

Rasprava se rasplamsala prošlog tjedna kada je istraživač tvrtke Anthropic PBC Jacob Coxon dao otkaz i upozorio kako istraživači koji grade AI "iskreno vjeruju da bi nas ona mogla sve ubiti do kraja desetljeća". Njegovu je zabrinutost javno potvrdilo i drugo osoblje Anthropica, uključujući voditelja odjela za usklađivanje Evana Hubingera, koji je izjavio kako vjeruje da postoji više od 10 posto šanse da tehnologija uzrokuje izumiranje čovječanstva u sljedećem desetljeću.

U raspravu se uključio i predsjednik Donald Trump, koji je odbacio potrebu za zaštitnim mehanizmima i usmjerio kritike prema glavnom izvršnom direktoru Anthropica Dariju Amodeiju, koji je u blogu u subotu ustvrdio da mogućnosti AI-ja napreduju brže nego što ih zaštitne mjere mogu pratiti. Amodei je predložio veći neovisni nadzor te koordinaciju između kompanija i vlada. U objavi na mreži Truth Social u ponedjeljak, Trump je za negativne reakcije birača prema AI podatkovnim centrima i povećanu zabrinutost oko naprednih modela okrivio "BOLESNU zavjeru", dodavši da je "jedina zemlja koja se tome veseli Kina".

Dario Amodei | Samyukta Lakshmi/Bloomberg

Evo što najistaknutiji čelnici industrije kažu o tome u kojem bi smjeru umjetna inteligencija trebala ići:

Elon Musk, SpaceX/xAI

"Dario je u pravu", napisao je u objavi na mreži X.

Sam Altman, OpenAI

"Slažem se s Darijem da moramo usporiti tempo razvoja naprednih modela. To je bila glavna tema rasprava koje smo proteklih tjedana imali u OpenAI-ju. Obvezivanje na uvođenje neovisnih evaluatora s pristupom na razini zaposlenika sjajna je ideja i mi ćemo učiniti isto. Uskoro ćemo podijeliti više detalja", napisao je u objavi na mreži X.

Sam Altman | Cornell Watson/Bloomberg

Aidan Gomez, Cohere

"Mehanizam koji usporava sve, dok eksplicitno čuva postojeću komercijalnu prednost, ne čini AI sigurnijim", naveo je u objavi na blogu u kojoj je kritizirao prijedlog o općem usporavanju AI-ja. Gomez je istaknuo da su zaštitni mehanizmi potrebni, ali tvrdi da bi se razvoj AI-ja trebao odvijati odgovornim tempom koji društvo može pratiti.

Satya Nadella, Microsoft

"Svako nastojanje prema superinteligenciji mora se temeljiti na temeljnom načelu: ako AI koji gradimo ne pomaže čovječanstvu i nije pod ljudskom kontrolom, nije ga vrijedno razvijati", napisao je u objavi na mreži X.

Satya Nadella | David Ryder/Bloomberg

Clément Delangue, Hugging Face

"Sada je jasno da je usklađivanje ključno i da se neće riješiti iza zatvorenih vrata nekolicine vodećih laboratorija", napisao je Delangue citirajući Amodeijevu objavu na mreži X. Delangue je najavio inicijativu Open Alignment Initiative tvrtke Hugging Face i poručio da kompanija želi sudjelovati u programu "integriranih evaluatora" na koji se Amodei upravo obvezao u ime Anthropica.

George Kurtz, CrowdStrike

"Usporavanje onoga što dolazi ne osigurava ono što je već ovdje", rekao je u objavi na mreži X. Kurtz tvrdi da bi se kibernetička industrija, umjesto pokušaja usporavanja razvoja AI-ja, trebala usmjeriti na izgradnju obrane sposobne pratiti korak sa sve autonomnijim AI sustavima, što uključuje neovisna testiranja, strože sigurnosne kontrole i ljudski nadzor nad odlukama s visokim utjecajem.

Mark Zuckerberg, Meta

"Osobno sam puno više zabrinut zbog toga da mala skupina laboratorija ili ljudi ima kontrolu nad nečim što je toliko moćno", izjavio je prošlog tjedna u podcastu Sources. Zuckerberg tvrdi da je AI sigurniji kada je pristup njemu široko distribuiran, umjesto da je koncentriran u rukama nekolicine kompanija. Kritizirao je AI laboratorije koji razvijaju sve naprednije modele, ali ih odlučuju ne objaviti javno, nazivajući takav pristup "prilično opasnim", iako nije imenovao konkretne kompanije.

Mark Zuckerberg | Kyle Grillot/Bloomberg