Anthropic PBC pozvao je na stvaranje mehanizma na razini cijele industrije koji bi privremeno zaustavio razvoj umjetne inteligencije, pružajući društvu priliku da se "suoči s njezinim golemim implikacijama".
Tehnologija napreduje do točke u kojoj će AI učiniti ljudski rad tisućama puta učinkovitijim ili ga čak zamijeniti, stvarajući novi niz rizika, objavila je tvrtka u opširnom blogu koji su u četvrtak objavili suosnivač Jack Clark i voditeljica Anthropic Institutea Marina Favaro.
AI bi mogao početi sam sebe usavršavati i graditi vlastite nasljednike, čime bi se umanjila uloga ljudi, napisali su Clark i Favaro. "Taj sudar, u kojem se rekurzivna inteligencija koja se sama gradi sve brže susreće sa svijetom ljudi, odnosa i upravljanja, još je jedan dio ove budućnosti koji ne možemo predvidjeti", napisali su.
Čitaj više
Najbolji inspektori za AI oružje ne nalaze se u SAD-u, već s druge strane oceana
Regulacija se povijesno obično uspostavlja nakon strašnih katastrofa, ali to ne mora biti slučaj s umjetnom inteligencijom.
07.05.2026
Zašto Anthropicov Mythos izaziva zabrinutost diljem svijeta?
Kompanija Anthropic PBC priopćila je da je njezin novi AI alat Mythos previše moćan da bi bio pušten u širu upotrebu. Ako alati poput Mythosa dospiju u pogrešne ruke, upozorava Anthropic, mogli bi hakerima pružiti novo moćno sredstvo za krađu podataka ili ometanje ključne infrastrukture.
26.04.2026
SpaceX, OpenAI i Anthropic: Kako investirati tijekom najvećeg IPO vala od dot-com ere
Investitori čekaju IPO-e koji bi mogli privući stotine milijardi dolara svježeg kapitala.
03.06.2026
Anthropic podnio povjerljivu prijavu za IPO u utrci s OpenAI-jem
Tvrtka je nedavno prikupila 65 milijardi dolara i dosegnula procijenjenu vrijednost od 965 milijardi dolara.
01.06.2026
U objavi na blogu ta je ideja uspoređena s međunarodnom regulacijom nuklearnog oružja. Bilo koji mehanizam pauziranja također bi morao osigurati da manje skrupulozni AI laboratoriji ne nastave potajno raditi na napretku tehnologije tijekom stanke, što bi se vjerojatno provodilo kroz provjere od strane partnerskih laboratorija.
Anthropic planira organizirati razgovore s donositeljima politika, istraživačima i drugim AI kompanijama kako bi raspravili o strukturi za "koordinaciju i promišljanje" te će objaviti rezultate, navodi se u objavi.
Ova objava nije prvi put da vodeći istraživač na području naprednog AI-ja poziva na stanku u razvoju. Godine 2023. Future of Life Institute, neprofitna organizacija usmjerena na ublažavanje rizika od tehnologije, pozvala je na pauzu od najmanje šest mjeseci kako bi se postavili zaštitni mehanizmi za AI, upozoravajući na potencijalno katastrofalne učinke. Milijarder Elon Musk potpisao je taj apel zajedno s više od tisuću drugih istraživača i menadžera.
Sam Anthropic nastavio je s izdavanjem naprednih modela i alata, kao što su njegov popularni asistent Claude i novi model Mythos, za koji tvrtka tvrdi da može otkriti i iskoristiti kibernetičke sigurnosne propuste iznimnom brzinom. Tvrtka se također priprema za inicijalnu javnu ponudu (IPO).
Kritičari su u vrijeme pisma iz 2023. godine tvrdili da bi zaustavljanje razvoja nepotrebno ugušilo inovacije te da bi američke tvrtke, pristankom na povlačenje kočnice, prepustile prednost drugim zemljama. Bivši izvršni direktor Googlea Eric Schmidt upozorio je da bi pauza dala prednost konkurentima u Kini, koja je zaključana u tehnološkom trgovinskom ratu s SAD-om.
Anthropicovi autori priznali su ove poteškoće i naveli da je "kontrola naoružanja" za AI izazovnija nego za druge tehnologije.
"Procese treniranja modela daleko je lakše sakriti nego raketne silose, njihovi su inputi opće namjene, a poticaj za potajno kršenje dogovora je golem jer onaj tko nastavi dok drugi pauziraju može preuzeti vodstvo", napisali su. Iako je svijet u prošlosti gradio slične režime, za njih je "bilo potrebno desetljeće da se izgrade i infrastruktura i povjerenje. Mi nemamo toliko vremena."
.webp){kind=icon}
