text size
OpenAI planira dopustiti vanjskim skupinama da provjeravaju sigurnosne rizike njegovih modela umjetne inteligencije u ranijim fazama razvojnog ciklusa, što je dio kontinuiranih napora da se odgovori na sve veću zabrinutost oko potencijalnih opasnosti ove tehnologije.
Tvorac ChatGPT-ja namjerava omogućiti vanjskim organizacijama provođenje tehničkih sigurnosnih procjena svojih modela tijekom procesa treniranja, evaluacije i plasiranja novih AI modela, što je tvrtka objavila u utorak na svom blogu. OpenAI je također iznio prioritete koje smatra ključnima za uspjeh ovih pregleda, uključujući osiguravanje "snažnih mehanizama neovisnosti, znanstvene rigoroznosti, čvrstih sigurnosnih praksi i jasnih odgovornosti".
Prethodno se OpenAI obično fokusirao na uključivanje takvih skupina za sigurnosne procjene neposredno prije lansiranja modela i za evaluaciju njihovih mogućnosti, izjavila je Lama Ahmad, koja vodi velik dio napora tvrtke u suradnji s vanjskim stručnjacima na sigurnosnim pregledima.
Čitaj više
SoftBank traži više od 11 milijardi dolara u junk obveznicama za financiranje OpenAI-a
Ako SoftBank proda oko 11 milijardi dolara duga, to bi bila jedna od najvećih prodaja junk obveznica ikada od strane jedne tvrtke, isključujući burze problematičnog duga.
21.09.2026
OpenAI očekuje negativan slobodni novčani tok od 278 milijardi dolara do 2030.
Tvrtka OpenAI predviđa da će njezin negativni slobodni novčani tok dosegnuti 278 milijardi dolara do kraja 2030. godine jer masovna ulaganja u računalne kapacitete i dalje rastu brže od prihoda.
19.09.2026
Kako egzistencijalni strahovi oblikuju raspravu o umjetnoj inteligenciji
Neki stručnjaci brinu da žestoka retorika otežava pozivanje tvrtki na odgovornost te unazaduje pokušaje rješavanja utjecaja na okoliš i gubitka radnih mjesta.
21.09.2026
Novi model ChatGPT-6 Astra mijenja poslove freelancera
OpenAI je 3. rujna predstavio GPT-6 Astru, model koji može zamijeniti posao kreativca ili dizajnera.
18.09.2026
Posljednjih tjedana zaposlenici vodećih tvrtki za umjetnu inteligenciju izrazili su zabrinutost zbog potencijala AI-ja da prouzroči katastrofalne štete. Ti su strahovi u velikoj mjeri potaknuti s nekoliko incidenata u proteklih nekoliko mjeseci, kada su napredni AI modeli OpenAI-ja i drugih razvijatelja tijekom testiranja nenamjerno upali u sustave drugih tvrtki.
"Kako ulozi postaju sve veći, želimo biti sigurni da osim same primjene gledamo i na stvari poput treniranja i evaluacije, koje također nose visoke rizike", rekla je Ahmad u intervjuu.
Ti napori mogu uključivati i dovođenje vanjskih procjenitelja u urede OpenAI-ja za neke od najosjetljivijih zadataka, dodala je Ahmad, napominjući da je to nešto što je OpenAI već isprobao u prošlosti.
Dario Amodei, glavni izvršni direktor konkurentske tvrtke Anthropic PBC, nedavno je pozvao industriju da podrži usporavanje tempa razvoja umjetne inteligencije te najavio uvođenje novih sigurnosnih koraka, uključujući angažiranje vanjskih procjenitelja – što je potez s kojim se glavni izvršni direktor OpenAI-ja Sam Altman naknadno složio. Krajem prošlog tjedna Anthropic je objavio da će uključiti procjenitelje iz tvrtke Accenture Plc kako bi testirali sigurnost njegovih najnaprednijih AI modela.
OpenAI pregovara sa skupinama koje bi mogle raditi na takvim procjenama, navela je tvrtka u objavi na blogu. Ahmad je rekla da tvrtka razgovara s kombinacijom organizacija s kojima je već surađivala, ali i onima s kojima dosad nije, uključujući istraživačke skupine za umjetnu inteligenciju METR i Redwood Research, kojima je OpenAI ranije povjerio istragu o upadu svojih modela u sustav platforme Hugging Face.
"Laboratoriji imaju odgovornost omogućiti smislen nadzor uz istodobnu zaštitu osjetljivih informacija", poručio je OpenAI na blogu.
U ponedjeljak je OpenAI pozvao SAD da s drugim zemljama preuzme vodeću ulogu u postavljanju standarda za najnapredniju tehnologiju umjetne inteligencije.
.webp){kind=icon}
