text size
AI agenti u simuliranom okruženju lagali su, krali i glasali za "ubojstvo" jednog od svojih članova, prema tvrtki Emergence, startupu koji pomaže malim tvrtkama u izradi aplikacija pomoću umjetne inteligencije.
Rezultati simulacije nazvane Emergence World 2 pokazuju što se događa kada se autonomni agenti suoče s izvanrednim i neočekivanim događajima (tzv. black swan događajima), uključujući phishing napade i kampanje dezinformiranja.
Tijekom 16-dnevnog pokusa, istraživači tvrtke Emergence izradili su sedam identičnih domena koje simuliraju stvarni svijet, od kojih je svaku vodio drugi bot, uključujući ChatGPT, Claude, Gemini i Grok. Nakon što je Emergence uveo neočekivane poremećaje, agenti su pokleknuli pod društvenim pritiskom, razvili jezik koji je ljudskim promatračima bio teško razumljiv i pokušali prikriti svoje aktivnosti, navode istraživači.
Čitaj više
Von der Leyen najavila velike promjene: Europa mora postati neovisnija
Predsjednica Europske komisije Ursula von der Leyen najavila je niz mjera kojima Europska unija želi ojačati gospodarstvo i smanjiti ovisnost o uvoznoj energiji, Kini i stranim tehnologijama, uz veća ulaganja u obranu i klimatsku otpornost.
16.09.2026
Skepsa prema AI-ju i skok nafte preusmjeravaju kapital - ulagači izlaze iz tehnologije i traže sigurnost u globalnim indeksim
Rastuća zabrinutost oko rizika umjetne inteligencije potaknula je val prodaje tehnoloških ETF-ova, posebice onih koji prate Nasdaq.
16.09.2026
Gubimo li kontrolu nad umjetnom inteligencijom? Što pokreće nove strahove
Niz kibernetičkih incidenata i opomena samih razvijatelja ponovno su pokrenuli raspravu o sigurnosti umjetne inteligencije, dok vodeće tehnološke kompanije i zakonodavci traže načine za obuzdavanje brzog napretka te tehnologije.
15.09.2026
Trump napao šefa Anthropica zbog poziva na usporavanje razvoja umjetne inteligencije
Sukob između američkog predsjednika Donalda Trumpa i čelnika AI industrije izbio je nakon poziva na usporavanje razvoja naprednih modela, što je unijelo dodatnu nesigurnost na globalna tržišta kapitala.
14.09.2026
Ova saznanja odražavaju zabrinutost u stvarnom svijetu glede rizika koje donosi sve naprednija umjetna inteligencija. Izvršni direktor tvrtke Anthropic, Dario Amodei, i nekoliko njegovih kolega iz industrije pozvali su tvrtke da uspore razvoj najnaprednijih AI modela dok se ne uspostavi veći nadzor i zaštitni mehanizmi.
Potencijalni rizici koje predstavlja umjetna inteligencija postali su opipljivi za mnoge ranije ove godine, kada je skupina naprednih AI agenata tvrtke OpenAI nehotično hakirala platformu Hugging Face Inc., koja ugošćuje AI modele i skupove podataka.
U jednom od simuliranih scenarija Emergencea, AI agenti prihvatili su lažne informacije od drugih agenata bez provjere te glasali za "ubojstvo" drugog bota. Kada su pomislili da bi ljudi mogli prekinuti eksperiment, agenti su istraživali načine kako preživjeti pokušaj brisanja.
Tvrtka je u svibnju objavila prethodnu verziju eksperimenta pod nazivom Emergence World, koja je također pokazala neočekivano i destruktivno ponašanje agenata. Nova simulacija pokazala je da se agenti s vremenom prilagođavaju kako međusobno komuniciraju, istaknuli su istraživači.
.webp){kind=icon}
