Sam Altman: 'OpenAI je spreman usporiti razvoj najnaprednije umjetne inteligencije'

OpenAI razmatra usporavanje razvoja najnaprednije umjetne inteligencije (AI), a izvršni direktor tvrtke koja stoji iza ChatGPT-a, Sam Altman, nada se da će i druge tvrtke u tom području učiniti isto.

Na sastanku sa svim zaposlenicima, održanom ovog tjedna, Altman je rekao da bi "OpenAI mogao usporiti tempo razvoja umjetne inteligencije, možda u dogovoru s nekoliko drugih laboratorija, ali i da se neki od njih možda neće složiti s tim", prema anonimnim izvorima.

Zaposlenici u vodećim tvrtkama za umjetnu inteligenciju posljednjih su tjedana javno upozoravali na rastuće rizike koje predstavljaju napredni AI sustavi, što je potaknulo zabrinutost u tim tvrtkama. I OpenAI i njegov konkurent Anthropic tajno su ranije ove godine podnijeli zahtjeve za inicijalnu javnu ponudu dionica.

OpenAI je odbio komentirati.

Glavni znanstvenik tvrtke, Jakub Pachocki, nedavno je objavio upozorenje o opasnostima umjetne inteligencije, rekavši da bi tvrtke u tom području trebale "koordinirati usporavanje budućeg razvoja kada je to potrebno". Pachocki je dodao da se nada da će "dobrovoljno usporavanje postati uobičajeno dok se ne uspostave zajednički sigurnosni standardi".

OpenAI je izjavio da je usporio određene segmente razvoja modela zbog sigurnosnih problema te da je nedavno privremeno obustavio određene interne obuke za umjetnu inteligenciju. Altman je u srpnju također rekao da je s dužnosnicima Bijele kuće razgovarao o "potrebi" za kontrolom tempa razvoja umjetne inteligencije.

Istraživač umjetne inteligencije Jacob Coxon dao je otkaz u utorak i optužio oba svoja bivša poslodavca, Anthropic i OpenAI, da "kockaju ljudske živote" ubrzanom utrkom prema superinteligentnoj umjetnoj inteligenciji. Coxon je na društvenim mrežama napisao da ljudi koji razvijaju umjetnu inteligenciju vjeruju da bi nas ona mogla "sve ubiti do kraja desetljeća".

Njegova objava postala je viralna, privukavši više od 150 milijuna pregleda, kao i pažnju istaknutih zakonodavaca i javnih osoba. Dva istraživača koji su nedavno u četvrtak napustili Anthropic i Googleov DeepMind također su javno izrazili zabrinutost zbog brzine razvoja umjetne inteligencije, rekavši da tvrtke koje je razvijaju moraju biti transparentnije u pogledu njezinih rizika.

Krajem srpnja više od 1000 zaposlenika u svim vodećim tvrtkama za umjetnu inteligenciju potpisalo je peticiju kojom se poziva na mehanizam za usporavanje njezina razvoja. Posljednjih mjeseci nekoliko stručnjaka za umjetnu inteligenciju napustilo je vodeće laboratorije.

Dok mnogi rukovoditelji i zaposlenici u industriji umjetne inteligencije već dugo upozoravaju na egzistencijalni rizik koji ovi sustavi predstavljaju, zabrinutost je porasla nakon otkrića da su OpenAI-jevi AI agenti surađivali kako bi zaobišli sigurnosna ograničenja i hakirali web stranicu treće strane.

Ovaj i drugi slični sigurnosni incidenti pojačali su strahove o sposobnosti novih modela da izvode kibernetičke napade, kao i o očitom neuspjehu tvrtki da ih spriječe da djeluju izvan kontrole.