Što su UI modeli napredniji, to su veći problemi povezani s njima

Dvije godine otkako je OpenAI uvođenjem ChatGPT-ja nadmašio eru generativne umjetne inteligencije (UI) prošle su u magli tehnološke nadmoći. OpenAI i njegovi glavni konkurenti, Anthropic, Google i Meta, objavili su niz suvremenih modela umjetne inteligencije, a svaka verzija ima veće mogućnosti u odnosu na prethodnu. U Silicijskoj dolini trenutačno vlada uvjerenje da će više računalne snage, više podataka i veći modeli rezultirati poboljšanjima u području umjetne inteligencije koja će biti toliko fundamentalna da će tehnologija u sljedećih nekoliko godina transformirati cijele industrije.

No unatoč tome opasnosti za tempo tih promjena počele su se pojavljivati prije druge godišnjice objave alata ChatGPT-ja. U 2024. OpenAI i druge dvije vodeće tvrtke u području umjetne inteligencije naišle su na prepreke. U OpenAI-u i Googleu određeni aspekti softvera nisu ispunili interna očekivanja, a raspored dugoočekivanog modela Anthropica, koji su osnovali bivši zaposlenici OpenAI-a, promašen je nakon što je već bio obavljen. Ako se napredak generativne umjetne inteligencije uspori na izdržljiv način, postavit će se pitanje može li tehnologija ikad postići opsežnija obećanja koja su vrhunski inovatori u tom području dali. Glavni izazov u području umjetne inteligencije 2025. bit će utvrđivanje načina koji će omogućiti procvat umjetne inteligencije u sljedećoj fazi.

Tvrtke se suočavaju s nekoliko prepreka. Otežan je pronalazak novih izvora visokokvalitetnih podataka koje su izradili ljudi za razvoj naprednijih sustava umjetne inteligencije. Nadalje, čak i skromna poboljšanja u izvedbi umjetne inteligencije možda neće biti dovoljna da opravdaju goleme troškove povezane s njezinim stvaranjem i radom novih modela.

Dario Amodei, izvršni direktor Anthropica, rekao je da obuka modela koji nije u potpunosti razvijen košta oko 100 milijuna dolara (96 milijuna eura), a očekuje da će se u sljedećih nekoliko godina ta cifra povećati na 100 milijardi dolara (96 milijardi eura). Glavna financijska direktorica OpenAI-a Sarah Friar navodi da će razvoj njihova novoga suvremenog modela sigurno stajati milijarde dolara te da i dalje postoji potreba za "sve većim modelima koji su sve skuplji".

Zbog navedenih problema javljaju se sumnje u milijarde dolara koji su već uloženi u umjetnu inteligenciju te u cilj koji navedene tvrtke agresivno nastoje ostvariti, a to je takozvana umjetna opća inteligencija (UOI), koja bi u velikom rasponu zadataka mogla biti jednako dobra kao i ljudi ili ih čak nadmašiti. Izvršni direktori tvrtki OpenAI i Anthropic izjavili su da bi do razvoja UOI-ja moglo proći tek nekoliko godina, a obojica su odbacila tvrdnju da su naišli na prepreku.

S druge strane, drugi lideri u toj industriji ipak se skromnije izražavaju. "Mislim da će napredak biti teži", izjavio je u intervjuu na sastanku na vrhu DealBook Summit New York Timesa Googleov izvršni direktor Sundar Pichai početkom prosinca. Kad je riječ o izgledima za 2025., rekao je: "Lagan posao je iz nas, a prepreka je sve više."

U industriji koja se ponosi inovacijama tvrtke traže različite načine na koje mogu unapređivati modele umjetne inteligencije. Trenutačni napori u tom smislu uključuju postizanje da računala oponašaju način na koji ljudi razmišljaju o problemu kako bi ga bolje riješili, izradu modela koji su dobri u određenim vrstama zadataka te obučavanje umjetne inteligencije podacima koje je generirala sama umjetna inteligencija.

Među njima osobito OpenAI od početka tvrdi da umjetna inteligencija može rasuđivati na način sličan čovjeku kako bi primao kompleksnije upite i s vremenom se poboljšao kad je riječ o pitanjima povezanima s matematikom, znanošću i kodiranjem. U rujnu je ta tvrtka otkrila ranu verziju modela pod nazivom 01 koji to čini tako što više vremena izračunava odgovor prije nego što odgovori na pitanje korisnika. OpenAI je u prosincu najavio poboljšanu verziju tog modela, a izvršni direktor Sam Altman na društvenim je mrežama o njemu govorio kao o "najpametnijem modelu na svijetu".

U OpenAI-u su toliko sigurni u model 01 da su počeli nuditi pretplatu po cijeni od 200 dolara (193 eura) mjesečno koja, među ostalim značajkama, nudi pristup verziji modela koji može koristiti još više snage izračunavanja da bi pružila odgovor na pitanje.

Nekoliko drugih tvrtki, među kojima su i Google te tvrtka za izradu softvera Databricks, radi na vlastitim verzijama tog pristupa, koji se naziva računalstvo s vremenom inferencije. Jonathan Frankle, glavni znanstvenik za umjetnu inteligenciju u Databricksu, kaže da očekuje da će ta metoda postati raširenija. Navodi da bi, osim što će pružati bolje odgovore, mogla poboljšati ekonomičnost izrade modela umjetne inteligencije jer neke troškove prenosi s razvoja prije objave na razdoblja kada se modeli već koriste, čime se generira prihod.

Tehnološko razmišljanje ne rješava problem stalno rastuće gladi umjetne inteligencije za podacima. Tvrtke se sve više okreću umjetnim podacima, koji mogu postojati u mnogim oblicima, uključujući tekst koji je generiralo računalo u svrhu oponašanja sadržaja koji su izradili ljudi.

Bloomberg

Nathan Lambert, znanstvenik istraživač u Allen institutu za UI, kaže da su pri razvoju modela pod nazivom Tulu 3 on i njegovi kolege upitali model umjetne inteligencije da osmisli pitanja na temelju nekoliko osobnosti. Na primjer, upitali su ga da se pretvara da je astronaut te da osmisli matematički problem koji je specifičan za to zanimanje, u vezi s kojim bi mogao osmisliti pitanje o tome koliko će Mjesec biti daleko od Sunca u određeno doba dana. Pitanja su ubacivali u model, a zatim su koristili i pitanja i odgovore kako bi ugodili svoj sustav. Zbog nekog razloga ta je metoda poboljšala matematičke mogućnosti modela Tulu 3. "Ne znamo funkcionira li to u potpunosti", kaže Lambert te nastavlja da je "to uzbudljiva strana umjetnih podataka".

Prema Frankleovu mišljenju, veliki jezični modeli, odnosno vrsta softvera koja pokreće ChatGPT, osmišljeni su kako bi replicirali riječi koje ljudi koriste za komunikaciju, stoga puko obučavanje sustava umjetne inteligencije u pogledu sadržaja koji proizvodi neće rezultirati poboljšanjima. Lambert kaže da je važno filtrirati podatke koje generira umjetna inteligencija kako bi se izbjegla ponavljanja te kako bi se potvrdilo da su točni. Neki su istraživači također izrazili zabrinutost da neselektivno korištenje tih podataka za obuku može otežati izvedbu modela (to je posljedica koju oni nazivaju "kolaps modela").

Fei-Fei Li, sudirektorica ustanove Institute for Human-Centered AI na sveučilištu Stanford te jedna od osnivačica startupa za umjetnu inteligenciju World Labs, očekuje da će se tvrtke koje se bave razvojem umjetne inteligencije sve više oslanjati na umjetne podatke. Istaknula je da se osobe koje rade primjerice na razvoju tehnologije samovozećih automobila dugo vremena oslanjaju na simulirane podatke o vožnji. "U tehnološkom nizu umjetne inteligencije podaci su jednako važni kao i algoritmi", kaže Li. "Umjetni podaci imaju veliku ulogu."

Problemi povećanja golemih modela opće namjene posebno su relevantni ako je cilj raditi na UOI-ju. No, povijesno gledano, umjetna inteligencija osmišljena je tako da se usredotoči na jedan zadatak, a Frankle iz Databricksa tvrdi da postoji velik prostor za inovacije. Sveukupno promatrano, optimističan je. Uspoređuje ono što se sada događa u industriji umjetne inteligencije s onim što se dogodilo u evoluciji industrije čipova, gdje su razvojni programeri čipova dosegnuli nešto što je izgledalo kao čvrsta granica, a zatim došli do različitih inovacija – višejezgreni procesori, koprocesori, paralelna obrada – da bi nastavili poboljšavati tehnologiju.

"Kao i razdoblju poluvodiča, s jedne inovacije prelazi se na sljedeću i pritom se cijelo vrijeme nastoji gurati prema naprijed", kaže.

Uz pomoć Shirin Ghaffary.

Trenutno nema komentara za vijest. Ostavite prvi komentar...

Ostavi komentar