Računi kompanija za AI veći su nego ikad – i dolaze na naplatu

U nadolazećim mjesecima neki od najvećih svjetskih laboratorija za umjetnu inteligenciju –uključujući OpenAI i Anthropic PBC - debitirat će na javnim tržištima uz procjene vrijednosti od blizu bilijun dolara svaki. Alphabet Inc. koristi tržišta dionica i duga kako bi financirao svoju potrošnju na AI, dok starije kompanije poput Hewlett Packard Enterprise Co.-a, Dell Technologies Inc.-a i Nokie Oyj također profitiraju od ove zlatne groznice.

Svi se uključuju u okladu da će umjetna inteligencija učiniti kompanije profitabilnijima i produktivnijima. No istina je složenija. Rasprava o povratu ulaganja u AI tvrdoglavo ustraje, djelomično zato što kompanije još uvijek nemaju široka, mjerljiva poboljšanja koja mogu navesti, pri čemu se potrošnja opravdava od slučaja do slučaja. Glavni izvršni direktor kompanije Nvidia Corp., Jensen Huang, ovog je tjedna investitorima obećao "lude" povrate od AI-ja (nazvavši "ludima" one koji sumnjaju u potencijalne povrate ove tehnologije), no sljedećih nekoliko mjeseci inicijalnih javnih ponuda lako bi mogli pokazati da je riječ o vrhuncu, a ne o početku novog procvata.

Jedan niz upozoravajućih signala dolazi od kompanija koje smatraju AI korisnim – ali daleko preskupim. Uber Technologies Inc. nedavno je postavio ograničenja na korištenje AI alata za kodiranje za svoje osoblje nakon što je kompanija potrošila cijeli svoj godišnji proračun za AI u samo nekoliko mjeseci. Walmart Inc. je ograničio zaposlenicima korištenje alata za generiranje tablica i prezentacija, odmaknuvši se od dodjele neograničenog broja tokena –podatkovne mjere za potrošnju – svojim radnicima. Jedna neimenovana kompanija navodno je slučajno potrošila 500 milijuna dolara na tokene u samo jednom mjesecu nakon što je uvela Anthropicov Claude svojoj radnoj snazi, ali je propustila postaviti limite potrošnje. Mnogo prigovora na troškove dolazi i iz financijskog sektora, na što ukazuje moj kolega Lionel Laurent.

Prošle godine, hit trend među korporativnim korisnicima bio je tokenmaxxing, odnosno korištenje AI-ja u najvećoj mogućoj mjeri kako bi se potaknula produktivnost i napredovalo na internim ljestvicama. No sve više tvrtki sada na teži način uči da što više tokena potroše, to su troškovi AI-ja veći.

Konzultantska kuća Bain & Company sažela je taj problem u nedavnom izvješću pod naslovom Vaš proračun za AI raste. Vaši povrati ne. Utvrdili su da, iako su neke kompanije prijavile smanjenje troškova od 10 posto do 20 posto nakon korištenja AI-ja, mnoge su ulagale još više novca u tehnologiju prije nego što su se te uštede u potpunosti ostvarile, zapravo se oslanjajući na slijepu vjeru.

Optimističan argument glasi da smo još uvijek u fazi eksperimentiranja u kojoj mnoge kompanije ne mjere sve prave stvari. Najveća vrijednost AI-ja mogla bi proizaći ne samo iz smanjenja troškova, već iz stvaranja korisnijeg rada. Kada sam pitala Anastasisa Germanidisa, suosnivača tvrtke Runway AI Inc., o tome koliko će njegovi alati za generiranje videa smanjiti holivudske proračune, on je uzvratio sugestijom da to nije cilj. "Imat ćemo daleko više vizualnog pripovijedanja u svijetu", rekao je Germanidis. "Više s istim iznosom proračuna."

Tim Rocktäschel, suosnivač tvrtke Recursive Superintelligence s adresama u Londonu i San Franciscu, kaže mi da mnogim kompanijama trenutačno nedostaju vještine za ispravnu integraciju AI-ja. OpenAI i Anthropic prepoznali su taj jaz i zapošljavaju više inženjera za izravnu podršku (forward-deployed engineers), odnosno softverskih dizajnera koji također rade s klijentima kako bi im pomogli da koriste AI na najučinkovitiji način, rekao je. Za Rocktäschelov vlastiti startup, AI agenti pomogli su u razvoju modela za koje bi inače bile potrebne stotine istraživača, koristeći samo "desetak ljudi".

No mnoge druge tvrtke uviđaju da se AI sve više ponaša kao računi za režije kojima nema kraja. Svaki upit, halucinirani nacrt ili preopširna sesija kodiranja ima svoju cijenu jer se u osnovi radi o softveru koji se naplaćuje po potrošnji.

To je djelomično rezultat samih razmjera u kojima kompanije konzumiraju AI. Pružatelji usluga oduvijek su korporativnim klijentima naplaćivali po potrošnji, ali donedavno je većina zaposlenika pristupala AI-ju putem pretplata s fiksnom stopom ili pilot-projekata s ograničenom cijenom, pa su troškovi tokena ostajali ispod radara. Sada kada tvrtke implementiraju agente i alate za kodiranje te uvode AI na razini cijele kompanije, ti troškovi po upitu napokon postaju dovoljno veliki da počnu boljeti.

Sada kada su ti troškovi izašli na vidjelo, naplata po potrošnji prisiljava kompanije da se suoče s pitanjem koje su AI laboratoriji prikladno odgađali dok su stvarali preuveličani interes (hype): je li njihova tehnologija dovoljno korisna da opravda račun. Ako još mnogo korisnika AI-ja krene putem Ubera i Walmarta, to će biti problem za tržište koje je do sada jahalo na nevjerojatno visokim valovima.