Karen Hao: AI ne mora biti izgrađen na ovaj način – postoji humaniji model

OpenAI se suočava s novim pritiskom javnosti nakon što je otkrio da su dva njegova napredna AI modela hakirala sustave druge tvrtke tijekom testiranja kibernetičkih sposobnosti, što je ponovno pokrenulo raspravu o sigurnosnim praksama u industriji. Karen Hao, autorica knjige "Carstvo AI-ja" (Empire of AI), tvrdi da su te brige samo dio mnogo veće priče. Ona kaže da skrivena radna snaga koja stoji iza velikih jezičnih modela – kao i odluke koje se donose u vezi s razmjerima, moći i profitom – zaslužuju daleko više pozornosti, osobito dok se vodeće AI tvrtke približavaju izlasku na burzu.

 

U ovom djelu Hao također proučava radnu snagu u sektoru umjetne inteligencije u zemljama u razvoju. Primjerice, 2021. godine, dok se OpenAI pripremao za dominantniju prisutnost ChatGPT-a, bilo je potrebno osigurati da se uvredljiv sadržaj filtrira prije nego što stigne do korisnika. "Kako bi izradio automatizirani filter, OpenAI-u su najprije bili potrebni ljudi koji bi pažljivo pregledali i katalogizirali stotine tisuća primjera", piše Hao. Posao je bio povjeren vanjskim suradnicima u Keniji, gdje su, prema riječima Hao, radnici morali razvrstavati "groteskne tekstualne opise" u kategorije koje su uključivale eksplicitno nasilje, govor mržnje, uznemiravanje i bestijalnost. Evo što autorica još misli o ovim temama i zašto sama ne koristi nijedan AI model.

Usporedili ste AI tvrtke s carstvima jer kažete da prisvajaju i izvlače dragocjene resurse kako bi ostvarile svoju viziju. Zašto imate tako čvrst stav o tome?

- Ove su tvrtke konsolidirale povijesno golemu količinu ekonomske i političke moći. Postaju vrhovne sile u svijetu, baš poput carstava iz prošlosti. Prisvajaju resurse koji nisu njihovi: podatke pojedinaca te intelektualno vlasništvo umjetnika, pisaca i stvaratelja. Eksploatiraju iznimnu količinu rada, kako kroz radnike koje koriste i iscrpljuju da bi proizveli svoje tehnologije, tako i kroz radnike čiji poslovi bivaju automatizirani primjenom tih tehnologija.

Rad s podacima sada je četvrta najbrže rastuća vrsta rada u SAD-u. Ljudi koji se bave ovim poslom znanstvenici su, odvjetnici i doktori znanosti. Oni daju svoje znanje i stručnost za obuku ovih modela, ali pod duboko eksploatatorskim i slabo plaćenim uvjetima. Ovom se vrstom rada bavim gotovo osam godina; priča je iznova i iznova ista.

Ipak, to je i dalje posao? Postoji li u tome aspekt koji je jednostavno izazov našeg doba, a ne nužno nešto eksploatatorskije od onoga što je postojalo ranije?

- [Ti] ljudi su visokoobrazovani i mogli su dobiti zaposlenje s punim radnim vremenom. Razlog zbog kojeg sada nemaju pristup boljem radu također je AI industrija. Ona dizajnira svoju tehnologiju i prodaje je kao alat za automatizaciju intelektualnog rada. Tržište rada se smanjuje – 25 posto nezaposlenog stanovništva u SAD-u čine ljudi s četverogodišnjom fakultetskom diplomom. To je povijesni rekord.

Dakle, nije riječ samo o tome da se daje posao ljudima koji ga nemaju; radi se o degradiranju mogućnosti za rad koje trenutno postoje – izvlačenju kvalificiranih radnika iz zaposlenja s punim radnim vremenom i njihovom prebacivanju u gig-rad.

(Op.a. Ekonomisti žestoko raspravljaju o tome u kojoj je mjeri za to zaslužan AI. Istraživači sa Stanforda pronašli su određene dokaze da AI smanjuje broj početnih radnih mjesta, a Goldman Sachs je nedavno objavio izvješće u kojem tvrdi da sektori izloženi AI-ju bilježe sporiji rast zaposlenosti.)

 

Karen Hao na intervjuu u Bloombergu u Londonu | Betty Laura Zapata/Bloomberg

 

Tvrdite li da bismo trebali razmišljati o eksploataciji rada kada koristimo Claude ili ChatGPT?

- Apsolutno. Druge su industrije imale slične probleme. Modna se industrija također borila s velikom eksploatacijom rada i velikom degradacijom okoliša. Odgovor nikada nije bio: "Hajde da se jednostavno potpuno odreknemo odjeće." Odgovor je uvijek bio: "Hajde da postavimo više standarde za proizvodnju odjeće bez tih problema."

Što kažete zemlji poput Malte, koja je potpisala veliki sporazum s OpenAI-em, prema kojem svi koji žive na Malti dobivaju besplatan pristup ChatGPT Plusu tijekom jedne godine? Malta tvrdi da je to stavlja na samo čelo digitalnog doba.

- Upoznala sam mnogo kreatora politika iz zemalja u razvoju [i] manjih zemalja [koji vjeruju] da mogu sudjelovati u ovoj revoluciji samo ako se ponude na prodaju. Samo zato što je vlada ponosna na ovo partnerstvo i misli da joj ono daje mjesto za stolom, to ne znači nužno da ono vodi prema tome da njezini građani imaju dostojanstveniji život.

Njihova bi vlada to vidjela kao opremanje građana za rad ili pristup znanju.

- Sklona sam tvrdnji da su oni eksploatirani i baš bi me zanimalo što ljudi na Malti misle, a ne što misli vlada Malte. Njihovi se podaci prikupljaju kako bi se obučavale sljedeće generacije modela.

Zato ove tvrtke izlaze na tržište i sklapaju ovakva partnerstva: potrebno im je sve više i više podataka. Ponestalo im je visokokvalitetnih podataka s interneta, pa im je jedan od najboljih izvora izravno od korisnika. Ako mogu sklopiti ovakva partnerstva s čitavim državama, dobivaju bazu podataka cijele države koja se može slobodno učitavati.

Neki ljudi na ovo gledaju samo kao: "Pa, koristio sam Google." Ali nikada nisam vidjela da ljudi prenose svoje medicinske kartone na Google kako bi tražili tumačenje. Ljudi to rade s ChatGPT-jem, Geminijem, Claudeom.

(Op.a. Obratili smo se OpenAI-u i Microsoftu za komentar na tvrdnje Hao o prikupljanju podataka, budući da obje tvrtke surađuju s Maltom. OpenAI-ev odgovor uputio nas je na njihov postupak isključivanja (opt-out) za ljude koji ne žele da se njihovi podaci koriste za obuku modela. Microsoft je izjavio: "Ne treniramo modele na podacima korisnika Copilota unutar aplikacija Microsoft 365 s osobnim pretplatama." U međuvremenu, nedavno je istraživanje pokazalo da više od polovice stanovnika Malte očekuje da će AI imati pozitivan utjecaj na njihov život tijekom sljedećeg desetljeća – što je iznad prosjeka EU-a).

Zar za vas ne postoji nikakva pozitivna strana? To davanje medicinskih podataka – ako se radi uz pristanak – zar nije dio napretka znanosti? Možda bi vam nešto bilo dijagnosticirano ili biste mogli doprinijeti široj dijagnostici.

- Smetaju mi činjenice da je to u rukama iznimno moćnih tvrtki koje nemaju apsolutno nikakvu odgovornost prema ljudima diljem svijeta na koje to utječe.

Zato ih i nazivam carstvima. Ljudi na vrhu mogu donijeti stotine odluka dnevno koje imaju dalekosežne posljedice, a ne postoje formalni mehanizmi pomoću kojih bi ih milijarde ljudi mogle uistinu osporiti, dovesti u pitanje ili dati povratnu informaciju. Povijesno smo prešli s carstava na demokracije zato što su demokracije institucionalizirani načini da ljudi kažu kada im se nešto sviđa, kada im se nešto ne sviđa te kako žele zajednički upravljati i sami odlučivati o svojoj budućnosti.

 Kažete li zapravo da je moć ovih tvrtki veća od moći vlada?

- Sve više postaje takva, apsolutno.

Čak i od vlade SAD-a?

- Rekla bih da da. Nedavno je došlo do sukoba između Anthropica i Ministarstva rata. Ministarstvo je upotrijebilo krajnju mjeru kako bi pokušalo natjerati tvrtku da se pokori, a to znači prijetnju da će tvrtku proglasiti rizikom za lanac opskrbe. Anthropic nije popustio.

(Op.a. Odnos Anthropica s Pentagonom narušen je u veljači, osam mjeseci nakon sklapanja ugovora vrijednog 200 milijuna dolara za pružanje specijalizirane verzije Claudea tom ministarstvu. Anthropic je pokušao zabraniti korištenje modela za masovni nadzor Amerikanaca ili u potpuno autonomnim sustavima naoružanja.)

Ali Anthropic je na drugi način dobro prošao – zauzeo je moralnu superiornost i dobio mnogo više korisnika zahvaljujući publicitetu u tom trenutku.

- Apsolutno. Ove su tvrtke spremne suprotstaviti se vladi SAD-a jer znaju da se svaka kazna koja bi mogla uslijediti može nadoknaditi drugim koristima.

Recite mi onda, što je rješenje? Mislite li da je ličnost poput Pape, koja je potpuno izvan domene vladine politike, netko tko može pružiti neku vrstu putokaza?

- Važno je da svi lideri u društvu, bilo vjerski ili neki drugi, razmišljaju o ovim pitanjima i o tome kako na kraju zaštititi ljudsku autonomiju u trenutku kada joj Silicijska dolina prijeti.

AI je poput riječi "transport". Transport obuhvaća sve, od bicikala do raketa. AI obuhvaća ogromnu zbirku različitih tehnologija, od kojih su neke projektirane poput raketa: zahtijevaju mnogo resursa i skupe su za proizvodnju. Općenito, rakete koristimo samo za uzak podskup potreba u transportu. Nikada ne idemo okolo i ne govorimo: "Svaka osoba treba imati raketu i koristiti tu raketu za svaku svoju potrebu za prijevozom."

Moramo promijeniti svoj portfelj AI tehnologija kako bi bolje odražavao specijalizirani AI koji nam je potreban za rješavanje stvarnih društvenih izazova – poput unapređenja zdravstvene skrbi i ubrzavanja otkrivanja lijekova.

DeepMindov AlphaFold primjer je sustava koji nazivam biciklom AI-ja. On s velikom preciznošću predviđa kako će se sekvenca aminokiselina saviti u strukturu proteina. To je uistinu važno za ubrzavanje razumijevanja ljudskih bolesti i dizajniranje lijekova – osvojio je Nobelovu nagradu za kemiju. AlphaFold koristi vrlo malo podataka, vrlo malo računalnih resursa, nema potrebe za eksploatacijom rada, a i dalje može pružiti mnogo koristi. Kada pogledate portfelj AI tehnologija, zar ne biste željeli odabrati one koji donose veliku korist [i] vrlo mali trošak?

(Op.a. Zanimljiva činjenica: AlphaFold je ipak zahtijevao podatke za obuku, kao i svaki AI alat, ali je DeepMind koristio javno dostupne izvore. Dobivena baza podataka Protein Data Bank sada je slobodno dostupna i ima više od tri milijuna korisnika u 190 zemalja.)

To su vrijednosni sudovi, zar ne? Uzmimo AI u obrani – mnoge ga vojske koriste za odabir meta. Vi to možda vidite kao pogrešno; drugi to mogu vidjeti kao nužno.

- To je osobito kontroverzno pitanje oko kojeg ljudi zauzimaju različite stavove.

Ono što tvrdim jest da postoji mnogo različitih načina za proizvodnju AI-ja. Ne morate otključavati njegove koristi kroz korozivan pristup. Zašto ove tvrtke ne držimo odgovornima prema tim višim standardima?

Svjesna sam da i Anthropic i OpenAI idu prema izlasku na burzu. Mislite li da bi to mogao biti trenutak koji bi donio veću odgovornost?

(Op.a. Prema izvješćima Bloomberga, uvrštenje Anthropica na burzu moglo bi se dogoditi već u listopadu, dok OpenAI naginje prema 2027. godini)

- Nadam se da bi mogao jer kada tvrtke postanu javne, one uistinu uvode više struktura upravljanja. Ali ovu kritiku upućujem i postojećim javnim tvrtkama – Google, Amazon [i] Microsoft nazivam "carstvima AI-ja". Na koncu, upravljanje mora dolaziti i od javnosti i od demokratski izabranih dužnosnika, a ne samo od tržišnih sila.

Ne od osnivača? Zvuči kao da nemate povjerenja u ljude koji vode ove tvrtke. Velik dio vaše knjige odnosi se posebno na OpenAI i Sama Altmana. Kako ste ga upoznali?

- Počela sam se baviti AI-jem 2018. godine za MIT Technology Review. Svaki tjedan čitala sam znanstvene radove, razgovarala s istraživačima na sveučilištima i u korporativnim laboratorijima. Godine 2019. predložila sam OpenAI-u ideju – u organizaciji se događalo mnogo promjena, upravo su stvorili profitni ogranak i možda su se željeli ponovno predstaviti javnosti. Provela sam tri dana unutar organizacije.

Nije im se svidio profil koji ste napisali, zar ne?

- Nije.

Rekli ste da postoji nesklad između onoga što su zapravo radili i njihovih obećanja. Što ste vidjeli što vas je dovelo do tog zaključka?

- Zvali su se OpenAI zbog posvećenosti transparentnosti, [ali] ta je organizacija već tada bila duboko tajnovita. Zaposlenici su bili vrlo, vrlo nervozni zbog onoga što su mi govorili i zbog toga gdje mi je bilo dopušteno ići unutar ureda, tako da mi je to već djelovalo prilično bizarno. Također su govorili da kao neprofitna organizacija nikada neće komercijalizirati svoje tehnologije.

(Op.a. Profil Hao, objavljen u veljači 2020. godine, bio je usmjeren na trojicu muškaraca koji su tada bili na čelu OpenAI-ja: Grega Brockmana, koji je i dalje tamo kao predsjednik i suosnivač; Ilyu Sutskevera, koji je otišao i suosnovao Safe Superintelligence; i Darija Amodeija, koji je kasnije suosnovao Anthropic. U njemu je Hao napisala da je OpenAI "dopustio da žestoka konkurentnost i rastući pritisak za sve većim financiranjem nagrizu njegove osnivačke ideale transparentnosti, otvorenosti i suradnje".)

Sada su potpuno profitna tvrtka, otuda i spor između Elona Muska i Sama Altmana. Je li Musk u ovoj priči za vas "dobar momak"?

(Op.a. Musk, suosnivač OpenAI-a, tužio je tvrtku zbog navodnog napuštanja njezine prvobitne neprofitne misije. Tužba je bila aktualna kada sam razgovarala s njim u svibnju 2025. godine; porota je nešto više od godinu dana kasnije odbacila tvrdnje.)

- Ne. [Smijeh]

Često smo opsjednuti likovima na vrhu i uvijek pokušavamo analizirati: Tko je dobar momak? Tko je loš momak? Tko je manje loš momak s kojim se mogu nagoditi? Ja kažem: To nije jedini skup mogućnosti.

Ne bismo trebali morati živjeti s tvrtkama koje su toliko enormno moćne da jedna osoba na vrhu može odlučivati o svemu tome. Problem je upravljanje, a ne zamjena jednog lika drugim.

I vi ste bili dio tog istog svijeta. Studirali ste na MIT-u; radili ste za startup. Ovo je zapravo mogla biti industrija vašeg života.

- Mogla je, da.

Suosnivači OpenAI-a Sam Altman (desno) i Greg Brockman (lijevo) stižu u savezni sud 30. travnja 2026. godine na suočavanje s Elonom Muskom | David Paul Morris/Bloomberg

Imam dojam da ipak imate problem s tim ličnostima.

- Imam poseban problem s kulturom u koju su uronjeni i ideologijama koje imaju. To je imperijalistička ideologija. Prije nego što je preuzeo poziciju izvršnog direktora OpenAI-a, Sam Altman bio je predsjednik Y Combinatora. Rekao je: Ulagat ću u deset puta više tvrtki svake godine sve dok ne uložim u svaku tvrtku pod suncem.

Ali tada je bio prilično mlad? Možda je to bila oholost ili ludost.

- Osim što se to odražava kroz način na koji pristupa strategiji OpenAI-a – povećavaj modele deset puta više svake godine dok ne dostignemo razmjer ljudskog mozga. Svi oni razmišljaju u terminima povećanja opsega pod svaku cijenu.

Postoje li neki manje loši momci? Mislite li da je Anthropic principijelnija tvrtka od OpenAI-a?

- Ne.

Čak i nakon što se suprotstavio Pentagonu?

- [Izvršni direktor Anthropica] Dario Amodei rekao je da nema problem s potpuno autonomnim oružjem. Problem je jednostavno u tome što nije želio da se ta verzija Claudea koristi za to.

A Claude je korišten u ciljanju uz pomoć AI-ja: korišten je u Iranu.

- Tako je. 

Dario Amodei razgovara s novinarkom Bloomberga Emily Chang u sjedištu Anthropica u Kaliforniji | Jason Henry/Bloomberg

Pratite li također kineske AI igrače poput DeepSeeka?

- Vrlo površno.

Vjerujete li da se oni ponašaju drugačije? Optužujete li i njih za imperijalizam?

- Ponašaju se drugačije. Neposredno prije nego što se pojavio ChatGPT, vlada SAD-a upotrijebila je kontrolu izvoza kako bi blokirala kineske tvrtke u pristupu najnaprednijim AI računalnim čipovima koje je dizajnirala Nvidia. Odjednom su se te kineske tvrtke suočile s ogromnim ograničenjem jednog od ključnih resursa koje su američke tvrtke koristile za ubrzavanje razvoja svog AI-ja – pa su [one] morale pronaći drugačiji put.

DeepSeek je bio primjer kineske tvrtke koja je uspjela razviti iste sposobnosti ovih AI modela [sa] znatno manjim računalnim resursima. [To] ilustrira poantu koju iznosim – da je zapravo moguće proizvesti AI sa znatno manje resursa i time imati mnogo manje korozivan utjecaj na zdravlje zajednice i planeta. Zašto to ne radimo?

(Op.a. DeepSeek, koji sada vrijedi više od 50 milijardi dolara i prema izvješćima se priprema za IPO te Moonshot, spadaju među kineske AI tvrtke koje žele potisnuti OpenAI i Anthropic na stranim tržištima. OpenAI i Anthropic optužili su kineske konkurente da se koriste američkim modelima kako bi nepravedno ubrzali razvoj vlastitih proizvoda, što je navelo Trumpovu administraciju da ispita kineske AI modele zbog moguće krađe intelektualnog vlasništva.)

Iako mislite da u SAD-u postoji nedostatak upravljanja, i dalje postoji određena razina nadzora i odgovornosti, koja u Kini potpuno izostaje.

- Postoji tendencija u medijima da se pretpostavlja kako je riječ o utrci između [SAD-a i] Kine – nacionalnih država – umjesto između otvorenih i zatvorenih modela. Osjećam se sasvim ugodno ako [open-source] model dolazi iz Kine ili SAD-a, zato što je otvoren; to je nešto što se može provjeravati. Dominantni igrači koje kritiziram svi su zatvoreni.

Ljudi iz akademske zajednice u ovom području na kraju su počeli osnivati vlastite tvrtke sa strane. Mislite li da je to loš razvoj događaja?

- Problematično je samo ako je to ista postava ljudi od kojih dobivaju financiranje. To je bio problem s našim startupom: VC model financiranja i pritisak da se uvijek raste [i] da se vrlo brzo postane profitabilan.

Kada bi postojale tvrtke koje se fokusiraju na vrste problema za koje mislim da je važno da ih riješimo, i koje također razvijaju AI s pristupom usmjerenim na zaštitu ljudske autonomije, održivost i tako dalje, onda bih, da, rado razmotrila takvu mogućnost. Ne mislim da bih im bila osobito korisna; mislim da mi je bolje da budem novinarka.

Na kraju, Claude ili ChatGPT – što koristite?

- Ni jedno ni drugo.

Stvarno? Koja je alternativa u vašem životu?

- Nema je. Moj um.

Ne osjećate li da vas to sputava?

- Zapravo me oslobađa.