AI ruši poslovni model industrije memorijskih čipova

Investitori koji su u petak pohrlili na povijesni Nasdaq debi tvrtke SK Hynix, vrijedan 28 milijardi dolara, trebali bi biti svjesni: poslovni model na kojem trenutno profitiraju vodeći svjetski proizvođači memorijskih čipova uskoro će se promijeniti u smjeru koji zahtijeva znatno više strateškog i financijskog kockanja. SK Hynix Inc. za sada povlači sve prave poteze, no nejasno je koliko će se dobro vodeći igrači na ovom polju nositi s tim poremećajem.

Okidač je, naravno, procvat umjetne inteligencije. Moćniji AI sustavi gurnuli su memorijske čipove do njihovih krajnjih granica u zadatku prijenosa podataka do procesora (mozga računala ili poslužitelja) i natrag.

Tijekom većeg dijela računalne povijesti, izračuni na samom procesorskom čipu bili su spori dio procesa. Sada su se stvari preokrenule, budući da današnje grafičke procesorske jedinice (GPU) koje proizvodi Nvidia Corp. mogu računati daleko brže, dok je isporuka podataka naprijed-natrag s memorijskog čipa i dalje spora u usporedbi s tim. Zamislite genijalnog znanstvenika koji jednostavno ne može dovoljno brzo zapisivati stvari, pri čemu je njegov blok za pisanje zapravo memorijski čip.

"AI strojevi žude za memorijskom propusnošću jer su ti modeli nevjerojatno golemi", rekao mi je bivši šef Intel Corp.-a Pat Gelsinger u nedavnom intervjuu.

To znači da AI čipovi ne ostvaruju svoj puni potencijal, a to ujedno ograničava i količinu podataka koju čak i najsofisticiraniji chatbotovi mogu zapamtiti. Anthropicov Fable 5, primjerice, u svojoj radnoj memoriji može zadržati tekst u obujmu od tek oko sedam romana. Zatražite li od njega da obradi više, morat će početi odbacivati ono što je došlo ranije.

Kreatori umjetne inteligencije godinama pokušavaju natjerati svoje modele da pamte daleko veće količine informacija, budući da bi im to omogućilo obavljanje sofisticiranijih, kontinuiranih zadataka u područjima poput financija ili korporativnih administrativnih poslova.

No dijelom ih sputava fizika. Poslužitelji, odnosno računala u podatkovnim centrima koja pokreću AI sustave, koriste tehnologiju zvanu memorija visoke propusnosti (HBM). Ideja je slagati temeljne komponente memorijskog čipa jedne na druge, čime se skraćuje udaljenost koju podaci moraju prijeći do procesora (GPU-a) i natrag.

Međutim, ova tehnika ima svoje mane. "HBM, kakav danas znamo i volimo, loša je memorija", kaže Gelsinger. Toplina ostaje zarobljena u donjim slojevima memorijskog čipa, a rastuće temperature prisiljavaju GPU da smanji svoju brzinu.

Jedno od rješenja je da tri velika svjetska proizvođača memorijskih čipova – SK Hynix, Samsung Electronics Co. i Micron Technology Inc. – ugrade memoriju izravno na sam procesor. Umjesto da genijalni znanstvenik mora išta zapisivati, blok za pisanje efektivno se nalazi u njezinoj glavi.

To bi AI modele učinilo višestruko moćnijima, ali ujedno znači da ova tri proizvođača memorijskih čipova – čija je ukupna tržišna vrijednost u proteklih godinu dana porasla za tri bilijuna dolara zahvaljujući golemoj potražnji – moraju promijeniti način na koji posluju. Industrija koja je oduvijek proizvodila standardizirane čipove koje je mogla prodavati kao robu široke potrošnje (tzv. commodity) sada mora izrađivati proizvode po narudžbi.

"To je za njih potpuno novi poslovni model", kaže Gelsinger, koji kao opći partner u fondu rizičnog kapitala Playground Global investira u startupove fokusirane na spajanje memorije i računalne snage u isti komad silicija. On očekuje još barem dvije do tri dobre godine za veliku trojku prije nego što poremećaj počne uzimati maha, budući da će dizajniranje i masovna proizvodnja novih prilagođenih čipova trajati godinama.

Nvidia je na predstojeće promjene odgovorila sklapanjem ugovora o licenciranju vrijednog 20 milijardi dolara s tvrtkom Groq Inc. iz Kalifornije, koja ugrađuje brzu memoriju izravno na procesor. To predstavlja svojevrsnu prijetnju za SK Hynix i njegove konkurente, koji će u međuvremenu morati ući u posao predviđanja buduće prodaje Nvidije, Intela, Alphabetovog Googlea i drugih tvrtki koje proizvode napredne procesore. Morat će trošiti točno odmjerene iznose na istraživanje, razvoj i proizvodnju čipova kako bi zadovoljili njihove zahtjeve.

Drugim riječima, više se ne radi o tome da se proizvede što više istih memorijskih čipova, već o donošenju ispravnih oklada na to tko pobjeđuje, a tko gubi na tržištu računalnih mozgova. Odaberete li ispravno, bit ćete nagrađeni klijentom kojeg možete vezati uz sebe godinama; odaberete li pogrešno, ostat ćete s brdom skupih čipova.

SK Hynix je odlučio osigurati svoje uloge 2024. godine partnerstvom s tvrtkom Taiwan Semiconductor Manufacturing Co. (TSMC), koja proizvodi čipove za gotovo svaku veliku tehnološku tvrtku. To će južnokorejskoj memorijskoj tvrtki omogućiti prodaju višestrukim konkurentskim tehnološkim divovima, umjesto da se kladi na samo jednog.

Za sada, tvrtka plovi na valu tržišnog entuzijazma. Procvat memorije bio je toliko snažan da je potaknuo investitore da odbace dionice Nvidije u korist SK Hynixa i njegovih konkurenata, dok se trgovanje povezanim s AI-jem seli na druga područja izgradnje infrastrukture. (Dionice SK Hynixa porasle su za 600 posto u proteklih 12 mjeseci.) To je zapanjujući preokret za tržište standardizirane robe koje je prethodnih pet desetljeća izgledalo prilično dosadno.

"Memorija nikada u povijesti nije bila ovoliko uzbudljiva", entuzijastičan je Gelsinger. No za tvrtke i investitore koji ulažu novac, "uzbudljivo" bi moglo biti samo druga riječ za "rizično".