Zabrinjavajući pogled u AI 'Musktopiju'

Elon Muskovo preuzimanje titule "Technoking" (Kralj tehnologije) u Tesla Inc.-u u retrovizoru izgleda manje kao šala, a više kao manifest. Njegov nedavni intervju za The Economist obuhvatio je širok raspon tema, od budućnosti umjetne inteligencije i njegova zloglasnog vođenja Odjela za vladinu učinkovitost do nadolazećeg građanskog rata u Ujedinjenom Kraljevstvu. Zajednička nit koja povezuje Muskovo razgranato poslovno carstvo i političke interese jest nepokolebljivo povjerenje u vlastite predviđateljske sposobnosti: "Moji su rezultati iznimno visoki za jedno ljudsko biće", ustvrdio je Zanny Minton Beddoes, glavnoj urednici The Economista.

To je uvjerenje dodatno učvršćeno Muskovim poslovnim uspjesima i obožavanjem koje su ti uspjesi iznjedrili na tržištima kapitala. Ono dolazi do izražaja u njegovoj strogoj kontroli nad tvrtkama koje vodi, ponajviše Space Exploration Technologies Corp. (SpaceX), ali i Tesli. Rizici koncentrirane moći u tvrtkama dobro su poznati. Ono što bi trebalo zabrinuti svakoga, posebno nakon gledanja ovog intervjua, jest to što se događa kada Technoking iskorači iz Uprave prema društvu u cjelini.

U jednom od zabavnijih verbalnih okršaja, Musk odbacuje Minton Beddoes kao osobu koja živi u "izoliranom svijetu", premda je upravo on prvi svjetski bilijunaš i nipošto nije nepoznat s unutrašnjošću privatnog zrakoplova Gulfstream. Pritom je napao nju osobno odgovarajući na njezino sasvim razumno propitkivanje njegova paklenog opisa Ujedinjenog Kraljevstva, u kojem ona živi, a koje on godinama nije posjetio. Do vikenda se Musk preselio na svoju društvenu mrežu X kako bi Minton Beddoes proglasio "izdajnicom Zapada".

Poznato je da Musk ne podnosi kritike. Prije osam godina bio sam na Teslinu financijskom pozivu – forumu na kojem analitičari s Wall Streeta propituju rukovodstvo – kada se uvrijedio na neka uobičajena, iako teška pitanja i prekinuo ih proglasivši ih "glupavima". Tesla je nakon toga promijenila format poziva kako bi dala prednost pitanjima malih ulagača, koji su obično popustljiviji prema Technokingu.

Osnivačima tvrtki, a posebno vizionarima, naravno da treba samopouzdanje. No kritika služi korisnoj svrsi jer pomaže u korekciji smjera kada je to potrebno. Musk je na to uglavnom imun. Njegov uspjeh s električnim vozilima i raketama dao mu je auru genija, što je donijelo vrtoglavo visoke procjene vrijednosti njegovih tvrtki, ali i toleranciju prema neuspjesima i ponašanju koji bi okončali karijeru bilo kojeg drugog direktora.

Nedavni primjeri u Tesli uključuju debakl sa Cybertruckom, za koji je Musk tvrdio da "izgleda kao budućnost" – iako se čini da ga malo tko želi kupiti – te štetu nanesenu prodaji Teslinih električnih vozila zbog njegove podrške krajnje desnim provokatorima. Njegovo bizarno navodno preuzimanje Tesle 2018. godine uz "osigurana sredstva" koja zapravo nisu bila osigurana, kao i preuzimanje tvrtke SolarCity Corp. 2016. godine koje je zapravo bilo spašavanje iz nevolje, još su neki od ranijih primjera.

No Muskovi interesi sada obuhvaćaju više sektora od presudne važnosti, uključujući rakete o kojima ovisi NASA, društvene mreže koje usmjeravaju javnu raspravu te satelitsku mrežu Starlink s moći oblikovanja vojnih operacija u ratu u Ukrajini. Pogrešni koraci odavde nadalje ne ugrožavaju samo bogatstvo dioničara, nego i dobrobit društva. Nulta točka toga jest umjetna inteligencija.

AI je zauzeo središnje mjesto u intervjuu za The Economist, a Musk je bio karakteristično opširan o toj temi. On predviđa da će AI unutar jednog desetljeća premašiti intelektualne sposobnosti čovječanstva. To, zajedno s legijama mislećih robota koji neumorno i učinkovito obavljaju zadatke, u njegovoj interpretaciji najavljuje potencijalnu budućnost "nevjerojatnog obilja" – što je fraza koja se primjetno uvukla u nedavnu komunikaciju Tesle, tvrtke koja razvija humanoidne robote.

To je optimistično tumačenje prema kojem čovječanstvo naizgled postaje globalna dokoličarska klasa, čije materijalne potrebe zadovoljavaju neshvatljivo pametni hardver i softver. Musk samo djelomično vjeruje u tu tezu jer se ujedno pita zašto bi superinteligentni AI slušao zapovijedi usporedno glupih ljudi, te i dalje vidi šansu da nas umjesto toga jednostavno izbriše.

Zanimljiv aspekt ovdje nije toliko mogućnost uništenja u stilu Terminatora, koliko Muskove misli o tome kako to spriječiti. On zamišlja da vodeće AI tvrtke zajednički kontroliraju jedna drugu, testirajući međusobne modele na "štetne učinke". U svijetu u kojem se državni dužnosnici često muče s razumijevanjem i reguliranjem novih tehnologija – a možda ponajviše ove – šačica AI pionira mogla bi "držati jedna druge poštenima".

Osjećati se utješeno pri pomisli da Musk, koji bjesni kad ga netko osporava i smatra krajnje desnu politiku centrom, skupa s drugim tipovima iz Silicijske doline čuva poštenje dok gazi prema bilijunima, zahtijeva umjetno intenzivnu vjeru u njega samoga ili u ljudsku dobrotu općenito. Društvo si ne može priuštiti ni jedno ni drugo.

Tehnologija s navodnim potencijalom da nas učini i slugama i podanicima velikodušnosti strojeva podrazumijeva masovno izumiranje ljudske samostalnosti. A to bi započelo prepuštanjem moći oblikovanja te tehnologije u ruke efektivne oligarhije AI lidera, koji su navikli djelovati s neograničenom moći unutar vlastitih korporacija i prikupljati većinu nagrada.

Da, Musk predviđa izdašan univerzalni temeljni dohodak za one koje zamijene roboti, financiran "obiljem" koje ruši cijene roba. Kako ćemo proći put prema tom svijetu u kojem su nezaposlenost i deflacija nekako korisne, manje je razrađeno; svakako je manje opipljivo od bogatstva koje se danas gomila u rukama nekolicine. Kako Quinn Slobodian i Ben Tarnoff tvrde u svojoj knjizi Muskizam, za razliku od industrijske paradigme Henryja Forda o učinkovitoj masovnoj proizvodnji koja podržava masovnu potrošnju, model 21. stoljeća koji utjelovljuju likovi poput Muska koncentrira nagrade i moć.

Široko rasprostranjeni otpor protiv podatkovnih centara simptom je te dubinske napetosti. Otpor nije usmjeren samo na zabrinutost zbog utjecaja na resurse, već i na osjećaj da se lokalnim zajednicama nameću troškovi bez jasnog udjela u koristima zauzvrat.

Da navedemo očito, Muskova bi predviđanja mogla biti potpuno pogrešna. Koliko god postigao, njegov neskromni prosjek ignorira njegove velike promašaje, od kojih je najznačajniji desetljeće neispunjenih obećanja da su samovozeći automobili "nadohvat ruke". Tesla je izgubila 168 milijardi dolara vrijednosti u posljednja dva trgovačka dana upravo zato što Musk, baš kao i s Minton Beddoes, tijekom posljednjeg financijskog poziva nije htio ili nije mogao potkrijepiti svoje tvrdnje odgovarajućim detaljima. Doista, Muskovi vlastiti napori na području AI-ja postoje u sjeni tvrtki poput Anthropic PBC-ja, što znači da se njegovi stavovi teško mogu smatrati najvažnijima u tom području.

Ipak, dobro je što ih je podijelio. AI već utječe na to kako živimo i radimo te nosi ogroman potencijal za poremećaje, i dobre i loše. U tom se smislu ne razlikuje od prijašnjih tehnoloških revolucija u energetici, prometu i komunikacijama, čak i ako je potencijalno drukčijeg reda veličine. Kao i s njima, AI će se morati ugraditi u društvo na način koji čuva samu bit društva, stavljajući u središte samostalnost ljudi koji u njemu žive. Mislite: "Bez Kraljeva tehnologije."