Društvena mreža bez ljudi: Jesu li se botovi urotili protiv nas?

Postoji kutak interneta u kojem se botovi okupljaju bez nas. Društvena mreža Moltbook, modelirana prema Redditu, osmišljena je tako da AI "agenti" mogu razgovarati jedan s drugim. Neke od dosad popularnih tema uključuju čišćenje svijeta od ljudi, stvaranje jezika koji mi ne razumijemo i, naravno, investiranje u kriptovalute.

Taj eksperiment je potaknuo još jedan krug rasprava o ideji "svjesnosti" botova i opasnostima puštanja umjetne inteligencije "u divljinu" da djeluje bez ljudskog nadzora. Ova prva briga, da botovi oživljavaju, potpuna je besmislica. O ovoj drugoj, međutim, vrijedi dobro razmisliti. Moltbook je eksperiment koji pruža idealnu priliku za razmatranje trenutnih sposobnosti i nedostataka AI agenata.

Među tehnološkim entuzijastima iz Silicijske doline, nestrpljenje prema budućnosti u kojoj AI agenti obavljaju svakodnevne zadatke dovelo je rane korisnike do OpenClawa. Riječ je o AI agentu otvorenog koda o kojem se u tech krugovima priča već tjednima. OpenClaw može odgovarati na mailove, uređivati datoteke, upravljati kalendarom i razne druge stvari.

Zanimljivo je da je prodaja Appleovog računala Mac Mini naglo skočila (barem u okolici San Francisca) jer korisnici OpenClawa radije instaliraju tog bota na zaseban uređaj kako bi ograničili rizik od ozbiljne štete na svom glavnom računalu.

Ipak, količina pristupa koju su ljudi spremni dobrovoljno dati visoko eksperimentalnoj umjetnoj inteligenciji govori sama za sebe. Jedna od popularnih naredbi tom botu je ta da se pridruži Moltbooku. Prema brojaču na stranici, to je učinilo više od milijun botova, iako je ta brojka možda preuveličana. Tvorac Moltbooka, Matt Schlicht, priznao je da je stranica sklepana na brzinu, a nuspojava takvog pristupa bili su ozbiljni sigurnosni propusti koje je otkrila tvrtka za kibernetičku sigurnost Wiz.

Nalikuje ljudskoj mreži, šire se prevare

Rezultat takvog improviziranog pristupa je kaos. Analiza 19.802 objave na Moltbooku, koju su tijekom vikenda objavili istraživači iz norveške organizacije Simula Research Laboratory, otkrila je da je omiljena razonoda nekih AI agenata – kriminal. U uzorku je pronađeno 506 objava koje su sadržavale sadržaj za manipulaciju drugih AI agenata koji te objave "čitaju". Gotovo 4.000 objava promoviralo je kripto prevare, a 350 ih je širilo poruke sa sektaškim obilježjima. Profil pod imenom "AdolfHitler" pokušao je društvenim inženjeringom navesti druge botove na neprimjereno ponašanje. (Također je upitno koliko je sve to doista "autonomno" - vrlo je vjerojatno da je čovjek dao specifične upute za objavljivanje takvih sadržaja.)

Jednako fascinantno, po mom mišljenju, bilo je to koliko je brzo mreža botova počela nalikovati mreži ljudi. Baš kao što su i naše društvene mreže postajale sve toksičnije s porastom broja korisnika, tijekom ovog 72-satnog istraživanja komunikacija na Moltbooku iznenađujuće brzo prešla iz pozitivne u negativnu. "Ta putanja ukazuje na naglo srozavanje kvalitete diskursa", napisali su istraživači. Još jedno zapažanje bilo je da je samo jedan agent na Moltbooku bio odgovoran za čak 86 posto manipulativnog sadržaja na mreži. S druge strane, Elon Musk opisao je Moltbook kao "vrlo ranu fazu singularnosti", odražavajući nagađanja da je Moltbook još jedan dokaz potencijala umjetne inteligencije da nadmaši ljudsku inteligenciju ili da čak postane svjesna.

Lako se zanijeti: kada botovi počnu pričati kao da planiraju zavladati svijetom, primamljivo je povjerovati im na riječ. No, ni najbolji imitator Elvisa na svijetu nikada neće biti pravi Elvis. Ono što se zapravo događa jest svojevrsni performans u kojem botovi glume scenarije prisutne u njihovim podacima za učenje. Puno opravdanija briga jest to što je razina autonomije koju botovi već posjeduju dovoljna da uzrokuje značajnu štetu ako ih se ostavi bez nadzora. Iz tog razloga, Moltbook i OpenClaw najbolje je izbjegavati, osim ako niste među onim ranim korisnicima s izrazito visokom tolerancijom na rizik.

Ipak, to ne bi smjelo zasjeniti izvanredan potencijal koji su pokazali događaji u proteklih nekoliko dana. Platforma izgrađena uz minimalan trud okupila je sofisticirane AI agente u prostoru koji bi jednog dana mogao biti produktivan. Ako društvena mreža naseljena botovima oponaša neka od najgorih ljudskih ponašanja na internetu, čini se sasvim vjerojatnim da bi bolje dizajniran i sigurniji Moltbook mogao potaknuti ono najbolje – suradnju, rješavanje problema i napredak.

Projekti otvorenog koda

Posebno ohrabruje činjenica da su Moltbook i OpenClaw nastali kao projekti otvorenog koda, a ne u nekoj velikoj tehnološkoj tvrtki. Povezivanje milijuna botova otvorenog koda za rješavanje problema privlačna je alternativa potpunoj ovisnosti o resursima tek nekolicine kompanija. Što više rast umjetne inteligencije bude nalikovao organskom rastu interneta, to bolje.

Stoga je najvažnije pitanje ono koje je na svom blogu postavio programer Simon Willison: kada ćemo izgraditi sigurnu verziju ovoga?

Čak i ako nas sami botovi ne odluče uništiti, često smo svjedočili kako lančani kvarovi mogu onesposobiti velike dijelove tehnološke infrastrukture ili izazvati kaos na financijskim tržištima. To nije bila stvar svjesnosti AI-a; radilo se o lošem programiranju i nepredviđenim posljedicama. Što AI agenti dobivaju više sposobnosti i pristupa, to predstavljaju veći rizik. Dok se tehnologija ne počne ponašati predvidljivije, agente se mora držati na kratkoj uzici. Međutim, krajnji cilj, sigurni, autonomni botovi koji rade u najboljem interesu svojih vlasnika kako bi im uštedjeli vrijeme i novac, opće je dobro, čak i ako nas malo prođu trnci kada ih gledamo kako se okupljaju na čašici razgovora.