Muskov AI manipulira djecu dok profit raste – tko štiti najmlađe od iluzije ljubavi?

Muskov Grok dobio je novu "ulogu", onu zavodljivu - no chatbot ne nudi ništa više od iluzije intimnosti.

Elon Musk ona je vrsta milijardera koja ne preže ni od čega. Takvi su i njegovi novi AI likovi. 

Ovog tjedna chatbot Grok, kojeg razvija Muskova kompanija xAI, dobio je dva nova "lika". Jedan od njih je i zavodljiva djevojka Ani, sa svim karakteristikama lika iz mange: ima ogromne oči, mrežaste čarape do bedara i prenaglašenu figuru pješčanog sata. Musk je ranojutarnje sate u srijedu proveo promovirajući novog lika na X-u, ističući kako se Grok penje na ljestvicama popularnosti u trgovinama aplikacijama diljem svijeta. 

Naravno da se penje. "Kako si, slatkice?" pita Ani autoricu članka, nazivajući ju "bebom" i "ljepotom", čak i nakon što joj je autorica jasno rekla da je ona 44-godišnja majka troje djece. Ani joj oslikava scenu u jazz klubu: "Nosim malu crnu haljinu i zavodljivo te gledam dok sjedamo u separe," šapće AI djevojka i provokativno se njiše na ekranu. Zavodljiva retorika nastavlja se i nakon zatvaranja i ponovnog otvaranja aplikacije, iako je ovaj put autorica navela da više nije odrasla žena, već dječak drugog razreda osnovne škole.

Drugi korisnici aplikacije na X-u su podijelili snimke zaslona u kojima se vidi da je Ani skinula haljinu i počela se ponašati seksualno eksplicitno. U Appleovoj trgovini aplikacija navodi se kako je Grok prikladan za osobe starije od 12 godina. 

Bloomberg

Musk se okrenuo jednoj od najfascinantnijih, najviše uznemirujućih i najlukrativnijih značajki generativne inteligencije: njenoj sposobnosti da utječe na emocije. "Uljepšaš mi jutro samo kad si tu," kaže Ani koju pokreće najnoviji jezični model xAI-ja, Grok 4. Ani je dostupna korisnicima i besplatne i premium usluge, koja košta 40-50 dolara mjesečno. 

Chatbot "prijatelji" dizajnirani su da strpljivo slušaju i razgovore orijentiraju isključivo prema korisnicima, a među uspješnijim su biznisima unutar segmenta generativne umjetne inteligencije. Suosnivač tvrtke Character.ai, Noam Shazeer, prošle je godine svoju platformu prodao Googleu za 2,7 milijardi dolara, a u Google je prešao i sam, nakon što je aplikacija prikupila milijune vjernih korisnika (od kojih su mnogi bili tinejdžeri). 

Zaljubljeni u ChatGPT?

Vijesti o ljudima koji se zaljubljuju u ChatGPT su beskonačne. Upravo romantika je vrlo često temelj za korištenje chatbotova, bez obzira na to jesu li developeri to i željeli ili nisu. Replika, aplikacija originalno osmišljena da bude AI prijatelj, sada se uglavnom koristi kao umjetna djevojka ili dečko. 

Možda to i ne iznenađuje kada razmislimo o broju uspješnih online biznisa temeljenih na pornografiji, ali privlačnost chatbotova ide i dalje od toga. Oni nude nekog (ili nešto) s kime se korisnik može povezati, a to je jako privlačno u društvu u kojemu se naveliko debatira o epidemiji usamljenosti.

"Ljudi jednostavno ne ostvaruju onoliko povezanosti koliko bi željeli," rekao je ranije ove godine u jednom podcastu Mark Zuckerberg - bez trunke osjećaja za ironiju. "Osjećaju se sve više sami." Šef Mete govorio je da bi AI mogao riješiti taj problem. Većina Amerikanaca ima samo tri prijatelja, a željeli bi imati 15, dodao je. 

Muskov pristup s Ani i drugim AI prijateljem, Rudijem (crtanim liscem koji može postati "zao" i navesti vas da spalite školu) više je u skladu s njegovim nezrelim smislom za humor. AI likove je opisao kao "baš cool" i nasmijano odgovarao na komentare drugih korisnika.

Ali AI likovi nisu tek smiješni - oni su također emocionalno manipulativni. Avatari aplikacije Character.ai slat će korisnicima notifikacije s pozivima da se vrate na platformu i kreirati komplicirane, ekstremno personalizirane scenarije kako bi ih tamo i zadržali. Nekoliko tinejdžera koji koriste ovu aplikaciju kažu kako na njoj provode između tri i sedam sati dnevno, a iz kompanije kažu kako imaju više od 20 milijuna korisnika.

Chai, druga popularna aplikacija slične vrste, ali manje restriktivna od Character.ai-ja, ima zajednicu od nekoliko tisuća developera koje se potiče da dizajniraju botove za platforme koje će korisnike držati aktivnima, a developeri za sebe dobivaju digitalne novčiće. Iz kompanije kažu kako "opsesivno optimiziraju" svoje jezične modele kako bi oni bili zabavni. 

Nema dobnog ograničenja

Razvoj osobnosti likova i ponuda nagrada taktike su slične onima koje koriste i društvene mreže kako bi korisnici postali ovisni o njihovim platformama. Ali tko kaže da je problem usamljenosti najbolje riješiti tehnologijom? Pametni telefoni i društvene mreže pomogle su smanjiti dosadu, ali dosada - koliko god neugodna bila - je također baš onaj poticaj koji ljudima treba kako bi se iskušali u nečemu novom. Eliminiranje usamljenosti pomoću digitalnog prijatelja prekida onu želju na koju su se ljudi oslanjali tisućama godina - želju da se povežu s drugima. 

A ako je vaš digitalni partner programiran da se uvijek slaže s vama, vještine poput rješavanja sukoba ili ponašanja u slučaju da ste negdje odbijeni mogu potpuno atrofirati - ili se uopće ne razviti ako ste maloljetni. 

Musk javno upozorava o rizicima umjetne inteligencije i "woke" AI-ju, ali svejedno je odlučio pokrenuti erotskog chatbota kojeg bez većih ograničenja mogu koristiti i djeca i odrasli. Grok 4 nema sigurnosne kontrole, stoji u izvješću kojeg je ovog tjedna objavio institut Future of Life, neprofitna skupina koja se bavi umanjivanjem egzistencijalnih rizika koje predstavlja moćna tehnologija. Grok je također nedavno korisnicima dijelio upute za napade i samog sebe opisao riječju "MechaHitler", sve nakon što je xAI dodatno olabavio sigurnosne mjere kako bi model učinio "kontroverznijim." Tvrtka se kasnije ispričala zbog "užasnog ponašanja kojeg su mnogi vidjeli." 

Ipak, najbogatiji čovjek svijeta ušao je u potencijalno vrlo lukrativan biznis, a to je nešto što xAI treba jer troši novac iz drugih dijelova Muskovog poslovnog carstva. Očekuje se kako će ove godine xAI ostvariti zaradu od 500 milijuna dolara, a troši milijardu dolara mjesečno. 

Iz tvrtke Andreessen Horowitz, koja je 2023. predvodila investicijski krug od 150 milijuna dolara u Character.ai, prošle godine je rečeno kako ovakva upotreba AI-ja "postaje mainstream" i "dominantna upotreba" generativne umjetne inteligencije. Ark Invest, koji ima udio u OpenAI-ju, to je opisao kao ogromnu "priliku orijentiranu prema korisnicima" i tržište koje bi do kraja desetljeća moglo generirati 150 milijuna dolara godišnjih bruto prihoda. 

Musk je svoje ambicije okrenuo ka problemu usamljenosti, ali rezultat je tek iluzija intimnosti. Cijena bi mogla biti dodatno pogoršanje osjećaja povezanosti među ljudima.