Fil Menczer prvi je puta došao na trag onoga što naziva „društvenim botovima“ ranih 2010-ih. Dok je analizirao kako se informacije šire Twitterom, naišao je na nekoliko skupina računa koji su djelovali malko sumnjivo. Neki su od njih dijelili istu objavu na tisuće puta, a drugi su pak dijelili tisuće objava s istog računa. Sjeća se kako je pomislio da to zasigurno ne mogu biti ljudi.
Tako je započeo dugu karijeru promatranja botova. Kao istaknuti profesor informatike pri Sveučilištu države Indiane u Bloomingtonu, Menczer proučava kako se botovi šire, manipuliraju ljude i okreću ih protiv drugih. U 2014. bio je dio tima koji je razvio alat nazvan BotOrNot kako bi pomogao ljudima da prepoznaju lažne račune na internetu. Sada se smatra jednim od vodećih „lovaca na botove“.
Ako bilo tko može prepoznati automate koji se skrivaju među nama, to je Menczer. Prije nekoliko godina, kad je počela kružiti hipoteza poznata kao „teorija mrtvog interneta“, prema kojoj je gotovo sve razgovore na internetu zamijenio sadržaj generiran umjetnom inteligencijom, otpisao ju je kao besmislicu. Međutim, uz procvat generativne umjetne inteligencije i njezine chatbotove i influencere, Menczer sad sagledava tu teoriju u novom svjetlu. Još uvijek ne vjeruje da je u cijelosti točna, no počinje ozbiljno shvaćati njezinu bit. „Jesam li zabrinut?“ pita se. „Jesam, itekako sam zabrinut.“
Čitaj više
Tisuće ChatGPT razgovora završilo na Googleu. To je značajka, a ne bug
Zamislite da ste povjerili AI-u svoje najdublje misli - a onda ih je Google učinio dostupnima svima. Upravo to se događa tisućama korisnika koji su nesvjesno podijelili svoje ChatGPT konverzacije.
01.08.2025
Novi izazovi za IT sektor - AI potiče masovne otkaze. Tko je najviše pogođen?
Tvrtke sada traže nove vještine, a stare pozicije, posebno repetitivne i pomoćne, nestaju pod pritiskom automatizacije.
07.08.2025
Tehnološki minimalizam u trendu - čeka li nas povratak 'glupih' telefona?
Tehnološki minimalizam sve je popularniji odgovor na digitalnu prezasićenost i očekivanje da budemo stalno dostupni. Da li to znači da ćemo svi opet tražiti kultni Nokia 3310?
27.07.2025
Muskov AI manipulira djecu dok profit raste – tko štiti najmlađe od iluzije ljubavi?
Chatbot Grok dobio je dva nova avatara
26.07.2025
Teorija mrtvog interneta postala je popularna 2021., nakon objave korisnika pod imenom IlluminatiPirate na jednom opskurnom internetskom forumu. IlluminatiPirate je tvrdio da je internet postao velika neljudska pustinja prepuna generičkih objava koje su optimizirane za algoritme. Tu je teoriju bilo lako odbaciti jer se u njoj za sve krivi tajnu vladinu zavjeru. No zbog pojave alata kao što su ChatGPT i Midjourney, najednom se počela činiti kao istinsko proročanstvo. Društvene mreže djeluju čudnije, a pretraživanje je lošije. Preko noći su se pojavile čitave platforme s vijestima koje su u potpunosti nastale uz pomoć umjetne inteligencije. Meta Platforms vidi budućnost gdje je umjetna inteligencija uključena u stvaranje znatnog udjela objava na Facebooku i Instagramu. Platforme kao što su Wikipedia muče se pod pritiskom programa koji prikupljaju sadržaj za umjetnu inteligenciju (tzv. crawlera) koji kruže oko njihovih stranica u potrazi za novim informacijama koje bi hranile njihove modele. Sve to dovodi do zatvorene petlje u kojoj se sadržaj generiran umjetnom inteligencijom stvara kako bi zadovoljio sustave preporučivanja utemeljene na umjetnoj inteligenciji, što predstavlja prijetnju da će se ljudi pretvoriti u puke promatrače.
Prošle su godine Renée DiResta, vodeća istraživačica dezinformacija, i Josh Goldstein, znanstveni suradnik sa Sveučilišta Georgetown, odlučili proučiti upotrebu sadržaja generiranog umjetnom inteligencijom u neželjenim porukama i prijevarama. Usmjerili su se na više od stotinjak stranica na Facebooku, od kojih je svaka imala desetke slika nastalih umjetnom inteligencijom, a zajedno su imale milijune pratitelja. Neke su od njih uključivale lažne fotografije minijaturnih krava koje su vodile korisnike na prevarantske stranice gdje ih se navodno može kupiti. Druge su sadržavale idilične slike malih kuća i koliba koje su odvodile ljude do stranica prepunih reklama.
To je samo nastavak duge tradicije stvaranja takozvanih „farmi sadržaja“ (engl. content farms) radi zarade od digitalnog oglašavanja. Uz generativnu umjetnu inteligenciju, proces punjenja tih farmi postao je mnogo učinkovitiji. Osim toga, istraživanja oglašivačke industrije pokazuju da generativna umjetna inteligencija olakšava botovima simulaciju vjerodostojne aktivnosti korisnika, čime se stvara privid da oglase zaista klikaju stvarni ljudi.
Slika generirana umjetnom inteligencijom koju su DiResta i Goldstein uključili u svoju studiju
U svojem su radu DiResta i Goldstein prepoznali mnoge takve stranice na Facebooku prema istom kopiranom tekstu na njima. „Ovo je moja prva torta! Molim vas da je ocijenite“, glasi jedan tekst na barem 18 različitih slika 18 različitih ljudi generiranih umjetnom inteligencijom kako poziraju uz 18 različitih torti. Te su stranice privlačile ljudske pratitelje, koji često nisu bili svjesni što je posrijedi. Još više zapanjuje slika Isusa prikazanog kao rak, koja je privukla stotine tisuća pozitivnih reakcija – dio bizarnog, ali iznenađujuće popularnog trenda slika Krista kao člankonošca. Slike niske kvalitete generirane umjetnom inteligencijom postale su toliko raširene na internetu da je takva vrsta sadržaja dobila vlastiti naziv: slop (što bi se moglo prevesti kao „smeće“).
U nekim slučajevima takav sadržaj nije motiviran samo zaradom. Primjerice, ruska mreža za širenje dezinformacija Pravda objavila je milijune članaka na stotinama novostvorenih stranica otkako je Rusija napala Ukrajinu, što bi mogao biti pokušaj da se sami modeli umjetne inteligencije manipuliraju generiranjem nevjerojatnih količina propagande koju bi zatim pokupili crawleri za umjetnu inteligenciju. Nedavno je medijski opservatorij NewsGuard otkrio da se reference na takve stranice pojavljuju u odgovorima koje daju vodeći chatbotovi.
Alati generativne umjetne inteligencije koji omogućuju stvaranje slopa u industrijskim razmjerima pojavili su se u pravom trenutku, baš kad su se društvene platforme počele udaljavati od preporučivanja objava članova obitelji i prijatelja prema promoviranju sadržaja korisnika koje osoba uopće ne prati. To je nasumičnim računima pomoglo da šire slop dalje nego što to je to bio slučaj kad su društvene mreže bile takoreći „društvenije“. Naravno, što je DiResta više vremena provodila na takvim stranicama, to je vidjela više takvog slopa. „Takav se sadržaj nije samo stvarao već i preporučivao“, rekla je DiResta, koja se sada bavi istraživanjem kao izvanredna profesorica pri Sveučilištu Georgetown. „Algoritmi pomažu takvom sadržaju da nas pronađe.“
Zanimljiviji sadržaj
Ipak, ljudima je slop ponekad zanimljiv. Može biti dovoljno bizaran ili izopačen da se ljudi zadrže na njemu, a sadržaj koji nije ograničen zakonima fizike može biti slađi ili zanimljiviji od scena iz stvarnoga svijeta. „Ako se ograničite na stvari koje su se zbilja dogodile ili šale koje su smislili ljudi, riječ je o unaprijed definiranom rasponu sadržaja“, rekao je Jeff Allen, suosnivač i glavni službenik za istraživanja zaklade i skupine za strateško promišljanje Integrity Institute. „Umjetna inteligencija proširuje taj raspon.“ No sadržaj koji generira i promovira umjetna inteligencija također je nalik invazivnoj vrsti – širi se tolikom brzinom da negativno utječe na druge „stanovnike“ interneta. „To je poput cvjetanja algi koje se mogu nekontrolirano razmnožiti i ugušiti život kakav bi trebao biti u zdravom ekosustavu“, rekao je Allen.
U veljači je OpenAI izvijestio o nekim vrstama zlouporabe svojih modela. U jednom je primjeru lažna organizacija mladih u Gani koristila članke i komentare nastale umjetnom inteligencijom kako bi utjecala na ishod državnih izbora 2024. U drugom su deseci računa koji su potencijalno povezani sa sjevernokorejskim kibernetičkim kriminalcima dobili prave poslove u zapadnim kompanijama s pomoću životopisa, motivacijskih pisama, pa čak i osoba koje su služile za preporuku generiranih umjetnom inteligencijom. Služili su se alatima društva OpenAI kako bi uspješno obavili razgovore za posao i, nakon što su zaposleni, da bi objasnili kolegama zašto se nikada ne javljaju na videopozive. (Naravno, OpenAI tvrdi da je takva vrsta prijevare strogo zabranjena prema njihovim pravilima.)
Drugi je problem sam razmjer prikupljanja podataka s interneta (web-scraping) koje kompanije iz područja umjetne inteligencije provode kako bi prikupile podatke za svoje modele. Prema podacima poduzeća Tollbit, koje pomaže izdavačima da dobiju naknadu kada netko preuzima sadržaj s njihovih stranica, broj takvih operacija po stranici udvostručio se s trećeg na četvrto tromjesečje prošle godine. Kad je bivši predsjednik Jimmy Carter preminuo, usluge zaklade Wikimedia bile su privremeno usporene zbog iznenadnog porasta prometa uzrokovanog automatiziranim preuzimanjem videozapisa iz predsjedničke debate 1980. „Naša je infrastruktura dizajnirana da izdrži iznenadne skokove u prometu koje uzrokuju ljudi tijekom događanja od velikog interesa, ali količina prometa koju generiraju automatizirani sustavi za preuzimanje podataka neviđena je te predstavlja sve veći rizik i trošak“, naveli su iz te zaklade u objavi na blogu.
Plaćanjem do informacija
Neki izdavači na to odgovaraju tako da sklapaju ugovore s kompanijama koja se bave umjetnom inteligencijom, prema kojima će im te kompanije plaćati za pristup sadržaju, ili pak postavljaju sustave naplate kako bi onemogućili automatizirane sustave za preuzimanje podataka. Ovakav bi trend mogao potkopati samu ideju slobodnog i otvorenog interneta, kako upozorava Shayne Longpre, doktorand na MIT-ju i voditelj inicijative Data Provenance Initiative. „Prosječnom će potrošaču biti sve teže doći do određenih informacija bez plaćanja ili će se morati pretplatiti na određene botove umjetne inteligencije kako bi mu se omogućio pristup tim informacijama“, rekao je. U međuvremenu bi „manji izdavači na internetu mogli biti izostavljeni iz cijele te rasprave“.
Prijelaz na internet kojim vladaju chatbotovi mogao bi predstavljati prijetnju i za najveće internetske igrače. Najočitiji primjer možda je Alphabetov Google, tražilica koja se temelji na usmjeravanju korisnika prema drugim izvorima informacija. To je poduzeće počelo prikazivati vedre sažetke nazvane AI Overviews. Osim što ti sažeci ponekad nude upitne savjete, mogli bi dodatno otežati ljudima da vode internetske stranice na koje će klikati drugi ljudi. Kako je izvijestio Bloomberg Businessweek, neki su internetski izdavači zabilježili nagli pad posjećenosti, a kao glavnog krivca navode upravo umjetnu inteligenciju. (Google odbacuje takvo tumačenje, tvrdeći da postoji mnogo razloga zbog kojih neke stranice dobivaju ili gube promet, te da AI Overviews „otvara nove mogućnosti povezivanja ljudi s internetskim sadržajem“.) Uspon interneta utemeljenog na umjetnoj inteligenciji sve jasnije pokazuje koliko su interesi tehnoloških divova često u suprotnosti s interesima njihovih korisnika. U utrci za dominaciju u budućnosti obilježenom umjetnom inteligencijom, oni ubrzavaju taj prijelaz – sviđalo se to svijetu ili ne. Žele li korisnici Facebooka zaista da se računi umjetne inteligencije miješaju s objavama starih školskih kolega i daljnjih rođaka, kako to zamišljaju direktori te kompanije? Tko zna? No ako će to pomoći zadržati stvarne ljude na aplikaciji u vrijeme kada korisnici sve rjeđe sami objavljuju, Meta je više nego spremna saznati.
Allen tvrdi da nije teško zamisliti distopijski ishod do kojeg svi ovi trendovi vode. U svijetu u kojem stvarni ljudi više ne mogu zarađivati dovoljno od digitalnog oglašavanja da bi održavali svoje internetske stranice, a njihove objave više ne mogu nadglasati buku sadržaja koji generira umjetna inteligencija na društvenim mrežama – „mrtvi internet“ pobjeđuje. Što je još gore, istraživanja upućuju na to da se modeli umjetne inteligencije mogu „urušiti“ ako se treniraju na sadržaju koji je već generirala umjetna inteligencija. Ako na internetu prestane nicati svjež sadržaj koji su stvorili ljudi, kako kaže Allen, „internet zapravo umire“.
Međutim, Menczer još ne prihvaća takav apokaliptični scenarij. Ako tehnološke kompanije dopuste da njihovi proizvodi degeneriraju u jeftina legla za botove, tvrdi on, ljudi će s vremenom jednostavno usmjeriti svoju pažnju drugamo. „Ako je omjer signala i buke toliko nizak da je sve skupa čisto smeće, ljudi će prestati to koristiti“, rekao je. Tehnološke kompanije to zasigurno neće dopustiti.
To bi moglo biti točno. No s druge strane, jedna od najgledanijih objava na Facebooku prošle godine prikazivala je urednu sobu s divovskim ventilatorom ugrađenim u uzglavlje kreveta u stilu sredine prošlog stoljeća, koji se nadvijao nad goli madrac – privukla je čak oko 179.000 reakcija. „Napokon sam pronašao savršen krevet“, napisao je autor objave. „Kladim se da se ne bih znojio noću s ovim čudom!“ Objava je imala neka obilježja slopa umjetne inteligencije – rešetka ventilatora bila je blago iskrivljena, a identične objave dijelili su i drugi korisnici – ali nije bilo načina da se to sa sigurnošću utvrdi. I upravo je to poanta.
.webp){kind=icon}
Trenutno nema komentara za vijest. Ostavite prvi komentar...