Zabrinjavajući trend aplikacija koje uz pomoć UI-ja razgolićuju žene

Aplikacije koje koriste umjetnu inteligenciju za razodijevanje žena na fotografijama bilježe veliki porast popularnosti, tvrde istraživači. Prema podacima tvrtke za analizu društvenih mreža Graphika, samo u rujnu 24 milijuna ljudi posjetilo je web stranice za preuzimanje.

Mnoge od tih usluga skidanja ili "nudifikacije" koriste popularne društvene mreže u marketinške svrhe, navodi Graphikai. Na primjer, od početka ove godine broj poveznica koje oglašavaju te aplikacije rastao je za više od 2400 posto na društvenim mrežama, uključujući X i Reddit, prema istraživačima. Usluge koriste umjetnu inteligenciju kako bi rekreirale sliku tako da je osoba na njoj gola. Većina ovih usluga radi samo na ženama.

Ove su aplikacije dio zabrinjavajućeg trenda razvoja i distribucije nepristojnog sadržaja bez pristanka, zbog napretka u umjetnoj inteligenciji, poznatog kao deepfake pornografija. Njegovo širenje suočava se s ozbiljnim pravnim i etičkim preprekama jer se fotografije često preuzimaju s društvenih mreža i distribuiraju bez pristanka, kontrole ili znanja subjekta.

"Možete stvoriti nešto što zapravo izgleda realistično", rekao je Santiago Lakatos, analitičar u Graphika, primjećujući da su prethodne deepfake slike često bile mutne.

Jedna fotografija objavljena na društvenoj mreži X reklamirajući aplikaciju za uklanjanje koristi jezik koji sugerira da korisnici mogu izraditi takve slike i zatim ih poslati osobi čija je fotografija "digitalno uklonjena", potičući uznemiravanje. Jedna od aplikacija, pak, plaća sponzorirani sadržaj na Googleovom YouTubeu i pojavljuje se prva u pretrazi na ključnu riječ – "nudifikacija".

Googleov glasnogovornik rekao je da tvrtka ne dopušta oglase koji sadrže seksualno eksplicitan sadržaj. "Pregledali smo ove oglase i uklanjamo one koji krše naša pravila", izjavili su.

Ni X ni Reddit nisu odgovorili na zahtjeve za komentar.

Depositphotos

 

Osim rasta prometa, te usluge, neke od kojih naplaćuju 9,99 dolara mjesečno, tvrde na svojim web stranicama da privlače velik broj korisnika. "Obavljaju značajan posao", istaknuo je Lakatos. Opisujući jednu od aplikacija za skidanje odjeće, dodao je: "Prema njihovim tvrdnjama, njihova web stranica se hvali s više od tisuću korisnika dnevno."

Neovlaštena pornografija s javnim osobama već dugo predstavlja ozbiljan problem na internetu, no stručnjaci za privatnost sve više izražavaju zabrinutost zbog napretka u tehnologiji umjetne inteligencije koji je olakšao i učinio efikasnijim softvere za stvaranje lažnih sadržaja.

"Vidimo da sve više običnih ljudi s običnim ciljevima provodi ovakve aktivnosti", izjavila je Eva Galperin, direktorica kibernetičke sigurnosti pri Electronic Frontier Foundation. "Primjećujemo to među srednjoškolcima i studentima."

Mnoge žrtve nikada ne saznaju za slike, ali čak i one koje saznaju mogu imati problema s pokretanjem sudske istrage ili pronalaženjem sredstava za pokretanje pravnog postupka, rekla je Galperin.

Trenutno ne postoji savezni zakon koji zabranjuje stvaranje deepfake pornografije, iako američka vlada zabranjuje stvaranje takvih slika maloljetnika. U studenom je dječji psihijatar iz Sjeverne Karoline osuđen na 40 godina zatvora zbog korištenja aplikacije za skidanje odjeće s fotografija svojih pacijenata, što je prvo takvo kazneno gonjenje prema zakonu koji zabranjuje stvaranje lažnog materijala o seksualnom zlostavljanju djece.

Trenutno ne postoji savezni zakon koji zabranjuje stvaranje pornografije s pomoću deepfake tehnologije, iako američka vlada zabranjuje generiranje ovakvih slika maloljetnika. U studenom je jedan dječji psihijatar iz Sjeverne Karoline osuđen na 40 godina zatvora zbog upotrebe aplikacija za skidanje odjeće s fotografija svojih pacijenata, prvi takav slučaj suđenja pod zakonom koji zabranjuje generiranje deepfake materijala dječje seksualne zloupotrebe.

TikTok je blokirao ključnu riječ "undress", popularan pojam povezan s takvim uslugama, upozoravajući svakoga tko pretražuje tu riječ da "može biti povezana s ponašanjem ili sadržajem koji krši naše smjernice", navodi aplikacija. Predstavnik TikToka odbio je komentirati.

Meta je također počela blokirati ključne riječi povezane s pretraživanjem aplikacija za skidanje odjeće. Glasnogovornik je odbio komentirati.