Twitch je puno očekivao od značajke koja je idealna za zlostavljače djece

U proljeće 2023. godine, dvanaestogodišnji dječak je na Twitchu, Amazonovoj popularnoj platformi za livestreaminge  snimao svoj videoprijenos uživo. Na snimci se moglo vidjeti dječaka kako jede sendvič i svira francuski rog. Nekoliko minuta kasnije, njegovom prijenosu pridružilo se desetak gledatelja. Putem Twitchevog chata, jedan ga je zamolio da napravi kolut unatrag. Drugi je tražio da pokaže svoje mišiće.

Dječak je potom povukao svoje hlače dolje. Videoprijenos je vrlo brzo nakon toga završen, ali jedan je gledatelj upotrijebio značajku zvanu "clips" (isječci) kako bi snimio taj trenutak u videu koji je trajao 20 sekundi. Pokazalo se kako je upravo taj gledatelj pratio više od stotinu drugih Twitch računa za koje se činilo da pripadaju djeci. Isječak koji je snimio od tada je pregledan više od 130 puta.

Twitch ove godine planira proširiti funkciju "isječci". Kao dio ranije najavljenog poboljšanja, tvrtka će poticati više korisnika da dijelove livestreaminga pretvore u kratke videozapise koji će se moći pregledavati kao objave na feedu ili pak podijeliti na drugim društvenim mrežama, uključujući i TikTok. Međutim, uoči te nadogradnje, stručnjaci za online sigurnost upozoravaju da ovaj alat neki korisnici već iskorištavaju za snimanje djece. Štoviše, taj sadržaj dijele i time zapravo zlostavljaju maloljetne korisnike Twitcha.

Bloombergova analiza gotovo 1100 isječaka na Twitchu pokazala je kako najmanje 83 kratka videa sadrže seksualizirani sadržaj koji uključuje djecu. Kanadski centar za zaštitu djece, koji je pregledao materijal, identificirao je 34 videozapisa koja prikazuju mlade korisnike - prvenstveno dječake u dobi od 5 do 12 godina - kako kameri pokazuju genitalije. Često to rade prateći upute gledatelja koji ih ohrabruju za to tijekom prijenosa uživo. Još 49 videozapisa uključivalo je seksualizirani sadržaj u kojem su bili maloljetnici dok su pokazivali dijelove tijela ili su bili podvrgnuti nekoj vrsti zlostavljanja.

Prema podacima Centra, 34 vrlo uznemirujuća videozapisa pregledana su 2700 puta. Ostali eksplicitni videi, napominje Centar, pregledani su 7300 puta. Kada gledatelj snimi prijenos uživo koji uključuje takve seksualne konotacije, to "postaje gotovo trajni zapis tog seksualnog zlostavljanja", kaže Stephen Sauer, ravnatelj Centra.

''Riječ je i mogućem o širem nanošenju patnje žrtvama nakon što se livestream snimi zbog mogućnosti daljnje distribucije tog materijala'', rekao je.

Nakon upozorenja Bloomberga, Twitch je uklonio zabranjeni sadržaj.

"Nanošenje boli mladima, bilo gdje online, duboko je uznemirujuće", rekao je u izjavi glavni izvršni direktor Twitcha Dan Clancy. "I jedan je slučaj previše. Ovaj problem shvaćamo krajnje ozbiljno."

Twitch je pokrenuo funkciju isječaka još 2016. godine. Lani je, suočen s konkurencijom, i to primarno društvenom mrežom TikTok, Twitchev razvojni tim stavio fokus upravo na širenje opcije ''isječci''.

Istodobno, upravo ta znajčajka je ostala među najmanje moderiranim, tvrde stručnjaci upoznati sa sigurnosnim protokolima koji su pristali razgovarati o organizaciji poslovanja Twitcha uz uvjet anonimnosti.

Clancy je pak poručio kako je nužna suradnja da bi borba protiv zlostavljanja djece bila smislena. Napomenuo je da Twitch radi u partnerstvu s raznim agencijama i kako je po tome pitanju napravio ozbiljan napredak. Stalnim pregledom sadržaja uživo na Twitchu, rekao je Clancy, tvrtka sprječava "stvaranje i širenje štetnih videozapisa". Twitch također radi i na retroaktivnom "brisanju i onemogućavanju" štetnih videozapisa, istodobno osiguravajući da takvi videozapisi "ne budu dostupni putem javnih domena ili drugih izravnih poveznica".

"Nastavit ćemo se predano boriti s ovim problemom, kao i sve druge online platforme", dodao je.

Čelnici Twitcha godinama se bore kako bi iskorijenili pedofilsko zbližavanje na Twitchu, koji ima više od 96.000 kanala uživo i sedam milijuna aktivnih korisnika. Bloomberg News je 2022. izvijestio kako pedofili rutinirano koriste Twitch za praćenje djece u stvarnom vremenu, a njihova meta je, procjenjuje se, bilo više od 297.000 djece.

Twitch je nakon te objave najavio niz promjena. Kompanija je pokrenula novi zahtjev za telefonsku provjeru i razvija tehnologiju za otkrivanje i ukidanje računa koji pripadaju djeci mlađoj od 13 godina. Time je otežala korištenje platforme maloljetnicima kojima je ranije bio uskraćen pristup toj platformi. Usto, Twitch koristi i alate za analizu jezika za otkrivanje zlostavljanja djece, kao i umjetnu inteligenciju za označavanje golotinje.

U travnju je Twitch otpustio najmanje 15 posto svog internog tima za sigurnost i više se oslanjanja na vanjske pružatelje usluga za prepoznavanje i uklanjanje problematičnog sadržaja. Trenutačno Twitch većinu svojih napora u praćenju usmjerava na svoje prijenose uživo, za koje tvrtka kaže da se pregledavaju pomoću ljudskih moderatora, umjetne inteligencije i drugih alata. Nasuprot tome, kada je riječ o moderiranju isječaka, Twitch se oslanja isključivo na svoje korisnike i njihove prijave sumnjivog ili uznemirujućeg sadržaja.

Kako je pokazalo nedavno objavljeno izvješće australskog povjerenika za online sigurnost, Twitch je u posljednjem tromjesečju 2022. otkrio 318 slučajeva prikrivenog pedofilskog zbližavanja dnevno, od čega je petina rezultirala brisanjem profila,

Obično društvene mreže poput YouTubea i Instagrama mogu prepoznati kada korisnici pokušavaju prenijeti uvredljive videozapise uspoređujući novi sadržaj s prethodnim izvorima koji sadrže sličan materijal. No kako se na Twitchevim prijenosima uživo, seksualno zlostavljanje djece događa u stvarnom vremenu nema ranijih videozapisa s kojima bi se mogli usporediti.

"Hash tehnologija traži ono što odgovara nečemu što je već viđeno", rekla je Lauren Coffren iz američkog Nacionalnog centra za nestalu i iskorištavanu djecu. "Streaming uživo znači da je sadržaj potpuno nov", objasnila je.

U travnju je dvostranačka skupina američkih senatora predstavila Zakon o zaštiti djece na društvenim mrežama, s ciljem poboljšanja sigurnosti djece na platformama koje prikazuju sadržaj koji generiraju korisnici, poput Twitcha.

Sauer smatra da se tvrtkama koje su vlasnici društvenih medija više ne može vjerovati da će se same regulirati. ''Već 25 godina sa strane promatramo kako industrija provodi dobrovoljnu regulaciju'', rekao je. ''Znamo da to ne funkcionira. Vidimo da se na ovim platformama iskorištava previše djece. Zato želimo da se uključe vlasti uz jasnu poruku: Ovo su zaštitni mehanizmi koje morate provoditi'', istaknuo je.