.webp){kind=icon}
"Sissy se zapetljala!" Panični plač petogodišnjeg dječaka odjeknuo je hodnikom trosobne kuće obitelji Arroyo u Milwaukeeju. Bila je veljača 2021., a on se prije spavanja igrao sa svojom devetogodišnjom sestrom Arriani. Njihova je majka bila na satu proučavanja Biblije, a njihov je otac bio u svojoj podrumskoj radionici, gdje nije čuo zvukove iz kuće. Dječak je gledao kako se Arriani penje na škrinju s igračkama, omotava metalni povodac za psa oko vrata i kači kopču za šarku na vratima ormara. Arriani je visjela pola metra od tla, udarajući se i očajnički grebući po vratu.
Nekoliko dana kasnije, nakon što je Arriani pokopana u haljini princeze i tijarom, sa svježe nalakiranim noktima, dječak je ispričao roditeljima što se dogodilo. Igrali su igru, rekao je, kao što su vidjeli na TikToku.
Fotografija Arriani u obiteljskoj kući | Bloomberg
Igra je imala ime: blackout challenge. Djeca diljem svijeta gušila su se kućanskim predmetima sve dok se nisu onesvijestila, snimajući adrenalin koji su dobili dok su dolazili svijesti, a zatim postavljali videosnimke na društvenu mrežu. To je moderna inkarnacija izazova gušenja koji postoje desetljećima, samo što ih sada snažni algoritmi društvenih medija isporučuju djeci i dopiru do onih koji su premali da u potpunosti shvate rizik.
Nije bilo medijskog izvještavanja o Arrianijevoj smrti, a prošli su mjeseci dok TikTok o tome nije saznao. No tvrtka je bila svjesna da djeca koja nisu dovoljno stara kako bi imala profile u njezinoj aplikaciji umiru radeći taj izazov. Tjednima prije toga TikTokov tim za povjerenje i sigurnost, koji radi na zaštiti korisnika i ugleda tvrtke, počeo je istraživati sličan incident u Palermu na Siciliji. Desetogodišnja djevojčica, Antonella Sicomero, pronađena je u siječnju kako visi na vješalici za ručnike s pojasom kućnog ogrtača oko vrata. Antonellini roditelji rekli su lokalnim medijima da je umrla igrajući "ekstremnu igru na TikToku". Ured tužitelja u Palermu otvorio je istragu, a talijanski nadzornik privatnosti naredio društvenoj mreži da ukloni svakog korisnika u zemlji za čiju dob nije mogao potvrditi da je viša od 13 godina, navodeći kako se ne pridržava vlastitog pravila držanja predtinejdžera dalje od aplikacija.
Mala skupina ljudi iz Povjerenja i sigurnosti provela je dane pregledavajući svaki isječak koji je Antonella nedavno pogledala, rekla su dva člana tima koji su vidjeli sažetak internog izvješća o njezinoj smrti i zatražili anonimnost jer nisu bili ovlašteni razgovarati s medijima. Bilo je puno videa. U izvješću stoji da je Antonella, čija je škola zatvorena zbog pandemije COVID-19, bila na aplikaciji čak 10 sati dnevno. Grupa je također saznala da je, kao i mnoga djeca njezine dobi, Antonella tvrdila kako je starija od 13 godina kada je kreirala svoj račun.
Tim je izvijestio kako nije pronašao dokaze da je TikTokov algoritam preporučio izazov Antonelli. To je bilo olakšanje višim rukovoditeljima, kažu članovi tima. Napravljena je strategija upravljanja kriznim situacijama kako bi se TikTok udaljio od tragedije, prikazujući je kao problem cijele industrije. Tvrtka je novinarima rekla da izazov "nikada nije bio trend" na platformi te su rekli kako su korisnici za njega saznali "iz izvora koji nisu TikTok".
Što Tiktok radi kako bi zaštitio djecu? | Bloomberg
TikTok je nastavio s istom porukom, uključujući i nedavnu izjavu za Bloomberg Businessweek, budući da su djeca koja su umrla premlada da bi bila na društvenim mrežama. Izazov zamračenja povezan je sa smrću najmanje 15 djece u dobi od 12 godina ili mlađe u posljednjih 18 mjeseci, prema podacima koje je Businessweek prikupio iz novinskih izvješća, sudskih spisa i intervjua s članovima obitelji. Tada je umrlo i najmanje petero djece u dobi od 13 i 14 godina. Novinski naslovi nakon smrti često su izdvajali TikTok, ali policijske uprave odbile su zahtjeve Zakona o slobodi informacija kako bi vidjeli izvješća o incidentima koja bi mogla pomoći u dokazivanju o kojoj je platformi riječ, ako uopće postoji.
U vrijeme Arrianine smrti, rukovoditelji su pokušavali smisliti kako bi bolje otkrili i izbacili djecu koja su lagala o svojoj dobi. Ne postoje učinkoviti mehanizmi za blokiranje maloljetnih korisnika s platformi društvenih medija, što je problem koji ih muči otkako su izumljeni. U 2021. TikTok se susreo s najmanje dvama pružateljima softvera za procjenu dobi lica, koji može razlikovati dijete od tinejdžera s relativnom točnošću, prema ljudima upoznatim s razgovorima. Ovi programi za strojno učenje skeniraju lica tražeći tragove o dobi osobe, a tvrtke kažu kako sustavi rade bez identificiranja pojedinaca ili pohranjivanja bilo kakvih podataka, što bi ipak moglo izazvati zabrinutost zbog privatnosti.
Usprkos tome, jedan od ljudi upoznatih s pregovorima kaže kako je izvršni direktor TikToka poništio ugovore. Tvrtku, u vlasništvu ByteDance sa sjedištem u Pekingu, regulatori i političari diljem svijeta optuživali su da je kineski državni alat za nadzor te je bila suočena s mogućom zabranom u SAD-u, koja se još uvijek razmatra. Izvršna se osoba, kaže osoba, bojala da bi korištenje biometrijskih podataka moglo potaknuti sumnje da Kina špijunira djecu korisnike. Druge platforme društvenih medija, uključujući Twitter, Instagram i aplikaciju za dijeljenje fotografija BeReal, od tada su se udružile s ovim pružateljima softvera za procjenu dobi.
Sve mlađa djeca koriste društvene mreže | Bloomberg
TikTok je odbio komentirati sastanke ili zašto nije usvojio tehnologiju. Kaže da uklanja račune maloljetne djece te ih je samo u prvoj polovici ove godine uklonio 41 milijun. No, s više od milijardu korisnika diljem svijeta, kažu bivši zaposlenici, zadatak je beskrajan – samo pitajte bilo kojeg mladog ovisnika o TikToku hoće li ih brisanje računa zadržati izvan platforme dulje od nekoliko minuta.
Američki zakon društvenim mrežama zabranjuje prikupljanje podataka o djeci mlađoj od 13 godina, a TikTok kaže kako je usklađen s pravilima. Djeca mlađa od te dobi koja se pokušaju registrirati za račun u SAD-u preusmjeravaju se na verziju aplikacije u kojoj mogu gledati odabrani sadržaj bez osobnog profila ili prikazivanja oglasa. No TikTok diktira kulturu mladih, to je najpopularnija aplikacija u SAD-u, koristi je gotovo 70 posto tinejdžera u dobi od 13 do 17 godina, prema jednoj anketi, i tvrtka je svjesna da djeca često lažu o svojoj dobi kako bi dobila verziju za odrasle. I, premda TikTok ne otkriva podatke o dobi svojih korisnika, interni podaci koji su procurili u New York Times pokazali su kako je 2020. godine čak jedna trećina bila mlađa od 14 godina.
To je osjetljivo pitanje za kompaniju, koja zaposlenicima kaže da "govore o mladima, ali ne o djeci", prema internom dokumentu s porukama koji je pregledao Businessweek. TikTok je kažnjen jer je djecu pustio u svoju aplikaciju, a regulatori diljem svijeta istražuju njegove mjere provjere dobi. Također se suočava s tužbama za nezakonitu smrt u SAD-u, navodeći kako je njegov algoritam poslao izazov zamračenja djeci od osam godina.
Provjera koja je u tijeku dobrodošla je vijest za neke od 20 sadašnjih i bivših radnika Povjerenstva sigurnosti intervjuiranih za ovaj članak. Kažu kako bi tvrtka mogla i trebala učiniti više kako bi spriječila djecu da koriste aplikaciju. "PR linija u TikToku je da nam je sigurnost korisnika prioritet broj jedan", kaže bivši voditelj povjerenja i sigurnosti sa sjedištem u Kaliforniji koji je zamolio ostati anoniman dok je razgovarao o internim pitanjima tvrtke. "To nije istina. Rast je prioritet broj jedan. Biti aplikacija broj jedan na svijetu je prioritet broj jedan. Zarađivati više novca je prioritet broj jedan."
TikTok aplikacija svake godine odnosi sve više mladih života | Bloomberg
Kada je ByteDance potrošio oko 800 milijuna dolara za spajanje TikToka s aplikacijom za sinkronizaciju čitanja s usana Musical.ly 2018. godine, dobio je više od 200 milijuna novih korisnika. Također, naslijedio je istragu američke Savezne komisije za trgovinu o praksi Musical.lyja puštanja male djece u svoju aplikaciju. Musical.ly se godinama oglušivao o američki zakon, pozdravljajući mlađe od 13 godina koji su bili isključeni s konkurentskih platformi i istovremeno kršeći Zakon o zaštiti privatnosti djece na internetu, koji nastoji zaštititi predtinejdžere od oglašivača.
Suosnivač Musical.ly i suizvršni direktor Alex Zhu je na konferenciji TechCrunch 2016. priznao kako su mnogi od najpopularnijih korisnika aplikacije bili maloljetni. No rekao je da je to u skladu sa zakonom jer su djeca imala pristanak roditelja. Nije imalo smisla postavljati dobnu granicu, rekao je Zhu – kad bi Musical.ly pitao za datum rođenja, djeca bi samo lagala. Iako je to možda bilo iskreno priznanje, FTC je 2019. ByteDance kaznio 5,7 milijuna dolara, što je u to vrijeme bila najveća nagodba o privatnosti djece u povijesti SAD-a. (Kazna jedva da je oštetila tvrtku koja se sada procjenjuje na 300 milijardi dolara, a ubrzo ju je zasjenila kazna od 170 milijuna dolara zbog povrede privatnosti djece protiv YouTubea i Googlea u vlasništvu Alphabeta.)
Zhu na TechCrunch Disrupt Londonu 2016. | Bloomberg
Na istoj konferenciji 2016., Zhu je rekao kako Musical.ly od ostalih aplikacija za zabavu razlikuju svakodnevni izazovi. Tvrtka je svaki dan promovirala novi izazov, obično generirajući više od milijun videozapisa. Kad je Musical.ly apsorbiran u TikTok, s njim su došli i izazovi.
Ti su izazovi imali odjeka među tinejdžerima koji su tijekom prvog vala COVID-a ostali kod kuće. Razvili su se iz koreografiranih plesnih rutina u trendove obiteljskog povezivanja, poput prikazivanja četiri generacije u jednom videu ili oblačenja kućnih ljubimaca. U 2020. su preuzimanja TikToka skočila za 75 posto. Kako bi pojačali val, predstavnici tvrtke obratili su se utjecajnim osobama kako bi ih potaknuli da isprobaju različite izazove.
Kad su neki postali opasni, poput onih s djecom koja su se penjala na naslagane sanduke za mlijeko, pijuckala Benadryl® ili uništavala školsku imovinu, TikTok je uspostavio "spektar štete" kako bi svojim moderatorima pomogao odlučiti što bi moglo ostati gore, a što bi trebalo maknuti, prema Eric Hanu, čelniku tvrtke za sigurnost SAD-a. Izazov s cimetom, u kojem su korisnici pojeli žlicu praha, mogao je dovesti do manjih oštećenja pluća, ali se smatralo kako vjerojatno ne bi izazvao katastrofalnu štetu, pa je tim za povjerenje i sigurnost priložio upozorenje sadržaju i ostavio ga. Morali su riješiti druga goruća pitanja, uključujući integritet izbora, borbu protiv govora mržnje i suočavanje s prijetnjom Trumpove administracije o zabrani TikToka zbog zabrinutosti za nacionalnu sigurnost.
Izazovi se prebacuju preko platformi, pretvarajući se u nove iteracije s različitim hashtagovima | Bloomberg
Usred tog kaosa i eksplozivnog rasta aplikacije, izazovi su postajali sve riskantniji. U izazovu razbijanja lubanja, dvoje bi ljudi prevarilo trećeg da skoči između njih, a zatim bi se spotaknulo skakača u zraku, što je rezultiralo izvješćima o potresima i oštećenjima mozga. Izazov utičnice, koji uključuje ispuštanje novčića na zupce djelomično uključenog punjača za telefon kako bi se gledalo kako iskri, doveo je učeničkih optužbi za uništavanje imovine. Vatreni izazov, u kojem su klinci predmete polijevali akcelerantom pa ih palili, ponekad je završavao opeklinama trećeg stupnja. A izazov zamračenja bio je smrtonosan.
Čini se da su američki zdravstveni dužnosnici proučavali smrtne slučajeve povezane s igrama gušenja samo u godinama prije procvata društvenih medija. Izvješće koje je Centar za kontrolu i prevenciju bolesti objavio 2008. pokazalo je kako je 82 djece u dobi od šest do 19 godina umrlo igrajući igru gušenja između 1995. i 2007., godine kada je prvi iPhone pušten u prodaju. Vlada od tada nije objavila drugu studiju o tom pitanju, ali povremena izvješća sugeriraju da su društveni mediji pojačali problem.
Judy Rogg postala je zagovornica nastojeći podići svijest o izazovu gušenja nakon što je njezin 12-godišnji sin Erik umro igrajući igricu 2010., mnogo prije nego što je TikTok stvoren. Rogg je pokrenula neprofitnu organizaciju pod nazivom Erik's Cause, koja pomaže u obuci škola o tome kako se nositi s rizicima na internetu i prikuplja statističke podatke o smrtima povezanim s igrama gušenja. Otkrila je da je od 2018. umrlo najmanje 33 djece mlađe od 13 godina. "Postao je popularniji na društvenim mrežama", kaže Rogg. "Apsolutno je eksplodirao. "
Izazovi se prebacuju preko platformi, pretvarajući se u nove iteracije s različitim hashtagovima i šifriranim riječima dok korisnici zaobilaze sigurnosna ograničenja. Izazov zamračenja ima mnogo naziva, od očiglednije "igre gušenja" i "izazova padanja u nesvijest", do suptilnijeg "flatliner" i opskurnog "svemirskog majmuna". Djeca pogrešno pišu riječi kako bi izbjegla otkrivanje, poput "space monkee" ili "blackout tr1ck". Videozapisi s nekim od ovih naslova danas postoje na TikToku, prikazujući djecu kako duboko dišu i guraju jedno drugo u prsa dok se ne onesvijeste ili guše jedno drugo rukama. Možete vidjeti kako djeca privremeno gube svijest, a zatim se probude smijući se. Jedan natpis kaže: "Najluđi osjećaj ikada."
TikTok oglašava kako "trendovi počinju kod njih" | Bloomberg
Više od 70 posto djece u SAD-u ima mobitel do svoje 12. godine, a polovica djece od osam do 11 godina u Ujedinjenom Kraljevstvu svakodnevno gleda TikTok sadržaj, prema anketama u obje zemlje. TikTok obučava svoje timove za moderiranje da traže maloljetne korisnike i oslanja se na tekstualnu analitiku za otkrivanje ključnih riječi kao što je napisana dob u biografiji. Također se oslanja na druge korisnike kako bi otkrili svoje račune. Mahsau Cullinane, glasnogovornica tvrtke, odbila je otkriti više detalja, kako bi izbjegla podučavanje djece kako "zaobići naše zaštitne mjere". Istaknula je da je TikTok 2020. godine izdao alat koji roditeljima omogućuje praćenje aktivnosti djeteta na aplikaciji.
Globalna armija od oko 40 tisuća moderatora odgovorna je za pregled videa na TikToku, od kojih tri četvrtine rade po ugovoru. Svaki pogleda oko 1000 videa dnevno, a potrebno im je oko 20 sekundi za pregled svakog od njih, prema bivšim zaposlenicima. Kažu kako sustav nije usmjeren na pronalaženje maloljetnih korisnika. Postovi se filtriraju do moderatora pomoću softvera umjetne inteligencije koji skenira svaki preneseni video, 10 milijardi samo u prvom kvartalu ove godine, i automatski uklanja sve što bi kršilo smjernice zajednice, poput golotinje ili nasilja. Ako softver nije siguran, šalje materijal čovjeku na procjenu. Svaki videozapis s više od oko 3000 pregleda (broj se razlikuje od zemlje do zemlje) također se šalje moderatoru, čime se osigurava da najpopularniji sadržaj dobije ljudski pregled. Ipak, djeca mlađa od 13 vjerojatno neće objavljivati sadržaj koji krši smjernice ili koji će doprijeti do toliko pogleda.
Moderatori TikToka možda aktivno traže račune maloljetnih korisnika, ali nikad nisu uklonili račun Arriani Arroyo, gdje je objavljivala videe za svojih 260 pratitelja. Nije skrivala svoj identitet: njezina profilna fotografija bila je slika njena devetogodišnjeg lica. U svojim videima pleše, smije se i igra sa svojim bratom. Njezina zadnja objava imala je 457 pregleda.
Moderatori TikToka možda aktivno traže račune maloljetnih korisnika, ali nikad nisu uklonili račun Arriani Arroyo | Bloomberg
"Ovo su posljednje stvari koje je nosila", kaže Christal Arroyo, uzimajući pidžamu na vezanje iz komode svoje kćeri. Nježno je razmotala vrh, otkrivajući razderotinu na mjestu na kojem su je bolničari otvorili. "Ne volim ih gledati", kaže presavijajući odjeću. "Dođem ih pomirisati." Kiša zapljuskuje prozor, a munja osvjetljava Arrianinu spavaću sobu. Arroyo ništa ne primjećuje. Ima zatvorene oči, udiše miris svoje kćeri.
Arriani je voljela šljokice, lak za nokte i haljine vilinskih princeza. Skupljala je školjke i pisala popise obaveza u svoj dnevnik: "peri zube, biraj odjeću, friziraj se i šminkaj, zabavi se!" Omiljena pjesma bila joj je Girl on Fire Alicie Keys, a pjevala ju je tijekom jutarnje rutine. Htjela je iPhone kad je napunila osam godina, "kao svako dijete u Americi", kaže njezina majka. Omiljena aplikacija bila joj je TikTok. Kad je pandemija zatvorila njezinu školu 2020., Arriani je postala "opsjednuta" time, kaže Arroyo.
Arriani i njezin brat provodili su sate baveći se plesnim trendovima i viralnim izazovima. Neki su bili nevini, poput držanja vode u ustima dok se ne počnete hihotati ili jedenja samo crvene hrane tijekom 24 sata. Igrali su se zajedno one noći kad je umrla. "Ljudi su mi komentirali: 'Gdje su bili roditelji?' ", kaže njezin otac, Eddie Arroyo. "Pa bio sam kod kuće taj dan, taj trenutak, i nisam ništa čuo." Njegov sin je sišao u podrum, gdje je rezao izolaciju, da mu kaže da se Arriani zapetljala."Pratio sam ga da vidim što nije u redu, i tu sam je pronašao", kaže, pokazujući prema spavaćoj sobi svog sina. Povodac za pse kojim se objesila bio je namijenjen psiću kojeg je obitelj namjeravala kupiti. "Nije mogla disati, nije mogla vrisnuti", kaže Eddie.
Neki bi se roditelji spakirali i otišli, progonjeni sjećanjem. Obitelj Arroyo odlučila je ostati u kući u kojoj je Arriani umrla jer je tu i živjela. Njezine Juicy Couture Ugg čizme ukrašene draguljima nalaze se pokraj kreveta; njezina ružičasta maska za spavanje Trnoružice visi sa stupića kreveta. Htjeli su je pokopati na groblju preko puta, čije se imanje vidi kroz njezine svjetlucave zavjese. Ali podižući petero djece uz Eddiejevu plaću vozača kamiona, dok je Christal redovita studentica prava, nisu si mogli priuštiti parcelu. Umjesto toga, Arriani je pokopana na groblju udaljenom sedam minuta vožnje.
Nakon sprovoda, Arroyoi su Arrianine prijatelje pitali koju je igru igrala kad je umrla. Tada su prvi put čuli riječi "blackout challenge".
Obitelj Arroyo na grobu svoje kćeri | Bloomberg
Čitali su novinska izvješća dok je sve više djece umiralo. Joshua Haileyesus pronađen je u Coloradu dva mjeseca kasnije s omčom oko vrata; njegov otac, Zeryihun, rekao je kako je umro pokušavajući TikTokov izazov zamračenja. U lipnju je umrlo još troje djece, što je također rezultiralo novinskim naslovima o izazovu zamračenja: Nate Squires, 13 godina, u Massachusettsu; LaTerius Smith Jr., devet godina, u Tennesseeju; i James Boyd-Gergely, 14 godina, u Australiji. U srpnju je osmogodišnja Lalani Walton pronađena obješena u svojoj spavaćoj sobi, također u Tennesseeju. U rujnu je desetogodišnji Hayden Robert Craig pronađen kako visi na stablu u svom dvorištu u Georgiji.
Policija nijednu od ovih smrti nije javno povezala s TikTokom. Drugi smrtni slučajevi možda su ostali neprijavljeni, prema Roggu, osnivaču Erik's Cause. "Nažalost, mnoge od tih smrti pogrešno su klasificirane kao samoubojstva", kaže. Jedini način da se dokaže da je dijete sudjelovalo u izazovu ili da se otkrije koja je platforma u pitanju jest da službenici provedu psihološku obdukciju, istragu djetetove internetske mreže i prijateljskih grupa kako bi rekonstruirali što su možda mislili, ili narede forenzička analiza njihovih uređaja kako bi se utvrdilo što su gledali online.
Policajci u Clarksvilleu u Tennesseeju, gdje je Lalani Walton umrla, učinili su upravo to. Prema tužbi koju su njezini roditelji podnijeli, policija je rekla kako je analiza njezina telefona pokazala da je provela sate gledajući videozapise izazova zamračenja na TikToku dan prije smrti. (Glasnogovornik policijske uprave Clarksville odbio je komentirati.) Nakon što je tijelo Haydena Roberta Craiga pronađeno u Georgiji, policajac je primijetio njegov iPad u blizini, prema izvješću o incidentu u koje je imao uvid Businessweek. Na ekranu se prikazao TikTok crnog zaslona s krvavim emotikonom noža.
Članovi TikTokova azijsko-pacifičkog savjetodavnog vijeća za sigurnost, koje se sastoji od vanjskih stručnjaka, izrazili su zabrinutost zbog toga što je izazov zamračenja povezan sa smrtnim slučajevima i u njihovoj regiji. Linh Phương Nguyễn, vijetnamska stručnjakinja za sigurnost djece na internetu koja je u vijeću, kaže kako je nekoliko djece umrlo pokušavajući izazov u Kambodži, na Filipinima i u Vijetnamu. Jedna, iz Ho Chi Minh Cityja, imala je samo pet godina. Iskoristila je komad šifona kako bi se objesila o krevet na kat nakon što je gledala izazov na YouTubeu. (Glasnogovornica YouTubea kaže da platforma uklanja videozapise izazova zamračenja i zabranjuje "svaku aktivnost koja sprječava disanje ili može dovesti do gušenja.")
Neki u vijeću predložili su TikToku i drugim platformama društvenih medija da izgrade savez kako bi spriječili širenje opasnih izazova, kažu ljudi upoznati s njihovim privatnim sastancima. Ali TikTok je imao nekoliko prijatelja u Silicijskoj dolini. Prema Washington Postu, jedan potencijalni saveznik, Meta Platforms, angažirao je oporbene istraživače 2021. da podmetnu vijesti o tome kako TikTok širi opasne izazove koji zapravo potječu s Facebooka. Meta nije zanijekala kampanju klevetanja kako bi okrenula javnost protiv svog najvećeg rivala, čiji je format i algoritam istovremeno htjela kopirati.
Djeca su prisutna na svim društvenim mrežama | Bloomberg
Cullinane, glasnogovornica TikToka, kaže kako tvrtka "nevjerojatno ozbiljno shvaća svaku prijavu navodnog opasnog čina ili izazova". Nakon svake smrti i naslova, TikTok je odredio radnu skupinu da to istraži. No upućeni kažu da su ti upiti osmišljeni kako bi se odbacila krivnja. Svaki put kad je naslov izazova zamračenja povezan s TikTokom, tim koji je zadužen za slučaj pronašao je dokaze da su mrtva djeca koristila više platformi društvenih medija i zaključio kako nema načina da se dokaže koja ih je aplikacija uputila na izazov. U nekim slučajevima tim uopće nije mogao potvrditi postojanje TikTok računa.
Nakon smrti Antonelle Sicomero u siječnju 2021. i zabrane nepotvrđenih TikTok računa u Italiji, tvrtka je pristala ponovno provjeriti dob 12,5 milijuna korisnika u zemlji. Završilo je brisanjem pola milijuna računa. TikTok je također svojim regionalnim upraviteljima rekao da pripaze na bilo kakav sadržaj izazova zamračenja na njihovim tržištima, uklonio je videozapise koji promoviraju takav sadržaj i krajnjim korisnicima ukinuo mogućnost da ga traže u aplikaciji. TikTok je odbio otkriti koliko je videozapisa uklonjeno, ali Cullinane kaže da tvrtka nikada nije pronašla nikakve dokaze o trendu izazova na platformi. Ona ukazuje na anketu koju je naručila te godine koja pokazuje da je samo 0,3 posto tinejdžera reklo da je sudjelovalo u izazovu koji su smatrali "stvarno opasnim". Globalno istraživanje također je pokazalo kako je dva posto reklo da je sudjelovalo u izazovima koje su smatrali "rizičnim i opasnim".
Unatoč mjerama koje je TikTok poduzeo, smrtni slučajevi su se nastavili događati. Prošlog prosinca, 10-godišnja Nylah Anderson objesila se remenom torbice kod kuće u predgrađu Philadelphije. Nakon njezine smrti, njezina majka Tawainna Anderson je na mobitelu pronašla snimke Nylah i njezine sestrične kako igraju igru gušenja i prijavila je policiji.
Policajac je u izvješću o incidentu napisao da mu je rođak rekao "to je bio izazov davljenja koji su vidjeli na TikToku i YouTubeu". Prema tužbi za nezakonitu smrt protiv TikToka i ByteDancea koju je Nylina majka podnijela saveznom sudu u Pennsylvaniji u svibnju, forenzička analiza Nylina telefona pokazala je da joj je TikTok poslao video koji ju je potaknuo da torbicu stavi na vješalicu u ormaru, glavu namjesti između torbe i naramenice i visi dok se ne onesvijesti. Tvrtka je "nedvojbeno znala da se smrtonosni izazov zamračenja širio njihovom aplikacijom i da je njihov algoritam posebno hranio izazov zamračenja djeci, uključujući i one koji su umrli", stoji u pritužbi.
U srpnju je Centar za zaštitu žrtava društvenih medija u Seattleu podnio drugu tužbu, u ime roditelja Arriani Arroyo i Lalani Walton. Centar, koji je 2021. godine osnovao Matthew Bergman, odvjetnik za odgovornost za proizvode, pokrenuo je više od 40 tužbi protiv TikToka, Mete, Snapchata i YouTubea zbog navodne štete mentalnom zdravlju, ovisnosti o društvenim medijima i nezakonite smrti. Bergman, koji je svoju karijeru proveo tužeći proizvođače azbesta, kaže da je svoju pozornost usmjerio na društvene medije prošle godine kada je čuo da je zviždačica Mete Frances Haugen objavila dokumente koji opisuju načine na koje Facebook šteti tinejdžerima. Ove platforme "eksperimentiraju s našom djecom i stavljaju profit ispred ljudi", kaže Bergman.
U tužbi koju su podnijele obitelji Arroyo i Walton navodi se da je TikTok odgovoran za smrt njihove djece jer im je njihov algoritam preporučio izazov. U kolovozu je slučaj izmijenjen kako bi se dodala još jedna tužiteljica, baka i zakonska skrbnica 11-godišnjeg Zaidena Baldwina, koji je ranije ovog ljeta pronađen kako visi iza šupe u Novom Meksiku. Rekao je svojoj starijoj sestri da je vidio videozapise izazova zamračenja na TikToku i da želi isprobati, stoji u pritužbi. Slučaj je u tijeku, a TikTok nije dostavio odgovor.
"Posljednja stvar na svijetu koju te kompanije žele učiniti je stati pred porotu i objasniti im zašto su im profiti važniji od života" | Bloomberg
"Posljednja stvar na svijetu koju te kompanije žele učiniti je stati pred porotu i objasniti im zašto su im profiti važniji od života", kaže Bergman. "Upotrijebit će svaku moguću pravnu lukavštinu kako bi izbjegli taj obračun, a mi ćemo se boriti koliko god možemo da ih pozovemo na odgovornost." U rujnu je pokrenuta treća tužba protiv TikToka nakon što je 13-godišnji dječak umro pokušavajući izazov zamračenja, također u Novom Meksiku.
Cullinane, glasnogovornica TikToka, kaže kako suosjeća s obiteljima, ali da ne može komentirati sudski spor koji je u tijeku. U srpnju je tvrtka podnijela zahtjev za odbacivanje tužbe Nyle Anderson, tvrdeći kako "nema zakonsku obvezu zaštite od prikazivanja opasnih aktivnosti trećih strana". TikTok je u zahtjevu tvrdio da je zaštićen odjeljkom 230 Zakona o pristojnosti komunikacija, koji kaže da se tehnološke platforme ne mogu smatrati odgovornima za sadržaj objavljen na njihovim stranicama. U listopadu je sudac odbacio slučaj, slažući se da TikTok ne može biti tužen čak i ako je preporučio izazov Nyli. Odvjetnici njezine majke uložili su žalbu.
Vrhovni sud možda ima nešto za reći o tom pitanju. U listopadu je pristao saslušati nepovezani slučaj o opsegu odredbe o imunitetu iz Odjeljka 230. Njegova bi odluka mogla dopustiti nastavak tužbi za izazivanje zamračenja, ili ih izbrisati.
Christal Arroyo i njezin sin | Bloomberg
Platforme društvenih medija pod sve su većim pritiskom zakonodavaca kako bi učinile više na zaštiti djece. U rujnu je guverner Kalifornije Gavin Newsom potpisao zakon o privatnosti na internetu, modeliran prema britanskom zakonu o dizajnu primjerenom dobi, koji tehnološke tvrtke prisiljava na davanje prednost interesima djece u odnosu na komercijalne interese. Kalifornijski kodeks, koji bi trebao stupiti na snagu 2024., od tvrtki zahtijeva procjenu dobi djeteta korisnika "s razumnom razinom sigurnosti". Savezni zakon, koji također ima dio o provjeri dobi, ovog je ljeta izašao iz odbora Senata uz dvostranačku podršku. Taj zakon, Zakon o sigurnosti djece na internetu, od Nacionalnog instituta za standarde i tehnologiju zahtijeva godinu dana proučavanja kako platforme mogu točno potvrditi dob dok istovremeno štite privatnost maloljetnika.
To je oduvijek bio čin balansiranja za tehnološke tvrtke: sigurnost nasuprot privatnosti. Ako koriste tehnologiju prepoznavanja lica ili od korisnika traže identifikaciju koju je izdala vlada, poput vozačke dozvole ili putovnice, kritiziraju ih zbog kršenja prava na privatnost i gomilanja osobnih podataka. Ako od korisnika samo traže da unesu datum rođenja, napadaju ih da ne čine dovoljno kako bi zaštitili djecu koja lažu o svojoj dobi. A svake radnje koje uvodi provjera dobi suprotne su poruci sadržanoj u internom dokumentu TikTok-a koji je pregledao Businessweek: "Naš krajnji cilj je povećati dnevno aktivne korisnike."
Nadolazeći regulatorni pritisak stavio je pitanje osiguranja dobi u prvi plan, što je dovelo do toga da su neke od najvećih platformi društvenih medija u proteklih 18 mjeseci angažirale vanjske tvrtke za procjenu dobi. Za razliku od tehnologije prepoznavanja lica, koja nastoji identificirati osobu i ovisi o pohranjivanju milijuna slika, softver za procjenu dobi ne zadržava, dijeli ili ponovno koristi podatke, prema Julie Dawson, glavnoj službenici za politiku i regulativu u tvrtki za digitalni identitet Yoti doo Yoti, koja se nalazi u Londonu i radi s Instagramom u vlasništvu Mete. Njihov je softver proučio stotine tisuća lica s poznatom dobi, a programiran je sliku rastavljati u piksele, analizirati uzorke i procjenjivati koliko osoba ima godina.
Prošle je godine Yoti demonstrirao tehnologiju TikToku na privatnim sastancima, kaže Dawson, dodajući: "Do sada se nisu odlučili na to." TikTok se također sastao s Hiveom, tvrtkom iz San Francisca koja radi s tvrtkama Twitter i Reddit, prema trojici ljudi upoznatih sa stvari. Te rasprave, koje su počele početkom 2021., također nisu dale nikakav rezultat.
Dawson kaže da je TikTok bio "prilično zabrinut" zbog mogućnosti dopuštanja vanjskom davatelju softvera da koristi njegove biometrijske podatke. Te je veljače ByteDance pristao platiti 92 milijuna dolara za nagodbu kolektivne tužbe koju su u Illinoisu pokrenuli korisnici koji su kompaniju optužili za korištenje slika lica bez njihova pristanka za ciljano oglašavanje. TikTok je osporio optužbe, ali je četiri mjeseca kasnije promijenio svoju politiku privatnosti kako bi aplikaciji dao izričito dopuštenje za prikupljanje "otisaka lica i glasa" svojih korisnika. U listopadu su njezini rukovoditelji ispitani u Kongresu o tome kako planiraju koristiti te podatke. Izbjegli su pitanje, ali su rekli da TikTok prikuplja manje podataka od drugih društvenih medija.
"Nikome nije novost da tvrtke prolaze kroz proces ograničenja starosti, ali ga ne provode prestrogo." | Bloomberg
Problem je, kaže Michael Rich, pedijatar i direktor Digital Wellness Laba u Bostonskoj dječjoj bolnici, u tome što "te tvrtke ne vide svoje korisnike kao klijente koje treba uslužiti, vide ih kao proizvod koji prodaju." Platforme ne provode dobna ograničenja ozbiljno jer to nije u njihovu najboljem interesu, ističe. "Nikome nije novost da tvrtke prolaze kroz proces ograničenja starosti, ali ga ne provode prestrogo."
Marc Berkman, izvršni direktor Organizacije za sigurnost društvenih medija, grupe za zaštitu potrošača, kaže da TikTok šteti djeci jer ne koristi vanjski softver za procjenu dobi. "Zaštita koju imaju nije odgovarajuća", kaže Berkman, čija grupa nudi obrazovne savjete o tome kako zaštititi djecu na internetu. "Oni ta rješenja imaju spremna. Mogli su ih primijeniti gotovo odmah. Odlučili su da neće. To služi poslovnom interesu, a ne sigurnosnom interesu."
U kolovozu su se dogodila još dva smrtna slučaja. Archie Battersbee, 12-godišnjak iz Essexa u Engleskoj, preminuo je nakon što je proveo mjesece na aparatima za održavanje života. Pronađen je bez svijesti s omčom oko vrata. Njegova je majka novinarima rekla da je pokušavao izazov zamračenja, iako mrtvozornik nije pronašao dokaze koji bi to potvrdili. Također u kolovozu, 14-godišnji Leon Brown pronađen je obješen u svojem domu u Škotskoj. Lokalne vijesti kažu da su njegovi prijatelji njegovoj majci rekli da je izazov zamračenja vidio na TikToku i da ga je pokušavao izvesti u video pozivu.
"Moje pitanje za TikTok," kaže Christal Arroyo, "je što ćete učiniti da promijenite platformu? Jer u ovom trenutku to nije sigurno ni za koga, a definitivno nije sigurno ni za jedno dijete." Arroyo kaže kako je njezina sreća umrla s Arriani. "Aplikacija za društvene mreže", razmišlja ona zbunjenim tonom. "Nikad nisam razmišljala o tome da bi zbog njih mogla izgubiti kćer."
"Aplikacija za društvene mreže", razmišlja Arroyo zbunjenim tonom. "Nikad nisam razmišljala o tome da bi zbog njih mogla izgubiti kćer." | Bloomberg
U videu snimljenom mobitelom nekoliko tjedana prije nego što je umrla, Arriani sjedi na stražnjem sjedalu automobila svojih roditelja, odjevena u ružičasti topić s plavim cvjetovima. Njena tamna kosa je začešljana unatrag, a dlačice joj se kovrčaju iznad ušiju. Jednom rukom drži telefon, a kamera je toliko blizu da se vidi da je nedavno izgubila jedan mliječni zub. "Ne obaziri se na to što drugi ljudi govore o tebi", kaže Arriani. "Budi samouvjeren i budi strastven jer svatko na ovom svijetu je lijep." Šalje poljubac u kameru i daje znak mira. "Dakle, bok", kaže, smiješeći se.
Businessweek je video poslao Hiveu, jednoj od softverskih kompanija koje su se susrele s TikTokom. Njegov model strojnog učenja razbio je isječak na okvire i skenirao svaku sliku kako bi došao do procjene starosti za Arriani.
"Tehnologija za ovo definitivno postoji", kaže izvršni direktor Kevin Guo. "Ali možda te platforme radije ne razumiju opseg ovog problema."
Hiveovom skeneru trebalo je tri sekunde da procijeni da Arriani ima 10 godina. Umrla je tri mjeseca prije svog 10. rođendana.
