Sredinom rujna hodnicima srednje škole Timber Creek u Orlandu proširila se glasina kako je Jenny Popach bila u uredu za upis. Učenici su nahrupili na 15-godišnju TikTok zvijezdu, dok je hodala na nastavu u Converse tenisicama i majici s kapuljačom. "Jesi li ti stvarno ona djevojka na TikToku? Jesi li ti zapravo Jenny Popach", pitali su ju učenici.
Roselie Arritola, koja se na TikToku zove Jenny Popach, jedva je čekala svoju drugu godinu srednje škole. Izbačena je iz prve škole jer je jednog od svojih učitelja nazvala "perverznjakom" u videu na TikToku, a nakon dvije godine online školovanja i preseljenja u novi grad, nadala se kako će steći neke prijatelje. "Da, to sam ja", rekla je Arritola.
No, boravak u Timber Creeku trajao je samo četiri dana, kada je upisala iz škole. "Ljudi su me počeli snimati niotkuda, postavljajući glupa pitanja. Bilo je totalno kaotično", izjavila je.
Arritola je jedna od najkontroverznijih tinejdžerskih zvijezda na TikToku, sa sedam milijuna pratitelja. Njezina popularnost djelomično proizlazi iz hiperseksualnih objava. Ona ih opisuje kao "sadržaj šokantne vrijednosti", a u njima twerka u bikinijima, uvija tijelo u vrućim hlačicama ili ispušta aluzije u naslovima poput: "Kada muškarci mogu ići u zatvor jer su bili s tobom." U posljednjih godinu dana modni brendovi željni kapitaliziranja njezinog seksipila platili su joj malo bogatstvo da nosi njihovu odjeću.
Grupa internetskih promatrača smatra kako je ovo iskorištavanje djece i kritizirali su tinejdžere kreatore, njihove roditelje i TikTok. U siječnju, nakon što je tvrtka primila niz pritužbi na Arritoline videozapise, njezin je račun deaktiviran zbog kršenja smjernica zajednice. Iako TikTok nije naveo konkretne razloge, njegova pravila za zaštitu sigurnosti maloljetnika zabranjuju sadržaj koji implicira sudjelovanje u seksualnim aktivnostima osoba mlađih od 18 godina ili koji prikazuje maloljetnika koji nose minimalnu odjeću, sinkroniziraju usne na seksualno eksplicitne tekstove pjesama ili izvode plesne pokrete poput twerkanja, tresenja grudima ili guranja zdjelice. Jenny Popach je napravila sve od navedenog.
Dva tjedna nakon deaktivacije, račun je ponovno aktiviran. U svibnju je zatvoren i ponovno pušten u rad. U rujnu su Arritolini videozapisi nestali, a objavljivanje je bilo blokirano nekoliko tjedana. TikTok kaže kako ne može komentirati pojedinačne račune iz razloga privatnosti, ali tri zaokreta natjerala su neke korisnike da se zapitaju koja su točno pravila tvrtke o sigurnosti djece.
Pravila su pokazala kako je moderiranje sadržaja za tinejdžere izrazito složena. TikTok ima tinejdžere koji kažu kako bi trebao smanjiti moderiranje i prestati kršiti njihova prava, a s druge strane ima nadzornike koji kažu kako bi trebao pojačati svoje napore za moderiranje ili riskirati promicanje dječje pornografije i seksualnog zlostavljanja. Obje grupe se slažu kako TikTok radi pogrešno.
Hiperseksualni sadržaj za tinejdžere širi se na svim platformama društvenih medija. Ali TikTokov algoritam nagrađuje kontroverzne postove koji zaokupljaju pozornost gledatelja, promovirajući ih na svojoj odredišnoj stranici Za vas, odabranom feedu koji isporučuje beskonačan tok personaliziranog sadržaja za milijardu korisnika platforme. Intervjui s više od dva tuceta sadašnjih i bivših članova tima za povjerenje i sigurnost iz cijelog svijeta sugeriraju da je TikTokova formula, iako mu je pomogla da postane broj 1 kod mlade publike, također uzrokovala velike glavobolje i mogla predstavljati najveći rizik za njegovo poslovanje . Prošlog je tjedna glavni državni odvjetnik Indiane tužio tvrtku, tvrdeći da je "vuk u janjećoj koži" koji djecu izlaže štetnom sadržaju.
Tvrtka je istaknula kako njihova platforma slavi kreativnost, a ne vrijednost šoka i kako su njezine politike usmjerene na sprječavanje ozljeđivanja maloljetnika. Napominje i kako je u prvoj polovici godine uklonio više od 200 milijuna videozapisa, od čega je preko 40 posto zbog kršenja pravila o sigurnosti djece. No, u 2022. godini, objavljeno je 20 milijardi isječaka. To znači da bez obzira na to koliko moderatora TikTok angažira, njih oko 40.000, a taj broj svakodnevno raste, čini se kako je potrebno i puno više zaposlenih. "Izazov je u tome što naš posao nikada nije gotov", izjavila je Julie de Bailliencourt, TikTokova globalna voditeljica politike proizvoda.
Hiperseksualizacija tinejdžera samo je jedno od mnogih pitanja vezanih uz sigurnost maloljetnika s kojima se TikTok suočava. Oni uključuju zaraznu prirodu njegovog algoritma, koji isporučuje videozapise dojmljivim mladim korisnicima i popularnost potencijalno opasnih igrica, uključujući blackout challenge, koji je doveo do smrti najmanje 15 predtinejdžera u posljednjih 18 mjeseci. No, hiperseksualizacija izaziva posebno glasne pritužbe.
U veljači, kao odgovor na pritisak zakonodavaca, TikTok je rekao kako će postaviti nova ograničenja na pretvoreno seksualno sugestivan sadržaj i da se korisnici mlađi od 16 godina više neće imati pravo pojavljivanja na stranici For You. Novo pravilo neće utjecati na Arritolu, koja je izgradila milijune svojih pratitelja dolaskom na ovu globalnu pozornicu od svoje 13 godine. U studenom je navršila 16 godina, tako da će se bez prepreka može nastaviti pojavljivati tamo i nastaviti snimati video sadržaj.
Problemi TikToka s maloljetnicima počeli su 2018. godine, kada se spojio s Musical aplikacijom za sinkronizaciju usana s korijenima u Kini. Za razliku od američkih platformi društvenih medija, koje postavljaju dobnu granicu od 13 godina kako bi se pridržavale saveznih zakona o privatnosti djece, Musical nije pitao korisnike za datum rođenja, a mnogi od njegovih najboljih kreatora bili su djeca. Američka savezna komisija za trgovinu kaznila je ByteDance s 5,7 milijuna dolara 2019. godine zbog prikupljanja podataka o djeci mlađoj od 13 godina, što je najveća kazna koju je izrekla u to vrijeme.
TikTok je 2019. revidirao svoj tim za povjerenje i sigurnost, koji je imao oko 2000 moderatora s punim radnim vremenom, uglavnom sa sjedištem u Pekingu. Angažirao je stručnjake iz Facebooka, Googlea, Twittera i drugih američkih kompanija kako bi pomogli redizajnirati svoju politiku s većim fokusom na američko tržište. Također je oformio američki sigurnosni tim sa sjedištem u Los Angelesu, odvojen od svog globalnog tima, koji ima moderatore u 90 zemalja te je regrutirao tisuće ljudi sa konkurentskih platformi. "Trošak zaposlenika je sada jedna od njegovih najvećih proračunskih stavki i iznosi više od milijardu dolara godišnje", rekla je osoba upoznata s financijama TikToka, koja je htjela ostati anonimna.
Jedan bivši čelnik povjerenstva i sigurnosti na zapadnoj obali SAD-a, koji je također htio ostati anoniman, rekao je kako je priljev radnika bio ogroman. "Stalno su zapošljavali nove ljude, koji nisu dobivali točan opis posla. Obaveze na poslu su se stalno mijenjale i bilo je teško otkriti tko je šef kojeg odjela."
Kada je predložen plan za ponudu livestreaminga, članovi tima predložili su kako se to stavi na razmatranje, dok se ne uvedu zaštite. Konkretno, neki članovi tima su htjeli uključivanje odgode od pet sekundi prije početka livestreama, no livestreaming je ipak uveden bez odgode. Glasnogovornica TikToka je izjavila kako nije u mogućnosti potvrditi da je itko zatražio odgodu od pet sekundi. Rekla je i kako tvrtka ima alate za stvaranje sigurnog iskustva prijenosa uživo i da favorizira nehijerarhijsku kulturu u kojoj ljudi na svim razinama potiču izražavanje svojeg mišljenja. Odbila je komentirati veličinu ili proračun tima za povjerenje i sigurnost.
"Mladi ljudi ne razumiju u potpunosti što te platforme rade. Oni ne znaju kakav im se svjetonazor urezao u mozak kao rezultat gledanja mršave manekenke kako cijelo vrijeme pleše na njihovoj stranici For You", izjavio je bivši zaposlenik TikToka. Dodao je kako je želio da TikTok angažira dječje psihologe i prilagodi algoritam kako bi bio sigurniji za mlade korisnike, a kada je tvrtka to odbila, dao je otkaz. "Bio sam ovdje, privilegirani zaposlenik u kasnim 20-ima koji postavlja pravila o tome što je, a što nije dopušteno 14-godišnjoj djevojci", zaključio je.
Početkom 2020. ta je demografija korisnika postala glavni prioritet povjerenja i sigurnosti. Alex Zhu, tadašnji glavni izvršni direktor TikToka i bivši izvršni direktor Musicala, gledao bi aplikaciju na svom svakodnevnom putovanju u Los Angeles. Nekoliko članova tima potvrdilo je kako im je rekao da mu je neugodno zbog onoga što je vidio. Opisao je jezivim za odraslog muškarca kad mu se daju isječci mladih djevojaka koje plešu na seksualiziran način.
Smjernice o twerkanju i provokativnom plesu već su bile na snazi, ali na sastanku tima povjerenja i sigurnosti odlučivalo se koliko se moraju prekršiti TikTokova pravila da bi se dogodilo zatvaranje računa. Zhu, koji sada radi na strategiji proizvoda u ByteDanceu, nije odgovorio na zahtjeve za komentar. Tada je zaposlenicima rekao kako su previše dopustili i da riješe problem.
Jednog sparnog utorka ujutro u lipnju, Roselie Arritola otvara vrata mobilne kuće u Orlandu noseći vrećastu majicu s kapuljačom preko neočešljane kose. "Zdravo", rekla je bojažljivo.
Gledala sam Arritoline postove mjesecima i navikla sam je vidjeti u bodiju ili minici, sa šminkom i umjetnim noktima od dva inča. Djevojka ispred mene bila je tiha i iskrena, čak djetinjasta. Kada smo ušle u njezinu spavaću sobu, ispričala se za ogromni nered. Sjela je prekriženih nogu na kut svog nepospremljenog kreveta i počela nanositi olovku za oči u stilu mačkastih očiju, koji je zaštitni znak Jenny Popach.
Pritom, okružena je kostimima iz starih postova na TikToku. Bijela satenska rukavica leži pokraj vrata ormara, bodi od crvenog baršuna visi s televizora, a splet ekstenzija za kosu skuplja se na podu. "Jenny Popach upravo je ono što ćete pronaći na društvenim mrežama. Ovo sam ja. Roselie sam ja, ali osjećam kako je život lakši kada sam Jenny."
Unatoč milijunima pratitelja, rekla je kako nema pravih prijatelja. Oni koji se pokušavaju sprijateljiti s njom obično to čine samo kako bi povećali broj svojih pratitelja na društvenim mrežama. "Zna da je moj sadržaj kontroverzan, čitam osuđujuće komentare, ali svoje objave ne smatram pretjerano seksualnim. Nisam na šipci, kao da plešem striptiz. Zašto ne bih radila nešto što je tinejdžerima tako normalno jer me čudak u kutu promatra s provokativnim mislima? Zašto bih trebala izbrisati TikTok? To nije odmak niti rješenje od perverznih muškaraca. Osim toga, imati kritičare koji bacaju sjenu na rad jer ako nemate hejtere, ne padate", rekla je Arritola.
Na pitanje smatra li da je u opasnosti i treba li je spasiti ili je njezini roditelji tjeraju na nastup, zbog čega je hashtag #SaveJennyPopach u trendu, odgovorila je s kratkim "ne", smijući se pritom. "Ja sam doslovno normalna 15-godišnja djevojčica koja samo prolazi kroz život na društvenim mrežama. Taj se život sastoji od spavanja, nekoliko sati online škole, šminkanja, odabira odjeće i vožnje centrom Orlanda do ponoći te snimanja TikTok videa na otmjenim lokacijama kao što je Ritz-Carlton. Jednom nas je osiguranje izbacilo iz hotela van jer su moji pratitelji nazvali hotel i rekli im kako sam žrtva seksualne trgovine od strane moje mame."
I njezinoj mami, Mariji Ulaciji, to je također bilo smiješno. "Ljudi su stvarno mislili da je podvodim", rekla je majka šestero djece, Ulacia ne sumnja na Arritolinu slavu na društvenim mrežama. Ako ništa drugo, uživala je u tome, čak i kad je njezina kćer imala pola milijuna pratitelja na Musicalu u dobi od 10 godina. "Svidjelo nam se. Svidjela nam se pozornost", prisjeća se Ulacia, sjedeći na svom prednjem katu, odjevena u narančastu minihaljinu i tamnoljubičasti ruž, pijući gin u rano poslijepodne. "Znala sam da ću jednog dana biti slavna. Vjerujem u sudbinu i vjerujem u očitovanje, a vjerujem da je Roselie to", rekla je Arritolina mama.
Povratna reakcija također je došla brzo. Tim Hype Housea optužio je Arritolu za neovlašteni upad i uhođenje. Lil Huddy rekla je svojim pratiteljima kako je Arritola ukrala odjeću, dok je Paper Yates objavila kako su njihove zlatne ribice bačene u WC školjku. Arritola je zanijekala da je išta ukrala ili napravila ikakvu štetu kući i rekla kako je nju i njezinu majku domar pozvao da uđu u kuću. No, neki su je ljudi svejedno nazvali najomraženijim kreatorom na TikToku, a neki su s komentarima išli toliko daleko da su joj govorili da se ubije.
U objavama je tražila od ljudi da odustanu od suicidalnih prijetnji. "Otkako sam pokrenula društvene mreže neprestano su me mrzili zbog mog izgleda, načina na koji sam se odijevala, zbog toga što sam to što jesam." Ipak, za vrijeme kontroverze, broj njezinih pratitelja udvostručio se na gotovo milijun, a počela se i pojavljivati na TikTokovoj stranici For You.
Algoritam koji određuje što se nalazi na toj stranici osmišljen je kako bi zadržao korisnike u aplikaciji što je duže moguće, prema internom dokumentu koji je Bloomberg dobio na uvid. U dokumentu pod nazivom Algo 101, o kojem je prvi izvijestio New York Times, piše kako je TikTokov krajnji cilj povećanje dnevnih aktivnih korisnika. Napominje se i kako se videozapisi ocjenjuju na temelju trajanja, lajkova i komentara te da ponavljanje sadržaja dovodi do dosade.
Kontroverza oko Hype Housea pomogla je Arritoli usvajanje tih lekcija. Njezin novi outfit na TikToku bio je lik zločeste djevojke i počela je objavljivati nedvojbeno rizičan sadržaj, noseći majice s natpisom "No F--- Boy Club" ili objava poput naslova "Ovo su najbolji načini da rastegneš svoj (emotikon mačke koja se ljubi)", a zatim napravi podjele prije nego što zaključi "zapravo se samo poljubi." Također je snimila isječke u kojima pjeva na stihove kao što je “We just met and I just---ed you”, čime je jasno prekršila smjernice TikToka. Mnogi njezini postovi koristili su hashtag #FYP, signal kojij se nadala kako će dospjeti na stranicu For You kako bi dobila više pratitelja i slave.
Osoba u TikToku koja nadzire odluke o tome jesu li postovi poput ovih dopušteni je Tracy Elizabeth, koja je počela kao voditeljica globalne politike za sigurnost maloljetnika početkom 2020. Elizabeth je u tvrtku došla iz Netflixa, gdje je provela tri godine upravljajući sadržaj za mlade. Stigla je ubrzo nakon što je Zhu zadužio povjerenje i sigurnost u rješavanju problema TikToka sa seksualizacijom djece, a prve inicijative na kojima je radila u tvrtki uključivale su politiku blokiranja slanja izravnih poruka korisnicima mlađima od 16 godina i alat za uparivanje obitelji koji roditeljima omogućuje nadzor njihovih djetetove aktivnosti u aplikaciji.
Elizabethin pogled na hiperseksualizaciju tinejdžera ipak se razlikuje od Zhuova. "Odrasli s dobrim namjerama trebaju biti vrlo oprezni da tinejdžerima ne pripisuju nenamjernu seksualnost", dok je za videozapise poput Arritolinih u kupaćem kostimu na bazenu rekla kako to "nije nužno nešto što tinejdžer doživljava kao seksi ponašanje."
TikTok je uskladio povjerenje i sigurnost s Elizabethinim stajalištima, prema sadašnjim i bivšim članovima tima, potičući moderatore da razlikuju je li sadržaj trebao biti sugestivan ili ne. To može biti nezgodna razlika u normalnim okolnostima, ali od moderatora se očekuje da pregledaju 1000 videozapisa dnevno i da u prosjeku imaju manje od 20 sekundi za donošenje presude. Neki kažu i kako je izvođenje insinuacija i drugih nijansi u tako kratkom vremenskom okviru posebno izazovno s radnjama i govorom u usporedbi s pisanim tekstom ili statičnim slikama. Moderatori su obučeni da usvoje mantru "ako ste u nedoumici, ostavite to", a četiri voditelja politike povjerenja i sigurnosti prisjećaju se kako su zamoljeni da budu popustljivi prema kreatorima s više od 5 milijuna sljedbenika. TikTok to osporava i rekao je kako su pravila jednaka za svih na platformi.
U studenom 2021. Arritola je objavila video na kojem twerka u oskudnim traper hlačicama i Hooters kratkom topu. Dobio je 61 milijun pregleda i ponovno je izazvao pozornost nakon što je Great LonDini, grupa koja ističe internetsko zlostavljanje i iskorištavanje djece, podijelila neke od Arritolinih videa sa svojih 9 milijuna sljedbenika. "To je 15-godišnja Jenny Popach", rekao je jedan član grupe noseći masku Jokera i govoreći elektronički iskrivljenim glasom. “Ovo dijete ima preko 6 milijuna pratitelja. Većina tih sljedbenika su odrasli muškarci. Ovaj sadržaj ne samo da je neprihvatljiv, već krši gotovo sve smjernice koje ima TikTok pa vas molim da mi se pridružite u podsjećanju na to." LonDini nije ipak bio sve u pravu jer oko 25 posto pratitelja Jenny Popach odrasli su muškarci, a ne većina, prema tvrtki za utjecajni marketing Captiv8.
Sljedeći dan, Sarah Adams, majka dvoje djece iz Vancouvera koja koristi oznaku @mom.uncharted, ponovno je objavila jedan od Arritolinih videa. Napravljena kad je Arritola imala 14 godina, prikazuje njezina brata kako trga božićni omot s nje kako bi otkrila kako stoji u bikiniju s užetom. "Je li ovo ono što tinejdžeri sada rade?" Adams je pitala svojih 20.000 pratitelja. Pitala se zašto je TikTok ostavio video kad njegove smjernice zajednice zabranjuju sadržaj koji prikazuje maloljetnicu kako se svlači. TikTok je odgovorio uklanjanjem Adamsove objave zbog narušavanja sigurnosti maloljetnika, dok je Arritolin posto ostao na platformi.
Adams je pokrenula svoj račun prošle godine nakon što je postala zabrinuta zbog videa na TikToku. "Odgajam dvoje djece u ovoj generaciji, a nema priručnika", kaže ona, misleći na ono što je prikladno objaviti na internetu. "Ne postoje studije koje bi pokazale kakvi će biti dugoročni učinci." Njezin račun sada ima 160.000 pratitelja.
"Što misle i očekuju? Tko će kupiti te fotografije" pita se Adams. "Smatram kako to nije mala Suzie dolje." Mnogi kritičari takav sadržaj nazivaju "CP", što je skraćenica od dječje pornografije.
Kako bi pokazala koliko su neki od ovih računa dječjih zvijezda problematični, Adams je platila davateljima podataka trećih strana da pregledaju demografske podatke njihovih sljedbenika. Pronašla je jednu 11-godišnju djevojčicu s više od 100.000 pratitelja, od kojih su 96 posto bili muškarci.
Krajem prošle godine, jedan od Adamsovih pratitelja uputio ju je na račun Jenny Popach. Adams je bila šokirana plesnim pokretima, odjećom, eksplicitnim tekstovima i komentarima gledatelja. Kad je Adams objavila objavu o videu božićnog zamatanja, Ulacia je prijavila Adams TikToku za uznemiravanje Arritole i nepravedno seksualiziranje njezine kćeri.
Stručnjaci za povjerenje i sigurnost na društvenim mrežama istaknuli su kako se frustrirajuće nositi s ovakvim svađama i da je moderatorima teško znati kako reagirati na to. Platforma ima tendenciju smatrati odrasle koji kritiziraju maloljetnike problematičnim pa se postovi koji to čine često uklanjaju. TikTok je odbio komentirati konkretne sporove među korisnicima, ali tvrtka ima stroga pravila protiv maltretiranja. Jedna od njih, objavljena na njezinoj web stranici, kaže: "Od ključne je važnosti da se ljudi osjećaju sigurnima da se izraze bez straha od maltretiranja ili uznemiravanja na platformi."
Prošle je godine globalno tržište influencera prema Statisti vrijedilo 13,8 milijardi dolara. Očekuje se kako će do 2025. narasti na 24,1 milijardu dolara te da će mnogi tinejdžeri profitirati. Arritola ima ugovore s markama Fashion Nova, PrettyLittleThing i Shein. Upravo je pokrenula liniju odjeće s Empty Soda, a nedavno je pozirala u ružičastom kompletu minice i crop-topa s izrezom u obliku srca na prsima, potičući svoje pratitelje da ga kupe. Glasnogovornik tvrtke BooHoo grupe, koja posjeduje PrettyLittleThing, rekao je u e-mailu kako nema ograničenja u pogledu vrste kreatora s kojima radimo." Fashion Nova, Shein i Empty Soda nisu odgovorili na Bloombergove upite za komentar.
Jedna od influencerica koja je surađivala s Arritolom, 15-godišnja Piper Rockelle, ima 10,7 milijuna pratitelja na TikToku i još milijune na YouTubeu i Instagramu. Piper zarađuje čak 600.000 dolara mjesečno od reklama i poslova s markama, prema dokumentima koje je u sudskom postupku protiv njezine majke podnijela skupina tinejdžera koji su se pojavljivali u njezinim videima. Tinejdžeri, bivši članovi "Piper Squada", optužuju njezinu majku Tiffany Smith za financijsko i seksualno iskorištavanje. Među njihovim optužbama stoji i da je Smith jednom obožavatelju poslala poštom par rabljenog donjeg rublja svoje kćeri za novac. Njezina majka nije odgovorila na zahtjeve za komentar te je podnijela protutužbu protiv tinejdžera, negirajući njihove tvrdnje i navodnu klevetu.
"Teen Tok je postao biznis. Ako roditelji ne žele zaštititi vlastitu djecu, društvo mora uskočiti i reći dosta je!" Ona također smatra ironičnim, budući da je ona kreatorica koja raspravlja o sigurnosti maloljetnika, što ju je TikTok naveo za narušavanje sigurnosti maloljetne osobe. Kao odgovor, objavila je videozapise prozivajući TikTok da cenzurira njezin sadržaj i ograničava njegovu vidljivost. "Mislim da aplikacija baš ne uživa u mom sadržaju ili u tome što izazivam status quo i izazivam ono što njima donosi novac, a to je iskorištavanje djece", rekla je Adams.
U svibnju, nakon što je Arritolin račun Jenny Popach deaktiviran, ona je otvorila drugi račun kako bi se obračunala sa svojim kritičarima. Objavu je nazvala "Ja na sudu kako se branim od mama koje misle da mi pomažu sa svojom sabotažom." U videu sjedi na rubu svog kreveta, nosi uski crni bodi, viseće naušnice i jarko crveni ruž za usne koji odgovara njezinim dugim umjetnim noktima.
TikTokova sigurnosna savjetodavna vijeća, stvorena 2020 godine,, okupila su akademike i druge stručnjake za digitalnu sigurnost kako bi ponudili ideje o tome kako zaštititi korisnike. Yuhyun Park, stručnjak za sigurnost djece u azijsko-pacifičkom vijeću, slaže se kako je hiperseksualizacija mladih velika briga. "Oni znaju što rade; oni su influenceri i znaju koji sadržaj prodaju."
David Polgar, član američkog savjetodavnog vijeća i osnivač All Tech Is Human, organizacije posvećene odgovornijoj tehnologiji, kaže kako to nije uvijek slučaj. "Svačija je definicija seksualnosti drugačija. Platforme ne bi trebale sav sadržaj gledati kroz prizmu predatorskog muškog pogleda, već iz perspektive pojedinca koji ga objavljuje. Kreatore, pogotovo mlade i dojmljive, ne treba kažnjavati jer loši glumci zaokupljaju njihov sadržaj."
Polgar je svjestan kako su ovi argumenti pogodni za tvrtke, koje imaju financijski poticaj za objavljivanje popularnih kreatora, ali također kaže i kako postoje ograničenja onoga što platforme mogu i trebaju učiniti. "Oni ipak nisu roditelji. Povijesno gledano, uvijek smo imali roditelje koji su gurali svoju djecu u smjerovima u kojima nam je bilo neugodno, no čak i dok društveni mediji povećavaju dostupnost i privlačnost slave, platformama se ne bi smjelo dodijeliti moć nadjačavanja roditeljskog suda. Ako je tehnologija rješenje za loše roditeljstvo, onda ćemo izgubiti bitku unaprijed."
Arritolw slavu uvelike duguje angažmanu njezinih roditelja. U jednoj od njezinih najuspješnijih objava, sa 167 milijuna pregleda, njezin otac, Jorge, stoji u pozadini i izgleda užasnuto, dok Arritola počinje tweerkati pred kamerom. On je podiže i odnosi iz kadra, doimajući se ljutim na njezino ponašanje. Video je vjerojagtno bio isceniran. Jorge je vozač kamiona, upravitelj imanja i tzv. tjelohranitelj svoje kćeri te putuje zemljom prateći je na događaje. Kaže kako je ponosan na nju i voli se tu i tamo pojavljivati u njezinim videima kako bi ljudi vidjeli da je prisutan. Vozeći se na kasnonoćne palačinke u lipnju, Jorge se okrenuo svojoj kćeri, koja sjedi na suvozačevom mjestu i pitao ju je sjeća li se zajedničkog videa koji su snimili. "Vidio sam i komentare i čitao sam kako korisnici smatraju da imam oružje u kući. Pomislio sam: Dobro, moja vibra postaje vani", rekao je Arritolin otac, smijući se pritom.
Arritolina majka dugo je bila pokretačka snaga iza računa Jenny Popach. Kad je prvi put deaktiviran, razmišljala je o tome da se prijavi za posao moderatora sadržaja u TikToku kako bi ga sama ponovno aktivirala. Drugi put kada je račun ugašen, obitelj je izračunala da ih je to koštalo 8000 dolara u poslovima s markama odjeće. Majka i kći odletjele su u Los Angeles, gdje su stajale ispred sjedišta TikToka i molile zaštitara za pomoć pri vraćanju računa.
Kada se proces reaktivacije profila odužio, odlučili su da više ne mogu biti lojalni TikToku i ponovno su otvorili Arritolin račun na FanFixu, aplikaciji u kojoj kreatori mogu zarađivati slanjem ekskluzivnih slika i poruka obožavateljima. Taj su račun zatvorili tri mjeseca ranije jer su odrasli muškarci nudili tisuće dolara za golišave fotografije Arritole. U rujnu je tamo nastavila objavljivati, nudeći slike i privatne razgovore s obožavateljima koji plaćaju 15 dolara mjesečno za pretplatu. Kaže kako je zaradila 23.000 dolara na FanFixu, ali je ponovno zatvorila račun u studenom jer njezini pretplatnici nisu bili zadovoljni fotografijama na kojima je odjevena.
"Svaki TikToker ima svoju zaštitni znak. Za moju kćer to je ples. Ako se odmakne od toga, neće imati isti broj pregleda." Dodala je kako to nakon nekog vremena postane pomalo dosadno, a autorica teksta je tražila pojašnjenje navedenog.
"Objavljujemo videozapise koji sadrže šokantnu vrijednost kako bismo privukli gledatelje i pozornost. To znači dati publici nešto o čemu će pričati". S druge strane, ističe kako ne iskorištava kćer i ističe kako odvaja dio Arritoline zarade na TikTok-u na račun kojem će imati pristup kad bude imala 18 godina kako bi poduprla svoje ambicije u vezi s poslom. Što se tiče ljubomornih mama koje je prozivaju za roditeljsko iskorištavanje, istaknula je kako one su samo ljubomorne te da znaju kako se njihovi muževi perverziraju prema Arritoli.
Također je rekao svojoj majci kako mu je muka od pojavljivanja u "sugestivnim" ili "romantičnim" TikTok videima zbog kojih ljudi misle da izlazi s njegovom sestrom. Ulacia uzvraća, govoreći da ga nikad nije zamolila da napravi romantični video s Arritolom. Joey je povisio glas i podsjetio kada ju je zamolio da ukloni video na kojem je prikazano kako vrti Arritolu oko sebe, što je zasmetalo njegovoj djevojci. "Lijepo smo vas zamolili da ga skinete, ali niste htjeli." Svađa se nastavila, a Arritola je sjedila na kauču između njih, kolutala očima i čekala prekid svađe.
Deseci tinejdžerskih influencera intervjuiranih za potrebe ove priče opisali su doxxing i druge oblike uznemiravanja koje su doživjeli otkako su postali poznati na TikToku. Jedna 16-godišnjakinja kaže kako je njezin razrednik objavio broj mobitela na internetu, što je izazvalo stotine poziva. Druga je kazala kako su se stranci nenajavljeno pojavili na njenom pragu. Ranije ove godine, New York Times je pisao o Avi Majury, tada 15-godišnjoj TikTok zvijezdi s Floride, kojoj se na kućnom pragu pojavio uhoditelj naoružan pištoljem. Njezin ga je otac ustrijelio na travnjaku ispred kuće.
Arritola je također imala strahove za sigurnost. Kad je imala 13 godina, muškarac kojeg nikad nije upoznala poslao joj je poruku u kojoj je rekao da zna njezinu kućnu adresu i da će je gledati kako spava kroz prozor spavaće sobe. Kaže kako nakon tih poruka tjednima nije mogla spavati.
Polgar, član savjetodavnog vijeća za sigurnost, izjavio je kako TikTok i druge platforme društvenih medija moraju učiniti više kako bi upozorile djecu i njihove roditelje na loše strane kulture utjecaja. "Postati influencer je fetišizam", rekao je uspoređujući društvene medije s ogledalom u zabavnoj kući unutar profitne tvrtke, čiji poticaji nisu u skladu sa sigurnošću.
U nekim ekstremnim slučajevima, sadržaj koji objavljuju djeca pojavljuje se u online temama u kojima muškarci dijele fotografije i video snimke iz objava na TikToku i drugim platformama. Tvrtka kaže kako te snimke prijavljuje pravnim tijelima i Nacionalnom centru za nestalu i iskorištavanu djecu, a koji se kvalificiraju kao seksualno zlostavljanje djece i sve potkrepljujuće dokaze pronađene u njihovoj aplikaciji. Ipak, problem i dalje postoji.
U srpnju je Arritola kupila crni Mercedes-Benz za 20.000 dolara u gotovini. Prateći TikTok trend, ubrzo je objavila video iz autopraonice u uskom bodiju i čizmama s bijelom petom. U njoj se nasapuna pjenom, prsima pere haubu automobila i namiguje u kameru.
"Čini se nezakonitim svjedočiti", dok je drugi komentar bio "Djevojko, budi oprezna, vidi se tvoja registarska tablica." Na Reddit forumu posvećenom Arritoli pod nazivom r/jennypopach, jedan je korisnik podijelio snimku zaslona na kojoj se ona vidi pognutu nad automobilom uz natpis: "Zamislite spolne odnose s njom". Drugi na forumu objavili su zamrznute kadrove njezinih videa i seksualiziranih poza tijekom njezinih plesnih rutina. "Društvo, ovo je dječja pornografija", napisao je jedan komentator.
Autorica teksta poslala je video o pranju automobila bivšem članu tima za povjerenje i sigurnost i upitala ga smatra li da su ga moderatori koji su ga pregledali trebali ukloniti. "Ne, zašto bi? Potpuno je odjevena", glasio je odgovor.