TikTokov algoritam preplavljuje ranjivu decu od 13 godina video klipovima o samopovređivanju i poremećajima u ishrani, i to svega nekoliko minuta nakon što se pridruže platformi. Kako stvari stoje, kompanija ne čini ništa da to spreči, prema novom istraživanju objavljenom u četvrtak.
U istraživanju Centra za borbu protiv digitalne mržnje (CCDH), britanske neprofitne organizacije, navodi se da TikTok-ov moćni algoritam za preporuke tinejdžerkama posle samo 2,6 minuta počinje da prikauuje sadržaj koji uključuje eksplicitne video snimke za mršavljenje, restriktivne planove ishrane i samopovređivanje.
Videos by VICE
Istraživači su otkrili da su nalozima koje su postavili sa karakteristikama ranjivih tinejdžera ovakvi video snimci prikazivani 12 puta više od standardnih naloga.
„Rezultati su noćna mora svakog roditelja: fidovi mladih ljudi su bombardovani štetnim, mučnim sadržajem koji može imati značajan kumulativni uticaj na njihovo razumevanje sveta oko njih, kao i na njihovo fizičko i mentalno zdravlje“, napisao je Imran Ahmed, izvršni direktor CCDH-a. u izveštaju pod nazivom Deadly by Design.
U SAD, TikTok je pretekao Instagram i Facebook kao platforma izbora za mlade. Dve trećine svih tinejdžera koji koriste platformu u proseku 80 minuta svakog dana. Popularnost joj je u velikoj meri vođena njenim moćnim algoritmom za preporuke, koji korisnicima prikazuje sadržaj u njihovom fidu „Za vas“ i predstavlja primarni način na koji korisnici komuniciraju sa aplikacijom.
„To je prelep paket, ali apsolutno smrtonosni sadržaj“, rekao je Ahmed. Brzina i žestina algoritma su ono što ga čini tako opasnim.”
VICE News je pregledao neke od snimaka za koje su istraživači CCDH-a otkrili da su servirani na „For You“ fidu novootvorenih naloga nekoliko tinejdžerki. Nekoliko video snimaka je sadržalo žilete i diskusije o samopovređivanju, dok je jedan video snimljen iz bolničkog kreveta sadržavao pitanje: „Nisi čak ni toliko debeo, zašto si tako nesiguran?“ i odgovor korisnika: „Vidim stvari KOJE NIKO drugi ne vidi.“
Najekstremniji sadržaj uključivao je video snimke koje su snimili članovi zajednice okupljene oko zajedničkog poremećaja u ishrani, koji raspravljaju o temama kao što su tinejdžeri koji idu u školu nakon što su pokušali da samoubistvo, ili tinejdžerke koje raspravljaju o metodama samopovređivanja, i „thinspo“ videi koji imaju za cilj da motivišu gubitak težine. U jednom slučaju, ranjivom tinejdžerskom nalogu su prikazana tri video snimka drugih tinejdžera koji razgovaraju o planovima za samoubistvo u roku od jednog minuta dok su listali video snimke.
„To je kao da ste zaglavljeni u sali iskrivljenih ogledala, gde vam stalno govore da ste ružni, da niste dovoljno dobri, možda i da bi mogli da se ubijete. To je zaista u najmanju ruku zahtevno iskustvo za tu decu jer pred njima je lavina informacija. I to je način na koji TikTok algoritam funkcioniše“, rekao je Ahmed novinarima na brifingu za novinare ove nedelje.
TikTok je osporio nalaze istraživanja, tvrdeći da metodologija „ne odražava istinsko ponašanje ili iskustava stvarnih ljudi“.
Portparol kompanije je rekao da se „redovno konsultuje sa zdravstvenim stručnjacima, otklanja kršenja naših politika i pruža pristup resursima podrške svima kojima je potrebna“. TikTok je dodao da je u procesu uklanjanja sadržaja označenog u ovom izveštaju koji krši njegove politike.
CCDH je objavio TikTok Vodič za roditelje kako bi pomogao roditeljima tinejdžera koji pate od ovih problema kako da uoče zabrinjavajuće ponašanje i detalje o tome kako aplikacija funkcioniše. Ali Ahmed veruje da bi zakonodavci trebalo da preuzmu vođstvo, a upravo ove nedelje je u Kongresu predstavljen dvopartijski zakon koji bi, ako bude usvojen, potpuno zabranio aplikaciju u SAD zbog straha od uticaja kontrole kineske vlade na TikTok.
„Ovo je klasičan trenutak za regulatore da se umešaju i kažu da moramo da imamo neku vrstu sporazuma o neširenju takvog sadržaja, da nećemo samo stvarati algoritme koji stvaraju sve više zavisnosti i sve su smrtonosniji“, rekao je Ahmed. „Ali mi to nemamo, nemamo ništa, nemamo uputstva od vlade ili regulatora, od FTC-a, bilo gde drugde.”