Tecnología

#ElsaGate, ovvero perché non dovresti lasciare un bambino solo con YouTube

Guardandosi intorno in metropolitana, in treno o persino al supermercato, capita spesso di vedere un genitore stressato che si concede la possibilità di intrattenere il proprio figlio con un dispositivo, avviando il vaso di Pandora: YouTube.

YouTube è pieno di cartoni animati e contenuti educativi e, negli USA, è disponibile anche una versione dedicata esclusivamente ai più piccoli, YouTube Kids che, almeno in teoria, dovrebbe filtrare i contenuti non adatti. Ma ultimamente sulla piattaforma sta accadendo un fenomeno strano che non la rende più un posto sicuro per le menti dei piccoli: migliaia di video disturbanti apparentemente indirizzati a loro.

Videos by VICE

Tutto quel che finora possiamo dire con certezza è che qualcuno (anzi, più di qualcuno) sta caricando una moltitudine di video per bambini che contengono scene disturbanti, che vanno dalla sessualizzazione di personaggi Disney alla violenza gratuita, passando per aborti, mutilazioni, scatologia e umiliazioni di ogni tipo. Questo fenomeno è diventato noto online come #ElsaGate.

Partiamo proprio dal nome. Il suffisso -gate è ovviamente tipico degli scandali in territorio statunitense (Watergate dovrebbe dirvi qualcosa), mentre Elsa si riferisce alla protagonista del film Disney Frozen, che è uno dei personaggi ricorrenti di questi filmati. Ad accompagnarla ci sono altri eroi dei più piccoli, come Spiderman o Hulk, ma non mancano anche video con protagonisti Peppa Pig, Mickey Mouse e così via. I nomi, presenti sempre nei titoli e nei metadati dei filmati, fanno sì che i video vengano proposti quando si cercano contenuti per bambini, e automaticamente nelle playlist basate sui cartoni guardati precedentemente.

L’aspetto più sconvolgente dell’intera vicenda è l’evidente intenzionalità di far vedere scene del genere ai bambini: non sono cartoni per adulti su cui qualche genitore ha maldestramente cliccato. Dando un’occhiata alla descrizione dei video, ai metadati e alle informazioni dei canali che ospitano questi contenuti, tutto fa pensare a cartoni ingenui o persino educativi; ci troverete parole chiave come Nursery Rhymes, Family song, Learn numbers o addirittura Video created with the purpose of learning and development of children.

Un’altra questione interessante è che si tratta di una sorta di network: sotto ogni video ascrivibile ad #ElsaGate, è possibile trovare commenti provenienti da altri canali simili. Si tratta in realtà di uno stratagemma per migliorare il ranking su YouTube, in modo da far aumentare la visibilità dei video: è praticamente certo che la maggior parte dei commenti siano opera di bot. Buona parte di essi sono senza senso, con lettere a caso che si susseguono (anche con alfabeti diversi: ci sono spesso commenti con caratteri arabi e thailandesi). Online, in particolare su reddit, si trovano diverse teorie più o meno complottiste che provano a cercare un filo dietro i commenti e, ovviamente, una spiegazione sensata di questo fenomeno che noi ci limitiamo ad analizzare.

Furti di alcolici e comportamenti pericolosi: in alcuni video un bambino (una versione infantilizzata di Mickey Mouse o Spiderman) ruba la birra del padre e si ubriaca per poi comportarsi in modo pericoloso. In uno di questi, cerca di lanciarsi dalla finestra. Ubriachezza e comportamenti pericolosi sono uno dei temi ricorrenti.

Fobia di ragni, insetti e serpenti: si trovano diversi filmati in cui i personaggi sono ricoperti di scarafaggi, serpenti e quant’altro; un altro tema ricorrente riguarda Elsa (o chi per lei) che ingerisce un ragno e, successivamente lo vomita o viene operata in ospedale.

Scatologia: video in cui i personaggi si abbeverano dal WC, mangiano feci, bevono urine o spalmano feci sulla faccia di altri.

Sessualizzazione: nei video vengono spesso sessualizzati personaggi per bambini (soprattutto Minni), evidenziando seno e sedere, che a volte vengono scoperti a causa di vestiti strappati o altri espedienti.

Aghi e iniezioni: un’altra fobia che viene sfruttata molto è la belonefobia, ossia la paura degli aghi; in alcuni filmati, questi vengono infilati anche negli occhi o nel retto dei personaggi. Inoltre, alcuni video sembrano demonizzare l’ambiente ospedaliero, con scene sanguinolente legate all’ambito clinico.

Gravidanza: appaiono di frequente personaggi (spesso anche bambine) in stato di gravidanza. Questo è in assoluto uno dei temi più trasversali e lo si trova tanto nei cartoni animati che nei video recitati. Inoltre, vi sono anche rappresentazioni di aborti, anche con metodi violenti (ad esempio con un lungo ago in pancia).

Morte: in alcuni filmati viene mostrata anche la morte di uno dei personaggi, con gli amici che lo piangono sulla sua tomba.

Un’ipotesi plausibile è che dietro tutto ciò non ci sia altro che un enorme business: come ha evidenziato anche James Bridle, che è stato uno dei primi ad occuparsi del problema con questo articolo su Medium, c’è un enorme mercato dietro i video per bambini, soprattutto perché sono relativamente semplici da creare (le animazioni sono di bassissimo livello) e hanno un pubblico enorme.

Nonostante le ragioni economiche siano le più verosimili, risulta comunque difficile riuscire a spiegarsi perché in alcuni filmati siano stati inseriti contenuti così inquietanti che, in molti casi, portano alla rimozione del video stesso o, quanto meno, all’impossibilità di monetizzare a causa delle nuove policy adottate da YouTube in merito.

In merito ad ElsaGate, anche tirare in ballo la libertà di espressione potrebbe essere fuorviante perché i video sono indirizzati a un pubblico di bambini, che non sono in grado di selezionare autonomamente i contenuti e non stanno scegliendo deliberatamente cosa guardare.
In un certo senso, sono solo vittime di un algoritmo, che è strutturalmente anche la causa del problema. ElsaGate, infatti, è l’ennesimo episodio che pone importanti interrogativi in merito alla fiducia negli algoritmi che costruiscono il mondo digitale che vediamo.

Seguici su Facebook e Twitter.