L'algoritmo anti-cospirazioni di YouTube ha alimentato una cospirazione su Notre Dame

Lunedì sera, mentre gente da tutto il mondo si sintonizzava su YouTube per seguire i video in diretta del tremendo incendio che ha divorato la cattedrale di Notre Dame a Parigi, alcuni utenti hanno notato qualcosa di strano. Sotto alcuni dei video di YouTube, la piattaforma inseriva un link all'Enciclopedia Britannica e un'anteprima relativa agli attentati terroristici dell'11 settembre 2001.

Almeno due degli stream YouTube provenienti da reti televisive importanti — CBS e NBC — includevano questo link.

Dietro questo incidente, c'è all'opera la feature di YouTube contro le fake-news — che, invece di fare fact-checking di una teoria cospirazionista, sta suggerendo un collegamento che potrebbe diffondere teorie cospirazioniste in più.

Il "riquadro delle informazioni" di YouTube, lanciato l'anno scorso negli Stati Uniti e in Corea del Sud, dovrebbe fornire un contesto ulteriore ai video che parlano di argomenti controversi. Stando alla descrizione dello strumento data da YouTube, i riquadri dovrebbero riguardare solo "un numero limitato di argomenti storici e scientifici consolidati che sono spesso oggetto di disinformazione online."

Per quanto non sia ancora chiaro cosa abbia causato l'incendio, solo poche ore dopo che ha iniziato a divampare le autorità hanno detto a BBC News che l'origine potrebbe essere legata ai lavori di ristrutturazione dell'edificio storico. Le autorità non hanno suggerito in alcun modo che potesse trattarsi di un attacco terroristico, o che fosse un incendio doloso, ma l'algoritmo di YouTube ha fatto l'associazione a prescindere.

Ho contattato YouTube per chiarire come questo riquadro delle informazioni sia comparso in corrispondenza della copertura mediatica dell'incendio. Un portavoce mi ha risposto:

"Siamo profondamente addolorati dall'incendio che sta divampando alla cattedrale di Notre Dame. L'anno scorso, abbiamo lanciato il riquadro delle informazioni con link a fonti di terze parti come l'Enciclopedia Britannica e Wikipedia per argomenti oggetto di disinformazione. Questi riquadri sono attivati algoritmicamente e i nostri sistemi alle volte fanno la scelta sbagliata. Stiamo disattivando i riquadri in questione per le dirette video relative all'incendio."

Se l'algoritmo sta usando una corrispondenza visiva o altre parole chiave, è possibile che associ qualsiasi incendio di edifici storici nazionali con l'11 settembre.

Come mi ha detto a marzo 2018 Bob West — professore allo Swiss Federal Institute of Technology che studia come le "stronzate" finiscono su piattaforme come Wikipedia — quando YouTube ha annunciato il riquadro delle informazioni: Ci sono "pochi come noi" e una infinità di immondizia che circola online, e gli algoritmi sono impiegati per aiutare. Ma quando sbagliano, il risultato è questo. "Non vogliamo che gli algoritmi diventino autoreferenziali… Se togli la parte umana dal loop completamente, l'algoritmo riproduce le proprie azioni e si morte la coda," ha detto.

Il fallimento del riquadro delle informazioni — che, invece di fornire contesto utile, ha suggerito una causa ingannevole dell'incendio — è l'esempio perfetto di YouTube che si morde la coda, in tempo reale.

Questo articolo è apparso originariamente su Motherboard US.