Pubblicità
Tech by VICE

Per il nuovo algoritmo di Tumblr unicorni, polli crudi e Gordon Ramsey sono porno

Gli utenti di Tumblr stanno pubblicando i post innocenti che sono caduti vittima dell'algoritmo, perché apparentemente #TooSexyForTumblr.

di Kaleigh Rogers
05 dicembre 2018, 10:48am

Immagine via: Twitter

Sono passati si e no due giorni da quando Tumblr ha annunciato che rimuoverà qualsiasi materiale per adulti dalla piattaforma, ma l'algoritmo che modera automaticamente i contenuti è già al lavoro, per segnalare foto di nudo e pornografia. Il problema è che l'algoritmo ha un'idea un po' troppo vaga di che aspetto abbia un contenuto per "adulti," e sta inavvertitamente mandando avvisi per unicorni che vomitano, petti di pollo crudo, strumenti per pulire le scarpe e persino il cuoco Gordon Ramsey.

Questo lunedì, Tumblr ha annunciato di voler modificare gli standard della propria comunità e, a partire dal 17 dicembre, non ospiterà più "contenuti per adulti, compresi contenuti sessualmente espliciti e di nudo (con alcune eccezioni)." La decisione è stata criticata perché il numero di siti che sostiene la distribuzione di contenuti per adulti è in calo e Tumblr era uno dei pochi spazi sicuri per molte persone che fanno parte delle comunità online kink e queer.

Ma l'algoritmo impiegato per iniziare a identificare tutto ciò che ora è considerato offensivo ha già collezionato una sfilza di errori. In risposta, gli utenti stanno condividendo alcuni dei post innocenti che sono stati segnalati usando l'hashtag #TooSexyForTumblr, e il risultato è decisamente ridicolo.

A raw chicken that has been flagged on Tumblr

Motherboard ha contattato Tumblr per capire cosa sia andato storto, ma il portavoce raggiunto ci ha indirizzati verso un post pre compilato di Tumblr che spiega la censura dei contenuti per adulti, e verso l'annuncio del CEO Jeff D'Onofrio in merito ai cambiamenti apportati alle regole del sito. Il post di aiuto dice che le segnalazioni avvengono tramite "un misto di classificazione basata sul machine-learning e moderazione umana effettuata dal team Trust & Safety — il gruppo di individui che contribuisce a moderare Tumblr," aggiungendo che il sito ha aumentato il personale del team proprio per riuscire a ripulire il sito di tutti i contenuti di nudo e pornografici.

Nel suo blog post, il CEO di Tumblr Jeff D'Onofrio ha ammesso che l'algoritmo è molto lontano dall'essere perfetto e che compierà inevitabilmente errori nell'identificare i contenuti per adulti.

"Filtrare questo tipo di contenuto rispetto a, diciamo, una protesta politica con elementi di nudo o la statua del David non è semplice da fare in scala," ha scritto D'Onofrio. "Ci stiamo affidando a strumenti automatici per identificare i contenuti di nudo e agli esseri umani per aiutarci ad allenare e tenere sotto controllo i nostri sistemi. Sappiamo che ci saranno errori, ma abbiamo fatto del nostro meglio per creare e applicare una policy che riconosca l'ampiezza e profondità di espressione che vediamo nella comunità."

Ugualmente, molti utenti sono rimasti sorpresi nel vedere cosa è finito tra le segnalazioni dell'algoritmo, dato che ha poco o niente a che fare con il sesso, il nudo o altre tematiche da adulti. Jillian York, direttrice della International Freedom of Expression at the Electronic Frontier Foundation ha detto di aver visto disastri simili da parte di sistemi di moderazione automatica in passato.

"Microsoft Bing, quando è stato lanciato, usava strumenti talmente imprecisi che termini come 'petto di pollo' o 'cancro al seno' erano filtrati dal SafeSearch," ha scritto a Motherboard York via email. "L'annuncio di Tumblr è unico perché è forse la prima volta che un'azienda si è affidata pienamente a strumenti automatici e penso che questi errori grossolani dimostrino come questi tool non siano assolutamente pronti per giocare una partita vera."

Sembra che l'algoritmo di Tumblr sia più puritano della piattaforma stessa, insomma.

Questo articolo è apparso originariamente su Motherboard US.