Même les documents internes de Facebook sont victimes des « fake news »

Alex Jones, les fermes à trolls russes, les campagnes d’influence iraniennes… Facebook ne se dépêtre pas de son problème de désinformation. Même en interne, l’entreprise peine à repérer les fake news : dans un document obtenu par Motherboard, Facebook décrit un cliché de victimes d’un séisme survenu en Chine en 2010 comme une photographie de Musulmans tués par des Bouddhistes en Birmanie.

L’erreur, qui apparaît dans un document dédié à la formation de certains modérateurs de contenu sur Facebook, semble descendre d’un article douteux paru il y a plusieurs années. Ironie du sort, le réseau social a annoncé au mois de juillet dernier qu’il allait débarrasser sa plateforme de toute information mensongère susceptible d’entraîner des violences.

Sur la photographie, plusieurs dizaines de moines bouddhistes s’affairent autour de piles de cadavres dénudés. Une légende affirme : « The Body of Muslims slaughted [sic] by Buddhists ». Plus loin dans le document, Facebook débat de la nudité et du caractère « perturbant » de l’image avant de trancher : exceptionnellement, elle est « digne d’intérêt médiatique vis-à-vis des victimes des violences en Birmanie [Myanmar]. » De fait, elle ne doit pas être censurée. (Facebook autorise parfois des images « sensibles » au motif qu’elles présentent un intérêt pour le public.)

En réalité, le cliché représente les victimes du séisme qui a frappé la province chinoise de Yushu en avril 2010. Il a été pris par le photographe Guang Nu pour Getty Images. Motherboard a retrouvé ces informations à l’aide d’une recherche d’image inversée.

Sarah T. Robert, professeure adjointe à l’université de Californie à Los Angeles, étudie la modération de contenu commerciale. Contactée par Motherboard, elle explique : « La complexité (voulue) des solutions de modération de contenu de Facebook signifie que des erreurs peuvent se glisser en de nombreux endroits de la chaîne de production. »

Jillian York, directrice du département international pour la défense de la liberté d’expression de l’Electronic Frontier Foundation, craint dans un mail adressé à Motherboard que les auteurs du manuel d’entraînement soient partiaux : « il pourrait s’agit d’une erreur innocente comme d’un biais sérieux. Cela demande plus de transparence, définitivement. »

De nombreux blogs et pages sur les réseaux sociaux ont partagé l’image en la présentant de la même manière que Facebook au fil des ans. Un article publié en 2012 par le titre indien The Hindu explique que la photographie, devenu virale, a largement été perçue comme la « preuve » du massacre des Musulmans en Birmanie. Ayant identifié les véritables origines de l’image, The Hindu explique que des organes de presse locaux se sont trompés sur sa nature à l’époque de sa propagation.

Des archives Internet ont permis à Motherboard de confirmer qu’un titre pakistanais avait publié l’image au sein d’un article consacré au violences à l’encontre des Musulmans en Birmanie. L’image s’est ensuite répandue dans d’autres publications jusqu’à entraîner des appels à la vengeance par mail et message texte, explique The Hindu.

Le faisceau de fake news qui entoure le cliché ne doit pas faire oublier que l’armée birmane a sans doute assassiné des milliers de Rohingyas et poussé des centaines de milliers d’autres à l’exode. Lundi 3 septembre, la Birmanie a condamné deux journalistes co-auteurs d’un article sur le rôle de l’armée dans les massacres à sept ans d’emprisonnement. Facebook a essuyé des critiques pour son manque de réactivité face aux discours haineux sur sa plateforme en Birmanie, que certains considèrent comme partiellement responsables des violences dans le pays.

Les images du tremblement de terre rappellent néanmoins que les informations mensongères sont difficiles à identifier, même pour les entreprises qui tentent activement de les combattre. Le mois dernier, Motherboard a publié une enquête détaillée sur les stratégies de modération de Facebook. L’entreprise utilise des techniques sophistiquées mais pas exemptes de faiblesses, pour la plupart liées à sa taille.

Un porte-parole de Facebook a déclaré à Motherboard que « l’image représentant des victimes d’un tremblement de terre ayant frappé la Chine il y a plusieurs années a été utilisée de manière erronée pour entraîner nos modérateurs à l’identification d’images contenant de la nudité. Nous n’utilisons plus cette slide est remercions Vice de l’avoir portée à notre attention. »