Des fuites dévoilent comment Facebook choisit les pages et groupes à supprimer

Mardi, des représentants de Facebook, Twitter et YouTube ont témoigné devant un comité judiciaire de la Chambre des représentants à propos des stratégies de modération du contenu sur leurs plateformes. À l’audience, comme l’a souligné Sheera Frenkel du New York Times, Facebook a beaucoup fait référence à un « seuil » qui doit être atteint avant que la plateforme décide de supprimer une page pour violation des règles d’utilisation du site.

« Personne n’a défini ce seuil ni qui le fixe », a tweeté la journaliste. D’autres médias ont aussi évoqué ce seuil : « Facebook est incapable de décider à quel moment une page devrait être supprimée », lit-on sur Engadget. Mais Facebook l’a décidé, sans en divulguer les directives publiquement.

Motherboard a obtenu des documents internes de Facebook qui révèlent les paramètres de ce seuil pour divers types de contenus, dont les cas de discours haineux. Cette nouvelle donne des détails qui aident à comprendre comment précisément Facebook choisit de bannir certains groupes ou supprimer certaines pages, et elle arrive au moment où la plateforme fait face à de nouvelles critiques par rapport à sa décision de ne pas supprimer des pages controversées, comme celle du site de théories du complot InfoWars.

Un des documents de formation pour les modérateurs de Facebook portant sur les discours haineux indique que les administrateurs des pages peuvent faire cinq faux pas (« strikes ») en 90 jours avant que leur page soit supprimée.

De plus, les modérateurs de Facebook sont tenus de supprimer une page si au moins 30 % du contenu publié par d’autres personnes en 90 jours va à l’encontre des normes de la communauté de Facebook. Il existe aussi une règle semblable concernant les groupes, d’après le document.

Dans le même esprit, un autre document sur les propos haineux révèle qu’un profil doit être supprimé s’il contient cinq publications ou plus de l’utilisateur qui entrent dans la catégorie de la propagande haineuse ou d’autres violations connexes. Bien que les documents obtenus par Motherboard aient été rédigés récemment, Facebook modifie régulièrement ses conditions d’utilisation, donc il n’est même pas certain que ces paramètres soient encore en vigueur. Par comparaison, YouTube a un seuil de trois faux pas (quoiqu’il n’est pas nécessairement équitable de comparer deux plateformes de nature différente).

Bien entendu, tout cela repose sur la capacité des modérateurs à repérer les publications qui violent les règles et dépassent le seuil. Il y a eu un intense débat en ligne à propos de ce qui constitue un discours haineux ou des fake news, et de la présence d’ Infowars sur Facebook. La compagnie a déclaré la semaine dernière sur Twitter qu’elle « voit des pages autant de gauche que de droite sur lesquelles est publié ce que les administrateurs voient comme des opinions ou des analyses, mais que d’autres considèrent comme des fake news. Nous pensons que la suppression de ces pages irait à l’encontre du principe de la liberté d’expression. »

Dans un autre document, portant celui-là sur le contenu pornographique, on peut lire que les modérateurs doivent dépublier les pages et groupes pour raison de sollicitation sexuelle s’il y a deux éléments ou plus, y compris dans la description de la page, le titre, la photo ou la publication épinglée, qui constituent de la nudité ou, plus subtilement, un moyen d’entrer en contact ou un emplacement. On y réitère aussi la règle des 30 % ou plus et celle des cinq publications de l’administrateur qui constituent des propos haineux.

Toutefois, le seuil varie en fonction du contenu publié. Dans un courriel à Motherboard, Facebook a indiqué qu’une personne qui, par exemple, publierait du matériel qui représente de l’exploitation d’un mineur serait immédiatement bannie.

« Les conséquences d’une violation des normes de notre communauté varient selon sa sévérité et les antécédents de la personne sur la plateforme », a expliqué un porte-parole de la compagnie. « Par exemple, nous pourrions avertir une personne après une première violation, mais si elle continue de contrevenir à nos règles, nous pourrions restreindre sa capacité de publier du contenu sur Facebook ou désactiver son compte. Nous pourrions aussi avertir les autorités lorsque l’on croit qu’il y a un réel risque de causer une blessure physique ou un danger direct pour la sécurité publique. »

Durant son témoignage de mardi, la directrice du service de gestion des politiques globales de Facebook, Monika Bickert, a affirmé, en parlant des administrateurs de la page d’InfoWars, que « s’ils publiaient suffisamment de contenu pour dépasser le seuil, la page serait supprimée. Le seuil varie selon la sévérité des différentes violations. »