Le bannissement peut-il soigner Internet ?

Des « permabans » rigolos de 4chan au « deplatforming » de Donald Trump par Twitter, retour sur une technique de modération aux résultats mitigés.

26 mars 2021, 10:08am

Les êtres humains se bannissent mutuellement depuis des siècles, et pour mille raisons différentes. Thémistocle sauve sa ville natale d’Athènes des Perses en 480 avant Jésus-Christ. Pour avoir rallié la cité adverse de Sparte, il est frappé d’ostracisme quelques années plus tard. Dans le Saint-Empire romain germanique, toute personne frappée de mise au ban pouvait être tuée sans conséquence, voire avec honneurs, par un ancien concitoyen. Pour avoir voulu doubler le Pape, Louis VII le Jeune est excommunié en 1141. Presque huit siècles plus tard, Paul Déroulède est banni de France pour une tentative de coup d’État.

Publicité

Ostracisme, mise au ban, excommunication : quel que soit leur motif, ces peines ont pour objectif de « débarrasser » une communauté de l’un de ses membres ou d’empêcher ce dernier de tirer jouissance de cette communauté. En dépit de leur caractère apparemment désuet, elles sont toujours prononcées aujourd’hui sous des formes plus ou moins dures. Le Vatican défroque régulièrement des prêtres rebelles, et le code pénal français prévoit des peines de déchéance de nationalité et d’interdiction du territoire. Cependant, elles restent rarissimes dans le « monde physique ».

Depuis quelques décennies, l’exil imposé est avant tout une peine numérique chère aux forums, qui la prononcent généralement pour se débarrasser des membres turbulents. Sous couvert d’anonymat, un ancien modérateur dans une des plus grandes communautés en ligne françaises explique : « Le bannissement définitif concerne surtout les offenses graves. Avant cela, on prononce des suppressions de messages et des bannissements temporaires, les kicks, avec des avertissements par contact privé. L’équipe essaie de garder une forme de gradation dans les sanctions. » Autrement dit, on finit rarement excommunié sans raison.

« Dans certains coins, un emoji, une blague ou même une faute d’orthographe peut entraîner une expulsion »

Même les pires bouges du réseau doivent établir des limites et des sanctions pour ne pas tomber dans l’illégalité. En dépit de leur réputation de bouges infâmes, 4chan et 8kun prévoient des bannissements définitifs à la première offense pour quiconque publie des images pédopornographiques, et les forums de Jeuxvideo.com interdisent tout simplement les « messages contraires aux lois en vigueur en France. » Des propos haineux ou diffamatoires pourront ainsi entraîner une mise au ban numérique, mais aussi des condamnations en justice : six mois de sursis pour cyber-harcèlement, par exemple.

Heureusement, le code pénal ne prévoit aucune sanction contre le flood ou le hors-sujet. Les forums sont libres de dresser leurs propres mesures contre ces offenses aussi vieilles que les discussions en ligne (avant le web, les propriétaires de forums sur réseau téléphonique bannissaient déjà les membres à tours de bras). Hors du cadre de la loi, les communautés numériques révèlent vite qu’elles sont moins des démocraties que des dictatures. Tout à la fois juges et procureurs, administrateurs et modérateurs posent leurs règles et distribuent les punitions comme bon leur semble. Dans certains coins, un emoji, une blague ou même une faute d’orthographe peut entraîner une expulsion. 

Pierre est modérateur bénévole sur Twitch. Il explique : « La plateforme impose certaines règles, mais le reste dépend du bon vouloir du streamer et de son équipe. » Certains soirs, il surveille des streams suivis par 4000 personnes. Les messages défilent vite. Dans de telles conditions, même les embrouilles basiques peuvent entraîner des sanctions. « Tenir des propos sexistes, insulter le streamer ou faire de la publicité dans le chat… Ce genre de chose peut déclencher un ban, explique-t-il. Notre travail est de faire en sorte que l’ambiance reste bienveillante, parfois grâce aux outils de Twitch. C’est pour le bien de la communauté. »

Publicité

Twitch propose plusieurs armes aux modérateurs : le slow mode permet de ralentir le chat pour mieux épingler les messages problématiques, et le sub mode réserve le droit de publier des commentaires aux abonnés du streamer. La plateforme propose également des systèmes de modération automatique. « Ce sont des bots qui surveillent les messages et les dessins des viewers, explique Pierre. En cas de dessin gênant, de commentaire tout en majuscules, ou de mot interdit, par exemple, ils peuvent prononcer automatiquement un ban temporaire. Indirectement, ils peuvent aussi établir des bans définitifs. » Malheureusement, ces systèmes ne fonctionnent pas toujours bien. 

« J’ai vu des villages entiers qui se retrouvaient bannis parce que le modérateur avait interdit une adresse un peu trop large, explique le modérateur anonyme. Des universités, aussi »

La modération automatique est un sujet porteur. Depuis des années, les plus grandes plateformes tentent de garder le contrôle sur les propos de leurs utilisateurs grâce à des machines conçues pour repérer et supprimer les messages problématiques, mais aussi bannir leurs auteurs. Bien que ces systèmes permettent de canaliser des communautés trop importantes pour être surveillées uniquement par des êtres humains, leur manque de discernement fait souvent débat. Les « modérateurs robotiques » des jeux vidéo Blizzard, par exemple, sont connus pour distribuer les anathèmes sans trop réfléchir. Et quand ils ne pratiquent pas un zèle excessif, ils loupent leurs véritables cibles. 

« J’ai longtemps cru que l’automatisation représentait le futur de la modération, explique le modérateur anonyme. Malheureusement, les êtres humains sont malins. Ils trouveront toujours un moyen de dire des horreurs de façon alambiquée pour tromper la machine. » Pierre confirme : « Il faut faire attention aux bots, et il faut toujours passer derrière eux. » Le bannissement définitif reste donc une affaire humaine, ce qui ne signifie pas qu’il fonctionne pour autant. Après tout, Athènes et le Saint-Empire n’ont sans doute pas beaucoup prolongé leur espérance de vie en expulsant les gêneurs.

Tous les fâcheux du réseau, des trolls au cheaters, savent que contourner une mise au ban est on ne peut plus aisé. Le bannissement par adresse matérielle est délicat car dangereux pour la vie privée, et le bannissement par adresse IP trop peu maniable pour ne pas être injuste. « J’ai vu des villages entiers qui se retrouvaient bannis parce que le modérateur avait interdit une adresse un peu trop large, explique le modérateur anonyme. Des universités, aussi. » De plus, le banni pourra se contenter de redémarrer son modem pour obtenir une nouvelle adresse et recommencer son travail de sape. Reste le bannissement par compte, encore moins efficace : une nouvelle adresse mail suffit pour revenir.

Publicité

Dans certains espaces, le bannissement définitif peut même devenir une marque de prestige. Ce fil de discussion sur Something Awful répertorie les membres les plus bannis du forum, et le concept de « Banhammer » fait rigoler les trolls depuis maintenant deux décennies. « On a vu des gens qui notaient leur nombre de bannissements dans leur pseudo, explique l’ancien modérateur. Comme la portée de cette punition est plus symbolique qu’autre chose, certaines personnes cherchent même à se faire bannir pour amuser la galerie. » Autrement dit, le bannissement définitif est une arme bancale, voire une malédiction pour les plateformes qui la pratiquent. Ces dernières années, il connaît pourtant un regain de popularité sous le nom de « deplatforming ». 

« Je ne connais aucun forum qui ait résolu ses problèmes grâce au bannissement »

Le deplatforming est le nom scintillant que les apôtres de la Silicon Valley donnent au bannissement définitif lorsqu’il est pratiqué par une multinationale plutôt que par un forum pouilleux. Son exemple le plus fameux est sans doute la mise au ban par Twitter de Donald Trump au mois de janvier dernier. Les défenseurs de cette méthode affirment qu’elle peut permettre de combattre les discours haineux et les appels à la violence en interdisant à leurs émetteurs d’atteindre les milliards d’utilisateurs des grandes plateformes. Cependant, le deplatforming expose des sites aussi imposants que Facebook et YouTube aux travers des modérateurs de petits forums, comme les caprices, les excès de pouvoir et les mesures de protection qui ne font que déplacer, voire aggraver le problème. 

Des agitateurs-influenceurs comme Alex Jones et Milo Yiannopoulos ont perdu leur communauté quand les titans de la tech les ont expulsés de leurs services. Pour des individus, le deplatforming semble fonctionner. Pour des communautés entières, cependant, les choses semblent plus difficiles. L’exemple des forums le montre : quand 4chan a interdit toute forme de discussion concernant le Gamergate, des hordes d’internautes bannis ou scandalisés par ce qu’ils percevaient comme un acte de censure se sont rabattus sur 8chan. « Je ne connais aucun forum qui ait résolu ses problèmes grâce au bannissement, explique l’ancien modérateur. Mais que les réseaux sociaux essaient ! Quand ils bannissent Trump, c’est un signal fort. Par contre, pour les milliers de messages problématiques qu’ils permettent d’échanger chaque jour, il va falloir trouver autre chose. »

La lutte des réseaux sociaux contre les discours haineux, les « fake news » et les réseaux conspirationnistes rappelle beaucoup les mésaventures modératoires des grands forums du passé. Les gêneurs prennent la porte et reviennent par la fenêtre avec de nouveaux signes de ralliement ou vont se réfugier sur des sites plus difficiles à contrôler, qui les laissent parfois croître sans la moindre forme de contrôle. Les bannis des années 2000 affichaient leur ressentiment contre le pouvoir, incarné par les modérateurs, avec des messages aussi stupides que « Mods are gay. » Portés par leur dégoût, ils ont fondé des sites qui allaient devenir plus puissants que ceux qui les avaient rejetés. Le terrible 4chan est né parce que les internautes américains ne pouvaient pas poster sur un forum japonais obscur

Pratiqué par les GAFAM, le bannissement est avant tout un aveu de centralisation du pouvoir numérique, une preuve que le contrôle du discours et ses moyens se concentrent dans un nombre de mains toujours plus restreint. Les exilés du web propre apprennent lentement mais sûrement à construire leurs propres cahutes, et leur intérêt pour les techniques de la décentralisation les rend toujours plus résistants. Nous pouvions prévoir que de telles choses allaient se produire : quand il a quitté Athènes, Thémistocle s’est engagé à servir Sparte contre sa ville natale. Certains historiens rapportent qu’il s’est donné la mort avant d’honorer sa promesse, mais nous ne pouvons attendre une telle grandeur de la part des trolls. 

Sébastien est sur Twitter.

VICE France est aussi sur Twitter, Instagram, Facebook et sur Flipboard.
VICE Belgique est sur Instagram et Facebook.          

Tagged:

censure, GAFAM

Dans
le même genre
Internet Explorer est mort : de qui va-t-on se moquer désormais ?
Prière de signaler vos filtres Instagram sous peine d'amende
LiveLeak est mort mais le gore demeure
Pourquoi la croisade contre Pornhub va mal finir
Hé toi, le député : arrête de tripoter ton portable
La Chine punit sévèrement les marques qui pensent aux Ouïgours
Avec les community managers qui en ont marre de lire vos commentaires
Google Maps propose des randonnées « potentiellement mortelles »