Une enquête a révélé des centaines de milliers de profils haineux en ligne, ce qui a conduit à un appel à une réglementation plus stricte des plateformes en ligne.
Un « troublant de haine raciale » a été découvert sur Twitter et Facebook ainsi que parmi la communauté des joueurs grâce à des recherches menées par le Center for Analysis of the Radical Right (CARR) basé au Royaume-Uni.
Cela survient six mois après un tollé général contre les abus infligés aux footballeurs anglais Marcus Rashford, Jadon Sancho et Bukayo Saka, qui ont été ciblés en ligne après avoir manqué des pénalités lors de la finale de l’Euro 2020 à Wembley.
Qu’est-ce qui a été trouvé sur Twitter ?
Au cours de leur analyse de deux jours réalisée en janvier, les chercheurs du CARR ont recherché des profils utilisant des mots et des phrases simples comme indicateurs de « défaillance systémique ».
Sur Twitter, ils ont trouvé environ 300 utilisateurs ou noms de profil dérivés d’une phrase raciste, y compris le mot N, remontant à 2009.
Le Dr Edward Gillbard, qui a mené la recherche, a déclaré que la majorité des comptes avaient moins de deux abonnés et suivaient moins de deux comptes.
Il a ajouté qu’il « semblerait qu’il n’y ait pas de modération automatique effectuée par Twitter » en termes d’analyse des comptes pour les noms d’utilisateur offensants.
Twitter a déclaré que les comptes avaient été « suspendus définitivement » pour « violation de notre politique de conduite haineuse ».
Un porte-parole a déclaré: « Nous reconnaissons et souhaitons réitérer notre engagement à garantir que Twitter ne devienne pas un forum qui facilite les abus et nous continuons d’examiner nos propres approches politiques et les moyens d’appliquer nos règles rapidement et à grande échelle. »
Qu’est-ce qui a été découvert sur Facebook ?
Sur Facebook, des dizaines de profils offensants, dont 83 variantes de « haine (N-word) » et 91 sur la Shoah ont été recensés.
D’autres profils comprenaient le nom d’Adolf Hitler et d’autres nazis de premier plan, ainsi que les noms de tueurs de masse tels que l’attaquant de la mosquée de Christchurch en Nouvelle-Zélande.
En modifiant l’orthographe ou en insérant des espaces et des caractères spéciaux, les profils semblaient capables de tromper les systèmes de modération, a déclaré le Dr Bethan Johnson, qui a trouvé les comptes.
« Il se peut que lorsque les utilisateurs créent des profils avec des noms qui se moquent et bafouent clairement les normes de la communauté – de ‘Jewkilla’ à ‘Nate Higgers’ – ils disent à Facebook quel genre d’utilisateur ils seront, quel genre d’idées ils apportent au plate-forme, et la réalité est que c’est loin d’être axé sur la communauté », a-t-elle déclaré.
Un porte-parole de Meta, la société mère de Facebook, Instagram et WhatsApp, a déclaré que les discours de haine n’étaient pas autorisés sur ses plateformes et que les comptes « violateurs » ont été supprimés après avoir été signalés.
Il a ajouté : « Si nous trouvons du contenu qui enfreint nos politiques, y compris l’utilisation de symboles, d’emojis ou de fautes d’orthographe tentant de battre nos systèmes, nous le supprimerons. »
Des profils offensants ont également été trouvés sur Facebook. Photo : iStock
Et les plateformes de jeux ?
Une analyse du service de jeux numériques Steam a révélé plus de 300 000 noms de profils offensants.
Parmi eux, 241 729 étaient anti-noirs, 44 368 suprémacistes blancs, plus de 28 000 néo-nazis, 8 021 antisémites, 5 607 homophobes et 168 antimusulmans.
Sur le jeu Fortnite, plus de 100 noms de profils racistes et d’extrême droite ont été retrouvés et 34 ont été identifiés sur Rainbow Six Siege, dont 18 étaient actifs.
Une porte-parole du développeur de Fortnite, Epic Games, a déclaré que de nombreux noms d’utilisateur offensants ne figuraient plus dans leurs systèmes et que des mesures avaient été prises contre les comptes supplémentaires fournis.
« Les noms d’utilisateurs qui incluent de la vulgarité, des propos haineux, des propos offensants ou désobligeants de quelque nature que ce soit sont en violation des règles de notre communauté », a-t-elle ajouté.
Il est entendu que les profils Rainbow Six Siege ont été réinitialisés avec des noms aléatoires et que toutes les images incriminées ont été supprimées.
Un porte-parole du créateur du jeu, Ubisoft, a déclaré que la société « ne tolère aucune forme d’intimidation ou de harcèlement ».
L’entreprise prend des « actions concrètes » pour lutter contre les comportements « toxiques », et les violations de son code de conduite pourraient entraîner des sanctions, y compris des interdictions, a-t-il déclaré.
Alors que les processus automatisés n’étaient pas « infaillibles », les équipes travaillent constamment à les améliorer, a-t-il ajouté.
Suivez le podcast Quotidien sur Podcasts Apple, Google Podcasts, Spotify, diffuseur
Quelle a été la réaction ?
« Trouver un vivier de haine raciale sur les réseaux sociaux est encore incroyablement facile », a déclaré le directeur du CARR, le professeur Matthew Feldman.
« On se demande à quoi sert la modération quand certains de ces récits évidents, manifestes et, dans certains cas, incitant à la violence peuvent durer littéralement des années sans conséquences, et certainement sans modération.
« Ce matériel est dégoûtant et donne l’impression que les plates-formes ne se soucient tout simplement pas assez de traiter cette plaie courante. »
Il a ajouté que les plateformes avaient un « devoir de diligence » envers les utilisateurs, mais que seules les réglementations gouvernementales et la menace de dizaines de millions d’amendes apporteraient des changements.
« Sinon, ces plates-formes resteront réactives – mal – plutôt que proactives pour éliminer l’extrémisme haineux », a ajouté le professeur Feldman.
Danny Stone MBE, directeur général de l’Antisemitism Policy Trust qui a publié conjointement le rapport, a déclaré : « Six mois avant la finale de l’Euro, un an après l’insurrection de la capitale américaine, mais l’histoire reste la même : les sociétés de médias sociaux profitent de la vente de nos données mais en omettant de protéger correctement les personnes contre tout préjudice. »
Il a ajouté: « J’espère que le prochain projet de loi sur la sécurité en ligne et la législation à travers le monde obligeront les sociétés de médias sociaux à mieux s’occuper de leurs utilisateurs, car elles ne semblent pas pressées d’aider. »