Hausse alarmante de la haine en ligne, censure des contenus palestiniens, faille de modération… depuis la vague de violence qui a éclaté le 7 octobre en Israël et à Gaza, nous sommes préoccupés par la haine et la censure qui profilèrent sur les réseaux sociaux. Nos équipes d’Amnesty Tech ont analysé plusieurs exemples, réunis dans cet article.
Depuis le 7 octobre, nous avons constaté une multiplication alarmante, sur les réseaux sociaux, des appels à la haine constituant des incitations à la violence, à l’hostilité et à la discrimination visant les personnes juives ou palestiniennes.
Nous avons aussi recueilli des informations préoccupantes faisant état du blocage partiel, pratique dite du « shadow banning », et de la suppression de contenus en lien avec la Palestine. Ces contenus font l’objet d’une modération potentiellement discriminatoire des plateformes de réseaux sociaux.
En période de crise, nous en appelons à la responsabilité des plateformes des réseaux sociaux. La modération des contenus doit être réalisée de manière à garantir le respect du droit à la liberté d’expression, tout en s’attaquant à la prolifération des appels à la haine.
Les réseaux sociaux peuvent jouer un rôle vital dans la communication en période de crise, c’est pourquoi les principales entreprises gérant ces réseaux doivent impérativement renforcer leurs mesures de protection des droits humains.
Rasha Abdul-Rahim, directrice d'Amnesty Tech
Appels à la haine contre les Palestiniens
Depuis le 7 octobre 2023, l’indicateur de violence de l’ONG palestinienne 7amleh a détecté plus de 493 000 appels à la haine contre les Palestinien·ne·s et les défenseur·e·s des droits des Palestinien·ne·s dans des contenus en hébreu diffusés sur les réseaux sociaux. Des messages qui sont en constante augmentation. Nos équipes ont pu recueillir et analyser de nombreux messages circulant sur les réseaux sociaux.
Des messages qui glorifient les attaques israéliennes
Nous avons constaté qu’un nombre important de publications sur les réseaux sociaux glorifiaient les attaques israéliennes contre la population civile de Gaza, d’autres allaient jusqu’à soutenir la destruction de la bande de Gaza quand d’autres encore prônaient la violence contre les Palestinien·ne·s.
Des discours déshumanisant des autorités israéliennes
Des membres du gouvernement et des responsables militaires israéliens ont utilisé un langage déshumanisant et raciste à l’encontre des Palestinien·ne·s. Le 16 octobre, le Premier Ministre israélien a publié sur son compte X (@IsraeliPM) un message discriminatoire utilisant des termes déshumanisants : « C’est un combat entre les enfants de la lumière et les enfants des ténèbres, entre l’humanité et la loi de la jungle. »
De même, le ministre de la Sécurité nationale, Itamar Ben Gvir, a déclaré le 17 octobre 2023 : « Tant que le Hamas n’aura pas libéré pas les otages qu’il détient, les seules choses qui méritent d’entrer à Gaza sont les centaines de tonnes d’explosifs de l’armée de l’air, mais pas une once d’aide humanitaire. »
Nombre d’internautes ont repris le langage utilisé par les autorités israéliennes en publiant des contenus tenant le même type de discours : déshumanisant et raciste.
Des publications antisémites
Nos équipes ont aussi recensé plusieurs publications antisémites, dont un grand nombre appellent à la haine et à la violence contre les personnes juives. Des recherches menées dernièrement par le Centre de lutte contre la haine numérique (CCDH) ont d’ailleurs révélé une prolifération des contenus antisémites sur X ces derniers mois.
Sur fond d’escalade de violences en Israël et à Gaza nous appelons les entreprises qui gèrent les réseaux sociaux à s’attaquer à la vague de haine et de racisme qui déferle en ligne contre les communautés palestinienne et juive.
« Shadow ban » des contenus palestiniens
Certains contenus issus de comptes de Palestiniens ou de personnes défendant leurs droits ou relayant simplement des informations sur la situation à Gaza auraient été censurés par les réseaux sociaux. C’est ce que l’on appelle le « shadow banning » ou « bannissement furtif » qui signifie donc que des contenus palestiniens auraient bénéficié d’une visibilité presque nulle. La directrice d’Amnesty Tech, Rasha Abdul-Rahim, s’est dite vivement préoccupée par ces informations.
Tandis qu’Israël intensifie ses bombardements sans précédent sur la bande de Gaza, nous sommes extrêmement préoccupés par les informations faisant état du blocage partiel, parfois même de la suppression de contenus publiés par des défenseur·e·s des droits des Palestinien·ne·s.
Rasha Abdul-Rahim, directrice d'Amnesty Tech
La population palestinienne de la bande de Gaza est de plus en plus soumise à des coupures des moyens de communications, qui limitent sa capacité à chercher, recevoir et transmettre des informations. Les inégalités dans la modération des contenus par les plateformes de réseaux sociaux risquent d’affaiblir encore plus la capacité des Palestinien·ne·s à l’intérieur comme à l’extérieur de la bande de Gaza d’exercer leurs droits à la liberté d’expression, d’association et de réunion pacifique.
Les failles abyssales des réseaux sociaux dans la gestion des contenus
Des recherches ont montré que, sous couvert de neutralité, les systèmes fondés sur l’Intelligence Artificielle (IA) reproduisaient souvent les préjugés existant déjà dans la société. Le 19 octobre 2023, META s’est excusée d’avoir ajouté le mot « terroriste » dans des traductions de profils Instagram contenant les mots « Palestinien » et « Alhamdulillah » (qui signifie Dieu soit loué), ainsi que l’émoji drapeau palestinien. Elle a aussi abaissé de 80 % à 25 % le seuil de certitude requis pour « cacher » un contenu hostile, pour les contenus provenant en grande partie du Moyen-Orient. Cette mesure était une tentative d’endiguer le flux de propos hostiles, mais risque aussi d’entraîner des restrictions excessives des contenus.
En mai 2021, un rapport de l’organisation Business for Social Responsibility a montré que les contenus en langue arabe faisaient d’avantage l’objet d’une « modération excessive » sur les plateformes de Meta contrairement à des contenus dans d’autres langues, dont l’hébreu. Des publications signalées à tort ont contribué à réduire la visibilité et l’engagement de publications en arabe.
La responsabilité des réseaux sociaux
Plusieurs de nos recherches ont déjà révélé comment les algorithmes de plateforme comme Facebook ont contribué à de graves violations des droits humains.
Lire aussi : Comment Facebook a contribué au nettoyage ethnique des Rohingyas
Lire aussi : Comment Facebook a contribué à de graves violations dans le conflit en Éthiopie
Ces enquêtes sur la responsabilité de Facebook dans des violations commises en Ethiopie ou au Myanmar ont montré la nuisance du modèle économique de Meta basé sur les algorithmes. Conçus pour générer un maximum d’engagement, les algorithmes entraînent souvent une amplification disproportionnée de contenus comme les appels à la haine incitant à la violence, à l’hostilité et à la discrimination.
Dans ce contexte, il est impératif que les géants technologiques s’emploient à remédier aux conséquences réelles de leurs activités sur les droits humains afin qu’elles ne contribuent pas et ne permettent pas à la haine, au racisme et à la désinformation de proliférer.
Israël/Gaza : cessez-le-feu immédiat pour protéger les civil·es !
Demandez à Emmanuel Macron d’appeler à un cessez-le-feu immédiat de toutes les parties afin de mettre fin aux crimes de guerre, de protéger les civil.es et de faire en sorte que l’aide humanitaire puisse parvenir à Gaza.
