Éthiopie. Les défaillances de Meta ont contribué à des atteintes aux droits de la communauté tigréenne pendant le conflit dans le nord du pays

Les contributions de Meta aux violations des droits humains

Les recherches effectuées par Amnesty International ont montré que les systèmes algorithmiques de Facebook ont amplifié la diffusion de discours dangereux visant la communauté tigréenne, tandis que les systèmes de modération des contenus de la plateforme n’ont pas détecté ces propos et n’y ont pas réagi de manière appropriée.

Ces défaillances ont au bout du compte contribué à l’assassinat de Meareg Amare, Tigréen et professeur de chimie à l’université. Cet enseignant a été tué par un groupe d’hommes après que des messages le prenant pour cible ont été publiés sur Facebook le 3 novembre 2021.

Je savais que ce serait une condamnation à mort pour mon père

a déclaré Abrham Meareg à Amnesty International.

Ces publications sur Facebook contenaient son nom, sa photo, son lieu de travail, son adresse personnelle et affirmaient qu’il était un partisan du Front populaire de libération du Tigré (FPLT), l’accusant d’avoir volé d’importantes sommes d’argent. Ces allégations ont été démenties par sa famille.

Son fils, Abrham Meareg, pense que ces messages hostiles publiés sur Facebook ont contribué à la mort de Meareg Amare.

@Abrham Meareg

« Je savais que ce serait une condamnation à mort pour mon père », a déclaré Abrham Meareg à Amnesty International.

À l’époque, le conflit armé dans le nord de l’Éthiopie, impliquant le FPLT, les forces fédérales éthiopiennes et d’autres groupes armés, faisait rage.

Des documents internes de Meta examinés par Amnesty International montrent que l’entreprise était consciente des faiblesses de ses mesures d’atténuation en Éthiopie et des risques que cela représentait dans un pays que l’entreprise elle-même considérait comme exposé à un risque élevé de violence. Un document interne de Meta datant de 2020 indiquait que « les stratégies d’atténuation actuelles ne sont pas suffisantes » pour empêcher la diffusion de contenus préjudiciables sur la plateforme Facebook en Éthiopie.

Outre l’amplification de contenus préjudiciables, le temps de réponse insatisfaisant de Meta et son refus de retirer des contenus signalés ont amené de nombreuses personnes interrogées par Amnesty International à penser qu’il était inutile de signaler des contenus à l’entreprise.

La diffusion massive de ces messages a donné lieu à des violences et à des discriminations à l’égard de la communauté tigréenne, jetant de l’huile sur le feu dans une situation déjà tumultueuse et marquée par d’importantes tensions ethniques

Agnès Callamard

Avant et pendant le conflit, Meta a reçu de nombreuses mises en garde de la part d’organisations de la société civile, d’expert·e·s des droits humains et du Conseil de surveillance de Facebook, qui a recommandé à Meta d’entreprendre une évaluation indépendante de l’impact sur les droits humains en Éthiopie en 2021.

« La diffusion massive de ces messages a donné lieu à des violences et à des discriminations à l’égard de la communauté tigréenne, jetant de l’huile sur le feu dans une situation déjà tumultueuse et marquée par d’importantes tensions ethniques », a déclaré Agnès Callamard.

*Gelila, membre de la société civile éthiopienne, qui faisait partie du programme « Partenaire de confiance » de Meta – une initiative visant à fournir à des groupes de la société civile sélectionnés un canal dédié pour alerter Meta au sujet de tout contenu néfaste – a déclaré que l’absence de réaction de Facebook face aux alertes a aggravé la situation des droits humains dans le pays.

« En tant que personne présente en Éthiopie depuis longtemps, je peux affirmer que Facebook expose davantage la population au risque de conflits entre communautés », a déclaré Gelila.

« Ils réagissent avec une lenteur extrême. Ils ne sont pas sensibles à ce qu’on leur dit – je pense que leurs normes sont très éloignées de ce qui se passe sur le terrain. »

Meta doit prendre des mesures de toute urgence afin d’atténuer comme il se doit les risques posés par la plateforme Facebook en Éthiopie, alors que ce pays est confronté à une nouvelle crise sécuritaire dans la région Amhara.

Ceci est essentiel, compte tenu des mises en garde adressées par les enquêteurs désignés par les Nations unies contre de potentielles futures atrocités, préoccupation reprise plus tard par la conseillère spéciale de l’ONU pour la prévention du génocide, qui a signalé le risque accru de génocide et d’atrocités connexes dans le Tigré et dans les régions Amhara, Afar et Oromia.

Des manquements récurrents au respect des droits humains

Les algorithmes de Meta qui façonnent les contenus sont conçus pour augmenter l’engagement des utilisateurs et utilisatrices, dans le but de diffuser des publicités ciblées, ce qui a pour conséquence de favoriser les contenus incendiaires, nuisibles et polarisants, qui ont tendance à attirer le plus l’attention.

En 2018, Meta a redeployé l’algorithme du fil d’actualité de Facebook autour d’un nouvel indicateur nommé « interactions sociales significatives » ou « MSI [Meaningful Social Interactions] », dans une tentative supposée de « réparer Facebook ».

Cependant, l’analyse menée par Amnesty International sur des éléments de preuve provenant des Facebook Papers – les documents internes de Meta divulgués par la lanceuse d’alerte Frances Haugen en 2021 – montre que ce changement n’a pas « résolu » les problèmes liés aux algorithmes de Facebook. Au contraire, les algorithmes sont restés programmés dans une optique d’engagement maximal, favorisant ainsi de manière disproportionnée les contenus incendiaires, notamment les appels à la haine.

Dans un document issu des Facebook Papers datant de 2021, certains éléments indiquent que le PDG de Meta, Mark Zuckerberg, est personnellement intervenu pour empêcher l’application de mesures d’atténuation dans des pays à haut risque comme l’Éthiopie, parce que ces mesures auraient pu interférer avec la métrique MSI.

Les bases du modèle commercial de Meta, qui est centré sur l’engagement, n’ayant pas changé, l’entreprise continue de présenter un danger significatif et permanent pour les droits humains, en particulier dans les zones touchées par un conflit.

Remédier à la situation – la responsabilité de Meta de proposer des voies de recours

Meta a la responsabilité de fournir un recours pour les violations des droits humains auxquelles elle a contribué en Éthiopie.

Des réformes urgentes et de grande envergure sont nécessaires pour s’assurer que Meta ne contribue plus à ces préjudices en Éthiopie ou dans un seul autre pays.

Cela suppose notamment de déployer des mesures « brise-glace » – c’est-à-dire des mesures que Meta peut prendre dans des contextes de crise pour réduire le pouvoir d’amplification algorithmique – dans les situations à haut risque dès qu’elles se présentent, et de garantir l’égalité et la cohérence entre les juridictions en ce qui concerne les ressources des équipes de modération de contenu, de politique et de droits humains au niveau mondial.

Les États doivent honorer l’obligation qui leur est faite de protéger les droits humains, en adoptant et en appliquant des lois permettant de contrôler efficacement le modèle économique des géants technologiques. Cela passe notamment par l’interdiction de la publicité ciblée, qui s’appuie sur des pratiques de traçage invasif.

Par ailleurs, les géants de cette industrie sont aussi tenus de respecter les droits humains, indépendamment des obligations des États, faute de quoi ils doivent être amenés à rendre des comptes pour les violations qu’ils ont causées ou auxquelles ils ont contribué.