Corée du Sud. Les contenus d’abus sexuels en ligne prolifèrent et les victimes pointent les défaillances de Google

Les femmes et les filles subissent de nouveaux traumatismes lorsqu’elles demandent la suppression d’Internet de contenus à caractère sexuel

Le système de signalement de Google est inadéquat et ne permet pas d’apporter des réponses rapides et transparentes

Des victimes d'abus sexuels en ligne en Corée du Sud ont expliqué à Amnesty International que leurs souffrances sont exacerbées par la lenteur et la complexité du système mis en place par Google pour traiter les demandes de suppression de contenus.

D’après les femmes et les filles victimes de crimes sexuels numériques, il est tellement compliqué de se frayer un chemin dans la procédure mise en place par Google pour signaler des contenus à caractère sexuel non consentis que cela favorise la prolifération des vidéos d'abus sexuels sur Internet.

« Alors qu’une vague de crimes sexuels numériques en Corée du Sud cause de graves préjudices aux femmes et aux jeunes filles prises pour cibles, le système défaillant mis en place par Google pour signaler les contenus à caractère sexuel publiés sans consentement aggrave encore la situation, a déclaré Jihyun Yoon, responsable d’Amnesty International Corée.

« Google doit faire davantage pour prévenir la diffusion des violences liées au genre en ligne – pas seulement en Corée du Sud, mais partout dans le monde. Les victimes dans le monde entier sont contraintes de passer par cette même procédure de signalement inadaptée lorsqu’elles veulent faire retirer des contenus préjudiciables ; il est donc fort probable que ce problème s’étende bien au-delà des frontières coréennes. »

Amnesty International lance le 8 décembre 2022 une pétition mondiale appelant Google à résoudre les lacunes de sa procédure de signalement.

Des crimes sexuels numériques en augmentation, malgré l’affaire « Nth Room »

En mars 2020, un groupe de journalistes sud-coréens a dévoilé l’existence de huit forums de discussion secrets sur l’application de messagerie Telegram, où des milliers de vidéos d’exploitation sexuelle de femmes, y compris de mineures, étaient vendues à l’aide de cryptomonnaie, sans leur consentement. La police sud-coréenne a ensuite révélé que plus de 60 000 personnes participaient à ces crimes en entrant dans ces chambres, connus collectivement sous le nom de « Nth Room ».

En octobre 2021, l’un des opérateurs de « Nth Room » a été condamné à 42 ans de prison. Cependant, les crimes sexuels numériques perdurent, et ce qui les distingue des autres cas de violence sexuelle, c'est le préjudice supplémentaire causé par la facilité de partage et de diffusion répétés.

Des affaires pénales récentes montrent que les auteurs menacent généralement les victimes à l’aide de vidéos existantes pour les forcer à en produire d’autres. Aussi, tant que les contenus publiés sans consentement et les informations personnelles des victimes ne sont pas supprimés, elles sont soumises à de nouveaux préjudices ou crimes, même lorsque les responsables initiaux sont sanctionnés.

« Il est crucial de pouvoir supprimer les contenus à caractère sexuel non consentis circulant sur Internet pour que les victimes puissent se réapproprier leur vie. Ces femmes n'ont d'autre choix que de s’en remettre aux demandes de suppression adressées aux entreprises de haute technologie, en passant par un processus douloureux qui consiste à devoir rechercher et collecter à maintes reprises ces contenus dans lesquels elles figurent, a déclaré Jihyun Yoon.

« Lorsque ces demandes ne sont pas traitées rapidement et que les contenus abusifs peuvent être rediffusés à tout moment, elles sont exposées à des atteintes physiques et psychologiques prolongées. »

Le système de signalement de Google est défaillant

Google assure que les contenus à caractère sexuel non consentis peuvent être supprimés sur demande. Toutefois, les victimes et les militant·e·s qui se sont entretenus avec Amnesty International Corée ont déclaré que les catégories et les procédures de signalement de Google étaient confuses et difficiles à suivre. Il est ardu de trouver les formulaires appropriés et ceux-ci contiennent des catégories ambiguës quant au type de contenu signalé.

Lorsque les utilisatrices parviennent enfin à déposer leur requête, elles sont ensuite très peu informées de son avancement, et ce souvent pendant des mois.

Amnesty International Corée a réalisé un sondage auprès de 25 victimes et militant·e·s : les 11 qui avaient porté plainte via Google ont déclaré qu’il était difficile de savoir si leurs requêtes avaient été correctement traitées, principalement à cause du manque de communication de la part de Google au cours de la procédure de signalement.

*Hyun-jin, une victime, a attendu un peu plus d'un an entre le moment où elle a reçu un accusé de réception de Google et celui où elle a enfin été informée du résultat d'une série de demandes de suppression qu'elle avait envoyées.

En outre, il semble que Google ne prend pas en compte le traumatisme des victimes dans l’élaboration de ses procédures de suppression. Lorsqu'ils signalent un contenu, les utilisateurs doivent cocher une case indiquant reconnaître qu'ils encourent des sanctions si la déclaration est fausse, tandis que Google assure que les plaintes incomplètes ne seront pas traitées.

Hyun-jin explique que ces directives ont accru son angoisse : « J'ai eu du mal à déposer ma demande, mais au lieu d'être convaincue que les contenus seraient supprimés, j’étais encore plus angoissée car je me suis dit que si ça ne marchait pas, ce serait de ma faute. »

Depuis, elle a rédigé une réponse type en 600 mots expliquant en détail pourquoi le contenu est illégal et l’a fait passer à d’autres victimes pour qu’elles puissent s’en inspirer.

L'un des formulaires de signalement de Google requiert de joindre une « photo d'identité », sans se soucier du fait que les victimes dont des contenus à caractère sexuel ont été diffusés sans leur consentement ont peur de partager leur image en ligne.

« Demander aux victimes de poster des photos d’identité sur Internet, où circulent des vidéos d’elles, est à l’évidence traumatisant », a déclaré Dan de l’association militante Team Flame.

Google est « le pire site en termes de victimisation secondaire »

Amnesty International a interrogé quatre victimes de violence liée au genre en ligne ainsi que six militant·e·s qui les soutiennent. Toutes les victimes ont déclaré que leur santé physique et psychologique avait été affectée et qu'elles avaient ressenti le besoin de s'isoler de la société pour échapper à la réprobation.

Si les atteintes sexuelles et leur diffusion sur le net ont déjà causé un immense préjudice à ces victimes, leur souffrance a été exacerbée par la lenteur et la complexité de la procédure de demande de suppression de contenus.

« Il était si facile [pour les auteurs des faits] de télécharger une vidéo, mais cela a pris des mois pour qu’elle soit retirée », a expliqué l’une de ces victimes, Hyun-jin.

Elle s'était rendue à la police après la diffusion en ligne d'une vidéo d'elle non consentie, au contenu sexuellement explicite. Elle pensait à tort que la vidéo serait rapidement supprimée. 

« Quand on est victime de ce genre de choses, on ne sait pas du tout quoi faire. Je consultais mon téléphone et je cherchais mon nom sur Google toute la journée. Je dormais à peine une heure par jour, passant le plus clair de mon temps à faire des recherches. Je faisais constamment des cauchemars, mais la réalité elle-même avait tout l’air d’un cauchemar.

« Pour supprimer les vidéos, les images et les mots-clés de recherche, j'ai dû faire des centaines de captures d'écran et les signaler à Google. Je ne pouvais pas demander à quelqu'un d'autre de s’en charger pour moi, car il fallait joindre à la demande ces images nocives où j’apparaissais. J'ai dû m’en occuper toute seule.

« Google a beaucoup d’avantages – il est aisé d’obtenir les informations souhaitées. Mais pour les victimes, Google n’est rien d’autre qu’un site de distribution géant. C’est le pire site en termes de victimisation secondaire. L’autre jour, j’ai vérifié les URL avec le contenu diffusé et [les résultats de la recherche] faisaient plus de 30 pages. En plus, ils n'étaient pas faciles à supprimer sur demande. [Pourtant], je continue de faire des demandes de suppression, je ne peux pas m'en empêcher. »

Responsabilité des entreprises de haute technologie dans la prévention des préjudices sur leurs services

Le système de signalement de Google est défaillant : utilisation difficile, incohérence et suivi laborieux, il ne permet pas d'apporter des réponses rapides et transparentes aux victimes.

La responsabilité de toutes les entreprises en matière de respect des droits humains est bien articulée dans les Principes directeurs des Nations unies relatifs aux entreprises et aux droits de l'homme : toutes les entreprises commerciales sont tenues d'éviter de générer des incidences négatives sur les droits humains du fait de leurs activités ou d’y contribuer, et sont tenues d’y remédier le cas échéant.

Dans sa politique en matière de droits humains, Google énonce son engagement à « respecter les normes inscrites dans les Principes directeurs relatifs aux entreprises et aux droits de l’homme ».

« En répondant avec incohérence et lenteur aux demandes de suppression formulées par les victimes de crimes sexuels numériques, Google est loin de respecter les droits humains. L’entreprise doit adopter un système de signalement centré sur les victimes, qui évite de les traumatiser à nouveau et soit facile à consulter, à parcourir et à vérifier, a plaidé Jihyun Yoon.

« Google doit veiller à ce que la violence liée au genre en ligne soit bannie de ses services. Ses mécanismes de signalement doivent aider les victimes de crimes numériques, et non raviver inutilement leurs souffrances. »

Amnesty International a adressé un courrier à Google le 11 novembre, sollicitant une réponse à ses conclusions. Google n’a pas fourni de réponse officielle, mais a assuré lors d’une rencontre privée que cette question retenait toute son attention et que l’entreprise souhaitait améliorer sa réponse.

* L’identité de toutes les victimes a été protégée, à leur demande.