TikTok est un espace toxique et addictif pour les enfants et les jeunes. En cause : les algorithmes surpuissants de la plateforme qui font remonter des contenus nocifs pour la santé mentale, pouvant aller jusqu’à encourager les idées suicidaires. Entre témoignages, analyses de l’algorithme et du modèle économique, nos équipes ont enquêté sur les dangers et les dérives de TikTok sur les plus jeunes.
Action en justice
Sept familles françaises ont assigné TikTok en justice après les suicides d'adolescents. En cause, la responsabilité de la plateforme dans la dégradation de la santé mentale et physique de leurs enfants.
Dans cet article, nous détaillons notre enquête qui démontre que les algorithmes surpuissants de Tiktok peuvent attirer les comptes d’enfants dans des "spirales" de contenus idéalisant l’automutilation et le suicide. Il est essentiel que TikTok prenne de des mesures pour remédier à ces risques systémiques.
En février 2012, la Commission européenne a décidé d’ouvrir une enquête sur TikTok, en raison de préoccupations concernant le fait que la plateforme ne se conforme pas à la législation sur les services numériques (DSA) de l’Union européenne en ne protégeant pas suffisamment les jeunes utilisateurs et utilisatrices.
Nous publions deux rapports complémentaires sur la dangerosité de TikTok pour les jeunes. Le premier, intitulé «Poussé·e·s vers les ténèbres. Comment le fil "Pour toi" encourage l’automutilation et les idées suicidaires », met en lumière les atteintes dont sont victimes les enfants et les jeunes utilisant TikTok. Le deuxième, intitulé « Je me sens vulnérable. Pris·e au piège de la surveillance intrinsèque à TikTok », pointe le modèle économique néfaste de la plateforme qui permet et encourage ces atteintes.
Ces deux rapports s’inscrivent dans la suite du travail de nos équipes d’Amnesty Tech sur les droits numériques des enfants, initié par un sondage réalisé avec 550 jeunes âgés de 13 à 24 an et vivant dans 45 pays et portant sur leur utilisation et leur perception des réseaux sociaux.
Les résultats de nos enquêtes reposent essentiellement sur l’analyse de la fonctionnalité « Pour toi » de TikTok, une page personnalisée pour l’utilisateur, censée refléter ce que le système a défini par déduction comme correspondant aux centres d'intérêts de chaque utilisateur ou utilisatrice.
Comment avons-nous mené notre enquête ?
Nos deux rapports sont les résultats d’une enquête technique menée conjointement avec nos partenaires de l’Algorithmic Transparency Institute et d’AI Forensics.
Nous avons recueilli les témoignages de jeunes, notamment sur la base des résultats de notre sondage de février 2023 intitulé “Nous sommes totalement exposés”.
Nous avons mené des ateliers avec plus de 300 enfants âgés de 14 à 24 ans (dont 180 étaient des utilisateurs de TikTok) au Kenya et aux Philippines.
Nous avons corroboré nos entretiens avec l’expertise de psychologues spécialisés dans l’adolescence.
Nous avons activé une trentaine de comptes automatiques.
Nous avons créé trois faux comptes, gérés et analysés par nos équipes, configurés pour simuler le comportement d’adolescents de 13 ans (l’âge minimum pour s’inscrire sur les réseaux sociaux) aux États-Unis, au Kenya et aux Philippines.
Qu'est-ce que TikTok ?
TikTok est une plateforme de réseaux sociaux qui héberge des vidéos en format court. Elle appartient à l'entreprise technologique chinoise ByteDance Ltd.
La popularité mondiale de TikTok s'est considérablement accrue en 2020 et 2021, pendant la pandémie de Covid-19, car les personnes coupées de leurs interactions sociales habituelles ont passé plus de temps en ligne. En l'espace de quelques années seulement, TikTok est devenu l’une des plus grandes entreprises de réseaux sociaux au monde, avec plus d'un milliard d'utilisateurs, dont beaucoup sont des enfants âgés de 13 à 17 ans.
La spirale infernale du fil « Pour toi »
Le fil « Pour toi » de TikTok est une page extrêmement personnalisée qu’il est possible de faire défiler à l’infini. Ce fil est optimisé pour prédire, avec une précision étonnante, quel contenu plaira à un utilisateur et le maintiendra engagé le plus longtemps sur la plateforme, facilitant ainsi la collecte d'un nombre toujours plus important de données.
Les enfants et les jeunes qui regardent des contenus liés à la santé mentale sur leur fil TikTok sont rapidement entraînés dans des "spirales" de contenus qui idéalisent et encouragent les pensées dépressives, l’automutilation et le suicide. C’est ce que nous avons analysé en passant au crible le fil « Pour toi » de la plateforme, principale source d’inquiétudes et de dangers.
Lorsqu’un utilisateur montre un intérêt pour un contenu en lien avec la santé mentale, au bout de cinq ou six heures passées sur la plateforme, près d’une vidéo sur deux parlait de ce sujet de manière potentiellement nocive, soit un volume dix fois plus important que celui présenté aux comptes n’ayant indiqué aucun intérêt pour la santé mentale.
L’effet s’accélère encore plus lorsque l’utilisateur va consulter manuellement les vidéos déjà visionnées sur le sujet. Dans ce cas, il suffit de trois à 20 minutes que pour le fil « Pour toi » soit inondé de contenus en lien avec la santé mentale. De nombreuses vidéos recommandées pouvaient alors, en l’espace d’une heure, idéaliser, banaliser voire encourager le suicide.
Une addiction malgré eux
Nos rapports révèlent comment la plateforme de TikTok encourage par sa conception même une utilisation nocive de l’application. Plusieurs jeunes nous ont livré leur témoignage. Voici comment Luis* , un étudiant de 21 ans vivant à Manille et souffrant de troubles bipolaires diagnostiqués, nous a décrit son expérience avec le fil « Pour toi » de TikTok :
C’est une spirale infernale, ça commence avec une seule vidéo. Si une vidéo parvient à capter ton attention, même si tu ne l’aimes pas, elle t’est de nouveau présentée quand tu ouvres TikTok la fois suivante et, parce qu’elle te semble familière, tu la regardes à nouveau, et alors sa fréquence d’apparition dans ton fil augmente de façon exponentielle.
Luis*, étudiant à Manille
Quand [j’]“aime” une vidéo triste qui [me] parle, tout à coup, toute ma page “Pour toi” est triste. Je me retrouve dans le “TikTok triste”. Ça affecte mon humeur.
Francis*, 18 ans, étudiant aux Philippines
Les témoignages que nous avons récoltés dans le cadre de nos enquêtes ont été corroborés par plusieurs psychologues spécialistes de l’adolescence. Bien que les réponses données par les jeunes et les facteurs contextuels qui ont une incidence sur leur utilisation des réseaux sociaux soient variables, TikTok, à l’instar d’autres plateformes de réseaux sociaux, a opéré des choix de conception visant à maximiser le temps passé par les utilisateurs et utilisatrices sur la plateforme.
Le « consentement » faussé des enfants
Des recherches ont montré que les conditions générales des plateformes de réseaux sociaux les plus populaires ne sont pas facilement accessibles ou compréhensibles pour des enfants âgés de 13 à 17 ans. Comme l'a écrit Ella, une Norvégienne de 17 ans, dans notre enquête : "Je me sens très envahie et j'ai l'impression qu'ils savent tout de moi. D'une certaine manière, je me sens exposée.
"J'essaie de les lire [les conditions d'utilisation] chaque fois que je m'inscris à quelque chose, mais elles sont très difficiles à lire et je finis par les parcourir sans vraiment les comprendre."
Cela signifie que tout consentement accordé par les enfants et les jeunes ne peut être considéré comme véritablement libre et éclairé, ce qui a une incidence directe sur leur capacité à contrôler leurs propres informations.
Les dessous du modèle économique de TikTok
Notre enquête montre que le modèle économique de TikTok est intrinsèquement abusif et privilégie la participation pour conserver l’attention du public, afin de collecter toujours plus de données personnelles.
TikTok se sert ensuite des données récoltées pour cibler davantage certaines catégories de personnes en leur proposant du contenu extrêmement personnalisé et ainsi conserver leur attention. Ces groupes et catégories sont aussi mis à la disposition de publicitaires, qui peuvent ainsi cibler leurs messages en fonction des destinataires.
Les entreprises ont accès à tout ce que nous regardons et publions. Il arrive que des publicités apparaissent sur d'autres plateformes des réseaux sociaux en fonction de ce que j'ai regardé, ce qui soulève des questions sur la sécurité de nos données.
Freya*, 17 ans, Royaume-Uni
La politique de TikTok est divisée en trois régions : la première concerne un espace économique européen basé au Royaume-Uni et en Suisse, la deuxième s'applique aux États-Unis et la troisième aux “Autres régions”. Les trois politiques sont largement similaires mais présentent toutefois plusieurs différences importantes, ce qui signifie que le niveau de protection de la vie privée des enfants varie en fonction de la région dans laquelle ils vivent.
Bien que TikTok - contraint par un cadre législatif européen sur le sujet - ait pris des mesures pour respecter les droits des plus jeunes en Europe en interdisant la publicité ciblée, l’entreprise l’autorise toujours dans le reste du monde : certains enfants et jeunes se trouvent donc plus exposés que d’autres à cette collecte des données. Lauren Armistead, directrice adjointe du programme Amnesty Tech a déclaré : « TikTok cible les utilisateurs et utilisatrices, notamment les enfants, par des pratiques de collecte de données plus intrusives dans les endroits du monde où les lois et règlements locaux protègent moins leurs données. Autrement dit, les enfants vivant dans des pays où la législation est faible subissent les pires atteintes à leur droit au respect de la vie privée. »
Le meilleur moyen pour les États de protéger les enfants du recueil et de l’utilisation abusifs de leurs données personnelles en ligne est de faire en sorte que la loi interdise toutes les publicités ciblées reposant sur une collecte intrusive de données personnelles.
Ces nouveaux rapports s’inscrivent dans la suite de notre travail en faveur de la responsabilité des entreprises et de l’octroi de réparations en cas d’atteintes aux droits humains liées au modèle économique fondé sur la surveillance qui est celui de Meta, de Google, de TikTok et des autres géants technologiques du numérique.
TikTok doit être plus sûre pour les enfants et les jeunes !
Agissez en signant notre pétition pour empêcher que les jeunes utilisateurs·trices ne soient entraînés dans des « spirales » de contenus nocifs.
