L'algorithme de notation de la CNAF attaqué devant le Conseil d'État par 15 organisations

En cette veille de journée mondiale du refus de la misère, 15 organisations de la société civile attaquent l'algorithme de notation des allocataires des Caisses d'Allocations Familiales (CAF) en justice, devant le Conseil d'État, au nom du droit de la protection des données personnelles et du principe de non-discrimination. Ce recours en justice contre un algorithme de ciblage d'un organisme ayant mission de service public est une première. 

Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l'objet d'un contrôle. Plus il est élevé, plus la probabilité d'être contrôlé·e est grande. Chaque mois, l'algorithme analyse les données personnelles des plus de 32 millions de personnes vivant dans un foyer recevant une prestation CAF et calcule plus de 13 millions de scores. Parmi les facteurs venant augmenter un score de suspicion on trouve notamment le fait d'avoir de faibles revenus, d'être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l'allocation adulte handicapé (AAH). En retour, les personnes en difficulté se retrouvent sur-contrôlées par rapport au reste de la population.

Notre recours devant le Conseil d'État porte tant sur l'étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisé·es dans leurs parcours de vie. En assimilant précarité et soupçon de fraude, cet algorithme participe d'une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisé·es. Les contrôles sont des moments particulièrement difficiles à vivre, générateurs d'une forte charge administrative et d'une grande anxiété. Ils s'accompagnent régulièrement de suspensions du versement des prestations, précédant des demandes de remboursements d'indus non-motivés. Dans les situations les plus graves, des allocataires se retrouvent totalement privé·es de ressources, et ce en toute illégalité. Quant aux voies de recours, elles ne sont pas toujours compréhensibles ni accessibles.

Alors que l'utilisation de tels algorithmes de notation se généralise au sein des organismes sociaux, notre coalition, regroupant des organisations aux horizons divers, vise à construire un front collectif afin de faire interdire ce type de pratiques et d'alerter sur la violence dont sont porteuses les politiques dites de « lutte contre la fraude sociale ».

 « Cet algorithme est la traduction d'une politique d'acharnement contre les plus pauvres. Parce que vous êtes précaire, vous serez suspect·e aux yeux de l'algorithme, et donc contrôlé·e. C'est une double peine. » déclare Bastien Le Querrec, juriste à La Quadrature du Net.

La Quadrature du Net (LQDN). Contacts presse : Bastien Le Querrec +33 7 66 09 19 63 / Alex Dupré +33 7 54 57 44 09

AADJAM (Association d’Accès aux Droits des Jeunes et d’Accompagnement vers la Majorité).

Aequitaz. Contact presse : contact@aequitaz.org

Amnesty International France. Contact presse : Samuel Hanryon : spresse@amnesty.fr/ 06 76 94 37 05

ANAS (Association nationale des assistant·e·s de service social). Contact : Joran LE GALL et Isabelle BOISARD : presse@anas.fr

APF France handicap. Contact presse : Sophie Lasbleis 06 89 74 97 37

Collectif Changer de Cap Contact presse : Valérie Persan 06 58 74 63 62 /  coordination@changerdecap.net

Fondation Abbé Pierre. Contact presse : Angèle Roblot 06 23 25 93 79 / media@fondation-abbe-pierre.fr

GISTI 

Le Mouton numérique. Contact presse : Thomas Thibault bonjour@mouton-numerique.org 0631545636

La LDH (Ligue des droits de l’Homme) . Contact presse : Me Marion Ogier 0661874345

MNCP (Mouvement national des chômeurs et précaires). Contact presse : Valentine Maillochon 07 57 07 29 87

MRFB (Mouvement Français pour un Revenu de base).

CNDH Romeurope. Contact Presse : Estelle RIBES 06 68 43 15 15 

Syndicat des avocats de France (SAF).