Monde/France. Le Sommet d’action sur l’IA doit être axé sur une réglementation contraignante et applicable afin de réduire les préjudices induits par l’IA

À la veille du Sommet d’action sur l’intelligence artificielle (IA), qui débute le 10 février, Damini Satija, directrice du programme Technologie et droits humains d’Amnesty International, a déclaré :

« Alors que les dirigeant·e·s mondiaux et les cadres du secteur de la technologie se réunissent à Paris pour assister au Sommet d’action sur l’intelligence artificielle (IA), le gouvernement français doit saisir cette occasion cruciale de progresser de manière significative vers une réglementation mondiale de l’intelligence artificielle respectueuse des droits humains. Les gouvernements présents à ce sommet ne doivent pas se laisser influencer par les intérêts des entreprises au détriment de ceux qui subissent aujourd’hui de plein fouet les répercussions des systèmes d’IA sur les droits humains.

« Si la France a entrepris une tâche importante en accueillant ce sommet, la participation de la société civile et des militant·e·s des droits humains aux principaux événements programmés est loin d’être satisfaisante. La priorité n’a pas été donnée à l’allocation des ressources nécessaires pour assurer un dialogue collaboratif avec les représentant·e·s de la majorité mondiale, les populations touchées et les militant·e·s.

« Le manque de soutien de la part des organisateurs du sommet aux défenseurs des droits et aux représentants des populations qui ont besoin de visas pour entrer en France illustre la volonté bien trop timide de s’engager dans un dialogue d’égal à égal avec la société civile, en particulier celle des pays du Sud.

« Si les États veulent vraiment adopter une approche ouverte, multilatérale et inclusive quant au développement, au déploiement et à la réglementation des technologies de l’IA, ils doivent amplifier les voix et les priorités des populations touchées et les placer au centre de leurs préoccupations. 

We are now living in a world that feels increasingly terrifying. The omnipresence of predictive algorithms, coupled with rising global backlash against civil liberties risks giving a carte blanche to tech companies, to operate without rules or guidelines. 

Damini Satija, Programme Director, Amnesty Tech

« Les acteurs étatiques ne doivent pas non plus se laisser influencer par la fausse dichotomie entre innovation et réglementation que les entreprises technologiques et leurs dirigeant·e·s colportent à loisir pour étouffer les initiatives de réglementation axées sur les droits. Les gouvernements ne sauraient ignorer les problèmes systémiques sous-jacents en matière de droits humains, engendrés par l’automatisation de nos vies et le déploiement de technologies de l’IA.

« Nous vivons aujourd’hui dans un monde qui apparaît de plus en plus terrifiant. L’omniprésence des algorithmes prédictifs, associée au recul mondial des libertés civiles, risque de donner carte blanche aux entreprises technologiques pour agir sans règles ni lignes directrices.

« Alors que les gouvernements présentent ces annonces comme des ” solutions d’efficacité “, elles s’accompagnent trop souvent de politiques d’austérité et du déploiement de technologies d’IA à forte intensité de données. En outre, ces systèmes amplifient les discriminations préexistantes au sein des sociétés, ce qui conduit en fin de compte à l’exclusion, aux inégalités et à l’enracinement du pouvoir des entreprises.

« Les preuves sont nombreuses, ainsi que les enquêtes menées par la société civile et des journalistes, qui exposent les graves conséquences des technologies d’IA mises en place sans contrôle. Des systèmes d’armements autonomes et meurtriers à la reconnaissance faciale employée pour la surveillance de masse, en passant par les algorithmes de notation des risques utilisés dans le contexte des migrations et dans le secteur public pour allouer des aides sociales, il ne fait plus de doute que le déploiement et l’utilisation de ces technologies sont incompatibles avec nos droits et font fi de la dignité humaine. 

« Force est de reconnaître que les préjudices perpétués par les technologies de l’IA ont des conséquences considérables au-delà des technologies elles-mêmes. Les chaînes d’approvisionnement qui les alimentent, reposant sur des pratiques de travail inhumaines et causant de graves dégâts environnementaux, engendrent un impact disproportionné sur les populations, en particulier dans les pays du Sud. Compte tenu des effets dévastateurs durables des technologies de l’IA, il importe de lutter contre cet impact à l’intérieur des frontières nationales, mais aussi au-delà.

« Toute réglementation en matière d’IA doit être exempte de failles et de dérogations susceptibles d’entraîner des violations des droits humains. Tous les acteurs publics et privés, notamment les organismes chargés de l’application des lois, de la gestion des frontières et de la sécurité nationale, doivent respecter les normes relatives aux droits humains tout au long du cycle de vie des technologies d’IA, y compris pendant les phases de recherche, de développement et de test.

« Surtout, les individus et les groupes touchés par l’IA doivent pouvoir former des recours et obtenir des réparations. Condition préalable à un recours effectif, il faut garantir aux personnes concernées le droit à l’information et à des explications quant aux systèmes de prise de décisions recourant à l’IA, y compris en ce qui concerne la façon dont l’IA est utilisée et fonctionne dans ces systèmes. »

Damini Satija participera au Sommet d’action sur l’intelligence artificielle (IA) à Paris pendant toute sa durée, du 10 au 11 février 2025. Elle sera disponible pour des interviews sur divers sujets liés aux technologies, notamment :

1. Intelligence artificielle et responsabilisation algorithmique
2. Règlementation de l’intelligence artificielle
3. Géants technologiques et stratégie politique
4. Logiciels espions et surveillance
5. Droits numériques des enfants et des jeunes 

Informations à destination des journalistes

Damini Satija est experte en technologies, droits humains et politiques publiques. Elle est directrice d’Amnesty Tech, le programme Technologie et droits humains du mouvement mondial de défense des droits, qu’elle a rejoint à l’origine pour mettre en place le Laboratoire de la responsabilité algorithmique (une unité interdisciplinaire qui étudie l’impact des technologies d’IA sur les droits humains). Amnesty Tech travaille sur différents domaines, principalement les logiciels espions et les cyberattaques, la surveillance, l’utilisation de l’IA et de l’automatisation par les États, la responsabilisation des géants technologiques et des réseaux sociaux, ainsi que les droits des enfants et des jeunes dans des environnements numériques. Avant de travailler pour Amnesty International, Damini Satija a occupé plusieurs fonctions dans le domaine de la politique technologique. Elle occupait dernièrement le poste de conseiller politique principal au Centre pour l’éthique des données et l’innovation, organe spécialisé indépendant du gouvernement britannique sur la stratégie politique en matière de données et d’IA, et était spécialiste des questions de politique du Royaume-Uni auprès de la Commission sur l’intelligence artificielle et les droits de l’homme du Conseil de l’Europe.

The post Monde/France. Le Sommet d’action sur l’IA doit être axé sur une réglementation contraignante et applicable afin de réduire les préjudices induits par l’IA appeared first on Amnesty International.