Le Haut-Commissaire des Nations Unies aux droits de l'Homme (HCDH), Volker Türk, appelle à une "action urgente" face aux risques liés au développement de l'intelligence artificielle (IA) dans une lettre adressée aux États et aux développeurs d'IA, rendue publique le 14 septembre 2026. Cette alerte intervient alors que plusieurs dirigeants d'entreprises à la pointe du secteur ont eux-même appelé à ralentir les progrès de l'IA.
Les risques actuels et potentiels liés à l'essor de l'IA
Le Haut-Commissaire liste les préjudices liés à l'essor de l'IA, parmi lesquels l'automatisation de services essentiels au détriment des populations marginalisées, l'exploitation massive de données personnelles, les technologies de surveillance ainsi que les campagnes de désinformation.
Les défaillances des systèmes d'IA développés, notamment ceux dits "agentiques", pourraient conduire à des pannes des services essentiels, à la déstabilisation d'infrastructures critiques, à une atteinte aux institutions démocratiques, ainsi qu'à des menaces pour les libertés individuelles et les besoins élémentaires de la population. Selon le HCDH, "des populations entières pourraient se retrouver privées d'eau potable, de chauffage et de services financiers".
Qu'est-ce que l'intelligence artificielle agentique ?
L'IA agentique désigne un programme capable de comprendre, prendre des décisions et agir de manière autonome. Son architecture logicielle lui permet de s'améliorer en permanence. Elle se distingue de l'IA générative, capable de créer du contenu en s'appuyant sur des modèles d'apprentissage entraînés sur de vastes ensembles de données, sans pour autant prendre de décisions.
Le Conseil de l'intelligence artificielle et du numérique (CIANum) met en lumière les limites des IA agentiques dans une note publiée en février 2026 et alerte plus spécifiquement sur les risques qui en découlent pour les données personnelles dans une autre note de juillet 2026, co-écrite avec la Commission nationale de l'informatique et des libertés (CNIL).
Quel cadre juridique international pour réguler l'IA ?
Le HCDH estime indispensable la mobilisation des États et des entreprises pour encadrer les modèles d'IA de pointe. Les États doivent, selon lui, s'assurer du respect des obligations auxquelles sont soumises les entreprises qui développent des modèles d'IA et les tenir responsables de leurs manquements. Le HCDH réclame notamment une vérification indépendante, par des experts, des capacités des agents d'IA, et demande aux entreprises d'évaluer les conséquences de leurs produits d'IA sur les droits humains.
Pour l'instant, il n'existe pas de traité mondial universel contraignant sur l'usage de l'IA. Les premiers textes d'ampleur internationale ont été élaborés à l'échelle européenne :
- la convention-cadre sur l'intelligence artificielle et les droits de l'homme, la démocratie et l'État de droit, adoptée le 17 mai 2024 par le Conseil de l'Europe, vise à garantir une IA respectueuse des droits fondamentaux et d'exigences en matière de transparence et de contrôle. Elle engage non seulement les États membres du Conseil de l'Europe et l'Union européenne (UE), mais aussi des États tiers à l'Union, parmi lesquels les États-Unis, le Japon et le Canada ;
- le règlement européen du 13 juin 2024 sur l'intelligence artificielle (AI Act), dont plusieurs dispositions sont applicables depuis août 2026, prévoit des obligations pour les fournisseurs de modèles d'IA à des fins générales (GPAI) dont les produits sont mis sur le marché de l'UE.
