Règlement sur l’intelligence artificielle

Avis du CESE sur la proposition de règlement du Parlement européen et du Conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’Union.

Points clé

Le CESE apprécie que la proposition accorde une place centrale à la santé, à la sécurité et aux droits fondamentaux et qu’elle ait une portée mondiale. Le CESE estime que des améliorations sont possibles en ce qui concerne notamment:

• le champ d’application, la définition et la clarté des pratiques d’IA interdites;

• les implications des choix de catégorisation portant sur la «pyramide des risques»;

• l’effet d’atténuation des risques des exigences en matière d’IA à haut risque;

• l’applicabilité de la législation sur l’intelligence artificielle; et

• le lien avec la réglementation existante et d’autres propositions réglementaires récentes.

Par ailleurs, le CESE:

• recommande de clarifier les interdictions concernant les «techniques subliminales» et l’«exploitation des vulnérabilités», pour qu’elles traduisent la prohibition des manipulations néfastes;

• se félicite de l’interdiction de la «notation sociale» et recommande qu’elle s’applique également aux organisations privées et aux autorités semi-publiques;

• demande l’interdiction de toute utilisation de l’IA pour l'identification biométrique automatisée dans les espaces accessibles au public, que ce soit dans un cadre public ou un cadre privé;

• se félicite de l’harmonisation des exigences relatives à l’IA à haut risque avec les éléments des «lignes directrices en matière d’éthique pour une IA digne de confiance» et recommande d’inclure toutes les exigences listées dans ces lignes directrices;

• recommande que les évaluations de la conformité par des tiers soient obligatoires pour toutes les formes d’IA à haut risque et préconise d’inclure un mécanisme de plainte et de recours pour les organisations et les citoyens qui ont subi un préjudice du fait de tout système d'IA.

Conformément à l’approche, qu’il prône de longue date, d’une IA où «l’humain reste aux commandes», le CESE préconise vivement que la législation sur l’intelligence artificielle prévoie que certaines décisions demeurent la prérogative des êtres humains.

Pour plus d'informations veuillez contacter le secrétariat de la section INT.