Le CESE à propos de l’IA en Europe: les décisions ne peuvent pas toutes se réduire à des zéros et des uns

This page is also available in:

Dans deux avis concernant des projets de législation de l’UE sur l’intelligence artificielle (IA), le Comité économique et social européen (CESE) plaide en faveur d’une interdiction totale de la notation sociale dans l’Union et d’un mécanisme de plainte et de recours pour les personnes qui ont subi un préjudice du fait d’un système d’IA.

Lors de sa session plénière de septembre, le CESE a accueilli favorablement la proposition de législation sur l’intelligence artificielle ainsi que le plan coordonné sur l’IA.

La nouvelle législation est réellement centrée sur la santé, la sécurité et les droits fondamentaux, affirme le CESE, et elle a une portée mondiale dans la mesure où elle fixe une série d’exigences que les développeurs, en Europe et ailleurs, devront respecter s’ils souhaitent vendre leurs produits dans l’Union.

«L’Europe vient de franchir une nouvelle étape sur la voie du maintien de sa souveraineté dans le domaine de l’IA», déclare Marie-Françoise Gondard-Argenti, rapporteure de l’avis du CESE sur le plan coordonné en matière d’IA. «La compétitivité et l’éthique ne sont pas des termes contradictoires, bien au contraire! Il y a là un défi à relever, et nous devons l’examiner à travers le prisme des valeurs européennes. Nous pourrons ainsi devenir des leaders mondiaux dans ce domaine, tout en restant fidèles à nos valeurs».

Notation sociale et voies de recours: voilà le hic

Le CESE estime que les propositions présentent des faiblesses notamment dans le domaine de la «notation sociale». Le Comité attire l’attention sur le risque qu’une telle pratique se répande en Europe, comme c’est déjà le cas en Chine, où le gouvernement peut aller jusqu’à empêcher certains citoyens d’accéder aux services publics.

La proposition de législation sur l’intelligence artificielle interdit bel et bien la notation sociale par les pouvoirs publics en Europe, mais le CESE souhaiterait que cette interdiction soit étendue aux organisations privées et semi-privées afin que la notation ne puisse pas être utilisée pour déterminer, par exemple, si une personne peut prétendre à un crédit ou à un prêt hypothécaire. Le CESE estime qu’il n’y a aucune place dans l’UE pour une quelconque évaluation de la fiabilité des citoyens en fonction de leur comportement social ou de leurs caractéristiques de personnalité, quelle que soit l’instance attribuant la note.

«Il est important que la proposition de législation sur l’IA mette un terme à la pratique actuelle des acteurs publics et privés qui utilisent de plus en plus d’informations pour nous évaluer, nous classer et nous noter», déclare Catelijne Muller, rapporteure de l’avis du CESE sur cette proposition, et qui avait aussi rédigé l’avis précurseur du CESE sur l’IA en 2017. «La proposition de législation sur l’IA devrait tenter d’établir une distinction claire entre les pratiques qui sont à ranger dans la catégorie de la «notation sociale» et celles qui peuvent être considérées comme une forme d’évaluation acceptable à certaines fins. Il s’agit de déterminer à quel moment les informations utilisées pour l’évaluation ne sont pas raisonnablement pertinentes ou proportionnées».

Le CESE attire également l’attention sur les dangers de la liste d’IA « à haut risque », en signalant que l’approche consistant à dresser une telle liste peut aboutir à normaliser ou généraliser bon nombre de pratiques d’IA qui sont encore fortement critiquées. La reconnaissance biométrique, y compris la reconnaissance des émotions ou des affects, qui consiste à analyser les expressions faciales, le ton de la voix, l’attitude et les gestes d’une personne afin de prédire son comportement futur, de détecter des mensonges et même de déterminer si elle convient pour un emploi, serait autorisée, tout comme l’évaluation, la notation voire le licenciement de travailleurs sur la base de l’IA, ou l’évaluation des étudiants lors d’examens, une pratique introduite discrètement pendant la pandémie et que les étudiants ont jugée extrêmement invasive, dans la mesure où des systèmes d’IA suivent leurs mouvements oculaires devant les écrans, les frappes de touches, le bruit de fond, etc.

En outre, les exigences qu’il est proposé d’appliquer à l’IA à haut risque ne peuvent pas toujours atténuer les effets néfastes de ces pratiques sur la santé, la sécurité et les droits fondamentaux. Il convient donc de mettre en place un mécanisme de plainte ou de recours pour les personnes subissant un préjudice du fait d’un système d’IA. Le CESE attire l’attention sur cette lacune et demande à la Commission de mettre un tel système en œuvre afin que les Européens aient le droit de contester les décisions prises uniquement par un algorithme.

De manière plus générale, de l’avis du CESE, la législation sur l’intelligence artificielle omet de préciser que l’IA doit être vouée à renforcer la prise de décision et l’intelligence humaine humaines. Cette législation part en effet du principe qu’une fois que les exigences en matière d’IA à moyen et à haut risque sont respectées, l’IA peut, dans une large mesure, remplacer la prise de décision humaine.

«La législation sur l’intelligence artificielle néglige des notions telles que la prérogative humaine dans la prise de décision, la nécessité de l’action et de l’autonomie humaines, la force de la collaboration homme-machine et la pleine participation des acteurs concernés», déclare Catelijne Muller. «Au CESE, nous avons toujours plaidé en faveur d’une approche de «l’humain aux commandes» en matière d’IA, car les décisions ne peuvent pas toutes se réduire à des zéros et des uns. Nombre d’entre elles ont une composante morale, de lourdes conséquences juridiques et des incidences sociétales majeures, notamment en ce qui concerne l’application de la loi et le système judiciaire, les services sociaux, le logement, les services financiers, l’éducation et la réglementation du travail. Sommes-nous prêts à autoriser l’IA à remplacer la prise de décision humaine, même dans des processus critiques tels que l’application de la loi et le domaine judiciaire?»

Contexte

La législation sur l’intelligence artificielle et le plan coordonné sur l’intelligence artificielle ont été présentés par la Commission européenne respectivement en 2021 et en 2020.

La législation sur l’intelligence artificielle définit un cadre réglementaire horizontal qui régit tout système d’IA ayant une incidence sur le marché unique, que son fournisseur soit établi ou non en Europe, selon une approche fondée sur les risques. Elle établit également une série d’obligations juridiques et techniques de plus en plus strictes selon que le produit ou le service d’IA est considéré comme présentant un risque faible, moyen ou élevé. Un certain nombre d’utilisations de l’IA sont purement et simplement interdites.

Le nouveau plan coordonné succède au plan coordonné de 2018, par lequel la Commission européenne et les États membres s’étaient engagés conjointement à coopérer pour optimiser le potentiel concurrentiel de l’Europe à l’échelle mondiale, et qui a conduit la plupart des États membres à adopter des stratégies nationales en matière d’IA. Le nouveau plan représente la prochaine étape, qui propose un ensemble concret d’actions conjointes de la Commission européenne et des États membres, visant à faire de l’UE un leader mondial en matière d’IA digne de confiance.

Le CESE a joué un rôle de premier plan dans le débat sur l’IA en Europe depuis la publication de son premier avis précurseur sur l’IA en 2017, qui contenait de nombreux éléments essentiels de la stratégie en matière d’IA adoptée par la suite par la Commission. Il préconisait surtout l’approche de «l’humain aux commandes», qui sous-tend l’ensemble de ses travaux sur l’IA.

Poursuivant ses activités sur l’IA en 2021, le CESE organisera son deuxième sommet sur l’IA le 8 novembre, en collaboration avec la commission spéciale du Parlement européen sur l’IA (AIDA). Les principaux thèmes abordés lors de ce somment seront la législation sur l’intelligence artificielle, les compétences et l’adoption de l’IA dans les PME.

Recommended for you