Alors que les médias sociaux façonnent de plus en plus l’opinion publique, les conclusions de recherches menées récemment par la Balkan Free Media Initiative (BFMI) suscitent une vive inquiétude quant à la préparation de l’Europe s’agissant de lutter contre la manipulation des plateformes et l’ingérence électorale. Dans son dernier rapport intitulé «Tackling TikTokracy: A blueprint for fighting algorithmic manipulation in Europe», BFMI montre comment TikTok et d’autres plateformes ont été intensément exploitées dans le cadre de plusieurs élections organisées récemment dans les Balkans, notamment au moyen de vastes réseaux de faux comptes et de l’amplification interplateformes. Le rapport documente des tactiques telles que le détournement de hashtag et l’utilisation de réseaux fusionnés de bots d’influence, révélant des faiblesses structurelles communes qui continuent d’exposer nos processus démocratiques aux risques. Pour CESE info, BFMI présente des recommandations concrètes visant à renforcer la démocratie et la sécurité dans la perspective des élections à venir.

Par la Balkan Free Media Initiative (BFMI)

Le dernier rapport de BFMI, élaboré en partenariat avec la société d’analyse Sensika, a révélé l’existence de puissants réseaux d’ingérence numérique en Roumanie, en Bulgarie et au Kosovo, qui utilisent des tactiques hybrides sophistiquées pour imiter un véritable engagement en ligne et stimuler artificiellement la diffusion de messages politiques. Le rapport met en garde contre le fait que ces stratégies ne se limitent pas aux Balkans mais se propagent dans toute l’Europe plus rapidement que les réponses que tentent actuellement d’y apporter les institutions, les plateformes et les citoyens.

Les auteurs appellent à repenser rapidement l’architecture de défense démocratique de l’Europe, afin de rendre les plateformes plus transparentes, de détecter de manière proactive les fausses activités en ligne par-delà les frontières et de renforcer la résilience des citoyens face à l’influence en ligne. Si l’Europe n’agit pas, elle risque de devenir une «TikTokcracie», dans le cadre de laquelle les algorithmes — et non les citoyens — décident de son avenir.

L’influence algorithmique exploite les fissures dans les systèmes médiatiques

Dans les Balkans, les chercheurs de BFMI ont constaté que des réseaux de comptes automatisés, des influenceurs rémunérés et des partisans mal informés exploitent les incitations algorithmiques et les lacunes réglementaires. Grâce à des stratégies sophistiquées telles que la publication massive, l’ingénierie du hashtag et le fusionnement de contenus politiques et de divertissement, les personnes présentes sur ces réseaux, que ce soit sciemment ou à leur insu, amplifient la désinformation et manipulent l’opinion publique.

L’annulation de l’élection présidentielle roumaine en 2024 a été la première occasion où l’ampleur de cette menace a été révélée, après que ces réseaux aient directement compromis le processus électoral. Les services de renseignement roumains ont mis au jour une opération à grande échelle de coordination de plus de 25 000 comptes TikTok automatisés et d’un réseau de micro-influenceurs dont l’objectif était de pousser artificiellement le contenu d’un candidat particulier auprès des utilisateurs et d’amener ces derniers à voter en sa faveur. Une grande partie de cette opération s’est déroulée via Telegram, où des récits et des hashtags stratégiques ayant une résonance locale ont été diffusés en masse. 

Une dynamique similaire a été observée en Bulgarie, où des contenus à forte connotation politique diffusés à partir de faux sites web et monétisés au moyen de publicités non transparentes ont contribué à la succession de cycles électoraux qu’a connue le pays pendant quatre ans.  Le problème est peut-être encore plus préoccupant en Bulgarie qu’ailleurs, le rapport ayant révélé l’existence d’un modèle d’amplification multiplateforme économiquement intégré dans un paysage médiatique bulgare capté, qui s’adapte constamment et peut être activé à tout moment. 

Au Kosovo, ces tactiques ont contribué en 2025 à créer un climat de campagne particulièrement tendu, susceptible d’exacerber des tensions ethniques préexistantes à un moment particulièrement délicat. Une fois de plus, figuraient parmi les stratégies communément employées la tactique dite du «tuyau d’incendie» consistant à publier et à commenter massivement, la synchronisation de l’engagement, l’utilisation ciblée de hashtags et le fusionnement de publicités politiques non étiquetées avec des contenus récréatifs ou sportifs.

Toutefois, les manifestations historiques contre la corruption, organisées via TikTok, qu’a connues la Bulgarie à la fin de l’année 2025 ont montré que ces plateformes peuvent être une arme à double tranchant pour la démocratie, capable à la fois de stimuler la participation civique et de compromettre la stabilité politique.

L’une des principales conclusions du rapport de BFMI est que la manipulation des algorithmes des plateformes prospère là où et quand les écosystèmes médiatiques sont fragmentés, non transparents et captés par des intérêts politiques ou commerciaux. Si ces vulnérabilités sont effectivement répandues dans les Balkans, la sous-réglementation des plateformes, des normes de transparence insuffisantes, des infrastructures médiatiques fragiles et une coopération transfrontière limitée sont des faiblesses communes à toute l’Europe. En l’absence d’une réponse concertée venant de Bruxelles, tous les États membres restent exposés au risque de «TikTokcracie».

Renforcer les défenses européennes contre la «TikTokcracie»

Le rapport va au-delà du diagnostic pour définir un cadre politique européen clair et susceptible d’être mis en œuvre sans délai qui, non seulement, associe les organes chargés de l’élaboration des politiques mais prévoit aussi des efforts visant à mobiliser la société dans son ensemble, des plateformes aux institutions nationales en passant par les citoyens européens. Il propose notamment de: 

• mettre en place, dans le cadre du bouclier européen de la démocratie, des outils d’identification criminelle et de suivi qui alimentent un système d’alerte précoce et de réaction rapide à l’échelle de l’UE;

• faire appliquer de manière offensive la législation existante, telle que le règlement sur les services numériques (DSA) et le règlement européen sur la liberté des médias, et adopter des lignes directrices contraignantes supplémentaires pour les plateformes en ce qui concerne les contenus politiques, la transparence de la publicité et la protection des élections;

• prévoir de nouveaux financements, ainsi que des formations et un soutien technologique en faveur des médias crédibles et indépendants en vue de contribuer à la lutte contre la désinformation;

• organiser des initiatives en matière d’habileté numérique pour les jeunes électeurs et des campagnes de sensibilisation du public visant à protéger les citoyens contre les menaces et à rétablir la confiance de la société.

Ensemble, ces mesures permettraient de renforcer considérablement la capacité de l’Europe à préserver un débat démocratique libre et équitable et de faire en sorte que l’agentivité politique reste du ressort des citoyens plutôt que des plateformes.

Comme l’indiquent clairement les conclusions de BFMI, la manipulation algorithmique évolue plus rapidement que les défenses actuelles de l’Europe, ce qui nécessite plus que des ajustements progressifs ou l’application de la réglementation, et notamment une réaction harmonisée à la hauteur de la rapidité et de l’ampleur de ces menaces. L’Europe doit soit moderniser ses défenses démocratiques de manière à les adapter à l’ère numérique, soit risquer de permettre que la visibilité algorithmique et une popularité montée de toutes pièces érodent la confiance du public, faussent le choix politique et affaiblissent les sociétés démocratiques.

La Balkan Free Media Initiative (BFMI) est une organisation basée à Bruxelles qui promeut la liberté des médias et protège les droits des journalistes dans les Balkans. BFMI met l’accent sur la promotion de la transparence, de la responsabilité et du journalisme éthique, tout en luttant contre la désinformation, les menaces hybrides et d’autres obstacles qui sapent les valeurs euro-atlantiques. En soutenant la collaboration entre les professionnels des médias et la société civile, BFMI contribue à renforcer la résilience démocratique. Grâce à son approche globale, l’initiative joue un rôle crucial s’agissant de donner aux médias indépendants les moyens d’agir et de faire en sorte que des opinions diverses puissent être entendues dans l’ensemble des Balkans.

Avec plus de 1,6 milliard d’utilisateurs dans le monde, dont plus de 200 millions en Europe, et une proportion considérable de jeunes qui s’en servent comme source principale d’information, TikTok est devenu un espace d’expression politique et de partage d’informations de premier plan et, partant, fait l’objet d’un contrôle croissant de la part des régulateurs et de la société civile. À la suite de préoccupations récemment exprimées, la Commission européenne a ouvert une procédure formelle au titre du règlement sur les services numériques afin d’examiner si TikTok évalue et atténue de manière adéquate les risques systémiques liés à l’intégrité des élections et au débat public. Nous avons demandé à Francesca Scapolo, experte en intégrité électorale pour les politiques publiques en Europe chez TikTok, comment la plateforme comprend la responsabilité qui lui incombe face à ces risques dans la pratique, de quelle manière elle coopère avec les autorités et quelles garanties elle a mises en place pour protéger les processus démocratiques.

Compte tenu de l’ampleur que prend TikTok et de son rôle croissant en tant que source d’information politique pour des millions d’utilisateurs partout dans l’Union, comment l’entreprise aborde-t-elle de manière plus large la question de la responsabilité concernant les risques systémiques sur la plateforme, comme la propagation de la désinformation, les comportements coordonnés ou les faux comptes et les comptes fictifs? De quelle manière ces efforts se traduisent-ils par une coopération avec les autorités nationales et les institutions de l’UE, en particulier lors de moments délicats tels que les élections?

TikTok est une plateforme de découverte à laquelle plus de 200 millions d’Européens se connectent afin de partager leurs passions ou de trouver des sources d’inspiration. Nous sommes bien conscients que l’essor est synonyme de responsabilité et nous œuvrons sans relâche à protéger notre plateforme et à maintenir un espace civil permettant aux citoyens de s’exprimer et de construire une communauté, y compris lors des élections. Nous avons investi massivement dans des systèmes, des équipes spécialisées et des partenariats pour faire face aux risques systémiques tels que la désinformation préjudiciable, les faux comptes et les comptes fictifs, les comportements coordonnés non authentiques et les comportements trompeurs.

Dans l’ensemble de l’UE, nous nous efforçons notamment d’appliquer proactivement nos règles communautaires, d’investir dans des fonctionnalités, des outils et des ressources visant à donner à notre communauté les moyens d’agir, y compris sous la forme d’initiatives en matière d’éducation aux médias, et de développer des partenariats avec des experts externes. En fait, grâce au programme mondial de vérification des faits de TikTok, nous travaillons en étroite collaboration avec plus de 20 organisations accréditées par l’IFCN actives dans ce domaine, parmi lesquelles AFP en France, DPA en Allemagne et Newtral en Espagne.

Nos travaux techniques et nos activités de contrôle de l’application des règles sont complétés par une coopération permanente avec les autorités nationales et les régulateurs de l’UE. Dans le cadre du règlement sur les services numériques (DSA) et du code de conduite contre la désinformation, nous dialoguons avec les coordinateurs pour les services numériques et la Commission européenne. Nous fournissons également régulièrement des informations actualisées sur nos efforts de modération des contenus dans nos rapports de transparence.

Durant les périodes cruciales telles que les élections, nous collaborons également avec les autorités nationales et les commissions électorales et participons au système de réaction rapide du code de conduite, favorisant un partage d’informations diligent et coordonné entre les organisations de la société civile, les vérificateurs de faits et les plateformes afin de pouvoir faire face aux menaces urgentes ou émergentes, une capacité critique en périodes électorales.

Considérés dans leur ensemble, ces efforts montrent comment nous conjuguons atténuation proactive des risques, outils de responsabilisation des utilisateurs et coopération réglementaire afin de contribuer à préserver le débat démocratique dans l’ensemble de l’UE, en particulier lors de périodes électorales délicates.

Selon vous, les mesures prises par TikTok actuellement en vigueur sont-elles suffisantes pour faire face aux risques systémiques pesant sur les processus démocratiques lors des élections, en particulier ceux liés aux algorithmes de recommandation, à la dynamique de visibilité et aux campagnes coordonnées? Ou estimez-vous qu’il est nécessaire de mettre en place des garanties plus solides ou plus proactives?

Lors des élections, nous œuvrons sans relâche à protéger notre plateforme et à maintenir un espace civil permettant aux citoyens de s’exprimer et de construire une communauté. Au cours des cinq dernières années, des milliers de professionnels de la confiance, de la sûreté et de la sécurité ont protégé TikTok lors de plus de 200 élections à travers le monde. Notre stratégie globale repose principalement sur trois piliers:

• protéger l’intégrité des élections: supprimer la désinformation préjudiciable, entraver les tentatives d’influencer notre communauté, y compris les opérations d’influence clandestines, collaborer avec les vérificateurs de faits de manière à évaluer l’exactitude des contenus et étiqueter les allégations invérifiables;

• donner aux utilisateurs les moyens d’agir: fournir un accès à des informations fiables par l’intermédiaire des centres électoraux, faire en sorte que les utilisateurs soient en mesure de distinguer la réalité de la fiction;

• collaborer avec des experts: établir des partenariats avec les commissions électorales et les organisations de vérification des faits pour lutter contre les menaces émergentes.

Grâce à ces efforts, en 2025, nous avons perturbé plus de 75 réseaux d’influence clandestine et supprimé des dizaines de milliers de comptes pour avoir violé nos politiques en matière d’influence clandestine. Nous rendons des comptes à notre communauté en publiant des mises à jour régulières sur la manière dont nous protégeons l’intégrité des élections, ainsi que des rapports fréquents sur les opérations d’influence clandestines que nous avons entravées.

Pour ce qui concerne l’avenir, nous restons déterminés à renforcer ces piliers et à faire évoluer nos garanties à mesure que les risques évoluent.

Le projet Clover, qui repose sur un investissement à long terme d’environ 12 milliards d’euros, a été présenté comme un pilier essentiel de la stratégie européenne de gouvernance des données de TikTok. Pourtant, il demeure relativement peu connu du public. Comment cette initiative modifie-t-elle concrètement la manière dont TikTok traite les données des utilisateurs européens et quelle est sa pertinence pour l’intégrité des élections et les garanties démocratiques dans l’Union?

Le projet Clover est l’un des programmes de protection des données les plus avancés et les plus complets qui soient. Ses principes fondamentaux consistent notamment à stocker les données des utilisateurs européens dans une enclave européenne spécifique par défaut et à les protéger grâce à des garanties et des restrictions supplémentaires, en s’appuyant sur nos contrôles existants concernant les personnes habilitées à accéder aux données.

Nous avons également acquis les services d’une société européenne de cybersécurité renommée, le groupe NCC, afin de surveiller et de vérifier ces garanties de manière indépendante. Le contrôle assuré par le groupe NCC est un gage de responsabilité offert par une tierce partie pour nos travaux visant à protéger les données des utilisateurs européens. Nous avons également déployé des outils, appelés «technologies de protection de la vie privée», pour renforcer la protection de la vie privée des utilisateurs européens.

Ces mesures vont au-delà des exigences réglementaires, tout en étant alignées sur les principes du RGPD et sur nos efforts généraux visant à protéger notre plateforme et nos utilisateurs au moyen de processus, de politiques et de procédures solides.

Francesca Scapolo supervise les efforts de TikTok en matière de politique publique d’intégrité des élections à l’échelle européenne, en assurant la coordination entre les équipes chargées des produits, de la confiance et de la sécurité, ainsi que des politiques. En collaboration avec les parties prenantes internes et externes, elle met en œuvre des stratégies de politiques publiques régionales qui renforcent la confiance civique et préservent l’intégrité électorale. Avant de rejoindre TikTok, Francesca Scapolo a travaillé au sein du conseil de surveillance de Meta et à la Commission européenne. 

Dans un monde en ligne où l’IA générative peut fabriquer un titre, une image et une source en quelques secondes, les «nouvelles de dernière minute» pourraient bientôt céder la place aux «nouvelles vérifiées». À une époque où les mensonges voyagent plus rapidement que les faits, la vérification de ceux-ci devient rapidement l’un des outils les plus puissants du journalisme. L’Observatoire européen des médias numériques (EDMO) procède à un suivi des discours mensongers les plus persistants d’Europe au moyen de ses notes mensuelles sur la désinformation. Avec Tommaso Canetta, coordinateur de l’EDMO, nous avons évoqué l’évolution de la vérification des faits et les moyens nécessaires pour lutter contre la désinformation à l’ère de l’IA.

Pourriez-vous nous en dire un peu plus sur les notes mensuelles du réseau de vérification des faits de l’EDMO? Comment collectez-vous les informations et décidez-vous de ce qu’il convient d’inclure dans les notes? Qui sont vos vérificateurs de faits?

Chaque mois, nous envoyons un questionnaire aux organisations de vérification des faits qui sont membres du réseau de vérification des faits de l’EDMO (55 organisations couvrant tous les États membres de l’UE plus la Norvège). Le questionnaire comprend des questions quantitatives et qualitatives sur la désinformation détectée au cours du mois précédent. Nous analysons ensuite toutes les réponses et incluons les informations les plus pertinentes ressortant de cette analyse dans les notes.

Votre note d’octobre indiquait que la désinformation générée par l’IA avait atteint un nouveau record dans un contexte d’effritement de l’intégrité de l’information. Qu’est-ce qu’un «AI slop» et comment est-ce utilisé pour produire de fausses informations ou discréditer certains? Pouvez-vous nous donner quelques exemples récents et flagrants?

Un «AI slop» peut être défini comme un contenu de qualité faible à moyenne créé à l’aide d’outils d’IA. Le déluge de contenus générés par l’IA circulant sur les plateformes de médias sociaux pendant les crises, avant, pendant ou après les élections, et plus généralement autour de sujets sensibles, peut fausser considérablement la perception du public.

Parmi les exemples récents figurent les nombreuses vidéos et images mensongères montrant prétendument des Vénézuéliens fêtant dans la rue l’enlèvement de Maduro par les États-Unis. Un autre exemple est la diffusion, en novembre, de vidéos générées par l’IA représentant des soldats ukrainiens qui se libèrent. Dans la sphère politique en général, on voit de plus en plus de trucages vidéo ultra-réalistes de responsables politiques, affirmant des choses qu’ils n’ont jamais dites, créés et diffusés pour les discréditer (par exemple, celui-ci en Hongrie).

Existe-t-il des sujets ou des problèmes récurrents qui ont récemment fait les choux gras des vecteurs de désinformation et de discours mensongers? Pourriez-vous en citer quelques-uns sur la base des recherches menées pour vos notes d’information?

La guerre en Ukraine, les migrations, le changement climatique, l’UE, la guerre entre Israël et le Hamas à Gaza et ses conséquences, les pandémies et les vaccins, ainsi que les communautés LGBTQ+, ont tous été des cibles récurrentes de discours et de campagnes de désinformation ces derniers mois (comme en témoignent les notes d’information sur ces sujets).

En outre, la politique nationale est souvent la cible de désinformation, bien que la dynamique spécifique varie naturellement d’un pays à l’autre. Pratiquement toutes les crises qui «font» l’actualité ont tendance à devenir des cibles de désinformation, du moins tant que la couverture médiatique traditionnelle leur accorde une importance particulière (par exemple, l’ouragan Melissa, le vol au Louvre, la mort de Charlie Kirk, la guerre de 12 jours entre Israël et l’Iran, les élections présidentielles en Roumanie, etc.).

Dans un récent rapport de l’Institut Reuters pour l’étude du journalisme, les experts prévoient que la vérification occupera une place centrale dans les années à venir, la «vérification-minute» remplaçant les «nouvelles de dernière minute». Que pensez-vous de l’évolution du journalisme de vérification des faits et de son importance à l’avenir?

Je suis d’avis que son importance ne fera que continuer à croître. Nous évoluons rapidement vers une situation dans laquelle la principale source d’information pour des générations entières — les médias sociaux — est inondée de contenus peu fiables, tandis que de nombreux utilisateurs sont de plus en plus incapables de distinguer ce qui est réel de ce qui est généré par l’IA.

La désinformation, les activités de manipulation de l’information et d’ingérence menées depuis l’étranger, les escroqueries, la pornographie non consensuelle générée par l’IA (y compris celle montrant des mineurs) et d’autres contenus et opérations illicites ou préjudiciables vont prospérer. Ces efforts sont alimentés par les algorithmes et les modèles économiques des plateformes, par des acteurs peu scrupuleux exploitant le système à des fins lucratives et par des forces adverses/extrémistes (domestiques ou étrangères) qui bénéficient de la polarisation et des crises sociétales des États européens.

Si les démocraties veulent survivre, elles devront aborder cette question avec détermination, et la vérification des faits est un outil fondamental à cette fin. Même s’il devient impossible de vérifier tous les faux contenus à l’avenir, il devrait y avoir au moins un effort important pour vérifier ce qui est vrai. Les sources d’information traditionnelles pourraient même bénéficier d’un tel changement.

Peut-on apprendre aux gens comment détecter la désinformation? Comment repérer un faux lorsque nous le lisons, le voyons ou l’entendons? Cela sera-t-il même possible compte tenu de l’essor rapide de la technologie de l’IA, ou aurons-nous à nouveau besoin d’IA pour détecter les contrefaçons créées par l’IA?

Beaucoup peut être enseigné. La sensibilisation à la désinformation et à ses principales caractéristiques est une première ligne de défense puissante, et l’éducation aux médias est de la plus haute importance. Toutefois, l’éducation ne suffit pas à elle seule. Nous avons certainement besoin d’outils, y compris d’outils fondés sur l’IA, mais à l’heure actuelle, ces outils ne sont pas toujours fiables. Leur développement nécessite des efforts et des investissements, étant donné que les tiers mal intentionnés ont généralement une longueur d’avance. En outre, au-delà de l’identification des discours de désinformation, il est essentiel de détecter et de suivre leur dynamique de diffusion, y compris les acteurs, les cibles et la distribution interplateformes. Pour ce type d’analyse, des outils d’IA améliorés peuvent fournir des informations précieuses permettant d’apporter des réponses en temps utile. Nous avons également besoin d’une réglementation plus stricte de l’espace numérique et de l’IA. Les initiatives de l’UE telles que la législation sur les services numériques et la législation sur l’IA constituent un bon point de départ, mais beaucoup reste encore à faire, notamment en ce qui concerne l’application de la législation.

En outre, nous avons besoin d’un secteur des médias traditionnels solide, capable de fournir des informations fiables et de qualité, et d’une plus grande vérification des faits à tous les niveaux. Mais avant tout, les gouvernements démocratiques doivent renforcer leur action politique, relever ces défis avec audace et veiller à ce que les citoyens soient correctement informés.

Où le public peut-il lire vos notes d’information?

Elles sont toutes disponibles ici.

 

Tommaso Canetta est journaliste et vérificateur de faits, directeur adjoint de Pagella Politica/Facta news, coordinateur des activités de vérification des faits de l’EDMO et de l’Observatoire italien des médias numériques (IDMO), et membre de l’organe de gouvernance du réseau européen des normes de vérification des faits (EFCSN) ainsi que de la task-force du code de bonnes pratiques contre la désinformation.

L’EDMO est un réseau financé par l’UE qui réunit des chercheurs, des vérificateurs de faits et des experts en éducation aux médias afin de détecter, d’analyser et de combattre la désinformation dans toute l’Europe. Son réseau de vérification des faits se compose de 15 pôles dans l’ensemble de l’UE et de l’EEE.

À l’heure où la désinformation en ligne évolue à toute vitesse, l’Europe doit parer à toujours plus de menaces d’ingérence étrangère et de fausses informations. Debunk.org est un centre d’analyse de la désinformation qui surveille les discours mensongers en ligne, examine la véracité des faits allégués et met au jour les actions coordonnées de manipulation. À la tête de cette organisation, Viktoras Daukšas nous parle du travail de son équipe pour passer ces campagnes au crible. Il nous explique les techniques et les schémas à l’œuvre dans les menées modernes de désinformation, les difficultés qui sont les leurs pour détecter la manipulation sur plusieurs plateformes à la fois, ainsi que les mesures que les institutions, la société civile et les citoyens peuvent prendre pour protéger le débat démocratique en Europe.

Sur la base de vos analyses récentes (le déferlement de discours pro-Kremlin sur X par la chaîne d’information Telegram Belarusian Silovik, des escroqueries fondées sur l’hypertrucage et une campagne visant à discréditer Ursula von der Leyen), quels principaux schémas de désinformation observez-vous actuellement en Europe? Quel est le mécanisme derrière ces trucages numériques? Quelles techniques s’avèrent aujourd’hui les plus efficaces, et pourquoi?

Selon les observations de l’équipe de Debunk.org, un schéma se détache du lot: le blanchiment de contenus simultanément sur plusieurs plateformes, ce qui représente aussi une nouvelle façon de contourner les sanctions prises par l’Union européenne à l’encontre des médias acquis au Kremlin. Les contenus provenant de sites internet sanctionnés sont réécrits à l’aide de l’IA et partagés sur des médias de désinformation nouvellement créés, comme le réseau Pravda, ou sur les réseaux sociaux. Les narratifs émanent souvent d’espaces fermés ou semi-fermés tels que Telegram, où des acteurs liés à l’État ou agissant par procuration opèrent sans réel contrôle, et sont ensuite reformatés pour des plateformes comme X. Dans le cadre de notre enquête sur les contenus liés à Belarusian Silovik, nous avons découvert qu’un petit nombre de comptes fictifs ou à l’identité usurpée amplifient inlassablement le même matériel source, en utilisant l’IA pour le localiser et en l’adaptant à différents publics pour en accroître la portée.

Un deuxième schéma récurrent repose sur le discrédit politique déclenché par un événement, ce qui consiste à instrumentaliser délibérément les procédures démocratiques officielles pour lancer des campagnes de désinformation. Dans le cas du vote de censure visant la présidente de la Commission européenne Ursula von der Leyen, le vote lui-même est devenu le vecteur d’une campagne de discrédit coordonnée. Même s’il était d’emblée manifeste que la motion ne réunirait pas suffisamment de voix pour faire démissionner la présidente, la manœuvre a néanmoins été orchestrée dans le but d’amplifier les discours préexistants de corruption et d’illégitimité.

Enfin, nous voyons de plus en plus que la désinformation confine à la fraude, en tirant notamment profit de la publicité payante et d’escroqueries fondées sur l’hypertrucage. Ici, l’objectif ne se limite pas à une manipulation politique, mais vise aussi un préjudice financier direct, souvent obtenu en se faisant passer pour des médias, des personnalités publiques ou des institutions de confiance. Ces campagnes abusent des systèmes publicitaires des plateformes et, pour les utilisateurs, il est difficile de les distinguer des contenus légitimes.

Pouvez-vous nous détailler vos procédés pour rétablir la vérité? De manière générale, quels signaux ou éléments de preuve vous permettent de détecter les contenus coordonnés ou manipulés?

Notre processus de rétablissement de la vérité («debunking») combine analyse du discours, signaux comportementaux et vérification technique, souvent en collaboration avec des organisations partenaires.

Nous commençons par repérer la source d’une allégation en amont et par retracer la manière dont elle se propage d’une plateforme à l’autre. Parmi les signaux de coordination, on peut citer une fréquence de publication inhabituellement élevée, une amplification synchronisée autour d’événements majeurs, des renvois répétés de liens vers la même origine, ou encore des comptes qui usurpent l’identité de personnes ou d’organisations bien réelles. Au niveau du contenu, nous recherchons les formulations récurrentes et les narratifs parfaitement calibrés.

Nous en évaluons l’ampleur et la vélocité. Lorsque d’importants volumes de contenu apparaissent dans des délais courts, cela peut suggérer une automatisation ou un comportement coordonné. Bien que les outils et les techniques varient au cas par cas, la clé consiste à recouper plusieurs indicateurs de manipulation plutôt que de se fier à un signal unique.

Aujourd’hui, l’analyse des activités de manipulation de l’information et d’ingérence menées depuis l’étranger se fait rarement seul dans son coin. L’efficacité des réponses dépend de plus en plus de réseaux d’échange d’informations tels que le centre FIMI-ISAC, qui mettent en relation les chercheurs, les journalistes, la société civile et les institutions publiques afin de détecter et de contextualiser rapidement les menaces.

Votre analyse de la désinformation visant Ursula von der Leyen met en évidence des tendances plus lourdes de discrédit politique. En quoi cette affaire est-elle révélatrice de la manière dont les institutions ou les figures politiques de l’Union sont aujourd’hui présentées en ligne?

Cela reflète une stratégie plus large de manipulation de l’information et d’ingérence menées depuis l’étranger: il s’agit d’éroder la confiance et d’affaiblir l’autorité institutionnelle de l’Union afin de disqualifier plus facilement l’information officielle, les médias, la vérification des faits ou les réponses politiques. Par la répétition de narratifs ou d’accusations préconstruits par les médias, les chaînes et les influenceurs pro-Kremlin, on cherche à créer des campagnes de grande ampleur dans le but de manipuler l’opinion publique.

D’après vos recherches, quelles compétences doivent développer de toute urgence les citoyens pour se protéger de la désinformation et des hypertrucages? Quelles sont, selon vous, les principales failles dans l’éducation du public au numérique et aux médias?

Les compétences les plus urgentes à acquérir aujourd’hui concernent moins la mémorisation des faits que la reconnaissance des techniques de manipulation.

Les citoyens doivent se doter de solides réflexes en matière de vérification des sources, comme la lecture latérale, qui consiste à quitter la page internet que nous sommes en train de lire pour vérifier ce que disent d’autres sources crédibles, et une vérification élémentaire de l’auteur d’une affirmation. Il faut également sensibiliser davantage aux médias synthétiques: il convient de comprendre qu’un contenu vidéo ou audio convaincant peut être fabriqué de toutes pièces et que le réalisme visuel n’est plus une preuve d’authenticité.

Pour contribuer à combler ces failles, Debunk.org a mis au point InfoShield, un cours en ligne gratuit de 45 minutes qui a déjà été suivi par plus de 5 000 citoyens. Le cours se concentre sur les compétences pratiques indispensables au quotidien pour reconnaître la manipulation, le cadrage émotionnel et les contenus trompeurs dans les environnements numériques.

Au niveau professionnel, nous avons aussi de plus en plus besoin de spécialistes formés, capables de détecter systématiquement les activités de manipulation de l’information et d’ingérence menées depuis l’étranger et d’y réagir. À cette fin, nous proposons FIMI101, un cours d’apprentissage en ligne destiné aux professionnels et conçu pour certifier les analystes exerçant dans ce domaine. La participation à ces cours professionnels contribue directement aux activités de recherche, de suivi et d’intérêt général que mène en permanence Debunk.org.

Viktoras Daukšas est depuis huit ans à la tête de l’ONG Debunk.org, un groupe de réflexion indépendant en matière de technologies. Debunk.org analyse les activités de manipulation de l’information et d’ingérence menées depuis l’étranger ainsi que les comportements coordonnés non authentiques. Avec ses partenaires, l’ONG mène des recherches sur la désinformation dans 22 pays, en combinant ses connaissances spécialisées avec des technologies fondées sur l’IA. Debunk.org propose également des campagnes d’éducation aux médias pour apprendre aux citoyens à repérer les trucages en ligne et à se protéger de la désinformation.

Les hôpitaux européens ont été confrontés à près de 300 incidents de cybersécurité en 2024, ce qui fait des soins de santé le secteur essentiel le plus ciblé. Largement attribués à des groupes liés à la Russie, les incidents majeurs coûtent environ 300 000 EUR chacun, mais les dommages vont bien au-delà des pertes financières. Le plan d’action européen sur la cybersécurité des hôpitaux et des prestataires de soins de santé (2025) constitue une étape essentielle vers la protection des soins de santé de l’UE contre les menaces hybrides. Samuel Goodger et Elizabeth Kuiper, du Centre de politique européenne, exposent les priorités à respecter pour assurer la bonne mise en œuvre du plan.

Le nombre croissant de cyberattaques contre les infrastructures de santé de l’UE s’inscrit dans le cadre d’une guerre hybride plus large, dont la Russie est la principale instigatrice, visant à intimider, déstabiliser et tester la détermination européenne. Pendant que l’on assiste à un remodelage de la prestation des soins de santé induit par la santé numérique et l’intelligence artificielle, la portée des cyberattaques ne cesse quant à elle de s’étendre. Depuis 2023, des groupes de pirates informatiques pro-russes, tels que Killnet et Anonymous Sudan, ont lancé des attaques coordonnées contre des hôpitaux et des autorités sanitaires au Danemark, aux Pays-Bas, en Espagne et en Suède. Rien qu’en 2024, au moins 289 incidents de cybersécurité ont touché les prestataires de soins de santé de l’UE, soit davantage que dans tout autre secteur essentiel.

Le coût de l’inaction est énorme. Les incidents majeurs coûtent en moyenne 300 000 EUR chacun, ce qui signifie que la charge cumulée pesant sur les systèmes de santé peut atteindre des milliards.

La désinformation, par exemple partagée sur les médias sociaux, peut également multiplier les effets des attaques. Lorsque les hôpitaux sont ciblés, les fausses déclarations sur les violations des données des patients peuvent amplifier l’anxiété publique, éroder la confiance dans les établissements de soins de santé et aggraver les effets déjà préoccupants d’une faible maîtrise des connaissances en matière de santé.

Pourquoi les soins de santé?

Plusieurs facteurs rendent les systèmes de santé attrayants. Les dossiers médicaux personnels peuvent faire l’objet d’usurpation d’identité ou d’extorsion. La fragmentation des environnements informatiques — mélange de systèmes anciens et d’infrastructures modernes — contribue aux vulnérabilités. Les dépendances au sein des chaînes d’approvisionnement créent des points d’entrée supplémentaires, étant donné que la violation d’un système peut se répercuter sur d’autres.

La préparation en matière de cybersécurité dans le domaine des soins de santé varie considérablement d’un État membre à l’autre. Tandis que certains États membres disposent d’écosystèmes matures, tels que le Z-CERT néerlandais, qui fournit des renseignements sectoriels sur les menaces et la réaction aux incidents, d’autres ne disposent pas d’une expertise spécifique en matière de santé. Cette fragmentation crée des vulnérabilités que les acteurs hostiles peuvent exploiter. Les carences au niveau du partage transfrontière de renseignements sur les menaces permettent aux auteurs d’attaques de réutiliser les mêmes vulnérabilités d’un pays à l’autre.

Enfin, les pénuries de main-d’œuvre aggravent également ces lacunes: en 2024, selon les estimations, ce sont 300 000 professionnels de la cybersécurité qui faisaient défaut à l’UE. Le problème est particulièrement aigu dans le domaine des soins de santé, où environ deux tiers des rôles en matière de cybersécurité sont occupés par des professionnels de l’informatique non spécialisés dans ce domaine.

IA — Une occasion cruciale à saisir

Dans ces circonstances, le plan d’action européen de janvier 2025 sur la cybersécurité des hôpitaux et des prestataires de soins de santé constitue une avancée essentielle. S’appuyant sur une législation existante substantielle, telle que la directive SRI 2, le RGPD et le règlement sur l’espace européen des données de santé, le plan trace la voie à suivre pour protéger les systèmes de santé de l’UE au moyen de quatre piliers: prévention, détection, réaction et rétablissement, dissuasion.

Les outils actuels fondés sur l’IA offrent un potentiel de défense important: surveillance continue, détection fine des atteintes à la sécurité, hiérarchisation des alertes et endiguement précoce automatisé des menaces. Toutefois, nos adversaires bénéficient également de ces évolutions, par exemple en manipulant les modèles d’IA au moyen d’entrées contradictoires ou d’empoisonnements de données. Pour garantir l’intégrité du système, il est donc nécessaire de surveiller en permanence et de sécuriser les canaux de développement. La validation par des analystes humains reste essentielle pour l’obligation de redevabilité.

Par ailleurs, l’IA renforce également de manière significative les acteurs de la désinformation. En analysant les données volées, les agresseurs peuvent générer des courriels d’hameçonnage adaptés aux rôles spécifiques des individus. Lors d’incidents, une désinformation coordonnée peut éroder la confiance du public, précisément lorsque la confiance est la plus fragile.

Recommandations

Avant que la Commission ne prenne de nouvelles mesures pour mettre en œuvre le plan d’action, nous recensons six priorités:

Premièrement, tirer parti de l’IA pour détecter les menaces et y répondre. Les systèmes de santé devraient expérimenter l’IA spécialisée pour la gestion automatisée des vulnérabilités et l’analyse comportementale. Des systèmes d’IA fermés mais explicables sont préférables, afin de réduire les risques de fuites de données.

Deuxièmement, améliorer le renseignement sur les menaces transfrontières. La Commission doit mettre en place des systèmes de surveillance des vulnérabilités contextualisés dans les flux de travail cliniques. La coopération internationale devrait être renforcée dans le cadre de l’initiative internationale de lutte contre les rançongiciels et du G7.

Troisièmement, renforcer la passation conjointe de marchés pour la sécurité de la chaîne d’approvisionnement. La mise en place de mécanismes communs de passation de marchés au niveau de l’UE agrégerait la demande et faciliterait la surveillance des exigences en matière de sécurité dès la conception.

Quatrièmement, remédier à la crise de capacité s’agissant de la main-d’œuvre. Les professionnels de la santé eux-mêmes constituent à la fois la première ligne de défense et une vulnérabilité majeure. La formation à l’hygiène informatique doit inclure des compétences en matière de lutte contre la désinformation et la reconnaissance des attaques d’ingénierie sociale renforcées par l’IA.

Cinquièmement, cibler les risques de désinformation. La Commission devrait élaborer des initiatives de maîtrise de l’IA spécifiques aux soins de santé expliquant les processus décisionnels et les implications en matière de respect de la vie privée. Les citoyens doivent être en mesure de distinguer les communications authentiques des contenus manipulés.

Sixièmement, veiller à ce qu’un financement adéquat soit disponible. Les investissements publics devraient faire l’objet d’une réorientation des ressources existantes, mais aussi bénéficier de la clause dérogatoire du pacte de stabilité et de croissance. L’UE devrait envisager de créer un Fonds pour la résilience doté d’une enveloppe spécifique de 10 milliards d’euros pour les secteurs les plus exposés aux cybermenaces.

Pour garantir la cyber-résilience des systèmes de santé de l’UE, il est nécessaire de passer à une approche collaborative et proactive. Il faut pour cela surmonter la fragmentation et favoriser une action collective intégrée et innovante. En tirant parti de l’IA, en approfondissant la coopération transfrontière, en investissant dans le développement de la main-d’œuvre et en donnant aux patients les moyens d’agir, l’UE peut transformer le secteur des soins de santé d’un objectif vulnérable en une infrastructure résiliente.

Samuel Goodger est analyste politique et Elizabeth Kuiper est directrice associée au Centre de politique européenne. Le présent article se base sur leur note stratégique de novembre 2025 «From ransomware to statecraft: Protecting EU healthcare in the new threat landscape».

Le Centre de politique européenne (CPE) est un groupe de réflexion indépendant et à but non lucratif qui vise à favoriser l’intégration européenne par l’analyse et le débat, en aidant et en stimulant les décideurs à tous les niveaux à prendre des décisions éclairées fondées sur des données probantes et des analyses, et en fournissant une plateforme pour associer les partenaires, les parties prenantes et les particuliers à l’élaboration des politiques de l’UE et au débat sur l’avenir de l’Europe.

Les concepteurs et les développeurs d’interfaces numériques devraient prendre davantage conscience de la diversité des besoins en matière d’information. Bart Simons de l’Union européenne des aveugles (UEA) les exhorte à se mettre dans la peau des personnes handicapées, ne serait-ce qu’un instant, afin que la révolution numérique bénéficie à tous

L’accès à l’information est essentiel. Les personnes aveugles et malvoyantes sont depuis longtemps pionnières dans l’élaboration d’outils techniques permettant de consulter des informations imprimées, ce qui est essentiel à leur autonomie de vie. Nous avons été parmi les premiers à utiliser des scanners pour lire du texte au format papier et, il y a dix ans déjà, des outils d’intelligence artificielle installés sur nos smartphones nous décrivaient notre environnement.

De manière générale, nous nous félicitons que les informations et de nombreux processus deviennent disponibles sous forme numérique. Il importe cependant que la numérisation soit mise en œuvre de manière intelligente et inclusive. La conception et le développement de sites web, d’applications, de services bancaires, de livres et de plateformes d’achat accessibles aux utilisateurs ayant des besoins très divers offrent de nombreuses possibilités. Des textes législatifs tels que l’acte législatif européen sur l’accessibilité sont en place, des normes ont été élaborées et il est possible de personnaliser les smartphones et les ordinateurs et de les équiper de technologies d’assistance afin que chacun puisse les utiliser.

Nous devons toutefois sensibiliser davantage les concepteurs et les développeurs d’interfaces numériques. Ces derniers doivent être formés de manière à ce que le potentiel que recèle la numérisation pour répondre à nos besoins en matière d’accès à l’information devienne une réalité.

Nous souhaitons, par exemple, pouvoir vérifier le montant que nous payons avant de valider nos opérations sur les terminaux de paiement. Comme nous ne pouvons pas encore conduire de voitures, nous dépendons de la livraison de courses à domicile, mais cela ne fonctionne que si les sites web des magasins peuvent être utilisés sans souris. Nous voulons lire les livres publiés récemment et trouver des informations exactes sur Internet, mais cela nécessite un contraste de couleurs suffisant. En outre, les informations doivent être fournies dans un format de texte plutôt que seulement sous forme d’images.

Toutes les personnes qui participent à la création de produits et de services assortis d’une interface numérique peuvent contribuer à libérer ce potentiel en envisageant les choses sous différents angles et en se demandant: comment trouver le bouton pour avoir un double espresso sur un écran tactile les yeux fermés ou sans mes lunettes? Les utilisateurs peuvent-ils utiliser cette borne pour commander à manger s’ils sont petits, grands ou assis? Les utilisateurs d’une plateforme d’apprentissage en ligne peuvent-ils répondre aux questions sans utiliser de souris? Existe-t-il une autre méthode que le glisser-déposer? Les exercices sont-ils conçus de manière à ne pas reposer uniquement sur des codes de couleur, la reconnaissance d’images ou d’autres caractéristiques sensorielles?

Lorsque les produits et services sont conçus et développés de manière inclusive, ils touchent davantage de clients, qui se sentent plus indépendants et les recommandent aux autres. Faisons de la révolution numérique une réalité pour tous.

Bart Simons est expert en accessibilité et représentant de l’Union européenne des aveugles (UEA) auprès de l’Association européenne pour la coordination de la représentation des consommateurs dans la normalisation (ANEC).

Alors même que l’IA pourrait rendre l’agriculture européenne plus compétitive et plus durable, la plupart des agriculteurs en sont exclus: selon les estimations, seules 3 à 4 % des exploitations agricoles de l’UE recevront un financement en faveur d’outils numériques au titre de la PAC actuelle, signale Stoyan Tchoukanov, président de la section «Agriculture, développement rural et environnement» du CESE.

Lors des Journées européennes de l’agroalimentaire, en décembre 2025, une réalité importante a été mise au jour: Sur plus de 400 participants rassemblés pour débattre de l’avenir de l’agriculture numérique, seuls six étaient des agriculteurs, et deux d’entre eux utilisaient une solution numérique pour gérer leur exploitation. Ce constat révèle une faille majeure: l’Europe ne peut pas façonner un avenir numérique de l’agriculture sans associer activement les agriculteurs à ces évolutions.

Bien que la numérisation fasse l’objet de discussions depuis des décennies, le soutien réel apporté sur le terrain reste circonscrit. Dans le cadre de l’actuelle politique agricole commune (PAC) de l’UE pour la période 2023-2027, on estime que seules 3 à 4 % des exploitations agricoles de l’Union pourront bénéficier d’un financement spécifiquement axé sur les technologies agricoles numériques. Même en incluant les mesures de modernisation des exploitations agricoles au sens large, ce chiffre n’atteint que 7,6 % environ.

Il faut aussi opérer une nette distinction entre l’utilisation d’outils numériques de base et une véritable transformation numérique. Alors que plus de 90 % des agriculteurs utilisent au moins un outil informatique ou logiciel, ils sont nettement moins nombreux à pouvoir financer ou accéder à des technologies avancées telles que l’agriculture de précision, les capteurs ou les systèmes fondés sur l’IA. Le niveau de soutien public spécifiquement consacré à ces investissements reste faible,

et les données confirment ces manquements. Selon le Centre commun de recherche de l’UE, les logiciels de gestion d’exploitation agricole et les outils satellitaires ne sont utilisés que par un agriculteur sur cinq environ, et l’usage de drones reste négligeable dans la plupart des États membres.

Les outils numériques et l’IA peuvent rendre l’agriculture européenne plus compétitive, plus durable et plus résiliente, à condition que les agriculteurs soient connectés, soutenus et associés à l’élaboration de ces solutions. Sans eux, l’innovation numérique risque d’être cantonnée au stade d’ambition politique plutôt que de se concrétiser sur le terrain.

Stoyan Tchoukanov est le président de la section NAT du CESE depuis octobre 2025, et il est membre du CESE depuis 2020. Au sein du Comité, il représente l’Association pour l’élevage des races bovines à viande en Bulgarie, où il est également à la tête de son propre élevage bovin.

Anastasia Karagianni, de la VUB (Vrije Universiteit Brussel), explore la manière dont les technologies numériques influencent de plus en plus la manière dont les personnes sont jugées et traitées, depuis les images en ligne jusqu’à l’accès à l’emploi et aux services publics. Bien que ces systèmes soient souvent présentés comme neutres, ils peuvent renforcer les inégalités existantes et causer un préjudice réel aux communautés marginalisées, ce qui montre pourquoi la réglementation numérique de l’UE doit aller au-delà de la conformité technique et prendre au sérieux les expériences vécues par les personnes lorsqu’elles luttent contre la discrimination algorithmique.

La discrimination algorithmique désigne les systèmes automatisés produisant des résultats qui désavantagent systématiquement des groupes particuliers, non pas uniquement du fait d’«erreurs» techniques, mais en raison de la manière dont les données, les choix de conception et les schémas historiques d’inégalité façonnent la prise de décision automatique. Ces effets sont particulièrement prégnants lorsque le genre, la race, la classe, le handicap ou d’autres axes identitaires se recoupent, portant atteinte à l’égalité, à la vie privée et à la non-discrimination.

Par exemple, les filtres de beauté portent en eux-mêmes des idéaux d’attractivité normatifs, souvent eurocentriques et sexospécifiques, en «corrigeant» via des algorithmes les visages vers des tons cutanés plus légers ou des caractéristiques féminisées, ce qui affecte de manière disproportionnée les femmes et les personnes de couleur et renforce les hiérarchies existantes de valeur sociale. De même, les technologies portables intelligentes, telles que les lunettes d’IA Ray-Ban Meta, suscitent des inquiétudes quant à la surveillance, à la vie privée et aux abus sexuels fondés sur l’image, étant donné que les systèmes de vision et de parole biaisés peuvent mener à des identifications erronées parmi les groupes marginalisés et exposer les passants à un enregistrement auxquels ils n’ont pas consenti, ce qui renforce les déséquilibres de pouvoir existants dans les espaces publics.

Dans l’UE, où les systèmes numériques déterminent de plus en plus l’accès aux services publics, aux possibilités d’emploi et au soutien social, il est essentiel de remédier à ces préjudices pour protéger les droits fondamentaux et la responsabilité démocratique.

Les cadres de l’UE, tels que le règlement général sur la protection des données (RGPD) et le règlement sur l’intelligence artificielle constituent des étapes importantes vers une approche des données et des systèmes automatisés fondée sur les droits. L’accent placé par le RGPD sur la transparence, le contrôle humain et les mécanismes permettant aux personnes de contester les décisions automatisées donne à la société civile des outils pour contester les pratiques discriminatoires et exiger des acteurs tant privés que publics qu’ils rendent des comptes. Le règlement sur l’IA adopte une approche fondée sur les risques pour réglementer l’IA, avec des obligations explicites pour les systèmes à haut risque et les applications d’IA considérés comme susceptibles d’avoir une incidence significative sur les droits, la sécurité ou l’accès des personnes aux services essentiels, tels que les soins de santé ou l’emploi. Cela crée des possibilités de surveillance et de contrôle structuré des technologies susceptibles de produire des résultats préjudiciables.

Les organisations de la société civile ont joué un rôle clé dans la mise en œuvre de ces cadres. Des forums tels que le CPDP (Computer, Privacy and Data Protection Conference), le Privacy Camp et le FARI associent des militants, des chercheurs et des décideurs politiques à l’évaluation des systèmes algorithmiques et à l’élaboration des bonnes pratiques. Les succès obtenus par le réseau European Digital Rights (EDRi) et le Digital Freedom Fund (DFF) montrent comment un engagement civil durable peut améliorer les obligations de transparence, renforcer l’application de la législation et élargir la compréhension par le public des préjudices numériques. Ces initiatives montrent que la réglementation de l’UE peut donner des moyens d’action à la société civile, en favorisant des approches participatives de la réglementation plutôt qu’en laissant le contrôle aux seuls acteurs étatiques ou institutionnels.

Malgré ces évolutions positives, d’importantes lacunes subsistent, qui limitent la capacité de la réglementation de l’UE à lutter de manière globale contre la discrimination structurelle et les dommages algorithmiques. La nature du système de classification des risques du règlement sur l’IA est au cœur de cette critique. Le fait que ledit règlement s’appuie sur un modèle descendant, dans lequel les régulateurs prédéfinissent des catégories de systèmes à haut risque, laisse peu de place à l’identification ascendante des dommages émergents découverts grâce à l’expérience vécue ou au suivi mené par la société civile. Une fois les systèmes déployés, seuls des mécanismes limités permettent aux communautés touchées de déclencher des réévaluations des risques ou d’exiger des mesures correctives en dehors de catégories prédéfinies.

La proposition de règlement omnibus sur le numérique illustre une autre tendance inquiétante. En permettant aux fournisseurs de systèmes d’IA de s’enregistrer et de déterminer si leur technologie peut être considérée comme étant à haut risque, la proposition risque de déléguer des jugements réglementaires critiques aux acteurs mêmes dont les intérêts commerciaux peuvent entrer en conflit avec la sécurité publique et la protection des droits.

Même lorsque des obligations d’atténuation des biais (efforts visant à réduire la discrimination dans les systèmes d’IA) existent, elles nécessitent souvent le traitement de données sensibles. Pourtant, les caractéristiques liées au genre et aux personnes LGBTQIA+, telles que les identités non binaires, transgenres ou intersexuées, ne sont souvent pas reconnues comme des catégories protégées et restent donc insuffisamment protégées. Cela crée des angles morts dans la compréhension de la manière dont les systèmes d’IA peuvent renforcer les formes de discrimination qui se chevauchent.

Ces lacunes deviennent plus évidentes avec les dommages émergents, tels que les hypertrucages sexualisés. S’il est probable que ces technologies relèvent des pratiques interdites par l’article 5, le texte réglementaire laisse subsister une ambiguïté quant à son application et sa classification connexe. En l’absence d’obligations claires imposant aux plateformes de prévenir les abus fondés sur des images et la diffusion de trucages vidéo ultra-réalistes ou d’y remédier, les victimes peuvent être confrontées à de graves limitations quant à de possibles recours juridiques, malgré des atteintes substantielles à leur vie privée, à leur dignité et à leur sécurité.

Une autre limitation réside dans les obligations de normalisation, qui ne s’appliquent qu’aux systèmes d’IA à haut risque. Il en résulte que de vastes pans de technologies largement déployées, y compris l’IA générative et les applications de modération des contenus, ne sont pas assortis de garanties systématiques en matière de sécurité, d’équité et de discrimination. Pour la société civile, cela signifie que de nombreux systèmes discriminatoires ou préjudiciables ne font jamais l’objet d’évaluations solides en ce qui concerne leur conformité ou leur redevabilité.

Enfin, la manière dont le droit de l’Union traite l’intersectionnalité — l’idée selon laquelle les personnes peuvent être confrontées à des formes de discrimination qui se chevauchent — montre que les réglementations actuelles ne reflètent pas toujours les réalités vécues par les individus. Si la directive sur la lutte contre la violence à l’égard des femmes et la violence domestique (directive sur les violences sexistes) introduit la notion de «discrimination intersectionnelle», son champ d’application pratique reste limité par son texte-même. Elle ne tient pas non plus pleinement compte des préoccupations des communautés LGBTQIA+ quant à l’ensemble de la politique de l’Union en matière d’égalité. L’analyse académique du règlement sur l’IA montre que les références à l’«égalité de genre» sont peu nombreuses et qu’une terminologie inclusive pour les différentes identités de genre fait largement défaut. En conséquence, le cadre réglementaire reste ancré dans des conceptions binaires du genre.

Ces critiques mettent en évidence une question plus large: le simple respect des garanties procédurales ne suffit pas à lutter contre la discrimination algorithmique dans la société. Ce qui est nécessaire, ce sont des approches qui s’inspirent des expériences des citoyens et identifient les préjudices à un stade précoce, des évaluations qui examinent la manière dont les différentes formes de discrimination se chevauchent, et un contrôle participatif qui associe de manière significative la société civile à la prise de décision. Des outils tels que des analyses d’impact tenant compte de la dimension de genre et des cadres d’évaluation communautaires qui impliquent de tester des systèmes de détection des biais et d’écouter les utilisateurs concernés peuvent contribuer à garantir que la réglementation protège effectivement les personnes les plus vulnérables des dommages algorithmiques. En l’absence de tels mécanismes, la réglementation numérique de l’Union risque de consacrer une approche «neutre» qui masque les inégalités auxquelles les personnes sont confrontées dans la vie quotidienne, au lieu de les affronter.

Anastasia Karagianni est doctorante au sein du groupe de recherche «Droit, science, technologie et société» (LSTS) de la faculté de droit et de criminologie de la Vrije Universiteit Brussel (VUB) et une ancienne  chercheuse FARI. Sa thèse porte sur les «divergences de discrimination entre les hommes et les femmes dans le règlement de l’UE sur l’IA, sous l’angle des épistémologies féministes et des controverses épistémiques». Elle a été chercheuse invitée à l’équipe de recherche iCourts de l’université de Copenhague et au Centre commun de recherche de la Commission européenne à Séville, ainsi que professeure invitée à l’Institut ITACA de l’Universitat Politèchnica de València.