Kunstmatige intelligentie: het EESC dringt aan op EU-wetgeving die veilige grenzen stelt aan risicovolle toepassingen

Biometrische herkenning voor het volgen, bewaken en opsporen van emoties hoort niet thuis in Europa's mensgerichte aanpak van kunstmatige intelligentie (KI), aldus het Europees Economisch en Sociaal Comité (EESC) in zijn advies dat een reactie is op het Witboek van de Europese Commissie over KI en dat op 16 juli jl. door de voltallige vergadering van het EESC is goedgekeurd.

De Europese Commissie heeft voorgesteld om een KI-toepassing als risicovol te beschouwen als het gaat om zowel een risicovolle sector (gezondheidszorg, vervoer, energie en delen van de publieke sector) als een risicovol gebruik, op enkele nog te definiëren uitzonderingen na. Alleen als aan deze twee voorwaarden is voldaan, stelt de Commissie voor om te spreken over risicovolle KI, die onder specifieke regelgeving en governancestructuren zou vallen.

Het EESC is van mening dat deze definitie het risico met zich meebrengt dat er in de wetgeving potentieel gevaarlijke mazen in het net blijven bestaan. De politieke reclame op Facebook is hiervan een goed voorbeeld, aldus het Comité.

Reclame is een sector met een laag risico en de nieuwsaggregatiefunctie van Facebook kan worden beschouwd als een gebruik met een laag risico. Tijdens verkiezingscampagnes hebben we echter gezien dat de verspreiding over Facebook van nepnieuws en deepfakes die met behulp van KI worden gegenereerd, veel negatieve effecten kan hebben en de manier waarop mensen stemmen kan beïnvloeden. Zelfs inmenging van buiten Europa is niet uitgesloten, legt Catelijne Muller, rapporteur van het advies, uit.

Moeten er in dit verband uitzonderingen in overweging worden genomen, en hoeveel moeten dat er dan zijn? In plaats van een lijst met uitzonderingen op te stellen, is het EESC van mening dat er beter een lijst kan worden opgesteld van gemeenschappelijke kenmerken die als risicovol moeten worden beschouwd, ongeacht de sector.

Veel toepassingen hebben een grote invloed op de grondrechten, benadrukt mevrouw Muller, niet alleen wat betreft de privacy van mensen, maar ook hun recht om bijv. te demonstreren of lid te worden van een vakbond.

De schaduwzijde van biometrische herkenning

Gezichts- en biometrische herkenning is een belangrijk gebied waarop KI raakt aan de grondrechten. Het gebruik van KI kan worden toegestaan voor persoonlijke identificatiedoeleinden - en wordt inderdaad geregeld door de algemene verordening gegevensbescherming.

Maar het wijdverbreide gebruik van KI-gestuurde biometrische herkenning voor bewaking of voor het opsporen, beoordelen of categoriseren van menselijk gedrag of emoties moet worden verboden. Temeer daar er geen enkel wetenschappelijk bewijs is dat de gevoelens van een persoon kunnen worden begrepen op basis van zijn of haar biometrische gegevens, benadrukt mevrouw Muller.

Track- en trace-apps voor COVID-19

Het EESC waarschuwt ook voor een ongecontroleerde golf van track- en trace-technologieën die veel sneller en veel minder behoedzaam dan voorheen in onze samenleving worden ingezet om de uitbraak van het coronavirus te bestrijden.

KI-technieken en -benaderingen om de pandemie te bestrijden moeten net zo robuust, doeltreffend, transparant en verklaarbaar zijn als elke andere KI-techniek in elke andere situatie, aldus de EESC-rapporteur. Zij moeten de mensenrechten, de ethische beginselen en de wetgeving in acht nemen. Ze moeten ook vrijwillig worden toegepast want, of we het nu leuk vinden of niet, veel technieken die tijdens de crisis zijn ingevoerd, zullen een permanent karakter krijgen.

Het EESC hoopt dat de Commissie zijn standpunt zal meenemen, zoals zij heeft gedaan met de aanbevelingen die het Comité heeft gedaan in zijn baanbrekende advies over KI in 2017, waarin voor het eerst werd gepleit voor een "human in command"-aanpak van KI in Europa.

Achtergrond

In het Witboek over KI,, dat deel uitmaakt van een uitgebreid pakket KI-maatregelen dat werd aangekondigd in de mededeling van de Europese Commissie De digitale toekomst van Europa vormgeven, worden voorstellen geformuleerd m.b.t.:

·         maatregelen om het onderzoek te stroomlijnen, de samenwerking tussen de lidstaten te bevorderen en investeringen in KI te stimuleren;

·         beleidsopties voor een toekomstig EU-regelgevingskader voor KI, met bijzondere aandacht voor risicovolle toepassingen.

In februari 2020 heeft de Commissie een openbare raadpleging over het witboek gehouden, die tot 14 juni heeft geduurd en waarbij meer dan 1 200 antwoorden op de vragenlijsten en zo'n 700 schriftelijke reacties zijn ontvangen. De Commissie is momenteel bezig met de verwerking van die input en zal binnenkort met een verslag komen.

In de mededeling De digitale toekomst van Europa vormgeven worden de acties uiteengezet die de Europese Commissie wil ondernemen om te zorgen voor een Europa dat klaar is voor het digitale tijdperk, een van de topprioriteiten die Ursula von der Leyen zich voor haar mandaatsperiode als Commissievoorzitter heeft gesteld. Een en ander is gebaseerd op drie belangrijke pijlers:

·           technologie waar mensen baat bij hebben;

·           een eerlijke en concurrerende digitale economie;

·           een open, democratische en duurzame samenleving.

Het EESC heeft zich over "De digitale toekomst van Europa vormgeven" uitgesproken in een apart advies, dat ook tijdens de EESC-zitting van juli is goedgekeurd, met één belangrijke aanbeveling:

Alleen al de snelheid van de digitale transformatie maakt dat we niet weten welke nieuwe ontwikkelingen zich volgende maand zullen voordoen. We moeten daarom flexibel zijn en ons kunnen aanpassen. Dit vereist een constante dialoog tussen alle betrokken partijen. Het EESC, als spreekbuis van het maatschappelijk middenveld, moet hier deel van uitmaken, en we vragen de Commissie dan ook om een dergelijke permanente dialoog op te zetten, aldus Ulrich Samm, rapporteur van het advies.