Biometrische herkenning voor bewaking of voor het opsporen en volgen van emoties hoort niet thuis in Europa’s mensgerichte benadering van kunstmatige intelligentie (KI), aldus het Europees Economisch en Sociaal Comité (EESC) in zijn advies dat een reactie is op het witboek van de Europese Commissie over KI en dat in juli door de voltallige vergadering van het EESC is goedgekeurd.

De Europese Commissie heeft voorgesteld om een KI-toepassing als risicovol te beschouwen als het gaat om zowel een risicovolle sector (gezondheidszorg, vervoer, energie en delen van de publieke sector) als een risicovol gebruik, op enkele nog te definiëren uitzonderingen na. Alleen als aan deze twee voorwaarden is voldaan, zou er sprake zijn van risicovolle KI, die onder specifieke regelgeving en governancestructuren zou vallen.

Het EESC is van mening dat met deze definitie potentieel gevaarlijke mazen in de wetgeving dreigen te ontstaan.

“Neem de politieke advertenties van Facebook”, zegt Catelijne Muller, rapporteur voor het advies. “Reclame is een sector met een laag risico en de nieuwsaggregatiefunctie van Facebook kan worden beschouwd als een gebruik met een laag risico. Tijdens verkiezingscampagnes hebben we echter gezien dat de verspreiding via Facebook van nepnieuws en deepfakes die met behulp van KI worden gegenereerd, veel negatieve effecten kan hebben en de manier waarop mensen stemmen kan beïnvloeden. Zelfs inmenging van buiten Europa is niet uitgesloten”.

Het EESC is van mening dat er beter een lijst kan worden opgesteld van gemeenschappelijke kenmerken die als risicovol moeten worden beschouwd, ongeacht de sector.

KI-gestuurde biometrische herkenning voor bewaking of voor het opsporen, beoordelen en categoriseren van menselijk gedrag of emoties moet worden verboden, benadrukt het EESC. Temeer daar er geen wetenschappelijk bewijs is dat de gevoelens van een persoon kunnen worden begrepen op basis van zijn of haar biometrische gegevens, benadrukt Muller.

Het EESC waarschuwt ook voor een ongebreidelde toename van de track- en trace-technologieën die in onze samenleving worden ingezet om de uitbraak van het coronavirus te bestrijden.

“KI-technieken en -toepassingen om de pandemie te bestrijden moeten net zo robuust, doeltreffend, transparant en verklaarbaar zijn als elke andere KI-techniek in elke andere situatie”, aldus Muller. “Zij moeten de mensenrechten, de ethische beginselen en de wetgeving in acht nemen. Ze moeten ook vrijwillig worden toegepast want, of we het nu leuk vinden of niet, veel technieken die tijdens de crisis zijn ingevoerd, zullen een permanent karakter krijgen”. (dm)