I två yttranden om förslag till EU-lagstiftning om AI efterlyser EESK ett totalförbud mot social poängsättning och en mekanism för klagomål och prövning för personer som har lidit skada av ett AI-system.

Vid sin plenarsession i september välkomnade EESK förslaget till rättsakt om artificiell intelligens och samordnad plan om artificiell intelligens.

EESC menar att den nya lagstiftningen verkligen sätter hälsa, säkerhet och grundläggande rättigheter i centrum och att den kommer att få globala återverkningar genom att en rad krav fastställs som utvecklare både i och utanför EU måste leva upp till om de vill sälja sina produkter i EU.

Enligt EESK finns det dock några svaga punkter i förslagen, bland annat på området ”social poängsättning”. Kommittén pekar på den fara det innebär om denna metod skulle få spridning i EU på samma sätt som i Kina, där staten kan gå så långt som att neka människor tillträde till offentliga tjänster.

Förslaget till rättsakt om artificiell intelligens omfattar ett förbud för offentliga myndigheter i EU att tillämpa social poängsättning, men EESK skulle vilja se att detta förbud utvidgades till att omfatta privata och halvprivata organisationer i syfte att förhindra att social poängsättning används vid t.ex. kreditprövning eller liknande.

EESK påtalar även farorna med en förteckning över AI ”med hög risk” och varnar för att en sådan förteckning skulle kunna normalisera och ge allmän spridning åt ett stort antal AI-metoder som fortfarande är kraftigt kritiserade. Biometrisk igenkänning – inklusive känsloigenkänning eller affektigenkänning genom vilken en persons ansiktsuttryck, röstläge, kroppshållning och gester analyseras för att man ska kunna förutsäga framtida beteende, upptäcka lögner och till och med se om någon förmodligen skulle vara framgångsrik på en viss post – skulle i så fall tillåtas, liksom även AI-baserad bedömning, poängsättning och till och med uppsägning av anställda samt bedömning av studerande i samband med examineringar.

Dessutom kan de föreslagna kraven på AI med hög risk inte alltid begränsa den skada på hälsa, säkerhet och grundläggande rättigheter som dessa metoder kan orsaka. Därför finns det behov av att införa en mekanism för klagomål och prövning, som ger människor som har lidit skada av AI-system rätten att bestrida beslut som har fattats enbart av en algoritm.

Rent allmänt anser EESK att det i rättsakten förutsätts att AI, när kraven på AI med medelhög och hög risk är uppfyllda, i stor utsträckning kan ersätta det mänskliga beslutsfattandet.

Föredraganden för EESK:s yttrande om rättsakten om artificiell intelligens, Cateljine Muller, menar att EESK alltid har förespråkat en human-in-command-strategi i förhållande till AI. ”Många beslut har en moralisk komponent, allvarliga rättsliga eller samhälleliga följder, till exempel för brottsbekämpning och rättsväsendet, sociala tjänster, bostäder, finansiella tjänster, utbildning och arbetsrättsliga bestämmelser. Är vi verkligen beredda att låta AI ersätta mänskligt beslutsfattande, även i mycket viktiga processer såsom inom brottsbekämpning och rättsväsendet?”, frågar sig Catelijne Muller. (dm)