Kunstig intelligens (AI) i Europa: Ikke alle afgørelser kan reduceres til ettaller og nuller

EØSU opfordrer i to rapporter vedrørende forslag til EU-lovgivning om kunstig intelligens til et generelt forbud mod sociale pointsystemer og til oprettelse af en klage- og søgsmålsmekanisme for personer, der har lidt skade som følge af et AI-system.

EØSU udtrykte på plenarforsamlingen i september tilfredshed med forslagene til retsakten om kunstig intelligens og en koordineret plan for kunstig intelligens.

EØSU er af den opfattelse, at den nye lovgivning reelt sætter sundhed, sikkerhed og grundlæggende rettigheder i centrum og skaber global genlyd ved at opstille en række krav, som udviklere både i og uden for Europa skal efterkomme, hvis de ønsker at afsætte deres produkter i EU.

Forslagene frembyder efter EØSU's opfattelse visse svagheder, herunder på området "sociale pointsystemer". Udvalget fremhæver faren ved, at denne praksis vinder indpas i Europa, således som det sker i Kina, hvor myndighederne kan gå så vidt som til at nægte folk adgang til offentlige tjenester.

Forslaget til retsakt om kunstig intelligens indeholder godt nok et forbud mod, at europæiske offentlige myndigheder anvender sociale pointsystemer, men EØSU så gerne forbuddet udvidet til at omfatte private og halvprivate organisationer for f.eks. at udelukke anvendelser, der tjener til at fastslå, om en person er berettiget til et lån, herunder lån med pant i fast ejendom.

EØSU gør endvidere opmærksom på faren ved at opstille en liste over højrisiko-AI-systemer og advarer om, at en sådan tilgang kan normalisere og mainstreame et ret så stort antal AI-metoder, som fortsat er under kraftig kritik. Biometrisk genkendelse, herunder emotions- eller affektgenkendelse, hvor en persons mimik, tonefald, holdning og gestik analyseres med henblik på at forudsige fremtidig adfærd, afdække løgne og ligefrem se, om en person kan tænkes at være i stand til at bestride et job, ville være tilladt. Det samme ville gælde bedømmelse og rating for ikke at tale om afskedigelse af arbejdstagere på basis af kunstig intelligens, eller bedømmelse af elever og studerende ved eksaminer.

Hertil kommer, at de foreslåede krav til højrisiko-AI-systemer ikke altid kan modvirke de skader på sundhed, sikkerhed og grundlæggende rettigheder, som disse metoder kan forårsage. Der er derfor behov for at indføre en klage- og søgsmålsmekanisme, der vil give personer, som har lidt skade som følge af AI-systemer, ret til at modsætte sig afgørelser, der alene er truffet på basis af en algoritme.

Ifølge EØSU er retsakten om kunstig intelligens mere generelt baseret på den antagelse, at kunstig intelligens – når kravene til mellem- og højrisiko-AI-systemer er opfyldt – i vid udstrækning kan erstatte menneskelig beslutningstagning.

Ordføreren for EØSU's udtalelse om forslaget til retsakt om kunstig intelligens, Cateljine Muller, anfører, at EØSU altid har slået til lyd for en tilgang til kunstig intelligens, hvor mennesket bevarer kontrollen (human-in-command), eftersom ikke alle afgørelser kan reduceres til ettaller og nuller, og at mange afgørelser rummer et etisk element og har alvorlige retlige konsekvenser og betydelige samfundsmæssige følger, f.eks. med hensyn til retshåndhævelse og retsvæsen, sociale tjenester, boligforhold, finansielle tjenester, uddannelse og arbejdsmarkedsregulering. Hun stiller endvidere spørgsmålet, om vi virkelig er klar til at lade kunstig intelligens træde i stedet for menneskelig beslutningstagning selv i meget vigtige processer som f.eks. inden for retshåndhævelse og retsvæsen. (dm)