EØSU foreslår, at EU udvikler en certificering for pålidelige AI-produkter, der tildeles af et uafhængigt organ, efter en afprøvning af produktet i forhold til centrale krav, som f.eks. modstandsdygtighed, sikkerhed og fravær af forudindtagethed, forskelsbehandling og bias. Forslaget er blevet fremsat i to nylige EØSU-udtalelser om Kommissionens etiske retningslinjer om AI.
EØSU mener, at en sådan certificering vil være et stort skridt i retning af at øge offentlighedens tillid til AI i Europa. Der er nogle, der mener, at for at få folk til at have tillid til AI-applikationer skal algoritmerne være forklarlige, men realiteten er, at AI-systemer og maskinindlæring er så kompleks, at selv de mennesker, der udvikler systemerne, faktisk ikke ved, hvad der vil komme ud af dem, og er nødt til at udvikle testredskaber for at finde frem til deres begrænsninger.
EØSU foreslår, at afprøvningen overlades til et uafhængigt organ – i form af et agentur, et konsortium eller andet – som skal teste systemerne for forudindtagethed, forskelsbehandling, bias, modstandsdygtighed, robusthed og især sikkerhed. Virksomhederne kan bruge certifikatet til at vise, at de udvikler AI-systemer, der er sikre, pålidelige og i overensstemmelse med europæiske værdier og standarder.
"AI-produkter kan sammenlignes med medicin", siger Franca Salis-Madinier, ordfører for EØSU's generelle udtalelse om Kommissionens meddelelse. "Medicin kan være gavnlig, men kan også være skadelig, og inden ny medicin kan markedsføres, skal den certificeres. Producenterne skal bevise, at de har foretaget tilstrækkeligt med forsøgsoperationer og afprøvninger for at sikre, at deres produkt er gavnligt. Den samme tilgang bør anlægges for AI-systemer."
EØSU fremhæver endvidere behovet for tydelige regler om ansvar. "Ansvaret skal altid være knyttet til en, enten fysisk eller juridisk, person. Maskiner kan ikke gøres ansvarlige i tilfælde af fejl", siger Ulrich Samm, ordfører for EØSU's udtalelse om AI om følgerne af retningslinjerne for bilindustrien. At AI-systemer kan forsikres, er også et spørgsmål, der skal prioriteres højt, understreger EØSU. (dm)