EHSV ve svém stanovisku k bílé knize Evropské komise o umělé inteligenci, které přijal na svém červencovém plenárním zasedání, konstatuje, že biometrické rozpoznávání pro účely sledování, dohledu a vyhodnocování emocí nemají v konceptu evropské umělé inteligence zaměřené na člověka místo.

Evropská komise navrhla, aby byla určitá aplikace umělé inteligence považována za vysoce rizikovou, pokud by měla být používána ve vysoce rizikovém odvětví (zdravotnictví, dopravě, energetice a některých oblastech veřejného sektoru) a zároveň by byl způsob jejího používání vysoce rizikový – s několika výjimkami, které bude třeba definovat. Pouze v případě, že jsou splněny obě tyto podmínky, bychom měli hovořit o vysoce rizikové umělé inteligenci, která by spadala pod zvláštní předpisy a správní struktury.

EHSV se domnívá, že tato definice s sebou nese riziko vytvoření potenciálně nebezpečných mezer.

„Vezměme si politickou reklamu na Facebooku,“ argumentovala zpravodajka Catelijne Muller. „Reklama je odvětví s nízkým rizikem a rovněž funkci agregace zpráv na Facebooku lze považovat za způsob použití s nízkým rizikem. Během volebních kampaní jsme však byli svědky toho, že šíření falešných zpráv a hlubokých dezinformací generovaných pomocí umělé inteligence na Facebooku může mít řadu negativních dopadů a ovlivňovat hlasování lidí, a to i v případě interferencí pocházejících ze zemí mimo Evropu.“

EHSV se domnívá, že by bylo lepší sestavit seznam společných charakteristik, které by měly být považovány za vysoce rizikové bez ohledu na odvětví.

Také zdůrazňuje, že biometrické rozpoznávání řízené umělou inteligencí pro účely dohledu nebo sledování, vyhodnocování či kategorizace lidského chování nebo emocí by mělo být rovněž zakázáno. Zpravodajka Catelijne Muller zdůraznila, že to platí tím spíše, že neexistují žádné vědecké důkazy o tom, že dokážeme rozpoznat pocity člověka na základě biometrie.

EHSV dále varuje před nekontrolovaným vzestupem technologií pro sledování a zjišťování pohybu osob, které se šíří v naší společnosti v rámci boje proti koronavirové pandemii.

„Techniky a postupy využívající umělou inteligenci k boji proti pandemii by měly být spolehlivé, účinné, transparentní a vysvětlitelné stejně jako jakékoliv další techniky využívající umělou inteligenci v kterékoliv jiné situaci,“ dodala Catelijne Muller. „Měly by respektovat lidská práva, etické zásady a stávající právní předpisy. Měly by být rovněž dobrovolné, protože – ať se nám to líbí, nebo ne – řada technik zavedených během krize zde zůstane natrvalo.“ (dm)