Biometrické rozpoznávanie na účely dohľadu, sledovania a zisťovania emócií by nemalo mať miesto v európskom prístupe k umelej inteligencii zameranej na človeka, uvádza EHSV vo svojej reakcii na bielu knihu o umelej inteligencii Európskej komisie prijatej na svojom júlovom plenárnom zasadnutí.

Európska komisia navrhuje, aby sa aplikácia umelej inteligencie považovala za vysokorizikovú vtedy, ak sa používa v sektore s vysokým rizikom (zdravotníctvo, doprava, energetika a časti verejného sektora) a zároveň spôsobom, ktorý predstavuje vysoké riziko, a to až na niektoré výnimky, ktoré ešte treba stanoviť. Iba ak sú splnené obe tieto podmienky, mali by sme hovoriť o vysokorizikovej umelej inteligencii, ktorá by patrila do rozsahu pôsobnosti osobitných nariadení a riadiacich štruktúr.

EHSV je presvedčený, že pri takomto vymedzení hrozí, že vzniknú potenciálne nebezpečné medzery v právnych predpisoch.

„Ako príklad si zoberte politickú reklamu na Facebooku“, argumentuje spravodajkyňa stanoviska Catelijne Muller. „Reklama je sektor s nízkym rizikom a funkciu agregácie správ na Facebooku možno považovať za sektor s nízkym rizikom. Počas predvolebných kampaní sme však videli, že šírenie fake news a deepfakes generovaných pomocou umelej inteligencie na Facebooku môže mať mnoho negatívnych účinkov a môže ovplyvniť to, ako ľudia hlasujú, pričom vylúčiť nemožno ani zásahy z mimoeurópskych krajín.

EHSV je presvedčený, že lepším riešením by bol zoznam spoločných charakteristík, ktoré by sa považovali za vysokorizikové bez ohľadu na sektor.

Podľa EHSV by sa malo zakázať aj biometrické rozpoznávanie na základe umelej inteligencie na vykonávanie dohľadu, sledovania, na hodnotenie alebo kategorizovanie ľudského správania alebo emócií. Dôvodom je najmä to, že nie je vôbec vedecky dokázané, že pocity človeka možno rozlíšiť na základe jeho biometrických údajov, zdôrazňuje Catelijne Muller.

EHSV tiež varuje pred nekontrolovaným šírením technológií na sledovanie a monitorovanie pohybu, ktoré sa dnes udomácňujú v našej spoločnosti oveľa rýchlejšie v snahe zabrániť šíreniu koronavírusu.

„Technológie a prístupy založené na umelej inteligencii, ktoré sa používajú v boji proti pandémii, by mali byť rovnako spoľahlivé, účinné, transparentné a vysvetliteľné ako akékoľvek iné technológie umelej inteligencie používané v akejkoľvek inej situácii,“ uviedla spravodajkyňa. „Mali by rešpektovať ľudské práva, etické zásady a právne predpisy. Mali by byť aj dobrovoľné, pretože či sa nám to páči alebo nie, mnohé technológie zavedené počas krízy tu zostanú s nami navždy“. (dm)