Biometrično prepoznavanje za sledenje, nadzorovanje in odkrivanje čustev ne bi smelo biti dovoljeno v evropskem pristopu k umetni inteligenci, osredotočeni na človeka, je napisal EESO v mnenju o beli knjigi Evropske komisije o umetni inteligenci, ki ga je sprejel na julijskem plenarnem zasedanju.

Evropska komisija meni, da bi bilo treba aplikacijo umetne inteligence obravnavati kot aplikacijo z visokim tveganjem, če vključuje sektor z visokim tveganjem (zdravstvo, promet, energija in deli javnega sektorja) in uporabo z visokim tveganjem, z nekaterimi izjemami, ki jih je treba še opredeliti. O umetni inteligenci z visokim tveganjem bi lahko govorili le, če bi bila ta pogoja izpolnjena, zanjo pa bi veljale posebne uredbe in strukture upravljanja.

EESO meni, da taka opredelitev lahko povzroči nevarne vrzeli.

Poročevalka za mnenje Catelijne Muller kot primer navaja politično oglaševanje na Facebooku. „Oglaševanje je sektor z nizkim tveganjem. Funkcija združevanja novic na Facebooku se tako lahko šteje za uporabo z nizkim tveganjem. Med volilnimi kampanjami pa smo bili priča, da ima lahko širjenje lažnih novic in globokih ponaredkov, ustvarjenih s pomočjo umetne inteligence, po Facebooku številne negativne posledice in lahko vpliva na to, kako ljudje volijo, pri čemer prihaja tudi do vmešavanja iz tujine.“

EESO meni, da bi bilo bolje pripraviti seznam skupnih značilnosti, ki se ne glede na sektor same po sebi štejejo za visoko tvegane.

Vztraja, da bi bilo treba prepovedati uporabo biometričnega prepoznavanja na podlagi umetne inteligence tudi za nadzorovanje, spremljanje, ocenjevanje ali kategoriziranje človeškega vedenja ali čustev. Catelijne Muller pri tem poudarja, da jo je treba prepovedati tudi zato, ker ni znanstveno dokazano, da lahko na podlagi tako pridobljenih biometričnih podatkov ugotovimo, kaj nekdo čuti.

EESO poleg tega svari pred nenadzorovanim razmahom tehnologije za spremljanje in sledenje, ki v boju proti koronavirusu prodira v našo družbo.

Catelijne Muller meni, da bi morale biti vse tehnike in pristopi v boju proti pandemiji tako robustni, učinkoviti, pregledni in razložljivi kot katere koli druge tehnike umetne inteligence za katero koli drugo situacijo. Spoštovati bi morali človekove pravice, etična načela in zakonodajo. Prav tako bi morali biti prostovoljni, saj bo veliko tehnik, ki so bile uvedene med krizo, postalo trajnih. (dm)