Mesterséges intelligencia: uniós jogszabályokban kell kijelölni a magas kockázatú alkalmazások biztonságos határait

Az érzelmek követésére, megfigyelésére és érzékelésére alkalmazott biometrikus azonosításnak nincs helye a mesterséges intelligencia (MI) emberközpontú európai megközelítésében, hangsúlyozza az EGSZB az Európai Bizottság MI-ről szóló fehér könyvére adott, az EGSZB júliusi plenáris ülésén elfogadott válaszában.

Az Európai Bizottság javaslata szerint a mesterséges intelligenciát akkor kell magas kockázatúnak tekinteni, ha magas kockázatú ágazatban használják (egészségügy, közlekedés, energiaügy és a közszféra bizonyos részei) és használata jelentős kockázatot jelent, eltekintve néhány még meghatározandó kivételtől. Csak akkor beszélhetünk magas kockázatú MI-ről, ha mindkét feltétel teljesül. Ezekre az alkalmazásokra specifikus szabályok és irányítási struktúrák vonatkoznak.

Az EGSZB szerint ebből a meghatározásból potenciálisan veszélyes hiányosságok adódhatnak.

„Gondoljunk csak a politikai hirdetésekre a Facebookon” – kezdi érvelését Catelijne Muller, a vélemény előadója. „A reklám egy alacsony kockázatú ágazat, és a Facebook híraggregátor funkciója alacsony kockázatú felhasználásnak tekinthető. Választási kampányok során azonban azt láttuk, hogy az MI segítségével gyártott álhírek és mélykamuk terjedése a Facebookon sok negatív hatással járhat, és befolyásolhatja, hogyan szavaznak az emberek. Még Európán kívülről is történt beavatkozás.”

Az EGSZB úgy véli, hogy jobb lenne összeállítani azoknak a közös jellemzőknek a jegyzékét, amelyek ágazattól függetlenül magas kockázatúnak minősülnek.

Az EGSZB kitart amellett, hogy a mesterséges intelligencia által vezérelt biometrikus azonosítás emberi viselkedés vagy érzelmek megfigyelésére, követésére, értékelésére vagy kategorizálására történő felhasználását is meg kell tiltani. Annál is inkább, mivel nincs tudományos bizonyíték arra, hogy biometrikus adataik alapján fel tudjuk ismerni az emberek érzelmeit, hangsúlyozza Catelijne Muller.

Az EGSZB óva int továbbá attól, hogy a követési és felkutatási technológiák ellenőrizetlenül elterjedjenek társadalmainkban a koronavírus-járvány elleni küzdelem jegyében.

„A világjárvány elleni küzdelmet szolgáló MI-technológiák és megközelítések ugyanolyan megbízhatóak, hatékonyak, átláthatóak és indokolhatóak kell, hogy legyenek, mint a bármely más helyzetben alkalmazott egyéb MI-technológiák” – szögezi le Catelijne Muller. „Tiszteletben kell tartaniuk az emberi jogokat, az etikai alapelveket és a jogszabályokat. Emellett csak önkéntes alapon szabad alkalmazni őket, mivel – akár tetszik, akár nem – sok olyan technológiával, amelyet a válság idején vezettek be, tartósan meg kell tanulnunk élni.” (dm)