EHSV navrhuje zaviesť certifikáciu EÚ pre dôveryhodné produkty umelej inteligencie

EHSV navrhuje, aby EÚ vypracovala systém certifikácie pre dôveryhodnú umelú inteligenciu, ktorú by zabezpečoval nezávislý orgán na základe testovania hlavných požiadaviek na výrobky, ako sú odolnosť, bezpečnosť a absencia predsudkov, diskriminácie alebo zaujatosti. Tento návrh bol predložený v dvoch nedávnych stanoviskách EHSV, v ktorých sa hodnotia etické usmernenia Európskej komisie o umelej inteligencii.

EHSV sa domnieva, že takáto certifikácia by viedla k zvýšeniu dôvery verejnosti v umelú inteligenciu v Európe. Hoci niektorí ľudia tvrdia, že na to, aby ľudia verili umelej inteligencii, musia byť algoritmy vysvetliteľné, skutočnosť je taká, že systémy umelej inteligencie a strojové učenie sú takou komplexnou záležitosťou, že ani tí, ktorí ich vyvíjajú, vlastne úplne presne nevedia, aký bude výsledok, a musia vyvíjať nástroje na testovanie, aby zistili, kde sú ich hranice.

EHSV navrhuje poveriť testovaním nezávislý orgán, teda agentúru, konzorcium alebo inú zatiaľ bližšie neurčenú inštanciu, ktorá by testovala systém z hľadiska predsudkov, diskriminácie, zaujatosti, odolnosti, spoľahlivosti a predovšetkým bezpečnosti. Spoločnosti by mohli používať tento certifikát ako dôkaz, že vyvíjajú systémy umelej inteligencie, ktoré sú bezpečné, spoľahlivé a v súlade s európskymi hodnotami a normami.

Systémy umelej inteligencie sa dajú porovnať s liekmi,“ povedala Franca Salis-Madinier, spravodajkyňa všeobecného stanoviska EHSV k oznámeniu Komisie. „Lieky môžu byť prospešné, ale aj nebezpečné, a preto sa pred tým, ako sa uvedú na trh, musia certifikovať. Výrobcovia musia preukázať, že vykonali dostatočné skúšanie a testovanie, aby sa zabezpečilo, že je výrobok prospešný. Rovnako by sme sa mali postaviť aj k strojom s umelou inteligenciou.“

EHSV tiež zdôrazňuje, že sú potrebné jasné pravidlá, pokiaľ ide o zodpovednosť. Zodpovednosť musí vždy niesť osoba, či už fyzická alebo právnická. Stroje nemožno brať na zodpovednosť v prípade zlyhania,“ uviedol Ulrich Samm, spravodajca stanoviska EHSV o umelej inteligencii a vplyve usmernení na automobilový priemysel. EHSV zdôraznil, že otvorenou otázkou, ktorou je potrebné sa prioritne zaoberať, je aj poistiteľnosti systémov umelej inteligencie. (dm)