EHSV navrhuje, aby bylo vytvořeno osvědčení EU pro důvěryhodnost umělé inteligence, které by vydával nezávislý orgán po otestování produktů na základní požadavky, jako je odolnost, bezpečnost a neexistence předsudků, předpojatosti nebo diskriminace. Návrh byl předložen ve dvou nedávných stanoviscích EHSV, která se zabývala hodnocením etických pokynů Evropské komise pro umělou inteligenci.

EHSV se domnívá, že toto osvědčení by výrazně přispělo ke zvýšení důvěry veřejnosti v umělou inteligenci v Evropě. Zatímco někdo trvá na tom, že lidé budou aplikacím umělé inteligence důvěřovat, pokud budou algoritmy srozumitelné, jsou ve skutečnosti systémy umělé inteligence a strojové učení tak složité, že dokonce ani ti, kdo je vyvíjejí, si nejsou zcela jisti výsledkem a musejí vytvářet testovací nástroje ke zjištění jejich omezení.

EHSV navrhuje, aby bylo toto testování svěřeno nezávislému orgánu (agentuře, konsorciu nebo jinému subjektu, který bude určen), jenž by tyto systémy testoval z hlediska předsudků, předpojatosti, diskriminace, odolnosti, spolehlivosti a zejména bezpečnosti. Podniky by mohly toto osvědčení využít k tomu, aby prokázaly, že vyvíjejí systémy umělé inteligence, jež jsou bezpečné, spolehlivé a v souladu s evropskými hodnotami a normami.

Produkty umělé inteligence je možné srovnávat s léčivými přípravky,“ řekla Franca Salis-Madinier, zpravodajka obecného stanoviska EHSV ke sdělení Evropské komise. „Léčivé přípravky mohou být prospěšné, ale také nebezpečné, a před tím, než jsou uvedeny na trh, je nutné je certifikovat. Výrobci musí prokázat, že provedli dostatečné množství zkoušek a testů, aby zajistili, že jejich výrobek bude mít pozitivní účinky. Stejný přístup by se měl uplatnit i u zařízení s umělou inteligencí.“

EHSV také zdůrazňuje, že je potřeba stanovit jasná pravidla, pokud jde o odpovědnost. Odpovědnost musí být vždy spojena s fyzickou či právnickou osobou. Stroje nelze v případě selhání činit odpovědnými,“ uvedl Ulrich Samm, zpravodaj stanoviska EHSV k dopadům pokynů pro umělou inteligenci na automobilový průmysl. EHSV zdůrazňuje, že další otázkou, kterou je třeba se prioritně zabývat, je pojistitelnost systémů umělé inteligence. (dm)