ЕИСК предлага да се въведе сертифициране на ЕС за надеждност на продуктите с ИИ

ЕИСК предлага ЕС да разработи сертификат за продукти с надежден изкуствен интелект (ИИ), който да бъде издаван от независим орган след изпитване на продуктите дали отговарят на ключови изисквания като устойчивост, безопасност и липса на предразсъдъци, дискриминация или пристрастие. Предложението беше направено в две неотдавнашни становища на ЕИСК, в които се оценяват етичните насоки на Европейската комисия относно ИИ.

ЕИСК счита, че това сертифициране ще допринесе много за повишаване на общественото доверие в ИИ в Европа. Макар според някои за да имат хората доверие в приложенията с ИИ, е необходимо алгоритмите да могат да се обяснят, факт е, че системите с ИИ и машинното самообучение са толкова сложни, че дори хората, които ги развиват, не знаят какъв ще бъде техният резултат с точност и трябва да разработят инструменти за изпитване, за да се разбере какви са техните ограничения.

ЕИСК предлага проверката да се възложи на независим орган — агенция, консорциум или друг орган — който да тества системите за предразсъдъци, дискриминация, предубеденост, устойчивост, стабилност и особено безопасност. Дружествата биха могли да използват сертификата, за да докажат, че разработват системи с ИИ, които са безопасни, надеждни и в съответствие с европейските ценности и стандарти.

Продуктите с ИИ могат да бъдат сравнявани с лекарствените продукти“, заяви г-жа Франка Салис-Мадиние, докладчик по общото становище на ЕИСК относно съобщението на Европейската комисия. „Лекарствата могат да бъдат полезни, но и опасни, и преди да бъдат пуснати на пазара, трябва да бъдат сертифицирани. Производителите трябва да докажат, че са извършили достатъчно изпитвания, за да гарантират, че продуктът им е полезен. Същият подход следва да бъде възприет и по отношение на машините с ИИ.“

ЕИСК подчертава и необходимостта от ясни правила относно отговорността. Отговорността трябва винаги да бъде свързана с физическо или юридическо лице. В случай на неуспех не може да се търси отговорност от машини“, казва Улрих Зам, докладчик по становището на ЕИСК относно ИИ и въздействието на насоките върху автомобилния сектор. ЕИСК подчертава, че друг въпрос, който трябва да бъде разгледан приоритетно, е възможността за застраховане на системите с ИИ. (dm)