EKES proponuje wprowadzenie certyfikatów UE dla godnych zaufania produktów SI

EKES proponuje, by UE opracowała certyfikat godnej zaufania sztucznej inteligencji wydawany przez niezależny organ po przetestowaniu zgodności produktów z kluczowymi wymogami takimi jak odporność, bezpieczeństwo oraz brak uprzedzeń, dyskryminacji czy też stronniczości. Propozycja ta została przedstawiona w dwóch ostatnich opiniach EKES-u oceniających wytyczne Komisji Europejskiej w zakresie etyki dotyczące sztucznej inteligencji.

EKES uważa, że certyfikacja przyczyniłaby się w znacznym stopniu do zwiększenia zaufania publicznego do SI w Europie. Niektórzy podkreślają, że algorytmy muszą być możliwe do wyjaśnienia, by ludzie mogli ufać zastosowaniom SI. Szkopuł w tym, że systemy SI i uczenie maszynowe są tak złożone, że nawet osoby je opracowujące nie są w stanie przewidzieć wyniku ich działania i muszą opracowywać narzędzia testujące, by poznać ich granice.

EKES proponuje, by niezależny organ – agencja, konsorcjum lub inny podmiot, który zostanie wyznaczony – zajmował się testowaniem systemów pod kątem wolności od uprzedzeń, dyskryminacji i tendencyjności, a także odporności, solidności i szczególnie bezpieczeństwa. Przedsiębiorstwa mogą wykorzystać certyfikat, by udowodnić, że opracowują bezpieczne i wiarygodne systemy SI zgodne z europejskimi wartościami i standardami.

Produkty SI można porównać do leków – stwierdziła Franca Salis-Madinier, sprawozdawczyni ogólnej opinii w sprawie komunikatu Komisji Europejskiej. Leki mogą być korzystne, lecz również niebezpieczne. Przed wprowadzeniem do obrotu wymagają certyfikacji. Producenci muszą udowodnić, że przeprowadzili wystarczająco dużo prób i testów w celu zapewnienia korzyści z danego produktu leczniczego. To samo podejście należy przyjąć w odniesieniu do maszyn SI.

EKES podkreśla również, że potrzebne są jasne przepisy dotyczące odpowiedzialności. Odpowiedzialność musi być zawsze powiązana z osobą albo fizyczną, albo prawną.. Maszyny nie ponoszą odpowiedzialności za awarie – stwierdził Ulrich Samm, sprawozdawca opinii EKES-u w sprawie SI i skutków wytycznych dla sektora motoryzacyjnego. EKES podkreśla, że możliwość ubezpieczania systemów SI jest kolejną kwestią, którą należy potraktować priorytetowo. (dm)