EGSO predlaže certifikate EU-a za pouzdane proizvode umjetne inteligencije

EGSO preporučuje da EU osmisli sustav certifikata za pouzdanu umjetnu inteligenciju koje će dodjeljivati neovisno tijelo nakon testiranja proizvoda u pogledu ključnih zahtjeva, što znači, na primjer, da proizvodi moraju biti otporni, sigurni i neutralni u smislu predrasuda, diskriminacije ili pristranosti. Prijedlog je iznesen u dvama nedavnim mišljenjima EGSO-a u kojima se ocjenjuju etičke smjernice Europske komisije za umjetnu inteligenciju.

EGSO smatra da bi takvo certificiranje uvelike pridonijelo većem povjerenju europske javnosti u umjetnu inteligenciju. Neki dionici ističu da algoritmi moraju biti shvatljivi kako bi umjetna inteligencija ulijevala povjerenje, ali činjenica je da su sustavi umjetne inteligencije i strojno učenje toliko složeni da ni ljudi koji ih razvijaju ne mogu predvidjeti ishod te moraju razviti alate za testiranje kako bi ustanovili gdje su granice tih sustava.

EGSO predlaže da se testiranje povjeri neovisnom tijelu – agenciji, konzorciju ili nekom drugom subjektu – koje bi testiralo jesu li ti sustavi neutralni u smislu predrasuda, diskriminacije ili pristranosti i jesu li otporni, pouzdani i nadasve sigurni. Poduzeća bi certifikatima mogla dokazati da razvijaju sustave umjetne inteligencije koji su sigurni, pouzdani i u skladu s europskim vrijednostima i standardima.

Proizvodi umjetne inteligencije mogu se usporediti s lijekovima“, rekla je Franca Salis-Madinier, izvjestiteljica za EGSO-ovo opće mišljenje o komunikaciji Europske komisije. „Lijekovi mogu biti korisni, ali i opasni, pa ih je prije stavljanja na tržište potrebno certificirati. Proizvođači moraju dokazati da su proveli dovoljno pokusa i testiranja kako bi mogli jamčiti da je njihov proizvod koristan. Jednak pristup trebao bi se primijeniti i na uređaje umjetne inteligencije.“

EGSO također naglašava da su potrebna jasna pravila o odgovornosti. Odgovornost uvijek mora snositi osoba, bilo fizička ili pravna. Strojevi se ne mogu pozivati na odgovornost u slučaju pogreške“, izjavio je Ulrich Samm, izvjestitelj za EGSO-ovo mišljenje o implikacijama smjernica za automobilsku industriju. Pitanje osiguranja za sustave umjetne inteligencije također je potrebno što prije ispitati, naglašava EGSO. (dm)