Kahdessa asiakirjassa, jotka koskevat tekoälyä käsittelevää EU:n lainsäädäntöehdotusta, ETSK kehottaa kieltämään kattavasti sosiaalisen pisteytyksen ja ottamaan käyttöön valitus- ja oikeussuojamekanismin niitä varten, joille on koitunut haittaa tekoälyjärjestelmästä.
Syyskuun täysistunnossaan ETSK suhtautui myönteisesti tekoälysäädökseen ja koordinoituun tekoälysuunnitelmaan.
ETSK katsoo, että uudessa lainsäädännössä asetetaan terveys, turvallisuus ja perusoikeudet keskeiseen asemaan ja että se vaikuttaa maailmanlaajuisesti asettamalla useita vaatimuksia, joita teknologian kehittäjien sekä Euroopassa että sen ulkopuolella on noudatettava, jos ne haluavat myydä tuotteitaan EU:ssa.
ETSK:n mukaan ehdotuksissa on eräitä heikkouksia muun muassa ”sosiaalisen pisteytyksen” osalta. Komitea korostaa tämän Euroopassakin leviävän käytännön riskejä – Kiinassa hallitus voi mennä niin pitkälle, että joiltakin ihmisiltä evätään pääsy julkisiin palveluihin.
Ehdotus tekoälysäädökseksi sisältää julkisten viranomaisten harjoittaman sosiaalisen pisteytyksen kieltämisen Euroopassa, mutta ETSK toivoo, että kieltoa laajennettaisiin yksityisiin ja puoliyksityisiin organisaatioihin, jotta pisteytystä ei voitaisi käyttää esimerkiksi harkittaessa, onko henkilö oikeutettu lainaan tai asuntolainaan.
ETSK varoittaa myös suuririskisten tekoälyjärjestelmien luetteloimisen riskeistä, koska tällainen lähestymistapa voi johtaa monien sellaisten tekoälykäytäntöjen normalisoimiseen ja valtavirtaistamiseen, joita kritisoidaan edelleen ankarasti. Biometrinen tunnistaminen, mukaan lukien tunteiden ja tunnereaktioiden tunnistaminen, jossa henkilön kasvonilmeitä, äänensävyä, asentoa ja eleitä analysoidaan tulevan käyttäytymisen ennustamiseksi, valheiden havaitsemiseksi ja jopa sen selvittämiseksi, onnistuisiko joku tietyssä työssä, sallittaisiin. Samoin sallittaisiin työntekijöiden arviointi, pisteyttäminen ja jopa irtisanominen tai opiskelijoiden arviointi kokeissa tekoälyn perusteella.
Lisäksi ehdotetuilla suuririskisiä tekoälyjärjestelmiä koskevilla vaatimuksilla ei voida aina vähentää terveyteen, turvallisuuteen ja perusoikeuksiin kohdistuvia haittoja. Näin ollen on otettava käyttöön valitus- ja oikeussuojamekanismi, joka antaa tekoälyjärjestelmien takia vahinkoa kärsineille ihmisille oikeuden kyseenalaistaa algoritmin yksin tekemät päätökset.
Yleisesti ETSK:n näkemyksen mukaan tekoälysäädöksessä lähdetään siitä, että tekoäly voi pitkälti korvata ihmisen päätöksenteossa, kunhan keskisuuren ja suuren riskin tekoälyjärjestelmille asetetut vaatimukset täytetään.
”ETSK on aina kannattanut ’ihminen määrää’ ‑periaatteen soveltamista tekoälyyn, koska kaikkia päätöksiä ei voida tehdä automaattisesti”, sanoo tekoälysäädöstä käsittelevän ETSK:n lausunnon esittelijä Catelijne Muller. ”Monilla päätöksillä on moraalinen ulottuvuus tai huomattavia oikeudellisia tai yhteiskunnallisia vaikutuksia esimerkiksi lainvalvontaan ja oikeuslaitokseen, sosiaalipalveluihin, asumiseen, rahoituspalveluihin, koulutukseen ja työlainsäädäntöön. Olemmeko todella valmiita sallimaan sen, että tekoäly korvaa suurelta osin ihmisen päätöksenteossa, myös esimerkiksi lainvalvontaan ja oikeuslaitokseen liittyvissä kriittisissä prosesseissa?” (dm)