In zwei Stellungnahmen zu Vorschlägen für Rechtsvorschriften der EU zur künstlichen Intelligenz (KI) plädiert der EWSA für ein vollständiges Verbot des Social Scoring und für ein Beschwerde- und Rechtsbehelfsverfahren für Bürgerinnen und Bürger, die durch KI-Systeme Schaden erleiden.

Auf seiner September-Plenartagung begrüßte der EWSA das vorgeschlagene Gesetz über künstliche Intelligenz und den Koordinierten Plan für KI.

Der EWSA stellt fest, dass der Schwerpunkt der neuen Rechtsvorschriften tatsächlich auf Gesundheit, Sicherheit und Wahrung der Grundrechte liegt. Die Vorschriften sind von globaler Tragweite, da sie eine Reihe von Auflagen vorsehen, die Entwickler sowohl in als auch außerhalb der EU einhalten müssen, wenn sie ihre Produkte in der EU vermarkten wollen.

Der EWSA sieht allerdings auch einige Schwächen der Vorschläge, u. a. im Bereich des Social Scoring. Er verweist auf die Gefahr, dass diese Praxis in Europa ähnlich wie in China an Boden gewinnt. Dort kann die Regierung auf dieser Grundlage sogar den Bürgerinnen und Bürgern den Zugang zu öffentlichen Dienstleistungen verwehren.

Der Gesetzesentwurf über KI sieht zwar ein Verbot des Social Scoring durch öffentliche Behörden in Europa vor. Der EWSA spricht sich allerdings für eine Ausweitung des Verbots auf private und halbstaatliche Stellen aus, um beispielsweise die Nutzung des Social Scoring zur Ermittlung der Kredit- bzw. Darlehenswürdigkeit der Bürger auszuschließen.

Darüber hinaus verweist der EWSA auf die Gefahr, die eine listenbasierte Aufführung von Hochrisiko-KI-Systemen birgt. Denn dadurch werden zahlreiche KI-Anwendungen, die nach wie vor im Kreuzfeuer der Kritik stehen, als normal und massentauglich etabliert. Zugelassen wäre dann z. B. die biometrische Erkennung, zu der auch die Emotions- oder Affekterkennung gehören, bei der die Gesichtsausdrucksform, Stimmlage, Körperhaltung oder auch Gesten von Personen analysiert werden, um künftiges Verhalten vorherzusagen, Lügen aufzudecken und sogar zu ermitteln, ob jemand Erfolg am Arbeitsplatz verspricht. Zugelassen wäre auch eine KI-gestützte Beurteilung, Bewertung und sogar Entlassung von Arbeitnehmern oder eine Prüfungsbewertung der Studierenden.

Zudem können die vorgeschlagenen Auflagen für Hochrisiko-KI den möglichen Schaden für die Gesundheit, Sicherheit und die Grundrechte nicht immer abfedern. Deshalb ist ein Beschwerde- und Rechtsbehelfsverfahren erforderlich, damit Bürgerinnen und Bürger, die durch KI-Systeme Schaden erleiden, algorithmusbasierte Entscheidungen anfechten können.

Generell liegt nach Auffassung des EWSA dem KI-Gesetz die Annahme zugrunde, dass KI weitgehend menschliche Entscheidungen übernehmen kann, sofern die Anforderungen an KI mit mittlerem und hohem Risiko erfüllt sind.

„Wir haben uns im EWSA seit jeher dafür ausgesprochen, dass die KI stets der Kontrolle durch den Menschen unterliegen soll (,Human-in-Command‘), weil sich nicht alle Entscheidungen auf die Zahlen 1 und 0 reduzieren lassen,“ so Catelijne Muller, Berichterstatterin der EWSA-Stellungnahme zum Gesetz über künstliche Intelligenz. „Viele der Entscheidungen haben auch eine ethische Dimension und rechtliche oder gesellschaftliche Auswirkungen, insbesondere in Bereichen wie Justiz, Strafverfolgung, Sozialdienste, Wohnungswesen, Finanzdienstleistungen, Bildung und Arbeitsbeziehungen. Wollen wir wirklich zulassen, dass KI die Entscheidungshoheit übernimmt, sogar in kritischen Bereichen wie Strafverfolgung und Justiz?“ (dm)