Die Europäische Kommission hat im vergangenen Jahr die KI-Regeln vorgeschlagen, um China und die Vereinigten Staaten mit Technologien zu überholen, die in Smartphones, Computern, selbstfahrenden Autos, Online-Shopping, Werbung und Fabriken verwendet werden.

Die Regelentwürfe müssen im nächsten Jahr mit den EU-Ländern und dem EU-Gesetzgeber ausgearbeitet werden, bevor sie eingeführt werden können. Die EU-Gesetzgeber müssen sich noch auf ihre gemeinsame Position einigen.

Laut einer Erklärung des Rates der Europäischen Union haben sich die Länder darauf geeinigt, nationale Sicherheits-, Verteidigungs- und militärische Zwecke von KI-Regeln auszunehmen.

Sie waren sich einig, dass KI nicht für soziale Einstufungen verwendet werden sollte – wo Bürger auf der Grundlage von Daten über ihre Aktivitäten beurteilt werden – während die Strafverfolgung laut Pressemitteilung nur dann biometrische Identifizierung im öffentlichen Raum verwenden sollte, wenn dies unbedingt erforderlich ist.

Länder haben KI-Systeme mit hohem Risiko als grundrechtsverletzend eingestuft.

Die Europäische Verbraucherorganisation (BEUC) sagte, dass viele Schlüsselthemen nicht angegangen würden, wie z. B. die Gesichtserkennung von Unternehmen im öffentlichen Raum, während Bestimmungen, die Systeme als risikoreich einstufen, geschwächt wurden.

„Die Verbraucher sind besorgt über die Risiken von KI, wie beispielsweise das Potenzial für eine zunehmende Diskriminierung, und haben wenig Vertrauen in Behörden, die eine wirksame Kontrolle über KI ausüben“, sagte Ursula Pachl, stellvertretende Generaldirektorin von BEUC.

Der Europaabgeordnete Patrick Breyer von der Deutschen Piratenpartei hat wegen der Gesichtserkennung Alarm geschlagen.

„Wir müssen uns der biometrischen Massenüberwachung in unseren öffentlichen Räumen widersetzen, weil diese Technologien eine große Anzahl unschuldiger Bürger fälschlicherweise kennzeichnen, unterrepräsentierte Gruppen systematisch diskriminieren und eine abschreckende Wirkung auf eine freie und vielfältige Gesellschaft haben“, sagte er.