Claudia Carmen
Strenge Sicherheitsvorkehrungen beim Einsatz von künstlicher Intelligenz in der Strafverfolgung sollen Diskriminierung vermeiden und das Recht auf Privatsphäre schützen.
In einer Entschließung, die mit 377 gegen 248 Stimmen bei 62 Enthaltungen angenommen wurde, weisen die Abgeordneten auf das Risiko algorithmischer Voreingenommenheit bei KI-Anwendungen hin und betonen die Notwendigkeit menschlicher Aufsicht und starker rechtlicher Kontrollen, um Diskriminierung durch KI zu verhindern, insbesondere bei Strafverfolgung oder Grenzübertritten. Die Abgeordneten betonen, dass die endgültigen Entscheidungen immer von Menschen getroffen werden sollten. Personen, die von KI-gestützten Systemen überwacht werden, müssten die Möglichkeit haben, Rechtsmittel einzulegen.
Bedenken wegen Diskriminierung
Die Abgeordneten weisen darauf hin, dass viele der derzeit verwendeten algorithmusgesteuerten Identifizierungstechnologien unverhältnismäßig viele Personen falsch identifizieren und daher Menschen, die aufgrund von Rassismus benachteiligt sind, Personen, die bestimmten ethnischen Gemeinschaften angehören, LGBTI-Personen, Kindern und älteren Menschen sowie Frauen Schaden zufügen, was besonders bedenklich ist, wenn KI-Systeme in einem Kontext der Strafverfolgung oder Justiz eingesetzt werden.
Um sicherzustellen, dass die Grundrechte beim Einsatz dieser Technologien gewahrt bleiben, sollten die Algorithmen transparent, nachvollziehbar und ausreichend dokumentiert sein, fordern die Abgeordneten. Wenn möglich, sollten die Behörden Open-Source-Software verwenden, um mehr Transparenz zu gewährleisten.
Umstrittene Technologien
Um die Privatsphäre und die Menschenwürde zu wahren, fordern die Abgeordneten das dauerhafte Verbot der Verwendung einer automatisierten Erkennung von Personen in öffentlich zugänglichen Räumen, da Bürger*innen nur dann überwacht werden sollten, wenn sie einer Straftat verdächtigt werden. Das Parlament fordert ein Verbot der Nutzung privater Gesichtserkennungsdatenbanken (wie das bereits im Einsatz befindliche KI-System Clearview) und der vorausschauenden Polizeiarbeit auf der Grundlage von Verhaltensdaten.
Die Abgeordneten fordern auch ein Verbot von Social-Scoring-Systemen, die versuchen, die Vertrauenswürdigkeit von Bürger*innen auf der Grundlage ihres Verhaltens oder ihrer Persönlichkeit zu bewerten.
Schließlich ist das Parlament besorgt über die Verwendung biometrischer Daten für Zwecke der Fernidentifizierung von Personen. Die Abgeordneten fordern die Kommission auf, Vertragsverletzungsverfahren gegen Mitgliedstaaten einzuleiten, wenn dies notwendig ist.
Europäisches Parlament / 06.10.2021
