Biometrische KI-Systeme: Hochrisiko-Einstufung nach EU AI Act
Biometrische KI-Systeme stehen im EU AI Act unter besonderer Beobachtung. Manche Anwendungen sind hochriskant, einige sogar verboten — die genaue Abgrenzung ist hier besonders wichtig.
Anhang III Nr. 1 erfasst Systeme zur biometrischen Fernidentifizierung, zur biometrischen Kategorisierung anhand sensibler Merkmale und zur Emotionserkennung. Diese Anwendungen greifen tief in die Grundrechte ein und gelten daher als Hochrisiko.
Wichtig: Einige biometrische Praktiken sind nach Art. 5 ganz verboten — etwa bestimmte Formen der biometrischen Echtzeit-Fernidentifizierung im öffentlichen Raum oder die ungezielte Erstellung von Gesichtsdatenbanken. Vor der Hochrisiko-Frage steht also die Frage nach einem etwaigen Verbot.
Dieser Bereich ist einer von acht in Anhang III des EU AI Act (Anhang III, Nr. 1). Die vollständige Liste aller Hochrisiko-KI-Systeme mit Praxisbeispielen finden Sie im Beitrag zu Anhang III des EU AI Act; wann welche Pflicht greift, steht im Beitrag zu den Fristen.
Typische Systeme in diesem Bereich
Biometrische Identifizierung oder Verifizierung anhand von Gesicht, Stimme oder Fingerabdruck
Biometrische Kategorisierung von Personen
Emotions- oder Aufmerksamkeitserkennung
Zutritts- und Authentifizierungssysteme auf biometrischer Basis
Diese Pflichten greifen
Prüfung, ob eine verbotene Praktik nach Art. 5 vorliegt — vor allem anderen
Bei Hochrisiko: Risikomanagement, Daten-Governance, Genauigkeit und Cybersicherheit
Technische Dokumentation, Protokollierung und menschliche Aufsicht
Konformitätsbewertung und Registrierung vor Inbetriebnahme
Die Ausnahme nach Art. 6 Abs. 3
Biometrie und Profiling hängen eng zusammen — die Ausnahme nach Art. 6 Abs. 3 trägt hier kaum, sobald Personen anhand biometrischer Daten bewertet oder kategorisiert werden. Zudem ist immer zuerst zu prüfen, ob eine Anwendung überhaupt zulässig oder nach Art. 5 verboten ist.
Häufige Fragen
Ist biometrische Gesichtserkennung ein Hochrisiko-KI-System?
Häufig ja — biometrische Identifizierung und Kategorisierung fallen unter Anhang III Nr. 1. Manche Echtzeit-Anwendungen im öffentlichen Raum sind sogar ganz verboten. Die genaue Ausgestaltung entscheidet.
Welche biometrischen KI-Anwendungen sind verboten?
Art. 5 verbietet unter anderem bestimmte Formen der biometrischen Echtzeit-Fernidentifizierung im öffentlichen Raum sowie das ungezielte Auslesen von Gesichtsbildern zum Aufbau von Datenbanken. Diese Frage steht vor der Hochrisiko-Einstufung.
Ist eine biometrische Zutrittskontrolle betroffen?
Das hängt vom Einsatz ab. Eine reine Verifizierung kann anders zu bewerten sein als eine Fernidentifizierung. Eine Einzelfallprüfung ist hier besonders ratsam.
Was droht, wenn wir die Hochrisiko-Pflichten bei biometrischen Systemen nicht erfüllen?
Verstöße gegen die Anbieter- und Betreiberpflichten für Hochrisiko-Systeme können nach Art. 99 Abs. 4 mit Geldbußen bis zu 15 Mio. € oder 3 % des gesamten weltweiten Jahresumsatzes geahndet werden — maßgeblich ist der höhere Betrag, für KMU einschließlich Start-ups der niedrigere (Art. 99 Abs. 6). In Deutschland ahndet § 15 KI-MIG einzeln benannte Verstöße zusätzlich mit bis zu 50.000 €. Wichtiger ist in der Praxis meist das operative Risiko: Ein nicht-konformes System darf unter Umständen nicht weiter eingesetzt werden. Die Rahmen im Detail stehen im Beitrag EU AI Act einfach erklärt.
Wir nutzen Microsoft Clarity, um zu verstehen, wie die Seite genutzt wird
(z. B. Heatmaps) — Cookies werden erst gesetzt, wenn Sie zustimmen. Details.