Hochrisiko-KI-Systeme in der kritischen Infrastruktur sind der Sonderfall unter den acht Bereichen aus Anhang III: Sie werden nicht über die Wirkung auf einzelne Personen eingestuft, sondern über ihre Rolle als Sicherheitsbauteil. Entscheidend ist deshalb nicht, ob das System Menschen bewertet, sondern was passiert, wenn es ausfällt oder falsch entscheidet.
Seit dem Digital Omnibus on AI (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026) ist diese Abgrenzung erstmals im Verordnungstext geschärft: Nach Art. 6 Abs. 1a gelten KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Zwecke wie Nutzerunterstützung, Leistungsoptimierung, Effizienz, Automatisierung, Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, nicht als Sicherheitsbauteile. Umgekehrt stellt Art. 6 Abs. 1b klar: Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, sind Sicherheitsbauteile — unabhängig davon, wie sie intern bezeichnet werden.
Für Betreiber von Netzen, Wasserwerken, Fernwärme, Verkehrsleittechnik und kritischer digitaler Infrastruktur heißt das: Die Einstufung entscheidet sich an der Funktion im Anlagenverbund, nicht am Produktnamen. Wer beides im Einsatz hat — eine reine Prognose- oder Optimierungs-KI und eine sicherheitsgerichtete Steuerung — muss die Systeme getrennt bewerten und die Abgrenzung dokumentieren.
Warum dieser Bereich als Hochrisiko gilt
Anhang III Nr. 2 erfasst KI-Systeme, die als Sicherheitsbauteil beim Betrieb und der Steuerung kritischer Infrastruktur dienen — etwa in der Versorgung mit Strom, Wasser, Gas und Wärme, im Straßenverkehr oder in der kritischen digitalen Infrastruktur.
Der Maßstab ist hier die funktionale Sicherheit: Fällt das System aus oder trifft es falsche Entscheidungen, kann das die Gesundheit und Sicherheit vieler Menschen gefährden. Anders als in anderen Bereichen steht nicht das Profiling im Mittelpunkt.
Dieser Bereich ist einer von acht in Anhang III des EU AI Act (Anhang III, Nr. 2). Die vollständige Liste aller Hochrisiko-KI-Systeme mit Praxisbeispielen finden Sie im Beitrag zu Anhang III des EU AI Act; wann welche Pflicht greift, steht im Beitrag zu den Fristen.
Typische Systeme in diesem Bereich
- KI zur Laststeuerung und Netzstabilisierung in der Energieversorgung
- Steuerung und Überwachung in der Wasser- und Wärmeversorgung
- KI-gestützte Verkehrssteuerung und -leittechnik
- Sicherheitsrelevante Steuerung kritischer digitaler Infrastruktur
Diese Pflichten greifen
- Risikomanagement mit Fokus auf funktionale Sicherheit und Ausfallszenarien
- Genauigkeit, Robustheit und Cybersicherheit (Art. 15)
- Technische Dokumentation, Protokollierung und menschliche Aufsicht
- Konformitätsbewertung und Registrierung vor Inbetriebnahme
Die Ausnahme nach Art. 6 Abs. 3
Weil hier seltener ein Profiling natürlicher Personen stattfindet, kann die Ausnahme nach Art. 6 Abs. 3 eher in Betracht kommen als in anderen Bereichen — etwa wenn die KI nur eine eng begrenzte, vorbereitende Aufgabe erfüllt. Auch das ist jedoch zu begründen und zu dokumentieren.