Hochrisiko-KI-System
Ein Hochrisiko-KI-System ist ein KI-System, das der EU AI Act besonders streng reguliert – entweder als Sicherheitsbauteil eines regulierten Produkts nach Anhang I oder wegen eines sensiblen Anwendungsbereichs nach Anhang III, etwa Personalauswahl, Kreditwürdigkeitsprüfung, kritische Infrastruktur, Bildung, Strafverfolgung oder Justiz. Für Anhang-III-Systeme sieht Art. 6 Abs. 3 zudem eine Ausnahme vor, wenn von ihnen kein erhebliches Risiko der Beeinträchtigung ausgeht. Für Hochrisiko-Systeme gelten strengere Pflichten als für gewöhnliche KI-Anwendungen: Risikomanagement, technische Dokumentation, menschliche Aufsicht und eine Konformitätsbewertung vor dem Markteinsatz.
In der Praxis
Wichtig aktuell (Stand 14. August 2026): Die Fristen für Hochrisiko-Systeme wurden verschoben. Mit der Verordnung (EU) 2026/1744 ("Digital Omnibus on AI", ABl. L, 2026/1744 vom 24. Juli 2026, in Kraft seit 27. Juli 2026) gilt für eigenständige Hochrisiko-Systeme nach Anhang III statt des ursprünglichen 2. August 2026 nun der 2. Dezember 2027, für in Produkte eingebettete Hochrisiko-KI nach Anhang I der 2. August 2028. Für Unternehmen bedeutet das mehr Vorbereitungszeit, aber keine Entwarnung: Wer etwa KI-gestützte Bewerbervorauswahl plant, sollte Klassifizierung und Dokumentationspflichten trotzdem frühzeitig prüfen, da politische Fristen weiter angepasst werden können.
Passende Leistung
Quellen
- EU AI Act Service Desk: Verordnung (EU) 2024/1689, Anhang III (Hochrisiko-KI-Systeme) (öffnet in neuem Tab)
- EU AI Act Service Desk: Verordnung (EU) 2024/1689, Art. 6 (Einstufungsvorschriften) (öffnet in neuem Tab)
- EUR-Lex: Verordnung (EU) 2026/1744 (Digital Omnibus on AI, ABl. L vom 24.07.2026) (öffnet in neuem Tab)