Kurzdefinition: Ein Hochrisiko-KI-System ist ein KI-System, an das die KI-Verordnung die strengsten Anforderungen stellt. Art. 6 KI-VO bestimmt die Einstufung über zwei Wege: KI als Sicherheitsbauteil regulierter Produkte und KI in den Bereichen des Anhangs III. [N-KI-VO-6]
Der Normwortlaut
Art. 6 KI-VO stuft ein KI-System als Hochrisiko ein, wenn es „als Sicherheitsbauteil“ eines von den Harmonisierungsrechtsvorschriften des Anhangs I erfassten Produkts dient oder selbst ein solches Produkt ist und einer Konformitätsbewertung durch Dritte unterliegt — oder wenn es unter die in Anhang III genannten Bereiche fällt. [N-KI-VO-6]
Welche KI-Systeme sind Hochrisiko?
Zwei Gruppen. Erstens KI, die als Sicherheitsbauteil eines von Anhang I erfassten Produkts wirkt oder selbst ein solches Produkt ist und eine Drittkonformitätsbewertung durchläuft. Zweitens KI, die unter die in Anhang III genannten Bereiche fällt. Die Einstufung folgt also dem regulierten Produkt- oder Einsatzbereich, nicht der Technik allein. [N-KI-VO-6]
Gibt es Ausnahmen von der Hochrisiko-Einstufung?
Ja. Art. 6 Abs. 3 KI-VO enthält eine Rückausnahme: Ein System des Anhangs III gilt nicht als hochriskant, wenn es kein erhebliches Risiko für die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt — etwa weil es nur eine eng begrenzte Verfahrensaufgabe erfüllt. Diese Ausnahme greift jedoch nicht, wenn das System Profiling durchführt; und der Anbieter muss die Nicht-Einstufung dokumentieren. Die Hochrisiko-Einstufung ist also kein reiner Listenautomatismus. [N-KI-VO-6]
Welche Anforderungen gelten für Hochrisiko-KI-Systeme?
Ein umfangreiches Pflichtenprogramm. In diesem Paket sind vor allem das Risikomanagementsystem nach Art. 9 KI-VO und die Daten-Governance nach Art. 10 KI-VO als eigene Glossarspuren belegt; weitere Hochrisiko-Anforderungen sind im jeweils einschlägigen KI-VO-Programm gesondert zu prüfen. Diese Anforderungen sind der Grund, warum die richtige Einstufung so wichtig ist. [N-KI-VO-6] [N-KI-VO-9] [N-KI-VO-10]
Was besagt die Rückausnahme des Art. 6 Abs. 3 KI-VO?
Eine Entlastung mit Nachweis. Ein unter Anhang III fallendes System gilt ausnahmsweise nicht als Hochrisiko, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte birgt. Wer sich darauf beruft, muss diese Bewertung vor dem Inverkehrbringen dokumentieren und unterliegt einer Registrierungspflicht. [N-KI-VO-6]
Was gilt beim Profiling?
Keine Rückausnahme. Nimmt ein Anhang-III-System ein Profiling natürlicher Personen vor, gilt es stets als Hochrisiko-KI-System. Die Entlastung des Art. 6 Abs. 3 KI-VO greift in diesem Fall nicht. [N-KI-VO-6]
Häufige Fehlannahmen
- „Hochrisiko ergibt sich allein aus der Technik.“ Nein. Entscheidend ist der Einsatzbereich — Sicherheitsbauteil oder Anhang III. [N-KI-VO-6]
- „Alle Anhang-III-Systeme sind zwingend Hochrisiko.“ Nicht zwingend. Art. 6 Abs. 3 KI-VO nimmt Systeme ohne erhebliches Risiko aus — außer bei Profiling. [N-KI-VO-6]
- „Die Einstufung ist ein reiner Listenabgleich.“ Nein. Die Rückausnahme des Absatzes 3 verlangt eine Risikobewertung und deren Dokumentation. [N-KI-VO-6]
- „Ein Anhang-III-System lässt sich ohne Weiteres als harmlos einstufen.“ Nein. Wer meint, ein Anhang-III-System sei kein Hochrisiko, muss diese Bewertung vor dem Inverkehrbringen dokumentieren und unterliegt einer Registrierungspflicht. [N-KI-VO-6]
- „Auch beim Profiling greift die Rückausnahme.“ Nein. Nimmt ein Anhang-III-System ein Profiling natürlicher Personen vor, gilt es stets als Hochrisiko. [N-KI-VO-6]
Was die Geschäftsleitung tun sollte
- Einsatzbereich prüfen. Sicherheitsbauteil oder Anhang-III-Bereich?
- Rückausnahme bewerten. Kein erhebliches Risiko — außer bei Profiling; die Bewertung dokumentieren.
- Pflichtenprogramm planen. Bei Hochrisiko folgen Risikomanagement, Daten-Governance, Dokumentation und Aufsicht.
- Verantwortlichkeit klären. Anbieter- und Betreiberpflichten trennen.
Für die Geschäftsleitung
Die Hochrisiko-Einstufung entscheidet über das gesamte Pflichtenprogramm der KI-Verordnung. Sie folgt dem Einsatzbereich, nicht der Technik allein — und sie ist kein blinder Listenabgleich: Die Rückausnahme des Art. 6 Abs. 3 KI-VO verlangt eine dokumentierte Risikobewertung, greift aber nicht beim Profiling. Wer seine KI-Systeme sauber einordnet, weiß, welche Anforderungen auf ihn zukommen.
Quellen
- [N-KI-VO-6] Art. 6 KI-VO (Einstufungsvorschriften für Hochrisiko-KI-Systeme), Abs. 1 bis 3. Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
- [N-KI-VO-9] Art. 9 KI-VO (Risikomanagementsystem). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
- [N-KI-VO-10] Art. 10 KI-VO (Daten und Daten-Governance). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
