Was sind KI-Risikoklassen und der risikobasierte Ansatz?
Der risikobasierte Ansatz der KI-Verordnung ist keine abschließende Vier-Stufen-Klassifikation: Maßgeblich sind die konkreten Tatbestände für verbotene Praktiken, Hochrisiko-KI, Transparenzfälle und GPAI-Modelle.
Der Normwortlaut
„Abweichend von Absatz 2 gilt ein in Anhang III genanntes KI-System nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis der Entscheidungsfindung wesentlich beeinflusst. Unterabsatz 1 gilt, wenn eine der folgenden Bedingungen erfüllt ist: a) das KI-System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen; b) das KI-System ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern; c) das KI-System ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und ist nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; oder d) das KI-System ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist. Ungeachtet des Unterabsatzes 1 gilt ein in Anhang III aufgeführtes KI-System immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt.“
Amtlicher Normtext: Verordnung (EU) 2024/1689, Artikel 6 Absatz 3, EUR-Lex.
Normfolge: Nach Artikel 6 Absatz 2 gelten die in Anhang III genannten Systeme grundsätzlich als hochriskant. Wer als Anbieter die enge Ausnahme des Absatzes 3 in Anspruch nimmt, muss seine Bewertung nach Absatz 4 vor dem Inverkehrbringen oder der Inbetriebnahme dokumentieren und das System nach Artikel 49 Absatz 2 registrieren. Unabhängig davon erfasst Artikel 6 Absatz 1 ein System nur, wenn sowohl der Produkt- oder Sicherheitsbauteilbezug zu Anhang I als auch die vorgeschriebene Dritt-Konformitätsbewertung vorliegen.
Welche Kategorien unterscheidet die KI-Verordnung tatsächlich?
Rechtliche Einordnung: Die Verordnung regelt unter anderem verbotene KI-Praktiken in Artikel 5, Hochrisiko-KI-Systeme in Artikel 6 in Verbindung mit den Anhängen I und III, bestimmte Transparenzfälle in Artikel 50 sowie ein eigenes Regime für Modelle mit allgemeinem Verwendungszweck in Kapitel V. Die verbreiteten Bezeichnungen „unannehmbares“, „hohes“, „begrenztes“ und „minimales Risiko“ sind als Orientierungsmodell nützlich, bilden aber keine einheitliche und abschließende gesetzliche Rangfolge. Mehrere Vorschriften können für denselben Einsatz nebeneinander relevant sein.
Für wen ist die Einstufung relevant?
Geltungsbereich: Artikel 2 Absatz 1 erfasst insbesondere Anbieter, Betreiber in der Union, bestimmte Anbieter und Betreiber in Drittländern, wenn die Ausgabe des Systems in der Union verwendet wird, sowie Einführer, Händler, Produkthersteller, Bevollmächtigte und betroffene Personen, die sich in der Union befinden. Welche Pflichten folgen, hängt von der jeweiligen Akteursrolle und dem konkreten Tatbestand ab; die Einbeziehung betroffener Personen in den Geltungsbereich weist ihnen nicht dieselben Pflichten wie den Wirtschaftsakteuren zu.
Die Verordnung gilt nur für Bereiche, die dem Unionsrecht unterliegen. Zu den fallabhängig zu prüfenden Grenzen gehören Systeme für ausschließlich militärische, Verteidigungs- oder nationale Sicherheitszwecke nach Artikel 2 Absatz 3, eigens und allein für wissenschaftliche Forschung und Entwicklung entwickelte und in Betrieb genommene Systeme oder Modelle nach Absatz 6 sowie die ausschließlich persönliche, nicht berufliche Nutzung durch natürliche Personen nach Absatz 10. Die Ausnahme für freie und quelloffene KI-Systeme nach Absatz 12 greift insbesondere nicht, wenn diese als Hochrisiko-Systeme oder als Systeme nach Artikel 5 oder 50 in Verkehr gebracht oder in Betrieb genommen werden.
Welche Auslöser müssen geprüft werden?
Auslegung: Ausgangspunkt ist der konkrete gesetzliche Tatbestand. Zu prüfen sind die Praktik nach Artikel 5, der Produkt- und Dritt-Konformitätsbewertungsbezug nach Artikel 6 Absatz 1, der Anwendungsfall aus Anhang III einschließlich der Ausnahme und Profiling-Rückausnahme in Artikel 6 Absatz 3 sowie jeder einschlägige Transparenzfall des Artikels 50. Die abstrakte Zuordnung zu einer Pyramidenstufe ersetzt diese Prüfung nicht.
Für ein konkretes KI-System sind insbesondere Zweckbestimmung, Funktion, Produktbezug und Einsatzkontext maßgeblich. Artikel 3 Nummer 12 knüpft den „beabsichtigten Zweck“ an die vom Anbieter vorgesehene Verwendung einschließlich Kontext und Bedingungen. „Risiko“ bezeichnet nach Artikel 3 Nummer 2 die Kombination aus Eintrittswahrscheinlichkeit und Schwere eines Schadens.
Welche Ausnahmen und Spezialregime gelten?
Die Ausnahme für bestimmte Anhang-III-Systeme ist eng: Das System darf kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen bergen, darf unter anderem das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflussen und muss mindestens eine der vier in Artikel 6 Absatz 3 genannten Funktionen erfüllen. Profiling natürlicher Personen schließt die Ausnahme aus. Dokumentation vor Inverkehrbringen oder Inbetriebnahme und Registrierung bleiben erforderlich.
Artikel 2 Absatz 7 lässt das Unionsrecht über Datenschutz, Privatsphäre und Vertraulichkeit der Kommunikation unberührt. Eine Einordnung nach der KI-Verordnung ersetzt daher keine gesonderte datenschutzrechtliche Prüfung.
Spezialregime: GPAI-Modelle mit systemischem Risiko nach Artikel 51 sind keine weitere Stufe derselben KI-Systemklassifikation. Bei mehr als 10^25 FLOP kumulierter Trainingsrechenleistung wird nach Artikel 51 Absatz 2 vermutet, dass das Modell über Fähigkeiten mit hohem Wirkungsgrad verfügt; über Artikel 51 Absatz 1 Buchstabe a führt dies zur Einstufung als GPAI-Modell mit systemischem Risiko. Außerdem kann ein Modell auf der Grundlage der Kriterien des Anhangs XIII durch Entscheidung der Kommission als GPAI-Modell mit systemischem Risiko eingestuft werden. Ein Anbieter eines Modells, das die Voraussetzung des Artikels 51 Absatz 1 Buchstabe a erfüllt, kann nach Artikel 52 Absatz 2 hinreichend begründet darlegen, dass das Modell aufgrund seiner spezifischen Merkmale ausnahmsweise keine systemischen Risiken birgt und daher nicht als GPAI-Modell mit systemischem Risiko eingestuft werden sollte.
Welche Fristen und Schwellenwerte gelten?
Es gibt weder eine einheitliche Klassifizierungsfrist noch eine allgemeine numerische Risikoschwelle für alle KI-Systeme. Nach Artikel 113 gilt die Verordnung grundsätzlich seit dem 2. August 2026. Kapitel I und II gelten seit dem 2. Februar 2025; die in Artikel 113 Satz 2 genannten vorgezogenen Teile einschließlich Kapitel V gelten seit dem 2. August 2025. Artikel 6 Absatz 1 und die in Artikel 113 bezeichneten entsprechenden Pflichten gelten ab dem 2. August 2027. Die Schwelle von mehr als 10^25 FLOP betrifft ausschließlich die Vermutung nach Artikel 51 Absatz 2, dass ein GPAI-Modell über Fähigkeiten mit hohem Wirkungsgrad verfügt; daraus folgt über Artikel 51 Absatz 1 Buchstabe a die Einstufung als GPAI-Modell mit systemischem Risiko.
Häufige Fehlannahmen
- „Jedes KI-System gehört genau einer von vier gesetzlichen Klassen an.“ Nein. Das Vier-Stufen-Modell vereinfacht unterschiedliche Tatbestände und Spezialregime.
- „Jedes in Anhang III genannte System ist ausnahmslos hochriskant.“ Nein. Artikel 6 Absatz 3 enthält eine enge Ausnahme; Profiling natürlicher Personen ist davon ausdrücklich ausgeschlossen.
- „Der Modelltyp oder die Modellgüte entscheidet über Hochrisiko-KI.“ Nein. Entscheidend sind unter anderem Zweck, Funktion, Produktbezug, Einsatzbereich und gesetzliche Bedingungen.
- „10^25 FLOP ist die Schwelle für Hochrisiko-KI-Systeme.“ Nein. Mehr als 10^25 FLOP begründet nach Artikel 51 Absatz 2 nur die Vermutung, dass ein GPAI-Modell über Fähigkeiten mit hohem Wirkungsgrad verfügt; über Artikel 51 Absatz 1 Buchstabe a folgt daraus die Einstufung als GPAI-Modell mit systemischem Risiko.
- „Eine KI-VO-Einstufung erledigt die Datenschutzprüfung.“ Nein. Das einschlägige Datenschutz-, Privatsphäre- und Kommunikationsvertraulichkeitsrecht bleibt anwendbar.
Was die Geschäftsleitung tun sollte
Praxisempfehlung: Die folgenden Organisationsmaßnahmen sind nicht als pauschale gesetzliche Inventarpflicht für jedes KI-System zu verstehen:
- Ein rollen- und zweckbezogenes Inventar der entwickelten, beschafften, bereitgestellten und eingesetzten KI-Systeme und GPAI-Modelle führen.
- Für jeden Einsatz die Tatbestände der Artikel 5, 6 und 50 sowie gegebenenfalls das GPAI-Regime nach Artikel 51 dokumentiert prüfen lassen.
- Bei Berufung auf Artikel 6 Absatz 3 die vollständigen Voraussetzungen und insbesondere den Ausschluss bei Profiling vor Inverkehrbringen oder Inbetriebnahme dokumentieren und die Registrierung nach Artikel 49 Absatz 2 veranlassen.
- Zuständigkeiten nach Akteursrolle festlegen. Soweit das Unternehmen Anbieter oder Betreiber ist, nach Artikel 4 nach besten Kräften sicherstellen, dass sein Personal und andere Personen, die in seinem Auftrag mit Betrieb oder Nutzung von KI-Systemen befasst sind, über ausreichende KI-Kompetenz verfügen; dabei technische Kenntnisse, Erfahrung, Ausbildung und Schulung, Einsatzkontext sowie betroffene Personen oder Gruppen berücksichtigen.
- Ist das Unternehmen Anbieter eines Hochrisiko-KI-Systems, nach Artikel 16 Buchstabe a dessen Konformität mit Artikel 9 sicherstellen und das dort vorgeschriebene Risikomanagementsystem einrichten, anwenden, dokumentieren und aufrechterhalten.
Für die Geschäftsleitung
Die entscheidende Managementfrage lautet nicht „Welche Farbe hat unsere KI in der Risikopyramide?“, sondern „Welche Tatbestände gelten für welchen Zweck, Einsatz und welche Akteursrolle?“. Entscheidungen sollten Verbote, Hochrisiko- und Transparenzregeln sowie GPAI-Spezialvorschriften getrennt abbilden. Nachweise müssen insbesondere dort belastbar sein, wo das Gesetz Dokumentation, Registrierung, KI-Kompetenz oder ein Risikomanagementsystem verlangt.
Quellen
- Verordnung (EU) 2024/1689 über künstliche Intelligenz – amtlicher deutscher Text bei EUR-Lex, insbesondere Artikel 1 bis 6, 9, 16 Buchstabe a, 49 bis 51, 52 Absatz 2 und 113 sowie Anhänge I, III und XIII.
