Kurzdefinition: Ein KI-System ist nach Art. 3 Nr. 1 KI-VO ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und aus Eingaben Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen ableitet. Der Begriff eröffnet den Anwendungsbereich der KI-Verordnung. [N-KI-VO-3]
Der Normwortlaut
Art. 3 Nr. 1 KI-VO lautet: „‚KI-System‘ ein maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist und das nach seiner Betriebsaufnahme anpassungsfähig sein kann und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können.“ [N-KI-VO-3]
Was ist ein KI-System?
Ein System, das drei Merkmale vereint: maschinengestützter Betrieb, ein gewisser Grad an Autonomie und die Fähigkeit, aus Eingaben eigenständig Ausgaben abzuleiten, die Wirkung entfalten. Diese Ableitungsfähigkeit — nicht die bloße Regelabarbeitung — unterscheidet ein KI-System von klassischer Software. Der Begriff ist bewusst weit gefasst, um technologieoffen zu bleiben. [N-KI-VO-3]
Was ist der Unterschied zwischen KI-Modell und KI-System?
Ein KI-Modell ist die trainierte Komponente, ein KI-System das darum herum gebaute, einsatzfähige Ganze. Die KI-VO unterscheidet beides: Neben dem KI-System kennt sie das KI-Modell mit allgemeinem Verwendungszweck als eigene Kategorie mit eigenen Pflichten. Für die meisten Unternehmenspflichten ist das KI-System der Anknüpfungspunkt. [N-KI-VO-3]
Warum ist die Definition so bedeutsam?
Weil sie das Tor zur gesamten KI-Verordnung ist. Nur wo ein KI-System vorliegt, greifen deren Pflichten — von den verbotenen Praktiken über die Hochrisiko-Anforderungen bis zu den Transparenzpflichten. Fällt eine Anwendung nicht unter die Definition, gilt die KI-VO nicht; fällt sie darunter, ist die weitere Einordnung nach Risikoklasse entscheidend. [N-KI-VO-3]
Welche Ausgaben kann ein KI-System erzeugen?
Verschiedene. Nach Art. 3 Nr. 1 KI-VO leitet ein KI-System aus den erhaltenen Eingaben ab, wie Ausgaben wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können. Der Wirkungsbezug auf die Umgebung gehört zur Definition. [N-KI-VO-3]
Muss ein KI-System nach der Betriebsaufnahme lernen?
Nein. Die Definition stellt darauf ab, dass das System nach seiner Betriebsaufnahme anpassungsfähig sein kann — die Anpassungsfähigkeit ist möglich, aber nicht zwingend. Entscheidend ist die Fähigkeit, aus Eingaben Ausgaben abzuleiten. [N-KI-VO-3]
Häufige Fehlannahmen
- „Jede Software ist ein KI-System.“ Nein. Entscheidend ist die Fähigkeit, aus Eingaben eigenständig Ausgaben abzuleiten — nicht die bloße Regelabarbeitung. [N-KI-VO-3]
- „KI-System und KI-Modell sind dasselbe.“ Nein. Die KI-VO unterscheidet das System vom Modell mit allgemeinem Verwendungszweck. [N-KI-VO-3]
- „Die Definition erfasst nur lernende Systeme.“ Der Wortlaut stellt auf die Ableitungsfähigkeit ab; die Anpassungsfähigkeit nach Betriebsaufnahme ist möglich, aber nicht zwingend. [N-KI-VO-3]
- „Ein KI-System muss vollständig autonom handeln.“ Nein. Es genügt ein in unterschiedlichem Grade autonomer Betrieb; schon eine geringe Autonomie kann ausreichen. [N-KI-VO-3]
- „Eine einfache Wenn-Dann-Regel ist bereits ein KI-System.“ Nein. Kern ist, dass das System aus den erhaltenen Eingaben ableitet, wie Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden. [N-KI-VO-3]
Was die Geschäftsleitung tun sollte
- Anwendungen einordnen. Prüfen, welche eingesetzten Systeme unter die KI-Definition fallen.
- Modell und System trennen. Die Pflichten knüpfen unterschiedlich an.
- Risikoklasse bestimmen. Nach der Einordnung als KI-System folgt die Frage nach dem Risiko.
- Bestand dokumentieren. Ein Verzeichnis der eingesetzten KI-Systeme ist die Grundlage jeder KI-Governance.
Für die Geschäftsleitung
Der Begriff des KI-Systems ist der Türöffner der KI-Verordnung — und er ist weit und technologieoffen. Entscheidend ist die Fähigkeit, aus Eingaben eigenständig Ausgaben abzuleiten. Wer seine Systeme daraufhin einordnet, weiß, welche Anwendungen überhaupt in den Anwendungsbereich fallen — und damit, wo die weitere Prüfung nach Risikoklasse ansetzt.
Quellen
- [N-KI-VO-3] Art. 3 KI-VO (Begriffsbestimmungen), Nr. 1 (KI-System). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
