Kurzdefinition: Der KI-Betreiber ist die Stelle, die ein KI-System in eigener Verantwortung einsetzt. Nach Art. 3 Nr. 4 KI-VO ist das die Rolle der meisten Unternehmen, die KI nutzen; bei Hochrisiko-KI treffen ihn eigene Pflichten nach Art. 26 KI-VO. [N-KI-VO-26] [N-KI-VO-3]
Der Normwortlaut
Art. 3 Nr. 4 KI-VO lautet: „‚Betreiber‘ eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das KI-System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet.“ [N-KI-VO-3]
Wer ist Betreiber im Sinne der KI-Verordnung?
Wer ein KI-System in eigener Verantwortung beruflich einsetzt. Das ist die typische Rolle des Unternehmens, das eine KI-Lösung eines Anbieters nutzt. Ausdrücklich ausgenommen ist die rein persönliche und nicht berufliche Nutzung — der private Gebrauch macht nicht zum Betreiber im Sinne der Verordnung. [N-KI-VO-3]
Welche Pflichten treffen den Betreiber?
Bei Hochrisiko-KI-Systemen ein eigenes Pflichtenprogramm nach Art. 26 KI-VO: Der Betreiber trifft geeignete technische und organisatorische Maßnahmen, um das System bestimmungsgemäß zu verwenden, überträgt die menschliche Aufsicht an kompetente Personen, überwacht den Betrieb, bewahrt die automatisch erzeugten Protokolle auf und informiert bei Risiken oder Vorfällen. Die Betreiberpflichten sind schlanker als die des Anbieters, aber keineswegs gering. [N-KI-VO-26]
Worin unterscheidet sich der Betreiber vom Anbieter?
In der Rolle im Lebenszyklus. Der Anbieter entwickelt oder lässt entwickeln und bringt das System oder Modell unter eigenem Namen oder eigener Marke in Verkehr oder in Betrieb. Der Betreiber verwendet das KI-System in eigener Verantwortung. Wer ein System unter eigenem Namen bereitstellt oder in anderer Weise die Anbieterdefinition erfüllt, muss eine gesonderte Rollenprüfung vornehmen. [N-KI-VO-26] [N-KI-VO-3]
Welche Nutzung ist von der Betreibereigenschaft ausgenommen?
Die private. Nach Art. 3 Nr. 4 KI-VO ist Betreiber, wer ein KI-System in eigener Verantwortung verwendet — es sei denn, das System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet. Die rein private Nutzung begründet keine Betreiberpflichten. [N-KI-VO-3]
Muss der Betreiber Protokolle des KI-Systems aufbewahren?
Ja. Automatisch erzeugte Protokolle sind über einen angemessenen Zeitraum aufzubewahren, soweit sie der Kontrolle des Betreibers unterliegen. Die Protokollierung dient der Nachvollziehbarkeit des Betriebs eines Hochrisiko-KI-Systems. [N-KI-VO-26]
Häufige Fehlannahmen
- „Wer KI nur nutzt, hat keine Pflichten.“ Nein. Bei Hochrisiko-KI treffen den Betreiber eigene Pflichten nach Art. 26 KI-VO. [N-KI-VO-26]
- „Auch private Nutzung macht zum Betreiber.“ Nein. Die persönliche, nicht berufliche Nutzung ist ausgenommen. [N-KI-VO-3]
- „Betreiber und Anbieter haben dieselben Pflichten.“ Nein. Der Anbieter trägt die Hauptlast; der Betreiber verantwortet den ordnungsgemäßen Betrieb. [N-KI-VO-26]
- „Der Betreiber kann die menschliche Aufsicht irgendjemandem übertragen.“ Nein. Die menschliche Aufsicht ist natürlichen Personen zu übertragen, die die erforderliche Kompetenz, Schulung und Befugnis besitzen. [N-KI-VO-26]
- „Protokolle des KI-Systems muss der Betreiber nicht aufbewahren.“ Doch. Automatisch erzeugte Protokolle sind über einen angemessenen Zeitraum aufzubewahren, soweit sie seiner Kontrolle unterliegen. [N-KI-VO-26]
Was die Geschäftsleitung tun sollte
- Rolle bestimmen. Setzt das Unternehmen KI in eigener Verantwortung ein?
- Menschliche Aufsicht sichern. Kompetente Personen mit der Aufsicht betrauen.
- Betrieb überwachen und protokollieren. Protokolle aufbewahren, Vorfälle melden.
- Rollenwechsel im Blick behalten. Eigener Name, eigene Marke oder eine geänderte Bereitstellung können eine Anbieterprüfung auslösen.
Für die Geschäftsleitung
Betreiber ist die Rolle, in der die meisten Unternehmen der KI-Verordnung begegnen — und sie ist nicht pflichtfrei: Bei Hochrisiko-KI verlangt Art. 26 KI-VO bestimmungsgemäße Verwendung, menschliche Aufsicht, Überwachung und Protokollierung. Die private Nutzung ist ausgenommen, der berufliche Einsatz nicht. Und wer ein System unter eigenem Namen oder eigener Marke bereitstellt, muss prüfen, ob die Anbieterrolle greift.
Quellen
- [N-KI-VO-26] Art. 26 KI-VO (Pflichten der Betreiber von Hochrisiko-KI-Systemen). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
- [N-KI-VO-3] Art. 3 KI-VO (Begriffsbestimmungen), Nr. 4 (Betreiber). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
