Kurzdefinition: Artikel 55 KI-VO regelt die zusätzlichen Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die ein systemisches Risiko bergen. Über die allgemeinen Anbieterpflichten hinaus müssen sie Modellbewertungen — einschließlich Angriffstests — durchführen, systemische Risiken fortlaufend bewerten und mindern, schwerwiegende Vorfälle den Behörden melden und ein angemessenes Maß an Cybersicherheit für das Modell und seine Infrastruktur gewährleisten. [N-KI-VO-55]
Der Normwortlaut
Nach Art. 55 KI-VO unterliegen Anbieter von KI-Modellen mit systemischem Risiko zusätzlichen Pflichten, die darauf abzielen, diese Risiken zu ermitteln und zu mindern und ein angemessenes Maß an Cybersicherheit zu gewährleisten. Sie müssen unter anderem „eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen, wozu auch die Durchführung und Dokumentation von Angriffstests beim Modell gehören“. [N-KI-VO-55]
Für wen gilt Art. 55 KI-VO?
Für Anbieter von GPAI-Modellen mit systemischem Risiko. Die Pflichten treffen zusätzlich zu den allgemeinen Anbieterpflichten diejenigen Modelle, die nach Art. 51 KI-VO als Modelle mit systemischem Risiko eingestuft sind — unabhängig davon, ob sie eigenständig oder eingebettet bereitgestellt werden. [N-KI-VO-55]
Was verlangt die Modellbewertung?
Prüfung nach dem Stand der Technik. Nach Art. 55 KI-VO führen die Anbieter Modellbewertungen mit standardisierten Protokollen und Instrumenten durch — einschließlich der Durchführung und Dokumentation von Angriffstests (Adversarial Testing) —, um systemische Risiken zu ermitteln und zu mindern, insbesondere vor dem ersten Inverkehrbringen. [N-KI-VO-55]
Was gilt für die fortlaufende Risikosteuerung?
Bewerten und mindern über den Lebenszyklus. Die Anbieter müssen systemische Risiken fortlaufend bewerten und mindern — unter anderem durch Risikomanagement- und Governance-Verfahren, die Beobachtung nach dem Inverkehrbringen und geeignete Maßnahmen über den vorgesehenen Unterstützungszeitraum und Lebenszyklus des Modells. [N-KI-VO-55]
Müssen schwerwiegende Vorfälle gemeldet werden?
Ja. Verursacht die Entwicklung oder Verwendung des Modells einen schwerwiegenden Vorfall, muss der Anbieter dem Vorfall unverzüglich nachgehen und der Kommission und den zuständigen nationalen Behörden alle einschlägigen Informationen und mögliche Korrekturmaßnahmen mitteilen. [N-KI-VO-55]
Welche Cybersicherheit ist gefordert?
Ein angemessenes Maß über den Lebenszyklus. Nach Art. 55 KI-VO gewährleisten die Anbieter ein angemessenes Maß an Cybersicherheit für das Modell und seine physische Infrastruktur — etwa durch Sicherung von Modellgewichten, Algorithmen und Servern sowie Zugangs- und Betriebssicherheit gegen böswillige Angriffe und Modelldiebstahl. [N-KI-VO-55]
Häufige Fehlannahmen
- „Für GPAI-Modelle gelten immer dieselben Pflichten.“ Nein. Modelle mit systemischem Risiko unterliegen zusätzlichen Pflichten nach Art. 55 KI-VO. [N-KI-VO-55]
- „Eine einmalige Prüfung genügt.“ Nein. Systemische Risiken sind fortlaufend zu bewerten und zu mindern. [N-KI-VO-55]
- „Angriffstests sind optional.“ Nein. Die Modellbewertung umfasst die Durchführung und Dokumentation von Angriffstests. [N-KI-VO-55]
- „Schwerwiegende Vorfälle müssen nicht gemeldet werden.“ Doch. Sie sind der Kommission und den zuständigen Behörden mitzuteilen. [N-KI-VO-55]
- „Cybersicherheit betrifft nur die Software.“ Nein. Erfasst sind das Modell und seine physische Infrastruktur. [N-KI-VO-55]
- „Nach dem Inverkehrbringen enden die Pflichten.“ Nein. Die Risikosteuerung reicht über den vorgesehenen Unterstützungszeitraum und Lebenszyklus. [N-KI-VO-55]
Was die Geschäftsleitung tun sollte
- Einstufung klären. Prüfen, ob ein GPAI-Modell systemisches Risiko nach Art. 51 KI-VO aufweist.
- Bewertung etablieren. Modellbewertungen samt Angriffstests nach dem Stand der Technik durchführen.
- Risiken steuern. Systemische Risiken fortlaufend bewerten und mindern.
- Cybersicherheit sichern. Modell und Infrastruktur angemessen schützen und schwerwiegende Vorfälle melden.
Für die Geschäftsleitung
Art. 55 KI-VO verlangt von den leistungsfähigsten KI-Modellen das höchste Maß an Sorgfalt: geprüft, gehärtet, überwacht und gegen Angriffe geschützt. Wer GPAI-Modelle mit systemischem Risiko anbietet, sollte Modellbewertung, fortlaufende Risikosteuerung und Cybersicherheit fest in seine Governance einbauen — und für die Meldung schwerwiegender Vorfälle vorbereitet sein.
Quellen
- [N-KI-VO-55] Art. 55 KI-VO (VO (EU) 2024/1689, Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko). Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
