Kurzdefinition: Die Transparenzpflichten der KI-Verordnung sorgen dafür, dass Menschen erkennen, wenn sie es mit KI zu tun haben. Art. 50 KI-VO verpflichtet Anbieter und Betreiber bestimmter KI-Systeme, über die KI-Nutzung zu informieren und KI-generierte Inhalte zu kennzeichnen. [N-KI-VO-50]
Der Normwortlaut
Art. 50 Abs. 1 KI-VO lautet: „Die Anbieter stellen sicher, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren“, es sei denn, dies ist aus den Umständen offensichtlich. [N-KI-VO-50]
Wann liegt eine Transparenzpflicht bei KI vor?
In mehreren Konstellationen. Erstens bei der direkten Interaktion mit Menschen — etwa bei Chatbots: Die Person muss erkennen, dass sie mit einem KI-System spricht, sofern das nicht ohnehin offensichtlich ist. Zweitens bei synthetischen Inhalten: KI-erzeugte oder -manipulierte Audio-, Bild-, Video- und Textinhalte sind maschinenlesbar zu kennzeichnen. Drittens bei Deepfakes und bei der Emotionserkennung oder biometrischen Kategorisierung, über deren Einsatz zu informieren ist. [N-KI-VO-50]
Müssen Deepfakes gekennzeichnet werden?
Ja. Wer ein KI-System einsetzt, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die wirklichen Personen, Gegenständen oder Ereignissen ähneln (Deepfakes), muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Für bestimmte künstlerische oder satirische Kontexte gelten abgestufte Modalitäten, die die Offenlegung nicht entfallen lassen, aber ihre Form anpassen. [N-KI-VO-50]
Gilt die Transparenzpflicht auch außerhalb der Hochrisiko-Systeme?
Ja. Art. 50 KI-VO knüpft nicht an die Hochrisiko-Einstufung an, sondern an die Art des Systems und seiner Ausgaben. Auch ein KI-System, das nicht hochriskant ist, kann transparenzpflichtig sein — etwa ein einfacher Chatbot oder ein Bildgenerator. Die Transparenzpflicht ist damit eine eigenständige, breit angelegte Schicht der Verordnung. [N-KI-VO-50]
Wen trifft die Interaktions-Transparenzpflicht?
Die Anbieter. Nach Art. 50 Abs. 1 KI-VO müssen Anbieter sicherstellen, dass KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden Personen informiert werden, dass sie mit einem KI-System interagieren. Die Pflicht setzt also schon bei der Gestaltung des Systems an. [N-KI-VO-50]
Wann entfällt die Interaktions-Informationspflicht?
Bei Offensichtlichkeit. Die Pflicht greift nicht, wenn aus den Umständen und dem Kontext der Nutzung offensichtlich ist, dass eine Interaktion mit einem KI-System stattfindet. Für die Kennzeichnung synthetisch erzeugter Inhalte gilt diese Ausnahme jedoch nicht in gleicher Weise. [N-KI-VO-50]
Häufige Fehlannahmen
- „Transparenzpflichten gelten nur für Hochrisiko-KI.“ Nein. Art. 50 KI-VO knüpft an die Art des Systems an, nicht an die Risikoklasse. [N-KI-VO-50]
- „Deepfakes müssen nicht gekennzeichnet werden.“ Doch. Ihre künstliche Erzeugung oder Manipulation ist offenzulegen. [N-KI-VO-50]
- „Bei offensichtlicher KI-Nutzung besteht keine Pflicht.“ Für die Interaktionspflicht gilt eine Offensichtlichkeitsausnahme; die Kennzeichnung synthetischer Inhalte bleibt davon unberührt. [N-KI-VO-50]
- „KI-generierte Inhalte muss man nicht technisch markieren.“ Nein. Anbieter müssen synthetisch erzeugte Bild-, Ton-, Video- oder Textinhalte in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen. [N-KI-VO-50]
- „Die Transparenzpflichten gelten bereits vollständig.“ Nicht durchgehend. Die KI-Verordnung gilt in weiten Teilen erst ab dem 2. August 2026, so auch die Transparenzpflichten des Art. 50. [N-KI-VO-50]
Was die Geschäftsleitung tun sollte
- Systeme einordnen. Interaktion mit Menschen, synthetische Inhalte, Deepfakes, Emotionserkennung?
- Kennzeichnung umsetzen. Synthetische Inhalte maschinenlesbar markieren.
- Chatbots offenlegen. Auf die KI-Nutzung hinweisen, wo sie nicht offensichtlich ist.
- Unabhängig vom Risiko prüfen. Die Transparenzpflicht gilt auch außerhalb der Hochrisiko-Klasse.
Für die Geschäftsleitung
Die Transparenzpflichten sind eine besonders sichtbare Schicht der KI-Verordnung — und sie können auch Systeme außerhalb der Hochrisiko-Klasse betreffen. Bei direkter Interaktion, synthetischen Inhalten, Deepfakes sowie bestimmten Erkennungs- oder Kategorisierungssystemen ist die jeweilige Art.-50-Konstellation zu prüfen. Die Pflicht folgt der Art des Systems und seiner Ausgabe, nicht allein der Risikoklasse.
Quellen
- [N-KI-VO-50] Art. 50 KI-VO (Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme). Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
