Was ist ein Deepfake?
Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.
Rechtliche Einordnung: Artikel 3 Nummer 60 der Verordnung (EU) 2024/1689 verknüpft vier Merkmale: Der Inhalt muss erstens durch KI erzeugt oder manipuliert sein, zweitens aus Bild, Ton oder Video bestehen, drittens wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und viertens einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen. Nur wenn alle Merkmale erfüllt sind, liegt ein Deepfake im Sinne dieser Verordnung vor.
Der Normwortlaut
Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die in diesem Absatz festgelegten Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Normtext und ergänzende Vorgaben: Nach Artikel 50 Absatz 5 müssen die Informationen den betreffenden natürlichen Personen klar und eindeutig sowie spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung bereitgestellt werden. Sie müssen außerdem den geltenden Barrierefreiheitsanforderungen entsprechen. Artikel 50 gilt seit dem 2. August 2026.
Wer muss Deepfakes offenlegen?
Gesetzlicher Adressat der Pflicht aus Artikel 50 Absatz 4 ist der Betreiber des KI-Systems, nicht pauschal jede Person, die einen Inhalt weiterverbreitet. Betreiber ist nach Artikel 3 Nummer 4 grundsätzlich eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet.
Anwendungsbereich: Erfasst sind insbesondere Betreiber mit Niederlassung oder Standort in der Union. Betreiber in Drittländern fallen ebenfalls in den Anwendungsbereich, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird. Natürliche Personen, die ein KI-System ausschließlich persönlich und nicht beruflich verwenden, sind von den Betreiberpflichten ausgenommen. Außerdem können die Bereichsausnahmen des Artikels 2 eingreifen; die Verordnung gilt insbesondere nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden.
Wann entsteht die Offenlegungspflicht?
Die Pflicht entsteht, wenn ein Betreiber ein KI-System verwendet, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, und der konkrete Inhalt sämtliche Merkmale der Deepfake-Definition erfüllt. Eine beliebige KI-Bearbeitung genügt deshalb nicht. Entscheidend sind zusätzlich die Ähnlichkeit zu den in Artikel 3 Nummer 60 genannten wirklichen Referenzen und der falsche Anschein von Echtheit oder Wahrheitsgemäßheit.
Auslegung: Bei jedem Inhalt ist die Definition vollständig zu prüfen. Erst danach ist zu bestimmen, ob die reguläre Offenlegung, eine Ausnahme oder die reduzierte Offenlegungsform für bestimmte Werke gilt.
Wie und wann muss offengelegt werden?
Die Information muss klar und eindeutig, unter Beachtung der geltenden Barrierefreiheitsanforderungen und spätestens bei der ersten Interaktion oder Aussetzung gegenüber den betreffenden natürlichen Personen bereitgestellt werden. Bei einem Deepfake-Inhalt ist praktisch die erste Aussetzung maßgeblich. Artikel 50 Absatz 4 enthält keinen numerischen Schwellenwert, unterhalb dessen die Pflicht allgemein entfiele.
Rechtsstand: Artikel 50 gilt seit dem 2. August 2026. Andere unions- oder nationalrechtliche Transparenzpflichten bleiben nach Artikel 50 Absatz 6 unberührt.
Welche Ausnahmen und Sonderregeln gelten?
Die Strafverfolgungsausnahme greift nur, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ein bloßer Bezug zur Strafverfolgung reicht nicht.
Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, entfällt die Pflicht nicht. Sie reduziert sich auf eine geeignete Offenlegung des Vorhandenseins erzeugter oder manipulierter Inhalte, welche die Darstellung oder den Genuss des Werks nicht beeinträchtigt.
Davon zu trennen ist die eigenständige Pflicht für Anbieter nach Artikel 50 Absatz 2. Sie ist keine Ausnahme der Betreiberpflicht und besitzt eigene Voraussetzungen und Ausnahmen.
Ist jedes synthetische oder bearbeitete Medium ein Deepfake?
Nein. Ein synthetischer oder bearbeiteter Bild-, Ton- oder Videoinhalt ist nicht allein deshalb ein Deepfake im Sinne der Verordnung. Zusätzlich muss er durch KI erzeugt oder manipuliert sein, wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen.
Abgrenzung: Damit genügt weder die bloße KI-Bearbeitung noch die bloße Eigenschaft „synthetisch“. Für diesen Rechtsbegriff ist stets die Gesamtprüfung der kumulativen Merkmale aus Artikel 3 Nummer 60 maßgeblich.
Häufige Fehlannahmen
- „Jede KI-Bildbearbeitung ist ein Deepfake.“ Falsch: Auch Medienart, Ähnlichkeit zu einer wirklichen Referenz und der falsche Echtheits- oder Wahrheitsanschein müssen vorliegen.
- „Jeder, der einen Deepfake teilt, ist nach Artikel 50 Absatz 4 offenlegungspflichtig.“ Falsch: Die Vorschrift adressiert Betreiber des KI-Systems; andere Rechtsregime können unabhängig davon gelten.
- „Satire und Kunst sind vollständig ausgenommen.“ Falsch: Für die ausdrücklich genannten Werke oder Programme bleibt eine geeignete, die Darstellung oder den Genuss nicht beeinträchtigende Offenlegung erforderlich.
- „Ein Strafverfolgungszweck genügt für die Ausnahme.“ Falsch: Die konkrete Verwendung muss gesetzlich zugelassen sein und einem der ausdrücklich genannten Zwecke dienen.
- „Die Kennzeichnung kann nach der Veröffentlichung ergänzt werden.“ Falsch: Sie muss spätestens bei der ersten Interaktion oder Aussetzung klar, eindeutig und barrierefrei bereitgestellt werden.
Was die Geschäftsleitung tun sollte
Praxisempfehlung, keine eigenständige gesetzliche Geschäftsleitungspflicht: Artikel 50 adressiert den Betreiber. Die folgenden Schritte dienen der nachvollziehbaren organisatorischen Umsetzung:
- Alle eingesetzten KI-Systeme erfassen, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren können, und interne Verantwortliche benennen.
- Vor einer Aussetzung anhand aller vier Merkmale dokumentieren, ob der konkrete Inhalt die Deepfake-Definition erfüllt.
- Eine beanspruchte Strafverfolgungsausnahme oder reduzierte Offenlegung für ein genanntes Werk anhand ihrer gesetzlichen Voraussetzungen prüfen und begründen.
- Klare, eindeutige und barrierefreie Offenlegungstexte samt Freigabeprozess so einrichten, dass sie spätestens bei der ersten Interaktion oder Aussetzung erscheinen.
- Prüfentscheidung, Ausnahmegrund, Freigabe und tatsächlich verwendete Offenlegung als internen Nachweis aufbewahren und bei Änderungen des Systems oder Nutzungskontexts erneut bewerten.
Für die Geschäftsleitung
Die Betreiberpflicht betrifft Organisationen im Anwendungsbereich, wenn ihr KI-System einen Inhalt erzeugt oder manipuliert, der alle Merkmale eines Deepfakes erfüllt. Die zentrale Entscheidung lautet daher nicht nur „KI-bearbeitet oder nicht“, sondern „Deepfake-Definition vollständig erfüllt, Ausnahme einschlägig und Offenlegungsform rechtzeitig umgesetzt?“. Ein belastbarer Nachweis sollte die Definitionsprüfung, die rechtliche Begründung einer Ausnahme oder Sonderform, die Freigabeverantwortung sowie Zeitpunkt und Gestaltung der Offenlegung festhalten. Dies ist eine Governance-Empfehlung; gesetzlicher Adressat bleibt der Betreiber.
Quellen
- Verordnung (EU) 2024/1689, insbesondere Artikel 2 Absätze 1, 3 und 10, Artikel 3 Nummern 4 und 60, Artikel 50 Absätze 2 und 4 bis 6 sowie Artikel 113.
