Kurzdefinition: Die Daten-Governance ist die Datenqualitätspflicht für datentrainierte Hochrisiko-KI-Systeme. Nach Art. 10 KI-VO müssen Trainings-, Validierungs- und Testdatensätze bestimmten Qualitätskriterien entsprechen und geeigneten Verwaltungsverfahren unterliegen, wenn solche Datensätze verwendet werden. [N-KI-VO-10]
Der Normwortlaut
Art. 10 Abs. 1 KI-VO lautet: „Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2 bis 5 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden.“ [N-KI-VO-10]
Welche Anforderungen gelten an die Daten?
Datensätze müssen nach Art. 10 KI-VO geeigneten Daten-Governance- und Datenverwaltungsverfahren unterliegen. Dazu gehören unter anderem die Betrachtung der Herkunft und Zwecke, die Prüfung von Relevanz, Repräsentativität und — soweit möglich — Fehlerfreiheit sowie die Untersuchung auf mögliche Verzerrungen (Bias), die die Gesundheit, die Sicherheit oder die Grundrechte beeinträchtigen oder zu Diskriminierung führen könnten. Die Daten sollen für den jeweiligen Zweck geeignet sein. [N-KI-VO-10]
Warum steht die Datenqualität im Zentrum?
Weil die Qualität der Ausgaben eng von der Qualität der verwendeten Daten abhängt. Verzerrte oder unvollständige Datensätze können zu verzerrten oder fehlerhaften Ergebnissen führen — bei Hochrisiko-KI mit erheblichen Folgen für betroffene Personen. Die Daten-Governance ist deshalb keine technische Nebenpflicht, sondern eine zentrale Vorkehrung gegen diskriminierende oder unsichere KI-Ergebnisse. [N-KI-VO-10]
Gilt die Pflicht für alle KI-Systeme?
Nein. Art. 10 KI-VO richtet sich an Hochrisiko-KI-Systeme, die mit Daten trainiert werden. Für KI-Systeme ohne Hochrisiko-Einstufung gilt diese besondere Daten-Governance-Pflicht nicht — wobei das allgemeine Datenschutzrecht daneben unabhängig zu beachten ist, sobald personenbezogene Daten verarbeitet werden. [N-KI-VO-10]
Welche Datensätze sind betroffen?
Trainings-, Validierungs- und Testdatensätze. Art. 10 Abs. 1 KI-VO verlangt, dass datentrainierte Hochrisiko-KI-Systeme mit Datensätzen entwickelt werden, die den Qualitätskriterien der Absätze 2 bis 5 entsprechen. Die Governance erfasst also den gesamten Datenweg der Modellentwicklung. [N-KI-VO-10]
Dürfen besondere Kategorien personenbezogener Daten zur Bias-Korrektur verarbeitet werden?
Ausnahmsweise ja. Soweit es für die Erkennung und Korrektur von Verzerrungen unbedingt erforderlich ist, ist die Verarbeitung besonderer Kategorien mit angemessenen Schutzvorkehrungen zulässig. Es ist eine eng begrenzte Ausnahme, kein Freibrief. [N-KI-VO-10]
Häufige Fehlannahmen
- „Daten-Governance gilt für jedes KI-System.“ Nein. Art. 10 KI-VO betrifft datentrainierte Hochrisiko-KI-Systeme. [N-KI-VO-10]
- „Nur die Menge der Daten zählt.“ Nein. Entscheidend sind Relevanz, Repräsentativität und die Prüfung auf Verzerrungen. [N-KI-VO-10]
- „Die Datensätze müssen absolut fehlerfrei sein.“ Nein. Verlangt wird, dass sie relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sind. [N-KI-VO-10]
- „Besondere Kategorien personenbezogener Daten dürfen dafür nie verarbeitet werden.“ Nicht ausnahmslos. Soweit für die Erkennung und Korrektur von Verzerrungen unbedingt erforderlich, ist ihre Verarbeitung ausnahmsweise mit angemessenen Schutzvorkehrungen zulässig. [N-KI-VO-10]
- „Datenqualität ist eine rein technische Frage.“ Nein. Sie ist eine zentrale Vorkehrung gegen Verzerrungen und Diskriminierungsrisiken durch Hochrisiko-KI. [N-KI-VO-10]
Was die Geschäftsleitung tun sollte
- Datensätze prüfen. Herkunft, Relevanz und Repräsentativität der Trainingsdaten belegen.
- Bias untersuchen. Mögliche Verzerrungen erkennen und, soweit möglich, beheben.
- Verfahren dokumentieren. Die Daten-Governance nachvollziehbar festhalten.
- Datenschutz mitdenken. Bei personenbezogenen Trainingsdaten gilt die DSGVO daneben.
Für die Geschäftsleitung
Die Daten-Governance ist eine Stelle, an der Fairness und Verlässlichkeit einer Hochrisiko-KI vorbereitet werden — lange vor dem ersten Einsatz. Art. 10 KI-VO verlangt Datensätze, die relevant, repräsentativ und auf Verzerrungen geprüft sind. Sie ist eine wichtige Vorkehrung gegen Diskriminierungsrisiken durch KI und steht neben dem Datenschutzrecht, das bei personenbezogenen Trainingsdaten zusätzlich greift.
Quellen
- [N-KI-VO-10] Art. 10 KI-VO (Daten und Daten-Governance), Abs. 1 und 2. Verordnung (EU) 2024/1689, CELEX 32024R1689. Amtlich: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
