Was sind Trainings-, Validierungs- und Testdaten?
Trainingsdaten passen lernbare Parameter an; Validierungsdaten bewerten das trainierte System und stimmen nicht lernbare Parameter sowie den Lernprozess ab; Testdaten bewerten das System unabhängig, um seine erwartete Leistung vor dem Inverkehrbringen oder der Inbetriebnahme zu bestätigen.
Diese Funktionszuordnung folgt den Legaldefinitionen in Artikel 3 Nummern 29 bis 31 der Verordnung (EU) 2024/1689 (KI-Verordnung). Sie sagt für sich genommen noch nicht, ob Artikel 10 auf ein konkretes KI-System anwendbar ist.
Der Normwortlaut
„Hochrisiko-KI-Systeme, in denen Techniken eingesetzt werden, bei denen KI-Modelle mit Daten trainiert werden, müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die den in den Absätzen 2 bis 5 genannten Qualitätskriterien entsprechen, wenn solche Datensätze verwendet werden.“
„Die Trainings-, Validierungs- und Testdatensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Sie müssen die geeigneten statistischen Merkmale, gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das Hochrisiko-KI-System bestimmungsgemäß verwendet werden soll, haben. Diese Merkmale der Datensätze können auf der Ebene einzelner Datensätze oder auf der Ebene einer Kombination davon erfüllt werden.“
„Bei der Entwicklung von Hochrisiko-KI-Systemen, in denen keine Techniken eingesetzt werden, bei denen KI-Modelle trainiert werden, gelten die Absätze 2 bis 5 nur für Testdatensätze.“
Verordnung (EU) 2024/1689, Artikel 10 Absätze 1, 3 und 6, amtliche deutsche Fassung.
Für welche Systeme gilt Artikel 10?
Artikel 10 gilt ausschließlich für Hochrisiko-KI-Systeme im Sinne von Artikel 6. Erfasst werden die Fälle des Artikels 6 Absatz 1 sowie Systeme nach Artikel 6 Absatz 2 in Verbindung mit Anhang III. Ein in Anhang III genanntes System kann unter den Voraussetzungen des Artikels 6 Absatz 3 aus der Hochrisiko-Einstufung fallen; ein System, das Profiling natürlicher Personen durchführt, gilt jedoch stets als hochriskant. Pflichtadressat ist der Anbieter.
Bei Hochrisiko-KI-Systemen mit datentrainierenden Techniken erfasst Artikel 10 die drei Datensatzrollen, wenn solche Datensätze verwendet werden. Bei Hochrisiko-KI-Systemen ohne Modelltraining gelten die Absätze 2 bis 5 nach Artikel 10 Absatz 6 nur für Testdatensätze.
Welche Governance- und Qualitätsanforderungen gelten?
Soweit Artikel 10 Absatz 1 oder Absatz 6 anwendbar ist, müssen zweckgeeignete Daten-Governance- und Datenverwaltungsverfahren insbesondere Herkunft und Erhebung, Aufbereitung, zugrunde liegende Annahmen, Verfügbarkeit, Menge und Eignung, mögliche Bias, Maßnahmen zu deren Erkennung, Verhinderung und Abschwächung sowie festgestellte Datenlücken behandeln.
Die Datensätze müssen im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sein. Gegebenenfalls sind die Personen oder Personengruppen zu berücksichtigen, für die das System bestimmungsgemäß verwendet werden soll. Soweit für die Zweckbestimmung erforderlich, müssen die Datensätze den geografischen, verhaltensbezogenen, kontextuellen oder funktionalen Einsatzkontext berücksichtigen. Die Merkmale dürfen durch einen einzelnen Datensatz oder eine Kombination von Datensätzen erfüllt werden.
Müssen die drei Datensätze vollständig getrennt sein?
Nein. Die Begriffe bezeichnen unterschiedliche Funktionen, aber nicht zwingend drei disjunkte Datenbestände. Artikel 3 Nummer 30 erlaubt ausdrücklich, dass der Validierungsdatensatz getrennt oder Teil des Trainingsdatensatzes ist. Testdaten müssen dagegen eine unabhängige Bewertung ermöglichen. Eine Überschneidung entbindet den Anbieter nicht von der zweckbezogenen Prüfung der jeweils anwendbaren Qualitäts- und Bias-Anforderungen.
Wann dürfen besondere Kategorien personenbezogener Daten verarbeitet werden?
Anbieter dürfen solche Daten zur Erkennung und Korrektur von Bias nur verarbeiten, soweit dies unbedingt erforderlich ist und sämtliche Bedingungen des Artikels 10 Absatz 5 kumulativ erfüllt sind. Insbesondere darf das Ziel nicht wirksam mit anderen Daten einschließlich synthetischer oder anonymisierter Daten erreichbar sein. Erforderlich sind technische Weiterverwendungsbeschränkungen, dem Stand der Technik entsprechende Sicherheits- und Datenschutzmaßnahmen einschließlich Pseudonymisierung sowie streng kontrollierter und dokumentierter Zugriff nur für befugte, zur Vertraulichkeit verpflichtete Personen. Eine Übermittlung, Übertragung oder sonstige Zugänglichmachung an Dritte ist ausgeschlossen.
Die Gründe für die unbedingte Erforderlichkeit und das Fehlen wirksamer Alternativen sind im Verzeichnis der Verarbeitungstätigkeiten zu dokumentieren. Die Daten sind zu löschen, sobald die Verzerrung korrigiert wurde oder die Speicherfrist abläuft – je nachdem, welches Ereignis früher eintritt. Die DSGVO, die Verordnung (EU) 2018/1725 und die Richtlinie (EU) 2016/680 bleiben anwendbar.
Welche Fristen und Schwellenwerte gelten?
Artikel 10 bestimmt weder eine allgemeine zahlenmäßige Mindestmenge für Datensätze noch eine eigene Entwicklungsfrist. Die KI-Verordnung gilt grundsätzlich seit dem 2. August 2026. Für Systeme nach Artikel 6 Absatz 1 und die entsprechenden Pflichten gilt nach Artikel 113 Buchstabe c der 2. August 2027. Welcher Geltungsbeginn für eine konkrete Artikel-10-Pflicht maßgeblich ist, hängt deshalb von der Hochrisiko-Einstufung des jeweiligen Systems ab.
Häufige Fehlannahmen
- „Artikel 10 gilt für jedes KI-System.“ Nein. Die Vorschrift betrifft Hochrisiko-KI-Systeme im Sinne von Artikel 6.
- „Es müssen stets drei vollständig getrennte Datenbestände vorliegen.“ Nein. Validierungsdaten können Teil der Trainingsdaten sein; Testdaten müssen jedoch eine unabhängige Bewertung ermöglichen.
- „Alle Datensätze müssen absolut fehlerfrei und vollständig sein.“ Der Normwortlaut verlangt Fehlerfreiheit und Vollständigkeit „so weit wie möglich“ und bindet die Merkmale an die Zweckbestimmung.
- „Bei Hochrisiko-Systemen ohne Modelltraining ist Artikel 10 bedeutungslos.“ Nein. Nach Absatz 6 gelten die Absätze 2 bis 5 dann für Testdatensätze.
- „Besondere Kategorien personenbezogener Daten dürfen allgemein zur Modellverbesserung genutzt werden.“ Nein. Artikel 10 Absatz 5 erlaubt ihre Verarbeitung nur zur unbedingt erforderlichen Bias-Erkennung und -Korrektur unter sämtlichen dort genannten Schutzbedingungen.
Was die Geschäftsleitung tun sollte
Die folgenden Schritte sind Praxisempfehlungen zur Umsetzung der Anbieterpflichten und keine eigenständige gesetzliche Organpflicht mit separater Frist:
- Für jedes potenziell hochriskante System Zweckbestimmung, Hochrisiko-Einstufung und die Rollen der verwendeten Datensätze nachvollziehbar festlegen lassen.
- Zuständigkeiten und Nachweise für Herkunft, Erhebung, Aufbereitung, Eignung, Repräsentativität, Fehler, Vollständigkeit, Bias-Kontrollen und Datenlücken bestimmen.
- Bei besonderen Kategorien personenbezogener Daten jede Bedingung des Artikels 10 Absatz 5 einschließlich Alternativenprüfung, Zugriffsschutz, Verarbeitungsverzeichnis und Löschereignis kontrollieren lassen.
- Die technische Dokumentation nach Artikel 11 Absatz 1 vor dem Inverkehrbringen oder der Inbetriebnahme erstellen lassen und anschließend aktuell halten.
- Bei nicht trainierenden Hochrisiko-Systemen dokumentieren, dass Artikel 10 Absatz 6 die Absätze 2 bis 5 auf Testdatensätze beschränkt.
Für die Geschäftsleitung
Entscheidend ist zuerst, ob das Unternehmen als Anbieter ein Hochrisiko-KI-System entwickelt oder entwickeln lässt und welcher Fall des Artikels 6 einschlägig ist. Danach sind Datensatzrollen und Reichweite des Artikels 10 festzulegen: drei Rollen bei datentrainierenden Systemen unter den Bedingungen des Absatzes 1, nur Testdatensätze bei Systemen ohne Modelltraining nach Absatz 6. Die Leitung sollte belastbare Nachweise zu Zweck, Herkunft, Qualität, Repräsentativität, Bias, Datenlücken und technischer Dokumentation einfordern. Für andere KI-Systeme kann dieses Vorgehen risikoorientierte Governance sein; Artikel 10 begründet dort nicht automatisch dieselben Pflichten.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), amtliche deutsche Fassung, insbesondere Artikel 3 Nummern 29 bis 31, Artikel 6 Absätze 1 bis 3, Artikel 10 Absätze 1 bis 6, Artikel 11 Absatz 1 und Artikel 113 Buchstabe c.
