Warum Art. 10 mehr ist als eine Datenschutzfrage
Art. 10 EU AI Act regelt, wie Trainings-, Validierungs- und Testdatensätze für Hochrisiko-KI-Systeme beschaffen und verwaltet sein müssen. Die Norm gilt nach Abs. 1 immer dann, wenn ein KI-Modell mit Daten trainiert wird – bei Systemen ohne Training greift nach Abs. 6 zumindest die Pflicht für Testdatensätze. Der Artikel adressiert damit nicht nur den Datenschutz, sondern die technische und organisatorische Qualität der Datenbasis selbst. Für Unternehmen, die Hochrisiko-KI nach Anhang III anbieten oder betreiben, ist das keine abstrakte Vorgabe: Die Pflichten für diese Systeme greifen ab dem 2. August 2026, und Art. 10 gehört zu den Vorschriften, die dafür belastbare Nachweise verlangen.
Die acht Bausteine der Governance-Verfahren
Abs. 2 zählt acht Aspekte auf, die Daten-Governance- und Datenverwaltungsverfahren abdecken müssen. Praktisch heißt das: Sie brauchen Dokumentation zu
- den konzeptionellen Entscheidungen hinter der Datenauswahl (Buchst. a),
- Erhebungsverfahren, Datenherkunft und – bei personenbezogenen Daten – dem ursprünglichen Erhebungszweck (Buchst. b),
- Aufbereitungsschritten wie Annotation, Bereinigung, Aktualisierung oder Aggregierung (Buchst. c),
- den Annahmen, die den Daten zugrunde liegen (Buchst. d),
- einer Bewertung von Verfügbarkeit, Menge und Eignung der Datensätze (Buchst. e),
- einer Untersuchung möglicher Verzerrungen, die Gesundheit, Sicherheit, Grundrechte oder das Diskriminierungsverbot betreffen könnten (Buchst. f),
- Maßnahmen zur Erkennung, Verhinderung und Abschwächung solcher Verzerrungen (Buchst. g) und
- der Identifikation von Datenlücken oder Mängeln samt Behebungsplan (Buchst. h).
Die typische Lücke in der Praxis: Datensätze existieren, aber die Entscheidungswege dahinter sind nirgends festgehalten. Wer welche Datenquelle warum ausgewählt hat, welche Annahmen getroffen wurden, welche Bias-Untersuchung stattfand – das muss nachträglich rekonstruierbar sein, nicht nur im Kopf einzelner ML-Verantwortlicher.
Qualitätskriterien: relevant, repräsentativ, fehlerfrei
Abs. 3 verlangt, dass Trainings-, Validierungs- und Testdatensätze im Hinblick auf die Zweckbestimmung relevant, hinreichend repräsentativ und so weit wie möglich fehlerfrei und vollständig sind. Sie müssen die geeigneten statistischen Merkmale aufweisen – gegebenenfalls auch bezüglich der Personen oder Personengruppen, für die das System bestimmungsgemäß eingesetzt werden soll. Diese Merkmale können auf Ebene einzelner Datensätze oder in Kombination mehrerer Datensätze erfüllt werden, was in der Praxis Spielraum lässt, wenn ein einzelner Datensatz allein nicht ausreichend repräsentativ ist.
Abs. 4 ergänzt: Soweit für die Zweckbestimmung erforderlich, müssen die Datensätze geografische, kontextuelle, verhaltensbezogene oder funktionale Besonderheiten der vorgesehenen Einsatzumgebung berücksichtigen. Ein System, das für einen bestimmten Markt oder Nutzerkreis entwickelt wurde, aber mit Daten aus einem anderen Kontext trainiert wurde, erfüllt diese Anforderung typischerweise nicht ohne weitere Prüfung und Anpassung.
Der Sonderfall: besondere Kategorien personenbezogener Daten
Abs. 5 eröffnet eine enge Ausnahme: Anbieter dürfen besondere Kategorien personenbezogener Daten verarbeiten, wenn dies für die Erkennung und Korrektur von Verzerrungen nach Abs. 2 Buchst. f und g unbedingt erforderlich ist. Diese Verarbeitung steht zusätzlich zu den Vorgaben der DSGVO, der Verordnung (EU) 2018/1725 und der Richtlinie (EU) 2016/680 unter sechs kumulativen Bedingungen: Die Bias-Korrektur darf nicht durch andere Daten – auch nicht synthetische oder anonymisierte – effektiv möglich sein (Buchst. a); es müssen technische Beschränkungen und modernste Sicherheitsmaßnahmen inklusive Pseudonymisierung greifen (Buchst. b); strenge, dokumentierte Zugriffskontrollen müssen bestehen (Buchst. c); die Daten dürfen nicht an Dritte übermittelt werden (Buchst. d); sie sind zu löschen, sobald die Verzerrung korrigiert ist oder die Speicherfrist endet (Buchst. e); und die Verarbeitungstätigkeiten müssen die Gründe für die Notwendigkeit dokumentieren (Buchst. f).
Diese Ausnahme wird in der Praxis oft übersehen oder – umgekehrt – zu großzügig ausgelegt. Beides ist riskant: Ohne die Ausnahme fehlt vielen Unternehmen die Rechtsgrundlage, um Bias in sensiblen Merkmalen wie ethnischer Herkunft oder Gesundheitsdaten überhaupt zu prüfen. Mit einer zu weiten Auslegung drohen Verstöße gegen die kumulativen Bedingungen, insbesondere die Löschpflicht nach Buchst. e und die Dokumentationspflicht nach Buchst. f.
Was das für Ihre Dokumentation bedeutet
Art. 10 verlangt in der Summe ein durchgängiges Nachweissystem: von der Datenquelle über die Aufbereitung bis zur Bias-Prüfung. Wer diese Kette nicht lückenlos dokumentiert hat, wird spätestens bei einer Konformitätsbewertung oder Marktaufsicht Schwierigkeiten haben, die Anforderungen aus Abs. 2 bis 5 zu belegen. Gerade weil die Hochrisiko-Pflichten für Anhang-III-Systeme ab dem 2. August 2026 greifen, lohnt sich ein früher Blick auf die eigene Datenbasis.
Ob und in welchem Umfang Ihr KI-System als Hochrisiko-System einzustufen ist und welche Pflichten aus Art. 10 konkret greifen, lässt sich mit unserem kostenlosen Risiko-Check unter /einstufung in wenigen Minuten klären.