Was Art. 9 verlangt
Art. 9 KI-VO verpflichtet Anbieter von Hochrisiko-KI-Systemen, ein Risikomanagementsystem einzurichten, anzuwenden, zu dokumentieren und aufrechtzuerhalten (Art. 9 Abs. 1). Entscheidend ist die Formulierung in Abs. 2: Es handelt sich nicht um eine einmalige Prüfung vor dem Inverkehrbringen, sondern um einen „kontinuierlichen iterativen Prozess“, der über den gesamten Lebenszyklus des Systems geplant, durchgeführt und regelmäßig aktualisiert wird. Wer Risikomanagement als Projektabschluss-Dokument versteht, das einmal erstellt und dann abgelegt wird, verfehlt den Kern der Norm.
Der Prozess in vier Schritten
Art. 9 Abs. 2 gibt vier Schritte vor, die sich gegenseitig bedingen:
- Ermittlung und Analyse bekannter und vernünftigerweise vorhersehbarer Risiken für Gesundheit, Sicherheit oder Grundrechte bei zweckbestimmter Verwendung (Buchstabe a).
- Abschätzung und Bewertung der Risiken bei zweckbestimmter Verwendung und bei vernünftigerweise vorhersehbarer Fehlanwendung (Buchstabe b). Das schließt den Blick auf Missbrauchsszenarien ein, die nicht der intendierten Nutzung entsprechen.
- Bewertung weiterer Risiken auf Basis der Daten aus dem Beobachtungssystem nach Art. 72, also aus der Marktbeobachtung nach Inverkehrbringen (Buchstabe c). Risikomanagement ist damit ausdrücklich an das Post-Market-Monitoring rückgekoppelt.
- Ergreifung geeigneter, gezielter Maßnahmen zur Bewältigung der unter Buchstabe a ermittelten Risiken (Buchstabe d).
Wichtig ist die Begrenzung in Abs. 3: Erfasst werden nur Risiken, die durch Entwicklung, Konzeption oder ausreichende technische Informationen angemessen gemindert oder behoben werden können. Art. 9 ist kein allgemeiner Haftungsausweitungsmechanismus, sondern an die tatsächliche Gestaltbarkeit des Systems gekoppelt.
Restrisiko, Wechselwirkungen und Tests
Abs. 4 verlangt, Wechselwirkungen zwischen den verschiedenen Anforderungen des Abschnitts (etwa Datenqualität, technische Dokumentation, menschliche Aufsicht) bei der Maßnahmenwahl zu berücksichtigen – Risikomanagement ist kein isoliertes Modul, sondern muss mit den übrigen Hochrisiko-Pflichten zusammengedacht werden.
Abs. 5 legt die Zielgröße fest: Sowohl das Restrisiko je Gefahr als auch das Gesamtrestrisiko müssen als vertretbar beurteilt werden können. Die Reihenfolge der Maßnahmen ist vorgegeben: zuerst Beseitigung oder Verringerung durch Konzeption und Entwicklung, dann Minderungs- und Kontrollmaßnahmen für unvermeidbare Restrisiken, schließlich Information und Schulung der Betreiber nach Art. 13. Dabei sind die realistisch zu erwartenden Kenntnisse und Erfahrungen der Betreiber sowie der voraussichtliche Einsatzkontext zu berücksichtigen – ein Freifahrtschein „der Betreiber wird das schon richtig nutzen“ trägt nicht.
Abs. 6 bis 8 verlangen Tests anhand vorab festgelegter Metriken und Wahrscheinlichkeitsschwellenwerte, passend zur Zweckbestimmung, durchgängig während der Entwicklung und jedenfalls vor Inverkehrbringen oder Inbetriebnahme. Tests unter Realbedingungen nach Art. 60 können Teil dieser Testverfahren sein.
Abs. 9 verlangt zusätzlich eine gesonderte Prüfung, ob das System wahrscheinlich nachteilige Auswirkungen auf Minderjährige oder andere schutzbedürftige Gruppen hat – ein eigener Prüfpunkt, der in generischen Risikoanalysen häufig fehlt.
Typische Lücken in der Praxis
Drei Muster zeigen sich immer wieder: Erstens wird Risikomanagement als statisches Dokument behandelt statt als iterativer Prozess mit definierten Update-Zyklen. Zweitens fehlt die Rückkopplung aus der Marktbeobachtung nach Art. 72 – Risikoanalysen basieren nur auf Annahmen aus der Entwicklungsphase, nicht auf tatsächlichen Nutzungsdaten. Drittens wird die Fehlanwendung nach Buchstabe b vernachlässigt: Analysiert wird die bestimmungsgemäße Nutzung, nicht das vorhersehbare Abweichen davon. Wer nach Art. 10 (Daten), Art. 11 (Dokumentation) oder Art. 15 (Genauigkeit, Robustheit) bereits Prozesse aufgebaut hat, sollte prüfen, ob diese Prozesse die Wechselwirkungen aus Abs. 4 tatsächlich abbilden – Doppelarbeit oder Lücken an den Schnittstellen sind häufig.
Abs. 10 erlaubt es, bestehende interne Risikomanagementprozesse aus anderem Unionsrecht zu nutzen oder mit den Art.-9-Anforderungen zu kombinieren. Für Unternehmen mit etablierten Risikomanagementsystemen (etwa aus Produktsicherheit oder Finanzregulierung) kann das Aufwand sparen – vorausgesetzt, die Kombination wird dokumentiert und deckt alle Absätze von Art. 9 ab.
Einordnung in die Frist
Für Hochrisiko-KI-Systeme nach Anhang III gilt inzwischen der 02.12.2027 als Stichtag für die Pflichten – verschoben vom ursprünglichen 02.08.2026. Für Hochrisiko-Systeme, die über Anhang-I-Produktrecht erfasst werden, greift der 02.08.2028. Bis dahin bleibt Zeit, das Risikomanagementsystem nach Art. 9 aufzubauen – die Verschiebung ist kein Grund, den Aufbau aufzuschieben, denn ein iterativer Prozess mit Testphasen lässt sich nicht kurzfristig aus dem Boden stampfen.
Ob Ihr System überhaupt unter die Hochrisiko-Kategorien fällt und welche Fristen konkret greifen, lässt sich mit dem kostenlosen Risiko-Check unter /einstufung klären.