Was Artikel 13 verlangt
Artikel 13 der KI-VO adressiert ein Problem, das viele Unternehmen unterschätzen: Ein Hochrisiko-KI-System kann technisch einwandfrei funktionieren und trotzdem regelwidrig eingesetzt werden – einfach weil der Betreiber nicht weiß, wie er die Ausgaben interpretieren soll. Absatz 1 verpflichtet Anbieter deshalb, Systeme so zu konzipieren, dass ihr Betrieb „hinreichend transparent“ ist, damit Betreiber die Ausgaben angemessen interpretieren und verwenden können.
Absatz 2 macht daraus eine konkrete Dokumentationspflicht: Hochrisiko-KI-Systeme müssen mit Betriebsanleitungen in geeignetem digitalem Format bereitgestellt werden. Die Anleitung muss präzise, vollständig, korrekt und eindeutig sein – und zwar in einer Form, die für Betreiber relevant, barrierefrei zugänglich und verständlich ist. Das ist kein technisches Datenblatt für Entwickler, sondern ein Dokument, das eine Person ohne ML-Hintergrund tatsächlich anwenden kann.
Die Pflichtinhalte im Detail
Artikel 13 Absatz 3 listet die Mindestinhalte auf. In der Praxis lassen sich diese in vier Blöcke gruppieren:
Identität und Zweck: Name und Kontaktdaten des Anbieters (ggf. des Bevollmächtigten) sowie die Zweckbestimmung des Systems (lit. a, b Ziff. i).
Leistungsfähigkeit und Grenzen: Genauigkeit, Robustheit und Cybersicherheit gemäß Artikel 15 inklusive Metriken, dazu bekannte oder vorhersehbare Umstände, die diese Werte beeinflussen können – ebenso vernünftigerweise vorhersehbare Fehlanwendungen, die zu Risiken nach Artikel 9 Absatz 2 führen können (lit. b Ziff. ii–iii). Wo relevant: Informationen zur Erläuterung der Ausgaben, zur Leistung bei bestimmten Personengruppen und Angaben zu Trainings-, Validierungs- und Testdatensätzen (lit. b Ziff. iv–vi).
Betrieb und Aufsicht: Vorab bestimmte Änderungen des Systems und seiner Leistung (lit. c), die Maßnahmen zur menschlichen Aufsicht nach Artikel 14 einschließlich technischer Hilfen zur Interpretation der Ausgaben (lit. d), sowie benötigte Rechen- und Hardware-Ressourcen, erwartete Lebensdauer und notwendige Wartungsmaßnahmen inklusive Update-Rhythmus (lit. e).
Protokollierung: Eine Beschreibung der in das System integrierten Mechanismen, mit denen Betreiber Protokolle im Einklang mit Artikel 12 erfassen, speichern und auswerten können (lit. f).
Typische Lücken in der Praxis
In vielen Unternehmen existiert bereits eine „Nutzerdokumentation“ – sie erfüllt aber selten die Anforderungen von Artikel 13. Drei Muster tauchen wiederholt auf:
Erstens fehlen Genauigkeits- und Robustheitsangaben mit konkreten Metriken. Häufig steht dort nur ein allgemeiner Hinweis wie „das System wurde getestet“, ohne dass Betreiber nachvollziehen können, unter welchen Bedingungen die getesteten Werte gelten und wann sie sich verschlechtern können.
Zweitens wird die Interpretierbarkeit der Ausgaben vernachlässigt. Artikel 13 Absatz 3 lit. b Ziff. vii verlangt ausdrücklich Informationen, die es Betreibern ermöglichen, die Ausgabe angemessen zu nutzen. Eine reine Ergebnisanzeige ohne Kontext – etwa ein Score ohne Erläuterung, was er bedeutet oder wie stabil er ist – reicht nicht aus.
Drittens fehlt der Bezug zu Artikel 14 (menschliche Aufsicht) und Artikel 12 (Protokollierung). Diese Anleitungen behandeln das System oft isoliert, ohne zu beschreiben, welche technischen Vorkehrungen zur Aufsicht bestehen oder wie die Protokollmechanismen konkret funktionieren.
Wer ist zuständig – und was bedeutet das für Betreiber?
Die Pflicht zur Erstellung der Betriebsanleitung trifft den Anbieter. Für Betreiber ist Artikel 13 trotzdem relevant: Ohne eine Anleitung, die die genannten Mindestinhalte abdeckt, können Sie Ihre eigenen Betreiberpflichten – etwa zur menschlichen Aufsicht oder zur Protokollauswertung – kaum sauber nachweisen. Wenn Sie ein Hochrisiko-KI-System einsetzen und die Anleitung des Anbieters lückenhaft ist, sollten Sie das aktiv einfordern, bevor Sie das System produktiv nutzen. Wer selbst als Anbieter auftritt – etwa durch wesentliche Veränderung eines fremden Systems – übernimmt die volle Dokumentationspflicht nach Artikel 13.
Fazit
Artikel 13 verlangt keine Marketingbroschüre, sondern ein technisch belastbares Betriebsdokument mit konkreten Metriken, Grenzen und Aufsichtsmechanismen. Wer nur eine allgemeine Nutzeranleitung vorhält, wird bei einer Prüfung schnell Lücken offenbaren. Ob Ihr System überhaupt als Hochrisiko-KI im Sinne der Verordnung gilt und welche Pflichten daraus konkret folgen, lässt sich mit unserem kostenlosen Risiko-Check unter /einstufung klären.