Art. 55 KI-VO: Pflichten für Hochrisiko-GPAI

Worum es geht: eine zusätzliche Pflichtenstufe für die größten GPAI-Modelle

Art. 55 der KI-VO (EU) 2024/1689 richtet sich an eine kleine, aber besonders relevante Gruppe: Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI), die als Modelle „mit systemischem Risiko“ eingestuft sind. Diese Pflichten kommen nicht anstelle, sondern zusätzlich zu den allgemeinen GPAI-Pflichten aus Art. 53 und Art. 54. Die GPAI-Pflichten insgesamt – einschließlich Art. 55 – gelten bereits seit dem 02.08.2025. Wer ein solches Modell anbietet, kann sich also nicht auf eine noch laufende Übergangsfrist berufen; die Uhr läuft.

Praktisch bedeutet das: Wenn Sie ein Basismodell trainieren, das aufgrund seiner Kapazitäten (etwa Trainingsrechenleistung) als systemisch riskant eingestuft wird oder von der Kommission als solches benannt wurde, greifen ab sofort vier konkrete Pflichtenblöcke.

Die vier Pflichten im Einzelnen

Art. 55 Abs. 1 verlangt:

• Modellbewertung nach Stand der Technik (lit. a): Sie müssen standardisierte Protokolle und Instrumente einsetzen, um systemische Risiken zu ermitteln und zu mindern. Dazu zählt ausdrücklich die Durchführung und Dokumentation von Angriffstests (Adversarial Testing) am Modell. Eine einmalige interne Qualitätsprüfung reicht nicht – gefordert ist ein wiederholbares, dokumentiertes Verfahren.
• Bewertung und Minderung unionsweiter Systemrisiken (lit. b): Zu beurteilen sind nicht nur Risiken Ihres eigenen Einsatzes, sondern mögliche Auswirkungen, die sich aus Entwicklung, Inverkehrbringen oder Verwendung des Modells in der gesamten Union ergeben können – samt deren Ursachen.
• Vorfallmanagement mit Meldepflicht (lit. c): Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen sind zu erfassen und zu dokumentieren. Das AI Office und gegebenenfalls die zuständigen nationalen Behörden sind unverzüglich zu unterrichten. „Unverzüglich“ heißt: kein Warten auf den nächsten internen Reporting-Zyklus.
• Cybersicherheit für Modell und Infrastruktur (lit. d): Gefordert ist ein angemessenes Sicherheitsniveau nicht nur für das Modell selbst, sondern auch für die physische Infrastruktur, auf der es betrieben wird.

Alle vier Pflichten setzen ein belastbares, fortlaufendes Risikomanagement voraus – keine einmalige Konformitätsprüfung vor Markteinführung.

Praxisleitfäden und Normen als Nachweisweg

Art. 55 Abs. 2 eröffnet einen pragmatischen Weg: Solange keine harmonisierte europäische Norm veröffentlicht ist, können sich Anbieter auf Praxisleitfäden nach Art. 56 stützen, um die Einhaltung der Pflichten aus Abs. 1 nachzuweisen. Die Einhaltung einer harmonisierten Norm begründet sogar eine Konformitätsvermutung, soweit sie die jeweiligen Pflichten abdeckt. Wer weder Leitfaden noch Norm befolgt, muss der Kommission alternative, gleichwertige Verfahren aufzeigen – das ist der aufwändigere, weniger planbare Weg.

Für die Praxis heißt das: Es lohnt sich, frühzeitig zu prüfen, ob und welche Praxisleitfäden für Ihr Modell einschlägig sind, statt eigene Verfahren von Grund auf zu entwickeln und später gegenüber der Kommission rechtfertigen zu müssen.

Vertraulichkeit und typische Lücken

Art. 55 Abs. 3 verweist auf Art. 78: Informationen und Dokumentation, die im Rahmen dieser Pflichten erlangt werden, unterliegen den dort festgelegten Vertraulichkeitspflichten. Das entlastet Anbieter nicht von der Meldepflicht, schützt aber sensible Informationen vor unkontrollierter Weiterverbreitung.

In der Praxis zeigen sich vor allem drei Lücken:

1. Angriffstests fehlen oder sind nicht dokumentiert. Viele Anbieter führen interne Tests durch, ohne sie im geforderten Detail zu protokollieren – im Ernstfall lässt sich die Sorgfalt dann nicht belegen.
2. Kein Prozess für schwerwiegende Vorfälle. Es fehlt eine klare interne Eskalationskette, die eine „unverzügliche“ Meldung an das AI Office überhaupt ermöglicht.
3. Cybersicherheit wird auf das Modell verengt. Die physische Infrastruktur – Rechenzentren, Zugriffsmanagement, Lieferketten – wird oft nicht mit gleicher Sorgfalt bewertet wie das Modell selbst.

Wo Sie stehen

Wenn Sie ein GPAI-Modell anbieten oder mit einem Anbieter zusammenarbeiten, sollten Sie klären, ob eine Einstufung als Modell mit systemischem Risiko in Betracht kommt – und wenn ja, ob Ihre Prozesse für Modellbewertung, Risikominderung, Vorfallmanagement und Cybersicherheit den Anforderungen des Art. 55 bereits standhalten. Einen ersten, kostenlosen Überblick über Ihre Einstufung und offene Punkte erhalten Sie unter /einstufung.