Durchsetzung von Kapitel V des EU-KI-Gesetzes

Diese Seite soll einen Überblick über die Durchsetzungsbestimmungen des EU-KI-Gesetzes in Bezug auf Kapitel V geben, insbesondere über die Bestimmungen, die Anbietern von Allzweck-KI-Modellen (GPAI) Verpflichtungen auferlegen. Außerdem soll untersucht werden, welche Rolle andere Akteure bei der Durchsetzung des KI-Gesetzes spielen können.

In diesem Beitrag geht es weiter:

• Zusammenfassung
• Einführung
• Wesentliche Pflichten von Anbietern des GPAI-Modells
• Verfahrenspflichten der Anbieter des GPAI-Modells
• Wann fallen Anbieter von GPAI-Modellen in den Anwendungsbereich des Gesetzes? 
• Aufsichts- und Durchsetzungsbefugnisse der Kommission
• Wege zur Durchsetzung

Einführung

Am 2. August 2026 treten die Durchsetzungsbefugnisse der Kommission gegenüber Anbietern von GPAI-Modellen in Kraft. Während die in Kapitel V des KI-Gesetzes festgelegten Verpflichtungen für Anbieter von GPAI-Modellen bereits am 2. August 2025 in Kraft getreten sind, wird den Anbietern eine Anpassungsfrist von einem Jahr eingeräumt, bevor die Kommission ihre Aufsichts- und Durchsetzungsbefugnisse ihnen gegenüber ausüben darf. Anbieter von GPAI-Modellen, die vor dem 2. August 2025 veröffentlicht wurden, müssen bis zum 2. August 2027 die Anforderungen erfüllen. 

Einen vollständigen Zeitplan für die Umsetzung des EU-KI-Gesetzes finden Sie hier

Gemäß Artikel 88 des KI-Gesetzes verfügt die Kommission über ausschließliche Befugnisse zur Überwachung und Durchsetzung der Verpflichtungen nach Kapitel V des KI-Gesetzes. Diese Befugnisse werden durch Artikel 89 Absatz 1 des Gesetzes ergänzt, wonach das KI-Amt zudem damit beauftragt ist, die Einhaltung des Gesetzes durch Anbieter von GPAI-Modellen sowie gegebenenfalls die Einhaltung der genehmigten Verhaltenskodizes zu überwachen. 

Wesentliche Pflichten von Anbietern des GPAI-Modells

Die materiell-rechtlichen Verpflichtungen, für deren Durchsetzung die Kommission zuständig sein wird, sind hauptsächlich in den Artikeln 53 und 55 des Gesetzes enthalten, nämlich die Verpflichtung, die technische Dokumentation zum Modell zu erstellen und auf dem neuesten Stand zu halten, Informationen und Unterlagen für nachgelagerte Anbieter von KI-Systemen zu erstellen, auf dem neuesten Stand zu halten und bereitzustellen, eine Richtlinie zur Einhaltung des EU-Urheberrechts zu verabschieden sowie eine Zusammenfassung über die für das Training des Modells verwendeten Inhalte zu erstellen und zu veröffentlichen. 

Anbieter von GPAI-Modellen, die unter einer freien und quelloffenen Lizenz veröffentlicht werden, müssen lediglich die Verpflichtungen hinsichtlich der Urheberrechtsrichtlinie und der Zusammenfassung der Schulungsinhalte erfüllen, es sei denn, das GPAI-Modell stellt ein systemisches Risiko dar (GPAISR). Darüber hinaus müssen Anbieter von GPAISR-Modellen Modellbewertungen durchführen, Risikobewertungen und -minderungsmaßnahmen vornehmen, schwerwiegende Vorfälle aufzeichnen und melden sowie ein ausreichendes Maß an Cybersicherheit des Modells gewährleisten.

Verfahrenspflichten der Anbieter des GPAI-Modells

Weniger offensichtlich ist vielleicht, dass das KI-Gesetz den Anbietern von GPAI-Modellen auch mehrere Verpflichtungen auferlegt, die als verfahrensrechtlicher Natur bezeichnet werden können. Anbieter von GPAI-Modellen sind allgemein verpflichtet, mit der Kommission und den nationalen Behörden bei der Ausübung ihrer Befugnisse gemäß dem KI-Gesetz zusammenzuarbeiten (Artikel 53 Absatz 3). Insbesondere sind Anbieter von GPAI-Modellen verpflichtet, auf Aufforderungen der Kommission zur Vorlage von Unterlagen und Informationen zu reagieren und die Bereitstellung „unrichtiger, unvollständiger oder irreführender Informationen“ zu vermeiden (Artikel 91 Absätze 4 und 5). Anbieter von GPAI-Modellen sind zudem verpflichtet, auf Verlangen der Kommission Zugang zum GPAI-Modell zu gewähren (Artikel 92 Absätze 4 und 5).

Einige dieser eher verfahrenstechnischen Verpflichtungen gelten nur für bestimmte Arten von Anbietern von GPAI-Modellen. So sind beispielsweise in Drittländern ansässige Anbieter verpflichtet, vor dem Inverkehrbringen ihres GPAI-Modells auf dem EU-Markt einen Bevollmächtigten in der Union zu benennen, es sei denn, das Modell wird unter einer freien und quelloffenen Lizenz veröffentlicht (Artikel 54). Die schriftliche Vollmacht, die der Anbieter dem Bevollmächtigten erteilt, muss eine Reihe von Anforderungen erfüllen, die in Artikel 54 Absatz 3 aufgeführt sind. 

Ebenso sind Anbieter von GPAI-Modellen mit hoher Leistungsfähigkeit (die bei einem GPAI-Modell davon ausgegangen wird, wenn die kumulierte Rechenleistung des Modells 10(^25) FLOP übersteigt) verpflichtet, die Kommission „unverzüglich und in jedem Fall innerhalb von zwei Wochen, nachdem diese Anforderung erfüllt ist oder bekannt wird, dass sie erfüllt wird“, unter Beifügung der erforderlichen Informationen zu benachrichtigen (Artikel 51 Absatz 2 und Artikel 52(1)).

Wann fallen Anbieter von GPAI-Modellen in den Anwendungsbereich des Gesetzes? 

Damit ein Anbieter von GPAI-Modellen den oben genannten Verpflichtungen unterliegt und diese Verpflichtungen ihm gegenüber durchgesetzt werden können, muss er in den Anwendungsbereich des KI-Gesetzes fallen. 

Wichtig ist, dass Anbieter von GPAI-Modellen nur dann in den Anwendungsbereich des Gesetzes fallen, wenn sie ihr GPAI-Modell auf dem Unionsmarkt in Verkehr bringen, unabhängig davon, wo sie ihren Sitz haben (Artikel 2 Absatz 1 Buchstabe a). Dies umfasst sowohl das Inverkehrbringen eines eigenständigen GPAI-Modells auf dem Unionsmarkt als auch eine Situation, in der der Anbieter sein GPAI-Modell in sein eigenes KI-System integriert und dieses KI-System auf dem Unionsmarkt in Verkehr bringt oder in der Union in Betrieb nimmt, gemäß Erwägungsgrund 97. 

Die gleiche Logik könnte potenziell auch für Anbieter von GPAI-Modellen gelten, die ihr Modell ausschließlich in Drittländern in Verkehr bringen, wo es von einem nachgelagerten Anbieter in ein KI-System integriert wird und dieses KI-System anschließend in der EU in Verkehr gebracht wird. Dieser Ansatz ist insbesondere im Lichte von Erwägungsgrund 97 überzeugend, in dem es heißt, dass Kapitel V „auch dann gelten sollte, wenn diese Modelle in ein KI-System integriert sind oder Teil eines solchen Systems sind“. Diese Auslegung wird zwar durch Erwägungsgrund 97 gestützt, muss sich jedoch in der Praxis noch bestätigen.

Aufsichts- und Durchsetzungsbefugnisse der Kommission

Aufsichts- und Durchsetzungsbefugnisse ohne Verhängung von Geldbußen

Was die Aufsichts- und Durchsetzungsbefugnisse der Kommission betrifft, so umfassen die Befugnisse, über die die Kommission gegenüber Anbietern von GPAI-Modellen verfügt, die Befugnis, Unterlagen und Informationen anzufordern (Artikel 91), die Befugnis, Bewertungen durchzuführen (Artikel 92) und die Befugnis, Maßnahmen zu verlangen (Artikel 93). 

Gemäß Artikel 91 kann die Kommission die gemäß den Artikeln 53 und 55 erstellten Unterlagen oder sonstige erforderliche Informationen anfordern. Ebenso kann sie, sofern dies erforderlich und verhältnismäßig ist, im Namen des wissenschaftlichen Gremiums Informationen anfordern.

Gemäß Artikel 92 kann die Kommission Bewertungen von GPAI-Modellen durchführen, um entweder die Einhaltung des Gesetzes (sowohl durch die Anbieter von GPAI- als auch von GPAISR-Modellen) festzustellen, wenn die von ihnen vorgelegten Informationen unzureichend waren, oder um systemische Risiken zu untersuchen, die von GPAISR-Modellen ausgehen. Unabhängige Sachverständige, darunter auch Mitglieder des wissenschaftlichen Gremiums, können im Auftrag der Kommission Bewertungen durchführen, sofern die Kommission dies beschließt.

Schließlich kann die Kommission gemäß Artikel 93 von den Anbietern verlangen, „geeignete Maßnahmen zur Erfüllung“ ihrer Verpflichtungen zu ergreifen. Der Artikel räumt der Kommission zudem die Befugnis ein, von den Anbietern die Einführung von Abhilfemaßnahmen zu verlangen, wenn nach einer Bewertung „ernsthafte und begründete Bedenken hinsichtlich eines systemischen Risikos auf Unionsebene“ bestehen . Schließlich kann die Kommission von den Anbietern verlangen, „die Bereitstellung auf dem Markt einzuschränken, das Modell vom Markt zu nehmen oder zurückzurufen“.

Bußgeldbefugnisse

Während die Artikel91–93 des Gesetzes der Kommission Aufsichts- und Durchsetzungsbefugnisse ohne die Verhängung von Geldbußen übertragen, sieht Artikel 101 die Befugnis der Kommission zur Verhängung von Geldbußen vor.

Geldstrafen gegen wen?

Artikel 101 ermächtigt die Kommission, Geldbußen gegen Anbieter von GPAI-Modellen zu verhängen. Im Gegensatz zu Artikel 99, der vorsieht, dass nationale Wettbewerbsbehörden Geldbußen gegen Betreiber von KI-Systemen verhängen können, enthält Artikel 101 keinen ausdrücklichen Hinweis auf die Möglichkeit, eine Geldbuße gegen den bevollmächtigten Vertreter des Anbieters zu verhängen. Der Wortlaut von Artikel 101 Absatz 1 lässt vielmehr darauf schließen, dass die Kommission Geldbußen nur gegen Anbieter von GPAI-Modellen verhängen darf.

Dennoch könnte argumentiert werden, dass Artikel 101 im Lichte von Artikel 54 Absatz 4 auszulegen sei, wonach das Mandat des bevollmächtigten Vertreters diesen dazu ermächtigen soll , „neben oder anstelle des Anbieters von der AI-Stelle oder den zuständigen Behörden in allen Fragen im Zusammenhang mit der Gewährleistung der Einhaltung dieser Verordnung angesprochen zu werden“. Da die Verhängung einer Geldbuße als Maßnahme zur Gewährleistung der Einhaltung des Gesetzes angesehen werden könnte, wäre die Verhängung von Geldbußen nach dieser Auffassung nicht auf Anbieter nach dem GPAI-Modell beschränkt.

Wie hoch?

Die Höchststrafe, die gegen Anbieter von GPAI-Modellen verhängt werden kann, beträgt „3 % ihres weltweiten Gesamtumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR, je nachdem, welcher Betrag höher ist“.

Aufgrund welcher Verstöße? 

Es gibt vier Rechtsgrundlagen für die Verhängung einer Geldbuße gemäß Artikel 101 Absatz 1: 

1. gegen die einschlägigen Bestimmungen des KI-Gesetzes verstoßen; 
2. die Nichtbefolgung einer Aufforderung zur Vorlage von Unterlagen oder Informationen oder die Übermittlung unvollständiger Informationen gemäß Artikel 91; 
3. die Nichtbefolgung einer gemäß Artikel 93 angeordneten Maßnahme; und 
4. der Kommission keinen Zugang zum GPAI- oder GPAISR-Modell zu gewähren, um eine Bewertung gemäß Artikel 92 durchzuführen. 

Zwei dieser Gründe entsprechen eindeutig den beiden verfahrensrechtlichen Verpflichtungen, die den Anbietern von GPAI-Modellen gemäß den Artikeln 91 und 92 auferlegt sind und bereits weiter oben in diesem Text erwähnt wurden. Auch wenn die Befolgung eines Antrags auf Ergreifung einer Maßnahme keine ausdrücklich festgelegte Verpflichtung gemäß Artikel 93 darstellt, wie dies bei den oben genannten Verpflichtungen gemäß den Artikeln 91 und 92 der Fall ist, lässt sie sich dennoch der allgemeineren Verpflichtung zur Zusammenarbeit mit der Kommission zuordnen, die in Artikel 53(3) festgelegt ist.

Diese umfassendere Mitwirkungspflicht beschränkt sich jedoch wahrscheinlich nicht auf die Verpflichtung, dem Ersuchen der Kommission um Maßnahmen nachzukommen. Darüber hinaus unterliegen einige Anbieter von GPAI-Modellen weiteren, nicht mit der Mitwirkung zusammenhängenden Verpflichtungen verfahrensrechtlicher Art, wie etwa der Bestellung eines bevollmächtigten Vertreters oder der Unterrichtung der Kommission über die Fähigkeiten ihres GPAI-Modells, die erhebliche Auswirkungen haben können, wie bereits weiter oben in diesem Text näher beschrieben. Aus diesen Gründen ist es sehr wahrscheinlich, dass sich die erste Rechtsgrundlage für die Verhängung einer Geldbuße, nämlich der Fall, dass der Anbieter eines GPAI-Modells gegen „die einschlägigen Bestimmungen“ des Gesetzes verstößt, nicht auf die in den Artikeln 53 und 55 enthaltenen materiell-rechtlichen Verpflichtungen beschränkt. Vielmehr erstreckt sie sich wahrscheinlich, soweit anwendbar, auch auf die in den Artikeln 52, 53 Absatz 3 und 54 genannten verfahrensrechtlichen Verpflichtungen.

Wege zur Durchsetzung

Zwar ist gemäß Kapitel V des KI-Gesetzes allein die Kommission mit der Überwachung und Durchsetzung der Verpflichtungen aus dem GPAI-Modell betraut, doch können auch verschiedene andere Akteure zur Durchsetzung beitragen.

Ausgehend von der Kommission ist das KI-Büro gemäß Artikel 89 Absatz 1 mit der Überwachung der Einhaltung des Gesetzes durch die Anbieter von Allzweck-KI-Modellen beauftragt. Dies umfasst die Überwachung der Einhaltung genehmigter Verhaltenskodizes durch die Anbieter, die ein freiwilliges Instrument darstellen, mit dem die Anbieter die Einhaltung des Gesetzes nachweisen können. Zwar begründen Verhaltenskodizes keine Konformitätsvermutung, doch hat die Kommission in ihren Leitlinien für Anbieter von Allzweck-KI-Modellen zum Ausdruck gebracht, dass „die Kommission bei Anbietern von Allzweck-KI-Modellen, die sich an einen als angemessen bewerteten Verhaltenskodex halten, ihre Durchsetzungsmaßnahmen auf die Überwachung der Einhaltung des Verhaltenskodex konzentrieren wird“. Diese Anbieter werden zudem „von einem erhöhten Vertrauen seitens der Kommission und anderer Interessengruppen profitieren“. 

Angesichts des von der Kommission eingeräumten begrenzten Umfangs der Überwachung sowie des verstärkten Vertrauens in Anbieter, die den GPAI-Verhaltenskodex unterzeichnet haben, der am 2. August 2025 in Kraft tritt, könnte sich die Rolle anderer Akteure bei der Durchsetzung des KI-Gesetzes als wichtig erweisen. Zu den Akteuren, die auf Verstöße aufmerksam machen und somit zur Durchsetzung des Gesetzes beitragen können, gehören nationale Marktüberwachungsbehörden, nachgelagerte Anbieter und das wissenschaftliche Gremium.

Marktüberwachungsbehörden

Was die zuständigen Aufsichtsbehörden betrifft, so stellt das KI-Büro diesen Behörden die erforderlichen Informationen zur Verfügung, wenn eine zuständige Aufsichtsbehörde die Prüfung eines auf einem GPAI-Modell basierenden KI-Systems mit hohem Risiko nicht abschließen kann, weil Informationen über das zugrunde liegende GPAI-Modell fehlen (Artikel 75 Absatz 3). Darüber hinaus, und was noch wichtiger ist, können die MSAs die Kommission ersuchen, ihre Befugnisse gemäß den Artikeln91–93 des Gesetzes auszuüben , „sofern dies zur Erfüllung ihrer Aufgaben“ gemäß dem Gesetz „erforderlich und verhältnismäßig ist“ (Artikel 88 Absatz 2). 

Daher können die Marktüberwachungsbehörden eine wichtige Rolle dabei spielen, Informationen über Verstöße von Anbietern von GPAI-Modellen, die den KI-Systemen zugrunde liegen und in den Zuständigkeitsbereich der Marktüberwachungsbehörden fallen, zu sammeln, auf diese aufmerksam zu machen und Maßnahmen zu fordern. Dieser Mechanismus könnte besonders bedeutsam sein, wenn er mit dem Recht einer natürlichen oder juristischen Person kombiniert wird, bei der zuständigen Marktüberwachungsbehörde eine Beschwerde einzureichen, sofern sie Grund zu der Annahme hat, dass ein Verstoß gegen das Gesetz vorliegt (Artikel 85). Die Bestimmung fügt hinzu, dass „solche Beschwerden bei der Durchführung von Marktüberwachungsmaßnahmen zu berücksichtigen sind“.

Wichtig ist, dass Artikel 85 nicht ausdrücklich vorsieht, dass sich die beanstandeten Verstöße auf Verstöße auf der Ebene des KI-Systems beziehen müssen. Der Verweis auf die „zuständige Marktüberwachungsbehörde“ könnte zwar nahelegen, dass sich die Beschwerde auf diejenigen KI-Systeme beschränken sollte, für die die jeweilige Marktüberwachungsbehörde zuständig ist, könnte aber auch so ausgelegt werden, dass er sich auf die Marktüberwachungsbehörde des Mitgliedstaats bezieht, in dem die natürliche oder juristische Person, die die Beschwerde eingereicht hat, ihren Sitz hat. Diese letztere Auslegung würde es einer natürlichen oder juristischen Person ermöglichen, eine Beschwerde bezüglich mutmaßlicher Verstöße von GPAI-Modellen gegen das KI-Gesetz einzureichen.

Auch wenn diese Auslegung noch in der Praxis bestätigt werden muss, könnte die Verpflichtung der MSAs, die Beschwerde im Rahmen ihrer Tätigkeit zu berücksichtigen – wozu auch ihre Befugnis gehört, die Kommission aufzufordern, ihre Aufsichts- und Durchsetzungsbefugnisse gemäß den Artikeln91–93 auszuüben –, diese Kombination zu einem wirksamen Instrument für Einzelpersonen machen, um die Durchsetzung des KI-Gesetzes gegenüber Anbietern von GPAI-Modellen sicherzustellen.

nachgelagerte Anbieter

Es ist erwähnenswert, dass auch nachgelagerten Anbietern das Recht eingeräumt wird, eine Beschwerde wegen eines mutmaßlichen Verstoßes gegen das Gesetz einzureichen (Artikel 89 Absatz 2). Ein nachgelagerter Anbieter ist „ein Anbieter eines KI-Systems, einschließlich eines Allzweck-KI-Systems, das ein KI-Modell integriert“ (Artikel 3 Absatz 68). 

Nachgelagerte Anbieter verfügen über die vom Anbieter des GPAI-Modells gemäß Artikel 53 Absatz 1 Buchstabe b erstellte technische Dokumentation und sind mit der Funktionsweise des zugrunde liegenden Modells besser vertraut als eine durchschnittliche Person. Aus diesen Gründen sind nachgelagerte Anbieter in einer einzigartigen Position, um zur Durchsetzung des KI-Gesetzes gegenüber Anbietern von GPAI-Modellen beizutragen, falls sie beschließen, eine Beschwerde einzureichen, aufgrund derer das KI-Amt beschließt, seine Durchsetzungsbefugnisse auszuüben.

Das wissenschaftliche Gremium

Schließlich spielt das wissenschaftliche Gremium eine wichtige Rolle bei der Gewährleistung der ordnungsgemäßen Durchsetzung des Gesetzes. Es kann eine qualifizierte Warnung an das KI-Büro richten, wenn der Verdacht besteht, dass ein GPAI-Modell ein konkretes, identifizierbares Risiko auf EU-Ebene darstellt, oder wenn ein GPAI-Modell ein GPAISR-Modell darstellt (Artikel 90). Gemäß Artikel 18 Absatz 1 des Durchführungsrechtsakts der Kommission über das wissenschaftliche Gremium erfordert die Herausgabe einer qualifizierten Warnung mindestens eine einfache Mehrheit der Mitglieder des wissenschaftlichen Gremiums. 

Die Kommission kann auf der Grundlage dieser Meldung ihre Befugnisse gemäß den Artikeln91–93 des AI-Gesetzes ausüben. Auch wenn dies nicht ausdrücklich erwähnt wird, kann die Kommission in solchen Fällen auch ihre Befugnisse zur Verhängung von Geldbußen gemäß Artikel 101 des AI-Gesetzes ausüben, da Artikel 101 eine eigenständige Befugnis zur Verhängung einer Geldbuße aufgrund eines Verstoßes gegen die Verpflichtungen des GPAI-Modells gewährt. Dies umfasst vernünftigerweise auch die Verstöße, auf die die Kommission vom wissenschaftlichen Gremium hingewiesen wird.

Nach Erhalt der qualifizierten Warnmeldung muss das KI-Amt gemäß Artikel 19 Absatz 2 des Durchführungsgesetzes innerhalb von zwei Wochen entscheiden, ob es von seinen Befugnissen nach den Artikeln91–93 des KI-Gesetzes Gebrauch macht. Diese Bestimmung, die ein zügiges Verfahren vorsieht, macht den Mechanismus der qualifizierten Warnmeldungen im Rahmen des Durchsetzungssystems des KI-Gesetzes besonders nützlich.