Eine Einführung in Verhaltenskodizes für das AI-Gesetz

Aktualisiert: 30. Oktober 2024. Dieser Blogbeitrag wird aktualisiert, sobald neue Informationen verfügbar sind.

Diese Zusammenfassung, die den Verhaltenskodex für Anbieter von KI-Modellen für allgemeine Zwecke beschreibt, wurde von Jimmy Farrell, Leiter der EU-KI-Politik bei Pour Demain, und Pour Demain Fellow Afek Shamir zusammengestellt. Für weitere Fragen wenden Sie sich bitte an jimmy.farrell@pourdemain.eu.

---

Im Zuge der Umsetzung des AI-Gesetzes ist es wichtig, die verschiedenen in der Verordnung vorgesehenen Durchsetzungsmechanismen zu verstehen. Einer der wichtigsten sind die Verhaltenskodizes, die derzeit vom Amt für künstliche Intelligenz und einem breiten Spektrum von Interessengruppen entwickelt werden.

Einführung

Dieser Blog-Beitrag erläutert das Konzept, den Prozess und die Bedeutung des Verhaltenskodex, eines Instruments des KI-Gesetzes zur Überbrückung der Übergangszeit zwischen dem Inkrafttreten der Verpflichtungen für Anbieter von KI-Modellen für allgemeine Zwecke (GPAI) und der letztendlichen Annahme harmonisierter europäischer GPAI-Modellstandards. Nach der detaillierten Ankündigung der EU-AI-Büros vom 30. Juli, wie dieser Prozess ablaufen wird, fasst dieser Beitrag die wichtigsten und aktuellsten Informationen zusammen. 

Normen und die Notwendigkeit eines Verhaltenskodexes 

Nach der endgültigen Verabschiedung der AI-Akte durch den Europäischen Rat am 21. Mai¹und der Veröffentlichung der AI-Akte im EU-Amtsblatt am 12. Juli²und dem Inkrafttreten am 1. August werden die Verpflichtungen der Verordnung in den nächsten drei Jahren schrittweise eingeführt, wie in unserem Zeitplan für die Umsetzung beschrieben. In der Zwischenzeit hat der komplexe Prozess der Entwicklung harmonisierter europäischer Normen begonnen, um die Verpflichtungen aus dem Gesetz umzusetzen. Während ein offizieller Normungsantrag von der Kommission angenommen und von CEN-CENELEC in Bezug auf Normen für KI-Systeme genehmigt wurde³angenommen wurde, muss ein ähnlicher Antrag zu GPAI-Musternormen noch ausgearbeitet werden. Wann ein solcher Normungsauftrag erteilt wird, hängt weitgehend davon ab, wie wirksam der Verhaltenskodex die einschlägigen Verpflichtungen aus dem KI-Gesetz umsetzen kann.

Der Standardisierungsprozess wird auch in einem anderen Blogbeitrag ausführlich beschrieben. 

Nach dem AI-Gesetz sind die Verpflichtungen für AI-Modelle für allgemeine Zwecke, die in den Artikeln 50-55 aufgeführt sind, zwölf Monate lang einklagbar⁴ nach Inkrafttreten des Gesetzes (August 2025). Der europäische Normungsprozess, an dem hauptsächlich⁵ das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (CENELEC), kann jedoch oft bis zu drei Jahre dauern⁶. Bei technischeren Normen, wie denen für GPAI, kann dieser Prozess sogar noch länger dauern, und wenn sie in Abstimmung mit internationalen Normen ausgearbeitet werden⁷wie im AI-Gesetz vorgeschrieben⁸. Die Notwendigkeit, mehrere Interessengruppen einzubeziehen, und der Ansatz der Konsensfindung nehmen noch mehr Zeit in Anspruch. Daher ist es unwahrscheinlich, dass die GPAI-Modellanbieterverpflichtungen in absehbarer Zeit als technische Standards umgesetzt werden.

Kodex der Praxis

In Artikel 56 des AI-Gesetzes wird der Verhaltenskodex als Platzhalter für die Einhaltung der Vorschriften beschrieben, um die Zeit zwischen dem Inkrafttreten der GPAI-Musteranbieterpflichten (zwölf Monate nach Inkrafttreten) und der Annahme von Normen (drei Jahre oder mehr nach Inkrafttreten) zu überbrücken. Die Einhaltung der in den Verhaltenskodizes dargelegten Maßnahmen durch die GPAI-Musteranbieter ist zwar nicht rechtsverbindlich, dient aber bis zum Inkrafttreten der Normen als Vermutung für die Konformität mit den Verpflichtungen der GPAI-Musteranbieter gemäß Artikel 53 und 55. Diese Verpflichtungen umfassen⁹:

• Bereitstellung von technischen Unterlagen für das AI-Büro und die zuständigen nationalen Behörden
• Bereitstellung relevanter Informationen für nachgeschaltete Anbieter, die ihr Modell in ihr KI- oder GPAI-System integrieren wollen (z. B. Fähigkeiten und Grenzen)
• Zusammenfassungen der verwendeten Trainingsdaten
• Maßnahmen zur Einhaltung des geltenden Unionsrechts zum Urheberrecht

Für GPAI-Modelle mit systemischem Risiko (Modelle, die oberhalb des Schwellenwerts von 10^25 FLOPS trainiert werden), gelten folgende weitere Verpflichtungen¹⁰:

• Modellbewertungen nach dem Stand der Technik
• Risikobewertung und -minderung
• Meldung schwerwiegender Zwischenfälle, einschließlich Abhilfemaßnahmen
• Angemessener Schutz der Cybersicherheit

Anbieter, die den Verhaltenskodex nicht einhalten, müssen der Kommission die Einhaltung der oben genannten Verpflichtungen mit anderen Mitteln nachweisen¹¹nachzuweisen, was möglicherweise aufwändiger und zeitraubender ist. Diese Situation spielt sich derzeit in einem parallelen Fall in der EU-Digitalpolitik ab: X (ehemals Twitter) hat sich aus dem verschärften Verhaltenskodex für Desinformation zurückgezogen¹²zurückgezogen hat, der kürzlich als Verhaltenskodex in den Koregulierungsrahmen des Gesetzes über digitale Dienste aufgenommen wurde¹³. 

Der Verhaltenskodex wird wahrscheinlich die Grundlage für die GPAI-Standards bilden. Der Inhalt des Kodex soll daher die Intentionen des AI-Gesetzes getreu widerspiegeln, auch im Hinblick auf Gesundheit, Sicherheit und Grundrechtsbelange.

Entwurfsverfahren

Aufgrund der zwölfmonatigen Frist für das Inkrafttreten der GPAI-Modellanbieterpflichten muss der Verhaltenskodex innerhalb von neun Monaten nach Inkrafttreten des AI-Gesetzes (bis zum 1. Mai 2025) ausgearbeitet werden. Dies soll der Kommission nach einer Überprüfung durch das AI-Büro und den AI-Vorstand ermöglichen¹⁴Zeit zu geben, sie per Durchführungsrechtsakt zu genehmigen oder abzulehnen.¹⁵zu genehmigen oder abzulehnen, und im letzteren Fall alternative Methoden zur Durchsetzung zu entwickeln. 

In einer kürzlich veröffentlichten Mitteilung hat die Kommission die Struktur des Entwurfsprozesses skizziert, einschließlich eines Aufrufs zur Interessensbekundung an ein breites Spektrum von Interessengruppen für die Teilnahme an der Plenarsitzung des Verhaltenskodex, der Eröffnung einer Konsultation mehrerer Interessengruppen und paralleler spezieller "Workshops" für Anbieter und Vorsitzende und stellvertretende Vorsitzende der Arbeitsgruppen (AG) der Plenarsitzung. 

Die Kommission hat dargelegt, dass die Struktur des Entwurfsprozesses einen Aufruf zur Interessenbekundung an ein breites Spektrum von Interessenvertretern für die Teilnahme an der Plenarsitzung des Verhaltenskodex, die Eröffnung einer Konsultation mehrerer Interessenvertreter und parallele "Workshops" für Anbieter und die Vorsitzenden und stellvertretenden Vorsitzenden der Arbeitsgruppen (AG) der Plenarsitzung umfasst. Diese Aufforderung zur Interessenbekundung und die erste Multi-Stakeholder-Konsultation sind nun abgeschlossen, und die Kommission wird die relevanten Interessengruppen im Laufe des Septembers 2024 über den Stand ihrer Teilnahme informieren.

Die folgende Tabelle enthält weitere Informationen über die einzelnen Möglichkeiten, die Fristen, die beteiligten Teilnehmer und die Zulassungskriterien für die einzelnen Teilnehmer:

Gelegenheit	Deadline	Teilnehmer*innen	Kriterien für die Zuschussfähigkeit
Teilnahme an der Ausarbeitung der CoP (Plenum)	25. August 2024 (Frist verstrichen)	Vorsitzende oder stellvertretende Vorsitzende von Arbeitsgruppen (Akademiker oder andere unabhängige Experten)	- Nachgewiesene Sachkenntnis in den einschlägigen Bereichen und - Fähigkeit, die Aufgabe zu erfüllen (zeitliche Verpflichtungen und operative Erfahrung) und - Unabhängigkeit**
		GPAI-Modellanbieter	- Bestehende Operationen in der EU oder - Geplante Operationen in der EU
		- Nachgeschaltete Anbieter - Andere Branchenorganisationen	- Bestehende Geschäfte in der EU oder - Geplante Geschäfte in der EU und - Nachgewiesenes berechtigtes Interesse
		- Wissenschaft - Unabhängige Experten - Verbundene Organisationen	Nachweis von einschlägigem Fachwissen Kann sich auch für den Vorsitz/Vizevorsitz einer Arbeitsgruppe melden
		Andere Organisationen von Interessengruppen (einschließlich Organisationen der Zivilgesellschaft, die eine bestimmte Interessengruppe vertreten, oder Organisationen, die Rechteinhaber vertreten)	- Präsenz in der EU und - Nachweisliches berechtigtes Interesse und - Nachweisliche Vertretung einer relevanten Interessengruppe
Konsultation mehrerer Interessengruppen	18. September 2024 (Frist abgelaufen)	Alle Interessengruppen	K.A.
Anbieter-Workshops*	K.A.	- GPAI-Modellanbieter - Vorsitzende/Vizevorsitzende der Arbeitsgruppen	K.A.

Plenarsitzung

Das Plenum ist in die folgenden vier Arbeitsgruppen unterteilt, die sich an den verschiedenen Inhaltskategorien orientieren, die im oben erwähnten GPAI-Musterteil des AI-Gesetzes beschrieben sind:

• Arbeitsgruppe 1: Transparenz und urheberrechtliche Vorschriften
  Ausarbeitung von Unterlagen für nachgeschaltete Anbieter und das Amt für geistiges Eigentum auf der Grundlage der Anhänge XI und XII des Gesetzes über geistiges Eigentum, Maßnahmen zur Einhaltung des Unionsrechts zum Urheberrecht und zu verwandten Schutzrechten und Veröffentlichung einer Zusammenfassung der Schulungsinhalte.
• Arbeitsgruppe 2: Risikoermittlung und Bewertungsmaßnahmen für systemische Risiken
  Detaillierte Beschreibung der Risikotaxonomie auf der Grundlage eines Vorschlags des AI-Büros sowie Ermittlung und detaillierte Beschreibung relevanter technischer Risikobewertungsmaßnahmen, einschließlich Modellbewertung und kontradiktorischer Tests.
• Arbeitsgruppe 3: Risikominderungsmaßnahmen für systemische Risiken
  Identifizierung und detaillierte Beschreibung relevanter technischer Risikominderungsmaßnahmen, einschließlich des Schutzes der Cybersicherheit für das KI-Allzweckmodell und die physische Infrastruktur des Modells.
• Arbeitsgruppe 4: Internes Risikomanagement und Governance für Anbieter von KI-Modellen für allgemeine Zwecke
  Identifizierung und Detaillierung von Richtlinien und Verfahren zur Operationalisierung des Risikomanagements in der internen Governance von Anbietern von KI-Modellen für allgemeine Zwecke, einschließlich der Verfolgung, Dokumentation und Meldung schwerwiegender Vorfälle und möglicher Abhilfemaßnahmen.

Quelle: Europäische Kommission

Nachdem die in Frage kommenden Teilnehmer ausgewählt und in die einzelnen Arbeitsgruppen eingeteilt worden waren (Teilnehmer können mehreren Arbeitsgruppen angehören, aber es darf nur ein Vertreter pro Organisation anwesend sein), kam das Plenum am 30. September 2024 zu einem "Kick-off" zusammen. Dieses virtuelle Treffen, an dem fast 1000 Personen teilnahmen¹⁶informierte die Teilnehmer über das Redaktionsverfahren und die Themen, die in den einzelnen Arbeitsgruppen behandelt werden sollten. Die Kommission erhielt vielfältige Beiträge von Vertretern der Industrie, der Rechteinhaber, der Zivilgesellschaft und der Wissenschaft.¹⁷.

Eine Woche vor der ersten Plenarsitzung im November wird der vorläufige Entwurf des Verhaltenskodexes an die beteiligten Interessengruppen verteilt. Dieser wird zu einem großen Teil auf den fast 430 Beiträgen beruhen, die die Kommission im Rahmen der Konsultation der verschiedenen Interessengruppen erhalten hat¹⁸. Diese enthüllten ein breites Spektrum von Standpunkten zwischen GPAI-Anbietern und anderen Interessengruppen¹⁹. Mit dem Eingang des ersten Entwurfs wird ein iterativer Prozess mit drei Fernsitzungen der Arbeitsgruppe eingeleitet, die im Laufe des neunmonatigen Erstellungszeitraums stattfinden werden. 

Parallel dazu werden spezielle Workshops mit den GPAI-Modellanbietern und den Vorsitzenden/Vizevorsitzenden der Arbeitsgruppen stattfinden, um jede iterative Entwurfsrunde zu informieren. Diese zusätzliche Beteiligung wird von der Kommission damit begründet, dass die GPAI-Modellanbieter die "Hauptadressaten" des Verhaltenskodex und damit die wichtigsten Interessenvertreter sind. Um die Transparenz dieser zusätzlichen Workshops zu gewährleisten, hat sich das AI-Büro verpflichtet, die Sitzungsprotokolle während des gesamten Prozesses an alle Plenarteilnehmer weiterzugeben. 

Im Anschluss an die drei Redaktionsrunden und die Workshops nur für Anbieter und am Ende der neunmonatigen Frist im April 2025 wird die endgültige Fassung des Verhaltenskodex auf einer Abschlussplenarsitzung vorgestellt. 

Vorsitzende und stellvertretende Vorsitzende

Eine entscheidende Komponente des Prozesses zur Ausarbeitung des Verhaltenskodex sind die Rollen des Vorsitzenden und der stellvertretenden Vorsitzenden jeder Arbeitsgruppe sowie eines koordinierenden Vorsitzenden, der die Kohärenz aller vier Arbeitsgruppen gewährleistet. Sie werden in erster Linie dafür verantwortlich sein, die Beiträge aller Interessengruppen in einem prägnanten Verhaltenskodex zusammenzufassen; eine Rolle, die oft als "Federhalter" bezeichnet wird. Diese Rollen wurden nun von der Kommission unter Berücksichtigung ihres technischen Fachwissens, ihrer zeitlichen Verfügbarkeit, ihrer operativen Erfahrung und ihrer Unabhängigkeit von finanziellen oder anderen Interessen ausgewählt und veröffentlicht.

Zu den weiteren Aufgaben des Vorsitzes und der stellvertretenden Vorsitze gehören:

• Synthese von Beiträgen anderer Plenarteilnehmer 
• Moderation, Terminplanung und Erleichterung der Diskussionen der Arbeitsgruppe
• Erleichterung der Erstellung und Qualität effizienter Entwürfe
• Aufstellung und Durchführung von Tagesordnungen
• Teilnahme an separaten Workshops, Überwachung der Fortschritte und regelmäßige Berichterstattung über relevante Aktivitäten

Es überrascht nicht, dass für solch wichtige Positionen ein erhebliches zeitliches Engagement erforderlich ist. Obwohl die Vorsitzenden und stellvertretenden Vorsitzenden logistisch und verwaltungstechnisch von externen Vertragspartnern unterstützt werden (ein Konsortium von Beratungsunternehmen, darunter das französische Beratungsunternehmen Wavestone²⁰) sowie das AI-Büro unterstützt werden, erfordern die Funktionen wöchentliche Verpflichtungen und intensive Arbeitszeiten während des 9-monatigen Zeitraums von September 2024 bis April 2025. 

Darüber hinaus sind aus Gründen der finanziellen Unabhängigkeit alle Positionen des Vorsitzenden und des stellvertretenden Vorsitzenden unbezahlt (ebenso wie alle Plenarteilnehmer). Nichtsdestotrotz dürften diese Positionen für die Erarbeitung eines endgültigen Verhaltenskodexes, der sowohl technisch machbar ist als auch die Gesundheit, die Sicherheit und die Grundrechte der EU-Bürger schützt, von großer Bedeutung sein.

Inhalt des Verhaltenskodexes

Obwohl die grobe Struktur des Entwurfsprozesses bekannt gegeben wurde, ist der tatsächliche Inhalt des Kodex noch offen und wird erst mit den kommenden Entwürfen beantwortet.

Dennoch wird der Kodex Ziele, Maßnahmen und wichtige Leistungsindikatoren (KPI) enthalten, ähnlich (aber nicht identisch) wie der verstärkte Verhaltenskodex für Desinformation. Dieser Ansatz, der eine breite Palette von Themen in spezifische Arbeitsgruppen einbezieht, alle relevanten Interessengruppen einbezieht und eine breite Palette von Leitlinien von sehr allgemein bis sehr spezifisch enthält, soll zu einem umfassenden und vollständigen Verhaltenskodex führen.

Schließlich wurde bisher noch nichts über die Verfahren zur Überwachung und Aktualisierung des Verhaltenskodex nach seiner Einführung bekannt gegeben. Es wird spekuliert, dass eine ständige Arbeitsgruppe - bestehend aus Unterzeichnern des Kodex und anderen Aufsichtsbehörden - eingerichtet werden könnte, um den Kodex auf der Grundlage technologischer, gesellschaftlicher, marktbezogener und gesetzlicher Entwicklungen zu überprüfen und anzupassen. Dies steht im Einklang mit dem AI-Gesetz selbst, das dem AI-Büro vorschreibt, die "häufige Überprüfung und Anpassung der Verhaltenskodizes" zu erleichtern²¹.

Nächste Schritte

Die beiden Zeitfenster für die Beteiligung der Interessengruppen sind geschlossen, die Vorsitzenden und stellvertretenden Vorsitzenden wurden gewählt, und die "Kick-off"-Plenarsitzung hat stattgefunden. In den kommenden Monaten werden die Teilnehmer des Plenums und der anbieterspezifischen Workshops gemeinsam mit dem KI-Büro einen iterativen Prozess einleiten, um zu einvernehmlichen Leitlinien für KI-Modelle und -Systeme für allgemeine Zwecke zu gelangen.

Dieser Blogbeitrag wird aktualisiert, sobald neue Informationen verfügbar sind.

Anmerkungen und Referenzen

1. Europäischer Rat billigt AI-Gesetz ︎
2. EUR-Lex ︎
3. Normungsantrag für KI-Systeme ︎
4. Artikel 113 Buchstabe b ︎
5. Das Europäische Institut für Telekommunikationsnormen (ETSI) kann ebenfalls einbezogen werden. ︎
6. CEN-CENELEC ︎
7. ISO ︎
8. Artikel 40 Absatz 3 ︎
9. Artikel 53 ︎
10. Artikel 55 ︎
11. Artikel 53 Absatz 4 und Artikel 55 Absatz 2 ︎
12. Das für den Binnenmarkt zuständige Kommissionsmitglied Thierry Breton besteht darauf, die Einhaltung der Vorschriften durch X mit anderen Mitteln zu erreichen. ︎
13. Gestärkter Verhaltenskodex zur Desinformation ︎
14. Europäische Kommission: Künstliche Intelligenz - Fragen und Antworten ︎
15. Artikel 56 Absatz 9 ︎
16. In der Pressemitteilung der Kommission bekannt gegebene Zahl ︎
17. Euractiv-Artikel über die Vielfalt der Teilnehmer ︎
18. Pressemitteilung der Kommission ︎
19. Euractiv-Artikel über die Meinungsverschiedenheiten im Plenum ︎
20. MLex-Artikel über die Rolle externer Beratungsunternehmen ︎
21. Artikel 56 Absatz 8 ︎