Eine Einführung in Verhaltenskodizes für das AI-Gesetz

03 Jul, 2024

Im Zuge der Umsetzung des AI-Gesetzes ist es wichtig, den Schleier über die verschiedenen in der Verordnung vorgesehenen Durchsetzungsmechanismen zu lüften.

Diese Zusammenfassung, die die Verhaltenskodizes für Anbieter von KI-Modellen für allgemeine Zwecke beschreibt, wurde von Jimmy Farrell, Leiter der EU-KI-Politik bei Pour Demain, zusammengestellt. Für weitere Fragen wenden Sie sich bitte an ihn unter jimmy.farrell@pourdemain.eu. 

Einführung

Dieser Blog-Beitrag erläutert das Konzept, den Prozess und die Bedeutung der Verhaltenskodizes, ein Instrument des KI-Gesetzes zur Überbrückung der Übergangszeit zwischen dem Inkrafttreten der Verpflichtungen für Anbieter von GPAI-Modellen (General Purpose AI) und der letztendlichen Annahme harmonisierter europäischer GPAI-Modellstandards. Bisher wurde offiziell wenig über die Verhaltenskodizes im Rahmen des KI-Gesetzes kommuniziert. Daher enthält dieser Blog-Beitrag öffentlich zugängliche Informationen und Überlegungen darüber, wie der Prozess wahrscheinlich ablaufen wird, basierend auf früheren Erfahrungen mit ähnlichen politischen Rahmenwerken.

Normen und die Notwendigkeit von Verhaltenskodizes 

Nach der endgültigen Verabschiedung der AI-Akte durch den Europäischen Rat am 21. Mai1wird die Akte voraussichtlich im Juli im Amtsblatt der EU veröffentlicht werden. Zwanzig Tage später, wahrscheinlich im August, wird sie in Kraft treten, wobei die Verpflichtungen dann schrittweise über drei Jahre eingeführt werden, wie in einem früheren Blogbeitrag beschrieben. In der Zwischenzeit hat der komplexe Prozess der Entwicklung harmonisierter europäischer Normen begonnen, um die Verpflichtungen aus dem Gesetz umzusetzen. Während ein offizieller Normungsantrag von der Kommission angenommen und von CEN-CENELEC in Bezug auf Normen für KI-Systeme genehmigt wurde2angenommen wurde, muss ein ähnlicher Antrag zu GPAI-Musternormen noch ausgearbeitet werden. Wann ein solcher Normungsauftrag erteilt wird, hängt weitgehend davon ab, wie wirksam die Verhaltenskodizes die einschlägigen Verpflichtungen gemäß dem AI-Gesetz umsetzen können. Der Normungsprozess wird auch in einem früheren Blog-Beitrag ausführlich beschrieben. 

Nach dem AI-Gesetz sind die Verpflichtungen für AI-Modelle für allgemeine Zwecke, die in den Artikeln 50-55 aufgeführt sind, zwölf Monate lang einklagbar.3 nach Inkrafttreten des Gesetzes (etwa im August 2025). Der europäische Normungsprozess, an dem hauptsächlich4 das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (CENELEC), kann jedoch oft bis zu drei Jahre dauern5. Bei technischeren Normen, wie denen für GPAI, kann dieser Prozess sogar noch länger dauern, und wenn sie in Abstimmung mit internationalen Normen erstellt werden6wie im AI-Gesetz vorgeschrieben7. Die Notwendigkeit, mehrere Interessengruppen einzubeziehen, und der Ansatz der Konsensfindung nehmen noch mehr Zeit in Anspruch. Daher ist es unwahrscheinlich, dass die Verpflichtungen des GPAI-Modellanbieters in absehbarer Zeit als technische Normen umgesetzt werden.

Verhaltenskodizes

In Artikel 56 des AI-Gesetzes werden die Verhaltenskodizes als Platzhalter für die Einhaltung der Vorschriften beschrieben, um die Zeit zwischen dem Inkrafttreten der GPAI-Musteranbieterpflichten (zwölf Monate) und der Annahme von Standards (drei Jahre oder mehr) zu überbrücken. Die Einhaltung der in den Verhaltenskodizes dargelegten Maßnahmen durch die GPAI-Modellanbieter ist zwar rechtlich nicht bindend, gilt aber bis zum Inkrafttreten der Standards als Vermutung für die Konformität mit den Verpflichtungen der GPAI-Modellanbieter gemäß Artikel 53 und 55. Diese Verpflichtungen umfassen8:

  • Bereitstellung von technischen Unterlagen für das AI-Büro und die zuständigen nationalen Behörden
  • Bereitstellung relevanter Informationen für nachgeschaltete Anbieter, die ihr Modell in ihr KI- oder GPAI-System integrieren wollen (z. B. Fähigkeiten und Grenzen)
  • Zusammenfassungen der verwendeten Trainingsdaten
  • Maßnahmen zur Einhaltung des geltenden Unionsrechts zum Urheberrecht

Für GPAI-Modelle mit systemischem Risiko (Modelle, die oberhalb des Schwellenwerts von 1025 FLOPS ausgebildet werden), gelten folgende weitere Verpflichtungen9:

  • Modellbewertungen nach dem Stand der Technik
  • Risikobewertung und -minderung
  • Meldung schwerwiegender Zwischenfälle, einschließlich Abhilfemaßnahmen
  • Angemessener Schutz der Cybersicherheit

Anbieter, die die Verhaltenskodizes nicht einhalten, müssen der Kommission die Einhaltung der oben genannten Verpflichtungen mit anderen Mitteln nachweisen10nachzuweisen, was wahrscheinlich mühsamer und zeitaufwändiger ist. Diese Situation spielt sich derzeit in einem parallelen Fall in der EU-Digitalpolitik ab: X (ehemals Twitter) hat sich aus den verschärften Verhaltenskodizes für Desinformation zurückgezogen11zurückgezogen hat, der kürzlich als Verhaltenskodex in den Koregulierungsrahmen des Gesetzes über digitale Dienste12

Die Verhaltenskodizes werden wahrscheinlich die Grundlage für die GPAI-Normen bilden. Der Inhalt der Kodizes soll daher die Absichten des AI-Gesetzes getreu widerspiegeln, auch im Hinblick auf Gesundheits-, Sicherheits- und Grundrechtsbelange, um zu verhindern, dass unzureichende Maßnahmen in den Normen verankert werden.  

Entwurfsverfahren

Aufgrund der zwölfmonatigen Frist für das Inkrafttreten der GPAI-Modellanbieterverpflichtungen müssen die Verhaltenskodizes innerhalb von neun Monaten nach Inkrafttreten des AI-Gesetzes ausgearbeitet werden. Damit soll der Kommission ausreichend Zeit gegeben werden, um sie per Durchführungsrechtsakt zu genehmigen oder abzulehnen.13. Das AI-Gesetz sieht auch verschiedene Optionen vor, die das AI-Büro im Auftrag der Kommission gegenüber den Akteuren, die für die Ausarbeitung der Verhaltenskodizes verantwortlich sind, verfolgen kann14:

"Das Amt für künstliche Intelligenz kann alle Anbieter von allgemeinen künstlichen Intelligenzmodellen sowie die jeweils zuständigen nationalen Behörden auffordern, sich an der Ausarbeitung von Verhaltenskodizes zu beteiligen."  

Und:

"Organisationen der Zivilgesellschaft, die Industrie, die Wissenschaft und andere relevante Interessengruppen, wie nachgelagerte Anbieter und unabhängige Experten, können den Prozess unterstützen.

Zwar wurden nur wenige Informationen über die Organisation und den Aufbau der Verhaltenskodizes veröffentlicht, doch haben ähnliche Rahmenwerke in der Vergangenheit15 die Bildung von Multi-Stakeholder-Arbeitsgruppen (WGs), die nach Themen gegliedert sind und sich auf die jeweiligen Verpflichtungen stützen. Diese Reihe von Verhaltenskodizes würde daher Arbeitsgruppen auf der Grundlage der Verpflichtungen in Artikel 53 und 55 (siehe oben) umfassen. Eine hypothetische Beispielstruktur könnte Arbeitsgruppen zu folgenden Themen umfassen:

  • Urheberrecht und Schulungsdaten 
  • Technische Dokumentation und nachgelagerter Informationsaustausch
  • Herkunft der Inhalte und Kennzeichnung
  • Modellbewertungen und kontradiktorische Tests
  • Bewertung und Minderung systemischer Risiken 
  • Taxonomie des systemischen Risikos
  • Überwachung schwerwiegender Zwischenfälle
  • Cybersecurity
  • Ex-post-Durchführung und Überwachung

Innerhalb der Arbeitsgruppen können bestimmte Teilnehmer (z. B. Anbieter, zuständige nationale Behörden, Organisationen der Zivilgesellschaft, Industrie, Hochschulen, nachgeschaltete Anbieter, unabhängige Sachverständige usw.) als Vorsitzende oder Ko-Vorsitzende, als Verfasser von Texten oder einfach als Beobachter fungieren. Der von den einzelnen Arbeitsgruppen erarbeitete Inhalt wird wahrscheinlich ähnlich strukturiert sein wie die gestärkten Verhaltenskodizes zur Desinformation, bei denen die einschlägigen Unterzeichner16 sich auf hochrangige Verpflichtungen einigen, die Maßnahmen auf untergeordneter Ebene enthalten, die als Qualitative Reporting Elements (QRE) oder Service Level Indicators (SLI) oder alternativ als Key Performance Indicators (KPI) weiter detailliert werden können, die sowohl17. Dieser Ansatz, der eine breite Palette von Themen in spezifische Arbeitsgruppen einbezieht, alle relevanten Interessengruppen einbezieht und eine breite Palette von Leitlinien von sehr allgemein bis sehr spezifisch enthält, soll zu einem umfassenden und vollständigen Verhaltenskodex führen.

Zu den zusätzlichen Instrumenten, die in früheren Verhaltenskodizes verwendet wurden, gehören strukturelle Indikatoren18 (die parallel zu den KPIs verwendet werden), die darauf abzielen, systemische Risiken durch die Messung der Ergebnisse zu mindern. Beispiele für Strukturindikatoren könnten "Häufigkeit und Dauer von GPAI-Modellausfällen oder -Störungen" oder "Häufigkeit von Cyberangriffen mit GPAI-generierten Inhalten (z. B. Phishing, Malware)" sein. Schließlich könnte eine ständige Taskforce eingerichtet werden, der Unterzeichner der Kodizes und andere Aufsichtsgremien angehören, um die Kodizes auf der Grundlage technologischer, gesellschaftlicher, marktbezogener und gesetzlicher Entwicklungen zu überprüfen und anzupassen.

Nächste Schritte

Da das Gesetz in Kürze veröffentlicht wird, sind in Kürze weitere Informationen über den Entwurfsprozess, die Rolle der Akteure und die entsprechenden Fristen zu erwarten. Wie bereits erwähnt, müssen die Verhaltenskodizes innerhalb von neun Monaten nach Inkrafttreten des Gesetzes fertiggestellt werden, so dass die Kommission weitere drei Monate (also insgesamt zwölf) Zeit hat, um die Kodizes auf der Grundlage von Empfehlungen des AI-Büros und des Verwaltungsrats per Durchführungsrechtsakt zu genehmigen oder abzulehnen.19. Das AI-Gesetz schreibt dem AI-Büro auch vor, "diehäufige Überprüfung und Anpassung der Verhaltenskodizes" zu erleichtern.20". Angesichts eines Standardisierungsprozesses, der länger dauern wird, als es das AI-Gesetz zulässt, sind die Verhaltenskodizes für GPAI-Modellanbieter ein nützliches Instrument, um die getreue Umsetzung der Verordnung zu gewährleisten.

Dieser Blogbeitrag wird aktualisiert, sobald neue Informationen verfügbar sind.

Anmerkungen und Referenzen

  1. Europäischer Rat billigt AI-Gesetz
  2. Normungsantrag für KI-Systeme
  3. Artikel 113 Buchstabe b
  4. Das Europäische Institut für Telekommunikationsnormen (ETSI) kann ebenfalls einbezogen werden.
  5. CEN-CENELEC
  6. ISO
  7. Artikel 40 Absatz 3
  8. Artikel 53
  9. Artikel 55
  10. Artikel 53 Absatz 4 und Artikel 55 Absatz 2
  11. Das für den Binnenmarkt zuständige Kommissionsmitglied Thierry Breton besteht darauf, die Einhaltung der Vorschriften durch X mit anderen Mitteln zu erreichen.
  12. Verschärfte Verhaltenskodizes zur Desinformation
  13. Artikel 56 Absatz 9
  14. Artikel 56 Absatz 3
  15. Verhaltenskodizes zur Desinformation
  16. Unternehmen, Organisationen und Verbände, die an der Ausarbeitung der Kodizes beteiligt waren und in einem Anhang zu den endgültigen Kodizes aufgeführt sind.
  17. QREs sind qualitative Berichterstattungsstandards, während SLIs quantifizierbare Metriken sind. QREs und SLIs werden in den Verhaltenskodizes zur Desinformation verwendet. Die KPIs werden in Artikel 56 des AI-Gesetzes ausdrücklich erwähnt.
  18. Verschärfte Verhaltenskodizes zur Desinformation
  19. Der AI-Vorstand setzt sich aus Vertretern aller EU-Mitgliedstaaten zusammen. Artikel 56 Absatz 6
  20. Artikel 56 Absatz 8
Dieser Beitrag wurde am 3 Jul, 2024 veröffentlicht

Ähnliche Artikel

Warum im EU-AI-Büro arbeiten?

Es ist wahrscheinlich nicht für jeden etwas, aber es gibt viele gute Gründe, die dafür sprechen. Dazu gehören das Potenzial, die KI-Governance weltweit zu beeinflussen, die Nutzung des First-Mover-Vorteils und vieles mehr.

Das AI-Büro stellt ein

Die Europäische Kommission stellt Vertragsbedienstete ein, die auf KI-Technologie spezialisiert sind, um die modernsten KI-Modelle zu steuern. Die Bewerbungsfrist endet am 27. März um 12:00 Uhr MEZ (Bewerbungsformular). Rolle Dies ist eine Gelegenheit, in einem Team innerhalb der...

Das KI-Büro: Was ist es, und wie funktioniert es?

In diesem Überblick bieten wir eine Zusammenfassung der Schlüsselelemente des KI-Büros, die für diejenigen relevant sind, die sich für KI-Governance interessieren. Wir haben die Verantwortlichkeiten des KI-Büros, seine Rolle innerhalb der Europäischen Kommission, seine Beziehung zum KI-Verwaltungsrat, seine nationalen...

Umsetzung des AI-Gesetzes: Zeitpläne und nächste Schritte

In diesem Artikel geben wir einen Überblick über die wichtigsten Daten, die für die Umsetzung des AI-Gesetzes relevant sind. Wir führen auch einige sekundäre Rechtsvorschriften auf, die die Kommission zur Ergänzung des AI-Gesetzes hinzufügen könnte, sowie einige Leitlinien, die sie veröffentlichen könnte, um die Einhaltung der Vorschriften zu unterstützen....