Institutioneller Kontext

Es kann schwierig sein, zu verstehen, wie die politische Entscheidungsfindung in der Europäischen Union funktioniert. Diese Seite soll das Verständnis der Öffentlichkeit für den institutionellen Kontext des EU-KI-Gesetzes verbessern. Diese Zusammenfassung wurde von Hadrien Pouget, einem Experten für KI-Politik bei der Carnegie Endowment for International Peace, zusammengestellt. Er hofft, dass sie anderen hilft, sich mit dem KI-Gesetz zurechtzufinden, und steht für weitere Fragen gerne unter hadrien.pouget@ceip.org zur Verfügung.

 

1. Einleitung

Das EU-Gesetz über künstliche Intelligenz (AIA) hat internationale Aufmerksamkeit erregt, und viele, die sich noch nie für EU-Rechtsvorschriften interessiert haben, befassen sich eingehend mit ihm, um seine Auswirkungen zu verstehen. So beispiellos der AIA auch ist, so bleibt er doch im Wesentlichen ein Stück EU-Gesetzgebung. Vieles davon ist aus gemeinsamen EU-Rechtsrahmen übernommen worden, so dass es ohne diesen breiteren Kontext nicht richtig verstanden werden kann. Diejenigen, die mit der EU nicht vertraut sind, haben möglicherweise Schwierigkeiten zu erkennen, was an dem Gesetz tatsächlich neu ist und was lediglich etablierte EU-Praxis darstellt, oder sie übersehen wichtige Subtexte.

Dieser Leitfaden soll einen Überblick über den rechtlichen Kontext des AIA geben, vom Gesetzgebungsverfahren, das dem AIA zugrunde liegt, bis hin zu den Einhaltungs- und Durchsetzungsmechanismen, von denen sich viele auf bestehende EU-Verfahren stützen. In diesem Sinne wird auf eine inhaltliche Analyse des AIA weitgehend verzichtet; es gibt bereits viele solcher Analysen.

Abbildung 1. Eine Übersicht über die wichtigsten Akteure bei der Schaffung und Durchsetzung des AI-Gesetzes und ihre Beziehungen.

2. Gesetzgebungsprozess

Das AI-Gesetz wurde durch das ordentliche Gesetzgebungsverfahren der EU ordentlichen Gesetzgebungsverfahrendem Prozess, in dem die meisten EU-Rechtsvorschriften entstehen. Die wichtigsten Akteure und ihre Interaktionen werden hier skizziert.

Abbildung 2. Ein Überblick über das ordentliche Gesetzgebungsverfahren, durch das das AI-Gesetz zustande kam.

2.1. Hauptakteure

  1. Europäische Kommission - Besteht aus 27 Kommissaren, die von den Mitgliedstaaten vorgeschlagen und vom Europäischen Parlament bestätigt werden. Die Kommission ist das Exekutivorgan der EU.
  2. Europäisches Parlament -
    1. Vertritt die Menschen in der EU. Die Mitglieder des Europäischen Parlaments (MEP) werden direkt von den europäischen Bürgern gewählt. Jedem Mitgliedstaat der EU wird eine Anzahl von Sitzen zugeteilt, die weitgehend von seiner Bevölkerungszahl abhängt.
    2. Das Parlament verfügt über mehrere Ausschüsse, von denen erwartet wird, dass sie bei Fragen, die in ihren Zuständigkeitsbereich fallen, die Führung übernehmen. Im Fall des AIA waren dies die Ausschüsse für bürgerliche Freiheiten, Justiz und Inneres (LIBE) und für Binnenmarkt und Verbraucherschutz (IMCO).
    3. Für jeden Rechtsakt hat der Ausschuss einen "Berichterstatter", einen Abgeordneten, der die Arbeit des Ausschusses leitet. Im Falle des AIA waren dies Dragoş Tudorache (LIBE) und Brando Benifei (IMCO). Einige andere Ausschüsse waren für die Teile des Gesetzes zuständig, die für ihre Arbeit besonders relevant sind.
  3. Der Rat der Europäischen Union ("der Rat")[1] - Für jedes Thema beruft der Rat die zuständigen Minister der einzelnen Mitgliedsstaaten ein. Der AIA wurde von den Telekommunikationsministern im Rahmen der "Arbeitsgruppe für Telekommunikation und Informationsgesellschaft (WP TELECOM)" behandelt. Die Ratspräsidentschaft wechselt im 6-Monats-Rhythmus zwischen den Mitgliedsstaaten. Die Präsidentschaft hat eine gewisse Befugnis, die Schwerpunkte des Rates festzulegen und vertritt den Rat bei der Zusammenarbeit mit anderen EU-Institutionen.

2.2. Das ordentliche Gesetzgebungsverfahren

Das ordentliche Gesetzgebungsverfahren läuft kurz gesagt wie folgt ab:

  1. Die Kommission erstellt einen ersten Entwurf für einen Rechtsakt. Sie ist die einzige Organisation, die dazu befugt ist, das sogenannte "Initiativrecht".
  2. Das Parlament erhält den ersten Entwurf und schickt ihn mit dem Rat hin und her, wobei es Änderungen hinzufügt, bis beide Seiten zustimmen (das Gesetz wird verabschiedet) oder bis es dreimal hin und her gegangen ist, ohne dass eine Einigung erzielt wurde (das Verfahren endet und es wird kein Gesetz verabschiedet). Während dieser Zeit finden informelle Dialoge, so genannte "Triloge", zwischen dem Rat, dem Parlament und der Kommission statt. In der Praxis sind diese oft von entscheidender Bedeutung: Die Gesetzgebung wird nun normalerweise im ersten Durchgang vereinbart[2], da sich das Parlament und der Rat bei informellen Treffen auf eine Richtung einigen.
  3. Sobald das Parlament und der Rat den Text offiziell gebilligt haben, wird er im Amtsblatt der Europäischen Union (ABl. EU) veröffentlicht. In der Regel wird in der Rechtsvorschrift angegeben, wann sie nach ihrer Veröffentlichung in Kraft treten wird.

2.3. Aktualisierung des Gesetzes nach der Veröffentlichung

Die EU verfügt über zwei bemerkenswerte Instrumente, um bestehende Rechtsvorschriften zu aktualisieren oder zu unterstützen, ohne das gesamte Gesetzgebungsverfahren wiederholen zu müssen: Durchführungsrechtsakte und delegierte Rechtsakte. Der Gesetzgeber muss festlegen, wann und zu welchem Zweck diese eingesetzt werden können. Die beiden Mechanismen sind ähnlich, auch wenn sich Durchführungsrechtsakte eher auf die Umsetzung des Rechtsakts konzentrieren (z. B. durch die Bereitstellung offizieller Leitlinien für die Einhaltung der Vorschriften), während delegierte Rechtsakte eher Gesetzesänderungen darstellen, bei denen Details im AI-Gesetz geändert werden. In beiden Fällen handelt es sich um Befugnisse, die der Kommission übertragen wurden, und sie beinhalten leicht unterschiedliche Überwachungsmechanismen.

Der AIA nutzt beide Mechanismen, die es der Kommission ermöglichen, den Rechtsakt als Reaktion auf technologische Entwicklungen zu aktualisieren. Sie erlauben es auch, unwesentliche Details wegzulassen, die zu einem späteren Zeitpunkt ergänzt werden können.

Um weiterhin Fachwissen in die EU zu bringen, wird ein AI-Büro eingerichtet. Es wird zu einigen Durchführungs- und delegierten Rechtsakten sowie zu vielen anderen Bereichen beraten, in denen bei der Umsetzung und Durchsetzung Fachwissen erforderlich sein könnte. 

Zeitleiste der wichtigsten Entwicklungen

Eine Übersicht über die wichtigsten Entwicklungen im Gesetzgebungsverfahren finden Sie hier.

3. Legislativer Kontext

3.1. Arten von EU-Rechtsvorschriften

Die EU kann verschiedene Arten von Rechtsvorschriften. Der AIA ist die stärkste Form, eine Verordnung.

  • Die Verordnungen sind verbindlich und gelten unmittelbar in allen Mitgliedstaaten.
  • Richtlinien legen verbindliche Ergebnisse fest, aber nicht, wie diese Ergebnisse erreicht werden sollen. Die Mitgliedstaaten müssen ihre eigenen Gesetze ausarbeiten, wie diese Ergebnisse zu erreichen sind.
  • Die Beschlüsse sind verbindlich und können sich an bestimmte EU-Länder oder Unternehmen richten.
  • Empfehlungen und Stellungnahmen sind nicht bindend.

3.2. Neuer Rechtsrahmen - Instrumente zur Durchsetzung der Produktgesetzgebung

Der 2008 verabschiedete "Neue Rechtsrahmen" (NLF) umreißt die allgemeine Struktur, der die EU-Produktvorschriften folgen, und die Instrumente, die neuen Rechtsvorschriften zur Verfügung stehen.[3] Er enthält eine große Anzahl von Standardformulierungen, die dann von neuen Rechtsvorschriften übernommen und angepasst werden können. Der AIA baut auf diesem Rahmen auf.

3.2.1. Grundlegende Anforderungen

Eines der wichtigsten Ergebnisse von EU-Produktvorschriften wie dem AIA ist eine Reihe von "wesentlichen Anforderungen", die Produkte erfüllen müssen. Sobald sie diese Anforderungen erfüllen, haben die Unternehmen Zugang zum gesamten EU-Markt - einer großen, relativ wohlhabenden Bevölkerung, die als verlockender Anreiz dient. Die grundlegenden Anforderungen können alles umfassen, was die EU von einem Produkt oder seinem Hersteller verlangt.

Sie vermeiden absichtlich technische Details und sind stattdessen nur so spezifisch, dass sie rechtsverbindliche Verpflichtungen schaffen.[4] Die Hersteller können dann versuchen, diese Verpflichtungen auf ihre eigene Weise zu erfüllen, oder sie können die entsprechenden "harmonisierten Normen" verwenden.

3.2.2. Harmonisierte Normen

Technische Normen, die wie in der Broschüre "Normsetzungsprozess" beschrieben, tragen dazu bei, die grundlegenden Anforderungen zu konkretisieren. Nach Verabschiedung einer Rechtsvorschrift werden technische Normen entwickelt, um bestimmte grundlegende Anforderungen zu erfüllen. Die Einhaltung dieser Normen reicht aus, um die Übereinstimmung mit den entsprechenden grundlegenden Anforderungen nachzuweisen, da für diese Normen eine "Konformitätsvermutung"gilt .[5] Solche Normen werden im Amtsblatt der Europäischen Union veröffentlicht und als"harmonisierte Normen" bezeichnet.

So verlangt der AIA zum Beispiel die Annahme von "geeignete Risikomanagementmaßnahmen". Was gilt als "geeignet" ist, bleibt unklar, und harmonisierte Normen würden Klarheit in diese Art von Anforderungen bringen.

In der Praxis spielen die harmonisierten Normen eine entscheidende Rolle. Sie sind der einfachste Weg, die grundlegenden Anforderungen einzuhalten. Die Hersteller können zwar die grundlegenden Anforderungen erfüllen, ohne sich an harmonisierte Normen zu halten, aber das Navigieren in der daraus resultierenden Grauzone lohnt sich oft nicht, und sie müssen in der Regel nachweisen, dass ihre Alternativlösung der Norm zumindest gleichwertig ist.

In Fällen, in denen es keine harmonisierten Normen gibt, kann die Kommission nach den aktuellen AIA-Entwürfen "Gemeinsame Spezifikationen" erstellen kann, um dies zu kompensieren. Diese sind mit harmonisierten Normen vergleichbar, aber im Gegensatz zu harmonisierten Normen (die von EU-unabhängigen Organisationen entwickelt werden) bleibt der Prozess ihrer Entwicklung vollständig in den Händen der EU-Institutionen.

3.2.3. Konformitätsbewertungen

Konformitätsbewertungen sind eines der Durchsetzungsinstrumente, die der NLF zur Verfügung stellt. Sie müssen durchgeführt werden, bevor ein Produkt auf den Markt gebracht wird. Wird festgestellt, dass ein Produkt allen einschlägigen Anforderungen entspricht, wird eine Konformitätserklärung ausgestellt und eine "CE"-Zeichen angebracht. Das Produkt kann dann auf den Markt gebracht werden.

Der NLF beschreibt verschiedene Verfahren, die bei der Konformitätsbewertung angewendet werden können,[6] und sieht vor, dass jede dieser drei Gruppen die Bewertung durchführen kann:

  • Die Hersteller des Produkts selbst. Die Hersteller müssen natürlich die Bewertung dokumentieren, um zu beweisen, dass sie korrekt durchgeführt wurde. Dies ist häufig die Standardoption für Produkte mit geringeren Anforderungen.
  • Konformitätsbewertungsstellen. Diese Stellen müssen von "notifizierenden Behörden" akkreditiert werden, die von den Mitgliedstaaten eingerichtet werden müssen. Sobald eine Konformitätsbewertungsstelle akkreditiert ist, wird sie auch als "notifizierte Stelle" bezeichnet.
  • Öffentliche Behörden.

Es ist Sache der einzelnen Rechtsvorschriften, die Instrumente der NLF an den jeweiligen Kontext anzupassen - so kann der AIA beispielsweise für einige risikoreiche Anträge eine Selbstbewertung zulassen und für andere Anträge benannte Stellen vorschreiben.

3.2.4. Marktüberwachung

Jeder Mitgliedstaat ist auch für die Marktüberwachung auf seinem Markt zuständig; er muss Produkte aus dem Verkehr ziehen, die nicht den EU-Rechtsvorschriften entsprechen oder die zwar den Vorschriften entsprechen, aber trotzdem als zu gefährlich eingestuft wurden.

Die Gesetzgebung enthält in der Regel weitere Einzelheiten zur Arbeitsweise der zuständigen Marktaufsichtsbehörden. Der AIA legt beispielsweise fest, zu welchen Arten von Daten die Marktaufsichtsbehörden Zugang haben sollten (Dokumentation, Datensätze, Quellcode usw.) und unter welchen Bedingungen. Außerdem wird dargelegt, wie sich die Behörden mit der Kommission, den benannten Stellen oder den Behörden in anderen Ländern abstimmen sollen.

3.2.5. Haftung

Anbieter von KI-Systemen sind wie jeder, der ein Produkt auf den EU-Markt bringt, auch für Schäden haftbar, die durch ihre fehlerhaften Produkte verursacht werden. Die Haftung wird zwar nicht ausdrücklich vom AIA abgedeckt, aber die Nichteinhaltung der EU-Verordnung macht es leichter, gegen eine Organisation zu klagen. Die Vorschläge für eine Überarbeitung der Produkthaftungsrichtlinieund für die neue AI-Haftungsrichtlinie machen dies noch deutlicher.

Anmerkungen

 

[1] Zu beachten ist, dass es sich hierbei nicht um den Europäischen Rat (der sich aus den Staats- und Regierungschefs der EU-Mitgliedstaaten zusammensetzt) und den Europarat (eine von der EU völlig unabhängige internationale Organisation) handelt.

[2] Nach Angaben des Europäischen Parlaments wurden 89 % der zwischen 2014 und 2019 verabschiedeten Rechtsakte in "erster Lesung" angenommen. Quelle hier.

[3] Verordnung EG Nr. 765/2008 (hier), Beschluss Nr. 768/2008/EG (hier), und die Verordnung EU 2019/1020 (hier) umreißen, wie die Marktüberwachung funktioniert, wie Konformitätsbewertungen durchgeführt werden sollten und wie unabhängige Konformitätsbewertungsstellen akkreditiert werden. Der Beschluss Nr. 768/2008/EG enthält einen Großteil der Grundlagen, auf denen der AIA aufbaut.

[4] Punkte (8) und (11) in der Präambel und Artikel 3 des Beschlusses Nr. 768/2008/EG(hier).

[5] Artikel R8 des Beschlusses Nr. 768/2008/EG (hier).

[6] Anhang II des Beschlusses Nr. 768/2008/EG (hier).