Letzte Aktualisierung: 18. Februar 2025
Seit dem Inkrafttreten des AI-Gesetzes am 1. August ist es für die Mitgliedstaaten höchste Zeit, die Umsetzung des Gesetzes vorzubereiten. Einer der ersten Aspekte der nationalen Umsetzung ist die Benennung der Behörden. Dieser Beitrag gibt einen Überblick über die nationalen Behörden, die im Rahmen des AI-Gesetzes zu benennen sind, und darüber, was wir über die nationalen Umsetzungspläne zum Zeitpunkt der Veröffentlichung wissen.*
Diese Ressource ist in Arbeit und wird aktualisiert, sobald neue Informationen verfügbar sind. Bitte helfen Sie uns, die Vollständigkeit und Richtigkeit dieses Inhalts zu gewährleisten, indem Sie uns Informationen über die Behörden in Ihrer Region zur Verfügung stellen: tekla@futureoflife.org.
*Hinweis: Das AI-Gesetz wurde mit möglicher EWR-Relevanz vorgeschlagen und wird derzeit von der EWR-EFTA zur Aufnahme in das EWR-Abkommen geprüft. Norwegen, Liechtenstein und Island nehmen als Beobachter an den Sitzungen des AI-Verwaltungsrats teil. Der Vollständigkeit halber haben wir alle drei EWR-EFTA-Staaten in die Übersicht aufgenommen.
Drei Arten von Behörden in den Mitgliedstaaten gemäß dem AI-Gesetz
Die Mitgliedstaaten sind verpflichtet, im Rahmen der Umsetzung des EU-AI-Gesetzes drei Arten von Behörden zu benennen oder einzurichten.
Marktüberwachungsbehörde
Erstens soll eine "Marktüberwachungsbehörde" die aus der Verordnung (EU) 2019/1020 über die Marktüberwachung und die Konformität von Produkten bekannten Tätigkeiten durchführen und Maßnahmen ergreifen(Artikel 3 Absatz 26). Diese Behörde baut somit auf dem bereits bestehenden und gut etablierten Konzept der Marktüberwachungsbehörden im EU-Recht auf und soll sicherstellen, dass nur Produkte auf dem Unionsmarkt bereitgestellt werden, die dem EU-Recht entsprechen.
Meldebehörde
Zweitens ist eine "notifizierende Behörde" die nationale Behörde, die für die Einrichtung und Durchführung des Verfahrens zur Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen sowie für deren Überwachung zuständig ist(Artikel 3 Absatz 19 und Artikel 28 Absatz 1).Konformitätsbewertungsstellen" sind Stellen, die Konformitätsbewertungstätigkeiten für Dritte durchführen, einschließlich Prüfung, Zertifizierung und Inspektion(Artikel 3 Absatz 21).
Die notifizierende Behörde und die Marktüberwachungsbehörde werden gemeinsam als die zuständigen nationalen Behörden bezeichnet(Artikel 3 Absatz 48). Sie müssen unabhängig, unparteiisch und unvoreingenommen arbeiten, über angemessene technische, finanzielle und personelle Ressourcen sowie über die Infrastruktur verfügen, um ihre Aufgaben im Rahmen des AI-Gesetzes wirksam zu erfüllen(Artikel 70 Absätze 1 und 3). Die Kommission wird den Erfahrungsaustausch zwischen den zuständigen nationalen Behörden erleichtern(Art. 70(7)).
Nationale öffentliche Behörde
Drittens müssen die Mitgliedstaaten nationale Behörden benennen, die die Verpflichtung zur Achtung der Grundrechte in den Mitgliedstaaten in Bezug auf die in Anhang III genannten AI-Systeme mit hohem Risiko durchsetzen. Diese Behörden sollten befugt sein, alle nach dem AI-Gesetz erstellten oder aufbewahrten Unterlagen anzufordern und einzusehen, wenn diese Unterlagen zur wirksamen Erfüllung ihres Mandats im Rahmen ihrer Zuständigkeit erforderlich sind(Artikel 77 Absatz 2).
Großer Ermessensspielraum für die Mitgliedstaaten
Das AI-Gesetz lässt den Mitgliedstaaten einen Ermessensspielraum in Bezug auf die Struktur und Gestaltung dieser drei Arten von Behörden. Dementsprechend haben die Mitgliedstaaten Behörden vorgeschlagen oder benannt, die eine Reihe von Formen annehmen können. So hat Spanien beispielsweise eine spanische Aufsichtsbehörde für künstliche Intelligenz (AESIA) eingerichtet, die als einzige Marktaufsichtsbehörde unter dem spanischen Ministerium für digitale Transformation fungiert. Im Gegensatz dazu hat Finnland ein dezentralisiertes Modell vorgeschlagen, bei dem 10 bereits bestehende Marktaufsichtsbehörden benannt werden, darunter die Energiebehörde, die Agentur für Verkehr und Kommunikation und die Arzneimittelbehörde.
Zeitpläne und Stand der Umsetzung
Die Mitgliedstaaten müssen bis zum 2. August 2025 zuständige Behörden einrichten oder benennen(Art. 113(b)). Zum Zeitpunkt der Veröffentlichung ist Malta der einzige Mitgliedstaat, der sowohl eine notifizierende Behörde als auch eine Marktüberwachungsbehörde benannt hat ("eindeutig" in der nachstehenden Tabelle). Soweit uns bekannt ist, haben elf Mitgliedstaaten noch keine Legislativvorschläge vorgelegt oder eine zuständige Behörde benannt ("teilweise Klarheit"), während 16 Mitgliedstaaten keine zuständige Behörde benannt oder eingerichtet haben.
Was die Behörden zum Schutz der Grundrechte betrifft, so sollten die Mitgliedstaaten bis zum 2. November 2024 eine Liste dieser Behörden veröffentlichen(Artikel 77 Absatz 2). Nach unserem Kenntnisstand haben 13 Mitgliedstaaten zum Zeitpunkt der letzten Aktualisierung dieses Beitrags eine Liste solcher Behörden veröffentlicht.
Tabelle 1: Gesamtstatus der nationalen Behörden
| Status (ab dem Datum der Veröffentlichung) | Zuständige nationale Behörden(Art. 28 und Art. 70) | Behörden zum Schutz der Grundrechte(Artikel 77) |
|---|---|---|
| Unklar | 16 | 12 |
| Teilweise Klarheit | 10 | - |
| Klar | 1 | 15 |
Tabelle 2: Mitgliedstaaten und ihre benannten nationalen Behörden
| Mitgliedstaat | Zuständige nationale Behörden(Art. 28 und Art. 70) | Behörden zum Schutz der Grundrechte(Artikel 77) | Anmerkungen |
|---|---|---|---|
| Österreich | Unklar. Zur Unterstützung der Umsetzung des EU-KI-Gesetzes wurde bei der Rundfunk und Telekom Regulierungs-GmbH (RTR-GmbH) ein AI Service Desk eingerichtet. Die notifizierende Behörde und die Marktaufsichtsbehörde wurden nicht benannt. | Eine Liste von 45 Einrichtungen, die 8 verschiedene Bereiche abdecken, wurde von Digitales Österreich veröffentlicht. | Österreich hat drei Foren zur Unterstützung seiner KI-Politik eingerichtet: einen nationalen KI-Beirat, der sich aus Experten aus Forschung und Wirtschaft zusammensetzt, das KI-Politikforum, das sich aus Mitgliedern verschiedener Ministerien zusammensetzt, und das KI-Stakeholder-Forum, in dem verschiedene Interessengruppen Beiträge leisten. |
| Belgien | Unklar. In der Sitzung des AI-Verwaltungsrats am 10.09.2024 vertraten der Föderale Öffentliche Dienst für Wirtschaft und die Agence du Numérique Belgien. | Unklar | In Belgien gibt es einen Ethik-Beirat für Daten und KI, der vom Minister für den öffentlichen Dienst und dem Staatssekretär für Digitalisierung ernannt wird. |
| Bulgarien | Unklar. In der AI-Vorstandssitzung am 10.09.2024 vertrat das Ministerium für elektronische Verwaltung Bulgarien. | Unklar | |
| Kroatien | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Zentrale Staatsbüro für die Entwicklung der digitalen Gesellschaft Kroatien. | Das Ministerium für Justiz, öffentliche Verwaltung und digitale Transformation hat 7 öffentliche Behörden benannt. | |
| Zypern | Unklar. In der Sitzung des AI Board am 10.09.2024 vertrat das Ministerium für Forschung, Innovation und digitale Politik Zypern. | Das Ministerium für Forschung, Innovation und digitale Politik hat eine Liste von 3 Behörden erstellt, die noch geändert werden kann. | |
| Tschechische Republik | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Industrie und Handel die Tschechische Republik. | Unklar | Das Ministerium für Industrie und Handel war auch mit der Verabschiedung einer überarbeiteten nationalen KI-Strategie im Juli 2024 beauftragt. |
| Dänemark | Teilweise Klarheit. Die bereits bestehende dänische Agentur für digitale Verwaltung wurde als koordinierende Marktüberwachungsbehörde und zentrale Anlaufstelle benannt. Ein Gesetzesvorschlag sieht vor, dass der Minister für Digitalisierung weitere Marktüberwachungsbehörden benennen kann. | Unklar | Im September 2024 wurde eine Arbeitsgruppe eingesetzt, in der eine Reihe von Akteuren (Zivilgesellschaft, Industrie, öffentliche Einrichtungen, Hochschulen usw.) vertreten sind. Sie wird 3-4 Mal pro Jahr zusammentreten. |
| Estland | Unklar. In der Sitzung des AI-Vorstands am 10.09.2024 vertrat das Ministerium für Wirtschaft und Kommunikation Estland. | Das Ministerium für Wirtschaft und Kommunikation hat zusammen mit dem Justizministerium eine Liste von 3 Behörden veröffentlicht. | |
| Finnland | Teilweise Klarheit. Ein Entwurf eines Durchführungsgesetzes vom Oktober 2024 ernennt 10 bereits bestehende Marktaufsichtsbehörden(siehe englische Übersicht). Die finnische Behörde für Verkehr und Kommunikation wird als einheitliche Anlaufstelle fungieren. Unklar, welche Stelle als notifizierende Behörde fungieren wird. | Eine Liste von 8 Behörden wurde vom finnischen Ministerium für Wirtschaft und Beschäftigung veröffentlicht. | Der Entwurf des Durchführungsrechtsakts steht bis zum 4. Dezember 2024 für öffentliche Konsultationen zur Verfügung. |
| Frankreich | Unklar. In der Sitzung des AI-Vorstands am 10.09.2024 vertrat die Generaldirektion Unternehmen Frankreich. | Unklar | |
| Deutschland | Teilweise Klarheit. Das Bundesministerium für Wirtschaft und Klimaschutz und das Bundesministerium der Justiz sind gemeinsam für die Umsetzung des KI-Gesetzes zuständig. Einige Quellen(hier und hier) legen nahe, dass die Bundesnetzagentur als Marktüberwachungsbehörde und die Bundesakkreditierungsstelle als Notifizierungsbehörde benannt werden. Die zuständigen Behörden sind bis September 2024 noch nicht per Gesetz benannt. | Unklar | Ein Durchführungsgesetz wird für das erste Quartal 2025 erwartet. |
| Griechenland | Unklar. In der AI-Vorstandssitzung am 10.09.2024 vertrat das Ministerium für digitale Verwaltung Griechenland. | Eine Liste von 4 Behörden wurde vom Ministerium für digitale Verwaltung veröffentlicht. | |
| Ungarn | Teilweise Klarheit. Nach einem Regierungsbeschluss wird eine neue Durchsetzungsstelle unter dem Minister für Volkswirtschaft eingerichtet, die sowohl die Aufgaben der notifizierenden Behörde als auch der Marktaufsichtsbehörde wahrnehmen soll. | Unklar | Gemäß dem Regierungsbeschluss wird ein AI-Rat eingerichtet, der befugt ist, Leitlinien und Entschließungen zu erlassen. Zu den Delegierten werden Vertreter der Nationalen Medien- und Infokommunikationsbehörde, der Ungarischen Nationalbank und der Ungarischen Wettbewerbsbehörde gehören. Die Frist für das Wirtschaftsministerium, das entsprechende Gesetz vorzuschlagen, endet am 30. November. |
| Island (EWR) | Unklar (AIA gilt noch nicht für den EWR). In der Sitzung des AI-Ausschusses am 10.09.2024 vertrat die Mission Islands bei der EU Island. | ||
| Irland | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Unternehmen, Handel und Beschäftigung Irland. | Das Ministerium für Unternehmen, Handel und Beschäftigung hat 9 nationale Behörden aufgelistet. | |
| Italien | Teilweise Klarheit. Ein Legislativvorschlag vom Mai 2024 benennt die Nationale Agentur für Cybersicherheit (Agenzia per la Cybersicurezza Nazionale, ACN) als Marktaufsichtsbehörde mit Überwachungs-, Inspektions- und Durchsetzungsbefugnissen in Bezug auf KI-Systeme. Der Vorschlag benennt die Agentur für digitales Italien (Agenzia per l'Italia Digitale, AgID) als notifizierende Behörde. | Unklar | |
| Lettland | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für intelligente Verwaltung und regionale Entwicklung Lettland. | Unklar | |
| Liechtenstein (EWR) | Unklar (AIA gilt noch nicht für den EWR). In der AI-Board-Sitzung am 10.09.2024 vertrat das Amt für Finanzmarktinnovation und Digitalisierung Lichtenstein. | ||
| Litauen | Teilweise Klarheit. In einem anhängigen Durchführungsgesetz wird die Innovationsagentur als notifizierende Behörde benannt. In dem Vorschlag wird die Regulierungsbehörde für Kommunikation als AI-Marktüberwachungsbehörde und zentrale Anlaufstelle benannt. | Eine Liste von 4 Behörden wurde vom Ministerium für Wirtschaft und Innovation veröffentlicht. | Litauen hat KI-Sandbox-Piloten gestartet. |
| Luxemburg | Teilweise Klarheit. Die Nationale Kommission für Datenschutz wurde als zuständige Behörde für die Umsetzung des AI-Gesetzes benannt. Im Dezember 2024 wurde ein Gesetzesentwurf zur Umsetzung des AI-Gesetzes vorgelegt, der drei Meldebehörden vorsieht: das luxemburgische Amt für Akkreditierung und Überwachung, die luxemburgische Agentur für Arzneimittel und Gesundheitsprodukte und den staatlichen Datenschutzbeauftragten. Darüber hinaus sieht dieses Gesetz eine Reihe von Marktaufsichtsbehörden vor, darunter die Justizkontrollbehörde, die Aufsichtskommission für den Finanzsektor und die Versicherungskommission. | Das Ministerium für Medien, Konnektivität und Digitalpolitik hat eine Liste von 3 Behörden veröffentlicht. | Eine nationale KI-Strategie wird für das Frühjahr 2025 erwartet. |
| Malta | Klar. Die maltesische Behörde für digitale Innovation (Malta Digital Innovation Authority, MDIA) und die Datenschutzkommission werden gemeinsam als Marktaufsichtsbehörden fungieren. Außerdem wird die MDIA zusammen mit dem Nationalen Akkreditierungsrat als notifizierende Behörde benannt. | Es wurde eine Liste von 10 Behörden erstellt, die die Grundrechte schützen. | |
| Die Niederlande | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Wirtschaft und Klimapolitik die Niederlande. | Eine Liste von 6 Einrichtungen wurde in Abstimmung mit drei verschiedenen Ministerien veröffentlicht. | Die niederländische Regierung hat eine vorläufige Stellungnahme zur Aufsichtsstruktur für das KI-Gesetz eingeholt, zu der 22 relevante niederländische Aufsichtsbehörden beigetragen haben, darunter die niederländische Datenschutzbehörde und die niederländische Behörde für digitale Infrastruktur. |
| Norwegen (EWR) | Unklar (AIA gilt noch nicht für den EWR). In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Digitalisierung und öffentliche Verwaltung die Niederlande. | Unklar | Die norwegische Agentur für öffentliches und finanzielles Management hat einen umfassenden Bericht veröffentlicht, in dem verschiedene mögliche Governance-Strukturen im Rahmen des AI im Juni 2024 untersucht werden. |
| Polen | Teilweise Klarheit. Mit einem noch ausstehenden Durchführungsgesetz wird ein neues Gremium, der Ausschuss für die Entwicklung und Sicherheit der KI, als Marktaufsichtsbehörde und zentrale Anlaufstelle eingerichtet. Das Gesetz benennt den Minister für Digitalisierung als notifizierende Behörde. | Das Ministerium für Digitalisierung hat eine Liste von 3 Behörden veröffentlicht. | Es wird erwartet, dass das Gesetz bis zum 4. Quartal 2024 verabschiedet wird. |
| Portugal | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat die Agentur für Verwaltungsmodernisierung Portugal. | Das Ministerium für Jugend und Modernisierung veröffentlichte eine Liste von 14 Agenturen. | |
| Rumänien | Teilweise Klarheit. Gemäß der rumänischen nationalen KI-Strategie vom Juli 2024 wird eine neue KI-Regulierungsbehörde eingerichtet, die die Aufgaben einer Notifizierungs- und Marktüberwachungsbehörde erfüllen soll. Die Strategie fällt in den Zuständigkeitsbereich der Behörde für die Digitalisierung Rumäniens, die auch die Behörde war, die Rumänien in der Sitzung des KI-Rates am 10.09.2024 vertrat. | Eine Liste von 9 Behörden wurde von der rumänischen Behörde für Digitalisierung veröffentlicht. | |
| Slowakei | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Investitionen, regionale Entwicklung und Informatik die Slowakei. | Unklar | Im Jahr 2020 wurde eine Ständige Kommission für Ethik und Regulierung der KI (CERAI) eingerichtet. AISlovakia ist eine neutrale, unabhängige, gemeinnützige Plattform, die die Zusammenarbeit im Bereich der KI zwischen Wissenschaftlern, Arbeitgebern, Regierungsvertretern und Vertretern internationaler Institutionen erleichtert. |
| Slowenien | Unklar. Das Ministerium für digitale Transformation ist für die Umsetzung des KI-Gesetzes in slowenisches Recht zuständig. Gemäß 12.09 soll ein Expertenrat, bestehend aus slowenischen Experten, eingerichtet werden, um bei der Umsetzung zu beraten. | Unklar | |
| Spanien | Teilweise klar. Die spanische Aufsichtsbehörde für künstliche Intelligenz (AESIA) wurde im September 2023 als autonome Behörde des spanischen Ministeriums für digitale Transformation eingerichtet. Die notifizierende Stelle wurde noch nicht benannt. | Eine Liste von 12 Behörden wurde vom Ministerium für digitale Transformation und den öffentlichen Dienst veröffentlicht. | |
| Schweden | Unklar. Sowohl die schwedische Datenschutzbehörde als auch die schwedische Digitalisierungsbehörde haben Erklärungen zur Umsetzung des KI-Gesetzes veröffentlicht. In der Sitzung des AI Board am 10.09.2024 vertrat das Finanzministerium Schweden. | Unklar | Schweden hat einen KI-Rat eingerichtet, der die schwedische KI-Wettbewerbsfähigkeit stärken soll. |