Seit dem Inkrafttreten des AI-Gesetzes am 1. August ist es für die Mitgliedstaaten höchste Zeit, die Umsetzung des Gesetzes vorzubereiten. Einer der ersten Aspekte der nationalen Umsetzung ist die Benennung der Behörden. Dieser Beitrag gibt einen Überblick über die nationalen Behörden, die gemäß dem AI-Gesetz zu benennen sind, und darüber, was wir zum Zeitpunkt der Veröffentlichung über die nationalen Umsetzungspläne wissen.
Diese Ressource ist in Arbeit und wird aktualisiert, sobald neue Informationen verfügbar sind. Bitte helfen Sie uns, die Vollständigkeit und Richtigkeit dieses Inhalts zu gewährleisten, indem Sie uns Informationen über die Behörden in Ihrer Region zur Verfügung stellen: tekla@futureoflife.org.
Drei Arten von Behörden in den Mitgliedstaaten gemäß dem AI-Gesetz
Die Mitgliedstaaten sind verpflichtet, im Rahmen der Umsetzung des EU-AI-Gesetzes drei Arten von Behörden zu benennen oder einzurichten.
Marktüberwachungsbehörde
Erstens soll eine "Marktüberwachungsbehörde" die aus der Verordnung (EU) 2019/1020 über die Marktüberwachung und die Konformität von Produkten bekannten Tätigkeiten durchführen und Maßnahmen ergreifen(Artikel 3 Absatz 26). Diese Behörde baut somit auf dem bereits bestehenden und gut etablierten Konzept der Marktüberwachungsbehörden im EU-Recht auf und soll sicherstellen, dass nur Produkte auf dem Unionsmarkt bereitgestellt werden, die dem EU-Recht entsprechen.
Meldebehörde
Zweitens ist eine "notifizierende Behörde" die nationale Behörde, die für die Einrichtung und Durchführung des Verfahrens zur Bewertung, Benennung und Notifizierung von Konformitätsbewertungsstellen sowie für deren Überwachung zuständig ist(Artikel 3 Absatz 19 und Artikel 28 Absatz 1).Konformitätsbewertungsstellen" sind Stellen, die Konformitätsbewertungstätigkeiten für Dritte durchführen, einschließlich Prüfung, Zertifizierung und Inspektion(Artikel 3 Absatz 21).
Die notifizierende Behörde und die Marktüberwachungsbehörde werden gemeinsam als die zuständigen nationalen Behörden bezeichnet(Artikel 3 Absatz 48). Sie müssen unabhängig, unparteiisch und unvoreingenommen arbeiten, über angemessene technische, finanzielle und personelle Ressourcen sowie über die Infrastruktur verfügen, um ihre Aufgaben im Rahmen des AI-Gesetzes wirksam zu erfüllen(Artikel 70 Absätze 1 und 3). Die Kommission wird den Erfahrungsaustausch zwischen den zuständigen nationalen Behörden erleichtern(Art. 70(7)).
Nationale öffentliche Behörde
Drittens müssen die Mitgliedstaaten nationale Behörden benennen, die die Verpflichtung zur Achtung der Grundrechte in den Mitgliedstaaten in Bezug auf die in Anhang III genannten AI-Systeme mit hohem Risiko durchsetzen. Diese Behörden sollten befugt sein, alle nach dem AI-Gesetz erstellten oder aufbewahrten Unterlagen anzufordern und einzusehen, wenn diese Unterlagen zur wirksamen Erfüllung ihres Mandats im Rahmen ihrer Zuständigkeit erforderlich sind(Artikel 77 Absatz 2).
Großer Ermessensspielraum für die Mitgliedstaaten
Das AI-Gesetz lässt den Mitgliedstaaten einen Ermessensspielraum in Bezug auf die Struktur und Gestaltung dieser drei Arten von Behörden. Dementsprechend haben die Mitgliedstaaten Behörden vorgeschlagen oder benannt, die eine Reihe von Formen annehmen können. So hat Spanien beispielsweise eine spanische Aufsichtsbehörde für künstliche Intelligenz (AESIA) eingerichtet, die als einzige Marktaufsichtsbehörde unter dem spanischen Ministerium für digitale Transformation fungiert. Im Gegensatz dazu hat Finnland ein dezentralisiertes Modell vorgeschlagen, bei dem 10 bereits bestehende Marktaufsichtsbehörden benannt werden, darunter die Energiebehörde, die Agentur für Verkehr und Kommunikation und die Arzneimittelbehörde.
Zeitpläne und Stand der Umsetzung
Die Mitgliedstaaten müssen bis zum 2. August 2025 zuständige Behörden einrichten oder benennen(Art. 113(b)). Zum Zeitpunkt der Veröffentlichung ist Malta der einzige Mitgliedstaat, der sowohl eine notifizierende Behörde als auch eine Marktüberwachungsbehörde benannt hat ("eindeutig" in der nachstehenden Tabelle). Acht Mitgliedstaaten haben Legislativvorschläge anhängig oder haben eine zuständige Behörde benannt ("teilweise Klarheit"), während 18 Mitgliedstaaten unseres Wissens keine zuständige Behörde benannt oder eingerichtet haben.
Was die Behörden zum Schutz der Grundrechte betrifft, so sollten die Mitgliedstaaten bis zum 2. November 2024 eine Liste dieser Behörden veröffentlichen(Artikel 77 Absatz 2). Nach unserem Kenntnisstand haben nur vier Mitgliedstaaten eine Liste solcher Behörden zum Zeitpunkt der Veröffentlichung veröffentlicht.
Tabelle 1: Gesamtstatus der nationalen Behörden
| Status (ab dem Datum der Veröffentlichung) | Zuständige nationale Behörden(Art. 28 und Art. 70) | Behörden zum Schutz der Grundrechte(Artikel 77) |
|---|---|---|
| Unklar | 18 | 23 |
| Teilweise Klarheit | 8 | - |
| Klar | 1 | 4 |
Tabelle 2: Mitgliedstaaten und ihre benannten nationalen Behörden
| Mitgliedstaat | Zuständige nationale Behörden(Art. 28 und Art. 70) | Behörden zum Schutz der Grundrechte(Artikel 77) | Anmerkungen |
|---|---|---|---|
| Österreich | Unklar. Zur Unterstützung der Umsetzung des EU-KI-Gesetzes wurde bei der Rundfunk und Telekom Regulierungs-GmbH (RTR-GmbH) ein AI Service Desk eingerichtet. Die notifizierende Behörde und die Marktaufsichtsbehörde wurden nicht benannt. | Unklar | Österreich hat einen nationalen KI-Beirat eingerichtet, der sich aus Experten aus Forschung und Wirtschaft zusammensetzt. |
| Belgien | Unklar. In der Sitzung des AI-Verwaltungsrats am 10.09.2024 vertraten der Föderale Öffentliche Dienst für Wirtschaft und die Agence du Numérique Belgien. | Unklar | In Belgien gibt es einen Ethik-Beirat für Daten und KI, der vom Minister für den öffentlichen Dienst und dem Staatssekretär für Digitalisierung ernannt wird. |
| Bulgarien | Unklar. In der AI-Vorstandssitzung am 10.09.2024 vertrat das Ministerium für elektronische Verwaltung Bulgarien. | Unklar | |
| Kroatien | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Zentrale Staatsbüro für die Entwicklung der digitalen Gesellschaft Kroatien. | Unklar | |
| Zypern | Unklar. In der Sitzung des AI Board am 10.09.2024 vertrat das Ministerium für Forschung, Innovation und digitale Politik Zypern. | Das Ministerium für Forschung, Innovation und digitale Politik hat eine Liste von 3 Behörden erstellt, die noch geändert werden kann. | |
| Tschechische Republik | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Industrie und Handel die Tschechische Republik. | Unklar | Das Ministerium für Industrie und Handel war auch mit der Verabschiedung einer überarbeiteten nationalen KI-Strategie im Juli 2024 beauftragt. |
| Dänemark | Teilweise Klarheit. Die bereits bestehende dänische Agentur für digitale Verwaltung wurde als koordinierende Marktaufsichtsbehörde und zentrale Anlaufstelle benannt. Unklar, welche Stelle als notifizierende Behörde fungieren wird. | Unklar | Im September 2024 wurde eine Arbeitsgruppe eingesetzt, in der eine Reihe von Akteuren (Zivilgesellschaft, Industrie, öffentliche Einrichtungen, Hochschulen usw.) vertreten sind. Sie wird 3-4 Mal pro Jahr zusammentreten. |
| Estland | Unklar. In der Sitzung des AI-Vorstands am 10.09.2024 vertrat das Ministerium für Wirtschaft und Kommunikation Estland. | Unklar | |
| Finnland | Teilweise Klarheit. Ein Entwurf eines Durchführungsgesetzes vom Oktober 2024 ernennt 10 bereits bestehende Marktüberwachungsbehörden(siehe englische Übersicht). Die finnische Behörde für Verkehr und Kommunikation wird als einheitliche Anlaufstelle fungieren. Unklar, welche Stelle als notifizierende Behörde fungieren wird. | Unklar | Der Entwurf des Durchführungsrechtsakts steht bis zum 4. Dezember 2024 für öffentliche Konsultationen zur Verfügung. |
| Frankreich | Unklar. In der Sitzung des AI-Vorstands am 10.09.2024 vertrat die Generaldirektion Unternehmen Frankreich. | Unklar | |
| Deutschland | Unklar. Das Bundesministerium für Wirtschaft und Klimaschutz und das Bundesministerium für Justiz sind gemeinsam für die Umsetzung des KI-Gesetzes verantwortlich, aber die zuständigen Behörden sind ab September 2024 noch nicht festgelegt. | Unklar | Ein Durchführungsgesetz wird für das erste Quartal 2025 erwartet. |
| Griechenland | Unklar. In der Sitzung des AI-Vorstands am 10.09.2024 vertrat das Ministerium für digitale Verwaltung Griechenland. | Unklar | |
| Ungarn | Teilweise Klarheit. Nach einem Regierungsbeschluss wird eine neue Durchsetzungsstelle unter dem Minister für Volkswirtschaft eingerichtet, die sowohl die Aufgaben der notifizierenden Behörde als auch der Marktaufsichtsbehörde wahrnehmen soll. | Unklar | Gemäß dem Regierungsbeschluss wird ein AI-Rat eingerichtet, der befugt ist, Leitlinien und Entschließungen zu erlassen. Zu den Delegierten werden Vertreter der Nationalen Medien- und Infokommunikationsbehörde, der Ungarischen Nationalbank und der Ungarischen Wettbewerbsbehörde gehören. Die Frist für das Wirtschaftsministerium, das entsprechende Gesetz vorzuschlagen, endet am 30. November. |
| Irland | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Unternehmen, Handel und Beschäftigung Irland. | Das Ministerium für Unternehmen, Handel und Beschäftigung hat 9 nationale Behörden aufgelistet. | |
| Italien | Teilweise Klarheit. Ein Legislativvorschlag vom Mai 2024 benennt die Nationale Agentur für Cybersicherheit (Agenzia per la Cybersicurezza Nazionale, ACN) als Marktaufsichtsbehörde mit Überwachungs-, Inspektions- und Durchsetzungsbefugnissen in Bezug auf KI-Systeme. Der Vorschlag benennt die Agentur für digitales Italien (Agenzia per l'Italia Digitale, AgID) als notifizierende Behörde. | Unklar | |
| Lettland | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für intelligente Verwaltung und regionale Entwicklung Lettland. | Unklar | |
| Litauen | Teilweise Klarheit. In einem anhängigen Durchführungsgesetz wird die Innovationsagentur als notifizierende Behörde benannt. In dem Vorschlag wird die Regulierungsbehörde für Kommunikation als AI-Marktüberwachungsbehörde und zentrale Anlaufstelle benannt. | Unklar | Litauen hat KI-Sandbox-Piloten gestartet. |
| Luxemburg | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das State Department Luxemburg. | Unklar | |
| Malta | Klar. Die maltesische Behörde für digitale Innovation (Malta Digital Innovation Authority, MDIA) und die Datenschutzkommission werden gemeinsam als Marktaufsichtsbehörden fungieren. Außerdem wird die MDIA zusammen mit dem Nationalen Akkreditierungsrat als notifizierende Behörde benannt. | Es wurde eine Liste von 10 Behörden erstellt, die die Grundrechte schützen. | |
| Die Niederlande | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Wirtschaft und Klimapolitik die Niederlande. | Unklar | Die niederländische Regierung hat eine vorläufige Stellungnahme zur Aufsichtsstruktur für das KI-Gesetz eingeholt, zu der 22 relevante niederländische Aufsichtsbehörden beigetragen haben, darunter die niederländische Datenschutzbehörde und die niederländische Behörde für digitale Infrastruktur. |
| Polen | Teilweise Klarheit. Mit einem noch ausstehenden Durchführungsgesetz wird ein neues Gremium, der Ausschuss für die Entwicklung und Sicherheit der KI, als Marktaufsichtsbehörde und zentrale Anlaufstelle eingerichtet. Das Gesetz benennt den Minister für Digitalisierung als notifizierende Behörde. | Unklar | Es wird erwartet, dass das Gesetz bis zum 4. Quartal 2024 verabschiedet wird. |
| Portugal | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat die Agentur für Verwaltungsmodernisierung Portugal. | Das Ministerium für Jugend und Modernisierung veröffentlichte eine Liste von 14 Agenturen. | |
| Rumänien | Teilweise Klarheit. Gemäß der rumänischen nationalen KI-Strategie vom Juli 2024 wird eine neue KI-Regulierungsbehörde eingerichtet, die die Aufgaben einer Notifizierungs- und Marktüberwachungsbehörde erfüllen soll. Die Strategie fällt in den Zuständigkeitsbereich der Behörde für die Digitalisierung Rumäniens, die auch die Behörde war, die Rumänien in der Sitzung des KI-Boards am 10.09.2024 vertrat. | Unklar | |
| Slowakei | Unklar. In der Sitzung des AI-Boards am 10.09.2024 vertrat das Ministerium für Investitionen, regionale Entwicklung und Informatik die Slowakei. | Unklar | Im Jahr 2020 wurde eine Ständige Kommission für Ethik und Regulierung der KI (CERAI) eingerichtet. AISlovakia ist eine neutrale, unabhängige, gemeinnützige Plattform, die die Zusammenarbeit im Bereich der KI zwischen Wissenschaftlern, Arbeitgebern, Regierungsvertretern und Vertretern internationaler Institutionen erleichtert. |
| Slowenien | Unklar. Das Ministerium für digitale Transformation ist für die Umsetzung des KI-Gesetzes in slowenisches Recht zuständig. Gemäß 12.09 soll ein Expertenrat, bestehend aus slowenischen Experten, eingerichtet werden, um bei der Umsetzung zu beraten. | Unklar | |
| Spanien | Teilweise klar. Die spanische Aufsichtsbehörde für künstliche Intelligenz (AESIA) wurde im September 2023 als autonome Behörde des spanischen Ministeriums für digitale Transformation eingerichtet. Die notifizierende Stelle wurde noch nicht benannt. | Unklar | |
| Schweden | Unklar. Sowohl die schwedische Datenschutzbehörde als auch die schwedische Digitalisierungsbehörde haben Erklärungen zur Umsetzung des KI-Gesetzes veröffentlicht. In der Sitzung des AI Board am 10.09.2024 vertrat das Finanzministerium Schweden. | Unklar | Schweden hat einen KI-Rat eingerichtet, der die schwedische KI-Wettbewerbsfähigkeit stärken soll. |