Das KI-Büro: Was ist es, und wie funktioniert es?

In diesem Überblick bieten wir eine Zusammenfassung der Schlüsselelemente des KI-Büros, die für diejenigen von Bedeutung sind, die sich für KI-Governance interessieren. Wir haben die Zuständigkeiten des KI-Büros, seine Rolle innerhalb der Europäischen Kommission, seine Beziehung zum KI-Rat, seinen nationalen Regulierungsbehörden, dem wissenschaftlichen Gremium unabhängiger Experten und seine Funktion als Sprachrohr der EU in der globalen KI-Zusammenarbeit hervorgehoben. Weitere Einzelheiten entnehmen Sie bitte dem neuesten Rechtstext des KI-Gesetzes, mit dem das KI-Büro geschaffen wurde, und dem Beschluss der Kommission, mit dem es offiziell als Rechtsperson eingerichtet wurde.  

Die Europäische Kommission hat eine neue Regulierungsbehörde auf EU-Ebene eingerichtet, das Europäische Amt für künstliche Intelligenz, das in der Generaldirektion für Kommunikationsnetze, Inhalte und Technologie (GD CNECT) der Europäischen Kommission angesiedelt sein wird. 

Das KI-Büro wird die Anforderungen des KI-Gesetzes an KI-Modelle und -Systeme für allgemeine Zwecke (GPAI) in den 27 EU-Mitgliedstaaten überwachen, beaufsichtigen und durchsetzen. Dazu gehört die Analyse neu auftretender, unvorhergesehener Systemrisiken, die sich aus der Entwicklung und dem Einsatz von GPAI ergeben, sowie die Entwicklung von Fähigkeitsbewertungen, die Durchführung von Modellbewertungen und die Untersuchung von Vorfällen mit potenziellen Verstößen und Nichteinhaltung. Um den Anbietern von GPAI-Modellen die Einhaltung der Vorschriften zu erleichtern und ihre Perspektiven zu berücksichtigen, wird das Amt für künstliche Intelligenz freiwillige Verhaltenskodizes erstellen, deren Einhaltung eine Konformitätsvermutung begründen würde. 

Das Amt für künstliche Intelligenz wird die EU auch bei der internationalen Zusammenarbeit im Bereich der künstlichen Intelligenz anführen und die Beziehungen zwischen der Europäischen Kommission und der wissenschaftlichen Gemeinschaft, einschließlich des künftigen wissenschaftlichen Gremiums unabhängiger Experten, stärken. Das Amt wird die 27 Mitgliedstaaten bei der Zusammenarbeit in der Rechtsdurchsetzung, einschließlich gemeinsamer Ermittlungen, unterstützen und als Sekretariat des KI-Rates fungieren, dem zwischenstaatlichen Forum für die Koordinierung zwischen den nationalen Regulierungsbehörden. Es wird die Einrichtung von regulatorischen Sandkästen unterstützen, in denen Unternehmen KI-Systeme in einem kontrollierten Umfeld testen können. Außerdem wird sie kleinen und mittleren Unternehmen (KMU) Informationen und Ressourcen zur Verfügung stellen, um sie bei der Einhaltung der Vorschriften zu unterstützen. 

Zentraler Koordinierungs- und Überwachungsmechanismus

Was wird das AI-Büro tun, um die Umsetzung des EU-AI-Gesetzes zu koordinieren und zu überwachen?

• Das Amt für künstliche Intelligenz wird die Umsetzung der Regeln durch die Entwickler von GPAI-Modellen überwachen und sie auffordern, Korrekturmaßnahmen zu ergreifen, wenn diese nicht eingehalten werden. 
• Wenn ein und derselbe Anbieter das GPAI-Modell und das System (benutzerseitige Anwendung) entwickelt, überwacht das AI-Büro auch die Einhaltung des GPAI-Systems.
• Wenn ein GPAI-System direkt von den Betreibern in einem Hochrisikokontext (Anhang II oder III) verwendet wird und der Verdacht besteht, dass es nicht konform ist, wird das AI-Büro mit den Marktaufsichtsbehörden zusammenarbeiten, um die Konformität zu bewerten und den AI-Vorstand zu informieren.
• Das AI-Büro wird die einheitliche Anwendung des AI-Gesetzes in den Mitgliedstaaten erleichtern.
• Das Amt wird die koordinierte Durchsetzung verbotener und hochriskanter AI unterstützen, indem es die Kommunikation zwischen sektoralen Stellen und nationalen Behörden strafft und zentrale Datenbanken einrichtet, insbesondere wenn ein GPAI-Modell oder -System in ein AI-System für hochriskante AI integriert wird.
• Sie wird die aufsichtsrechtliche Koordinierung für KI-Systeme sicherstellen, die unter das KI-Gesetz sowie das Gesetz über digitale Dienste (DSA) und das Gesetz über digitale Märkte (DMA) fallen.
• Sie wird die Schaffung eines Governance-Systems koordinieren , einschließlich der Vorbereitung der Einrichtung von Beratungsgremien auf EU-Ebene und der Überwachung der Einrichtung der entsprechenden nationalen Behörden.
• Schließlich wird das Büro als Sekretariat für den AI-Beirat und seine Untergruppen fungieren und das beratende Forum und das wissenschaftliche Gremium unabhängiger Sachverständiger verwaltungstechnisch unterstützen, u. a. durch die Organisation von Sitzungen und die Vorbereitung einschlägiger Dokumente.

AI-Board

Was ist der AI-Vorstand, und welche Rolle spielt er im Verhältnis zum AI-Büro?

• Das Gremium, das sich aus einem Vertreter pro Mitgliedstaat zusammensetzt, wobei der EDSB und das AI-Büro als nicht stimmberechtigte Beobachter an den Sitzungen teilnehmen, sollte die Kohärenz und Koordinierung der Umsetzung zwischen den zuständigen nationalen Behörden sicherstellen.
• Das AI-Büro nimmt die Sekretariatsgeschäfte des Ausschusses wahr, beruft auf Antrag des Vorsitzenden Sitzungen ein und erstellt die Tagesordnung. 
• Der AI-Verwaltungsrat wird das AI-Büro bei der Unterstützung der zuständigen nationalen Behörden bei der Einrichtung und Entwicklung von regulatorischen Sandkästen unterstützen und die Zusammenarbeit und den Informationsaustausch zwischen den regulatorischen Sandkästen erleichtern.

Gemeinsame Untersuchungen

Welche Rolle wird das Amt für künstliche Intelligenz bei "gemeinsamen Ermittlungen" spielen?

• Das Amt für künstliche Intelligenz wird die Koordinierung gemeinsamer Untersuchungen unterstützen, die von einer oder mehreren Marktüberwachungsbehörden durchgeführt werden, um Verstöße festzustellen, wenn sich herausstellt, dass KI-Systeme mit hohem Risiko in mehreren Mitgliedstaaten ein ernstes Risiko darstellen.

Vollstreckung

Das AI-Büro wird die Kommission in ihrer Rolle als federführender Durchsetzer des AI-Gesetzes unterstützen, indem es Vorbereitungen trifft: 

• Entscheidungen (Rechtsakte, die nur für bestimmte Adressaten gelten, entweder allgemein oder individuell); 
• Durchführungsrechtsakte zur Festlegung detaillierter Vorschriften für die Anwendung des AI-Gesetzes;
• Delegierte Rechtsakte zur Ergänzung oder Änderung nicht wesentlicher Bestimmungen des AI-Gesetzes; 
• Orientierungshilfen und Leitlinien zur Unterstützung der praktischen Umsetzung des AI-Gesetzes, z. B. standardisierte Protokolle und bewährte Verfahren, in Absprache mit den zuständigen Kommissionsdienststellen und den Organen, Einrichtungen und Agenturen der EU;
• Normungsaufträge: Bewertung bestehender Normen und Ausarbeitung gemeinsamer Spezifikationen zur Unterstützung der Umsetzung des AI-Gesetzes.

Verhaltenskodizes

Wie wird das Amt für künstliche Intelligenz Verhaltenskodizes für künstliche Intelligenz in der EU umsetzen?

• Bis zum zweiten Quartal 2025 müssen das KI-Büro und der KI-Vorstand die Entwicklung von Verhaltenskodizes erleichtern, die GPAI-Verpflichtungen und Wasserzeichen-Techniken für die Kennzeichnung von Inhalten als künstlich generiert abdecken und gleichzeitig internationale Ansätze berücksichtigen. Die Kodizes müssen spezifische, messbare Ziele haben, einschließlich wichtiger Leistungsindikatoren (KPIs), die den Unterschieden in der Größe und Kapazität der verschiedenen Anbieter Rechnung tragen. 
• Das AI-Büro muss die Umsetzung und Wirksamkeit der Kodizes überwachen und bewerten, was Berichte der GPAI-Anbieter einschließt, und gleichzeitig Anpassungen im Hinblick auf neu entstehende Standards in Betracht ziehen. Dazu gehört auch die Einrichtung von Foren für Anbieter von GPAI-Modellen und -Systemen zum Austausch bewährter Verfahren. Dazu können Konsultationen mit den zuständigen nationalen Behörden, der Zivilgesellschaft, der Industrie, der Wissenschaft, nachgeschalteten Anbietern und unabhängigen Sachverständigen gehören, die regelmäßig konsultiert werden sollten.
• Alle GPAI-Modellanbieter können die Einhaltung ihrer Verpflichtungen nachweisen, indem sie sich freiwillig an die Verhaltenskodizes halten, bis harmonisierte europäische Normen veröffentlicht werden, deren Einhaltung ebenfalls zur Konformitätsvermutung führt.
• Das Amt für Künstliche Intelligenz wird ein Forum für die Zusammenarbeit mit der Open-Source-Gemeinschaft schaffen, um bewährte Verfahren für die sichere Entwicklung und Nutzung von Open-Source-KI-Modellen und -Systemen zu ermitteln und zu entwickeln.
• Die Kommission kann einem Verhaltenskodex durch Durchführungsrechtsakte allgemeine EU-Gültigkeit verleihen. Wenn ein Verhaltenskodex nicht fertiggestellt werden kann, wenn Vorschriften rechtlich anwendbar sind, oder wenn das AI-Büro ihn für unzureichend hält, kann die Kommission gemeinsame Vorschriften für die Umsetzung durch Durchführungsrechtsakte erlassen.

Modellbewertungen: Fähigkeiten und Risiken

Um die Fähigkeiten und Risiken von KI-Modellen zu bewerten, wird das KI-Büro:

• Entwicklung von Instrumenten, Methoden und Maßstäben für die Bewertung der Fähigkeiten von GPAI-Modellen, insbesondere der hochgradig fähigen Modelle mit den größten Auswirkungen, die mögliche systemische Risiken darstellen.
• Überwachung neu auftretender unvorhergesehener Risiken von GPAI-Modellen, einschließlich der Reaktion auf die qualifizierten Warnungen des wissenschaftlichen Gremiums unabhängiger Experten. Systemische GPAI-Modellanbieter sind außerdem verpflichtet, dem AI-Büro schwerwiegende Vorfälle und Abhilfemaßnahmen zu melden. 
• Untersuchung möglicher Verstöße und systemischer Risiken von vorgelagerten GPAI-Modellen und -Systemen, einschließlich der Sammlung von Beschwerden von nachgelagerten Anbietern und Betreibern sowie von qualifizierten Warnungen des wissenschaftlichen Gremiums unabhängiger Experten. 
• Von den GPAI-Modellanbietern sind erforderlichenfalls technische Unterlagen über die Schulungs- und Testverfahren und die Bewertungsergebnisse sowie alle anderen zusätzlichen Informationen zu verlangen, die für die Beurteilung der Einhaltung der Vorschriften oder für die Arbeit des wissenschaftlichen Gremiums unabhängiger Sachverständiger erforderlich sind. 
• Aufnahme eines strukturierten Dialogs mit dem Anbieter des GPAI-Modells, sofern dies hilfreich ist, um mehr Informationen über die internen Tests des Modells, die Sicherheitsvorkehrungen zur Verhinderung systemischer Risiken und andere Verfahren und Maßnahmen zu erhalten, die der Anbieter zur Minderung solcher Risiken ergriffen hat.
• Durchführung von Modellevaluierungen nach Rücksprache mit dem KI-Ausschuss anhand von APIs oder anderen Mitteln wie dem Quellcode, wenn die Dokumentation und die Informationen nicht ausreichen, um die Übereinstimmung zu beurteilen.

Wenn diese Modellevaluierungen einen ernsthaften und begründeten Verdacht auf ein Systemrisiko ergeben haben, kann das AI Office den Anbieter auffordern, Abhilfemaßnahmen zu ergreifen, die durch eine Entscheidung der Kommission verbindlich gemacht werden können. Wenn diese Abhilfemaßnahmen nicht ausreichen, um das Risiko zu beseitigen, kann das AI-Büro das GPAI-Modell einschränken, zurückrufen oder vom Markt nehmen. 

Datenverwaltung

Das Amt für künstliche Intelligenz wird auch eine Vorlage für GPAI-Anbieter entwickeln, die sie bei der Veröffentlichung einer hinreichend detaillierten Zusammenfassung der für die Schulung des GPAI-Modells verwendeten Inhalte verwenden können. Diese Zusammenfassung sollte eher umfassend als technisch detailliert sein, um Parteien mit berechtigten Interessen die Ausübung ihrer Rechte zu erleichtern. Die Zusammenfassungen der Trainingsdaten können die wichtigsten verwendeten Datensammlungen oder -sätze auflisten, z. B. große private oder öffentliche Datenbanken oder Datenarchive, und gleichzeitig eine Erläuterung zu anderen verwendeten Datenquellen enthalten.

Wissenschaftliches Gremium aus unabhängigen Experten

Die Kommission wählt Experten aus, die nachweislich über Fachwissen verfügen, von den KI-Entwicklern unabhängig sind und ihre Aufgaben sorgfältig, genau und objektiv erfüllen können. 

Das Gremium wird das AI-Büro in folgenden Bereichen beraten und unterstützen: 

• Umsetzung und Durchsetzung von GPAI-Modellen und -Systemen. 
• Entwicklung von Instrumenten, Methoden und Benchmarks zur Bewertung der GPAI-Fähigkeiten. 
• Klassifizierung der verschiedenen GPAI-Modelle und -Systeme, einschließlich systemischer GPAI-Modelle.
• Entwicklung von Tools und Vorlagen. 

Das Gremium kann eine qualifizierte Warnung an das AI-Büro übermitteln, wenn es den Verdacht hat, dass ein GPAI-Modell ein konkretes, erkennbares Risiko auf EU-Ebene darstellt oder den Schwellenwert für die Einstufung von GPAI-Modellen als systemisch riskant erreicht. 

Zusammenarbeit

Im Hinblick auf die Zusammenarbeit wird das AI-Büro auch:

• Zusammenarbeit mit den einschlägigen EU-Organen, -Einrichtungen und -Agenturen, einschließlich des Europäischen Gemeinsamen Unternehmens für Hochleistungsrechnen (EuroHPC JU), zur Förderung von Investitionen in die Entwicklung von GPAI, die für nützliche Anwendungen eingesetzt werden können; 
• Kontaktaufnahme mit den Behörden der Mitgliedstaaten im Namen der Kommission;
• Zusammenarbeit mit den zuständigen Generaldirektionen und Kommissionsdienststellen, insbesondere mit dem Europäischen Zentrum für Algorithmische Transparenz für die Bewertung von GPAI-Modellen und Sensibilisierung der Kommission für neu auftretende Risiken; 
• Bewertung und Förderung der Konvergenz bewährter Verfahren bei der öffentlichen Auftragsvergabe für KI-Systeme; 
• Beitrag zur internationalen Zusammenarbeit im Bereich der KI-Governance, Eintreten für eine verantwortungsvolle KI und Förderung des EU-Konzepts. 

Sandkästen

Das Amt wird technische Unterstützung, Beratung und Instrumente für die Einrichtung und den Betrieb von Sandkästen für KI-Regulierung bereitstellen und sich bei Bedarf mit nationalen Behörden abstimmen, um die Zusammenarbeit zwischen den Mitgliedstaaten zu fördern. Zwei Jahre nach Inkrafttreten müssen die Mitgliedstaaten mindestens eine Sandbox für KI-Regulierung einrichten, entweder eigenständig oder durch den Beitritt zu einer oder mehreren Sandboxen anderer Mitgliedstaaten.

Dies sollte die Innovation, insbesondere für KMU, fördern, indem KI-Schulungen, -Tests und -Validierungen erleichtert werden, bevor das System unter Aufsicht der Regulierungsbehörden auf den Markt gebracht oder in Betrieb genommen wird. Eine solche Aufsicht soll für Rechtsklarheit sorgen, das Fachwissen der Regulierungsbehörden und die politischen Erkenntnisse verbessern und den Marktzugang ermöglichen. Das Amt für künstliche Intelligenz wird von den nationalen Behörden über jede Aussetzung der Sandkastentests aufgrund erheblicher Risiken unterrichtet. Die nationalen Behörden legen dem KI-Büro und dem KI-Verwaltungsrat öffentlich zugängliche Jahresberichte vor, in denen die Fortschritte der Sandbox, Zwischenfälle und Empfehlungen im Einzelnen aufgeführt sind.

Unterstützung von KMU

Was wird das Amt für künstliche Intelligenz zur Unterstützung der KMU in der EU tun?

• Das AI-Büro wird eine einheitliche Informationsplattform entwickeln und pflegen, die allen EU-Akteuren leicht zugängliche Informationen über diese Verordnung bietet. 
• Das AI-Büro wird geeignete Kommunikationskampagnen organisieren, um das Bewusstsein für die Anforderungen der Verordnung zu schärfen. 

Überprüfung

Wie sollen die Aufgaben und Zuständigkeiten des AI-Büros überprüft und aktualisiert werden?

• Zwei Jahre nach Inkrafttreten (Juni 2026) wird die Kommission bewerten, ob das Amt für künstliche Intelligenz mit ausreichenden Befugnissen und Zuständigkeiten ausgestattet wurde, um seine Aufgaben zu erfüllen, und ob diese mit mehr Ressourcen aufgewertet werden müssen.