Das KI-Büro: Was ist es, und wie funktioniert es?  

Aktualisiert am 31. August 2026.

In diesem Überblick bieten wir eine Zusammenfassung der Schlüsselelemente des KI-Büros, die für diejenigen von Bedeutung sind, die sich für KI-Governance interessieren. Wir haben die Zuständigkeiten des KI-Büros, seine Rolle innerhalb der Europäischen Kommission, seine Beziehung zum KI-Rat, seinen nationalen Regulierungsbehörden, dem wissenschaftlichen Gremium unabhängiger Experten und seine Funktion als Sprachrohr der EU in der globalen KI-Zusammenarbeit hervorgehoben. Weitere Einzelheiten entnehmen Sie bitte dem neuesten Rechtstext des KI-Gesetzes, mit dem das KI-Büro geschaffen wurde, und dem Beschluss der Kommission, mit dem es offiziell als Rechtsperson eingerichtet wurde.  

Das Europäische KI-Büro ist Teil der Generaldirektion Kommunikationsnetze, Inhalte und Technologien (GD CNECT) der Europäischen Kommission.

Das KI-Amt überwacht, kontrolliert und setzt die Anforderungen des KI-Gesetzes in Bezug auf Modelle der allgemeinen KI (GPAI) sowie KI-Systeme durch, die vom selben Anbieter wie die zugrunde liegenden GPAI-Modelle entwickelt wurden (mit wenigen Ausnahmen), und KI-Systeme, die eine im Sinne des Gesetzes über digitale Dienste ausgewiesene sehr große Online-Plattform oder sehr große Online-Suchmaschine darstellen oder in diese integriert sind – und zwar in allen 27 EU-Mitgliedstaaten. Dazu gehören die Analyse neu auftretender, unvorhergesehener Risiken, die sich aus der Entwicklung und dem Einsatz von GPAI ergeben, sowie die Entwicklung von Instrumenten, Methoden und Benchmarks für die Bewertung von Fähigkeiten, die Durchführung von Modellbewertungen und die Untersuchung potenzieller Verstöße gegen die Bestimmungen des KI-Gesetzes in Bezug auf GPAI-Modelle und -Systeme. Um den Anbietern von GPAI-Modellen die Einhaltung der Vorschriften zu erleichtern und deren Standpunkte zu berücksichtigen, hat das KI-Büro an der Ausarbeitung des Verhaltenskodex für Allzweck-KI mitgewirkt, dessen Einhaltung als Nachweis für die Einhaltung des KI-Gesetzes durch den Anbieter dienen kann.

Das KI-Büro übernimmt zudem eine führende Rolle in der EU bei der internationalen Zusammenarbeit im Bereich der künstlichen Intelligenz und stärkt die Verbindungen zwischen der Europäischen Kommission und der Wissenschaftsgemeinschaft, einschließlich des wissenschaftlichen Gremiums unabhängiger Experten. Das Büro unterstützt die 27 Mitgliedstaaten bei der Zusammenarbeit im Bereich der Durchsetzung, einschließlich gemeinsamer Ermittlungen, und fungiert als Sekretariat des KI-Beirats, dem zwischenstaatlichen Forum zur Koordinierung zwischen den nationalen Regulierungsbehörden. Es unterstützt die Einrichtung von regulatorischen Sandkästen, in denen Unternehmen KI-Systeme in einer kontrollierten Umgebung testen können. Darüber hinaus ergänzt es die Bemühungen der Mitgliedstaaten, kleinen und mittleren Unternehmen (KMU) Informationen und Ressourcen zur Verfügung zu stellen, um ihnen die Einhaltung der Vorschriften zu erleichtern.

Zentraler Koordinierungs- und Überwachungsmechanismus

Wie koordiniert und überwacht das AI-Büro die Umsetzung des EU-KI-Gesetzes?

• Das AI-Büro überwacht die Umsetzung der Vorschriften durch die Anbieter von GPAI-Modellen und verpflichtet diese, bei Verstößen Abhilfemaßnahmen zu ergreifen.
• Wenn derselbe Anbieter sowohl das GPAI-Modell als auch das System entwickelt, in das es integriert wird (benutzerorientierte Anwendung), überwacht das KI-Büro auch die Konformität des KI-Systems, sofern keine Ausnahme vorliegt.
• Das KI-Amt überwacht zudem die Einhaltung der Vorschriften durch KI-Systeme, die eine gemäß dem Gesetz über digitale Dienste als „sehr große Online-Plattform“ oder „sehr große Online-Suchmaschine“ eingestufte Plattform darstellen oder in eine solche integriert sind.
• Wird ein GPAI-System direkt von Betreibern in einem Hochrisikokontext (Anhang I oder III) eingesetzt und besteht der Verdacht, dass es nicht konform ist, arbeiten die Marktüberwachungsbehörden mit dem KI-Büro zusammen, um die Konformität zu prüfen und den KI-Ausschuss sowie andere Marktüberwachungsbehörden zu informieren.
• Das KI-Büro sorgt für eine einheitliche Anwendung des KI-Gesetzes in allen Mitgliedstaaten.
• Die Behörde unterstützt die koordinierte Durchsetzung der Vorschriften für verbotene und risikoreiche KI-Systeme, indem sie die Kommunikation zwischen den nationalen Behörden optimiert und zentrale Datenbanken einrichtet, insbesondere wenn ein GPAI-Modell oder -System in ein risikoreiches KI-System integriert ist.
• Sie koordiniert die Schaffung eines Governance-Systems, einschließlich der Vorbereitung der Einrichtung von Beratungsgremien auf EU-Ebene und der Überwachung der Einrichtung der entsprechenden nationalen Behörden.
• Schließlich fungiert das Büro als Sekretariat für den AI-Vorstand und dessen Untergruppen und leistet administrative Unterstützung für das Beratungsforum und das wissenschaftliche Gremium unabhängiger Experten, unter anderem durch die Organisation von Sitzungen und die Erstellung relevanter Dokumente.

AI-Board

Was ist der KI-Beirat und welche Rolle spielt er im Verhältnis zum KI-Büro?

• Der Ausschuss, der sich aus je einem Vertreter pro Mitgliedstaat zusammensetzt, wobei der Europäische Datenschutzbeauftragte (EDSB) und das AI-Büro als nicht stimmberechtigte Beobachter an den Sitzungen teilnehmen, sollte die Einheitlichkeit und Koordinierung der Umsetzung zwischen den zuständigen nationalen Behörden gewährleisten.
• Das AI-Büro übernimmt die Sekretariatsaufgaben für den Vorstand, beruft auf Antrag des Vorsitzenden Sitzungen ein und erstellt die Tagesordnung.
• Der KI-Beirat unterstützt das KI-Büro dabei, die zuständigen nationalen Behörden bei der Einrichtung und Weiterentwicklung von Regulierungs-Sandboxes zu unterstützen, und fördert die Zusammenarbeit und den Informationsaustausch zwischen den Regulierungs-Sandboxes.

Gemeinsame Untersuchungen

Welche Rolle spielt das AI-Büro bei „gemeinsamen Ermittlungen“?

• Das AI-Büro leistet Koordinierungsunterstützung bei gemeinsamen Untersuchungen, die von Marktüberwachungsbehörden oder von Marktüberwachungsbehörden gemeinsam mit der Kommission durchgeführt werden, um Verstöße aufzudecken, wenn festgestellt wird, dass KI-Systeme mit hohem Risiko in mehreren Mitgliedstaaten eine ernsthafte Gefahr darstellen.

Vollstreckung

Das AI-Büro unterstützt die Kommission bei der Durchsetzung ihrer Aufgaben durch die Erstellung folgender Unterlagen:

• Entscheidungen (Rechtsakte, die nur für bestimmte Adressaten gelten, entweder allgemein oder individuell);
• Durchführungsrechtsakte zur Festlegung detaillierter Vorschriften für die Anwendung des AI-Gesetzes;
• Delegierte Rechtsakte zur Ergänzung oder Änderung nicht wesentlicher Bestimmungen des AI-Gesetzes;
• Orientierungshilfen und Leitlinien zur Unterstützung der praktischen Umsetzung des AI-Gesetzes, z. B. standardisierte Protokolle und bewährte Verfahren, in Absprache mit den zuständigen Kommissionsdienststellen und den Organen, Einrichtungen und Agenturen der EU;
• Standardisierungsanträge: Bewertung bestehender Normen und Ausarbeitung gemeinsamer Spezifikationen zur Unterstützung der Umsetzung des KI-Gesetzes.

Verhaltenskodizes

Wie setzt das AI Office die Verhaltenskodizes für KI in der EU um?

• Das KI-Büro und der KI-Beirat haben die Entwicklung des Verhaltenskodex für Allzweck-KIsowie des Verhaltenskodex zur Transparenz von KI-generierten Inhalten, die im Juli 2025 bzw. im Juni 2026 veröffentlicht wurden.
• Der Verhaltenskodex für allgemeine KI wurde im August 2025 von der Kommission und dem KI-Beirat als angemessen eingestuft, während die beiden Gremien im Juli 2026 zu dem Schluss kamen, dass der Verhaltenskodex zur Transparenz von KI-generierten Inhalten angemessen sei.
• Das KI-Büro muss die Umsetzung und Wirksamkeit der erstgenannten Maßnahmen überwachen und bewerten, wozu auch Berichte der Anbieter von GPAI-Modellen gehören, und dabei Anpassungen im Lichte neuer Standards berücksichtigen. Dazu gehört die Einrichtung von Foren für Anbieter von KI-Modellen und -Systemen zum Austausch bewährter Verfahren.
• Alle Anbieter von GPAI-Modellen können die Erfüllung ihrer Verpflichtungen nachweisen, wenn sie sich bis zur Veröffentlichung europäischer harmonisierter Normen freiwillig an den Verhaltenskodex halten, dessen Einhaltung zu einer Konformitätsvermutung führt.
• Das KI-Büro soll ein Forum für die Zusammenarbeit mit der Open-Source-Community schaffen, um bewährte Verfahren für die sichere Entwicklung und Nutzung von Open-Source-KI-Modellen und -Systemen zu ermitteln und weiterzuentwickeln.

Modellbewertungen: Fähigkeiten und Risiken

Um die Fähigkeiten und Risiken von KI-Modellen zu bewerten, hat das KI-Büro:

• Entwickelt Werkzeuge, Methoden und Vergleichsmaßstäbe für die Leistungsbewertung von GPAI-Modellen, insbesondere der besonders leistungsfähigen Modelle mit der größten Wirkung, die potenzielle systemische Risiken bergen.
• Beobachtet neu auftretende, unvorhergesehene Risiken von GPAI-Modellen, einschließlich der Reaktion auf begründete Warnungen des wissenschaftlichen Gremiums unabhängiger Experten. Anbieter von GPAI-Modellen mit systemischen Risiken sind zudem verpflichtet, schwerwiegende Vorfälle und Korrekturmaßnahmen an das KI-Büro zu melden.
• Untersuchung möglicher Verstöße und systemischer Risiken von vorgelagerten GPAI-Modellen und -Systemen, einschließlich der Sammlung von Beschwerden von nachgelagerten Anbietern und Betreibern sowie von qualifizierten Warnungen des wissenschaftlichen Gremiums unabhängiger Experten.
• Von den GPAI-Modellanbietern sind erforderlichenfalls technische Unterlagen über die Schulungs- und Testverfahren und die Bewertungsergebnisse sowie alle anderen zusätzlichen Informationen zu verlangen, die für die Beurteilung der Einhaltung der Vorschriften oder für die Arbeit des wissenschaftlichen Gremiums unabhängiger Sachverständiger erforderlich sind.
• Aufnahme eines strukturierten Dialogs mit dem Anbieter des GPAI-Modells, sofern dies hilfreich ist, um mehr Informationen über die internen Tests des Modells, die Sicherheitsvorkehrungen zur Verhinderung systemischer Risiken und andere Verfahren und Maßnahmen zu erhalten, die der Anbieter zur Minderung solcher Risiken ergriffen hat.
• Nach Rücksprache mit dem KI-Beirat sind Modellbewertungen über APIs oder andere Mittel, wie beispielsweise den Quellcode, durchzuführen , wenn die Dokumentation und die Informationen für die Beurteilung der Konformität nicht ausreichen. Sollten diese Modellbewertungen einen schwerwiegenden und begründeten Verdacht auf ein systemisches Risiko ergeben, kann die Kommission vom Anbieter verlangen, Maßnahmen zur Risikominderung zu ergreifen. Sind solche Maßnahmen nicht in der Lage, das Risiko zu beseitigen, kann die Kommission das GPAI-Modell vom Markt beschränken, zurückrufen oder zurückziehen sowie zusätzlich eine Geldbuße verhängen.

Datenverwaltung

Das AI-Büro hat zudem eine Vorlage für Anbieter von GPAI-Diensten entwickelt, die diese bei der Veröffentlichung einer ausreichend detaillierten Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte verwenden können, um den betroffenen Parteien mit berechtigten Interessen die Ausübung ihrer Rechte zu erleichtern.

Wissenschaftliches Gremium aus unabhängigen Experten

Am 1. Juni 2026 gab die Kommission die Zusammensetzung des neu eingesetzten wissenschaftlichen Gremiums bekannt, das sich aus Experten zusammensetzt, die über Fachkompetenz, Unabhängigkeit von KI-Entwicklern sowie die Fähigkeit verfügen, ihre Aufgaben gewissenhaft, genau und objektiv wahrzunehmen.

Das Gremium besteht aus bis zu 60 Experten, deren Amtszeit zwei Jahre beträgt und verlängert werden kann; bei der Auswahl wird auf ein ausgewogenes Geschlechterverhältnis und eine ausgewogene geografische Vertretung geachtet. Mindestens 80 Prozent der Experten stammen aus EU-/EFTA-/EWR-Mitgliedstaaten, und pro EU-Mitgliedstaat sowie pro EFTA-/EWR-Land gibt es mindestens einen und höchstens drei Experten.

Das Gremium berät und unterstützt das KI-Büro in folgenden Bereichen:

• Umsetzung und Durchsetzung des KI-Gesetzes in Bezug auf GPAI-Modelle und -Systeme.
• Entwicklung von Werkzeugen, Methoden und Benchmarks zur Bewertung der Leistungsfähigkeit von GPAI-Modellen und -Systemen.
• Klassifizierung verschiedener GPAI-Modelle und -Systeme, einschließlich GPAI-Modellen mit systemischem Risiko.
• Entwicklung von Tools und Vorlagen.

Das Gremium kann eine qualifizierte Warnung an das KI-Büro aussprechen, wenn es den Verdacht hat, dass ein GPAI-Modell ein konkretes, identifizierbares Risiko auf EU-Ebene darstellt oder die Schwelle für die Einstufung von GPAI-Modellen als Modelle mit systemischem Risiko erreicht. Auf dieser Grundlage kann das KI-Büro, nachdem es den KI-Rat informiert hat, ein GPAI-Modell als Modell mit systemischem Risiko einstufen und es somit weiteren Verpflichtungen unterwerfen. Weitere Informationen finden Sie im Beitrag über das wissenschaftliche Gremium.

Zusammenarbeit

Im Hinblick auf die Zusammenarbeit hat das KI-Büro außerdem folgende Aufgaben:

• Zusammenarbeit mit den zuständigen EU-Institutionen, -Gremien und -Agenturen, einschließlich des Gemeinsamen Unternehmens für Hochleistungsrechnen in Europa (EuroHPC JU);
• Kontaktaufnahme mit den Behörden der Mitgliedstaaten im Namen der Kommission;
• Zusammenarbeit mit den zuständigen Generaldirektionen und Dienststellen der Kommission, insbesondere mit dem Europäischen Zentrum für algorithmische Transparenz, zur Bewertung von GPAI-Modellen und -Systemen sowie zur Sensibilisierung für neu auftretende Risiken innerhalb der Kommission;
• Bewertung und Förderung der Konvergenz bewährter Verfahren bei der öffentlichen Auftragsvergabe für KI-Systeme;
• Beitrag zur internationalen Zusammenarbeit im Bereich der KI-Governance, Eintreten für eine verantwortungsvolle KI und Förderung des EU-Konzepts.

Sandkästen

Das Amt leistet gemeinsam mit dem KI-Beirat technische Unterstützung, Beratung und stellt Instrumente für die Einrichtung und den Betrieb von Regulierungs-Sandboxes für KI bereit und koordiniert sich dabei bei Bedarf mit den nationalen Behörden, um die Zusammenarbeit zwischen den Mitgliedstaaten zu fördern.

Bis zum 2. August 2027 muss jeder Mitgliedstaat mindestens eine Regulierungs-Sandbox für KI einrichten, entweder eigenständig oder durch den Beitritt zu einer oder mehreren Sandboxen anderer Mitgliedstaaten.

Dies soll Innovationen fördern, insbesondere für KMU, indem das Training, das Testen und die Validierung von KI erleichtert werden, bevor das System unter Aufsicht der Regulierungsbehörden auf den Markt gebracht oder in Betrieb genommen wird. Eine solche Aufsicht soll für Rechtsklarheit sorgen, das regulatorische Fachwissen und die politischen Erkenntnisse verbessern sowie den Marktzugang ermöglichen. Das KI-Büro wird von den nationalen Behörden über jede Aussetzung von Sandbox-Tests aufgrund nicht abwendbarer Risiken informiert. Die nationalen Behörden legen dem KI-Büro und dem KI-Beirat öffentlich zugängliche Jahresberichte vor, in denen der Fortschritt der Sandbox-Tests, Vorfälle und Empfehlungen detailliert beschrieben werden.

Unterstützung von KMU

Wie unterstützt das AI Office KMU in der EU?

• Das AI-Büro hat einen Service-Desk und eine zentrale Informationsplattform entwickelt und unterhält diese, um allen EU-Betreibern leicht zugängliche Informationen zu dieser Verordnung bereitzustellen.

Überprüfung

Wie sollen die Aufgaben und Zuständigkeiten des AI-Büros überprüft und aktualisiert werden?

• Bis zum 2. August 2028 wird die Kommission prüfen, ob das KI-Büro mit ausreichenden Befugnissen und Kompetenzen ausgestattet wurde, um seine Aufgaben zu erfüllen, und ob diese durch zusätzliche Ressourcen erweitert werden müssen.