Aktualisiert: 21. Juli 2025.
Diese Seite soll einen leicht zugänglichen Überblick über die Festlegung von AI-Sicherheitsnormen im Rahmen des EU AI Act geben. Sie befasst sich mit dem breiteren Kontext und den Gründen für die Festlegung von EU-KI-Normen, dem Normsetzungsprozess und der Frage, wann die Normen des KI-Gesetzes abgeschlossen sein könnten.
Diese Ressource wurde erstmals 2023 von Hadrien Pouget, damals Experte für KI-Politik bei der Carnegie Endowment for International Peace, zusammengestellt. Sie wurde im Juni 2025 von Koen Holtman, Normungsexperte am AI Standards Lab, und Tekla Emborg, EU-Politikforscherin am Future of Life Institute, aktualisiert.
Hinweis: Wir konzentrieren uns auf die Erläuterung der formellen EU-basierten Bemühungen zur Festlegung von Sicherheitsnormen für KI, die im so genannten CEN-CENELEC JTC21-Normenausschuss. Andere Bemühungen zur Erstellung von AI-Normen, wie die ISO/IECwerden nicht behandelt.
Kurze Zusammenfassung - Standardsetzung im Rahmen des AI-Gesetzes
- Die Europäische Kommission forderte die Schaffung von Standards für die Hochrisikobestimmungen des AI-Gesetzes bereits im Jahr 2021.
- Zwei europäische Normungsorganisationen (ESOs), nämlich CEN und CENELEC, wurden mit der Ausarbeitung der gewünschten Normen beauftragt. Die Ausarbeitung ist im Gange und liegt hinter dem Zeitplan zurück.
- Neben den europäischen Normungsgremien sind die Europäische Kommission, die nationalen Normungsgremien (NSB) und die ihnen angehörenden nationalen Interessengruppen sowie die europäischen Interessengruppenorganisationen die wichtigsten Akteure im Normungsprozess des AI Act.
- Der Normungsprozess besteht aus sechs Schritten: 1) förmlicher Antrag der Kommission, 2) Ausarbeitung durch die europäischen Normungsgremien, 3) Untersuchung, 4) förmliche Abstimmung durch die europäischen Normungsgremien, 5) Veröffentlichung durch die europäischen Normungsgremien und 6) Bewertung und Veröffentlichung durch die Kommission. Die verschiedenen Normen für das AI-Gesetz befinden sich in unterschiedlichen Phasen des Prozesses - das öffentlich zugängliche Arbeitsprogramm finden Sie hier.
- Das Funktionieren des europäischen Normungssystems ist umstritten, und die Europäische Kommission prüft die Notwendigkeit von Reformen.
1. Hintergrund: EU AI Standards Prozess Details
Die EU verfügt über einen besonderen Mechanismus, der die Ausarbeitung von technischen Normen vorsieht, die zu offiziell genehmigten "Handbüchern" werden, in denen beschrieben wird, wie Unternehmen und andere Akteure die EU-Sicherheitsvorschriften einhalten können. Der Grundgedanke ist, dass solche Normen, die nach ihrer Genehmigung als "harmonisierte und zitierte Normen" bezeichnet werden, die Vermutung der Konformität mit den gesetzlichen Anforderungen begründen können. Wenn ein Unternehmen nachweist, dass sein Produkt oder System mit einer harmonisierten und zitierten Norm übereinstimmt, gehen Marktüberwachungsbehörden und Gerichte davon aus, dass es die entsprechende gesetzliche Anforderung erfüllt.
Für das KI-Gesetz hat die Europäische Kommission die Ausarbeitung einer ersten Serie solcher Standards in Auftrag gegeben, die derzeit in Arbeit ist. Dieser erste Stapel wird die Anforderungen für Anbieter von KI-Systemen mit hohem Risiko abdecken. Die Kommission kann in Zukunft weitere Normen für andere Teile des KI-Gesetzes anfordern.
Der Mechanismus zur Anforderung von EU-Normen impliziert eine Arbeitsteilung. Er ermöglicht es dem EU-Gesetzgeber, im KI-Gesetz einfach festzulegen , dass bestimmte sicherheitsrelevante Ergebnisse von den Anbietern von KI-Modellen oder -Systemen erreicht werden müssen, und zu spezifizieren , dass bei der Erreichung dieser Ergebnisse allgemein anerkannte Methoden der Sicherheitstechnik nach dem Stand der Technik ( ) angewendet werden müssen. Der Gesetzestext geht nicht im Detail darauf ein, was diese Methoden nach dem Stand der Technik eigentlich sind. Es wird erwartet, dass die technischen Experten, die die Normen verfassen, diese Details ausfüllen werden. Der Gesetzgeber geht ferner davon aus, dass diese Normen aktualisiert werden, wenn sich der Stand der Technik ändert.
Vorab sei darauf hingewiesen, dass Normen nicht die einzigen Dokumente sind, die die Einhaltung des KI-Gesetzes im Detail regeln können. So werden beispielsweise die Anforderungen an KI-Anbieter mit allgemeinem Verwendungszweck in einem Code of Practice geklärt, an dem gearbeitet wird. Darüber hinaus werden einige Anforderungen des KI-Gesetzes in von der Europäischen Kommission verfassten Leitliniendokumenten weiter präzisiert.
Die Verwendung von Normen als Mittel zur Einhaltung der Vorschriften bleibt freiwillig. Die Anbieter können die harmonisierten Normen ignorieren und sich auf die eigenständige Auslegung des Rechtstextes verlassen. Für ihre Auslegung können sie sich auf Bücher, Leitfäden, Websites oder Rechtsgutachten stützen, die von unabhängigen Autoren oder Branchenverbänden verfasst wurden. Solche unabhängigen Arbeiten haben nicht den offiziell anerkannten Status von Normen und begründen keine Konformitätsvermutung, aber sie sind möglicherweise früher verfügbar oder besser auf eine bestimmte Situation zugeschnitten.
2. Hauptakteure
Um die Entwicklung der europäischen Normen für das AI-Gesetz zu verstehen, ist es hilfreich, zunächst einen Überblick über die zentralen Akteure in diesem Prozess zu geben.
- Die Europäische Kommission: Sie besteht aus 27 Kommissaren, die von den Mitgliedstaaten vorgeschlagen und vom Europäischen Parlament bestätigt werden. Sie fungiert als Exekutivorgan der EU. Die Kommission ist für die Beantragung und Genehmigung von europäischen Normen bei den europäischen Normungsorganisationen zuständig.
- Die europäischen Normungsorganisationen (ESOs): Es gibt drei Organisationen, die für die Festlegung aller EU-Normen zuständig sind: CEN, CENELEC und ETSI. Die beiden erstgenannten sind federführend bei der Erstellung von AI Act-Normen durch ihr gemeinsames Komitee mit dem Namen CEN/CENELEC JTC21. Diese Gremien sind unabhängig von den EU-Institutionen, einschließlich der Kommission, und können auch auf eigene Initiative weitere Normen erstellen. Die europäischen Normungsgremien müssen verschiedene Interessengruppen zusammenbringen, von denen einige im Folgenden vorgestellt werden.
- Nationale Normungsgremien (NSBs): Diese sind für die Normen in den einzelnen Mitgliedstaaten zuständig. Siehe z. B. eine Liste aller NSB-Mitglieder im CEN. Jedes nationale Gremium vertritt die Interessen aller Interessengruppen in dem jeweiligen Land: Regierung, Industrie und Zivilgesellschaft, indem es Parteien auf nationaler Ebene die Möglichkeit gibt, Mitglied in seinen Ausschüssen zu werden, wofür in der Regel eine Teilnahmegebühr erhoben wird. Diese Ausschüsse erörtern und entscheiden über nationale Abstimmungen und Kommentare zu Normentwürfen. Die Ausschüsse können auch Mitglieder als technische Sachverständige ernennen, die an der Ausarbeitung von Entwürfen in den Arbeitsgruppen der ESO mitwirken. Diese technischen Experten sind an einen Verhaltenskodex gebunden, der von ihnen verlangt, dass sie "zum Nettonutzen der europäischen Gemeinschaft" arbeiten.1Dies kann es erforderlich machen, die Präferenzen der nationalen Interessengruppen bei der Zahlung ihres Gehalts, ihrer Reisekosten und ihrer Teilnahmegebühren zurückzustellen.
- Europäische Interessenvertretungsorganisationen: Eine Vielzahl von Interessen innerhalb der EU werden in weiteren Organisationen vertreten, zum Beispiel die von kleinen und mittleren Unternehmen (KMU), Gewerkschaften, der Umwelt und Verbrauchern. Einige von ihnen sind gemäß Anhang III der Verordnung (EU) Nr. 1025/2012 berechtigt, Kommentare abzugeben und sich zu beteiligen, ohne zuvor Mitglied eines Ausschusses auf nationaler Ebene zu werden, sowie einige EU-Fördermittel zu erhalten.
- Berater für harmonisierte Normen: Bei der Ausarbeitung einiger Normen werden von der Kommission private Berater beauftragt, um sicherzustellen, dass die von den europäischen Normungsgremien entwickelten Normen für die Veröffentlichung durch die EU geeignet sind. Für den AI Act hat die Kommission jedoch beschlossen, die erforderliche Eignungsbewertung selbst vorzunehmen. Die Rolle der Berater für harmonisierte Normen wird hier ausführlicher beschrieben.
3. Prozess-Schritte
Das Verfahren zur Entwicklung harmonisierter Normen ist komplex. Es beginnt mit einem Normungsauftrag der Kommission, gefolgt von der Ausarbeitung durch das zuständige Amt, der Befragung, der Abstimmung und der Veröffentlichung, bevor die Normen schließlich im Amtsblatt der Europäischen Union zitiert werden. Jeder Schritt wird im Folgenden erläutert. Eine ausführlichere Übersicht finden Sie auf der CEN-Website.
Schritt 1: Die Kommission erstellt einen Normungsantrag für die europäischen Normungsorganisationen
Ein solcher Antrag enthält Einzelheiten darüber, welcher Teil der entsprechenden Rechtsvorschriften durch die angeforderten Normen abgedeckt werden muss, sowie einen gewünschten Liefertermin. Der Entwurf des Antrags wird in Absprache mit den europäischen Normungsorganisationen und anderen Interessengruppen verfeinert, um für alle akzeptabel zu sein. Nach der Genehmigung durch die Kommission und die Vertreter der EU-Regierungen wird der Antrag veröffentlicht, und die europäischen Normungsorganisationen müssen förmlich antworten. Zwar ist es möglich, einen Antrag abzulehnen, doch nehmen die europäischen Normungsgremien die Anträge in der Regel an, auch wenn sie Zweifel an der Durchführbarkeit der Arbeiten bis zum gewünschten Termin haben. Weitere Einzelheiten finden Sie im Vademecum über europäische Normung.
Schritt 2: Die ESOs entwerfen die Standards
Die Normen werden in technischen Ausschüssen mit technischen Experten aus den nationalen Normungsgremien ausgearbeitet. Ein Ausschuss umfasst auch eine Auswahl von Interessenvertretern als Beobachter. Wie bereits erwähnt, ist das technische Komitee für das AI-Gesetz ein gemeinsames Komitee von CEN und CENELEC namens CEN/CENELEC JTC21. Innerhalb des Komitees werden Arbeitsgruppen gebildet, in denen technische Experten die Normungsdokumente ausarbeiten. Diese Experten arbeiten alle ehrenamtlich, d. h. sie werden von CEN und CENELEC nicht für ihre Zeit und ihren Aufwand entschädigt. Die Experten sind an Vertraulichkeitsregeln gebunden, d. h. sie dürfen beispielsweise keine Einzelheiten über laufende Diskussionen oder den Inhalt von in Arbeit befindlichen Arbeitsentwürfen preisgeben. Einstimmige Zustimmung der Experten oder, falls keine Einstimmigkeit möglich ist, ein Konsens der Experten ist erforderlich, um die Entwürfe an den nächsten Prozessschritt weiterzuleiten.
In der Regel versuchen die europäischen Normungsgremien, die von der ISO/IEC (Organisation für internationale Normung und Internationale Elektrotechnische Kommission) erstellten internationalen Normen zu nutzen und nicht außer Kraft zu setzen. Dies dient der Gewährleistung der internationalen Kohärenz und ist ein wichtiger Bestandteil des WTO-Abkommens über technische Handelshemmnisse, das verhindert, dass Länder Normen zur Blockierung des internationalen Handels einsetzen.
Schritt 3: Anfrage
Bei der Umfrage handelt es sich um einen Abstimmungs- und Kommentierungsschritt, bei dem ein vollständiger, von einer Arbeitsgruppe ausgearbeiteter Normentwurf von nationalen Interessengruppen bewertet wird. Die NSB sammeln und übermitteln Rückmeldungen, die an die Experten der Arbeitsgruppe zurückgesandt werden, die den Entwurf auf der Grundlage der Rückmeldungen aktualisieren können. Es ist nicht ungewöhnlich, dass verschiedene NSB widersprüchliche Kommentare abgeben, wobei ein Land eine Änderung in die eine Richtung und ein anderes Land eine andere Änderung wünscht. Es ist Sache der Experten in der Arbeitsgruppe, mit solchen Konflikten umzugehen, indem sie einen Kompromiss finden oder bestimmte Kommentare schlichtweg ablehnen. Bei reinen Ablehnungen besteht die Gefahr, dass das Land im nächsten Schritt, der formellen Abstimmung, mit "Nein" stimmt. Sehr negative Rückmeldungen während der Befragung könnten einen Prozess-Reset auslösen, bei dem große Teile des Entwurfs komplett neu geschrieben werden, wobei die neue Version dann einer zweiten Befragungsabstimmung unterzogen wird. Eine Arbeitsgruppe kann auch beschließen, Bedenken auszuräumen, indem sie einfach Material weglässt, das sich als sehr umstritten erwiesen hat. Dies kann zu einer Norm führen, die die im Normungsantrag geforderten Themen nicht mehr vollständig abdeckt.
Schritt 4: Förmliche Abstimmung
In diesem Prozessschritt stimmen die NSB formell über die Annahme oder Ablehnung der Norm ab, in die ihre Rückmeldungen aus dem vorherigen Schritt eingeflossen sind. Ein "Nein"-Votum kann eine weitere Entwurfsrunde und eine erneute Vorlage für eine neue Abstimmung auslösen. Ein "Ja"-Votum kann immer noch von Kommentaren begleitet werden, aber diese sollten nur kleinere Änderungen vorschlagen.
Schritt 5: Veröffentlichung
Nach einer erfolgreichen Abstimmung wird die Norm von CEN und CENELEC veröffentlicht. Veröffentlichte Normen können in der Regel in Webshops erworben werden, einige sind jedoch auch kostenlos erhältlich. In einem kürzlich vor dem Europäischen Gerichtshof verhandelten Fall ging es um die Frage, ob es angemessen ist, dass die europäischen Normungsorganisationen Geld für Normen verlangen, die direkt das EU-Recht unterstützen. Zum Zeitpunkt der Erstellung dieses Berichts ist unklar, welche Auswirkungen diese Klagen letztendlich auf das gebührenbasierte Finanzierungsmodell der ESOs haben werden.
Schritt 6: Bewertung mit anschließender Zitierung im Amtsblatt der Europäischen Union
In einem letzten Schritt bewertet die Europäische Kommission, ob die veröffentlichten Normen die Bedingungen des Normungsantrags erfüllen und dem Text des AI-Gesetzes entsprechen. Die Europäische Kommission ist jedoch auch während des Entwurfsprozesses involviert und gibt Feedback in Form von Vorabbewertungen der Entwürfe. Nach erfolgreicher Bewertung kann die Kommission einen Durchführungsrechtsakt erlassen, in dem die Norm im Amtsblatt der Europäischen Union (OJEU) zitiert wird. Dadurch wird die Norm zu einer harmonisierten und zitierten Norm, die eine "Konformitätsvermutung" mit den anwendbaren Teilen des Gesetzes mit sich bringt.
Die Kommission unterhält eine Website, auf der alle zitierten harmonisierten Normen für bestimmte regulierte Bereiche aufgeführt sind. In ausgereiften Bereichen kann es Dutzende oder Hunderte solcher Normen geben, die über Jahrzehnte entwickelt und aktualisiert wurden.
Vereinfachte Darstellung des Standardsetzungsprozesses für den EU AI Act

AI Act Standard Setting Timeline Highlights
Der nachstehende Zeitplan basiert auf öffentlich bekannten Informationen vom Juni 2025.
EU/Europäische Kommission | Europäische Normungsorganisationen |
---|---|
21. April 2021: Die Kommission veröffentlicht den ersten Entwurf des AI-Gesetzes | |
Juni 2021: CEN-CENELEC JTC21 hält seine erste Sitzung ab, um mit der Arbeit am AI Act zu beginnen, in der Erwartung, dass ein Normungsantrag gestellt wird. | |
20. Mai 2022: Die Kommission veröffentlicht den ersten Entwurf eines Normungsauftrags zur Unterstützung einer sicheren und vertrauenswürdigen KI. | |
22. Mai 2023: Die Kommission nimmt den Normungsantrag C(2023)3215 an, der von CEN und CENELEC akzeptiert wird. Gewünschtes Lieferdatum der Normen ist der 30. April 2025 Verfügbar hier. | |
12. Juli 2024: Die endgültige Fassung des AI-Gesetzes wird im Amtsblatt der Europäischen Union veröffentlicht. | |
Zweite Hälfte des Jahres 2024: Die Kommission beginnt mit der Arbeit an einem geänderten Normungsantrag, der sich auf die endgültige Fassung des AI-Gesetzes bezieht. | August 2024: Der JTC21-Vorsitzende berichtet den Medien, dass die geforderten Normen voraussichtlich bis Ende 2025 fertiggestellt werden, also etwa acht Monate später als erwartet. |
September 2024: Das JTC21 berichtet in seinem öffentlichen Newsletter Ausgabe 5, dass es den Meilenstein erreicht hat, an dem alle Projekte zur Unterstützung der Normenanforderung das Genehmigungsstadium durchlaufen haben und sich im Stadium "in Ausarbeitung" befinden. | |
~November 2024: Der JTC21-Vorsitzende berichtet auf LinkedIn, dass das Ziel darin besteht, die geforderten Normen bis Ende 2025/Anfang 2026 fertigzustellen. | |
15. April 2025: CEN-CENELEC weist die Medien auf Verzögerungen hin und berichtet, dass die Arbeiten wahrscheinlich einen Großteil des Jahres 2025 und teilweise 2026 für einige Ergebnisse in Anspruch nehmen werden. | |
30. April 2025: CEN-CENELEC JTC21 verpasst das erwartete Lieferdatum des Normungsauftrags C(2023)3215. Die Überschreitung dieses Termins hat keine automatischen Auswirkungen, der Auftrag bleibt bestehen. | |
16. Mai 2025: Medienberichten zufolge, die sich auf einen internen Zeitplan des JTC21 beziehen, wird der Großteil der technischen Normen, die die Einhaltung des EU-KI-Gesetzes erleichtern sollen, nun voraussichtlich kurz nach Inkrafttreten des Gesetzes, d. h. kurz nach dem 2. August 2026, fertiggestellt werden. Außerdem wird erwartet, dass dieses Paket die rechtlichen Anforderungen des KI-Gesetzes nur teilweise abdeckt. Eine vollständige Lieferung, die alle geforderten Anforderungen abdeckt, wird erst viel später erwartet. | |
26. Mai 2025: MLex berichtet, dass die Kommission aufgrund verschiedener Entwicklungen, einschließlich der erwarteten Verzögerungen bei der Fertigstellung der JTC21-Normen, erwägt, die Uhr bei der Durchsetzung einiger Teile des AI-Gesetzes anzuhalten". Das Anhalten der Uhr würde bedeuten, dass eine neue Gesetzgebung geschaffen werden müsste, die mehrere Daten, die derzeit im AI Act enthalten sind, nach hinten verschiebt. Dazu könnten die unten genannten Termine August 2026 und 2027 gehören. | |
Juni 2025: Polen schlägt in einem EU-Ministerbericht vor, die Durchsetzung des KI-Gesetzes auszusetzen. Die Kommission räumt am 6. Juni offiziell ein, dass sie nicht ausschließt, Teile des KI-Gesetzes im kommenden digitalen Gesamtpaket zu verschieben. | |
Juni 2025: Die Kommission nimmt den Normungsauftrag C(2023)3215 mit einem Liefertermin am 31. August 2025 an. Der Anwendungsbereich der Normen, die geforderten Leistungen und die technischen Normen sind die gleichen wie im Antrag C(2025)3871. | |
Laufend: Das Gemeinsame Technische Komitee 21 von CEN und CENELEC erarbeitet die geforderten Normen. Die öffentliche Live-Verfolgung des Arbeitsprogramms ist hier verfügbar. Wie in Ausgabe 5 des öffentlichen Newsletters berichtet, stammt diese "Live"-Anzeige aus dem CEN-CENELEC-Projektverfolgungssystem, das in unregelmäßigen Abständen aktualisiert wird. Künftige Termine, die auf der Seite genannt werden, entsprechen möglicherweise nicht den neuesten (vertraulichen) Plänen, die vom JTC21-Komitee selbst gepflegt werden. | |
2. August 2026: Die Anforderungen für Artikel 6 Absatz 2 von AI-Systemen mit hohem Risiko, die durch die in C(2023)3215 geforderten JTC21-Normen zu präzisieren sind, treten in Kraft. | |
2. August 2027: Die Anforderungen für eine zusätzliche Klasse von Artikel 6 Absatz 1 von AI-Systemen mit hohem Risiko, die durch dieselben JTC21-Normen präzisiert werden sollen, treten in Kraft. |
5. Beispiele dafür, wie Normen das AI-Gesetz verdeutlichen können
Um zu verstehen, wie Normen den Text des AI-Gesetzes verdeutlichen könnten, betrachten wir als Beispiel die Artikel 9 und 8(1) des AI-Gesetzes.
Artikel 9 des KI-Gesetzes schreibt vor, dass ein KI-System mit hohem Risiko mit "Risikomanagementmaßnahmen" ausgestattet sein muss, so dass "das mit den einzelnen Gefahren verbundene relevante Restrisiko sowie das Gesamtrestrisiko der KI-Systeme mit hohem Risiko als annehmbar eingestuft wird". In Artikel 8 Absatz 1 heißt es weiter, dass diese Beurteilung unter Berücksichtigung des "allgemein anerkannten Stands der Technik bei KI und KI-bezogenen Technologien" erfolgen muss.
Eine Norm könnte als Handbuch für die Erfüllung dieser Verpflichtungen dienen:
- Präzisieren Sie, was "akzeptabel" bedeutet: akzeptabel für wen?
- Legen Sie dar, wie das verbleibende Risiko als akzeptabel eingestuft werden kann. Dies könnte beispielsweise durch ein interdisziplinäres Team von Experten geschehen, die sowohl den Anwendungsbereich als auch die damit verbundenen gesellschaftlichen Erwartungen und den aktuellen Stand der KI-Technologie kennen.
- Skizzieren Sie, was der Stand der Technik darüber aussagt, ob und wann ein Konsultationsprozess mit den Interessenvertretern angemessen ist, um festzustellen, ob Risiken akzeptabel sind, und wie solche Konsultationen mit den Interessenvertretern gestaltet werden können.
- Detaillierte Techniken, die zur Abschätzung von Restrisiken in bestimmten Situationen geeignet sind
- Es werden Checklisten vorgelegt, in denen spezifische Risiken, Gefahren oder Überlegungen aufgeführt sind, die den Fachleuten nach dem Stand der Technik bekannt sein dürften.
In ausgereiften und engen Bereichen wie der Lebensmittelsicherheit oder der Elektrotechnik sind die Fachexperten oft in der Lage, laborgeprüfte und bewährte numerische Schwellenwerte für sichere Ergebnisse festzulegen. Im Bereich der Lebensmittelsicherheit können sie zum Beispiel festlegen, dass das Risiko einer Bleivergiftung durch ein Lebensmittel des Typs A akzeptabel ist, wenn ein Labortest an einer repräsentativen Probe zeigt, dass der Bleigehalt unter B Teilen pro Million liegt. Es ist dann Sache von Nichtfachleuten, die Sicherheitsstandards anzuwenden und sichere Ergebnisse nach dem Stand der Technik zu gewährleisten.
Dagegen ist es unwahrscheinlich, dass die Experten, die im Rahmen des AI-Gesetzes an den AI-Normen für Hochrisikoprodukte arbeiten, in der Lage sein werden, ähnliche numerische Vorgaben zu machen. Dazu ist der vom KI-Gesetz abgedeckte Bereich der KI einfach zu vielfältig, und anders als bei der Lebensmittelsicherheit kann nicht auf langjährige Erfahrungen mit Produkttypen zurückgegriffen werden, die schon seit Jahrzehnten oder Jahrhunderten auf dem Markt sind. Die in den KI-Sicherheitsnormen definierten Verfahren nach dem Stand der Technik werden daher wahrscheinlich nur unter Einbeziehung von Fachwissen und Expertenurteilen korrekt durchgeführt werden können.
6. Bedenken und Kontroversen
6.1. Zeitliche Belange und Abhilfemaßnahmen
Gemäß dem KI-Gesetz treten die gesetzlichen Anforderungen an eine erste Kategorie von KI-Systemen mit hohem Risiko im Oktober 2026 in Kraft. Idealerweise würden entsprechende Standards bis Oktober 2025 vorliegen, um den Anbietern genügend Vorbereitungszeit zu geben. Wie aus der obigen Übersicht über den Zeitplan hervorgeht, ist es jedoch unwahrscheinlich, dass diese Standards bis dahin fertiggestellt werden.
In der Vergangenheit hatten die europäischen Normungsgremien oft Schwierigkeiten, die geforderten Normen rechtzeitig zu liefern, selbst wenn sie frühzeitig damit begannen, z. B. im Zusammenhang mit der Aktualisierung der Verordnung über Medizinprodukte und der Funkanlagenrichtlinie.
Artikel 41 des AI-Gesetzes sieht mögliche Verzögerungen bei der Entwicklung von Normen vor. Er erlaubt es der Europäischen Kommission, "gemeinsame Spezifikationen" festzulegen, die als offizielle vorläufige Orientierungshilfe dienen, bis die entsprechenden Normen förmlich verabschiedet sind. Zum Zeitpunkt der letzten Aktualisierung dieses Beitrags hat die Kommission noch nicht öffentlich ihre Absicht bekundet, von dieser Bestimmung Gebrauch zu machen. Wie aus dem obigen Zeitplan hervorgeht, hat die Kommission jedoch angedeutet, dass die Option einer Verschiebung des Inkrafttretens der risikoreichen Anforderungen auf einen Zeitpunkt nach Oktober 2026 in Betracht gezogen werden könnte.
6.2. Bedenken über demokratisch gültige Ergebnisse
Der Normungsprozess und die Kontrollmechanismen innerhalb und außerhalb des Prozesses wurden in der Absicht entwickelt, vertrauenswürdige und demokratische Ergebnisse zu erzielen. Der Prozess der Normenentwicklung ist jedoch in mehreren Punkten in die Kritik geraten. Dazu gehört der Vorwurf, dass der Prozess hinter verschlossenen Türen und ohne Transparenz abläuft. Es wurde auch kritisiert, dass er spielerische Gestaltungsmerkmale aufweist, die in der Praxis dazu führen, dass gut ausgestattete Technologieunternehmen den Prozess dominieren und bösgläubige Akteure den Prozess unterwandern. Einige haben auch in Frage gestellt, ob der derzeitige Prozess geeignet ist, um im Rahmen der digitalen Agenda der EU rechtsverbindliche Normen für digitale Technologien zu schaffen. Angesichts der komplexen und manchmal kontroversen Natur der KI-Technologie sind diese Bedenken für die Entwicklung von KI-Normen besonders relevant.
6.3. Mögliche Reform des Europäischen Normungssystems
Die Europäische Kommission kündigte im Jahr 2022 Maßnahmen zur "Verbesserung der Governance und Integrität des europäischen Normungssystems" an. Zum Zeitpunkt der Erstellung dieses Berichts ist diese Verbesserungsinitiative noch nicht abgeschlossen. Im Rahmen dieser Initiative hat die Kommission in den Jahren 2023 und 2024 über offene Aufforderungen Beiträge eingeholt . Die schriftlichen Beiträge von 2024 wurden noch nicht im Detail veröffentlicht, aber die schriftlichen Beiträge von 2023 können alle hier nachgelesen werden. Diese Beiträge zeigen eine große Meinungsvielfalt zwischen den Interessengruppen. Einige Stakeholder berichten, dass das EU-Normungssystem gut funktioniert und sehen keinen Bedarf für wesentliche Aktualisierungen, während andere berichten, dass es überhaupt nicht gut funktioniert und wesentliche Reformen erforderlich sind.
In dieser zweiten Gruppe ist ein gemeinsames Thema die Notwendigkeit, eine stärkere Beteiligung von Akteuren außerhalb der Industrie, wie z. B. unabhängigen akademischen Experten, sicherzustellen. Häufig wird auf die Notwendigkeit hingewiesen, mehr Mittel zur Unterstützung dieser Akteure bereitzustellen und andere Hindernisse für die Teilnahme zu beseitigen. Ein wichtiges Merkmal des derzeitigen Prozesses ist, dass er zwar für die Teilnahme von Vertretern und Sachverständigen eines sehr breiten Spektrums von Interessengruppen offen ist, dass aber standardmäßig keiner dieser Vertreter oder Sachverständigen für seine Arbeit bezahlt oder für die damit verbundenen Reisekosten entschädigt wird. Zwar gibt es einige begrenzte Finanzierungsquellen zur Unterstützung von Teilnehmern aus dem akademischen Bereich, kleinen und mittleren Unternehmen und Organisationen der Zivilgesellschaft, doch sind viele Beteiligte der Ansicht, dass wesentlich mehr Mittel erforderlich wären, um das Problem der Einbeziehung von mehr Beteiligten und Experten zu lösen. Gründe für die Einbeziehung von mehr Parteien wären die Schaffung von mehr (Vertrauen in) demokratisch ausgewogenen Ergebnissen und die Sicherstellung, dass im Ausschuss genügend Fachwissen und Arbeitskräfte vorhanden sind, um den Prozess der Normenerstellung innerhalb eines angemessenen Zeitraums abzuschließen.
7. Weitere Lektüre
Offizielle Informationen über JTC21:
- Die Seite des Gemeinsamen Technischen Ausschusses 21: Künstliche Intelligenz" finden Sie hier.
- Die JTC21-Website zum Thema "Outreach" finden Sie hier.
- JTC21 veröffentlicht auch Newsletter, die über seine Normungsaktivitäten berichten und diese bekannt machen.
- Weitere Informationen über das Arbeitsprogramm des JTC21 (das auch Normen umfasst, die nicht mit dem Normungsantrag zusammenhängen, sowie die Erstellung einiger technischer Berichte) finden Sie hier.
Über die Funktionsweise der Normung im Rahmen des EU- und des AI-Gesetzes:
- Die Verordnung (EU) Nr. 1025/2012, die hier verfügbar ist, enthält eine vollständige Beschreibung der EU-Normung.
- Die CEN-CENELEC-internen Vorschriften für die Normungsarbeit finden Sie hier.
- Zu den spezifischen Aspekten des AI-Gesetzes siehe auch dieses Papier aus dem Jahr 2021 und diesen Bericht aus dem Jahr 2024.
Forschungspapiere und Berichte zu verschiedenen Aspekten der Entwicklung von AI Act-Normen; einige davon enthalten Erkenntnisse, die auf der Befragung von im JTC21 tätigen Experten beruhen:
- Christine Galvagna Inklusive KI-Governance, Beteiligung der Zivilgesellschaft an der Entwicklung von Standards. 2023. Siehe auch hier für eine Zusammenfassung einer Veranstaltung zur Diskussion dieses Papiers.
- Mélanie Gornet, Hélène Herman. Ein Blick in die europäische Normung für KI: zwischen geopolitischen und wirtschaftlichen Interessen. 2024. hal-04784035
- Mélanie Gornet. Zu weit gefasst: Können wir harmonisierte Normen für künstliche Intelligenz durch Konzentration auf vertikale Sektoren "reparieren"? 2024. hal-04785208
Hinweise und Referenzen
- Beachten Sie, dass "Europäische Gemeinschaft" nicht dasselbe ist wie die Europäische Union, sondern sich auf alle Länder bezieht, die CEN- und CENELEC-Mitglieder sind. Dazu gehört zum Beispiel das Vereinigte Königreich. ︎