Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

2. Mai 2024 - Der AI Act Explorer wurde nun mit dem Inhalt der "Corrigendum" -Fassung des Europäischen Parlaments vom 19. April 2024 aktualisiert. Es ist unwahrscheinlich, dass sich der Inhalt des Gesetzes weiter ändert.

Anhang VII: Konformität aufgrund der Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Risto Uuk unter risto@futureoflife.org

1. Einleitung Die Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Unterlagen ist das Konformitätsbewertungsverfahren auf der Grundlage der Nummern 2 bis 5.

2. Überblick Das genehmigte Qualitätsmanagementsystem für den Entwurf, die Entwicklung und die Prüfung von AI-Systemen gemäß Artikel 17 wird gemäß Nummer 3 geprüft und unterliegt der Überwachung gemäß Nummer 5. Die technischen Unterlagen des AI-Systems werden gemäß Nummer 4 geprüft.

3. Qualitätsmanagementsystem

3.1. Der Antrag des Anbieters muss Folgendes enthalten:

(a) Name und Anschrift des Dienstleistungserbringers und, falls der Antrag von einem Bevollmächtigten eingereicht wird, auch dessen Name und Anschrift;

(b) die Liste der unter dasselbe Qualitätsmanagementsystem fallenden AI-Systeme;

(c) die technischen Unterlagen für jedes KI-System, das unter dasselbe Qualitätsmanagementsystem fällt;

(d) die Unterlagen über das Qualitätssicherungssystem, die alle in Artikel 17 aufgeführten Aspekte abdecken müssen;

(e) eine Beschreibung der Verfahren, mit denen sichergestellt wird, dass das Qualitätsmanagementsystem angemessen und wirksam bleibt;

(f) eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen benannten Stelle eingereicht worden ist.

3.2. Das Qualitätsmanagementsystem wird von der benannten Stelle bewertet, die feststellt, ob es die in Artikel 17 genannten Anforderungen erfüllt. Die Entscheidung wird dem Dienstleistungserbringer oder seinem Bevollmächtigten mitgeteilt. Die Mitteilung enthält die Schlussfolgerungen aus der Bewertung des Qualitätsmanagementsystems und die Begründung der Bewertungsentscheidung.

3.3. Das Qualitätsmanagementsystem in seiner genehmigten Form ist vom Dienstleistungserbringer weiterhin umzusetzen und aufrechtzuerhalten, damit es angemessen und effizient bleibt.

3.4. Jede beabsichtigte Änderung des zugelassenen Qualitätssicherungssystems oder des Verzeichnisses der unter dieses System fallenden AI-Systeme ist der benannten Stelle vom Anbieter mitzuteilen. Die benannte Stelle prüft die geplanten Änderungen und entscheidet, ob das geänderte Qualitätssicherungssystem weiterhin die in Nummer 3.2 genannten Anforderungen erfüllt oder ob eine erneute Bewertung erforderlich ist. Die benannte Stelle teilt dem Anbieter ihre Entscheidung mit. Die Mitteilung enthält die Ergebnisse der Prüfung der Änderungen und die begründete Entscheidung über die Bewertung.

4. Kontrolle der technischen Dokumentation.

4.1. Zusätzlich zu dem Antrag gemäß Nummer 3 stellt der Anbieter bei einer benannten Stelle seiner Wahl einen Antrag auf Bewertung der technischen Unterlagen für das KI-System, das er in Verkehr bringen oder in Betrieb nehmen will und das unter das Qualitätsmanagementsystem gemäß Nummer 3 fällt.

4.2. Der Antrag muss Folgendes enthalten:

(a) den Namen und die Anschrift des Anbieters;

(b) eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen benannten Stelle eingereicht worden ist;

(c) die in Anhang IV genannten technischen Unterlagen.

4.3. Die technische Dokumentation ist von der benannten Stelle zu prüfen. Gegebenenfalls wird der benannten Stelle, beschränkt auf das zur Erfüllung ihrer Aufgaben erforderliche Maß, uneingeschränkter Zugang zu den verwendeten Schulungs-, Validierungs- und Testdatensätzen gewährt, gegebenenfalls und vorbehaltlich von Sicherheitsvorkehrungen auch über API oder andere einschlägige technische Mittel und Werkzeuge, die einen Fernzugriff ermöglichen.

4.4. Bei der Prüfung der technischen Unterlagen kann die benannte Stelle verlangen, dass der Anbieter weitere Nachweise vorlegt oder weitere Prüfungen durchführt, damit die Konformität des AI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 ordnungsgemäß bewertet werden kann. Ist die benannte Stelle mit den vom Leistungserbringer durchgeführten Prüfungen nicht zufrieden, so führt sie gegebenenfalls selbst unmittelbar angemessene Prüfungen durch.

4.5. Sofern dies zur Bewertung der Konformität des Hochrisiko-KI-Systems mit den Anforderungen gemäß Kapitel III Abschnitt 2 erforderlich ist, wird der benannten Stelle, nachdem alle anderen angemessenen Mittel zur Überprüfung der Konformität ausgeschöpft wurden und sich als unzureichend erwiesen haben, auf begründeten Antrag auch Zugang zu den Schulungs- und Trainingsmodellen des KI-Systems, einschließlich seiner relevanten Parameter, gewährt. Dieser Zugang unterliegt dem geltenden Unionsrecht zum Schutz des geistigen Eigentums und von Geschäftsgeheimnissen.

4.6. Die Entscheidung der benannten Stelle wird dem Dienstleistungserbringer oder seinem Bevollmächtigten mitgeteilt. Die Notifizierung enthält die Schlussfolgerungen aus der Bewertung der technischen Unterlagen und die Begründung der Bewertungsentscheidung. Entspricht das AI-System den Anforderungen von Kapitel III Abschnitt 2, so stellt die benannte Stelle eine Unionsbescheinigung über die Bewertung der technischen Dokumentation aus. Diese Bescheinigung enthält den Namen und die Anschrift des Anbieters, die Ergebnisse der Prüfung, etwaige Bedingungen für die Gültigkeit der Bescheinigung und die für die Identifizierung des KI-Systems erforderlichen Angaben. Die Bescheinigung und ihre Anhänge enthalten alle zweckdienlichen Angaben, anhand deren sich die Konformität des AI-Systems beurteilen lässt und die gegebenenfalls eine Kontrolle des AI-Systems während des Betriebs ermöglichen. Entspricht das AI-System nicht den Anforderungen von Kapitel III Abschnitt 2, verweigert die notifizierte Stelle die Ausstellung einer Unionsbescheinigung für die Bewertung der technischen Dokumentation und unterrichtet den Antragsteller darüber, wobei sie ihre Weigerung ausführlich begründet. Erfüllt das KI-System die Anforderungen in Bezug auf die für seine Schulung verwendeten Daten nicht, muss das KI-System vor der Beantragung einer neuen Konformitätsbewertung neu geschult werden. In diesem Fall enthält die begründete Bewertungsentscheidung der notifizierten Stelle, mit der die Ausstellung der Unionsbescheinigung für die Bewertung der technischen Dokumentation verweigert wird, besondere Erwägungen zu den Qualitätsdaten, die für die Schulung des KI-Systems verwendet wurden, insbesondere zu den Gründen für die Nichtkonformität.

4.7. Jede Änderung am AI-System, die die Konformität des AI-Systems mit den Anforderungen oder seiner Zweckbestimmung beeinträchtigen könnte, wird von der notifizierten Stelle bewertet, die die Unionsbescheinigung über die Bewertung der technischen Unterlagen ausgestellt hat. Der Anbieter unterrichtet diese notifizierte Stelle, wenn er beabsichtigt, eine der oben genannten Änderungen vorzunehmen, oder wenn er anderweitig Kenntnis von solchen Änderungen erhält. Die benannte Stelle prüft die geplanten Änderungen und entscheidet, ob diese Änderungen eine neue Konformitätsbewertung gemäß Artikel 43 Absatz 4 erfordern oder ob sie durch einen Nachtrag zur Unionsbescheinigung über die Bewertung der technischen Dokumentation berücksichtigt werden können. Im letzteren Fall bewertet die notifizierte Stelle die Änderungen, teilt dem Anbieter ihre Entscheidung mit und stellt ihm, falls die Änderungen genehmigt werden, einen Nachtrag zur Unionsbescheinigung über die Bewertung der technischen Dokumentation aus.

5. Überwachung des genehmigten Qualitätsmanagementsystems.

5.1. Die Überwachung durch die in Nummer 3 genannte benannte Stelle soll sicherstellen, dass der Dienstleistungserbringer die Bedingungen des zugelassenen Qualitätssicherungssystems ordnungsgemäß erfüllt.

5.2. Der Anbieter gewährt der benannten Stelle zu Bewertungszwecken Zugang zu den Räumlichkeiten, in denen der Entwurf, die Entwicklung und die Prüfung der KI-Systeme stattfinden. Der Anbieter stellt der benannten Stelle außerdem alle erforderlichen Informationen zur Verfügung.

5.3. Die notifizierte Stelle führt regelmäßig Audits durch, um sicherzustellen, dass der Anbieter das Qualitätsmanagementsystem aufrechterhält und anwendet, und übergibt ihm einen Auditbericht. Im Rahmen dieser Audits kann die notifizierte Stelle zusätzliche Prüfungen der AI-Systeme durchführen, für die eine Unionsbescheinigung über die Bewertung der technischen Dokumentation ausgestellt wurde.

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)