Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

Artikel 73: Meldung schwerwiegender Vorkommnisse

Datum des Inkrafttretens:

Juli 2026

Laut:

Artikel 113

Hinweis: Dieses Datum ist eine Schätzung, die auf dem voraussichtlichen Datum des Inkrafttretens basiert. Einen vollständigen Zeitplan für die Umsetzung finden Sie hier.

Zusammenfassung

In diesem Artikel heißt es, dass Unternehmen, die KI-Systeme mit hohem Risiko anbieten, den Behörden des Landes, in dem sich der Vorfall ereignet hat, alle schwerwiegenden Vorfälle melden müssen. Sie müssen dies tun, sobald sie wissen, dass es eine Verbindung zwischen ihrem KI-System und dem Vorfall gibt, oder wenn es eine gute Chance gibt, dass es eine Verbindung gibt. Sie müssen dies innerhalb von 15 Tagen nach Bekanntwerden des Vorfalls melden. Ist der Vorfall sehr schwerwiegend oder weit verbreitet, müssen sie ihn innerhalb von zwei Tagen melden. Wenn jemand stirbt, müssen sie dies innerhalb von 10 Tagen melden. Sie können bei Bedarf einen ersten unvollständigen Bericht einreichen, müssen aber im Anschluss einen vollständigen Bericht erstellen. Außerdem müssen sie den Vorfall untersuchen und mit den Behörden zusammenarbeiten. Die Behörden ergreifen dann innerhalb von sieben Tagen geeignete Maßnahmen.

Generiert von CLaiRK, bearbeitet von uns.

HINWEIS: Diese Übersetzung ist eine maschinell erstellte Übersetzung. Es handelt sich nicht um die offizielle Übersetzung, die vom Europäischen Parlament bereitgestellt wird. Wenn das AI-Gesetz im Amtsblatt veröffentlicht wird, werden die maschinell erstellten Übersetzungen durch die offiziellen Übersetzungen ersetzt.

1. (1) Die Anbieter von auf dem Unionsmarkt in Verkehr gebrachten KI-Systemen mit hohem Risiko melden den Marktüberwachungsbehörden des Mitgliedstaats, in dem der Vorfall aufgetreten ist, jeden schwerwiegenden Vorfall.

2. (2) Die Meldung gemäß Absatz 1 erfolgt unverzüglich, nachdem der Anbieter einen ursächlichen Zusammenhang zwischen dem KI-System und dem schwerwiegenden Vorkommnis oder die begründete Wahrscheinlichkeit eines solchen Zusammenhangs festgestellt hat, spätestens jedoch 15 Tage, nachdem der Anbieter oder gegebenenfalls der Bereitsteller von dem schwerwiegenden Vorkommnis Kenntnis erhalten hat. Die in Unterabsatz 1 genannte Meldefrist trägt der Schwere des schwerwiegenden Vorfalls Rechnung.

3. Ungeachtet des Absatzes 2 dieses Artikels ist im Falle eines weitverbreiteten Verstoßes oder einer schwerwiegenden Störung im Sinne von Artikel 3 Nummer 49 Buchstabe b der in Absatz 1 des vorliegenden Artikels genannte Bericht unverzüglich, spätestens jedoch zwei Tage, nachdem der Dienstleistungserbringer oder gegebenenfalls der Bereitsteller von der Störung Kenntnis erlangt hat, zu übermitteln.

4. Ungeachtet des Absatzes 2 ist im Falle des Todes einer Person der Bericht unverzüglich zu übermitteln, nachdem der Dienstleistungserbringer oder der Einsatzbetrieb einen Kausalzusammenhang zwischen dem AI-System mit hohem Risiko und dem schwerwiegenden Vorfall festgestellt hat oder sobald er einen solchen vermutet, spätestens jedoch zehn Tage nach dem Zeitpunkt, zu dem der Dienstleistungserbringer oder gegebenenfalls der Einsatzbetrieb von dem schwerwiegenden Vorfall Kenntnis erlangt.

5. Um eine rechtzeitige Berichterstattung zu gewährleisten, kann der Dienstleistungserbringer oder gegebenenfalls der Entsender einen ersten, unvollständigen Bericht vorlegen, dem ein vollständiger Bericht folgt.

6. Nach der Meldung eines schwerwiegenden Vorkommnisses gemäß Absatz 1 führt der Dienstleistungserbringer unverzüglich die erforderlichen Untersuchungen in Bezug auf das schwerwiegende Vorkommnis und das betreffende AI-System durch. Dazu gehören eine Risikobewertung des Vorfalls und Abhilfemaßnahmen. Der Anbieter arbeitet bei den in Unterabsatz 1 genannten Untersuchungen mit den zuständigen Behörden und gegebenenfalls mit der betreffenden benannten Stelle zusammen und führt keine Untersuchung durch, die eine Veränderung des betreffenden KI-Systems in einer Weise beinhaltet, die eine spätere Bewertung der Ursachen des Vorkommnisses beeinträchtigen könnte, bevor er die zuständigen Behörden über eine solche Maßnahme informiert hat.

7. Nach Erhalt einer Meldung im Zusammenhang mit einem schwerwiegenden Vorkommnis im Sinne von Artikel 3 Nummer 49 Buchstabe c unterrichtet die zuständige Marktüberwachungsbehörde die in Artikel 77 Absatz 1 genannten nationalen Behörden oder Stellen. Die Kommission erstellt spezielle Leitlinien, um die Einhaltung der in Absatz 1 des vorliegenden Artikels genannten Verpflichtungen zu erleichtern. Diese Leitlinien werden bis zum ... [12 Monate nach Inkrafttreten dieser Verordnung] veröffentlicht und regelmäßig bewertet.

8. (8) Die Marktüberwachungsbehörde ergreift innerhalb von sieben Tagen nach Eingang der in Absatz 1 des vorliegenden Artikels genannten Meldung geeignete Maßnahmen gemäß Artikel 19 der Verordnung (EU) 2019/1020 und befolgt die in der genannten Verordnung vorgesehenen Meldeverfahren.

9. Bei den in Anhang III genannten AI-Systemen mit hohem Risiko, die von Anbietern in Verkehr gebracht oder in Betrieb genommen werden, für die Rechtsakte der Union gelten, in denen Meldepflichten festgelegt sind, die denen dieser Verordnung gleichwertig sind, beschränkt sich die Meldung schwerwiegender Vorkommnisse auf die in Artikel 3 Nummer 49 Buchstabe c genannten Fälle.

10. Bei KI-Systemen mit hohem Risiko, bei denen es sich um Sicherheitsbauteile von Produkten oder um Produkte selbst handelt, die unter die Verordnungen (EU) 2017/745 und (EU) 2017/746 fallen, beschränkt sich die Meldung schwerwiegender Vorkommnisse auf die in Artikel 3 Nummer 49 Buchstabe c der vorliegenden Verordnung genannten Vorkommnisse und erfolgt bei der von den Mitgliedstaaten, in denen das Vorkommnis aufgetreten ist, zu diesem Zweck gewählten zuständigen nationalen Behörde.

11. Die zuständigen nationalen Behörden melden der Kommission gemäß Artikel 20 der Verordnung (EU) 2019/1020 unverzüglich jeden schwerwiegenden Vorfall, unabhängig davon, ob sie daraufhin Maßnahmen ergriffen haben oder nicht.

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Taylor Jones unter taylor@futureoflife.org

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)