Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

Erwägungsgrund 33

HINWEIS: Diese Übersetzung ist eine maschinell erstellte Übersetzung. Es handelt sich nicht um die offizielle Übersetzung, die vom Europäischen Parlament bereitgestellt wird. Wenn das AI-Gesetz im Amtsblatt veröffentlicht wird, werden die maschinell erstellten Übersetzungen durch die offiziellen Übersetzungen ersetzt.

Die Nutzung dieser Systeme zum Zwecke der Strafverfolgung sollte daher verboten werden, außer in erschöpfend aufgelisteten und eng definierten Situationen, in denen die Nutzung unbedingt erforderlich ist, um ein wesentliches öffentliches Interesse zu erreichen, dessen Bedeutung die Risiken überwiegt. Zu diesen Situationen gehören die Suche nach bestimmten Opfern von Straftaten, einschließlich vermisster Personen, bestimmte Bedrohungen des Lebens oder der körperlichen Unversehrtheit natürlicher Personen oder eines terroristischen Anschlags sowie die Lokalisierung oder Identifizierung von Tätern oder Verdächtigen der in einem Anhang zu dieser Verordnung aufgeführten Straftaten, wenn diese Straftaten in dem betreffenden Mitgliedstaat mit einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Höchstmaß von mindestens vier Jahren bedroht sind und wie sie im Recht dieses Mitgliedstaats definiert sind. Ein solcher Schwellenwert für die Verhängung einer Freiheitsstrafe oder einer freiheitsentziehenden Maßregel der Sicherung im Einklang mit dem nationalen Recht trägt dazu bei, dass die Straftat schwer genug ist, um den Einsatz von biometrischen Fernerkennungssystemen in Echtzeit zu rechtfertigen. Darüber hinaus stützt sich die Liste der Straftaten im Anhang zu dieser Verordnung auf die 32 Straftaten, die im Rahmenbeschluss 2002/584/JI des Rates[18] aufgeführt sind, wobei berücksichtigt wurde, dass einige dieser Straftaten in der Praxis wahrscheinlich relevanter sind als andere, so dass der Rückgriff auf die biometrische Fernidentifizierung in "Echtzeit vorhersehbar in sehr unterschiedlichem Maße für die praktische Verfolgung der Lokalisierung oder Identifizierung eines Täters oder Verdächtigen der verschiedenen aufgelisteten Straftaten erforderlich und verhältnismäßig sein könnte, wobei die wahrscheinlichen Unterschiede in Bezug auf die Schwere, die Wahrscheinlichkeit und das Ausmaß des Schadens oder der möglichen negativen Folgen zu berücksichtigen sind. Eine unmittelbare Bedrohung für das Leben oder die körperliche Unversehrtheit natürlicher Personen könnte sich auch aus einer schwerwiegenden Störung kritischer Infrastrukturen im Sinne von Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557 des Europäischen Parlaments und des Rates[19] ergeben, wenn die Störung oder Zerstörung dieser kritischen Infrastrukturen eine unmittelbare Bedrohung für das Leben oder die körperliche Unversehrtheit einer Person zur Folge hätte, auch durch eine schwerwiegende Beeinträchtigung der Grundversorgung der Bevölkerung oder der Ausübung der Kernaufgaben des Staates. Darüber hinaus sollte diese Verordnung den Strafverfolgungs-, Grenzkontroll-, Einwanderungs- oder Asylbehörden weiterhin die Möglichkeit geben, Identitätskontrollen in Anwesenheit der betreffenden Person gemäß den im Unionsrecht und im nationalen Recht für solche Kontrollen festgelegten Bedingungen durchzuführen. Insbesondere sollten Strafverfolgungs-, Grenzkontroll-, Einwanderungs- oder Asylbehörden in der Lage sein, im Einklang mit dem Unionsrecht oder dem nationalen Recht Informationssysteme zu nutzen, um Personen zu identifizieren, die sich bei einer Identitätskontrolle entweder weigern, identifiziert zu werden, oder nicht in der Lage sind, ihre Identität anzugeben oder nachzuweisen, ohne dass sie nach dieser Verordnung eine vorherige Genehmigung einholen müssen. Dabei kann es sich beispielsweise um eine Person handeln, die in eine Straftat verwickelt ist, die nicht bereit oder aufgrund eines Unfalls oder einer Erkrankung nicht in der Lage ist, den Strafverfolgungsbehörden ihre Identität zu offenbaren.

(18) Rahmenbeschluss 2002/584/JI des Rates vom 13. Juni 2002 über den Europäischen Haftbefehl und die Übergabeverfahren zwischen den Mitgliedstaaten (ABl. L 190 vom 18.7.2002, S. 1).

[19] Richtlinie (EU) 2022/2557 des Europäischen Parlaments und des Rates vom 14. Dezember 2022 über die Widerstandsfähigkeit kritischer Einrichtungen und zur Aufhebung der Richtlinie 2008/114/EG des Rates (ABl. L 333 vom 27.12.2022, S. 164).

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Taylor Jones unter taylor@futureoflife.org

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)