Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

Erwägungsgrund 158

HINWEIS: Diese Übersetzung ist eine maschinell erstellte Übersetzung. Es handelt sich nicht um die offizielle Übersetzung, die vom Europäischen Parlament bereitgestellt wird. Wenn das AI-Gesetz im Amtsblatt veröffentlicht wird, werden die maschinell erstellten Übersetzungen durch die offiziellen Übersetzungen ersetzt.

Das Finanzdienstleistungsrecht der Union umfasst interne Governance- und Risikomanagementvorschriften und -anforderungen, die für beaufsichtigte Finanzinstitute bei der Erbringung dieser Dienstleistungen gelten, auch wenn sie KI-Systeme einsetzen. Um eine kohärente Anwendung und Durchsetzung der Verpflichtungen aus dieser Verordnung und der einschlägigen Vorschriften und Anforderungen der Finanzdienstleistungsrechtsakte der Union zu gewährleisten, müssen die für die Beaufsichtigung und Durchsetzung dieser Rechtsakte zuständigen Behörden, insbesondere die zuständigen Behörden im Sinne der Verordnung (EU) Nr. 575/2013 des Europäischen Parlaments und des Rates[46] und der Richtlinien 2008/48/EG[47], 2009/138/EG[48], 2013/36/EU[49], 2014/17/EU[50] und (EU) 2016/97[51] des Europäischen Parlaments und des Rates sollten im Rahmen ihrer jeweiligen Zuständigkeiten als zuständige Behörden für die Beaufsichtigung der Durchführung dieser Verordnung benannt werden, einschließlich für Marktüberwachungstätigkeiten in Bezug auf KI-Systeme, die von beaufsichtigten und regulierten Finanzinstituten bereitgestellt oder genutzt werden, es sei denn, die Mitgliedstaaten beschließen, eine andere Behörde für die Erfüllung dieser Marktüberwachungsaufgaben zu benennen. Diese zuständigen Behörden sollten im Rahmen dieser Verordnung und der Verordnung (EU) 2019/1020 über alle Befugnisse zur Durchsetzung der Anforderungen und Verpflichtungen dieser Verordnung verfügen, einschließlich der Befugnisse zur Durchführung von nachträglichen Marktüberwachungsmaßnahmen, die gegebenenfalls in ihre bestehenden Aufsichtsmechanismen und -verfahren nach dem einschlägigen Finanzdienstleistungsrecht der Union integriert werden können. Es sollte vorgesehen werden, dass die nationalen Behörden, die für die Beaufsichtigung der gemäß der Richtlinie 2013/36/EU beaufsichtigten Kreditinstitute zuständig sind und an dem mit der Verordnung (EU) Nr. 1024/2013 des Rates[52] eingeführten einheitlichen Aufsichtsmechanismus teilnehmen, der Europäischen Zentralbank im Rahmen ihrer Marktüberwachungstätigkeit unverzüglich alle Informationen übermitteln, die für die in der genannten Verordnung festgelegten Aufsichtsaufgaben der Europäischen Zentralbank von potenziellem Interesse sind, wenn sie als Marktüberwachungsbehörden gemäß dieser Verordnung tätig werden. Um die Kohärenz zwischen dieser Verordnung und den Vorschriften, die für die gemäß der Richtlinie 2013/36/EU regulierten Kreditinstitute gelten, weiter zu verbessern, ist es auch angebracht, einige der Verfahrenspflichten der Anbieter in Bezug auf Risikomanagement, Überwachung nach dem Vertrieb und Dokumentation in die bestehenden Pflichten und Verfahren gemäß der Richtlinie 2013/36/EU zu integrieren. Um Überschneidungen zu vermeiden, sollten auch begrenzte Ausnahmen in Bezug auf das Qualitätsmanagementsystem der Anbieter und die Überwachungspflicht für Anbieter von KI-Systemen mit hohem Risiko vorgesehen werden, soweit diese für Kreditinstitute gelten, die durch die Richtlinie 2013/36/EU geregelt sind. Dieselbe Regelung sollte für Versicherungs- und Rückversicherungsunternehmen und Versicherungsholdinggesellschaften gemäß der Richtlinie 2009/138/EG und für Versicherungsvermittler gemäß der Richtlinie (EU) 2016/97 sowie für andere Arten von Finanzinstituten gelten, die Anforderungen an die interne Governance, Regelungen oder Prozesse unterliegen, die gemäß dem einschlägigen Finanzdienstleistungsrecht der Union festgelegt wurden, um Kohärenz und Gleichbehandlung im Finanzsektor zu gewährleisten.

[46] Verordnung (EU) Nr. 575/2013 des Europäischen Parlaments und des Rates vom 26. Juni 2013 über Aufsichtsanforderungen an Kreditinstitute und Wertpapierfirmen und zur Änderung der Verordnung (EU) Nr. 648/2012 (ABl. L 176 vom 27.6.2013, S. 1).

[47] Richtlinie 2008/48/EG des Europäischen Parlaments und des Rates vom 23. April 2008 über Verbraucherkreditverträge und zur Aufhebung der Richtlinie 87/102/EWG des Rates (ABl. L 133 vom 22.5.2008, S. 66).

[48] Richtlinie 2009/138/EG des Europäischen Parlaments und des Rates vom 25. November 2009 betreffend die Aufnahme und Ausübung der Versicherungs- und der Rückversicherungstätigkeit (Solvabilität II) (ABl. L 335 vom 17.12.2009, S. 1).

[49] Richtlinie 2013/36/EU des Europäischen Parlaments und des Rates vom 26. Juni 2013 über den Zugang zur Tätigkeit von Kreditinstituten und die Beaufsichtigung von Kreditinstituten und Wertpapierfirmen, zur Änderung der Richtlinie 2002/87/EG und zur Aufhebung der Richtlinien 2006/48/EG und 2006/49/EG (ABl. L 176 vom 27.6.2013, S. 338).

[50] Richtlinie 2014/17/EU des Europäischen Parlaments und des Rates vom 4. Februar 2014 über Verbraucherkreditverträge über Wohnimmobilien und zur Änderung der Richtlinien 2008/48/EG und 2013/36/EU sowie der Verordnung (EU) Nr. 1093/2010 (ABl. L 60 vom 28.2.2014, S. 34).

[51] Richtlinie (EU) 2016/97 des Europäischen Parlaments und des Rates vom 20. Januar 2016 über den Versicherungsvertrieb (ABl. L 26 vom 2.2.2016, S. 19).

[52] Verordnung (EU) Nr. 1024/2013 des Rates vom 15. Oktober 2013 zur Übertragung besonderer Aufgaben auf die Europäische Zentralbank im Zusammenhang mit der Aufsicht über die Kreditinstitute (ABl. L 287 vom 29.10.2013, S. 63).

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Taylor Jones unter taylor@futureoflife.org

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)