Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erstellte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Anhänge

Suche innerhalb des Gesetzes

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Risto Uuk unter risto@futureoflife.org

1. (1) Vor der Inbetriebnahme eines mit hohem Risiko behafteten Systems der künstlichen Intelligenz im Sinne von Artikel 6 Absatz 2 - mit Ausnahme von Systemen der künstlichen Intelligenz, die für den Einsatz in dem in Anhang III Nummer 2 genannten Bereich bestimmt sind - nehmen die Aufsteller, bei denen es sich um Einrichtungen des öffentlichen Rechts oder um private Betreiber, die öffentliche Dienstleistungen erbringen, handelt, sowie Betreiber, die mit hohem Risiko behaftete Systeme im Sinne von Anhang III Nummer 5 Buchstaben b und d einsetzen, eine Bewertung der Auswirkungen vor, die der Einsatz des Systems auf die Grundrechte haben kann. Zu diesem Zweck führen die Bereitsteller eine Bewertung durch, die Folgendes umfasst:

a) eine Beschreibung der Prozesse des Bereitstellers, in denen das Hochrisiko-KI-System entsprechend seinem vorgesehenen Zweck eingesetzt wird;

b) eine Beschreibung des Zeitraums und der Häufigkeit, in der jedes AI-System mit hohem Risiko verwendet werden soll;

c) die Kategorien natürlicher Personen und Gruppen, die von der Verwendung in dem jeweiligen Kontext betroffen sein könnten;

d) die spezifischen Schadensrisiken, die sich auf die gemäß Buchstabe c) ermittelten Personengruppen auswirken können, unter Berücksichtigung der vom Dienstleistungserbringer gemäß Artikel 13 erteilten Informationen;

e) eine Beschreibung der Durchführung von Überwachungsmaßnahmen für Menschen gemäß der Gebrauchsanweisung;

f) die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind, einschließlich der Vorkehrungen für die interne Steuerung und die Beschwerdemechanismen.

2. Die Verpflichtung nach Absatz 1 gilt für den ersten Einsatz des Hochrisiko-KI-Systems. Der Einsatzbetrieb kann sich in ähnlichen Fällen auf zuvor durchgeführte Grundrechtsfolgenabschätzungen oder bestehende Folgenabschätzungen des Anbieters stützen. Stellt der Bereitsteller während der Nutzung des AI-Systems für Hochrisikoprodukte fest, dass sich einer der in Absatz 1 aufgeführten Faktoren ändert oder nicht mehr aktuell ist, ergreift er die erforderlichen Maßnahmen zur Aktualisierung der Informationen.

3. Nach Durchführung der Folgenabschätzung teilt der Bereitsteller der Marktüberwachungsbehörde die Ergebnisse der Abschätzung mit, wobei er das ausgefüllte Formblatt gemäß Absatz 5 als Teil der Mitteilung vorlegt. In dem in Artikel 46 Absatz 1 genannten Fall kann der Bereitsteller von diesen Verpflichtungen befreit werden.

4. Wird eine der in diesem Artikel festgelegten Verpflichtungen bereits durch die gemäß Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführte Datenschutz-Folgenabschätzung erfüllt, wird die in Absatz 1 genannte Grundrechtsfolgenabschätzung in Verbindung mit dieser Datenschutz-Folgenabschätzung durchgeführt.

5. Das AI-Büro entwickelt eine Vorlage für einen Fragebogen, auch in Form eines automatisierten Instruments, um den Nutzern die Umsetzung der Verpflichtungen aus diesem Artikel zu erleichtern.

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Text der vorläufigen Vereinbarung, 2. Februar 2024", das in dieser Pressemitteilung offiziell angekündigt wurde. Interinstitutionelle Akte: 2021/0106(COD)

Wenn in späteren Versionen neue Artikel hinzugefügt und wichtige Korrekturen vorgenommen wurden, wurden diese Änderungen auch im AI Act Explorer übernommen. Außerdem wurden in den "Angenommenen Texten" vom März 2024 viele Artikel umbenannt oder neu nummeriert, und die Artikel im KI-Gesetz-Explorer wurden entsprechend aktualisiert. Das bedeutet, dass der Inhalt unserer Website nicht mehr genau mit einem offiziellen Entwurf des KI-Gesetzes übereinstimmt - er ist eine Mischung aus mehreren Entwürfen. Wenn Sie eine wichtige Aktualisierung in einem späteren Entwurf finden, die in unserem Tool nicht aktualisiert wurde, lassen Sie es uns bitte wissen.

Sobald ein endgültiger Entwurf vorliegt, wird der gesamte Text im AI Act Explorer entsprechend aktualisiert.