Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

2. Mai 2024 - Der AI Act Explorer wurde nun mit dem Inhalt der "Corrigendum" -Fassung des Europäischen Parlaments vom 19. April 2024 aktualisiert. Es ist unwahrscheinlich, dass sich der Inhalt des Gesetzes weiter ändert.

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Risto Uuk unter risto@futureoflife.org

1. Die Verordnung (EU) 2019/1020 gilt für unter diese Verordnung fallende KI-Systeme. Für die Zwecke der wirksamen Durchsetzung dieser Verordnung:

(a) Jede Bezugnahme auf einen Wirtschaftsbeteiligten gemäß der Verordnung (EU) 2019/1020 ist so zu verstehen, dass sie alle in Artikel 2 Absatz 1 der vorliegenden Verordnung genannten Wirtschaftsbeteiligten umfasst;

(b) Jede Bezugnahme auf ein Erzeugnis im Sinne der Verordnung (EU) 2019/1020 ist so zu verstehen, dass sie alle KI-Systeme einschließt, die in den Anwendungsbereich der vorliegenden Verordnung fallen.

2. Im Rahmen ihrer Berichterstattungspflicht gemäß Artikel 34 Absatz 4 der Verordnung (EU) 2019/1020 erstatten die Marktüberwachungsbehörden der Kommission und den zuständigen nationalen Wettbewerbsbehörden jährlich Bericht über alle Informationen, die sie im Laufe der Marktüberwachungstätigkeiten festgestellt haben und die für die Anwendung des Unionsrechts im Bereich der Wettbewerbsregeln von Interesse sein könnten. Sie erstatten der Kommission auch jährlich Bericht über die Anwendung verbotener Praktiken, die in dem betreffenden Jahr aufgetreten sind, und über die ergriffenen Maßnahmen.

3. Für AI-Systeme mit hohem Risiko, die sich auf Produkte beziehen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, ist die Marktüberwachungsbehörde für die Zwecke dieser Verordnung die Behörde, die für Marktüberwachungstätigkeiten gemäß diesen Rechtsakten zuständig ist. Abweichend von Unterabsatz 1 und unter geeigneten Umständen können die Mitgliedstaaten eine andere einschlägige Behörde benennen, die als Marktüberwachungsbehörde fungiert, sofern sie die Koordinierung mit den einschlägigen sektoralen Marktüberwachungsbehörden sicherstellen, die für die Durchsetzung der in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union zuständig sind.

4. Die Verfahren gemäß den Artikeln 79 bis 83 der vorliegenden Verordnung gelten nicht für AI-Systeme, die sich auf Erzeugnisse beziehen, die unter die in Anhang I Abschnitt A aufgeführten Harmonisierungsrechtsvorschriften der Union fallen, wenn diese Rechtsakte bereits Verfahren vorsehen, die ein gleichwertiges Schutzniveau gewährleisten und dasselbe Ziel verfolgen. In solchen Fällen gelten stattdessen die einschlägigen sektoralen Verfahren.

5. Unbeschadet der Befugnisse der Marktüberwachungsbehörden gemäß Artikel 14 der Verordnung (EU) 2019/1020 können die Marktüberwachungsbehörden zur Gewährleistung der wirksamen Durchsetzung dieser Verordnung die in Artikel 14 Absatz 4 Buchstaben d und j der genannten Verordnung genannten Befugnisse gegebenenfalls aus der Ferne ausüben.

6. Bei KI-Systemen mit hohem Risiko, die von Finanzinstituten in Verkehr gebracht, in Betrieb genommen oder genutzt werden, die dem Finanzdienstleistungsrecht der Union unterliegen, ist die Marktüberwachungsbehörde für die Zwecke dieser Verordnung die jeweilige nationale Behörde, die für die Finanzaufsicht über diese Institute im Rahmen dieser Rechtsvorschriften zuständig ist, sofern das Inverkehrbringen, die Inbetriebnahme oder die Nutzung des KI-Systems in direktem Zusammenhang mit der Erbringung dieser Finanzdienstleistungen steht.

7. Abweichend von Absatz 6 kann der Mitgliedstaat unter geeigneten Umständen und unter der Voraussetzung, dass die Koordinierung gewährleistet ist, eine andere relevante Behörde als Marktüberwachungsbehörde für die Zwecke dieser Verordnung bestimmen. Die nationalen Marktüberwachungsbehörden, die die gemäß der Richtlinie 2013/36/EU beaufsichtigten Kreditinstitute beaufsichtigen und an dem mit der Verordnung (EU) Nr. 1024/2013 eingerichteten einheitlichen Aufsichtsmechanismus teilnehmen, sollten der Europäischen Zentralbank unverzüglich alle im Rahmen ihrer Marktüberwachungstätigkeiten ermittelten Informationen melden, die für die in der genannten Verordnung festgelegten Aufsichtsaufgaben der Europäischen Zentralbank von potenziellem Interesse sein können.

8. Für die in Anhang III Nummer 1 dieser Verordnung aufgeführten AI-Systeme mit hohem Risiko, soweit die Systeme für Zwecke der Strafverfolgung, des Grenzschutzes sowie der Justiz und der Demokratie eingesetzt werden, und für die in Anhang III Nummern 6, 7 und 8 dieser Verordnung aufgeführten AI-Systeme mit hohem Risiko benennen die Mitgliedstaaten als Marktüberwachungsbehörden für die Zwecke dieser Verordnung entweder die zuständigen Datenschutzaufsichtsbehörden gemäß der Verordnung (EU) 2016/679 oder der Richtlinie (EU) 2016/680 oder eine andere Behörde, die unter denselben Bedingungen gemäß den Artikeln 41 bis 44 der Richtlinie (EU) 2016/680 benannt wurde. Die Marktüberwachungstätigkeiten dürfen in keiner Weise die Unabhängigkeit der Justizbehörden beeinträchtigen oder anderweitig in ihre Tätigkeiten eingreifen, wenn sie in ihrer gerichtlichen Eigenschaft handeln.

9. Fallen Organe, Einrichtungen, Ämter oder Agenturen der Union in den Anwendungsbereich dieser Verordnung, so handelt der Europäische Datenschutzbeauftragte als deren Marktaufsichtsbehörde, außer in Bezug auf den Gerichtshof der Europäischen Union, der in seiner gerichtlichen Eigenschaft handelt.

10. (10) Die Mitgliedstaaten erleichtern die Koordinierung zwischen den gemäß dieser Verordnung benannten Marktüberwachungsbehörden und anderen einschlägigen nationalen Behörden oder Stellen, die die Anwendung der in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union oder anderer Rechtsvorschriften der Union überwachen, die für die in Anhang III genannten AI-Systeme mit hohem Risiko relevant sein könnten.

11. Die Marktüberwachungsbehörden und die Kommission können gemeinsame Maßnahmen, einschließlich gemeinsamer Untersuchungen, vorschlagen, die entweder von den Marktüberwachungsbehörden oder von den Marktüberwachungsbehörden gemeinsam mit der Kommission durchgeführt werden und die darauf abzielen, die Einhaltung der Vorschriften zu fördern, Nichteinhaltung festzustellen, das Bewusstsein zu schärfen oder Orientierungshilfen in Bezug auf diese Verordnung in Bezug auf bestimmte Kategorien von AI-Systemen mit hohem Risiko zu geben, die gemäß Artikel 9 der Verordnung (EU) 2019/1020 in zwei oder mehr Mitgliedstaaten ein ernstes Risiko darstellen. Das Amt für künstliche Intelligenz unterstützt die Koordinierung von gemeinsamen Untersuchungen.

12. (12) Unbeschadet der in der Verordnung (EU) 2019/1020 vorgesehenen Befugnisse erhalten die Marktüberwachungsbehörden von den Anbietern uneingeschränkten Zugang zu den Unterlagen sowie zu den Schulungs-, Validierungs- und Testdatensätzen, die für die Entwicklung von KI-Systemen mit hohem Risiko verwendet werden, gegebenenfalls und vorbehaltlich von Sicherheitsvorkehrungen auch über Anwendungsprogrammierschnittstellen (API) oder andere einschlägige technische Mittel und Werkzeuge, die einen Fernzugriff ermöglichen, sofern dies sachdienlich und auf das zur Erfüllung ihrer Aufgaben erforderliche Maß beschränkt ist.

13. Den Marktüberwachungsbehörden wird auf begründeten Antrag hin Zugang zum Quellcode des KI-Systems für Hochrisikoprodukte gewährt, sofern die beiden folgenden Bedingungen erfüllt sind:

(a) der Zugang zum Quellcode erforderlich ist, um die Konformität eines KI-Systems mit hohem Risiko mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen zu bewerten, und,

(b) die Prüf- oder Auditverfahren und Überprüfungen auf der Grundlage der vom Dienstleistungserbringer vorgelegten Daten und Unterlagen erschöpft sind oder sich als unzureichend erweisen.

14. Alle Informationen oder Unterlagen, die die Marktüberwachungsbehörden erhalten, werden gemäß den in Artikel 78 festgelegten Vertraulichkeitsverpflichtungen behandelt.

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)