Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erstellte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Anhänge

Suche innerhalb des Gesetzes

Anhang III: Hochriskante AI-Systeme

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Risto Uuk unter risto@futureoflife.org

Ursprünglicher Titel: Anhang III: Hochriskante KI-Systeme gemäß Artikel 6 Absatz 2


AI-Systeme mit hohem Risiko im Sinne von Artikel 6 Absatz 2 sind AI-Systeme, die in einem der folgenden Bereiche aufgeführt sind:

1. Biometrische Daten, soweit ihre Verwendung nach dem einschlägigen Unionsrecht oder dem nationalen Recht zulässig ist:

(a) Biometrische Fernerkennungssysteme. Hierunter fallen keine KI-Systeme, die für die biometrische Überprüfung bestimmt sind und deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person diejenige ist, die sie vorgibt zu sein;

(aa) KI-Systeme, die für die biometrische Kategorisierung nach sensiblen oder geschützten Attributen oder Merkmalen auf der Grundlage der Rückschlüsse auf diese Attribute oder Merkmale verwendet werden sollen;

(ab) KI-Systeme, die für die Erkennung von Emotionen eingesetzt werden sollen.

2. Kritische Infrastrukturen:

(a) KI-Systeme, die als Sicherheitskomponenten für die Verwaltung und den Betrieb kritischer digitaler Infrastrukturen, den Straßenverkehr und die Versorgung mit Wasser, Gas, Wärme und Strom eingesetzt werden sollen.

3. Allgemeine und berufliche Bildung:

(a) KI-Systeme, die dazu dienen, den Zugang oder die Zulassung zu Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen zu bestimmen oder natürliche Personen zuzuweisen;

(b) KI-Systeme, die zur Bewertung von Lernergebnissen eingesetzt werden sollen, auch wenn diese Ergebnisse zur Steuerung des Lernprozesses natürlicher Personen in Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen verwendet werden;

(ba) KI-Systeme, die für die Bewertung des angemessenen Bildungsniveaus, das eine Person erhalten wird oder zu dem sie Zugang haben wird, im Rahmen von/innerhalb von Bildungs- und Berufsbildungseinrichtungen verwendet werden sollen;

(bb) KI-Systeme, die zur Überwachung und Erkennung von verbotenem Verhalten von Schülern bei Prüfungen im Rahmen von/innerhalb von Bildungs- und Berufsbildungseinrichtungen eingesetzt werden sollen.

4. Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit:

(a) KI-Systeme, die für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere zur Schaltung gezielter Stellenanzeigen, zur Analyse und Filterung von Bewerbungen und zur Bewertung von Bewerbern;

(b) KI, die dazu dient, Entscheidungen zu treffen, die sich auf die Bedingungen des Arbeitsverhältnisses, die Beförderung und die Beendigung von Arbeitsvertragsverhältnissen auswirken, Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften oder Merkmalen zuzuweisen und die Leistung und das Verhalten von Personen in solchen Verhältnissen zu überwachen und zu bewerten.

5. Zugang zu und Inanspruchnahme von wesentlichen privaten Dienstleistungen und wesentlichen öffentlichen Diensten und Leistungen:

(a) KI-Systeme, die dazu bestimmt sind, von Behörden oder im Namen von Behörden verwendet zu werden, um die Anspruchsberechtigung natürlicher Personen auf wesentliche öffentliche Unterstützungsleistungen und -dienste, einschließlich Gesundheitsdienstleistungen, zu bewerten und solche Leistungen und Dienste zu gewähren, zu kürzen, zu widerrufen oder zurückzufordern;

(b) KI-Systeme, die dazu bestimmt sind, die Kreditwürdigkeit natürlicher Personen zu bewerten oder ihre Kreditwürdigkeit zu ermitteln, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug eingesetzt werden;

(c) KI-Systeme, die dazu bestimmt sind, Notrufe natürlicher Personen auszuwerten und zu klassifizieren oder zur Disposition oder zur Festlegung von Prioritäten bei der Disposition von Ersthelfern, einschließlich Polizei, Feuerwehr und medizinischer Hilfe, sowie von Triage-Systemen für Patienten in der Notfallversorgung eingesetzt zu werden;

(ca) KI-Systeme, die für die Risikobewertung und Preisgestaltung bei natürlichen Personen im Falle von Lebens- und Krankenversicherungen eingesetzt werden sollen.

6. Strafverfolgung, soweit ihre Verwendung nach dem einschlägigen Unionsrecht oder dem nationalen Recht zulässig ist:

(a) KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Agenturen, Ämtern oder Einrichtungen der Union zur Unterstützung von Strafverfolgungsbehörden oder in deren Namen verwendet zu werden, um das Risiko einer natürlichen Person, Opfer von Straftaten zu werden, zu bewerten;

(b) KI-Systeme, die von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen und Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden als Lügendetektoren und ähnliche Instrumente eingesetzt werden sollen;

(c) [gestrichen;

(d) KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Agenturen, Ämtern oder Einrichtungen der Union zur Unterstützung von Strafverfolgungsbehörden verwendet zu werden, um die Zuverlässigkeit von Beweismitteln bei der Ermittlung oder Verfolgung von Straftaten zu bewerten;

(e) KI-Systeme, die dazu bestimmt sind, von Strafverfolgungsbehörden oder in deren Auftrag oder von Organen, Agenturen, Ämtern oder Einrichtungen der Union zur Unterstützung von Strafverfolgungsbehörden für die Bewertung des Risikos einer natürlichen Person, straffällig zu werden oder erneut straffällig zu werden, verwendet zu werden, und zwar nicht ausschließlich auf der Grundlage der Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 oder zur Bewertung von Persönlichkeitsmerkmalen und Eigenschaften oder früheren kriminellen Verhaltens natürlicher Personen oder Gruppen;

(f) KI-Systeme, die von oder im Namen von Strafverfolgungsbehörden oder von Organen, Agenturen, Ämtern oder Einrichtungen der Union zur Unterstützung von Strafverfolgungsbehörden für die Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 im Rahmen der Aufdeckung, Untersuchung oder Verfolgung von Straftaten verwendet werden sollen;

(g) [gestrichen].

7. Migrations-, Asyl- und Grenzkontrollmanagement, soweit deren Einsatz nach dem einschlägigen Unionsrecht oder nationalen Recht zulässig ist:

(a) KI-Systeme, die von den zuständigen Behörden als Lügendetektoren und ähnliche Instrumente eingesetzt werden sollen;

(b) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Agenturen, Ämtern oder Einrichtungen der Union verwendet zu werden, um ein Risiko, einschließlich eines Sicherheitsrisikos, eines Risikos der irregulären Migration oder eines Gesundheitsrisikos, zu bewerten, das von einer natürlichen Person ausgeht, die in das Hoheitsgebiet eines Mitgliedstaats einzureisen beabsichtigt oder eingereist ist;

(c) [gestrichen];

(d) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Agenturen, Ämtern oder Einrichtungen der Union verwendet zu werden, um die zuständigen Behörden bei der Prüfung von Anträgen auf Asyl, Visa und Aufenthaltstitel und damit zusammenhängenden Beschwerden im Hinblick auf die Berechtigung der natürlichen Personen, die einen Status beantragen, zu unterstützen, einschließlich der damit verbundenen Bewertung der Zuverlässigkeit von Beweismitteln;

(da) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden, einschließlich Agenturen, Ämtern oder Einrichtungen der Union, im Rahmen der Migrations-, Asyl- und Grenzkontrollverwaltung zum Aufspüren, Erkennen oder Identifizieren natürlicher Personen verwendet zu werden, mit Ausnahme der Überprüfung von Reisedokumenten.

8. Rechtspflege und demokratische Prozesse:

(a) KI-Systeme, die dazu bestimmt sind, von einer Justizbehörde oder in deren Auftrag eingesetzt zu werden, um eine Justizbehörde bei der Erforschung und Auslegung von Tatsachen und Recht sowie bei der Anwendung des Rechts auf einen konkreten Sachverhalt zu unterstützen, oder die in ähnlicher Weise bei der alternativen Streitbeilegung eingesetzt werden;

(aa) KI-Systeme, die zur Beeinflussung des Ergebnisses einer Wahl oder eines Referendums oder des Abstimmungsverhaltens natürlicher Personen bei der Ausübung ihrer Stimme bei Wahlen oder Referenden eingesetzt werden sollen. Dies schließt keine KI-Systeme ein, deren Output natürliche Personen nicht direkt ausgesetzt sind, wie z. B. Werkzeuge zur Organisation, Optimierung und Strukturierung politischer Kampagnen unter administrativen und logistischen Gesichtspunkten;

(#) [gelöscht].

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Text der vorläufigen Vereinbarung, 2. Februar 2024", das in dieser Pressemitteilung offiziell angekündigt wurde. Interinstitutionelle Akte: 2021/0106(COD)

Wenn in späteren Versionen neue Artikel hinzugefügt und wichtige Korrekturen vorgenommen wurden, wurden diese Änderungen auch im AI Act Explorer übernommen. Außerdem wurden in den "Angenommenen Texten" vom März 2024 viele Artikel umbenannt oder neu nummeriert, und die Artikel im KI-Gesetz-Explorer wurden entsprechend aktualisiert. Das bedeutet, dass der Inhalt unserer Website nicht mehr genau mit einem offiziellen Entwurf des KI-Gesetzes übereinstimmt - er ist eine Mischung aus mehreren Entwürfen. Wenn Sie eine wichtige Aktualisierung in einem späteren Entwurf finden, die in unserem Tool nicht aktualisiert wurde, lassen Sie es uns bitte wissen.

Sobald ein endgültiger Entwurf vorliegt, wird der gesamte Text im AI Act Explorer entsprechend aktualisiert.