Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

Artikel 31: Anforderungen an die benannten Stellen

Datum des Inkrafttretens:

Juli 2025

Laut:

Artikel 113 Buchstabe b

Geerbt von:

Kapitel III, Abschnitt 4

Hinweis: Dieses Datum ist eine Schätzung, die auf dem voraussichtlichen Datum des Inkrafttretens basiert. Einen vollständigen Zeitplan für die Umsetzung finden Sie hier.

Zusammenfassung

Das EU-KI-Gesetz besagt, dass benannte Stellen, die KI-Systeme mit hohem Risiko bewerten, nach dem nationalen Recht eines Mitgliedstaates eingerichtet sein und Rechtspersönlichkeit besitzen müssen. Sie müssen bestimmte Anforderungen an Organisation, Qualitätsmanagement, Ressourcen und Cybersicherheit erfüllen. Sie müssen unabhängig vom Anbieter des KI-Systems und jedem anderen Betreiber mit einem wirtschaftlichen Interesse an dem KI-System sein. Sie müssen außerdem Vertraulichkeit wahren und die Größe und Komplexität des Anbieters und des KI-Systems berücksichtigen. Sie müssen über eine Haftpflichtversicherung verfügen und in der Lage sein, ihre Aufgaben mit professioneller Integrität und Kompetenz auszuführen.

Generiert von CLaiRK, bearbeitet von uns.

HINWEIS: Diese Übersetzung ist eine maschinell erstellte Übersetzung. Es handelt sich nicht um die offizielle Übersetzung, die vom Europäischen Parlament bereitgestellt wird. Wenn das AI-Gesetz im Amtsblatt veröffentlicht wird, werden die maschinell erstellten Übersetzungen durch die offiziellen Übersetzungen ersetzt.

1. (1) Eine notifizierte Stelle wird nach dem nationalen Recht eines Mitgliedstaats eingerichtet und besitzt Rechtspersönlichkeit.

2. Die benannten Stellen müssen die für die Erfüllung ihrer Aufgaben erforderlichen Anforderungen an Organisation, Qualitätsmanagement, Ressourcen und Verfahren sowie geeignete Anforderungen an die Cybersicherheit erfüllen.

3. Die Organisationsstruktur, die Zuweisung von Zuständigkeiten, die Berichtslinien und die Arbeitsweise der benannten Stellen müssen das Vertrauen in ihre Leistung und in die Ergebnisse der von ihnen durchgeführten Konformitätsbewertungstätigkeiten gewährleisten.

4. (4) Die notifizierten Stellen müssen von dem Anbieter eines AI-Systems mit hohem Risiko, für das sie Konformitätsbewertungstätigkeiten durchführen, unabhängig sein. Die benannten Stellen müssen auch von allen anderen Betreibern, die ein wirtschaftliches Interesse an den bewerteten AI-Systemen mit hohem Risiko haben, sowie von allen Wettbewerbern des Anbieters unabhängig sein. Dies schließt weder die Verwendung von bewerteten AI-Systemen mit hohem Risiko, die für die Tätigkeit der Konformitätsbewertungsstelle erforderlich sind, noch die Verwendung solcher AI-Systeme mit hohem Risiko für persönliche Zwecke aus.

5. Weder eine Konformitätsbewertungsstelle, noch ihre oberste Leitungsebene oder die für die Erfüllung ihrer Konformitätsbewertungsaufgaben zuständigen Mitarbeiter dürfen direkt an Entwurf, Entwicklung, Vermarktung oder Verwendung von AI-Systemen mit hohem Risiko beteiligt sein, noch dürfen sie die an diesen Tätigkeiten beteiligten Parteien vertreten. Sie dürfen sich nicht mit Tätigkeiten befassen, die ihre Unabhängigkeit bei der Beurteilung oder ihre Integrität in Bezug auf die Konformitätsbewertungstätigkeiten, für die sie benannt sind, beeinträchtigen könnten. Dies gilt insbesondere für Beratungsdienstleistungen.

6. Die benannten Stellen müssen so organisiert sein und betrieben werden, dass die Unabhängigkeit, Objektivität und Unparteilichkeit ihrer Tätigkeiten gewährleistet ist. Die benannten Stellen dokumentieren und implementieren eine Struktur und Verfahren zur Gewährleistung der Unparteilichkeit und zur Förderung und Anwendung der Grundsätze der Unparteilichkeit in ihrer gesamten Organisation, ihrem Personal und ihren Bewertungstätigkeiten.

7. (7) Die notifizierten Stellen verfügen über dokumentierte Verfahren, mit denen sichergestellt wird, dass ihre Mitarbeiter, Ausschüsse, Zweigstellen, Unterauftragnehmer und alle mit ihnen verbundenen Stellen sowie die Mitarbeiter externer Stellen die Vertraulichkeit der Informationen, die ihnen bei der Durchführung von Konformitätsbewertungstätigkeiten bekannt werden, gemäß Artikel 78 wahren, es sei denn, ihre Offenlegung ist gesetzlich vorgeschrieben. Das Personal der notifizierten Stellen unterliegt hinsichtlich aller Informationen, von denen es bei der Durchführung seiner Aufgaben gemäß dieser Verordnung Kenntnis erhält, der beruflichen Schweigepflicht, außer gegenüber den notifizierenden Behörden des Mitgliedstaats, in dem es seine Tätigkeiten ausübt.

8. Die benannten Stellen verfügen über Verfahren für die Durchführung von Tätigkeiten, die der Größe eines Anbieters, dem Sektor, in dem er tätig ist, seiner Struktur und dem Grad der Komplexität des betreffenden AI-Systems angemessen Rechnung tragen.

9. Die notifizierten Stellen schließen für ihre Konformitätsbewertungstätigkeiten eine angemessene Haftpflichtversicherung ab, es sei denn, die Haftung wird von dem Mitgliedstaat übernommen, in dem sie gemäß den nationalen Rechtsvorschriften niedergelassen sind, oder dieser Mitgliedstaat ist selbst unmittelbar für die Konformitätsbewertung verantwortlich.

10. (10) Die notifizierten Stellen müssen in der Lage sein, alle ihnen im Rahmen dieser Verordnung übertragenen Aufgaben mit höchster beruflicher Zuverlässigkeit und der erforderlichen fachlichen Kompetenz auszuführen, unabhängig davon, ob diese Aufgaben von den notifizierten Stellen selbst oder in ihrem Auftrag und unter ihrer Verantwortung wahrgenommen werden.

11. Die benannten Stellen müssen über ausreichende interne Kompetenzen verfügen, um die von externen Stellen in ihrem Auftrag durchgeführten Aufgaben wirksam bewerten zu können. Die benannte Stelle verfügt ständig über ausreichendes administratives, technisches, juristisches und wissenschaftliches Personal, das über Erfahrungen und Kenntnisse in Bezug auf die relevanten Arten von KI-Systemen, Daten und Datenverarbeitung sowie die in Abschnitt 2 genannten Anforderungen verfügt.

12. Die benannten Stellen beteiligen sich an den in Artikel 38 genannten Koordinierungstätigkeiten. Sie beteiligen sich auch direkt an den europäischen Normungsorganisationen oder sind dort vertreten oder stellen sicher, dass sie über die einschlägigen Normen informiert und auf dem neuesten Stand sind.

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Taylor Jones unter taylor@futureoflife.org

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)