Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen und Unteraufträge durch benannte Stellen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der im Rahmen dieser Verordnung benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren für den Umgang mit KI-Systemen, die ein Risiko auf nationaler Ebene darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Das Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz der meldenden Personen

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

2. Mai 2024 - Der AI Act Explorer wurde nun mit dem Inhalt der "Corrigendum" -Fassung des Europäischen Parlaments vom 19. April 2024 aktualisiert. Es ist unwahrscheinlich, dass sich der Inhalt des Gesetzes weiter ändert.

Anhang IV: Technische Dokumentation

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Risto Uuk unter risto@futureoflife.org

Die in Artikel 11 Absatz 1 genannten technischen Unterlagen müssen mindestens die folgenden Informationen enthalten, die für das betreffende AI-System gelten:

1. Eine allgemeine Beschreibung des KI-Systems einschließlich:

(a) den Verwendungszweck, den Namen des Anbieters und die Version des Systems unter Angabe des Verhältnisses zu früheren Versionen;

(b) die Art und Weise, wie das KI-System mit Hard- oder Software, gegebenenfalls auch mit anderen KI-Systemen, die nicht Teil des KI-Systems selbst sind, interagiert oder interagiert werden kann;

(c) die Versionen der einschlägigen Software oder Firmware und alle Anforderungen in Bezug auf Versionsaktualisierungen;

(d) die Beschreibung aller Formen, in denen das KI-System in Verkehr gebracht oder in Betrieb genommen wird, wie in Hardware eingebettete Softwarepakete, Downloads oder APIs;

(e) die Beschreibung der Hardware, auf der das KI-System laufen soll;

(f) wenn das KI-System ein Bestandteil von Produkten ist, Fotografien oder Abbildungen, die die äußeren Merkmale, die Kennzeichnung und die innere Gestaltung dieser Produkte zeigen;

(g) eine grundlegende Beschreibung der dem Verteiler zur Verfügung gestellten Benutzerschnittstelle;

(h) eine Gebrauchsanweisung für den Verteiler und gegebenenfalls eine grundlegende Beschreibung der dem Verteiler zur Verfügung gestellten Benutzerschnittstelle;

2. Eine detaillierte Beschreibung der Elemente des KI-Systems und des Prozesses seiner Entwicklung, einschließlich:

(a) die Methoden und Schritte, die zur Entwicklung des KI-Systems durchgeführt wurden, gegebenenfalls einschließlich des Rückgriffs auf bereits trainierte Systeme oder Werkzeuge, die von Dritten zur Verfügung gestellt wurden, sowie die Art und Weise, wie diese vom Anbieter verwendet, integriert oder geändert wurden;

(b) die Entwurfsspezifikationen des Systems, d. h. die allgemeine Logik des KI-Systems und der Algorithmen; die wichtigsten Entwurfsentscheidungen einschließlich der Begründung und der getroffenen Annahmen, auch in Bezug auf Personen oder Personengruppen, für die das System verwendet werden soll; die wichtigsten Klassifizierungsentscheidungen; die Frage, wofür das System optimiert werden soll, und die Relevanz der verschiedenen Parameter; die Beschreibung des erwarteten Outputs und der Qualität des Outputs des Systems; die Entscheidungen über etwaige Kompromisse bei den technischen Lösungen, die zur Erfüllung der in Kapitel III Abschnitt 2 genannten Anforderungen getroffen wurden;

(c) eine Beschreibung der Systemarchitektur, aus der hervorgeht, wie die Softwarekomponenten aufeinander aufbauen oder ineinandergreifen und in die Gesamtverarbeitung integriert sind; die für die Entwicklung, das Training, den Test und die Validierung des KI-Systems verwendeten Rechenressourcen;

(d) gegebenenfalls die Datenanforderungen in Form von Datenblättern, in denen die Trainingsmethoden und -techniken und die verwendeten Trainingsdatensätze beschrieben werden, einschließlich einer allgemeinen Beschreibung dieser Datensätze, Informationen über ihre Herkunft, ihren Umfang und ihre Hauptmerkmale; wie die Daten gewonnen und ausgewählt wurden; Etikettierungsverfahren (z. B. für überwachtes Lernen), Datenbereinigungsverfahren (z. B. Erkennung von Ausreißern);

(e) Bewertung der gemäß Artikel 14 erforderlichen menschlichen Aufsichtsmaßnahmen, einschließlich einer Bewertung der technischen Maßnahmen, die erforderlich sind, um die Interpretation der Ergebnisse von KI-Systemen durch die Einsatzkräfte gemäß Artikel 13 Absatz 3 Buchstabe d zu erleichtern;

(f) gegebenenfalls eine ausführliche Beschreibung der im Voraus festgelegten Änderungen am AI-System und seiner Leistung, zusammen mit allen einschlägigen Informationen zu den technischen Lösungen, die zur Gewährleistung der ständigen Übereinstimmung des AI-Systems mit den in Kapitel III Abschnitt 2 festgelegten einschlägigen Anforderungen gewählt wurden;

(g) die verwendeten Validierungs- und Testverfahren, einschließlich Informationen über die verwendeten Validierungs- und Testdaten und ihre wichtigsten Merkmale; Messgrößen zur Messung der Genauigkeit, Robustheit und Einhaltung anderer einschlägiger Anforderungen gemäß Kapitel III Abschnitt 2 sowie potenziell diskriminierende Auswirkungen; Testprotokolle und alle von den verantwortlichen Personen datierten und unterzeichneten Testberichte, auch im Hinblick auf vorher festgelegte Änderungen gemäß Buchstabe f;

(h) eingeführte Cybersicherheitsmaßnahmen;

3. Detaillierte Informationen über die Überwachung, Funktionsweise und Kontrolle des KI-Systems, insbesondere in Bezug auf: seine Fähigkeiten und Leistungsgrenzen, einschließlich der Genauigkeitsgrade für bestimmte Personen oder Personengruppen, bei denen das System eingesetzt werden soll, und des insgesamt erwarteten Genauigkeitsniveaus in Bezug auf seinen beabsichtigten Zweck; die vorhersehbaren unbeabsichtigten Ergebnisse und Quellen von Risiken für Gesundheit und Sicherheit, Grundrechte und Diskriminierung im Hinblick auf den beabsichtigten Zweck des KI-Systems; die gemäß Artikel 14 erforderlichen menschlichen Aufsichtsmaßnahmen, einschließlich der technischen Maßnahmen, die zur Erleichterung der Interpretation der Ergebnisse von KI-Systemen durch die Anwender getroffen werden; gegebenenfalls Spezifikationen für Eingabedaten;

4. Eine Beschreibung der Angemessenheit der Leistungsmetriken für das spezifische KI-System;

5. Eine ausführliche Beschreibung des Risikomanagementsystems gemäß Artikel 9;

6. Beschreibung der relevanten Änderungen, die der Anbieter im Laufe des Lebenszyklus des Systems vorgenommen hat;

7. Liste der ganz oder teilweise angewandten harmonisierten Normen, deren Fundstellen im Amtsblatt der Europäischen Union veröffentlicht worden sind; falls keine harmonisierten Normen angewandt wurden, ausführliche Beschreibung der zur Erfüllung der Anforderungen in Kapitel III Abschnitt 2 gewählten Lösungen, einschließlich einer Aufstellung der sonstigen angewandten einschlägigen Normen und technischen Spezifikationen;

8. Eine Kopie der EU-Konformitätserklärung gemäß Artikel 47;

9. Ausführliche Beschreibung des Systems zur Bewertung der Leistung des AI-Systems in der Phase nach dem Inverkehrbringen gemäß Artikel 72, einschließlich des in Artikel 72 Absatz 3 genannten Überwachungsplans nach dem Inverkehrbringen.

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz, Berichtigung, 19. April 2024". Interinstitutionelle Akte: 2021/0106(COD)