Inhaltsübersicht

Abschnitt 1: Einstufung von KI-Systemen als hochriskant

Artikel 6: Klassifizierungsregeln für KI-Systeme mit hohem Risiko

Artikel 7: Änderungen des Anhangs III

Abschnitt 2: Anforderungen an hochriskante KI-Systeme

Artikel 8: Erfüllung der Anforderungen

Artikel 9: Risikomanagementsystem

Artikel 10: Daten und Datenverwaltung

Artikel 11: Technische Dokumentation

Artikel 12: Aufbewahrung der Aufzeichnungen

Artikel 13: Transparenz und Bereitstellung von Informationen für Einsatzkräfte

Artikel 14: Menschliche Aufsichtsbehörden

Artikel 15: Genauigkeit, Robustheit und Cybersicherheit

Abschnitt 3: Verpflichtungen von Anbietern und Betreibern von KI-Systemen mit hohem Risiko und anderen Parteien

Artikel 16: Pflichten der Anbieter von KI-Systemen mit hohem Risiko

Artikel 17: Qualitätsmanagementsystem

Artikel 18: Führung der Dokumentation

Artikel 19: Automatisch erzeugte Protokolle

Artikel 20: Abhilfemaßnahmen und Informationspflicht

Artikel 21: Zusammenarbeit mit den zuständigen Behörden

Artikel 22: Bevollmächtigte Vertreter von Anbietern von KI-Systemen mit hohem Risikopotenzial

Artikel 23: Pflichten der Importeure

Artikel 24: Pflichten des Händlers

Artikel 25: Verantwortlichkeiten entlang der KI-Wertschöpfungskette

Artikel 26: Pflichten der Bereitsteller von KI-Systemen mit hohem Risiko

Artikel 27: Grundrechtliche Folgenabschätzung für hochriskante KI-Systeme

Abschnitt 4: Notifizierende Behörden und benannte Stellen

Artikel 28: Notifizierende Behörden

Artikel 29: Antrag einer Konformitätsbewertungsstelle auf Notifizierung

Artikel 30: Notifizierungsverfahren

Artikel 31: Anforderungen an die benannten Stellen

Artikel 32: Vermutung der Konformität mit den Anforderungen in Bezug auf benannte Stellen

Artikel 33: Zweigstellen der benannten Stellen und Vergabe von Unteraufträgen

Artikel 34: Operative Verpflichtungen der benannten Stellen

Artikel 35: Kennnummern und Verzeichnisse der benannten Stellen

Artikel 36: Änderungen der Notifizierungen

Artikel 37: Anfechtung der Zuständigkeit der benannten Stellen

Artikel 38: Koordinierung der benannten Stellen

Artikel 39: Konformitätsbewertungsstellen von Drittländern

Abschnitt 5: Normen, Konformitätsbewertung, Bescheinigungen, Registrierung

Artikel 40: Harmonisierte Normen und Normungsdokumente

Artikel 41: Gemeinsame Spezifikationen

Artikel 42: Vermutung der Konformität mit bestimmten Anforderungen

Artikel 43: Konformitätsbewertung

Artikel 44: Bescheinigungen

Artikel 45: Informationsverpflichtungen der benannten Stellen

Artikel 46: Ausnahmen vom Konformitätsbewertungsverfahren

Artikel 47: EU-Konformitätserklärung

Artikel 48: CE-Kennzeichnung

Artikel 49: Registrierung

Abschnitt 1: Überwachung nach dem Inverkehrbringen

Artikel 72: Überwachung nach dem Inverkehrbringen durch die Anbieter und Plan zur Überwachung nach dem Inverkehrbringen für KI-Systeme mit hohem Risiko

Abschnitt 2: Weitergabe von Informationen über schwerwiegende Zwischenfälle

Artikel 73: Meldung schwerwiegender Vorkommnisse

Abschnitt 3: Durchsetzung

Artikel 74: Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt

Artikel 75: Gegenseitige Unterstützung, Marktüberwachung und Kontrolle von KI-Systemen für allgemeine Zwecke

Artikel 76: Überwachung von Tests unter realen Bedingungen durch die Marktüberwachungsbehörden

Artikel 77: Befugnisse der Behörden zum Schutz der Grundrechte

Artikel 78: Vertraulichkeit

Artikel 79: Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko darstellen

Artikel 80: Verfahren für den Umgang mit KI-Systemen, die vom Anbieter in Anwendung von Anhang III als nicht hochriskant eingestuft werden

Artikel 81: Schutzklauselverfahren der Union

Artikel 82: Konforme KI-Systeme, die ein Risiko darstellen

Artikel 83: Formale Nichteinhaltung

Artikel 84: Union AI Testing Support Structures

Abschnitt 4: Rechtsbehelfe

Artikel 85: Recht auf Einreichung einer Beschwerde bei einer Marktaufsichtsbehörde

Artikel 86: Recht auf Erläuterung der individuellen Entscheidungsfindung

Artikel 87: Meldung von Verstößen und Schutz von Personen, die Verstöße melden

Abschnitt 5: Beaufsichtigung, Untersuchung, Durchsetzung und Überwachung in Bezug auf Anbieter von KI-Modellen für allgemeine Zwecke

Artikel 88: Durchsetzung der Verpflichtungen von Anbietern von KI-Modellen für allgemeine Zwecke

Artikel 89 : Überwachungsmaßnahmen

Artikel 90: Warnungen vor systemischen Risiken durch das Wissenschaftliche Gremium

Artikel 91: Befugnis zur Anforderung von Unterlagen und Informationen

Artikel 92: Befugnis zur Durchführung von Evaluierungen

Artikel 93: Befugnis, Maßnahmen zu beantragen

Artikel 94: Verfahrensrechte der Wirtschaftsbeteiligten des AI-Modells für allgemeine Zwecke

Erwägungsgründe

Anhänge

Suche innerhalb des Gesetzes

Artikel 59: Weiterverarbeitung personenbezogener Daten für die Entwicklung bestimmter KI-Systeme im öffentlichen Interesse in der KI-Regulierungssandbox

Datum des Inkrafttretens:

2. August 2026

Laut:

Artikel 113

Einen vollständigen Zeitplan für die Umsetzung finden Sie hier.

Zusammenfassung

Das EU-KI-Gesetz erlaubt die Verwendung personenbezogener Daten in einem kontrollierten Umfeld, der sogenannten regulatorischen Sandbox, für die Entwicklung, das Training und das Testen von KI-Systemen. Dies ist nur dann zulässig, wenn das KI-System im öffentlichen Interesse entwickelt wird, z. B. in den Bereichen öffentliche Sicherheit, Gesundheit, Umweltschutz, Nachhaltigkeit der Energieversorgung, Verkehrssicherheit und öffentliche Verwaltung. Die Daten müssen notwendig sein, die Risiken müssen überwacht und gemindert werden, und die Daten müssen getrennt und sicher aufbewahrt werden. Die Daten dürfen nicht außerhalb des Sandkastens weitergegeben werden und müssen nach Abschluss des Projekts gelöscht werden. Der Prozess und die Ergebnisse müssen dokumentiert und eine Zusammenfassung veröffentlicht werden, sofern es sich nicht um sensible Strafverfolgungsdaten handelt.

Generiert von CLaiRK, bearbeitet von uns.

HINWEIS: Diese Übersetzung ist eine maschinell erstellte Übersetzung. Es handelt sich nicht um die offizielle Übersetzung, die vom Europäischen Parlament bereitgestellt wird. Wenn das AI-Gesetz im Amtsblatt veröffentlicht wird, werden die maschinell erstellten Übersetzungen durch die offiziellen Übersetzungen ersetzt.

1. In der KI-Sandbox dürfen personenbezogene Daten, die rechtmäßig für andere Zwecke erhoben wurden, ausschließlich zum Zweck der Entwicklung, des Trainings und der Erprobung bestimmter KI-Systeme in der Sandbox verarbeitet werden, wenn alle folgenden Bedingungen erfüllt sind:

(a) KI-Systeme werden von einer Behörde oder einer anderen natürlichen oder juristischen Person zur Wahrung erheblicher öffentlicher Interessen und in einem oder mehreren der folgenden Bereiche entwickelt:

(i) öffentliche Sicherheit und öffentliche Gesundheit, einschließlich Krankheitserkennung, -diagnose, -prävention und -behandlung sowie Verbesserung der Gesundheitssysteme;

(ii) ein hohes Maß an Schutz und Verbesserung der Umweltqualität, Schutz der biologischen Vielfalt, Schutz vor Umweltverschmutzung, Maßnahmen für einen umweltfreundlichen Übergang, Maßnahmen zur Eindämmung des Klimawandels und Anpassungsmaßnahmen;

(iii) energetische Nachhaltigkeit;

(iv) Sicherheit und Widerstandsfähigkeit von Verkehrssystemen und Mobilität, kritischen Infrastrukturen und Netzen;

(v) Effizienz und Qualität der öffentlichen Verwaltung und der öffentlichen Dienstleistungen;

(b) die verarbeiteten Daten zur Erfüllung einer oder mehrerer der in Kapitel III Abschnitt 2 genannten Anforderungen erforderlich sind, sofern diese Anforderungen nicht durch die Verarbeitung anonymisierter, synthetischer oder sonstiger nicht personenbezogener Daten wirksam erfüllt werden können;

(c) es gibt wirksame Überwachungsmechanismen, mit denen festgestellt werden kann, ob während der Sandbox-Experimente hohe Risiken für die Rechte und Freiheiten der betroffenen Personen im Sinne von Artikel 35 der Verordnung (EU) 2016/679 und Artikel 39 der Verordnung (EU) 2018/1725 auftreten können, sowie Reaktionsmechanismen, um diese Risiken unverzüglich zu mindern und die Verarbeitung erforderlichenfalls zu stoppen;

(d) alle im Rahmen der Sandbox zu verarbeitenden personenbezogenen Daten befinden sich in einer funktional getrennten, isolierten und geschützten Datenverarbeitungsumgebung unter der Kontrolle des potenziellen Anbieters und nur befugte Personen haben Zugang zu diesen Daten;

(e) Die Anbieter können die ursprünglich gesammelten Daten nur im Einklang mit dem Datenschutzrecht der Union weitergeben; in der Sandbox erstellte personenbezogene Daten können nicht außerhalb der Sandbox weitergegeben werden;

(f) die Verarbeitung personenbezogener Daten im Rahmen des Sandkastens weder zu Maßnahmen oder Entscheidungen führt, die die betroffenen Personen betreffen, noch die Anwendung ihrer im Unionsrecht zum Schutz personenbezogener Daten verankerten Rechte berührt;

(g) alle im Rahmen der Sandbox verarbeiteten personenbezogenen Daten werden durch geeignete technische und organisatorische Maßnahmen geschützt und gelöscht, sobald die Teilnahme an der Sandbox beendet ist oder die Aufbewahrungsfrist für die personenbezogenen Daten abgelaufen ist;

(h) die Protokolle der Verarbeitung personenbezogener Daten im Rahmen der Sandbox werden für die Dauer der Teilnahme an der Sandbox aufbewahrt, sofern das Unionsrecht oder das nationale Recht nichts anderes vorsieht;

(i) eine vollständige und detaillierte Beschreibung des Verfahrens und der Gründe für die Schulung, Prüfung und Validierung des KI-Systems zusammen mit den Prüfergebnissen als Teil der technischen Unterlagen gemäß Anhang IV aufbewahrt wird;

(j) eine kurze Zusammenfassung des im Sandkasten entwickelten KI-Projekts, seiner Ziele und der erwarteten Ergebnisse wird auf der Website der zuständigen Behörden veröffentlicht; diese Verpflichtung gilt nicht für sensible operative Daten im Zusammenhang mit den Tätigkeiten von Strafverfolgungs-, Grenzkontroll-, Einwanderungs- oder Asylbehörden.

2. (2) Zum Zwecke der Verhütung, Aufdeckung, Untersuchung oder Verfolgung von Straftaten oder der Vollstreckung strafrechtlicher Sanktionen, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, unter der Kontrolle und Verantwortung von Strafverfolgungsbehörden erfolgt die Verarbeitung personenbezogener Daten in AI-Sandkästen auf der Grundlage eines spezifischen Unionsrechts oder nationalen Rechts und unter denselben kumulativen Bedingungen wie in Absatz 1.

3. Absatz 1 gilt unbeschadet des Unionsrechts oder des nationalen Rechts, das die Verarbeitung personenbezogener Daten zu anderen als den in diesem Recht ausdrücklich genannten Zwecken ausschließt, sowie unbeschadet des Unionsrechts oder des nationalen Rechts, in dem die Grundlage für die Verarbeitung personenbezogener Daten festgelegt ist, die für die Entwicklung, Erprobung oder Schulung innovativer KI-Systeme erforderlich ist, oder einer anderen Rechtsgrundlage im Einklang mit dem Unionsrecht zum Schutz personenbezogener Daten.

Feedback - Wir arbeiten an der Verbesserung dieses Tools. Bitte senden Sie Ihr Feedback an Taylor Jones unter taylor@futureoflife.org

Der in diesem Tool verwendete Text ist das "Gesetz über künstliche Intelligenz (Verordnung (EU) 2024/1689), Fassung des Amtsblatts vom 13. Juni 2024". Interinstitutionelle Akte: 2021/0106(COD)