1. Der Kommission wird die Befugnis übertragen, delegierte Rechtsakte gemäß Artikel 97 zu erlassen, um Anhang III durch Hinzufügung oder Änderung von Verwendungsfällen von AI-Systemen mit hohem Risiko zu ändern, wenn beide der folgenden Bedingungen erfüllt sind:
(a) Die KI-Systeme sind für die Verwendung in einem der in Anhang III aufgeführten Bereiche bestimmt;
(b) von den KI-Systemen eine Gefahr für die Gesundheit und Sicherheit oder eine Beeinträchtigung der Grundrechte ausgeht und diese Gefahr der Gefahr einer Beeinträchtigung der Gesundheit oder einer Beeinträchtigung der Grundrechte gleichkommt oder größer ist als die Gefahr einer Beeinträchtigung, die von den bereits in Anhang III genannten KI-Systemen mit hohem Risiko ausgeht.
2. Bei der Beurteilung der Bedingung gemäß Absatz 1 Buchstabe b berücksichtigt die Kommission die folgenden Kriterien:
(a) den beabsichtigten Zweck des KI-Systems;
(b) das Ausmaß, in dem ein KI-System eingesetzt wurde oder wahrscheinlich eingesetzt werden wird;
(c) Art und Umfang der durch das KI-System verarbeiteten und genutzten Daten, insbesondere ob besondere Kategorien personenbezogener Daten verarbeitet werden;
(d) das Ausmaß, in dem das KI-System autonom handelt, und die Möglichkeit für einen Menschen, sich über eine Entscheidung oder Empfehlung hinwegzusetzen, die zu einem potenziellen Schaden führen kann;
(e) das Ausmaß, in dem die Verwendung eines KI-Systems bereits zu einer Beeinträchtigung der Gesundheit und Sicherheit geführt hat, sich nachteilig auf die Grundrechte ausgewirkt hat oder Anlass zu erheblichen Bedenken hinsichtlich der Wahrscheinlichkeit einer solchen Beeinträchtigung oder nachteiligen Auswirkung gegeben hat, wie beispielsweise durch Berichte oder dokumentierte Behauptungen, die den zuständigen nationalen Behörden vorgelegt wurden, oder gegebenenfalls durch andere Berichte belegt wird;
(f) das potenzielle Ausmaß eines solchen Schadens oder einer solchen nachteiligen Auswirkung, insbesondere im Hinblick auf ihre Intensität und ihre Fähigkeit, mehrere Personen zu beeinträchtigen oder eine bestimmte Personengruppe unverhältnismäßig stark zu beeinträchtigen;
(g) das Ausmaß, in dem Personen, die potenziell geschädigt werden oder eine nachteilige Auswirkung erleiden, von dem mit einem KI-System erzielten Ergebnis abhängig sind, insbesondere weil es aus praktischen oder rechtlichen Gründen vernünftigerweise nicht möglich ist, von diesem Ergebnis abzuweichen;
(h) das Ausmaß, in dem ein Machtungleichgewicht besteht oder sich die Personen, die potenziell geschädigt werden oder nachteilige Auswirkungen erleiden, in einer schutzbedürftigen Position gegenüber dem Anwender eines KI-Systems befinden, insbesondere aufgrund von Status, Autorität, Wissen, wirtschaftlichen oder sozialen Umständen oder Alter;
(i) das Ausmaß, in dem das mit einem KI-System erzeugte Ergebnis leicht korrigierbar oder umkehrbar ist, wobei die zur Korrektur oder Umkehrung verfügbaren technischen Lösungen zu berücksichtigen sind, wobei Ergebnisse, die sich nachteilig auf die Gesundheit, die Sicherheit oder die Grundrechte auswirken, nicht als leicht korrigierbar oder umkehrbar gelten;
(j) das Ausmaß und die Wahrscheinlichkeit des Nutzens des Einsatzes des KI-Systems für Einzelpersonen, Gruppen oder die Gesellschaft insgesamt, einschließlich möglicher Verbesserungen der Produktsicherheit;
(k) den Umfang, in dem das geltende Unionsrecht dies vorsieht:
(i) wirksame Rechtsbehelfe gegen die von einem KI-System ausgehenden Risiken, wobei Schadenersatzansprüche ausgeschlossen sind;
(ii) wirksame Maßnahmen zur Vermeidung oder wesentlichen Verringerung dieser Risiken.
3. Der Kommission wird die Befugnis übertragen, delegierte Rechtsakte gemäß Artikel 97 zu erlassen, um die Liste in Anhang III zu ändern und AI-Systeme mit hohem Risiko zu streichen, wenn beide der folgenden Bedingungen erfüllt sind:
(a) die betreffende Hochrisiko-VI-Regelung unter Berücksichtigung der in Absatz 2 aufgeführten Kriterien keine erheblichen Risiken für die Grundrechte, die Gesundheit oder die Sicherheit mehr birgt;
(b) die Löschung führt nicht zu einer Verringerung des Gesamtniveaus des Schutzes der Gesundheit, der Sicherheit und der Grundrechte nach dem Unionsrecht.