AI-Systeme mit hohem Risiko im Sinne von Artikel 6 Absatz 2 sind AI-Systeme, die in einem der folgenden Bereiche aufgeführt sind:
1. Biometrische Daten, soweit ihre Verwendung nach dem einschlägigen Unionsrecht oder dem nationalen Recht zulässig ist:
(a) Systeme zur biometrischen Fernidentifizierung. Dazu gehören keine KI-Systeme, die für die biometrische Überprüfung bestimmt sind und deren einziger Zweck darin besteht, zu bestätigen, dass eine bestimmte natürliche Person diejenige ist, die sie vorgibt zu sein;
(b) KI-Systeme, die für die biometrische Kategorisierung nach sensiblen oder geschützten Attributen oder Merkmalen auf der Grundlage der Rückschlüsse auf diese Attribute oder Merkmale verwendet werden sollen;
(c) KI-Systeme, die für die Erkennung von Emotionen eingesetzt werden sollen.
2. Kritische Infrastrukturen: KI-Systeme, die als Sicherheitskomponenten bei der Verwaltung und dem Betrieb kritischer digitaler Infrastrukturen, im Straßenverkehr oder bei der Wasser-, Gas-, Wärme- oder Stromversorgung eingesetzt werden sollen.
3. Allgemeine und berufliche Bildung:
(a) KI-Systeme, die dazu dienen, den Zugang oder die Zulassung zu Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen zu bestimmen oder natürliche Personen zuzuweisen;
(b) KI-Systeme, die zur Bewertung von Lernergebnissen eingesetzt werden sollen, auch wenn diese Ergebnisse zur Steuerung des Lernprozesses natürlicher Personen in Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen verwendet werden;
(c) KI-Systeme, die zur Bewertung des angemessenen Bildungsniveaus, das eine Person erhalten wird oder zu dem sie Zugang haben wird, im Rahmen von oder innerhalb von Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen eingesetzt werden sollen;
(d) KI-Systeme, die zur Überwachung und Erkennung von unzulässigem Verhalten von Schülern bei Prüfungen im Rahmen von oder in Einrichtungen der allgemeinen und beruflichen Bildung auf allen Ebenen eingesetzt werden sollen.
4. Beschäftigung, Arbeitnehmermanagement und Zugang zur Selbstständigkeit:
(a) KI-Systeme, die für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere zur Schaltung gezielter Stellenanzeigen, zur Analyse und Filterung von Bewerbungen und zur Bewertung von Bewerbern;
(b) KI-Systeme, die dazu bestimmt sind, Entscheidungen zu treffen, die sich auf die Bedingungen von Arbeitsverhältnissen, die Förderung oder Beendigung von Arbeitsvertragsverhältnissen auswirken, Aufgaben auf der Grundlage von individuellem Verhalten oder persönlichen Eigenschaften oder Merkmalen zuzuweisen oder die Leistung und das Verhalten von Personen in solchen Verhältnissen zu überwachen und zu bewerten.
5. Zugang zu und Inanspruchnahme von wesentlichen privaten Dienstleistungen und wesentlichen öffentlichen Diensten und Leistungen:
(a) KI-Systeme, die dazu bestimmt sind, von Behörden oder im Namen von Behörden verwendet zu werden, um die Anspruchsberechtigung natürlicher Personen auf wesentliche öffentliche Unterstützungsleistungen und -dienste, einschließlich Gesundheitsdienstleistungen, zu bewerten und solche Leistungen und Dienste zu gewähren, zu kürzen, zu widerrufen oder zurückzufordern;
(b) KI-Systeme, die dazu bestimmt sind, die Kreditwürdigkeit natürlicher Personen zu bewerten oder ihre Kreditwürdigkeit zu ermitteln, mit Ausnahme von KI-Systemen, die zur Aufdeckung von Finanzbetrug eingesetzt werden;
(c) KI-Systeme, die für die Risikobewertung und Preisgestaltung in Bezug auf natürliche Personen im Falle von Lebens- und Krankenversicherungen verwendet werden sollen;
(d) KI-Systeme, die dazu bestimmt sind, Notrufe natürlicher Personen auszuwerten und zu klassifizieren oder zur Disposition oder zur Festlegung von Prioritäten bei der Disposition von Notdiensten, einschließlich Polizei, Feuerwehr und medizinischer Hilfe, sowie von Triage-Systemen für Notfallpatienten verwendet werden.
6. Strafverfolgung, soweit ihre Verwendung nach dem einschlägigen Unionsrecht oder dem nationalen Recht zulässig ist:
(a) KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden oder in deren Namen verwendet zu werden, um das Risiko zu bewerten, dass eine natürliche Person Opfer einer Straftat wird;
(b) KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden als Lügendetektoren oder ähnliche Instrumente verwendet zu werden;
(c) KI-Systeme, die dazu bestimmt sind, von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden verwendet zu werden, um die Verlässlichkeit von Beweismitteln im Rahmen der Ermittlung oder Verfolgung von Straftaten zu bewerten;
(d) KI-Systeme, die dazu bestimmt sind, von Strafverfolgungsbehörden oder in deren Auftrag oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden verwendet zu werden, um das Risiko einer natürlichen Person, straffällig zu werden oder erneut straffällig zu werden, nicht ausschließlich auf der Grundlage der Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 zu bewerten, oder um Persönlichkeitsmerkmale und Eigenschaften oder frühere kriminelle Verhaltensweisen natürlicher Personen oder Gruppen zu bewerten;
(e) KI-Systeme, die von oder im Namen von Strafverfolgungsbehörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union zur Unterstützung von Strafverfolgungsbehörden für die Erstellung von Profilen natürlicher Personen gemäß Artikel 3 Absatz 4 der Richtlinie (EU) 2016/680 im Rahmen der Aufdeckung, Untersuchung oder Verfolgung von Straftaten verwendet werden sollen.
7. Migrations-, Asyl- und Grenzkontrollmanagement, soweit deren Einsatz nach dem einschlägigen Unionsrecht oder nationalen Recht zulässig ist:
(a) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union als Lügendetektoren oder ähnliche Instrumente verwendet zu werden;
(b) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union verwendet zu werden, um ein Risiko, einschließlich eines Sicherheitsrisikos, eines Risikos der irregulären Migration oder eines Gesundheitsrisikos, zu bewerten, das von einer natürlichen Person ausgeht, die in das Hoheitsgebiet eines Mitgliedstaats einzureisen beabsichtigt oder eingereist ist;
(c) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union verwendet zu werden, um die zuständigen Behörden bei der Prüfung von Anträgen auf Asyl, Visa oder Aufenthaltstitel und bei damit zusammenhängenden Beschwerden in Bezug auf die Berechtigung der natürlichen Personen, die einen Status beantragen, zu unterstützen, einschließlich der damit zusammenhängenden Bewertung der Zuverlässigkeit von Beweismitteln;
(d) KI-Systeme, die dazu bestimmt sind, von oder im Namen von zuständigen Behörden oder von Organen, Einrichtungen, Ämtern oder Agenturen der Union im Rahmen des Migrations-, Asyl- oder Grenzkontrollmanagements zum Aufspüren, Erkennen oder Identifizieren natürlicher Personen verwendet zu werden, mit Ausnahme der Überprüfung von Reisedokumenten.
8. Rechtspflege und demokratische Prozesse:
(a) KI-Systeme, die dazu bestimmt sind, von einer Justizbehörde oder in deren Auftrag eingesetzt zu werden, um eine Justizbehörde bei der Erforschung und Auslegung von Tatsachen und Gesetzen und bei der Anwendung des Rechts auf einen konkreten Sachverhalt zu unterstützen, oder die in ähnlicher Weise bei der alternativen Streitbeilegung eingesetzt werden sollen;
(b) KI-Systeme, die zur Beeinflussung des Ergebnisses einer Wahl oder eines Referendums oder des Abstimmungsverhaltens natürlicher Personen bei der Ausübung ihres Stimmrechts bei Wahlen oder Referenden eingesetzt werden sollen. Dies schließt keine KI-Systeme ein, deren Ergebnisse natürlichen Personen nicht direkt zugänglich sind, wie etwa Werkzeuge, die zur Organisation, Optimierung oder Strukturierung politischer Kampagnen unter administrativen oder logistischen Gesichtspunkten eingesetzt werden.