Für die Zwecke dieser Verordnung gelten die folgenden Definitionen:
(1) "KI-System": ein maschinengestütztes System, das so konzipiert ist, dass es mit unterschiedlichem Grad an Autonomie betrieben werden kann und nach seiner Einführung Anpassungsfähigkeit zeigt, und das für explizite oder implizite Ziele aus den Eingaben, die es erhält, ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen generieren kann, die physische oder virtuelle Umgebungen beeinflussen können; Verwandte: Erwägungsgrund 12
(2) "Risiko" ist die Kombination aus der Wahrscheinlichkeit des Eintritts eines Schadens und der Schwere dieses Schadens;
(3) "Anbieter" ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell für allgemeine Zwecke entwickelt oder ein KI-System oder ein KI-Modell für allgemeine Zwecke entwickeln lässt und es unter ihrem eigenen Namen oder ihrer eigenen Marke in Verkehr bringt oder in Betrieb nimmt, unabhängig davon, ob dies entgeltlich oder unentgeltlich geschieht;
(4) "Bereitsteller": eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System unter ihrer Aufsicht einsetzt, es sei denn, das KI-System wird im Rahmen einer persönlichen, nicht beruflichen Tätigkeit verwendet; Verwandt: Erwägungsgrund 13
(5) "Bevollmächtigter": eine natürliche oder juristische Person, die in der Union ansässig oder niedergelassen ist und von einem Anbieter eines KI-Systems oder eines KI-Modells für allgemeine Zwecke ein schriftliches Mandat erhalten und angenommen hat, in seinem Namen die in dieser Verordnung festgelegten Verpflichtungen und Verfahren zu erfüllen und durchzuführen;
(6) "Importeur": eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System in Verkehr bringt, das den Namen oder die Marke einer in einem Drittland ansässigen natürlichen oder juristischen Person trägt;
(7) "Händler": eine natürliche oder juristische Person in der Lieferkette, die ein KI-System auf dem Unionsmarkt bereitstellt und nicht der Anbieter oder Einführer ist;
(8) "Betreiber": ein Anbieter, Produkthersteller, Verteiler, Bevollmächtigter, Importeur oder Händler;
(9) "Inverkehrbringen": die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells für allgemeine Zwecke auf dem Unionsmarkt;
(10) "Bereitstellung auf dem Markt": die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells für allgemeine Zwecke zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer gewerblichen Tätigkeit;
(11) "Inbetriebnahme": die Lieferung eines KI-Systems zur erstmaligen Verwendung direkt an den Einsatzbetrieb oder zur eigenen Verwendung in der Union für den vorgesehenen Zweck;
(12) "Verwendungszweck": die Verwendung, für die ein KI-System vom Anbieter vorgesehen ist, einschließlich des spezifischen Kontexts und der Verwendungsbedingungen, wie sie in den Informationen des Anbieters in der Gebrauchsanweisung, im Werbe- oder Verkaufsmaterial und in den Erklärungen sowie in den technischen Unterlagen angegeben sind;
(13) "vernünftigerweise vorhersehbarer Missbrauch": die Nutzung eines KI-Systems in einer Weise, die nicht mit dem beabsichtigten Zweck übereinstimmt, die sich aber aus vernünftigerweise vorhersehbarem menschlichen Verhalten oder der Interaktion mit anderen Systemen, einschließlich anderer KI-Systeme, ergeben kann;
(14) "Sicherheitsbauteil" ist ein Bauteil eines Produkts oder eines KI-Systems, das eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Fehlfunktion die Gesundheit und Sicherheit von Personen oder Sachen gefährdet;
(15) "Gebrauchsanweisung": die vom Anbieter bereitgestellten Informationen, die den Anwender insbesondere über den beabsichtigten Zweck und die ordnungsgemäße Verwendung eines KI-Systems informieren;
(16) "Rückruf eines KI-Systems": jede Maßnahme, die darauf abzielt, die Rückgabe an den Anbieter zu erreichen oder ein KI-System, das den Einsatzkräften zur Verfügung gestellt wird, außer Betrieb zu nehmen oder seine Nutzung zu unterbinden;
(17) "Rücknahme eines KI-Systems": jede Maßnahme, mit der verhindert werden soll, dass ein KI-System in der Lieferkette auf dem Markt bereitgestellt wird;
(18) "Leistung eines KI-Systems": die Fähigkeit eines KI-Systems, seinen beabsichtigten Zweck zu erfüllen;
(19) "notifizierende Behörde": die nationale Behörde, die für die Einrichtung und Durchführung der erforderlichen Verfahren für die Begutachtung, Benennung und Notifizierung von Konformitätsbewertungsstellen und für deren Überwachung zuständig ist;
(20) "Konformitätsbewertung": das Verfahren, mit dem nachgewiesen wird, dass die in Kapitel III Abschnitt 2 festgelegten Anforderungen an ein AI-System mit hohem Risiko erfüllt sind;
(21) "Konformitätsbewertungsstelle": eine Stelle, die als unabhängiger Dritter Konformitätsbewertungstätigkeiten, einschließlich Prüfung, Zertifizierung und Inspektion, durchführt;
(22) "notifizierte Stelle" eine Konformitätsbewertungsstelle, die im Einklang mit dieser Verordnung und anderen einschlägigen Harmonisierungsrechtsvorschriften der Union notifiziert wurde;
(23) "wesentliche Änderung": eine Änderung an einem AI-System nach seinem Inverkehrbringen oder seiner Inbetriebnahme, die bei der ursprünglichen Konformitätsbewertung durch den Anbieter nicht vorgesehen oder geplant war und durch die die Konformität des AI-Systems mit den in Kapitel III Abschnitt 2 festgelegten Anforderungen beeinträchtigt wird oder die zu einer Änderung des Zwecks führt, für den das AI-System bewertet wurde; siehe: Erwägungsgrund 128
(24) "CE-Kennzeichnung": eine Kennzeichnung, mit der ein Anbieter angibt, dass ein KI-System den Anforderungen von Kapitel III Abschnitt 2 und anderen anwendbaren Harmonisierungsrechtsvorschriften der Union, die ihre Anbringung vorsehen, entspricht;
(25) "System zur Überwachung nach dem Inverkehrbringen": alle Tätigkeiten, die von den Anbietern von KI-Systemen durchgeführt werden, um Erfahrungen mit der Verwendung von KI-Systemen, die sie in Verkehr bringen oder in Betrieb nehmen, zu sammeln und zu überprüfen, damit festgestellt werden kann, ob es notwendig ist, unverzüglich die erforderlichen Korrektur- oder Präventivmaßnahmen durchzuführen;
(26) "Marktüberwachungsbehörde": die nationale Behörde, die die Tätigkeiten durchführt und die Maßnahmen gemäß der Verordnung (EU) 2019/1020 trifft;
(27) "harmonisierte Norm": eine harmonisierte Norm im Sinne von Artikel 2 Absatz 1 Buchstabe c der Verordnung (EU) Nr. 1025/2012;
(28) "gemeinsame Spezifikation": eine Reihe technischer Spezifikationen im Sinne von Artikel 2 Nummer 4 der Verordnung (EU) Nr. 1025/2012, die Mittel zur Erfüllung bestimmter, in dieser Verordnung festgelegter Anforderungen bereitstellen;
(29) "Trainingsdaten": Daten, die zum Training eines KI-Systems durch Anpassung seiner lernfähigen Parameter verwendet werden;
(30) "Validierungsdaten": Daten, die zur Bewertung des trainierten KI-Systems und zur Abstimmung seiner nicht lernbaren Parameter und seines Lernprozesses verwendet werden, um unter anderem eine Unter- oder Überanpassung zu verhindern;
(31) "Validierungsdatensatz": ein separater Datensatz oder ein Teil des Trainingsdatensatzes, entweder als feste oder variable Aufteilung;
(32) "Prüfdaten": Daten, die für eine unabhängige Bewertung des KI-Systems verwendet werden, um die erwartete Leistung dieses Systems vor seinem Inverkehrbringen oder seiner Inbetriebnahme zu bestätigen;
(33) "Eingabedaten": Daten, die einem KI-System zur Verfügung gestellt oder von diesem direkt erfasst werden und auf deren Grundlage das System eine Ausgabe erzeugt;
(34) "biometrische Daten" personenbezogene Daten, die sich aus einer spezifischen technischen Verarbeitung ergeben und die sich auf physische, physiologische oder verhaltensbezogene Merkmale einer natürlichen Person beziehen, wie z. B. Gesichtsbilder oder daktyloskopische Daten; verwandt: Erwägungsgrund 14
(35) "biometrische Identifizierung": die automatisierte Erkennung physischer, physiologischer, verhaltensbezogener oder psychologischer menschlicher Merkmale zum Zwecke der Feststellung der Identität einer natürlichen Person durch Vergleich biometrischer Daten dieser Person mit biometrischen Daten von Personen, die in einer Datenbank gespeichert sind; verwandt: Erwägungsgrund 15
(36) "biometrische Überprüfung": die automatisierte Eins-zu-eins-Überprüfung, einschließlich Authentifizierung, der Identität natürlicher Personen durch Vergleich ihrer biometrischen Daten mit zuvor bereitgestellten biometrischen Daten; verwandt: Erwägungsgrund 15
(37) "besondere Kategorien personenbezogener Daten" sind die Kategorien personenbezogener Daten gemäß Artikel 9 Absatz 1 der Verordnung (EU) 2016/679, Artikel 10 der Richtlinie (EU) 2016/680 und Artikel 10 Absatz 1 der Verordnung (EU) 2018/1725;
(38) "sensible operative Daten": operative Daten im Zusammenhang mit Tätigkeiten zur Verhütung, Aufdeckung, Untersuchung oder Verfolgung von Straftaten, deren Offenlegung die Integrität von Strafverfahren gefährden könnte;
(39) "System zur Erkennung von Emotionen": ein KI-System, das dazu dient, Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten zu erkennen oder abzuleiten; verwandt: Erwägungsgrund 18
(40) "biometrisches Kategorisierungssystem" ein KI-System, das dazu dient, natürliche Personen auf der Grundlage ihrer biometrischen Daten bestimmten Kategorien zuzuordnen, es sei denn, es handelt sich um eine Zusatzfunktion zu einem anderen kommerziellen Dienst, die aus objektiven technischen Gründen unbedingt erforderlich ist; Bezug: Erwägungsgrund 16
(41. "Biometrisches Fernidentifizierungssystem": ein KI-System zur Identifizierung natürlicher Personen ohne deren aktives Zutun, in der Regel aus der Ferne durch den Vergleich der biometrischen Daten einer Person mit den in einer Referenzdatenbank enthaltenen biometrischen Daten; verwandt: Erwägungsgrund 17
(42) "biometrisches Fernidentifizierungssystem in Echtzeit": ein biometrisches Fernidentifizierungssystem, bei dem die Erfassung der biometrischen Daten, der Vergleich und die Identifizierung ohne nennenswerte Verzögerung erfolgen und das nicht nur eine sofortige Identifizierung, sondern auch begrenzte kurze Verzögerungen zur Vermeidung von Umgehungen vorsieht; verwandt: Erwägungsgrund 17
(43) "post-biometrisches Fernidentifizierungssystem": ein biometrisches Fernidentifizierungssystem, das kein biometrisches Echtzeit-Fernidentifizierungssystem ist; verwandt: Erwägungsgrund 17
(44) "öffentlich zugänglicher Raum": jeder physische Ort in öffentlichem oder privatem Besitz, der für eine unbestimmte Anzahl natürlicher Personen zugänglich ist, unabhängig davon, ob bestimmte Zugangsbedingungen gelten, und unabhängig von möglichen Kapazitätsbeschränkungen; verwandt: Erwägungsgrund 19
(45) "Strafverfolgungsbehörde"::
(a) jede Behörde, die für die Verhütung, Ermittlung, Feststellung oder Verfolgung von Straftaten oder die Vollstreckung strafrechtlicher Sanktionen, einschließlich des Schutzes vor und der Abwehr von Bedrohungen der öffentlichen Sicherheit, zuständig ist, oder
(b) jede andere Stelle oder Einrichtung, die nach dem Recht der Mitgliedstaaten mit der Ausübung hoheitlicher Befugnisse zum Zwecke der Verhütung, Ermittlung, Feststellung oder Verfolgung von Straftaten oder der Vollstreckung strafrechtlicher Sanktionen, einschließlich des Schutzes vor und der Abwehr von Bedrohungen der öffentlichen Sicherheit, betraut ist;
(46) "Strafverfolgung": Tätigkeiten, die von den Strafverfolgungsbehörden oder in deren Auftrag zur Verhütung, Ermittlung, Feststellung oder Verfolgung von Straftaten oder zur Vollstreckung strafrechtlicher Sanktionen, einschließlich des Schutzes vor und der Abwehr von Gefahren für die öffentliche Sicherheit, durchgeführt werden;
(47) "KI-Büro": die in der Entscheidung der Kommission vom 24. Januar 2024 vorgesehene Funktion der Kommission, zur Umsetzung, Überwachung und Beaufsichtigung von KI-Systemen und KI-Modellen für allgemeine Zwecke sowie zur KI-Governance beizutragen; Verweise in dieser Verordnung auf das KI-Büro gelten als Verweise auf die Kommission;
(48) "zuständige nationale Behörde": eine meldende Behörde oder eine Marktüberwachungsbehörde; in Bezug auf KI-Systeme, die von Organen, Agenturen, Ämtern und Einrichtungen der Union in Betrieb genommen oder genutzt werden, sind Bezugnahmen auf die zuständigen nationalen Behörden oder Marktüberwachungsbehörden in dieser Verordnung als Bezugnahmen auf den Europäischen Datenschutzbeauftragten zu verstehen;
(49) "schwerwiegender Vorfall": ein Vorfall oder eine Störung eines KI-Systems, der/die direkt oder indirekt zu einem der folgenden Punkte führt:
(a) den Tod einer Person oder eine schwere Schädigung der Gesundheit einer Person;
(b) eine schwerwiegende und irreversible Störung der Verwaltung oder des Betriebs kritischer Infrastrukturen.
(c) die Verletzung von Verpflichtungen aus dem Unionsrecht, die dem Schutz der Grundrechte dienen;
(d) schwere Schädigung von Eigentum oder der Umwelt;
(50) "personenbezogene Daten" sind personenbezogene Daten im Sinne von Artikel 4 Nummer 1 der Verordnung (EU) 2016/679;
(51) "nicht personenbezogene Daten" sind Daten, die keine personenbezogenen Daten im Sinne von Artikel 4 Nummer 1 der Verordnung (EU) 2016/679 sind;
(52) "Profiling" ist Profiling im Sinne von Artikel 4 Nummer 4 der Verordnung (EU) 2016/679;
(53) "Plan für die Durchführung von Prüfungen unter realen Bedingungen": ein Dokument, das die Ziele, die Methodik, den geografischen, bevölkerungsbezogenen und zeitlichen Umfang, die Überwachung, die Organisation und die Durchführung von Prüfungen unter realen Bedingungen beschreibt;
(54) "Sandkastenplan": ein zwischen dem teilnehmenden Anbieter und der zuständigen Behörde vereinbartes Dokument, das die Ziele, Bedingungen, den Zeitrahmen, die Methodik und die Anforderungen für die im Rahmen des Sandkastens durchgeführten Tätigkeiten beschreibt;
(55) "KI-Regulierungssandkasten": ein von einer zuständigen Behörde eingerichteter kontrollierter Rahmen, der Anbietern oder potenziellen Anbietern von KI-Systemen die Möglichkeit bietet, ein innovatives KI-System nach einem Sandkastenplan für eine begrenzte Zeit unter behördlicher Aufsicht zu entwickeln, zu trainieren, zu validieren und zu testen, gegebenenfalls unter realen Bedingungen;
(56) "KI-Kompetenz": Fähigkeiten, Kenntnisse und Verständnis, die es Anbietern, Anwendern und Betroffenen ermöglichen, KI-Systeme unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung in Kenntnis der Sachlage einzusetzen und sich über die Chancen und Risiken von KI und mögliche Schäden, die sie verursachen kann, bewusst zu werden;
(57) "Prüfung unter realen Bedingungen": die zeitlich begrenzte Prüfung eines KI-Systems für den vorgesehenen Zweck unter realen Bedingungen außerhalb eines Labors oder einer anderweitig simulierten Umgebung, um zuverlässige und belastbare Daten zu sammeln und die Konformität des KI-Systems mit den Anforderungen dieser Verordnung zu bewerten und zu überprüfen; sie gilt nicht als Inverkehrbringen oder Inbetriebnahme des KI-Systems im Sinne dieser Verordnung, sofern alle in Artikel 57 oder 60 festgelegten Bedingungen erfüllt sind;
(58) "Versuchsperson" bezeichnet für die Zwecke von Praxistests eine natürliche Person, die an den Tests unter realen Bedingungen teilnimmt;
(59) "Einwilligung nach Aufklärung": die frei gegebene, spezifische, unmissverständliche und freiwillige Bereitschaft einer Versuchsperson, an einem bestimmten Versuch unter realen Bedingungen teilzunehmen, nachdem sie über alle Aspekte des Versuchs, die für ihre Entscheidung zur Teilnahme relevant sind, informiert wurde;
(60) "Deep Fake": KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die existierenden Personen, Objekten, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als authentisch oder wahrheitsgemäß erscheinen würden;
(61) "weitverbreiteter Verstoß": jede Handlung oder Unterlassung, die gegen das Unionsrecht zum Schutz der Interessen Einzelner verstößt und die:
(a) die kollektiven Interessen von Einzelpersonen, die in mindestens zwei anderen Mitgliedstaaten als dem Mitgliedstaat, in dem sie wohnen, ansässig sind, geschädigt hat oder zu schädigen droht:
(i) die Handlung oder Unterlassung ihren Ursprung hat oder stattgefunden hat;
(ii) der betreffende Dienstleistungserbringer oder gegebenenfalls sein bevollmächtigter Vertreter ansässig oder niedergelassen ist; oder
(iii) der Einsatzbetrieb wird festgestellt, wenn der Verstoß vom Einsatzbetrieb begangen wird;
(b) die kollektiven Interessen von Einzelpersonen geschädigt hat, schädigt oder schädigen kann und gemeinsame Merkmale aufweist, einschließlich derselben rechtswidrigen Praxis oder desselben verletzten Interesses, und die von demselben Betreiber in mindestens drei Mitgliedstaaten gleichzeitig begangen wird;
(62) "kritische Infrastrukturen": kritische Infrastrukturen gemäß der Definition in Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557;
(63) "universell einsetzbares KI-Modell": ein KI-Modell, auch wenn es mit einer großen Datenmenge unter Verwendung von Selbstüberwachung in großem Maßstab trainiert wurde, das eine erhebliche Allgemeinheit aufweist und in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen, unabhängig davon, wie das Modell auf den Markt gebracht wird, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, mit Ausnahme von KI-Modellen, die für Forschungs-, Entwicklungs- oder Prototyping-Aktivitäten verwendet werden, bevor sie auf den Markt gebracht werden; siehe: Erwägungsgründe 97, 98 und 99
(64) "hochwirksame Fähigkeiten": Fähigkeiten, die mit den fortschrittlichsten KI-Modellen für allgemeine Zwecke übereinstimmen oder diese übertreffen; verwandt: Erwägungsgrund 110
(65) "Systemrisiko": ein Risiko, das spezifisch für die hochwirksamen Fähigkeiten von KI-Modellen für allgemeine Zwecke ist und aufgrund ihrer Reichweite oder aufgrund tatsächlicher oder vernünftigerweise vorhersehbarer negativer Auswirkungen auf die öffentliche Gesundheit, die öffentliche Sicherheit, die Grundrechte oder die Gesellschaft als Ganzes erhebliche Auswirkungen auf den Unionsmarkt hat und sich in großem Umfang über die gesamte Wertschöpfungskette ausbreiten kann : Erwägungsgrund 110
(66. "KI-System für allgemeine Zwecke": ein KI-System, das auf einem KI-Modell für allgemeine Zwecke basiert und das für eine Vielzahl von Zwecken eingesetzt werden kann, sowohl für den direkten Gebrauch als auch für die Integration in andere KI-Systeme; verwandt: Erwägungsgrund 100
(67) "Gleitkommaoperation": jede mathematische Operation oder Zuweisung, die Gleitkommazahlen betrifft, die eine Teilmenge der reellen Zahlen sind, die auf Computern typischerweise durch eine ganze Zahl mit fester Genauigkeit, skaliert durch einen ganzzahligen Exponenten mit fester Basis, dargestellt werden : Erwägungsgrund 110
(68) "nachgeschalteter Anbieter": ein Anbieter eines KI-Systems, einschließlich eines KI-Systems für allgemeine Zwecke, in das ein KI-Modell integriert ist, unabhängig davon, ob das KI-Modell von ihm selbst bereitgestellt und vertikal integriert ist oder von einem anderen Unternehmen auf der Grundlage vertraglicher Beziehungen bereitgestellt wird.