1. Die Erprobung von KI-Systemen mit hohem Risiko unter realen Bedingungen außerhalb der Sandkästen der KI-Regulierung kann von den in Anhang III aufgeführten Anbietern oder potenziellen Anbietern von KI-Systemen mit hohem Risiko im Einklang mit diesem Artikel und dem in diesem Artikel genannten Plan für die Erprobung unter realen Bedingungen durchgeführt werden, unbeschadet der Verbote gemäß Artikel 5. Die Kommission legt im Wege von Durchführungsrechtsakten die Einzelheiten des Plans für Praxistests fest. Diese Durchführungsrechtsakte werden nach dem in Artikel 98 Absatz 2 genannten Prüfverfahren erlassen. Dieser Absatz berührt nicht die Rechtsvorschriften der Union oder der Mitgliedstaaten über die Prüfung von KI-Systemen mit hohem Risiko unter realen Bedingungen im Zusammenhang mit Produkten, die unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallen.
2. Anbieter oder potenzielle Anbieter können die in Anhang III genannten KI-Systeme mit hohem Risiko jederzeit vor dem Inverkehrbringen oder der Inbetriebnahme des KI-Systems allein oder in Partnerschaft mit einem oder mehreren Anbietern oder potenziellen Anbietern unter realen Bedingungen testen.
3. (3) Die Erprobung von KI-Systemen mit hohem Risiko unter realen Bedingungen gemäß diesem Artikel erfolgt unbeschadet einer nach Unionsrecht oder nationalem Recht vorgeschriebenen ethischen Prüfung.
4. Anbieter oder angehende Anbieter dürfen die Tests nur dann unter realen Bedingungen durchführen, wenn alle der folgenden Bedingungen erfüllt sind:
(a) der Anbieter oder potenzielle Anbieter hat einen Plan für die Durchführung von Prüfungen unter realen Bedingungen erstellt und ihn der Marktüberwachungsbehörde des Mitgliedstaats vorgelegt, in dem die Prüfungen unter realen Bedingungen durchgeführt werden sollen;
(b) die Marktüberwachungsbehörde des Mitgliedstaats, in dem die Versuche unter realen Bedingungen durchgeführt werden sollen, hat die Versuche unter realen Bedingungen und den Plan für die Versuche unter realen Bedingungen genehmigt; hat die Marktüberwachungsbehörde nicht innerhalb von 30 Tagen geantwortet, so gelten die Versuche unter realen Bedingungen und der Plan für die Versuche unter realen Bedingungen als genehmigt; sieht das nationale Recht keine stillschweigende Genehmigung vor, so unterliegen die Versuche unter realen Bedingungen weiterhin einer Genehmigung;
(c) der Anbieter oder potenzielle Anbieter, mit Ausnahme von Anbietern oder potenziellen Anbietern von KI-Systemen mit hohem Risiko gemäß Anhang III Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement sowie von KI-Systemen mit hohem Risiko gemäß Anhang III Nummer 2, hat die Tests unter realen Bedingungen gemäß Artikel 71 Absatz 4 mit einer unionsweit einmaligen Identifikationsnummer und mit den in Anhang IX genannten Informationen registriert; der Anbieter oder künftige Anbieter von KI-Systemen mit hohem Risiko gemäß Anhang III Nummern 1, 6 und 7 in den Bereichen Strafverfolgung, Migration, Asyl und Grenzkontrollmanagement hat die Tests unter realen Bedingungen im gesicherten nichtöffentlichen Teil der EU-Datenbank gemäß Artikel 49 Absatz 4 Buchstabe d mit einer unionsweit einmaligen Identifikationsnummer und den darin genannten Informationen registriert; der Anbieter oder künftige Anbieter von KI-Systemen mit hohem Risiko gemäß Anhang III Nummer 2 hat die Tests unter realen Bedingungen gemäß Artikel 49 Absatz 5 registriert;
(d) der Anbieter oder potenzielle Anbieter, der die Prüfungen unter realen Bedingungen durchführt, ist in der Union niedergelassen oder hat einen in der Union niedergelassenen Rechtsvertreter benannt;
(e) Daten, die zum Zweck der Erprobung unter realen Bedingungen erhoben und verarbeitet werden, werden nur dann an Drittländer übermittelt, wenn angemessene und anwendbare Garantien nach dem Unionsrecht vorgesehen sind;
(f) die Prüfung unter realen Bedingungen dauert nicht länger als zur Erreichung der Ziele erforderlich, in jedem Fall aber nicht länger als sechs Monate; sie kann um einen weiteren Zeitraum von sechs Monaten verlängert werden, sofern der Dienstleistungserbringer oder der potenzielle Dienstleistungserbringer dies der Marktüberwachungsbehörde zuvor mitteilt und die Notwendigkeit einer solchen Verlängerung erläutert;
(g) die Versuchspersonen unter realen Bedingungen, die aufgrund ihres Alters oder einer Behinderung zu einer schutzbedürftigen Gruppe gehören, angemessen geschützt werden;
(h) wenn ein Anbieter oder potenzieller Anbieter die Prüfung unter realen Bedingungen in Zusammenarbeit mit einem oder mehreren Einsatzkräften oder potenziellen Einsatzkräften organisiert, wurden letztere über alle Aspekte der Prüfung, die für ihre Entscheidung zur Teilnahme relevant sind, informiert und erhielten die entsprechenden Anweisungen für die Nutzung des KI-Systems gemäß Artikel 13; der Anbieter oder potenzielle Anbieter und die Einsatzkraft oder potenzielle Einsatzkraft schließen eine Vereinbarung, in der ihre Aufgaben und Zuständigkeiten festgelegt werden, um die Einhaltung der Bestimmungen für die Prüfung unter realen Bedingungen im Rahmen dieser Verordnung und anderer geltender Rechtsvorschriften der Union und der Mitgliedstaaten sicherzustellen;
(i) Die Probanden der Tests unter realen Bedingungen haben ihre Einwilligung nach Aufklärung gemäß Artikel 61 gegeben, oder im Falle der Strafverfolgung, wenn die Einholung der Einwilligung nach Aufklärung die Erprobung des KI-Systems verhindern würde, dürfen die Tests selbst und die Ergebnisse der Tests unter realen Bedingungen keine negativen Auswirkungen auf die Probanden haben, und ihre personenbezogenen Daten werden nach Durchführung des Tests gelöscht;
(j) die Prüfung unter realen Bedingungen wird vom Anbieter oder potenziellen Anbieter sowie von den Einsatzkräften oder potenziellen Einsatzkräften durch Personen, die auf dem betreffenden Gebiet angemessen qualifiziert sind und über die für die Erfüllung ihrer Aufgaben erforderlichen Fähigkeiten, Ausbildungen und Befugnisse verfügen, wirksam beaufsichtigt;
(k) die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems können tatsächlich rückgängig gemacht und ignoriert werden.
5. Jeder Proband, der an den Tests unter realen Bedingungen teilnimmt, oder gegebenenfalls sein gesetzlich benannter Vertreter kann sich jederzeit von den Tests zurückziehen, indem er seine Einwilligung nach Aufklärung widerruft, ohne dass ihm daraus Nachteile entstehen, und kann die sofortige und dauerhafte Löschung seiner personenbezogenen Daten verlangen. Der Widerruf der in Kenntnis der Sachlage erteilten Einwilligung hat keine Auswirkungen auf die bereits durchgeführten Tätigkeiten.
6. Gemäß Artikel 75 übertragen die Mitgliedstaaten ihren Marktüberwachungsbehörden die Befugnis, von Anbietern und potenziellen Anbietern Informationen zu verlangen, unangekündigte Inspektionen aus der Ferne oder vor Ort durchzuführen und die Durchführung von Versuchen unter realen Bedingungen und die damit verbundenen Hochrisiko-KI-Systeme zu kontrollieren. Die Marktaufsichtsbehörden machen von diesen Befugnissen Gebrauch, um die sichere Entwicklung von Tests unter realen Bedingungen zu gewährleisten.
7. Jeder schwerwiegende Vorfall, der im Verlauf der Prüfungen unter realen Bedingungen festgestellt wird, ist der nationalen Marktüberwachungsbehörde gemäß Artikel 73 zu melden. Der Anbieter oder potenzielle Anbieter ergreift sofortige Abhilfemaßnahmen oder setzt andernfalls die Erprobung unter realen Bedingungen aus, bis eine solche Abhilfemaßnahme erfolgt ist, oder beendet sie anderweitig. Der Anbieter oder potenzielle Anbieter legt ein Verfahren für den unverzüglichen Rückruf des KI-Systems nach einer solchen Beendigung der Tests unter realen Bedingungen fest.
8. Die Anbieter oder potenziellen Anbieter unterrichten die nationale Marktüberwachungsbehörde des Mitgliedstaats, in dem die Versuche unter realen Bedingungen durchgeführt werden sollen, über die Aussetzung oder Beendigung der Versuche unter realen Bedingungen und über die endgültigen Ergebnisse.
9. Der Anbieter oder der potenzielle Anbieter haftet nach dem anwendbaren Haftungsrecht der Union und der Mitgliedstaaten für alle Schäden, die bei der Durchführung der Tests unter realen Bedingungen entstehen.