Um den Prozess der Entwicklung und des Inverkehrbringens der in einem Anhang zu dieser Verordnung aufgeführten Hochrisiko-KI-Systeme zu beschleunigen, ist es wichtig, dass Anbieter oder potenzielle Anbieter solcher Systeme auch von einer speziellen Regelung für die Erprobung dieser Systeme unter realen Bedingungen profitieren können, ohne an einer KI-Sandbox teilnehmen zu müssen. In solchen Fällen sollte jedoch unter Berücksichtigung der möglichen Folgen solcher Tests für Einzelpersonen sichergestellt werden, dass mit dieser Verordnung angemessene und ausreichende Garantien und Bedingungen für Anbieter oder potenzielle Anbieter eingeführt werden. Zu diesen Garantien sollte unter anderem gehören, dass die Einwilligung natürlicher Personen in Kenntnis der Sachlage zur Teilnahme an Tests unter realen Bedingungen eingeholt wird, mit Ausnahme von Strafverfolgungsbehörden, bei denen die Einholung der Einwilligung in Kenntnis der Sachlage die Erprobung des KI-Systems verhindern würde. Die Einwilligung der betroffenen Personen in die Teilnahme an solchen Tests im Rahmen dieser Verordnung unterscheidet sich von der Einwilligung der betroffenen Personen in die Verarbeitung ihrer personenbezogenen Daten nach dem einschlägigen Datenschutzrecht und lässt diese unberührt. Es ist auch wichtig, die Risiken zu minimieren und die Aufsicht durch die zuständigen Behörden zu ermöglichen; daher müssen die potenziellen Anbieter der zuständigen Marktaufsichtsbehörde einen Plan für die Durchführung von Praxistests vorlegen, die Tests vorbehaltlich einiger begrenzter Ausnahmen in speziellen Abschnitten der EU-Datenbank registrieren, den Zeitraum, in dem die Tests durchgeführt werden können, begrenzen und zusätzliche Schutzmaßnahmen für Personen, die bestimmten schutzbedürftigen Gruppen angehören, sowie eine schriftliche Vereinbarung vorschreiben, in der die Aufgaben und Zuständigkeiten der potenziellen Anbieter und der Bereitsteller sowie eine wirksame Aufsicht durch das an den Praxistests beteiligte Fachpersonal festgelegt sind. Darüber hinaus sollten zusätzliche Garantien vorgesehen werden, um sicherzustellen, dass die Vorhersagen, Empfehlungen oder Entscheidungen des KI-Systems wirksam rückgängig gemacht und missachtet werden können und dass personenbezogene Daten geschützt und gelöscht werden, wenn die betroffenen Personen ihre Zustimmung zur Teilnahme an den Tests zurückgezogen haben, ohne dass ihre Rechte als betroffene Personen nach dem Datenschutzrecht der Union beeinträchtigt werden. Was die Übermittlung von Daten anbelangt, so sollte auch vorgesehen werden, dass Daten, die zu Testzwecken unter realen Bedingungen erhoben und verarbeitet werden, nur dann an Drittländer übermittelt werden sollten, wenn geeignete und anwendbare Garantien nach dem Unionsrecht umgesetzt werden, insbesondere im Einklang mit den Grundlagen für die Übermittlung personenbezogener Daten nach dem Unionsrecht zum Datenschutz, während für nicht personenbezogene Daten geeignete Garantien im Einklang mit dem Unionsrecht, wie den Verordnungen (EU) 2022/868[42] und (EU) 2023/2854[43] des Europäischen Parlaments und des Rates, eingeführt werden.
[42] Verordnung (EU) 2022/868 des Europäischen Parlaments und des Rates vom 30. Mai 2022 zur europäischen Data Governance und zur Änderung der Verordnung (EU) 2018/1724 (Data Governance Act) (ABl. L 152 vom 3.6.2022, S. 1).
[43] Verordnung (EU) 2023/2854 des Europäischen Parlaments und des Rates vom 13. Dezember 2023 über harmonisierte Vorschriften für einen fairen Zugang zu Daten und deren Nutzung sowie zur Änderung der Verordnung (EU) 2017/2394 und der Richtlinie (EU) 2020/1828 (Datenschutzgesetz) (ABl. L, 2023/2854 vom 22.12.2023, ELI: http://data.europa.eu/eli/reg/2023/2854/oj).