1. Einleitung Die Konformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Unterlagen ist das Konformitätsbewertungsverfahren auf der Grundlage der Nummern 2 bis 5.
2. Überblick Das genehmigte Qualitätsmanagementsystem für den Entwurf, die Entwicklung und die Prüfung von AI-Systemen gemäß Artikel 17 wird gemäß Nummer 3 geprüft und unterliegt der Überwachung gemäß Nummer 5. Die technischen Unterlagen des AI-Systems werden gemäß Nummer 4 geprüft.
3. Qualitätsmanagementsystem
3.1. Der Antrag des Anbieters muss Folgendes enthalten:
(a) Name und Anschrift des Dienstleistungserbringers und, falls der Antrag von einem Bevollmächtigten eingereicht wird, auch dessen Name und Anschrift;
(b) die Liste der unter dasselbe Qualitätsmanagementsystem fallenden AI-Systeme;
(c) die technischen Unterlagen für jedes KI-System, das unter dasselbe Qualitätsmanagementsystem fällt;
(d) die Unterlagen über das Qualitätssicherungssystem, die alle in Artikel 17 aufgeführten Aspekte abdecken müssen;
(e) eine Beschreibung der Verfahren, mit denen sichergestellt wird, dass das Qualitätsmanagementsystem angemessen und wirksam bleibt;
(f) eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen benannten Stelle eingereicht worden ist.
3.2. Das Qualitätsmanagementsystem wird von der benannten Stelle bewertet, die feststellt, ob es die in Artikel 17 genannten Anforderungen erfüllt. Die Entscheidung wird dem Dienstleistungserbringer oder seinem Bevollmächtigten mitgeteilt. Die Mitteilung enthält die Schlussfolgerungen aus der Bewertung des Qualitätsmanagementsystems und die Begründung der Bewertungsentscheidung.
3.3. Das Qualitätsmanagementsystem in seiner genehmigten Form ist vom Dienstleistungserbringer weiterhin umzusetzen und aufrechtzuerhalten, damit es angemessen und effizient bleibt.
3.4. Jede beabsichtigte Änderung des zugelassenen Qualitätssicherungssystems oder des Verzeichnisses der unter dieses System fallenden AI-Systeme ist der benannten Stelle vom Anbieter mitzuteilen. Die benannte Stelle prüft die geplanten Änderungen und entscheidet, ob das geänderte Qualitätssicherungssystem weiterhin die in Nummer 3.2 genannten Anforderungen erfüllt oder ob eine erneute Bewertung erforderlich ist. Die benannte Stelle teilt dem Anbieter ihre Entscheidung mit. Die Mitteilung enthält die Ergebnisse der Prüfung der Änderungen und die begründete Entscheidung über die Bewertung.
4. Kontrolle der technischen Dokumentation.
4.1. Zusätzlich zu dem Antrag gemäß Nummer 3 stellt der Anbieter bei einer benannten Stelle seiner Wahl einen Antrag auf Bewertung der technischen Unterlagen für das KI-System, das er in Verkehr bringen oder in Betrieb nehmen will und das unter das Qualitätsmanagementsystem gemäß Nummer 3 fällt.
4.2. Der Antrag muss Folgendes enthalten:
(a) den Namen und die Anschrift des Anbieters;
(b) eine schriftliche Erklärung, dass derselbe Antrag bei keiner anderen benannten Stelle eingereicht worden ist;
(c) die in Anhang IV genannten technischen Unterlagen.
4.3. Die technische Dokumentation ist von der benannten Stelle zu prüfen. Gegebenenfalls wird der benannten Stelle, beschränkt auf das zur Erfüllung ihrer Aufgaben erforderliche Maß, uneingeschränkter Zugang zu den verwendeten Schulungs-, Validierungs- und Testdatensätzen gewährt, gegebenenfalls und vorbehaltlich von Sicherheitsvorkehrungen auch über API oder andere einschlägige technische Mittel und Werkzeuge, die einen Fernzugriff ermöglichen.
4.4. Bei der Prüfung der technischen Unterlagen kann die benannte Stelle verlangen, dass der Anbieter weitere Nachweise vorlegt oder weitere Prüfungen durchführt, damit die Konformität des AI-Systems mit den Anforderungen in Kapitel III Abschnitt 2 ordnungsgemäß bewertet werden kann. Ist die benannte Stelle mit den vom Leistungserbringer durchgeführten Prüfungen nicht zufrieden, so führt sie gegebenenfalls selbst unmittelbar angemessene Prüfungen durch.
4.5. Sofern dies zur Bewertung der Konformität des Hochrisiko-KI-Systems mit den Anforderungen gemäß Kapitel III Abschnitt 2 erforderlich ist, wird der benannten Stelle, nachdem alle anderen angemessenen Mittel zur Überprüfung der Konformität ausgeschöpft wurden und sich als unzureichend erwiesen haben, auf begründeten Antrag auch Zugang zu den Schulungs- und Trainingsmodellen des KI-Systems, einschließlich seiner relevanten Parameter, gewährt. Dieser Zugang unterliegt dem geltenden Unionsrecht zum Schutz des geistigen Eigentums und von Geschäftsgeheimnissen.
4.6. Die Entscheidung der benannten Stelle wird dem Dienstleistungserbringer oder seinem Bevollmächtigten mitgeteilt. Die Notifizierung enthält die Schlussfolgerungen aus der Bewertung der technischen Unterlagen und die Begründung der Bewertungsentscheidung. Entspricht das AI-System den Anforderungen von Kapitel III Abschnitt 2, so stellt die benannte Stelle eine Unionsbescheinigung über die Bewertung der technischen Dokumentation aus. Diese Bescheinigung enthält den Namen und die Anschrift des Anbieters, die Ergebnisse der Prüfung, etwaige Bedingungen für die Gültigkeit der Bescheinigung und die für die Identifizierung des KI-Systems erforderlichen Angaben. Die Bescheinigung und ihre Anhänge enthalten alle zweckdienlichen Angaben, anhand deren sich die Konformität des AI-Systems beurteilen lässt und die gegebenenfalls eine Kontrolle des AI-Systems während des Betriebs ermöglichen. Entspricht das AI-System nicht den Anforderungen von Kapitel III Abschnitt 2, verweigert die notifizierte Stelle die Ausstellung einer Unionsbescheinigung für die Bewertung der technischen Dokumentation und unterrichtet den Antragsteller darüber, wobei sie ihre Weigerung ausführlich begründet. Erfüllt das KI-System die Anforderungen in Bezug auf die für seine Schulung verwendeten Daten nicht, muss das KI-System vor der Beantragung einer neuen Konformitätsbewertung neu geschult werden. In diesem Fall enthält die begründete Bewertungsentscheidung der notifizierten Stelle, mit der die Ausstellung der Unionsbescheinigung für die Bewertung der technischen Dokumentation verweigert wird, besondere Erwägungen zu den Qualitätsdaten, die für die Schulung des KI-Systems verwendet wurden, insbesondere zu den Gründen für die Nichtkonformität.
4.7. Jede Änderung am AI-System, die die Konformität des AI-Systems mit den Anforderungen oder seiner Zweckbestimmung beeinträchtigen könnte, wird von der notifizierten Stelle bewertet, die die Unionsbescheinigung über die Bewertung der technischen Unterlagen ausgestellt hat. Der Anbieter unterrichtet diese notifizierte Stelle, wenn er beabsichtigt, eine der oben genannten Änderungen vorzunehmen, oder wenn er anderweitig Kenntnis von solchen Änderungen erhält. Die benannte Stelle prüft die geplanten Änderungen und entscheidet, ob diese Änderungen eine neue Konformitätsbewertung gemäß Artikel 43 Absatz 4 erfordern oder ob sie durch einen Nachtrag zur Unionsbescheinigung über die Bewertung der technischen Dokumentation berücksichtigt werden können. Im letzteren Fall bewertet die notifizierte Stelle die Änderungen, teilt dem Anbieter ihre Entscheidung mit und stellt ihm, falls die Änderungen genehmigt werden, einen Nachtrag zur Unionsbescheinigung über die Bewertung der technischen Dokumentation aus.
5. Überwachung des genehmigten Qualitätsmanagementsystems.
5.1. Die Überwachung durch die in Nummer 3 genannte benannte Stelle soll sicherstellen, dass der Dienstleistungserbringer die Bedingungen des zugelassenen Qualitätssicherungssystems ordnungsgemäß erfüllt.
5.2. Der Anbieter gewährt der benannten Stelle zu Bewertungszwecken Zugang zu den Räumlichkeiten, in denen der Entwurf, die Entwicklung und die Prüfung der KI-Systeme stattfinden. Der Anbieter stellt der benannten Stelle außerdem alle erforderlichen Informationen zur Verfügung.
5.3. Die notifizierte Stelle führt regelmäßig Audits durch, um sicherzustellen, dass der Anbieter das Qualitätsmanagementsystem aufrechterhält und anwendet, und übergibt ihm einen Auditbericht. Im Rahmen dieser Audits kann die notifizierte Stelle zusätzliche Prüfungen der AI-Systeme durchführen, für die eine Unionsbescheinigung über die Bewertung der technischen Dokumentation ausgestellt wurde.