Erwägungsgrund 111

Es ist angebracht, eine Methodik für die Einstufung von KI-Modellen für allgemeine Zwecke als KI-Modelle für allgemeine Zwecke mit Systemrisiken festzulegen. Da systemische Risiken aus besonders hohen Fähigkeiten resultieren, sollte ein KI-Allzweckmodell als systemisch risikobehaftet angesehen werden, wenn es über Fähigkeiten mit großer Wirkung verfügt, die auf der Grundlage geeigneter technischer Instrumente und Methoden bewertet werden, oder wenn es aufgrund seiner Reichweite erhebliche Auswirkungen auf den Binnenmarkt hat. Unter hochwirksamen Fähigkeiten bei KI-Modellen für allgemeine Zwecke sind Fähigkeiten zu verstehen, die den Fähigkeiten der fortschrittlichsten KI-Modelle für allgemeine Zwecke entsprechen oder diese übertreffen. Das gesamte Spektrum der Fähigkeiten eines Modells kann besser verstanden werden, nachdem es auf den Markt gebracht wurde oder wenn Anwender mit dem Modell interagieren. Nach dem Stand der Technik zum Zeitpunkt des Inkrafttretens dieser Verordnung ist der kumulative Rechenaufwand für das Training des Mehrzweck-KI-Modells, gemessen in Gleitkommaoperationen, einer der relevanten Näherungswerte für die Modellfähigkeiten. Der kumulative Rechenaufwand für das Training umfasst den Rechenaufwand für alle Aktivitäten und Methoden, mit denen die Fähigkeiten des Modells vor dem Einsatz verbessert werden sollen, z. B. Pre-Training, Erzeugung synthetischer Daten und Feinabstimmung. Daher sollte ein anfänglicher Schwellenwert für Gleitkommaoperationen festgelegt werden, der, wenn er von einem universellen KI-Modell erreicht wird, zu der Annahme führt, dass das Modell ein universelles KI-Modell mit systemischen Risiken ist. Dieser Schwellenwert sollte im Laufe der Zeit angepasst werden, um technologischen und industriellen Veränderungen Rechnung zu tragen, wie z. B. Verbesserungen der Algorithmen oder höhere Effizienz der Hardware, und er sollte durch Benchmarks und Indikatoren für die Modellfähigkeit ergänzt werden. Zu diesem Zweck sollte das Amt für Künstliche Intelligenz mit Wissenschaftlern, der Industrie, der Zivilgesellschaft und anderen Experten zusammenarbeiten. Schwellenwerte sowie Werkzeuge und Benchmarks für die Bewertung von Fähigkeiten mit großer Wirkung sollten starke Prädiktoren für die Allgemeinheit, die Fähigkeiten und das damit verbundene systemische Risiko von KI-Modellen für allgemeine Zwecke sein und könnten die Art und Weise, wie das Modell auf den Markt gebracht wird, oder die Anzahl der Nutzer, die es betreffen könnte, berücksichtigen. Ergänzend zu diesem System sollte die Kommission die Möglichkeit haben, Einzelentscheidungen zu treffen, mit denen ein KI-Allzweckmodell als KI-Allzweckmodell mit Systemrisiko eingestuft wird, wenn festgestellt wird, dass dieses Modell über Fähigkeiten oder Auswirkungen verfügt, die denen entsprechen, die durch den festgelegten Schwellenwert erfasst werden. Diese Entscheidung sollte auf der Grundlage einer Gesamtbewertung der Kriterien für die Einstufung eines KI-Allzweckmodells mit Systemrisiko getroffen werden, die in einem Anhang zu dieser Verordnung aufgeführt sind, wie z. B. Qualität oder Größe des Trainingsdatensatzes, Anzahl der Geschäfts- und Endnutzer, seine Eingabe- und Ausgabemodalitäten, sein Grad an Autonomie und Skalierbarkeit oder die Werkzeuge, zu denen es Zugang hat. Auf begründeten Antrag eines Anbieters, dessen Modell als KI-Allzweckmodell mit Systemrisiko eingestuft wurde, sollte die Kommission den Antrag berücksichtigen und kann beschließen, neu zu bewerten, ob das KI-Allzweckmodell weiterhin als systemrelevant angesehen werden kann.