Warum im EU-AI-Büro arbeiten?

Warum beim EU-AI-Büro arbeiten? Es ist wahrscheinlich nicht für jeden etwas, aber es gibt eine Menge guter Gründe, die dafür sprechen.

Die Aufgaben, Befugnisse und Zuständigkeiten des AI-Büros im Detail

Übersicht

• Die Europäische Kommission hat das EU-KI-Büro innerhalb der Generaldirektion CONNECT, Direktion A, eingerichtet, um die Anforderungen des KI-Gesetzes an KI-Modelle für allgemeine Zwecke (und Systeme, die nutzerorientierte Anwendung, wenn es sich um denselben Anbieter wie das Modell handelt) in der gesamten EU zu überwachen, zu kontrollieren und durchzusetzen.
• Das Amt für künstliche Intelligenz wird 140 Mitarbeiter haben, darunter 60 aktuelle Kommissionsmitarbeiter. Man hofft, die restlichen 80 Stellen bis Ende 2025 besetzen zu können. Weitere Technologiespezialisten, Juristen, Wirtschaftswissenschaftler und Verwaltungsangestellte werden in den kommenden Wochen und Monaten eingestellt.
• Das AI-Büro wird:
  • Analyse und Sensibilisierung für neu auftretende Risiken bei der Entwicklung und Einführung von GPAI.
  • Durchführung von Modellevaluierungen.
  • Untersuchen Sie Verstöße.
  • Erstellung von freiwilligen Verhaltenskodizes für Modellanbieter.
  • Leitung der internationalen Zusammenarbeit im Bereich der KI-Governance. 
  • Stärkung der Netzwerke zwischen der Kommission, den Instituten für AI-Sicherheit in anderen Ländern und der weltweiten wissenschaftlichen Gemeinschaft, u. a. durch das wissenschaftliche Gremium unabhängiger Sachverständiger der EU. 
  • Unterstützung der Zusammenarbeit der Mitgliedstaaten bei der Strafverfolgung und bei gemeinsamen Ermittlungen.
  • Unterstützung der Kommission bei der Vorbereitung verbindlicher Entscheidungen und sekundärer Rechtsvorschriften im Zusammenhang mit dem AI-Gesetz.

Struktur

Das KI-Gesetz ist weltweit die erste horizontale strenge Regelung dieser Art. Im Gegensatz zu anderen KI-Sicherheitsinstituten, etwa in den USA und im Vereinigten Königreich, verfügt das KI-Büro über Durchsetzungsbefugnisse, um Anbieter, die gegen die Vorschriften verstoßen, zu Abhilfemaßnahmen zu zwingen. Seine umfassenderen Befugnisse spiegeln sich in seiner Struktur wider:

• Leiterin des Büros: Lucilla Sioli
• 5 Einheiten:
  • Exzellenz in KI und Robotik:
    • Unter der Leitung von Cecile Huet.
    • Dieses Team wird sich auf Forschung und Entwicklung sowie auf die Schnittstelle zwischen Software und Hardware konzentrieren.  
  • Regulierung und Compliance:
    • Unter der Leitung von Kilian Gross. 
    • Dieses Team wird eng mit den Mitgliedstaaten zusammenarbeiten, um eine kohärente Anwendung des AI-Gesetzes in der gesamten EU sicherzustellen. 
  • AI-Sicherheit:
    • Der Leiter wurde noch nicht ernannt.
    • Dieses Team wird sich auf Modellevaluierungen für GPAI-Modelle mit systemischen Risiken konzentrieren und mit der Industrie und anderen Interessengruppen zusammenarbeiten, um systemische Risiken und geeignete Abhilfemaßnahmen zu ermitteln. 
  • KI-Innovation und politische Koordinierung:
    • Unter der Leitung von Malgorzata Nikowska. 
    • Dieses Team wird Trends und Investitionen zur Förderung der Innovation beobachten.
  • KI für das Gemeinwohl:
    • Unter der Leitung von Martin Bailey.
    • Dieses Team wird sich auf nützliche Anwendungen konzentrieren, wie Wettermodelle, Krebsdiagnosen und digitale Zwillinge für die Rekonstruktion.
• 2 Berater:
  • Der federführende wissenschaftliche Berater muss noch ernannt werden, wird sich aber auf das Fachwissen für die Überwachung des GPAI-Modells konzentrieren. 
  • Juha Heikkilä, der Berater für internationale Angelegenheiten, wird das AI-Büro in globalen Gesprächen über die Konvergenz zu gemeinsamen Ansätzen vertreten. 

Zugang zu Modellen für Bewertungen 

• Das AI-Büro kann von den GPAI-Modellanbietern Unterlagen und Bewertungsergebnisse anfordern, um die Einhaltung der Vorschriften zu überprüfen. 
• Ist sie unzureichend, kann sie einen strukturierten Dialog einleiten, um mehr Informationen über interne Tests, Schutzmaßnahmen gegen Systemrisiken und Maßnahmen zur Minderung von Systemrisiken zu sammeln.
• Falls dies nicht ausreicht, kann sie Modellevaluierungen durchführen, um die Einhaltung der Vorschriften zu bewerten, oder systemische Risiken untersuchen, insbesondere nach einer qualifizierten Warnung des wissenschaftlichen Gremiums, aber auch nach einer entsprechenden Meldung eines nachgeschalteten Anwenders.
• Gegen Anbieter, die den Zugang nicht gewähren, können Geldstrafen verhängt werden. 
• Das Amt für künstliche Intelligenz kann Anbieter auch auffordern, Korrekturmaßnahmen zu ergreifen, Maßnahmen zur Minderung von Systemrisiken zu ergreifen oder Modelle einzuschränken, zurückzurufen oder vom Binnenmarkt zu nehmen.
• Das KI-Büro wird Instrumente, Methoden und Benchmarks für die Bewertung der Fähigkeiten von GPAI-Modellen, insbesondere von systemischen Modellen, entwickeln.

Führend bei allgemeinen KI-Normen auf globaler Ebene durch die Verhaltenskodizes

• Bis April 2025 wird das Amt für künstliche Intelligenz Verhaltenskodizes entwickeln, in denen festgelegt wird, wie Entwickler von GPAI-Modellen ihre Anforderungen im Rahmen der Verordnung umsetzen können. 
• Alle GPAI-Modellanbieter können die Einhaltung ihrer Verpflichtungen nachweisen, indem sie sich freiwillig an die Verhaltenskodizes halten, bis harmonisierte europäische Normen veröffentlicht werden, deren Einhaltung ebenfalls zur Konformitätsvermutung führt. 
• Zur Ausarbeitung der Verhaltenskodizes kann das AI-Büro Anbieter von GPAI-Modellen, die jeweils zuständigen nationalen Behörden, die Zivilgesellschaft, die Industrie, die Wissenschaft, nachgeschaltete Anbieter und unabhängige Experten konsultieren.

Die Verhaltenskodizes werden Folgendes umfassen:

• Modellevaluierungen, einschließlich der Durchführung und Dokumentation kontradiktorischer Tests, zur Ermittlung systemischer Risiken.
• Ermittlung von Art und Charakter der Systemrisiken auf EU-Ebene, einschließlich ihrer Quellen.
• Maßnahmen, Verfahren und Modalitäten für die Bewertung, Steuerung und Dokumentation systemischer Risiken, die in einem angemessenen Verhältnis zu ihrer Schwere und Wahrscheinlichkeit stehen, sowie für die Berücksichtigung ihrer Auswirkungen auf die gesamte Wertschöpfungskette. 
• Verfolgung, Dokumentation und Meldung schwerwiegender Vorfälle und möglicher Abhilfemaßnahmen.
• Sicherstellung, dass das Modell über angemessene Cybersicherheit und physische Schutzmaßnahmen verfügt. 
• Die Unterlagen, die die Entwickler dem Amt für künstliche Intelligenz und den zuständigen nationalen Behörden zur Verfügung stellen sollten, damit diese die Einhaltung der Vorschriften beurteilen können, wie z. B. die Aufgaben, die das Modell erfüllen soll, die wichtigsten Entwurfsentscheidungen, die Daten- und Archivierungsmethoden, die Richtlinien für die zulässige Nutzung usw. Bei systemischen Modellen (über 10^25 FLOPS) umfassen diese Informationen auch Bewertungsergebnisse, eine Beschreibung interner und/oder externer Gegentests, Modellanpassungen, einschließlich Anpassung und Feinabstimmung, usw.  
• Die Dokumentation, die die Entwickler ihren Kunden oder nachgeschalteten Anwendern zur Verfügung stellen sollten, um Transparenz über die Fähigkeiten und Grenzen des Modells zu gewährleisten, z. B. wie das Modell mit anderer Software interagiert, Anweisungen für die Verwendung, die technischen Mittel, wie es in Anwendungen integriert werden kann. 
• Die Kodizes werden sich auch mit der Frage befassen, wie sichergestellt werden kann, dass die oben genannten Unterlagen im Hinblick auf Markt- und Technologieentwicklungen auf dem neuesten Stand gehalten werden. 
• Richtlinien, die Entwickler einführen können, um die EU-Urheberrechtsrichtlinie zu respektieren, die es den Rechteinhabern erlaubt, sich gegen Text- und Data-Mining (TDM) ihrer Werke zu entscheiden. 
• Die Entwickler von Trainingsdaten sollten eine hinreichend detaillierte Zusammenfassung der für das Modelltraining verwendeten Inhalte veröffentlichen, die in ihrem Umfang allgemein und nicht technisch detailliert sein sollte, um den Parteien mit berechtigten Interessen die Wahrnehmung ihrer Rechte zu erleichtern, insbesondere in Bezug auf das Urheberrecht.
• Wasserzeichen-Techniken zur Kennzeichnung von KI-generierten Inhalten. 

Zusammenarbeit mit EU- und internationalen Partnern

• Das KI-Büro vertritt die Europäische Kommission in allen KI-Angelegenheiten und arbeitet mit den Behörden der Mitgliedstaaten, anderen relevanten Generaldirektionen und den Kommissionsdienststellen zusammen, insbesondere mit dem Europäischen Zentrum für Algorithmische Transparenz für die Bewertung des GPAI-Modells. 
• Sie wird die europäischen Bemühungen anführen, einen Beitrag zur internationalen Zusammenarbeit im Bereich der KI-Governance und -Sicherheit zu leisten.

Zusammenarbeit mit den wissenschaftlichen und Open-Source-Gemeinschaften

• Die Kommission wird ein wissenschaftliches Gremium unabhängiger Experten auswählen, das das AI-Büro berät und unterstützt:
  • Umsetzung und Durchsetzung von GPAI-Modellen und -Systemen. 
  • Entwicklung von Instrumenten, Methoden und Benchmarks zur Bewertung der GPAI-Fähigkeiten. 
  • Klassifizierung der verschiedenen GPAI-Modelle und -Systeme, einschließlich systemischer GPAI-Modelle.
  • Entwicklung von Tools und Vorlagen. 
• Das Gremium kann die AI-Behörde alarmieren, wenn ein GPAI-Modell den Schwellenwert für Systemrisiken erreicht oder ein Systemrisiko darstellt, ohne den Schwellenwert zu erreichen. Das AI-Büro kann dann beschließen, das Modell als solches zu bezeichnen und dem Anbieter zusätzliche Verpflichtungen aufzuerlegen. 
• Das Amt für Künstliche Intelligenz wird auch ein Forum einrichten, um mit der Open-Source-Gemeinschaft zusammenzuarbeiten und bewährte Verfahren für die sichere Nutzung und Entwicklung von Open-Source-KI-Modellen und -Systemen zu entwickeln.