Warum sollte man dem EU AI Scientific Panel beitreten?

Die Europäische Kommission hat einen Aufruf zur Einreichung von Bewerbungen für ein wissenschaftliches Gremium unabhängiger Experten veröffentlicht. Das Gremium befasst sich mit allgemeinen KI-Modellen und -Systemen. Zu seinen Aufgaben gehört die Beratung des EU-KI-Büros und der nationalen Behörden zu systemischen Risiken, Modellklassifizierung, Bewertungsmethoden und grenzüberschreitender Marktüberwachung. Darüber hinaus ist das Gremium befugt, das KI-Büro vor neu auftretenden Risiken zu warnen.

Bewerbungen sind bis zum 14. September möglich.

Warum beim Wissenschaftlichen Gremium unabhängiger Sachverständiger arbeiten?

Es gibt viele Gründe, als unabhängiger Experte in dem wissenschaftlichen Gremium mitzuwirken. Dieses Gremium wird direkt zur Durchsetzung des EU-KI-Gesetzes beitragen, des weltweit umfassendsten KI-Governance-Rahmens mit Sanktionsbefugnissen zur Gewährleistung der Sicherheit leistungsstarker KI-Technologien für allgemeine Zwecke (GPAI) auf dem größten Binnenmarkt der Welt.

• Evidenzbasierte Beratung des KI-Büros und der nationalen Behörden, um konkrete öffentliche KI-Sicherheitsmaßnahmen zu fördern und zu ermöglichen, um reale Schäden durch GPAI-Modelle und -Systeme zu verhindern und abzuschwächen.
• eine zentrale Rolle bei der Identifizierung und Bewertung von GPAI-Modellen mit großer Wirkung spielen, die aufgrund ihres Umfangs, ihrer technischen Fähigkeiten oder ihrer weitreichenden gesellschaftlichen Auswirkungen eine verstärkte Aufsicht verdienen.
• Steuerung des proaktiven KI-Sicherheitskonzepts der EU, um aufkommende systemische Bedrohungen durch GPAI-Modelle anzugehen, noch bevor formale regulatorische Schwellenwerte erreicht werden.
• Gestaltung der Governance und des technischen Verständnisses der EU in Bezug auf die sich rasch entwickelnden GPAI-Fähigkeiten und die damit verbundenen systemischen Risiken als Grundlage für politische Lehren und künftige Regulierungsansätze in Europa und darüber hinaus. 
• Beitrag zur Entwicklung von Benchmarks, Werkzeugen und Methoden, die EU-Standards für KI-Sicherheit, Robustheit und Einhaltung von Vorschriften setzen.
• Gewinnen Sie professionelle Anerkennung und Sichtbarkeit als vertrauenswürdiger Berater, während Sie Einfluss auf die Entwicklung, den Einsatz und die Auswirkungen fortschrittlicher GPAI in Europa nehmen.
• Arbeiten Sie in einem hochrangigen, multidisziplinären Umfeld mit und an der Seite von Top-Experten aus der gesamten EU und darüber hinaus.
• eine auftragsorientierte Arbeit im öffentlichen Interesse zu leisten, die die verantwortungsvolle und sichere Entwicklung und Einführung von KI-Technologien in ganz Europa fördert.

Aufgaben, Befugnisse und Zuständigkeiten des wissenschaftlichen Gremiums im Einzelnen

Übersicht 

Das wissenschaftliche Gremium, das durch das EU-KI-Gesetz(Artikel 68 Punkt 1) eingerichtet wurde, berät das KI-Büro und die nationalen Behörden bei der Durchsetzung der Anforderungen des KI-Gesetzes an KI-Modelle und -Systeme für allgemeine Zwecke. Zu den wichtigsten Aufgaben gehören:

• Entwicklung von Bewertungsinstrumenten und -methoden,
• Beratung bei der Modellklassifizierung einschließlich der Bestimmung des systemischen Risikos,
• Erstellung von Werkzeugen und Vorlagen und
• Unterstützung der Marktüberwachungsaktivitäten.

Das Gremium kann über die Kommission Informationen von Anbietern von KI-Modellen anfordern, wobei Geschäftsgeheimnisse geschützt werden, und Sachverständige der Kommission können für das KI-Büro Modellbewertungen durchführen.

Qualifizierte Ausschreibungen 

Das Gremium kann Warnungen ausgeben(Artikel 90), die Anbieter dazu verpflichten, Sicherheitsbewertungen durchzuführen und Schutzmaßnahmen zu ergreifen, wenn Modelle Risiken auf EU-Ebene verursachen, mehrere Mitgliedstaaten betreffen oder Kriterien für systemische Risiken erfüllen (die in Artikel 51 detailliert aufgeführt sind: Erfordernis von 10^25+ FLOPS zum Trainieren, Nachweis von Fähigkeiten mit hoher Auswirkung oder gleichwertige Fähigkeiten auf der Grundlage von Parametern, Größe des Datensatzes, Marktreichweite von mehr als 10.000 gewerblichen Nutzern in der EU usw.).

Warnungen bedürfen einer einfachen Mehrheitsentscheidung und müssen Kontaktinformationen des Anbieters, eine Begründung und relevante Fakten enthalten. Das AI-Büro hat zwei Wochen Zeit, um die Warnungen zu bearbeiten und kann Modelle als systemisch riskant einstufen, wodurch die Anbieter zusätzlichen Anforderungen unterliegen(Artikel 55), einschließlich Risikobewertungen, Meldung von Vorfällen und Cybersicherheitsverpflichtungen.

Struktur und Zusammensetzung 

Das Gremium setzt sich aus bis zu 60 unabhängigen Experten zusammen, deren Amtszeit zwei Jahre beträgt und verlängert werden kann. Die Ausgewogenheit zwischen den Geschlechtern und die geografische Vertretung wird dadurch gewährleistet, dass mindestens ein Experte pro EU-Mitgliedstaat und EFTA/EWR-Land (maximal drei pro Land) vertreten ist. Mindestens 80 % der Experten werden aus EU-/EFTA-/EWR-Ländern stammen.

Die Struktur umfasst ein Sekretariat zur administrativen Unterstützung, einen Vorsitzenden und einen stellvertretenden Vorsitzenden für die gesamte Amtszeit sowie bezahlte Berichterstatter und Mitarbeiter für spezifische Aufgaben. Das Gremium arbeitet transparent, indem es Fachinformationen, Stellungnahmen, Empfehlungen und Anhörungsprotokolle von Interessengruppen öffentlich zugänglich macht und gleichzeitig vertrauliche Geschäftsinformationen schützt.

Kriterien für die Auswahl

Gemäß dem AI-Gesetz müssen Experten nachweisen:

• Multidisziplinäres Fachwissen - Aktuelles wissenschaftliches, technisches oder sozio-technisches Wissen über KI-Systeme, allgemeine KI-Modelle oder KI-Auswirkungen, die für die Durchsetzung des KI-Gesetzes relevant sind;
• Unabhängigkeit - Keine Interessenkonflikte mit KI-Systemen oder Anbietern von KI-Modellen für allgemeine Zwecke;
• Unparteilichkeit und Objektivität - Fähigkeit, unvoreingenommen zu arbeiten, wie im AI-Gesetz gefordert;
• Fachliche Eignung - Fähigkeit zur sorgfältigen, genauen und objektiven Ausführung der Arbeit.

Erforderliche Fachkenntnisse

Der Ausschreibung zufolge müssen die Bewerber über fundierte Fachkenntnisse in mindestens einem Bereich verfügen:

• Modellevaluierung - Benchmarking, Red Teaming, Studien zu den Auswirkungen auf den Menschen, Einführungsevaluierungen, Bewertungen der Grundrechte, Analyse der wirtschaftlichen Auswirkungen, Vorhersage der KI-Fähigkeiten;
• Risikobewertung - Risikoidentifizierung, -analyse, -modellierung, -bewertung, Sicherheitsfälle, Risikotaxonomien für KI- und GPAI-Modelle;
• Technische Abhilfemaßnahmen - Feinabstimmung der Sicherheit, Filter, Leitplanken, Wasserzeichen, Datenverarbeitung, Risikomanagementstrategien, Skalierungsstrategien, Reaktion auf Vorfälle;
• Missbrauch und systemische Risiken - CBRN-Risiken, Manipulation der Bevölkerung, Kontrollverlust, Diskriminierung, Risiken für die öffentliche Gesundheit/Sicherheit, Grundrechtsrisiken;
• Risiken von Cyberangriffen - Ausnutzung von Schwachstellen, Zero-Day-Generierung, Social Engineering, autonome Cyberoperationen, Angriffe auf Infrastrukturen;
• Cybersicherheit - Verhinderung von Diebstahl von Modellgewichten, unbefugten Freigaben, Umgehung von Sicherheitsmaßnahmen;
• Auftauchende Risiken - Fehlausrichtung, betrügerische Verhaltensweisen, Kontrollverlust, auftauchende Fähigkeiten wie Selbstreplikation;
• Compute-Messung - Methoden zur Messung von Trainingscompute, Berichtsrahmen, Überprüfungsprotokolle.

Anforderungen an die Förderfähigkeit

• Promotion in einem einschlägigen Fachgebiet ODER gleichwertige Erfahrung;
• Nachgewiesene Berufserfahrung und wissenschaftlicher Einfluss in der KI/GPAI-Forschung oder in KI-Auswirkungsstudien;
• Nachgewiesene Unabhängigkeit von Anbietern von KI-Systemen oder GPAI-Modellen.

Dienstbezüge

Experten werden vergütet, wenn sie zum Berichterstatter oder Mitwirkenden für die Durchführung von Aufgaben ernannt werden, die vom AI-Büro angefordert wurden. Die Kommission kann den Sachverständigen im Rahmen der verfügbaren Haushaltsmittel die Reisekosten und erforderlichenfalls die Aufenthaltskosten im Zusammenhang mit den Aufgaben des Gremiums erstatten.