Das Future of Life Institute (FLI), eine unabhängige gemeinnützige Organisation mit dem Ziel, den Nutzen der Technologie zu maximieren und die damit verbundenen Risiken zu verringern, hat der Europäischen Kommission seine Empfehlungen für das EU-KI-Gesetz mitgeteilt. Es argumentiert, dass das Gesetz sicherstellen sollte, dass KI-Anbieter die Auswirkungen ihrer Anwendungen auf die Gesellschaft als Ganzes und nicht nur auf den Einzelnen berücksichtigen. KI-Anwendungen, die dem Einzelnen nur geringfügigen Schaden zufügen, könnten auf gesellschaftlicher Ebene erheblichen Schaden anrichten. So könnte beispielsweise eine Marketing-Anwendung, die das Wahlverhalten der Bürger beeinflussen soll, die Wahlergebnisse beeinflussen. Lesen Sie hier mehr über die Empfehlungen.   

Das Leverhulme Centre for the Future of Intelligence und das Centre for the Study of Existential Risk, zwei führende Einrichtungen der Universität Cambridge, haben der Europäischen Kommission ihr Feedback zum vorgeschlagenen EU-KI-Gesetz übermittelt. Sie hoffen, dass das Gesetz dazu beitragen wird, international Standards für die Ermöglichung der Vorteile und die Verringerung der Risiken der KI zu setzen. Eine ihrer Empfehlungen lautet, dass Änderungen an der Liste der beschränkten und risikoreichen Systeme vorgeschlagen werden können, um die Flexibilität der Verordnung zu erhöhen. Lesen Sie die vollständige Argumentation hier.

Access Now, eine Organisation, die die digitalen Rechte gefährdeter Nutzer verteidigt und ausweitet, hat ebenfalls eine Stellungnahme zum EU-KI-Gesetz abgegeben. Sie befürchtet, dass das Gesetz in seiner jetzigen Form das Ziel des Schutzes der Grundrechte verfehlen würde. Insbesondere ist er der Meinung, dass der Vorschlag nicht weit genug geht, um die Grundrechte in Bezug auf biometrische Anwendungen wie Emotionserkennung und KI-Polygraphen zu schützen. Der aktuelle Entwurf des KI-Gesetzes spricht sich für Transparenzpflichten für diese Anwendungen aus, doch Access Now empfiehlt stärkere Maßnahmen zur Verringerung aller damit verbundenen Risiken, wie etwa Verbote. Lesen Sie seine konkreten Vorschläge hier.

Michael Veale, Assistenzprofessor am University College London für digitale Rechte und Regulierung, und Frederik Zuiderveen Borgesius, Professor für IKT und Privatrecht an der niederländischen Radboud-Universität, liefern eine gründliche Analyse einiger der heikelsten Teile des EU-KI-Gesetzes. Eine der vielen überraschenden Erkenntnisse ihres Artikels ist, dass die Einhaltung des Gesetzes fast vollständig von einer Selbsteinschätzung abhängt. Selbsteinschätzung bedeutet, dass es keinen Zwang zur Einhaltung des Gesetzes gibt. Sobald Normungsgremien wie CEN und CENELEC ihre Normen veröffentlicht haben, ist eine Überprüfung der Einhaltung des Gesetzes durch Dritte nicht mehr erforderlich. Der vollständige Artikel ist hier zu finden.

Die Future Society, eine in Estland eingetragene gemeinnützige Organisation, die sich für den verantwortungsvollen Einsatz von KI zum Wohle der Menschheit einsetzt, hat der Europäischen Kommission ihr Feedback zum EU-KI-Gesetz vorgelegt. Einer ihrer Vorschläge ist es, sicherzustellen, dass die Verwaltung weiterhin auf technologische Trends reagiert. Dies könnte durch die Verbesserung des Informationsflusses zwischen nationalen und europäischen Institutionen sowie durch die systematische Zusammenstellung und Analyse von Berichten über Vorfälle aus den Mitgliedsstaaten erreicht werden. Lesen Sie das vollständige Feedback hier.

Nathalie A. Smuha, wissenschaftliche Mitarbeiterin an der juristischen Fakultät der KU Leuven, Emma Ahmed-Rengers, Doktorandin in Recht und Informatik an der Universität Birmingham, und Kollegen argumentieren, dass das EU-KI-Gesetz die mit verschiedenen Arten von KI-Systemen verbundenen Ungerechtigkeiten und Schäden nicht immer richtig erkennt und die Verantwortung dafür nicht angemessen zuweist. Sie stellen außerdem fest, dass der Vorschlag keinen wirksamen Rahmen für die Durchsetzung von Rechten und Pflichten bietet. Der Vorschlag vernachlässigt es, sinnvolle Transparenz, Rechenschaftspflicht und das Recht auf Beteiligung der Öffentlichkeit zu gewährleisten. Lesen Sie den vollständigen Artikel hier.

Die European DIGITAL SME Alliance, ein Netzwerk kleiner und mittlerer IKT-Unternehmen (KMU) in Europa, begrüßt eine harmonisierte KI-Verordnung und die Konzentration auf ethische KI in der EU, schlägt jedoch zahlreiche Verbesserungen vor, um eine Überlastung der KMU zu vermeiden. So fordert es beispielsweise, dass die KMU überall dort, wo Konformitätsbewertungen auf Normen beruhen, aktiv an der Entwicklung dieser Normen mitwirken sollten. Andernfalls könnten die Normen in einer Weise verfasst werden, die für KMU unpraktisch ist. Viele weitere Empfehlungen können hier nachgelesen werden.

Das Center for Data Innovation, eine gemeinnützige Organisation, die sich mit datengesteuerter Innovation befasst, hat einen Bericht veröffentlicht, in dem behauptet wird, dass das KI-Gesetz der EU in den nächsten fünf Jahren 31Milliarden Eurokosten und die KI-Investitionen um fast 20 % reduzieren wird. Die Unternehmerin Meeri Haataja und die Akademikerin Joanna Bryson veröffentlichten ihre eigene Studie, in der sie schreiben, dass es wahrscheinlich viel billiger sein wird, da die Verordnung nur einen kleinen Teil der als risikoreich geltenden KI-Anwendungen abdeckt. Darüber hinaus berücksichtigt die Kostenanalyse nicht alle Vorteile der Regulierung für die Öffentlichkeit. Schließlich veröffentlichte CEPS, eine Denkfabrik und ein Forum für Debatten über EU-Angelegenheiten, seine eigenen Analysen der Kostenschätzungen und kam zu einem ähnlichen Ergebnis wie Haataja und Bryson.  

Nathalie Smuha unterscheidet im Zusammenhang mit dem AI-Gesetz zwischen gesellschaftlichem Schaden und individuellem Schaden. Beim gesellschaftlichen Schaden geht es nicht um die Interessen eines bestimmten Individuums, sondern um den Schaden für die Gesellschaft als Ganzes, der über die Summe der individuellen Interessen hinausgeht. Sie stellt fest, dass der Vorschlag nach wie vor von Bedenken geprägt ist, die sich fast ausschließlich auf individuelle Schäden beziehen, und die Notwendigkeit des Schutzes vor gesellschaftlichen Schäden durch KI zu übersehen scheint. Das vollständige Papier kann hier gelesen werden.

Forscher der Oxford Information Labs erörtern, welche Rolle das EU-KI-Gesetz den Normen für KI zuweist. Der wichtigste Punkt, den sie anführen, ist, dass die Konformität mit harmonisierten Normen eine Konformitätsvermutung für KI-Anwendungen und -Dienste mit hohem Risiko schaffen wird. Dies wiederum kann das Vertrauen stärken, dass sie die komplexen Anforderungen der vorgeschlagenen Verordnung erfüllen, und starke Anreize für die Industrie schaffen, die europäischen Normen einzuhalten. Die ausführliche Analyse der Rolle von Normen in der EU-KI-Verordnung finden Sie hier.