Digital Omnibus on AI
beta
The Digital Omnibus on AI makes targeted amendments to the AI Act, alongside Regulation (EU) 2018/1139 on aviation safety and Regulation (EU) 2023/1230 on machinery. It postpones the obligations for high-risk AI systems, prohibits AI systems generating non-consensual intimate material and child sexual abuse material, and simplifies documentation duties for SMEs and small mid-cap enterprises. It entered into force on 27 July 2026.
Language
These are the complete, official texts exactly as published in the Official Journal of the European Union. Please report issues to websites@futureoflife.org.
Artikelen 4
The main substance of the Act
Digital Omnibus on AI
Regulation (EU) 2026/1744 of the European Parliament and of the Council of 8 July 2026
HOOFDSTUK I
Wijzigingen in Verordening (EU) 2024/1689 Openen als pagina
Artikel 1: Wijzigingen in Verordening (EU) 2024/1689 Openen als pagina
Verordening (EU) 2024/1689 wordt als volgt gewijzigd:
1.
in artikel 1, lid 2, wordt punt g) vervangen door:
(g)
maatregelen ter ondersteuning van innovatie, met bijzondere nadruk op kleine midcapondernemingen en kleine en middelgrote ondernemingen, waaronder start-ups.”
2.
artikel 2 wordt als volgt gewijzigd:
(a)
lid 2 wordt vervangen door:
2.
“Op AI-systemen die overeenkomstig artikel 6, lid 1, als AI-systemen met een hoog risico worden aangemerkt die verband houden met producten die vallen onder de in bijlage I, afdeling B, opgenomen harmonisatiewetgeving van de Unie, zijn uitsluitend artikel 6, lid 1, artikel 60 bis, en de artikelen 102 tot en met 112 van toepassing. De artikelen 57, 58 en 59 zijn alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico uit hoofde van deze verordening zijn opgenomen in die harmonisatiewetgeving van de Unie.”
(b)
lid 7 wordt vervangen door:
7.
“Het Unierecht inzake de bescherming van persoonsgegevens, de privacy en de vertrouwelijkheid van communicatie is van toepassing op persoonsgegevens die worden verwerkt in verband met de rechten en verplichtingen die in deze verordening zijn vastgelegd. Onverminderd artikel 4 bis en artikel 59 van deze verordening laat deze verordening de Verordeningen (EU) 2016/679 of (EU) 2018/1725, of de Richtlijnen 2002/58/EG of (EU) 2016/680 onverlet.”
3.
aan artikel 2 wordt het volgende lid toegevoegd:
13.
“Voor AI-systemen met een hoog risico als bedoeld in artikel 6, lid 1, kan de toepassing van de specifieke eisen of verplichtingen van de artikelen 9 tot en met 15 en 17 tot en met 25 worden beperkt, indien en voor zover:
(a)
de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie eisen of verplichtingen bevat met een gelijkwaardig of hoger niveau van bescherming van de gezondheid, de veiligheid of de grondrechten dan de betrokken eis of verplichting; en
(b)
een dergelijke beperking geen afbreuk doet aan het algemene beschermingsniveau waarin deze verordening voorziet.
Uiterlijk op 2 augustus 2027 stelt de Commissie overeenkomstig artikel 97 gedelegeerde handelingen vast om deze verordening aan te vullen door de betrokken AI-systemen met een hoog risico, de eisen of verplichtingen die kunnen worden beperkt, de voorwaarden waaronder een dergelijke beperking van toepassing is en de reikwijdte van de beperking nader te bepalen.”
4.
artikel 3 wordt als volgt gewijzigd:
(a)
Punt 14 wordt als volgt gewijzigd:
14.
“veiligheidscomponent”: een component van een product of van een AI-systeem die een veiligheidsfunctie voor dat product of AI-systeem vervult of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt; voor de toepassing van deze definitie vervult een component een veiligheidsfunctie wanneer het beoogde doel ervan is om risico’s voor de gezondheid en veiligheid van personen of eigendom te voorkomen of te beperken;”
(b)
de volgende punten worden ingevoegd:
“micro-, kleine en middelgrote onderneming” of “kmo”: een kleine, middelgrote of micro-onderneming zoals gedefinieerd in artikel 2 van de bijlage bij Aanbeveling 2003/361/EG;
“kleine midcaponderneming”: een kleine midcaponderneming zoals gedefinieerd in punt 2 van de bijlage bij Aanbeveling (EU) 2025/1099 van de Commissie;”
5.
artikel 4 wordt vervangen door:
“Artikel 4
AI-geletterdheid
1.
Aanbieders en gebruiksverantwoordelijken van AI-systemen nemen maatregelen om de ontwikkeling van AI-geletterdheid van hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken, te ondersteunen, en houden daarbij rekening met hun technische kennis, ervaring, onderwijs en opleiding en de context waarin de AI-systemen zullen worden gebruikt, evenals met de personen of groepen personen ten aanzien van wie de AI-systemen zullen worden gebruikt. Deze verplichting houdt niet in dat aanbieders of gebruiksverantwoordelijken een bepaald niveau van AI-geletterdheid moeten waarborgen voor personen.
2.
De Commissie en de lidstaten ondersteunen en faciliteren de inspanningen van aanbieders en gebruiksverantwoordelijken van AI-systemen, met name kmo’s, bij het nakomen van hun verplichting uit hoofde van lid 1 van dit artikel. Daartoe publiceert de Commissie op het in artikel 62, lid 3, punt b), bedoelde centraal informatieplatform praktische voorbeelden van hoe die verplichting na te leven.
3.
De AI-board stelt, rekening houdend met Europese competentiekaders, aanbevelingen vast om de Commissie en de lidstaten te ondersteunen bij de bevordering van de krachtens lid 1 vereiste AI-geletterdheid, onder meer door gemeenschappelijke doelstellingen vast te stellen.”
6.
het volgende artikel wordt ingevoegd:
“Artikel 4 bis
Verwerking van bijzondere categorieën persoonsgegevens met het oog op de opsporing en correctie van vooringenomenheid
1.
Voor zover dit strikt noodzakelijk is om te zorgen voor opsporing en correctie van vooringenomenheid in verband met de AI-systemen met een hoog risico overeenkomstig artikel 10, lid 2, punten f) en g) van deze verordening, mogen de aanbieders van dergelijke systemen bij wijze van uitzondering bijzondere categorieën persoonsgegevens verwerken, mits passende waarborgen worden geboden voor de grondrechten en fundamentele vrijheden van natuurlijke personen. Naast de in de Verordeningen (EU) 2016/679 en (EU) 2018/1725 en Richtlijn (EU) 2016/680 vastgestelde bepalingen, moeten, al naargelang het geval, voor een dergelijke verwerking alle volgende voorwaarden zijn vervuld:
(a)
de opsporing en correctie van vooringenomenheid kunnen niet doeltreffend worden vervuld door het verwerken van andere data, waaronder synthetische of geanonimiseerde data;
(b)
de bijzondere categorieën persoonsgegevens zijn onderworpen aan technische beperkingen voor het hergebruik van persoonsgegevens, en geavanceerde beveiligings- en privacybeschermingsmaatregelen, waaronder pseudonimisering;
(c)
de bijzondere categorieën persoonsgegevens zijn onderworpen aan maatregelen om ervoor te zorgen dat de verwerkte persoonsgegevens worden beveiligd en beschermd met passende waarborgen, waaronder strikte controles en documentatie van de toegang ertoe, om misbruik te voorkomen en ervoor te zorgen dat alleen personen die gemachtigd zijn toegang tot die persoonsgegevens hebben met passende vertrouwelijkheidsverplichtingen;
(d)
de bijzondere categorieën persoonsgegevens worden niet verzonden, doorgegeven of anderszins geraadpleegd door andere partijen;
(e)
de bijzondere categorieën persoonsgegevens worden verwijderd zodra de vooringenomenheid is gecorrigeerd of de periode van bewaring van de persoonsgegevens ten einde is gekomen, indien dit eerder is; en
(f)
het register op grond van Verordeningen (EU) 2016/679 en (EU) 2018/1725 en Richtlijn (EU) 2016/680 van verwerkingsactiviteiten bevat de redenen waarom de verwerking van bijzondere categorieën persoonsgegevens strikt noodzakelijk was om vooringenomenheid op te sporen en waarom die doelstelling niet kon worden bereikt door de verwerking van andere data.
2.
Aanbieders en gebruiksverantwoordelijken van andere AI-systemen en -modellen en gebruiksverantwoordelijken van AI-systemen met een hoog risico mogen bij wijze van uitzondering bijzondere categorieën persoonsgegevens verwerken, voor zover:
(a)
deze verwerking strikt noodzakelijk is om te zorgen voor opsporing en correctie van vooringenomenheid met het oog op mogelijke vooringenomenheid die waarschijnlijk gevolgen heeft voor de gezondheid en veiligheid van personen, nadelige effecten heeft op de grondrechten of leidt tot discriminatie die op grond van het Unierecht verboden is, vooral wanneer data-outputs invloed hebben op inputs voor toekomstige operaties; en
(b)
alle in lid 1 vervatte voorwaarden en waarborgen worden toegepast.
Dit lid schept geen verplichting om dergelijke vooringenomenheid op te sporen en te corrigeren.”
7.
artikel 5 wordt als volgt gewijzigd:
(a)
in lid 1, eerste alinea, worden de volgende punten ingevoegd:
het in de handel brengen, het in gebruik stellen of het gebruiken van een AI-systeem dat realistische beelden, video’s, audio of soortgelijk materiaal genereert of manipuleert van de intieme delen van een identificeerbare natuurlijke persoon, of van een identificeerbare natuurlijke persoon die expliciete seksuele gedragingen verricht, zonder de vrijelijk gegeven, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming van die persoon voor die generatie of manipulatie;
het in de handel brengen, in gebruik stellen of gebruiken van een AI-systeem dat materiaal of een voorstelling genereert of manipuleert in de zin van artikel 2, punten c) en e), van Richtlijn 2011/93/EU, behalve wanneer krachtens het nationale recht een “wederrechtelijke” verdediging van toepassing is;”
(b)
de volgende leden worden ingevoegd:
“1 bis. Voor de toepassing van lid 1, eerste alinea, punten b bis) en b ter), is:
(a)
het in lid 1, eerste alinea, punt b bis) of b ter), bedoelde in de handel brengen of in gebruik stellen van een AI-systeem dat het materiaal of de voorstelling genereert of manipuleert, alleen verboden indien:
(i)
die generatie of manipulatie het beoogde doel van het AI-systeem is; of
(ii)
het ontwerp, de training, de architectuur, de capaciteiten of de gebruikersgerichte functionaliteiten van het systeem maken dat het genereren of manipuleren een redelijkerwijs te voorzien en reproduceerbaar resultaat oplevert, zonder dat daarvoor aanzienlijke technische wijzigingen nodig zijn, en het systeem niet beschikt over redelijke en adequate technische veiligheidsmaatregelen en andere waarborgen om het genereren of manipuleren op betrouwbare wijze te voorkomen, rekening houdend met redelijkerwijs te voorzien misbruik, en om waargenomen of gemeld misbruik te corrigeren;
(b)
het in lid 1, eerste alinea, punten b bis) en b ter, bedoelde gebruik van een AI-systeem dat het materiaal of de voorstelling genereert of manipuleert, alleen verboden wanneer de gebruiksverantwoordelijke het systeem gebruikt voor het genereren of manipuleren van dergelijk materiaal of een dergelijke voorstelling.
1 ter. Voor de toepassing van lid 1, eerste alinea, punt b bis), vormt een AI-systeem dat materiaal zodanig manipuleert dat de blootstelling aan afgebeelde intieme delen niet toeneemt of dat de aard van afgebeelde seksueel expliciete gedragingen niet wordt gewijzigd, geen manipulatie.”
8.
in artikel 6 worden de volgende leden ingevoegd:
“1 bis. Voor de toepassing van deze verordening, met inbegrip van lid 1 van dit artikel, worden AI-systemen die uitsluitend worden gebruikt voor niet-veiligheidsgerelateerde aspecten van bijstand aan gebruikers, optimalisering van de prestaties, efficiëntie van de dienstverlening, automatisering of gemak of kwaliteitscontrole, niet als veiligheidscomponenten aangemerkt.
1 ter. Niettegenstaande lid 1 bis worden AI-systemen waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid in gevaar zou brengen, beschouwd als veiligheidscomponenten.
1 quater. Een product dat uitsluitend vanwege andere risico’s dan risico’s voor de gezondheid en veiligheid, met name risico’s in verband met de verdeling van het radiospectrum of elektromagnetische interferentie die geen gevolgen hebben voor de gezondheid en veiligheid, aan een conformiteitsbeoordeling door een derde partij moet worden onderworpen, wordt niet geacht aan de voorwaarde van lid 1, punt b), te voldoen.”
9.
artikel 10 wordt als volgt gewijzigd:
(a)
lid 1 wordt vervangen door:
1.
“AI-systemen met een hoog risico die technieken gebruiken die het trainen van AI-modellen met data omvatten, worden ontwikkeld op basis van datasets voor training, validatie en tests die voldoen aan de in de leden 2, 3 en 4 van dit artikel en de in artikel 4 bis, lid 1, bedoelde kwaliteitscriteria, telkens wanneer dergelijke datasets worden gebruikt.”
(b)
lid 5 wordt geschrapt;
(c)
lid 6 wordt vervangen door:
6.
“Voor de ontwikkeling van AI-systemen met een hoog risico die geen technieken voor de training van AI-modellen gebruiken, zijn de leden 2, 3 en 4 van dit artikel en artikel 4 bis, lid 1, uitsluitend van toepassing op de datasets voor tests.”
10.
in artikel 11, lid 1, wordt de tweede alinea vervangen door:
“Die technische documentatie wordt op zodanige wijze opgesteld dat wordt aangetoond dat het AI-systeem met een hoog risico in overeenstemming is met de eisen van deze afdeling en dat nationale bevoegde autoriteiten en aangemelde instanties over de noodzakelijke, op heldere en begrijpelijke wijze gestelde informatie beschikken om de overeenstemming van het AI-systeem met deze voorschriften te kunnen beoordelen. De documentatie omvat ten minste de in bijlage IV uiteengezette elementen. Kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen, kunnen de elementen van de in bijlage IV gespecificeerde technische documentatie op vereenvoudigde wijze verstrekken. Daartoe stelt de Commissie een vereenvoudigd formulier voor technische documentatie op dat is afgestemd op de behoeften van kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen. Kmo’s, met inbegrip van start-ups, of kleine midcapondernemingen die ervoor kiezen de in bijlage IV vereiste informatie op vereenvoudigde wijze te verstrekken, gebruiken het in dit lid bedoelde formulier. Aangemelde instanties aanvaarden het formulier met het oog op de conformiteitsbeoordeling.”
11.
in artikel 17 wordt lid 2 vervangen door:
2.
“De uitvoering van de in lid 1 bedoelde aspecten is evenredig aan de omvang van de organisatie van de aanbieder, met name als de aanbieder een kmo is, met inbegrip van een start-up, of een kleine midcaponderneming. Aanbieders voldoen hoe dan ook aan de striktheid en het beschermingsniveau die nodig zijn om te garanderen dat hun AI-systemen met een hoog risico aan deze verordening voldoen.”
12.
artikel 25 wordt als volgt gewijzigd:
(a)
lid 2 wordt vervangen door:
2.
“Wanneer sprake is van de in lid 1 bedoelde omstandigheden, wordt de aanbieder die het AI-systeem voor het eerst in de handel heeft gebracht of in gebruik heeft gesteld, niet langer beschouwd als aanbieder van dat specifieke AI-systeem voor de toepassing van deze verordening.
Die oorspronkelijke aanbieder werkt nauw samen met nieuwe aanbieders, stelt de nodige informatie beschikbaar en verstrekt de redelijkerwijs verwachte technische toegang en andere bijstand die nodig zijn om te voldoen aan de verplichtingen van deze verordening, met name wat betreft de naleving van de conformiteitsbeoordeling van AI-systemen met een hoog risico.
De in de tweede alinea vastgestelde verplichting omvat met name, indien relevant voor de daarin vermelde doeleinden, het volgende:
(a)
het beschikbaar stellen van technische documentatie die toereikend is om de naleving van de vereisten van artikel 16 te beoordelen;
(b)
het informeren van de nieuwe aanbieders over bekende beperkingen en potentiële fouten; en
(c)
het bieden van gerichte technische toegang aan de nieuwe aanbieders, onder meer voor testen en validatie.
Dit lid is niet van toepassing in gevallen waarin de oorspronkelijke aanbieder duidelijk heeft aangegeven dat zijn AI-systeem niet mag worden gewijzigd in een AI-systeem met een hoog risico en derhalve niet onder de verplichting valt om samen te werken met de nieuwe aanbieders en om de documentatie te verstrekken.”
(b)
in lid 4 wordt de eerste alinea vervangen door:
4.
“De aanbieder van een AI-systeem met een hoog risico en de derde partij die een AI-systeem, een AI-model, instrumenten, diensten, onderdelen of processen levert die worden gebruikt of geïntegreerd in een AI-systeem met een hoog risico, preciseren in een schriftelijke overeenkomst de nodige informatie, capaciteiten, technische toegang en andere bijstand, op basis van de algemeen erkende stand van de techniek, om de aanbieder van het AI-systeem met een hoog risico in staat te stellen volledig te voldoen aan de verplichtingen van deze verordening. Dit lid is niet van toepassing op derden die andere instrumenten, diensten, processen of onderdelen dan AI-modellen voor algemene doeleinden onder een kosteloze en opensource licentie toegankelijk maken voor het publiek.”
13.
artikel 27 wordt als volgt gewijzigd:
(a)
lid 4 wordt vervangen door:
4.
“Indien een van de in dit artikel vastgelegde verplichtingen reeds is nagekomen door de gegevensbeschermingseffectbeoordeling die is uitgevoerd op grond van artikel 35 van Verordening (EU) 2016/679 of artikel 27 van Richtlijn (EU) 2016/680, kan de gebruiksverantwoordelijke, bij het uitvoeren van de in lid 1 van dit artikel bedoelde effectbeoordeling op het gebied van de grondrechten, kruisverwijzingen naar de desbetreffende delen van die gegevensbeschermingseffectbeoordeling, dan wel relevante delen daarvan opnemen in de effectbeoordeling op het gebied van de grondrechten.”
(b)
lid 5 wordt vervangen door:
5.
“Het AI-bureau ontwikkelt een model voor een vragenlijst, onder meer via een geautomatiseerd instrument, om gebruiksverantwoordelijken te helpen hun verplichtingen uit hoofde van dit artikel op vereenvoudigde wijze na te komen. Dit model biedt gebruiksverantwoordelijken in voorkomend geval de mogelijkheid om kruisverwijzingen naar de desbetreffende delen van de gegevensbeschermingseffectbeoordeling, dan wel relevante delen daarvan, op te nemen in de effectbeoordeling op het gebied van de grondrechten op grond van lid 4.”
14.
aan artikel 28 worden de volgende leden toegevoegd:
8.
“De uit hoofde van deze verordening aanmeldende autoriteiten, die verantwoordelijk zijn voor AI-systemen die onder de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie vallen, zorgen ervoor dat een conformiteitsbeoordelingsinstantie die een aanvraag tot aanwijzing indient op grond van zowel deze verordening als de in afdeling A van bijlage I bedoelde harmonisatiewetgeving van de Unie, de mogelijkheid krijgt om één enkele aanvraag in te dienen en een procedure voor één uniforme beoordeling ondergaat om te worden aangewezen uit hoofde van deze verordening en de in afdeling A van bijlage I bedoelde harmonisatiewetgeving van de Unie, indien de relevante harmonisatiewetgeving van de Unie voorziet in een dergelijke procedure voor één enkele aanvraag en één uniforme beoordeling. Daartoe werken de op grond van deze verordening aangewezen aanmeldende autoriteiten en de op grond van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie aangewezen autoriteiten samen bij hun beoordelingen.
De in dit lid bedoelde procedure voor één enkele aanvraag en één uniforme beoordeling wordt ook ter beschikking gesteld aan aangemelde instanties die reeds uit hoofde van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie zijn aangewezen, wanneer die aangemelde instanties uit hoofde van deze verordening een aanvraag voor aanwijzing indienen, mits de relevante harmonisatiewetgeving van de Unie in een dergelijke procedure voorziet.
Een conformiteitsbeoordelingsinstantie die is aangewezen uit hoofde van meer dan één onderdeel van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie, moet slechts eenmaal een aanvraag indienen om uit hoofde van deze verordening te worden aangewezen. Een aanwijzing op grond van deze verordening is van toepassing op alle in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie waarvoor de conformiteitsbeoordelingsinstantie is aangewezen.
De procedure voor één enkele aanvraag en één uniforme beoordeling voorkomt onnodig dubbel werk bouwt voort op de bestaande procedures voor aanwijzing overeenkomstig de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie en waarborgt de naleving van de eisen met betrekking tot aangemelde instanties uit hoofde van zowel deze verordening als de relevante harmonisatiewetgeving van de Unie.
9.
Een aanmeldende autoriteit die is aangewezen uit hoofde van de in afdeling A van bijlage I bedoelde harmonisatiewetgeving van de Unie, is ook de aanmeldende autoriteit voor de toepassing van de in lid 8 bedoelde procedure voor één enkele aanvraag en één uniforme beoordeling, tenzij de lidstaat voor deze verordening een andere aanmeldende autoriteit aanwijst.”
15.
in artikel 29 wordt lid 4 vervangen door:
4.
“Voor aangemelde instanties die uit hoofde van andere harmonisatiewetgeving van de Unie zijn aangewezen, kunnen waar passend alle documenten en certificaten met betrekking tot die aanwijzingen worden gebruikt om hun aanwijzingsprocedure krachtens deze verordening te ondersteunen en te bespoedigen.
Aangemelde instanties die hoofde van de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie zijn aangewezen en de in artikel 28, lid 8, bedoelde procedure voor één uniforme beoordeling ondergaan, dienen de enkele aanvraag voor beoordeling in bij de aanmeldende autoriteit die uit hoofde van die harmonisatiewetgeving van de Unie is aangewezen.
Om de voor aangemelde instanties verantwoordelijke autoriteit in staat te stellen de continue naleving van alle eisen van artikel 31 te monitoren en te verifiëren, werkt de aangemelde instantie de in de leden 2 en 3 bij dit artikel bedoelde documentatie telkens bij wanneer relevante veranderingen plaatsvinden.”
16.
in artikel 30 wordt lid 2 vervangen door:
2.
“Aanmeldende autoriteiten melden elke in lid 1 bedoelde conformiteitsbeoordelingsinstantie aan bij de Commissie en de andere lidstaten op basis van de in bijlage XIV bedoelde lijst met codes, categorieën en overeenkomstige soorten AI-systemen, gebruikmakend van het door de Commissie ontwikkelde en beheerde elektronische aanmeldingssysteem.
De Commissie is bevoegd overeenkomstig artikel 97 gedelegeerde handelingen vast te stellen om bijlage XIV te wijzigen in het licht van de technische vooruitgang, voortschrijdende kennis of nieuw wetenschappelijk bewijs, door aan de lijst met codes, categorieën en overeenkomstige soorten AI-systemen, een nieuwe code, nieuwe categorie of nieuw soort AI-systeem toe te voegen, een bestaande code, bestaande categorie of bestaande soort AI-systeem van de lijst te schrappen, of een code of soort AI-systeem van de ene naar de andere categorie te verplaatsen.”
17.
aan artikel 40, lid 2, wordt de volgende alinea toegevoegd:
“De Commissie verzoekt de Europese normalisatieorganisaties overeenkomstig Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad 21Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad van 25 oktober 2012 betreffende Europese normalisatie, tot wijziging van de Richtlijnen 89/686/EEG en 93/15/EEG van de Raad alsmede de Richtlijnen 94/9/EG, 94/25/EG, 95/16/EG, 97/23/EG, 98/34/EG, 2004/22/EG, 2007/23/EG, 2009/23/EG en 2009/105/EG van het Europees Parlement en de Raad en tot intrekking van Beschikking 87/95/EEG van de Raad en Besluit nr. 1673/2006/EG van het Europees Parlement en de Raad ([PB L 316 van 14.11.2012, blz. 12](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2012:316:TOC), ELI: [http://data.europa.eu/eli/reg/2012/1025/oj](http://data.europa.eu/eli/reg/2012/1025/oj))." en zonder onnodige vertraging normalisatieproducten te ontwikkelen, met inbegrip van, waar passend, geharmoniseerde normen, om gezamenlijke naleving en het vermoeden van conformiteit met de eisen of verplichtingen die zijn vastgesteld in hoofdstuk III, afdelingen 2 en 3, van deze verordening, en met de desbetreffende eisen en verplichtingen die zijn vastgesteld in de in bijlage I bij deze verordening vermelde harmonisatiewetgeving van de Unie te vergemakkelijken.”
(*1) Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad van 25 oktober 2012 betreffende Europese normalisatie, tot wijziging van de Richtlijnen 89/686/EEG en 93/15/EEG van de Raad alsmede de Richtlijnen 94/9/EG, 94/25/EG, 95/16/EG, 97/23/EG, 98/34/EG, 2004/22/EG, 2007/23/EG, 2009/23/EG en 2009/105/EG van het Europees Parlement en de Raad en tot intrekking van Beschikking 87/95/EEG van de Raad en Besluit nr. 1673/2006/EG van het Europees Parlement en de Raad (PB L 316 van 14.11.2012, blz. 12, ELI: http://data.europa.eu/eli/reg/2012/1025/oj)."
18.
aan artikel 42 wordt het volgende lid toegevoegd:
3.
“Wanneer AI-systemen met een hoog risico binnen het toepassingsgebied van Verordening (EU) 2024/2847 vallen en aan de voorwaarden van artikel 12, lid 1, van die verordening is voldaan, worden zij geacht te voldoen aan de cyberbeveiligingsvereisten van artikel 15 van deze verordening.”
19.
in artikel 43 wordt lid 3 vervangen door:
3.
“Voor AI-systemen met een hoog risico die onder de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie vallen, volgt de aanbieder van het systeem de relevante conformiteitsbeoordelingsprocedure zoals vereist volgens de relevante harmonisatiewetgeving van de Unie. De in afdeling 2 van dit hoofdstuk vastgestelde voorschriften zijn van toepassing op die AI-systemen met een hoog risico en maken deel uit van die beoordeling. Een beoordeling van het in artikel 17 bedoelde kwaliteitsbeheersysteem wordt eveneens uitgevoerd, en de punten 3, 4.3, 4.4 en 4.5, punt 4.6, vijfde alinea, en punt 5 van bijlage VII zijn van toepassing.
Ten behoeve van die conformiteitsbeoordeling hebben aangemelde instanties die uit hoofde van de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie zijn aangemeld, de bevoegdheid om de conformiteit van de AI-systemen met een hoog risico te beoordelen aan de hand van de in afdeling 2 van dit hoofdstuk vastgestelde voorschriften, mits de overeenstemming van die aangemelde instanties met de in artikel 31, leden 4, 5, 10 en 11, vastgestelde voorschriften is beoordeeld in de context van de aanmeldingsprocedure volgens de relevante harmonisatiewetgeving van de Unie, hetgeen blijkt uit de beoordeling als onderdeel van de bestaande aanmelding. Onverminderd artikel 28 dienen dergelijke aangemelde instanties die uit hoofde van de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie zijn aangemeld, uiterlijk op 28 januari 2028 overeenkomstig afdeling 4 van dit hoofdstuk een aanvraag om aanmelding in.
Wanneer de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie de productfabrikant de mogelijkheid biedt zich te baseren op een conformiteitsbeoordeling waarbij geen derde partij betrokken is, mits die fabrikant geharmoniseerde normen heeft toegepast om de naleving van alle relevante voorschriften te waarborgen, kan die fabrikant alleen van die mogelijkheid gebruikmaken als hij ook geharmoniseerde normen of, in voorkomend geval, gemeenschappelijke specificaties als bedoeld in artikel 41 heeft toegepast voor alle in afdeling 2 van dit hoofdstuk vastgestelde voorschriften. De classificatie van een product als AI-systeem met een hoog risico overeenkomstig artikel 6, lid 1, heeft geen invloed op de keuze van de conformiteitsbeoordelingsprocedure die ter beschikking wordt gesteld aan fabrikanten van producten die vallen onder in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie, met inbegrip van, in voorkomend geval, de mogelijkheid om gebruik te maken van geharmoniseerde normen. De fabrikanten van dergelijke producten zijn niet verplicht te kiezen voor een conformiteitsbeoordelingsprocedure die een conformiteitsbeoordeling door derden omvat uitsluitend omdat het product een AI-systeem met een hoog risico als veiligheidscomponent bevat, als dit niet vereist is door de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie.
Voor AI-systemen met een hoog risico die zowel onder de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie vallen, als onder één van de in bijlage III genoemde categorieën, volgt de aanbieder van dat systeem de relevante conformiteitsbeoordelingsprocedure zoals vereist uit hoofde van de relevante in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie.”
20.
in artikel 50 wordt lid 7 vervangen door:
7.
“De Commissie stimuleert en faciliteert de opstelling van praktijkcodes op het niveau van de Unie om de doeltreffende uitvoering van de verplichtingen met betrekking tot het opsporen, markeren en labelen van kunstmatig gegenereerde of gemanipuleerde content te vergemakkelijken. De Commissie, die zoveel mogelijk rekening houdt met het advies van de AI-board, beoordeelt of de naleving van die praktijkcodes toereikend is om te voldoen aan de in de leden 2 en 4 van dit artikel bedoelde verplichtingen, overeenkomstig de in artikel 56, lid 6, uiteengezette procedure. Indien zij de praktijkcode ontoereikend acht, kan de Commissie overeenkomstig de onderzoeksprocedure van artikel 98, lid 2, een uitvoeringshandeling vaststellen waarin gemeenschappelijke regels voor de uitvoering van die verplichtingen worden gespecificeerd.”
21.
in artikel 56 wordt lid 6 vervangen door:
6.
“De Commissie en de AI-board monitoren en evalueren regelmatig of de deelnemers de doelstellingen van de praktijkcodes verwezenlijken en bijdragen aan de correcte toepassing van deze verordening. De Commissie, die zoveel mogelijk rekening houdt met het advies van de AI-board, beoordeelt of de praktijkcodes betrekking hebben op de verplichtingen van de artikelen 53 en 55, en monitort en evalueert regelmatig of de doelstellingen daarvan worden verwezenlijkt. De Commissie publiceert haar beoordeling of de praktijkcodes toereikend zijn.”
22.
artikel 57 wordt als volgt gewijzigd:
(a)
in lid 1 wordt de eerste alinea vervangen door:
1.
“De lidstaten zorgen ervoor dat hun bevoegde autoriteiten ten minste één AI-testomgeving voor regelgeving op nationaal niveau opzetten, die uiterlijk op 2 augustus 2027 operationeel is. Die testomgeving kan ook samen met de bevoegde autoriteiten van andere lidstaten worden opgezet. De Commissie kan technische ondersteuning en advies en instrumenten verstrekken voor de oprichting en werking van AI-testomgevingen voor regelgeving.”
(b)
lid 3 wordt vervangen door:
3.
“De Europese Toezichthouder voor gegevensbescherming kan een AI-testomgeving voor regelgeving opzetten voor de instellingen, organen en instanties van de Unie. Daartoe gelden verwijzingen naar nationale bevoegde autoriteiten in dit hoofdstuk als verwijzingen naar de Europese Toezichthouder voor gegevensbescherming.”
(c)
het volgende lid wordt ingevoegd:
“3 bis. Het AI-bureau kan een AI-testomgeving voor regelgeving op Unieniveau opzetten voor AI-systemen die onder artikel 75, lid 1, vallen. Daartoe gelden verwijzingen naar nationale bevoegde autoriteiten in dit hoofdstuk in voorkomend geval als verwijzingen naar het AI-bureau. Die AI-testomgeving voor regelgeving wordt uitgevoerd in nauwe samenwerking met de relevante bevoegde autoriteiten, met name wanneer in deze AI-testomgeving voor regelgeving wordt toegezien op de naleving van andere dan in deze verordening bedoelde Uniewetgeving, en biedt prioritaire toegang aan kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen.
De oprichting van een AI-testomgeving voor regelgeving op Unieniveau door het AI-bureau doet geen afbreuk aan de bevoegdheden van de lidstaten om AI-testomgevingen voor regelgeving op te richten voor AI-systemen die onder hun toezicht staan, en toezicht te houden op deze testomgevingen.”
(d)
lid 5 wordt vervangen door:
5.
“Uit hoofde van dit artikel opgerichte AI-testomgevingen voor regelgeving bieden een gecontroleerde omgeving ter bevordering van innovatie en ter vergemakkelijking van het ontwikkelen, trainen, testen en valideren van innovatieve AI-systemen, volgens een specifiek, tussen de aanbieders of potentiële aanbieders en de bevoegde autoriteiten overeengekomen testomgevingsplan, voor een beperkte duur voordat zij in de handel worden gebracht of in gebruik worden gesteld, waarbij er wordt gezorgd voor passende waarborgen. Dergelijke testomgevingen kunnen inhouden dat er testen onder reële omstandigheden wordt getest onder toezicht. In voorkomend geval bevat het testomgevingsplan het in de artikelen 60 en 60 bis bedoelde plan voor testen onder reële omstandigheden.”
(e)
in lid 9, wordt punt e) vervangen door:
(e)
vergemakkelijken en versnellen van de toegang tot de markt van de Unie voor AI-systemen, met name wanneer ze worden aangeboden door kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen.”
(f)
lid 10 wordt vervangen door:
10.
“De nationale bevoegde autoriteiten zorgen ervoor dat voor zover de innovatieve AI-systemen betrekking hebben op de verwerking van persoonsgegevens of anderszins onder het toezicht van andere nationale autoriteiten of bevoegde autoriteiten vallen, die toegang tot gegevens verstrekken of ondersteunen, de bevoegde gegevensbeschermingsautoriteiten en die andere nationale of bevoegde autoriteiten betrokken zijn bij de werking van de AI-testomgeving voor regelgeving en bij het toezicht op de aspecten die onder hun respectieve taken en bevoegdheden vallen.”
(g)
lid 14 wordt vervangen door:
14.
“De nationale bevoegde autoriteiten, de Europese Toezichthouder voor gegevensbescherming en het AI-bureau coördineren, waar passend en binnen hun bevoegdheden, hun activiteiten en werken samen binnen het kader van de AI-board. Zij kunnen de gezamenlijke oprichting en werking van AI-testomgevingen voor regelgeving ondersteunen, onder meer in verschillende sectoren, en beste praktijken over aanverwante kwesties uitwisselen.”
23.
in artikel 58, lid 1, wordt de eerste alinea als volgt gewijzigd:
(a)
de aanhef wordt vervangen door:
1.
“Om versnippering in de Unie te voorkomen, stelt de Commissie uitvoeringshandelingen vast waarin de gedetailleerde regelingen worden gespecificeerd voor de oprichting, ontwikkeling, uitvoering, werking en governance van en het toezicht op AI-testomgevingen voor regelgeving. De uitvoeringshandelingen bevatten gemeenschappelijke beginselen met betrekking tot de volgende punten:”
(b)
het volgende punt wordt toegevoegd:
(d)
de gedetailleerde regels die van toepassing zijn op de governance van AI-testomgevingen voor regelgeving uit hoofde van artikel 57, onder meer met betrekking tot de betrokkenheid van en het toezicht door de bevoegde gegevensbeschermingsautoriteiten, in voorkomend geval, en de coördinatie en samenwerking op nationaal en Unieniveau.”
24.
artikel 60 wordt als volgt gewijzigd:
(a)
in lid 1 wordt de eerste alinea vervangen door:
1.
“AI-systemen met een hoog risico kunnen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving worden getest door aanbieders of potentiële aanbieders van in bijlage III vermelde AI-systemen met een hoog risico of van AI-systemen met een hoog risico die onder de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie vallen, in overeenstemming met dit artikel en het in dit artikel bedoelde plan voor testen onder reële omstandigheden, onverminderd de verbodsbepalingen krachtens artikel 5.”
(b)
lid 2 wordt vervangen door:
2.
“Aanbieders of potentiële aanbieders kunnen zelf of in samenwerking met een of meer gebruiksverantwoordelijken of potentiële gebruiksverantwoordelijken onder reële omstandigheden tests uitvoeren op in bijlage III bedoelde AI-systemen met een hoog risico of AI-systemen met een hoog risico die onder de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie vallen, op elk moment vóór het in de handel brengen of in gebruik stellen van het AI-systeem met een hoog risico.”
25.
het volgende artikel wordt ingevoegd:
“Artikel 60 bis
Het testen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving van AI-systemen met een hoog risico die onder de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie vallen
1.
De lidstaten kunnen overeenkomstig dit artikel toestaan dat AI-systemen met een hoog risico onder reële omstandigheden buiten AI-testomgevingen voor regelgeving worden getest door aanbieders of potentiële aanbieders van op AI gebaseerde producten die onder de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie vallen, teneinde de conformiteit van die systemen met de in de artikelen 8 tot en met 15 vastgestelde vereisten te beoordelen en te verifiëren.
2.
Lidstaten die ervoor kiezen tests als bedoeld in lid 1 toe te staan, stellen afzonderlijk of samen een kader voor testen onder reële omstandigheden vast.
3.
Elke lidstaat stelt de Commissie in kennis van elk kader voor tests onder reële omstandigheden dat hij vaststelt, alvorens het ten uitvoer te leggen. Dit laat de bevoegdheden van de Commissie uit hoofde van de onder de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie onverlet.
4.
De lidstaten die een kader voor testen onder reële omstandigheden hebben vastgesteld, zorgen ervoor dat de relevante nationale bevoegde autoriteiten, bevoegde autoriteiten en overheidsinstanties die verantwoordelijk zijn voor het beheer en de exploitatie van de infrastructuur en producten die onder de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie vallen, nauw en te goeder trouw met elkaar samenwerken en alle praktische belemmeringen wegnemen, onder meer met betrekking tot procedureregels die toegang bieden tot fysieke openbare infrastructuur, indien dit nodig is, om die kaders voor testen onder reële omstandigheden met succes uit te voeren en op AI gebaseerde producten die onder de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie vallen, te testen.
5.
In de kaders voor testen onder reële omstandigheden worden de voorwaarden vastgesteld voor het testen onder reële omstandigheden. Die kaders:
(a)
omvatten een verplicht plan voor testen onder reële omstandigheden dat moet worden overeengekomen tussen de aanbieder of potentiële aanbieder en de nationale bevoegde autoriteit of relevante autoriteit overeenkomstig de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie;
(b)
waarborgen de naleving van de in artikel 60, leden 2 en 3, lid 4, punten d) tot en met j), en leden 5 tot en met 9, vastgestelde vereisten, waarbij elke verwijzing naar markttoezichtautoriteiten in die bepalingen wordt gelezen als een verwijzing naar de nationale bevoegde autoriteit of relevante autoriteit, naargelang het geval, overeenkomstig de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie;
(c)
omvatten doeltreffende regelingen inzake bestuur en verantwoordingsplicht;
(d)
waarborgen een hoog niveau van bescherming van gezondheid, veiligheid en de grondrechten.
6.
Het testen onder reële omstandigheden voldoet aan de toepasselijke bepalingen die zijn vastgesteld in de in bijlage I, afdeling B, vermelde harmonisatiewetgeving van de Unie. De in die bepalingen vastgestelde vereisten doen geen afbreuk aan de toepassing van dit artikel, voor zover dat nodig is om de in lid 1 bedoelde tests mogelijk te maken.”
26.
in artikel 63 wordt lid 1 vervangen door:
1.
“Kmo’s, met inbegrip van start-ups, kunnen op vereenvoudigde wijze voldoen aan bepaalde elementen van het bij artikel 17 vereiste systeem voor kwaliteitsbeheer, mits zij geen partnerondernemingen of verbonden ondernemingen in de zin van Aanbeveling 2003/361/EG hebben. Daartoe ontwikkelt de Commissie richtsnoeren over de elementen van het systeem voor kwaliteitsbeheer waaraan op vereenvoudigde wijze kan worden voldaan, rekening houdend met de behoeften van kmo’s, zonder afbreuk te doen aan het beschermingsniveau of de noodzaak om de verplichtingen voor AI-systemen met een hoog risico na te leven.”
27.
aan artikel 64 wordt het volgende lid toegevoegd:
3.
“Onverminderd de begrotingsprocedure worden aan het AI-bureau voldoende middelen toegewezen om zijn taken doeltreffend uit te voeren en zijn bevoegdheden met betrekking tot de handhaving van deze verordening uit te oefenen.”
28.
in artikel 69 wordt lid 2 vervangen door:
2.
“De lidstaten kunnen worden verplicht vergoedingen te betalen voor het advies en de ondersteuning van de deskundigen tegen een tarief dat gelijkwaardig is aan dat van de vergoedingen die op grond van de in artikel 68, lid 1, bedoelde uitvoeringshandeling op de Commissie van toepassing zijn.”
29.
in artikel 70 wordt lid 8 vervangen door:
8.
“Nationale bevoegde autoriteiten kunnen begeleiding bij en advies over de uitvoering van deze verordening verstrekken, met name aan kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen, rekening houdend met de begeleiding en het advies van de AI-board en, indien nodig, de Commissie. Wanneer nationale bevoegde autoriteiten van plan zijn te voorzien in begeleiding en advies ten aanzien van een AI-systeem op gebieden die onder ander Unierecht vallen, worden in voorkomend geval de nationale bevoegde autoriteiten onder dat Unierecht geraadpleegd.”
30.
in artikel 72 wordt lid 3 vervangen door:
3.
“Het systeem voor monitoring na het in de handel brengen, is gebaseerd op een plan voor monitoring na het in de handel brengen. Het plan voor monitoring na het in de handel brengen, maakt deel uit van de in bijlage IV bedoelde technische documentatie. De Commissie stelt uiterlijk op 2 september 2027 richtsnoeren vast, met inbegrip van een model, voor het plan voor monitoring na het in de handel brengen en houdt daarbij zoveel mogelijk rekening met het advies van de AI-board.”
31.
artikel 75 wordt als volgt gewijzigd:
(a)
de titel wordt vervangen door:
“Markttoezicht en controle van AI-systemen en wederzijdse bijstand”
(b)
lid 1 wordt vervangen door:
1.
“Het AI-bureau is exclusief bevoegd voor het toezicht op en de handhaving van de verplichtingen uit hoofde van deze verordening met betrekking tot de volgende AI-systemen:
(a)
AI-systemen die gebaseerd zijn op AI-modellen voor algemene doeleinden wanneer het model en het systeem door dezelfde aanbieder zijn ontwikkeld, of door aanbieders die deel uitmaken van dezelfde onderneming als die aanbieder, met uitzondering van:
(i)
AI-systemen die verband houden met producten die onder de in bijlage I vermelde harmonisatiewetgeving van de Unie vallen;
(ii)
AI-systemen zoals bedoeld in bijlage III, punt 2;
(iii)
AI-systemen die worden aangeboden door rechtshandhavingsinstanties, grensbeheerautoriteiten en financiële instellingen, voor zover die AI-systemen onder artikel 74, lid 6, vallen; en
(iv)
AI-systemen zoals bedoeld in bijlage III, punt 8, wat betreft de rechtsbedeling;
(b)
AI-systemen die een overeenkomstig Verordening (EU) 2022/2065 aangewezen zeer groot onlineplatform of zeer grote onlinezoekmachine vormen of daarin zijn geïntegreerd.
De exclusieve bevoegdheid zoals bedoeld in de eerste alinea is van toepassing op de aanbieders van die systemen. Zij is alleen op de gebruiksverantwoordelijken van die systemen van toepassing wanneer zij ook de aanbieder zijn of deel uitmaken van dezelfde onderneming als de aanbieder.”
(c)
de volgende leden worden ingevoegd:
“1 bis. In afwijking van artikel 73 melden aanbieders van AI-systemen met een hoog risico die op grond van lid 1 van dit artikel onder de bevoegdheid van het AI-bureau vallen, elk ernstig incident aan het AI-bureau. Artikel 73, leden 2 tot en met 9, is van overeenkomstige toepassing. Het AI-bureau geeft de relevante informatie onverwijld door aan de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de aanbieder of zijn wettelijke vertegenwoordiger zich bevindt.
1 ter. De autoriteiten die betrokken zijn bij de toepassing van deze verordening werken actief samen met het AI-bureau en bieden het AI-bureau de nodige bijstand voor de uitoefening van zijn bevoegdheden, met inbegrip van, in voorkomend geval, met betrekking tot inspecties of andere handhavingsmaatregelen die op het grondgebied van een lidstaat moeten worden uitgevoerd. Daartoe beschikken die autoriteiten over de bevoegdheden waarin wordt voorzien op grond van deze verordening en Verordening (EU) 2019/1020, en in voorkomend geval en beperkt tot wat nodig is om hun taken uit hoofde van dit lid te vervullen, overeenkomstig de toepasselijke nationale procedures.
1 quater. Bij het nemen van onderzoeks- of handhavingsmaatregelen op het grondgebied van een lidstaat waarbij toegang tot de gegevens of het AI-systeem van een overheidsinstantie betrokken is, wordt het AI-bureau bijgestaan door de relevante markttoezichtautoriteit.
1 quinquies. Alvorens een besluit te nemen dat tot gevolg zou hebben dat het op een nationale markt aanbieden of in gebruik stellen van het AI-systeem wordt verboden of beperkt, of een besluit om het AI-systeem uit de handel te nemen of terug te roepen van die markt, stelt het AI-bureau de voor die markt bevoegde markttoezichtautoriteit zonder onnodige vertraging in kennis van zijn voornemen om een dergelijk besluit te nemen. Het AI-bureau raadpleegt in voorkomend geval de bij de toepassing van deze verordening betrokken autoriteiten over alle aangelegenheden die verband houden met de toepassing en handhaving van deze verordening.
1 sexies. Het AI-bureau is bevoegd voor conformiteitsbeoordelingen en tests ten aanzien van in lid 1 van dit artikel bedoelde AI-systemen als die zijn ingedeeld als AI-systemen met een hoog risico en onderworpen zijn aan conformiteitsbeoordelingen door derden op grond van artikel 43, voordat dergelijke AI-systemen in de handel worden gebracht of in gebruik worden gesteld. Bij deze tests en beoordelingen wordt nagegaan of de systemen voldoen aan de desbetreffende eisen van deze verordening en overeenkomstig deze verordening in de Unie in de handel mogen worden gebracht of in gebruik worden gesteld. De Commissie vertrouwt de uitvoering van deze tests of beoordelingen toe aan overeenkomstig deze verordening aangewezen aangemelde instanties, in welk geval de aangemelde instantie namens de Commissie optreedt. Indien een aangemelde instantie waaraan de Commissie uit hoofde van dit lid taken heeft gedelegeerd, deze taken niet naar behoren uitvoert, kan de Commissie de delegatie met onmiddellijke ingang intrekken.
De vergoedingen voor test- en beoordelingsactiviteiten worden opgelegd aan de aanbieder van een AI-systeem met een hoog risico die bij de Commissie een conformiteitsbeoordeling door een derde partij heeft aangevraagd. De aanbieder betaalt de kosten in verband met de diensten die de Commissie overeenkomstig dit artikel aan de aangemelde instanties toevertrouwt rechtstreeks aan de aangemelde instantie.”
(d)
het volgende lid wordt ingevoegd:
“2 bis. Wanneer een markttoezichtautoriteit gegronde en voldoende redenen heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in lid 1 van dit artikel bedoeld AI-systeem inbreuk heeft gemaakt op deze verordening, kan zij het AI-bureau via het desbetreffende overeenkomstig artikel 70, lid 2, aangewezen centrale contactpunt verzoeken de zaak te beoordelen om de nodige toezichts- en handhavingsmaatregelen te nemen om een snelle naleving van deze verordening te waarborgen. Een dergelijk verzoek wordt terdege gemotiveerd en bevat ten minste het volgende:
(a)
de naam van de betrokken aanbieder of gebruiksverantwoordelijke;
(b)
een beschrijving van de relevante feiten, de bepalingen van deze verordening waarop inbreuk zou zijn gemaakt en alle gegronde en voldoende redenen om een inbreuk te vermoeden, waaronder in voorkomend geval een beschrijving van de negatieve gevolgen van de vermeende inbreuk;
(c)
de markttoezichtautoriteit die het verzoek indient.
Het AI-bureau houdt zoveel mogelijk rekening met het verzoek en de markttoezichtautoriteit werkt actief samen met het AI-bureau en verleent het de nodige bijstand bij de uitoefening van zijn bevoegdheden overeenkomstig lid 1 bis.
Het AI-bureau stelt het centrale contactpunt zonder onnodige vertraging en in elk geval uiterlijk vier maanden na ontvangst van het verzoek in kennis van zijn voornemen om zijn bevoegdheden overeenkomstig artikel 75 bis uit te oefenen of van de redenen waarom het zijn bevoegdheden niet uitoefent. Indien het AI-bureau besluit zijn bevoegdheden overeenkomstig artikel 75 bis uit te oefenen, stelt het dat centrale contactpunt periodiek in kennis van belangrijke ontwikkelingen in de procedure en de uitkomst van die procedure, zonder vertrouwelijke informatie openbaar te maken.”
32.
de volgende artikelen worden ingevoegd:
“Artikel 75 bis
Toezichts- en handhavingsbevoegdheden van het AI-bureau
1.
Bij de uitvoering van zijn in artikel 75, lid 1, van deze verordening vastgestelde toezichts- en handhavingstaken beschikt het AI-bureau over alle bevoegdheden van een markttoezichtautoriteit die zijn bepaald in deze afdeling en in artikel 14, lid 4, en artikel 16, lid 3, van Verordening (EU) 2019/1020. Het AI-bureau is gemachtigd om alle kosten van zijn toezichts- en handhavingsactiviteiten met betrekking tot gevallen van niet-naleving, met inbegrip van de kosten voor personele en technische middelen, volledig terug te vorderen van de betrokken operator, overeenkomstig artikel 15 van Verordening (EU) 2019/1020. Artikel 17 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing.
2.
Wanneer het AI-bureau redelijke gronden heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in artikel 75, lid 1, van deze verordening bedoeld AI-systeem deze verordening niet naleeft, kan het een besluit nemen om een onderzoek naar die niet-naleving te starten overeenkomstig artikel 14, lid 4, punt f), van Verordening (EU) 2019/1020. Wanneer het AI-bureau een dergelijk onderzoek start, stelt het de operator van het betrokken AI-systeem daarvan in kennis. Het AI-bureau kan de in lid 1 van dit artikel bedoelde bevoegdheden op eigen initiatief of naar aanleiding van een op grond van artikel 85 van deze verordening ontvangen klacht uitoefenen, zelfs voordat het een onderzoek op grond van artikel 14, lid 4, punt f), van Verordening (EU) 2019/1020 start.
Wanneer een markttoezichtautoriteit redenen heeft om te vermoeden dat een aanbieder of gebruiksverantwoordelijke van een in artikel 75, lid 1, bedoeld AI-systeem deze verordening niet naleeft, kan zij het AI-bureau verzoeken de zaak te beoordelen.
3.
Het AI-bureau kan de in artikel 14, lid 4, punten a), b) en c), van Verordening (EU) 2019/1020 en artikel 74, leden 12 en 13, van deze verordening genoemde bevoegdheden uitoefenen bij eenvoudig verzoek of bij besluit.
Wanneer het AI-bureau om informatie verzoekt, vermeldt het de rechtsgrondslag en het doel van het verzoek, specificeert het welke informatie wordt verlangd en stelt het de termijn vast waarbinnen de informatie moet worden verstrekt. Indien het verzoek een eenvoudig verzoek is, geeft het AI-bureau daarnaast aan dat, hoewel er geen verplichting is om de gevraagde informatie te verstrekken, de informatie in het geval van een vrijwillig antwoord correct en niet misleidend moet zijn, en vermeldt het de mogelijke geldboeten waarin artikel 99, lid 5, voorziet voor het verstrekken van onjuiste of misleidende informatie. Indien het verzoek bij besluit wordt gedaan, vermeldt het AI-bureau bovendien de in artikel 99, lid 5, bepaalde geldboeten voor het verstrekken van onjuiste, onvolledige of misleidende informatie en wijst het op het recht om het besluit te laten toetsen door het Hof van Justitie van de Europese Unie. Het AI-bureau stuurt een kopie van het verzoek naar de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de operator of zijn wettelijke vertegenwoordiger zich bevindt.
4.
Om de taken uit te voeren die hem krachtens deze afdeling zijn toegewezen, kan het AI-bureau alle nodige inspecties op afstand of ter plaatse uitvoeren op grond van de bevoegdheden van artikel 14, lid 4, punten d) en e), van Verordening (EU) 2019/1020 en artikel 74, lid 5, van deze verordening. Wanneer het een inspectie uitvoert, stelt het AI-bureau de betrokken aanbieder in kennis van het voorwerp en het doel van het onderzoek, de in artikel 99, lid 5, van deze verordening bedoelde toepasselijke boetes en het recht om het besluit te laten toetsen door het Hof van Justitie van de Europese Unie. Voordat het een inspectie uitvoert, stelt het AI-bureau de markttoezichtautoriteit van de lidstaat op het grondgebied waarvan de operator of zijn wettelijke vertegenwoordiger zich bevindt, daarvan in kennis.
Tijdens een dergelijke inspectie zijn de functionarissen van het AI-bureau bevoegd om:
(a)
alle lokalen, terreinen of eigendommen van de betrokken operator die zich in de Unie bevinden, te betreden;
(b)
de boeken, gegevens en ander voor de uitvoering van hun taken relevant materiaal te onderzoeken, ongeacht de informatiedrager;
(c)
in eender welke vorm kopieën of uittreksels van boeken, gegevens en andere bescheiden te maken of te verkrijgen;
(d)
alle personen die voorwerp van de inspectie zijn of hun vertegenwoordigers of personeelsleden te verzoeken om mondelinge of schriftelijke toelichting bij factoren of documenten met betrekking tot het onderwerp en het doel van de inspectie, en de antwoorden op te tekenen;
(e)
lokalen en boeken of bescheiden van de onderneming te verzegelen voor de duur van, en voor zover nodig voor, de inspectie.
Indien het AI-bureau van oordeel is dat een natuurlijk of rechtspersoon zich tegen een inspectie verzet of een inspectie belemmert, verleent de nationale bevoegde autoriteit van de betrokken lidstaat het de nodige bijstand om het in staat te stellen zijn inspectie ter plaatse uit te voeren, zo nodig door een beroep te doen op de politie of een gelijkwaardige handhavingsautoriteit.
Indien voor een inspectie ter plaatse van lokalen, terreinen of eigendommen de toestemming van een rechterlijke instantie overeenkomstig het nationale recht vereist is, verzoekt het AI-bureau om die toestemming. Het AI-bureau kan die toestemming ook bij wijze van voorzorgsmaatregel vragen. Wanneer om een dergelijke toestemming wordt verzocht, gaat de nationale rechterlijke instantie onverwijld na of de voorgenomen dwangmaatregelen niet willekeurig zijn noch buitensporig in verhouding tot het voorwerp van het onderzoek of de inspectie en de documenten die het AI-bureau bij het besluit heeft gevoegd. Bij haar toetsing van de evenredigheid van dwangmaatregelen kan de nationale rechterlijke instantie het AI-bureau om nadere toelichting verzoeken, in het bijzonder over de redenen die het AI-bureau heeft om aan te nemen dat op deze verordening inbreuk is gemaakt, de ernst van de vermoedelijke inbreuk en, in voorkomend geval, de aard van de betrokkenheid van de aan de dwangmaatregelen onderworpen persoon. De nationale rechterlijke instantie mag niet de noodzakelijkheid van het onderzoek of de inspectie toetsen, noch de informatie uit het dossier van het AI-bureau opvragen. Overeenkomstig de Verdragen is de rechtmatigheid van het besluit van het AI-bureau alleen onderworpen aan toetsing door het Hof van Justitie van de Europese Unie.
5.
Op verzoek van het AI-bureau kan de bevoegde markttoezichtautoriteit van een lidstaat op haar eigen grondgebied namens en voor rekening van het AI-bureau onderzoeken, inspecties of andere onderzoeksmaatregelen uitvoeren om vast te stellen of er sprake is van een inbreuk op deze verordening. De functionarissen van de bevoegde autoriteiten van de lidstaten die met het verrichten van dergelijke onderzoeken, inspecties of onderzoeksmaatregelen zijn belast, alsmede de door hen gemachtigde of aangewezen functionarissen, oefenen hun bevoegdheden uit overeenkomstig hun nationale recht.
6.
Naast de in lid 1 van dit artikel bepaalde bevoegdheden kan het AI-bureau bij de uitoefening van zijn in artikel 75, lid 1, bedoelde bevoegdheden:
(a)
operatoren gelasten toegang te verlenen tot en uitleg te geven over hun AI-systemen;
(b)
een operator een verplichting opleggen om alle gegevens en documenten te bewaren die nodig worden geacht om de uitvoering en naleving van de verplichtingen uit hoofde van deze verordening te beoordelen.
7.
Om het bij te staan bij het monitoren van de doeltreffende uitvoering en naleving van de relevante bepalingen van deze verordening en om het bij de uitoefening van zijn bevoegdheden uit hoofde van artikel 75, lid 1, te voorzien van specifieke deskundigheid of kennis, kan het AI-bureau onafhankelijke externe deskundigen en auditors benoemen, alsook, met instemming van de betrokken autoriteit, deskundigen, onderzoeksteams en auditors van de bevoegde autoriteiten van de lidstaat. Informatie die als gevolg van dergelijke monitoringacties is verkregen, wordt gedeeld met de relevante bevoegde autoriteiten van de lidstaten.
8.
De op grond van dit artikel verzamelde informatie wordt uitsluitend gebruikt voor de toepassing van deze verordening.
Artikel 75 ter
Toezeggingen
Indien de betrokken operator tijdens de procedure op grond van artikel 75 bis, lid 2, toezeggingen doet om de naleving van de relevante bepalingen van deze verordening te waarborgen, kan het AI-bureau deze toezeggingen bij besluit bindend maken voor de operator en verklaren dat er geen redenen zijn om verder op te treden. Het AI-bureau kan, op verzoek of op eigen initiatief, de procedure heropenen indien:
(a)
er zich een materiële wijziging heeft voorgedaan in de feiten waarop het besluit berust;
(b)
de operator in strijd met zijn toezeggingen handelt; of
(c)
het besluit berustte op door de betrokken operator verstrekte onvolledige, onjuiste of misleidende informatie.
Indien het AI-bureau van oordeel is dat de toezeggingen die door de betrokken operator zijn gedaan, niet toereikend zijn om de daadwerkelijke naleving van de relevante bepalingen van deze verordening te waarborgen, wijst het die toezeggingen bij het afsluiten van de procedure in een met redenen omkleed besluit af.
Artikel 75 quater
Niet-naleving, boeten en dwangsommen
1.
Indien het AI-bureau vaststelt dat een operator die binnen het toepassingsgebied van artikel 75, lid 1, valt, de desbetreffende bepalingen van deze verordening of de op grond van artikel 75 ter verbindend verklaarde toezeggingen niet naleeft, stelt het een besluit vast waarin die niet-naleving wordt vastgesteld.
2.
Alvorens een besluit op grond van lid 1 vast te stellen, deelt het AI-bureau zijn voorlopige bevindingen mee aan de betrokken operator. In de voorlopige bevindingen licht het AI-bureau de maatregelen toe die het overweegt te nemen of die de betrokken operator volgens hem moet nemen om doeltreffend gevolg te geven aan de voorlopige bevindingen.
3.
In het op grond van lid 1 van dit artikel vastgestelde besluit gelast het AI-bureau de betrokken operator in voorkomend geval de nodige maatregelen te nemen om ervoor te zorgen dat de relevante bepalingen van deze verordening binnen een daarin vermelde redelijke termijn worden nageleefd en om informatie te verstrekken over de maatregelen die die operator voornemens is te nemen om aan het besluit te voldoen. De betrokken operator verstrekt het AI-bureau een beschrijving van de maatregelen die hij heeft genomen om ervoor te zorgen dat het besluit bij de uitvoering van die maatregelen wordt nageleefd. Alvorens om maatregelen te verzoeken, kan het AI-bureau een gestructureerde dialoog aangaan met de operator van het AI-systeem in kwestie. Tijdens deze dialoog kan de operator toezeggingen voorstellen overeenkomstig artikel 75 ter.
4.
Een op grond van lid 1 van dit artikel vastgesteld besluit kan vergezeld gaan van het opleggen van sancties overeenkomstig artikel 99, leden 3 tot en met 7, waarvan de bepalingen van overeenkomstige toepassing zijn op het AI-bureau bij de uitvoering van zijn in artikel 75, lid 1, bedoelde toezichts- en handhavingstaken.
Met name is het volgende onderworpen aan administratieve geldboeten als bedoeld in artikel 99, lid 4:
(a)
inbreuken op toepasselijke bepalingen van deze verordening, met inbegrip van die welke niet in artikel 99, lid 4, zijn vermeld;
(b)
niet-naleving van besluiten of maatregelen die zijn vastgesteld op grond van de in artikel 14, lid 4, of artikel 16, lid 3, van Verordening (EU) 2019/1020 genoemde bevoegdheden, alsook van de in artikel 75 bis van deze verordening nader genoemde bevoegdheden;
(c)
het nalaten een toezegging waaraan krachtens artikel 75 ter bij besluit een bindend karakter is verleend, na te komen.
Voor de verstrekking van onjuiste, onvolledige of misleidende informatie aan het AI-bureau in antwoord op een verzoek, gelden administratieve geldboeten als bedoeld in artikel 99, lid 5.
5.
Het AI-bureau kan een besluit vaststellen waarbij dwangsommen worden opgelegd om de operatoren die krachtens artikel 75, lid 1, onder zijn bevoegdheid vallen, te dwingen tot het volgende:
(a)
mee te werken aan een onderzoek;
(b)
gevolg te geven aan een verzoek om informatie dat bij een uit hoofde van artikel 75 bis, lid 3, vastgesteld besluit is gelast;
(c)
zich aan een bij een besluit op grond van artikel 75 bis, lid 4, gelaste inspectie ter plaatse te onderwerpen;
(d)
correcte of volledige antwoorden of toelichtingen te verstrekken in het kader van een bij een besluit uit hoofde van artikel 75 bis, lid 4, gelaste inspectie;
(e)
te voldoen aan corrigerende maatregelen die zijn gelast op grond van de in artikel 16 van Verordening (EU) 2019/1020 genoemde bevoegdheid;
(f)
een toezegging waaraan op grond van artikel 75 ter bij besluit een bindend karakter is verleend, na te komen; of
(g)
een besluit op grond van lid 1 van dit artikel na te leven.
Die dwangsommen zijn doeltreffend en evenredig en bedragen, in voorkomend geval, niet meer dan 5 % van het gemiddelde dagelijkse inkomen of de gemiddelde wereldwijde jaaromzet in het voorgaande boekjaar per dag, berekend vanaf de in het besluit vastgestelde datum.
6.
Het Hof van Justitie van de Europese Unie heeft volledige rechtsmacht om besluiten van het AI-bureau tot oplegging van een geldboete of dwangsom op grond van dit artikel te toetsen. Het kan de opgelegde geldboete of dwangsom intrekken, verlagen of verhogen.
7.
De bedragen die worden geïnd door het opleggen van geldboeten of dwangsommen op grond van dit artikel, dragen bij aan de algemene begroting van de Unie.
8.
Voor de door dit artikel aan het AI-bureau verleende bevoegdheden geldt een verjaringstermijn van drie jaar. De verjaringstermijn gaat in op de dag waarop de inbreuk wordt begaan. Bij voortgezette of herhaalde inbreuken gaat de verjaringstermijn echter pas in op de dag waarop de inbreuk is beëindigd.
De bevoegdheid van het AI-bureau om op grond van dit artikel genomen besluiten ten uitvoer te leggen, verjaart na drie jaar. De verjaringstermijn gaat in op de dag waarop het besluit niet meer kan worden aangevochten.
In de in artikel 75 quinquies, lid 3, bedoelde uitvoeringshandeling worden de eerste en de tweede alinea van dit lid gespecificeerd, met inbegrip van de omstandigheden waarin de verjaringstermijnen worden gestuit.
9.
Indien het AI-bureau vaststelt dat er geen redenen zijn om een besluit van niet-naleving vast te stellen, sluit het de procedure met een besluit af. Dat besluit is onmiddellijk van toepassing.
Artikel 75 quinquies
Vrijwaringsmaatregelen en verdere specificatie
1.
Artikel 18 van Verordening (EU) 2019/1020 is van overeenkomstige toepassing op de operatoren die onder de bevoegdheid van het AI-bureau vallen overeenkomstig artikel 75, lid 1, van deze verordening, onverminderd specifiekere procedurele rechten waarin deze verordening voorziet.
2.
De rechten van de verdediging, en het recht op inzage van het dossier, van operatoren die onder het toepassingsgebied van artikel 75, lid 1, vallen, worden in procedures ten volle geëerbiedigd. Met het oog op de mogelijke vaststelling van besluiten op basis van artikel 75 quater, lid 1, hebben die operatoren recht op inzage van het dossier van het AI-bureau onder de voorwaarden van een onderhandelde openbaarmaking, onder voorbehoud van het rechtmatige belang van de operator of andere betrokken persoon bij de bescherming van hun bedrijfsgeheimen. Bij onenigheid tussen de partijen is het AI-bureau bevoegd om besluiten te nemen tot vaststelling van dergelijke voorwaarden van openbaarmaking. Het recht op inzage van het dossier geldt niet voor vertrouwelijke inlichtingen en interne documenten van het AI-bureau, de AI-board, bevoegde markttoezichtautoriteiten of andere overheidsinstanties van de lidstaten. Het recht op inzage geldt met name niet voor correspondentie tussen het AI-bureau en die autoriteiten. Niets in dit lid belet het AI-bureau om voor het bewijs van een inbreuk noodzakelijke inlichtingen bekend te maken of te gebruiken.
3.
De Commissie kan uitvoeringshandelingen vaststellen met betrekking tot de praktische regelingen voor inzage van het dossier en de onderhandelde openbaarmaking van informatie als bepaald in lid 2.
4.
Het AI-bureau maakt de besluiten bekend die het op grond van de artikelen 75 ter en 75 quater neemt. In de bekendmaking worden de namen van de partijen en de hoofdpunten van het besluit, waaronder opgelegde sancties, vermeld. Bij de bekendmaking wordt rekening gehouden met de rechten en het rechtmatige belang van betrokken personen bij de bescherming van hun vertrouwelijke informatie.”
33.
aan artikel 76, lid 1, wordt de volgende alinea toegevoegd:
“Wanneer het testen onder reële omstandigheden is gebaseerd op artikel 60 bis, wordt elke verwijzing naar een markttoezichtautoriteit in dit artikel opgevat als een verwijzing naar de nationale bevoegde autoriteit of de bevoegde autoriteit uit hoofde van de in bijlage I, afdeling B, opgenomen harmonisatiewetgeving van de Unie, en worden verwijzingen naar artikel 60 in voorkomend geval gelezen als verwijzingen naar artikel 60 bis.”
34.
artikel 77 wordt als volgt gewijzigd:
(a)
de titel wordt vervangen door:
“Bevoegdheden van de autoriteiten voor de bescherming van de grondrechten en samenwerking met markttoezichtautoriteiten”
(b)
lid 1 wordt vervangen door:
1.
“Nationale overheidsinstanties of -organen die de nakoming van verplichtingen krachtens het Unierecht ter bescherming van de grondrechten, waaronder het recht op non-discriminatie, controleren of handhaven, zijn bevoegd om krachtens deze verordening opgestelde of bijgehouden informatie of documentatie in een toegankelijke taal en in een machineleesbaar formaat elektronisch op te vragen en in te zien bij de relevante markttoezichtautoriteit wanneer toegang tot die informatie of documentatie nodig is voor het doeltreffend uitoefenen van de bevoegdheden onder hun mandaat binnen de grenzen van hun rechtsgebied. Dit artikel doet geen afbreuk aan de competenties, taken, bevoegdheden en onafhankelijkheid van de relevante nationale overheidsinstanties of -organen in het kader van hun mandaten.”
(c)
de volgende leden worden ingevoegd:
“1 bis. Onder de in dit artikel gespecificeerde voorwaarden verleent de markttoezichtautoriteit de relevante overheidsinstantie of het relevante overheidsorgaan als bedoeld in lid 1, toegang tot die informatie of documentatie, onder meer door, indien nodig, die informatie of documentatie onverwijld op te vragen bij de aanbieder of de gebruiksverantwoordelijke.
1 ter. De markttoezichtautoriteiten en de in lid 1 bedoelde overheidsinstanties of -organen werken nauw samen en verlenen elkaar de wederzijdse bijstand die nodig is voor het uitoefenen van de bevoegdheden onder hun mandaat, teneinde te zorgen voor de coherente toepassing van deze verordening en het Unierecht gericht op de bescherming van de grondrechten en het stroomlijnen van de procedures, met eerbiediging van hun respectieve competenties, taken, bevoegdheden en onafhankelijkheid. Dit omvat met name de uitwisseling van informatie waar dit nodig is voor het effectieve toezicht op of de effectieve handhaving van deze verordening en de respectieve andere wetgeving van de Unie.”
35.
in artikel 95 wordt lid 4 vervangen door:
4.
“Het AI-bureau en de lidstaten houden rekening met de specifieke belangen en behoeften van kmo’s, waaronder start-ups, en kleine midcapondernemingen bij het stimuleren en faciliteren van het opstellen van gedragscodes.”
36.
in artikel 96 wordt lid 1 als volgt gewijzigd:
(a)
in de eerste alinea wordt punt a) vervangen door:
(a)
de toepassing van de in de artikelen 8 tot en met 15 en de artikelen 25 en 26 bedoelde vereisten en verplichtingen;”
(b)
aan de eerste alinea wordt het volgende punt toegevoegd:
(g)
de praktische uitvoering van artikel 8, lid 2, artikel 9, lid 10, en artikel 17, lid 3, overeenkomstig het beginsel van complementariteit en evenredigheid, om consistentie te waarborgen, dubbel werk te voorkomen en extra lasten tot een minimum te beperken bij de naleving van de vereisten van deze verordening en de vereisten van de in bijlage I, deel A, vermelde harmonisatiewetgeving van de Unie; deze richtsnoeren worden uiterlijk op 1 augustus 2027 bekendgemaakt.”
(c)
de tweede alinea wordt vervangen door:
“Bij het uitvaardigen van dergelijke richtsnoeren betrekt de Commissie de AI-board en besteedt zij bijzondere aandacht aan de behoeften van kmo’s en, met inbegrip van start-ups, en kleine midcapondernemingen, lokale overheidsinstanties en sectoren die het waarschijnlijkst door deze verordening zullen worden beïnvloed.”
37.
artikel 97 wordt als volgt gewijzigd:
(a)
de leden 2 en 3 worden vervangen door:
2.
“De in artikel 6, leden 6 en 7, artikel 7, leden 1 en 3, artikel 11, lid 3, artikel 43, leden 5 en 6, artikel 47, lid 5, artikel 51, lid 3, artikel 52, lid 4, en artikel 53, leden 5 en 6, bedoelde bevoegdheid om gedelegeerde handelingen vast te stellen, wordt aan de Commissie toegekend voor een termijn van vijf jaar met ingang van 1 augustus 2024. De in artikel 2, lid 13, en artikel 30, lid 2, bedoelde bevoegdheid om gedelegeerde handelingen vast te stellen, wordt aan de Commissie toegekend voor een termijn van vijf jaar met ingang van 27 juli 2026. De Commissie stelt uiterlijk negen maanden voor het einde van de termijn van vijf jaar een verslag op over de bevoegdheidsdelegatie. De bevoegdheidsdelegatie wordt stilzwijgend met termijnen van dezelfde duur verlengd, tenzij het Europees Parlement of de Raad zich uiterlijk drie maanden voor het einde van elke termijn tegen deze verlenging verzet.
3.
Het Europees Parlement of de Raad kan de in artikel 2, lid 13, artikel 6, leden 6 en 7, artikel 7, leden 1 en 3, artikel 11, lid 3, artikel 30, lid 2, artikel 43, leden 5 en 6, artikel 47, lid 5, artikel 51, lid 3, artikel 52, lid 4, en artikel 53, leden 5 en 6, bedoelde bevoegdheidsdelegatie te allen tijde intrekken. Het besluit tot intrekking beëindigt de delegatie van de in dat besluit genoemde bevoegdheid. Het wordt van kracht op de dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie of op een daarin genoemde latere datum. Het laat de geldigheid van de reeds van kracht zijnde gedelegeerde handelingen onverlet.”
(b)
lid 6 wordt vervangen door:
6.
“Een op grond van artikel 2, lid 13, artikel 6, lid 6 of lid 7, artikel 7, lid 1 of lid 3, artikel 11, lid 3,artikel 30, lid 2, artikel 43, lid 5 of lid 6, artikel 47, lid 5, artikel 51, lid 3, artikel 52, lid 4, of artikel 53, lid 5 of lid 6, vastgestelde gedelegeerde handeling treedt alleen in werking indien het Europees Parlement noch de Raad daartegen binnen een termijn van drie maanden na de kennisgeving van de handeling aan het Europees Parlement en de Raad bezwaar heeft gemaakt, of indien zowel het Europees Parlement als de Raad voor het verstrijken van die termijn de Commissie hebben meegedeeld dat zij daartegen geen bezwaar zullen maken. Die termijn wordt op initiatief van het Europees Parlement of de Raad met drie maanden verlengd.”
38.
artikel 99 wordt als volgt gewijzigd:
(a)
lid 1 wordt vervangen door:
1.
“Overeenkomstig de voorwaarden van deze verordening stellen de lidstaten de voorschriften vast voor sancties en andere handhavingsmaatregelen, die ook administratieve boeten, waarschuwingen en niet-monetaire maatregelen kunnen omvatten, die van toepassing zijn op elke inbreuk op deze verordening door operatoren, en nemen zij alle nodige maatregelen om ervoor te zorgen dat deze naar behoren en doeltreffend worden uitgevoerd, daarbij rekening houdend met de richtsnoeren die de Commissie op grond van artikel 96 heeft uitgevaardigd. De vastgestelde sancties moeten doeltreffend, evenredig en afschrikkend zijn. Bij het opleggen van sancties houden de lidstaten rekening met de belangen van kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen, en met hun economische levensvatbaarheid.”
(b)
in lid 4 wordt het volgende punt ingevoegd:
verplichtingen voor aanbieders en operatoren op grond van artikel 25, leden 2 en 4;”
(c)
het volgende lid wordt ingevoegd:
“6 bis. In het geval van kleine midcapondernemingen bedraagt elke in de leden 4 en 5 bedoelde geldboete ten hoogste de daarin bedoelde percentages of bedragen, indien deze lager zijn.”
39.
artikel 111 wordt als volgt gewijzigd:
(a)
lid 2 wordt vervangen door:
2.
“Onverminderd de toepassing van artikel 5 als bedoeld in artikel 113, derde alinea, punt a), is deze verordening alleen van toepassing op operatoren van AI-systemen met een hoog risico, met uitzondering van de in lid 1 van dit artikel bedoelde systemen, die vóór de in artikel 113 vermelde toepassingsdatum voor hoofdstuk III in de handel zijn gebracht of in gebruik zijn gesteld, indien die systemen vanaf die datum aanzienlijke wijzigingen in hun ontwerp ondergaan. In ieder geval ondernemen de aanbieders en gebruiksverantwoordelijken van AI-systemen met een hoog risico die bedoeld zijn om door overheidsinstanties te worden gebruikt, de nodige stappen om uiterlijk op 2 augustus 2030 aan de eisen en verplichtingen van deze verordening te voldoen.”
(b)
het volgende lid wordt toegevoegd:
4.
“Aanbieders van AI-systemen, met inbegrip van AI-systemen voor algemene doeleinden, die synthetische audio-, beeld-, video- of tekstinhoud genereren en vóór 2 augustus 2026 in de handel zijn gebracht, nemen de nodige stappen om uiterlijk op 2 december 2026 aan artikel 50, lid 2, te voldoen.”
40.
in artikel 113 wordt de derde alinea als volgt gewijzigd:
(a)
punt a) wordt vervangen door:
(a)
de hoofdstukken I en II van toepassing met ingang van 2 februari 2025, met uitzondering van artikel 5, lid 1, eerste alinea, punten b bis) en b ter), en artikel 5, leden 1 bis en lid 1 ter, die van toepassing zijn met ingang van 2 december 2026;”
(b)
punt c) wordt vervangen door:
(c)
hoofdstuk III, de afdelingen 1, 2 en 3, met uitzondering van artikel 6, lid 5, van toepassing met ingang van:
(i)
2 december 2027 voor wat betreft AI-systemen die op grond van artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn aangemerkt, en
(ii)
2 augustus 2028 voor wat betreft AI-systemen die op grond van artikel 6, lid 1, en bijlage I als AI-systemen met een hoog risico zijn aangemerkt.”
(c)
het volgende punt wordt toegevoegd:
(d)
de artikelen 102 tot en met 110 van toepassing met ingang van 27 juli 2026.”
41.
bijlage I wordt als volgt gewijzigd:
(a)
in afdeling A wordt punt 1 geschrapt;
(b)
in afdeling B wordt het volgende punt toegevoegd:
21.
Verordening (EU) 2023/1230 van het Europees Parlement en de Raad van 14 juni 2023 betreffende machines en tot intrekking van Richtlijn 2006/42/EG van het Europees Parlement en de Raad en Richtlijn 73/361/EEG van de Raad (PB L 165 van 29.6.2023, blz. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj).”
42.
in bijlage VIII, afdeling B, worden de punten 7 en 9 geschrapt;
43.
de volgende bijlage wordt toegevoegd:
“Bijlage XIV
De lijst met codes, categorieën en overeenkomstige soorten AI-systemen ten behoeve van de in artikel 30 bedoelde aanmeldingsprocedure ter omschrijving van de reikwijdte van de aanwijzing van de aangemelde instanties
Inleiding
Voor de conformiteitsbeoordeling van AI-systemen met een hoog risico uit hoofde van deze verordening kan de betrokkenheid van conformiteitsbeoordelingsinstanties vereist zijn. Alleen conformiteitsbeoordelingsinstanties die uit hoofde van deze verordening zijn aangewezen, mogen conformiteitsbeoordelingen uitvoeren, en dan alleen voor de activiteiten in verband met de betrokken soorten AI-systemen. De lijst met codes, categorieën en overeenkomstige soorten AI-systemen bepaalt de reikwijdte van de aanwijzing van conformiteitsbeoordelingsinstanties die krachtens artikel 30 zijn aangemeld.
Lijst met codes, categorieën en overeenkomstige soorten AI-systemen
a. AI-systemen die onder bijlage I, punt 1, vallen
AI-systemen die onder bijlage I, afdeling A, punt 2, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 3, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 4, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 5, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 6, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 7, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 8, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 9, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 10, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 11, vallen.
AI-systemen die onder bijlage I, afdeling A, punt 12, vallen.
b. AI-systemen die onder bijlage III, punt 1, vallen
Systemen voor biometrische identificatie op afstand
AI-systemen voor biometrische categorisering
AI-systemen voor het herkennen van emoties
AI-technologiespecifieke codes
a. Symbolische AI- en expertsystemen
AI-systemen op basis van symbolische AI, expert- en op kennis gebaseerde systemen, en AI-systemen op basis van zoekopdrachten en optimalisatie
b. Machinaal leren, met uitzondering van generatieve AI en AI-systemen voor algemene doeleinden
AI-systemen voor de verwerking van gestructureerde gegevens
AI-systemen voor de verwerking van signaal- en audiogegevens
AI-systemen voor de verwerking van tekstgegevens
AI-systemen voor de verwerking van beelden en video’s
AI-systemen die van hun omgeving leren, met uitzondering van AI-systemen die onder AIH 0401 vallen
c. AI-systemen op basis van AI-modellen voor algemene doeleinden of generatieve AI
Generatieve AI-systemen, met inbegrip van AI-systemen die zijn gebaseerd op AI-modellen voor algemene doeleinden
d. Opkomende AI-technologieën
AI-systemen op basis van andere opkomende AI-technologieën die niet onder andere codes vallen, met inbegrip van agentische AI
Verzoek om aanwijzing
De conformiteitsbeoordelingsinstanties maken gebruik van de lijsten met codes, categorieën en overeenkomstige soorten AI-systemen in deze bijlage bij het specificeren van de soorten AI-systemen in het in artikel 29 bedoelde verzoek om aanwijzing.”.
HOOFDSTUK II
Wijzigingen van Verordening (EU) 2018/1139 Openen als pagina
Artikel 2: Wijzigingen van Verordening (EU) 2018/1139 Openen als pagina
Verordening (EU) 2018/1139 wordt als volgt gewijzigd:
1.
aan artikel 27 wordt het volgende lid toegevoegd:
3.
“Onverminderd lid 2 worden bij het vaststellen van uitvoeringshandelingen krachtens lid 1 betreffende artificiële-intelligentiesystemen (AI-systemen) die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689 van het Europees Parlement en de Raad 22Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) ([PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj](https://data.europa.eu/eli/reg/2024/1689/oj)).”;", de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.
(*2) Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).”;"
2.
aan artikel 31 wordt het volgende lid toegevoegd:
3.
“Onverminderd lid 2 worden bij het vaststellen van uitvoeringshandelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”
3.
aan artikel 32 wordt het volgende lid toegevoegd:
3.
“Bij het vaststellen van gedelegeerde handelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, worden de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”
4.
aan artikel 36 wordt het volgende lid toegevoegd:
3.
“Onverminderd lid 2 worden bij het vaststellen van uitvoeringshandelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”
5.
aan artikel 39 wordt het volgende lid toegevoegd:
3.
“Bij het vaststellen van gedelegeerde handelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, worden de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”
6.
aan artikel 50 wordt het volgende lid toegevoegd:
3.
“Onverminderd lid 2 worden bij het vaststellen van uitvoeringshandelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”
7.
aan artikel 53 wordt het volgende lid toegevoegd:
3.
“Onverminderd lid 2 worden bij het vaststellen van uitvoeringshandelingen krachtens lid 1 betreffende AI-systemen die veiligheidscomponenten zijn in de zin van Verordening (EU) 2024/1689, de eisen van hoofdstuk III, afdeling 2, van die verordening in aanmerking genomen.”.
HOOFDSTUK III
Wijzigingen van Verordening (EU) 2023/1230 Openen als pagina
Artikel 3: Wijzigingen van Verordening (EU) 2023/1230 Openen als pagina
Verordening (EU) 2023/1230 wordt als volgt gewijzigd:
1.
aan artikel 8 worden de volgende alinea’s toegevoegd:
“De Commissie stelt overeenkomstig artikel 47 van deze verordening gedelegeerde handelingen vast om bijlage III bij deze verordening te wijzigen door gezondheids- en veiligheidsvereisten toe te voegen met betrekking tot artificiële-intelligentiesystemen (AI-systemen) die op grond van artikel 6, lid 1, van Verordening (EU) 2024/1689 van het Europees Parlement en de Raad 23Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) ([PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj](https://data.europa.eu/eli/reg/2024/1689/oj)).”;" als AI-systemen met een hoog risico zijn geclassificeerd omdat zij een veiligheidscomponent in een onder deze verordening vallend product zijn, of omdat zij zelf een onder deze verordening vallend product zijn. Bij de vaststelling van die vereisten wordt gewaarborgd dat daarin de desbetreffende vereisten van hoofdstuk III, afdeling 2, en de artikelen 17, 19, 72 en 73 van Verordening (EU) 2024/1689 worden weergegeven.
Bij de vaststelling van de in de derde alinea bedoelde gedelegeerde handelingen houdt de Commissie rekening met de doelstellingen van Verordening (EU) 2024/1689 en waarborgt zij een beschermingsniveau dat strookt met die verordening. Die gedelegeerde handelingen worden uiterlijk op 2 augustus 2028 van toepassing.
(*3) Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).”;"
2.
aan artikel 20 wordt het volgende lid toegevoegd:
10.
“Totdat er, op grond van dit artikel, naar geharmoniseerde normen of gemeenschappelijke specificaties wordt verwezen of deze worden vastgesteld met betrekking tot AI-systemen met een hoog risico, worden AI-systemen met een hoog risico die binnen het toepassingsgebied van deze verordening vallen en voldoen aan de desbetreffende geharmoniseerde normen waarnaar wordt verwezen, of gemeenschappelijke specificaties die zijn vastgesteld op grond van respectievelijk artikel 40 en artikel 41 van Verordening (EU) 2024/1689, geacht in overeenstemming te zijn met de essentiële gezondheids- en veiligheidsvereisten van bijlage III bij deze verordening met betrekking tot AI-systemen met een hoog risico.”
3.
artikel 47 wordt als volgt gewijzigd:
(a)
de leden 2 en 3 worden vervangen door:
2.
“De in artikel 6, leden 2 en 11, en artikel 7, lid 2, bedoelde bevoegdheid om gedelegeerde handelingen vast te stellen, wordt aan de Commissie toegekend voor een termijn van vijf jaar, met ingang van 19 juli 2023. De in artikel 8, lid 3, bedoelde bevoegdheid om gedelegeerde handelingen vast te stellen, wordt aan de Commissie toegekend voor een termijn van vijf jaar met ingang van 27 juli 2026. De Commissie stelt uiterlijk negen maanden voor het einde van de termijn van vijf jaar een verslag op over de bevoegdheidsdelegatie. De bevoegdheidsdelegatie wordt stilzwijgend met termijnen van dezelfde duur verlengd, tenzij het Europees Parlement of de Raad zich uiterlijk drie maanden voor het einde van elke termijn tegen deze verlenging verzet.
3.
Het Europees Parlement of de Raad kan de in artikel 6, leden 2 en 11, artikel 7, lid 2, en artikel 8, derde alinea, bedoelde bevoegdheidsdelegatie te allen tijde intrekken. Het besluit tot intrekking beëindigt de delegatie van de in dat besluit genoemde bevoegdheid. Het wordt van kracht op de dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie of op een daarin genoemde latere datum. Het laat de geldigheid van de reeds van kracht zijnde gedelegeerde handelingen onverlet.”
(b)
lid 6 wordt vervangen door:
6.
“Een op grond van artikel 6, lid 2, artikel 6, lid 11, artikel 7, lid 2, of artikel 8, lid 3, vastgestelde gedelegeerde handeling treedt alleen in werking indien het Europees Parlement noch de Raad daartegen binnen een termijn van twee maanden na de kennisgeving van de handeling aan het Europees Parlement en de Raad bezwaar heeft gemaakt, of indien zowel het Europees Parlement als de Raad voor het verstrijken van die termijn de Commissie hebben meegedeeld dat zij daartegen geen bezwaar zullen maken. Die termijn wordt op initiatief van het Europees Parlement of de Raad met twee maanden verlengd.”.
HOOFDSTUK IV
Inwerkingtreding en toepassing Openen als pagina
Artikel 4: Inwerkingtreding en toepassing Openen als pagina
Deze verordening treedt in werking op de derde dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie.
Overwegingen
Overweging 1
(1)
Verordening (EU) 2024/1689 van het Europees Parlement en de Raad 5Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) ([PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj](https://data.europa.eu/eli/reg/2024/1689/oj)). heeft tot doel geharmoniseerde regels betreffende artificiële intelligentie (AI) vast te stellen, de werking van de interne markt te verbeteren en de toepassing van mensgerichte en betrouwbare AI te bevorderen, en tegelijkertijd een hoog niveau van bescherming van de gezondheid, de veiligheid en de grondrechten te waarborgen, met ondersteuning van innovatie. Verordening (EU) 2024/1689 is op 1 augustus 2024 in werking getreden. Het van toepassing worden van de bepalingen ervan is gefaseerd, waarbij alle regels uiterlijk op 2 augustus 2027 van toepassing worden.
Overweging 2
(2)
De ervaringen die zijn opgedaan bij de uitvoering van de onderdelen van Verordening (EU) 2024/1689 die reeds van toepassing zijn, kunnen als input dienen voor de uitvoering van de onderdelen die nog niet van toepassing zijn. In dit kader heeft de uitgestelde ontwikkeling van normen die aanbieders van AI-systemen met een hoog risico van technische oplossingen voorzien om de naleving van hun verplichtingen uit hoofde van die verordening te waarborgen, alsook de uitgestelde vaststelling van governance- en conformiteitsbeoordelingskaders op nationaal niveau, een zwaarder dan verwachte regeldruk tot gevolg gehad. Daarnaast is uit raadplegingen van belanghebbenden gebleken dat er aanvullende maatregelen nodig zijn voor het faciliteren, alsook voor het verschaffen van duidelijkheid over uitvoering en naleving, zonder dat het niveau van bescherming van de gezondheid, veiligheid en grondrechten tegen AI-gerelateerde risico’s dat met de bepalingen van Verordening (EU) 2024/1689 wordt beoogd, in het gedrang komt.
Overweging 3
(3)
Er zijn gerichte wijzigingen van Verordening (EU) 2024/1689 nodig om bepaalde uitdagingen op het gebied van uitvoering aan te pakken teneinde de doeltreffende, eenvoudige en uniforme toepassing van de desbetreffende regels te waarborgen.
Overweging 4
(4)
Om AI-innovatie in de particuliere sector en de publieke sector mogelijk te maken, is het van belang dat de Commissie en de bevoegde autoriteiten van de lidstaten ervoor zorgen dat het toezicht op en de handhaving en monitoring van sectorale en nationale wetgeving niet leiden tot overlappingen, inconsistente interpretaties of uiteenlopende handhaving.
Overweging 5
(5)
Verordening (EU) 2024/1689 bevat horizontale regels voor AI-systemen om een consistent en hoog niveau van bescherming van openbare belangen op het gebied van de gezondheid, de veiligheid en grondrechten te waarborgen. Voor AI-systemen met een hoog risico als bedoeld in artikel 6, lid 1, is die verordening van toepassing in samenhang met de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie. In bepaalde gevallen is het mogelijk dat dergelijke harmonisatiewetgeving van de Unie eisen stelt, die hetzelfde of een hoger niveau van bescherming van relevante openbare belangen waarborgen als de specifieke eisen of verplichtingen die zijn vastgelegd in Verordening (EU) 2024/1689. In dat geval moet het mogelijk zijn de toepassing van in Verordening (EU) 2024/1689 vastgelegde specifieke eisen of verplichtingen te beperken, teneinde de naleving te vergemakkelijken, de administratieve lasten en dubbel werk tot een minimum te beperken en tegelijkertijd het door die verordening gewaarborgde beschermingsniveau te behouden. Een dergelijke beperking moet mogelijk zijn wanneer en voor zover de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie voorschriften bevat die een gelijkwaardig niveau van bescherming van de gezondheid, de veiligheid of de grondrechten bieden als de betrokken eis of verplichting. De Commissie moet de bevoegdheid krijgen om gedelegeerde handelingen vast te stellen ter aanvulling van die verordening, door dergelijke gevallen aan te wijzen en de betrokken producten, de eisen of verplichtingen die kunnen worden beperkt, alsmede de voorwaarden en de reikwijdte van een eventuele beperking, te specificeren, waarbij ervoor wordt gezorgd dat het door Verordening (EU) 2024/1689 geboden beschermingsniveau niet wordt verlaagd.
Overweging 6
(6)
De meeste bedrijven in de Unie zijn kleine en middelgrote ondernemingen, waarvan het merendeel micro- en kleine ondernemingen zijn. Ondernemingen die de definitie van micro-, kleine en middelgrote ondernemingen (kmo’s) overstijgen, namelijk de “kleine midcapondernemingen”, spelen een cruciale rol in de economie van de Unie. In vergelijking met kmo’s groeien kleine midcapondernemingen over het algemeen sneller en hebben zij een hoger niveau van innovatie en digitalisering. Zij hebben desalniettemin te maken met vergelijkbare uitdagingen op het gebied van administratieve lasten als die waar kmo’s mee te kampen hebben, zodat het van belang is bij de uitvoering van Verordening (EU) 2024/1689 evenredigheid en gerichte steun toe te passen. Om een soepele overgang van kmo’s naar kleine midcapondernemingen mogelijk te maken, is het zaak op coherente wijze de gevolgen aan te pakken, die de verordening op hun activiteiten kan hebben wanneer die ondernemingen kleine midcapondernemingen zijn geworden en te maken krijgen met regels die van toepassing zijn op grote ondernemingen. Verordening (EU) 2024/1689 voorziet in verschillende maatregelen voor kleinschalige operatoren, die in voorkomend geval moeten worden uitgebreid tot kleine midcapondernemingen, met inachtneming van de overkoepelende doelstellingen en het beschermingsniveau dat wordt geboden uit hoofde van Verordening (EU) 2024/1689. Om de behandeling van kmo’s en kleine midcapondernemingen in Verordening (EU) 2024/1689 te verduidelijken, moeten er definities voor kmo’s en kleine midcapondernemingen worden ingevoerd die overeenkomen met de respectievelijke definities in de bijlage bij Aanbeveling 2003/361/EG van de Commissie 6Aanbeveling van de Commissie 2003/361/EG van 6 mei 2003 betreffende de definitie van kleine, middelgrote en micro-ondernemingen ([PB L 124 van 20.5.2003, blz. 36](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2003:124:TOC), ELI: [http://data.europa.eu/eli/reco/2003/361/oj](http://data.europa.eu/eli/reco/2003/361/oj)). en de bijlage bij Aanbeveling (EU) 2025/1099 van de Commissie 7Aanbeveling (EU) 2025/1099 van de Commissie van 21 mei 2025 betreffende de definitie van kleine midcapondernemingen ([PB L, 2025/1099, 28.5.2025, ELI: http://data.europa.eu/eli/reco/2025/1099/oj](https://data.europa.eu/eli/reco/2025/1099/oj))..
Overweging 7
(7)
Het begrip “veiligheidscomponent” is cruciaal voor de classificatie van bepaalde AI-systemen als AI-systemen met een hoog risico volgens Verordening (EU) 2024/1689. Het begrip moet dus zodanig worden gedefinieerd dat het uitsluitend betrekking heeft op AI-systemen die nadelige effecten kunnen hebben op de gezondheid en veiligheid van personen of eigendom, in overeenstemming met de risicogebaseerde aanpak van die verordening. De definitie in artikel 3, punt 14), van Verordening (EU) 2024/1689 biedt niet de nodige duidelijkheid om aanbieders van AI-systemen in staat te stellen om te bepalen of een AI-systeem als veiligheidscomponent kan worden aangemerkt, waardoor het risico bestaat dat de classificatie van AI-systemen met hoog risico verder wordt uitgebreid dan wat gerechtvaardigd is door de risicogebaseerde aanpak van die verordening. Deze definitie moet dus worden gewijzigd. Ten eerste moet duidelijkheid worden verschaft over het begrip “veiligheidsfunctie”. De veiligheidsfunctie moet een beoogd doel van het systeem zijn, hetgeen door de aanbieder van het systeem wordt bepaald. Een AI-systeem vervult een veiligheidsfunctie wanneer het beoogde doel ervan, zoals bepaald door de aanbieder, erin bestaat risico’s voor de gezondheid en veiligheid van personen of eigendom te voorkomen of te beperken. Dit geldt met name niet voor AI-systemen die uitsluitend bedoeld zijn om taken uit te voeren die verband houden met bijstand aan gebruikers, optimalisering van prestaties, efficiëntie van dienstverlening, automatisering, gebruiksgemak, of niet-veiligheidsgerelateerde aspecten voor kwaliteitscontrole. Het enkele feit dat een AI-systeem is geïntegreerd in of functioneert binnen een product dat onder harmonisatiewetgeving van de Unie valt, betekent op zich nog niet dat het een veiligheidsfunctie vervult.
Overweging 8
(8)
Het huidige artikel 4 van Verordening (EU) 2024/1689 schrijft alle aanbieders en gebruiksverantwoordelijken van AI-systemen voor de AI-geletterdheid van hun personeel te waarborgen. De ontwikkeling van AI-geletterdheid door middel van onderwijs, opleiding en een leven lang leren is van cruciaal belang om aanbieders, gebruiksverantwoordelijken en andere betrokkenen van de nodige vaardigheden te voorzien om onderbouwde beslissingen te nemen met betrekking tot de inzet van AI-systemen. Uit door belanghebbenden gedeelde ervaringen is echter gebleken dat voor de bevordering van AI-geletterdheid een oplossing in de vorm van het opleggen van strenge verplichtingen die een toereikend niveau van AI-geletterdheid waarborgen, niet geschikt is voor alle soorten aanbieders en gebruiksverantwoordelijken. Daarnaast blijkt uit gegevens dat het opleggen van dergelijke verplichtingen extra regeldruk met zich brengt, met name voor kleinere ondernemingen, terwijl AI-geletterdheid een strategische prioriteit moet vormen, ongeacht de verplichtingen op het gebied van regelgeving en mogelijke sancties. In het licht van die informatie moet artikel 4 van Verordening (EU) 2024/1689 worden gewijzigd om aanbieders en gebruiksverantwoordelijken te verplichten maatregelen te nemen om de ontwikkeling van AI-geletterdheid te ondersteunen bij hun personeel en andere personen die namens hen AI-systemen exploiteren en gebruiken. De Commissie en de lidstaten moeten de inspanningen van aanbieders en gebruiksverantwoordelijken van AI-systemen ondersteunen en faciliteren, onder meer door opleidingsmogelijkheden aan te bieden, informatiebronnen te verstrekken en de uitwisseling van goede praktijken en andere initiatieven mogelijk te maken. Bij het nakomen van deze verplichting kunnen de Commissie en de lidstaten rekening houden met de Europese competentiekaders, bijvoorbeeld het digitalecompetentiekader voor burgers (DigComp) en het kader voor AI-geletterdheid voor het basis- en secundair onderwijs. De Europese raad voor artificiële intelligentie (European Artificial Intelligence Board — de “AI-board”) moet de Commissie en de lidstaten ondersteunen door aanbevelingen vast te stellen waarin gemeenschappelijke doelstellingen worden geformuleerd die moeten worden verwezenlijkt om aan hun verplichtingen te voldoen, en moet zorgen voor regelmatige uitwisseling tussen de Commissie en de lidstaten over dit onderwerp, terwijl de AI-toepassingsalliantie besprekingen met de bredere gemeenschap mogelijk moet maken.
Overweging 9
(9)
Opsporing en correctie van vooringenomenheid vormen een zwaarwegend algemeen belang omdat zij natuurlijke personen beschermen tegen de nadelige gevolgen van vooringenomenheid, waaronder discriminatie. Daarom voorziet Verordening (EU) 2024/1689 in een rechtsgrondslag op grond waarvan het aanbieders van AI-systemen met een hoog risico is toegestaan om in bepaalde uitzonderlijke gevallen en met strikte waarborgen bijzondere categorieën persoonsgegevens te verwerken. Deze rechtsgrondslag houdt verband met de verplichting van die aanbieders om praktijken vast te stellen voor de opsporing, preventie en correctie van vooringenomenheid die waarschijnlijk gevolgen heeft voor de gezondheid en de veiligheid van personen, negatieve gevolgen heeft voor de grondrechten, of leidt tot discriminatie die op grond van het Unierecht verboden is. Vooringenomenheid die dergelijke gevolgen kan hebben, kan niettemin ook het gevolg zijn van de maatregelen van de gebruiksverantwoordelijken van AI-systemen met een hoog risico. Bovendien kan dergelijke vooringenomenheid zich ook voordoen bij andere AI-systemen of -modellen. Zo kan vooringenomenheid in de toelatings- of risicobeoordelingsinstrumenten die worden gebruikt bij de beoordeling van aanvragen voor diverse soorten overheidsvergunningen of -licenties, rechten beperken of bepaalde groepen in feite de toegang tot openbare diensten ontzeggen. Er is dan ook een zwaarwegend algemeen belang om, bij wijze van uitzondering en wanneer dat strikt noodzakelijk is, aanbieders en gebruiksverantwoordelijken van andere AI-systemen en -modellen en gebruiksverantwoordelijken van AI-systemen met een hoog risico toe te staan bijzondere categorieën persoonsgegevens te verwerken met het oog op het opsporen en corrigeren van vooringenomenheid. Het is daarom noodzakelijk om de rechtsgrondslag die op grond van Verordening (EU) 2024/1689 is vastgesteld, uit te breiden tot die aanbieders en gebruiksverantwoordelijken. Die rechtsgrondslag moet onderworpen zijn aan dezelfde beperkingen, voorwaarden en waarborgen als die welke van toepassing zijn overeenkomstig het bestaande artikel 10, lid 5, van die verordening, waardoor de naleving van artikel 9, lid 2, punt g), van Verordening (EU) 2016/679 van het Europees Parlement en de Raad 8Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) ([PB L 119 van 4.5.2016, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2016:119:TOC), ELI: [http://data.europa.eu/eli/reg/2016/679/oj](http://data.europa.eu/eli/reg/2016/679/oj))., artikel 10, lid 2, punt g), van Verordening (EU) 2018/1725 van het Europees Parlement en de Raad 9Verordening (EU) 2018/1725 van het Europees Parlement en de Raad van 23 oktober 2018 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door de instellingen, organen en instanties van de Unie en betreffende het vrije verkeer van die gegevens, en tot intrekking van Verordening (EG) nr. 45/2001 en Besluit nr. 1247/2002/EG ([PB L 295 van 21.11.2018, blz. 39](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2018:295:TOC), ELI: [http://data.europa.eu/eli/reg/2018/1725/oj](http://data.europa.eu/eli/reg/2018/1725/oj))., en artikel 10, punt a), van Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad 10Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad ([PB L 119 van 4.5.2016, blz. 89](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2016:119:TOC), ELI: [http://data.europa.eu/eli/dir/2016/680/oj](http://data.europa.eu/eli/dir/2016/680/oj)). gewaarborgd is. Om aanbieders van AI-systemen met een hoog risico in staat te stellen op rechtmatige wijze activiteiten ter opsporing en correctie van vooringenomenheid uit te voeren ter voorbereiding op de naleving van de vereisten inzake AI-systemen met een hoog risico, met inbegrip van artikel 10, lid 2, punten f) en g), van Verordening (EU) 2024/1689, moet de rechtsgrondslag die is vastgesteld in artikel 4 bis van Verordening (EU) 2024/1689 bovendien van toepassing zijn vanaf de datum van het toepassing worden van die verordening.
Overweging 10
(10)
Artikel 5 van Verordening (EU) 2024/1689 verbiedt bepaalde praktijken van AI-systemen die bijzonder schadelijk en abusief zijn, in strijd zijn met bepaalde waarden van de Unie en bepaalde grondrechten schenden. Artikel 5 moet voortdurend worden getoetst, zoals is bepaald in artikel 112, lid 1, van die verordening. Gezien de technologische en maatschappelijke ontwikkelingen sinds de vaststelling van die verordening, waaronder de invoering en het wijdverbreide gebruik van AI-systemen die non-consensuele intieme beelden, video’s, audio en soortgelijk materiaal (“non-consensueel intiem materiaal”) en materiaal van seksueel misbruik van kinderen genereren, is het noodzakelijk artikel 5 van die verordening te wijzigen.
Overweging 11
(11)
Non-consensueel intiem materiaal vormt seksueel geweld en misbruik van personen, met name vrouwen. AI-systemen die dergelijk materiaal genereren of manipuleren, vormen een ernstig risico voor de gezondheid, veiligheid en grondrechten, waaronder de menselijke waardigheid, persoonlijke autonomie, integriteit en het privéleven van slachtoffers, met mogelijk ernstige, blijvende psychologische en andere schade, en biedt de mogelijkheid tot misbruik op grote schaal. Door de verspreiding van dergelijke technologieën, die dikwijls worden aangeduid als “uitkleed”-apps, is een expliciet wettelijk verbod dringend noodzakelijk geworden. Materiaal van seksueel misbruik van kinderen, met inbegrip van geheel of gedeeltelijk synthetisch materiaal, vormt een ernstige bedreiging voor de veiligheid en de grondrechten van kinderen. AI-systemen die dergelijk materiaal genereren of manipuleren, vormen een ernstig risico voor de menselijke waardigheid en de rechten van het kind, en dreigen seksueel geweld tegen kinderen te normaliseren, te versterken en in stand te houden. Daarom is een wijziging van artikel 5 van Verordening (EU) 2024/1689 noodzakelijk om vrouwen, kinderen, andere personen en de samenleving te beschermen tegen ernstig schadelijke praktijken — en daarmee de doelstellingen van die verordening na te streven — en om aanbieders en gebruiksverantwoordelijken duidelijkheid te verschaffen over de reikwijdte van hun verplichtingen, en zo problemen bij de tenuitvoerlegging aan te pakken.
Overweging 12
(12)
Het is noodzakelijk om het toepassingsgebied van het verbod duidelijk te omschrijven, met name wat betreft de omvang van de verplichtingen van aanbieders en gebruiksverantwoordelijken. Dit verbod mag aanbieders niet beletten de technische mogelijkheden van AI-systemen te ontwikkelen om beelden, video’s, audio of soortgelijk materiaal te genereren of te manipuleren. Wat betreft aanbieders moet het verbod beperkt blijven tot het in de handel brengen of het in gebruik stellen van AI-systemen die non-consensueel intiem materiaal of materiaal van seksueel misbruik van kinderen genereren of manipuleren en wel in twee gevallen: ten eerste moet het betrekking hebben op systemen die bedoeld zijn om dergelijk materiaal te genereren of te manipuleren. Ten tweede moet het betrekking hebben op systemen waarbij het genereren of manipuleren van dergelijk materiaal een redelijkerwijs te voorzien en reproduceerbaar resultaat is en waarbij geen redelijke en toereikende technische veiligheidsmaatregelen en andere waarborgen zijn getroffen — rekening houdend met redelijkerwijs te voorzien misbruik — om dat resultaat op betrouwbare wijze te voorkomen en, indien nodig, te corrigeren, en om waargenomen of gemeld geval van misbruik, met inbegrip van het omzeilen van dergelijke maatregelen, te corrigeren. Technische maatregelen en andere waarborgen om het genereren van dergelijk materiaal te voorkomen, kunnen onder meer bestaan uit het opschonen van gegevens, refusal training, safe prompt design en output controls, runtime prompt guardrails, inhoudsclassificatie- en filtermechanismen, gebruiksbeperkingen, mechanismen voor opsporing van misbruik, en meldings- en actiemechanismen. Dergelijke preventieve maatregelen moeten redelijk zijn voor het specifieke AI-systeem en worden als toereikend beschouwd indien zij stroken met de meest geavanceerde maatregelen en in elk specifiek geval aantoonbaar de kans op het genereren of manipuleren van dergelijk materiaal voorkomen of voldoende verminderen, rekening houdend met bekend en redelijkerwijs te voorzien misbruik, met inbegrip van redelijkerwijs te voorziene omzeiling van de preventieve maatregelen zonder ingrijpende technische aanpassingen. Voor aanbieders die daadwerkelijke zeggenschap behouden over AI-systemen, bijvoorbeeld via een platform of een webinterface, kan dit onder meer inhouden dat zij methoden voor het volgen en melden van gevallen van misbruik hanteren die volledig voldoen aan de privacy- en gegevensbeschermingswetgeving van de Unie. In gevallen van waargenomen of gemelde omzeiling van de preventieve maatregelen of andere waarborgen moeten passende corrigerende maatregelen worden genomen, op voorwaarde dat dergelijke maatregelen redelijk zijn, waarbij rekening gehouden wordt met het specifieke AI-systeem, met inbegrip van de introductie- en distributiestrategie ervan (zoals opensourcereleases). Wat betreft gebruiksverantwoordelijken moet het gebruik van een AI-systeem enkel worden verboden wanneer de gebruiksverantwoordelijke een AI-systeem gebruikt voor het genereren of manipuleren van non-consensueel intiem materiaal of materiaal van seksueel misbruik van kinderen. Dit omvat gevallen waarin een gebruiksverantwoordelijke AI-systemen gebruikt of misbruikt die in de handel zijn gebracht of in gebruik zijn gesteld zonder redelijke en adequate preventieve maatregelen, of waarin een gebruiksverantwoordelijke de preventieve maatregelen omzeilt of rechtmatige AI-systemen die niet zijn bedoeld om dergelijk materiaal te genereren of te manipuleren voor dergelijke doeleinden gebruikt. Het gebruiksverbod geldt derhalve niet voor het gebruik van een AI-systeem voor rechtmatige doeleinden, zoals het genereren of manipuleren van ander materiaal dan non-consensueel intiem materiaal of materiaal van seksueel misbruik van kinderen, zelfs niet in gevallen waarin het AI-systeem niet beschikt over redelijke en adequate waarborgen die door de aanbieder hadden moeten worden ingebouwd, en evenmin voor het onopzettelijk genereren of manipuleren van dergelijke inhoud. Wat het verbod op niet-consensueel intiem materiaal betreft, moeten, wanneer een AI-systeem bedoeld is voor het genereren of manipuleren van materiaal dat onder dit verbod valt, maatregelen en andere waarborgen middelen omvatten die geschikt zijn voor de distributie van het AI-systeem en die erop gericht zijn het op betrouwbare wijze verkrijgen en aantonen van de toestemming van de afgebeelde persoon voor dergelijk genereren of manipuleren mogelijk te maken, in overeenstemming met Verordening (EU) 2016/679. Het verbod op non-consensueel intiem materiaal moet worden beperkt tot realistische afbeeldingen van intieme lichaamsdelen, met name de geslachtsdelen, de schaamstreek, de anus, blootgestelde billen of blootgestelde vrouwelijke borsten, tepels of tepelhoven, of van seksueel expliciete gedragingen. Dit “realisme” heeft betrekking op de weergave van het gezicht, de stem of het lichaam van de persoon op een geloofwaardige, levensechte manier, ongeacht de realistische aard van de context waarin die weergave plaatsvindt of ongeacht of deze volledig overeenkomt met de werkelijke stem of het werkelijke uiterlijk van de afgebeelde persoon. Daarentegen worden karikaturale of fysiek onmogelijke afbeeldingen van iemands lichaam uitgesloten. Het verbod op non-consensueel intiem materiaal heeft geen invloed op het genereren of manipuleren van andere vormen van naaktmateriaal, zoals materiaal waarop geen herkenbare natuurlijke personen te zien zijn, realistische afbeeldingen van gedeeltelijk naakte personen waarbij de geslachtsdelen niet zichtbaar zijn en geen seksueel expliciete gedragingen worden afgebeeld, of niet-realistische artistieke werken van naakte personen die geen realistische weergave vormen van herkenbare natuurlijke personen die seksueel expliciete gedragingen verrichten of waarvan de geslachtsdelen worden afgebeeld. Het is evenmin van toepassing op generatieve AI-toepassingen waarbij intieme lichaamsdelen niet worden getoond of, indien dit wel het geval is, dit gebeurt met de vrijwillig gegeven, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming van de afgebeelde persoon (bijvoorbeeld virtuele-paskamerapplicaties (“try-on applications”) en medische applicaties, zoals medische anatomische simulaties en mammografieën); dit verbod vormt geen beletsel voor het uitzonderlijke gebruik van AI-systemen voor het genereren of manipuleren van naaktbeelden van de intieme delen van een identificeerbare persoon, in overeenstemming met het recht inzake grondrechten, waaronder het recht inzake gegevensbescherming, en het toepasselijke gezondheidsrecht, met het oog op medische diagnose en behandeling door medische beroepsbeoefenaars wanneer de betrokken persoon niet in staat is zijn toestemming te geven (bijvoorbeeld in een noodsituatie). Ten slotte geldt het verbod op het “manipuleren” van non-consensueel intiem materiaal niet voor gevallen waarin reeds bestaand intiem materiaal zodanig wordt gemanipuleerd dat de zichtbaarheid van de afgebeelde intieme lichaamsdelen niet toeneemt of de aard van de afgebeelde seksueel expliciete gedragingen niet wordt gewijzigd, bijvoorbeeld door louter een bestaande afbeelding met intieme delen of een bestaande video met seksueel expliciete gedragingen te verbeteren, zoals het veranderen van de achtergrond, het toevoegen van een koptekst of het vergroten van het contrast of de helderheid. Daarentegen valt elk manipuleren van materiaal, met inbegrip van materiaal dat al intieme delen of seksueel expliciete gedragingen toont, die de mate van zichtbaarheid van afgebeelde intieme delen vergroot of de aard van afgebeelde seksueel expliciete gedragingen wijzigt, binnen het toepassingsgebied van dit verbod.
Overweging 13
(13)
Het verbod op materiaal van seksueel misbruik van kinderen mag geen belemmering vormen voor het in de handel brengen, in gebruik stellen of gebruiken van een AI-systeem, wanneer dit op grond van het nationale recht niet geacht wordt “wederrechtelijk” te zijn, zoals bedoeld in artikel 5, lid 1, van Richtlijn 2011/93/EU van het Europees Parlement en de Raad 11Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad ([PB L 335 van 17.12.2011, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2011:335:TOC), ELI: [http://data.europa.eu/eli/dir/2011/93/oj](http://data.europa.eu/eli/dir/2011/93/oj)).. Dit omvat activiteiten die worden uitgevoerd uit hoofde van nationale wettelijke bevoegdheden, zoals het rechtmatig genereren of manipuleren van materiaal van seksueel misbruik van kinderen door de autoriteiten met het oog op het voeren van strafprocedures of het voorkomen, opsporen of onderzoeken van strafbare feiten, alsook het rechtmatig gebruik van het AI-systeem in het kader van red-teaming en evaluatieactiviteiten om te beoordelen of het systeem voldoet aan het verbod van deze verordening.
Overweging 14
(14)
Deze verboden vormen gerechtvaardigde beperkingen van de vrijheid van meningsuiting en informatie en van de vrijheid van ondernemerschap. Zij streven doelstellingen van algemeen belang na en beschermen de rechten en vrijheden van anderen, onder meer die van artikel 1, artikel 3, lid 1, en de artikelen 4, 7, 8, 21, 23 en 24 van het Handvest van de grondrechten van de Europese Unie (“het Handvest”). De verboden zijn zorgvuldig op maat gemaakt. In het geval van intiem materiaal zijn de verboden beperkt tot realistische afbeeldingen van herkenbare natuurlijke personen en tot gevallen waarin het AI-systeem wordt gebruikt om de mate van naaktheid en explicietheid te vergroten, en het genereren en manipuleren met toestemming van de persoon van deze verboden uitgesloten. Verder zijn de verboden beperkt tot het verplichten van aanbieders om “redelijke en adequate” maatregelen te treffen en waarborgen in te voeren voor systemen die niet bedoeld zijn om het verboden materiaal te genereren of te manipuleren. Zij zijn ook afgestemd op het bestaande Unierecht, waaronder Richtlijn 2011/93/EU en Richtlijn (EU) 2024/1385 van het Europees Parlement en de Raad 12Richtlijn (EU) 2024/1385 van het Europees Parlement en de Raad van 14 mei 2024 ter bestrijding van geweld tegen vrouwen en huiselijk geweld, [PB L, 2024/1385, 24.5.2024, ELI: http://data.europa.eu/eli/dir/2024/1385/oj](https://data.europa.eu/eli/dir/2024/1385/oj)).. De beperkingen eerbiedigen de kern van de artikelen 11 en 16 van het Handvest, zijn bij wet vastgelegd en zijn evenredig.
Overweging 15
(15)
De gedragingen die onder deze verbodsbepalingen vallen, kunnen ook in strijd zijn met andere wetgeving, waaronder het strafrecht. Deze verboden sluiten vervolging op grond van dat recht niet uit. Voor zover een inbreuk op de verbodsbepalingen echter kan leiden tot het opleggen van sancties van strafrechtelijke aard, die kunnen worden vastgesteld op grond van artikel 99, lid 1, van Verordening (EU) 2024/1689, en voor zover dezelfde gedraging wordt bestraft op grond van het strafrecht, met inbegrip van het strafrecht dat binnen het toepassingsgebied van de Richtlijnen 2011/93/EU en (EU) 2024/1385 valt, moeten de lidstaten ervoor zorgen dat het ne bis in idem-beginsel overeenkomstig het Handvest wordt geëerbiedigd.
Overweging 16
(16)
Deze verboden doen geen afbreuk aan de rechtsmiddelen die personen op grond van de nationale wetgeving ter beschikking staan om hun grondrechten te beschermen, waaronder het recht op hun afbeelding, het recht op privacy en het recht op menselijke waardigheid.
Overweging 17
(17)
Om de samenhang te waarborgen, dubbel werk te voorkomen en de administratieve lasten met betrekking tot de procedure voor de aanwijzing van aangemelde instanties uit hoofde van Verordening (EU) 2024/1689 tot een minimum te beperken, met behoud van hetzelfde niveau van toetsing, moeten nieuwe conformiteitsbeoordelingsinstanties en aangemelde instanties die worden aangewezen uit hoofde van de in afdeling A van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, bijvoorbeeld uit hoofde van de Verordeningen (EU) 2017/745 13Verordening (EU) 2017/745 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen, tot wijziging van Richtlijn 2001/83/EG, Verordening (EG) nr. 178/2002 en Verordening (EG) nr. 1223/2009, en tot intrekking van Richtlijnen 90/385/EEG en 93/42/EEG van de Raad ([PB L 117 van 5.5.2017, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2017:117:TOC), ELI: [http://data.europa.eu/eli/reg/2017/745/oj](http://data.europa.eu/eli/reg/2017/745/oj)). en (EU) 2017/746 14Verordening (EU) 2017/746 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen voor in-vitrodiagnostiek en tot intrekking van Richtlijn 98/79/EG en Besluit 2010/227/EU van de Commissie ([PB L 117 van 5.5.2017, blz. 176](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2017:117:TOC), ELI: [http://data.europa.eu/eli/reg/2017/746/oj](http://data.europa.eu/eli/reg/2017/746/oj)). van het Europees Parlement en de Raad, de beschikking hebben over een procedure voor één enkele aanvraag en voor één uniforme beoordeling indien een dergelijke aanvraag en procedure is vastgesteld uit hoofde van die harmonisatiewetgeving van de Unie. De procedure voor één enkele aanvraag en één uniforme beoordeling heeft tot doel de aanwijzingsprocedure overeenkomstig Verordening (EU) 2024/1689 te vergemakkelijken, te ondersteunen en te bespoedigen, waarbij wordt voldaan aan de eisen die van toepassing zijn op de aangemelde instanties overeenkomstig die verordening en de in afdeling A van bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie. De procedure voor één uniforme beoordeling moet worden uitgevoerd met inachtneming van de taken en verantwoordelijkheden van de betrokken autoriteiten. Bovendien moet worden verduidelijkt dat een conformiteitsbeoordelingsinstantie die is aangewezen op grond van meer dan één van de in bijlage I, afdeling A, vermelde onderdelen van de harmonisatiewetgeving van de Unie, slechts eenmaal een aanvraag hoeft in te dienen om uit hoofde van deze verordening te worden aangewezen.
Overweging 18
(18)
Met het oog op een soepele toepassing en de samenhang van Verordening (EU) 2024/1689, moeten er wijzigingen in de verordening worden doorgevoerd. Er moet in artikel 43, lid 3, eerste alinea, van Verordening (EU) 2024/1689 technische correctie worden aangebracht om de eisen betreffende conformiteitsbeoordelingen af te stemmen op de eisen betreffende aanbieders van AI-systemen met een hoog risico in artikel 16 van die verordening. Bovendien moet worden verduidelijkt dat wanneer een aanbieder van een AI-systeem met een hoog risico onderworpen is aan de conformiteitsbeoordelingsprocedure uit hoofde van de in bijlage I, afdeling A, bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, en de conformiteitsbeoordeling zich uitstrekt tot de naleving van het kwaliteitsbeheersysteem van die verordening en van die harmonisatiewetgeving van de Unie, de aanbieder aspecten in verband met kwaliteitsbeheersystemen uit hoofde van die verordening moet kunnen opnemen als onderdeel van de kwaliteitsbeheersystemen uit hoofde van die harmonisatiewetgeving van de Unie, overeenkomstig artikel 17, lid 3, van Verordening (EU) 2024/1689. Artikel 43, lid 3, tweede alinea, van die verordening moet worden gewijzigd om te verduidelijken dat aangemelde instanties die zijn aangemeld uit hoofde van de in bijlage I, afdeling A, bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie, en die tot doel hebben AI-systemen met een hoog risico te beoordelen die onder de in bijlage I, afdeling A, bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, de bevoegdheid moeten hebben om de conformiteit van AI-systemen met een hoog risico onder bepaalde voorwaarden te beoordelen tot 18 maanden vanaf 27 juli 2026. Deze wijziging laat artikel 28 van Verordening (EU) 2024/1689 onverlet, zodat conformiteitsbeoordelingsinstanties die uit hoofde van die verordening wensen te worden aangewezen en aangemeld, tijdens en na deze 18 maanden te allen tijde een aanvraag kunnen indienen. Voorts moet Verordening (EU) 2024/1689 worden gewijzigd om te verduidelijken dat wanneer een AI-systeem met een hoog risico zowel onder de in afdeling A van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie valt als onder een van de in bijlage III bij die verordening vermelde gebruiksgevallen, de aanbieder de relevante conformiteitsbeoordelingsprocedure moet volgen zoals vereist op grond van die relevante harmonisatiewetgeving.
Overweging 19
(19)
Verordening (EU) 2024/1689 en Verordening (EU) 2024/2847 van het Europees Parlement en de Raad 15Verordening (EU) 2024/2847 van het Europees Parlement en de Raad van 23 oktober 2024 betreffende horizontale cyberbeveiligingsvereisten voor producten met digitale elementen en tot wijziging van Verordeningen (EU) nr. 168/2013 en (EU) 2019/1020 en Richtlijn (EU) 2020/1828 (verordening cyberweerbaarheid) ([PB L, 2024/2847, 20.11.2024, ELI: http://data.europa.eu/eli/reg/2024/2847/oj](https://data.europa.eu/eli/reg/2024/2847/oj)). vullen elkaar aan opdat de veiligheid en cyberbeveiliging van producten met digitale elementen zijn gewaarborgd. Artikel 12 van Verordening (EU) 2024/2847 bepaalt dat wanneer AI-systemen met een hoog risico en door de fabrikant ingestelde processen aan de essentiële cyberbeveiligingsvereisten van Verordening (EU) 2024/2847 voldoen, zij geacht moeten worden te voldoen aan de cyberbeveiligingsvereisten van artikel 15 van Verordening (EU) 2024/1689, voor zover de uit hoofde van Verordening (EU) 2024/2847 afgegeven EU-conformiteitsverklaring, of delen daarvan, op die vereisten van toepassing is. Om de wisselwerking tussen Verordening (EU) 2024/1689 en Verordening (EU) 2024/2847 duidelijker zichtbaar te maken, moet de regel van artikel 12 van Verordening (EU) 2024/2847 ook in Verordening (EU) 2024/1689 worden opgenomen. De wisselwerking tussen de twee instrumenten mag niet in het gedrang komen.
Overweging 20
(20)
Overeenkomstig artikel 6, lid 1, van Verordening (EU) 2024/1689 worden AI-systemen geclassificeerd als AI-systemen met een hoog risico wanneer een AI-systeem dat een component is van een product dat onder de in afdeling A van bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie valt, een veiligheidscomponent is en dat product een conformiteitsbeoordeling door een derde partij vereist. Het vereiste dat voor een dergelijk product een conformiteitsbeoordeling door een derde partij moet worden uitgevoerd, heeft echter geen invloed op de keuze van de fabrikant met betrekking tot de conformiteitsbeoordelingsprocedure voor een dergelijk product. Wanneer de in afdeling A van bijlage I vermelde harmonisatiewetgeving van de Unie toestaat dat uit de conformiteitsbeoordelingsprocedures een conformiteitsbeoordelingsprocedure op basis van geharmoniseerde normen wordt gekozen, blijft deze mogelijkheid ook van toepassing op producten waarin een AI-systeem met een hoog risico is ingebed. Artikel 6, lid 1, van Verordening (EU) 2024/1689 mag niet aldus worden opgevat dat producten waarin een AI-systeem met een hoog risico is ingebed, automatisch moeten worden onderworpen aan een conformiteitsbeoordeling door een derde partij waarbij een aangemelde instantie is betrokken. Indien de harmonisatiewetgeving van de Unie in deze mogelijkheid voorziet, kan de aanbieder van het product waarin het AI-systeem met een hoog risico is ingebed, zich blijven baseren op geharmoniseerde normen om te voldoen aan de voorschriften van de harmonisatiewetgeving van de Unie en Verordening (EU) 2024/1689 als conformiteitsbeoordelingsprocedure.
Overweging 21
(21)
Om het concurrentievermogen en de innovatie te vergroten, is het van essentieel belang marktdeelnemers te ondersteunen die tegelijkertijd verplicht zijn te voldoen aan de vereisten of verplichtingen van hoofdstuk III, afdelingen 2 en 3, van Verordening (EU) 2024/1689 en aan de desbetreffende vereisten en verplichtingen van de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie. Om de trajecten voor de naleving van de regelgeving door dergelijke marktdeelnemers te ondersteunen en te vereenvoudigen, moet de Commissie de Europese normalisatieorganisaties onverwijld verzoeken normalisatieproducten te ontwikkelen, met inbegrip van, in voorkomend geval, geharmoniseerde normen. Die normalisatieproducten moeten gebaseerd zijn op de in het Publicatieblad bekendgemaakte geharmoniseerde normen die aanleiding geven tot het vermoeden van conformiteit met de vereisten of verplichtingen van Verordening (EU) 2024/1689, alsook op alle desbetreffende in het Publicatieblad van de Europese Unie bekendgemaakte geharmoniseerde normen die aanleiding geven tot het vermoeden van conformiteit met de desbetreffende vereisten of verplichtingen van de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie. Dergelijke normalisatieproducten moeten de rechtsonzekerheid helpen verminderen, onnodige overlapping van conformiteitsbeoordelingsactiviteiten, testen, en documentatie- en rapportageverplichtingen helpen voorkomen en de nalevingskosten helpen verlagen, met name voor kleine en middelgrote ondernemingen en start-ups. De tijdige ontwikkeling van dergelijke producten is van essentieel belang om marktdeelnemers praktische en betrouwbare technische oplossingen te bieden, de rechtszekerheid te versterken en het in de handel brengen, in gebruik stellen en gebruiken van AI-systemen overeenkomstig deze verordening en de in bijlage I bij deze verordening vermelde harmonisatiewetgeving van de Unie te vergemakkelijken.
Overweging 22
(22)
Om de naleving te stroomlijnen en de daarmee gepaard gaande kosten terug te dringen, moet de registratie van in artikel 6, lid 3, van Verordening (EU) 2024/1689 bedoelde AI-systemen als bedoeld in de EU-databank op grond van artikel 49, lid 2, van die verordening worden vereenvoudigd door de krachtens bijlage VIII bij die verordening vereiste inhoud te stroomlijnen. Hoewel het voor doeltreffend markttoezicht en publieke verantwoordingsplicht van cruciaal belang blijft dat dergelijke AI-systemen in de EU-databank worden geregistreerd, moeten de registratievereisten eenvoudiger en evenrediger worden gemaakt. Deze vereenvoudiging zou zorgen voor een beter evenwicht zonder afbreuk te doen aan de bescherming van Verordening (EU) 2024/1689. Dergelijke AI-systemen worden onder bepaalde voorwaarden niet als AI-systemen met een hoog risico aangemerkt wanneer zij geen significant risico vormen voor de gezondheid, veiligheid of grondrechten van personen. Bovendien blijft een aanbieder die artikel 6, lid 3, van Verordening (EU) 2024/1689 toepast verplicht zijn beoordeling te documenteren voordat dat AI-systeem in de handel wordt gebracht of in gebruik wordt gesteld. De nationale bevoegde autoriteiten moeten kunnen verzoeken dat deze beoordeling hun wordt verstrekt.
Overweging 23
(23)
De artikelen 57, 58 en 60 van Verordening (EU) 2024/1689 moeten worden gewijzigd teneinde de samenwerking op het niveau van de Unie inzake AI-testomgevingen voor regelgeving verder te versterken, meer duidelijkheid en consistentie te verschaffen met betrekking tot de governance van AI-testomgevingen voor regelgeving, en het toepassingsgebied van het testen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving uit te breiden tot AI-systemen met een hoog risico die onder de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen. Meer in het bijzonder moet, om procedurele vereenvoudiging mogelijk te maken, in voorkomend geval, bij projecten waarop toezicht wordt uitgeoefend binnen de AI-testomgevingen voor regelgeving die ook testen onder reële omstandigheden omvatten, het plan voor testen onder reële omstandigheden worden opgenomen in het met de aanbieders of potentiële aanbieders en de bevoegde autoriteit overeengekomen testomgevingsplan.
Overweging 24
(24)
Daarnaast is het passend het Europees Bureau voor artificiële intelligentie (AI-bureau) de mogelijkheid te geven om een AI-testomgeving voor regelgeving op Unieniveau op te zetten voor AI-systemen die onder artikel 75, lid 1, van Verordening (EU) 2024/1689 vallen. Om te zorgen voor samenhang, rechtszekerheid en een efficiënte toewijzing van toezichthoudende verantwoordelijkheden tussen het niveau van de Unie en nationale niveaus, moet het toepassingsgebied van de AI-testomgeving voor regelgeving op Unieniveau duidelijk worden gedefinieerd om overlappingen met krachtens die verordening opgerichte nationale AI-testomgevingen voor regelgeving te voorkomen. Om innovatie te bevorderen en de invoering van AI te vergemakkelijken, moeten kmo’s, met inbegrip van start-ups, en kleine midcapondernemingen prioritaire toegang krijgen tot de door het AI-bureau opgezette AI-testomgevingen voor regelgeving.
Overweging 25
(25)
Bovendien moeten de bepalingen inzake de samenwerking tussen de desbetreffende bevoegde autoriteiten voor de werking van een AI-testomgeving voor regelgeving worden verduidelijkt om de doeltreffende werking ervan te waarborgen. Daarom moet de bevoegdheid van de Commissie tot vaststelling van uitvoeringshandelingen waarin de gedetailleerde regelingen worden gespecificeerd voor de instelling, de ontwikkeling, de uitvoering en de werking van AI-testomgevingen voor regelgeving en het toezicht daarop worden uitgebreid tot governanceaspecten van dergelijke testomgevingen. Wanneer AI-testomgevingen voor regelgeving innovatieve AI-systemen omvatten die persoonsgegevens verwerken of anderszins onder het toezicht van andere nationale autoriteiten of bevoegde autoriteiten vallen die toegang tot gegevens verstrekken of ondersteunen, moeten de desbetreffende bevoegde toezichthoudende autoriteiten bovendien betrokken zijn bij de werking van de AI-testomgeving voor regelgeving en bij het toezicht op de aspecten die onder hun respectieve taken en bevoegdheden vallen.
Overweging 26
(26)
Ter bevordering van innovatie is het voorts passend het toepassingsgebied van het testen onder reële omstandigheden buiten AI-testomgevingen voor regelgeving, dat volgens artikel 60 van Verordening (EU) 2024/1689 momenteel van toepassing is op in bijlage III bij die verordening bedoelde AI-systemen met een hoog risico, uit te breiden, en aanbieders en potentiële aanbieders van AI-systemen met een hoog risico die onder de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie vallen, ook toe te staan dergelijke systemen onder reële omstandigheden te testen, met inachtneming van voldoende waarborgen. Dit doet geen afbreuk aan ander Unie- of nationaal recht voor het testen onder reële omstandigheden van AI-systemen met een hoog risico die verband houden met producten die onder die harmonisatiewetgeving van de Unie vallen.
Overweging 27
(27)
Het is ook passend ervoor te zorgen dat het mogelijk is AI-systemen met een hoog risico die onder de in afdeling B van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie vallen, onder reële omstandigheden te testen. Die systemen zijn onderworpen aan de vereisten en procedures van de desbetreffende sectorale wetgeving en vallen voor de meeste doeleinden niet rechtstreeks onder die verordening. Die sectorale handelingen zullen te zijner tijd vereisten bevatten die overeenstemmen met de vereisten van de artikelen 8 tot en met 15 van die verordening. Daarom is het passend ervoor te zorgen dat de lidstaten het testen onder reële omstandigheden van deze AI-systemen kunnen toestaan met het oog op de beoordeling en verificatie van de conformiteit van die systemen met de vereisten van de artikelen 8 tot en met 15 van die verordening. Indien de lidstaten besluiten dergelijke testen toe te staan, moeten zij op grond van die verordening worden verplicht kaders vast te stellen met de gedetailleerde vereisten voor dergelijke testen. Die verordening moet voorzien in essentiële elementen die in dergelijke kaders moeten worden opgenomen. Bij het ontwerpen van dergelijke kaders moeten de lidstaten zorgen voor een hoog niveau van bescherming van de gezondheid, veiligheid en grondrechten van natuurlijke personen. Alvorens het kader ten uitvoer te leggen, moeten de lidstaten de Commissie daarvan in kennis stellen. De testen onder reële omstandigheden moeten voldoen aan de desbetreffende harmonisatiewetgeving van de Unie die is opgenomen in afdeling B van bijlage I bij Verordening (EU) 2024/1689, met inbegrip van alle toepasselijke bepalingen inzake testen. Dit mag echter geen afbreuk doen aan de toepassing van het nieuwe artikel betreffende testen onder reële omstandigheden.
Overweging 28
(28)
Micro-ondernemingen die aanbieders van AI-systemen met een hoog risico zijn, kunnen op grond van artikel 63 van Verordening (EU) 2024/1689 op vereenvoudigde wijze voldoen aan de verplichte invoering van een kwaliteitsbeheersysteem. Om meer innovatoren deze mogelijkheid te bieden, moet deze optie worden uitgebreid tot alle kmo’s, met inbegrip van start-ups.
Overweging 29
(29)
In het licht van de belangrijke rol van het AI-bureau voor de doeltreffende en gecoördineerde governance van Verordening (EU) 2024/1689, zoals verder versterkt door deze verordening, en onverminderd het volgende meerjarig financieel kader en de begrotingsprocedure, moet de Commissie voldoende personele, financiële en technische middelen aan het AI-bureau toewijzen om ervoor te zorgen dat het zijn taken met betrekking tot de handhaving van Verordening (EU) 2024/1689 doeltreffend en binnen een redelijke termijn kan uitvoeren, met inbegrip van de toewijzing van een voldoende aantal vaste personeelsleden met diepgaande competenties en technische deskundigheid.
Overweging 30
(30)
Artikel 69 van Verordening (EU) 2024/1689 moet worden gewijzigd ter vereenvoudiging van de structuur van de vergoedingen voor het wetenschappelijk panel. Indien de lidstaten een beroep doen op de deskundigheid van het panel, moeten de vergoedingen die zij aan de deskundigen moeten voldoen gelijkwaardig zijn aan de vergoedingen die de Commissie in vergelijkbare omstandigheden verschuldigd is.
Overweging 31
(31)
Om het governancesysteem voor AI-systemen te versterken, moet de rol van het AI-bureau bij het monitoren van en het toezicht op de naleving van Verordening (EU) 2024/1689 voor dergelijke AI-systemen worden verduidelijkt. De Commissie is exclusief bevoegd met betrekking tot AI-modellen voor algemene doeleinden op grond van artikel 88 van die verordening. Om de samenhang, duidelijkheid en doeltreffendheid te vergroten, en in het licht van het bereik en de effecten van AI-systemen die verband houden met die competenties, moet de reikwijdte van de exclusieve bevoegdheid van het AI-bureau om toezicht te houden op systemen worden verfijnd. Het AI-bureau moet met name de exclusieve bevoegdheid hebben over AI-systemen die op AI-modellen voor algemene doeleinden zijn gebaseerd, niet alleen wanneer zowel het systeem als het model door dezelfde aanbieder worden ontwikkeld, maar ook wanneer zij worden ontwikkeld door aanbieders die deel uitmaken van dezelfde onderneming. In bepaalde gevallen, met name wanneer er sprake is van specifiek sectoraal toezicht, moet de verantwoordelijkheid echter bij de desbetreffende nationale bevoegde autoriteit blijven berusten. Daarom moeten bepaalde uitzonderingen worden vastgesteld. De personele werkingssfeer van deze exclusieve bevoegdheid moet zich uitstrekken tot de aanbieders van die AI-systemen en hun gebruiksverantwoordelijken binnen dezelfde onderneming. Andere gebruiksverantwoordelijken moeten onderworpen blijven aan nationaal toezicht en nationale handhaving. Hierbij gaat het bovendien niet om AI-systemen die in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt door instellingen, organen of instanties van de Unie die op grond van artikel 74, lid 9, van Verordening (EU) 2024/1689 onder toezicht van de Europese Toezichthouder voor gegevensbescherming staan.
Overweging 32
(32)
Daarnaast is het, gezien het bestaande uit hoofde van Verordening (EU) 2022/2065 van het Europees Parlement en de Raad 16Verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening) [(](https://eur-lex.europa.eu/legal-content/EN/AUTO/?uri=OJ:L:2022:277:TOC) [PB L 277 van 27.10.2022, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2022:277:TOC), ELI: [http://data.europa.eu/eli/reg/2022/2065/oj](http://data.europa.eu/eli/reg/2022/2065/oj)). ingestelde toezicht- en handhavingssysteem, wenselijk de Commissie de bevoegdheden van een bevoegde markttoezichtautoriteit op grond van Verordening (EU) 2024/1689 te verlenen indien een AI-systeem wordt aangemerkt als een zeer groot onlineplatform of een zeer grote onlinezoekmachine overeenkomstig Verordening (EU) 2022/2065, of indien het systeem in een dergelijk platform of een dergelijke zoekmachine is ingebed. Dit moet ertoe bijdragen dat de toezichts- en handhavingsbevoegdheden van de Commissie uit hoofde van Verordening (EU) 2024/1689 en Verordening (EU) 2022/2065, alsook die welke van toepassing zijn op AI-modellen voor algemene doeleinden die in dergelijke platforms of zoekmachines zijn geïntegreerd, op coherente en doeltreffende wijze worden uitgeoefend. Dit is ook passend in het licht van het belang van dergelijke platforms en zoekmachines, gezien hun bereik, impact en potentieel om complexe en grote maatschappelijke schade te veroorzaken. De personele werkingssfeer van deze exclusieve bevoegdheid moet zich uitstrekken tot de aanbieders van die AI-systemen en hun gebruiksverantwoordelijken binnen dezelfde onderneming. In het geval van AI-systemen die zijn ingebed in of worden aangemerkt als zeer grote onlineplatforms of zeer grote onlinezoekmachines, bestaat de eerste beoordeling van de AI-systemen uit de risicobeoordeling, de risicobeperkende maatregelen en de controleverplichtingen die zijn voorgeschreven in de artikelen 34, 35 en 37 van Verordening (EU) 2022/2065, onverminderd de bevoegdheden van het AI-bureau om gevallen van niet-naleving van de regels van Verordening (EU) 2024/1689 achteraf te onderzoeken en te handhaven. In het kader van de analyse van deze risicobeoordeling, risicobeperkende maatregelen en controles kunnen de diensten van de Commissie die verantwoordelijk zijn voor de handhaving van Verordening (EU) 2022/2065 het AI-bureau om advies vragen over het resultaat van een mogelijke eerdere of parallelle risicobeoordeling die overeenkomstig Verordening (EU) 2024/1689 is uitgevoerd, alsook over de toepasselijkheid van verbodsbepalingen uit hoofde van Verordening (EU) 2024/1689. Daarnaast moeten het AI-bureau en de bevoegde nationale autoriteiten overeenkomstig Verordening (EU) 2024/1689 hun handhavingsinspanningen afstemmen op die van de autoriteiten die bevoegd zijn voor het toezicht op en de handhaving van Verordening (EU) 2022/2065, waaronder de Commissie, om te waarborgen dat de beginselen van loyale samenwerking, evenredigheid en ne bis in idem worden geëerbiedigd, en dat de uit hoofde van de ene verordening verkregen informatie alleen zou worden gebruikt voor het toezicht op en de handhaving van de andere verordening indien de onderneming daarmee instemt. Die autoriteiten moeten met name regelmatig van gedachten wisselen en op hun respectieve bevoegdheidsgebieden rekening houden met eventuele geldboeten en sancties die voor dezelfde feiten aan dezelfde aanbieder zijn opgelegd door middel van een definitief besluit in procedures betreffende een inbreuk op andere Unie- of nationale voorschriften, zodat wordt gewaarborgd dat de totale opgelegde geldboeten en sancties proportioneel zijn en overeenstemmen met de ernst van de begane inbreuken.
Overweging 33
(33)
Bij het toezicht op en de handhaving van de verplichtingen met betrekking tot AI-systemen die onder zijn bevoegdheid vallen, heeft het AI-bureau dezelfde rol en verantwoordelijkheid als een markttoezichtautoriteit op grond van Verordening (EU) 2024/1689. Bijgevolg is het nodig dat het AI-bureau alle bevoegdheden en verantwoordelijkheden heeft die markttoezichtautoriteiten hebben op grond van die verordening en Verordening (EU) 2019/1020 van het Europees Parlement en de Raad 17Verordening (EU) 2019/1020 van het Europees Parlement en de Raad van 20 juni 2019 betreffende markttoezicht en conformiteit van producten en tot wijziging van Richtlijn 2004/42/EG en de Verordeningen (EG) nr. 765/2008 en (EU) nr. 305/2011 ([PB L 169 van 25.6.2019, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2019:169:TOC), ELI: [http://data.europa.eu/eli/reg/2019/1020/oj](http://data.europa.eu/eli/reg/2019/1020/oj)). (“de algemene bevoegdheden”). Deze moeten zorgen voor een passende en doeltreffende handhaving van de vereisten en verplichtingen van Verordening (EU) 2024/1689. Het is echter noodzakelijk bepaalde essentiële elementen en andere aspecten van de algemene bevoegdheden, alsook de waarborgen ervan, te specificeren, aan te vullen en te omkaderen (“de specifieke bepalingen”). Het is met name noodzakelijk de volgende bepalingen vast te stellen: bepalingen die de relatie tussen het AI-bureau en de nationale autoriteiten regelen; bepalingen ter specificatie, aanvulling en beperking van de bevoegdheden om informatie op te vragen en inspecties ter plaatse uit te voeren; bepalingen inzake onderzoeken, met inbegrip van de mogelijkheid om toezeggingen bindend te maken; en bepalingen die de bevoegdheid specificeren en beperken om niet-naleving vast te stellen, geldboeten en dwangsommen op te leggen. Wanneer een soort algemene bevoegdheid aldus is gespecificeerd, mag het AI-bureau de voorwaarden en beperkingen van die bevoegdheden niet omzeilen door zich te beroepen op een daarmee verband houdende algemene bevoegdheid. Daarentegen kan het AI-bureau zich beroepen op soorten algemene bevoegdheden die niet zijn gespecificeerd en afgebakend ten aanzien van het AI-bureau, zoals de bevoegdheid om in artikel 16, lid 3, van Verordening (EU) 2019/1020 bedoelde maatregelen vast te stellen. Voor zover nodig voor de correcte uitvoering van Verordening (EU) 2024/1689 moet de Commissie uitvoeringshandelingen kunnen vaststellen tot nadere bepaling van de regels en procedures betreffende de toepassing van verjaringstermijnen, de toegang tot het dossier en de onderhandelde openbaarmaking van informatie. Bij de uitoefening van al deze bevoegdheden moet het AI-bureau het Handvest naleven. Daarnaast is het AI-bureau onderworpen aan de waarborgen en bescherming van de grondrechten die zijn vastgelegd in de specifieke bepalingen.
Overweging 34
(34)
Naast deze waarborgen inzake procedurele rechten en grondrechten moeten de procedurele rechten die zijn bepaald in artikel 18 van Verordening (EU) 2019/1020 van overeenkomstige toepassing zijn op aanbieders van AI-systemen, onverminderd specifiekere procedurele rechten waarin Verordening (EU) 2024/1689 voorziet. Wanneer nationale markttoezichtautoriteiten het AI-bureau via het centrale contactpunt verzoeken toezichts- en handhavingsmaatregelen te nemen met betrekking tot AI-systemen die onder zijn exclusieve toezicht staan, moet het AI-bureau het centrale contactpunt uiterlijk vier maanden na ontvangst van dat verzoek in kennis stellen van zijn voornemen om zijn toezichts- en handhavingsbevoegdheden uit te oefenen of van de redenen waarom het zijn bevoegdheden niet uitoefent. Indien het AI-bureau besluit zijn toezichts- en handhavingsbevoegdheden uit te oefenen, moet het het centrale contactpunt ook in kennis stellen van de eindresultaten van dergelijke procedures en van tussentijdse ontwikkelingen die volgens het AI-bureau een grote impact hebben op het onderzoek, waaronder het besluit om een procedure in te leiden, een geldboete op te leggen en het AI-systeem uit de handel te nemen of terug te roepen.
Overweging 35
(35)
Om toegang tot de markt van de Unie mogelijk te maken voor AI-systemen die op grond van artikel 75 van Verordening (EU) 2024/1689 onder toezicht staan van het AI-bureau en onderworpen zijn aan conformiteitsbeoordelingen door derden, moet de Commissie verantwoordelijk zijn om conformiteitsbeoordelingen van die systemen uit te voeren voordat zij in de handel worden gebracht.
Overweging 36
(36)
Artikel 77 en de daarmee verband houdende bepalingen van Verordening (EU) 2024/1689 vormen een belangrijk governancemechanisme, aangezien zij tot doel hebben de autoriteiten of organen die verantwoordelijk zijn voor de handhaving van of het toezicht op het Unierecht ter bescherming van de grondrechten in staat te stellen hun mandaat onder specifieke voorwaarden te vervullen, en de samenwerking te bevorderen met markttoezichtautoriteiten die verantwoordelijk zijn voor het toezicht op en de handhaving van die verordening. Het is noodzakelijk de reikwijdte van die samenwerking te verduidelijken en toe te lichten welke overheidsinstanties of -organen hiervan profiteren. Met het oog op de versterking van de samenwerking moet worden verduidelijkt dat verzoeken om toegang tot informatie en documentatie aan de bevoegde markttoezichtautoriteit moeten worden gericht en dat deze autoriteit daar onverwijld op moet reageren, en dat er tussen de betrokken autoriteiten en organen een wederzijdse verplichting tot samenwerking bestaat. Er moet worden verduidelijkt dat deze bepalingen geen afbreuk doen aan de competenties, taken, bevoegdheden en onafhankelijkheid van de desbetreffende nationale overheidsinstanties of -organen in het kader van hun mandaten. Deze bepalingen houden met name geen beperking in van de bevoegdheden die deze autoriteiten en organen hebben om op grond van ander Unie- of nationaal recht informatie op te vragen. Deze autoriteiten en organen behouden dus de bevoegdheid om op grond van hun mandaat of het Unie- of het nationale recht rechtstreeks informatie bij operatoren op te vragen.
Overweging 37
(37)
De in Verordening (EU) 2024/1689 vastgestelde vereisten voor AI-systemen met een hoog risico hebben betrekking op specifieke risico’s die inherent zijn aan AI-systemen, waaronder vooringenomenheid, onvoorspelbaar gedrag van modellen, slechte robuustheid of nauwkeurigheid, kwetsbaarheden voor aanvallen door derden en een gebrek aan transparantie van het AI-systeem. Door AI-specifieke risico’s aan te pakken, vormt die verordening een aanvulling op de vereisten van de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie, zonder deze te dupliceren. Verordening (EU) 2024/1689 voorziet in mechanismen voor marktdeelnemers om de nalevingslasten tot een minimum te beperken. Met name artikel 8, lid 2, over de wisselwerking met de sectorale wetgeving, artikel 9, lid 10, over risicobeheer en artikel 17, lid 3, over kwaliteitsbeheer stellen marktdeelnemers in staat om, indien nodig en passend, een beoordeling van AI-specifieke risico’s te integreren in bestaande risico- en kwaliteitsbeheersystemen. Op grond van artikel 40 van Verordening (EU) 2024/1689 moet de Commissie voorts specificeren dat de op grond van die verordening ontwikkelde geharmoniseerde normen moeten stroken met de normen die zijn ontwikkeld op grond van de in bijlage I bij die verordening vermelde harmonisatiewetgeving van de Unie. De Commissie moet richtsnoeren verstrekken om marktdeelnemers van AI-systemen met een hoog risico die onder bijlage I bij Verordening (EU) 2024/1689 vallen, te helpen bij de naleving van die verordening, onder meer door richtsnoeren te verstrekken over de toepassing van artikel 8, lid 2, artikel 9, lid 10, en artikel 17, lid 3, van die verordening als mechanismen om de nalevingslasten tot een minimum te beperken, in overeenstemming met de beginselen van complementariteit en evenredigheid. Die richtsnoeren moeten uiterlijk op 1 augustus 2027 worden gepubliceerd.
Overweging 38
(38)
Om aanbieders van generatieve AI-systemen die onderworpen zijn aan de markeringsverplichtingen van artikel 50, lid 2, van Verordening (EU) 2024/1689 voldoende tijd te geven om hun praktijken binnen een redelijke termijn aan te passen zonder de markt te verstoren, is het passend een overgangsperiode van vier maanden in te voeren voor aanbieders die hun systemen reeds vóór 2 augustus 2026 in de handel hebben gebracht.
Overweging 39
(39)
Om aanbieders van AI-systemen met een hoog risico voldoende tijd te bieden en de toepasselijke regels te verduidelijken voor de AI-systemen die reeds in de handel zijn gebracht of in gebruik zijn gesteld voordat de desbetreffende bepalingen van Verordening (EU) 2024/1689 van toepassing zijn, is het passend de reikwijdte van de respijtperiode als bedoeld in artikel 111, lid 2, van die verordening, te verduidelijken. Voor de toepassing van dat artikel 111, lid 2, moet de respijtperiode van toepassing zijn wanneer het type en model van een AI-systeem al in de handel is gebracht. Dit betekent dat indien ten minste één individuele eenheid van het AI-systeem met een hoog risico vóór de in artikel 111, lid 2, vermelde datum rechtmatig in de handel is gebracht of in gebruik is gesteld, voor andere individuele eenheden van hetzelfde type en model van het AI-systeem met een hoog risico de in dat artikel 111, lid 2, bepaalde respijtperiode geldt en zij dus verder in de handel mogen worden gebracht, op de markt van de Unie mogen worden aangeboden of in gebruik mogen worden gesteld zonder aanvullende verplichtingen, vereisten of een verplichte aanvullende certificering, zolang het ontwerp van dat AI-systeem met een hoog risico ongewijzigd blijft. Ten behoeve van de in artikel 111, lid 2, bedoelde respijtperiode is de datum waarop de eerste eenheid van dat type en model van een AI-systeem met een hoog risico voor het eerst in de Unie in de handel is gebracht of in gebruik is gesteld, de beslissende factor. Bij een significante wijziging in het ontwerp van dat AI-systeem na de in artikel 111, lid 2, vermelde datum moet de aanbieder ertoe worden verplicht volledig te voldoen aan alle relevante bepalingen van die verordening die van toepassing zijn op AI-systemen met een hoog risico, met inbegrip van de eisen inzake conformiteitsbeoordelingen.
Overweging 40
(40)
Artikel 113 van Verordening (EU) 2024/1689 bevat de data van inwerkingtreding en toepassing van die verordening, en hierin wordt met name de algemene datum van toepassing van 2 augustus 2026 vermeld. Wat betreft de in hoofdstuk III, afdelingen 1, 2 en 3, van Verordening (EU) 2024/1689 vastgestelde verplichtingen in verband met AI-systemen met een hoog risico, hebben de vertraagde beschikbaarheid van normen, gemeenschappelijke specificaties en alternatieve richtsnoeren en de uitgestelde oprichting van nationale bevoegde autoriteiten, uitdagingen tot gevolg die het daadwerkelijk van toepassing worden van die verplichtingen in gevaar brengen en het risico inhouden dat de uitvoeringskosten aanzienlijk zullen toenemen op een wijze die het handhaven van de oorspronkelijke toepassingsdatum ervan, te weten 2 augustus 2026, niet rechtvaardigt. Het is daarom passend dat de datum voor de toepassing van de afdelingen 1, 2 en 3 van hoofdstuk III wordt vastgesteld op 2 december 2027 voor AI-systemen die op grond van artikel 6, lid 2, en bijlage III als AI-systemen met een hoog risico zijn ingedeeld, en op 2 augustus 2028 voor AI-systemen die op grond van artikel 6, lid 1, en bijlage I als AI-systemen met een hoog risico zijn ingedeeld. Het onderscheid tussen het van toepassing worden van de regels met betrekking tot AI-systemen die op grond van artikel 6, lid 2, en bijlage III, en artikel 6, lid 1, en bijlage I bij die verordening als AI-systemen met een hoog risico zijn ingedeeld, strookt met het verschil tussen de initiële toepassingsdata die werden beoogd in Verordening (EU) 2024/1689, en heeft tot doel de nodige tijd te bieden voor de aanpassing en de uitvoering van de overeenkomstige verplichtingen. De tijdige beschikbaarheid van steuninstrumenten, met inbegrip van richtsnoeren, relevante normen, gemeenschappelijke specificaties en praktijkcodes, is belangrijk om de naleving te vergemakkelijken en het risico van uiteenlopende interpretaties en ongelijke toepassing van de regels in de lidstaten te beperken. Om de rechtszekerheid te waarborgen en verdere vertragingen bij de toepassing van Verordening (EU) 2024/1689 te voorkomen, moet de Commissie ervoor zorgen dat de maatregelen ter ondersteuning van de naleving met betrekking tot hoofdstuk III, afdelingen 1, 2 en 3 van die verordening, bijtijds van kracht zijn om een tijdige en doeltreffende uitvoering van de nodige bepalingen te waarborgen.
Overweging 41
(41)
In het licht van de doelstelling om de uitvoeringsproblemen voor burgers, bedrijven en overheidsdiensten terug te dringen, is het van essentieel belang om geharmoniseerde voorwaarden voor de uitvoering van bepaalde regels alleen vast te stellen voor zover dat strikt noodzakelijk is. Daartoe is het passend bepaalde aan de Commissie verleende bevoegdheden om dergelijke geharmoniseerde voorwaarden door middel van uitvoeringshandelingen vast te stellen, te schrappen in gevallen waarin dat niet het geval is. Artikel 50, lid 7, artikel 56, lid 6, en artikel 72, lid 3, van Verordening (EU) 2024/1689 moeten daarom worden gewijzigd om de aan de Commissie verleende bevoegdheden om uitvoeringshandelingen vast te stellen, te schrappen. Aangezien de in artikel 50, lid 7, en artikel 56, lid 6, bedoelde praktijkcodes beperkte rechtsgevolgen hebben en met name geen aanleiding geven tot een vermoeden van conformiteit, is het niet strikt noodzakelijk dat deze codes bij uitvoeringshandeling worden goedgekeurd. Aanbieders moeten zich op grond van artikel 53, lid 4, en artikel 54, lid 2, van Verordening (EU) 2024/1689 kunnen baseren op praktijkcodes die op grond van artikel 56, lid 6, van die verordening als toereikend worden beoordeeld. Het schrappen van de bevoegdheid tot het vaststellen van een geharmoniseerd model voor een plan voor monitoring na het in de handel brengen in artikel 72, lid 3, van Verordening (EU) 2024/1689, heeft als bijkomend voordeel dat het aanbieders van AI-systemen met een hoog risico meer flexibiliteit biedt om een systeem voor monitoring na het in de handel brengen in te voeren dat is toegesneden op hun organisatie. Tegelijkertijd moet de Commissie, gezien de noodzaak om duidelijkheid te verschaffen over de manier waarop aanbieders van AI-systemen met een hoog risico moeten voldoen aan hun verplichting in artikel 72, lid 1, van Verordening (EU) 2024/1689, worden verplicht uiterlijk op 2 september 2027 richtsnoeren te publiceren, met inbegrip van een model op vrijwillige basis, over het plan voor monitoring na het in de handel brengen.
Overweging 42
(42)
Het gebruik van artificiële intelligentie in machines kan innovatie helpen bevorderen en de efficiëntie van die machines helpen verbeteren. De toepassing van Verordening (EU) 2023/1230 van het Europees Parlement en de Raad 18Verordening (EU) 2023/1230 van het Europees Parlement en de Raad van 14 juni 2023 betreffende machines en tot intrekking van Richtlijn 2006/42/EG van het Europees Parlement en de Raad en Richtlijn 73/361/EEG van de Raad ([PB L 165 van 29.6.2023, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2023:165:TOC), ELI: [http://data.europa.eu/eli/reg/2023/1230/oj](http://data.europa.eu/eli/reg/2023/1230/oj)). en Verordening (EU) 2024/1689 kan tot overlappingen leiden. Tegelijkertijd is het belangrijk te zorgen voor een beschermingsniveau met betrekking tot risico’s in verband met het gebruik van artificiële intelligentie in machines dat strookt met het beschermingsniveau dat wordt geboden in Verordening (EU) 2024/1689 met betrekking tot AI-systemen met een hoog risico. Gezien de specifieke aard van machines en de machinesector, en om tegemoet te komen aan de noodzaak om het regelgevingskader voor op AI gebaseerde machines te vereenvoudigen, is het passend over te stappen op een sectorale aanpak door Verordening (EU) 2023/1230 te verplaatsen van afdeling A naar afdeling B van bijlage I bij Verordening (EU) 2024/1689. Bijgevolg moet ten eerste de toepassing van Verordening (EU) 2024/1689 op die machines worden beperkt tot de in artikel 2, lid 2, van die verordening bedoelde bepalingen. De verwijzing naar Richtlijn 2006/42/EG moet worden verplaatst van afdeling A naar afdeling B van bijlage I bij Verordening (EU) 2024/1689 en moet worden bijgewerkt om te verwijzen naar Verordening (EU) 2023/1230. Ten tweede is het van cruciaal belang ervoor te zorgen dat Verordening (EU) 2023/1230 essentiële gezondheids- en veiligheidsvereisten bevat voor AI-systemen met een hoog risico die op grond van artikel 6, lid 1, van Verordening (EU) 2024/1689 zijn geclassificeerd en als veiligheidscomponent worden gebruikt in machines of AI-systemen met een hoog risico die machines vormen die een beschermingsniveau waarborgen dat strookt met Verordening (EU) 2024/1689. Daartoe moet de Commissie worden verplicht gedelegeerde handelingen vast te stellen tot wijziging van bijlage III bij Verordening (EU) 2023/1230 om rekening te houden met de desbetreffende vereisten van hoofdstuk III, afdeling 2, en de artikelen 17, 19, 72 en 73 van Verordening (EU) 2024/1689. Om een rechtsvacuüm te voorkomen en te zorgen voor afstemming op het van toepassing worden van de desbetreffende regels voor AI-systemen met een hoog risico van Verordening (EU) 2024/1689, moeten die gedelegeerde handelingen uiterlijk op 2 augustus 2028 van toepassing zijn. Om dezelfde redenen moeten fabrikanten vrij zijn om te vertrouwen op geharmoniseerde normen of gemeenschappelijke specificaties waarnaar wordt verwezen of die zijn vastgesteld op grond van Verordening (EU) 2024/1689 en die betrekking hebben op de desbetreffende essentiële vereisten voor het vermoeden van conformiteit in de zin van artikel 20 van Verordening (EU) 2023/1230, totdat wordt verwezen naar geharmoniseerde normen of gemeenschappelijke specificaties met betrekking tot AI of die zijn vastgesteld op grond van Verordening (EU) 2023/1230.
Overweging 43
(43)
Voor de conformiteitsbeoordelingen van AI-systemen met een hoog risico uit hoofde van Verordening (EU) 2024/1689 kan de betrokkenheid van conformiteitsbeoordelingsinstanties vereist zijn. Alleen conformiteitsbeoordelingsinstanties die uit hoofde van die verordening zijn aangewezen, kunnen conformiteitsbeoordelingen uitvoeren, en dan alleen voor de activiteiten in verband met de betrokken categorieën en betrokken soorten AI-systemen. Om de reikwijdte van de aanwijzing van de uit hoofde van artikel 30 van Verordening (EU) 2024/1689 aangemelde conformiteitsbeoordelingsinstanties te kunnen specificeren, moet een lijst met codes, categorieën en overeenkomstige soorten AI-systemen worden opgesteld. In de lijst met codes moet rekening worden gehouden met de vraag of het AI-systeem een component is van een product of zelf een product is dat onder de in bijlage I bij Verordening (EU) 2024/1689) vermelde harmonisatiewetgeving van de Unie valt (hierna “AIP-codes” genoemd, voor AI-systemen die onder productwetgeving vallen), of een systeem dat is vermeld in bijlage III bij die verordening, dat momenteel alleen betrekking heeft op biometrische AI-systemen die zijn bedoeld in punt 1 van bijlage III (hierna “AIB-codes” genoemd, voor biometrische AI-systemen). Zowel AIP-codes als AIB-codes zijn verticale codes. De AIP-codes zijn referentiecodes die een link tot stand brengen naar de in afdeling A van bijlage I bij Verordening (EU) 2024/1689 vermelde harmonisatiewetgeving van de Unie. De AIB-codes zijn nieuwe codes die specifiek zijn voor Verordening (EU) 2024/1689 en die biometrische AI-systemen als bedoeld in punt 1 van bijlage III bij die verordening identificeren. In de lijst met codes moet ook rekening worden gehouden met specifieke soorten en onderliggende technologieën van AI-systemen (hierna “AIH-codes” genoemd, voor horizontale AI-systeemcodes). De AIH-codes zijn nieuwe AI-technologiespecifieke codes die kunnen worden toegepast in combinatie met verticale AIP- of AIB-codes. De AIH-codes hebben betrekking op de onderliggende soorten en technologieën van AI-systemen. De lijst met codes, bestaande uit drie categorieën, moet voorzien in een multidimensionale typologie van AI-systemen die ervoor zorgt dat conformiteitsbeoordelingsinstanties die als aangemelde instanties zijn aangewezen, over de nodige bekwaamheid beschikken met betrekking tot de AI-systemen die zij moeten beoordelen.
Overweging 44
(44)
Bij Verordening (EU) 2018/1139 van het Europees Parlement en de Raad 19Verordening (EU) 2018/1139 van het Europees Parlement en de Raad van 4 juli 2018 tot vaststelling van gemeenschappelijke regels op het gebied van burgerluchtvaart en tot oprichting van een Europees Agentschap voor de veiligheid van de luchtvaart, tot wijziging van de Verordeningen (EG) nr. 2111/2005, (EG) nr. 1008/2008, (EU) nr. 996/2010, (EU) nr. 376/2014 en Richtlijnen 2014/30/EU en 2014/53/EU van het Europees Parlement en de Raad, en houdende intrekking van Verordeningen (EG) nr. 552/2004 en (EG) nr. 216/2008 van het Europees Parlement en de Raad en Verordening (EEG) nr. 3922/91 van de Raad ([PB L 212 van 22.8.2018, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2018:212:TOC), ELI: [http://data.europa.eu/eli/reg/2018/1139/oj](http://data.europa.eu/eli/reg/2018/1139/oj)). zijn gemeenschappelijke regels op het gebied van burgerluchtvaart vastgesteld. Artikel 108 van Verordening (EU) 2024/1689 wijzigt Verordening (EU) 2018/1139 met als doel te waarborgen dat de Commissie, wanneer zij overeenkomstig Verordening (EU) 2018/1139 relevante gedelegeerde of uitvoeringshandelingen vaststelt, op basis van de specifieke technische en regelgevingsspecificaties van de burgerluchtvaartsector, en zonder in te grijpen in de bestaande governance-, conformiteitsbeoordelings- en handhavingsmechanismen en autoriteiten die daarbij zijn ingesteld, rekening houdt met de in Verordening (EU) 2024/1689 vastgelegde dwingende eisen voor AI-systemen met een hoog risico. Er moet een technische correctie tot wijziging van extra artikelen van Verordening (EU) 2018/1139 worden aangebracht om ervoor te zorgen dat de dwingende eisen voor AI-systemen met een hoog risico van Verordening (EU) 2024/1689 volledig worden bestreken bij de vaststelling van de desbetreffende gedelegeerde of uitvoeringshandelingen op grond van Verordening (EU) 2018/1139.
Overweging 45
(45)
Teneinde bepaalde niet-essentiële onderdelen van de Verordeningen (EU) 2024/1689 en (EU) 2023/1230 te wijzigen, moet aan de Commissie de bevoegdheid worden overgedragen om overeenkomstig artikel 290 van het Verdrag betreffende de werking van de Europese Unie handelingen vast te stellen ten aanzien van:
de beperking van de toepassing van de in Verordening (EU) 2024/1689 vastgelegde specifieke eisen of verplichtingen wanneer de in bijlage I, afdeling A, vermelde harmonisatiewetgeving van de Unie voorschriften bevat die een gelijkwaardig niveau van bescherming bieden,
de wijziging van de lijst met codes, categorieën en overeenkomstige soorten AI-systemen in bijlage XIV bij Verordening (EU) 2024/1689, en
de wijziging van bijlage III bij Verordening (EU) 2023/1230 om rekening te houden met de desbetreffende vereisten van Verordening (EU) 2024/1689.
Het is van bijzonder belang dat de Commissie bij haar voorbereidende werkzaamheden tot passende raadplegingen overgaat, onder meer op deskundigenniveau, en dat die raadplegingen gebeuren in overeenstemming met de beginselen die zijn vastgelegd in het Interinstitutioneel Akkoord van 13 april 2016 over beter wetgeven 20[PB L 123 van 12.5.2016, blz. 1](https://eur-lex.europa.eu/legal-content/NL/AUTO/?uri=OJ:L:2016:123:TOC), ELI: [http://data.europa.eu/eli/agree_interinstit/2016/512/oj](http://data.europa.eu/eli/agree_interinstit/2016/512/oj).. Met name om te zorgen voor gelijke deelname aan de voorbereiding van gedelegeerde handelingen ontvangen het Europees Parlement en de Raad alle documenten op hetzelfde tijdstip als de deskundigen van de lidstaten, en hebben hun deskundigen systematisch toegang tot de vergaderingen van de deskundigengroepen van de Commissie die zich bezighouden met de voorbereiding van de gedelegeerde handelingen.
Overweging 46
(46)
Om de rechtszekerheid onverwijld te waarborgen, met het oog op de op handen zijnde algemene toepassing van Verordening (EU) 2024/1689, moet deze verordening met spoed in werking treden op de derde dag na die van de bekendmaking ervan in het Publicatieblad van de Europese Unie.
Overweging 47
(47)
Overeenkomstig artikel 42, leden 1 en 2, van Verordening (EU) 2018/1725 zijn de Europese Toezichthouder voor gegevensbescherming en het Europees Comité voor gegevensbescherming geraadpleegd, en op 20 januari 2026 hebben zij hun gezamenlijk advies uitgebracht,
Voetnoten
↑[2]
Advies van 18 maart 2026 (nog niet bekendgemaakt in het Publicatieblad).
↑[3]
Advies van 7 mei 2026 (nog niet bekendgemaakt in het Publicatieblad).
↑[4]
Standpunt van het Europees Parlement van 16 juni 2026 (nog niet bekendgemaakt in het Publicatieblad) en besluit van de Raad van 29 juni 2026.
↑[5]
Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).
↑[6]
Aanbeveling van de Commissie 2003/361/EG van 6 mei 2003 betreffende de definitie van kleine, middelgrote en micro-ondernemingen (PB L 124 van 20.5.2003, blz. 36, ELI: http://data.europa.eu/eli/reco/2003/361/oj).
↑[7]
Aanbeveling (EU) 2025/1099 van de Commissie van 21 mei 2025 betreffende de definitie van kleine midcapondernemingen (PB L, 2025/1099, 28.5.2025, ELI: http://data.europa.eu/eli/reco/2025/1099/oj).
↑[8]
Verordening (EU) 2016/679 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens en betreffende het vrije verkeer van die gegevens en tot intrekking van Richtlijn 95/46/EG (algemene verordening gegevensbescherming) (PB L 119 van 4.5.2016, blz. 1, ELI: http://data.europa.eu/eli/reg/2016/679/oj).
↑[9]
Verordening (EU) 2018/1725 van het Europees Parlement en de Raad van 23 oktober 2018 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door de instellingen, organen en instanties van de Unie en betreffende het vrije verkeer van die gegevens, en tot intrekking van Verordening (EG) nr. 45/2001 en Besluit nr. 1247/2002/EG (PB L 295 van 21.11.2018, blz. 39, ELI: http://data.europa.eu/eli/reg/2018/1725/oj).
↑[10]
Richtlijn (EU) 2016/680 van het Europees Parlement en de Raad van 27 april 2016 betreffende de bescherming van natuurlijke personen in verband met de verwerking van persoonsgegevens door bevoegde autoriteiten met het oog op de voorkoming, het onderzoek, de opsporing en de vervolging van strafbare feiten of de tenuitvoerlegging van straffen, en betreffende het vrije verkeer van die gegevens en tot intrekking van Kaderbesluit 2008/977/JBZ van de Raad (PB L 119 van 4.5.2016, blz. 89, ELI: http://data.europa.eu/eli/dir/2016/680/oj).
↑[11]
Richtlijn 2011/93/EU van het Europees Parlement en de Raad van 13 december 2011 ter bestrijding van seksueel misbruik en seksuele uitbuiting van kinderen en kinderpornografie, en ter vervanging van Kaderbesluit 2004/68/JBZ van de Raad (PB L 335 van 17.12.2011, blz. 1, ELI: http://data.europa.eu/eli/dir/2011/93/oj).
↑[12]
Richtlijn (EU) 2024/1385 van het Europees Parlement en de Raad van 14 mei 2024 ter bestrijding van geweld tegen vrouwen en huiselijk geweld, PB L, 2024/1385, 24.5.2024, ELI: http://data.europa.eu/eli/dir/2024/1385/oj).
↑[13]
Verordening (EU) 2017/745 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen, tot wijziging van Richtlijn 2001/83/EG, Verordening (EG) nr. 178/2002 en Verordening (EG) nr. 1223/2009, en tot intrekking van Richtlijnen 90/385/EEG en 93/42/EEG van de Raad (PB L 117 van 5.5.2017, blz. 1, ELI: http://data.europa.eu/eli/reg/2017/745/oj).
↑[14]
Verordening (EU) 2017/746 van het Europees Parlement en de Raad van 5 april 2017 betreffende medische hulpmiddelen voor in-vitrodiagnostiek en tot intrekking van Richtlijn 98/79/EG en Besluit 2010/227/EU van de Commissie (PB L 117 van 5.5.2017, blz. 176, ELI: http://data.europa.eu/eli/reg/2017/746/oj).
↑[15]
Verordening (EU) 2024/2847 van het Europees Parlement en de Raad van 23 oktober 2024 betreffende horizontale cyberbeveiligingsvereisten voor producten met digitale elementen en tot wijziging van Verordeningen (EU) nr. 168/2013 en (EU) 2019/1020 en Richtlijn (EU) 2020/1828 (verordening cyberweerbaarheid) (PB L, 2024/2847, 20.11.2024, ELI: http://data.europa.eu/eli/reg/2024/2847/oj).
↑[16]
Verordening (EU) 2022/2065 van het Europees Parlement en de Raad van 19 oktober 2022 betreffende een eengemaakte markt voor digitale diensten en tot wijziging van Richtlijn 2000/31/EG (digitaledienstenverordening) ( PB L 277 van 27.10.2022, blz. 1, ELI: http://data.europa.eu/eli/reg/2022/2065/oj).
↑[17]
Verordening (EU) 2019/1020 van het Europees Parlement en de Raad van 20 juni 2019 betreffende markttoezicht en conformiteit van producten en tot wijziging van Richtlijn 2004/42/EG en de Verordeningen (EG) nr. 765/2008 en (EU) nr. 305/2011 (PB L 169 van 25.6.2019, blz. 1, ELI: http://data.europa.eu/eli/reg/2019/1020/oj).
↑[18]
Verordening (EU) 2023/1230 van het Europees Parlement en de Raad van 14 juni 2023 betreffende machines en tot intrekking van Richtlijn 2006/42/EG van het Europees Parlement en de Raad en Richtlijn 73/361/EEG van de Raad (PB L 165 van 29.6.2023, blz. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj).
↑[19]
Verordening (EU) 2018/1139 van het Europees Parlement en de Raad van 4 juli 2018 tot vaststelling van gemeenschappelijke regels op het gebied van burgerluchtvaart en tot oprichting van een Europees Agentschap voor de veiligheid van de luchtvaart, tot wijziging van de Verordeningen (EG) nr. 2111/2005, (EG) nr. 1008/2008, (EU) nr. 996/2010, (EU) nr. 376/2014 en Richtlijnen 2014/30/EU en 2014/53/EU van het Europees Parlement en de Raad, en houdende intrekking van Verordeningen (EG) nr. 552/2004 en (EG) nr. 216/2008 van het Europees Parlement en de Raad en Verordening (EEG) nr. 3922/91 van de Raad (PB L 212 van 22.8.2018, blz. 1, ELI: http://data.europa.eu/eli/reg/2018/1139/oj).
↑[21]
Verordening (EU) nr. 1025/2012 van het Europees Parlement en de Raad van 25 oktober 2012 betreffende Europese normalisatie, tot wijziging van de Richtlijnen 89/686/EEG en 93/15/EEG van de Raad alsmede de Richtlijnen 94/9/EG, 94/25/EG, 95/16/EG, 97/23/EG, 98/34/EG, 2004/22/EG, 2007/23/EG, 2009/23/EG en 2009/105/EG van het Europees Parlement en de Raad en tot intrekking van Beschikking 87/95/EEG van de Raad en Besluit nr. 1673/2006/EG van het Europees Parlement en de Raad (PB L 316 van 14.11.2012, blz. 12, ELI: http://data.europa.eu/eli/reg/2012/1025/oj)."
↑[22]
Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).”;"
↑[23]
Verordening (EU) 2024/1689 van het Europees Parlement en de Raad van 13 juni 2024 tot vaststelling van geharmoniseerde regels betreffende artificiële intelligentie en tot wijziging van de Verordeningen (EG) nr. 300/2008, (EU) nr. 167/2013, (EU) nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 en (EU) 2019/2144, en de Richtlijnen 2014/90/EU, (EU) 2016/797 en (EU) 2020/1828 (verordening artificiële intelligentie) (PB L, 2024/1689, 12.7.2024, ELI: http://data.europa.eu/eli/reg/2024/1689/oj).”;"