Artikel 10: Data en datagovernance | EU Artificial Intelligence Act

1. AI-systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) die technieken gebruiken die het trainen van AI-modellen met data omvatten, worden ontwikkeld op basis van datasets voor training, validatie en tests die voldoen aan de in de leden 2, 3 en 4 van dit artikel en de in artikel 4 bis, lid 1, bedoelde kwaliteitscriteria, telkens wanneer dergelijke datasets worden gebruikt.

2. Datasets voor training, validatie en tests worden onderworpen aan praktijken op het gebied van databeheer die stroken met het beoogde doel van het AI-systeemAI-systeemeen op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingenArticle 3(1) met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2). Deze praktijken hebben in het bijzonder betrekking op:

(a) de relevante ontwerpkeuzes;

(b) processen voor dataverzameling en de oorsprong van de data en, in het geval van persoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50), het oorspronkelijke doel van de dataverzameling;

(c) relevante verwerkingsactiviteiten voor datavoorbereiding, zoals annotatie, labelen, opschoning, actualisatie, verrijking en aggregatie;

(d) het opstellen van aannames, met name met betrekking tot de informatie die de data moeten meten en vertegenwoordigen;

(e) een beoordeling van de beschikbaarheid, kwantiteit en geschiktheid van de datasets die nodig zijn;

(f) een beoordeling met het oog op mogelijke vooringenomenheid die waarschijnlijk gevolgen heeft voor de gezondheid en de veiligheid van personen, nadelige effecten heeft op de grondrechten, of leidt tot discriminatie die op grond van het Unierecht verboden is, vooral wanneer data-outputs invloed hebben op inputs voor toekomstige operaties;

(g) en passende maatregelen om mogelijke overeenkomstig punt f) vastgestelde vertekeningen op te sporen, te voorkomen en te beperken;

(h) het identificeren van relevante leemten of tekortkomingen in de data die naleving van deze verordening in de weg staan, en de manier waarop deze leemten en tekortkomingen kunnen worden aangepakt.

3. Datasets voor training, validatie en tests zijn relevant, voldoende representatief, en zoveel mogelijk foutenvrij en volledig met het oog op het beoogde doel. De datasets hebben bovendien de passende statistische kenmerken, onder meer, waar van toepassing, met betrekking tot de personen of groepen personen ten aanzien van wie de AI-systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) moeten worden gebruikt. Deze kenmerken van de datasets kunnen op het niveau van de afzonderlijke datasets of combinatie daarvan worden verwezenlijkt.

4. Ten aanzien van datasets wordt, voor zover vereist gezien het beoogde doel hiervan, rekening gehouden met de eigenschappen of elementen die specifiek zijn voor een bepaalde geografische, contextuele, functionele of gedragsomgeving waarin het AI-systeemAI-systeemeen op een machine gebaseerd systeem dat is ontworpen om met verschillende niveaus van autonomie te werken en dat na het inzetten ervan aanpassingsvermogen kan vertonen, en dat, voor expliciete of impliciete doelstellingen, uit de ontvangen input afleidt hoe output te genereren zoals voorspellingen, inhoud, aanbevelingen of beslissingen die van invloed kunnen zijn op fysieke of virtuele omgevingenArticle 3(1) met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) moet worden gebruikt.

5.

(a)

(b)

(c)

(d)

(e)

(f)

6. Voor de ontwikkeling van AI-systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) die geen technieken voor de training van AI-modellen gebruiken, zijn de leden 2, 3 en 4 van dit artikel en artikel 4 bis, lid 1, uitsluitend van toepassing op de datasets voor tests.