AI Act Documents:
Overweging 54
(54) Aangezien biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) een bijzondere categorie persoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) vormen, is het passend verschillende gevallen van kritiek gebruik van biometrische systemen te classificeren als gebruik met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2), voor zover het gebruik is toegestaan op grond van het toepasselijke Unierecht en nationale recht. Technische onnauwkeurigheden van AI-systemen voor de biometrische identificatiebiometrische identificatiede geautomatiseerde herkenning van fysieke, fysiologische, gedragsgerelateerde of psychologische menselijke kenmerken om de identiteit van een natuurlijk persoon vast te stellen door biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) van die persoon te vergelijken met in een databank opgeslagen biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) van personenArticle 3(35) op afstand van natuurlijke personen kunnen tot vertekende resultaten en discriminerende effecten leiden. Het risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) op dergelijke vertekende resultaten en discriminerende effecten is met name relevant wanneer zij betrekking hebben op leeftijd, etniciteit, ras, geslacht of handicap. Systemen voor biometrische identificatiebiometrische identificatiede geautomatiseerde herkenning van fysieke, fysiologische, gedragsgerelateerde of psychologische menselijke kenmerken om de identiteit van een natuurlijk persoon vast te stellen door biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) van die persoon te vergelijken met in een databank opgeslagen biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) van personenArticle 3(35) op afstand moeten daarom worden geclassificeerd als systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2), gezien de risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2)’s die zij met zich meebrengen. Een dergelijke classificatie geldt niet voor AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische verificatiebiometrische verificatiede geautomatiseerde één-op-éénverificatie, met inbegrip van de authenticatie, van de identiteit van natuurlijke personen door hun biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34) te vergelijken met eerder verstrekte biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34)Article 3(36), met inbegrip van authenticatie, met als enige doel te bevestigen dat een specifieke natuurlijke persoon daadwerkelijk de persoon is die die persoon beweert te zijn, en de identiteit van een natuurlijke persoon te bevestigen met als enige doel toegang te verschaffen tot een dienst, een apparaat te ontgrendelen of beveiligde toegang te verschaffen tot een locatie. Daarnaast moeten AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische categorisering op basis van krachtens artikel 9, lid 1, van Verordening (EU) 2016/679 beschermde gevoelige eigenschappen of kenmerken op basis van biometrische gegevensbiometrische gegevenspersoonsgegevenspersoonsgegevenspersoonsgegevens zoals gedefinieerd in artikel 4, punt 1, van Verordening (EU) 2016/679Article 3(50) die het resultaat zijn van een specifieke technische verwerking met betrekking tot de fysieke, fysiologische of gedragsgerelateerde kenmerken van een natuurlijk persoon, zoals gezichtsafbeeldingen of vingerafdrukgegevensArticle 3(34), voor zover deze niet verboden zijn op grond van deze verordening, en systemen voor het herkennen van emoties die niet verboden zijn op grond van deze verordening, worden geclassificeerd als systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2). Biometrische systemen die uitsluitend bedoeld zijn om te worden gebruikt om cyberbeveiligings- en persoonsgegevensbeschermingsmaatregelen mogelijk te maken, mogen niet als AI-systemen met een hoog risicorisicode combinatie van de kans op schade en de ernst van die schadeArticle 3(2) worden beschouwd.