AI Act Documents:
AI Act Explorer

Article 10: Données et gouvernance des données

Entre en application 2 décembre 2027 (à haut risque au titre de l’annexe III) / 2 août 2028 (à haut risque au titre de l’annexe I), conformément à Article 113(c)
Considérants liés: 66 67 68 69 70
1. Les systèmes d'IA à haut risquerisquela combinaison de la probabilité d’un préjudice et de la sévérité de celui-ciArticle 3(2) faisant appel à des techniques qui impliquent l'entraînement de modèles d'IA au moyen de données sont développés sur la base de jeux de données d'entraînement, de validation et de test qui satisfont aux critères de qualité visés aux paragraphes 2, 3 et 4, du présent article et à l'article 4 bis, paragraphe 1, chaque fois que ces jeux de données sont utilisés.
2. Les jeux de données d’entraînementdonnées d’entraînementles données utilisées pour entraîner un système d’IAsystème d’IAun système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuelsArticle 3(1) en ajustant ses paramètres entraînablesArticle 3(29), de validation et de test sont soumis à des pratiques en matière de gouvernance et de gestion des données appropriées à la destinationdestinationl’utilisation à laquelle un système d’IA est destiné par le fournisseur, y compris le contexte et les conditions spécifiques d’utilisation, tels qu’ils sont précisés dans les informations communiquées par le fournisseur dans la notice d’utilisation, les indications publicitaires ou de vente et les déclarations, ainsi que dans la documentation techniqueArticle 3(12) du systèmes d’IA à haut risquerisquela combinaison de la probabilité d’un préjudice et de la sévérité de celui-ciArticle 3(2). Ces pratiques concernent en particulier:
(a) les choix de conception pertinents;
(b) les processus de collecte de données et l’origine des données, ainsi que, dans le cas des données à caractère personneldonnées à caractère personnelToute information se rapportant à une personne physique identifiée ou identifiable (« personne concernée »). Comprend le nom, le numéro d'identification, les données de localisation, les identifiants en ligne ou des facteurs propres à l'identité physique, physiologique, génétique, psychique, économique, culturelle ou socialeGDPR Art. 4(1)données à caractère personneldonnées à caractère personnelToute information se rapportant à une personne physique identifiée ou identifiable (« personne concernée »). Comprend le nom, le numéro d'identification, les données de localisation, les identifiants en ligne ou des facteurs propres à l'identité physique, physiologique, génétique, psychique, économique, culturelle ou socialeGDPR Art. 4(1)Toute information se rapportant à une personne physique identifiée ou identifiable (« personne concernée »). Comprend le nom, le numéro d'identification, les données de localisation, les identifiants en ligne ou des facteurs propres à l'identité physique, physiologique, génétique, psychique, économique, culturelle ou socialeGDPR Art. 4(1), la finalité initiale de la collecte de données;
(c) les opérations de traitement pertinentes pour la préparation des données, telles que l’annotation, l’étiquetage, le nettoyage, la mise à jour, l’enrichissement et l’agrégation;
(d) la formulation d’hypothèses, notamment en ce qui concerne les informations que les données sont censées mesurer et représenter;
(e) une évaluation de la disponibilité, de la quantité et de l’adéquation des jeux de données nécessaires;
(f) un examen permettant de repérer d’éventuels biais qui sont susceptibles de porter atteinte à la santé et à la sécurité des personnes, d’avoir une incidence négative sur les droits fondamentaux ou de se traduire par une discrimination interdite par le droit de l’Union, en particulier lorsque les données de sortie influencent les entrées pour les opérations futures;
(g) les mesures appropriées visant à détecter, prévenir et atténuer les éventuels biais repérés conformément au point f);
(h) la détection de lacunes ou déficiences pertinentes dans les données qui empêchent l’application du présent règlement, et la manière dont ces lacunes ou déficiences peuvent être comblées.
3. Les jeux de données d’entraînementdonnées d’entraînementles données utilisées pour entraîner un système d’IAsystème d’IAun système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuelsArticle 3(1) en ajustant ses paramètres entraînablesArticle 3(29), de validation et de test sont pertinents, suffisamment représentatifs et, dans toute la mesure possible, exempts d’erreurs et complets au regard de la destinationdestinationl’utilisation à laquelle un système d’IA est destiné par le fournisseur, y compris le contexte et les conditions spécifiques d’utilisation, tels qu’ils sont précisés dans les informations communiquées par le fournisseur dans la notice d’utilisation, les indications publicitaires ou de vente et les déclarations, ainsi que dans la documentation techniqueArticle 3(12). Ils possèdent les propriétés statistiques appropriées, y compris, le cas échéant, en ce qui concerne les personnes ou groupes de personnes à l’égard desquels le système d’IAsystème d’IAun système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuelsArticle 3(1) à haut risquerisquela combinaison de la probabilité d’un préjudice et de la sévérité de celui-ciArticle 3(2) est destiné à être utilisé. Ces caractéristiques des jeux de données peuvent être remplies au niveau des jeux de données pris individuellement ou d’une combinaison de ceux-ci.
4. Les jeux de données tiennent compte, dans la mesure requise par la destinationdestinationl’utilisation à laquelle un système d’IA est destiné par le fournisseur, y compris le contexte et les conditions spécifiques d’utilisation, tels qu’ils sont précisés dans les informations communiquées par le fournisseur dans la notice d’utilisation, les indications publicitaires ou de vente et les déclarations, ainsi que dans la documentation techniqueArticle 3(12), des caractéristiques ou éléments propres au cadre géographique, contextuel, comportemental ou fonctionnel spécifique dans lequel le système d’IAsystème d’IAun système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuelsArticle 3(1) à haut risquerisquela combinaison de la probabilité d’un préjudice et de la sévérité de celui-ciArticle 3(2) est destiné à être utilisé.
5. N’existe plus après la modification.
(a) N’existe plus après la modification.
(b) N’existe plus après la modification.
(c) N’existe plus après la modification.
(d) N’existe plus après la modification.
(e) N’existe plus après la modification.
(f) N’existe plus après la modification.
6. En ce qui concerne le développement de systèmes d'IA à haut risquerisquela combinaison de la probabilité d’un préjudice et de la sévérité de celui-ciArticle 3(2) qui ne font pas appel à des techniques qui impliquent l'entraînement de modèles d'IA, les paragraphes 2, 3 et 4 du présent article et l'article 4 bis, paragraphe 1, s'appliquent uniquement aux jeux de données de testdonnées de testles données utilisées pour fournir une évaluation indépendante du système d’IAsystème d’IAun système automatisé qui est conçu pour fonctionner à différents niveaux d’autonomie et peut faire preuve d’une capacité d’adaptation après son déploiement, et qui, pour des objectifs explicites ou implicites, déduit, à partir des entrées qu’il reçoit, la manière de générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions qui peuvent influencer les environnements physiques ou virtuelsArticle 3(1) afin de confirmer la performance attendue de ce système avant sa mise sur le marché ou sa mise en serviceArticle 3(32).