Table des matières

Section 1 : Classification des systèmes d'IA comme étant à haut risque

Article 6 : Règles de classification des systèmes d'IA à haut risque

Article 7 : modifications de l'annexe III

Section 2 : Exigences relatives aux systèmes d'IA à haut risque

Article 8 : Respect des exigences

Article 9 : Système de gestion des risques

Article 10 : Données et gouvernance des données

Article 11 : Documentation technique

Article 12 : Tenue de registres

Article 13 : Transparence et information des entreprises de déploiement

Article 14 : Surveillance humaine

Article 15 : Précision, robustesse et cybersécurité

Section 3 : Obligations des fournisseurs et des déployeurs de systèmes d'IA à haut risque et des autres parties

Article 16 : Obligations des fournisseurs de systèmes d'IA à haut risque

Article 17 : Système de gestion de la qualité

Article 18 : Conservation de la documentation

Article 19 : Journaux générés automatiquement

Article 20 : Actions correctives et obligation d'information

Article 21 : Coopération avec les autorités compétentes

Article 22 : Représentants autorisés des fournisseurs de systèmes d'IA à haut risque

Article 23 : Obligations des importateurs

Article 24 : Obligations des distributeurs

Article 25 : Responsabilités tout au long de la chaîne de valeur de l'IA

Article 26 : Obligations des déployeurs de systèmes d'IA à haut risque

Article 27 : Évaluation de l'impact sur les droits fondamentaux des systèmes d'IA à haut risque

Section 4 : Autorités de notification et organismes notifiés

Article 28 : Autorités de notification

Article 29 : Demande de notification d'un organisme d'évaluation de la conformité

Article 30 : Procédure de notification

Article 31 : Exigences relatives aux organismes notifiés

Article 32 : Présomption de conformité aux exigences relatives aux organismes notifiés

Article 33 : Filiales et sous-traitance des organismes notifiés

Article 34 : Obligations opérationnelles des organismes notifiés

Article 35 : Numéros d'identification et listes des organismes notifiés désignés en vertu du présent règlement

Article 36 : Modifications des notifications

Article 37 : Contestation de la compétence des organismes notifiés

Article 38 : Coordination des organismes notifiés

Article 39 : Organismes d'évaluation de la conformité de pays tiers

Section 5 : Normes, évaluation de la conformité, certificats, enregistrement

Article 40 : Normes harmonisées et résultats de la normalisation

Article 41 : Spécifications communes

Article 42 : Présomption de conformité à certaines exigences

Article 43 : Évaluation de la conformité

Article 44 : Certificats

Article 45 : Obligations d'information des organismes notifiés

Article 46 : Dérogation à la procédure d'évaluation de la conformité

Article 47 : Déclaration de conformité de l'UE

Article 48 : Marquage CE

Article 49 : Enregistrement

Section 1 : Surveillance après la mise sur le marché

Article 72 : Suivi des fournisseurs après la mise sur le marché et plan de suivi après la mise sur le marché pour les systèmes d'IA à haut risque

Section 2 : Partage d'informations sur les incidents graves

Article 73 : Notification des incidents graves

Section 3 : Exécution

Article 74 : Surveillance du marché et contrôle des systèmes d'IA dans le marché de l'Union

Article 75 : Assistance mutuelle, surveillance du marché et contrôle des systèmes d'IA à usage général

Article 76 : Supervision des tests en conditions réelles par les autorités de surveillance du marché

Article 77 : Pouvoirs des autorités chargées de la protection des droits fondamentaux

Article 78 : Confidentialité

Article 79 : Procédure de traitement des systèmes d'IA présentant un risque au niveau national

Article 80 : Procédure de traitement des systèmes d'IA classés par le fournisseur comme ne présentant pas de risque élevé en application de l'annexe III

Article 81 : Procédure de sauvegarde de l'Union

Article 82 : Systèmes d'IA conformes présentant un risque

Article 83 : Non-respect formel

Article 84 : Structures de soutien aux essais de l'IA de l'Union

Section 4 : Recours

Article 85 : Droit de déposer une plainte auprès d'une autorité de surveillance du marché

Article 86 : Droit à l'explication des décisions individuelles

Article 87 : Signalement des infractions et protection des personnes qui les signalent

Section 5 : Supervision, enquête, application et contrôle concernant les fournisseurs de modèles d'IA à usage général

Article 88 : Exécution des obligations incombant aux fournisseurs de modèles d'IA à usage général

Article 89 : Actions de suivi

Article 90 : Alertes sur les risques systémiques par le groupe scientifique

Article 91 : Pouvoir de demander des documents et des informations

Article 92 : Pouvoir d'évaluation

Article 93 : Pouvoir de demander des mesures

Article 94 : Droits procéduraux des opérateurs économiques du modèle d'IA à usage général

Récitals

Annexes

Recherche dans le cadre de la loi

Article 14 : Surveillance humaine

Résumé

Cet article indique que les systèmes d'IA à haut risque doivent être conçus de manière à permettre aux humains de les superviser efficacement. L'objectif de la surveillance humaine est de prévenir ou de minimiser les risques pour la santé, la sécurité ou les droits fondamentaux qui peuvent découler de l'utilisation de ces systèmes. Les mesures de surveillance doivent correspondre aux risques et au contexte d'utilisation du système d'IA. Ces mesures peuvent être intégrées au système par le fournisseur ou mises en œuvre par l'utilisateur. Le système d'IA doit être fourni de manière à permettre au superviseur de comprendre ses capacités et ses limites, de détecter et de résoudre les problèmes, d'éviter une dépendance excessive à l'égard du système, d'interpréter ses résultats, de décider de ne pas l'utiliser ou d'en interrompre le fonctionnement. Pour certains systèmes d'IA à haut risque, toute action ou décision fondée sur l'identification du système doit être vérifiée par au moins deux personnes compétentes.

Généré par CLaiRK, édité par nous.

NOTE : Cette traduction est une traduction générée par une machine. Il ne s'agit pas de la traduction officielle fournie par le Parlement européen. Lorsque la loi sur l'IA sera publiée au journal officiel, les traductions générées par la machine seront remplacées par les traductions officielles.

1. Les systèmes d'IA à haut risque sont conçus et développés, y compris avec des outils d'interface homme-machine appropriés, de manière à pouvoir être effectivement contrôlés par des personnes physiques pendant la période où ils sont utilisés.

2. La surveillance humaine vise à prévenir ou à réduire au minimum les risques pour la santé, la sécurité ou les droits fondamentaux qui peuvent apparaître lorsqu'un système d'IA à haut risque est utilisé conformément à sa destination ou dans des conditions de mauvaise utilisation raisonnablement prévisibles, en particulier lorsque ces risques persistent malgré l'application des autres exigences énoncées dans la présente section.
section.

3. Les mesures de contrôle sont proportionnées aux risques, au niveau d'autonomie et au contexte d'utilisation du système d'IA à haut risque, et sont assurées par l'un ou l'autre des types de mesures suivants, ou par les deux :

(a) des mesures identifiées et intégrées, lorsque cela est techniquement possible, dans le système d'IA à haut risque par le fournisseur avant qu'il ne soit mis sur le marché ou mis en service ;

(b) les mesures identifiées par le fournisseur avant la mise sur le marché ou la mise en service du système d'IA à haut risque et qui sont appropriées pour être mises en œuvre par le déployeur.

4. Aux fins de la mise en œuvre des paragraphes 1, 2 et 3, le système d'IA à haut risque est fourni au responsable du déploiement de telle sorte que les personnes physiques auxquelles la surveillance humaine est confiée soient habilitées, selon ce qui est approprié et proportionné :

(a) bien comprendre les capacités et les limites du système d'IA à haut risque et être en mesure de contrôler dûment son fonctionnement, notamment en vue de détecter et de traiter les anomalies, les dysfonctionnements et les performances inattendues ;

(b) de rester conscients de la tendance possible à se fier automatiquement ou de manière excessive aux résultats produits par un système d'IA à haut risque (biais d'automatisation), en particulier pour les systèmes d'IA à haut risque utilisés pour fournir des informations ou des recommandations en vue de décisions à prendre par des personnes physiques ;

(c) d'interpréter correctement les résultats du système d'IA à haut risque, en tenant compte, par exemple, des outils et des méthodes d'interprétation disponibles ;

(d) de décider, dans une situation donnée, de ne pas utiliser le système d'IA à haut risque ou de ne pas tenir compte des résultats du système d'IA à haut risque, de les ignorer ou de les inverser ;

(e) intervenir dans le fonctionnement du système d'IA à haut risque ou interrompre le système au moyen d'un bouton "stop" ou d'une procédure similaire permettant au système de s'arrêter dans un état sûr.

5. Pour les systèmes d'IA à haut risque visés à l'annexe III, point 1 a), les mesures visées au paragraphe 3 du présent article sont de nature à garantir que, en outre, aucune action ou décision n'est prise par le responsable du déploiement sur la base de l'identification résultant du système, à moins que cette identification n'ait été vérifiée et confirmée séparément par au moins deux personnes physiques possédant les compétences, la formation et l'autorité nécessaires. L'exigence d'une vérification séparée par au moins deux personnes physiques ne s'applique pas aux systèmes d'IA à haut risque utilisés à des fins répressives, de migration, de contrôle aux frontières ou d'asile, lorsque le droit de l'Union ou le droit national considère que l'application de cette exigence est disproportionnée.

Commentaires - Nous travaillons à l'amélioration de cet outil. Veuillez envoyer vos commentaires à Taylor Jones à l'adresse suivante : taylor@futureoflife.org

Le texte utilisé dans cet outil est la "Loi sur l'intelligence artificielle, Rectificatif, 19 avril 2024". Dossier interinstitutionnel : 2021/0106(COD)