Table des matières

Section 1 : Classification des systèmes d'IA comme étant à haut risque

Article 6 : Règles de classification des systèmes d'IA à haut risque

Article 7 : modifications de l'annexe III

Section 2 : Exigences relatives aux systèmes d'IA à haut risque

Article 8 : Respect des exigences

Article 9 : Système de gestion des risques

Article 10 : Données et gouvernance des données

Article 11 : Documentation technique

Article 12 : Tenue de registres

Article 13 : Transparence et information des entreprises de déploiement

Article 14 : Surveillance humaine

Article 15 : Précision, robustesse et cybersécurité

Section 3 : Obligations des fournisseurs et des déployeurs de systèmes d'IA à haut risque et des autres parties

Article 16 : Obligations des fournisseurs de systèmes d'IA à haut risque

Article 17 : Système de gestion de la qualité

Article 18 : Conservation de la documentation

Article 19 : Journaux générés automatiquement

Article 20 : Actions correctives et obligation d'information

Article 21 : Coopération avec les autorités compétentes

Article 22 : Représentants autorisés des fournisseurs de systèmes d'IA à haut risque

Article 23 : Obligations des importateurs

Article 24 : Obligations des distributeurs

Article 25 : Responsabilités tout au long de la chaîne de valeur de l'IA

Article 26 : Obligations des déployeurs de systèmes d'IA à haut risque

Article 27 : Évaluation de l'impact sur les droits fondamentaux des systèmes d'IA à haut risque

Section 4 : Autorités de notification et organismes notifiés

Article 28 : Autorités de notification

Article 29 : Demande de notification d'un organisme d'évaluation de la conformité

Article 30 : Procédure de notification

Article 31 : Exigences relatives aux organismes notifiés

Article 32 : Présomption de conformité aux exigences relatives aux organismes notifiés

Article 33 : Filiales et sous-traitance des organismes notifiés

Article 34 : Obligations opérationnelles des organismes notifiés

Article 35 : Numéros d'identification et listes des organismes notifiés désignés en vertu du présent règlement

Article 36 : Modifications des notifications

Article 37 : Contestation de la compétence des organismes notifiés

Article 38 : Coordination des organismes notifiés

Article 39 : Organismes d'évaluation de la conformité de pays tiers

Section 5 : Normes, évaluation de la conformité, certificats, enregistrement

Article 40 : Normes harmonisées et résultats de la normalisation

Article 41 : Spécifications communes

Article 42 : Présomption de conformité à certaines exigences

Article 43 : Évaluation de la conformité

Article 44 : Certificats

Article 45 : Obligations d'information des organismes notifiés

Article 46 : Dérogation à la procédure d'évaluation de la conformité

Article 47 : Déclaration de conformité de l'UE

Article 48 : Marquage CE

Article 49 : Enregistrement

Section 1 : Surveillance après la mise sur le marché

Article 72 : Surveillance des fournisseurs après la mise sur le marché et plan de surveillance après la mise sur le marché pour les systèmes d'IA à haut risque

Section 2 : Partage d'informations sur les incidents graves

Article 73 : Notification des incidents graves

Section 3 : Exécution

Article 74 : Surveillance du marché et contrôle des systèmes d'IA dans le marché de l'Union

Article 75 : Assistance mutuelle, surveillance du marché et contrôle des systèmes d'IA à usage général

Article 76 : Supervision des tests en conditions réelles par les autorités de surveillance du marché

Article 77 : Pouvoirs des autorités chargées de la protection des droits fondamentaux

Article 78 : Confidentialité

Article 79 : Procédure de traitement des systèmes d'IA présentant un risque au niveau national

Article 80 : Procédure de traitement des systèmes d'IA classés par le fournisseur comme ne présentant pas de risque élevé en application de l'annexe III

Article 81 : Procédure de sauvegarde de l'Union

Article 82 : Systèmes d'IA conformes présentant un risque

Article 83 : Non-respect formel

Article 84 : Structures de soutien aux essais de l'IA de l'Union

Section 4 : Recours

Article 85 : Droit de déposer une plainte auprès d'une autorité de surveillance du marché

Article 86 : Droit à l'explication des décisions individuelles

Article 87 : Signalement des infractions et protection des personnes qui les signalent

Section 5 : Supervision, enquête, application et contrôle concernant les fournisseurs de modèles d'IA à usage général

Article 88 : Exécution des obligations incombant aux fournisseurs de modèles d'IA à usage général

Article 89 : Actions de suivi

Article 90 : Alertes sur les risques systémiques par le groupe scientifique

Article 91 : Pouvoir de demander des documents et des informations

Article 92 : Pouvoir d'évaluation

Article 93 : Pouvoir de demander des mesures

Article 94 : Droits procéduraux des opérateurs économiques du modèle d'IA à usage général

Récitals

Annexes

Recherche dans le cadre de la loi

Article 60 : Essais de systèmes d'IA à haut risque dans des conditions réelles en dehors des "bacs à sable" réglementaires en matière d'IA

Date d'entrée en vigueur :

juillet 2026

D'après :

Article 113

Note : Cette date est une estimation basée sur la date prévue d'entrée en vigueur. Voir ici pour un calendrier complet de mise en œuvre.

Résumé

Cet article traite des règles relatives aux tests des systèmes d'IA à haut risque dans des conditions réelles. Les entreprises qui souhaitent tester ces systèmes doivent soumettre un plan de test à l'autorité compétente de l'État membre de l'UE où le test aura lieu. Si l'autorité ne répond pas dans les 30 jours, le plan est considéré comme approuvé. Les tests ne peuvent durer plus de six mois, mais ils peuvent être prolongés de six mois si nécessaire. Les entreprises doivent également s'assurer que les tests ne portent pas préjudice aux groupes vulnérables et que toutes les données collectées sont correctement protégées. Tout incident grave survenant au cours des essais doit être signalé et les essais doivent être suspendus jusqu'à ce que le problème soit résolu.

Généré par CLaiRK, édité par nous.

NOTE : Cette traduction est une traduction générée par une machine. Il ne s'agit pas de la traduction officielle fournie par le Parlement européen. Lorsque la loi sur l'IA sera publiée au journal officiel, les traductions générées par la machine seront remplacées par les traductions officielles.

1. Les essais de systèmes d'IA à haut risque dans des conditions réelles, en dehors des bacs à sable réglementaires en matière d'IA, peuvent être menés par les fournisseurs ou les fournisseurs potentiels de systèmes d'IA à haut risque énumérés à l'annexe III, conformément au présent article et au plan d'essais en conditions réelles visé au présent article, sans préjudice des interdictions prévues à l'article 5. La Commission précise, au moyen d'actes d'exécution, les éléments détaillés du plan d'expérimentation en conditions réelles. Ces actes d'exécution sont adoptés en conformité avec la procédure d'examen visée à l 'article 98, paragraphe 2. Le présent paragraphe est sans préjudice du droit de l'Union ou du droit national relatif aux essais en conditions réelles des systèmes d'IA à haut risque liés aux produits couverts par la législation d'harmonisation de l'Union énumérée à l'annexe I.

2. Les fournisseurs ou fournisseurs potentiels peuvent tester les systèmes d'IA à haut risque visés à l'annexe III dans des conditions réelles à tout moment avant la mise sur le marché ou la mise en service du système d'IA, par eux-mêmes ou en partenariat avec un ou plusieurs déployeurs ou déployeurs potentiels.

3. L'expérimentation de systèmes d'IA à haut risque dans des conditions réelles au titre du présent article s'effectue sans préjudice de tout examen éthique requis par le droit de l'Union ou le droit national.

4. Les prestataires ou les prestataires potentiels ne peuvent effectuer les tests en conditions réelles que si toutes les conditions suivantes sont remplies :

(a) le prestataire ou le prestataire potentiel a établi un plan d'expérimentation en conditions réelles et l'a soumis à l'autorité de surveillance du marché de l'État membre dans lequel l'expérimentation en conditions réelles doit être effectuée ;

(b) l'autorité de surveillance du marché de l'État membre où les essais en conditions réelles doivent être réalisés a approuvé les essais en conditions réelles et le plan d'essais en conditions réelles ; si l'autorité de surveillance du marché n'a pas donné de réponse dans les 30 jours, les essais en conditions réelles et le plan d'essais en conditions réelles sont réputés avoir été approuvés ; si le droit national ne prévoit pas d'approbation tacite, les essais en conditions réelles restent soumis à une autorisation ;

(c) le fournisseur ou fournisseur potentiel, à l'exception des fournisseurs ou fournisseurs potentiels de systèmes d'IA à haut risque visés aux points 1, 6 et 7 de l'annexe III dans les domaines du maintien de l'ordre, de la migration, de l'asile et de la gestion des contrôles aux frontières, et des systèmes d'IA à haut risque visés au point 2 de l'annexe III, a enregistré l'expérimentation en conditions réelles conformément à l'article 71, paragraphe 4, au moyen d'un numéro d'identification unique à l'échelle de l'Union et des informations spécifiées à l'annexe IX; le fournisseur ou fournisseur potentiel de systèmes d'IA à haut risque visés aux points 1, 6 et 7 de l'annexe III dans les domaines du maintien de l'ordre, de la migration, de l'asile et de la gestion des contrôles aux frontières a enregistré les essais en conditions réelles dans la partie sécurisée non publique de la base de données de l'UE conformément à l'article 49, paragraphe 4, point d), avec un numéro d'identification unique à l'échelle de l'Union et les informations qui y sont spécifiées ; le fournisseur ou fournisseur potentiel de systèmes d'IA à haut risque visés au point 2 de l'annexe III a enregistré les essais en conditions réelles conformément à l'article 49, paragraphe 5 ;

(d) le prestataire ou le prestataire potentiel qui effectue les tests dans des conditions réelles est établi dans l'Union ou a désigné un représentant légal établi dans l'Union ;

(e) les données collectées et traitées aux fins des essais en conditions réelles ne sont transférées à des pays tiers qu'à condition que des garanties appropriées et applicables en vertu du droit de l'Union soient mises en œuvre ;

(f) les essais en conditions réelles ne durent pas plus longtemps que nécessaire pour atteindre leurs objectifs et, en tout état de cause, pas plus de six mois, période qui peut être prolongée de six mois supplémentaires, sous réserve d'une notification préalable du fournisseur ou du fournisseur potentiel à l'autorité de surveillance du marché, accompagnée d'une explication de la nécessité d'une telle prolongation ;

(g) les sujets des essais en conditions réelles, qui sont des personnes appartenant à des groupes vulnérables en raison de leur âge ou de leur handicap, sont protégés de manière appropriée ;

(h) lorsqu'un prestataire ou prestataire potentiel organise l'expérimentation en conditions réelles en coopération avec un ou plusieurs déployeurs ou déployeurs potentiels, ces derniers ont été informés de tous les aspects de l'expérimentation qui sont pertinents pour leur décision de participer et ont reçu les instructions pertinentes pour l'utilisation du système d'IA visé à l'article 13; le prestataire ou prestataire potentiel et le déployeur ou déployeur potentiel concluent un accord précisant leurs rôles et responsabilités en vue d'assurer le respect des dispositions relatives à l'expérimentation en conditions réelles prévues par le présent règlement et par les autres dispositions applicables du droit de l'Union et du droit national ;

(i) les sujets des essais en conditions réelles ont donné leur consentement éclairé conformément à l'article 61 ou, dans le cas des services répressifs, lorsque l'obtention du consentement éclairé empêcherait l'essai du système d'IA, l'essai lui-même et le résultat de l'essai en conditions réelles n'ont pas d'effet négatif sur les sujets, et leurs données à caractère personnel sont supprimées après l'exécution de l'essai ;

(j) les essais en conditions réelles sont effectivement supervisés par le fournisseur ou le fournisseur potentiel, ainsi que par les déployeurs ou les déployeurs potentiels, par l'intermédiaire de personnes dûment qualifiées dans le domaine concerné et disposant des capacités, de la formation et de l'autorité nécessaires pour s'acquitter de leurs tâches ;

(k) les prédictions, recommandations ou décisions du système d'IA peuvent être effectivement annulées et ignorées.

5. Tout sujet des essais en conditions réelles, ou son représentant légalement désigné, le cas échéant, peut, sans préjudice et sans avoir à fournir de justification, se retirer des essais à tout moment en révoquant son consentement éclairé et peut demander l'effacement immédiat et permanent de ses données à caractère personnel. Le retrait du consentement éclairé n'affecte pas les activités déjà réalisées.

6. Conformément à l'article 75, les États membres confèrent à leurs autorités de surveillance du marché le pouvoir d'exiger des prestataires et des prestataires potentiels qu'ils fournissent des informations, de procéder à des inspections inopinées à distance ou sur place et de contrôler la conduite des essais en conditions réelles et les systèmes d'IA à haut risque qui y sont associés. Les autorités de surveillance du marché utilisent ces pouvoirs pour garantir la sécurité des essais en conditions réelles.

7. Tout incident grave constaté au cours des essais en conditions réelles est signalé à l'autorité nationale de surveillance du marché conformément à l'article 73. Le fournisseur ou le fournisseur potentiel adopte immédiatement des mesures d'atténuation ou, à défaut, suspend les essais en conditions réelles jusqu'à ce que ces mesures d'atténuation soient prises, ou y met fin. Le fournisseur ou le fournisseur potentiel établit une procédure de rappel rapide du système d'IA à la fin des essais en conditions réelles.

8. Les prestataires ou prestataires potentiels notifient à l'autorité nationale de surveillance du marché de l'État membre dans lequel les essais en conditions réelles doivent être effectués la suspension ou la fin des essais en conditions réelles et les résultats finaux.

9. Le prestataire ou le prestataire potentiel est responsable, en vertu du droit de l'Union et du droit national applicable en matière de responsabilité, de tout dommage causé au cours de leurs essais dans des conditions réelles.

Commentaires - Nous travaillons à l'amélioration de cet outil. Veuillez envoyer vos commentaires à Taylor Jones à l'adresse suivante : taylor@futureoflife.org

Le texte utilisé dans cet outil est la "Loi sur l'intelligence artificielle, Rectificatif, 19 avril 2024". Dossier interinstitutionnel : 2021/0106(COD)