Un autre domaine dans lequel l'utilisation des systèmes d'IA mérite une attention particulière est celui de l'accès et de la jouissance de certains services et prestations privés et publics essentiels, nécessaires pour participer pleinement à la société ou pour améliorer son niveau de vie. En particulier, les personnes physiques qui demandent ou reçoivent des prestations et services essentiels d'assistance publique de la part des autorités publiques, à savoir les services de santé, les prestations de sécurité sociale, les services sociaux assurant une protection dans des cas tels que la maternité, la maladie, les accidents du travail, la dépendance ou la vieillesse et la perte d'emploi, ainsi que l'aide sociale et l'aide au logement, sont généralement dépendantes de ces prestations et services et se trouvent dans une position de vulnérabilité par rapport aux autorités responsables. Si des systèmes d'IA sont utilisés pour déterminer si ces prestations et services doivent être accordés, refusés, réduits, révoqués ou réclamés par les autorités, et notamment si les bénéficiaires ont légitimement droit à ces prestations ou services, ces systèmes peuvent avoir un impact significatif sur les moyens de subsistance des personnes et porter atteinte à leurs droits fondamentaux, tels que le droit à la protection sociale, à la non-discrimination, à la dignité humaine ou à un recours effectif, et doivent donc être classés dans la catégorie des systèmes à haut risque. Néanmoins, le présent règlement ne devrait pas entraver le développement et l'utilisation d'approches innovantes dans l'administration publique, qui aurait tout à gagner d'une utilisation plus large de systèmes d'IA conformes et sûrs, à condition que ces systèmes n'entraînent pas un risque élevé pour les personnes physiques et morales. En outre, les systèmes d'IA utilisés pour évaluer la cote de crédit ou la solvabilité des personnes physiques devraient être classés parmi les systèmes d'IA à haut risque, car ils déterminent l'accès de ces personnes à des ressources financières ou à des services essentiels tels que le logement, l'électricité et les services de télécommunication. Les systèmes d'IA utilisés à ces fins peuvent conduire à des discriminations entre personnes ou groupes et perpétuer des schémas historiques de discrimination, tels que ceux fondés sur la race ou l'origine ethnique, le sexe, les handicaps, l'âge ou l'orientation sexuelle, ou créer de nouvelles formes d'impacts discriminatoires. Toutefois, les systèmes d'IA prévus par le droit de l'Union aux fins de la détection de la fraude dans l'offre de services financiers et à des fins prudentielles pour calculer les exigences de fonds propres des établissements de crédit et des entreprises d'assurance ne devraient pas être considérés comme présentant un risque élevé au titre du présent règlement. En outre, les systèmes d'IA destinés à être utilisés pour l'évaluation des risques et la tarification en relation avec des personnes physiques pour l'assurance maladie et l'assurance vie peuvent également avoir un impact significatif sur les moyens de subsistance des personnes et, s'ils ne sont pas dûment conçus, développés et utilisés, peuvent porter atteinte à leurs droits fondamentaux et entraîner de graves conséquences pour leur vie et leur santé, y compris l'exclusion financière et la discrimination. Enfin, les systèmes d'IA utilisés pour évaluer et classer les appels d'urgence émanant de personnes physiques ou pour envoyer ou établir la priorité dans l'envoi des services de première intervention d'urgence, notamment par la police, les pompiers et l'aide médicale, ainsi que les systèmes de triage des patients dans les services de santé d'urgence, devraient également être classés comme étant à haut risque puisqu'ils prennent des décisions dans des situations très critiques pour la vie et la santé des personnes et de leurs biens.
Table des matières
Section 1 : Classification des systèmes d'IA comme étant à haut risque
Article 6 : Règles de classification des systèmes d'IA à haut risque
Article 7 : modifications de l'annexe III
Section 2 : Exigences relatives aux systèmes d'IA à haut risque
Article 8 : Respect des exigences
Article 9 : Système de gestion des risques
Article 10 : Données et gouvernance des données
Article 11 : Documentation technique
Article 12 : Tenue de registres
Article 13 : Transparence et information des entreprises de déploiement
Article 14 : Surveillance humaine
Article 15 : Précision, robustesse et cybersécurité
Article 16 : Obligations des fournisseurs de systèmes d'IA à haut risque
Article 17 : Système de gestion de la qualité
Article 18 : Conservation de la documentation
Article 19 : Journaux générés automatiquement
Article 20 : Actions correctives et obligation d'information
Article 21 : Coopération avec les autorités compétentes
Article 22 : Représentants autorisés des fournisseurs de systèmes d'IA à haut risque
Article 23 : Obligations des importateurs
Article 24 : Obligations des distributeurs
Article 25 : Responsabilités tout au long de la chaîne de valeur de l'IA
Article 26 : Obligations des déployeurs de systèmes d'IA à haut risque
Article 27 : Évaluation de l'impact sur les droits fondamentaux des systèmes d'IA à haut risque
Section 4 : Autorités de notification et organismes notifiés
Article 28 : Autorités de notification
Article 29 : Demande de notification d'un organisme d'évaluation de la conformité
Article 30 : Procédure de notification
Article 31 : Exigences relatives aux organismes notifiés
Article 32 : Présomption de conformité aux exigences relatives aux organismes notifiés
Article 33 : Filiales des organismes notifiés et sous-traitance
Article 34 : Obligations opérationnelles des organismes notifiés
Article 35 : Numéros d'identification et listes des organismes notifiés
Article 36 : Modifications des notifications
Article 37 : Contestation de la compétence des organismes notifiés
Article 38 : Coordination des organismes notifiés
Article 39 : Organismes d'évaluation de la conformité de pays tiers
Section 5 : Normes, évaluation de la conformité, certificats, enregistrement
Article 40 : Normes harmonisées et résultats de la normalisation
Article 41 : Spécifications communes
Article 42 : Présomption de conformité à certaines exigences
Article 43 : Évaluation de la conformité
Article 45 : Obligations d'information des organismes notifiés
Article 46 : Dérogation à la procédure d'évaluation de la conformité
Section 1 : Règles de classification
Section 2 : Obligations des fournisseurs de modèles d'IA à usage général
Article 53 : Obligations des fournisseurs de modèles d'IA à usage général
Article 54 : Représentants autorisés des fournisseurs de modèles d'IA à usage général
Article 57 : Bacs à sable réglementaires en matière d'IA
Article 58 : Modalités et fonctionnement des "bacs à sable" réglementaires en matière d'IA
Section 1 : Gouvernance au niveau de l'Union
Article 65 : Création et structure du Comité européen de l'intelligence artificielle
Article 66 : Tâches du conseil d'administration
Article 67 : Forum consultatif
Article 68 : Groupe scientifique d'experts indépendants
Article 69 : Accès des États membres à la réserve d'experts
Section 2 : Autorités nationales compétentes
Article 70 : Désignation des autorités nationales compétentes et du point de contact unique
Section 1 : Surveillance après la mise sur le marché
Section 2 : Partage d'informations sur les incidents graves
Article 73 : Notification des incidents graves
Article 74 : Surveillance du marché et contrôle des systèmes d'IA dans le marché de l'Union
Article 76 : Supervision des tests en conditions réelles par les autorités de surveillance du marché
Article 77 : Pouvoirs des autorités chargées de la protection des droits fondamentaux
Article 79 : Procédure au niveau national pour traiter les systèmes d'IA présentant un risque
Article 81 : Procédure de sauvegarde de l'Union
Article 82 : Systèmes d'IA conformes présentant un risque
Article 83 : Non-respect formel
Article 84 : Structures de soutien aux essais de l'IA de l'Union
Article 85 : Droit de déposer une plainte auprès d'une autorité de surveillance du marché
Article 86 : Droit à l'explication des décisions individuelles
Article 87 : Signalement des infractions et protection des personnes qui les signalent
Article 88 : Exécution des obligations des fournisseurs de modèles d'IA à usage général
Article 90 : Alertes sur les risques systémiques par le groupe scientifique
Article 91 : Pouvoir de demander des documents et des informations
Article 92 : Pouvoir d'évaluation
Article 93 : Pouvoir de demander des mesures
Article 94 : Droits procéduraux des opérateurs économiques du modèle d'IA à usage général
Article 95 : Codes de conduite pour l'application volontaire d'exigences spécifiques
Article 96 : Lignes directrices de la Commission sur la mise en œuvre du présent règlement
Article 102 : Modification du règlement (CE) n° 300/2008
Article 103 : Modification du règlement (UE) n° 167/2013
Article 104 : Modification du règlement (UE) n° 168/2013
Article 105 : modification de la directive 2014/90/UE
Article 106 : modification de la directive (UE) 2016/797
Article 107 : Modification du règlement (UE) 2018/858
Article 108 : Modifications du règlement (UE) 2018/1139
Article 109 : Modification du règlement (UE) 2019/2144
Article 110 : modification de la directive (UE) 2020/1828
Récitals
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
Annexes
Annexe I : Liste de la législation d'harmonisation de l'Union
Annexe III : Systèmes d'IA à haut risque visés à l'article 6, paragraphe 2
Annexe IV : Documentation technique visée à l'article 11, paragraphe 1
Annexe V : Déclaration de conformité de l'UE
Annexe VI : Procédure d'évaluation de la conformité basée sur le contrôle interne
Recherche dans le cadre de la loi
Récital 58
NOTE : Cette traduction est une traduction générée par une machine. Il ne s'agit pas de la traduction officielle fournie par le Parlement européen. Lorsque la loi sur l'IA sera publiée au journal officiel, les traductions générées par la machine seront remplacées par les traductions officielles.
Commentaires - Nous travaillons à l'amélioration de cet outil. Veuillez envoyer vos commentaires à Taylor Jones à l'adresse suivante : taylor@futureoflife.org
Le texte utilisé dans cet outil est la "Loi sur l'intelligence artificielle (Règlement (UE) 2024/1689), version du Journal officiel du 13 juin 2024". Dossier interinstitutionnel : 2021/0106(COD)