Habida cuenta de su función y responsabilidad, las actuaciones de las fuerzas y cuerpos de seguridad que implican determinados usos de los sistemas de IA se caracterizan por un importante grado de desequilibrio de poder y pueden dar lugar a la vigilancia, detención o privación de libertad de una persona física, así como a otras repercusiones negativas sobre los derechos fundamentales garantizados en la Carta. En particular, si el sistema de IA no se entrena con datos de alta calidad, no cumple los requisitos adecuados en cuanto a su rendimiento, su precisión o su solidez, o no se diseña y prueba adecuadamente antes de su comercialización o puesta en servicio de otro modo, puede señalar a personas de forma discriminatoria o de otro modo incorrecto o injusto. Además, el ejercicio de importantes derechos fundamentales procesales, como el derecho a la tutela judicial efectiva y a un juez imparcial, así como el derecho de defensa y la presunción de inocencia, podría verse obstaculizado, en particular, cuando tales sistemas de IA no sean suficientemente transparentes, explicables y documentados. Por consiguiente, procede clasificar como de alto riesgo, en la medida en que su uso esté permitido por el Derecho nacional y de la Unión pertinente, una serie de sistemas de IA destinados a ser utilizados en el contexto policial, en el que la exactitud, la fiabilidad y la transparencia son especialmente importantes para evitar repercusiones negativas, mantener la confianza pública y garantizar la rendición de cuentas y la reparación efectiva. Habida cuenta de la naturaleza de las actividades y de los riesgos conexos, estos sistemas de IA de alto riesgo deben incluir, en particular, los sistemas de IA destinados a ser utilizados por las autoridades policiales o judiciales, o en su nombre, o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales, para evaluar el riesgo de que una persona física sea víctima de infracciones penales, como los polígrafos y herramientas similares, para la evaluación de la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento de infracciones penales, y, en la medida en que no esté prohibido por el presente Reglamento, para evaluar el riesgo de que una persona física delinca o reincida no basándose únicamente en la elaboración de perfiles de personas físicas o en la evaluación de rasgos y características de la personalidad o del comportamiento delictivo anterior de personas físicas o grupos, para la elaboración de perfiles en el curso de la detección, investigación o enjuiciamiento de infracciones penales. Los sistemas de IA destinados específicamente a ser utilizados en procedimientos administrativos por las autoridades tributarias y aduaneras, así como por las unidades de inteligencia financiera que lleven a cabo tareas administrativas de análisis de la información con arreglo a la legislación de la Unión contra el blanqueo de capitales, no deben clasificarse como sistemas de IA de alto riesgo utilizados por las fuerzas y cuerpos de seguridad con fines de prevención, detección, investigación y enjuiciamiento de infracciones penales. El uso de herramientas de IA por parte de las autoridades policiales y otras autoridades pertinentes no debe convertirse en un factor de desigualdad o exclusión. No deben ignorarse las repercusiones del uso de herramientas de IA en los derechos de defensa de los sospechosos, en particular la dificultad de obtener información significativa sobre el funcionamiento de esos sistemas y la consiguiente dificultad para impugnar sus resultados ante los tribunales, en particular por parte de las personas físicas investigadas.
Índice
Sección 1: Clasificación de los sistemas de IA como de alto riesgo
Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo
Artículo 7: Modificaciones del anexo III
Sección 2: Requisitos de los sistemas de IA de alto riesgo
Artículo 8: Cumplimiento de los requisitos
Artículo 9: Sistema de gestión de riesgos
Artículo 10: Datos y gobernanza de datos
Artículo 11: Documentación técnica
Artículo 12: Mantenimiento de registros
Artículo 13: Transparencia y suministro de información a los empresarios
Artículo 14: Supervisión humana
Artículo 15: Precisión, robustez y ciberseguridad
Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo
Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad
Artículo 18: Conservación de la documentación
Artículo 19: Registros generados automáticamente
Artículo 20: Acciones correctoras y deber de información
Artículo 21: Cooperación con las autoridades competentes
Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo
Artículo 23: Obligaciones de los importadores
Artículo 24: Obligaciones de los distribuidores
Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA
Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo
Sección 4: Autoridades de notificación y organismos notificados
Artículo 28 Autoridades de notificación
Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad
Artículo 30. Procedimiento de notificación Procedimiento de notificación
Artículo 31: Requisitos relativos a los organismos notificados
Artículo 35: Números de identificación y listas de organismos notificados
Artículo 36: Modificaciones de las notificaciones
Artículo 37: Impugnación de la competencia de los organismos notificados
Artículo 38: Coordinación de los organismos notificados
Sección 5: Normas, evaluación de la conformidad, certificados, registro
Artículo 40: Normas armonizadas y productos de normalización
Artículo 41. Especificaciones comunes Especificaciones comunes
Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos
Artículo 43. Evaluación de la conformidad Evaluación de la conformidad
Artículo 44. Certificados Certificados
Artículo 45: Obligaciones de información de los organismos notificados
Artículo 46: Excepción al procedimiento de evaluación de la conformidad
Sección 1: Normas de clasificación
Sección 2: Obligaciones de los proveedores de modelos de IA de propósito general
Artículo 54: Representantes autorizados de los proveedores de modelos de IA de uso general
Sección 1: Gobernanza a escala de la Unión
Artículo 65: Creación y estructura del Consejo Europeo de Inteligencia Artificial
Artículo 66: Funciones del Consejo
Artículo 68: Grupo científico de expertos independientes
Artículo 69: Acceso de los Estados miembros al grupo de expertos
Sección 2: Autoridades nacionales competentes
Artículo 70: Designación de las autoridades nacionales competentes y punto de contacto único
Sección 1: Seguimiento postcomercialización
Sección 2: Intercambio de información sobre incidentes graves
Artículo 73. Notificación de incidentes graves Notificación de incidentes graves
Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión
Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de uso general
Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales
Artículo 78. Confidencialidad Confidencialidad
Artículo 79: Procedimiento a nivel nacional para tratar los sistemas de IA que presenten un riesgo
Artículo 81: Procedimiento de salvaguardia de la Unión
Artículo 82: Sistemas de IA conformes que presentan un riesgo
Artículo 83. Incumplimiento formal Incumplimiento formal
Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión
Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado
Artículo 86: Derecho a la explicación de las decisiones individuales
Artículo 87: Denuncia de infracciones y protección de los denunciantes
Artículo 89 : Acciones de control
Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica
Artículo 91: Facultad de solicitar documentación e información
Artículo 92: Facultad de realizar evaluaciones
Artículo 93: Facultad de solicitar medidas
Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general
Artículo 95: Códigos de conducta para la aplicación voluntaria de requisitos específicos
Artículo 96: Directrices de la Comisión sobre la aplicación del presente Reglamento
Artículo 99. Sanciones Sanciones
Artículo 100: Multas administrativas a las instituciones, órganos y organismos de la Unión
Artículo 101: Multas para proveedores de modelos de IA de uso general
Artículo 102: Modificación del Reglamento (CE) nº 300/2008
Artículo 103: Modificación del Reglamento (UE) nº 167/2013.
Artículo 104: Modificación del Reglamento (UE) nº 168/2013.
Artículo 105: Modificación de la Directiva 2014/90/UE
Artículo 106: Modificación de la Directiva (UE) 2016/797
Artículo 107: Modificación del Reglamento (UE) 2018/858
Artículo 108: Modificaciones del Reglamento (UE) 2018/1139
Artículo 109: Modificación del Reglamento (UE) 2019/2144
Artículo 110: Modificación de la Directiva (UE) 2020/1828
Artículo 112: Evaluación y revisión
Artículo 113. Entrada en vigor y aplicación Entrada en vigor y aplicación
Recitales
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
Anexos
Anexo I: Lista de la legislación de armonización de la Unión
Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6
Anexo IV: Documentación técnica contemplada en el apartado 1 del artículo 11
Anexo V: Declaración de conformidad de la UE
Anexo VI: Procedimiento de evaluación de la conformidad basado en el control interno
Búsqueda en la Ley
Recital 59
NOTA: Esta traducción es una traducción automática. No es la traducción oficial facilitada por el Parlamento Europeo. Cuando se publique la Ley en el Diario Oficial, las traducciones automáticas serán sustituidas por las traducciones oficiales.
Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Taylor Jones en taylor@futureoflife.org
El texto utilizado en esta herramienta es la "Ley sobre Inteligencia Artificial (Reglamento (UE) 2024/1689), versión del Diario Oficial de 13 de junio de 2024". Fichero interinstitucional: 2021/0106(COD)