Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33: Filiales y subcontratación de los organismos notificados

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados designados en virtud del presente Reglamento

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de propósito general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87. Notificación de infracciones y protección de los denunciantes Notificación de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de seguimiento

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Anexos

Búsqueda en la Ley

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Risto Uuk en risto@futureoflife.org

1. Independientemente de que un sistema de IA se comercialice o se ponga en servicio independientemente de los productos contemplados en las letras a) y b), dicho sistema de IA se considerará de alto riesgo cuando se cumplan las dos condiciones siguientes:

(a) el sistema de IA está destinado a utilizarse como componente de seguridad de un producto, o el sistema de IA es en sí mismo un producto, cubierto por la legislación de armonización de la Unión enumerada en el anexo I;

(b) el producto cuyo componente de seguridad con arreglo a la letra a) es el sistema de IA, o el propio sistema de IA como producto, debe someterse a una evaluación de la conformidad por terceros, con vistas a la introducción en el mercado o puesta en servicio de dicho producto con arreglo a la legislación de armonización de la Unión enumerada en el anexo I.

2. Además de los sistemas de IA de alto riesgo a que se refiere el apartado 1, también se considerarán de alto riesgo los sistemas de IA a que se refiere el Anexo III.

2a. No obstante lo dispuesto en el apartado 2, los sistemas de IA no se considerarán de alto riesgo si no suponen un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, incluido el hecho de no influir materialmente en el resultado de la toma de decisiones. Este será el caso si se cumplen uno o varios de los siguientes criterios:

(a) el sistema de IA está destinado a realizar una tarea de procedimiento limitada;

(b) el sistema de IA está destinado a mejorar el resultado de una actividad humana previamente realizada;

(c) el sistema de IA está destinado a detectar patrones de toma de decisiones o desviaciones de patrones de toma de decisiones anteriores y no está destinado a sustituir o influir en la evaluación humana previamente completada, sin la debida revisión humana; o bien

(d) el sistema de IA está destinado a realizar una tarea preparatoria de una evaluación pertinente a efectos de los casos de uso enumerados en el anexo III. No obstante lo dispuesto en el párrafo primero del presente apartado, un sistema de IA se considerará siempre de alto riesgo si el sistema de IA realiza la elaboración de perfiles de personas físicas.

2b. El proveedor que considere que un sistema de IA contemplado en el anexo III no es de alto riesgo documentará su evaluación antes de que dicho sistema se comercialice o se ponga en servicio. Dicho proveedor estará sujeto a la obligación de registro establecida en el apartado 1 bis del artículo 49. A petición de las autoridades nacionales competentes, el proveedor facilitará la documentación de la evaluación.

2c. La Comisión, previa consulta al Consejo de IA, y a más tardar [18 meses] después de la entrada en vigor del presente Reglamento, proporcionará directrices que especifiquen la aplicación práctica del presente artículo, completadas con una lista exhaustiva de ejemplos prácticos de casos de uso de alto riesgo y de no alto riesgo en los sistemas de IA, de conformidad con el artículo 82 ter.

2d. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 a fin de modificar los criterios establecidos en el apartado 2 bis, párrafo primero, letras a) a d). La Comisión podrá adoptar actos delegados por los que se añadan nuevos criterios a los establecidos en el apartado 2 bis, párrafo primero, letras a) a d), o se modifiquen, únicamente cuando existan pruebas concretas y fiables de la existencia de sistemas de IA que entren en el ámbito de aplicación del anexo III, pero que no planteen un riesgo significativo de daño para la salud, la seguridad y los derechos fundamentales. La Comisión adoptará actos delegados por los que se suprima alguno de los criterios establecidos en el apartado 2 bis, párrafo primero, cuando existan pruebas concretas y fiables de que ello es necesario para mantener el nivel de protección de la salud, la seguridad y los derechos fundamentales en la Unión. Cualquier modificación de los criterios establecidos en las letras a) a d) del apartado 2 bis, párrafo primero, no disminuirá el nivel general de protección de la salud, la seguridad y los derechos fundamentales en la Unión. Al adoptar los actos delegados, la Comisión garantizará la coherencia con los actos delegados adoptados en virtud del artículo 7, apartado 1, y tendrá en cuenta la evolución del mercado y de la tecnología.

El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Texto del acuerdo provisional, 2 de febrero de 2024", que se anunció oficialmente en este comunicado de prensa. Expediente interinstitucional: 2021/0106(COD)

Cuando se han añadido nuevos artículos en versiones posteriores y se han realizado correcciones importantes, estos cambios se han reproducido también en el Explorador de la Ley IA. Además, en los "Textos Aprobados" de marzo de 2024, muchos artículos han cambiado de nombre o de numeración, y los artículos del Explorador de la Ley IA se han actualizado en consecuencia. Esto significa que el contenido de nuestro sitio ya no coincide exactamente con ningún borrador oficial de la Ley de la IA, sino que es un híbrido de varios borradores. Si encuentra alguna actualización importante en un borrador posterior que no se haya actualizado en nuestra herramienta, le rogamos que nos lo comunique.

Cuando se disponga de un proyecto definitivo, todo el texto del Explorador de la Ley AI se actualizará para reflejarlo.