Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33: Filiales y subcontratación de los organismos notificados

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados designados en virtud del presente Reglamento

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de propósito general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87. Notificación de infracciones y protección de los denunciantes Notificación de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Búsqueda en la Ley

2 de mayo de 2024 - El AI Act Explorer se ha actualizado con el contenido de la versión "Corrigendum" del Parlamento Europeo del 19 de abril de 2024. Es poco probable que el contenido de la Ley sufra más cambios.

Artículo 60: Pruebas de sistemas de IA de alto riesgo en condiciones del mundo real fuera de los espacios aislados de regulación de la IA

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Risto Uuk en risto@futureoflife.org

1. Los proveedores o posibles proveedores de sistemas de IA de alto riesgo enumerados en el anexo III podrán realizar pruebas de sistemas de IA de alto riesgo en condiciones del mundo real fuera de los entornos aislados reguladores de la IA, de conformidad con el presente artículo y el plan de pruebas en condiciones reales a que se refiere el presente artículo, sin perjuicio de las prohibiciones establecidas en el artículo 5. La Comisión especificará, mediante actos de ejecución, los elementos detallados del plan de ensayos en condiciones reales. Dichos actos de ejecución se adoptarán de conformidad con el procedimiento de examen a que se refiere el artículo 98, apartado 2. El presente apartado se entenderá sin perjuicio de la legislación de la Unión o nacional relativa a los ensayos en condiciones reales de sistemas de IA de alto riesgo relacionados con productos cubiertos por la legislación de armonización de la Unión enumerada en el anexo I.

2. Los proveedores o posibles proveedores podrán realizar pruebas de los sistemas de IA de alto riesgo a que se refiere el anexo III en condiciones reales en cualquier momento antes de la comercialización o puesta en servicio del sistema de IA por sí mismos o en asociación con uno o varios implantadores o posibles implantadores.

3. Los ensayos de sistemas de IA de alto riesgo en condiciones reales con arreglo al presente artículo se realizarán sin perjuicio de cualquier revisión ética que exija la legislación de la Unión o nacional.

4. Los proveedores o posibles proveedores sólo podrán realizar las pruebas en condiciones reales cuando se cumplan todas las condiciones siguientes:

(a) el proveedor o posible proveedor haya elaborado un plan de ensayos en condiciones reales y lo haya presentado a la autoridad de vigilancia del mercado del Estado miembro en el que vayan a realizarse los ensayos en condiciones reales;

(b) la autoridad de vigilancia del mercado del Estado miembro en el que vayan a realizarse los ensayos en condiciones reales ha aprobado los ensayos en condiciones reales y el plan de ensayos en condiciones reales; si la autoridad de vigilancia del mercado no ha dado una respuesta en un plazo de 30 días, se entenderá que los ensayos en condiciones reales y el plan de ensayos en condiciones reales han sido aprobados; si la legislación nacional no prevé una aprobación tácita, los ensayos en condiciones reales seguirán sujetos a una autorización;

(c) el proveedor o posible proveedor, con excepción de los proveedores o posibles proveedores de sistemas de IA de alto riesgo a que se refieren los puntos 1, 6 y 7 del anexo III en los ámbitos de la aplicación de la ley, la migración, el asilo y la gestión del control fronterizo, y de los sistemas de IA de alto riesgo a que se refiere el punto 2 del anexo III, haya registrado los ensayos en condiciones reales de conformidad con el artículo 71, apartado 4, con un número de identificación único para toda la Unión y con la información especificada en el anexo IX; el proveedor o posible proveedor de los sistemas de IA de alto riesgo a que se refieren los puntos 1, 6 y 7 del anexo III en los ámbitos de la aplicación de la ley, la migración, el asilo y la gestión de los controles fronterizos, ha registrado los ensayos en condiciones reales en la sección no pública segura de la base de datos de la UE, de conformidad con el artículo 49, apartado 4, letra d), con un número de identificación único a escala de la Unión y con la información especificada en el mismo; el proveedor o posible proveedor de los sistemas de IA de alto riesgo a que se refiere el punto 2 del anexo III ha registrado los ensayos en condiciones reales de conformidad con el artículo 49, apartado 5;

(d) el proveedor o posible proveedor que realice las pruebas en condiciones reales esté establecido en la Unión o haya designado a un representante legal establecido en la Unión;

(e) los datos recogidos y tratados a efectos de las pruebas en condiciones reales sólo se transferirán a terceros países si se aplican las garantías adecuadas y aplicables en virtud del Derecho de la Unión;

(f) las pruebas en condiciones reales no duren más de lo necesario para alcanzar sus objetivos y, en cualquier caso, no superen los seis meses, prorrogables por un período adicional de seis meses, previa notificación del proveedor o posible proveedor a la autoridad de vigilancia del mercado, acompañada de una explicación de la necesidad de dicha prórroga;

(g) se proteja adecuadamente a los sujetos de las pruebas en condiciones reales que sean personas pertenecientes a grupos vulnerables debido a su edad o discapacidad;

(h) cuando un proveedor o posible proveedor organice los ensayos en condiciones reales en cooperación con uno o varios implantadores o posibles implantadores, estos últimos hayan sido informados de todos los aspectos de los ensayos que sean pertinentes para su decisión de participar, y se les hayan dado las instrucciones pertinentes para el uso del sistema de IA a que se refiere el artículo 13; el proveedor o posible proveedor y el implantador o posible implantador celebrarán un acuerdo en el que se especifiquen sus funciones y responsabilidades con vistas a garantizar el cumplimiento de las disposiciones relativas a los ensayos en condiciones reales con arreglo al presente Reglamento y a otras disposiciones aplicables del Derecho de la Unión y nacional;

(i) los sujetos de las pruebas en condiciones reales han dado su consentimiento informado de conformidad con el artículo 61, o en el caso de las fuerzas y cuerpos de seguridad, cuando la búsqueda del consentimiento informado impida que se pruebe el sistema de IA, las propias pruebas y el resultado de las pruebas en condiciones reales no tendrán ningún efecto negativo en los sujetos, y sus datos personales se suprimirán una vez realizada la prueba;

(j) las pruebas en condiciones reales sean supervisadas de forma efectiva por el proveedor o posible proveedor, así como por los desplegadores o posibles desplegadores a través de personas debidamente cualificadas en el ámbito pertinente y que tengan la capacidad, formación y autoridad necesarias para desempeñar sus tareas;

(k) las predicciones, recomendaciones o decisiones del sistema de IA pueden ser efectivamente anuladas e ignoradas.

5. Cualquier sujeto de las pruebas en condiciones reales, o su representante legalmente designado, según proceda, podrá, sin perjuicio alguno y sin tener que aportar justificación alguna, retirarse de las pruebas en cualquier momento revocando su consentimiento informado y podrá solicitar la supresión inmediata y permanente de sus datos personales. La revocación del consentimiento informado no afectará a las actividades ya realizadas.

6. De conformidad con el artículo 75, los Estados miembros conferirán a sus autoridades de vigilancia del mercado la facultad de exigir a los proveedores y posibles proveedores que faciliten información, de realizar inspecciones a distancia o in situ sin previo aviso y de efectuar controles de la realización de los ensayos en condiciones reales y de los sistemas de IA de alto riesgo relacionados. Las autoridades de vigilancia del mercado utilizarán esas competencias para garantizar el desarrollo seguro de los ensayos en condiciones del mundo real.

7. Cualquier incidente grave detectado en el transcurso de las pruebas en condiciones reales se notificará a la autoridad nacional de vigilancia del mercado de conformidad con el artículo 73. El proveedor o futuro proveedor adoptará medidas paliativas inmediatas o, en su defecto, suspenderá los ensayos en condiciones reales hasta que se lleve a cabo dicha paliación o, de lo contrario, pondrá fin a los mismos. El proveedor o posible proveedor establecerá un procedimiento para la rápida recuperación del sistema de IA tras la finalización de las pruebas en condiciones reales.

8. Los proveedores o posibles proveedores notificarán a la autoridad nacional de vigilancia del mercado del Estado miembro en el que vayan a realizarse los ensayos en condiciones reales la suspensión o finalización de los ensayos en condiciones reales y los resultados finales.

9. El proveedor o posible proveedor será responsable, en virtud de la legislación nacional y de la Unión aplicable en materia de responsabilidad civil, de cualquier daño causado en el transcurso de sus pruebas en condiciones reales.

El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Corrección de errores, 19 de abril de 2024". Fichero interinstitucional: 2021/0106(COD)