Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33. Filiales de los organismos notificados y subcontratistas Filiales de los organismos notificados y subcontratación

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de uso general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento a nivel nacional para tratar los sistemas de IA que presenten un riesgo

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87: Denuncia de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Anexo I: Lista de la legislación de armonización de la Unión

Anexo II: Lista de infracciones penales contempladas en el artículo 5, apartado 1, párrafo primero, letra h), inciso iii)

Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6

Anexo IV: Documentación técnica contemplada en el apartado 1 del artículo 11

Anexo V: Declaración de conformidad de la UE

Anexo VI: Procedimiento de evaluación de la conformidad basado en el control interno

Anexo VII: Conformidad basada en la evaluación del sistema de gestión de la calidad y en la evaluación de la documentación técnica

Anexo VIII: Información que debe presentarse en el momento del registro de los sistemas de IA de alto riesgo de conformidad con el artículo 49

Anexo IX: Información que debe presentarse al registrar los sistemas de IA de alto riesgo enumerados en el anexo III en relación con las pruebas en condiciones reales de conformidad con el artículo 60

Anexo X: Actos legislativos de la Unión sobre sistemas informáticos de gran magnitud en el espacio de libertad, seguridad y justicia

Anexo XI: Documentación técnica a que se refiere la letra a) del apartado 1 del artículo 53 - Documentación técnica para proveedores de modelos de IA de propósito general

Anexo XII: Información sobre transparencia a que se refiere el artículo 53, apartado 1, letra b) - Documentación técnica para proveedores de modelos de IA de propósito general a proveedores intermedios que integren el modelo en su sistema de IA

Anexo XIII: Criterios para la designación de los modelos de IA de propósito general con riesgo sistémico a que se refiere el artículo 51

Búsqueda en la Ley

Anexo VII: Conformidad basada en la evaluación del sistema de gestión de la calidad y en la evaluación de la documentación técnica

Resumen

El artículo 43 establece algunos supuestos en los que podría exigirse una "evaluación de la conformidad". El presente anexo describe el proceso de evaluación del sistema de gestión de la calidad y la documentación técnica de los sistemas de IA.

En resumen: el proveedor debe presentar una solicitud que incluya información detallada sobre los sistemas de IA, los procedimientos de gestión de la calidad y una declaración de que la solicitud no se ha presentado en ningún otro sitio. El organismo notificado evaluará el sistema y notificará la decisión al proveedor. Cualquier modificación del sistema deberá comunicarse al organismo notificado. El proveedor también debe presentar una solicitud de evaluación de la documentación técnica del sistema de IA.

El organismo notificado examinará la documentación y podrá exigir pruebas o ensayos adicionales. Si el sistema de IA cumple los requisitos, se expedirá un certificado. En caso contrario, se informará al proveedor de la denegación y de los motivos. Los cambios en el sistema de IA que puedan afectar al cumplimiento deberán ser evaluados por el organismo notificado. El proveedor deberá permitir que el organismo notificado acceda a las instalaciones con fines de evaluación y compartir toda la información necesaria. El organismo notificado realizará auditorías periódicas para garantizar que el proveedor mantiene el sistema de gestión de la calidad.

Generado por CLaiRK, editado por nosotros.

NOTA: Esta traducción es una traducción automática. No es la traducción oficial facilitada por el Parlamento Europeo. Cuando se publique la Ley en el Diario Oficial, las traducciones automáticas serán sustituidas por las traducciones oficiales.

1. Introducción

La conformidad basada en una evaluación del sistema de gestión de la calidad y una evaluación de la documentación técnica es el procedimiento de evaluación de la conformidad basado en los puntos 2 a 5.

2. Visión general

El sistema de gestión de la calidad aprobado para el diseño, desarrollo y ensayo de sistemas de IA con arreglo al artículo 17 se examinará de conformidad con el punto 3 y se someterá a la vigilancia especificada en el punto 5. La documentación técnica del sistema de IA se examinará de conformidad con el punto 4.

3. 3. Sistema de gestión de la calidad

3.1. La solicitud del proveedor incluirá:

(a) el nombre y la dirección del prestador y, si la solicitud la presenta un representante autorizado, también su nombre y dirección;

(b) la lista de los sistemas de IA incluidos en el mismo sistema de gestión de la calidad;

(c) la documentación técnica de cada sistema de IA incluido en el mismo sistema de gestión de la calidad;

(d) la documentación relativa al sistema de gestión de la calidad, que abarcará todos los aspectos enumerados en el artículo 17;

(e) una descripción de los procedimientos establecidos para garantizar que el sistema de gestión de la calidad sigue siendo adecuado y eficaz;

(f) una declaración escrita de que no se ha presentado la misma solicitud ante ningún otro organismo notificado.

3.2. El sistema de gestión de la calidad será evaluado por el organismo notificado, que determinará si cumple los requisitos contemplados en el artículo 17. La decisión se notificará al proveedor o a su representante autorizado. La decisión se notificará al proveedor o a su representante autorizado. La notificación incluirá las conclusiones de la evaluación del sistema de gestión de la calidad y la decisión de evaluación motivada.

3.3. El sistema de gestión de la calidad aprobado deberá seguir siendo aplicado y mantenido por el proveedor para que siga siendo adecuado y eficaz.

3.4. 3.4. El proveedor deberá poner en conocimiento del organismo notificado cualquier modificación prevista del sistema de gestión de la calidad aprobado o de la lista de sistemas de gestión de la calidad cubiertos por éste. Las modificaciones propuestas serán examinadas por el organismo notificado, que decidirá si el sistema de gestión de la calidad modificado sigue cumpliendo los requisitos contemplados en el punto 3.2 o si es necesaria una nueva evaluación. El organismo notificado notificará su decisión al proveedor. La notificación incluirá las conclusiones del examen de las modificaciones y la decisión de evaluación motivada.

4. Control de la documentación técnica.

4.1. Además de la solicitud a que se refiere el punto 3, el proveedor presentará una solicitud ante un organismo notificado de su elección para la evaluación de la documentación técnica relativa al sistema de IA que tenga previsto comercializar o poner en servicio y que esté cubierto por el sistema de gestión de la calidad a que se refiere el punto 3.

4.2. La solicitud incluirá:

(a) el nombre y la dirección del prestador;

(b) una declaración escrita de que no se ha presentado la misma solicitud ante ningún otro organismo notificado;

(c) la documentación técnica mencionada en el Anexo IV.

4.3. El organismo notificado examinará la documentación técnica. Cuando proceda, y limitado a lo necesario para el desempeño de sus tareas, se concederá al organismo notificado pleno acceso a los conjuntos de datos de formación, validación y ensayo utilizados, incluso, cuando proceda y con sujeción a las salvaguardias de seguridad, mediante API u otros medios técnicos y herramientas pertinentes que permitan el acceso a distancia.

4.4. Al examinar la documentación técnica, el organismo notificado podrá exigir que el proveedor aporte más pruebas o realice más ensayos para poder evaluar adecuadamente la conformidad del sistema de IA con los requisitos establecidos en la sección 2 del capítulo III. En caso de que el organismo notificado no esté satisfecho con los ensayos efectuados por el proveedor, el propio organismo notificado efectuará directamente los ensayos adecuados, según proceda.

4.5. Cuando sea necesario para evaluar la conformidad del sistema de IA de alto riesgo con los requisitos establecidos en el capítulo III, sección 2, después de que se hayan agotado todos los demás medios razonables para verificar la conformidad y hayan resultado insuficientes, y previa solicitud motivada, también se concederá al organismo notificado acceso a los modelos de entrenamiento y entrenados del sistema de IA, incluidos sus parámetros pertinentes. Dicho acceso estará sujeto al Derecho de la Unión vigente en materia de protección de la propiedad intelectual y de los secretos comerciales.

4.6. La decisión del organismo notificado se notificará al proveedor o a su representante autorizado. La notificación contendrá las conclusiones de la evaluación de la documentación técnica y la decisión de evaluación motivada. 4.7. Cuando el sistema de IA sea conforme con los requisitos establecidos en el capítulo III, sección 2, el organismo notificado expedirá un certificado de evaluación de la documentación técnica de la Unión. El certificado indicará el nombre y la dirección del proveedor, las conclusiones del examen, las condiciones (en su caso) de validez y los datos necesarios para la identificación del sistema de IA. El certificado y sus anexos contendrán toda la información pertinente para permitir la evaluación de la conformidad del sistema de IA y, en su caso, el control del sistema de IA durante su utilización. En caso de que el sistema de IA no sea conforme con los requisitos establecidos en el capítulo III, sección 2, el organismo notificado se negará a expedir un certificado de evaluación de la documentación técnica de la Unión e informará de ello al solicitante, explicando detalladamente su negativa. Cuando el sistema de IA no cumpla el requisito relativo a los datos utilizados para entrenarlo, será necesario volver a entrenarlo antes de solicitar una nueva evaluación de la conformidad. En este caso, la decisión de evaluación motivada del organismo notificado por la que se deniega la expedición del certificado de evaluación de la documentación técnica de la Unión contendrá consideraciones específicas sobre los datos de calidad utilizados para entrenar el sistema de IA, en particular sobre los motivos del incumplimiento.

4.7. El organismo notificado que haya expedido el certificado de evaluación de la documentación técnica de la Unión evaluará cualquier cambio del sistema de IA que pueda afectar a su conformidad con los requisitos o a su finalidad prevista. El proveedor informará a dicho organismo notificado de su intención de introducir cualquiera de los cambios antes mencionados, o si tiene conocimiento de que se van a producir. Los cambios previstos serán evaluados por el organismo notificado, que decidirá si requieren una nueva evaluación de la conformidad con arreglo al artículo 43, apartado 4, o si pueden abordarse mediante un suplemento del certificado de evaluación de la documentación técnica de la Unión. En este último caso, el organismo notificado evaluará los cambios, notificará su decisión al proveedor y, si se aprueban los cambios, expedirá al proveedor un suplemento del certificado de evaluación de la documentación técnica de la Unión.

5. 5. Vigilancia del sistema de gestión de la calidad aprobado.

5.1. El objetivo de la vigilancia efectuada por el organismo notificado a que se refiere el punto 3 es cerciorarse de que el proveedor cumple debidamente las condiciones del sistema de gestión de la calidad aprobado.

5.2. A efectos de evaluación, el proveedor permitirá al organismo notificado acceder a los locales en los que se lleven a cabo el diseño, el desarrollo y los ensayos de los sistemas de IA. Además, el proveedor compartirá con el organismo notificado toda la información necesaria.

5.3. El organismo notificado efectuará auditorías periódicas para cerciorarse de que el proveedor mantiene y aplica el sistema de gestión de la calidad y facilitará al proveedor un informe de la auditoría. En el contexto de dichas auditorías, el organismo notificado podrá efectuar ensayos adicionales de los sistemas de IA para los que se haya expedido un certificado de evaluación de la documentación técnica de la Unión.

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Taylor Jones en taylor@futureoflife.org

Consulte el texto oficial o navegue por él en línea con nuestro Explorador de la Ley de IA. El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial (Reglamento (UE) 2024/1689), versión del Diario Oficial de 13 de junio de 2024". Expediente interinstitucional: 2021/0106(COD)