Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33. Filiales de los organismos notificados y subcontratistas Filiales de los organismos notificados y subcontratación

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de uso general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento a nivel nacional para tratar los sistemas de IA que presenten un riesgo

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87: Denuncia de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Anexo I: Lista de la legislación de armonización de la Unión

Anexo II: Lista de infracciones penales contempladas en el artículo 5, apartado 1, párrafo primero, letra h), inciso iii)

Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6

Anexo IV: Documentación técnica contemplada en el apartado 1 del artículo 11

Anexo V: Declaración de conformidad de la UE

Anexo VI: Procedimiento de evaluación de la conformidad basado en el control interno

Anexo VII: Conformidad basada en la evaluación del sistema de gestión de la calidad y en la evaluación de la documentación técnica

Anexo VIII: Información que debe presentarse en el momento del registro de los sistemas de IA de alto riesgo de conformidad con el artículo 49

Anexo IX: Información que debe presentarse al registrar los sistemas de IA de alto riesgo enumerados en el anexo III en relación con las pruebas en condiciones reales de conformidad con el artículo 60

Anexo X: Actos legislativos de la Unión sobre sistemas informáticos de gran magnitud en el espacio de libertad, seguridad y justicia

Anexo XI: Documentación técnica a que se refiere la letra a) del apartado 1 del artículo 53 - Documentación técnica para proveedores de modelos de IA de propósito general

Anexo XII: Información sobre transparencia a que se refiere el artículo 53, apartado 1, letra b) - Documentación técnica para proveedores de modelos de IA de propósito general a proveedores intermedios que integren el modelo en su sistema de IA

Anexo XIII: Criterios para la designación de los modelos de IA de propósito general con riesgo sistémico a que se refiere el artículo 51

Búsqueda en la Ley

Anexo IV: Documentación técnica contemplada en el apartado 1 del artículo 11

Resumen

La Ley de Inteligencia Artificial exige a los proveedores de sistemas de IA que faciliten documentación técnica detallada, y este anexo especifica qué debe contener dicha documentación. Esta documentación incluye una descripción general del sistema de IA, su finalidad, su interacción con otros sistemas y el hardware que utiliza. También requiere una descripción detallada del proceso de desarrollo del sistema de IA, incluidas las especificaciones de diseño, los requisitos de datos y los procedimientos de prueba. La documentación también debe incluir información sobre el rendimiento del sistema, la gestión de riesgos, cualquier cambio realizado a lo largo de su ciclo de vida y cómo cumple las normas de la UE. Por último, debe incluir un plan de seguimiento del funcionamiento del sistema una vez puesto en marcha.

Generado por CLaiRK, editado por nosotros.

NOTA: Esta traducción es una traducción automática. No es la traducción oficial facilitada por el Parlamento Europeo. Cuando se publique la Ley en el Diario Oficial, las traducciones automáticas serán sustituidas por las traducciones oficiales.

La documentación técnica a que se refiere el apartado 1 del artículo 11 contendrá como mínimo la siguiente información, según proceda para el sistema de IA pertinente:

1. Una descripción general del sistema de IA que incluya:

(a) su finalidad, el nombre del proveedor y la versión del sistema que refleje su relación con versiones anteriores;

(b) el modo en que el sistema de IA interactúa o puede utilizarse para interactuar con equipos o programas informáticos, incluidos otros sistemas de IA, que no formen parte del propio sistema de IA, cuando proceda;

(c) las versiones del software o firmware pertinente, y cualquier requisito relacionado con las actualizaciones de versión;

(d) la descripción de todas las formas en que el sistema de IA se comercializa o se pone en servicio, como paquetes de software integrados en hardware, descargas o API;

(e) la descripción del hardware en el que está previsto que funcione el sistema de IA;

(f) cuando el sistema de IA sea un componente de productos, fotografías o ilustraciones que muestren las características externas, el marcado y la disposición interna de dichos productos;

(g) una descripción básica de la interfaz de usuario proporcionada al desplegador;

(h) instrucciones de uso para la persona que realiza el despliegue, y una descripción básica de la interfaz de usuario proporcionada a la persona que realiza el despliegue, cuando proceda;

2. Una descripción detallada de los elementos del sistema de IA y del proceso para su desarrollo, incluyendo:

(a) los métodos y pasos seguidos para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas preentrenados proporcionados por terceros y la forma en que el proveedor los utilizó, integró o modificó;

(b) las especificaciones de diseño del sistema, es decir, la lógica general del sistema de IA y de los algoritmos; las principales opciones de diseño, incluidos los fundamentos y las suposiciones realizadas, incluso con respecto a las personas o grupos de personas con respecto a los cuales se pretende utilizar el sistema; las principales opciones de clasificación; para qué se ha diseñado el sistema con el fin de optimizarlo y la importancia de los diferentes parámetros; la descripción de los resultados esperados y de la calidad de los resultados del sistema; las decisiones sobre cualquier posible compensación realizada en relación con las soluciones técnicas adoptadas para cumplir los requisitos establecidos en la sección 2 del capítulo III;

(c) la descripción de la arquitectura del sistema que explique cómo los componentes de software se basan o se alimentan entre sí y se integran en el procesamiento global; los recursos informáticos utilizados para desarrollar, entrenar, probar y validar el sistema de IA;

(d) cuando proceda, los requisitos de datos en términos de fichas técnicas que describan las metodologías y técnicas de formación y los conjuntos de datos de formación utilizados, incluida una descripción general de estos conjuntos de datos, información sobre su procedencia, alcance y características principales; cómo se obtuvieron y seleccionaron los datos; procedimientos de etiquetado (por ejemplo, para el aprendizaje supervisado), metodologías de limpieza de datos (por ejemplo, detección de valores atípicos);

(e) evaluación de las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluida una evaluación de las medidas técnicas necesarias para facilitar la interpretación de los resultados de los sistemas de IA por parte de quienes los despliegan, de conformidad con el artículo 13, apartado 3, letra d);

(f) cuando proceda, una descripción detallada de los cambios predeterminados en el sistema de IA y su funcionamiento, junto con toda la información pertinente relacionada con las soluciones técnicas adoptadas para garantizar la conformidad continua del sistema de IA con los requisitos pertinentes establecidos en la sección 2 del capítulo III;

(g) los procedimientos de validación y ensayo utilizados, incluida la información sobre los datos de validación y ensayo utilizados y sus principales características; los parámetros utilizados para medir la precisión, la solidez y el cumplimiento de otros requisitos pertinentes establecidos en el capítulo III, sección 2, así como los impactos potencialmente discriminatorios; los registros de ensayo y todos los informes de ensayo fechados y firmados por las personas responsables, también en lo que respecta a los cambios predeterminados a que se refiere la letra f);

(h) medidas de ciberseguridad implantadas;

3. Información detallada sobre la supervisión, el funcionamiento y el control del sistema de IA, en particular con respecto a: sus capacidades y limitaciones de funcionamiento, incluidos los grados de precisión para las personas o grupos de personas específicos sobre los que está previsto utilizar el sistema y el nivel general de precisión esperado en relación con su finalidad prevista; los resultados imprevistos previsibles y las fuentes de riesgos para la salud y la seguridad, los derechos fundamentales y la discriminación en vista de la finalidad prevista del sistema de IA; las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de los sistemas de IA por parte de quienes los despliegan; las especificaciones sobre los datos de entrada, según proceda;

4. Una descripción de la idoneidad de las métricas de rendimiento para el sistema de IA específico;

5. Una descripción detallada del sistema de gestión de riesgos de conformidad con el artículo 9;

6. Descripción de los cambios relevantes realizados por el proveedor en el sistema a lo largo de su ciclo de vida;

7. Una lista de las normas armonizadas aplicadas total o parcialmente cuyas referencias se hayan publicado en el Diario Oficial de la Unión Europea; cuando no se hayan aplicado tales normas armonizadas, una descripción detallada de las soluciones adoptadas para cumplir los requisitos establecidos en la sección 2 del capítulo III, incluida una lista de otras normas y especificaciones técnicas pertinentes aplicadas;

8. Una copia de la declaración UE de conformidad mencionada en el artículo 47;

9. Una descripción detallada del sistema establecido para evaluar el rendimiento del sistema de IA en la fase posterior a la comercialización de conformidad con el artículo 72, incluido el plan de seguimiento posterior a la comercialización mencionado en el apartado 3 del artículo 72.

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Taylor Jones en taylor@futureoflife.org

El texto utilizado en esta herramienta es la "Ley sobre Inteligencia Artificial (Reglamento (UE) 2024/1689), versión del Diario Oficial de 13 de junio de 2024". Fichero interinstitucional: 2021/0106(COD)