Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33: Filiales y subcontratación de los organismos notificados

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados designados en virtud del presente Reglamento

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de propósito general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87. Notificación de infracciones y protección de los denunciantes Notificación de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Búsqueda en la Ley

2 de mayo de 2024 - El AI Act Explorer se ha actualizado con el contenido de la versión "Corrigendum" del Parlamento Europeo del 19 de abril de 2024. Es poco probable que el contenido de la Ley sufra más cambios.

Anexo IV: Documentación técnica

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Risto Uuk en risto@futureoflife.org

La documentación técnica a que se refiere el apartado 1 del artículo 11 contendrá como mínimo la siguiente información, según proceda para el sistema de IA pertinente:

1. Una descripción general del sistema de IA que incluya:

(a) su finalidad, el nombre del proveedor y la versión del sistema que refleje su relación con versiones anteriores;

(b) el modo en que el sistema de IA interactúa o puede utilizarse para interactuar con equipos o programas informáticos, incluidos otros sistemas de IA, que no formen parte del propio sistema de IA, cuando proceda;

(c) las versiones del software o firmware pertinente, y cualquier requisito relacionado con las actualizaciones de versión;

(d) la descripción de todas las formas en que el sistema de IA se comercializa o se pone en servicio, como paquetes de software integrados en hardware, descargas o API;

(e) la descripción del hardware en el que está previsto que funcione el sistema de IA;

(f) cuando el sistema de IA sea un componente de productos, fotografías o ilustraciones que muestren las características externas, el marcado y la disposición interna de dichos productos;

(g) una descripción básica de la interfaz de usuario proporcionada al desplegador;

(h) instrucciones de uso para la persona que realiza el despliegue, y una descripción básica de la interfaz de usuario proporcionada a la persona que realiza el despliegue, cuando proceda;

2. Una descripción detallada de los elementos del sistema de IA y del proceso para su desarrollo, incluyendo:

(a) los métodos y pasos seguidos para el desarrollo del sistema de IA, incluido, en su caso, el recurso a sistemas o herramientas preentrenados proporcionados por terceros y la forma en que el proveedor los utilizó, integró o modificó;

(b) las especificaciones de diseño del sistema, es decir, la lógica general del sistema de IA y de los algoritmos; las principales opciones de diseño, incluidos los fundamentos y las suposiciones realizadas, incluso con respecto a las personas o grupos de personas con respecto a los cuales se pretende utilizar el sistema; las principales opciones de clasificación; para qué se ha diseñado el sistema con el fin de optimizarlo y la importancia de los diferentes parámetros; la descripción de los resultados esperados y de la calidad de los resultados del sistema; las decisiones sobre cualquier posible compensación realizada en relación con las soluciones técnicas adoptadas para cumplir los requisitos establecidos en la sección 2 del capítulo III;

(c) la descripción de la arquitectura del sistema que explique cómo los componentes de software se basan o se alimentan entre sí y se integran en el procesamiento global; los recursos informáticos utilizados para desarrollar, entrenar, probar y validar el sistema de IA;

(d) cuando proceda, los requisitos de datos en términos de fichas técnicas que describan las metodologías y técnicas de formación y los conjuntos de datos de formación utilizados, incluida una descripción general de estos conjuntos de datos, información sobre su procedencia, alcance y características principales; cómo se obtuvieron y seleccionaron los datos; procedimientos de etiquetado (por ejemplo, para el aprendizaje supervisado), metodologías de limpieza de datos (por ejemplo, detección de valores atípicos);

(e) evaluación de las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluida una evaluación de las medidas técnicas necesarias para facilitar la interpretación de los resultados de los sistemas de IA por parte de quienes los despliegan, de conformidad con el artículo 13, apartado 3, letra d);

(f) cuando proceda, una descripción detallada de los cambios predeterminados en el sistema de IA y su funcionamiento, junto con toda la información pertinente relacionada con las soluciones técnicas adoptadas para garantizar la conformidad continua del sistema de IA con los requisitos pertinentes establecidos en la sección 2 del capítulo III;

(g) los procedimientos de validación y ensayo utilizados, incluida la información sobre los datos de validación y ensayo utilizados y sus principales características; los parámetros utilizados para medir la precisión, la solidez y el cumplimiento de otros requisitos pertinentes establecidos en el capítulo III, sección 2, así como los impactos potencialmente discriminatorios; los registros de ensayo y todos los informes de ensayo fechados y firmados por las personas responsables, también en lo que respecta a los cambios predeterminados a que se refiere la letra f);

(h) medidas de ciberseguridad implantadas;

3. Información detallada sobre la supervisión, el funcionamiento y el control del sistema de IA, en particular con respecto a: sus capacidades y limitaciones de funcionamiento, incluidos los grados de precisión para las personas o grupos de personas específicos sobre los que está previsto utilizar el sistema y el nivel general de precisión esperado en relación con su finalidad prevista; los resultados imprevistos previsibles y las fuentes de riesgos para la salud y la seguridad, los derechos fundamentales y la discriminación en vista de la finalidad prevista del sistema de IA; las medidas de supervisión humana necesarias de conformidad con el artículo 14, incluidas las medidas técnicas establecidas para facilitar la interpretación de los resultados de los sistemas de IA por parte de quienes los despliegan; las especificaciones sobre los datos de entrada, según proceda;

4. Una descripción de la idoneidad de las métricas de rendimiento para el sistema de IA específico;

5. Una descripción detallada del sistema de gestión de riesgos de conformidad con el artículo 9;

6. Descripción de los cambios relevantes realizados por el proveedor en el sistema a lo largo de su ciclo de vida;

7. Una lista de las normas armonizadas aplicadas total o parcialmente cuyas referencias se hayan publicado en el Diario Oficial de la Unión Europea; cuando no se hayan aplicado tales normas armonizadas, una descripción detallada de las soluciones adoptadas para cumplir los requisitos establecidos en la sección 2 del capítulo III, incluida una lista de otras normas y especificaciones técnicas pertinentes aplicadas;

8. Una copia de la declaración UE de conformidad mencionada en el artículo 47;

9. Una descripción detallada del sistema establecido para evaluar el rendimiento del sistema de IA en la fase posterior a la comercialización de conformidad con el artículo 72, incluido el plan de seguimiento posterior a la comercialización mencionado en el apartado 3 del artículo 72.

El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Corrección de errores, 19 de abril de 2024". Fichero interinstitucional: 2021/0106(COD)