Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33. Filiales de los organismos notificados y subcontratistas Filiales de los organismos notificados y subcontratación

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de uso general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento a nivel nacional para tratar los sistemas de IA que presenten un riesgo

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87: Denuncia de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Anexo I: Lista de la legislación de armonización de la Unión

Anexo II: Lista de infracciones penales contempladas en el artículo 5, apartado 1, párrafo primero, letra h), inciso iii)

Anexo III: Sistemas de IA de alto riesgo contemplados en el apartado 2 del artículo 6

Anexo IV: Documentación técnica contemplada en el apartado 1 del artículo 11

Anexo V: Declaración de conformidad de la UE

Anexo VI: Procedimiento de evaluación de la conformidad basado en el control interno

Anexo VII: Conformidad basada en la evaluación del sistema de gestión de la calidad y en la evaluación de la documentación técnica

Anexo VIII: Información que debe presentarse en el momento del registro de los sistemas de IA de alto riesgo de conformidad con el artículo 49

Anexo IX: Información que debe presentarse al registrar los sistemas de IA de alto riesgo enumerados en el anexo III en relación con las pruebas en condiciones reales de conformidad con el artículo 60

Anexo X: Actos legislativos de la Unión sobre sistemas informáticos de gran magnitud en el espacio de libertad, seguridad y justicia

Anexo XI: Documentación técnica a que se refiere la letra a) del apartado 1 del artículo 53 - Documentación técnica para proveedores de modelos de IA de propósito general

Anexo XII: Información sobre transparencia a que se refiere el artículo 53, apartado 1, letra b) - Documentación técnica para proveedores de modelos de IA de propósito general a proveedores intermedios que integren el modelo en su sistema de IA

Anexo XIII: Criterios para la designación de los modelos de IA de propósito general con riesgo sistémico a que se refiere el artículo 51

Búsqueda en la Ley

Anexo XI: Documentación técnica a que se refiere la letra a) del apartado 1 del artículo 53 - Documentación técnica para proveedores de modelos de IA de propósito general

Resumen

El artículo 53 exige a los proveedores de modelos de IA de propósito general que faciliten documentación técnica detallada. Este anexo especifica qué documentación se requiere, incluida una descripción general del modelo de IA, sus tareas previstas, las políticas de uso aceptable, la fecha de publicación, los métodos de distribución, la arquitectura y la licencia. También debe detallar el diseño del modelo, el proceso de entrenamiento, los datos utilizados y el consumo de energía. En el caso de los modelos de IA con riesgo sistémico, se requiere información adicional, incluidas estrategias de evaluación, medidas de pruebas de adversarios y una descripción de la arquitectura del sistema. Con ello se pretende garantizar la transparencia y la responsabilidad en el uso de los sistemas de IA.

Generado por CLaiRK, editado por nosotros.

NOTA: Esta traducción es una traducción automática. No es la traducción oficial facilitada por el Parlamento Europeo. Cuando se publique la Ley en el Diario Oficial, las traducciones automáticas serán sustituidas por las traducciones oficiales.

Sección 1 - Información que deben facilitar todos los proveedores de modelos de IA de propósito general

La documentación técnica a que se refiere la letra a) del apartado 1 del artículo 53 contendrá como mínimo la siguiente información, en función del tamaño y el perfil de riesgo del modelo:

1. Una descripción general del modelo de IA de propósito general que incluya:

(a) las tareas que el modelo está destinado a realizar y el tipo y la naturaleza de los sistemas de IA en los que puede integrarse;

(b) las políticas de uso aceptable aplicables;

(c) la fecha de publicación y los métodos de distribución;

(d) la arquitectura y el número de parámetros;

(e) la modalidad (por ejemplo, texto, imagen) y el formato de las entradas y salidas;

(f) la licencia.

2. Descripción detallada de los elementos del modelo a que se refiere el punto 1, e información pertinente del proceso de elaboración, incluidos los siguientes elementos:

(a) los medios técnicos (por ejemplo, instrucciones de uso, infraestructura, herramientas) necesarios para que el modelo de IA de propósito general se integre en los sistemas de IA;

(b) las especificaciones de diseño del modelo y del proceso de formación, incluidas las metodologías y técnicas de formación, las opciones clave de diseño, incluidos los fundamentos y las suposiciones realizadas; para qué se ha diseñado el modelo y la relevancia de los diferentes parámetros, según proceda;

(c) información sobre los datos utilizados para la formación, las pruebas y la validación, cuando proceda, incluido el tipo y la procedencia de los datos y las metodologías de curación (por ejemplo, limpieza, filtrado, etc.), el número de puntos de datos, su alcance y características principales; cómo se obtuvieron y seleccionaron los datos, así como todas las demás medidas para detectar la inadecuación de las fuentes de datos y los métodos para detectar sesgos identificables, cuando proceda;

(d) los recursos informáticos utilizados para entrenar el modelo (por ejemplo, el número de operaciones en coma flotante ), el tiempo de entrenamiento y otros detalles pertinentes relacionados con el entrenamiento;

(e) el consumo de energía conocido o estimado del modelo. Con respecto a la letra e), en la que se desconoce el consumo de energía del modelo, el consumo de energía puede basarse en información sobre los recursos informáticos utilizados.

Sección 2 - Información adicional que deben facilitar los proveedores de modelos de IA de propósito general con riesgo sistémico

1. Una descripción detallada de las estrategias de evaluación, incluidos los resultados de la evaluación, sobre la base de los protocolos y herramientas de evaluación públicos disponibles o, en su defecto, de otras metodologías de evaluación. Las estrategias de evaluación incluirán criterios de evaluación, métricas y la metodología sobre la identificación de limitaciones.

2. En su caso, una descripción detallada de las medidas aplicadas con el fin de llevar a cabo pruebas de adversarios internos y/o externos (por ejemplo, red teaming), adaptaciones de modelos, incluida la alineación y la puesta a punto.

3. En su caso, una descripción detallada de la arquitectura del sistema que explique cómo los componentes de software se construyen o alimentan entre sí y se integran en el procesamiento global.

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Taylor Jones en taylor@futureoflife.org

El texto utilizado en esta herramienta es la "Ley sobre Inteligencia Artificial (Reglamento (UE) 2024/1689), versión del Diario Oficial de 13 de junio de 2024". Fichero interinstitucional: 2021/0106(COD)