Los datos de alta calidad y el acceso a datos de alta calidad desempeñan un papel vital a la hora de proporcionar estructura y garantizar el rendimiento de muchos sistemas de IA, especialmente cuando se utilizan técnicas que implican el entrenamiento de modelos, con vistas a garantizar que el sistema de IA de alto riesgo funcione según lo previsto y de forma segura y no se convierta en una fuente de discriminación prohibida por el Derecho de la Unión. Los conjuntos de datos de alta calidad para el entrenamiento, la validación y las pruebas requieren la aplicación de prácticas adecuadas de gobernanza y gestión de datos. Los conjuntos de datos para la formación, la validación y las pruebas, incluidas las etiquetas, deben ser pertinentes, suficientemente representativos y, en la medida de lo posible, libres de errores y completos en vista de la finalidad prevista del sistema. Para facilitar el cumplimiento de la legislación de la Unión en materia de protección de datos, como el Reglamento (UE) 2016/679, las prácticas de gobernanza y gestión de datos deben incluir, en el caso de los datos personales, la transparencia sobre la finalidad original de la recogida de datos. Los conjuntos de datos también deben tener las propiedades estadísticas adecuadas, incluso en lo que respecta a las personas o grupos de personas en relación con los cuales se pretende utilizar el sistema de IA de alto riesgo, con especial atención a la mitigación de posibles sesgos en los conjuntos de datos, que puedan afectar a la salud y la seguridad de las personas, tener un impacto negativo en los derechos fundamentales o dar lugar a discriminaciones prohibidas por el Derecho de la Unión, especialmente cuando las salidas de datos influyan en las entradas para futuras operaciones (bucles de retroalimentación). Los sesgos pueden, por ejemplo, ser inherentes a los conjuntos de datos subyacentes, especialmente cuando se utilizan datos históricos, o generarse cuando los sistemas se aplican en entornos del mundo real. Los resultados proporcionados por los sistemas de IA podrían verse influidos por estos sesgos inherentes, que tienden a aumentar gradualmente y, por tanto, a perpetuar y amplificar la discriminación existente, en particular para las personas pertenecientes a determinados grupos vulnerables, incluidos los grupos raciales o étnicos. El requisito de que los conjuntos de datos sean, en la medida de lo posible, completos y estén libres de errores no debe afectar al uso de técnicas de preservación de la intimidad en el contexto del desarrollo y las pruebas de los sistemas de IA. En particular, los conjuntos de datos deben tener en cuenta, en la medida en que lo exija su finalidad prevista, los rasgos, características o elementos propios del entorno geográfico, contextual, conductual o funcional específico en el que se pretende utilizar el sistema de IA. Los requisitos relativos a la gobernanza de los datos pueden cumplirse recurriendo a terceros que ofrezcan servicios certificados de conformidad, incluida la verificación de la gobernanza de los datos, la integridad de los conjuntos de datos y las prácticas de formación, validación y ensayo de datos, en la medida en que se garantice el cumplimiento de los requisitos relativos a los datos del presente Reglamento.
Índice
Sección 1: Clasificación de los sistemas de IA como de alto riesgo
Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo
Artículo 7: Modificaciones del anexo III
Sección 2: Requisitos de los sistemas de IA de alto riesgo
Artículo 8: Cumplimiento de los requisitos
Artículo 9: Sistema de gestión de riesgos
Artículo 10: Datos y gobernanza de datos
Artículo 11: Documentación técnica
Artículo 12: Mantenimiento de registros
Artículo 13: Transparencia y suministro de información a los empresarios
Artículo 14: Supervisión humana
Artículo 15: Precisión, robustez y ciberseguridad
Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo
Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad
Artículo 18: Conservación de la documentación
Artículo 19: Registros generados automáticamente
Artículo 20: Acciones correctoras y deber de información
Artículo 21: Cooperación con las autoridades competentes
Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo
Artículo 23: Obligaciones de los importadores
Artículo 24: Obligaciones de los distribuidores
Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA
Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo
Sección 4: Autoridades de notificación y organismos notificados
Artículo 28 Autoridades de notificación
Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad
Artículo 30. Procedimiento de notificación Procedimiento de notificación
Artículo 31: Requisitos relativos a los organismos notificados
Artículo 33: Filiales y subcontratación de los organismos notificados
Artículo 36: Modificaciones de las notificaciones
Artículo 37: Impugnación de la competencia de los organismos notificados
Artículo 38: Coordinación de los organismos notificados
Sección 5: Normas, evaluación de la conformidad, certificados, registro
Artículo 40: Normas armonizadas y productos de normalización
Artículo 41. Especificaciones comunes Especificaciones comunes
Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos
Artículo 43. Evaluación de la conformidad Evaluación de la conformidad
Artículo 44. Certificados Certificados
Artículo 45: Obligaciones de información de los organismos notificados
Artículo 46: Excepción al procedimiento de evaluación de la conformidad
Sección 1: Normas de clasificación
Sección 2: Obligaciones de los proveedores de modelos de IA de propósito general
Sección 1: Gobernanza a escala de la Unión
Artículo 65: Creación y estructura del Consejo Europeo de Inteligencia Artificial
Artículo 66: Funciones del Consejo
Artículo 68: Grupo científico de expertos independientes
Artículo 69: Acceso de los Estados miembros al grupo de expertos
Sección 2: Autoridades nacionales competentes
Artículo 70: Designación de las autoridades nacionales competentes y punto de contacto único
Sección 1: Seguimiento postcomercialización
Sección 2: Intercambio de información sobre incidentes graves
Artículo 73. Notificación de incidentes graves Notificación de incidentes graves
Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión
Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales
Artículo 78. Confidencialidad Confidencialidad
Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional
Artículo 81: Procedimiento de salvaguardia de la Unión
Artículo 82: Sistemas de IA conformes que presentan un riesgo
Artículo 83. Incumplimiento formal Incumplimiento formal
Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión
Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado
Artículo 86: Derecho a la explicación de las decisiones individuales
Artículo 89 : Acciones de control
Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica
Artículo 91: Facultad de solicitar documentación e información
Artículo 92: Facultad de realizar evaluaciones
Artículo 93: Facultad de solicitar medidas
Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general
Artículo 95: Códigos de conducta para la aplicación voluntaria de requisitos específicos
Artículo 96: Directrices de la Comisión sobre la aplicación del presente Reglamento
Artículo 99. Sanciones Sanciones
Artículo 100: Multas administrativas a las instituciones, agencias y organismos de la Unión
Artículo 101: Multas para proveedores de modelos de IA de propósito general
Artículo 102: Modificación del Reglamento (CE) nº 300/2008
Artículo 103: Modificación del Reglamento (UE) nº 167/2013.
Artículo 104: Modificación del Reglamento (UE) nº 168/2013.
Artículo 105: Modificación de la Directiva 2014/90/UE
Artículo 106: Modificación de la Directiva (UE) 2016/797
Artículo 107: Modificación del Reglamento (UE) 2018/858
Artículo 108: Modificación del Reglamento (UE) 2018/1139
Artículo 109: Modificación del Reglamento (UE) 2019/2144
Artículo 110: Modificación de la Directiva (UE) 2020/1828
Artículo 111: Sistemas de IA ya comercializados o puestos en servicio
Artículo 112: Evaluación y revisión
Artículo 113. Entrada en vigor y aplicación Entrada en vigor y aplicación
Anexos
Anexo I: Lista de la legislación de armonización de la Unión
Anexo II: Lista de infracciones penales
Anexo III: Sistemas de IA de alto riesgo
Anexo IV: Documentación técnica
Anexo V: Declaración de conformidad de la UE
Anexo VI: Procedimiento de evaluación de la conformidad basado en el control interno
Anexo VII: Conformidad basada en la evaluación del sistema de gestión de la calidad y la evaluación de la documentación técnica
Anexo VIII: Información que debe presentarse en el momento del registro de los sistemas de IA de alto riesgo
Anexo IX: Información que debe presentarse en el momento del registro de los sistemas de IA de alto riesgo
Anexo X: Legislación de la Unión sobre sistemas informáticos de gran magnitud en el espacio de libertad, seguridad y justicia
Anexo XI: Documentación técnica contemplada en el apartado 1 bis del artículo 53
Anexo XII: Información sobre transparencia contemplada en el artículo 53, apartado 1 ter
Anexo XIII: Criterios para la designación de modelos de IA de propósito general con riesgo sistémico
Búsqueda en la Ley
2 de mayo de 2024 - El AI Act Explorer se ha actualizado con el contenido de la versión "Corrigendum" del Parlamento Europeo del 19 de abril de 2024. Es poco probable que el contenido de la Ley sufra más cambios.
Recital 67
Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Risto Uuk en risto@futureoflife.org
El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Corrección de errores, 19 de abril de 2024". Fichero interinstitucional: 2021/0106(COD)