Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33: Filiales y subcontratación de los organismos notificados

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados designados en virtud del presente Reglamento

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de propósito general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87. Notificación de infracciones y protección de los denunciantes Notificación de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Búsqueda en la Ley

2 de mayo de 2024 - El AI Act Explorer se ha actualizado con el contenido de la versión "Corrigendum" del Parlamento Europeo del 19 de abril de 2024. Es poco probable que el contenido de la Ley sufra más cambios.

Anexo III: Sistemas de IA de alto riesgo

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Risto Uuk en risto@futureoflife.org

Los sistemas de IA de alto riesgo con arreglo al apartado 2 del artículo 6 son los sistemas de IA enumerados en cualquiera de los siguientes ámbitos:

1. Los datos biométricos, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:

(a) sistemas de identificación biométrica a distancia. No se incluirán los sistemas de IA destinados a ser utilizados para la verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que dice ser;

(b) Sistemas de IA destinados a ser utilizados para la categorización biométrica, según atributos o características sensibles o protegidos, basados en la inferencia de dichos atributos o características;

(c) Sistemas de IA destinados al reconocimiento de emociones.

2. Infraestructuras críticas: Sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y explotación de infraestructuras digitales críticas, tráfico rodado, o en el suministro de agua, gas, calefacción o electricidad.

3. Educación y formación profesional:

(a) Sistemas de IA destinados a ser utilizados para determinar el acceso o la admisión o para asignar personas físicas a instituciones educativas y de formación profesional de todos los niveles;

(b) Sistemas de IA destinados a ser utilizados para evaluar los resultados del aprendizaje, incluso cuando dichos resultados se utilizan para dirigir el proceso de aprendizaje de las personas físicas en centros educativos y de formación profesional de todos los niveles;

(c) Sistemas de IA destinados a ser utilizados con el fin de evaluar el nivel adecuado de educación que un individuo recibirá o al que podrá acceder, en el contexto de o dentro de instituciones educativas y de formación profesional a todos los niveles;

(d) Sistemas de IA destinados a ser utilizados para controlar y detectar comportamientos prohibidos de los estudiantes durante las pruebas en el contexto de las instituciones educativas y de formación profesional a todos los niveles o dentro de ellas.

4. Empleo, gestión de trabajadores y acceso al autoempleo:

(a) Sistemas de IA destinados a ser utilizados para la contratación o selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar solicitudes de empleo y evaluar candidatos;

(b) Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones laborales, la promoción o la finalización de relaciones contractuales laborales, para asignar tareas basadas en el comportamiento individual o en rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en dichas relaciones.

5. Acceso y disfrute de los servicios privados esenciales y de los servicios y prestaciones públicas esenciales:

(a) Sistemas de IA destinados a ser utilizados por las autoridades públicas o en su nombre para evaluar el derecho de las personas físicas a prestaciones y servicios esenciales de asistencia pública, incluidos los servicios de asistencia sanitaria, así como para conceder, reducir, revocar o reclamar dichas prestaciones y servicios;

(b) Sistemas de IA destinados a ser utilizados para evaluar la solvencia de personas físicas o establecer su puntuación crediticia, a excepción de los sistemas de IA utilizados con el fin de detectar fraudes financieros;

(c) los sistemas de IA destinados a ser utilizados para la evaluación de riesgos y la tarificación en relación con las personas físicas en el caso de los seguros de vida y de enfermedad;

(d) Sistemas de IA destinados a evaluar y clasificar llamadas de emergencia de personas físicas o a ser utilizados para despachar, o establecer la prioridad en el despacho de, servicios de primera respuesta de emergencia, incluidos los de policía, bomberos y asistencia médica, así como de sistemas de triaje de pacientes de asistencia sanitaria de emergencia.

6. Fuerzas y cuerpos de seguridad, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:

(a) los sistemas de IA destinados a ser utilizados por las autoridades policiales o judiciales, o en su nombre, o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales o judiciales o en su nombre, para evaluar el riesgo de que una persona física sea víctima de infracciones penales;

(b) los sistemas de IA destinados a ser utilizados por las autoridades policiales o judiciales, o en su nombre, o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales o judiciales, como polígrafos o herramientas similares;

(c) sistemas de IA destinados a ser utilizados por las autoridades policiales o en su nombre, o por instituciones, órganos u organismos de la Unión, en apoyo de las autoridades policiales para evaluar la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento de infracciones penales;

(d) sistemas de IA destinados a ser utilizados por las fuerzas y cuerpos de seguridad o en su nombre o por instituciones, órganos u organismos de la Unión en apoyo de las fuerzas y cuerpos de seguridad para evaluar el riesgo de que una persona física delinca o reincida no únicamente sobre la base de la elaboración de perfiles de personas físicas a que se refiere el artículo 3, apartado 4, de la Directiva (UE) 2016/680, o para evaluar rasgos y características de la personalidad o comportamientos delictivos anteriores de personas físicas o grupos;

(e) los sistemas de IA destinados a ser utilizados por las autoridades policiales o en su nombre o por las instituciones, órganos u organismos de la Unión en apoyo de las autoridades policiales para la elaboración de perfiles de personas físicas a que se refiere el artículo 3, apartado 4, de la Directiva (UE) 2016/680 en el curso de la detección, investigación o enjuiciamiento de infracciones penales.

7. Gestión de la migración, el asilo y el control de fronteras, en la medida en que su uso esté permitido por la legislación nacional o de la Unión pertinente:

(a) Los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, como polígrafos o herramientas similares;

(b) sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, para evaluar un riesgo, incluido un riesgo para la seguridad, un riesgo de migración irregular o un riesgo sanitario, planteado por una persona física que pretenda entrar o haya entrado en el territorio de un Estado miembro;

(c) los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o por las instituciones, órganos u organismos de la Unión, o en su nombre, para asistir a las autoridades públicas competentes en el examen de las solicitudes de asilo, visado o permiso de residencia y en las reclamaciones conexas relativas a la admisibilidad de las personas físicas que solicitan un estatuto, incluidas las evaluaciones conexas de la fiabilidad de las pruebas;

(d) los sistemas de IA destinados a ser utilizados por las autoridades públicas competentes o en su nombre, o por las instituciones, órganos u organismos de la Unión, en el contexto de la gestión de la migración, el asilo o el control de fronteras, con el fin de detectar, reconocer o identificar a personas físicas, con excepción de la verificación de documentos de viaje.

8. Administración de justicia y procesos democráticos:

(a) Sistemas de IA destinados a ser utilizados por una autoridad judicial o en su nombre para asistir a una autoridad judicial en la investigación e interpretación de hechos y del Derecho y en la aplicación del Derecho a un conjunto concreto de hechos, o a ser utilizados de forma similar en la resolución alternativa de litigios;

(b) los sistemas de IA destinados a ser utilizados para influir en el resultado de una elección o referéndum o en el comportamiento de voto de personas físicas en el ejercicio de su voto en elecciones o referendos. Esto no incluye los sistemas de IA a cuyos resultados no están expuestas directamente las personas físicas, como las herramientas utilizadas para organizar, optimizar o estructurar campañas políticas desde un punto de vista administrativo o logístico.

El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Corrección de errores, 19 de abril de 2024". Fichero interinstitucional: 2021/0106(COD)