Índice

Sección 1: Clasificación de los sistemas de IA como de alto riesgo

Artículo 6: Normas de clasificación de los sistemas de IA de alto riesgo

Artículo 7: Modificaciones del anexo III

Sección 2: Requisitos de los sistemas de IA de alto riesgo

Artículo 8: Cumplimiento de los requisitos

Artículo 9: Sistema de gestión de riesgos

Artículo 10: Datos y gobernanza de datos

Artículo 11: Documentación técnica

Artículo 12: Mantenimiento de registros

Artículo 13: Transparencia y suministro de información a los empresarios

Artículo 14: Supervisión humana

Artículo 15: Precisión, robustez y ciberseguridad

Sección 3: Obligaciones de los proveedores e implantadores de sistemas de IA de alto riesgo y otras partes interesadas

Artículo 16: Obligaciones de los proveedores de sistemas de IA de alto riesgo

Artículo 17. Sistema de gestión de la calidad Sistema de gestión de la calidad

Artículo 18: Conservación de la documentación

Artículo 19: Registros generados automáticamente

Artículo 20: Acciones correctoras y deber de información

Artículo 21: Cooperación con las autoridades competentes

Artículo 22: Representantes autorizados de los proveedores de sistemas de IA de alto riesgo

Artículo 23: Obligaciones de los importadores

Artículo 24: Obligaciones de los distribuidores

Artículo 25: Responsabilidades a lo largo de la cadena de valor de la IA

Artículo 26: Obligaciones de los implantadores de sistemas de IA de alto riesgo

Artículo 27: Evaluación de impacto sobre los derechos fundamentales de los sistemas de IA de alto riesgo

Sección 4: Autoridades de notificación y organismos notificados

Artículo 28 Autoridades de notificación

Artículo 29: Solicitud de notificación de un organismo de evaluación de la conformidad

Artículo 30. Procedimiento de notificación Procedimiento de notificación

Artículo 31: Requisitos relativos a los organismos notificados

Artículo 32. Presunción de conformidad Presunción de conformidad con los requisitos relativos a los organismos notificados

Artículo 33: Filiales y subcontratación de los organismos notificados

Artículo 34. Obligaciones operativas de los organismos notificados Obligaciones operativas de los organismos notificados

Artículo 35: Números de identificación y listas de organismos notificados designados en virtud del presente Reglamento

Artículo 36: Modificaciones de las notificaciones

Artículo 37: Impugnación de la competencia de los organismos notificados

Artículo 38: Coordinación de los organismos notificados

Artículo 39. Organismos de evaluación de la conformidad de terceros países Organismos de evaluación de la conformidad de terceros países

Sección 5: Normas, evaluación de la conformidad, certificados, registro

Artículo 40: Normas armonizadas y productos de normalización

Artículo 41. Especificaciones comunes Especificaciones comunes

Artículo 42. Presunción de conformidad Presunción de conformidad con determinados requisitos

Artículo 43. Evaluación de la conformidad Evaluación de la conformidad

Artículo 44. Certificados Certificados

Artículo 45: Obligaciones de información de los organismos notificados

Artículo 46: Excepción al procedimiento de evaluación de la conformidad

Artículo 47 Declaración de conformidad de la UE

Artículo 48: Marcado CE

Artículo 49. Registro Registro

Sección 1: Seguimiento postcomercialización

Artículo 72: Seguimiento postcomercialización por parte de los proveedores y plan de seguimiento postcomercialización para sistemas de IA de alto riesgo

Sección 2: Intercambio de información sobre incidentes graves

Artículo 73. Notificación de incidentes graves Notificación de incidentes graves

Sección 3: Ejecución

Artículo 74: Vigilancia del mercado y control de los sistemas de IA en el mercado de la Unión

Artículo 75: Asistencia mutua, vigilancia del mercado y control de los sistemas de IA de propósito general

Artículo 76: Supervisión de las pruebas en condiciones reales por las autoridades de vigilancia del mercado

Artículo 77: Competencias de las autoridades de protección de los derechos fundamentales

Artículo 78. Confidencialidad Confidencialidad

Artículo 79: Procedimiento para tratar los sistemas de IA que presenten un riesgo a nivel nacional

Artículo 80: Procedimiento para tratar los sistemas de IA clasificados por el proveedor como de riesgo no elevado en aplicación del Anexo III

Artículo 81: Procedimiento de salvaguardia de la Unión

Artículo 82: Sistemas de IA conformes que presentan un riesgo

Artículo 83. Incumplimiento formal Incumplimiento formal

Artículo 84: Estructuras de apoyo a las pruebas de IA de la Unión

Sección 4: Recursos

Artículo 85: Derecho a presentar una reclamación ante una autoridad de vigilancia del mercado

Artículo 86: Derecho a la explicación de las decisiones individuales

Artículo 87. Notificación de infracciones y protección de los denunciantes Notificación de infracciones y protección de los denunciantes

Sección 5: Supervisión, investigación, aplicación y control de los proveedores de modelos de IA de propósito general

Artículo 88: Cumplimiento de las obligaciones de los proveedores de modelos de IA de propósito general

Artículo 89 : Acciones de control

Artículo 90: Alertas de riesgos sistémicos por la Comisión técnica científica

Artículo 91: Facultad de solicitar documentación e información

Artículo 92: Facultad de realizar evaluaciones

Artículo 93: Facultad de solicitar medidas

Artículo 94: Derechos procesales de los operadores económicos del modelo de IA de propósito general

Recitales

Anexos

Búsqueda en la Ley

Considerando 29

NOTA: Esta traducción es una traducción automática. No es la traducción oficial facilitada por el Parlamento Europeo. Cuando se publique la Ley en el Diario Oficial, las traducciones automáticas serán sustituidas por las traducciones oficiales.

Las técnicas de manipulación basadas en la IA pueden utilizarse para persuadir a las personas de que adopten comportamientos no deseados, o para engañarlas empujándolas a tomar decisiones que subviertan y menoscaben su autonomía, su capacidad de decisión y su libre elección. La comercialización, la puesta en servicio o el uso de determinados sistemas de IA con el objetivo o el efecto de distorsionar materialmente el comportamiento humano, mediante los cuales es probable que se produzcan daños significativos, en particular con repercusiones adversas suficientemente importantes en la salud física o psicológica o en los intereses financieros, son especialmente peligrosos y, por lo tanto, deben prohibirse. Tales sistemas de IA despliegan componentes subliminales, como estímulos de audio, imagen o vídeo que las personas no pueden percibir, ya que dichos estímulos están más allá de la percepción humana, u otras técnicas manipuladoras o engañosas que subvierten o menoscaban la autonomía, la toma de decisiones o la libre elección de las personas, de manera que las personas no son conscientes de dichas técnicas o, cuando son conscientes de ellas, aún pueden ser engañadas o no son capaces de controlarlas o resistirse a ellas. Esto podría verse facilitado, por ejemplo, por las interfaces máquina-cerebro o la realidad virtual, ya que permiten un mayor grado de control de los estímulos que se presentan a las personas, en la medida en que pueden distorsionar materialmente su comportamiento de forma significativamente perjudicial. Además, los sistemas de IA también pueden explotar de otro modo las vulnerabilidades de una persona o de un grupo específico de personas debido a su edad, discapacidad en el sentido de la Directiva (UE) 2019/882 del Parlamento Europeo y del Consejo[16], o una situación social o económica específica que probablemente haga que esas personas sean más vulnerables a la explotación, como las personas que viven en condiciones de extrema pobreza o las minorías étnicas o religiosas. Tales sistemas de IA pueden comercializarse, ponerse en servicio o utilizarse con el objetivo o el efecto de distorsionar materialmente el comportamiento de una persona y de una manera que cause o sea razonablemente probable que cause un daño significativo a esa u otra persona o grupos de personas, incluidos los daños que puedan acumularse a lo largo del tiempo y que, por lo tanto, deben prohibirse. Puede que no sea posible suponer que existe la intención de distorsionar el comportamiento cuando la distorsión se derive de factores externos al sistema de IA que estén fuera del control del proveedor o de quien lo implante, es decir, factores que pueden no ser razonablemente previsibles y que, por tanto, el proveedor o quien implante el sistema de IA no pueda mitigar. En cualquier caso, no es necesario que el proveedor o el implantador tengan la intención de causar un daño significativo, siempre que dicho daño se derive de las prácticas manipuladoras o explotadoras basadas en la IA. Las prohibiciones de tales prácticas de IA son complementarias de las disposiciones contenidas en la Directiva 2005/29/CE del Parlamento Europeo y del Consejo[17], en particular las prácticas comerciales desleales que conducen a perjuicios económicos o financieros para los consumidores están prohibidas en todas las circunstancias, independientemente de que se lleven a cabo a través de sistemas de IA o de otro modo. Las prohibiciones de prácticas manipuladoras y explotadoras del presente Reglamento no deben afectar a las prácticas lícitas en el contexto del tratamiento médico, como el tratamiento psicológico de una enfermedad mental o la rehabilitación física, cuando dichas prácticas se lleven a cabo de conformidad con la legislación y las normas médicas aplicables, por ejemplo el consentimiento explícito de las personas o de sus representantes legales. Además, las prácticas comerciales comunes y legítimas, por ejemplo en el ámbito de la publicidad, que se ajusten a la legislación aplicable no deben considerarse, en sí mismas, constitutivas de prácticas manipuladoras nocivas basadas en la IA.

[16] Directiva (UE) 2019/882 del Parlamento Europeo y del Consejo, de 17 de abril de 2019, relativa a los requisitos de accesibilidad de productos y servicios (DO L 151 de 7.6.2019, p. 70).

[17] Directiva 2005/29/CE del Parlamento Europeo y del Consejo, de 11 de mayo de 2005, relativa a las prácticas comerciales desleales de las empresas en sus relaciones con los consumidores en el mercado interior, que modifica la Directiva 84/450/CEE del Consejo, las Directivas 97/7/CE, 98/27/CE y 2002/65/CE del Parlamento Europeo y del Consejo y el Reglamento (CE) nº 2006/2004 del Parlamento Europeo y del Consejo ("Directiva sobre las prácticas comerciales desleales") (DO L 149 de 11.6.2005, p. 22).

Comentarios - Estamos trabajando para mejorar esta herramienta. Por favor, envíe sus comentarios a Taylor Jones en taylor@futureoflife.org

El texto utilizado en esta herramienta es la "Ley de Inteligencia Artificial, Corrección de errores, 19 de abril de 2024". Fichero interinstitucional: 2021/0106(COD)