1. Se establecerá, aplicará, documentará y mantendrá un sistema de gestión de riesgos en relación con los sistemas de IA de alto riesgo.
2. El sistema de gestión de riesgos se entenderá como un proceso iterativo continuo, planificado y ejecutado a lo largo de todo el ciclo de vida de un sistema de IA de alto riesgo, que requiere una revisión y actualización periódicas y sistemáticas. Comprenderá las siguientes etapas:
(a) la identificación y el análisis de los riesgos conocidos y de los riesgos razonablemente previsibles que el sistema de IA de alto riesgo puede plantear para la salud, la seguridad o los derechos fundamentales cuando el sistema de IA de alto riesgo se utilice de acuerdo con su finalidad prevista;
(b) la estimación y evaluación de los riesgos que pueden surgir cuando el sistema de IA de alto riesgo se utiliza de acuerdo con su finalidad prevista, y en condiciones de uso indebido razonablemente previsibles;
(c) la evaluación de otros riesgos que puedan surgir, basada en el análisis de los datos recogidos en el sistema de seguimiento poscomercialización contemplado en el artículo 72;
(d) la adopción de medidas adecuadas y específicas de gestión de riesgos destinadas a hacer frente a los riesgos identificados con arreglo a la letra a).
3. Los riesgos a que se refiere el presente artículo se referirán únicamente a aquellos que puedan razonablemente mitigarse o eliminarse mediante el desarrollo o el diseño del sistema de IA de alto riesgo, o el suministro de información técnica adecuada.
4. Las medidas de gestión de riesgos a que se refiere el apartado 2, letra d), tendrán debidamente en cuenta los efectos y la posible interacción resultantes de la aplicación combinada de los requisitos establecidos en la presente sección, con vistas a minimizar los riesgos de forma más eficaz y lograr al mismo tiempo un equilibrio adecuado en la aplicación de las medidas para cumplir dichos requisitos.
5. Las medidas de gestión de riesgos a que se refiere el apartado 2, letra d), serán tales que el riesgo residual pertinente asociado a cada peligro, así como el riesgo residual global de los sistemas de IA de alto riesgo, se consideren aceptables. Al determinar las medidas de gestión de riesgos más adecuadas, se garantizará lo siguiente:
(a) eliminación o reducción de los riesgos identificados y evaluados con arreglo al apartado 2, en la medida en que sea técnicamente viable, mediante un diseño y desarrollo adecuados del sistema de IA de alto riesgo;
(b) en su caso, aplicación de medidas adecuadas de mitigación y control de los riesgos que no puedan eliminarse;
(c) el suministro de la información requerida en virtud del artículo 13 y, en su caso, la formación de los encargados del despliegue. Con vistas a eliminar o reducir los riesgos relacionados con el uso del sistema de IA de alto riesgo, se tendrán debidamente en cuenta los conocimientos técnicos, la experiencia, la educación, la formación que cabe esperar de la persona que despliegue el sistema y el contexto presumible en el que se pretende utilizar el sistema.
6. Los sistemas de IA de alto riesgo se someterán a prueba con el fin de determinar las medidas de gestión de riesgos más adecuadas y específicas. Las pruebas garantizarán que los sistemas de IA de alto riesgo funcionan de manera coherente para los fines previstos y que cumplen los requisitos establecidos en la presente sección.
7. Los procedimientos de ensayo podrán incluir ensayos en condiciones reales de conformidad con el artículo 60.
8. Las pruebas de los sistemas de IA de alto riesgo se realizarán, según proceda, en cualquier momento del proceso de desarrollo y, en cualquier caso, antes de su comercialización o puesta en servicio. Las pruebas se llevarán a cabo en función de parámetros y umbrales probabilísticos previamente definidos que sean adecuados para la finalidad prevista del sistema de IA de alto riesgo.
9. Al aplicar el sistema de gestión de riesgos previsto en los apartados 1 a 7, los proveedores tendrán en cuenta si, habida cuenta de su finalidad prevista, el sistema de IA de alto riesgo puede tener repercusiones negativas en los menores de 18 años y, en su caso, en otros grupos vulnerables.
10. En el caso de los proveedores de sistemas de IA de alto riesgo que estén sujetos a requisitos relativos a los procesos internos de gestión de riesgos en virtud de otras disposiciones pertinentes del Derecho de la Unión, los aspectos previstos en los apartados 1 a 9 podrán formar parte de los procedimientos de gestión de riesgos establecidos con arreglo a dicho Derecho o combinarse con ellos.