1. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar el anexo III mediante la adición o modificación de casos de uso de sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) cuando se reúnan las dos condiciones siguientes:

(a) que los sistemas de IA estén destinados a ser utilizados en cualquiera de los ámbitos que figuran en el anexo III, y

(b) que los sistemas de IA planteen un riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) de perjudicar la salud y la seguridad o de tener repercusiones negativas en los derechos fundamentales, y que dicho riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) sea equivalente a, o mayor que, el riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) de perjuicio o de repercusiones negativas que plantean los sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) que ya se mencionan en el anexo III.

2. Cuando evalúe la condición prevista en el apartado 1, letra b), la Comisión tendrá en cuenta los criterios siguientes:

(a) la finalidad previstafinalidad previstael uso para el que un proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) concibe un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), incluidos el contexto y las condiciones de uso concretos, según la información facilitada por el proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) en las instrucciones de uso, los materiales y las declaraciones de promoción y venta, y la documentación técnicaArticle 3(12) del sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1);

(b) la medida en que se haya utilizado o sea probable que se utilice un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1);

(c) la naturaleza y la cantidad de los datos tratados y utilizados por el sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), en particular si se tratan categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37);

(d) el grado de autonomía con el que actúa el sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) y la posibilidad de que un ser humano anule una decisión o recomendaciones que puedan dar lugar a un perjuicio;

(e) la medida en que la utilización de un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) ya haya causado un perjuicio a la salud y la seguridad, haya tenido repercusiones negativas en los derechos fundamentales o haya dado lugar a problemas importantes en relación con la probabilidad de dicho perjuicio o dichas repercusiones negativas, según demuestren, por ejemplo, los informes o las alegaciones documentadas que se presenten a las autoridades nacionales competentes o cualquier otro informe, según proceda;

(f) el posible alcance de dicho perjuicio o dichas repercusiones negativas, en particular en lo que respecta a su intensidad y su capacidad para afectar a varias personas o afectar de manera desproporcionada a un determinado colectivo de personas;

(g) la medida en que las personas que podrían sufrir dicho perjuicio o dichas repercusiones negativas dependan del resultado generado por un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), en particular porque, por motivos prácticos o jurídicos, no sea razonablemente posible renunciar a dicho resultado;

(h) la medida en que exista un desequilibrio de poder o las personas que podrían sufrir dicho perjuicio o dichas repercusiones negativas se encuentren en una posición de vulnerabilidad respecto del responsable del despliegueresponsable del despliegueuna persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) bajo su propia autoridad, salvo cuando su uso se enmarque en una actividad personal de carácter no profesionalArticle 3(4) de un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), en particular debido a su situación, autoridad, conocimientos, circunstancias económicas o sociales, o edad;

(i) la medida en que sea fácil corregir o revertir el resultado generado utilizando un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), teniendo en cuenta las soluciones técnicas disponibles para corregirlo o revertirlo y sin que deba considerarse que los resultados que afectan negativamente a la salud, la seguridad o los derechos fundamentales son fáciles de corregir o revertir;

(j) la probabilidad de que el despliegue del sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) resulte beneficioso para las personas, los colectivos o la sociedad en general, y la magnitud de este beneficio, incluidas posibles mejoras en la seguridad de los productos;

(k) la medida en que el Derecho de la Unión vigente establezca:

(i) vías de recurso efectivas en relación con los riesgos que plantea un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), con exclusión de las acciones por daños y perjuicios,

(ii) medidas efectivas para prevenir o reducir notablemente esos riesgos.

3. La Comisión estará facultada para adoptar actos delegados con arreglo al artículo 97 al objeto de modificar la lista del anexo III mediante la supresión de sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) cuando se reúnan las dos condiciones siguientes:

(a) que los sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) de que se trate ya no planteen riesgos considerables para los derechos fundamentales, la salud o la seguridad, teniendo en cuenta los criterios enumerados en el apartado 2;

(b) que la supresión no reduzca el nivel general de protección de la salud, la seguridad y los derechos fundamentales con arreglo al Derecho de la Unión.