Artículo 10: Datos y gobernanza de datos
1.
Los sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) que utilizan técnicas que implican el entrenamiento de modelos de IA con datos se desarrollarán a partir de conjuntos de datos de entrenamientodatos de entrenamientolos datos usados para entrenar un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) mediante el ajuste de sus parámetros entrenablesArticle 3(29), validación y prueba que cumplan los criterios de calidad a que se refieren los apartados 2, 3 y 4 del presente artículo y el artículo 4 bis, apartado 1, siempre que se utilicen dichos conjuntos de datos.Los sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) que utilizan técnicas que implican el entrenamiento de modelos de IA con datos se desarrollarán a partir de conjuntos de datos de entrenamientodatos de entrenamientolos datos usados para entrenar un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) mediante el ajuste de sus parámetros entrenablesArticle 3(29), validación y prueba que cumplan los criterios de calidad a que se refieren los apartados 2 a 5 siempre que se utilicen dichos conjuntos de datos.
2.
Los conjuntos de datos de entrenamientodatos de entrenamientolos datos usados para entrenar un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) mediante el ajuste de sus parámetros entrenablesArticle 3(29), validación y prueba se someterán a prácticas de gobernanza y gestión de datos adecuadas para la finalidad previstafinalidad previstael uso para el que un proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) concibe un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), incluidos el contexto y las condiciones de uso concretos, según la información facilitada por el proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) en las instrucciones de uso, los materiales y las declaraciones de promoción y venta, y la documentación técnicaArticle 3(12) del sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2). Dichas prácticas se centrarán, en particular, en lo siguiente:
(a)
las decisiones pertinentes relativas al diseño;
(b)
los procesos de recogida de datos y el origen de los datos y, en el caso de los datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50), la finalidad original de la recogida de datos;
(c)
las operaciones de tratamiento oportunas para la preparación de los datos, como la anotación, el etiquetado, la depuración, la actualización, el enriquecimiento y la agregación;
(d)
la formulación de supuestos, en particular en lo que respecta a la información que se supone que miden y representan los datos;
(e)
una evaluación de la disponibilidad, la cantidad y la adecuación de los conjuntos de datos necesarios;
(f)
el examen atendiendo a posibles sesgos que puedan afectar a la salud y la seguridad de las personas, afectar negativamente a los derechos fundamentales o dar lugar a algún tipo de discriminación prohibida por el Derecho de la Unión, especialmente cuando las salidas de datos influyan en las informaciones de entrada de futuras operaciones;
(g)
medidas adecuadas para detectar, prevenir y mitigar posibles sesgos detectados con arreglo a la letra f);
(h)
la detección de lagunas o deficiencias pertinentes en los datos que impidan el cumplimiento del presente Reglamento, y la forma de subsanarlas.
3.
Los conjuntos de datos de entrenamientodatos de entrenamientolos datos usados para entrenar un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) mediante el ajuste de sus parámetros entrenablesArticle 3(29), validación y prueba serán pertinentes, suficientemente representativos y, en la mayor medida posible, carecerán de errores y estarán completos en vista de su finalidad previstafinalidad previstael uso para el que un proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) concibe un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), incluidos el contexto y las condiciones de uso concretos, según la información facilitada por el proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) en las instrucciones de uso, los materiales y las declaraciones de promoción y venta, y la documentación técnicaArticle 3(12). Asimismo, tendrán las propiedades estadísticas adecuadas, por ejemplo, cuando proceda, en lo que respecta a las personas o los colectivos de personas en relación con los cuales está previsto que se utilice el sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2). Los conjuntos de datos podrán reunir esas características para cada conjunto de datos individualmente o para una combinación de estos.
4.
Los conjuntos de datos tendrán en cuenta, en la medida necesaria para la finalidad previstafinalidad previstael uso para el que un proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) concibe un sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), incluidos el contexto y las condiciones de uso concretos, según la información facilitada por el proveedorproveedoruna persona física o jurídica, autoridad pública, órgano u organismo que desarrolle un sistema de IA o un modelo de IA de uso general o para el que se desarrolle un sistema de IA o un modelo de IA de uso general y lo introduzca en el mercado o ponga en servicio el sistema de IA con su propio nombre o marca, previo pago o gratuitamenteArticle 3(3) en las instrucciones de uso, los materiales y las declaraciones de promoción y venta, y la documentación técnicaArticle 3(12), las características o elementos particulares del entorno geográfico, contextual, conductual o funcional específico en el que está previsto que se utilice el sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1) de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2).
5.
Ya no existe tras la modificación.En la medida en que sea estrictamente necesario para garantizar la detección y corrección de los sesgos asociados a los sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) de conformidad con lo dispuesto en el apartado 2, letras f) y g), del presente artículo, los proveedores de dichos sistemas podrán tratar excepcionalmente las categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) siempre que ofrezcan las garantías adecuadas en relación con los derechos y las libertades fundamentales de las personas físicas. Además de las disposiciones establecidas en los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y la Directiva (UE) 2016/680, para que se produzca dicho tratamiento deben cumplirse todas las condiciones siguientes:
(a)
Ya no existe tras la modificación.que el tratamiento de otros datos, como los sintéticos o los anonimizados, no permita efectuar de forma efectiva la detección y corrección de sesgos;
(b)
Ya no existe tras la modificación.que las categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) estén sujetas a limitaciones técnicas relativas a la reutilización de los datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) y a medidas punteras en materia de seguridad y protección de la intimidad, incluida la seudonimización;
(c)
Ya no existe tras la modificación.que las categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) estén sujetas a medidas para garantizar que los datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) tratados estén asegurados, protegidos y sujetos a garantías adecuadas, incluidos controles estrictos y documentación del acceso, a fin de evitar el uso indebido y garantizar que solo las personas autorizadas tengan acceso a dichos datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) con obligaciones de confidencialidad adecuadas;
(d)
Ya no existe tras la modificación.que las categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) no se transmitan ni transfieran a terceros y que estos no puedan acceder de ningún otro modo a ellos;
(e)
Ya no existe tras la modificación.que las categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) se eliminen una vez que se haya corregido el sesgo o los datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) hayan llegado al final de su período de conservación, si esta fecha es anterior;
(f)
Ya no existe tras la modificación.que los registros de las actividades de tratamiento con arreglo a los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y la Directiva (UE) 2016/680 incluyan las razones por las que el tratamiento de categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)categorías especiales de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50)las categorías de datos personalesdatos personaleslos datos personales tal como se definen en el artículo 4, punto 1, del Reglamento (UE) 2016/679Article 3(50) a que se refieren el artículo 9, apartado 1, del Reglamento (UE) 2016/679, el artículo 10 de la Directiva (UE) 2016/680 y el artículo 10, apartado 1, del Reglamento (UE) 2018/1725Article 3(37) era estrictamente necesario para detectar y corregir sesgos, y por las que ese objetivo no podía alcanzarse mediante el tratamiento de otros datos.
6.
Para el desarrollo de sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) que no emplean técnicas que implican el entrenamiento de modelos de IA, los apartados 2, 3 y 4 del presente artículo y el artículo 4 bis, apartado 1, se aplicarán únicamente a los conjuntos de datos de pruebadatos de pruebalos datos usados para proporcionar una evaluación independiente del sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), con el fin de confirmar el funcionamiento previsto de dicho sistema antes de su introducción en el mercado o su puesta en servicioArticle 3(32).Para el desarrollo de sistemas de IA de alto riesgoriesgola combinación de la probabilidad de que se produzca un perjuicio y la gravedad de dicho perjuicioArticle 3(2) que no empleen técnicas que impliquen el entrenamiento de modelos de IA, los apartados 2 a 5 se aplicarán únicamente a los conjuntos de datos de pruebadatos de pruebalos datos usados para proporcionar una evaluación independiente del sistema de IAsistema de IAun sistema basado en una máquina que está diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtualesArticle 3(1), con el fin de confirmar el funcionamiento previsto de dicho sistema antes de su introducción en el mercado o su puesta en servicioArticle 3(32).