Artigo 15.º: Exatidão, solidez e cibersegurança
1.
Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem ser concebidos e desenvolvidos de maneira que alcancem um nível apropriado de exatidão, solidez e cibersegurança e apresentem um desempenho coerente em relação a tais aspetos durante o seu ciclo de vida.
2.
A fim de abordar os aspetos técnicos relativos à forma de medir os níveis adequados de exatidão e solidez estabelecidos no n.º 1, bem como quaisquer outros parâmetros de desempenho pertinentes, a Comissão, em cooperação com as partes interessadas e as organizações pertinentes, tais como as autoridades responsáveis pela metrologia e pela avaliação comparativa, incentiva, conforme adequado, o desenvolvimento de parâmetros de referência e metodologias de medição.
3.
As instruções de utilizaçãoinstruções de utilizaçãoas informações facultadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) para esclarecer responsável pela implantação, em especial, sobre a finalidade previstafinalidade previstaa utilização a que o prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) destina o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), incluindo o contexto específico e as condições de utilização, conforme especificado nas informações facultadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) nas instruções de utilização, nos materiais e declarações promocionais ou de venda, bem como na documentação técnicaArticle 3(12) e a utilização correta de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1)Article 3(15) que acompanham os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem declarar os níveis de exatidão e os parâmetros de exatidão aplicáveis.
4.
Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem ser tão resistentes quanto possível a erros, falhas ou incoerências que possam ocorrer no sistema ou no ambiente em que aquele opera, em especial devido à interação com pessoas singulares ou outros sistemas. A este respeito, devem ser tomadas medidas técnicas e organizativas.
A solidez dos sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado pode ser alcançada por via de soluções de redundância técnica, que podem incluir planos de reserva ou planos de segurança à prova de falhas.
Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado que continuam a aprender após serem colocados no mercado ou colocados em serviço são desenvolvidos de forma a eliminar ou reduzir, tanto quanto possível, o riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de resultados possivelmente enviesados que influenciem os dados de entradadados de entradaos dados disponibilizados a um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), ou por ele obtidos diretamente, com base nos quais o sistema produz um resultadoArticle 3(33) de futuras operações (circuitos de realimentação), bem como a assegurar que esses resultados possivelmente enviesados sejam objeto de medidas de atenuação adequadas.
5.
Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem ser resistentes a tentativas de terceiros não autorizados de alterar a sua utilização, os seus resultados ou seu desempenho explorando as vulnerabilidades do sistema.
As soluções técnicas destinadas a assegurar a cibersegurança dos sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem ser adequadas às circunstâncias e aos riscos de cada caso.
As soluções técnicas para resolver vulnerabilidades específicas da IA devem incluir, se for caso disso, medidas para prevenir, detetar, resolver e controlar, bem como dar resposta a ataques que visem manipular o conjunto de dados de treinodados de treinoos dados usados para treinar um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) mediante o ajustamento dos seus parâmetros passíveis de serem aprendidosArticle 3(29) (contaminação de dados) ou componentes pré-treinados utilizados no treino (contaminação de modelos), dados de entradadados de entradaos dados disponibilizados a um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), ou por ele obtidos diretamente, com base nos quais o sistema produz um resultadoArticle 3(33) concebidos para fazer com que o modelo de IA cometa um erro (exemplos antagónicos ou evasão de modelos), ataques de confidencialidade ou falhas do modelo.