1. A Comissão fica habilitada a adotar atos delegados nos termos do artigo 97.º para alterar o anexo III, aditando ou modificando casos de utilização de sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado sempre que estejam preenchidas ambas as seguintes condições:

(a) Os sistemas de IA destinam-se a ser utilizados em qualquer um dos domínios enumerados no anexo III;

(b) Os sistemas de IA representam um riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de danos para a saúde e a segurança ou de repercussões negativas nos direitos fundamentais, e esse riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) é equivalente ou superior ao riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de danos ou repercussões negativas representado pelos sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado já referidos no anexo III.

2. Ao avaliar a condição prevista no n.º 1, alínea b), a Comissão tem em conta os seguintes critérios:

(a) A finalidade previstafinalidade previstaa utilização a que o prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) destina o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), incluindo o contexto específico e as condições de utilização, conforme especificado nas informações facultadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) nas instruções de utilização, nos materiais e declarações promocionais ou de venda, bem como na documentação técnicaArticle 3(12) do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1);

(b) O grau de utilização efetiva ou a probabilidade de utilização de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1);

(c) A natureza e a quantidade dos dados tratados e utilizados pelo sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) e, em particular, o facto de serem tratadas categorias especiais de dados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50)categorias especiais de dados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50)as categorias de dados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) a que se referem o artigo 9.º, n.º 1, do Regulamento (UE) 2016/679, o artigo 10.º da Diretiva (UE) 2016/680 e o artigo 10.º, n.º 1, do Regulamento (UE) 2018/1725Article 3(37);

(d) A medida em que o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) atua de forma autónoma e a possibilidade de um ser humano anular decisões ou recomendações que possam causar danos;

(e) A medida em que a utilização de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) já tenha causado danos para a saúde e a segurança, tenha tido repercussões negativas nos direitos fundamentais ou tenha suscitado preocupações significativas quanto à probabilidade de esses danos ou essas repercussões negativas ocorrerem, conforme demonstrado, por exemplo, por relatórios ou alegações documentadas apresentados às autoridades nacionais competentes, ou por outros relatórios, consoante o caso;

(f) A potencial dimensão desses danos ou dessas repercussões negativas, nomeadamente em termos de intensidade e de capacidade para afetar várias pessoas, ou para afetar de forma desproporcionada um determinado grupo de pessoas;

(g) A medida em que as pessoas que sofreram potenciais danos ou repercussões negativas dependem dos resultados produzidos por um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), em especial se, por razões práticas ou jurídicas, não lhes for razoavelmente possível autoexcluir-se desse resultado;

(h) A medida em que existe um desequilíbrio em termos de poder ou em que as pessoas que sofreram potenciais danos ou repercussões negativas se encontram numa posição vulnerável em relação ao responsável pela implantaçãoresponsável pela implantaçãouma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utilize um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) sob a sua própria autoridade, salvo se o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) for utilizado no âmbito de uma atividade pessoal de caráter não profissionalArticle 3(4) de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), em particular por motivos relacionados com o estatuto, a autoridade, o conhecimento, as circunstâncias económicas ou sociais, ou a idade;

(i) A medida em que os resultados produzidos com o envolvimento de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) são facilmente corrigíveis ou reversíveis, tendo em conta as soluções técnicas disponíveis para os corrigir ou reverter, sendo que os resultados com uma repercussão negativa na saúde, na segurança ou nos direitos fundamentais não podem ser considerados como facilmente corrigíveis ou reversíveis;

(j) A magnitude e a probabilidade dos benefícios da implantação do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) para as pessoas, os grupos ou a sociedade em geral, incluindo possíveis melhorias na segurança dos produtos;

(k) A medida em que o direito da União em vigor prevê:

(i) medidas de reparação eficazes em relação aos riscos representados por um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), com exclusão de pedidos de indemnização,

(ii) medidas eficazes para prevenir ou minimizar substancialmente esses riscos.

3. A Comissão fica habilitada a adotar atos delegados nos termos do artigo 97.º para alterar a lista do anexo III suprimindo sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado sempre que estejam preenchidas ambas as seguintes condições:

(a) O sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado em causa deixa de representar um riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) significativo para os direitos fundamentais, a saúde ou a segurança, tendo em conta os critérios enumerados no n.º 2;

(b) A supressão não diminui o nível geral de proteção da saúde, da segurança e dos direitos fundamentais ao abrigo do direito da União.