Anexo III: Sistemas de IA de risco elevado a que se refere o artigo 6 , n. 2

Anexo III: Sistemas de IA de risco elevado a que se refere o artigo 6.º , n.º 2

Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado a que se refere o artigo 6.º, n.º 2, são os sistemas de IA incluídos num dos domínios a seguir enumerados:

1. Dados biométricosDados biométricosdados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicosArticle 3(34), na medida em que a sua utilização seja permitida ao abrigo do direito da União ou do direito nacional aplicável:

(a) Sistemas de identificação biométricaidentificação biométricao reconhecimento automatizado de características humanas físicas, fisiológicas, comportamentais ou psicológicas para efeitos de determinação da identidade de uma pessoa singular, comparando os dados biométricosdados biométricosdados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicosArticle 3(34) dessa pessoa com os dados biométricosdados biométricosdados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicosArticle 3(34) de pessoas armazenados numa base de dadosArticle 3(35) à distância.

Não inclui os sistemas de IA concebidos para serem utilizados para verificação biométricaverificação biométricaa verificação automatizada, «um para um», incluindo a autenticação, da identidade de pessoas singulares por meio da comparação dos seus dados biométricosdados biométricosdados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicosArticle 3(34) com dados biométricosdados biométricosdados pessoaisdados pessoaisos dados pessoais na aceção do artigo 4.º, ponto 1, do Regulamento (UE) 2016/679Article 3(50) resultantes de um tratamento técnico específico relativo às características físicas, fisiológicas ou comportamentais de uma pessoa singular, nomeadamente imagens faciais ou dados dactiloscópicosArticle 3(34) previamente facultadosArticle 3(36) com o único propósito de confirmar que uma determinada pessoa singular é a pessoa que alega ser;

(b) Sistemas de IA concebidos para serem utilizados para categorização biométrica, de acordo com atributos ou características sensíveis ou protegidos com base na inferência desses atributos ou características;

2. Infraestruturas críticas: sistemas de IA concebidos para serem utilizados como componentes de segurança na gestão e no controlo de infraestruturas digitais críticas, do trânsito rodoviário ou das redes de abastecimento de água, gás, aquecimento ou eletricidade.

3. Educação e formação profissional:

(a) Sistemas de IA concebidos para serem utilizados para determinar o acesso ou a admissão ou a afetação de pessoas singulares a instituições de ensino e de formação profissional de todos os níveis;

(b) Sistemas de IA concebidos para serem utilizados para avaliar os resultados da aprendizagem, nomeadamente quando esses resultados são utilizados para orientar o processo de aprendizagem de pessoas singulares em instituições de ensino e de formação profissional de todos os níveis;

(c) Sistemas de IA concebidos para serem utilizados para efeitos de avaliação do nível de educação adequado que as pessoas receberão ou a que poderão ter acesso no contexto de instituições de ensino e formação profissional ou nessas instituições de todos os níveis;

(d) Sistemas de IA concebidos para serem utilizados para efeitos de controlo e deteção de práticas proibidas por parte de estudantes durante testes no contexto de instituições de ensino e formação profissional ou nessas instituições de todos os níveis.

4. Emprego, gestão de trabalhadores e acesso ao emprego por conta própria:

(a) Sistemas de IA concebidos para serem utilizados no recrutamento ou na seleção de pessoas singulares, nomeadamente para colocar anúncios de emprego direcionados, analisar e filtrar candidaturas a ofertas de emprego e avaliar os candidatos;

(b) Sistemas de IA concebidos para serem utilizados na tomada de decisões que afetem os termos das relações de trabalho, a promoção ou a cessação das relações contratuais de trabalho, na atribuição de tarefas com base em comportamentos individuais, traços ou características pessoais, ou no controlo e avaliação do desempenho e da conduta de pessoas que são partes nessas relações.

5. Acesso a serviços privados essenciais e a serviços e prestações públicos essenciais, bem como o usufruto dos mesmos:

(a) Sistemas de IA concebidos para serem utilizados por autoridades públicas, ou em seu nome, para avaliar a elegibilidade de pessoas singulares para terem acesso a prestações e serviços de assistência pública essenciais, incluindo serviços de cuidados de saúde, bem como para conceder, reduzir, revogar ou recuperar o acesso a tais prestações e serviços;

(b) Sistemas de IA concebidos para serem utilizados para avaliar a capacidade de solvabilidade de pessoas singulares ou estabelecer a sua classificação de crédito, com exceção dos sistemas de IA utilizados para efeitos de deteção de fraude financeira;

(c) Sistemas de IA concebidos para serem utilizados nas avaliações de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) e na fixação de preços em relação a pessoas singulares no caso de seguros de vida e de saúde;

(d) Sistemas de IA concebidos para avaliar e classificar chamadas de emergência efetuadas por pessoas singulares ou para serem utilizados no envio, ou no estabelecimento de prioridades no envio, de serviços de primeira resposta a emergências, incluindo polícia, bombeiros e assistência médica, bem como sistemas de triagem de pacientes dos sistemas de cuidados de saúde de emergência.

6. Aplicação da leiAplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), na medida em que a sua utilização seja permitida nos termos do direito da União ou do direito nacional aplicável:

(a) Sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio das autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, para avaliar o riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de uma pessoa singular vir a ser vítima de infrações penais;

(b) Sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio das autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), como polígrafos ou instrumentos semelhantes;

(c) Sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio das autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46) para avaliar a fiabilidade dos elementos de prova no decurso da investigação ou ação penal relativas a infrações penais;

(d) Sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio das autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46) para avaliar o riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de uma pessoa singular cometer uma infração penal ou reincidir não exclusivamente com base na definição de perfisdefinição de perfisa definição de perfis na aceção do artigo 4.º, ponto 4), do Regulamento (UE) 2016/679Article 3(52) de pessoas singulares na aceção do artigo 3.º, ponto 4, da Diretiva (UE) 2016/680, ou para avaliar os traços e características da personalidade ou o comportamento criminal passado de pessoas singulares ou grupos;

(e) Sistemas de IA concebidos para serem utilizados por autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46), ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio das autoridades responsáveis pela aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46) para definir o perfil de pessoas singulares na aceção do artigo 3.º, ponto 4, da Diretiva (UE) 2016/680, no decurso da deteção, investigação ou ação penal relativas a infrações penais.

7. Gestão da migração, do asilo e do controlo das fronteiras, na medida em que a sua utilização seja permitida nos termos do direito da União ou do direito nacional aplicável:

(a) Sistemas de IA concebidos para serem utilizados por autoridades públicas competentes ou instituições, órgãos ou organismos da União, ou em seu nome, como polígrafos e instrumentos semelhantes;

(b) Sistemas de IA concebidos para serem utilizados por autoridades públicas competentes, ou em seu nome, ou por instituições, órgãos ou organismos da União para avaliar os riscos, incluindo um riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) para a segurança, um riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) de migração irregular ou um riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) para a saúde, que uma pessoa singular que pretenda entrar ou tenha entrado no território de um Estado-Membro represente;

(c) Sistemas de IA concebidos para serem utilizados por autoridades públicas competentes, ou em seu nome, ou por instituições, órgãos ou organismos da União para auxiliar as autoridades públicas competentes na análise de pedidos de asilo, de visto e de autorização de residência e das queixas conexas, no que toca à elegibilidade das pessoas singulares que requerem determinado estatuto, nomeadamente nas avaliações conexas da fiabilidade dos elementos de prova;

(d) Sistemas de IA concebidos para serem utilizados por autoridades públicas competentes ou por instituições, órgãos ou organismos da União, ou em seu nome, no contexto da gestão da migração, do asilo ou do controlo das fronteiras, para efeitos de deteção, reconhecimento ou identificação de pessoas singulares, com exceção da verificação de documentos de viagem.

8. Administração da justiça e processos democráticos:

(a) Sistemas de IA concebidos para serem utilizados por uma autoridade judiciária, ou em seu nome, para auxiliar uma autoridade judiciária na investigação e na interpretação de factos e do direito, bem como na aplicação da leiaplicação da leias atividades realizadas por autoridades responsáveis pela aplicação da lei ou em nome destas para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmasArticle 3(46) a um conjunto específico de factos, ou para serem utilizados de forma similar na resolução alternativa de litígios;

(b) Sistemas de IA concebidos para serem utilizados para influenciar o resultado de uma eleição ou referendo ou o comportamento eleitoral de pessoas singulares no exercício do seu direito de voto em eleições ou referendos. Não estão incluídos os sistemas de IA a cujos resultados as pessoas singulares não estejam diretamente expostas, como as ferramentas utilizadas para organizar, otimizar e estruturar campanhas políticas do ponto de vista administrativo e logístico.