1. Os sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado devem ser concebidos e desenvolvidos de modo a poderem, nomeadamente por meio de ferramentas de interface homem-máquina apropriadas, ser eficazmente supervisionados por pessoas singulares durante o período em que estão em utilização.

2. A supervisão humana deve procurar prevenir ou minimizar os riscos para a saúde, a segurança ou os direitos fundamentais que possam surgir quando um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado é usado em conformidade com a sua finalidade previstafinalidade previstaa utilização a que o prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) destina o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), incluindo o contexto específico e as condições de utilização, conforme especificado nas informações facultadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) nas instruções de utilização, nos materiais e declarações promocionais ou de venda, bem como na documentação técnicaArticle 3(12) ou em condições de utilização indevida razoavelmente previsívelutilização indevida razoavelmente previsívela utilização de um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de uma forma não conforme com a sua finalidade previstafinalidade previstaa utilização a que o prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) destina o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1), incluindo o contexto específico e as condições de utilização, conforme especificado nas informações facultadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) nas instruções de utilização, nos materiais e declarações promocionais ou de venda, bem como na documentação técnicaArticle 3(12), mas que pode resultar de um comportamento humano razoavelmente previsível ou de uma interação razoavelmente previsível com outros sistemas, incluindo outros sistemas de IAArticle 3(13), em especial quando esses riscos persistem apesar da aplicação de outros requisitos estabelecidos na presente secção.

3. As medidas de supervisão humana devem ser consentâneas com os riscos, ao nível de autonomia e ao contexto de utilização do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado e a supervisão deve ser assegurada por meio de um ou de todos os seguintes tipos de medidas:

(a) Medidas identificadas e integradas, quando tecnicamente viável, pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) no sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado antes de este ser colocado no mercado ou colocado em serviço;

(b) Medidas identificadas pelo prestadorprestadoruma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolva, ou mande desenvolver, um sistema de IA ou um modelo de IA de finalidade geral e o coloque no mercado, ou coloque o sistema de IA em serviço sob o seu próprio nome ou a sua própria marca, a título oneroso ou gratuitoArticle 3(3) antes de o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado ser colocado no mercado ou colocado em serviço e que se prestem a serem postas em prática pelo responsável pela implantaçãoresponsável pela implantaçãouma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utilize um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) sob a sua própria autoridade, salvo se o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) for utilizado no âmbito de uma atividade pessoal de caráter não profissionalArticle 3(4).

4. Para efeitos da aplicação dos n.ºˢ 1, 2 e 3, o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado deve ser disponibilizado ao responsável pela implantaçãoresponsável pela implantaçãouma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utilize um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) sob a sua própria autoridade, salvo se o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) for utilizado no âmbito de uma atividade pessoal de caráter não profissionalArticle 3(4) de modo a que seja possível às pessoas singulares responsáveis pela supervisão humana, conforme adequado e de forma proporcionada:

(a) Compreender adequadamente as capacidades e limitações pertinentes do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado e conseguir controlar devidamente o seu funcionamento, nomeadamente a fim de detetar e corrigir anomalias, disfuncionalidades e desempenhos inesperados;

(b) Estar conscientes da possível tendência para confiar automaticamente ou confiar excessivamente nos resultados produzidos pelo sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado (enviesamento da automatização), em especial no que toca a sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado utilizados para prestar informações ou recomendações com vista à tomada de decisões por pessoas singulares;

(c) Interpretar corretamente os resultados do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado, tendo em conta, por exemplo, as ferramentas e os métodos de interpretação disponíveis;

(d) Decidir, em qualquer situação específica, não usar o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado ou ignorar, anular ou reverter os resultados do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado;

(e) Intervir no funcionamento do sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado ou interromper o sistema por meio de um botão de «paragem» ou de um procedimento similar que permita parar o sistema de modo seguro.

5. Em relação aos sistemas de IA de riscoriscoa combinação da probabilidade de ocorrência de danos com a gravidade desses danosArticle 3(2) elevado a que se refere o anexo III, ponto 1, alínea a), as medidas referidas no n.º 3 do presente artigo devem, além disso, permitir assegurar que nenhuma ação ou decisão seja tomada pelo responsável pela implantaçãoresponsável pela implantaçãouma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utilize um sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) sob a sua própria autoridade, salvo se o sistema de IAsistema de IAum sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuaisArticle 3(1) for utilizado no âmbito de uma atividade pessoal de caráter não profissionalArticle 3(4) com base na identificação resultante do sistema, salvo se a mesma tiver sido verificada e confirmada separadamente por, pelo menos, duas pessoas singulares com a competência, formação e autoridade necessárias.