Récital 27

Si l'approche fondée sur les risques constitue la base d'un ensemble proportionné et efficace de règles contraignantes, il est important de rappeler les lignes directrices éthiques de 2019 pour une IA digne de confiance, élaborées par le groupe d'experts indépendants sur l'IA nommé par la Commission. Dans ces lignes directrices, le HLEG sur l'IA a élaboré sept principes éthiques non contraignants pour l'IA qui visent à garantir que l'IA est digne de confiance et respectueuse de l'éthique. Ces sept principes sont les suivants : l'intervention humaine et la surveillance ; la robustesse technique et la sécurité ; la protection de la vie privée et la gouvernance des données ; la transparence ; la diversité, la non-discrimination et l'équité ; le bien-être sociétal et environnemental ; et la responsabilité. Sans préjudice des exigences juridiquement contraignantes du présent règlement et de tout autre droit applicable de l'Union, ces lignes directrices contribuent à la conception d'une IA cohérente, digne de confiance et centrée sur l'être humain, conformément à la charte et aux valeurs sur lesquelles l'Union est fondée. Selon les lignes directrices du groupe d'experts de haut niveau sur l'IA, l'action et la supervision humaines signifient que les systèmes d'IA sont développés et utilisés comme un outil au service des personnes, qui respecte la dignité humaine et l'autonomie personnelle, et qui fonctionne d'une manière qui peut être contrôlée et supervisée de manière appropriée par les êtres humains. La robustesse et la sécurité techniques signifient que les systèmes d'IA sont développés et utilisés d'une manière qui permet la robustesse en cas de problèmes et la résilience contre les tentatives d'altérer l'utilisation ou la performance du système d'IA de manière à permettre une utilisation illégale par des tiers, et de minimiser les dommages involontaires. La protection de la vie privée et la gouvernance des données signifient que les systèmes d'IA sont développés et utilisés conformément aux règles de protection de la vie privée et des données, tout en traitant des données qui répondent à des normes élevées en termes de qualité et d'intégrité. La transparence signifie que les systèmes d'IA sont développés et utilisés de manière à permettre une traçabilité et une explicabilité appropriées, tout en faisant prendre conscience aux humains qu'ils communiquent ou interagissent avec un système d'IA, ainsi qu'en informant dûment les utilisateurs des capacités et des limites de ce système d'IA et les personnes concernées de leurs droits. Diversité, non-discrimination et équité : les systèmes d'IA sont développés et utilisés de manière à inclure divers acteurs et à promouvoir l'égalité d'accès, l'égalité des sexes et la diversité culturelle, tout en évitant les effets discriminatoires et les préjugés injustes interdits par le droit de l'Union ou le droit national. Le bien-être social et environnemental signifie que les systèmes d'IA sont développés et utilisés d'une manière durable et respectueuse de l'environnement, ainsi que dans l'intérêt de tous les êtres humains, tout en surveillant et en évaluant les incidences à long terme sur l'individu, la société et la démocratie. L'application de ces principes devrait se traduire, dans la mesure du possible, par la conception et l'utilisation de modèles d'IA. Ils devraient en tout état de cause servir de base à l'élaboration des codes de conduite prévus par le présent règlement. Toutes les parties prenantes, y compris l'industrie, le monde universitaire, la société civile et les organismes de normalisation, sont encouragées à tenir compte, le cas échéant, des principes éthiques pour l'élaboration de bonnes pratiques et de normes volontaires.