Récital 72

Pour répondre aux préoccupations liées à l'opacité et à la complexité de certains systèmes d'IA et aider les déployeurs à remplir leurs obligations au titre du présent règlement, la transparence devrait être exigée pour les systèmes d'IA à haut risque avant leur mise sur le marché ou leur mise en service. Les systèmes d'IA à haut risque doivent être conçus de manière à permettre aux déployeurs de comprendre le fonctionnement du système d'IA, d'évaluer sa fonctionnalité et d'appréhender ses forces et ses limites. Les systèmes d'IA à haut risque doivent être accompagnés d'informations appropriées sous la forme d'un mode d'emploi. Ces informations doivent comprendre les caractéristiques, les capacités et les limites de performance du système d'IA. Elles devraient comprendre des informations sur les éventuelles circonstances connues et prévisibles liées à l'utilisation du système d'IA à haut risque, y compris l'action du déployeur susceptible d'influencer le comportement et les performances du système, dans lesquelles le système d'IA peut entraîner des risques pour la santé, la sécurité et les droits fondamentaux, sur les changements qui ont été prédéterminés et dont la conformité a été évaluée par le fournisseur et sur les mesures de surveillance humaine pertinentes, y compris les mesures visant à faciliter l'interprétation des résultats du système d'IA par les personnes qui le déploient. La transparence, y compris les instructions d'utilisation qui l'accompagnent, devrait aider les utilisateurs à se servir du système et à prendre des décisions en connaissance de cause. Les personnes chargées du déploiement devraient notamment être mieux à même de choisir correctement le système qu'elles ont l'intention d'utiliser à la lumière des obligations qui leur incombent, d'être informées des utilisations prévues et exclues, et d'utiliser le système d'IA correctement et comme il convient. Afin d'améliorer la lisibilité et l'accessibilité des informations contenues dans les instructions d'utilisation, il convient, le cas échéant, d'inclure des exemples illustratifs, par exemple sur les limitations et sur les utilisations prévues et interdites du système d'IA. Les fournisseurs doivent veiller à ce que toute la documentation, y compris les instructions d'utilisation, contienne des informations utiles, complètes, accessibles et compréhensibles, en tenant compte des besoins et des connaissances prévisibles des utilisateurs cibles. Les instructions d'utilisation doivent être disponibles dans une langue qui peut être facilement comprise par les utilisateurs cibles, comme déterminé par l'État membre concerné.