1. Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τέτοιο τρόπο, μεταξύ άλλων με κατάλληλα εργαλεία διεπαφής ανθρώπου-μηχανής, ώστε να μπορούν να εποπτεύονται αποτελεσματικά από φυσικά πρόσωπα κατά τη διάρκεια της περιόδου χρήσης τους.

2. Η ανθρώπινη εποπτεία αποσκοπεί στην πρόληψη ή την ελαχιστοποίηση των κινδύνων για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα που ενδέχεται να προκύψουν, όταν ένα σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υψηλού κινδύνου χρησιμοποιείται σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, ιδίως όταν οι κίνδυνοι αυτοί εξακολουθούν να υφίστανται παρά την εφαρμογή άλλων απαιτήσεων που καθορίζονται στο παρόν τμήμα.

3. Τα μέτρα εποπτείας είναι ανάλογα με τους κινδύνους, το επίπεδο αυτονομίας και το πλαίσιο χρήσης του συστήματος ΤΝ υψηλού κινδύνου και εξασφαλίζονται είτε με ένα είτε και με τα δύο από τα ακόλουθα είδη μέτρων:

(α) μέτρα που προσδιορίζονται και ενσωματώνονται, όταν είναι τεχνικά εφικτό, στο σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υψηλού κινδύνου από τον πάροχο πριν από τη διάθεσή του στην αγορά ή τη θέση του σε λειτουργία·

(β) μέτρα που προσδιορίζονται από τον πάροχο πριν από τη διάθεση του συστήματος ΤΝ υψηλού κινδύνου στην αγορά ή τη θέση του σε λειτουργία και είναι σκόπιμο να εφαρμόζονται από τον φορέα εφαρμογής.

4. Για την εφαρμογή των παραγράφων 1, 2 και 3, το σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υψηλού κινδύνου παρέχεται στον φορέα εφαρμογής κατά τρόπο ώστε να επιτρέπεται στα φυσικά πρόσωπα στα οποία έχει ανατεθεί ανθρώπινη εποπτεία, με τρόπο κατάλληλο και αναλογικό

(α) να κατανοούν σωστά τις σχετικές ικανότητες και τους περιορισμούς του συστήματος ΤΝ υψηλού κινδύνου και να είναι σε θέση να παρακολουθούν δεόντως τη λειτουργία του, μεταξύ άλλων με σκοπό τον εντοπισμό και την αντιμετώπιση ανωμαλιών, δυσλειτουργιών και απροσδόκητων επιδόσεων·

(β) να παραμένουν ενήμερα για την πιθανή τάση αυτόματης εξάρτησης ή υπέρμετρης εξάρτησης από τα στοιχεία εξόδου που παράγονται από σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υψηλού κινδύνου (μεροληψία αυτοματισμού), ειδικότερα για τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται προκειμένου να παρέχουν πληροφορίες ή συστάσεις για αποφάσεις που πρόκειται να ληφθούν από φυσικά πρόσωπα·

(γ) να ερμηνεύουν ορθά τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνοντας υπόψη, για παράδειγμα, τα διαθέσιμα εργαλεία και τις μεθόδους ερμηνείας·

(δ) να αποφασίζουν, σε οποιαδήποτε συγκεκριμένη περίπτωση, να μη χρησιμοποιήσουν το σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υψηλού κινδύνου ή να αγνοούν, να παρακάμπτουν ή να αντιστρέφουν με οποιονδήποτε άλλον τρόπο τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου·

(ε) να παρεμβαίνουν στη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου ή να διακόπτουν το σύστημα μέσω ενός κουμπιού διακοπής «stop» ή παρόμοιας διαδικασίας που επιτρέπει στο σύστημα να σταματήσει σε ασφαλή κατάσταση.

5. Σε ό,τι αφορά τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται στο παράρτημα III σημείο 1) στοιχείο α), τα μέτρα που αναφέρονται στην παράγραφο 3 του παρόντος άρθρου εξασφαλίζουν επιπλέον ότι ο φορέας εφαρμογήςφορέας εφαρμογήςφυσικό ή νομικό πρόσωπο, δημόσια αρχή, υπηρεσία ή άλλος φορέας που χρησιμοποιεί σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) υπό την ευθύνη του, εκτός εάν το σύστημα ΤΝσύστημα ΤΝμηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα·Article 3(1) χρησιμοποιείται στο πλαίσιο προσωπικής μη επαγγελματικής δραστηριότητας·Article 3(4) δεν προβαίνει σε καμία ενέργεια ή απόφαση με βάση την ταυτοποίηση που προκύπτει από το σύστημα, εκτός εάν η ταυτοποίηση αυτή έχει επαληθευτεί και επιβεβαιωθεί χωριστά από τουλάχιστον δύο φυσικά πρόσωπα με τις απαιτούμενες ικανότητες, κατάρτιση και εξουσιοδότηση.