Člen 9: Sistem za obvladovanje tveganja

Uporablja se od 2. december 2027 (visokotvegani na podlagi Priloge III) / 2. avgust 2028 (visokotvegani na podlagi Priloge I), v skladu z Člen 113(c)

1. V zvezi z visokotveganimi sistemi UI se vzpostavi, izvaja, dokumentira in vzdržuje sistem za obvladovanje tveganja.

2. Sistem za obvladovanje tveganja pomeni neprekinjen in ponavljajoč se proces, ki se načrtuje in izvaja v celotnem življenjskem ciklu visokotveganega sistema UI in ga je treba redno sistematično pregledovati in posodabljati. Vključuje naslednje korake:

(a) opredelitev in analizo znanih in razumno predvidljivih tveganj, ki jih lahko visokotvegani sistem UIsistem UIpomeni sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okoljaArticle 3(1) pomeni za zdravje, varnost ali temeljne pravice, kadar se uporablja v skladu s predvidenim namenom;

(b) oceno in ovrednotenje tveganj, ki se lahko pojavijo pri uporabi visokotveganega sistema UI v skladu s predvidenim namenom in v razmerah razumno predvidljive napačne uporabe;

(c) ovrednotenje drugih morebitnih tveganj na podlagi analize podatkov, zbranih iz sistema spremljanja po dajanju na trg iz člena 72;

(d) sprejetje ustreznih in ciljno usmerjenih ukrepov za obvladovanje tveganja, namenjenih obravnavanju tveganj, opredeljenih na podlagi točke (a).

3. Tveganja iz tega člena se nanašajo samo na tista, ki jih je mogoče razumno zmanjšati ali odpraviti z razvojem ali zasnovo visokotveganega sistema UI ali z zagotovitvijo ustreznih tehničnih informacij.

4. Pri ukrepih za obvladovanje tveganja iz odstavka 2, točka (d), se ustrezno upoštevajo učinki in morebitna interakcija, ki izhajajo iz skupne uporabe zahtev iz tega oddelka 2, da bi učinkoviteje in čim bolj zmanjšali tveganja in hkrati dosegli ustrezno ravnovesje pri izvajanju ukrepov za izpolnjevanje teh zahtev.

5. Ukrepi za obvladovanje tveganja iz odstavka 2, točka (d), so taki, da zadevno preostalo tveganjetveganjepomeni kombinacijo verjetnosti pojava škode in resnosti te škodeArticle 3(2), povezano z vsako posamezno nevarnostjo, in celotno preostalo tveganjetveganjepomeni kombinacijo verjetnosti pojava škode in resnosti te škodeArticle 3(2) visokotveganih sistemov UI štejeta za sprejemljiva.

Pri določanju najustreznejših ukrepov za obvladovanje tveganja se zagotovi naslednje:

(a) odpravljanje ali zmanjševanje tveganj ugotovljenih in ocenjenih na podlagi odstavka 2, kolikor je to tehnično izvedljivo z ustrezno zasnovo in razvojem visokotveganega sistema UI;

(b) po potrebi izvajanje ustreznih ukrepov za zmanjšanje in nadzor tveganj, ki jih ni mogoče odpraviti;

Da bi odpravili ali zmanjšali tveganja, povezana z uporabo visokotveganega sistema UI, se ustrezno upoštevajo tehnično znanje, izkušnje, izobraževanje, usposabljanje, ki ga lahko pričakuje uvajalecuvajalecpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki sistem UI uporablja v svoji pristojnosti, razen kadar se sistem UI uporablja v okviru osebne nepoklicne dejavnostiArticle 3(4), in predvideni okvir, v katerem naj bi se sistem uporabljal.

6. Visokotvegani sistemi UI se testirajo, da se določijo najustreznejši in ciljno usmerjeni ukrepi za obvladovanje tveganja. S testiranjem se zagotovi, da visokotvegani sistemi UI dosledno delujejo za predvideni namenpredvideni namenpomeni uporabo, za katero je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) namenil sistem UIsistem UIpomeni sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okoljaArticle 3(1), vključno s posebnim kontekstom in pogoji uporabe, kot je navedeno v informacijah, ki jih je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) predložil v navodilih za uporabo, v promocijskem ali prodajnem gradivu in izjavah ter v tehnični dokumentacijiArticle 3(12) in so skladni z zahtevami iz tega oddelka.

7. Postopki testiranja lahko vključujejo testiranje v realnih razmerahtestiranje v realnih razmerahpomeni začasno testiranje sistema UI za predvideni namenpredvideni namenpomeni uporabo, za katero je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) namenil sistem UIsistem UIpomeni sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okoljaArticle 3(1), vključno s posebnim kontekstom in pogoji uporabe, kot je navedeno v informacijah, ki jih je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) predložil v navodilih za uporabo, v promocijskem ali prodajnem gradivu in izjavah ter v tehnični dokumentacijiArticle 3(12) v realnih razmerah zunaj laboratorija ali drugače simuliranega okolja z namenom zbiranja zanesljivih in robustnih podatkov ter ugotavljanja in preverjanja skladnosti sistema UI z zahtevami iz te uredbe, pri čemer to ne šteje kot dajanje sistema UI na trg ali v uporabo v smislu te uredbe, če so izpolnjeni vsi pogoji iz člena 57 ali 60Article 3(57) v skladu s členom 60.

8. Testiranje visokotveganih sistemov UI se po potrebi izvaja kadar koli med celotnim postopkom razvoja in v vsakem primeru pred njihovim dajanjem na trg ali v uporabo. Testiranje se opravi na podlagi predhodno opredeljenih metrik in verjetnostnih pragov, ki ustrezajo predvidenemu namenu visokotveganega sistema UI.

9. Ponudniki pri izvajanju sistema za obvladovanje tveganja iz odstavkov 1 do 7 preučijo, ali je verjetno, da bo visokotvegani sistem UIsistem UIpomeni sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okoljaArticle 3(1) glede na predvideni namenpredvideni namenpomeni uporabo, za katero je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) namenil sistem UIsistem UIpomeni sistem temelječ na napravah, ki je zasnovan za delovanje z različnimi stopnjami avtonomije in lahko po uvedbi izkaže prilagodljivost ter za eksplicitne ali implicitne cilje iz prejetih vhodnih podatkov sklepa, kako ustvariti izhodne podatke, kot so napovedi, vsebine, priporočila ali odločitve, ki lahko vplivajo na fizična ali virtualna okoljaArticle 3(1), vključno s posebnim kontekstom in pogoji uporabe, kot je navedeno v informacijah, ki jih je ponudnikponudnikpomeni fizično ali pravno osebo, javni organ, agencijo ali drugo telo, ki razvije sistem UI ali model UI za splošne namene ali ima razvit sistem UI ali model UI za splošne namene in ga da na trg ali da sistem UI v uporabo pod svojim imenom ali znamko, za plačilo ali brezplačnoArticle 3(3) predložil v navodilih za uporabo, v promocijskem ali prodajnem gradivu in izjavah ter v tehnični dokumentacijiArticle 3(12) negativno vplival na osebe, mlajše od 18 let, in po potrebi na druge ranljive skupine.

10. Pri ponudnikih visokotveganih sistemov UI, za katere veljajo zahteve v zvezi z notranjimi procesi za obvladovanje tveganj v skladu z drugimi ustreznimi določbami prava Unije, so lahko vidiki, opisani v odstavkih 1 do 9, del postopkov za obvladovanje tveganj, vzpostavljenih na podlagi navedenega prava, ali so v kombinaciji s temi postopki.