Artikkel 9: Riskijuhtimissüsteem
1.
Suure riskiga tehisintellektisüsteemide jaoks luuakse riskijuhtimissüsteem, seda rakendatakse ja see dokumenteeritakse ning seda hoitakse alal.
2.
Riskijuhtimissüsteemi käsitatakse pidevalt korduva protsessina, mida kavandatakse ja käitatakse suure riskiga tehisintellektisüsteemi kogu elutsükli jooksul ning mida tuleb korrapäraselt läbi vaadata ja süstemaatiliselt ajakohastada. See peab sisaldama järgmisi etappe:
(a)
selliste teadaolevate ja mõistlikult prognoositavate riskide kindlakstegemine ja analüüs, mida suure riskiga tehisintellektisüsteemtehisintellektisüsteem– masinpõhine süsteem, mis on projekteeritud töötama erineval autonoomsuse tasemel ning mis võib pärast juurutamist olla kohanemisvõimeline ja mis saadud sisendist otseste või kaudsete eesmärkide saavutamiseks järeldab, kuidas genereerida väljundeid, näiteks prognoose, sisu, soovitusi või otsuseid, mis võivad mõjutada füüsilist või virtuaalset keskkondaArticle 3(1) võib kujutada tervisele, ohutusele või põhiõigustele, kui suure riskiga tehisintellektisüsteemi kasutatakse kooskõlas selle sihtotstarbega;
(b)
selliste riskide prognoosimine ja hindamine, mis võivad tekkida, kui suure riskiga tehisintellektisüsteemi kasutatakse vastavalt selle sihtotstarbele, aga ka mõistlikult prognoositava väärkasutamise tingimustes;
(c)
muude tekkida võivate riskide hindamine artiklis 72 osutatud turustamisjärgse seire süsteemist saadud andmete analüüsi põhjal;
(d)
asjakohaste ja sihipäraste riskijuhtimismeetmete vastuvõtmine punkti a kohaselt kindlaks tehtud riskide käsitlemiseks.
3.
Käesolevas artiklis osutatud riskid hõlmavad ainult neid riske, mida on võimalik mõistlikult maandada või kõrvaldada suure riskiga tehisintellektisüsteemi arendamise või projekteerimise või piisava tehnilise teabe esitamise abil.
4.
Lõike 2 punktis d osutatud riskijuhtimismeetmetes võetakse nõuetekohaselt arvesse käesolevas jaos sätestatud nõuete kombineeritud kohaldamisest tulenevat mõju ja võimalikku koostoimet, pidades silmas riskide tõhusamat minimeerimist, saavutades samas asjakohase tasakaalu nende nõuete täitmiseks võetavate meetmete rakendamisel.
5.
Lõike 2 punktis d osutatud riskijuhtimismeetmed on sellised, et iga ohuga seotud asjakohast jääkriski ja suure riskiga tehisintellektisüsteemide üldist jääkriski peetakse vastuvõetavaks.
Kõige asjakohasemate riskijuhtimismeetmete kindlaksmääramisel tuleb tagada järgmine:
(a)
lõike 2 kohaselt tuvastatud ja hinnatud riskide kõrvaldamine või vähendamine nii palju kui tehniliselt võimalik suure riskiga tehisintellektisüsteemi sobiva projekteerimise ja arendamise abil;
(b)
asjakohasel juhul sobivate riskimaandamis- ja kontrollimeetmete rakendamine, et käsitleda selliseid riske, mida ei saa kõrvaldada;
(c)
artikli 13 kohaselt nõutava teabe andmine ning asjakohasel juhul juurutajate koolitamine.
Suure riskiga tehisintellektisüsteemi kasutamisega seotud riskide kõrvaldamisel või vähendamisel võetakse nõuetekohaselt arvesse juurutajalt eeldatavaid tehnilisi teadmisi, kogemusi, haridust ja koolitust, ning eeldatavat kasutuskonteksti, milles kasutamiseks on süsteem mõeldud.
6.
Suure riskiga tehisintellektisüsteeme testitakse, et teha kindlaks kõige asjakohasemad ja sihipäraseid riskijuhtimismeetmed. Testimisega tagatakse, et suure riskiga tehisintellektisüsteemid töötavad oma sihtotstarbe seisukohast järjepidevalt ning vastavad käesolevas jaos sätestatud nõuetele.
7.
Testimismenetlused võivad hõlmata tegelikes tingimustes testimist kooskõlas artikliga 60.
8.
Suure riskiga tehisintellektisüsteemide testimine toimub vastavalt vajadusele mis tahes ajal kogu arendusprotsessi jooksul ja igal juhul enne nende turule laskmist või kasutusele võtmist. Testimiseks kasutatakse eelnevalt kindlaks määratud parameetreid ja tõenäosuskünniseid, mis on suure riskiga tehisintellektisüsteemi sihtotstarbe seisukohast sobivad.
9.
Lõigetes 1–7 sätestatud riskijuhtimissüsteemi rakendamisel pööravad pakkujad tähelepanu sellele, kas suure riskiga tehisintellektisüsteemtehisintellektisüsteem– masinpõhine süsteem, mis on projekteeritud töötama erineval autonoomsuse tasemel ning mis võib pärast juurutamist olla kohanemisvõimeline ja mis saadud sisendist otseste või kaudsete eesmärkide saavutamiseks järeldab, kuidas genereerida väljundeid, näiteks prognoose, sisu, soovitusi või otsuseid, mis võivad mõjutada füüsilist või virtuaalset keskkondaArticle 3(1) võib oma sihtotstarvet silmas pidades avaldada kahjulikku mõju alla 18-aastastele isikutele, ja kui see on asjakohane, muudele kaitsetutele rühmadele.
10.
Suure riskiga tehisintellektisüsteemide pakkujate jaoks, kes peavad täitma liidu muu asjaomase õiguse alusel sisemisi riskijuhtimisprotsesse käsitlevaid nõudeid, võivad lõigetes 1–9 kirjeldatud aspektid olla kõnealuse õiguse kohaselt loodud riskijuhtimismenetluste osa või nendega kombineeritud.