Článek 27: Posouzení dopadu vysoce rizikových systémů AI na základní práva

1. Před zavedením vysoce rizikového systému AI podle čl. 6 odst. 2, s výjimkou vysoce rizikových systémů AI určených k použití v oblasti uvedené v příloze III bodě 2, zavádějící subjekty, které jsou veřejnoprávními nebo soukromými subjekty poskytujícími veřejné služby, a zavádějící subjekty provozující vysoce rizikové systémy AI uvedené v příloze III bodě 5 písm. b) a c) provedou posouzení dopadu na základní práva, který může použití takového systému mít. Za tímto účelem provedou zavádějící subjekty posouzení, které zahrnuje:

(a) popis procesů zavádějícího subjektu, v nichž bude vysoce rizikový systém AI používán v souladu s jeho zamýšleným účelemzamýšleným účelempoužití systému AI zamýšlené poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3), včetně konkrétního kontextu a podmínek použití, které jsou uvedeny v informacích dodaných poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3) v návodu k použití, v propagačních nebo prodejních materiálech a prohlášeních, jakož i v technické dokumentaciArticle 3(12);

(b) popis časového období a frekvence plánovaného použití každého z vysoce rizikových systémů AI;

(c) kategorie fyzických osob a skupin, které by mohly být jeho používáním v konkrétním kontextu dotčeny;

(d) specifická rizika újmy, která by mohla mít dopad na kategorie fyzických osob nebo skupiny osob určených podle písmene c) tohoto odstavce, a to při zohlednění informací dodaných poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3) podle článku 13;

(e) popis provádění opatření lidského dohledu, v souladu s návodem k použitínávodem k použitíinformace poskytnuté poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3), kterými zavádějící subjekt informuje zejména o zamýšleném účelu a řádném použití daného systémuArticle 3(15);

(f) opatření, která mají být přijata v případě naplnění těchto rizik, včetně opatření pro vnitřní správu a mechanismy vyřizování stížností.

2. Povinnost stanovená v odstavci 1 platí pro první použití vysoce rizikového systému AI. Zavádějící subjekt může v podobných případech vycházet z dříve provedeného posouzení dopadů na základní práva nebo ze stávajících posouzení, které provedl poskytovatel. Pokud během použití vysoce rizikového systému AI zavádějící subjekt posoudí, že se některý z prvků uvedených v odstavci 1 změnil nebo již není aktuální, přijme nezbytné kroky k aktualizaci těchto informací.

3. Po provedení posouzení uvedeném v odstavci 1 tohoto článku zavádějící subjekt informuje o jeho výsledcích orgán dozoru na trhem prostřednictvím vyplněného dotazníku uvedeného v odstavci 5 tohoto článku. V případě uvedeném v čl. 46 odst. 1 mohou být zavádějící subjekty od této povinnosti oznámení osvobozeny.

4. Je-li některá z povinností stanovených v tomto článku splněna již na základě posouzení vlivu na ochranu osobních údajů provedeného podle článku 35 nařízení (EU) 2016/679 nebo článku 27 směrnice (EU) 2016/680, zavádějící subjekt může při provádění posouzení dopadů na základní práva uvedeného v odstavci 1 tohoto článku zahrnout křížové odkazy na příslušné oddíly tohoto posouzení vlivu na ochranu osobních údajů nebo zahrnout jeho příslušné části do posouzení dopadů na základní práva.

5. Úřad pro AI vypracuje vzor pro dotazník, a to i prostřednictvím automatizovaného nástroje, aby zavádějícím subjektům usnadnil plnění povinností podle tohoto článku. Tento vzor případně umožní zavádějícím subjektům zahrnout křížové odkazy na příslušné oddíly posouzení vlivu na ochranu osobních údajů nebo zahrnout jejich příslušné části do posouzení dopadů na základní práva podle odstavce 4.