KAPITOLA III
Požadavky na Vysoce Rizikové Systémy AI
Oddíl 1
Klasifikace systémů AI jako vysoce rizikových
Článek 6: Klasifikační pravidla pro vysoce rizikové systémy AI
1.
Bez ohledu na to, zda je určitý systém AI uváděn na trh nebo do provozu nezávisle na produktech uvedených v písmenech a) a b), je tento systém AI považován za vysoce rizikový, jsou-li splněny obě následující podmínky:
Nabývá účinnosti 2. srpna 2028, podle Článek 113(c)(ii)
(a)
daný systém AI je určen k použití jako bezpečnostní komponenta produktu nebo je samotný tento systém AI produktem, na který se vztahují harmonizační právní předpisy Unie uvedené v příloze I;
(b)
na produkt, jehož je daný systém AI bezpečnostní komponentoubezpečnostní komponentoukomponenta produktu nebo systému AI, která plní bezpečnostní funkci pro daný produkt nebo systém AI, případně jejíž porucha nebo chybné fungování ohrožuje zdraví a bezpečnost osob nebo majetku; pro účely této definice plní komponenta bezpečnostní funkci, je-li jejím zamýšleným účelemzamýšleným účelempoužití systému AI zamýšlené poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3), včetně konkrétního kontextu a podmínek použití, které jsou uvedeny v informacích dodaných poskytovatelemposkytovatelemfyzická nebo právnická osoba, veřejný orgán, agentura nebo jiný subjekt, který vyvíjí systém AI či obecný model AI nebo nechává vyvíjet systém AI či obecný model AI a uvádějí je na trh nebo které uvádějí systém AI do provozu pod svým vlastním jménem, názvem nebo ochrannou známkou, ať už za úplatu, nebo zdarmaArticle 3(3) v návodu k použití, v propagačních nebo prodejních materiálech a prohlášeních, jakož i v technické dokumentaciArticle 3(12) předcházet rizikům pro zdraví a bezpečnost osob nebo majetku nebo tato rizika zmírňovatArticle 3(14) podle bodu a), případně na samotný tento systém AI jako produkt se vztahuje povinnost posouzení shody třetí stranou za účelem uvedení tohoto produktu na trh nebo do provozu podle harmonizačních právních předpisů Unie uvedených v příloze I.
1a.
Pro účely tohoto nařízení, včetně odstavce 1 tohoto článku, se systémy AI, které se používají výhradně pro aspekty uživatelské podpory, optimalizace výkonnosti, efektivity služeb, automatizace, pohodlí nebo kontroly kvality, které nesouvisejí s bezpečností, nepovažují za bezpečnostní komponenty.Před změnou neexistovalo.
1b.
Bez ohledu na odstavec 1a se systémy AI, jejichž selhání nebo chybné fungování by ohrozilo zdraví a bezpečnost, považují za bezpečnostní komponenty.Před změnou neexistovalo.
1c.
Produkt, u něhož se vyžaduje posouzení shody třetí stranou pouze z důvodu jiných rizik, než jsou rizika pro zdraví a bezpečnost, zejména rizik týkajících se distribuce rádiového spektra nebo elektromagnetické interference, která nemají vliv na zdraví a bezpečnost, se nepovažuje za produkt splňující podmínku uvedenou v odst. 1 písm. b).Před změnou neexistovalo.
2.
Kromě vysoce rizikových systémů AI uvedených v odstavci 1 jsou za vysoce rizikové považovány systémy AI uvedené v příloze III.
Nabývá účinnosti 2. prosince 2027, podle Článek 113(c)(i)
3.
Odchylně od odstavce 2 se systém AI uvedený v příloze III za vysoce rizikový nepovažuje, pokud nepředstavuje významné riziko újmy na zdraví, bezpečnosti nebo základních právech fyzických osob, a to ani tím, že by podstatně ovlivňoval výsledek rozhodování.
První pododstavec se použije, pokud je splněna některá z následujících podmínek:
(a)
systém AI je zamýšlen k plnění úzce zaměřeného procesního úkolu;
(b)
systém AI je zamýšlen ke zlepšení výsledku dříve dokončené lidské činnosti;
(c)
systém AI je zamýšlen k odhalování vzorců rozhodování nebo odchylek od předchozích vzorců rozhodování a nemá bez řádného lidského přezkumu nahradit nebo ovlivnit dříve dokončené lidské posouzení, nebo
(d)
systém AI je zamýšlen k provedení přípravného úkolu v rámci posouzení, jež je relevantní pro účely případů použití uvedených v příloze III.
Bez ohledu na první pododstavec se systém AI uvedený v příloze III za vysoce rizikový považuje vždy, pokud provádí profilování fyzických osob.
4.
Poskytovatel, který se domnívá, že určitý systém AI uvedený v příloze III není vysoce rizikový, své posouzení zdokumentuje před uvedením tohoto systému na trh nebo do provozu. Na tohoto poskytovatele se vztahuje povinnost registrace stanovená v čl. 49 odst. 2. Na žádost příslušných vnitrostátních orgánů předloží poskytovatel dokumentaci o posouzení.
5.
Komise po konzultaci s Evropskou radou pro umělou inteligenci (dále jen „rada“) a nejpozději do 2. února 2026 poskytne pokyny upřesňující praktické provádění tohoto článku v souladu s článkem 96 spolu s úplným seznamem praktických příkladů použití systémů AI, které jsou a které nejsou vysoce rizikové.
Nabývá účinnosti 2. srpna 2026, podle Článek 113
6.
Komisi je svěřena pravomoc přijmout akty v přenesené pravomoci v souladu s článkem 97 ke změně odst. 3 druhého pododstavce tohoto článku doplněním nových podmínek k podmínkám tam uvedeným nebo změnou těchto podmínek, pokud existují konkrétní a spolehlivé důkazy o existenci systémů AI, které spadají do oblasti působnosti přílohy III, ale nepředstavují významné riziko poškození zdraví, bezpečnosti nebo základních práv fyzických osob.
7.
Komise přijme akty v přenesené pravomoci v souladu s článkem 97 ke změně odst. 3 druhého pododstavce tohoto článku zrušením některé z podmínek tam uvedených, pokud existují konkrétní a spolehlivé důkazy o tom, že je to nezbytné pro zachování úrovně ochrany zdraví, bezpečnosti a základních práv v Unii stanovené tímto nařízením.
8.
Změna podmínek stanovených v odst. 3 druhém pododstavci přijatá v souladu s odstavci 6 a 7 tohoto článku nesmí snížit celkovou úroveň ochrany zdraví, bezpečnosti a základních práv v Unii stanovenou tímto nařízením a musí zajistit soulad s akty v přenesené pravomoci přijatými podle čl. 7 odst. 1 a zohlednit vývoj trhu a technologií.