II PEATÜKK
Tehisintellekti Keelatud Kasutusviisid
Artikkel 5: Tehisintellekti keelatud kasutusviisid
1.
Järgmised tehisintellekti kasutusviisid on keelatud:
(a)
selliste tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9), kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) või kasutamine, milles on kasutatud inimese teadvusest kaugemale ulatuvale alalävisele tajule suunatud võtteid või sihilikult manipuleerivaid või petlikke võtteid, mille eesmärk või tagajärg on isiku või isikute rühma käitumise oluline moonutamine, kahjustades oluliselt nende võimet teha teadlik otsus ja pannes nad seeläbi tegema otsuse, mida nad ei oleks muul juhul teinud, viisil, mis põhjustab või mõistliku tõenäosusega põhjustab sellele isikule, teisele isikule või isikute rühmale olulist kahju;
(b)
selliste tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9), kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) või kasutamine, mis kasutavad ära füüsilise isiku või konkreetse isikute rühma mis tahes haavatavusi, mis tulenevad nende vanusest, puudest või konkreetsest sotsiaalsest või majanduslikust olukorrast ning mille eesmärk või tagajärg on oluliselt moonutada selle isiku või sellesse rühma kuuluva isiku käitumist viisil, mis põhjustab või mõistliku tõenäosusega põhjustab sellele või mõnele teisele isikule olulist kahju;
(ba)
sellise tehisintellektisüsteemi turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9), kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) või kasutamine, mis loob või manipuleerib tuvastatava füüsilise isiku intiimsetest kehaosadest või ühemõtteliselt seksuaalses tegevuses osalevast tuvastatavast füüsilisest isikust realistlikke kujutisi, videosid, audio- või samalaadset materjali, ilma et see isik oleks andnud selle loomiseks või manipuleerimiseks vabatahtlikult konkreetse, teadliku, ühemõttelise ja selgesõnalise nõusoleku;Enne muudatust puudus.
Jõustub 2. detsember 2026, Artikkel 113(a) kohaselt
(bb)
sellise tehisintellektisüsteemi turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9), kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) või kasutamine, mis loob või manipuleerib materjali või etteastet direktiivi 2011/93/EL artikli 2 punktide c ja e tähenduses, välja arvatud juhul, kui riigisisese õiguse alusel kohaldatakse õigusvastaselt sooritatud teo kaitset;Enne muudatust puudus.
Jõustub 2. detsember 2026, Artikkel 113(a) kohaselt
(c)
selliste tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9), kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) või kasutamine, millega hinnatakse või liigitatakse füüsilisi isikuid või isikute rühmi teatava aja jooksul, tuginedes nende sotsiaalsele käitumisele või teadaolevatele, tuletatud või prognoositud isiku- või iseloomuomadustele, kusjuures sotsiaalpunktide tulemuseks on üks või mõlemad järgmisest:
(i)
teatavaid füüsilisi isikuid või isikute rühmi kahjustav või nende suhtes ebasoodne kohtlemine sotsiaalses kontekstis, mis ei ole seotud kontekstiga, milles andmed algselt loodi või koguti;
(ii)
teatavaid füüsilisi isikuid või isikute rühmi kahjustav või nende ebasoodne kohtlemine, mis ei ole põhjendatud või on ebaproportsionaalne võrreldes nende sotsiaalse käitumise või selle kaalukusega;
(d)
tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9) või kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) sellel konkreetsel eesmärgil või nende kasutamine füüsiliste isikute riskihindamiste tegemiseks, et hinnata või prognoosida riski, et füüsiline isik paneb toime kuriteo, tuginedes üksnes füüsilise isiku profiilianalüüsile või tema isikuomaduste ja erijoonte hindamisele; seda keeldu ei kohaldata tehisintellektisüsteemide suhtes, mida kasutatakse selleks, et toetada inimhinnangut isiku kuritegelikus tegevuses osalemise kohta, mis juba tugineb kuritegeliku tegevusega otseselt seotud objektiivsetele ja kontrollitavatele faktidele;
(e)
selliste tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9) või kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) sellel konkreetsel eesmärgil või nende kasutamine, mis loovad või laiendavad näotuvastuse andmebaase internetist või videovalve salvestistest näokujutiste kindla suunitluseta ekstraheerimise kaudu;
(f)
tehisintellektisüsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9) või kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11) sellel konkreetsel eesmärgil või nende kasutamine füüsilise isiku emotsioonide tuletamiseks töökoha ja haridusasutustega seoses, välja arvatud juhul, kui tehisintellektisüsteemi kavatsetakse kasutusele võtta või turule viia meditsiinilistel või ohutusega seotud põhjustel;
(g)
selliste biomeetrilise liigitamise süsteemide turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9) või kasutuselevõtmine sellel konkreetsel eesmärgil või nende kasutamine, mis liigitavad füüsilisi isikuid individuaalselt nende biomeetriliste andmete alusel, et tuletada või järeldada nende rassi, poliitilisi vaateid, ametiühingusse kuulumist, usulisi või filosoofilisi veendumusi, seksuaalelu või seksuaalset sättumust; see keeld ei hõlma seaduslikult saadud biomeetriliste andmete, näiteks biomeetrilistel andmetel põhinevate piltide märgistamist või filtreerimist või biomeetriliste andmete kategoriseerimist õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) valdkonnas;
(h)
avalikult juurdepääsetavas ruumis reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamine õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) jaoks, välja arvatud juhul, kui selline kasutamine on vajalik rangelt ainult ühel järgmistest eesmärkidest, ja ainult selleks vajalikus ulatuses:
(i)
konkreetsete inimröövi, inimkaubanduse või seksuaalse ärakasutamise ohvrite sihipärane otsimine ning kadunud isikute otsimine;
(ii)
füüsiliste isikute elu või füüsilist turvalisust ähvardava konkreetse, suure ja vahetu ohu või tegeliku ja olemasoleva või tegeliku ja prognoositava terrorirünnaku ohu ärahoidmine;
(iii)
kuriteo toimepanemises kahtlustatava isiku asukoha kindlaks tegemine või tuvastamine kriminaaluurimise või süüdistuse esitamise või kriminaalkaristuse täitmisele pööramise eesmärgil II lisas osutatud kuritegude eest, mis on asjaomases liikmesriigis karistatavad vabadusekaotuse või vabadust piirava julgeolekumeetmega, mille maksimaalne pikkus on vähemalt neli aastat.
Esimese lõigu punkt h ei piira määruse (EL) 2016/679 artikli 9 kohaldamist biomeetriliste andmete töötlemise suhtes muudel kui õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) eesmärkidel.
1a.
Lõike 1 esimese lõigu punktide ba ja bb kohaldamiselEnne muudatust puudus.
Jõustub 2. detsember 2026, Artikkel 113(a) kohaselt
(a)
on sellise tehisintellektisüsteemi turule laskmineturule laskmine– tehisintellektisüsteemi või üldotstarbelise tehisintellektimudeli liidu turul esmakordselt kättesaadavaks tegemineArticle 3(9) või kasutusele võtminekasutusele võtmine– tehisintellektisüsteemi tarnimine esmakordseks kasutamiseks otse juurutajale või oma tarbeks, et kasutada seda sihtotstarbeliselt liidusArticle 3(11), mis loob või manipuleerib lõike 1 esimese lõigu punktis ba või bb osutatud materjali või etteastet, keelatud üksnes juhul, kui:Enne muudatust puudus.
(i)
kõnealune loomine või manipuleerimine on tehisintellektisüsteemi sihtotstarvesihtotstarve– kasutus, kaasa arvatud kasutamise konkreetne kontekst ja tingimused, mille jaoks pakkujapakkuja– füüsiline või juriidiline isik, ametiasutus, ametkond või muu organ, kes arendab tehisintellektisüsteemi või üldotstarbelist tehisintellektimudelit või kellel on väljatöötatud tehisintellektisüsteem või üldotstarbeline tehisintellektimudel ja kes laseb selle turule või võtab tehisintellektisüsteemi kasutusele oma nime või kaubamärgi all kas tasu eest või tasutaArticle 3(3) on tehisintellektisüsteemi kasutusjuhendis, reklaam- või müügimaterjalides või avaldustes ning tehnilistes dokumentides esitatud teabe kohaselt ette näinudArticle 3(12) võiEnne muudatust puudus.
(ii)
süsteemi projekt, treening, arhitektuur, võimed või kasutajale suunatud funktsioonid muudavad kõnealuse loomise või manipuleerimise mõistlikult prognoositavaks ja korratavaks tulemuseks, ilma et oleks vaja teha olulisi tehnilisi muudatusi, ning süsteemil ei ole mõistlikke ja piisavaid tehnilisi ohutusmeetmeid ja muid kaitsemeetmeid, et sellist loomist või manipuleerimist usaldusväärselt vältida, võttes arvesse mõistlikult prognoositavat väärkasutamist, ning täheldatud või teatatud väärkasutamine kõrvaldada;Enne muudatust puudus.
(b)
on lõike 1 esimese lõigu punktides ba ja bb osutatud materjali või etteastet loova või manipuleeriva tehisintellektisüsteemi kasutamine keelatud üksnes juhul, kui juurutajajuurutaja– füüsiline või juriidiline isik, ametiasutus, ametkond või muu organ, kes kasutab tehisintellektisüsteemi oma volituste alusel, välja arvatud juhul, kui tehisintellektisüsteemi kasutatakse isikliku, mitte kutselise tegevuse jaoksArticle 3(4) kasutab süsteemi sellise materjali või etteaste loomiseks või manipuleerimiseks.Enne muudatust puudus.
1b.
Lõike 1 esimese lõigu punkti ba kohaldamisel ei peeta manipuleerimiseks seda, kui tehisintellektisüsteemtehisintellektisüsteem– masinpõhine süsteem, mis on projekteeritud töötama erineval autonoomsuse tasemel ning mis võib pärast juurutamist olla kohanemisvõimeline ja mis saadud sisendist otseste või kaudsete eesmärkide saavutamiseks järeldab, kuidas genereerida väljundeid, näiteks prognoose, sisu, soovitusi või otsuseid, mis võivad mõjutada füüsilist või virtuaalset keskkondaArticle 3(1) manipuleerib materjali viisil, mis ei suurenda kujutatud intiimsete kehaosade eksponeeritust ega muuda kujutatud ühemõtteliselt seksuaalse tegevuse olemust.Enne muudatust puudus.
Jõustub 2. detsember 2026, Artikkel 113(a) kohaselt
2.
Kui kasutatakse reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi avalikult juurdepääsetavas ruumis õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) jaoks ükskõik millisel lõike 1 esimese lõigu punktis h osutatud eesmärgil, toimub kasutus selles punktis sätestatud eesmärkidel üksnes selleks, et kinnitada konkreetselt sihtmärgiks oleva isiku isikusamasust, ning selle puhul võetakse arvesse järgmisi elemente:
(a)
millist laadi on olukord, kus süsteemi võidakse kasutada; eeskätt see, milline oleks kahju raskusaste, tõenäosus ja ulatus juhul, kui süsteemi ei kasutataks;
(b)
millised on süsteemi kasutamise tagajärjed kõigi asjaomaste isikute õiguste ja vabaduste seisukohast; eeskätt see, milline on tagajärgede raskusaste, tõenäosus ja ulatus.
Ühtlasi peab reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) jaoks ükskõik millisel käesoleva artikli lõike 1 esimese lõigu punktis h osutatud eesmärgil olema vastavuses kasutamise suhtes kehtivate vajalike ja proportsionaalsete kaitsemeetmete ja tingimustega kooskõlas selle kasutamist lubava siseriikliku õigusega ning seda eeskätt ajaliste, geograafiliste ja isikutega seotud piirangute osas. Reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine avalikult juurdepääsetavas ruumis on lubatud üksnes juhul, kui õiguskaitseasutusõiguskaitseasutus–Article 3(45) on viinud lõpule põhiõigustele avalduva mõju hindamise, nagu on sätestatud artiklis 27 ja on registreerinud süsteemi ELi andmebaasis vastavalt artiklile 49. Põhjendatud kiireloomulistel juhtudel võib selliseid süsteeme siiski hakata kasutama ilma neid ELi andmebaasis registreerimata, eeldusel et sellist luba taotletakse põhjendamatu viivituseta.
3.
Lõike 1 esimese lõigu punkti h ja lõike 2 kohaldamisel on reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi igaks kasutamiseks avalikult juurdepääsetavas ruumis vaja eelnevat luba, mille annab selle liikmesriigi, kus kasutamine hakkab toimuma, õigusasutus või sõltumatu haldusasutus, kelle otsus on siduv, ja mis antakse põhjendatud taotluse põhjal kooskõlas lõikes 5 osutatud üksikasjalike siseriiklike õigusnormidega. Põhjendatud kiireloomulistel juhtudel võib siiski hakata sellist süsteemi kasutama ilma loata, tingimusel et sellist luba taotletakse põhjendamatu viivituseta ja hiljemalt 24 tunni jooksul. Kui selline luba lükatakse tagasi, lõpetatakse kasutamine viivitamata ning kõik andmed ning selle kasutamise tulemused ja väljundid jäetakse viivitamata kõrvale ja kustutatakse.
Pädev õigusasutus või sõltumatu haldusasutus, kelle otsus on siduv, annab loa üksnes juhul, kui on talle esitatud objektiivsete tõendite või selgete asjaolude põhjal veendunud, et kõnealuse reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamine on vajalik ja proportsionaalne mõne lõike 1 esimese lõigu punktis h täpsustatud ja taotluses nimetatud eesmärgi saavutamiseks, ning et eelkõige piirdub süsteemi kasutamine sellega, mis on rangelt vajalik seoses ajavahemiku ning geograafilise ja isikulise kohaldamisalaga. Kõnealune asutus võtab taotluse kohta otsuse tegemisel arvesse lõikes 2 osutatud elemente. Ühtki isiku suhtes kahjulikke õiguslikke tagajärgi põhjustavat otsust ei tohi teha üksnes reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi tulemuste põhjal.
4.
Ilma et see piiraks lõike 3 kohaldamist, teavitatakse asjaomast turujärelevalveasutust ja riiklikku andmekaitseasutust igast reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamisest avalikult juurdepääsetavas ruumis õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) eesmärgil kooskõlas lõikes 5 osutatud siseriiklike õigusnormidega. Teates esitatakse vähemalt lõikes 6 täpsustatud teave ning teade ei sisalda tundlikke operatiivandmeid.
5.
Liikmesriik võib otsustada näha ette võimaluse täielikult või osaliselt lubada reaalajas toimuva biomeetrilise kaugtuvastamise süsteemi kasutamist avalikult juurdepääsetavas ruumis õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) jaoks lõike 1 esimese lõigu punktis h ning lõigetes 2 ja 3 loetletud piirides ja tingimustel. Asjaomased liikmesriigid kehtestavad oma siseriiklikus õiguses lõikes 3 osutatud lubade taotlemise, andmise ja kasutamise ning nende lubadega seotud järelevalve ja aruandluse jaoks vajalikud üksikasjalikud õigusnormid. Kõnealustes õigusnormides tuleb täpsustada, milliste lõike 1 esimese lõigu punktis h loetletud eesmärkide, sealhulgas milliste punkti h alapunktis iii osutatud kuritegude puhul võib anda pädevatele asutustele loa kasutada neid süsteeme õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) jaoks. Liikmesriigid teatavad nendest õigusnormidest komisjonile hiljemalt 30 päeva jooksul pärast nende vastuvõtmist. Liikmesriigid võivad kooskõlas liidu õigusega kehtestada biomeetrilise kaugtuvastamise süsteemide kasutamise kohta piiravamaid õigusakte.
6.
Riiklikud turujärelevalveasutused ja liikmesriikide riiklikud andmekaitseasutused, keda on lõike 4 kohaselt teavitatud reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamisest avalikult juurdepääsetavas ruumis õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) eesmärkidel, esitavad komisjonile sellise kasutamise kohta aastaaruanded. Selleks esitab komisjon liikmesriikidele ning riiklikele turujärelevalve- ja andmekaitseasutustele vormi, mis sisaldab teavet pädevate õigusasutuste või sõltumatu haldusasutuse poolt, kelle otsus on siduv, lõike 3 kohaste loataotluste suhtes tehtud otsuste arvu ja nende tulemuste kohta.
7.
Komisjon avaldab lõikes 6 osutatud aastaaruannete põhjal aastaaruanded reaalajas toimuva biomeetrilise kaugtuvastamise süsteemide kasutamise kohta avalikult juurdepääsetavates ruumides õiguskaitseõiguskaitse– tegevus, mida õiguskaitseasutus teostab kuritegude tõkestamiseks, uurimiseks, avastamiseks või nende eest vastutusele võtmiseks või kriminaalkaristuse täitmisele pööramiseks, sealhulgas avalikku julgeolekut ähvardavate ohtude eest kaitsmiseks ja nende ohtude ennetamiseksArticle 3(46) eesmärgil, tuginedes liikmesriikide koondandmetele. Nimetatud aastaaruanded ei sisalda asjaomase õiguskaitsealase tegevuse tundlikke operatiivandmeid.
8.
Käesolev artikkel ei mõjuta keelde, mida kohaldatakse juhul, kui tehisintellektiga seotud tegevus rikub muud liidu õigust.