+UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) (Besedilo velja za EGP)
---+POGLAVJE I SPLOŠNE DOLOČBE
------+Člen 1 Predmet urejanja
---------+Člen 1 1.
---------+Člen 1 2.
------+Člen 2 Področje uporabe
---------+Člen 2 1.
---------+Člen 2 2.
---------+Člen 2 3.
---------+Člen 2 4.
---------+Člen 2 5.
---------+Člen 2 6.
---------+Člen 2 7.
---------+Člen 2 8.
---------+Člen 2 9.
---------+Člen 2 10.
---------+Člen 2 11.
---------+Člen 2 12.
---------+Člen 2 13.
------+Člen 3 Opredelitev pojmov
------+Člen 4 Pismenost na področju UI
---------+Člen 4 1.
---------+Člen 4 2.
---------+Člen 4 3.
------+Člen 4a Obdelava posebnih vrst osebnih podatkov za odkrivanje in popravljanje pristranskosti
---------+Člen 4a 1.
---------+Člen 4a 2.
---+POGLAVJE II PREPOVEDANE PRAKSE UI
------+Člen 5 Prepovedane prakse UI
---------+Člen 5 1.
---------+Člen 5 1a.
---------+Člen 5 1b.
---------+Člen 5 2.
---------+Člen 5 3.
---------+Člen 5 4.
---------+Člen 5 5.
---------+Člen 5 6.
---------+Člen 5 7.
---------+Člen 5 8.
---+POGLAVJE III VISOKOTVEGANI SISTEMI UI
------+ODDELEK 1 Razvrstitev visokotveganih sistemov UI
---------+Člen 6 Pravila razvrstitve za visokotvegane sisteme UI
------------+Člen 6 1.
------------+Člen 6 1a.
------------+Člen 6 1b.
------------+Člen 6 1c.
------------+Člen 6 2.
------------+Člen 6 3.
------------+Člen 6 4.
------------+Člen 6 5.
------------+Člen 6 6.
------------+Člen 6 7.
------------+Člen 6 8.
---------+Člen 7 Spremembe Priloge III
------------+Člen 7 1.
------------+Člen 7 2.
------------+Člen 7 3.
------+ODDELEK 2 Zahteve za visokotvegane sisteme UI
---------+Člen 8 Izpolnjevanje zahtev
------------+Člen 8 1.
------------+Člen 8 2.
---------+Člen 9 Sistem za obvladovanje tveganja
------------+Člen 9 1.
------------+Člen 9 2.
------------+Člen 9 3.
------------+Člen 9 4.
------------+Člen 9 5.
------------+Člen 9 6.
------------+Člen 9 7.
------------+Člen 9 8.
------------+Člen 9 9.
------------+Člen 9 10.
---------+Člen 10 Podatki in upravljanje podatkov
------------+Člen 10 1.
------------+Člen 10 2.
------------+Člen 10 3.
------------+Člen 10 4.
------------+Člen 10 6.
---------+Člen 11 Tehnična dokumentacija
------------+Člen 11 1.
------------+Člen 11 2.
------------+Člen 11 3.
---------+Člen 12 Vodenje evidenc
------------+Člen 12 1.
------------+Člen 12 2.
------------+Člen 12 3.
---------+Člen 13 Preglednost in zagotavljanje informacij uvajalcem
------------+Člen 13 1.
------------+Člen 13 2.
------------+Člen 13 3.
---------+Člen 14 Človeški nadzor
------------+Člen 14 1.
------------+Člen 14 2.
------------+Člen 14 3.
------------+Člen 14 4.
------------+Člen 14 5.
---------+Člen 15 Točnost, robustnost in kibernetska varnost
------------+Člen 15 1.
------------+Člen 15 2.
------------+Člen 15 3.
------------+Člen 15 4.
------------+Člen 15 5.
------+ODDELEK 3 Obveznosti ponudnikov in uvajalcev visokotveganih sistemov UI
---------+Člen 16 Obveznosti ponudnikov visokotveganih sistemov UI
---------+Člen 17 Sistem upravljanja kakovosti
------------+Člen 17 1.
------------+Člen 17 2.
------------+Člen 17 3.
------------+Člen 17 4.
---------+Člen 18 Vodenje dokumentacije
------------+Člen 18 1.
------------+Člen 18 2.
------------+Člen 18 3.
---------+Člen 19 Samodejno ustvarjeni dnevniki
------------+Člen 19 1.
------------+Člen 19 2.
---------+Člen 20 Korektivni ukrepi in dolžnost obveščanja
------------+Člen 20 1.
------------+Člen 20 2.
---------+Člen 21 Sodelovanje s pristojnimi organi
------------+Člen 21 1.
------------+Člen 21 2.
------------+Člen 21 3.
---------+Člen 22 Pooblaščeni zastopniki ponudnikov visokotveganih sistemov UI
------------+Člen 22 1.
------------+Člen 22 2.
------------+Člen 22 3.
------------+Člen 22 4.
---------+Člen 23 Obveznosti uvoznikov
------------+Člen 23 1.
------------+Člen 23 2.
------------+Člen 23 3.
------------+Člen 23 4.
------------+Člen 23 5.
------------+Člen 23 6.
------------+Člen 23 7.
---------+Člen 24 Obveznosti distributerjev
------------+Člen 24 1.
------------+Člen 24 2.
------------+Člen 24 3.
------------+Člen 24 4.
------------+Člen 24 5.
------------+Člen 24 6.
---------+Člen 25 Odgovornosti vzdolž verige vrednosti UI
------------+Člen 25 1.
------------+Člen 25 2.
------------+Člen 25 3.
------------+Člen 25 4.
------------+Člen 25 5.
---------+Člen 26 Obveznosti uvajalcev visokotveganih sistemov UI
------------+Člen 26 1.
------------+Člen 26 2.
------------+Člen 26 3.
------------+Člen 26 4.
------------+Člen 26 5.
------------+Člen 26 6.
------------+Člen 26 7.
------------+Člen 26 8.
------------+Člen 26 9.
------------+Člen 26 10.
------------+Člen 26 11.
------------+Člen 26 12.
---------+Člen 27 Ocena učinka na temeljne pravice za visokotvegane sisteme UI
------------+Člen 27 1.
------------+Člen 27 2.
------------+Člen 27 3.
------------+Člen 27 4.
------------+Člen 27 5.
------+ODDELEK 4 Priglasitveni organi in priglašeni organi
---------+Člen 28 Priglasitveni organi
------------+Člen 28 1.
------------+Člen 28 2.
------------+Člen 28 3.
------------+Člen 28 4.
------------+Člen 28 5.
------------+Člen 28 6.
------------+Člen 28 7.
------------+Člen 28 8.
------------+Člen 28 9.
---------+Člen 29 Vloga organa za ugotavljanje skladnosti za priglasitev
------------+Člen 29 1.
------------+Člen 29 2.
------------+Člen 29 3.
------------+Člen 29 4.
---------+Člen 30 Postopek priglasitve
------------+Člen 30 1.
------------+Člen 30 2.
------------+Člen 30 3.
------------+Člen 30 4.
------------+Člen 30 5.
---------+Člen 31 Zahteve v zvezi s priglašenimi organi
------------+Člen 31 1.
------------+Člen 31 2.
------------+Člen 31 3.
------------+Člen 31 4.
------------+Člen 31 5.
------------+Člen 31 6.
------------+Člen 31 7.
------------+Člen 31 8.
------------+Člen 31 9.
------------+Člen 31 10.
------------+Člen 31 11.
------------+Člen 31 12.
---------+Člen 32 Domneva o skladnosti z zahtevami v zvezi s priglašenimi organi
---------+Člen 33 Odvisne družbe priglašenih organov in podizvajanje
------------+Člen 33 1.
------------+Člen 33 2.
------------+Člen 33 3.
------------+Člen 33 4.
---------+Člen 34 Operativne obveznosti priglašenih organov
------------+Člen 34 1.
------------+Člen 34 2.
------------+Člen 34 3.
---------+Člen 35 Identifikacijske številke in seznami priglašenih organov
------------+Člen 35 1.
------------+Člen 35 2.
---------+Člen 36 Spremembe priglasitev
------------+Člen 36 1.
------------+Člen 36 2.
------------+Člen 36 3.
------------+Člen 36 4.
------------+Člen 36 5.
------------+Člen 36 6.
------------+Člen 36 7.
------------+Člen 36 8.
------------+Člen 36 9.
---------+Člen 37 Izpodbijanje usposobljenosti priglašenih organov
------------+Člen 37 1.
------------+Člen 37 2.
------------+Člen 37 3.
------------+Člen 37 4.
---------+Člen 38 Usklajevanje priglašenih organov
------------+Člen 38 1.
------------+Člen 38 2.
------------+Člen 38 3.
---------+Člen 39 Organi za ugotavljanje skladnosti iz tretjih držav
------+ODDELEK 5 Standardi, ugotavljanje skladnosti, certifikati, registracija
---------+Člen 40 Harmonizirani standardi in standardizacijski dokumenti
------------+Člen 40 1.
------------+Člen 40 2.
------------+Člen 40 3.
---------+Člen 41 Skupne specifikacije
------------+Člen 41 1.
------------+Člen 41 2.
------------+Člen 41 3.
------------+Člen 41 4.
------------+Člen 41 5.
------------+Člen 41 6.
---------+Člen 42 Domneva o skladnosti z nekaterimi zahtevami
------------+Člen 42 1.
------------+Člen 42 2.
------------+Člen 42 3.
---------+Člen 43 Ugotavljanje skladnosti
------------+Člen 43 1.
------------+Člen 43 2.
------------+Člen 43 3.
------------+Člen 43 4.
------------+Člen 43 5.
------------+Člen 43 6.
---------+Člen 44 Certifikati
------------+Člen 44 1.
------------+Člen 44 2.
------------+Člen 44 3.
---------+Člen 45 Obveznosti obveščanja za priglašene organe
------------+Člen 45 1.
------------+Člen 45 2.
------------+Člen 45 3.
------------+Člen 45 4.
---------+Člen 46 Odstopanje od postopka ugotavljanja skladnosti
------------+Člen 46 1.
------------+Člen 46 2.
------------+Člen 46 3.
------------+Člen 46 4.
------------+Člen 46 5.
------------+Člen 46 6.
------------+Člen 46 7.
---------+Člen 47 EU izjava o skladnosti
------------+Člen 47 1.
------------+Člen 47 2.
------------+Člen 47 3.
------------+Člen 47 4.
------------+Člen 47 5.
---------+Člen 48 Oznaka CE
------------+Člen 48 1.
------------+Člen 48 2.
------------+Člen 48 3.
------------+Člen 48 4.
------------+Člen 48 5.
---------+Člen 49 Registracija
------------+Člen 49 1.
------------+Člen 49 2.
------------+Člen 49 3.
------------+Člen 49 4.
------------+Člen 49 5.
---+POGLAVJE IV OBVEZNOSTI PONUDNIKOV IN UVAJALCEV NEKATERIH SISTEMOV UI GLEDE PREGLEDNOSTI
------+Člen 50 Obveznosti ponudnikov in uvajalcev nekaterih sistemov UI glede preglednosti
---------+Člen 50 1.
---------+Člen 50 2.
---------+Člen 50 3.
---------+Člen 50 4.
---------+Člen 50 5.
---------+Člen 50 6.
---------+Člen 50 7.
---+POGLAVJE V MODELI UI ZA SPLOŠNE NAMENE
------+ODDELEK 1 Pravila za razvrščanje
---------+Člen 51 Razvrstitev modelov UI za splošne namene kot modelov UI za splošne namene s sistemskim tveganjem
------------+Člen 51 1.
------------+Člen 51 2.
------------+Člen 51 3.
---------+Člen 52 Postopek
------------+Člen 52 1.
------------+Člen 52 2.
------------+Člen 52 3.
------------+Člen 52 4.
------------+Člen 52 5.
------------+Člen 52 6.
------+ODDELEK 2 Obveznosti, naložene ponudnikom modelov UI za splošne namene
---------+Člen 53 Obveznosti, naložene ponudnikom modelov UI za splošne namene
------------+Člen 53 1.
------------+Člen 53 2.
------------+Člen 53 3.
------------+Člen 53 4.
------------+Člen 53 5.
------------+Člen 53 6.
------------+Člen 53 7.
---------+Člen 54 Pooblaščeni zastopniki ponudnikov modelov UI za splošne namene
------------+Člen 54 1.
------------+Člen 54 2.
------------+Člen 54 3.
------------+Člen 54 4.
------------+Člen 54 5.
------------+Člen 54 6.
------+ODDELEK 3 Obveznosti ponudnikov modelov UI za splošne namene s sistemskim tveganjem
---------+Člen 55 Obveznosti ponudnikov modelov UI za splošne namene s sistemskim tveganjem
------------+Člen 55 1.
------------+Člen 55 2.
------------+Člen 55 3.
------+ODDELEK 4 Kodeksi prakse
---------+Člen 56 Kodeksi prakse
------------+Člen 56 1.
------------+Člen 56 2.
------------+Člen 56 3.
------------+Člen 56 4.
------------+Člen 56 5.
------------+Člen 56 6.
------------+Člen 56 7.
------------+Člen 56 8.
------------+Člen 56 9.
---+POGLAVJE VI UKREPI V PODPORO INOVACIJAM
------+Člen 57 Regulativni peskovniki za UI
---------+Člen 57 1.
---------+Člen 57 2.
---------+Člen 57 3.
---------+Člen 57 3a.
---------+Člen 57 4.
---------+Člen 57 5.
---------+Člen 57 6.
---------+Člen 57 7.
---------+Člen 57 8.
---------+Člen 57 9.
---------+Člen 57 10.
---------+Člen 57 11.
---------+Člen 57 12.
---------+Člen 57 13.
---------+Člen 57 14.
---------+Člen 57 15.
---------+Člen 57 16.
---------+Člen 57 17.
------+Člen 58 Podrobnosti v zvezi z regulativnimi peskovniki za UI in njihovo delovanje
---------+Člen 58 1.
---------+Člen 58 2.
---------+Člen 58 3.
---------+Člen 58 4.
------+Člen 59 Nadaljnja obdelava osebnih podatkov za razvoj določenih sistemov UI v javnem interesu v regulativnem peskovniku za UI
---------+Člen 59 1.
---------+Člen 59 2.
---------+Člen 59 3.
------+Člen 60 Testiranje visokotveganih sistemov UI v realnih razmerah zunaj regulativnih peskovnikov za UI
---------+Člen 60 1.
---------+Člen 60 2.
---------+Člen 60 3.
---------+Člen 60 4.
---------+Člen 60 5.
---------+Člen 60 6.
---------+Člen 60 7.
---------+Člen 60 8.
---------+Člen 60 9.
------+Člen 60a Testiranje visokotveganih sistemov UI, ki jih zajema harmonizacijska zakonodaja Unije iz Priloge I, oddelek B, v realnih razmerah zunaj regulativnih peskovnikov za UI
---------+Člen 60a 1.
---------+Člen 60a 2.
---------+Člen 60a 3.
---------+Člen 60a 4.
---------+Člen 60a 5.
---------+Člen 60a 6.
------+Člen 61 Informirana privolitev za sodelovanje pri testiranju v realnih razmerah zunaj regulativnih peskovnikov za UI
---------+Člen 61 1.
---------+Člen 61 2.
------+Člen 62 Ukrepi za ponudnike in uvajalce, zlasti MSP, vključno z zagonskimi podjetji
---------+Člen 62 1.
---------+Člen 62 2.
---------+Člen 62 3.
------+Člen 63 Odstopanja za določene operaterje
---------+Člen 63 1.
---------+Člen 63 2.
---+POGLAVJE VII UPRAVLJANJE
------+ODDELEK 1 Upravljanje na ravni Unije
---------+Člen 64 Urad za UI
------------+Člen 64 1.
------------+Člen 64 2.
------------+Člen 64 3.
---------+Člen 65 Ustanovitev in struktura Evropskega odbora za umetno inteligenco
------------+Člen 65 1.
------------+Člen 65 2.
------------+Člen 65 3.
------------+Člen 65 4.
------------+Člen 65 5.
------------+Člen 65 6.
------------+Člen 65 7.
------------+Člen 65 8.
---------+Člen 66 Naloge Odbora
---------+Člen 67 Svetovalni forum
------------+Člen 67 1.
------------+Člen 67 2.
------------+Člen 67 3.
------------+Člen 67 4.
------------+Člen 67 5.
------------+Člen 67 6.
------------+Člen 67 7.
------------+Člen 67 8.
------------+Člen 67 9.
------------+Člen 67 10.
---------+Člen 68 Znanstveni odbor neodvisnih strokovnjakov
------------+Člen 68 1.
------------+Člen 68 2.
------------+Člen 68 3.
------------+Člen 68 4.
------------+Člen 68 5.
---------+Člen 69 Dostop držav članic do nabora strokovnjakov
------------+Člen 69 1.
------------+Člen 69 2.
------------+Člen 69 3.
------+ODDELEK 2 Pristojni nacionalni organi
---------+Člen 70 Imenovanje pristojnih nacionalnih organov in enotne kontaktne točke
------------+Člen 70 1.
------------+Člen 70 2.
------------+Člen 70 3.
------------+Člen 70 4.
------------+Člen 70 5.
------------+Člen 70 6.
------------+Člen 70 7.
------------+Člen 70 8.
------------+Člen 70 9.
---+POGLAVJE VIII PODATKOVNA ZBIRKA EU ZA VISOKOTVEGANE SISTEME UI
------+Člen 71 Podatkovna zbirka EU za visokotvegane sisteme UI s seznama v Prilogi III
---------+Člen 71 1.
---------+Člen 71 2.
---------+Člen 71 3.
---------+Člen 71 4.
---------+Člen 71 5.
---------+Člen 71 6.
---+POGLAVJE IX SPREMLJANJE PO DAJANJU NA TRG, IZMENJAVA INFORMACIJ IN NADZOR TRGA
------+ODDELEK 1 Spremljanje po dajanju na trg
---------+Člen 72 Spremljanje po dajanju na trg s strani ponudnikov in načrt spremljanja po dajanju na trg za visokotvegane sisteme UI
------------+Člen 72 1.
------------+Člen 72 2.
------------+Člen 72 3.
------------+Člen 72 4.
------+ODDELEK 2 Izmenjava informacij o resnih incidentih
---------+Člen 73 Poročanje o resnih incidentih
------------+Člen 73 1.
------------+Člen 73 2.
------------+Člen 73 3.
------------+Člen 73 4.
------------+Člen 73 5.
------------+Člen 73 6.
------------+Člen 73 7.
------------+Člen 73 8.
------------+Člen 73 9.
------------+Člen 73 10.
------------+Člen 73 11.
------+ODDELEK 3 Izvrševanje
---------+Člen 74 Nadzor trga in nadzor sistemov UI na trgu Unije
------------+Člen 74 1.
------------+Člen 74 2.
------------+Člen 74 3.
------------+Člen 74 4.
------------+Člen 74 5.
------------+Člen 74 6.
------------+Člen 74 7.
------------+Člen 74 8.
------------+Člen 74 9.
------------+Člen 74 10.
------------+Člen 74 11.
------------+Člen 74 12.
------------+Člen 74 13.
------------+Člen 74 14.
---------+Člen 75 Nadzor trga in nadzor sistemov UI ter medsebojna pomoč
------------+Člen 75 1.
------------+Člen 75 1a.
------------+Člen 75 1b.
------------+Člen 75 1c.
------------+Člen 75 1d.
------------+Člen 75 1e.
------------+Člen 75 2.
------------+Člen 75 2a.
------------+Člen 75 3.
---------+Člen 75a Nadzorna in izvršilna pooblastila Urada za UI
------------+Člen 75a 1.
------------+Člen 75a 2.
------------+Člen 75a 3.
------------+Člen 75a 4.
------------+Člen 75a 5.
------------+Člen 75a 6.
------------+Člen 75a 7.
------------+Člen 75a 8.
---------+Člen 75b Zaveze
---------+Člen 75c Neskladnosti, globe in periodične denarne kazni
------------+Člen 75c 1.
------------+Člen 75c 2.
------------+Člen 75c 3.
------------+Člen 75c 4.
------------+Člen 75c 5.
------------+Člen 75c 6.
------------+Člen 75c 7.
------------+Člen 75c 8.
------------+Člen 75c 9.
---------+Člen 75d Zaščitni ukrepi in podrobnejša opredelitev
------------+Člen 75d 1.
------------+Člen 75d 2.
------------+Člen 75d 3.
------------+Člen 75d 4.
---------+Člen 76 Nadzor testiranja v realnih razmerah s strani organov za nadzor trga
------------+Člen 76 1.
------------+Člen 76 2.
------------+Člen 76 3.
------------+Člen 76 4.
------------+Člen 76 5.
---------+Člen 77 Pooblastila organov za varstvo temeljnih pravic in sodelovanje z organi za nadzor trga
------------+Člen 77 1.
------------+Člen 77 1a.
------------+Člen 77 1b.
------------+Člen 77 2.
------------+Člen 77 3.
------------+Člen 77 4.
---------+Člen 78 Zaupnost
------------+Člen 78 1.
------------+Člen 78 2.
------------+Člen 78 3.
------------+Člen 78 4.
------------+Člen 78 5.
---------+Člen 79 Nacionalni postopek za obravnavo sistemov UI, ki predstavljajo tveganje
------------+Člen 79 1.
------------+Člen 79 2.
------------+Člen 79 3.
------------+Člen 79 4.
------------+Člen 79 5.
------------+Člen 79 6.
------------+Člen 79 7.
------------+Člen 79 8.
------------+Člen 79 9.
---------+Člen 80 Postopek za obravnavo sistemov UI, ki jih je ponudnik v skladu s Prilogo III razvrstil kot sisteme UI brez visokega tveganja
------------+Člen 80 1.
------------+Člen 80 2.
------------+Člen 80 3.
------------+Člen 80 4.
------------+Člen 80 5.
------------+Člen 80 6.
------------+Člen 80 7.
------------+Člen 80 8.
---------+Člen 81 Zaščitni postopek Unije
------------+Člen 81 1.
------------+Člen 81 2.
------------+Člen 81 3.
---------+Člen 82 Skladni sistemi UI, ki predstavljajo tveganje
------------+Člen 82 1.
------------+Člen 82 2.
------------+Člen 82 3.
------------+Člen 82 4.
------------+Člen 82 5.
---------+Člen 83 Formalna neskladnost
------------+Člen 83 1.
------------+Člen 83 2.
---------+Člen 84 Podporne strukture Unije za testiranje UI
------------+Člen 84 1.
------------+Člen 84 2.
------+ODDELEK 4 Pravna sredstva
---------+Člen 85 Pravica do vložitve pritožbe pri organu za nadzor trga
---------+Člen 86 Pravica do obrazložitve postopka odločanja za posamične primere
------------+Člen 86 1.
------------+Člen 86 2.
------------+Člen 86 3.
---------+Člen 87 Prijava kršitev in zaščita prijaviteljev
------+ODDELEK 5 Nadzor, preiskovanje, izvrševanje in spremljanje v zvezi s ponudniki modelov UI za splošne namene
---------+Člen 88 Izvrševanje obveznosti ponudnikov modelov UI za splošne namene
------------+Člen 88 1.
------------+Člen 88 2.
---------+Člen 89 Ukrepi spremljanja
------------+Člen 89 1.
------------+Člen 89 2.
---------+Člen 90 Opozorila znanstvenega odbora o sistemskih tveganjih
------------+Člen 90 1.
------------+Člen 90 2.
------------+Člen 90 3.
---------+Člen 91 Pooblastilo za zahtevanje dokumentacije in informacij
------------+Člen 91 1.
------------+Člen 91 2.
------------+Člen 91 3.
------------+Člen 91 4.
------------+Člen 91 5.
---------+Člen 92 Pooblastilo za izvajanje ocenjevanja
------------+Člen 92 1.
------------+Člen 92 2.
------------+Člen 92 3.
------------+Člen 92 4.
------------+Člen 92 5.
------------+Člen 92 6.
------------+Člen 92 7.
---------+Člen 93 Pooblastilo za zahtevanje ukrepov
------------+Člen 93 1.
------------+Člen 93 2.
------------+Člen 93 3.
---------+Člen 94 Postopkovne pravice gospodarskih subjektov v zvezi z modelom UI za splošne namene
---+POGLAVJE X KODEKSI RAVNANJA IN SMERNICE
------+Člen 95 Kodeksi ravnanja za prostovoljno uporabo posebnih zahtev
---------+Člen 95 1.
---------+Člen 95 2.
---------+Člen 95 3.
---------+Člen 95 4.
------+Člen 96 Smernice Komisije za izvajanje te uredbe
---------+Člen 96 1.
---------+Člen 96 2.
---+POGLAVJE XI PRENOS POOBLASTIL IN POSTOPEK V ODBORU
------+Člen 97 Izvajanje prenosa pooblastila
---------+Člen 97 1.
---------+Člen 97 2.
---------+Člen 97 3.
---------+Člen 97 4.
---------+Člen 97 5.
---------+Člen 97 6.
------+Člen 98 Postopek v odboru
---------+Člen 98 1.
---------+Člen 98 2.
---+POGLAVJE XII KAZNI
------+Člen 99 Kazni
---------+Člen 99 1.
---------+Člen 99 2.
---------+Člen 99 3.
---------+Člen 99 4.
---------+Člen 99 5.
---------+Člen 99 6.
---------+Člen 99 6a.
---------+Člen 99 7.
---------+Člen 99 8.
---------+Člen 99 9.
---------+Člen 99 10.
---------+Člen 99 11.
------+Člen 100 Upravne globe za institucije, organe, urade in agencije Unije
---------+Člen 100 1.
---------+Člen 100 2.
---------+Člen 100 3.
---------+Člen 100 4.
---------+Člen 100 5.
---------+Člen 100 6.
---------+Člen 100 7.
------+Člen 101 Globe, naložene ponudnikom modelov UI za splošne namene
---------+Člen 101 1.
---------+Člen 101 2.
---------+Člen 101 3.
---------+Člen 101 4.
---------+Člen 101 5.
---------+Člen 101 6.
---+POGLAVJE XIII KONČNE DOLOČBE
------+Člen 102 Sprememba Uredbe (ES) št. 300/2008
------+Člen 103 Sprememba Uredbe (EU) št. 167/2013
------+Člen 104 Sprememba Uredbe (EU) št. 168/2013
------+Člen 105 Sprememba Direktive 2014/90/EU
------+Člen 106 Sprememba Direktive (EU) 2016/797
------+Člen 107 Sprememba Uredbe (EU) 2018/858
------+Člen 108 Spremembe Uredbe (EU) 2018/1139
------+Člen 109 Sprememba Uredbe (EU) 2019/2144
------+Člen 110 Sprememba Direktive (EU) 2020/1828
------+Člen 111 Sistemi UI, ki so že dani na trg ali v uporabo, in modeli UI za splošne namene, ki so že dani na trg
---------+Člen 111 1.
---------+Člen 111 2.
---------+Člen 111 3.
---------+Člen 111 4.
------+Člen 112 Ocena in pregled
---------+Člen 112 1.
---------+Člen 112 2.
---------+Člen 112 3.
---------+Člen 112 4.
---------+Člen 112 5.
---------+Člen 112 6.
---------+Člen 112 7.
---------+Člen 112 8.
---------+Člen 112 9.
---------+Člen 112 10.
---------+Člen 112 11.
---------+Člen 112 12.
---------+Člen 112 13.
------+Člen 113 Začetek veljavnosti in uporaba
---+PRILOGA I Seznam harmonizacijske zakonodaje Unije
---+PRILOGA II Seznam kaznivih dejanj iz člena 5(1), prvi pododstavek, točka (h)(iii)
---+PRILOGA III Visokotvegani sistemi UI iz člena 6(2)
---+PRILOGA IV Tehnična dokumentacija iz člena 11(1)
---+PRILOGA V EU izjava o skladnosti
---+PRILOGA VI Postopek ugotavljanja skladnosti na podlagi notranjega nadzora
---+PRILOGA VII Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije
---+PRILOGA VIII Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v skladu s členom 49
---+PRILOGA IX Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v zvezi s testiranjem v realnih razmerah v skladu s členom 60
---+PRILOGA X
---+PRILOGA XI Tehnična dokumentacija iz člena 53(1), točka (a) – tehnična dokumentacija za ponudnike modelov UI za splošne namene
---+PRILOGA XII Informacije o preglednosti iz člena 53(1), točka (b) – tehnična dokumentacija, ki jo ponudniki modelov UI za splošne namene dajo na razpolago ponudnikom nižje v verigi, ki model vključijo v svoj sistem UI
---+PRILOGA XIII Merila za označitev modelov UI za splošne namene s sistemskim tveganjem iz člena 51
---+PRILOGA XIV
 English - European Union -

UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci) (Besedilo velja za EGP)

UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA

z dne 13. junija 2024

o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci)

(Besedilo velja za EGP)

Ta uredba je v celoti zavezujoča in se neposredno uporablja v vseh državah članicah.

1. Pregled

,
POGLAVJE I SPLOŠNE DOLOČBE POGLAVJE I SPLOŠNE DOLOČBE
POGLAVJE II PREPOVEDANE PRAKSE UI POGLAVJE II PREPOVEDANE PRAKSE UI
POGLAVJE III VISOKOTVEGANI SISTEMI UI POGLAVJE III VISOKOTVEGANI SISTEMI UI
POGLAVJE IV OBVEZNOSTI PONUDNIKOV IN UVAJALCEV NEKATERIH SISTEMOV UI GLEDE PREGLEDNOSTI POGLAVJE IV OBVEZNOSTI PONUDNIKOV IN UVAJALCEV NEKATERIH SISTEMOV UI GLEDE PREGLEDNOSTI
POGLAVJE V MODELI UI ZA SPLOŠNE NAMENE POGLAVJE V MODELI UI ZA SPLOŠNE NAMENE
POGLAVJE VI UKREPI V PODPORO INOVACIJAM POGLAVJE VI UKREPI V PODPORO INOVACIJAM
POGLAVJE VII UPRAVLJANJE POGLAVJE VII UPRAVLJANJE
POGLAVJE VIII PODATKOVNA ZBIRKA EU ZA VISOKOTVEGANE SISTEME UI POGLAVJE VIII PODATKOVNA ZBIRKA EU ZA VISOKOTVEGANE SISTEME UI
POGLAVJE IX SPREMLJANJE PO DAJANJU NA TRG, IZMENJAVA INFORMACIJ IN NADZOR TRGA POGLAVJE IX SPREMLJANJE PO DAJANJU NA TRG, IZMENJAVA INFORMACIJ IN NADZOR TRGA
POGLAVJE X KODEKSI RAVNANJA IN SMERNICE POGLAVJE X KODEKSI RAVNANJA IN SMERNICE
POGLAVJE XI PRENOS POOBLASTIL IN POSTOPEK V ODBORU POGLAVJE XI PRENOS POOBLASTIL IN POSTOPEK V ODBORU
POGLAVJE XII KAZNI POGLAVJE XII KAZNI
POGLAVJE XIII KONČNE DOLOČBE POGLAVJE XIII KONČNE DOLOČBE
PRILOGA I Seznam harmonizacijske zakonodaje Unije



PRILOGA I

Seznam harmonizacijske zakonodaje Unije

Oddelek A. Seznam harmonizacijske zakonodaje Unije, ki temelji na novem zakonodajnem okviru

▼M1 —————

▼B

2. Direktiva 2009/48/ES Evropskega parlamenta in Sveta z dne 18. junija 2009 o varnosti igrač (UL L 170, 30.6.2009, str. 1);

3. Direktiva 2013/53/EU Evropskega parlamenta in Sveta z dne 20. novembra 2013 o plovilih za rekreacijo in osebnih plovilih ter razveljavitvi Direktive 94/25/ES (UL L 354, 28.12.2013, str. 90);

4. Direktiva 2014/33/EU Evropskega parlamenta in Sveta z dne 26. februarja 2014 o harmonizaciji zakonodaje držav članic v zvezi z dvigali in varnostnimi komponentami za dvigala (UL L 96, 29.3.2014, str. 251);

5. Direktiva 2014/34/EU Evropskega parlamenta in Sveta z dne 26. februarja 2014 o harmonizaciji zakonodaj držav članic v zvezi z opremo in zaščitnimi sistemi, namenjenimi za uporabo v potencialno eksplozivnih atmosferah (UL L 96, 29.3.2014, str. 309);

6. Direktiva 2014/53/EU Evropskega parlamenta in Sveta z dne 16. aprila 2014 o harmonizaciji zakonodaj držav članic v zvezi z dostopnostjo radijske opreme na trgu in razveljavitvi Direktive 1999/5/ES (UL L 153, 22.5.2014, str. 62);

7. Direktiva 2014/68/EU Evropskega parlamenta in Sveta z dne 15. maja 2014 o harmonizaciji zakonodaje držav članic v zvezi z omogočanjem dostopnosti tlačne opreme na trgu (UL L 189, 27.6.2014, str. 164);

8. Uredba (EU) 2016/424 Evropskega parlamenta in Sveta z dne 9. marca 2016 o žičniških napravah in razveljavitvi Direktive 2000/9/ES (UL L 81, 31.3.2016, str. 1);

9. Uredba (EU) 2016/425 Evropskega parlamenta in Sveta z dne 9. marca 2016 o osebni varovalni opremi in razveljavitvi Direktive Sveta 89/686/EGS (UL L 81, 31.3.2016, str. 51);

10. Uredba (EU) 2016/426 Evropskega parlamenta in Sveta z dne 9. marca 2016 o napravah, v katerih zgoreva plinasto gorivo, in razveljavitvi Direktive 2009/142/ES (UL L 81, 31.3.2016, str. 99);

11. Uredba (EU) 2017/745 Evropskega parlamenta in Sveta z dne 5. aprila 2017 o medicinskih pripomočkih, spremembi Direktive 2001/83/ES, Uredbe (ES) št. 178/2002 in Uredbe (ES) št. 1223/2009 ter razveljavitvi direktiv Sveta 90/385/EGS in 93/42/EGS (UL L 117, 5.5.2017, str. 1);

12. Uredba (EU) 2017/746 Evropskega parlamenta in Sveta z dne 5. aprila 2017 o in vitro diagnostičnih medicinskih pripomočkih ter razveljavitvi Direktive 98/79/ES in Sklepa Komisije 2010/227/EU (UL L 117, 5.5.2017, str. 176).

Oddelek B. Seznam druge harmonizacijske zakonodaje Unije

13. Uredba (ES) št. 300/2008 Evropskega parlamenta in Sveta z dne 11. marca 2008 o skupnih pravilih na področju varovanja civilnega letalstva in o razveljavitvi Uredbe (ES) št. 2320/2002 (UL L 97, 9.4.2008, str. 72);

14. Uredba (EU) št. 168/2013 Evropskega parlamenta in Sveta z dne 15. januarja 2013 o odobritvi in tržnem nadzoru dvo- ali trikolesnih vozil in štirikolesnikov (UL L 60, 2.3.2013, str. 52);

15. Uredba (EU) št. 167/2013 Evropskega parlamenta in Sveta z dne 5. februarja 2013 o odobritvi in tržnem nadzoru kmetijskih in gozdarskih vozil (UL L 60, 2.3.2013, str. 1);

16. Direktiva 2014/90/EU Evropskega parlamenta in Sveta z dne 23. julija 2014 o pomorski opremi in razveljavitvi Direktive Sveta 96/98/ES (UL L 257, 28.8.2014, str. 146);

17. Direktiva (EU) 2016/797 Evropskega parlamenta in Sveta z dne 11. maja 2016 o interoperabilnosti železniškega sistema v Evropski uniji (UL L 138, 26.5.2016, str. 44);

18. Uredba (EU) 2018/858 Evropskega parlamenta in Sveta z dne 30. maja 2018 o odobritvi in tržnem nadzoru motornih vozil in njihovih priklopnikov ter sistemov, sestavnih delov in samostojnih tehničnih enot, namenjenih za taka vozila, spremembi uredb (ES) št. 715/2007 in (ES) št. 595/2009 ter razveljavitvi Direktive 2007/46/ES (UL L 151, 14.6.2018, str. 1);

19. Uredba (EU) 2019/2144 Evropskega parlamenta in Sveta z dne 27. novembra 2019 o zahtevah za homologacijo motornih vozil in njihovih priklopnikov ter sistemov, sestavnih delov in samostojnih tehničnih enot, namenjenih za taka vozila, v zvezi z njihovo splošno varnostjo in zaščito potnikov v vozilu ter izpostavljenih udeležencev v cestnem prometu in o spremembi Uredbe (EU) 2018/858 Evropskega parlamenta in Sveta ter razveljavitvi uredb (ES) št. 78/2009, (ES) št. 79/2009 in (ES) št. 661/2009 Evropskega parlamenta in Sveta in uredb Komisije (ES) št. 631/2009, (EU) št. 406/2010, (EU) št. 672/2010, (EU) št. 1003/2010, (EU) št. 1005/2010, (EU) št. 1008/2010, (EU) št. 1009/2010, (EU) št. 19/2011, (EU) št. 109/2011, (EU) št. 458/2011, (EU) št. 65/2012, (EU) št. 130/2012, (EU) št. 347/2012, (EU) št. 351/2012, (EU) št. 1230/2012 in (EU) 2015/166 (UL L 325, 16.12.2019, str. 1);

20. Uredba (EU) 2018/1139 Evropskega parlamenta in Sveta z dne 4. julija 2018 o skupnih pravilih na področju civilnega letalstva in ustanovitvi Agencije Evropske unije za varnost v letalstvu ter spremembi uredb (ES) št. 2111/2005, (ES) št. 1008/2008, (EU) št. 996/2010, (EU) št. 376/2014 ter direktiv 2014/30/EU in 2014/53/EU Evropskega parlamenta in Sveta ter razveljavitvi uredb (ES) št. 552/2004 in (ES) št. 216/2008 Evropskega parlamenta in Sveta ter Uredbe Sveta (EGS) št. 3922/91 (UL L 212, 22.8.2018, str. 1), kolikor gre za oblikovanje, proizvodnjo in dajanje na trg zrakoplovov iz člena 2(1), točki (a) in (b), navedene uredbe, kar zadeva brezpilotne zrakoplove in njihove motorje, propelerje, dele in opremo za njihovo daljinsko upravljanje;

▼M1

21. Uredba (EU) 2023/1230 Evropskega parlamenta in Sveta z dne 14. junija 2023 o strojih in razveljavitvi Direktive 2006/42/ES Evropskega parlamenta in Sveta ter Direktive Sveta 73/361/EGS (UL L 165, 29.6.2023, str. 1, ELI: http://data.europa.eu/eli/reg/2023/1230/oj).

▼B

PRILOGA II Seznam kaznivih dejanj iz člena 5(1), prvi pododstavek, točka (h)(iii)



PRILOGA II

Seznam kaznivih dejanj iz člena 5(1), prvi pododstavek, točka (h)(iii)

Kazniva dejanja iz člena 5(1), prvi pododstavek, točka (h)(iii):

— 
terorizem,
— 
trgovina z ljudmi,
— 
spolno izkoriščanje otrok in otroška pornografija,
— 
nedovoljena trgovina s prepovedanimi drogami ali psihotropnimi snovmi,
— 
nedovoljena trgovina z orožjem, strelivom ali eksplozivi,
— 
umor, huda telesna poškodba,
— 
nedovoljena trgovina s človeškimi organi ali tkivi,
— 
nedovoljena trgovina z jedrskimi ali radioaktivnimi snovmi,
— 
ugrabitev, protipraven odvzem prostosti ali zajetje talcev,
— 
kazniva dejanja v pristojnosti Mednarodnega kazenskega sodišča,
— 
nezakonit zaseg zrakoplova ali plovila,
— 
posilstvo,
— 
okoljska kriminaliteta,
— 
organiziran ali oborožen rop,
— 
sabotaža,
— 
sodelovanje v hudodelski združbi, ki je vpletena v eno ali več zgoraj navedenih kaznivih dejanj.
PRILOGA III Visokotvegani sistemi UI iz člena 6(2)



PRILOGA III

Visokotvegani sistemi UI iz člena 6(2)

Visokotvegani sistemi UI na podlagi člena 6(2) so sistemi UI, navedeni na seznamu za katero koli od naslednjih področij:

1. 

biometrika, kolikor je njena uporaba dovoljena na podlagi ustreznega prava Unije ali nacionalnega prava:

(a) 

sistemi za biometrično identifikacijo na daljavo.

To ne vključuje sistemov UI za biometrično preverjanje, katerih edini namen je potrditi, da je določena fizična oseba res ta, za katero se predstavlja;

(b) 

sistemi UI za biometrično kategorizacijo glede na občutljive ali zaščitene lastnosti ali značilnosti na podlagi sklepanja na te lastnosti ali značilnosti;

(c) 

sistemi UI za prepoznavanje čustev;

2. 

kritična infrastruktura: sistemi UI za uporabo kot varnostne komponente pri upravljanju in delovanju kritične digitalne infrastrukture, cestnega prometa ali pri oskrbi z vodo, plinom, ogrevanjem ali električno energijo;

3. 

izobraževanje in poklicno usposabljanje:

(a) 

sistemi UI za določanje dostopa ali sprejema ali za razvrščanje fizičnih oseb v izobraževalne ustanove in ustanove za poklicno usposabljanje na vseh ravneh;

(b) 

sistemi UI za evalvacijo učnih izidov, tudi kadar se ti izidi uporabljajo za usmerjanje učnega procesa fizičnih oseb v izobraževalnih ustanovah in ustanovah za poklicno usposabljanje na vseh ravneh;

(c) 

sistemi UI za ocenjevanje ustrezne ravni izobrazbe, ki jo bo posameznik prejel ali do katere bo lahko dostopal v okviru ali znotraj izobraževalnih ustanov in ustanov za poklicno usposabljanje na vseh ravneh;

(d) 

sistemi UI za spremljanje in ugotavljanje prepovedanega vedenja učencev in študentov med opravljanjem preizkusov znanja v okviru ali znotraj izobraževalnih ustanov in ustanov za poklicno usposabljanje na vseh ravneh;

4. 

zaposlovanje, upravljanje delavcev in dostop do samozaposlitve:

(a) 

sistemi UI za zaposlovanje ali izbor fizičnih oseb, zlasti za ciljno oglaševanje delovnih mest, analizo in filtriranje prijav za zaposlitev ter ocenjevanje kandidatov;

(b) 

sistemi UI za odločanje o pogojih delovnih razmerij, napredovanju ali prenehanju delovnih pogodbenih razmerij, dodeljevanju nalog na podlagi vedenja posameznika oziroma osebnostnih lastnosti ali značilnosti ter spremljanju in ocenjevanju uspešnosti in vedenja oseb v takih razmerjih;

5. 

uživanje bistvenih zasebnih in javnih storitev in ugodnosti ter dostop do njih:

(a) 

sistemi UI, ki naj bi jih uporabljali javni organi ali naj bi se uporabljali v njihovem imenu za ocenjevanje upravičenosti fizičnih oseb do bistvenih ugodnosti in storitev javne pomoči, vključno z zdravstvenimi storitvami, ter za dodelitev, zmanjšanje, preklic ali povračilo takih ugodnosti in storitev;

(b) 

sistemi UI za ocenjevanje kreditne sposobnosti fizičnih oseb ali določanje njihove kreditne ocene, razen sistemov UI, ki se uporabljajo za odkrivanje finančnih goljufij;

(c) 

sistemi UI za oceno tveganja in oblikovanje cen v zvezi s fizičnimi osebami v primeru življenjskega in zdravstvenega zavarovanja;

(d) 

sistemi UI za ocenjevanje in razvrščanje nujnih klicev fizičnih oseb ali za napotitev služb za ukrepanje ob nesrečah, vključno s policijo, gasilci in medicinsko pomočjo, ali določanje prednosti pri njihovi napotitvi, ter sistemi za nujno zdravstveno triažo pacientov;

6. 

preprečevanje, odkrivanje in preiskovanje kaznivih dejanj, kolikor je njihova uporaba dovoljena na podlagi zadevnega prava Unije ali nacionalnega prava:

(a) 

sistemi UI, ki naj bi jih uporabljali organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije v podporo organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali v njihovem imenu za oceno tveganja, da fizična oseba postane žrtev kaznivih dejanj;

(b) 

sistemi UI, ki naj bi jih kot poligrafe ali podobna orodja uporabljali organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije v podporo organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj;

(c) 

sistemi UI, ki naj bi jih uporabljali organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije v podporo organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj za ocenjevanje zanesljivosti dokazov med preiskavo ali pregonom kaznivih dejanj;

(d) 

sistemi UI, ki naj bi jih uporabljali organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije v podporo organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj za oceno tveganja, ali bi fizična oseba storila ali ponovila kaznivo dejanje, ne samo na podlagi oblikovanja profilov fizičnih oseb iz člena 3(4) Direktive (EU) 2016/680, ali za oceno osebnostnih lastnosti in značilnosti ali preteklega kriminalnega ravnanja fizičnih oseb ali skupin;

(e) 

sistemi UI, ki naj bi jih uporabljali organi za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije v podporo organom za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj za oblikovanje profilov fizičnih oseb iz člena 3(4) Direktive (EU) 2016/680;

7. 

migracije, azil in upravljanje nadzora meje, kolikor je njihova uporaba dovoljena na podlagi zadevnega prava Unije ali nacionalnega prava:

(a) 

sistemi UI, ki naj bi jih uporabljali pristojni javni organi ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije kot poligrafe ali podobna orodja;

(b) 

sistemi UI, ki naj bi jih uporabljali pristojni javni organi ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije za oceno tveganja, vključno z varnostnim tveganjem, tveganjem nedovoljenih migracij ali zdravstvenim tveganjem, ki ga predstavlja fizična oseba, ki namerava vstopiti ali je vstopila na ozemlje države članice;

(c) 

sistemi UI, ki naj bi jih uporabljali pristojni javni organi ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije za pomoč pristojnim javnim organom pri preučitvi prošenj za azil, vizume in dovoljenja za prebivanje ter s tem povezanih pritožb glede upravičenosti fizičnih oseb, ki so zaprosile za status, vključno s pripadajočimi ocenami zanesljivosti dokazov;

(d) 

sistemi UI, ki naj bi jih uporabljali pristojni javni organi ali naj bi se uporabljali v njihovem imenu oziroma naj bi jih uporabljali institucije, organi, uradi in agencije Unije, v okviru migracij, azila in upravljanja nadzora meja za namene odkrivanja, prepoznavanja ali identifikacije fizičnih oseb, z izjemo preverjanja potnih listin;

8. 

pravosodje in demokratični procesi:

(a) 

sistemi UI, ki naj bi jih uporabljal sodni organ ali naj bi se uporabljali v njegovem imenu za pomoč sodnemu organu pri raziskovanju in razlagi dejstev in prava ter pri uporabi prava za konkreten sklop dejstev ali ki naj bi se uporabljali na podoben način pri alternativnem reševanju sporov;

(b) 

sistemi UI za vplivanje na izid volitev ali referenduma ali na volilno vedenje fizičnih oseb pri glasovanju na volitvah ali referendumih. To ne vključuje sistemov UI, katerih izhodnim podatkom fizične osebe niso neposredno izpostavljene, kot so orodja, ki se uporabljajo za organizacijo, optimizacijo ali strukturiranje političnih kampanj z upravnega in logističnega vidika.
PRILOGA IV Tehnična dokumentacija iz člena 11(1)



PRILOGA IV

Tehnična dokumentacija iz člena 11(1)

Tehnična dokumentacija iz člena 11(1) vsebuje vsaj naslednje informacije, kot velja za zadevni sistem UI:

1. 

splošni opis sistema UI, vključno z:

(a) 

njegovim predvidenim namenom, imenom ponudnika in različico sistema, ki odraža njegovo razmerje do prejšnjih različic;

(b) 

opisom, na kakšen način je sistem UI v interakciji s strojno ali programsko opremo, vključno z drugimi sistemi UI, ki niso del samega sistema UI, ali na kakšen način bi se lahko uporabljal za takšno interakcijo, kadar je ustrezno;

(c) 

različicami ustrezne programske opreme ali strojne programske opreme in morebitnimi zahtevami v zvezi s posodobitvami različice;

(d) 

opisom vseh oblik, v katerih je sistem UI dan na trg ali v uporabo, kot so programski paketi, vgrajeni v strojno opremo, prenosi ali API;

(e) 

opisom strojne opreme, na kateri naj bi sistem UI deloval;

(f) 

kadar je sistem UI sestavni del proizvodov, fotografijami ali ilustracijami, ki prikazujejo zunanje značilnosti, oznake in notranjo razporeditev teh proizvodov;

(g) 

osnovnim opisom uporabniškega vmesnika, ki se zagotovi uvajalcu;

(h) 

navodili za uvajalca za uporabo in, kadar je ustrezno, osnovnim opisom uporabniškega vmesnika, ki se zagotovi uvajalcu;

2. 

podroben opis elementov sistema UI in postopka za njegov razvoj, vključno z:

(a) 

metodami in ukrepi, izvedenimi za razvoj sistema UI, po potrebi vključno z uporabo prednaučenih sistemov ali orodij, ki so jih zagotovile tretje osebe, in načinom, kako jih je ponudnik uporabil, integriral ali spremenil;

(b) 

specifikacijami zasnove sistema, in sicer splošno logiko sistema UI in algoritmov; ključnimi odločitvami glede zasnove sistema, vključno z utemeljitvijo in predpostavkami, tudi glede oseb ali skupin oseb, za katere naj bi se sistem uporabljal; glavnimi izbirami razvrstitve; informacijami o tem, kaj naj bi sistem optimiziral in kako pomembni so različni parametri; opisom pričakovanih izhodnih podatkov sistema in njihovo kakovostjo; odločitvami o morebitnih kompromisih glede tehničnih rešitev, sprejetih za izpolnitev zahtev iz poglavja III, oddelek 2;

(c) 

opisom arhitekture sistema, ki pojasnjuje, kako se sestavni deli programske opreme medsebojno nadgrajujejo ali navezujejo in kako so vključeni v celotno obdelavo; računalniškimi viri, uporabljenimi za razvoj, učenje, testiranje in validacijo sistema UI;

(d) 

po potrebi zahtevami glede podatkov v zvezi s podatkovnimi listi, ki opisujejo metodologije in tehnike učenja ter uporabljene nabore učnih podatkov, vključno s splošnim opisom teh naborov podatkov, informacijami o njihovem izvoru, obsegu in glavnih značilnostih; načinom, kako so bili podatki pridobljeni in izbrani; postopki označevanja (npr. za nadzorovano učenje), metodologijami čiščenja podatkov (npr. odkrivanje osamelcev);

(e) 

oceno potrebnih ukrepov za človeški nadzor v skladu s členom 14, vključno z oceno tehničnih ukrepov, ki jih uvajalci potrebujejo za lažjo razlago izhodnih podatkov sistemov UI, v skladu s členom 13(3), točka (d);

(f) 

kadar je ustrezno, podrobnim opisom vnaprej določenih sprememb sistema UI in njegove zmogljivosti skupaj z vsemi ustreznimi informacijami v zvezi s tehničnimi rešitvami, sprejetimi za zagotovitev stalne skladnosti sistema UI z ustreznimi zahtevami iz poglavja III, oddelek 2;

(g) 

uporabljenimi postopki validacije in testiranja, vključno z informacijami o uporabljenih validacijskih in testnih podatkih ter njihovih glavnih značilnostih; metrikami, uporabljenimi za merjenje točnosti, robustnosti in skladnosti z drugimi ustreznimi zahtevami iz poglavja III, oddelek 2, pa tudi za merjenje potencialno diskriminatornih vplivov; dnevniki testiranj in vsemi poročili o testiranjih z datumi in podpisi odgovornih oseb, tudi v zvezi z vnaprej določenimi spremembami iz točke (f);

(h) 

sprejetimi ukrepi za kibernetsko varnost;

3. 

podrobne informacije o spremljanju, delovanju in nadzoru sistema UI, zlasti glede: njegovih kapacitet in omejitev zmogljivosti, vključno s stopnjami točnosti za določene osebe ali skupine oseb, za katere naj bi se sistem uporabljal, in splošno pričakovano stopnjo točnosti glede na predvideni namen; predvidljivih nenamernih rezultatov in virov tveganj za zdravje in varnost, temeljne pravice in diskriminacijo glede na predvideni namen sistema UI; potrebnih ukrepov za človeški nadzor v skladu s členom 14, vključno s sprejetimi tehničnimi ukrepi, ki uvajalcem omogočajo lažjo razlago izhodnih podatkov sistemov UI; specifikacij o vhodnih podatkih, če je to primerno;

4. 

opis ustreznosti metrik zmogljivosti za posamezni sistem UI;

5. 

podroben opis sistema obvladovanja tveganja v skladu s členom 9;

6. 

opis pomembnih sprememb sistema, ki jih je v njegovem življenjskem ciklu naredil ponudnik;

7. 

seznam harmoniziranih standardov, ki so bili delno ali v celoti uporabljeni in katerih sklici so bili objavljeni v Uradnem listu Evropske unije; kadar taki harmonizirani standardi niso bili uporabljeni, podroben opis rešitev, sprejetih za izpolnitev zahtev iz poglavja III, oddelek 2, vključno s seznamom drugih uporabljenih ustreznih standardov in tehničnih specifikacij;

8. 

izvod EU izjave o skladnosti iz člena 47;

9. 

podroben opis vzpostavljenega sistema za ocenjevanje zmogljivosti sistema UI v obdobju po dajanju na trg v skladu s členom 72, vključno z načrtom spremljanja po dajanju na trg iz člena 72(3).
PRILOGA V EU izjava o skladnosti



PRILOGA V

EU izjava o skladnosti

EU izjava o skladnosti iz člena 47 vsebuje vse naslednje podatke:

1. 

ime in vrsto sistema UI ter morebitne dodatne nedvoumne navedbe, ki omogočajo identifikacijo in sledljivost sistema UI;

2. 

ime in naslov ponudnika ali, kadar je ustrezno, njegovega pooblaščenega zastopnika;

3. 

izjavo, da je za izdajo EU izjave o skladnosti iz člena 47 odgovoren izključno ponudnik;

4. 

izjavo, da je sistem UI v skladu s to uredbo in po potrebi z drugimi določbami ustreznega prava Unije, ki določa izdajanje EU izjave o skladnosti iz člena 47;

5. 

kadar sistem UI vključuje obdelavo osebnih podatkov, izjavo, da je sistem UI skladen z uredbama (EU) 2016/679 in (EU) 2018/1725 ter Direktivo (EU) 2016/680;

6. 

sklice na morebitne uporabljene ustrezne harmonizirane standarde ali druge skupne specifikacije, v zvezi s katerimi je navedena skladnost;

7. 

kadar je ustrezno, ime in identifikacijsko številko priglašenega organa, opis postopka ugotavljanja skladnosti in identifikacijo izdanega certifikata;

8. 

kraj in datum izdaje izjave, ime in funkcijo podpisnika ter navedbo, za koga ali v imenu koga ta oseba podpisuje izjavo, in podpis.
PRILOGA VI Postopek ugotavljanja skladnosti na podlagi notranjega nadzora



PRILOGA VI

Postopek ugotavljanja skladnosti na podlagi notranjega nadzora

1. Postopek ugotavljanja skladnosti na podlagi notranjega nadzora je postopek ugotavljanja skladnosti, ki temelji na točkah 2, 3 in 4.

2. Ponudnik preveri, ali je vzpostavljeni sistem upravljanja kakovosti usklajen z zahtevami iz člena 17.

3. Ponudnik preuči informacije iz tehnične dokumentacije, da bi ocenil skladnost sistema UI z ustreznimi bistvenimi zahtevami iz poglavja III, oddelek 2.

4. Ponudnik tudi preveri, ali sta postopek zasnove in razvoja sistema UI ter njegovo spremljanje po dajanju na trg iz člena 72 skladna s tehnično dokumentacijo.
PRILOGA VII Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije



PRILOGA VII

Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije

1.   Uvod

Skladnost na podlagi ocene sistema upravljanja kakovosti in ocene tehnične dokumentacije se ugotovi s postopkom ugotavljanja skladnosti, ki temelji na točkah 2 do 5.

2.   Pregled

Odobreni sistem upravljanja kakovosti za načrtovanje, razvoj in testiranje sistemov UI na podlagi člena 17 se preuči v skladu s točko 3 in je predmet nadzora, kot je določeno v točki 5. Tehnična dokumentacija sistema UI se preuči v skladu s točko 4.

3.   Sistem upravljanja kakovosti

3.1. Zahtevek ponudnika vključuje:

(a) 

ime in naslov ponudnika in, če je zahtevek vložil pooblaščeni zastopnik, tudi njegovo ime in naslov;

(b) 

seznam sistemov UI, zajetih v istem sistemu upravljanja kakovosti;

(c) 

tehnično dokumentacijo za vse sisteme UI, zajete v istem sistemu upravljanja kakovosti;

(d) 

dokumentacijo v zvezi s sistemom upravljanja kakovosti, ki zajema vse vidike iz člena 17;

(e) 

opis postopkov, ki so vzpostavljeni za ohranjanje ustreznosti in učinkovitosti sistema upravljanja kakovosti;

(f) 

pisno izjavo, da isti zahtevek ni bil vložen pri nobenem drugem priglašenem organu.

3.2. Priglašeni organ oceni sistem upravljanja kakovosti, da ugotovi, ali izpolnjuje zahteve iz člena 17.

Odločitev se uradno sporoči ponudniku ali njegovemu pooblaščenemu zastopniku.

Obvestilo vsebuje ugotovitve ocenjevanja sistema upravljanja kakovosti in obrazloženo odločitev o oceni.

3.3. Ponudnik še naprej izvaja in vzdržuje odobreni sistem upravljanja kakovosti, da ostane ustrezen in učinkovit.

3.4. Ponudnik obvesti priglašeni organ o vseh načrtovanih spremembah odobrenega sistema upravljanja kakovosti ali seznama sistemov UI, zajetih v njem.

Priglašeni organ pregleda predlagane spremembe in presodi, ali spremenjeni sistem upravljanja kakovosti še naprej izpolnjuje zahteve iz točke 3.2 oziroma ali je potrebna ponovna ocena.

Priglašeni organ ponudnika uradno obvesti o svoji odločitvi. Obvestilo vsebuje ugotovitve pregleda sprememb in obrazloženo odločitev o oceni.

4.   Pregled tehnične dokumentacije

4.1. Ponudnik poleg zahtevka iz točke 3 pri priglašenem organu, ki ga izbere sam, vloži zahtevek za oceno tehnične dokumentacije v zvezi s sistemom UI, ki ga namerava dati na trg ali v uporabo in ki je zajet v sistemu upravljanja kakovosti iz točke 3.

4.2. Zahtevek vključuje:

(a) 

ime in naslov ponudnika;

(b) 

pisno izjavo, da enak zahtevek ni bil predložen nobenemu drugemu priglašenemu organu;

(c) 

tehnično dokumentacijo iz Priloge IV.

4.3. Priglašeni organ pregleda tehnično dokumentacijo. Kadar je primerno in omejeno na to, kar je potrebno za izpolnjevanje njegovih nalog, se priglašenemu organu omogoči neomejen dostop do uporabljenih naborov učnih, validacijskih in testnih podatkov, tudi, kadar je ustrezno in ob uporabi ustreznih varoval, prek API ali z drugimi ustreznimi tehničnimi sredstvi in orodji, ki omogočajo dostop na daljavo.

4.4. Pri pregledu tehnične dokumentacije lahko priglašeni organ zahteva, da ponudnik predloži dodatna dokazila ali izvede dodatna testiranja, da se omogoči ustrezna ocena skladnosti sistema UI z zahtevami iz poglavja III, oddelek 2. Kadar priglašeni organ ni zadovoljen s testiranji, ki jih je opravil ponudnik, neposredno sam opravi ustrezna testiranja, če je to primerno.

4.5. Potem ko so bili izkoriščeni in so se izkazali za nezadostne vsi drugi razumni načini preverjanja skladnosti, se priglašenemu organu na obrazloženo zahtevo dovoli tudi dostop do učnih in naučenih modelov sistema UI, vključno z njegovimi relevantnimi parametri, kadar je to potrebno za oceno skladnosti visokotveganega sistema UI z zahtevami iz naslova III, poglavje 2. Za tak dostop se uporablja veljavno pravo Unije in nacionalno pravo o intelektualni lastnini in poslovnih skrivnostih.

4.6. Odločitev priglašenega organa se uradno sporoči ponudniku ali njegovemu pooblaščenemu zastopniku. Obvestilo vsebuje ugotovitve ocenjevanja tehnične dokumentacije in obrazloženo odločitev o oceni.

Kadar je sistem UI skladen z zahtevami iz poglavja III, oddelek 2, priglašeni organ izda certifikat Unije o oceni tehnične dokumentacije. V certifikatu so navedeni ime in naslov ponudnika, ugotovitve pregleda, morebitni pogoji za njegovo veljavnost in podatki, potrebni za identifikacijo sistema UI.

V certifikatu in njegovih prilogah so navedene vse potrebne informacije za oceno skladnosti sistema UI in, kadar je ustrezno, nadzor sistema UI med uporabo.

Kadar sistem UI ni skladen z zahtevami iz poglavja III, oddelek 2, priglašeni organ zavrne izdajo certifikata Unije o oceni tehnične dokumentacije ter o tem obvesti vlagatelja in svojo zavrnitev podrobno utemelji.

Kadar sistem UI ne izpolnjuje zahtev glede podatkov, uporabljenih za njegovo učenje, bo pred zahtevkom za novo ugotavljanje skladnosti potrebno ponovno učenje sistema UI. V tem primeru obrazložena odločitev priglašenega organa o oceni, s katero zavrne izdajo certifikata Unije o oceni tehnične dokumentacije, vsebuje specifične premisleke glede kakovosti podatkov, uporabljenih za učenje sistema UI, zlasti glede razlogov za neskladnost.

4.7. Vsako spremembo sistema UI, ki bi lahko vplivala na njegovo skladnost z zahtevami ali predvidenim namenom, oceni priglašeni organ, ki je izdal certifikat Unije o oceni tehnične dokumentacije. Ponudnik obvesti ta priglašeni organ o svoji nameri, da bo uvedel katero koli od navedenih sprememb, obvesti pa ga tudi, če drugače izve za uvedbo takih sprememb. Priglašeni organ oceni načrtovane spremembe in odloči, ali je zaradi njih potrebno novo ugotavljanje skladnosti v skladu s členom 43(4) oziroma ali bi zadostovala dopolnitev certifikata Unije o oceni tehnične dokumentacije. V slednjem primeru priglašeni organ oceni spremembe, uradno obvesti ponudnika o svoji odločitvi in mu, kadar so spremembe odobrene, izda dopolnilo certifikata Unije o oceni tehnične dokumentacije.

5.   Nadzor odobrenega sistema upravljanja kakovosti

5.1. Namen nadzora, ki ga izvaja priglašeni organ iz točke 3, je zagotoviti, da ponudnik ustrezno izpolnjuje pogoje odobrenega sistema upravljanja kakovosti.

5.2. Za namene ocene ponudnik priglašenemu organu omogoči dostop do prostorov, v katerih potekajo zasnova, razvoj in testiranje sistemov UI. Poleg tega mu posreduje vse potrebne informacije.

5.3. Priglašeni organ opravlja redne revizije, s čimer zagotovi, da ponudnik vzdržuje in izvaja sistem upravljanja kakovosti, poročila o teh revizijah pa predloži ponudniku. V okviru teh revizij lahko priglašeni organ izvede dodatna testiranja sistemov UI, za katere je bil izdan certifikat Unije o oceni tehnične dokumentacije.
PRILOGA VIII Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v skladu s členom 49



PRILOGA VIII

Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v skladu s členom 49

Oddelek A – Informacije, ki jih predložijo ponudniki visokotveganih sistemov UI v skladu s členom 49(1)

V zvezi z visokotveganimi sistemi UI, ki se registrirajo v skladu s členom 49(1), se predložijo in nato posodabljajo naslednje informacije:

1. 

ime, naslov in kontaktni podatki ponudnika;

2. 

kadar informacije predloži druga oseba v imenu ponudnika: ime, naslov in kontaktni podatki te osebe;

3. 

ime, naslov in kontaktni podatki pooblaščenega zastopnika, kadar je ustrezno;

4. 

trgovsko ime sistema UI ter morebitne dodatne nedvoumne navedbe, ki omogočajo identifikacijo in sledljivost sistema UI;

5. 

opis predvidenega namena sistema UI ter komponent in funkcij, podprtih s tem sistemom UI;

6. 

kratek in jedrnat opis informacij, ki jih uporablja sistem (podatki, vhodni podatki), in logike delovanja sistema;

7. 

status sistema UI (na trgu ali v uporabi; ni več na trgu/v uporabi, odpoklican);

8. 

vrsta, številka in datum izteka veljavnosti certifikata, ki ga je izdal priglašeni organ, ter ime ali identifikacijska številka tega priglašenega organa, kadar je ustrezno;

9. 

skeniran izvod certifikata iz točke 8, kadar je ustrezno;

10. 

imena vse držav članic, v katerih je bil sistem UI dan na trg ali v uporabo oziroma je bila omogočena njegova dostopnost v Uniji;

11. 

izvod EU izjave o skladnosti iz člena 47;

12. 

elektronska navodila za uporabo; te informacije se ne predložijo za visokotvegane sisteme UI na področjih preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ali migracij, azila in upravljanja nadzora meje iz Priloge III, točke 1, 6 in 7;

13. 

URL za dodatne informacije (neobvezno).

Oddelek B – Informacije, ki jih predložijo ponudniki visokotveganih sistemov UI v skladu s členom 49(2)

V zvezi z visokotveganimi sistemi UI, ki se registrirajo v skladu s členom 49(2), se predložijo in nato posodabljajo naslednje informacije:

1. 

ime, naslov in kontaktni podatki ponudnika;

2. 

kadar informacije predloži druga oseba v imenu ponudnika: ime, naslov in kontaktni podatki te osebe;

3. 

ime, naslov in kontaktni podatki pooblaščenega zastopnika, kadar je ustrezno;

4. 

trgovsko ime sistema UI ter morebitne dodatne nedvoumne navedbe, ki omogočajo identifikacijo in sledljivost sistema UI;

5. 

opis predvidenega namena sistema UI;

6. 

pogoj ali pogoji iz člena 6(3), na podlagi katerih sistem UI ne šteje za visokotvegani;

▼M1 —————

▼B

8. 

status sistema UI (na trgu ali v uporabi; ni več na trgu/v uporabi, odpoklican).

▼M1 —————

▼B

Oddelek C – Informacije, ki jih predložijo uvajalci visokotveganih sistemov UI v skladu s členom 49(3)

V zvezi z visokotveganimi sistemi UI, ki se registrirajo v skladu s členom 49(3), se predložijo in nato posodabljajo naslednje informacije:

1. 

ime, naslov in kontaktni podatki uvajalca;

2. 

ime, naslov in kontaktni podatki osebe, ki posreduje informacije v imenu uvajalca;

3. 

URL naslov vnosa sistema UI v podatkovno zbirko EU, za katerega poskrbi njegov ponudnik;

4. 

povzetek ugotovitev ocene učinka v zvezi s temeljnimi pravicami, ki se opravi v skladu s členom 27;

5. 

kadar je ustrezno, povzetek ocene učinka v zvezi z varstvom podatkov, izvedene v skladu s členom 35 Uredbe (EU) 2016/679 ali členom 27 Direktive (EU) 2016/680, kot je določeno v členu 26(8) te uredbe.
PRILOGA IX Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v zvezi s testiranjem v realnih razmerah v skladu s členom 60



PRILOGA IX

Informacije, ki se predložijo ob registraciji visokotveganih sistemov UI v zvezi s testiranjem v realnih razmerah v skladu s členom 60

V zvezi s testiranjem v realnih razmerah, ki se registrira v skladu s členom 60, se predložijo in nato posodabljajo naslednje informacije:

1. 

vseevropska enotna identifikacijska številka testiranja v realnih razmerah;

2. 

ime in kontaktni podatki ponudnika ali potencialnega ponudnika in uvajalcev, ki sodelujejo pri testiranju v realnih razmerah;

3. 

kratek opis sistema UI, njegov predvideni namen in druge informacije, potrebne za identifikacijo sistema;

4. 

povzetek glavnih značilnosti načrta za testiranje v realnih razmerah;

5. 

informacije o začasni ali dokončni ustavitvi testiranja v realnih razmerah.
PRILOGA X



PRILOGA X

Zakonodajni akti Unije o obsežnih informacijskih sistemih s področja svobode, varnosti in pravice

1.   Schengenski informacijski sistem

(a) 

Uredba (EU) 2018/1860 Evropskega parlamenta in Sveta z dne 28. novembra 2018 o uporabi schengenskega informacijskega sistema za vračanje nezakonito prebivajočih državljanov tretjih držav (UL L 312, 7.12.2018, str. 1);

(b) 

Uredba (EU) 2018/1861 Evropskega parlamenta in Sveta z dne 28. novembra 2018 o vzpostavitvi, delovanju in uporabi schengenskega informacijskega sistema (SIS) na področju mejnih kontrol, o spremembi Konvencije o izvajanju Schengenskega sporazuma ter o spremembi in razveljavitvi Uredbe (ES) št. 1987/2006 (UL L 312, 7.12.2018, str. 14);

(c) 

Uredba (EU) 2018/1862 Evropskega parlamenta in Sveta z dne 28. novembra 2018 o vzpostavitvi, delovanju in uporabi schengenskega informacijskega sistema (SIS) na področju policijskega sodelovanja in pravosodnega sodelovanja v kazenskih zadevah, o spremembi in razveljavitvi Sklepa Sveta 2007/533/PNZ ter o razveljavitvi Uredbe (ES) št. 1986/2006 Evropskega parlamenta in Sveta in Sklepa Komisije 2010/261/EU (UL L 312, 7.12.2018, str. 56).

2.   Vizumski informacijski sistem

(a) 

Uredba (EU) 2021/1133 Evropskega parlamenta in Sveta z dne 7. julija 2021 o spremembi uredb (EU) št. 603/2013, (EU) 2016/794, (EU) 2018/1862, (EU) 2019/816 in (EU) 2019/818 v zvezi z določitvijo pogojev za dostop do drugih informacijskih sistemov EU za namene Vizumskega informacijskega sistema (UL L 248, 13.7.2021, str. 1).

(b) 

Uredba (EU) 2021/1134 Evropskega parlamenta in Sveta z dne 7. julija 2021 o spremembi uredb (ES) št. 767/2008, (ES) št. 810/2009, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1860, (EU) 2018/1861, (EU) 2019/817 in (EU) 2019/1896 Evropskega parlamenta in Sveta ter razveljavitvi Odločbe Sveta 2004/512/ES in Sklepa Sveta 2008/633/PNZ zaradi reforme Vizumskega informacijskega sistema (UL L 248, 13.7.2021, str. 11).

3.   Eurodac

Uredba (EU) 2024/1358 Evropskega parlamenta in Sveta z dne 14. maja 2024 o vzpostavitvi sistema Eurodac za primerjavo biometričnih podatkov zaradi učinkovite uporabe Uredbe (EU) 2024/1315 [uredba o upravljanju azila in migracij], Uredbe (EU) 2024/1350 [uredba o preselitvi] in Direktive 2001/55/ES [Direktiva o začasni zaščiti] za ugotavljanje istovetnosti nezakonito prebivajočih državljanov tretjih držav ali oseb brez državljanstva ter o zahtevah za primerjavo s podatki iz sistema Eurodac, ki jih vložijo organi kazenskega pregona držav članic in Europol za namene kazenskega pregona, ter o spremembi uredb (EU) 2018/1240 in (EU) 2019/818 ter razveljavitvi Uredbe (EU) št. 603/2013 Evropskega parlamenta in Sveta (UL L, 2024/1358, 22.5.2024, ELI: http://data.europa.eu/eli/reg/2024/1358/oj).

4.   Sistem vstopa/izstopa

Uredba (EU) 2017/2226 Evropskega parlamenta in Sveta z dne 30. novembra 2017 o vzpostavitvi sistema vstopa/izstopa (SVI) za evidentiranje podatkov o vstopu in izstopu ter podatkov o zavrnitvi vstopa državljanov tretjih držav pri prehajanju zunanjih meja držav članic in določitvi pogojev za dostop do SVI zaradi preprečevanja, odkrivanja in preiskovanja kaznivih dejanj ter o spremembi Konvencije o izvajanju Schengenskega sporazuma in uredb (ES) št. 767/2008 ter (EU) št. 1077/2011 (UL L 327, 9.12.2017, str. 20).

5.   Evropski sistem za potovalne informacije in odobritve

(a) 

Uredba (EU) 2018/1240 Evropskega parlamenta in Sveta z dne 12. septembra 2018 o vzpostavitvi Evropskega sistema za potovalne informacije in odobritve (ETIAS) ter spremembi uredb (EU) št. 1077/2011, (EU) št. 515/2014, (EU) 2016/399, (EU) 2016/1624 in (EU) 2017/2226 (UL L 236, 19.9.2018, str. 1);

(b) 

Uredba (EU) 2018/1241 Evropskega parlamenta in Sveta z dne 12. septembra 2018 o spremembi Uredbe (EU) 2016/794 za namene vzpostavitve Evropskega sistema za potovalne informacije in odobritve (ETIAS) (UL L 236, 19.9.2018, str. 72).

6.   Evropski informacijski sistem kazenskih evidenc za državljane tretjih držav in osebe brez državljanstva

Uredba (EU) 2019/816 Evropskega parlamenta in Sveta z dne 17. aprila 2019 o vzpostavitvi centraliziranega sistema za določitev držav članic, ki imajo informacije o obsodbah državljanov tretjih držav in oseb brez državljanstva (sistem ECRIS-TCN), z namenom dopolnitve evropskega informacijskega sistema kazenskih evidenc ter o spremembi Uredbe (EU) 2018/1726 (UL L 135, 22.5.2019, str. 1).

7.   Interoperabilnost

(a) 

Uredba (EU) 2019/817 Evropskega parlamenta in Sveta z dne 20. maja 2019 o vzpostavitvi okvira za interoperabilnost informacijskih sistemov EU na področju meja in vizumov ter spremembi uredb (ES) št. 767/2008, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1726 in (EU) 2018/1861 Evropskega parlamenta in Sveta ter Odločbe Sveta 2004/512/ES in Sklepa Sveta 2008/633/PNZ (UL L 135, 22.5.2019, str. 27);

(b) 

Uredba (EU) 2019/818 Evropskega parlamenta in Sveta z dne 20. maja 2019 o vzpostavitvi okvira za interoperabilnost informacijskih sistemov EU na področju policijskega in pravosodnega sodelovanja, azila ter migracij in spremembi uredb (EU) 2018/1726, (EU) 2018/1862 ter (EU) 2019/816 (UL L 135, 22.5.2019, str. 85).
PRILOGA XI Tehnična dokumentacija iz člena 53(1), točka (a) – tehnična dokumentacija za ponudnike modelov UI za splošne namene



PRILOGA XI

Tehnična dokumentacija iz člena 53(1), točka (a) – tehnična dokumentacija za ponudnike modelov UI za splošne namene

Oddelek 1

Informacije, ki jih predložijo vsi ponudniki modelov UI za splošne namene

Tehnična dokumentacija iz člena 53(1), točka (a), vsebuje vsaj naslednje informacije, odvisno od velikosti in profila tveganja modela:

1. 

splošni opis modela UI za splošne namene, vključno z:

(a) 

nalogami, ki naj bi jih model opravljal, ter vrsto in naravo sistemov UI, v katere se lahko vključi;

(b) 

veljavnimi politikami glede sprejemljive uporabe;

(c) 

datumom, na katerega je bil objavljen, in metodami distribucije;

(d) 

arhitekturo in številom parametrov;

(e) 

načinom (npr. besedilo, slika) ter obliko vhodnih in izhodnih podatkov;

(f) 

licenco;

2. 

podrobni opis elementov modela iz točke 1 in ustrezne informacije o postopku razvoja, vključno z naslednjimi elementi:

(a) 

tehničnimi sredstvi (npr. navodila za uporabo, infrastruktura, orodja), potrebnimi za vključitev modela UI za splošne namene v sisteme UI;

(b) 

specifikacijami zasnove modela in postopkom učenja, vključno z metodologijami in tehnikami učenja, ključnimi odločitvami glede zasnove, tudi utemeljitev in predpostavke; informacijami o tem, kaj naj bi model optimiziral in kako pomembni so različni parametri, kot je ustrezno;

(c) 

informacijami o podatkih, uporabljenih za učenje, testiranje in validacijo, kadar je primerno, vključno z vrsto in izvorom podatkov ter metodologijami urejanja (npr. čiščenje, filtriranje itd.), številom podatkovnih točk, njihovim obsegom in glavnimi značilnostmi; načinom pridobitve in izbire podatkov ter po potrebi vsemi drugimi ukrepi za odkrivanje neprimernosti virov podatkov in metod za zaznavanje prepoznavnih pristranskosti;

(d) 

računalniškimi viri, ki se uporabljajo za učenje modela (npr. število operacij s plavajočo vejico), čas učenja in druge pomembne podrobnosti v zvezi z učenjem;

(e) 

znano ali ocenjeno energetsko porabo modela.

Kadar energetska poraba modela iz točke (e) ni znana, lahko energetska poraba temelji na informacijah o uporabljenih računalniških virih.

Oddelek 2

Dodatne informacije, ki jih predložijo ponudniki modelov UI za splošne namene s sistemskim tveganjem

1. podrobni opis strategij ocenjevanja, vključno z rezultati ocenjevanja, na podlagi razpoložljivih javnih protokolov in orodij za ocenjevanje ali drugih metodologij za ocenjevanje. Strategije ocenjevanja vključujejo merila za ocenjevanje, metrike in metodologijo za opredelitev omejitev;

2. kadar je ustrezno, podrobni opis ukrepov, sprejetih za izvajanje notranjega in/ali zunanjega preskušanja po načelu kontradiktornosti (npr. etični heking) in prilagoditve modela, vključno z uskladitvami in izpopolnitvami;

3. kadar je ustrezno, podrobni opis arhitekture sistema, ki pojasnjuje, kako se sestavni deli programske opreme medsebojno nadgrajujejo ali navezujejo in kako so vključeni v celotno obdelavo.
PRILOGA XII Informacije o preglednosti iz člena 53(1), točka (b) – tehnična dokumentacija, ki jo ponudniki modelov UI za splošne namene dajo na razpolago ponudnikom nižje v verigi, ki model vključijo v svoj sistem UI



PRILOGA XII

Informacije o preglednosti iz člena 53(1), točka (b) – tehnična dokumentacija, ki jo ponudniki modelov UI za splošne namene dajo na razpolago ponudnikom nižje v verigi, ki model vključijo v svoj sistem UI

Informacije iz člena 53(1), točka (b), vsebujejo vsaj naslednje:

1. 

splošni opis modela UI za splošne namene, vključno z:

(a) 

nalogami, ki naj bi jih model opravljal, ter vrsto in naravo sistemov UI, v katere se lahko vključi;

(b) 

veljavnimi politikami glede sprejemljive uporabe;

(c) 

datumom, na katerega je bil objavljen, in metodami distribucije;

(d) 

opisom, na kakšen način je model v interakciji s strojno ali programsko opremo, ki ni del samega modela, ali na kakšen način bi se lahko uporabljal za takšno interakcijo, kadar je ustrezno;

(e) 

različicami ustrezne programske opreme, povezane z uporabo modela UI za splošne namene, kadar je to ustrezno;

(f) 

arhitekturo in številom parametrov;

(g) 

načinom (npr. besedilo, slika) ter obliko vhodnih in izhodnih podatkov;

(h) 

licenco za model;

2. 

opis elementov modela in postopka za njegov razvoj, vključno s:

(a) 

tehničnimi sredstvi (npr. navodila za uporabo, infrastruktura, orodja), potrebnimi za vključitev modela UI za splošne namene v sisteme UI;

(b) 

načinom (npr. besedilo, slika itd.) ter obliko vhodnih in izhodnih podatkov, pa tudi njihovo največjo velikostjo (npr. dolžina vsebinskega okna itd.);

(c) 

informacijami o podatkih, uporabljenih za učenje, testiranje in validacijo, kadar je primerno, vključno z vrsto in izvorom podatkov ter metodologijami urejanja.
PRILOGA XIII Merila za označitev modelov UI za splošne namene s sistemskim tveganjem iz člena 51



PRILOGA XIII

Merila za označitev modelov UI za splošne namene s sistemskim tveganjem iz člena 51

Pri ugotavljanju, ali ima model UI za splošne namene zmogljivosti ali vpliv, enakovredne tistim iz člena 51(1), točka (a), Komisija upošteva naslednja merila:

(a) 

število parametrov modela;

(b) 

kakovost ali velikost nabora podatkov, merjeno na primer z žetoni;

(c) 

količino izračuna, uporabljeno za učenje modela, merjeno z operacijami s plavajočo vejico ali izraženo s kombinacijo drugih spremenljivk, kot so ocenjeni stroški učenja, predvideni čas, potreben za učenje, ali ocenjena poraba energije za učenje;

(d) 

vhodne in izhodne načine modela, kot so besedilo v besedilo (veliki jezikovni modeli), besedilo v podobo, večmodalnost in najsodobnejši pragovi za določanje ►C2  zmogljivosti z velikim vplivom ◄ za vsak način, ter posebna vrsta vhodnih in izhodnih podatkov (npr. biološka zaporedja);

(e) 

►C2  referenčne vrednosti ◄ in ocenjevanja zmogljivosti modela, vključno z upoštevanjem števila nalog brez dodatnega učenja, prilagodljivostjo za učenje novih, različnih nalog, njegovo stopnjo avtonomije in nadgradljivosti ter orodji, do katerih ima dostop;

(f) 

ali ima velik vpliv na notranji trg zaradi svojega dosega, na katerega se domneva, ko je bil dan na voljo vsaj 10 000 registriranim poslovnim uporabnikom s sedežem v Uniji;

(g) 

število registriranih končnih uporabnikov.
PRILOGA XIV



PRILOGA XIV

Seznam kod, kategorij in ustreznih vrst sistemov UI za namene postopka priglasitve iz člena 30, ki določa področje uporabe imenovanja priglašenih organov

1.    Uvod

Pri ugotavljanju skladnosti visokotveganih sistemov UI na podlagi te uredbe bodo morda morali sodelovati organi za ugotavljanje skladnosti. Samo organi za ugotavljanje skladnosti, ki so bili imenovani v skladu s to uredbo, lahko ugotavljajo skladnost, in sicer le pri dejavnostih, povezanih z zadevnimi kategorijami in vrstami sistemov UI. Seznam kod, kategorij in ustreznih vrst sistemov UI določa področje uporabe imenovanja organov za ugotavljanje skladnosti, priglašenih na podlagi člena 30.

2.    Seznam kod, kategorij in ustreznih sistemov UI

a.    Sistemi, za katere se uporablja Priloga I



Koda AIA

 

AIP 0102

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 2.

AIP 0103

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 3.

AIP 0104

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 4.

AIP 0105

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 5.

AIP 0106

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 6.

AIP 0107

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 7.

AIP 0108

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 8.

AIP 0109

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 9.

AIP 0110

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 10.

AIP 0111

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 11.

AIP 0112

Sistemi UI, za katere se uporablja Priloga I, oddelek A, točka 12.

b.    Sistemi UI, za katere se uporablja Priloga III, točka 1



Koda AIA

 

AIB 0201

Sistemi za biometrično identifikacijo na daljavo

AIB 0202

Sistemi UI za biometrično kategorizacijo

AIB 0203

Sistemi UI za prepoznavanje čustev

3.    Kode, specifične za tehnologijo UI

a.    Simbolna UI in ekspertni sistemi



Koda AIA

 

AIH 0101

Sistemi UI, ki temeljijo na simbolni UI, ekspertni in na znanju temelječi sistemi ter sistemi UI, ki temeljijo na iskanju in optimizaciji

b.    Strojno učenje, razen generativne UI in sistemov UI za splošne namene



Koda AIA

 

AIH 0201

Sistemi UI, ki obdelujejo strukturirane podatke

AIH 0202

Sistemi UI, ki obdelujejo signale in zvočne podatke

AIH 0203

Sistemi UI, ki obdelujejo besedilne podatke

AIH 0204

Sistemi UI, ki obdelujejo slike in videoposnetke

AIH 0205

Sistemi UI, ki se učijo iz svojega okolja, razen sistemov UI, ki spadajo pod kodo AIH 0401

c.    Sistemi UI, ki temeljijo na modelih UI za splošne namene ali generativni UI



Koda AIA

 

AIH 0301

Sistemi generativne umetne inteligence, vključno s sistemi UI, ki temeljijo na modelih UI za splošne namene

d.    Nastajajoče tehnologije umetne inteligence



Koda AIA

 

AIH 0401

Sistemi UI, ki temeljijo na drugih nastajajočih tehnologijah UI, ki niso zajete z drugimi kodami, vključno z agentno UI

4.    Vloga za imenovanje

Organi za ugotavljanje skladnosti pri določanju vrst sistemov UI v vlogi za imenovanje iz člena 29 uporabljajo sezname kod, kategorij in ustreznih vrst sistemov UI iz te priloge.

1.1 Sklici

1.2 Ugotovljene zahteve

1.3 Povezani standardi

2. Ugotovljene zahteve

Zahteve

3. Povezani standardi

Standardi

Povezane zadeve

Povezave
is related to New version: AI Act (KI-Verordnung) (CELEX:02024R1689-20260727) – 0 new, 0 changed, 3 removed