+UREDBA (EU) 2024/1689 EUROPSKOG PARLAMENTA I VIJEĆA od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji) (Tekst značajan za EGP)
---+POGLAVLJE I. OPĆE ODREDBE
------+Članak 1. Predmet
---------+Članak 1. 1.
---------+Članak 1. 2.
------+Članak 2. Područje primjene
---------+Članak 2. 1.
---------+Članak 2. 2.
---------+Članak 2. 3.
---------+Članak 2. 4.
---------+Članak 2. 5.
---------+Članak 2. 6.
---------+Članak 2. 7.
---------+Članak 2. 8.
---------+Članak 2. 9.
---------+Članak 2. 10.
---------+Članak 2. 11.
---------+Članak 2. 12.
---------+Članak 2. 13.
------+Članak 3. Definicije
------+Članak 4. Pismenost u području umjetne inteligencije
---------+Članak 4. 1.
---------+Članak 4. 2.
---------+Članak 4. 3.
------+Članak 4.a Obrada posebnih kategorija osobnih podataka u svrhu otkrivanja i ispravljanja pristranosti
---------+Članak 4.a 1.
---------+Članak 4.a 2.
---+POGLAVLJE II. ZABRANJENE PRAKSE U PODRUČJU UMJETNE INTELIGENCIJE
------+Članak 5. Zabranjene prakse u području umjetne inteligencije
---------+Članak 5. 1.
---------+Article 5 1a.
---------+Article 5 1b.
---------+Članak 5. 2.
---------+Članak 5. 3.
---------+Članak 5. 4.
---------+Članak 5. 5.
---------+Članak 5. 6.
---------+Članak 5. 7.
---------+Članak 5. 8.
---+POGLAVLJE III. VISOKORIZIČNI UI SUSTAVI
------+ODJELJAK 1. Klasifikacija UI sustava kao visokorizičnih
---------+Članak 6. Pravila o klasifikaciji UI sustava kao visokorizičnih
------------+Članak 6. 1.
------------+Article 6 1a.
------------+Article 6 1b.
------------+Article 6 1c.
------------+Članak 6. 2.
------------+Članak 6. 3.
------------+Članak 6. 4.
------------+Članak 6. 5.
------------+Članak 6. 6.
------------+Članak 6. 7.
------------+Članak 6. 8.
---------+Članak 7. Izmjene Priloga III.
------------+Članak 7. 1.
------------+Članak 7. 2.
------------+Članak 7. 3.
------+ODJELJAK 2. Zahtjevi za visokorizične UI sustave
---------+Članak 8. Ispunjavanje zahtjeva
------------+Članak 8. 1.
------------+Članak 8. 2.
---------+Članak 9. Sustav upravljanja rizikom
------------+Članak 9. 1.
------------+Članak 9. 2.
------------+Članak 9. 3.
------------+Članak 9. 4.
------------+Članak 9. 5.
------------+Članak 9. 6.
------------+Članak 9. 7.
------------+Članak 9. 8.
------------+Članak 9. 9.
------------+Članak 9. 10.
---------+Članak 10. Podaci i upravljanje podacima
------------+Članak 10. 1.
------------+Članak 10. 2.
------------+Članak 10. 3.
------------+Članak 10. 4.
------------+Članak 10. 6.
---------+Članak 11. Tehnička dokumentacija
------------+Članak 11. 1.
------------+Članak 11. 2.
------------+Članak 11. 3.
---------+Članak 12. Čuvanje evidencije
------------+Članak 12. 1.
------------+Članak 12. 2.
------------+Članak 12. 3.
---------+Članak 13. Transparentnost i pružanje informacija subjektima koji uvode sustav
------------+Članak 13. 1.
------------+Članak 13. 2.
------------+Članak 13. 3.
---------+Članak 14. Ljudski nadzor
------------+Članak 14. 1.
------------+Članak 14. 2.
------------+Članak 14. 3.
------------+Članak 14. 4.
------------+Članak 14. 5.
---------+Članak 15. Točnost, otpornost i kibernetička sigurnost
------------+Članak 15. 1.
------------+Članak 15. 2.
------------+Članak 15. 3.
------------+Članak 15. 4.
------------+Članak 15. 5.
------+ODJELJAK 3. Obveze dobavljača visokorizičnih UI sustava i subjekata koji ih uvode te drugih strana
---------+Članak 16. Obveze dobavljača visokorizičnih UI sustava
---------+Članak 17. Sustav upravljanja kvalitetom
------------+Članak 17. 1.
------------+Članak 17. 2.
------------+Članak 17. 3.
------------+Članak 17. 4.
---------+Članak 18. Čuvanje dokumentacije
------------+Članak 18. 1.
------------+Članak 18. 2.
------------+Članak 18. 3.
---------+Članak 19. Automatski generirana evidencija
------------+Članak 19. 1.
------------+Članak 19. 2.
---------+Članak 20. Korektivne mjere i obveza obavješćivanja
------------+Članak 20. 1.
------------+Članak 20. 2.
---------+Članak 21. Suradnja s nadležnim tijelima
------------+Članak 21. 1.
------------+Članak 21. 2.
------------+Članak 21. 3.
---------+Članak 22. Ovlašteni zastupnici dobavljačâ visokorizičnih UI sustava
------------+Članak 22. 1.
------------+Članak 22. 2.
------------+Članak 22. 3.
------------+Članak 22. 4.
---------+Članak 23. Obveze uvoznikâ
------------+Članak 23. 1.
------------+Članak 23. 2.
------------+Članak 23. 3.
------------+Članak 23. 4.
------------+Članak 23. 5.
------------+Članak 23. 6.
------------+Članak 23. 7.
---------+Članak 24. Obveze distributerâ
------------+Članak 24. 1.
------------+Članak 24. 2.
------------+Članak 24. 3.
------------+Članak 24. 4.
------------+Članak 24. 5.
------------+Članak 24. 6.
---------+Članak 25. Odgovornosti duž vrijednosnog lanca umjetne inteligencije
------------+Članak 25. 1.
------------+Članak 25. 2.
------------+Članak 25. 3.
------------+Članak 25. 4.
------------+Članak 25. 5.
---------+Članak 26. Obveze subjekata koji uvode visokorizične UI sustave
------------+Članak 26. 1.
------------+Članak 26. 2.
------------+Članak 26. 3.
------------+Članak 26. 4.
------------+Članak 26. 5.
------------+Članak 26. 6.
------------+Članak 26. 7.
------------+Članak 26. 8.
------------+Članak 26. 9.
------------+Članak 26. 10.
------------+Članak 26. 11.
------------+Članak 26. 12.
---------+Članak 27. Procjena učinka visokorizičnih UI sustava na temeljna prava
------------+Članak 27. 1.
------------+Članak 27. 2.
------------+Članak 27. 3.
------------+Članak 27. 4.
------------+Članak 27. 5.
------+ODJELJAK 4. Tijela koja provode prijavljivanje i prijavljena tijela
---------+Članak 28. Tijela koja provode prijavljivanje
------------+Članak 28. 1.
------------+Članak 28. 2.
------------+Članak 28. 3.
------------+Članak 28. 4.
------------+Članak 28. 5.
------------+Članak 28. 6.
------------+Članak 28. 7.
------------+Članak 28. 8.
------------+Članak 28. 9.
---------+Članak 29. Zahtjev tijela za ocjenjivanje sukladnosti za prijavljivanje
------------+Članak 29. 1.
------------+Članak 29. 2.
------------+Članak 29. 3.
------------+Članak 29. 4.
---------+Članak 30. Postupak prijavljivanja
------------+Članak 30. 1.
------------+Članak 30. 2.
------------+Članak 30. 3.
------------+Članak 30. 4.
------------+Članak 30. 5.
---------+Članak 31. Zahtjevi koji se odnose na prijavljena tijela
------------+Članak 31. 1.
------------+Članak 31. 2.
------------+Članak 31. 3.
------------+Članak 31. 4.
------------+Članak 31. 5.
------------+Članak 31. 6.
------------+Članak 31. 7.
------------+Članak 31. 8.
------------+Članak 31. 9.
------------+Članak 31. 10.
------------+Članak 31. 11.
------------+Članak 31. 12.
---------+Članak 32. Pretpostavka sukladnosti sa zahtjevima koji se odnose na prijavljena tijela
---------+Članak 33. Podružnice prijavljenih tijela i podugovaranje
------------+Članak 33. 1.
------------+Članak 33. 2.
------------+Članak 33. 3.
------------+Članak 33. 4.
---------+Članak 34. Operativne obveze prijavljenih tijela
------------+Članak 34. 1.
------------+Članak 34. 2.
------------+Članak 34. 3.
---------+Članak 35. Identifikacijski brojevi i popisi prijavljenih tijela
------------+Članak 35. 1.
------------+Članak 35. 2.
---------+Članak 36. Promjene u vezi s prijavama
------------+Članak 36. 1.
------------+Članak 36. 2.
------------+Članak 36. 3.
------------+Članak 36. 4.
------------+Članak 36. 5.
------------+Članak 36. 6.
------------+Članak 36. 7.
------------+Članak 36. 8.
------------+Članak 36. 9.
---------+Članak 37. Osporavanje stručnosti prijavljenih tijela
------------+Članak 37. 1.
------------+Članak 37. 2.
------------+Članak 37. 3.
------------+Članak 37. 4.
---------+Članak 38. Koordinacija prijavljenih tijela
------------+Članak 38. 1.
------------+Članak 38. 2.
------------+Članak 38. 3.
---------+Članak 39. Tijela za ocjenjivanje sukladnosti iz trećih zemalja
------+ODJELJAK 5. Norme, ocjenjivanje sukladnosti, potvrde, registracija
---------+Članak 40. Usklađene norme i normizacijski dokumenti
------------+Članak 40. 1.
------------+Članak 40. 2.
------------+Članak 40. 3.
---------+Članak 41. Zajedničke specifikacije
------------+Članak 41. 1.
------------+Članak 41. 2.
------------+Članak 41. 3.
------------+Članak 41. 4.
------------+Članak 41. 5.
------------+Članak 41. 6.
---------+Članak 42. Pretpostavka sukladnosti s određenim zahtjevima
------------+Članak 42. 1.
------------+Članak 42. 2.
------------+Članak 42. 3.
---------+Članak 43. Ocjenjivanje sukladnosti
------------+Članak 43. 1.
------------+Članak 43. 2.
------------+Članak 43. 3.
------------+Članak 43. 4.
------------+Članak 43. 5.
------------+Članak 43. 6.
---------+Članak 44. Potvrde
------------+Članak 44. 1.
------------+Članak 44. 2.
------------+Članak 44. 3.
---------+Članak 45. Obveze prijavljenih tijela u pogledu obavješćivanja
------------+Članak 45. 1.
------------+Članak 45. 2.
------------+Članak 45. 3.
------------+Članak 45. 4.
---------+Članak 46. Odstupanje od postupka ocjenjivanja sukladnosti
------------+Članak 46. 1.
------------+Članak 46. 2.
------------+Članak 46. 3.
------------+Članak 46. 4.
------------+Članak 46. 5.
------------+Članak 46. 6.
------------+Članak 46. 7.
---------+Članak 47. EU izjava o sukladnosti
------------+Članak 47. 1.
------------+Članak 47. 2.
------------+Članak 47. 3.
------------+Članak 47. 4.
------------+Članak 47. 5.
---------+Članak 48. Oznaka CE
------------+Članak 48. 1.
------------+Članak 48. 2.
------------+Članak 48. 3.
------------+Članak 48. 4.
------------+Članak 48. 5.
---------+Članak 49. Registracija
------------+Članak 49. 1.
------------+Članak 49. 2.
------------+Članak 49. 3.
------------+Članak 49. 4.
------------+Članak 49. 5.
---+POGLAVLJE IV. OBVEZE U POGLEDU TRANSPARENTNOSTI ZA DOBAVLJAČE ODREĐENIH UI SUSTAVA I SUBJEKTE KOJI IH UVODE
------+Članak 50. Obveze u pogledu transparentnosti za dobavljače određenih UI sustava i subjekte koji ih uvode
---------+Članak 50. 1.
---------+Članak 50. 2.
---------+Članak 50. 3.
---------+Članak 50. 4.
---------+Članak 50. 5.
---------+Članak 50. 6.
---------+Članak 50. 7.
---+POGLAVLJE V. UI MODELI OPĆE NAMJENE
------+ODJELJAK 1. Pravila o klasifikaciji
---------+Članak 51. Klasifikacija UI modela opće namjene kao UI modela opće namjene sa sistemskim rizikom
------------+Članak 51. 1.
------------+Članak 51. 2.
------------+Članak 51. 3.
---------+Članak 52. Postupak
------------+Članak 52. 1.
------------+Članak 52. 2.
------------+Članak 52. 3.
------------+Članak 52. 4.
------------+Članak 52. 5.
------------+Članak 52. 6.
------+ODJELJAK 2. Obveze dobavljača UI modelâ opće namjene
---------+Članak 53. Obveze dobavljača UI modelâ opće namjene
------------+Članak 53. 1.
------------+Članak 53. 2.
------------+Članak 53. 3.
------------+Članak 53. 4.
------------+Članak 53. 5.
------------+Članak 53. 6.
------------+Članak 53. 7.
---------+Članak 54. Ovlašteni zastupnici dobavljača UI modelâ opće namjene
------------+Članak 54. 1.
------------+Članak 54. 2.
------------+Članak 54. 3.
------------+Članak 54. 4.
------------+Članak 54. 5.
------------+Članak 54. 6.
------+ODJELJAK 3. Obveze dobavljača UI modelâ opće namjene sa sistemskim rizikom
---------+Članak 55. Obveze dobavljača UI modelâ opće namjene sa sistemskim rizikom
------------+Članak 55. 1.
------------+Članak 55. 2.
------------+Članak 55. 3.
------+ODJELJAK 4. Kodeksi prakse
---------+Članak 56. Kodeksi prakse
------------+Članak 56. 1.
------------+Članak 56. 2.
------------+Članak 56. 3.
------------+Članak 56. 4.
------------+Članak 56. 5.
------------+Članak 56. 6.
------------+Članak 56. 7.
------------+Članak 56. 8.
------------+Članak 56. 9.
---+POGLAVLJE VI. MJERE ZA POTPORU INOVACIJAMA
------+Članak 57. Regulatorna izolirana okruženja za umjetnu inteligenciju
---------+Članak 57. 1.
---------+Članak 57. 2.
---------+Članak 57. 3.
---------+Article 57 3a.
---------+Članak 57. 4.
---------+Članak 57. 5.
---------+Članak 57. 6.
---------+Članak 57. 7.
---------+Članak 57. 8.
---------+Članak 57. 9.
---------+Članak 57. 10.
---------+Članak 57. 11.
---------+Članak 57. 12.
---------+Članak 57. 13.
---------+Članak 57. 14.
---------+Članak 57. 15.
---------+Članak 57. 16.
---------+Članak 57. 17.
------+Članak 58. Detaljni aranžmani za regulatorna izolirana okruženja za umjetnu inteligenciju i njihovo funkcioniranje
---------+Članak 58. 1.
---------+Članak 58. 2.
---------+Članak 58. 3.
---------+Članak 58. 4.
------+Članak 59. Daljnja obrada osobnih podataka za razvoj određenih UI sustava u javnom interesu u regulatornom izoliranom okruženju za umjetnu inteligenciju
---------+Članak 59. 1.
---------+Članak 59. 2.
---------+Članak 59. 3.
------+Članak 60. Testiranje visokorizičnih UI sustava u stvarnim uvjetima izvan regulatornih izoliranih okruženja za umjetnu inteligenciju
---------+Članak 60. 1.
---------+Članak 60. 2.
---------+Članak 60. 3.
---------+Članak 60. 4.
---------+Članak 60. 5.
---------+Članak 60. 6.
---------+Članak 60. 7.
---------+Članak 60. 8.
---------+Članak 60. 9.
------+Članak 60.a Testiranje visokorizičnih UI sustava obuhvaćenih zakonodavstvom Unije o usklađivanju navedenim u odjeljku B Priloga I. u stvarnim uvjetima izvan regulatornih izoliranih okruženja za umjetnu inteligenciju
---------+Članak 60.a 1.
---------+Članak 60.a 2.
---------+Članak 60.a 3.
---------+Članak 60.a 4.
---------+Članak 60.a 5.
---------+Članak 60.a 6.
------+Članak 61. Informirani pristanak za sudjelovanje u testiranju u stvarnim uvjetima izvan regulatornih izoliranih okruženja za umjetnu inteligenciju
---------+Članak 61. 1.
---------+Članak 61. 2.
------+Članak 62. Mjere za dobavljače i subjekte koji uvode sustav, posebno MSP-ove, uključujući start-up poduzeća
---------+Članak 62. 1.
---------+Članak 62. 2.
---------+Članak 62. 3.
------+Članak 63. Odstupanja za specifične operatere
---------+Članak 63. 1.
---------+Članak 63. 2.
---+POGLAVLJE VII. UPRAVLJANJE
------+ODJELJAK 1. Upravljanje na razini Unije
---------+Članak 64. Ured za umjetnu inteligenciju
------------+Članak 64. 1.
------------+Članak 64. 2.
------------+Članak 64. 3.
---------+Članak 65. Osnivanje i struktura Europskog vijeća za umjetnu inteligenciju
------------+Članak 65. 1.
------------+Članak 65. 2.
------------+Članak 65. 3.
------------+Članak 65. 4.
------------+Članak 65. 5.
------------+Članak 65. 6.
------------+Članak 65. 7.
------------+Članak 65. 8.
---------+Članak 66. Zadaće Vijeća za umjetnu inteligenciju
---------+Članak 67. Savjetodavni forum
------------+Članak 67. 1.
------------+Članak 67. 2.
------------+Članak 67. 3.
------------+Članak 67. 4.
------------+Članak 67. 5.
------------+Članak 67. 6.
------------+Članak 67. 7.
------------+Članak 67. 8.
------------+Članak 67. 9.
------------+Članak 67. 10.
---------+Članak 68. Znanstveno povjerenstvo neovisnih stručnjaka
------------+Članak 68. 1.
------------+Članak 68. 2.
------------+Članak 68. 3.
------------+Članak 68. 4.
------------+Članak 68. 5.
---------+Članak 69. Pristup država članica stručnjacima
------------+Članak 69. 1.
------------+Članak 69. 2.
------------+Članak 69. 3.
------+ODJELJAK 2. Nacionalna nadležna tijela
---------+Članak 70. Imenovanje nacionalnih nadležnih tijela i jedinstvenih kontaktnih točaka
------------+Članak 70. 1.
------------+Članak 70. 2.
------------+Članak 70. 3.
------------+Članak 70. 4.
------------+Članak 70. 5.
------------+Članak 70. 6.
------------+Članak 70. 7.
------------+Članak 70. 8.
------------+Članak 70. 9.
---+POGLAVLJE VIII. BAZA PODATAKA EU-A ZA VISOKORIZIČNE UI SUSTAVE
------+Članak 71. Baza podataka EU-a za visokorizične UI sustave iz Priloga III.
---------+Članak 71. 1.
---------+Članak 71. 2.
---------+Članak 71. 3.
---------+Članak 71. 4.
---------+Članak 71. 5.
---------+Članak 71. 6.
---+POGLAVLJE IX. PRAĆENJE NAKON STAVLJANJA NA TRŽIŠTE, RAZMJENA INFORMACIJA I NADZOR TRŽIŠTA
------+ODJELJAK 1. Praćenje nakon stavljanja na tržište
---------+Članak 72. Praćenje nakon stavljanja na tržište koje provode dobavljači i plan praćenja nakon stavljanja na tržište za visokorizične UI sustave
------------+Članak 72. 1.
------------+Članak 72. 2.
------------+Članak 72. 3.
------------+Članak 72. 4.
------+ODJELJAK 2. Razmjena informacija o ozbiljnim incidentima
---------+Članak 73. Prijavljivanje ozbiljnih incidenata
------------+Članak 73. 1.
------------+Članak 73. 2.
------------+Članak 73. 3.
------------+Članak 73. 4.
------------+Članak 73. 5.
------------+Članak 73. 6.
------------+Članak 73. 7.
------------+Članak 73. 8.
------------+Članak 73. 9.
------------+Članak 73. 10.
------------+Članak 73. 11.
------+ODJELJAK 3. Izvršavanje
---------+Članak 74. Nadzor nad tržištem i kontrola UI sustava na tržištu Unije
------------+Članak 74. 1.
------------+Članak 74. 2.
------------+Članak 74. 3.
------------+Članak 74. 4.
------------+Članak 74. 5.
------------+Članak 74. 6.
------------+Članak 74. 7.
------------+Članak 74. 8.
------------+Članak 74. 9.
------------+Članak 74. 10.
------------+Članak 74. 11.
------------+Članak 74. 12.
------------+Članak 74. 13.
------------+Članak 74. 14.
---------+Članak 75. Nadzor tržišta, kontrola UI sustava i uzajamna pomoć
------------+Članak 75. 1.
------------+Article 75 1a.
------------+Article 75 1b.
------------+Article 75 1c.
------------+Article 75 1d.
------------+Article 75 1e.
------------+Članak 75. 2.
------------+Article 75 2a.
------------+Članak 75. 3.
---------+Članak 75.a Nadzorne ovlasti i ovlasti izvršavanja Ureda za umjetnu inteligenciju
------------+Članak 75.a 1.
------------+Članak 75.a 2.
------------+Članak 75.a 3.
------------+Članak 75.a 4.
------------+Članak 75.a 5.
------------+Članak 75.a 6.
------------+Članak 75.a 7.
------------+Članak 75.a 8.
---------+Članak 75.b Obveze
---------+Članak 75.c Neusklađenost, novčane kazne i periodični penali
------------+Članak 75.c 1.
------------+Članak 75.c 2.
------------+Članak 75.c 3.
------------+Članak 75.c 4.
------------+Članak 75.c 5.
------------+Članak 75.c 6.
------------+Članak 75.c 7.
------------+Članak 75.c 8.
------------+Članak 75.c 9.
---------+Članak 75.d Zaštitne mjere i dodatne specifikacije
------------+Članak 75.d 1.
------------+Članak 75.d 2.
------------+Članak 75.d 3.
------------+Članak 75.d 4.
---------+Članak 76. Nadzor testiranja u stvarnim uvjetima koji provode tijela za nadzor tržišta
------------+Članak 76. 1.
------------+Članak 76. 2.
------------+Članak 76. 3.
------------+Članak 76. 4.
------------+Članak 76. 5.
---------+Članak 77. Ovlasti tijela nadležnih za zaštitu temeljnih prava i suradnja s tijelima za nadzor tržišta
------------+Članak 77. 1.
------------+Article 77 1a.
------------+Article 77 1b.
------------+Članak 77. 2.
------------+Članak 77. 3.
------------+Članak 77. 4.
---------+Članak 78. Povjerljivost
------------+Članak 78. 1.
------------+Članak 78. 2.
------------+Članak 78. 3.
------------+Članak 78. 4.
------------+Članak 78. 5.
---------+Članak 79. Postupak koji se na nacionalnoj razini primjenjuje na UI sustave koji predstavljaju rizik
------------+Članak 79. 1.
------------+Članak 79. 2.
------------+Članak 79. 3.
------------+Članak 79. 4.
------------+Članak 79. 5.
------------+Članak 79. 6.
------------+Članak 79. 7.
------------+Članak 79. 8.
------------+Članak 79. 9.
---------+Članak 80. Postupak koji se primjenjuje na UI sustave koje je dobavljač u skladu s Prilogom III. klasificirao kao UI sustave koji nisu visokorizični
------------+Članak 80. 1.
------------+Članak 80. 2.
------------+Članak 80. 3.
------------+Članak 80. 4.
------------+Članak 80. 5.
------------+Članak 80. 6.
------------+Članak 80. 7.
------------+Članak 80. 8.
---------+Članak 81. Zaštitni postupak Unije
------------+Članak 81. 1.
------------+Članak 81. 2.
------------+Članak 81. 3.
---------+Članak 82. Usklađeni UI sustavi koji predstavljaju rizik
------------+Članak 82. 1.
------------+Članak 82. 2.
------------+Članak 82. 3.
------------+Članak 82. 4.
------------+Članak 82. 5.
---------+Članak 83. Formalna neusklađenost
------------+Članak 83. 1.
------------+Članak 83. 2.
---------+Članak 84. Potporne strukture Unije za testiranje umjetne inteligencije
------------+Članak 84. 1.
------------+Članak 84. 2.
------+ODJELJAK 4. Pravna sredstva
---------+Članak 85. Pravo na podnošenje pritužbe tijelu za nadzor tržišta
---------+Članak 86. Pravo na objašnjenje donošenja pojedinačnih odluka
------------+Članak 86. 1.
------------+Članak 86. 2.
------------+Članak 86. 3.
---------+Članak 87. Prijava povreda i zaštita prijavitelja povreda
------+ODJELJAK 5. Nadzor, istrage, izvršavanje i praćenje u vezi s dobavljačima UI modelâ opće namjene
---------+Članak 88. Izvršavanje obveza dobavljača UI modelâ opće namjene
------------+Članak 88. 1.
------------+Članak 88. 2.
---------+Članak 89. Mjere praćenja
------------+Članak 89. 1.
------------+Članak 89. 2.
---------+Članak 90. Upozorenja znanstvenog povjerenstva o sistemskim rizicima
------------+Članak 90. 1.
------------+Članak 90. 2.
------------+Članak 90. 3.
---------+Članak 91. Ovlast za zahtijevanje dokumentacije i informacija
------------+Članak 91. 1.
------------+Članak 91. 2.
------------+Članak 91. 3.
------------+Članak 91. 4.
------------+Članak 91. 5.
---------+Članak 92. Ovlast za provođenje evaluacija
------------+Članak 92. 1.
------------+Članak 92. 2.
------------+Članak 92. 3.
------------+Članak 92. 4.
------------+Članak 92. 5.
------------+Članak 92. 6.
------------+Članak 92. 7.
---------+Članak 93. Ovlast za zahtijevanje mjera
------------+Članak 93. 1.
------------+Članak 93. 2.
------------+Članak 93. 3.
---------+Članak 94. Postupovna prava gospodarskih subjekata UI modela opće namjene
---+POGLAVLJE X. KODEKSI PONAŠANJA I SMJERNICE
------+Članak 95. Kodeksi ponašanja za dobrovoljnu primjenu specifičnih zahtjeva
---------+Članak 95. 1.
---------+Članak 95. 2.
---------+Članak 95. 3.
---------+Članak 95. 4.
------+Članak 96. Smjernice Komisije o provedbi ove Uredbe
---------+Članak 96. 1.
---------+Članak 96. 2.
---+POGLAVLJE XI. DELEGIRANJE OVLASTI I POSTUPAK ODBORA
------+Članak 97. Izvršavanje delegiranja ovlasti
---------+Članak 97. 1.
---------+Članak 97. 2.
---------+Članak 97. 3.
---------+Članak 97. 4.
---------+Članak 97. 5.
---------+Članak 97. 6.
------+Članak 98. Postupak odbora
---------+Članak 98. 1.
---------+Članak 98. 2.
---+POGLAVLJE XII. SANKCIJE
------+Članak 99. Sankcije
---------+Članak 99. 1.
---------+Članak 99. 2.
---------+Članak 99. 3.
---------+Članak 99. 4.
---------+Članak 99. 5.
---------+Članak 99. 6.
---------+Article 99 6a.
---------+Članak 99. 7.
---------+Članak 99. 8.
---------+Članak 99. 9.
---------+Članak 99. 10.
---------+Članak 99. 11.
------+Članak 100. Upravne novčane kazne za institucije, tijela, urede i agencije Unije
---------+Članak 100. 1.
---------+Članak 100. 2.
---------+Članak 100. 3.
---------+Članak 100. 4.
---------+Članak 100. 5.
---------+Članak 100. 6.
---------+Članak 100. 7.
------+Članak 101. Novčane kazne za dobavljače UI modelâ opće namjene
---------+Članak 101. 1.
---------+Članak 101. 2.
---------+Članak 101. 3.
---------+Članak 101. 4.
---------+Članak 101. 5.
---------+Članak 101. 6.
---+POGLAVLJE XIII. ZAVRŠNE ODREDBE
------+Članak 102. Izmjena Uredbe (EZ) br. 300/2008
------+Članak 103. Izmjena Uredbe (EU) br. 167/2013
------+Članak 104. Izmjena Uredbe (EU) br. 168/2013
------+Članak 105. Izmjena Direktive 2014/90/EU
------+Članak 106. Izmjena Direktive (EU) 2016/797
------+Članak 107. Izmjena Uredbe (EU) 2018/858
------+Članak 108. Izmjene Uredbe (EU) 2018/1139
------+Članak 109. Izmjena Uredbe (EU) 2019/2144
------+Članak 110. Izmjena Direktive (EU) 2020/1828
------+Članak 111. UI sustavi koji su već stavljeni na tržište ili u upotrebu i UI modeli opće namjene koji su već stavljeni na tržište
---------+Članak 111. 1.
---------+Članak 111. 2.
---------+Članak 111. 3.
---------+Članak 111. 4.
------+Članak 112. Evaluacija i preispitivanje
---------+Članak 112. 1.
---------+Članak 112. 2.
---------+Članak 112. 3.
---------+Članak 112. 4.
---------+Članak 112. 5.
---------+Članak 112. 6.
---------+Članak 112. 7.
---------+Članak 112. 8.
---------+Članak 112. 9.
---------+Članak 112. 10.
---------+Članak 112. 11.
---------+Članak 112. 12.
---------+Članak 112. 13.
------+Članak 113. Stupanje na snagu i primjena
---+PRILOG I. Popis zakonodavstva Unije o usklađivanju
---+PRILOG II. Popis kaznenih djela iz članka 5. stavka 1. prvog podstavka točke (h) podtočke iii.
---+PRILOG III. Visokorizični UI sustavi iz članka 6. stavka 2.
---+PRILOG IV. Tehnička dokumentacija iz članka 11. stavka 1.
---+PRILOG V. EU izjava o sukladnosti
---+PRILOG VI. Postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole
---+PRILOG VII. Sukladnost na temelju ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije
---+PRILOG VIII. Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava u skladu s člankom 49.
---+PRILOG IX. Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava iz priloga III. u vezi s testiranjem u stvarnim uvjetima u skladu s člankom 60.
---+PRILOG X.
---+PRILOG XI. Tehnička dokumentacija iz članka 53. stavka 1. točke (a) – tehnička dokumentacija za dobavljače UI modela opće namjene
---+PRILOG XII. Informacije o transparentnosti iz članka 53. stavka 1. točke (b) – tehnička dokumentacija koju dobavljači UI modela opće namjene stavljaju na raspolaganje dobavljačima niže u lancu koji integriraju model u svoj UI sustav
---+PRILOG XIII. Kriteriji za određivanje UI modela opće namjene sa sistemskim rizikom iz članka 51.
---+PRILOG XIV.
 English - European Union -

UREDBA (EU) 2024/1689 EUROPSKOG PARLAMENTA I VIJEĆA od 13. lipnja 2024. o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji) (Tekst značajan za EGP)

UREDBA (EU) 2024/1689 EUROPSKOG PARLAMENTA I VIJEĆA

od 13. lipnja 2024.

o utvrđivanju usklađenih pravila o umjetnoj inteligenciji i o izmjeni uredaba (EZ) br. 300/2008, (EU) br. 167/2013, (EU) br. 168/2013, (EU) 2018/858, (EU) 2018/1139 i (EU) 2019/2144 te direktiva 2014/90/EU, (EU) 2016/797 i (EU) 2020/1828 (Akt o umjetnoj inteligenciji)

(Tekst značajan za EGP)

Ova je Uredba u cijelosti obvezujuća i izravno se primjenjuje u svim državama članicama.

1. Pregled

,
POGLAVLJE I. OPĆE ODREDBE POGLAVLJE I. OPĆE ODREDBE
POGLAVLJE II. ZABRANJENE PRAKSE U PODRUČJU UMJETNE INTELIGENCIJE POGLAVLJE II. ZABRANJENE PRAKSE U PODRUČJU UMJETNE INTELIGENCIJE
POGLAVLJE III. VISOKORIZIČNI UI SUSTAVI POGLAVLJE III. VISOKORIZIČNI UI SUSTAVI
POGLAVLJE IV. OBVEZE U POGLEDU TRANSPARENTNOSTI ZA DOBAVLJAČE ODREĐENIH UI SUSTAVA I SUBJEKTE KOJI IH UVODE POGLAVLJE IV. OBVEZE U POGLEDU TRANSPARENTNOSTI ZA DOBAVLJAČE ODREĐENIH UI SUSTAVA I SUBJEKTE KOJI IH UVODE
POGLAVLJE V. UI MODELI OPĆE NAMJENE POGLAVLJE V. UI MODELI OPĆE NAMJENE
POGLAVLJE VI. MJERE ZA POTPORU INOVACIJAMA POGLAVLJE VI. MJERE ZA POTPORU INOVACIJAMA
POGLAVLJE VII. UPRAVLJANJE POGLAVLJE VII. UPRAVLJANJE
POGLAVLJE VIII. BAZA PODATAKA EU-A ZA VISOKORIZIČNE UI SUSTAVE POGLAVLJE VIII. BAZA PODATAKA EU-A ZA VISOKORIZIČNE UI SUSTAVE
POGLAVLJE IX. PRAĆENJE NAKON STAVLJANJA NA TRŽIŠTE, RAZMJENA INFORMACIJA I NADZOR TRŽIŠTA POGLAVLJE IX. PRAĆENJE NAKON STAVLJANJA NA TRŽIŠTE, RAZMJENA INFORMACIJA I NADZOR TRŽIŠTA
POGLAVLJE X. KODEKSI PONAŠANJA I SMJERNICE POGLAVLJE X. KODEKSI PONAŠANJA I SMJERNICE
POGLAVLJE XI. DELEGIRANJE OVLASTI I POSTUPAK ODBORA POGLAVLJE XI. DELEGIRANJE OVLASTI I POSTUPAK ODBORA
POGLAVLJE XII. SANKCIJE POGLAVLJE XII. SANKCIJE
POGLAVLJE XIII. ZAVRŠNE ODREDBE POGLAVLJE XIII. ZAVRŠNE ODREDBE
PRILOG I. Popis zakonodavstva Unije o usklađivanju



PRILOG I.

Popis zakonodavstva Unije o usklađivanju

Odjeljak A. Popis zakonodavstva Unije o usklađivanju na temelju novog zakonodavnog okvira

▼M1 —————

▼B

2. Direktiva 2009/48/EZ Europskog parlamenta i Vijeća od 18. lipnja 2009. o sigurnosti igračaka (SL L 170, 30.6.2009., str. 1.);

3. Direktiva 2013/53/EU Europskog parlamenta i Vijeća od 20. studenoga 2013. o rekreacijskim plovilima i osobnim plovilima na vodomlazni pogon i o stavljanju izvan snage Direktive Vijeća 94/25/EZ (SL L 354, 28.12.2013., str. 90.);

4. Direktiva 2014/33/EU Europskog parlamenta i Vijeća od 26. veljače 2014. o usklađivanju zakonodavstava država članica u odnosu na dizala i sigurnosne komponente za dizala (SL L 96, 29.3.2014., str. 251.);

5. Direktiva 2014/34/EU Europskog parlamenta i Vijeća od 26. veljače 2014. o usklađivanju zakonodavstava država članica u odnosu na opremu i zaštitne sustave namijenjene za uporabu u potencijalno eksplozivnim atmosferama (SL L 96, 29.3.2014., str. 309.);

6. Direktiva 2014/53/EU Europskog parlamenta i Vijeća od 16. travnja 2014. o usklađivanju zakonodavstava država članica o stavljanju na raspolaganje radijske opreme na tržištu i stavljanju izvan snage Direktive 1999/5/EZ (SL L 153, 22.5.2014., str. 62.);

7. Direktiva 2014/68/EU Europskog parlamenta i Vijeća od 15. svibnja 2014. o usklađivanju zakonodavstava država članica o stavljanju na raspolaganje na tržištu tlačne opreme (SL L 189, 27.6.2014., str. 164.);

8. Uredba (EU) 2016/424 Europskog parlamenta i Vijeća od 9. ožujka 2016. o žičarama i stavljanju izvan snage Direktive 2000/9/EZ (SL L 81, 31.3.2016., str. 1.);

9. Uredba (EU) 2016/425 Europskog parlamenta i Vijeća od 9. ožujka 2016. o osobnoj zaštitnoj opremi i o stavljanju izvan snage Direktive Vijeća 89/686/EEZ (SL L 81, 31.3.2016., str. 51.);

10. Uredba (EU) 2016/426 Europskog parlamenta i Vijeća od 9. ožujka 2016. o aparatima na plinovita goriva i stavljanju izvan snage Direktive 2009/142/EZ (SL L 81, 31.3.2016., str. 99.);

11. Uredba (EU) 2017/745 Europskog parlamenta i Vijeća od 5. travnja 2017. o medicinskim proizvodima, o izmjeni Direktive 2001/83/EZ, Uredbe (EZ) br. 178/2002 i Uredbe (EZ) br. 1223/2009 te o stavljanju izvan snage direktiva Vijeća 90/385/EEZ i 93/42/EEZ (SL L 117, 5.5.2017., str. 1.);

12. Uredba (EU) 2017/746 Europskog parlamenta i Vijeća od 5. travnja 2017. o in vitro dijagnostičkim medicinskim proizvodima te o stavljanju izvan snage Direktive 98/79/EZ i Odluke Komisije 2010/227/EU (SL L 117, 5.5.2017., str. 176.).

Odjeljak B. Popis ostalog zakonodavstva Unije o usklađivanju

13. Uredba (EZ) br. 300/2008 Europskog parlamenta i Vijeća od 11. ožujka 2008. o zajedničkim pravilima u području zaštite civilnog zračnog prometa i stavljanju izvan snage Uredbe (EZ) br. 2320/2002 (SL L 97, 9.4.2008., str. 72.);

14. Uredba (EU) br. 168/2013 Europskog parlamenta i Vijeća od 15. siječnja 2013. o homologaciji i nadzoru tržišta vozila na dva ili tri kotača i četverocikala (SL L 60, 2.3.2013., str. 52.);

15. Uredba (EU) br. 167/2013 Europskog parlamenta i Vijeća od 5. veljače 2013. o homologaciji i nadzoru tržišta traktora za poljoprivredu i šumarstvo (SL L 60, 2.3.2013., str. 1.);

16. Direktiva 2014/90/EU Europskog parlamenta i Vijeća od 23. srpnja 2014. o pomorskoj opremi i stavljanju izvan snage Direktive Vijeća 96/98/EZ (SL L 257, 28.8.2014., str. 146.);

17. Direktiva (EU) 2016/797 Europskog parlamenta i Vijeća od 11. svibnja 2016. o interoperabilnosti željezničkog sustava u Europskoj uniji (SL L 138, 26.5.2016., str. 44.);

18. Uredba (EU) 2018/858 Europskog parlamenta i Vijeća od 30. svibnja 2018. o homologaciji i nadzoru tržišta motornih vozila i njihovih prikolica te sustavâ, sastavnih dijelova i zasebnih tehničkih jedinica namijenjenih za takva vozila, o izmjeni uredaba (EZ) br. 715/2007 i (EZ) br. 595/2009 te o stavljanju izvan snage Direktive 2007/46/EZ (SL L 151, 14.6.2018., str. 1.);

19. Uredba (EU) 2019/2144 Europskog parlamenta i Vijeća od 27. studenoga 2019. o zahtjevima za homologaciju tipa za motorna vozila i njihove prikolice te za sustave, sastavne dijelove i zasebne tehničke jedinice namijenjene za takva vozila, u pogledu njihove opće sigurnosti te zaštite osoba u vozilima i nezaštićenih sudionika u cestovnom prometu, o izmjeni Uredbe (EU) 2018/858 Europskog parlamenta i Vijeća i stavljanju izvan snage uredbi (EZ) br. 78/2009, (EZ) br. 79/2009 i (EZ) br. 661/2009 Europskog parlamenta i Vijeća i uredbi Komisije (EZ) br. 631/2009, (EU) br. 406/2010, (EU) br. 672/2010, (EU) br. 1003/2010, (EU) br. 1005/2010, (EU) br. 1008/2010, (EU) br. 1009/2010, (EU) br. 19/2011, (EU) br. 109/2011, (EU) br. 458/2011, (EU) br. 65/2012, (EU) br. 130/2012, (EU) br. 347/2012, (EU) br. 351/2012, (EU) br. 1230/2012 i (EU) 2015/166 (SL L 325, 16.12.2019., str. 1.);

20. Uredba (EU) 2018/1139 Europskog parlamenta i Vijeća od 4. srpnja 2018. o zajedničkim pravilima u području civilnog zrakoplovstva i osnivanju Agencije Europske unije za sigurnost zračnog prometa i izmjeni uredbi (EZ) br. 2111/2005, (EZ) br. 1008/2008, (EU) br. 996/2010, (EU) br. 376/2014 i direktiva 2014/30/EU i 2014/53/EU Europskog parlamenta i Vijeća te stavljanju izvan snage uredbi (EZ) br. 552/2004 i (EZ) br. 216/2008 Europskog parlamenta i Vijeća i Uredbe Vijeća (EEZ) br. 3922/91 (SL L 212, 22.8.2018., str. 1.), kada je riječ o projektiranju, proizvodnji i stavljanju na tržište zrakoplova iz članka 2. stavka 1. točaka (a) i (b), u vezi s bespilotnim zrakoplovima i njihovim motorima, propelerima, dijelovima i opremi za daljinsko upravljanje tim zrakoplovima;

▼M1

21. Uredba (EU) 2023/1230 Europskog parlamenta i Vijeća od 14. lipnja 2023. o strojevima te o stavljanju izvan snage Direktive 2006/42/EZ Europskog parlamenta i Vijeća i Direktive Vijeća 73/361/EEZ (SL L 165, 29.6.2023., str. 1., ELI: http://data.europa.eu/eli/reg/2023/1230/oj).

▼B

PRILOG II. Popis kaznenih djela iz članka 5. stavka 1. prvog podstavka točke (h) podtočke iii.



PRILOG II.

Popis kaznenih djela iz članka 5. stavka 1. prvog podstavka točke (h) podtočke iii.

Kaznena djela iz članka 5. stavka 1. prvog podstavka točke (h) podtočke iii.:

— 
terorizam,
— 
trgovina ljudima,
— 
seksualno iskorištavanje djece i dječja pornografija,
— 
nezakonita trgovina opojnim drogama ili psihotropnim tvarima,
— 
nezakonita trgovina oružjem, streljivom ili eksplozivima,
— 
ubojstvo, teška tjelesna ozljeda,
— 
nezakonita trgovina ljudskim organima ili tkivom,
— 
nezakonita trgovina nuklearnim ili radioaktivnim materijalima,
— 
otmica, protupravno oduzimanje slobode ili uzimanje talaca,
— 
kaznena djela iz nadležnosti Međunarodnog kaznenog suda,
— 
protupravno oduzimanje zrakoplova ili brodova,
— 
silovanje,
— 
kazneno djelo protiv okoliša,
— 
organizirana ili oružana pljačka,
— 
sabotaža,
— 
sudjelovanje u zločinačkoj organizaciji uključenoj u jednoj od navedenih kaznenih djela ili više njih.
PRILOG III. Visokorizični UI sustavi iz članka 6. stavka 2.



PRILOG III.

Visokorizični UI sustavi iz članka 6. stavka 2.

Visokorizični UI sustavi u skladu s člankom 6. stavkom 2. jesu UI sustavi u bilo kojem od sljedećih područja:

1. 

Biometrija, ako je njezino korištenje dopušteno na temelju relevantnog prava Unije ili nacionalnog prava:

(a) 

sustavi za daljinsku biometrijsku identifikaciju.

To ne uključuje UI sustave namijenjene za biometrijsku provjeru čija je jedina svrha potvrditi da je određena fizička osoba doista ona osoba kojom se predstavlja;

(b) 

UI sustavi namijenjeni za biometrijsku kategorizaciju, u skladu s osjetljivim ili zaštićenim atributima ili karakteristikama na temelju zaključivanja o tim atributima ili značajkama;

(c) 

UI sustavi namijenjeni za prepoznavanje emocija.

2. 

Kritična infrastruktura: UI sustavi namijenjeni za korištenje kao sigurnosne komponente za upravljanje kritičnom digitalnom infrastrukturom, cestovnim prometom ili opskrbom vodom, plinom, grijanjem ili električnom energijom te za njihov rad.

3. 

Obrazovanje i strukovno osposobljavanje:

(a) 

UI sustavi namijenjeni za odlučivanje o pristupu ili upisu ili za razvrstavanje fizičkih osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama;

(b) 

UI sustavi namijenjeni za evaluaciju ishoda učenja, među ostalim kad se ti ishodi upotrebljavaju za usmjeravanje procesa učenja fizičkih osoba u ustanovama za obrazovanje i strukovno osposobljavanje na svim razinama;

(c) 

UI sustavi namijenjeni za upotrebu u svrhu procjene odgovarajuće razine obrazovanja koju će pojedinci primiti ili kojoj će moći pristupiti, u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje na svim razinama;

(d) 

UI sustavi namijenjeni za praćenje i otkrivanje zabranjenog postupanja učenika tijekom testiranja u kontekstu ili unutar ustanova za obrazovanje i strukovno osposobljavanje na svim razinama.

4. 

Zapošljavanje, kadrovsko upravljanje i pristup samozapošljavanju:

(a) 

UI sustavi namijenjeni za zapošljavanje ili odabir fizičkih osoba, posebno za postavljanje ciljanih oglasa za posao, za analizu i filtriranje prijava za posao te za evaluaciju kandidata;

(b) 

UI sustavi namijenjeni za donošenje odluka koje utječu na uvjete radnog odnosa, promaknuće ili otkazivanje radnih ugovornih odnosa, za dodjelu zadataka na osnovi individualnog ponašanja ili osobnih obilježja odnosno karakteristika te za praćenje i evaluaciju učinkovitosti i ponašanja osoba u takvim odnosima.

5. 

Pristup osnovnim privatnim uslugama te osnovnim javnim uslugama i naknadama i njihovo korištenje:

(a) 

UI sustavi namijenjeni za korištenje od strane tijela javne vlasti ili u njihovo ime za evaluaciju prihvatljivosti fizičkih osoba za osnovne naknade i usluge javne pomoći, uključujući zdravstvene usluge, te za dodjeljivanje, smanjenje, ukidanje ili povrat takvih naknada i usluga;

(b) 

UI sustavi namijenjeni za evaluaciju kreditne sposobnosti fizičkih osoba ili utvrđivanje njihova kreditnog rejtinga, uz iznimku UI sustava koji se upotrebljavaju za otkrivanje financijskih prijevara;

(c) 

UI sustavi namijenjeni za procjenu rizika i određivanje cijena u odnosu na fizičke osobe u slučaju životnog i zdravstvenog osiguranja;

(d) 

UI sustavi namijenjeni za evaluaciju i klasifikaciju hitnih poziva fizičkih osoba ili za dispečiranje ili određivanje prioriteta pri dispečiranju hitnih službi, uključujući policiju, vatrogasce i medicinsku pomoć, kao i sustave za trijažu pacijenata u pružanju hitne skrbi.

6. 

Kazneni progon, ako je njihovo korištenje dopušteno na temelju relevantnog prava Unije ili nacionalnog prava:

(a) 

UI sustavi namijenjeni za korištenje od strane tijela kaznenog progona ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za potporu tijelima kaznenog progona ili u njihovo ime za procjenu rizika fizičke osobe da postane žrtva kaznenih djela;

(b) 

UI sustavi namijenjeni za upotrebu od strane tijela kaznenog progona ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za potporu tijelima kaznenog progona kao poligrafi ili slični alati;

(c) 

UI sustavi namijenjeni za korištenje od strane tijela kaznenog progona ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za potporu tijelima kaznenog progona za evaluaciju pouzdanosti dokaza tijekom istrage ili progona kaznenih djela;

(d) 

UI sustavi namijenjeni za korištenje od strane tijela kaznenog progona ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za potporu tijelima kaznenog progona za procjenu rizika fizičke osobe do počini ili ponovno počini kazneno djelo ne samo na osnovi izrade profila fizičkih osoba kako je navedeno u članku 3. točki 4. Direktive (EU) 2016/680 ili za procjenu osobina i karakteristika ili prethodnog kriminalnog ponašanja fizičkih osoba ili skupina;

(e) 

UI sustavi namijenjeni za korištenje od strane tijela kaznenog progona ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za potporu tijelima kaznenog progona za izradu profila fizičkih osoba kako je navedeno u članku 3. točki 4. Direktive (EU) 2016/680 tijekom otkrivanja, istrage ili progona kaznenih djela.

7. 

Migracije, azil i upravljanje nadzorom državne granice, ako je njihovo korištenje dopušteno na temelju relevantnog prava Unije ili nacionalnog prava:

(a) 

UI sustavi namijenjeni za korištenje od strane nadležnih tijela javne vlasti ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije kao poligrafi ili slični alati;

(b) 

UI sustavi namijenjeni za korištenje od strane nadležnih tijela javne vlasti ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za procjenu rizika, uključujući rizik za sigurnost, rizik od nezakonitih migracija ili rizik za zdravlje, koji predstavlja fizička osoba koja namjerava ući ili je ušla na državno područje države članice;

(c) 

UI sustavi namijenjeni za korištenje od strane nadležnih tijela javne vlasti ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije za pomoć nadležnim tijelima javne vlasti u razmatranju zahtjeva za azil, viza ili boravišnih dozvola i povezanih pritužbi u pogledu prihvatljivosti fizičkih osoba koje podnose zahtjev za određeni status, uključujući povezane procjene pouzdanosti dokaza;

(d) 

UI sustavi namijenjeni za korištenje od strane nadležnih tijela javne vlasti ili u njihovo ime ili od strane institucija, tijela, ureda ili agencija Unije, u kontekstu migracija, azila ili upravljanja nadzorom državne granice, u svrhu otkrivanja, prepoznavanja ili identifikacije fizičkih osoba, uz iznimku provjere putnih isprava.

8. 

Sudovanje i demokratski procesi:

(a) 

UI sustavi namijenjeni za korištenje od strane pravosudnih tijela ili u njihovo ime za pomoć pravosudnom tijelu u istraživanju i tumačenju činjenica i prava te primjeni prava na konkretan skup činjenica ili za upotrebu na sličan način u alternativnom rješavanju sporova;

(b) 

UI sustavi namijenjeni za utjecanje na ishod izbora ili referenduma ili na ponašanje fizičkih osoba pri glasovanju na izborima ili referendumima. To ne uključuje UI sustave čijim izlaznim podacima fizičke osobe nisu izravno izložene, kao što su alati koji se upotrebljavaju za organizaciju, optimizaciju i strukturiranje političkih kampanja s administrativnog ili logističkog stajališta.
PRILOG IV. Tehnička dokumentacija iz članka 11. stavka 1.



PRILOG IV.

Tehnička dokumentacija iz članka 11. stavka 1.

Tehnička dokumentacija iz članka 11. stavka 1. sadržava barem sljedeće informacije, ovisno o tome što je primjenjivo na dotični UI sustav:

1. 

opći opis UI sustava, uključujući:

(a) 

njegovu namjenu, ime dobavljača i verziju sustava koja odražava njegovu povezanost s prethodnim verzijama;

(b) 

način na koji je UI sustav u interakciji s hardverom ili softverom, među ostalim s drugim UI sustavima koji nisu dio samog UI sustava, ili način na koji se može upotrijebiti za takvu interakciju, ako je primjenjivo;

(c) 

verzije relevantnog softvera ili ugrađenog softvera i sve zahtjeve povezane s ažuriranjem verzija;

(d) 

opis svih oblika u kojima se UI sustav stavlja na tržište ili u upotrebu, kao što su softverski paketi ugrađeni u hardver, preuzimanja ili aplikacijska programska sučelja;

(e) 

opis hardvera na kojem bi UI sustav trebao raditi;

(f) 

ako je UI sustav komponenta proizvoda, fotografije ili ilustracije koje prikazuju vanjske značajke, oznake i unutarnju strukturu tih proizvoda;

(g) 

osnovni opis korisničkog sučelja koje se pruža subjektu koji uvodi sustav;

(h) 

upute za korištenje namijenjene subjektu koji uvodi sustav i osnovni opis korisničkog sučelja koje se pruža subjektu koji uvod sustav, ako je primjenjivo;

2. 

detaljan opis elemenata UI sustava i postupka njegova razvoja, uključujući:

(a) 

metode i korake provedene u razvoju UI sustava, uključujući, ako je to relevantno, upotrebu prethodno treniranih sustava ili alata trećih strana i način na koji ih je dobavljač upotrijebio, integrirao ili izmijenio;

(b) 

specifikacije dizajna sustava, odnosno opću logiku UI sustava i algoritama; najvažnije odabire u pogledu dizajna, uključujući obrazloženja i pretpostavke, među ostalim u vezi s osobama ili skupinama osoba u vezi s kojima se sustav namjerava upotrebljavati; glavne klasifikacijske odabire; informacije o tome što bi sustav svojim dizajnom trebao optimizirati i relevantnost različitih parametara; opis očekivanih izlaznih podataka sustava i njihove kvalitete; odluke o eventualnim kompromisima u pogledu tehničkih rješenja donesenima radi ispunjavanja zahtjeva iz poglavlja III. odjeljka 2.;

(c) 

opis arhitekture sustava u kojem se objašnjava kako se softverske komponente međusobno nadopunjuju ili potpomažu te kako su integrirane u cjelokupnu obradu; računalne resurse upotrijebljene za razvoj, treniranje, testiranje i validaciju UI sustava;

(d) 

ako je to relevantno, zahtjeve u pogledu podataka u smislu tablica s opisom metodologija i tehnika treniranja te upotrijebljenih skupova podataka za treniranje, uključujući opći opis tih skupova podataka i informacije o njihovu podrijetlu, sadržaju i glavnim karakteristikama; način na koji su podaci dobiveni i odabrani; postupke označivanja (npr. za nadzirano učenje), metodologije čišćenja podataka (npr. otkrivanje netipičnih vrijednosti);

(e) 

procjenu mjera ljudskog nadzora potrebnih u skladu s člankom 14., uključujući procjenu tehničkih mjera potrebnih kako bi se subjektima koji uvode sustav olakšalo tumačenje izlaznih podataka UI sustava, u skladu s člankom 13. stavkom 3. točkom (d);

(f) 

ako je primjenjivo, detaljan opis unaprijed određenih promjena UI sustava i njegove učinkovitosti, zajedno sa svim relevantnim informacijama o tehničkim rješenjima primijenjenima radi osiguravanja kontinuirane usklađenosti UI sustava s relevantnim zahtjevima iz poglavlja III. odjeljka 2.;

(g) 

primijenjene postupke validacije i testiranja, uključujući informacije o podacima upotrijebljenima za validaciju i testiranje te njihovim glavnim karakteristikama; parametre upotrijebljene za mjerenje točnosti, otpornosti i usklađenosti s drugim relevantnim zahtjevima iz poglavlja III. odjeljka 2., kao i potencijalne diskriminirajuće učinke; evidenciju događaja tijekom testiranja i sva izvješća o testiranju s datumom i potpisom odgovornih osoba, među ostalim u vezi s unaprijed određenim promjenama iz točke (f);

(h) 

uspostavljene mjere u području kibernetičke sigurnosti;

3. 

detaljne informacije o praćenju, funkcioniranju i kontroli UI sustava, posebno u pogledu sljedećeg: njegovih sposobnosti i ograničenja u radu, uključujući stupnjeve točnosti za konkretne osobe ili skupine osoba na kojima se sustav namjerava upotrebljavati te ukupnu očekivanu razinu točnosti u odnosu na namjenu sustava; predvidljivih neplaniranih ishoda i izvora rizika za zdravlje i sigurnost, temeljna prava i u pogledu diskriminacije s obzirom na namjenu UI sustava; mjera ljudskog nadzora potrebnih u skladu s člankom 14., uključujući tehničke mjere uspostavljene kako bi se subjektima koji uvode sustav olakšalo tumačenje izlaznih podataka UI sustava; specifikacije ulaznih podataka, prema potrebi;

4. 

opis primjerenosti parametara učinkovitosti za određeni UI sustav;

5. 

detaljan opis sustava upravljanja rizikom u skladu s člankom 9.;

6. 

opis svih relevantnih promjena koje je dobavljač unio u sustav tijekom njegova životnog ciklusa;

7. 

popis u cijelosti ili djelomično primijenjenih usklađenih normi na koje su objavljena upućivanja u Službenom listu Europske unije; ako nisu primijenjene takve usklađene norme, detaljan opis rješenja koja su primijenjenima radi ispunjavanja zahtjeva iz poglavlja III. odjeljka 2., uključujući popis drugih primijenjenih relevantnih normi i tehničkih specifikacija;

8. 

primjerak EU izjave o sukladnosti iz članka 47.;

9. 

detaljan opis sustava uspostavljenog za evaluaciju učinkovitosti UI sustava u fazi nakon stavljanja na tržište u skladu s člankom 72., uključujući plan praćenja nakon stavljanja na tržište iz članka 72. stavka 3.
PRILOG V. EU izjava o sukladnosti



PRILOG V.

EU izjava o sukladnosti

EU izjava o sukladnosti iz članka 47. sadržava sve sljedeće informacije:

1. 

ime i vrstu UI sustava te sve dodatne nedvosmislene referentne oznake koje omogućuju identifikaciju i sljedivost UI sustava;

2. 

ime i adresu dobavljača ili, kada je to primjenjivo, njegova ovlaštenog zastupnika;

3. 

izjavu da je za izdavanje EU izjave o sukladnosti iz članka 47. odgovoran isključivo dobavljač;

4. 

izjavu da je UI sustav sukladan s ovom Uredbom i, ako je primjenjivo, sa svim drugim relevantnim pravom Unije kojim je predviđeno izdavanje EU izjave o sukladnosti iz članka 47.;

5. 

ako UI sustav obuhvaća obradu osobnih podataka, izjavu da je taj UI sustav usklađen s uredbama (EU) 2016/679 i (EU) 2018/1725 te Direktivom (EU) 2016/680;

6. 

upućivanja na sve primijenjene relevantne usklađene norme ili druge zajedničke specifikacije u odnosu na koje se izjavljuje sukladnost;

7. 

ako je primjenjivo, ime i identifikacijski broj prijavljenog tijela, opis provedenog postupka ocjenjivanja sukladnosti te identifikacijsku oznaku izdane potvrde;

8. 

mjesto i datum izdavanja izjave, ime i funkciju osobe koja ju je potpisala, uključujući navod za koga ili u čije ime je potpisana, te potpis.
PRILOG VI. Postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole



PRILOG VI.

Postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole

1. Postupak ocjenjivanja sukladnosti na temelju unutarnje kontrole postupak je ocjenjivanja sukladnosti na temelju točaka 2., 3. i 4.

2. Dobavljač provjerava je li uvedeni sustav upravljanja kvalitetom usklađen sa zahtjevima iz članka 17.

3. Dobavljač pregledava informacije iz tehničke dokumentacije kako bi ocijenio usklađenost UI sustava s relevantnim temeljnim zahtjevima iz poglavlja III. odjeljka 2.

4. Osim toga, dobavljač provjerava jesu li postupak dizajniranja i razvoja UI sustava te njegovo praćenje nakon stavljanja na tržište iz članka 72. u skladu s tehničkom dokumentacijom.
PRILOG VII. Sukladnost na temelju ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije



PRILOG VII.

Sukladnost na temelju ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije

1.   Uvod

Sukladnost na temelju ocjenjivanja sustava upravljanja kvalitetom i ocjenjivanja tehničke dokumentacije postupak je ocjenjivanja sukladnosti na temelju točaka od 2. do 5.

2.   Pregled

Odobreni sustav upravljanja kvalitetom za dizajniranje, razvoj i testiranje UI sustavâ na temelju članka 17. ispituje se u skladu s točkom 3. i podliježe nadzoru kako je utvrđeno u točki 5. Tehnička dokumentacija UI sustava pregledava se u skladu s točkom 4.

3.   Sustav upravljanja kvalitetom

3.1. Zahtjev dobavljača sadržava:

(a) 

ime i adresu dobavljača te, ako je zahtjev podnio ovlašteni zastupnik, i njegovo ime te adresu;

(b) 

popis UI sustava obuhvaćenih istim sustavom upravljanja kvalitetom;

(c) 

tehničku dokumentaciju za svaki UI sustav obuhvaćen istim sustavom upravljanja kvalitetom;

(d) 

dokumentaciju o sustavu upravljanja kvalitetom koja obuhvaća sve aspekte navedene u članku 17.;

(e) 

opis uspostavljenih postupaka kojima se osigurava da sustav upravljanja kvalitetom ostane adekvatan i djelotvoran;

(f) 

pisanu izjavu da isti zahtjev nije podnesen nijednom drugom prijavljenom tijelu.

3.2. Prijavljeno tijelo ocjenjuje sustav upravljanja kvalitetom i utvrđuje udovoljava li on zahtjevima iz članka 17.

O toj se odluci obavješćuje dobavljač ili njegov ovlašteni zastupnik.

Ta obavijest sadržava zaključke ocjenjivanja sustava upravljanja kvalitetom i obrazloženu odluku o ocjeni.

3.3. Dobavljač nastavlja primjenjivati i održavati odobreni sustav upravljanja kvalitetom tako da ostane adekvatan i učinkovit.

3.4. Dobavljač obavješćuje prijavljeno tijelo o svakoj planiranoj promjeni odobrenog sustava upravljanja kvalitetom ili popisa UI sustava koji su njime obuhvaćeni.

Prijavljeno tijelo pregledava predložene promjene i donosi odluku o tome ispunjava li izmijenjeni sustav upravljanja kvalitetom i dalje zahtjeve iz točke 3.2. ili je potrebno ponovno ocjenjivanje.

Prijavljeno tijelo obavješćuje dobavljača o svojoj odluci. Ta obavijest sadržava zaključke pregleda promjena i obrazloženu odluku o ocjeni.

4.   Kontrola tehničke dokumentacije

4.1. Uz zahtjev iz točke 3. dobavljač podnosi prijavljenom tijelu koje je sâm odabrao zahtjev za ocjenjivanje tehničke dokumentacije UI sustava koji dobavljač namjerava staviti na tržište ili u upotrebu i koji je obuhvaćen sustavom upravljanja kvalitetom iz točke 3.

4.2. Taj zahtjev sadržava:

(a) 

ime i adresu dobavljača;

(b) 

pisanu izjavu da isti zahtjev nije podnesen nijednom drugom prijavljenom tijelu;

(c) 

tehničku dokumentaciju iz Priloga IV.

4.3. Prijavljeno tijelo pregledava tu tehničku dokumentaciju. Ako je to relevantno i ograničeno na ono što je potrebno za ispunjavanje njegovih zadaća, prijavljenom tijelu odobrava se puni pristup upotrijebljenim skupovima podataka za treniranje, validaciju i testiranje, među ostalim, prema potrebi i podložno sigurnosnim zaštitnim mjerama, putem aplikacijskih programskih sučelja ili drugih relevantnih tehničkih sredstava i alata koji omogućuju daljinski pristup.

4.4. Pri pregledu tehničke dokumentacije prijavljeno tijelo može zatražiti da dobavljač dostavi dodatne dokaze ili provede dodatna testiranja kako bi se omogućilo pravilno ocjenjivanje sukladnosti UI sustava sa zahtjevima utvrđenima u poglavlju III. odjeljku 2. Ako prijavljeno tijelo nije zadovoljno testiranjima koja je proveo dobavljač, ono prema potrebi samo izravno provodi adekvatna testiranja.

4.5. Ako je to potrebno za ocjenjivanje sukladnosti visokorizičnog UI sustava sa zahtjevima utvrđenima u poglavlju III. odjeljku 2., nakon što su svi drugi razumni načini provjere sukladnosti iscrpljeni ili su se pokazali nedostatnima, i na obrazložen zahtjev, prijavljenom tijelu također se odobrava pristup modelima za treniranje i istreniranim modelima UI sustava, uključujući njegove relevantne parametre. Na taj pristup primjenjuje se postojeće pravo Unije u području zaštite intelektualnog vlasništva i poslovnih tajni.

4.6. O odluci prijavljenog tijela obavješćuje se dobavljač ili njegov ovlašteni zastupnik. Ta obavijest sadržava zaključke ocjenjivanja tehničke dokumentacije i obrazloženu odluku o ocjeni.

Ako je UI sustav sukladan sa zahtjevima iz poglavlja III. odjeljka 2., prijavljeno tijelo izdaje potvrdu Unije o ocjenjivanju tehničke dokumentacije. Ta potvrda sadržava ime i adresu dobavljača, zaključke pregleda, uvjete valjanosti potvrde (ako postoje) i podatke potrebne za identifikaciju dotičnog UI sustava.

Potvrda i njezini prilozi sadržavaju sve relevantne informacije potrebne za omogućivanje evaluacije sukladnosti UI sustava i, prema potrebi, za kontrolu UI sustava tijekom korištenja.

Ako UI sustav nije sukladan sa zahtjevima iz poglavlja III. odjeljka 2., prijavljeno tijelo odbija izdati potvrdu Unije o ocjenjivanju tehničke dokumentacije te o tome obavješćuje podnositelja zahtjeva, uz detaljno obrazloženje odbijanja.

Ako UI sustav ne ispunjava zahtjev u pogledu podataka upotrijebljenih za njegovo treniranje, prije podnošenja zahtjeva za novo ocjenjivanje sukladnosti bit će potrebno ponovno treniranje dotičnog UI sustava. U tom slučaju obrazložena odluka prijavljenog tijela o odbijanju izdavanja potvrde Unije o ocjenjivanju tehničke dokumentacije sadržava konkretne argumente o kvaliteti podataka upotrijebljenih za treniranje UI sustava, a posebno o razlozima za utvrđivanje neusklađenosti.

4.7. Svaku promjenu UI sustava koja bi mogla utjecati na usklađenost UI sustava sa zahtjevima ili na njegovu namjenu ocjenjuje prijavljeno tijelo koje je izdalo potvrdu Unije o ocjenjivanju tehničke dokumentacije. Dobavljač obavješćuje to prijavljeno tijelo o svojoj namjeri da uvede neku od navedenih promjena ili ako na neki drugi način sazna za pojavu takvih promjena. Prijavljeno tijelo ocjenjuje planirane promjene i odlučuje je li zbog njih potrebno novo ocjenjivanje sukladnosti u skladu s člankom 43. stavkom 4. ili se za njih može izdati dodatak potvrdi Unije o ocjenjivanju tehničke dokumentacije. U potonjem slučaju prijavljeno tijelo ocjenjuje promjene, obavješćuje dobavljača o svojoj odluci te, ako promjene odobri, dobavljaču izdaje dodatak potvrdi Unije o ocjenjivanju tehničke dokumentacije.

5.   Nadzor nad odobrenim sustavom upravljanja kvalitetom

5.1. Svrha je nadzora koji provodi prijavljeno tijelo iz točke 3. osigurati da dobavljač ispunjava uvjete odobrenog sustava upravljanja kvalitetom.

5.2. Za potrebe ocjenjivanja dobavljač prijavljenom tijelu omogućuje pristup prostorima u kojima se odvijaju dizajniranje, razvoj i testiranje UI sustava. Osim toga, dobavljač prijavljenom tijelu daje sve potrebne informacije.

5.3. Prijavljeno tijelo provodi periodične revizije kako bi potvrdilo da dobavljač provodi i primjenjuje sustav upravljanja kvalitetom te dobavljaču dostavlja izvješće o reviziji. U okviru tih revizija prijavljeno tijelo može provesti dodatna testiranja UI sustava za koje je izdana potvrda Unije o ocjenjivanju tehničke dokumentacije.
PRILOG VIII. Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava u skladu s člankom 49.



PRILOG VIII.

Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava u skladu s člankom 49.

Odjeljak A – Informacije koje moraju dostaviti dobavljači visokorizičnih UI sustava u skladu s člankom 49. stavkom 1.

Za visokorizične UI sustave koji se moraju registrirati u skladu s člankom 49. stavkom 1. dostavljaju se, a nakon toga ažuriraju, sljedeće informacije:

1. 

ime, adresa i kontaktni podaci dobavljača;

2. 

ako informacije dostavlja druga osoba u ime dobavljača, ime, adresa i kontaktni podaci te osobe;

3. 

ime, adresa i kontaktni podaci ovlaštenog zastupnika, ako je primjenjivo;

4. 

trgovačko ime UI sustava i sve dodatne nedvosmislene referentne oznake koje omogućuju identifikaciju i sljedivost UI sustava;

5. 

opis namjene UI sustava te komponenti i funkcija koje podržava taj UI sustav;

6. 

osnovni i sažet opis informacija koje sustav upotrebljava (podaci, ulazne vrijednosti) i njegova logika funkcioniranja;

7. 

status UI sustava (stavljen na tržište ili u upotrebi; više nije stavljen na tržište / u upotrebi, opozvan);

8. 

vrsta, broj i datum isteka potvrde koju je izdalo prijavljeno tijelo te ime ili identifikacijski broj tog prijavljenog tijela, ako je primjenjivo;

9. 

skenirani primjerak potvrde iz točke 8., ako je primjenjivo;

10. 

imena država članica u kojima je UI sustav stavljen na tržište, u upotrebu ili na raspolaganje u Uniji;

11. 

primjerak EU izjave o sukladnosti iz članka 47.;

12. 

upute za korištenje u elektroničkom formatu; te se informacije ne dostavljaju za visokorizične UI sustave u području kaznenog progona ili migracija, azila i upravljanja nadzorom državne granice iz Priloga III. točaka 1., 6. i 7.;

13. 

URL adresa za dodatne informacije (nije obvezno).

Odjeljak B – Informacije koje moraju dostaviti dobavljači visokorizičnih UI sustava u skladu s člankom 49. stavkom 2.

Za UI sustave koji se moraju registrirati u skladu s člankom 49. stavkom 2. dostavljaju se, a nakon toga ažuriraju, sljedeće informacije:

1. 

ime, adresa i kontaktni podaci dobavljača;

2. 

ako informacije dostavlja druga osoba u ime dobavljača, ime, adresa i kontaktni podaci te osobe;

3. 

ime, adresa i kontaktni podaci ovlaštenog zastupnika, ako je primjenjivo;

4. 

trgovačko ime UI sustava i sve dodatne nedvosmislene referentne oznake koje omogućuju identifikaciju i sljedivost UI sustava;

5. 

opis namjene UI sustava;

6. 

uvjet ili uvjeti iz članka 6. stavka 3. na temelju kojih se UI sustav ne smatra visokorizičnim;

▼M1 —————

▼B

8. 

status UI sustava (stavljen na tržište ili u upotrebi; više nije stavljen na tržište / u upotrebi, opozvan).

▼M1 —————

▼B

Odjeljak C – Informacije koje moraju dostaviti subjekti koji uvode visokorizične UI sustave u skladu s člankom 49. stavkom 3.

Za visokorizične UI sustave koji se moraju registrirati u skladu s člankom 49. stavkom 3. dostavljaju se, a nakon toga ažuriraju, sljedeće informacije:

1. 

ime, adresa i kontaktni podaci subjekta koji uvodi sustav;

2. 

ime, adresa i kontaktni podaci osobe koja dostavlja informacije u ime subjekta koji uvodi sustav;

3. 

URL adresa unosa UI sustava u bazu podataka EU-a od strane njegova dobavljača;

4. 

sažetak nalaza procjene učinka na temeljna prava provedene u skladu s člankom 27.;

5. 

sažetak procjene učinka na zaštitu podataka provedene u skladu s člankom 35. Uredbe (EU) 2016/679 ili člankom 27. Direktive (EU) 2016/680 kako je navedeno u članku 26. stavku 8. ove Uredbe, ako je primjenjivo.
PRILOG IX. Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava iz priloga III. u vezi s testiranjem u stvarnim uvjetima u skladu s člankom 60.



PRILOG IX.

Informacije koje se moraju dostaviti pri registraciji visokorizičnih UI sustava iz priloga III. u vezi s testiranjem u stvarnim uvjetima u skladu s člankom 60.

U vezi s testiranjem u stvarnim uvjetima koje se mora registrirati u skladu s člankom 60. dostavljaju se, a nakon toga ažuriraju, sljedeće informacije:

1. 

jedinstveni identifikacijski broj na razini Unije za testiranje u stvarnim uvjetima;

2. 

ime i kontaktni podaci dobavljača ili potencijalnog dobavljača i subjekata koji uvode sustav koji sudjeluju u testiranju u stvarnim uvjetima;

3. 

kratak opis UI sustava i njegove namjene te druge informacije potrebne za identifikaciju sustava;

4. 

sažetak glavnih karakteristika plana testiranja u stvarnim uvjetima;

5. 

informacije o suspenziji ili obustavi testiranja u stvarnim uvjetima.
PRILOG X.



PRILOG X.

Zakonodavni akti Unije o opsežnim informacijskim sustavima u području slobode, sigurnosti i pravde

1.   Schengenski informacijski sustav

(a) 

Uredba (EU) 2018/1860 Europskog parlamenta i Vijeća od 28. studenoga 2018. o upotrebi Schengenskog informacijskog sustava za vraćanje državljana trećih zemalja s nezakonitim boravkom (SL L 312, 7.12.2018., str. 1.);

(b) 

Uredba (EU) 2018/1861 Europskog parlamenta i Vijeća od 28. studenoga 2018. o uspostavi, radu i upotrebi Schengenskog informacijskog sustava (SIS) u području granične kontrole i o izmjeni Konvencije o provedbi Schengenskog sporazuma te o izmjeni i stavljanju izvan snage Uredbe (EZ) br. 1987/2006 (SL L 312, 7.12.2018., str. 14.);

(c) 

Uredba (EU) 2018/1862 Europskog parlamenta i Vijeća od 28. studenoga 2018. o uspostavi, radu i upotrebi Schengenskog informacijskog sustava (SIS) u području policijske suradnje i pravosudne suradnje u kaznenim stvarima, izmjeni i stavljanju izvan snage Odluke Vijeća 2007/533/PUP i stavljanju izvan snage Uredbe (EZ) br. 1986/2006 Europskog parlamenta i Vijeća i Odluke Komisije 2010/261/EU (SL L 312, 7.12.2018., str. 56.).

2.   Vizni informacijski sustav

(a) 

Uredba (EU) 2021/1133 Europskog parlamenta i Vijeća od 7. srpnja 2021. o izmjeni uredaba (EU) br. 603/2013, (EU) 2016/794, (EU) 2018/1862, (EU) 2019/816 i (EU) 2019/818 u pogledu utvrđivanja uvjeta za pristup drugim informacijskim sustavima EU-a za potrebe viznog informacijskog sustava (SL L 248, 13.7.2021., str. 1.);

(b) 

Uredba (EU) 2021/1134 Europskog parlamenta i Vijeća od 7. srpnja 2021. o izmjeni uredaba (EZ) br. 767/2008, (EZ) br. 810/2009, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1860, (EU) 2018/1861, (EU) 2019/817 i (EU) 2019/1896 Europskog parlamenta i Vijeća te o stavljanju izvan snage odluka Vijeća 2004/512/EZ i 2008/633/PUP u svrhu reforme viznog informacijskog sustava (SL L 248, 13.7.2021., str. 11.).

3.   Eurodac

Uredba (EU) 2024/1358 Europskog parlamenta i Vijeća od 14. svibnja 2024. o uspostavi sustava „Eurodac” za usporedbu biometrijskih podataka radi djelotvorne primjene uredaba (EU) 2024/1315 i (EU) 2024/1350 Europskog parlamenta i Vijeća i Direktive Vijeća 2001/55/EZ te radi utvrđivanja identiteta državljana treće zemlje i osoba bez državljanstva s nezakonitim boravkom i o zahtjevima tijela za izvršavanje zakonodavstva država članica i Europola za usporedbu s podacima iz Eurodaca u svrhu izvršavanja zakonodavstva, o izmjeni uredaba (EU) 2018/1240 i (EU) 2019/818 Europskog parlamenta i Vijeća te o stavljanju izvan snage Uredbe (EU) br. 603/2013 Europskog parlamenta i Vijeća (SL L, 2024/1358, 22.5.2024., ELI: http://data.europa.eu/eli/reg/2024/1358/oj) .

4.   Sustav ulaska/izlaska

Uredba (EU) 2017/2226 Europskog parlamenta i Vijeća od 30. studenoga 2017. o uspostavi sustava ulaska/izlaska (EES) za registraciju podataka o ulasku i izlasku te podataka o odbijanju ulaska za državljane trećih zemalja koji prelaze vanjske granice država članica i određivanju uvjeta za pristup EES-u za potrebe izvršavanja zakonodavstva te o izmjeni Konvencije o provedbi Schengenskog sporazuma i uredbi (EZ) br. 767/2008 i (EU) br. 1077/2011 (SL L 327, 9.12.2017., str. 20.).

5.   Europski sustav za informacije o putovanjima i odobravanje putovanja

(a) 

Uredba (EU) 2018/1240 Europskog parlamenta i Vijeća od 12. rujna 2018. o uspostavi europskog sustava za informacije o putovanjima i odobravanje putovanja (ETIAS) i izmjeni uredaba (EU) br. 1077/2011, (EU) br. 515/2014, (EU) 2016/399, (EU) 2016/1624 i (EU) 2017/2226 (SL L 236, 19.9.2018., str. 1.);

(b) 

Uredba (EU) 2018/1241 Europskog parlamenta i Vijeća od 12. rujna 2018. o izmjeni Uredbe (EU) 2016/794 u svrhu uspostave europskog sustava za informacije o putovanjima i odobravanje putovanja (ETIAS) (SL L 236, 19.9.2018., str. 72.).

6.   Europski informacijski sustav kaznene evidencije za državljane trećih zemalja i osobe bez državljanstva

Uredba (EU) 2019/816 Europskog parlamenta i Vijeća od 17. travnja 2019. o uspostavi centraliziranog sustava za utvrđivanje država članica koje imaju podatke o osuđujućim presudama protiv državljana trećih zemalja i osoba bez državljanstva (sustav ECRIS-TCN) za dopunu Europskog informacijskog sustava kaznene evidencije te o izmjeni Uredbe (EU) 2018/1726 (SL L 135, 22.5.2019., str. 1.).

7.   Interoperabilnost

(a) 

Uredba (EU) 2019/817 Europskog parlamenta i Vijeća od 20. svibnja 2019. o uspostavi okvira za interoperabilnost informacijskih sustava EU-a u području granica i viza i izmjeni uredaba (EZ) br. 767/2008, (EU) 2016/399, (EU) 2017/2226, (EU) 2018/1240, (EU) 2018/1726 i (EU) 2018/1861 Europskog parlamenta i Vijeća te odluka Vijeća 2004/512/EZ i 2008/633/PUP (SL L 135, 22.5.2019., str. 27.);

(b) 

Uredba (EU) 2019/818 Europskog parlamenta i Vijeća od 20. svibnja 2019. o uspostavi okvira za interoperabilnost informacijskih sustava EU-a u području policijske i pravosudne suradnje, azila i migracija i izmjeni uredaba (EU) 2018/1726, (EU) 2018/1862 i (EU) 2019/816 (SL L 135, 22.5.2019., str. 85.).
PRILOG XI. Tehnička dokumentacija iz članka 53. stavka 1. točke (a) – tehnička dokumentacija za dobavljače UI modela opće namjene



PRILOG XI.

Tehnička dokumentacija iz članka 53. stavka 1. točke (a) – tehnička dokumentacija za dobavljače UI modela opće namjene

Odjeljak 1.

Informacije koje moraju dostaviti svi dobavljači UI modelâ opće namjene

Tehnička dokumentacija iz članka 53. stavka 1. točke (a) sadržava barem sljedeće informacije, ovisno o veličini i profilu rizika modela:

1. 

Opći opis UI modela opće namjene, uključujući:

(a) 

zadaće koje bi model trebao obavljati te vrstu i prirodu UI sustava u koje se može integrirati;

(b) 

primjenjive politike u pogledu prihvatljivog korištenja;

(c) 

datum stavljanja na tržište i metode distribucije;

d) 

arhitekturu i broj parametara;

(e) 

modalitet (npr. tekst, slika) i format ulaznih i izlaznih podataka;

(f) 

licenciju.

2. 

Detaljan opis elemenata modela iz točke 1. i relevantne informacije o postupku njegova razvoja, uključujući sljedeće elemente:

(a) 

tehnička sredstva (npr. upute za korištenje, infrastruktura, alati) potrebna za integraciju UI modela opće namjene u UI sustave;

(b) 

specifikacije dizajna modela i postupka treniranja, uključujući metodologije i tehnike treniranja, najvažnije odabire u pogledu dizajna, uključujući obrazloženja i pretpostavke; informacije o tome što bi model svojim dizajnom trebao optimizirati i relevantnost različitih parametara, ako je primjenjivo;

(c) 

informacije o podacima upotrijebljenima za treniranje, testiranje i validaciju, ako je primjenjivo, uključujući vrstu i podrijetlo podataka i metodologije skrbi o podacima (npr. čišćenje, filtriranje itd.), količinu podataka, njihov opseg i glavne karakteristike; način na koji su podaci dobiveni i odabrani, kao i sve druge mjere za otkrivanje neprimjerenosti izvora podataka i metode za otkrivanje utvrdivih pristranosti, ako je primjenjivo;

(d) 

računalne resurse upotrijebljene za treniranje modela (npr. broj matematičkih operacija nad s brojevima s pomičnim zarezom), vrijeme treniranja i druge relevantne pojedinosti povezane s treniranjem;

(e) 

poznatu ili procijenjenu potrošnju energije modela.

Kad je riječ o točki (e), ako je potrošnja energije modela nepoznata, potrošnja energije može se temeljiti na informacijama o upotrijebljenim računalnim resursima.

Odjeljak 2.

Dodatne informacije koje moraju dostaviti dobavljači UI modela opće namjene sa sistemskim rizikom

1. Detaljan opis strategija evaluacije, uključujući rezultate evaluacije, na temelju dostupnih javnih evaluacijskih protokola i alata ili drugih metodologija evaluacije. Strategije evaluacije uključuju evaluacijske kriterije, parametre i metodologiju za utvrđivanje ograničenja.

2. Ako je primjenjivo, detaljan opis mjera uspostavljenih u svrhu provedbe unutarnjeg i/ili vanjskog neprijateljskog testiranja (npr. penetracijsko testiranje) i prilagodaba modela, uključujući usklađivanje i doradu.

3. Ako je primjenjivo, detaljan opis arhitekture sustava koji objašnjava kako se softverske komponente međusobno nadopunjuju ili potpomažu te kako su integrirane u cjelokupnu obradu.
PRILOG XII. Informacije o transparentnosti iz članka 53. stavka 1. točke (b) – tehnička dokumentacija koju dobavljači UI modela opće namjene stavljaju na raspolaganje dobavljačima niže u lancu koji integriraju model u svoj UI sustav



PRILOG XII.

Informacije o transparentnosti iz članka 53. stavka 1. točke (b) – tehnička dokumentacija koju dobavljači UI modela opće namjene stavljaju na raspolaganje dobavljačima niže u lancu koji integriraju model u svoj UI sustav

Informacije iz članka 53. stavka 1. točke (b) sadržavaju barem sljedeće elemente:

1. 

opći opis UI modela opće namjene, uključujući:

(a) 

zadaće koje bi model trebao obavljati te vrstu i prirodu UI sustava u koje se može integrirati;

(b) 

primjenjive politike u pogledu prihvatljivog korištenja;

(c) 

datum stavljanja na tržište i metode distribucije;

(d) 

način na koji je model u interakciji s hardverom ili softverom koji nije dio samog modela ili na koji se može upotrijebiti za takvu interakciju, ako je primjenjivo;

(e) 

verzije relevantnog softvera povezanog s korištenjem UI modela opće namjene, ako je primjenjivo;

(f) 

arhitekturu i broj parametara;

(g) 

modalitet (npr. tekst, slika) i format ulaznih i izlaznih podataka;

(h) 

licenciju za model;

2. 

opis elemenata UI modela i postupka njegova razvoja, uključujući:

(a) 

tehnička sredstva (npr. upute za korištenje, infrastruktura, alati) potrebna za integraciju UI modela opće namjene u UI sustave;

(b) 

modalitet (npr. tekst, slika itd.) i format ulaznih i izlaznih podataka te njihova maksimalna veličina (npr. veličina kontekstualnog prozora itd.);

(c) 

informacije o podacima upotrijebljenima za treniranje, testiranje i validaciju, ako je primjenjivo, uključujući vrstu i podrijetlo podataka i metodologije skrbi o podacima.
PRILOG XIII. Kriteriji za određivanje UI modela opće namjene sa sistemskim rizikom iz članka 51.



PRILOG XIII.

Kriteriji za određivanje UI modela opće namjene sa sistemskim rizikom iz članka 51.

Kako bi utvrdila ima li određeni UI model opće namjene sposobnosti ili učinak jednakovrijedne onima iz članka 51. stavka 1. točke (a), Komisija uzima u obzir sljedeće kriterije:

(a) 

broj parametara modela;

(b) 

kvalitetu ili veličinu skupa podataka, primjerice mjereno tokenima;

(c) 

količinu računanja upotrijebljenu za treniranje modela, izmjerenu u matematičkim operacijama nad brojevima s pomičnim zarezom ili izraženu kombinacijom drugih varijabli kao što su procijenjeni troškovi treniranja, procijenjeno vrijeme potrebno za treniranje ili procijenjena potrošnja energije za treniranje;

(d) 

ulazne i izlazne modalitete modela, kao što su pretvaranje teksta u tekst (veliki jezični modeli), pretvaranje teksta u sliku, multimodalnost i najnoviji pragovi za utvrđivanje sposobnosti visokog učinka za svaki modalitet, kao i specifičnu vrstu ulaznih i izlaznih podataka (npr. biološke sekvence);

(e) 

referentne vrijednosti i evaluacije sposobnosti modela, što uključuje uzimanje u obzir broja zadaća bez dodatnog treniranja, prilagodljivost za učenje novih, različitih zadaća, njegovu razinu autonomije i skalabilnosti, alate kojima ima pristup;

(f) 

ima li model zbog svojeg dosega znatan utjecaj na unutarnje tržište, što se pretpostavlja ako je stavljen na raspolaganje najmanje 10 000 registriranih poslovnih korisnika s poslovnim nastanom u Uniji;

(g) 

broj registriranih krajnjih korisnika.
PRILOG XIV.



PRILOG XIV.

Popis oznaka, kategorija i pripadajućih vrsta UI sustava namijenjen određivanju opsega imenovanja prijavljenih tijela za potrebe postupka prijavljivanja iz članka 30.

1.    Uvod

Za ocjenjivanje sukladnosti visokorizičnih UI sustava u skladu s ovom Uredbom može biti potrebno sudjelovanje tijela za ocjenjivanje sukladnosti. Samo tijela za ocjenjivanje sukladnosti koja su imenovana na temelju ove Uredbe mogu provoditi ocjenjivanja sukladnosti, i to samo za aktivnosti povezane s predmetnim vrstama UI sustava. Popis oznaka, kategorija i pripadajućih vrsta UI sustava služi za određivanje opsega imenovanja tijela za ocjenjivanje sukladnosti prijavljenih na temelju članka 30.

2.    Popis oznaka, kategorija i pripadajućih vrsta UI sustava

(a)    UI sustavi na koje se primjenjuje Prilog I.



Oznaka za potrebe Akta o UI-ju

 

AIP 0102

UI sustavi na koje se primjenjuje odjeljak A točka 2. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0103

UI sustavi na koje se primjenjuje odjeljak A točka 3. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0104

UI sustavi na koje se primjenjuje odjeljak A točka 4. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0105

UI sustavi na koje se primjenjuje odjeljak A točka 5. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0106

UI sustavi na koje se primjenjuje odjeljak A točka 6. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0107

UI sustavi na koje se primjenjuje odjeljak A točka 7. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0108

UI sustavi na koje se primjenjuje odjeljak A točka 8. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0109

UI sustavi na koje se primjenjuje odjeljak A točka 9.Priloga I. Aktu o umjetnoj inteligenciji

AIP 0110

UI sustavi na koje se primjenjuje odjeljak A točka 10. Priloga I. Aktu o umjetnoj inteligenciji

AIP 0111

UI sustavi na koje se primjenjuje odjeljak A točka 11. Priloga I. Aktu o UI-ju

AIP 0112

UI sustavi na koje se primjenjuje odjeljak A točka 12. Priloga I. Aktu o umjetnoj inteligenciji

(b)    UI sustavi na koje se primjenjuje točka 1. Priloga III.



Oznaka za potrebe Akta o UI-ju

 

AIB 0201

Sustavi za daljinsku biometrijsku identifikaciju.

AIB 0202

UI sustavi za biometrijsku kategorizaciju

AIB 0203

UI sustavi za prepoznavanje emocija

3.    Oznake specifične za UI tehnologiju

(a)    Simbolički UI i stručni sustavi



Oznaka za potrebe Akta o UI-ju

 

AIH 0101

UI sustavi temeljeni na simboličkoj umjetnoj inteligenciji, stručni sustavi i sustavi utemeljeni na znanju te UI sustavi temeljeni na pretraživanju i optimizaciji

(b)    Strojno učenje, osim generativnog UI-ja i UI sustava opće namjene



Oznaka za potrebe Akta o UI-ju

 

AIH 0201

UI sustavi koji obrađuju strukturirane podatke

AIH 0202

UI sustavi koji obrađuju signalne i zvučne podatke

AIH 0203

UI sustavi koji obrađuju tekstualne podatke

AIH 0204

UI sustavi koji obrađuju slike i videozapise

AIH 0205

UI sustavi koji uče iz svojeg okruženja, isključujući UI sustave obuhvaćene pod AIH 0401

(c)    UI sustavi temeljeni na UI modelima opće namjene ili generativnom UI-ju



Oznaka za potrebe Akta o UI-ju

 

AIH 0301

Generativni UI sustavi, uključujući UI sustave temeljene na UI modelima opće namjene

(d)    Tehnologije UI-ja u nastajanju



Oznaka za potrebe Akta o UI-ju

 

AIH 0401

UI sustavi koji se temelje na drugim tehnologijama UI-ja u nastajanju koje nisu obuhvaćene drugim oznakama, uključujući agentski UI

4.    Zahtjev za imenovanje

Pri navođenju vrsta UI sustava u zahtjevu za imenovanje iz članka 29. tijela za ocjenjivanje sukladnosti koriste popise oznaka, kategorija i pripadajućih vrsta UI sustava iz ovog Priloga.

1.1 Reference

1.2 Utvrđeni zahtjevi

1.3 Povezani standardi

2. Utvrđeni zahtjevi

Zahtjevi

3. Povezani standardi

Standardi

Povezani zadaci

Poveznice
is related to New version: AI Act (KI-Verordnung) (CELEX:02024R1689-20260727) – 0 new, 0 changed, 3 removed