Dodatak III Sistemi veštačke inteligencije visokog rizika: Vodič za klasifikaciju iz Člana 6

Šta čini sistem veštačke inteligencije visokorizičnim?

Član 6 stvara dva nezavisna načina. Ako ispunite bilo koji od njih, smatra se da ste visokorizični — i to pokreće potpunu dokumentaciju iz Dodatka IV, kontrole iz Članova 9–15 i obaveze procene usklađenosti.

Dva načina: Član 6(1) pokriva veštačku inteligenciju koja se koristi kao sigurnosni komponent u regulisanim proizvodima. Član 6(2) + Dodatak III pokriva samostalne sisteme veštačke inteligencije u osam specifičnih kategorija slučajeva upotrebe.

Način 1: Sigurnosne komponente (Član 6(1))

Ako je vaša veštačka inteligencija sigurnosna komponenta proizvoda koji je obuhvaćen zakonodavstvom EU (medicinski uređaji, vozila, mašine, liftovi, igračke, itd.), ili je sama takav proizvod, automatski se smatra visokorizičnom.

Procena usklađenosti mora da se sprovodi od strane ovlašćenog tela.

Način 2: Kategorije slučajeva upotrebe iz Dodatka III (Član 6(2))

Osam kategorija slučajeva upotrebe pokreće klasifikaciju kao visokorizičnu, bez obzira na osnovnu tehnologiju:

• Biometrika: Sistemi za daljinsku biometrijsku identifikaciju i prepoznavanje emocija
• Kritična infrastruktura: Veštačka inteligencija u energetskoj, vodovodnoj, gasnoj, grejnoj i digitalnoj infrastrukturi
• Obrazovanje: Veštačka inteligencija za procenu učenika, ocenjivanje ispita i analizu učenja
• Zapošljavanje: Pregled životopisa, analiza intervjua, dodela zadataka, procena performansi, odluke o otpuštanju
• Esencijalne usluge: Kreditno ocenjivanje, odobravanje zajmova, određivanje cena osiguranja, slanje hitnih službi
• Provođenje zakona: Procena rizika, poligrafi, procena dokaza, profilisanje
• Migracije i azil: Zahtevi za vize, obrada zahteva za azil, kontrola granica
• Pravosuđe: Pomoć pri određivanju kazne, predviđanje ishoda slučaja, pravno istraživanje

Изјава из члана 6(3)

Систему вештачке интелигенције из Прилога III може се изјавити изузеће ако не представља значајан ризик за здравље, безбедност или основна права.

Прихваћени случајеви укључују уске процедуралне задатке, побољшање резултата претходно завршене људске активности, откривање образаца одлучивања без замењивања људске процене или припремне задатке за накнадну људску одлуку. Профилисање је увек високоризично. Изузеће се никада не примењује ако систем обавља профилисање физичких лица.

Ако тврдите да се примењује изузеће, детаљно документујте образложење. Надлежни органи могу то оспорити.

Захтеви за документацију ако је систем високоризичан

Системи вештачке интелигенције високе категорије ризика морају да одржавају свеобухватну документацију о усклађености:

• Техничка документација из Прилога IV
• Систем управљања ризиком из члана 9
• Евиденција о управљању подацима из члана 10
• Евидентирање у производњи из члана 12
• Дизајн људског надзора из члана 14
• Процена усклађености + CE ознака
• Регистрација у ЕУ бази података о вештачкој интелигенцији