III pielikums: augsta riska AI sistēmas: 6. panta klasifikācijas ceļvedis

Kas padara AI sistēmu par augsta riska sistēmu?

6. pants nosaka divus neatkarīgus ceļus. Atbilstība jebkuram no tiem padara sistēmu par augsta riska sistēmu — un aktivizē pilnu IV pielikuma dokumentāciju, 9.–15. pantu kontroles un atbilstības novērtēšanas saistības.

Abi ceļi: 6. panta 1. punkts attiecas uz AI, kas tiek izmantota kā drošības komponents regulētos produktos. 6. panta 2. punkts + III pielikums attiecas uz atsevišķu AI astoņās konkrētās lietojumu kategorijās.

1. ceļš: drošības komponenti (6. panta 1. punkts)

Ja jūsu AI ir drošības komponents produktam, uz kuru attiecas ES nozaru likumdošana (medicīnas ierīces, transportlīdzekļi, mašīnas, lifti, rotaļlietas utt.) vai arī ir pats šāds produkts, tas automātiski ir augsta riska.

Atbilstības novērtējumu veic akreditēta institūcija.

2. ceļš: III pielikuma lietojumu kategorijas (6. panta 2. punkts)

Astoņas lietojumu kategorijas izraisa augsta riska klasifikāciju neatkarīgi no pamata tehnoloģijas:

• Biometrika: Attālās biometriskās identifikācijas un emociju atpazīšanas sistēmas
• Kritiskā infrastruktūra: AI enerģētikas, ūdens, gāzes, apkures un digitālās infrastruktūras jomā
• Izglītība: AI studentu novērtēšanai, eksāmenu vērtēšanai un mācību analīzei
• Nodarbinātība: CV izvērtēšana, interviju analīze, uzdevumu sadale, darba izpildes novērtēšana, lēmumi par atlaišanu
• Būtiskie pakalpojumi: Kredītvērtējums, aizdevumu apstiprināšana, apdrošināšanas cenu noteikšana, neatliekamās palīdzības dienestu izsaukšana
• Tiesībaizsardzība: Risku novērtēšana, poligrāfi, pierādījumu izvērtēšana, profilēšana
• Migrācija un patvērums: Vīzu pieteikumi, patvēruma procesi, robežkontrole
• Tieslietas: Palīdzība lēmumu pieņemšanā par sodu, paredzama lietas iznākuma analīze, juridisko pētījumu veikšana

6. panta 3. punkta izņēmums

III pielikumā minētajai AI sistēmai var piemērot izņēmumu, ja tā nerada būtisku risku cilvēku veselībai, drošībai vai pamattiesībām.

Atzīti gadījumi ietver šaurus procedūras uzdevumus, iepriekš pabeigtas cilvēka darbības rezultātu uzlabošanu, lēmumu modeļu noteikšanu, neaizstājot cilvēka novērtējumu, vai sagatavošanas uzdevumus turpmākiem cilvēka lēmumiem. Profilēšana vienmēr ir augsta riska darbība. Izņēmums nekad neattiecas, ja sistēma veic fizisko personu profilēšanu.

Ja jūs apgalvojat, ka piemērojat izņēmumu, rūpīgi dokumentējiet pamatojumu. Regulators var to apstrīdēt.

Dokumentācijas prasības, ja sistēma ir augsta riska

Augsta riska AI sistēmām jāuztur visaptveroša atbilstības dokumentācija:

• IV pielikuma tehniskā dokumentācija
• 9. panta riska pārvaldības sistēma
• 10. panta datu pārvaldības reģistri
• 12. panta reģistrēšana ražošanā
• 14. panta cilvēka uzraudzības dizains
• Atbilstības novērtējums + CE marķējums
• Reģistrācija ES AI datu bāzē