Člen 14 zakona EU o umetni inteligenci: Vodnik za izvajanje človeškega nadzora
Člen 14 zahteva, da so visokotvegani sistemi umetne inteligence zasnovani na način, ki omogoča učinkovit človeški nadzor. 'Učinkovit' v tem stavku pomeni, da mora biti nadzor dejansko izveden – in to je natančno to, za kar je bil zasnovan AIAgentree.
Zadnja posodobitev: April 29, 2026
Kaj člen 14 zahteva
Ponudniki morajo zasnovati visokotvegane sisteme umetne inteligence z vmesniki med človekom in strojem, ki omogočajo ljudem, da učinkovito nadzorujejo sistem v njegovem življenjskem ciklu. Cilj je preprečiti ali zmanjšati tveganja za zdravje, varnost ali temeljne pravice.
Ključno je, da člen 14 vključuje filozofijo »človek v nadzornem položaju«. Ni dovolj, da je človek vključen v proces – ta človek mora imeti dejansko sposobnost in pooblastilo, da razume, posreduje in prekine.
Šest zahtevanih zmožnosti nadzora
Člen 14(4) navaja šest specifičnih zmožnosti, ki jih mora omogočiti človeški nadzor:
- Razumevanje zmožnosti in omejitev – vključno z znanimi pristranskosti, nagnjenostmi do napak in mejami natančnosti
- Spremljanje anomalij – vključno z odstopanjem, izstopajočimi vrednostmi in poslabšanjem
- Interpretacija rezultatov – podprta s funkcijami preglednosti in razložljivosti
- Odločitev o neuporabi – zavrnitev izvajanja izhodnih podatkov umetne inteligence, kadar je to primerno
- Posredovanje ali prekinitev – gumbi za ustavitev, premor ali začasna ustavitev do dokončanja pregleda
- Preklic ali obnova – sprememba rezultata, ki bi ga ustvarila umetna inteligenca
Zahteve za dokumentacijo
Poleg zasnove sistema morajo izvajalci voditi dokumentacijo, ki dokazuje, da je nadzor učinkovit:
- Določena nadzorna avtoriteta (ki ima pooblastilo za preklic)
- Evidence o usposabljanju osebja za nadzor
- Postopki preklica in poti eskalacije
- Zabeleženi primeri posredovanja in utemeljitev
- Evidence, ki so pripravljene za revizijo, o tem, kdaj je bil izveden nadzor in kdaj ne
Posebno pravilo: Biometrična identifikacija
Za sisteme za oddaljeno biometrično identifikacijo člen 14 nalaga dodatne zahteve:
Ključne odločitve morajo potrditi vsaj dve usposobljeni osebi, razen v ozkih scenarijih, povezanih z izvajanjem zakona in nadzorom meja.
Funkcije človeškega nadzora AIAgentree
AIAgentree ponuja orodja, ki omogočajo izpolnjevanje zahtev člena 14 že v osnovni konfiguraciji:
- Potrditveni poteki za odločitve, ki presegajo določeno raven
- Samodejno zabeleženo sledenje preklicem, vključno z informacijami o tem, kdo, kdaj in zakaj je to storil
- Analiza vzorcev, ki primerja odločitve ljudi in umetne inteligence
- Opozorila o eskalaciji, ko odločitve odstopajo od običajnih parametrov
- Evidence nadzora, ki so pripravljene za revizijo, za regulativni pregled
Pogosto zastavljena vprašanja
Ali je samo potrditveno polje »človek v zanki« dovolj za člen 14?
Ne. Nadzor mora biti učinkovit – človek mora imeti informacije, usposabljanje in pooblastilo, da dejansko posreduje. Odobritve brez pravega nadzora ne izpolnjujejo pogojev, in regulatorji to jasno poudarjajo.
Kaj, če moj visokotvegani sistem umetne inteligence sprejema na stotine odločitev na uro?
Člen 14 ne zahteva, da človek pregleda vsako odločitev. Zahteva, da je nadzor smiseln v točkah, kjer je posredovanje pomembno. Sprejemljivo je, če se uporablja nadzor, razvrščen po stopnji tveganja – popoln nadzor za primere z visokim vplivom, vzorčno spremljanje za običajne primere – če je to dokumentirano.