Članak 14 Zakona EU o umjetnoj inteligenciji: Vodič za implementaciju ljudske kontrole
Članak 14 zahtijeva da se visokorizični sustavi umjetne inteligencije dizajniraju na način koji omogućuje učinkovitu ljudsku kontrolu. 'Učinkovita' kontrola znači da se radi o stvarnom radu u toj rečenici – i to je upravo ono za što je izgrađen AIAgentree.
Zadnje ažurirano: April 29, 2026
Što članak 14 zahtijeva
Pružatelji usluga moraju dizajnirati visokorizične sustave umjetne inteligencije s ljudsko-strojnim sučeljima koja omogućuju ljudima da učinkovito nadziru sustav tijekom njegovog životnog ciklusa. Cilj je spriječiti ili smanjiti rizike za zdravlje, sigurnost ili temeljna prava.
Ključno je da članak 14 uključuje filozofiju 'ljudska kontrola'. Nije dovoljno imati osobu u procesu — ta osoba mora imati stvarnu sposobnost i ovlast razumjeti, intervenirati i poništiti.
Šest potrebnih sposobnosti nadzora
Članak 14. (4) navodi šest specifičnih sposobnosti koje ljudski nadzor mora omogućiti:
- Razumijevanje sposobnosti i ograničenja — uključujući poznate pristranosti, tendencije prema pogreškama i granice točnosti
- Praćenje anomalija — uključujući odstupanja, iznimke i degradaciju
- Interpretacija izlaznih podataka — uz podršku značajki transparentnosti i razumljivosti
- Odluka o neupotrebi — odbijanje djelovanja na izlazne podatke umjetne inteligencije kada je to prikladno
- Intervencija ili prekid — gumbi za zaustavljanje, pauza ili privremeno obustavljanje do daljnjeg pregleda
- Poništavanje ili poništavanje — promjena ishoda koji bi umjetna inteligencija proizvela
Zahtjevi za dokumentacijom
Osim dizajna sustava, implementatori moraju voditi dokumentaciju koja dokazuje da je nadzor učinkovit:
- Određena ovlast za nadzor (tko ima ovlast poništavanja)
- Evidencija o obuci osoblja za nadzor
- Postupci poništavanja i putovi eskalacije
- Zabilježeni slučajevi intervencije i obrazloženje
- Evidencija spremna za reviziju o tome kada je nadzor bio aktivan, a kada ne
Posebno pravilo: Biometrijska identifikacija
Za sustave za udaljenu biometrijsku identifikaciju, članak 14 nameće dodatne zahtjeve:
Ključne odluke moraju potvrditi najmanje dvije kompetentne osobe, osim u uskim scenarijima vezanim uz provedbu zakona i kontrolu granica.
Značajke ljudskog nadzora u AIAgentree
AIAgentree pruža alate za ispunjavanje zahtjeva članka 14 iz kutije:
- Radni tijekovi odobravanja za odluke iznad praga
- Automatsko praćenje poništavanja, uključujući tko, kada i zašto
- Analiza uzoraka koja uspoređuje ljudske i AI odluke
- Upozorenja o eskalaciji kada odluke izlaze izvan normalnih parametara
- Izvješća o nadzoru spremna za reviziju za regulatorne inspekcije
Često postavljana pitanja
Je li samo odabir potvrde 'ljudska kontrola' dovoljan za članak 14?
Ne. Nadzor mora biti učinkovit — osoba mora imati informacije, obuku i ovlast za stvarnu intervenciju. Odobravanja bez stvarnog nadzora ne zadovoljavaju uvjete, a regulatori to jasno ističu.
Što ako moj sustav umjetne inteligencije visokog rizika donosi tisuće odluka u jednom satu?
Članak 14 ne zahtijeva ljudski pregled svake odluke. Zahtijeva da nadzor bude značajan u trenucima kada je intervencija važna. Razvrstavanje rizika — potpuni nadzor za slučajeve visokog utjecaja, uzorkovito praćenje za rutinske slučajeve — prihvatljivo je ako je dokumentirano.