Článek 14 nařízení EU o umělé inteligenci: Průvodce implementací lidského dohledu
Článek 14 vyžaduje, aby vysoce rizikové systémy umělé inteligence byly navrženy tak, aby umožňovaly efektivní lidský dohled. „Efektivní“ v tomto kontextu znamená, že to musí skutečně fungovat – a přesně to je to, pro co byl AIAgentree vytvořen.
Naposledy aktualizováno: April 29, 2026
Co vyžaduje článek 14
Poskytovatelé musí navrhovat vysoce rizikové systémy umělé inteligence s rozhraními člověk-stroj, která lidem umožňují efektivně dohlížet na systém během jeho životního cyklu. Cílem je předcházet rizikům nebo je minimalizovat pro zdraví, bezpečnost nebo základní práva.
Klíčové je, že článek 14 zahrnuje filozofii „člověk má kontrolu“. Nestačí mít člověka v procesu – tento člověk musí mít skutečnou schopnost a pravomoc porozumět situaci, zasáhnout a případně rozhodnutí změnit.
Šest požadovaných schopností pro dohled
Článek 14(4) uvádí šest konkrétních schopností, které musí lidský dohled umožňovat:
- Porozumět schopnostem a omezením – včetně známých zkreslení, tendencí k chybám a mezí přesnosti
- Monitorovat anomálie – včetně odchylek, extrémních hodnot a degradace
- Interpretovat výstupy – s podporou funkcí transparentnosti a vysvětlitelnosti
- Rozhodnout se, že se systém nepoužije – odmítnout jednat na základě výstupu umělé inteligence, pokud je to vhodné
- Zasáhnout nebo přerušit – použít tlačítka pro zastavení, pozastavit nebo dočasně pozdržet proces do doby, než bude provedena revize
- Přepsat nebo zrušit – změnit výsledek, který by umělá inteligence jinak vytvořila
Požadavky na dokumentaci
Kromě návrhu systému musí provozovatelé vést dokumentaci, která prokazuje, že dohled je účinný:
- Určená osoba odpovědná za dohled (která má pravomoc přepsat rozhodnutí)
- Záznamy o školení personálu provádějícího dohled
- Postupy pro přepsání rozhodnutí a eskalace
- Zaznamenané případy zásahů a zdůvodnění
- Záznamy, které jsou připraveny pro audit a ukazují, kdy byl dohled uplatněn a kdy ne
Zvláštní pravidlo: Biometrická identifikace
U systémů pro vzdálenou biometrickou identifikaci stanovuje článek 14 další požadavky:
Klíčová rozhodnutí musí ověřit alespoň dvě kompetentní osoby, s výjimkou úzkých scénářů v oblasti prosazování zákona a pohraniční kontroly.
Funkce pro lidský dohled v systému AIAgentree
AIAgentree poskytuje nástroje, které umožňují splnit požadavky článku 14 přímo z balíčku:
- Průběhy schvalování pro rozhodnutí překračující stanovenou hranici
- Automatické sledování přepsání rozhodnutí, včetně informací o tom, kdo, kdy a proč rozhodnutí přepsal
- Analýza vzorců, která porovnává rozhodnutí lidí a umělé inteligence
- Upozornění na eskalaci, když se rozhodnutí odchylují od normálních parametrů
- Záznamy o dohledu, které jsou připraveny pro audit a slouží pro kontrolu ze strany regulačních orgánů
Často kladené otázky
Je pro článek 14 dostatečné mít pouze zaškrtnuté políčko „člověk v procesu“?
Ne. Dohled musí být účinný – člověk musí mít k dispozici informace, školení a pravomoc, aby mohl skutečně zasáhnout. Schvalování bez skutečné kontroly nesplňuje požadavky a regulační orgány to jasně uvádějí.
Co když můj vysoce rizikový systém umělé inteligence provádí tisíce rozhodnutí za hodinu?
Článek 14 nevyžaduje, aby člověk kontroloval každé rozhodnutí. Vyžaduje, aby dohled byl smysluplný v bodech, kde má zásah význam. Kontrola založená na úrovni rizika – plný dohled pro případy s velkým dopadem, vzorkovaná kontrola pro běžné případy – je přijatelná, pokud je zdokumentována.