Definitivní průvodce pro dodržování předpisů EU AI Act pro poskytovatele a nasazovatele umělé inteligence. Zahrnuje klasifikaci vysoce rizikových systémů podle článku 6, požadavky na protokolování podle článku 12, lidský dohled podle článku 14, systémy z přílohy III, posuzování shody a technickou dokumentaci. Dodržování termínu 2. srpna 2026 s platformou pro sledování rozhodnutí AI Agentree. Sankce až do výše 35 milionů eur nebo 7 % celkového obratu za nedodržování.
EU AI Act je prvním komplexním nařízením o umělé inteligenci na světě. Vysoce rizikové systémy umělé inteligence musí dodržovat předpisy do 2. srpna 2026, jinak jim hrozí pokuty až do výše 35 milionů eur.
Tento průvodce se zabývá klasifikací, požadavky na protokolování, lidským dohledem a tím, jak AI Agentree poskytuje integrované dodržování předpisů podle článku 12.
Zákon EU o umělé inteligenci (nařízení 2024/1689) je prvním komplexním právním rámcem pro umělou inteligenci na světě. Stanovuje přístup založený na riziku pro regulaci systémů umělé inteligence, které fungují v Evropské unii.
Zákon kategorizuje systémy umělé inteligence do čtyř úrovní rizika:
Zcela zakázáno (sociální hodnocení, manipulace, biometrický dohled v reálném čase)
Přísné požadavky (systémy z přílohy III: zdravotnictví, lidské zdroje, finance, vymáhání práva)
Povinnosti v oblasti transparentnosti (chatboty, deepfakes, rozpoznávání emocí)
Žádné specifické požadavky (filtry spamu, hry, většina systémů umělé inteligence pro spotřebitele)
Většina podnikových aplikací umělé inteligence – včetně systémů umělé inteligence pro nábor, hodnocení úvěruschopnosti, diagnostiku ve zdravotnictví a automatizaci zákaznického servisu – spadá do kategorie vysoce rizikových systémů a musí dodržovat články 9–15 do 2. srpna 2026.
EU AI Act vstupuje v platnost (20 dní po zveřejnění ve Věstníku)
Platí zákaz zakázaných postupů v oblasti umělé inteligence (6 měsíců)
Pravidla GPAI, vzdělávání v oblasti AI, zřízení řídících orgánů (12 měsíců)
AI systémy s vysokým rizikem (příloha III) musí splňovat požadavky – 24 měsíců
Zbývající ustanovení, včetně systémů s vysokým rizikem z přílohy I (36 měsíců)
Články 9 až 15 stanoví povinné požadavky, které musí AI systémy s vysokým rizikem splňovat před uvedením na trh.
Zavedení a udržování systému řízení rizik v průběhu celého životního cyklu AI
Údaje pro trénink, ověřování a testování musí být relevantní, reprezentativní a bez chyb
Komplexní dokumentace prokazující soulad před uvedením na trh
Automatické protokolování operací systému umělé inteligence pro sledovatelnost a audit
Systémy umělé inteligence musí být dostatečně transparentní, aby uživatelé mohli interpretovat výstupy
Umožněte lidský dohled a zásah během provozu systému umělé inteligence
Platforma pro sledování rozhodnutí AI Agentree poskytuje integrovanou shodu s nejpřísnějšími požadavky nařízení EU o umělé inteligenci.
Automatické sledování rozhodnutí zaznamenává každé rozhodnutí AI s kontextem, odůvodněním a výsledky – přesně to, co vyžaduje článek 12.
Zjistěte víceIntegrované pracovní postupy pro kontrolu, prahové hodnoty spolehlivosti a cesty eskalace splňují požadavky na lidský dohled podle článku 14.
Zjistěte víceSémantické vyhledávání v historii rozhodnutí, exportovatelné protokoly auditu a zprávy o shodě pro regulační orgány.
Zjistěte víceProzkoumejte podrobné příručky pro každou z požadavků na dodržování předpisů.
Požadované kroky pro dodržování předpisů pro vysoce rizikové systémy umělé inteligence
Přečtěte si příručkuPrůvodce klasifikací podle článku 6 a přílohy III
Přečtěte si příručkuPovinnosti týkající se auditních záznamů a sledování rozhodnutí
Přečtěte si příručkuPovinnosti týkající se lidského dohledu podle článku 14
Přečtěte si příručkuZhodnoťte připravenost vašeho systému umělé inteligence na dodržování předpisů
Přečtěte si příručkuZa zakázané praktiky v oblasti umělé inteligence
Za porušení předpisů týkajících se vysoce rizikových systémů
Za poskytování nesprávných informací úřadům
Jedná se o nejvyšší specifické sankce za porušení v oblasti umělé inteligence na světě. Nařízení se vztahuje i na případy mimo území EU – každá společnost, která poskytuje služby zákazníkům v EU, musí dodržovat předpisy, bez ohledu na to, kde má sídlo.
Vymáhání nařízení EU o umělé inteligenci probíhá postupně: zakázané postupy v oblasti umělé inteligence (únor 2025), pravidla a správa GPAI (srpen 2025), vysoce rizikové systémy umělé inteligence podle přílohy III (2. srpen 2026) a zbývající ustanovení, včetně přílohy I (srpen 2027). Většina společností se musí zaměřit na termín 2. srpna 2026, který se týká vysoce rizikových systémů.
Vysoce rizikové systémy umělé inteligence jsou ty, které jsou uvedeny v příloze III nařízení EU o umělé inteligenci, a systémy umělé inteligence používané jako bezpečnostní prvky produktů. To zahrnuje umělou inteligenci v oblasti náboru, hodnocení úvěruschopnosti, zdravotnictví, vzdělávání, prosazování zákona a kritické infrastruktury. Tyto systémy musí splňovat přísné požadavky na transparentnost, dokumentaci, lidský dohled a řízení rizik.
Článek 12 vyžaduje, aby vysoce rizikové systémy umělé inteligence automaticky zaznamenávaly protokoly (stopy rozhodnutí), které umožňují monitorování, ověřování souladu a dohled po uvedení na trh. Protokoly musí zaznamenávat provoz systému umělé inteligence, včetně vstupů, výstupů a provozních parametrů. AI Agentree poskytuje vestavěný soulad s těmito požadavky na protokolování.
Pokuty mohou dosáhnout až 35 milionů eur nebo 7 % celkového ročního obratu za zakázané postupy v oblasti umělé inteligence, 15 milionů eur nebo 3 % za porušení pravidel pro vysoce rizikové systémy a 7,5 milionu eur nebo 1,5 % za poskytování nesprávných informací. Jedná se o nejvyšší pokuty specifické pro umělou inteligenci na světě.
Ano, nařízení EU o umělé inteligenci má extrateritoriální platnost. Vztahuje se na každého poskytovatele, který uvádí systémy umělé inteligence na trh EU, nebo jehož výstupy systémů umělé inteligence jsou v EU používány, bez ohledu na to, kde má společnost sídlo. Díky tomu se de facto vztahuje na společnosti, které obsluhují zákazníky v EU.
Vysoce rizikové systémy umělé inteligence vyžadují: technickou dokumentaci, systém řízení kvality, posouzení shody, prohlášení o shodě EU, označení CE, registraci v databázi EU a průběžné monitorování. AI Agentree automaticky generuje auditovatelnou dokumentaci pomocí sledování rozhodnutí.
AI Agentree poskytuje vestavěné protokolování podle článku 12, pracovní postupy pro lidský dohled a auditovatelnou dokumentaci. Zajistěte soulad ještě před srpnem 2026.