Článek 12 nařízení EU o umělé inteligenci: Požadavky na protokolování a sledování

Co vyžaduje článek 12

Vysoce rizikové systémy umělé inteligence musí být navrženy tak, aby umožňovaly automatické zaznamenávání událostí („protokoly“) po celou dobu životnosti systému. Protokoly musí umožňovat sledovatelnost, která je dostatečná pro monitorování po uvedení na trh, regulační kontroly a lidský dohled podle článku 14.

Článek 12 je jedním z mála závazků nařízení EU o umělé inteligenci, který vyžaduje technickou schopnost, a nikoli pouze dokumentaci procesů – váš systém umělé inteligence musí doslova vytvářet tyto záznamy během provozu.

Co musí vaše protokoly obsahovat

Protokoly podle článku 12 musí obsahovat dostatečné množství podrobností, aby bylo možné rekonstruovat, jak a proč byla přijata rozhodnutí:

• Zaznamenávání událostí na úrovni jednotlivých událostí se spolehlivými časovými razítky
• Vstupy přijaté systémem umělé inteligence a výstupy, které systém vytvořil
• Interní kroky procesu (úvahy, dílčí rozhodnutí, hodnocení zásad)
• Akce, které provádějí lidé: schválení, přepsání, eskalace
• Data o stavu systému, která jsou dostatečná k reprodukci kontextu rozhodnutí
• Anomální události a jejich zpracování

Technické požadavky

Nařízení stanovuje několik technických vlastností, které musí vaše infrastruktura pro protokolování splňovat:

• Automatické protokolování – ruční záznamy do protokolu nesplňují požadavky článku 12
• Spolehlivé a úplné zaznamenávání událostí
• Bezpečné úložiště, které je odolné proti neoprávněným zásahům
• Doba uchovávání dat, která je úměrná zamýšlenému účelu a rizikovému profilu
• Export do formátů vhodných pro regulační přezkum

Běžné nedostatky v souladu

Na základě naší práce s týmy podnikových systémů umělé inteligence jsou to nejčastější nedostatky v souladu s článkem 12:

• Protokolování pouze výstupů, nikoli odůvodnění, které je vytvořilo
• Chybějící nebo neúplné záznamy o zásazích uživatelů
• Úložiště protokolů, které lze upravovat a které nesplňuje požadavky na odolnost proti neoprávněným zásahům
• Příliš krátká doba uchovávání dat pro regulační kontroly
• Žádný strukturovaný export – pouze ad hoc dotazy do databáze

Technická dokumentace článku 11 a přílohy IV

Článek 11 vyžaduje technickou dokumentaci, která spolu s protokoly podle článku 12 prokazuje shodu.

Příloha IV stanovuje strukturu: popis systému, zamýšlený účel, návrhové volby, tréninková a testovací data, postupy ověřování, monitorování a samotné protokoly. Považujte obojí za jeden pracovní postup.