Článok 12 nariadenia EÚ o umelej inteligencii: Požiadavky na zaznamenávanie a auditné záznamy

Čo vyžaduje článok 12

Systémy umelej inteligencie s vysokým rizikom musia byť navrhnuté tak, aby umožňovali automatické zaznamenávanie udalostí („protokoly“) počas celého životného cyklu systému. Protokoly musia umožňovať dostatočnú sledovateľnosť pre monitorovanie po uvedení na trh, regulačné kontroly a ľudský dohľad podľa článku 14.

Článok 12 je jedným z mála záväzkov nariadenia EÚ o umelej inteligencii, ktorý vyžaduje technickú možnosť, a nie len dokumentáciu procesov – váš systém umelej inteligencie musí doslova vytvárať tieto záznamy počas svojej prevádzky.

Čo musia vaše auditné záznamy obsahovať

Protokoly podľa článku 12 musia zachytávať dostatočné množstvo podrobností na to, aby sa dalo rekonštruovať, ako a prečo boli prijaté rozhodnutia:

• Zaznamenávanie udalostí na úrovni udalostí so spoľahlivými časovými značkami
• Vstupy, ktoré systém umelej inteligencie dostal, a výstupy, ktoré vytvoril
• Interné kroky procesu (úvahy, čiastkové rozhodnutia, vyhodnocovanie zásad)
• Akcie, pri ktorých sa vyžaduje zásah človeka: schválenia, prepísania, eskalácie
• Údaje o stave systému, ktoré sú dostatočné na reprodukovanie kontextu rozhodnutia
• Anomálne udalosti a ich spracovanie

Technické požiadavky

Nariadenie špecifikuje niekoľko technických vlastností, ktoré musí vaša infraštruktúra na zaznamenávanie spĺňať:

• Automatické zaznamenávanie – manuálne záznamy v protokole nespĺňajú požiadavky článku 12
• Spoľahlivé a úplné zaznamenávanie udalostí
• Bezpečné úložisko, ktoré je chránené pred manipuláciou
• Doba uchovávania úmerná zamýšľanému účelu a profilu rizika
• Možnosť exportu do formátov vhodných na regulačnú kontrolu

Časté nedostatky v súlade s predpismi

Na základe našej práce s tímami podnikov, ktoré sa zaoberajú umelou inteligenciou, sú to najčastejšie nedostatky v súlade s článkom 12:

• Zaznamenávajú sa iba výstupy, nie zdôvodnenie, ktoré ich vytvorilo
• Chýbajúce alebo neúplné záznamy o zásahoch človeka
• Úložisko protokolov, ktoré sa dá meniť a nespĺňa požiadavky na ochranu pred manipuláciou
• Príliš krátke doby uchovávania na regulačnú kontrolu
• Žiadny štruktúrovaný export – iba ad hoc dotazy do databázy

Technická dokumentácia podľa článku 11 a prílohy IV

Článok 11 vyžaduje technickú dokumentáciu, ktorá spolu s protokolmi podľa článku 12 dokazuje súlad.

Príloha IV špecifikuje štruktúru: popis systému, zamýšľaný účel, návrhové rozhodnutia, údaje na tréning a testovanie, postupy overovania, monitorovanie a samotné protokoly. Berte tieto dva aspekty ako jeden pracovný postup.