Člen 12 zakona EU o umetni inteligenci: Zahteve za beleženje in sledenje dogodkov
Člen 12 zakona EU o umetni inteligenci zahteva, da visokotvegani sistemi umetne inteligence samodejno beležijo dogodke v celotnem življenjskem ciklu sistema. Ta stran natančno opisuje, kaj mora vaše sledenje dogodkov zajemati, pravila o obdobju hrambe in kako tehnična dokumentacija iz člena 11 in Priloge IV vplivata drug na drugega.
Zadnja posodobitev: April 29, 2026 · 10 min read
Kaj člen 12 zahteva
Visokotvegani sistemi umetne inteligence morajo biti po zaslugi zasnovani tako, da omogočajo samodejno beleženje dogodkov ('beležke') v celotnem življenjskem ciklu sistema. Beležke morajo omogočati sledljivost, ki je zadostna za nadzor po uvedbi na trg, regulativni pregled in človeški nadzor v skladu s členom 14.
Člen 12 je ena izmed redkih obveznosti zakona EU o umetni inteligenci, ki zahteva tehnično zmožnost in ne samo dokumentacijo postopka – vaš sistem umetne inteligence mora dejansko ustvarjati te zapise med delovanjem.
Kaj mora vaše sledenje dogodkov zajemati
Beležke iz člena 12 morajo zajemati dovolj podrobnih informacij, da bi bilo mogoče rekonstruirati, kako in zakaj so bile sprejete odločitve:
- Beleženje na ravni dogodkov z zanesljivimi časovnimi žigi
- Vhodni podatki, ki jih prejme sistem umetne inteligence, in izhodni podatki, ki jih ustvari
- Notranji koraki procesa (razmislek, vmesne odločitve, ocene politik)
- Dejanja, pri katerih sodeluje človek: odobritve, prekinitve, eskalacije
- Podatki o stanju sistema, ki so zadostni za ponovno ustvarjanje konteksta odločitve
- Anomalni dogodki in njihovo obravnavanje
Tehnične zahteve
Uredba določa več tehničnih lastnosti, ki jih mora izpolnjevati vaša infrastruktura za beleženje:
- Samodejno beleženje – ročni vnos beležk ne izpolnjuje zahtev člena 12
- Zanesljivo in popolno beleženje dogodkov
- Varno shranjevanje, ki onemogoča nepooblaščen dostop
- Obdobje hrambe, ki je sorazmerno predvideni namenu in profilu tveganja
- Izvoz v formate, ki so primerni za regulativni pregled
Pogoste pomanjkljivosti pri skladnosti
Na podlagi našega dela z ekipami za umetno inteligenco v podjetjih so to najpogostejše pomanjkljivosti pri skladnosti s členom 12:
- Beleženje samo izhodnih podatkov, ne pa tudi razlogov, ki so jih povzročili
- Manjkajoči ali nepopolni zapisi o prekinitvah s strani človeka
- Spremenljivo shranjevanje beležk, ki ne izpolnjuje zahteve o onemogočanju nepooblaščenega dostopa
- Obdobja hrambe, ki so prekratka za regulativni pregled
- Ni strukturiranega izvoza – samo ad-hoc poizvedbe v bazi podatkov
Tehnična dokumentacija iz člena 11 in Priloge IV
Člen 11 zahteva tehnično dokumentacijo, ki skupaj z beležkami iz člena 12 dokazuje skladnost.
Priloga IV določa strukturo: opis sistema, predvideni namen, izbire pri oblikovanju, podatki za usposabljanje in testiranje, postopki validacije, nadzor in same beležke. Obravnavajte ju kot eno celoto.
Kako AIAgentree izpolnjuje zahteve člena 12
AIAgentree je bil zasnovan od začetka za izpolnjevanje zahtev člena 12:
- Zajem sledi odločitve – vsak vhodni podatek, vmesni korak, izhodni podatek je zabeležen
- Koraki razmisleka so ohranjeni skupaj z izhodnimi podatki
- Sledenje prekinitvam s strani človeka z metadatami o tem, kdo, kdaj in zakaj
- Kriptografična veriga za zagotavljanje celovitosti in onemogočanje nepooblaščenega dostopa
- Izvoz z enim klikom v formate, ki so zasnovani za regulativni pregled (PDF, JSON, CSV)
Pogosto zastavljena vprašanja
Kako dolgo morajo biti shranjene beležke iz člena 12?
Zakon EU o umetni inteligenci ne določa fiksnega obdobja; beležke je treba shranjevati za obdobje, ki je sorazmerno predvidenemu namenu in profilu tveganja sistema umetne inteligence. Večina ponudnikov se usklajuje s pravili o obdobju hrambe, ki so značilna za posamezne sektorje (finančne storitve, zdravstvo), in najdaljše obdobje, ki se uporablja, obravnavajo kot minimalno obdobje.
Ali moram beležiti vsako izpeljavo modela?
Člen 12 zahteva beleženje dogodkov, ki omogočajo sledljivost odločitev. Pri odločitvah, ki imajo pomembne posledice za pravice ali varnost ljudi, to dejansko pomeni vsako izpeljavo. Pri čisto internih pomožnih opravilih lahko zadostujejo tudi lažje, povzete beležke – v vsakem primeru dokumentirajte razlog.
Ali so same beležke osebni podatki v skladu z GDPR?
Pogosto da, zlasti če vsebujejo vhodne podatke, ki so povezani z identificiranimi posamezniki. Obravnavajte obdobje hrambe in nadzor dostopa do beležk iz člena 12 kot skupni problem v skladu z zakonom EU o umetni inteligenci in členom 32 GDPR.
Viri
- Regulation (EU) 2024/1689, Article 12 — artificialintelligenceact.eu/article/12
- Article 11 + Annex IV — artificialintelligenceact.eu/article/11