Član 14 Zakona o veštačkoj inteligenciji EU: Vodič za implementaciju ljudskog nadzora
Član 14 zahteva da se sistemi veštačke inteligencije visokog rizika dizajniraju na način koji omogućava efikasan ljudski nadzor. „Efikasan“ u ovoj rečenici znači da se radi o stvarnom radu — i upravo za to je AIAgentree izgrađen.
Poslednje ažuriranje: April 29, 2026
Šta zahteva član 14
Provajderi moraju da dizajniraju sisteme veštačke inteligencije visokog rizika sa ljudsko-mašinskim interfejsima koji omogućavaju ljudima da efikasno nadgledaju sistem tokom njegovog životnog ciklusa. Cilj je da se spreče ili smanje rizici za zdravlje, sigurnost ili osnovna prava.
Kritično je da Član 14 sadrži filozofiju „čovek u komandi“. Nije dovoljno imati čoveka u procesu — taj čovek mora imati stvarne mogućnosti i ovlašćenja da razume, interveniše i poništi.
Šest neophodnih sposobnosti nadzora
Član 14(4) navodi šest specifičnih sposobnosti koje nadzor od strane ljudi mora da omogući:
- Razumevanje mogućnosti i ograničenja — uključujući poznate pristrasnosti, tendencije ka greškama i granice tačnosti
- Praćenje anomalija — uključujući odstupanja, izuzetke i degradaciju
- Interpretacija rezultata — uz podršku funkcija transparentnosti i objašnjivosti
- Odluka da se ne koristi — odbijanje da se deluje na osnovu izlaza veštačke inteligencije kada je to prikladno
- Intervencija ili prekid — dugmad za zaustavljanje, pauza ili privremeno zaustavljanje radi daljeg pregleda
- Poništavanje ili poništavanje — promena rezultata koji bi veštačka inteligencija proizvela
Zahtevi za dokumentaciju
Osim dizajna sistema, oni koji ga implementiraju moraju da održavaju dokumentaciju koja dokazuje da je nadzor efikasan:
- Određeno ovlašćenje za nadzor (ko ima ovlašćenje da poništi)
- Evidencija obuke za osoblje za nadzor
- Procedure poništavanja i putanje eskalacije
- Evidentirani slučajevi intervencije i obrazloženje
- Evidencija spremna za reviziju o tome kada je vršen nadzor, a kada nije
Posebno pravilo: Biometrijska identifikacija
Za sisteme za daljinsku biometrijsku identifikaciju, Član 14 postavlja dodatne zahteve:
Ključne odluke moraju da budu potvrđene od strane najmanje dve kompetentne osobe, osim u uskim scenarijima vezanim za sprovođenje zakona i kontrolu granica.
Funkcije nadzora od strane ljudi u AIAgentree-u
AIAgentree pruža alate za ispunjavanje zahteva Člana 14 odmah po implementaciji:
- Radni tokovi odobravanja za odluke iznad određenog praga
- Automatsko praćenje poništavanja sa informacijama o tome ko, kada i zašto je to učinio
- Analiza obrazaca koja upoređuje odluke ljudi i veštačke inteligencije
- Obaveštenja o eskalaciji kada odluke izlaze izvan normalnih parametara
- Izveštaji o nadzoru spremni za reviziju radi regulatorne inspekcije
Često postavljana pitanja
Da li je samo odabir opcije „čovek u petlji“ dovoljno za Član 14?
Ne. Nadzor mora biti efikasan — čovek mora da ima informacije, obuku i ovlašćenja da zaista interveniše. Odobravanja bez provere ne ispunjavaju uslove, a regulatori to jasno naglašavaju.
Šta ako moj sistem veštačke inteligencije visokog rizika donosi hiljade odluka na sat?
Član 14 ne zahteva da čovek pregleda svaku odluku. Zahteva da nadzor bude značajan u tačkama u kojima je intervencija važna. Razvrstavanje rizika — puni nadzor za slučajeve visokog uticaja, uzorkovano praćenje za rutinske slučajeve — je prihvatljivo ako je dokumentovano.