ES dirbtinio intelekto įstatymo 14 straipsnis: žmogaus priežiūros įgyvendinimo gairės
14 straipsnis reikalauja, kad didelės rizikos dirbtinio intelekto sistemos būtų suprojektuotos taip, kad būtų užtikrinta veiksminga žmogaus priežiūra. „Veiksminga“ reiškia, kad tai turi būti realus dalykas – ir būtent tam buvo sukurta „AIAgentree“.
Paskutinį kartą atnaujinta: April 29, 2026
Ką reikalauja 14 straipsnis
Paslaugų teikėjai turi suprojektuoti didelės rizikos dirbtinio intelekto sistemas su žmogaus ir mašinos sąsajomis, kurios leidžia žmonėms veiksmingai prižiūrėti sistemą per visą jos gyvavimo ciklą. Tikslas – užkirsti kelią rizikai arba ją sumažinti sveikatos, saugumo ar pagrindinių teisių srityje.
Svarbiausia yra tai, kad 14 straipsnis įtvirtina „žmogaus kontrolės“ principą. Nepakanka tiesiog turėti žmogų sistemoje – šis žmogus turi turėti realių galimybių ir įgaliojimų suprasti, įsikišti ir pakeisti sprendimus.
Šešios būtinos priežiūros galimybės
14 straipsnio (4) dalyje nurodomos šešios konkrečios galimybės, kurias žmogaus priežiūra turi užtikrinti:
- Suprasti galimybes ir apribojimus – įskaitant žinomas tendencijas, klaidas ir tikslumo ribas
- Stebėti anomalijas – įskaitant nuokrypius, išskirtinius atvejus ir pablogėjimą
- Interpretуoti rezultatus – remiantis skaidrumo ir paaiškinamumo funkcijomis
- Nuspręsti nenaudoti – atsisakyti veikti pagal dirbtinio intelekto rezultatus, kai tai tinkama
- Įsikišti arba sustabdyti – sustabdymo mygtukai, pauzė arba laikinai sustabdyti, kol bus atliktas peržiūros procesas
- Pakeisti arba atšaukti – pakeisti rezultatą, kurį būtų sukūręs dirbtinis intelektas
Dokumentacijos reikalavimai
Be sistemos projektavimo, diegėjai turi prižiūrėti dokumentaciją, įrodančią, kad priežiūra yra veiksminga:
- Paskirta priežiūros institucija (kuri turi teisę keisti sprendimus)
- Priežiūros personalo mokymo įrašai
- Sprendimų keitimo procedūros ir eskalavimo keliai
- Įrašyti įvykių, kai buvo įsikišta, atvejai ir jų pagrindimas
- Įrašai, paruošti auditui, nurodantys, kada priežiūra buvo vykdoma, o kada – ne
Speciali taisyklė: biometrinė identifikacija
Nuotolinėms biometrinėms identifikavimo sistemoms 14 straipsnis nustato papildomus reikalavimus:
Svarbūs sprendimai turi būti patvirtinti bent dviejų kompetentingų asmenų, išskyrus siaurus teisėsaugos ir sienų kontrolės scenarijus.
„AIAgentree“ žmogaus priežiūros funkcijos
„AIAgentree“ pateikia įrankius, skirtus 14 straipsnio reikalavimams patenkinti iš karto:
- Sprendimų, viršijančių nustatytą ribą, patvirtinimo darbo eiga
- Sprendimų keitimo stebėjimas, automatiškai užfiksuojamas, nurodant, kas, kada ir kodėl
- Modelių analizė, lyginanti žmogaus ir dirbtinio intelekto priimtus sprendimus
- Įspėjimai apie eskalavimą, kai sprendimai neatitinka įprastų parametrų
- Priežiūros ataskaitos, paruoštos auditui, skirtos reguliavimo institucijų patikrinimui
Dažnai užduodami klausimai
Ar „žmogaus sistemoje“ pažymėjimo langelio užtenka, kad būtų laikomasi 14 straipsnio?
Ne. Priežiūra turi būti veiksminga – žmogus turi turėti informacijos, apmokymo ir įgaliojimų, kad galėtų tikrai įsikišti. Formalūs patvirtinimai neatitinka reikalavimų, ir reguliavimo institucijos tai aiškiai nurodo.
Kas atsitiks, jei mano didelės rizikos dirbtinio intelekto sistema priima tūkstančius sprendimų per valandą?
14 straipsnis nenumato, kad kiekvienas sprendimas būtų peržiūrimas žmogaus. Jame reikalaujama, kad priežiūra būtų prasminga tose vietose, kuriose įsikišimas yra svarbus. Rizikos lygių peržiūra – visapusiška priežiūra didelės įtakos atvejams, atsitiktinis stebėjimas – įprastiems atvejams – yra priimtina, jei tai yra dokumentuota.