Стаття 14 Закону ЄС про ШІ: посібник із реалізації людського контролю

Що вимагає стаття 14

Постачальники повинні розробляти високоризикові системи ШІ з людсько-машинними інтерфейсами, які дозволяють людям ефективно контролювати систему протягом усього її життєвого циклу. Мета полягає в тому, щоб запобігти або мінімізувати ризики для здоров’я, безпеки чи основних прав.

Найважливіше, що стаття 14 передбачає філософію «людина керує». Недостатньо просто залучити людину до процесу — ця людина повинна мати фактичну можливість і повноваження розуміти, втручатися та скасовувати рішення.

Шість необхідних можливостей для контролю

У статті 14(4) перелічено шість конкретних можливостей, які має забезпечувати людський контроль:

• Розуміти можливості та обмеження — зокрема відомі упередження, схильність до помилок і межі точності
• Відстежувати аномалії — зокрема відхилення, екстремальні значення та погіршення
• Інтерпретувати результати — за підтримки функцій прозорості та можливості пояснення
• Приймати рішення не використовувати — відмовлятися від використання результатів ШІ, коли це доцільно
• Втручатися або переривати — кнопки зупинки, пауза або призупинення для подальшого розгляду
• Скасовувати або змінювати — змінювати результат, який ШІ міг би надати

Вимоги до документації

Окрім проєктування системи, розробники повинні вести документацію, яка підтверджує ефективність контролю:

• Призначені повноваження для контролю (хто має право скасовувати рішення)
• Записи про навчання персоналу, який здійснює контроль
• Процедури скасування та шляхи ескалації
• Зафіксовані випадки втручання та обґрунтування
• Записи, готові до аудиту, про те, коли здійснювався контроль, а коли ні

Спеціальне правило: біометрична ідентифікація

Для систем віддаленої біометричної ідентифікації стаття 14 встановлює додаткові вимоги:

Критичні рішення повинні бути підтверджені принаймні двома компетентними особами, за винятком окремих випадків у сфері правоохоронних органів і прикордонного контролю.