欧盟人工智能法案第 14 条：人工监督实施指南

第 14 条的要求

提供商必须设计高风险人工智能系统，使其具有人机界面，以便人们能够在整个生命周期内有效地监督该系统。目标是防止或最大限度地减少对健康、安全或基本权利的风险。

至关重要的是，第 14 条规定了一种“人机协同”的理念。仅仅让人参与其中是不够的——这个人必须具备实际的能力和权力，能够理解、干预和Override。

所需具备的六种监督能力

第 14 条（4）列出了人类监督必须具备的六种具体能力：

• 理解能力和局限性——包括已知的偏差、错误倾向和准确性范围
• 监控异常情况——包括漂移、异常值和性能下降
• 解释输出结果——通过透明性和可解释性功能来支持
• 决定不使用——在适当的时候，拒绝采纳人工智能的输出结果
• 干预或中断——停止按钮、暂停或暂停以待审核
• Override或撤销——更改人工智能原本会产生的结果

文档要求

除了系统设计之外，部署者还必须维护文档，以证明监督是有效的：

• 指定的监督权限（拥有Override权限的人）
• 监督人员的培训记录
• Override程序和升级路径
• 记录的干预事件及其原因
• 可用于审计的记录，显示何时进行了监督，以及何时未进行监督

特殊规则：生物识别

对于远程生物识别系统，第 14 条规定了额外的要求：

关键决策必须由至少两名合格人员进行验证，但法律执法和边境控制等特定场景除外。