歐盟 AI 法案第 14 條：人工監督實施指南

第 14 條的要求

供應商必須設計高風險 AI 系統，使其具有人機界面，以便人們能夠在其生命週期內有效地監督該系統。目標是防止或最大限度地減少對健康、安全或基本權利的風險。

至關重要的是，第 14 條規定了一種“人為控制”的理念。僅僅有人參與決策迴路是不夠的——這個人必須具備實際的能力和權力來理解、干預和覆蓋。

所需六種監督能力

第 14 條（4）列出了人類監督必須具備的六種具體能力：

• 理解能力和局限性——包括已知的偏見、錯誤傾向和準確性範圍
• 監控異常情況——包括漂移、異常值和性能下降
• 解釋輸出結果——通過透明度和可解釋性功能來支持
• 決定不使用——在適當的時候拒絕採納人工智能的輸出結果
• 干預或中斷——停止按鈕、暫停或等待審查
• 覆蓋或逆轉——更改人工智能本會產生的結果

文件要求

除了系統設計之外，部署者還必須維護文件，以證明監督是有效的：

• 指定的監督權威（擁有覆蓋權的人)
• 監督人員的培訓記錄
• 覆蓋程序和升級路徑
• 記錄的干預事件和理由
• 可供審計的記錄，顯示何時進行了監督，何時未進行監督

特殊規則：生物識別

對於遠程生物識別系統，第 14 條規定了額外的要求：

關鍵決策必須由至少兩名合格人員驗證，但狹隘的執法和邊境控制場景除外。