EU AI法 第14条：人間の監視の実装ガイド

第14条で求められること

プロバイダーは、高リスクAIシステムを、人間と機械のインターフェイスを備えて設計し、人間がシステムのライフサイクル中にシステムを効果的に監視できるようにする必要があります。目標は、健康、安全、または基本的人権に対するリスクを防止または最小限に抑えることです。

最も重要な点として、第14条には「人間による指揮」の原則が組み込まれています。単に人間が関与しているだけでは不十分であり、その人間は実際に状況を理解し、介入し、それを覆す能力と権限を持っている必要があります。

必要な6つの監視能力

第14条（4）には、人間による監視が有効に機能するために必要な6つの具体的な能力が記載されています。

• 能力と限界を理解する — 既知のバイアス、エラーの傾向、および精度の範囲を含む
• 異常を監視する — 逸脱、外れ値、および劣化を含む
• 出力を解釈する — 透明性と説明可能性の機能によってサポート
• 使用を控える — 適切な場合に、AIの出力に基づいて行動することを拒否する
• 介入または中断する — 停止ボタン、一時停止、または保留中のレビュー
• 上書きまたは逆転する — AIが生成するであろう結果を変更する

文書化の要件

システム設計に加えて、展開者は、監視が効果的であることを証明する文書を維持する必要があります。

• 指定された監視担当者（上書き権限を持つ者）
• 監視担当者のトレーニング記録
• 上書きの手順とエスカレーション経路
• 介入の記録と、その理由
• 監査の準備が整った記録。監視が実施された場合と、実施されなかった場合を区別する

特別な規則：生体認証

リモート生体認証システムの場合、第14条は追加の要件を課します。

重要な決定は、狭い範囲の法執行および国境管理のシナリオを除き、少なくとも2人の有能な個人によって検証される必要があります。