EU AI 법 14조: 인간 감독 구현 지침

14조에서 요구하는 사항

제공업체는 고위험 AI 시스템을 설계할 때 인간이 시스템의 수명 주기 동안 시스템을 효과적으로 감독할 수 있도록 인간-기계 인터페이스를 제공해야 합니다. 목표는 건강, 안전 또는 기본권에 대한 위험을 예방하거나 최소화하는 것입니다.

무엇보다 중요한 점은 14조에 '인간 중심' 철학이 담겨 있다는 것입니다. 단순히 인간이 시스템에 참여하는 것만으로는 충분하지 않으며, 해당 인간은 실제로 상황을 이해하고, 개입하고, 변경할 수 있는 능력과 권한을 가져야 합니다.

필요한 6가지 감독 역량

14조(4)에는 인간 감독이 가능하도록 해야 하는 6가지 구체적인 역량이 명시되어 있습니다.

• 역량 및 한계 이해 — 알려진 편향, 오류 경향 및 정확도 한계 포함
• 이상 징후 모니터링 — 드리프트, 이상치 및 성능 저하 포함
• 결과 해석 — 투명성 및 설명 가능성 기능 지원
• 사용 중단 결정 — 적절한 경우 AI의 결과에 따라 행동하지 않음
• 개입 또는 중단 — 중지 버튼, 일시 중지 또는 보류 상태로 유지
• 변경 또는 되돌림 — AI가 생성했을 결과를 변경

문서화 요구 사항

시스템 설계 외에도 배포자는 감독이 효과적인지 입증하는 문서를 유지해야 합니다.

• 지정된 감독 권한(변경 권한이 있는 사람)
• 감독 담당자에 대한 교육 기록
• 변경 절차 및 에스컬레이션 경로
• 개입 및 그 근거에 대한 기록
• 감독이 수행되었는지 여부에 대한 감사 준비 기록

특별 규칙: 생체 인식

원격 생체 인식 시스템의 경우 14조는 추가 요구 사항을 부과합니다.

중요한 결정은 좁은 범위의 법 집행 및 국경 통제 시나리오를 제외하고 최소 두 명의 유능한 개인에 의해 확인되어야 합니다.