Artigo 14 do Ato de IA da UE: Guia de implementação da supervisão humana

O que o Artigo 14 exige

Os fornecedores devem projetar sistemas de IA de alto risco com interfaces homem-máquina que permitam que os humanos supervisionem efetivamente o sistema durante seu ciclo de vida. O objetivo é prevenir ou minimizar os riscos à saúde, segurança ou direitos fundamentais.

Fundamentalmente, o Artigo 14 incorpora uma filosofia de 'controle humano'. Não basta ter um humano no processo — esse humano deve ter a capacidade e a autoridade reais para entender, intervir e anular.

As Seis Capacidades de Supervisão Necessárias

O Artigo 14(4) lista seis capacidades específicas que a supervisão humana deve permitir:

• Compreender as capacidades e limitações — incluindo vieses conhecidos, tendências de erro e limites de precisão
• Monitorar anomalias — incluindo desvios, valores discrepantes e degradação
• Interpretar os resultados — com o apoio de recursos de transparência e explicabilidade
• Decidir não usar — recusar-se a agir com base na saída da IA quando apropriado
• Intervir ou interromper — botões de parada, pausa ou suspensão para análise
• Anular ou reverter — alterar o resultado que a IA teria produzido

Requisitos de Documentação

Além do projeto do sistema, os implementadores devem manter a documentação que comprove que a supervisão é eficaz:

• Autoridade de supervisão designada (quem tem o poder de anular)
• Registros de treinamento para o pessoal de supervisão
• Procedimentos de anulação e caminhos de escalonamento
• Incidentes registrados de intervenção e a justificativa
• Registros prontos para auditoria de quando a supervisão foi exercida versus quando não foi

Regra Especial: Identificação Biométrica

Para sistemas de identificação biométrica remota, o Artigo 14 impõe requisitos adicionais:

As decisões críticas devem ser verificadas por pelo menos duas pessoas competentes, exceto em cenários restritos de aplicação da lei e controle de fronteiras.