Điều 14 của Đạo luật AI của EU: Hướng dẫn triển khai giám sát của con người

Điều 14 yêu cầu những gì

Các nhà cung cấp phải thiết kế các hệ thống AI có rủi ro cao với giao diện người-máy cho phép con người giám sát hiệu quả hệ thống trong suốt vòng đời của nó. Mục tiêu là ngăn ngừa hoặc giảm thiểu rủi ro cho sức khỏe, sự an toàn hoặc các quyền cơ bản.

Điều quan trọng là, Điều 14 đưa ra triết lý 'con người kiểm soát'. Việc chỉ có một người ở trong quy trình là chưa đủ — người đó phải có khả năng và quyền hạn thực tế để hiểu, can thiệp và thay đổi quyết định.

Sáu Khả năng Giám sát Bắt buộc

Điều 14(4) liệt kê sáu khả năng cụ thể mà việc giám sát của con người phải đảm bảo:

• Hiểu rõ khả năng và hạn chế — bao gồm cả những điểm yếu, xu hướng sai sót và giới hạn độ chính xác đã biết
• Giám sát các bất thường — bao gồm sự thay đổi, các giá trị ngoại lệ và sự suy giảm
• Giải thích kết quả — được hỗ trợ bởi các tính năng minh bạch và dễ hiểu
• Quyết định không sử dụng — từ chối hành động dựa trên kết quả của AI khi thích hợp
• Can thiệp hoặc dừng — các nút dừng, tạm dừng hoặc giữ để xem xét
• Ghi đè hoặc đảo ngược — thay đổi kết quả mà AI sẽ tạo ra

Yêu cầu về Tài liệu

Ngoài thiết kế hệ thống, người triển khai phải duy trì tài liệu chứng minh rằng việc giám sát có hiệu quả:

• Chỉ định người có thẩm quyền giám sát (người có quyền thay đổi quyết định)
• Hồ sơ đào tạo cho nhân viên giám sát
• Quy trình ghi đè và các kênh leo thang
• Các sự cố can thiệp đã được ghi lại và lý do
• Hồ sơ sẵn sàng kiểm toán về thời điểm việc giám sát được thực hiện so với thời điểm không được thực hiện

Quy tắc Đặc biệt: Nhận dạng Sinh trắc học

Đối với các hệ thống nhận dạng sinh trắc học từ xa, Điều 14 đưa ra các yêu cầu bổ sung:

Các quyết định quan trọng phải được xác minh bởi ít nhất hai cá nhân có năng lực, trừ các trường hợp hẹp liên quan đến thực thi pháp luật và kiểm soát biên giới.