Điều 12 của Đạo luật AI của EU: Yêu cầu về ghi nhật ký và theo dõi

Điều 12 yêu cầu những gì

Các hệ thống AI có rủi ro cao phải được thiết kế để cho phép ghi lại tự động các sự kiện ('nhật ký') trong suốt vòng đời của hệ thống. Nhật ký phải cho phép khả năng truy xuất nguồn gốc đủ để giám sát sau khi đưa ra thị trường, kiểm tra quy định và giám sát của con người theo Điều 14.

Điều 12 là một trong số ít các nghĩa vụ của Đạo luật AI của EU đòi hỏi một khả năng kỹ thuật thay vì chỉ là tài liệu quy trình - hệ thống AI của bạn phải thực sự tạo ra các bản ghi này trong quá trình hoạt động.

Nhật ký theo dõi của bạn phải ghi lại những gì

Nhật ký Điều 12 phải ghi lại đủ chi tiết để tái tạo cách và lý do đưa ra quyết định:

• Ghi nhật ký ở cấp độ sự kiện với dấu thời gian đáng tin cậy
• Dữ liệu đầu vào mà hệ thống AI nhận được và dữ liệu đầu ra được tạo ra
• Các bước xử lý nội bộ (thảo luận, quyết định trung gian, đánh giá chính sách)
• Các hành động có sự tham gia của con người: phê duyệt, ghi đè, leo thang
• Dữ liệu trạng thái hệ thống đủ để tái tạo ngữ cảnh quyết định
• Các sự kiện bất thường và cách xử lý chúng

Yêu cầu kỹ thuật

Quy định chỉ định một số thuộc tính kỹ thuật mà cơ sở hạ tầng ghi nhật ký của bạn phải đáp ứng:

• Ghi nhật ký tự động - các mục nhật ký thủ công không đáp ứng Điều 12
• Ghi lại sự kiện đáng tin cậy và đầy đủ
• Lưu trữ an toàn, chống giả mạo
• Thời gian lưu giữ tương ứng với mục đích và hồ sơ rủi ro
• Có thể xuất ra ở các định dạng phù hợp để xem xét quy định

Các vấn đề tuân thủ phổ biến

Dựa trên kinh nghiệm của chúng tôi khi làm việc với các nhóm AI doanh nghiệp, đây là những vấn đề tuân thủ Điều 12 thường gặp nhất:

• Chỉ ghi lại dữ liệu đầu ra, không phải lý do tạo ra chúng
• Thiếu hoặc không đầy đủ các bản ghi ghi đè của con người
• Lưu trữ nhật ký có thể thay đổi, không đáp ứng yêu cầu chống giả mạo
• Thời gian lưu giữ quá ngắn để kiểm tra quy định
• Không có xuất cấu trúc - chỉ có các truy vấn cơ sở dữ liệu tạm thời

Tài liệu kỹ thuật Điều 11 + Phụ lục IV

Điều 11 yêu cầu tài liệu kỹ thuật, cùng với nhật ký Điều 12, chứng minh sự tuân thủ.

Phụ lục IV chỉ định cấu trúc: mô tả hệ thống, mục đích dự định, lựa chọn thiết kế, dữ liệu huấn luyện và kiểm tra, quy trình xác thực, giám sát và bản thân nhật ký. Hãy coi hai điều này như một quy trình làm việc duy nhất.