歐盟人工智慧法案一致性評估與第 9 條風險管理

第 9 條：風險管理系統

根據第 9 條的風險管理是一項持續的過程，涵蓋整個 AI 系統的生命週期。所需要素：

• 識別和分析已知且合理可預見的風險
• 評估在預期使用和合理可預見的濫用情況下所產生的風險
• 評估來自上市後監測的風險
• 採用適當且有針對性的風險管理措施
• 針對剩餘風險，進行測試以符合接受標準

第 9 條明確要求，風險管理措施應與現有技術水平相平衡——即，在當今可合理實現的範圍內，而不是理論上的完美。

符合性評估途徑

兩種主要途徑，取決於 AI 系統類型：

• 內部控制（附件 VI）——供應商使用統一標準進行自我評估。適用於大多數獨立的附件 III 高風險系統。
• 指定機構（附件 VII）——由歐盟指定的指定機構進行第三方評估。適用於生物識別識別系統以及作為受監管產品安全組件使用的 AI。

CE 標記和歐盟資料庫註冊

在確定符合性後，在產品投放市場之前，請完成以下最後步驟：

• 在評估符合性後，起草一份歐盟符合性聲明
• 將 CE 標記貼在 AI 系統上（或如果不是實體產品，則貼在包裝/文件中）
• 在產品投放市場之前，將 AI 系統註冊到歐盟 AI 資料庫中
• 在產品投放市場後，至少保留 10 年的技術文件

持續義務

符合性不是一次性的事件：

重大修改會觸發重新評估。根據第 72 條的上市後監測，將反饋到第 9 條的風險管理中。必須根據第 73 條向主管部門報告嚴重事件。