欧盟人工智能法案符合性评估和第九条风险管理

第九条：风险管理体系

根据第 9 条，风险管理是一个持续的过程，贯穿于人工智能系统的整个生命周期。所需要素：

• 识别和分析已知以及合理可预见的风险
• 评估在预期使用和合理可预见的滥用情况下存在的风险
• 评估来自上市后监测的风险
• 采取适当且有针对性的风险管理措施
• 针对验收标准，测试剩余风险

第 9 条明确要求，风险管理措施应与现有技术水平相平衡——即，在今天合理可实现的情况下，而不是理论上的完美状态。

符合性评估途径

根据人工智能系统类型，有两种主要的途径：

• 内部控制（附件 VI）——使用统一标准进行供应商自我评估。适用于大多数独立的附件 III 高风险系统。
• 指定机构（附件 VII）——由欧盟指定的指定机构进行第三方评估。适用于生物识别识别系统以及作为受监管产品安全组件的人工智能。

CE 标志和欧盟数据库注册

在确定符合性后，在投放市场之前完成以下最后步骤：

• 在评估符合性后，起草欧盟符合性声明
• 将 CE 标志贴在人工智能系统上（如果不是实体产品，则贴在其包装/文档上）
• 在投放市场之前，在欧盟人工智能数据库中注册人工智能系统
• 在投放市场后，至少保留 10 年的技术文档

持续义务

符合性不是一次性事件：

重大变更会触发重新评估。根据第 72 条进行的上市后监测会反馈到第 9 条的风险管理中。必须根据第 73 条向相关部门报告严重事件。