附件 III 高风险人工智能系统：第 6 条分类指南

是什么使人工智能系统成为高风险系统？

第 6 条创建了两种独立的途径。符合任何一种途径都会使您成为高风险系统——并触发完整的附件 IV 文档、第 9-15 条的控制措施和符合性评估义务。

这两种途径：第 6 条（1）涵盖了用作受监管产品中安全组件的人工智能。第 6 条（2）+ 附件 III涵盖了八个特定用例类别中的独立人工智能。

途径 1：安全组件（第 6 条（1））

如果您的 AI 是受欧盟行业立法（医疗设备、车辆、机械、电梯、玩具等）涵盖的产品的安全组件，或者本身就是此类产品，则它会自动被视为高风险。

必须由指定的机构进行符合性评估。

途径 2：附件 III 用例（第 6 条（2））

八个用例类别会触发高风险分类，而与底层技术无关：

• 生物识别：远程生物识别和情感识别系统
• 关键基础设施：人工智能在能源、水、天然气、供暖和数字基础设施中的应用
• 教育：人工智能用于学生评估、考试评分和学习分析
• 就业：简历筛选、面试分析、任务分配、绩效评估、解雇决策
• 基本服务：信用评分、贷款审批、保险定价、紧急服务调度
• 执法：风险评估、测谎仪、证据评估、画像
• 移民和庇护：签证申请、庇护处理、边境控制
• 司法：量刑辅助、案件结果预测、法律研究

第六条（3）款豁免

如果附件 III 中的人工智能系统不会对健康、安全或基本权利造成重大风险，则可以对其进行豁免。

已确定的案例包括狭窄的程序性任务、改进先前完成的人工活动的结果、检测决策模式而不取代人工评估，或为后续的人工决策准备任务。个人资料分析始终属于高风险。如果系统对自然人进行个人资料分析，则不得适用该豁免。

如果您声称符合豁免条件，请详细记录理由。监管机构可能会对该理由提出质疑。

如果属于高风险，则需要提供的文档

高风险人工智能系统必须维护全面的合规文档：

• 附件 IV 技术文档
• 第九条风险管理系统
• 第十条数据治理记录
• 第十二条生产环境中的日志记录
• 第十四条人工监督设计
• 符合性评估 + CE 标志
• 欧盟人工智能数据库注册