📘 本文件为本笔记系列正文第 2 部分。主文件(前序与总览)含全系列索引:UL 3115 AI人工智能产品安全评估大纲学习笔记(前序) - 概述与总览
第四章:风险管理【引述依据:12–13】
4.1 第 12 章想说清的一件事
第 12 章(Overview)篇幅不长,但定了一个关键基调:AI 风险管理不是一个"阶段",而是一个持续运转的机制。它明确对齐三个外部框架:
- ISO/IEC 42001——AI 管理体系,回答"组织层面如何管";
- ISO/IEC 23894——AI 风险管理指南,回答"风险怎么识别和处置";
- NIST AI RMF 1.0——AI 风险管理框架,回答"四类活动如何分工"。
三者不是三套并行要求,而是"管理体系 + 方法论 + 活动分解"的组合。UL 3115 借用 NIST AI RMF 的四功能划分来组织第 13 章,这是全篇最清晰的一段结构设计。
💡 行业经验提示:很多团队已经有 ISO/IEC 27001 的信息安全风险管理流程,于是想让 AI 风险"搭个便车"。行业经验是行不通的——信息安全风险关注的是"资产被非授权访问",AI 风险关注的是"系统输出错了会伤害谁"。两者的资产清单、威胁源、影响维度完全不同。可以共用的是流程外壳(谁发起、谁评审、谁签署),不能共用的是风险内容。
4.2 四功能闭环的结构
第 13 章把风险管理拆成四个功能,每个功能一条编号要求:
| 功能 | 章节 | 编号 | 主要动作 |
|---|---|---|---|
| Map(映射) | 13.1 | R6 | 界定系统上下文、识别风险源、建立风险登记册 |
| Measure(度量) | 13.2 | R7 | 评估可能性与影响、套用风险评价准则、排优先级 |
| Manage(处置) | 13.3 | R8 | 映射控制措施、验证措施有效性、决策残余风险 |
| Govern(治理) | 13.4 | R9 | 持续监控、定期评审、更新登记册并签署 |
下图展示四功能之间的关系。注意 Govern 不是一个"排在最后"的阶段,而是包住其他三个功能的常设层——这正是 NIST AI RMF 的设计意图,也是行业里最容易做错的地方。