⚠️ 【重要法律免责声明】

1. 本文档仅为行业集体学习笔记和理解分享,**不代表 UL、CSA、ANSI 或任何标准组织的官方解释**。所有标准组织均未审核或认可本文档内容。

2. 本文档**不能替代标准原文使用**。产品设计、认证、合规评估等专业工作必须购买并查阅官方发布的标准原文。标准官方版本才是唯一具有法律效力的权威文件。

3. 不对本文档内容的准确性、完整性、时效性做任何明示或默示的保证。标准可能随时修订,本文档内容可能已过时。

4. **任何基于本文档做出的决策由使用者自行承担全部风险**。不对任何因使用本文档导致的直接或间接损失承担责任。

5. 本文档涉及的所有标准编号、条款号仅为学习定位方便之用,完整的标准条款需从官方渠道购买获取。

6. 阅读或使用即表示您已阅读、理解并同意以上免责条款。

UL 3115 AI人工智能产品安全评估大纲专题笔记 - 模型漂移:变更后要重验什么、监督怎么做

UL 3115 (Proposed First Edition,2026-07-31)里与模型漂移相关的六处条款如何咬合:Clause 18.2.4、18.4.3、18.6.4 三处再验证触发条件,Clause 15.9 对功能适应性的界定与控制,Clause 18.7.3 的安全阈值三动作,Clause 15.6 的上市后监测与事件管理,以及暂停撤回回滚的批准权限。

KBA·发布于 2026/11/7·LinkSpec 技术团队联合整理·20 分钟阅读

一句话总结:UL 3115(Proposed First Edition,2026-07-31)没有把"模型漂移"当成一个运维话题,而是拆成三件事:谁负责发现(Clause 18.7 的运行时监控)、发现之后做什么(Clause 18.7.3 的阈值三动作)、变更之后重新证明什么(Clause 18.2.4、18.4.3、18.6.4 三处再验证触发)。本文把六处相关条款串成一条闭环,包括功能适应性的界定条件与暂停、撤回、回滚的批准权限。

漂移从哪来,为什么传统配置管理管不住

Clause 18.7.1 把原因说得很平实:即便一个验证充分的模型,在部署后也可能因为数据分布变化、运行环境变化或模型内部状态变化而退化或出现不可预期行为。Clause 18.3.2 b) 进一步点明其中一类——概念漂移,即环境变化导致的性能下降。

为什么不能靠传统配置管理?Clause 16.2 给的对比最清楚:传统功能安全系统是确定性的、透明的、易于理解的;AI 系统是非确定性的、概率性的、不透明的、数据依赖的、自适应的。配置管理的假设是"同样的输入得到同样的输出",AI 系统恰恰打破这个假设。

Clause 46.2 补了另一半:AI 系统可能表现出非确定性、自适应与涌现行为,这些特性提高了"明确谁对决策、失效、非预期后果与纠正措施负责"的重要性。所以漂移管理的落点不只是技术监控,还有责任归属。

三处"变更后必须重验"的条款

这三处散在不同章节,口径高度一致,说明是刻意设计:

条款 触发条件 要重做什么
18.2.4 b) 模型变更后 重新验证,并据分类重新确定可接受失效率、部署后监控需求
18.4.3 d) 模型、数据或部署场景重大变更;以及生命周期内的定期评审 更新 AI 特有失效分析
18.6.4 c) 模型、数据或环境显著变化 重做验证

三者合起来就是一条规则:任何被记录为"重大"的变更,都要连带重做失效分析与验证。实务上的难点不在条文字面,而在"重大"的判定门槛由谁定、定在哪。Clause 15.9.1(R18)正好补上这一环——它要求提供方对功能适应性做界定、控制与验证,也就是把"什么算允许的变化"提前写死。

功能适应性:先界定,再控制,最后验证

R18 覆盖的对象比很多人想的宽:不只是"模型会自己学习",还包括"能适应动态环境""能基于实时数据重训""能自动调整决策阈值"。第三项把线上调阈值也纳进来了。

Clause 15.9.2 给了三条落地指引:

指引 要求
a) 界定范围与条件 明确允许适配的范围与触发条件,条款举例事件触发的模型切换
b) 设防负向强化 防止不安全行为被反馈回路强化,条款举例认知偏差被固化
c) 可验证可追溯 任何自适应行为都要可验证、可追溯
  1. 的实际价值在于它把"变更分级"变成了合规动作:允许适配的范围与条件写清楚之后,"这次改动算不算重大变更"就有依据可查,不必每次临时争论。b) 则针对一个具体风险场景——模型上线后按用户点击反馈继续训练,短期指标好看,长期把偏置固化,这在 Clause 22.2.2 的公平性语境里同样是问题。

监测指标与阈值怎么定

Clause 11.2.1 是技术支柱里的监控要求,Clause 18.7.3 是功能安全语境下的监控要求,两者要一起看。

Clause 11.2.1 f) 要求按 AI 产品的风险画像定义可接受性能指标的阈值;g) 要求建立监控系统随时间跟踪指标并识别显著偏离。指标族按模型类型分:回归类用 MAE、MSE、RMSE、R²、调整 R²;分类类用准确率、精确率、召回率、F1、AUC-ROC、混淆矩阵。

Clause 18.7.3 c) 补了功能安全侧的检测清单,监控系统要能检测三类:性能退化(准确率下降、漏报增多)、数据漂移与概念漂移、输入输出异常行为或模型置信度崩塌。

第三类是 AI 特有的。传统系统没有"置信度"这个可崩塌的量,而置信度崩塌往往早于准确率下降出现,是最好的早期信号。Clause 18.7.4 b) 给了三种可用方法:统计漂移检测(EDDM、DDM)、基于置信度的阈值、看门狗与心跳信号。

关于监控基础设施本身,Clause 18.7.3 e) 有一条硬要求:监控基础设施要与被监控的 AI 系统独立或冗余,以保证监控自身失效时仍有安全保障。用同一套推理服务既跑模型又算漂移指标,这条就过不了。

阈值越限后的五个动作

漂移管理闭环(Clause 18.7.3 / 13.4.1 / 41.5) 性能与漂移监测 Clause 11.2.1 / 18.7.3 c) 指标、漂移、置信度 触及预设阈值 Clause 18.7.3 d) 安全阈值预先定义 告警操作员 Clause 18.7.3 d) 1) 触发人工介入 切安全态或降级 Clause 18.7.3 d) 2) 自动切换或启用回退 重评 / 重训 / 回滚 Clause 18.7.3 d) 3) 模型重新评估或回退 登记册与日志更新 Clause 13.4.1 c) / 41.5.1 时间戳、理由、签署 监控基础设施须与被监控系统独立或冗余(Clause 18.7.3 e)

继续阅读完整内容

免费注册,即可阅读本文剩余部分及站内其他注册可见文章。

免费注册并继续阅读

已有账号? 登录后继续

本笔记为行业集体学习理解分享,所有观点仅代表行业共识经验。正式产品设计和认证请务必参考官方发布的最新版本标准。

📌 再次提醒**:本文件仅为学习笔记,所有精确的技术要求、测试方法、参数限值请以官方发布的标准原文为准。如需使用,请从官方渠道购买正版标准。

引用标准

配套工具 · 免费下载

读标准原文 PDF?试试 AI 辅助阅读

SpecReader AI 是本站的免费桌面工具:本地打开标准 PDF,选中即可翻译、解读、追问,结论可回溯原文页码。

了解并下载

相关文章

合规策略
2 阅读·0 收藏·0 评论