📘 本文件为本笔记系列前序(主文件 · 目录入口)。全系列共 7 个文件,本文件包含免责声明、标准全景图、全系列目录索引以及第一章、第二章。后续各章请通过下方索引表跳转至对应的学习笔记。
全系列文件索引
| 部分 | 文件 | 覆盖章节 | 对应标准出处 |
|---|---|---|---|
| 前序部分 | 本文件(主文件) | 第一章 标准概述与学习意义 第二章 核心概念与整体架构理解 |
1–7 |
| 第 1 部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第1部分)- 概稳健性可靠性与数据基础 | 第三章 稳健性、可靠性与数据基础 | 8–11 / 36–38 |
| 第 2 部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第2部分)- 风险管理与质量管理体系 | 第四章 风险管理 第五章 质量管理体系 |
12–13 / 14–15 |
| 第 3部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第3部分)- AI 功能安全要求 | 第六章 AI 功能安全 | 16–18 |
| 第 4部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第4部分)- 公平偏见与数据隐私保护 | 第七章 公平性、偏见与数据隐私保护 | 19–26 |
| 第 5 部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第5部分)- 控制监督与透明可解释 | 第八章 控制监督、透明性与可解释性 | 27–35 |
| 第 6 部分 | UL 3115 AI人工智能产品安全评估大纲学习笔记(第6部分)- 文档生命周期与问责制 | 第九章 文档、生命周期与问责制 第十章 常见问题与学习资源 第十一章 学习笔记使用说明 |
39–49 / 附录 A–E |
第一章:标准概述与学习意义【引述依据:1 / 2 / 3 / 4】
1.1 这是一份什么性质的标准
UL 3115《Standard for Safety for AI-Based Products》是一份面向"AI 基础产品"的横向(horizontal)安全标准。理解这一点,是读懂全篇的关键。
传统安全标准通常按产品类别纵向展开:灯具一套、医疗电气设备一套、家用电器一套,各自把构造、材料、电气间隙、异常测试写到极致。而 AI 能力是"可迁移"的——同一套大模型推理引擎可以装进吸尘器、监护仪、客服机器人,也可以装进工业视觉检测系统。如果每个产品类别都把 AI 安全要求重写一遍,会出现三种后果:
- 同一技术问题在不同标准中给出互相冲突的表述;
- 标准更新速度永远追不上模型迭代速度;
- 制造商面对多个市场准入体系时,需要重复举证同一件事。
UL 3115 采取的路径是:把"AI 作为一种技术能力"的安全要求抽出来单独立标,横向覆盖所有装载 AI 的产品;再由各垂直产品标准(如灯具、家电、医疗器械、工业机械的终端产品标准)规定具体产品的性能与构造指标。两者是"通用能力要求 + 具体产品落地"的配合关系,而不是替代关系。
💡 行业经验提示:横向标准最容易被误读成"万能标准"。实际工作中,横向标准回答的是"你的 AI 能力是否被安全地设计、验证、监控和问责",而"这台设备的外壳要不要阻燃、爬电距离够不够"仍然要回到垂类产品标准。项目启动时建议先把两张清单分开列:AI 能力清单(走 UL 3115)与产品构造清单(走垂类标准),否则认证阶段一定会出现"两边都以为对方管了"的空白区。
1.2 适用范围的两条主线:嵌入式 AI 与数字 AI
标准第 1 章把适用对象划成两类,这个二分法是全篇的结构基础:
第一类:AI-embedded products(嵌入式 AI 产品)——AI 功能作为实体产品的一部分存在,AI 失效会直接或间接转化为物理危害。标准给出的典型形态包括自主移动机器人、AI 辅助诊断的医疗器械、具备自主检测能力的安防系统等。这类产品的核心问题是:算法输出要经过执行机构、能源、机械结构,最终作用到人和物上,因此"误判"与"物理伤害"之间存在一条可追踪的因果链。
第二类:Digital AI products(数字 AI 产品)——以软件/服务形态交付,没有直接的物理执行机构,但其输出会影响人的决策、权益和财产安全。典型形态包括大语言模型个人助理、客服聊天机器人、内容推荐应用等。这类产品的核心问题是:输出即影响,危害更多体现为错误决策、权益受损、信息误导、隐私泄露。
💡 行业经验提示:很多团队在立项时纠结"我们算哪一类"。实用的判定方法是问一句——如果 AI 输出错了,最坏后果是"人要重新做一次决定",还是"某个物理装置动了"。前者偏数字类,后者偏嵌入类。分类结果直接决定后续三个动作的严格程度:危害分析要不要覆盖物理伤害、功能安全章节(第 16–18 章)要不要完整适用、监督机制要不要做到硬件级联锁。