本分册为「REGULATION (EU) 2024/1689 学习笔记」系列第 5 部分,覆盖第 V 章(第 51–56 条,通用目的 AI 模型)、第 VI 章(第 57–63 条,支持创新的措施)以及第 VII 章(第 64–70 条,治理),并对照附录 XI、XII、XIII 的文档与分类标准。系列共 6 个分册,主索引见 :REGULATION (EU) 2024/1689 人工智能法案学习笔记(总目录)。
第十章:通用目的 AI 模型的双层义务【引述依据:Art 51–56 / Annex XI–XIII】
10.1 为什么 GPAI 要单开一章:监管对象从"用途"换成"能力"
第 III 章管的是AI 系统,判断的锚点是"用途"——这个系统用来做什么、用在哪个领域、对谁产生什么影响。第 V 章管的是通用目的 AI 模型(general-purpose AI model,GPAI),判断的锚点换成了"能力"——这个模型具备什么水平的能力、能被组合进多少种不可预知的系统。
这个差别不是分类学上的偏好,而是监管可行性的必然结果。一个基础模型在发布时,提供者无法枚举它未来会进入哪些产品、服务、行业;如果仍以"用途"为锚,就会出现"发布时合规、被下游一用就违规、而模型提供者完全无从预见"的真空。立法者的处理方式是把模型本身作为独立的监管对象,用四件可操作的事情建立可追溯性:
- 留下说明书:技术文档记录模型是什么、怎么训练、怎么评测;
- 把信息往下游传:让集成方知道自己手里这个"零件"的能力边界;
- 尊重在先权利:特别是版权与相关权,落成可执行的政策;
- 公开训练内容概览:用统一模板给出足以让外界判断的摘要。
在此基础上,对"能力特别强"的模型再叠加一层义务——系统性风险评估、对抗测试、严重事件报告、网络安全。这就是所谓"双层":基础层(所有 GPAI 提供者)+ 增强层(系统性风险 GPAI 提供者)。
| 监管对象 | 触发条件 | 核心义务 | 评定方式 | 主要监管主体 |
|---|---|---|---|---|
| 高风险 AI 系统 | 第 6 条 + 附录 I / III | 第 8–15 条九项要求 + 第 16–27 条义务 | 合格评定 + CE + 注册 | 公告机构 / 市场监管机构 |
| 通用目的 AI 模型 | 投放联盟市场即适用 | 第 53 条四类义务 + 第 54 条代表 | 文档与信息义务,无第三方评定 | AI Office / 成员国主管机构 |
| 系统性风险 GPAI | 第 51(1) 条任一通道 | 第 53 条 + 第 55 条四项增强义务 | 文档、评估、事件报告 + 行为准则 | AI Office / 科学小组 |
💡 行业经验提示:行业里最容易低估的不是"要不要写技术文档",而是下游信息传递的质量。附录 XII 那几页纸,实际决定了系统提供者能否履行第 9–15 条。如果模型方只给出"性能优秀、适用广泛"这类营销式描述,下游就只能靠猜——猜出来的风险管理、数据治理与技术文档,在市场监管问询时几乎必然站不住。建议把附录 XII 当成一份"对客户的技术承诺书"来写,由模型团队与法务共同签署版本。
这章不涉及"认证"。 第 V 章没有公告机构、没有 CE 标识、没有合格评定程序。这也是它与第 III 章最大的结构差异:GPAI 走的是"文档 + 信息 + 报告"的行政监管路径,而不是第三方合格评定路径。理解这一点,能避免很多"要不要找公告机构做模型认证"的无效讨论。
10.2 分类规则:系统性风险的两条通道【引述依据:Art 51】
第 51 条给出两条并行通道,任一成立即构成"具有系统性风险的通用目的 AI 模型":
| 通道 | 依据 | 判断方式 | 举证方向 | 可反驳性 |
|---|---|---|---|---|
| 通道一:高技术影响能力 | 第 51(1)(a) 条 | 以适当技术工具与方法评估,包括指标与基准 | 能力评测结果、基准表现 | 可依第 52(2) 条抗辩 |
| 通道一之量化推定 | 第 51(2) 条 | 训练累计算力(以浮点运算计)超过 10²⁵ 时推定具有高影响能力 | 训练算力核算与口径说明 | 属推定,可反驳 |
| 通道二:委员会指定 | 第 51(1)(b) 条 | 委员会依职权,或基于科学小组的限定警报作出决定,参照附录 XIII | 附录 XIII 七项标准的整体画像 | 可依第 52(5) 条请求重估 |
第 51(3) 条授权委员会以授权法案修改上述门槛与基准指标,理由是技术演进会改变"高影响"的实际含义——算法改进或硬件效率提升会让同样的算力对应不同的能力水平。这意味着门槛是动态文本,学习时记住"存在一个量化门槛 + 存在一套综合评价标准"比记住具体数值更重要,具体数值请查阅法规最新文本。