一句话总结:Regulation (EU) 2024/1689 第 50(2) 条要求生成合成音频、图像、视频或文本的 AI 系统提供者,确保输出以机器可读格式标记、并可被检测为人工生成或操纵,且技术方案须在技术可行范围内有效(effective)、可互操作(interoperable)、稳健(robust)、可靠(reliable),同时考虑各类内容的特性与局限、实施成本与公认技术现状。条例没有点名任何具体标记技术,也不按文本长度设豁免;它评价的是输出层面的结果,不是手段。第 50(7) 条另开了一条行为准则路径来处理"够不够"的问题。
一、第 50 条五段,各管一段
第 50 条是"特定 AI 系统提供者与部署者的透明度义务",五段分工明确,不要混:
| 段 | 义务主体 | 义务内容 | 触发情形 |
|---|---|---|---|
| 1 | 提供者 | 告知自然人其正在与 AI 系统交互 | 系统拟直接与自然人交互(除非显而易见) |
| 2 | 提供者 | 输出机器可读标记 + 可检测为人工生成/操纵 | 生成合成音频、图像、视频或文本 |
| 3 | 部署者 | 告知暴露于系统的自然人 | 情感识别系统、生物分类系统 |
| 4 | 部署者 | 披露内容为人工生成/操纵 | 深度伪造;为告知公众而发布的文本 |
| 5 | 双方 | 以清晰可区分方式、最迟于首次交互或暴露时提供 | 上述 1~4 |
你问的"聊天回复怎么标"落在第 2 段(提供者义务),而"发布 AI 生成的文章要不要说明"落在第 4 段(部署者义务)——两者主体不同,不能互相替代。
二、第 50(2) 条拆成三个条件 + 四个限定词
第 50(2) 条的结构是"一个结果要求 + 一组质量限定 + 一个可行性边界":
结果要求(必须同时满足):
- 输出以机器可读格式标记(marked in a machine-readable format);
- 可被检测为人工生成或操纵(detectable as artificially generated or manipulated)。
质量限定——技术方案须做到:
| 限定词 | 含义 |
|---|---|
| effective 有效 | 标记确实能被检出,不是形式上的字段 |
| interoperable 可互操作 | 不同系统/工具之间能互相读取 |
| robust 稳健 | 经历常见处理(格式转换、压缩、编辑)后仍可检出 |
| reliable 可靠 | 检出结果稳定,不因人因时而异 |
可行性边界:以上要求"在技术可行范围内"(as far as this is technically feasible),并须考虑三类因素——各类内容的特性与局限、实施成本、公认技术现状(as may be reflected in relevant technical standards)。
这三个条件加四个限定词,就是第 50(2) 条的全部实质内容。条文里没有"几层""哪些字段""多短可以免"这类规定。