一句话总结:Regulation (EU) 2024/1689 第 6(2) 条把附件三列出的系统直接推定为高风险,第 6(3) 条给了一条退路——只要系统不对健康、安全或基本权利构成显著损害风险(包括不实质影响决策结果),且满足四项条件之一,就可以不算高风险。但这条退路有一个总闸:只要系统对自然人做画像(profiling),一律视为高风险,四项条件全部作废。援引豁免还须按第 6(4) 条在投放前完成书面评估并留存,并按第 49(2) 条注册。
一、第 6(3) 条的结构:一个前提、四项之一、一条否决
条文分三段,读法必须是这个顺序:
| 层次 | 内容 | 效果 |
|---|---|---|
| 前提 | 系统不构成显著损害风险,包括不实质影响决策结果 | 不满足则豁免不成立 |
| 择一 | (a)~(d) 四项条件满足任一 | 与前提同时成立才豁免 |
| 否决 | 系统对自然人做画像 | 一律高风险,前提与四项均不再适用 |
很多人只盯四项条件,忽略了前提和否决——这两处才是决定成败的地方。
二、四项条件逐条对照
| 项 | 原文要点 | 判定要点 | 反例 |
|---|---|---|---|
| (a) | 仅执行狭窄的程序性任务 | 任务是流程性的、无判断空间 | 简历打分有评价成分,不是程序性 |
| (b) | 改进此前已完成的人类活动的结果 | 人类先做完,系统只做完善 | 系统先出结论、人再复核,不属于此项 |
| (c) | 检测决策模式或偏离既有模式,且不替代或影响此前完成的人类评估(未经适当人工复核) | 只提示异常,不改结论 | 系统输出直接改变审批结果 |
| (d) | 为附件三所列用例的评估执行准备性任务 | 只做准备,不参与评估本身 | 系统直接给出资格结论 |
一个实用判据:把系统从流程里拿掉,人类决策会不会变?会变,就说明它"实质影响决策结果",前提不成立。四条文里反复出现的"not materially influencing the outcome of decision making"就是这个意思。
三、画像:整条豁免的总闸
第 6(3) 条最后一句写得很硬:
尽管有前段规定,附件三所列 AI 系统在对自然人进行画像时,始终被视为高风险。
这里的"始终"(always)没有任何例外条款。而"画像"不是本条例自创的概念——第 3(52) 条直接指向 Regulation (EU) 2016/679 第 4(4) 条的定义。
工程上怎么判断"是不是画像":任何评分、排序、预测个人特征的动作通常都构成画像。所以:
- 简历打分、候选人排序 → 画像;
- 信用评分 → 画像;
- 风险分级(把人分成高/中/低风险) → 画像;
- 只把申请材料按格式归类、不产生个人评价 → 一般不是画像。
这就是为什么第 6(3) 条对招聘、信贷、保险定价这几类系统几乎不可用——它们的存在意义就是影响决策。