📘 本文件为本笔记系列正文第 4 部分。主文件（前序与总览）含全系列索引：UL 3115 AI人工智能产品安全评估大纲学习笔记（前序） - 概述与总览
第七章：公平性、偏见与数据隐私保护【引述依据：19–26】
7.1 为什么把公平性与隐私放在同一章
从表面看，公平性讲的是"不能歧视群体"，隐私讲的是"不能滥用个人数据"，一个关于群体、一个关于个体，似乎是两件事。但从工程实现看，它们是同一套机制的两种约束：
- 两者都依赖数据的分层描述——公平性需要知道每个样本属于哪个群体，隐私需要知道每个字段属于哪类个人数据；
- 两者的失效都发生在数据的采集、加工、使用三个环节；
- 两者的证据都指向同一份文件——数据资产清单与处理活动记录。
更关键的是两者的张力：做公平性分析恰恰需要按敏感属性切分数据，而隐私保护恰恰要求尽可能少地保留敏感属性。这个矛盾是本章最值得理解的地方，后文会专门讨论。
7.2 公平性的两种正义观（第 19 章）
第 19 章（Overview）指出公平性至少包含两种不同的正义观，对齐 ISO/IEC TR 24027:2021（AI 系统中的偏见）与 ISO/IEC TR 24028:2020（AI 可信性）：
| 正义观 | 关注点 | 典型问题 |
|---|---|---|
| 分配正义（distributive justice） | 结果与资源的分配是否均衡 | 不同群体的通过率、错误率是否接近 |
| 程序正义（procedural justice） | 决策过程是否公平、可申诉 | 当事人能否知道被如何对待、能否申辩 |
这两种正义观在工程上导向完全不同的动作：分配正义导向指标对比，程序正义导向流程设计与可解释性。标准同时容纳两者，意味着只做指标对比是不够的——还需要能向当事人说明"你为什么得到这个结果"。
💡 行业经验提示：行业里绝大多数团队只做分配正义（算几个指标差异），完全忽略程序正义。但在真实纠纷中，程序正义往往更关键：用户投诉时问的第一句话几乎总是"为什么是我"，而不是"你们的通过率差异是多少"。建议在公平性工作的早期就把"解释与申诉路径"设计进去，这件事的成本远低于后期重构。
7.3 第 20 章的四项关键考量
| 考量 | 含义 | 落地含义 |
|---|---|---|
| 多维公平 | 公平不是一个标量，涉及多个受保护属性与多个指标 | 不能只挑一个属性、一个指标过关 |
| 双向评估 | 既要看对被保护群体是否不利，也要看对其它群体是否产生反向不利 | 纠正偏见不能制造新的偏见 |
| 生命周期治理 | 偏见会在数据、训练、部署、反馈各环节重新产生 | 不是一次性修复，需要持续监控 |
| 人在回路（HITL） | 关键决策保留人工审核 | 人工审核本身也需要防偏见设计 |
"双向评估"这一项在实践中极易被忽视。一个典型的反例是：为了提升某群体的通过率而整体降低门槛，结果使不具备资格的人进入高风险岗位，产生新的伤害。标准要求的是在多个指标之间寻找可辩护的平衡，而不是单方向优化。
7.4 第 21 章的通用指南
第 21 章提出的方向性做法包括：制定公平性章程（明确本产品认为什么是公平、哪些属性受保护、冲突时如何取舍）、设立公平性 KPI（把公平性指标纳入产品度量体系而非一次性评估）、建立跨职能评审（法律、伦理、产品、算法共同参与）。
其中"公平性章程"的价值常被低估。它的实际作用是把不可争论的价值判断前置为可争论的文本——如果章程里没写"我们优先保障机会均等而非结果均等"，那么每次指标冲突都会变成一次立场之争，项目会长期卡住。
7.5 偏见识别：R30
第 22.1 节（R30）要求建立偏见识别机制，分三个层面：
第一层：数据偏见审计——检查训练数据中各群体的样本量、标签分布、特征分布是否存在系统性差异。方法可参照附录 C。
第二层：Prompt 审计——针对生成式系统，检查提示模板中是否隐含刻板印象（例如默认职业与性别的关联、默认地域与能力的关联）。
第三层：输出审计——对模型输出按群体切片统计，检查结果差异。
标准点出的公平性指标方向包括五类，它们的适用场景不同：
| 指标 | 衡量什么 | 适用与局限 |
|---|---|---|
| Statistical Parity Difference | 各群体正例比例的差异 | 直观但可能与"资格分布"冲突 |
| Equalized Odds Difference | 各群体 TPR 与 FPR 的差异 | 更贴近"错误代价公平"，但要求已知真实标签 |
| FP / FN Rate Parity | 误报率与漏报率是否在群体间一致 | 在安全相关场景最实用 |
| Disparate Impact Ratio | 群体间通过率的比值 | 法规常引用，但阈值需结合场景论证 |
| Subgroup AUC | 各子群的判别能力 | 能暴露"总体 AUC 好、子群很差"的掩盖效应 |