1. 训练数据中的历史偏见
- 现实世界的偏差：若训练数据本身包含社会不平等、歧视性模式（如性别、种族、职业的刻板印象），模型会学习并放大这些偏见。
- 例子：招聘算法使用历史招聘数据，可能强化对女性或少数族裔的歧视。
- 数据代表性不足：某些群体在数据中占比过低，导致模型对其预测效果差。
- 例子：人脸识别系统在深色皮肤人群中错误率更高，因训练数据缺乏多样性。
2. 特征选择与变量关联
- 代理变量（Proxy Variables）：看似中性的特征（如邮政编码、消费习惯）可能与种族、经济地位等敏感属性高度相关，间接导致歧视性结果。
- 例子：信贷模型通过地区数据间接拒绝少数族裔的贷款申请。
- 主观特征标注：数据标注者的个人偏见可能影响标签质量（如将特定职业与性别关联）。
3. 算法设计与目标函数
- 优化目标的局限性：仅追求准确率等单一指标，可能牺牲公平性。
- 例子：犯罪预测算法为提升整体准确率，过度针对低收入社区。
- 反馈循环（Feedback Loops）：模型的决策会改变现实数据分布，形成偏见强化循环。
- 例子：推荐系统过度推送特定内容，固化用户的信息茧房。
4. 开发团队的认知局限
- 团队同质化：缺乏多样性的开发团队可能忽视少数群体的需求。
- 对偏见的认知不足：未系统评估模型对不同群体的影响，或未采用公平性指标。
5. 社会结构与权力关系
- 权力不对称的延续：算法可能默认服务主流群体，边缘化弱势群体。
- 文化偏见：自然语言处理模型可能将某些语言或口音标记为“不标准”。
如何缓解偏见？
数据审查：分析数据分布，补充代表性不足群体的数据，去除非相关敏感关联。
公平性评估：引入公平性指标（如群体平等、机会均等），并在测试中覆盖多群体场景。
算法干预：采用去偏见技术（如对抗训练、公平约束优化）。
多元化团队：纳入不同背景的开发者、伦理学家和社会科学家。
透明与问责：公开算法影响评估报告，建立用户反馈与纠错机制。
关键启示
算法偏见本质上是社会偏见在技术中的映射。解决这一问题需技术改进与社会认知提升的结合，包括开发者责任意识、行业规范及政策监管（如欧盟《人工智能法案》）。技术的“中立性”神话已被打破，算法的设计必须包含对社会公平的主动考量。
