## AI偏见 是什么 AI偏见指模型输出中系统性地偏向或歧视某些群体、观点或内容的倾向。它不是模型「故意」，而是训练数据本身带着人类社会的不平衡与刻板印象，模型把这种偏差学了出来。 ## 偏见的来源 - **训练数据偏差**：数据本身不均衡或带偏见。 - **标注偏差**：人工标注者的主观倾向。 - **算法放大**：模型把细微偏差放大成系统性差异。 - **部署偏差**：使用场景与训练场景不一致。 ## 偏见的危害 - 招聘、信贷等决策场景造成不公平结果。 - 搜索结果与推荐固化刻板印象。 - 生成内容传播误导与歧视性表述。 ## 如何缓解 - 数据治理：构建均衡、多元、有代表性的训练数据。 - 评估检测：用公平性指标定期评估模型输出。 - 人类审核：高风险场景加入人工把关与申诉机制。 - 透明披露：说明模型局限与适用范围。 ## 小结 AI偏见来自数据而非「恶意」，却是真实存在的系统风险。使用 AI 时保持批判，高风险决策必须人工复核。
