概念在场景里出现就能带偏模型性别判断，语义泄漏揭示被忽视的偏见新形式！
Guilt by Association: Semantic Leakage Drives Associative Gender Bias
📖 AI 总结
该论文研究语言模型中的“语义泄漏”现象，即提示中与目标实体无关的概念会影响模型对该实体的生成内容。作者发现，即使移除概念与特定实体之间的归属关系，泄漏依然存在，说明这并非模型为实体构建画像的局部启发式，而是一种更广泛的联想倾向。研究进一步将此机制扩展到性别偏见：以往工作多关注刻板概念被归属于某实体时的偏见，而本研究表明，概念仅出现在场景中、无需与主体发生互动，也能以相近程度将生成结果推向刻板印象。这一发现揭示了一种被现有评估忽视的联想式性别偏见，提示偏见评测需考虑场景中无关概念的间接影响。
🔑 关键词速览
| Semantic Leakage | 提示中的无关概念意外影响模型对实体生成内容的现象。 |
| Associative Gender Bias | 由概念间联想（而非直接归属）引发的性别刻板印象偏见。 |
| Attribution | 将某个概念明确归属于特定实体的设定，是传统偏见研究的常见条件。 |
| Language Models (LMs) | 语言模型，本文研究其生成中的语义泄漏与性别偏见。 |
| Stereotype | 对某类群体（如性别）的固定化、过度简化的观念，模型输出可能向其偏移。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅