人类标注没有唯一真相！AI别再强行统一，拥抱模糊性才能更懂人
Whose Ground Truth? Embracing Ambiguity in Human-Centered AI
📖 AI 总结
这篇立场论文指出，当前主流机器学习与AI系统普遍假设存在唯一确定的“真实标签”，并将人类标注中的差异通过聚合消除或视为噪声处理。然而在许多以人为中心的任务中，人类的理解本身具有内在模糊性，同一输入可能同时存在多种合理且有效的解读。将这种模糊性压缩为单一目标，会丢失关于人类感知、判断与经验多样性的重要信息。作者因此呼吁转变思路，转向对“合理解读空间”的建模，同时区分有意义的模糊性与标注噪声，并主张这一视角应贯穿AI系统的表示、学习、评估、部署与治理全过程，从而构建更能反映人类解读多样性的以人为本的AI。
🔑 关键词速览
| Ground Truth | 真实标签，指机器学习中作为标准答案的标注数据，通常假设唯一且确定。 |
| Human-Centered AI | 以人为中心的AI，强调AI系统设计应优先考虑人类需求、价值观和体验。 |
| Interpretation Space | 解释空间，指同一输入下所有合理人类判断构成的集合，反映感知和判断的多样性。 |
| Annotation Noise | 标注噪声，指数据标注中由错误、疏忽或无关因素引起的随机变异，与有意义的模糊性不同。 |
| Ambiguity | 模糊性，指输入本身具有多种合理且有效的解释，而非标注错误或噪声。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅