OOD检测翻车真相：换个参考集，判定就变！不稳定性竟有闭式解
Verdict Instability of OOD Scores under Reference Resampling
📖 AI 总结
该研究探讨了后验式分布外（OOD）检测器因参考集有限而产生的判定不稳定性。作者通过重采样参考集并计算分数的自举标准差来量化这种不稳定性，称之为“判定不稳定性”，并推导出其无拟合参数的闭式解。核心发现是：不稳定性等于查询方向上所属类别的类内离散度除以该类参考样本数的平方根，且仅在类别不平衡时才能被识别。研究还发现，远OOD查询位于各向异性嵌入的低方差方向上，因此所有基于距离的分数都将最高值赋予最可复现的判定，只有局部离散度估计器才具有实践者预期的符号。作者提出一个规则，可通过单一无标签相关性预测任意分数的符号，并指出基于错误符号分数的弃权在所有测试数据集上均劣于随机弃权。该工作为OOD检测的可靠性评估提供了理论工具。
🔑 关键词速览
| Post-hoc out-of-distribution detectors | 事后分布外检测器，指在模型训练完成后，利用参考集对输入样本进行分布外检测的方法。 |
| Verdict instability | 判定不稳定性，指因参考集重采样导致分布外检测分数变化，进而引起判定结果波动的度量。 |
| Bootstrap standard deviation | 自举标准差，通过重采样估计统计量变异性的方法，此处用于量化分数的不确定性。 |
| Class imbalance | 类别不平衡，指参考集中不同类别的样本数量差异显著，影响不稳定性可识别性的条件。 |
| Anisotropic embedding | 各向异性嵌入，指特征空间中不同方向方差不同的表示，远分布外查询沿低方差方向分布。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅