连续标签偏移下保形贝叶斯失效？新方法揭示精确性边界，非零倾斜竟让预测集无界！
Conformal Bayes under Continuous Label Shift: Sensitivity Analysis and the Limits of Exact Validity
📖 AI 总结
本文研究连续标签偏移下Conformal Bayes方法的有效性问题。作者指出，现有方法通常从伪标签或预测样本中估计单一偏移参数并代入校准，但当标签偏移连续时，评分函数与校准权重均依赖未知的响应边缘密度比，这一做法存在局限。为此，作者提出联合倾斜—敏感性Conformal Bayes（JTS-CB）及其分裂共形实现JTS-SCB，在预设的合理倾斜集合上进行敏感性分析，每个倾斜同时决定贝叶斯共形评分与重要性权重。JTS-SCB能形成有界敏感性包络，但其仅校准的构造无法继承精确的有限样本加权共形保证。作者进一步研究候选加权精确对应方法，发现其有效性取决于尾部行为：对线性指数倾斜，任何非零候选倾斜都会导致精确集无界；尾部增长的密度比也产生同样问题，而带负二次项系数的二次倾斜则允许在原目标上有界精确推断。比率截断为尾部增长情形提供了替代性有界精确构造。实验表明，当偏移可良好识别时，强插件预测采样可达到oracle水平；敏感性分析更适合模型丰富、弱识别或系统性偏差的情形，代价是预测集更宽。
🔑 关键词速览
| Conformal Bayes | 一种将贝叶斯后验预测得分与保形校准相结合的方法，用于构建具有频率保证的预测集。 |
| Continuous Label Shift | 指标签分布随连续变量（如响应边际）发生偏移，导致密度比未知且需估计。 |
| Joint Tilt-Sensitivity Conformal Bayes (JTS-CB) | 本文提出的方法，在预设的合理倾斜集合上进行敏感性分析，联合确定保形得分和权重。 |
| Split-Conformal Realization (JTS-SCB) | JTS-CB的分裂保形实现，通过数据分裂构建有界敏感性包络，但不保证精确有限样本有效性。 |
| Ratio Clipping | 一种通过截断密度比来获得有界精确构造的技术，适用于尾部增长时对代理目标进行推断。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅