保形预测公平性新突破：Tilted Mondrian无需重训模型，细粒度差异直降！
Tilted Mondrian: Triage and Mitigation of Fine-grained Disparities in Conformal Prediction
📖 AI 总结
该论文关注保形预测中的公平性问题。现有做法通常采用Mondrian校准，为不同群体分别提供有限样本的覆盖保证，但这种保证较为粗糙，更细粒度分层内部仍可能存在显著差异。作者提出倾向性标准化方法评估这种由粗到细的公平性问题的严重程度，并揭示群体构成如何导致聚合层面与细分层比较之间出现不一致。在缓解方面，作者提出Tilted Mondrian方法，无需额外模型训练，在保留群体覆盖保证的同时，缩小细分层内的覆盖率和预测集大小差异，并给出一个与具体方法无关的界，量化细分层覆盖差异可减少的程度。该工作为诊断和改善保形预测的细粒度公平性提供了系统框架。
🔑 关键词速览
| Conformal Prediction | 一种不确定性量化框架，通过构造预测集为模型预测提供有限样本覆盖保证。 |
| Mondrian Calibration | 一种分组校准方法，为不同群体分别提供有限样本覆盖保证的保形预测技术。 |
| Propensity Standardization | 一种评估人口构成影响的方法，通过标准化倾向性得分来考察群体分布对差异比较的作用。 |
| Tilted Mondrian | 本文提出的改进方法，在更细分层上缓解覆盖率和预测集大小差异，同时保留群体覆盖保证。 |
| Finer-Stratum Coverage Disparity | 在更细粒度分层内不同群体之间覆盖率的差异，是粗粒度公平性保证下仍存在的细粒度不公平现象。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅