风险差距狂降78.64%！新方法让AI安全控制更紧凑
Occupancy-based Quantile Risk Control
📖 AI 总结
本文介绍了一种名为“基于占用率的分位数风险控制”（OQRC）的新方法，旨在解决机器学习模型安全部署中的风险控制问题。现有分位数风险控制框架虽能提供有限样本保证，但常因过度保守或缺乏严格保证而受限。OQRC通过将风险控制转化为有限占用率问题，利用有序校准损失划分损失空间，估计测试损失分布，并以每箱最大损失上界风险，从而选择参数λ，确保风险不超过预设阈值α的概率至少为1-δ。理论上，该方法建立了有限样本保证，证明其风险控制界收敛于最优界，收敛速率为O_p(n^{-1/2})。实验表明，OQRC在常见基准上将风险差距最多减少78.64%，显著优于现有方法，为高可靠性场景下的模型部署提供了更紧致且有效的风险控制工具。
🔑 关键词速览
| Conformal risk control | 共形风险控制，一种在有限样本下提供统计保证的框架，用于控制机器学习模型的风险。 |
| Quantile risk control | 分位数风险控制，将共形风险控制扩展到基于分位数（如中位数或高百分位数）的风险度量。 |
| Occupancy-based Quantile Risk Control (OQRC) | 基于占用率的分位数风险控制，一种通过划分损失空间并估计占用率来提供紧凑风险界限的新方法。 |
| Finite-sample guarantee | 有限样本保证，指在给定有限样本量下，方法性能的统计保证，不依赖于渐近近似。 |
| Risk gap | 风险差距，指实际风险与目标风险阈值之间的差异，用于衡量风险控制方法的保守性。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅