多类分类标注预算怎么花最值?新准则直击分类风险,性能超Fisher比较器!
Large Classification-Risk-Optional Label Acquisition
arXiv ML (stat.ML) 重要 #主动学习#分类#标注预算 🕐 09-09 12:00

📖 AI 总结

该研究探讨了在有限标注预算下,如何最优分配标签获取以最小化多分类零一分类风险。作者结合费雪信息与多分类超额风险的局部几何结构,提出一种标签获取准则,该准则优先选择与主动贝叶斯决策边界扰动方向对齐的信息,而非仅依据后验不确定性或全局参数信息。研究刻画了最优获取设计的阈值结构,并扩展至类别特定及成本敏感场景。分析示例表明,后验不确定性与分类价值可能产生不同甚至相反的排序。作者进一步提出两阶段自适应程序,在高斯判别分析中达到最优风险准则。三分类二次判别分析实验及六分类Statlog Landsat卫星数据应用显示,分类风险导向的获取策略在多数预算下优于完全分类信息比较器,但并非始终优于熵或边际采样,且预算增加时策略间差异缩小。

🔑 关键词速览

classification risk分类风险,指分类器在给定数据分布下期望的误分类损失,此处特指多类零一损失下的风险。
Fisher informationFisher信息,衡量观测数据(此处为标签)关于未知参数的期望信息量,用于参数估计精度分析。
excess risk超额风险,指分类器实际风险与最优贝叶斯风险之间的差距,用于评估分类器的性能损失。
acquisition criterion获取准则,决定在有限标注预算下优先获取哪些样本标签的规则或策略。
Gaussian discriminant analysis (QDA)高斯判别分析,一种基于高斯分布假设的分类方法,QDA指二次判别分析,允许各类别协方差不同。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅