多类分类中标签缺失竟能反超完整数据?新理论揭示效率排序颠覆性反转!
Informative Label Missingness in Multiclass Classification Information Geometry and Excess Risk
arXiv ML (stat.ML) 重要 #标签缺失#多分类#信息几何 🕐 09-01 12:00

📖 AI 总结

该研究探讨了多分类问题中信息性标签缺失现象,发现缺失模式本身可能携带分类模型相关信息,从而改变完全标注与部分标注分类器的效率排序。作者构建了基于似然的一般性理论框架,通过有效信息分解将不可得类别归属造成的信息损失与缺失机制贡献的信息分离。研究推导出插件超额风险在贝叶斯决策边界活跃成对面上的二次展开,提出分类加权广义特征值准则,证明信息性部分分类可在渐近分类风险上更优,但无需在Fisher信息上全面超越完全分类。在接近完全随机缺失条件下,标签缺失比例固定时,缺失标签的重新分布在一阶影响类别信息损失,而缺失模式的有效信息仅在二阶出现。三分类二次判别计算、有限样本实验及半合成多分类应用验证了该机制依赖行为的有效性。

🔑 关键词速览

Informative label missingness指标签缺失模式本身携带关于分类模型的信息,而非随机缺失。
Efficient-information decomposition一种将信息损失(因缺失类别标签)与信息增益(来自缺失机制)分离的分解方法。
Plug-in excess risk使用估计的分类器相对于最优贝叶斯分类器的额外风险,衡量分类性能的损失。
Multiclass Bayes boundary多类分类中,贝叶斯最优决策边界,由各类别后验概率相等点构成。
Generalized-eigenvalue criterion一种基于广义特征值的准则,用于评估分类效率,决定部分标记分类器是否优于完全标记分类器。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅