新损失函数AMOL专治有序分类“中心类别对冲”,四个基准上QWK全拿最佳!
Adaptive Margin Ordinal Loss: Penalizing Center-Class Hedging in Ordinal Classification
arXiv LG (cs.LG) 重要 #序数分类#损失函数#训练方法 🕐 09-11 12:00

📖 AI 总结

本文针对有序分类任务中神经网络因标准交叉熵损失而倾向于将预测推向中间类别的“中心类对冲”现象展开研究。作者指出,这种失败模式源于预测中间类可最小化对称损失,而现有有序损失方法虽能处理大误差惩罚与排序一致性等问题,却未能直接抑制该现象。为此,论文提出自适应边界有序损失(AMOL),通过对各类别损失项施加乘法权重,仅在候选类别接近中心且真实标签远离中心时增大惩罚,其余情况退化为标准行为。同时引入中心对冲率(CHR)作为量化该问题的诊断指标。在四个有序分类基准和五个随机种子上的实验表明,AMOL在全部数据集上取得最佳或并列最佳的二次加权Kappa值;其非对称变体在Abalone数据集上将CHR降至零,显著优于交叉熵的0.074。

🔑 关键词速览

中心类别对冲模型倾向于预测中间类别而非真实极端类别的失败模式。
自适应边距有序损失 (AMOL)一种乘法加权损失函数,根据候选类别和真实标签与中心类别的距离调整权重。
中心对冲率 (CHR)量化模型预测向中心类别偏移程度的诊断指标。
二次加权 Kappa (QWK)有序分类中常用的评估指标,衡量预测与真实标签之间的一致性。
有序分类类别之间存在自然顺序关系的分类任务。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅