少样本选模型不再靠标签硬评!EGiME免训练评估,与真实准确率相关性达0.966
EGiME: Entropy-Guided Model Evaluation in Few-Shot Learning
arXiv LG (cs.LG) 重要 #少样本学习#模型评估#预训练模型 🕐 10-21 12:00

📖 AI 总结

本文提出EGiME,一种面向小样本学习的半监督模型评估准则,旨在解决稀缺标签下监督评估不稳定、模型排名波动的问题。该方法无需训练分类器,而是对所有有标签和无标签样本进行K均值聚类,综合两个熵项:衡量全局可分性的簇间熵与衡量有标签锚点紧凑性的簇内熵,并通过逆频率加权突出小簇。在五个小样本基准和九个预训练模型上,EGiME与全池真实准确率(K均值、KNN、SVM准确率均值)的相关系数达0.966;在4%至20%的标注比例下,其模型排名稳定性明显优于交叉验证的监督基线。该工作为数据稀缺条件下的预训练模型选择提供了一种实用替代方案。

🔑 关键词速览

EGiME熵引导模型评估,一种无需训练分类器、基于特征空间聚类结构的半监督模型选择准则。
Few-Shot Learning少样本学习,指在仅有少量标注样本的情况下进行模型训练或评估的机器学习范式。
K-means ClusteringK均值聚类,一种将样本划分为K个簇的无监督算法,使簇内样本尽可能紧凑。
Inter-cluster Entropy簇间熵,衡量不同聚类簇之间全局可分性的熵指标。
Intra-cluster Entropy簇内熵,衡量同一聚类簇内有标签锚点紧凑性的熵指标。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅