🔥 今日值得一读 高维在线学习如何省标注?新策略按间隔调度查询,医学图像实测有效!
Towards optimal selection schedules for online active learning
arXiv ML (stat.ML) 🔥 重点 #主动学习#在线学习#理论分析 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
标注预算有限时,可参考该最优查询策略决定何时标注样本,节省标注成本。

📖 AI 总结

该论文研究在线线性分类中的主动学习查询策略问题:在无标注样本流持续到达、标注成本高昂的设定下,如何决定何时对样本进行标注用于训练、何时将其丢弃,以最小化给定目标。作者聚焦高斯设计下的可实现情形,考察数据维度与无标注样本数按比例增长的高维极限,并设定两个优化目标:一是标注预算约束下的泛化误差,二是错误代价为单位成本、查询代价为Δ的累积成本函数。研究首先表明,贪心地最小化目标增量的短视策略对应小间隔或中等间隔策略,即选择间隔落在随时间收缩的区间内的样本;在此基础上数值确定了使最终目标最优的阈值调度方案,并受累积成本短视策略启发,设计出一种极简的查询调度策略,在合成数据和真实医学图像数据集上与其他启发式方法进行了比较。文章还讨论了两层神经网络中的短视策略,并举例说明朴素的基于间隔的策略可能不再最优。该工作为在线主动学习中标注时机的选择提供了理论刻画与可操作的调度方案。

🔑 关键词速览

在线线性分类一种在线学习设定,其中数据以流的形式到达,模型逐步更新以进行线性分类。
查询策略决定是否以及何时对未标记样本进行标注并用于训练的规则。
短视策略一种贪婪策略,在每个时刻最小化当前目标函数的增量,而不考虑长期影响。
间隔样本点到分类决策边界的距离,常用于主动学习中的样本选择。
累积成本函数考虑错误分类成本和查询成本的总和的目标函数。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅