仅2.2万参数！小样本学习准确率反超基线，参数少53%
ALPINE: Adaptive Localization for Parameter- and Sample-Efficient Few-Shot Learning
📖 AI 总结
本文提出ALPINE，一种面向小样本图像分类的超轻量空间关系架构，参数量仅22,249至34,917。该方法将固定的Gabor边缘能量引导与窗口化、内容自适应的图像块定位器相结合。在严格匹配的等回合预算协议下（250个元训练回合、5个标准随机种子、每个种子600个评估回合），ALPINE在CIFAR-FS和MiniImageNet上的5-shot准确率均优于Prototypical Networks、Relation Networks和MAML，且五个种子结果一致，参数量比所有基线少27%至53%。该架构还能以更少训练回合收敛，在无需重新训练的情况下更好地泛化到未见过的细粒度域（CUB-200-2011鸟类），并在50%遮挡和25%空间平移下比三个基线更鲁棒。消融实验表明，成对关系计算并非性能的主要驱动因素，内容自适应图像块定位器才是关键。作者还报告了约22k至35k参数附近的准确率平台，并公开了全部种子级结果与检查点哈希以供复现。
🔑 关键词速览
| Few-Shot Learning | 小样本学习，指模型仅用少量标注样本就能学习新类别的机器学习范式。 |
| Prototypical Networks | 原型网络，一种小样本学习方法，通过计算每个类别的样本均值作为原型进行分类。 |
| MAML | 模型无关元学习，一种元学习方法，通过优化初始参数使模型能快速适应新任务。 |
| Content-Adaptive Patch Locator | 内容自适应图像块定位器，一种根据图像内容动态选择局部区域进行处理的机制。 |
| Iso-Episode-Budget Protocol | 等情节预算协议，指在相同训练和评估情节数量下比较不同方法的实验设置。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅