无监督持续学习新突破！不存原始数据也能媲美监督方法，性能直追SOTA
Unsupervised Continual Learning with Growing Self-Organizing Maps and Synthetic Replay
📖 AI 总结
这篇论文提出了一种基于生长自组织映射（GSOM）的无监督持续学习框架，通过结合分布统计记忆和编码器-解码器模型，实现无需存储原始数据的类增量学习。每个GSOM单元维护自身的均值、方差和协方差估计，用于生成合成样本进行回放，在编码器-解码器配置中，这些样本通过祖先采样解码回输入空间以支持后续训练。该方法完全无监督，不依赖任务边界或类别标签。实验结果表明，该框架在多个基准上达到与监督式基于记忆的方法相媲美的性能，并持续优于无记忆方法，尤其在单类增量场景中表现突出。此外，作者提供了单类增量TinyImageNet和MiniImageNet的基线结果，为未来研究提供参考。这项工作展示了基于拓扑驱动的统计回放在持续学习中的可扩展性和灵活性。
🔑 关键词速览
| Growing Self-Organizing Maps (GSOMs) | 一种自组织映射的变体，能够动态增长网络结构以适应数据分布，用于无监督学习。 |
| Continual Learning | 持续学习，指模型能够在不遗忘先前知识的情况下，从连续的数据流中学习新任务。 |
| Class-Incremental Learning | 类增量学习，一种持续学习场景，模型需要逐步学习新类别，同时保持对旧类别的识别能力。 |
| Exemplar-Free Replay | 无样本重放，一种重放策略，不存储原始数据样本，而是使用生成或统计信息来模拟旧数据。 |
| Encoder-Decoder Models | 编码器-解码器模型，一种神经网络架构，将输入压缩为潜在表示，再解码重建，常用于生成任务。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅