持续图学习新突破:原型少30倍,准确率反升,遗忘近乎为零!
HCPN-GCN: Scaling Hierarchical Prototype Networks with Cone Geometry for Continual Graph Learning
arXiv LG (cs.LG) 重要 #持续学习#图神经网络#原型网络#灾难性遗忘 🕐 今天 12:00

📖 AI 总结

本文针对持续图学习中的灾难性遗忘问题,提出了一种名为HCPN-GCN的新方法。持续图学习要求模型在增量学习图结构数据的同时保留旧任务知识,而现有的层次原型网络虽能通过原型记忆机制避免存储历史数据,却因依赖线性特征提取器而难以利用图拓扑结构,且基于点的原型在结构多样的图上容易过度增长。HCPN-GCN用图卷积网络替换原有线性特征提取器,并引入基于锥体的原型及多样性正则化目标,从而生成更丰富的图感知表示,同时更紧凑地建模嵌入空间。在六个持续图学习基准上的实验表明,该方法在保持近乎零遗忘的同时,平均分类准确率稳定优于原始层次原型网络和代表性持续学习基线;其类级原型层次更为丰富,而所需原子原型数量仅为原方法的约三十分之一,为持续图学习提供了更紧凑有效的记忆表示。

🔑 关键词速览

Continual Graph Learning (CGL)持续图学习,一种从图结构数据中增量学习并保留旧知识的学习范式。
Catastrophic Forgetting灾难性遗忘,模型在学习新任务时严重遗忘旧任务知识的现象。
Hierarchical Prototype Networks (HPNs)分层原型网络,一种基于原型记忆机制避免存储历史数据的持续学习方法。
Graph Convolutional Networks (GCNs)图卷积网络,一种能够有效利用图拓扑结构进行特征提取的神经网络。
Cone-based Prototypes基于锥体的原型,用锥体几何表示原型以紧凑建模嵌入空间并减少原型数量。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅