双先验提示初始化，少样本图任务性能全面碾压SOTA！
Task-Specific Prompt with Global Context for Multi-Task Graph Pre-Training
📖 AI 总结
该研究针对多任务图预训练中提示初始化随机化导致的任务相关性弱、结构感知不足和可迁移性差的问题，提出了一种名为TPGC的双先验提示初始化方案。该方法通过任务先验注入模块在辅助图上进行短期的同源多任务预训练，使提示初始化继承多个预训练任务的优化偏好；随后结构先验注入模块从辅助图中提取可迁移的全局结构上下文，通过聚合结构信息丰富的节点嵌入生成逐层提示向量。在6个主流基准数据集上的节点和图分类实验中，TPGC在少样本设置下持续优于现有最先进基线，同时所需下游可调参数更少、运行时间更短。该工作为图提示学习中的先验知识利用提供了新思路。
🔑 关键词速览
| Graph Prompt Learning | 图提示学习，一种通过提示调整预训练图模型以适应下游任务的方法。 |
| Multi-Task Graph Pre-Training | 多任务图预训练，在多个前置任务上预训练图模型以学习通用表示。 |
| Task Prior | 任务先验，指与特定前置任务相关的优化偏好或知识。 |
| Structural Prior | 结构先验，指从图结构中提取的全局上下文信息。 |
| TPGC | 本文提出的双先验提示初始化方法，结合任务先验和结构先验。 |
📱 每天一份 AI 前沿日报
关注公众号，每天 09:00 推送 · 不错过任何重磅