🔥 今日值得一读 不重连也能治过度压缩!层有效电阻让GNN长程依赖性能飙升
Mitigating Over-squashing without Rewiring: A Sheaf Effective Resistance Perspective
arXiv ML (stat.ML) 🔥 重点 #图神经网络#过挤压#层理论#长程依赖 🕐 今天 12:00
👨‍💼 主理人解读 · 为什么值得关注
给GNN长程依赖问题提供免重连的度量与缓解思路,可直接用于图模型瓶颈诊断。

📖 AI 总结

该研究针对图神经网络中因节点嵌入反复压缩而导致的过挤压问题提出新解法。传统观点将过挤压视为图拓扑的固有属性,并以有效电阻作为瓶颈的度量指标。本文基于胞腔层理论,提出“层有效电阻”概念,将有效电阻推广为依赖于附加在图上之层的量,并证明在平坦向量丛情形下,雅可比意义下的过挤压敏感度上界与节点间的层有效电阻相关。这一发现表明瓶颈未必源于图结构本身,可通过调整层来迁移并降低瓶颈。作者据此提出FlatNSD——一种简化的神经层扩散消息传递变体,实验显示其能隐式学习调节总层有效电阻,在不改变原始图拓扑的前提下,于专门测试过挤压的基准上取得良好表现。该工作为缓解过挤压提供了无需重连图结构的新思路,已被NeurIPS 2026接收。

🔑 关键词速览

过度压缩 (Over-squashing)图神经网络中因消息传递瓶颈导致长程信息被压缩丢失的现象。
层有效电阻 (Sheaf Effective Resistance)基于胞腔层定义的有效电阻推广,用于度量图中节点间的信息传播瓶颈。
胞腔层 (Cellular Sheaves)一种将向量空间和线性映射附加到图上的数学结构,用于建模节点和边上的数据。
平坦向量丛 (Flat Vector Bundles)一种特殊的向量丛,其连接(或转移函数)在局部是常数,具有零曲率。
FlatNSD神经层扩散的一种简单消息传递变体,通过调整层来隐式调制有效电阻。
infoAI 公众号二维码

📱 每天一份 AI 前沿日报

关注公众号,每天 09:00 推送 · 不错过任何重磅