欢迎光临
我们一直在努力

2025_NIPS_Return of ChebNet: Understanding and Improving an Overlooked GNN on Long-Range Tasks

文章核心总结

本文重新审视了早期谱图神经网络ChebNet,发现其在长距离任务上具备竞争力,但存在高阶多项式导致的训练不稳定性问题。为此提出Stable-ChebNet,通过将ChebNet构建为稳定的非耗散动力系统,引入反对称权重参数化和前向欧拉离散化,在无需特征分解、位置编码或图重连的情况下,实现稳定的信息传播。实验表明,Stable-ChebNet在多个长距离基准测试中达到或超越当前最优模型,同时保持良好的可扩展性。

主要创新点

  • 重新验证ChebNet价值:证实原始ChebNet在长距离任务上性能优异,且比图重连方法、图Transformer更高效。
  • 揭示核心缺陷:通过动力学分析,证明ChebNet的高阶多项式扩展会导致信号传播不稳定。
  • 提出Stable-ChebNet:将ChebNet转化为连续时间常微分方程,利用反对称权重约束保证雅可比矩阵特征值纯虚数,实现二阶稳定性。
  • 兼顾性能与效率:无需额外计算开销,在长距离节点分类、图属性预测等任务中表现优于MPNN、图Transformer等主流模型。

  • Abstract 翻译

    ChebNet是最早的谱图神经网络之一,但在消息传递神经网络(MPNNs)的光环下逐渐被忽视——MPNNs因其简洁性和捕获局部图结构的有效性而广受青睐。尽管MPNNs取得了成功,但其捕获节点间长距离依赖关系的能力有限。这促使研究人员通过重连图结构或使用图Transformer来改进MPNNs,然而这既牺牲了早期空间消息传递架构的计算效率,又往往忽视

    赞(0)
    未经允许不得转载:171主机测评 » 2025_NIPS_Return of ChebNet: Understanding and Improving an Overlooked GNN on Long-Range Tasks
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址