无穷视野图滤波器--GPFN，从频域和空域的视角分析

无穷视野图滤波器--GPFN，从频域和空域的视角分析

图神经网络（GNN）在处理图数据时面临着感受野有限和稀疏图性能下降等挑战。为了解决这些问题，北京大学和多伦多大学的研究团队提出了一种创新的GNN架构——图幂级数滤波神经网络（Graph Power Filter Neural Network, GPFN）。

GNN面临的技术挑战与GPFN的解决方案

技术挑战

• 有限的感受野：现有GNN模型的感受野受限，难以捕获图中远距离节点间的依赖关系。
• 稀疏图的挑战：真实世界图的度分布通常遵循幂律分布，绝大部分是稀疏图上，由于边的数量较少，GNN难以学习到有效的节点表示。如下图所示，当图的稀疏度上升时，一般GNN的表现会迅速下降。

GPFN的解决方案

为了应对这些挑战，论文提出了图幂级数滤波神经网络（GPFN），这是一种新颖的GNN架构，它使用基于幂级数的图滤波器来增强节点分类任务。GPFN的关键特性包括：

1. 灵活的图滤波器设计：GPFN允许研究者根据需要设计不同类型的图滤波器，如低通、高通或带通滤波器，在谱域上展示了其广泛的适用性和适应性，大多数多项式滤波器可以被看做是GPFN的特殊形式。
2. 无限信息聚合：GPFN利用幂级数的无限扩展能力，设计了具有无限感受野的图滤波器，增强了对长距离依赖的捕获能力，在空间域上作为一个无限信息聚合器，有效聚合了跨越无限跳数的邻居信息。
3. 理论证明：GPFN提供了谱域和空间域的双重分析，证明其拥有无限感受野，且证明了相较于以往工作GPFN能更好的抵抗过平滑问题。

GPFN框架的核心设计

在谱域中，GPFN的图滤波器可以表示为
F_\gamma(\hat A)=\sum^{+\infty}_{n=0}\gamma_n\hat A^n
其中
A
是聚合矩阵，
\gamma_n
是滤波器系数。

文章整理了包括相关工作在内的滤波器表达式，并在文章中详细说明了如何选取
\gamma_n
和参数来
\beta_0
调整滤波器类型和特征值范围。

滤波器
GPFN整体的框架图如下：

GPFN
对于稀疏图的聚合矩阵A，GPFN通过选择合适的
F_\gamma
与
\gamma_n
，在谱域上实现了相应的滤波器，在空域上完成了无限聚合信息的功能。

同时，文章在4.4节中详细解释了其他多项式滤波器如GPR-GNN、APPNP是如何被纳入到GPFN框架中，作为有限感受野的特殊形式存在的。

实验

1. 数据集：GPFN在cora citeseer和Amazon Computer三个经典图数据集上进行了测试，同时构造出不同稀疏度的图数据进行测试。
2. 基准模型：与当前最先进的GNN模型进行了比较，如GPRGNN、APPNP、BerNet、GCNII、HiGNN等。

实验结果

• GPFN在所有数据集上的性能均超过了基线模型，特别是在稀疏图上的表现尤为突出，实验结果证明了GPFN在处理长距离依赖和稀疏图方面的优势。
  实验结果
  文章也对超参数
  \beta_0
  进行了敏感性分析
  同时，实验证明当GNN层数增加时，GPFN的性能下降速度比其他模型慢，这表明GPFN可以更有效地减轻过平滑问题。

除此之外，文章还通过案例分析展示了不同图滤波器对高频信号的过滤效果，进一步证明了GPFN框架的灵活性和可解释性

实际应用与未来展望

GPFN框架为图学习领域提供了一个强大的工具，特别是在处理稀疏图和长距离依赖关系方面。通过在不同的图学习任务上进行广泛的实验，GPFN的有效性得到了验证。实验结果表明，GPFN能够显著提升GNN在稀疏图上的性能，并避免GNN在层数增加的时候陷入过平滑问题。尽管如此，如何进一步构造效率更高的滤波器和扩展到更复杂的图结构，仍然是未来研究的重要方向。