我有一个关于图神经网络的排列不变性和等变性的问题。在我的设置中,我有一组通过一组边连接的节点。我想预测二进制类wrt。节点,例如,标签是零和一的向量。
在图构建阶段,假设 GNN 是置换等变的,我基本上以未排序的方式将“正”和“负”节点堆叠在一起。因此节点特征矩阵为:[X_p, X_n]^T。因此,只要标签向量以相同的方式排列,它就应该在排列等方差下正常工作。
但是,我发现我的预测准确度在我打乱节点特征矩阵(类似于标签向量)后会大幅下降。这导致我的解释是天真的堆叠操作缓解了学习问题。
GNN 执行的所有操作都是 MLP (X*W)、ReLU、邻域聚合和、Sigmoid 或通过邻接矩阵(torch_geometric 中的 edge_index)利用节点连接性。因此,节点排序不可能影响学习结果,因为所有操作都是置换不变的。然而,相反的情况发生了。
我将不胜感激任何帮助。非常感谢!