CN113780470A - 一种基于自适应多通道交叉图卷积网络的图分类方法 - Google Patents

Abstract

本发明公开了一种基于自适应多通道交叉图卷积网络的图分类方法，包括如下步骤：1）基于节点特征矩阵X构造一个初始图；2）对输入图做图卷积运算；3）交叉网络；4）图卷积模块；5）带注意力机制的全连接层。这种方法充分利用了空间中的信息，消除了在每个任务的基础上搜索多个多任务网络体系结构的需求，确保了学习嵌入的一致性。

Description

一种基于自适应多通道交叉图卷积网络的图分类方法

技术领域

本发明涉及人工智能技术领域，具体是一种基于自适应多通道交叉图卷积网络的图分类方法。

背景技术

卷积神经网络(Convolutional Neural Networks,CNN)通常用于欧几里得结构数据的表示和学习。然而，传统的卷积神经网络无法处理如社交网络、引文网络等具有不规则结构的图结构数据。图卷积网络(Graph Convolutional Networks，GCN)作为CNN从欧几里得结构数据图到非欧几里得结构数据图的扩展，因其独特的计算能力，而受到学者们广泛的关注与研究，用于在机器学习和计算机视觉领域中进行图数据的表示和学习。与之前的深度学习构架相反，GCN的参数较少，可以处理具有非欧几里得几何形状的不规则数据，并将关系归纳偏差引入数据驱动的系统中。因此，通常认为图神经网络可以学习图数据的任意表示，于是被广泛地应用于图分析(如链接预测，节点分类，图分类)。

尽管GCN取得了巨大的成功，但大多数GCN仍被部署为图形数据的黑匣子特征提取器，尚不清楚这些模型在多大程度上可以捕获不同的图形特征，这是因为GCN及其变体通常遵循端到端的特征学习，关键步骤是特征聚合，即节点在每个卷积层中聚合来自其拓扑邻居的特征信息。以这种方式，特征信息通过网络拓扑传播到节点嵌入，然后将学习到的节点嵌入用于分类任务。整个过程由节点标签部分监督。

为了更深入地了解GCN在融合节点特征和拓扑结构的能力，研究人员已经做出许多努力。例如，Duvenaud等人提出了一种卷积神经网络，它为图形数据提供了端到端的特征学习。Keyulu等人将表达能力定义为学习多种功能的能力，并证明了GCN在图同构测试任务上能与Weisfeiler-Lehman检验一样强，但前提是假设GCN具有无限数量的隐藏单元和层。Atwood等人通过采用图扩散过程将节点的上下文信息纳入图数据分类中，提出了Diffusion卷积神经网络。李其迈等人表明，GCN的成功来自网络拓扑和标签信息，该信息仅用于训练完全连接的网络(Fully Convolutional Networks，FCN)中的参数，实际上对节点特征执行拉普拉斯平滑，并使嵌入整个网络的节点逐渐收敛。吴冠逸等人证明当特征信息在网络拓扑结构上传播时，拓扑结构在节点特征上起着低通滤波的作用。王萧等人考虑了GCN中网络拓扑和节点特征的融合机制，研究了如何从拓扑和节点特征中自适应地学习最相关的信息，并融合它们以进行分类。但是，GCN尚未充分利用网络拓扑的潜力，FCN的灵活性也受到限制。具体而言，由于某些稀疏性和噪声，导致同类节点可能相隔很远，不同类节点直接相连，而GCN并未考虑这些现象。

发明内容

本发明的目的是针对现有技术的不足，而提供一种基于自适应多通道交叉图卷积网络的图分类方法。这种方法可充分利用空间中的信息，消除了在每个任务的基础上搜索多个多任务网络体系结构的需求，确保了学习嵌入的一致性。

实现本发明目的的技术方案是：

一种基于自适应多通道交叉图卷积网络的图分类方法，包括如下步骤：

1)基于节点特征矩阵X构造一个初始图：

用G(X，A)表示图，其中节点特征矩阵

n表示图中的节点数，d表示每个节点的特征维数，

是n个节点的对称邻接矩阵，表示节点间的拓扑结构，当A_ij＝1时表示节点i和节点j之间存在一条边，否则A_ij＝0，表示节点i和节点j之间不存在边，用余弦相似度来获取相似度矩阵

然后为每个节点选择前k个相似节点对设置边，最终得到邻接矩阵A_f，然后得到特征空间中的输入图(X,A_f)；类似地，对于拓扑空间，有原始输入图Gt＝(X_t,A_t)，其中X_t＝X，A_t＝A，用同样地方法获得拓扑空间的输入图(X_t,A_t)；

2)对输入图做图卷积运算：

将输入图分别通过拓扑卷积和特征卷积生成拓扑图和特征图，使X能够在特征图和拓扑图上传播，使用特征空间中的输入图(X,A_f)，第l层输出E_f ^(l)可以表示为：

其中，

是GCN中第l层的权重矩阵，ReLU是ReLU激活函数，且初始

而

是

的对角度矩阵，将嵌入的最后一层输出表示为E_F；

对于拓扑空间，按照与特征空间相同的方式来学习基于拓扑图的最终节点嵌入E_T：

其中，

是GCN中第l层拓扑卷积的权重矩阵，且初始

因此，提取了原始拓扑空间中的结构信息；

由于拓扑空间和特征空间中的信息具有共同特征，因此设计了一个具有参数共享策略的共同卷积模块，同时提取拓扑空间和特征空间中特定于节点的嵌入和它们的共享公共信息，以学习共同的嵌入E_CT和E_CF，并采用一致性约束L_c来增强E_CT和E_CF的共同特性；

然后将输入图生成两个具体的嵌入：拓扑嵌入和特征嵌入，以及一个共同嵌入；

3)交叉网络：

将对每层l进行建模的单位称为交叉单元，把交叉单元整合到图卷积网络中，使用线性组合为特征建模，学习共享特征，提供端到端的学习框架，并学习给定任务集的最佳线性组合，考虑多任务学习的情况，其中在同一输入中有两个任务A和B，用交叉单元将A和B这两个任务组合成一个多任务网络，从而协调两个任务共享信息的程度；

给定任务A和B分别来自第l层的两个特征x_A和x_B，学习了两个输入特征的线性组合

并组合

作为输入提供给下一层过滤器，使用α参数化此线性组合，在特征的位置(i，j)上：

可以通过将α_AB或α_BA设置为零来决定使某些层做特定的任务，或者通过为它们分配更大的值来选择共享程度更高的表示，在生成的拓扑图和共同图之间使用交叉网络以自适应学习参数；

4)图卷积模块：

在步骤2)和步骤3)运行后，输入图已经经过一次图卷积运算，并在不同任务中重新学习了参数权重，此时输出图要继续通过两层图卷积运算，得到最终的拓扑节点嵌入E_T，特征节点嵌入E_F以及两个共同嵌入E_CT和E_CF，最后再将两个空间的共同为嵌入E_C；

5)带注意力机制的全连接层：

现在，有两个特定的嵌入E_T和E_F，以及一个共同的嵌入E_C，考虑到节点标签可以与其中之一或它们的组合相关，使用注意力机制来学习它们的相应重要性，对各个节点的嵌入进行加权求和，生成最终的嵌入E；

对于共同卷积模块的两个输出嵌入E_CT和E_CF，首先，使用L2归一化将嵌入矩阵E_CT和E_CF归一化为L_CF和L_CT，然后使用两个归一化矩阵点乘来捕获n个节点的相似性S_T和S_F，一致性意味着两个相似性矩阵应该相似，这产生了以下约束：

把输出嵌入E用于具有线性变换和softmax函数的半监督多类分类任务，将n个节点的类预测表示为

将实验数据分为训练集和测试集，假设训练集为L，对于每个l∈L，实际标签为Y_l，而预测标签为

然后，将所有训练节点上的节点分类的交叉熵损失表示为L_t，最终的目标函数是L_c和L_t的线性组合。

本技术方案与现有技术相比，具有以下优点：

首先，使用AMGCN作为基础的特征提取网络，基于节点特征X构造了一个特征图，通过两个具体的卷积模块——拓扑卷积和特征卷积，使X能够在特征图和拓扑图上传播，以分别学习两个卷积模块的嵌入E_T和E_F。由于共同卷积和拓扑卷积、特征卷积之间的底层任务相似，因此本技术方案分别在共同卷积和拓扑卷积、共同卷积和特征卷积之间使用了交叉网络(Cross-stitch Networks)，以辅助学习不同任务。其次将图卷积层数从两层增加到三层。此外对损失函数进行了修改，考虑到这两个空间中的信息具有共同的特征，本技术方案设计了一个具有参数共享策略的共同卷积模块，以学习共同的嵌入E_CT和E_CF，并保留一致性约束L_c来增强E_CT和E_CF的共同特性。最后还删除了视差约束L_d。考虑到节点标签可能与拓扑或特征或两者相关联，本技术方案利用注意力机制将这些嵌入与学习的权重进行自适应融合，从而为最终分类任务提取最相关的信息E。

在节点特征，拓扑结构及其组合之间设置不同的损失函数，同时学习它们的节点嵌入。特征之间的相似性以及由拓扑结构推断出的相似性是相互补充的，可以自适应地融合以得出用于分类任务的更深层的相关性信息。此外，还将从节点特征生成的k最近邻图导出为特征结构图，以充分利用特征空间中的信息。

本技术方案用交叉网络将共享特征建模为线性组合，这些单元概括了上述三种类型的任务，从而消除了在每个任务的基础上搜索多个多任务网络体系结构的需求。为了测量学习的节点特征和拓扑结构之间的一致性，将约束传播公式化为目标函数的最小化，以确保学习嵌入的一致性。

这种方法可充分利用空间中的信息，消除了在每个任务的基础上搜索多个多任务网络体系结构的需求，确保了学习嵌入的一致性。

附图说明

图1为实施例的结构示意图；

图2为实施例中交叉网络架构示意图；

图3为实施例中特征模块示意图；

图4为实施例中拓扑模块示意图。

具体实施方式

下面结合附图及具体实施例对本发明作进一步的详细描述，但不是对本发明的限定。

实施例：

参照图1，一种基于自适应多通道交叉图卷积网络的图分类方法，包括如下步骤：

1)基于节点特征矩阵X构造一个初始图：

用G(X,A)表示图，其中节点特征矩阵

n表示图中的节点数，d表示每个节点的特征维数，

是n个节点的对称邻接矩阵，表示节点间的拓扑结构，当A_ij＝1时表示节点i和节点j之间存在一条边，否则A_ij＝0，表示节点i和节点j之间不存在边，用余弦相似度来获取相似度矩阵

然后为每个节点选择前k个相似节点对设置边，最终得到邻接矩阵A_f，然后得到特征空间中的输入图(X,A_f)；类似地，对于拓扑空间，有原始输入图Gt＝(X_t,A_t)，其中X_t＝X，A_t＝A，用同样地方法获得拓扑空间的输入图(X_t,A_t)；

2)对输入图做图卷积运算：

将输入图分别通过拓扑卷积和特征卷积生成拓扑图和特征图，使X能够在特征图和拓扑图上传播，如图1所示，使用特征空间中的输入图(X,A_f)，第l层输出E_f ^(l)可以表示为：

其中，

是GCN中第l层的权重矩阵，ReLU是ReLU激活函数，且初始

而

是

的对角度矩阵，将嵌入的最后一层输出表示为E_F，如图3所示；

对于拓扑空间，按照与特征空间相同的方式来学习基于拓扑图的最终节点嵌入E_T：

其中，

是GCN中第l层拓扑卷积的权重矩阵，且初始

因此，提取了原始拓扑空间中的结构信息，如图4所示；

由于拓扑空间和特征空间中的信息具有共同特征，因此设计了一个具有参数共享策略的共同卷积模块，同时提取拓扑空间和特征空间中特定于节点的嵌入和它们的共享公共信息，以学习共同的嵌入E_CT和E_CF，并采用一致性约束L_c来增强E_CT和E_CF的共同特性；

然后将输入图生成两个具体的嵌入：拓扑嵌入和特征嵌入，以及一个共同嵌入；

3)交叉网络：

交叉网络是一种被提出用于卷积神经网络中多任务学习的方法，尝试为多任务学习发现最佳参数共享形式，本例改良了交叉网络这种构架，将对每层l进行建模的单位称为交叉单元，把交叉单元整合到图卷积网络中，使用线性组合为特征建模，学习共享特征，提供端到端的学习框架，并学习给定任务集的最佳线性组合，考虑多任务学习的情况，其中在同一输入中有两个任务A和B，用交叉单元将A和B这两个任务组合成一个多任务网络，从而协调两个任务共享信息的程度，如图2所示；

给定任务A和B分别来自第l层的两个特征x_A和x_B，学习了两个输入特征的线性组合

并组合

作为输入提供给下一层过滤器，使用α参数化此线性组合，在特征的位置(i，j)上：

可以通过将α_AB或α_BA设置为零来决定使某些层做特定的任务，或者通过为它们分配更大的值来选择共享程度更高的表示，如图1所示，在生成的拓扑图和共同图之间使用交叉网络以自适应学习参数；

4)图卷积模块：

在步骤2)和步骤3)运行后，输入图已经经过一次图卷积运算，并在不同任务中重新学习了参数权重，此时输出图要继续通过两层图卷积运算，如图3和图4所示，得到最终的拓扑节点嵌入E_T，特征节点嵌入E_F以及两个共同嵌入E_CT和E_CF，最后再将两个空间的共同为嵌入E_C；

5)带注意力机制的全连接层：

现在，有两个特定的嵌入E_T和E_F，以及一个共同的嵌入E_C，考虑到节点标签可以与其中之一或它们的组合相关，使用注意力机制来学习它们的相应重要性，对各个节点的嵌入进行加权求和，生成最终的嵌入E；

对于共同卷积模块的两个输出嵌入E_CT和E_CF，首先，使用L2归一化将嵌入矩阵E_CT和E_CF归一化为L_CF和L_CT，然后使用两个归一化矩阵点乘来捕获n个节点的相似性S_T和S_F，一致性意味着两个相似性矩阵应该相似，这产生了以下约束：

把输出嵌入E用于具有线性变换和softmax函数的半监督多类分类任务，将n个节点的类预测表示为

将实验数据分为训练集和测试集，假设训练集为L，对于每个l∈L，实际标签为Y_l，而预测标签为

然后，将所有训练节点上的节点分类的交叉熵损失表示为L_t，最终的目标函数是L_c和L_t的线性组合。

本例为训练集选择三个标签率(即每个类别20、40、60个带标签的节点，L/C)，然后选择1000个节点作为测试集，训练了三个具有相同隐藏层尺寸(nhid1)和相同输出尺寸(nhid2)以及(nhid3)的3层GCN，其中nhid1∈{512，768，1024}，nhid2∈{128，256}，nhid3∈{32，64}，本例使用Adam优化器，并将学习率设置在0.0001至0.001之间，Dropout为0.5，权重衰减∈{5e-3，5e-4}，k∈{2，3，…，10}用于k最近邻图，一致性约束和视差约束的系数分别在{0.01、0.001、0.0001}和{1e-10、5e-9、1e-9、5e-8、1e-8}中，对于所有方法，在相同的分区上运行5次，并报告平均结果。

本例在Citeseer、UAI2010、ACM、BlogCatelog、Flickr和Pubmed数据集上的精度与之前的图卷积网络相比均有所提升，如表1所示：

Claims (1)

1.一种基于自适应多通道交叉图卷积网络的图分类方法，其特征在于，包括如下步骤：

1)基于节点特征矩阵X构造一个初始图：

用G(X,A)表示图，其中节点特征矩阵

n表示图中的节点数，d表示每个节点的特征维数，

是n个节点的对称邻接矩阵，表示节点间的拓扑结构，当A_ij＝1时表示节点i和节点j之间存在一条边，否则A_ij＝0，表示节点i和节点j之间不存在边，用余弦相似度来获取相似度矩阵

然后为每个节点选择前k个相似节点对设置边，最终得到邻接矩阵A_f，然后得到特征空间中的输入图(X,A_f)；类似地，对于拓扑空间，有原始输入图Gt＝(X_t,A_t)，其中X_t＝X，A_t＝A，用同样地方法获得拓扑空间的输入图(X_t,A_t)；

2)对输入图做图卷积运算：

将输入图分别通过拓扑卷积和特征卷积生成拓扑图和特征图，使X能够在特征图和拓扑图上传播，使用特征空间中的输入图(X,A_f)，第l层输出E_f ^(l)可以表示为：

其中，

是GCN中第l层的权重矩阵，ReLU是ReLU激活函数，且初始

而

是

的对角度矩阵，将嵌入的最后一层输出表示为E_F；

对于拓扑空间，按照与特征空间相同的方式来学习基于拓扑图的最终节点嵌入E_T：

其中，W_t ^(l)是GCN中第l层拓扑卷积的权重矩阵，且初始

因此，提取了原始拓扑空间中的结构信息；

由于拓扑空间和特征空间中的信息具有共同特征，因此设计了一个具有参数共享策略的共同卷积模块，同时提取拓扑空间和特征空间中特定于节点的嵌入和它们的共享公共信息，以学习共同的嵌入E_CT和E_CF，并采用一致性约束L_c来增强E_CT和E_CF的共同特性；

然后将输入图生成两个具体的嵌入：拓扑嵌入和特征嵌入，以及一个共同嵌入；

3)交叉网络：

将对每层l进行建模的单位称为交叉单元，把交叉单元整合到图卷积网络中，使用线性组合为特征建模，学习共享特征，提供端到端的学习框架，并学习给定任务集的最佳线性组合，考虑多任务学习的情况，其中在同一输入中有两个任务A和B，用交叉单元将A和B这两个任务组合成一个多任务网络，从而协调两个任务共享信息的程度；

给定任务A和B分别来自第l层的两个特征x_A和x_B，学习了两个输入特征的线性组合

并组合

作为输入提供给下一层过滤器，使用α参数化此线性组合，在特征的位置(i，j)上：

可以通过将α_AB或α_BA设置为零来决定使某些层做特定的任务，或者通过为它们分配更大的值来选择共享程度更高的表示，在生成的拓扑图和共同图之间使用交叉网络以自适应学习参数；

4)图卷积模块：

在步骤2)和步骤3)运行后，输入图已经经过一次图卷积运算，并在不同任务中重新学习了参数权重，此时输出图要继续通过两层图卷积运算，得到最终的拓扑节点嵌入E_T，特征节点嵌入E_F以及两个共同嵌入E_CT和E_CF，最后再将两个空间的共同为嵌入E_C；

5)带注意力机制的全连接层：

现在，有两个特定的嵌入E_T和E_F，以及一个共同的嵌入E_C，考虑到节点标签可以与其中之一或它们的组合相关，使用注意力机制来学习它们的相应重要性，对各个节点的嵌入进行加权求和，生成最终的嵌入E；

对于共同卷积模块的两个输出嵌入E_CT和E_CF，首先，使用L2归一化将嵌入矩阵E_CT和E_CF归一化为L_CF和L_CT，然后使用两个归一化矩阵点乘来捕获n个节点的相似性S_T和S_F，一致性意味着两个相似性矩阵应该相似，这产生了以下约束：

把输出嵌入E用于具有线性变换和softmax函数的半监督多类分类任务，将n个节点的类预测表示为

将实验数据分为训练集和测试集，假设训练集为L，对于每个l∈L，实际标签为Y_l，而预测标签为

然后，将所有训练节点上的节点分类的交叉熵损失表示为L_t，最终的目标函数是L_c和L_t的线性组合。

Images