CN113128667B - 一种跨域自适应的图卷积平衡迁移学习方法与系统 - Google Patents
一种跨域自适应的图卷积平衡迁移学习方法与系统 Download PDFInfo
- Publication number
- CN113128667B CN113128667B CN202110363771.7A CN202110363771A CN113128667B CN 113128667 B CN113128667 B CN 113128667B CN 202110363771 A CN202110363771 A CN 202110363771A CN 113128667 B CN113128667 B CN 113128667B
- Authority
- CN
- China
- Prior art keywords
- paper data
- node
- domain
- target domain
- source domain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000005096 rolling process Methods 0.000 title claims abstract description 21
- 238000013508 migration Methods 0.000 title claims description 11
- 230000005012 migration Effects 0.000 title claims description 11
- 238000013528 artificial neural network Methods 0.000 claims abstract description 28
- 238000013526 transfer learning Methods 0.000 claims abstract description 19
- 230000007246 mechanism Effects 0.000 claims abstract description 13
- 239000011159 matrix material Substances 0.000 claims description 41
- 230000006870 function Effects 0.000 claims description 19
- 230000003044 adaptive effect Effects 0.000 claims description 15
- 238000013527 convolutional neural network Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000010606 normalization Methods 0.000 claims description 6
- 230000004931 aggregating effect Effects 0.000 claims description 4
- 230000006978 adaptation Effects 0.000 description 6
- 238000003058 natural language processing Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000006855 networking Effects 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000012549 training Methods 0.000 description 3
- 238000010276 construction Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000003012 network analysis Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000006916 protein interaction Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种跨域自适应的图卷积平衡迁移学习方法，包括：将源域数据和目标域数据输入第一图卷积神经网络，分别得到源域数据和目标域数据中节点的局部特征；将源域数据和目标域数据输入第二图卷积神经网络，分别得到源域数据和目标域数据中节点的全局特征；利用注意力机制将源域数据和目标域数据中节点的局部特征和全局特征进行聚合，得到源域数据和目标域数据中节点的统一特征；基于源域数据和目标域数据中节点的统一特征，构建源域分类器和目标域分类器分别对源域数据和目标域数据中节点进行分类，构建领域分类器用于判定节点来自源域数据或者目标域数据。
Description
技术领域
本发明涉及机器学习领域，具体涉及一种跨域自适应的图卷积平衡迁移学习方法与系统。
背景技术
图(Graph)数据包含着十分丰富的关系型信息。从文本、图像这些非结构化数据中进行推理学习，例如句子的依赖树、图像的场景图等，都需要图推理模型。图网络(Graphneural networks)是一种链接主义模型，它靠图中节点之间的信息传递来捕捉图中的依赖关系。近年来，图卷积网络(Graph Convolutional network)在众多领域取得了重大的成功。卷积神经网络(CNN)是GCN起源的首要动机。CNN有能力去抽取多尺度局部空间信息，并将其融合起来构建特征表示。但CNN只能应用于常规的欧几里得数据上(例如二维的图片、一维的文本)，这些形式的数据可以被看成是图的实例化。
在各种图网络应用中，节点分类是一项重要且具有挑战性的任务，如社交网络、蛋白质相互作用网络和引文网络等任务中。在过去的十年中，人们为了开发可靠有效的节点分类方法进行了大量的研究工作。然而，现有的方法大多集中在单个图的节点图表示上，在很大程度上忽视了分类模型向全新图的推广。因此，当收集到新的图时，即使它与现有的图非常相似，我们也必须重新标记图中的节点，并为节点分类任务重建分类器模型。现有的图形数据学习框架的无效对可迁移模型提出了更高的要求，目标是使知识从源图适应到目标图。
领域自适应(Domain adaptive)是指通过最小化域间差异，支持从有足够标签信息的源域到有大量无标签数据的目标域的迁移学习，已经引起了计算机视觉和自然语言处理等领域的广泛关注。然而，将领域自适应应用于网络分析，如跨网络节点分类等，还没有得到充分的研究。无监督图域自适应的目的是利用源网络中丰富的标记信息，为目标网络建立准确的节点分类器。目前，领域自适应的研究大多集中在CV(计算机视觉)和NLP(自然语言处理)领域，不能直接应用于节点分类问题。原因有两方面:首先，这些方法通常是为CV和NLP任务设计的，这些任务中的样本(如图像和序列)是独立的和相同分布的，因此对模型旋转不变性的要求很少。然而，由于图同构现象，网络结构化数据中的节点与表示其关系的边相连，需要具有旋转不变性的模型。因此，现有的方法不能对网络结构信息进行建模，而网络结构信息是节点分类的核心。其次，大多数现有的领域适应模型以监督的方式学习判别表示，其中损失函数的值只与每个单个样本在其特征空间中的绝对位置相关。另外，用于节点分类的网络嵌入通常是通过保持相对位置，以一种无监督的方式学习多用途表示。因此，需要构建跨域自适应的平衡迁移方法，解决无监督节点分类问题。
发明内容
针对应用场景下存在大量多模态无标签感知数据，数据间存在复杂关联和非均衡性的问题，本发明的主要目的在于提出一种跨域自适应的图卷积平衡迁移学习方法与系统，构建基于对偶图卷积的多模数据量化关联方法，表征目标域与源域之间存在的显性或者隐性关联，进行源域和目标域之间数据的关联映射和样本平衡重构，实现基于源域和目标域之间量化关联约束的精准迁移学习。
为了实现上述目的，本发明提出了一种跨域自适应的图卷积平衡迁移学习方法，其包括：
将源域数据和目标域数据输入第一图卷积神经网络，分别得到所述源域数据和所述目标域数据中节点的局部特征；
将所述源域数据和所述目标域数据输入第二图卷积神经网络，分别得到所述源域数据和所述目标域数据中节点的全局特征；
利用注意力机制将所述源域数据和所述目标域数据中节点的局部特征和全局特征进行聚合，得到所述源域数据和所述目标域数据中节点的统一特征；
基于所述源域数据和所述目标域数据中节点的统一特征，构建源域分类器和目标域分类器分别对所述源域数据和所述目标域数据中节点进行分类，构建领域分类器用于判定所述节点来自所述源域数据或者所述目标域数据。
为了实现上述目的，本发明还提出了一种跨域自适应的图卷积平衡迁移学习系统，其包括：
图卷积节点嵌入模块，用于处理输入的源域数据和目标域数据分别得到所述源域数据和所述目标域数据中节点的局部特征和全局特征；
图间注意力模块，用于利用注意力机制将所述源域数据和所述目标域数据中节点的局部特征和全局特征进行聚合，得到所述源域数据和所述目标域数据中节点的统一特征；
领域自适应迁移学习模块，包括源域节点分类器和目标域节点分类器，用于基于所述源域数据和所述目标域数据中节点的统一特征分别对所述源域数据和所述目标域数据中节点进行分类，领域分类器用于判定所述节点来自所述源域数据或者所述目标域数据。
综上，本发明主要通过图卷积神经网络解决图数据局部和全局的一致性关联，通过注意力机制解决全局信息和局部信息结合的问题，通过领域自适应迁移解决目标域网络中信息的使用问题，同时构建联合损失函数反向传播优化整个模型。
附图说明
图1为本发明一实施例的跨域自适应的图卷积平衡迁移学习方法的流程图。
图2为本发明一实施例的跨域自适应的图卷积平衡迁移学习系统的框架示意图。
图3为图数据结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图，对本发明提出的跨域自适应的图卷积平衡迁移学习方法与系统作进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
本发明的实施例提出一种跨域自适应的图卷积平衡迁移学习方法与系统，通过建模图上局部和全局一致性关联，组合源域信息,目标域信息和域间信息到一个统一的深度学习框架中解决跨域图网络节点分类问题。其中，在数据结构层面，在训练节点嵌入时，使用一个对偶图卷积网络元素捕捉图的局部和全局一致性关联，保证源域和目标域的节点嵌入考虑到足够多的信息，使得节点特征表示更加鲁棒；在表达学习层面，提出一种图间注意力机制，用于整合局部和整体信息表示，自动计算局部和整体信息的重要性并对其加权整合得到更加强泛化能力的特征表示；在领域自适应学习层面，本发明提出一种自适应学习方法联合利用源域信息,目标域信息和域间信息，有效地学习领域不变性和语义表示，实现图知识在源域到目标域的迁移。
参见图3所示，图是信息的最佳表示方式，在一个图中有通过边(“关系”)连接起来的节点(“实体”)。一张图可以表示为G＝(V,E,X,Y)，其中V＝vi}i＝1,…,N为图中节点的顶点集，ei,j＝(vi,vj)∈E表示第i个顶点和第j个顶点之间存在一条边关系。图的拓扑结构能够用邻接矩阵A表示，其中Ai,j＝1,(vi,vj)∈E，否则Ai,j＝0。xi∈X表示第i个节点的特征属性，表示图G的节点标签(label)，C为节点的标签个数。
本发明实施例中的图输入分别来源于源域和目标域，源域的图Gs＝Vs,Es,Xs,Ys)是有监督的图数据，其中表示每个节点的标签类别。目标域的图Gt＝(Vt,Et,Xt)是无监督的图数据，没有标定好的表示节点标签的Yt。因此，本发明主要解决的问题为无监督节点分类，无监督域自适应节点分类问题即给定一个无标签的目标域网络Gt和一个有标签的源域网络Gs，跨域节点分类是建立一个分类器f，用有标签的源域网络数据信息辅助在目标域上构建机器学习网络模型。
参见图1及图2所示，本发明实施例的一种跨域自适应的图卷积平衡迁移学习方法与系统。其中该方法包括：
步骤S100、将源域数据和目标域数据输入第一图卷积神经网络，分别得到源域数据和目标域数据中节点的局部特征。
具体地，在本实施例中，根据源域数据和目标域数据中节点及相邻节点之间的边关系，分别得到源域和目标域数据中节点的邻接矩阵；利用源域数据和目标域数据中节点的邻接矩阵来构建第一图卷积神经网络来生成包含局部特征的嵌入矩阵和/>其中，嵌入矩阵/>和/>表示用户节点与其局部相邻节点的关联关系。可选地，第一图卷积神经网络可使用两隐层的GCN网络，隐层节点结构可分别为128、16，从而该网络的第i层输出计算公式如下所示：
其中，Z(0)＝X，X表示图的特征矩阵，A表示图的邻接矩阵，得到包含局部特征的嵌入矩阵和/>分别表示源域数据和目标域数据中节点的嵌入矩阵。
步骤S200、将源域数据和目标域数据输入第二图卷积神经网络，分别得到源域数据和目标域数据中节点的全局特征。
具体地，在本实施例中，基于点互信息矩阵(Point-wise mutual informationmatrix)卷积方法对源域数据和目标域数据的全局信息进行编码，得到编码结果；利用编码结果构建第二图卷积神经网络生成包含全局特征的嵌入矩阵和/>其中，/>和/>表示用户节点与全局节点的关联关系。可选地，第二图卷积神经网络使用和第一图卷积神经网络相同的GCN网络，则该网络的第i层输出计算公式如下所示：
其中，Di,i＝∑jPi,jZ(0)＝X，得到包含全局信息的嵌入矩阵和/>分别表示源域数据和目标域数据中节点的嵌入矩阵。
步骤S300、利用注意力机制将源域数据和目标域数据中节点的局部特征和全局特征进行聚合，得到源域数据和目标域数据中节点的统一特征。本步骤能够整合两个对偶的图卷积神经网络(第一、第二图卷积神经网络)之间的节点嵌入矩阵，根据全局特征和局部特征的侧重点不同，生成有效的整体节点表示。
具体地，在本实施例中，以源域数据和目标域数据中节点的特征属性Xs,Xt作为所述注意力机制的关键，利用嵌入矩阵和/>计算注意力系数/>和/>计算公式如下所示：
其中k∈{s,t}，J是共享权值矩阵，Xk与具有相同的维数；
使用softmax层对注意力系数进行归一化处理，计算公式如下所示：
利用嵌入矩阵及归一化处理后的注意力系数/>和/>计算包含统一特征的嵌入矩阵Zs和Zt，Zs和Zt分别表示源域数据和目标域数据中节点的嵌入矩阵，计算公式如下所示：
步骤S400、基于源域数据和目标域数据中节点的统一特征，构建源域节点分类器和目标域节点分类器分别对源域数据和目标域数据中节点进行分类，构建领域分类器用于判定节点来自源域数据或者目标域数据。
具体地，在本实施例中，构建三个分类器即源域分类器、目标域分类器和领域分类器分别对源域数据节点分类，目标域数据节点分类和领域分类进行判定，并得到其相应的损失。其中，源域分类器采用交叉熵损失函数，计算分类的损失；目标域分类器由于没有标签信息，采用信息熵损失函数计算损失；领域分类器用于判断该节点表示来自源域还是目标域，对该损失添加惩罚因子能够使得两个网络的特征表达分布更加接近，在对抗训练中使用梯度反转层(gradientreversal layer，GRL)模块构建，采用交叉熵损失函数。对目标域分类损失和领域分类损失分别添加惩罚因子，构建联合损失函数。
具体地，基于源域分类器对源域数据中节点进行分类，并采用交叉熵损失函数LS计算损失。
其中，yi和分别表示源域数据中第i个节点的标签和预测类别，fS表示源域分类器。
基于目标域分类器对目标域数据中节点进行分类，并采用熵损失函数LT计算损失。
其中，表示目标域数据中第i个节点的预测类别，ft表示目标域分类器。
基于领域分类器用于判断节点来自源域还是目标域，使得第一、第二图卷积神经网络的特征表达分布更加接近，并且在对抗训练中使用GRL模块，采用交叉熵损失函数LDA计算损失。
其中，mi表示节点的领域，表示节点的预测领域。
利用LS、LT和LDA构建联合损失函数L并通过反向传播算法对整个方法进行优化。上述步骤中对源域数据和目标域数据构建了端到端的神经网络，在领域自适应的基础上实现节点分类应用，最后的损失联合优化方案保证了跨域节点分类的准确率，通过标准的反向传播算法优化联合损失优化参数，直到目标函数收敛，从而得到目标域分类器。
L(Zs,Ys,Zt)＝LS(Zs,Ys)+γ1LDA(Zs,Zt)+γ2LT(Zt)
其中，γ1和γ2表示权重因子。可选地，在应用中，γ1和γ2可分别1和0.8。
以下为与上述方法实施例对应的系统实施例，本实施例的系统可与上述实施例的方法互相配合实施。上述实施方式中提到的相关技术细节在本实施例的系统中依然有效，为了减少重复，在此不再赘述。
参见图2所示，本发明实施例的一种跨域自适应的图卷积平衡迁移学习系统包括：图卷积节点嵌入模块10，用于处理输入的源域数据和目标域数据分别得到源域数据和目标域数据中节点的局部特征和全局特征；图间注意力模块20，用于利用注意力机制将源域数据和目标域数据中节点的局部特征和全局特征进行聚合，得到源域数据和目标域数据中节点的统一特征；领域自适应迁移学习模块30，包括源域分类器和目标域分类器，用于基于源域数据和目标域数据中节点的统一特征分别对源域数据和目标域数据中节点进行分类，领域分类器用于判定节点来自源域数据或者目标域数据。
于一实施方式中，图卷积节点嵌入模块包括：第一图卷积神经网络，用于处理输入的源域数据和目标域数据分别得到源域数据和目标域数据中节点的局部特征；第二图卷积神经网络，用于处理输入的源域数据和目标域数据分别得到源域数据和目标域数据中节点的全局特征。
于一实施方式中，根据源域数据和目标域数据中节点及相邻节点之间的边关系得到节点的邻接矩阵；利用源域数据和目标域数据中节点的邻接矩阵构建第一图卷积神经网络生成包含局部特征的嵌入矩阵和/>
于一实施方式中，基于点互信息矩阵卷积方法对源域数据和目标域数据的全局信息进行编码，得到编码结果；利用编码结果构建第二图卷积神经网络生成包含全局特征的嵌入矩阵和/>
于一实施方式中，图间注意力模块包括：
注意力系数计算子模块，用于以源域数据和目标域数据中节点的特征属性Xs,Xt作为注意力机制的关键，利用嵌入矩阵和/>计算注意力系数/>和/>
其中k∈{s,t}，J是共享权值矩阵，Xk与具有相同的维数；
归一化子模块，用于对注意力系数进行归一化处理，
统一特征计算子模块，用于利用嵌入矩阵和/>和归一化处理后的注意力系数/>和/>计算包含统一特征的嵌入矩阵Zs和Zt，
于一实施方式中，领域自适应迁移学习模块还用于：
基于源域分类器、目标域分类器和领域分类器计算其对应的损失函数LS、LT和LDA；
利用LS、LT和LDA构建联合损失函数L并通过反向传播算法对系统进行优化；
其中，yi和/>分别表示源域数据中第i个节点的标签和预测类别，fS表示源域分类器；/> 表示目标域数据中第i个节点的预测类别，ft表示目标域分类器；mi表示节点的领域，表示节点的预测领域；L(Zs,Ys,Zt)＝LS(Zs,Ys)+γ1LDA(Zs,Zt)+γ2LT(Zt)，γ1和γ2表示权重因子。
为了进一步验证本发明提出的跨域自适应的图卷积平衡迁移学习方法与系统的有效性以及说明本发明的使用方法，发明人以节点分类为例进行了实验。实验采用ACM的2000-2010年论文数据集和DBLP中2010年之后的论文分别作为源域和目标域，其中图构建采用无向图，每条边表示两篇论文间的引用关系。按照论文的题目、分为数据库、数据挖掘、人工智能、计算机视觉、信息安全和高性能计算六种类别。选择DNN(深度神经网络)和GCN(图卷积神经网络)的方法作为节点分类任务的对比实验，实验结果即目标域的节点分类准确率如下表1所示：
表1
| 方法 | ACM→DBLP | DBLP→ACM |
| DNN | 0.4279 | 0.5904 |
| GCN | 0.6486 | 0.6945 |
| 本发明 | 0.7963 | 0.7617 |
由表1的实验数据表明，以ACM数据集为源域，以DBLP数据集为目标域构建迁移学习，本发明方法的准确率达到0.7963，高于其他两种方法；以DBLP数据集为源域，以ACM数据集为目标域，本发明方法的准确率达到0.7617，同样优于其他两种方法。
Claims (7)
1.一种跨域自适应的图卷积平衡迁移学习方法，其特征在于，包括：
将源域论文数据和目标域论文数据输入第一图卷积神经网络，分别得到所述源域论文数据和所述目标域论文数据中节点论文的局部特征；
将所述源域论文数据和所述目标域论文数据输入第二图卷积神经网络，分别得到所述源域论文数据和所述目标域论文数据中节点论文的全局特征；
利用注意力机制将所述源域论文数据和所述目标域论文数据中节点论文的局部特征和全局特征进行聚合，得到所述源域论文数据和所述目标域论文数据中节点论文的统一特征；
基于所述源域论文数据和所述目标域论文数据中节点论文的统一特征，构建源域分类器和目标域分类器分别对所述源域论文数据和所述目标域论文数据中节点论文进行分类，构建领域分类器用于判定所述节点论文来自所述源域论文数据或者所述目标域论文数据；
所述利用注意力机制将所述源域论文数据和所述目标域论文数据中节点论文的局部特征和全局特征进行整合，得到所述源域论文数据和所述目标域论文数据中节点论文的统一特征包括：
以所述源域论文数据和所述目标域论文数据中节点论文的特征属性Xs,Xt作为所述注意力机制的关键，利用所述局部特征的嵌入矩阵和所述全局特征的嵌入矩阵计算注意力系数/>和/>
其中k∈{s,t}，J是共享权值矩阵，使得Xk与具有相同的维数；
对所述注意力系数进行归一化处理，
利用所述局部特征的嵌入矩阵与所述全局特征的嵌入矩阵/>和归一化处理后的所述注意力系数/>和/>计算包含所述统一特征的嵌入矩阵Zs和Zt，
基于所述源域分类器、所述目标域分类器和所述领域分类器计算其对应的损失函数LS、LT和LDA；
利用所述损失函数LS、LT和LDA构建联合损失函数L并通过反向传播算法对所述方法进行优化；
其中，yi和/>分别表示源域论文数据中第i个节点论文的标签和预测类别，fS表示源域分类器，Ys表示节点的标签类别； 表示目标域论文数据中第i个节点论文的预测类别，ft表示目标域分类器；/> mi表示节点论文的领域，/>表示节点论文的预测领域，NS表示源域图节点的个数，Nt表示目标域图节点的个数；L(Zs,Ys,Zt)＝LS(Zs,Ys)+γ1LDA(Zs,Zt)+γ2LT(Zt)，γ1和γ2表示权重因子。
2.如权利要求1所述的跨域自适应的图卷积平衡迁移学习方法，其特征在于，所述将源域论文数据和目标域论文数据输入第一图卷积神经网络层，分别得到所述源域论文数据和所述目标域论文数据中节点论文的局部特征包括：
根据所述源域论文数据和所述目标域论文数据中节点论文及相邻节点论文之间的边关系得到所述节点论文的邻接矩阵；
利用所述源域论文数据和所述目标域论文数据中节点论文的邻接矩阵构建所述第一图卷积神经网络，生成包含所述局部特征的嵌入矩阵和/>
3.如权利要求2所述的跨域自适应的图卷积平衡迁移学习方法，其特征在于，所述将所述源域论文数据和所述目标域论文数据输入第二图卷积神经网络，分别得到所述源域论文数据和所述目标域论文数据中节点论文的全局特征包括：
基于点互信息矩阵卷积方法对所述源域论文数据和所述目标域论文数据的全局信息进行编码，得到编码结果；
利用所述编码结果构建所述第二图卷积神经网络生成包含所述全局特征的嵌入矩阵和/>
4.一种跨域自适应的图卷积平衡迁移学习系统，其特征在于，包括：
图卷积节点嵌入模块，用于处理输入的源域论文数据和目标域论文数据分别得到所述源域论文数据和所述目标域论文数据中节点论文的局部特征和全局特征；
图间注意力模块，用于利用注意力机制将所述源域论文数据和所述目标域论文数据中节点论文的局部特征和全局特征进行聚合，得到所述源域论文数据和所述目标域论文数据中节点论文的统一特征；
领域自适应迁移学习模块，包括源域分类器和目标域分类器，用于基于所述源域论文数据和所述目标域论文数据中节点论文的统一特征分别对所述源域论文数据和所述目标域论文数据中节点论文进行分类，领域分类器用于判定所述节点论文来自所述源域论文数据或者所述目标域论文数据；
所述图间注意力模块包括：
注意力系数计算子模块，用于以所述源域论文数据和所述目标域论文数据中节点论文的特征属性Xs,Xt作为所述注意力机制的关键，利用所述局部特征的嵌入矩阵和所述全局特征的嵌入矩阵/>计算注意力系数/>和/>
其中k∈{s,t}，J是共享权值矩阵，使得Xk与具有相同的维数；
归一化子模块，用于对所述注意力系数进行归一化处理，
统一特征计算子模块，用于利用所述局部特征的嵌入矩阵与所述全局特征的嵌入矩阵/>和归一化处理后的所述注意力系数/>和/>计算包含所述统一特征的嵌入矩阵Zs和Zt，
所述领域自适应迁移学习模块还用于：
基于所述源域分类器、所述目标域分类器和所述领域分类器计算其对应的损失函数LS、LT和LDA；
利用所述损失函数LS、LT和LDA构建联合损失函数L并通过反向传播算法对所述系统进行优化；
其中，yi和/>分别表示源域论文数据中第i个节点论文的标签和预测类别，fS表示源域分类器，Ys表示节点的标签类别； 表示目标域论文数据中第i个节点论文的预测类别，ft表示目标域分类器；/> mi表示节点论文的领域，/>表示节点论文的预测领域，NS表示源域图节点的个数，Nt表示目标域图节点的个数；L(Zs,Ys,Zt)＝LS(Zs,Ys)+γ1LDA(Zs,Zt)+γ2LT(Zt)，γ1和γ2表示权重因子。
5.如权利要求4所述跨域自适应的图卷积平衡迁移学习系统，其特征在于，所述图卷积节点嵌入模块包括：
第一图卷积神经网络，用于处理输入的所述源域论文数据和所述目标域论文数据分别得到所述源域论文数据和所述目标域论文数据中节点论文的局部特征；
第二图卷积神经网络，用于处理输入的所述源域论文数据和所述目标域论文数据分别得到所述源域论文数据和所述目标域论文数据中节点论文的全局特征。
6.如权利要求5所述跨域自适应的图卷积平衡迁移学习系统，其特征在于，
根据所述源域论文数据和所述目标域论文数据中节点论文及相邻节点论文之间的边关系得到所述节点论文的邻接矩阵；
利用所述源域论文数据和所述目标域论文数据中节点论文的邻接矩阵构建所述第一图卷积神经网络生成包含所述局部特征的嵌入矩阵和/>
7.如权利要求6所述跨域自适应的图卷积平衡迁移学习系统，其特征在于，
基于点互信息矩阵卷积方法对所述源域论文数据和所述目标域论文数据的全局信息进行编码，得到编码结果；
利用所述编码结果构建所述第二图卷积神经网络生成包含所述全局特征的嵌入矩阵和/>
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110363771.7A CN113128667B (zh) | 2021-04-02 | 2021-04-02 | 一种跨域自适应的图卷积平衡迁移学习方法与系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110363771.7A CN113128667B (zh) | 2021-04-02 | 2021-04-02 | 一种跨域自适应的图卷积平衡迁移学习方法与系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113128667A CN113128667A (zh) | 2021-07-16 |
| CN113128667B true CN113128667B (zh) | 2023-10-31 |
Family
ID=76774759
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110363771.7A Active CN113128667B (zh) | 2021-04-02 | 2021-04-02 | 一种跨域自适应的图卷积平衡迁移学习方法与系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113128667B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113642499B (zh) * | 2021-08-23 | 2024-05-24 | 中国人民解放军火箭军工程大学 | 基于计算机视觉的人体行为识别方法 |
| CN116704363B (zh) * | 2023-05-22 | 2024-01-26 | 中国地质大学（武汉） | 一种基于深度学习模型的土地覆盖分类方法及装置 |
| CN118246453B (zh) * | 2024-05-20 | 2024-07-26 | 昆明理工大学 | 基于图卷积的嵌套实体识别模型及其构建方法、存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110111337A (zh) * | 2019-04-16 | 2019-08-09 | 中山大学 | 一种基于图迁移学习的通用人体解析框架及其解析方法 |
| CN110415215A (zh) * | 2019-06-27 | 2019-11-05 | 同济大学 | 基于图神经网络的智能检测方法 |
| CN110880019A (zh) * | 2019-10-30 | 2020-03-13 | 北京中科研究院 | 通过无监督域适应训练目标域分类模型的方法 |
| CN111259941A (zh) * | 2020-01-10 | 2020-06-09 | 中国科学院计算技术研究所 | 基于细粒度领域自适应的跨领域图像分类方法及系统 |
| CN111700608A (zh) * | 2020-07-24 | 2020-09-25 | 武汉中旗生物医疗电子有限公司 | 一种心电信号多分类方法及装置 |
| WO2021028656A1 (en) * | 2019-08-15 | 2021-02-18 | Vision Semantics Limited | Text based image search |
-
2021
- 2021-04-02 CN CN202110363771.7A patent/CN113128667B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110111337A (zh) * | 2019-04-16 | 2019-08-09 | 中山大学 | 一种基于图迁移学习的通用人体解析框架及其解析方法 |
| CN110415215A (zh) * | 2019-06-27 | 2019-11-05 | 同济大学 | 基于图神经网络的智能检测方法 |
| WO2021028656A1 (en) * | 2019-08-15 | 2021-02-18 | Vision Semantics Limited | Text based image search |
| CN110880019A (zh) * | 2019-10-30 | 2020-03-13 | 北京中科研究院 | 通过无监督域适应训练目标域分类模型的方法 |
| CN111259941A (zh) * | 2020-01-10 | 2020-06-09 | 中国科学院计算技术研究所 | 基于细粒度领域自适应的跨领域图像分类方法及系统 |
| CN111700608A (zh) * | 2020-07-24 | 2020-09-25 | 武汉中旗生物医疗电子有限公司 | 一种心电信号多分类方法及装置 |
Non-Patent Citations (1)
| Title |
|---|
| 基于多注意力图的孪生网络视觉目标跟踪;齐天卉;张辉;李嘉锋;卓力;;信号处理;第36卷(第09期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113128667A (zh) | 2021-07-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN111488734B (zh) | 基于全局交互和句法依赖的情感特征表示学习系统及方法 | |
| CN112529168B (zh) | 一种基于gcn的属性多层网络表示学习方法 | |
| CN113128667B (zh) | 一种跨域自适应的图卷积平衡迁移学习方法与系统 | |
| Wang et al. | Learning to combine: Knowledge aggregation for multi-source domain adaptation | |
| CN111046907B (zh) | 一种基于多头注意力机制的半监督卷积网络嵌入方法 | |
| CN109389151B (zh) | 一种基于半监督嵌入表示模型的知识图谱处理方法和装置 | |
| CN110413844A (zh) | 基于时空注意力深度模型的动态链路预测方法 | |
| He et al. | A novel hybrid ensemble model based on tree-based method and deep learning method for default prediction | |
| Li et al. | Image sentiment prediction based on textual descriptions with adjective noun pairs | |
| CN112100485B (zh) | 一种基于评论的评分预测物品推荐方法及系统 | |
| Li et al. | Improve relation extraction with dual attention-guided graph convolutional networks | |
| CN113240086B (zh) | 一种复杂网络链接预测方法及系统 | |
| CN113761250A (zh) | 模型训练方法、商户分类方法及装置 | |
| CN115858788A (zh) | 基于双重图卷积神经网络的视角级文本情感分类系统 | |
| CN113065649A (zh) | 一种复杂网络拓扑图表示学习方法、预测方法及服务器 | |
| CN113050931A (zh) | 一种基于图注意力机制的符号网络链路预测方法 | |
| CN116757460B (zh) | 基于深度学习的应急指挥调度平台构建方法及系统 | |
| Wu et al. | Estimating fund-raising performance for start-up projects from a market graph perspective | |
| CN112183464A (zh) | 基于深度神经网络和图卷积网络的视频行人识别方法 | |
| CN117349437A (zh) | 基于智能ai的政府信息管理系统及其方法 | |
| CN115631504A (zh) | 一种基于双模态图网络信息瓶颈的情感识别方法 | |
| CN117194771B (zh) | 一种图模型表征学习的动态知识图谱服务推荐方法 | |
| Zhang et al. | Bilinear graph neural network-enhanced Web services classification | |
| CN117172235A (zh) | 基于相似度度量的类案判别方法及系统 | |
| Yuan et al. | Sign prediction on unlabeled social networks using branch and bound optimized transfer learning |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |