CN111222049A - 语义增强的异构信息网络上Top-k相似度搜索方法 - Google Patents

Abstract

本发明属于大数据信息检索技术领域，涉及语义增强的异构信息网络上Top‑k相似度搜索方法，包括如下步骤：步骤1：节点表示。使用预训练方法生成异构信息网络数据集中所有节点的内容和结构表示。步骤2：路径表示。步骤3：设计注意力层以结合两个卷积神经网络通道训练得到的内容和结构信息，步骤4：通过将以上综合表示CS输入MLP中，步骤5：使用对数损失函数训练模型。本发明模型利用卷积神经网络的两个通道同时分别训练内容信息和结构信息，并且采用了两种注意力机制，用于动态的区分不同元路径的语义差异性以及结合对象的内容和结构信息进行模型的综合训练。

Description

语义增强的异构信息网络上Top-k相似度搜索方法

技术领域

本发明属于大数据信息检索技术领域，涉及语义增强的异构信息网络上 Top-k相似度搜索方法，具体为一种异构信息网络下支持相似性搜索的神经网络 模型设计方法，以应对大数据信息检索的挑战。

背景技术

异构信息网络是包含多种类型节点和节点之间关系边的逻辑网络，定义在 其上的元路径包含了丰富的语义信息。近几年，异构信息网络上的数据挖掘任 务引起了工业界和学术界的广泛关注，其中网络上对象的相似性搜索是一个关 键技术。异构信息网络上的Top-k相似性搜索侧重于通过评估这些节点之间的相 似度来获得一组相关节点。

当前已有大量的相关研究：

在异构信息网络上对对象节点进行表示学习，通过计算向量距离计算节点 相似度。Yuxiao Dong等在KDD 2017发表了论文《metapath2vec:Scalable RepresentationLearning for Heterogeneous Networks》，提出模型对同构网络表示 学习方法DeepWalk改进，通过随机游走实现了异构信息网络上的节点嵌入方 法。王等在WWW 2019发表论文《Heterogeneous Graph Attention Network》，提 出异构图神经网络模型HAN，HAN使用节点级注意力和语义级注意力，通过语 义级注意力来区分元路径来获取语义信息。张等在KDD 2019上发表论文 《Heterogeneous Graph Neural Network》提出的模型HetGNN也使用了注意力机 制，根据节点丰富的内容信息和在异构信息网络中的结构信息对不同类型的节 点进行统一的网络表示学习。

推荐任务以度量对象的相似度实现用户-对象/用户/…的推荐。胡等在KDD 2018发表《Leveraging Meta-path based Context for Top-N Recommendation with ANeural Co-Attention Model》，提出具有共同注意机制的深度神经网络模型 MCRec。利用丰富的基于元路径的上下文捕获用户和商品之间的相似性，实现 对用户进行Top-k相似商品的推荐。

搜索任务中通过对象的相似性度量实现k个最相似对象的搜索。孙等在 VLDBEndowment上发表论文《PathSim:Meta Path Based Top-K Similarity Search inHeterogeneous Information Networks》利用元路径来解决相似性搜索问题，通 过考虑顶点之间的可达性和可见性来定义两个同类型对象之间的相似性。石等 在IEEE TKDE上发表了《HeteSim:A General Framework for Relevance Measure in HeterogeneousNetworks》。HeteSim作为PathSim的扩展，可以度量不同类型对 象的相似性。Pham等的《W-PathSim:Novel Approach of Weighted Similarity Measure in Content-BasedHeterogeneous Information Networks by Applying LDA Topic Modeling》利用主题的加权余弦相似度对PathSim提出了另一种改进。

异构信息网络上的对象节点在不同的元路径语义下有不同的结构特征，同 时对象本身还具有特定的内容信息。以上方法或者使用单一的元路径训练模型， 不能捕获丰富的元路径语义信息，或者虽然结合多条元路径却无法根据训练的 目标动态调整语义结构，上面提出的部分网络表示学习的方法虽然考虑内容和 结构信息，但它们均是首先根据节点的内容信息对节点嵌入，在此基础上，将 内容嵌入结果作为初始值，继续进行结构上的训练。这些方法存在的问题是节 点嵌入向量中的内容信息会随着之后结构嵌入训练而逐渐削弱甚至消失。因此， 如何解决以上问题，提出能够捕获对象的内容信息和结构信息并整合多条元路 径下语义的模型是一个需要解决的巨大挑战。

发明内容

为克服以上提出的问题，本发明设计一种用于在异构信息网络上进行对象 Top-k相似性搜索的双通道卷积神经网络模型。

已知整个异构信息网络的结构和网络中每个节点对应的文本描述信息，模 型输出每个节点与其它节点的相似度。本发明设计的模型基于双通道卷积神经 网络来整合内容信息和结构信息，以下步骤1和步骤2中进行的操作均在内容 信息处理通道和结构信息处理通道中同步进行。

本发明的技术方案如下：

语义增强的异构信息网络上Top-k相似度搜索方法，包括如下步骤：

步骤1：节点表示。使用预训练方法生成异构信息网络数据集中所有节点的 内容和结构表示。由于节点具有内容信息和结构信息，如图1所示，内容信息 指节点的文字描述、图像、标签等信息。结构信息是指网络上节点与他人的连 接关系。

具体操作包括以下两部分：

1-1)使用自然语言处理领域的模型预训练得到节点的内容表示

其中A是A类型节点的数目，d₁是节点的内容嵌入维度。

1-2)在指定不同语义的r条元路径下分别使用基于异构网络的网络表示学 习训练模型，最后得到节点的结构表示

其中d₂为节点结构嵌入 维数。

是对应元路径p_i下的嵌入结果，i∈{1，…，r}。

步骤2：路径表示。为了捕获两个待度量相似度的节点之间的元路径所具有 的丰富语义特性，并且保留节点的结构特征和内容特征，为连接两者的元路径 p_i分别生成一个内容表示向量

和一个结构表示向量

并通过注意力机制 整合多条元路径，具体步骤如下：

2-1)对节点进行内容和结构的集成嵌入。如图2所示的模型架构，将节点 在r条元路径下的嵌入表示输入全连接神经网络层，分别得到节点的结构表示 β^s，内容表示β^c以及综合表示β^s+c。

2-2)为了捕获两个节点之间元路径蕴含的丰富的语义信息，模型以路径实 例作为输入。如图3所示，以度量相似度的节点a₁和a₂为端点，在指定的元路径 上对路径进行采样，得到路径实例p_i,j，其中i指元路径编号，j指路径实例编号。 根据相邻节点间边的参数，使用对称随机游走(SRW)来获得路径实例的权重，舍 弃了一些权重较低的路径实例。

2-3)将路径实例p_i,j上的节点用α^c和α^s进行表示，分别通过卷积层进行嵌 入得到路径实例的内容表示

和结构表示

其中i∈{1,…,r}，j∈{1,…,t}代 表元路径和路径实例的编号。之后，通过池化层获得每个元路径的内容表示

和 结构表示

本部分模型结构见图4。

2-4)为了同时整合多条元路径所蕴含的语义信息并动态调整不同元路径的 重要程度，设计元路径间的注意力机制，如图5所示。对于目标节点a_m，元路 径p_i对于它的重要程度得分为：

其中

W₁，W₂是模型参数，

是元路径p_i的内容表示和结构表 示。

将计算得到的不同元路径对于节点a_m的重要程度得分score(a_m,p_i)输入 softmax层进行归一化处理，得到元路径p_i的注意力权重。计算方法为：

其中a_m和a_n是待度量相似度的两个对象节点。

根据注意力权重

计算两个节点之间的综合语义表示：

其中，

包含了两个节点间的内容综合表示和结构综合表示。

以上步骤1和步骤2实现了内容信息和结构信息两个通道的训练，每个通 道完整的模型架构见图6。

步骤3：设计注意力层以结合两个卷积神经网络通道训练得到的内容和结构 信息，模型框架如图7所示。具体操作如下：

3-1)计算内容信息的注意力得分：

3-2)计算结构信息的注意力得分：

以上

W₃，W₄均为模型参数。

3-3)计算内容信息表示的注意力权重：

3-4)计算结构信息表示的注意力权重：

3-5)计算整合内容信息和结构信息的两个节点间信息综合表示：

其中

表示连接操作，即连接两个加权后的向量。将内容信息表示和结构 信息表示分别与注意力权重相乘后连接起来，与直接将它们加权求和相比，此 功能可以有效地帮助我们减少信息丢失。

步骤4：通过将以上综合表示CS输入MLP(Multi-Layer Perceptron，多层感 知器)中，输出两个节点间的相似度打分，即：

y_m,n＝sigmoid[f(CS)]

其中f是具有两个全连接层，激活函数为ReLU的MLP，其输出送入sigmoid 层中以获得最终相似度打分。

以上步骤构成了模型的完整架构，模型由输入到输出的整体架构如图8所 示。

步骤5：使用对数损失函数训练模型。在给定元路径条件下，相似节点之间 应具有更多路径实例，并且它们的相似度得分y_m,n大于其他节点。这里使用负采 样，采集没有路径实例相连接的节点对作为负样本。

将相似节点对分数设置为1，将不相似节点对分数设置为0，模型训练目标 函数表述为：

其中y_i是模型是输出变量，N⁺是正样本集，N^-是负样本集，ρ_i是预测的输 入实例相似的概率。

本发明的有益效果：

本发明模型利用卷积神经网络的两个通道同时分别训练内容信息和结构信 息，并且采用了两种注意力机制，用于动态的区分不同元路径的语义差异性以 及结合对象的内容和结构信息进行模型的综合训练。

附图说明

图1为本发明技术方案中节点结构信息表示和内容信息表示的说明图。其 中：图1(a)为本发明技术方案中节点结构信息表示的说明图。图1(b)为本 发明技术方案中节点内容信息表示的说明图。

图2为本发明技术方案中对节点集成嵌入的结构图。

图3为本发明技术方案中模型数据输入的设计图。

图4为本发明技术方案中每条通道内每个元路径的表示框架。

图5为本发明技术方案中元路径间的注意力机制。

图6为本发明技术方案中每个通道的模型架构。

图7为本发明技术方案中利用注意机制结合内容和结构信息的结构图。

图8为本发明技术方案设计模型的整体架构图。

图9为本发明实施例中提出的模型与其它模型在不同搜索数量下结果比较 图。

具体实施方式

本发明设计一种用于在异构信息网络上进行对象Top-k相似性搜索的双通 道卷积神经网络模型。为了使本发明的目的、技术方案及优势更加清晰，下面 结合学术社交网络(包含节点类型有作者a，论文p，会议v)，设计元路径包括 a-p-v-p-a(两个作者的论文在同一个会议上发表)和a-p-a(两个作者同时参与 撰写一篇论文)，度量两个作者之间的相似度，完成为作者搜索与他最相似的k 名作者的任务。

参考附图和具体实施例对本发明做进一步详细说明：

步骤1：节点表示。使用预训练方法生成异构信息网络数据集中所有节点的 内容和结构表示。由于节点具有内容信息和结构信息，内容信息指节点的文字 描述，图像，标签等信息。结构信息是指网络上节点与他人的连接关系。具体 操作包括以下两部分：

1-1)使用Doc2vec(一种用于获取句子的向量表示的非监督式算法，是 word2vec的拓展)训练节点的文本描述信息，得到节点的内容表示

其中A是A类型节点的数目，设置节点的内容嵌入维度为128。

1-2)在元路径a-p-v-p-a和a-p-a下分别使metapath2vec++训练学术社交网 络图，得到节点的结构表示

这里设置节点结构嵌入维数为128。

是对应元路径a-p-a下的嵌入结果，

是对应元路径a-p-v-p-a下的嵌入结果。

步骤2：路径表示。为了捕获两个待度量相似度的作者之间的元路径所具有 的丰富语义特性，并且保留节点的结构特征和内容特征，为连接两者的元路径 p_apa和p_apvpa分别生成内容表示向量

和结构表示向量

并通过 注意力机制整合多条元路径，具体步骤如下：

2-1)对节点进行内容和结构的集成嵌入。将

和

输入全连接神经网 络层D₁，得到节点的结构表示β^s。将α^c输入全连接神经网络层D₂，得到内容表 示β^c。将

α^c输入全连接神经网络层D₃，得到β^s+c。

2-2)模型以路径实例作为输入。以度量相似度的节点a₁和a₂为端点，在指 定的元路径上对路径进行采样，得到路径实例p_apa,j和p_apvpa,j，其中j指路径实例 编号。根据相邻节点间边的参数，使用对称随机游走(SRW)来获得路径实例的权 重，舍弃了一些权重较低的路径实例。

2-3)将路径实例p_apa,j上的节点用α^c和

进行表示，将路径实例p_apvpa,j上的 节点用α^c和

进行表示，分别通过卷积层进行嵌入得到路径实例的内容表示

和结构表示

其中j∈{1,…,t}代表路径实例的编号。之 后，通过池化层获得元路径的内容表示

和结构表示

2-4)设计元路径间的注意力机制动态调整不同元路径的重要程度。对于目 标节点a_m，元路径p_apa对于它的重要程度得分为：

元路径p_apvpa对于它的重要程度得分为：

其中

W₁，W₂是模型参数，

是元路径的内容表示和结构表示。

将计算得到的不同元路径对于节点a_m的重要程度得分score(a_m,p_apa)和 score(a_m,p_apvpa)输入softmax层进行归一化处理，得到元路径的注意力权重。计算 方法为：

其中a_m和a_n是待度量相似度的两个对象节点。

根据注意力权重计算两个节点之间的综合语义表示：

其中，

包含了两个节点间的内容综合表示和结构综合表示。

步骤3：设计注意力层以结合内容和结构信息。具体操作如下：

3-1)计算内容信息的注意力得分：

3-2)计算结构信息的注意力得分：

以上

W₃，W₄均为模型参数。

3-3)计算内容信息表示的注意力权重：

3-4)计算结构信息表示的注意力权重：

3-5)计算整合内容信息和结构信息的两个节点间信息综合表示：

其中

表示连接操作，即连接两个加权后的向量。将内容信息表示和结构 信息表示分别与注意力权重相乘后连接起来，与直接将它们加权求和相比，此 功能可以有效地帮助我们减少信息丢失。

步骤4：通过将以上综合表示CS输入MLP(Multi-Layer Perceptron，多层感 知器)中，输出两个作者间的相似度打分，即：

y_m,n＝sigmoid[f(CS)]

其中f是具有两个全连接层，激活函数为ReLU的MLP，其输出送入sigmoid 层中以获得最终相似度打分。

步骤5：使用对数损失函数和负采样，采集在路径a-p-a和a-p-v-p-a上均没 有路径实例相连接的作者节点对作为负样本，每个正样本对应采集5个负样本。

将相似节点对分数设置为1，将不相似节点对分数设置为0，模型训练目标 函数表述为：

其中y_i是模型是输出变量，N⁺是正样本集，N^-是负样本集，ρ_i是预测的输 入实例相似的概率。

下面通过实验对本发明的技术效果进行说明：

1.实验条件说明

选取Aminer(由清华大学计算机科学与技术系教授唐杰率领团队建立的科 技情报大数据挖掘与服务系统平台)的学术社交网络数据集作为实验数据，在 Ubuntu 18.04环境下分别测试了本发明提出的模型，该模型的变体以及其它基线 模型。

本发明的变体包括以下3中：

变体1：步骤3中对两个通道训练结果的结合不使用注意力机制，直接将两 个训练结果向量进行连接。

变体2：使用单通道，只对结构信息进行训练。

变体3：使用单通道，只对内容信息进行训练。

与本发明进行对比的基线包括：

Metapath2vec.apvpa：设定元路径a-p-v-p-a，使用异构信息网络表示学习模 型Metapath2vec++对节点进行嵌入，根据向量相似度来度量两个作者类型节点 的相似度，从而进行Top-k相似性搜索。

Metapath2vec.apa：设定元路径a-p-a，使用异构信息网络表示学习模型Metapath2vec++对节点进行嵌入，从而进行Top-k相似性搜索。

Doc2vec：利用对作者的文本描述信息进行节点嵌入，根据向量相似度来度 量两个作者类型节点的相似度，从而进行Top-k相似性搜索。

2.实验结果分析

挑选十名学术社交网络上活跃的权威作者，对其进行相似作者的标注，并 进行这十名作者的Top-10相似度搜索。通过将发明的模型与其变体模型和基线 模型进行比较来进行对发明结果的评估。实验测试了准确率和NDCG (Normalized Discounted cumulativegain，归一化折损累计增益)，结果如下表格。

模型准确率和NDCG值的比较：

根据表中的结果，发明的模型的准确率和NDCG值均由于其他对比模型。

其中发明模型的性能优于变体1，说明在内容和结构之间使用注意力机制有 利于提高模型性能。变体1优于变体2和变体3，表明全面考虑内容信息和结构 信息非常重要。发明的模型及其变体的性能均优于基线，这表明模型考虑多个 元路径以获取丰富的节点间语义信息是非常合理的。此外，Doc2vec性能最差 的主要原因是此数据集中的辅助结构信息丰富，而文本描述信息相对不足。

接下来，我们改变Top-k相似性搜索中k的值，以评估其对模型及对比模型 NDCG的影响，结果如图9所示。

图9的图例中的Model是我们发明的模型，V1(variant1)指变体1，V2 (variant2)指变体2，V3(variant3)指变体3。

实验结果表明，对于所有模型，随着k值增大，NDCG值趋于增加状态， 且发明的模型始终可实现最佳性能。而且在大多数情况下，发明模型及变体1 (考虑内容信息和结构信息)的NDCG准确性比其他仅考虑单节点信息的方法 要高。此外，Doc2vec模型的搜索性能最差，主要是因为我们使用的学术社交网 络中节点的结构信息丰富，而内容信息相对稀缺。因此，不考虑内容信息的变 体2也具有相对较好的性能是非常合理的。由于仅考虑一个元路径，因此 metapath2vec.apvpa和metapath2vec.apa的搜索性能相对较低，仅优于Doc2vec。

Claims (5)

1.语义增强的异构信息网络上Top-k相似度搜索方法，包括如下步骤：

步骤1：使用预训练方法生成异构信息网络数据集中所有节点的内容和结构表示，具体操作包括以下两部分：

1-1)使用自然语言处理领域的模型预训练得到节点的内容表示

其中|A|是A类型节点的数目，d₁是节点的内容嵌入维度；

1-2)在指定不同语义的r条元路径下分别使用基于异构网络的网络表示学习训练模型，最后得到节点的结构表示

其中d₂为节点结构嵌入维数；

是对应元路径p_i下的嵌入结果，i∈{1，…，r}；

步骤2：路径表示，具体步骤如下：

2-1)对节点进行内容和结构的集成嵌入；将节点在r条元路径下的嵌入表示输入全连接神经网络层，分别得到节点的结构表示β^s，内容表示β^c以及综合表示β^s+c；

2-2)为了捕获两个节点之间元路径蕴含的丰富的语义信息，模型以路径实例作为输入，以度量相似度的节点a₁和a₂为端点，在指定的元路径上对路径进行采样，得到路径实例p_i,j，其中i指元路径编号，j指路径实例编号；

2-3)将路径实例p_i,j上的节点用α^c和α^s进行表示，分别通过卷积层进行嵌入得到路径实例的内容表示

和结构表示

其中i∈{1,…,r}，j∈{1,…,t}代表元路径和路径实例的编号；之后，通过池化层获得每个元路径的内容表示

和结构表示

2-4)为了同时整合多条元路径所蕴含的语义信息并动态调整不同元路径的重要程度，设计元路径间的注意力机制，对于目标节点a_m，元路径p_i对于它的重要程度得分为：

其中

W₁，W₂是模型参数，

是元路径p_i的内容表示和结构表示；

将计算得到的不同元路径对于节点a_m的重要程度得分score(a_m,p_i)输入softmax层进行归一化处理，得到元路径p_i的注意力权重；计算方法为：

其中a_m和a_n是待度量相似度的两个对象节点；

根据注意力权重

计算两个节点之间的综合语义表示：

其中，

包含了两个节点间的内容综合表示和结构综合表示；

步骤3：设计注意力层以结合两个卷积神经网络通道训练得到的内容和结构信息，具体操作如下：

3-1)计算内容信息的注意力得分：

3-2)计算结构信息的注意力得分：

以上

W₃，W₄均为模型参数；

3-3)计算内容信息表示的注意力权重：

3-4)计算结构信息表示的注意力权重：

3-5)计算整合内容信息和结构信息的两个节点间信息综合表示：

其中

表示连接操作，即连接两个加权后的向量；将内容信息表示和结构信息表示分别与注意力权重相乘后连接起来，与直接将它们加权求和相比，此功能可以有效地帮助我们减少信息丢失；

步骤4：通过将综合表示CS输入MLP中，输出两个节点间的相似度打分；

步骤5：使用对数损失函数训练模型。

2.如权利要求1所述的语义增强的异构信息网络上Top-k相似度搜索方法，其特征在于，步骤4的具体过程如下：

y_m,n＝sigmoid[f(CS)]

其中f是具有两个全连接层，激活函数为ReLU的MLP，其输出送入sigmoid层中以获得最终相似度打分。

3.如权利要求1或2所述的语义增强的异构信息网络上Top-k相似度搜索方法，其特征在于，步骤5的具体过程如下：

使用负采样，采集没有路径实例相连接的节点对作为负样本，将相似节点对分数设置为1，将不相似节点对分数设置为0，模型训练目标函数表述为：

其中y_i是模型是输出变量，N⁺是正样本集，N^-是负样本集，ρ_i是预测的输入实例相似的概率。

4.如权利要求1或2所述的语义增强的异构信息网络上Top-k相似度搜索方法，其特征在于，所述的步骤1中，内容信息指节点的文字描述、图像和标签信息，结构信息是指网络上节点与他人的连接关系。

5.如权利要求3所述的语义增强的异构信息网络上Top-k相似度搜索方法，其特征在于，所述的步骤1中，内容信息指节点的文字描述、图像和标签信息，结构信息是指网络上节点与他人的连接关系。

Images