CN110489563A - 图结构的表示方法、装置、设备及计算机可读存储介质 - Google Patents

Abstract

本申请提供一种图结构的表示方法、装置、设备及计算机可读存储介质。本申请实施例由于不再仅仅依赖于节点所在游走路径上每个节点自身的节点信息即节点标识唯一确定节点的语义特征表示，而是结合考虑节点所在游走路径上每个节点的序列信息即位置标识综合确定节点的语义特征表示，使得图结构中每个节点的语义特征表示会随着周围的其他节点而动态变化，从而提高了图结构的表示的可靠性。

Description

图结构的表示方法、装置、设备及计算机可读存储介质

【技术领域】

本申请涉及图结构技术，尤其涉及一种图结构的表示方法、装置、设备及计算机可读存储介质。

【背景技术】

图结构是信息科学领域的常见一种结构，其由顶点集合V和边的集合E构成。知识图谱、社交网络、推荐系统、万维网等都可以表示为图结构。

图结构的表示旨在学习图结构中节点(Node)的低维度潜在表示，所学习到的特征表示可以用作基于图结构的各种任务的特征，例如分类、聚类、链路预测和可视化等任务。

常见的图结构的表示方法可以包括深度游走(DeepWalk)算法、节点向量(Node2Vec)算法等，这种图结构的表示方法的可靠性较低。

【发明内容】

本申请的多个方面提供一种图结构的表示方法、装置、设备及计算机可读存储介质，用以提高图结构的表示的可靠性。

本申请的一方面，提供一种图结构的表示方法，包括：

在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径；

获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识、该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识；

根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

本申请的另一方面，提供一种图结构的表示装置，包括：

游走单元，用于在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径；

获取单元，用于获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识、该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识；

预测单元，用于根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

本申请的另一方面，提供一种设备，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如上述一方面所提供的图结构的表示方法。

本申请的另一方面，提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如上述一方面所提供的图结构的表示方法。

由上述技术方案可知，本申请实施例通过在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径，进而，可以获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识，使得能够根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示，由于不再仅仅依赖于节点所在游走路径上每个节点自身的节点信息即节点标识唯一确定节点的语义特征表示，而是结合考虑节点所在游走路径上每个节点的序列信息即位置标识综合确定节点的语义特征表示，使得图结构中每个节点的语义特征表示会随着周围的其他节点而动态变化，从而提高了图结构的表示的可靠性。

另外，采用本申请所提供的技术方案，可以动态建模图结构中节点的表示，使得节点的表示可以根据其周围环境的变化而产生不同的表示。

另外，采用本申请所提供的技术方案，通过基于双向掩码的双向语言表示模型，使得结构中节点的表示可以建模出序列的位置信息。

另外，采用本申请所提供的技术方案，通过同时建模多个序列，从而实现了从序列结构的静态建模到图结构的动态建模。

另外，采用本申请所提供的技术方案，引入Transformer模型的深层网络，使得Transformer模型具有更多的参数空间建模图结构中的序列结构。

另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。

【附图说明】

为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本申请一实施例提供的图结构的表示方法的流程示意图；

图2为本申请另一实施例提供的图结构的表示装置的结构示意图；

图3为适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。

【具体实施方式】

为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例，都属于本申请保护的范围。

需要说明的是，本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant，PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer，PC)、MP3播放器、MP4播放器、可穿戴设备(例如，智能眼镜、智能手表、智能手环等)等。

另外，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。

图1为本申请一实施例提供的图结构的表示方法的流程示意图，如图1所示。

101、在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径。

102、获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识。

103、根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

至此，实现了图结构中节点的深层语义表示，能够使得基于图结构中节点的深层语义表示，更加精准地完成各种任务，例如，分类、聚类、链路预测和可视化等。例如，可以将其用作社交网络和推荐系统的相似推荐、知识图谱的知识计算等任务。

例如，在基于图结构的推荐系统中，可以获得其中的用户与物品的语义特征表示，进而，则可以利用该语义特征表示，对相似偏好的用户，以及相似特点的物品，进行聚类处理，或者进行相似推荐等。

或者，再例如，在基于图结构的知识图谱中，可以获得其中的知识的的语义特征表示，进而，则可以利用该语义特征表示，进行知识的类别预测，或者进行知识的链接预测。

或者，再例如，在基于图结构的社交网络中，可以获得其中的用户的语义特征表示，进而，则可以基于用户的语义特征表示，进行用户画像的预测，或者进行用户聚类、用户关系挖掘等。

或者，再例如，在基于图结构的网络中，可以获得其中的所有节点的语义特征表示，进而，则可以基于所有节点的语义特征表示，对整个网络的类别进行预测，例如，网站的网页资源链接网络的类别、用户群体网络的类别、分子结构图的类别等。

本申请中，所涉及的指定文本中“指定”二字，并没有特殊含义，就是为了指定当前的操作对象而已，因此，指定文本就是图结构中的普通节点。

需要说明的是，101～103的执行主体的部分或全部可以为位于本地终端的应用，或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit，SDK)等功能单元，或者还可以为位于网络侧服务器中的处理引擎，或者还可以为位于网络侧的分布式系统，本实施例对此不进行特别限定。

可以理解的是，所述应用可以是安装在终端上的本地程序(nativeApp)，或者还可以是终端上的浏览器的一个网页程序(webApp)，本实施例对此不进行特别限定。

这样，通过在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径，进而，可以获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识，使得能够根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示，由于不再仅仅依赖于节点所在游走路径上每个节点自身的节点信息即节点标识唯一确定节点的语义特征表示，而是结合考虑节点所在游走路径上每个节点的序列信息即位置标识综合确定节点的语义特征表示，使得图结构中每个节点的语义特征表示会随着周围的其他节点而动态变化，从而提高了图结构的表示的可靠性。

可选地，在本实施例的一个可能的实现方式中，在102中，所获取的所述至少一个游走路径中每个游走路径上每个节点的标识信息，是指能够对该节点在图结构中进行唯一标识的标识信息。

所谓的节点的节点标识，是指对节点的名字在图结构中进行唯一标识的标识，可以为节点按照某个排序规则所进行的编号，例如，初始值可以设置为1，进行顺序编号则可以为1，2，……，等。

例如，所生成的经过指定节点的游走路径上的节点序列，用节点的标识可以表示为5→6→5→3→2→1。

所谓的节点的位置标识，是指对节点在图结构中的位置进行唯一标识的标识，由于所生成的游走路径的数量不同，节点在图结构中的位置可能会有不同的标识方式。

在一个具体的实现过程中，所述至少一个游走路径可以只包括一个游走路径；由于只生成了一个游走路径，那么，则只需要对节点在该游走路径中的位置进行唯一标识即可，因此，所述每个游走路径上每个节点的位置标识则可以包括该节点在所述一个游走路径上的位置标识。

所谓的节点在所述一个游走路径上的位置标识，是指对节点在该一个游走路径上的位置进行唯一标识的标识，可以为节点在该一个游走路径上到达顺序的编号，例如，初始值可以设置为0，进行顺序编号则可以为0，1，2，……，等，位于游走路径的起点的节点为第一个到达的节点，该节点的编号为0，依次到达的节点的编号为1，2，……。

例如，所生成的经过指定节点的一个游走路径上的节点序列，用节点的节点标识可以表示为5→6→5→3→2→1，那么，节点标识为5的节点，其位置标识为0，节点标识为6的节点，其位置标识为1，节点标识为5的节点，其位置标识为2，节点标识为3的节点，其位置标识为3，节点标识为2的节点，其位置标识为4，节点标识为1的节点，其位置标识为5。

在另一个具体的实现过程中，所述至少一个游走路径包括至少两个游走路径；由于生成了多个游走路径，那么，就需要对节点在图结构中的位置进行唯一标识，因此，所述每个游走路径上每个节点的位置标识则可以包括该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识。

所谓的节点在所在游走路径上的位置标识，是指对节点在所在游走路径上的位置进行唯一标识的标识，可以为节点在所在游走路径上到达顺序的编号，例如，初始值可以设置为0，进行顺序编号则可以为0，1，2，……，等，位于游走路径的起点的节点为第一个到达的节点，该节点的编号为0，依次到达的节点的编号为1，2，……。

例如，假设指定节点的节点标识为3；那么，

所生成的经过指定节点的第一个游走路径上的节点序列，用节点的节点标识可以表示为5→6→5→3→2→1；

所生成的经过指定节点的第二个游走路径上的节点序列，用节点的节点标识可以表示为2→3→5→3→1；

所生成的经过指定节点的第三个游走路径上的节点序列，用节点的节点标识可以表示为1→3→4→5。

所谓的节点所在游走路径的路径标识，是指对节点所在游走路径进行唯一标识的标识，可以为游走路径按照某个排序规则所进行的编号，例如，初始值可以设置为1，进行顺序编号则可以为1，2，……，等。

需要说明的是，在该实现过程中，由于指定节点是每个游走路径都经过的同一个节点，也可以称为中心节点，因此，可以将该指定节点所在游走路径的路径标识，设置为初始值如0，将该指定节点在所在游走路径上的位置标识，设置为初始值如0。

例如，假设指定节点的节点标识为3；那么，

所生成的经过指定节点的第一个游走路径上的节点序列，用节点的节点标识可以表示为5→6→5→3→2→1，那么，节点标识为第一个5的节点，其位置标识为0，节点标识为6的节点，其位置标识为1，节点标识为第二个5的节点，其位置标识为2，节点标识为3的节点，其位置标识为0，节点标识为2的节点，其位置标识为4，节点标识为1的节点，其位置标识为5。除了节点标识为3的节点所在游走路径的路径标识设置为0之外，该第一个游走路径上的其他节点所在游走路径的路径标识都为1。

所生成的经过指定节点的第二个游走路径上的节点序列，用节点的节点标识可以表示为2→3→5→3→1，那么，节点标识为2的节点，其位置标识为0，节点标识为3的节点，其位置标识为0，节点标识为5的节点，其位置标识为2，节点标识为3的节点，其位置标识为0，节点标识为1的节点，其位置标识为4。除了节点标识为3的节点所在游走路径的路径标识设置为0之外，该第一个游走路径上的其他节点所在游走路径的路径标识都为2。

所生成的经过指定节点的第三个游走路径上的节点序列，用节点的节点标识可以表示为1→3→4→5，那么，节点标识为1的节点，其位置标识为0，节点标识为3的节点，其位置标识为0，节点标识为4的节点，其位置标识为2，节点标识为5的节点，其位置标识为3。除了节点标识为3的节点所在游走路径的路径标识设置为0之外，该第一个游走路径上的其他节点所在游走路径的路径标识都为3。

可选地，在本实施例的一个可能的实现方式中，在102中，所获取的所述至少一个游走路径中每个游走路径上每个节点的标识信息还可以进一步包括该节点的节点内容。

可选地，在本实施例的一个可能的实现方式中，在103中，具体可以根据所述每个游走路径上每个节点的标识信息，利用所述语言表示模型，例如，语言表示模型中的文本模型、视觉模型等，获得所述每个游走路径上每个节点的标识信息所对应的该节点的中间特征表示，进而，则可以根据所述每个游走路径上每个节点的中间特征表示，利用所述语言表示模型，获得所述指定节点的语义特征表示。

在实现方式中，在语言表示模型的训练阶段，可以在训练数据中进行随机游走，以生成经过一个节点的至少一个游走路径，作为至少一个训练路径。其中，该一个节点可以为随机选择的一个节点，或者还可以为测试人员指定的一个节点，本实施例对此不进行特别限定。进而，则可以获取所述至少一个训练路径中每个训练路径上每个节点的标识信息，所述每个训练路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识。然后，则可以利用所述每个训练路径上每个节点的标识信息，进行无监督的模型训练，以构建所述语言表示模型。

其中，所获取的所述每个训练路径上每个节点的标识信息还可以进一步包括该节点的节点内容。

在语言表示模型的训练阶段，所采用的用于模型训练的训练数据中，所述每个训练路径上每个节点的标识信息，可以采用与该语言表示模型的使用阶段一致的设置方式。

在语言表示模型的训练阶段，所获取的所述至少一个训练路径中每个训练路径上每个节点的标识信息，是指能够对该节点在图结构中进行唯一标识的标识信息。

所谓的节点的节点标识，是指对节点的名字在图结构中进行唯一标识的标识，可以为节点按照某个排序规则所进行的编号，例如，初始值可以设置为1，进行顺序编号则可以为1，2，……，等。

所谓的节点的位置标识，是指对节点在图结构中的位置进行唯一标识的标识，由于所生成的训练路径的数量不同，节点在图结构中的位置可能会有不同的标识方式。

在一个具体的实现过程中，所述至少一个训练路径可以只包括一个训练路径；由于只生成了一个训练路径，那么，则只需要对节点在该训练路径中的位置进行唯一标识即可，因此，所述每个训练路径上每个节点的位置标识则可以包括该节点在所述一个训练路径上的位置标识。

所谓的节点在所述一个训练路径上的位置标识，是指对节点在该一个训练路径上的位置进行唯一标识的标识，可以为节点在该一个训练路径上到达顺序的编号，例如，初始值可以设置为0，进行顺序编号则可以为0，1，2，……，等，位于训练路径的起点的节点为第一个到达的节点，该节点的编号为0，依次到达的节点的编号为1，2，……。

在另一个具体的实现过程中，所述至少一个训练路径包括至少两个训练路径；由于生成了多个训练路径，那么，就需要对节点在图结构中的位置进行唯一标识，因此，所述每个训练路径上每个节点的位置标识则可以包括该节点在所在训练路径上的位置标识和该节点所在训练路径的路径标识。

所谓的节点在所在训练路径上的位置标识，是指对节点在所在训练路径上的位置进行唯一标识的标识，可以为节点在所在训练路径上到达顺序的编号，例如，初始值可以设置为0，进行顺序编号则可以为0，1，2，……，等，位于训练路径的起点的节点为第一个到达的节点，该节点的编号为0，依次到达的节点的编号为1，2，……。

所谓的节点所在训练路径的路径标识，是指对节点所在训练路径进行唯一标识的标识，可以为训练路径按照某个排序规则所进行的编号，例如，初始值可以设置为1，进行顺序编号则可以为1，2，……，等。

需要说明的是，在该实现过程中，由于由于所选的所述一个节点是每个训练路径都经过的同一个节点，也可以称为中心节点，因此，可以将该一个节点所在训练路径的路径标识，设置为初始值如0，将该一个节点在所在训练路径上的位置标识，设置为初始值如0。

在训练路径生成完毕之后，可以随机掩盖掉每个训练路径中部分的节点，去预测这些被掩盖掉的节点的节点标识，通过反向回传算法，构建和优化语言表示模型。

这种语言表示模型，其优势在于每个节点的表示会随着游走路径中的其他节点而动态变化，能够在建模节点的表示的同时，建模周围的环境带给其的语义，能够更加精准地建模图结构中该节点的表示，更好地应用于推荐系统、知识图谱、社交网络等应用中。

在本申请中，所采用的语言表示模型，可以为单向语言表示模型，例如，生成式预训练(Generative Pre-Training，GPT)模型或GPT2模型等，或者还可以为双向语言表示模型，例如，语言表示模型嵌入(Embeddings from Language Models，ELMo)模型或来自Transformer的双向编码器表示(Bidirectional Encoder Representations fromTransformers，BERT)模型等，本实施例对此不进行特别限定。

本实施例中，通过在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径，进而，可以获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识，使得能够根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示，由于不再仅仅依赖于节点所在游走路径上每个节点自身的节点信息即节点标识唯一确定节点的语义特征表示，而是结合考虑节点所在游走路径上每个节点的序列信息即位置标识综合确定节点的语义特征表示，使得图结构中每个节点的语义特征表示会随着周围的其他节点而动态变化，从而提高了图结构的表示的可靠性。

另外，采用本申请所提供的技术方案，可以动态建模图结构中节点的表示，使得节点的表示可以根据其周围环境的变化而产生不同的表示。

另外，采用本申请所提供的技术方案，通过基于双向掩码的双向语言表示模型，使得结构中节点的表示可以建模出序列的位置信息。

另外，采用本申请所提供的技术方案，通过同时建模多个序列，从而实现了从序列结构的静态建模到图结构的动态建模。

另外，采用本申请所提供的技术方案，引入Transformer模型的深层网络，使得Transformer模型具有更多的参数空间建模图结构中的序列结构。

另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。

需要说明的是，对于前述的各方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本申请并不受所描述的动作顺序的限制，因为依据本申请，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作和模块并不一定是本申请所必须的。

在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

图2为本申请另一实施例提供的图结构的表示装置的结构示意图，如图2所示。本实施例的图结构的表示装置可以包括游走单元21、获取单元22和预测单元23。其中，游走单元21，用于在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径；获取单元22，用于获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；预测单元23，用于根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

需要说明的是，本实施例所提供的图结构的表示装置的部分或全部可以为位于本地终端的应用，或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit，SDK)等功能单元，或者还可以为位于网络侧服务器中的搜索引擎，或者还可以为位于网络侧的分布式系统，本实施例对此不进行特别限定。

可以理解的是，所述应用可以是安装在终端上的本地程序(nativeApp)，或者还可以是终端上的浏览器的一个网页程序(webApp)，本实施例对此不进行特别限定。

可选地，在本实施例的一个可能的实现方式中，所述至少一个游走路径只包括一个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所述一个游走路径上的位置标识。

可选地，在本实施例的一个可能的实现方式中，所述至少一个游走路径包括至少两个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识。

可选地，在本实施例的一个可能的实现方式中，所述获取单元22所获取的所述至少一个游走路径中每个游走路径上每个节点的标识信息还可以进一步包括该节点的节点内容。

可选地，在本实施例的一个可能的实现方式中，所述预测单元23，具体可以用于根据所述每个游走路径上每个节点的标识信息，利用所述语言表示模型，获得所述每个游走路径上每个节点的标识信息所对应的该节点的中间特征表示；以及根据所述每个游走路径上每个节点的中间特征表示，利用所述语言表示模型，获得所述指定节点的语义特征表示。

具体地，所述预测单元23，还可以进一步用于在训练数据中进行随机游走，以生成经过一个节点的至少一个游走路径，作为至少一个训练路径；获取所述至少一个训练路径中每个训练路径上每个节点的标识信息，所述每个训练路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；以及利用所述每个训练路径上每个节点的标识信息，进行无监督的模型训练，以构建所述语言表示模型。

其中，所述预测单元23所获取的所述每个训练路径上每个节点的标识信息还可以进一步包括该节点的节点内容。

在一个具体的实现过程中，所述至少一个训练路径只包括一个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所述一个训练路径上的位置标识。

在另一个具体的实现过程中，所述至少一个训练路径包括至少两个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所在训练路径上的位置标识和该节点所在训练路径的路径标识。

在本申请中，所采用的语言表示模型，可以为单向语言表示模型，例如，生成式预训练(Generative Pre-Training，GPT)模型或GPT2模型等，或者还可以为双向语言表示模型，例如，语言表示模型嵌入(Embeddings from Language Models，ELMo)模型或来自Transformer的双向编码器表示(Bidirectional Encoder Representations fromTransformers，BERT)模型等，本实施例对此不进行特别限定。

需要说明的是，图1对应的实施例中方法，可以由本实施例提供的图结构的表示装置实现。详细描述可以参见图1对应的实施例中的相关内容，此处不再赘述。

本实施例中，通过游走单元在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径，进而，可以由获取单元获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识，使得预测单元能够根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示，由于不再仅仅依赖于节点所在游走路径上每个节点自身的节点信息即节点标识唯一确定节点的语义特征表示，而是结合考虑节点所在游走路径上每个节点的序列信息即位置标识综合确定节点的语义特征表示，使得图结构中每个节点的语义特征表示会随着周围的其他节点而动态变化，从而提高了图结构的表示的可靠性。

另外，采用本申请所提供的技术方案，可以动态建模图结构中节点的表示，使得节点的表示可以根据其周围环境的变化而产生不同的表示。

另外，采用本申请所提供的技术方案，通过基于双向掩码的双向语言表示模型，使得结构中节点的表示可以建模出序列的位置信息。

另外，采用本申请所提供的技术方案，通过同时建模多个序列，从而实现了从序列结构的静态建模到图结构的动态建模。

另外，采用本申请所提供的技术方案，引入Transformer模型的深层网络，使得Transformer模型具有更多的参数空间建模图结构中的序列结构。

另外，采用本申请所提供的技术方案，能够有效地提高用户的体验。

图3示出了适于用来实现本申请实施方式的示例性计算机系统/服务器12的框图。图3显示的计算机系统/服务器12仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。

如图3所示，计算机系统/服务器12以通用计算设备的形式表现。计算机系统/服务器12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，存储装置或者系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

计算机系统/服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机系统/服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图3未显示，通常称为“硬盘驱动器”)。尽管图3中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM，DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本申请各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如系统存储器28中，这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本申请所描述的实施例中的功能和/或方法。

计算机系统/服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器25等)通信，还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信，和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口44进行。并且，计算机系统/服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与计算机系统/服务器12的其它模块通信。应当明白，尽管图中未示出，可以结合计算机系统/服务器12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现图1所对应的实施例所提供的图结构的表示方法。

本申请另一实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现图1所对应的实施例所提供的图结构的表示方法。

具体来说，可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本申请操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或页面组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一个计算机设备(可以是个人计算机，服务器，或者网络设备等)或处理器(processor)执行本申请各个实施例所述方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

最后应说明的是：以上实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围。

Claims (18)

1.一种图结构的表示方法，其特征在于，包括：

在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径；

获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；

根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

2.根据权利要求1所述的方法，其特征在于，

所述至少一个游走路径只包括一个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所述一个游走路径上的位置标识；或者

所述至少一个游走路径包括至少两个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识。

3.根据权利要求1所述的方法，其特征在于，所述每个游走路径上每个节点的标识信息还包括该节点的节点内容。

4.根据权利要求1所述的方法，其特征在于，所述根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示，包括：

根据所述每个游走路径上每个节点的标识信息，利用所述语言表示模型，获得所述每个游走路径上每个节点的标识信息所对应的该节点的中间特征表示；

根据所述每个游走路径上每个节点的中间特征表示，利用所述语言表示模型，获得所述指定节点的语义特征表示。

5.根据权利要求4所述的方法，其特征在于，所述根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示之前，还包括：

在训练数据中进行随机游走，以生成经过一个节点的至少一个游走路径，作为至少一个训练路径；

获取所述至少一个训练路径中每个训练路径上每个节点的标识信息，所述每个训练路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；

利用所述每个训练路径上每个节点的标识信息，进行无监督的模型训练，以构建所述语言表示模型。

6.根据权利要求5所述的方法，其特征在于，

所述至少一个训练路径只包括一个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所述一个训练路径上的位置标识；或者

所述至少一个训练路径包括至少两个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所在训练路径上的位置标识和该节点所在训练路径的路径标识。

7.根据权利要求5所述的方法，其特征在于，所述每个训练路径上每个节点的标识信息还包括该节点的节点内容。

8.根据权利要求1～7任一权利要求所述的方法，其特征在于，所述语言表示模型包括单向语言表示模型或双向语言表示模型。

9.一种图结构的表示装置，其特征在于，包括：

游走单元，用于在图结构中进行随机游走，以生成经过指定节点的至少一个游走路径；

获取单元，用于获取所述至少一个游走路径中每个游走路径上每个节点的标识信息，所述每个游走路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；

预测单元，用于根据所述每个游走路径上每个节点的标识信息，利用语言表示模型，获得所述指定节点的语义特征表示。

10.根据权利要求9所述的装置，其特征在于，

所述至少一个游走路径只包括一个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所述一个游走路径上的位置标识；或者

所述至少一个游走路径包括至少两个游走路径；所述每个游走路径上每个节点的位置标识包括该节点在所在游走路径上的位置标识和该节点所在游走路径的路径标识。

11.根据权利要求9所述的装置，其特征在于，所述每个游走路径上每个节点的标识信息还包括该节点的节点内容。

12.根据权利要求9所述的装置，其特征在于，所述预测单元，具体用于

根据所述每个游走路径上每个节点的标识信息，利用所述语言表示模型，获得所述每个游走路径上每个节点的标识信息所对应的该节点的中间特征表示；以及

根据所述每个游走路径上每个节点的中间特征表示，利用所述语言表示模型，获得所述指定节点的语义特征表示。

13.根据权利要求12所述的装置，其特征在于，所述预测单元，还用于

在训练数据中进行随机游走，以生成经过一个节点的至少一个游走路径，作为至少一个训练路径；

获取所述至少一个训练路径中每个训练路径上每个节点的标识信息，所述每个训练路径上每个节点的标识信息包括该节点的节点标识和该节点的位置标识；以及

利用所述每个训练路径上每个节点的标识信息，进行无监督的模型训练，以构建所述语言表示模型。

14.根据权利要求13所述的装置，其特征在于，

所述至少一个训练路径只包括一个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所述一个训练路径上的位置标识；或者

所述至少一个训练路径包括至少两个训练路径；所述每个训练路径上每个节点的位置标识包括该节点在所在训练路径上的位置标识和该节点所在训练路径的路径标识。

15.根据权利要求13所述的装置，其特征在于，所述每个训练路径上每个节点的标识信息还包括该节点的节点内容。

16.根据权利要求9～15任一权利要求所述的装置，其特征在于，所述语言表示模型包括单向语言表示模型或双向语言表示模型。

17.一种设备，其特征在于，所述设备包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1～8中任一所述的方法。

18.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1～8中任一所述的方法。