CN114332472A - 一种基于图神经网络的数据处理方法及装置 - Google Patents

Abstract

本公开提供一种基于图神经网络的数据处理方法及装置，该基于图神经网络的数据处理方法包括：对第一对象的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得第一对象的局部交互特征；对第一对象的类别特征数据进行全局特征交互以获得第一对象的全局交互特征；将第一对象的局部交互特征与第一对象的全局交互特征进行特征融合处理以获得第一节点的第一进阶节点特征；第一图神经网络根据第一进阶节点特征对第一初阶图数据进行邻域聚合处理以获得第一进阶图数据。本公开提供的技术方案可以通过第一进阶图数据中的第一节点的节点特征充分表达第一对象的对象特征。

Description

一种基于图神经网络的数据处理方法及装置

技术领域

本公开涉及人工智能技术领域，尤其涉及一种基于图神经网络的数 据处理方法及装置、电子设备、计算机可读存储介质和计算机产品。

背景技术

图神经网络逐渐成为图结构数据上的主要解决方案，图神经网络的 主要思想是基于图结构来关联节点的表示，即连接的节点应该有类似的 表示，这可以看作是在表示空间中执行平滑约束。通过图神经网络，图 数据的节点特征和图结构在每个图层上同时编码，保证了图神经网络对 图上信息的集成能力，然后对信息集成完成后的图数据进行处理，可以 获得比较准确的处理结果。

那么，如何提高图神经网络对图数据中的信息提取和集成能力，则 成为图神经网络的主要目标。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公 开的背景的理解。

发明内容

本公开的目的在于提供一种基于图神经网络的数据处理方法、装置、 电子设备以及计算机可读存储介质，可以提高图神经网络对图数据中各 个节点的信息提取和表达能力。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分 地通过本公开的实践而习得。

本公开实施例提供了一种基于图神经网络的数据处理方法，包括： 对所述第一对象的各个类别特征数据进行分组交互，并对分组交互结果 进行特征融合以获得所述第一对象的局部交互特征；对所述第一对象的 类别特征数据进行全局特征交互，以获得所述第一对象的全局交互特征； 将所述第一对象的局部交互特征与所述第一对象的全局交互特征进行特 征融合处理，以获得所述第一节点的第一进阶节点特征；第一图神经网 络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚合处理， 以获得第一进阶图数据。

本公开实施例提供了一种基于图神经网络的数据处理装置，包括： 局部交互特征获取模块、全局交互特征获取模块、第一进阶节点特征获 取模块和第一进阶图数据获取模块。

其中，所述局部交互特征获取模块用于对所述第一对象的各个类别 特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述第 一对象的局部交互特征；所述全局交互特征获取模块用于对所述第一对 象的类别特征数据进行全局特征交互，以获得所述第一对象的全局交互 特征；所述第一进阶节点特征获取模块用于将所述第一对象的局部交互 特征与所述第一对象的全局交互特征进行特征融合处理，以获得所述第 一节点的第一进阶节点特征；所述第一进阶图数据获取模块用于第一图 神经网络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚 合处理，以获得第一进阶图数据。

在一些实施例中，所述第一初阶图数据还包括第二节点，所述第一 节点是所述第二节点的邻居节点，所述第二节点的第二初阶节点特征中 包括第二对象的类别特征数据，所述基于图神经网络的数据处理装置还 包括：第二局部交互特征获取模块、第二全局交互特征获取模块、第二 进阶节点特征获取模块，所述第一进阶图数据获取模块包括第一邻域聚 合模块。

其中，所述第二局部交互特征获取模块用于对所述第二对象的各个 类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所 述第二对象的局部交互特征；所述第二全局交互特征获取模块用于对所 述第二对象的多个类别特征数据进行全局特征交互，以获得所述第二对 象的全局交互特征；所述第二进阶节点特征获取模块用于将所述第二对 象的局部交互特征与所述第二对象的全局交互特征进行特征融合处理， 以获得所述第二节点的第二进阶节点特征；所述第一邻域聚合模块用于 所述第一图神经网络通过所述第一进阶节点特征、针对所述第二节点进 行邻域聚合处理，以获得所述第二节点的第二目标节点特征。

在一些实施例中，所述第一初阶图数据还包括第三节点，所述第三 节点的第三初阶节点特征中包括第三对象的类别特征数据，所述第二节 点是所述第三节点的一阶邻居节点，所述第一节点是所述第三节点的二 阶邻居节点；其中，所述基于图神经网络的数据处理装置还包括：第三 局部交互特征获取模块、第三全局交互特征获取模块、第三进阶节点特 征获取模块。

其中，所述第三局部交互特征获取模块用于对所述第三对象的各个 类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所 述第三对象的局部交互特征；所述第三全局交互特征获取模块用于对所 述第三对象的多个类别特征数据进行全局特征交互，以获得所述第三对 象的全局交互特征；所述第三进阶节点特征获取模块用于将所述第三对 象的局部交互特征与所述第三对象的全局交互特征进行特征融合处理， 以获得所述第三节点的第三进阶节点特征；其中，所述第一进阶图数据 获取模块包括：第二邻域聚合模块，所述第一图神经网络通过所述第一 进阶节点特征和所述第二进阶节点特征、针对所述第三节点进行邻域聚 合处理，以获得所述第三节点的第三目标节点特征。

在一些实施例中，所述第一对象的类别特征数据包括第一类别特征 数据、第二类别特征数据和第三类别特征数据；其中，所述全局交互特 征获取模块包括：第一局部交互数据获取单元、第二局部交互数据获取 单元、第三局部交互数据获取单元以及局部数据融合单元。

其中，所述第一局部交互数据获取单元用于将所述第一类别特征数 据与所述第二类别特征数据进行信息交互处理，以获得第一局部交互数 据；所述第二局部交互数据获取单元用于将所述第一类别特征数据域所 述第二类别特征数据进行信息交互处理，以获得第二局部交互数据；所 述第三局部交互数据获取单元用于将所述第二类别特征数据域所述第一 类别特征数据进行信息交互处理，以获得第三局部交互数据；所述局部 数据融合单元用于将所述第一局部交互数据、所述第二局部交互数据以 及所述第三局部交互数据进行信息融合，以获得所述第一对象的局部交 互特征。

在一些实施例中，所述全局交互特征获取模块包括：目标类别图获 取单元、邻域聚合类别图获取单元以及池化单元。

其中，所述目标类别图获取单元用于根据所述第一对象的各个类别 特征数据生成目标类别图；所述邻域聚合类别图获取单元用于对所述目 标类别图进行邻域聚合处理，以获得邻域聚合类别图；所述池化单元用 于对所述邻域聚合类别图进行池化处理以获得所述第一对象的全局交互 特征。

在一些实施例中，所述邻域聚合类别图获取单元包括：类别邻接矩 阵确定子单元、探针系数获取子单元、增强类别特征矩阵获取子单元以 及特征变换处理子单元。

其中，所述类别邻接矩阵确定子单元用于确定所述目标类别图的类 别特征矩阵和类别邻接矩阵；所述探针系数获取子单元用于获取目标探 针系数，并根据所述目标探针系数和所述类别邻接矩阵确定增强类别邻 接矩阵；所述增强类别特征矩阵获取子单元用于根据所述增强类别邻接 矩阵和所述类别特征数据矩阵进行邻域聚合处理，以获得增强类别特征 矩阵；所述特征变换处理子单元用于对所述增强类别特征矩阵进行特征 变换处理，以获得所述邻域聚合类别图。

在一些实施例中，所述第一初阶图数据用来描述多个用户的用户特 征，所述多个用户包括目标用户，所述第一对象是所述目标用户；其中， 所述基于图神经网络的数据处理装置还包括：第二初阶图数据获取模块、 目标产品局部特征获取模块、目标产品全局特征获取模块、产品特征融 合处理模块、产品特征邻域聚合模块以及推荐模块。

其中，所述第二初阶图数据获取模块用于获取描述多个产品的第二 初阶图数据，所述多个产品包括目标产品，所述第二初阶图数据包括第 四节点，所述第四节点的第四初阶节点特征包括所述目标产品的类别特 征数据；所述目标产品局部特征获取模块用于对所述目标产品的各个类 别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述 目标产品的局部交互特征；所述目标产品全局特征获取模块用于对所述 目标产品的类别特征数据进行全局特征交互，以获得所述目标产品的全 局交互特征；所述产品特征融合处理模块用于将所述目标产品的局部交 互特征与所述目标产品的全局交互特征进行特征融合处理，以获得所述 第四节点的第四进阶节点特征；所述产品特征邻域聚合模块用于第二图 神经网络根据所述第四进阶节点特征对所述第一初阶图数据进行邻域聚 合处理，以获得第二进阶图数据；所述推荐模块用于根据所述第一进阶 图数据中第一节点的节点特征与所述第二进阶图数据中第四节点的节点 特征，向所述第一对象推荐所述目标产品。

在一些实施例中，所述基于图神经网络的数据处理装置还包括：分 类模块。

其中，所述分类模块可以用于通过目标分类器对所述第一进阶图数 据中第一节点的节点特征进行分类处理，以预测所述第一对象的目标属 性。

本公开实施例提出一种电子设备，该电子设备包括：一个或多个处 理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被 所述一个或多个处理器执行，使得所述一个或多个处理器实现上述任一 项所述的基于图神经网络的数据处理方法。

本公开实施例提出一种计算机可读存储介质，其上存储有计算机程 序，所述程序被处理器执行时实现如上述任一项所述的基于图神经网络 的数据处理方法。

本公开实施例提出一种计算机程序产品或计算机程序，该计算机程 序产品或计算机程序包括计算机指令，该计算机指令存储在计算机可读 存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机 指令，处理器执行该计算机指令，使得该计算机设备执行上述基于图神 经网络的数据处理方法。

本公开实施例提供的基于图神经网络的数据处理方法、装置及电子 设备、计算机可读存储介质和计算机产品，一方面通过对第一对象的各个 类别特征数据进行分组交互，以提取出各个分组中类别特征之间的关联信 息，从局部的角度提取出第一对象中的局部信息；另一方面通过对第一类 别特征数据进行全局特征交互，从整体的角度提取中第一对象的整体信息； 最后将第一对象的局部信息和整体信息进行信息融合，以作为描述第一对象的第一进阶节点特征。该第一进阶阶段特征既包括了局部描述第一对象 的局部信息，也包括了整体描述第一对象的整体信息，从多个角度对第一 对象进行了描述，能够对第一对象进行准确的描述，进而能够使得通过第 一进阶节点特征获得的图数据分析结果更为准确。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性的， 并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合 本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地， 下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人 员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他 的附图。

图1示出了可以应用于本公开实施例的基于图神经网络的数据处理 方法或基于图神经网络的数据处理装置的示例性系统架构的示意图。

图2是根据一示例性实施例示出的一种基于图神经网络的数据处理 方法的流程图。

图3是根据一示例性实施例示出的一种基于图神经网络的数据处理 结构的架构图。

图4是根据一示例性实施例示出的一种第一图神经网络的结构图。

图5是根据一示例性实施例示出的一种基于图神经网络结构的数据 处理方法的流程图。

图6是根据一示例性实施例示出的一种图数据示意图。

图7是根据一示例性实施例示出的一种基于图神经网络的数据处理 结构的架构图。

图8是根据一示例性实施例示出的一种基于图神经网络的数据处理 方法。

图9是根据一示例性实施例示出的一种分组交互方法的流程图。

图10是根据一示例性实施例示出的一种全局交互方法的流程图。

图11是根据一示例性实施例示出的一种全局交互方法的流程图。

图12是根据一示例性实施例示出的一种节点表示评分比对图。

图13是根据一示例性实施例示出的一种节点表示的可视化结果对 比图。

图14是根据一示例性实施例示出的一种基于图神经网络的数据处理 装置的框图。

图15示出了适于用来实现本公开实施例的的电子设备的结构示意 图。

具体实施方式

现在将参考附图更全面地描述示例实施例。然而，示例实施例能够 以多种形式实施，且不应被理解为限于在此阐述的实施例；相反，提供 这些实施例使得本公开将全面和完整，并将示例实施例的构思全面地传 达给本领域的技术人员。在图中相同的附图标记表示相同或类似的部分， 因而将省略对它们的重复描述。

本公开所描述的特征、结构或特性可以以任何合适的方式结合在一 个或更多实施方式中。在下面的描述中，提供许多具体细节从而给出对 本公开的实施方式的充分理解。然而，本领域技术人员将意识到，可以 实践本公开的技术方案而省略特定细节中的一个或更多，或者可以采用 其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述 公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图仅为本公开的示意性图解，图中相同的附图标记表示相同或类 似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图不 一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现 这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实 体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实 体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和 步骤，也不是必须按所描述的顺序执行。例如，有的步骤还可以分解， 而有的步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际 情况改变。

本说明书中，用语“一个”、“一”、“该”、“”和“至少一个”用以表示存 在一个或多个要素/组成部分/等；用语“包含”、“包括”和“具有”用以表示 开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还 可存在另外的要素/组成部分/等；用语“第一”、“第二”和“第三”等仅作为 标记使用，不是对其对象的数量限制。

为了能够更清楚地理解本发明的上述目的、特征和优点，下面结合 附图和具体实施方式对本发明进行进一步的详细描述，需要说明的是， 在不冲突的情况下，本申请的实施例及实施例中的特征可以相互组合。

下面结合附图对本公开示例实施方式进行详细说明。

图1示出了可以应用于本公开实施例的基于图神经网络的数据处理 方法或基于图神经网络的数据处理装置的示例性系统架构的示意图。

如图1所示，系统架构100可以包括终端设备101、102、103，网 络104和服务器105。网络104用以在终端设备101、102、103和服务 器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如 有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105 交互，以接收或发送消息等。例如，用户可以使用终端101、102、或者 103通过网络104向服务器105发送第一初阶图数据，以便服务105对 第一初阶图数据进行处理以获得第一进阶图数据。

其中，终端设备101、102、103可以是具有显示屏并且支持网页浏 览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计 算机、台式计算机、可穿戴设备、虚拟现实设备、智能家居等等。

服务器105可以是提供各种服务的服务器，例如对用户利用终端设 备101、102、103所进行操作的装置提供支持的后台管理服务器。后台 管理服务器可以对接收到的请求等数据进行分析等处理，并将处理结果 反馈给终端设备。

服务器可以是独立的物理服务器，也可以是多个物理服务器构成的 服务器集群或者分布式系统，还可以是提供云服务、云数据库、云计算、 云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服 务、CDN(Content Delivery Network，内容分发网络)、以及大数据和 人工智能平台等基础云计算服务的云服务器等，本公开对此不做限制。

服务器105可例如对第一对象的各个类别特征数据进行分组交互， 并对分组交互结果进行特征融合以获得第一对象的局部交互特征；服务 器105可例如对第一对象的类别特征数据进行全局特征交互，以获得第 一对象的全局交互特征；服务器105可例如将第一对象的局部交互特征 与第一对象的全局交互特征进行特征融合处理，以获得第一节点的第一 进阶节点特征；服务器105可例如第一图神经网络根据第一进阶节点特 征对第一初阶图数据进行邻域聚合处理，以获得第一进阶图数据。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性 的，服务器105可以是一个实体的服务器，还可以为多个服务器组成， 根据实际需要，可以具有任意数目的终端设备、网络和服务器。

虽然目前已经有很多工作致力于发明新的图神经网络模型以提高对 图数据的处理能力，进而提高针对图数据的预测能力，但他们主要集中 在图卷积运算的研究上。事实上，许多现实世界的应用程序都有类别特 征作为原始数据，例如在推荐系统中，节点通常为由用户统计数据(年龄、 性别、兴趣标签等)和物品概要(类别、品牌等)描述的用户和物品；在搜 索引擎中，节点通常是用词袋或n-gram(一种语言模型)描述的查询和 文档。对于这类类别特征，特征之间的相互作用，如多个特征的共同出 现，可能包含节点属性上的重要信号。然而，大多数图神经网络模型采 用简单的特征嵌入之和作为初始节点表示，这不足以对节点的类别特征 交互进行建模，导致图数据的节点表示不准确。

据此，本公开从图数据的初始节点表示的角度来提高图神经网络的 处理能力，特别是类别节点特征。具体将通过以下实施例进行说明。

图2是根据一示例性实施例示出的一种基于图神经网络的数据处理 方法的流程图。本公开实施例所提供的方法可以由任意具备计算处理能 力的电子设备来执行，例如该方法可以由上述图1实施例中的服务器或 终端设备来执行，也可以由服务器和终端设备共同执行，在下面的实施 例中，以服务器为执行主体为例进行举例说明，但本公开并不限定于此。

在一些实施例中，第一初阶图数据可以是一种由多个节点组成的图 数据，其中每个节点均与可以一个对象的特征数据对应，该对象的特征 数据可以由该对象的多个类别特征组成，上述多个类别特征可以包括从 不同类别角度对该对象进行描述的特征信息。

在一些实施例中，第一初阶图数据的多个节点可以包括第一节点， 第一节点的第一初阶节点特征中可以包括第一对象的类别特征数据。其 中，第一初阶节点特征可以指的是对象的原始特征数据(例如年龄类别 值、性别类别值等)。

例如，假设第一初阶图数据中的每个节点分别对应一个用户，那么 该节点的第一初阶特征数据可以包括该用户的用户画像中的多个类别的 属性信息，例如年龄、性别、居住地、针对某个产品的购买历史、等不 同类别的可以对用户进行描述的用户属性特征。

再例如，假设第一初阶图数据中的每个节点分别对应一个产品，那 么该节点的第一初阶特征数据可以包括该产品的多个类别的产品属性信 息，例如产品名称、生产地、产品类型、产品保质期等不同类别的可以 对产品进行描述的产品属性特征。

可以理解的是，本申请对第一初阶图数据以及第一初阶图数据的各 个节点中对应的对象是什么不做限制，任意一种图数据均可以是本申请 中的第一初阶图数据，其中该第一初阶图数据中的对象可以是用户、可 以是产品、可以是文本、可以是词等任意可以被描述的对象，本公开对 此不做限制。

参照图2，本公开实施例提供的基于图神经网络的数据处理方法可以 包括以下步骤。

步骤S202，对第一对象的各个类别特征数据进行分组交互，并对分 组交互结果进行特征融合以获得第一对象的局部交互特征。

在一些实施例中，可以通过多个类别特征数据对第一对象进行描述， 例如若第一对象是某一用户，则可以通过年龄类别、性别类别、兴趣类 别等不同的类别属性对该用户进行描述，那么该第一对象对应的年龄类 别中的值、对应的性别类别中的值、对应的兴趣类别的值就可以是本申 请中的第一对象的各个类别特征数据。

在一些实施例中，可以通过图3所示的h1,来表示第一对象的第一初 阶节点特征。如图3所示，若h1,中对应位置为1的话，该位置处存在对 应的值，该位置处对应的值可以是第一对象的一个类别特征(例如，年 龄：24，本图未示出)，若h1,中对应位置为0的话，该位置处不存在对 应的值，即代表第一对象没有该位置为0处所对应的类别(例如性别) 的值(假设第一对象的第一初阶节点特征在性别类别所在位置处对应的 值为0，则代表第一对象没有性别信息)。

在一些实施例中，可以通过图神经网络结构的嵌入层(如图3中的 结构301)对第一初阶节点特征进行处理，以将第一初阶节点特征转换 为具有固定大小的向量或矩阵。

在一些实施例中，通过嵌入层处理后，第一对象的各个类别特征数 据均会被转换为一个向量，如图3所示，可以将第一初阶节点特征h1,的 四个类别特征数据(值为1位置处对应的数据)转换为4个向量(如E1、 E2、E3和E4)。

在一些实施例中，可以通过图神经网络的局部交互网络结构(如图 3中的结构302)对第一对象的各个类别特征数据进行分组交互处理。然 后，对分组交互结果进行特征融合以获得第一对象的局部交互特征h_1l。 其中，分组交互处理可以指的是先对第一对象多个类别特征进行分组然 后再进行特征融合。

其中，第一对象的局部交互特征可以是一种通过对第一对象多个类 别进行分组交互和特征融合后获得的一种可以对第一对象进行描述的特 征数据。

其中，对第一对象各个类别特征数据进行分组交互和特征融合可以 指的是，先对第一对象的各个类别数据分组(例如排列分组。每组之间 可以有交集，也可以没有交集)，然后对每组中的类别特征数据进行交 互处理以提取每组特征，最后对各组交互处理后的结果进行特征融合。

其中，对第一对象的各个类别特征数据进行分组可以指的是对第一 对象的各个类别进行两两分组、三三分组、或者二三分组(即有的是两 个一组，有的是三个一组)，本公开对分组形式不做限制。

其中，对每组中的类别特征数据进行交互处理可以指的是对每组中 的类别特征数据求哈达码积、求相似结果、求距离结果等，本公开对交 互处理形式不做限制，任意一种可以对组内类别特征数据进行交互融合 的方法均可以是本公开中的交互处理方法。

在一些实施例中，对每组的交互结果进行特征融合可以指的是对每 组的交互结果进行求和、池化等，以获得第一节点的节点表示h_1l，本公 开对此不做限制。

在一些实施例中，可以使用线性函数(例如公式(1))将经过局部 交互建模的节点表示h_1l投射到节点标签空间以获得节点表示h′_1l。

h′_1l＝σ(W_lh_1l+b_l) (1)

其中，σ代表激活函数，W_l和b_l代表训练参数。

步骤S204，对第一对象的类别特征数据进行全局特征交互，以获得 第一对象的全局交互特征。

在一些实施例中，可以通过图神经网络的全局交互网络结构(如图 3中的结构303)对第一对象的各个类别特征数据进行整体性的全局交互 处理，以获得第一对象的全局交互特征h_1g。

其中，全局特征交互可以指的是对第一对象的类别特征数据所有数 据进行整体操作处理，例如进行邻域聚合操作，以提取出融合了多个类 别特征数据的特征并且能够反映各个类别特征数据相互作用后的全局交 互特征。

其中，对第一对象的类别特征数据进行全局交互可以指的是对第一 对象的类别特征数据进行一次性全局操作，以提取各个类别特征之间的 共同信息(上述局部特征提取的可以是分组内的共同信息，这里提取的 是可以整体的共同信息，二者不同)，例如对第一对象的类别特征数据 进行邻域聚合处理后再进行特征融合等。

在一些实施例中，使用线性函数(例如公式(2))将经过全局交互 建模的节点表示h_1g投射到节点标签空间。

h′_1g＝σ(W_gh_1g+b_g) (2)

其中，σ代表激活函数，W_g和b_g代表训练参数。

步骤S206，将第一对象的局部交互特征与第一对象的全局交互特征 进行特征融合处理，以获得第一节点的第一进阶节点特征。

在一些实施例中，可以使用公式(3)对第一节点的局部交互特征(h′_1l) 全局交互特征h′_1g进行特征融合(即图3中的聚合部分)，以获得第一节 点的第一进阶节点特征h₁。

h₁＝αh′_1g+(1-α)h′_1l (3)

其中，α为大于或者等于0、小于或者等于1的预设参数。

步骤S208，第一图神经网络根据第一进阶节点特征对第一初阶图数 据进行邻域聚合处理，以获得第一进阶图数据。

由于在上述步骤中第一节点表示已经得到了充分的优化，接下来在节 点交互网络上进行信息聚合时无需引入额外的参数即可得到非常优秀的 性能表现。同时，本公开在邻域聚合时，也舍弃了线性变换层和非线性激 活函数层，直接通过邻接矩阵的高次幂来获取多跳(L)邻域信息，计算 过程公式(4)下和公式(5)：

其中，A为第一初阶图数据的邻接矩阵，D为邻接矩阵A的度矩阵，I为 第一初阶图数据的单位矩阵，PNA(pure neighborhood aggregation，纯邻 域聚合)代表一种映射函数，H代表第一进阶图数据的特征矩阵，L为大 于或者等于1的整数。

在一些实施例中，可以通过第一图神经网络(如图3中的结构304) 对包括第一初阶节点特征的第一初阶图数据进行邻域聚合。其中，第一 图神经网络结构可以是任意可以对图数据进行处理的图结构，例如可以 是图卷积网络(Graph Convolution Networks，GCN)、图注意力网络(Graph Attention Networks)、图自编码器(Graph Autoencoders)、图生成网络 (Graph Generative Networks)和图时空网络(Graph Spatial-temporalNetworks)等，本公开实施例将以第一图神经网络结构为图卷积网络为 例进行说明，但本公开对此不做限制。

图神经网络在大量图相关任务中都表现出强大的性能，虽然图神经 网络模型有很多种，但他们都有一个共同点：邻域聚合，邻域聚合中每 个节点的嵌入都是通过邻域(这里可以指的是扩展的邻域，即节点本身 也是自身的邻居)的嵌入来更新。

在一些实施例中，图3中的结构304可以采用如图4所示的图卷积 神经网络结构，但本公开对此不做限制。其中，A是第一图数据的邻接 矩阵，X可以是通过第一进阶节点特征更新后的第一图数据的节点表示。

可以理解的是，本申请是通过第一节点解释了如何使用本公开提供 的技术方案获得第一节点的第一进阶节点特征，本领域技术人员可以在 本公开的基础上对第一初阶图数据中的各个节点分别求取进阶节点特征， 然后在各个节点均获得进阶节点特征的基础上，再对第一进阶图数据进 行处理，进而基于第一进阶图数据进行分类等预测处理。

本公开提出了一种建模特征交互的高效图神经网络模型。具体来说， 将两种显式交互建模方法(局部交互建模和全局交互建模)集成到初始 节点表示(即进阶节点特征)的学习过程中，即对每对节点特征的局部 交互建模和对类别特征的目标类别图的全局交互建模，然后用基于邻域 聚合的图神经网络结构来改进增强的初始节点表示。该方法以端到端的 方式进行训练，可以有效提高下游任务(如节点分类)的表现。

本发明可以应用到类别节点图场景下的多种任务中，对具有类别特 征的图节点进行特征建模可以获得好的初始节点表示，从而提高下游任 务表现。具体实施上可以将特征交互建模部分作为前置模块与其它模型 结合起来，从而获得更好的初始节点表示以增强相应模型的性能。本发 明的有效性在真实数据集上得到了证实，广泛适用于包含类别节点图的 应用场景中。

下面将通过以下实施例说明，如何将上述实施例提供的技术方案结 合到具体的应用场景(例如推荐场景)中。

在一些实施例中，第二初阶图数据可以是用来描述多个产品的产品 图数据，第二初阶图数据可以多个节点，该第二初阶图数据中的多个节 点可以包括第四节点，第四节点的第四初阶节点特征包括目标产品的类 别特征数据，那么在上述推荐场景中结合本实施例提供的技术方案可以 包括以下步骤：获取描述多个产品的第二初阶图数据，所述多个产品包 括目标产品，所述第二初阶图数据包括第四节点，所述第四节点的第四 初阶节点特征包括所述目标产品的类别特征数据；对目标产品的各个类 别特征数据进行分组交互，并对分组交互结果进行特征融合以获得目标 产品的局部交互特征；对目标产品的类别特征数据进行全局特征交互， 以获得目标产品的全局交互特征；将目标产品的局部交互特征与目标产 品的全局交互特征进行特征融合处理，以获得第四节点的第四进阶节点 特征；第二图神经网络根据第四进阶节点特征对第二初阶图数据进行邻 域聚合处理，以获得第二进阶图数据；根据第一进阶图数据中第一节点 的节点特征与第二进阶图数据中第四节点的节点特征，向目标用户推荐 目标产品。

在另外一些实施例中，还可以从第一进阶图数据中提取出第一对象 的节点特征，然后通过目标分类器对第一进阶图数据中第一节点的节点 特征进行分类处理，以预测第一对象的目标属性。其中，第一对象的目 标属性可以包括第一对象的年龄、性别、兴趣等，本公开对此不做限制。

在另外一些实施例中，还可以通过目标分类器对第一进阶图数据进 行分类处理，以预测第一进阶图数据的相关指标。例如，假设第一进行 图数据是多篇文章互相引用的图数据，通过本实施例提供的技术方案对 第一图数据进行处理后可以获得第一进阶图数据，然后通过目标分类器 对第一进阶图数据进行分类处理后，可以预测该多篇文章所涉及的研究 方向等，本公开对此不做限制。

总之，本领域技术人员可以根据自己的需求，将上述实施例提供的 基于图神经网络的数据处理方法应用到不同的场景下。

图5是根据一示例性实施例示出的一种基于图神经网络结构的数据 处理方法的流程图。

在一些实施例中，第一初阶图数据还包括第二节点，第一节点是第 二节点的邻居节点，第二节点的第二初阶节点特征中包括第二对象的类 别特征数据。

如图6所示，第一初阶图数据可以包括第一节点601、第二节点602 以及第三节点603等多个节点，其中，第一节点601是第二节点602的 邻居节点。

需要注意的是，本申请中的邻居节点可以包括一阶邻居节点(直接 相连)、二阶邻居节点(隔一个节点相连)、三阶邻居节点(隔两个节 点相连)等，本公开对此不做限制。

参考图5所示实施例，上述基于图神经网络结构的数据处理方法可 以包括以下步骤。

步骤S502，对第二对象的各个类别特征数据进行分组交互，并对分 组交互结果进行特征融合以获得第二对象的局部交互特征。

在一些实施例中，可以通过多个类别特征数据对第二对象进行描述， 例如若第二对象是某一用户，则可以通过年龄类别、性别类别、兴趣类 别等不同的类别属性对该用户进行描述，那么该第二对象对应的年龄类 别中的值、对应的性别类别中的值、对应的兴趣类别的值就可以是本申 请中的第二对象的各个类别特征数据。

在一些实施例中，可以通过图7所示的h2’来表示第二对象的第二初 阶节点特征。如图7所示，若h2’中对应位置为1的话，该位置处存在对 应的值，该位置处对应的值可以是第二对象的一个类别特征(例如，年 龄：24，本图未示出)，若h2’中对应位置为0的话，该位置处不存在对 应的值，即代表第二对象没有该位置为0处所对应的类别(例如性别) 的值(假设第二对象的第二初阶节点特征在性别类别所在位置处对应的 值为0，则代表第二对象没有性别信息)。

在一些实施例中，可以通过图神经网络结构的嵌入层(如图7中的 结构701)对第二初阶节点特征进行处理，以将第二初阶节点特征转换 为具有固定大小的向量或矩阵。

在一些实施例中，通过嵌入层处理后，第二对象的各个类别特征数 据均会被转换为一个向量，如图7所示，可以将第二初阶节点特征h2’的 四个类别特征数据(值为1位置处对应的数据)转换为4个向量(如E5、 E6、E7和E8)。

在一些实施例中，可以通过图神经网络的局部交互网络结构(如图 7中的结构702)对第二对象的各个类别特征数据进行分组交互处理。然 后，对分组交互结果进行特征融合以获得第二对象的局部交互特征h_2l。

其中，第二对象的局部交互特征可以是一种通过对第二对象各个类 别进行分组交互、特征融合后获得的一种可以对第二对象进行描述的特 征数据。

其中，对第二对象各个类别特征数据进行分组交互、特征融合可以 指的是，先对第二对象的各个类别分组(每组之间可以有交集，也可以 没有交集)，然后对每组中的类别特征数据进行交互处理以提取每组特 征，最后对各组交互处理后的结果进行特征融合。

其中，对第二对象的各个类别特征数据进行分组可以指的是对第二 对象的各个类别进行两两分组、三三分组、或者二三分组(即有的是两 个一组，有的是三个一组)，本公开对分组形式不做限制。

其中，对每组中的类别特征数据进行交互处理可以指的是对每组中 的类别特征数据求哈达码积、求相似结果、求距离结果等，本公开对交 互处理形式不做限制，任意一种可以对组内类别特征数据进行交互融合 的方法均可以是本公开中的交互处理方法。

在一些实施例中，对每组的交互结果进行特征融合可以指的是对每 组的交互结果进行求和、池化等，本公开对此不做限制。

在一些实施例中，可以使用线性函数(例如公式(1))将经过局部 交互建模的节点表示h_2l投射到节点标签空间以获得节点表示h′_2l。

步骤S504，对第二对象的多个类别特征数据进行全局特征交互，以 获得第二对象的全局交互特征。

在一些实施例中，可以通过图神经网络的全局交互网络结构(如图 7中的结构703)对第二对象的各个类别特征数据进行整体性的全局交互 处理，以获得第二对象的全局交互特征h_2g。

其中，对第二对象的类别特征数据进行全局交互可以指的是对第二 对象的类别特征数据进行一次性全局操作，以提取各个类别特征之间的 共同信息(上述局部特征提取的是分组内的共同信息，这里提取的是整 体的共同信息，二者不同)，例如对第二对象的类别特征数据进行邻域 聚合处理后再进行特征融合等。

在一些实施例中，使用线性函数(例如公式(2))将经过全局交互 建模的节点表示h_2g投射到节点标签空间。

步骤S506，将第二对象的局部交互特征与第二对象的全局交互特征 进行特征融合处理，以获得第二节点的第二进阶节点特征。

步骤S508，第一图神经网络通过第一进阶节点特征、针对第二节点 进行邻域聚合处理，以获得第二节点的第二目标节点特征

在一些实施例中，可以使用公式(3)对第二节点的局部交互特征(h′_2l) 和全局交互特征h′_2g进行特征融合(即图7中的聚合部分)，以获得第二 节点的第二进阶节点特征h₂，然后基于第一进阶节点特征h₁和h₂可以获得 第一进阶图数据，其中第一进阶图数据中第二节点对应的节点特征就是第 二目标节点特征。

在一些实施例中，可以通过第二图神经网络(如图7中的结构704) 对包括第二初阶节点特征的第二初阶图数据进行邻域聚合。其中，第二 图神经网络结构可以是任意可以对图数据进行处理的图结构，例如可以 是图卷积网络(Graph Convolution Networks，GCN)、图注意力网络(Graph Attention Networks)、图自编码器(Graph Autoencoders)、图生成网络 (Graph Generative Networks)和图时空网络(Graph Spatial-temporalNetworks)等，本公开对此不做限制。

图神经网络在大量图相关任务中都表现出强大的性能，虽然图神经 网络模型有很多种，但他们都有一个共同点：邻域聚合，邻域聚合中每 个节点的嵌入都是通过邻域(这里可以指的是扩展的邻域，即节点本身 也是自身的邻居)的嵌入来更新。

需要注意的是，针对第二初阶节点处理的局部交互网络结构与针对 第一初阶节点处理的局部交互网络结构可以是同一个网络结构，事实上 可以通过矩阵的变换，在同一个网络结构中实现对第一初阶节点和第二 初阶节点的同步处理。

另外，针对第二初阶节点的全局交互网络结构与针对第一初级节点 处理的全局交互网络结构也可以是同一个网络结构，本公开不再赘述。

可以理解的是，本申请是通过第一节点和第二节点解释了如何使用 本公开获得第一节点的第一进阶节点特征和第二节点的第二进阶节点特 征。本领域技术人员可以在本公开的基础上对第一初阶图数据中的各个 节点求取进阶节点特征，然后在各个节点均获得进阶节点特征的基础上， 再对第一进阶图数据进行处理，进而基于第一进阶图数据进行分类等预 测处理。

图8是根据一示例性实施例示出的一种基于图神经网络的数据处理 方法。

在一些实施例中，第一初阶图数据还包括第三节点，第三节点的第 三初阶节点特征中包括第三对象的类别特征数据，第二节点是第三节点 的一阶邻居节点，第一节点是第三节点的二阶邻居节点。

参考图8，上述基于图神经网络的数据处理方法可以包括以下步骤。

步骤S802，对第三对象的各个类别特征数据进行分组交互，并对分 组交互结果进行特征融合以获得第三对象的局部交互特征。

步骤S804，对第三对象的多个类别特征数据进行全局特征交互，以 获得第三对象的全局交互特征。

步骤S806，将第三对象的局部交互特征与第三对象的全局交互特征 进行特征融合处理，以获得第三节点的第三进阶节点特征。

上述第三进阶节点特征的获取过程与第二进阶节点特征(或第一进 阶节点特征)的获取过程类似，本公开的对此不做限制。

步骤S808，第一图神经网络通过第一进阶节点特征和第二进阶节点 特征、针对第三节点进行邻域聚合处理，以获得第三节点的第三目标节 点特征。

本公开实施例示出了一种根据一跳邻居(例如第二节点)的节点特 征、两跳邻居(例如第一更新节点)的节点特征对当前节点(例如第三 节点)进行邻域聚合的过程。通过多跳邻域聚合为当前节点确定的节点 特征，可以在通过节点的类别特征数据表征节点的同时，还结合了邻居 节点与自身节点的共通性对节点进行了表示。

图9是根据一示例性实施例示出的一种分组交互方法的流程图。

在一些实施例中，第一对象的类别特征数据可以包括多个类别特征 数据，例如可以包括第一类别特征数据、第二类别特征数据和第三类别 特征数据。

参考图9，上述分组交互方法可以包括以下步骤。

步骤S902，将第一类别特征数据与第二类别特征数据进行信息交互 处理，以获得第一局部交互数据。

步骤S904，将第一类别特征数据域第二类别特征数据进行信息交互 处理，以获得第二局部交互数据。

步骤S906,将第二类别特征数据域第一类别特征数据进行信息交互 处理，以获得第三局部交互数据。

步骤S908，将第一局部交互数据、第二局部交互数据以及第三局部 交互数据进行信息融合，以获得第一对象的局部交互特征。

在一些实施例中，可以对第一特征数据、第二特征数据以及第三特 征数据进行两两分组，然后对每组的类别特征数据进行信息交互处理， 以获得可以描述该组信息的第一局部交互数据、第二局部交互数据、或 者第三局部交互数据等。

在一些实施例中，上述交互处理可以指的是将类别特征数据进行求 哈达码积处理、求和处理、求积处理等，本公开对此不做限制。

在获得第一局部交互数据、第二局部交互数据、或者第三局部交互 数据后，可以对第一局部交互数据、第二局部交互数据、或者第三局部 交互数据进行信息融合，例如对第一局部交互数据、第二局部交互数据、 或者第三局部交互数据进行求和处理、池化处理、或者求均值处理等， 本公开对此不做限制。

上述局部特征交互建模方法(即分组交互方法)可以挖掘有效的组 合特征，丰富输入信息。考虑到现实场景中的大多数特征都是稀疏的， 这一点尤为重要。例如，拥有具有组合特征{性别：男性，年龄：20-25} 的人更有可能是数码产品爱好者。这种特征的组合比单独的{性别：男性} 或者{年龄：20-25}或更具甄别性。在进行局部交互建模时，我们可以采 用以下双线性交互池化算法来建模成对特征间的交互，从而获得更有价 值的特征组合从而丰富模型的输入信息。该算法没有引入额外的参数， 计算复杂度很低，具体计算方式如下(e_i为类别特征i的嵌入)：

其中，

代表第一对象多个类别特征数据集合，i和j为大于或者等于 1的整数，e_i和e_j代表类别特征数据的嵌入。

本公开实施例提供的技术方案，可以发掘离散类别特征间成对的信 息特征，这种细粒度的信息可以反映节点的细节属性。

图10是根据一示例性实施例示出的一种全局交互方法的流程图。

参考图10，上述全局交互方法可以包括以下步骤。

步骤S1002，根据第一对象的各个类别特征数据生成目标类别图。

在一些实施例中，可以根据第一对象的各个类别特征数据生成目标 类别图，其中目标类别图的邻接矩阵A可以是全1矩阵，目标类别图的 各个节点的值可以为各个类别特征数据。

步骤S1004，对目标类别图进行邻域聚合处理，以获得邻域聚合类 别图。

在一些实施例中，在获得目标类别特征数据后可以对目标类别图进 行邻域聚合，该邻域聚合可以是K跳邻域聚合，K为大于或者等于1的整 数，本公开对此不做限制。

例如，可以采用公式(7)对目标类别图进行邻域聚合处理。

H^l+1＝f(H^l,A)→f(H^l+1,A)＝σ(AH^lW^l) (7)

其中，H⁰＝X，H^L＝Z，A是目标类别图的邻接矩阵，特征矩阵X代表 目标类别图的各个节点的特征值，Z表示邻域聚合的输出，L代表邻域聚 合的次数，l为大于等于0小于L的整数，f代表邻域聚合的映射，σ代表 一种激活函数，W代表待训练的参数。

步骤S1006，对邻域聚合类别图进行池化处理以获得第一对象的全 局交互特征。

本公开实施例提供的技术方案，可以通过学习整个类别特征集合的 整体信息，可以在更高层面上发现与预测目标关联的总体特征。

图11是根据一示例性实施例示出的一种全局交互方法的流程图。

与局部交互建模不同，全局交互建模的目的是获取与预测目标相关 的节点特性信息。在实际场景中，与节点相关的类别特征通常是不同的， 这可能反映了节点的不同特性。例如，某用户的购买历史记录包括笔记 本电脑、手机、无人机、跑鞋、运动服等，这些都反映了数码产品和运 动的特性信息。如果我们想预测该用户是否是“数码产品爱好者”，我们 应该设计一种策略来获取笔记本电脑、手机和无人机中包含的有效信号。 这种特性可能与用户兴趣的预测目标密切相关，例如，数字产品表明用 户是“数字爱好者”。因此，我们需要从该用户的类别特征数据集

中过 滤出这种潜在的特性，以便于预测。我们假设在频谱域的某一特定频率 上存在这样一个全局特征信号，并利用图神经网络来提取这一重要信息。

受图谱分析理论的启发，我们认为，与预测目标关联的潜在信号存 在于频谱域的某个频率上。因此，我们对全局交互建模的关键考虑是发 现谱域上与预测目标关联的潜在信号，并强化该特定频率上的信号以提 高初始节点表示的质量。考虑到图卷积网络对频率的滤波能力，我们通 过精心设计的图神经网络(例如GCN)模块实现了全局交互建模。具体来说，首先针对第一对象构建了一个目标类别图，图里的所有“节点” 均来自与节点关联的类别特征。由于这些类别特征均为同一节点所有， 因此采用这种方式构建的目标类别图的邻接矩阵P是全一矩阵。然后借助 探针系数ρ来发现和强化与预测目标相关的全局交互信号，并使用池化函 数pool(·)来聚合图中类别特征的信息，最终以很低的计算代价获得全局 交互建模优化后的节点表示。具体计算过程如下(O为目标类别图的单位 矩阵)。

步骤S1102，确定目标类别图的类别特征矩阵和类别邻接矩阵。

在一些实施例中，可以根据第一对象的各个类别特征数据生成目标 类别图，其中目标类别图的邻接矩阵P可以是全1矩阵，目标类别图的各 个节点的值可以为各个类别特征数据。

步骤S1104，获取目标探针系数，并根据目标探针系数和类别邻接 矩阵确定增强类别邻接矩阵。

在一些实施例中，可以预设一探针系数ρ，该探针系数的预设范围例 如可以是20-30，例如可以设置为21、22等，本领域技术人员可以根据 需要自行设置。

在一些实施例中，可以根据公式(8)获得增强类别邻接矩阵

其 中Q是邻接矩阵P的度矩阵，O是目标类别图的单位矩阵。

步骤S1106，根据增强类别邻接矩阵和类别特征数据矩阵进行邻域 聚合处理，以获得增强类别特征矩阵。

在一些实施例中，可以根据公式

获得增强类别特征矩阵，其中E就 可以是目标类别图的类别特征数据矩阵。

步骤S1108，对增强类别特征矩阵进行特征变换处理，以获得邻域 聚合类别图。

在一些实施例中，可以通过公式

对增强类别特征矩阵

进 行特征变换处理，以获得邻域聚合类别图，W可以是待训练的参数，σ是 激活函数。

在一些实施例中，可以通过公式(9)对邻域聚合类别图进行池化处 理，以获得第一对象的全局交互特征h_g。

下面将将对为什可以借助探针系数σ来发现和强化与预测目标相关 的全局交互信号进行说明。

对于该目标类别图，其归一化图拉普拉斯矩阵L可以通过公式(10) 获得：

该矩阵是一个对称正半正定矩阵，可以分解为L＝UΛU^T，其中U是 一个由正交的特征向量组成的矩阵，Λ则是一个由特征值构成的对角矩阵。 在频域中对目标类别图进行卷积操作等价于：

其中，s是需要变换的频率信号，即类别特征嵌入矩阵E的每一列转 换至频域后获得的频率信息，g表示滤波器，

表示滤波器g的频谱滤波系数

组成的对角矩阵，diag是对角矩阵创 建函数。从功能上来说，特征值λ_i代表不同的频率，U^Ts是信号s沿频率 的投影(或者说分解)。分解后，图卷积根据频谱滤波系数对信号进行滤 波。

在全局交互建模中，

因此，对一个特定的频率λ_i，其频谱系数

由于L 的特征值为λ₁＝0和

(

重)，其相应的频谱滤波系 数为1和

此处λ₁＝0的滤波频率保留了原始输入信息，而

是可以调节的(因为ρ可调)。因此，可以通过调整ρ的 值进而调整λ₂的值，通过调整λ₂的值进而调整

的值，通过调整

的值进而调整滤波器g的滤波效果，进而发现谱域上与预测目标关联的潜 在信号，即过滤得到全局交互信号。也就是说，通过调整探测系数ρ，可 以找到存在全局交互信号的频率λ₂。

本公开实施例提供的技术方案，可以通过学习整个类别特征集合的 整体信息，可以在更高层面上发现与预测目标关联的总体特征。

上述提供的基于图神经网络的数据处理方法(如图2所示方法)可 以结合图卷积神经网络GCN进行下游任务的预测，例如可以将上述基于 图神经网络的数据处理方法在图3所示的邻域聚合部分采用图卷积神经 网络，以形成CatGCN(Graph ConvolutionalNetworks with Categorical Node Features，类别节点特征图卷积网络)。

那么本公开实施例提供的技术方案(CatGCN)可以以下三个优点：1)有效提高初始节点表示的质量；2)以极低的计算代价完成特征交互 建模；3)显著提高下游任务的性能。详细情况说明如下：

1)有效提高初始节点表示的质量

本公开利用在一个合成图上的实验来说明这一点。图12显示了四种 测试模型(GCN、SGN、CatGCN_L、和CatGCN_G)在其训练过程中 的Silhouette(聚类评估算法-轮廓系数)评分，该分数取值区间为[-1,1]， 越大的分数对应越高质量的初始节点表示。其中，GCN(一种图卷积神 经网络)和SGC(一种图神经网络)没有进行显式的特征交互建模，仅 通过常规的特征变换(即通过嵌入层之后直接进行特征变换)获得初始 节点表示；CatGCN_L是仅使用局部交互(即分组交互)之后获得 Silhouette评分，CatGCN_G是仅使用全局交互之后获得Silhouette评分。 从图中可以看出，CatGCN_L和CatGCN_G都可以获得好的Silhouette 评分，这显示了特征交互建模的好处。此外，本公开还通过t-SNE(一 种降维方法)执行降维以对节点进行可视化，从而定性地评估初始节点 表示的质量。图13展示了测试模型在训练迭代第500次的节点表示。 从图中可以看出，采用CatGCN_L和CatGCN_G模型得到的初始节点表 示对比GCN和SGC区分度提升明显，这进一步反映了我们提出的局部 和全局特征交互建模策略的优势。

2)以极低的计算代价完成特征交互建模

首先，根据公式(4)可以发现局部交互建模没有引入任何参数，且 为线性时间计算复杂度。其次，全局特征交互建模仅引入一个权重参数， 较以往全局建模方式计算代价很低。同时，本公开证明了在全局特征交 互建模时进行的图计算中，只需一次操作便可以达到多次图卷积的效果。 相应理论如下：在目标类别图上，K跳邻域聚合等价于使用一个较小的 ρ进行1跳邻域聚合，K为大于或者等于1的整数，ρ₁和ρ₂均为探针系 数，

代表某个节点所对应的类别特征数据的集合。

在形式上表现为：

i为大于等于0小于K的整数。

3)显著提高下游任务的性能

我们将上述CatCGN在三个真实场景下的大规模类别节点图数据集上进 行了实验，数据集统计信息如表1所示，相应的实验结果如表2所示。

表1数据集统计信息

表2不同方法在三个数据集上的性能比较

其中，GraphSAGE(Graph SAmple and aggreGatE，对图进行抽样 sample和聚合aggregate)，APPNP是一种用于半监督分类的图卷积网络 模型，SGC(Simplifying graphconvolutional networks，简化图卷积网络)， CrossGCN(Enhancing GraphConvolutional Network with k-Order Feature Interactions，使用k阶特征交互增强图卷积网络)，GCNII(Simple and Deep Graph Convolutional Networks，简单而深度的图卷积网络)，GAT (Graph Attention Network，图注意力网络)。

其中，Accuracy(精度)和Macro-F1(一种分类性能指标)越大代表 模型的分类效果越好。

从表中可以看出，CatGCN较众多对比模型取得了显著的进步，平均 提升高达12.41％。与此同时，我们发现许多最新模型无法实现理想的性 能，并且没有一个基线模型能够在所有任务中提供一致的优越性能。作为 对比，CatGCN在三个数据集上始终取得了最佳性能，这说明了建模类别 特征交互的必要性以及我们提出方案的有效性。

本发明的核心在于使用显式特征交互建模策略优化图神经网络的节 点初始表示从而提高下游任务性能。这种交互建模策略存在其它替代方案， 如利用图注意力机制动态完成交互计算。然而，本发明应用场景中缺乏对 注意力权值的监督训练，很难找到最优的初始化，导致性能较差。此外， 这种策略对模型训练提出了巨大的挑战，例如难以负担的计算和内存成本， 以及严重的过拟合。相比之下，CatGCN以非常简洁的方式建模全局特征 交互，它具有与标准完全连接层相同的复杂性。

图14是根据一示例性实施例示出的一种基于图神经网络的数据处理 装置的框图。参照图14，本公开实施例提供的基于图神经网络的数据处理 装置1400可以包括：局部交互特征获取模块1401、全局交互特征获取模 块1402、第一进阶节点特征获取模块1403和第一进阶图数据获取模块 1404。

其中，局部交互特征获取模块1401可以用于对第一对象的各个类别 特征数据进行分组交互，并对分组交互结果进行特征融合以获得第一对 象的局部交互特征；全局交互特征获取模块1402可以用于对第一对象的 类别特征数据进行全局特征交互，以获得第一对象的全局交互特征；第 一进阶节点特征获取模块1403可以用于将第一对象的局部交互特征与 第一对象的全局交互特征进行特征融合处理，以获得第一节点的第一进 阶节点特征；第一进阶图数据获取模块1404可以用于第一图神经网络根 据第一进阶节点特征对第一初阶图数据进行邻域聚合处理，以获得第一 进阶图数据。

在一些实施例中，第一初阶图数据还包括第二节点，第一节点是第 二节点的邻居节点，第二节点的第二初阶节点特征中包括第二对象的类 别特征数据，基于图神经网络的数据处理装置1400还包括：第二局部交 互特征获取模块、第二全局交互特征获取模块、第二进阶节点特征获取 模块，第一进阶图数据获取模块1404可以包括第一邻域聚合模块。

其中，第二局部交互特征获取模块可以用于对第二对象的各个类别 特征数据进行分组交互，并对分组交互结果进行特征融合以获得第二对 象的局部交互特征；第二全局交互特征获取模块可以用于对第二对象的 多个类别特征数据进行全局特征交互，以获得第二对象的全局交互特征； 第二进阶节点特征获取模块可以用于将第二对象的局部交互特征与第二 对象的全局交互特征进行特征融合处理，以获得第二节点的第二进阶节 点特征；第一邻域聚合模块可以用于第一图神经网络通过第一进阶节点 特征、针对第二节点进行邻域聚合处理，以获得第二节点的第二目标节 点特征。

在一些实施例中，第一初阶图数据还包括第三节点，第三节点的第 三初阶节点特征中包括第三对象的类别特征数据，第二节点是第三节点 的一阶邻居节点，第一节点是第三节点的二阶邻居节点；其中，基于图 神经网络的数据处理装置1400还包括：第三局部交互特征获取模块、第 三全局交互特征获取模块、第三进阶节点特征获取模块。

其中，第三局部交互特征获取模块可以用于对第三对象的各个类别 特征数据进行分组交互，并对分组交互结果进行特征融合以获得第三对 象的局部交互特征；第三全局交互特征获取模块可以用于对第三对象的 多个类别特征数据进行全局特征交互，以获得第三对象的全局交互特征； 第三进阶节点特征获取模块可以用于将第三对象的局部交互特征与第三 对象的全局交互特征进行特征融合处理，以获得第三节点的第三进阶节 点特征；其中，第一进阶图数据获取模块1404可以包括：第二邻域聚合 模块，第一图神经网络通过第一进阶节点特征和第二进阶节点特征、针 对第三节点进行邻域聚合处理，以获得第三节点的第三目标节点特征。

在一些实施例中，第一对象的类别特征数据包括第一类别特征数据、 第二类别特征数据和第三类别特征数据；其中，全局交互特征获取模块 1402可以包括：第一局部交互数据获取单元、第二局部交互数据获取单 元、第三局部交互数据获取单元以及局部数据融合单元。

其中，第一局部交互数据获取单元可以用于将第一类别特征数据与 第二类别特征数据进行信息交互处理，以获得第一局部交互数据；第二 局部交互数据获取单元可以用于将第一类别特征数据域第二类别特征数 据进行信息交互处理，以获得第二局部交互数据；第三局部交互数据获 取单元可以用于将第二类别特征数据域第一类别特征数据进行信息交互 处理，以获得第三局部交互数据；局部数据融合单元可以用于将第一局 部交互数据、第二局部交互数据以及第三局部交互数据进行信息融合， 以获得第一对象的局部交互特征。

在一些实施例中，全局交互特征获取模块1402可以包括：目标类别 图获取单元、邻域聚合类别图获取单元以及池化单元。

其中，目标类别图获取单元可以用于根据第一对象的各个类别特征 数据生成目标类别图；邻域聚合类别图获取单元可以用于对目标类别图 进行邻域聚合处理，以获得邻域聚合类别图；池化单元可以用于对邻域 聚合类别图进行池化处理以获得第一对象的全局交互特征。

在一些实施例中，邻域聚合类别图获取单元可以包括：类别邻接矩 阵确定子单元、探针系数获取子单元、增强类别特征矩阵获取子单元以 及特征变换处理子单元。

其中，类别邻接矩阵确定子单元可以用于确定目标类别图的类别特 征矩阵和类别邻接矩阵；探针系数获取子单元可以用于获取目标探针系 数，并根据目标探针系数和类别邻接矩阵确定增强类别邻接矩阵；增强 类别特征矩阵获取子单元可以用于根据增强类别邻接矩阵和类别特征数 据矩阵进行邻域聚合处理，以获得增强类别特征矩阵；特征变换处理子 单元可以用于对增强类别特征矩阵进行特征变换处理，以获得邻域聚合 类别图。

在一些实施例中，所述第一初阶图数据用来描述多个用户的用户特 征，所述多个用户包括目标用户，所述第一对象是所述目标用户；其中， 所述基于图神经网络的数据处理装置还包括：第二初阶图数据获取模块、 目标产品局部特征获取模块、目标产品全局特征获取模块、产品特征融 合处理模块、产品特征邻域聚合模块以及推荐模块。

其中，所述第二初阶图数据获取模块用于获取描述多个产品的第二 初阶图数据，所述多个产品包括目标产品，所述第二初阶图数据包括第 四节点，所述第四节点的第四初阶节点特征包括所述目标产品的类别特 征数据；所述目标产品局部特征获取模块用于对所述目标产品的各个类 别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述 目标产品的局部交互特征；所述目标产品全局特征获取模块用于对所述 目标产品的类别特征数据进行全局特征交互，以获得所述目标产品的全 局交互特征；所述产品特征融合处理模块用于将所述目标产品的局部交 互特征与所述目标产品的全局交互特征进行特征融合处理，以获得所述 第四节点的第四进阶节点特征；所述产品特征邻域聚合模块用于第二图 神经网络根据所述第四进阶节点特征对所述第一初阶图数据进行邻域聚 合处理，以获得第二进阶图数据；所述推荐模块用于根据所述第一进阶 图数据中第一节点的节点特征与所述第二进阶图数据中第四节点的节点 特征，向所述第一对象推荐所述目标产品。

在一些实施例中，基于图神经网络的数据处理装置1400还可以包括： 分类模块。

其中，分类模块可以用于通过目标分类器对第一进阶图数据中第一 节点的节点特征进行分类处理，以预测第一对象的目标属性。

由于装置1400的各功能已在其对应的方法实施例中予以详细说明， 本公开于此不再赘述。

描述于本申请实施例中所涉及到的模块、单元或子单元可以通过软件 的方式实现，也可以通过硬件的方式来实现。所描述的模块、单元或子单 元也可以设置在处理器中。其中，这些模块、单元或子单元的名称在某种 情况下并不构成对该模块、单元或子单元本身的限定。

附图中的流程图和框图，图示了按照本申请各种实施例的系统、方 法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上， 流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部 分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定 的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两 个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相 反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图 中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的 功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计 算机指令的组合来实现。

此外，上述附图仅是根据本公开示例性实施例的方法所包括的处理的 示意性说明，而不是限制目的。易于理解，上述附图所示的处理并不表明 或限制这些处理的时间顺序。另外，也易于理解，这些处理可以是例如在 多个模块中同步或异步执行的。

图15示出了适于用来实现本公开实施例的电子设备的结构示意图。 需要说明的是，图15示出的电子设备1500仅是一个示例，不应对本公 开实施例的功能和使用范围带来任何限制。

如图15所示，电子设备1500包括中央处理单元(CPU)1501，其 可以根据存储在只读存储器(ROM)1502中的程序或者从储存部分1508 加载到随机访问存储器(RAM)1503中的程序而执行各种适当的动作和 处理。在RAM 1503中，还存储有电子设备1500操作所需的各种程序和 数据。CPU 1501、ROM 1502以及RAM 1503通过总线1504彼此相连。 输入/输出(I/O)接口1505也连接至总线1504。

以下部件连接至I/O接口1505：包括键盘、鼠标等的输入部分1506； 包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的 输出部分1507；包括硬盘等的储存部分1508；以及包括诸如LAN卡、 调制解调器等的网络接口卡的通信部分1509。通信部分1509经由诸如 因特网的网络执行通信处理。驱动器1510也根据需要连接至I/O接口 1505。可拆卸介质1511，诸如磁盘、光盘、磁光盘、半导体存储器等等， 根据需要安装在驱动器1510上，以便于从其上读出的计算机程序根据需 要被安装入储存部分1508。

特别地，根据本公开的实施例，上文参考流程图描述的过程可以被 实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产 品，其包括承载在计算机可读存储介质上的计算机程序，该计算机程序 包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计 算机程序可以通过通信部分1509从网络上被下载和安装，和/或从可拆 卸介质1511被安装。在该计算机程序被中央处理单元(CPU)1501执 行时，执行本申请的系统中限定的上述功能。

需要说明的是，本公开所示的计算机可读存储介质可以是计算机可 读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算 机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外 线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读 存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电 连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储 器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便 携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或 者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者 器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可 以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算 机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不 限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介 质还可以是计算机可读存储介质以外的任何计算机可读存储介质，该计 算机可读存储介质可以发送、传播或者传输用于由指令执行系统、装置 或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的 程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光 缆、RF等等，或者上述的任意合适的组合。

作为另一方面，本申请还提供了一种计算机可读存储介质，该计算 机可读存储介质可以是上述实施例中描述的设备中所包含的；也可以是 单独存在，而未装配入该设备中。上述计算机可读存储介质承载有一个 或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该 设备可实现功能包括：对第一对象的各个类别特征数据进行分组交互， 并对分组交互结果进行特征融合以获得第一对象的局部交互特征；对第 一对象的类别特征数据进行全局特征交互，以获得第一对象的全局交互 特征；将第一对象的局部交互特征与第一对象的全局交互特征进行特征 融合处理，以获得第一节点的第一进阶节点特征；第一图神经网络根据 第一进阶节点特征对第一初阶图数据进行邻域聚合处理，以获得第一进 阶图数据。

根据本申请的一个方面，提供了一种计算机程序产品或计算机程序， 该计算机程序产品或计算机程序包括计算机指令，该计算机指令存储在 计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读 取该计算机指令，处理器执行该计算机指令，使得该计算机设备执行上 述实施例的各种可选实现方式中提供的方法。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描 述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件 的方式来实现。因此，本公开实施例的技术方案可以以软件产品的形式 体现出来，该软件产品可以存储在一个非易失性存储介质(可以是 CD-ROM，U盘，移动硬盘等)中，包括若干指令用以使得一台计算设 备(可以是个人计算机、服务器、移动终端、或者智能设备等)执行根据 本公开实施例的方法，例如图2、图5、图8、图9、图10或图11的一个 或多个所示的步骤。

本领域技术人员在考虑说明书及实践在这里公开的公开后，将容易想 到本公开的其他实施例。本公开旨在涵盖本公开的任何变型、用途或者适 应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包 括本公开未申请的本技术领域中的公知常识或惯用技术手段。说明书和实 施例仅被视为示例性的，本公开的真正范围和精神由权利要求指出。

应当理解的是，本公开并不限于这里已经示出的详细结构、附图方式 或实现方法，相反，本公开意图涵盖包含在所附权利要求的精神和范围内 的各种修改和等效设置。

Claims (12)

1.一种基于图神经网络的数据处理方法，其特征在于，第一初阶图数据包括第一节点，所述第一节点的第一初阶节点特征中包括第一对象的类别特征数据；所述方法包括：

对所述第一对象的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述第一对象的局部交互特征；

对所述第一对象的类别特征数据进行全局特征交互，以获得所述第一对象的全局交互特征；

将所述第一对象的局部交互特征与所述第一对象的全局交互特征进行特征融合处理，以获得所述第一节点的第一进阶节点特征；

第一图神经网络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚合处理，以获得第一进阶图数据。

2.根据权利要求1所述方法，其特征在于，所述第一初阶图数据还包括第二节点，所述第一节点是所述第二节点的邻居节点，所述第二节点的第二初阶节点特征中包括第二对象的类别特征数据，所述方法还包括：

对所述第二对象的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述第二对象的局部交互特征；

对所述第二对象的多个类别特征数据进行全局特征交互，以获得所述第二对象的全局交互特征；

将所述第二对象的局部交互特征与所述第二对象的全局交互特征进行特征融合处理，以获得所述第二节点的第二进阶节点特征；

其中，第一图神经网络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚合处理，以获得第一进阶图数据，包括：

所述第一图神经网络通过所述第一进阶节点特征、针对所述第二节点进行邻域聚合处理，以获得所述第二节点的第二目标节点特征。

3.根据权利要求2所述方法，其特征在于，所述第一初阶图数据还包括第三节点，所述第三节点的第三初阶节点特征中包括第三对象的类别特征数据，所述第二节点是所述第三节点的一阶邻居节点，所述第一节点是所述第三节点的二阶邻居节点；其中，所述方法还包括：

对所述第三对象的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述第三对象的局部交互特征；

对所述第三对象的多个类别特征数据进行全局特征交互，以获得所述第三对象的全局交互特征；

将所述第三对象的局部交互特征与所述第三对象的全局交互特征进行特征融合处理，以获得所述第三节点的第三进阶节点特征；

其中，第一图神经网络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚合处理，以获得第一进阶图数据，包括：

所述第一图神经网络通过所述第一进阶节点特征和所述第二进阶节点特征、针对所述第三节点进行邻域聚合处理，以获得所述第三节点的第三目标节点特征。

4.根据权利要求2所述方法，其特征在于，所述第一对象的类别特征数据包括第一类别特征数据、第二类别特征数据和第三类别特征数据；其中，对所述第一对象的类别特征数据进行全局特征交互，以获得所述第一对象的全局交互特征，包括：

将所述第一类别特征数据与所述第二类别特征数据进行信息交互处理，以获得第一局部交互数据；

将所述第一类别特征数据域所述第二类别特征数据进行信息交互处理，以获得第二局部交互数据；

将所述第二类别特征数据域所述第一类别特征数据进行信息交互处理，以获得第三局部交互数据；

将所述第一局部交互数据、所述第二局部交互数据以及所述第三局部交互数据进行信息融合，以获得所述第一对象的局部交互特征。

5.根据权利要求1所述方法，其特征在于，对所述第一对象的类别特征数据进行全局特征交互，以获得所述第一对象的全局交互特征，包括：

根据所述第一对象的各个类别特征数据生成目标类别图；

对所述目标类别图进行邻域聚合处理，以获得邻域聚合类别图；

对所述邻域聚合类别图进行池化处理以获得所述第一对象的全局交互特征。

6.根据权利要求5所述方法，其特征在于，对所述目标类别图进行邻域聚合处理，以获得邻域聚合类别图，包括：

确定所述目标类别图的类别特征矩阵和类别邻接矩阵；

获取目标探针系数，并根据所述目标探针系数和所述类别邻接矩阵确定增强类别邻接矩阵；

根据所述增强类别邻接矩阵和所述类别特征数据矩阵进行邻域聚合处理，以获得增强类别特征矩阵；

对所述增强类别特征矩阵进行特征变换处理，以获得所述邻域聚合类别图。

7.根据权利要求1所述方法，其特征在于，所述第一初阶图数据用来描述多个用户的用户特征，所述多个用户包括目标用户，所述第一对象是所述目标用户；其中，所述方法还包括：

获取描述多个产品的第二初阶图数据，所述多个产品包括目标产品，所述第二初阶图数据包括第四节点，所述第四节点的第四初阶节点特征包括所述目标产品的类别特征数据；

对所述目标产品的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述目标产品的局部交互特征；

对所述目标产品的类别特征数据进行全局特征交互，以获得所述目标产品的全局交互特征；

将所述目标产品的局部交互特征与所述目标产品的全局交互特征进行特征融合处理，以获得所述第四节点的第四进阶节点特征；

第二图神经网络根据所述第四进阶节点特征对所述第二初阶图数据进行邻域聚合处理，以获得第二进阶图数据；

根据所述第一进阶图数据中第一节点的节点特征与所述第二进阶图数据中第四节点的节点特征，向所述目标用户推荐所述目标产品。

8.根据权利要求1所述方法，其特征在于，所述方法还包括：

通过目标分类器对所述第一进阶图数据中第一节点的节点特征进行分类处理，以预测所述第一对象的目标属性。

9.一种基于图神经网络的数据处理装置，其特征在于，第一初阶图数据包括第一节点，所述第一节点的第一初阶节点特征中包括第一对象的类别特征数据；包括：

局部交互特征获取模块，用于对所述第一对象的各个类别特征数据进行分组交互，并对分组交互结果进行特征融合以获得所述第一对象的局部交互特征；

全局交互特征获取模块，用于对所述第一对象的类别特征数据进行全局特征交互，以获得所述第一对象的全局交互特征；

第一进阶节点特征获取模块，用于将所述第一对象的局部交互特征与所述第一对象的全局交互特征进行特征融合处理，以获得所述第一节点的第一进阶节点特征；

第一进阶图数据获取模块，用于第一图神经网络根据所述第一进阶节点特征对所述第一初阶图数据进行邻域聚合处理，以获得第一进阶图数据。

10.一种电子设备，其特征在于，包括：

存储器；以及

耦合到所述存储器的处理器，所述处理器被用于基于存储在所述存储器中的指令，执行如权利要求1-8任一项所述的基于图神经网络的数据处理方法。

11.一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时实现如权利要求1-8任一项所述的基于图神经网络的数据处理方法。

12.一种计算机程序产品，包括计算机指令，所述计算机指令存储在计算机可读存储介质中，其特征在于，所述计算机指令被处理器执行时实现权利要求1-8任一项所述方法。

Images