CN111881342A - 一种基于图孪生网络的推荐方法 - Google Patents

Abstract

一种基于图孪生网络的推荐方法应用于个性化推荐领域。现有方法(1)缺乏知识扩展性，比如难以有效融合用户社交关系信息；(2)多层特征信息传播范式下，学到的特征会出现过平滑问题。因此本发明提出了一种基于图孪生网络的推荐方法，通过用户、物品的交互信息建模用户关系图和物品关系图，通过本发明设计的图卷积层，以两个同构有向图的形式分别挖掘用户关系信息和物品关系信息。最后，通过图交互层聚合两个通道的用户特征和物品特征，充分提取用户偏好信息和物品属性信息。本发明有效保持U‑I特征特性，显著提高个性化推荐准确率，具备良好的模型可扩展性，有着广阔的应用前景。

Description

一种基于图孪生网络的推荐方法

技术领域

本发明应用于基于U-I关系的推荐系统领域，具体涉及图卷积神经网络、注意力机制、用户偏好信息以及物品属性信息特征提取，U-I交互信息建模等数据挖掘与深度学习技术。

背景技术

个性化推荐是一个综合性的分析任务，在社交网络，音乐电台，电子商务，个性化广告，电影和视频网站等领域应用广泛，因此备受关注。近年来，深度学习在计算机视觉、自然语言处理等许多研究领域取得了巨大的成功，引起了人们的极大兴趣。深度学习在推荐系统中的应用非常广泛，在信息检索和推荐系统研究领域中已经证明了它的有效性，是未来推荐系统的发展方向。但是，传统的深度学习方法在复杂度和可扩展性方面存在着不足，模型训练往往需要很长时间，如何平衡模型可扩展性和复杂度仍然是一个大的问题；与此同时，传统的深度学习在推荐领域往往作为一种特征提取工具，仅仅依靠传统的深度学习模型难以实现推荐系统的端到端的推荐实现。

图神经网络技术最早由Joan Bruna于2014年提出。研究发现，图神经网络可以对非欧氏空间的数据进行准确建模，有效地捕获数据的内部依赖关系，为非欧式数据的分析处理开辟了新的天地。近几年，图神经网络的研究有了很大的发展，Thomas Kpif于2017年提出了图卷积神经网络的概念，它为图结构数据的处理提供了一个崭新的思路，将深度学习中的卷积神经网络应用到图结构数据上。与此同时，Hamilton提出一种适用于大规模网络的归纳式学习方式，实现了无需额外训练就能为新增节点快速生成节点特征，极大缓解了图卷积神经网络的可扩展性问题。在推荐系统的研究上，Rianne van den Berg在2017年提出了GC-MC图神经网络推荐框架。2018年，Pinterest公司和Stanford公司联合提出了基于图卷积神经网络的推荐系统模型PinSage，第一次将图卷积神经网络成功应用于业界推荐系统，为图卷积神经网络的应用落地提供了宝贵的借鉴意义和经验；王翔、何向南等人在2019年提出了NGCF推荐方法，利用图卷积网络有效挖掘U-I交互信息。然而，上述方法大多将用户物品信息建模到一张图中，导致模型的复杂度和模型训练时间难以得到有效的控制，而且，基于单图的推荐方法缺乏知识扩展性，难以聚合多平台U-I关系、用户社交关系等其他信息来源。

注意力机制是目前广为人谈的热点方向，近几年在深度学习各个领域被广泛应用。无论是机器视觉，自然语言处理等各种不同类型的任务中，都很容易遇到注意力模型的身影。注意力机制在建模位置权重，视觉权重，属性权重等应用场景都有非常出众的表现，在推荐系统领域中，注意力机制是聚合用户偏好信息和物品属性信息的必不可少的组成部分。尤其是多层神经网络和softmax的低复杂度组合，在保证了复杂度的同时，能够非常有效的提取用户和物品的信息权重。

发明内容

为了实现用户的个性化推荐系统，提出了一种基于图孪生网络的个性化推荐方案。方法流程如图1所示。该方法以用户关系图和物品关系图作为输入数据，各模块对用户关系、物品关系信息进行充分挖掘，有效建模U-I交互关系，最后输出目标用户对待推荐物品的预测评分。具体来说，该方法首先根据U-I交互数据进行用户关系图和物品关系图结构化建模。然后，通过两层本发明设计的图卷积网络层分别对用户关系图和物品关系图进行图卷积分析，学习节点特征表达，进而有效挖掘用户关系信息和物品关系信息。然后，利用图注意力机制，通过一层图交互网络层建模目标用户和待推荐物品的交互特征。并通过DNN网络学习交互特征向量的分布规律，建模U-I之间高阶非线性关系，得到目标用户对待推荐物品的预测评分。最后通过top-N推荐机制实现对用户的个性化推荐任务。本方法总体框图如图1所示。

本方法各主要模块的发明内容如下：

1.用户关系信息和物品关系信息挖掘

第一个模块是用户关系信息和物品关系信息挖掘模块，U-I关系信息提取的有效性直接决定了推荐系统的个性化推荐准确率，为了充分挖掘用户关系和物品关系信息，本发明设计了双通道的图孪生网络进行U-I关系特征的学习，其中每个通道通过两层图卷积层对用户关系特征和物品关系特征进行建模分析。双通道的处理方式在极大降低模型局部复杂度的同时，有效地提升模型的可扩展性，比如可以在用户关系图两个节点之间多加入一条边来建模用户间的社交关系信息。

首先，根据U-I交互网络的二阶关系作为中间路径，将U-I交互网络建模为用户关系图和物品关系图。具体地，在U-I交互网络中，利用物品作为中间路径，以两个用户之间的二阶路径数量作为用户关系图中这两个用户节点之间边的信息，进而建立用户关系图；利用用户作为中间路径，以两个物品之间二阶路径数量作为物品关系图中这两个物品节点之间边的信息，进而建立物品关系图。图结构化建模完成后，通过两层图卷积网络层建模用户和物品关系特征表达。其中，两层图卷积层的处理方式相同，其处理方式如下：

对于关系图当前层的任一节点，图卷积层通过聚合该节点前一层的邻居节点特征和该节点特征学习得到该层的节点特征表达。首先，通过关系图带有自环的度矩阵完成关系图当前层所有节点的自卷积处理。这种自卷积处理方式的优势是可以自适应节点边的数量，进而有效实现地对节点自卷积程度的把控。自卷积处理完成后，通过对目标节点所有边的权值信息进行softmax归一化处理，通过归一化后的权重信息加权求和该节点对应的一阶邻居节点特征，然后将自卷积处理得到的特征和一阶邻居关系聚合得到的特征各个维度相加后初步完成该层的节点特征更新。最后，将更新得到的节点关系特征经过一个维度可调节的参数矩阵完成该层的图卷积处理。融合一个可训练，维度可调节的参数矩阵的优势是：可以有效地提升节点特征提取的精确性，可以通过调节参数矩阵的第二个维度实现对节点特征的低维映射，保证模型的精确度的同时，有效降低模型的训练时间。图卷积层具体处理流程如图2所示。

2.U-I交互特征提取模块

第二个模块是U-I交互特征提取模块，这一模块的功能是用户和物品关系特征建模完成后，融合注意力机制，通过图交互网络层建模目标用户和待推荐物品的交互特征。其中，注意力机制本发明采用的是两层全连接层网络。交互特征的分布信息蕴含了用户对目标物品的偏好信息。交互特征的分布规律性是实现用户的个性化推荐的重要基础。

首先，对于用户关系图目标用户节点和物品关系图待推荐物品节点，将用户节点特征拼接待推荐物品节点特征和其一阶邻居节点特征。将拼接完成后的特征输入到自注意力网络中，对输出值进行softmax处理得到物品节点及其一阶邻居节点特征的权值系数，根据得到的权值加权求和物品节点及其一阶邻居节点关系特征得到待推荐物品部分的交互特征。同样，将物品节点特征拼接目标用户节点特征和其一阶邻居节点特征。将拼接完成后的特征输入到自注意力网络，对输出值进行softmax处理得到用户节点及其一阶邻居节点特征的权值系数。根据得到的权值加权求和目标用户节点及其一阶邻居节点关系特征得到目标用户部分的交互特征。最后，拼接待推荐物品部分的交互特征和目标用户部分的交互特征得到最终的交互特征表达。该模块具体流程如图3所示。

3.交互推测模块

第三个模块是交互推测模块，这一模块的功能是在U-I交互特征提取模块提取目标用户和待推荐物品之间的交互特征后，学习交互特征的分布得到用户对目标物品的预测评分。交互推测模块是构建推荐必不可少的一步，交互推测模块设计方法有很多，比如传统的特征内积、逻辑回归算法等，然而这些传统算法不能很好的理解用户和物品的特征信息，因此本发明采用经典的DNN算法学习用户和物品的特征信息，得到更为精确的推测结果。

在得到目标用户和待推荐物品的交互特征表达后，直接将交互向量输入到DNN网络中，得到模型的初步预测。然后，通过sigmoid函数对模块预测值进行归一化处理，将目标用户对待推荐物品的预测评分建模为偏好概率表达。该模块流程如图4表示。

4.Top-N推荐模块

本发明最后一个模块是top-N推荐模块，top-N推荐机制也是构建推荐系统最为常用的机制。在得到目标用户对待推荐列表所有物品的评值预测后。对所有物品根据评分进行降序排序，将前N个物品推荐给该用户，实现该用户的个性化推荐。

附图说明

图1为基于图孪生网络的推荐方法的总体框架；

图2为用户关系信息和物品关系信息挖掘模块框架；

图3为U-I交互特征提取模块框架

图4为交互推测模块框架

具体实施方式：

本发明提出了一种基于图孪生网络的个性化推荐方法。该发明的具体实现步骤如下：

步骤一：选择公开的推荐数据集，为所有的用户和物品编排序号，将每个用户交互过的所有物品中随机选取90％的物品作为训练集，剩下10％的物品作为测试集。其中每一条训练集和测试集中有三部分组成：用户，物品，标签。与该用户有交互行为的物品该条数据的标签为1，否则标签为0。通过训练集中标签为1的所有条数据进行U-I交互图结构化表达，为有交互行为的用户和物品建立连接关系。最后，根据U-I交互图节点连接关系，利用物品作为中间路径，以两个用户之间的二阶路径数量作为用户关系图中这两个用户节点之间边的信息，进而建立用户关系图；利用用户作为中间路径，以两个物品之间二阶路径数量作为物品关系图中这两个物品节点之间边的信息，进而建立物品关系图。

步骤二：在完成用户关系和物品关系的图结构化建模后。随机初始化两个关系图的节点特征。通过设计的两层图卷积网络层学习两个关系图的节点特征，进而精确的建模用户关系信息和物品关系信息。其中任一层的节点特征都是通过聚合上一层图卷积网络层中的该节点特征和其一阶邻居节点特征得到。其中每一个通道的图卷积处理方式如下：

首先，通过关系图带有自环的度矩阵完成关系图所有节点的自卷积处理。具体地，就是将该层所有节点特征每一维度除以该节点带有自环的度数。其中，带有自环的度矩阵是一个对角阵，每一个维度的对角元素对应该节点的度数，其数学表达式为：

例如，三个节点其对应相关的矩阵表达如下：

其中，矩阵A是邻接矩阵(方阵)，第i行代表着关系图第i个节点与其他节点的连接关系，i∈{0,1，…,N},N表示关系图中的节点数量。公式(1)的j表示邻接矩阵A的列数，j∈{0,1，…,N}。I_N是维度为N的单位矩阵。

矩阵表示带有自环的度矩阵，是个对角矩阵，第i行对角元素的值表示关系图第i个节点带有自环的度数。自卷积处理完成后，对于关系图任一节点N_i，对该节点间边的权值信息进行softmax归一化处理，通过归一化后的权重信息聚合该节点的一阶邻居节点特征，然后将自卷积处理后的特征和一阶邻居关系聚合得到的特征各个维度相加后初步完成该层的节点特征更新。关系图该层所有其他节点都做相同的处理。其中，上述聚合节点信息的数学表达式为：

其中，

表示关系图第K层图卷积网络层节点N_i通过聚合前一层节点特征更新得到的特征表达。

表示第K-1层图卷积网络层节点N_i的特征表达。

表示带有自环的度矩阵

在第i个对角元素的值，即节点N_i的带有自环的度数。N(i)表示节点N_i的一阶邻居节点集合，节点a(N_a)是集合N(i)的任一节点。

表示第K-1层图卷积层节点N_a的特征表达，

表示softmax归一化后得到的节点N_a对节点N_i的特征更新权值，

的数学表达计算为：

其中，L_ia表示关系图节点N_i和其一阶邻居节点N_a的对应边的值。节点b(N_b)属于节点N_i的一阶邻居节点集合中的任一节点，N(i)表示目标节点N_i的一阶邻居节点集合。最后，将更新得到的所有节点特征经过一个维度可调节的参数矩阵完成该层的图卷积处理。其数学表达式如下：

其中，

表示关系图第K层图卷积网络层节点N_i通过聚合前一层节点特征更新得到的特征表达。σ表示非线性激活函数，本发明采用的是Relu激活函数，W^(K)表示第K层图卷积网络层的参数矩阵。在

经过一个维度可调节的参数矩阵W^(K)后，完成了节点N_i在第K层图卷积层的卷积处理。关系图该层所有其他节点都经过该层的参数矩阵W^(K)，进而完成该层所有节点的图卷积层的处理。

同时，可以直接通过矩阵运算完成关系图所有节点的图卷积层的运算处理。图卷积层的矩阵形式处理的数学表达如下：

A_Lij＝L_ij (7)

其中，函数f表示图卷积层的处理函数，该函数以第K-1层的节点特征矩阵H^(K-1)，关系图的邻接矩阵A，关系图边的关系矩阵A_L为输入，以第K层节点特征矩阵H^(K)为输出。其中，节点特征矩阵H^(K)和H^(K-1)的每一行都代表着对应节点的关系特征表达，A_L矩阵任一位置元素值代表关系图相关边上的值。

是边的关系矩阵A_L的偏指数化处理，即对A_L的非零元素值进行指数化映射，exp^*是对输入矩阵的非零元素值做指数化映射的函数。

是矩阵

的度矩阵，是个对角矩阵，公式(9)的j表示邻接矩阵A的列数。W^(K)是第K层图卷积层的参数矩阵，W^(K)参数矩阵的两个维度跟节点特征维度保持一致。σ表示Relu非线性激活函数。

在用户关系图和物品关系图分别做了两层的图卷积层后，用户关系信息和物品关系信息得到了充分建模。

例如，还是以3个节点对应相关矩阵表达为：

步骤三：在用户关系特征和物品关系特征得到充分建模后，针对成对的目标用户u_i和待推荐物品v_j，通过一层图交互层，融合相关节点关系特征得到对应的交互特征表达。首先，拼接目标用户关系特征

和待推荐物品及其一阶邻居节点关系特征。将拼接特征输入到注意力网络中，并对网络输出的值进行softmax处理进而得到待推荐物品及其一阶邻居节点关系特征的权重系数。通过得到的权重加权求和相应的物品关系特征得到待推荐物品v_j部分的交互特征表达。其数学表达式为：

其中，W₁，W₂表示两层attention网络的参数矩阵，b₁，b₂表示两层attention网络的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数。

表示的是用户关系图中目标用户u_i的关系特征。

表示物品关系图中物品v_t的关系特征，其中节点t(v_t)属于待推荐物品v_j及其一阶邻居物品集合的任一物品节点。N(j)表示待推荐物品v_j的一阶邻居集合。

表示拼接处理。

为注意力网络的输出值，网络的输入为目标用户关系特征

和物品v_t的关系特征

拼接得到的特征向量。然后，对注意力网络的所有输出值进行softmax归一化处理后，得到物品节点v_t对应的权重系数μ_it。公式(11)表示softmax处理，分母为待推荐物品节点v_j及其所有的一阶邻居物品节点对应的注意力网络输出值之和，分子为物品节点v_t的注意力网络输出值。其中，分母的x表示待推荐物品v_j及其一阶邻居物品集合的任一物品节点。

跟

的计算方式相同，是将物品节点x(v_x)的关系特征

和目标用户u_i的关系特征

拼接后输入到注意力网络中，进而得到的注意力网络的输出值。最后，根据得到的物品节点v_t的权重μ_it，加权求和所有相关物品节点v_t的关系特征

得到待推荐物品v_j部分的交互特征z_j。

同样，拼接待推荐物品关系特征

和目标用户及其一阶邻居节点关系特征。将拼接特征输入到注意力网络中，并对网络输出的值进行softmax处理进而得到目标用户及其一阶邻居节点关系特征的权重系数。通过得到的权重加权求和对应的用户关系特征得到目标用户u_i部分的交互特征表达。其数学表达式为：

其中，W₁，W₂表示两层attention网络的参数矩阵，b₁，b₂表示两层attention网络的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数。

表示物品关系图待推荐物品节点v_j的关系特征。

表示用户关系图中用户节点u_k的关系特征，其中节点k(u_k)属于目标用户u_i及其一阶邻居用户集合中的的任一用户节点。N(i)表示目标用户u_i的一阶邻居节点集合。

表示拼接处理。

为注意力网络的输出值，网络的输入为待推荐物品关系特征

和用户u_k的关系特征

拼接得到的特征向量。然后，对注意力网络的所有输出值进行softmax归一化处理后，得到用户节点u_k对应的权重系数β_jk。公式(14)表示softmax处理,分母为目标用户节点u_i及其所有的一阶邻居用户节点对应的注意力网络输出值之和，分子为用户节点u_k的注意力网络输出值。其中，分母的y表示目标用户u_i及其一阶邻居用户集合中的的任一用户节点。

跟

的计算方式相同，是将用户节点y(u_y)的关系特征

和待推荐物品关系特征

拼接后输入到注意力网络中，进而得到的注意力网络的输出值。最后，根据得到的用户节点u_k的权重β_jk，加权求和所有相关用户节点u_k的关系特征

得到目标用户u_i部分的交互特征z_i。

在得到目标用户u_i部分的交互特征表达z_i、待推荐物品v_j部分的交互特征表达z_j后，拼接两个部分的交互特征，得到目标用户u_i和待推荐物品v_j的交互特征。其数学表达式为：

z_i为用户部分的交互特征，z_j为待物品部分的交互特征。

表示拼接处理。z_ij为最后的目标用户u_i及其待推荐物品v_j的交互特征表达。

步骤四：在得到目标用户和待推荐物品的交互特征后，模型通过交互推测模块学习交互特征的分布规律，进而得到用户u_i对物品v_j精确的偏好预测。交互推测模块本方法使用的是经典的DNN网络。DNN网络能够有效的学习特征分布，建模用户和物品间的非线性关系。交互推测模块直接将交互特征输入到DNN网络中，进而得到用户对该物品的预测评分，然后再通过sigmoid归一化处理将模型的预测评分建模为用户u_i对物品v_j的偏好概率表达。其数学表达式为：

g₁＝z_ij (17)

g₂＝σ(W₁·g₁+b₁) (18)

g₃＝σ(W₂·g₂+b₂) (19)

r'_ij＝sigmoid(W₃·g₃) (20)

其中，z_ij为目标用户u_i及其待推荐物品v_j的交互特征表达。W₁，W₂，W₃表示DNN网络的参数矩阵，b₁，b₂表示的是DNN网络中的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数。g₁，g₂，g₃是DNN网络每一层输出的交互向量表达。r'_ij是经过sigmoid归一化后得到的模型的预测评值表达，其中，公式(20)的sigmoid表示对sigmoid函数，将DNN网络的最后一层的输出值进行归一化映射。

步骤五：对于模型的训练，本方法通过构造交叉熵损失函数作为模型的优化目标，通过最小化损失函数值优化模型的可训练参数矩阵和偏差系数，以及用户、物品关系图中的节点特征。其中交叉熵损失函数的数学表达式为：

其中|O|表示训练模型时每个batch中所有用户物品节点对的数量，r_ij表示用户u_i和物品v_j的标签值，取值范围为{0,1}。标签为0表示物品v_j属性信息不符合用户u_i的偏好信息，是负样本。标签为1表示用户u_i与物品v_j有交互行，是正样本。其中对于每个用户，我们通过随机采样用户没有发生交互行为的物品作为该用户的训练负样本。r'_ij表示模型的预测评分。通过最小化r'_ij和实际标签r_ij的差距来最小化损失函数值完成优化模型的任务。

步骤六：模型训练完成后，为了验证本发明的有效性，将本发明的算法在数据集huaban和Amazon-Book上进行了实验。对每个数据集的测试集以1:100的比例随机采集负样本参与模型的预测评比，同时，为了保证模型评比的有效性，测试集采集的负样本没有在训练集集参与训练。在得到模型对每个用户的所有物品的预测评值后，根据模型输出值对参与评比的物品进行由大到小排序，通过top-N推荐机制取排序完成后的前N个物品推荐给该目标用户。并通过recall评价指标评比该方法的有效性。表1和表2展示了本发明的算法与部分前沿推荐算法对比，可以看到本算法优于展示的其他的推荐算法。

表1：Amazon-book数据集上的性能对比

表2：huaban数据集上的性能对比

Claims (3)

1.一种基于图孪生网络的推荐方法，其特征在于，设计应用了以下几个模块：用户关系和物品关系信息挖掘模块、U-I交互特征提取模块、交互推测模块、Top-N推荐模块；

首先将用户数据和物品数据根据U-I交互关系进行用户关系图和物品关系图结构化建模；用户关系信息和物品关系信息挖掘模块通过设计的双通道两层图卷积网络层分别对两个关系图进行图卷积分析，学习两个关系图的节点特征表达，进而挖掘用户关系和物品关系信息；U-I交互特征提取模块利用注意力机制，通过设计的图交互网络层建模目标用户和待推荐物品的交互特征表达；交互推测模块通过经典的DNN网络学习交互特征向量的分布规律，建模U-I之间高阶非线性关系，得到用户对目标物品的预测评分；Top-N推荐模块通过top-N推荐机制实现对目标用户的个性化推荐任务。

2.根据权利要求1所述的方法，其特征在于，各模块的内容如下：

1).用户关系信息和物品关系信息挖掘模块

第一个模块是用户关系和物品关系信息挖掘模块，通过设计的双通道的图孪生网络进行用户和物品关系信息的挖掘，其中每个通道通过两层强原则性的图卷积网络层对用户关系特征或者物品关系特征进行建模分析，进而充分挖掘他们的关系信息；

首先，利用U-I交互网络中的二阶关系作为中间路径，将U-I交互信息建模为用户关系图和物品关系图；然后通过双通道的两层图卷积网络层精确建模用户和物品关系特征表达；两个通道图卷积网络层的处理方式如下：

对于关系图当前层的任一节点，图卷积层通过聚合该节点前一层的邻居节点特征和该节点特征学习得到该层的节点特征表达；首先，通过关系图带有自环的度矩阵完成关系图当前层该节点的自卷积处理；然后，通过对该节点所有边的权值信息进行softmax归一化处理，通过归一化后的权重信息加权求和该节点对应的一阶邻居节点特征；然后将自卷积处理得到的特征和一阶邻居关系聚合得到的特征各个维度相加后初步完成该层的节点特征更新；最后，将更新得到的节点关系特征经过一个维度可调节的参数矩阵完成该层该节点的图卷积处理；该参数矩阵两个维度跟关系图节点特征维度保持一致；

2).U-I交互特征提取模块

第二个模块是U-I交互特征提取模块，这一模块的功能是用户和物品关系特征建模完成后，利用注意力机制，通过图交互网络层建模目标用户和待推荐物品的交互特征；其中，注意力机制采用的是两层全连接层网络，图交互网络层的处理方式如下：

首先，对于用户关系图目标用户节点和物品关系图待推荐物品节点，将用户节点特征拼接待推荐物品节点特征和其一阶邻居节点特征；将拼接完成后的特征输入到自注意力网络中，对输出值进行softmax处理得到物品节点及其一阶邻居节点特征的权值系数，根据得到的权值加权求和物品节点及其一阶邻居节点关系特征得到待推荐物品部分的交互特征；同样，将物品节点特征拼接目标用户节点特征和其一阶邻居节点特征；将拼接完成后的特征输入到自注意力网络，对输出值进行softmax处理得到用户节点及其一阶邻居节点特征的权值系数；根据得到的权值加权求和目标用户节点及其一阶邻居节点关系特征得到目标用户部分的交互特征；最后，拼接待推荐物品部分的交互特征和目标用户部分的交互特征得到最终的交互特征表达；

3).交互推测模块

第三个模块是交互推测模块，学习交互特征的分布得到用户对目标物品的推测评分；通过经典的DNN算法学习用户和物品的特征信息，得到更为精确的推测结果；

在得到目标用户和待推荐物品的交互特征表达后，直接将交互向量输入到DNN网络中，得到模型的初步预测；通过sigmoid函数对模块预测值进行归一化处理，将用户对目标物品的预测评分建模为偏好概率表达；

4).Top-N推荐模块

最后一个模块是top-N推荐模块，得到目标用户对待推荐列表所有物品的评值预测后；对所有物品根据评分进行降序排序，将前N个物品推荐给该用户，实现该用户的个性化推荐。

3.根据权利要求1所述的方法，其特征在于，具体实施步骤如下：

首先根据U-I交互数据进行图结构化建模；为有交互记录的用户和物品之间建立连接关系；然后，根据U-I交互图节点连接关系，利用物品作为中间路径，以两个用户之间的二阶路径数量作为用户关系图中这两个用户节点之间边的信息，进而建立用户关系图；利用用户作为中间路径，以两个物品之间二阶路径数量作为物品关系图中这两个物品节点之间边的信息，进而建立物品关系图；

1).用户关系信息和物品关系信息挖掘模块

在完成用户关系和物品关系的图结构化建模后；随机初始化两个关系图的节点特征；通过设计的两层图卷积网络层学习两个关系图的节点特征，进而精确的建模用户关系信息和物品关系信息；其中任一层的节点特征都是通过聚合上一层图卷积网络层中的该节点特征和其一阶邻居节点特征得到；其中每一个通道的图卷积层的处理方式如下：

首先，通过关系图带有自环的度矩阵完成关系图所有节点的自卷积处理；具体地，就是将该层所有节点特征每一维度除以该节点带有自环的度数；其中，带有自环的度矩阵是一个对角阵，每一个维度的对角元素对应该节点的度数，其数学表达式为：

其中，矩阵A是该关系图的邻接矩阵(方阵)，第i行代表着关系图第i个节点与其他节点的连接关系，i∈{0,1，…,N},N表示关系图中的节点数量；公式(1)的j表示邻接矩阵A的列数，j∈{0,1，…,N}；I_N是维度为N的单位矩阵；

矩阵表示带有自环的度矩阵，是个对角矩阵，第i行对角元素的值表示关系图第i个节点带有自环的度数；自卷积处理完成后，对于关系图任一节点N_i，对该节点间边的权值信息进行softmax归一化处理，通过归一化后的权重信息聚合该节点的一阶邻居节点特征，然后将自卷积处理后的特征和一阶邻居关系聚合得到的特征各个维度相加后初步完成该层的节点特征更新；关系图该层所有其他节点都做相同的处理；其中，上述聚合节点信息的数学表达式为：

其中，

表示关系图第K层图卷积网络层节点N_i通过聚合前一层节点特征更新得到的特征表达；

表示第K-1层图卷积网络层节点N_i的特征表达；

表示带有自环的度矩阵

在第i个对角元素的值，即节点N_i的带有自环的度数；N(i)表示节点N_i的一阶邻居节点集合，节点a(N_a)是集合N(i)的任一节点；

表示第K-1层图卷积层节点N_a的特征表达，

表示softmax归一化后得到的节点N_a对节点N_i的特征更新权值，

的数学表达计算为：

其中，L_ia表示关系图节点N_i和其一阶邻居节点N_a的对应边的值；节点b(N_b)属于节点N_i的一阶邻居节点集合中的任一节点，N(i)表示目标节点N_i的一阶邻居节点集合；最后，将更新得到的所有节点特征经过一个维度可调节的参数矩阵完成该层的图卷积处理；其数学表达式如下：

其中，

表示关系图第K层图卷积网络层节点N_i通过聚合前一层节点特征更新得到的特征表达；σ表示非线性激活函数，采用的是Relu激活函数，W^(K)表示第K层图卷积网络层的参数矩阵；在

经过一个维度可调节的参数矩阵W^(K)后，完成了节点N_i在第K层图卷积层的卷积处理；关系图该层所有其他节点都经过该层的参数矩阵W^(K)，进而完成该层所有节点的图卷积层的处理；

同时，可以直接通过矩阵运算完成关系图所有节点的图卷积层的运算处理；图卷积层的矩阵形式处理的数学表达如下：

A_Lij＝L_ij (7)

其中，函数f表示图卷积层的处理函数，该函数以第K-1层的节点特征矩阵H^(K-1)，关系图的邻接矩阵A，关系图边的关系矩阵A_L为输入，以第K层节点特征矩阵H^(K)为输出；其中，节点特征矩阵H^(K)和H^(K-1)的每一行都代表着对应节点的关系特征表达，A_L矩阵任一位置元素值代表关系图相关边上的值；

是边的关系矩阵A_L的偏指数化处理，即对A_L的非零元素值进行指数化映射，exp^*是对输入矩阵的非零元素值做指数化映射的函数；

是矩阵

的度矩阵，是个对角矩阵，公式(9)的j表示邻接矩阵A的列数；W^(K)是第K层图卷积层的参数矩阵，W^(K)参数矩阵的两个维度跟节点特征维度保持一致；σ表示Relu非线性激活函数；

在用户关系图和物品关系图分别做了两层的图卷积层后，用户关系信息和物品关系信息得到了充分建模；

2).U-I交互特征提取模块

在用户关系特征和物品关系特征得到充分建模后，针对成对的目标用户u_i和待推荐物品v_j，通过一层图交互层，融合相关节点关系特征得到对应的交互特征表达；首先，拼接目标用户关系特征

和待推荐物品及其一阶邻居节点关系特征；将拼接特征输入到注意力网络中，并对网络输出的值进行softmax处理进而得到待推荐物品及其一阶邻居节点关系特征的权重系数；通过得到的权重加权求和相应的物品关系特征得到待推荐物品v_j部分的交互特征表达；其数学表达式为：

其中，W₁，W₂表示两层attention网络的参数矩阵，b₁，b₂表示两层attention网络的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数；

表示的是用户关系图中目标用户u_i的关系特征；

表示物品关系图中物品v_t的关系特征，其中节点t(v_t)属于待推荐物品v_j及其一阶邻居物品集合的任一物品节点；N(j)表示待推荐物品v_j的一阶邻居集合；

表示拼接处理；

为注意力网络的输出值，网络的输入为目标用户关系特征

和物品v_t的关系特征

拼接得到的特征向量；然后，对注意力网络的所有输出值进行softmax归一化处理后，得到物品节点v_t对应的权重系数μ_it；公式(11)表示softmax处理，分母为待推荐物品节点v_j及其所有的一阶邻居物品节点对应的注意力网络输出值之和，分子为物品节点v_t的注意力网络输出值；其中，分母的x表示待推荐物品v_j及其一阶邻居物品集合的任一物品节点；

跟

的计算方式相同，是将物品节点x(v_x)的关系特征

和目标用户u_i的关系特征

拼接后输入到注意力网络中，进而得到的注意力网络的输出值；最后，根据得到的物品节点v_t的权重μ_it，加权求和所有相关物品节点v_t的关系特征

得到待推荐物品v_j部分的交互特征z_j；

同样，拼接待推荐物品关系特征

和目标用户及其一阶邻居节点关系特征；将拼接特征输入到注意力网络中，并对网络输出的值进行softmax处理进而得到目标用户及其一阶邻居节点关系特征的权重系数；通过得到的权重加权求和对应的用户关系特征得到目标用户u_i部分的交互特征表达；其数学表达式为：

其中，W₁，W₂表示两层attention网络的参数矩阵，b₁，b₂表示两层attention网络的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数；

表示物品关系图待推荐物品节点v_j的关系特征；

表示用户关系图中用户节点u_k的关系特征，其中节点k(u_k)属于目标用户u_i及其一阶邻居用户集合中的的任一用户节点；N(i)表示目标用户u_i的一阶邻居节点集合；

表示拼接处理；

为注意力网络的输出值，网络的输入为待推荐物品关系特征

和用户u_k的关系特征

拼接得到的特征向量；然后，对注意力网络的所有输出值进行softmax归一化处理后，得到用户节点u_k对应的权重系数β_jk；公式(14)表示softmax处理,分母为目标用户节点u_i及其所有的一阶邻居用户节点对应的注意力网络输出值之和，分子为用户节点u_k的注意力网络输出值；其中，分母的y表示目标用户u_i及其一阶邻居用户集合中的的任一用户节点；

跟

的计算方式相同，是将用户节点y(u_y)的关系特征

和待推荐物品关系特征

拼接后输入到注意力网络中，进而得到的注意力网络的输出值；最后，根据得到的用户节点u_k的权重β_jk，加权求和所有相关用户节点u_k的关系特征

得到目标用户u_i部分的交互特征z_i；

在得到目标用户u_i部分的交互特征表达z_i、待推荐物品v_j部分的交互特征表达z_j后，拼接两个部分的交互特征，得到目标用户u_i和待推荐物品v_j的交互特征；其数学表达式为：

z_i为用户部分的交互特征，z_j为待物品部分的交互特征；

表示拼接处理；z_ij为最后的目标用户u_i及其待推荐物品v_j的交互特征表达；

3).交互推测模块

在得到目标用户u_i和待推荐物品v_j的交互特征后，模型通过交互推测模块学习交互特征的分布规律，进而得到用户u_i对物品v_j精确的偏好预测；交互推测模块本方法使用的是经典的DNN网络；直接将交互特征输入到DNN网络中，进而得到用户对该物品的预测评分，然后再通过sigmoid归一化处理将模型的预测评分建模为用户u_i对物品v_j的偏好概率表达；其数学表达式为：

g₁＝z_ij (17)

g₂＝σ(W₁·g₁+b₁) (18)

g₃＝σ(W₂·g₂+b₂) (19)

r’_ij＝sigmoid(W₃·g₃) (20)

其中，z_ij为目标用户u_i及其待推荐物品v_j的交互特征表达；W₁，W₂，W₃表示DNN网络的参数矩阵，b₁，b₂表示的是DNN网络中的偏差系数，σ表示的是非线性激活函数，采用的是Relu激活函数；g₁，g₂，g₃是DNN网络每一层输出的交互向量表达；r’_ij是经过sigmoid归一化后得到的模型的预测评值表达，其中，公式(20)的sigmoid表示对sigmoid函数，将DNN网络的最后一层的输出值进行归一化映射；

4).Top-N推荐模块

在得到模型对每个用户的所有物品的预测评值后，根据模型输出值对参与评比的物品进行由大到小排序，通过top-N推荐机制取排序完成后的前N个物品推荐给该目标用户，进而完成对该用户的个性化推荐。

Images