CN113362131A - 一种融合知识图谱和用户交互的图模型智能商品推荐方法 - Google Patents

Abstract

本发明公开了一种融合知识图谱和用户交互的图模型智能商品推荐方法，其步骤包括：1、采集用户对商品的历史交互记录数据，构建用户商品交互矩阵Y用于训练推荐模型，并构建用户商品交互二分图；2、采集商品属性特征及属性之间的关联特征，利用先验知识构建知识图谱；3、构建融合知识图谱和用户交互的推荐模型，选取合适的损失函数来优化模型参数和特征向量；4、利用推荐模型预测用户对未交互过的商品未来产生交互的概率，选择交互概率最大的商品推荐给用户，从而完成商品推荐任务。本发明结合了知识图谱和交互二分图上的图卷积操作，可以更充分的捕捉知识图谱所携带的语义、结构信息，从而实现更准确的推荐效果。

Description

一种融合知识图谱和用户交互的图模型智能商品推荐方法

技术领域

本发明属于基于图卷积的数据挖掘推荐系统领域，主要是涉及一种融合知识图谱知识因子的商品推荐方法。

背景技术

近年来，伴随着互联网技术的快速发展，人们可以接触网络中大量的数据信息，然而随着信息量的逐步发展，人们在享受互联网带来的获取信息的便利的同时，不可避免的陷入了如何快速的从众多信息中找到自己所需的那部分内容，也即信息过载的问题。为了解决信息过载造成的影响，个性化推荐系统逐渐吸引了国、内外的研究者们的广泛兴趣，个性化推荐，旨在为特定用户量身定制其感兴趣的信息内容，自动的推送给用户，减少种类繁多的信息给用户带来的困扰。个性化推荐系统的核心，就是系统内所设计的个性化推荐算法，从已有的用户数据中分析用户行为、建模用户兴趣、挖掘用户需求。

传统的推荐算法使用协同过滤作为基础，它利用用户以往对商品的交互记录(如购买、点击等)，来对用户和商品进行特征建模，将其映射到潜在语义空间中的向量表示，再使用特定操作如内积或神经网络来拟合已有的交互记录，训练得到最佳的特征向量表示。然而，基于协同过滤的推荐方法往往存在一些问题：对于新加入系统的用户，由于数据库中没有他们的历史记录从而无法挖掘出他们的兴趣偏好而无法精准的进行个性化推荐，这被称为冷启动问题；由于用户数目和商品数目的大量增长，单个用户所能交互的商品数量有限，使得交互矩阵中包含大量的空白元素，被称为数据稀疏问题。

为了解决上述一些问题，研究人员通常会使用除了交互历史以外的一些辅助信息，比如商品的固有属性，用户的社交关系等。知识图谱是一种有向信息异构图，内部可以蕴涵现实世界中实体所带有的丰富的语义信息和关联信息，作为推荐系统中的一种有效的辅助信息，近年来被研究者们所青睐。现有的基于知识图谱的推荐方法主要可以分为两类：基于嵌入的方法和基于路径的方法。基于嵌入的方法主要是通过图嵌入的方法对图谱中各种实体和关联关系进行向量建模，进而扩充原有商品和用户表达的语义信息，然而这种方法侧重于对严格的语义关联进行建模，往往忽视了知识图谱中节点自身的属性信息，从而无法准确的建模用户对节点内容属性的偏好，导致推荐的精度降低；基于路径的方法注重于挖掘基于图谱用户、商品之间多种连接关系，提取携带高阶信息的路径并将其输入预测模型，但由于路径的选择对最终性能有很大影响，并且路径的定义需要很大的人工操作和一定的领域知识，在实际情况下，很难得到最优的连接路径，从而无法完全发挥知识图谱在推荐算法中的作用。推荐模型需要同时建模用户和商品，而现有的方法通常只在商品端聚集知识图谱的信息，模型训练出的用户特征向量和商品特征向量之间存在了一定程度的信息隔阂，导致模型预测函数难以准确计算出用户对商品向量中包含的知识信息的偏好程度，降低了推荐模型的质量。

发明内容

针对上述现有技术中存在的诸多问题，本发明提出一种融合知识图谱和用户交互的图模型智能商品推荐方法，以期能更充分的捕捉知识图谱所携带的语义、结构信息，丰富用户和商品特征向量，从而能提高商品推荐的多样性和精确度。

本发明为了解决技术问题采用如下技术方案：

本发明一种融合知识图谱和用户交互的图模型智能商品推荐方法的特点是按如下步骤进行：

步骤1、采集用户对商品的历史交互记录数据并进行预处理，形成交互数据集L用于训练模型，将用户和商品视为两类不同的节点，历史交互记录视为用户节点和商品节点之间的一条边，从而构建用户-商品的交互二分图G_I；

步骤2、收集交互数据集L中商品所拥有的属性信息以及商品与属性之间、属性与属性之间的关联信息，利用先验知识，构建包含商品节点、商品自身各种属性节点及关联信息的知识图谱G_K；

步骤3、统计交互数据集L中用户数量m，知识图谱G_K中实体节点数量n，知识图谱G_K中关联类型数量h，设置潜在语义特征向量的维度为d，利用随机初始化的方法构建m×d维的用户特征矩阵U、n×d维的实体节点特征矩阵E以及h×d维的关联类型特征矩阵R，并将用户、实体节点和关联类型按照序号分别映射为相应特征矩阵中的特征向量；

步骤4、在知识图谱G_K上搭建基于注意力机制的知识图卷积网络；

步骤4.1、针对任一用户节点u和商品节点i，将用户特征矩阵U中用户u的特征向量p_u和实体节点特征矩阵E中商品i的特征向量q_i作为输入，利用式(1)和式(2)分别量化知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的属性因子

和关联因子

式(1)中，

是知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的特征向量，W₁和W₂是两个可训练的参数矩阵，LeakyRelu(·)是非线性的激活函数；

式(2)中，

是商品节i与第j个属性节点n_j之间关联类型的特征向量；

步骤4.2、利用式(3)得到第j个属性节点n_j需要传递给商品i信息的权重

式(3)中，M(i)是知识图谱G_K中商品节点i所有关联属性节点的集合；

步骤4.3、利用式(4)构建知识图卷积网络，得到融合商品节点i所有属性节点的商品特征向量

步骤5、根据交互二分图G_I，利用式(5)构建二次知识传播网络，得到融合用户u所有交互过的商品信息的用户特征向量

式(5)中，N(u)为用户u交互过的商品组成的集合；

步骤6、利用式(6)计算用户节点u和商品节点i在未来产生交互的概率

步骤7、利用式(7)构建LogLoss损失函数，并用于迭代训练模型，使得LogLoss损失函数不断下降直至收敛，从而得到最终有效的用户特征矩阵U^*、实体节点特征矩阵E^*、关联类型特征矩阵R^*：

式(7)中，N表示交互数据集L的交互记录数量，Y⁺表示交互数据集L中有效的用户商品历史交互数据并作为训练的正样本，Y^-表示与正样本数量相同的随机采样的未产生交互的用户-商品二元组集合，并作为训练的负样本，λ是正则化的系数，θ是模型中所有需要训练的参数，包括用户特征矩阵U、实体节点特征矩阵E、关联类型特征矩阵R以及参数矩阵W₁和W₂；

步骤8、根据最终有效的用户特征矩阵U^*和实体节点特征矩阵E^*，对某一个目标用户，通过式(6)计算所有目标用户对未曾交互过的商品未来可能发生交互的概率，并推荐概率排名靠前的商品给目标用户，从而完成商品推荐任务。

与现有技术相比，本发明的有益效果在于：

1.本发明利用知识图谱作为推荐算法中的辅助信息，能够有效提取出图结构中多层的关联关系，增加了商品推荐任务的多样性，降低了数据稀疏带来的不良影响。

2.本发明采用的基于注意力机制的知识图卷积操作来融合知识图谱中丰富的语义和关联信息，能同时建模图谱中商品属性节点自身的内容因素和商品与节点间关联类型差异这两种影响用户兴趣的因子，自适应的计算出不同节点对商品的影响权重，并迭代式的将信息融入到商品表达里，从而提高了商品的建模质量。

3.本发明利用用户商品交互记录中蕴藏的协同信号，作为连接用户节点和商品节点的桥梁，通过两者之间的信息流动，进一步传播知识图谱中的知识信息，对用户的初始特征向量进行增强，显式的将商品向量中融合的知识信息传播到用户表达中，增加了推荐的准确度。

附图说明

图1为本发明方法总体流程图。

具体实施方式

本实施例中，一种融合知识图谱和用户交互的图模型智能商品推荐方法，是将用户、商品和知识图谱中的节点及关联关系映射到具有相同维度的潜在语义向量空间中，再通过图卷积网络中特征传播和加权组合的方式聚合相互影响的特征向量，使得各节点能互相传递知识信息，自动的融合知识图谱中丰富的语义信息和关联信息，并凝聚到用户表达和商品表达中，充分利用用户历史交互记录和知识图谱所含有的附加信息，从而实现更准确的个性化商品推荐。具体的说，如图1所示，是按如下步骤进行：

步骤1、采集用户对商品的历史交互记录数据并进行预处理，每一个交互记录由用户序号和商品序号组成的二元组表示，形成交互数据集L用于训练模型，将用户和商品视为两类不同的节点，历史交互记录视为用户节点和商品节点之间的一条边，从而构建用户-商品的交互二分图G_I；

步骤2、收集交互数据集L中商品所拥有的属性信息以及商品与属性之间、属性与属性之间的关联信息，利用先验知识，构建出包含商品节点、商品自身各种属性节点及关联信息的知识图谱G_K；

步骤3、统计交互数据集L中用户数量m，知识图谱G_K中实体节点数量n，知识图谱G_K中关联类型数量h，设置潜在语义特征向量的维度为d，利用随机初始化的方法构建m×d维的用户特征矩阵U、n×d维的实体节点特征矩阵E以及h×d维的关联类型特征矩阵R，并将用户、实体节点和关联类型按照序号分别映射为相应特征矩阵中的特征向量；

步骤4、在知识图谱上搭建基于注意力机制的知识图卷积网络，用于聚集知识图谱中的属性特征和关联特征，并融入到商品节点的特征向量中；

步骤4.1、针对任一用户节点u和商品节点i，将步骤3得到其初始特征向量p_u∈U和q_i∈E作为输入，以目标商品为中心在知识图谱上进行基于注意力机制的特征聚集操作，知识图谱中存在两种影响用户兴趣点的知识因子，一种称为关联因子，是指商品与商品属性之间关联关系的类型，比如一部电影与电影的主演之间的关联关系，或者一部电影与电影的导演之间的关联关系，另一种称为属性因子，表达了商品属性节点自身包含的属性，比如一部电影有三位主演，三位主演分别对吸引用户起到了不同的作用，因此注意力权重的计算同时考虑两种知识因子，并利用式(1)和式(2)分别量化知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的属性因子

和关联因子

式(1)中，

是知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的特征向量，W₁和W₂是两个可训练的参数矩阵，用来改变q_i和

的维度，增加模型的泛化能力，LeakyRelu(·)是非线性的激活函数，式(1)计算出商品属性节点自身包含的属性对用户兴趣的影响权重；

式(2)中，

是商品节i与第j个属性节点n_j之间关联类型的特征向量，式(2)计算出商品与商品属性之间关联关系的类型对用户兴趣的影响权重；

步骤4.2、综合考虑步骤4.1所量化的属性因子和关联因子，利用式(3)得到第j个属性节点n_j需要传递给商品i信息的权重

式(3)通过使用softmax函数的计算，对节点的权重进行了归一化，其中M(i)是知识图谱G_K中商品节点i所有关联属性节点的集合；；

步骤4.3、利用式(4)构建知识图卷积网络，得到融合商品节点i所有属性节点的商品特征向量

步骤5、根据交互二分图G_I，对所有的用户节点进行一次额外的特征聚合，以交互记录中存在的协同信号作为连接用户节点和商品节点的桥梁，利用两类不同节点之间的信息流动，将原本已经融入到商品节点中的语义知识再次传播到用户节点中，利用式(5)构建二次知识传播网络，将用户产生过交互的商品特征向量通过线性组合的方式聚集到用户初始特征向量中，得到融合用户u所有交互过的商品信息的用户特征向量

式(5)中，N(u)为用户u交互过的商品组成的集合；

步骤6、经过上述两个阶段的知识传播，得到同时蕴含知识图谱中丰富语义信息的用户节点和商品节点，利用式(6)计算用户节点u和商品节点i在未来产生交互的概率

式(6)中

表示我们预测的目标用户会对目标商品未来产生交互的概率，其值的范围在0至1之间；

步骤7、利用式(7)构建LogLoss损失函数，并用于迭代训练模型，使得LogLoss损失函数不断下降直至收敛，从而得到最终有效的用户特征矩阵U^*、实体节点特征矩阵E^*、关联类型特征矩阵R^*：

式(7)中，N表示交互数据集L的交互记录数量，Y⁺表示交互数据集L中有效的用户商品历史交互数据并作为训练的正样本，Y^-表示与正样本数量相同的随机采样的未产生交互的用户-商品二元组集合，并作为训练的负样本，λ是正则化的系数，θ是模型中所有需要训练的参数，包括用户特征矩阵U、实体节点特征矩阵E、关联类型特征矩阵R以及参数矩阵W₁和W₂；

步骤8、根据最终有效的用户特征矩阵U^*和实体节点特征矩阵E^*，对某一个目标用户，通过式(6)计算所有目标用户对未曾交互过的商品未来可能发生交互的概率，并推荐概率排名靠前的商品给目标用户，从而完成商品推荐任务。

Claims (1)

1.一种融合知识图谱和用户交互的图模型智能商品推荐方法，其特征是按如下步骤进行：

步骤1、采集用户对商品的历史交互记录数据并进行预处理，形成交互数据集L用于训练模型，将用户和商品视为两类不同的节点，历史交互记录视为用户节点和商品节点之间的一条边，从而构建用户-商品的交互二分图G_I；

步骤2、收集交互数据集L中商品所拥有的属性信息以及商品与属性之间、属性与属性之间的关联信息，利用先验知识，构建包含商品节点、商品自身各种属性节点及关联信息的知识图谱G_K；

步骤3、统计交互数据集L中用户数量m，知识图谱G_K中实体节点数量n，知识图谱G_K中关联类型数量h，设置潜在语义特征向量的维度为d，利用随机初始化的方法构建m×d维的用户特征矩阵U、n×d维的实体节点特征矩阵E以及h×d维的关联类型特征矩阵R，并将用户、实体节点和关联类型按照序号分别映射为相应特征矩阵中的特征向量；

步骤4、在知识图谱G_K上搭建基于注意力机制的知识图卷积网络；

步骤4.1、针对任一用户节点u和商品节点i，将用户特征矩阵U中用户u的特征向量p_u和实体节点特征矩阵E中商品i的特征向量q_i作为输入，利用式(1)和式(2)分别量化知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的属性因子

和关联因子

式(1)中，

是知识图谱G_K中与商品i有相连关系的第j个属性节点n_j的特征向量，W₁和W₂是两个可训练的参数矩阵，LeakyRelu(·)是非线性的激活函数；

式(2)中，

是商品节i与第j个属性节点n_j之间关联类型的特征向量；

步骤4.2、利用式(3)得到第j个属性节点n_j需要传递给商品i信息的权重

式(3)中，M(i)是知识图谱G_K中商品节点i所有关联属性节点的集合；

步骤4.3、利用式(4)构建知识图卷积网络，得到融合商品节点i所有属性节点的商品特征向量

步骤5、根据交互二分图G_I，利用式(5)构建二次知识传播网络，得到融合用户u所有交互过的商品信息的用户特征向量

式(5)中，N(u)为用户u交互过的商品组成的集合；

步骤6、利用式(6)计算用户节点u和商品节点i在未来产生交互的概率

步骤7、利用式(7)构建LogLoss损失函数，并用于迭代训练模型，使得LogLoss损失函数不断下降直至收敛，从而得到最终有效的用户特征矩阵U^*、实体节点特征矩阵E^*、关联类型特征矩阵R^*：

式(7)中，N表示交互数据集L的交互记录数量，Y⁺表示交互数据集L中有效的用户商品历史交互数据并作为训练的正样本，Y^-表示与正样本数量相同的随机采样的未产生交互的用户-商品二元组集合，并作为训练的负样本，λ是正则化的系数，θ是模型中所有需要训练的参数，包括用户特征矩阵U、实体节点特征矩阵E、关联类型特征矩阵R以及参数矩阵W₁和W₂；

步骤8、根据最终有效的用户特征矩阵U^*和实体节点特征矩阵E^*，对某一个目标用户，通过式(6)计算所有目标用户对未曾交互过的商品未来可能发生交互的概率，并推荐概率排名靠前的商品给目标用户，从而完成商品推荐任务。

Images