CN112214685B - 一种基于知识图谱的个性化推荐方法 - Google Patents

Abstract

本发明公开一种基于知识图谱的个性化推荐方法，属于推荐技术领域。本发明为了解决协同过滤等传统推荐方式中存在的数据稀疏性和冷启动技术问题，其采用的方案为：构建知识图谱，利用知识图谱的实体之间的语义关联信息，挖掘知识网络中用户的喜好；实体链接，通过将用户点击实体映射到知识图谱，找到对应的实体，完成知识图谱与推荐系统的链接；基于知识图谱的语义关系信息以及用户历史喜好，利用图注意力模型将两种信息进行合并，从而产生推荐依据。本发明通过挖掘用户历史喜好利用丰富的知识关联信息，深度挖掘用户的喜好，极大地提高了推荐处理的尽精确度。同时，利用知识图谱隐含的丰富语义信息为推荐带来多样性，提升推荐的可解释性。

Description

一种基于知识图谱的个性化推荐方法

技术领域

本发明属于推荐技术领域，具体涉及一种基于知识图谱的个性化推荐方法。

背景技术

在互联网时代，网络成为人们生活必不可少的一部分，是人们获得信息资源的重要途径。随着互联网的发展，网络上的资源也爆炸式的呈指数增长，导致信息过载的问题，如何呈现用户感兴趣的信息成为研究的热点与难点。推荐系统为用户过滤信息，学习用户喜好，利用各种技术为用户推荐喜好信息。

推荐系统技术一种为了解决互联网信息过载的手段，为用户过滤信息推荐其感兴趣的内容。其实对于用户来说推荐系统核心价值是帮用户便捷的筛选出感兴趣的内容，在用户面对陌生领域时提供参考意见，当用户需求不明确时为用户提供帮助，满足用户的好奇心。利用用户在产品(例如商品、书籍、电影和新闻等)上留下的交互行为信息的传统推荐系统之一协同过滤推荐算法，找到用户兴趣相同的用户，将这些兴趣相同用户浏览物品进行推荐。但是当一个用户新加入时，该用户没有历史行为，也就是冷启动，因此在实际中难以达到最优效果。

知识图谱于2012年由谷歌正式提出，以其强大的语义处理能力和开放组织能力为搜索引擎提高性能，增强用户体验，提高搜索质量。知识图谱旨在描述现实世界中存在的实体以及实体之间的关系，从更深层次上揭示人类认知的整体性与关联性。

引入知识图谱是解决以上需求和问题的一个良好的解决方案，知识图谱能推荐系统带来三个方面的重要改进和帮助：

(1)精确性，知识图谱作为一个语义网络，包含了实体之间丰富的语义关联。将丰富的语义关联信息作为辅助信息能为物品引入更多的语义关系，提升推荐算法发现用户兴趣的能力。

(2)多样性，知识图谱包含的丰富实体语义关联提供了多样的关系连接实体，这有利于避免推荐结果局限性增加了多样化。

(3)可解释性，知识图谱可以作为连接用户与项目以及项目与项目的语义网络，增强推荐能力提高用户满意度和接受度，增强用户对推荐系统的信任。

发明内容

本发明的发明目的在于：为了能够更好的解决推荐处理中的基于协同过滤的处理方式时的数据稀疏性和冷启动问题，本发明提出了一种基于知识图谱的个性化推荐方法。本发明利用用户历史行为，以及知识图谱丰富的实体语义关联信息深度挖掘用户喜好，从而能够有效挖掘用户的喜好，具有更高的推荐精确度和多样性。

本发明的基于知识图谱的个性化推荐方法，包括如下步骤：

S1：构建知识图谱，从而使得能从知识库和文本内容中获得项目的相关知识；

S2：实体链接，将用户相关实体链接到知识图谱，并将链接的知识所对应的实体作为中心实体，在知识图谱中进行一定跳数内的邻居实体的查询，形成局部知识网络；

其中，用户相关实体为用户历史访问的实体；

查询的匹配对象为实体的向量表示之间的相似度量值，其中实体的向量表示基于采用的特征向量提取方式获得，即通过初始化处理提取实体的向量表示；

S3：根据用户的历史行为，学习用户喜好向量，并基于用户喜好向量计算候选项目的推荐度，基于推荐度确定推荐列表并向用户推送；

S31：确定推荐的候选项目，并基于预设的向量化方式，对候选项目进行向量化表示，得到各推荐项目的向量表示；

S32：通过自注意力机制学习用户喜好向量，并基于用户喜好向量学习用户对局部知识网络中每个实体的喜好向量(即喜好程度)；基于知识图谱的每一跳包括的实体的喜好向量，得到知识图谱的每一跳的知识喜好向量；并基于一定跳数内的知识喜好向量得到知识域融合的喜好嵌入向量C；

所述用户喜好向量为：对用户的历史行为进行向量表示，基于一段时间内或一定数量的用户历史行为的向量表示得到用户历史行为矩阵H；基于预设的用于向量表示的激活函数，得到每条历史行为的用户向量表示，再计算用户历史行为之间的相似度：基于当前用户的所有历史行为之间的相似度得到用户历史行为的相似矩阵，基于相似矩阵S和用户历史行为矩阵H的矩阵乘积得到用户的兴趣表达，再基于预设筛选规则，从得到的多条兴趣表达中筛选部分兴趣表达得到用户最终的喜好向量，即基于筛选出的所有兴趣表达的均值向量得到用户喜好向量；

所述知识域融合的喜好嵌入向量C为：为包括的每一跳的知识喜好向量设置对应的线性变换权重；基于当前包括的各跳的线性变换后的知识喜好向量得到喜好嵌入向量C；

S33：基于预设的用于计算推荐度的激活函数，将喜好嵌入向量C与候选项目的向量表示中的其中一个转置后再相乘结果作为该激活函数的输入，得到每个候选项目的初始推荐度；对所有候选项目的初始推荐度进行归一化处理，得到个候选项目的推荐度；

基于预设的推荐数量K，选择前K个最大推荐度对应的候选项目作为当前的推荐列表并向用户推送；

或者，基于预设的推荐阈值，由推荐度大于或等于推荐阈值的候选项目得到当前的推荐列表并向用户推送。

综上所述，由于采用了上述技术方案，本发明的有益效果是：与现有技术相比，本发明所提供的一种基于知识图谱的个性化推荐方法，不仅利用了深度学习模型强大的隐藏特征的提取能力，同时发挥了知识图谱丰富的语义关联信息，能很好地解决协同过滤等算法的数据稀疏性和冷启动问题。通过用户历史行为，以及知识图谱深度挖掘用户喜好，极大地提高了算法的推荐精确度。同时，基于知识图谱的推荐能为推荐带来多样性，并且提升了推荐的可解释性。

附图说明

图1为具体实施方式中，本发明的基于知识图谱的个性化推荐方法的处理过程示意图；

图2为具体实施方式中，知识图谱构建的过程示意图。

图3具体实施方式中，知识图谱图注意力网络计算过程。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面结合实施方式和附图，对本发明作进一步地详细描述。

本发明所提供的一种基于知识图谱的个性化推荐方法，能够解决协同过滤等算法的数据稀疏性和冷启动问题。通过用户历史行为，以及知识图谱深度挖掘用户喜好，极大地提高了算法的推荐精确度。同时，基于知识图谱的推荐能为推荐带来多样性，并且提升了推荐的可解释性。本发明的推荐项目(推荐对象)包括但不限于：商品、电影、书籍和新闻等。

参见图1，本发明的具体步骤包括：

S1：构建知识图谱，从而使得能从知识库和文本内容中获得项目(如涉及文本内容的项目，如新闻、书籍、存在文字评论的商品等)的相关知识。

即：首先获取数据并对数据进行预处理加工，通过命名实体识别和关系抽取，形成知识图谱的基本存储单位三元组(头实体，关系，尾实体)，并进行存储形成一个知识图谱。用于处理具体的推荐场景。

S2：实体链接，将用户相关实体链接到知识图谱，将对应的知识作为中心实体，进行邻居实体的查询，形成局部知识网络。

S3：基于知识图谱的语义关系信息以及用户历史喜好，利用图注意力机制模型挖掘用户喜好，将两种信息进行合并，从而产生推荐依据，进而向用户推荐对应的推荐项目。即基于预测出的用户对候选推荐项目的预测点击率，将大于或等于推荐阈值的预测点击率降序排列，基于预置的推荐数量K，将降序排列后的前K个预测点击率对应的候选推荐项目作为用户的推荐列表并推送。其中，候选推荐项目表示未购买过的商品、书籍、电影(未观看)，或者是未点击查看的文本对象，如新闻。

本具体实施方式中，以推荐项目为新闻为例，描述本发明的基于知识图谱的个性化推荐方法的具体处理过程。

首先，在步骤S1中，以文本语句作为输入，通过实体抽取和关系抽取，形成知识图谱基本存储结构三元组(头实体，关系，头实体)。参见图2，具体的子流程如下：

S11：数据获取与预处理，数据获取的方式主要采用爬虫的方式，例如使用Scrapy框架搭建网页爬虫工具以此获取原始数据。获取原始数据后，对其进行预处理加工。其中预处理包括：去除文本数据中的转移字符，去除停用词等，去除重复字符，利用正则化对文本对象的各章名称代号格式进行消歧；

S12：进入到知识抽取第一个阶段，它将根据上一步处理过后的数据作为输入，首先经过命名实体识别，抽取出S11处理后数据中的实体。从S11处理的数据中自动识别出命名实体，包括但不限于：人名、地名，机构名，日期，时间，货币和百分比；

S13：进入到知识抽取第二阶段，它将完成上一步实体对之间的关系抽取，抽取出步骤S12中实体之间的关系。文本在经过命名实体识别后抽取出了文本的关键实体，而关系抽取就是在完成对文本关键实体的识别后完成实体之间的语义关系的抽取，从而得到存储结构三元组，并将其存入数据库，即知识存储；

S2：实体链接，此阶段以用户历史点击实体与知识图谱实体作为输入，将用户历史点击实体映射到知识图谱对应实体。即基于设置的候选实体生成方式，在知识库中查找与用户历史点击实体匹配的所有候选实体，得到多个候选实体；在匹配候选实体之前，通常还可以包括对用户历史点击实体进行查询扩展，即查询用户历史点击实体的同义信息项，基于这些本体及其同义信息项匹配候选实体；然后，基于预设的特征提取方式，提取用户历史点击实体(或实体及其同义信息项)与各候选实体的特征向量，以便于相似性计算；最后基于相似性筛选到最匹配的实体，实现用户历史点击实体与知识图谱对应实体的映射，即实体链接。同时，为了进一步的减少计算量，可以通过设置一个阈值，来排除那些相似性计算结果较小的候选实体。

实体链接的具体的子流程如下：

S21：初始化用户历史信息和知识图谱中每个知识的向量表示；

S22：实体链接，根据采用的实体链接方式，预测实体的链接概率(即实体与候选实体之间的相似度)，并将大于链接阈值的实体作为对应链接实体，小于链接阈值的实体认为非对应链接实体；其中，链接阈值的具体取值可以基于训练的方式获得。

S23：根据S22链接的知识实体，以该实体为中心实体，确定中心实体直接或间接关联的H跳实体，形成局部知识网络，参见图3，其中黑色圆圈表示中心实体，该局部知识网络的跳数为2，图中的数字表示相似度(即注意力权重)，从而形成知识图谱图注意力网络。

其中，实体的特征向量的提取还可以通过神经网络获取，例如采用下述方式：

首先提取实体的结构向量e_s，对于知识谱则包括头实体和尾实体的结构向量，例如采用TransD模型提取；然后，基于各个实体的描述文本，提取实体的语义向量e_d，对于知识谱则包括头实体和尾实体的语义向量；最后，将头实体结构向量与语义向量进行拼接，并进行归一处理，从而得到实体的最终的特征向量。

提取实体的语义向量所对应的网络结构为依次连接的卷积层、K最大值池化层、卷积层和均值池化层，将实体的描述文本中各个词语对应的词向量依次进行拼接后作为语义提取的网络的输入，均值池化层的输出作为当前实体的语义向量。设处理实体的BP神经网络的参数矩阵为W_e，偏置向量为b_e；采用的激活函数表示为f(·)，最终的特征向量记为e_u,则其计算方式为：e_u＝f(W_e[e_s:e_d]+b_e)。

S3：根据知识图谱的语义关系信息以及用户历史行为，利用图注意力模型将两种信息进行合并，从而产生推荐依据。具体的子流程如下：

S31：确定推荐的候选项目(包括但不限于用户未购买的商品、书籍；未点播的电影，未浏览的新闻文本等)，并基于预设的向量化方式，对候选项目进行向量化表示，得到各推荐项目的向量表示；

S32：历史喜好学习，从用户历史行为中学习用户的短期或者长期的喜好；

基于用户历史行为构建用户历史行为矩阵H，定义参数M表示用户历史行为的条数，d表示句子向量的维度，则用户历史行为矩阵H的维度为M×d；

基于预设的用于向量表示的激活函数，得到每条历史行为的用户向量表示，再计算用户历史行为之间的相似度：基于同一用户的所有历史行为之间的相似度得到用户历史行为的相似矩阵S(权值矩阵)。基于用户的用户历史行为的相似矩阵S和用户历史行为矩阵H，进而根据公式α＝SH得到用户的兴趣表达，其中，α的维度为L×d，L表示指定的用户兴趣项数；对于兴趣表达α的每个维度，根据公式

得到用户最终的喜好向量，其中α_l表示用户对第l项的喜好程度，即d维度的行向量。

本具体实施方式中，历史行为之间的相似度的计算方式为：

其中，Q和K分别表示同一用户的两个不同历史行为对应的用户向量表示，softmax()表示softmax函数，上标T表示转置；定义符号A表示某个用户向量表示，则A＝RelU(HWA_A)，其中，RelU()表示采用的激活函数，W_A表示维度为d×d的权重矩阵。

S33：深度喜好挖掘，学习用户对局部知识网络中每个实体的喜好程度，并将其喜好知识进行融合，作为下一步骤的输入，以此为依据进行推荐；此过程中，用户对于每一知识的喜好程度表示为：

其中，r_i、h_i分别表示第i个知识的关系和头实体，/>

表示点击的历史中的实体集合，h表示集合/>

中的头实体。

知识图谱每一跳的知识喜好为：

其中p_i表示对知识实体的喜好程度，hop_k表示知识域中第k跳的知识嵌入向量；定义A^k表示对hop_k做线性变换后得到的嵌入向量，W^k表示第k跳的权重，即进行线性变换的权重，基于训练的方式确定具体的权重取值，其中A^k＝W^khop_k+A^k-1，且A¹＝W¹hop₁+m，从而通过用户历史行为的短期或长期爱好进行喜好知识的深度挖掘可以得到知识域融合的喜好嵌入向量为：A″＝W^k-1hop_k-1+A^k。

S34：根据知识图谱学习的用户喜好向量，进行候选推荐项目的点击率P_i预测，即组合喜好嵌入向量A″和候选项目嵌入向量V＝{v₁,v₂,…v_n}的预测的点击率P_i＝σ(A″^Tv_i)，其中n表示候选项目数量。其中，σ()表示预设的激活函数。

但候选项目的点击率小于推荐阈值时，认为用户对该项目不感兴趣，故不作为推荐。当候选项目的点击率大于推荐阈值时，为用户对该项目感兴趣，故作为推荐，并将认为推荐的项目进行点击率排序，将前K项作为推荐项目。其中，推荐阈值可基于训练的方式获取。

以上所述，仅为本发明的具体实施方式，本说明书中所公开的任一特征，除非特别叙述，均可被其他等效或具有类似目的的替代特征加以替换；所公开的所有特征、或所有方法或过程中的步骤，除了互相排斥的特征和/或步骤以外，均可以任何方式组合。

Claims (2)

1.基于知识图谱的个性化推荐方法，其特征在于，包括如下步骤：

S1：构建知识图谱，从而使得能从知识库和文本内容中获得项目的相关知识；

S2：实体链接，将用户相关实体链接到知识图谱，并将链接的知识所对应的实体作为中心实体，在知识图谱中进行一定跳数内的邻居实体的查询，形成局部知识网络；

其中，用户相关实体为用户历史访问的实体；

查询的匹配对象为实体的向量表示之间的相似度量值，其中实体的向量表示基于采用的特征向量提取方式获得，即通过初始化处理提取实体的向量表示；

S3：根据用户的历史行为，学习用户喜好向量，并基于用户喜好向量计算候选项目的推荐度，基于推荐度确定推荐列表并向用户推送；

S31：确定推荐的候选项目，并基于预设的向量化方式，对候选项目进行向量化表示，得到各推荐项目的向量表示；

S32：通过自注意力机制学习用户喜好向量，并基于用户喜好向量学习用户对局部知识网络中每个实体的喜好向量；基于知识图谱的每一跳包括的实体的喜好向量，得到知识图谱的每一跳的知识喜好向量；并基于一定跳数内的知识喜好向量得到知识域融合的喜好嵌入向量C；

所述用户喜好向量为：对用户的历史行为进行向量表示，基于一段时间内或一定数量的用户历史行为的向量表示得到用户历史行为矩阵H；基于预设的用于向量表示的激活函数，得到每条历史行为的用户向量表示，再计算用户历史行为之间的相似度，基于当前用户的所有历史行为之间的相似度得到用户历史行为的相似矩阵，基于相似矩阵S和用户历史行为矩阵H的矩阵乘积得到用户的兴趣表达，再基于预设筛选规则，从得到的多条兴趣表达中筛选部分兴趣表达得到用户喜好向量，即基于筛选出的所有兴趣表达的均值向量得到用户喜好向量；

所述知识域融合的喜好嵌入向量C为：为包括的每一跳的知识喜好向量设置对应的线性变换权重；基于当前包括的各跳的线性变换后的知识喜好向量得到喜好嵌入向量C；

喜好嵌入向量C具体为：

定义每一跳的知识喜好向量为hop_k，定义A^k表示对hop_k做线性变换后得到的嵌入向量，m表示用户最终的喜好向量，W^k表示第k跳的线性变换权重，其中A^k＝W^khop_k+A^k-1，且A¹＝W¹hop₁+m；则知识域融合的喜好嵌入向量C为：CW^k-1hop_k-1+A^k；

S33：基于预设的用于计算推荐度的激活函数，将喜好嵌入向量C与候选项目的向量表示中的其中一个转置后再相乘结果作为该激活函数的输入，得到每个候选项目的初始推荐度；对所有候选项目的初始推荐度进行归一化处理，得到个候选项目的推荐度；

基于预设的推荐数量K，选择前K个最大推荐度对应的候选项目作为当前的推荐列表并向用户推送；

或者，基于预设的推荐阈值，由推荐度大于或等于推荐阈值的候选项目得到当前的推荐列表并向用户推送。

2.权利要求1所述的方法，其特征在于，用户历史行为之间的相似度的度量方式为：

其中，Q和K分别表示同一用户的两个不同历史行为对应的用户向量表示，上标T表示转置，d表示用户向量表示的维度，s表示用户向量表示Q和K之间的相似度。/>

Images