CN111949885B - 一种面向旅游景点的个性化推荐方法 - Google Patents

Abstract

本发明公开一种面向旅游景点的个性化推荐方法，首先利用原始数据集构建用户知识图谱和景点知识图谱；然后对用户知识图谱进行进行特征学习，得到第一用户表示向量和第一项目表示向量；之后基于第一用户表示向量对景点知识图谱进行特征学习，得到第二用户表示向量和第二项目表示向量；接着将第一用户表示向量和第二用户表示向量组合成最终用户表示向量；并将第二项目表示向量直接作为最终项目表示向量；最后将最终用户表示向量和最终项目表示向量进行深层次的交互，以预测得到用户对景点的偏好概率，从而完成旅游景点的个性化推荐。本发明能够避免陷入单一知识图谱的特征学习，以提高推荐的准确度。

Description

一种面向旅游景点的个性化推荐方法

技术领域

本发明涉及个性化推荐技术领域，具体涉及一种面向旅游景点的个性化推荐方法。

背景技术

伴随着信息技术和互联网行业的发展，特别是电子支付的兴起，用户的选择平台越来越多，旅游，出行预订方式和消费方式也在发生改变。当注重服务的各行业拥抱数字化与智慧科技之后，为了推动行业的数字化升级，各大平台纷纷推出智能解决方案，各大行业的数据量增长非常迅速，信息过载成了人们处理信息的挑战。对于具体用户而言，如何在以指数增长的资源中快速、准确地定位到自己需要的内容是一个非常重要且极具挑战的事情。对于服务提供商而言，如何把恰当的商品及时呈现给用户，从而促进交易量和经济增长，也是一件颇具难度的事情，而个性化推荐的诞生极大地缓解了这个困难。

个性化推荐是指通过挖掘用户在网络上留下的“信息足迹”，采集并分析用户的网络行为与消费偏好，根据不同的推荐算法将精准的、契合度高的内容推荐给用户。个性化推荐算法的产生与发展极大地便利了人们的生产与生活。对于用户而言，不用再为在海量的信息中检索需要的内容而苦恼，对于服务提供商而言能够更好地分析用户的历史行为，为用户提供个性化的决策支持和信息服务。个性化推荐的目标是既满足用户意识到的需求，也能满足用户没有意识到的需求，或意识到，但没有表达出来的需求，让用户超越个体的视野，避免只见树木不见森林。

虽然个性化推荐算法发展至今已经有十多年的历史了，但是科研人员仍不断致力于探索更加高效的推荐算法，但是现在的个性化推荐技术仍有不完善之处，从用户角度来看，应从多角度考虑用户行为信息、细化商品类别、推荐结果更注重时效性、推荐结果质量更高、推荐内容更多样化、预测结果更准确等这几个角度出发。对于面向旅游景点的个性化推荐领域，由于每个用户的偏好不尽相同，每个用户及景点的交互数据并不是很丰富，因此如何精准的把握用户兴趣偏好问题、如何解决数据稀疏问题、如何解决冷启动问题、如何避免推荐景点的单调与重复问题是该领域个性化推荐的难点。

发明内容

本发明提供一种面向旅游景点的个性化推荐方法，通过构建用户知识图谱和景点知识图谱再结合图表示学习的方法来实现对用户的个性化推荐，力求降低用户检索景点信息的难度，为用户推荐最合适的景点。

为解决上述问题，本发明是通过以下技术方案实现的：

一种面向旅游景点的个性化推荐方法，其具体包括步骤如下：

步骤1、从点评网站获取原始数据集，并利用原始数据集构建用户知识图谱和景点知识图谱；

步骤2、将步骤1所构建的用户知识图谱送入到图卷积神经网络中，利用图表示学习的方法对构建的用户知识图谱进行特征学习，得到第一用户表示向量和第一项目表示向量；

步骤3、将步骤1所构建的景点知识图谱和第一用户表示向量送入到图卷积神经网络中，利用图表示学习的方法对构建的景点知识图谱进行特征学习，得到第二用户表示向量和第二项目表示向量；

步骤4、将步骤2所得到的第一用户表示向量和步骤3所得到的第二用户表示向量组合成最终用户表示向量；同时将步骤3所得到的第二项目表示向量直接作为最终项目表示向量；

步骤5、利用多层前馈神经网络对步骤4所得到的最终用户表示向量和最终项目表示向量进行深层次的交互，在细粒度上捕获用户的个性化偏好，以预测得到用户对景点的偏好概率；

步骤6、对于待推荐用户，将该用户对景点的偏好概率从大到小排序，并取前k个偏好概率较大的景点作为该用户的景点推荐列表，其中k为预设推荐景点的个数。

上述步骤1中，用户知识图谱和景点知识图谱为采用RDF的形式表示的知识图谱。

上述步骤4中，第一用户表示向量和第二用户表示向量采用二者加权和的方式组合成最终用户表示向量，或者第一用户表示向量和第二用户表示向量采用二者的加权拼接的方式组合成最终用户表示向量。

与现有技术相比，本发明具有如下特点：

1、本发明引入了用户和景点知识图谱作为辅助信息，它包含了实体(项或项属性)之间丰富的语义关联信息，能够很好的解决数据稀疏问题，与其他类型的辅助信息相比，引入知识图谱可以使推荐效果具有以下优势：准确性，知识图谱为用户和景点引入了更多的语义关系，能够深入挖掘用户的偏好；多样性，知识图谱提供了不同类型的连接，有利于推荐结果的发散，避免了将推荐结果限制为单一类型；可解释性，知识图谱可以将用户的交互历史和推荐结果联系起来，从而提高用户对推荐结果的接受度和满意度，增强用户对推荐结果的信任度。

2、本发明设计了一个模型很好地结合了用户知识图谱学习和景点知识图谱学习，用基于图卷积神经网络的方法从用户知识图谱学习用户表示向量，再将用户表示向量引入景点知识图谱中联合学习得到景点表示向量，实现了用户知识图谱和景点知识图谱的无缝统一。

3、本发明使用目前最流行的图表示学习的方法GCN将知识图谱中的三元组向量化，由于图卷积神经网络在学习高阶图的目标节点表示方面显示出巨大优势，该方法不仅保留原来数据的特征，还极大地简化了计算，有效地挖掘KG中的高阶结构信息和语义信息来捕获用户的个性化偏好，较好地与景点推荐系统进行融合。

4、本发明使用了深度学习技术来提升表征学习能力。深度神经网络的优势在于其强大的表征学习能力。利用深度学习技术从用户和景点表示向量中学习出有效的隐因子特征表示，为了尽量提高模型的准确性，研究者往往会使用丰富的、甚至异构的内容数据。这些特征从不同的维度展现了不同的信息，而且特征间的组合通常是非常有意义的。传统的交叉特征是由工程师手动设计的，这有很大的局限性，成本很高，并且不能拓展到未曾出现过的交叉模式中。用神经网络自动学习高阶的特征交互模式，弥补了人工特征工程带来的种种局限性。

附图说明

图1为一种面向旅游景点的个性化推荐方法的流程图。

图2为用户知识图谱示例图。

图3为景点知识图谱示例图。

图4为面向旅游景点的个性化推荐方法的整体模型图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，以下结合具体实例，并参照附图，对本发明进一步详细说明。

参见图1，一种面向旅游景点的个性化推荐方法，具体包括以下步骤：

步骤1：从点评网站中获取原始数据集，并对原始数据集进行处理后，构建用户知识图谱和景点知识图谱。

从最大点评网站下载原始数据集，由于原始数据集庞大且内容复杂，其中包含很多空值字符串以及无法识别的乱码数据，这些都需要进行处理，先将原始JSON数据通过大数据框架MapReduce提取相应字段及字段值，然后将预处理好的数据导入分布式文件存储系统HDFS中，搭建大数据集群环境来部署相应的任务节点，通过分析数据的结构特点做数据清洗，形成最终的数据集文件。处理好的原始数据集包含多个用户对多景点的评级数据、景点数据信息及用户属性信息。

知识图谱(Knowledge Graph，KG)本质上是一个以实体ε为节点，边R表示其关系的大型有向语义网络，其目的是描述客观世界的概念实体事件及其之间的关系。本发明采用RDF的形式表示知识图谱，RDF是知识图谱的一种常见表示形式，它是一个三元组的集合，每个三元组表示存在一个关系r从头实体e_h指向尾实体e_t，其中实体代表实体对象(对象的属性值)，关系代表实体对象之间的关系(对象的属性)。

在本发明中，将用户属性值作为节点，将用户属性作为边，构建用户知识图谱kg_U＝{(e_h,e_t,r_u)|e_h,e_t∈ε_u,r_u∈R_u}，如图2所示。将景点属性值作为节点，将景点属性作为边，构建景点知识图谱

如图3所示。对于每个用户u∈U或者景点i∈I，在各自对应的知识图谱中都有与之对应的实体e_u∈ε_U或者e_i∈ε_I。在用户知识图谱中，r_u表示用户KG中实体之间的关系(属性)，总共14种关系：年龄、性别、职业、所在地邮编等。在景点知识图谱中，r_i表示景点KG中实体之间的关系(属性)，总共32种关系：景点的类型、最佳游览时间、消费价格/等级、地理位置等属性信息。

步骤2：将步骤1所构建的用户知识图谱和景点知识图谱分别送入到图卷积神经网络中，利用图表示学习的方法对构建的用户知识图谱和景点知识图谱进行特征学习，分别得到用户表示向量和景点表示向量。

本发明采用图卷积神经网络(Graph Convolution Neural Network，GCN)学习用户和景点的表示向量，引入图表示学习的方法处理推荐系统中知识图谱的相关信息，有助于增强个性化推荐的学习能力，实现更加精准的个性化偏好建模，从而提高推荐的准确度和用户满意度。

用

表示用户集合，用

表示景点集合，其中M＝|U|和N＝|I|分别表示用户和景点的个数，一个用户交互过的景点集合用C＝{(u_l,i₁),(u_l,i₂),...,(u_l,i_|ul|)},l∈{0,1,2,...,M}表示，其中u_l<<N表示该用户行为序列中交互过的景点个数，用

表示用户-景点交互矩阵，每个用户-景点交互对用(u_l,i_j)∈X,l∈{0,1,2,...,M},j∈{0,1,2,...,N}表示，上述u_l∈U，i_j∈I，本发明使用0-1隐式反馈数据作为交互标签，如果用户和景点之间的存在交互则定义

否则

在许多推荐领域的研究工作中，基本的输入通常是一个非常稀疏的0-1矩阵，但随着用户(项目)的数量急剧增加，用户(项目)表示向量的维度也会成比例的增加，所以典型的one-hot表示向量会造成维数灾难。在本发明引入了两个低维特征矩阵

和

替换传统的0-1特征矩阵，用来保存M个用户和N个项目的表示向量，d_u和d_i属于模型超参数，分别表示用户表示向量的维度和项目表示向量的维度。用户的特征矩阵和项目的特征矩阵随着模型进行端到端训练，矩阵的起始状态采用高斯分布随机初始化。由于每个用户和项目都有唯一标识符，标识符与矩阵的索引一一对应，根据标识符可以快速地在特征矩阵中找出对应的表示向量。例如某用户u_l的标识符是l，某项目i_j的标识符是j，那么用户的特征矩阵E_U中第l列和项目的特征矩阵E_I中第j列分别代表用户表示向量u_l和项目表示向量i_j，本发明采用一系列的用户-项目交互对(u_l,i_j)∈X作为模型的输入。

由于本发明只关注学习用户表示向量和项目表示，所以忽略实体之间的关系向量。在构建了用户知识图谱后，把用户知识图谱当作一个无向图，给定一对待训练的用户-景点交互对(u_l,i_j)：

1)用户知识图谱学习(UEK)：

在UEK部分，如图4组合层的上半部分所示，它描绘了给定待训练用户-景点交互对(u_l,i_j)中用户实体的两层邻居示例，也即局部感受野的范围。首先通过用户的特征矩阵E_U得到用户的初始表示向量u_l，再从目标用户u_l的邻域中进行邻居采样作为这一层的接收域，用Ν^h(u_l)表示用户u_l在用户知识图谱中第h∈[1，H]层的邻居集合，通过图卷积神经网络从第1层到第H层逐层聚合邻居信息来计算该用户的表示向量，随着训练的迭代不断更新用户的表示和模型的参数。目标用户u_l经过h层图卷积之后的表示向量为：

本发明采用非线性修正函数ReLU作为图卷积神经网络的激活函数，ReLU(x)＝max(0,x)，公式(1)中[；]表示向量的拼接操作，

表示目标用户u_l的第h层邻居的共享权重转换矩阵，

表示目标用户u_l第h-1层邻居的聚合表示向量，为了实现邻域中的每个邻居置换不变性，这里使用元素加权平均聚合器aggregator来聚合每层的邻居信息，每层邻居信息的聚合计算公式为：

公式(3)中sigmoid函数定义为σ(x)＝1/(1+exp(-x))，

表示第h层邻居信息聚合器的权重矩阵，它在第h层的所有邻居上共享，MEAN(·)表示参数集合中每个向量累和的平均值。

将用户知识图谱送入到UEK后，最终的输出是第一用户表示向量u和第一项目表示向量i。

2)景点知识图谱学习(IEK)：

在IEK部分，如图4组合层的下半部分所示，它描绘了给定待训练用户-景点交互对(u_l,i_j)中i_j的一层邻居示例，(u_l,i_j)与UEK部分给出的用户-景点交互对是相同的。虽然两部分都是使用图卷积神经网络来学习用户和景点的表示向量，但二者的区别在于学习景点的表示过程中引入了用户表示向量，并根据用户u_l对景点i_j与其邻居之间关系的偏好程度来聚合i_j的邻居信息，从而考虑了用户与景点之间的关联性，本发明使用N^h(i_j)表示第h层与实体i_j直接相连的邻居集合，

表示第h层实体i_j与每个邻居i∈N^h(i_j)之间的关系，

表示关系

对u_l的重要程度。

由函数

计算得到，为了简单起见直接采用内积计算方式：

公式(4)中

是从UEK部分学到的u_l表示向量，

是每个实体之间关系的表示向量。这样做的好处是我们使用能够捕获用户个人画像的表示向量来计算对关系的偏好程度，从而进一步挖掘用户的潜在兴趣和动机。在景点推荐场景中，用户喜欢某处景点可能是喜欢这个景点中的“价格”或景点的“星级”，我们认为通过计算用户对景点属性的得分，可以得到聚合每个景点邻居信息的权重。但这里有个问题，如果用户的表示向量起始状态是随机初始化的，则会导致计算分数的不确定性，在现实场景中，每个用户都包含许多属性信息，如性别、年龄、职业等，这些属性信息构成了用户的个人画像，由于每个用户的画像不同会导致用户对电影偏好的动机不同，例如，用户A和用户B对同一景点的评分都是5分，用户A可能喜欢景点的类型，那么用户A对“景点类型”关系计算的分数将明显高于其他关系计算的分数；用户B可能喜欢景点的价格，那么用户B对“价格”关系计算的分数将明显高于其他关系计算的分数，虽然这两个用户对该景点的评分相同，但能更准确地挖掘用户潜在的个性化偏好。

在计算了用户u_l与各关系的得分后，利用计算出的得分对

的邻居进行线性组合，同样采用多层聚合的方式来学习景点实体的表示向量，每层邻居的采样策略和UEK部分相同。第h∈[1，H]层邻居的聚合表示向量

的计算公式为：

公式(5)中的e表示i_j在第h层的每个邻居向量，

表示经过softmax函数规范化的用户-关系得分。类似地，本发明使用另一组转换和权重矩阵生成目标实体的第h层表示向量：

将用户知识图谱送入到IEK后，最终的输出是第二用户表示向量u′和第二项目表示向量i′。

步骤3：采用多层感知器(Multi-Layer Perceptron，MLP)技术，即用多层前馈神经网络对最终用户表示向量和最终项目表示向量进行深层次的交互，在细粒度上捕获用户的个性化偏好，以提高推荐的准确性并最终预测得到用户对景点的偏好概率。

如图4的组合层(Combining Layer)所示，是结合用户知识图谱学习和景点知识图谱学习的关键部分。组合层在给定的形式化输入下共同训练了用户知识图谱和景点知识图谱。

对于最终用户表示向量Z_u：采用二者加权和的方式或二者的加权拼接的方式将第一用户表示向量u和第二用户表示向量u′组合成最终用户表示向量Z_u：

Z_u＝θu+(1-θ)u′ or Z_u＝[θu；(1-θ)u′] (8)

公式(8)中的θ是一个可调参数来控制u和u′的比重

对于最终项目表示向量Z_i：直接将所得到的第二项目表示向量i′作为最终项目表示向量Z_i。

通过引入从用户端知识图谱中学到的用户表示向量来计算用户对项目实体之间关系的偏好程度，并以此作为权重来聚合项目邻居的特征信息，从而考虑了目标用户与项目之间的相互影响。UEK和IEK部分都能够提取用户特征，将UEK和IEK学到的用户特征进行组合是为了平滑二者对整体模型的影响以避免陷入单一知识图谱的特征学习。

得到用户和景点的最终表示向量之后，使用多层前馈神经网络对用户和景点之间的交互作用进行更深层次的建模。上述的用户和景点表示向量合为一个表示向量后将其输入到含有多个前馈神经网络的偏好层P：

p^q(z)＝ReLU(W^qp^q-1(z)+b^q),q∈[1,Q] (9)

公式(9)中偏好层P的隐含层数为Q，将P中第q层隐含层定义为p^q(z)，将p⁰(z)＝z＝[Z_u；Z_i]作为整个神经网络的输入层，W^q和b^q分别为第q层的权重矩阵和偏置向量，最后利用P层顶部的sigmoid层产生概率来表示用户对景点的偏好程度

公式(10)中的ω^Q+1表示最后一层的权重向量。为了使每一批训练样本的计算模式固定并且更高效，在保持经典梯度下降法(GD)的稳定下降特性和随机梯度下降(SGD)的随机特性的同时，本发明使用小批量梯度下降法(mini-batch SGD)来更新模型参数，模型最小化的损失函数如下：

公式(11)中L表示sigmoid交叉熵损失函数，y表示训练样本的标签集，

和

分别代表正、负用户-景点交互对集合，公式(11)中的最后一项为L2正则化项以避免出现过拟合现象。

步骤4：对于待推荐用户，将该用户对各景点的偏好概率从大到小排序，并取偏好概率排在前k位的景点作为该用户的景点推荐列表，其中k为预设推荐景点的个数。

需要说明的是，尽管以上本发明所述的实施例是说明性的，但这并非是对本发明的限制，因此本发明并不局限于上述具体实施方式中。在不脱离本发明原理的情况下，凡是本领域技术人员在本发明的启示下获得的其它实施方式，均视为在本发明的保护之内。

Claims (3)

1.一种面向旅游景点的个性化推荐方法，其特征是，其具体包括步骤如下：

步骤1、获取原始数据集，并利用原始数据集构建用户知识图谱和景点知识图谱；

步骤2、将步骤1所构建的用户知识图谱送入到图卷积神经网络中，利用图表示学习的方法对构建的用户知识图谱进行特征学习，得到第一用户表示向量；

在用户知识图谱学习UEK部分，它描绘了给定待训练用户-景点交互对(u_l，i_j)中用户实体的两层邻居示例，也即局部感受野的范围；首先通过用户的特征矩阵E_U得到用户的初始表示向量u_l，再从目标用户u_l的邻域中进行邻居采样作为这一层的接收域，用N^h(u_l)表示用户u_l在用户知识图谱中第h∈[1，H]层的邻居集合，通过图卷积神经网络从第1层到第H层逐层聚合邻居信息来计算该用户的表示向量，随着训练的迭代不断更新用户的表示和模型的参数；目标用户u_l经过h层图卷积之后的表示向量为：

采用非线性修正函数ReLU作为图卷积神经网络的激活函数，ReLU(x)＝max(0，x)，公式(1)中[；]表示向量的拼接操作，

表示目标用户u_l的第h层邻居的共享权重转换矩阵，

表示目标用户u_l第h-1层邻居的聚合表示向量，为了实现邻域中的每个邻居置换不变性，这里使用元素加权平均聚合器aggregator来聚合每层的邻居信息，每层邻居信息的聚合计算公式为：

公式(3)中sigmoid函数定义为σ(x)＝1/(1+exp(-x))，

表示第h层邻居信息聚合器的权重矩阵，它在第h层的所有邻居上共享，MEAN(·)表示参数集合中每个向量累和的平均值；

将用户知识图谱送入到用户知识图谱学习UEK后，最终的输出是第一用户表示向量u；

步骤3、将步骤1所构建的景点知识图谱和步骤2所得到的第一用户表示向量同时送入到图卷积神经网络中，利用图表示学习的方法对构建的景点知识图谱进行特征学习，得到第二用户表示向量和第二项目表示向量；

在景点知识图谱学习IEK部分，它描绘了给定待训练用户-景点交互对(u_l，i_j)中i_j的一层邻居示例，(u_l，i_j)与UEK部分给出的用户-景点交互对是相同的；学习景点的表示过程中引入了用户表示向量，并根据用户u_l对景点i_j与其邻居之间关系的偏好程度来聚合i_j的邻居信息，从而考虑了用户与景点之间的关联性，使用N^h(i_j)表示第h层与实体i_j直接相连的邻居集合，

表示第h层实体i_j与每个邻居i∈N^h(i_j)之间的关系，

表示关系

对u_l的重要程度；

由函数

计算得到，为了简单起见直接采用内积计算方式：

公式(4)中

是从UEK部分学到的u_l的表示向量，

是每个实体之间关系的表示向量；

在计算了用户u_l与各关系的得分后，利用计算出的得分对

的邻居进行线性组合，同样采用多层聚合的方式来学习景点实体的表示向量，每层邻居的采样策略和用户知识图谱学习UEK部分相同；第h∈[1，H]层邻居的聚合表示向量

的计算公式为：

公式(5)中的e表示i_j在第h层的每个邻居向量，

表示经过softmax函数规范化的用户-关系得分；使用另一组转换和权重矩阵生成目标实体的第h层表示向量：

将用户知识图谱送入到景点知识图谱学习IEK后，最终的输出是第二用户表示向量u′和第二项目表示向量i′；

步骤4、将步骤2所得到的第一用户表示向量和步骤3所得到的第二用户表示向量组合成最终用户表示向量Z_u；同时将步骤3所得到的第二项目表示向量直接作为最终项目表示向量Z_i；

步骤5、利用多层前馈神经网络对步骤4所得到的最终用户表示向量和最终项目表示向量进行深层次的交互，在细粒度上捕获用户的个性化偏好，即将最终用户表示向量和最终项目表示向量合为一个表示向量后将其输入到含有多个前馈神经网络的偏好层P：

p^q(z)＝ReLU(W^qp^q-1(z)+b^q),q∈[1,Q] (8)

公式(8)中偏好层P的隐含层数为Q，将P中第q层隐含层定义为p^q(z)，将p⁰(z)＝z＝[Z_u；Z_i]作为整个神经网络的输入层，W^q和b^q分别为第q层的权重矩阵和偏置向量，最后利用P层顶部的sigmoid层产生概率来表示用户对景点的偏好程度

公式(9)中的ω^Q+1表示最后一层的权重向量；

以预测得到用户对景点的偏好概率；

步骤6、对于待推荐用户，将该用户对景点的偏好概率从大到小排序，并取前k个偏好概率较大的景点作为该用户的景点推荐列表，其中k为预设推荐景点的个数。

2.根据权利要求1所述的一种面向旅游景点的个性化推荐方法，其特征是，步骤1中，用户知识图谱和景点知识图谱为采用RDF的形式表示的知识图谱。

3.根据权利要求1所述的一种面向旅游景点的个性化推荐方法，其特征是，步骤4中，第一用户表示向量和第二用户表示向量采用二者加权和的方式组合成最终用户表示向量，或者第一用户表示向量和第二用户表示向量采用二者的加权拼接的方式组合成最终用户表示向量。

Images