CN113505311A - 一种可根据“潜在语义空间”的旅游景点交互推荐方法 - Google Patents

Abstract

本发明公开了一种可根据“潜在语义空间”的旅游景点交互推荐方法，利用大量用户的旅游行为，借用文本分析的主题模型方法，提取用户旅游行为中蕴含的潜在语义特征，构建潜在语义空间，作为本文推荐模型的中间结果挖掘用户偏好。通过向量e_u∈R^d(e_i∈R^d)描述一个用户或一个城市，d表示向量的维数，通过向量嵌入(embedding)构建一个用户‑城市查询表。本发明通过主题模型挖掘潜语义空间，然后在潜语义空间中使用高阶连通将用户偏好信息通过空间潜语义串联起来作为旅游推荐模型的输入，并通过加入空间约束条件使本研究的旅游推荐模型生成更完备、合理的推荐结果。

Description

一种可根据“潜在语义空间”的旅游景点交互推荐方法

技术领域

本发明涉及旅游景区领域，尤其涉及一种可根据“潜在语义空间”的旅游景点交互推荐方法。

背景技术

大数据时代，海量的数据正以数以亿万计每秒的速度产生，也记录着无数用户行为信息。海量的网络数据一方面为人们提供丰富、全面的信息，给人们日常生活带来便利，但另一方面，如何在数据海洋中寻找有用的信息非常重要。随着人们生活水平的提高，除去那些与生活息息相关的活动，如就餐、购物等，人们日常生活中旅游行为日益增加，有关旅游的网站和手机应用也与日俱增。人们在选择旅游地、计划旅游路线时往往会参考网络上的相关内容。然而网络上关于旅游的信息数量大、类别多，用户时常迷失在网络数据海洋中，无法高效分析利用这些海量数据。数据量级的不断提升造成了信息过载、数据利用率低下等问题，如何根据用户“兴趣偏好”自适应地挖掘满足用户行为习惯的信息成为一大难题，所以迫切需要智能信息检索对海量信息进行过滤，为用户在数据海洋中匹配相关的数据信息。推荐技术作为一种有效的信息过滤技术，近些年快速发展，许多线上服务公司都配备有相应的推荐服务，如亚马逊、淘宝、网易云音乐等。这些公司基于用户与商品间的历史交互行为，向用户推荐可能感兴趣的相关产品，并借助网络上数以万计的不同用户意见，帮助用户发现有用且感兴趣的内容。

随着移动设备的普及和定位技术的发展，目前大部分社交网络公司的应用都具有位置信息采集功能，如国外的Foursquare、Gowalla，国内的微信、马蜂窝等。用户在使用这些APP(Application)的时候会产生大量与位置信息有关的数据，这种新型的网络用户关系同样需要推荐技术。如用户游览过某几个景点，在用户下次出行前，通过用户历史出行记录和景点特征向其推荐下一个景点。这时我们需要根据用户的历史旅游行为刻画用户的“兴趣偏好”，并以此作为向用户推荐下一个景点的依据。如何捕捉用户画像及用户交互信息，为广大用户寻找没去过但感兴趣的景点成为一大热门研究主题。传统推荐方法中将用户去过的那些景点当作属性，计算相似度后进行推荐。尽管诸如此类的个性化推荐技术已成熟应用于各大线上服务，但在旅游场景中，用户和项目在现实生活中均有真实映射，使得用户和项目的交互受到空间约束限制，这种约束对用户下一次出行决策起着至关重要的作用。如果像传统推荐那样将景点项目当作属性对待会丢失很多信息，为此，我们提出一种可根据“潜在语义空间”的旅游景点交互推荐方法。

发明内容

基于背景技术存在的技术问题，本发明提出了一种可根据“潜在语义空间”的旅游景点交互推荐方法，已解决背景技术中提出的问题。

本发明提供如下技术方案：

一种可根据“潜在语义空间”的旅游景点交互推荐方法，包括如下步骤：

A、旅游地潜语义挖掘：基于大量用户旅游行为数据挖掘城市空间语义；将用户作为单词，用户去过的城市和景点作为文档，借助LDA主题模型，提取用户旅游行为中蕴含的潜在语义特征，构建潜在语义空间，并借助层次聚类方法将各语义主题进行聚类后，作为推荐模型输入；

B、高阶信息嵌入：通过embedding向量e_u∈R^d(e_i∈R^d)描述一个用户或一个城市，d表示向量的维数，通过向量嵌入构建一个如公式(5.1)的查询表；

E＝[e_u1，e_un，e_i1，……e_im] (5.1)

其中用户向量是基于原始交互中与用户存在交互关系的城市，而城市向量是基于潜在语义空间中增强交互后的城市向量嵌入表达；

C、高阶信息传播：为了捕捉用户-项目图中的协同信号并提炼用户和目的地的嵌入表达，构建图神经网络上的消息传递结构作为嵌入传播层，在消息构建过程中，以用户在城市下的游览记录为例，我们将一个用户去过某个城市定义为一个用户城市对(u,i)，通过i的嵌入传入到u的信息如公式(5.2)；

m_i→u＝f(e_i,e_u,p_ui) (5.2)

m_i→u表示将与用户u显式连接的城市i的嵌入信息传递给用户u，f(*)为信息传递的编码函数，f(*)将嵌入向量e_i，e_u作为输入，由于消息传递中路径越长，节点间连接性就越弱，所以加入折扣因子p_ui控制用户城市对(u,i)每次传播影响大小，函数f(*)定义如公式(5.3)，折扣因子p_ui的定义如公式(5.4)；

W₁,W₂∈R^d′×d是用来挖掘高阶嵌入传播中有用信息的训练矩阵，d′是传播层数大小，l层传播取决于l-1层嵌入表达，用户u经过l层嵌入传播后所更新的嵌入如公式(5.5)，城市i的嵌入传播更新也是如此；

是训练转移矩阵，d_l为第l层嵌入转移矩阵的大小，

是上一步信息传递的嵌入，记录了来自l-1层的信息，并将影响用户u在第l层的嵌入表示，相似的，可以获得城市i在经过l层信息的嵌入表示。

本发明提供了一种可根据“潜在语义空间”的旅游景点交互推荐方法，本发明引入主题模型、层次聚类等方法，基于用户在城市和景点中的共现模式捕捉有意义的语义特征，并通过层次聚类挖掘潜语义空间，然后在潜语义空间中使用高阶连通将用户偏好信息通过空间潜语义串联起来作为旅游推荐模型的输入，并通过加入空间约束条件使本研究的旅游推荐模型生成更完备、合理的推荐结果。

附图说明

图1为本发明高阶潜在语义推荐模型图；

图2为本发明基于潜在语义的高阶连通图；

图3为本发明向量embedding关系图；

图4为本发明用户u₁的2阶嵌入传播图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1-4，本发明提供一种技术方案：

一种可根据“潜在语义空间”的旅游景点交互推荐方法，包括如下步骤：

A、旅游地潜语义挖掘：基于大量用户旅游行为数据挖掘城市空间语义；将用户作为单词，用户去过的城市和景点作为文档，借助LDA主题模型，提取用户旅游行为中蕴含的潜在语义特征，构建潜在语义空间，并借助层次聚类方法将各语义主题进行聚类后，作为推荐模型输入；

B、高阶信息嵌入：通过embedding向量e_u∈R^d(e_i∈R^d)描述一个用户或一个城市，d表示向量的维数，通过向量嵌入(embedding)构建一个如公式(5.1)的查询表；

E＝[e_u1，e_un，e_i1，……e_im] (5.1)

其中用户向量是基于原始交互中与用户存在交互关系的城市，而城市向量是于潜在基语义空间中增强交互后的城市向量嵌入表达；如图2所示，原始数据中用户u₁曾游览过丽江和广州，而丽江和广州在潜在语义空间中又分别与厦门和上海相关联，则用户u₁的embedding关系图如图3所示；

在各推荐场景中，通常有用户-项目的历史交互信息(购买、点击等)，我们根据用户-景点的历史交互数据信息构建一个用户-景点二分图：G＝<V,E>，节点V包含用户节点集合U和项目节点I，集合U和I中每个节点分别对应一个用户u和一个项目i，节点之间连边E表示用户u和项目i之间的交互关系，如果交互关系存在则连边权重为1，否则为0；需要注意的是本研究中两个用户节点或两个项目节点间本来没有连边；通过主题模型求解，本文获取旅游行为中隐含的城市和景点的多种主题语义特征，我们基于挖掘的潜在语义空间，构建用户、城市、景点的多层图网络，增加了用户节点间、城市节点间以及景点节点间的直接交互；如图2所示，潜在语义空间具体表现为topic1、topic2和topic3；这其中，上海同时具有topic2和topic3表示的语义，所以上海这个节点就作为聚合topic2和topic3语义的中间结点，将上海分别与广州和南京进行连接；如果从用户结点出发，那么所构建的高阶联通网络就包含u₁-丽江-厦门-u₂-南京-上海-广州的连边，而这条连边中，丽江-厦门，南京-上海-广州就是基于潜在语义构建的；

C、高阶信息传播：为了捕捉用户-项目图中的协同信号并提炼用户和目的地的嵌入表达，构建图神经网络上的消息传递结构作为嵌入传播层，在消息构建过程中，以用户在城市下的游览记录为例，我们将一个用户去过某个城市定义为一个用户城市对(u,i)，通过i的嵌入传入到u的信息如公式(5.2)；

m_i→u＝f(e_i,e_u,p_ui) (5.2)

m_i→u表示将与用户u显式连接的城市i的嵌入信息传递给用户u，f(*)为信息传递的编码函数，f(*)将嵌入向量e_i，e_u作为输入，由于消息传递中路径越长，节点间连接性就越弱，所以加入折扣因子p_ui控制用户城市对(u,i)每次传播影响大小，函数f(*)定义如公式(5.3)，折扣因子p_ui的定义如公式(5.4)；

W₁,W₂∈R^d′×d是用来挖掘高阶嵌入传播中有用信息的训练矩阵，d′是传播层数大小，不同于图卷积神经网络(GCN,Graph Convolution Network)中仅考虑用户向量e_u在信息传播中的贡献，本文中不仅考虑e_u的嵌入信息，还将e_i和e_u的交互关系通过e_i*e_u这种内积的方式，同时考虑用户向量e_u和城市向量e_i用以更好的编码信息传递，这样使得经过传递后的信息同时依赖于用户和城市的embedding向量，增加了模型嵌入表达的能力，我们将折扣因子p_ui表示为标准化图拉普拉斯算子元素

Du和Di表示用户u和城市i的度(包含结点的入度和出度)，折扣因子的加入使得既能包含远距离的交互关系，还能够根据传递距离控制贡献大小，根据高阶连通网络模型的描述，城市i可能会与另一个用户有交互记录，这时就会产生新的用户城市对(u′,i)，同样的，城市i在潜在语义网络中可能会与多个不同城市有交互记录，我们可以叠加更多嵌入传播层，这样一个用户(城市)能够将它的l跳邻居中带有协同信号的嵌入通过第l层嵌入传播注入，l层传播取决于l-1层嵌入表达，用户u经过l层嵌入传播后所更新的嵌入如公式(5.5)，城市i的嵌入传播更新也是如此；

是训练转移矩阵，d_l为第l层嵌入转移矩阵的大小，

是上一步信息传递的嵌入，记录了来自l-1层的信息，并将影响用户u在第l层的嵌入表示，相似的，可以获得城市i在经过l层信息的嵌入表示；

模型求解：

模型的整合函数定义如下：

表示用户u经过l层嵌入传播更新后的表示，需要注意的是

为用户u的初始化嵌入；激活函数LeakyReLU允许同时编码积极和消极信号；除了整合用户u所有显式邻居Du的l层嵌入传播，我们还需将这些能直接反应用户偏好的显式连接邻居Du考虑进来，即用户u的自环：m_u→u＝W₁e_u，W₁与函数f(*)中保持一致；经过多阶嵌入传播后，我们显式地将高阶连通信息注入用户城市对，并更新用户经过多层嵌入传播后的多元嵌入表示

相似的，城市i的多元嵌入

表示也能通过与其显式交互的用户经过l层嵌入传播更新后表示，更新过程如图4所示；u₂→i₂→u₁的协同信号能够通过l＝2层嵌入传播后捕捉到，同时，在1-hop和2-hop的邻居中我们观察到，除了存在的原始交互外(例如用户u₁与城市i₁、i₃)，城市i₁、i₂、i₃自身在潜在语义空间的embedding信息也能通过多层嵌入传播后，隐式编码进用户u₁的向量表示；

经过l层嵌入传播后，我们获得用户u的多元嵌入表示

由于不同传播层的嵌入结果表达的是不同连接，这些连接反应的用户偏好也不同，所以我们将用户u的多元嵌入表达进行拼接；我们在城市的多元嵌入表示

进行相同操作，得到包含每一层嵌入传播信息的最终表示：

公式中||为拼接操作，我们不仅将来自不同层的嵌入顺序拼接在一起，同时将初始化嵌入也添加进来更好的捕捉用户偏好；我们根据输入用户和目标城市的最终表示进行内积操作的得分生成候选集topK：

将候选集中各景点与用户的距离dist∈{dist₁,dist₂…dist_k}当作推荐排序的依据，基于空间距离dist与用户历史记录中各景点平均距离的欧式距离对候选城市排序，得到加入空间距离条件约束的城市推荐集；最后，根据候选城市下所包含的景点在用户旅游行为记录中的出现频次，选出候选城市中用户最可能感兴趣的景点最为HLSRM模型的推荐结果；

模型评价

(1)评价指标

通过三个评价指标对提出的HLSRM模型进行分析，为了评估最终topK推荐结果的有效性和推荐表现，我们选择Precision@K如公式(5.9)、Recall@K如公式(5.10)和NDCG@K如(5.11)对最终排序结果进行评估，三种评价标准的数学定义如下：

S_i(K)是HLSRM模型给用户u_i推荐的长度为K并且不包含训练集中所有与用户u_i有显示交互的景点集合，T_i是测试集中所有与用户u_i有显示交互的景点集合，rel(r_i)是S_i(K)中第i个景点的相关性，如果i在T_i中，rel(r_i)＝1，否则rel(r_i)＝0，

是S_i(K)按rel(r_i)从大到小排序后第i个景点的相关性；

(2)比较方法选择

MF-Freq：这种推荐算法建立在频率数据上，常用于处理显式数据反馈，使用的用户出行数据集，根据直接交互关系转换为0-1矩阵，即记录用户签到频次的一种转换，并通过LibFM包(RendleSteffen，2012)实现；

IS-UserBased-Graph：很多研究人员注意到仅仅靠显式数据反馈并不能得到很好地推荐结果，(Phuong，2019)将用户-项目的显式交互，通过矩阵相乘后得到用户间的高阶交互传播矩阵来处理用户间的隐式交互，降低了数据稀疏的消极影响，同时也是高阶连通性在矩阵应用中的一种体现；

PinSage：除了关注用户间的高阶交互，很多研究人员也关注项目间的高阶交互，(Rexetal，2018)通过在项目-项目图上使用GraphSage(William，2017)的方法，基于项目间的高阶嵌入进行推荐，本质上是一种基于内容的推荐方法；

MF-Freq在数据集上的表现较差，其Precision，Recall和NDCG三个指标均表现得最差，由于MF-Freq算法直接将用户旅游行为看作显式数据反馈，而稀疏的旅游数据通过简单的显式反馈显然不能获得较好的结果；

IUBG和PinSage算法虽然通过高阶传播加入了用户间和项目间的隐式反馈，在计算推荐结果时能加入更多的用户和项目信息，所以效果有所提升；A_HLSM模型可以看作是在IUBG和PinSage算法上加入了空间约束条件，其推荐结果在三种指标上的提升说明了空间距离在旅游推荐中的重要性，B_HLSM即为本文的推荐算法，其性能在Precision，Recall，NDCG@1，5，10，20，30上表现最佳，说明在加入空间语义的中间层后，模型推荐效率得到了显著的提升。

推荐模型框架：

高阶连通网络：考虑交互传递的间接关系作为隐式协同信号，通过高阶连通性增加直接交互关系；

图神经网络模型：在图结构中，每个节点由它自身的特征以及与其相连节点的特征来定义该节点，图神经网络采用在每个节点上分别传播的方式进行学习，将图或图中的节点映射为向量，尝试从非结构化数据中产生结构化的图；

图神经网络模型的改进主要体现在两个方面：(1)神经网络的输入：基于主题模型提取的潜在语义空间，通过高阶传播模型增加更多直接交互内容，并构建包含用户偏好及用户与旅游结点关联性的嵌入作为神经网络的输入层；(2)地理空间约束：在神经网络训练完成准备输出结果向量时，加入空间距离约束，对推荐结果的有效性及合理性做更好的支撑；

高阶信息传播：基于用户去过的所有景点进行一阶嵌入，将所有一阶嵌入通过高阶连通性传播，叠加多层后更新用户嵌入，通过隐式协同信号更好地估计用户和景点得分，在消息构建过程中，将一个用户去过某个景点定义为一个用户景点对(u，i)，从i传入到u的信息为：

m_i→u＝f(e_i，e_u，p_ui)

m_i→u表示将与用户u显式连接的景点i的嵌入信息传递给u，f(*)为信息编码函数，取嵌入向量e_i，e_u为输入，由于消息传递中路径越长，节点间连接性就越弱，所以我加入折扣因子p_ui控制(u，i)每次传播影响大小，函数f(*)定义如下：

根据高阶连通性，景点i可能会与另一个用户有交互记录，这时就会产生新的用户景点对(u′，i)，也可以叠加更多嵌入传播层，这样一个用户能够将它的l跳邻居中带有协同信号的嵌入通过第l层嵌入传播注入，l层传播取决于l-1层嵌入表达，用户u经过l层嵌入传播后所更新的嵌入如下：

是训练转移矩阵，d_l为第l层嵌入转移矩阵的大小，

是上一步信息传递的嵌入，记录了来自l-1层的信息，并将影响用户u在第l层的嵌入表示；

整合函数定义如下：

表示用户经过层嵌入传播更新后的表示，

将候选集中各景点与用户的距离dist∈{dist₁，dist₂…dist_k}当作推荐排序的依据，基于dist与用户历史记录中各景点平均距离的欧式距离对候选景点排序，得到加入空间距离条件约束的景点推荐集。

以上所述，仅为本发明较佳的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种可根据“潜在语义空间”的旅游景点交互推荐方法，其特征在于，包括如下步骤：

A、旅游地潜语义挖掘：基于大量用户旅游行为数据挖掘城市空间语义；将用户作为单词，用户去过的城市和景点作为文档，借助LDA主题模型，提取用户旅游行为中蕴含的潜在语义特征，构建潜在语义空间，并借助层次聚类方法将各语义主题进行聚类后，作为推荐模型输入；

B、高阶信息嵌入：通过embedding向量e_u∈R^d(e_i∈R^d)描述一个用户或一个城市，d表示向量的维数，通过向量嵌入构建一个如公式(5.1)的查询表；

E＝[e_u1，e_un，e_i1，......e_im] (5.1)

其中用户向量是基于原始交互中与用户存在交互关系的城市，而城市向量是基于潜在语义空间中增强交互后的城市向量嵌入表达；

C、高阶信息传播：为了捕捉用户-项目图中的协同信号并提炼用户和目的地的嵌入表达，构建图神经网络上的消息传递结构作为嵌入传播层，在消息构建过程中，以用户在城市下的游览记录为例，我们将一个用户去过某个城市定义为一个用户城市对(u，i)，通过i的嵌入传入到u的信息如公式(5.2)；

m_i→u＝f(e_i，e_u，p_ui) (5.2)

m_i→u表示将与用户u显式连接的城市i的嵌入信息传递给用户u，f(*)为信息传递的编码函数，f(*)将嵌入向量e_i，e_u作为输入，由于消息传递中路径越长，节点间连接性就越弱，所以加入折扣因子p_ui控制用户城市对(u，i)每次传播影响大小，函数f(*)定义如公式(5.3)，折扣因子p_ui的定义如公式(5.4)；

W₁，W₂∈R^d′×d是用来挖掘高阶嵌入传播中有用信息的训练矩阵，d′是传播层数大小，l层传播取决于l-1层嵌入表达，用户u经过l层嵌入传播后所更新的嵌入如公式(5.5)，城市i的嵌入传播更新也是如此；

是训练转移矩阵，d_l为第l层嵌入转移矩阵的大小，

是上一步信息传递的嵌入，记录了来自l-1层的信息，并将影响用户u在第l层的嵌入表示，相似的，可以获得城市i在经过1层信息的嵌入表示。

Images