CN115270007A - 一种基于混合图神经网络的poi推荐方法及系统 - Google Patents

Abstract

本发明属于位置推荐技术领域，提供了一种基于混合图神经网络的POI推荐方法及系统，本发明为了充分地挖掘用户对POI的正向偏好与反向偏好，构建了标号二部图，采用标号二部图神经网络学习带有用户对POI偏好信息的用户特征和带有用户偏好信息的POI特征；同时，为了充分挖掘POI之间的转移信息，根据用户的POI签到记录构建POI有向转移图，采用门控图神经网络学习带有POI转移信息的POI特征；最后，通过分别对不同用户特征和不同POI特征的拼接，得到用户的最终特征和POI的最终特征，将用户的最终特征与POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

Description

一种基于混合图神经网络的POI推荐方法及系统

技术领域

本发明属于位置推荐技术领域，尤其涉及一种基于混合图神经网络的POI推荐方法及系统。

背景技术

感兴趣的位置(Point of Interes，POIt)推荐作为推荐领域中的一种新兴技术，受到了越来越多的关注，近年来，伴随着深度学习技术的快速发展，多种深度学习模型被应用于POI推荐，进一步提升了推荐效果；POI推荐中存在着大量的图结构数据，例如用户的社交网络图、用户和POI之间的交互图等，这些图结构数据可以更加直观地表达出数据对象之间复杂的交互关系，然而，传统的深度学习模型不能直接处理图结构数据；图神经网络(Graph Neural Networks，GNN)作为一种新型的神经网络模型，可以基于图的拓扑结构对图节点进行特征提取，能够学习更加丰富的信息，进而提升POI推荐的效果。

发明人发现，当前，虽然基于图神经网络的POI推荐研究取得了一定的研究成果，然而还存在以下不足：当前已有的POI推荐方法在学习用户对POI的偏好时，仅考虑了用户对POI的正向偏好，没有考虑用户对POI的负向偏好，使得所构建的模型不能充分地学习出用户对POI的偏好状态，影响了POI推荐的准确度。POI之间的转移信息中蕴藏着用户对POI的兴趣以及POI之间的关联性等重要信息；然而，已有的POI推荐模型缺乏对POI之间的转移数据的建模和学习，影响POI推荐的准确性。

发明内容

本发明为了解决上述问题，提出了一种基于混合图神经网络的POI推荐方法及系统，本发明首先构建用户社交网络图并基于图注意力网络(Graph Attention Networks，GAT)学习带有社交信息的用户特征表示(User Social Feature，USF)；其次，根据用户的POI签到记录，构建<用户-POI>标号二部图，采用标号二部图神经网络(Signed BipartiteGraph Neural Networks，SBGNN)学习带有用户对POI偏好信息的用户特征表示(User-POIFeature，UPF)以及带有用户偏好信息的POI特征表示(POI-User Feature，PUF)；再则，根据用户的POI签到记录构建POI有向转移图，采用门控图神经网络(Gated Graph SequenceNeural Networks，GGNN)学习带有POI转移信息的POI特征表示(POI-POI Feature，PPF)；最后，将带有社交信息的用户特征(USF)与带有用户对POI偏好信息的用户特征(UPF)进行拼接，得到最终的用户特征表示(User Finally Feature，UFF)；同时，将带有用户偏好信息的POI特征(PUF)与带有POI转移信息的POI特征(PPF)进行拼接，得到POI的最终特征表示(POIFinally Feature，PFF)；最后，将用户的最终特征表示UFF与POI的最终特征表示PFF做乘积操作，通过Sigmoid函数得到用户对于POI的预测评分，选取TOP-K个POI作为候选POI推荐给用户。

为了实现上述目的，本发明是通过如下的技术方案来实现：

第一方面，本发明提供了一种基于混合图神经网络的POI推荐方法，包括：

获取用户的社交信息、用户与POI的交互信息、用户的POI访问序列；

依据所述社交信息，构建用户的社交网络图；依据所述交互信息，构建用户与POI的标号二部图；依据所述访问序列，构建POI转移有向图；

依据所述社交网络图，利用图注意力网络，提取得到带有社交信息的用户特征；依据所述标号二部图，利用标号二部图神经网络，提取得到带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；依据所述POI转移有向图，利用门控图神经网络，提取得到带有POI转移信息的POI特征；

将所述带有社交信息的用户特征与所述带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征；将所述带有用户偏好信息的POI特征与所述带有POI转移信息的POI特征相拼接，得到POI的最终特征；

将所述用户的最终特征与所述POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

进一步的，用户的社交网络图中，节点表示用户，节点间的连接边表示用户之间的社交关系；构建社交网络图的邻接矩阵，若用户之间存在社交关系，则对应邻接矩阵中的元素为1，元素为0。

进一步的，基于图注意力网络的用户社交特征学习，首先，对于确定社交网络图中的一个节点，以及节点的邻居节点集合，计算邻居节点到节点的权重系数；

将节点与其所有邻居节点的相关度进行归一化处理；

在获得权重系数之后，通过加权求和更新节点的特征表示。

进一步的，设立多组相互独立的注意力机制，并将多组注意力机制的输出结果拼接在一起作为最终结果。

进一步的，用户和POI之间的连接边包括正向和负向两种类型，正向的边表示用户访问过POI，负向的边表示用户没有访问过POI；

如果用户访问过POI，用户和POI之间建立一条正连接边，否则，用户和POI之间建立一条负连接边；对于用户数据集，当两个用户对于同一POI有相同标号的连接边时，则在两个用户之间建立一条正连接边，否则建立一条负连接边；对于POI数据集，当一个用户对两个POI有相同标号连接边时，在两个POI之间建立一条正连接边，否则就建立一条负连接边。

进一步的，基于门控图神经网络的POI转移特征学习，首先基于邻接矩阵聚合邻居节点的特征信息；然后，分别计算门控机制中更新门和重置门的数值；根据上一时刻节点的状态、节点的当前态和重置门计算当前时刻节点的候选态；基于更新门、节点上一时刻的状态和节点的候选态计算节点的输出态。

进一步的，将所述用户的最终特征和所述POI的最终特征通过向量内积操作得到预测评分，使用sigmoid函数将预测评分压缩至(0，1)区间内；将预测评分降序排序，选取Top-K个POI作为推荐结果推荐给用户。

第二方面，本发明还提供了一种基于混合图神经网络的POI推荐系统，包括：

数据采集模块，被配置为：获取用户的社交信息、用户与POI的交互信息、用户的POI访问序列；

图构建模块，被配置为：依据所述社交信息，构建用户的社交网络图；依据所述交互信息，构建用户与POI的标号二部图；依据所述访问序列，构建POI转移有向图；

特征提取模块，被配置为：依据所述社交网络图，利用图注意力网络，提取得到带有社交信息的用户特征；依据所述标号二部图，利用标号二部图神经网络，提取得到带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；依据所述POI转移有向图，利用门控图神经网络，提取得到带有POI转移信息的POI特征；

特征拼接模块，被配置为：将所述带有社交信息的用户特征与所述带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征；将所述带有用户偏好信息的POI特征与所述带有POI转移信息的POI特征相拼接，得到POI的最终特征；

POI推荐模块，被配置为：将所述用户的最终特征与所述POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

第三方面，本发明还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现了第一方面所述的基于混合图神经网络的POI推荐方法的步骤。

第四方面，本发明还提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现了第一方面所述的基于混合图神经网络的POI推荐方法的步骤。

与现有技术相比，本发明的有益效果为：

本发明为了充分地挖掘用户对POI的正向偏好与反向偏好，构建了标号二部图，之后，采用标号二部图神经网络学习带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；同时，为了充分挖掘POI之间的转移信息，根据用户的POI签到记录构建POI有向转移图，之后，采用门控图神经网络学习带有POI转移信息的POI特征；最后，将带有社交信息的用户特征与带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征，将带有用户偏好信息的POI特征与带有POI转移信息的POI特征相拼接，得到POI的最终特征，将用户的最终特征与POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列；本发明通过对标号二部图及POI有向转移图的构建，以及特征提取和特征拼接等技术手段，解决了现有模型没有充分学习出用户对POI的偏好状态，以及推荐模型缺乏对POI之间的转移数据的建模和学习，从而影响POI推荐准确性的问题。

附图说明

构成本实施例的一部分的说明书附图用来提供对本实施例的进一步理解，本实施例的示意性实施例及其说明用于解释本实施例，并不构成对本实施例的不当限定。

图1为本发明实施例1的混合图神经网络POI推荐模型结构；

图2为本发明实施例1的<用户-POI>标号二部图；

图3为本发明实施例1的POI有向转移图和邻接矩阵；

图4为本发明实施例1的在Gowalla数据集上不同模型的P@K；

图5为本发明实施例1的在Gowalla数据集上不同模型的R@K；

图6为本发明实施例1的在Gowalla数据集上不同模型的M@K；

图7为本发明实施例1的Foursquare数据集上不同模型的P@K；

图8为本发明实施例1的在Foursquare数据集上不同模型的R@K；

图9为本发明实施例1的在Foursquare数据集上不同模型的M@K；

图10为本发明实施例1的在Yelp数据集上不同模型的P@K；

图11为本发明实施例1的在Yelp数据集上不同模型的R@K；

图12为本发明实施例1的在Yelp数据集上不同模型的M@K；

图13为本发明实施例1的Foursquare数据集上不同的因素对模型性能的影响；

图14为本发明实施例1的Yelp数据集上不同的因素对模型性能的影响；

图15为本发明实施例1的Gowalla数据集上不同的因素对模型性能的影响。

具体实施方式

下面结合附图与实施例对本发明作进一步说明。

应该指出，以下详细说明都是示例性的，旨在对本申请提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本申请所属技术领域的普通技术人员通常理解的相同含义。

实施例1：

POI推荐中存在着大量的图结构数据，比如用户的社交网络图、用户和POI之间的交互图以及POI之间的转移图等，这些图结构的数据中蕴藏着丰富的信息，对于提升POI的推荐效果具有重要的作用。然而，已有的基于图神经网络的POI推荐方法仅对某一方面的图数据进行学习，未能充分挖掘学习用户与POI之间的交互数据以及POI之间的转移信息，影响了推荐效果；针对上述问题，如图1所示，本实施例提出了一种基于混合图神经网络POI推荐方法(HGNN)。

本实施例中，令U＝{u₁,u₂,...,u_m}表示用户集合，m为用户数量；P＝{p₁,p₂,...,p_n}表示POI集合，n为POI数量；S＝{s₁,s₂,...,s_m}表示用户POI签到集合，其中s_i＝{p₁,...,p_k},k∈[0,n]表示用户u_i的POI签到序列；本实施例要解决的问题是通过给定的U,P,S三个数据集，为用户推荐其可能感兴趣的POI列表。

首先，根据用户的社交数据构建用户社交网络图，并采用图注意力网络提取带有社交信息的用户特征，带有社交信息的用户特征表示融合了用户的社交信息，能够反映用户的社交偏好；其次，根据用户的POI签到记录，也就是根据用户的POI访问数据，构建<用户-POI>标号二部图，采用标号二部图神经网络提取带有用户对POI偏好信息的用户特征表示以及带有用户偏好信息的POI特征表示；再则，根据用户的POI签到数据构建POI有向转移图，采用门控图神经网络学习带有POI转移信息的POI特征表示；最后，将带有社交信息的用户特征与带有用户对POI偏好信息的用户特征进行拼接，得到最终的用户特征表示；同时，将带有用户偏好信息的POI特征与带有POI转移信息的POI特征进行拼接，得到POI的最终特征表示；最后，将用户的最终特征表示与POI的最终特征表示做乘积操作，通过Sigmoid函数得到用户对于POI的预测评分，选取TOP-K个POI作为候选POI推荐给用户。

基于图注意力网络的用户社交特征表示学习，用户的社交关系和用户的行为之间有着十分密切的关系，用户经常会受具有社交关系的用户的影响。在POI推荐中，用户的社交关系也会对最终的推荐效果产生重要影响。为此，实施例中首先基于用户的社交关系，构建用户社交网络图；之后，基于图注意力网络对用户的社交网络进行学习，提取含有用户社交信息的用户特征表示(User Social Feature，USF)。下面详细介绍用户社交网络图的构建以及基于图注意力网络(GAT)的用户社交特征表示学习。

构建用户社交网络图，给定用户集合U＝{u₁,u₂,...,u_m}，m为用户数量。设用户u_i与用户u_j具有社交关系e_ij＝<u_i,u_j>(i≠j)。根据用户之间的社交关系e_ij构建用户的社交网络图，记为G_s＝(H,A,ε)，图G_s中的节点集合H表示用户，

表示用户的特征向量集合，F表示用户特征个数；图G_s中节点间的连接边表示用户之间的社交关系，ε表示连接边的集合；

表示图G_s的邻接矩阵，若用户u_i与u_j之间存在社交关系，A中元素a_i,j＝1，否则a_i,j＝0。

在构建用户的社交网络图G_s之后，将用户的特征向量集合H和邻接矩阵A作为输入数据输入到图注意力网络中，通过消息传递、聚合以及更新机制来选择性地聚合邻居节点的信息，从而完成节点的特征提取。下面详细介绍基于图注意力网络的用户社交特征的学习过程：

基于图注意力网络的用户社交特征学习，首先，对于图G_s，设u_i(u_i∈U)为图中的一个节点，其邻居节点集合为N_i，设u_j(u_j∈N_i)为u_i的一个邻居节点，设u_j到u_i的权重系数为e_ij，e_ij的计算公式如(1)式所示：

其中，

与

为节点u_i和u_j的特征向量表示；

为注意力层节点特征变换的权重系数。通过特征变换，可以将原始低维、稀疏的向量表示映射为高维、稠密的向量表示。a(·)为一个全连接神经网络模型，用于计算两个节点特征向量的相关度，其计算公式如(2)式所示：

其中，||表示拼接操作；

表示可训练的参数向量；LeakyReLU为激活函数。为了更好地分配权重，图注意力网络将节点u_i与其所有邻居节点的相关度使用Softmax进行了归一化处理，计算过程如公式(3)所示：

其中，α_ij表示节点u_j到u_i的权重系数；N_i表示节点u_i的邻居节点集合。公式(3)保证了节点u_i和其所有邻居节点的权重系数之和等于1。公式(1)、公式(2)和公式(3)展示了权重系数α_ij的分步计算过程，公式(4)将权重系数α_ij的分步计算过程整合到一个公式中，给出了权重系数α_ij完整的计算过程：

在获得图G_s中节点之间的权重系数之后，图注意力网络通过加权求和的策略来更新节点u_i的特征表示，其计算过程如公式(5)所示：

其中，α_ij表示节点u_j到u_i的权重系数；σ表示非线性聚合操作。

为了让图注意力网络的学习过程更加稳定，本实施例中加入了多头注意力机制，既设立了K组相互独立的注意力机制，并将K组注意力机制的输出结果拼接在一起作为最终结果。具体的操作过程如公式(6)所示：

其中，||表示拼接操作；K表示注意力机制的头部个数；

是第k组注意力机制计算出的节点u_j到u_i的权重系数；W^k是第k组注意力机制对应的学习参数。通过引入多头注意力机制，使得图注意力网络可以从多个角度计算节点之间权重系数，进一步增强了图注意力网络的学习能力。

通过图注意力网络模型对图G_s的学习，得到带有社交信息的用户特征表示

其中，

表示用户u_i的含有社交信息的特征表示。

基于标号二部图神经网络(SBGNN)的用户及POI特征表示学习，在POI的访问过程中，用户对POI的访问数据可以构成一个<用户-POI>二部图。该图可以清晰、直观地呈现出用户和POI之间复杂的交互关系。通过对<用户-POI>二部图的学习，可以获得用户关于POI偏好的信息。然而，已有的研究工作所构建的<用户-POI>二部图中只存在用户到POI的单类型边。这种单一类型的连接边只能表达出用户对POI的正向偏好，忽略了用户对POI的负向偏好。针对上述问题，本实施例中，基于用户与POI的交互数据，构建出<用户-POI>标号二部图(SPG)。在标号二部图中，用户和POI之间的连接边扩展成正、负两种类型，其中正向的边表示用户访问过POI，负向的边表示用户没有访问过POI。之后，采用标号二部图神经网络，提取带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；下面详细介绍标号二部图的构建以及基于标号二部图神经网络的特征学习。

构建<用户-POI>标号二部图，给定用户集合U＝{u₁,u₂,...,u_m}，POI集合P＝{p₁,p₂,...,p_n}，<用户-POI>签到集合I＝＜u_i,p_j＞,i∈[0,m],j∈[0,n]。根据用户访问POI的数据，构建<用户-POI>标号二部图，具体构建过程如下：对于用户u_i和POIp_j，如果用户u_i访问过p_j，u_i和p_j之间建立一条正连接边；否则，u_i和p_j之间建立一条负连接边。对于用户数据集，当u_i和u_m对p_j有相同标号的连接边时，则在u_i和u_m之间建立一条正连接边，否则建立一条负连接边。对于POI数据集，当用户u_i对p_f和p_k有相同标号连接边时，在p_f和p_k之间建立一条正连接边，否则就建立一条负连接边。本实施例所构建的标号二部图G_I中存在正、负两种类型的连接边，即ε＝ε⁺+ε^-且

ε⁺表示正连接边，ε^-表示负连接边。依据上述操作，所构建的标号二部图记为G_I＝(U,P,ε)，如图2所示，其中，U和P分别表示用户集合和POI集合，ε表示二部图节点之间的连接边集合。

在构建<用户-POI>标号二部图G_I之后，将标号二部图G_I作为输入数据输入到标号二部图神经网络中，通过消息传递、聚合以及更新机制来选择性地聚合正、负邻居节点的信息，从而完成节点的特征提取。下面详细介绍基于标号二部图神经网络的用户对POI偏好信息的学习过程。

基于标号二部图神经网络的用户特征与POI特征表示学习，与一般图不同的是，在标号二部图G_I中存在正、负两种类型的连接边，标号二部图神经网络对两种类型的连接边对应的邻居集合，通过消息传递、消息聚合以及更新函数三大机制来完成对图G_I中节点特征的学习。下面详细介绍基于SBGNN的POI偏好学习过程。

消息传递机制，传统GNN的消息传递机制只能适用于同构图，无法直接应用于异构性的二部图，因此，本文基于标号二部图神经网络中的消息传递函数来对标号二部图执行消息传递操作；定义Set₁＝U∪P为不同类型的节点集合，Set₂＝U和Set₂＝P表示相同类型的节点集合。

标号二部图神经网络是由l层图神经网络堆叠而成，标号二部图神经网络对标号二部图的建模学习是在图神经网络层l上完成的。在标号二部图神经网络模型的第l层中，令

表示从邻居节点p_j到u_i的消息，消息传递的过程如公式(7)所示：

其中，

和

分别表示用户u_i的正、负POI邻居节点集合。同样，令

和

表示从u_j到p_i的消息，计算过程如公式(8)所示：

其中，

和

分别表示POIp_i的正、负用户邻居节点集合。

与Set₁的消息传递机制类似，对于Set₂，令

和

表示用户的正、负邻居节点的消息，用

和

表示POI的正、负邻居节点的消息。消息传递过程如公式(9)所示：

其中，

和

分别表示用户u_i的正、负邻居节点集合；

和

分别表示POIp_i的正、负邻居节点集合。

消息聚合，在得到邻居节点的消息之后，下一步执行消息聚合操作。标号二部图神经网络使用图注意力聚合函数来聚合来自邻居节点的信息。首先，计算两个节点之间的权重系数，这个权重系数反映了两个节点的相关度，其计算公式如(10)式所示：

其中，

表示节点i的特征向量表示；||表示拼接操作；W表示可训练的注意力系数矩阵；

表示可训练的参数向量；N_i表示节点i的邻居节点集合；LeakyReLU为激活函数；exp(·)表示softmax操作，用于将权重系数归一化，保证节点i和其所有邻居节点的权重系数之和等于1。然后，使用权重系数α_ij聚合来自邻居节点的信息，其聚合过程如公式(11)所示：

其中，N_i表示节点i的邻居节点集合。

更新函数，经过消息传递和消息聚合两步操作后，每一个用户节点u_i都获得了四组邻居信息集合，分别是

和

每一个p_i也获得了四组邻居信息集合，分别为

和

标号二部图神经网络将四组邻居节点的信息聚合到节点i上，然后通过一个MLP模型获得节点i最终的特征表示，其计算过程如公式(12)所示：

其中，

表示用户节点自身的特征表示；

表示POI节点自身的特征表示；||表示拼接操作；MLP为一个两层的全连接神经网络模型，其计算过程如公式(13)所示：

MLP(x)＝W₂(σ(dropout(W₁x+b₁)))+b₂ (13)

其中W₁、W₂表示可学习的权重矩阵；b₁、b₂表示可学习的偏置参数；σ表示激活函数；dropout的使用可以有效防止MLP的过拟合；x为用户或POI的特征表示。

标号二部图神经网络的输出序列为

和

其中，

表示融合了POI信息的用户特征表示，

表示融合了用户特征信息的POI特征表示，这些特征表示中蕴含了用户对于POI的正向与负向偏好信息。

基于门控图神经网络(GGNN)的POI转移特征表示学习，用户访问POI的数据中蕴藏着POI之间的转移信息，深入挖掘用户的POI转移序列，获取用户的POI的转移模式，有助于提高POI推荐的准确性。然而，已有的研究工作忽略了对POI转移信息的挖掘学习，影响了推荐的效果。为了解决上述问题，本实施例中，首先基于用户的POI访问序列构建POI有向转移图，然后采用门控图神经网络来对POI转移有向图进行学习，提取含有POI转移信息的POI特征表示。基于门控图神经网络可以更好地捕获用户的POI的转移模式，有利于进一步提升推荐效果。

构建POI有向转移图，设POI集合为P＝{p₁,p₂,...,p_n}，用户POI签到集合S＝{s₁,s₂,...,s_m}，对于用户u_i，设其POI的签到序列为s_i＝{p₁,...,p_k},k∈[0,n]，根据s_i中的POI转移信息，构建出POI有向转移图，记为G_T＝(S_i,ε_i,A_i)。图G_T中的S_i表示节点集合，每一个节点代表一个POI，令

表示POI特征向量集合，F表示POI特征个数；ε_i表示图G_T中POI连接边的集合，每条连接边e＝(p_j-1,p_j),e∈ε_i表示用户访问POIp_j-1之后访问POIp_j；

表示图G_T对应的邻接矩阵，由

和

两个矩阵拼接而成，如果用户存在一条签到记录e＝(p_i,p_j)，那么

且

对于签到序列s_i中重复出现的POIp_k，其在邻接矩阵A_i中的值等于包含p_k的连接边在签到序列s_i的数量除以p_k在图G_T的出度。例如，给定一个POI序列s_k＝{p₁,p₂,p₃,p₂,p₄}，s_k对应的图G_T和邻接矩阵A_k如图3所示。

在构建出POI有向转移图G_T之后，将POI特征向量集合Q和邻接矩阵A_i图作为输入数据输入到门控图神经网络中，通过门控机制和POI的转移序列来更新POI节点的特征向量表示，从而完成POI节点的特征提取。下面详细介绍基于门控图神经网络的POI转移特征学习过程。

基于门控图神经网络的POI转移特征学习，对于POI签到序列S_i，首先基于邻接矩阵A_s聚合邻居节点的特征信息，计算过程如公式(14)所示：

其中，A_i表示POI有向转移图G_T对应的邻接矩阵；

表示POI的特征向量；H和b分别表示权重矩阵和偏置参数。

其次，分别计算门控机制中更新门和重置门的数值，其计算过程如公式(15)和(16)所示：

其中，

表示更新门；

表示重置门；W,U均为模型参数；σ(·)为激活函数。

再则，根据上一时刻节点的状态

节点的当前态

和重置门

计算当前时刻节点的候选态

计算过程如公式(17)所示：

最后，基于更新门

节点上一时刻的状态

和节点的候选态

计算节点的输出态，计算过程如公式(18)所示：

门控图神经网络的输出序列为

为POI的特征表示，这些特征表示中蕴含了用户的POI转移偏好信息。

预测模块，本实施例中，所提出的混合图神经网络方法HGNN，通过对社交网络图的学习，得到带有社交信息的用户特征USF，通过对<用户-POI>标号二部图的学习，得到带有用户对POI偏好信息的用户特征UPF，以及带有用户偏好信息的POI特征PUF；通过对POI有向转移图的学习，得到带有POI转移信息的POI特征PPF。基于所获取的用户特征与POI特征，开始执行推荐操作。

首先，将两组用户特征表示USF和UPF通过求和操作进行融合，得到用户最终的特征表示，记为

计算过程如公式(19)所示：

其次，将两组POI特征表示PUF和PPF通过求和操作进行融合，得到POI最终的特征表示，记为

计算过程如公式(20)所示：

然后，将用户最终特征表示和POI最终特征表示通过向量内积操作得到预测评分

为了便于筛选，使用sigmoid函数将预测评分

压缩至(0，1)区间内，计算过程如公式(21)所示：

最后，将预测评分

降序排序，选取Top-K个POI作为推荐结果推荐给用户。

为了验证提出POI推荐方法的有效性，在其他实施例中选择了三个基准LBSN数据集，分别为Yelp数据集、Gowalla数据集和Foursquare数据集进行实验。对于Gowalla数据集，过滤掉了其中POI签到记录少于20的用户和签到记录少于20的POI。对于Foursquare和Yelp数据集，过滤掉了签到POI少于10的用户和签到POI少于10的POI。对于每个数据集，随机选择80％的签到数据作为训练数据集，并将剩余的视为测试数据集。本实验的硬件环境配置如下所示：操作系统：Windows10专业版64-bit；CPU：12th Gen Intel(R)Core(TM)i9-12900K3.19GHz；GPU：NVIDIA GeForce RTX 3090；RAM：32GB；选取Pycharm(CommunityEdition)作为开发平台，使用Python3.8并基于Pytorch深度学习框架来实现模型。

对比模型，为了验证提出方法的有效性，选择了12种最先进的POI推荐模型作为对比模型。下面对这12种模型进行介绍。

MGMMF是一个融合了矩阵分解的多中心高斯模型，考虑了社会影响，并将多中心地理影响纳入融合框架。其主要思想基于用户倾向于在几个地理中心进行签到。BPRMF是一种基于矩阵分解的贝叶斯个性化排序方法。它采用了一个通用的优化准则，并对隐式反馈进行建模，以推荐前N项。请注意，BPRMF只关注用户偏好建模，没有利用任何上下文信息。WRMF是一种加权正则化矩阵分解模型。它将用户偏好的估计与基于矩阵分解的置信水平相结合，同时最小化均方误差。它为观察到的和未观察到的签入分配不同的置信值。IRenMF基于加权矩阵分解，并将相邻POI在个体层面(即用户对相邻POI有类似偏好)和区域层面(即地理位置相近的POI可能共享类似用户偏好)的地理特征纳入模型。GeoMF是一种基于加权矩阵分解的基于MF的POI推荐模型。它将签入视为一种隐式反馈，并通过拟合权重较大的非零签入和权重较小的零签入结合地理影响进行建模。RankGeoFM是一种基于排名的地理因子分解方法，它结合了相邻POI的地理影响，以了解用户对POI的偏好排名。除了用户偏好矩阵外，它还使用另一个潜在矩阵来表示用户的地理偏好。PACE采用了一种基于用户偏好和上下文嵌入的深层神经架构表示方法。它是一个通用的半监督学习框架，联合建模社会影响和用户轨迹行为，以预测用户对POI的偏好以及与用户和POI相关的各种上下文。SAE-NAD是一种基于注意的POI推荐模型，由一个自注意编码器和一个邻居感知解码器组成。它使用一个自我关注的编码器来区分用户偏好，并采用邻居感知解码器来模拟POI的地理影响。STGN是一个时空门控网络，旨在增强连续访问行为学习的长期-短期记忆。它使用耦合门，即时间门和距离门，来捕获连续签入之间的时空关系。APOIR是第一个基于对抗式学习的POI推荐模型。它由两部分组成，一部分是推荐表示，一部分是鉴别器，通过考虑地理影响和社会关系以强化学习的方式学习用户偏好。Geo ALM是一种基于地理信息的对抗性学习模型，与APOIR非常相似，只是Geo ALM直接融合了地理特征(POI特征和区域特征)，并使用生成性对抗网络，而没有明确考虑社会影响。NGCF表示神经图协同过滤，是基于图卷积网络的最新的基于项目的推荐模型。NGCF只关注用户项交互上的卷积运算，而HGMAP从用户端和POI端学习附加信息。

评价指标，与已有的研究工作相同，使用准确率(Precision，P@k)、召回率(Recall，R@K)以及平均精度(MAP，M@k)来检查和验证为新用户进行POI推荐模型的有效性，其定义如公式(22)(23)和(24)所示，分别为：

性能比较，使用随机初始化策略来初始化模型的参数，为了防止模型的过拟合，在模型的训练过程中采用了dropout(a simple way to prevent neural networks fromoverfitting)技术。在反向传播的过程中，模型使用Adam(A Method for StochasticOptimization)优化器来优化模型。在三个公开数据集上，通过训练数据来训练并优化模型，训练结束后，对数据集中的每一个用户，计算该用户对数据集中所有POI的预测评分，将预测评分降序排序，按照推荐个数K＝5、10和20获取三组预测结果，与对应的测试数据集进行对比，计算出准确率、召回率和平均精度三个评价指标数值。

在Gowalla、Foursquare和Yelp数据集上，模型所推荐POI个数K分别设置为5、10和20，记录每个模型的推荐性能。对比模型在Gowalla数据集上的实验结果图4、图5和图6所示。从图4、图5和图6可以看出，随着推荐POI个数的增加，模型的P@K、M@K和R@K均有所提升，这是因为推荐的POI个数越多，越有利于对用户偏好进行更加全面的挖掘，也能够进一步提升模型的推荐性能。

对比模型在Foursquare数据集上的实验结果如图7、图8和图9所示。对比模型在Yelp数据集上的实验结果如图10、图11和图12所示。通过和基线模型对比可以看出，HGNN模型在三个数据集上的推荐性能有了较为显著的提升，这是由于HGNN将用户的社交信息、<用户-POI>的交互以及POI的转移信息都纳入考虑范围，这种多角度的用户偏好建模方法可以更加全面地捕捉用户的兴趣偏好以及POI的特征信息，从而进一步提升推荐效果。此外，通过构建图结构数据并使用图神经网络提取节点特征，这是对已有的POI推荐在使用方法上的重要改进。通过和基线模型的对比，验证了HGNN模型设计的合理性和优越性。

通过对实验结果分析，可以得出：基于MF的通用模型，如WRMF和BPRMF，在三个数据集上表现不佳，因为它们忽略了上下文信息，例如相似用户社交影响和POI转移的影响。与基于MF的模型相比，基于神经网络的方法(包括HGNN)表现出更好的性能。这证明了用户和POI的交互关系对推荐结果有着重要的影响，同时也说明基于MF的方法难以捕获用户和POI之间的复杂交互关系，从而影响了最终的推荐效果。在基于深度学习技术的模型中，PACE只学习了用户和POI的浅层特征信息，而协同过滤没有得到充分利用。类似地，STGN主要关注用户的顺序签到行为，未能将用户和POI之间的交互信息利用起来。

此外，SAE-NAD在POI推荐方面表现出良好的性能，主要是因为它利用深度自动编码机制和注意力机制捕获了用户和POI之间的非线性交互关系。然而，它忽略了用户的社会影响以及POI之间的高阶连通性对推荐结果的影响。此外，APOIR和Geo ALM这两种对抗性POI推荐模型由于其高质量的负采样和用户偏好学习能力，使其获得了比SAE-NAD更好的性能。APOIR相对于Geo-ALM的改进表明了用户的社会影响对POI推荐的效果有着至关重要的影响。尽管SAE-NAD在推荐时考虑了POI的距离因素，然而，它没有挖掘POI之间的高阶连通性，也没有考虑相似用户社交影响对推荐结果的影响。通过和SAE-NAD进行对比，证明了本文所提出的HGNN模型中所引入的社交图和POI转移图上的有效性。

最后，可以注意到NGCF在POI推荐方面表现不佳，尽管它采用了图卷积神经网络对用户和POI的交互进行建模学习，但是NGCF没有考虑用户的社交网络对推荐结果的影响。HGNN相对于NGCF的性能提升也再次证明了用户的社交信息对POI推荐结果有着至关重要的影响。

消融实验，为了研究用户的社交关系、<用户-POI>的交互以及POI之间的转移对HGNN的影响，对HGNN开展了消融实验研究。其中，HGNN-P模型只采用二部图神经网络获取用户和POI的特征表示进行推荐，不考虑用户的社交关系和POI的转移。HGNN-S模型只考虑用户的社交关系和<用户-POI>的交互，不考虑POI之间的转移。HGNN-T只考虑POI之间转移和<用户-POI>的交互，不考虑用户的社交关系。本文在三个公开数据集上开展了消融实验，实验结果如图13、图14和图15所示。

如图13所示，在Foursquare数据集上，本实施例的模型与只考虑偏好的模型、只考虑偏好与相似用户社交信息模型和只考虑偏好与POI之间转移模型比较，在平均精度上有了很大的提高。如图14所示，在Yelp数据集上，本实施例的HGNN模型与只考虑偏好的模型相比在召回率和平均精度上分别提高了0.0708和0.0091；与只考虑偏好与相似用户社交信息模型相比在召回率和平均精度上分别提高了0.0568和0.0081；与只考虑偏好与POI之间转移模型相比在召回率和平均精度上分别提高了0.0568和0.0081。如图15所示，在Gowalla数据集上，本实施例的模型与只考虑偏好的模型相比在准确率、召回率和平均精度上分别提高了0.3、0.09和0.06667；与只考虑偏好与相似用户社交信息模型相比在准确率、召回率和平均精度上分别提高了0.3、0.165和0.009357；与只考虑偏好与POI之间转移模型相比在准确率、召回率和平均精度上分别提高了0.3、0.075和0.06557。基于上述消融实验的结果可以看出，在进行POI推荐时，用户的社交信息、<用户-POI>的交互以及POI的转移对最终的推荐效果有着至关重要的影响，将三者进行结合，有助于进一步提升POI的推荐效果。

综上，相比较于已有的POI推荐工作只对用户或者POI的数据进行建模学习，本实施例所提出的HGNN模型采用图神经网络对用户的社交网络图、<用户-POI>交互二部图、POI有向转移图进行建模学习，提取用户和POI特征表示来获取POI推荐结果。本实施例在三个真实公开的POI推荐数据集上进行了充分的实验，实验结果表明，本实施例所提出的HGNN具有较好的推荐效果。和已有POI推荐方法的结果对比表明，通过构建图结构的数据，并采用图神经网络对图结构进行建模学习，可以进一步提升POI的推荐效果。

实施例2：

本实施例提供了一种基于混合图神经网络的POI推荐系统，包括：

数据采集模块，被配置为：获取用户的社交信息、用户与POI的交互信息、用户的POI访问序列；

图构建模块，被配置为：依据所述社交信息，构建用户的社交网络图；依据所述交互信息，构建用户与POI的标号二部图；依据所述访问序列，构建POI转移有向图；

特征提取模块，被配置为：依据所述社交网络图，利用图注意力网络，提取得到带有社交信息的用户特征；依据所述标号二部图，利用标号二部图神经网络，提取得到带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；依据所述POI转移有向图，利用门控图神经网络，提取得到带有POI转移信息的POI特征；

特征拼接模块，被配置为：将所述带有社交信息的用户特征与所述带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征；将所述带有用户偏好信息的POI特征与所述带有POI转移信息的POI特征相拼接，得到POI的最终特征；

POI推荐模块，被配置为：将所述用户的最终特征与所述POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

所述系统的工作方法与实施例1的基于混合图神经网络的POI推荐方法相同，这里不再赘述。

实施例3：

本实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现了实施例1所述的基于混合图神经网络的POI推荐方法的步骤。

实施例4：

本实施例提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现了实施例1所述的基于混合图神经网络的POI推荐方法的步骤。

以上所述仅为本实施例的优选实施例而已，并不用于限制本实施例，对于本领域的技术人员来说，本实施例可以有各种更改和变化。凡在本实施例的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本实施例的保护范围之内。

Claims (10)

1.一种基于混合图神经网络的POI推荐方法，其特征在于，包括：

获取用户的社交信息、用户与POI的交互信息、用户的POI访问序列；

依据所述社交信息，构建用户的社交网络图；依据所述交互信息，构建用户与POI的标号二部图；依据所述访问序列，构建POI转移有向图；

依据所述社交网络图，利用图注意力网络，提取得到带有社交信息的用户特征；依据所述标号二部图，利用标号二部图神经网络，提取得到带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；依据所述POI转移有向图，利用门控图神经网络，提取得到带有POI转移信息的POI特征；

将所述带有社交信息的用户特征与所述带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征；将所述带有用户偏好信息的POI特征与所述带有POI转移信息的POI特征相拼接，得到POI的最终特征；

将所述用户的最终特征与所述POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

2.如权利要求1所述的一种基于混合图神经网络的POI推荐方法，其特征在于，用户的社交网络图中，节点表示用户，节点间的连接边表示用户之间的社交关系；构建社交网络图的邻接矩阵，若用户之间存在社交关系，则对应邻接矩阵中的元素为1，元素为0。

3.如权利要求2所述的一种基于混合图神经网络的POI推荐方法，其特征在于，基于图注意力网络的用户社交特征学习，首先，对于确定社交网络图中的一个节点，以及节点的邻居节点集合，计算邻居节点到节点的权重系数；

将节点与其所有邻居节点的相关度进行归一化处理；

在获得权重系数之后，通过加权求和更新节点的特征表示。

4.如权利要求1所述的一种基于混合图神经网络的POI推荐方法，其特征在于，设立多组相互独立的注意力机制，并将多组注意力机制的输出结果拼接在一起作为最终结果。

5.如权利要求1所述的一种基于混合图神经网络的POI推荐方法，其特征在于，用户和POI之间的连接边包括正向和负向两种类型，正向的边表示用户访问过POI，负向的边表示用户没有访问过POI；

如果用户访问过POI，用户和POI之间建立一条正连接边，否则，用户和POI之间建立一条负连接边；对于用户数据集，当两个用户对于同一POI有相同标号的连接边时，则在两个用户之间建立一条正连接边，否则建立一条负连接边；对于POI数据集，当一个用户对两个POI有相同标号连接边时，在两个POI之间建立一条正连接边，否则就建立一条负连接边。

6.如权利要求1所述的一种基于混合图神经网络的POI推荐方法，其特征在于，基于门控图神经网络的POI转移特征学习，首先基于邻接矩阵聚合邻居节点的特征信息；然后，分别计算门控机制中更新门和重置门的数值；根据上一时刻节点的状态、节点的当前态和重置门计算当前时刻节点的候选态；基于更新门、节点上一时刻的状态和节点的候选态计算节点的输出态。

7.如权利要求1所述的一种基于混合图神经网络的POI推荐方法，其特征在于，将所述用户的最终特征和所述POI的最终特征通过向量内积操作得到预测评分，使用sigmoid函数将预测评分压缩至(0，1)区间内；将预测评分降序排序，选取Top-K个POI作为推荐结果推荐给用户。

8.一种基于混合图神经网络的POI推荐系统，其特征在于，包括：

数据采集模块，被配置为：获取用户的社交信息、用户与POI的交互信息、用户的POI访问序列；

图构建模块，被配置为：依据所述社交信息，构建用户的社交网络图；依据所述交互信息，构建用户与POI的标号二部图；依据所述访问序列，构建POI转移有向图；

特征提取模块，被配置为：依据所述社交网络图，利用图注意力网络，提取得到带有社交信息的用户特征；依据所述标号二部图，利用标号二部图神经网络，提取得到带有用户对POI偏好信息的用户特征，以及带有用户偏好信息的POI特征；依据所述POI转移有向图，利用门控图神经网络，提取得到带有POI转移信息的POI特征；

特征拼接模块，被配置为：将所述带有社交信息的用户特征与所述带有用户对POI偏好信息的用户特征相拼接，得到用户的最终特征；将所述带有用户偏好信息的POI特征与所述带有POI转移信息的POI特征相拼接，得到POI的最终特征；

POI推荐模块，被配置为：将所述用户的最终特征与所述POI的最终特征做乘积，通过Sigmoid函数得到用户对于POI的偏好程度，依据偏好程度向用户推荐POI序列。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现了如权利要求1-7任一项所述的基于混合图神经网络的POI推荐方法的步骤。

10.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现了如权利要求1-7任一项所述的基于混合图神经网络的POI推荐方法的步骤。

Images