CN117271899A - 一种基于时空感知的兴趣点推荐方法 - Google Patents

一种基于时空感知的兴趣点推荐方法 Download PDF

Info

Publication number
CN117271899A
CN117271899A CN202311312887.3A CN202311312887A CN117271899A CN 117271899 A CN117271899 A CN 117271899A CN 202311312887 A CN202311312887 A CN 202311312887A CN 117271899 A CN117271899 A CN 117271899A
Authority
CN
China
Prior art keywords
user
space
track
matrix
embedded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311312887.3A
Other languages
English (en)
Inventor
张旭
刘德澳
闫亮
夏英
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University of Post and Telecommunications
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN202311312887.3A priority Critical patent/CN117271899A/zh
Publication of CN117271899A publication Critical patent/CN117271899A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9537—Spatial or temporal dependent retrieval, e.g. spatiotemporal queries
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G06Q50/14—Travel agencies
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)

Abstract

本发明属于数据处理技术领域，具体涉及一种基于时空感知的兴趣点推荐方法；包括：获取用户签到数据并将其输入到嵌入模块中进行处理，得到用户的轨迹嵌入矩阵和时空间隔嵌入矩阵；构建轨迹流图并根据该图的节点特征计算得到用户的通用行为模式；采用时空感知注意力模块对用户历史轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户长期出行偏好表示；采用时空感知门控循环单元对用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户短期出行偏好表示；根据用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好计算得到用户的兴趣点推荐结果；本发明可实现灵活且准确的向用户推荐兴趣点，具有良好的应用前景。

Description

一种基于时空感知的兴趣点推荐方法
技术领域
本发明属于数据处理技术领域，具体涉及一种基于时空感知的兴趣点推荐方法。
背景技术
兴趣点推荐技术是一种个性化的推荐任务，它基于历史登记和其他多模式信息来发现潜在的模式，以预测适合特定用户的下一组兴趣点。近年来，越来越多的移动设备带来了移动云技术的重大发展，包括移动存储、计算和基于位置的社交网络的人工智能服务。许多移动云服务提供商允许用户利用移动云技术的优势共享多种形式的签到数据，其中包括位置(纬度，经度)、时间戳和丰富的语义信息。移动云中生成的海量签到数据保存了丰富的时空上下文信息，对于理解用户出行偏好和预测下一个位置具有重要意义。同时，兴趣点推荐任务对于帮助服务提供商分析用户行为模式，优化个性化推荐系统也具有重要意义。
早期的兴趣点推荐研究主要集中在基于内容的推荐算法或基于协同过滤的推荐算法。基于内容的推荐算法就是从用户的历史喜好项目中提取项目特征，以这些特征表示用户的喜好，然后利用特征计算项目间相似性，将最匹配项目推荐给用户。而协同过滤算法的核心概念是将目标用户的相似用户感兴趣的内容推荐给目标用户，这种方法推荐的项目不会涉及项目内容与用户描述的相关性，所以对被推荐用户来说具有新异性特点。然后，上述兴趣点推荐方法由于庞大的用户数与项目数，导致现有数据集的稀疏性问题比较严重，从而降低了模型的推荐效果。同时大部分协同过滤算法专注于相似用户的计算，而忽略了如何最大限度的对项目进行区分，从而导致推荐结果的多样性欠佳。
现有技术将深度学习应用到兴趣点推荐中，然而基于深度学习的兴趣点推荐方法也存在诸多挑战，例如：
1.如何解决历史数据稀疏引起的冷启动问题。现有的兴趣点推荐模型通常需要基于用户的历史轨迹序列来学习用户的潜在出行模式，并且不能为新用户或历史轨迹很少的用户提供有效的推荐。
2.如何捕获非相邻签到之间的非线性时空依赖关系。大多数模型只关注序列中相邻签到之间的转换模式，而忽略了非相邻签入间的时空依赖关系，无法捕捉不同时间尺度下的周期性特征。
3.如何解决用户出行偏好的复杂性。用户签到序列具有实时和动态特性，甚至在不同的移动云平台上有不同的行为。用户将访问的兴趣点可能随着时间、位置和用户特征而动态变化。此外，即使在访问相同的兴趣点之后，不同用户对下一次兴趣点的选择也可能不同。因此，从多个尺度建模用户的旅行偏好并提取个性化的旅行偏好仍然具有挑战性。
发明内容
针对现有技术存在的不足，本发明提出了一种基于时空感知的兴趣点推荐方法，该方法包括：
S1：获取用户签到数据，所述用户签到数据包括用户编号、位置编号、POI类别编号和时间戳数据；
S2：将用户签到数据输入到嵌入模块中进行处理，得到用户的轨迹嵌入矩阵和时空间隔嵌入矩阵；
S3：根据用户签到数据构建轨迹流图并根据轨迹流图的节点特征计算得到用户的通用行为模式；
S4：采用时空感知注意力模块对用户历史轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户长期出行偏好表示；
S5：采用时空感知门控循环单元对用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户短期出行偏好表示；
S6：采用兴趣点匹配模块对用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示进行处理，得到用户的兴趣点推荐结果；根据兴趣点推荐结果向对应用户推荐兴趣点。
优选的，得到轨迹嵌入矩阵的过程包括：将兴趣点对应的用户编号、位置编号、POI类别编号和时间戳数据分别转化为嵌入表示；将四种嵌入表示合并作为轨迹嵌入表示；根据所有兴趣点的轨迹嵌入表示得到轨迹嵌入矩阵。
优选的，得到时空间隔嵌入矩阵的过程包括：计算用户所有兴趣点之间的时间间隔和位置间隔；将兴趣点之间的时间间隔和位置间隔转化为嵌入表示并进行合并，得到兴趣点之间的时空间隔嵌入表示；根据所有兴趣点之间的时空间隔嵌入表示得到用户的时空间隔嵌入矩阵。
优选的，得到用户的通用行为模式的过程包括：将兴趣点对应的位置嵌入表示与POI类别嵌入表示合并作为对应图节点的初始特征；采用堆叠的GCN网络对图节点的初始特征进行处理，得到输出节点特征；对网络最后一层的输出节点特征求均值，得到用户的通用行为模式。
优选的，得到用户长期出行偏好表示的过程包括：对轨迹嵌入矩阵作线性投影处理，得到轨迹嵌入矩阵的Q、K、V向量，对Q、K、V向量以及时空间隔嵌入矩阵进行自注意力运算，得到用户全局出行特征；采用前馈神经网络层对轨迹嵌入矩阵和用户全局出行特征进行处理，得到用户长期出行偏好表示。
优选的，得到用户长期出行偏好表示的公式表示为：
L＝LayerNorm(Eu+Attention(eu))
L′＝max(0,LW1+b1)
其中，L表示残差连接结果，eu表示用户u的轨迹嵌入矩阵，Attention(Eu)表示经注意力层提取的用户全局出行特征，LayerNorm()表示层归一化操作，w1表示时空感知自注意力层前馈神经网络权重矩阵，b1表示时空感知自注意力层前馈神经网络偏置项，L′表示用户长期出行偏好。
优选的，得到用户短期出行偏好表示的过程包括：将时空间隔信息引入门控循环单元的更新门和重置门，以控制历史状态的隐藏特征在计算中的影响程度；使用包含时空间隔信息的重置门和更新门分别计算当前时间步的候选隐藏状态和隐藏状态，根据当前时间步的隐藏状态得到用户短期出行偏好表示。
进一步的，包含时空间隔信息的重置门和更新门表示为：
zt＝σ(Wzxt+Uzht-1+Ozmij)
rt＝σ(Wrxt+Urht-1+Ormij)
其中，zt表示更新门，rt表示重置门，xt表示用户在时间t的签到点的嵌入表示，ht-1表示上一时刻的隐藏状态，mij表示用户在第i个兴趣点签到与第j个兴趣点签到间的时空间隔嵌入表示，Wz,Uz,Oz分别表示更新门的第一、第二第三权重矩阵，Wr,Ue,Or分别表示重置门的第一、第二第三权重矩阵，σ表示激活函数。
优选的，得到用户的兴趣点推荐结果的过程包括：融合用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示，得到用户出行特征；计算候选POI嵌入矩阵并对候选POI嵌入矩阵和用户出行特征作线性投影处理，得到候选POI嵌入矩阵的Q向量以及用户出行特征的K、V向量；计算候选POI与用户轨迹之间的时空间隔嵌入矩阵；对Q、K、V向量以及候选POI与用户轨迹之间的时空间隔嵌入矩阵进行注意力运算，得到用户出行注意力特征；根据用户出行注意力特征计算得到用户的兴趣点推荐结果。
进一步的，得到用户出行特征的公式为：
F＝max(0,concat[(L′+S),r]W+b)
其中，F表示用户出行特征，concat表示从特征维度进行拼接，L′表示用户长期出行偏好，S表示用户短期出行偏好，r表示通用行为模式，W表示特征融合层前馈神经网络权重矩阵，b表示特征融合层前馈神经网络偏置项。
本发明的有益效果为：本发明使用了一个融合了时空注意力、时空循环神经网络和图卷积的序列预测模型，以探索用户个性化的出行偏好和一般行为模式。很好地捕捉了非相邻签到之间的转移规则，并在历史数据不足的情况下提供推荐服务；本发明通过将移动网络收集的用户签到序列转换为轨迹流图，并在其上学习全局通用特征。很好地处理了签到记录较少的用户的不足特征，从而提高了模型在稀疏数据情况下的性能；本发明提出了一个异构时空感知模块(时空感知注意力模块和时空感知门控循环单元)来提取长期稳定偏好和短期动态偏好，这些偏好捕捉了用户在不同时间段的出行模式，为个性化目的地预测提供了多尺度特征基础；本发明可实现灵活且准确的向用户推荐兴趣点，具有良好的应用前景。
附图说明
图1为本发明中基于时空感知的兴趣点推荐预测模型结构示意图；
图2为本发明中时空感知注意力模块结构示意图；
图3为本发明中时空感知门控循环单元结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明提出了一种基于时空感知的兴趣点推荐方法，所述方法包括以下内容：
本发明设计了一种基于时空感知的兴趣点推荐预测模型，将用户签到数据输入到训练好的模型中，可输出用户的兴趣点推荐结果；如图1所示，该模型进行兴趣点推荐的过程包括：
S1：获取用户签到数据，所述用户签到数据包括用户编号、位置编号、POI类别编号和时间戳数据。
可以从互联网平台获取用户签到数据，用户签到数据表示为签到元组c＝(u,p,s,t)，u,p,s,t分别表示用户编号、位置编号、POI类别编号和时间戳数据。位置编号为用户所处兴趣点的位置编号，POI类别编号为用户所处POI类别的编号，时间戳数据为用户到达兴趣点的相对时间编号(相对时间编号按照当前时间相对当前所在周的周一零点的偏移量计算得到)。将用户签到数据划分为历史轨迹数据和当前轨迹数据。
S2：将用户签到数据输入到嵌入模块中进行处理，得到用户的轨迹嵌入矩阵和时空间隔嵌入矩阵。
嵌入层将兴趣点对应的用户编号、位置编号、POI类别编号和时间戳数据分别转化为嵌入表示eu，ep，es，和et；将四种嵌入表示合并作为轨迹嵌入表示e；根据所有兴趣点的轨迹嵌入表示得到轨迹嵌入矩阵，即对于用户签到序列表示用户的第n个签到元组，经过嵌入层处理后得到轨迹嵌入矩阵/>表示用户第n个兴趣点的轨迹嵌入表示。
计算用户所有兴趣点之间的时间间隔和位置间隔，计算公式为：
其中，表示用户在兴趣点i签到和在兴趣点j签到的归一化时间间隔，/>表示用户在兴趣点i签到和在兴趣点j签到的归一化位置间隔，ti和tj分别表示用户在兴趣点i和兴趣点j的签到时间，si和sj分别表示用户在兴趣点i签到和在兴趣点j签到的位置；tmax-tmin表示用户兴趣点签到序列的最大时间差值，smax-smin表示用户兴趣点签到序列的最大空间距离。
将兴趣点之间的时间间隔和位置间隔输入到嵌入层转化为嵌入表示并进行合并，得到兴趣点之间的时空间隔嵌入表示mij；根据所有兴趣点之间的时空间隔嵌入表示得到用户的时空间隔嵌入矩阵。
采用上述方法分别对历史轨迹数据和当前轨迹数据进行处理，可分别得到用户历史轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵，以及用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵。
S3：根据用户签到数据构建轨迹流图并根据轨迹流图的节点特征计算得到用户的通用行为模式。
采用通用模式学习模块构建轨迹流图，将同一批次用户的历史轨迹中出现的所有兴趣点被作为节点添加到轨迹流图中，用户从兴趣点vi向vj进行的一次转移被视为图中的有向边。
将兴趣点对应的的位置嵌入表示ep和类别嵌入表示es相结合，作为对应图节点的初始特征。
通过图卷积网络聚集相邻节点的信息，具体的：采用堆叠的GCN网络(图卷积神经网络)对图节点的初始特征进行处理，得到输出节点特征：
其中，H(l+1)表示网络第l+1层的节点特征，W(l)表示第l层的权重矩阵，σ表示激活函数，表示/>的度矩阵，/>表示添加了自环的邻接矩阵A。
通过堆叠多个GCN模块，可以增强模型的性能，在网络最后一层的节点维度上对输出节点特征求平均值来获得图级别的通用行为模式：
其中，r表示通用行为模式，xn表示第n个节点的输出节点特征，N表示图的节点数量。
S4：采用时空感知注意力模块对用户历史轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户长期出行偏好表示。
如图2所示，采用时空感知注意力模块提取用户历史轨迹中的长期稳定出行偏好，具体的：
对用户历史轨迹序列的轨迹嵌入矩阵作线性投影处理，得到轨迹嵌入矩阵的Q、K、V向量：
Q＝EuWQ,K＝EuWK,V＝EuWV
其中，Q,K,V分别表示轨迹嵌入矩阵的query矩阵，key矩阵和value矩阵，WQ，WK和WV分别表示query矩阵，key矩阵和value矩阵的权重矩阵。
对Q、K、V向量以及时空间隔嵌入矩阵进行自注意力运算，得到用户全局出行特征：
其中，M表示用户的时空间隔嵌入矩阵，Attention(Eu)表示用户全局出行特征。
使用激活函数和归一化对自注意力层的输出即用户全局出行特征进行处理，以加快收敛。为了将非线性引入网络，本发明最终使用以ReLU作为激活函数的前馈神经网络层对轨迹嵌入矩阵和用户全局出行特征进行处理，得到用户长期出行偏好表示，表示为：
L＝LayerNorm(Eu+Attention(Eu))
L′＝max(0,LW1+b1)
其中，L表示残差连接结果，Eu表示用户u的轨迹嵌入矩阵，Attention(Eu)表示经注意力层提取的用户全局出行特征，LayerNorm()表示层归一化操作，W1表示时空感知注意力模块前馈神经网络权重矩阵，b1表示时空感知注意力模块前馈神经网络偏置项，L′表示用户长期出行偏好。
S5：采用时空感知门控循环单元对用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户短期出行偏好表示。
如图3所示，采用时空感知门控循环单元(GRU)提取用户当前轨迹中的短期动态出行偏好；首先，将时空间隔信息引入GRU的更新门和重置门即采用更新门和重置门对用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，以控制历史状态的隐藏特征在计算中的影响程度。这样可以更好地捕捉用户的短期动态出行偏好。具体公式如下：
zt＝σ(Wzxt+Uzht-1+Ozmih)
rt＝σ(Wrxt+Urht-1+Ormij)
其中，zt表示更新门，rt表示重置门，xt表示用户在时间t的签到点的嵌入表示，ht-1表示上一时刻的隐藏状态，mij表示用户在第i个兴趣点签到与第j个兴趣点签到间的时空间隔嵌入表示，Wz,Uz,Oz分别表示更新门的第一、第二第三权重矩阵即更新门对应特征的权重矩阵，Wr,Ur,Or分别表示重置门的第一、第二第三权重矩阵即重置门对应特征的权重矩阵，σ表示激活函数。
使用包含时空间隔信息的重置门和更新门分别计算当前时间步的候选隐藏状态和隐藏状态ht，并根据当前时间步的隐藏状态形成用户短期出行偏好表示S：
其中，W′表示当前时刻输入的权重矩阵，U′表示隐藏状态权重矩阵。
S6：采用兴趣点匹配模块对用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示进行处理，得到用户的兴趣点推荐结果；根据兴趣点推荐结果向对应用户推荐兴趣点。
融合用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示，得到用户出行特征：
F＝max(0,concat[(L′+S),r]W+b)
其中，F表示用户出行特征，concat表示拼接，L′表示用户长期出行偏好表示，S表示用户短期出行偏好表示，r表示通用行为模式，W表示特征融合层前馈神经网络权重矩阵，b表示特征融合层前馈神经网络偏置项。
获取候选POI并采用嵌入层计算候选POI嵌入矩阵，其计算过程与前述得到轨迹嵌入矩阵的过程类似，此处不再赘述；对候选POI嵌入矩阵和用户出行特征作线性投影处理，得到候选POI嵌入矩阵的Q向量以及用户出行特征的K、V向量：
Q＝DWQ,K＝FWK,V＝FWV
其中，D表示候选POI嵌入矩阵。
计算候选POI与用户轨迹之间的时空间隔嵌入矩阵N，其计算过程与前述计算用户的时空间隔嵌入矩阵的过程类似。
对Q、K、V向量以及时空间隔嵌入矩阵N进行注意力运算，得到用户出行注意力特征：
根据用户出行注意力特征计算得到用户的兴趣点推荐结果：
Output＝max(0,Match(Q,K,V,N)Wm+bm)
其中，Output表示最终得到的候选POI作为用户下一访问位置的概率分布向量，Match(Q,K,V,N)表示用户出行特征，Wm表示输出层前馈神经网络权重矩阵，bm表示输出层前馈神经网络偏置项。
在训练模型过程中，使用交叉熵作为模型的损失函数，并在每次计算时对负样本进行随机采样，以解决正负样本数量不平衡的问题。计算损失函数的公式如下：
其中，Loss表示模型总损失，Su表示用户u的签到序列，S表示全部用户的兴趣点签到序列，n表示迭代次数，σ表示激活函数，yi表示型给出的预测结果，oi表示第i轮迭代的真实标签，K表示随机抽样的负样本数量。
优选的，本发明采用命中率(HR)作为结果的评价指标：
其中，N表示样本数量；hits(i)表示第i个用户访问的值是否在预测列表的Topk选项中，在则为1，不在为0。
综上所述，本发明通过根据同一批用户的轨迹构建一个轨迹流图，然后使用消息传递机制来聚合和更新节点特征，最后通过图级别的全局平均池化来获得当前用户集的通用行为模式表示，解决了历史数据稀疏引起的冷启动问题；本发明设计了一种时空感知结构，根据每位用户轨迹点间的时空间隔差值构建时空间隔嵌入矩阵，输入到嵌入层将时空间隔差值合并并转化为隐藏向量形式，再将其分别输入两种异构的特征提取模块与隐藏状态进行融合，增强模型对非相邻签到间时空信息的感知能力，以此捕捉非相邻签到之间的非线性时空依赖关系；本发明同时提取用户的长期稳定偏好和短期动态偏好，将签到序列划分为历史轨迹和当前轨迹，并通过自我关注机制和门控循环单元分别利用时空感知结构捕捉不同时间尺度的用户旅行偏好，解决了解决用户出行偏好的复杂性；本发明可实现灵活且准确的向用户推荐兴趣点，具有良好的应用前景。
以上所举实施例，对本发明的目的、技术方案和优点进行了进一步的详细说明，所应理解的是，以上所举实施例仅为本发明的优选实施方式而已，并不用以限制本发明，凡在本发明的精神和原则之内对本发明所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于时空感知的兴趣点推荐方法，其特征在于，包括：
S1：获取用户签到数据，所述用户签到数据包括用户编号、位置编号、POI类别编号和时间戳数据；
S2：将用户签到数据输入到嵌入模块中进行处理，得到用户的轨迹嵌入矩阵和时空间隔嵌入矩阵；
S3：根据用户签到数据构建轨迹流图并根据轨迹流图的节点特征计算得到用户的通用行为模式；
S4：采用时空感知注意力模块对用户历史轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户长期出行偏好表示；
S5：采用时空感知门控循环单元对用户当前轨迹序列的轨迹嵌入矩阵和时空间隔嵌入矩阵进行处理，得到用户短期出行偏好表示；
S6：采用兴趣点匹配模块对用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示进行处理，得到用户的兴趣点推荐结果；根据兴趣点推荐结果向对应用户推荐兴趣点。
2.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到轨迹嵌入矩阵的过程包括：将兴趣点对应的用户编号、位置编号、POI类别编号和时间戳数据分别转化为嵌入表示；将四种嵌入表示合并作为轨迹嵌入表示；根据所有兴趣点的轨迹嵌入表示得到轨迹嵌入矩阵。
3.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到时空间隔嵌入矩阵的过程包括：计算用户所有兴趣点之间的时间间隔和位置间隔；将兴趣点之间的时间间隔和位置间隔转化为嵌入表示并进行合并，得到兴趣点之间的时空间隔嵌入表示；根据所有兴趣点之间的时空间隔嵌入表示得到用户的时空间隔嵌入矩阵。
4.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户的通用行为模式的过程包括：将兴趣点对应的位置嵌入表示与POI类别嵌入表示合并作为对应图节点的初始特征；采用堆叠的GCN网络对图节点的初始特征进行处理，得到输出节点特征；对网络最后一层的输出节点特征求均值，得到用户的通用行为模式。
5.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户长期出行偏好表示的过程包括：对轨迹嵌入矩阵作线性投影处理，得到轨迹嵌入矩阵的Q、K、V向量，对Q、K、V向量以及时空间隔嵌入矩阵进行自注意力运算，得到用户全局出行特征；采用前馈神经网络层对轨迹嵌入矩阵和用户全局出行特征进行处理，得到用户长期出行偏好表示。
6.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户长期出行偏好表示的公式表示为：
L＝LayerNorm(Eu+Attention(Eu))
L′＝max(0,LW1+b1)
其中，L表示残差连接结果，Eu表示用户u的轨迹嵌入矩阵，Attention(Eu)表示经注意力层提取的用户全局出行特征，LayerNorm()表示层归一化操作，W1表示时空感知自注意力层前馈神经网络权重矩阵，b1表示时空感知自注意力层前馈神经网络偏置项，L′表示用户长期出行偏好。
7.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户短期出行偏好表示的过程包括：将时空间隔信息引入门控循环单元的更新门和重置门，以控制历史状态的隐藏特征在计算中的影响程度；使用包含时空间隔信息的重置门和更新门分别计算当前时间步的候选隐藏状态和隐藏状态，根据当前时间步的隐藏状态得到用户短期出行偏好表示。
8.根据权利要求7所述的一种基于时空感知的兴趣点推荐方法，其特征在于，包含时空间隔信息的重置门和更新门表示为：
zt＝σ(Wzxt+Uzht-1+Ozmij)
rt＝σ(Wrxt+Urht-1+Ormij)
其中，zt表示更新门，rt表示重置门，xt表示用户在时间t的签到点的嵌入表示，ht-1表示上一时刻的隐藏状态，mij表示用户在第i个兴趣点签到与第j个兴趣点签到间的时空间隔嵌入表示，Wz,Uz,Oz分别表示更新门的第一、第二第三权重矩阵，Wr,Ur,Or分别表示重置门的第一、第二第三权重矩阵，σ表示激活函数。
9.根据权利要求1所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户的兴趣点推荐结果的过程包括：融合用户的通用行为模式、用户长期出行偏好表示和用户短期出行偏好表示，得到用户出行特征；计算候选POI嵌入矩阵并对候选POI嵌入矩阵和用户出行特征作线性投影处理，得到候选POI嵌入矩阵的Q向量以及用户出行特征的K、V向量；计算候选POI与用户轨迹之间的时空间隔嵌入矩阵；对Q、K、V向量以及候选POI与用户轨迹之间的时空间隔嵌入矩阵进行注意力运算，得到用户出行注意力特征；根据用户出行注意力特征计算得到用户的兴趣点推荐结果。
10.根据权利要求9所述的一种基于时空感知的兴趣点推荐方法，其特征在于，得到用户出行特征的公式为：
F＝max(0,concat[(L′+S),r]W+b)
其中，F表示用户出行特征，concat表示从特征维度进行拼接，L′表示用户长期出行偏好，S表示用户短期出行偏好，r表示通用行为模式，W表示特征融合层前馈神经网络权重矩阵，b表示特征融合层前馈神经网络偏置项。
CN202311312887.3A 2023-10-11 2023-10-11 一种基于时空感知的兴趣点推荐方法 Pending CN117271899A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311312887.3A CN117271899A (zh) 2023-10-11 2023-10-11 一种基于时空感知的兴趣点推荐方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311312887.3A CN117271899A (zh) 2023-10-11 2023-10-11 一种基于时空感知的兴趣点推荐方法

Publications (1)

Publication Number Publication Date
CN117271899A true CN117271899A (zh) 2023-12-22

Family

ID=89221314

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311312887.3A Pending CN117271899A (zh) 2023-10-11 2023-10-11 一种基于时空感知的兴趣点推荐方法

Country Status (1)

Country Link
CN (1) CN117271899A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117633371A (zh) * 2024-01-25 2024-03-01 云南大学 基于多注意力机制的推荐方法、设备和可读存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117633371A (zh) * 2024-01-25 2024-03-01 云南大学 基于多注意力机制的推荐方法、设备和可读存储介质
CN117633371B (zh) * 2024-01-25 2024-04-12 云南大学 基于多注意力机制的推荐方法、设备和可读存储介质

Similar Documents

Publication Publication Date Title
Tekouabou et al. Improving parking availability prediction in smart cities with IoT and ensemble-based model
Liu et al. GNN-based long and short term preference modeling for next-location prediction
CN109034448B (zh) 基于车辆轨迹语义分析和深度信念网络的轨迹预测方法
CN110363282B (zh) 一种基于图卷积网络的网络节点标签主动学习方法和系统
Chen et al. Curriculum meta-learning for next POI recommendation
Gambs et al. De-anonymization attack on geolocated data
CN106600052B (zh) 一种基于时空轨迹的用户属性与社会网络检测系统
Ren et al. Mtrajrec: Map-constrained trajectory recovery via seq2seq multi-task learning
Xi et al. Modelling of bi-directional spatio-temporal dependence and users’ dynamic preferences for missing poi check-in identification
CN111475637B (zh) 用于推送知识点的数据处理、训练方法及装置
CN110837602A (zh) 基于表示学习和多模态卷积神经网络的用户推荐方法
CN113139140B (zh) 基于时空感知gru并结合用户关系偏好的旅游景点推荐方法
CN112365708B (zh) 基于多图卷积网络的景区交通量预测模型建立和预测方法
CN111506835A (zh) 一种融合用户时间特征和个性特征的数据特征提取方法
CN116721537A (zh) 基于gcn-ipso-lstm组合模型的城市短时交通流预测方法
Zhang et al. Task-guided and semantic-aware ranking for academic author-paper correlation inference
CN112598165B (zh) 基于私家车数据的城市功能区转移流量预测方法及装置
CN117271899A (zh) 一种基于时空感知的兴趣点推荐方法
CN116340524B (zh) 一种基于关系自适应网络的小样本时态知识图谱补全方法
Xu et al. Short‐term traffic flow prediction based on whale optimization algorithm optimized BiLSTM_Attention
Lin et al. Where to go? Predicting next location in IoT environment
CN114637911A (zh) 一种注意力融合感知网络的下一个兴趣点推荐方法
Wang et al. Urban traffic flow prediction: A dynamic temporal graph network considering missing values
CN115422441A (zh) 一种基于社交时空信息与用户偏好的连续兴趣点推荐方法
Lai et al. Multi-view spatial-temporal enhanced hypergraph network for next poi recommendation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination