CN117435819A - 时空动态感知的兴趣点推荐方法、系统和存储介质 - Google Patents
时空动态感知的兴趣点推荐方法、系统和存储介质 Download PDFInfo
- Publication number
- CN117435819A CN117435819A CN202311515112.6A CN202311515112A CN117435819A CN 117435819 A CN117435819 A CN 117435819A CN 202311515112 A CN202311515112 A CN 202311515112A CN 117435819 A CN117435819 A CN 117435819A
- Authority
- CN
- China
- Prior art keywords
- embedded vector
- time
- node
- point
- interest
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 238000003860 storage Methods 0.000 title claims abstract description 14
- 230000008447 perception Effects 0.000 title abstract description 8
- 239000013598 vector Substances 0.000 claims abstract description 282
- 230000002776 aggregation Effects 0.000 claims abstract description 43
- 238000004220 aggregation Methods 0.000 claims abstract description 43
- 238000012549 training Methods 0.000 claims abstract description 27
- 238000012545 processing Methods 0.000 claims abstract description 19
- 239000011159 matrix material Substances 0.000 claims description 179
- 230000006870 function Effects 0.000 claims description 58
- 230000004927 fusion Effects 0.000 claims description 25
- 238000005096 rolling process Methods 0.000 claims description 25
- 238000010586 diagram Methods 0.000 claims description 21
- 239000000203 mixture Substances 0.000 claims description 15
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 10
- 238000005070 sampling Methods 0.000 claims description 10
- 238000013528 artificial neural network Methods 0.000 claims description 8
- 238000013517 stratification Methods 0.000 claims description 7
- 238000012935 Averaging Methods 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 230000002159 abnormal effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 22
- 230000006399 behavior Effects 0.000 abstract description 12
- 230000014509 gene expression Effects 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 5
- 239000000758 substrate Substances 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000003542 behavioural effect Effects 0.000 description 3
- 230000000737 periodic effect Effects 0.000 description 3
- 235000021152 breakfast Nutrition 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 241001122767 Theaceae Species 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 235000008429 bread Nutrition 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 235000015243 ice cream Nutrition 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000004080 punching Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000003997 social interaction Effects 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9536—Search customisation based on social or collaborative filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/953—Querying, e.g. by the use of web search engines
- G06F16/9535—Search customisation based on user profiles and personalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/01—Social networking
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Business, Economics & Management (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Economics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Strategic Management (AREA)
- Primary Health Care (AREA)
- Marketing (AREA)
- Human Resources & Organizations (AREA)
- Algebra (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种时空动态感知的兴趣点推荐方法、系统和存储介质,数据处理领域。该方法包括根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系;利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示;以及基于每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的动态信息聚合模型,向目标用户推荐兴趣点。本公开实现了基于位置的社交网络中用户的动态行为意图、以及POI的动态活动内涵的捕获,提高了兴趣点推荐的准确性。
Description
技术领域
本公开数据处理领域,尤其涉及一种时空动态感知的兴趣点推荐方法、系统和存储介质。
背景技术
LBSN(Location-Based Social Network,基于位置的社交网络)为用户提供了一种与他人分享兴趣点、发布帖子和社交互动的场景与机会。基于位置的个性化推荐服务为社交平台吸引了大量用户,并为服务提供商提供了精准广告投放的机会。在众多基于位置的推荐任务中,下一个兴趣点推荐是一个最显著且应用场景最广泛的任务,它向用户推荐他们可能感兴趣的下一个目的地或活动。
相关技术中,主要是从全局的角度为每个用户学习一个高质量的嵌入表示,以供个性化的下一个兴趣点推荐。
发明内容
本公开要解决的一个技术问题是,提供一种时空动态感知的兴趣点推荐方法、系统和存储介质,能够提高兴趣点推荐的准确性。
根据本公开一方面,提出一种兴趣点推荐方法,包括:根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系;利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示;以及基于每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的动态信息聚合模型,向目标用户推荐兴趣点。
在一些实施例中,利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示,包括:为每个异构图中的每个节点初始化嵌入向量,得到每个节点的初始化嵌入向量矩阵;利用每个节点的初始化嵌入向量矩阵、边关系、每个节点的邻居节点、以及消息聚合函数,构建每个节点在关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,l为正整数;以及基于第一损失函数,对关系图卷积网络进行训练,学习得到每个节点在每个时隙的嵌入向量表示。
在一些实施例中,构建每个节点在关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,包括:构造每个异构图中每个边关系在关系图卷积网络的第l层的第一转换矩阵,以及每个异构图中每个节点在关系图卷积网络的第l层的第二转换矩阵;将每个异构图中第i个节点的第j个邻居节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点的第r个边关系在关系图卷积网络的第l层的第一转换矩阵的乘积进行归一化,得到第一值,i为正整数、ts为正整数、j为正整数、r为正整数;将第i个节点的所有邻居节点对应的第一值进行加和,得到第二值;将第i个节点的所有边关系对应的第二值进行加和,得到第三值;计算第i个节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点在关系图卷积网络的第l层的第二转换矩阵之积,得到第四值;以及利用消息聚合函数,对第三值与第四值之和进行计算,得到第i个节点在关系图卷积网络的第l+1层的嵌入向量表示。
在一些实施例中,第一损失函数包括基于负采样的无监督损失函数,其中,对关系图卷积网络进行训练,包括:根据第i个节点在关系图卷积网络的第l+1层的嵌入向量表示,以及第i个节点的第j个邻居节点在关系图卷积网络的第l+1层的嵌入向量表示,基于负采样的无监督损失函数,对关系图卷积网络进行训练。
在一些实施例中,动态信息聚合模型包括信息增强层、时空自注意力层和候选兴趣点注意力打分层,其中,对动态信息聚合模型进行训练包括:将每个节点的嵌入向量表示和目标用户轨迹中的每条第二签到记录输入至信息增强层,得到目标用户轨迹对应的第一嵌入向量矩阵;将目标用户轨迹对应的第一嵌入向量矩阵输入至时空自注意力层,得到具有时空因素的第二嵌入向量矩阵;将第二嵌入向量矩阵和每个候选兴趣点的第三嵌入向量矩阵输入至候选兴趣点注意力打分层,得到每个候选兴趣点的分值;以及基于每个候选兴趣点的分值、每个候选兴趣点的标签值,利用第二损失函数对动态信息聚合模型进行训练。
在一些实施例中,将每个节点的嵌入向量表示和目标用户轨迹中的每条第二签到记录输入至信息增强层,得到目标用户轨迹对应的第一嵌入向量矩阵,包括:根据目标用户轨迹中的每条第二签到记录,得到每条第二签到记录任意一个兴趣点对应的签到时间;确定签到时间对应的时隙;根据每个节点的嵌入向量表示、签到时间在对应时隙所处位置,以及每条第二签到记录的上下文信息,得到每条第二签到记录对应的目标节点的第一融合嵌入向量表示,目标节点为用户节点、兴趣点节点、区域节点和类别节点中的任意一个节点;将预定时间范围内与签到时间对应的时隙处于同一时间段的目标节点的嵌入向量表示进行加和平均计算,得到第二融合嵌入向量表示;对第一融合嵌入向量表示和第二融合嵌入向量表示进行加权计算,得到目标节点的第三融合嵌入向量表示;对每条第二签到记录对应的目标节点的第三融合嵌入向量表示以及签到时间进行拼接操作,并采用前馈神经网络进行处理,得到每条第二签到记录对应的嵌入向量矩阵;以及根据每条第二签到记录对应的嵌入向量矩阵,得到目标用户轨迹对应的第一嵌入向量矩阵。
在一些实施例中,得到每条第二签到记录对应的目标节点的第一融合嵌入向量表示,包括:根据每个节点的嵌入向量表示,确定签到时间对应的时隙内每条第二签到记录对应的目标节点的第一嵌入向量表示、签到时间对应的时隙的下一时隙内目标节点的第二嵌入向量表示、以及签到时间对应的时隙内前一时隙目标节点的第三嵌入向量表示;以及根据签到时间在对应时隙所处位置,以及第一嵌入向量表示、第二嵌入向量表示和第三嵌入向量表示,确定目标节点融合上下文信息后的第一融合嵌入向量表示。
在一些实施例中,根据签到时间在对应时隙所处位置,以及第一嵌入向量表示、第二嵌入向量表示和第三嵌入向量表示,确定目标节点融合上下文信息后的第一融合嵌入向量表示,包括:在签到时间大于或等于时隙的下界时间点与时间阈值之和,且小于或等于时隙的上界时间点与时间阈值之差的情况下,将第一嵌入向量表示作为第一融合嵌入向量表示;在签到时间大于时隙的下界时间点,且小于时隙的下界时间点与时间阈值之和的情况下,根据第一嵌入向量表示、第二嵌入向量表示,确定第一融合嵌入向量表示;以及在签到时间大于时隙的上界时间点与时间阈值之差,且小于时隙的上界时间点的情况下,根据第一嵌入向量表示、第三嵌入向量表示,确定第一融合嵌入向量表示。
在一些实施例中,将目标用户轨迹对应的第一嵌入向量矩阵输入至时空自注意力层,得到具有时空因素的第二嵌入向量矩阵,包括:根据目标用户轨迹,构建第一时空权重矩阵;以及利用时空自注意力层的查询空间参数矩阵、键空间参数矩阵和值空间参数矩阵,对第一嵌入向量矩阵和第一时空权重矩阵进行归一化指数处理,得到第二嵌入向量矩阵。
在一些实施例中,根据目标用户轨迹,构建第一时空权重矩阵,包括:根据目标用户轨迹中任意两次签到的时间差,利用衰减函数,得到第一时间权重矩阵;根据目标用户轨迹中任意两次签到的距离差,利用衰减函数,得到第一空间权重矩阵;以及对第一时间权重矩阵和第一空间权重矩阵进行加权计算,得到第一时空权重矩阵。
在一些实施例中,将第二嵌入向量矩阵和每个候选兴趣点的第三嵌入向量矩阵输入至候选兴趣点注意力打分层,得到每个候选兴趣点的分值,包括:获取与兴趣点推荐相关的第二时空权重矩阵;以及利用候选兴趣点注意力打分层的归一化指数函数和加权和函数,对第二嵌入向量矩阵、每个候选兴趣点的第三嵌入向量矩阵和第二时空权重矩阵进行处理,得到每个候选兴趣点的分值。
在一些实施例中,获取与兴趣点推荐相关的第二时空权重矩阵,包括:根据目标用户产生推荐需求的时间与目标用户轨迹中每条第二签到记录对应的签到时间的时间差,得到第二时间权重矩阵;根据每个候选兴趣点的位置与目标用户轨迹中每条第二签到记录对应的位置之间的距离差,得到第二空间权重矩阵;以及对第二时间权重矩阵和第二空间权重矩阵进行加权计算,得到第二时空权重矩阵。
在一些实施例中,第二损失函数为交叉熵损失函数。
在一些实施例中,根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,包括:将预定时间范围划分为多个时隙;将预定时间范围内的每条第一签到记录映射到对应的时隙;根据每个时隙内的第一签到记录,构建每个时隙对应的异构图;以及根据每个时隙对应的异构图,得到预定时间范围对应的异构图组。
在一些实施例中,节点间的边关系的类型包括用户与兴趣点间的类型边、兴趣点与区域间的类型边、兴趣点与类别间的类型边、区域与类别间的类型边、兴趣点与兴趣点间的类型边、区域与区域间的类型边、以及类别与类别间的类型边。
根据本公开的另一方面,还提出一种兴趣点推荐系统,包括:第一模块,被配置为根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系,利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示;以及第二模块,被配置为基于每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的动态信息聚合模型,向目标用户推荐兴趣点。
根据本公开的另一方面,还提出一种兴趣点推荐系统,包括:存储器;以及耦接至存储器的处理器,处理器被配置为基于存储在存储器的指令执行如上述的兴趣点推荐方法。
根据本公开的另一方面,还提出一种计算机可读存储介质,其上存储有计算机程序指令,该指令被处理器执行时实现如上述的兴趣点推荐方法。
本公开实施例中,从全局角度通过划分时隙、构建动态感知异构图组、设计关系图卷积网络,实现对用户、POI、区域、类别节点预训练,得到高质量的各节点的嵌入向量表示,进而从局部视角触发,针对某用户的历史轨迹,利用学到的高质量嵌入表示为用户提供个性化兴趣点推荐,从而实现了基于位置的社交网络中用户的动态行为意图、以及POI的动态活动内涵的捕获,提高了兴趣点推荐的准确性。
通过以下参照附图对本公开的示例性实施例的详细描述,本公开的其它特征及其优点将会变得清楚。
附图说明
构成说明书的一部分的附图描述了本公开的实施例,并且连同说明书一起用于解释本公开的原理。
参照附图,根据下面的详细描述,可以更加清楚地理解本公开,其中:
图1为一些实施例中用户轨迹示意图;
图2为本公开的兴趣点推荐方法的一些实施例的流程示意图;
图3为本公开的兴趣点推荐方法的另一些实施例的流程示意图;
图4为本公开的兴趣点推荐方法的另一些实施例的流程示意图;
图5为本公开的兴趣点推荐方法的另一些实施例的流程示意图;
图6为本公开的一些实施例中的时隙划分示意图;
图7为本公开的一些实施例中用户活动的时间周期性示意图;
图8为本公开的兴趣点推荐方法的另一些实施例的流程示意图;
图9为本公开的兴趣点推荐方法的另一些实施例的流程示意图;
图10为本公开的一些实施例的模型结构示意图;
图11为本公开的兴趣点推荐系统的一些实施例的结构示意图;
图12为本公开的兴趣点推荐系统的另一些实施例的结构示意图。
具体实施方式
现在将参照附图来详细描述本公开的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
同时,应当明白,为了便于描述,附图中所示出的各个部分的尺寸并不是按照实际的比例关系绘制的。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有示例中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它示例可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
为使本公开的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本公开进一步详细说明。
相关技术仅反映用户历史整体偏好,但无法反映用户在不同时期的动态行为意图,并且,一个静态、统一的嵌入向量不能完全反映POI(Point of interest,兴趣点)在不同时间背景下活动内涵。例如,如图1所示,露西习惯在上午学习和工作,下午运动,晚上在休闲场所与朋友放松娱乐,这意味着她在不同时间背景下有不同的行为意图。而相关技术将为露西学习一个全局统一的静态嵌入向量来表示用户偏好,不足以表征用户的动态行为意图。另外,露西喜欢早上去商店买面包当早餐,在这种情况下,商店提供的活动内涵类似于早餐店、面包房。而下午,露西在运动之后,在商店里购买饮料,此时商店提供的活动内涵类似于奶茶店、冰淇淋店。相关技术无法刻画POI在不同时间背景下的活动内涵。
随着互联网技术的成熟,用户对基于位置服务的需求大量的激增,而如何提升用户的体验,为用户提供更加准确的下一个兴趣点至关重要。
图2为本公开的兴趣点推荐方法的一些实施例的流程示意图。
在步骤210,根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系。
在下一兴趣点推荐中,用户和POI不是孤立的节点,它们同时受到许多因素的影响,例如签到时间、上下文信息、空间地理位置和POI的活动类别都会影响下一兴趣点的推荐。该签到时间是指用户在某个POI访问的时间。上下文信息是指在用户轨迹上,当前签到行为和前一次签到行为或下一次签到行为之间的关联。
在一些实施例中,为学习高质量的动态嵌入表示,将预定时间划分为多个时隙。将预定时间范围内的每条第一签到记录映射到对应的时隙。根据每个时隙内的第一签到记录,构建每个时隙对应的异构图。根据多个时隙对应的异构图,得到预定时间范围对应的异构图组。
例如,将一周时间T划分为|T|个时隙,T={1,2,…,|T|},对于每个时隙ts∈T,用户轨迹中的每条签到记录将被映射到对应的时隙中。将用户、POI、区域和类别视作节点,这四类节点之间具有7种边关系,根据7种边关系构建动态感知的异构图组其中,每个时隙ts对应一张异构图/>
节点间的边关系的类型包括用户与兴趣点间的类型边、兴趣点与区域间的类型边、兴趣点与类别间的类型边、区域与类别间的类型边、兴趣点与兴趣点间的类型边、区域与区域间的类型边、以及类别与类别间的类型边。
对于任意用户ui,边ei,z,ts代表用户ui曾在ts时隙访问过兴趣点pz。因此,<用户-POI>类型的边可以直观地反映用户在ts时隙内的兴趣点偏好。
兴趣点与区域间的类型边ez,m,ts,表示在ts时隙内,存在用户访问过兴趣点pz,兴趣点pz位于区域rm中。因此,<POI-区域>类型的边可以隐式地了解用户在ts时隙间的活动区域。
兴趣点与类别间的类型边ez,n,ts,表示在ts时隙内,存在用户访问过兴趣点pz,兴趣点pz属于类别cn。因此,<POI-类别>类型的边有助于隐式捕获用户在ts时段内偏好的活动类型。
区域与类别间的类型边em,n,ts,连接区域rm和类别cn,表示在ts时间段内存在用户留下签到记录(pz,rm,cn)。因此,<区域-类别>类型的边可以捕获ts时间段区域rm主要提供哪些类活动服务,且活动类别节点cn可以学习到在ts时间段提供这类服务活动的区域有哪些。
兴趣点与兴趣点间的类型边ez1,z2,ts,表示存在用户在ts时隙内访问过兴趣点pz1和pz2,这样POI可以学习到和它上下文环境类似的其他POI节点的嵌入表示。
区域rm1和rm2在物理空间上相邻、或被同一用户在ts时间槽内访问过,则构建区域与区域间的类型边em1,m2,ts。这样,空间上相邻、活动服务相似的区域会学习到相近的嵌入表达。
类别与类别间的类型边en1,n2,ts,表示存在用户在ts时间段内同时访问过活动类型为cm1和cm2的兴趣点。在同一时间段功能相似的POI活动类别会学习到相近的嵌入表达。
在步骤220,利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示。
在一些实施例中,先对各节点初始化嵌入向量,然后构建关系图卷积网络每一层的函数,利用损失函数对关系图卷积网络进行训练,所有节点将学习到|T|组嵌入向量表示,进而作为初始化参数输入到下一阶段的动态信息聚合模型中。
通过步骤210和步骤220,利用用户轨迹签到交互中用户、签到时间、POI类别、区域等多种动态背景因素,来学习用户动态行为意图与POI的动态活动内涵。
在步骤230,基于每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的动态信息聚合模型,向目标用户推荐兴趣点。
在一些实施例中,该动态信息聚合模型包括信息增强层、时空自注意力层和候选兴趣点注意力打分层。该步骤中,从局部视角构造了动态信息聚合模型,该动态信息聚合模型整合了从全局视图中预训练学习到的各个节点的高质量嵌入向量表示,并通过信息增强层、时空自注意力层进一步捕获受时空因素影响的动态用户意图,最后候选POI注意力打分层向用户推荐接下来可能感兴趣的至少一个地点。
在上述实施例中,从全局角度通过划分时隙、构建动态感知异构图组、设计关系图卷积网络,实现对用户、POI、区域、类别节点预训练,得到高质量的各节点的嵌入向量表示,进而从局部视角触发,针对某用户的历史轨迹,利用学到的高质量嵌入表示为用户提供个性化兴趣点推荐,从而实现了基于位置的社交网络中用户的动态行为意图、以及POI的动态活动内涵进行捕获,提高了兴趣点推荐的准确性。
图3为本公开的兴趣点推荐方法的另一些实施例的流程示意图。
在步骤310,根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系。
针对每个异构图是一个无权无向的异构图,由4种类型的节点和7种类型的边关系构成。
在步骤320,为每个异构图中的每个节点初始化嵌入向量,得到每个节点的初始化嵌入向量矩阵。
该步骤中,为异构图组中的所有节点初始化嵌入向量,以一个用户节点ui为例,其在|T|个时隙内的初始化的嵌入向量构成集合其中/>d表示嵌入维度,/>为用户节点ui在时隙ts的初始化向量。在一些实施例中,d由参数实验确定取值。根据经验选取嵌入维度d=[10,20,30,4,50,60]进行实验,在d=50附近,该推荐模型有较高召回率。
一个POI节点pz的初始化嵌入向量构成集合为一个区域节点rm的初始化嵌入向量构成集合为/>一个类别节点cn的初始化嵌入向量构成集合为/>通过该步骤,异构图组中所有节点完成了初始化嵌入向量。
在步骤330,利用每个节点的初始化嵌入向量矩阵、边关系、每个节点的邻居节点、以及消息聚合函数,构建每个节点在关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,l为正整数。
在一些实施例中,构造每个异构图中每个边关系在关系图卷积网络的第l层的第一转换矩阵,以及每个异构图中每个节点在关系图卷积网络的第l层的第二转换矩阵;将每个异构图中第i个节点的第j个邻居节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点的第r个边关系在关系图卷积网络的第l层的第一转换矩阵的乘积进行归一化,得到第一值,i为正整数、ts为正整数、j为正整数、r为正整数;将第i个节点的所有邻居节点对应的第一值进行加和,得到第二值;将第i个节点的所有边关系对应的第二值进行加和,得到第三值;计算第i个节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点在关系图卷积网络的第l层的第二转换矩阵之积,得到第四值;以及利用消息聚合函数,对第三值与第四值之和进行计算,得到第i个节点在关系图卷积网络的第l+1层的嵌入向量表示。
例如,针对每种边关系r,构造一个可训练的转换矩阵 来捕获节点的高阶特征,即提取不同关系下邻居节点的非线性特征,其中d′表示隐藏层向量维度。针对节点,构造一个可训练的转换矩阵/>用来提取节点i在l层的非线性特征。
该消息聚合函数可以表示为:
其中,表示在/>图中,节点i经过消息聚合后在l+1层的嵌入向量表示,R表示所有类型的边关系,/>表示节点i在时隙ts内,在关系r下的所有邻居节点,表示归一化常数,σ(·)代表sigmoid激活函数。
在步骤340,基于第一损失函数,对关系图卷积网络进行训练,学习得到每个节点在每个时隙的嵌入向量表示。
在一些实施例中,第一损失函数包括基于负采样的无监督损失函数。根据第i个节点在关系图卷积网络的第l+1层的嵌入向量表示,以及第i个节点的第j个邻居节点在关系图卷积网络的第l+1层的嵌入向量表示,基于负采样的无监督损失函数,对关系图卷积网络进行训练。
例如,基于负采样的无监督损失函数 其中,/>表示在异构图/>中,节点i在关系图卷积网络最后一层(l=K)的嵌入向量输出,/>表示节点i的邻居节点j在关系图卷积网络最后一层(l=K)的嵌入向量输出。n代表负采样节点,也就是对节点i的非邻居节点随机采样,/>代表这个负采样节点n在该异构图内的嵌入向量。NEG(i,ts)为在ts时隙内,节点i的负样本采样集合。经过对关系图卷积网络的训练与优化,所有节点将学习到|T|组嵌入表示,作为初始化参数输入到动态信息聚合模型中。
上述实施例中,通过步骤310-340从全局视角构建了细粒度时间增强图神经网络,充分刻画了不同时间背景下用户的动态行为意图及POI的动态活动内涵,从而能够学习用户及POI受时间影响的细粒度表达。
图4为本公开的兴趣点推荐方法的另一些实施例的流程示意图。
在步骤410,将每个节点的嵌入向量表示和目标用户轨迹中的每条第二签到记录输入至信息增强层,得到目标用户轨迹对应的第一嵌入向量矩阵。
该步骤中,融合时隙中每个节点的周期性和上下文细粒度信息,从而减少签到时间波动和时隙划分对节点嵌入表示的影响。
在步骤420,将目标用户轨迹对应的第一嵌入向量矩阵输入至时空自注意力层,得到具有时空因素的第二嵌入向量矩阵。
该步骤中,将签到记录之间的时空关系信息整合到注意机制中,从而得到经过时空因素和上下文因素优化的每条历史签到记录的嵌入向量表示。经过时空自注意力层的处理,可以有效地捕获用户轨迹中签到记录之间的顺序依赖关系。
在步骤430,将第二嵌入向量矩阵和每个候选兴趣点的第三嵌入向量矩阵输入至候选兴趣点注意力打分层,得到每个候选兴趣点的分值。
下一个POI推荐任务的准确性,在很大程度上依赖于用户当前的时间环境,以及候选POI与用户历史活动范围间的距离。通过候选兴趣点注意力打分层,计算每个候选兴趣点的打分。
在步骤440,基于每个候选兴趣点的分值、每个候选兴趣点的标签值,利用第二损失函数对动态信息聚合模型进行训练。
在一些实施例中,该第二损失函数为交叉熵损失函数。例如,为了充分利用用户签到数据,我们建立了一个掩码矩阵从片段逐渐训练到整个序列,每次将最后一个可见的POI作为正样本。利用函数对动态信息聚合模型进行训练。NEG(k,ui)表示从所有候选POI集合中随机选择一组用户ui未曾访问过的兴趣点作为负样本,/>为用户轨迹中最后一个作为正样本兴趣点的分值,/>为负样本兴趣点的分值,m表示用于训练的兴趣点,例如,若一条轨迹包括30个兴趣点,则m的取值为1至29,在m=1时,k为2,m=2时,k为3,以此类推。训练与迭代后,从所有打分中选择得分最高的top-K个兴趣点推荐给用户。
在上述实施例中,在局部视图中,动态信息聚合模型从全局视图中预训练学习到的各个节点的细粒度表示,并通过信息增强层、时空自注意力层进一步捕获受时空因素影响的动态用户意图,最后候选POI注意力打分层向用户推荐接下来可能感兴趣的top-K个地点。
图5为本公开的兴趣点推荐方法的另一些实施例的流程示意图。
在步骤510,根据目标用户轨迹中的每条第二签到记录,得到每条第二签到记录任意一个兴趣点对应的签到时间。
在步骤520,确定签到时间对应的时隙。
例如,t标识用户签到的精确时间,将该时间t映射到对应的时隙ts中。
在步骤530,根据每个节点的嵌入向量表示、签到时间在对应时隙所处位置,以及每条第二签到记录的上下文信息,得到每条第二签到记录对应的目标节点的第一融合嵌入向量表示,目标节点为用户节点、兴趣点节点、区域节点和类别节点中的任意一个节点。
在一些实施例中,根据每个节点的嵌入向量表示,确定签到时间对应的时隙内每条第二签到记录对应的目标节点的第一嵌入向量表示、签到时间对应的时隙的下一时隙内目标节点的第二嵌入向量表示、以及签到时间对应的时隙内前一时隙目标节点的第三嵌入向量表示;以及根据签到时间在对应时隙所处位置,以及第一嵌入向量表示、第二嵌入向量表示和第三嵌入向量表示,确定目标节点融合上下文信息后的第一融合嵌入向量表示。
例如,表示节点i经过关系图卷积网络模型训练后的嵌入向量。/>和/>分别表示节点i在前后相邻的两个时隙异构图/>和/>中学习到的嵌入向量。
针对每个时隙,包括不易受干扰的中心部分以及两端易干扰的边缘部分,中心部分对用户签到时间抖动、时隙划分具有较高的容忍度,而两端则更容易受到影响。例如,若将某用户在19:59的签到和在20:01的签到信息划分到两个时隙中,会导致节点嵌入向量产生显著差异。该实施例中,将时隙划分中心部分和两端部分。如图6所示,Δ为设定的扰动敏感阈值,tH和tL分别代表时间槽ts的上界时间点和下界时间点。tL+Δ≤t≤tH-Δ,说明用户签到时间位于时隙中心,tL<t<tL+Δ或者tH-Δ<t<tH,说明用户签到时间位于时隙的两端。
在一些实施例中,在签到时间大于或等于时隙的下界时间点与时间阈值之和,且小于或等于时隙的上界时间点与时间阈值之差的情况下,将第一嵌入向量表示作为第一融合嵌入向量表示;在签到时间大于时隙的下界时间点,且小于时隙的下界时间点与时间阈值之和的情况下,根据第一嵌入向量表示、第二嵌入向量表示,确定第一融合嵌入向量表示;以及在签到时间大于时隙的上界时间点与时间阈值之差,且小于时隙的上界时间点的情况下,根据第一嵌入向量表示、第三嵌入向量表示,确定第一融合嵌入向量表示。
例如, 其中,表示节点i融合了上下文信息后的嵌入向量表示。
在步骤540,将预定时间范围内与签到时间对应的时隙处于同一时间段的目标节点的嵌入向量表示进行加和平均计算,得到第二融合嵌入向量表示。
如图7所示,用户的行为活动模式随着时间的推移呈现出明显的周期性,因此,建立关系式其中,WK(ts)为一周内与目标时间槽ts处于同一时间段的时隙id的集合,/>表示节点i经过周期性信息融合后的嵌入向量表示。
在步骤550,对第一融合嵌入向量表示和第二融合嵌入向量表示进行加权计算,得到目标节点的第三融合嵌入向量表示。
在利用上下文信息和周期性信息增强后,节点i的最终表达式为其中参数μ为平衡因子,用来平衡上下文信息和周期性信息所占的权重。
在步骤560,对每条第二签到记录对应的目标节点的第三融合嵌入向量表示以及签到时间进行拼接操作,并采用前馈神经网络进行处理,得到每条第二签到记录对应的嵌入向量矩阵。
例如,对于一条签到记录ui表示用户id,pz表示兴趣点id,rm表示兴趣点所在区域的id,cn表示兴趣点所属类别的id,tj表示产生该条签到的精确时间。首先将时间tj投影到相应的时间槽ts中,并为每个时间槽初始化一个嵌入向量ts。将上述信息增强操作应用于四种类型的节点上,分别得到向量/>最终得到/>这条签到的最终表达式:/>其中,FFN(·)为前馈神经网络,Concat(·)表示嵌入向量的拼接操作。
在步骤570,根据每条第二签到记录对应的嵌入向量矩阵,得到目标用户轨迹对应的第一嵌入向量矩阵。
对于用户ui的一组历史签到轨迹可以用嵌入向量矩阵来表示。L表示每条轨迹的最大长度,该实施例中,将每条用户轨迹转换成固定长度的序列,例如,L取值为30。针对某用户,若其轨迹长度小于30则填充到30;若其轨迹长度大于30,例如为45,则将该轨迹截成两段,一段为30,另一段15,并将长度15填充到长度30。通过将每条用户轨迹转换成固定长度的序列,便于数据计算和数据处理。
在上述实施例中,针对每个时隙ts,融合了时隙中每个节点的周期性和上下文细粒度信息,从而能够减少签到时间波动和时隙划分对节点嵌入表示的影响。
图8为本公开的兴趣点推荐方法的另一些实施例的流程示意图。
在步骤810,根据目标用户轨迹,构建第一时空权重矩阵。
在一些实施例中,根据目标用户轨迹,构建第一时间权重矩阵和第一空间权重矩阵。对第一时间权重矩阵和第一空间权重矩阵进行加权计算,得到第一时空权重矩阵。
在一些实施例中,根据目标用户轨迹中任意两次签到的时间差,利用衰减函数,得到第一时间权重矩阵;以及根据目标用户轨迹中任意两次签到的距离差,利用衰减函数,得到第一空间权重矩阵。
该步骤中,根据每个用户的历史轨迹,分别构建时间权重矩阵和空间权重矩阵。例如,对于用户ui以及其签到轨迹时间权重矩阵空间权重矩阵/>m和n表示轨迹/>中的任意两次签到的位置。/>表示时间权重矩阵,Δtm,n=|tm-tn|表示两次签到间的时间差。空间权重矩阵/>Δdm,n表示两次签到之间的距离,使用半正矢公式计算,Δdm,n=Haversine(lonm,latm,lonn,latn)。ψ(x)=1/log(e+x)表示衰减函数,用来将时间差和距离差转换为权重。Haversine用于计算两经纬度点的距离,/>
其中,R为半径为,lonm为签到点m的经度信息,latm为签到点m的纬度信息,lonn为签到点n的经度信息,latn为签到点n的纬度信息。
在一些实施例中,表示时间权重矩阵和空间权重矩阵混合权重,ρ代表权重因子,以平衡时间和空间信息的影响。
在步骤820,利用时空自注意力层的查询空间参数矩阵、键空间参数矩阵和值空间参数矩阵,对第一嵌入向量矩阵和第一时空权重矩阵进行归一化指数处理,得到第二嵌入向量矩阵。
例如,使用改进的自注意力机制来将时空因素考虑在内,学习用户轨迹的嵌入向量表达 其中,用于将轨迹嵌入E(hist)投影到矩阵中,使模型能够捕获和某次签到更相关的其他签到,并为它们分配适当的权重。轨迹经过时空自注意力层后的嵌入向量表达为:/>
自注意力机制可以有效地捕获用户轨迹中签到记录之间的顺序依赖关系,在上述实施例中,将签到记录之间的时空关系信息整合到注意机制中,从而得到经过时空因素和上下文因素优化的每条历史签到记录的嵌入向量表示。
图9为本公开的兴趣点推荐方法的另一些实施例的流程示意图。
在步骤910,获取与兴趣点推荐相关的第二时空权重矩阵。
在一些实施例中,根据目标用户产生推荐需求的时间与目标用户轨迹中每条第二签到记录对应的签到时间的时间差,得到第二时间权重矩阵;根据每个候选兴趣点的位置与目标用户轨迹中每条第二签到记录对应的位置之间的距离差,得到第二空间权重矩阵;以及对第二时间权重矩阵和第二空间权重矩阵进行加权计算,得到第二时空权重矩阵。
例如,下一个POI推荐任务的准确性在很大程度上依赖于用户当前的时间环境,以及候选POI与用户历史活动范围间的距离。因此,构建了所有候选POI的空间权重矩阵和时间权重矩阵/>Δtk,n=|tk-tn|,tk表示当下用户产生推荐需求的时间,tn表示该用户历史所有签到的时间;Δdk,n表示所有候选兴趣点dk与该用户历史上所有访问过的兴趣点dn之间的距离,同样用半正矢公式计算。候选兴趣点的空间权重矩阵/>其中/>为候选兴趣点总数,L为该用户历史轨迹长度。时间权重矩阵/>也被进一步地扩展到同样维度。得到时空混合权重矩阵 ρ代表权重因子,以平衡时间和空间信息的影响,/>
在步骤920,利用候选兴趣点注意力打分层的归一化指数函数和加权和函数,对第二嵌入向量矩阵、每个候选兴趣点的第三嵌入向量矩阵和第二时空权重矩阵进行处理,得到每个候选兴趣点的分值。
当用户ui在tk时刻产生下一个推荐需求时,其中,tk属于时隙ts,每个候选兴趣点pi的整体嵌入向量可以表示为 分别为用户ui、兴趣点pi、pi所在的区域以及pi所属的类别在ts时段内的嵌入表达。进一步,可得到所有候选兴趣点的嵌入向量矩阵/> 通过以下公式计算每个候选兴趣点的打分:/>
其中,Sum(·)表示最后一个维度的加权和,其中,每个表示模型对该兴趣点pi的打分值,值越高则模型认为该用户可能接下来会去这个地方。
在本公开的一些实施例中,如图10所示,包括阶段1,即从全局视角构建细粒度时间增强图神经网络。将一周时间划分为|T|个时隙,构成包含|T|个异构图的异构图组用户节点ui的初始化嵌入向量构成集合/>POI节点pz的初始化嵌入向量构成集合/>区域节点rm的初始化嵌入向量构成集合/>类别节点cn的初始化嵌入向量构成集合
将上述向量集合分别输入至对应的关系图卷积网络(Relational graphconvolutional network,RGCN)层RGCN1、RGCN2…RGCN|T|,经过训练与优化后,所有节点学习得到|T|组的嵌入向量表示,作为初始化参数输入到阶段2的动态信息聚合模型中。
阶段2从局部视角,通过信息增强层、时空自注意力层进一步捕获受时空因素影响的动态用户意图,最后候选POI注意力打分层向用户推荐接下来可能感兴趣的top-K个地点。每一条签到记录 在信息曾强层,通过上下文信息融合、周期性信息融合,最后进行本地信息聚合与输出/> 能够减少签到时间波动和时隙划分对节点嵌入表示的影响。
{a1,a2,…,aL}输入至时空自注意力层,并将签到记录之间的时空关系信息整合到注意机制中,从而得到经过时空因素和上下文因素优化的每条历史签到记录的嵌入表示{a′1,a′2,…,a′L}。将所有候选兴趣点的嵌入矩阵输入至候选POI注意力打分层,计算得到每个候选兴趣点的打分/>进而为用户节点ui推荐分数值最高的k个兴趣点。
在上述实施例中,通过划分时隙、构建动态感知异构图组、设计关系图卷积网络,实现对用户、POI、区域、类别节点预训练,得到高质量的用户与POI的嵌入表示。在动态信息聚合模型,通过信息增强层,充分融合细粒度的周期信息和上下文信息,减少嵌入表示受用户签到时间抖动及时间槽划分的影响,增强模型的鲁棒性。通过注意力机制,以探索时空相关性对用户行为的影响。由于考虑签到打卡中的动态特性,考虑用户的动态行为意图与POI的动态活动内涵,因此,提高了用户与POI嵌入表示质量,最终提高了兴趣点推荐性能。
图11为本公开的兴趣点推荐系统的一些实施例的结构示意图,该兴趣点推荐系统包括第一模块1110和第二模块1120。
第一模块1110被配置为根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系,利用关系图卷积网络,学习得到每个异构图中每个节点的嵌入向量表示。
在一些实施例中,第一模块1110将预定时间范围划分为多个时隙;将预定时间范围内的每条第一签到记录映射到对应的时隙;根据每个时隙内的第一签到记录,构建每个时隙对应的异构图;以及根据每个时隙对应的异构图,得到预定时间范围对应的异构图组。
节点间的边关系的类型包括用户与兴趣点间的类型边、兴趣点与区域间的类型边、兴趣点与类别间的类型边、区域与类别间的类型边、兴趣点与兴趣点间的类型边、区域与区域间的类型边、以及类别与类别间的类型边。
在一些实施例中,第一模块1110为每个异构图中的每个节点初始化嵌入向量,得到每个节点的初始化嵌入向量矩阵;利用每个节点的初始化嵌入向量矩阵、边关系、每个节点的邻居节点、以及消息聚合函数,构建每个节点在关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,l为正整数;以及基于第一损失函数,对关系图卷积网络进行训练,学习得到每个节点在每个时隙的嵌入向量表示。
在一些实施例中,构建每个节点在关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,包括:构造每个异构图中每个边关系在关系图卷积网络的第l层的第一转换矩阵,以及每个异构图中每个节点在关系图卷积网络的第l层的第二转换矩阵;将每个异构图中第i个节点的第j个邻居节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点的第r个边关系在关系图卷积网络的第l层的第一转换矩阵的乘积进行归一化,得到第一值,i为正整数、ts为正整数、j为正整数、r为正整数;将第i个节点的所有邻居节点对应的第一值进行加和,得到第二值;将第i个节点的所有边关系对应的第二值进行加和,得到第三值;计算第i个节点在关系图卷积网络的第l层的嵌入向量表示,与第i个节点在关系图卷积网络的第l层的第二转换矩阵之积,得到第四值;以及利用消息聚合函数,对第三值与第四值之和进行计算,得到第i个节点在关系图卷积网络的第l+1层的嵌入向量表示。
在一些实施例中,对关系图卷积网络进行训练,包括:根据第i个节点在关系图卷积网络的第l+1层的嵌入向量表示,以及第i个节点的第j个邻居节点在关系图卷积网络的第l+1层的嵌入向量表示,基于负采样的无监督损失函数,对关系图卷积网络进行训练。
第二模块1120被配置为基于每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的动态信息聚合模型,向目标用户推荐兴趣点。
在一些实施例中,该动态信息聚合模型包括信息增强层、时空自注意力层和候选兴趣点注意力打分层,第二模块1120将每个节点的嵌入向量表示和目标用户轨迹中的每条第二签到记录输入至信息增强层,得到目标用户轨迹对应的第一嵌入向量矩阵;将目标用户轨迹对应的第一嵌入向量矩阵输入至时空自注意力层,得到具有时空因素的第二嵌入向量矩阵;将第二嵌入向量矩阵和每个候选兴趣点的第三嵌入向量矩阵输入至候选兴趣点注意力打分层,得到每个候选兴趣点的分值;以及基于每个候选兴趣点的分值、每个候选兴趣点的标签值,利用第二损失函数对动态信息聚合模型进行训练。
在一些实施例中,将每个节点的嵌入向量表示和目标用户轨迹中的每条第二签到记录输入至信息增强层,得到目标用户轨迹对应的第一嵌入向量矩阵,包括:根据目标用户轨迹中的每条第二签到记录,得到每条第二签到记录对应的签到时间;确定签到时间对应的时隙;根据每个节点的嵌入向量表示、签到时间在对应时隙所处位置,以及每条第二签到记录的上下文信息,得到每条第二签到记录对应的目标节点的第一融合嵌入向量表示,目标节点为用户节点、兴趣点节点、区域节点和类别节点中的任意一个节点;将预定时间范围内与签到时间对应的时隙处于同一时间段的目标节点的嵌入向量表示进行加和平均计算,得到第二融合嵌入向量表示;对第一融合嵌入向量表示和第二融合嵌入向量表示进行加权计算,得到目标节点的第三融合嵌入向量表示;对每条第二签到记录对应的目标节点的第三融合嵌入向量表示以及签到时间进行拼接操作,并采用前馈神经网络进行处理,得到每条第二签到记录对应的嵌入向量矩阵;根据每条第二签到记录对应的嵌入向量矩阵,得到目标用户轨迹对应的第一嵌入向量矩阵。
在一些实施例中,得到每条第二签到记录对应的目标节点的第一融合嵌入向量表示,包括:根据每个节点的嵌入向量表示,确定签到时间对应的时隙内每条第二签到记录对应的目标节点的第一嵌入向量表示、签到时间对应的时隙的下一时隙内目标节点的第二嵌入向量表示、以及签到时间对应的时隙内前一时隙目标节点的第三嵌入向量表示;以及根据签到时间在对应时隙所处位置,以及第一嵌入向量表示、第二嵌入向量表示和第三嵌入向量表示,确定目标节点融合上下文信息后的第一融合嵌入向量表示。
在一些实施例中,根据签到时间在对应时隙所处位置,以及第一嵌入向量表示、第二嵌入向量表示和第三嵌入向量表示,确定目标节点融合上下文信息后的第一融合嵌入向量表示,包括:在签到时间大于或等于时隙的下界时间点与时间阈值之和,且小于或等于时隙的上界时间点与时间阈值之差的情况下,将第一嵌入向量表示作为第一融合嵌入向量表示;在签到时间大于时隙的下界时间点,且小于时隙的下界时间点与时间阈值之和的情况下,根据第一嵌入向量表示、第二嵌入向量表示,确定第一融合嵌入向量表示;以及在签到时间大于时隙的上界时间点与时间阈值之差,且小于时隙的上界时间点的情况下,根据第一嵌入向量表示、第三嵌入向量表示,确定第一融合嵌入向量表示。
在一些实施例中,将目标用户轨迹对应的第一嵌入向量矩阵输入至时空自注意力层,得到具有时空因素的第二嵌入向量矩阵,包括:根据目标用户轨迹,构建第一时空权重矩阵;以及利用时空自注意力层的查询空间参数矩阵、键空间参数矩阵和值空间参数矩阵,对第一嵌入向量矩阵和第一时空权重矩阵进行归一化指数处理,得到第二嵌入向量矩阵。
根据目标用户轨迹,构建第一时空权重矩阵,包括:根据目标用户轨迹中任意两次签到的时间差,利用衰减函数,得到第一时间权重矩阵;根据目标用户轨迹中任意两次签到的距离差,利用衰减函数,得到第一空间权重矩阵;以及对第一时间权重矩阵和第一空间权重矩阵进行加权计算,得到第一时空权重矩阵。
在一些实施例中,将第二嵌入向量矩阵和每个候选兴趣点的第三嵌入向量矩阵输入至候选兴趣点注意力打分层,得到每个候选兴趣点的分值,包括:获取与兴趣点推荐相关的第二时空权重矩阵;以及利用候选兴趣点注意力打分层的归一化指数函数和加权和函数,对第二嵌入向量矩阵、每个候选兴趣点的第三嵌入向量矩阵和第二时空权重矩阵进行处理,得到每个候选兴趣点的分值。
获取与兴趣点推荐相关的第二时空权重矩阵,包括:根据目标用户产生推荐需求的时间与目标用户轨迹中每条第二签到记录对应的签到时间的时间差,得到第二时间权重矩阵;根据每个候选兴趣点的位置与目标用户轨迹中每条第二签到记录对应的位置之间的距离差,得到第二空间权重矩阵;以及对第二时间权重矩阵和第二空间权重矩阵进行加权计算,得到第二时空权重矩阵。
在上述实施例中,该兴趣点推荐系统从全局视角设计了细粒度时间增强图神经网络,学习用户及POI受时间影响的细粒度表达;从局部视角构造了动态信息聚合模块,利用学到的高质量嵌入表示为用户提供个性化兴趣点推荐,从而可以捕获用户的动态行为意图与POI的动态活动内涵。
图12为本公开的兴趣点推荐系统的另一些实施例的结构示意图。该兴趣点推荐系统1200包括存储器1210和处理器1220。其中:存储器1210可以是磁盘、闪存或其它任何非易失性存储介质。存储器1210用于上述实施例所对应实施例中兴趣点推荐方法的指令。处理器1220耦接至存储器1210,可以作为一个或多个集成电路来实施,例如微处理器或微控制器。该处理器1220用于执行存储器中存储的指令。
在一些实施例中,处理器1220通过BUS总线1230耦合至存储器1210。该兴趣点推荐系统1200还可以通过存储接口1240连接至外部存储系统1250以便调用外部数据,还可以通过网络接口1260连接至网络或者另外一台计算机系统(未标出)。此处不再进行详细介绍。
在该实施例中,通过存储器存储数据指令,再通过处理器处理上述指令,提高了兴趣点推荐的准确性。
在另一些实施例中,一种计算机可读存储介质,其上存储有计算机程序指令,该指令被处理器执行时实现上述实施例中的方法的步骤。本领域内的技术人员应明白,本公开的实施例可提供为方法、装置、或计算机程序产品。因此,本公开可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本公开可采用在一个或多个其中包含有计算机可用程序代码的计算机可用非瞬时性存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本公开是参照根据本公开实施例的方法、设备(系统)和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
至此,已经详细描述了本公开。为了避免遮蔽本公开的构思,没有描述本领域所公知的一些细节。本领域技术人员根据上面的描述,完全可以明白如何实施这里公开的技术方案。
虽然已经通过示例对本公开的一些特定实施例进行了详细说明,但是本领域的技术人员应该理解,以上示例仅是为了进行说明,而不是为了限制本公开的范围。本领域的技术人员应该理解,可在不脱离本公开的范围和精神的情况下,对以上实施例进行修改。本公开的范围由所附权利要求来限定。
Claims (18)
1.一种兴趣点推荐方法,包括:
根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,所述异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系;
利用关系图卷积网络,学习得到所述每个异构图中每个节点的嵌入向量表示;以及
基于所述每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的所述动态信息聚合模型,向所述目标用户推荐兴趣点。
2.根据权利要求1所述的兴趣点推荐方法,其中,所述利用关系图卷积网络,学习得到所述每个异构图中每个节点的嵌入向量表示,包括:
为所述每个异构图中的每个节点初始化嵌入向量,得到所述每个节点的初始化嵌入向量矩阵;
利用所述每个节点的初始化嵌入向量矩阵、所述边关系、所述每个节点的邻居节点、以及消息聚合函数,构建所述每个节点在所述关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,l为正整数;以及
基于第一损失函数,对所述关系图卷积网络进行训练,学习得到所述每个节点在每个时隙的嵌入向量表示。
3.根据权利要求2所示的兴趣点推荐方法,其中,所述构建所述每个节点在所述关系图卷积网络的第l层的嵌入向量表示与第l+1层的嵌入向量表示的对应关系,包括:
构造所述每个异构图中每个边关系在所述关系图卷积网络的第l层的第一转换矩阵,以及所述每个异构图中每个节点在所述关系图卷积网络的第l层的第二转换矩阵;
将所述每个异构图中第i个节点的第j个邻居节点在所述关系图卷积网络的第l层的嵌入向量表示,与所述第i个节点的第r个边关系在所述关系图卷积网络的第l层的第一转换矩阵的乘积进行归一化,得到第一值,i为正整数、ts为正整数、j为正整数、r为正整数;
将所述第i个节点的所有邻居节点对应的第一值进行加和,得到第二值;
将所述第i个节点的所有边关系对应的第二值进行加和,得到第三值;
计算所述第i个节点在所述关系图卷积网络的第l层的嵌入向量表示,与所述第i个节点在所述关系图卷积网络的第l层的第二转换矩阵之积,得到第四值;以及
利用所述消息聚合函数,对所述第三值与所述第四值之和进行计算,得到所述第i个节点在所述关系图卷积网络的第l+1层的嵌入向量表示。
4.根据权利要求3所述的兴趣点推荐方法,其中,所述第一损失函数包括基于负采样的无监督损失函数,其中,对所述关系图卷积网络进行训练,包括:
根据所述第i个节点在所述关系图卷积网络的第l+1层的嵌入向量表示,以及所述第i个节点的第j个邻居节点在所述关系图卷积网络的第l+1层的嵌入向量表示,基于所述负采样的无监督损失函数,对所述关系图卷积网络进行训练。
5.根据权利要求1至4任一所述的兴趣点推荐方法,其中,所述动态信息聚合模型包括信息增强层、时空自注意力层和候选兴趣点注意力打分层,其中,对所述动态信息聚合模型进行训练包括:
将所述每个节点的嵌入向量表示和所述目标用户轨迹中的每条第二签到记录输入至所述信息增强层,得到所述目标用户轨迹对应的第一嵌入向量矩阵;
将所述目标用户轨迹对应的第一嵌入向量矩阵输入至所述时空自注意力层,得到具有时空因素的第二嵌入向量矩阵;
将所述第二嵌入向量矩阵和所述每个候选兴趣点的第三嵌入向量矩阵输入至所述候选兴趣点注意力打分层,得到所述每个候选兴趣点的分值;以及
基于所述每个候选兴趣点的分值、所述每个候选兴趣点的标签值,利用第二损失函数对所述动态信息聚合模型进行训练。
6.根据权利要求5所述的兴趣点推荐方法,其中,所述将所述每个节点的嵌入向量表示和所述目标用户轨迹中的每条第二签到记录输入至所述信息增强层,得到所述目标用户轨迹对应的第一嵌入向量矩阵,包括:
根据所述目标用户轨迹中的每条第二签到记录,得到所述每条第二签到记录任意一个兴趣点对应的签到时间;
确定所述签到时间对应的时隙;
根据所述每个节点的嵌入向量表示、所述签到时间在对应时隙所处位置,以及所述每条第二签到记录的上下文信息,得到所述每条第二签到记录对应的目标节点的第一融合嵌入向量表示,所述目标节点为用户节点、兴趣点节点、区域节点和类别节点中的任意一个节点;
将预定时间范围内与所述签到时间对应的时隙处于同一时间段的所述目标节点的嵌入向量表示进行加和平均计算,得到第二融合嵌入向量表示;
对所述第一融合嵌入向量表示和所述第二融合嵌入向量表示进行加权计算,得到所述目标节点的第三融合嵌入向量表示;
对所述每条第二签到记录对应的所述目标节点的第三融合嵌入向量表示以及所述签到时间进行拼接操作,并采用前馈神经网络进行处理,得到所述每条第二签到记录对应的嵌入向量矩阵;以及
根据所述每条第二签到记录对应的嵌入向量矩阵,得到所述目标用户轨迹对应的第一嵌入向量矩阵。
7.根据权利要求6所述的兴趣点推荐方法,其中,所述得到所述每条第二签到记录对应的目标节点的第一融合嵌入向量表示,包括:
根据所述每个节点的嵌入向量表示,确定所述签到时间对应的时隙内所述每条第二签到记录对应的目标节点的第一嵌入向量表示、所述签到时间对应的时隙的下一时隙内所述目标节点的第二嵌入向量表示、以及所述签到时间对应的时隙内前一时隙所述目标节点的第三嵌入向量表示;以及
根据所述签到时间在对应时隙所处位置,以及所述第一嵌入向量表示、所述第二嵌入向量表示和所述第三嵌入向量表示,确定所述目标节点融合上下文信息后的第一融合嵌入向量表示。
8.根据权利要求7所述的兴趣点推荐方法,其中,所述根据所述签到时间在对应时隙所处位置,以及所述第一嵌入向量表示、所述第二嵌入向量表示和所述第三嵌入向量表示,确定所述目标节点融合上下文信息后的第一融合嵌入向量表示,包括:
在所述签到时间大于或等于所述时隙的下界时间点与时间阈值之和,且小于或等于所述时隙的上界时间点与所述时间阈值之差的情况下,将所述第一嵌入向量表示作为所述第一融合嵌入向量表示;
在所述签到时间大于所述时隙的下界时间点,且小于所述时隙的下界时间点与时间阈值之和的情况下,根据所述第一嵌入向量表示、所述第二嵌入向量表示,确定所述第一融合嵌入向量表示;以及
在所述签到时间大于所述时隙的上界时间点与所述时间阈值之差,且小于所述时隙的上界时间点的情况下,根据所述第一嵌入向量表示、所述第三嵌入向量表示,确定所述第一融合嵌入向量表示。
9.根据权利要求5所述的兴趣点推荐方法,其中,所述将所述目标用户轨迹对应的第一嵌入向量矩阵输入至所述时空自注意力层,得到具有时空因素的第二嵌入向量矩阵,包括:
根据所述目标用户轨迹,构建第一时空权重矩阵;以及
利用时空自注意力层的查询空间参数矩阵、键空间参数矩阵和值空间参数矩阵,对所述第一嵌入向量矩阵和所述第一时空权重矩阵进行归一化指数处理,得到所述第二嵌入向量矩阵。
10.根据权利要求9所述的兴趣点推荐方法,其中,根据所述目标用户轨迹,构建第一时空权重矩阵,包括:
根据所述目标用户轨迹中任意两次签到的时间差,利用衰减函数,得到所述第一时间权重矩阵;
根据所述目标用户轨迹中任意两次签到的距离差,利用衰减函数,得到所述第一空间权重矩阵;以及
对所述第一时间权重矩阵和所述第一空间权重矩阵进行加权计算,得到第一时空权重矩阵。
11.根据权利要求5所述的兴趣点推荐方法,其中,所述将所述第二嵌入向量矩阵和所述每个候选兴趣点的第三嵌入向量矩阵输入至所述候选兴趣点注意力打分层,得到所述每个候选兴趣点的分值,包括:
获取与兴趣点推荐相关的第二时空权重矩阵;以及
利用所述候选兴趣点注意力打分层的归一化指数函数和加权和函数,对所述第二嵌入向量矩阵、所述每个候选兴趣点的第三嵌入向量矩阵和所述第二时空权重矩阵进行处理,得到所述每个候选兴趣点的分值。
12.根据权利要求11所述的兴趣点推荐方法,其中,所述获取与兴趣点推荐相关的第二时空权重矩阵,包括:
根据所述目标用户产生推荐需求的时间与所述目标用户轨迹中每条第二签到记录对应的签到时间的时间差,得到第二时间权重矩阵;
根据所述每个候选兴趣点的位置与所述目标用户轨迹中每条第二签到记录对应的位置之间的距离差,得到第二空间权重矩阵;以及
对所述第二时间权重矩阵和所述第二空间权重矩阵进行加权计算,得到所述第二时空权重矩阵。
13.根据权利要求5所述的兴趣点推荐方法,其中,所述第二损失函数为交叉熵损失函数。
14.根据权利要求1至4任一所述的兴趣点推荐方法,其中,根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,包括:
将预定时间范围划分为多个时隙;
将所述预定时间范围内的所述每条第一签到记录映射到对应的时隙;
根据每个时隙内的第一签到记录,构建所述每个时隙对应的异构图;以及
根据所述每个时隙对应的异构图,得到所述预定时间范围对应的异构图组。
15.根据权利要求1至4任一所述的兴趣点推荐方法,其中,所述节点间的边关系的类型包括用户与兴趣点间的类型边、兴趣点与区域间的类型边、兴趣点与类别间的类型边、区域与类别间的类型边、兴趣点与兴趣点间的类型边、区域与区域间的类型边、以及类别与类别间的类型边。
16.一种兴趣点推荐系统,包括:
第一模块,被配置为根据多个用户轨迹中每条第一签到记录,按照时隙划分,构建异构图组,所述异构图组中每个异构图包括用户节点、兴趣点节点、区域节点、类别节点、以及节点间的边关系,利用关系图卷积网络,学习得到所述每个异构图中每个节点的嵌入向量表示;以及
第二模块,被配置为基于所述每个节点的嵌入向量表示、目标用户轨迹中的每条第二签到记录、以及每个候选兴趣点的标签值,对动态信息聚合模型进行训练,以便利用训练好的所述动态信息聚合模型,向所述目标用户推荐兴趣点。
17.一种兴趣点推荐系统,包括:
存储器;以及
耦接至所述存储器的处理器,所述处理器被配置为基于存储在所述存储器的指令执行如权利要求1至15任一项所述的兴趣点推荐方法。
18.一种计算机可读存储介质,其上存储有计算机程序指令,该指令被处理器执行时实现如权利要求1至15任一项所述的兴趣点推荐方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311515112.6A CN117435819A (zh) | 2023-11-14 | 2023-11-14 | 时空动态感知的兴趣点推荐方法、系统和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311515112.6A CN117435819A (zh) | 2023-11-14 | 2023-11-14 | 时空动态感知的兴趣点推荐方法、系统和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117435819A true CN117435819A (zh) | 2024-01-23 |
Family
ID=89547952
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311515112.6A Pending CN117435819A (zh) | 2023-11-14 | 2023-11-14 | 时空动态感知的兴趣点推荐方法、系统和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117435819A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117633371A (zh) * | 2024-01-25 | 2024-03-01 | 云南大学 | 基于多注意力机制的推荐方法、设备和可读存储介质 |
-
2023
- 2023-11-14 CN CN202311515112.6A patent/CN117435819A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117633371A (zh) * | 2024-01-25 | 2024-03-01 | 云南大学 | 基于多注意力机制的推荐方法、设备和可读存储介质 |
CN117633371B (zh) * | 2024-01-25 | 2024-04-12 | 云南大学 | 基于多注意力机制的推荐方法、设备和可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105532030B (zh) | 用于分析目标实体的移动的装置、系统和方法 | |
Guo et al. | Combining geographical and social influences with deep learning for personalized point-of-interest recommendation | |
Chen et al. | Curriculum meta-learning for next POI recommendation | |
US9183497B2 (en) | Performance-efficient system for predicting user activities based on time-related features | |
CN111602147A (zh) | 基于非局部神经网络的机器学习模型 | |
US11061912B2 (en) | Generating personalized routes for one or more users to improve user well-being | |
US11496590B2 (en) | Determining geographic locations of network devices | |
CN103023977A (zh) | 基于位置信息的推荐系统及推荐方法 | |
CN111274501B (zh) | 推送信息的方法、系统和非暂时性存储介质 | |
CN110334293A (zh) | 一种面向位置社交网络基于模糊聚类的具有时间感知位置推荐方法 | |
CN113139140B (zh) | 基于时空感知gru并结合用户关系偏好的旅游景点推荐方法 | |
Gao et al. | Mining human mobility in location-based social networks | |
Chen et al. | Next POI recommendation based on location interest mining with recurrent neural networks | |
CN115774819B (zh) | 一种基于层次循环神经网络的兴趣点推荐方法及系统 | |
CN117435819A (zh) | 时空动态感知的兴趣点推荐方法、系统和存储介质 | |
CN111475744B (zh) | 一种基于集成学习的个性化位置推荐方法 | |
CN114417174B (zh) | 内容推荐方法、装置、设备及计算机存储介质 | |
CN115952355A (zh) | 基于时空幂律注意力的下一兴趣点推荐系统 | |
CN109271555A (zh) | 信息聚类方法、系统、服务器及计算机可读存储介质 | |
CN111782955A (zh) | 兴趣点表示和推送方法、装置、电子设备及存储介质 | |
CN116503588A (zh) | 一种基于多元关系时空网络的poi推荐方法,装置及设备 | |
CN110659920B (zh) | 一种业务对象的推荐方法和装置 | |
CN106779181A (zh) | 一种基于线性回归因子非负矩阵分解模型的医疗机构推荐方法 | |
CN114443972A (zh) | 信息推荐方法、装置、设备及存储介质 | |
Jia et al. | A spatial–temporal hypergraph based method for service recommendation in the Mobile Internet of Things-enabled service platform |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |