CN115168721A - 融合协同变换与时态感知的用户兴趣推荐方法及系统 - Google Patents

融合协同变换与时态感知的用户兴趣推荐方法及系统 Download PDF

Info

Publication number
CN115168721A
CN115168721A CN202210832332.0A CN202210832332A CN115168721A CN 115168721 A CN115168721 A CN 115168721A CN 202210832332 A CN202210832332 A CN 202210832332A CN 115168721 A CN115168721 A CN 115168721A
Authority
CN
China
Prior art keywords
user
item
sequence
project
final
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210832332.0A
Other languages
English (en)
Inventor
杨振宇
马凯洋
李治军
李晓阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qilu University of Technology
Original Assignee
Qilu University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qilu University of Technology filed Critical Qilu University of Technology
Priority to CN202210832332.0A priority Critical patent/CN115168721A/zh
Publication of CN115168721A publication Critical patent/CN115168721A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90—Details of database functions independent of the retrieved data types
    • G06F16/95—Retrieval from the web
    • G06F16/953—Querying, e.g. by the use of web search engines
    • G06F16/9535—Search customisation based on user profiles and personalisation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Abstract

本发明提出了融合协同变换与时态感知的用户兴趣推荐方法及系统，构建用户项目二部图，聚合邻居信息，在顺序模式之前利用协同过滤的思想丰富序列内的用户项目表示；然后利用额外的时间信息来捕获序列内项目之间时态转换模式，通过考虑用户随时间的兴趣变化来加强顺序模式下的表示学习；最后将学习到的项目表示通过一个目标交互网络来特定激活用户的某一兴趣，利用目标项目形成特定的表示，融合不同的表示后进行推荐预测，能够强化用户的特定兴趣，使推荐结果更加的精确且多样化。

Description

融合协同变换与时态感知的用户兴趣推荐方法及系统
技术领域
本发明属于推荐相关领域，尤其涉及一种融合协同变换与时态感知的用户兴趣推荐方法及系统。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术信息，不必然构成在先技术。
传统的序列推荐系统利用用户的行为数据序列进行用户兴趣建模，来为他推荐可能感兴趣的项目。现有的技术主要分为两种：一类是利用历史行为下的顺序模式，利用用户所有的交互项目来捕获用户意图；另一类则是利用图结构，从用户项目交互图的角度出发，通过聚合节点信息得到用户嵌入进行推荐。在结构上，两种方法整体框架各不相同。第一种只考虑同一序列中当前项目和其他项目之间的关系，提取序列整体特征，来得到用户兴趣表示。而另一类考虑混合异质信息，通过聚合不同的信息来对用户兴趣进行建模，通过利用用户-项目交互图中的高阶连通性，显式的结合协作信号。
顺序模式下的方法，只利用了用户自身的交互项目，忽略了用户之间的协同关系，当用户的行为数据很少时，会出现冷启动问题。一些方法虽然在序列模式建模中考虑了用户嵌入，但是他们只是简单通过映射用户(项目)ID来获取用户(项目)嵌入，并不能将用户-项目交互中的协作信号编码到嵌入当中，无法捕获到更高阶的信息，难以产生更好的推荐效果；基于图的方法虽然编码了这种高阶信息，但却忽略了交互行为的顺序模式，模型默认所有交互序列中的项目是同等重要的，并不能区分较早交互项目与最近项目的重要程度。此外，现有序列推荐的方法只是利用顺序模式来模拟项目之间的转换，并没有考虑到时间信号中隐藏的时态转换模式。这些信号隐藏在用户-项目交互中，并与顺序模式共存。因此需要在顺序建模框架内对时间信号进行显式建模，以探索这种时态转换模式对预测下一个项目的影响。最后，候选项目通常是丰富的，用户也可能有多个兴趣，然而，并不是所有被交互的项目都有助于推断用户对候选项目的兴趣程度，候选的目标项目可能只与历史序列中部分项目编码的特定兴趣相关。现有的方法将序列表示融合成一个固定的向量表示，而不考虑要预测的目标项目，由于用户可能有多个兴趣，目标项目可能只与历史交互序列中部分项目所代表的特定兴趣相关，固定的向量表示会限制模型的表示能力。
发明内容
为克服上述现有技术的不足，本发明提供了一种融合协同变换与时态感知的用户兴趣推荐方法，通过使用全局图上下文执行嵌入传播，以高阶连接性的形式显式捕获不同序列间的项目转换；经过协同变换后提取出的全局静态表征作为顺序模式的初始嵌入，将用户项目交互信息融入到嵌入表示之中，增强顺序模式；之后，融合不同形式的时态嵌入来捕获用户随时间的动态兴趣变化；最后通过测量历史项目与候选项目之间的相关性来选择相应的历史项目，从而实现准确的用户兴趣建模，大大提高了模型的表现力。
为实现上述目的，本发明的一个或多个实施例提供了如下技术方案：融合协同变换与时态感知的用户兴趣推荐方法，包括以下步骤：
利用历史用户-项目数据交互序列构建用户-项目交互图；
基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
基于历史用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出预测推荐项目。
进一步的，将所述用户节点向量输入至多层图卷积模型中输出每一层的中间用户嵌入向量，将每一层输出的中间用户嵌入向量与初始用户节点向量分配相同的权重后进行相加操作，输出最终的用户嵌入向量；
将所述项目节点向量输入至多层图卷积模型中输出每一层的中间项目嵌入向量，将每一层输出的中间项目嵌入向量与初始项目节点向量分配相同的权重后进行相加操作，输出最终的项目嵌入向量。
进一步的，所述多层图卷积模型的计算公式为：
Figure BDA0003748929060000031
Figure BDA0003748929060000032
其中，l表示图卷积的层数，Nu表示由用户u交互的项目集，Ni表示与项目i交互的用户集合，
Figure BDA0003748929060000033
是对称正则化项，
Figure BDA0003748929060000034
是项目i在l层图卷积后的向量表示，
Figure BDA0003748929060000035
表示用户u在第l层图卷积后的向量表示。
进一步的，基于历史用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，其中多种不同的编码方式具体为：
通过定义位置嵌入矩阵
Figure BDA0003748929060000036
用来指示项目在交互时间序列中的相对位置；
Figure BDA0003748929060000037
将每个交互时间序列中的日期转换为嵌入向量来表达用户在一天内行为模式，通过统计出现的天数；
定义时间间隔矩阵来表示交互时间序列中每个项目的交互时间差，将时间间隔矩阵转换为嵌入向量
Figure BDA0003748929060000038
利用正余弦函数捕获用户周期性行为习惯，记为
Figure BDA0003748929060000039
进一步的，多头注意力模型的计算公式为：
Figure BDA0003748929060000041
Figure BDA0003748929060000042
Figure BDA0003748929060000043
Figure BDA0003748929060000044
其中，ES为用户行为序列，
Figure BDA0003748929060000045
Figure BDA0003748929060000046
Figure BDA0003748929060000047
均是参数矩阵，h是头数，
Figure BDA0003748929060000048
为比例因子，
Figure BDA0003748929060000049
为位置偏差，f是计算函数。
进一步的，将不同的交互时间序列表示和用户行为序列经过多头注意力模型融合后，将输出结果经过前馈神经网络做非线性变换。
进一步的，计算目标项目与用户行为序列中每个项目的相关性分数，基于相关性分数得到随目标项目相对应的用户序列；
基于用户序列和输出的预测推荐项目来表示用户行为序列中待预测位置的最终项目嵌入表示；
计算最终项目嵌入表示和目标项目表示相似性得分进行项目推荐。
本发明的第二个方面提供融合协同变换与时态感知的用户兴趣推荐系统，包括：
第一数据获取模块：利用历史用户-项目数据交互序列构建用户-项目交互图；
图卷积模块：基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
第二数据获取模块：基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
融合模块：基于用户-项目交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出项目表示；
推荐模块：通过计算所输出的项目表示与交互序列中每个项目的相关性进行推荐。
本发明的第三个方面提供一种计算机可读存储介质，用于存储计算机指令，所述计算机指令被处理器执行时，完成上述方法所述的步骤。
本发明的第四个方面提供一种电子设备，包括存储器和处理器以及存储在存储器上并在处理器上运行的计算机指令，所述计算机指令被处理器运行时，完成上述方法所述的步骤。
以上一个或多个技术方案存在以下有益效果：
本发明充分利用用户-项目交互的顺序模式和高阶异质协同信号，通过构建用户项目交互图，聚合邻居信息，在顺序模式之前利用协同过滤的思想丰富序列内的用户项目表示；然后利用额外的时间信息来捕获序列内项目之间时态转换模式，通过考虑用户随时间的兴趣变化来加强顺序模式下的表示学习；最后将学习到的项目表示通过一个目标交互网络来特定激活用户的某一兴趣，利用目标项目形成特定的表示，融合不同的表示后进行推荐预测，能够强化用户的特定兴趣，使推荐结果更加的精确且多样化。
本发明附加方面的优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本发明的实践了解到。
附图说明
构成本发明的一部分的说明书附图用来提供对本发明的进一步理解，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。
图1为本发明实施例一的整体框架图。
具体实施方式
应该指出，以下详细说明都是示例性的，旨在对本发明提供进一步的说明。除非另有指明，本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是，这里所使用的术语仅是为了描述具体实施方式，而非意图限制根据本发明的示例性实施方式。
在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互组合。
实施例一
如图1所示，本实施例公开了一种融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，包括以下步骤：
步骤1：利用历史用户-项目数据交互序列构建用户-项目交互图；
步骤2：基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
步骤3：基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
步骤4：基于历史用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出预测项目。
在本实施例中，项目为推荐数据集中的一个表示，不同的数据集中风，项目不同，项目可以为电影、歌曲、商品等，总之项目为用户曾经交互过的类别。如使用的推荐数据集为电影数据集，则推荐任务就是根据用户看过的电影来为用户推荐会感兴趣的电影，那么此处的项目即为电影数据。
在本实施例步骤1中，根据用户和项目的交互构建用户-项目交互图，用户-项目交互图包括用户节点(即用户节点向量eu,k)、项目节点(即项目节点向量ei,k)以及若用户和项目有过交互记录生成的用户节点和项目节点之间相连的边。
其中，用户节点向量集合为EU＝[eu,1,eu,2,eu,3,…,eu,|U|]，项目节点向量集合为EI＝[ei,1,ei,2,ei,3,…,ei,|I|]，对于每个用户u，都有一个按时间顺序的交互序列
Figure BDA0003748929060000071
及其相应的交互时间序列
Figure BDA0003748929060000072
每个
Figure BDA0003748929060000073
代表该用户的第k个交互项目，每个
Figure BDA0003748929060000074
代表该用户在第k个交互时的时间。
在本实施例步骤2中，通过构建图卷积的消息传递体系结构，以便沿着图结构捕获协同信号，基于充分挖掘的协同信号来预测用户下一步的交互行为，经过多层传播之后，显式地将协同信号注入到用户项目嵌入，来获得更好有效地嵌入表示信息。此处协同信号指通过图卷积结构捕获不同用户之间的相关性，可以找到与该用户兴趣相似的其他用户，利用相似用户来进行推荐。
本实施例利用协同过滤的思想，协同过滤的思想是通过群体的行为来找到某种相似性，如用户兴趣之间的相似性或者项目之间的相似性，通过该相似性来为用户做决策和推荐。若一个用户喜欢一件物品，我们可以把这件物品推荐给另一个和他兴趣相似的用户。
在具体的实施例中，将用户节点向量集合和项目节点向量集合输入至多层图卷积模型中，经过L层传播后得到最终的用户嵌入向量组和最终的项目嵌入向量组。
首先进行单层传播的设计说明，传播规则定义为：
Figure BDA0003748929060000075
Figure BDA0003748929060000076
其中，Nu表示由用户u交互的项目集，Ni表示与项目i交互的用户集合，
Figure BDA0003748929060000081
是对称正则化项，它可以避免嵌入的规模随图卷积运算的增加而过大，l表示图卷积的层数。
由单层传播推广到多层传播，本实施例中的多层图卷积模型包括L层卷积操作层，多层图卷积模型将每一层传播生成的中间用户嵌入向量和初始用户节点向量分配相同的权重后进行相加操作后将所有层的嵌入进行聚合，得到用户节点对应的用户最终嵌入向量；多层图卷积模型将每一层传播生成的中间项目嵌入向量和初始项目节点向量分配相同的权重后进行相加操作后将所有层的嵌入进行聚合，得到项目节点对应的项目最终嵌入向量。
其中，对每一层的嵌入进行聚合得到用户最终嵌入向量和项目最终嵌入向量的计算公式为：
Figure BDA0003748929060000082
Figure BDA0003748929060000083
其中，eu为用户最终嵌入向量，ei为项目最终嵌入向量，αl为权重，
Figure BDA0003748929060000084
表示用户u在第L层图卷积后的向量表示，
Figure BDA0003748929060000085
是项目i在第L层图卷积后的向量表示。
上述公式得到了单个用户嵌入或项目嵌入的更新过程，对于整体的更新使用矩阵的形式来表示：用户-项目交互矩阵为R∈R|U|×(|I|+1)，|U|代表用户的数量，|I|表示项目的数量，对用户序列进行了规范化，因此在用户序列长度不足N时我们用[PAD]标志进行填充，因此矩阵的列数为物品数量|I|+1。如果用户u与物品i有交互那么矩阵对应的位置Rui标记为1，否则为0。对于上述过程我们描述为：
Figure BDA0003748929060000086
Figure BDA0003748929060000087
Figure BDA0003748929060000091
其中，El表示第l层图卷积后的用户-项目矩阵表示，E表示把每一层El加权求和之后的最终-用户-项目矩阵表示，A为用户与项目交互图的邻接矩阵，R为用户与项目的交互矩阵，D是一个(|u|+(|I|+1))×(|u|+(|I|+1))维度的对角矩阵，其中的每个对角值Dii表示交互矩阵的第i行中非零条目的数量。
在本实施例的步骤3和步骤4中，由于每个用户的交互序列长度并不相同，因此我们设定一个固定长度N，用来规范用户交互序列，使他们的长度相同。对于长度大于N的序列，我们将序列截断，只取用户的最近N个交互项目；对于长度小于N的序列，我们通过[PAD]进行填充，使得所有用户交互序列长度都为N。这样，用户交互序列变成
Figure BDA0003748929060000092
交互时间序列为
Figure BDA0003748929060000093
在本实施例中，从步骤1得到所有的用户和项目嵌入向量表示，然后从中找到序列Su里的项目嵌入表示来得到交互序列Su的矩阵表示，利用用户行为序列
Figure BDA0003748929060000094
和交互时间序列为
Figure BDA0003748929060000095
对于交互时间序列，提出了4种不同的编码方式对其进行处理：
Figure BDA0003748929060000096
Figure BDA0003748929060000097
其中R用来说明维度。
对于位置嵌入
Figure BDA0003748929060000098
我们定义了一个可学习位置嵌入矩阵
Figure BDA0003748929060000099
Figure BDA00037489290600000910
用来指示项目在序列中的相对位置。
Figure BDA00037489290600000911
将每个时间序列的日期转化为嵌入向量来表达用户在一天内的行为模式，我们统计了数据集范围内出现的天数，为其建立了一个可学习的嵌入矩阵MD∈R|D|×d，这里统计数据集中的所有的日期，为其建立一个d维嵌入矩阵。对于时间间隔，我们定义一个时间间隔矩阵C∈RN×N，其中的每一个元素定义为cab＝(ta-tb)，用来表示交互序列中每个项目的交互时间差，我们将时间间隔矩阵转化为嵌入向量得到
Figure BDA00037489290600000912
来显式的表达时间间隔的影响。受到transformer中位置编码启发，我们使用正余弦函数来建模时间信号，以捕捉用户周期性的行为习惯，记为
Figure BDA0003748929060000101
能够捕捉到用户的一些周期性行为。
编码器通过下面公式将时间间隔cab转换为一个隐藏向量
Figure BDA0003748929060000102
Figure BDA0003748929060000103
其中，
Figure BDA0003748929060000104
是向量
Figure BDA0003748929060000105
的第i个值，ξ是一个可调整的参数。
通过上述四种不同形式的时态建模，能够使模型捕捉到序列内不同的时态转换关系。
对于用户行为序列
Figure BDA0003748929060000106
对其进行嵌入处理得到
Figure BDA0003748929060000107
Su表示标量，我们从步骤1中得到的所有用户-项目嵌入表示找到Su中的每个
Figure BDA0003748929060000108
然后标量
Figure BDA0003748929060000109
变为向量
Figure BDA00037489290600001010
将步骤2得到的用户最终嵌入向量与序列中的每个项目进行拼接得到个性化处理后的序列表示，记为：
Figure BDA00037489290600001011
其中
Figure BDA00037489290600001012
表示用户x的交互项目里的第j个项目嵌入
Figure BDA00037489290600001013
与用户嵌入
Figure BDA00037489290600001014
进行连接操作，d＝du+di，du是用户嵌入表示的维度，di是项目嵌入表示的维度，我们通过对交互序列引入用户嵌入，使我们的模型更加个性化。
在本实施例中，通过上述得到的四种不同形式的时间序列和交互序列进行融合，以捕捉用户随时间变化的行为模式。我们通过以下公式进行计算：
Figure BDA00037489290600001015
Figure BDA0003748929060000111
Figure BDA0003748929060000112
Figure BDA0003748929060000113
其中，多头注意力模型的头数为4，
Figure BDA0003748929060000114
Figure BDA0003748929060000115
Figure BDA0003748929060000116
都是参数矩阵，h是头数，我们设定为4，d是为了防止乘积过大的比例因子，参数
Figure BDA0003748929060000119
是位置偏差，dw＝dk＝dv＝dt＝d/h，f是计算函数，具体如下：
Figure BDA0003748929060000117
其中A＝(aij)∈RM×N，B＝(bilj)∈RM×L×N，C＝(cij)∈RM×N
在本实施例中，注意力层的第一个头执行公式(11)，第二个头执行公式(12)，第三个头执行公式(13)，第四个头执行公式(14)。
将经过多头注意力模型的输出结果进行融合为：
X＝concat(XPos，XDay，XPer，XTime)Wo X∈RN×d (16)
其中
Figure BDA0003748929060000118
是参数矩阵，通过四种不同形式的时态信息编码，我们得到最终的输出结果。
经过多头注意力后，自适应的合并了序列中的项目嵌入与四种不同形式的时态嵌入，最后将输出结果通过一个前馈神经网络对模型做非线性变换：
FFN(X)＝GELU(XW1+b1)W2+b2 (17)
其中，W1∈Rd×4d，b1∈R4d，W2∈R4d×d，b2∈Rd都是可以学习的参数。然后我们层叠L个注意力层，为便于训练，为每个子层应用一个残余连接：
y＝x+Dropout(FFN(LayerNorm(x))) (18)
其中，X代表公式(16)中得到的每个序列内项目嵌入经过注意力层后的更新表示，Y代表经过前馈神经网络后的输出表示。
输出[y1，y2，...，yN]∈RN×d后，将输出结果送入目标交互网络，现有的工作通过使用融合后的序列表示来反映用户兴趣，通常情况下，模型给出的推荐结果只符合用户的主要兴趣而忽略了一些边缘兴趣。通过候选的目标项目找到与它接近的历史项目来强化用户的这一兴趣，利用模型自适应地找到序列内与目标项目相关的项目，针对特定的目标项目激活用户相应的兴趣。为了实现这一过程，本实施例中通过设计一个目标交互网络来计算序列中的每个项目vi对每个目标项目vt的注意力分数。
具体的，计算要预测的目标项目vt与用户交互序列中每个项目vi的相关性，通过softmax函数将相关性分数标准化：
Figure BDA0003748929060000121
其中，
Figure BDA0003748929060000122
表示目标项目vt的嵌入表示，
Figure BDA0003748929060000123
表示交互序列中位置j处项目经过上述注意力层和前馈神经网络后的输出表示，W∈Rd×d是参数矩阵，之后用户序列对于目标项目vt的表示为：
Figure BDA0003748929060000124
这样得到的用户表示随目标项目vt的不同而不同。
通过对交互序列首先进行随机mask，将mask之后的序列送入整体模型中，然后通过对被遮蔽位置上的项目表示来预测该位置原本是哪一个项目。
之后，我们通过一个门控机制来融合用户表示与要预测位置k上的项目表示：
mk＝γ(GELU(ykWm+bm))+(1-γ)zt (21)
上述公式得到交互序列上被mask位置k上的项目表示mk，Wm∈Rd×d，bm∈Rd是可学习的参数矩阵，GELU是激活函数，γ是可学习的门控参数。
根据上述得到的mk来预测原本位置k上的项目表示，通过计算mk与目标项目
Figure BDA0003748929060000131
之间的相似性得分：
Figure BDA0003748929060000132
其中，
Figure BDA0003748929060000133
表示用户交互序列里被mask位置k上的物品是项目vt的概率值，mk为公式(21)得到最终输出的嵌入表示，
Figure BDA0003748929060000134
为候选的目标项目，eu表示用户嵌入。
对于模型的训练，通过对用户的交互序列
Figure BDA0003748929060000135
通过特定概率ρ来随机遮蔽序列的一部分，将序列s转换成sv，然后我们将转化后的序列s′和时间序列送入本实施例的模型中来计算预测概率P(v|s，t)，最后，计算损失如下：
Figure BDA0003748929060000136
s′是mask之后的交互序列，t为时间序列，
Figure BDA0003748929060000137
是遮蔽项目vm的真实值，概率值P(·)由公式(22)确定。
在验证测试阶段，通过mask用户交互序列中最后一个位置来达到预测下一推荐项目的目标。
实施例二
本实施例的目的是提供一种计算装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述方法的步骤。
实施例三
本实施例的目的是提供一种计算机可读存储介质。
一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时执行上述方法的步骤。
实施例四
本实施例的目的是提供融合协同变换与时态感知的用户兴趣推荐系统，包括：
第一数据获取模块：利用历史用户-项目数据交互序列构建用户-项目交互图；
图卷积模块：基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
第二数据获取模块：基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
融合推荐模块：基于用户-项目交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出预测推荐项目。
以上实施例二、三和四的装置中涉及的各步骤与方法实施例一相对应，具体实施方式可参见实施例一的相关说明部分。术语“计算机可读存储介质”应该理解为包括一个或多个指令集的单个介质或多个介质；还应当被理解为包括任何介质，所述任何介质能够存储、编码或承载用于由处理器执行的指令集并使处理器执行本发明中的任一方法。
本领域技术人员应该明白，上述本发明的各模块或各步骤可以用通用的计算机装置来实现，可选地，它们可以用计算装置可执行的程序代码来实现，从而，可以将它们存储在存储装置中由计算装置来执行，或者将它们分别制作成各个集成电路模块，或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。本发明不限制于任何特定的硬件和软件的结合。
上述虽然结合附图对本发明的具体实施方式进行了描述，但并非对本发明保护范围的限制，所属领域技术人员应该明白，在本发明的技术方案的基础上，本领域技术人员不需要付出创造性劳动即可做出的各种修改或变形仍在本发明的保护范围以内。

Claims (10)

1.融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，包括以下步骤：
利用历史用户-项目数据交互序列构建用户-项目交互图；
基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
基于历史用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出预推荐项目。
2.如权利要求1所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，将所述用户节点向量输入至多层图卷积模型中输出每一层的中间用户嵌入向量，将每一层输出的中间用户嵌入向量与初始用户节点向量分配相同的权重后进行相加操作，输出最终的用户嵌入向量；
将所述项目节点向量输入至多层图卷积模型中输出每一层的中间项目嵌入向量，将每一层输出的中间项目嵌入向量与初始项目节点向量分配相同的权重后进行相加操作，输出最终的项目嵌入向量。
3.如权利要求2所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，所述多层图卷积模型的计算公式为：
Figure FDA0003748929050000011
Figure FDA0003748929050000021
其中，l表示图卷积的层数，Nu表示由用户u交互的项目集，Ni表示与项目i交互的用户集合，
Figure FDA0003748929050000022
是对称正则化项，
Figure FDA0003748929050000023
是项目i在l层图卷积后的向量表示，
Figure FDA0003748929050000024
表示用户u在第l层图卷积后的向量表示。
4.如权利要求1所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，基于历史用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，其中多种不同的编码方式具体为：
通过定义位置嵌入矩阵
Figure FDA0003748929050000025
用来指示项目在交互时间序列中的相对位置；
Figure FDA0003748929050000026
将每个交互时间序列中的日期转换为嵌入向量来表达用户在一天内行为模式，通过统计出现的天数；
定义时间间隔矩阵来表示交互时间序列中每个项目的交互时间差，将时间间隔矩阵转换为嵌入向量
Figure FDA0003748929050000027
利用正余弦函数捕获用户周期性行为习惯，记为
Figure FDA0003748929050000028
5.如权利要求4所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，多头注意力模型的计算公式为：
Figure FDA0003748929050000029
Figure FDA00037489290500000210
Figure FDA00037489290500000211
Figure FDA00037489290500000212
其中，ES为用户行为序列，
Figure FDA00037489290500000213
Figure FDA00037489290500000214
均是参数矩阵，h是头数，
Figure FDA0003748929050000031
为比例因子，
Figure FDA0003748929050000032
为位置偏差，f是计算函数。
6.如权利要求5所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，将不同的交互时间序列表示和用户行为序列经过多头注意力模型融合后，将输出结果经过前馈神经网络做非线性变换。
7.如权利要求1所述的融合协同变换与时态感知的用户兴趣推荐方法，其特征在于，计算目标项目与用户行为序列中每个项目的相关性分数，基于相关性分数得到随目标项目相对应的用户序列；
基于用户序列和输出的预测推荐项目来表示用户行为序列中待预测位置的最终项目嵌入表示；
计算最终项目嵌入表示和目标项目表示相似性得分进行项目推荐。
8.融合协同变换与时态感知的用户兴趣推荐系统，其特征在于，包括：
第一数据获取模块：利用历史用户-项目数据交互序列构建用户-项目交互图；
图卷积模块：基于用户-项目交互图中用户节点向量表示和项目节点向量表示输入至多层图卷积模型中进行图卷积操作，输出最终节点嵌入向量，所述最终节点嵌入向量包括用户最终嵌入向量和项目最终嵌入向量；
第二数据获取模块：基于用户最终嵌入向量和项目最终嵌入向量得到用户行为序列；
融合推荐模块：基于用户-项目数据交互序列得到用户-项目的交互时间序列，将交互时间序列经过多种不同的编码方式获得不同的交互时间序列表示，将不同的交互时间序列表示和用户行为序列输入至多头注意力模型捕获用户随时间变化的行为模式，输出预测推荐项目。
9.一种计算机可读存储介质，其上存储有计算机程序，其特征是，该程序被处理器执行时实现如权利要求1-7中任一项所述的融合协同变换与时态感知的用户兴趣推荐方法中的步骤。
10.一种处理装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征是，所述处理器执行所述程序时实现如权利要求1-7中任一项所述的融合协同变换与时态感知的用户兴趣推荐方法中的步骤。
CN202210832332.0A 2022-07-15 2022-07-15 融合协同变换与时态感知的用户兴趣推荐方法及系统 Pending CN115168721A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210832332.0A CN115168721A (zh) 2022-07-15 2022-07-15 融合协同变换与时态感知的用户兴趣推荐方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210832332.0A CN115168721A (zh) 2022-07-15 2022-07-15 融合协同变换与时态感知的用户兴趣推荐方法及系统

Publications (1)

Publication Number Publication Date
CN115168721A true CN115168721A (zh) 2022-10-11

Family

ID=83495085

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210832332.0A Pending CN115168721A (zh) 2022-07-15 2022-07-15 融合协同变换与时态感知的用户兴趣推荐方法及系统

Country Status (1)

Country Link
CN (1) CN115168721A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116186309A (zh) * 2023-04-21 2023-05-30 江西财经大学 基于融合用户意图的交互兴趣图的图卷积网络推荐方法
CN117033948A (zh) * 2023-10-08 2023-11-10 江西财经大学 一种基于特征交互信息和时间张量分解的项目推荐方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116186309A (zh) * 2023-04-21 2023-05-30 江西财经大学 基于融合用户意图的交互兴趣图的图卷积网络推荐方法
CN117033948A (zh) * 2023-10-08 2023-11-10 江西财经大学 一种基于特征交互信息和时间张量分解的项目推荐方法
CN117033948B (zh) * 2023-10-08 2024-01-09 江西财经大学 一种基于特征交互信息和时间张量分解的项目推荐方法

Similar Documents

Publication Publication Date Title
Fong et al. Finding an accurate early forecasting model from small dataset: A case of 2019-ncov novel coronavirus outbreak
CN110598016B (zh) 一种多媒体信息推荐的方法、装置、设备和介质
CN110457589B (zh) 一种车辆推荐方法、装置、设备及存储介质
US8160981B2 (en) Event-based anticipation systems, methods and computer program products for associative memories wherein times of future events occurring are predicted
Chen et al. Deep reinforcement learning in recommender systems: A survey and new perspectives
Panagiotakis et al. Improving recommender systems via a dual training error based correction approach
CN115168721A (zh) 融合协同变换与时态感知的用户兴趣推荐方法及系统
Zhang et al. Field-aware neural factorization machine for click-through rate prediction
CN112256980A (zh) 一种基于动态图注意力网络的多关系协同过滤推荐
CN111611488B (zh) 基于人工智能的信息推荐方法、装置、电子设备
Li et al. A CTR prediction model based on user interest via attention mechanism
CN113761359B (zh) 数据包推荐方法、装置、电子设备和存储介质
CN113688326B (zh) 推荐方法、装置、设备及计算机可读存储介质
CN114971748B (zh) 预测数据生成、模型训练方法、计算机设备以及存储介质
US11386099B2 (en) Methods and apparatuses for showing target object sequence to target user
Wu et al. Neural tensor factorization
CN111626827B (zh) 基于序列推荐模型的物品推荐方法、装置、设备及介质
Ahamed et al. A recommender system based on deep neural network and matrix factorization for collaborative filtering
CN114386513A (zh) 一种集成评论与评分的交互式评分预测方法及系统
CN114357201B (zh) 基于信息感知的视听推荐方法、系统
Long et al. Multi-task learning for collaborative filtering
Cao et al. Personalized next-best action recommendation with multi-party interaction learning for automated decision-making
Yu Fuzzy modelling via on-line support vector machines
WO2023138381A1 (zh) 基于物品属性与时序模式耦合关系的序列推荐方法和系统
CN116501979A (zh) 信息推荐方法、装置、计算机设备及计算机可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination