CN110688565B - 基于多维霍克斯过程和注意力机制的下一个物品推荐方法 - Google Patents

Abstract

本发明公开了一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法，包括：S1基于多维霍克斯过程和注意力机制的物品关键特征向量和用户兴趣向量的获取；S2用户动态兴趣的预测与建模；S3序列感知的推荐。本发明利用多维霍克斯过程和注意力机制从用户物品交互序列中提取物品的特征向量和用户兴趣向量，再结合用户的交互序列记录预测用户的动态兴趣，最后在推荐的时候综合考虑用户的兴趣偏好和物品的关键特征向量，从而改进推荐效果，提升推荐准确率。

Description

基于多维霍克斯过程和注意力机制的下一个物品推荐方法

技术领域

本发明属于数据挖掘及推荐技术领域，具体涉及一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法。

背景技术

推荐系统能够帮助用户从海量在线内容中找到相关项目来降低搜索成本，而预测用户的行为是实现个性化推荐系统的核心之一。然而，传统方法通常遭遇诸如低精度和数据利用不充分之类的问题，尤其是无法满足用户的实时需求。下一个物品推荐算法通过结合传统推荐算法与用户的交互序列来预测用户的下一个行为，在一定程度上提高了推荐的准确率和用户的满意率。然而，现有方法无法充分利用用户物品的交互序列数据，难以针对序列所反映的用户的动态兴趣进行准确建模并结合用户的长期兴趣。因此，如何充分利用丰富的序列信息，从中准确提取物品的关键特征和用户的长期和短期动态兴趣并进行建模，是实现更好推荐的关键之一。

发明内容

针对现有技术所存在的上述技术问题，本发明提供了一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法，能够改善推荐的效果和性能。

一种基于多维霍克斯过程和注意力机制的下一个物品推荐方法，包括如下步骤：

(1)收集用户物品交互序列数据

用户物品交互序列为用户与物品的交互行为的有序集合

其中用户集合和物品集合分别为U和I。

(2)根据用户u_j的交互序列

将用户u_j、历史交互行为{(i₁,t₁),(i₂,t₂),…,(i_m-1,t_m-1)}和目标物品i_m的条件密度函数建模为：

其中：

是用户u_j对目标物品i_m的一般兴趣，

代表历史行为h影响用户u_j对目标物品i_m兴趣的程度，k(t-t_h)是用于表示时间衰减的指数核函数，f(x)＝log(1+exp(x))是softplus函数，用于保证

的非负性。

上述指数核函数k(t-t_h)定义为：

k(t-t_h)＝exp(-δ_u(t-t_h))，

其中：δ_u是与用户相关的参数，用来表示对于不同用户，历史行为h对目标物品i_m的影响是不同的。

上述用户u_j对目标物品i_m的一般兴趣

用余弦相似度函数定义为：

其中：

是物品i_m的特征向量表示，

是用户u_j的兴趣向量表示。

上述历史行为h影响用户u_j对目标物品i_m兴趣的程度

定义为：

其中：

是历史物品h的特征向量表示，

是用户u_j的兴趣向量表示，

是用户和历史行为感知的注意力机制权重，以soft-max函数形式定义为：

其中：

是物品集合I中的物品i的特征向量表示。

(3)给定所有用户的物品交互序列数据

对数形式的目标函数可以定义为：

其中：

是物品集合I中的物品i的特征向量表示，

是给定用户u_j在时间t之前的物品交互序列

用户u_j对物品i感兴趣的概率，定义为：

(4)对上述目标函数O进行最大化求解，以求得所有用户和物品的特征向量。

(5)根据用户交互记录中每个物品的特征向量以及用户的兴趣向量，计算出用户对于数据库中每个物品的兴趣值。给定用户u_j的历史交互记录，用户u_j对物品i的兴趣定义为：

其中：f(x)＝log(1+exp(x))是softplus函数，用于保证概率值

的非负性，μ_i,u表示代表用户的长期兴趣，

代表用户的短期兴趣。

(6)根据用户的兴趣值对数据库中所有物品从高到底排序，并提取兴趣值最高的若干个物品推荐给用户。排序公式如下：

其中：u表示目标用户；i∈I和i′∈I是数据库中的物品。

本发明首次结合注意力机制和多维霍克斯过程模型从用户物品交互序列中获取物品的关键特征向量，为解决物品特征提取困难问题提供了一种可行的方法；本发明根据用户的交互序列中的物品的特征向量准确获取用户的动态兴趣偏好，为用户的兴趣偏好的提取和建模困难提供了一种可靠的方法；综合利用物品的关键特征向量和用户的动态兴趣，本发明能够改进推荐的效果。

附图说明

图1为本发明推荐方法的系统架构示意图。

图2为本发明推荐方法中的用户偏好预测流程示意图。

具体实施方式

为了更为具体地描述本发明，下面结合附图及具体实施方式对本发明的技术方案进行详细说明。

本发明基于多维霍克斯过程和注意力机制的下一个物品推荐方法包括以下步骤：

(1)收集用户物品交互序列数据

所述的用户物品交互序列为用户与物品的交互行为的有序集合

其中用户集合和物品集合分别为U和I。

(2)根据用户u_j的交互序列

将用户u_j、历史交互行为{(i₁,t₁),(i₂,t₂),…,(i_m-1,t_m-1)}和目标物品i_m的条件密度函数建模为：

其中：

是用户u_j对目标物品i_m的一般兴趣，

代表历史行为h影响用户u_j对目标物品i_m兴趣的程度，k(t-t_h)是用于表示时间衰减的指数核函数，f(x)＝log(1+exp(x))是softplus函数，用于保证

的非负性。

上述指数核函数k(t-t_h)定义为：

k(t-t_h)＝exp(-δ_u(t-t_h))，

其中：δ_u是与用户相关的参数，用来表示对于不同用户，历史行为h对目标物品i_m的影响是不同的。

上述用户u_j对目标物品i_m的一般兴趣

用余弦相似度函数定义为：

其中：

是物品i_m的特征向量表示，

是用户u_j的兴趣向量表示。

上述历史行为h影响用户u_j对目标物品i_m兴趣的程度

定义为：

其中：

是历史物品h的特征向量表示，

是用户u_j的兴趣向量表示，

是用户和历史行为感知的注意力机制权重，以soft-max函数形式定义为：

其中：

是物品集合I中的物品i的特征向量表示。

(3)给定所有用户的物品交互序列数据

对数形式的目标函数可以定义为：

其中：

是物品集合I中的物品i的特征向量表示，

是给定用户u_j在时间t之前的物品交互序列

用户u_j对物品i感兴趣的概率，定义为：

(4)对上述目标函数O进行最大化求解，以求得所有用户和物品的特征向量。

(5)根据用户交互记录中每个物品的特征向量以及用户的兴趣向量，计算出用户对于数据库中每个物品的兴趣值。给定用户u_j的历史交互记录，用户u_j对物品i的兴趣定义为：

其中：f(x)＝log(1+exp(x))是softplus函数，用于保证概率值

的非负性，μ_i,u表示代表用户的长期兴趣，

代表用户的短期兴趣。

(6)根据用户的兴趣值对数据库中的所有物品从高到底排序，并提取兴趣值最高的若干个推荐给用户。计算公式如下：

其中：u表示目标用户；i∈I和i′∈I是数据库中的物品。

图1所示了本实施方式基于多维霍克斯过程和注意力机制的下一个物品推荐方法的架构。该推荐方法分为两个主要模块：预处理模块和预测模块。预处理模块中，首先获取所有用户的物品交互序列；再利用多维霍克斯过程模型和注意力机制从物品序列和对应的时间信息中学习物品的特征向量和用户的长期兴趣向量。在预测模块中，首先从目标用户的物品交互序列中获取用户短期动态兴趣偏好；然后根据用户的兴趣与物品特征向量给用户推荐推荐合适的物品。图2展示了用户偏好预测的详细步骤，其首先获取用户的交互行为记录，并从中提取用户的动态偏好，然后利用用户的偏好和物品的特征向量，计算目标用户u对物品的偏好。

上述的对实施例的描述是为便于本技术领域的普通技术人员能理解和应用本发明。熟悉本领域技术的人员显然可以容易地对上述实施做出各种修改，并把在此说明的一般原理应用到其他实施例中而不必经过创造性的劳动。因此，本发明不限于上述实施例，本领域技术人员根据本发明的揭示，对于本发明做出的改进和修改都应该在本发明的保护范围之内。

Claims (7)

1.基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于包括如下步骤：

步骤(1).收集用户物品交互序列数据

用户物品交互序列为用户与物品的交互行为的有序集合

其中用户集合和物品集合分别为U和I；

步骤(2).根据用户u_j的交互序列

将用户u_j、历史交互行为{(i₁,t₁),(i₂,t₂),…,(i_m-1,t_m-1)}和目标物品i_m的条件密度函数建模为：

其中：

是用户u_j对目标物品i_m的一般兴趣，

代表历史交互行为h影响用户u_j对目标物品i_m兴趣的程度，κ(t-t_h)用于表示时间衰减的指数核函数，f(x)＝log(1+exp(x))是softplus函数，用于保证

的非负性；

步骤(3).给定所有用户的物品交互序列数据

对数形式的目标函数定义为：

其中：

是给定用户u_j在时间t之前的物品交互序列

用户u_j对物品i感兴趣的概率；

步骤(4).对上述目标函数O进行最大化求解，以求得所有用户和物品的特征向量；

步骤(5).根据用户交互记录中物品的特征向量以及用户的兴趣向量，计算出用户对于数据库中每个物品的兴趣值；

步骤(6).根据用户的兴趣值对数据库中的所有物品从高到底排序，并提取兴趣值最高的若干个物品推荐给用户。

2.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：步骤(2)所述核函数κ(t-t_h)定义为：

κ(t-t_h)＝exp(-δ_u(t-t_h))

其中：δ_u是与用户相关的参数，用来表示对于不同用户，历史交互行为h对目标物品i_m的影响是不同的。

3.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：步骤(2)所述用户u_j对目标物品i_m的一般兴趣

用余弦相似度函数定义为：

其中：

是物品i_m的特征向量表示，

是用户u_j的兴趣向量表示。

4.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：步骤(2)所述历史交互行为h影响用户u_j对目标物品i_m兴趣的程度

定义为：

其中：

是历史交互行为h的特征向量表示，

是用户u_j的兴趣向量表示，

是用户和历史交互行为感知的注意力机制权重。

5.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：步骤(3)所述是给定用户u_j在时间t之前的物品交互序列

用户u_j对物品i感兴趣的概率

定义为：

6.根据权利要求5所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：给定用户u_j的历史交互记录，用户u_j对物品i的兴趣定义为：

其中：f(x)＝log(1+exp(x))是softplus函数，用于保证概率值

的非负性，μ_i,u表示代表用户的长期兴趣，

代表用户的短期兴趣。

7.根据权利要求1所述的基于多维霍克斯过程和注意力机制的下一个物品推荐方法，其特征在于：步骤(6)所述排序的计算公式定义为：

其中：u_i表示目标用户；i∈I和i′∈I是数据库中的物品。

Images