CN104537114B - 个性化推荐方法 - Google Patents

Abstract

本发明公开一种个性化推荐方法，涉及计算机数据处理技术领域，包括：获取用户对物品的使用行为数据；按照所获取的使用行为数据生成用户使用行为子列表；遍历所生成的用户使用行为子列表，估算物品的一步转移概率矩阵；基于用户对物品的兴趣的遗忘过程和马尔科夫模型建立个性化推荐模型；使用梯度下降法，对兴趣遗忘过程中用户的个性化参数进行估算，从而根据用户使用行为子列表，为用户进行推荐。本发明提供的个性化推荐方法，能够更准确的捕捉用户偏好的动态变化，这样的推荐方法就显得更具有实用价值。

Description

个性化推荐方法

技术领域

本发明涉及计算机数据处理技术领域，特别是涉及一种个性化推荐方法。

背景技术

随着互联网的高速发展，人们的日常生活越来越多的与互联网紧密联系在一起，例如听音乐、看电影、购物、阅读、聊天等等。与此同时，海量的用户和物品数据每天都不断地在互联网中产生，这导致互联网用户很难，甚至不可能快速地从中找到自己需要的或者感兴趣的未知信息。于是，个性化推荐技术应运而生，并不断地推陈出新。个性化推荐技术旨在根据用户自身的特点，对用户的兴趣偏好进行建模，并进而推荐符合用户个性化偏好的，且尚未使用过的物品。

协同过滤是目前最主流、最有效的一类个性化推荐方法，这类方法通过获取大量的用户对物品的行为数据，对用户与用户、物品与物品、用户与物品之间的关系分别进行建模，并以“行为相似的用户拥有相似的偏好”为基本假设进行个性化推荐。这类方法普遍存在的一个较大的局限是：协同过滤方法假设用户u已使用过的所有物品都均等地反映了用户u的个性化偏好。这个均等假设在用户的个性化偏好可能快速动态变化的推荐问题中是不成立的，例如用户一天之内的情绪可能发生多次变化，那么用户在不同情绪之下所偏好的歌曲也一般有很大差异，开心的时候可能喜欢听欢快的歌曲，悲伤的时候可能喜欢听舒缓、安静的歌曲，那么用户在开心的状态下听的歌曲就不能正确的反映用户在心情低落、伤感时的歌曲偏好。同样，电影推荐、网站推荐等也有类似的情况。

为了提升现有推荐方法的有效性，需要考虑用户的偏好随时间动态变化的特点。因此，用户已使用过的物品不会均等的反映该用户在给定的时刻下的偏好。

因此，目前需要本领域技术人员迫切解决的一个技术问题就是：如何能够创新地提出一种有效方法，以满足实际应用中的更多需求，创造更多的应用价值。

发明内容

本发明所要解决的技术问题是提供一种个性化推荐方法，能够更准确的捕捉用户偏好的动态变化，这样的推荐方法就显得更具有实用价值。

为了解决上述技术问题，本发明实施例公开了一种个性化推荐方法，包括：

获取用户对物品的使用行为数据；

按照所获取的使用行为数据生成用户使用行为子列表；

遍历所生成的用户使用行为子列表，估算物品的一步转移概率矩阵；

基于用户对物品的兴趣的遗忘过程和马尔科夫模型建立个性化推荐模型；

使用梯度下降法，对兴趣遗忘过程中用户的个性化参数进行估算，从而根据用户使用行为子列表，为用户进行推荐。

优选的，所述获取用户对物品的使用行为数据所获取到用户的使用行为均为正面用户反馈。

优选的，所述生成用户使用行为子列表的依据为用户动态的使用行为过程中，用户的偏好的变化。

优选的，所述一步转移概率矩阵为实数矩阵。

优选的，所述的个性化推荐模型为一个修正的一阶马尔科夫模型。

优选的，所述用户对物品的使用行为为听音乐。

与现有技术相比，本发明具有以下优点：

本发明通过引入用户对已使用过的物品的兴趣的遗忘过程，能够更准确的分析出已使用过的各物品在影响用户当前的偏好的重要性，即能有效的捕捉到用户偏好变化的动态特性，并将偏好的动态变化应用于个性化推荐中，提升了推荐结果的有效性。

附图说明

图1是本发明的一种个性化推荐方法实施例的流程示意图；

图2是具体实施方式中提到的方法实施的流程图；

图3是具体实施方式中提到的列表示意图；

图4是具体实施方式中提到的音乐推荐应用实例音乐推荐涉及的示意图。

具体实施方式

为使本发明的上述目的、特征和优点能够更加明显易懂，下面结合附图和具体实施方式对本发明作进一步详细的说明。

参见图1，本方案所述的一种个性化推荐方法，具体包括：

步骤S101，获取用户对物品的使用行为数据；

步骤S102，按照所获取的使用行为数据生成用户使用行为子列表；

步骤S103，遍历所生成的用户使用行为子列表，估算物品的一步转移概率矩阵；

步骤S104，基于用户对物品的兴趣的遗忘过程和马尔科夫模型建立个性化推荐模型；

步骤S105，使用梯度下降法，对兴趣遗忘过程中用户的个性化参数进行估算，从而根据用户使用行为子列表，为用户进行推荐。

为使本发明的方案便于理解和实现对技术做更为具体的介绍，方案实现是基于兴趣遗忘过程和马尔科夫模型进行个性化推荐方法，包括以下具体的实施步骤：

(1)本发明通过动态地模拟用户对物品的兴趣的遗忘过程，来估计用户在任意时刻下对物品的个性化偏好，例如在音乐推荐中，更偏好舒缓、安静的歌曲，还是动感、快节奏的歌曲，又例如在电影推荐中，更偏好动作类型电影，还是浪漫爱情类型电影等，并在此基础上，为用户在给定的时刻下，推荐符合其个性化偏好的物品；

(2)如附图2所示，为本发明方法实施的流程图，本发明方法一共包含6个主要的实施阶段；

(3)阶段1，获取用户对物品的使用行为数据，设获取到M位用户对N个物品的使用行为数据，记用户集合为U＝{u₁,u₂,…,u_M}，物品集合为V＝{v₁,v₂,…,v_N}，集合U和集合V中每一个元素分别表示唯一的一个用户和一个物品，记H_u＝{x_u,1,x_u,2,…}表示用户u的原始的使用行为数据按其发生的时间的升序排列的列表，其中的任一元素x_u,i表示用户u的第i次使用行为，并且x_u,i∈V，对任意的i<j，满足行为x_u,i的发生时间早于行为x_u,j的发生时间；

(4)在本发明中，默认获取到的用户的使用行为均为正面用户反馈，即用户u在某一时刻使用了物品v，则表示用户u在那一时刻下偏好于物品v，而对含有负面用户反馈的使用行为数据，可将其中所有负面用户反馈均删除后，再运用本发明方法；

(5)阶段2，根据不同数据类型的推荐问题，设定不同的时间阈值τ，对每个用户的使用行为列表分别进行划分，形成多个子列表，阈值τ定义了划分在同一子列表中任意发生时间相邻的前后两次行为的时间间隔的最大值，划分子列表的原因是因为在用户动态的使用行为过程中，用户的偏好可能会改变，因此，行为发生时间越接近，则用户偏好改变的概率越低，反则反之；

(6)阈值τ的大小与具体的推荐问题相关，例如在音乐推荐中，τ的值可以取1小时，而在电影推荐中，τ的值则可以取1天等等；

(7)遍历所有用户u的原始使用行为列表H_u，将H_u中的使用行为按发生时间的升序排列，若H_u中发生时间相邻的前后两次行为的时间间隔大于τ，则将这两次行为分别划分到前后两个不同的子列表中，记由所有用户的各个使用行为子列表构成的集合为H；

(8)附图3举例说明了根据用户u原始的使用行为列表H_u，在时间阈值τ为1小时的情况下，生成u的使用行为子列表的过程，由于行为x_u,2与x_u,3的发生时间的间隔超过了1个小时，于是x_u,2与x_u,3被分别划入了子列表H_u,1和H_u,2中，因此，H_u经过划分之后得到两个子列表{H_u,1,H_u,2}；

(9)阶段3，遍历阶段2中得到的所有用户的使用行为子列表集合H，估算物品的一步转移概率矩阵S，S为N×N的实数矩阵，记S(v_i,v_j)表示对普遍的用户而言，在使用了物品v_i之后，下一步紧接着使用物品v_j的概率，即一步转移概率，在本发明中，用以下公式估算S(v_i,v_j)的值：

上式中T_h(v_i)表示在子列表h中，使用行为v_i发生的时间戳，II为示性函数，当且仅当其下脚标中的条件成立时返回1，其余情况均返回0；

(10)阶段4，基于兴趣遗忘过程和马尔科夫模型建立个性化推荐模型，本发明提出的个性化推荐模型为一个修正的一阶马尔科夫模型，用以下公式表示本发明方法中对用户u在给定一个使用行为列表h的情况下，推荐物品集V中各物品v的概率：

上式中h(i)表示在使用行为列表h中按时间升序的第i次行为中使用的物品，S为在阶段3中估计得到的一步转移概率矩阵，表示用户u对列表h中按时间升序的第i次行为中使用的物品在当前时刻的偏好值，|h|为列表h的长度；

(11)偏好值由用户u在当前时刻对列表h中按时间升序的第i次行为中使用的物品的经验值和兴趣余量决定，用以下公式计算：

上式中和分别表示用户u在当前时刻对列表h中按时间升序的第i次行为中使用的物品的经验值和兴趣余量，其中，经验值表示用户对该物品的熟悉程度，而兴趣余量则是随着兴趣遗忘过程逐渐减少的；

(12)经验值的估计由以下Logistic函数得到：

上式中，f_u(h(i))表示到当前时刻为止，用户u对物品h(i)使用过的次数，f_u(h(i))≥0，可直接从H_u中计数得到，而φ_u表示用户u的个性化参数，φ_u≥0，其值在阶段5中通过机器学习方法估算得到；其中所述的机器学习方法也即梯度下降法。

(13)兴趣余量的估计可由以下的双曲线函数计算得到：

上式中，α_u和β_u均为用户u的个性化参数，0≤α_u<1，0<β_u≤1，两个参数的值也在阶段5中通过机器学习方法估算得到；

(14)阶段5，根据阶段4的建模，在给定用户u的行为列表h的情况下，本发明为用户u推荐物品v的概率用以下公式表达：

使用机器学习的方法为每个用户u估算其未知的个性化参数φ_u，α_u和β_u的取值，参数估算包括以下子步骤：

1)为每个用户u，随机的初始化其个性化参数φ_u，α_u和β_u的值，初始化时满足条件φ_u≥0，0≤α_u<1，0<β_u≤1，同时初始化迭代次数标记iter＝0；

2)计算以下代价函数的值，记为C，

上式中，h(|h|)表示行为列表h中按时间升序排列的最后一个物品，h-h(|h|)表示除去h(|h|)后行为列表h剩余的部分；

3)根据函数G对各用户的个性化参数φ_u，α_u和β_u的偏导数计算临时的参数值φ_u′，α_u′和β_u′：

上式中，分别为代价函数G对个性化参数φ_u，α_u和β_u在当前参数取值下的偏导数，Δ为表示学习步长，Δ值越大，收敛越快，但越可能收敛到局部最优，而非全局最优，Δ值越小，收敛越慢，但越可能收敛到全局最优，一般情况下Δ可取较小的值，如0.01或0.001等；

4)计算代价函数G在个性化参数φ_u′，α_u′和β_u′下的取值，记为C′，令迭代次数加1，即iter＝iter+1，然后比较C与C′值的大小，得到以下可能的结果：

i.若C′≤C，则直接退出迭代；

ii.若C′>C且iter≥Max_Iters，则直接退出迭代，Max_Iters为自定义的最大迭代次数，一般可设置为100；

iii.若C′>C，iter<Max_Iters，且C′-C<∈，则令φ_u＝φ_u′，α_u＝α_u′，β_u＝β_u′，然后再退出迭代循环，∈为自定义的迭代中最小代价误差，∈的值一般设置为较小的数值，如0.1、0.01等；

iv.若C′>C，iter<Max_Iters，且C′-C≥∈，则令C＝C′，φ_u＝φ_u′，α_u＝α_u′，β_u＝β_u′，然后重复子步骤3)直至退出迭代循环；

(15)阶段6，获取待推荐的用户u最近的使用行为列表h，例如用户u最近听的歌曲的列表，看的电影的列表等，然后对V中所有物品v，分别计算P(v|h)的值，并按P(v|h)值从大到小排列V中所有物品，取排名最靠前的若干个用户u尚未使用过的物品作为推荐结果返回；

(16)在阶段4中对兴趣余量的定义除了采用双曲线函数以外，也可以采用对数线性函数或指数函数，其中对数线性函数的定义如下：

对数线性函数满足0≤α_u≤1，0<β_u≤1，

指数函数的定义如下：

指数函数满足0≤α_u,θ_u≤1，0<β_u≤1

以上两个函数中的α_u，β_u，θ_u均为用户u的个性化参数，参数值也能通过阶段5中的机器学习方法来估算得到。

为使本领域技术人员更好地理解本发明，以下结合用户对物品的使用行为为听音乐的实际应用，更为详尽的对本方案做具体介绍。

音乐推荐应用实例

为了更直观的说明本方法如何在实际问题中进行应用，以下将参照图4以音乐推荐为例进行详细说明。图中为已获取到的五位用户听音乐的行为数据，用户集合U＝{u₁,u₂,u₃,u₄,u₅}，音乐歌曲集合V含有10首不同的歌曲，即V＝{v₁,v₂,v₃,v₄,v₅,v₆,v₇,v₈,v₉,v₁₀}。五位用户原有的听音乐的行为数据按其发生时间的升序排列的列表分别为H_u1，H_u2，H_u3，H_u4和H_u5。例如，用户u₁在时间06:28:00听了歌曲v₁，接下来在时间06:35:30听了歌曲v₆等等。为简化显示，图4中所有听音乐的行为均直接以其具体听的歌曲为代表，而未画出行为随机变量x。

假设在本例子中设置时间阈值τ＝12小时。对用户u₁而言，在其听音乐的行为列表H_u1中，该用户听歌曲v₁,v₆,v₁₀的时间间隔均不超过12个小时，而听歌曲v₂,v₇,v₅,v₄的时间间隔也不超过12小时，但用户u₁听歌曲v₁₀和歌曲v₂的时间间隔却相差了12小时25分20秒，超过了时间阈值τ。因此，在本例中，H_u1将被划分为两个子列表，即{v₁，v₆,v₁₀}和{v₂,v₇,v₅,v₄}。同理，H_u2将被划分为两个子列表，{v₃,v₉,v₇,v₅}和{v₈,v₁}。而H_u3和H_u4则不需要划分得更细，因为其中相邻的各次听音乐行为的时间间隔均未超过时间阈值τ。H_u5将被划分为两个子列表，{v₂,v₁}和{v₁₀,v₆,v₇,v₉}。那么，由所有用户的各次听歌行为子列表构成的集合为：H＝{{v₁,v₆,v₁₀},{v₂,v₇,v₅,v₄},{v₃,v₉,v₇,v₅},{v₈,v₁},{v₈,v₃,v₄,v₉,v₂},v₄,v₅,v₃,v₆},{v₂,v₁},{v₁₀,v₆,v₇,v₉}}

根据集合H来计算一步转移概率矩阵S。

举例说明，对S(v₁,v₁₀)来说，因为v₁和v₁₀按v₁在前、v₁₀在后的顺序，在H的各个子列表中只出现过1次(即在子列表{v₁,v₆,v₁₀}中)，而v₁则单独出现过3次，因此同理，可以计算得到 等等。最终，可以计算得到如表1所示的一步转移概率矩阵。注意，本发明中的一步转移概率矩阵S并没有按行做归一化处理，但这并不影响最终的结果。如下表1为歌曲一步转移概率矩阵。

表1

根据建立的推荐模型，当用户u听了歌曲列表h后，为用户u推荐歌曲v的概率的表达式为：

以用户u₁的子列表{v₁,v₆,v₁₀}为例，在用户u₁依次听了歌曲v₁和v₆后，为u₁推荐歌曲v₁₀的概率可计算为：

因为u₁在听歌曲v₁₀之前，只听过v₁和v₆各一次，因此 ，由表1可知，代入表达式P(v₁₀|{v₁,v₆})后可得：

因此，关于用户u₁的表达式P(v₁₀|{v₁,v₆})就只与u₁的个性化参数 和有关，而这些参数正是待估算的参数。

同理，可以根据H中的其余音乐播放子列表可写出推荐各子列表中最后一首歌曲的概率。

对用户u₁有：

对用户u₂有：

对用户u₃有：

对用户u₄有：

对用户u₅有：

根据以上表达式，可估算各用户的个性化参数。在本发明方法的参数估算过程中，首先需要初始化个性化参数，假设在本例中按以下方式初始化参数：

同时，初始化迭代次数标记iter＝0，在本例中，设最大迭代次数Max_Iters＝10。根据参数学习规则，首先计算代价函数G的值C：

G对参数的偏导数的表达式为：

由于此时因此，

同理，可计算出：

假设本例中使用的步长Δ＝0.01，于是可计算更新后的个性化参数：

使用更新后的个性化参数计算新的代价函数值C′＝-1.2681，同时令迭代次数标记iter加1，iter＝iter+1＝1。因为C＝-1.2836，于是C′>C。同样可得，iter<Max_Iters。假设本例中的迭代最小代价误差为∈＝0.01，则C′-C＝0.0155≥∈。因此，不满足任何退出循环迭代的条件，于是，令C＝C′， 然后重复以上循环迭代步骤，即计算G对各参数的偏导数，再计算更新后的各参数值，再计算代价函数C′，并将C′与C比较，再执行相应操作，直至最后退出循环迭代。结束以上循环迭代之后，各参数 的值就是最后在推荐时使用的值。

为了演示本发明的推荐过程，本例中假设最终各参数的值与上述第一次循环结束后更新的参数值一样，即

以为用户u₃推荐歌曲举例，本发明方法将推荐用户u₃未听过的、但可能感兴趣的歌曲给u₃。由图4可知，用户u₃未听过的歌曲包括{v₁,v₅,v₆,v₇,v₁₀}。于是，分别计算推荐这些歌曲给用户u₃的概率：

同理，可以计算得到：

P(v₅|{v₈,v₃,v₄，v₉,v₂})＝0.86669

P(v₆|{v₈,v₃,v₄,v₉,v₂})＝0.17474

P(v₇|{v₈,v₃,v₄,v₉,v₂})＝0.76469

P(v₁₀|{v₈,v₃,v₄,v₉,v₂})＝0

因此，本发明预测用户u₃对歌曲v₁,v₅,v₆,v₇,v₁₀感兴趣的程度分别为v₅>v₇>v₁>v₆>v₁₀，并且本发明将按这个顺序将歌曲推荐给用户u₃。

以上对本发明所提供的一种个性化推荐方法进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (6)

1.一种个性化推荐方法，其特征在于，包括：

获取各用户对物品的使用行为数据，按照使用行为数据发生的时间的升序排列；

前后两次使用行为间隔大于预设阀值，将所获取的使用行为数据拆分，生成用户使用行为子列表；

遍历所生成的用户使用行为子列表，根据用户使用行为子列表中物品出现的先后顺序，按最大似然法估算物品的一步转移概率矩阵；

基于用户对物品的兴趣的遗忘过程和马尔科夫模型建立个性化推荐模型，兴趣的遗忘过程包含针对兴趣累积和兴趣遗忘两部分的建模，动态的兴趣值由经验值和兴趣余量两部分组成，兴趣余量表示用户对物品的剩余的兴趣大小，其值与用户使用该物品的时间间隔呈反比例关系；

使用梯度下降法，对兴趣遗忘过程中用户的个性化参数进行估算，从而根据用户使用行为子列表，为用户进行推荐。

2.如权利要求1所述的个性化推荐方法，其特征在于，所述获取用户对物品的使用行为数据所获取到用户的使用行为均为正面用户反馈。

3.如权利要求1所述的个性化推荐方法，其特征在于，所述生成用户使用行为子列表的依据为用户动态的使用行为过程中，用户的偏好的变化。

4.如权利要求1所述的个性化推荐方法，其特征在于，所述一步转移概率矩阵为实数矩阵。

5.如权利要求1所述的个性化推荐方法，其特征在于，所述的个性化推荐模型为一个修正的一阶马尔科夫模型。

6.如权利要求1所述的个性化推荐方法，其特征在于，所述用户对物品的使用行为为听音乐。