CN105824897A - 基于卡尔曼滤波的混合推荐系统及方法 - Google Patents

Abstract

本发明公开了一种基于卡尔曼滤波的混合推荐系统及方法，本发明采用选择性加权的混合推荐方式，首先得到内容过滤和基于物品的协同过滤推荐得到的候选结果，并利用卡尔曼滤波算法对权重进行最优估计，再将初步的推荐结果进行加权混合来产生新的推荐结果。与现有技术相比，本发明能够实时动态更新各推荐组件的权重，并对其进行最优无偏估计；根据系统的反馈优化，持续调整系统状态；显著提高推荐系统的准确率、召回率和覆盖率，有效提高推荐质量，具有推广使用的价值。

Description

基于卡尔曼滤波的混合推荐系统及方法

技术领域

本发明涉及一种新的加权混合推荐方法，尤其涉及一种基于卡尔曼滤波的混合推荐系统及方法。

背景技术

随着当代网络技术和互联网应用的飞速发展，信息过载已经成为无法避免的问题，如何帮助用户过滤无用信息，发现有价值的信息越来越受到技术人员的关注。无疑个性化推荐技术已经成为目前解决信息过载问题的有效技术。主要的推荐算法包括：协同过滤算法、基于内容过滤算法、基于标签的推荐算法、基于隐语义模型的推荐算法等等。但每个算法都有其长处和短处，单一算法难以适应众多用户的个性化需求。比如基于物品的协同过滤推荐算法是通过用户的历史偏好数据计算物品之间的相似性，然后将与用户历史兴趣近似的物品推荐给该用户。其具有冷启动、物品稀疏性等问题。基于内容的推荐算法是给用户推荐他之前喜欢的物品相类似的其他物品。基于内容的推荐算法难以发现用户的潜在兴趣，推荐的物品缺乏新颖性。

有些系统采用加权方式的混合推荐技术，将协同过滤和基于内容的推荐算法结合使用来提升推荐结果的质量。在动态权重研究方面，考虑到状态存储等方面的原因，目前的加权混合算法一般仅根据上一次的推荐结果的反馈来优化权重，并没有考虑结果反馈的持续影响。这会导致权重状态波动幅度大，系统不稳定，不能很好地解决反应推荐策略的分配问题。

发明内容

本发明的目的就在于为了解决上述问题而提供一种基于卡尔曼滤波的混合推荐系统及方法。

本发明通过以下技术方案来实现上述目的：

本发明一种基于卡尔曼滤波的混合推荐系统，包括数据预处理模块、协同过滤推荐模块、内容推荐模块、卡尔曼滤波模块、推荐结果整合模块和反馈优化模块，所述数据预处理模块的两个数据输出端分别通过所述协同过滤推荐模块和内容推荐模块与所述推荐结果整合模块的输入端连接，所述推荐结果整合模块的数据输出端与所述反馈优化模块的数据输入端连接，所述反馈优化模块的数据输出端通过所述卡尔曼滤波模块与所述推荐结果整合模块连接。

本发明一种基于卡尔曼滤波的混合推荐方法，包括以下步骤：

1)卡尔曼滤波

卡尔曼滤波主要用于估测离散控制系统的状态，这个系统过程可以用随机差分方程表示：

x_k＝Ax_k-1+Bu_k+w_k-1

观测方程为：

z_k＝Hx_k+v_k

上面两式中，x_k表示k时刻的系统状态，u_k是系统k时刻的控制量，A和B是系统参数，z_k表示k时刻系统的测量值，H为测量系统的参数，w_k/v_k是过程/测量的噪声，p(v)～N(0，R)，p(w)～N(0，Q)，

2)建立混合推荐模型

对于用户u，在第i次推荐中，设ItemCF和CB的权重分别c_Item(i，u)和c_CB(i，u)，其比值为方便，接下来的阐述中，本文将省去u，

假定x(i)与x(i-1)之间存在线性关系f：

x(i)＝x(i-1)+αv(i-1)

v(i)＝x(i-1)-x(i-2)

其中α为系统参数，由实验得到，为了增强或减缓比值x的变化；

卡尔曼滤波中的系统状态变量可表示为：

x_k＝[x(k)，v(k)]^T

将上一次的后验状态值作为第K次的观测量z_k：

$x_k=x_{k-1}^{-}$

模型参数A、H可由线性关系f推出：

$A_k=\left[\begin{array}{cc}1& \mathrm{\α}\\ 0& 1\end{array}\right],H=\[\begin{array}{cc}1& 0\end{array}\]$

因为系统和测量噪声的初始值对卡尔曼滤波算法的最终结果影响很小，只会影响算法结果收敛的速度，本文将系统和测量噪声的协方差矩阵根据粗略实验分别设为：

$Q=\left[\begin{array}{cc}\frac{1}{2}& 0\\ 0& \frac{1}{2}\end{array}\right],R=\[\frac{1}{10}\]$

3)算法过程：

(1)数据预处理，得到结构化数据；

(2)进行基于物品的协同过滤推荐(ItemCF)和基于内容的推荐(CB)过程，得到各个模块的初步推荐结果P_ItrmCF和P_CB；

(3)进行卡尔曼滤波过程，预测权重比值x_i；

卡尔曼滤波包括预测和更新两个过程：

a预测：

初步权值预测：

${\hat{x}}_k^{-}=A{\hat{x}}_{k-1}+{\mathrm{Bu}}_k$

先验误差协方差预测：

$P_k^{-}={\mathrm{AP}}_{k-1}{A}^T+Q$

b更新修正：

卡尔曼滤波增益K_k修正：

$K_k=P_k^{-}{H}^T{({\mathrm{HP}}_k^{-}{H}^T+R)}^{-1}$

更新权值预测：

${\hat{x}}_k={\hat{x}}_k^{-}+K_k(z_k-H{\hat{x}}_k^{-})$

后验误差协方差矩阵更新：

$P_k=(I-K_{k}H)P_k^{-}$

(4)根据修正后的估测比值，计算得到ItemCF和CB算法的权重，并计算最终的推荐结果；

(5)验证推荐结果：根据反馈计算ItemCF和CB推荐的商品在用户真正购买的物品中所占的比重，将其比值作为下一次的观测变量z_k+1。

本发明利用基于内容推荐和基于物品的协同过滤推荐产生初步的推荐列表，利用卡尔曼模型的回归优化特性，计算出两个推荐算法的权重比值，再进一步计算它们各自的权重，通过加权混合的方式，合成最终的推荐结果，通过用户的反馈和优化，对系统状态进行更新，修正权重值。

本发明的有益效果在于：

本发明是一种基于卡尔曼滤波的混合推荐系统及方法，与现有技术相比，本发明能够实时动态更新各推荐组件的权重，并对其进行最优无偏估计；根据系统的反馈优化，持续调整系统状态；显著提高推荐系统的准确率、召回率和覆盖率，有效提高推荐质量，具有推广使用的价值。

附图说明

图1本发明的系统模块图；

图2本发明所使用的算法流程图；

图3本发明混合推荐中的权重更新过程图。

具体实施方式

下面结合附图对本发明作进一步说明：

如图1所示：本发明一种基于卡尔曼滤波的混合推荐系统，包括数据预处理模块、协同过滤推荐模块、内容推荐模块、卡尔曼滤波模块、推荐结果整合模块和反馈优化模块，所述数据预处理模块的两个数据输出端分别通过所述协同过滤推荐模块和内容推荐模块与所述推荐结果整合模块的输入端连接，所述推荐结果整合模块的数据输出端与所述反馈优化模块的数据输入端连接，所述反馈优化模块的数据输出端通过所述卡尔曼滤波模块与所述推荐结果整合模块连接。本发明采用选择性加权的混合推荐方式，将基于内容过滤和基于物品的协同过滤推荐得到的候选结果进行加权混合，来产生新的推荐结果。加权混合推荐方式的关键就是准确预测各推荐算法的权重。卡尔曼滤波算法的核心正是根据观测的数据，对系统状态进行无偏估计。本算法使用卡尔曼滤波来预测并修正各个推荐算法的权重。

本发明提出一种基于卡尔曼滤波的混合推荐方法，包括以下步骤：

1卡尔曼滤波

卡尔曼滤波主要用于估测离散控制系统的状态，这个系统过程可以用随机差分方程表示：

x_k＝Ax_k-1+Bu_k+w_k-1

观测方程为：

z_k＝Hx_k+v_k

上面两式中，x_k表示k时刻的系统状态，u_k是系统k时刻的控制量，A和B是系统参数，z_k表示k时刻系统的测量值，H为测量系统的参数，w_k/v_k是过程/测量的噪声，p(v)～N(0，R)，p(w)～N(0，Q)，

2建立混合推荐模型

对于用户u，在第i次推荐中，设ItemCF和CB的权重分别c_Item(i，u)和c_CB(i，u)，其比值为方便，接下来的阐述中，本文将省去u，

假定x(i)与x(i-1)之间存在线性关系f：

x(i)＝x(i-1)+αv(i-1)

v(i)＝x(i-1)-x(i-2)

其中α为系统参数，由实验得到，为了增强或减缓比值x的变化；

卡尔曼滤波中的系统状态变量可表示为：

x_k＝[x(k)，v(k)]^T

将上一次的后验状态值作为第K次的观测量z_k：

$x_k=x_{k-1}^{-}$

模型参数A、H可由线性关系f推出：

$A_k=\left[\begin{array}{cc}1& \mathrm{\α}\\ 0& 1\end{array}\right],H=\[\begin{array}{cc}1& 0\end{array}\]$

因为系统和测量噪声的初始值对卡尔曼滤波算法的最终结果影响很小，只会影响算法结果收敛的速度，本文将系统和测量噪声的协方差矩阵根据粗略实验分别设为：

$Q=\left[\begin{array}{cc}\frac{1}{2}& 0\\ 0& \frac{1}{2}\end{array}\right],R=\[\frac{1}{10}\]$

3算法过程(如图2所示)：

(1)数据预处理，得到结构化数据；

(2)进行基于物品的协同过滤推荐(ItemCF)和基于内容的推荐(CB)过程，得到各个模块的初步推荐结果P_ItemCF和P_CB；

(3)进行卡尔曼滤波过程，预测权重比值x_i；

卡尔曼滤波包括预测和更新两个过程：

a预测：

初步权值预测：

${\hat{x}}_k^{-}=A{\hat{x}}_{k-1}+{\mathrm{Bu}}_k$

先验误差协方差预测：

$P_k^{-}={\mathrm{AP}}_{k-1}{A}^T+Q$

b更新修正：

卡尔曼滤波增益K_k修正：

$K_k=P_k^{-}{H}^T{({\mathrm{HP}}_k^{-}{H}^T+R)}^{-1}$

更新权值预测：

${\hat{x}}_k={\hat{x}}_k^{-}+K_k(z_k-H{\hat{x}}_k^{-})$

后验误差协方差矩阵更新：

$P_k=(I-K_{k}H)P_k^{-}$

(4)根据修正后的估测比值，计算得到ItemCF和CB算法的权重，并计算最终的推荐结果；

(5)验证推荐结果：根据反馈计算ItemCF和CB推荐的商品在用户真正购买的物品中所占的比重，将其比值作为下一次的观测变量z_k+1。

通过上述步骤，随着推荐次数的增多，根据卡尔曼滤波算法收敛和自回归优化的特性，系统模型会不断迭代循环优化(如图3所示)，就能有效地对两种推荐算法的结果进行选择性加权，对模块的权重进行无偏估计。因此，可以有效提高推荐系统的准确率和召回率，显著提高推荐质量。

以上显示和描述了本发明的基本原理和主要特征及本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (2)

1.一种基于卡尔曼滤波的混合推荐系统，其特征在于：包括数据预处理模块、协同过滤推荐模块、内容推荐模块、卡尔曼滤波模块、推荐结果整合模块和反馈优化模块，所述数据预处理模块的两个数据输出端分别通过所述协同过滤推荐模块和内容推荐模块与所述推荐结果整合模块的输入端连接，所述推荐结果整合模块的数据输出端与所述反馈优化模块的数据输入端连接，所述反馈优化模块的数据输出端通过所述卡尔曼滤波模块与所述推荐结果整合模块连接。

2.一种基于卡尔曼滤波的混合推荐方法，其特征在于，包括以下步骤：

1)卡尔曼滤波

卡尔曼滤波主要用于估测离散控制系统的状态，这个系统过程可以用随机差分方程表示：

x_k＝Ax_k-1+Bu_k+w_k-1

观测方程为：

z_k＝Hx_k+v_k

上面两式中，x_k表示k时刻的系统状态，u_k是系统k时刻的控制量，A和B是系统参数，z_k表示k时刻系统的测量值，H为测量系统的参数，w_k/v_k是过程/测量的噪声，p(v)～N(0，R)，p(w)～N(0，Q)，

2)建立混合推荐模型

对于用户u，在第i次推荐中，设ItemCF和CB的权重分别c_Item(i，u)和c_CB(i，u)，其比值为方便，接下来的阐述中，本文将省去u，

假定x(i)与x(i-1)之间存在线性关系f：

x(i)＝x(i-1)＋αv(i-1)

v(i)＝x(i-1)-x(i-2)

其中α为系统参数，由实验得到，为了增强或减缓比值x的变化；

卡尔曼滤波中的系统状态变量可表示为：

x_k＝[x(k)，v(k)]^T

将上一次的后验状态值作为第K次的观测量z_k：

$x_k=x_{k-1}^{-}$

模型参数A、H可由线性关系f推出：

$A_k=\left[\begin{array}{cc}1& \mathrm{\α}\\ 0& 1\end{array}\right],H=\left[\begin{array}{cc}1& 0\end{array}\right]$

因为系统和测量噪声的初始值对卡尔曼滤波算法的最终结果影响很小，只会影响算法结果收敛的速度，本文将系统和测量噪声的协方差矩阵根据粗略实验分别设为：

$Q=\left[\begin{array}{cc}\frac{1}{2}& 0\\ 0& \frac{1}{2}\end{array}\right],R=\[\frac{1}{10}\]$

3)算法过程：

(1)数据预处理，得到结构化数据；

(2)进行基于物品的协同过滤推荐(ItemCF)和基于内容的推荐(CB)过程，得到各个模块的初步推荐结果P_ItemCF和P_CB；

(3)进行卡尔曼滤波过程，预测权重比值x_i；

卡尔曼滤波包括预测和更新两个过程：

a预测：

初步权值预测：

${\hat{x}}_k^{-}=A{\hat{x}}_{k-1}+{\mathrm{Bu}}_k$

先验误差协方差预测：

$P_k^{-}={\mathrm{AP}}_{k-1}{A}^T+Q$

b更新修正：

卡尔曼滤波增益K_k修正：

$K_k=P_k^{-}{H}^T{\left({\mathrm{HP}}_k^{-}{H}^T+R\right)}^{-1}$

更新权值预测：

${\hat{x}}_k={\hat{x}}_k^{-}+K_k(z_k-H{\hat{x}}_k^{-})$

后验误差协方差矩阵更新：

$P_k=(I-K_{k}H)P_k^{-}$

(4)根据修正后的估测比值，计算得到ItemCF和CB算法的权重，并计算最终的推荐结果；

(5)验证推荐结果：根据反馈计算ItemCF和CB推荐的商品在用户真正购买的物品中所占的比重，将其比值作为下一次的观测变量z_k+1。