CN104714971A - 移动终端商家个性推荐方法 - Google Patents

Abstract

本发明提供的移动终端商家个性推荐方法，移动终端用户进行商家推荐，根据移动用户个人的兴趣爱好挖掘令他感兴趣的商家，并根据实际情况对数据进行了相应的预处理，对针对数据的稀疏性和不对称性，采用贝叶斯的概率模型和Gibbs抽样方法对其进行了近似预测，从而给用户带来精确的预测。

Description

移动终端商家个性推荐方法

技术领域

本发明涉及数据处理技术领域，尤其涉及一种移动终端商家个性推荐方法。

背景技术

目前国内的电子商务方向都在大力推广推荐系统，比如京东商城和当当网，都会根据用户的购买技能进行推荐，并且它们还分析了物品之间的相似度，在用户购买的时候推荐与此物品接近的其他物品。QQ的空间也开始应用推荐系统，当你发表或者收藏日志的时候，腾讯会想你推荐它认为内容详尽的部分。国内最大的C2C电子商务平台淘宝网在推荐系统上投入了很大的精力，并且赞助举办了中国推荐论坛大会，由于淘宝上具有海量的用户交易信息，在目前推荐系统数据为王的时代成为了国内研究实力最强的机构之一。而国内著名的基于SNS平台的用户交流平台豆瓣网，由于拥有海量的用户对电影，书籍，音乐的评分数据，它根据你对不同物品的打分已经读过，想读，在读三个状态来分析你可能感兴趣的物品。由于这两者在各自的领域都占到了举足轻重的数据量，也有人认为其数据已经可以被用以解读中国的经济形势和国民心理。hulu中国专注于推荐系统方向的研究，提别是视频推荐个广告精准投递方面很有建树。

实际上，随着我国电子商务的蓬勃发展和互联网公司的不断壮大，我国推荐系统方面的技术在不断上升，最近参加推荐系统论坛的Koren表示他十分关注中国方面对此的研究，并且会经常性的访问国内推荐系统专家的博客。但是，协同过滤的一些固有问题比如数据稀疏性，冷启动，迁移等问题还没有得到良好的解决也阻碍了实际的应用。

因此，加大对协同过滤系统的理论和应用研究对推荐我国推荐系统的发展具有较高的学术和时间价值。虽然取得了长足的进步，但是我国在推荐系统方面的研究依然落后于世界先进水平，在我国电子商务推广程度，数据数量都在稳步攀升的情况下，改善并且提升推荐算法的精确性和有效性成为了一个热门的问题。

发明内容

有鉴于此，有必要提供一种移动终端商家个性推荐方法，该移动终端商家个性推荐方法能够给用户提供精确性的商家个性推荐。

一种移动终端商家个性推荐方法，包括下述步骤：

步骤S110：定义问题函数，所述函数为：

$E=\frac{1}{2}{\mathrm{\Σ}}_{i=1}^N{\mathrm{\Σ}}_{j=1}^M{I}_{\mathrm{ij}}{(R_{\mathrm{ij}}^d-U_i^T{V}_j)}^2+\frac{{\mathrm{\λ}}_U}{2}{\mathrm{\Σ}}_{i=1}^N{\left|\right|U_i\left|\right|}_{\mathrm{Fro}}^2+\frac{{\mathrm{\λ}}_V}{2}{\mathrm{\Σ}}_{i=1}^M{\left|\right|V_i\left|\right|}_{\mathrm{Fro}}^2,$

其中，所述M为商家，所述N为用户，所述代表用户i对商家j的评级，d表示移动终端与商家之前的距离，列向量U_i与V_j分别代表用户和商家的潜在特征向量，D表示用户特征向量和商家特征向量的维度，表示终端用户对商家的预测的评价等级，λ_U=α_U／α表示弗罗贝尼乌斯的模；

步骤S120：将所述预处理为

步骤S130：采用高斯观察噪声概率线性模型，构建第一公式，记为 $P\left(R\right|U,V,d,{\mathrm{\σ}}^2)={\mathrm{\Π}}_{i=1}^N{\mathrm{\Π}}_{j=1}^M{\left[N\left(R_{\mathrm{ij}}\right|U_i^T{V}_j,{\mathrm{\σ}}^2)\right]}^{I_{\mathrm{ij}}},$ 其中，是均值为μ、方差为σ²的具有高斯分布概率密度函数，I_ij是指示函数，如果用户i对商家j进行过评价则指数函数为1，否则等于0；

步骤S140：分别将用户和商户特性向量U_i与V_j设置均值为零的高斯球面先知概率，分别记为：

$P\left(U\right|{\mathrm{\σ}}_U^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(U_i\right|0,{\mathrm{\σ}}_U^{2}I)$

$P\left(V\right|{\mathrm{\σ}}_V^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(V_i\right|0,{\mathrm{\σ}}_V^{2}I)$

步骤S150：根据步骤S130和步骤S140，构建基于用户和商家的后验概率的似然函数，记为

lnP(U，V|R，α，α_U，α_V，d)=lnp(R|U，V，α)+lnp(U|αU)+lnp(V|αV)+C

其中，C为常数；

步骤S160：基于贝叶斯的概率模型，对经步骤S140处理后的用户和商户特性向量U_i与V_j进行处理，并记为：

步骤S170：对经步骤S160处理后的U_i与V_j的超参数进行Gaussian-Wishart规定，记为：

其中，W是有着v0维自由度和D×D维矩阵W0的Wishart分布

C是归一化常数，Θ₀={μ₀，υ₀，W₀}，v₀=D、W₀为用户的商家超参数的特定矩阵，μ0=0；

步骤S180：通过边缘化模型参数和超参数预测用户i对商家j的R_ij等级值分布，记为第二公式：

优选地，还包括下述步骤：

步骤S190：采用蒙特卡罗对所述第二公式处理得到第三公式，记为：

其中，样本是通过markov链生成。

优选地，还包括下述步骤：

基于Gibbs抽样算法，将所述第二公式变形为， 其中

${\mathrm{\Λ}}_i^{*}={\mathrm{\Λ}}_U+\mathrm{\α}\underset{j=1}{\overset{M}{\mathrm{\Σ}}}{\left[V_j{V}_j^T\right]}^{I_{\mathrm{ij}}}$

${\mathrm{\μ}}_i^{*}={\left[{\mathrm{\Λ}}_i^{*}\right]}^{-1}+\mathrm{\α}{\mathrm{\Σ}}_{j=1}^M({\left[V_j{R}_{\mathrm{ij}}\right]}^{I_{\mathrm{ij}}}+{\mathrm{\Λ}}_U{\mathrm{\μ}}_U);$

将所述用户潜在的特征向量Ui条件分布因式分解成基于个体用户向量的商家条件概率分布：

基于用户特征向量Ui的用户超参数的条件分布给定为高斯分布，记为

其中， ${\mathrm{\μ}}_i^{*}=\frac{{\mathrm{\β}}_0{\mathrm{\μ}}_0+N\stackrel{\‾}{U}}{{\mathrm{\β}}_0+N},$ ${\mathrm{\β}}_0^{*}={\mathrm{\β}}_0+N,$ ${\mathrm{\ν}}_0^{*}={\mathrm{\β}}_0+N,$ ${\left[W_0^{*}\right]}^{-1}=W_0^{-1}+N\stackrel{\‾}{S}+$ $\frac{{\mathrm{\β}}_{0}N}{{\mathrm{\β}}_0+N}({\mathrm{\μ}}_0-\stackrel{\‾}{U}){({\mathrm{\μ}}_0-\stackrel{\‾}{U})}^T,$ $\stackrel{\‾}{U}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i,$ $\stackrel{\‾}{S}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i{U}_i^T;$

基于商家特征向量V_j的用户超参数的条件分布形成于用户特征向量Ui的用户超参数相同的条件分布，采用Gibbs抽样算法，预测用户i对商家j的R_ij等级值分布。

本发明提供的移动终端商家个性推荐方法，移动终端用户进行商家推荐，根据移动用户个人的兴趣爱好挖掘令他感兴趣的商家，并根据实际情况对数据进行了相应的预处理，对针对数据的稀疏性和不对称性，采用贝叶斯的概率模型和Gibbs抽样方法对其进行了近似预测，从而给用户带来精确的预测。

附图说明

图1为本发明提供的移动终端商家个性推荐方法的步骤流程图；

图2为本发明提供的贝叶斯的概率模型的原理示意图；

图3为本发明提供的贝叶斯的概率模型相位匹配滤波器的原理示意图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清晰，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

请参阅图1，为本发明供的移动终端商家个性推荐方法100的步骤流程图，包括下述步骤：

步骤S110：定义问题函数，所述函数为：

$E=\frac{1}{2}{\mathrm{\Σ}}_{i=1}^N{\mathrm{\Σ}}_{j=1}^M{I}_{\mathrm{ij}}{(R_{\mathrm{ij}}^d-U_i^T{V}_j)}^2+\frac{{\mathrm{\λ}}_U}{2}{\mathrm{\Σ}}_{i=1}^N{\left|\right|U_i\left|\right|}_{\mathrm{Fro}}^2+\frac{{\mathrm{\λ}}_V}{2}{\mathrm{\Σ}}_{i=1}^M{\left|\right|V_i\left|\right|}_{\mathrm{Fro}}^2,$

其中，所述M为商家，所述N为用户，所述代表用户i对商家j的评级，d表示移动终端与商家之前的距离，列向量U_i与V_j分别代表用户和商家的潜在特征向量，D表示用户特征向量和商家特征向量的维度，表示终端用户对商家的预测的评价等级，λ_U=α_U/α表示弗罗贝尼乌斯的模；

可以理解，假设我们有M个商家、N个终端用户，其用户对商家的整数评级值从1到K1。让代表用户i对商家j的评级，d表示移动终端与商家之前的距离。U∈R^D×N和V∈R^D×M是潜在用户和商家的特性矩阵，列向量U_i与V_j分别代表用户和商家的潜在特征向量。D表示用户特征向量和商家特征向量的维度。则表示终端用户对商家的预测的评价等级。为计算特征向量U_i与V_j，我们需要在测试集上最小化根均方误差(RMSE)。

步骤S120：将所述预处理为

可以理解，代表用户i对商家j的评级，而在移动终端用户中，我们需要将距离d对商家的评价的影响考虑进来。即离自己越远的商家，我们对其考虑的预期值会稍微降低，为此我们对进行相应的预处理

$R_{\mathrm{ij}}=R_{\mathrm{ij}}^d\frac{1}{1+e^d}$

步骤S130：采用高斯观察噪声概率线性模型，构建第一公式，记为 $P\left(R\right|U,V,d,{\mathrm{\σ}}^2)={\mathrm{\Π}}_{i=1}^N{\mathrm{\Π}}_{j=1}^M{\left[N\left(R_{\mathrm{ij}}\right|U_i^T{V}_j,{\mathrm{\σ}}^2)\right]}^{I_{\mathrm{ij}}},$ 其中，是均值为μ、方差为σ²的具有高斯分布概率密度函数，I_ij是指示函数，如果用户i对商家j进行过评价则指数函数为1，否则等于0；

步骤S140：分别将用户和商户特性向量U_i与V_j设置均值为零的高斯球面先知概率，分别记为：

$P\left(U\right|{\mathrm{\σ}}_U^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(U_i\right|0,{\mathrm{\σ}}_U^{2}I)$

$P\left(V\right|{\mathrm{\σ}}_V^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(V_i\right|0,{\mathrm{\σ}}_V^{2}I)$

步骤S150：根据步骤S130和步骤S140，构建基于用户和商家的后验概率的似然函数，记为

lnP(U，V|R，α，α_U，α_V，d)=lnp(R|U，V，α)+lnp(U|αU)+lnp(V|αV)+C

其中，C为常数；

为使模型回归结果比较好，特别是在稀疏和不平衡的数据集。通用的方法是在这个训练过程的手动控制复杂性，寻找适当的值正则化刚才定义的参数U和V。例如，可以考虑一组合理的参数值，为每个设置的参数训练模型，并选择执行最好的验证集的模型。

步骤S160：基于贝叶斯的概率模型，对经步骤S140处理后的用户和商户特性向量U_i与V_i进行处理，并记为：

请参阅图2和图3为本发明提供的贝叶斯的概率模型的原理示意图及相位匹配滤波器的原理示意图。

步骤S170：对经步骤S160处理后的U_i与V_j的超参数进行Gaussian-Wishart规定，记为：

其中，W是有着v0维自由度和D×D维矩阵W0的Wishart分布

C是归一化常数，Θ₀={μ₀，υ₀，W₀}，v₀=D、W₀为用户的商家超参数的特定矩阵，μ0=0；

步骤S180：通过边缘化模型参数和超参数预测用户i对商家j的R_ij等级值分布，记为第二公式：

由于后验概率的复杂性，获取的确切评价预测分布不大容易，对此，我们采取近似推理来获取预测分布。

通常的处理方法是选择能够为后验概率提供确定性的近似方案的变分方法。通过变分方法，我们可以根据因子的分布近似真实的后验p(U，V，U,V|R)，每个因素有一个特定的参数形式等作为一个高斯分布。这个近似后验允许我们得到4式子的近似积分。这种方法可以运用于规模较大的运用程序，故变分方法已成为方法论的选择。然而，其往往涉及过于简单的近似到后。他们可以产生不准确的结果，

上述移动终端商家个性推荐方法100还包括下述步骤：

步骤S190：采用蒙特卡罗对所述第二公式处理得到第三公式，记为：

其中，样本是通过markov链生成。

可以理解，使用蒙特卡罗近似对该问题进行近似处理，由此，上述第二公式的预测分布为：

其中，样本通过markov链生成，马尔可夫链的平稳分布是后验分布模型参数和超参数(hyperparameters){U，V，U,V}。这个方法的优势在于是基于卡蒙特渐近他们产生精确的结果。然而，在实践中，这种方法一般局限于有限的小规模的问题，其通常被认为有计算要求。

上述移动终端商家个性推荐方法100还可以包括下述步骤：

基于Gibbs抽样算法，将所述第二公式变形为， 其中

${\mathrm{\Λ}}_i^{*}={\mathrm{\Λ}}_U+\mathrm{\α}\underset{j=1}{\overset{M}{\mathrm{\Σ}}}{\left[V_j{V}_j^T\right]}^{I_{\mathrm{ij}}}$

${\mathrm{\μ}}_i^{*}={\left[{\mathrm{\Λ}}_i^{*}\right]}^{-1}+\mathrm{\α}{\mathrm{\Σ}}_{j=1}^M({\left[V_j{R}_{\mathrm{ij}}\right]}^{I_{\mathrm{ij}}}+{\mathrm{\Λ}}_U{\mathrm{\μ}}_U);$

将所述用户潜在的特征向量Ui条件分布因式分解成基于个体用户向量的商家条件概率分布：

基于用户特征向量Ui的用户超参数的条件分布给定为高斯分布，记为

其中， ${\mathrm{\μ}}_i^{*}=\frac{{\mathrm{\β}}_0{\mathrm{\μ}}_0+N\stackrel{\‾}{U}}{{\mathrm{\β}}_0+N},$ ${\mathrm{\β}}_0^{*}={\mathrm{\β}}_0+N,$ ${\mathrm{\ν}}_0^{*}={\mathrm{\β}}_0+N,$ ${\left[W_0^{*}\right]}^{-1}=W_0^{-1}+N\stackrel{\‾}{S}+$ $\frac{{\mathrm{\β}}_{0}N}{{\mathrm{\β}}_0+N}({\mathrm{\μ}}_0-\stackrel{\‾}{U}){({\mathrm{\μ}}_0-\stackrel{\‾}{U})}^T,$ $\stackrel{\‾}{U}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i,$ $\stackrel{\‾}{S}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i{U}_i^T;$

因此，我们平行的对这些条件分布采样，其可以很容易地加快取样器的取样。这种加速可能是实质性的，尤其是当用户的数量是巨大的。

基于商家特征向量V_j的用户超参数的条件分布形成于用户特征向量Ui的用户超参数相同的条件分布，采用Gibbs抽样算法，预测用户i对商家j的R_ij等级值分布。

具体地，Gibbs采样主要通过下述步骤实现的：

初始化模型参数{U1，V1}

For t=1，…，T

对参数进行采样

For i=1，…，N

并行的对用户特征值进行采样

For each i=1，…，M

并行的对商家特征值进行采样

可以理解，Gibbs采样可以通过样本中一个潜在变量在其他潜在变量下的条件概率，并利用这个条件概率来分布产生各个潜在变量的样本值。由于使用共轭先知先觉的参数和超参数(hyperparameters)在贝叶斯相位匹配滤波器模型，条件分布来源于后分布很容易从样品。特别是，条件分布在用户特征向量Ui和商家特征向量，观察到用户评分R，以及超参数(hyperparameters)的值满足高斯。

本发明提供的移动终端商家个性推荐方法，移动终端用户进行商家推荐，根据移动用户个人的兴趣爱好挖掘令他感兴趣的商家，并根据实际情况对数据进行了相应的预处理，对针对数据的稀疏性和不对称性，采用贝叶斯的概率模型和Gibbs抽样方法对其进行了近似预测，从而给用户带来精确的预测。

可以理解的是，对于本领域的普通技术人员来说，可以根据本发明的技术构思做出其他各种相应的改变与变形，而所有这些改变与变形都应属于本发明权利要求的保护范围。

Claims (3)

1.一种移动终端商家个性推荐方法，其特征在于，包括下述步骤：

步骤S110：定义问题函数，所述函数为：

$E=\frac{1}{2}{\mathrm{\Σ}}_{i=1}^N{\mathrm{\Σ}}_{j=1}^M{I}_{\mathrm{ij}}{(R_{\mathrm{ij}}^d-U_i^T{V}_j)}^2+\frac{{\mathrm{\λ}}_U}{2}{\mathrm{\Σ}}_{i=1}^N{\left|\right|U_i\left|\right|}_{\mathrm{Fro}}^2+\frac{{\mathrm{\λ}}_V}{2}{\mathrm{\Σ}}_{i=1}^M{\left|\right|V_i\left|\right|}_{\mathrm{Fro}}^2,$

其中，所述M为商家，所述N为用户，所述代表用户i对商家j的评级，d表示移动终端与商家之前的距离，列向量U_i与V_j分别代表用户和商家的潜在特征向量，D表示用户特征向量和商家特征向量的维度，表示终端用户对商家的预测的评价等级，λ_U=α_U／α表示弗罗贝尼乌斯的模；

步骤S120：将所述预处理为

步骤S130：采用高斯观察噪声概率线性模型，构建第一公式，记为 $P\left(R\right|U,V,d,{\mathrm{\σ}}^2)={\mathrm{\Π}}_{i=1}^N{\mathrm{\Π}}_{j=1}^M{\left[N\left(R_{\mathrm{ij}}\right|U_i^T{V}_j,{\mathrm{\σ}}^2)\right]}^{I_{\mathrm{ij}}},$ 其中，是均值为μ、方差为σ²的具有高斯分布概率密度函数，I_ij是指示函数，如果用户i对商家j进行过评价则指数函数为1，否则等于0；

步骤S140：分别将用户和商户特性向量U_i与V_j设置均值为零的高斯球面先知概率，分别记为：

$P\left(U\right|{\mathrm{\σ}}_U^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(U_i\right|0,{\mathrm{\σ}}_U^{2}I)$

$P\left(V\right|{\mathrm{\σ}}_V^2)=\underset{i=1}{\overset{N}{\mathrm{\Π}}}N\left(V_i\right|0,{\mathrm{\σ}}_V^{2}I)$

步骤S150：根据步骤S130和步骤S140，构建基于用户和商家的后验概率的似然函数，记为

lnP(U，V|R，α，α_U，α_V，d)=lnp(R|U，V，α)+lnp(U|αU)+lnp(V|αV)+C

其中，C为常数；

步骤S160：基于贝叶斯的概率模型，对经步骤S140处理后的用户和商户特性向量U_i与V_i进行处理，并记为：

步骤S170：对经步骤S160处理后的U_i与V_j的超参数进行Gaussian-Wishart规定，记为：

其中，W是有着v0维自由度和D×D维矩阵W0的Wishart分布

C是归一化常数，Θ₀={μ₀，υ₀，W₀}，v₀=D、W₀为用户的商家超参数的特定矩阵，μ0=0；

步骤S180：通过边缘化模型参数和超参数预测用户i对商家j的R_ij等级值分布，记为第二公式：

2.根据权利要求1所述的移动终端商家个性推荐方法，其特征在于，还包括下述步骤：

步骤S190：采用蒙特卡罗对所述第二公式处理得到第三公式，记为：

其中，样本是通过markov链生成。

3.根据权利要求1所述的移动终端商家个性推荐方法，其特征在于，还包括下述步骤：

基于Gibbs抽样算法，将所述第二公式变形为， 其中

${\mathrm{\Λ}}_i^{*}={\mathrm{\Λ}}_U+\mathrm{\α}\underset{j=1}{\overset{M}{\mathrm{\Σ}}}{\left[V_j{V}_j^T\right]}^{I_{\mathrm{ij}}}$

${\mathrm{\μ}}_i^{*}={\left[{\mathrm{\Λ}}_i^{*}\right]}^{-1}+\mathrm{\α}{\mathrm{\Σ}}_{j=1}^M({\left[V_j{R}_{\mathrm{ij}}\right]}^{I_{\mathrm{ij}}}+{\mathrm{\Λ}}_U{\mathrm{\μ}}_U);$

将所述用户潜在的特征向量Ui条件分布因式分解成基于个体用户向量的商家条件概率分布：

基于用户特征向量Ui的用户超参数的条件分布给定为高斯分布，记为

其中， ${\mathrm{\μ}}_i^{*}=\frac{{\mathrm{\β}}_0{\mathrm{\μ}}_0+N\stackrel{\‾}{U}}{{\mathrm{\β}}_0+N},$ ${\mathrm{\β}}_0^{*}={\mathrm{\β}}_0+N,$ ${\mathrm{\ν}}_0^{*}={\mathrm{\β}}_0+N,$ ${\left[W_0^{*}\right]}^{-1}=W_0^{-1}+N\stackrel{\‾}{S}+$ $\frac{{\mathrm{\β}}_{0}N}{{\mathrm{\β}}_0+N}({\mathrm{\μ}}_0-\stackrel{\‾}{U}){({\mathrm{\μ}}_0-\stackrel{\‾}{U})}^T,$ $\stackrel{\‾}{U}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i,$ $\stackrel{\‾}{S}=\frac{1}{N}{\mathrm{\Σ}}_{i=1}^N{U}_i{U}_i^T;$

基于商家特征向量V_j的用户超参数的条件分布形成于用户特征向量Ui的用户超参数相同的条件分布，采用Gibbs抽样算法，预测用户i对商家j的R_ij等级值分布。