CN105761151A - 一种基于联合概率矩阵分解的移动社会化推荐方法 - Google Patents

Abstract

基于联合概率矩阵分解UPMF的移动社会化推荐方法，分三个步骤：第一步，基于用户评分信息构建评分矩阵，并进行归一化处理；第二步，基于用户社会化网络信息构建信任矩阵，包含直接信任度和间接信任度的计算；第三步，基于联合概率矩阵分解算法UPMF，结合用户评分矩阵和信任矩阵进行联合推荐。

Description

一种基于联合概率矩阵分解的移动社会化推荐方法

技术领域

本发明属于服务推荐领域。

现有技术

随着移动互联网信息和服务的日益增长，“移动信息过载”问题给移动用户带来很大的信息负担。移动推荐系统通过获取和预测潜在移动用户偏好过滤不相关的信息，为用户提供满足其个性化需求的结果，已逐渐成为缓解“移动信息过载”的有效手段。

现有的移动推荐系统主要基于传统互联网推荐模型，采用协同过滤推荐、基于内容的推荐、混合推荐等算法，存在数据稀疏性、冷启动和推荐精度低等问题。为了提高推荐精度，一些研究者将用户上下文信息，例如时间、位置、周围人员、网络条件等引入到推荐系统中；为了缓解数据稀疏性和冷启动问题，部分研究将社会化信息引入到推荐系统中，利用显示的社会化网络或者隐式的社会化群体行为对信息内容进行推荐。

为了进一步解决数据稀疏性和冷启动问题，一些现代的推荐系统采用矩阵分解MF技术进行推荐。传统的矩阵分解算法包括奇异值分解SVD、非负矩阵分解NMF，概率矩阵分解PMF等，这些算法通过将一个高维矩阵分解为两个或多个低维矩阵的乘积实现维度规约，方便于在一个低维空间研究高维数据的性质，然而这些方法只能结合单方面信息进行两维分解。联合概率矩阵分解UPMF可以结合多个上下文信息进行联合推荐，具有更好的灵活性和推荐性能，目前已有的UPMF方法结合用户评分信息和社会化网络信息进行推荐，在计算用户之间的信任度时，需要用户显著地标识与其他用户的信任关系，增加了操作的复杂性，同时也并未考虑到用户之间的间接信任关系对推荐性能的影响。

发明内容

本发明要克服现有技术上的上述缺点，提供一种基于联合概率矩阵分解UPMF的移动社会化推荐方法，结合用户评分信息和社会化网络信息进行联合推荐。同时，提出一种符合移动社会化网络特点的信任度计算方法，该方法仅根据社会化网络结构信息构建信任矩阵，降低了移动用户对信任度的主动标识，并引入间接信任关系提高信任矩阵密度，进一步提高推荐性能。

本发明的技术方案共分三个步骤：第一步，基于用户评分信息构建评分矩阵，并进行归一化处理；第二步，基于用户社会化网络信息构建信任矩阵，包含直接信任度和间接信任度的计算；第三步，基于联合概率矩阵分解算法UPMF，结合用户评分矩阵和信任矩阵进行联合推荐。

基于联合概率矩阵分解UPMF的移动社会化推荐方法具体步骤如下：

1.基于用户评分信息构建评分矩阵；

现有的推荐系统大多采用整型评分值1到R_max表示用户的喜欢程度，为了不失一般性，将整型评分值映射到[0,1]区间，具体计算公式如(1)所示：

r_ij＝f(R_ij)＝(R_ij-1)/(R_max-1)(1)

其中R_ij代表移动用户u_i对服务s_j的整型评分值，r_ij是映射得到的评分值，r_ij∈[0,1]。

2.基于用户社会化网络信息构建信任矩阵；

本发明考虑到移动社会化网络多为群组结构的特点，提出一种符合该特点的信任度计算方法，包含直接信任度和间接信任度的计算。假设目标用户u₁创建了群组msn₁₁，并添加u₂、u₃、u₄作为其群组成员，则认为用户u₁和u₂、u₃、u₄之间存在直接信任关系，u₂、u₃、u₄是用户u₁的邻居；同理，假设用户u₅创建了群组msn₅₁，并添加u₃、u₄作为其群组成员，则u₃、u₄是用户u₅的邻居。尽管用户u₁和u₅之间没有直接信任关系，但存在共同的邻居u₃和u₄，则认为u₁和u₅之间存在间接信任关系，即u₁和u₅互为间接邻居。

相关概念定义如下：

相关度：用户之间的相关度主要依赖于用户之间是否具有直接或间接信任关系，若用户之间具有直接信任关系，则其(直接)相关度取决于邻居在目标用户所有创建的移动网络中出现的频率；若用户之间具有间接信任关系，则其(间接)相关度取决于用户双方共同好友的比例。

可信度：用户的可信度指用户在整个移动社会化网络中的可信程度，若用户的邻居数量越多，则其可信度越低，反之，若用户作为他人邻居的次数越多，则其可信度越高。

2.1直接信任度计算；

若用户u_i和u_k之间存在直接信任关系，即u_k是u_i的邻居，则直接信任度值如公式(2)所示：

${\mathrm{DT}}_{u_i->u_k}=\mathrm{\&alpha;}\&CenterDot;{\mathrm{ds}}_{ik}+(1-\mathrm{\&alpha;})\&CenterDot;t_{ik},0<\mathrm{\&alpha;}<1---\left(2\right)$

其中，α为直接相关度在信任度计算中所占的权重，ds_ik为用户u_i对u_k的直接相关度，具体公式如(3)所示：

${\mathrm{ds}}_{ik}=\frac{\left|{\mathrm{msn}}_{u_k\&Element;{\mathrm{msn}}_i}\right|}{\left|{\mathrm{msn}}_i\right|}---\left(3\right)$

其中|msn_i|是用户u_i创建的移动社会化网络数量，是用户u_i创建的移动社会化网络中包含用户u_k的网络数量。

t_ik为用户u_i对u_k的可信度计算公式，具体如公式(4)所示：

$t_{ik}=\sqrt{\frac{\left|N^{-}\left(u_k\right)\right|}{\left|N^{+}\left(u_i\right)\right|+\left|N^{-}\left(u_k\right)\right|}}---\left(4\right)$

其中N^-(u_k)是在整个社会化网络中信任用户u_k的用户集合，即将u_k作为邻居的用户集合，|N^-(u_k)|是用户u_k的入度，即信任用户u_k的用户集合大小；N⁺(u_i)是用户u_i在整个社会化网络中的邻居集合，|N⁺(u_i)|是用户u_i的出度，即用户u_i的邻居集合大小。

2.2间接信任度计算；

若用户u_i和u_k之间存在间接信任关系，则间接信任度值如公式(5)所示：

${\mathrm{IDT}}_{u_i->u_k}=\mathrm{\&beta;}\&CenterDot;{\mathrm{is}}_{ik}+(1-\mathrm{\&beta;})\&CenterDot;t_{ik},0<\mathrm{\&beta;}<1---\left(5\right)$

其中，β为间接相关度在信任度计算中所占的权重，is_ik为用户u_i对u_k的间接相关度，具体公式如(6)所示：

${\mathrm{is}}_{ik}=\frac{|N^{+}\left(u_i\right)\&cap;N^{+}\left(u_k\right)|}{\left|N^{+}\left(u_i\right)\right|}---\left(6\right)$

其中|N⁺(u_i)∩N⁺(u_k)|为用户u_i和u_k在整个移动社会化网络中的共同邻居数量。t_ik为用户u_i对u_k的可信度，具体如公式(4)所示。

3.基于联合概率矩阵分解算法UPMF的移动社会化推荐；

本发明采用联合概率矩阵分解算法UPMF，结合步骤1求得的评分矩阵R＝[r_ij]_m×n和步骤2求得的信任矩阵S＝[s_ik]_m×m进行联合推荐，其中m为用户的数量，n为服务的数量。R可以分解为用户因子矩阵U∈R^l×m的转置和服务因子矩阵V∈R^l×n的乘积，S可以分解为用户因子矩阵U的转置和信任因子矩阵Z∈R^l×m的乘积，R和S共享用户因子矩阵U，其中R^i×j代表i×j的矩阵。U_i为U的第i列，V_j为V的第j列，Z_k为Z的第k列，通过求解U_i和V_j重构得到评分矩阵R中空缺的r_ij，进而完成推荐。

具体步骤如下：

(31)求解潜在特征向量U_i和V_j；

本方法以最大化联合后验概率为目标函数，基于梯度下降方法学习得到用户潜在特征向量U_i和服务潜在特征向量V_j。

具体步骤如下：

S1.假设U_i，V_j和Z_k先验概率服从高斯分布且相互独立，即：

$p\left(U\right|{\mathrm{\&sigma;}}_U^2)=\underset{i=1}{\overset{m}{\&Pi;}}N\left(U_i\right|0,{\mathrm{\&sigma;}}_U^{2}I)---\left(7\right)$

$p\left(V\right|{\mathrm{\&sigma;}}_V^2)=\underset{j=1}{\overset{n}{\&Pi;}}N\left(V_j\right|0,{\mathrm{\&sigma;}}_V^{2}I)---\left(8\right)$

$p\left(Z\right|{\mathrm{\&sigma;}}_Z^2)=\underset{k=1}{\overset{m}{\&Pi;}}N\left(Z_k\right|0,{\mathrm{\&sigma;}}_Z^{2}I)---\left(9\right)$

其中N(x|μ,σ²)表示均值为μ，方差为σ²的高斯分布的概率密度函数，I表示单位矩阵。

S2.基于假设的潜在特征向量，分别求解R和S的条件概率分布

在给定用户u_i、服务v_j的潜在特征向量U_i，V_j后，用户u_i对服务v_j的评分值r_ij满足均值为方差为的正态分布且相互独立。评分矩阵R的条件概率分布如公式(10)所示：

$p\left(R\right|U,V,{\mathrm{\&sigma;}}_R^2)=\underset{i=1}{\overset{m}{\&Pi;}}\underset{j=1}{\overset{n}{\&Pi;}}{\&lsqb;N\left(r_{ij}\right|g\left(U_i^T{V}_j\right),{\mathrm{\&sigma;}}_R^2)\&rsqb;}^{I_{ij}^R}---\left(10\right)$

其中是指示函数，当用户u_i评分过服务v_j，否则，是逻辑斯蒂函数，将值映射到[0,1]。

同理，在给定潜在特征向量U_i，Z_k后，信任矩阵S的条件概率分布如公式(11)所示：

$p\left(S\right|U,Z,{\mathrm{\&sigma;}}_S^2)=\underset{i=1}{\overset{m}{\&Pi;}}\underset{k=1}{\overset{n}{\&Pi;}}{\&lsqb;N\left(s_{ik}\right|g\left(U_i^T{Z}_k\right),{\mathrm{\&sigma;}}_S^2)\&rsqb;}^{I_{ik}^S}---\left(11\right)$

其中，是指示函数，当用户u_i与z_k有关联关系时，否则，

S3.以最大化联合后验概率为目标函数

求解U，V，Z的后验分布函数。具体公式如(12)所示：

$\begin{array}{c}\ln p(U,V,Z|S,R,{\mathrm{\&sigma;}}_S^2,{\mathrm{\&sigma;}}_R^2,{\mathrm{\&sigma;}}_U^2,{\mathrm{\&sigma;}}_V^2,{\mathrm{\&sigma;}}_Z^2)=\\ -\frac{1}{2{\mathrm{\&sigma;}}_R^2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_S^2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_U^2}\underset{i=1}{\overset{m}{\&Sigma;}}{U}_i^T{U}_i--\frac{1}{2{\mathrm{\&sigma;}}_V^2}\underset{j=1}{\overset{n}{\&Sigma;}}{V}_j^T{V}_j--\frac{1}{2{\mathrm{\&sigma;}}_Z^2}\underset{k=1}{\overset{m}{\&Sigma;}}{Z}_k^T{Z}_k\\ -\frac{1}{2}\left(\right(\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R){\mathrm{ln\&sigma;}}_R^2+(\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S\left){\mathrm{ln\&sigma;}}_S^2\right)\\ -\frac{1}{2}(ml{\mathrm{ln\&sigma;}}_U^2+nl{\mathrm{ln\&sigma;}}_V^2+ml{\mathrm{ln\&sigma;}}_Z^2)+C\end{array}---\left(12\right)$

其中，C是常量。最大化公式(12)可视为无约束优化问题，最小化公式(13)等价于最大化公式(12)：

$\begin{array}{c}E(R,S,U,V,Z)=\\ \frac{1}{2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2+\frac{{\mathrm{\&lambda;}}_S}{2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ +\frac{{\mathrm{\&lambda;}}_U}{2}\left|\right|U|{|}_F^2+\frac{{\mathrm{\&lambda;}}_V}{2}|\left|V\right|{|}_F^2+\frac{{\mathrm{\&lambda;}}_Z}{2}\left|\right|Z|{|}_F^2\end{array}---\left(13\right)$

其中 ${\mathrm{\&lambda;}}_S={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_S^2,{\mathrm{\&lambda;}}_U={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_U^2,{\mathrm{\&lambda;}}_V={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_V^2,{\mathrm{\&lambda;}}_Z={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_Z^2,$ ||·||_F是弗罗贝尼乌斯范数。S4.基于梯度下降法求解潜在特征向量

公式(13)的局部最小值可由梯度下降法求得。参数U_i，V_j，Z_k的梯度下降公式如下所示：

$\begin{array}{c}\frac{\&part;E}{\&part;U_i}=\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})V_j\\ +{\mathrm{\&lambda;}}_S\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})Z_k+{\mathrm{\&lambda;}}_U{U}_i\end{array}---\left(14\right)$

$\frac{\&part;E}{\&part;V_j}=\underset{i=1}{\overset{m}{\&Sigma;}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})U_i+{\mathrm{\&lambda;}}_V{V}_j---\left(15\right)$

$\frac{\&part;E}{\&part;Z_k}={\mathrm{\&lambda;}}_S\underset{i=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})U_i+{\mathrm{\&lambda;}}_Z{Z}_k---\left(16\right)$

(32)根据潜在特征向量U_i和V_j重构得到r_ij

根据用户潜在特征向量U_i和服务潜在特征向量V_j，采用公式(17)重构得到r_ij；

$r_{ij}=U_i^T{V}_j---\left(17\right)$

(33)根据重构得到的评分矩阵进行服务推荐

根据步骤(32)补全评分矩阵中的空缺项，并依据评分值大小向目标用户推荐相应的服务。

本发明描述了一种基于联合概率矩阵分解UPMF的移动社会化推荐方法，结合用户的评分矩阵和基于社会化关系构建的信任矩阵进行联合推荐，进一步缓解了数据稀疏性和冷启动问题。在构建信任矩阵时，提出一种符合移动社会化网络特点的信任度计算方法，引入间接信任关系增加信任矩阵密度，进而提高了推荐准确率。

本发明的优点如下：

(1)思路新颖。本发明将联合概率矩阵分解方法UPMF应用于移动社会化推荐，提出一种符合移动社会化网络特点的信任度计算方法，结合用户的评分信息和信任信息进行联合推荐，进一步缓解了数据稀疏性和冷启动问题，提高了推荐精度。

(2)实现简单。本发明包含的评分矩阵构建，信任度计算以及联合概率矩阵分解算法UPMF实现起来比较简单。

(3)推荐精度高。本发明在构建信任矩阵时引入间接信任关系增加信任矩阵密度，进一步提高了推荐精度。

附图说明

图1为本发明的流程图。

图2为本发明的移动社会化推荐案例示例情况。

图3为本发明的基于UPMF的移动社会化推荐图模型。

具体实施方式

本发明所述的基于联合概率矩阵分解UPMF的移动社会化推荐方法如附图1所示，主要包含数据处理模块和基于UPMF的推荐引擎模块。其中数据处理模块主要负责对移动用户的评分信息和社会化网络信息进行处理，包含评分值映射和信任度计算两个子模块。评分值映射负责将整型评分值映射到[0,1]区间，信任度计算则负责计算用户之间的直接信任度和间接信任度。基于UPMF的推荐引擎模块采用UPMF方法，结合评分矩阵和信任矩阵信息进行联合推荐，主要包含缺失评分值重构和Top-k服务推荐两个子模块。其中缺失评分值重构通过计算用户潜在特征向量和服务潜在特征向量重构获得，Top-k服务推荐则根据重构得到的评分值大小，向目标用户进行服务推荐。

具体步骤如下：

1.基于用户评分信息构建评分矩阵

现有的推荐系统大多采用整型评分值1到R_max表示用户的喜欢程度，为了不失一般性，将整型评分值映射到[0,1]区间，具体计算公式如(1)所示：

r_ij＝f(R_ij)＝(R_ij-1)/(R_max-1)(1)

其中R_ij代表移动用户u_i对服务s_j的整型评分值，r_ij是映射得到的评分值，r_ij∈[0,1]。

2.基于用户社会化网络信息构建信任矩阵

本发明考虑到移动社会化网络多为群组结构的特点，提出一种符合该特点的信任度计算方法，包含直接信任度和间接信任度的计算。假设目标用户u₁创建了群组msn₁₁，并添加u₂、u₃、u₄作为其群组成员，则认为用户u₁和u₂、u₃、u₄之间存在直接信任关系，u₂、u₃、u₄是用户u₁的邻居；同理，假设用户u₅创建了群组msn₅₁，并添加u₃、u₄作为其群组成员，则u₃、u₄是用户u₅的邻居。尽管用户u₁和u₅之间没有直接信任关系，但存在共同的邻居u₃和u₄，则认为u₁和u₅之间存在间接信任关系，即u₁和u₅互为间接邻居。

2.1直接信任度计算

若用户u_i和u_k之间存在直接信任关系，即u_k是u_i的邻居，则直接信任度值如公式(2)所示：

${\mathrm{DT}}_{u_i->u_k}=\mathrm{\&alpha;}\&CenterDot;{\mathrm{ds}}_{ik}+(1-\mathrm{\&alpha;})\&CenterDot;t_{ik},0<\mathrm{\&alpha;}<1---\left(2\right)$

其中，α为直接相关度在信任度计算中所占的权重，ds_ik为用户u_i对u_k的直接相关度，具体公式如(3)所示：

${\mathrm{ds}}_{ik}=\frac{\left|{\mathrm{msn}}_{u_k\&Element;{\mathrm{msn}}_i}\right|}{\left|{\mathrm{msn}}_i\right|}---\left(3\right)$

其中|msn_i|是用户u_i创建的移动社会化网络数量，是用户u_i创建的移动社会化网络中包含用户u_k的网络数量。

t_ik为用户u_i对u_k的可信度计算公式，具体如公式(4)所示：

$t_{ik}=\sqrt{\frac{\left|N^{-}\left(u_k\right)\right|}{\left|N^{+}\left(u_i\right)\right|+\left|N^{-}\left(u_k\right)\right|}}---\left(4\right)$

其中N^-(u_k)是在整个社会化网络中信任用户u_k的用户集合，即将u_k作为邻居的用户集合，|N^-(u_k)|是用户u_k的入度，即信任用户u_k的用户集合大小；N⁺(u_i)是用户u_i在整个社会化网络中的邻居集合，|N⁺(u_i)|是用户u_i的出度，即用户u_i的邻居集合大小。

2.2间接信任度计算

若用户u_i和u_k之间存在间接信任关系，则间接信任度值如公式(5)所示：

${\mathrm{IDT}}_{u_i->u_k}=\mathrm{\&beta;}\&CenterDot;{\mathrm{is}}_{ik}+(1-\mathrm{\&beta;})\&CenterDot;t_{ik},0<\mathrm{\&beta;}<1---\left(5\right)$

其中，β为间接相关度在信任度计算中所占的权重，is_ik为用户u_i对u_k的间接相关度，具体公式如(6)所示：

${\mathrm{is}}_{ik}=\frac{|N^{+}\left(u_i\right)\&cap;N^{+}\left(u_k\right)|}{\left|N^{+}\left(u_i\right)\right|}---\left(6\right)$

其中|N⁺(u_i)∩N⁺(u_k)|为用户u_i和u_k在整个移动社会化网络中的共同邻居数量。t_ik为用户u_i对u_k的可信度，具体如公式(4)所示。

3.基于联合概率矩阵分解算法UPMF的移动社会化推荐

本发明采用联合概率矩阵分解算法UPMF，结合步骤1求得的评分矩阵R＝[r_ij]_m×n和步骤2求得的信任矩阵S＝[s_ik]_m×m进行联合推荐，其中m为用户的数量，n为服务的数量。R可以分解为用户因子矩阵U∈R^l×m的转置和服务因子矩阵V∈R^l×n的乘积，S可以分解为用户因子矩阵U的转置和信任因子矩阵Z∈R^l×m的乘积，R和S共享用户因子矩阵U，其中R^i×j代表i×j的矩阵。U_i为U的第i列，V_j为V的第j列，Z_k为Z的第k列，通过求解U_i和V_j重构得到评分矩阵R中空缺的r_ij，进而完成推荐。

具体步骤如下：

(1)求解潜在特征向量U_i和V_j

本方法以最大化联合后验概率为目标函数，基于梯度下降方法学习得到用户潜在特征向量U_i和服务潜在特征向量V_j。

具体步骤如下：

1)假设U_i，V_j和Z_k先验概率服从高斯分布且相互独立，即：

$p\left(U\right|{\mathrm{\&sigma;}}_U^2)=\underset{i=1}{\overset{m}{\&Pi;}}N\left(U_i\right|0,{\mathrm{\&sigma;}}_U^{2}I)---\left(7\right)$

$p\left(V\right|{\mathrm{\&sigma;}}_V^2)=\underset{j=1}{\overset{n}{\&Pi;}}N\left(V_j\right|0,{\mathrm{\&sigma;}}_V^{2}I)---\left(8\right)$

$p\left(Z\right|{\mathrm{\&sigma;}}_Z^2)=\underset{k=1}{\overset{m}{\&Pi;}}N\left(Z_k\right|0,{\mathrm{\&sigma;}}_Z^{2}I)---\left(9\right)$

其中N(x|μ,σ²)表示均值为μ，方差为σ²的高斯分布的概率密度函数，I表示单位矩阵。

2)基于假设的潜在特征向量，分别求解R和S的条件概率分布

在给定用户u_i、服务v_j的潜在特征向量U_i，V_j后，用户u_i对服务v_j的评分值r_ij满足均值为方差为的正态分布且相互独立。评分矩阵R的条件概率分布如公式(10)所示：

$p\left(R\right|U,V,{\mathrm{\&sigma;}}_R^2)=\underset{i=1}{\overset{m}{\&Pi;}}\underset{j=1}{\overset{n}{\&Pi;}}{\&lsqb;N\left(r_{ij}\right|g\left(U_i^T{V}_j\right),{\mathrm{\&sigma;}}_R^2)\&rsqb;}^{I_{ij}^R}---\left(10\right)$

其中是指示函数，当用户u_i评分过服务v_j，否则，g(x)＝1/(1+e^-x)是逻辑斯蒂函数，将值映射到[0,1]。

同理，在给定潜在特征向量U_i，Z_k后，信任矩阵S的条件概率分布如公式(11)所示：

$p\left(S\right|U,Z,{\mathrm{\&sigma;}}_S^2)=\underset{i=1}{\overset{m}{\&Pi;}}\underset{k=1}{\overset{n}{\&Pi;}}{\&lsqb;N\left(s_{ik}\right|g\left(U_i^T{Z}_k\right),{\mathrm{\&sigma;}}_S^2)\&rsqb;}^{I_{ik}^S}---\left(11\right)$

其中，是指示函数，当用户u_i与z_k有关联关系时，否则，

3)以最大化联合后验概率为目标函数

求解U，V，Z的后验分布函数。具体公式如(12)所示：

$\begin{array}{c}\ln p(U,V,Z|S,R,{\mathrm{\&sigma;}}_S^2,{\mathrm{\&sigma;}}_R^2,{\mathrm{\&sigma;}}_U^2,{\mathrm{\&sigma;}}_V^2,{\mathrm{\&sigma;}}_Z^2)=\\ -\frac{1}{2{\mathrm{\&sigma;}}_R^2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_S^2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_U^2}\underset{i=1}{\overset{m}{\&Sigma;}}{U}_i^T{U}_i--\frac{1}{2{\mathrm{\&sigma;}}_V^2}\underset{j=1}{\overset{n}{\&Sigma;}}{V}_j^T{V}_j--\frac{1}{2{\mathrm{\&sigma;}}_Z^2}\underset{k=1}{\overset{m}{\&Sigma;}}{Z}_k^T{Z}_k\\ -\frac{1}{2}\left(\right(\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R){\mathrm{ln\&sigma;}}_R^2+(\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S\left){\mathrm{ln\&sigma;}}_S^2\right)\\ -\frac{1}{2}(ml{\mathrm{ln\&sigma;}}_U^2+nl{\mathrm{ln\&sigma;}}_V^2+ml{\mathrm{ln\&sigma;}}_Z^2)+C\end{array}---\left(12\right)$

其中，C是常量。最大化公式(12)可视为无约束优化问题，最小化公式(13)等价于最大化公式(12)：

$\begin{array}{c}E(R,S,U,V,Z)=\\ \frac{1}{2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2+\frac{{\mathrm{\&lambda;}}_S}{2}\underset{i=1}{\overset{m}{\&Sigma;}}\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ +\frac{{\mathrm{\&lambda;}}_U}{2}\left|\right|U|{|}_F^2+\frac{{\mathrm{\&lambda;}}_V}{2}|\left|V\right|{|}_F^2+\frac{{\mathrm{\&lambda;}}_Z}{2}\left|\right|Z|{|}_F^2\end{array}---\left(13\right)$

其中 ${\mathrm{\&lambda;}}_S={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_S^2,{\mathrm{\&lambda;}}_U={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_U^2,{\mathrm{\&lambda;}}_V={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_V^2,{\mathrm{\&lambda;}}_Z={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_Z^2,$ ||·||_F是弗罗贝尼乌斯范数。

4)基于梯度下降法求解潜在特征向量

公式(13)的局部最小值可由梯度下降法求得。参数U_i，V_j，Z_k的梯度下降公式如下所示：

$\begin{array}{c}\frac{\&part;E}{\&part;U_i}=\underset{j=1}{\overset{n}{\&Sigma;}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})V_j\\ +{\mathrm{\&lambda;}}_S\underset{k=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})Z_k+{\mathrm{\&lambda;}}_U{U}_i\end{array}---\left(14\right)$

$\frac{\&part;E}{\&part;V_j}=\underset{i=1}{\overset{m}{\&Sigma;}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})U_i+{\mathrm{\&lambda;}}_V{V}_j---\left(15\right)$

$\frac{\&part;E}{\&part;Z_k}={\mathrm{\&lambda;}}_S\underset{i=1}{\overset{m}{\&Sigma;}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})U_i+{\mathrm{\&lambda;}}_Z{Z}_k---\left(16\right)$

(2)根据潜在特征向量U_i和V_j重构得到r_ij

根据用户潜在特征向量U_i和服务潜在特征向量V_j，采用公式(17)重构得到r_ij；

$r_{ij}=U_i^T{V}_j---\left(17\right)$

(3)根据重构得到的评分矩阵进行服务推荐

根据步骤(2)补全评分矩阵中的空缺项，并依据评分值大小向目标用户推荐相应的服务。

Claims (1)

1.基于联合概率矩阵分解UPMF的移动社会化推荐方法，具体步骤如下：

步骤1.基于用户评分信息构建评分矩阵；

采用整型评分值1到R_max表示用户的喜欢程度，为了不失一般性，将整型评分值映射到[0,1]区间，具体计算公式如(1)所示：

r_ij＝f(R_ij)＝(R_ij-1)/(R_max-1)(1)

其中R_ij代表移动用户u_i对服务s_j的整型评分值，r_ij是映射得到的评分值，r_ij∈[0,1]；

步骤2.基于用户社会化网络信息构建信任矩阵；

提出一种符合群组结构特点的信任度计算方法，包含直接信任度和间接信任度的计算；假设目标用户u₁创建了群组msn₁₁，并添加u₂、u₃、u₄作为其群组成员，则认为用户u₁和u₂、u₃、u₄之间存在直接信任关系，u₂、u₃、u₄是用户u₁的邻居；同理，假设用户u₅创建了群组msn₅₁，并添加u₃、u₄作为其群组成员，则u₃、u₄是用户u₅的邻居；尽管用户u₁和u₅之间没有直接信任关系，但存在共同的邻居u₃和u₄，则认为u₁和u₅之间存在间接信任关系，即u₁和u₅互为间接邻居；

相关概念定义如下：

相关度：用户之间的相关度主要依赖于用户之间是否具有直接或间接信任关系，若用户之间具有直接信任关系，则其(直接)相关度取决于邻居在目标用户所有创建的移动网络中出现的频率；若用户之间具有间接信任关系，则其(间接)相关度取决于用户双方共同好友的比例；

可信度：用户的可信度指用户在整个移动社会化网络中的可信程度，若用户的邻居数量越多，则其可信度越低，反之，若用户作为他人邻居的次数越多，则其可信度越高；

21.直接信任度计算；

若用户u_i和u_k之间存在直接信任关系，即u_k是u_i的邻居，则直接信任度值如公式(2)所示：

${\mathrm{DT}}_{u_i->u_k}=\mathrm{\&alpha;}\&CenterDot;{\mathrm{ds}}_{ik}+(1-\mathrm{\&alpha;})\&CenterDot;t_{ik},0<\mathrm{\&alpha;}<1---\left(2\right)$

其中，α为直接相关度在信任度计算中所占的权重，ds_ik为用户u_i对u_k的直接相关度，具体公式如(3)所示：

${\mathrm{ds}}_{ik}=\frac{\left|{\mathrm{msn}}_{u_k\&Element;{\mathrm{msn}}_i}\right|}{\left|{\mathrm{msn}}_i\right|}---\left(3\right)$

其中|msn_i|是用户u_i创建的移动社会化网络数量，是用户u_i创建的移动社会化网络中包含用户u_k的网络数量；

t_ik为用户u_i对u_k的可信度计算公式，具体如公式(4)所示：

$t_{ik}=\sqrt{\frac{\left|N^{-}\left(u_k\right)\right|}{\left|N^{+}\left(u_i\right)\right|+\left|N^{-}\left(u_k\right)\right|}}---\left(4\right)$

其中N^-(u_k)是在整个社会化网络中信任用户u_k的用户集合，即将u_k作为邻居的用户集合，|N^-(u_k)|是用户u_k的入度，即信任用户u_k的用户集合大小；N⁺(u_i)是用户u_i在整个社会化网络中的邻居集合，|N⁺(u_i)|是用户u_i的出度，即用户u_i的邻居集合大小；

22.间接信任度计算；

若用户u_i和u_k之间存在间接信任关系，则间接信任度值如公式(5)所示：

${\mathrm{IDT}}_{u_i->u_k}=\mathrm{\&beta;}\&CenterDot;{\mathrm{is}}_{ik}+(1-\mathrm{\&beta;})\&CenterDot;t_{ik},0<\mathrm{\&beta;}<1---\left(5\right)$

其中，β为间接相关度在信任度计算中所占的权重，is_ik为用户u_i对u_k的间接相关度，具体公式如(6)所示：

${\mathrm{is}}_{ik}=\frac{|N^{+}\left(u_i\right)\&cap;N^{+}\left(u_k\right)|}{\left|N^{+}\left(u_i\right)\right|}---\left(6\right)$

其中|N⁺(u_i)∩N⁺(u_k)|为用户u_i和u_k在整个移动社会化网络中的共同邻居数量；t_ik为用户u_i对u_k的可信度，具体如公式(4)所示；

步骤3.基于联合概率矩阵分解算法UPMF的移动社会化推荐；

采用联合概率矩阵分解算法UPMF，结合步骤1求得的评分矩阵R＝[r_ij]_m×n和步骤2求得的信任矩阵S＝[s_ik]_m×m进行联合推荐，其中m为用户的数量，n为服务的数量；R可以分解为用户因子矩阵U∈R^l×m的转置和服务因子矩阵V∈R^l×n的乘积，S可以分解为用户因子矩阵U的转置和信任因子矩阵Z∈R^l×m的乘积，R和S共享用户因子矩阵U，其中R^i×j代表i×j的矩阵。U_i为U的第i列，V_j为V的第j列，Z_k为Z的第k列，通过求解U_i和V_j重构得到评分矩阵R中空缺的r_ij，进而完成推荐；

具体步骤如下：

(31)求解潜在特征向量U_i和V_j；

以最大化联合后验概率为目标函数，基于梯度下降方法学习得到用户潜在特征向量U_i和服务潜在特征向量V_j；

具体步骤如下：

S1.假设U_i，V_j和Z_k先验概率服从高斯分布且相互独立，即：

$p\left(U\right|{\mathrm{\&sigma;}}_U^2)=\underset{i=1}{\overset{m}{\mathrm{\&Pi;}}}N\left(U_i\right|0,{\mathrm{\&sigma;}}_U^{2}I)---\left(7\right)$

$p\left(V\right|{\mathrm{\&sigma;}}_V^2)=\underset{j=1}{\overset{m}{\mathrm{\&Pi;}}}N\left(V_j\right|0,{\mathrm{\&sigma;}}_V^{2}I)---\left(8\right)$

$p\left(Z\right|{\mathrm{\&sigma;}}_Z^2)=\underset{k=1}{\overset{m}{\mathrm{\&Pi;}}}N\left(Z_k\right|0,{\mathrm{\&sigma;}}_Z^{2}I)---\left(9\right)$

其中N(x|μ,σ²)表示均值为μ，方差为σ²的高斯分布的概率密度函数，I表示单位矩阵；

S2.基于假设的潜在特征向量，分别求解R和S的条件概率分布；

在给定用户u_i、服务v_j的潜在特征向量U_i，V_j后，用户u_i对服务v_j的评分值r_ij满足均值为方差为的正态分布且相互独立；评分矩阵R的条件概率分布如公式(10)所示：

$p\left(R\right|U,V,{\mathrm{\&sigma;}}_R^2)=\underset{i=1}{\overset{m}{\mathrm{\&Pi;}}}\underset{j=1}{\overset{n}{\mathrm{\&Pi;}}}{\&lsqb;N\left(r_{ij}\right|g\left(U_i^T{V}_j\right),{\mathrm{\&sigma;}}_R^2)\&rsqb;}^{I_{lj}^R}---\left(10\right)$

其中是指示函数，当用户u_i评分过服务v_j，否则，g(x)＝1/(1+e^-x)是逻辑斯蒂函数，将值映射到[0,1]；

同理，在给定潜在特征向量U_i，Z_k后，信任矩阵S的条件概率分布如公式(11)所示：

$p\left(S\right|U,Z,{\mathrm{\&sigma;}}_S^2)=\underset{i=1}{\overset{m}{\mathrm{\&Pi;}}}\underset{k=1}{\overset{m}{\mathrm{\&Pi;}}}{\&lsqb;N\left(s_{ik}\right|g\left(U_i^T{Z}_k\right),{\mathrm{\&sigma;}}_S^2)\&rsqb;}^{I_{ik}^S}---\left(11\right)$

其中，是指示函数，当用户u_i与z_k有关联关系时，否则，

S3.以最大化联合后验概率为目标函数

求解U，V，Z的后验分布函数；具体公式如(12)所示：

$\begin{array}{c}\ln p(U,V,Z|S,R,{\mathrm{\&sigma;}}_S^2,{\mathrm{\&sigma;}}_R^2,{\mathrm{\&sigma;}}_U^2,{\mathrm{\&sigma;}}_V^2,{\mathrm{\&sigma;}}_Z^2)=\\ -\frac{1}{2{\mathrm{\&sigma;}}_R^2}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_S^2}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{k=1}{\overset{m}{\mathrm{\&Sigma;}}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ -\frac{1}{2{\mathrm{\&sigma;}}_U^2}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}{U}_i^T{U}_i-\frac{1}{2{\mathrm{\&sigma;}}_V^2}\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{V}_j^T{V}_j-\frac{1}{2{\mathrm{\&sigma;}}_Z^2}\underset{k=1}{\overset{m}{\mathrm{\&Sigma;}}}{Z}_k^T{Z}_k\\ -\frac{1}{2}\left(\right(\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{I}_{ij}^R){\mathrm{ln\&sigma;}}_R^2+\left(\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{k=1}{\overset{m}{\mathrm{\&Sigma;}}}{I}_{ik}^S\right){\mathrm{ln\&sigma;}}_S^2)\\ =\frac{1}{2}(ml{\mathrm{ln\&sigma;}}_U^2+nl{\mathrm{ln\&sigma;}}_V^2+ml{\mathrm{ln\&sigma;}}_Z^2)+C\end{array}---\left(12\right)$

其中，C是常量；最大化公式(12)可视为无约束优化问题，最小化公式(13)等价于最大化公式(12)：

$\begin{array}{c}E(R,S,U,V,Z)=\\ \frac{1}{2}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{I}_{ij}^R{(r_{ij}-g(U_i^T{V}_j\left)\right)}^2+\frac{{\mathrm{\&lambda;}}_S}{2}\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}\underset{k=1}{\overset{m}{\mathrm{\&Sigma;}}}{I}_{ik}^S{(s_{ik}-g(U_i^T{Z}_k\left)\right)}^2\\ +\frac{{\mathrm{\&lambda;}}_U}{2}\left|\right|U|{|}_F^2+\frac{{\mathrm{\&lambda;}}_V}{2}|\left|V\right|{|}_F^2+\frac{{\mathrm{\&lambda;}}_Z}{2}\left|\right|Z|{|}_F^2\end{array}---\left(13\right)$

其中 ${\mathrm{\&lambda;}}_S={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_S^2,{\mathrm{\&lambda;}}_U={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_U^2,{\mathrm{\&lambda;}}_V={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_V^2,{\mathrm{\&lambda;}}_Z={\mathrm{\&sigma;}}_R^2/{\mathrm{\&sigma;}}_Z^2,$ ||·||_F是弗罗贝尼乌斯范数；

S4.基于梯度下降法求解潜在特征向量；

公式(13)的局部最小值可由梯度下降法求得；参数U_i，V_j，Z_k的梯度下降公式如下所示：

$\begin{array}{c}\frac{\&part;E}{\&part;U_i}=\underset{j=1}{\overset{n}{\mathrm{\&Sigma;}}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})V_j\\ +{\mathrm{\&lambda;}}_S\underset{k=1}{\overset{m}{\mathrm{\&Sigma;}}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})Z_k+{\mathrm{\&lambda;}}_U{U}_i\end{array}---\left(14\right)$

$\frac{\&part;E}{\&part;V_j}=\underset{i=1}{\overset{m}{\&Sigma;}}{I}_{ij}^R{g}^{\&prime;}\left(U_i^T{V}_j\right)\left(g\right(U_i^T{V}_j)-r_{ij})U_i+{\mathrm{\&lambda;}}_V{V}_j---\left(15\right)$

$\frac{\&part;E}{\&part;Z_k}={\mathrm{\&lambda;}}_S\underset{i=1}{\overset{m}{\mathrm{\&Sigma;}}}{I}_{ik}^S{g}^{\&prime;}\left(U_i^T{Z}_k\right)\left(g\right(U_i^T{Z}_k)-s_{ik})U_i+{\mathrm{\&lambda;}}_Z{Z}_k---\left(16\right)$

(32)根据潜在特征向量U_i和V_j重构得到r_ij；

根据用户潜在特征向量U_i和服务潜在特征向量V_j，采用公式(17)重构得到r_ij；

$r_{ij}=U_i^T{V}_j---\left(17\right)$

(33)根据重构得到的评分矩阵进行服务推荐

根据步骤(32)补全评分矩阵中的空缺项，并依据评分值大小向目标用户推荐相应的服务。