CN112883289A - 一种基于社交信任和标签语义相似度的pmf推荐方法 - Google Patents

Abstract

本发明公开了一种基于社交信任和标签语义相似度的PMF推荐方法，属于信息处理技术领域。其包括：初始化用户潜在特征矩阵和项目潜在特征矩阵；计算用户之间的信任值，确定每个用户的可信用户集；计算项目之间相似度，确定每个项目的可信项目集；迭代计算，得到最终的用户潜在特征矩阵、项目潜在特征矩阵以及损失函数值；根据用户‑项目评分预测矩阵向用户推荐项目。本方法基于用户和对物品特征进行评分预测的推荐模型进行改进，增加了用户交互行为以及项目之间的关系表达，挖掘用户评分以外社交关系和标签信息，增强了推荐模型的鲁棒性以及个性化适应能力。

Description

一种基于社交信任和标签语义相似度的PMF推荐方法

技术领域

本发明涉及信息处理技术领域，特别是指一种基于社交信任和标签语义相似度的PMF推荐方法。

背景技术

随着互联网逐渐融入人们的日常生活，传统的搜索引擎已经无法满足人们的需求，为了快速并准确地预测用户的喜好，推荐系统扮演了一个很重要的角色，帮助用户能够在海量的数据中寻找自己喜欢的物品。近年来涌现了如Facebook、Twitter、微博等大批的社交网络平台，用户时常在社交平台上进行在线交流和信息分享活动。便捷的社交媒体使得网络用户之间交互地更加频繁，这使得用户在现实生活中的社交关系逐渐向社交网络转变，通常情况下，一个人的喜好很容易受到其好友的影响，那么用户在社交网络上的行为会直接或间接影响其在Web上的行为。用户之间的偏好如果越相似，那么他们两个的信任度便越高。社交网络已经被作为推荐系统的良好信息资源，信任信息的整合可以有效缓解冷启动问题。在许多社交系统中，用户不仅会分享自己的偏好信息，还会给感兴趣的内容贴上各种标签。标签信息不仅可以看出用户的喜好，还可以是直接反映出项目的具体描述内容，可以是有趣和有用的信息，因此，标签可以是非常重要辅助信息，可以用来增强推荐系统的性能。标签信息的深度挖掘对于人们快速、准确地获取所需内容具有重要意义。

然而，目前的推荐系统仍然面临以下问题：

(1)现阶段推荐系统的推荐主要以采集用户的评分数据为主，但是由于有些用户出于不愿意泄露自己的隐私的担忧或者不愿意浪费自己的时间因此不愿意留下评分，从而导致数据的稀疏性。

(2)概率矩阵分解模型(Probabilistic Matrix Factorization，PMF)因具有推荐精度高、可扩展等特点，在推荐系统中取得了一定的成果。但是，PMF是基于用户-项目评分，其忽略了用户以及项目之间的隐含联系和区别，因而面临数据稀疏和冷启动的问题。

(3)传统的推荐方法没有过多的考虑用户的社交关系和标签信息，现有的推荐算法大多采用0-1两值信任，不能准确描述用户之间的信任程度。而对于标签信息的处理，并没有充分挖掘标签的语义信息。

发明内容

有鉴于此，本发明提出一种基于社交信任和标签语义相似度的PMF推荐方法，该方法融合了用户社交信任和项目标签语义相似度，可以利用隐式交互信息来进行预测推荐，能够增强推荐模型的鲁棒性以及个性化适应能力。

基于上述目的，本发明提供的技术方案是：

一种基于社交信任和标签语义相似度的PMF推荐方法，包括以下步骤：

步骤1，初始化用户潜在特征矩阵和项目潜在特征矩阵；

步骤2，计算用户之间的信任值，确定每个用户的可信用户集；

步骤3，计算项目之间相似度，确定每个项目的可信项目集；

步骤4，迭代执行步骤4.1-4.4，得到最终的用户潜在特征矩阵、项目潜在特征矩阵以及损失函数值；

步骤4.1，根据信任值和可信用户集，构建用户潜在特征矩阵；

步骤4.2，根据相似度和相似项目集合，构建项目潜在特征矩阵；

步骤4.3，计算本次迭代对应的损失函数值，并更新用户潜在特征矩阵和项目潜在特征矩阵；

步骤4.4，当测试均方根误差RMSE连续3次不再下降，或迭代次数达到100，则停止迭代；

步骤5，根据步骤4得到的最终的用户潜在特征矩阵、项目潜在特征矩阵计算用户-项目评分预测矩阵，根据用户-项目评分预测矩阵向用户推荐项目。

从上面的叙述可以看出，本发明技术方案的有益效果在于：

1、使用本方法，当缺少用户显式评分信息时，可以利用隐式交互信息来进行预测推荐。

2、本方法基于用户和对项目特征进行评分预测的推荐模型进行改进，增加了用户交互行为以及项目之间的关系表达，挖掘用户评分以外社交关系和标签信息，增强了推荐模型的鲁棒性以及个性化适应能力。

附图说明

为了更加清楚地描述本专利，下面提供一幅或多幅附图，这些附图旨在对本专利的背景技术、技术原理和/或某些具体实施方案做出辅助说明。

图1是本发明实施例中的用户社交网络。

图2是本发明实施例中的Sentence-BERT框架图。

图3是本发明实施例中的方法流程示意图。

图4是本发明实施例中的PMF-STTS模型图。

具体实施方式

为了便于本领域技术人员对本专利技术方案的理解，同时，为了使本专利的技术目的、技术方案和有益效果更加清楚，并使权利要求书的保护范围得到充分支持，下面以具体案例的形式对本专利的技术方案做出进一步的、更详细的说明。

一种基于社交信任和标签语义相似度的PMF推荐方法，包括以下步骤：

步骤1，初始化用户潜在特征矩阵和项目潜在特征矩阵；

步骤2，计算用户之间的信任值，确定每个用户的可信用户集；

步骤3，计算项目之间相似度，确定每个项目的可信项目集；

步骤4，迭代执行步骤4.1-4.4，得到最终的用户潜在特征矩阵、项目潜在特征矩阵以及损失函数值；

步骤4.1，根据信任值和可信用户集，构建用户潜在特征矩阵；

步骤4.2，根据相似度和相似项目集合，构建项目潜在特征矩阵；

步骤4.3，计算本次迭代对应的损失函数值，并更新用户潜在特征矩阵和项目潜在特征矩阵；

步骤4.4，当测试均方根误差RMSE连续3次不再下降，或迭代次数达到100，则停止迭代；

步骤5，根据步骤4得到的最终的用户潜在特征矩阵、项目潜在特征矩阵计算用户-项目评分预测矩阵，根据用户-项目评分预测矩阵向用户推荐项目。例如，向用户推荐评分前三的项目。

最后，还可通过均方根误差RMSE衡量推荐精度。

下面对该方法的原理进行详细说明。

为了方便说明，本方法的主要符号含义如下表所示：

符号	含义
		u	用户
v	项目
		R	用户-项目评分矩阵
U	用户潜在因子特征矩阵
		V	项目潜在因子特征矩阵
K	潜在因子特征个数
		T	用户信任矩阵
S	标签相似度矩阵

首先建立基于隐式评分的概率矩阵分解模型：

假设R有m行n列，其i行j列的元素R_ij表示用户u_i对项目v_j的喜好程度(即用户u_i给项目v_j的打分)。R_ij的计算方式如下：

R_ij＝h(f(u_i,v_j)) (1)

其中，f(u_i,v_j)表示用户u_i交互过项目v_j的次数。h(x)为逻辑函数，计算方式如下：

max表示各f(u_i,v_j)中的最大值，min表示各f(u_i,v_j)中的最小值。

假定用户的潜在因子特征矩阵U服从均值为0，方差为

的高斯分布，项目的特征矩阵V服从均值0，方差为

的高斯分布，则可得出以下公式：

其中，N(x|0,σ²)表示变量x服从均值为0，方差为σ²的高斯分布。

假设真实评分和预测评分之差符合均值为0，方差为

的高斯分布，那么有如下概率分布：

通过平移有：

因此，评分矩阵R的条件概率如下：

其中，R_ij代表真实评分，

为预测评分，

即将x映射到[0,1]之间，I_ij代表用户与项目是否交互过，若用户u_i交互过项目v_j，则为1，否则为0。

假设用户潜在因子特征向量矩阵U和项目潜在因子特征向量矩阵V相互独立，则可以通过贝叶斯公式得到R、U、V联合分布概率：

接下来，改进用户社交信任：

图1为用户的社交网络，其中u₁建立一种社会关系，包括朋友圈的朋友u₂、u₃和u₄。一般来说，用户的社会行为往往会受到好友的影响。因此，用户朋友接触过的物品，他往往也会对其感兴趣，虽然u₁和u₅并没有直接的朋友信任关系，但是他们之间有共同的好友u₂和u₄，因此他们之间也会有一定的相似程度。因此，用户u_i之间的好友关系计算方法如下所示：

其中，N⁺(u_i)和N⁺(u_p)分别代表用户u_i和u_p的好友集合。

在图1中，u₁、u₄和u₅之间共同交互过项目v₂，u₂与u₄共同交互过项目v₄。交互过共同项目的用户之间可能存在着相同的偏好，用户之间交互过共同项目越多，则他们的偏好就越相似。相同过滤的核心就是相似度的衡量。目前，不少研究学者已经提出了一些衡量用户社会关联程度的方法，其中，皮尔逊相关系数(Pearson correlation coefficient，PCC)是常用的测量用户间的相似性的方法。然而，PCC不适合稀疏矩阵和隐式评分的情况下。

本方法中使用Jaccard系数来计算用户之间的偏好相似度，计算公式如下：

其中，N(u_i)、N(u_p)分别代表用户u_i和u_p交互过的项目集合。

用户的社会关系是建立在用户的相似性地基础上，用户是推荐系统的主体，如果不能很好地描述用户的特征，就不能为其提供理性的服务。在图1中，不同的用户在不同的项目上标注了不同的标签，在用户感兴趣的项目上添加社会化标签的过程就是用描述他们的兴趣和偏好的过程。用户之间的行为相似度，可以通过标注的公共的标签来计算，计算方法如下：

其中，|I_ip|代表用户u_i和u_p标注相同的标签个数，|I_i|代表用户u_i标注的标签个数，|I_p|代表用户u_p标注的标签个数。

基于以上描述，提出一种新的社交网络信任关系，该信任利用用户朋友关系、用户偏好相似度和行为相似度来计算用户之间的信任。计算公式如下所示：

T_ip＝αTF_ip+βW_ip+γTagS_ip (10)

其中，α,β,γ∈[0,1]，α+β+γ＝1

进一步的，融合用户社交信任的概率矩阵分解模型：

假设用户的潜在因子特征矩阵U受其信任用户u_p(p∈N_i)的影响，则用户的估计特征向量计算方法如公式(11)所示：

其中：

为用户i的估计特征向量，T_ip为用户u_i和用户u_p之间的信任值，N_i为用户的信任用户集合。

假设用户的信任矩阵T服从均值为0，方差为

的高斯分布，则有：

与PMF模型不同的是，影响用户的潜在特征生成的因素有两个：一是用户潜在特征向量符合均值为0的高斯分布；二是用户可信任邻居所提供的潜在特征符合均值为0的高斯分布。因此，用户特征向量的条件分布如下所示：

下面，改进的项目相似度：

由于项目是以信息资源的形式存在于互联网上，用户无法对项目有直接真实的感受，项目描述的内容和质量将直接影响用户的行为。用户通过社会化标签标注的物品描述，可以直接反映用户使用之后的兴趣和体验。当项目被多个用户标记时，项目的标签描述了社会化，包含了用户的多维特征。

自从2013年分布式词向量出现以来，基于深度学习的方法在语义文本相似度领域产生了许多优秀的改进，Reimers在BERT的基础上提出了Sentence-BERT(SBERT)，对预先训练的BERT进行改进利用孪生网络和三元组网络结构可以充分获得句子语义向量。Sentence-BERT总体架构如图2所示，在使用模型之前，需要使用SNLI和NLI数据集对BERT和Roberta进行微调，得到SBERT预训练模型。图2显示了对模型进行预训后，使用标签向量来计算两个标签向量之间的相似度，其中s1和s2分别表示两个输入的标签的向量表示。

为了计算项目之间的相似度，本方法提出了一种基于Sentence-BERT的标签语义相似度和标签权重的项目相似度计算方法。其计算步骤如下：

第一步：根据项目的社会化资源描述框架，该框架可以描述为：

项目A：{标签1，标签2，标签3，…，标签m}

项目B：{标签1，标签2，标签3，…，标签n}

其中，“标签”为用户所标记的有效标签。

第二步：利用Sentence-BERT计算标签之间的语义相似度，计算方式如下所示：

sim[i][j]＝SBERT(item_A[i],item_B[j]) (14)

其中，item_A[i]]代表用户给项目A标注的标签i，item_B[i]代表用户给项目B标注的标签j。

第三步：计算项目框架中每个标签的权重，计算方法如下所示：

其中，num代表标签在物品的社会化资源框架中的用户标记次数，total表示用户标注项目所有标签的次数。

第四步：选择最大的语义相似度标签对，每个标签只能使用一次。如果m>n，即依次选出项目B的标签和项目A中所有标签进行匹配，选出最大的数值。否则，依次根据项目A的标签与项目B中所有标签进行匹配。最终，选择出min(m,n)对标签。

第五步：根据选择的标签对计算项目之间的相似度，计算方法如下所示：

其中，ω_i和ω_j分别代表标签i和j在项目A和B的社会化资源框架中的比重。

相似的项目其潜在的特征向量也具有相似的属性。因此，项目的潜在特征向量的估计会受到其相似项目的影响，其计算方式如下所示：

其中，S_kj代表项目V_k和V_j之间的相似度，N_j代表项目v_j的相似项目的集合。

假设项目相似度矩阵服从均值为0的高斯分布，则可以得到公式(18)：

影响物品的潜在特征向量生成的因素有两个：一是物品的潜在特征向量符合均值为0的高斯分布；另一个是该项目的相似项目提供的潜在特征向量服从均值为0的高斯分布。因此，项目的特征向量的条件分布如公式(19)所示：

融合用户信任和标签信息的模型的后验分布的log函数，如公式(20)所示：

则目标函数如公式(21)所示：

式中：

该模型使用梯度下降算法来更新变量U_i和V_j，如公式(22)和(23)所示：

其中，

对U_i和V_j进行梯度下降法迭代时满足公式(24)和(25)：

其中，η是学习速率，它用于控制每次迭代中值变化的大小。当迭代结束时，可以得到相应的用户和项目特征矩阵，并通过它们预测项目得分。

总之，本发明提出了一种融合用户社交信任和项目标签语义相似度的PMF模型(Probability Matrix Factorization with Social Trust and Tag Semantic,PMF-STTS)。首先，利用用户的朋友关系、偏好信息和标签行为信息构建一种新的信任社交网络。然后，通过Sentence-BERT计算项目标签之间的语义相似度，依次选出最大相似度的标签对，并添加每个标签的权重，从而计算出项目之间的相似度。最后，在概率矩阵分解过程中将社交网络信任和项目相似度融入到隐式评分数据，计算用户和项目的潜在特征向量以预测评分并进行个性化推荐。

使用本方法，当缺少用户显式评分信息时，可以利用隐式交互信息来进行预测推荐。此外，本方法基于用户和对物品特征进行评分预测的推荐模型进行改进，增加了用户交互行为以及项目之间的关系表达，挖掘用户评分以外社交关系和标签信息，增强了推荐模型的鲁棒性以及个性化适应能力。

需要理解的是，上述对于本专利具体实施方式的叙述仅仅是为了便于本领域普通技术人员理解本专利方案而列举的示例性描述，并非暗示本专利的保护范围仅仅被限制在这些个例中，本领域普通技术人员完全可以在对本专利技术方案做出充分理解的前提下，以不付出任何创造性劳动的形式，通过对本专利所列举的各个例采取组合技术特征、替换部分技术特征、加入更多技术特征等等方式，得到更多的具体实施方式。所有这些具体实施方式均在本专利权利要求书的涵盖范围之内。

Claims (1)

1.一种基于社交信任和标签语义相似度的PMF推荐方法，其特征在于，包括以下步骤：

步骤1，初始化用户潜在特征矩阵和项目潜在特征矩阵；

步骤2，计算用户之间的信任值，确定每个用户的可信用户集；

步骤3，计算项目之间相似度，确定每个项目的可信项目集；

步骤4，迭代执行步骤4.1-4.4，得到最终的用户潜在特征矩阵、项目潜在特征矩阵以及损失函数值；

步骤4.1，根据信任值和可信用户集，构建用户潜在特征矩阵；

步骤4.2，根据相似度和相似项目集合，构建项目潜在特征矩阵；

步骤4.3，计算本次迭代对应的损失函数值，并更新用户潜在特征矩阵和项目潜在特征矩阵；

步骤4.4，当测试均方根误差连续3次不再下降，或迭代次数达到100，则停止迭代；

步骤5，根据步骤4得到的最终的用户潜在特征矩阵、项目潜在特征矩阵计算用户-项目评分预测矩阵，根据用户-项目评分预测矩阵向用户推荐项目。

Images