CN107506419B - 一种基于异质上下文感知的推荐方法 - Google Patents

Abstract

本发明公开了一种基于异质上下文感知的推荐方法，其特征在于，包括如下步骤：1）：获取用户‑项目的评分矩阵、交互上下文信息和属性上下文信息；2）：基于张量分解技术构建交互上下文评分预测函数和交互上下文感知模型；3）：基于矩阵分解技术构建属性上下文评分预测函数和属性上下文感知模型；4）：交互上下文感知模型和属性上下文感知模型进行半监督协同训练；5）：交互上下文感知模型和属性上下文感知模型进行权值融合评分，然后根据评分进行推荐。本发明不仅能够感知属性上下文信息和交互上下文信息对推荐的影响，而且能够缓解推荐系统的数据稀疏性问题，提升推荐的准确率。

Description

一种基于异质上下文感知的推荐方法

技术领域

本发明涉及推荐系统领域，尤其涉及一种基于异质上下文感知的推荐方法。

背景技术

在传统协同过滤推荐系统领域中，往往只注重用户或项目之间相似性关系或“用户-项目”交互关系，然而这些经常容易受到数据稀疏问题的影响。事实上，上下文信息也影响着推荐系统，例如有人偏向于早晨阅读，职员偏向于在公司附近吃午餐。因此将这些上下文信息融入到推荐系统中，可以缓解推荐系统的数据稀疏性问题，以及提升推荐的准确率。

上下文信息往往可以被分为两类，第一类即用户-项目的属性上下文信息，第二类即用户-项目的交互上下文信息。随着上下文信息在推荐系统中变得日益重要，已经研究出许多不同的上下文感知推荐模型。

有些研究将上下文作为类似于用户维度和项目维度的另一维度，然而这些研究仅仅考虑了各类上下文对用户及项目的共同影响，但忽略了上下文对用户及上下文对项目的特定影响。针对这个问题，有研究提出了一种考虑交互上下文对用户、项目特定语义影响的上下文操作张量推荐模型，在推荐准确率上有一定的效果，但忽略了用户、项目属性上下文的影响。针对这个问题，有研究提出一种为用户和项目的潜在向量分别构建“用户属性”、“项目属性”、“交互”三种不同上下文操作张量的模型，从而对潜在向量进行上下文操作，但随着张量个数的增加，其模型参数同时也增多，加大了模型训练复杂程度，不易于处理大规模上下文信息。综上所述，现有的上下文感知推荐算法在不同种类的上下文处理中，还常常受到推荐系统的数据稀疏性问题，这将极大影响着推荐算法的性能，使得推荐结果不够准确。

发明内容

本发明针对目前推荐算法的数据稀疏性问题，提出一种基于异质上下文感知的推荐方法，即融入了两种不同种类的上下文对推荐的影响，并利用半监督的协同训练算法来进一步缓解数据稀疏性问题，同时利用半监督的协同训练算法来优化两个构建后的上下文感知模型，然后将它们进行合并成一个最终推荐模型；最后使用均方根误差指标来衡量推荐算法性能。本发明不仅能够感知属性上下文信息和交互上下文信息对推荐的影响，而且能够缓解推荐系统的数据稀疏性问题，提升推荐的准确率。

实现本发明目的的技术方案是:

一种基于异质上下文感知的推荐方法，包括如下步骤:

1):获取用户-项目的评分矩阵、交互上下文信息和属性上下文信息；

2):基于张量分解技术构建交互上下文评分预测函数和交互上下文感知模型；

3):基于矩阵分解技术构建属性上下文评分预测函数和属性上下文感知模型；

4):交互上下文感知模型和属性上下文感知模型进行半监督协同训练；

5):交互上下文感知模型和属性上下文感知模型进行权值融合评分，然后根据评分进行推荐。

步骤1)中所述的交互上下文信息为用户-项目交互行为所处的上下文信息，属性上下文信息为用户自身属性及项目自身属性。

步骤2)中所述的张量分解技术包括如下步骤:

①:利用上下文潜在向量获取交互上下文信息的属性；

②:利用上下文操作张量获取交互上下文信息对用户的共同语义操作和项目的共同语义操作；

③:构建用户上下文操作矩阵和项目上下文操作矩阵，表达如下:

M_U,k表示用户的d×d维上下文操作矩阵，M_V,k表示项目的d×d维上下文操作矩阵，d为用户和项目所设置的维度，U表示用户集合，即U＝{u₁,u₂,...}，k表示上下文情境，V表示项目集合，即V＝{v₁,v₂,...}；

是用户的d_c×d×d维上下文操作张量，其中d_c为上下文所设置的维度，

是项目的d_c×d×d维上下文操作张量，其中[1:d]表示张量包含d个分片，t表示矩阵的转置，a_k是k经过权重化的d_c维上下文潜在向量，表达如下:

a_k＝H_kW；

H_k是k中上下文值对应的d_c×n维潜在矩阵，n为上下文的个数，W为每个上下文权值的n维向量；

④:利用M_U,k对用户和M_V,k对项目的原始潜在向量进行上下文操作，表达如下:

u_i,k＝M_U,ku_i；

v_j,k＝M_V,kv_j；

u_i,k和v_j,k分别为用户和项目在k中被上下文操作后的d维潜在向量，u_i是用户的d维原始潜在向量，v_j是项目的d维原始潜在向量，将M_U,k、M_V,k和a_k的表达式带入u_i,k和v_j,k的表达式，得到:

步骤2)中所述的交互上下文评分预测函数

表达如下:

w₀为全局平均偏置，w_i为用户i的偏置，w_j为项目j的偏置，w_m,k为上下文值的偏置，n为上下文的个数，将u_i,k和v_j,k的公式带入

得到交互上下文感知模型h₁(i,j)表达式:

步骤3)中所述矩阵分解技术包括如下步骤:

①:将评分矩阵分解成用户潜在矩阵P和项目潜在矩阵Q的乘积，其中P包含U全部的u_i，Q包含V全部的v_j；

②:从P中获取一个u_i和从Q中获取一个v_j；

步骤3)中所述属性上下文评分预测函数

表达如下:

w_m为用户属性偏置，w_n为项目属性偏置，m∈user_attributes表示m属于用户的属性上下文，n∈item_attributes表示n属于项目的属性上下文；

将项目j和w_m结合，将用户i和w_n结合，使

优化，得到属性上下文感知模型h₂(i,j)，表达如下:

w_jm为项目j结合用户属性上下文种类m的偏置，w_in为用户i结合项目属性上下文种类n的偏置。

步骤4)中所述的半监督协同训练包括如下步骤:

①:计算未标记样本子集的每个样本在h₁(i,j)中的置信度C₁(x_i,j)及h₂(i,j)中的置信度C₂(x_i,j)，即未标记样本在不同模型下被预测的标签可信程度，表达如下:

x_i,j为用户i对项目j的未标记样本，

和

分别表示在h₁(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈interaction表示c属于交互上下文，

是h₁(i,j)中交互上下文种类c的训练样本数占总训练样本数的比例，N为归一化因子；

和

表示在h₂(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈attribute表示c属于属性上下文，

是h₂(i,j)中属性上下文种类c的训练样本数占总训练样本数的比例；

②:计算未标记样本子集中每个样本的置信概率，进行归一化处理:

m取值为1表示h₁(i,j)，取值为2表示h₂(i,j)，Pr(x_i,j,m)为置信概率，即在h_m(i,j)中，未标记样本x_i,j的置信度占未标记样本子集U′样本置信度总和的比例；

③:在h₁(i,j)中，按Pr(x_i,j,1)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₁(i,j)教学集T₁中；最后从U′移除h₁(i,j)教学集T₁；

④:在h₂(i,j)中，按Pr(x_i,j,2)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₂(i,j)教学集T₂中；最后从U′移除h₂(i,j)教学集T₂；

⑤:使T₂合并到h₁(i,j)训练集中，使T₁合并到h₂(i,j)训练集中，表式如下:

L₁＝L₁∪T₂；

L₂＝L₂∪T₁；

L₁为h₁(i,j)的训练集，L₂为h₂(i,j)的训练集；

⑥:利用L₁对h₁(i,j)和L₂对h₂(i,j)进行第二次训练优化，表示如下:

h₁←L₁；

h₂←L₂；

←表示第二次训练过程。

步骤5)所述的权值融合评分，表达如下:

h(i,j)＝αh₁(i,j)+(1-α)h₂(i,j)；

α为0到1之间的一个权重因子。

本发明的优点:不仅能够感知属性上下文信息和交互上下文信息对推荐的影响，

而且能够缓解推荐系统的数据稀疏性问题，提升推荐的准确率。

附图说明

图1为实施例的流程示意图；

图2为实施例中在真实数据集MovieLens-100k上的均方根误差对比图。

具体实施方式

下面结合实施例和附图对本发明的内容作进一步的阐述，但不是对本发明的限定。

实施例：

参照图1，一种基于异质上下文感知的推荐方法，包括如下步骤:

1):获取用户-项目的评分矩阵、交互上下文信息和属性上下文信息；

2):基于张量分解技术构建交互上下文评分预测函数和交互上下文感知模型；

3):基于矩阵分解技术构建属性上下文评分预测函数和属性上下文感知模型；

4):交互上下文感知模型和属性上下文感知模型进行半监督协同训练；

5):交互上下文感知模型和属性上下文感知模型进行权值融合评分，然后根据评分进行推荐。

步骤1)中所述的交互上下文信息为用户-项目交互行为所处的上下文信息，属性上下文信息为用户自身属性及项目自身属性。

步骤2)中所述的张量分解技术包括如下步骤:

①:利用上下文潜在向量获取交互上下文信息的属性；

②:利用上下文操作张量获取交互上下文信息对用户的共同语义操作和项目的共同语义操作；

③:构建用户上下文操作矩阵和项目上下文操作矩阵，表达如下:

M_U,k表示用户的d×d维上下文操作矩阵，M_V,k表示项目的d×d维上下文操作矩阵，d为用户和项目所设置的维度，U表示用户集合，即U＝{u₁,u₂,...}，k表示上下文情境，V表示项目集合，即V＝{v₁,v₂,...}；

是用户的d_c×d×d维上下文操作张量，其中d_c为上下文所设置的维度，

是项目的d_c×d×d维上下文操作张量，其中[1:d]表示张量包含d个分片，t表示矩阵的转置，a_k是k经过权重化的d_c维上下文潜在向量，表达如下:

a_k＝H_kW；

H_k是k中上下文值对应的d_c×n维潜在矩阵，n为上下文的个数，W为每个上下文权值的n维向量；

④:利用M_U,k对用户和M_V,k对项目的原始潜在向量进行上下文操作，表达如下:

u_i,k＝M_U,ku_i；

v_j,k＝M_V,kv_j；

u_i,k和v_j,k分别为用户和项目在k中被上下文操作后的d维潜在向量，u_i是用户的d维原始潜在向量，v_j是项目的d维原始潜在向量，将M_U,k、M_V,k和a_k的表达式带入u_i,k和v_j,k的表达式，得到:

步骤2)中所述的交互上下文评分预测函数

表达如下:

w₀为全局平均偏置，w_i为用户i的偏置，w_j为项目j的偏置，w_m,k为上下文值的偏置，n为上下文的个数，将u_i,k和v_j,k的公式带入

得到交互上下文感知模型h₁(i,j)表达式:

步骤3)中所述矩阵分解技术包括如下步骤:

①:将评分矩阵分解成用户潜在矩阵P和项目潜在矩阵Q的乘积，其中P包含U全部的u_i，Q包含V全部的v_j；

②:从P中获取一个u_i和从Q中获取一个v_j；

步骤3)中所述属性上下文评分预测函数

表达如下:

w_m为用户属性偏置，w_n为项目属性偏置，m∈user_attributes表示m属于用户的属性上下文，n∈item_attributes表示n属于项目的属性上下文；

将项目j和w_m结合，将用户i和w_n结合，使

优化，得到属性上下文感知模型h₂(i,j)，表达如下:

w_jm为项目j结合用户属性上下文种类m的偏置，w_in为用户i结合项目属性上下文种类n的偏置。

步骤4)中所述的半监督协同训练包括如下步骤:

①:计算未标记样本子集的每个样本在h₁(i,j)中的置信度C₁(x_i,j)及h₂(i,j)中的置信度C₂(x_i,j)，即未标记样本在不同模型下被预测的标签可信程度，表达如下:

x_i,j为用户i对项目j的未标记样本，

和

分别表示在h₁(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈interaction表示c属于交互上下文，

是h₁(i,j)中交互上下文种类c的训练样本数占总训练样本数的比例，N为归一化因子；

和

表示在h₂(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈attribute表示c属于属性上下文，

是h₂(i,j)中属性上下文种类c的训练样本数占总训练样本数的比例；

②:计算未标记样本子集中每个样本的置信概率，进行归一化处理:

m取值为1表示h₁(i,j)，取值为2表示h₂(i,j)，Pr(x_i,j,m)为置信概率，即在h_m(i,j)中，未标记样本x_i,j的置信度占未标记样本子集U′样本置信度总和的比例；

③:在h₁(i,j)中，按Pr(x_i,j,1)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₁(i,j)教学集T₁中；最后从U′移除h₁(i,j)教学集T₁；

④:在h₂(i,j)中，按Pr(x_i,j,2)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₂(i,j)教学集T₂中；最后从U′移除h₂(i,j)教学集T₂；

⑤:使T₂合并到h₁(i,j)训练集中，使T₁合并到h₂(i,j)训练集中，表式如下:

L₁＝L₁∪T₂；

L₂＝L₂∪T₁；

L₁为h₁(i,j)的训练集，L₂为h₂(i,j)的训练集；

⑥:利用L₁对h₁(i,j)和L₂对h₂(i,j)进行第二次训练优化，表示如下:

h₁←L₁；

h₂←L₂；

←表示第二次训练过程。

步骤5)所述的权值融合评分，表达如下:

h(i,j)＝αh₁(i,j)+(1-α)h₂(i,j)；

α为0到1之间的一个权重因子。

下面以电影的真实数据集作进一步描述:

(1)数据集

利用MovieLens-100K的数据集，包含了来自943个用户对1,682部电影的100,000个电影评分数据。

MovieLens-100K除了评分数据外，其还包含了丰富的上下文信息，例如属性上下文信息(用户的年龄、职位、性别，电影的种类)、交互上下文信息(时间戳对应的日期天数和小时)。

本实施例按照80％的评分数据集划分为训练集，20％的评分数据集划分为测试集。

(2)对比方法

将实施例提出的基于异质上下文感知的推荐方法(Heterogeneous Context-aware Semi-supervised Method,简称HASS)与传统协同过滤推荐算法以及现有的上下文感知推荐算法进行了对比。

传统的协同过滤推荐算法

UB k-NN:基于用户的k近邻推荐方法；

IB k-NN:基于项目的k近邻推荐方法；

FactCF:基于矩阵分解的推荐方法；

现有的上下文感知推荐算法

Context:属性上下文感知推荐模型；

CSEL:(Context-aware Semi-supervised Co-training Method，简称CSEL)将Context模型分成两个模型，即分别对用户属性和项目属性的上下文建模，最终对这两类属性上下文感知模型进行半监督协同训练算法；

COT:(Contextual Operating Tensor，简称COT)利用上下文操作张量模型为交互上下文感知进行建模的推荐算法；

(3)评估指标

为了衡量评分预测的效果，实施例利用均方根误差来衡量。

其中(i,j,k)∈Ω_test表示(i,j,k)对应属于测试集Ω_test的数据，其r_i,j,k表示真实评分，

表示预测评分。n_test表示测试集数据的个数。

实验效果及分析:

参照图2，从RMSE实验效果上看，传统的协同过滤推荐算法忽略了上下文信息对推荐过程的重要影响，所以此类协同过滤推荐算法的RMSE实验效果往往要比上下文感知推荐算法的RMSE实验效果更高。

我们发现COT的RMSE实验效果相比CSEL的RMSE实验效果偏高，经分析发现在Movielens-100K数据集中，属性上下文信息相比交互上下文信息更加丰富，可能影响着CSEL和COT的RMSE实验效果。实施例提出的推荐方法，不仅考虑了属性上下文信息和交互上下文信息对推荐的影响，而且针对数据稀疏性问题，利用半监督协同训练进行模型优化。

实施例提出的推荐方法在预测评分上的RMSE实验效果，相比UB k-NN降低了7％，相比IB k-NN降低了9％，相比FactCF降低了4％，相比Context降低了2％，相比CSEL降低了2％，相比COT降低了3％。使得预测评分更加准确，推荐效果更好。

Claims (7)

1.一种基于异质上下文感知的推荐方法，其特征在于，包括如下步骤:

1):获取用户-项目的评分矩阵、交互上下文信息和属性上下文信息；

2):基于张量分解技术构建交互上下文评分预测函数和交互上下文感知模型，所述的张量分解技术包括如下步骤:

①:利用上下文潜在向量获取交互上下文信息的属性；

②:利用上下文操作张量获取交互上下文信息对用户的共同语义操作和项目的共同语义操作；

③:构建用户上下文操作矩阵和项目上下文操作矩阵，表达如下:

M_U,k表示用户的d×d维上下文操作矩阵，M_V,k表示项目的d×d维上下文操作矩阵，d为用户和项目所设置的维度，U表示用户集合，即U＝{u₁,u₂,...}，k表示上下文情境，V表示项目集合，即V＝{v₁,v₂,...}；

是用户的d_c×d×d维上下文操作张量，其中d_c为上下文所设置的维度，

是项目的d_c×d×d维上下文操作张量，其中[1:d]表示张量包含d个分片，t表示矩阵的转置，a_k是k经过权重化的d_c维上下文潜在向量，表达如下:

a_k＝H_kW；

H_k是k中上下文值对应的d_c×n维潜在矩阵，n为上下文的个数，W为每个上下文权值的n维向量；

④:利用M_U,k对用户和M_V,k对项目的原始潜在向量进行上下文操作，表达如下:

u_i,k＝M_U,ku_i；

v_j,k＝M_V,kv_j；

u_i,k和v_j,k分别为用户和项目在k中被上下文操作后的d维潜在向量，u_i是用户的d维原始潜在向量，v_j是项目的d维原始潜在向量，将M_U,k、M_V,k和a_k的表达式带入u_i,k和v_j,k的表达式，得到:

3):基于矩阵分解技术构建属性上下文评分预测函数和属性上下文感知模型；

4):交互上下文感知模型和属性上下文感知模型进行半监督协同训练；

5):交互上下文感知模型和属性上下文感知模型进行权值融合评分，然后根据评分进行推荐。

2.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤1)中所述的交互上下文信息为用户-项目交互行为所处的上下文信息，属性上下文信息为用户自身属性及项目自身属性。

3.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤2)中所述的交互上下文评分预测函数

表达如下:

w₀为全局平均偏置，w_i为用户i的偏置，w_j为项目j的偏置，w_m,k为上下文值的偏置，n为上下文的个数，将u_i,k和v_j,k的公式带入

得到交互上下文感知模型h₁(i,j)表达式:

4.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤3)中所述的矩阵分解技术包括如下步骤:

①:将评分矩阵分解成用户潜在矩阵P和项目潜在矩阵Q的乘积，其中P包含U全部的u_i，Q包含V全部的v_j；

②:从P中获取一个u_i和从Q中获取一个v_j。

5.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤3)中所述的属性上下文评分预测函数

表达如下:

w_m为用户属性偏置，w_n为项目属性偏置，m∈user_attributes表示m属于用户的属性上下文，n∈item_attributes表示n属于项目的属性上下文；

将项目j和w_m结合，将用户i和w_n结合，使

优化，得到属性上下文感知模型h₂(i,j)，表达如下:

w_jm为项目j结合用户属性上下文种类m的偏置，w_in为用户i结合项目属性上下文种类n的偏置。

6.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤4)中所述的半监督协同训练包括如下步骤:

①:计算未标记样本子集的每个样本在h₁(i,j)中的置信度C₁(x_i,j)及h₂(i,j)中的置信度C₂(x_i,j)，即未标记样本在不同模型下被预测的标签可信程度，表达如下:

x_i,j为用户i对项目j的未标记样本，

和

分别表示在h₁(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈interaction表示c属于交互上下文，

是h₁(i,j)中交互上下文种类c的训练样本数占总训练样本数的比例，N为归一化因子；

和

表示在h₂(i,j)中用户i和项目j的训练样本数占总训练样本数的比例，c∈attribute表示c属于属性上下文，

是h₂(i,j)中属性上下文种类c的训练样本数占总训练样本数的比例；

②:计算未标记样本子集中每个样本的置信概率，进行归一化处理:

m取值为1表示h₁(i,j)，取值为2表示h₂(i,j)，Pr(x_i,j,m)为置信概率，即在h_m(i,j)中，未标记样本x_i,j的置信度占未标记样本子集U′样本置信度总和的比例；

③:在h₁(i,j)中，按Pr(x_i,j,1)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₁(i,j)教学集T₁中；最后从U′移除h₁(i,j)教学集T₁；

④:在h₂(i,j)中，按Pr(x_i,j,2)由高至低从U′取未标记样本子集；标记每个x_i,j在h₁(i,j)和h₂(i,j)中的

和

x_i,j满足

时，τ为阈值，将x_i,j放至h₂(i,j)教学集T₂中；最后从U′移除h₂(i,j)教学集T₂；

⑤:使T₂合并到h₁(i,j)训练集中，使T₁合并到h₂(i,j)训练集中，表式如下:

L₁＝L₁∪T₂；

L₂＝L₂∪T₁；

L₁为h₁(i,j)的训练集，L₂为h₂(i,j)的训练集；

⑥:利用L₁对h₁(i,j)和L₂对h₂(i,j)进行第二次训练优化，表示如下:

h₁←L₁；

h₂←L₂；

←表示第二次训练过程。

7.如权利要求1所述的基于异质上下文感知的推荐方法，其特征在于，步骤5)所述的权值融合评分，表达如下:

h(i,j)＝αh₁(i,j)+(1-α)h₂(i,j)；

α为0到1之间的一个权重因子。

Images