CN110083764A - 一种协同过滤算法冷启动问题的解决方法 - Google Patents

Abstract

本发明的目的是：解决传统的协同过滤推荐技术中新用户和新项目的冷启动问题，完成对新用户和新项目的推荐，提高算法的推荐精度和推荐质量。为了达到上述目的，本发明的技术方案是提供了一种协同过滤算法冷启动问题的解决方法。本发明解决了传统协同过滤算法在面对新用户和新项目时的冷启动问题，结合了用户的信息属性，建立用户信息模型，计算基于用户信息的相似度，从而可以找到新用户的邻居用户。利用项目的内容信息特征，结合凝聚式层次聚类算法，得到项目的归类结果，找到目标项目的邻居项目，从而可以完成推荐。

Description

一种协同过滤算法冷启动问题的解决方法

技术领域

本发明涉及一种解决协同过滤推荐算法中冷启动问题的方法，用于大数据的个性化推荐技术领域。

背景技术

近年来，随着互联网技术的迅猛发展，一方面使得获取信息更加方便，另一方面由于海量的信息数据，带来了信息超载问题，在短暂的时间和精力内，用户难以快速地从大量信息中找到真正对自己有用的信息，降低了信息的使用率。为了有效地解决这个问题，科学家和工程师提出了两大解决方案：搜索引擎技术和信息过滤技术。由于用户需求的日益多元化和个性化，信息过滤技术更符合当下的需求。信息过滤技术通过获取用户的历史行为记录，在数据挖掘的基础上进行数据分析，自动给用户兴趣建模，把用户潜在喜欢的信息展示给用户。

个性化推荐系统是信息过滤技术的典型代表，很多不同的网站中都广泛使用了推荐系统，譬如电商购物、影视娱乐、音乐、社交媒体、广告等等。在二十世纪九十年代，“协同过滤”(Collaborative Filtering)的思想由Goldberg等人初次提出，并应用于Tapestry电子邮件过滤系统。在这之后，出现了多个基于协同过滤的系统，比如GroupLens系统可以对Usenet新闻消息自动过滤，Ringo系统用来对音乐CD和演唱家自动过滤，促进了协同过滤技术的快速发展。

协同过滤算法的基本思想是通过分析用户-项目评分数据集，计算用户之间或者项目之间基于评分的相似度，根据计算得到的相似度找到目标用户或者目标项目的邻居集，从而完成推荐。传统的协同过滤面临着数据稀疏、冷启动、可扩展等问题，影响了系统的推荐质量。本发明重点研究协同过滤的冷启动问题。冷启动问题可以分为用户冷启动和项目冷启动，当系统中有新用户加入时，由于没有该用户的历史评分记录，推荐算法无法计算其相似度，也就不能完成推荐，这就是新用户的冷启动问题。同样地，当系统中加入了新项目时，因为没有得到任何一个用户的评分，因此无法将其推荐给其他用户，这就是新项目的冷启动问题。

发明内容

本发明的目的是：解决传统的协同过滤推荐技术中新用户和新项目的冷启动问题，完成对新用户和新项目的推荐，提高算法的推荐精度和推荐质量。

为了达到上述目的，本发明的技术方案是提供了一种协同过滤算法冷启动问题的解决方法，其特征在于，包括一种融合用户信息模型的基于用户的协同过滤算法和一种采用层次聚类的基于项目的协同过滤算法，其中：

一种融合用户信息模型的基于用户的协同过滤算法包括以下步骤：

步骤101、获取数据集，数据集包括用户-项目评分数据集和用户信息属性集；

步骤102、根据历史评分数据集，判定数据集中所包含的新用户及老用户；对于新用户，随后根据用户信息属性数据集，利用Sigmoid函数计算得出针对新用户的基于用户信息模型的相似度；对于老用户，计算用户基于评分数据的相似度；

步骤103、根据步骤102所得的相似度，寻找目标用户的邻居集；

步骤104、根据步骤103得到的邻居集，计算目标用户的预测评分；

步骤105、由所得的预测评分，生成Top-N推荐列表，完成推荐；

一种采用层次聚类的基于项目的协同过滤算法包括以下步骤：

步骤201、获取数据集，数据集包括用户-项目评分数据集和项目内容信息集；

步骤202、根据历史评分数据集，判定数据集中所包含的新项目及老项目；对于新项目，根据项目内容信息集，计算项目内容的欧氏距离，采用凝聚式层次聚类找到目标项目的邻居集；对于老项目，计算项目基于评分数据的相似度，寻找邻居集；

步骤203、根据步骤202得到的邻居集，计算目标项目的预测评分；

步骤204、由所得的预测评分，生成Top-N推荐列表，完成推荐。

优选地，步骤102中，所述基于用户信息模型的相似度的计算过程包括以下步骤：

步骤1021、考量用户的k项属性信息attr_i，i＝1,2,3,...,k，分别给不同的属性信息分配权重λ_i，计算用户u与用户v之间的特征差attr(u,v)：

步骤1022、由步骤1021所得的特征差attr(u,v)，计算用户u与用户v之间的基于用户信息模型的相似度sim_attr(u,v)，如下式：

当用户间相同特征较多时，量化后的特征差值较小，特征差attr(u,v)较小，相似度sim_attr(u,v)较大，表现出用户较高的相似性，并且由于特征差attr(u,v)大于0，确保了相似度sim_attr(u,v)取值在0～1范围内，相似度的取值范围是合理的。

优选地，步骤202中，采用凝聚式层次聚类找到目标项目的邻居集的计算过程包括以下步骤：

步骤2021、若项目的内容信息为数值类信息，则进入下一步，若项目的内容信息为非数值类信息，则计算项目属性信息的补集元素个数，作为该维度上欧式距离的长度值；

比如书本A的出版年份是2015年，类别标签有：数据分析/Python编程/深度学习，出版社是人民邮电出版社；书本B的出版年份是2018年，类别标签有：数据分析/Matlab编程/深度学习，出版社是人民邮电出版社。那么，A1-B1＝3，A2-B2＝1，A3-B3＝0。这三个值用于计算A、B之间的欧式距离；

步骤2022、设项目有n种内容信息，上一步计算得到的项目i对应的第k种内容信息记为i_k，上一步计算得到的项目j对应的第k种内容信息记为j_k，项目i与项目j之间的欧式距离定义为d(i,j)，则有：

基于项目之间的欧式距离，建立欧式距离矩阵；

步骤2023、由步骤2022得到的欧式距离矩阵，初始定义每个项目为单独的一个簇，选择距离最近的两个簇合并为一个簇，利用组平均准则，选取其他簇与合并簇所有点之间距离的平均值作为下一步的邻近值，更新欧式距离矩阵；

步骤2024、重复步骤2023，继续迭代更新矩阵，直到类簇值为初始值的10％时，判定聚类结束，根据聚类结果得到项目的邻居集。

优选地，步骤102或步骤202中，所述计算基于评分数据的相似度步骤如下：

步骤1、获取用户历史评分数据，生成用户-项目评分矩阵；

步骤2、根据用户-项目评分矩阵计算用户之间或者项目之间的相似度；

常见的相似度计算公式有：余弦相似度、欧几里德距离和皮尔森相关系数等等。以下对这几种相似度算法做简单介绍。

余弦相似度：把每一个用户以及对应的评分看成多维空间上的一个向量，如果得到的余弦值大，那么向量的夹角小，用户之间相似度就高，取值在0和1之间。假设用户u、用户j在V维项目空间上的评分向量为和则用户u与用户j之间的相似度可以表示为sim(u,j)：

式中，u_i表示用户u对项目i的评分；j_i表示用户j对项目i的评分。

欧几里德距离：欧几里德距离是最容易实现和理解的相似度算法，是指多维空间中两个点之间的真实距离，它将被评价过的物品作为坐标轴，将推荐系统中的用户在坐标系上表示，计算他们之间的直线距离。用户之间的直线距离越大，相似度越小；反之，直线距离越小，则相似度越大。用户u与用户j之间的欧几里德距离为d(u,j)，则有：

用户u与用户j之间的相似度

皮尔森相关系数：皮尔森相关系数可以表示两个变量间密切关系的程度，取值在-1～1之间。当两个变量的线性关系变强时，相关系数趋于一个最值，(最大值或是最小值)，当一个变量变大，另一个变量也随之增大，说明它们是正相关性，相关系数大于0；反之，当一个变量增大，另一个变量却随之减小，说明它们之间是负相关性，相关系数小于0；如果，相关系数等于0，则说明两个向量没有任何相关关系。

用户u与用户j之间的相似度sim(u,j)为：

式中，R_u,i、R_j,i分别代表用户u和用户j对项目i的评分；分别代表用户u和用户j的评分平均值；I_u,jI是用户u和用户j的共同评分项目集合。

本发明解决了传统协同过滤算法在面对新用户和新项目时的冷启动问题，结合了用户的信息属性，建立用户信息模型，计算基于用户信息的相似度，从而可以找到新用户的邻居用户。利用项目的内容信息特征，结合凝聚式层次聚类算法，得到项目的归类结果，找到目标项目的邻居项目，从而可以完成推荐。

附图说明

图1为传统的协同过滤算法流程图；

图2为改进后基于用户的协同过滤算法流程图；

图3为改进后基于项目的协同过滤算法流程图；

图4为改进前后基于用户的协同过滤算法查全率随邻居数的变化；

图5为改进前后基于用户的协同过滤算法查准率随邻居数的变化；

图6为改进前后基于项目的协同过滤中查全率随邻居数的变化；

图7为改进前后基于项目的协同过滤中查准率随邻居数的变化。

具体实施方式

下面结合具体实施例，进一步阐述本发明。应理解，这些实施例仅用于说明本发明而不用于限制本发明的范围。此外应理解，在阅读了本发明讲授的内容之后，本领域技术人员可以对本发明作各种改动或修改，这些等价形式同样落于本申请所附权利要求书所限定的范围。

本发明提供的一种解决协同过滤算法冷启动问题的方法，在传统协同过滤算法的基础上进行改进，通过分析用户的信息属性数据，对用户的信息建模，为新用户找到邻居集，完成推荐。分析项目的内容特征，采用凝聚式层次聚类的方法，寻找新项目的邻居集，完成对新项目的推荐，解决传统协同过滤算法中新用户和新项目的冷启动问题，并选用公用数据集Movielens进行验证。

如图2所示，算法在获取用户信息属性数据之后，利用Sigmoid函数，计算用户间基于信息属性的相似度，包括以下步骤：

步骤1：获取数据集，所述数据集包括用户-项目评分数据集和用户信息属性集；

步骤2：根据历史评分数据集，判定新用户及老用户；对于新用户，根据用户信息属性数据集，利用Sigmoid函数计算得出针对新用户的基于用户信息模型的相似度；对于老用户，计算用户基于评分数据的相似度；

步骤3：根据步骤2所得的相似度，寻找目标用户的邻居集；

步骤4：根据步骤3得到的邻居集，计算目标用户的预测评分；

步骤5：由所得的预测评分，生成Top-N推荐列表，完成推荐。

其中，步骤2之前还包括对用户信息属性数据的预处理，分为三个部分：

步骤2a：性别数据处理。Movielens数据集中男性用户性别表示为M，女性用户性别表示为F。若两用户性别相同，sex取值为0；若不同，sex取值为1。

步骤2b：年龄数据处理。对年龄量化如下表：

步骤2c：职业数据处理。对用户的职业量化如下表：

步骤2d：综合特征差，以Movielens用户集中的性别、年龄、职业三项属性为例，特征差attr(u,v)的计算如下式：

attr(u,v)＝α·sex+β·age+γ·occupation

在本实施例中，α、β、γ都取1/3。

由步骤2a、2b、2c得到的数据处理结果，上式中sex取值为0或1，age、occupation的取值为两用户特征值量化后差值的绝对值。

如图3所示，对项目的凝聚式层次聚类过程如下：

步骤1.对movie.data的数据初始化处理。

(1)年份(year)关键词：直接表示为i_y、j_y。

(2)派别(genres)关键词：遍历电影所属的派别，若两部电影有属于一个相同的派别，则g值减1，否则，g值保持不变(g初始值为3)，最后得到目标电影和其他电影派别上的距离g值。

步骤2.欧式距离的计算。

在对电影的基本数据处理之后，计算电影之间的欧几里德距离。

步骤3.层次聚类。

选取不同的邻居数K值在5～40之间，进行多次实验比较加入新项目时，改进前后基于项目的协同过滤算法在推荐精度上的变化。

本实施例的实验以Movielens数据集为例，通过电影推荐验证改进算法的性能。将训练集和测试集的比例分为9:1，新用户与老用户的比例设为3:7，改变邻居数K值在5～40之间，进行多组实验，结果如图4及图5所示。

由实验结果发现，比较改进前后基于用户的协同过滤算法，随着邻居数K值增加，系统的查全率呈上升趋势，并且新算法的查全率高于传统算法，说明新算法的检索结果更有效。新算法推荐结果的准确率高于传统算法。改进后算法推荐精度更高，有效地改善了系统新用户的冷启动问题。结合两者，进一步发现，在改进后基于用户的协同过滤算法中，当邻居数取35时算法查全率最大，查准率也比较高，算法推荐质量较好。

本发明提出的新项目的冷启动算法采用了凝聚式层次聚类的思想，在Movielens数据集上进行实验结果验证，将训练集和测试集的比例分为9:1，新项目和老项目的比例为3:7，选取不同的邻居数K值在5～40之间，进行多次实验比较加入新项目时，改进前后基于项目的协同过滤算法在推荐精度上的变化如图6及图7所示。

由实验结果可以看出，采用了层次聚类的算法在查全率上优于传统算法，在邻居数取10的时候，查全率达到最大值，在邻居数取25～35之间时，查全率波动较大，并且呈下降趋势。整体上看，改进后的层次聚类算法推荐结果中被检索到的更多，查全率更高。比较改进前后算法查准率的变化，可以看出，算法的查准率比较平稳，在加入了新项目后，改进后算法的查准率优于传统算法的值，表现出更好的推荐精度。

综上可见，本发明提供的算法在对新用户和新项目进行推荐时，在不依靠用户和项目评分数据的情况下，通过利用用户的信息属性和项目的内容特征，有效完成推荐，解决了传统协同过滤算法的冷启动问题，提高了推荐系统的推荐质量，具有一定的价值。

Claims (3)

1.一种协同过滤算法冷启动问题的解决方法，其特征在于，包括一种融合用户信息模型的基于用户的协同过滤算法和一种采用层次聚类的基于项目的协同过滤算法，其中：

一种融合用户信息模型的基于用户的协同过滤算法包括以下步骤：

步骤101、获取数据集，数据集包括用户-项目评分数据集和用户信息属性集；

步骤102、根据历史评分数据集，判定数据集中所包含的新用户及老用户；对于新用户，随后根据用户信息属性数据集，利用Sigmoid函数计算得出针对新用户的基于用户信息模型的相似度；对于老用户，计算用户基于评分数据的相似度；

步骤103、根据步骤102所得的相似度，寻找目标用户的邻居集；

步骤104、根据步骤103得到的邻居集，计算目标用户的预测评分；

步骤105、由所得的预测评分，生成Top-N推荐列表，完成推荐；

一种采用层次聚类的基于项目的协同过滤算法包括以下步骤：

步骤201、获取数据集，数据集包括用户-项目评分数据集和项目内容信息集；

步骤202、根据历史评分数据集，判定数据集中所包含的新项目及老项目；对于新项目，根据项目内容信息集，计算项目内容的欧氏距离，采用凝聚式层次聚类找到目标项目的邻居集；对于老项目，计算项目基于评分数据的相似度，寻找邻居集；

步骤203、根据步骤202得到的邻居集，计算目标项目的预测评分；

步骤204、由所得的预测评分，生成Top-N推荐列表，完成推荐。

2.如权利要求1所述的一种协同过滤算法冷启动问题的解决方法，其特征在于，步骤102中，所述基于用户信息模型的相似度的计算过程包括以下步骤：

步骤1021、考量用户的k项属性信息attr_i，i＝1,2,3,...,k，分别给不同的属性信息分配权重λ_i，计算用户u与用户v之间的特征差attr(u,v)：

步骤1022、由步骤1021所得的特征差attr(u,v)，计算用户u与用户v之间的基于用户信息模型的相似度sim_attr(u,v)，如下式：

3.如权利要求1所述的一种协同过滤算法冷启动问题的解决方法，其特征在于，步骤202中，采用凝聚式层次聚类找到目标项目的邻居集的计算过程包括以下步骤：

步骤2021、若项目的内容信息为数值类信息，则进入下一步，若项目的内容信息为非数值类信息，则计算项目属性信息的补集元素个数，作为该维度上欧式距离的长度值；

步骤2022、设项目有n种内容信息，上一步计算得到的项目i对应的第k种内容信息记为i_k，上一步计算得到的项目j对应的第k种内容信息记为j_k，项目i与项目j之间的欧式距离定义为d(i,j)，则有：

基于项目之间的欧式距离，建立欧式距离矩阵；

步骤2023、由步骤2022得到的欧式距离矩阵，初始定义每个项目为单独的一个簇，选择距离最近的两个簇合并为一个簇，利用组平均准则，选取其他簇与合并簇所有点之间距离的平均值作为下一步的邻近值，更新欧式距离矩阵；

步骤2024、重复步骤2023，继续迭代更新矩阵，直到类簇值为初始值的10％时，判定聚类结束，根据聚类结果得到项目的邻居集。