CN112507225A

CN112507225A - 一种基于双层优化的推荐系统数据调试方法

Info

Publication number: CN112507225A
Application number: CN202011458884.7A
Authority: CN
Inventors: 姚远; 徐锋; 陈龙
Original assignee: Nanjing University
Current assignee: Nanjing University
Priority date: 2020-12-11
Filing date: 2020-12-11
Publication date: 2021-03-16
Anticipated expiration: 2040-12-11
Also published as: CN112507225B

Abstract

本发明公开一种基于双层优化的推荐系统数据调试方法。首先，将训练数据划分成若干份不相交的数据子集；然后，每一份数据子集被用来作为验证集去调试剩余部分训练数据，则每一份数据子集都会得到若干份调试结果；最后，将若干份调试结果合并即得到最终的调试结果。实验表明，在根据本方法得到的调试结果对原始训练数据加以修改得到的新数据集上训练推荐模型，相比原始训练数据上训练得到的模型，具有更好的推荐性能。该方法能够优化原始训练数据以提升推荐系统的性能，具有很好的应用价值。

Description

一种基于双层优化的推荐系统数据调试方法

技术领域

本发明涉及一种基于双层优化的推荐系统数据调试方法，该方法可利用互联网推荐系统中现有的训练数据，定位出不利于当前推荐系统整体推荐性能的训练数据，并对这些数据给出修改方案，从而使得修改后的数据集训练得到的推荐模型取得更好的推荐性能。

背景技术

近年来，互联网上的信息数量呈指数级增长，对于用户而言，很难从海量信息中获取真正有价值的信息，这导致信息过载现象的出现。随着信息过载现象越来越严重，门户网站、搜索引擎等技术先后被提出用来帮助用户更好地获取想要的信息，但是这类方法都基于用户主动去提出需求，有时用户的需求很难主动表达出来，当这些“用户主动式”的信息过滤方式不足以满足需求时，一种“用户被动式”的信息过滤方式应运而生，即推荐系统。推荐系统根据用户的历史行为对用户的行为建模，从而为用户推荐他们可能会感兴趣的信息。推荐系统现在已经被广泛地应用在现实世界中，例如各大电商网站，如亚马逊、淘宝、京东等。亚马逊的技术人员曾声称亚马逊有20％-30％的销售得益于推荐系统。在推荐系统中，协同过滤方法利用现有的用户与物品的历史交互行为如评分来建模用户的喜好，这类方法在实际应用中取得了出色的效果，经典的协同过滤方法包括基于近邻的方法、基于矩阵分解的方法、基于深度学习的方法等。

由于协同过滤的出色表现，许多工作力图提高协同过滤方法的推荐性能。现有的工作主要可以分为两大类：一类方法通过完善优化目标函数来更好地建模评分数据，另一类方法通过引入额外的输入信息例如用户间的社交关系或物品本身的属性来提高算法的推荐效果。然而，现有的方法忽略了数据训练数据本身的质量，如何充分利用现有历史交互数据来提高推荐系统性能的方法缺少相关的工作。异常检测算法可以基于数据的某些分布特征检测出某些数据与整体数据的不一致性，但这类方法并不是为提高推荐系统性能而设计的，没有考虑所使用的推荐模型。

发明内容

发明目的：由于现有的提高推荐系统性能的方法普遍忽略了历史用户反馈数据本身的质量，而像异常检测一类的算法并不能针对性地提高推荐系统的推荐性能，本发明采用一种基于双层优化的数据调试方法来提高推荐系统的性能，主要基于以下思想：

(1)用户反馈数据中绝大多数数据的质量是比较高的；

(2)可以利用双层优化方法修改用户反馈数据使得在修改后的用户反馈数据上训练得到的模型在某数据集上的预测误差尽可能小；

(3)利用类似交叉验证的思想，将数据集划分成多种训练集与验证集的组合，避免过拟合于某部分数据。

技术方案：一种基于双层优化的推荐系统数据调试方法，包括以下内容：

(1)将推荐系统的历史用户反馈数据作为原始训练数据，并对原始训练数据进行划分；

(101)随机将原始训练数据划分成若干份；

(102)对于每一份数据，将其作为验证集，对应的剩余数据作为训练集，则得到若干份训练集与验证集的组合；

(2)数据调试

在上一步中得到的每一份训练集与验证集组合(简称数据集组合)中，使用训练集训练推荐模型，采用迭代式更新方法不断更新训练集数据：

步骤1，计算在训练集上训练得到的模型在验证集上的预测损失对训练集数据的梯度；

步骤2，根据步骤1得到的梯度更新训练集数据；

步骤3，基于更新后的训练集数据重新训练推荐模型，更新模型参数，完成一轮迭代；

步骤4，若迭代轮数达到预先设定的数值，终止迭代，否则重复步骤1-3；

步骤5，对于原始训练集中的每一个数据，计算步骤4迭代完成后的新训练集中该数据项与原数据的差值，作为这一份数据集组合的调试结果；

(3)结果合并

上一步完成后，对于原始训练数据中的每一项数据，都会得到若干份调试结果。在这个阶段中，对于每一项数据，若每一份调试结果的差值同为正或同为负，则计算平均差值作为最终的调试结果，否则直接取差值为0作为最终调试结果。

对于原始训练数据，调试结果合并时只保留意见一致的调试结果，并采用求平均值的方式作为最终的调试结果。

可以根据调试结果去编辑原始训练数据以提高推荐系统性能。将原始训练数据中的每一项按照其调试结果的绝对值大小从大到小排序，可以删除排序在前的部分训练数据或根据调试结果直接修改原始训练数据从而得到新的训练数据，并在新的训练数据上进行模型训练以提升推荐系统的推荐性能。

有益效果：与现有技术相比，本发明具有以下优点：

(1)相比于引入额外输入信息的方法，本方法只使用推荐系统的历史用户反馈数据作为原始训练数据，在不扩充数据集的情况下提高了推荐系统的推荐性能；

(2)本发明的方法在实现时同时考虑了效果与运行效率，提供了灵活的选择，可以同时达到运行效率高、运行效果好的特点；

(3)本发明的方法灵活性高、适应性强，其基本思想具备通用性，可以根据使用的推荐模型灵活调整。

附图说明

图1为本发明方法流程示意图，包括数据划分、数据调试和结果合并三个阶段；

图2为利用本发明方法在MovieLens数据集上修改部分数据的实验效果；

图3为利用本发明方法在MovieLens数据集上删除部分数据的实验效果；

图4为利用本发明方法在Douban数据集上修改部分数据的实验结果；

图5为利用本发明方法在Douban数据集上删除部分数据的实验结果。

具体实施方式

下面结合具体实施例，进一步阐明本发明，应理解这些实施例仅用于说明本发明而不用于限制本发明的范围，在阅读了本发明之后，本领域技术人员对本发明的各种等价形式的修改均落于本申请所附权利要求所限定的范围。

在本实施例中，推荐模型采用经典的基于矩阵分解的协同过滤模型。即给定一个评分矩阵

关于m个用户和n个物品作为输入，其中每一项已知的a_i，j代表用户i对物品j的评分，目标是要预测A中一个用户对物品的未知评分，矩阵分解将A这个大矩阵用两个秩为k的低秩矩阵U和V近似，其损失函数定义为

其中

和

是模型要学习的参数，D代表数据集中已知评分对应的下标集合，

是U的第i行，

是V的第j行，λ_u和λ_v是避免模型过拟合的正则项参数。

一种基于双层优化的推荐系统数据调试方法，包括以下内容和步骤：

一、原始训练数据划分：

(1)将推荐系统的历史用户反馈数据作为原始训练数据，随机将原始训练数据Ω划分成若干份，以3份为例，则被划分为Ω₁，Ω₂，Ω₃；

(2)基于交叉验证思想，令每一份子数据集轮流作为验证集Γ，剩余部分作为训练集Λ，例如当第一份子数据集被作为验证集时，Γ₁＝Ω₁，Λ₁＝Ω₂+Ω₃，另两组情况以此类推，形成Γ₁+Λ₁、Γ₂+Λ₂、Γ₃+Λ₃三种组合；

二、数据调试：

对于每一种组合，数据调试阶段通过验证集来迭代更新训练集，以获得训练集上的调试结果。由于每种组合情况相似，接下来以其中一种组合为例阐述，并用Γ代表验证集，用Λ代表训练集。

调试方法旨在从训练集中定位出对推荐系统性能有影响的数据，用Φ表示，则问题框架为

核心思将想是从Λ中找出Φ，如果进一步修改Φ中的评分数据，能够尽可能降低定义在验证集Γ上的损失函数L_Γ。

在本实施例中，

为基于(Λ-Φ)作为输入数据训练得到的模型的参数，

代表

的第i行，

代表

的第j行，

表示在验证集上计算得到的损失函数。

首先将评分数值从离散值(如1到5分)松弛到连续值，然后使用投影梯度下降法求解问题，即

其中

代表(Λ-Φ)对应的邻接矩阵，初始时

即训练集对应的邻接矩阵，上标代表迭代轮次，η代表梯度更新中的步长。投影操作

将

保持在可行域

中，其中r_min和r_max分别代表评分数值范围的最小值和最大值。当

通过迭代更新得到后，计算

作为训练集Λ上的调试结果。

要进行迭代更新，就需要计算

可以通过链式法则计算，即

其中

和

的计算独立于推荐模型的损失函数，在本实施例中，则有

对于

和

涉及双层优化问题，直接计算比较困难，这里可以利用KKT条件求解，最终可以计算得到

整个调试过程如下所示：

在每一轮迭代过程中，首先计算

然后通过增量方法更新模型参数Θ。具体来说，在本实施例中，我们通过交替最小二乘法(ALS)学习推荐模型的参数，基于前一轮的模型参数Θ^i-1和当前的训练数据

运行一次最小二乘法迭代得到新的模型参数Θⁱ。

三、结果合并：

数据调试阶段得到了若干份调试结果，结果合并阶段将这若干份调试结果合并成最终结果。在本实施例中，由于数据划分时将原始训练数据划分成了三份Ω₁，Ω₂，Ω₃，则对于每一份子数据集会得到两份调试结果(如对于Ω₁而言，当Ω₂和Ω₃分别被作为验证集时，会得到两份关于Ω₁的调试结果)。在结果合并阶段，我们只保留C矩阵中总是为正或总是为负的位置。也就是说，只保留在不同调试中意见一致(即都提高一个评分或降低一个评分)的结果。最后对于每个保留下来的位置，取调试结果的平均值作为最终结果。

在实验设置上，我们首先取现有数据的80％作为训练集，剩余20％作为测试集。首先在原始训练集上训练得到原始模型，并用这个原始模型对测试集上的评分进行预测，然后运行本发明提出的数据调试方法得到调试结果，并按照调试结果中的结果的绝对值大小从大到小排序，取前0.1％到10％的调试结果，并删除或修改这些对应的评分数据(修改方式为根据调试结果修改相应的评分，例如原始评分为3，调试结果为+0.5，则修改后其评分为3.5)，重新基于新的训练数据训练推荐模型，再对测试集上的评分进行预测，和原始模型上的预测结果进行比较。这里预测精度的指标为RMSE，计算方式为

其中D_T为测试集，|D_T|表示测试集大小，

表示模型预测的评分，r_i，j表示测试集中实际的评分，RMSE越低表示模型性能越好。

我们在两个公开数据集MovieLens和Douban上进行实验。MovieLens数据集包含6040个用户和3706个物品以及约1000000评分，Douban数据集包含3022个用户和6971个物品以及约200000评分。

为了更好展示本发明提出方法的效果，我们用以下三种方法与我们的方法进行比较：

(1)eMF：直接按照原始训练数据上得到的模型的预测作为结果，按照训练集上的预测误差大小排序；

(2)NrMF：一种基于非负残差矩阵分解方法的异常检测模型；

(3)NoiseCorrection：一种推荐系统上的异常检测方法；

图2和图3展示了几种方法在修改和删除MovieLens数据集上部分数据的实验效果，图4和图5展示了几种方法在修改和删除Douban数据集上部分数据的实验效果，CFDebug为本发明提出的算法。可以看到，CFDebug可以显著地提升推荐性能。相反，对比方法不能持续地提升推荐性能。

综上所述，使用本发明提供的方法，能有效地定位出原始训练数据中影响推荐系统性能的训练数据，并进一步通过删除或修改这些数据使得重新训练的推荐模型性能提高。本方法提出的方法通过合理的假设和相应的优化框架设计，可以产生运行效果好、效率高、适应范围广的结果。因此，本技术具有较高的应用价值。

Claims

1.一种基于双层优化的推荐系统数据调试方法，其特征在于，包括以下内容：

（1）将推荐系统的历史用户反馈数据作为原始训练数据，并对原始训练数据进行划分；

（2）数据调试

在上一步中得到的每一份训练集与验证集组合中，使用训练集训练推荐模型，采用迭代式更新方法不断更新训练集数据；

（3）合并调试结果，作为最终的调试结果。

2.根据权利要求1所述的基于双层优化的推荐系统数据调试方法，其特征在于，随机将原始训练数据划分成若干份；对于每一份数据，将其作为验证集，对应的剩余数据作为训练集，则得到若干份训练集与验证集的组合。

3.根据权利要求1所述的基于双层优化的推荐系统数据调试方法，其特征在于，数据调试完成后，对于原始训练数据中的每一项数据，都会得到若干份调试结果；对于每一项数据，若每一份调试结果的差值同为正或同为负，则计算平均差值作为最终的调试结果，否则直接取差值为0作为最终调试结果。

4.根据权利要求1所述的基于双层优化的推荐系统数据调试方法，其特征在于，在数据调试阶段，采用迭代式更新方法不断更新训练集数据，包括以下步骤：

步骤2，根据步骤1得到的梯度更新训练集数据；

步骤5，对于原始训练集中的每一个数据，计算步骤4迭代完成后的新训练集中该数据项与原数据的差值，作为这一份数据集组合的调试结果。

5.根据权利要求1所述的基于双层优化的推荐系统数据调试方法，其特征在于，对于原始训练数据，调试结果合并时只保留意见一致的调试结果，并采用求平均值的方式作为最终的调试结果。

6.据权利要求1所述的基于双层优化的推荐系统数据调试方法，其特征在于，根据调试结果去编辑原始训练数据以提高推荐系统性能；将原始训练数据中的每一项按照其调试结果的绝对值大小从大到小排序，可以删除排序在前的部分训练数据或根据调试结果直接修改原始训练数据从而得到新的训练数据，并在新的训练数据上进行模型训练以提升推荐系统的推荐性能。