CN103377296A - 一种多指标评价信息的数据挖掘方法 - Google Patents

Abstract

本发明公开了一种多指标评价信息的数据挖掘方法，包括：读取已有的交互数据；所述已有的交互数据包括显性的打分数据，所述显性的打分数据包括：一用户在与要打分的物品或服务相类似的已经打过分的其他物品或服务上的打分数据；其他用户之前在要打分的物品或服务上的打分数据；根据已有的交互数据，采用经过训练的关联模型预先计算一用户对某一物品或服务在某一指标上的打分值。本发明可以支持多指标打分的预测，并具有较高的预测准确度和分类准确度；收敛速度快，运行时间短，适合于在线实时推荐。

Description

一种多指标评价信息的数据挖掘方法

技术领域

本发明涉及数据挖掘领域，特别涉及一种多指标评价信息的数据挖掘方法。

背景技术

随着信息技术和互联网的发展，人们逐渐从信息匮乏的时代走入了信息过载(Information overload)的时代。数据挖掘领域的个性化推荐技术是用来帮助用户发现内容，克服信息过载的重要技术。

个性化推荐是数据挖掘的一个重要分支，也是当前研究的热点方向。现有的个性化推荐技术解决的主要是单一评分场景下的推荐问题，基于已知的用户对某些物品(比如Netflix的电影和Amazon的书籍)整体印象的评价信息，预测用户对其他物品偏好，并给用户推荐合适的物品。对于此类问题的研究已经相对成熟，主要有：基于内容的推荐方法，基于协作过滤的推荐方法和混合推荐方法。而对于具有多指标评价信息场景下的推荐问题，目前并没有成熟的方法。

多指标推荐问题主要解决已知产品或者服务的多个方面的评价信息，如何预测用户偏好并给用户推荐合适的产品或服务的问题。比如已知用户对酒店的位置，服务，卫生和整体印象等方面的打分评价信息，给用户推荐合适的酒店。如果使用现有的单指标推荐算法，则很难利用所有的打分数据。而多指标推荐方法则可以利用所有的打分数据，从而得出更准确的推荐。

现有的用于实现多指标推荐的数据挖掘方法主要有：融合多个指标相似度作为整体相似度的方法；多维空间距离作为整体相似度的方法；针对各个指标进行预测，然后采用聚集函数的方法。但这些方法均以指标相互独立为前提，有较大的局限性。而多维奇异值分解(Singular value decomposition，SVD)技术采用填充三维矩阵，然后分解的方式，考虑了指标之间的关联，但是本来稀释的打分矩阵经过填充之后增加了大量的数据，造成算法时间和空间复杂度都比较高，不利于在大规模数据场景下使用。

可见，现有数据挖掘方法在多指标推荐应用场景中，无法做到在综合考虑指标间的关联以及降低算法复杂度，且推荐精度也无法满足实际商业应用的需求。

发明内容

本发明的目的在于克服现有的数据挖掘方法算法复杂度高、推荐精度无法满足商业应用的需求等缺陷，从而提供一种复杂度低、精度高的数据挖掘方法。

为了实现上述目的，本发明提供了一种多指标评价信息的数据挖掘方法，包括：

步骤1)、读取已有的交互数据；所述已有的交互数据包括显性的打分数据，所述显性的打分数据包括：一用户在与要打分的物品或服务相类似的已经打过分的其他物品或服务上的打分数据；其他用户之前在要打分的物品或服务上的打分数据；

步骤2)、根据步骤1)得到的已有的交互数据，采用经过训练的关联模型预先计算一用户对某一物品或服务在某一指标上的打分值；其中，所述关联模型包括

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+$

${\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}$

所述

为用户u对于物品或服务i在指标c上打分值的估计值，μ为全局打分平均值，b_u为用户评分偏置项，b_i为物品或服务偏置项，b_c为指标偏置项，ω_ijc为全局权重，d_ijc为隐性反馈因子；r_ujc是用户u对于物品或服务j在指标c上的实际打分值，b_ujc为用户u对于物品或服务j在指标c上的所有打分偏置，b_ujc＝μ+b_u+b_j+b_c；R^k(i；u，c)为用户u在指标c上打过分且与物品i相似度最高的k个物品或服务的集合，N^k(i；u，c)为用户u在指标c上有过隐性反馈行为且与物品或服务i相似度最高的k个物品或服务的集合。

上述技术方案中，所述已有的交互数据还包括用于表示诸如用户是否浏览、是否收藏、是否预定、是否购买在内的能够反映用户偏好行为的隐性的反馈数据。

上述技术方案中，在所述的步骤1)与步骤2)之间还包括利用已有的交互数据对所述的关联模型进行训练的步骤；该步骤包括：

步骤a)、用e_uic来描述预测值

和实际值r_uic之间的误差，即：

步骤b)、通过最小化损失函数C(κ)来获得所述关联模型中的五类参数b_u、b_i、b_c、w_ijc和d_ijc的大小，从而实现对所述关联模型的训练；所述损失函数C(κ)的表达式如下：

$C\left(\mathrm{\κ}\right)=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(e_{\mathrm{uic}}^2+{\mathrm{\λ}}_5(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2))$

$=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(r_{\mathrm{uic}}-u-b_u-b_i-b_c-{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}-$

${{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}})}^2+\mathrm{\λ}(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2)$

其中，κ表示包含有已知交互数据的整个训练集，

用来防止训练出现过拟合，λ是用来调节正则化项的比例的正则化因子。

上述技术方案中，在所述的步骤b)中，所述的最小化损失函数C(κ)采用随机梯度下降法实现，包括：

步骤b-1)、对所述关联模型中的b_u，b_i，b_c，w_ijc和d_ijc进行初始化；其中对b_u，b_i，b_c进行初始化的方法是求平均值，对w_ijc和d_ijc进行初始化的方法是在0左右随机取值；

步骤b-2)、在一次迭代过程中，对于由所述已有的交互数据所组成的训练集中的每一个已知的显性打分r_uic利用如下预测模型预测

并计算预测误差 $e_{\mathrm{uic}}\←r_{\mathrm{uic}}-{\hat{r}}_{\mathrm{uic}};$

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}};$

步骤b-3)利用步骤b-2)计算得到的预测误差e_uic更新模型参数b_u、b_i和b_c；其中，所述更新的方法是沿着负梯度方向修正，包括：

首先计算b_u，b_i和b_c在损失函数C(κ)中的偏导数：

$\frac{\mathrm{dC}}{{\∂b}_u}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_u$

$\frac{\mathrm{dC}}{{\∂b}_i}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_i$

$\frac{\mathrm{dC}}{{\∂b}_c}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_c$

然后沿着负梯度方向修正：

b_u←b_u+η(e_uic-λb_u)

b_i←b_i+η(e_uic-λb_i)

b_c←b_c+η(e_uic-λb_c)

所述η为学习速率；

步骤b-4)利用步骤b-2)计算得到的预测误差e_uic更新模型参数w_ijc和d_ijc；其中更新的方法同样是沿着负梯度方向修正，包括：

首先计算w_ijc和d_ijc在损失函数C(κ)中的偏导数：

$\∀j\∈R^k(i;u,c):$

$\frac{\∂C}{{\∂w}_{\mathrm{ijc}}}-2{\left|R^k(i;u,c)\right|}^{-1/2}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})e_{\mathrm{uic}}+{2\mathrm{\λw}}_{\mathrm{ijc}}$

$\frac{\∂C}{{\∂d}_{\mathrm{ijc}}}=-2{\left|N^k(i;u,c)\right|}^{-1/2}{e}_{\mathrm{uic}}+{2\mathrm{\λd}}_{\mathrm{ijc}};$

然后沿着负梯度方向修正：

$\∀j\∈R^k(i;u,c):$

w_ijc←w_ijc+η(|R^k(i；u，c)|^-1/2(r_ujc-b_ujc)e_uic-λw_ijc)

d_ijc←d_ijc+η(|N^k(i；u，c)|^-1/2e_uic-λd_ijc)；

步骤b-5)根据步骤b-4)计算得到的预测误差e_uic以及已知的显性的打分数据的数量计算本次预测的均方根误差RMSE，如果本次迭代所得到的RMSE的值与前一次迭代所得到的RMSE的值相比开始增大或者迭代次数超过一定阀值，则结束参数估计过程，步骤b-3)和步骤b-4)中计算得到的本次预测所得到的参数的大小就是所要求取的参数大小，否则回到步骤b-2)继续训练模型参数。

上述技术方案中，所述的正则化因子λ的大小为0.01。

上述技术方案中，所述学习速率η为通过多次实验测试所得到的一个能尽快收敛且不过拟合的值，其大小为0.005。

上述技术方案中，在所述的步骤b)中，所述的最小化损失函数C(κ)采用交替最小二乘法实现。

本发明的优点在于：

本发明可以支持多指标打分的预测，并具有较高的预测准确度和分类准确度；收敛速度快，运行时间短，适合于在线实时推荐。

附图说明

图1是本发明的多指标评价信息的数据挖掘方法的流程图；

图2是本发明的多指标评价信息的数据挖掘方法中采用随机梯度下降法训练模型的流程图。

具体实施方式

为了便于理解，在下面的实施例中，将结合具体的实例对本发明的数据挖掘方法进行说明，但本领域普通技术人员应当了解，本发明的数据挖掘方法的应用并不限于实施例中所描述的实例，在其他实施例中亦可应用。

用户评价一个物品或服务时通常可以从多个角度加以考虑，如在评价一个酒店时，可以从酒店的位置、价格、服务、卫生状况、周围环境、餐点的可口程度等多个方面进行评价。这些已有的评价信息可以给其他用户提供参考。但不同的用户，在选择物品或服务时可能会有不同的侧重点，例如，有的用户在选择酒店时主要考虑位置，对酒店的价格不太在意，有的用户则更注重价格。即使是同一用户，在不同的场景下，所考虑的重点也存在差异。例如，在商务活动时，可能更注重酒店的位置、价格等，而在旅游时，更注重酒店的周围环境、服务状况等。当用户到一个新的环境中时，总是希望能够得到准确、合适的推荐信息，避免花费不必要的时间和金钱。本发明所要完成的工作就是要根据用户的个性习惯，从已有评价信息中挖掘出有用的数据，从而为后续生成更准确、更合适的推荐信息提供帮助。

本发明的方法可分为两个阶段，第一阶段是模型的建立与训练，第二阶段是利用经过训练的模型挖掘数据。

下面结合附图1分别对这两个阶段所要完成的工作做详细说明。

一、模型的建立与训练

步骤101)、在本步骤中，要为用户对某一物品或服务的某个指标的估计打分值与已有的交互数据之间建立关联模型。

在本实施例中，作为一种优选实现方式，所述的已有的交互数据包括显性的打分数据和隐性的反馈数据。所述的显性的打分数据反映了用户为物品或服务给出的评价的分值的大小。所述的隐性的反馈数据能够反映用户的偏好行为。所述的显性的打分数据具体包括：其他客户之前在要打分的物品或服务上的打分数据，该客户在与要打分的物品或服务相类似的已经打过分的其他物品或服务上的打分数据。所述的隐性的反馈数据包括诸如用户是否浏览、是否收藏、是否预定、是否购买等行为，此外，用户为物品或服务打分的行为本身也能视作隐性的反馈数据的一种。在其他实施例中，所述隐性反馈数据可以仅包含用于描述用户是否打分的数据，不包含用于描述所述用户是否浏览、是否收藏、是否预定、是否购买等行为的数据。

所述关联模型的表达式如下：

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+$

${\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}---\left(1\right)$

其中，

为用户u对于物品或服务i在指标c上打分值的估计值，μ为全局打分平均值，b_u为用户评分偏置项，b_i为物品或服务偏置项，b_c为指标偏置项，ω_ijc为全局权重，d_ijc为隐性反馈因子。r_ujc是用户u对于物品或服务j在指标c上的实际打分值，b_ujc为用户u对于物品或服务j在指标c上的所有打分偏置，计算方法为b_ujc＝μ+b_u+b_j+b_c。R^k(i；u，c)为用户u在指标c上打过分且与物品i相似度最高的k个物品或服务的集合，N^k(i；u，c)为用户u在指标c上有过隐性反馈行为(比如购买、浏览、预定或者收藏等)且与物品或服务i相似度最高的k个物品或服务的集合。

上述公式中，为该模型所要计算的值。用户评分偏置项b_u为用于描述用户的打分偏好的值(如某些用户习惯上喜欢打高分，而有些用户习惯上喜欢打低分)，物品或服务偏置项b_i为用于描述用户对某一物品或服务的普遍的打分偏好的值(如因物品本身的质量原因，用户都对某一物品都偏好打高分，或用户都对另一物品都偏好打低分)，指标偏置项b_c为用于描述用户对某一指标的普遍的打分偏好的值(如对于要求较高的指标，用户的打分情况较为苛刻，而对于不太重要的指标i，用户的打分情况较为放松)、全局权重ω_ijc用于表示物品或服务i和物品或服务j在指标c上的显性关联关系、隐性反馈因子d_ijc用于表示物品或服务i和物品或服务j在指标c上的隐性关联关系。上述的五类参数在初始时未知，需要通过对该模型加以训练得到。该公式中其他项的值可通过已有的打分数据或前述五类参数得到。

步骤102)、利用已有的交互数据训练步骤101)中所建立的模型。

在本步骤中，在训练模型时，可以利用由已知交互数据所生成的训练集，以最小化估计打分值与实际值之间的误差为目标，对模型进行训练，从而获得参数用户评分偏置项b_u、物品或服务偏置项b_i、指标偏置项b_c、全局权重ω_ijc、隐性反馈因子d_ijc的大小。

在训练模型时，首先用e_uic来描述预测值

和实际值r_uic之间的误差，即：

然后通过最小化损失函数C(κ)来获得模型中的五类参数b_u、b_i、b_c、w_ijc和d_ijc。

$C\left(\mathrm{\κ}\right)=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(e_{\mathrm{uic}}^2+{\mathrm{\λ}}_5(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2))$

$=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(r_{\mathrm{uic}}-u-b_u-b_i-b_c-{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}-$

${{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}})}^2+\mathrm{\λ}(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2)$

其中，κ表示包含有已知交互数据的整个训练集，

用来防止训练出现过拟合，λ是用来调节正则化项比例的正则化因子。所述正则化因子的大小可以根据实验测试获得，它是通过多次测试得到的一个能使训练集预测误差和测试集预测误差比较接近的值，在本实施例中其大小可以取0.01。

前述的最小化损失函数C(κ)可采用随机梯度下降法或交替最小二乘法实现。在本实施例中，以随机梯度下降法为例，对如何求取前述五个参数的过程进行说明。在其他实施例中，也可采用交替最小二乘法来求取模型中的前述五个参数。下面结合图2，对如何利用随机梯度下降法求取前述五个参数的过程进行说明。

步骤201)对b_u，b_i，b_c，w_ijc和d_ijc进行初始化，对b_u，b_i，b_c进行初始化的方法是求平均值，对w_ijc和d_ijc进行初始化的方法是在0左右随机取值。

步骤202)在一次迭代过程中，对于训练集中的每一个已知的显性的打分r_uic，利用如下预测模型预测

并计算预测误差

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}$

步骤203)利用步骤202)计算得到的预测误差e_uic更新模型参数b_u、b_i和b_c。所述更新的方法是沿着负梯度方向修正。

首先计算b_u，b_i和b_c在损失函数C(κ)中的偏导数：

$\frac{\mathrm{dC}}{{\∂b}_u}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_u$

$\frac{\mathrm{dC}}{{\∂b}_i}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_i$

$\frac{\mathrm{dC}}{{\∂b}_c}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_c$

然后沿着负梯度方向修正：

b_u←b_u+η(e_uic-λb_u)

b_i←b_i+η(e_uic-λb_i)

b_c←b_c+η(e_uic-λb_c)

上式中η为学习速率，所述η根据实验测试获得，通过多次测试取一个能尽快收敛且不会导致过拟合的值，在本实施例中，其大小可以取0.005，实验结果证明，学习速率取该值时，所生成的训练模型更佳。

步骤204)利用步骤202)计算得到的预测误差e_uic更新模型参数w_ijc和d_ijc。更新的方法同样是沿着负梯度方向修正。

首先计算w_ijc和d_ijc在损失函数C(κ)中的偏导数：

$\∀j\∈R^k(i;u,c):$

$\frac{\∂C}{{\∂w}_{\mathrm{ijc}}}-2{\left|R^k(i;u,c)\right|}^{-1/2}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})e_{\mathrm{uic}}+{2\mathrm{\λw}}_{\mathrm{ijc}}$

$\frac{\∂C}{{\∂d}_{\mathrm{ijc}}}=-2{\left|N^k(i;u,c)\right|}^{-1/2}{e}_{\mathrm{uic}}+{2\mathrm{\λd}}_{\mathrm{ijc}}$

然后沿着负梯度方向修正：

$\∀j\∈R^k(i;u,c):$

w_ijc←w_ijc+η(|R^k(i；u，c)|^-1/2(r_ujc-b_ujc)e_uic-λw_ijc)

d_ijc←d_ijc+η(|N^k(i；u，c)|^-1/2e_uic-λd_ijc)

上式中η为学习速率。

步骤205)根据步骤204)计算得到的预测误差e_uic以及已知的显性打分数据的数量计算本次预测的均方根误差RMSE，如果本次迭代所得到的RMSE的值与前一次迭代所得到的RMSE的值相比开始增大或者迭代次数超过一定阀值，则结束参数估计过程，步骤203)和步骤204)中计算得到的本次预测所得到的参数的大小就是所要求取的参数大小，否则回到步骤202)继续训练模型参数。

经过上述模型训练后，模型中的参数用户评分偏置项b_u、物品或服务偏置项b_i、指标偏置项b_c、全局权重ω_ijc、隐性反馈因子d_ijc的大小为已知值，利用训练好的模型参数可在下一阶段做数据挖掘。

以上是对第一阶段如何建立模块、如何训练模型的说明。经过训练的模型只要其在训练过程中所采用的交互数据没有发生变化，则该模型可以反复使用。在实际应用中，可以间隔一定时间或当新增数据达到一定规模后再重新训练模型。

二、数据挖掘

步骤103)、将已知的交互数据代入训练好的模型中，计算用户对于未打分物品或服务的多个指标的打分值的估计值。

在本步骤中，所述的已知的交互数据与步骤102)中训练模型时所采用的交互数据相同。在本实施例中，所述多个指标的具体的指标类型与已知的交互数据中显性的打分数据有关，在所述已知交互数据中包含有N个指标类型的显性的打分数据，则在本步骤中就能计算出该N个指标的打分值的估计值。在其他实施例中，也可根据需要计算所述N个指标中的M(M＜N)个指标的显性打分值的估计值，与计算所有N个指标的显性打分值的估计值相比，根据需要计算其中M个指标的显性打分值的估计值显然能够降低工作量，节省工作时间。

通过本发明的方法计算出未打分物品或服务的多个指标的估计值以后，在后续操作中，就可以根据用户之前的消费习惯，从多个未打分物品或服务中选取相应指标较高的若干个物品或服务向用户推荐。

在一个例子中，一客户打算在近期到海南省三亚市旅游。由于该客户之前未曾去过三亚，因此希望能够向他提供推荐信息以帮助他遴选合适的酒店。在本发明的方法中，首先获取已有的交互数据，这些交互数据包括其他客户在三亚各个酒店居住后所给出的打分数据以及该客户对其他地区的酒店的打分数据，这些打分数据可包括酒店位置、价格、服务水平、周边环境等多个指标的内容。所述交互数据还包括用户是否浏览、是否收藏、是否预定等隐性反馈数据。在得到已有的交互数据后，将这些交互数据输入一已经训练好的模型，根据该模型可以估计出该客户对三亚各个酒店在多项指标上的打分值。在得到这些预估出来的打分值以后，就可以以这些预估出来的打分值为基础，根据需要选取在某些指标上预估打分值较高的若干个酒店向该客户推荐。这将极大地方便用户。

最后所应说明的是，以上实施例仅用以说明本发明的技术方案而非限制。尽管参照实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，对本发明的技术方案进行修改或者等同替换，都不脱离本发明技术方案的精神和范围，其均应涵盖在本发明的权利要求范围当中。

Claims (7)

1.一种多指标评价信息的数据挖掘方法，包括：

步骤1)、读取已有的交互数据；所述已有的交互数据包括显性的打分数据，所述显性的打分数据包括：一用户在与要打分的物品或服务相类似的已经打过分的其他物品或服务上的打分数据；其他用户之前在要打分的物品或服务上的打分数据；

步骤2)、根据步骤1)得到的已有的交互数据，采用经过训练的关联模型预先计算一用户对某一物品或服务在某一指标上的打分值；其中，所述关联模型包括

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+$

${\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}$

所述

为用户u对于物品或服务i在指标c上打分值的估计值，μ为全局打分平均值，b_u为用户评分偏置项，b_i为物品或服务偏置项，b_c为指标偏置项，ω_ijc为全局权重，d_ijc为隐性反馈因子；r_ujc是用户u对于物品或服务j在指标c上的实际打分值，b_ujc为用户u对于物品或服务j在指标c上的所有打分偏置，b_ujc＝μ+b_u+b_j+b_c；R^k(i；u，c)为用户u在指标c上打过分且与物品i相似度最高的k个物品或服务的集合，N^k(i；u，c)为用户u在指标c上有过隐性反馈行为且与物品或服务i相似度最高的k个物品或服务的集合。

2.根据权利要求1所述的多指标评价信息的数据挖掘方法，其特征在于，所述已有的交互数据还包括用于表示诸如用户是否浏览、是否收藏、是否预定、是否购买在内的能够反映用户偏好行为的隐性的反馈数据。

3.根据权利要求1或2所述的多指标评价信息的数据挖掘方法，其特征在于，在所述的步骤1)与步骤2)之间还包括利用已有的交互数据对所述的关联模型进行训练的步骤；该步骤包括：

步骤a)、用e_uic来描述预测值

和实际值r_uic之间的误差，即：

步骤b)、通过最小化损失函数C(κ)来获得所述关联模型中的五类参数b_u、b_i、b_c、w_ijc和d_ijc的大小，从而实现对所述关联模型的训练；所述损失函数C(κ)的表达式如下：

$C\left(\mathrm{\κ}\right)=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(e_{\mathrm{uic}}^2+{\mathrm{\λ}}_5(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2))$

$=\underset{(u,i,c)\∈\mathrm{\κ}}{\mathrm{\Σ}}(r_{\mathrm{uic}}-u-b_u-b_i-b_c-{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}-$

${{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}})}^2+\mathrm{\λ}(b_u^2+b_i^2+b_c^2+\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}{w}_{\mathrm{ijc}}^2+\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}}^2)$

其中，κ表示包含有已知交互数据的整个训练集，用来防止训练出现过拟合，λ是用来调节正则化项的比例的正则化因子。

4.根据权利要求3所述的多指标评价信息的数据挖掘方法，其特征在于，在所述的步骤b)中，所述的最小化损失函数C(κ)采用随机梯度下降法实现，包括：

步骤b-1)、对所述关联模型中的b_u，b_i，b_c，w_ijc和d_ijc进行初始化；其中对b_u，b_i，b_c进行初始化的方法是求平均值，对w_ijc和d_ijc进行初始化的方法是在0左右随机取值；

步骤b-2)、在一次迭代过程中，对于由所述已有的交互数据所组成的训练集中的每一个已知的显性打分r_uic利用如下预测模型预测

并计算预测误差 $e_{\mathrm{uic}}\←r_{\mathrm{uic}}-{\hat{r}}_{\mathrm{uic}};$

${\hat{r}}_{\mathrm{uic}}=\mathrm{\μ}+b_u+b_i+b_c+{\left|R^k(i;u,c)\right|}^{-1/2}\underset{j\∈R^k(i;u,c)}{\mathrm{\Σ}}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})w_{\mathrm{ijc}}+{\left|N^k(i;u,c)\right|}^{-1/2}\underset{j\∈N^k(i;u,c)}{\mathrm{\Σ}}{d}_{\mathrm{ijc}};$

步骤b-3)利用步骤b-2)计算得到的预测误差e_uic更新模型参数b_u、b_i和b_c；其中，所述更新的方法是沿着负梯度方向修正，包括：

首先计算b_u，b_i和b_c在损失函数C(κ)中的偏导数：

$\frac{\mathrm{dC}}{{\∂b}_u}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_u$

$\frac{\mathrm{dC}}{{\∂b}_i}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_i$

$\frac{\mathrm{dC}}{{\∂b}_c}=-{2e}_{\mathrm{uic}}+{2\mathrm{\λb}}_c$

然后沿着负梯度方向修正：

b_u←b_u+η(e_uic-λb_u)

b_i←b_i+η(e_uic-λb_i)

b_c←b_c+η(e_uic-λb_c)

所述η为学习速率；

步骤b-4)利用步骤b-2)计算得到的预测误差e_uic更新模型参数w_ijc和d_ijc；其中更新的方法同样是沿着负梯度方向修正，包括：

首先计算w_ijc和d_ijc在损失函数C(κ)中的偏导数：

$\∀j\∈R^k(i;u,c):$

$\frac{\∂C}{{\∂w}_{\mathrm{ijc}}}-2{\left|R^k(i;u,c)\right|}^{-1/2}(r_{\mathrm{ujc}}-b_{\mathrm{ujc}})e_{\mathrm{uic}}+{2\mathrm{\λw}}_{\mathrm{ijc}}$

$\frac{\∂C}{{\∂d}_{\mathrm{ijc}}}=-2{\left|N^k(i;u,c)\right|}^{-1/2}{e}_{\mathrm{uic}}+{2\mathrm{\λd}}_{\mathrm{ijc}};$

然后沿着负梯度方向修正：

$\∀j\∈R^k(i;u,c):$

w_ijc←w_ijc+η(|R^k(i；u，c)|^-1/2(r_ujc-b_ujc)e_uic-λw_ijc)

d_ijc←d_ijc+η(|N^k(i；u，c)|^-1/2e_uic-λd_ijc)；

步骤b-5)根据步骤b-4)计算得到的预测误差e_uic以及已知的显性的打分数据的数量计算本次预测的均方根误差RMSE，如果本次迭代所得到的RMSE的值与前一次迭代所得到的RMSE的值相比开始增大或者迭代次数超过一定阀值，则结束参数估计过程，步骤b-3)和步骤b-4)中计算得到的本次预测所得到的参数的大小就是所要求取的参数大小，否则回到步骤b-2)继续训练模型参数。

5.根据权利要求4所述的多指标评价信息的数据挖掘方法，其特征在于，所述的正则化因子λ的大小为0.01。

6.根据权利要求4所述的多指标评价信息的数据挖掘方法，其特征在于，所述学习速率η为通过多次实验测试所得到的一个能尽快收敛且不过拟合的值，其大小为0.005。

7.根据权利要求3所述的多指标评价信息的数据挖掘方法，其特征在于，在所述的步骤b)中，所述的最小化损失函数C(κ)采用交替最小二乘法实现。

Images