CN104090936B - 一种基于超图排序的新闻推荐方法 - Google Patents

Abstract

本发明公开了一种基于超图排序的新闻推荐方法，包括以下步骤：1)预处理，2)超图构建，3)矩阵构建，4)排序，5)获得排序结果，6)获得推荐结果。本发明主要通过使用超图模型挖掘用户和新闻内容的内在关系和排序关系，从而将新闻推荐比较繁杂的处理体系简化为一个明晰简洁的关联架构。本发明的特色在于简化了新闻推荐的预处理步骤，而且直接给出了推荐列表。使用本发明可以较好地保证推荐结果与用户偏好的准确性，同时对推荐结果无需做额外二次挑选的前提下又可以保证推荐结果的多样性。

Description

一种基于超图排序的新闻推荐方法

技术领域

本发明涉及新闻推荐的技术领域，尤其是指一种基于超图排序的新闻推荐方法。

背景技术

在中国经济和互联网飞速发展的今天，越来越多的人选择使用互联网或移动终端来阅读新闻资讯。然而，新闻资讯充裕也会带来信息过载的问题，因此，个性化新闻推荐的应用具有现实意义。现有的个性化新闻推荐方法主要有两种：1)基于历史浏览新闻的内容分析的推荐，即基于内容的推荐。该类方法使用用户以往的浏览新闻纪录，根据分析新闻的内容因素，给用户推荐与历史新闻近似的新闻资讯。该类方法具有较高的准确性，但不容易扩展，即容易反复陷入让用户局限于某特定领域的新闻中，而且多样化性能不高，即推荐的新闻中容易产生聚合粘连。2)基于用户之间的协同性的推荐，即基于协同过滤的推荐。严格来说，完全根据用户和物品之间的协同关系分析相同兴趣用户、或相似物品，并根据这些相似用户或物品来作为推荐依据。

鉴于新闻推荐的对象为新出版新闻(Newly-Published News)，由于新出版的新闻在训练集中不存在，因此，使用协同过滤推荐方法会面临不间断的冷物品问题，因此在新闻推荐中，协同过滤推荐往往会结合基于内容的方法，以融合方式出现。

鉴于以上讨论的新闻推荐的特殊性，新近的新闻推荐方法有以下几种：

1)基于用户历史新闻兴趣的推荐。该类方法即使用了基于内容推荐的原理，直接通过比对用户以往浏览的历史新闻，建立向量空间模型，然后比较待推荐的新闻与历史模型的相似度来推荐。该方法实现简单，推荐解释也充分，但容易产生聚合效应，即推荐结果容易粘连，给用户推荐的新闻都容易围绕同一新闻子集。从原理上来说，采用向量空间模型表示后，用户的兴趣量化为多维空间中的一个点，因此，被推荐的新闻也就根据与这个点的相似度来推荐，因此多样化特性不高，如果用户历史阅读的新闻多样化较好，则推荐结果不仅多样性不足，而且准确度也差。

2)基于新闻聚类簇的推荐。该类方法现将用户历史浏览新闻聚类，然后在待推荐新闻中，找到与这些新闻簇较近的一些新闻作为推荐结果。从原理上来说，用户的历史新闻已经分为多个新闻簇，这对推荐结果的多样化和准确性有更多的支持保障。但也存在一些问题，如聚类簇的多少需要经验指定，同时也不利于用户阅读兴趣的扩展。也有些文献对该方法进行了一些扩展，即使用协同过滤方式来将具有多个历史阅读簇的用户看做是相似用户，以相似用户阅读的新闻作为用户推荐新闻的依据，这一定程度上扩展了用户推荐的范围。

3)基于上下文的新闻推荐。由于新闻是即时资讯，同时也存在比较明显的地域性，因此有些方法基于以上方法，融合了地域、新鲜性和热点性等特点来进行新闻推荐。该类方法对新闻推荐实际应用具有重要意义，但仍然没有解决本质上的用户兴趣度准确刻画、多样性分部的合理性以及推荐的可扩展性。

发明内容

本发明的目的在于克服现有技术的不足与缺陷，提供一种基于超图排序的新闻推荐方法，该方法专门解决互联网环境下的个性化新闻推荐问题，同时也具备较好的冷用户新闻推荐能力，这里的冷用户是指历史阅读量较少的用户，即不活跃用户。

为实现上述目的，本发明所提供的技术方案为：一种基于超图排序的新闻推荐方法，包括以下步骤：

1)预处理

处理分类问题和命名实体抽取问题，利用已有的分类标注新闻语料，将用户历史阅读的新闻以及待推荐的新出版新闻进行分类，同时，使用NLP开源工具GATE进行命名实体抽取，使新闻语料具有命名实体关联集；

2)超图构建

定义超图模型中的点、边及其相关的权重；

3)矩阵构建

超图排序所需的矩阵构建，有H矩阵、D_e矩阵、D_v矩阵、W矩阵，其中：

H矩阵是超图中的“点-边”关联矩阵，每个元素是h(v,e)，如果点v和超边e关联，则h(v,e)＝1，否则h(v,e)＝0；

D_e矩阵是由所有超边e的度构成的对角矩阵，矩阵中的对角线元素值是每个超边的度，其余元素的值为0，超边e的度数δ(e)＝|e|，即超边中包含的节点数；

D_v矩阵是由所有节点v的度构成的对角矩阵，矩阵中的对角线元素值是每个节点的度，其余元素的值为0，节点v的度数即节点v所关联的所有边的权重之和；

W矩阵是一个|E|×|E|的对角矩阵，其中对角元素是每条超边的权重，其余元素是0；

4)排序

定义一个代价函数，并最小化该代价函数来求得新闻文章的排序分数，该代价函数定义如下：

式中，d(v_i)表示v_i节点的度数，f_i表示第i个元素的排序得分，w(e)表示超边e的权重，μ是正则化参数，y_i是第i个元素初始化的排序得分，δ(e)是e的度数，即超边e包含的节点数；该代价函数的含义在于，如果两个节点同时处于较多相同的超边之内，则这两个节点的排序得分应该是近似的，对代价函数进行f向量的求偏导数，并使偏导数公式等于0，即可求得最优解：

f^*＝(I-αA)^-1y

式中，I是单位矩阵，其中每个矩阵元素都可以在步骤3)中求解，y向量的维度是所有元素的总量，关于y向量的赋值，其对应的用户，即如需对某特定用户形成推荐列表，则对该当前用户所对应的分量赋值为1，其它分量有三种情况：分类点、新闻文章、命名实体；①分类点，对应分量的取值为对该分类点的访问占所有历史文章访问的比例，②新闻文章，有关联的则取值为1，如果没有关联，或该文章是待推荐新闻，则取值为0，③命名实体，有关联的则取值为1，如果没有关联，则取值为0；

5)获得排序结果

根据步骤4)提供的公式，代入相关的函数公式，获得f^*的运算向量结果；

6)获得推荐结果

由于f^*向量包含了超图模型中的所有元素，因此，需要对专门的“待推荐新闻集合”进行抽取，即对f^*向量中，只提取对应的待推荐新闻所对应的向量的排序得分，然后取前n个新闻作为Top@n推荐列表。

在步骤1)中，使用SVM分类法，并使用现有的分类训练集对测试集和训练集语料中的新闻文章进行分类，分类操作后，每篇文章都有了自己的分类号标签。

在步骤2)中，超图模型的超图对象集包括有用户U、新闻类别C、新闻文章N、命名实体T，其超边集包括有用户－类别－新闻E⁽¹⁾、用户－新闻－命名实体E⁽²⁾、用户－用户－命名实体E⁽³⁾、用户－用户－类别E⁽⁴⁾、用户－用户－新闻E⁽⁵⁾、类别－新闻－新闻E⁽⁶⁾、命名实体－新闻－新闻E⁽⁷⁾、类别之间的相似边E⁽⁸⁾，其中：

用户－类别－新闻E⁽¹⁾表示用户阅读属于某一个新闻类别中的文章，由于该超边涉及的是关联关系，因此可将其权重设为1，通常假设每个用户阅读某文章只有一次；

用户－新闻－命名实体E⁽²⁾表示用户阅读某新闻时，该新闻所含有某命名实体，关联关系的超边权重设置为1；

用户－用户－命名实体E⁽³⁾表示两篇新闻文章包含有同一个命名实体，权重为1；

用户－用户－类别E⁽⁴⁾表示两个用户阅读的新闻在类别上有重叠，可以此定义超边，由于重叠部分不仅仅是关联关系，因此定义该超边的权重为其中u_i和u_j表示两个不同的用户，c表示类别，该权重的定义需要体现两个不同用户重叠类的新闻数，将其权重定义如下：

为了进一步进行公平化的表示，将该权重进行归一化：

用户－用户－新闻E⁽⁵⁾表示两个读者可能会阅读同一篇新闻文章，该超边权重为1；

类别－新闻－新闻E⁽⁶⁾表示两篇新闻文章可能会同属一个类中，该超边权重为1；

命名实体－新闻－新闻E⁽⁷⁾表示两篇新闻文章可能含同一个命名实体，该超边权重为1；

类别之间的相似边E⁽⁸⁾表示每一对新闻类别会有不同的相似度，定义该超边权重为

其中，表示所有类间相似度的最大值，相似度使用向量空间余弦相似度。

在步骤6)中，根据每个用户的待推荐新闻的排序值从大到小给出前n个推荐新闻的推荐列表。

本发明与现有技术相比，具有如下优点与有益效果：

1、可以有效地融合新闻内容和用户之间协同性的新闻推荐；

2、通过基于超图模型的排序算法直接给出给定用户的推荐列表；

3、区别于以往新闻推荐方法，不容易产生基于向量空间模型的推荐新闻聚合，即推荐列表中的新闻具有更好的多样化特性；

4、模型容易进行应用扩展，适当修改即可以用于音乐推荐、电影推荐、社交好友推荐和一般商品推荐。

附图说明

图1为表示用户与对象之间关系的超图示意图。

图2为本发明所述基于超图排序的新闻推荐方法的流程图。

具体实施方式

下面结合具体实施例对本发明作进一步说明。

本实施例所述的基于超图排序的新闻推荐方法，认为以下四个因素可以挖掘用户对新闻的兴趣爱好：

(1)用户对新闻集合的阅读关联的协同性。即挖掘用户对新闻的阅读规律。

(2)用户对以往历史新闻的命名实体偏好性。新闻命名实体是指新闻中出现的地点、人物、事件名等，即挖掘用户对这些实体的阅读偏好。

(3)用户对新闻类别偏好性。

(4)新闻类别之间的相似性。

本新闻推荐方法提出了以这些基本元素作为超图的点，元素之间的关联作为超边来构建超图模型，并对超图模型进行排序分析，进而得到用户偏好排序。超图表示用户与对象之间的关系如图1所示，其中，方块表示用户，圆形字母表示新闻对象，包括：新闻、新闻分类、新闻命名实体，包含用户和新闻对象的圈表示超图的边。

如图2所示，本发明所述基于超图排序的新闻推荐方法，其具体情况如下：

1)预处理

处理分类问题和命名实体抽取问题。利用已有的分类标注新闻语料，将用户历史阅读的新闻以及待推荐的新出版新闻进行分类，本发明使用了SVM分类法，并使用现有的分类训练集对测试集和训练集语料中的新闻文章进行分类，分类操作后，每篇文章都有了自己的分类号标签。同时，使用NLP开源工具GATE进行命名实体抽取，使新闻语料具有命名实体关联集。

2)超图构建

定义超图模型中的点、边及其相关的权重。

超图模型中的超图对象集如下表1所示。

表1-对象集

对象集	集符号	元素符号
			用户	U	u
新闻类别	C	c
			新闻文章	N	n
命名实体	T	t

超边集如下表2所示。

表2-超边集

超边类别	符号
		用户－类别－新闻	E(1)
用户－新闻－命名实体	E(2)
		用户－用户－命名实体	E(3)
用户－用户－类别	E(4)
		用户－用户－新闻	E(5)
类别－新闻－新闻	E(6)
		命名实体－新闻－新闻	E(7)
类别之间的相似边	E(8)

各边解释如下：

用户－类别－新闻E⁽¹⁾表示用户阅读属于某一个新闻类别中的文章，由于该超边涉及的是关联关系，因此可将其权重设为1，通常假设每个用户阅读某文章只有一次；

用户－新闻－命名实体E⁽²⁾表示用户阅读某新闻时，该新闻所含有某命名实体，关联关系的超边权重设置为1；

用户－用户－命名实体E⁽³⁾表示两篇新闻文章包含有同一个命名实体，权重为1；

用户－用户－类别E⁽⁴⁾表示两个用户阅读的新闻在类别上有重叠，可以此定义超边，由于重叠部分不仅仅是关联关系，因此定义该超边的权重为其中u_i和u_j表示两个不同的用户，c表示类别，该权重的定义需要体现两个不同用户重叠类的新闻数，将其权重定义如下：

为了进一步进行公平化的表示，将该权重进行归一化：

用户－用户－新闻E⁽⁵⁾表示两个读者可能会阅读同一篇新闻文章，该超边权重为1；

类别－新闻－新闻E⁽⁶⁾表示两篇新闻文章可能会同属一个类中，该超边权重为1；

命名实体－新闻－新闻E⁽⁷⁾表示两篇新闻文章可能含同一个命名实体，该超边权重为1；

类别之间的相似边E⁽⁸⁾表示每一对新闻类别会有不同的相似度，定义该超边权重为

其中，表示所有类间相似度的最大值，相似度使用向量空间余弦相似度。

3)矩阵构建

超图排序所需的矩阵构建，有H矩阵、D_e矩阵、D_v矩阵、W矩阵，其中：

H矩阵是超图中的“点-边”关联矩阵，每个元素是h(v,e)，如果点v和超边e关联，则h(v,e)＝1，否则h(v,e)＝0；

D_e矩阵是由所有超边e的度构成的对角矩阵，矩阵中的对角线元素值是每个超边的度，其余元素的值为0，超边e的度数δ(e)＝|e|，即超边中包含的节点数；

D_v矩阵是由所有节点v的度构成的对角矩阵，矩阵中的对角线元素值是每个节点的度，其余元素的值为0。节点v的度数即节点v所关联的所有边的权重之和；

W矩阵是一个|E|×|E|的对角矩阵，其中对角元素是每条超边的权重，其余元素是0；

4)排序

定义一个代价函数，并最小化该代价函数来求得新闻文章的排序分数，该代价函数定义如下：

式中，d(v_i)表示v_i节点的度数，f_i表示第i个元素的排序得分，w(e)表示超边e的权重，μ是正则化参数，y_i是第i个元素初始化的排序得分，δ(e)是e的度数，即超边e包含的节点数；该代价函数的含义在于，如果两个节点同时处于较多相同的超边之内，则这两个节点的排序得分应该是近似的，对代价函数进行f向量的求偏导数，并使偏导数公式等于0，即可求得最优解：

f^*＝(I-αA)^-1y

式中，I是单位矩阵，其中每个矩阵元素都可以在步骤3)中求解，y向量的维度是所有元素的总量，关于y向量的赋值，其对应的用户，即如需对某特定用户形成推荐列表，则对该当前用户所对应的分量赋值为1，其它分量有三种情况：分类点、新闻文章、命名实体；①分类点，对应分量的取值为对该分类点的访问占所有历史文章访问的比例，②新闻文章，有关联的则取值为1，如果没有关联，或该文章是待推荐新闻，则取值为0，③命名实体，有关联的则取值为1，如果没有关联，则取值为0；

5)获得排序结果

根据步骤4)提供的公式，代入相关的函数公式，获得f^*的运算向量结果；

6)获得推荐结果

由于f^*向量包含了超图模型中的所有元素，因此，需要对专门的“待推荐新闻集合”进行抽取，即对f^*向量中，只提取对应的待推荐新闻所对应的向量的排序得分，然后取前n个新闻作为Top@n推荐列表，通常根据每个用户的待推荐新闻的排序值从大到小给出前n个推荐新闻的推荐列表，如下表所示。

从表中可得，用户u1的待推荐新闻列表全排序是{n5,n2,n6,n3}，其中，用户u1的Top@3推荐列表是{n5,n2,n6}。注：标记中，“历”表示测试集中的新闻，“待”表示待推荐新闻。

综上所述，本发明方法主要通过使用超图模型挖掘用户和新闻内容的内在关系和排序关系，从而将新闻推荐比较繁杂的处理体系简化为一个明晰简洁的关联架构，其特色在于简化了新闻推荐的预处理步骤，而且直接给出了推荐列表。这相比现有技术，使用本发明方法可以较好地保证推荐结果与用户偏好的准确性，同时对推荐结果无需做额外二次挑选的前提下又可以保证推荐结果的多样性，值得推广。

以上所述实施例子只为本发明较佳实施例，并非以此限制本发明的实施范围，故凡依本发明之形状、原理所作的变化，均应涵盖在本发明的保护范围内。

Claims (4)

1.一种基于超图排序的新闻推荐方法，其特征在于，包括以下步骤：

1)预处理

处理分类问题和命名实体抽取问题，利用已有的分类标注新闻语料，将用户历史阅读的新闻以及待推荐的新出版新闻进行分类，同时，使用NLP开源工具GATE进行命名实体抽取，使新闻语料具有命名实体关联集；

2)超图构建

定义超图模型中的点、边及其相关的权重；

3)矩阵构建

超图排序所需的矩阵构建，有H矩阵、D_e矩阵、D_v矩阵、W矩阵，其中：

H矩阵是超图中的“点-边”关联矩阵，每个元素是h(v,e)，如果点v和超边e关联，则h(v,e)＝1，否则h(v,e)＝0；

D_e矩阵是由所有超边e的度构成的对角矩阵，矩阵中的对角线元素值是每个超边的度，其余元素的值为0，超边e的度数δ(e)＝|e|，即超边中包含的节点数；

D_v矩阵是由所有节点v的度构成的对角矩阵，矩阵中的对角线元素值是每个节点的度，其余元素的值为0，节点v的度数即节点v所关联的所有边的权重之和；

W矩阵是一个|E|×|E|的对角矩阵，其中对角元素是每条超边的权重，其余元素是0；

4)排序

定义一个代价函数，并最小化该代价函数来求得新闻文章的排序分数，该代价函数定义如下：

$Q\left(f\right)=\frac{1}{2}\underset{i,j=1}{\overset{\left|V\right|}{\Σ}}\underset{e\∈E}{\Σ}\frac{1}{\mathrm{\δ}\left(e\right)}\underset{\left\{v_i{v}_j\right\}\⊆e}{\Σ}w\left(e\right)\left|\right|\frac{f_i}{\sqrt{d\left(v_i\right)}}-\frac{f_j}{\sqrt{d\left(v_j\right)}}|{|}^2+\mathrm{\μ}\underset{i=1}{\overset{\left|V\right|}{\Σ}}||f_i-y_i|{|}^2$

式中，d(v_i)表示v_i节点的度数，f_i表示第i个元素的排序得分，w(e)表示超边e的权重，μ是正则化参数，y_i是第i个元素初始化的排序得分，δ(e)是e的度数，即超边e包含的节点数；该代价函数的含义在于，如果两个节点同时处于较多相同的超边之内，则这两个节点的排序得分应该是近似的，对代价函数进行f向量的求偏导数，并使偏导数公式等于0，即可求得最优解：

f^*＝(I-αA)^-1y

式中，I是单位矩阵，其中每个矩阵元素都可以在步骤3)中求解，y向量的维度是所有元素的总量，关于y向量的赋值，其对应的用户，即如需对某特定用户形成推荐列表，则对该当前用户所对应的分量赋值为1，其它分量有三种情况：分类点、新闻文章、命名实体；①分类点，对应分量的取值为对该分类点的访问占所有历史文章访问的比例，②新闻文章，有关联的则取值为1，如果没有关联，或该文章是待推荐新闻，则取值为0，③命名实体，有关联的则取值为1，如果没有关联，则取值为0；

5)获得排序结果

根据步骤4)提供的公式，代入相关的函数公式，获得f^*的运算向量结果；

6)获得推荐结果

由于f^*向量包含了超图模型中的所有元素，因此，需要对专门的“待推荐新闻集合”进行抽取，即对f^*向量中，只提取对应的待推荐新闻所对应的向量的排序得分，然后取前n个新闻作为Top@n推荐列表。

2.根据权利要求1所述的一种基于超图排序的新闻推荐方法，其特征在于：在步骤1)中，使用SVM分类法，并使用现有的分类训练集对测试集和训练集语料中的新闻文章进行分类，分类操作后，每篇文章都有了自己的分类号标签。

3.根据权利要求1所述的一种基于超图排序的新闻推荐方法，其特征在于：在步骤2)中，超图模型的超图对象集包括有用户U、新闻类别C、新闻文章N、命名实体T，其超边集包括有用户－类别－新闻E⁽¹⁾、用户－新闻－命名实体E⁽²⁾、用户－用户－命名实体E⁽³⁾、用户－用户－类别E⁽⁴⁾、用户－用户－新闻E⁽⁵⁾、类别－新闻－新闻E⁽⁶⁾、命名实体－新闻－新闻E⁽⁷⁾、类别之间的相似边E⁽⁸⁾，其中：

用户－类别－新闻E⁽¹⁾表示用户阅读属于某一个新闻类别中的文章，由于该超边涉及的是关联关系，因此可将其权重设为1，通常假设每个用户阅读某文章只有一次；

用户－新闻－命名实体E⁽²⁾表示用户阅读某新闻时，该新闻所含有某命名实体，关联关系的超边权重设置为1；

用户－用户－命名实体E⁽³⁾表示两篇新闻文章包含有同一个命名实体，权重为1；

用户－用户－类别E⁽⁴⁾表示两个用户阅读的新闻在类别上有重叠，可以此定义超边，由于重叠部分不仅仅是关联关系，因此定义该超边的权重为其中u_i和u_j表示两个不同的用户，c表示类别，该权重的定义需要体现两个不同用户重叠类的新闻数，将其权重定义如下：

$w\left(e_{u_i,u_j,c}^{\left(4\right)}\right)=\left|\right\{(u_i,u_j,c)|u_i\∈U,u_j\∈U,c\∈C\}|$

为了进一步进行公平化的表示，将该权重进行归一化：

$w^{*}\left(e_{u_i,u_j,c}^{\left(4\right)}\right)=\frac{w\left(e_{u_i,u_j,c}^{\left(4\right)}\right)}{\sqrt{\underset{l=1}{\overset{\left|U\right|}{\Σ}}w\left(e_{u_l,u_j,c}^{\left(4\right)}\right)\underset{k=1}{\overset{\left|U\right|}{\Σ}}w\left(e_{u_i,u_k,c}^{\left(4\right)}\right)}}$

用户－用户－新闻E⁽⁵⁾表示两个读者可能会阅读同一篇新闻文章，该超边权重为1；

类别－新闻－新闻E⁽⁶⁾表示两篇新闻文章可能会同属一个类中，该超边权重为1；

命名实体－新闻－新闻E⁽⁷⁾表示两篇新闻文章可能含同一个命名实体，该超边权重为1；

类别之间的相似边E⁽⁸⁾表示每一对新闻类别会有不同的相似度，定义该超边权重为

$w^{*}\left(e_{i,j}^{\left(8\right)}\right)=\frac{w\left(e_{i,j}^{\left(8\right)}\right)}{max\left(w\right(e_{i,j}^{\left(8\right)}\left)\right)}$

其中，表示所有类间相似度的最大值，相似度使用向量空间余弦相似度。

4.根据权利要求1所述的一种基于超图排序的新闻推荐方法，其特征在于：在步骤6)中，根据每个用户的待推荐新闻的排序值从大到小给出前n个推荐新闻的推荐列表。