CN102682074A - 一种基于流形学习的产品隐式属性识别方法 - Google Patents

Abstract

基于流形学习的产品评论隐式属性识别方法，从互联网上抓取产品评论数据后，针对每条评论语句作如下操作：首先进行词性标注和语法标注，利用语法关系提取出显式属性和意见词；再根据产品属性和意见词间的共现和语义关系构建图，利用流形学习的方法构造新的空间重构该关系图，最后根据新图进行隐式属性推断，从而实现将产品评论按照属性进行分类，提供产品属性粒度的性能总结和详细评论呈现。本方法的优点在于：对于未提及产品属性的产品评论，能利用意见词推导出隐式属性，进而可对该类产品评论数据按属性进行分类。可以帮助用户按产品属性浏览产品评论，能让用户专注于感兴趣的产品属性，提高了用户的体验度。

Description

一种基于流形学习的产品隐式属性识别方法

技术领域

本发明涉及意见挖掘的产品属性识别，无障碍网页浏览方法的技术领域，特别是基于流形学习的隐式属性识别方法。 

背景技术

随着web2.0的发展，论坛得到了用户的极大关注，许多用户在电子产品的论坛上讨论产品的使用体验。另外网上购物也进入繁荣时期。网站向在线购物用户提供产品评论功能来增加体验。互联网上因此产生了大量的产品评论数据。用户通过这些数据可以了解一个产品的性能。但是对于某一用户而言，这些海量的评论数据，一方面存在大量无用信息，因为用户只对产品的某一些属性而非全部感兴趣，另一方面用户没有时间和精力逐条阅读，但是如果有选择性地阅读又容易形成意见偏差。尤其是对于视力障碍人士而言，阅读这样的评论数据更是非常困难。世界目前有3000万盲人，在科技迅猛发展，人人尽享信息高速公路带来便利的今天，应该让残疾人也充分享受信息技术的成果，提高这一部分人群的用户体验。因此有必要提供海量评论数据的无障碍浏览方法。 

目前已有对产品评论按属性进行总结的技术，但是现存技术只能简单根据评论中显式提及的产品属性名称进行分类，对于通过意见词隐式地阐述产品属性的评论则无法分类。而用户评论中存在大量的未提及产品属性名称的评论，如果不能对其进行正确分类则会严重影响评论总结的性能。 

流形学习被广泛应用在模式识别中，有成熟的算法。将观测到的产品属性和意见词及其关系，转化为图，通过流形学习的方法，在新的空间捕捉到节点间的本质关系，进而实现从意见词到产品属性的推断。 

发明内容

为了克服现有网站的产品评论系统无法根据意见词自动识别评论中的产品隐式属性，从而导致对海量评论数据的分类总结不够准确的缺点，提供一种能够帮助用户快速从海量在线产品评论中了解产品某一属性的性能，以提高浏览产品评论的体验度，本发明提出了一种基于流形学习的产品评论隐式属性识别方法，该方法包括以下步骤： 

1、从网络上抓取产品评论数据后，对评论数据进行如下操作： 

1)利用词性标注和语法标注工具，对每一条评论数据中的每一个语句进行词性标注和语法标注，利用公共的标准意见词种子集、词性和语法关系提取出产品属性和意见词，加入对应词表中； 

2)扩展产品属性词表和意见词词表； 

3)构建产品属性和意见词的关系图； 

4)利用流形学习的方法寻找新的同一空间表示产品属性和意见词； 

5)对评论数据中的每一个未显式提及产品属性的语句，根据意见词表提取语句中的意见词，利用新空间中的几何位置关系，实现利用意见词推断隐式属性。 

2、步骤2)中所述的词表扩展使用从产品评论数据提取出的产 品属性词表作为种子词表，将种子词表同义词加入到种子词表中，再对更新后的词表重复扩展操作，通过限制扩展次数或者等待词表收敛终止扩展。 

3、步骤3)中所述的关系图构建： 

1)产品属性词和意见词为图中节点{v_i}，词间关系为图中的边{e_i，j}表示，关系权值以边的权重{w_i，j}表示； 

2)若产品属性和意见词在同一评论语句中出现，则认为产品属性和意见词存在共现关系，产品属性i和意见词j的共现权重为二者的PMI值，即 $\mathrm{PMI}(f_i,o_j)=\log \frac{P(f_i,o_j)}{P\left(f_i\right)P\left(o_j\right)},$ 其中，f_i为产品属性词i在新空间的坐标，o_j为意见词j在新空间的坐标， 

$P\left(f_i\right)=\frac{\mathrm{occ}\left(f_i\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)},$ $P\left(o_j\right)=\frac{\mathrm{occ}\left(o_j\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)},$ occ(t)为词t在文档中出现的频率，occ(f_i，o_j)为产品属性i和意见词j的共现频率， 

为评论数据中所有词的频率之和； 

3)若产品属性i出现在意见词j的词典解释中，则认为意见词对产品属性有语义指向关系，指向关系权重SRI_i，j为1，否则为0； 

4)产品属性i和意见词j的总权重为  $W_{\mathrm{ij}}^{\mathrm{fo}}=\mathrm{PMI}(f_i,o_j)+\mathrm{\μSRI}(f_i,o_j),$ 其中μ为可调参数； 

5)产品属性i和产品属性j间的关系权重 

意见词m和意见词n间的关系权重 由二者的语义近似关系衡量，由词义相似度分析工具(例如WordNet::Similarity工具包)直接获得。 

4、步骤4)中所述的利用流形学习方法在新空间对产品属性和意 见词的表示： 

1)生成最小化的目标函数，设f_i为产品属性词i在新空间的坐标，o_j为意见词j在新空间的坐标，那么正则化带权距离和函数 

$Q(F,O)=\frac{\mathrm{\α}\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}\underset{j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{fo}}{(f_i-o_j)}^T(f_i-o_j)+\frac{\mathrm{\β}}{2}\underset{i,j=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{ff}}{(f_i-f_j)}^T(f_i-f_j)+\frac{\mathrm{\γ}}{2}\underset{i,j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{oo}}{(o_i-o_j)}^T(o_i-o_j)}{\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{f_i}^T{f}_i+\underset{i=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{o_i}^T{o}_i},$

α+β+γ＝1， 

其中，∑为求和函数，|F|为产品属性词的个数，|O|为意见词的个数，x^T表示向量的转置，x^Tx为向量x与其自身的点积，因此， 

为产品属性词与意见词间的带权距离和， 

为产品属性词间的带权距离和， 为意见词间的带权距离和， 表示产品属性词间的距离和， 

表示意见词间的距离和，α、β和γ为可调的关系权重参数，F＝[f₁f₂…f_|F|]^T，O＝[o₁o₂…o_|O|]^T； 

2)求解使得目标函数Q(F，O)最小的F和O，设新空间维度为k， 

(1≤d≤k)为所有产品属性词在新空间第d维上的坐标组成的列向量， 

(1≤d≤k)为所有意见词在新空间第d维上的坐标组成的列向量，hⁱ＝[(fⁱ)^T(oⁱ)^T]^T，H＝[h¹h²…h^k]＝[F^TO^T]^T。W^fo为产品属性词和意见词间的关系矩阵，W^ff为产品属性词之间的关系矩阵，W^oo为意见词之间的关系矩阵，D^f为对角矩阵，其对角线上元素 

为W^fo第i行元素之和，其余元素为0，D^o为对角矩阵，其对角线上元素 

为W^fo第i列元素之和，其余元素为0，L^f＝D^f-W^ff， L^f＝D^f-W^ff， 目标函数Q(F，O)可以表示为 

其中 

为求和函数， 

表示 

所得矩阵的对角线元素之和，tr(H^TH)表示H^TH所得矩阵的对角线元素之和；根据Rayleigh-Ritz定理， 的次小特征值对应的前k个特征向量组成的矩阵即为使得Q(F，O)最小化的H，依次取出H的每一行则可得隐式属性坐标和意见词坐标。 

5、步骤5)中所述的对隐式属性的推断： 

1)获取该语句中的意见词j，从O＝[o₁o₂…o_|O|]^T中得到该意见词在新空间中的坐标o_j； 

2)计算o_j与所有产品属性词对应f_i的距离d_i，求出与其距离最小的产品属性词 

将产品属性t作为推断出的隐式属性。 

本发明提出了基于流形学习的产品评论隐式属性识别方法，其优点在于：对于未提及产品属性的产品评论，能利用意见词推导出隐式属性，进而可对该类产品评论数据按属性进行分类。可以帮助用户按产品属性浏览产品评论，能让用户专注于感兴趣的产品属性，提高了用户的体验度。 

附图说明

图1是本发明的方法流程图。 

具体实施方式

参照附图，进一步说明本发明： 

1、从网络上抓取产品评论数据后，对评论数据进行如下操作： 

1)利用词性标注和语法标注工具，对每一条评论数据中的每一个语句进行词性标注和语法标注，利用公共的标准意见词种子集、词性和语法关系提取出产品属性和意见词，加入对应词表中； 

2)扩展产品属性词表和意见词词表； 

3)构建产品属性和意见词的关系图； 

4)利用流形学习的方法寻找新的同一空间表示产品属性和意见词； 

5)对评论数据中的每一个未显式提及产品属性的语句，根据意见词表提取语句中的意见词，利用新空间中的几何位置关系，实现利用意见词推断隐式属性。 

2、步骤2)中所述的词表扩展使用从产品评论数据提取出的产品属性词表作为种子词表，将种子词表同义词加入到种子词表中，再对更新后的词表重复扩展操作，通过限制扩展次数或者等待词表收敛终止扩展。 

3、步骤3)中所述的关系图构建： 

1)产品属性词和意见词为图中节点{v_i}，词间关系为图中的边{e_i，j}表示，关系权值以边的权重{w_i，j}表示； 

2)若产品属性和意见词在同一评论语句中出现，则认为产品属性和意见词存在共现关系，产品属性i和意见词j的共现权重为二者的PMI值，即 $\mathrm{PMI}(f_i,o_j)=\log \frac{P(f_i,o_j)}{P\left(f_i\right)P\left(o_j\right)},$ 其中，f_i为产品属性词i在新 空间的坐标，o_j为意见词j在新空间的坐标， 

$P\left(f_i\right)=\frac{\mathrm{occ}\left(f_i\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)},$ $P\left(o_j\right)=\frac{\mathrm{occ}\left(o_j\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)}.$ occ(t)为词t在文档中出现的频率，occ(f_i，o_j)为产品属性i和意见词j的共现频率， 

为评论数据中所有词的频率之和； 

3)若产品属性i出现在意见词j的词典解释中，则认为意见词对产品属性有语义指向关系，指向关系权重SRI_i，j为1，否则为0； 

4)产品属性i和意见词j的总权重为  $W_{\mathrm{ij}}^{\mathrm{fo}}=\mathrm{PMI}(f_i,o_j)+\mathrm{\μSRI}(f_i,o_j),$ 其中μ为可调参数； 

5)产品属性i和产品属性j间的关系权重 

意见词m和意见词n间的关系权重 

由二者的语义近似关系衡量，由词义相似度分析工具(例如WordNet::Similarity工具包)直接获得。 

4、步骤4)中所述的利用流形学习方法在新空间对产品属性和意见词的表示，其具体操作流程如下： 

3)生成最小化的目标函数。设f_i为产品属性词i在新空间的坐标，o_j为意见词j在新空间的坐标，那么正则化带权距离和函数 

$Q(F,O)=\frac{\mathrm{\α}\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}\underset{j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{fo}}{(f_i-o_j)}^T(f_i-o_j)+\frac{\mathrm{\β}}{2}\underset{i,j=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{ff}}{(f_i-f_j)}^T(f_i-f_j)+\frac{\mathrm{\γ}}{2}\underset{i,j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{oo}}{(o_i-o_j)}^T(o_i-o_j)}{\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{f_i}^T{f}_i+\underset{i=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{o_i}^T{o}_i},$

α+β+γ＝1， 

其中，∑为求和函数，|F|为产品属性词的个数，|O|为意见词的个数，x^T表示向量的转置，x^Tx为向量x与其自身的点积，因此， 

为产品属性词与意见词间 的带权距离和， 

为产品属性词间的带权距离和， 

为意见词间的带权距离和， 

表示产品属性词间的距离和， 

表示意见词间的距离和，α、β和γ为可调的关系权重参数，F＝[f₁f₂…f_|F|]^T，O＝[o₁o₂…o_|O|]^T； 

4)求解使得目标函数Q(F，O)最小的F和O，设新空间维度为k， 

(1≤d≤k)为所有产品属性词在新空间第d维上的坐标组成的列向量， 

(1≤d≤k)为所有意见词在新空间第d维上的坐标组成的列向量，hⁱ＝[(fⁱ)^T(oⁱ)^T]^T，H＝[h¹h²…h^k]＝[F^TO^T]^T；W^fo为产品属性词和意见词间的关系矩阵，W^ff为产品属性词之间的关系矩阵，W^oo为意见词之间的关系矩阵，D^f为对角矩阵，其对角线上元素 为W^fo第i行元素之和，其余元素为0，D^o为对角矩阵，其对角线上元素 为W^fo第i列元素之和，其余元素为0，L^f＝D^f-W^ff，L^f＝D^f-W^ff， 

目标函数Q(F，O)可以表示为 

其中 

为求和函数， 

表示 

所得矩阵的对角线元素之和，tr(H^TH)表示H^TH所得矩阵的对角线元素之和；根据Rayleigh-Ritz定理， 

的次小特征值对应的前k个特征向量组成的矩阵即为使得Q(F，O)最小化的H，依次取出H的每一行则可得隐式属性坐标和意见词坐标。 

5、步骤5)中所述的对隐式属性的推断，其具体操作流程如下： 

1)获取该语句中的意见词j，从O＝[o₁o₂…o_|O|]^T中得到该意见词在新空间中的坐标o_j； 

2)计算o_j与所有产品属性词对应f_i的距离d_i，求出与其距离最小的产品属性词 

将产品属性t作为推断出的隐式属性。 

本说明书实施例所述的内容仅仅是对发明构思的实现形式的列举，本发明的保护范围的不应当被视为仅限于实施例所陈述的具体形式，本发明的保护范围也及于本领域技术人员根据本发明构思所能够想到的等同技术手段。 

Claims (5)

1.一种基于流形学习的产品评论隐式属性识别方法，其特征在于从网络上抓取产品评论数据后，对产品评论数据进行如下操作：

1)利用词性标注和语法标注工具，对每一条评论数据中的每一个语句进行词性标注和语法标注，利用公共的标准意见词种子集、词性和语法关系提取出产品属性和意见词，加入对应词表中；

2)扩展产品属性词表和意见词词表；

3)构建产品属性和意见词的关系图；

4)利用流形学习的方法寻找新的同一空间表示产品属性和意见词；

5)对评论数据中的每一个未显式提及产品属性的语句，根据意见词表提取语句中的意见词，利用新空间中的几何位置关系，实现利用意见词推断隐式属性。

2.如权利要求1所述的基于流形学习的产品评论隐式属性识别方法，其特征在于：所述的步骤2)中所述的词表扩展使用从产品评论数据提取出的产品属性词表作为种子词表，将种子词表同义词加入到种子词表中，再对更新后的词表重复扩展操作。通过限制扩展次数或者等待词表收敛终止扩展。

3.如权利要求1或2所述的基于流形学习的产品评论隐式属性识别方法，其特征在于：所述的步骤3)中所述的关系图构建：

1)产品属性词和意见词为图中节点{v_i}，词间关系为图中的边{e_i，j}表示，关系权值以边的权重{w_i，j}表示；

2)若产品属性和意见词在同一评论语句中出现，则认为产品属性和意见词存在共现关系，产品属性i和意见词j的共现权重为二者的PMI值，即 $\mathrm{PMI}(f_i,o_j)=\log \frac{P(f_i,o_j)}{P\left(f_i\right)P\left(o_j\right)},$ 其中，f_i为产品属性词i在新空间的坐标，o_j为意见词j在新空间的坐标，

$P\left(f_i\right)=\frac{\mathrm{occ}\left(f_i\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)},$ $P\left(o_j\right)=\frac{\mathrm{occ}\left(o_j\right)}{\underset{w}{\mathrm{\Σ}}\mathrm{occ}\left(w\right)},$ occ(t)为词t在文档中出现的频率，occ(f_i，o_j)为产品属性i和意见词j的共现频率，

为评论数据中所有词的频率和；

3)若产品属性i出现在意见词j的词典解释中，则认为意见词对产品属性有语义指向关系，指向关系权重SRI_i，j为1，否则为0；

4)产品属性i和意见词j的总权重为 $W_{\mathrm{ij}}^{\mathrm{fo}}=\mathrm{PMI}(f_i,o_j)+\mathrm{\μSRI}(f_i,o_j),$ 其中μ为可调参数；

5)产品属性i和产品属性j间的关系权重

意见词m和意见词n间的关系权重由二者的语义近似关系衡量，由现有的词义相似度分析工具直接获得。

4.如权利要求3所述的基于流形学习的产品评论隐式属性识别方法，其特征在于：所述的步骤4)中所述的利用流形学习方法在新空间对产品属性和意见词的表示：

1)生成最小化目标函数。设f_i为产品属性词i在新空间的坐标，o_j为意见词j在新空间的坐标，那么正则化带权距离和函数

$Q(F,O)=\frac{\mathrm{\α}\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}\underset{j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{fo}}{(f_i-o_j)}^T(f_i-o_j)+\frac{\mathrm{\β}}{2}\underset{i,j=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{ff}}{(f_i-f_j)}^T(f_i-f_j)+\frac{\mathrm{\γ}}{2}\underset{i,j=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{W}_{\mathrm{ij}}^{\mathrm{oo}}{(o_i-o_j)}^T(o_i-o_j)}{\underset{i=1}{\overset{\left|F\right|}{\mathrm{\Σ}}}{f_i}^T{f}_i+\underset{i=1}{\overset{\left|O\right|}{\mathrm{\Σ}}}{o_i}^T{o}_i},$

α+β+γ＝1，其中，∑为求和函数，|F|为产品属性词的个数，|O|为意见词的个数，x^T表示向量的转置，x^Tx为向量x与其自身的点积，因此，

为产品属性词与意见词间的带权距离和，

为产品属性词间的带权距离和，为意见词间的带权距离和，

表示产品属性词间的距离和，

表示意见词间的距离和，α、β和γ为可调的关系权重参数，F＝[f₁f₂…f_|F|]^T，O＝[o₁o₂…o_|O|]^T；

2)求解使得目标函数Q(F，O)最小的F和O，设新空间维度为k，

(1≤d≤k)为所有产品属性词在新空间第d维上的坐标组成的列向量，

(1≤d≤k)为所有意见词在新空间第d维上的坐标组成的列向量，hⁱ＝[(fⁱ)^T(oⁱ)^T]^T，H＝[h¹h²…h^k]＝[F^TO^T]^T，W^fo为产品属性词和意见词间的关系矩阵，W^ff为产品属性词之间的关系矩阵，W^oo为意见词之间的关系矩阵，D^f为对角矩阵，其对角线上元素

为W^fo第i行元素之和，其余元素为0，D^o为对角矩阵，其对角线上元素

为W^fo第i列元素之和，其余元素为0，L^f＝D^f-W^ff，L^f＝D^f-W^ff，

目标函数Q(F，O)可以表示为

其中为求和函数，

表示

所得矩阵的对角线元素之和，tr(H^TH)表示H^TH所得矩阵的对角线元素之和；根据Rayleigh-Ritz定理，

的次小特征值对应的前k个特征向量组成的矩阵即为使得Q(F，O)最小化的H；依次取出H的每一行则可得隐式属性坐标和意见词坐标。

5.如权利要求4所述的基于流形学习的产品评论隐式属性识别方法，其特征在于：所述的步骤5)中所述的对隐式属性的推断：

1)获取该语句中的意见词j，从O＝[o₁o₂…o_|O|]^T中得到该意见词在新空间中的坐标o_j；

2)计算o_j与所有产品属性词对应f_i的距离d_i，求出与其距离最小的产品属性词将产品属性t作为推断出的隐式属性。

Images