CN105740382A - 一种对短评论文本进行方面分类方法 - Google Patents

Abstract

本发明提供一种对短评论文本进行方面分类方法，该方法包括以下步骤：S1：对短评论文本集进行预处理，得到短评论文本集中各个词的词向量；S2：利用短评论文本集中各个词的词向量来计算方面类别相关的标准词向量，并计算各个短评论文本的特征；S3：计算各个短评论文本评论对象实体的特征；S4：根据各个短评论文本的特征及其评论对象实体的特征来训练分类器来进行短评论文本方面分类。该方法分类结果由评论实体和实体属性组成，将评论对象实体的特征单独提取作为最终输入特征的一部分，有效的提升了分类的精确度，也更符合实际分类中的思想，使结果更具可解释性。

Description

一种对短评论文本进行方面分类方法

技术领域

本发明涉及自然语言处理领域，更具体地，涉及一种基于神经网络的对短评论文本进行方面分类方法。

背景技术

互联网已成为人们表达观点，获取信息不可或缺的一种途径。网上出现各种大量的短文本资源，如购物评论，微博消息等。通过对商品评论进行情感分析，进行商品市场反馈分析，对商家和消费者都有重要意义。然而一句话往往不只包含一种情感，评价对象经常会被细分为多种属性，传统的粗粒度的情感分析已不能满足需求，这就需要更细粒度的识别才能有效实现情感分析。在对评价方面这一粒度的情感分析中，主要包括方面分类和情感分析两部分，其中一个重要的任务就是对评价方面的分类，通过研究发现方面类别均由评论实体和实体属性两部分组成。例如：在餐馆的评论中，我们需要区分出食物的质量、食物的价格、餐馆的环境等等因素，其中，食物、餐馆为评论实体，质量、价格、环境为实体属性。然而，在面对海量的评论数据时，一方面，人工标注方面类别的方法会耗费大量的人力和时间。另一方面，现有的基于特征工程的方法随着情感力度的细化和分类类别的增加，有效性大大降低。

现有基于特征工程的技术实施分类的有效性有限，原因如下：

1、特征表示大多是基于基本的词性或统计特征，不能很好地体现高层语义关系；

2、需要设计大量的特征，实施起来比较繁琐。

因此，需要一种可以自动学习的，能够用于表达高层语义特征的方法进行方面监测的工作。

发明内容

本发明提供一种基于神经网络的对短评论文本进行方面分类方法，该方法设计简单、有效性较高。

为了达到上述技术效果，本发明的技术方案如下：

一种对短评论文本进行方面分类方法，包括以下步骤：

S1：对短评论文本集进行预处理，得到短评论文本集中各个词的词向量；

S2：利用短评论文本集中各个词的词向量来计算方面类别相关的标准词向量，并计算各个短评论文本的特征；

S3：计算各个短评论文本评论对象实体的特征；

S4：根据各个短评论文本的特征及其评论对象实体的特征来训练分类器来进行短评论文本方面分类。

进一步地，所述步骤S3中采用前馈型神经网络模型来计算各个短评论文本评论对象实体的特征。

进一步地，所述短评论文本包括餐馆、数码产品的评论数据集，所述短评论文本所属方面分类由评论对象实体和评论对象的属性构成。

进一步地，对短评论文本集进行预处理的过程包括对短评论文本的分词、去停词，并对不在词典中的词向量进行随机初始化。其中，词典词向量由开源项目word2vec以及领域相关的语料库训练得到。

进一步地，所述标准词向量为方面类别关键词的词向量平均值。

与现有技术相比，本发明技术方案的有益效果是：

本发明提出的是一个解决短文本方面分类的方法，其中分类结果由评论实体和实体属性组成，将评论对象实体的特征单独提取作为最终输入特征的一部分，有效的提升了分类的精确度，也更符合实际分类中的思想，使结果更具可解释性。

附图说明

图1是本发明分类方法流程图；

图2是基于关键字的评论文本特征生成过程示意图；

图3是自动提取实体特征示意图；

图4是最终的分类器模型示意图。

具体实施方式

附图仅用于示例性说明，不能理解为对本专利的限制；

为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；

对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。

下面结合附图和实施例对本发明的技术方案做进一步的说明。

实施例1

一般认为分类类别包括评论实体和实体属性，对于每一条短评论，都可以同时属于多个类别。

形式上，假设短评论文本集合为E，其实体属性集合为A，由E和A组成的实体属性对，也就是最终的分类类别集合为A＝{a₁,a₂,a₃,...,a_N}，共有N种可能的组合。短评论文本集D＝{r₁,r₂,r₃,...,r_K}共有K条。对于每一条，需要预测的输出结果为向量y＝{y₁,y₂,y₃,...,y_N}，其中每个元素y_i表示这句话描述内容是否属于该类，y_i＝1表示属于此类，y_i＝0则不属于。即在训练集S上进行学习，学习的结果是输出一个分类器C：S->2^N。

根据图1所示的分类流程图，可以将分类过程分为以下4部分：

1、预处理

预处理包括对短评论文本的分词，去停词，对不在词典中的词向量进行随机初始化。使用word2vec和相关领域的语料库进行词向量学习，得到词向量词典。

2、短评论文本特征

在提取关键字时，名词和形容词更能表现与类别相关的语义。选取只属于某一类的评论，在该评论下选出所有名词和形容词作为该类别的关键词。

将各个方面类别下的关键词求平均得到标准词向量。

在求评论文本特征时，使用如图2所示方法，将标准词向量与评论文本中各个词的词向量相似度作为权值，将评论文本中所有此进行加权平均，得到关于特定类别的评论文本特征。

3、短评论实体的特征

在自动提取实体特征时，看作是对评论实体的分类问题，如图3所示，训练一个关于评论实体的多分类神经网络模型。模型训练使用后向传播算法，损失函数如下：

$L_1=-\underset{j=1}{\overset{M}{\mathrm{\Σ}}}\{{y_j}^{\′}\log \mathrm{\σ}\left(O_j\right)+(1-{y_j}^{\′})\log [1-\mathrm{\σ}\left(O_j\right)\left]\right\},$ 其中，O_j为神经网络输出值,y'选取实体#属性标签中的实体值作为标签，M为实体个数。

取模型的隐藏层作为该评论下的实体特征。

4、训练生成分类器

最终训练生成N个神经网络分类器。如图4所示，对于某个方面类别的分类器，输入由短评论实体特征和该方面类别下的短评论文本特征共同组成。模型训练使用后向传播算法，损失函数如下：

L₂＝-y_i·logσ(O_i)-(1-y_i)log[1-σ(O_i)],i∈[1,N]，其中，O_i为神经网络输出值。

本发明方法通过关键词提取找出各个词的权重，对短评论中各个词做加权平均，从而对使预测的分类结果更加准确。其中，分类结果由短评论实体和实体属性组成，通过观察，我们发现在人工标注类别时会首先确定实体，然后决定短评论实体的属性。将短评论对象实体特征单独提取作为最终输入特征的一部分，有效的提升了分类的精确度。也更符合实际分类中的思想，使结果更具可解释性。

相同或相似的标号对应相同或相似的部件；

附图中描述位置关系的用于仅用于示例性说明，不能理解为对本专利的限制；

显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。

Claims (5)

1.一种对短评论文本进行方面分类方法，其特征在于，包括以下步骤：

S1：对短评论文本集进行预处理，得到短评论文本集中各个词的词向量；

S2：利用短评论文本集中各个词的词向量来计算方面类别相关的标准词向量，并计算各个短评论文本的特征；

S3：计算各个短评论文本评论对象实体的特征；

S4：根据各个短评论文本的特征及其评论对象实体的特征来训练分类器来进行短评论文本方面分类。

2.根据权利要求1所述的对短评论文本进行方面分类方法，其特征在于，所述步骤S3中采用前馈型神经网络模型来计算各个短评论文本评论对象实体的特征。

3.根据权利要求1所述的对短评论文本进行方面分类方法，其特征在于，所述短评论文本包括餐馆、数码产品的评论数据集，所述短评论文本所属方面分类由评论对象实体和评论对象的属性构成。

4.根据权利要求1所述的对短评论文本进行方面分类方法，其特征在于，对短评论文本集进行预处理的过程包括对短评论文本的分词、去停词，并对不在词典中的词向量进行随机初始化。

5.根据权利要求1所述的对短评论文本进行方面分类方法，其特征在于，所述标准词向量为方面类别关键词的词向量平均值。