CN107862343B - 基于规则和神经网络的商品评论属性级情感分类方法 - Google Patents

Abstract

本发明公开了一种基于规则和神经网络的商品评论属性级情感分类方法，首先获取评论数据，对评论文本进行中文分词及停用词过滤；然后利用规则模板筛选出商品属性集，构造<属性，评论>样本集，对每一条评论的属性标注情感，构造<属性，评论，情感>训练集；再构建基于双边注意力的神经网络情感分类模型，使用训练集对模型进行训练；最后对测试数据进行中文分词及停用词过滤，筛选出商品属性集，构造<属性，评论>测试集，并使用情感分类模型进行情感分类。本发明能更好地利用评论中属性的上下文信息，极大地提高了预测属性情感类别的准确性。

Description

基于规则和神经网络的商品评论属性级情感分类方法

技术领域

本发明涉及人工智能领域，具体是涉及一种面向产品评论的属性级情感分析方法。

背景技术

在互联网快速发展的前提下，电子商务作为互联网的一个新兴领域，取得了长足的发展。越来越多的用户通过不同的电子商务网站进行网上商品购买，产生了海量的消费者购买评论。面对海量的购物评论，消费者不可能一一翻阅，商家也迫切希望对商品评价进行分析整理。面向商品评论的观点挖掘和情感分析技术，不仅是自然语言处理和情感分析领域的学术前沿问题和热点研究问题，也是电子商务购物平台等应用领域亟待解决的重要问题，具有不可估量的应用价值和社会意义。传统方法使用人工规则进行属性级情感的判断，需要的人力成本很高，情感判定的效率很低。近几年里，一些学者提出基于机器学习方法解决这个问题，比如逻辑回归模型、支持向量机模型、神经网络模型等，但是这些模型不能够充分表达属性词与上下文的语义情感关系。

发明内容

本发明的目的在于提供一种基于规则和神经网络模型的商品评论属性级情感分类方法。

实现本发明目的的技术解决方案为：一种基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，包括以下步骤：

步骤1、获取评论数据，对评论文本进行中文分词及停用词过滤；

步骤2、利用规则模板筛选出商品属性集，构造<属性，评论>样本集；

步骤3、对每一条评论的属性标注情感，构造<属性，评论，情感>训练集；

步骤4、构建基于双边注意力的神经网络情感分类模型，使用训练集对模型进行训练；

步骤5、使用步骤1的方法对测试数据进行中文分词及停用词过滤，使用步骤2方法筛选出商品属性集，构造<属性，评论>测试集，并使用步骤4得到的情感分类模型，进行情感分类。

本发明与现有技术相比，其显著优点为：1)本发明通过规则筛选属性词，便于电商平台利用自身积累进行属性词集的扩增；2)本发明构建了基于双边注意力的神经网络模型，能更好地利用评论中属性的上下文信息，极大地提高了预测属性情感类别的准确性。

附图说明

图1为本发明方法的流程图。

具体实施方式

下面结合附图和具体实施例进一步说明本发明方案。

一种基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，包括以下步骤：

步骤1、获取评论数据，对评论文本进行中文分词及停用词过滤，具体为：

步骤1.1、将网页爬虫爬取的商品评论语料进行HTML解析，筛选出相关评论文本，得到评论文本集；

步骤1.2、使用NLPIR分词系统对商品评论文本进行中文分词；

步骤1.3、在已有的停用词表基础上，加入英文字符、数字、标点符号，构造出适合用于中文商品评论文本的停用词表，对中文分词后的词语进行停用词过滤。已有停用词表包括“哈工大停用词表”、“四川大学机器学习智能实验室停用词表”、“百度停用词表”。

步骤2、利用规则模板筛选出商品属性集，构造<属性，评论>样本集，具体为：

步骤2.1、使用NLPIR词性标注系统对预处理的商品评论文本进行词性标注，并统计所有名词的词频；

步骤2.2、根据词频阈值ε₁和阈值ε₂，其中，ε₁<ε₂，且都为正整数，把统计的名词划分为三类：词频大于ε₂的为高频词，认为其为属性词；词频大于ε₁小于ε₂的为中频词，统计每个名词所在子句包含形容词的句子数，如果包含形容词的子句数过半则认为其为属性词；词频小于ε₁的名词，认为其不是属性词，直接丢弃，通过以上方法，从评论集中获取到属性词集；

步骤2.3、根据属性词集和评论集，构造<属性，评论>样本集。

步骤3、对每一条评论的属性标注情感，构造<属性，评论，情感>训练集；

步骤4、构建基于双边注意力的神经网络情感分类模型，使用训练集对模型进行训练。构建基于双边注意力的神经网络情感分类模型，包括输入层、表示层和分类层三个部分，具体构建方法为：

步骤4.1、构建输入层：输入层包括属性词所在子句的左边子句、属性词所在子句和属性词所在子句的右边子句三部分，利用Word2Vec工具训练得到每个词的向量表示，将三部分子句中的词用词向量进行初始化；

步骤4.2、构建表示层：把输入的三部分分别送入到三个独立的LSTM中进行编码表示，分别得到三个子句对应的隐层向量表示

和

L、T和R分别为三个子句中词的个数，对于属性词所在子句，使用其隐层矩阵向量的均值作为其最终的向量表示，即：

对于上下文子句，利用r^T来求得每个隐层向量的权重：

其中，

为左边子句隐层向量矩阵的权重向量，

为右边子句隐层向量矩阵的权重向量；

上下文子句最终向量表示分别为：

每个属性相关评论句子的向量表示为：r＝[r^L,r^T,r^R]；

步骤4.3、构建分类层，使用Softmax函数对r进行分类，即：

p＝softmax(W·r+b)

其中，p为情感类别的分类概率，W和b为权重参数；

步骤4.4、基于训练样本集，利用最小化损失函数进行模型训练，得到神经网络分类模型，模型的损失函数为：

其中，L为损失函数，p_i为类别i的预测概率，y_i为类别i的真实概率，C为情感类别标签的个数，λ为正则化参数，θ表示w、b和LSTM参数的集合。

步骤5、使用步骤1的方法对测试数据进行中文分词及停用词过滤，使用步骤2方法筛选出商品属性集，构造<属性，评论>测试集，并使用步骤4得到的情感分类模型，进行情感分类。

为了便于对方案的理解，以电脑相关评论为例，对本发明实现商品评论属性级情感分类做进一步说明。

1、首先获取电商平台评论数据，进行HTML解析，筛选出评论文本，分词后去除停用词。

2、根据规则模板筛选出属性词，如散热、风扇、屏幕、操作系统、售后等。

3、根据属性词对评论句子进行切分和标注属性相关句子的情感类别，比如，对于句子“经过测试发现，电脑操作系统有点用不习惯，但是电脑屏幕给打满分，推荐购买”其包含“操作系统”和“屏幕”两个属性词，所以可以产生两个样本：

A){经过测试发现}{电脑操作系统有点用不习惯}{但是电脑屏幕给打满分推荐购买}，属性词为操作系统，情感类别为消极。

B){经过测试发现电脑操作系统有点用不习惯}{但是电脑屏幕给打满分}{推荐购买}，属性词为屏幕，情感类别为积极。

4.在训练阶段，把<属性，评论，情感>样本送入模型进行训练，得到情感分类模型，用于测试时评断<属性，评论>的情感类别；在测试阶段，输入<属性，评论>得到此属性词相关的评价的情感类别。比如训练好情感类别分类模型后，输入<属性，评论>：

由上表可以看出，利用本发明的方法能很好地处理同一个句子中包含情感类别相反的属性评价的评论。

Claims (4)

1.一种基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，包括以下步骤：

步骤1、获取评论数据，对评论文本进行中文分词及停用词过滤；

步骤2、利用规则模板筛选出商品属性集，构造<属性，评论>样本集；

步骤3、对每一条评论的属性标注情感，构造<属性，评论，情感>训练集；

步骤4、构建基于双边注意力的神经网络情感分类模型，使用训练集对模型进行训练；

步骤5、使用步骤1的方法对测试数据进行中文分词及停用词过滤，使用步骤2方法筛选出商品属性集，构造<属性，评论>测试集，并使用步骤4得到的情感分类模型，进行情感分类；

步骤4构建基于双边注意力的神经网络情感分类模型，包括输入层、表示层和分类层三个部分，具体构建方法为：

步骤4.1、构建输入层：输入层包括属性词所在子句的左边子句、属性词所在子句和属性词所在子句的右边子句三部分，利用Word2Vec工具训练得到每个词的向量表示，将三部分子句中的词用词向量进行初始化；

步骤4.2、构建表示层：把输入的三部分分别送入到三个独立的LSTM中进行编码表示，分别得到三个子句对应的隐层向量表示

和

L、T和R分别为三个子句中词的个数，对于属性词所在子句，使用其隐层矩阵向量的均值作为其最终的向量表示，即：

对于上下文子句，利用r^T来求得每个隐层向量的权重：

其中，

为左边子句隐层向量矩阵的权重向量，

为右边子句隐层向量矩阵的权重向量；

上下文子句最终向量表示分别为：

每个属性相关评论句子的向量表示为：r＝[r^L,r^T,r^R]；

步骤4.3、构建分类层，使用Softmax函数对r进行分类，即：

p＝softmax(W·r+b)

其中，p为情感类别的分类概率，W和b为权重参数；

步骤4.4、基于训练样本集，利用最小化损失函数进行模型训练，得到神经网络分类模型，模型的损失函数为：

其中，L为损失函数，p_i为类别i的预测概率，y_i为类别i的真实概率，C为情感类别标签的个数，λ为正则化参数，θ表示w、b和LSTM参数的集合。

2.根据权利要求1所述的基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，步骤1具体为：

步骤1.1、将网页爬虫爬取的商品评论语料进行HTML解析，筛选出相关评论文本，得到评论文本集；

步骤1.2、使用NLPIR分词系统对商品评论文本进行中文分词；

步骤1.3、在已有的停用词表基础上，加入英文字符、数字、标点符号，构造出适合用于中文商品评论文本的停用词表，对中文分词后的词语进行停用词过滤。

3.根据权利要求2所述的基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，已有停用词表包括“哈工大停用词表”、“四川大学机器学习智能实验室停用词表”、“百度停用词表”。

4.根据权利要求1所述的基于规则和神经网络的商品评论属性级情感分类方法，其特征在于，步骤2具体为：

步骤2.1、使用NLPIR词性标注系统对预处理的商品评论文本进行词性标注，并统计所有名词的词频；

步骤2.2、根据词频阈值ε₁和阈值ε₂，其中，ε₁<ε₂，且都为正整数，把统计的名词划分为三类：词频大于ε₂的为高频词，认为其为属性词；词频大于ε₁小于ε₂的为中频词，统计每个名词所在子句包含形容词的句子数，如果包含形容词的子句数过半则认为其为属性词；词频小于ε₁的名词，认为其不是属性词，直接丢弃，通过以上方法，从评论集中获取到属性词集；

步骤2.3、根据属性词集和评论集，构造<属性，评论>样本集。

Images