CN110727844A

CN110727844A - 一种基于生成对抗网络的在线评论商品特征观点提取方法

Info

Publication number: CN110727844A
Application number: CN201910999097.4A
Authority: CN
Inventors: 常春媛; 李黎明; 刘晓华
Original assignee: Northeast Forestry University
Current assignee: Northeast Forestry University
Priority date: 2019-10-21
Filing date: 2019-10-21
Publication date: 2020-01-24
Anticipated expiration: 2039-10-21
Also published as: CN110727844B

Abstract

本发明公开了一种基于生成对抗网络的在线评论商品特征观点提取方法，涉及在线评论文本挖掘领域。本发明包括步骤：1)用网络爬虫爬取商品评论数据和电商平台已有的对评论数据进行分类的标签数据；2)将标签数据人工标注为特征观点词形式；3)建立生成对抗网络，包含一个生成网络和一个判别网络；4)建立演员——评论家强化学习模型的评论家网络；5)交替训练生成网络，判别网络和评论家网络，直到收敛；6)用所得生成网络对商品在线评论进行特征及观点提取。本发明应用生成对抗网络实现在线评论商品特征和观点的自动提取，不依赖于语法规则，无需特征处理，人工干预少，领域扩展性好。

Description

一种基于生成对抗网络的在线评论商品特征观点提取方法

技术领域

本发明涉及在线评论文本挖掘领域，尤其涉及一种基于生成对抗网络的在线评论商品特征观点提取方法。

背景技术

商品特征是指商品所具备的属性或功能，在线评论中的商品特征和观点提取是指从大量的商品在线评论中自动获取评论对象的属性或功能以及对该属性或功能的观点。在线评论中的商品特征及观点一般分为显式表达和隐式表达两类。显式表达是指特征和观点的文字表达直接存在于评论中，如“手机质量很好”中的特征“质量”和观点“好”；而隐式表达中不包含特征或观点的文字表达，但可以从语义上推测出评论的特征和观点，如从“苹果很甜，但有些贵”可以推测出“口感”和“价格”两个特征；从“衣服洗一次就缩水不能穿了”可以推测出“不好”这一观点。

目前，从在线评论中提取商品的特征和观点的方法主要有基于语言规则的提取方法、基于统计模型的提取方法和基于深度学习模型的提取方法。基于语言规则的提取方法，如使用Apriori算法挖掘频繁项集、利用语法依存关系，以及利用词典等提取特征观点词的方法，操作性强，无需人工标注，在同一领域内具有较强的适用性，但需要建立词典、规则模板和进行语义分析等预处理，人工干预多，不适合结构复杂的数据。基于统计模型的提取方法，如隐马尔科夫模型、条件随机场模型等，需要人工特征处理，影响准确率和效率，并且需要大规模的标注数据，耗费大量的人工成本。基于深度学习模型的提取方法，如卷积神经网络模型、循环神经网络模型或长短时记忆网络模型等，是将特征观点提取作为文本序列标注问题，无需人工特征处理，但需要大量人工标注。另外，单纯的基于统计模型和深度学习模型的监督学习方法，不能实现隐式特征和观点的提取。

发明内容

本发明的目的是为了克服上述现有技术存在的缺陷，将在线评论中商品特征和观点的提取作为文本序列生成问题，采用一种基于生成对抗网络的方法实现在线评论商品特征观点的提取。

本发明的目的可以通过以下技术方案来实现：

一种基于生成对抗网络的在线评论商品特征观点提取方法，包括以下步骤：

1)用网络爬虫爬取商品评论数据和电商平台已有的对评论数据进行分类的标签数据；

2)将标签数据人工标注为特征观点词形式；

3)建立生成对抗网络，包含一个生成网络和一个判别网络；

4)建立演员——评论家强化学习模型的评论家网络用来训练生成网络；

5)交替训练生成网络，判别网络和评论家网络，直到收敛；

6)用所得生成网络对商品在线评论进行特征观点提取。

步骤2)所述的将标签数据人工标注为特征观点词的方法为：整理电商平台已有的标签数据，保留完整的特征观点词，合并相近意思的特征观点词，以及补充隐藏特征的特征观点词。

步骤3)所述的生成对抗网络中生成网络的作用是：输入评论数据，经过生成网络处理后输出评论中包含的特征观点词。根据自然语言的特点，t时间步生成的文本是以前面t-1个时间步生成的文本作为条件，因此，生成的特征观点词的分布可表示为：

其中，

为t时间步生成的文本，令

则

其中，G表示生成网络，θ为G的参数。

生成网络的网络结构采用结合注意力机制的seq2seq序列生成模型，编码器采用双向循环神经网络，网络单元采用门控循环单元(GRU)，向量用数值加权，前向权值取0.7，后向权值取0.3。

为了提高模型训练效率，先采用似然估计方法，用标签数据对生成网络进行预训练。

步骤3)所述的生成对抗网络中的判别网络的作用是将生成网络生成的特征观点词和人工标注的特征观点词进行判别。当判别网络无法判别特征观点词是由生成网络生成还是由人工标注时，生成网络即为所求网络。

判别网络的输入

为t时间步生成网络生成的文本或人工标注的真实文本，输出为

是真实文本

的概率，用下式表示：

其中，D表示判别网络，φ为D的参数。

判别网络的网络结构采用结合注意力机制的seq2seq序列生成模型，编码器和解码器均为单向循环神经网络，网络单元为门控循环单元(GRU)，输出是每个时间步生成文本的评分，是一个标量。

步骤4)所述的演员——评论家强化学习模型采用单步更新的方式，是以t时刻输入作为环境状态，以根据生成的分布选择文本作为动作，以判别网络的评分取对数作为选择该动作的奖励值，通过序列动作乘衰减系数后求和得到t时刻选择某个文本的总奖励。

评论家网络采用多对一的循环神经网络，输入部分的结构与判别网络的编码器结构相同，输出是以选择某个文本的总奖励作为标签值，通过梯度下降方法训练。

与现有技术相比，本发明具有以下优点：

1.本发明通过生成对抗网络提取评论数据中的商品特征和观点，不依赖语法规则，具有较强的适应性。无需额外的特征工程，降低了人工干预的误差，提高了精度。

2.本发明利用电商平台中提供的标签数据，减少了人工标注工作量。

3.本发明采用生成对抗网络，实现标签中未包含的特征和观点词的生成，提高领域可移植性和扩展性，泛化能力更好。

4.本发明生成网络训练方法采用强化学习方法，以解决评论数据的离散性使梯度不能从判别网络回传到生成网络的问题。基于强化学习的序列生成模型不但可以解决训练和评价目标不一致问题，也可以有效地解决曝光偏差问题。

附图说明

图1为本发明特征观点词提取方法的流程示意图；

图2为本发明生成网络结构示意图；

图3为本发明注意力机制网络结构示意图；

图4为本发明判别网络结构示意图；

图5为本发明评论家网络结构示意图。

具体实施方式

下面结合附图来说明本发明的具体实施方式。

本实施例所述的基于生成对抗网络的在线评论商品特征观点提取方法，过程如图1所示，包括以下步骤：

1)用网络爬虫爬取淘宝网坚果类商品的在线评论数据和对评论数据进行分类的标签数据。

2)将标签数据人工标注为特征观点词形式。先整理电商平台已有的标签数据，将评论数据中完整的特征观点词保留，补充隐藏特征的特征观点词，补充没有标签的特征观点词，并合并相近意思的特征观点词。人工标注方法举例如表1所示。

表1特征观点词人工标注方法

3)建立生成对抗网络，包含一个生成网络和一个判别网络。

生成对抗网络(Generative Adversarial Networks，GAN)是通过对抗训练的方式来使得生成网络产生的样本服从真实数据分布。生成对抗网络由生成网络(Generator)和判别网络(Discriminator)两个网络组成，判别网络的目标是尽量准确地判定一个样本是来自于真实数据还是生成网络生成的；生成网络的目标是尽量生成判别网络无法区分来源的样本。这两个目标相反的网络不断地进行交替训练，当最后收敛时，如果判别网络再也无法判定一个样本的来源，那么也就等价于生成网络可以生成符合真实数据分布的样本。

在本发明中，生成网络的作用是输入一条评论数据，经过生成网络后输出评论中包含的特征观点词。根据自然语言的特点，t时间步生成的文本是以前t-1时间步生成的文本作为条件，因此，生成的特征观点词的分布可表示为：

其中，

为t时间步生成的文本，令

则

其中，G表示生成网络，θ为G的参数。

判别网络的作用是将生成网络生成的特征观点词和人工标注的特征观点词进行判别。判别网络的输入

是真实文本

的概率，用下式表示：

其中，D表示判别网络，φ为D的参数。

当判别网络输出为0.5时，表示判别网络无法正确判别特征观点词是由生成网络生成还是由人工标注，则此生成网络即可用于提取特征观点词。

本发明将从在线评论中提取商品的特征和观点看作为文本的序列生成问题。循环神经网络(RNN)是文本生成任务中最常用的模型。本实施例的生成网络为seq2seq序列生成模型，网络结构采用结合注意力机制的双向循环神经网络，编码器和解码器的基本单元均为门控循环单元(GRU)，网络结构如图2所示。向量用数值加权，根据评论数据的特点，取前向权值大于后向权值，在本实施例中前向权值取0.7，后向权值取0.3时效果最优。根据需要，生成网络的编码器和解码器均可使用多层深度网络。

门控循环单元是循环神经网络中常用的长短时记忆网络(LSTM)的一种变体，只有更新门和重置门两个门，更新门用于控制前一时刻的状态信息被带入到当前状态中的程度，更新门的值越大说明前一时刻的状态信息带入越多。重置门控制前一状态有多少信息被写入到当前的候选集

上，重置门越小，前一状态的信息被写入的越少。门控循环单元比长短时记忆网络少一个门，参数减少，训练速度加快。计算公式如下：

r_t＝σ(W_r·[h_t-1,x_t]) (4)

z_t＝σ(W_z·[h_t-1,x_t]) (5)

y_t＝σ(W_o·h_t) (8)

其中，r_t和z_t分别表示更新门和重置门，h_t-1表示t-1时刻输出的隐状态，h_t表示t时刻输出的隐状态，

为候选集，x_t为当前时刻的输入，W为网络参数。

注意力机制一种根据某些规则或者某些额外信息(query)从向量表达集合(values)中抽取特定的向量进行加权组合(attention)的方法。本发明的注意力机制网络结构如图3所示，解码器每个时间步GRU单元的隐状态h_dt作为查询向量query，编码器每个时间步GRU单元的隐状态h_j作为向量集合，做点积得到匹配得分，再用softmax函数计算出注意力分布，计算加权平均。

判别网络也是seq2seq序列生成模型，如图4所示，网络结构采用结合注意力机制的单向循环神经网络，编码器和解码器的基本单元也采用门控循环单元(GRU)，与生成网络不同，判别网络的输出是每个时间步生成文本的评分，是一个标量。判别网络也可使用多层深度网络。

判别网络训练的计算梯度为：

4)建立演员——评论家强化学习模型的评论家网络用来训练生成网络。

生成对抗网络在图像生成等连续数据领域取得了很好的效果，但在文本生成、自然语言处理领域却面临一个问题，即文本的离散性使训练时判别网络不能把梯度回传给生成网络，从而使生成网络无法训练。

强化学习模型的奖励机制和策略梯度等技术，为解决生成对抗网络离散数据训练问题提供了有效的途径。强化学习模型是一个马尔科夫决策过程，在各个状态下执行某个动作都将获得奖励或惩罚，将动作连在一起就称为一个“策略”，强化学习的目标就是找出能够获得最大奖励的策略。本发明中，生成网络的目标是生成能够使判别网络打高分的文本，与强化学习模型的目标完全一致。生成网络的输入对应强化学习模型的“状态”，每个时间步的输出对应“执行某个动作”，判别网络的评分对应强化学习模型的“奖励”。

目前，应用较多的强化学习模型主要有基于策略、基于值、和基于动作的三类算法。本发明采用演员-评论家(Actor-Critic)算法。Actor-Critic算法是一种结合策略梯度和值函数的时序差分学习方法。其中Actor是策略函数，即学习一个策略来得到尽量高的奖励，Critic是值函数，对当前策略的值进行估计，即评估Actor的好坏。Actor-Critic算法中的策略函数和值函数都是待学习的函数，目标是Critic的打分越来越接近真实奖励。

本发明采用Actor-Critic算法训练生成网络。算法采用单步更新的方式，以t时刻输入作为状态S，以根据生成的分布选择文本作为动作，以判别网络的评分取对数(即r_t)作为选择该动作的奖励值，通过下式可计算出t时刻选择某个文本总的奖励。

其中，

γ是衰减系数。

算法优化的目标函数表示为：

其中，b_t＝V(x_1:t)，用状态值函数网络Critic估算。由于在线评论字典空间巨大，通过critic能够降低方差，加快收敛速度。

值函数网络Critic采用多对一的循环神经网络，如图5所示，输入部分的结构与判别网络的编码器结构相同，输出是以R_t作为标签值，通过梯度下降方法训练。

5)交替训练生成网络，判别网络和评论家网络，直到收敛。

结合Actor-Critic算法，生成网络的训练计算梯度为：

在线评论巨大的字典空间使生成对抗网络的训练十分困难，所以先用最大似然估计方法预训练生成网络和判别网络，得到初始化网络参数。此时的生成网络依然非常弱，几乎不能生成好的结果，判别网络的评分很低，Critic返回的惩罚很小，训练不出好的结果，此时，应用Teacher Forcing训练方法，每次不使用上一个状态的输出作为下一个状态的输入，而是直接使用ground truth作为下一个状态的输入，给生成网络好的榜样，来获取更有价值的参数。

为防止生成对抗网络的模式坍塌问题，生成网络的解码器在每个状态输出采样时，不完全按照独热编码采样，以一定的概率随机抽样，本实施例中，95％的比例按照独热编码采样，5％的比例随机采样。

经过一段时间的训练，生成网络的能力提高后，需要再训练判别器，即生成网络和判别网络交替训练，直到两个网络都收敛，此时，所得生成网络即可用于对商品在线评论进行特征及观点提取。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的工作人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims

1.一种基于生成对抗网络的在线评论商品特征观点提取方法，其特征在于，包括以下步骤：

2)将标签数据人工标注为特征观点词形式；

3)建立生成对抗网络，包含一个生成网络和一个判别网络；

5)交替训练生成网络，判别网络和评论家网络，直到收敛；

6)用所得生成网络对商品在线评论进行特征观点提取。

2.根据权利要求1所述的标签数据人工标注方法，其特征在于，整理电商平台已有的标签数据，保留完整的特征观点词，合并相近意思的特征观点词，并补充隐藏特征的特征观点词。

3.根据权利要求1所述的生成对抗网络，其特征在于，生成网络的作用是：输入评论数据，经过生成网络处理后输出评论中包含的特征观点词；

根据自然语言的特点，t时间步生成的文本是以前面t-1个时间步生成的文本作为条件，因此，生成的特征观点词的分布可表示为：

其中，为t时间步生成的文本，令

则

其中，G表示生成网络，θ为G的参数。

4.根据权利要求3所述的生成网络，其特征在于，网络结构采用结合注意力机制的seq2seq序列生成模型，编码器采用双向循环神经网络，网络单元采用门控循环单元(GRU)，向量用数值加权，前向权值取0.7，后向权值取0.3。

5.根据权利要求3所述的生成网络，其特征在于，采用似然估计方法，用标签数据预训练生成网络。

6.根据权利要求1所述的生成对抗网络，其特征在于，判别网络的作用是将生成网络生成的特征观点词和人工标注的特征观点词进行判别，当判别网络无法判别特征观点词是由生成网络生成还是由人工标注时，生成网络即为所求网络；

判别网络的输入

是真实文本

的概率，用下式表示：

其中，D表示判别网络，φ为D的参数。

7.根据权利要求6所述的判别网络，其特征在于，网络结构采用结合注意力机制的seq2seq序列生成模型，编码器和解码器均为单向循环神经网络，网络单元为门控循环单元(GRU)，输出是每个时间步生成文本的评分，是一个标量。

8.根据权利要求1所述的演员——评论家强化学习模型，其特征在于，采用单步更新的方式，以t时刻输入作为环境状态，以根据生成的分布选择文本作为动作，以判别网络的评分取对数作为选择该动作的奖励值，通过序列动作乘衰减系数后求和得到t时刻选择某个文本的总奖励。

9.根据权利要求8所述的评论家网络，其特征在于，采用多对一的循环神经网络，输入部分的结构与判别网络的编码器结构相同，输出是以选择某个文本的总奖励作为标签值，通过梯度下降方法训练。