CN109766557B - 一种情感分析方法、装置、存储介质及终端设备 - Google Patents

Abstract

本发明实施例公开了一种情感分析、装置、存储介质及终端设备。情感分析方法包括：获取待进行情感分析的目标数据；对目标数据进行分词处理，获取与目标数据对应的初始词向量集合；根据初始词向量集合确定目标数据中待分析目标对应的目标向量；将初始词向量集合及目标向量输入至预先训练的情感分析模型中，根据情感分析模型的输出结果，确定待分析目标的情感极性；其中，情感分析模型基于多层卷积神经网络训练生成。通过采用上述技术方案，能够基于多层卷积神经网络训练而成的情感分析模型，平行地接收和处理待进行情感分析的目标数据，并充分挖掘目标数据中关于特定目标的情感信息，可以准确、高效地分析出相关数据中特定目标的情感极性。

Description

一种情感分析方法、装置、存储介质及终端设备

技术领域

本发明实施例涉及大数据处理技术领域，尤其涉及情感分析方法、装置、存储介质及终端设备。

背景技术

随着互联网行业的迅猛发展，各类网络社交平台、电商平台已融入了人们的生活中，在网络上发表自己的观点和评论已变得稀疏平常。这些观点或评论中大多蕴含着个人情感，通过对这些情感的挖掘，商家可以知晓大众对商品的看法，对商品本身或营销策略等做出进一步的修改；消费者可以通过浏览该商品的评价信息，做出是否购买的决策；政府可掌握热点问题的网络舆情，从而制定更为合理的政策。

利用自然语言处理技术完成对文本中情感的挖掘，被称为情感分析。常见的情感分析任务是对情感极性的分类，或按照积极、消极、中立分为三类，或是按照强烈支持、较为支持、中立、较反对、强烈反对分为五类等等。不同于以文档或语句为整体做出的情感极性判断，特定目标的情感分析是细粒度的。通常一句评论中不止包含一个评价目标，若以评论为整体做出极性判断不够细致和明确，特定目标的情感分析旨在获取每一个评价目标所对应的情感。这样的任务实用价值更高、挑战更大。其主要的研究方法从浅层特征的学习过渡到挖掘深层语义的深度学习，并且应用深度学习的方法实现特定目标情感分析已经逐渐成为主流方法。

相关技术中，常用的目标情感分析方法为一种基于注意力和目标嵌入的LSTM方法(ATAE-LSTM)。该方法为使模型更好的关注目标信息，其将目标词向量连接到每个单词的输入向量上，再利用LSTM建模上下文，最后采用注意力机制挖掘其中的重要信息。具体的实现步骤为：1)将评论中每一个词向量与目标词向量拼接，并将其通过长短时记忆神经网络(LSTM)，即可获取每个单词的基于上下文信息的向量；2)将各个单词的上下文向量通过注意力机制，以获取相对于特定目标而言各上下文向量的情感权重；3)通过将各词的上下文向量按照权重加权平均的方法获取对评论的情感表示向量，将该向量通过全连接层与softmax函数即可获取该评论的情感极性。

然而，上述方法主要是在循环神经网络(Recurrent Neural Network,RNN)的基础上结合注意力机制，完成句子建模和句中重要情感信息的获取。虽然RNN可很好的完成序列数据的处理，但其每个时刻的状态都和上一时刻有关，不能平行的接收输入数据，所以其注意力机制无法准确的获取每个词的重要性。而且上述方法只对上下文进行了一次建模，即其只利用RNN获取了一种上下文表示。这种只对上下文进行一次建模的方法会使上下文表示不够充分、不够深刻。而通常情况下特定目标的情感极性只需部分上下文就可以决定。如在句子“great food but the service was dreadful”中，“great”决定了目标词“food”的情感是积极的，而句子的其他部分则对极性的判断影响很小。因此，提供一种有效、准确的挖掘句中情感信息的方法，变得至关重要。

发明内容

本发明实施例提供一种情感分析方法、装置、存储介质及终端设备，可以准确、高效地对相关数据中的特定目标的情感极性进行分析。

第一方面，本发明实施例提供了一种情感分析方法，包括：

获取待进行情感分析的目标数据；

对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合；

根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量；

将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性；其中，所述情感分析模型基于多层卷积神经网络训练生成。

进一步的，将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性，包括：

以预先训练的情感分析模型中的第一中间层为当前中间层，将所述初始词向量集合及所述目标向量输入至当前中间层，根据所述目标向量确定所述初始词向量集合对应的上下文向量，根据所述上下文向量及所述目标向量更新所述目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对所述初始词向量集合进行卷积操作以更新所述初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；

重复上述操作，直至得到所述情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。

进一步的，根据所述目标向量确定所述初始词向量集合对应的上下文向量，包括：

根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数；

根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量。

进一步的，

根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数，包括：

根据如下公式计算各个初始词向量对应的注意力系数：

其中，α_i表示初始词向量集合中第i个初始词向量对应的注意力系数，g_i表示初始词向量集合中第i个初始词向量基于语义的注意力系数，g_j表示初始词向量集合中第j个初始词向量基于语义的注意力系数，loc_i表示初始词向量集合中第i个初始词向量基于位置的注意力系数，loc_j表示初始词向量集合中第j个初始词向量基于位置的注意力系数，W_att∈R^1×2d，b_att∈R^1×1，W_att表示情感分析模型中各个中间层的网络权重，b_att表示情感分析模型中各个中间层的网络偏置，n表示目标数据的长度，m_i表示第i个初始词向量距离待分析目标的距离，p表示情感分析模型中的网络参数，l＝1,2,......,L，表示第l个中间层，L表示情感分析模型中中间层的层数；

相应的，根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量，包括：

根据如下公式计算所述初始词向量集合对应的上下文向量：

其中，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，x_i ^l表示输入至第l个中间层的初始词向量集合中的第i个初始词向量。

进一步的，根据所述上下文向量及所述目标向量更新所述目标向量，包括：

对所述目标向量进行线性变换；

对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量。

进一步的，

对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量，包括：

根据如下公式更新所述目标向量：

其中，表示更新后的目标向量，/>表示更新前的目标向量，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，W_linear∈R^d×d，W_linear表示情感分析模型中各个中间层的线性变换权重，l＝1,2,......,L-1，表示第l个中间层，L表示情感分析模型中中间层的层数。

进一步的，根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量，包括：

从所述初始词向量集合中确定所述目标数据中的待分析目标涉及的目标初始词向量；

计算所述目标初始词向量的均值向量，并将计算结果作为所述待分析目标对应的目标向量。

进一步的，所述情感分析模型基于多层卷积神经网络训练生成，包括：

获取样本数据；

对所述样本数据进行分词处理，得到与所述样本数据对应的样本初始词向量集合；

根据所述样本初始词向量集合确定所述样本数据中的样本待分析目标对应的样本目标向量；

对所述样本目标向量的情感极性进行标记，得到所述样本目标向量对应的标记情感极性；

将所述样本初始词向量集合和所述样本目标向量输入至多层卷积神经网络，得到所述样本目标向量对应的预测情感极性；

根据所述标记情感极性及所述预测情感极性确定所述多层卷积神经网络的损失函数；

根据所述损失函数调整所述多层卷积神经网络的网络参数，直至所述损失函数的输出值小于等于预设阈值；

将所述多层卷积神经网络作为情感分析模型。

第二方面，本发明实施例还提供了一种情感分析装置，包括：

目标数据获取模块，用于获取待进行情感分析的目标数据；

词向量集合获取模块，用于对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合；

目标向量确定模块，用于根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量；

情感极性分析模块，用于将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性；其中，所述情感分析模型基于多层卷积神经网络训练生成。

第三方面，本发明实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例第一方面所述的情感分析法。

第四方面，本发明实施例提供了一种终端设备，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本发明实施例第一方面所述的情感分析方法。

本发明实施例提供的情感分析方案，获取待进行情感分析的目标数据，并对目标数据进行分词处理，获取与目标数据对应的初始词向量集合，然后根据初始词向量集合确定目标数据中待分析目标对应的目标向量，最后将初始词向量集合及目标向量输入至预先训练的情感分析模型中，根据情感分析模型的输出结果，确定待分析目标的情感极性，其中，情感分析模型基于多层卷积神经网络训练生成。通过采用上述技术方案，能够基于多层卷积神经网络训练而成的情感分析模型，平行地接收和处理待进行情感分析的目标数据，并充分挖掘目标数据中关于待分析的特定目标的情感信息，可以准确、高效地分析出相关数据中特定目标的情感极性。

附图说明

图1是本发明实施例一提供的一种情感分析方法的流程示意图；

图2是本发明实施例二提供的一种情感分析方法的流程示意图；

图3是本发明实施例三提供的一种情感分析装置的结构示意图；

图4是本发明实施例五提供的一种终端设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各步骤描述成顺序的处理，但是其中的许多步骤可以被并行地、并发地或者同时实施。此外，各步骤的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。

实施例一

图1为本发明实施例提供的情感分析方法的流程示意图，该方法可适用于对目标数据中的特定目标进行情感分析的情况，可以由情感分析装置执行，其中该装置可由软件和/或硬件实现，一般可集成在终端设备中。如图1所示，该方法包括：

步骤101、获取待进行情感分析的目标数据。

在本发明实施例中，当需要对某数据进行情感分析时，获取待进行情感分析的目标数据，可以理解的是，将需要进行情感分析的数据作为目标数据。其中，待进行情感分析的目标数据可以包括在各种社交网络平台或电商平台上，用户发表的观点或评论性语句。示例性的，待进行情感分析的目标数据可以包括用户在淘宝电商平台购买物品时的评论语句，也可以包括用户在微信朋友圈的评论信息或用户在微信交互界面与其他用户的交互信息等等。需要说明的是，本发明实施例对待进行情感分析的目标数据的类型不做限定。

步骤102、对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合。

在本发明实施例中，对目标数据进行分词处理，对分词之后的数据进行词向量的训练，得到与目标数据对应的初始词向量集合。可选的，可采用CBOW(Continuous Bag-of-Words)模型实现词向量的训练，这样可将目标数据中每个词映射为一个d维的连续实值向量，即将每个词转换为对应的初始词向量，并将各个初始词向量构成的集合作为与目标数据对应的初始词向量集合。示例性的，待进行情感分析的目标数据为s，目标数据s的长度为n，也即目标数据中包含n个词，则对目标数据进行分词处理后可得到n个词序列。示例性的，目标数据s可表示为s＝{w₁,w₂,...,w_n}，而与目标数据对应的初始词向量集合可表示为{x₁,x₂,...,x_n}。可以理解的是，向量x_i为与词w_i对应的初始词向量，i＝1,2,......,n。

步骤103、根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量。

在本发明实施例中，待分析目标可以包括待进行情感分析的目标数据中的评价目标，其中，待分析目标为对目标数据进行分词后的序列中的至少一个词。例如，目标数据为“great food but the service was dreadful”时，待分析目标可以为“food”，也可以为“service”，又如，目标数据为“XXX电影中乱糟糟剧情与具有高超的演技演员不搭配”时，待分析目标可以为“剧情”，也可以为“演技”。

可选的，根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量，包括：从所述初始词向量集合中确定所述目标数据中的待分析目标涉及的目标初始词向量；计算所述目标初始词向量的均值向量，并将计算结果作为所述待分析目标对应的目标向量。示例性的，当待分析目标涉及到多个词时，将初始向量集合中待分析目标涉及到的多个词对应的初始向量作为目标初始词向量，并计算目标初始词向量的均值向量，也即对多个目标初始词向量求和得到和向量，并将和向量中每个元素除以目标初始词向量的数量，将计算结果作为目标初始词向量的均值向量，也即作为待分析目标对应的目标向量。例如，待分析目标涉及到的目标初始词向量为初始词向量集合中的x₁,x₂,...,x_m，其中，m＜n，则目标向量可表示为其中，x_target表示目标向量。当然，当待分析目标仅涉及到一个词时，可直接将初始向量集合中待分析目标涉及到的这个词对应的初始向量作为待分析目标对应的目标向量。

步骤104、将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性。

其中，所述情感分析模型基于多层卷积神经网络训练生成。

在本发明实施例中，情感分析模型可以理解为在输入初始词向量集合及目标向量后，快速确定与目标向量对应的待分析目标的情感极性的学习模型。情感分析模型可以是对获取的样本数据对应的样本初始词向量、样本数据中的样本待分析目标对应的样本目标向量及标记的样本目标向量的情感极性进行训练生成的学习模型。

示例性的，将初始词向量集合及目标向量输入至预先训练好的情感分析模型后，情感分析模型对初始词向量集合及目标向量进行分析，并根据分析结果确定出与目标向量对应的待分析目标的情感极性。例如，情感分析模型可以分别给出待分析目标对应的各个情感极性的概率值，其中，各个情感极性的概率值的和为1。可将概率值最大的情感极性作为待分析目标的情感极性；当存在至少两个概率值最大的情感极性时，可根据用户选择确定所述至少两个概率值最大的情感极性中的一个作为该待分析目标的情感极性。

在本发明实施例中，为了能够平行地接收并处理待进行情感分析的目标数据，实现对目标数据中待分析目标的情感极性的准确判断，情感分析模型基于多层卷积神经网络训练而成，也即情感分析模型中包含多层卷积神经网络。其中，每层神经网络中均包含记忆m和I，G，O，R四个模块，I模块可将目标数据中的各个词转换为词向量，G模块将I模块输出的各个词向量组合在一起，构成初始词向量集合，并根据初始词向量集合确定待分析目标对应的目标向量，而O模块会利用注意力机制显示地为初始词向量集合中的各个初始词向量，确定一个相对于目标向量的情感权重(也可称为注意力系数)，按此权重将各个初始词向量加权求和并与经过线性变换的目标向量相加，可获取一个表示情感信息的向量，即以该向量更新目标向量，并将更新后的目标向量作为输入至下一层卷积神经网络中的目标向量。同时，对初始词向量集合进行卷积操作以更新初始词向量集合，并将更新后的初始词向量集合作为输入至下一层卷积神经网络中的初始词向量集合。按照上述方式，不断迭代循环直至情感分析模型中最后一层卷积神经网络输出目标向量，并将最后一层卷积神经网络输出的目标向量输入至softmax层，从而获取待分析目标的情感极性。

本发明实施例提供的情感分析方法，获取待进行情感分析的目标数据，并对目标数据进行分词处理，获取与目标数据对应的初始词向量集合，然后根据初始词向量集合确定目标数据中待分析目标对应的目标向量，最后将初始词向量集合及目标向量输入至预先训练的情感分析模型中，根据情感分析模型的输出结果，确定待分析目标的情感极性，其中，情感分析模型基于多层卷积神经网络训练生成。通过采用上述技术方案，能够基于多层卷积神经网络训练而成的情感分析模型，平行地接收和处理待进行情感分析的目标数据，并充分挖掘目标数据中关于待分析的特定目标的情感信息，可以准确、高效地分析出相关数据中特定目标的情感极性。

实施例二

图2是本发明实施例二提供的一种情感分析方法的流程图。本实施例以上述实施例为基础进行优化，在本实施例中，将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性，包括：以预先训练的情感分析模型中的第一中间层为当前中间层，将所述初始词向量集合及所述目标向量输入至当前中间层，根据所述目标向量确定所述初始词向量集合对应的上下文向量，根据所述上下文向量及所述目标向量更新所述目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对所述初始词向量集合进行卷积操作以更新所述初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；重复上述操作，直至得到所述情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。相应的，本实施例的方法具体包括：

步骤201、获取待进行情感分析的目标数据。

步骤202、对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合。

步骤203、从所述初始词向量集合中确定所述目标数据中的待分析目标涉及的目标初始词向量。

步骤204、计算所述目标初始词向量的均值向量，并将计算结果作为所述待分析目标对应的目标向量。

步骤205、以预先训练的情感分析模型中的第一中间层为当前中间层。

步骤206、将所述初始词向量集合及所述目标向量输入至当前中间层。

步骤207、根据所述目标向量确定所述初始词向量集合对应的上下文向量，并根据所述上下文向量及所述目标向量更新所述目标向量。

可选的，根据所述目标向量确定所述初始词向量集合对应的上下文向量，包括：根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数；根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量。

可选的，根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数，包括：根据公式(1)-(3)计算各个初始词向量对应的注意力系数：

其中，α_i表示初始词向量集合中第i个初始词向量对应的注意力系数，g_i表示初始词向量集合中第i个初始词向量基于语义的注意力系数，g_j表示初始词向量集合中第j个初始词向量基于语义的注意力系数，loc_i表示初始词向量集合中第i个初始词向量基于位置的注意力系数，loc_j表示初始词向量集合中第j个初始词向量基于位置的注意力系数，W_att∈R^1×2d，b_att∈R^1×1，W_att表示情感分析模型中各个中间层的网络权重，也即W_att在情感分析模型中的各个中间层是权重共享的，b_att表示情感分析模型中各个中间层的网络偏置，也即b_att在情感分析模型中的各个中间层是共享的，n表示目标数据的长度，也可以理解为初始词向量集合中包含的初始词向量的数量，m_i表示第i个初始词向量距离待分析目标的距离，p表示情感分析模型中的网络参数，l＝1,2,......,L，表示第l个中间层，L表示情感分析模型中中间层的层数。

相应的，根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量，包括：根据公式(4)计算所述初始词向量集合对应的上下文向量：

其中，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，x_il表示输入至第l个中间层的初始词向量集合中的第i个初始词向量。

可选的，根据所述上下文向量及所述目标向量更新所述目标向量，包括：对所述目标向量进行线性变换；对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量。

可选的，对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量，包括：根据公式(5)更新所述目标向量：

其中，表示更新后的目标向量，/>表示更新前的目标向量，/>表示输入至第l个中间层的初始词向量集合对应的上下文向量，W_linear∈R^d×d，W_linear表示情感分析模型中各个中间层的线性变换权重，也即W_linear在情感分析模型中的各个中间层是共享的，l＝1,2,......,L-1，表示第l个中间层，L表示情感分析模型中中间层的层数。

步骤208、对所述初始词向量集合进行卷积操作以更新所述初始词向量集合。

示例性的，对初始词向量集合进行d个不同的卷积核的卷积操作，以更新所述初始词向量集合，也即得到新的初始词向量集合。例如，更新后的初始词向量集合可用表示，则更新前的初始词向量集合可表示为/>也即/>是由输入至第l个中间层的初始词向量集合/>经过d个不同的卷积核的卷积操作得到的。其中，对初始词向量集合/>经过第j个卷积核的卷及操作可得到中每个元素可根据公式(6)计算得到：

其中，k表示第j个卷积核的大小，和/>表示第j个卷积核在情感分析模型中的第l-1个中间层的权重。

步骤209、判断所述情感分析模型中是否存在下一中间层，若是，将执行步骤210，否则，执行步骤212。

步骤210、将更新后的目标向量作为输入下一中间层的目标向量，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合。

步骤211、将下一中间层作为新的当前中间层，并重复执行步骤206-步骤209。

示例性的，当相对于当前中间层，情感分析模型中存在下一中间层时，将更新后的目标向量作为输入至下一中间层的目标向量，并将更新后的初始词向量集合作为输入至下一中间层的初始词向量集合。例如，情感分析模型中共包含L个中间层，可选的，L＝5，以当前中间层为情感分析模型中的第一中间层为例，输入至第一中间层的初始词向量集合可表示为输入至第一中间层的目标向量可表示为/>显然，相对于第一中间层，情感分析模型中还存在下一中间层，也即第二中间层，则可将第二中间层作为新的当前中间层。输入至第二中间层的初始词向量集合可表示为/>输入至第二中间层的目标向量可表示为/>其中，/>是通过步骤208对/>更新后的初始词向量集合，/>是通过步骤207对/>更新后的目标向量。依次类推，直至获取输入至第五中间层的初始词向量集合和目标向量。并通过上述步骤，获取第五中间层输出的目标向量。

步骤212、将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。

需要说明的是，本发明实施例对步骤207与步骤208的执行顺序不做限定，可以先执行步骤207，后执行步骤208；也可以先执行步骤208，后执行步骤207；还可以同时执行步骤207与步骤208。

在本发明实施例中，为了评估情感分析模型对目标数据中待分析目标的情感极性的分析性能，可采用准确率作为情感分析模型的性能评价指标。其中，性能评价指标可通过公式(7)计算得到：

其中，Acc表示性能评价指标，T表示通过情感分析模型对目标数据中的待分析目标的情感极性预测正确的数量，N表示通过情感分析模型对多个目标数据中的待分析目标进行情感极性分析的总数量。通常Acc越大，表示情感分析模型的性能越好，对情感极性分析的准确率越高。

示例性的，如下表为本发明实施例提供的情感分析方法与其他五种情感分析方法对LAPTOP和REST两类数据集进行情感分析的比较结果：

情感分析方法	LAPtop	REST
			LSTM	66.45％	74.28％
TD-LSTM	68.13％	75.63％
			ATAE-LSTM	68.70％	77.20％
MemNet	72.26％	77.14％
			IAN	72.10％	78.60％
CNN-MemNet	75.23％	78.75％

其中，在上表中，情感分析方法LSTM只使用一个LSTM网络对样本数据的上下文进行建模并获取每个单词的隐藏状态，将所有隐藏状态的平均值被视为最终的句子表示，并被送到softmax层以估计每个情感极性标签的概率。情感分析方法TD-LSTM采用前向LSTM和后向LSTM分别表示包含特定待分析目标的上文与包含特定待分析目标的下文，然后将这两个网络的隐藏状态拼接共同预测情感极性。情感分析方法ATAE-LSTM基于注意力和目标嵌入的LSTM方法，为使模型更好的关注目标信息，将目标词向量连接到每个单词的输入向量上，再利用LSTM建模上下文，最后采用注意力机制挖掘其中的重要信息。情感分析方法MemNet将记忆网络应用到了情感分析的任务中，上下文作为外部记忆，利用注意力机制捕获对特定待分析目标而言的重要记忆信息。情感分析方法IAN使用两个LSTM来分别建模上下文和特定待分析目标目标，注意力机制交互的学习上下文和特定待分析目标中的关键特征，然后将这些特征表示拼接起来共同用于预测。CNN-MemNet表示本发明实施例提供的情感分析方法。

从上表可以看出，LSTM的实验结果最差，究其原因是其没有考虑目标信息，只能获取整个句子的情感极性。而TD-LSTM的表现比LSTM的好，说明将目标词考虑进上下文的建模是有必要的。ATAE-LSTM实验结果比TD-LSTM好，主要是因为注意力机制可以挖掘上下文中相对于特定目标而言的重要情感信息，实现了目标和上下文的信息交互。MemNet抛弃了建模上下文时常用RNN结构，其直接在原始的上下文词向量中挖掘情感信息，且实验结果较ATAE-LSTM较好，说明不利用RNN建模上下文也可很好的完成任务。IAN良好的实验结果则表明，需多考虑对目标信息的建模，如文中对目标词建模并交互的挖掘上下文和目标词的信息可以有效的利用目标信息。而本发明实施例提供的情感分析方法(CNN-MemNet)，可以平行地接收并处理待进行情感分析的数据，能够在不受待分析目标的上文干扰的状态下获取待分析目标关联的重要情感信息，而且该方法通过多层卷积神经网络实现了对特定目标的上下文的多次建模，因此可以挖掘到更为抽象的语法和语义信息。

本发明实施例提供的情感分析方法，获取待进行情感分析的目标数据，并对目标数据进行分词处理，获取与目标数据对应的初始词向量集合，然后从初始词向量集合中确定目标数据中的待分析目标涉及的目标初始词向量，计算目标初始词向量的均值向量，并将计算结果作为待分析目标对应的目标向量，最后以预先训练的情感分析模型中的第一中间层为当前中间层，将初始词向量集合及目标向量输入至当前中间层，根据目标向量确定初始词向量集合对应的上下文向量，根据上下文向量及目标向量更新目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对初始词向量集合进行卷积操作以更新初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；重复上述操作，直至得到情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到待分析目标的情感极性将初始词向量集合及目标向量输入至预先训练的情感分析模型中，根据情感分析模型的输出结果，确定待分析目标的情感极性，其中，情感分析模型基于多层卷积神经网络训练生成。通过采用上述技术方案，能够基于多层卷积神经网络训练而成的情感分析模型，平行地接收和处理待进行情感分析的目标数据，并充分挖掘目标数据中关于待分析的特定目标的情感信息，可以准确、高效地分析出相关数据中特定目标的情感极性。

在一些实施例中，所述情感分析模型基于多层卷积神经网络训练生成，包括：获取样本数据；对所述样本数据进行分词处理，得到与所述样本数据对应的样本初始词向量集合；根据所述样本初始词向量集合确定所述样本数据中的样本待分析目标对应的样本目标向量；对所述样本目标向量的情感极性进行标记，得到所述样本目标向量对应的标记情感极性；将所述样本初始词向量集合和所述样本目标向量输入至多层卷积神经网络，得到所述样本目标向量对应的预测情感极性；根据所述标记情感极性及所述预测情感极性确定所述多层卷积神经网络的损失函数；根据所述损失函数调整所述多层卷积神经网络的网络参数，直至所述损失函数的输出值小于等于预设阈值；将所述多层卷积神经网络作为情感分析模型。

示例性的，获取多条不同的样本数据，并对样本数据进行分词处理，然后基于CBOW模型对分词后的词序列进行词向量的训练，得到与样本数据对应的样本初始词向量集合。根据样本初始词向量集合确定样本数据中各个样本待分析目标对应的样本目标向量，例如，从样本初始词向量集合中确定样本数据中的待分析样本目标涉及的样本目标初始词向量，并计算样本目标初始词向量的均值向量，并将计算结果作为待分析样本目标对应的样本目标向量。对样本目标向量进行情感极性标记，得到样本目标向量对应的标记情感极性，其中，情感极性可以包括积极、消极、中立分为三类，也可分为强烈支持、较为支持、中立、较反对、强烈反对五类，本实施例对情感极性的划分方式不做限定。最后，将样本初始词向量集合和样本目标向量输入至多层卷积神经网络，得到样本目标向量对应的预测情感极性，并根据标记情感极性和预测情感极性构造多层卷积神经网络的损失函数，根据损失函数调整多层卷积神经网络的网络参数，直至损失函数的输出值小于等于预设阈值，此时将所述多层卷积神经网络作为情感分析模型。

示例性的，根据标记情感极性和预测情感极性构造的多层卷积神经网络的损失函数可用公式(8)表示：

其中，y表示预测情感极性，表示预测情感极性，i表示目标数据索引，j表示情感极性的类别索引，λ表示L₂正则化，θ表示正则化时设置的参数。

可选地，为了避免情感分析模型训练过程的过拟合现象，可使用dropout策略随机关闭情感分析模型中一半的神经元。训练后，通过将目标以其上下文输入模型来测试该样本数据，并且具有最高概率的情感极性代表了样本待分析目标的预测情感极性。

实施例三

图3是本发明实施例三提供的一种情感分析装置的结构示意图。如图3所示，所述装置包括：目标数据获取模块301、词向量集合获取模块302、目标向量确定模块303及情感极性分析模块304，其中：

目标数据获取模块301，用于获取待进行情感分析的目标数据；

词向量集合获取模块302，用于对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合；

目标向量确定模块303，用于根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量；

情感极性分析模块304，用于将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性；其中，所述情感分析模型基于多层卷积神经网络训练生成。

本发明实施例提供的情感分析装置，获取待进行情感分析的目标数据，并对目标数据进行分词处理，获取与目标数据对应的初始词向量集合，然后根据初始词向量集合确定目标数据中待分析目标对应的目标向量，最后将初始词向量集合及目标向量输入至预先训练的情感分析模型中，根据情感分析模型的输出结果，确定待分析目标的情感极性，其中，情感分析模型基于多层卷积神经网络训练生成。通过采用上述技术方案，能够基于多层卷积神经网络训练而成的情感分析模型，平行地接收和处理待进行情感分析的目标数据，并充分挖掘目标数据中关于待分析的特定目标的情感信息，可以准确、高效地分析出相关数据中特定目标的情感极性。

可选的，所述情感极性分析模块，用于：

以预先训练的情感分析模型中的第一中间层为当前中间层，将所述初始词向量集合及所述目标向量输入至当前中间层，根据所述目标向量确定所述初始词向量集合对应的上下文向量，根据所述上下文向量及所述目标向量更新所述目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对所述初始词向量集合进行卷积操作以更新所述初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；

重复上述操作，直至得到所述情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。

可选的，根据所述目标向量确定所述初始词向量集合对应的上下文向量，包括：

根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数；

根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量。

可选的，根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数，包括：

根据如下公式计算各个初始词向量对应的注意力系数：

其中，α_i表示初始词向量集合中第i个初始词向量对应的注意力系数，g_i表示初始词向量集合中第i个初始词向量基于语义的注意力系数，g_j表示初始词向量集合中第j个初始词向量基于语义的注意力系数，loc_i表示初始词向量集合中第i个初始词向量基于位置的注意力系数，loc_j表示初始词向量集合中第j个初始词向量基于位置的注意力系数，W_att∈R^1×2d，b_att∈R^1×1，W_att表示情感分析模型中各个中间层的网络权重，b_att表示情感分析模型中各个中间层的网络偏置，n表示目标数据的长度，m_i表示第i个初始词向量距离待分析目标的距离，p表示情感分析模型中的网络参数，l＝1,2,......,L，表示第l个中间层，L表示情感分析模型中中间层的层数；

相应的，根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量，包括：

根据如下公式计算所述初始词向量集合对应的上下文向量：

其中，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，x_il表示输入至第l个中间层的初始词向量集合中的第i个初始词向量。

可选的，根据所述上下文向量及所述目标向量更新所述目标向量，包括：

对所述目标向量进行线性变换；

对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量。

可选的，对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量，包括：

根据如下公式更新所述目标向量：

其中，表示更新后的目标向量，/>表示更新前的目标向量，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，W_linear∈R^d×d，W_linear表示情感分析模型中各个中间层的线性变换权重，l＝1,2,......,L-1，表示第l个中间层，L表示情感分析模型中中间层的层数。

可选的，所述目标向量确定模块，用于：

从所述初始词向量集合中确定所述目标数据中的待分析目标涉及的目标初始词向量；

计算所述目标初始词向量的均值向量，并将计算结果作为所述待分析目标对应的目标向量。

可选的，所述情感分析模型基于多层卷积神经网络训练生成，包括：

获取样本数据；

对所述样本数据进行分词处理，得到与所述样本数据对应的样本初始词向量集合；

根据所述样本初始词向量集合确定所述样本数据中的样本待分析目标对应的样本目标向量；

对所述样本目标向量的情感极性进行标记，得到所述样本目标向量对应的标记情感极性；

将所述样本初始词向量集合和所述样本目标向量输入至多层卷积神经网络，得到所述样本目标向量对应的预测情感极性；

根据所述标记情感极性及所述预测情感极性确定所述多层卷积神经网络的损失函数；

根据所述损失函数调整所述多层卷积神经网络的网络参数，直至所述损失函数的输出值小于等于预设阈值；

将所述多层卷积神经网络作为情感分析模型。

实施例四

本发明实施例四提供一种包含计算机可执行指令的存储介质，所述计算机可执行指令在由计算机处理器执行时用于情感分析方法。

存储介质——任何的各种类型的存储器设备或存储设备。术语“存储介质”旨在包括：安装介质，例如CD-ROM、软盘或磁带装置；计算机系统存储器或随机存取存储器，诸如DRAM、DDRRAM、SRAM、EDORAM，兰巴斯(Rambus)RAM等；非易失性存储器，诸如闪存、磁介质(例如硬盘或光存储)；寄存器或其它相似类型的存储器元件等。存储介质可以还包括其它类型的存储器或其组合。另外，存储介质可以位于程序在其中被执行的第一计算机系统中，或者可以位于不同的第二计算机系统中，第二计算机系统通过网络(诸如因特网)连接到第一计算机系统。第二计算机系统可以提供程序指令给第一计算机用于执行。术语“存储介质”可以包括可以驻留在不同位置中(例如在通过网络连接的不同计算机系统中)的两个或更多存储介质。存储介质可以存储可由一个或多个处理器执行的程序指令(例如具体实现为计算机程序)。

当然，本发明实施例所提供的一种包含计算机可执行指令的存储介质，其计算机可执行指令不限于如上所述的情感分析操作，还可以执行本发明任意实施例所提供的情感分析方法中的相关操作。

实施例五

图4为本发明实施例五提供的一种终端设备的结构示意图。图4显示的终端设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。如图4所示，本发明实施例六提供的终端设备，包括处理器41、存储器42、输入装置43和输出装置44；终端设备中处理器41的数量可以是一个或多个，图4中以一个处理器41为例；终端设备中的处理器41、存储器42、输入装置43和输出装置44可以通过总线或其他方式连接，图4中以通过总线连接为例。

存储器42作为一种计算机可读存储介质，可用于存储软件程序、计算机可执行程序以及模块，如本发明实施例中的情感分析方法对应的程序指令/模块(例如，情感分析装置中的目标数据获取模块301、词向量集合获取模块302、目标向量确定模块303及情感极性分析模块304)。处理器41通过运行存储在存储器42中的软件程序、指令以及模块，从而执行各种功能应用以及文件处理，例如实现本发明实施例所提供的应用于终端设备的情感分析方法。

存储器42可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序；存储数据区可存储根据终端设备的使用所创建的数据等。此外，存储器42可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中，存储器42可进一步包括相对于处理器41远程设置的存储器，这些远程存储器可以通过网络连接至终端设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

输入装置43可用于接收用户输入的数字或字符信息，以产生与终端设备的用户设置以及功能控制有关的键信号输入。输出装置44可包括显示屏等显示设备。

上述实施例中提供的情感分析方法、装置、存储介质及终端设备终端设备可执行本发明实施例所提供的对应的情感分析方法，具备执行该方法相应的功能模块和有益效果。未在上述实施例中详尽描述的技术细节，可参见本发明任意实施例所提供的情感分析方法。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (10)

1.一种情感分析方法，其特征在于，包括：

获取待进行情感分析的目标数据；

对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合；

根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量；

将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性；其中，所述情感分析模型基于多层卷积神经网络训练生成；

所述将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性，包括：

以预先训练的情感分析模型中的第一中间层为当前中间层，将所述初始词向量集合及所述目标向量输入至当前中间层，根据所述目标向量确定所述初始词向量集合对应的上下文向量，根据所述上下文向量及所述目标向量更新所述目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对所述初始词向量集合进行卷积操作以更新所述初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；

重复上述操作，直至得到所述情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。

2.根据权利要求1所述的方法，其特征在于，根据所述目标向量确定所述初始词向量集合对应的上下文向量，包括：

根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数；

根据所述初始词向量集合中各个向量及所述各个初始词向量对应的注意力系数计算所述初始词向量集合对应的上下文向量。

3.根据权利要求2所述的方法，其特征在于，根据所述目标向量确定所述初始词向量集合中各个初始词向量对应的注意力系数，包括：

根据如下公式计算各个初始词向量对应的注意力系数：

其中，α_i表示初始词向量集合中第i个初始词向量对应的注意力系数，g_i表示初始词向量集合中第i个初始词向量基于语义的注意力系数，g_j表示初始词向量集合中第j个初始词向量基于语义的注意力系数，loc_i表示初始词向量集合中第i个初始词向量基于位置的注意力系数，loc_j表示初始词向量集合中第j个初始词向量基于位置的注意力系数，W_att∈R^{1 ×2d}，b_att∈R^1×1，W_att表示情感分析模型中各个中间层的网络权重，b_att表示情感分析模型中各个中间层的网络偏置，n表示目标数据的长度，m_i表示第i个初始词向量距离待分析目标的距离，p表示情感分析模型中的网络参数，l＝1,2,......,L，表示第l个中间层，L表示情感分析模型中中间层的层数；表示更新前的目标向量；

相应的，根据所述初始词向量集合中各个向量及所述各个初始向量对应的注意力系数计算所述初始词向量集合对应的上下文向量，包括：

根据如下公式计算所述初始词向量集合对应的上下文向量：

其中，x_att ^l表示输入至第l个中间层的初始词向量集合对应的上下文向量，表示输入至第l个中间层的初始词向量集合中的第i个初始词向量。

4.根据权利要求1所述的方法，其特征在于，根据所述上下文向量及所述目标向量更新所述目标向量，包括：

对所述目标向量进行线性变换；

对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量。

5.根据权利要求4所述的方法，其特征在于，对所述上下文向量及经过线性变换后的目标向量进行求和运算，以更新所述目标向量，包括：

根据如下公式更新所述目标向量：

其中，表示更新后的目标向量，/>表示更新前的目标向量，/>表示输入至第l个中间层的初始词向量集合对应的上下文向量，W_linear∈R^d×d，W_linear表示情感分析模型中各个中间层的线性变换权重，l＝1,2,......,L-1，表示第l个中间层，L表示情感分析模型中中间层的层数。

6.根据权利要求1所述的方法，其特征在于，根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量，包括：

从所述初始词向量集合中确定所述目标数据中的待分析目标涉及的目标初始词向量；

计算所述目标初始词向量的均值向量，并将计算结果作为所述待分析目标对应的目标向量。

7.根据权利要求1所述的方法，其特征在于，所述情感分析模型基于多层卷积神经网络训练生成，包括：

获取样本数据；

对所述样本数据进行分词处理，得到与所述样本数据对应的样本初始词向量集合；

根据所述样本初始词向量集合确定所述样本数据中的样本待分析目标对应的样本目标向量；

对所述样本目标向量的情感极性进行标记，得到所述样本目标向量对应的标记情感极性；

将所述样本初始词向量集合和所述样本目标向量输入至多层卷积神经网络，得到所述样本目标向量对应的预测情感极性；

根据所述标记情感极性及所述预测情感极性确定所述多层卷积神经网络的损失函数；

根据所述损失函数调整所述多层卷积神经网络的网络参数，直至所述损失函数的输出值小于等于预设阈值；

将所述多层卷积神经网络作为情感分析模型。

8.一种情感分析装置，其特征在于，包括：

目标数据获取模块，用于获取待进行情感分析的目标数据；

词向量集合获取模块，用于对所述目标数据进行分词处理，获取与所述目标数据对应的初始词向量集合；

目标向量确定模块，用于根据所述初始词向量集合确定所述目标数据中待分析目标对应的目标向量；

情感极性分析模块，用于将所述初始词向量集合及所述目标向量输入至预先训练的情感分析模型中，根据所述情感分析模型的输出结果，确定所述待分析目标的情感极性；其中，所述情感分析模型基于多层卷积神经网络训练生成；

所述情感极性分析模块，用于：

以预先训练的情感分析模型中的第一中间层为当前中间层，将所述初始词向量集合及所述目标向量输入至当前中间层，根据所述目标向量确定所述初始词向量集合对应的上下文向量，根据所述上下文向量及所述目标向量更新所述目标向量，并将更新后的目标向量作为输入下一中间层的目标向量；对所述初始词向量集合进行卷积操作以更新所述初始词向量集合，并将更新后的初始词向量集合作为输入下一中间层的初始词向量集合；并将下一中间层作为新的当前中间层；

重复上述操作，直至得到所述情感分析模型中最后一个中间层输出的目标向量，并将最后一个中间层输出的目标向量输入至全连接层和softmax层，得到所述待分析目标的情感极性。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的情感分析方法。

10.一种终端设备，其特征在于，包括：

一个或多个处理器；

存储器，用于存储一个或多个程序；

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7任一所述的情感分析方法。