CN115392237B - 情感分析模型训练方法、装置、设备及存储介质 - Google Patents

Abstract

本发明涉及人工智能技术，揭露了一种情感分析模型训练方法，包括：获取训练文本中包括真实情感标签的情感关键词，构建所述训练文本的嵌入向量序列；利用所述嵌入向量序列训练深度神经网络模型，并获取训练完成的神经网络模型的模型参数；基于所述模型参数向所述嵌入向量序列添加扰动，得到对抗文本；将对抗文本输入至预训练完成的深度神经网络模型中，得到预测情感标签，根据预测情感标签计算深度神经网络模型的对抗损失值，在对抗损失值小于预设损失阈值时，确定预训练完成的深度神经网络模型为目标情感分析模型。本发明还提出一种情感分析模型训练装置、电子设备以及存储介质。本发明可以情感分析模型的预测准确度。

Description

情感分析模型训练方法、装置、设备及存储介质

技术领域

本发明涉及人工智能技术领域，尤其涉及一种情感分析模型训练方法、装置、电子设备及计算机可读存储介质。

背景技术

情感分析是人们对产品、服务、组织、个人、问题、时间、话题及其属性的观点、情感、情绪、评价和态度的计算研究，具有广阔的研究前景，是自然语言处理研究领域的一个重点方向。

现有的情感分析模型一般采用对抗训练识别语句中的情感词并进行情感分类。所述对抗训练是一种引入噪声的训练方式，可以对参数进行正则化，提升模型鲁棒性和泛化能力。但是，传统的对抗训练通常是针对整个句子计算对抗扰动，无法针对句子中的情感词进行对抗训练，导致情感分析模型在定位情感要素时出现偏差，造成情感分析模型的准确率低下。

发明内容

本发明提供一种情感分析模型训练方法、装置及计算机可读存储介质，其主要目的在于解决进行情感分析模型预测精确度较低的问题。

为实现上述目的，本发明提供的一种情感分析模型训练方法，包括：

提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的模型参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

可选地，所述构建所述训练文本中每个词的词嵌入向量，包括：

去除所述训练文本中的停用词及标点符号，得到标准文本；

对所述标准文本进行文本分词及向量转化，得到所述标准文本中每个词的词向量；

利用预设的词向量嵌入模型分别对所述词向量进行前后向卷积，得到上下文信息；

根据所述上下文信息获取上下文特征向量及位置嵌入向量；

将所词向量、上下文特征向量及位置向量进行向量叠加，得到所述标准文本中每个词的词嵌入向量，合并所述标准文本中每个词的词嵌入向量，得到嵌入向量序列。

可选地，所述利用所述嵌入向量序列对深度神经网络模型进行预训练，包括：

将所述嵌入向量序列输入至预构建的深度神经网络模型中的隐藏层，得到所述嵌入向量序列的多个中间层向量特征及最后一层向量特征；

将所述最后一层向量特征与所述多个中间层向量特征进行特征融合，得到所述嵌入向量序列对应的训练文本特征；

利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量特征进行训练，直至所述深度神经网络模型收敛，得到预训练完成的深度神经网络。

可选地，所述利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量进行训练，包括：

将所述训练文本特征及所述最后一层向量进行全连接，得到所述嵌入向量序列的预测情感标签；

计算所述预测情感标签与所述情感关键词对应的真实情感标签之间的第一损失值；

根据所述第一损失值对所述深度神经网络进行迭代训练，直至所述第一损失值小于预设预训练损失阈值。

可选地，所述基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本，包括：

基于所述模型参数利用预设的损失函数计算所述预训练完成的深度神经网络模型的第二损失值，根据所述第二损失值计算所述损失函数梯度；

利用符号函数计算所述损失函数梯度的梯度方向；

将预构建的扰动因子与所述梯度方向相乘，得到所述情感关键词对应的关键扰动；

利用线性递减法向所述嵌入向量序列添加所述关键扰动，得到对抗文本。

可选地，所述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到预测情感标签，包括：

利用所述预训练完成的深度神经网络提取所述对抗文本的特征信息；

对所述特征信息进行池化，得到所述对抗文本的语义特征；

利用预设的激活函数对所述语义特征进行分类，得到所述对抗文本对应的预测情感标签。

可选地，所述计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，包括：

利用如下公式计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值：

其中，为所述对抗损失值，为所述对抗预测情感标签的数量，为第个对抗预测情感标签，为所述对抗预测情感标签的类别数量，为所述对抗预测情感标签的其中一种类别，为符号函数，为第个对抗预测情感标签属于类别的概率,为对抗预测情感标签类别在真实情感标签中的概率。

为了解决上述问题，本发明还提供一种情感分析模型训练装置，所述装置包括：

嵌入向量序列构建模块，用于提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

神经网络模型训练模块，用于利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的神经网络模型的模型参数；

添加扰动模块，用于基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

对抗情感标签预测模块，用于将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

损失值计算模块，用于计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

参数调整模块，用于在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

目标情感分析模型确定模块，用于在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

为了解决上述问题，本发明还提供一种电子设备，所述电子设备包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述所述的情感分析模型训练方法。

为了解决上述问题，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质中存储有至少一个计算机程序，所述至少一个计算机程序被电子设备中的处理器执行以实现上述所述的情感分析模型训练方法。

本发明实施例通过构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列，通过嵌入向量对所述训练文本进行向量表征，便于区分不同单词之间的区别；利用嵌入向量序列训练深度神经网络模型，并获取训练完成的深度神经网络模型的模型参数；再基于模型参数利用快速梯度符号法计算情感关键词对应的关键扰动，基于关键扰动向所述嵌入向量序列添加扰动，得到对抗文本，针对情感关键词添加扰动，以增加所述神经网络模型的对抗性；将对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签，对预训练完成的深度神经网络模型进行对抗训练，使得模型适应对抗性，增强深度神经网络适应变化的能力；计算预测情感标签的损失值；在损失值大于预设损失阈值时，调整模型参数直至损失值小于预设损失阈值，增大了目标情感分析模型适应变化的能力，提高了情感分析模型的预测准确度。因此本发明提出的情感分析模型训练方法、装置、电子设备及计算机可读存储介质，可以解决进行情感分析模型预测准确度较低的问题。

附图说明

图1为本发明一实施例提供的情感分析模型训练方法的流程示意图；

图2为本发明一实施例提供的构建词嵌入向量序列的流程示意图；

图3为本发明一实施例提供的添加扰动的流程示意图；

图4为本发明一实施例提供的情感分析模型训练装置的功能模块图；

图5为本发明一实施例提供的实现所述情感分析模型训练方法的电子设备的结构示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

本申请实施例提供一种情感分析模型训练方法。所述情感分析模型训练方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述情感分析模型训练方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。所述服务器可以是独立的服务器，也可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(ContentDelivery Network，CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。

参照图1所示，为本发明一实施例提供的情感分析模型训练方法的流程示意图。在本实施例中，所述情感分析模型训练方法包括以下步骤S1-S7：

S1、提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

本发明实施例中，所述训练文本为大量含有情感词的语句，其中所述情感词可能被前缀或后缀词所修饰，例如，“我对这家餐厅的印象不是很好”，利用修饰词“不是”对情感词“很好”进行修饰。具体地，所述真实情感标签包括开心、兴奋、遗憾、伤心等。

本发明实施例中，所述词嵌入向量是对训练文本中的每个词进行(WordEmbedding) 词嵌入向量转化，将所述训练文本中的每个字转化为固定长度的向量表示，通过所述词嵌入向量对所述训练文本进行向量表征，便于区分不同单词之间的区别。

详细地，参阅图2所示，所述构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列包括以下步骤S21-S25：

S21：去除所述训练文本中的停用词及标点符号，得到标准文本；

S22：对所述标准文本进行文本分词及向量转化，得到所述标准文本中每个词的词向量；

S23：利用预设的词向量嵌入模型分别对所述词向量进行前后向卷积，得到上下文信息；

S24：根据所述上下文信息获取上下文特征向量及位置嵌入向量；

S25：将所述词向量、上下文特征向量及位置向量进行向量叠加，得到所述标准文本中每个词的词嵌入向量，合并所述标准文本中每个词的词嵌入向量，得到嵌入向量序列。

本发明实施例中，所述预设的词向量嵌入模型可以是语言嵌入回归模型（Embedding From Language Models，简称ELMo），所述语言嵌入回归模型是预训练完成的深度双向语言模型，通过双向语言模型的输出向量计算得到词嵌入向量。

本发明实施例中，通过所述预设的词向量嵌入模型对每个词进行前后卷积，使得每个词嵌入向量都包括了上下文的特征信息，增加了词嵌入向量的特征信息，进一步地提高后续情感分析的准确度。

S2、利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

本发明实施例中，所述深度神经网络模型可以是人工神经网络（ArtificialNeural Network，ANN），包括输入输出层及中间的隐藏层，输入层与隐藏层之间全连接，通过嵌入向量序列训练深度神经网络模型，输出层输出的结果为所述嵌入向量序列对应的情感分析标签。

本发明另一实施例中，所述模型参数包括但不限于隐藏层的参数、隐藏层中神经元的个数、学习迭代的回合数、学习率等。

详细地，所述利用所述嵌入向量序列对深度神经网络模型进行预训练，包括：

将所述嵌入向量序列输入至预构建的深度神经网络模型中的隐藏层，得到所述嵌入向量序列的多个中间层向量特征及最后一层向量特征；

将所述最后一层向量特征与所述多个中间层向量特征进行特征融合，得到所述嵌入向量序列对应的训练文本特征；

利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量特征进行训练直至所述深度神经网络模型收敛，得到预训练完成的深度神经网络。

进一步地，所述利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量进行训练包括：

将所述训练文本特征及所述最后一层向量进行全连接，得到所述嵌入向量序列的预测情感标签；

计算所述预测情感标签与所述情感关键词对应的真实情感标签之间的第一损失值；

根据所述损失值对所述深度神经网络进行迭代训练，直至所述第一损失值小于预设预训练损失阈值。

本发明实施例中，通过将训练文本特征及所述最后一层向量进行全连接，能够对所述嵌入向量序列进行分类，以得到预测情感标签，再计算预测情感标签与真实情感标签之间的第一损失值。本发明其中一个实施例中，可以利用交叉熵损失函数计算预测情感标签与真实情感标签的第一损失值，在第一损失值小于预设的预训练损失阈值时，确定所述深度神经网络收敛，即预训练完成，使得预训练完成的深度神经网络更稳定，预测更精确。

本发明实施例中，将所述深度神经网络中间层的向量特征融合后共同训练，实现了高分辨率特征和低分辨率特征的互补，使得得到的训练文本特征既包括高层语义特征又包括底层信息，提高所述深度神经网络的情感分析能力。

S3、基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

本发明实施例中，所述快速梯度符号法（Fast Gradient Sign Method）是一种基于梯度生成对抗样本的算法，本发明实施例得到的对抗文本，是在原嵌入向量序列的基础上做出改变，导致后续得情感预测模型所述对抗文本进行情感分析出现分类错误。

本发明实施例中，所述对抗文本是添加了扰动的嵌入向量所表示的文本，以每个添加扰动后的词嵌入向量代表文本中的每个字词，得到对抗文本。

详细地，参阅图3所示所述基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本，包括以下步骤S31-S34：

S31：基于所述模型参数利用预设的损失函数计算所述预训练完成的深度神经网络模型的第二损失值，根据所述第二损失值计算所述损失函数梯度；

S32：利用符号函数计算所述损失函数梯度的梯度方向；

S33：将预构建的扰动因子与所述梯度方向相乘，得到所述情感关键词对应的关键扰动；

S34：利用线性递减法向所述嵌入向量序列添加所述关键扰动，得到对抗文本。

本发明实施例中，所述损失值可以是上述的损失函数计算得到的预测情感标签与所述嵌入向量序列对应的真实情感标签之间的第二损失值，利用所述损失函数计算所述深度神经网路的损失值，回传损失值并计算梯度（也就是梯度反向传播），再利用符号函数计算梯度方向，所述符号函数sign()函数是用来求数值符号的函数，比如对于大于0的输入，输出为1，对于小于0的输入，输出为-1，对于等于0的输入，输出为0。

具体地，所述扰动因子可以预先设定，可以为0.5、0.8、1等数值，所述扰动因子不可过大，导致对抗扰动的对抗性较大，后续模型的对抗训练过程繁琐。

本发明其中一个实施例中，可以利用如下公式计算得到所述情感关键词对应的关键扰动：

其中，所述为所述情感关键词对应的关键扰动，为预设的扰动因子，为符号函数，为损失函数，为模型参数，为嵌入向量序列中第个词嵌入向量，为第个词嵌入向量对应的情感标签。

本发明实施例中，所述利用线性递减法向嵌入向量序列添加所述关键扰动为先向所述关键词嵌入向量添加原始的关键扰动，每个情感关键词字对应的词嵌入向量的扰动是一致的，以所述情感关键词的嵌入向量为中心，向语句的首尾方向添加的扰动梯度下降，例如，情感词为“我今天很开心地出来玩了”，则“开心”每个字对应的词嵌入向量添加的扰动均为关键扰动，但情感词前后的词嵌入向量添加的扰动线性递减，示例性地，可以以20%的幅度线性递减，得到的“很”与“地”的扰动为80%的关键扰动，“天”与“出”的扰动为80%的关键扰动。

相比较与传统的对整个训练文本添加对抗扰动，本发明实施例以线性递减的方式将对抗训练的扰动局限在情感词附近，能搞提升后续目标情感分析模型时情感词的对抗性，进一步地提高目标情感分析模型的准确率。

S4、将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

本发明实施例中，所述预训练完成的深度神经能够对所述对抗文本中的语句进行分类，以得到每个对抗语句对应的对抗预测情感标签。

详细地，所述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签，包括：

利用所述预训练完成的深度神经网络提取所述对抗文本的特征信息；

对所述特征信息进行池化，得到所述对抗文本的语义特征；

利用预设的激活函数对所述语义特征进行分类，得到所述对抗文本对应的对抗预测情感标签。

本发明实施例中，所述预设的激活函数可以是ReLU激活函数，具体地，所述ReLU激活函数为单侧饱和，只有朝着负方向函数值才会饱和，不会引入其他特征信息，能够有效地提高所述预训练完成的深度神经网络的对抗性。

本发明实施例中，通过对抗文本对所述预训练完成的深度神经网络模型进行对抗训练，以增强所述深度神经网络适应变化的能力，使得所述深度神经网络模型的准确度更高。

S5、计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

本发明实施例中，所述对抗损失值是衡量得到的对抗预测情感标签与真实的情感标签之间的差异性，并使得所述预训练完成的深度神经网络适应差异，得到满足预设损失阈值的函数参数。

详细地，本发明实施例利用如下公式计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，包括：

其中，为所述对抗损失值，为所述对抗预测情感标签的数量，为第个对抗预测情感标签，为所述对抗预测情感标签的类别数量，为所述对抗预测情感标签的其中一种类别，为符号函数，为第个对抗预测情感标签属于类别的概率,为对抗预测情感标签类别在真实情感标签中的概率。

本发明实施例中，利用所述损失函数计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述预训练完成的深度神经网络模型是否适应对抗训练，利用预设的损失阈值确定所述预训练完成的深度神经网络模型是否已经满足了对抗训练的要求，以提高目标情感分析模型的准确度。

S6、在所述对抗损失值不小于预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述的步骤S4；

本发明实施例中，在所述对抗损失值大于预设损失阈值时，表示所述预训练完成的深度神经网络模型未适应对抗训练，需要调整参数再次进行对抗训练直至所述对抗损失值小于预设损失阈值。

S7、在所述对抗损失值小于预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

本发明实施例中，在所述对抗损失值小于预设损失阈值时，表示所述预训练完成的深度神经网络模型已经满足了对抗训练的要求，不需要调整参数再次进行对抗训练，将所述预训练完成的深度神经网络模型为目标情感分析模型。

本发明实施例中，可利用所述目标情感分析模型对用户关于企业服务的文字评价进行情感分析，获取用户评价中真实的的情感倾向，对企业服务的服务水平做出评估，有利于企业提升服务质量，从而提高企业的整体评价。

本发明实施例通过构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列，通过嵌入向量对所述训练文本进行向量表征，便于区分不同单词之间的区别；利用嵌入向量序列训练深度神经网络模型，并获取训练完成的神经网络模型的模型参数；再基于模型参数利用快速梯度符号法计算情感关键词对应的关键扰动，基于关键扰动向所述嵌入向量序列添加扰动，得到对抗文本，针对情感关键词添加扰动，以增加所述神经网络模型的对抗性；将对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签，对预训练完成的深度神经网络模型进行对抗训练，使得模型适应对抗性，增强深度神经网络适应变化的能力；计算预测情感标签的损失值；在损失值大于预设损失阈值时，调整模型参数直至损失值小于预设损失阈值，增大了目标情感分析模型适应变化的能力，提高了情感分析模型的预测准确度。因此本发明提出的情感分析模型训练方法，可以解决进行情感分析模型预测准确度较低的问题。

如图4所示，是本发明一实施例提供的情感分析模型训练装置的功能模块图。

本发明所述情感分析模型训练装置100可以安装于电子设备中。根据实现的功能，所述情感分析模型训练装置100可以包括嵌入向量构建序列模块101、神经网络模型训练模块102、添加扰动模块103、对抗情感标签预测模块104、损失值计算模块105、参数调整模块106及目标情感分析模型确定模块107。本发明所述模块也可以称之为单元，是指一种能够被电子设备处理器所执行，并且能够完成固定功能的一系列计算机程序段，其存储在电子设备的存储器中。

在本实施例中，关于各模块/单元的功能如下：

所述嵌入向量序列构建模块101，用于提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

所述神经网络模型训练模块102，用于利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

所述添加扰动模块103，用于基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

所述对抗情感标签预测模块104，用于将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

所述损失值计算模块105，用于计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

所述参数调整模块106，用于在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到预测情感标签的步骤；

所述目标情感分析模型确定模块107，用于在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

详细地，本发明实施例中所述情感分析模型训练装置100中所述的各模块在使用时采用与上述图1至图3中所述的情感分析模型训练方法一样的技术手段，并能够产生相同的技术效果，这里不再赘述。

如图5所示，是本发明一实施例提供的实现情感分析模型训练方法的电子设备的结构示意图。

所述电子设备1可以包括处理器10、存储器11、通信总线12以及通信接口13，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如情感分析模型训练程序。

其中，所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器（Central Processing unit，CPU）、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心（ControlUnit），利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块（例如执行情感分析模型训练程序等），以及调用存储在所述存储器11内的数据，以执行电子设备的各种功能和处理数据。

所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器（例如：SD或DX存储器等）、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备的内部存储单元，例如该电子设备的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备的外部存储设备，例如电子设备上配备的插接式移动硬盘、智能存储卡（Smart Media Card， SMC）、安全数字（Secure Digital，SD）卡、闪存卡（Flash Card）等。进一步地，所述存储器11还可以既包括电子设备的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备的应用软件及各类数据，例如情感分析模型训练程序的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。

所述通信总线12可以是外设部件互连标准（peripheral componentinterconnect，简称PCI）总线或扩展工业标准结构（extended industry standardarchitecture，简称EISA）总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。

所述通信接口13用于上述电子设备与其他设备之间的通信，包括网络接口和用户接口。可选地，所述网络接口可以包括有线接口和/或无线接口（如WI-FI接口、蓝牙接口等），通常用于在该电子设备与其他电子设备之间建立通信连接。所述用户接口可以是显示器（Display）、输入单元（比如键盘（Keyboard）），可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED（Organic Light-Emitting Diode，有机发光二极管）触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备中处理的信息以及用于显示可视化的用户界面。

图中仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图中示出的结构并不构成对所述电子设备的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。

例如，尽管未示出，所述电子设备还可以包括给各个部件供电的电源（比如电池），优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。

应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。

所述电子设备1中的所述存储器11存储的情感分析模型训练程序是多个指令的组合，在所述处理器10中运行时，可以实现：

提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

具体地，所述处理器10对上述指令的具体实现方法可参考附图对应实施例中相关步骤的描述，在此不赘述。

进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。所述计算机可读存储介质可以是易失性的，也可以是非易失性的。例如，所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）。

本发明还提供一种计算机可读存储介质，所述可读存储介质存储有计算机程序，所述计算机程序在被电子设备的处理器所执行时，可以实现：

提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的神经网络模型的模型参数；

基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本；

将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。

所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。

对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。

因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。

本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain)，本质上是一个去中心化的数据库，是一串使用密码学方法相关联产生的数据块，每一个数据块中包含了一批次网络交易的信息，用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。

本申请实施例可以基于人工智能技术对相关的数据进行获取和处理。其中，人工智能（Artificial Intelligence，AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。

此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第一、第二等词语用来表示名称，而并不表示任何特定的顺序。

最后应说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或等同替换，而不脱离本发明技术方案的精神和范围。

Claims (10)

1.一种情感分析模型训练方法，其特征在于，所述方法包括：

提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列对应的情感关键词添加原始的关键扰动，利用线性递减法向所述对应的情感关键词的预设数量的前词和后词添加扰动，得到对抗文本；

将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的模型参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

2.如权利要求1所述的情感分析模型训练方法，其特征在于，所述构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列，包括：

去除所述训练文本中的停用词及标点符号，得到标准文本；

对所述标准文本进行文本分词及向量转化，得到所述标准文本中每个词的词向量；

利用预设的词向量嵌入模型分别对所述词向量进行前后向卷积，得到上下文信息；

根据所述上下文信息获取上下文特征向量及位置嵌入向量；

将所述词向量、上下文特征向量及位置向量进行向量叠加，得到所述标准文本中每个词的词嵌入向量，合并所述标准文本中每个词的词嵌入向量，得到嵌入向量序列。

3.如权利要求1所述的情感分析模型训练方法，其特征在于，所述利用所述嵌入向量序列对深度神经网络模型进行预训练，包括：

将所述嵌入向量序列输入至预构建的深度神经网络模型中的隐藏层，得到所述嵌入向量序列的多个中间层向量特征及最后一层向量特征；

将所述最后一层向量特征与所述多个中间层向量特征进行特征融合，得到所述嵌入向量序列对应的训练文本特征；

利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量特征进行训练，直至所述深度神经网络模型收敛，得到预训练完成的深度神经网络。

4.如权利要求3所述的情感分析模型训练方法，其特征在于，所述利用所述预构建的深度神经网络对所述训练文本特征及所述最后一层向量进行训练，包括：

将所述训练文本特征及所述最后一层向量进行全连接，得到所述嵌入向量序列的预测情感标签；

计算所述预测情感标签与所述情感关键词对应的真实情感标签之间的第一损失值；

根据所述第一损失值对所述深度神经网络进行迭代训练，直至所述第一损失值小于预设预训练损失阈值。

5.如权利要求1所述的情感分析模型训练方法，其特征在于，所述基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列添加扰动，得到对抗文本，包括：

基于所述模型参数利用预设的损失函数计算所述预训练完成的深度神经网络模型的第二损失值，根据所述第二损失值计算所述损失函数的梯度；

利用符号函数计算所述损失函数梯度的梯度方向；

将预构建的扰动因子与所述梯度方向相乘，得到所述情感关键词对应的关键扰动；

利用线性递减法向所述嵌入向量序列添加所述关键扰动，得到对抗文本。

6.如权利要求1所述的情感分析模型训练方法，其特征在于，所述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签，包括：

利用所述预训练完成的深度神经网络提取所述对抗文本的特征信息；

对所述特征信息进行池化，得到所述对抗文本的语义特征；

利用预设的激活函数对所述语义特征进行分类，得到所述对抗文本对应的预测情感标签。

7.如权利要求1所述的情感分析模型训练方法，其特征在于，所述计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，包括：

利用如下公式计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值：

其中，为所述对抗损失值，为所述对抗预测情感标签的数量，为第个对抗预测情感标签，为所述对抗预测情感标签的类别数量，为所述对抗预测情感标签的其中一种类别，为符号函数，为第个对抗预测情感标签属于类别的概率,为对抗预测情感标签类别在真实情感标签中的概率。

8.一种情感分析模型训练装置，其特征在于，所述装置包括：

嵌入向量序列构建模块，用于提取训练文本中包括真实情感标签的情感关键词，构建由所述训练文本中每个词的词嵌入向量组成的嵌入向量序列；

神经网络模型训练模块，用于利用所述嵌入向量序列对深度神经网络模型进行预训练，并获取预训练完成的深度神经网络模型的模型参数；

添加扰动模块，用于基于所述模型参数利用快速梯度符号法计算所述情感关键词对应的关键扰动，基于所述关键扰动向所述嵌入向量序列对应的情感关键词添加原始的关键扰动，利用线性递减法向所述对应的情感关键词的预设数量的前词和后词添加扰动，得到对抗文本；

对抗情感标签预测模块，用于将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签；

损失值计算模块，用于计算所述对抗预测情感标签与所述真实情感标签之间的对抗损失值，判断所述对抗损失值是否小于预设损失阈值；

参数调整模块，用于在所述对抗损失值不小于所述预设损失阈值时，调整所述预训练完成的深度神经网络模型的参数，并返回上述将所述对抗文本输入至所述预训练完成的深度神经网络模型中，得到对抗预测情感标签的步骤；

目标情感分析模型确定模块，用于在所述对抗损失值小于所述预设损失阈值时，确定所述预训练完成的深度神经网络模型为目标情感分析模型。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及，

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的情感分析模型训练方法。

10.一种计算机可读存储介质，存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的情感分析模型训练方法。

Images