CN112287106A - 一种基于双通道混合神经网络的在线评论情感分类方法 - Google Patents

一种基于双通道混合神经网络的在线评论情感分类方法 Download PDF

Info

Publication number
CN112287106A
CN112287106A CN202011169683.5A CN202011169683A CN112287106A CN 112287106 A CN112287106 A CN 112287106A CN 202011169683 A CN202011169683 A CN 202011169683A CN 112287106 A CN112287106 A CN 112287106A
Authority
CN
China
Prior art keywords
comment text
word
channel
neural network
online
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011169683.5A
Other languages
English (en)
Inventor
徐新胜
庞良健
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Jiliang University
Original Assignee
China Jiliang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Jiliang University filed Critical China Jiliang University
Priority to CN202011169683.5A priority Critical patent/CN112287106A/zh
Publication of CN112287106A publication Critical patent/CN112287106A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/35—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Evolutionary Computation (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明提供了一种基于双通道混合神经网络的在线评论情感分类方法，包括：步骤S1：在线评论文本获取与预处理。步骤S2：利用Word2vec工具获得字向量表示与词向量表示；步骤S3：构建词语级特征提取通道；步骤S4：构建字符级特征提取通道；步骤S5：将词语级特征提取通道所得的词语级特征矩阵Vleft,和字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，得到双通道特征矩阵V；步骤S6：利用softmax分类器进行评论文本情感极性分类。本发明首先利用混合神经网络提取局部特征和上下文语义特征，然后利用词性注意力机制来计算在线评论文本中每个字或词对于情感分类的重要性，从而提高评论文本情感分类的准确率。

Description

一种基于双通道混合神经网络的在线评论情感分类方法
技术领域
本发明涉及自然语言处理和深度学习领域，尤其是一种基于双通道混合神经网络的在线评论情感分类方法。
背景技术
随着互联网技术的不断发展，电子商务应运而生，在线交易越来越受消费者的欢迎。从第44次《中国互联网络发展状况统计报告》可知，到2019年6月，我国网民规模达8.54亿，较2018年底增长2598万，互联网普及率达61.2％，较2018年底提升1.6个百分点；我国手机网民规模达8.47亿，较2018年底增长2984万，网民使用手机上网的比例达99.1％，较2018年底提升0.5个百分点。
由于近年来电子商务的日益成熟，越来越多的消费者在淘宝、京东、苏宁等电商平台上发表自己的对某个商品的评价，这些由消费者发布的评论文本中往往隐含着用户对于产品的使用意见和情感倾向。有效利用这些评论，分析消费者对于产品的情感倾向，从而进一步挖掘出商品可能存在的质量问题，能够辅助消费者作为更加合理的购物选择。
当前主流的在线评论情感分类方法包括基于情感词典的情感分类、基于传统机器学习的情感分类和基于深度学习的分类方法。前面两种情感分类方法需要较多的人工先验知识的辅助，通过提取大量人工特征和构建情感词典完成情感分类任务。虽然这两种方法处理效果较为理想，但过程繁琐。而基于深度学习的情感分类方法能够自动提取特征，处理过程简便，且情感分类效果更好，因此，越来越多的人采用基于深度学习的方法处理情感分类问题。
在现有的基于深度学习的在线评论文本情感分类的研究方法当中，一些学者利用卷积神经网络进行在线评论情感分类的方法虽能获得在线评论语料的局部文本特征，却无法捕捉在线评论文本上下文词汇之间语义信息；另一些学者基于双向长短时记忆网络进行在线评论文本情感分类，但该方法只考虑了上下文语义。
发明内容
本发明的目的在于，针对上述基于深度学习的情感分类方法的技术缺陷：提供一种基于双通道混合神经网络的在线评论情感分类方法包括如下步骤：
步骤S1：在线评论文本获取与预处理。
步骤S2：分别利用Word2vec工具获得词向量表示与字向量表示；
步骤S3：构建词语级特征提取通道，将词向量表示作为词语级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个词对于情感分类的重要性；
步骤S4：构建字符级特征提取通道，将字向量表示作为字符级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个字对于情感分类的重要性；
步骤S5：将图2左侧词语级特征提取通道所得的词语级特征矩阵Vleft,和图2右侧字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，然后得到在线评论文本的双通道特征矩阵V；
步骤S6：利用softmax分类器进行评论文本情感极性分类。
本发明与现有技术对比的有益效果是：本发明提出了一种基于双通道混合神经网络的在线评论情感分类方法，首先利用Word2vec工具训练字向量与词向量，将其作为模型的输入。构建由CNN和BiLSTM组成的混合神经网络，首先利用CNN提取在线评论文本的局部特征，然后使用BiLSTM捕捉在线评论文本的词汇上下文语义特征信息，达到多层次语义融合的目的。与传统的注意力机制不同，本发明利用词性注意力机制来计算在线评论文本中每个字或词对于情感分类的重要性，从而提高评论文本情感分类的准确率。
附图说明
图1是本发明具体实施方式中的一种基于双通道混合神经网络的在线评论情感分类方法的流程图。
图2是本发明所提的双通道混合神经网络情感分类模型的结构图。
具体实施方式
为使本发明的目的、技术方案和优点清楚，下面将对本发明的具体实施方式进行清楚、完整的描述。
如图1所示，为本具体实施方式中的一种基于双通道混合神经网络的在线评论情感分类方法的流程图。图2是本发明所提的双通道混合神经网络情感分类模型的结构图。该方法包括：
步骤S1：在线评论文本获取与预处理；
步骤S2：分别利用Word2vec工具获得词向量表示与字向量表示；
步骤S3：构建词语级特征提取通道，将词向量表示作为词语级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个词对于情感分类的重要性；
步骤S4：构建字符级特征提取通道，将字向量表示作为字符级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个字对于情感分类的重要性；
步骤S5：将图2左侧词语级特征提取通道所得的词语级特征矩阵Vleft,和图2右侧字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，然后得到在线评论文本的双通道特征矩阵V；
步骤S6：利用softmax分类器进行评论文本情感极性分类。
在具体的实施方案中，可按下面方式操作：
步骤S1:在线评论文本获取与预处理。细分步骤如下：
步骤S11:首先设计爬虫算法从淘宝、天猫、京东等电商平台上采集目标商品的消费者评论文本，将其保存到Mysql数据库中；
步骤S12:对采集的目标商品评论文本进行预处理，主要进行删除多个重复汉字、错别字修改、繁体字转简体字等操作；
步骤S13:利用jieba分词工具对采集的在线评论文本以字和词为最小分词单位进行分词与词性标注，统计分词结果得到词频，根据停用词和低频词词典对分词结果进行过滤；
步骤S2:利用Word2vec工具对经过分词处理的目标商品语料进行训练，本发明使用skip-gram语言模型获得词向量表示与字向量表示，将语料文本中的每个字或词转化为一个K维空间的稠密向量。
步骤S3：构建词语级特征提取通道，将词向量表示作为词语级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个词对于情感分类的重要性；细分步骤如下：
步骤S31：将词向量表示作为卷积神经网络的输入，利用卷积操作获得单个通道的特征图C，再保留各个通道特征图的最大值
Figure BDA0002746903810000041
然后将这些最大值拼接成一个特征向量z，最后得到卷积层输出z。
C＝[c1,c2,…cn-h+1]
Figure BDA0002746903810000042
Figure BDA0002746903810000043
步骤S32：将卷积层的输出作为双向长短时记忆网络的输入，利用双向长短时记忆网络较强的上下文特征提取能力捕捉在线评论文本的上下文语义信息。长短时记忆网络包含3个门：遗忘门、输入门、输出门，它们用来控制网络中信息传递与保留。LSTM模型的计算公式可以表示为：
ft＝σ(Wf·[ht-1,xt]+bf)
it＝σ(Wi·[ht-1,xt]+bi)
Ct＝tanh(WC·[ht-1,xt]+bC)
Ct＝ft*Ct-1+it*Ct
ot＝σ(Wo[ht-1,xt]+bo)
ht＝ot*tanh(Ct)
式中，ct代表t时刻记忆单元的输出，σ(·)代表sigmoid激活函数，t表示当前所处的时刻，t-1表示上一个时刻，it表示t时刻长短时记忆网络输入门的输出，ot表示t时刻长短时记忆网络输出门的输出，ft表示t时刻长短时记忆网络遗忘门的输出。
双向长短时记忆网络是长短时记忆网络的一种改进模型，它由2个方向相反的长短时记忆网络构成，首先采用前向长短时记忆网络提取前向特征
Figure BDA0002746903810000044
然后采用后向长短时记忆网络提取后向特征
Figure BDA0002746903810000045
再将提取到的前向特征
Figure BDA0002746903810000046
与后向特征
Figure BDA0002746903810000047
进行拼接，最终获得包含在线评论文本上下文语义的双向长短时记忆网络的输出ht。
利用词性注意力机制获得每个词对于经过预处理的在线评论文本情感分类任务的重要程度；
步骤S33：本发明利用在线评论文本经分词处理后所得的每个句子序列的第i个词和其词性向量pi获得在线评论文本中各个词汇对应的注意力权重αi，数学公式可表示为：
e(hi,pi)＝QTtanh(WMhi+WNpi+a)
Figure BDA0002746903810000048
式中，hi代表BiLSTM的输出，Q,WM,WN,a都是本发明所提模型的参数矩阵。这些参数矩阵会随着训练的不断深入而逐渐优化，能够提升本发明所提模型在评论文本情感分类上的准确率。
步骤S34：根据包含词性语义信息的注意力权重αi和BiLSTM的输出hi，经计算后可得融合词性注意力的特征矩阵Vatt。
Figure BDA0002746903810000051
步骤S4：构建字符级特征提取通道，将字向量表示作为字符级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个字对于情感分类的重要性；由于字符级特征提取过程与词语级特征提取过程类似，这里将不作赘述；
步骤S5：本发明所提的一种基于双通道混合神经网络的在线评论情感分类方法通过将图2左侧词语级特征提取通道所得的词语级特征矩阵Vleft,和图2右侧字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，获得融合双通道词性注意力的评论文本特征矩阵V；
V＝{Vleft,Vright}
步骤S6：利用softmax分类器对评论文本进行情感极性分类。细分步骤如下：
步骤S61：采用tanh函数作为本发明所提的双通道混合神经网络情感分类模型输出层的激活函数，首先需对经过双通道特征融合所得的评论文本特征矩阵V进行进一步处理，利用非线性变换可得低维度的评论文本特征表示F。
步骤S62：通过softmax分类器可以得到评论文本中每个句子对应的情感倾向的概率分布，本发明针对3分类的情感分类任务，将情感倾向分为积极、消极、中性3种情况。
步骤S63：将3种情感倾向中概率最大值所属的情感倾向当做本发明所提模型对评论文本句子情感极性的预测结果。
F＝tanh(WmV+bm)
yout＝softmax(WoutF+bout)
式中，yout代表本发明所提的双通道混合神经网络情感分类方法预测的评论文本句子情感倾向标签，bout代表偏置矩阵，Wout表示评论文本句子的参数矩阵，bm为偏置矩阵，Wm表示本发明获得融合双通道词性注意力的评论文本特征矩阵V对应的参数矩阵。
本发明所提的一种基于双通道混合神经网络的在线评论情感分类方法将交叉熵当做损失函数。若假设y代表在线评论文本句子情感倾向的实际概率分布，y代表本发明所提方法预测的评论文本句子情感倾向的概率分布。本发明所提方法的训练目标是竭尽所能地减小评论文本句子情感倾向的实际概率分布y和利用本发明所提的一种基于双通道混合神经网络的在线评论情感分类方法进行预测所得的评论文本句子情感倾向分布y之间的交叉熵损失。
具体实施案例：
本实例采用从携程网采集的真实酒店评论文本数据，使用一种基于双通道混合神经网络的在线评论情感分类方法对文本情感进行分析，具体步骤如下所示：
1.对采集的酒店评论文本数据集进行文本去重、短句删除、繁体字转简体字、删除特殊符号、删除重复冗余词汇等预处理，再利用结巴分词以字和词为最小分词单位对酒店评论文本语料进行分词处理，利用哈工大停用词表对酒店评论语料中没有意义的词语过滤掉，完成去停用词操作，再邀请5位研究生对酒店评论文本中的每个评论句子进行情感极性标注，积极为1，消极为-1，中性为0；
2.将在线评论文本表示为特征向量化形式，使用skip-gram语言模型获得词向量表示与字向量表示，将语料文本中的每个字或词转化为一个300维空间的稠密向量；
3.利用由卷积神经网络与双向长短时记忆网络组成的混合神经网络对评论文本语料进行特征学习，得到多层次的特征向量。其中，卷积神经网络的卷积核大小设置为3，4，5，个数设置到128，Dropout率设定为0.5，防止过拟合情况出现；双向长短时记忆网络隐藏层的神经元个数设置为128。
4.利用词性注意力机制获得每个词汇对于经过预处理的在线评论文本情感分类任务的重要性。
5.将两个通道所得到的特征接入全连接层进行合并，最终输入到分类层进行分类，得到实验结果。为验证本发明所提的双通道混合神经网络情感分类方法的优越性，一共设置了5组对比实验，结果如下表所示。
Figure BDA0002746903810000061
从表中可以看出，本发明所提方法的准确率在酒店评论文本语料数据集上最高，达到了86.91％，且情感分类结果具有较好的解释性。

Claims (7)

1.一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于，所述方法包括：
步骤S1：在线评论文本获取与预处理。
步骤S2：分别利用Word2vec工具获得字向量表示与词向量表示；
步骤S3：构建词语级特征提取通道，将词向量表示作为词语级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个词对于情感分类的重要性；
步骤S4：构建字符级特征提取通道，将字向量表示作为字符级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个字对于情感分类的重要性；
步骤S5：将图2左侧词语级特征提取通道所得的词语级特征矩阵Vleft,和图2右侧字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，然后得到在线评论文本的双通道特征矩阵V；
步骤S6：利用softmax分类器进行评论文本情感极性分类。
2.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤1中，在线评论文本获取与预处理。细分步骤如下：
步骤S11:首先设计爬虫算法从淘宝、天猫、京东等电商平台上采集目标商品的消费者评论文本，将其保存到Mysql数据库中；
步骤S12:对采集的目标商品评论文本进行预处理，主要进行删除多个重复汉字、错别字修改、繁体字转简体字等操作；
步骤S13:利用jieba分词工具对采集的在线评论文本以字和词为最小分词单位进行分词与词性标注，统计分词结果得到词频，根据停用词和低频词词典对分词结果进行过滤。
3.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤2中，利用Word2vec工具对经过分词处理的目标商品语料进行训练，本发明使用skip-gram语言模型获得词向量表示与字向量表示，将语料文本中的每个字或词转化为一个K维空间的稠密向量。
4.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤3中，构建词语级特征提取通道，将词向量表示作为词语级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个词对于情感分类的重要性；细分步骤如下细分步骤如下：
步骤S31：将词向量表示作为卷积神经网络的输入，利用卷积操作获得单个通道的特征图C，再保留各个通道特征图的最大值
Figure FDA0002746903800000021
然后将这些最大值拼接成一个特征向量z，最后得到卷积层输出z。
C＝[c1,c2,…cn-h+1]
Figure FDA0002746903800000022
Figure FDA0002746903800000023
步骤S32：将卷积层的输出作为双向长短时记忆网络的输入，利用双向长短时记忆网络较强的上下文特征提取能力捕捉在线评论文本的上下文语义信息。长短时记忆网络包含3个门：遗忘门、输入门、输出门，它们用来控制网络中信息传递与保留。LSTM模型的计算公式可以表示为：
ft＝σ(Wf·[ht-1,xt]+bf)
it＝σ(Wi·[ht-1,xt]+bi)
Ct＝tanh(WC·[ht-1,xt]+bC)
Ct＝ft*Ct-1+it*Ct
ot＝σ(Wo[ht-1,xt]+bo)
ht＝ot*tanh(Ct)
式中，ct代表t时刻记忆单元的输出，σ(·)代表sigmoid激活函数，t表示当前所处的时刻，t-1表示上一个时刻，it表示t时刻长短时记忆网络输入门的输出，ot表示t时刻长短时记忆网络输出门的输出，ft表示t时刻长短时记忆网络遗忘门的输出。
双向长短时记忆网络是长短时记忆网络的一种改进模型，它由2个方向相反的长短时记忆网络构成，首先采用前向长短时记忆网络提取前向特征
Figure FDA0002746903800000024
然后采用后向长短时记忆网络提取后向特征
Figure FDA0002746903800000025
再将提取到的前向特征
Figure FDA0002746903800000026
与后向特征
Figure FDA0002746903800000027
进行拼接，最终获得包含在线评论文本上下文语义的双向长短时记忆网络的输出ht。
利用词性注意力机制获得每个词对于经过预处理的在线评论文本情感分类任务的重要性；
步骤S33：本发明利用在线评论文本经分词处理后所得的每个句子序列的第i个词和其词性向量pi获得在线评论文本中各个词汇对应的注意力权重αi，数学公式可表示为：
e(hi,pi)＝QTtanh(WMhi+WNpi+a)
Figure FDA0002746903800000028
式中，hi代表BiLSTM的输出，Q,WM,WN,a都是本发明所提模型的参数矩阵。这些参数矩阵会随着训练的不断深入而逐渐优化，能够提升本发明所提模型在评论文本情感分类上的准确率。
步骤S34：根据包含词性语义信息的注意力权重αi和BiLSTM的输出hi，经计算后可得融合词性注意力的特征矩阵Vatt。
Figure FDA0002746903800000031
5.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤4中，构建字符级特征提取通道，将字向量表示作为字符级特征提取通道的输入，首先利用卷积神经网络提取出评论文本的局部特征；再使用双向长短期记忆网络提取在线评论文本的上下文时序特征；利用词性注意力机制来计算在线评论文本中每个字对于情感分类的重要性。
6.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤5中，一种基于双通道混合神经网络的在线评论情感分类方法通过将图2左侧词语级特征提取通道所得的词语级特征矩阵Vleft,和图2右侧字符级特征提取通道所得的字符级特征矩阵Vright拼接在一起，获得融合双通道词性注意力的评论文本特征矩阵V；
V＝{Vleft,Vright} 。
7.如权利要求1所述的一种基于双通道混合神经网络的在线评论情感分类方法，其特征在于：在步骤6中，利用softmax分类器对评论文本进行情感极性分类。细分步骤如下：
步骤S61：采用tanh函数作为本发明所提的双通道混合神经网络情感分类模型输出层的激活函数，首先需对经过双通道特征融合所得的评论文本特征矩阵V进行进一步处理，利用非线性变换可得低维度的评论文本特征表示F。
步骤S62：通过softmax分类器可以得到评论文本中每个句子对应的情感倾向的概率分布，本发明针对3分类的情感分类任务，将情感倾向分为积极、消极、中性3种情况。
步骤S63：将3种情感倾向中概率最大值所属的情感倾向当作本发明所提模型对评论文本句子情感极性的预测结果。
F＝tanh(WmV+bm)
yout＝soft max(WoutF+bout)
式中，yout代表本发明所提的双通道混合神经网络情感分类方法预测的评论文本句子情感倾向标签，bout代表偏置矩阵，Wout表示评论文本句子的参数矩阵，bm为偏置矩阵，Wm表示本发明获得融合双通道词性注意力的评论文本特征矩阵V对应的参数矩阵。
本发明所提的一种基于双通道混合神经网络的在线评论情感分类方法将交叉熵当作损失函数。若假设y代表评论文本句子情感倾向的实际概率分布，y代表本发明所提方法预测的评论文本句子情感倾向的概率分布。本发明所提方法的训练目标是竭尽所能地减小评论文本句子情感倾向的实际概率分布y和利用本发明所提的一种基于双通道混合神经网络的在线评论情感分类方法进行预测所得的评论文本句子情感倾向分布y之间的交叉熵损失。
CN202011169683.5A 2020-10-28 2020-10-28 一种基于双通道混合神经网络的在线评论情感分类方法 Pending CN112287106A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011169683.5A CN112287106A (zh) 2020-10-28 2020-10-28 一种基于双通道混合神经网络的在线评论情感分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011169683.5A CN112287106A (zh) 2020-10-28 2020-10-28 一种基于双通道混合神经网络的在线评论情感分类方法

Publications (1)

Publication Number Publication Date
CN112287106A true CN112287106A (zh) 2021-01-29

Family

ID=74373593

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011169683.5A Pending CN112287106A (zh) 2020-10-28 2020-10-28 一种基于双通道混合神经网络的在线评论情感分类方法

Country Status (1)

Country Link
CN (1) CN112287106A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112560503A (zh) * 2021-02-19 2021-03-26 中国科学院自动化研究所 融合深度特征和时序模型的语义情感分析方法
CN112699679A (zh) * 2021-03-25 2021-04-23 北京沃丰时代数据科技有限公司 情绪识别方法、装置、电子设备及存储介质
CN113051897A (zh) * 2021-05-25 2021-06-29 中国电子科技集团公司第三十研究所 一种基于Performer结构的GPT2文本自动生成方法
CN113159831A (zh) * 2021-03-24 2021-07-23 湖南大学 一种基于改进的胶囊网络的评论文本情感分析方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108427670A (zh) * 2018-04-08 2018-08-21 重庆邮电大学 一种基于语境词向量和深度学习的情感分析方法
CN110532549A (zh) * 2019-08-13 2019-12-03 青岛理工大学 一种基于双通道深度学习模型的文本情感分析方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108427670A (zh) * 2018-04-08 2018-08-21 重庆邮电大学 一种基于语境词向量和深度学习的情感分析方法
CN110532549A (zh) * 2019-08-13 2019-12-03 青岛理工大学 一种基于双通道深度学习模型的文本情感分析方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
王义等: "基于细粒度多通道卷积神经网络的文本情感分析", 《计算机工程》 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112560503A (zh) * 2021-02-19 2021-03-26 中国科学院自动化研究所 融合深度特征和时序模型的语义情感分析方法
CN112560503B (zh) * 2021-02-19 2021-07-02 中国科学院自动化研究所 融合深度特征和时序模型的语义情感分析方法
US11194972B1 (en) 2021-02-19 2021-12-07 Institute Of Automation, Chinese Academy Of Sciences Semantic sentiment analysis method fusing in-depth features and time sequence models
CN113159831A (zh) * 2021-03-24 2021-07-23 湖南大学 一种基于改进的胶囊网络的评论文本情感分析方法
CN112699679A (zh) * 2021-03-25 2021-04-23 北京沃丰时代数据科技有限公司 情绪识别方法、装置、电子设备及存储介质
CN112699679B (zh) * 2021-03-25 2021-06-29 北京沃丰时代数据科技有限公司 情绪识别方法、装置、电子设备及存储介质
CN113051897A (zh) * 2021-05-25 2021-06-29 中国电子科技集团公司第三十研究所 一种基于Performer结构的GPT2文本自动生成方法

Similar Documents

Publication Publication Date Title
CN109284506B (zh) 一种基于注意力卷积神经网络的用户评论情感分析系统及方法
CN112287106A (zh) 一种基于双通道混合神经网络的在线评论情感分类方法
CN110287323B (zh) 一种面向目标的情感分类方法
CN108388554B (zh) 基于协同过滤注意力机制的文本情感识别系统
CN111522956A (zh) 基于双通道和层次化注意力网络的文本情感分类方法
CN109086269B (zh) 一种基于语义资源词表示和搭配关系的语义双关语识别方法
CN110929034A (zh) 一种基于改进lstm的商品评论细粒度情感分类方法
CN111339772B (zh) 俄语文本情感分析方法、电子设备和存储介质
CN112131367A (zh) 自审核的人机对话方法、系统及可读存储介质
CN113239690A (zh) 基于Bert与全连接神经网络融合的中文文本意图识别方法
CN115759119A (zh) 一种金融文本情感分析方法、系统、介质和设备
CN114254645A (zh) 一种人工智能辅助写作系统
CN111858878A (zh) 从自然语言文本中自动提取答案的方法、系统及存储介质
CN111460146A (zh) 一种基于多特征融合的短文本分类方法及系统
Zhao et al. Knowledge-aware bayesian co-attention for multimodal emotion recognition
CN114416969A (zh) 一种基于背景增强的lstm-cnn在线评论情感分类方法及系统
CN113159831A (zh) 一种基于改进的胶囊网络的评论文本情感分析方法
CN111737467A (zh) 一种基于分段卷积神经网络的对象级情感分类方法
Zhou et al. Research on sentiment analysis of chinese e-commerce comments based on deep learning
CN115906824A (zh) 一种文本细粒度情感分析方法、系统、介质和计算设备
CN110674293A (zh) 一种基于语义迁移的文本分类方法
Lu et al. Incorporating Lexicons into LSTM for sentiment classification
CN115659981A (zh) 一种基于神经网络模型的命名实体识别方法
CN112329449B (zh) 基于情感词典和Transformer的情感分析方法
Wang Text emotion detection based on Bi-LSTM network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination