CN113850072A - 文本情感分析方法、情感分析模型训练方法、装置、设备及介质 - Google Patents
文本情感分析方法、情感分析模型训练方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN113850072A CN113850072A CN202111138934.8A CN202111138934A CN113850072A CN 113850072 A CN113850072 A CN 113850072A CN 202111138934 A CN202111138934 A CN 202111138934A CN 113850072 A CN113850072 A CN 113850072A
- Authority
- CN
- China
- Prior art keywords
- emotion analysis
- comment
- model
- frequency
- textrnn
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004458 analytical method Methods 0.000 title claims abstract description 171
- 230000008451 emotion Effects 0.000 title claims abstract description 171
- 238000012549 training Methods 0.000 title claims abstract description 93
- 238000000034 method Methods 0.000 title claims abstract description 50
- 238000003058 natural language processing Methods 0.000 claims abstract description 30
- 238000012545 processing Methods 0.000 claims description 16
- 230000011218 segmentation Effects 0.000 claims description 16
- 238000013528 artificial neural network Methods 0.000 claims description 12
- 230000000306 recurrent effect Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 11
- 230000015654 memory Effects 0.000 claims description 9
- 239000013598 vector Substances 0.000 claims description 8
- 230000007935 neutral effect Effects 0.000 claims description 7
- 230000007246 mechanism Effects 0.000 claims description 6
- 238000012552 review Methods 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000004891 communication Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/216—Parsing using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Machine Translation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种文本情感分析方法、情感分析模型训练方法、装置、设备及介质，涉及自然语言处理领域，尤其涉及人工智能及大数据技术领域。具体实现方案为：获取评论语句，将评论语句输入情感分析模型，情感分析模型为通过训练数据集对textRNN模型训练得到的模型，训练数据集中包括多条样本评论语句以及NLPC模型对每个样本评论语句的情感分析结果。获取情感分析模型输出的情感分析结果。实现了在私有化环境中利用情感分析模型对评论语句进行情感分析。
Description
技术领域
本公开涉及自然语言处理技术领域，尤其涉及人工智能及大数据技术领域。
背景技术
随着互联网科技的发展，越来越多的用户会在网上发表各种评论语句，通过对评论语句进行情感分析，可以准确了解用户需求，为用户提供更好的服务。
发明内容
本公开提供了一种文本情感分析方法、情感分析模型训练方法、装置、设备及介质。
根据本公开的第一方面，提供了一种文本情感分析方法，包括：
获取评论语句；
将所述评论语句输入情感分析模型，所述情感分析模型为通过训练数据集对textRNN模型训练得到的模型，所述训练数据集中包括多条样本评论语句以及定制自然语言处理NLPC模型对每个样本评论语句的情感分析结果；
获取所述情感分析模型输出的情感分析结果。
根据本公开的第二方面，提供了一种情感分析模型训练方法，包括：
构建训练数据集，所述训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果；
基于所述训练数据集对textRNN模型进行训练，得到情感分析模型，所述情感分析模型用于对评论语句进行情感分析。
根据本公开的第三方面，提供了一种文本情感分析装置，包括：
获取模块，用于获取评论语句；
输入模块，用于将所述评论语句输入情感分析模型，所述情感分析模型为通过训练数据集对textRNN模型训练得到的模型，所述训练数据集中包括多条样本评论语句以及NLPC模型对每个样本评论语句的情感分析结果；
所述获取模块，还用于获取所述情感分析模型输出的情感分析结果。
根据本公开的第四方面，提供了一种情感分析模型训练装置，包括：
构建模块，用于构建训练数据集，所述训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果；
训练模块，用于基于所述训练数据集对所述textRNN模型进行训练，得到情感分析模型，所述情感分析模型用于对评论语句进行情感分析。
根据本公开的第五方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述第一方面或第二方面所述的方法。
根据本公开的第六方面，提供了了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述第一方面或第二方面所述的方法。
根据本公开的第七方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现上述第一方面或第二方面所述的方法。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开实施例提供的一种文本情感分析方法的流程图；
图2是根据本公开实施例提供的另一种文本情感分析方法的流程图；
图3是根据本公开实施例提供的另一种文本情感分析方法的流程图；
图4是根据本公开实施例提供的另一种文本情感分析方法的流程图；
图5是根据本公开实施例提供的一种情感分析模型训练方法的流程图；
图6是根据本公开实施例提供的一种文本情感分析装置的结构示意图；
图7是根据本公开实施例提供的一种情感分析模型训练装置的结构示意图；
图8是用来实现本公开实施例的文本情感分析方法和情感分析模型训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。
相关技术中，可以通过定制自然语言处理(Natural Language ProcessingCustomization，NLPC)模型对评论语句进行情感分析，以确定评论语句的情感为正向、中性还是负向。目前，NLPC模型无法被部署在各网站的私有化环境中，且在各网站无法调用NLPC模型的接口进行情感分析，导致无法在网站本地完成对对评论语句的情感分析。
本公开实施例中的评论语句可以为用户在各种场景下的评论，例如，可以为某购物网站中用户关于所购买商品的评论，也可以为某视频网站中用户关于某个视频的评论，或者为旅行网站中用户对景点环境和票价的评论，本公开实施例对此不做具体限定。
本公开实施例提供的文本情感分析方法可以由电子设备执行，该电子设备可以为智能手机、平板电脑、台式电脑、服务器等设备。
以下对本公开实施例提供的文本情感分析方法进行详细介绍。
如图1所示，本公开实施例提供了一种文本情感分析方法，该方法包括：
S101、获取评论语句。
其中，电子设备可以获取指定时间段内产生的需要进行情感分析的评论语句。比如，旅行网站中一个月内用户对某一景点门票的评论，购物网站中一周内用户对某一商品的评论。
S102、将评论语句输入情感分析模型，情感分析模型为通过训练数据集对文本循环神经网络(text Recurrent Neural Network，textRNN)模型训练得到的模型，该训练数据集中包括多条样本评论语句以及NLPC模型对每个样本评论语句的情感分析结果。
其中，针对训练数据集中的每条样本评论语句，该样本评论语句的标注为NLPC模型对该评论语句的情感分析结果。
textRNN模型为利用RNN循环神经网络进行自然语言处理的模型，可以用于对给定文本进行文本分类，以确定文本的类型。在本公开实施例中，textRNN模型用于对评论语句进行情感分析，从而确定评论语句的情感分析结果。
其中，情感分析结果具体包括评论语句为正向、负向和中性的概率。
例如，若评论语句的情感分析结果中正向的概率为90％、负向的概率为0％，中性的概率为10％，则可以确定该评论语句为一条好评。
S103、获取情感分析模型输出的情感分析结果。
电子设备可以将每条评论语句依次输入情感分析模型，并获取情感分析模型对每条评论语句的情感分析结果。
采用本公开实施例，可以通过情感分析模型对评论语句进行情感分析，从而获取情感分析模型输出的情感分析结果，该情感分析模型为通过训练数据集对textRNN模型训练得到的模型。因训练数据集中包括NLPC模型对每个样本评论语句的情感分析结果，所以基于该训练数据集训练出的情感分析模型也能够对准确评论语句进行情感分析。进而在私有化环境中无需调用NLPC接口，各网站通过该情感分析模型也可以实现情感分析，解决了因无法在私有化环境中部署NLPC模型，所导致的无法在网站本地完成对评论语句进行分析的问题。
在本公开另一实施例中，还需确定每条评论语句的意图标签，如图2所示，在上述S101之后，该方法还包括：
S201、对评论语句进行分词。
S202、将评论语句包括的词语与各高频词集合包括的高频词进行匹配。
其中，每个高频词集合对应一个意图标签。以本公开实施例应用在旅行网站中为例，高频词集合A为{物价，价格，性价比，贵，优惠}，高频词集合A对应的意图标签为物价标签；高频词集合B为{蓝天，空气，白云，环境}，高频词集合B对应的意图标签为环境标签。
假设评论语句为“这里物价很低”，则可确定该评论语句与高频词集合A匹配。
S203、将评论语句包括的词语所属高频词集合对应的意图标签作为评论语句的目标意图标签。
延续上一步骤中的举例，如果评论语句与高频词集合A匹配，则可确定该评论语句的目标意图标签为物价标签。
目标意图标签可以反映评论语句的类别，若评论语句的目标意图标签为物价标签，则可确定该评论语句为物价类评论；若评论语句的目标意图标签为环境类标签，则可确定该评论语句为环境类评论。
采用本公开实施例，可以通过将评论语句包括的词语与高频词集合包括的高频词进行匹配，从而将评论语句包括的词语所属高频词集合对应的意图标签作为该评论语句的目标意图标签，可以实现自动确定评论语句的目标意图标签，可以提高确定评论语句的目标意图标签的效率。
在上述实施例的基础上，电子设备可以基于评论语句的情感分析结果和评论语句的目标意图标签确定评论语句针对目标意图标签的情感分析结果。
评论语句针对目标意图标签的情感分析结果为该评论语句的情感态势。
例如，如果评论语句的情感分析结果中正向的概率为90％、负向的概率为0％，中性的概率为10％，且该评论语句的目标意图标签为环境标签，则可确定该评论语句是一条针对环境的好评。
以本公开实施例应用在旅行网站的场景中为例，针对旅行网站中的一个景点门票，通过确定一段时间内产生的每条评论语句针对目标意图标签的情感分析结果，可以确定用户对该景点各方面的满意程度。
采用本公开实施例，可以实现在各网站的私有化部署环境中确定评论语句针对目标意图标签的情感分析结果，可以提高建立情感态势的效率。
在本公开另一实施例中，为了能够实现图2对应的实施例，需提前确定高频词集合以及每个高频词集合对应的意图标签，如图3所示，具体包括以下步骤：
S301、获取指定时间段内产生的历史评论语句。
指定时间段可以根据实际场景需求设置，比如可以设置为一周或者一个月。
S302、对获取到的各历史评论语句进行分词。
S303、获取通过分词得到的词语中出现频次最高的第一预设数量个高频词。
其中，第一预设数量可以根据实际需求设置。在对获取到的各历史评论语句进行分词后，可以得到一个分词集合，然后计算该分词集合中每个词语在该分词集合中的出现频次，进而按照出现频次从高到低的顺序选择第一数量个高频词。
S304、基于第一预设数量个高频词两两之间的相似度进行聚类，得到多个高频词集合。
其中，高频词之间的相似度可以通过欧氏距离衡量，两个高频词之间的欧式距离越小相似度越高，也就代表这两个高频词被作为一个类别的可能性越大。
本公开实施例可以通过层级聚类的方法对第一预设数量个高频词进行聚类，当然也可以采用其他聚类方法，本公开实施例对此不作限定。
S305、确定每个高频词集合对应的意图标签。
一种实施方式中，在得到多个高频词集合后，可以展示各高频词集合，由工作人员输入各高频词集合的意图标签。
在另一实施方式中，在展示各高频词集合后，可由工作人员判断聚类结果是否明确，并基于工作人员的调整指令对高频词集合进行微调，得到分类明确的高频词结果，进而接收工作人员为每个高频词集合设置的意图标签。
另外，如果第一预设数量的高频词未被全部加入高频词集合，则对于未被加入高频词集合的高频词，可以调用句聚类脚本，对未被加入高频词集合的高频词所属的历史评论语句进行句聚类，得到句聚类结果。根据句聚类结果确定各未被加入高频词集合的高频词所属的类别，进而根据所确定的类别将这些未被加入高频词集合的高频词添加到相应的高频词集合中。
采用该方法，可以对指定时间段内产生的历史评论语句中的高频词进行聚类，得到多个高频词集合并确定各高频词集合对应的意图标签。进而，在确定评论语句的目标意图标签时，可直接利用高频词集合与意图标签的对应关系，无需人为创建分类规则，可以提高开发效率。
在本公开另一实施例中，如图4所示，在上述S305之后，该方法还包括以下步骤：
S401、确定意图覆盖率。
其中，意图覆盖率为含有多个高频词集合中任一高频词的历史评论语句数量占获取到的历史评论语句总数量的比值。
S402、判断意图覆盖率是否达到预设阈值。
若是，则执行S403；若否，则执行S404。
S403、确定完成高频词聚类。
在执行S403之后，该流程结束，无需继续执行后续步骤。
S404、确定不含有高频词的历史评论语句中出现频次最高的第二预设数量个高频词。
S405、对从指定时间段内产生的历史评论语句中确定的所有高频词两两之间的相似度进行聚类，得到多个高频词集合。
S406、确定重新确定的每个高频词集合对应的意图标签，并返回上述S402，直至所确定的意图覆盖率达到所述预设阈值时，确定完成高频词聚类。
采用该方法，在确定各高频词集合对应的意图标签后，还需确定意图覆盖率，若意图覆盖率未达到预设阈值，则说明基于生成的高频词集合不能对足够多的评论语句进行分类，所以继续增加高频词，可以提高最终生成的高频词集合的意图覆盖率，使得最终确定的高频词集合能够准确地对大多数评论语句进行分类。
对应于上述实施例，本公开实施例还提供一种情感分析模型训练方法，如图5所示，该方法包括：
S501、构建训练数据集，训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果。
其中，在获取多条样本评论语句后，可以通过NLPC模型对每条样本评论语句进行情感分析，以获取每条样本评论语句的标签情感分析结果，即NPLC模型对样本评论语句的情感分析结果可作为样本评论语句的标注。
通过NLPC模型对样本评论语句进行标注，就无需人工进行标注，可以节省大量人力，提高标注效率。
S502、基于训练数据集对textRNN模型进行训练，得到情感分析模型，情感分析模型用于对评论语句进行情感分析。
采用该方法，可以基于NLPC模型对每条样本评论语句进行情感分析得到的标签分析结果构建训练数据集，进而基于该训练数据集对textRNN模型进行训练得到的情感分析模型可以实现NLPC模型的情感分析功能，情感分析模型可以被部署在私有化环境中，从而实现了在私有化环境中对评论语句进行情感分析。
在本公开另一实施例中，上述S502的训练过程具体包括：
选择训练数据集中的一条样本评论语句，将该样本评论语句作为目标评论语句。
通过textRNN模型处理目标评论语句，得到textRNN模型对目标评论语句的情感分类结果。
基于textRNN模型对目标评论语句的情感分类结果以及目标评论语句的标签情感分析结果之间的差异，计算textRNN模型的损失值。
其中，本公开实施例中可以通过损失函数计算textRNN模型的损失值。
基于损失值调整textRNN模型的参数，并返回选择训练数据集中的一条样本评论语句的步骤，直至textRNN模型收敛时，将训练得到的textRNN模型作为情感分析模型。
其中，模型收敛条件可以根据实际需求进行设置，比如模型收敛条件可以为损失值小于预设损失阈值，或者训练次数达到预设次数。
采用该方法，可以基于textRNN模型对目标评论语句的情感分类结果以及目标评论语句的标签情感分析结果之间的差异，计算textRNN模型的损失值，并根据该损失值调整textRNN模型的参数，可以使得训练得到的textRNN模型对评论语句的情感分析结果更加接近NLPC模型对评论语句的情感分析结果，从而实现在私有化环境中应用情感分析模型得到准确的情感分析结果。
在一种实施方式中，通过textRNN模型处理目标评论语句，得到textRNN模型对目标评论语句的情感分类结果，可以实现为：
对目标评论语句进行分词操作，得到词特征序列。
将词特征序列输入textRNN模型的嵌入层embedding，得到目标评论语句的特征向量。
通过textRNN模型中带注意力机制的循环神经网络层处理特征向量。其中，该循环神经网络层具体可以为双向的带attention机制的长短期记忆网络(Long Short-TermMemory，LSTM)。
将循环神经网络层输出的信息输入textRNN模型的全连接层，得到全连接层输出的情感分析结果。其中，textRNN模型可以包括两层全连接层。
采用该方法，可以通过对textRNN模型进行训练得到情感分析模型，textRNN模型包括带注意力机制的循环神经网络层，可以使得情感分析结果更加准确。
对应于上述方法实施例，本公开实施例还提供一种文本情感分析装置，如图6所示，该装置包括：
获取模块601，用于获取评论语句；
输入模块602，用于将评论语句输入情感分析模型，情感分析模型为通过训练数据集对textRNN模型训练得到的模型，训练数据集中包括多条样本评论语句以及NLPC模型对每个样本评论语句的情感分析结果；
获取模块601，还用于获取情感分析模型输出的情感分析结果。
在本公开另一实施例中，分词模块，用于对评论语句进行分词；
匹配模块，用于将评论语句包括的词语与各高频词集合包括的高频词进行匹配，其中，每个高频词集合对应一个意图标签；
确定模块，用于将评论语句包括的词语所属高频词集合对应的意图标签作为评论语句的目标意图标签。
在本公开另一实施例中，其中，情感分析结果包括评论语句为正向、负向和中性的概率；
确定模块，还用于基于评论语句的情感分析结果和评论语句的目标意图标签确定评论语句针对目标意图标签的情感分析结果。
在本公开另一实施例中，该装置还包括：聚类模块；
获取模块601，还用于获取指定时间段内产生的历史评论语句；
分词模块，还用于对获取到的各历史评论语句进行分词；
获取模块601，还用于获取通过分词得到的词语中出现频次最高的第一预设数量个高频词；
聚类模块，用于基于第一预设数量个高频词两两之间的相似度进行聚类，得到多个高频词集合；
确定模块，还用于确定每个高频词集合对应的意图标签。
在本公开另一实施例中，该装置还包括：判断模块；
确定模块，还用于确定意图覆盖率，意图覆盖率为含有多个高频词集合中任一高频词的历史评论语句数量占获取到的历史评论语句总数量的比值；
判断模块，用于判断意图覆盖率是否达到预设阈值；
确定模块，还用于当判断模块判断结果为是时，确定完成高频词聚类；
获取模块601，还用于当判断模块判断结果为否时，确定不含有高频词的历史评论语句中出现频次最高的第二预设数量个高频词；
聚类模块，还用于对从指定时间段内产生的历史评论语句中确定的所有高频词两两之间的相似度进行聚类，得到多个高频词集合；
确定模块，还用于确定重新确定的每个高频词集合对应的意图标签，并触发确定模块执行确定意图覆盖率的步骤，直至判断模块判断出确定模块确定的意图覆盖率达到预设阈值时，确定完成高频词聚类。
对应于上述方法实施例，本公开实施例还提供一种情感分析模型训练装置，如图7所示该装置包括：
构建模块701，用于构建训练数据集，训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果；
训练模块702，用于基于训练数据集对textRNN模型进行训练，得到情感分析模型，情感分析模型用于对评论语句进行情感分析。
在本公开另一实施例中，训练模块702，具体用于：
选择训练数据集中的一条样本评论语句，将该样本评论语句作为目标评论语句；
通过textRNN模型处理目标评论语句，得到textRNN模型对目标评论语句的情感分类结果；
基于textRNN模型对目标评论语句的情感分类结果以及目标评论语句的标签情感分析结果之间的差异，计算textRNN模型的损失值；
基于损失值调整textRNN模型的参数，并返回选择训练数据集中的一条样本评论语句的步骤，直至textRNN模型收敛时，将训练得到的textRNN模型作为情感分析模型。
在本公开另一实施例中，训练模块702，具体用于：
对目标评论语句进行分词操作，得到词特征序列；
将词特征序列输入textRNN模型的嵌入层，得到目标评论语句的特征向量；
通过textRNN模型中带注意力机制的循环神经网络层处理特征向量；
将循环神经网络层输出的信息输入textRNN模型的全连接层，得到全连接层输出的情感分析结果。
需要说明的是，本实施例中的评论语句来自于公开数据集。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如文本情感分析方法、情感分析模型训练方法。例如，在一些实施例中，文本情感分析方法、情感分析模型训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的文本情感分析方法、情感分析模型训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行文本情感分析方法、情感分析模型训练方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。
Claims (19)
1.一种文本情感分析方法，包括：
获取评论语句；
将所述评论语句输入情感分析模型，所述情感分析模型为通过训练数据集对textRNN模型训练得到的模型，所述训练数据集中包括多条样本评论语句以及定制自然语言处理NLPC模型对每个样本评论语句的情感分析结果；
获取所述情感分析模型输出的情感分析结果。
2.根据权利要求1所述的方法，在所述获取评论语句之后，所述方法还包括：
对所述评论语句进行分词；
将所述评论语句包括的词语与各高频词集合包括的高频词进行匹配，其中，每个高频词集合对应一个意图标签；
将所述评论语句包括的词语所属高频词集合对应的意图标签作为所述评论语句的目标意图标签。
3.根据权利要求2所述的方法，其中，所述情感分析结果包括所述评论语句为正向、负向和中性的概率；所述方法还包括：
基于所述评论语句的情感分析结果和所述评论语句的目标意图标签确定所述评论语句针对所述目标意图标签的情感分析结果。
4.根据权利要求2所述的方法，在对所述评论语句进行分词之前，所述方法还包括：
获取指定时间段内产生的历史评论语句；
对获取到的各历史评论语句进行分词；
获取通过分词得到的词语中出现频次最高的第一预设数量个高频词；
基于所述第一预设数量个高频词两两之间的相似度进行聚类，得到多个高频词集合；
确定每个高频词集合对应的意图标签。
5.根据权利要求4所述的方法，在所述确定每个高频词集合对应的意图标签之后，所述方法还包括：
确定意图覆盖率，所述意图覆盖率为含有所述多个高频词集合中任一高频词的历史评论语句数量占获取到的历史评论语句总数量的比值；
判断所述意图覆盖率是否达到预设阈值；
若是，则确定完成高频词聚类；
若否，则确定不含有高频词的历史评论语句中出现频次最高的第二预设数量个高频词；
对从所述指定时间段内产生的历史评论语句中确定的所有高频词两两之间的相似度进行聚类，得到多个高频词集合；
确定重新确定的每个高频词集合对应的意图标签，并返回所述确定意图覆盖率的步骤，直至所确定的意图覆盖率达到所述预设阈值时，确定完成高频词聚类。
6.一种情感分析模型训练方法，包括：
构建训练数据集，所述训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果；
基于所述训练数据集对textRNN模型进行训练，得到情感分析模型，所述情感分析模型用于对评论语句进行情感分析。
7.根据权利要求6所述的方法，所述基于所述训练集对所述textRNN模型进行训练，得到情感分析模型，包括：
选择所述训练数据集中的一条样本评论语句，将该样本评论语句作为目标评论语句；
通过所述textRNN模型处理所述目标评论语句，得到所述textRNN模型对所述目标评论语句的情感分类结果；
基于所述textRNN模型对所述目标评论语句的情感分类结果以及所述目标评论语句的标签情感分析结果之间的差异，计算所述textRNN模型的损失值；
基于所述损失值调整所述textRNN模型的参数，并返回选择所述训练数据集中的一条样本评论语句的步骤，直至所述textRNN模型收敛时，将训练得到的textRNN模型作为所述情感分析模型。
8.根据权利要求7所述的方法，其中，通过所述textRNN模型处理所述目标评论语句，得到所述textRNN模型对所述目标评论语句的情感分类结果，包括：
对所述目标评论语句进行分词操作，得到词特征序列；
将所述词特征序列输入所述textRNN模型的嵌入层，得到所述目标评论语句的特征向量；
通过所述textRNN模型中带注意力机制的循环神经网络层处理所述特征向量；
将所述循环神经网络层输出的信息输入所述textRNN模型的全连接层，得到所述全连接层输出的情感分析结果。
9.一种文本情感分析装置，包括：
获取模块，用于获取评论语句；
输入模块，用于将所述评论语句输入情感分析模型，所述情感分析模型为通过训练数据集对textRNN模型训练得到的模型，所述训练数据集中包括多条样本评论语句以及NLPC模型对每个样本评论语句的情感分析结果；
所述获取模块，还用于获取所述情感分析模型输出的情感分析结果。
10.根据权利要求9所述的装置，所述装置还包括：
分词模块，用于对所述评论语句进行分词；
匹配模块，用于将所述评论语句包括的词语与各高频词集合包括的高频词进行匹配，其中，每个高频词集合对应一个意图标签；
确定模块，用于将所述评论语句包括的词语所属高频词集合对应的意图标签作为所述评论语句的目标意图标签。
11.根据权利要求10所述的装置，其中，所述情感分析结果包括所述评论语句为正向、负向和中性的概率；
所述确定模块，还用于基于所述评论语句的情感分析结果和所述评论语句的目标意图标签确定所述评论语句针对所述目标意图标签的情感分析结果。
12.根据权利要求10所述的装置，所述装置还包括：聚类模块；
所述获取模块，还用于获取指定时间段内产生的历史评论语句；
所述分词模块，还用于对获取到的各历史评论语句进行分词；
所述获取模块，还用于获取通过分词得到的词语中出现频次最高的第一预设数量个高频词；
所述聚类模块，用于基于所述第一预设数量个高频词两两之间的相似度进行聚类，得到多个高频词集合；
所述确定模块，还用于确定每个高频词集合对应的意图标签。
13.根据权利要求12所述的装置，所述装置还包括：判断模块；
所述确定模块，还用于确定意图覆盖率，所述意图覆盖率为含有所述多个高频词集合中任一高频词的历史评论语句数量占获取到的历史评论语句总数量的比值；
所述判断模块，用于判断所述意图覆盖率是否达到预设阈值；
所述确定模块，还用于当所述判断模块判断结果为是时，确定完成高频词聚类；
所述获取模块，还用于当所述判断模块判断结果为否时，确定不含有高频词的历史评论语句中出现频次最高的第二预设数量个高频词；
所述聚类模块，还用于对从所述指定时间段内产生的历史评论语句中确定的所有高频词两两之间的相似度进行聚类，得到多个高频词集合；
所述确定模块，还用于确定重新确定的每个高频词集合对应的意图标签，并触发所述确定模块执行确定意图覆盖率的步骤，直至所述判断模块判断出所述确定模块确定的意图覆盖率达到所述预设阈值时，确定完成高频词聚类。
14.一种情感分析模型训练装置，包括：
构建模块，用于构建训练数据集，所述训练数据集中包括多条样本评论语句以及基于NLPC模型对每条样本评论语句进行情感分析得到的标签情感分析结果；
训练模块，用于基于所述训练数据集对textRNN模型进行训练，得到情感分析模型，所述情感分析模型用于对评论语句进行情感分析。
15.根据权利要求14所述的装置，所述训练模块，具体用于：
选择所述训练数据集中的一条样本评论语句，将该样本评论语句作为目标评论语句；
通过所述textRNN模型处理所述目标评论语句，得到所述textRNN模型对所述目标评论语句的情感分类结果；
基于所述textRNN模型对所述目标评论语句的情感分类结果以及所述目标评论语句的标签情感分析结果之间的差异，计算所述textRNN模型的损失值；
基于所述损失值调整所述textRNN模型的参数，并返回选择所述训练数据集中的一条样本评论语句的步骤，直至所述textRNN模型收敛时，将训练得到的textRNN模型作为所述情感分析模型。
16.根据权利要求15所述的装置，其中，所述训练模块，具体用于：
对所述目标评论语句进行分词操作，得到词特征序列；
将所述词特征序列输入所述textRNN模型的嵌入层，得到所述目标评论语句的特征向量；
通过所述textRNN模型中带注意力机制的循环神经网络层处理所述特征向量；
将所述循环神经网络层输出的信息输入所述textRNN模型的全连接层，得到所述全连接层输出的情感分析结果。
17.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5或6-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-5或6-8中任一项所述的方法。
19.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-5或6-8中任一项所述的方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111138934.8A CN113850072A (zh) | 2021-09-27 | 2021-09-27 | 文本情感分析方法、情感分析模型训练方法、装置、设备及介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111138934.8A CN113850072A (zh) | 2021-09-27 | 2021-09-27 | 文本情感分析方法、情感分析模型训练方法、装置、设备及介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113850072A true CN113850072A (zh) | 2021-12-28 |
Family
ID=78980635
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111138934.8A Pending CN113850072A (zh) | 2021-09-27 | 2021-09-27 | 文本情感分析方法、情感分析模型训练方法、装置、设备及介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113850072A (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114386436B (zh) * | 2022-01-21 | 2023-07-18 | 平安科技（深圳）有限公司 | 文本数据的分析方法、模型训练方法、装置及计算机设备 |
-
2021
- 2021-09-27 CN CN202111138934.8A patent/CN113850072A/zh active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114386436B (zh) * | 2022-01-21 | 2023-07-18 | 平安科技（深圳）有限公司 | 文本数据的分析方法、模型训练方法、装置及计算机设备 |
| WO2023137918A1 (zh) * | 2022-01-21 | 2023-07-27 | 平安科技（深圳）有限公司 | 文本数据的分析方法、模型训练方法、装置及计算机设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113326764B (zh) | 训练图像识别模型和图像识别的方法和装置 | |
| CN112926306B (zh) | 文本纠错方法、装置、设备以及存储介质 | |
| CN113222942A (zh) | 多标签分类模型的训练方法和预测标签的方法 | |
| CN114428677B (zh) | 任务处理方法、处理装置、电子设备及存储介质 | |
| CN114037059A (zh) | 预训练模型、模型的生成方法、数据处理方法及装置 | |
| CN111861596A (zh) | 一种文本分类方法和装置 | |
| CN112926308A (zh) | 匹配正文的方法、装置、设备、存储介质以及程序产品 | |
| CN114429633A (zh) | 文本识别方法、模型的训练方法、装置、电子设备及介质 | |
| CN115130581A (zh) | 样本生成方法、训练方法、数据处理方法以及电子设备 | |
| CN113392920B (zh) | 生成作弊预测模型的方法、装置、设备、介质及程序产品 | |
| CN115359308A (zh) | 模型训练、难例识别方法、装置、设备、存储介质及程序 | |
| CN112699237B (zh) | 标签确定方法、设备和存储介质 | |
| CN113850072A (zh) | 文本情感分析方法、情感分析模型训练方法、装置、设备及介质 | |
| CN112580620A (zh) | 标志图片处理方法、装置、设备和介质 | |
| CN113239273B (zh) | 用于生成文本的方法、装置、设备以及存储介质 | |
| CN115719433A (zh) | 图像分类模型的训练方法、装置及电子设备 | |
| CN115909376A (zh) | 文本识别方法、文本识别模型训练方法、装置及存储介质 | |
| CN113806541A (zh) | 情感分类的方法和情感分类模型的训练方法、装置 | |
| CN114707638A (zh) | 模型训练、对象识别方法及装置、设备、介质和产品 | |
| CN113807391A (zh) | 任务模型的训练方法、装置、电子设备及存储介质 | |
| CN114141236A (zh) | 语言模型更新方法、装置、电子设备及存储介质 | |
| CN113626570A (zh) | 一种会话的路由方法和装置 | |
| CN113032540B (zh) | 人机交互方法、装置、设备和存储介质 | |
| CN114329219A (zh) | 数据处理方法、用于输出知识内容的方法及装置 | |
| CN114821801B (zh) | 动作识别方法、模型训练方法、装置、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |