CN115204183B - 基于知识增强的双通道情感分析方法、装置以及设备 - Google Patents
基于知识增强的双通道情感分析方法、装置以及设备 Download PDFInfo
- Publication number
- CN115204183B CN115204183B CN202211133573.2A CN202211133573A CN115204183B CN 115204183 B CN115204183 B CN 115204183B CN 202211133573 A CN202211133573 A CN 202211133573A CN 115204183 B CN115204183 B CN 115204183B
- Authority
- CN
- China
- Prior art keywords
- sentence
- detected
- representation
- feature representation
- tested
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/205—Parsing
- G06F40/211—Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Machine Translation (AREA)
Abstract
本发明涉及基于情感分析领域,涉及一种基于知识增强的双通道情感分析方法,方法包括:构建神经网络模型,获取待测语句,将待测语句输入至神经网络模型的词嵌入模块中,获得待测语句的句子特征表示;将待测语句以及句子特征表示输入至知识增强模块中,获得待测语句的知识增强特征表示;将待测语句的知识增强特征表示以及句子特征表示输入至语义通道中,获得待测语句的语义特征表示;将待测语句以及句子特征表示输入至句法通道中,获得待测语句的句法特征表示;将待测语句的语义特征表示以及句法特征表示输入至情感分析模块中,获得待测语句的情感分析结果。
Description
技术领域
本发明涉及情感分析领域,特别涉及是一种基于知识增强的双通道情感分析方法、装置、设备以及计算机可读存储介质。
背景技术
基于方面的情感分析是一种情感分类任务,旨在识别给定方面的情感。在基于方面的情感分析中,每个方面词的情感都根据一组预定义的情感极性进行分类,即积极、中性或消极。近年来,基于方面的情感分析产生的细粒度的情感信息,可用于各种领域的应用。
最近,对图神经网络的研究,引起了利用依赖树的句法信息的关注,以这种方式来防止句法上不相关的上下文噪声。广泛使用的图神经网络,例如图卷积网络图注意力网络,能够同时编码语义和句法,将句法信息和语义信息整合到基于图神经网络的模型中是一种持续的趋势。
然而,尽管对语法和语义进行了联合的利用,但仍可以观察到两个主要限制。一方面,图神经网络通常用于处理全局句法信息,最后执行掩码操作以隐藏上下文词,从而确定了方面的情绪。而在实际应用中,可能会引入上下文噪声,从而导致对方面词的重视程度较低。另一方面,基于语义的图神经网络通常是基于注意力权重构建的。对于方面词和意见词之间的微妙关系的建模,更多地关注其他词而不是情感词,这会进一步混淆情绪的聚合,从而导致无法精准进行情感分析。
发明内容
基于此,本发明的目的在于,提供一种基于知识增强的双通道情感分析方法、装置、设备以及计算机可读存储介质,利用句法和语义双通道同时考虑句法和语义信息,并且通过知识增强模块引入外部知识以增强句子的语义特征,提高了全局信息的提取,避免引入过多无关的噪声,更加全面地对语句进行情感分析,从而提高语句的情感分析的准确性以及稳定性。
第一方面,本申请实施例提供了一种基于知识增强的双通道情感分析方法,包括以下步骤:
构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;
获取待测语句,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;
将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示;
将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;
将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;
将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
第二方面,本申请实施例提供了一种基于知识增强的双通道情感分析装置,包括:
模型构建模块,用于构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;
句子特征获取模块,用于获取待测语句,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;
知识增强特征获取模块,用于将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示;
语义特征获取模块,用于将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;
句法特征获取模块,用于将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;
情感分析模块,用于将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
第三方面,本申请实施例提供了一种计算机设备,包括:处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序;所述计算机程序被所述处理器执行时实现如第一方面所述基于知识增强的双通道情感分析方法的步骤。
第四方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的基于知识增强的双通道情感分析方法的步骤。
在本申请实施例中,提供一种基于知识增强的双通道情感分析方法、装置、设备以及计算机可读存储介质,利用句法和语义双通道同时考虑句法和语义信息,并且通过知识增强模块引入外部知识以增强句子的语义特征,提高了全局信息的提取,避免引入过多无关的噪声,更加全面地对语句进行情感分析,从而提高语句的情感分析的准确性以及稳定性。
为了更好地理解和实施,下面结合附图详细说明本发明。
附图说明
图1为本申请一个实施例提供的基于知识增强的双通道情感分析方法的流程示意图;
图2为本申请一个实施例提供的基于知识增强的双通道情感分析方法中S3的流程示意图;
图3为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S4的流程示意图;
图4为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S41的流程示意图;
图5为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S5的流程示意图;
图6为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S6的流程示意图;
图7为本申请一个实施例提供的基于知识增强的双通道情感分析装置的结构示意图;
图8为本申请一个实施例提供的计算机设备的结构示意图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本申请相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本申请的一些方面相一致的装置和方法的例子。
在本申请使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本申请。在本申请和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。还应当理解,本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,如在此所使用的词语“如果”/“若”可以被解释成为“在……时”或“当……时”或“响应于确定”。
请参阅图1,图1为本申请一个实施例提供的基于知识增强的双通道情感分析方法的流程示意图,方法包括如下步骤:
S1:构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块。
基于知识增强的双通道情感分析方法的执行主体为基于知识增强的双通道情感分析方法的分析设备(以下简称分析设备)。分析设备可以通过软件和/或硬件的方式实现,可以通过软件和/或硬件的方式实现基于知识增强的双通道情感分析方法,该分析设备可以是两个或多个物理实体构成,也可以是一个物理实体构成。分析设备所指向的硬件,本质上均是指计算机设备,例如,分析设备可以是电脑、手机、平板或交互平板等设备。在一个可选的实施例中,分析设备具体可以是服务器,或是多台计算机设备联合而成的服务器机群。
在本实施例中,分析设备构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块。
S2:获取待测语句,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示。
所述词嵌入模块可以采用词嵌入模型GLOVE或者是BERT,在本实施例中,分析设备获取用户输入的待测语句,将所述待测语句输入至所述词嵌入模块,获得所述待测语句中若干个单词的词嵌入向量,将所述若干个单词的词嵌入向输入至预设的特征提取器Bi-LSTM中,进行编码处理,获得所述待测语句的句子特征表示。
S3:将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示。
在本实施例中,分析设备将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示,利用常识知识来增强所述待测语句的情感表达,以便并对所述待测语句的情感极性进行更加精准的分类。
请参阅图2,图2为本申请一个实施例提供的基于知识增强的双通道情感分析方法中S3的流程示意图,包括步骤S31~S35,具体如下:
S31:根据所述待测语句以及预设的情感词典,获得所述待测语句中若干个单词的情感向量,并进行编码处理,获得所述待测语句的情感特征表示。
所述情感词典为Senticnet的一种,在本实施例中,分析设备根据所述待测语句以及预设的情感词典,对所述待测语句的各个单词进行匹配,若所述待测语句的单词存在于情感词典中,获得该单词的情感向量,若所述待测语句的单词不存在于情感词典中,使用零向量作为该单词的情感向量,从而获得所述待测语句中若干个单词的情感向量,并输入至预设的特征提取器Bi-LSTM中进行编码处理,获得所述待测语句的情感特征表示。
S32:根据所述待测语句中的方面词以及所述情感词典,获得所述待测语句中方面词的若干个扩展词,以及所述若干个扩展词的情感向量,将所述若干个扩展词的情感向量进行编码处理,获得所述待测语句的扩展特征表示。
在本实施例中,为了达到扩充方面词的目的,更好地对待测语句进行情感分析,在本实施例中,分析设备根据所述待测语句中的方面词以及所述情感词典,获得所述待测语句中方面词的若干个扩展词,以及所述若干个扩展词的情感向量,并输入至预设的特征提取器Bi-LSTM中进行编码处理,获得所述待测语句的扩展特征表示。
S33:获得所述若干个扩展词的词嵌入向量,将所述若干个扩展词的词嵌入向量进行编码处理,获得所述待测语句的方面特征表示。
在本实施例中,分析设备获得所述若干个扩展词的词嵌入向量,并输入至预设的特征提取器Bi-LSTM中进行编码处理,获得所述待测语句的方面特征表示。
S34:将所述待测语句的情感特征表示与句子特征表示进行融合,获得所述待测语句的情感增强特征表示,将所述待测语句的扩展特征表示以及方面特征表示进行融合,获得所述待测语句的方面扩展特征表示。
在本实施例中,分析设备将所述待测语句的情感特征表示与句子特征表示进行融合,获得所述待测语句的情感增强特征表示,将所述待测语句的扩展特征表示以及方面特征表示进行融合,获得所述待测语句的方面扩展特征表示。
S35:将所述待测语句的情感增强特征表示以及方面扩展特征表示进行拼接,获得所述待测语句的知识增强特征表示。
在本实施例中,分析设备将所述待测语句的情感增强特征表示以及方面扩展特征表示进行拼接,获得所述待测语句的知识增强特征表示。
S4:将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示。
在本实施例中,分析设备将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示。
在一个可选的实施例中,所述语义通道包括第一多层卷积网络,所述第一多层卷积网络为GCN图卷积网络。
请参阅图3,图3为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S4的流程示意图,包括步骤S41~S43,具体如下:
S41:构建所述待测语句的第一初始邻接矩阵,根据所述待测语句的知识增强特征,对所述第一初始邻接矩阵中进行初始化处理,获得所述待测语句的第一邻接矩阵。
在本实施例中,分析设备根据所述待测语句的若干个单词以及方面词的若干个扩展词,均作为若干个节点,将若干个节点进行两两连接,作为所述第一初始邻接矩阵的若干个边,构建所述待测语句的第一初始邻接矩阵,根据所述待测语句的知识增强特征,对所述第一初始邻接矩阵中的依赖边进行提取,获得所述待测语句的第一邻接矩阵,其中,所述依赖边体现了节点与节点之间的语义特征。
S42:将所述待测语句的知识增强特征表示以及第一邻接矩阵作为所述第一多层卷积网络首层的输入节点信息,根据预设的第一图卷积计算算法,获得所述待测语句的初始语义特征表示。
所述第一图卷积计算算法为:
所述第一多层卷积网络为GCN图卷积网络的一种,在本实施例中,分析设备将所述待测语句的知识增强特征表示以及第一邻接矩阵作为所述第一多层卷积网络首层的输入节点信息,根据预设的第一图卷积计算算法,获得所述待测语句的初始语义特征表示。
S43:对所述待测语句的初始语义特征表示进行掩码处理以及平均池化处理,获得所述待测语句的语义特征表示。
所述语义特征表示包括若干个单词的语义向量,为了减少非方面词对于语义特征表示提取的影响,在本实施例中,分析设备对所述待测语句的初始语义特征表示进行掩码处理以及平均池化处理,获得所述待测语句的语义特征表示。
具体如下:
请参阅图4,图4为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S41的流程示意图,包括步骤S411~S412,具体如下:
S411:根据所述待测语句的知识增强特征表示以及预设的多头自注意力算法,对所述第一初始邻接矩阵中若干个边的多头自注意力权重进行计算,获得所述第一初始邻接矩阵的注意力权重矩阵。
所述多头自注意力算法为:
在本实施例中,分析设备根据所述待测语句的知识增强特征表示以及预设的多头自注意力算法,对所述第一初始邻接矩阵中若干个边的多头自注意力权重进行计算,获得所述第一初始邻接矩阵的注意力权重矩阵。
S412:根据所述第一初始邻接矩阵的注意力权重矩阵以及预设的快速选择算法,对所述第一初始邻接矩阵进行初始化处理,构建所述待测语句的邻接矩阵。
所述快速选择算法为:
在本实施例中,分析设备根据所述第一初始邻接矩阵的注意力权重矩阵以及预设的快速选择算法,对所述第一初始邻接矩阵进行初始化处理,具体地,分析设备选择每个维度的最大k值并设置为1,而其他设置为0,构建所述待测语句的邻接矩阵。
S5:将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示。
在本实施例中,分析设备将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示。
请参阅图5,图5为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S5的流程示意图,包括步骤S51~S55,具体如下:
S51:构建所述待测语句的依存句法树,根据所述待测语句的依存句法树,构建所述待测语句的第二邻接矩阵。
在本实施例中,分析设备根据所述待测语句以及预设的句法解析器,其中,所述句法解析器可以是spacy解析器,构建所述待测语句的依存句法树,并将句法依赖树转换成为句法图,并将句法依赖关系作为边,构建所述待测语句的第二邻接矩阵。
S52:根据所述待测语句的句子特征表示以及预设的加权算法,对所述待测语句的各个单词的词嵌入向量进行加权处理,获得加权处理后的所述待测语句的各个单词的词嵌入向量,并进行编码处理,获得加权处理后的所述待测语句的句子特征表示,作为所述待测语句的句法增强特征。
所述加权算法为:
为了减少与方面词句法无关的上下文单词的干扰,在本实施例中,分析设备根据
所述待测语句的句子特征表示以及预设的加权算法,获得所述待测语句的各个单词的位置
权重参数,并根据所述待测语句的各个单词的位置权重参数,对所述待测语句的各个单词
的词嵌入向量进行加权处理,获得加权处理后的所述待测语句的各个单词的词嵌入向量,
并进行编码处理,获得加权处理后的所述待测语句的句子特征表示,作为所述待测语句的
句法增强特征。
S53:将所述待测语句的句法增强特征表示以及第二邻接矩阵作为所述第二多层卷积网络首层的输入节点信息,根据预设的第二图卷积计算算法,获得所述待测语句的初始句法特征表示。
所述第二图卷积计算算法为:
式中,为所述第二多层卷积网络的第l+1层的输入节点信息,为所述第
二多层卷积网络的第l层的输入节点信息,为非线性函数,为所述第二邻接矩阵,为第五可训练权重参数矩阵,为第二偏差参数,n是单词数目,i为单词的位置索引;
在本实施例中,分析设备将所述待测语句的句法增强特征表示以及第二邻接矩阵作为所述第二多层卷积网络首层的输入节点信息,根据预设的第二图卷积计算算法,获得所述待测语句的初始句法特征表示。
S54:对所述待测语句的初始句法特征表示进行掩码处理以及平均池化处理,获得所述待测语句的中间句法特征表示。
为了减少非方面词对于句法特征表示提取的影响,在本实施例中,分析设备对所述待测语句的初始句法特征表示进行掩码处理以及平均池化处理,获得所述待测语句的中间句法特征表示,其中,所述中间句法特征表示包括若干个单词的中间句法向量,具体如下:
式中,mask为掩码参数,τ是方面词开始位置,m是方面词数目,n是单词数目,τ+1≤t≤τ+m表示为所述待测语句中方面词的索引;为所述待测语句的中间句法特征表示,AveragePooling()为平均池化函数。
S55:根据所述待测语句的中间句法特征表示以及句子特征表示,对同一单词的词嵌入向量以及中间句法向量进行点积操作,获得所述待测语句的各个单词的点积参数,根据所述待测语句的各个单词的点积参数以及预设的注意力计算算法,获得所述待测语句的句法特征表示。
所述注意力计算算法为:
在本实施例中,分析设备根据所述待测语句的中间句法特征表示以及句子特征表示,对同一单词的词嵌入向量以及中间句法向量进行点积操作,获得所述待测语句的各个单词的点积参数,根据所述待测语句的各个单词的点积参数以及预设的注意力计算算法,获得所述待测语句的第i个单词的注意力权重参数,并对同一单词的中间句法向量以及注意力权重参数进行点积累加操作,获得所述待测语句的句法特征表示。
S6:将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
在本实施例中,分析设备将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
请参阅图6,图6为本申请一个实施例提供的基于语义和句法双通道的语句情感分析方法中S6的流程示意图,包括步骤S61~S62,具体如下:
S61:将所述待测语句的语义特征表示以及句法特征表示进行融合,获得所述待测语句的情感特征表示。
在本实施例中,分析设备将所述待测语句的语义特征表示以及句法特征表示进行融合,获得所述待测语句的情感特征表示,以提高情感分析的准确率。具体如下:
S62:根据所述待测语句的情感特征表示以及预设的情感分析算法,获得所述待测语句的情感分类极性概率分布向量,根据所述情感分类极性概率分布向量,获得概率最大的维度对应的情感极性,作为所述待测语句的情感分析结果。
所述情感分析算法为:
在本实施例中,分析设备根据所述待测语句的情感特征表示以及预设的情感分析算法,获得所述待测语句的情感分类极性概率分布向量;
根据所述情感分类极性概率分布向量,获得概率最大的维度对应的情感极性,作为所述待测语句的情感分析结果,其中,所述情感极性包括积极、中性以及消极,具体地,当计算得到u=[u积极,u消极,u中性]=[0.1,0.7,0.2],概率最大为u消极,其概率最大的维度对应的情感极性为消极,作为所述待测语句的情感分析结果。
请参考图7,图7为本申请一个实施例提供的基于知识增强的双通道情感分析装置的结构示意图,该装置可以通过软件、硬件或两者的结合实现基于知识增强的双通道情感分析装置的全部或一部分,该装置7包括:
模型构建模块71,用于构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;
句子特征获取模块72,用于获取待测语句,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;
知识增强特征获取模块73,用于将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示;
语义特征获取模块74,用于将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;
句法特征获取模块75,用于将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;
情感分析模块76,用于将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
在本实施例中,通过模型构建模块,构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;通过句子特征获取模块,获取待测语句,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;通过知识增强特征获取模块,将所述待测语句以及句子特征表示输入至所述知识增强模块中,获得所述待测语句的知识增强特征表示;通过语义特征获取模块,将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;通过句法特征获取模块,将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;通过情感分析模块,将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。利用句法和语义双通道同时考虑句法和语义信息,并且通过知识增强模块引入外部知识以增强句子的语义特征,提高了全局信息的提取,避免引入过多无关的噪声,更加全面地对语句进行情感分析,从而提高语句的情感分析的准确性以及稳定性。
请参考图8,图8为本申请一个实施例提供的计算机设备的结构示意图,计算机设备8包括:处理器81、存储器82以及存储在存储器82上并可在处理器81上运行的计算机程序83;计算机设备可以存储有多条指令,指令适用于由处理器81加载并执行上述图1至图6的方法步骤,具体执行过程可以参见图1至图6的具体说明,在此不进行赘述。
其中,处理器81可以包括一个或多个处理核心。处理器81利用各种接口和线路连接服务器内的各个部分,通过运行或执行存储在存储器82内的指令、程序、代码集或指令集,以及调用存储器82内的数据,执行基于知识增强的双通道情感分析装置7的各种功能和处理数据,可选的,处理器81可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programble Logic Array,PLA)中的至少一个硬件形式来实现。处理器81可集成中央处理器81(Central Processing Unit,CPU)、图像处理器81(Graphics Processing Unit,GPU)和调制解调器等中的一个或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责触摸显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器81中,单独通过一块芯片进行实现。
其中,存储器82可以包括随机存储器82(Random Access Memory,RAM),也可以包括只读存储器82(Read-Only Memory)。可选的,该存储器82包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器82可用于存储指令、程序、代码、代码集或指令集。存储器82可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控指令等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器82可选的还可以是至少一个位于远离前述处理器81的存储装置。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质可以存储有多条指令,所述指令适用于由处理器加载并执行上述图1至图6的方法步骤,具体执行过程可以参见图1至图6的具体说明,在此不进行赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束算法。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取计算机可读存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。
本发明并不局限于上述实施方式,如果对本发明的各种改动或变形不脱离本发明的精神和范围,倘若这些改动和变形属于本发明的权利要求和等同技术范围之内,则本发明也意图包含这些改动和变形。
Claims (8)
1.一种基于知识增强的双通道情感分析方法,其特征在于,包括以下步骤:
构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;
获取待测语句,所述待测语句包括若干个单词以及方面词,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;
将所述待测语句以及句子特征表示输入至所述知识增强模块中,根据所述待测语句以及预设的情感词典,获得所述待测语句中若干个单词的情感向量,并进行编码处理,获得所述待测语句的情感特征表示;
根据所述待测语句中的方面词以及所述情感词典,获得所述待测语句中方面词的若干个扩展词,以及所述若干个扩展词的情感向量,将所述若干个扩展词的情感向量进行编码处理,获得所述待测语句的扩展特征表示;
获得所述若干个扩展词的词嵌入向量,将所述若干个扩展词的词嵌入向量进行编码处理,获得所述待测语句的方面特征表示;
将所述待测语句的情感特征表示与句子特征表示进行融合,获得所述待测语句的情感增强特征表示,将所述待测语句的扩展特征表示以及方面特征表示进行融合,获得所述待测语句的方面扩展特征表示;
将所述待测语句的情感增强特征表示以及方面扩展特征表示进行拼接,获得所述待测语句的知识增强特征表示;
将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;
将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;
将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
2.根据权利要求1所述的基于知识增强的双通道情感分析方法,其特征在于:所述语义通道包括第一多层卷积网络;
所述将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示,包括步骤:
构建所述待测语句的第一初始邻接矩阵,根据所述待测语句的知识增强特征,对所述第一初始邻接矩阵进行初始化处理,获得所述待测语句的第一邻接矩阵;
将所述待测语句的知识增强特征表示以及第一邻接矩阵作为所述第一多层卷积网络首层的输入节点信息,根据预设的第一图卷积计算算法,获得所述待测语句的初始语义特征表示,其中,所述第一图卷积计算算法为:
对所述待测语句的初始语义特征表示进行掩码处理以及平均池化处理,获得所述待测语句的语义特征表示,其中,所述语义特征表示包括若干个单词的语义向量,具体如下:
3.根据权利要求2所述的基于知识增强的双通道情感分析方法,其特征在于,所述根据所述待测语句的知识增强特征,对所述第一初始邻接矩阵进行初始化处理,获得所述待测语句的第一邻接矩阵,包括步骤:
根据所述待测语句的知识增强特征表示以及预设的多头自注意力算法,对所述第一初始邻接矩阵中若干个边的多头自注意力权重进行计算,获得所述第一初始邻接矩阵的注意力权重矩阵,其中,所述多头自注意力算法为:
根据所述第一初始邻接矩阵的注意力权重矩阵以及预设的快速选择算法,对所述第一初始邻接矩阵进行初始化处理,构建所述待测语句的邻接矩阵,其中,所述快速选择算法为:
4.根据权利要求1所述的基于知识增强的双通道情感分析方法,其特征在于:所述句法通道包括第二多层卷积网络;
所述将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示,包括步骤:
构建所述待测语句的依存句法树,根据所述待测语句的依存句法树,构建所述待测语句的第二邻接矩阵;
根据所述待测语句的句子特征表示以及预设的加权算法,对所述待测语句的各个单词的词嵌入向量进行加权处理,获得加权处理后的所述待测语句的各个单词的词嵌入向量,并进行编码处理,获得加权处理后的所述待测语句的句子特征表示,作为所述待测语句的句法增强特征;其中,所述加权算法为:
将所述待测语句的句法增强特征表示以及第二邻接矩阵作为所述第二多层卷积网络首层的输入节点信息,根据预设的第二图卷积计算算法,获得所述待测语句的初始句法特征表示,其中,所述第二图卷积计算算法为:
式中,为所述第二多层卷积网络的第l+1层的输入节点信息,为所述第二多
层卷积网络的第l层的输入节点信息,为非线性函数,为所述第二邻接矩阵,为
第五可训练权重参数矩阵,为第二偏差参数,n是单词数目,i为单词的位置索引;
对所述待测语句的初始句法特征表示进行掩码处理以及平均池化处理,获得所述待测语句的中间句法特征表示,其中,所述中间句法特征表示包括若干个单词的中间句法向量,具体如下:
根据所述待测语句的中间句法特征表示以及句子特征表示,对同一单词的词嵌入向量以及中间句法向量进行点积操作,获得所述待测语句的各个单词的点积参数,根据所述待测语句的各个单词的点积参数以及预设的注意力计算算法,获得所述待测语句的句法特征表示,其中,所述注意力计算算法为:
5.根据权利要求4所述的基于知识增强的双通道情感分析方法,其特征在于,所述将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果,包括步骤:
将所述待测语句的语义特征表示以及句法特征表示进行融合,获得所述待测语句的情感特征表示,具体如下:
根据所述待测语句的情感特征表示以及预设的情感分析算法,获得所述待测语句的情感分类极性概率分布向量,根据所述情感分类极性概率分布向量,获得概率最大的维度对应的情感极性,作为所述待测语句的情感分析结果,其中,所述情感分析算法为:
6.一种基于知识增强的双通道情感分析装置,其特征在于,包括:
模型构建模块,用于构建神经网络模型,其中,所述神经网络模型包括词嵌入模块、知识增强模块、语义通道、句法通道以及情感分析模块;
句子特征获取模块,用于获取待测语句,所述待测语句包括若干个单词以及方面词,将所述待测语句输入至所述神经网络模型的词嵌入模块中,获得所述待测语句的句子特征表示;
知识增强特征获取模块,用于将所述待测语句以及句子特征表示输入至所述知识增强模块中,根据所述待测语句以及预设的情感词典,获得所述待测语句中若干个单词的情感向量,并进行编码处理,获得所述待测语句的情感特征表示;
根据所述待测语句中的方面词以及所述情感词典,获得所述待测语句中方面词的若干个扩展词,以及所述若干个扩展词的情感向量,将所述若干个扩展词的情感向量进行编码处理,获得所述待测语句的扩展特征表示;
获得所述若干个扩展词的词嵌入向量,将所述若干个扩展词的词嵌入向量进行编码处理,获得所述待测语句的方面特征表示;
将所述待测语句的情感特征表示与句子特征表示进行融合,获得所述待测语句的情感增强特征表示,将所述待测语句的扩展特征表示以及方面特征表示进行融合,获得所述待测语句的方面扩展特征表示;
将所述待测语句的情感增强特征表示以及方面扩展特征表示进行拼接,获得所述待测语句的知识增强特征表示;
语义特征获取模块,用于将所述待测语句的知识增强特征表示以及句子特征表示输入至所述语义通道中,获得所述待测语句的语义特征表示;
句法特征获取模块,用于将所述待测语句以及句子特征表示输入至所述句法通道中,获得所述待测语句的句法特征表示;
情感分析模块,用于将所述待测语句的语义特征表示以及句法特征表示输入至所述情感分析模块中,获得所述待测语句的情感分析结果。
7.一种计算机设备,其特征在于,包括:处理器、存储器以及存储在所述存储器上并可在所述处理器上运行的计算机程序;所述计算机程序被所述处理器执行时实现如权利要求1至5中任一项所述的基于知识增强的双通道情感分析方法的步骤。
8.一种计算机可读存储介质,其特征在于:所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的基于知识增强的双通道情感分析方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211133573.2A CN115204183B (zh) | 2022-09-19 | 2022-09-19 | 基于知识增强的双通道情感分析方法、装置以及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211133573.2A CN115204183B (zh) | 2022-09-19 | 2022-09-19 | 基于知识增强的双通道情感分析方法、装置以及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115204183A CN115204183A (zh) | 2022-10-18 |
CN115204183B true CN115204183B (zh) | 2022-12-27 |
Family
ID=83572780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211133573.2A Active CN115204183B (zh) | 2022-09-19 | 2022-09-19 | 基于知识增强的双通道情感分析方法、装置以及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115204183B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115906861B (zh) * | 2022-10-21 | 2023-09-26 | 华南师范大学 | 基于交互方面信息融合的语句情感分析方法以及装置 |
CN115905524B (zh) * | 2022-11-07 | 2023-10-03 | 华南师范大学 | 融合句法和语义信息的情感分析方法、装置以及设备 |
CN115712726B (zh) * | 2022-11-08 | 2023-09-12 | 华南师范大学 | 基于双词嵌入的情感分析方法、装置以及设备 |
CN115587597B (zh) * | 2022-11-23 | 2023-03-24 | 华南师范大学 | 基于子句级关系图的方面词的情感分析方法以及装置 |
CN116090450A (zh) * | 2022-11-28 | 2023-05-09 | 荣耀终端有限公司 | 一种文本处理方法及计算设备 |
CN115827878B (zh) * | 2023-02-13 | 2023-06-06 | 华南师范大学 | 语句情感分析方法、装置以及设备 |
CN115860006B (zh) * | 2023-02-13 | 2023-04-25 | 广东工业大学 | 一种基于语义句法的方面级情感预测方法及装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110502753A (zh) * | 2019-08-23 | 2019-11-26 | 昆明理工大学 | 一种基于语义增强的深度学习情感分析模型及其分析方法 |
US10878505B1 (en) * | 2020-07-31 | 2020-12-29 | Agblox, Inc. | Curated sentiment analysis in multi-layer, machine learning-based forecasting model using customized, commodity-specific neural networks |
CN112528672A (zh) * | 2020-12-14 | 2021-03-19 | 北京邮电大学 | 一种基于图卷积神经网络的方面级情感分析方法及装置 |
CN113361258A (zh) * | 2021-05-17 | 2021-09-07 | 山东师范大学 | 基于图卷积网络和选择注意力的方面级情感分析方法及系统 |
CN113609849A (zh) * | 2021-07-07 | 2021-11-05 | 内蒙古工业大学 | 一种融合先验知识模型的蒙古语多模态细粒度情感分析方法 |
CN114492459A (zh) * | 2022-02-25 | 2022-05-13 | 福州大学 | 基于知识图谱与交互图卷积的评论情感分析方法及系统 |
CN114970557A (zh) * | 2022-04-21 | 2022-08-30 | 东方财富信息股份有限公司 | 基于知识增强的跨语言结构化情感分析方法 |
CN115017916A (zh) * | 2022-06-28 | 2022-09-06 | 华南师范大学 | 方面级情感分析方法、装置、电子设备及存储介质 |
CN115048938A (zh) * | 2022-06-13 | 2022-09-13 | 华南师范大学 | 基于语义和句法双通道的语句情感分析方法以及装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11868730B2 (en) * | 2020-09-23 | 2024-01-09 | Jingdong Digits Technology Holding Co., Ltd. | Method and system for aspect-level sentiment classification by graph diffusion transformer |
CN112131888B (zh) * | 2020-09-23 | 2023-11-14 | 平安科技(深圳)有限公司 | 分析语义情感的方法、装置、设备及存储介质 |
CN112560503B (zh) * | 2021-02-19 | 2021-07-02 | 中国科学院自动化研究所 | 融合深度特征和时序模型的语义情感分析方法 |
CN114676687A (zh) * | 2022-04-15 | 2022-06-28 | 重庆理工大学 | 基于增强语义句法信息的方面级情感分类方法 |
-
2022
- 2022-09-19 CN CN202211133573.2A patent/CN115204183B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110502753A (zh) * | 2019-08-23 | 2019-11-26 | 昆明理工大学 | 一种基于语义增强的深度学习情感分析模型及其分析方法 |
US10878505B1 (en) * | 2020-07-31 | 2020-12-29 | Agblox, Inc. | Curated sentiment analysis in multi-layer, machine learning-based forecasting model using customized, commodity-specific neural networks |
CN112528672A (zh) * | 2020-12-14 | 2021-03-19 | 北京邮电大学 | 一种基于图卷积神经网络的方面级情感分析方法及装置 |
CN113361258A (zh) * | 2021-05-17 | 2021-09-07 | 山东师范大学 | 基于图卷积网络和选择注意力的方面级情感分析方法及系统 |
CN113609849A (zh) * | 2021-07-07 | 2021-11-05 | 内蒙古工业大学 | 一种融合先验知识模型的蒙古语多模态细粒度情感分析方法 |
CN114492459A (zh) * | 2022-02-25 | 2022-05-13 | 福州大学 | 基于知识图谱与交互图卷积的评论情感分析方法及系统 |
CN114970557A (zh) * | 2022-04-21 | 2022-08-30 | 东方财富信息股份有限公司 | 基于知识增强的跨语言结构化情感分析方法 |
CN115048938A (zh) * | 2022-06-13 | 2022-09-13 | 华南师范大学 | 基于语义和句法双通道的语句情感分析方法以及装置 |
CN115017916A (zh) * | 2022-06-28 | 2022-09-06 | 华南师范大学 | 方面级情感分析方法、装置、电子设备及存储介质 |
Non-Patent Citations (4)
Title |
---|
A Novel Bi-Branch Graph Convolutional Neural Network for Aspect Level Sentiment Classification;Bingliang Chen et.al;《2021 International Joint Conference on Neural Networks (IJCNN)》;20211231;第1-8页 * |
Knowledge-enabled BERT for aspect-based sentiment analysis;Anping Zhao et.al;《Knowledge-Based Systems》;20210611;第1-8页 * |
用于微博情感分析的一种情感语义增强的深度学习模型;何炎祥 等;《计算机学报》;20170430;第40卷(第4期);第773-790页 * |
知识增强的交互注意力方面级情感分析模型;韩虎 等;《计算机科学与探索》;20220216;第1-12页 * |
Also Published As
Publication number | Publication date |
---|---|
CN115204183A (zh) | 2022-10-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115204183B (zh) | 基于知识增强的双通道情感分析方法、装置以及设备 | |
CN112434721A (zh) | 一种基于小样本学习的图像分类方法、系统、存储介质及终端 | |
CN114676704B (zh) | 句子情感分析方法、装置、设备以及存储介质 | |
CN113590776B (zh) | 基于知识图谱的文本处理方法、装置、电子设备及介质 | |
CN106874253A (zh) | 识别敏感信息的方法及装置 | |
CN112434188B (zh) | 一种异构数据库的数据集成方法、装置及存储介质 | |
CN113688212B (zh) | 句子情感分析方法、装置以及设备 | |
CN115587597B (zh) | 基于子句级关系图的方面词的情感分析方法以及装置 | |
CN112749300B (zh) | 用于视频分类的方法、装置、设备、存储介质和程序产品 | |
CN112784066A (zh) | 基于知识图谱的信息反馈方法、装置、终端和存储介质 | |
CN115048938A (zh) | 基于语义和句法双通道的语句情感分析方法以及装置 | |
CN115168592A (zh) | 基于方面类别的语句情感分析方法、装置以及设备 | |
CN112418320A (zh) | 一种企业关联关系识别方法、装置及存储介质 | |
CN115906863B (zh) | 基于对比学习的情感分析方法、装置、设备以及存储介质 | |
CN115659951B (zh) | 基于标签嵌入的语句情感分析方法、装置以及设备 | |
CN115905518B (zh) | 基于知识图谱的情感分类方法、装置、设备以及存储介质 | |
CN114547312B (zh) | 基于常识知识图谱的情感分析方法、装置以及设备 | |
CN115659987B (zh) | 基于双通道的多模态命名实体识别方法、装置以及设备 | |
CN115905524A (zh) | 融合句法和语义信息的情感分析方法、装置以及设备 | |
CN115906861B (zh) | 基于交互方面信息融合的语句情感分析方法以及装置 | |
CN115827878A (zh) | 语句情感分析方法、装置以及设备 | |
CN116168403A (zh) | 医疗数据分类模型训练方法、分类方法、装置及相关介质 | |
CN115033700A (zh) | 基于相互学习网络的跨领域情感分析方法、装置以及设备 | |
CA3153550A1 (en) | Core recommendation method, device and system | |
CN114238663B (zh) | 一种材料数据用知识图谱分析方法、系统、电子设备及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |