CN116564354A - 基于人工智能的情绪识别方法、装置、计算机设备及介质 - Google Patents
基于人工智能的情绪识别方法、装置、计算机设备及介质 Download PDFInfo
- Publication number
- CN116564354A CN116564354A CN202310580365.5A CN202310580365A CN116564354A CN 116564354 A CN116564354 A CN 116564354A CN 202310580365 A CN202310580365 A CN 202310580365A CN 116564354 A CN116564354 A CN 116564354A
- Authority
- CN
- China
- Prior art keywords
- feature vector
- text
- voice
- vector
- interaction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000008909 emotion recognition Effects 0.000 title claims abstract description 82
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 23
- 239000013598 vector Substances 0.000 claims abstract description 726
- 230000008451 emotion Effects 0.000 claims abstract description 110
- 230000002452 interceptive effect Effects 0.000 claims abstract description 99
- 238000013145 classification model Methods 0.000 claims abstract description 46
- 230000003993 interaction Effects 0.000 claims description 107
- 238000000605 extraction Methods 0.000 claims description 82
- 230000004927 fusion Effects 0.000 claims description 58
- 238000011176 pooling Methods 0.000 claims description 27
- 238000007499 fusion processing Methods 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 21
- 238000012549 training Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 18
- 230000008569 process Effects 0.000 claims description 12
- 238000011478 gradient descent method Methods 0.000 claims description 4
- 238000005516 engineering process Methods 0.000 abstract description 16
- 238000001514 detection method Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008921 facial expression Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
- G10L15/063—Training
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/26—Speech to text systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
- G10L17/04—Training, enrolment or model building
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Signal Processing (AREA)
- Psychiatry (AREA)
- Hospice & Palliative Care (AREA)
- General Health & Medical Sciences (AREA)
- Child & Adolescent Psychology (AREA)
- Artificial Intelligence (AREA)
- Machine Translation (AREA)
Abstract
本发明适用于金融科技领域,尤其涉及一种基于人工智能的情绪识别方法、装置、计算机设备及介质。本发明通过提取待识别文本的文本特征向量和待识别语音的语音特征向量,并对文本特征向量和语音特征向量进行交互式匹配,得到语音特征向量相对于文本特征向量的第一交互特征向量,融合语音特征向量、文本特征向量和第一交互特征向量,得到第一融合特征向量并输入至情绪分类模型,得到情绪识别结果,通过以文本特征向量作为基础,提取语音特征向量与文本特征向量之间的第一交互特征向量,提高了对待识别文本和待识别语音的情绪表征能力,提高了情绪识别结果的准确性,在金融领域中提高了解决客户疑问、指导客户交易、提供售后服务的效率和质量。
Description
技术领域
本发明适用于金融科技领域,尤其涉及一种基于人工智能的情绪识别方法、装置、计算机设备及介质。
背景技术
情感智能是人工智能的一个研究方向,随着人工智能的发展,情感智能使用人工智能技术来检测语言和非语言信号,从语音变化到面部表情,可以识别、解读和响应更多人与人交流情感的渠道。从智能家居系统到汽车,从数字营销到零售甚至是金融,情感智能广泛地应用于各个行业。例如,在金融科技领域的客服服务场景中,在能够即时反馈用户满意度的即时情绪识别技术的辅助下,客服可以将情绪识别的实时结果加入到话术推荐模型的考虑范畴内,在解决客户疑问、指导客户交易、提供售后服务等方面具有极高的必要性和实用性,可以有效提升金融领域中的服务效率和服务质量。
情绪问题具有一系列的视听行为指征,主要包括基于语音(如韵律、频谱图、波形)的情绪检测方法、以及基于文本(如稀疏词汇编码)的情绪检测方法。目前的情绪识别通常是将文本和语音分别进行情绪识别得到不同的情绪得分,最后根据不同的情绪得分确定对应的情绪。但是,这种直接对文本和语音进行情绪打分后加权平均的方式,无法很好地将文本信息和语音信息进行融合,导致无法真实情绪的识别准确率较低。
因此,在金融科技领域的客服服务场景中,如何提高情绪识别的准确性成为亟待解决的问题。
发明内容
有鉴于此,本发明实施例提供了一种基于人工智能的情绪识别方法、装置、计算机设备及介质,以解决现有情绪识别方法的准确率较低的问题。
第一方面,本发明实施例提供一种基于人工智能的情绪识别方法,所述情绪识别方法包括:
获取待识别文本和待识别语音,将所述待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将所述待识别语音输入至训练好的语音特征提取模型,得到语音特征向量;
对所述文本特征向量和所述语音特征向量进行交互式匹配处理,以所述文本特征向量为基础,得到所述语音特征向量相对于所述文本特征向量的第一交互特征向量;
利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量;
将所述第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
第二方面,本发明实施例提供一种基于人工智能的情绪识别装置,所述情绪识别装置包括:
第一特征提取模块,用于获取待识别文本和待识别语音,将所述待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将所述待识别语音输入至训练好的语音特征提取模型,得到语音特征向量;
第一交互式匹配模块,用于对所述文本特征向量和所述语音特征向量进行交互式匹配处理,以所述文本特征向量为基础,得到所述语音特征向量相对于所述文本特征向量的第一交互特征向量;
第一特征融合模块,用于利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量;
第一情绪识别模块,用于将所述第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
第三方面,本发明实施例提供一种计算机设备,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面所述的情绪识别方法。
第四方面,本发明实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面所述的情绪识别方法。
本发明实施例与现有技术相比存在的有益效果是:本发明实施例通过对待识别文本进行特征提取得到文本特征向量,对待识别语音进行特征提取得到语音特征向量,并对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量,来表示语音特征向量中与文本特征向量最相关的部分特征,并利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量,最后将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果,提高了对待识别文本和对应待识别语音中的情绪的表征能力,提高了情绪识别结果的准确性,在金融领域中可以指导客服将准确的情绪识别结果加入到话术推荐模型的考虑范畴内,在解决客户疑问、指导客户交易、提供售后服务等方面具有极高的必要性和实用性,有效提升了金融领域中的服务效率和服务质量。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例一提供的一种基于人工智能的情绪识别方法的一应用环境示意图;
图2是本发明实施例一提供的一种基于人工智能的情绪识别方法的流程示意图;
图3是本发明实施例二提供的一种基于人工智能的情绪识别装置的结构示意图;
图4是本发明实施例三提供的一种计算机设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本发明实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本发明。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本发明的描述。
应当理解,当在本发明说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本发明说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本发明说明书和所附权利要求书的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本发明说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本发明的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本发明实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(Artificial Intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
应理解,以下实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
为了说明本发明的技术方案,下面通过具体实施例来进行说明。
本发明实施例一提供的一种基于人工智能的情绪识别方法,可应用在如图1的应用环境中,其中,客户端与服务端进行通信。其中,客户端包括但不限于掌上电脑、桌上型计算机、笔记本电脑、超级移动个人计算机(ultra-mobile personal computer,UMPC)、上网本、云端计算机设备、个人数字助理(personal digital assistant,PDA)等计算机设备。服务端可以用独立的服务器或者是多个服务器组成的服务器集群来实现。
参见图2,是本发明实施例二提供的一种基于人工智能的情绪识别方法的流程示意图,上述情绪识别方法可以应用于图1中的客户端,该情绪识别方法可以包括以下步骤:
步骤S201,获取待识别文本和待识别语音,将待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将待识别语音输入至训练好的语音特征提取模型,得到语音特征向量。
其中,在情绪识别任务中,可以根据文本进行情绪识别,如提取文本关键词、对文本语句进行模型分类等来判断情绪类别,也可以根据语音进行情绪识别,如利用语音的频段、能量信息来判断情绪类别。但是,若只使用文本或者语音进行情绪识别分类,只能获得片面的情绪信息,导致情绪识别分类的准确率较低。
因此,在本实施例中,待识别对象是相对应的待识别文本和待识别语音,其中,待识别文本可以是从待识别语音中识别得到的,通过对待识别文本和待识别语音进行特征提取来得到更全面的情绪信息,从而提高情绪识别的准确率。
在金融科技领域的客服服务场景中,待识别语音可以通过获取客服与客户的电话沟通语音,并从电话沟通语音中截取客户对应的语音得到,待识别文本可以通过对待识别语音进行语音转文字处理得到,则对待识别文本和待识别语音进行特征提取来得到客户更全面的情绪信息,来指导客服将情绪信息加入到话术推荐模型的考虑范畴内,在解决客户疑问、指导客户交易、提供售后服务等方面具有极高的必要性和实用性,可以有效提升金融领域中的服务效率和服务质量。
具体地,将待识别文本输入至训练好的文本特征提取模型进行特征提取,得到文本特征向量,该文本特征向量中包含了该待识别文本中的情绪信息,将待识别语音输入至训练好的语音特征提取模型进行特征提取,得到语音特征向量,该语音特征向量中包含了该待识别语音中的情绪信息,该文本特征向量和语音特征向量为情绪识别分类任务的基础。
上述获取待识别文本和待识别语音,将待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将待识别语音输入至训练好的语音特征提取模型,得到语音特征向量,将相对应的待识别文本和待识别语音作为待识别对象,通过提取文本特征向量和语音特征向量得到了更全面的情绪信息,作为情绪识别分类任务的基础,可以提高情绪识别分类的准确率。
步骤S202,对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量。
其中,交互式匹配可以在对不同特征进行比较分析时,以一个特征作为基础特征,提取其他特征与该基础特征之间的交互特征,使用该交互特征来表示其他特征中与基础特征最相关的部分特征。
在情绪识别任务中,针对语音和文本在表达方式上的不同,语音更倾向于反映声音的能量,而文本更倾向于反映其中的情绪,因此,本实施例基于交互式匹配,在对文本特征向量和语音特征向量进行比较分析时,以文本特征向量作为基础,提取语音特征向量与文本特征向量之间的交互特征,来表示语音特征向量中与文本特征向量最相关的部分特征。由于文本特征向量中包含了待识别文本中的情绪信息,语音特征向量中包含了对应待识别语音中的情绪信息,因此,语音特征向量中与文本特征向量最相关的部分特征可以有效表征待识别文本和对应待识别语音中的情绪信息。
具体地,对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量,该第一交互特征向量可以有效表征待识别文本和对应待识别语音中的情绪信息。
可选的是,对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量,包括:
计算文本特征向量中各个文本向量元素和语音特征向量中N个语音向量元素之间的相似度得分;
对各个文本向量元素对应的N个相似度得分进行归一化处理,得到各个文本向量元素对应的N个第一相似度得分,其中,N为大于1的整数;
将各个文本向量元素对应的N个第一相似度得分,分别与对应的N个语音向量元素相乘,并将N个相乘结果相加,确定相加结果为语音特征向量相对于各个文本向量元素的第一交互特征向量元素;
根据语音特征向量相对于各个文本向量元素的第一交互特征向量元素,组成语音特征向量相对于文本特征向量的第一交互特征向量。
其中,对文本特征向量和语音特征向量进行交互式匹配处理时,首先需要分析文本特征向量和语音特征向量之间的相关性,并以文本特征向量为基础,根据文本特征向量和语音特征向量之间的相关性对语音特征向量进行加权相乘,得到语音特征向量相对于文本特征向量的第一交互特征向量。
具体地,将语音特征向量中的语音向量元素数量记为N,N为大于1的整数,首先计算文本特征向量中各个文本向量元素和语音特征向量中N个语音向量元素之间的相似度得分,并对各个文本向量元素对应的N个相似度得分进行归一化处理,得到各个文本向量元素对应的N个第一相似度得分,该N个第一相似度得分用来表征文本特征向量和语音特征向量之间的相关性。
然后,将各个文本向量元素对应的N个第一相似度得分,分别与对应的N个语音向量元素相乘,并将N个相乘结果相加,确定相加结果为语音特征向量相对于各个文本向量元素的第一交互特征向量元素,该第一交互特征向量元素可以表征语音特征向量中与各个文本特征向量元素最相关的部分特征。
进而计算得到语音特征向量相对于每个文本向量元素的第一交互特征向量元素,并组成语音特征向量相对于文本特征向量的第一交互特征向量。
举例说明,将文本特征向量中的文本向量元素数量记为M,M为大于1的整数,将文本特征向量中第i(i=1,2,…,M)个文本向量元素数量记为Xi,将语音特征向量中第j(j=1,2,…,N)个语音向量元素数量记为Yj,则根据余弦相似度计算各个文本向量元素和语音特征向量中各个语音向量元素之间的相似度得分,并将第i个文本向量元素和第j个语音向量元素之间的相似度得分记为:
式中,Sij为第i个文本向量元素和第j个语音向量元素之间的相似度得分,Xi为第i个文本向量元素,Yj为第j个语音向量元素。
然后,对各个文本向量元素对应的N个相似度得分进行归一化处理,得到各个文本向量元素对应的N个第一相似度得分,将各个文本向量元素对应的N个第一相似度得分,分别与对应的N个语音向量元素相乘,并将N个相乘结果相加,得到语音特征向量相对于第k(k=1,2,…,M)个文本向量元素的第一交互特征向量元素为:
式中,Zk为语音特征向量相对于第k个文本向量元素的第一交互特征向量元素,Sij为第i个文本向量元素和第j个语音向量元素之间的相似度得分,Yj为第j个语音向量元素,M为文本特征向量中的文本向量元素数量,N为语音特征向量中的语音向量元素数量。
则可计算得到语音特征向量相对于第1,2,…,M个文本向量元素的第一交互特征向量元素Z1,Z2,…,ZM,并组成语音特征向量相对于文本特征向量的第一交互特征向量Z=[Z1,Z2,...,ZM]。上述对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量的步骤,在对文本特征向量和语音特征向量进行比较分析时,以文本特征向量作为基础,提取语音特征向量与文本特征向量之间的第一交互特征向量,来表示语音特征向量中与文本特征向量最相关的部分特征,从而通过交互特征向量来有效表征待识别文本和对应待识别语音中的情绪信息,提高了对待识别文本和对应待识别语音中的情绪的表征能力。
步骤S203,利用语音特征向量、文本特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量。
其中,语音特征向量相对于文本特征向量的交互特征向量可以有效表征待识别文本和对应待识别语音中的情绪信息,为了提取到更丰富的特征信息,在本实施例中,利用语音特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量,以进一步提高对待识别文本和对应待识别语音中的情绪的表征能力。
可选的是,利用语音特征向量、文本特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量,包括:
将文本特征向量和第一交互特征向量进行拼接融合,得到第一交互拼接特征向量;
对语音特征向量进行池化,得到语音池化特征向量;
将第一交互拼接特征向量和语音池化特征向量进行融合,得到第一融合特征向量。
其中,在本实施例中,第一交互特征向量是语音特征向量相对于文本特征向量的第一交互特征向量,本实施例以文本特征向量作为表征情绪信息的主要特征,因此,在利用语音特征向量和第一交互特征向量进行向量融合处理时,为了凸显文本特征向量在融合特征中的主导作用,弱化语音特征向量在融合特征中的作用,同时为了降低情绪识别任务中的参数量,首先对语音特征向量进行池化降维,得到语音池化特征向量,该语音池化特征向量在维度较小的基础上表征提取到的待识别语音中的情绪信息,可以有效降低情绪识别任务的计算强度。
然后,将文本特征向量和第一交互特征向量进行拼接融合,得到第一交互拼接特征向量,将第一交互拼接特征向量和语音池化特征向量进行融合,得到第一融合特征向量,该第一融合特征向量融合了文本特征向量、语音特征向量以及语音特征向量相对于文本特征向量的第一交互特征向量,进一步提高了对待识别文本和对应待识别语音中的情绪的表征能力。
上述利用语音特征向量、文本特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量的步骤,融合了文本特征向量、语音特征向量以及语音特征向量相对于文本特征向量的第一交互特征向量,进一步提高了对待识别文本和对应待识别语音中的情绪的表征能力。
步骤S204,将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
其中,情绪识别结果可以是对应的情绪类别,情绪类别可以根据实际情况进行设定,例如,情绪类别包括高兴、感激、生气、鄙视、仇恨等多种情绪类别中的若干种。
在本实施例中,第一融合特征向量可以有效表征待识别文本和对应待识别语音中的情绪信息,因此,将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果,完成情绪识别任务。
可选的是,以样本文本和样本语音为训练样本,以训练样本的实际情绪类别为训练标签,对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练;
文本特征提取模型、语音特征提取模型和情绪分类模型的训练过程包括:
将样本文本输入至文本特征提取模型,得到样本文本特征向量,将样本语音输入至语音特征提取模型,得到样本语音特征向量;
对样本文本特征向量和样本语音特征向量进行交互式匹配处理,以样本文本特征向量为基础,得到样本语音特征向量相对于样本文本特征向量的第一样本交互特征向量;
利用样本语音特征向量、样本文本特征向量和第一样本交互特征向量进行向量融合处理,得到第一样本融合特征向量;
将第一样本融合特征向量输入至情绪分类模型,得到样本情绪类别;
根据样本情绪类别和实际情绪类别计算第一模型损失,采用梯度下降法修正文本特征提取模型、语音特征提取模型和情绪分类模型的参数,直至第一模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
其中,为了提高文本特征提取模型、语音特征提取模型和情绪分类模型的性能,本实施例获取样本文本和样本语音作为训练样本,以训练样本的实际情绪类别为训练标签,对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练。
由于第一模型损失越大,表示文本特征提取模型、语音特征提取模型和情绪分类模型的性能越差,第一模型损失越小,表示文本特征提取模型、语音特征提取模型和情绪分类模型的性能越好,因此,本实施例根据第一模型损失对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练,直至第一模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
上述将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果的步骤,通过将可以有效表征待识别文本和对应待识别语音中的情绪信息的第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果,提高了情绪识别结果的准确性。
可选的是,对文本特征向量和语音特征向量进行交互式匹配处理,还包括:
以语音特征向量为基础,得到文本特征向量相对于语音特征向量的第二交互特征向量。
相应地,利用语音特征向量、文本特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量包括:
利用第一交互特征向量、第二交互特征向量、文本特征向量和语音特征向量进行向量融合处理,得到第二融合特征向量。
相应地,将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果包括:
将第二融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
其中,为了提高特征信息的丰富性,以更全面地表征待识别文本和对应待识别语音中的情绪信息,在本实施例中,在对文本特征向量和语音特征向量进行比较分析时,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量,来表示语音特征向量中与文本特征向量最相关的部分特征,并以语音特征向量为基础,得到文本特征向量相对于语音特征向量的第二交互特征向量,来表示文本特征向量中与语音特征向量最相关的部分特征,以提高对待识别文本和对应待识别语音中的情绪信息的表征能力。
可选的是,以语音特征向量为基础,得到文本特征向量相对于语音特征向量的第二交互特征向量,包括:
计算语音特征向量中各个语音向量元素和文本特征向量中M个文本向量元素之间的相似度得分,其中,M为大于1的整数;
对各个语音向量元素对应的M个相似度得分进行归一化处理,得到各个语音向量元素对应的M个第二相似度得分;
将各个语音向量元素对应的M个第二相似度得分,分别与对应的M个文本向量元素相乘,并将M个相乘结果相加,确定相加结果为文本特征向量相对于各个语音向量元素的第二交互特征向量元素;
根据语音特征向量相对于各个文本向量元素的第二交互特征向量元素,组成语音特征向量相对于文本特征向量的第二交互特征向量。
其中,对文本特征向量和语音特征向量进行交互式匹配处理时,首先需要分析文本特征向量和语音特征向量之间的相关性,并以语音特征向量为基础,根据文本特征向量和语音特征向量之间的相关性对文本特征向量进行加权相乘,得到文本特征向量相对于语音特征向量的第二交互特征向量。
具体地,将文本特征向量中的文本向量元素数量记为M,M为大于1的整数,首先计算语音特征向量中各个语音向量元素和文本特征向量中M个文本向量元素之间的相似度得分,并对各个语音向量元素对应的M个相似度得分进行归一化处理,得到各个语音向量元素对应的M个第二相似度得分,该M个第二相似度得分用来表征语音特征向量和文本特征向量之间的相关性。
然后,将各个语音向量元素对应的M个第二相似度得分,分别与对应的M个文本向量元素相乘,并将M个相乘结果相加,确定相加结果为文本特征向量相对于各个语音向量元素的交互特征向量元素,该交互特征向量元素可以表征文本特征向量中与各个语音特征向量元素最相关的部分特征。
进而计算得到文本特征向量相对于每个语音向量元素的交互特征向量元素,并组成文本特征向量相对于语音特征向量的交互特征向量。
上述对文本特征向量和语音特征向量进行交互式匹配,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量,以语音特征向量为基础,得到文本特征向量相对于语音特征向量的第二交互特征向量的步骤,在对文本特征向量和语音特征向量进行比较分析时,以文本特征向量作为基础,提取语音特征向量与文本特征向量之间的第一交互特征向量,来表示语音特征向量中与文本特征向量最相关的部分特征,并以语音特征向量作为基础,提取文本特征向量与语音特征向量之间的第二交互特征向量,来表示文本特征向量中与语音特征向量最相关的部分特征,从而通过第一交互特征向量和第二交互特征向量来有效表征待识别文本和对应待识别语音中的情绪信息,提高了对待识别文本和对应待识别语音中的情绪的表征能力。
可选的是,利用第一交互特征向量、第二交互特征向量、文本特征向量和语音特征向量进行向量融合处理,得到第二融合特征向量,包括:
将文本特征向量和第一交互特征向量进行拼接融合,得到第一交互拼接特征向量;
将语音特征向量和第二交互特征向量进行拼接融合,得到第二交互拼接特征向量;
对第一交互拼接特征向量进行池化,得到第一交互池化特征向量;
对第二交互拼接特征向量进行池化,得到第二交互池化特征向量;
将第一交互池化特征向量和第二交互池化特征向量进行融合,得到第二融合特征向量。
其中,由于第一交互特征向量表示语音特征向量中与文本特征向量最相关的部分特征,第二交互特征向量表示文本特征向量中与语音特征向量最相关的部分特征,首先将文本特征向量和第一交互特征向量进行拼接融合,得到第一交互拼接特征向量,将语音特征向量和第二交互特征向量进行拼接融合,得到第二交互拼接特征向量。
然后,为了降低情绪识别任务中的参数量,对第一交互拼接特征向量进行池化,得到第一交互池化特征向量,对第二交互拼接特征向量进行池化,得到第二交互池化特征向量,最后,将第一交互池化特征向量和第二交互池化特征向量进行融合,得到第二融合特征向量,该第一融合特征向量融合了文本特征向量、语音特征向量、第一交互特征向量和第二交互特征向量,进一步提高了对待识别文本和对应待识别语音中的情绪的表征能力。
上述利用第一交互特征向量、第二交互特征向量、文本特征向量和语音特征向量进行向量融合处理,得到第二融合特征向量的步骤,融合了文本特征向量、语音特征向量、第一交互特征向量和第二交互特征向量,进一步提高了对待识别文本和对应待识别语音中的情绪的表征能力。
可选的是,以样本文本和样本语音为训练样本,以训练样本的实际情绪类别为训练标签,对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练;
文本特征提取模型、语音特征提取模型和情绪分类模型的训练过程包括:
将样本文本输入至文本特征提取模型,得到样本文本特征向量,将样本语音输入至语音特征提取模型,得到样本语音特征向量;
对样本文本特征向量和样本语音特征向量输入进行交互式匹配,以样本文本特征向量为基础,得到样本语音特征向量相对于样本文本特征向量的第一样本交互特征向量,以样本语音特征向量为基础,得到样本文本特征向量相对于样本语音特征向量的第二样本交互特征向量;
利用第一样本交互特征向量和第二样本交互特征向量进行向量融合处理,得到第二样本融合特征向量;
将第二样本融合特征向量输入至情绪分类模型,得到样本情绪类别;
根据样本情绪类别和实际情绪类别计算第二模型损失,采用梯度下降法修正文本特征提取模型、语音特征提取模型和情绪分类模型的参数,直至第二模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
其中,由于第二模型损失越大,表示文本特征提取模型、语音特征提取模型和情绪分类模型的性能越差,第二模型损失越小,表示文本特征提取模型、语音特征提取模型和情绪分类模型的性能越号,因此,本实施例根据第二模型损失对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练,直至第二模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
上述将第二融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果的步骤,通过将可以有效表征待识别文本和对应待识别语音中的情绪信息的第二融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果,提高了情绪识别结果的准确性。
本发明实施例通过对待识别文本进行特征提取得到文本特征向量,对待识别语音进行特征提取得到语音特征向量,并对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的交互特征向量,来表示语音特征向量中与文本特征向量最相关的部分特征,并利用所述语音特征向量、所述文本特征向量和所述交互特征向量进行向量融合处理,得到第一融合特征向量,最后将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果,提高了对待识别文本和对应待识别语音中的情绪的表征能力,提高了情绪识别结果的准确性,在金融领域中可以指导客服将准确的情绪识别结果加入到话术推荐模型的考虑范畴内,在解决客户疑问、指导客户交易、提供售后服务等方面具有极高的必要性和实用性,有效提升了金融领域中的服务效率和服务质量。
对应于上文实施例一的情绪识别方法,图3给出了本发明实施例二提供的基于人工智能的情绪识别装置的结构框图,为了便于说明,仅示出了与本发明实施例相关的部分。
参见图3,该情绪识别装置包括:
第一特征提取模块31,用于获取待识别文本和待识别语音,将待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将待识别语音输入至训练好的语音特征提取模型,得到语音特征向量;
第一交互式匹配模块32,用于对文本特征向量和语音特征向量进行交互式匹配处理,以文本特征向量为基础,得到语音特征向量相对于文本特征向量的第一交互特征向量;
第一特征融合模块33,用于利用语音特征向量、文本特征向量和第一交互特征向量进行向量融合处理,得到第一融合特征向量;
第一情绪识别模块34,用于将第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
可选的是,上述第一交互式匹配模块32包括:
第一相似度得分计算子模块,用于计算文本特征向量中各个文本向量元素和语音特征向量中N个语音向量元素之间的相似度得分,其中,N为大于1的整数;
第一相似度得分归一化子模块,用于对各个文本向量元素对应的N个相似度得分进行归一化处理,得到各个文本向量元素对应的N个第一相似度得分;
第一交互特征向量元素确定子模块,用于将各个文本向量元素对应的N个第一相似度得分,分别与对应的N个语音向量元素相乘,并将N个相乘结果相加,确定相加结果为语音特征向量相对于各个文本向量元素的交互特征向量元素;
第一交互特征向量组成子模块,用于根据语音特征向量相对于各个文本向量元素的交互特征向量元素,组成语音特征向量相对于文本特征向量的交互特征向量。
可选的是,上述第一特征融合模块33包括:
第一拼接子模块,用于将文本特征向量和交互特征向量进行拼接融合,得到交互拼接特征向量;
第一池化子模块,用于对语音特征向量进行池化,得到语音池化特征向量;
第一特征融合子模块,用于将交互拼接特征向量和语音池化特征向量进行融合,得到第一融合特征向量。
可选的是,上述第一交互式匹配模块32还包括:
第二交互式匹配模块,用于以所述语音特征向量为基础,得到所述文本特征向量相对于所述语音特征向量的第二交互特征向量。
相应地,上述第一特征融合模块33包括:
第二特征融合子模块,用于利用所述第一交互特征向量、所述第二交互特征向量、所述文本特征向量和所述语音特征向量进行向量融合处理,得到第二融合特征向量。
相应地,上述第一情绪识别模块34包括:
第二情绪识别子模块,用于将所述第二融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
可选的是,上述第二交互式匹配模块包括:
第二相似度得分计算子模块,用于计算语音特征向量中各个语音向量元素和文本特征向量中M个文本向量元素之间的相似度得分,其中,M为大于1的整数;
第二相似度得分归一化子模块,用于对各个语音向量元素对应的M个相似度得分进行归一化处理,得到各个语音向量元素对应的M个第二相似度得分;
第二交互特征向量元素确定子模块,用于将各个语音向量元素对应的M个第二相似度得分,分别与对应的M个文本向量元素相乘,并将M个相乘结果相加,确定相加结果为文本特征向量相对于各个语音向量元素的第二交互特征向量元素;
第二交互特征向量组成子模块,用于根据语音特征向量相对于各个文本向量元素的第二交互特征向量元素,组成语音特征向量相对于文本特征向量的第三交互特征向量。
可选的是,上述第二特征融合子模块包括:
第二拼接单元,用于将文本特征向量和第一交互特征向量进行拼接融合,得到文本交互拼接特征向量;
第三拼接单元,用于将语音特征向量和第二交互特征向量进行拼接融合,得到语音交互拼接特征向量;
第二池化单元,用于对文本交互拼接特征向量进行池化,得到文本交互池化特征向量;
第三池化单元,用于对语音交互拼接特征向量进行池化,得到语音交互池化特征向量;
第二特征融合单元,用于将文本交互池化特征向量和语音交互池化特征向量进行融合,得到第二融合特征向量。
可选的是,以样本文本和样本语音为训练样本,以训练样本的实际情绪类别为训练标签,对文本特征提取模型、语音特征提取模型和情绪分类模型进行训练,上述第二情绪识别子模块包括:
样本特征提取单元,用于将样本文本输入至文本特征提取模型,得到样本文本特征向量,将样本语音输入至语音特征提取模型,得到样本语音特征向量;
样本向量交互式匹配单元,用于对样本文本特征向量和样本语音特征向量输入进行交互式匹配,以样本文本特征向量为基础,得到样本语音特征向量相对于样本文本特征向量的第一样本交互特征向量,以样本语音特征向量为基础,得到样本文本特征向量相对于样本语音特征向量的第二样本交互特征向量;
样本特征融合单元,用于利用第一样本交互特征向量和第二样本交互特征向量进行向量融合处理,得到第二样本融合特征向量;
样本情绪识别单元,用于将第二样本融合特征向量输入至情绪分类模型,得到样本情绪类别;
模型参数修正单元,用于根据样本情绪类别和实际情绪类别计算第二模型损失,采用梯度下降法修正文本特征提取模型、语音特征提取模型和情绪分类模型的参数,直至第二模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
需要说明的是,上述模块之间的信息交互、执行过程等内容,由于与本发明方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
图4为本发明实施例三提供的一种计算机设备的结构示意图。如图4所示,该实施例的计算机设备包括:至少一个处理器(图4中仅示出一个)、存储器以及存储在存储器中并可在至少一个处理器上运行的计算机程序,处理器执行计算机程序时实现上述任意各个情绪识别方法实施例中的步骤。
该计算机设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图4仅仅是计算机设备的举例,并不构成对计算机设备的限定,计算机设备可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括网络接口、显示屏和输入装置等。
所称处理器可以是CPU,该处理器还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
存储器包括可读存储介质、内存储器等,其中,内存储器可以是计算机设备的内存,内存储器为可读存储介质中的操作系统和计算机可读指令的运行提供环境。可读存储介质可以是计算机设备的硬盘,在另一些实施例中也可以是计算机设备的外部存储设备,例如,计算机设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(Secure Digital,SD)卡、闪存卡(Flash Card)等。进一步地,存储器还可以既包括计算机设备的内部存储单元也包括外部存储设备。存储器用于存储操作系统、应用程序、引导装载程序(BootLoader)、数据以及其他程序等,该其他程序如计算机程序的程序代码等。存储器还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述装置中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述方法实施例的步骤。其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质至少可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、计算机存储器、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
本发明实现上述实施例方法中的全部或部分流程,也可以通过一种计算机程序产品来完成,当计算机程序产品在计算机设备上运行时,使得计算机设备执行时实现可实现上述方法实施例中的步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的装置/计算机设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/计算机设备实施例仅仅是示意性的,例如,模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于人工智能的情绪识别方法,其特征在于,所述情绪识别方法包括:
获取待识别文本和待识别语音,将所述待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将所述待识别语音输入至训练好的语音特征提取模型,得到语音特征向量;
对所述文本特征向量和所述语音特征向量进行交互式匹配处理,以所述文本特征向量为基础,得到所述语音特征向量相对于所述文本特征向量的第一交互特征向量;
利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量;
将所述第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
2.根据权利要求1所述的情绪识别方法,其特征在于,所述对所述文本特征向量和所述语音特征向量进行交互式匹配处理,以所述文本特征向量为基础,得到所述语音特征向量相对于所述文本特征向量的第一交互特征向量,包括:
计算所述文本特征向量中各个文本向量元素和所述语音特征向量中N个语音向量元素之间的相似度得分,其中,N为大于1的整数;
对各个所述文本向量元素对应的N个相似度得分进行归一化处理,得到各个所述文本向量元素对应的N个第一相似度得分;
将各个所述文本向量元素对应的N个所述第一相似度得分,分别与对应的N个所述语音向量元素相乘,并将N个相乘结果相加,确定相加结果为所述语音特征向量相对于各个所述文本向量元素的第一交互特征向量元素;
根据所述语音特征向量相对于各个所述文本向量元素的第一交互特征向量元素,组成所述语音特征向量相对于所述文本特征向量的第一交互特征向量。
3.根据权利要求1所述的情绪识别方法,其特征在于,所述利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量,包括:
将所述文本特征向量和所述第一交互特征向量进行拼接融合,得到第一交互拼接特征向量;
对所述语音特征向量进行池化,得到语音池化特征向量;
将所述第一交互拼接特征向量和所述语音池化特征向量进行融合,得到第一融合特征向量。
4.根据权利要求1所述的情绪识别方法,其特征在于,所述对所述文本特征向量和所述语音特征向量进行交互式匹配处理,还包括:
以所述语音特征向量为基础,得到所述文本特征向量相对于所述语音特征向量的第二交互特征向量;
相应地,所述利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量包括:
利用所述第一交互特征向量、所述第二交互特征向量、所述文本特征向量和所述语音特征向量进行向量融合处理,得到第二融合特征向量;
相应地,所述将所述第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果包括:
将所述第二融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
5.根据权利要求4所述的情绪识别方法,其特征在于,所述以所述语音特征向量为基础,得到所述文本特征向量相对于所述语音特征向量的第二交互特征向量,包括:
计算所述语音特征向量中各个语音向量元素和所述文本特征向量中M个文本向量元素之间的相似度得分,其中,M为大于1的整数;
对各个所述语音向量元素对应的M个相似度得分进行归一化处理,得到各个所述语音向量元素对应的M个第二相似度得分;
将各个所述语音向量元素对应的M个所述第二相似度得分,分别与对应的M个所述文本向量元素相乘,并将M个相乘结果相加,确定相加结果为所述文本特征向量相对于各个所述语音向量元素的第二交互特征向量元素;
根据所述语音特征向量相对于各个所述文本向量元素的第二交互特征向量元素,组成所述语音特征向量相对于所述文本特征向量的第二交互特征向量。
6.根据权利要求4所述的情绪识别方法,其特征在于,所述利用所述第一交互特征向量、所述第二交互特征向量、所述文本特征向量和所述语音特征向量进行向量融合处理,得到第二融合特征向量,包括:
将所述文本特征向量和所述第一交互特征向量进行拼接融合,得到第一交互拼接特征向量;
将所述语音特征向量和所述第二交互特征向量进行拼接融合,得到第二交互拼接特征向量;
对所述第一交互拼接特征向量进行池化,得到第一交互池化特征向量;
对所述第二交互拼接特征向量进行池化,得到第二交互池化特征向量;
将所述第一交互池化特征向量和所述第二交互池化特征向量进行融合,得到第二融合特征向量。
7.根据权利要求4所述的情绪识别方法,其特征在于,以样本文本和样本语音为训练样本,以训练样本的实际情绪类别为训练标签,对所述文本特征提取模型、所述语音特征提取模型和所述情绪分类模型进行训练;
所述文本特征提取模型、所述语音特征提取模型和所述情绪分类模型的训练过程包括:
将所述样本文本输入至文本特征提取模型,得到样本文本特征向量,将所述样本语音输入至语音特征提取模型,得到样本语音特征向量;
对所述样本文本特征向量和所述样本语音特征向量输入进行交互式匹配,以所述样本文本特征向量为基础,得到所述样本语音特征向量相对于所述样本文本特征向量的第一样本交互特征向量,以所述样本语音特征向量为基础,得到所述样本文本特征向量相对于所述样本语音特征向量的第二样本交互特征向量;
利用所述第一样本交互特征向量和所述第二样本交互特征向量进行向量融合处理,得到第二样本融合特征向量;
将所述第二样本融合特征向量输入至情绪分类模型,得到样本情绪类别;
根据所述样本情绪类别和所述实际情绪类别计算第二模型损失,采用梯度下降法修正所述文本特征提取模型、所述语音特征提取模型和所述情绪分类模型的参数,直至所述第二模型损失收敛,得到训练好的文本特征提取模型、训练好的语音特征提取模型和训练好的情绪分类模型。
8.一种基于人工智能的情绪识别装置,其特征在于,所述情绪识别装置包括:
第一特征提取模块,用于获取待识别文本和待识别语音,将所述待识别文本输入至训练好的文本特征提取模型,得到文本特征向量,将所述待识别语音输入至训练好的语音特征提取模型,得到语音特征向量;
第一交互式匹配模块,用于对所述文本特征向量和所述语音特征向量进行交互式匹配处理,以所述文本特征向量为基础,得到所述语音特征向量相对于所述文本特征向量的第一交互特征向量;
第一特征融合模块,用于利用所述语音特征向量、所述文本特征向量和所述第一交互特征向量进行向量融合处理,得到第一融合特征向量;
第一情绪识别模块,用于将所述第一融合特征向量输入至训练好的情绪分类模型,得到情绪识别结果。
9.一种计算机设备,其特征在于,所述计算机设备包括处理器、存储器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如权利要求1至7任一项所述的情绪识别方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7任一项所述的情绪识别方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310580365.5A CN116564354A (zh) | 2023-05-19 | 2023-05-19 | 基于人工智能的情绪识别方法、装置、计算机设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310580365.5A CN116564354A (zh) | 2023-05-19 | 2023-05-19 | 基于人工智能的情绪识别方法、装置、计算机设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116564354A true CN116564354A (zh) | 2023-08-08 |
Family
ID=87499871
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310580365.5A Pending CN116564354A (zh) | 2023-05-19 | 2023-05-19 | 基于人工智能的情绪识别方法、装置、计算机设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116564354A (zh) |
-
2023
- 2023-05-19 CN CN202310580365.5A patent/CN116564354A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110147726B (zh) | 业务质检方法和装置、存储介质及电子装置 | |
CN106683680B (zh) | 说话人识别方法及装置、计算机设备及计算机可读介质 | |
CN111695352A (zh) | 基于语义分析的评分方法、装置、终端设备及存储介质 | |
US11113323B2 (en) | Answer selection using a compare-aggregate model with language model and condensed similarity information from latent clustering | |
CN112860841A (zh) | 一种文本情感分析方法、装置、设备及存储介质 | |
CN111462761A (zh) | 声纹数据生成方法、装置、计算机装置及存储介质 | |
CN113807103B (zh) | 基于人工智能的招聘方法、装置、设备及存储介质 | |
CN112671985A (zh) | 基于深度学习的坐席质检方法、装置、设备及存储介质 | |
CN112468659A (zh) | 应用于电话客服的质量评价方法、装置、设备及存储介质 | |
CN113314150A (zh) | 基于语音数据的情绪识别方法、装置及存储介质 | |
CN111368066B (zh) | 获取对话摘要的方法、装置和计算机可读存储介质 | |
CN117278675A (zh) | 一种基于意图分类的外呼方法、装置、设备及介质 | |
CN116844573A (zh) | 基于人工智能的语音情感识别方法、装置、设备及介质 | |
CN112597299A (zh) | 文本的实体分类方法、装置、终端设备和存储介质 | |
CN116680385A (zh) | 基于人工智能的对话问答方法、装置、计算机设备及介质 | |
CN116483979A (zh) | 基于人工智能的对话模型训练方法、装置、设备及介质 | |
CN116450797A (zh) | 基于多模态对话的情感分类方法、装置、设备及介质 | |
CN115080864A (zh) | 基于人工智能的产品推荐方法、装置、计算机设备及介质 | |
CN113704452B (zh) | 基于Bert模型的数据推荐方法、装置、设备及介质 | |
CN116564354A (zh) | 基于人工智能的情绪识别方法、装置、计算机设备及介质 | |
CN113887239A (zh) | 基于人工智能的语句分析方法、装置、终端设备及介质 | |
CN113836297A (zh) | 文本情感分析模型的训练方法及装置 | |
CN111681670A (zh) | 信息识别方法、装置、电子设备及存储介质 | |
CN117076766A (zh) | 基于人工智能的知识缺陷识别方法、装置、设备及介质 | |
CN109325126B (zh) | 语言文本的对象化处理方法、装置及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |