CN111681681A - 语音情绪识别方法、装置、电子设备及存储介质 - Google Patents
语音情绪识别方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN111681681A CN111681681A CN202010445602.3A CN202010445602A CN111681681A CN 111681681 A CN111681681 A CN 111681681A CN 202010445602 A CN202010445602 A CN 202010445602A CN 111681681 A CN111681681 A CN 111681681A
- Authority
- CN
- China
- Prior art keywords
- voice
- voiceprint
- speech
- fused
- user information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 230000008909 emotion recognition Effects 0.000 title claims abstract description 46
- 230000008451 emotion Effects 0.000 claims abstract description 90
- 238000001514 detection method Methods 0.000 claims abstract description 81
- 230000011218 segmentation Effects 0.000 claims abstract description 40
- 239000012634 fragment Substances 0.000 claims abstract description 15
- 230000004927 fusion Effects 0.000 claims abstract description 12
- 230000006870 function Effects 0.000 claims description 32
- 238000012549 training Methods 0.000 claims description 21
- 230000004913 activation Effects 0.000 claims description 16
- 238000011176 pooling Methods 0.000 claims description 14
- 238000012545 processing Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 6
- 230000008859 change Effects 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 4
- 238000009432 framing Methods 0.000 claims description 4
- 238000000605 extraction Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims 1
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 abstract description 2
- 230000000694 effects Effects 0.000 description 7
- 230000001427 coherent effect Effects 0.000 description 6
- 210000002569 neuron Anatomy 0.000 description 6
- 238000007726 management method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 125000002015 acyclic group Chemical group 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 235000009508 confectionery Nutrition 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification techniques
- G10L17/02—Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
- G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Acoustics & Sound (AREA)
- Physics & Mathematics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Signal Processing (AREA)
- Computational Linguistics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Child & Adolescent Psychology (AREA)
- General Health & Medical Sciences (AREA)
- Hospice & Palliative Care (AREA)
- Psychiatry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明涉及人工智能技术,揭露了一种语音情绪识别方法,包括:接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。本发明还涉及区块链技术,所述语音片段可部署于区块链节点中。本发明提升了语音情绪识别的识别能力。
Description
技术领域
本发明涉及人工智能技术领域,尤其涉及一种基于人工智能的语音情绪识别方法、装置、电子设备及计算机可读存储介质。
背景技术
近年来,基于神经网络的音频处理系统促进了语音情绪识别领域的快速发展,但要训练一个在任意情况下能够准确快速识别说话人情绪的模型并不是一件简单的事情。与标准的监督学习分类任务不同的是,说话人情绪识别模型需要对新出现的说话人有着足够鲁棒的识别和分类性能,而在训练的过程中却无法囊括现实中各式各样的说话人,这在很大程度上限制了语音情绪识别的识别能力。
发明内容
本发明提供一种语音情绪识别的方法、装置、电子设备及计算机可读存储介质,其主要目的在于提升语音情绪识别的识别能力。
为实现上述目的,本发明提供的一种语音情绪识别方法,包括:
接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;
根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;
对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;
识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;
利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
可选地,所述语音片段存储于区块链中,及所述分割出所述语音数据的语音片段包括:
获取语音数据的语音信号,对所述语音信号进行分帧处理,得到所述语音信号的语音序列,计算所述语音序列的语音频率,根据所述语音频率,截取在预设范围内的对应语音信号作为所述语音片段。
可选地,所述计算所述语音序列的语音频率,包括:
利用下述方法计算所述语音序列的语音频率:
其中,B(f)表示语音频率,f表示语音序列的预期语音频率。
可选地,所述根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集,包括:
根据所述语音分割点,获取对应语音片段的语音频率,计算所述语音频率的维度参数,根据所述维度参数生成所述标准语音数据的声纹特征,根据所述声纹特征得到所述特征声纹集。
可选地,所述计算所述语音频率的维度参数包括:
利用下述方法计算所述语音频率的维度参数:
其中,d(n)表示语音频率的维度参数,i表示语音频率的帧率,n表示语音频率的振幅,B(f)表示语音频率,k表示当前语音帧与前后语音帧的线性组合。
可选地,所述识别出所述融合声纹集中融合声纹对应的用户信息包括:
利用下述方法识别出所述融合声纹集中融合声纹对应的用户信息:
其中,p(X,Y,Z)表示融合声纹集中融合声纹对应的用户信息、X表示融合声纹集,Y表示用户信息,Z表示用户信息的变化,T表示用户的数量,xt表示第t个用户的融合声纹,yt表示第t个用户信息,xt-1表示第t-1个用户的融合声纹,yt-1表示第t-1个用户信息。
可选地,所述所述语音情绪检测模型包括输入层、卷积层、池化层、全连接层以及输出层;及所述语音情绪检测模型的训练过程包括:
通过所述输入层接收所述预先收集的语音声纹及对应的标签;
通过所述卷积层对所述语音声纹进行卷积操作,得到所述语音声纹的特征向量;
利用所述池化层对所述特征向量进行池化操作,通过所述激活层的激活函数对池化后的所述特征向量进行计算,得到训练值;
利用全连接层的损失函数计算所述训练值和所述标签的损失函数值,若所述损失函数值大于预设的阈值时,对所述语音情绪检测模型的参数进行调整,直至所述损失函数值不大于所述预设的阈值时,得到所述预先训练完成的语音情绪检测模型。
为了解决上述问题,本发明还提供一种语音情绪识别装置,所述装置包括:
分割模块,用于接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;
提取模块,用于根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;
融合模块,用于对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;
识别模块,用于识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;
检测模块,用于利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
为了解决上述问题,本发明还提供一种电子设备,所述电子设备包括:
存储器,存储至少一个指令;及
处理器,执行所述存储器中存储的指令以实现上述中任意一项所述的语音情绪识别的存储方法。
为了解决上述问题,本发明还提供一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一个指令,所述至少一个指令被电子设备中的处理器执行以实现上述中任意一项所述的语音情绪识别方法。
本发明实施例首先分割出语音数据的语音片段,可以提高语音情绪检测的时效性;其次,本发明实施例提取所述语音片段的特征声纹,生成特征声纹集,根据所述特征声纹集可以提高语音情绪检测的效率,对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集,实现了多个用户发出的声音适应于同一个场景,从而提高后续语音情绪检测的识别能力;识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中,增强了后续语音情绪检测的识别效果;进一步地,本发明实施例利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。因此,本发明提出的一种语音情绪识别方法、装置、电子设备以及计算机可读存储介质可以提升语音情绪识别的识别能力。
附图说明
图1为本发明一实施例提供的语音情绪识别方法的流程示意图;
图2为本发明一实施例提供的语音情绪识别方法的模块示意图;
图3为本发明一实施例提供的语音情绪识别方法的电子设备的内部结构示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本申请实施例提供的语音情绪识别方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之,所述语音情绪识别方法可以由安装在终端设备或服务端设备的软件或硬件来执行,所述软件可以是区块链平台。所述服务端包括但不限于:单台服务器、服务器集群、云端服务器或云端服务器集群等。
本发明提供一种语音情绪识别方法。参照图1所示,为本发明一实施例提供的语音情绪识别方法的流程示意图。
在本实施例中,所述语音情绪识别方法包括:
S1、接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点。
本发明较佳实施例中,所述语音数据包括一个或者多个用户在不同场景下所发出的声音,所述场景可以为:厨房、会议室、以及体育馆等。
进一步地,由于所述语音数据包含用户在不同时间段发出的不同声音,因此所述语音数据在不同时间段会存在不同的语音情绪,于是,本发明通过分割出所述语音数据的语音片段,以识别出用户在不同时间段发出声音的语音情绪,提高后续语音情绪识别的精确性。其中,需要强调的是,为进一步保证上述语音片段的私密和安全性,上述语音片段还可以存储于一区块链的节点中。
详细地,所述分割出所述语音数据的语音片段包括:
获取语音数据的语音信号,对所述语音信号进行分帧处理,得到所述语音信号的语音序列,计算所述语音序列的语音频率,根据所述语音频率,截取在预设范围内的对应语音信号作为所述语音片段。
一个可选实施例中,利用交叠分段的方法对所述语音信号进行分帧处理。
一个可选实施例中,利用下述方法计算所述语音序列的语音频率:
其中,B(f)表示语音频率,f表示语音序列的预期语音频率。
一个可选实施例中,所述预设范围为语音频率0-50hz。
进一步地,本发明实施例中在截取的语音片段中标记语音分割点,用以加快后续语音片段的查询,从而提高语音情绪检测的时效性。
S2、根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集。
在本发明的至少一个实施例中,所述特征声纹用以表征语音片段的特征声音,根据提取出特征声纹,可以减少后续语音情绪检测的时间,提高语音情绪检测的效率。
具体的,所述根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集,包括:
根据所述语音分割点,获取对应语音片段的语音频率,计算所述语音频率的维度参数,根据所述维度参数生成所述标准语音数据的声纹特征,根据所述声纹特征得到所述特征声纹集。其中,所述维度参数包括:语调值、语速值等,所述声纹特征包括:平和、连贯以及甜美等。
一个可选实施例中,利用下述方法计算所述语音频率的维度参数:
其中,d(n)表示语音频率的维度参数,i表示语音频率的帧率,n表示语音频率的振幅,B(f)表示语音频率,k表示当前语音帧与前后语音帧的线性组合,通常取值为2,表示当前语音帧与前后2个语音帧的线性组合。
S3、对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集。
本发明实施例中通过对所述特征声纹集中相同的特征声纹进行融合,即对相同的特征声纹进行归并,实现多个用户发出的声音适应于同一个场景,提高后续语音情绪检测的识别能力。
一个可选实施例中,利用当前已知的k-means算法对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集。
S4、识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中。
由于所述融合声纹集中的融合声纹包含不同用户发出的声音,若直接对所述融合声纹集进行语音情绪检测,无法判断出融合声纹集中融合声纹对应的用户信息,限制了语音情绪检测的识别效果,因此,本发明实施例中,识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中,增强了后续语音情绪检测的识别效果。
一个可选实施中,利用下述方法识别出所述融合声纹集中融合声纹对应的用户信息:
其中,p(X,Y,Z)表示融合声纹集中融合声纹对应的用户信息、X表示融合声纹集,Y表示用户信息,Z表示用户信息的变化,T表示用户的数量,xt表示第t个用户的融合声纹,yt表示第t个用户信息,xt-1表示第t-1个用户的融合声纹,yt-1表示第t-1个用户信息。
S5、利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
在本发明的至少一个实施例中,所述预先训练完成的语音情绪检测模型是利用预先收集大量的语音声纹及对应的标签进行训练得到,比如人的情绪在开心时,语音声纹会出现甜美,柔和等特征,于是,本发明实施例将甜美,柔和等语音声建立开心的语音情绪标签;人的情绪在愤怒时,人语音声纹会出现高涨,连贯等特征,于是,本发明实施例将高涨,连贯等特征建立没有愤怒的语音情绪标签。
详细地,本发明实施例中,所述语音情绪检测模型包括输入层、卷积层、池化层、全连接层以及输出层,以及所述语音情绪检测模型的训练过程包括:
通过所述输入层接收所述预先收集的语音声纹及对应的标签,通过所述卷积层对所述语音声纹进行卷积操作,得到所述语音声纹的特征向量,利用所述池化层对所述特征向量进行池化操作,通过所述激活层的激活函数对池化后的所述特征向量进行计算,得到训练值,并利用全连接层的损失函数计算所述训练值和所述标签的损失函数值,若所述损失函数值大于预设的阈值时,对所述语音情绪检测模型的参数进行调整,直至所述损失函数值不大于所述预设的阈值时,得到所述预先训练完成的语音情绪检测模型。优选地,本发明实施例所述预设的阈值为0.1。
其中,所述激活函数包括:
其中,Oj表示激活层第j个神经元的训练值,Ij表示激活层第j个神经元的输入值,t表示激活层神经元的总量,e为无限不循环小数。
所述损失函数包括:
其中,L(s)表示损失函数值,s表示训练值与对应标签值的误差值,k为预先收集语音声纹的数量,yi表示标签值,y′i表示训练值。
进一步地,本发明实施例利用所述预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
综上所述,本发明实施例首先分割出语音数据的语音片段,可以提高语音情绪检测的时效性;其次,本发明实施例提取所述语音片段的特征声纹,生成特征声纹集,根据所述特征声纹集可以提高语音情绪检测的效率,对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集,实现了多个用户发出的声音适应于同一个场景,从而提高后续语音情绪检测的识别能力;识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中,增强了后续语音情绪检测的识别效果;进一步地,本发明实施例利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。因此,本发明提出的一种语音情绪识别方法可以提升语音情绪识别的识别能力。
如图2所示,是本发明语音情绪识别装置的功能模块图。
本发明所述语音情绪识别100可以安装于电子设备中。根据实现的功能,所述语音情绪识别装置可以包括分割模块101、提取模块102、融合模块103、识别模块104以及检测模块105。本发所述模块也可以称之为单元,是指一种能够被电子设备处理器所执行,并且能够完成固定功能的一系列计算机程序段,其存储在电子设备的存储器中。
在本实施例中,关于各模块/单元的功能如下:
所述分割模块101,用于接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点。
本发明较佳实施例中,所述语音数据包括一个或者多个用户在不同场景下所发出的声音,所述场景可以为:厨房、会议室、以及体育馆等。
进一步地,由于所述语音数据包含用户在不同时间段发出的不同声音,因此所述语音数据在不同时间段会存在不同的语音情绪,于是,本发明通过分割出所述语音数据的语音片段,以识别出用户在不同时间段发出声音的语音情绪,提高后续语音情绪识别的精确性。其中,需要强调的是,为进一步保证上述语音片段的私密和安全性,上述语音片段还可以存储于一区块链的节点中。
详细地,所述分割出所述语音数据的语音片段包括:
获取语音数据的语音信号,对所述语音信号进行分帧处理,得到所述语音信号的语音序列,计算所述语音序列的语音频率,根据所述语音频率,截取在预设范围内的对应语音信号作为所述语音片段。
一个可选实施例中,利用交叠分段的方法对所述语音信号进行分帧处理。
一个可选实施例中,利用下述方法计算所述语音序列的语音频率:
其中,B(f)表示语音频率,f表示语音序列的预期语音频率。
一个可选实施例中,所述预设范围为语音频率0-50hz。
进一步地,本发明实施例中在截取的语音片段中标记语音分割点,用以加快后续语音片段的查询,从而提高语音情绪检测的时效性。
所述提取模块102,用于根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集。
在本发明的至少一个实施例中,所述特征声纹用以表征语音片段的特征声音,根据提取出特征声纹,可以减少后续语音情绪检测的时间,提高语音情绪检测的效率。
具体的,所述根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集,包括:
根据所述语音分割点,获取对应语音片段的语音频率,计算所述语音频率的维度参数,根据所述维度参数生成所述标准语音数据的声纹特征,根据所述声纹特征得到所述特征声纹集。其中,所述维度参数包括:语调值、语速值等,所述声纹特征包括:平和、连贯以及甜美等。
一个可选实施例中,利用下述方法计算所述语音频率的维度参数:
其中,d(n)表示语音频率的维度参数,i表示语音频率的帧率,n表示语音频率的振幅,B(f)表示语音频率,k表示当前语音帧与前后语音帧的线性组合,通常取值为2,表示当前语音帧与前后2个语音帧的线性组合。
所述融合模块103,用于对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集。
本发明实施例中通过对所述特征声纹集中相同的特征声纹进行融合,即对相同的特征声纹进行归并,实现多个用户发出的声音适应于同一个场景,提高后续语音情绪检测的识别能力。
一个可选实施例中,利用当前已知的k-means算法对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集。
所述识别模块104,用于识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中。
由于所述融合声纹集中的融合声纹包含不同用户发出的声音,若直接对所述融合声纹集进行语音情绪检测,无法判断出融合声纹集中融合声纹对应的用户信息,限制了语音情绪检测的识别效果,因此,本发明实施例中,识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中,增强了后续语音情绪检测的识别效果。
一个可选实施中,利用下述方法识别出所述融合声纹集中融合声纹对应的用户信息:
其中,p(X,Y,Z)表示融合声纹集中融合声纹对应的用户信息、X表示融合声纹集,Y表示用户信息,Z表示用户信息的变化,T表示用户的数量,xt表示第t个用户的融合声纹,yt表示第t个用户信息,xt-1表示第t-1个用户的融合声纹,yt-1表示第t-1个用户信息。
所述检测模块105,用于利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
在本发明的至少一个实施例中,所述预先训练完成的语音情绪检测模型是利用预先收集大量的语音声纹及对应的标签进行训练得到,比如人的情绪在开心时,语音声纹会出现甜美,柔和等特征,于是,本发明实施例将甜美,柔和等语音声建立开心的语音情绪标签;人的情绪在愤怒时,人语音声纹会出现高涨,连贯等特征,于是,本发明实施例将高涨,连贯等特征建立没有愤怒的语音情绪标签。
详细地,本发明实施例中,所述语音情绪检测模型包括输入层、卷积层、池化层、全连接层以及输出层,以及所述语音情绪检测模型的训练过程包括:
通过所述输入层接收所述预先收集的语音声纹及对应的标签,通过所述卷积层对所述语音声纹进行卷积操作,得到所述语音声纹的特征向量,利用所述池化层对所述特征向量进行池化操作,通过所述激活层的激活函数对池化后的所述特征向量进行计算,得到训练值,并利用全连接层的损失函数计算所述训练值和所述标签的损失函数值,若所述损失函数值大于预设的阈值时,对所述语音情绪检测模型的参数进行调整,直至所述损失函数值不大于所述预设的阈值时,得到所述预先训练完成的语音情绪检测模型。优选地,本发明实施例所述预设的阈值为0.1。
其中,所述激活函数包括:
其中,Oj表示激活层第j个神经元的训练值,Ij表示激活层第j个神经元的输入值,t表示激活层神经元的总量,e为无限不循环小数。
所述损失函数包括:
其中,L(s)表示损失函数值,s表示训练值与对应标签值的误差值,k为预先收集语音声纹的数量,yi表示标签值,y′i表示训练值。
进一步地,本发明实施例利用所述预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
综上所述,本发明实施例首先分割出语音数据的语音片段,可以提高语音情绪检测的时效性;其次,本发明实施例提取所述语音片段的特征声纹,生成特征声纹集,根据所述特征声纹集可以提高语音情绪检测的效率,对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集,实现了多个用户发出的声音适应于同一个场景,从而提高后续语音情绪检测的识别能力;识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中,增强了后续语音情绪检测的识别效果;进一步地,本发明实施例利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。因此,本发明提出的一种语音情绪识别装置可以提升语音情绪识别的识别能力。
如图3所示,是本发明实现语音情绪识别方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线,还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序,如语音情绪识别程序。
其中,所述存储器11至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器(例如:SD或DX存储器等)、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元,例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备,例如电子设备1上配备的插接式移动硬盘、智能存储卡(Smart Media Card,SMC)、安全数字(SecureDigital,SD)卡、闪存卡(Flash Card)等。进一步地,所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据,例如语音情绪识别程序的代码等,还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成,例如可以由单个封装的集成电路所组成,也可以是由多个相同功能或不同功能封装的集成电路所组成,包括一个或者多个中央处理器(Central Processing unit,CPU)、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心(Control Unit),利用各种接口和线路连接整个电子设备的各个部件,通过运行或执行存储在所述存储器11内的程序或者模块(例如执行语音情绪识别程序等),以及调用存储在所述存储器11内的数据,以执行电子设备1的各种功能和处理数据。
所述总线可以是外设部件互连标准(peripheral component interconnect,简称PCI)总线或扩展工业标准结构(extended industry standard architecture,简称EISA)总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图3仅示出了具有部件的电子设备,本领域技术人员可以理解的是,图3示出的结构并不构成对所述电子设备1的限定,可以包括比图示更少或者更多的部件,或者组合某些部件,或者不同的部件布置。
例如,尽管未示出,所述电子设备1还可以包括给各个部件供电的电源(比如电池),优选地,电源可以通过电源管理装置与所述至少一个处理器10逻辑相连,从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等,在此不再赘述。
进一步地,所述电子设备1还可以包括网络接口,可选地,所述网络接口可以包括有线接口和/或无线接口(如WI-FI接口、蓝牙接口等),通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地,该电子设备1还可以包括用户接口,用户接口可以是显示器(Display)、输入单元(比如键盘(Keyboard)),可选地,用户接口还可以是标准的有线接口、无线接口。可选地,在一些实施例中,显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED(Organic Light-Emitting Diode,有机发光二极管)触摸器等。其中,显示器也可以适当的称为显示屏或显示单元,用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解,所述实施例仅为说明之用,在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的语音情绪识别程序12是多个指令的组合,在所述处理器10中运行时,可以实现:
接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;
根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;
对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;
识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;
利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
具体地,所述处理器10对上述指令的具体实现方法可参考图1对应实施例中相关步骤的描述,在此不赘述。
进一步地,所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)。
在本发明所提供的几个实施例中,应该理解到,所揭露的设备,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述模块的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的,作为模块显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。
因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图标记视为限制所涉及的权利要求。
本发明所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
此外,显然“包括”一词不排除其他单元或步骤,单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称,而并不表示任何特定的顺序。
最后应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或等同替换,而不脱离本发明技术方案的精神和范围。
Claims (10)
1.一种语音情绪识别方法,其特征在于,所述方法包括:
接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;
根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;
对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;
识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;
利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
2.如权利要求1所述的语音情绪识别方法,其特征在于,所述语音片段存储于区块链中,及所述分割出所述语音数据的语音片段包括:
获取语音数据的语音信号,对所述语音信号进行分帧处理,得到所述语音信号的语音序列,计算所述语音序列的语音频率,根据所述语音频率,截取在预设范围内的对应语音信号作为所述语音片段。
4.如权利要求1所述的语音情绪识别方法,其特征在于,所述根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集,包括:
根据所述语音分割点,获取对应语音片段的语音频率,计算所述语音频率的维度参数,根据所述维度参数生成所述标准语音数据的声纹特征,根据所述声纹特征得到所述特征声纹集。
7.如权利要求1至6中任意一项所述的语音情绪识别方法,其特征在于,所述语音情绪检测模型包括输入层、卷积层、池化层、全连接层以及输出层;及所述语音情绪检测模型的训练过程包括:
通过所述输入层接收所述预先收集的语音声纹及对应的标签;
通过所述卷积层对所述语音声纹进行卷积操作,得到所述语音声纹的特征向量;
利用所述池化层对所述特征向量进行池化操作,通过所述激活层的激活函数对池化后的所述特征向量进行计算,得到训练值;
利用全连接层的损失函数计算所述训练值和所述标签的损失函数值,若所述损失函数值大于预设的阈值时,对所述语音情绪检测模型的参数进行调整,直至所述损失函数值不大于所述预设的阈值时,得到所述预先训练完成的语音情绪检测模型。
8.一种语音情绪识别装置,其特征在于,所述装置包括:
分割模块,用于接收语音数据,分割出所述语音数据的语音片段,并在所述语音片段中标记语音分割点;
提取模块,用于根据所述语音分割点,提取出所述语音片段的特征声纹,生成特征声纹集;
融合模块,用于对所述特征声纹集中相同的特征声纹进行融合,得到融合声纹集;
识别模块,用于识别出所述融合声纹集中融合声纹对应的用户信息,并将所述用户信息标记至对应的融合声纹中;
检测模块,用于利用预先训练完成的语音情绪检测模型对标记后的所述融合声纹集进行语音情绪检测,得到语音情绪检测结果。
9.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任意一项所述的语音情绪识别方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至7中任意一项所述的语音情绪识别方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010445602.3A CN111681681A (zh) | 2020-05-22 | 2020-05-22 | 语音情绪识别方法、装置、电子设备及存储介质 |
PCT/CN2020/106010 WO2021232594A1 (zh) | 2020-05-22 | 2020-07-30 | 语音情绪识别方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010445602.3A CN111681681A (zh) | 2020-05-22 | 2020-05-22 | 语音情绪识别方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111681681A true CN111681681A (zh) | 2020-09-18 |
Family
ID=72453527
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010445602.3A Pending CN111681681A (zh) | 2020-05-22 | 2020-05-22 | 语音情绪识别方法、装置、电子设备及存储介质 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111681681A (zh) |
WO (1) | WO2021232594A1 (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112232276A (zh) * | 2020-11-04 | 2021-01-15 | 赵珍 | 一种基于语音识别和图像识别的情绪检测方法和装置 |
CN112786054A (zh) * | 2021-02-25 | 2021-05-11 | 深圳壹账通智能科技有限公司 | 基于语音的智能面试评估方法、装置、设备及存储介质 |
CN113113048A (zh) * | 2021-04-09 | 2021-07-13 | 平安科技(深圳)有限公司 | 语音情绪识别方法、装置、计算机设备及介质 |
CN113378226A (zh) * | 2021-06-24 | 2021-09-10 | 平安普惠企业管理有限公司 | 生物数据处理方法、装置、设备及计算机可读存储介质 |
CN113422876A (zh) * | 2021-06-24 | 2021-09-21 | 广西电网有限责任公司 | 基于ai的电力客服中心辅助管理方法、系统及介质 |
CN113674755A (zh) * | 2021-08-19 | 2021-11-19 | 北京百度网讯科技有限公司 | 语音处理方法、装置、电子设备和介质 |
CN114898775A (zh) * | 2022-04-24 | 2022-08-12 | 中国科学院声学研究所南海研究站 | 一种基于跨层交叉融合的语音情绪识别方法及系统 |
CN117041807A (zh) * | 2023-10-09 | 2023-11-10 | 深圳市迪斯声学有限公司 | 蓝牙耳机播放控制方法 |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114093389B (zh) * | 2021-11-26 | 2023-03-28 | 重庆凡骄网络科技有限公司 | 语音情绪识别方法、装置、电子设备和计算机可读介质 |
CN114387997B (zh) * | 2022-01-21 | 2024-03-29 | 合肥工业大学 | 一种基于深度学习的语音情感识别方法 |
CN116528438B (zh) * | 2023-04-28 | 2023-10-10 | 广州力铭光电科技有限公司 | 一种灯具的智能调光方法和装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709402A (zh) * | 2015-11-16 | 2017-05-24 | 优化科技(苏州)有限公司 | 基于音型像特征的真人活体身份验证方法 |
US20180144742A1 (en) * | 2016-11-18 | 2018-05-24 | Baidu Online Network Technology (Beijing) Co., Ltd | Method and apparatus for processing voice data |
CN109256136A (zh) * | 2018-08-31 | 2019-01-22 | 三星电子(中国)研发中心 | 一种语音识别方法和装置 |
CN109448728A (zh) * | 2018-10-29 | 2019-03-08 | 苏州工业职业技术学院 | 融合情感识别的多方会话可视化方法和系统 |
CN110222719A (zh) * | 2019-05-10 | 2019-09-10 | 中国科学院计算技术研究所 | 一种基于多帧音视频融合网络的人物识别方法及系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5708155B2 (ja) * | 2011-03-31 | 2015-04-30 | 富士通株式会社 | 話者状態検出装置、話者状態検出方法及び話者状態検出用コンピュータプログラム |
US10037767B1 (en) * | 2017-02-01 | 2018-07-31 | Wipro Limited | Integrated system and a method of identifying and learning emotions in conversation utterances |
CN107452385A (zh) * | 2017-08-16 | 2017-12-08 | 北京世纪好未来教育科技有限公司 | 一种基于语音的数据评价方法及装置 |
TWI654600B (zh) * | 2017-11-29 | 2019-03-21 | 隆宸星股份有限公司 | 語音情緒辨識系統與方法以及使用其之智慧型機器人 |
CN109256150B (zh) * | 2018-10-12 | 2021-11-30 | 北京创景咨询有限公司 | 基于机器学习的语音情感识别系统及方法 |
CN109451188B (zh) * | 2018-11-29 | 2022-03-18 | 平安科技(深圳)有限公司 | 差异性自助应答的方法、装置、计算机设备和存储介质 |
-
2020
- 2020-05-22 CN CN202010445602.3A patent/CN111681681A/zh active Pending
- 2020-07-30 WO PCT/CN2020/106010 patent/WO2021232594A1/zh active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709402A (zh) * | 2015-11-16 | 2017-05-24 | 优化科技(苏州)有限公司 | 基于音型像特征的真人活体身份验证方法 |
US20180144742A1 (en) * | 2016-11-18 | 2018-05-24 | Baidu Online Network Technology (Beijing) Co., Ltd | Method and apparatus for processing voice data |
CN109256136A (zh) * | 2018-08-31 | 2019-01-22 | 三星电子(中国)研发中心 | 一种语音识别方法和装置 |
CN109448728A (zh) * | 2018-10-29 | 2019-03-08 | 苏州工业职业技术学院 | 融合情感识别的多方会话可视化方法和系统 |
CN110222719A (zh) * | 2019-05-10 | 2019-09-10 | 中国科学院计算技术研究所 | 一种基于多帧音视频融合网络的人物识别方法及系统 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112232276A (zh) * | 2020-11-04 | 2021-01-15 | 赵珍 | 一种基于语音识别和图像识别的情绪检测方法和装置 |
CN112232276B (zh) * | 2020-11-04 | 2023-10-13 | 上海企创信息科技有限公司 | 一种基于语音识别和图像识别的情绪检测方法和装置 |
CN112786054A (zh) * | 2021-02-25 | 2021-05-11 | 深圳壹账通智能科技有限公司 | 基于语音的智能面试评估方法、装置、设备及存储介质 |
CN112786054B (zh) * | 2021-02-25 | 2024-06-11 | 深圳壹账通智能科技有限公司 | 基于语音的智能面试评估方法、装置、设备及存储介质 |
CN113113048B (zh) * | 2021-04-09 | 2023-03-10 | 平安科技(深圳)有限公司 | 语音情绪识别方法、装置、计算机设备及介质 |
CN113113048A (zh) * | 2021-04-09 | 2021-07-13 | 平安科技(深圳)有限公司 | 语音情绪识别方法、装置、计算机设备及介质 |
CN113378226A (zh) * | 2021-06-24 | 2021-09-10 | 平安普惠企业管理有限公司 | 生物数据处理方法、装置、设备及计算机可读存储介质 |
CN113422876B (zh) * | 2021-06-24 | 2022-05-10 | 广西电网有限责任公司 | 基于ai的电力客服中心辅助管理方法、系统及介质 |
CN113422876A (zh) * | 2021-06-24 | 2021-09-21 | 广西电网有限责任公司 | 基于ai的电力客服中心辅助管理方法、系统及介质 |
CN113674755A (zh) * | 2021-08-19 | 2021-11-19 | 北京百度网讯科技有限公司 | 语音处理方法、装置、电子设备和介质 |
CN113674755B (zh) * | 2021-08-19 | 2024-04-02 | 北京百度网讯科技有限公司 | 语音处理方法、装置、电子设备和介质 |
CN114898775A (zh) * | 2022-04-24 | 2022-08-12 | 中国科学院声学研究所南海研究站 | 一种基于跨层交叉融合的语音情绪识别方法及系统 |
CN114898775B (zh) * | 2022-04-24 | 2024-05-28 | 中国科学院声学研究所南海研究站 | 一种基于跨层交叉融合的语音情绪识别方法及系统 |
CN117041807A (zh) * | 2023-10-09 | 2023-11-10 | 深圳市迪斯声学有限公司 | 蓝牙耳机播放控制方法 |
CN117041807B (zh) * | 2023-10-09 | 2024-01-26 | 深圳市迪斯声学有限公司 | 蓝牙耳机播放控制方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2021232594A1 (zh) | 2021-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111681681A (zh) | 语音情绪识别方法、装置、电子设备及存储介质 | |
CN112447189A (zh) | 语音事件检测方法、装置、电子设备及计算机存储介质 | |
CN113903363B (zh) | 基于人工智能的违规行为检测方法、装置、设备及介质 | |
WO2023273628A1 (zh) | 一种视频循环识别方法、装置、计算机设备及存储介质 | |
CN112527994A (zh) | 情绪分析方法、装置、设备及可读存储介质 | |
CN113064994A (zh) | 会议质量评估方法、装置、设备及存储介质 | |
CN114677650B (zh) | 地铁乘客行人违法行为智能分析方法及装置 | |
CN112328657A (zh) | 特征衍生方法、装置、计算机设备及介质 | |
CN112233700A (zh) | 基于音频的用户状态识别方法、装置及存储介质 | |
CN113205814A (zh) | 语音数据标注方法、装置、电子设备及存储介质 | |
CN115471775A (zh) | 基于录屏视频的信息验证方法、装置、设备及存储介质 | |
CN113793620B (zh) | 基于场景分类的语音降噪方法、装置、设备及存储介质 | |
CN114639152A (zh) | 基于人脸识别的多模态语音交互方法、装置、设备及介质 | |
CN114610855A (zh) | 对话回复生成方法、装置、电子设备及存储介质 | |
CN114155832A (zh) | 基于深度学习的语音识别方法、装置、设备及介质 | |
CN113254814A (zh) | 网络课程视频打标签方法、装置、电子设备及介质 | |
CN112542172A (zh) | 基于在线会议的沟通辅助方法、装置、设备及介质 | |
CN112329666A (zh) | 人脸识别方法、装置、电子设备及存储介质 | |
CN114943306A (zh) | 意图分类方法、装置、设备及存储介质 | |
CN114548114A (zh) | 文本情绪识别方法、装置、设备及存储介质 | |
CN114006986A (zh) | 外呼合规预警方法、装置、设备及存储介质 | |
CN112071331B (zh) | 语音文件修复方法、装置、计算机设备及存储介质 | |
CN113706207A (zh) | 基于语义解析的订单成交率分析方法、装置、设备及介质 | |
CN113902404A (zh) | 基于人工智能的员工晋升分析方法、装置、设备及介质 | |
CN112712797A (zh) | 语音识别方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20200918 |
|
WD01 | Invention patent application deemed withdrawn after publication |