CN114420135A - 基于注意力机制的声纹识别方法及装置 - Google Patents
基于注意力机制的声纹识别方法及装置 Download PDFInfo
- Publication number
- CN114420135A CN114420135A CN202111516460.6A CN202111516460A CN114420135A CN 114420135 A CN114420135 A CN 114420135A CN 202111516460 A CN202111516460 A CN 202111516460A CN 114420135 A CN114420135 A CN 114420135A
- Authority
- CN
- China
- Prior art keywords
- feature
- features
- target
- frame
- level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000007246 mechanism Effects 0.000 title claims abstract description 22
- 238000001914 filtration Methods 0.000 claims abstract description 29
- 238000000605 extraction Methods 0.000 claims abstract description 28
- 238000011176 pooling Methods 0.000 claims description 27
- 238000013528 artificial neural network Methods 0.000 claims description 24
- 239000013598 vector Substances 0.000 claims description 18
- 230000004913 activation Effects 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 7
- 230000003111 delayed effect Effects 0.000 claims description 4
- 230000006870 function Effects 0.000 description 39
- 239000010410 layer Substances 0.000 description 38
- 238000010586 diagram Methods 0.000 description 11
- 238000013527 convolutional neural network Methods 0.000 description 9
- 238000004590 computer program Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000012935 Averaging Methods 0.000 description 3
- 101150064138 MAP1 gene Proteins 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009901 attention process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000003795 chemical substances by application Substances 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification
- G10L17/02—Preprocessing operations, e.g. segment selection; Pattern representation or modelling, e.g. based on linear discriminant analysis [LDA] or principal components; Feature selection or extraction
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification
- G10L17/04—Training, enrolment or model building
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L17/00—Speaker identification or verification
- G10L17/18—Artificial neural networks; Connectionist approaches
Abstract
本发明公开的实施例公开了基于注意力机制的声纹识别方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:获取目标声学特征;将目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;对帧级别语音特征进行过滤,得到目标语音特征;基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。该实施方式使声学特征充分的展现并且有效利用,使得最后生成的结果更加精确。
Description
技术领域
本发明公开的实施例涉及计算机技术领域,具体涉及基于注意力机制的声纹识别方法、装置、电子设备和计算机可读介质。
背景技术
声纹识别作为生物识别技术的一种,也称为说话人验证。说话人验证的任务通常是通过评估注册与测试话语之间的相似度来决定是否接受说话者的身份信息。
现有的说话人验证方法通常有两个步骤。第一步为提取说话者信息,即说话人嵌入向量,其目的是从可变长度话语中提取固定长度向量。第二步为评分,旨在计算说话人嵌入向量之间的相似度。这些方法往往需要大量的样本支撑,并且识别结果的精度较差。
发明内容
本发明公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本发明公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本发明公开的一些实施例提出了基于注意力机制的声纹识别的方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题。
第一方面,本发明公开的一些实施例提供了一种基于注意力机制的声纹识别的方法,该方法包括:获取目标声学特征;将所述目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;对所述帧级别语音特征进行过滤,得到目标语音特征;基于所述目标语音特征、归一化指数函数和目标特征库,生成所述目标声学特征对应的识别结果。
第二方面,本发明公开的一些实施例提供了一种基于注意力机制的声纹识别装置,装置包括:获取单元,被配置成获取目标声学特征;提取单元,被配置成将所述目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;过滤单元,被配置成对所述帧级别语音特征进行过滤,得到目标语音特征;生成单元,被配置成基于所述目标语音特征、归一化指数函数和目标特征库,生成所述目标声学特征对应的识别结果。
第三方面,本申请实施例提供了一种电子设备,该网络设备包括:一个或多个处理器;存储装置,用于存储一个或多个程序;当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本申请实施例提供了一种计算机可读介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本发明公开的上述各个实施例中的一个实施例具有如下有益效果:将获取的目标声学特征输入至预先训练的帧级别特征提取网络,以得到帧级别语音特征,再对帧级别语音特征进行过滤,得到目标语音特征,最后基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。从而使目标声学特征充分的展现并且有效利用,减少样本量的同时又使得最后生成的结果更加精确。
附图说明
结合附图并参考以下具体实施方式,本发明公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是根据本发明公开的一些实施例的基于注意力机制的声纹识别方法的一个应用场景的示意图;
图2是根据本发明公开的基于注意力机制的声纹识别方法的一些实施例的流程图;
图3是根据本发明公开的基于注意力机制的声纹识别装置的一些实施例的结构示意图;
图4是适于用来实现本发明公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本发明公开的实施例。虽然附图中显示了本发明公开的某些实施例,然而应当理解的是,本发明公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本发明公开。应当理解的是,本发明公开的附图及实施例仅用于示例性作用,并非用于限制本发明公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本发明公开中的实施例及实施例中的特征可以相互组合。
需要注意,本发明公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本发明公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本发明公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本发明公开。
图1是根据本发明公开一些实施例的基于注意力机制的声纹识别方法的一个应用场景的示意图。
如图1所示,首先,基于注意力机制的声纹识别方法的执行主体服务器101可以从本地预存或者网络上获取目标声学特征1011。之后,服务器101可以提取上述目标声学特征1011的帧级别语音特征1012。接下来,上述执行主体可以对上述帧级别语音特征1012进行过滤以得到目标语音特征1013。最后基于上述目标语音特征1013、归一化指数函数1014和目标特征库1015,生成上述目标声学特征1011对应的识别结果1016。
可以理解的是,基于注意力机制的声纹识别方法可以是由终端设备101来执行,或者也可以是由服务器来执行,上述方法的执行主体还可以包括上述终端设备101与上述服务器通过网络相集成所构成的设备,或者还可以是各种软件程序来执行。其中,终端设备101可以是具有信息处理能力的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、膝上型便携计算机和台式计算机等等。此外,执行主体也可以体现为服务器、软件等。当执行主体为软件时,可以安装在上述所列举的电子设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的终端设备数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备。
继续参考图2,示出了根据本发明公开的基于注意力机制的声纹识别方法的一些实施例的流程200。该基于注意力机制的声纹识别方法,包括以下步骤:
步骤201,获取目标声学特征。
在一些实施例中,基于注意力机制的声纹识别方法的执行主体(例如图1所示的服务器)可以通过有线连接方式或者无线连接方式获取目标声学特征。在这里,上述目标声学特征通常是指用户预先选定或输入的声纹特征。需要指出的是,上述无线连接方式可以包括但不限于3G/4G连接、WiFi连接、蓝牙连接、WiMAX连接、Zigbee连接、UWB(ultrawideband)连接、以及其他现在已知或将来开发的无线连接方式。
步骤202,将目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征。
在一些实施例中,上述执行主体可以将目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征。在这里,上述帧级别特征提取网络通常是指卷积神经网络。卷积神经网络(Convolutional Neural Networks,CNN)通常是指包含卷积计算且具有深度结构的前馈神经网络(Feedforward Neural Networks)。需要注意的是,上述卷积神经网络可以是多层或单层。
作为示例,上述帧级别特征提取网络可以用于表征记录有目标声学特征与帧级别语音特征之间的对应关系,电子设备可以通过多种方式训练出可以表征目标声学特征与帧级别语音特征的对应关系的帧级别特征提取网络,在此不再赘述。需要注意的是,上述帧级别语音特征可以是某一帧的语音特征,也可以是多个帧的语音特征。
在一些实施例的一些可选的实现方式中,上述帧级别特征提取网络包括一层或多层延时神经网络层和一层或多层全连接层,所述延时神经网络层和全连接层交替设置。
在这里,上述延时神经网络层(Time Delay Neural Network,TDNN),通常是指应用于语音识别问题的卷积神经网络,使用经过预处理的语音信号作为输入,其隐含层由2个一维卷积核组成的网络。
作为示例,上述帧级别特征提取网络可以是由多延时神经网络层和多层全连接层一层一层相连接组成的。
这样通过多层延时神经网络层和多层全连接层一一相连使网络结构得到扩展,神经网络的拟合力也得到了增强,神经网络也可以对特征更深入的拟合。
在一些实施例的一些可选的实现方式中,上述至少一层延时神经网络层中的每层延时神经网络层的参数矩阵被分解为至少两个参数矩阵。作为示例,可以对延时神经网络层的权重矩阵进行正交分解来减小每层延时神经网络层的参数量。
这样就可以在整体参数量相近的情况下,更好的利用网络深度带来的优势,以此来控制每层中参数的变化速度,使训练更稳定,提升神经网络的性能。
作为示例,上述帧级别特征提取网络可以是EFTDNN模型,即对TDNN的优化改进,利用奇异值分解将参数矩阵分解为两个更小的矩阵相乘的形式,从而减少参数,以便利用更深的网络提取表达能力更强的特征;并且要求其中一个矩阵半正定化,使得参数矩阵随机初始化时训练不至于发散;此外,FTDNN在算法中引入了dropout、skip-connection、3-stages convolution等tricks,配合4-gram的语言模型,使得该算法的效果,优于TDNN、TDNN-LSTM等结构,并且解码速度更快。
EFTDNN则在FTDNN的基础上,通过在每两层FTDNN层之间添加线型层来增加网络深度和参数量提升模型的性能。
步骤203,对帧级别语音特征进行过滤,得到目标语音特征。
在一些实施例中,上述执行主体可以对上述帧级别语音特征进行过滤,以得到目标语音特征。作为示例,上述执行主体可以将上述帧级别语音特征输入至池化网络对上述帧级别语音特征进行过滤,以得到目标语音特征。
在这里,上述池化网络通常是指卷积神经网络进行特征提取后,输出的特征会被传递至池化网络进行特征选择和信息过滤,池化网络通常包含预设定的池化函数,其功能是将特征中单个点的结果替换为其相邻区域的特征统计量。相应的,上述目标语音特征通常是指经过特征选择和/或信息过滤后的特征统计量。
在一些实施例的一些可选的实现方式中,上述执行主体可以确定所述帧级别语音特征的通道注意特征。在这里,上述通道注意特征通常是指考察根据特征的通道的权重所提取得到的特征。作为示例,上述执行主体可以通过SE-block(Sequeze and Excitation)模块来确定上述帧级别语音特征的通道注意特征。
作为示例,SE-block模块输入的可以是一个h*w*c的特征图,首先对上述特征图进行全局池化操作我们可以得到一个1*1*c的特征图,然后将上述1*1*c的特征图输入至两个全连接层,第一个全连接层的神经元个数可以是16分之c个,这样就可以对上述1*1*c的特征图进行降纬,再将降纬后的特征图输入至具有c个神经元的第二个全连接层,这样特征图就又进行了升纬。这样做的好处是增加了更多的非线性处理过程,可以拟合通道之间复杂的相关性。然后再接一个sigmod层对经过两层全连接层的特征图进行线性变换,得到1*1*c的特征图,最后用原始的h*w*c的特征图和1*1*c的特征图相乘。相乘后可以得到不同通道的重要性不一样的特征图。在这里,上述h*w*c用于表征特征图的尺寸。
之后,对所述通道注意特征进行空间维度的平均池化,得到空间维度的平均合并特征。在这里,上述平均池化通常是指对邻域内特征点求平均值的方式。
对所述通道注意特征进行空间维度的最大池化,得到空间维度的最大合并特征。在这里,上述最大池化通常是指对邻域内特征点取最大值的方式。
将所述空间维度的平均合并特征和所述空间维度的最大合并特征输入至卷积模块,得到合并后的空间维度特征向量。在这里,上述卷积模块通常是指图像处理时,给定输入图像,输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素,其中权值由一个函数定义,这个函数称为卷积核或卷积模块。
接着,利用目标激活函数,确定所述空间维度特征向量的空间维度注意权重。在这里,上述激活函数通常是指Sigmoid函数。
最后,根据所述过滤特征和所述空间维度注意权重,得到所述目标语音特征。作为示例,上述执行主体可以根据一下公式确定上述目标语音特征:
在一些实施例的一些可选的实现方式中,上述执行主体可以利用预先训练的卷积模块对所述帧级别语音特征进行过滤,得到过滤特征。在这里,上述卷积模块通常是指图像处理时,给定输入图像,输入图像中一个小区域中像素加权平均后成为输出图像中的每个对应像素,其中权值由一个函数定义,这个函数称为卷积核或卷积模块。
对所述帧级别语音特征进行通道维度的平均池化,得到通道维度的平均合并特征。对所述帧级别语音特征进行通道维度的最大池化,得到通道维度的最大合并特征。
将所述通道维度的平均合并特征和所述通道维度的最大合并特征输入至多层感知器,得到合并后的通道维度特征向量。在这里,上述多层感知器(MLP,MultilayerPerceptron)通常是指一种前馈人工神经网络模型,能将输入的多个数据集映射到单一的输出的数据集上。
利用目标激活函数,确定所述通道维度特征向量的一维通道注意权重。在这里,上述目标激活函数通常是指sigmoid函数。在这里,上述Sigmoid函数通常是指一种常见的S型函数,也称为S型生长曲线。
根据所述过滤特征和所述一维通道注意力权重,得到通道注意特征。在这里,上述之执行主体可以将上述具有一维通道注意力权重的过滤特征进行逐元素求和来合并出通道注意特征。
作为示例,上述过程可以描述为:数据我们选用的是语音的MFCC特征,这是语音识别系统常用的特征。模型上,我们以延时神经网络层为基线系统。先对比FTDNN和TDNN网络的性能差异,通过拓展网络深度得到了EFTDNN网络。此外我们联合CBAM和EFTDNN网络,将CBAM嵌入到EFTDNN网络中。在说话人识别任务上,在性能上有了较大的进步。
卷积块注意力机制(CBAM)是通道注意力和空间注意力机制的结合。在CBAM中,我们使特征先通过通道注意力机制,然后再进行空间注意力机制。形式上,CNN特征由F∈RC×W×H作为输入,CBAM推断一维通道注意权重F∈RC×1×1和2D空间注意权重F∈R1×W×H。总体关注过程可以概括为:
通道注意力机制
通道注意模块利用特征之间的通道关系,首先执行全局池化,即通过最大池化层和平均池化层压缩输入特征的空间大小,以生成两个不同的空间上下文描述符:和分别表示平均合并特征和最大合并特征。两个描述符都发送到由多层感知器(MLP)和隐藏层组成的共享网络。在将共享网络应用于每个描述符之后,我们使用逐元素求和来合并输出特征向量。
具体的计算公式如下所示:
Mc(F)=σ(x1+x2)
这里σ表示sigmoid激活函数,x1和x2分别定义了MLP中的平均池化权重和最大池化权重。
这里W0、W1分别代表MLP的权重。
空间注意力机制
我们使用要素之间的空间关系来产生空间注意力。沿通道轴应用合并操作显示了有效突出显示信息区域的效果。
具体公式如下:
这里σ表示sigmoid激活函数,γ表示7*7的卷机核。
步骤204,基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。
在一些实施例中,上述执行主体可以基于归一化指数函数、目标语音特征和目标特征库生成上述目标声学特征对应的识别结果。作为示例,上述执行主体可以通过归一化指数函数确定目标语音特征在上述目标特征库中对应的语音特征的说话人标签,并将上述说话人标签作为识别结果。在这里,上述目标特征库通常是指包含上述目标声学特征对应的说话人语音特征的特征库。
在一些实施例的一些可选的实现方式中,上述执行主体还可以将上述目标语音特征与目标特征库中的目标特征进行比对,得到比对结果。在这里,上述比对可以利用归一化指数函数将第二目标特征和目标特征库中的目标特征进行比对,以得到比对结果。
在这里,上述比对结果有多种。作为示例,上述比对结果可以是相同或相似或相似度等。上述目标特征通常是指上述目标语音特征经过上述至少一层卷积神经网络后得到的期望输出。
根据上述比对结果,对上述帧级别特征提取网络的参数进行调整。作为示例,上述参数调整可以是修改帧级别提取网络中的函数的相关数据。
本发明公开的上述各个实施例中的一个实施例具有如下有益效果:将获取的目标声学特征输入至预先训练的帧级别特征提取网络,以得到帧级别语音特征,再对帧级别语音特征进行过滤,得到目标语音特征,最后基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。从而使目标声学特征充分的展现并且有效利用,减少样本量的同时又使得最后生成的结果更加精确。
进一步参考图3,作为对上述各图所示方法的实现,本发明公开提供了一种基于注意力机制的声纹识别装置的一些实施例,这些装置实施例与图2所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图3所示,一些实施例的基于注意力机制的声纹识别装置300包括:接收单元301、解析单元302、信息选取单元303和生成单元304。其中,获取单元301,被配置成获取目标声学特征;提取单元302,被配置成将所述目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;过滤单元303,被配置成对所述帧级别语音特征进行过滤,得到目标语音特征;生成单元304,被配置成基于所述目标语音特征、归一化指数函数和目标特征库,生成所述目标声学特征对应的识别结果。
在一些实施例的可选实现方式中,上述帧级别特征提取网络包括一层或多层延时神经网络层和一层或多层全连接层,所述延时神经网络层和全连接层交替设置。
在一些实施例的可选实现方式中,上述至少一层延时神经网络层中的每层延时神经网络层的参数矩阵被分解为至少两个参数矩阵。
在一些实施例的可选实现方式中,上述过滤单元被进一步的配置成:确定所述帧级别语音特征的通道注意特征;对所述通道注意特征进行空间维度的平均池化,得到空间维度的平均合并特征;对所述通道注意特征进行空间维度的最大池化,得到空间维度的最大合并特征;将所述空间维度的平均合并特征和所述空间维度的最大合并特征输入至卷积模块,得到合并后的空间维度特征向量;利用目标激活函数,确定所述空间维度特征向量的空间维度注意权重;根据所述过滤特征和所述空间维度注意权重,得到所述目标语音特征。
在一些实施例的可选实现方式中,上述过滤单元被进一步的配置成:利用预先训练的卷积模块对所述帧级别语音特征进行过滤,得到过滤特征;对所述帧级别语音特征进行通道维度的平均池化,得到通道维度的平均合并特征;对所述帧级别语音特征进行通道维度的最大池化,得到通道维度的最大合并特征;将所述通道维度的平均合并特征和所述通道维度的最大合并特征输入至多层感知器,得到合并后的通道维度特征向量;利用目标激活函数,确定所述通道维度特征向量的一维通道注意权重;根据所述过滤特征和所述一维通道注意力权重,得到通道注意特征。
在一些实施例的可选实现方式中,上述基于注意力机制的声纹识别装置还包括调整单元配置用于将所述目标语音特征与目标特征库中的目标特征进行比对,得到比对结果;根据所述比对结果,对所述帧级别特征提取网络的参数进行调整。
可以理解的是,该装置300中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置300及其中包含的单元,在此不再赘述。
本发明公开的上述各个实施例中的一个实施例具有如下有益效果:将获取的目标声学特征输入至预先训练的帧级别特征提取网络,以得到帧级别语音特征,再对帧级别语音特征进行过滤,得到目标语音特征,最后基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。从而使目标声学特征充分的展现并且有效利用,减少样本量的同时又使得最后生成的结果更加精确。
下面参考图4,其示出了适于用来实现本发明公开的一些实施例的电子设备(例如图1中的服务器)400的结构示意图。本发明公开的一些实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图4示出的电子设备仅仅是一个示例,不应对本发明公开的实施例的功能和使用范围带来任何限制。
如图4所示,电子设备400可以包括处理装置(例如中央处理器、图形处理器等)401,其可以根据存储在只读存储器(ROM)402中的程序或者从存储装置408加载到随机访问存储器(RAM)403中的程序而执行各种适当的动作和处理。在RAM 403中,还存储有电子设备400操作所需的各种程序和数据。处理装置401、ROM 402以及RAM403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。
通常,以下装置可以连接至I/O接口405:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置406;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置407;包括例如磁带、硬盘等的存储装置408;以及通信装置409。通信装置409可以允许电子设备400与其他设备进行无线或有线通信以交换数据。虽然图4示出了具有各种装置的电子设备400,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图4中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本发明公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置409从网络上被下载和安装,或者从存储装置408被安装,或者从ROM 402被安装。在该计算机程序被处理装置401执行时,执行本发明公开的一些实施例的方法中限定的上述功能。
需要说明的是,本发明公开的一些实施例所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取目标声学特征;将目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;对帧级别语音特征进行过滤,得到目标语音特征;基于目标语音特征、归一化指数函数和目标特征库,生成目标声学特征对应的识别结果。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明公开的一些实施例的操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、提取单元、过滤单元和生成单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取目标声学特征的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本发明公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本发明公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本发明公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (10)
1.一种基于注意力机制的声纹识别的方法,包括:
S201,获取目标声学特征;
S202,将所述目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;
S203,对所述帧级别语音特征进行过滤,得到目标语音特征;
S204,基于所述目标语音特征、归一化指数函数和目标特征库,生成所述目标声学特征对应的识别结果。
2.根据权利要求1所述的方法,其中,所述帧级别特征提取网络包括一层或多层延时神经网络层和一层或多层全连接层,所述延时神经网络层和全连接层交替设置。
3.根据权利要求2所述的方法,其中,所述至少一层延时神经网络层中的每层延时神经网络层的参数矩阵被分解为至少两个参数矩阵。
4.根据权利要求1所述的方法,其中,所述对所述帧级别语音特征进行过滤,得到目标语音特征的步骤包括:
确定所述帧级别语音特征的通道注意特征;
对所述通道注意特征进行空间维度的平均池化,得到空间维度的平均合并特征;
对所述通道注意特征进行空间维度的最大池化,得到空间维度的最大合并特征;
将所述空间维度的平均合并特征和所述空间维度的最大合并特征输入至卷积模块,得到合并后的空间维度特征向量;
利用目标激活函数,确定所述空间维度特征向量的空间维度注意权重;
根据所述过滤特征和所述空间维度注意权重,得到所述目标语音特征。
5.根据权利要求4所述的方法,其中,所述确定所述帧级别语音特征的通道注意特征的步骤包括:
利用预先训练的卷积模块对所述帧级别语音特征进行过滤,得到过滤特征;
对所述帧级别语音特征进行通道维度的平均池化,得到通道维度的平均合并特征;
对所述帧级别语音特征进行通道维度的最大池化,得到通道维度的最大合并特征;
将所述通道维度的平均合并特征和所述通道维度的最大合并特征输入至多层感知器,得到合并后的通道维度特征向量;
利用目标激活函数,确定所述通道维度特征向量的一维通道注意权重;
根据所述过滤特征和所述一维通道注意力权重,得到通道注意特征。
6.根据权利要求1-5之一所述的方法,其中,所述方法还包括:
将所述目标语音特征与目标特征库中的目标特征进行比对,得到比对结果;
根据所述比对结果,对所述帧级别特征提取网络的参数进行调整。
7.一种用于声纹识别的装置,包括:
获取单元301,被配置成获取目标声学特征;
提取单元302,被配置成将所述目标声学特征输入至预先训练的帧级别特征提取网络,得到帧级别语音特征;
过滤单元303,被配置成对所述帧级别语音特征进行过滤,得到目标语音特征;
生成单元304,被配置成基于所述目标语音特征、归一化指数函数和目标特征库,生成所述目标声学特征对应的识别结果。
8.根据权利要求7所述的装置,其中,所述帧级别特征提取网络包括一层或多层延时神经网络层和一层或多层全连接层,所述延时神经网络层和全连接层交替设置。
9.根据权利要求8所述的装置,其中,所述至少一层延时神经网络层中的每层延时神经网络层的参数矩阵被分解为至少两个参数矩阵。
10.根据权利要求7所述的装置,其中,所述生成单元被进一步的配置成:
确定所述帧级别语音特征的通道注意特征;
对所述通道注意特征进行空间维度的平均池化,得到空间维度的平均合并特征;
对所述通道注意特征进行空间维度的最大池化,得到空间维度的最大合并特征;
将所述空间维度的平均合并特征和所述空间维度的最大合并特征输入至卷积模块,得到合并后的空间维度特征向量;
利用目标激活函数,确定所述空间维度特征向量的空间维度注意权重;
根据所述过滤特征和所述空间维度注意权重,得到所述目标语音特征。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111516460.6A CN114420135A (zh) | 2021-12-10 | 2021-12-10 | 基于注意力机制的声纹识别方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111516460.6A CN114420135A (zh) | 2021-12-10 | 2021-12-10 | 基于注意力机制的声纹识别方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114420135A true CN114420135A (zh) | 2022-04-29 |
Family
ID=81265439
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111516460.6A Pending CN114420135A (zh) | 2021-12-10 | 2021-12-10 | 基于注意力机制的声纹识别方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114420135A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115083422A (zh) * | 2022-07-21 | 2022-09-20 | 中国科学院自动化研究所 | 语音溯源取证方法及装置、设备及存储介质 |
CN116504226A (zh) * | 2023-02-27 | 2023-07-28 | 佛山科学技术学院 | 一种基于深度学习的轻量化单通道声纹识别方法及系统 |
-
2021
- 2021-12-10 CN CN202111516460.6A patent/CN114420135A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115083422A (zh) * | 2022-07-21 | 2022-09-20 | 中国科学院自动化研究所 | 语音溯源取证方法及装置、设备及存储介质 |
CN115083422B (zh) * | 2022-07-21 | 2022-11-15 | 中国科学院自动化研究所 | 语音溯源取证方法及装置、设备及存储介质 |
CN116504226A (zh) * | 2023-02-27 | 2023-07-28 | 佛山科学技术学院 | 一种基于深度学习的轻量化单通道声纹识别方法及系统 |
CN116504226B (zh) * | 2023-02-27 | 2024-01-02 | 佛山科学技术学院 | 一种基于深度学习的轻量化单通道声纹识别方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200104640A1 (en) | Committed information rate variational autoencoders | |
WO2021098362A1 (zh) | 视频分类模型构建、视频分类的方法、装置、设备及介质 | |
CN108197652B (zh) | 用于生成信息的方法和装置 | |
US20230069197A1 (en) | Method, apparatus, device and storage medium for training video recognition model | |
CN112634928B (zh) | 声音信号处理方法、装置和电子设备 | |
CN110826567B (zh) | 光学字符识别方法、装置、设备及存储介质 | |
CN112149699B (zh) | 用于生成模型的方法、装置和用于识别图像的方法、装置 | |
CN114420135A (zh) | 基于注意力机制的声纹识别方法及装置 | |
CN112364860A (zh) | 字符识别模型的训练方法、装置和电子设备 | |
CN112241761B (zh) | 模型训练方法、装置和电子设备 | |
CN113923378A (zh) | 视频处理方法、装置、设备及存储介质 | |
CN112990176A (zh) | 书写质量评价方法、装置和电子设备 | |
US20220292132A1 (en) | METHOD AND DEVICE FOR RETRIEVING IMAGE (As Amended) | |
CN111797822A (zh) | 文字对象评价方法、装置和电子设备 | |
CN111915689A (zh) | 用于生成目标函数的方法、装置、电子设备和计算机可读介质 | |
CN110956127A (zh) | 用于生成特征向量的方法、装置、电子设备和介质 | |
CN113780534B (zh) | 网络模型的压缩方法、图像生成方法、装置、设备及介质 | |
CN114972876A (zh) | 基于知识蒸馏技术的图像处理方法、装置、设备及介质 | |
CN111062995A (zh) | 生成人脸图像的方法、装置、电子设备和计算机可读介质 | |
CN114373466A (zh) | 声纹识别方法、装置、电子设备和计算机可读介质 | |
CN111311616B (zh) | 用于分割图像的方法和装置 | |
CN113283115B (zh) | 图像模型生成方法、装置和电子设备 | |
CN112990346B (zh) | 书写质量评价方法、装置和电子设备 | |
CN115952830B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN113378808B (zh) | 人物图像识别方法、装置、电子设备和计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
CB03 | Change of inventor or designer information |
Inventor after: Kong Tianlong Inventor after: Song Dandan Inventor after: OuYang Peng Inventor before: Kong Tianlong Inventor before: Song Dandan Inventor before: OuYang Peng Inventor before: Yin Shouyi |
|
CB03 | Change of inventor or designer information |