CN115331692A - 一种降噪方法、电子设备及存储介质 - Google Patents
一种降噪方法、电子设备及存储介质 Download PDFInfo
- Publication number
- CN115331692A CN115331692A CN202210993912.8A CN202210993912A CN115331692A CN 115331692 A CN115331692 A CN 115331692A CN 202210993912 A CN202210993912 A CN 202210993912A CN 115331692 A CN115331692 A CN 115331692A
- Authority
- CN
- China
- Prior art keywords
- audio
- audio signal
- audio signals
- target
- signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000009467 reduction Effects 0.000 title claims abstract description 116
- 238000000034 method Methods 0.000 title claims abstract description 64
- 230000005236 sound signal Effects 0.000 claims abstract description 582
- 238000012545 processing Methods 0.000 claims abstract description 137
- 230000001629 suppression Effects 0.000 claims abstract description 113
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 43
- 230000004807 localization Effects 0.000 claims description 33
- 230000000873 masking effect Effects 0.000 claims description 17
- 230000036961 partial effect Effects 0.000 claims description 12
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 230000000694 effects Effects 0.000 description 10
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000010606 normalization Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 230000002829 reductive effect Effects 0.000 description 5
- 230000002401 inhibitory effect Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S5/00—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations
- G01S5/18—Position-fixing by co-ordinating two or more direction or position line determinations; Position-fixing by co-ordinating two or more distance determinations using ultrasonic, sonic, or infrasonic waves
- G01S5/20—Position of source determined by a plurality of spaced direction-finders
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
- G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
- G10L21/0208—Noise filtering
- G10L21/0216—Noise filtering characterised by the method used for estimating noise
- G10L2021/02161—Number of inputs available containing the signal or the noise to be suppressed
- G10L2021/02166—Microphone arrays; Beamforming
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Remote Sensing (AREA)
- Computational Linguistics (AREA)
- Quality & Reliability (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
- Circuit For Audible Band Transducer (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
Abstract
本申请实施例提供一种降噪方法、电子设备及存储介质,其中方法包括:获取多路音频信号;根据所述多路音频信号,确定估计噪音能量的目标音频信号;对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比,所述频点对应的音频抑制比体现所述目标音频信号的噪音能量;根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理;根据信号增强处理结果,确定说话人定位结果。本申请实施例可以有效的抑制噪音,提高说话人定位算法的鲁棒性。
Description
技术领域
本申请实施例涉及音频技术领域,具体涉及一种降噪方法、电子设备及存储介质。
背景技术
音视频会议、语音通话等音频交互场景下需要进行说话人定位,说话人定位是指对通过麦克风阵列等音频设备接收到的音频信号确定声源位置,从而确定出当前说话人的位置。
然而,音频设备接收到的音频信号中可能存在说话人的音频和噪音,因此在进行说话人定位时,如何有效的抑制噪音,从而提高说话人定位算法的鲁棒性,成为了本领域技术人员亟需解决的技术问题。
发明内容
有鉴于此,本申请实施例提供一种降噪方法、电子设备及存储介质,以有效的抑制噪音,提高说话人定位算法的鲁棒性。
为实现上述目的,本申请实施例提供如下技术方案。
第一方面,本申请实施例提供一种降噪方法,包括:
获取多路音频信号;
根据所述多路音频信号,确定估计噪音能量的目标音频信号;
对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比,所述频点对应的音频抑制比体现所述目标音频信号的噪音能量;
根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理;
根据信号增强处理结果,确定说话人定位结果。
第二方面,本申请实施例提供电子设备,包括至少一个存储器和至少一个处理器,所述存储器存储一条或多条计算机可执行指令,所述处理器调用所述一条或多条计算机可执行指令,以执行如上述第一方面所述的降噪方法。
第三方面,本申请实施例提供一种存储介质,所述存储介质存储一条或多条计算机可执行指令,所述一条或多条计算机可执行指令被执行时,实现如上述第一方面所述的降噪方法。
第四方面,本申请实施例提供一种计算机程序,该计算机程序被执行时实现如上述第一方面所述的降噪方法。
本申请实施例可在采集到多路音频信号之后,根据采集的多路音频信号确定进行智能降噪处理的目标音频信号,从而对目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比;基于利用频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,从而实现利用频点的音频抑制比,对包含噪音的音频信号进行抑制,对包含说话人的音频信号进行突出;进而根据信号增强处理结果,确定说话人定位结果,可有效抑制噪音的信号和有效地突出说话人的信号的情况下,实现突出说话人语音并且抑制干扰噪音的目的,进而达到对噪音进行有效抑制,并且提高说话人定位算法的鲁棒性的效果。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为说话人方位和点噪音方位的示例图。
图2为本申请实施例提供的降噪方法的流程图。
图3为本申请实施例提供的降噪方法的另一流程图。
图4为本申请实施例提供的降噪方法的再一流程图。
图5为本申请实施例提供的降噪方法的又一流程图。
图6A为线性阵列的波束形成示例图。
图6B为环形阵列的波束形成示例图。
图7A为本申请实施例提供的降噪方法的又另一流程图。
图7B为本申请实施例实现声源定位的示例图。
图8为本申请实施例提供的降噪装置的框图。
图9为电子设备的框图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
音视频会议等音频交互场景中,准确的进行说话人定位能够更好地支持音频拾音算法和视频导播功能。目前通常是基于音频到达麦克风阵列上的不同麦克风的时间/相位差,来进行说话人定位,因此说话人定位方案通常是建立在声学环境良好的情况下(比如安静场景)。然而,实际的音频交互场景更偏向于含有噪音的复杂场景,因此在含有噪音的复杂场景下,说话人定位方案的鲁棒性有待提升。
一般来说,噪音主要可以分为发散型噪音和点噪音;发散型噪音是指噪音源并不处在某一个位置,造成的噪音为发散型的,比如环境噪音;点噪音是指固定的声源发出来的噪音。针对发散型噪音,发散型噪音对于说话人定位算法的影响有限,因为发散型噪音到达麦克风阵列上不同麦克风的时间差较为模糊,在音频信噪比良好的情况下,可以通过估计发散型噪音的能量,在说话人定位算法中进行噪音去除。而针对点噪音,由于点噪音具有明确的声源位置,因此点噪音极易被误识别为说话人的音频,从而导致说话人定位算法提供出错误的说话人方位信息;为便于理解,图1示例性的示出了说话人方位和点噪音方位的示例图,可以看出,点噪音存在与说话人相似的声源位置,存在被误识别为说话人的可能性。
综上所述,对于音视频会议等音频交互场景而言,在进行说话人定位时,如何对点噪音进行有效的抑制,对于说话人定位算法的鲁棒性收敛具有重要意义。也就是说,鲁棒性可收敛为如何在不同噪声类型下准确的进行说话人定位,尤其是含有点噪音的情况下。
目前,说话人定位算法对于点噪音的声源追踪主要是依靠传统噪音估计算法来处理,例如通过估计点噪音的能量,从而在说话人定位算法中进行点噪音的抑制去除;然而由于点噪音的非稳态特性,并且点噪音可能出现音频能量大于说话人的情况,因此基于点噪音的能量进行点噪音抑制的传统噪音估计算法,并不能准确的追踪并估计出点噪音的能量,从而导致点噪音无法有效的抑制,进而导致说话人定位算法提供错误的结果。
基于此,本申请实施例提供改进的降噪方案,以对点噪音进行有效的抑制,提高说话人定位算法的鲁棒性。本申请实施例可在说话人定位算法中融合智能降噪技术,从而在基于音频设备采集的多路音频信号确定目标音频信号之后,本申请实施例可对目标音频信号进行智能降噪处理,估计出目标音频信号对应的噪音能量,即得出目标音频信号的频点对应的音频抑制比;进而,利用上述音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,达到在包含噪音的音频信号和包含说话人的音频信号中抑制噪音,突出说话人语音的效果,提高说话人定位算法对于噪音的鲁棒性。
基于上述思路,作为可选实现,图2示出了本申请实施例提供的降噪方法的可选流程图。该方法流程可由音频设备执行实现,音频设备例如麦克风阵列等具有音频采集和处理能力的设备。参照图2,该方法流程可以包括如下步骤。
在步骤S210中,获取多路音频信号,并对多路音频信号分别进行预处理。
可选的,音频设备可通过多路的音频采集通道,获取到多路音频信号。例如,设置多路麦克风的麦克风阵列可通过多路的音频采集通道,获取多路音频信号,麦克风阵列的一路麦克风可采集一路音频信号。
在采集到多路音频信号之后,本申请实施例可对多路音频信号分别进行预处理。可选的,音频信号的预处理过程包括但不限于:将各路音频信号由时域信号转换为频域信号(即进行各路音频信号的时域至频域的转换)、将转换为频域的各路音频信号进行幅值归一化处理等。
在步骤S211中,根据预处理后的多路音频信号,确定目标音频信号。
在说话人定位算法中融合智能降噪技术的情况下,目标音频信号可以视为是本申请实施例需进行智能降噪处理的音频信号。通过对音频信号进行智能降噪处理,本申请实施例可估计出音频信号的噪音能量,并且通过音频信号中频点对应的音频抑制比,体现所估计的噪音能量,因此目标音频信号可以视为是本申请实施例估计噪音能量的音频信号。
音频抑制比也可以称为Mask(掩蔽),即每个time-frequency(时频域)点存在一个表示音频抑制比的值,0代表全是噪音,在说话人定位时需要进行抑制,1代表全是语音,在说话人定位时需要进行保留,Mask的值范围在0.0至1.0之间。
在一些实施例中,音频信号可以按照路或者方位角度进行划分,本申请实施例可将需进行噪音能量估计的路或者方位角度的音频信号,确定为目标音频信号。作为可选实现,在将音频信号按照方位角度进行划分的情况下,多路音频信号可以划分为多个方位角度,目标音频信号可以是多个方位角度的音频信号中各方位角度的音频信号或者部分方位角度的音频信号。作为可选实现,在将音频信号按照路进行划分的情况下,目标音频信号可以是多路音频信号中已转换为频域的一路音频信号。
作为可选实现,本申请实施例提供多种确定目标音频信号的方式以及相应的降噪处理方案。
在一些实施例中,在将音频信号按照方位角度进行划分的情况下,本申请实施例可对各方位角度的音频信号进行噪音能量估计;相应的,本申请实施例可将多路音频信号划分为多个方位角度的音频信号,从而将各方位角度的音频信号均作为目标音频信号;
在此情况下,在对目标音频信号进行智能降噪处理后,本申请实施例可估计出各方位角度的音频信号的噪音能量,体现为各方位角度中各频点对应的音频抑制比;进而利用各方位角度中各频点对应的音频抑制比,对各个方位角度的音频信号进行信号增强处理,达到在各个方位角度的音频信号中抑制噪音,突出说话人语音的效果。
在一些实施例中,在将音频信号按照方位角度进行划分的情况下,说话人所在的方位角度一般位于信号峰值最大的方位角度,考虑噪音对说话人语音的干扰,本申请实施例可从划分的多个方位角度中确定信号峰值最大的部分方位角度(例如信号峰值最大的至少两个方位角度),从而对该部分方位角度的音频信号进行噪音能量估计;相应的,本申请实施例可将多路音频信号划分为多个方位角度的音频信号,并且确定多个方位角度中信号峰值最大的部分方位角度,从而将该部分方位角度的音频信号作为目标音频信号;
在此情况下,在对目标音频信号进行智能降噪处理后,本申请实施例可估计出上述部分方位角度的音频信号的噪音能量,体现为上述部分方位角度中各频点对应的音频抑制比;由于上述部分方位角度的音频信号包含了说话人语音和噪音,因此本申请实施例可利用上述部分方位角度中各频点对应的音频抑制比,对上述部分方位角度中的音频信号进行信号增强处理,达到在上述部分方位角度的音频信号中抑制噪音,突出说话人语音的效果。
在一些实施例中,在音频信号按照路进行划分的情况下,基于采集的多路音频信号,本申请实施例可选择采集的一路已转换为频域的音频信号,作为目标音频信号,以对所选择的一路音频信号进行噪音能量估计,体现为所选择的一路音频信号中各频点对应的音频抑制比;在此情况下,由于所选择的一路音频信号可能不包含说话人语音,因此本申请实施例需从多路音频信号的层面,利用所选择的一路音频信号中各频点对应的音频抑制比,对多路音频信号进行信号增强处理,达到在多路音频信号中抑制噪音,突出说话人语音的效果。
在步骤S212中,对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比。
本申请实施例可使用智能降噪算法,对目标音频信号进行智能降噪处理。作为可选实现,本申请实施例可使用适用于会议场景(例如会议室场景)的智能降噪算法,目标音频信号进行智能降噪处理;当然,本申请实施例也可对使用的智能降噪算法不进行限制。
在音频信号已转换为频域形式的情况下,本申请实施例在对目标音频信号进行智能降噪处理后,可估计目标音频信号的噪音能量,体现出目标音频信号中每个频点对应的音频抑制比。也就是说,本申请实施例在对目标音频信号进行智能降噪处理后,可得到目标音频中每个频点对应的音频抑制比。
在步骤S213中,根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理。
在得到目标音频信号的频点对应的音频抑制比后,本申请实施例可利用所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,从而在包含噪音的音频信号和包含说话人的音频信号中抑制噪音,突出说话人语音。
作为信号增强处理的一种可选实现,本申请实施例可利用目标音频信号中各个频点的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行重新加权,从而得到增强音频信号。例如,在包含噪音的音频信号和包含说话人的音频信号中,本申请实施例可使用目标音频信号的频点对应的音频抑制比,对频点对应的音频信号进行重新加权,从而得到增强音频信号。
需要说明的是,在说话人定位等声源定位算法中可以设置在频域计算音频信号的correlation(相关性)的公式,从而针对包含噪音的音频信号和包含说话人的音频信号,本申请实施例可在计算音频信号的相关性的公式中,加入目标音频信号的频点对应的音频抑制比,以对包含噪音的音频信号和包含说话人的音频信号进行重新加权,从而得到增强音频信号。
基于目标音频信号的不同形式,包含噪音的音频信号和包含说话人的音频信号也可以具有不同的形式。
在一些实施例中,上述描述的多个方位角度的音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。在一些实施例中,上述描述的信号峰值最大的部分方位角度的音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。在一些实施例中,上述描述的预处理后的多路音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。
在可选实现中,如果目标音频信号为各个方位角度的音频信号,则包含噪音的音频信号和包含说话人的音频信号可以是各个方位角度的音频信号;也就是说,本申请实施例可利用各方位角度的音频信号的频点对应的音频抑制比,对各个方位角度的音频信号进行信号增强处理。
在可选实现中,如果目标音频信号为信号峰值最大的部分方位角度的音频信号,则包含噪音的音频信号和包含说话人的音频信号可以是上述部分方位角度的音频信号;也就是说,本申请实施例可利用部分方位角度的音频信号的频点对应的音频抑制比,对部分方位角度的音频信号进行信号增强处理。
在可选实现中,如果目标音频信号为已转换为频域的一路音频信号,则包含噪音的音频信号和包含说话人的音频信号可以是多路音频信号;也就是说,本申请实施例可利用一路音频信号的频点对应的音频抑制比,对多路音频信号进行信号增强处理。
在步骤S214中,根据信号增强处理结果,确定说话人定位结果。
在一些实施例中,由于信号增强处理结果对噪音进行了抑制,对说话人语音进行了突出,因此在将音频信号划分方位角度的情况下,本申请实施例可将信号增强处理后的信号峰值最大的方位角度,作为说话人所在的方位角度,从而得出说话人定位结果。
本申请实施例可在采集到多路音频信号之后,根据采集的多路音频信号确定进行智能降噪处理的目标音频信号,从而对目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比;基于利用频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,从而实现利用频点的音频抑制比,对包含噪音的音频信号进行抑制,对包含说话人的音频信号进行突出;进而根据信号增强处理结果,确定说话人定位结果,可在有效抑制噪音的信号和有效地突出说话人的信号的情况下,实现突出说话人语音并且抑制干扰噪音的目的,进而达到对噪音进行有效抑制,并且提高说话人定位算法的鲁棒性的效果。
作为图2所示流程的一种可选实现方式,在将多路音频信号可以划分为多个方位角度的情况下,进行智能降噪处理的目标音频信号可以是各方位角度的音频信号。图3示例性的示出了本申请实施例提供的降噪方法的另一可选流程图。参照图3,该方法流程可以包括如下步骤。
在步骤S310中,获取多路音频信号,对多路音频信号分别进行时域至频域的转换处理。
在步骤S311中,将转换为频域的多路音频信号分别进行幅值归一化处理。
在步骤S312中,根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号。
在对采集的多路音频信号分别进行预处理之后(比如对采集的多路音频信号分别进行时域至频域的转换,以及幅值归一化处理之后),本申请实施例可根据预设的方位角度精度,将多路音频信号按照方位角度进行划分,从而得到多个方位角度的音频信号。可选的,方位角度精度可以视为是对多路音频信号进行区间划分的精度,按照方位角度精度(方位区间精度),本申请实施例可将多路音频信号划分成多个区间的音频信号(多个区间的音频信号即多个方位角度的音频信号),从而通过定向矢量的形式,实现对多路音频信号的精细划分。在一个示例中,本申请实施例可以5度为方位区间精度,将多路音频信号划分为定向矢量的多个方位角度的音频信号,比如5度作为一个区间角度,从而将多路音频信号划分为多个以5度为区间单位的音频信号。
在本实施例中,所述多个方位角度的音频信号可作为需进行智能降噪处理的目标音频信号。
在步骤S313中,对多个方位角度的音频信号分别进行智能降噪处理,得到各个频点的音频抑制比。
在将多路音频信号划分为多个方位角度的音频信号之后,本申请实施例可使用智能降噪算法,对各个位角度的音频信号分别进行智能降噪处理。作为可选实现,本申请实施例可使用适用于会议场景(例如会议室场景)的智能降噪算法,对多个方位角度的音频信号分别进行智能降噪处理;当然,本申请实施例也可对使用的智能降噪算法不进行限制。
由于音频信号已在预处理过程中事先转换为频域形式,因此本申请实施例在对各个方位角度的音频信号(频域形式)进行智能降噪处理后,可得到每个方位角度的每个频点对应的音频抑制比。音频抑制比也可以称为Mask(掩蔽),即每个time-frequency(时频域)点存在一个表示音频抑制比的值,0代表全是噪音,在说话人定位时需要进行抑制,1代表全是语音,在说话人定位时需要进行保留,Mask的值范围在0.0至1.0之间。
在步骤S314中,根据各个频点的音频抑制比,对各个方位角度的音频信号进行信号增强处理,以得到各个方位角度的增强音频信号。
在得到各个频点的音频抑制比之后,本申请实施例可利用各个频点的音频抑制比,对划分的各个方位角度的音频信号进行信号增强处理,从而得到信号增强之后的各个方位角度的增强音频信号。作为信号增强处理的一种可选实现,本申请实施例可利用各个频点的音频抑制比,对各个方位角度的音频信号进行重新加权,从而得到各个方位角度的增强音频信号。例如,本申请实施例可在各个方位角度,使用频点的音频抑制比,对频点对应的音频信号进行重新加权,从而得到各个方位角度的增强音频信号。比如,一个方位角度的一个音频信号,使用相应频点的音频抑制比进行重新加权处理。
需要说明的是,在说话人定位等声源定位算法中可以设置在频域计算音频信号的correlation(相关性)的公式,本申请实施例可在计算音频信号的相关性的公式中,加入音频信号对应的频点的音频抑制比,实现对音频信号进行重新加权,从而得到各个方位角度的增强音频信号。
在本实施例中,各个方位角度的音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。
在步骤S315中,根据各个方位角度的增强音频信号,确定说话人定位结果。
在确定出各个方位角度的增强音频信号之后,本申请实施例可基于各个方位角度的增强音频信号,确定出说话人定位结果,即得出说话人的定位位置。作为可选实现,本申请实施例可根据各个方位角度的增强音频信号,确定信号峰值符合说话人条件的方位角度,从而将确定的方位角度作为说话人的方位角度,以得到说话人定位结果。在一个示例中,根据各个方位角度的增强音频信号,本申请实施例可确定信号峰值最大的方位角度,从而将信号峰值最大的方位角度作为说话人的方位角度。
本申请实施例在说话人定位算法中,可以对每个方位角度的音频信号分别进行智能降噪处理,从而在得到每个方位角度中各频点的音频抑制比之后,使用每个方位角度中各频点的音频抑制比,对每个方位角度中各频点的音频信号进行信号增强(例如重新加权),从而得出各个方位角度的增强音频信号。由于智能降噪对于稳态以及非稳态的点噪音(如果点噪音处于被智能降噪的某一方位角度)具有较好的抑制作用,因此,本申请实施例利用智能降噪之后的各频点的音频抑制比,对各频点的音频信号进行信号增强,能够使得后续计算各个方位角度的信号峰值时,有效抑制点噪音所在的方位角度的峰值,从而有效地突出说话人方位角度的信号峰值,实现突出说话人语音并且抑制干扰的点噪音的目的,进而达到对点噪音进行有效抑制,并且提高说话人定位算法的鲁棒性的效果。
需要进一步说明的是,图3所示方法流程虽然实现了点噪音抑制和突出说话人语音的效果,但是图3所示方法流程需要对多个方位角度的音频信号均进行智能降噪处理,这极大提高了系统的计算量。基于此,本申请实施例进一步提供可选的降噪方案,以在实现有效抑制点噪音的情况下,降低系统计算量。
作为图2所示流程的一种可选实现方式,在将多路音频信号可以划分为多个方位角度的情况下,进行智能降噪处理的目标音频信号可以是信号峰值最大的部分方位角度的音频信号。图4示例性的示出了本申请实施例提供的降噪方法的再一可选流程图。参照图4,该方法流程可以包括如下步骤。
在步骤S410中,获取多路音频信号,对多路音频信号分别进行时域至频域的转换处理。
在步骤S411中,将转换为频域的多路音频信号分别进行幅值归一化处理。
在步骤S412中,根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号。
可选的,步骤S410至步骤S412的介绍可参照前文相应部分,此处不再展开。
在步骤S413中,确定各个方位角度的音频信号的峰值,并根据各个方位角度的音频信号的峰值,确定峰值符合预设条件的至少两个目标方位角度,所述至少两个目标方位角度的数量小于所述多个方位角度。
在将多路音频信号划分为多个方位角度的音频信号之后,本申请实施例不直接对各个方位角度的音频信号进行智能降噪处理,而是计算各个方位角度的音频信号的峰值,从而基于各个方位角度的音频信号的峰值,从多个方位角度中选择出峰值符合预设条件的部分方位角度,该部分方位角度的数量可以为至少两个并且不大于划分的多个方位角度的数量。为便于说明,本申请实施例基于音频信号的峰值,从多个方位角度中筛选的部分方位角度可称为目标方位角度,目标方位角度的数量为至少两个。
作为可选实现,本申请实施例可根据各个方位角度的音频信号的峰值,确定出信号峰值最大的至少两个目标方位角度。比如在选择两个目标方位角度时,本申请实施例可从划分的多个方位角度中,选择信号峰值最大的两个目标方位角度。
需要说明的是,目标方位角度的数量选择为两个仅是一种可选实现,在设置目标方位角度的数量不小于2个,并且小于划分的多个方位角度的情况下,本申请实施例可根据实际情况选择目标方位角度的数量。
在本实施例中,所述至少两个目标方位角度的音频信号可以作为需进行智能降噪处理的目标音频信号。由于所述至少两个目标方位角度的音频信号在多个方位角度中具有信号峰值最大的特性,因此说话人语音包含在所述至少两个目标方位角度的音频信号中,考虑噪音的干扰,所述至少两个目标方位角度的音频信号中还可能存在噪音;因此需要对所述至少两个目标方位角度的音频信号进行噪音抑制,和突出说话人语音。
在步骤S414中,对各目标方位角度的音频信号分别进行智能降噪处理,得到各目标方位角度中的各个频点的音频抑制比。
在步骤S415中,根据各目标方位角度中的各个频点的音频抑制比,对各目标方位角度的音频信号进行信号增强处理,以得到各目标方位角度的增强音频信号。
在步骤S416中,根据各目标方位角度的增强音频信号,确定说话人定位结果。
在确定出至少两个目标方位角度之后,本申请实施例可对各目标方位角度的音频信号分别进行智能降噪处理,从而得到各目标方位角度中的各个频点的音频抑制比。可选的,智能降噪处理、音频抑制比的说明可参照前文相应部分,此处不再赘述。在本实施例中,所述至少两个目标方位角度的音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。
基于各目标方位角度中的各个频点的音频抑制比,本申请实施例可对各目标方位角度的音频信号进行信号增强处理;比如,针对一个目标方位角度的一个音频信号,使用相应频点的音频抑制比进行重新加权处理。基于智能降噪处理,本申请实施例可得到各目标方位角度的增强音频信号,从而根据各目标方位角度的增强音频信号,从上述至少两个目标方位角度中,选择出音频信号的峰值最大的目标方位角度,作为说话人的方位角度,得出说话人定位结果。
作为可选实现,假设当前一个点噪音源在干扰说话人,则本申请实施例可在选择目标方位角度时,选择音频信号的峰值最大的两个方位角度,作为目标方位角度;从而对各个目标方位角度的音频信号分别进行智能降噪处理,得到各个目标方位角度中各频点的音频抑制比,从而再利用各频点的音频抑制比,对各个目标方位角度中的音频信号进行音频信号增强(重新加权),实现在含有点噪音源和说话人的两个目标方位角度中,有效抑制点噪音所在的目标方位角度的峰值,有效地突出说话人所在的目标方位角度的信号峰值,达到对点噪音进行有效抑制,并且提高说话人定位算法的鲁棒性的效果。需要说明的是,在点噪音源的数量为多个时,本申请实施例可适应调整目标方位角度的选择数量,此处不作严格限制。
可以看出,本申请实施例在将多路音频信号划分为多个方位角度的音频信号之后,可按照音频信号的峰值,从多个方位角度中筛选出包含点噪音源和说话人的目标方位角度,从而对目标方位角度的音频信号进行智能降噪处理,并基于智能降噪处理之后的信号峰值结果,从目标方位角度中筛选出说话人所在的方位角度,可以通过降低进行智能降噪处理的方位角度数量,来降低系统计算量,从而在实现有效抑制点噪音的情况下,降低系统计算量。
为进一步降低系统计算量,作为图2所示流程的一种可选实现方式,在此实现方式中,进行智能降噪处理的目标音频信号可以是已转换为频域的一路音频信号。图5示例性的示出了本申请实施例提供的降噪方法的又一可选流程图。参照图5,该方法流程可以包括如下步骤。
在步骤S510中,获取多路音频信号,对多路音频信号分别进行时域至频域的转换处理。
在步骤S511中,从所述多路音频信号中选择一路音频信号,对该一路音频信号进行智能降噪处理,得到该一路音频信号中各个频点的音频抑制比。
在将多路音频信号进行时域至频域的转换处理之后,本申请实施例可从多路音频信号中选择一路音频信号,并且对选择的该一路音频信号进行智能降噪处理,从而得到该一路音频信号中各个频点的音频抑制比。作为可选实现,本申请实施例可从多路音频信号中任意选择一路音频信号,或者,从多路音频信号中选择中间路的音频信号。
在一个示例中,本申请实施例可从麦克风阵列的多路麦克风中,选择一路麦克风采集的音频信号,并对该一路麦克风采集的音频信号进行智能降噪处理。更为具体的示例中,假设每路全向麦克风拾取到的语音和噪音信噪比的差值在预设范围内(即每路全向麦克风拾取到的语音和噪音信噪比的差值区别不大),则本申请实施例可选择中间一路的麦克风采集的音频信号,并对中间一路的麦克风采集的音频信号进行智能降噪处理。
在本实施例中,选择的一路音频信号可以作为需进行信号增强处理的目标音频信号。
在步骤S512中,在将转换为频域的多路音频信号分别进行幅值归一化处理之后,根据该一路音频信号中各个频点的音频抑制比,对多路音频信号进行信号增强处理,以得到多路增强音频信号。
在对选择的一路音频信号进行智能降噪处理,并得到该路音频信号中各个频点的音频抑制比之后,针对幅值归一化处理之后的多路音频信号,本申请实施例可利用该一路音频信号中各个频点的音频抑制比,对多路音频信号进行信号增强处理(比如重新加权),从而得到多路的增强音频信号。作为可选实现,一路音频信号中各个频点的音频抑制比,可作用于本身路的音频信号以及其他路音频信号中相对频点的音频信号,从而实现使用一路音频信号的频点的音频抑制比,对所有路的音频信号进行信号增强处理。例如,本申请实施例可将一路麦克风采集的音频信号在频点的Mask,作用于其他路麦克风通道采集的音频信号,从而实现对多路麦克风采集的音频信号进行信号增强处理。
在本实施例中,预处理后的多路音频信号可以包括:包含噪音的音频信号和包含说话人的音频信号。
在步骤S513中,根据预设的方位角度精度,将多路增强音频信号划分为多个方位角度的增强音频信号。
在得到多路增强音频信号之后,本申请实施例可基于预设的方位角度精度,对多路增强音频信号进行方位区间的划分,从而得到多个方位角度的增强音频信号。作为实现过程可与前文相应部分的描述同理实现,此处不再展开。
在步骤S514中,根据各个方位角度的增强音频信号,确定说话人定位结果。
可选的,在得到多个方位角度的增强音频信号之后,本申请实施例可确定信号峰值最大的方位角度,从而将信号峰值最大的方位角度作为说话人的方位角度。
假设音频设备采集的多路音频信号中,每路音频信号的各频点信噪比相似(例如麦克风阵列中每个麦克风接收到的各频点信噪比相似,特别是在使用全向麦克风的情况下),本申请实施例可选择采集的一路音频信号(例如麦克风阵列中一路麦克风采集的音频信号)进行智能降噪处理,从而得到该路音频信号的各频点的音频抑制比,然后对所有路的音频信号(例如所有麦克风采集的音频信号)进行重新加权,得到各路的增强音频信号;进而再对各路增强音频信号进行区间划分,通过信号峰值筛选出说话人所在的方位角度。本申请实施例可只对采集的一路音频信号进行一次智能降噪处理,达到有效抑制点噪音,并且突出说话人语音的目的,同时极大的降低系统计算量。
本申请实施例可在说话人定位算法中融合智能降噪技术,有效地追踪和估计不同类型的噪音能量,尤其是非稳态的点噪音,并且控制系统的计算量,达到有效抑制点噪音,并且突出说话人语音的效果,从而提升说话人定位算法的鲁棒性。
在进一步的一些实施例中,本申请实施例在得到目标音频信号的频点对应的音频抑制比的可选实现中,如果目标音频信号存在不同方向的波束形成区域,则基于音频抑制比为掩蔽(Mask),本申请实施例可将目标音频信号在不同方向的波束形成区域所对应的Mask进行结合,从而得到组合掩蔽,该组合掩蔽可作为目标音频信号的频点对应的音频抑制比;进而,本申请实施例可利用组合掩蔽对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,以在说话人定位算法中降低噪音方向的加权(weighting)。
需要说明的是,在进行说话人定位时,本申请实施例可通过音频采集阵列(例如麦克风阵列)采集音频信号,音频采集阵列可以是线性阵列或者环形阵列。线性阵列和环形阵列均可以具有多个方向的波束形成(Beam forming),该多个方向的波束形成可以为M个方向的波束形成,包括方向一的波束形成、方向二的波束形成至方向M的波束形成。针对线性阵列,作为一个示例,图6A示例性的示出了线性阵列的波束形成示例图,具体的,图6A示例性的示出了线性阵列在方向一、方向二至方向M的波束形成,可进行参照。针对环形阵列,图6B示例性的示出了环形阵列的波束形成示例图,具体的,图6B示例性的示出了环形阵列在方向一、方向二至方向M的波束形成(Beam forming),可进行参照。
需要说明的是,在音频频谱的每一帧的每一个频带,不同方向的波束形成区域具有不同的Mask;基于此,本申请实施例可在确定目标音频信号后,将目标音频信号在不同方向的波束形成区域所对应的Mask进行结合,得出组合掩蔽;进而利用组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,以在说话人定位算法中进一步降低噪音方向的加权(weighting),提升说话人音频方向的加权,从而提升说话定位算法的准确性。这种方式可以适用于目标音频信号为各个方位角度的音频信号、信号峰值最大的部分方位角度的音频信号、已转换为频域的一路音频信号等情况;只要目标音频信号的频带在不同方向的波束形成区域对应有Mask即可。
作为可选实现,图7A示例性的示出了本申请实施例提供的降噪方法的又另一可选流程图。该方法流程可由音频设备执行实现,音频设备例如麦克风阵列等具有音频采集和处理能力的设备。参照图7A,该方法流程可以包括如下步骤。
在步骤S710中,将目标音频信号经过多个方向的波束形成处理,并确定目标音频信号在不同方向的波束形成区域对应的掩蔽。
在确定需进行智能降噪处理的目标音频信号后,本申请实施例可将目标音频信号经过多个方向的波束形成处理,从而确定出目标音频信号在不同方向的波束形成区域对应的掩蔽。
需要进一步说明的是,Mask(掩蔽)可以具体是TF-Mask,TF-Mask为Time-Frequency Mask(时频域掩蔽)的简称,在确定TF-Mask的实现上,可以基于智能降噪算法实现。例如,可以基于信号处理算法(minimum statistics,iMCRA)等诸多算法进行稳态噪声估计,也可以基于深度学习进行数据驱动的方法获得稳态噪声或者非稳态噪声估计,又或者两者都可以使用,然后再进行噪声估计的融合得到最终的TF-Mask。
在步骤S711中,根据所述不同方向的波束形成区域对应的掩蔽,确定组合掩蔽。
本申请实施例可将每一帧的目标音频信号,经过不同方向的波束形成处理(例如,每一帧的音频信号,在方向一、方向二、方向M等不同的方向进行波束形成处理),从而针对每一帧的目标音频信号的每一个频带,本申请实施例可在不同方向的波束形成区域对应不同的Mask,比如针对一帧目标音频信号的一个频带,一方向的波束形成区域对应一个Mask。可选的,在计算Mask时,本申请实施例可利用信号处理或者深度学习模型的方法,针对每一帧的音频信号的每一个频带,计算出不同方向的波束形成区域对应的Mask。
例如,目标音频信号经过波束形成处理之后,目标音频信号在每一个time-frequency(时频域,即每一帧每一频带)上,可以针对不同的波束形成方向计算出0至1的值,一个值可以视为是目标音频信号在频带的一个波束形成方向对应的Mask;在一个示例中,结合图6B所示,如果有M个不同方向的波束形成,则一帧的目标音频信号在一个频带上存在M个不同Mask,其中,第m个方向(方向m)的波束形成区域对应的Mask可以表示为Maskm(ω,n),其中,n表示音频信号的帧数,ω表示所处的频带。
在得到目标音频信号在不同方向的波束形成区域对应的掩蔽后,本申请实施例可将这些不同方向的波束形成区域对应的掩蔽进行组合,从而得到组合掩蔽,该组合掩蔽可以视为是时频域(TF)spatial(空间)Mask(掩蔽)。例如,针对每一帧音频信号的每一个频带,将不同方向的波束形成区域对应的掩蔽进行组合,得到组合掩蔽。
在步骤S712中,根据所述组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理。
可选的,在得到所述组合掩蔽后,本申请实施例可将所述组合掩蔽应用于声源定位算法(例如说话人定位算法)中,从而基于所述组合掩蔽,将噪声方向的音频信号的加权进行降低,将说话人方向的音频信号的加权进行提升,以实现对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理,从而得出准确性更高的说话人的声源定位结果。
为便于理解,图7B示例性的示出了本申请实施例实现声源定位的示例图,如图7B所示,目标音频信号经过M个方向的波束形成处理之后,可输出方向1至方向M的波束形成,每个方向的波束形成确定出对应的Mask;然后每个方向的波束形成对应的Mask进行组合,得到TF spatial Mask(时频域空间掩蔽,即本申请实施例所指的组合掩蔽);TF spatialMask应用于适应权重的声源定位算法,从而对噪声方向的音频信号的加权进行降低,对说话人方向的音频信号的加权进行提升,进而得出说话人方向(即说话人的声源定位结果)。例如,针对包含噪音的音频信号和包含说话人的音频信号,本申请实施例可使用组合掩蔽,对噪声方向的音频信号的加权进行降低,对说话人方向的音频信号的加权进行提升,从而实现信号增强处理。
作为可选实现,图2至图5所示方法流程中,确定频点的音频抑制比(例如目标音频信号的频点对应的音频抑制比)可以是确定频点的单独Mask,也可以是基于图7A所示方法流程的原理确定组合掩蔽。例如,图2至图5所示方法流程中,在对目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比时,本申请实施例可通过图7A所示方法流程的原理,确定出目标音频信号在每一个频带的不同方向的波束形成区域对应的掩蔽,将该不同方向的波束形成区域对应的掩蔽,组合为组合掩蔽,进而将组合掩蔽作为目标音频信号的频点对应的音频抑制比。图2至图5所示方法流程使用图7A所示方法确定组合掩蔽的方式,可参照前文相应部分进行技术交叉实现,此处不再展开。
下面对本申请实施例提供的降噪装置进行介绍,下文描述的降噪装置可以是电子设备(例如麦克风阵列等音频设备)为实现本申请实施例提供的降噪方法所需设置的功能模块。下文描述的装置内容,可与上文描述的方法内容相互对应参照。
作为可选实现,图8示例性的示出了本申请实施例提供的降噪装置的框图,该装置可应用于电子设备,如图8所示,该装置可以包括:
音频信号获取及预处理模块801,用于获取多路音频信号;可选的,音频信号获取及预处理模块801还可对所述多路音频信号分别进行预处理;
目标音频信号确定模块802,用于根据所述多路音频信号,确定估计噪音能量的目标音频信号;
智能降噪模块803,用于对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比;
信号增强模块804,用于根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理;
结果确定模块805,用于根据信号增强处理结果,确定说话人定位结果。
可选的,信号增强模块804,用于根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
在包含噪音的音频信号和包含说话人的音频信号中,使用所述频点对应的音频抑制比,对所述频点对应的音频信号进行重新加权。
可选的,信号增强模块804,用于在包含噪音的音频信号和包含说话人的音频信号中,使用所述频点对应的音频抑制比,对所述频点对应的音频信号进行重新加权包括:
针对包含噪音的音频信号和包含说话人的音频信号,在计算音频信号的相关性的公式中,加入所述频点对应的音频抑制比,以对包含噪音的音频信号和包含说话人的音频信号进行重新加权。
可选的,所述目标音频信号包括:多个方位角度的音频信号中各方位角度的音频信号,或者部分方位角度的音频信号,或者,所述多路音频信号中已转换为频域的一路音频信号;其中,所述多路音频信号划分为多个方位角度。
一方面,可选的,所述目标音频信号为多个方位角度的音频信号中各方位角度的音频信号;
所述装置还可用于:根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号;
目标音频信号确定模块802,用于根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:将所述多个方位角度的音频信号作为所述目标音频信号;
智能降噪模块803,用于对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对所述多个方位角度的音频信号分别进行智能降噪处理,得到各个频点的音频抑制比;
其中,各个频点的音频抑制比用于,对各个方位角度的音频信号进行信号增强处理,以得到各个方位角度的增强音频信号;
结果确定模块805,用于根据信号增强处理结果,确定说话人定位结果包括:根据各个方位角度的增强音频信号,确定说话人定位结果。
另一方面,可选的,所述目标音频信号为多个方位角度的音频信号中部分方位角度的音频信号;
所述装置还可用于:根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号;
目标音频信号确定模块802,用于根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:确定各个方位角度的音频信号的峰值,并根据各个方位角度的音频信号的峰值,确定峰值符合预设条件的至少两个目标方位角度,所述至少两个目标方位角度的数量小于所述多个方位角度;其中,所述至少两个目标方位角度的音频信号作为所述目标音频信号;
智能降噪模块803,用于对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对各目标方位角度的音频信号分别进行智能降噪处理,得到各目标方位角度中的各个频点的音频抑制比;
其中,各目标方位角度中的各个频点的音频抑制比用于,对各目标方位角度的音频信号进行信号增强处理,以得到各目标方位角度的增强音频信号;
结果确定模块805,用于根据信号增强处理结果,确定说话人定位结果包括:根据各目标方位角度的增强音频信号,确定说话人定位结果。
再一方面,可选的,所述目标音频信号为所述多路音频信号中已转换为频域的一路音频信号;
目标音频信号确定模块802,用于根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:从所述多路音频信号中选择一路音频信号,所述一路音频信号作为目标音频信号;
智能降噪模块803,用于对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对选择的一路音频信号进行智能降噪处理,得到所述一路音频信号中各个频点的音频抑制比;
其中,所述一路音频信号中各个频点的音频抑制比用于,对所述多路音频信号进行信号增强处理,以得到多路增强音频信号;
进一步的,所述装置还可用于:根据预设的方位角度精度,将多路增强音频信号划分为多个方位角度的增强音频信号;
相应的,结果确定模块805,用于根据信号增强处理结果,确定说话人定位结果包括:根据各个方位角度的增强音频信号,确定说话人定位结果。
可选的,智能降噪模块803,用于对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:
将所述目标音频信号经过多个方向的波束形成处理,并基于智能降噪算法确定所述目标音频信号在不同方向的波束形成区域对应的掩蔽;
根据所述不同方向的波束形成区域对应的掩蔽,确定组合掩蔽,所述组合掩蔽作为所述目标音频信号的频点对应的音频抑制比。
可选的,信号增强模块804,用于根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
根据所述组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理。
可选的,信号增强模块804,用于根据所述组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
针对包含噪音的音频信号和包含说话人的音频信号,使用所述组合掩蔽,对噪声方向的音频信号的加权进行降低,对说话人方向的音频信号的加权进行提升。
进一步的,本申请实施例还提供一种电子设备,例如麦克风阵列等音频设备,该电子设备可以设置本申请实施例上述提供的任一种降噪装置,以实现本申请实施例提供的降噪方法。可选的,图9示例性的示出了电子设备的可选框图,如图9所示,该电子设备可以包括:至少一个处理器1,至少一个通信接口2,至少一个存储器3和至少一个通信总线4。
在本申请实施例中,处理器1、通信接口2、存储器3、通信总线4的数量为至少一个,且处理器1、通信接口2、存储器3通过通信总线4完成相互间的通信。
可选的,通信接口2可以为用于进行网络通信的通信模块的接口。
可选的,处理器1可能是CPU,GPU(Graphics Processing Unit,图形处理器),NPU(嵌入式神经网络处理器),FPGA(Field Programmable Gate Array,现场可编程逻辑门阵列),TPU(张量处理单元),AI芯片,特定集成电路ASIC(Application Specific IntegratedCircuit),或者是被配置成实施本申请实施例的一个或多个集成电路等。
存储器3可能包含高速RAM存储器,也可能还包括非易失性存储器(non-volatilememory),例如至少一个磁盘存储器。
其中,存储器3存储一条或多条计算机可执行指令,处理器1调用所述一条或多条计算机可执行指令,以执行本申请实施例提供的降噪方法。
进一步的,本申请实施例还提供一种存储介质,该存储介质存储一条或多条计算机可执行指令,所述一条或多条计算机可执行指令被执行时,实现如本申请实施例提供的降噪方法。
进一步的,本申请实施例还提供一种计算机程序,该计算机程序被执行时,实现如本申请实施例提供的降噪方法。
上文描述了本申请实施例提供的多个实施例方案,各实施例方案介绍的各可选方式可在不冲突的情况下相互结合、交叉引用,从而延伸出多种可能的实施例方案,这些均可认为是本申请实施例披露、公开的实施例方案。
虽然本申请实施例披露如上,但本申请并非限定于此。任何本领域技术人员,在不脱离本申请的精神和范围内,均可作各种更动与修改,因此本申请的保护范围应当以权利要求所限定的范围为准。
Claims (11)
1.一种降噪方法,其中,包括:
获取多路音频信号;
根据所述多路音频信号,确定估计噪音能量的目标音频信号;
对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比,所述频点对应的音频抑制比体现所述目标音频信号的噪音能量;
根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理;
根据信号增强处理结果,确定说话人定位结果。
2.根据权利要求1所述的方法,其中,所述根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
在包含噪音的音频信号和包含说话人的音频信号中,使用所述频点对应的音频抑制比,对所述频点对应的音频信号进行重新加权。
3.根据权利要求2所述的方法,其中,所述在包含噪音的音频信号和包含说话人的音频信号中,使用所述频点对应的音频抑制比,对所述频点对应的音频信号进行重新加权包括:
针对包含噪音的音频信号和包含说话人的音频信号,在计算音频信号的相关性的公式中,加入所述频点对应的音频抑制比,以对包含噪音的音频信号和包含说话人的音频信号进行重新加权。
4.根据权利要求1-3任一项所述的方法,其中,所述目标音频信号包括:多个方位角度的音频信号中各方位角度的音频信号,或者部分方位角度的音频信号,或者,所述多路音频信号中已转换为频域的一路音频信号;其中,所述多路音频信号划分为多个方位角度。
5.根据权利要求4所述的方法,其中,所述目标音频信号为多个方位角度的音频信号中各方位角度的音频信号;
所述方法还包括:
根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号;
所述根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:将所述多个方位角度的音频信号作为所述目标音频信号;
所述对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对所述多个方位角度的音频信号分别进行智能降噪处理,得到各个频点的音频抑制比;
其中,各个频点的音频抑制比用于,对各个方位角度的音频信号进行信号增强处理,以得到各个方位角度的增强音频信号;
所述根据信号增强处理结果,确定说话人定位结果包括:根据各个方位角度的增强音频信号,确定说话人定位结果。
6.根据权利要求4所述的方法,其中,所述目标音频信号为多个方位角度的音频信号中部分方位角度的音频信号;
所述方法还包括:
根据预设的方位角度精度,将多路音频信号划分为多个方位角度的音频信号;
所述根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:
确定各个方位角度的音频信号的峰值,并根据各个方位角度的音频信号的峰值,确定峰值符合预设条件的至少两个目标方位角度,所述至少两个目标方位角度的数量小于所述多个方位角度的数量;其中,所述至少两个目标方位角度的音频信号作为所述目标音频信号;
所述对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对各目标方位角度的音频信号分别进行智能降噪处理,得到各目标方位角度中的各个频点的音频抑制比;
其中,各目标方位角度中的各个频点的音频抑制比用于,对各目标方位角度的音频信号进行信号增强处理,以得到各目标方位角度的增强音频信号;
所述根据信号增强处理结果,确定说话人定位结果包括:根据各目标方位角度的增强音频信号,确定说话人定位结果。
7.根据权利要求4所述的方法,其中,所述目标音频信号为所述多路音频信号中已转换为频域的一路音频信号;
所述根据所述多路音频信号,确定估计噪音能量的目标音频信号包括:从所述多路音频信号中选择一路音频信号,所述一路音频信号作为目标音频信号;
所述对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:对选择的一路音频信号进行智能降噪处理,得到所述一路音频信号中各个频点的音频抑制比;
其中,所述一路音频信号中各个频点的音频抑制比用于,对所述多路音频信号进行信号增强处理,以得到多路增强音频信号;
所述方法还包括:
根据预设的方位角度精度,将多路增强音频信号划分为多个方位角度的增强音频信号;
所述根据信号增强处理结果,确定说话人定位结果包括:根据各个方位角度的增强音频信号,确定说话人定位结果。
8.根据权利要求1所述的方法,其中,所述对所述目标音频信号进行智能降噪处理,以得到目标音频信号的频点对应的音频抑制比包括:
将所述目标音频信号经过多个方向的波束形成处理,并基于智能降噪算法确定所述目标音频信号在不同方向的波束形成区域对应的掩蔽;
根据所述不同方向的波束形成区域对应的掩蔽,确定组合掩蔽,所述组合掩蔽作为所述目标音频信号的频点对应的音频抑制比;
所述根据所述频点对应的音频抑制比,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
根据所述组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理。
9.根据权利要求8所述的方法,其中,所述根据所述组合掩蔽,对包含噪音的音频信号和包含说话人的音频信号进行信号增强处理包括:
针对包含噪音的音频信号和包含说话人的音频信号,使用所述组合掩蔽,对噪声方向的音频信号的加权进行降低,对说话人方向的音频信号的加权进行提升。
10.一种电子设备,其中,包括至少一个存储器和至少一个处理器,所述存储器存储一条或多条计算机可执行指令,所述处理器调用所述一条或多条计算机可执行指令,以执行如权利要求1-9任一项所述的降噪方法。
11.一种存储介质,其中,所述存储介质存储一条或多条计算机可执行指令,所述一条或多条计算机可执行指令被执行时,实现如权利要求1-9任一项所述的降噪方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2022102847214 | 2022-03-22 | ||
CN202210284721 | 2022-03-22 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115331692A true CN115331692A (zh) | 2022-11-11 |
Family
ID=83925287
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210994986.3A Pending CN115457971A (zh) | 2022-03-22 | 2022-08-18 | 一种降噪方法、电子设备及存储介质 |
CN202210993912.8A Pending CN115331692A (zh) | 2022-03-22 | 2022-08-18 | 一种降噪方法、电子设备及存储介质 |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210994986.3A Pending CN115457971A (zh) | 2022-03-22 | 2022-08-18 | 一种降噪方法、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (2) | CN115457971A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115831141A (zh) * | 2023-02-02 | 2023-03-21 | 小米汽车科技有限公司 | 车载语音的降噪方法、装置、车辆及存储介质 |
CN116884429A (zh) * | 2023-09-05 | 2023-10-13 | 深圳市极客空间科技有限公司 | 一种基于信号增强的音频处理方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116609726A (zh) * | 2023-05-11 | 2023-08-18 | 钉钉(中国)信息技术有限公司 | 一种声源定位方法及装置 |
-
2022
- 2022-08-18 CN CN202210994986.3A patent/CN115457971A/zh active Pending
- 2022-08-18 CN CN202210993912.8A patent/CN115331692A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115831141A (zh) * | 2023-02-02 | 2023-03-21 | 小米汽车科技有限公司 | 车载语音的降噪方法、装置、车辆及存储介质 |
CN116884429A (zh) * | 2023-09-05 | 2023-10-13 | 深圳市极客空间科技有限公司 | 一种基于信号增强的音频处理方法 |
CN116884429B (zh) * | 2023-09-05 | 2024-01-16 | 深圳市极客空间科技有限公司 | 一种基于信号增强的音频处理方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115457971A (zh) | 2022-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115331692A (zh) | 一种降噪方法、电子设备及存储介质 | |
JP7158806B2 (ja) | オーディオ認識方法、ターゲットオーディオを位置決める方法、それらの装置、およびデバイスとコンピュータプログラム | |
US10327088B2 (en) | Spatial audio processor and a method for providing spatial parameters based on an acoustic input signal | |
CN106251877B (zh) | 语音声源方向估计方法及装置 | |
US8953817B2 (en) | System and method for producing a directional output signal | |
US5651071A (en) | Noise reduction system for binaural hearing aid | |
Marquardt et al. | Theoretical analysis of linearly constrained multi-channel Wiener filtering algorithms for combined noise reduction and binaural cue preservation in binaural hearing aids | |
US8787587B1 (en) | Selection of system parameters based on non-acoustic sensor information | |
US9378754B1 (en) | Adaptive spatial classifier for multi-microphone systems | |
KR20040044982A (ko) | 선택적인 사운드 증강 | |
Marquardt et al. | Interaural coherence preservation for binaural noise reduction using partial noise estimation and spectral postfiltering | |
Kamkar-Parsi et al. | Improved noise power spectrum density estimation for binaural hearing aids operating in a diffuse noise field environment | |
CN112363112B (zh) | 一种基于线性麦克风阵列的声源定位方法及装置 | |
Gößling et al. | RTF-steered binaural MVDR beamforming incorporating multiple external microphones | |
CN111081233A (zh) | 一种音频处理方法及电子设备 | |
CN111883153B (zh) | 一种基于麦克风阵列的双端讲话状态检测方法及装置 | |
CN113870893A (zh) | 一种多通道双说话人分离方法及系统 | |
JP6436180B2 (ja) | 収音装置、プログラム及び方法 | |
Ba et al. | Enhanced MVDR beamforming for arrays of directional microphones | |
CN113223552B (zh) | 语音增强方法、装置、设备、存储介质及程序 | |
CN113740803A (zh) | 一种基于音视频特征的发言人定位跟踪方法及装置 | |
CN113744752A (zh) | 语音处理方法及装置 | |
CN112731291A (zh) | 协同双通道时频掩码估计任务学习的双耳声源定位方法及系统 | |
Bagekar et al. | Dual channel coherence based speech enhancement with wavelet denoising | |
Tashev et al. | Cost function for sound source localization with arbitrary microphone arrays |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |