CN115932733A - 声源定位及语音增强方法、装置 - Google Patents
声源定位及语音增强方法、装置 Download PDFInfo
- Publication number
- CN115932733A CN115932733A CN202211632780.2A CN202211632780A CN115932733A CN 115932733 A CN115932733 A CN 115932733A CN 202211632780 A CN202211632780 A CN 202211632780A CN 115932733 A CN115932733 A CN 115932733A
- Authority
- CN
- China
- Prior art keywords
- slope
- microphone
- phase difference
- spectrum
- calculating
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
本发明公开了一种声源定位及语音增强方法、装置,该语音增强方法包括:将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;将划分的各相位差斜率换成相位补偿到第二麦克风频谱,并计算得到差分矩阵和求和矩阵;根据差分矩阵和求和矩阵获得最匹配斜率;将最匹配斜率进行拓展,并结合目标声源方位范围得出目标斜率区间;根据目标斜率区间计算出第二麦克风的补偿频谱,并与第一麦克风频谱信号进行目标语音增强,通过目标方向和非目标方向阻塞频谱计算增益因子,通过比较声源的相位差和目标方向相位差的关系,对非目标方向声源做进一步抑制。
Description
技术领域
本发明涉及音频信号处理技术领域,尤其是一种声源定位及语音增强方法、装置。
背景技术
日常生活中,人们可以从嘈杂的环境中辨别出自己感兴趣声音的方向和内容,这既得益于人耳的特殊结构和声音到达人耳产生的相位差,也得益于人脑对于信号进行的分析。在声信号处理领域,也能用多麦克风阵列与相应算法实现类似的功能,即对声源进行定位和增强。
声源定位技术也被应用于各个方面,诸如军事,海洋搜索,多媒体通信,智能机器人等。根据发射和接收信号的不同,声源定位可以分为主动声源定位和被动声源定位。主动声源定位由信号发生装置主动发出信号,并通过反射的信号判断物体的位置,如雷达和声呐等;被动声源定位只被动接收声源信号并判断声源方位,如会议系统中的声源定位,本发明主要讨论被动声源定位。
被动声源定位依赖于麦克风阵列信号的相位差,由相位差计算出麦克风阵列信号的延迟,从而由三角关系计算出声源的位置,如图1所示,其中,A,B为两个麦克风的位置,两个麦克风相距为L,声源(假定为远场声源)由平面波的形式从远端传导到两个麦克风,求声源的位置可看作求θ的大小。是信号到达A,B两个麦克风的时间差,只要求出即可根据三角关系求出θ的大小。
一般的算法是根据两个麦克风的相关性计算出,假设到达两个麦克风的信号为:
r1(t)=s(t)+n1(t.) (1)
r2(t)=s(t-D)+n2(t) (2)
其中,r1(t),r2(t)表示两个麦克风收到的总的信号,包括声源发出的信号s(t),s(t-D),和两个麦克风接收到的随机噪声n1(t),n2(t)。两个麦克风信号的互相关和延迟为:
R(τ)=E{r1(t)r2(t+τ)} (3)
(3)式为麦克风信号互相关表达式,当麦克风信号确定后,该值的大小与延迟有关,当延迟等于真实延迟时,(3)式具有最大值。延迟求出后,即可根据θ=arcsin(cτ/L)求出角度θ,其中L为两个麦克风的距离,c为声速。
然而,从以上推导中可以发现如下问题:
(1)由于时域信号是一系列离散值,值的精度为采样率的倒数,这会影响到θ的精度。当麦克风间距L一定时,采样率越大,θ精度越高。当L为5cm,采样率为16000时,假设声速为343m/s,此时θ值的精度为25.4°。这并不是一个好的精度,且随着麦克风距离L减小,该精度的表现还会更差。若是需要提高精度,则需要进行升采样操作,浪费计算资源。
(2)该方法采用的时域互相关,其复杂度是O(n2),这样当序列很长时,具有较大的计算量。
另外,当算出声源方位后,多麦克风阵列可利用波束成形(Beamforming)算法,对目标方向的声音进行增强,同时对非目标方向的声音进行抑制。波束成形(Beamforming)算法是利用同一声源到达不同麦克风产生的相位信息,对特定方向的声音进行增强。如图1所示,以两个麦克风为例,根据目标方向θ和A,B两个麦克风间距L可确定出到达时间差。
τ=sinθ*L/c (5)
其中,c是声速。当时间差确认之后,比较常用的语音增强方法是delay and sum,即将麦克风信号对齐然后相加,如图2所示。对于两个麦克风的情形,该算法理论上可以抑制3dB的环境噪声,麦克风越多,对环境噪声抑制越强,且对目标信号无风险。但是,该语音增强方法也存在如下缺陷:
(1)在通常的采样率下(8k,16k,32k,48k),很难准确地将两个麦克风信号进行对齐。比如对于8k采样率,采样点之间的时间间隔最小为1/8000秒,若(5)式计算出的时间差不是该数值的整数倍,则不能将两个麦克风信号完全地对齐,进而影响该算法的效果。
(2)该方法在两个麦克风情况下理论上可以抑制3dB的环境噪声,但其实该抑制强度并不算高,无法满足某些特定需求。
发明内容
为克服上述现有技术存在的不足,本发明之一目的在于提供一种声源定位及语音增强方法、装置,以实现通过声源定位找到声源方位的目的。
本发明之另一目的在于提供一种声源定位及语音增强方法、装置,以通过声源定位找到声源方位,确定出目标方位范围,对目标方位的声音进行增强同时对非目标方位的声音进行抑制。
本发明之再一目的在于提供一种声源定位及语音增强方法、装置,可实现对固定方向的声音进行增强。
为达到上述目的,本发明提供一种声源定位方法,包括以下步骤:
步骤S1,将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
步骤S2,根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
步骤S3,将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
步骤S4,根据所述差分矩阵和求和矩阵计算出最匹配斜率;
步骤S5,基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
可选地,在步骤S2中,根据麦克风间距和声速计算出第一麦克风和第二麦克风的最大相位差斜率,基于所述最大相位差斜率确定所述相位差斜率范围,并根据精度需要将所述相位差斜率等分。
可选地,步骤S3进一步包括:
将各个斜率表示的相位差依次补偿给第二麦克风,并由补偿的相位还原出第二麦克风的补偿频谱;
将所述第一麦克风的频谱减去所述第二麦克风的相位补偿频谱,得到MDm(k),将所述第一麦克风的频谱加上所述第二麦克风的相位补偿频谱,得到PDm(k),最后分别将MDm(k)与PDm(k)对频点进行绝对值求和,得到所述差分矩阵和求和矩阵。
可选地,在步骤S4中,将所述差分矩阵和求和矩阵按照帧数求和,得到两个向量,再将所述两个向量作比值,选取最小的比值对应的相位差斜率作为所述最匹配斜率。
为达到上述目的,本发明还提供一种声源语音增强方法,包括以下步骤:
步骤S1,将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
步骤S2,根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
步骤S3,将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
步骤S4,根据所述差分矩阵和求和矩阵计算出最匹配斜率;
步骤S5,将所述最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间;
步骤S6,根据目标斜率区间计算出第二麦克风的补偿频谱,并与所述第一麦克风频谱信号利用延迟累加算法进行目标语音的增强。
可选地,所述方法还包括:
步骤S7,根据所述最匹配斜率和目标斜率区间计算出目标信号和非目标信号的阻塞频谱,并用所述阻塞频谱构建第一增益作用于所述延迟累加算法的结果。
可选地,步骤S7进一步包括:
步骤S700,计算两个端射方向的补偿频谱,并基于补偿频谱得到两个端射方向的阻塞频谱,基于两个端射方向的阻塞频谱得到第一阻塞频谱;
步骤S701,若所述最匹配斜率位于所述目标斜率区间[bm1,bm2]之内,则计算出所述最匹配斜率的阻塞频谱,并对其取绝对值作为第二阻塞频谱;
步骤S702,若所述最匹配斜率位于所述目标斜率区间之外,则计算出所述最匹配斜率的阻塞频谱,并基于所述最匹配斜率b的阻塞频谱与所述第一阻塞频谱更新所述第一阻塞频谱,同时重新在所述目标斜率区间内寻找最匹配斜率,并计算出对应的阻塞频谱幅值作为所述第二阻塞频谱;
步骤S703,基于所述第一阻塞频谱、第二阻塞频谱构建第一增益因子作用于所述延迟累加算法的结果。
可选地,所述方法还包括:
步骤S8,利用所述第一麦克风和第二麦克风的频谱相位差与目标斜率区间对应的相位差区间进行比较确定第二增益因子,以对目标相位差以外的信号进行抑制。
为达到上述目的,本发明还提供一种声源定位装置,包括:
时频转换及极坐标处理单元,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
相位差斜率划分单元,用于根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
相位补偿单元,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
最匹配斜率计算单元,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率;
方位估计单元,基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
为达到上述目的,本发明还提供一种声源语音增强装置,包括:
时频转换及极坐标处理单元,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
相位差斜率划分单元,用于根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
相位补偿单元,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
最匹配斜率计算单元,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率;
斜率拓展单元,用于将所述最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间。
频谱补偿单元,用于根据目标斜率区间计算出第二麦克风的补偿频谱,并与所述第一麦克风频谱信号利用延迟累加算法进行目标语音的增强。
与现有技术相比,本发明一种声源定位及语音增强方法、装置,通过声源定位找到声源方位,然后确定出目标方位范围,在对目标方位的声音进行增强同时对非目标方位的声音进行抑制,经验证,本发明能对目标声源进行增强,同时抑制非目标方向的声音,且在远场和混响环境下也能对语音进行增强。另外本发明具有计算量小的优势,可轻松运行在常见CPU上。
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1是现有技术双麦克风的方位估计示意图;
图2是现有技术中延迟累加(delay and sum)算法增强示意图
图3是本发明第一示例性实施例提供的声源定位方法的流程示意图;
图4是本发明第二示例性实施例提供的声源语音增强方法的流程示意图;
图5为本实施例中双麦语音增强详细流程图;
图6为本发明实施例的双麦语音增强效果展示图;
图7是本发明第三示例性实施例提供的声源定位装置的系统结构图;
图8是本发明第四示例性实施例提供的声源语音增强装置的系统结构图
图9是本发明一示例性实施例提供的电子设备的结构。
具体实施方式
以下通过特定的具体实例并结合附图说明本发明的实施方式,本领域技术人员可由本说明书所揭示的内容轻易地了解本发明的其它优点与功效。本发明亦可通过其它不同的具体实例加以施行或应用,本说明书中的各项细节亦可基于不同观点与应用,在不背离本发明的精神下进行各种修饰与变更。
实施例一:
图3是本发明第一示例性实施例提供的声源定位方法的流程示意图。本实施例可应用在电子设备上,如图3所示,包括以下步骤:
步骤S1,将双麦克风信号转换到频域,并将频域信号转换成极坐标形式。
具体地,步骤S1进一步包括
步骤S101,对两个麦克风信号,将其转换到频域信号。
具体地,将两个麦克风时域信号d1,d2进行分帧和离散傅里叶变换(DFT),得到频域信号D1,D2。
步骤S102,获取每个麦克风信号频谱的极坐标表示形式。
在本实施例中,频域信号D1和D2(分别对应第一麦克风1和第二麦克风2)每个频点分为实部和虚部,可以将之转换成极坐标的形式:
absD1=abs(D1) (6)
absD2=abs(D2) (7)
angleD1=angle(D1) (8)
angleD2=angle(D2) (9)
其中,absD1,absD2表示两个麦克风的频域幅值,angleD1,angleD2表示两个麦克风的频域角度。
如果两个麦克风的一致性较好,排除掉麦克风的随机噪声,则应该有如下关系:
absD1(k)=absD2(k) (10)
angleD1(k)-angleD2(k)=b*k (11)
其中k表示频点索引,b是一个常数。
上述(10)式表示在麦克风一致性较好的情况下,两个麦克风每个频点的幅值是相同的;(11)式表示两个麦克风每个频点的相位差为线性关系。如果b为0,说明两个麦克风信号的相位是完全一致的,也就是声源同时到达两个麦克风。b的绝对值越大,说明两个麦克风的相位差越大,也就是声源到达两个麦克风的延迟越大。且b的值与延迟一一对应。于是,求延迟可以等效为求两个麦克风信号相位差的斜率b。
步骤S2,根据麦克风间距计算出麦克风信号的最大相位差斜率,并根据精度需要将最大相位差斜率进行划分。
在本实施例中,步骤S2进一步包括:
步骤S200,基于两个麦克风的间距计算出两个麦克风相位差斜率的范围。
已知麦克风距离为L,对于波长λ等于L的声波,最大的相位差为2π,对于其他波长的声波,最大相位差则满足:
另外有相位差
B=(fs*L*2π)/(N*c) (14)
(14)式中的B是当麦克风距离一定后,在两个麦克风的端射方向声源产生的线性相位差的斜率绝对值,实际的斜率绝对值应小于等于该值。
步骤S201,根据精度需要将相位差斜率等分。
在本实施例中,得到的相位差斜率值范围为-B到B。将斜率的值从-B到B均分为2M+1个值,正数部分M个值,负数部分M个值,再加上0值。将均分好的斜率表示为向量{b0,b1,...,b2M}。
步骤S3,将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵。
具体地,将各个斜率表示的相位差依次补偿给第二麦克风2,并由补偿的相位还原出第二麦克风2的补偿频谱:
然后,用第一麦克风1的频谱减去第二麦克风2相位补偿频谱得到MDm(k),用第一麦克风1的频谱加上第二麦克风2相位补偿频谱得到PDm(k),最后分别将MDm(k)与PDm(k)对频点进行绝对值求和,得到SMDm,SPDm。SMDm与SPDm是长度为2M+1的向量,将两个向量分别存入矩阵MSMDm与MSPDm的末端,具体如下:
SMDm=∑k|MDm(k)| (19)
SPDm=∑k|PDm(k)| (20)
其中,(19)和(20)式表示对频点进行绝对值求和,求和范围可以是选择性的频带,也可以是全带。得出SMDm和SPDm是2M+1维向量,分别表示不同延迟补偿下双麦克进行差分、求和之后的频谱幅值的和。当第二麦克风2的相位补偿频谱与第一麦克风1的频谱匹配时,SMDm和SPDm理论上应分别具有最小值和最大值。(21)和(22)式表示将SMDm和SPDm分别放入矩阵MSMDm和MSPDm,其中MSMDm为差分矩阵,MSPDm为求和矩阵,本实施例中矩阵的维度是(L+1)*(2M+1),这样做是为了同时考虑到(L+1)帧的相位信息,增加定位算法鲁棒性。
步骤S4,根据所述差分矩阵和求和矩阵计算出最匹配斜率。
在本实施例中,将差分矩阵MSMDm和求和矩阵MSPDm按照帧数求和,得到两个2M+1维向量,再将两个向量作比值,选取最小的比值对应的b值作为最匹配斜率,具体如下:
SMSMDm=∑lMSMDm (23)
SMSPDm=∑lMSPDm (24)
RMPm=SMSMDm./SMSPDm (25)
b=minm(RMPm) (26)
其中,RMPm是2M+1维向量,当相位匹配时,具有最小值。b是使相位补偿后两个麦克风信号相位最匹配对应的斜率,可根据b值反推出麦克风延迟。
步骤S5,基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
在本实施例中,根据b值反推出麦克风延迟的公式如下:
τ=bN/(fs*2π) (27)
延迟τ计算出来后,则可根据麦克风间距和声速计算出声源角度,作为声源定位的输出。
实施例二:
通过前述实施例一,可见:上述(26)式的斜率可用于(15)式计算麦克风的补偿相位,然后通过(16)式计算出第二麦克风2的补偿频谱D′2(k),包括实部和虚部。在理想情况下,第二麦克风2的补偿频谱D′2(k)与第一麦克风1的频谱D1(k)是一致的。但是由于麦克风一致性、麦克风底噪和背景噪声等原因,只有在目标方向声源的频谱是一致的。可用延迟累加(Delay and sum)算法进行目标语音的增强:
Dout(k)=(D1(k)+D′2(k))/2 (28)
对于目标方向的信号,求和后的值应与原来值是一样的,对于非目标方向的信号,求和后的值应小于原来值的1倍。将Dout(k)进行IDFT变换,即得到delay and sum算法的最后输出dout(t)。
该方法与时域delay and sum相比,不受采样率的限制,可将两个麦克风信号完全对齐,语音增强效果可达到该算法的理论极限。但是,在远场情况或者混响比较严重的情况下,声源的相位关系比较模糊,(26)式得出的斜率b不一定是准确的,所以信噪比的提升会受到影响,还可能会对远场语音造成损失。为了对远场语音进行保护,本实施例对斜率b的取值进行了拓展,并对拓展的值进行一定约束。
图4是本发明第二示例性实施例提供的声源语音增强方法的流程示意图,图5为本实施例中双麦语音增强详细流程图。本实施例可应用在电子设备上,如图4及图5所示,包括以下步骤:
步骤S-1,将双麦克风信号转换到频域,并将频域信号转换成极坐标形式。
步骤S-2,根据麦克风间距计算出麦克风信号的最大相位差斜率,并根据精度需要将最大相位差斜率进行划分。
步骤S-3,将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵。
步骤S-4,根据所述差分矩阵和求和矩阵计算出最匹配斜率。
由于步骤S-1-步骤S-4与实施例一相同,本实施例不予赘述。
步骤S-5,将最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间。
在两个麦克风左右对称分布情况下,通常对正前方一定角度范围内的声音进行增强,两个麦克风的端射方向的声源不会是目标声源,所以可以采取对端射方向声源进行抑制的策略。当然,也可以根据斜率b与角度的对应关系自由选取拾音角度范围。由前述公式(14)可知,斜率b的取值范围是[-B,B],且b的取值与角度一一对应,当目标声源角度范围确定之后,斜率b的取值范围也就唯一确定了,假定为[b1,b2]。前述公式(26)确定出最匹配斜率b,为了保护远场声源,本实施例对斜率b拓展到[b-δ,b+δ],并与[b1,b2]取交集为最终的目标斜率区间[bm1,bm2]。
步骤S-6,根据目标斜率区间计算出第二麦克风2的补偿频谱,并与第一麦克风1频谱信号利用延迟累加(Delay and sum)算法进行目标语音的增强。
假定区间内斜率个数为mm,将目标斜率区间[bm1,bm2]代入前述公式(15)和公式(16)得到系列目标范围的第二麦克风2补偿频谱D′2(k,m),在m个补偿频谱中选取幅值较大的实部和虚部,即:
real(D′2(k))=max(|real(D′2(k,m))|)/|real(D′2(k,m))|*real(D′2(k,m))(29)
imag(D′2(k))=max(|imag(D′2(k,m))|)/|imag(D′2(k,m))|*imag(D′2(k,m))(30)
当得到D′2(k)后,再利用前述公式(28)得到延迟累加(delay and sum)输出,即可解决远场与混响等环境下语音损失问题。
可选地,为实现对非目标声源进行抑制,本实施例之声源语音增强方法,还包括:
步骤S-7,根据最匹配斜率和目标斜率区间计算出目标信号和非目标信号的阻塞频谱,并用所述阻塞频谱构建第一增益作用于所述延迟累加(Delay and sum)算法的结果。
对非目标声源进行抑制,即对目标斜率区间[bm1,bm2]外的声源进行抑制。具体地,步骤S7进一步包括:
步骤S-700,计算两个端射方向的补偿频谱,并基于补偿频谱得到两个端射方向的阻塞频谱,并基于两个端射方向的阻塞频谱得到第一阻塞频谱ADb1(k)。
然后,基于两个端射方向的补偿频谱利用差分计算得到两个端射方向的阻塞频谱:
Db1(k)和Db2(k)是端射方向的阻塞频谱,求该频谱的幅值并取较小值作为所述第一阻塞频谱ADb1(k)。
ADb1(k)=min(|Db1(k)|,|Db2(k)|) (33)
步骤S-701,若最匹配斜率b位于目标斜率区间[bm1,bm2]之内,则计算出最匹配斜率b的阻塞频谱Db3(k),并对其取绝对值作为第二阻塞频谱ADb2(k):
ADb2(k)=|Db3(k)| (34)
步骤S-702,若最匹配斜率b位于区间[bm1,bm2]之外,则计算出最匹配斜率b的阻塞频谱Db3(k),并基于最匹配斜率b的阻塞频谱Db3(k)与第一阻塞频谱ADb1(k)更新所述第一阻塞频谱ADb1(k),同时重新在区间[bm1,bm2]内寻找最匹配斜率,并计算出对应的阻塞频谱幅值作为第二阻塞频谱ADb2(k)。
具体地,如果最匹配斜率b位于区间[bm1,bm2]之外,则计算求出最匹配斜率b的阻塞频谱Db3(k),然后在第一阻塞频谱ADb1(k)和频谱Db3(k)绝对值中再取较小值更新所述第一阻塞频谱ADb1(k):
ADb1(k)=min(ADb1(k),|Db3(k)|) (35)
并且,此时需要在区间[bm1,bm2]内重新寻找最匹配斜率b′,并计算最匹配斜率b′的阻塞频谱D′b3(k),然后单独取绝对值作为所述第二阻塞频谱ADb2(k):
ADb2(k)=|D′b3(k)| (36)
步骤S-703,基于第一阻塞频谱ADb1(k)、第二阻塞频谱ADb2(k)构建第一增益因子gain1作用于所述延迟累加(Delay and sum)算法的结果。
具体地,ADb1(k)基本不包含非目标方向的声源信息,ADb2(k)基本不包含目标方向的声源信息,用这两个阻塞频谱构建第一增益因子:
其中,β是一个位于(0,1)之间且较接近0的数,γ是略大于1的数,调节β和γ参数可控制抑制强度。
公式(37)表示当目标方向的声音小于非目标方向的声音时,则该频点是非目标声音的可能性较大,进行直接抑制;否则,用非目标声音做参考进行滤波。将gain1(k)作用于D′2(k)即可得到非目标方向被抑制的频谱。
但是由于麦克风一致性和麦克风间距等因素,非目标方向的低频能量仅用上述方法较难得到有效抑制。于是,对于低频,还需采取额外抑制。
可选地,本实施例之声源语音增强方法,还包括:
步骤S-8,利用第一麦克风1和第二麦克风2的频谱相位差与目标斜率区间对应的相位差区间进行比较确定第二增益因子,以对目标相位差以外的信号进行抑制。
由于目标方向的阻塞频谱大小和非目标方向的阻塞频谱大小在低频很接近,步骤S-7得出的增益对于低频的抑制效果比较有限。又由于低频相位差较小,不容易发生相位混叠,所以本实施例通过对低频直接计算相位差的方式,构建增益因子。
具体地,步骤S-8进一步包括:
步骤S-800,计算第二麦克风2和第一麦克风1的频谱相位差diffA,并将之与目标斜率区间[bm1,bm2]所对应的相位差区间进行比较。
具体地,第二麦克风2和第一麦克风1的频谱相位差diffA为:
diffA=angleD2-angleD1 (38)
步骤S-801,基于所述频谱相位差diffA与目标区斜率间[bm1,bm2]确定第二增益因子,以对目标相位差以外的信号进行抑制
若频谱相位差diffA位于目标区斜率间[bm1,bm2]对应的相位差之外,则进行抑制,否则不进行抑制,即得到第二增益因子:
其中,ε表示一个(0,1)之间的数,表示对低频非目标信号的抑制强度。
步骤S-802,将第一增益因子与第二增益因子共同作用于所述延迟累加(Delayand sum)算法的结果
具体地,将gain1(k)和gain2(k)共同作用于Dout(k)即可得到一个较理想的非目标信号抑制效果,具体如下:
D′out(k)=Dout(k)*gain1(k)*gain2(k) (40)
可见,本实施例通过声源定位找到声源方位,确定出目标方位范围,然后对目标方位的声音进行增强同时对非目标方位的声音进行抑制,如果让其自动寻找声源方位并进行增强,此方案可用于会议系统和常见免提语音通话等领域;也可不进行声源定位,直接对固定方向的声音进行增强,此方案可用于安防摄像头定向增强和耳机通话等领域。
图6示出了本实施例实际的仿真效果:对于同时存在目标语音和非目标语音阶段,可见目标语音频谱变得更加清晰了,同时非目标语音和底噪都得到了抑制,实际听感是干扰减小,目标语音听得更清楚;对于只有非目标语音阶段,非目标语音和背噪均得到了抑制。该算法也可用于多麦克风的情况,将多麦克风划分为两两组合的形式进行增强即可。
经验证,该方法能对目标声源进行增强,同时抑制非目标方向的声音,且在远场和混响环境下也能对语音进行增强。另外本发明具有计算量小的优势,可轻松运行在常见CPU上。
实施例三
图7是本发明一示例性实施例提供的声源定位装置的系统结构图。本实施例可应用在电子设备上,如图7所示,包括:
时频转换及极坐标处理单元701,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式。
具体地,时频转换及极坐标处理单元701进一步包括
时频转换模块,用于对两个麦克风信号,将其转换到频域信号。
极坐标确定模块,用于获取每个麦克风信号频谱的极坐标表示形式。
相位差斜率划分单元702,用于根据麦克风间距计算出麦克风信号的最大相位差斜率,并根据精度需要将最大相位差斜率进行划分。
在本实施例中,相位差斜率划分单元702进一步包括:
相位差斜率范围确定模块,用于基于两个麦克风的间距计算出两个麦克风相位差斜率的范围。
斜率划分模块,用于根据精度需要将相位差斜率等分。
相位补偿单元703,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵。
最匹配斜率计算单元704,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率。
方位估计单元705,基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
实施例四
图8是本发明第四示例性实施例提供的声源语音增强装置的结构示意图。本实施例可应用在电子设备上,如图8所示,包括:
时频转换及极坐标处理单元801,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式。
相位差斜率划分单元802,用于根据麦克风间距计算出麦克风信号的最大相位差斜率,并根据精度需要将最大相位差斜率进行划分。
相位补偿单元803,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵。
最匹配斜率计算单元804,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率。
由于时频转换及极坐标处理单元801-最匹配斜率计算单元804与实施例三相同,本实施例不予赘述。
斜率拓展单元805,用于将最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间。
频谱补偿单元806,用于根据目标斜率区间计算出第二麦克风2的补偿频谱,并与第一麦克风1频谱信号利用延迟累加(Delay and sum)算法进行目标语音的增强。
可选地,为实现对非目标声源进行抑制,本实施例之声源语音增强装置,还包括:
阻塞频谱和增益计算单元807,用于根据最匹配斜率和目标斜率区间计算出目标信号和非目标信号的阻塞频谱,并用所述阻塞频谱构建第一增益作用于所述Delay andsum算法的结果。
具体地,阻塞频谱和增益计算单元807进一步包括:
计算两个端射方向的补偿频谱,并基于补偿频谱得到两个端射方向的阻塞频谱,并基于两个端射方向的阻塞频谱得到第一阻塞频谱ADb1(k)。
若最匹配斜率b位于目标斜率区间[bm1,bm2]之内,则计算出最匹配斜率b的阻塞频谱Db3(k),并对其取绝对值作为第二阻塞频谱ADb2(k)。
若最匹配斜率b位于区间[bm1,bm2]之外,则计算出最匹配斜率b的阻塞频谱Db3(k),并基于最匹配斜率b的阻塞频谱Db3(k)与第一阻塞频谱ADb1(k)更新所述第一阻塞频谱ADb1(k),同时重新在区间[bm1,bm2]内寻找最匹配斜率,并计算出对应的阻塞频谱幅值作为第二阻塞频谱ADb2(k)。
基于第一阻塞频谱ADb1(k)、第二阻塞频谱ADb2(k)构建第一增益因子gain1作用于所述延迟累加(Delay and sum)算法的结果。
可选地,本实施例之声源语音增强装置,还包括:
相位差比较和增益计算单元808,用于利用第一麦克风1和第二麦克风2的频谱相位差与目标斜率区间对应的相位差区间进行比较确定第二增益因子,以对目标相位差以外的信号进行抑制。
由于目标方向的阻塞频谱大小和非目标方向的阻塞频谱大小在低频很接近,阻塞频谱和增益计算单元807得出的增益对于低频的抑制效果比较有限。又由于低频相位差较小,不容易发生相位混叠,所以本实施例通过对低频直接计算相位差的方式,构建增益因子。
具体地,相位差比较和增益计算单元808进一步包括:
计算第二麦克风2和第一麦克风1的频谱相位差diffA,并将之与目标斜率区间[bm1,bm2]所对应的相位差区间进行比较。
基于所述频谱相位差diffA与目标区斜率间[bm1,bm2]确定第二增益因子,以对目标相位差以外的信号进行抑制。
将第一增益因子与第二增益因子共同作用于所述延迟累加(Delay and sum)算法的结果。
示例性电子设备
图9是本发明一示例性实施例提供的电子设备的结构。该电子设备可以是第一设备和第二设备中的任一个或两者、或与它们独立的单机设备,该单机设备可以与第一设备和第二设备进行通信,以从它们接收所采集到的输入信号。图9图示了根据本公开实施例的电子设备的框图。如图9所示,电子设备包括一个或多个处理器91和存储器92。
处理器91可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备中的其他组件以执行期望的功能。
存储器92可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器91可以运行所述程序指令,以实现上文所述的本公开的各个实施例的软件程序的声源定位方法以及/或者其他期望的功能。在一个示例中,电子设备还可以包括:输入装置93和输出装置94,这些组件通过总线系统和/或其他形式的连接机构(未示出)互连。
此外,该输入装置93还可以包括例如键盘、鼠标等等。
该输出装置94可以向外部输出各种信息。该输出设备94可以包括例如显示器、扬声器、打印机、以及通信网络及其所连接的远程输出设备等等。
当然,为了简化,图9中仅示出了该电子设备中与本公开有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本公开的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的声源定位方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本公开的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本公开各种实施例的声源定位方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本公开的基本原理,但是,需要指出的是,在本公开中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本公开的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本公开为必须采用上述具体的细节来实现。
本说明书中各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其它实施例的不同之处,各个实施例之间相同或相似的部分相互参见即可。对于系统实施例而言,由于其与方法实施例基本对应,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本公开中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。此外,在一些实施例中,还可将本公开实施为记录在记录介质中的程序,这些程序包括用于实现根据本公开的方法的机器可读指令。因而,本公开还覆盖存储用于执行根据本公开的方法的程序的记录介质。
还需要指出的是,在本公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本公开的等效方案。提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本公开。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本公开的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (10)
1.一种声源定位方法,包括以下步骤:
将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
根据所述差分矩阵和求和矩阵计算出最匹配斜率;
基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
2.如权利要求1所述的声源定位方法,其特征在于,在所述根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分步骤中,根据麦克风间距和声速计算出第一麦克风和第二麦克风的最大相位差斜率,基于所述最大相位差斜率确定所述相位差斜率范围,并根据精度需要将所述相位差斜率等分。
3.如权利要求2所述的声源定位方法,其特征在于,所述将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵,包括:
将各个斜率表示的相位差依次补偿给第二麦克风,并由补偿的相位还原出第二麦克风的补偿频谱;
将所述第一麦克风的频谱减去所述第二麦克风的相位补偿频谱,得到MDm(k),将所述第一麦克风的频谱加上所述第二麦克风的相位补偿频谱,得到PDm(k),最后分别将MDm(k)与PDm(k)对频点进行绝对值求和,得到所述差分矩阵和求和矩阵。
4.如权利要求3所述的声源定位方法,其特征在于,在所述根据所述差分矩阵和求和矩阵计算出最匹配斜率步骤中,将所述差分矩阵和求和矩阵按照帧数求和,得到两个向量,再将所述两个向量作比值,选取最小的比值对应的相位差斜率作为所述最匹配斜率。
5.一种语音增强方法,包括以下步骤:
将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
根据所述差分矩阵和求和矩阵计算出最匹配斜率;
将所述最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间;
根据目标斜率区间计算出第二麦克风的补偿频谱,并与所述第一麦克风频谱信号利用延迟累加算法进行目标语音的增强。
6.如权利要求5所述的声源语音增强方法,其特征在于,所述方法还包括:
根据所述最匹配斜率和目标斜率区间计算出目标信号和非目标信号的阻塞频谱,并用所述阻塞频谱构建第一增益作用于所述延迟累加算法的结果。
7.如权利要求6所述的声源语音增强方法,其特征在于,所述根据所述最匹配斜率和目标斜率区间计算出目标信号和非目标信号的阻塞频谱,并用所述阻塞频谱构建第一增益作用于所述延迟累加算法的结果,进一步包括:
计算两个端射方向的补偿频谱,并基于补偿频谱得到两个端射方向的阻塞频谱,基于两个端射方向的阻塞频谱得到第一阻塞频谱;
若所述最匹配斜率位于所述目标斜率区间之内,则计算出所述最匹配斜率的阻塞频谱,并对其取绝对值作为第二阻塞频谱;
若所述最匹配斜率位于所述目标斜率区间之外,则计算出所述最匹配斜率的阻塞频谱,并基于所述最匹配斜率b的阻塞频谱与所述第一阻塞频谱更新所述第一阻塞频谱,同时重新在所述目标斜率区间内寻找最匹配斜率,并计算出对应的阻塞频谱幅值作为所述第二阻塞频谱;
基于所述第一阻塞频谱、第二阻塞频谱构建第一增益因子作用于所述延迟累加算法的结果。
8.如权利要求7所述的声源语音增强方法,其特征在于,所述方法还包括:
利用所述第一麦克风和第二麦克风的频谱相位差与目标斜率区间对应的相位差区间进行比较确定第二增益因子,以对目标相位差以外的信号进行抑制。
9.一种声源定位装置,包括:
时频转换及极坐标处理单元,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
相位差斜率划分单元,用于根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
相位补偿单元,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
最匹配斜率计算单元,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率;
方位估计单元,基于得到的最匹配斜率反推出信号到达麦克风的延迟,利用三角关系求出信号方位,作为方位输出。
10.一种声源语音增强装置,包括:
时频转换及极坐标处理单元,用于将双麦克风信号转换到频域,并将频域信号转换成极坐标形式;
相位差斜率划分单元,用于根据麦克风间距和声速计算出麦克风信号相位差的斜率范围,并根据精度需要将相位差斜率进行划分;
相位补偿单元,用于将划分的各相位差斜率换成相位补偿到第二麦克风的频谱,并基于补偿后的第二麦克风频谱与第一麦克风频谱计算得到差分矩阵和求和矩阵;
最匹配斜率计算单元,用于根据所述差分矩阵和求和矩阵计算出最匹配斜率;
斜率拓展单元,用于将所述最匹配斜率进行拓展,并结合规定的目标声源方位范围得出目标斜率区间。
频谱补偿单元,用于根据目标斜率区间计算出第二麦克风的补偿频谱,并与所述第一麦克风频谱信号利用延迟累加算法进行目标语音的增强。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211632780.2A CN115932733A (zh) | 2022-12-19 | 2022-12-19 | 声源定位及语音增强方法、装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211632780.2A CN115932733A (zh) | 2022-12-19 | 2022-12-19 | 声源定位及语音增强方法、装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115932733A true CN115932733A (zh) | 2023-04-07 |
Family
ID=86650716
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211632780.2A Pending CN115932733A (zh) | 2022-12-19 | 2022-12-19 | 声源定位及语音增强方法、装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115932733A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116645973A (zh) * | 2023-07-20 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 定向音频增强方法、装置、存储介质及电子设备 |
-
2022
- 2022-12-19 CN CN202211632780.2A patent/CN115932733A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116645973A (zh) * | 2023-07-20 | 2023-08-25 | 腾讯科技(深圳)有限公司 | 定向音频增强方法、装置、存储介质及电子设备 |
CN116645973B (zh) * | 2023-07-20 | 2023-09-29 | 腾讯科技(深圳)有限公司 | 定向音频增强方法、装置、存储介质及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101456866B1 (ko) | 혼합 사운드로부터 목표 음원 신호를 추출하는 방법 및장치 | |
AU2011334840B2 (en) | Apparatus and method for spatially selective sound acquisition by acoustic triangulation | |
US8098844B2 (en) | Dual-microphone spatial noise suppression | |
US8204247B2 (en) | Position-independent microphone system | |
JP4096104B2 (ja) | 雑音低減システム及び雑音低減方法 | |
US20170140771A1 (en) | Information processing apparatus, information processing method, and computer program product | |
CN110770827B (zh) | 基于相关性的近场检测器 | |
US20110274291A1 (en) | Robust adaptive beamforming with enhanced noise suppression | |
CN105493518A (zh) | 具有端射麦克风阵列的头戴式耳机以及端射阵列的自动校准 | |
MX2014006499A (es) | Aparato y metodo para posicionar microfonos basado en la densidad de potencia espacial. | |
KR20110106715A (ko) | 후방 잡음 제거 장치 및 방법 | |
CN109859769B (zh) | 一种掩码估计方法及装置 | |
WO2003017718A1 (en) | Post-processing scheme for adaptive directional microphone system with noise/interference suppression | |
CN115932733A (zh) | 声源定位及语音增强方法、装置 | |
Gößling et al. | RTF-steered binaural MVDR beamforming incorporating multiple external microphones | |
CN113660578B (zh) | 拾音角度范围可调的双麦克风定向拾音方法和装置 | |
JP6041244B2 (ja) | 音響処理装置および音響処理方法 | |
Šarić et al. | Bidirectional microphone array with adaptation controlled by voice activity detector based on multiple beamformers | |
KR20090098552A (ko) | 위상정보를 이용한 자동 이득 조절 장치 및 방법 | |
Wakabayashi et al. | Sound field interpolation for rotation-invariant multichannel array signal processing | |
Liu et al. | Sound source localization and speech enhancement algorithm based on fixed beamforming | |
WO2019178802A1 (en) | Method and device for estimating direction of arrival and electronics apparatus | |
Mosgaard et al. | Circular statistics-based low complexity DOA estimation for hearing aid application | |
CN110858485A (zh) | 语音增强方法、装置、设备及存储介质 | |
CN112017684B (zh) | 一种基于麦克风阵列的密闭空间混响消除方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |