CN109767779A - 基于最小误差熵的成比例仿射投影方法 - Google Patents
基于最小误差熵的成比例仿射投影方法 Download PDFInfo
- Publication number
- CN109767779A CN109767779A CN201811369867.9A CN201811369867A CN109767779A CN 109767779 A CN109767779 A CN 109767779A CN 201811369867 A CN201811369867 A CN 201811369867A CN 109767779 A CN109767779 A CN 109767779A
- Authority
- CN
- China
- Prior art keywords
- algorithm
- formula
- minimal error
- equation
- entropy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Circuit For Audible Band Transducer (AREA)
- Soundproofing, Sound Blocking, And Sound Damping (AREA)
- Cable Transmission Systems, Equalization Of Radio And Reduction Of Echo (AREA)
Abstract
基于最小误差熵的成比例仿射投影算法,我们提出了一种基于牛顿方法框架,并向PMEE算法中引入仿射投影方法的新算法MEE‑MPAPA‑Newton,这种新算法能更好的解决在非高斯噪声中,输入强相关信号时的稀疏系统识别问题。本方法基于比例系数、最小误差熵准则和牛顿方法,提出了一种用于解决在强相关信号输入时,非高斯噪声环境下稀疏系统辨识问题的仿射投影自适应滤波算法。
Description
技术领域
本发明提供一种基于最小误差熵的成比例仿射投影方法。
背景技术
稀疏系统与非高斯噪声,这两种普遍在自然界中存在的现象对于工程应用有着严重的影响,例如声学回声消除。为了解决这两个问题,人们提出了许多基于非二阶统计量的自适应滤波算法,例如成比例的最小误差熵算法(PMEE),并广泛应用于存在非高斯噪声的稀疏系统中。PMEE算法通过基于Renyi熵的约束条件来解决非高斯噪声的问题,并同时引入了比例系数矩阵来确保算法可以更有效的工作于稀疏系统中。但是,这种基于梯度下降法的PMEE算法在处理相关性较强的信号时有着收敛速度较慢的缺点。
发明内容
发明内容:
本发明提供一种基于最小误差熵的成比例仿射投影方法,其目的是解决以往所存在的问题。
技术方案:
一种基于最小误差熵的成比例仿射投影方法,其特征在于:该方法步骤如下:
设滤波器的系数为:W(k)=[w1(k),w2(k)...wN(k)]T;本申请使用的牛顿方法为:
将式(9)对W求偏导并代入式(18)中得:
本申请的APA算法基于数据重用方法;将输入X在数据重用后记为X;P为投影阶数;
因此,误差信号被表示为:
e(k)=d(k)-y(k)=d(k)-XT(k)W(k) (21)
由于参数i和j在计算中与参数k同步,因此i和j的上限也被设置为k;将等式(20)和(21)代入等式(19)得到:
对于平稳的输入信号,得到其自相关矩阵R(k)的估计值:
根据平稳过程的自相关函数的性质,将时间k分成i和j的两个不同的时刻。然后将等式(23)代入等式(22)可以得到:
在原有的APA方法上加入MEE(最小误差熵)的约束条件后得到MEE-APA算法,并将μ率PNLMS算法中的比例法引入到MEE-APA(这个MEE-APA就是在原有的APA方法基础上又加入的MEE(最小误差熵))算法中,得到新算法的更新方程;
其中比例系数矩阵G按照公式(14-17)更新;ε是一个很小的数,矩阵I为单位矩阵。
对于基于梯度下降法的算法,可以证明在若干次迭代之后,权重向量的期望值E(Wk)将收敛到维纳权向量(26)(也被称为维纳解);
W*=R-1P (26)
解(26)是多次迭代后滤波器系数达到的最优解;其中R是输入信号的自相关函数;P是输入信号和理想信号之间的互相关函数;将基于最小误差熵的代价函数(9),对滤波器系数W(k)求偏导数得:
将式(21)代入式(27)得:
在式(28)中:
由基于最小误差熵的代价函数(9)组成的不动点方程(31)收敛于:
Wk+1=f(Wk) (31)
通过这种方法,将式(32)转化为式(31)的同解方程:
通过式(32)得到类似于维纳解的新算法的最优解:
所以认为新算法收敛于最优解
优点效果:
为了解决以上三个问题,我们提出了一种基于牛顿方法框架,并向PMEE算法中引入仿射投影方法的新算法MEE-MPAPA-Newton,这种新算法能更好的解决在非高斯噪声中,输入强相关信号时的稀疏系统识别问题。
自适应滤波算法在很多领域都有着广泛的应用,例如声学回声消除,噪声消除和信道估计[Haykin S.Adaptivefilter theory[M].Upper Saddle River,NJ,USA:Prentice-Hall,2002.],本方法提出的新算法集中解决了在声学回声消除中的三个关键问题:稀疏系统、非高斯噪声和输入信号的相关性。
稀疏系统在自然界中普遍存在并对例如声学通信中的回声消除、无线通信中的多径信道、水下通信等工程应用有着很大的影响。本方法以声学回声消除为例。为了进一步解决稀疏声学信道中的回声消除问题,许多针对稀疏系统的算法被提出,例如将比例矩阵引入传统APA算法中的PAPA[K.Ozeki;T.Umeda.An adaptive filtering algorithm usingan orthogonal projection to an affine subspace and its properties.Electronicsand Communication in Japan,19-27,(1984)]算法,比例矩阵的引入进一步解决了稀疏信道中稀疏点和非稀疏点的步长的合理分配。但是在实际应用中,PAPA算法需要很高的信道稀疏度,并不能很好的适应各种不同的信道稀疏度的要求。为了解决这个问题,文献[C.Paleologu;J.Benesty;S.Ciochina.Sparse adaptive filters for echocancellation.Synthesis Lectures on Speech&Audio Processing,2010,6(1):124]提出了一种改进的成比例仿射投影算法(IPAPA)。IPAPA算法保证了每个滤波器抽头系数分配到的步长值更加合理,所以这种算法可以适应不同稀疏程度的信道。在此基础之上,Deng等人进一步提出了一种基于比例系数的MPNLMS[H.Deng;M.Doroslovacki.Improvingconvergence of the PNLMS algorithm for sparse impulse responseidentification.IEEE Signal Processing Letters,vol.12,no.3,pp.181-184,Mar.2005;H.Deng;M.Doroslovacki.Proportionate adaptive algorithms for networkecho cancellation.IEEE Trans.Signal Processing,vol.54,no.5,pp.1794-1803,Mar.2006;H.Deng.Adaptive algorithms of sparse impulsive responseidentification.D.SC dissertation,Dept.of Electrical and Computer Engineering,George Washington University,Washington,DC,Mar.2005]算法,可以将每个滤波器系数对应的步长进一步合理分配,同时保证了较快的收敛速度。至此,步长分配优化的问题得到了很好的解决。
在自适应滤波算法中,绝大多数算法基于二阶统计量。二阶统计量可以在高斯噪声中有着很好的鲁棒性,这些二阶统计量被广泛地用于算法的代价函数中,或者被用于求代价函数极值的约束条件,例如归一化最小均方算法(NLMS)和其衍生出的仿射投影算法(APA)。但是,这些基于二阶统计量的算法,几乎都不能很好的适用于非高斯噪声环境下的稀疏系统中。在自然界中,存在着各种各样的非高斯噪声。例如图像中的椒盐噪声、电气开关中的脉冲噪声,这些非高斯噪声能够严重破坏基于二阶统计量的算法。为了进一步提高算法对于非高斯噪声的抑制能力,文献[Xiao L S;Wu M;Yang J.A new efficientfiltered-x affine projection sign algorithm for active control of impulsivenoise[J].Signal Processing,120(3),pp.456-461,2016;Ni J G;Li F.Efficientimplementation of the affine projection sign algorithm[J].IEEE SignalProcessing Letters,19(1),pp.24-26,2012;Shao Tiange;Zheng Y R;Benesty J.Anaffine projection sign algorithm robust against impulsive interferences[J].IEEE Signal Processing Letters,17(4):327-330,2010.]提出了一些替代优化准则的算法,例如对非高斯噪声有着一定抑制作用的仿射投影符号算法(APSA)。但是符号运算并不是解决非高斯噪声影响的最佳方法,算法中的符号运算可能会减慢算法的收敛速度或者使算法发散。因此,许多基于非二阶统计量的鲁棒性算法被提出。例如,基于最大相关熵准则[Yanyan Wang;YingsongLi.An adaptive combination constrained proportionatenormalized maximum correntropy criterion algorithm for sparse channelestimations.Journal on Advances in Signal Processing,58,2018.]的成比例归一化最大相关熵准则算法(PNMCC)[Weihua Wang;Jihong Zhao.A correntropy inspiredvariable step-size sign algorithm against impulsive noises,Signal Processing,doi:10.1016/j.sigpro.2017.05.028,pp.6-8,2017.]和基于最小误差熵准则[Zongze Wu;Siyuan Peng.Minimum Error Entropy Algorithms with Sparsity PenaltyConstraints.Entropy,doi:10.3390/e17053419,pp.3-6,2015]的成比例最小误差熵算法(PMEE)[Zongze Wu;Siyuan Peng.Minimum Error Entropy Algorithms with SparsityPenalty Constraints.Entropy,doi:10.3390/e17053419,pp.3-6,2015]。熵作为一种有局部相似性的函数,基于熵准则的算法在处理非高斯信号时,要优于基于最小均方准则和符号运算的算法。从另一方面来说,熵作为一种不确定性的度量,比二阶统计量更加适合描述非高斯噪声。
在声学通信中,语音信号往往表现出强相关性。但是,对于这些强相关性的信号,基于梯度下降法的算法(例如PMEE算法)有着较慢的收敛速度。这些算法较为适合处理高斯信号这类弱相关性的输入信号。为了解决这个问题,新算法利用牛顿方法来替代梯度下降法,从而使算法在处理强相关信号时有着较快的收敛速度。基于以上,本方法基于比例系数、最小误差熵准则和牛顿方法,提出了一种用于解决在强相关信号输入时,非高斯噪声环境下稀疏系统辨识问题的仿射投影自适应滤波算法。
附图说明
图1利用最小误差熵滤波器的回声消除系统
图2当α=1.2时的α稳定分布
图3仿真中使用的稀疏信道(36)
图4仿真中使用的稀疏信道(37)
图6 α=1.1时算法的NMSD曲线
图7 α=1.8时算法的NMSD曲线
图8 α=0.75时算法的NMSD曲线
图9 α=2.0时算法的NMSD曲线
图10 α=1.2输入信号为高斯白噪声时算法的NMSD曲线
图11 α=1.2时取不同步长时算法的NMSD曲线
图12 α=1.2时算法的稳态NMSD曲线
图13.在信道突变时算法的适应性
图14.语音信号
图15.在α=1.2的非高斯噪声下语音信号回声消除的NMSD曲线
图16.系统突变中语音信号回声消除的NMSD曲线。
具体实施方式
1.成比例最小误差熵算法
1.1最小误差熵准则
随机变量X的香农熵定义为:
其中N代表数据的个数,Pk代表第k个数据的概率。从香农熵推导出的α阶Renyi熵可表示为:
当α=2时,H2(X)为随机变量X的Renyi二次熵。Vα(X)为α阶信息势能。但是在一般情况下,通常无法得到准确的概率密度函数,因此使用Parzen窗法获得的概率密度估计值为:
其中Kσ为核函数,σ为核函数的宽度。在实际应用中,核函数的选择也会根据实际情况而有所不同。一般来说,常用的核函数有多项式核函数与高斯核函数。在本方法中,考虑到通用性等因素,选用高斯核函数。其表达式为:
将其代入Renyi二次熵公式可以得到Renyi二次熵的估计值:
由于本方法中处理的所有数据都是数字信号,因此可以将其更改为:
从而得到的二阶信息势能的估计值为:
在式(8)中,xi和xj分别为不同时刻的输入信号。Renyi二次熵的估计值即为xi和xj的相关熵。当xi和xj分别为不同时刻的误差ei和ej时,Renyi二次相关熵便可以被定义为误差熵从熵的定义来看,熵是表示混乱程度的量,将熵的概念引入自适应滤波算法中,为消除误差需要引入的信息越多,熵越高,反之亦然。当取最小值时,最小误差熵算法的代价函数可以设为:
式(9)表示的代价函数为非二阶统计量,其对非高斯噪声具有良好的抑制效果。
1.2μ律的成比例算法
成比例的最小误差熵算法PMEE[13]算法基于广泛使用的成比例归一化最小均方算法(PNLMS)[14],它可以很好地解决滤波器系数对应的步长分配不均匀的问题。PNLMS的更新方程是:
其中比例矩阵G(k)定义为:
Lmax=max{δp,|w0(k)|,...,|wN-1(k)|} (11)
γn(k)=max{|wn(k)|,ρLmax} (12)
基于PNLMS算法(10-13),Deng进一步优化了在稀疏系统中为每个滤波器系数分配的步长的权重。MPNLMS算法[4-6]中的新比例系数矩阵是:
F(wn(k))=ln(1+μ|wn(k)|) (14)
Lmax=max{δp,F(wn(k)),...,F(wn(k))} (15)
γn(k)=max{F(wn(k)),ρLmax} (16)
利用这种新的成比例方法,该算法可以在不同稀疏程度的信道中具有更快的收敛速度。
1.3基于牛顿法的最小误差熵仿射投影算法
1.3.1新算法的推导过程
在自适应滤波算法中,牛顿法及其衍生算法收敛速度快,对强相关信号有较好的处理效果。设滤波器的系数为:W(k)=[w1(k),w2(k)...wN(k)]T。本方法中使用的牛顿方法为:
将式(9)对W求偏导并代入式(18)中可得:
与使用一维数据输入的LMS算法不同,APA算法基于数据重用方法[16]。将输入X在数据重用后记为X。P为投影阶数。
因此,误差信号可以被表示为:
e(k)=d(k)-y(k)=d(k)-XT(k)W(k) (21)
由于参数i和j在计算中与参数k同步,因此i和j的上限也被设置为k。将等式(20)和(21)代入等式(19)可以得到:
对于平稳的输入信号,可以得到其自相关矩阵R(k)的估计值:
根据平稳过程的自相关函数的性质,将时间k分成i和j的两个不同的时刻。然后将等式(23)代入等式(22)可以得到:
将μ率PNLMS算法(10,14-17)中的比例法引入到MEE-APA算法中,可以得到新算法的更新方程。
其中比例系数矩阵G按照公式(14-17)更新。ε是一个很小的数,矩阵I为单位矩阵,目的是防止在计算过程中出现不满秩的情况。
1.3.2提出算法的收敛性
对于基于梯度下降法的算法,可以证明在若干次迭代之后,权重向量的期望值E(Wk)将收敛到维纳权向量(26)(也被称为维纳解)。
W*=R-1P (26)
根据文献[17],解(26)是多次迭代后滤波器系数达到的最优解。其中R是输入信号的自相关函数。P是输入信号和理想信号之间的互相关函数。将基于最小误差熵的代价函数(9),对滤波器系数W(k)求偏导数可得:
将式(21)代入式(27)可得:
在式(28)中:
Zhang[18]证明了由基于最小误差熵的代价函数(9)组成的不动点方程(31)收敛于:
Wk+1=f(Wk) (31)
通过这种方法,可以将式(32)转化为式(31)的同解方程:
通过式(32)可以得到类似于维纳解的新算法的最优解:
所以可以认为新算法收敛于最优解
2.仿真结果与应用
2.1仿真与实验参数的设置
在本方法中,将提出的新算法的原理应用至回声消除。实验由三部分组成。首先,比较了不同算法在不同冲击噪声下的性能。其次,比较了算法在取不同步长时,在不同程度的噪声冲击下,新算法的性能。第三,测试了新算法对实际语音信号的影响以及当回声信道发生突变时新算法的跟踪效果。本方法采用MATLAB进行仿真,实验中回声消除的原理如图1所示。
2.1.1非高斯噪声的设置
实验中使用的非高斯噪声为α稳定的分布噪声。随机变量X服从稳定分布,则特征函数[19]满足以下形式:
其中涉及到四个参数分别为:α、β、γ和a,稳定分布的性质也由这些参数决定。其中,α决定稳定分布的冲击性,α的值越大,稳定分布的冲击性越强。当α=1时,稳定分布对应于柯西分布。当α=2时,稳定分布对应于高斯分布。图2为当α=1.2时的稳定分布。α稳定分布适合描述那些类似于高斯分布,但却有比较强的冲击性的随机分布。其中各参数的取值范围为:α∈(1,2),β∈[-1,1],γ>0,a∈(-∞,+∞)。
2.1.2输入信号与回声信道的设置
对于图1所示的回声消除系统,本方法选择三种不同的输入信号,一种是服从高斯分布的随机信号,其均值为0,方差为1。另一种是语音信号,如图14所示。第三种为有色信号,输入的有色信号由高斯随机信号通过四阶AR系统(35)产生。
本方法使用的信道为式(36)和式(37)所生成的稀疏信道[20]。
其中k是自适应滤波器的长度,k的值是120。图3和图4分别显示了生成的稀疏信道。
2.1.3实验参数的设置
用于评估算法性能的指标是归一化均方偏差(NMSD)的收敛曲线(37),其中wi表示每次迭代后的滤波器系数,w0表示生成的稀疏信道的实际值。NMSD用于测量自适应滤波器对目标系统的近似程度。
仿真中每个算法中使用的参数如表1所示。
表1实验中的参数设置
2.2仿真结果
使用MATLAB模拟图1中的回声消除系统。图5显示了非高斯噪声下PMEE[12],PMEE-Newton,APSA[7-9],PAPA[3],IPAPSA[21]和改进的新算法(MEE-MPAPA-Newton)的NMSD收敛曲线。每种算法的参数如表1所示。投影阶数为p=4。未知系统的阶数和滤波器的阶数均为120。α稳定噪声的特征指数α为1.2。在仿真实验中,测量噪声v(k)被加到输出信号上,其广义信噪比(GSNR)[22]为10dB。GSNR的定义为: 为输入信号的方差,γ为稳定分布的分散系数。仿真结果在30次独立蒙特卡罗运行中取平均值,每次运行有40,000次迭代。
从图5可以看出,在非高斯噪声的稀疏系统识别中,由最小误差熵的代价函数构成的算法比基于二阶统计量的算法表现更好。基于仿射投影方法和牛顿方法的新算法(MEE-MPAPA-Newton)的收敛速度和稳定性优于只基于最小误差熵的PMEE和PMEE-Newton算法。在处理强相关信号时,基于牛顿方法的PMEE算法比普通的PMEE算法表现更好。对于具有不同冲击水平的α稳定噪声,该算法的处理效果如图6,图7,图8和图9所示,α的值分别为1.1,1.8,0.75和2.0。
从图6,图7,图8和图9可以得出结论,随着α值的变化,噪声的冲击强度也发生变化,这对算法的NMSD指标,稳定性和收敛速度有不同的影响。当α=0.5时,α稳定噪声的冲击强度高,对算法的稳定性影响也更大。对于这种情况,PMEE算法将产生较大的波动。当参数α为2.0时,如图9所示,α稳定分布噪声为高斯噪声,每种算法的性能均比较稳定。从各图中可以看出,新算法(MEE-MPAPA-Newton)在各种强度的噪声冲击下,均具有更快的收敛速度和更高的稳定性。
NMSD曲线表明,当输入信号的相关性很强时,α取不同值的PMEE算法的稳定性不好,基于牛顿法的PMEE-Newton算法可以更好地应对这种情况。当输入信号为高斯白噪声时,每种算法的NMSD曲线如图10所示。可见输入信号为低相关信号时,PMEE算法可以很好地工作,收敛速度较PMEE-Newton算法更快,NMSD值更小。
当α=1.2时,具有不同步长的MEE-MPAPA-Newton算法如图11所示。在相应的α值下,不同步长的稳态NMSD值如图12所示。稳态NMSD是算法进入稳定状态后,在4000点处NMSD的平均值。模拟结果在30次独立的蒙特卡罗运行后取平均值,每次运行有15000次迭代。
根据图11和图12可知,当α=1.2时,具有不同步长的算法的NMSD曲线在μ=0.0225附近取得最小值。该算法对不同稀疏信道的适应性如图13所示。在α=1.2的冲击噪声下,当迭代次数n≤7500时,使用的稀疏信道由图3中的公式(36)生成,稀疏度为0.033。当迭代次数n>7500时,使用的信道是由图4中的公式(37)生成的稀疏信道,稀疏度为0.075。
在系统突变时,本方法所提出的新算法具有更好的适应性,并且在两个不同的稀疏信道中具有比其他算法更快的收敛速度和稳定性。
在语音通信中,声学回声严重干扰了通信质量[23]。自适应回声消除系统可以有效地消除回声[24],基于自适应方法的语音通信回声消除原理[25]如图1所示。使用如图14所示的语音信号作为噪声的输入。得到的噪声消除结果如图15所示,语音信号输入时算法在系统突变中的跟踪能力如图16所示。
根据语音信号的实验,PMEE算法完全失效,因为它不适合具有强相关性的语音信号输入。与其他三种算法相比,本方法提出的新算法(MEE-MPAPA-Newton)具有最快的收敛速度。它具有比基于最小误差熵的PMEE-Newton算法和IPAPSA算法更低的NMSD值。另外,新算法可以在系统发生突变时更好地跟踪新的信道。因此,新算法可以很好地应用于非高斯冲击噪声下稀疏回声信道中的声学回声消除。
3、综上
本方法针对非高斯脉冲噪声和系统稀疏性对自适应滤波算法的影响,提出了一种基于最小误差熵、仿射投影方法、系数比例方法和牛顿方法的新算法(MEE-MPAPA-Newton)。该算法基于最小误差熵代价函数,引入仿射投影算法的数据重用概念,使PMEE算法的收敛速度进一步加快。为了处理语音信号的强相关性,新算法结合了牛顿法的概念。此外,比例矩阵的引入使新算法能够更好地处理稀疏信道。实验结果和理论分析表明,该算法对稀疏系统具有良好的适应性。此外,非高斯噪声抑制能力,收敛速度,稳态性能,强相关信号处理能力和跟踪性能均优于其他类似的自适应滤波算法。在回声消除领域,本方法的新算法也具有良好的鲁棒性和有效性。
4、上述“[]”中标号对应的文献如下:
1.Haykin S.Adaptive filter theory[M].Upper Saddle River,NJ,USA:Prentice-Hall,2002.
2.K.Ozeki;T.Umeda.An adaptive filtering algorithm using an orthogonalprojection to an affine subspace and its properties.Electronics andCommunication in Japan,19-27,(1984).
3.C.Paleologu;J.Benesty;S.Ciochina.Sparse adaptive filters for echo cancellation.Synthesis Lectures on Speech&Audio Processing,2010,6(1):124.
4.H.Deng;M.Doroslovacki.Improvingconvergence of the PNLMS algorithmfor sparse impulse response identification.IEEE Signal ProcessingLetters,vol.12,no.3,pp.181-184,Mar.2005.
5.H.Deng;M.Doroslovacki.Proportionateadaptive algorithmsfor networkecho cancellation.IEEE Trans.Signal Processing,vol.54,no.5,pp.1794-1803,Mar.2006.
6.H.Deng.Adaptive algorithmsof sparse impulsive responseidentification.D.SC dissertation,Dept.of Electrical and Computer Engineering,George Washington University,Washington,DC,Mar.2005.
7.Xiao L S;Wu M;Yang J.A new efficient filtered-x affine projectionsign algorithm for active control of impulsive noise[J].Signal Processing,120(3),pp.456-461,2016.
8.Ni J G;Li F.Efficient implementation of the affine projection signalgorithm[J]IEEE Signal Processing Letters,19(1),pp.24-26,2012.
9.Shao Tiange;Zheng Y R;Benesty J.An affine projection sign algorithmrobust against impulsive interferences[J]IEEE Signal Processing Letters,17(4):327-330,2010.
10.Yanyan Wang;Yingsong Li.An adaptive combination constrainedproportionate normalized maximum correntropy criterion algorithm for sparsechannel estimatiohs.Journal on Advances in Signal Processing,58,2018.
11.Weihua Wang;Jihong Zhao.A correnttopy inspired variable step-sizesign algorithm against impulsive noises,Signal Processing,doi:10.1016/j.sigpro.2017.05.028,pp.6-8,2017.
12.Zongze Wu;Siyuan Peng.Minimum Error Enttopy Algorithms withSparsity Penalty Cohstraints.Entropy,doi:10.3390/e17053419,pp.3-6,2015.
13.Zongze Wu;Siyuan Peng.Proportionate Minimum Error EntropyAlgorithm for Sparse System Identification.Entropy,doi:10.3390/e17095995,pp.3-5,2015.
14.D.L.Duttweiler.Proportionate normalized least-mean-squaresadaption in echo cancelers.IEEE Tran.Speech Audio Processing,vol.8,no.5,pp.508-518,Sept.2000.
15.Bernard Widrow;Samuel D.Steams.Performance surface search.AdaptiveSignal Processing.Pearson Education US.1985;pp.32-45,ISBN 978-7-111-22792-2.
16.Panlo S.R.Diniz.Algorithms based on LMS criterion.AdaptiveFiltering:Algorithms and Practical Implementation,4rd ed.Springer US.2013;pp.94-141,ISBN 978-7-121-23853-6.
17.Bernard Widrow;Samuel D.Stearns.Adaptive linear combiner.AdaptiveSigna,Processing.Pearson Education US.1985;pp.9-19,ISBN 978-7-111-22792-2.
18.Yu Zhang;Badong Chen.Convergence of a Fixed-Point Minimum ErrorEntropy Algorithm.Entropy,doi:10.3390/e17085549,pp.4-9,2015.
19.Guo Ying;Qiu Tian-shuang.Novel adaptive time delay estimationmethod based on the fractional lower order cyclic correlation in impulsivenoise environment.Journal on Conmunications.vol.28,no.3,pp.9-10,Mar.2007.
20.Guo Ying;Bai Yanmei.Robust affine projection sign adaptivefiltering algorithm.Chinese Journal of Scientific Instrument.vol.1,no.38,pp.24-32,Jan.2017.
21.K Sakhnov;An improved proportionate affine projection algorithmfor network echo cancellation.International Conference on Systems.125-128.2008.
22.Aimin Song;New Algorithms for Time Delay Estimation andBeamforming under Stable Distribution Noise,Dalian University of Technology;pp.22-23,Feb.2015.
23.A Minra;R Sato;Subjective Evaluation of Delay and Echo Suppressorsin Telephone Communication.Bell Labs Technical Journal,42(6):2919-2941,2013.
24.M Ali;Stereophonic acoustic echo cancellation system using time-varying all-pass filtering for signal decorrelation.IEEE InternationalConference on Acoustics,6(1/2):3689-3692vol.6.2002.
25.A Mader;H Puder Step-size control for acoustic echo cancellationtilter-an overview.Elsevier North-Holland,Inc.80(9):1697-1719,2000。
Claims (2)
1.一种基于最小误差熵的成比例仿射投影方法,其特征在于:该方法步骤如下:
设滤波器的系数为:W(k)=[w1(k),w2(k)…wN(k)]T;本申请使用的牛顿方法为:
将式(9)对W求偏导并代入式(18)中得:
本申请的APA算法基于数据重用方法;将输入X在数据重用后记为X;P为投影阶数;
因此,误差信号被表示为:
e(k)=d(k)-y(k)=d(k)-XT(k)W(k)(21)
由于参数i和j在计算中与参数k同步,因此i和j的上限也被设置为k;将等式(20)和(21)代入等式(19)得到:
对于平稳的输入信号,得到其自相关矩阵R(k)的估计值:
根据平稳过程的自相关函数的性质,将时间k分成i和j的两个不同的时刻。然后将等式(23)代入等式(22)可以得到:
在原有的APA方法上加入MEE(最小误差熵)的约束条件后得到MEE-APA算法,并将μ率PNLMS算法中的比例法引入到MEE-APA算法中,得到新算法的更新方程;
其中比例系数矩阵G按照公式(14-17)更新;ε是一个很小的数,矩阵I为单位矩阵。
2.根据权利要求1所述的一种基于最小误差熵的成比例仿射投影方法,其特征在于:对于基于梯度下降法的算法,可以证明在若干次迭代之后,权重向量的期望值E(Wk)将收敛到维纳权向量(26)(也被称为维纳解);
W*=R-1P(26)
解(26)是多次迭代后滤波器系数达到的最优解;其中R是输入信号的自相关函数;P是输入信号和理想信号之间的互相关函数;将基于最小误差熵的代价函数(9),对滤波器系数W(k)求偏导数得:
将式(21)代入式(27)得:
在式(28)中:
由基于最小误差熵的代价函数(9)组成的不动点方程(31)收敛于:
Wk+1=f(Wk)(31)
通过这种方法,将式(32)转化为式(31)的同解方程:
通过式(32)得到类似于维纳解的新算法的最优解:
所以认为新算法收敛于最优解
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811369867.9A CN109767779A (zh) | 2018-11-17 | 2018-11-17 | 基于最小误差熵的成比例仿射投影方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811369867.9A CN109767779A (zh) | 2018-11-17 | 2018-11-17 | 基于最小误差熵的成比例仿射投影方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109767779A true CN109767779A (zh) | 2019-05-17 |
Family
ID=66449907
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811369867.9A Pending CN109767779A (zh) | 2018-11-17 | 2018-11-17 | 基于最小误差熵的成比例仿射投影方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109767779A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110233607A (zh) * | 2019-05-28 | 2019-09-13 | 西安交通大学 | 基于最小误差熵的哈默斯坦型非线性样条自适应滤波方法 |
CN111025280A (zh) * | 2019-12-30 | 2020-04-17 | 浙江大学 | 一种基于分布式最小总体误差熵的运动目标测速方法 |
CN111739548A (zh) * | 2020-06-22 | 2020-10-02 | 西南交通大学 | 抗输入噪声的最小误差熵自适应回声消除方法 |
CN112820311A (zh) * | 2021-04-16 | 2021-05-18 | 成都启英泰伦科技有限公司 | 一种基于空间预测的回声消除方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306010A (zh) * | 2015-11-10 | 2016-02-03 | 西安交通大学 | 一种基于最小误差熵的凸组合自适应滤波器设计方法 |
CN105786761A (zh) * | 2016-03-25 | 2016-07-20 | 南通大学 | 输入非线性有色噪声系统的极大似然牛顿迭代辨识算法 |
CN106409307A (zh) * | 2016-09-28 | 2017-02-15 | 天津大学 | 一种具有选择进化仿射投影阶数的仿射投影方法 |
CN106788337A (zh) * | 2016-10-11 | 2017-05-31 | 沈阳工业大学 | 稳健的仿射投影符号自适应滤波算法 |
-
2018
- 2018-11-17 CN CN201811369867.9A patent/CN109767779A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105306010A (zh) * | 2015-11-10 | 2016-02-03 | 西安交通大学 | 一种基于最小误差熵的凸组合自适应滤波器设计方法 |
CN105786761A (zh) * | 2016-03-25 | 2016-07-20 | 南通大学 | 输入非线性有色噪声系统的极大似然牛顿迭代辨识算法 |
CN106409307A (zh) * | 2016-09-28 | 2017-02-15 | 天津大学 | 一种具有选择进化仿射投影阶数的仿射投影方法 |
CN106788337A (zh) * | 2016-10-11 | 2017-05-31 | 沈阳工业大学 | 稳健的仿射投影符号自适应滤波算法 |
Non-Patent Citations (4)
Title |
---|
YI ZHOU, S.C.CHAN: "A Robust Quasi-Newton Adaptive Filtering Algorithm For", 《THE 2001 IEEE INTERNATIONAL SYMPOSIUM ON CIRCUITS AND SYSTEMS》 * |
YU ZHANG,BADONG CHEN: "Convergence of a Fixed-Point Minimum", 《ENTROPY》 * |
ZONGZE WU,SIYUAN PENG: "Proportionate Minimum Error Entropy Algorithm for Sparse", 《ENTROPY》 * |
李跃明,侯楚林: "变步长比例仿射投影算法及在回声消除中的应用", 《计算机工程与应用》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110233607A (zh) * | 2019-05-28 | 2019-09-13 | 西安交通大学 | 基于最小误差熵的哈默斯坦型非线性样条自适应滤波方法 |
CN111025280A (zh) * | 2019-12-30 | 2020-04-17 | 浙江大学 | 一种基于分布式最小总体误差熵的运动目标测速方法 |
CN111025280B (zh) * | 2019-12-30 | 2021-10-01 | 浙江大学 | 一种基于分布式最小总体误差熵的运动目标测速方法 |
CN111739548A (zh) * | 2020-06-22 | 2020-10-02 | 西南交通大学 | 抗输入噪声的最小误差熵自适应回声消除方法 |
CN111739548B (zh) * | 2020-06-22 | 2022-03-22 | 西南交通大学 | 抗输入噪声的最小误差熵自适应回声消除方法 |
CN112820311A (zh) * | 2021-04-16 | 2021-05-18 | 成都启英泰伦科技有限公司 | 一种基于空间预测的回声消除方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109767779A (zh) | 基于最小误差熵的成比例仿射投影方法 | |
CN106788337B (zh) | 稳健的仿射投影符号自适应滤波算法 | |
Yoo et al. | An improved NLMS algorithm in sparse systems against noisy input signals | |
Kumar et al. | Joint logarithmic hyperbolic cosine robust sparse adaptive algorithms | |
Wu et al. | Sparse Estimator With $\ell_0 $-Norm Constraint Kernel Maximum-Correntropy-Criterion | |
Seo et al. | Diffusion proportionate affine projection sign algorithm for distributed estimation over network | |
Elisei-Iliescu et al. | A recursive least-squares algorithm based on the nearest Kronecker product decomposition | |
Yadav et al. | Study of different adaptive filter algorithms for noise cancellation in real-Time environment | |
Hadi et al. | Sparse andrew's sine norm promoting adaptive algorithm under non-gaussian noises | |
Mohanaprasad et al. | Wavelet-based ICA using maximum likelihood estimation and information-theoretic measure for acoustic echo cancellation during double talk situation | |
Costa et al. | A robust variable step size algorithm for LMS adaptive filters | |
Hirano et al. | A modified IPNLMS algorithm using system sparseness | |
Yazdanpanah et al. | Low-complexity feature stochastic gradient algorithm for block-lowpass systems | |
Sudhir et al. | Acoustic echo cancellation using adaptive algorithms | |
Patil et al. | Efficient algorithm for Speech Enhancement using Adaptive filter | |
Kim et al. | Acoustic echo cancellation using blind source separation | |
Ciochină et al. | An optimized affine projection algorithm for acoustic echo cancellation | |
Kumar et al. | Adaptive signal processing: a comparative approach | |
Girisha et al. | Performance analysis of adaptive filters for noise cancellation in audio signal for hearing aid application | |
Gao et al. | Performance Analysis Of Deficient Length Normalized Lms Algorithm | |
Albu et al. | Approximated proportionate affine projection algorithms for block-sparse identification | |
Jafari et al. | A combined Kalman filter and natural gradient algorithm approach for blind separation of binary distributed sources in time-varying channels | |
Albu et al. | New proportionate affine projection sign algorithms | |
Dogariu et al. | Kalman Filter Using a Third-Order Tensorial Decomposition of the Impulse Response | |
Peng et al. | Affine-Projection Maximum Asymmetric Correntropy Criterion Algorithm Under System Identifications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190517 |
|
RJ01 | Rejection of invention patent application after publication |