CN103956992A - 一种基于多步梯度下降的自适应信号处理方法 - Google Patents

Abstract

本发明公开了一种基于多步梯度下降的自适应信号处理方法，属于自适应信号处理技术领域，该方法将多步梯度下降方法和自适应信号处理的NLMS技术相结合，提出了多步梯度下降的NLMS技术。具体利用多步梯度下降方法来加快基于标准梯度下降方法的NLMS技术的收敛速度，以此来提高信号处理的跟踪能力。实验结果表明，该技术的性能十分理想，能够有效解决现有技术所存在的问题。

Description

一种基于多步梯度下降的自适应信号处理方法

技术领域

本发明属于自适应信号处理技术领域，具体为一种基于多步梯度下降的变步长的归一化最小均方(Normalized Least Mean Squares,NLMS)技术。

背景技术

在过去的30年中，信号处理技术获得了巨大的发展。由于数字电路设计的进步，促使人们对数字信号处理领域越来越感兴趣。数字信号处理系统之所以具有吸引力，是因为它具有可靠性高、精度高、体积小及灵活性强等特点。随着数字超大规模集成(VLSI,very large scale integration)技术的发展，自适应信号处理技术在许多领域得到了广泛的应用，例如自适应信号处理在噪声和回声抵消、谱线增强、信道均衡、系统辨识和延迟时间估计等应用中起着非常重要的作用。针对这些应用，在过去的几十年中，人们提出了许多自适应滤波的技术。其中，基于标准梯度下降的最小均方(least mean squares,LMS)技术是经典的方法。由它发展而来的归一化最小均方(normalized least mean squares,NLMS)自适应滤波技术，由于其具有较好的鲁棒性和易于使用，从而使其成为最常用的自适应滤波技术。

NLMS技术成功应用的关键在于其步长的选取，这是因为人们需要它来折中信号处理过程中的收敛速度和稳态失调。当步长取的越大，处理过程中的收敛性就越快，但最终的稳态失调也越大；步长取的越小，最终的稳态失调越小，但处理的收敛速度比较慢。可是，在应用中如何选取可靠且最优的步长一直都是一个未能很好解决。在众多不同的步长选取策略中，大部分都以变步长为特点。通过分析不难发现：变步长技术虽然解决了信号处理过程中收敛速度的问题，但由于时变的步长不能最终收敛到零，在大多数情况下其是一个未知的数值，因此人们一般并不能知道最终稳态失调的大小。

发明内容

针对现有自适应信号处理技术所存在的问题，本发明的目的在于提供一种基于多步梯度下降的自适应信号处理方法，以提高自适应信号处理的性能。

为了达到上述目的，本发明采用如下的技术方案：

一种基于多步梯度下降的自适应信号处理方法，所述方法利用多步梯度下降方法来加快基于标准梯度下降方法的NLMS技术的收敛速度，以此来提高信号处理的跟踪能力。

在处理方法的优选实例中，所述方法中具体用多步梯度中的动量项对基于标准梯度下降方法的NLMS技术进行加速；当基于标准梯度下降方法的NLMS技术中步长μ大小给定时，通过添加该动量项，以此控制信号处理过程中的收敛速度和最终失调。

进一步的，当梯度步长μ给定时，根据动量项步长β对信号处理过程中的收敛速度和最终失调的影响，利用滤波器的输出误差实时的调整步长β的大小。

再进一步的，在利用滤波器的输出误差实时调整步长β大小时，使得当误差较大的时候，β的值也比较大，由此可以加速滤波器的收敛速度；当误差较小的时候，则滤波器接近收敛，此时β的值比较小，使得稳态的失调变小；最终β的值趋近于零，稳态失调最终只有由步长μ控制。

再进一步的，所述梯度步长μ小于0.1。

本发明的优点不止加快了标准梯度下降的速度，滤波器最终的稳态失调也是可以控制的。这为设计一定规范的滤波器提供了指导。

附图说明

以下结合附图和具体实施方式来进一步说明本发明。

图1a为SNR=20dB时，系统未发生突变时的识别效果图；

图1b为SNR=5dB时，系统未发生突变时的识别效果图；

图2a为SNR=20dB时，在第5秒系统发生突变时的识别结果图；

图2b为SNR=5dB时，在第5秒系统发生突变时的识别结果图。

具体实施方式

为了使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解，下面结合具体图示，进一步阐述本发明。

众所周知，传统自适应信号处理中的NLMS技术性能取决于其算法的步长μ：当步长取的越大，NLMS技术处理的收敛性就越快，但最终的稳态失调也越大；步长取的越小，最终的稳态失调越小，但处理的收敛速度比较慢。

由此，本发明将多步梯度下降方法和自适应信号处理的NLMS技术相结合，提出了多步梯度下降的NLMS方案。

该方案的原理为在小步长μ给定的情况下，利用多步梯度下降方法来加快基于标准梯度下降方法的NLMS技术的收敛速度，以此来提高信号处理的跟踪能力。

在基础上，本发明通过设定基于标准梯度下降方法的NLMS技术中步长μ大小，通过添加多步梯度中的动量项，以此控制信号处理过程中的收敛速度和最终失调。

具体的，当梯度步长μ设定很小时(小于0.1)，根据动量项步长β对信号处理过程中的收敛速度和最终失调的影响，利用滤波器的输出误差实时的调整步长β的大小，以此来实现变步长的特点。

在具体调整步长β大小时，使得当滤波器的输出误差较大的时候，β的值也比较大，由此可以加速滤波器的收敛速度；当滤波器的输出误差较小的时候，则滤波器接近收敛，此时步长β的值比较小，使得稳态的失调变小；最终当步长β的值趋近于零，稳态失调最终只有由步长μ控制。

针对上述方案，以下通过一具体实现过程对其进行具体说明。

首先，将多步梯度下降的方法和NLMS技术相结合，更新相应的滤波器，具体的更新方程如式(1)：

$w(n+1)=w\left(n\right)+\mathrm{\μe}\left(n\right)\frac{x\left(n\right)}{x^T\left(n\right)x\left(n\right)+\mathrm{\δ}}+\mathrm{\β}[w\left(n\right)-w(n-1)],---\left(1\right)$

其中，w(n)为滤波器系数，x(n)是输入信号，e(n)是滤波器的输出误差，δ为正则参数，一般取很小的值，μ和β分别为控制梯度的步长和控制动量项的步长。

针对式(1)可知，当步长μ(小于0.1)给定时，控制动量项的步长β对式(1)所示滤波器的收敛性、收敛速度以及稳态失调之间的影响。具体为：滤波器收敛时步长β的取值范围；当在收敛范围内取值时，步长β越大，收敛速度越快，稳态失调也越大；反之，步长β越小，收敛速度越慢，但稳态失调越小。

由此，本方案通过设定步长μ(小于0.1)的大小，并利用滤波器的输出误差实时的调整控制步长β的大小。而调整控制可采用如下的时变关系：使得当误差较大的时候，β的值也比较大，这样一来可以加速滤波器的收敛速度；当误差较小的时候，说明滤波器接近收敛，此时β的值比较小，使得稳态的失调变小。最终β的值趋近于零，稳态失调最终只有由步长μ控制。

针对式(1)所示的滤波器更新方程，其具体调整时，首先初始化滤波器的系数w(0)=0，设定正则参数δ的大小为输入信号功率，设定步长μ的大小，取μ<0.1；

接着，计算滤波器输出误差的瞬时功率，并对此功率进行平滑，估计误差的功率如下：

${\widehat{\mathrm{\&sigma;}}}_e^2\left(n\right)=\mathrm{\&lambda;}{\widehat{\mathrm{\&sigma;}}}_e^2(n-1)+(1-\mathrm{\&lambda;})e^2\left(n\right),---\left(2\right)$

其中 $\mathrm{\&lambda;}=1-\frac{1}{\mathrm{LK}},(K\&GreaterEqual;2),$ L为滤波器的长度；

再接着，将式(2)估计出的误差功率和实际的噪声进行比较，当按照式(2)估计出的误差功率大于实际噪声功率时，将估计得出的误差功率带入式(3)的输出函数计算β值的大小；

$\mathrm{\&beta;}=1.96[\frac{1}{1+e^{(p-1)/\left(\mathrm{m\&mu;}\right)}}-\frac{1}{2}],---\left(3\right)$

其中，σ_v为噪声实际功率，取0.001，m为输出函数的特性参数且满足条件0.05≤mμ≤0.5。

其它情况时，β的值取为零。

最后，利用第(3)步计算出β值的大小并带入式(1)中进行滤波器系数的更新。

以下再通过一些实验进一步说明本方案的实施效果。

具体将上述方案应用在系统识别的场景下，识别系统将基于多步梯度下降进行自适应信号的自动处理，并据此进行了大量的实验。其中性能指标采用自适应滤波领域中一个通用的标准，称之为归一化偏差(dB)：

${20\log }_{10}\left(\frac{{\left|\right|w-\hat{w}\left(n\right)\left|\right|}_2}{{\left|\right|w\left|\right|}_2}\right).---\left(4\right)$

具体使得实验结果参见图1和图2，图中MSGVSS-NLMS技术为本发明提出的技术，其它作为对比技术。

图1是在系统未发生突变时的识别效果图，其中图1a为SNR=20dB时，系统未发生突变时的识别效果图；图1b为SNR=5dB时，系统未发生突变时的识别效果图。

图2是在第5秒系统发生突变时的识别结果图，其中图2a为SNR=20dB时，在第5秒系统发生突变时的识别结果图；图2b为SNR=5dB时，在第5秒系统发生突变时的识别结果图。

通过对比可知，在不同场景中，本发明所提出的这种自适应信号技术都是十分有效的。

以上显示和描述了本发明的基本原理、主要特征和本发明的优点。本行业的技术人员应该了解，本发明不受上述实施例的限制，上述实施例和说明书中描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。

Claims (5)

1.一种基于多步梯度下降的自适应信号处理方法，其特征在于，所述方法利用多步梯度下降方法来加快基于标准梯度下降方法的NLMS技术的收敛速度，以此来提高信号处理的跟踪能力。

2.根据权利要求1所述的一种基于多步梯度下降的自适应信号处理方法，其特征在于，所述方法中具体用多步梯度中的动量项对基于标准梯度下降方法的NLMS技术进行加速；当基于标准梯度下降方法的NLMS技术中步长μ大小给定时，通过添加该动量项，以此控制信号处理过程中的收敛速度和最终失调。

3.根据权利要求2所述的一种基于多步梯度下降的自适应信号处理方法，其特征在于，当梯度步长μ给定时，根据动量项步长β对信号处理过程中的收敛速度和最终失调的影响，利用滤波器的输出误差实时的调整步长β的大小。

4.根据权利要求3所述的一种基于多步梯度下降的自适应信号处理方法，其特征在于，在利用滤波器的输出误差实时调整步长β大小时，使得当误差较大的时候，β的值也比较大，由此可以加速滤波器的收敛速度；当误差较小的时候，则滤波器接近收敛，此时β的值比较小，使得稳态的失调变小；最终β的值趋近于零，稳态失调最终只有由步长μ控制。

5.根据权利要求2或3或4所述的一种基于多步梯度下降的自适应信号处理方法，其特征在于，所述梯度步长μ小于0.1。