CN105871356A - 基于最大混合互相关熵准则的自适应滤波方法 - Google Patents

Abstract

本发明提供一种基于最大混合互相关熵准则的自适应滤波方法，采用最大混合互相关熵准则，其代价函数由两个不同的核宽度σ组合而成，用来更新权重向量w(n+1)，以此来调制滤波器以得到理想的输出信号y(n)；本发明提出基于最大混合互相关熵准则的自适应滤波方法，该方法由两个不同核宽度的最大互相关熵组合，该方法具有初始收敛速度更快，稳态精度更高而且拥有快速跟踪系统变化的能力，基于该方法设计的滤波器，在实际应用中更加易于推广和使。

Description

基于最大混合互相关熵准则的自适应滤波方法

技术领域

本发明属于信号处理领域，涉及一种基于最大混合互相关熵准则的自适应滤波方法。

背景技术

近年以来，自适应滤波迅速发展起来为一种最佳滤波方法。自适应滤波是在维纳滤波、卡尔曼滤波等线性滤波基础上发展起来的一种最佳的滤波方法。由于它具有更强的适应性和更优的滤波性能。因此在工程实际中，尤其在信息处理技术中得到了广泛的应用。

一般情况下，不改变自适应滤波器的结构。而自适应滤波器的系数是由自适应方法更新的时变系数。即其系数自动连续地适应于给定信号，以获得期望响应。自适应滤波器的最重要的特征就在于它能够在未知环境中有效工作，并能够跟踪输入信号的时变特征。

任何一个实际的信息处理过程都具有不同程度的不确定性，这些不确定性有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态过程的数学模型的结构和参数是设计者事先并不一定能确切知道的。作为外部环境对信息过程的影响，可以等效地用扰动来表示。这些扰动通常是不可测的，它们可能是确定性的，也可能是随机的。此外，还有一些测量噪音，也以不同的途径影响信息过程。这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的各式各样的不确定性，如何综合处理该信息过程，并使得某一些指定的性能指标达到最优或近似最优，这就是自适应滤波所要解决的问题。

因为数学上的简便处理，以及计算复杂度的考虑，最小均方误差准则已经被广泛运用到自适应滤波领域。但是，线性的均方误差自适应滤波通常在线性高斯情况下较为理想，而在大多数实际应用中面对的系统或者信息过程都是非高斯情况，这时最小均方误差自适应滤波效果就不是很理想了。

最大互相关熵准则对于非高斯的信号过程能够提供一个较为鲁棒的优化准则。样本通过自适应滤波器，利用滤波器输出与期望输出计算互相关熵，进而将其作为代价函数运用到自适应系统训练。和最小均方误差准则相比，最大互相关熵准则在处理被冲击非高斯噪声污染的信号时，通常具有更好的性能。然而，基于最大互相关熵准则的自适应滤波在滤波器迭代的初始误差比较大时，会导致方法的收敛速度较慢，很难快速达到稳态，并且系统的跟踪性能也比较差。

发明内容

为了克服上述现有技术存在的缺陷和不足，本发明提供了一种基于最大混合互相关熵准则的自适应滤波方法，具有同时满足快速收敛和快速跟踪的性能。

为达到上述目的，本发明采用以下技术方案：

基于最大混合互相关熵准则的自适应滤波方法，采用最大混合互相关熵准则，其代价函数由两个不同的核宽度σ组合而成，用来更新权重向量w(n+1)，以此来调制滤波器以得到理想的输出信号y(n)；

所述自适应滤波方法具体步骤如下：

让系统输入信号x(n)通过基于最大混合互相关熵准则的自适应滤波器，得到自适应滤波器的输出信号y(n)，让系统的期望输出d(n)和系统输出信号y(n)做差值运算，得到自适应滤波器的误差信号e(n)，利用最大混合互相关熵准则，在步长系数η下更新滤波器的权重向量w(n)，其中最大混合互相关熵准则由两个高斯核通过混合系数λ混合而成，其较小的核宽度是σ₁，较大的核宽度是σ₂；当迭代多次达到稳态以后，利用得到的权重向量w(n)求得滤波器的输出y(n)。

进一步，所述混合系数λ取值范围是[0，1]。

进一步，采用最大混合互相关熵准则，所述核宽度σ₁和σ₂，其大小是σ₁＜＜σ₂。

进一步，混合互相关熵准则算法代价函数为

进一步，通过最小梯度法迭代调整自适应滤波器权重向量w(n)，迭代的算法是：其中η是步长系数；通过不断迭代，得到自适应滤波器比较稳定的权重向量w(n)。

本发明的有益效果体现在：

由于传统的最小均方误差准则下的自适应滤波方法在非高斯噪声情况下不具有普遍的良好性能；而原始的最大互相关熵准则下的自适应滤波方法又存在初始收敛速度太慢且系统的跟踪性能较差这两个指标的缺点。本发明提出基于最大混合互相关熵准则的自适应滤波方法，该方法具有良好的普适性，适合应用于非高斯系统或信号处理过程，具有同时满足快速收敛和快速跟踪的性能，解决了最小均方误差准则下对非高斯噪声的不鲁棒和最大互相关熵准则下的初始收敛速度和快点跟踪的问题，具有较为重要的研究意义和广泛的工程应用价值。

附图说明

图1是自适应滤波器的原理框图；

图2是MCC方法和本发明方法在二项抽头滤波器下的性能曲面图；

图2(a)MCC方法性能曲面图；

图2(b)本发明方法性能曲面图；

图3是图2中性能曲面的等高线图；

图3(a)MCC方法等高线图；

图3(b)本发明方法等高线图；

图4是本发明方法和MCC方法在不同噪声情况下的方法效果对比图；

图4(a)含有异常噪声值的均匀噪声效果对比图；

图4(b)含有拉普拉斯噪声效果对比图；

图5是本发明方法和MCC方法在不同噪声情况下的方法跟踪性能效果对比图；

图5(a)含有异常噪声值的均匀噪声跟踪性能效果对比图；

图5(b)含有拉普拉斯噪声跟踪性能效果对比图。

具体实施方式

下面结合附图对本发明做进一步说明。

参见图1，自适应滤波器原理：以输入和输出信号的统计特性的估计为依据，采取特定方法自动地调整滤波器系数，使其达到最佳滤波特性的一种方法或装置。自适应滤波器可以是连续域的或是离散域的。离散域自适应滤波器由一组抽头延迟线、可变加权系数和自动调整系数的机构组成。

附图1表示一个离散域自适应滤波器用于模拟未知离散系统的信号流图。自适应滤波器对输入信号序列x(n)的每一个样值，按特定的方法，更新、调整加权系数，如果是按照最小均方误差准则，那么使输出信号序列y(n)与期望输出信号序列d(n)相比较的均方误差为最小，即输出信号序列y(n)逼近期望信号序列d(n)，所产生的加权系数为最优权重系数。当然不同准则下的滤波器有不同的效果。

由于本发明中所述自适应滤波方法是在最大互相关熵准则下的自适应滤波方法上的改进，所以有必要先介绍一下基于最大互相关熵准则下的自适应滤波方法。

最大互相关熵准则下的自适应滤波方法

对于一个线性系统，输入信号向量X(n)＝[x_n-M+1,…,x_n-1,x_n)]^T输入到一个加权权重向量为(其中M通道的记忆深度)的有限冲击响应通道中。则理想输出信号为

d(n)＝W^*TX(n)+v(n) (1)

其中T是转置算子，v(n)是在瞬时n时刻测量噪声。在这里，令W(n)＝[w₁(n),w₂(n),…,w_M(n)]^T为自适应滤波器的加权权重向量则该系统的瞬时误差为

e(n)＝d(n)-y(n)＝d(n)-W^T(n)X(n) (2)

其中y(n)为自适应滤波器的输出信号，d(n)为自适应滤波器的期望输出。

对于任意两个随机信号X和Y，其互相关熵的定义为：

V_σ(X,Y)＝E[k_σ(X-Y)] (3)

其中k_σ(·)是一个正定的核函数，核宽度参数是σ。

使用样本估计的方法可以得到：

${\hat{V}}_{N,\mathrm{\σ}}(X,Y)=\frac{1}{N}\underset{i=1}{\overset{N}{\Σ}}{k}_{\mathrm{\σ}}(x_i-y_i)---\left(4\right)$

由自适应滤波器的期望输出和实际输出之间的互相关熵，可以定义基于最大互相关熵的代价函数是：

$J_n=\frac{1}{\sqrt{2\mathrm{\π}}\mathrm{\σ}}\frac{1}{N}\underset{i=n-N+1}{\overset{n}{\Σ}}\exp \left(\frac{-{(d_i-y_i)}^2}{2{\mathrm{\σ}}^2}\right)---\left(5\right)$

式中使用了高斯核函数，使用输入信号代替输出得到：

$J_n=\frac{1}{\sqrt{2\mathrm{\π}}\mathrm{\σ}}\frac{1}{N}\underset{i=n-N+1}{\overset{n}{\Σ}}\exp \left(\frac{-{(d_i-W^T{X}_i)}^2}{2{\mathrm{\σ}}^2}\right)---\left(6\right)$

所以在最大化互相关熵的准则下理想的权重向量可以由此获得

$W_{opt}=\underset{W}{\mathrm{argmax}}J---\left(7\right)$

因此，可以得到：

$W_{n+1}=W_n+\mathrm{\μ}\▿J_n---\left(8\right)$

其中μ为步长参数。代入J_n并计算瞬时(N＝1)梯度得到基于最大互相关熵的自适应滤波方法，

$W_{n+1}=W_n+\mathrm{\μ}\exp \left(\frac{-{e_n}^2}{2{\mathrm{\σ}}^2}\right)e_n{X}_n---\left(9\right)$

滤波器通过多次的学习，自适应调制权重向量，从而得到较为理想的滤波器参数。然而，由于该方法的自身性能缺陷，当方法初始迭代时，误差e_n比较大会导致收敛的速度很慢。因此当系统的参数变化时，基于该方法的自适应滤波器很难快速的跟踪系统的变化，也违背了自适应滤波器的初衷。

最大混合互相关熵准则的自适应滤波方法(MMCC)

如前所述，为了解决上述问题，本发明提出来了利用两个不同核宽度的MCC方法的组合来设计滤波器来克服MCC所存在的缺陷。

最大混合互相关熵准则的代价函数是由两个不同核宽度的MCC组合而成，因此得到新的代价函数为：

$J_n=\mathrm{\λ}\exp \left(\frac{-{e_n}^2}{2{{\mathrm{\σ}}_1}^2}\right)+(1-\mathrm{\λ})\exp \left(\frac{-{e_n}^2}{2{{\mathrm{\σ}}_2}^2}\right)---\left(10\right)$

其中λ为混合系数，一般的其参数的大小范围是[0，1]，σ₁和σ₂分别是较小的核宽度和较大的核宽度，一般选取其比例要求σ₁＜＜σ₂。对于MCC方法当核宽度趋近于无穷大时，方法变为LMS，因此，核宽度较大的部分可以加快方法的初始收敛速度，也能提高方法的跟踪性能。同时，核宽度较小的部分又可以保证方法对非高斯噪声的鲁棒性，基于最大混合互相关熵准则的自适应滤波方法实际上兼有了LMS和MCC的有点。

为了展现本发明的优势之处，我们给出了在仿真环境下一些传统的自适应滤波方法和本发明的信号处理效果对比图，见图2、3、4、5。

其中图2中的(a)、(b)分别是原始的MCC方法和MMCC方法在二项抽头滤波器下的性能曲面，图3中的(a)、(b)分别是其等高线图，从中可以看出，MMCC方法可以有效的改善原始MCC方法初始收敛速度慢的特点。

仿真设计如下：考虑一个9阶的未知系统，自适应滤波器拥有同样的结构。我们采用均方差来衡量系统的性能

MSD＝E[||W^*-W(n)||²]] (11)

仿真实验中，输入信号为均值为0，方差为1的高斯白噪声。实验结果为100次蒙特卡洛的平均。

图4展示了MCC方法和本发明中基于最大混合互相关熵准则方法在含有异常噪声值的均匀噪声(a)、拉普拉斯噪声(b)下的性能。可以看到，调节参数使得两方法在稳态精度大致相同的情况下，与原有方法相比，本发明提出的MMCC方法的初始收敛速度得到很大的提升，因此MMCC方法可以更快的得到稳态。

图5展示了MCC方法和本发明中基于最大混合互相关熵准则方法在含有异常噪声值的均匀噪声(a)、拉普拉斯噪声(b)下系统的跟随性能。可以看到，当系统的参数发生变化时，本发明中的MMCC方法比原有的MCC方法在不同噪声环境下都能更加快速的跟踪系统的变化。

以下通过具体实施例对本发明进行详细说明：

如图1所示，是自适应滤波器的基本结构图，其中x是输入信号，一般是向量形式，即：X(n)＝[_xn-M+1,…,x_n-1,x_n)]^T未知系统的权重向量是(其中M是通道的记忆深度)，图中的v(n)是线性叠加在输出端的噪声，可能由测量等引起。

1、对于一个未知系统，可以通过输入一定的信号x并测量系统的输出，得到一组{x,d}数据，即：d(n)＝W^*TX(n)+v(n)；

2、假设自适应滤波系统的系统向量的初始值是W₀＝[w₁,w₂,…,w_M]^T，将步骤1中已知的输入信号x输入到自适应滤波系统，可以得到相应的输出值y，即：y＝W^T(n)X(n)；

3、将步骤1的理想输出d和步骤2的自适应滤波起的输出y做差值得到系统的误差信号是e，即：e(n)＝d(n)-y(n)＝d(n)-W^T(n)X(n)；

4、将步骤3中的误差信号e代入到相应的代价函数中，本发明中的混合互相关熵准则算法的代价函数是：其中λ为混合系数，一般的其参数的大小范围是[0,1]，σ₁和σ₂分别是较小的核宽度和较大的核宽度，一般选取其比例要求σ₁＜＜σ₂。

通过最小梯度法来迭代调整自适应滤波器权重向量，其中本发明中的迭代的算法是：其中η是步长系数；通过该算法的不断迭代，最终自适应滤波器的权重向量w(n)会达到一个比较稳定的值。依此方法可以估计出未知系统的参数的大小，得到理想的输出信号y。

以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施方式仅限于此，对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单的推演或替换，都应当视为属于本发明由所提交的权利要求书确定专利保护范围。

Claims (5)

1.基于最大混合互相关熵准则的自适应滤波方法，其特征在于：采用最大混合互相关熵准则，其代价函数由两个不同的核宽度σ组合而成，用来更新权重向量w(n+1)，以此来调制滤波器以得到理想的输出信号y(n)；

所述自适应滤波方法具体步骤如下：

让系统输入信号x(n)通过基于最大混合互相关熵准则的自适应滤波器，得到自适应滤波器的输出信号y(n)，让系统的期望输出d(n)和系统输出信号y(n)做差值运算，得到自适应滤波器的误差信号e(n)，利用最大混合互相关熵准则，在步长系数η下更新滤波器的权重向量w(n)，其中最大混合互相关熵准则由两个高斯核通过混合系数λ混合而成，其较小的核宽度是σ₁，较大的核宽度是σ₂；当迭代多次达到稳态以后，利用得到的权重向量w(n)求得滤波器的输出y(n)。

2.根据权利要求1所述的基于最大混合互相关熵准则的自适应滤波方法，其特征在于：所述混合系数λ取值范围是[0，1]。

3.根据权利要求1所述的基于最大混合互相关熵准则的自适应滤波方法，其特征在于：采用最大混合互相关熵准则，所述核宽度σ₁和σ₂，其大小是σ₁＜＜σ₂。

4.根据权利要求1所述的基于最大混合互相关熵准则的自适应滤波方法，其特征在于：混合互相关熵准则算法代价函数为

5.根据权利要求1所述的基于最大混合互相关熵准则的自适应滤波方法，其特征在于：通过最小梯度法迭代调整自适应滤波器权重向量w(n)，迭代的算法是：其中η是步长系数；通过不断迭代，得到自适应滤波器比较稳定的权重向量w(n)。