CN109274352A

CN109274352A - 基于最大相关熵的多凸组合自适应滤波方法

Info

Publication number: CN109274352A
Application number: CN201810861563.8A
Authority: CN
Inventors: 梁中华; 吴文静
Original assignee: Changan University
Current assignee: Changan University
Priority date: 2018-08-01
Filing date: 2018-08-01
Publication date: 2019-01-25

Abstract

本发明提供了一种基于最大相关熵的多凸组合自适应滤波方法，该方法采用最大相关熵准则更新权重向量，并以该准则下的L个不同步长的自适应滤波器以凸组合的形式联合调制输出结果，以所述L个不同步长的自适应滤波器中步长最大的一个滤波器在滤波开始阶段保证多凸组合自适应滤波器的收敛速度，然后其它L‑1个滤波器在不同的时段根据混合系数调节所占权重比例，从而控制收敛速度和稳态量。本发明不仅提高了收敛速度，而且还保持了低的失调量，可以更灵活地调节多个步长比重，提高了再收敛能力和追踪能力。

Description

基于最大相关熵的多凸组合自适应滤波方法

技术领域

本发明属于信号处理领域，具体涉及一种基于最大相关熵的多凸组合自适应滤波方法。

背景技术

近些年来，自适应滤波器迅速发展成为一种最佳滤波方法。自适应滤波器是在维纳滤波、卡尔曼滤波等线性滤波基础上发展起来的一种滤波方法，由于它具有更强的适应性和更优的滤波性能，从而在工程实际中，尤其在信息处理技术中得到了广泛的应用。

自适应滤波的研究对象是具有不确定性的系统或者信息过程，这里的“不确定性”是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包含一些未知因素和随机因素。任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态过程的数学模型的结构和参数是设计者事先并不一定确切知道的。作为外部环境对信息过程的影响，可以等效地用扰动来表示。这些扰动通常是不可测的，它们可能是确定性的，也可能是随机的。此外，还有一些测量噪声，也以不同的途径影响信息过程。这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的各式各样的不确定性，如何综合处理该信息过程，并使得某一些特定的性能指标达到最优或者近似最优，这就是自适应滤波所要解决的问题。

因为数学上的简易处理，以及计算复杂度的考虑，最小均方误差准则已经被广泛运用到自适应滤波器领域。但是线性的均方误差准则自适应滤波只能在底层系统是线性和高斯情况下较为理想，然而在大多数实际应用中面对的系统或者信息过程都是非高斯情况，这时最小均方误差准则下的自适应滤波器效果就不是很理想。

然而最大相关熵算法对于非高斯的信号过程却能够提供一个较为鲁棒的准则。最大相关熵代价函数在脉冲干扰和非线性系统中表现出很强的鲁棒性，并且有着与最小均方误差相近的复杂度和与最小误差熵相近的性能。众所周知，自适应滤波器中最重要的矛盾就是收敛速度与失衡量之间的矛盾，即收敛速度与失衡量之间成反比。这种矛盾在基于最大相关熵的自适应滤波器中也不例外。在基于最大相关熵的自适应滤波器中，收敛速度是由步长 kernel宽度决定。当kernel宽度一定时，滤波器的步长越大收敛速度越快，但失调量也越高；步长越小失调量越低，但收敛速度越慢。为了解决这个问题，学者已经把近些年比较流行的凸组合方式引入到基于最大相关熵的自适应滤波器中。虽然，凸组合的滤波器得到了大步长的滤波器快的收敛速度和小步长的滤波器的低失调量。但是在基于最大相关熵的凸组合(Convex combination of Maximum Correntropy Criterion,CMCC)滤波器中，因为只有两个步长不同的滤波器进行组合，会由于选取的步长差异，从而导致组合滤波器的收敛速度和追踪最优值能力下降。

发明内容

针对现有技术中存在的不足，本发明的目的在于，提供一种基于最大相关熵的多凸组合自适应滤波方法，解决现有技术的组合滤波器收敛速度和追踪最优值能力下降的技术问题。

为了解决上述技术问题，本申请采用如下技术方案予以实现：

一种基于最大相关熵的多凸组合自适应滤波方法，包括以下步骤：

采用最大相关熵准则更新权重向量，并以该准则下的L个不同步长的自适应滤波器以凸组合的形式联合调制输出结果，以所述L个不同步长的自适应滤波器中步长最大的一个滤波器在滤波开始阶段保证多凸组合自适应滤波器的收敛速度，然后其它L-1个滤波器在不同的时段根据混合系数调节所占权重比例，从而控制收敛速度和稳态量。

进一步地，包括以下步骤：

步骤1，将输入信号分别通过L个独立的不同步长的自适应滤波器后，分别得到L个独立的不同步长的自适应滤波器的输出 y₁(n),y₂(n),...,y_i(n),...y_L(n)；将预设的期望输出信号y_d(n)与 y₁(n),y₂(n),...,y_i(n),...y_L(n)分别做差值运算，得到L个独立的不同步长的自适应滤波器的输出误差e₁(n),e₂(n),...,e_i(n),...,e_L(n)；

步骤2，将所述L个独立的不同步长的自适应滤波器组成一个多凸组合滤波器，该多凸组合滤波器的权重向量为W_eq(n)；

步骤3，利用最大相关熵准则更新L个独立的不同步长的自适应滤波器的权重向量W₁(n),W₂(n),...,W_i(n),...,W_L(n),通过式(1)进行权重向量的更新，使权重向量W_i(n)通过结合平滑因子β依赖多凸组合滤波器的权重向量W_eq(n)；

其中，β是平滑因子；e_i(n)为第i个自适应滤波器的误差，

e_i(n)＝d(n)-y_i(n)；

步骤4，将L个独立的不同步长的自适应滤波器的输出 y₁(n),y₂(n),...,y_i(n),...y_L(n)用不同的混合系数v_i(n)结合为多凸组合自适应滤波器的输出y_eq(n),用期望输出信号y_d(n)与y_eq(n)做差值运算得到输出误差e(n), 再次利用最大相关熵准则，在步长参数μ_α下，更新混合系数为v_i(n+1)，n表示第n步更新过程，i代表第i个自适应滤波器。

进一步地，所述的平滑因子β取值范围为(0.8，1)。

进一步地，所述步长参数μ_α的取值范围为[2，30]。

进一步地，所述混合系数的取值范围为(0，1)。

进一步地，通过式(2)得到所述混合系数v_i(n)：

其中，α_i(n)为调节混合系数v_i(n)的参数，α_i(n)通过最大相关熵准则更新。

进一步地，所述参数α_i[n]的取值范围为[-ε,ε]，其中ε＝1/2In(101-L)。

本发明与现有技术相比，有益的技术效果是：

本发明能够提供数量更多不同步长的自适应滤波器，使得组合滤波器可以灵活地调节多个步长的权重占比，从而具有更好的追踪能力；并且，在针对混合高斯噪声和突变的系统辨识中，本发明具有更快的收敛速度、再收敛能力和追踪能力。

附图说明

图1是自适应滤波器结构；

图2是多凸组合滤波器模型；

图3是4-MCMCC滤波器和CMCC滤波器在混合高斯噪声强度下的收敛曲线比较图；

图4是4-MCMCC滤波器和CMCC滤波器在权重突变时的收敛曲线比较图。

以下结合附图和实施例对本发明的具体内容作进一步详细解释说明。

具体实施方式

以下给出本发明的具体实施例，需要说明的是本发明并不局限于以下具体实施例，凡在本申请技术方案基础上做的等同变换均落入本发明的保护范围。

本实施例提供了一种基于最大相关熵的多凸组合自适应滤波方法，包括以下步骤：

图1给出了自适应滤波器的基本结构，x(n)为输入信号，表示滤波器的输入信号，期望信号(参考信号)用d(n)表示，误差信号由e(n)＝d(n)-y(n)计算得出，n为基本迭代次数。同时，为确定自适应滤波器的权矢量更新方式，利用最大相关熵准则即可构造出一个所需要的目标函数，将目标函数最大化后，则可在期望和输出信号间实现最优化匹配。

本实施例具体包括以下步骤：

假设将输入信号为X(n)＝[x(n),x(n-1),…x(n-M+1)]发送到脉冲响应为 W₀(n)＝[w₀(n),w₀(n-1),…w₀(n-M+1)]的系统中，在噪声背景N(n)下，输出的理想响应为：d(n)＝W₀ ^TX+N(n)。将输入信号发送到自适应滤波器中，则可得到估计输出向量：y(n)＝W^TX。

其中，W(n)＝[w(n),w(n-1),…w(n-M+1)]表示自适应滤波器的权重向量。同时，我们可以得出误差向量e(n)＝d(n)-y(n)。

利用最大相关熵准则更新L个独立的不同步长的自适应滤波器的权重向量W₁(n),W₂(n),...,W_i(n),...,W_L(n),通过式(1)进行权重向量的更新，使权重向量W_i(n)通过结合平滑因子β依赖多凸组合滤波器的权重向量W_eq(n)；

其中，β是平滑因子；e_i(n)为第i个自适应滤波器的误差，

e_i(n)＝d(n)-y_i(n)；

本实施例中平滑因子β的取值范围为(0.8，1)。

将L个独立的不同步长的自适应滤波器的输出y₁(n),y₂(n),...,y_i(n),...y_L(n)用不同的混合系数v_i(n)结合为多凸组合自适应滤波器的输出y_eq(n),用期望输出信号y_d(n)与y_eq(n)做差值运算得到输出误差e(n),再次利用最大相关熵准则，在步长参数μ_α下，更新混合系数为v_i(n+1)，n表示第n步更新过程，i 代表第i个自适应滤波器。

将理想输出向量d(n)和估计输出向量y(n)当作X和Y带入相关熵的定义中，它们之间的熵为：

V(X,Y)＝E[k(X,Y)]＝∫k(x,y)dFXY(x,y) (2)

其中k(·,·)表示非时变kernel核心，F_XY(x,y)表示(X,Y)的联合分布函数。最广泛被应用在相关熵中的kernel核心是高斯核心:

在MCC(最大相关熵准则)下，基于最大相关熵的代价函数可以表示为：

其中e＝x-y,σ>0是kernel核心。

现有技术多为根据自适应算法的随机梯度原则，基于最大相关熵的权重系数更新方程为：

本发明利用L个独立的不同步长的基于最大相关熵准则下的自适应滤波器组成一个新的滤波器系统，即多凸组合滤波器，该多凸组合滤波器就是把多个步长不通过的滤波器进行图组合，该多凸组合滤波器模型参见图2 所示。

本实施例所采用的滤波器的个数为L,L个滤波器的步长从大到小排列为 (μ₁>μ₂>…>μ_L)，考虑L个基于最大相关熵的自适应滤波器的凸组合，可以得到组合滤波器的权重和输出为：

其中，v_i[n]是混合系数且满足同时y_i[n]＝x[n]^TW_i[n]i＝1,2…L是部分滤波器的输出。W_i[n]代表第i个滤波器的权重，第i个滤波器的步长由μ_i表示。每个滤波器都是根据它们自己的误差来更新权重，可表示为：

其中，e_i[n]＝d[n]-y_i[n]为第i个滤波器的误差。

为了得到更好的基于大相关熵的多凸组合滤波算法的性能，参数v_i[n]的函数的选择也十分重要，通过对基于最大相关熵的凸组合滤波算法中的v[n] 的改进，本实施例中新的混合系数v_i(n)的函数形式为：

其中，α_i(n)是调节混合系数而引入的参数。v_i(n)函数形式可以保证当任何一个滤波器比另一个滤波器表现好时，组合滤波器的稳定性。

对混合系数的更新，我们使用MCC规则使得最大化全局相关熵。同时，我们引入变量α_i(n)来更新混合系数。新的α_i(n)为:

然而当v_i(n)的值越趋近于1或者0，变量α_i(n)则会变化地越慢，所以，限制α_i(n)的范围限制在[-ε,ε]，其中ε＝1/2In(101-L)。

通过引入改进后的权重转移的方法，基于MCC的多凸组合滤波器的性能也可以继续被优化。该方法是用组合的滤波器的权重去加速其它所有比组合滤波器收敛速度慢的滤波器的权重。

使用公式(1)的条件是组合滤波器明显优于部分滤波器。判断组合滤波器明显优于部分滤波器的方法是计算每个滤波器的相关熵的估计量。相关熵的估计量的计算为：

其中e_i(n)和e(n)分别是部分滤波器和组合滤波器在迭代次数为n时的误差。当时，就可以应用公式(1)进行权重系数转移。通过大量的实验，r和β的分别选取2和0.8时，达到的效果最好。β的选取越接近于1，也就也趋于未加转移系数的多凸组合滤波器。

本实施例中步长参数μ_α的取值范围为[2，30]，其选择依据在于不同的混合高斯噪声系数与步长参数μ_α成反比。

混合系数的取值范围为(0，1)，其选择依据在于使得L个混合系数在不同的时间段接近于1，从而得到快的收敛速度和低的失调量。

综上所述，本发明的仿真结果采用的是4个滤波器进行凸组合。以下给出了在仿真情况下CMCC算法和本发明的信号处理效果对比，见图4。考虑设计一个7阶的未知系统，自适应滤波器拥有同样的结构(7阶)。测量噪声为混合高斯噪声：N[n]＝(1-θ)N(ζ₁,δ₁ ²)+θN(ζ₂,δ₂ ²)

其中N(ζ_t,δ_t ²)t＝1,2表示均值为ζ_t，方差为δ_t ²的高斯分布，θ表示混合系数。

性能的分析是通过归一化均方差(Normalized Mean Square Deviation， NMSD)来判定，其表示为：NMSD＝10log₁₀(||W_i-W₀||₂/||w₀||₂)

仿真实验中,设定W₀＝[0.9003,0.5377,-0.2137,0.028,-0.7826,-0.5242,0.0871]′；输入信号x[k]为均值0、方差1的高斯白噪声序列；四个步长分别为：μ₁＝0.1，μ₂＝0.03，μ₃＝0.01，μ₄＝0.002。

从图3中可以看到，在三种不同的混合高斯噪声中参数(ζ₁,ζ₂,δ₁ ²,δ₂ ²,θ)分别被设定为(0,0,0.001,10,0.05)，(0,0,0.001,10,0.1)，(0,0,0.001,10,0.5)，其分别对应的μ_a为50,30,2。多凸组合滤波器(4-MCMCC)由于存在4个不同步长，使得三幅图在收敛过程中间阶段，4-MCMCC算法的收敛速度明显快于 CMCC算法。并且在稳态阶段，4-MCMCC算法要比CMCC算法更快地进入稳态状态，因此极大地缩小了系统渐进稳态的过渡过程。

从图4中可以看到，在混合高斯噪声参数(ζ₁,ζ₂,δ₁ ²,δ₂ ²,θ)被设定为 (0,0,0.001,10,0.1)，μ_a为30的环境下，将系统的权重系数W₀在5000步时改变为-W₀。在权重系数变化之前，4-MCMCC不仅比CMCC有这更快的收敛速度，并且更早的收敛于稳定状态。当在5000步时，权重系数发生变化从W₀到-W₀， 4-MCMCC以比CMCC更快的收敛速度收敛,最后稳定到与CMCC同样的 NMSD。

Claims

1.一种基于最大相关熵的多凸组合自适应滤波方法，其特征在于，包括以下步骤：

2.根据权利要求1所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，包括以下步骤：

步骤1，将输入信号分别通过L个独立的不同步长的自适应滤波器后，分别得到L个独立的不同步长的自适应滤波器的输出y₁(n),y₂(n),...,y_i(n),...y_L(n)；将预设的期望输出信号y_d(n)与y₁(n),y₂(n),...,y_i(n),...y_L(n)分别做差值运算，得到L个独立的不同步长的自适应滤波器的输出误差e₁(n),e₂(n),...,e_i(n),...,e_L(n)；

其中，β是平滑因子；e_i(n)为第i个自适应滤波器的误差，e_i(n)＝d(n)-y_i(n)；

步骤4，将L个独立的不同步长的自适应滤波器的输出y₁(n),y₂(n),...,y_i(n),...y_L(n)用不同的混合系数v_i(n)结合为多凸组合自适应滤波器的输出y_eq(n),用期望输出信号y_d(n)与y_eq(n)做差值运算得到输出误差e(n),再次利用最大相关熵准则，在步长参数μ_α下，更新混合系数为v_i(n+1)，n表示第n步更新过程，i代表第i个自适应滤波器。

3.根据权利要求2所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，所述的平滑因子β取值范围为(0.8，1)。

4.根据权利要求2所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，所述步长参数μ_α的取值范围为[2，30]。

5.根据权利要求2所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，所述混合系数的取值范围为(0，1)。

6.根据权利要求5所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，通过式(6)得到所述混合系数v_i(n)：

7.根据权利要求6所述的基于最大相关熵的多凸组合自适应滤波方法，其特征在于，所述参数α_i[n]的取值范围为[-ε,ε]，其中ε＝1/2In(101-L)。