CN117040489B - 一种稀疏约束的样条自适应滤波器 - Google Patents
一种稀疏约束的样条自适应滤波器 Download PDFInfo
- Publication number
- CN117040489B CN117040489B CN202311298602.5A CN202311298602A CN117040489B CN 117040489 B CN117040489 B CN 117040489B CN 202311298602 A CN202311298602 A CN 202311298602A CN 117040489 B CN117040489 B CN 117040489B
- Authority
- CN
- China
- Prior art keywords
- spline
- adaptive
- signal
- time
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003044 adaptive effect Effects 0.000 claims abstract description 130
- 239000013598 vector Substances 0.000 claims abstract description 85
- 238000012804 iterative process Methods 0.000 claims abstract description 8
- 238000001914 filtration Methods 0.000 claims description 76
- 239000011159 matrix material Substances 0.000 claims description 16
- 238000012512 characterization method Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 5
- 230000017105 transposition Effects 0.000 claims description 2
- 230000006870 function Effects 0.000 description 45
- 238000000034 method Methods 0.000 description 21
- 238000005457 optimization Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 238000013461 design Methods 0.000 description 7
- 238000012546 transfer Methods 0.000 description 5
- 230000004044 response Effects 0.000 description 4
- 230000009466 transformation Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 230000001276 controlling effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000036039 immunity Effects 0.000 description 1
- 230000001939 inductive effect Effects 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03H—IMPEDANCE NETWORKS, e.g. RESONANT CIRCUITS; RESONATORS
- H03H21/00—Adaptive networks
- H03H21/0012—Digital adaptive filters
- H03H21/0043—Adaptive algorithms
Landscapes
- Filters That Use Time-Delay Elements (AREA)
Abstract
本发明公开了一种稀疏约束的样条自适应滤波器,采用基于最小平均p范数的样条自适应滤波器估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,以及在迭代过程中对步长因子进行自适应控制。本发明提出的稀疏约束的样条自适应滤波器,实现简单,复杂度低,能够较好地对非线性系统进行稀疏表征,并对非高斯噪声具有很强的鲁棒性,且有效的平衡了收敛速度和稳态误差,提升了滤波器的跟踪能力。
Description
技术领域
本发明涉及自适应滤波技术领域,尤其涉及一种稀疏约束的样条自适应滤波器。
背景技术
自适应滤波器作为统计信号处理的一个重要组成部分,能够迭代更新滤波器的权值,具有较好的信号处理能力,常被用来对系统或信号进行辨识或预测,被广泛应用于诸如通信、雷达、声呐、导航等众多不同领域。基于自适应滤波器对未知系统进行估计,本质是利用输出信号与期望输出之间的误差信号构建代价函数,不断迭代使滤波器的权重向量逐渐收敛,进而实现滤波器的传递函数不断逼近未知系统的响应。
线性自适应滤波器因其结构简单、算法复杂度低,从而得到了广泛的应用。但在实际应用中,复杂的环境导致系统具有显著的非线性特征,线性自适应滤波器的处理性能大大降低。
针对非线性系统,目前最广泛使用的是Volterra自适应滤波器(VolterraAdaptive Filter,以下简称VAF),本质上是一种带记忆的泰勒级数展开,其计算复杂度随记忆长度和阶次的增加呈现指数增长趋势,通常只应用在非线性程度较弱的场景。近些年,一些新的非线性滤波方法被提出,例如,核自适应滤波器(Kernel Adaptive Filter,以下简称KAF),样条自适应滤波器(Spline Adaptive Filter,以下简称SAF)等。KAF将输入信号映射到高维的特征空间,再基于线性自适应滤波框架来解决非线性问题,但随着网络结构的增加,存在运算量持续增大的问题。SAF通过局部内插实现非线性特性的拟合,算法实现简单,复杂度低,能够非常有效的处理未知系统的估计和辨识的复杂问题。
传统的自适应算法,如最小均方(Least Mean Square,以下简称LMS)是基于最小均方误差(Minimum Mean Squared Error,以下简称MMSE)代价函数实现的,一般在高斯噪声环境中表现良好。但是,在实际应用中,系统除了会受到高斯噪声的干扰外,还会受到脉冲噪声的干扰。LMS仅考虑了误差信号的二阶统计量,对脉冲噪声的敏感性较差,算法性能显著下降。最小平均p范数是基于平均p功率误差代价函数实现的,对非高斯噪声环境具有很强的鲁棒性。
根据过往的研究,实际系统普遍呈现出稀疏特性,即系统响应中的绝大多数抽头权重等于零或接近于零。但是,传统的自适应算法并未利用系统的稀疏特性,对系统的稀疏特性不敏感。利用几何范数对滤波器的权重向量进行约束,通过在代价函数中增加权重向量的零吸引项,能够增强自适应算法对零抽头权重的吸引能力。根据LASSO(LeastAbsolute Shrinkage and Selection Operator)和压缩感知理论的相关内容,l0范数和l1范数均与系统的稀疏特性有着极其密切的联系,并且l0范数是目前最好的稀疏系统表征方法。
除此之外,步长因子也是决定自适应算法性能的关键参数。步长因子选取较大可以加快自适应算法的收敛速度,但会增加算法的稳态误差;步长因子选取较小可以降低算法的稳态误差,但会降低算法的收敛速度。因此,基于固定步长因子的自适应算法并不能解决收敛速度与稳态误差之间的固有矛盾。
发明内容
针对现有技术的不足,本发明提出一种稀疏约束的样条自适应滤波器,采用基于最小平均p范数的样条自适应滤波器来估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,以及在迭代过程中对步长因子进行自适应控制。
具体技术方案如下:
一种稀疏约束的样条自适应滤波器,在线性滤波结构的基础上,通过样条插值实现非线性表征,其中,u为局部参数,C为样条基矩阵,q为自适应查找表中的相应值,所述自适应查找表的初始值为等差序列,迭代后更新为能够表征系统非线性特性的曲线;
采用基于最小平均p范数的样条自适应滤波器估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,以及在迭代过程中根据估计误差对步长因子进行自适应控制;所述样条自适应滤波器的代价函数为:
;
式中,d(n)为未知系统的期望信号,y(n)为输出信号;λ为正数的权衡值,用于平衡自适应算法的代价函数和样条自适应滤波器的稀疏度;为线性滤波权重向量。
进一步地,所述样条自适应滤波器包括样条滤波器和参数更新模块;
所述参数更新模块根据样条滤波器的输出信号与期望信号计算估计误差,并构造代价函数,对样条滤波器的参数进行自适应更新;
所述样条滤波器包括样条插值模块和线性滤波模块,所述样条插值模块用于实现对未知系统非线性特性的表征,所述线性滤波模块用于实现对未知系统线性特性的表征。
进一步地,所述样条滤波器采用Hammerstein模型,表达式如下:
;
;
;
;
其中,为n时刻的输入信号,/>为样条插值函数;/>为n时刻的样条信号,为n-1时刻的样条信号,/>为n-M+1时刻的样条信号,/>为样条信号向量,M为线性滤波抽头长度;/>为n时刻的线性滤波的第一个权重系数,/>为n时刻的线性滤波的第二个权重系数,/>为n时刻的线性滤波的第M个权重系数,/>为线性滤波权重向量;T表示转置运算,/>为n时刻的输出信号。
进一步地,所述样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号计算局部参数u和跨度指数i,表达式如下:
;
;
其中,为自适应查找表/>中各相邻控制点之间均匀的采样间隔,Q为控制点的总数,/>表示向下取整运算;所述自适应查找表/>的初始值为长度为Q、间隔为/>的等差序列;
步骤2:根据局部参数u和跨度指数i计算样条信号,表达式如下:
;
;
;
式中,表示n时刻的局部参数;/>表示4个相邻控制点组成的向量,/>为n时刻的第i个控制点,/>为n时刻的第i+1个控制点,/>为n时刻的第i+2个控制点,为n时刻的第i+3个控制点;C为样条基矩阵;
步骤3:根据样条信号及其延迟得到样条信号向量/>,表达式如下:
;
步骤4:根据样条信号向量和线性滤波权重向量/>计算输出信号/>,表达式如下:
;
其中,的初始值为单位冲击函数/>;
步骤5:根据输出信号和未知系统的期望信号/>计算估计误差/>,表达式如下:
;
步骤6:根据估计误差构造代价函数并按照自适应算法更新线性滤波权重向量以及自适应查找表中的控制点/>,然后,返回步骤1进行下一时刻的循环迭代。
进一步地,采用范数对所述线性滤波权重向量进行稀疏性约束。
进一步地,所述自适应算法的步长因子为变步长,其表达式如下:
;
其中,μ为固定线性步长因子,为控制参数,用于控制步长变化的陡峭程度。
进一步地,所述步骤6中,自适应算法中各参数的自适应更新公式如下:
;
;
;
式中,为线性的步长因子,/>为非线性的步长因子,/>表示内核宽度,/>为正数的权衡值,p为范数。
进一步地,范数p的取值范围为。
进一步地,所述样条滤波器采用Wiener模型,表达式如下:
;
;
;
;
其中,为n时刻的输出信号,/>为样条插值函数;/>为n时刻的样条信号;为n时刻的线性滤波的第一个权重系数,/>为n时刻的线性滤波的第二个权重系数,为n时刻的线性滤波的第M个权重系数,/>为线性滤波权重向量,M为线性滤波抽头长度,T表示转置运算;/>为n时刻的输入信号,/>为n-1时刻的输入信号,/>为n-M+1时刻的输入信号,/>为输入信号向量。
进一步地,所述样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号及其延迟得到输入信号向量/>,表达式如下:
;
步骤2:根据输入信号向量和线性滤波权重向量/>计算样条信号/>,表达式如下:
;
其中,的初始值为单位冲击函数/>;
步骤3:根据样条信号计算局部参数u和跨度指数i,表达式如下:
;
;
其中,为自适应查找表/>中各相邻控制点之间均匀的采样间隔,Q为控制点的总数,/>表示向下取整运算;所述自适应查找表/>的初始值为长度为Q、间隔为/>的等差序列;
步骤4:根据局部参数u和跨度指数i计算输出信号,表达式如下:
;
;
;
式中,表示n时刻的局部参数;/>表示4个相邻控制点组成的向量,/>为n时刻的第i个控制点,/>为n时刻的第i+1个控制点,/>为n时刻的第i+2个控制点,为n时刻的第i+3个控制点;C为样条基矩阵;
步骤5:根据输出信号和期望信号/>计算估计误差/>,即/>;
步骤6:根据估计误差构造代价函数,并按照自适应算法更新线性滤波权重向量/>以及自适应查找表中的控制点/>,然后,返回步骤1进行下一时刻的循环迭代;
所述自适应算法中各参数的自适应更新公式如下:
;
;
;
式中,为线性的步长因子,/>为非线性的步长因子,/>表示内核宽度,/>为正数的权衡值,p为范数。
本发明的有益效果是:
(1)本发明提出的稀疏约束的样条自适应滤波器,实现简单,复杂度低,采用基于最小平均p范数的样条自适应滤波器来估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,能够较好地对非线性系统进行稀疏表征,并对非高斯噪声具有很强的鲁棒性。
(2)本发明在迭代过程中对步长因子进行自适应控制,有效的平衡了收敛速度和稳态误差,提升了滤波器的跟踪能力。
附图说明
图1是自适应滤波器在系统辨识应用中的典型示意图。
图2是本发明实施例1中稀疏约束的样条自适应滤波器的结构示意图。
图3是本发明实施例1中所使用的样条滤波器的示意图。
图4是基于本发明实施例1中的样条滤波器对未知系统进行估计的方法步骤图。
图5是本发明实施例1中样条插值参数的示意图。
图6是本发明实施例1中梯度向量在不同范数下的灵敏度曲线。
图7是本发明实施例1中变步长因子在不同控制参数下的变化曲线。
图8是本发明实施例1中稀疏约束的样条自适应滤波器的计算示意图。
图9是本发明实施例2中所使用的样条滤波器的示意图。
图10是自适应滤波器在回声消除应用中的典型示意图。
具体实施方式
下面根据附图和优选实施例详细描述本发明,本发明的目的和效果将变得更加明白,以下结合附图和实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在对本发明实施例进行进一步详细说明之前,对本发明实施例中涉及的名词和术语进行说明,本发明实施例中涉及的名词和术语适用于如下的解释。
(1)最小平均p范数(Least Mean p-power,以下简称LMP):是一种用于估计未知系统或信号的自适应算法,它通过最小化平均p功率误差(Mean p-Power Error,以下简称MPE)实现对参数的估计。
(2)l0范数:向量中非零元素的数量,l0范数的值越小,向量越稀疏。
(3)样条自适应滤波器(Adaptive Spline Filter,以下简称SAF):通过局部内插实现非线性特性的拟合,由自适应线性网络与自适应样条激活函数组成。
(4)收敛速度:滤波器从开始工作到收敛到达稳态时所需的迭代次数。
(5)稳态误差:滤波器到达稳态后,输出信号与期望信号间的偏差。
本发明提出一种稀疏约束的样条自适应滤波器,在线性滤波结构的基础上,通过样条插值实现非线性表征,其中,u为局部参数,C为样条基矩阵,q为自适应查找表中的相应值,所述自适应查找表的初始值为等差序列,迭代后更新为能够表征系统非线性特性的曲线;
采用基于最小平均p范数的样条自适应滤波器来估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,以及在迭代过程中根据估计误差对步长因子进行自适应控制。这里的未知系统可以是线性系统或非线性系统。样条自适应滤波器的代价函数为:
;
式中,d(n)为未知系统的期望信号,y(n)为输出信号;λ为正数的权衡值,用于平衡自适应算法的代价函数和样条自适应滤波器的稀疏度;为线性滤波权重向量。
自适应滤波器能够在输入信号和噪声统计特性均未知的情况下,实现特定准则下的最佳滤波,完成对未知系统的跟踪。与非自适应滤波器相比,自适应滤波器具有动态的权重向量,并通过状态反馈和自适应算法不断地调整权重向量以及相应的频率响应。当环境发生变化时,其自适应能力不随输入信号统计特性的变化而消失,自适应算法能够重新调整滤波器的权重向量,重新使滤波效果达到最佳。自适应滤波器被广泛应用于诸如通信、雷达、声呐、导航等众多不同领域。在不同领域中,自适应滤波器可以被归纳为系统辨识、回声消除、语音预测、自适应信道均衡、自适应天线阵等多种应用场景。
下面以系统辨识应用为例,对本发明提出的稀疏约束的样条自适应滤波器进行更为详细的说明。
在实际应用中,对于未知系统而言,通常无需详细了解其内部结构,只需要关注其外部传输特性。因此,系统辨识的本质是根据系统的输入输出来估计未知系统的传递函数,建立某种数学模型并对其参数进行估计。
如图1所示,假定未知系统的传递函数为,输入信号/>通过未知系统,产生的输出信号表示为/>。由于未知系统的输出端不可避免的受到环境噪声/>的影响,自适应滤波的期望信号d(n)可以表示为未知系统的输出信号/>与环境噪声/>之和,表达式如下:
;
假定自适应滤波器的传递函数为,同时将输入信号/>加至自适应滤波器的输入端,则自适应滤波器的输出信号为/>,表达式如下:
期望信号d(n)与自适应滤波器输出信号之差,即为自适应算法所需的误差信号e(n),表达式如下:
通过设计自适应算法,合理的调整自适应滤波器的系数,令由误差信号e(n)构造的代价函数趋于最小,即,实现对未知系统的拟合。由于具有相同的输入信号和相似的输出信号,因此,一般可以认为所设计的自适应滤波器拟合后与未知系统具有相似的系统特性,实现了对未知系统的辨识。
根据过往研究,在自适应滤波器的设计中,一般将滤波器结构设计和自适应算法设计作为设计重点。其中,滤波器结构直接决定了其对未知系统的拟合能力;自适应算法决定了滤波器的收敛速度和稳态误差。本发明采用样条滤波器对未知系统进行辨识。
如图2所示,本发明提出的稀疏约束的样条自适应滤波器包括样条滤波器和参数更新模块,其中样条滤波器又包括样条插值模块和线性滤波模块,各模块的功能如下:
(1)样条插值模块:用于建立输入信号与样条信号之间的非线性联系,使样条滤波器具备非线性表征能力。
(2)线性滤波模块,用于对样条信号进行线性滤波,得到输出信号,使样条滤波器具备线性表征能力。
(3)参数更新模块,根据输出信号与期望信号计算估计误差,并构造代价函数,对样条滤波器的参数进行自适应更新。
样条滤波器可采用多种模型,以下将两个常用的经典模型作为实施例来具体说明本发明。
实施例1
如图3所示,在本实施例中,样条滤波器采用Hammerstein模型,表达式如下:
;
;
;
;
其中,为n时刻的输入信号,/>为样条插值函数;/>为n时刻的样条信号,为n-1时刻的样条信号,/>为n-M+1时刻的样条信号,/>为样条信号向量,M为线性滤波抽头长度;/>为n时刻的线性滤波的第一个权重系数,/>为n时刻的线性滤波的第二个权重系数,/>为n时刻的线性滤波的第M个权重系数,/>为线性滤波权重向量;T表示转置运算,/>为n时刻的输出信号。
如图2所示,基于Hammerstein模型的样条滤波器,输入信号通过样条插值模块进行基于样条插值的非线性变换,再通过线性滤波模块进行基于线性滤波的线性变换,得到输出信号/>。
其中,通过样条插值函数,实现输入信号/>到样条信号/>的非线性变换,样条插值实现对未知系统非线性特性的表征。
此外,利用样条信号构建样条向量信号/>,通过与线性滤波权重向量/>卷积,得到输出信号/>,线性滤波实现对未知系统的线性特性的表征。
结合上述样条滤波器结构,对本发明样条自适应滤波器所使用的自适应算法进行详细的说明。
如图4所示,样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号计算局部参数u和跨度指数i,如图5所示,局部参数u用于表征输入信号/>在自适应查找表中的小数值,跨度指数i用于表征输入信号/>在自适应查找表中的整数值,用于确定/>的索引值。局部参数u和跨度指数i的表达式如下:
;
;
其中,为自适应查找表/>中各相邻控制点之间均匀的采样间隔,Q为控制点的总数,/>表示向下取整运算。
其中,自适应查找表的初始值为长度为Q、间隔为/>的等差序列,迭代后更新为能够表征系统非线性特性的曲线。
步骤2:根据局部参数u和跨度指数i计算样条信号,表达式如下:
;
;
;
式中,表示n时刻的局部参数;/>表示4个相邻控制点组成的向量,/>为n时刻的第i个控制点,/>为n时刻的第i+1个控制点,/>为n时刻的第i+2个控制点,为n时刻的第i+3个控制点;C为样条基矩阵。
样条基矩阵C可选择CR样条基矩阵:
或B样条基矩阵:
CR样条通过所有控制点,相对于B样条的局部近似,拥有更好的性能。因此,本实施例中,样条基矩阵采用CR样条基矩阵。
步骤3:根据样条信号及其延迟得到样条信号向量/>,表达式如下:
;
步骤4:根据样条信号向量和线性滤波权重向量/>计算输出信号/>,表达式如下:
;
其中,的初始值为单位冲击函数/>,迭代后更新为能够表征系统线性特性的权重向量。
步骤5:根据输出信号和未知系统的期望信号/>计算估计误差/>,表达式如下:
;
步骤6:根据估计误差构造代价函数,并按照自适应算法更新线性滤波权重向量/>以及自适应查找表中的控制点/>,然后,返回步骤1进行下一时刻的循环迭代。
下面对步骤6中描述的代价函数构造,以及基于自适应算法对样条滤波器各参数的自适应更新过程进行详细的说明。
自适应算法依照MPE进行线性滤波权重向量和自适应查找表的更新,代价函数为:
式中,p表示范数。
MPE准则下的自适应滤波的优化目标表示为:
相比于基于MMSE为代价函数的LMS,基于MPE的LMP对非高斯噪声环境具有很强的鲁棒性。当p=2时,MPE等同于MMSE,因此,为了适应高斯噪声环境和脉冲噪声环境,范数p应满足0<p<2。
对MPE构造的代价函数求导,得到LMP算法的梯度向量为:
梯度向量体现了LMP算法对误差向量的灵敏度。不同范数p下的/>的变化曲线如图6所示,范数p越大,LMP受误差的影响越大,算法稳定性能越差;范数p越小,LMP的抗干扰性能越强。
根据梯度向量,得到滤波器参数的自适应更新公式为:
其中,为线性的步长因子,/>为非线性的步长因子。
根据过往的研究,实际系统普遍呈现出稀疏特性,即系统响应中的绝大多数抽头权重等于零或接近于零。根据压缩感知理论的相关内容,l0范数是目前最好的稀疏系统表征方法。因此,可以将系统的稀疏问题转化为权重向量l0范数最小化问题。下面对压缩感知理论框架下自适应滤波进行详细的描述。
首先,对压缩感知理论进行简单的介绍,为描述清晰,在本处使用公认的符号进行表述。
在压缩感知理论中,假定一个长度为N的离散信号x在某个正交变换域上是稀疏的或可压缩的,则x可以表示为:
其中,为离散信号,/>为系数矢量,/>为正交基矢量。s是x在/>域的表示,若s中非零个数/>,则x可称作K稀疏。
通过一个观测矩阵随机观测原离散信号x,得到观测矢量/>,
其中,为恢复矩阵。
重构上述离散信号x最直接的方法即为利用l0范数求解方程,其优化模型为:
因此,在本实施例中,将样条信号向量等价于离散信号x,线性滤波权重向量等价于系数矢量s,滤波器期望信号d(n)等价于观测矢量y,从而实现压缩感知的优化模型与本发明自适应滤波器的最优化问题的对应,即在压缩感知理论框架下,基于l0范数约束的稀疏约束的样条自适应滤波器中,线性滤波的优化模型为:
根据优化理论,基于l0范数约束的稀疏样条自适应滤波的优化目标可以转化为:
其中,是一个正数的权衡值,用于平衡自适应算法的代价函数和滤波器的稀疏度。
但是,最小化l0范数是一个NP-hard问题,一般选择将l0范数松弛到l1范数求解,或使用连续函数近似l0范数求解。相关熵诱导度量(Correntropy Induced Metric,以下简称CIM)利用信息的最大相关熵,来度量滤波器权重向量与零向量之间的相似性,与其他传统的l0、l1范数约束相比,CIM约束已被验证能够更好的逼近l0范数。
CIM函数是一种连续可微函数,可以表示为:
其中,,/>表示内核宽度,当内核宽度/>时,CIM能够较好的实现对l0范数的近似。
更具一般性的,使用CIM的平方作为l0范数的近似,并构造稀疏代价函数:
对基于CIM近似构造的稀疏代价函数求导,得到CIM的梯度向量为,
更进一步的,采用l0范数对线性滤波权重向量进行稀疏性约束,并进行CIM近似,代价函数为:/>
因此,以的近似值/>为代价函数的自适应滤波的优化目标可以表示为:
对代价函数求导,得到相应的梯度向量为:
根据梯度向量得到滤波器参数的自适应更新公式为:
除此以外,步长因子也是决定自适应算法性能的关键参数,基于固定步长因子的自适应算法并不能解决收敛速度与稳态误差之间的固有矛盾,需要在迭代过程中不断对步长因子进行自适应控制。这种矛盾在算法设计之初就已存在,固定步长的自适应算法并不能缓解这种根本性矛盾,只能根据不同的应用场景对二者进行折中处理。
通过建立误差信号e(n)和步长因子之间的关系,使用e(n)的变化来调节。在自适应算法迭代初期,误差信号较大,使用较大的步长来提高收敛速度;在算法迭代后期,误差信号收敛,使用较小的步长来降低稳态误差。由此可见,变步长方法是一种缓解收敛速度和稳态误差之间的矛盾的有效方法。步长因子/>为线性的变步长,其表达式如下:
其中,μ为固定线性步长因子,为控制参数,用于控制步长变化的陡峭程度。
不同控制参数下的步长因子与误差信号之间的关系如图7所示。变步长因子的变化只与控制参数有关,其控制着变步长因子的变化趋势,越小变化越快,曲线越陡峭。变步长因子的变化曲线在原点周围呈现V形,且/>的取值范围为0-μ,当误差信号e(n)的绝对值较大时,步长因子会随之变大但仍不会超过μ;当误差信号e(n)较小时,步长因子会迅速衰减并趋于0。因此,能够发现,变步长因子的变化趋势符合预期要求,并且保证了变步长因子在0-μ的合理范围取值,不会因为误差的过大而出现无法预测的过大值。
因此,符合本实施例设计要求的稀疏变步长样条自适应滤波器的参数自适应更新公式为:
综上所述,稀疏约束的样条自适应滤波器的结构可以展开为如图8所示的计算示意图:
(1)样条插值模块:用于实现步骤1和步骤2,即根据输入信号计算局部参数u和跨度指数i,根据局部参数u和跨度指数i计算样条信号/>。
(2)线性滤波模块:用于实现步骤3和步骤4,即根据样条信号及其延迟得到样条信号向量/>,根据样条信号向量/>和线性滤波权重向量/>计算输出信号/>。
(3)参数更新模块:用于实现步骤5和步骤6,即根据输出信号和期望信号d(n)计算估计误差e(n);根据估计误差e(n)构造代价函数并按照自适应算法更新线性滤波权重向量/>以及自适应查找表中的控制点/>,其中,参数自适应更新公式为:
实施例2
如图9所示,在本实施例中,样条滤波器采用Wiener模型,表达式如下:
其中,为输入信号向量,/>为n时刻的输入信号,/>为n-1时刻的输入信号,/>为n-M+1时刻的输入信号。
基于Wiener模型的样条滤波器,输入信号通过线性滤波模块进行基于线性滤波的线性变换,再通过样条插值模块进行基于样条插值的非线性变换,得到输出信号/>。
其中,利用输入信号构建输入信号向量/>,通过与线性滤波权重向量/>卷积,得到样条信号/>,线性滤波实现对未知系统的线性特性的表征。
此外,通过样条插值函数,实现样条信号/>到输出信号/>的非线性变换,样条插值实现对未知系统非线性特性的表征。
本实施例中,样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号及其延迟得到输入信号向量/>,表达式如下:
;
步骤2:根据输入信号向量和线性滤波权重向量/>计算样条信号/>,表达式如下:
;
其中,的初始值为单位冲击函数/>;
步骤3:根据样条信号计算局部参数u和跨度指数i,表达式如下:
;
;
其中,为自适应查找表/>中各相邻控制点之间均匀的采样间隔,自适应查找表的初始值是长度为Q、间隔为/>的等差序列。
步骤4:根据局部参数u和跨度指数i计算输出信号y(n),输出信号,表达式如下:
本实施例中样条基矩阵C采用CR样条基矩阵。
步骤5:根据输出信号和期望信号/>计算估计误差/>,即/>。
步骤6:根据估计误差构造代价函数,并按照自适应算法更新线性滤波权重向量/>以及自适应查找表中的控制点/>,然后,返回步骤1进行下一时刻的循环迭代。
自适应算法依照MPE进行线性滤波权重向量和自适应查找表的更新,代价函数为:
其中,p表示范数,为了适应高斯噪声环境和脉冲噪声环境,。
更进一步的,采用范数对线性滤波权重向量/>进行稀疏性约束,并进行CIM近似,代价函数为:
因此,以的近似值/>为代价函数的自适应滤波的优化目标表示为:
更进一步的,线性步长因子为变步长,表达式如下:
因此,符合本实施例设计要求的稀疏变步长样条自适应滤波器的参数自适应更新公式为:
更进一步的,以回声消除应用为例,对本发明提出的稀疏约束的样条自适应滤波器进行更为详细的说明。
在回声消除应用中,自适应滤波器以某种意义上的最优化方式消除包含在信号中的未知干扰。从其基本原理看,回声消除可以看为是系统辨识的进一步延伸,系统辨识可以看为是回声消除最重要的内核。
如图10所示,其中,是远端信号,即输入信号;/>是近端环境噪声;/>为近端语音信号,只有在双通话的情况下才会存在,通常将其视为零。假定回声路径的传递函数为/>,输入信号/>通过回声路径后,产生的输出信号表示为/>。由于不可避免的受到近端环境噪声/>的影响,自适应滤波的期望信号/>可以表示为经过回声路径的输出信号/>、近端语音信号/>与近端环境噪声/>之和,即近端信号与回声信号的混合信号,表达式如下:
假定自适应滤波器的传递函数为,同时将输入信号/>加至自适应滤波器的输入端,则自适应滤波器的输出信号为/>,表达式如下:
期望信号与自适应滤波器输出信号/>之差,即为自适应算法所需的误差信号/>,表达式如下:
通过设计自适应算法,合理的调整自适应滤波器的系数,令由误差信号e(n)构造的代价函数趋于最小,即回声估计信号(自适应滤波器输出信号)不断逼近真实回声信号/>。当算法收敛时,可以认为得到了回声信号的复制信号,在近端减去该复制信号便实现了回声消除的效果。
根据过往的研究,回声消除应用主要分为声学回声消除和网络回声消除,二者对应的回声信道均具备稀疏和时变的典型特点,即对自适应算法的收敛速度和跟踪性能提出了较高的要求。同时,脉冲噪声普遍存在于回声信道中,需要重点进行考虑。
结合上文中本发明在系统辨识应用中的描述,本发明提出的稀疏约束的样条自适应滤波器满足回声消除应用的要求。
更进一步的,实施例1、实施例2均可直接用于回声消除应用。
本发明提出了一种稀疏约束的样条自适应滤波器,实现简单,复杂度低,采用基于LMP的样条自适应滤波器来估计未知系统,并对样条自适应滤波器的权重向量进行稀疏性约束,能够较好的对非线性系统进行稀疏表征,并对非高斯噪声具有很强的鲁棒性;以及在迭代过程中对步长因子进行自适应控制,有效的平衡了收敛速度和稳态误差,提升了滤波器的跟踪能力。
本领域普通技术人员可以理解,以上所述仅为发明的优选实例而已,并不用于限制发明,尽管参照前述实例对发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在发明的精神和原则之内,所做的修改、等同替换等均应包含在发明的保护范围之内。
Claims (8)
1.一种稀疏约束的样条自适应滤波器,其特征在于,在线性滤波结构的基础上,通过样条插值uTCq实现非线性表征,其中,u为局部参数,C为样条基矩阵,q为自适应查找表中的相应值,所述自适应查找表的初始值为等差序列,迭代后更新为能够表征系统非线性特性的曲线;
采用基于最小平均p范数的样条自适应滤波器估计未知系统,范数p的取值范围为0<p<2,相应的代价函数为:
JMPE=|d(n)-y(n)|p
式中,d(n)为未知系统的期望信号,y(n)为输出信号;
并对样条自适应滤波器的权重向量进行稀疏性约束,相应的代价函数为:
Jl0=λ||w(n)||0
式中,λ为正数的权衡值,用于平衡自适应算法的代价函数和样条自适应滤波器的稀疏度;w(n)为线性滤波权重向量;
使用CIM的平方作为l0范数的近似,并构造稀疏代价函数JCIM:
其中,σ表示内核宽度;M为线性滤波抽头长度;
以及在迭代过程中根据估计误差对步长因子进行自适应控制;所述步长因子为变步长,其表达式如下:
其中,μ为固定线性步长因子,γ为控制参数,用于控制步长变化的陡峭程度;
所述样条自适应滤波器的代价函数为:
JMPE_10=JMPE+Jl0。
2.根据权利要求1所述的稀疏约束的样条自适应滤波器,其特征在于,所述样条自适应滤波器包括样条滤波器和参数更新模块;
所述参数更新模块根据样条滤波器的输出信号与期望信号计算估计误差,并构造代价函数,对样条滤波器的参数进行自适应更新;
所述样条滤波器包括样条插值模块和线性滤波模块,所述样条插值模块用于实现对未知系统非线性特性的表征,所述线性滤波模块用于实现对未知系统线性特性的表征。
3.根据权利要求2所述的稀疏约束的样条自适应滤波器,其特征在于,所述样条滤波器采用Hammerstein模型,表达式如下:
y(n)=wT(n)s(n);
w(n)=[w0(n),w1(n),…,wM-1(n)]T;
s(n)=[s(n),s(n-1),…,s(n-M+1)]T;
其中,x(n)为n时刻的输入信号,为样条插值函数;s(n)为n时刻的样条信号,s(n-1)为n-1时刻的样条信号,s(n-M+1)为n-M+1时刻的样条信号,s(n)为样条信号向量,M为线性滤波抽头长度;w0(n)为n时刻的线性滤波的第一个权重系数,w1(n)为n时刻的线性滤波的第二个权重系数,wM-1(n)为n时刻的线性滤波的第M个权重系数,w(n)为线性滤波权重向量;T表示转置运算,y(n)为n时刻的输出信号。
4.根据权利要求3所述的稀疏约束的样条自适应滤波器,其特征在于,所述样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号x(n)计算局部参数u和跨度指数i,表达式如下:
其中,Δx为自适应查找表q(n)中各相邻控制点之间均匀的采样间隔,Q为控制点的总数,[#]表示向下取整运算;所述自适应查找表q(n)的初始值为长度为Q、间隔为Δx的等差序列;
步骤2:根据局部参数u和跨度指数i计算样条信号s(n),表达式如下:
u(n)=[u3(n),u2(n),u(n),1]T:
qi(n)=[qi(n),qi+1(n),qi+2(n),qi+3(n)]T;
式中,u(n)表示n时刻的局部参数;qi(n)表示4个相邻控制点组成的向量,qi(n)为n时刻的第i个控制点,qi+1(n)为n时刻的第i+1个控制点,qi+2(n)为n时刻的第i+2个控制点,qi+3(n)为n时刻的第i+3个控制点;C为样条基矩阵;
步骤3:根据样条信号s(n)及其延迟得到样条信号向量s(n),表达式如下:
s(n)=[s(n),s(n-1),…,s(n-M+1)]T;
步骤4:根据样条信号向量s(n)和线性滤波权重向量w(n)计算输出信号y(n),表达式如下:
y(n)=wT(n)s(n);
其中,w(n)的初始值为单位冲击函数δ[n];
步骤5:根据输出信号y(n)和未知系统的期望信号d(n)计算估计误差e(n),表达式如下:
e(n)=d(n)-y(n);
步骤6:根据估计误差e(n)构造代价函数,并按照自适应算法更新线性滤波权重向量w(n)以及自适应查找表中的控制点qi(n),然后,返回步骤1进行下一时刻的循环迭代。
5.根据权利要求4所述的稀疏约束的样条自适应滤波器,其特征在于,采用l0范数对所述线性滤波权重向量进行稀疏性约束。
6.根据权利要求4所述的稀疏约束的样条自适应滤波器,其特征在于,所述步骤6中,自适应算法中各参数的自适应更新公式如下:
Ui(n)=[ui(n),ui(n-1),…,ui(n-M+1)];
qi(n+1)=qi(n)+μqp|e(n)|p-2e(n)CTUi(n)w(n);
式中,μw为线性的步长因子,μq为非线性的步长因子,σ表示内核宽度,λ为正数的权衡值,p为范数。
7.根据权利要求2所述的稀疏约束的样条自适应滤波器,其特征在于,所述样条滤波器采用Wiener模型,表达式如下:
s(n)=wT(n)x(n);
w(n)=[w0(n),w1(n),…,wM-1(n)]T;
x(n)=[x(n),x(n-1),…,x(n-M+1)]T;
其中,y(n)为n时刻的输出信号,为样条插值函数;s(n)为n时刻的样条信号;w0(n)为n时刻的线性滤波的第一个权重系数,w1(n)为n时刻的线性滤波的第二个权重系数,wM-1(n)为n时刻的线性滤波的第M个权重系数,w(n)为线性滤波权重向量,M为线性滤波抽头长度,T表示转置运算;x(n)为n时刻的输入信号,x(n-1)为n-1时刻的输入信号,x(n-M+1)为n-M+1时刻的输入信号,x(n)为输入信号向量。
8.根据权利要求7所述的稀疏约束的样条自适应滤波器,其特征在于,所述样条自适应滤波器在n时刻对未知系统进行估计包含如下步骤:
步骤1:根据输入信号x(n)及其延迟得到输入信号向量x(n),表达式如下:
x(n)=[x(n),x(n-1),…,x(n-M+1)]T;
步骤2:根据输入信号向量x(n)和线性滤波权重向量w(n)计算样条信号s(n),表达式如下:
s(n)=wT(n)x(n);
其中,w(n)的初始值为单位冲击函数δ[n];
步骤3:根据样条信号s(n)计算局部参数u和跨度指数i,表达式如下:
其中,Δs为自适应查找表q(n)中各相邻控制点之间均匀的采样间隔,Q为控制点的总数,[·]表示向下取整运算;所述自适应查找表q(n)的初始值为长度为Q、间隔为Δs的等差序列;
步骤4:根据局部参数u和跨度指数i计算输出信号y(n),表达式如下:
u(n)=[u3(n),u2(n),u(n),1]T;
qi(n)=[qi(n),qi+1(n),qi+2(n),qi+3(n)]T;
式中,u(n)表示n时刻的局部参数;qi(n)表示4个相邻控制点组成的向量,qi(n)为n时刻的第i个控制点,qi+1(n)为n时刻的第i+1个控制点,qi+2(n)为n时刻的第i+2个控制点,qi+3(n)为n时刻的第i+3个控制点;C为样条基矩阵;
步骤5:根据输出信号y(n)和期望信号d(n)计算估计误差e(n),即e(n)=d(n)-y(n);
步骤6:根据估计误差e(n)构造代价函数,并按照自适应算法更新线性滤波权重向量w(n)以及自适应查找表中的控制点qi(n),然后,返回步骤1进行下一时刻的循环迭代;
所述自适应算法中各参数的自适应更新公式如下:
qi(n+1)=qi(n)+μqp|e(n)|p-2e(n)CTu(n);
式中,μw为线性的步长因子,μq为非线性的步长因子,σ表示内核宽度,λ为正数的权衡值,p为范数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311298602.5A CN117040489B (zh) | 2023-10-09 | 2023-10-09 | 一种稀疏约束的样条自适应滤波器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311298602.5A CN117040489B (zh) | 2023-10-09 | 2023-10-09 | 一种稀疏约束的样条自适应滤波器 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117040489A CN117040489A (zh) | 2023-11-10 |
CN117040489B true CN117040489B (zh) | 2024-02-13 |
Family
ID=88641655
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311298602.5A Active CN117040489B (zh) | 2023-10-09 | 2023-10-09 | 一种稀疏约束的样条自适应滤波器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117040489B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109257030A (zh) * | 2018-10-22 | 2019-01-22 | 中原工学院 | 一种变步长lp范数LMS算法的稀疏系统辨识方法 |
CN110233607A (zh) * | 2019-05-28 | 2019-09-13 | 西安交通大学 | 基于最小误差熵的哈默斯坦型非线性样条自适应滤波方法 |
CN111884625A (zh) * | 2020-07-28 | 2020-11-03 | 苏州大学 | 一种变步长稀疏增广复数自适应滤波器 |
CN113452350A (zh) * | 2021-06-07 | 2021-09-28 | 苏州大学 | 一种变步长块稀疏仿射投影自适应滤波器 |
CN115208355A (zh) * | 2022-02-22 | 2022-10-18 | 北京理工大学 | 鲁棒广义非线性样条自适应滤波方法及滤波器系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150074161A1 (en) * | 2013-09-09 | 2015-03-12 | King Fahd University Of Petroleum And Minerals | Least mean square method for estimation in sparse adaptive networks |
US11639981B2 (en) * | 2015-07-17 | 2023-05-02 | Origin Wireless, Inc. | Method, apparatus, and system for movement tracking |
-
2023
- 2023-10-09 CN CN202311298602.5A patent/CN117040489B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109257030A (zh) * | 2018-10-22 | 2019-01-22 | 中原工学院 | 一种变步长lp范数LMS算法的稀疏系统辨识方法 |
CN110233607A (zh) * | 2019-05-28 | 2019-09-13 | 西安交通大学 | 基于最小误差熵的哈默斯坦型非线性样条自适应滤波方法 |
CN111884625A (zh) * | 2020-07-28 | 2020-11-03 | 苏州大学 | 一种变步长稀疏增广复数自适应滤波器 |
CN113452350A (zh) * | 2021-06-07 | 2021-09-28 | 苏州大学 | 一种变步长块稀疏仿射投影自适应滤波器 |
CN115208355A (zh) * | 2022-02-22 | 2022-10-18 | 北京理工大学 | 鲁棒广义非线性样条自适应滤波方法及滤波器系统 |
Non-Patent Citations (5)
Title |
---|
一种地形自适应的机载LiDAR点云正则化TPS滤波方法;张永军;黄星北;刘欣怡;;地球信息科学学报(第04期);254-264 * |
基于CIM的偏差补偿稀疏NLMAD算法研究;马占军;张佳庚;马文涛;桂冠;;计算机应用研究(第09期);全文 * |
平方根变步长l_p范数LMS算法的稀疏系统辨识;周其玉;张爱华;曹文周;张瑞哲;;电讯技术(第02期);13-17 * |
海洋水文观测数据聚类;闫可;程文芳;;计算机应用与软件(第11期);全文 * |
用于块稀疏系统辨识的混合范数约束LMS算法;闫震海;;应用声学(第04期);70 * |
Also Published As
Publication number | Publication date |
---|---|
CN117040489A (zh) | 2023-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4398146B2 (ja) | 適応フィルタ | |
Singh et al. | A comparative study of adaptation algorithms for nonlinear system identification based on second order Volterra and bilinear polynomial filters | |
Yazdanpanah et al. | A simple set-membership affine projection algorithm for sparse system modeling | |
Yang et al. | Efficient μ-law improved proportionate affine projection algorithm for echo cancellation | |
Liu et al. | Sign normalised hammerstein spline adaptive filtering algorithm in an impulsive noise environment | |
Saengmuang et al. | Convergence and Stability Analysis of Spline Adaptive Filtering based on Adaptive Averaging Step-size Normalized Least Mean Square Algorithm | |
Shi et al. | Diffusion sign subband adaptive filtering algorithm with enlarged cooperation and its variant | |
CN117040489B (zh) | 一种稀疏约束的样条自适应滤波器 | |
Zhang et al. | A novel adaptive bilinear filter based on pipelined architecture | |
Zhao et al. | Efficient Nonlinear Adaptive Filters: Design, Analysis and Applications | |
Sankaran et al. | Fast generalized affine projection algorithm | |
CN113299284B (zh) | 一种基于自适应滤波的语音识别装置、方法、设备及介质 | |
Kobayashi et al. | A wavelet neural network for function approximation and network optimization | |
Zhang et al. | Low-Complexity l 0-Norm Penalized Shrinkage Linear and Widely Linear Affine Projection Algorithms | |
Turan et al. | A block LMS-type algorithm with a function controlled variable step-size for sparse system identification | |
CN1607740B (zh) | 不稳定信号的改进型仿射投影算法 | |
CN110798177A (zh) | 一种新型的通用勒让德滤波器 | |
Paleologu et al. | Recursive least-squares algorithm based on a third-order tensor decomposition for low-rank system identification | |
Aldajani | Logarithmic quantization in the least mean squares algorithm | |
Das | Zero-attracting Chebyshev Functional Link Adaptive Filter for Nonlinear System Identification | |
Prongnuch et al. | Performance Analysis and Enhancement of Spline Adaptive Filtering based on Adaptive Step-size Variable Leaky Least Mean Square Algorithm | |
Jimi et al. | A new approach of performance analysis of adaptive filter algorithm in noise elimination | |
Yang | Adaptive filter design for sparse signal estimation. | |
Sun et al. | Robust Multi-kernel Generalized Maximum Correntropy Filters | |
Rani et al. | Design and implementation of adaptive filtering algorithm using NLMS having different targets |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |