CN105930310A - 一种自适应正则化平滑l0范数方法 - Google Patents

一种自适应正则化平滑l0范数方法 Download PDF

Info

Publication number
CN105930310A
CN105930310A CN201610298213.6A CN201610298213A CN105930310A CN 105930310 A CN105930310 A CN 105930310A CN 201610298213 A CN201610298213 A CN 201610298213A CN 105930310 A CN105930310 A CN 105930310A
Authority
CN
China
Prior art keywords
formula
lambda
value
algorithm
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201610298213.6A
Other languages
English (en)
Inventor
陈金立
唐彬彬
李家强
高翔
罗凡
罗一凡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Information Science and Technology
Original Assignee
Nanjing University of Information Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Information Science and Technology filed Critical Nanjing University of Information Science and Technology
Priority to CN201610298213.6A priority Critical patent/CN105930310A/zh
Publication of CN105930310A publication Critical patent/CN105930310A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/17Function evaluation by approximation methods, e.g. inter- or extrapolation, smoothing, least mean square method
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/55Compression Theory, e.g. compression of random number, repeated compression
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/60General implementation details not specific to a particular type of compression
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03MCODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/60General implementation details not specific to a particular type of compression
    • H03M7/6041Compression optimized for errors

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Analysis (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Complex Calculations (AREA)

Abstract

本发明公开了一种自适应正则化平滑l0范数方法,对正则化SL0算法进行了改进,在内循环的最速上升法中以第一次迭代的信号残差项估计值以及该迭代前后的稀疏信号估计的偏差值作为当前正则化参数的选择依据,从而能自适应地调整在每次外循环中的信号稀疏度和误差容许项的权重值,在优化过程中保持两者的平衡性,从而有效降低稀疏信号的重构误差,提高了算法的抗噪声干扰能力;通过引入SVD方法来避免在迭代过程中投影到可行解集的操作中的大规模矩阵求逆运算,有效提高本发明方法对稀疏信号的重构速度。

Description

一种自适应正则化平滑l0范数方法
技术领域
本发明涉及一种自适应正则化平滑l0范数方法,属于压缩感知恢复技术领域。
背景技术
压缩感知作为信号处理领域的一项新技术,已被广泛地应用于生物医学、图像处理、无线通信和雷达信号处理等领域。压缩感知理论通过求解l0范数最小化问题,能从少量的非自适应投影测量值中以较高概率重构出稀疏信号。然而,l0范数最小化问题是NP-hard问题,需要通过组合搜索求解,但信号维度较大时难以实现该问题的求解。平滑l0范数(Smoothed l0Norm,SL0)算法是利用一系列高斯函数来近似l0范数,从而将l0范数最小化的NP-hard问题转化为易求解的平滑函数最小化问题,然后通过求解该问题能获得稀疏信号的重构值。SL0算法具有计算速度快,而且重构信号所需的测量值较少的优点。SL0算法通过求解以下等式约束最优化问题:
max Fσ(x)s.t.y=Ax (1)
式中,y为已知的m×1维向量,x为已知的n×1维信号向量,A为已知的m×n维观测矩阵,且σ为高斯函数形状参数,xi表示向量x的第i个元素,N为向量x中元素个数。在实际环境中,由于噪声的存在导致y和Ax之间存在误差,而SL0算法使用y=Ax的等式约束条件,因此其稀疏信号重构性能在噪声环境下会严重恶化。为了提高该算法的抗噪能力,文献(Hongxia Bu,Ran Tao,Xia Bai,JuanZhao,Regularized smoothed l0 norm algorithm and its application to CS-basedradar imaging[J],Signal processing,2016,122:115-122.)提出了一种正则化SL0算法,该算法在SL0算法的目标函数中加入一个误差容许项从而将式(1)转换成一个适用于噪声环境下信号重构的目标优化函数,即
max F σ ( x ) s . t . | | y = A x | | 2 2 ≤ δ - - - ( 2 )
式中,δ为容许的误差值。正则化SL0算法利用拉格朗日乘数法构建无约束目标优化函数,类似于SL0算法,它利用2个嵌套迭代运算来获得稀疏信号x的估计值。该算法在所有迭代运算过程中正则化参数均为一个固定值,然而在实际迭代运算过程中,误差容许项的值会发生较大的改变,因此在不同迭代运算中,固定的正则化参数无法有效保持信号稀疏度和误差容许项之间的平衡,导致该算法的抗噪声能力不强、稳健性较低。针对实际应用场景对压缩感知算法的需求,因此研究一种抗噪声性能强以及正则化参数易于自适应调整的SL0算法是非常有必要的。
发明内容
为了解决上述技术问题,本发明提供了一种自适应正则化平滑l0范数方法。
为了达到上述目的,本发明所采用的技术方案是:
一种自适应正则化平滑l0范数方法,包括以下步骤:
步骤1,初始化;
将y=Ax最小二乘解作为算法运行的初始值,定义j为外循环的迭代计数值,初始时j=1,j=1时的高斯函数形状参数σj为第j次外循环迭代中高斯函数形状参数,σJ外循环终止时的高斯函数形状参数,ρ为收缩因子,0<ρ<1,L为内循环的最大迭代次数;
步骤2,在可行解集χ={x|||y-Ax||2≤δ}上利用最速上升法求使Fσ(x)最大值的解;
具体如下:
A1)令σ=σjl=1,转至步骤A2;
A2)判断l是否小于等于L,如果是,则转至步骤A3,如果不是,则转至步骤A8;
A3)x←x-μxexp[-x2/(2σ2)],转至步骤A4;
其中,μ为大于0的常数;
A4)判断l是否等于1,如果是,则转至步骤A5,如果不是,则转至步骤A6;
A5)自适应调整正则化参数转至步骤A6;
A6)将x投影到可行解集χ={x|||y-Ax||2≤δ}上,即x←x-AHU[(b11×m)⊙UH](Ax-y),转至步骤A7;
其中,U∈Cm×m称为左奇异矩阵,11×m为1×m维全1向量,b为m×1维向量,[·]T表示转置,α12,…,αm为对角矩阵Σ'=Σ·∑H的对角元素值,∑∈Cm×n为由特征值组成的对角矩阵,U和∑是通过计算A的SVD变换获得,
A7)l=l+1,转至步骤A2;
A8)令
A9)判断σj是否小于σJ,如果是,则为使Fσ(x)最大值的解,即为信号最稀疏表示解,如果不是,则j=j+1,σj=ρσj-1,转至步骤A1。
自适应调整正则化参数的推导过程为,
在给定σ=σj的迭代循环过程中的优化问题可采用拉格朗日形式表示为,
x ^ ( j ) = arg m i n x ( j ) ( | | x ( j ) - x | | 2 2 + λ | | y - Ax ( j ) | | 2 2 ) - - - ( 3 )
利用加权最小二乘法求解(3)得,
x ^ ( j ) = x - A H ( AA H + λ - 1 I m ) - 1 ( A x ^ - y ) - - - ( 4 )
其中,Im为m×m维单位矩阵,
式(4),将投影到可行解集χ={x|||y-Ax||2≤δ}上,
令函数
由式(3)可知,当时,函数H(x(j),λ)达到最小值,
函数H(x(j),λ)可以改写为,
H(x(j),λ)=(x(j)-x)H(x(j)-x)+λ(y-Ax(j))H(y-Ax(j)) (6)
=x(j)Hx(j)-x(j)Hx-xHx(j)+xHx+λ(yHy-yHAx(j)-x(j)HAHy+x(j)HAHAx(j))
将式(6)关于x(j)进行复数求导,
∂ H ( x ( j ) , λ ) ∂ x ( j ) = 2 ( x ( j ) - x ) + 2 λ ( A H Ax ( j ) - A H y ) - - - ( 7 )
即可得,
(x(j)-x)+λ(AHAx(j)-AHy)=0 (8)
带入式(8),得到,
λ ( A H Ax ( j ) - A H y ) = x - x ^ ( j ) - - - ( 9 )
将式(9)等号两边取2范数操作,即,
λ | | A H Ax ( j ) - A H y | | 2 = | | x - x ^ ( j ) | | 2 - - - ( 10 )
从式(10)中可以得出正则化参数的估计值,
λ ^ = | | x - x ^ ( j ) | | 2 / | | A H ( A x ^ ( j ) - y ) | | 2 - - - ( 11 )
由式(11)和式(4)可知,的解依赖于的值,在利用式(11)计算参数值时是未知的,因此,的值可由在σ=σj-1时的稀疏信号重构值来代替,
即,正则化参数
x←x-AHU[(b11×m)⊙UH](Ax-y)的推导过程为,
计算A的SVD变换可得,
A=UΣVH (13)
其中,V∈Cm×m称为右奇异矩阵,
利用U、V的特性可得,
AAH=UΣΣH UH (14)
UUH=Im (15)
将式(12)中新的正则化参数、式(13)和(14)带入式(4)得,
x ^ ( j ) = x - A H ( UΣΣ H U H + λ ^ - 1 UU H ) - 1 ( A x - y ) = x - A H [ U ( ΣΣ H + λ ^ - 1 I m ) U H ] - 1 ( A x - y ) = x - A H U ( ΣΣ H + λ ^ - 1 I m ) - 1 U H ( A x - y ) - - - ( 16 )
其中,ΣΣH=diag(α12,…,αm),diag(·)为对角化操作,
令m×1维向量
则,
(ΣΣH-1Im)UH=(b11×m)⊙UH (17)
式中,⊙表示Hadamard积,
那么式(16)可改写为,
A的SVD变换在信息重构处理前进行离线计算。
本发明所达到的有益效果:1、本发明对正则化SL0算法进行了改进,在内循环的最速上升法中以第一次迭代的信号残差项估计值以及该迭代前后的稀疏信号估计的偏差值作为当前正则化参数的选择依据,从而能自适应地调整在外循环迭代中的信号稀疏度和误差容许项的权重值,在优化过程中保持两者的平衡性,从而有效降低稀疏信号的重构误差,提高了算法的抗噪声干扰能力;2、本发明提高了对稀疏信号的重构速度,通过引入SVD方法来避免在迭代过程中投影到可行解集的操作中的大规模矩阵求逆运算,并对A的SVD分解以及与奇异矩阵相乘操作进行离线计算并存储,有效提高本发明方法对稀疏信号的重构速度。
附图说明
图1为本发明的流程图。
图2为不同算法的的重构信噪比SER与噪声功率σ′n的变化关系。
图3为不同算法的信号重构均方误差MSE与噪声功率σ′n的变化关系。
图4为不同算法的信号重构速度与噪声功率σ′n的变化关系。
图5为不同算法的重构信噪比SER与信号稀疏度K的变化关系。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
本发明类似于SL0算法和正则化SL0算法,也采用2个嵌套循环运算从式(2)中来获得信号x的最稀疏表示解。当σ较小时,函数Fσ(x)出现高度非光滑现象,从而导致许多局部极小值出现,不易进行优化;而当σ较大时,虽然函数Fσ(x)较为光滑,则有利于进行优化,但是稀疏信号x的重构误差较大。因此采取逐步减小σ的策略来避免优化Fσ(x)过程中陷入局部最大值,针对每个σ值,在可行解集χ={x|||y-Ax||2≤δ}上寻找使得Fσ(x)最大值的x值,并将该x值作为下一次迭代的初值。与正则化SL0算法类似,本发明方法的内循环过程包含最速上升方法步骤x←x+μσ2▽Fσ(x)(其中μ为大于0的常数、▽Fσ(x)为Fσ(x)的梯度值)以及优化问题的求解。
在给定σ=σj的迭代循环过程中的优化问题可采用拉格朗日形式表示为,
x ^ ( j ) = arg m i n x ( j ) ( | | x ( j ) - x | | 2 2 + λ | | y - Ax ( j ) | | 2 2 ) - - - ( 3 )
式中,λ为正则化参数,
由于的解即为使Fσ(x)达到最大的稀疏信号重构值,因此,λ其实是调节信号稀疏度和信号残差项在目标函数值所占的比重,
利用加权最小二乘法求解(3)得,
x ^ ( j ) = x - A H ( AA H + λ - 1 I m ) - 1 ( A x - y ) - - - ( 4 )
其中,Im为m×m维单位矩阵,
式(4),将投影到可行解集χ={x|||y-Ax||2≤δ}上,
由于在实际迭代运算过程中,信号残差项的值会发生较大改变,为了保持信号稀疏度和信号残差项在目标函数值中的平衡性,以增强算法的抗噪声性能,可提出了一种正则化参数的自适应调整方法,即
令函数
由式(3)可知,当时,函数H(x(j),λ)达到最小值,
函数H(x(j),λ)可以改写为,
H(x(j),λ)=(x(j)-x)H(x(j)-x)+λ(y-Ax(j))H(y-Ax(j)) (6)
=x(j)Hx(j)-x(j)Hx-xHx(j)+xHx+λ(yHy-yHAx(j)-x(j)HAHy+x(j)HAHAx(j))
为了能使H(x(j),λ)达到最小值,将式(6)关于x(j)进行复数求导,
∂ H ( x ( j ) , λ ) ∂ x ( j ) = 2 ( x ( j ) - x ) + 2 λ ( A H Ax ( j ) - A H y ) - - - ( 7 )
即可得,
(x(j)-x)+λ(AHAx(j)-AHy)=0 (8)
带入式(8),得到,
λ ( A H Ax ( j ) - A H y ) = x - x ^ ( j ) - - - ( 9 )
将式(9)等号两边取2范数操作,即,
λ | | A H Ax ( j ) - A H y | | 2 = | | x - x ^ ( j ) | | 2 - - - ( 10 )
从式(10)中可以得出正则化参数的估计值,
λ ^ = | | x - x ^ ( j ) | | 2 / | | A H ( A x ^ ( j ) - y ) | | 2 - - - ( 11 )
由式(11)和式(4)可知,的解依赖于的值,在利用式(11)计算参数值时是未知的,因此,的值可由在σ=σj-1时的稀疏信号重构值来代替,
即,正则化参数
由式(12)可知,在迭代过程中正则化参数能根据信号残差项估计值以及最速上升法的迭代前后的稀疏信号估计的偏差值进行自适应调整,平衡信号稀疏度和信号残差项在目标函数值中的比重。
在给定σ=σj所对应的内循环过程中,类似于SL0方法,本发明方法也是利用最速上升方法求解式(3)所表示的最小化优化问题。假设最速上升方法的迭代次数为L,即内循环的最大迭代次数为L,由于在L次迭代内x根据公式x←x+μσ2▽Fσ(x)进行更新,则正则化参数值也应分别更新L次,计算量较大。考虑到内循环中并不要求最速上升法达到收敛即迭代次数L可以很小,那么正则化参数在L次迭代内变化不会太大,即可认为在L次迭代中正则化参数固定不变,因此在内循环的L次迭代中的大规模矩阵求逆只需要运算一次即可,提高了计算效率。
在逐步减小σ的外循环中,正则化参数需要重新计算更新,则在外循环的每次迭代中的大规模矩阵求逆也需要重新计算。为了进一步提高算法的实时性,本发明在引入SVD方法来降低在迭代过程中投影到可行解集时的大规模矩阵求逆运算。对A进行SVD变换可得,
A=U∑VH (13)
其中,V∈Cm×m称为右奇异矩阵,
利用U、V的特性可得,
AAH=UΣΣH UH (14)
UUH=Im (15)
将式(12)中新的正则化参数、式(14)和(15)带入式(4)得,
x ^ ( j ) = x - A H ( UΣΣ H U H + λ ^ - 1 UU H ) - 1 ( A x - y ) = x - A H [ U ( ΣΣ H + λ ^ - 1 I m ) U H ] - 1 ( A x - y ) = x - A H U ( ΣΣ H + λ ^ - 1 I m ) - 1 U H ( A x - y ) - - - ( 16 )
其中,ΣΣH=diag(α12,…,αm),diag(·)为对角化操作,
令m×1维向量
则,
(∑∑H-1Im)UH=(b11×m)⊙UH (17)
式中,⊙表示Hadamard积,
那么式(16)可改写为,
式(18)已不存在大规模矩阵求逆运算,因此其计算效率要,而且由于在稀疏信号重构前观测矩阵A是已知的,因此A的SVD变换可在信息重构处理前进行离线计算,这样能有效提高本发明方法对稀疏信号的重构速度。
综上所述,本发明的具体流程如图1所示,一种自适应正则化平滑l0范数方法,包括以下步骤:
步骤1,离线计算;
离线计算A的SVD变换,获得U、V和∑,并计算AHU和UH
其中,U∈Cm×m和V∈Cn×n为正交的酉矩阵,分别称为左奇异矩阵和右奇异矩阵,Σ∈Cm×n为对角矩阵;
步骤2,初始化;
将y=Ax最小二乘解作为算法运行的初始值,定义j为外循环的迭代计数值,初始时j=1,j=1时的高斯函数形状参数σj为第j次外循环迭代中高斯函数形状参数,σJ外循环终止时的高斯函数形状参数,ρ为收缩因子,0<ρ<1,L为内循环的最大迭代次数;
步骤3,在可行解集χ={x|||y-Ax||2≤δ}上利用最速上升法求使Fσ(x)最大值的解;
具体如下:
A1)令σ=σjl=1,转至步骤A2;
A2)判断l是否小于等于L,如果是,则转至步骤A3,如果不是,则转至步骤A8;
A3)x←x-μxexp[-x2/(2σ2)],转至步骤A4;
其中,μ为大于0的常数;
A4)判断l是否等于1,如果是,则转至步骤A5,如果不是,则转至步骤A6;
A5)自适应调整正则化参数转至步骤A6;
A6)将x投影到可行解集χ={x|||y-Ax||2≤δ}上,即x←x-AHU[(b11×m)⊙UH](Ax-y),转至步骤A7;
其中,U∈Cm×m称为左奇异矩阵,11×m为1×m维全1向量,b为m×1维向量,[·]T表示转置,α12,…,αm为对角矩阵∑'=∑·∑H的对角元素值,Σ∈Cm×n为由特征值组成的对角矩阵,U和Σ是通过计算A的SVD变换获得,
A7)l=l+1,转至步骤A2;
A8)令
A9)判断σj是否小于σJ,如果是,则为使Fσ(x)最大值的解,即为信号最稀疏表示解,如果不是,则j=j+1,σj=ρσj-1,转至步骤A1。
为了进一步说明上述方法,做以下仿真实验。
在该仿真实验中,为了检验SL0算法(SL0)、表面欠定方程组求解(FocalUndetermined System Solver,FOCUSS)方法、正则化SL0算法(ReSL0)、自适应正则化SL0算法(AReSL0)以及引入SVD的自适应正则化SL0算法(AReSL0_SVD)性能,分别它们将应用于在噪声环境下的稀疏信号重构问题中。仿真参数设置:L=3,μ=2.5,所有算法处理的原始信号都为长度n=1500的高斯稀疏信号,其中非零元素个数为K=120。稀疏信号的非零元素值服从高斯分布,且在每次独立实验中非零元素的位置随机选取。在噪声环境下,观测信号可以表示为y=Ax+n。每次实验的观测信号y长度为m=500。在每次实验中,A的列元素服从标准的独立同分布的高斯分布。重构信号比SER(dB)定义为信号重构均方误差定义为其中为原始信号x的估计值。以下仿真实验分别独立进行100次,重构信号比SER、重构均方误差MSE以及运行时间都为200次独立实验的平均值。
仿真内容1:噪声对算法重构性能的影响
图2和图3分别为不同算法的重构信噪比SER和信号重构均方误差MSE与噪声功率σ′n的变化关系图。由图2和图3可知,当噪声功率σ′n逐渐增加即信噪比降低时,所有算法的信号重构性能都会随之下降;SL0算法和FOCUSS算法的重构信噪比SER和信号重构均方误差MSE基本类似;由于在目标函数里加入了误差容许项,ReSL0算法在噪声环境下的重构性能要优于SL0算法和FOCUSS算法;在ReSL0算法基础上,提出了一种自适应正则化SL0算法(AReSL0算法),在每次迭代过程中自适应地调整信号稀疏度和误差容许项的权重值,保持两者的平衡性,从而有效降低稀疏信号的重构误差,其稀疏信号重构性能优于ReSL0算法。为了降低AReSL0算法的运算量,通过引入SVD方法来避免了在迭代过程中的大规模矩阵求逆运算,AReSL0_SVD算法的性能与AReSL0算法几乎一致,因此SVD变换的引入并没有使得AReSL0算法的重构性能降低。
仿真内容2:算法的运算时间对比
以CPU运算时间作为不同算法复杂度的判断依据,虽然CPU运算时间不能对算法的复杂度进行准确测量,但是可以粗略评价算法的复杂度。本实验在MATLAB R2013a中完成,计算机配置为:Intel(R)Core(TM)i5-4570处理器、主频为3.2GHz、内存为4GB。图4描述了不同算法的信号重构速度。由图4可知,SL0算法的运算速度最快,ReSL0算法的重构速度其次,AReSL0算法虽然在重构性能上要明显优于SL0算法和ReSL0算法,但是其运算复杂度要高于两者,通过引入SVD方法来提高重构速度,相比AReSL0算法,AReSL0_SVD算法的稀疏信号重构时间约降低了27%左右。但是AReSL0算法和AReSL0_SVD算法的重构时间都比FOCUSS算法要低得多。
仿真内容3:算法的算法重构性能与信号稀疏度K的关系
图5为不同算法的重构信噪比SER与信号稀疏度K的变化关系,其中信号稀疏度K在30~380之间取值,其它仿真参数同仿真实验1。由图5可知,原始信号具有不同稀疏度K的情况下,AReSL0算法和AReSL0_SVD算法重构性能均要好于SL0算法、ReSL0算法和FOCUSS算法,尤其是在信号稀疏度K较小时它们要明显优于上述三种对比算法。
综上所述,本发明在内循环的最速上升法中以第一次迭代的信号残差项估计值以及该迭代前后的稀疏信号估计的偏差值作为当前正则化参数的选择依据,从而能自适应地调整在外循环迭代中的信号稀疏度和误差容许项的权重值,在优化过程中保持两者的平衡性,从而有效降低稀疏信号的重构误差,提高了算法的抗噪声干扰能力;通过引入SVD方法来避免在迭代过程中投影到可行解集的操作中的大规模矩阵求逆运算,并对A的SVD分解以及与奇异矩阵相乘操作进行离线计算并存储,有效提高本发明方法对稀疏信号的重构速度。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。

Claims (4)

1.一种自适应正则化平滑l0范数方法,其特征在于:包括以下步骤,
步骤1,初始化;
将y=Ax最小二乘解作为算法运行的初始值,定义j为外循环的迭代计数值,初始时j=1,j=1时的高斯函数形状参数σj为第j次外循环迭代中高斯函数形状参数,σJ外循环终止时的高斯函数形状参数,ρ为收缩因子,0<ρ<1,L为内循环的最大迭代次数;
步骤2,在可行解集χ={x|||y-Ax||2≤δ}上利用最速上升法求使Fσ(x)最大值的解;
具体如下:
A1)令σ=σjl=1,转至步骤A2;
A2)判断l是否小于等于L,如果是,则转至步骤A3,如果不是,则转至步骤A8;
A3)x←x-μxexp[-x2/(2σ2)],转至步骤A4;
其中,μ为大于0的常数;
A4)判断l是否等于1,如果是,则转至步骤A5,如果不是,则转至步骤A6;
A5)自适应调整正则化参数转至步骤A6;
A6)将x投影到可行解集χ={x|||y-Ax||2≤δ}上,即转至步骤A7;
其中,U∈Cm×m称为左奇异矩阵,11×m为1×m维全1向量,b为m×1维向量,[·]T表示转置,α12,…,αm为对角矩阵Σ'=Σ·ΣH的对角元素值,Σ∈Cm×n为由特征值组成的对角矩阵,U和Σ是通过计算A的SVD变换获得,
A7)l=l+1,转至步骤A2;
A8)令
A9)判断σj是否小于σJ,如果是,则为使Fσ(x)最大值的解,即为信号最稀疏表示解,如果不是,则j=j+1,σj=ρσj-1,转至步骤A1。
2.根据权利要求1所述的一种自适应正则化平滑l0范数方法,其特征在于:自适应调整正则化参数的推导过程为,
在给定σ=σj的迭代循环过程中的优化问题可采用拉格朗日形式表示为,
x ^ ( j ) = arg m i n x ( j ) ( | | x ( j ) - x | | 2 2 + λ | | y - Ax ( j ) | | 2 2 ) - - - ( 3 )
利用加权最小二乘法求解(3)得,
x ^ ( j ) = x - A H ( AA H + λ - 1 I m ) - 1 ( A x ^ - y ) - - - ( 4 )
其中,Im为m×m维单位矩阵,
式(4),将投影到可行解集χ={x|||y-Ax||2≤δ}上,
令函数
由式(3)可知,当时,函数H(x(j),λ)达到最小值,
函数H(x(j),λ)可以改写为,
H ( x ( j ) , λ ) = ( x ( j ) - x ) H ( x ( j ) - x ) + λ ( y - Ax ( j ) ) H ( y - Ax ( j ) ) = x ( j ) H x ( j ) - x ( j ) H x - x H x ( j ) + x H x + λ ( y H y - y H Ax ( j ) - x ( j ) H A H y + x ( j ) H A H Ax ( j ) ) - - - ( 6 )
将式(6)关于x(j)进行复数求导,
∂ H ( x ( j ) , λ ) ∂ x ( j ) = 2 ( x ( j ) - x ) + 2 λ ( A H Ax ( j ) - A H y ) - - - ( 7 )
即可得,
(x(j)-x)+λ(AHAx(j)-AHy)=0 (8)
带入式(8),得到,
λ ( A H Ax ( j ) - A H y ) = x - x ^ ( j ) - - - ( 9 )
将式(9)等号两边取2范数操作,即,
λ | | A H Ax ( j ) - A H y | | 2 = | | x - x ^ ( j ) | | 2 - - - ( 10 )
从式(10)中可以得出正则化参数的估计值,
λ ^ = | | x - x ^ ( j ) | | 2 / | | A H ( A x ^ ( j ) - y ) | | 2 - - - ( 11 )
由式(11)和式(4)可知,的解依赖于的值,在利用式(11)计算参数值时是未知的,因此,的值可由在σ=σj-1时的稀疏信号重构值来代替,
即,正则化参数
3.根据权利要求2所述的一种自适应正则化平滑l0范数方法,其特征在于:的推导过程为,
计算A的SVD变换可得,
A=UΣVH (13)
其中,V∈Cm×m称为右奇异矩阵,
利用U、V的特性可得,
AAH=UΣΣH UH (14)
UUH=Im (15)
将式(12)中新的正则化参数、式(14)和(15)代入式(4)得,
x ^ ( j ) = x - A H ( UΣΣ H U H + λ ^ - 1 UU H ) - 1 ( A x - y ) = x - A H [ U ( ΣΣ H + λ ^ - 1 I m ) U H ] - 1 ( A x - y ) = x - A H U ( ΣΣ H + λ ^ - 1 I m ) - 1 U H ( A x - y ) - - - ( 16 )
其中,ΣΣH=diag(α12,…,αm),diag(·)为对角化操作,
令m×1维向量
则,
式中,表示Hadamard积,
那么式(16)可改写为,
4.根据权利要求3所述的一种自适应正则化平滑l0范数方法,其特征在于:A的SVD变换在信息重构处理前进行离线计算。
CN201610298213.6A 2016-05-06 2016-05-06 一种自适应正则化平滑l0范数方法 Pending CN105930310A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610298213.6A CN105930310A (zh) 2016-05-06 2016-05-06 一种自适应正则化平滑l0范数方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610298213.6A CN105930310A (zh) 2016-05-06 2016-05-06 一种自适应正则化平滑l0范数方法

Publications (1)

Publication Number Publication Date
CN105930310A true CN105930310A (zh) 2016-09-07

Family

ID=56835455

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610298213.6A Pending CN105930310A (zh) 2016-05-06 2016-05-06 一种自适应正则化平滑l0范数方法

Country Status (1)

Country Link
CN (1) CN105930310A (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106548780A (zh) * 2016-10-28 2017-03-29 南京邮电大学 一种语音信号的压缩感知重构方法
CN107064896A (zh) * 2017-03-30 2017-08-18 南京信息工程大学 基于截断修正sl0算法的mimo雷达参数估计方法
CN108646719A (zh) * 2018-07-05 2018-10-12 中南大学 一种微弱故障检测方法及系统
CN108710150A (zh) * 2018-05-22 2018-10-26 中国海洋石油集团有限公司 一种基于稳健奇异谱分析的地震不规则噪声去除方法
CN109462427A (zh) * 2018-10-12 2019-03-12 南京信息工程大学 一种基于改进的自适应混合优化平滑l0范数的mimo水声信道估计方法
CN110320435A (zh) * 2019-07-11 2019-10-11 广东石油化工学院 一种利用数据正则化的变压器运行状态振声检测信号重构方法和系统

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106548780A (zh) * 2016-10-28 2017-03-29 南京邮电大学 一种语音信号的压缩感知重构方法
CN106548780B (zh) * 2016-10-28 2019-10-15 南京邮电大学 一种语音信号的压缩感知重构方法
CN107064896A (zh) * 2017-03-30 2017-08-18 南京信息工程大学 基于截断修正sl0算法的mimo雷达参数估计方法
CN107064896B (zh) * 2017-03-30 2019-12-10 南京信息工程大学 基于截断修正sl0算法的mimo雷达参数估计方法
CN108710150A (zh) * 2018-05-22 2018-10-26 中国海洋石油集团有限公司 一种基于稳健奇异谱分析的地震不规则噪声去除方法
CN108646719A (zh) * 2018-07-05 2018-10-12 中南大学 一种微弱故障检测方法及系统
CN108646719B (zh) * 2018-07-05 2021-04-06 中南大学 一种微弱故障检测方法及系统
CN109462427A (zh) * 2018-10-12 2019-03-12 南京信息工程大学 一种基于改进的自适应混合优化平滑l0范数的mimo水声信道估计方法
CN109462427B (zh) * 2018-10-12 2021-05-04 南京信息工程大学 一种mimo水声信道估计方法
CN110320435A (zh) * 2019-07-11 2019-10-11 广东石油化工学院 一种利用数据正则化的变压器运行状态振声检测信号重构方法和系统

Similar Documents

Publication Publication Date Title
CN105930310A (zh) 一种自适应正则化平滑l0范数方法
CN105181121B (zh) 采用加权迭代等效源法的高精度近场声全息方法
CN103941220B (zh) 一种基于稀疏重构的网格外目标波达方向估计方法
CN106646414B (zh) 基于Bi-CGSTAB和SL0算法的MIMO雷达目标参数估计方法
CN105825200A (zh) 基于背景字典学习和结构稀疏表示的高光谱异常目标检测方法
CN106599427B (zh) 一种基于贝叶斯理论和气垫船姿态信息的海浪信息预测方法
CN104732566B (zh) 基于非分离稀疏先验的高光谱图像压缩感知方法
CN106405533A (zh) 基于约束加权最小二乘的雷达目标联合同步与定位方法
Tian et al. An accelerated Jacobi-gradient based iterative algorithm for solving Sylvester matrix equations
CN105931264A (zh) 一种海面红外小目标检测方法
CN104935367A (zh) 一种基于信道空间稀疏特性的快速迭代波束成形方法
CN107450045A (zh) 基于focuss二次加权算法的doa估计方法
CN105353375A (zh) 一种镜像综合孔径辐射计反演方法
CN103378888B (zh) 下行波束赋形方法及设备
CN104330766B (zh) 一种稳健的波达方向估计方法
CN106656882A (zh) 一种信号合成方法及系统
CN116155412A (zh) 无线信道评估方法及系统
CN114285445B (zh) 电磁辐射约束的ris-dma辅助多用户mimo上行谱效优化方法
CN107064896A (zh) 基于截断修正sl0算法的mimo雷达参数估计方法
CN107181705B (zh) 一种半盲信道估计方法及系统
CN106209189A (zh) 大规模mimo系统中信号检测装置及方法
CN116563096A (zh) 用于图像配准的形变场的确定方法、装置以及电子设备
Li et al. Iteration-based parameter identification and its applications about distributed parameter systems
CN115483957A (zh) Ris辅助通信系统的相位调控方法、装置、电子设备及介质
Deng et al. Tensor sensing for RF tomographic imaging

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20160907