CN102970044A - 一种基于回溯的迭代重加权压缩传感重构算法 - Google Patents

一种基于回溯的迭代重加权压缩传感重构算法 Download PDF

Info

Publication number
CN102970044A
CN102970044A CN2012104804525A CN201210480452A CN102970044A CN 102970044 A CN102970044 A CN 102970044A CN 2012104804525 A CN2012104804525 A CN 2012104804525A CN 201210480452 A CN201210480452 A CN 201210480452A CN 102970044 A CN102970044 A CN 102970044A
Authority
CN
China
Prior art keywords
iteration
signal
algorithm
support set
birls
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN2012104804525A
Other languages
English (en)
Other versions
CN102970044B (zh
Inventor
孙桂玲
李洲周
王志红
何静飞
李晓晨
党卫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nankai University
Original Assignee
Nankai University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nankai University filed Critical Nankai University
Priority to CN201210480452.5A priority Critical patent/CN102970044B/zh
Publication of CN102970044A publication Critical patent/CN102970044A/zh
Application granted granted Critical
Publication of CN102970044B publication Critical patent/CN102970044B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

本发明公开了一种基于回溯的迭代重加权(Backtracking-based iterative reweighted least square,BIRLS)压缩传感重构算法。本发明通过在迭代重加权过程中加入回溯和稀疏度自适应的思想,算法在每一次迭代过程中将前次迭代得到的解向量支撑与迭代重加权产生的支撑合并,再通过回溯和自适应过程优化解向量支撑的选择。基于回溯的迭代重加权压缩传感重构算法能平衡所有系数对算法恢复效果的影响,且仅需要很少的迭代次数就能高概率恢复原始信号,大大减少重构所需的迭代时间,可较大程度提升对稀疏信号的恢复能力和重构精度。

Description

一种基于回溯的迭代重加权压缩传感重构算法
【技术领域】
本发明涉及压缩传感信号处理技术领域,特别是涉及一种基于回溯的迭代重加权压缩传感重构算法。
【背景技术】
压缩感知理论(Compressed Sensing,CS)的核心思想是利用少量的线性非相干测量值,通过求解范数优化问题获得稀疏信号或者可压缩信号的快速优化重构。重构算法的关键是如何从压缩感知得到的低维数据中精确地恢复出原始的高维数据。
目前,众多国内外学者在重构算法领域做出了很多研究和探索,candes证明了信号重构问题可以通过求解最小l0范数问题解决,但求解最小l0范数需要穷举x中非零值的所有种排列可能,直接求解很困难。此后的研究提出了一系列求得次最优解的算法,主要包括最小l1范数法、贪婪迭代匹配追踪系列算法等。在满足稀疏矩阵与测量矩阵不相关的前提下,用l1范数代替l0范数会产生同等的解且这样的改变将一个难以解决的非凸优化问题转化成了一个可以通过线性规划求解的凸优化问题,使求解变得简单。之后的研究提出利用非凸lp(0<p<1)范数重构算法减少l1范数重构算法数据之间的冗余及准确重构原信号所需要的测量数量。非凸lp如式s.t.Φx=y。迭代加权算法(IRLS)是将lp非凸函数用一个凸的加权l2范数近似代替,如式
Figure BSA00000809976300013
s.t.Φx=y。通过这样的加权,可以平衡各个系数对最优解的影响,将会获得更加近似原信号的恢复信号。
发明人在实现本发明的过程中发现,现有技术中至少存在以下的缺点和不足:
迭代重加权算法根据迭代重加权最小二乘产生一列候选者,在每一次迭代中,通过迭代停止条件的判断,不断重复迭代,最终确定K个可信赖的候选。这种迭代因为需要较多的迭代次数才能高概率重构原始信号,增加了计算复杂度和重构时间。对信号稀疏度进行初始化时,如果对信号稀疏度预先估计过大,那么重建信号效果无论从视觉效果还是客观数据表示上都很差,不能达到要求的重建精度,而若对稀疏度估计过小,那么经过多次迭代依然无法满足迭代停止条件。
【发明内容】
为了克服上述现有技术的不足,本发明提供了一种基于回溯的迭代重加权压缩传感重构算法。
本发明所采用的技术方案是:将回溯、稀疏度自适应的思想引入迭代加权算法中,保留迭代加权算法的迭代重加权最小二乘原则,得到初始的支撑集。将前次迭代结果与迭代重加权最小二乘产生的新向量支撑合并,然后根据回溯和自适应的思想,通过伪逆过程和稀疏度自适应原则重新估计候选者的可靠性,通过多次迭代,直到确定一个充分靠近的候选支撑。
算法流程如下:
输入:观测向量y,步长s,传感矩阵Ω,Ω=ΦΨ,其中Φ∈Rm×n Ψ∈Rn×n
输出:输入信号x的稀疏逼近
Figure BSA00000809976300021
初始化:迭代次数i=1,阶段数j=1,残差r0=y,支撑集
Figure BSA00000809976300022
支撑集大小L=s,k=1
θ=ΩTy,p=1,ε=10-6
Figure BSA00000809976300023
估计误差阈值:tol=N*10-4
(1)初始加权迭代
w i = ( θ i 2 + ϵ ) p / 2 - 1 ; Q=diag(1./w);θk=QΩTinv(ΩQΩT)y;
(2)稀疏系数预估计:在第j个阶段,进行支撑集的选取以及稀疏系数的估计,计算|θk|,从中寻找L个最大值对应的索引值存入Sk中,下标选取原则:
Figure BSA00000809976300025
更新候选集:Ck=Fk-1∪Sk
(3)通过最小二乘运算得到稀疏信号估计值
Figure BSA00000809976300026
取L个最大值对应的索引值存入支撑集F,计算残差 r = y - Φ F Φ F - 1 y x ^ k = Φ F - 1 y ;
(4)阈值迭代进行稀疏系数的回溯优化;引入阈值门限作为判定条件,通过判断残差r的下降趋势以及前后迭代得到的恢复信号
Figure BSA00000809976300029
的l2范数之差,决定迭代是否结束,判断是否满足停止迭代条件
Figure BSA000008099763000210
若满足,则停止迭代,输出
Figure BSA000008099763000211
若不满足,执行步骤(5);
(5)判断是否满足‖r‖2≥‖rk-12,若满足,执行步骤(6),若不满足,执行步骤(7);
(6)进入到下一阶段,支撑集F的大小增大为L=L+s,k=k+1;返回步骤(1);
(7)更新支撑集Fk=F,更新残差rk=r,k=k+1;
Figure BSA000008099763000212
返回步骤(1);
(8)最后,根据
Figure BSA000008099763000213
得到原始信号的重构。
本发明在重构过程中引入了回溯的思想。先将当前迭代得到的支撑集和上次迭代所得到的支撑集F合并,得到候选集C,再从中筛选得到支撑集F,回溯过程优化了迭代过程中解向量支撑的选择,通过这样的迭代,将会加速获得更加近似原信号的恢复信号。
本发明在重构过程中引入了稀疏度自适应的思想。通过步长调节实现信号重构对稀疏度的自适应,采用阶段式重构过程,每个阶段基于阈值迭代进行稀疏系数的估计,并利用稀疏矩阵完成原始信号的重构。
本发明引入阈值门限作为判定条件,通过判断残差r的下降趋势以及前后迭代得到的恢复信号
Figure BSA000008099763000214
的l2范数之差,决定迭代是否结束。即当‖r‖2≥‖rk-12时,迭代终止;基于迭代代价与重构性能改善比例的权衡,当相邻阶段迭代所得重构信号的能量差
Figure BSA000008099763000215
很小时,继续迭代对重构性能的提高将很微弱,即可终止迭代,其中tol的选择由具体信道的环境以及应用要求决定。
【本发明的优点和积极效果】
与现有技术相比,本发明的有益效果是:通过模拟实验发现,基于回溯的迭代重加权压缩传感重构算法能降低大系数对算法的恢复效果影响,且仅需要很少的迭代次数就能高概率恢复原始信号,大大减少了重构所需的迭代时间,可较大程度提升对稀疏信号的恢复能力和重构精度。
【附图说明】
图1为BIRLS算法步骤流程图;
图2为BIRLS算法、IRLS算法对频域稀疏度信号重构效果比较;
图3为BIRLS算法、IRLS算法对时域稀疏度信号重构效果比较;
图4为不同算法重构失败率比较;
【具体实施方式】
下面结合附图对本发明进一步说明。
图1为BIRLS算法步骤流程图;算法流程如下:
输入:观测向量y,步长s,传感矩阵Ω,Ω=ΦΨ,其中Φ∈Rm×n Ψ∈Rn×n输出:输入信号x的稀疏逼近
Figure BSA00000809976300031
初始化:迭代次数i=1,阶段数j=1,残差r0=y,支撑集
Figure BSA00000809976300032
支撑集大小L=s,k=1
θ=ΩTy,p=1,ε=10-6
Figure BSA00000809976300033
估计误差阈值:tol=N*10-4
(1)初始加权迭代
w i = ( θ i 2 + ϵ ) p / 2 - 1 ; Q=diag(1./w);θk=QΩTinv(ΩQΩT)y;
(2)稀疏系数预估计:在第j个阶段,进行支撑集的选取以及稀疏系数的估计,计算|θk|,从中寻找L个最大值对应的索引值存入Sk中,下标选取原则:
Figure BSA00000809976300035
更新候选集:Ck=Fk-1∪Sk
(3)通过最小二乘运算得到稀疏信号估计值
Figure BSA00000809976300036
取L个最大值对应的索引值存入支撑集F,计算残差 r = y - Φ F Φ F - 1 y x ^ k = Φ F - 1 y ;
(4)阈值迭代进行稀疏系数的回溯优化;引入阈值门限作为判定条件,通过判断残差r的下降趋势以及前后迭代得到的恢复信号的l2范数之差,决定迭代是否结束,判断是否满足停止迭代条件
Figure BSA000008099763000310
若满足,则停止迭代,输出
Figure BSA000008099763000311
若不满足,执行步骤(5);
(5)判断是否满足‖r‖2≥‖rk-12,若满足,执行步骤(6),若不满足,执行步骤(7);
(6)进入到下一阶段,支撑集F的大小增大为L=L+s,k=k+1;返回步骤(1);
(7)更新支撑集Fk=F,更新残差rk=r,k=k+1;
Figure BSA000008099763000312
返回步骤(1);
(8)最后,根据
Figure BSA000008099763000313
得到原始信号的重构。
图2、3是IRLS及BIRLS算法对于对本身稀疏的0-1信号和频域稀疏的组合正弦信号重构的效果比较。选择一个长度为256,稀疏度为20的高斯随机稀疏信号和频域稀疏度为20的正弦组合信号;测量矩阵Φ是一个80×256的独立同分布高斯随机矩阵,测量向量Y。从图2、3中可以看出,IRLS算法的恢复效果较差,恢复信号与原信号偏差较大,其最大偏差为10-1和10-4;然而,提出的BIRLS算法在几乎所有非零点上的恢复值都是近似准确的,同时在零点上仅有微小偏差,其最大偏差仅为10-14。对于频域时域稀疏的信号,BIRLS均能精确重构原始信号,因此,提出算法是相对较优的。
图4给出IRLS、SP、SAMP和BIRLS迭代步长分别为1、5、8情况下几种算法关于稀疏度的重构性能的比较,我们采用频域稀疏的组合正弦信号,通过假设N=256,M=ceil(0.1*m*N);m取值为1~8,改变信号稀疏度,对每一种算法和每一个测量值M,分别重复进行100次实验,所得结果如图4所示。X轴表示测量数据和信号的稀疏度,Y轴表示100次实验失败的百分比(这里当恢复信号与原始信号之差高于阈值时,视为恢复失败)。图4中,相同测量次数的情况下,随着稀疏度的增加,BIRLS算法的重构失败概率曲线上升速率慢于SAMP、SP和IRLS算法;同样地,BIRLS,IRLS算法均优于SP算法。BIRLS相比于IRLS重构失败率明显降低,当迭代步长为1时,BIRLS的重构失败率与SAMP的重构失败率相当,几乎能精确重构原始信号。SP算法能重构稀疏度小的信号,对于稀疏度大的信号,SP算法不能精确重构信号,而BIRLS算法能精确重构稀疏度大的信号。另外,从图中可以看出,增加步长,BIRLS的重构失败率变小。

Claims (3)

1.一种基于回溯的迭代重加权压缩传感重构算法,其特征在于,所述算法包括以下步骤:
输入:观测向量y,步长s,传感矩阵Ω,Ω=ΦΨ,其中Φ∈Rm×n Ψ∈Rn×n
输出:输入信号x的稀疏逼近
Figure FSA00000809976200011
初始化:迭代次数i=1,阶段数j=1,残差r0=y,支撑集
Figure FSA00000809976200012
支撑集大小L=s,k=1
θ=ΩTy,p=1,ε=10-6
Figure FSA00000809976200013
估计误差阈值:tol=N*10-4
(1)初始加权迭代
w i = ( θ i 2 + ϵ ) p / 2 - 1 ; Q=diag(1./w);θk=QΩTinv(ΩQΩT)y;
(2)稀疏系数预估计:在第j个阶段,进行支撑集的选取以及稀疏系数的估计,计算|θk|,从中寻找L个最大值对应的索引值存入Sk中,下标选取原则:
Figure FSA00000809976200015
更新候选集:Ck=Fk-1∪Sk
(3)通过最小二乘运算得到稀疏信号估计值
Figure FSA00000809976200016
取L个最大值对应的索引值存入支撑集F,计算残差 r = y - Φ F Φ F - 1 y x ^ k = Φ F - 1 y ;
(4)阈值迭代进行稀疏系数的回溯优化;引入阈值门限作为判定条件,通过判断残差r的下降趋势以及前后迭代得到的恢复信号的l2范数之差,决定迭代是否结束,判断是否满足停止迭代条件
Figure FSA000008099762000110
若满足,则停止迭代,输出
Figure FSA000008099762000111
若不满足,执行步骤(5);
(5)判断是否满足‖r‖2≥‖rk-1‖2,若满足,执行步骤(6),若不满足,执行步骤(7);
(6)进入到下一阶段,支撑集F的大小增大为L=L+s,k=k+1;返回步骤(1);
(7)更新支撑集Fk=F,更新残差rk=r,k=k+1;返回步骤(1);
(8)最后,根据
Figure FSA000008099762000113
得到原始信号的重构。
2.根据权利要求1所述的一种基于回溯的迭代重加权压缩传感重构算法,其特征在于重构过程中引入了回溯的思想,先将当前迭代得到的支撑集和上次迭代所得到的支撑集F合并,得到候选集C,再从中筛选得到支撑集F,回溯过程优化了迭代过程中解向量支撑的选择,通过这样的迭代,将会加速获得更加近似原信号的恢复信号。
3.根据权利要求1所述的一种基于回溯的迭代重加权压缩传感重构算法,其特征在于重构过程中引入了稀疏度自适应的思想,通过步长调节实现信号重构对稀疏度的自适应,采用阶段式重构过程,每个阶段基于阈值迭代进行稀疏系数的估计,并利用稀疏矩阵完成原始信号的重构。
CN201210480452.5A 2012-11-23 2012-11-23 一种基于回溯的迭代重加权压缩传感重构方法 Expired - Fee Related CN102970044B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210480452.5A CN102970044B (zh) 2012-11-23 2012-11-23 一种基于回溯的迭代重加权压缩传感重构方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210480452.5A CN102970044B (zh) 2012-11-23 2012-11-23 一种基于回溯的迭代重加权压缩传感重构方法

Publications (2)

Publication Number Publication Date
CN102970044A true CN102970044A (zh) 2013-03-13
CN102970044B CN102970044B (zh) 2017-10-27

Family

ID=47799950

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210480452.5A Expired - Fee Related CN102970044B (zh) 2012-11-23 2012-11-23 一种基于回溯的迭代重加权压缩传感重构方法

Country Status (1)

Country Link
CN (1) CN102970044B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104333389A (zh) * 2014-10-23 2015-02-04 湘潭大学 一种分布式压缩感知中自适应阈值迭代重构方法
WO2015165118A1 (zh) * 2014-04-30 2015-11-05 华为技术有限公司 一种压缩感知方法及装置
CN107231155A (zh) * 2017-05-27 2017-10-03 重庆大学 一种基于改进StOMP的压缩感知重构算法
CN107547088A (zh) * 2017-07-17 2018-01-05 南京邮电大学 基于压缩感知的增强型自适应分段正交匹配追踪方法
CN108828483A (zh) * 2018-04-25 2018-11-16 东北大学 一种磁共振图像的收缩阈值迭代重建算法
CN109165416A (zh) * 2018-07-30 2019-01-08 广东工业大学 基于回溯的共轭梯度迭代硬阈值辐射能量求解方法
CN109861937A (zh) * 2019-03-22 2019-06-07 南京信息工程大学 一种基于msaswomp算法的水声信道估计方法及系统
CN111797968A (zh) * 2020-06-19 2020-10-20 武汉大学 一种基于脉冲神经网络的重加权稀疏重建方法
CN113595680A (zh) * 2021-06-25 2021-11-02 西安电子科技大学 一种基于广义Jaccard系数的稀疏度和步长自适应匹配追踪算法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090222226A1 (en) * 2005-10-25 2009-09-03 Baraniuk Richard G Method and Apparatus for On-Line Compressed Sensing
CN101640541A (zh) * 2009-09-04 2010-02-03 西安电子科技大学 一种稀疏信号的重构方法
CN101895297A (zh) * 2010-07-30 2010-11-24 哈尔滨工业大学 一种面向压缩感知的块稀疏信号重构方法
CN102045118A (zh) * 2010-10-22 2011-05-04 清华大学 基于伪逆相乘的压缩感知重建算法
CN102163338A (zh) * 2011-04-08 2011-08-24 哈尔滨工业大学 一种压缩感知系统中的高效重建方法
CN102611455A (zh) * 2012-03-05 2012-07-25 哈尔滨工业大学 一种面向压缩感知的稀疏多带信号重构方法
CN102624399A (zh) * 2012-03-30 2012-08-01 北京邮电大学 一种压缩感知信号的重构方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090222226A1 (en) * 2005-10-25 2009-09-03 Baraniuk Richard G Method and Apparatus for On-Line Compressed Sensing
CN101640541A (zh) * 2009-09-04 2010-02-03 西安电子科技大学 一种稀疏信号的重构方法
CN101895297A (zh) * 2010-07-30 2010-11-24 哈尔滨工业大学 一种面向压缩感知的块稀疏信号重构方法
CN102045118A (zh) * 2010-10-22 2011-05-04 清华大学 基于伪逆相乘的压缩感知重建算法
CN102163338A (zh) * 2011-04-08 2011-08-24 哈尔滨工业大学 一种压缩感知系统中的高效重建方法
CN102611455A (zh) * 2012-03-05 2012-07-25 哈尔滨工业大学 一种面向压缩感知的稀疏多带信号重构方法
CN102624399A (zh) * 2012-03-30 2012-08-01 北京邮电大学 一种压缩感知信号的重构方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015165118A1 (zh) * 2014-04-30 2015-11-05 华为技术有限公司 一种压缩感知方法及装置
CN104333389A (zh) * 2014-10-23 2015-02-04 湘潭大学 一种分布式压缩感知中自适应阈值迭代重构方法
CN104333389B (zh) * 2014-10-23 2018-01-19 湘潭大学 一种分布式压缩感知中自适应阈值迭代重构方法
CN107231155A (zh) * 2017-05-27 2017-10-03 重庆大学 一种基于改进StOMP的压缩感知重构算法
CN107547088A (zh) * 2017-07-17 2018-01-05 南京邮电大学 基于压缩感知的增强型自适应分段正交匹配追踪方法
CN108828483A (zh) * 2018-04-25 2018-11-16 东北大学 一种磁共振图像的收缩阈值迭代重建算法
CN109165416A (zh) * 2018-07-30 2019-01-08 广东工业大学 基于回溯的共轭梯度迭代硬阈值辐射能量求解方法
CN109165416B (zh) * 2018-07-30 2022-09-27 广东工业大学 基于回溯的共轭梯度迭代硬阈值辐射能量求解方法
CN109861937A (zh) * 2019-03-22 2019-06-07 南京信息工程大学 一种基于msaswomp算法的水声信道估计方法及系统
CN109861937B (zh) * 2019-03-22 2021-06-11 南京信息工程大学 一种基于msaswomp算法的水声信道估计方法及系统
CN111797968A (zh) * 2020-06-19 2020-10-20 武汉大学 一种基于脉冲神经网络的重加权稀疏重建方法
CN113595680A (zh) * 2021-06-25 2021-11-02 西安电子科技大学 一种基于广义Jaccard系数的稀疏度和步长自适应匹配追踪算法

Also Published As

Publication number Publication date
CN102970044B (zh) 2017-10-27

Similar Documents

Publication Publication Date Title
CN102970044A (zh) 一种基于回溯的迭代重加权压缩传感重构算法
US11580280B2 (en) Computational framework for modeling of physical process
Yin et al. Wasserstein generative adversarial network and convolutional neural network (WG-CNN) for bearing fault diagnosis
CN102288843B (zh) 一种电能质量扰动信号检测方法
CN108507789B (zh) 滚动轴承故障稀疏诊断方法
CN103746703A (zh) 一种基于阈值的分段自适应正则化匹配追踪重构方法
CN106202756A (zh) 基于单层感知机的欠定盲源分离源信号恢复方法
Manabat et al. Performance analysis of hyperdimensional computing for character recognition
Zhao et al. Bearing health condition prediction using deep belief network
Yu et al. Bayesian compressive sensing for clustered sparse signals
CN105825063A (zh) 一种测试性设计中测试点定量选择方法
CN103400158B (zh) 基于动态形状码本学习的水平集跟踪方法
Medico et al. Machine-learning-based error detection and design optimization in signal integrity applications
CN101216865A (zh) 用于数字集成电路设计的最佳极性搜索方法
Peng et al. Highly efficient knowledge graph embedding learning with orthogonal procrustes analysis
Sinha et al. Data driven online learning of power system dynamics
Yu et al. Short-term load forecasting using deep belief network with empirical mode decomposition and local predictor
Harish et al. Fault detection and classification for wide area backup protection of power transmission lines using weighted extreme learning machine
Subakan et al. Spectral learning of mixture of hidden markov models
Sahel et al. Wavelet energy moment and neural networks based particle swarm optimisation for transmission line protection
Gishkori et al. Compressed sensing for block-sparse smooth signals
CN116628620A (zh) 一种非侵入式负荷识别计算方法
Bao et al. Physics-guided and neural network learning-based sliding mode control
Mondal et al. Boolean difference technique for detecting all missing gate faults in reversible circuits
Sagi et al. GSP-based map estimation of graph signals

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20171027

Termination date: 20211123