CN103944581B - 基于精炼和分块搜索的重构稀疏信号方法 - Google Patents
基于精炼和分块搜索的重构稀疏信号方法 Download PDFInfo
- Publication number
- CN103944581B CN103944581B CN201410151554.1A CN201410151554A CN103944581B CN 103944581 B CN103944581 B CN 103944581B CN 201410151554 A CN201410151554 A CN 201410151554A CN 103944581 B CN103944581 B CN 103944581B
- Authority
- CN
- China
- Prior art keywords
- indexed set
- algorithms
- circulation
- residual error
- refine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 59
- 238000004364 calculation method Methods 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 10
- 238000005259 measurement Methods 0.000 claims description 8
- 230000000875 corresponding effect Effects 0.000 claims description 4
- 230000001351 cycling effect Effects 0.000 claims description 4
- 238000007670 refining Methods 0.000 claims description 3
- 238000007906 compression Methods 0.000 claims description 2
- 230000006835 compression Effects 0.000 claims description 2
- 230000002596 correlated effect Effects 0.000 claims description 2
- 238000005516 engineering process Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000011084 recovery Methods 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000007152 ring opening metathesis polymerisation reaction Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000003044 adaptive effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013144 data compression Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Complex Calculations (AREA)
Abstract
本发明公开了一种基于精炼和分块搜索的重构稀疏信号方法，用以重构压缩感知(CS)技术框架下的稀疏信号。本发明方法利用MP算法简单的更新准则进行分块搜索，减少了运用最小二乘方法的次数，从而降低了OMP算法的复杂度；采用了精炼的方法提高重构性能，先进行扩展的索引集搜索，再通过最小二乘方法精炼出已知个数的索引；通过调节分块大小和扩展索引集维数实现重构性能与复杂度的权衡。本发明方法能够有效提高OMP算法的重构性能，并大大提高了重构速度。
Description
技术领域
本发明属于信号处理技术，涉及压缩感知技术及数据压缩技术领域。
背景技术
传统的信号采样以奈奎斯特采样定理为基础。在获取信号时,为了不丢失信号的信息，采样频率必须大于信号中最高频率的两倍，才能精确重构信号。但是随着科技的迅速发展，高分辨率的数码装置的采样产生了庞大的数据,如何更高效地处理这些数据并最大限度地节省存储传输的成本是一大难题。实际上采样得到的大部分数据是不重要的，在信号或图像的处理过程中，只保留了某些重要的数据，舍弃了大量的剩余数据,重构后的信号或图像并不会引起视觉上的差异。于是科学家们提出一个构想,既然采集到的数据大部分都是不重要的,可以被丢弃，能否直接地采集那部分重要的、最后没有被丢弃的数据，并且能够精确地重构原始信号或图像。
在2004年，由Donoho等人提出了压缩感知(CS)技术。压缩感知技术表明:如果信号通过某种变换(如傅立叶变换,小波变换等)后，是可稀疏表示或可压缩的，则可设计一个与变换基不相关的测量矩阵测量信号，得到的测量值通过求解优化问题，可实现信号的精确或近似重构。测量后，信号x由N维减少到信号y的M维(M<<N)，这M个测量值只包含了信号的重要信息。信号的观测过程是非自适应的，测量矩阵的设计不依赖于信号的结构。压缩感知的应用很大程度地减少测量时间、采样速率及测量设备的数量。
信号重构是压缩感知领域的核心技术之一，从测量值中求得稀疏解是一个多项式复杂程度的非确定性(NP)问题。在文献[D.L.Donoho,“Compressed sensing,”IEEETrans.Inform.Theory,vol.52,no.4,pp.1289-1306,2006.]中，方程组y＝Φx的最小范数解，在测量矩阵满足限制等距准则(RIP)条件时，可等同于求解x的最小范数。最小范数解可通过专门的凸优化迭代技术求得，但是其涉及的复杂度较大，并不适用于实际应用。近年来，凸优化技术的一种替代方法贪婪算法得到了广泛的关注。
贪婪算法的优点是较低的计算复杂度和简单的几何解释。匹配追踪(MP)算法[S.G.Mallat and Z.Zhang,“Matching pursuit with time-frequency dictionaries,”IEEE Transactions on Signal Processing,vol.41,no.12,pp.3397-3415,Dec.1993.]是一种较早的贪婪算法，该算法在迭代过程中逐一挑选出候选索引，并直接把最大的投影值作为非零元素的值。与此对比的是，正交匹配追踪(OMP)算法[J.A.Tropp andA.C.Gilbert,“Signal recovery from random measurements via orthogonal matchingpursuit,”IEEE Trans.Inform.Theory,vol.53,no.12,pp.4655-4666,Dec.2007.]通过最小二乘方法修正这些非零值。另外还有一些OMP算法的改进算法，如ROMP算法[D.Needelland R.Vershynin,“Signal recovery from incomplete and inaccurate measurementsvia regularized orthogonal matching pursuit,”IEEE Journal of Selected TopicsinmSignal Processing,vol.4,no.2,pp.310-316,Apr.2010.],StOMP算法[D.L.Donoho,Y.Tsaig,I.Drori,and J.-L.Starck,“Sparse solution of underdetermined systemsof linear equations by stagewise orthogonal matching pursuit,”IEEETrans.Inform.Theory,vol.58,no.2,pp.1094-1121,2012.],SP算法[W.Dai andO.Milenkovic,“Subspace pursuit for compressive sensing signalreconstruction,”IEEE Trans.Inform.Theory,vol.55,no.5,pp.2230-2249,May.2009.]等。ROMP算法和StOMP算法在每次迭代中选择多个索引，因此能降低复杂度，但并不能带来明显的性能提升。SP算法引进了回溯追踪和精炼策略，性能得到提升的同时带来了复杂度的增加，特别是在稀疏度大的情况。
无噪情况的压缩感知问题就是从线性测量值y∈RM(y＝Φx)中重构出原始稀疏信号x∈RN，其中x中只包含K(K＜＜N)个非零值，这些非零值的位置定义为索引集Λ＝{i∈[1,N]:xi≠0}，稀疏度定义为|Λ|＝K，Φ∈RM×N为测量矩阵。贪婪算法以一种次优化迭代的方法解决上诉问题，在迭代过程中依次寻找一个或多个索引(基于某种选取准则)，再将这些索引对测量值y的影响消除(基于某种更新准则)。最简单的选取准则是选取ΦTr中幅值最大的索引，其中r表示残差。
MP算法是一种比OMP算法更早的贪婪算法，该算法直接利用最大的投影值作为非零元素的值，用来更新残差。
作为对比的是，OMP算法利用最小二乘方法优化选中索引对应的非零值。这样做的好处就是误差很小，但计算量会大大增加。MP算法比OMP算法快得多，因为它不需要最小二乘计算，但是重构性能会变差。
对于OMP算法，一旦选中的原子加入索引集，将永远不会被移除。SP算法采用了一种简单的方法重新判断已加入索引集原子的可靠性。在每步迭代中，SP算法测试2K个索引，并通过最小二乘方法选出K个最优的索引。某个在上一次迭代中认为是正确的索引，有可能在下次迭代中被认为是错误的，从而从索引集中移除。这种精炼索引集的方法，一方面可以提高重构性能；另一方面，最小二乘方法涉及的索引维数增长到了2K，将导致计算量大大增加。
发明内容
为了解决上述问题，从用压缩感知(CS)技术压缩后的信号中重构出原始稀疏信号，本发明提供了一种基于精炼和分块搜索的重构稀疏信号方法(Block-refined OMP，简称BROMP)，包括如下步骤：
(a)输入压缩后的测量信号，设定分块搜索的索引数量和扩展的索引集维数以及重构精度；
(b)利用匹配追踪(MP)算法的更新准则找出若干索引，其数目等于分块搜索的索引数量；
(c)将得到的索引加入索引集，利用最小二乘方法更新残差；
(d)当索引集的维数超过稀疏度与扩展的索引集维数之和或残差满足精度要求时，进行下面步骤；否则，继续执行步骤(b)～步骤(c)；
(e)若索引集的维数大于稀疏度，利用最小二乘方法求得索引集对应的稀疏信号的数值，并选取幅值最大的索引(该索引可以是若干个)作为最终的索引集，索引集的维数等于原信号的稀疏度；
(f)再次利用最小二乘方法求得精炼后的索引集对应位置的数值；
(g)输出索引集及其对应位置的数值。
其中，步骤(b)利用了MP算法的更新准则进行分块搜索，从而加快了正交匹配追踪(OMP)算法的重构速度；步骤(d)和步骤(e)进行了扩展的索引集搜索，并对此索引集进行精炼，从而提高了OMP算法的重构性能；步骤(a)可通过调节分块大小和扩展索引集维数实现重构性能与复杂度的权衡。
本发明要用到的符号含义说明：
K：信号稀疏度；
Φ：M×N维测量矩阵，其每列是归一化的单位向量；
y：测量值；
B：分块大小；
σ：精度要求；
：外循环迭代次数；
s:扩展的额外索引集维数；
OMP算法：文献[J.A.Tropp and A.C.Gilbert,“Signal recovery from randommeasurements via orthogonal matching pursuit,”IEEE Trans.Inform.Theory,vol.53,no.12,pp.4655-4666,Dec.2007.]中给出的一种重构稀疏信号方法。
SP算法：文献[W.Dai and O.Milenkovic,“Subspace pursuit for compressivesensing signal reconstruction,”IEEE Trans.Inform.Theory,vol.55,no.5,pp.2230-2249,May.2009.]中给出的一种重构稀疏信号方法。
本发明方法利用了MP算法的更新准则进行分块搜索，重构速度快；并通过对索引集进行精炼，提高了OMP算法的重构性能；通过调节分块大小和扩展索引集维数，实现重构性能与复杂度的权衡；本发明方法应用于典型的压缩感知重构，其性能优于OMP算法，接近SP算法，复杂度低于OMP算法和SP算法。
附图说明
图1是本发明BROMP方法的总流程图。
图2是本发明BROMP方法与OMP算法和SP算法重构高斯稀疏信号时的性能比较图。
图3是本发明BROMP方法与OMP算法和SP算法重构0-1稀疏信号时的性能比较图。
图4是本发明BROMP方法与OMP算法和SP算法重构高斯稀疏信号时的耗时比较图。
图5是本发明BROMP方法与OMP算法和SP算法重构0-1稀疏信号时的耗时比较图。
具体实施方式
下面结合附图和实施例对本发明作进一步详细说明。
如图1所示，本发明方法流程如下所示：
(1)输入利用压缩感知技术压缩后的信号y，设定分块大小B、扩展的索引集维数s以及重构精度σ(稀疏度K和归一化的测量矩阵Φ已知)；
(2)外循环初始化：残差r0＝y,索引集外循环迭代次数
(3)内循环初始化：残差索引集内循环迭代次数q＝1；
(4)内循环残差与测量矩阵Φ进行相关运算，得到相关值
(5)将相关结果hq中的最大值对应的索引加入内循环的索引集，
(6)利用MP算法的更新准则更新内循环残差内循环迭代次数q+1；如果q＝B，执行下面步骤；否则，继续循环执行步骤(4)～(6)；
(7)将内循环得到的索引集加入外循环索引集中，
(8)利用最小二乘方法更新外循环残差，外循环迭代次数其中+表示最小二乘求违逆，表示索引集在测量矩阵Φ中对应的列；
(9)如果残差满足精度要求或外循环索引集的维数执行下面步骤；否则，继续循环执行步骤(3)～(9)；
(10)执行精炼操作：如果外循环索引集的维数最终索引并计算
(11)输出最终索引集Λ以及其对应位置原信号的值
本发明方法执行次外循环(其中0＜s＜K,例如表示不小于a的最小整数)，与OMP算法不同的是，本发明方法选取B个索引，OMP算法只选取一个。在每次外循环中，本发明方法利用MP算法的更新准则选取出B个索引，因为MP算法在特别稀疏信号的重构上快速有效。一旦选出的B个索引加入到索引集中，本发明方法利用最小二乘方法求得最小误差的稀疏信号元素值。当索引集的维数超过K+s时，外循环迭代停止。扩展的索引集搜索允许索引集中的有少许错误的索引，如果某个错误的索引在某次迭代中加入了索引集，本发明方法利用精炼策略剔除这些错误索引，所以该方法能够提升重构性能。本发明方法计算最小二乘的次数为与OMP算法相比，减少了次，所以该方法能够加快重构速度。
本发明中，仿真参数M＝256,N＝128,K≤64,仿真次数500，精确重构概率指输出SNR≥100dB占总次数的比例，重构时间是500次重构耗时总和。SP算法中的停止迭代准则：或采用参数：B＝2,4,8，σ＝10-6。
从图2和图4可以看出，本发明方法在重构高斯稀疏信号时的性能和时间上都较OMP算法有明显优势，重构时间随着分块大小B的增大而减少。与SP算法相比，本发明方法在重构时间较为理想，特别是稀疏度K较大时。当B＝2,4时，本发明方法与SP算法性能很接近。
从图3和图5可以看出，本发明方法在重构0-1稀疏信号时的性能和时间上都较OMP算法较有优势，B的改变对重构性能影响很小。
Claims (1)
1.一种基于精炼和分块搜索的重构稀疏信号方法，其特征在于，包括如下步骤：
(1)输入压缩后的测量信号y，设定分块搜索的索引数量B、扩展的索引集维数s以及重构精度σ；
(2)外循环初始化：残差r0＝y,索引集外循环迭代次数l＝1；
(3)内循环初始化：残差索引集内循环迭代次数q＝1；
(4)内循环残差与测量矩阵Φ进行相关运算，得到相关值
(5)将相关结果hq中的最大值对应的索引加入内循环的索引集，
(6)利用MP算法的更新准则更新内循环残差内循环迭代次数q+1；如果q＝B，执行下面步骤；否则，继续循环执行步骤(4)～(6)；
(7)将内循环得到的索引集加入外循环索引集Λl-1中，
(8)利用最小二乘方法更新外循环残差，外循环迭代次数l+1；其中+表示最小二乘求违逆，表示索引集Λl在测量矩阵Φ中对应的列；
(9)如果残差满足精度要求||rl||2＞σ或外循环索引集的维数|Λl|＞K+s，执行下面步骤；否则，继续循环执行步骤(3)～(9)；
(10)执行精炼操作：如果外循环索引集的维数|Λl|＞K，最终索引并计算
(11)输出最终索引集Λ以及其对应位置原信号的值
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410151554.1A CN103944581B (zh) | 2014-04-15 | 2014-04-15 | 基于精炼和分块搜索的重构稀疏信号方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410151554.1A CN103944581B (zh) | 2014-04-15 | 2014-04-15 | 基于精炼和分块搜索的重构稀疏信号方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN103944581A CN103944581A (zh) | 2014-07-23 |
| CN103944581B true CN103944581B (zh) | 2017-03-15 |
Family
ID=51192097
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410151554.1A Expired - Fee Related CN103944581B (zh) | 2014-04-15 | 2014-04-15 | 基于精炼和分块搜索的重构稀疏信号方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103944581B (zh) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108712173B (zh) * | 2017-12-21 | 2021-12-24 | 湘潭大学 | 一种多重索引扩展机制的重构方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102624399A (zh) * | 2012-03-30 | 2012-08-01 | 北京邮电大学 | 一种压缩感知信号的重构方法 |
| CN101908890B (zh) * | 2010-07-30 | 2012-12-26 | 哈尔滨工业大学 | 分块大小未知的块稀疏信号的盲重构方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9124755B2 (en) * | 2009-12-07 | 2015-09-01 | William Marsh Rice University | Apparatus and method for compressive imaging and sensing through multiplexed modulation |
-
2014
- 2014-04-15 CN CN201410151554.1A patent/CN103944581B/zh not_active Expired - Fee Related
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101908890B (zh) * | 2010-07-30 | 2012-12-26 | 哈尔滨工业大学 | 分块大小未知的块稀疏信号的盲重构方法 |
| CN102624399A (zh) * | 2012-03-30 | 2012-08-01 | 北京邮电大学 | 一种压缩感知信号的重构方法 |
Non-Patent Citations (2)
| Title |
|---|
| 压缩感知中信号重建算法和确定性测量矩阵研究;杨良龙;《中国优秀硕士学位论文全文数据库》;20130615;全文 * |
| 基于分块自相关的子空间追踪语音压缩感知;黄海等;《数字技术与应用》;20131215;全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN103944581A (zh) | 2014-07-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Gysel et al. | Hardware-oriented approximation of convolutional neural networks | |
| Condat et al. | Cadzow denoising upgraded: A new projection method for the recovery of Dirac pulses from noisy linear measurements | |
| US10439594B2 (en) | Actually-measured marine environment data assimilation method based on sequence recursive filtering three-dimensional variation | |
| CN105181122B (zh) | 机械振动信号数据压缩采集方法 | |
| CN103941220B (zh) | 一种基于稀疏重构的网格外目标波达方向估计方法 | |
| CN107192878A (zh) | 一种基于压缩感知的电力系统谐波检测方法及装置 | |
| CN101895297A (zh) | 一种面向压缩感知的块稀疏信号重构方法 | |
| CN110543860A (zh) | 基于tjm迁移学习的机械故障诊断方法及系统 | |
| CN110082823B (zh) | 一种地震数据插值方法及装置 | |
| CN105488767B (zh) | 一种基于最小二乘优化的压缩感知图像快速重建方法 | |
| CN105654483A (zh) | 三维点云全自动配准方法 | |
| CN103295198A (zh) | 基于冗余字典和结构稀疏的非凸压缩感知图像重构方法 | |
| CN104320144A (zh) | 稀疏度自适应信号重构方法 | |
| Zhang et al. | On the theoretical analysis of cross validation in compressive sensing | |
| Chen et al. | A wifi indoor localization method based on dilated cnn and support vector regression | |
| CN103944581B (zh) | 基于精炼和分块搜索的重构稀疏信号方法 | |
| CN103942805B (zh) | 基于局部多原子匹配追踪的图像稀疏分解快速方法 | |
| Xu et al. | xASTNN: Improved Code Representations for Industrial Practice | |
| Gao et al. | A Robust Orthogonal Matching Pursuit Based on L 1 Norm | |
| Liang et al. | An effective hard thresholding method based on stochastic variance reduction for nonconvex sparse learning | |
| CN108805286A (zh) | 基于高阶残留量化的高性能网络加速方法 | |
| CN109766993B (zh) | 一种适合硬件的卷积神经网络压缩方法 | |
| CN113702666A (zh) | 一种光纤陀螺惯性测量单元信号联合降噪方法 | |
| CN108734191B (zh) | 深度学习应用于压缩感知重建的数据训练方法 | |
| CN108599773A (zh) | 一种基于确定性测量矩阵的振动信号数据压缩采集方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C14 | Grant of patent or utility model | ||
| GR01 | Patent grant | ||
| CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170315 |
|
| CF01 | Termination of patent right due to non-payment of annual fee |