CN106656199A - 一种基于压缩感知的二次内积正交匹配追踪算法 - Google Patents

Abstract

本发明公开了一种基于压缩感知的二次内积正交匹配追踪算法，属于压缩感知信号处理领域。传统压缩感知贪婪算法一般利用测量矩阵中的原子与上次迭代所得残差之间的相关性选择候选原子。本发明主要解决的是传统贪婪算法在相关性这一步中选入非支撑集原子的问题。本发明提出了一种选入原子的辅助方法，即利用候选原子、残差和跟该候选原子有关的新原子这三者之间的三个内积值的匹配程度来判定是否选入该候选原子。本发明提出了一种上述新原子的生成方式，可以有效调控新原子和候选原子之间的相关性。本发明在传统压缩感知算法由于选入错误原子迭代失败后，调用上述辅助方法进行迭代，可以有效提升算法重构精度。

Description

一种基于压缩感知的二次内积正交匹配追踪算法

【技术领域】

本发明涉及一种基于压缩感知的二次内积正交匹配追踪算法，属于压缩感知信号处理领域。

【背景技术】

压缩感知指出，对于一个稀疏信号或者可以通过变换在其它域稀疏表达的信号，能够以远低于奈奎斯特采样定理要求的频率采样，并准确重构出原始信号。压缩感知抛弃了信号的冗余信息，使得信号的压缩和采样可以同时以低速率进行，极大地降低了采样和传输环节的硬件要求和能量消耗。因而该理论一经提出，立刻引起了国内外相关领域学者的广泛关注。

压缩感知重构问题的准确方法需要求解零范数最小的问题，也就是让非零系数个数最少。但这是不现实的。一个解决方案是用1范数代替零范数，比如基追踪算法。另一类算法叫做贪婪算法，比如正交匹配追踪算法(OMP)、子空间追踪算法(SP)、压缩采样匹配追踪算法(CoSaMP)和广义正交匹配追踪算法(GOMP)等。贪婪算法选入原子(也就是测量矩阵的列)主要考察该原子与上次迭代残差的内积值的幅度。例如OMP算法每次迭代将内积幅度最大的原子选入估计支撑集，而SP算法则选入内积幅度最大的K个原子。GOMP算法则通过选入S个原子，来克服OMP每次迭代只选一个原子的弊端。随着原始信号中的非零元素增加，许多跟多个真实支撑集原子有较大相关性的非支撑集原子就会因为与残差有较大内积幅度，而被选入估计支撑集，最终导致算法失败。许多算法通过加入后向删除的策略来缓解这一问题，比如SP和CoSaMP。但是对于仅仅依据相关性选入原子的OMP和GOMP算法，这一问题始终存在。

本发明针对传统相关性步骤在信号稀疏度K较大时误判原子的问题，提出了一种筛选原子的辅助方法。一个错误原子能够被选入估计支撑集，是因为该原子与真实支撑集的多个原子有较大相关性。这一优势使得该错误原子与残差做内积时，可以借用真实原子与残差的内积。从而出现该错误原子跟残差内积幅度较大的假象。如果能够破坏错误原子的这一优势，则错误原子与残差的内积幅度则会发生很大变化。本发明利用入选错误原子跟多个正确原子均有较大相关性的特点，提出了二次内积的方法，不需要其他先验信息，有效地改善了算法的重构性能。

【发明内容】

本发明的目的解决了传统压缩感知贪婪算法中的相关性步骤在信号稀疏度K较大时误判原子的问题，提出了一种基于压缩感知的二次内积正交匹配追踪算法。

本发明的目的是通过下述技术方案实现的：

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，随机元素个数n_S；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝arg max_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝arg max_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁；

(6)对集合Ω^k中的每一个原子φ_i，随机选取φ_i中的n_S个元素并将其取反后得到新原子φ′_i，即，令集合T_n为1到M个数中随机选取的n_S个元素组成的集合，

(7)对集合Ω^k中的每一个原子φ_i，计算φ_i、φ′_i和r^k-1三者之间的三个内积值，即η＝φ_i ^*φ′_i，并计算三个内积值之间的匹配性，即q_i＝|p′_i/p_i-η|，从中选取匹配性最好的S个原子存入集合Λ^k中，即Λ^k＝arg min_{Λ：|Λ|＝S}||q_Λ||₁；

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

本发明提出了一种选入原子的辅助方法，即利用候选原子、残差和跟该候选原子有关的新原子这三者之间的三个内积值的匹配程度来判定是否选入该候选原子。

本发明提出了一种与候选原子有关的新原子的生成方式，即随机地将候选原子的部分元素取反，既保证了新原子的二范数没有发生变化，又可以有效调控新原子与候选原子之间的相关性。

【本发明的优点和积极效果】

与现有技术相比，本发明具有如下优点和积极效果：

第一，本发明不需要其他额外信息，仅仅利用候选原子、残差和跟该候选原子有关的新原子这三者之间的三个内积值的匹配程度，就可以为候选原子的判断提供有效信息。

第二，本发明提出的与候选原子有关的新原子的生成方式操作简便，效果明显，既保证了新原子的二范数没有发生变化，又可以有效调控新原子与候选原子之间的相关性。

【附图说明】

图1是本发明提出的基于压缩感知的二次内积正交匹配追踪算法流程图；

图2是本发明与OMP、SP、GOMP算法对高斯稀疏信号在准确重构概率上的比较图；

图3是本发明与OMP、SP、GOMP算法对高斯稀疏信号在平均重构误差上的比较图。

【具体实施方式】

为使本发明的实施方案与意义优势表述得更为清楚，下面结合附图及重构效果比较图，以及理论分析，对本发明进行更为详细的说明。

图1是本发明提出的一种基于压缩感知的二次内积正交匹配追踪算法流程图，算法具体流程如下：

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，随机元素个数n_S；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝arg max_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝arg max_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁；

(6)对集合Ω^k中的每一个原子φ_i，随机选取φ_i中的n_S个元素并将其取反后得到新原子φ′_i，即，令集合T_n为1到M个数中随机选取的n_S个元素组成的集合，

(7)对集合Ω^k中的每一个原子φ_i，计算φ_i、φ′_i和r^k-1三者之间的三个内积值，即η＝φ_i ^*φ′_i，并计算三个内积值之间的匹配性，即q_i＝|p′_i/p_i-η|，从中选取匹配性最好的S个原子存入集合Λ^k中，即Λ^k＝arg min_{Λ：|Λ|＝S}||q_Λ||₁；

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

下面给出本发明的理论分析：

首先介绍感知矩阵的相关性参数其中它表示矩阵中任意两列φ_i，φ_j之间的相关性。在下面的证明中，我们假定感知矩阵的每一列都是归一化的，且μ(Φ)≤η。用x_max＝max_k|x_k|和x_min＝min_k|x_k|分别表示原始信号系数幅度的最大值和最小值。

不失一般性，假定原始信号真实支撑集为supp(x)＝{J₁，J₂，...J_K}。假定当前为第k次迭代，在本次迭代开始前已经有p个原子被选入估计支撑集，下标分别为I₁，I₂，...I_p。其中有q个为真实支撑集原子，下标分别为J₁，J₂，...J_q。首先我们利用残差跟已经选入估计支撑集原子的性质来估算估计支撑集原子在残差中的对应系数：

其中

对于已经选入估计支撑集的原子i∈{I₁，I₂，...，I_p}有<r^k-1，φ_i>＝0。可得

化简上式得其中

进一步化简得c_max≤(K-q)ηx_max+(p-1)ηc_max。

最终得到c_max的一个上界便于后面进一步分析。

假定Ω^k中存在真实支撑集原子，用J_i∈Ω^k∩{J_q+1，J_q+2，...，J_K}表示，则

令表示利用本算法中步骤(6)生成的跟有关的新原子。令表示两者之间的内积，令表示跟感知矩阵中其他所有原子内积的最大幅值。新原子与残差的内积可以表示为

令

我们可以得到和残差r^k-1三者的三个内积之间的匹配程度，

考虑到

令φ′_i表示利用本算法中步骤(6)生成的跟φ_i有关的新原子。则在下面的证明中我们用如下的表示形式：

所以我们可以进一步得到真实支撑集原子对应的匹配误差的上界：

而对于Ω^k中的非支撑集原子l∈Ω\supp(x)，可得

令φ′_l表示利用本算法中步骤(6)生成的跟φ_l有关的新原子。令η₃＝<φ_l，φ′_l>表示两者之间的内积，可以有

令

我们得到非支撑集原子对应的匹配误差的下界：

如果非支撑集原子匹配误差的下界大于真实支撑集原子匹配误差的上界，那么本算法步骤(7)中得到的集合Λ^k必然包含真实支撑集原子。

也就是说如果上式满足，并且本发明算法步骤(5)中生成的Ω^k中至少包含一个正确原子，那么步骤(7)中得到的集合Λ^k也必然存在一个正确原子。而步骤(5)中Ω^k至少包含一个正确原子的理论证明可以直接由步长为S′的GOMP算法的理论证明得到。这样如果本发明算法进入过步骤(5)，也就是本发明算法退出迭代时k′＝1，那么本发明算法因为每次迭代均能选入至少一个正确原子，所以经过最多K次迭代必然能够找到所有的正确原子。如果本发明算法没有进入过步骤(5)就已经退出迭代，那么其理论性就可以直接由步长为S的GOMP算法的理论分析所保证。

图2和图3分别是本发明与OMP，SP和GOMP算法对高斯稀疏信号在准确重构概率和平均重构误差上的比较图。信号x为256×1的高斯稀疏信号。感知矩阵Φ为高斯随机矩阵，维度为128×256。K为信号稀疏度，以间隔为3分别选取27到42中的个点。对每个稀疏度，所有算法均重复500次。终止参数ε＝10^-6。实验中若则认定准确恢复出测试信号。用准确恢复的测试信号和整个测试数据的比值，即准确重构概率作为图2的评价标准。而图3所用的评价标准为平均重构误差，它用平均归一化最小均方误差(AverageNormalized Mean-Squared-Error，ANMSE)进行衡量，定义为其中表示第i个测量向量x_i的重构向量。为了体现本发明的优势，在实验中与仅依赖相关性步骤选入原子的贪婪算法OMP和GOMP进行对比。其中对于OMP，实验中采用S＝1，S′＝2的本发明算法(简称SIP1)作为对比算法。对于步长为3的GOMP算法(简称G3)，实验中采用S＝3，S′＝5的本发明算法(简称SIP3)作为对比算法。而对于步长为5的GOMP算法(简称G5)，实验中采用S＝5，S′＝8的本发明算法(简称SIP5)作为对比算法。这样的设定保证了本发明算法与对比算法在每次迭代中选入的原子个数相同。对于所有参数的本发明算法，其参数n_S＝0.15M。

从图2中可以看出，对于所有的稀疏度K，本发明算法的准确重构概率均优于对应参数的OMP和GOMP算法。而SIP3的准确重构概率是最高的。可见本发明的策略使得以原子与残差相关性为主要原则的贪婪算法的重构性能得到了提升。此外，SIP3和SIP5的准确重构概率均优于SP算法。从图3中可以看出，所有的本发明算法均优于其他所有算法。本发明算法的平均重构误差是所有算法中最低的。

综上所述，本发明有效得解决了传统压缩感知贪婪算法中的相关性步骤在信号稀疏度K较大时误判原子的问题，提升了算法的重构性能，为压缩感知在实际中的应用奠定了基础。

Claims (3)

1.一种基于压缩感知的二次内积正交匹配追踪算法，包括以下步骤：

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，随机元素个数n_S；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝argmax_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝argmax_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁；

(6)对集合Ω^k中的每一个原子φ_i，随机选取φ_i中的n_S个元素并将其取反后得到新原子φ′_i，即，令集合T_n为1到M个数中随机选取的n_S个元素组成的集合，φ′_i＝φ_i，

(7)对集合Ω^k中的每一个原子φ_i，计算φ_i、φ′_i和r^k-1三者之间的三个内积值，即η＝φ_i ^*φ′_i， 并计算三个内积值之间的匹配性，即q_i＝|p′_i/p_i-η|，从中选取匹配性最好的S个原子存入集合Λ^k中，即Λ^k＝argmin_{Λ：|Λ|＝S}||q_Λ||₁；

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

2.根据权利要求1所述的一种基于压缩感知的二次内积正交匹配追踪算法，其特征在于：本发明提出了一种选入原子的辅助方法，即利用候选原子、残差和跟该候选原子有关的新原子这三者之间的三个内积值的匹配程度来判定是否选入该候选原子。

3.根据权利要求1所述的一种基于压缩感知的二次内积正交匹配追踪算法，其特征在于：本发明提出了一种与候选原子有关的新原子的生成方式，即随机地将候选原子的部分元素取反，既保证了新原子的二范数没有发生变化，又可以有效调控新原子与候选原子之间的相关性。