CN106549675A - 一种基于压缩感知的平均相关正交匹配追踪算法 - Google Patents

Abstract

本发明公开了一种基于压缩感知的平均相关正交匹配追踪算法，属于压缩感知信号处理领域。本发明主要解决的是根据上次迭代残差与测量矩阵中原子相关性大小作为选入原子标准的贪婪算法重构精度低的问题。本发明提出了一种选入原子的辅助方法，即利用跟该原子相关性较大的多个原子与残差相关性的平均值来考察是否选入该原子。本发明通过综合利用原子自身与残差相关性这一传统方法和上述辅助方法对原子进行选入，相比传统贪婪算法，在准确重构概率和平均重构误差方面有很大优势，可以有效促进压缩感知在实际中的应用。

Description

一种基于压缩感知的平均相关正交匹配追踪算法

【技术领域】

本发明涉及一种基于压缩感知的平均相关正交匹配追踪算法，属于压缩感知信号处理领域。

【背景技术】

压缩感知是近年来新提出来的采样理论，它的优势在于在信号采集的过程中就实现了对信号的压缩。不同于传统的奈奎斯特采样，压缩感知的采样率是由原始信号的稀疏度决定的。虽然采样率变低了，但是本质上是稀疏的自然信号，依然能够被重构算法准确得恢复出来。压缩感知这一特性可以有效降低采样环节的功耗，使得压缩感知在多个领域有广泛的应用前景。

如何利用感知矩阵Φ和测量值y恢复出未知的稀疏信号是压缩感知重构算法需要解决的问题。压缩感知重构算法大体上分为：贪婪算法，凸松弛算法和贝叶斯框架三大类。其中贪婪算法的主要方案是利用一些贪婪原则迭代地重构出稀疏信号的支撑集。贪婪算法选入原子一个最重要的依据是原子与残差之间的相关性。许多基本的贪婪算法均基于这一原则，比如正交匹配追踪算法(OMP)、子空间追踪算法(SP)、前向后向匹配追踪算法(FBP)和广义正交匹配追踪算法(GOMP)。不同的是，在每次迭代中，这些算法依据这一原则选入的原子数目存在差异。例如，OMP算法每次迭代选入1个原子。而GOMP算法作为OMP算法的广义扩展，每次迭代选入S个原子。当S为1时，GOMP算法等价于OMP算法。但是这一原则在信号稀疏度K较大时，会出现弊端，导致算法重构精度下降。尤其是对于OMP算法，一旦有错误原子在相关性步骤中与残差有最大内积幅度，就会直接导致算法失败。

本发明通过深入分析错误原子入选估计值支撑集的机制，提出了一种辅助方法，实现了对正确原子和错误原子的进一步区分。真实原子与残差的内积值主要依赖于真实原子对应的真实系数。因此一般的错误原子跟残差的内积幅度不会很大。而跟真实原子有较大相关性的错误原子可以利用该真实原子的系数来获得一定的内积值。那些仅与错误原子有较大相关性的错误原子则不会出现这种现象。所以如果考察跟候选原子相关性较大的多个原子与残差的内积则可以更好地判断该候选原子是否正确。本发明通过在算法迭代失败后，引入辅助方法，使得算法的重构性能得到进一步提升。

【发明内容】

本发明的目的解决了依赖关性原则选入原子的传统贪婪算法重构性能进一步提升的瓶颈问题，提出了一种基于压缩感知的平均相关正交匹配追踪算法。

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，相关性集合大小参数β₁，比例参数β₂，排除集合大小参数n_M，相关性阈值参数η_M；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝argmax_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝arg max_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁，将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的n_M个原子存入集合T_M中，以此作为Ω^k中所有原子对应的排除集合，即

(6)对集合Ω^k中的每一个原子φ_i，找到所有跟φ_i相关性幅度大于η_M的非T^k-1∪T_M集合中的原子存入集合即并选取其中跟φ_i相关性幅度最大的前β₁个原子存入集合即如果中元素个数小于β₁则令

(7)对集合Ω^k中的每一个原子φ_i，计算中所有原子φ_j与残差r^k-1的内积的和，但是并不是直接相加而是乘以该原子与φ_i内积的符号后再相加，然后除以元素个数得到对应的相关性均值，即并将得到的均值按照一定比例与φ_i自身和残差的内积值相加，从中选取最大的S个原子存入集合Λ^k中，即

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

本发明提出了一种选入原子的辅助方法，即利用跟该原子相关性较大的多个原子与残差内积值的平均值来考察是否选入该原子，本发明通过将该辅助方法与传统的根据原子与残差相关性选入原子的方法进行融合，来改善算法的性能。

本发明在求解跟候选原子相关性较大的多个原子与残差内积值的平均值时，并不是直接将内积值相加求平均，而是考虑该原子与候选原子的内积值符号后再进行下一步处理。

【本发明的优点和积极效果】

与现有技术相比，本发明具有如下优点和积极效果：

第一，本发明不需要其他额外信息，仅仅需要传统贪婪算法相关性步骤中，被计算出来，但没有被利用的非候选原子与残差的内积值。本发明在充分发掘被传统贪婪算法所忽略的信息的基础上，有效得改善了算法的重构性能。

第二，在求解跟候选原子相关性较大的多个原子与残差内积值的平均值时，并不是直接将内积值相加求平均，而是充分考虑该原子与候选原子的内积值符号，这一简便方法更好地反映了候选原子对应的系数情况，便于更准确地对候选原子做出判断。

【附图说明】

图1是本发明提出的基于压缩感知的平均相关正交匹配追踪算法流程图；

图2是本发明与OMP，SP，GOMP算法对高斯稀疏信号在准确重构概率上的比较图；

图3是本发明与OMP，SP，GOMP算法对高斯稀疏信号在平均重构误差上的比较图。

【具体实施方式】

为使本发明的实施方案与意义优势表述得更为清楚，下面结合附图及重构效果比较图，以及理论分析，对本发明进行更为详细的说明。

图1是本发明提出的一种基于压缩感知的平均相关正交匹配追踪算法流程图，算法具体流程如下：

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，相关性集合大小参数β₁，比例参数β₂，排除集合大小参数n_M，相关性阈值参数η_M；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝argmax_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝arg max_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁，将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的n_M个原子存入集合T_M中，以此作为Ω^k中所有原子对应的排除集合，即

(6)对集合Ω^k中的每一个原子φ_i，找到所有跟φ_i相关性幅度大于η_M的非T^k-1∪T_M集合中的原子存入集合即并选取其中跟φ_i相关性幅度最大的前β₁个原子存入集合即如果中元素个数小于β₁则令

(7)对集合Ω^k中的每一个原子φ_i，计算中所有原子φ_j与残差r^k-1的内积的和，但是并不是直接相加而是乘以该原子与φ_i内积的符号后再相加，然后除以元素个数得到对应的相关性均值，即并将得到的均值按照一定比例与φ_i自身和残差的内积值相加，从中选取最大的S个原子存入集合Λ^k中，即

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

下面给出本发明的理论分析：

令表示感知矩阵Φ任意两列φ_i，φ_j之间的相关性。感知矩阵的相关性参数可以表示为在此假定感知矩阵μ(Φ)≤η，且每一列是归一化的。用x_max＝max_k|x_k|和x_min＝min_k|x_k|分别表示原始信号系数幅度的最大值和最小值。令需要注意的是这里的与步骤(6)中的区别在于这里用的是原始信号的真实支撑集supp(x)而步骤(6)中用的是T^k-1∪T_M。关于这一点会在之后进行说明。不失一般性，假定原始信号x的真实支撑集为supp(x)＝{J₁，J₂，...J_K}。假定当前为第k次迭代，且此时已经有p个下标为I₁，I₂，...I_p的原子被选入估计支撑集，其中有q个为真实支撑集原子，下标分别为J₁，J₂，...J_q。则可以将残差写为：

其中

因为当i∈{I₁，I₂，...，I_p}时，<r^k-1，φ_i>＝0。所以有

化简上式得其中

进一步化简得c_max≤(K-q)ηx_max+(p-1)ηc_max。

所以我们得到c_max的一个上界

对于未被找到的真实支撑集j∈{J_q+1，J_q+2，...，J_K}，我们假定然后，我们可以得到

所以本发明步骤(7)求均值的过程可以表示为

而对于未被找到的非支撑集原子l∈{1：N}\{T^k-1∪supp(x)}，我们假定同样可以得到

求均值的过程可以表示成如下形式：

如果上式的右边小于未被找到的真实支撑集对应式子的右边，则本发明算法步骤(7)中的集合Λ^k必然包含未被找到的真实支撑集原子。也就是：

(1+β₂η_M)x_min-(β₂+1)((K-q-1)ηx_max+pηc_max)＞(β₂+1)((K-q)ηx_max+pηc_max)

化简得

将c_max的上界带入得

也就是说，如果上式满足，那么本发明算法在第k次迭代产生的集合Λ^k必然包含真实支撑集原子。而GOMP算法的作者已经证明如果每次迭代选入的S个原子中至少有一个正确原子，那么至多经过K次迭代，GOMP算法必然能够准确重构出原始信号。如果本发明算法退出迭代时，k′＝0，则可以直接利用GOMP的理论证明本发明算法理论的正确性。如果退出迭代时，k′＝1，则本发明算法因为每次迭代均能选入至少一个正确原子，所以至多经过K次迭代必然能够找到所有的真实支撑集原子。

之所以在上述证明中对的定义是supp(x)而步骤(6)中用的是T^k-1∪T_M，是为了便于理论上的推导。另外一方面在实际应用中T^k-1∪T_M已经是对supp(x)的最好逼近；另一方面即便在算法运行过程中步骤(6)中的包含了一小部分的真实支撑集，我们也可以通过调整参数β₁将混入的这部分原子产生的影响进行有效得稀释。

图2和图3分别是本发明与OMP，SP和GOMP算法对高斯稀疏信号在准确重构概率和平均重构误差上的比较图。实验中所用感知矩阵Φ为128×256的独立同分布高斯随机矩阵。所用原始信号x为长度为256的一维高斯稀疏信号。测试所用稀疏度K的范围为27到42.终止参数设定为ε＝10^-6。为避免结果的随机性，实验对每个稀疏度K均重复500次。图2所用的评价标准为准确重构概率，它表示准确恢复的测试信号和整个测试数据的比率。其中，准确恢复条件认定为图3所用评价标准为平均重构误差，它用平均归一化最小均方误差(Average Normalized Mean-Squared-Error，ANMSE)进行衡量，定义为其中表示第i个测量向量x_i的重构向量。为了符号上的简便，我们用G3和G5分别表示步长S＝3和5的GOMP算法。同时用MC1，MC3，MC5分别表示S＝1，3，5的本发明算法。MC1，MC3，MC5的候选步长参数分别为S′＝2，5，8.本发明算法的其他参数设置为：η_M＝0.2，β₁＝0.2M，β₂＝4。对于参数n_M，本发明根据迭代过程中估计支撑集的大小，采用分段方式进行确定。即如果|T^k|＜0.2M，那么n_M＝0.1M；如果0.2M＜|T^k|＜0.4M，那么n_M＝0.05M；如果|T^k|≥0.4M，那么n_M＝2。由于OMP算法每次迭代仅选入一个原子，所以我们用MC1作为OMP的对比算法。而MC3，MC5分别是G3，G5的对比算法。

从图2可以看出，本发明算法的准确重构概率均高于相同步长参数的OMP和GOMP算法。而MC3和MC5的准确重构概率也优于SP算法。图3中，本发明依然有较大优势，其平均重构误差均低于相同参数的OMP和GOMP算法。而不同参数的本发明算法在平均重构误差方面均优于SP算法。通过实验证明，本发明有效地提升了仅依赖相关性步骤选入原子的贪婪算法的重构性能。

Claims (3)

1.一种基于压缩感知的平均相关正交匹配追踪算法，包括以下步骤：

(1)输入：感知矩阵Φ^M×N，测量值y，稀疏度K，选入步长S，候选步长S′，终止参数ε，相关性集合大小参数β₁，比例参数β₂，排除集合大小参数n_M，相关性阈值参数η_M；

(2)初始化：迭代次数k＝0，辅助标志位k′＝0，初始支撑集初始残差r⁰＝y，最大迭代次数k_max＝min(K，M/S)；

(3)k＝k+1，如果k′＝0，则转到(4)，否则转到(5)；

(4)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S个原子存入集合Λ^k中，即Λ^k＝arg max_{Λ：|Λ|＝S}||(Φ^*r^k-1)_Λ||₁，转到(8)；

(5)将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的S′个原子存入集合Ω^k中，即Ω^k＝arg max_{Ω：|Ω|＝S′}||(Φ^*r^k-1)_Ω||₁，将残差r^k-1与感知矩阵Φ的每一列做内积，选出其中内积最大的n_M个原子存入集合T_M中，以此作为Ω^k中所有原子对应的排除集合，即

(6)对集合Ω^k中的每一个原子φ_i，找到所有跟φ_i相关性幅度大于η_M的非T^k-1∪T_M集合中的原子存入集合即并选取其中跟φ_i相关性幅度最大的前β₁个原子存入集合即如果中元素个数小于β₁则令

(7)对集合Ω^k中的每一个原子φ_i，计算中所有原子φ_j与残差r^k-1的内积的和，但是并不是直接相加而是乘以该原子与φ_i内积的符号后再相加，然后除以元素个数得到对应的相关性均值，即并将得到的均值按照一定比例与φ_i自身和残差的内积值相加，从中选取最大的S个原子存入集合Λ^k中，即

(8)将集合Λ^k与上次迭代估计支撑集T^k-1进行合并得到本次迭代估计支撑集T^k，即T^k＝T^k-1∪Λ^k，用最小二乘法计算出T^k对应的逼近值并计算出本次迭代的残差

(9)如果迭代次数k＞k_max，则转到(10)，否则转到(12)；

(10)如果辅助标志位k′＝0，则令k′＝1，保留估计支撑集T_t ^k＝T^k，保留当前残差Res_t＝||r^k||₂，保留估计值令迭代次数k＝0，转到(3)，否则转到(11)；

(11)如果Res_t＜||r^k||₂，则令估计支撑集T^k＝T_t ^k，估计值转到(13)，否则直接转到(13)；

(12)如果残差||r^k||₂≤ε||y||₂，则转到(13)，否则转到(3)；

(13)最终估计支撑集最终估计信号输出

2.根据权利要求1所述的一种基于压缩感知的平均相关正交匹配追踪算法，其特征在于：本发明提出了一种选入原子的辅助方法，即利用跟该原子相关性较大的多个原子与残差内积值的平均值来考察是否选入该原子，本发明通过将该辅助方法与传统的根据原子与残差相关性选入原子的方法进行融合，来改善算法的性能。

3.根据权利要求1所述的一种基于压缩感知的平均相关正交匹配追踪算法，其特征在于：本发明在求解跟候选原子相关性较大的多个原子与残差内积值的平均值时，并不是直接将内积值相加求平均，而是考虑该原子与候选原子的内积值符号后再进行下一步处理。