CN103840838B - 一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法 - Google Patents

Abstract

一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法，涉及信息与通信技术领域，是为了解决现有的压缩感知信号恢复方法的精度低的问题。它是以压缩感知中自适应观测矩阵的设计为基础，结合贝叶斯压缩感知算法得到一种压缩感知方法的设计方案。它的特点是设计的观测矩阵可以根据不同信号自适应地生成，矩阵的确定性和存储问题都得到了解决，并且结合基于相关向量机的贝叶斯压缩感知恢复算法，引入了分层结构的先验。这种设计方案经过仿真验证，确定可以得到很好的信号恢复效果，并且可以对恢复信号的误差范围进行估计。本发明使用于信息与通信技术中的无线信号传输场合。

Description

一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法

技术领域

本发明涉及信息与通信技术领域，具体涉及一种贝叶斯压缩感知信号恢复方法。

背景技术

压缩感知技术可以对信号以很低的采样速率进行采样并能高质量地恢复原始信号，解决了人们对信息的巨大需求量所造成的信号采样、传输和存储的巨大压力。观测矩阵和恢复方法的设计是压缩感知过程中很关键的两个部分。

观测矩阵主要分为随机观测矩阵和确定性观测矩阵。随机观测矩阵的恢复精度高，但是其不确定性会给矩阵存储和硬件实现带来困难；确定性观测矩阵可以节省存储空间，易于硬件实现，但是其恢复效果较差。自适应观测矩阵是近两年提出的一种比较新颖的观测矩阵设计方法，它是借助信号或稀疏系数的先验信息来生成相应的观测矩阵，其性能要显著优于随机观测矩阵和确定性观测矩阵。

压缩感知的恢复算法主要分为凸松弛算法、贪婪算法和组合算法。凸松弛算法用少量的观测值就能得到很好的重构效果，但是计算量大；贪婪算法计算负担小，但是成功重构需要的观测值多；组合算法的计算速度快，但是需要大量且不易获得的采样值。贝叶斯方法是08年提出的，它结合了以上算法的优点，信号的恢复精度很高。

现有的压缩感知技术需要解决的是：如何通过设计合理的观测矩阵来加强算法的抗噪性能？如何设计先进的恢复算法使得在计算量很小的情况下用较少的观测值就可以高精度地恢复信号？

发明内容

本发明是为了解决现有的压缩感知信号恢复方法的精度低的问题，从而提供一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法。

一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法，它由以下步骤实现：

步骤一、利用M×N维的观测矩阵Φ′，通过公式：

y=Φ′f=Φ′Ψw=Φw （1）

获取N×1维未知信号f的M×1维观测值y；M、N均为正整数，且M＜＜N；Φ为感知矩阵；Ψ为稀疏基；

其中：N×1维的未知信号f表示为：

f=Ψw （2）

式中：w是一个N×1维的稀疏信号；

对于将观测矩阵Φ′设计成自适应观测矩阵，具体为：

根据式（1），在时域中，由于未知信号f包含了原始信号的信息，则时域观测矩阵为Φ′；

在稀疏域中，由于稀疏信号w也包含了原始信号的信息，则稀疏域观测矩阵为Φ；鉴于此，对稀疏信号w中的非零系数获取观测值是可行的，具体为：

对式（1）进行变形，得到：

y=Φ′w=Φ′Ψ^-1f=Φf （3）

在稀疏基Ψ是正交的情况下，则式（3）变为：

y=Φ′w=Φ′Ψ^Tf=Φf （4）

此时，时域的观测矩阵变为Φ，稀疏域的观测矩阵变为Φ′；

稀疏信号w中非零值的个数为M，M为正整数；稀疏信号w中第i个非零值的位置为j，1≤i≤M；1≤j≤N；

则观测矩阵Φ′中元素φ′_i,j=1，其它的元素都设为0，如下所示：

由于Φ=Φ′Ψ^T，因此得到Φ中的元素为：

φ_i,k=ψ_j,k （6）

式中：1≤k≤N；这里得到的Φ′即为式（1）中的Φ，得到的Φ即为式（1）中的Φ′；

步骤二、采用步骤一获得的观测矩阵Φ′通过贝叶斯压缩感知方法对M×1维的观测信号y进行信号恢复，获得恢复后的信号；

具体为：由于信号在传输过程中会产生噪声，因此式（2）的实际情况应为：

y=Φ′f+n （7）

式中n是均值为0、方差σ²未知的高斯噪声；

根据稀疏变换系数将式（7）改写成如下形式：

y=Φ′Ψw+n=Φw+n （8）

利用w的稀疏性，原始信号的近似值通过解决下式的最优化问题获得：

其中：||w||₀是稀疏信号w的l₀范数；

用l₁范数代替l₀范数，将上式转化为：

令w_s代表一个N维向量w中M个最大的值，剩下的N-M个值设为0；向量w_e分代表w中最小的N-M个元素，剩下的元素置为0；

由此得到：

w=w_s+w_e （11）

和

y=Φw=Φw_s+Φw_e=Φw_s+n_e （12）

式中：n_e=Φw_e；

根据中央极限定理，n_e中的元素由一个均值为0的高斯噪声近似，同时考虑到压缩感知在采样过程中本身包含的噪声n_m，故有：

y=Φw_s+n_e+n_m=Φw_s+n （13）

观测值y的高斯似然模型为：

通过估计稀疏向量w_s和噪声方差σ²，获得观测值y的恢复信号，完成基于自适应观测矩阵的贝叶斯压缩感知信号恢复。

步骤二中估计稀疏向量w_s和噪声方差σ²的方法为：采用后验概率密度函数的方法实现，具体为：

首先，对稀疏信号w中的每一个元素先验都定义为均值为0的高斯分布：

其中：α_i是高斯概率密度函数的精度；

然后，令α的先验服从Γ分布：

结合公式（15）和（16），得到w的先验概率密度函数：

其中：Γ(α_i|a,b)dα_i服从学生-t（Student-t）分布；

假设超参数α和α₀已知，给出测量值y和矩阵Φ，那么w的后验概率密度函数解析地表示为多变量的高斯分布，其均值和方差为：

μ=α₀∑Φ^Ty （18）

∑=(α₀Φ^TΦ+A)^-1 （19）

其中：A=diag(α₁,α₂,…,α_N)；

在RVM（Relevance Vector Machine，相关向量机）中，超参数α和α₀通过Type-II型ML（Type-II Maximum Likelihood，II型最大似然）过程进行估计，这种逼近使用了α和α₀的点估计来求它们边缘似然函数的最大值；

应用EM（Expectation-maximization，最大期望）算法，得到：

其中：μ_i是（18）式中计算的第i个均值，其中∑_ii是（19）式计算出的第i个对角元素；

对于噪声方差σ²=1/α₀，微分进行再估计：

最后对w和α、α₀交替进行迭代计算，直到最后得到的结果收敛。

本发明在观测矩阵的设计上采用了一种自适应的观测矩阵，它不同于随机观测矩阵和确定性观测矩阵。这种自适应的观测矩阵不能在信号未知的情况下生成，它是根据信号和稀疏系数的先验信息对观测矩阵中的元素进行自适应调整，放大了信号分量且抑制了噪声分量，这样就大大提高了算法的抗噪声性能和最终的信号恢复精度。

本发明的信号恢复算法采用了一种基于相关向量机的贝叶斯压缩感知算法，它在贝叶斯框架的基础上使用了相关向量机来假设先验并估计参数，在信号的恢复耗时和恢复效果上取得了很好的效果，而且此算法还可以提供误差的范围，这是其他压缩感知恢复算法不能做到的。

通过仿真可以得到，使用高斯随机矩阵作为观测矩阵，当信噪比为20时，BP算法的归一化均方误差NMSE=0.045472；信噪比为5时，NMSE=0.39902。使用高斯随机矩阵作为观测矩阵，当信噪比为20时，OMP算法的归一化均方误差NMSE=0.054129；信噪比为5时，NMSE=0.52724。使用本发明设计的自适应观测矩阵，当信噪比为20时，基于RVM的BCS算法的归一化均方误差NMSE=0.002313；信噪比为5时，NMSE=0.048724。该方法将恢复误差控制在了5%以内，相比于传统方法在低信噪比情况下40%左右的恢复误差有了很大提高。

本发明就是在一种自适应观测矩阵的基础上应用了贝叶斯压缩感知信号恢复方法，最终得到了计算时间短、恢复精度高、抗噪性能好及提供恢复误差的优良效果。

附图说明

图1是SNR=20的情况下，原始信号仿真图，其中信号长度N=512，稀疏度K=20；

图2是SNR=20的情况下，加噪信号仿真图，其中信号长度N=512；

图3是SNR=20的情况下，使用随机高斯矩阵BP算法恢复信号仿真图，其中信号长度N=512，观测值M=100；

图4是SNR=5的情况下，加噪信号仿真图，其中信号长度N=512；

图5是SNR=5的情况下，使用随机高斯矩阵BP算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图6是SNR=20的情况下，使用本发明自适应矩阵BP算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图7是SNR=5的情况下，使用本发明自适应矩阵BP算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图8为基于相关向量机的贝叶斯压缩感知算法的层次先验模型；

图9是SNR=20的情况下，使用随机高斯矩阵OMP算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图10是SNR=5的情况下，使用随机高斯矩阵OMP算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图11是SNR=20的情况下，使用随机高斯矩阵基于相关向量机的贝叶斯压缩感知算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

图12是SNR=5的情况下，使用随机高斯矩阵基于相关向量机的贝叶斯压缩感知算法恢复效果仿真图，其中信号长度N=512，观测值M=100；

具体实施方式

具体实施方式一、一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法，

压缩感知理论包括以下的三个步骤：

1）、N×1维的未知信号f在线性基Ψ（N×N）下是稀疏的，即：

f=Ψw （2）

其中：w是一个N×1维的稀疏信号，即它的大部分系数都为0；

2）、利用M×N维的观测矩阵Φ′获取观测值：

y=Φ′f=Φ′Ψw=Φw （1）

其中：y是M×1维的测量值，Φ=Φ′Ψ为M×N维的感知矩阵；

3）已知Φ′、Ψ、y，选择合适的恢复算法对f进行恢复：

1、观测矩阵的设计方法

本发明的观测矩阵Φ′的设计采用了一种自适应的方法。根据式（1），可以将矩阵Φ′称为时域观测矩阵，将矩阵Φ称为稀疏域观测矩阵。

在时域中，信号f包含了原始信号的信息；在稀疏域中，向量w也包含了原始信号的信息。鉴于此，取w中的非零系数获取观测值也是可行的。对式（1）进行变形，得到：

y=Φ′w=Φ′Ψ^-1f=Φf （3）

如果稀疏基Ψ是正交的，则式（3）可以变为：

y=Φ′w=Φ′Ψ^Tf=Φf （4）

这样对时域的观测来说，观测矩阵就变为Φ。

由于Φ=Φ′Ψ^T，稀疏域确定，Ψ^T也就确定，因此主要需要分析的是Φ′的设计。观察式（4）发现，观测值y实际上是稀疏向量w中的非零值，因此矩阵Φ′的目的就是从w中提取非零值。只要找到w中非零值的位置，就可以确定矩阵Φ′的组成了。

向量w中非零值的个数为M，w中第i(1≤i≤M)个非零值的位置为j(1≤j≤N)，则矩阵Φ′中元素φ′_i,j=1，其它的元素都设为0，如下所示：

矩阵Φ′中的元素只有0和1，其中1的个数为M。矩阵Φ′得到后，矩阵Φ的元素也就可以得到了。由于Φ=Φ′Ψ^T，因此得到Φ中的元素为：

φ_i,k=ψ_j,k1≤i≤M,1≤j≤N,1≤k≤N （7）

接下来如果是对时域信号f进行观测，那么使用Φ得到观测值y，如果是对稀疏系数向量w进行观测，那么使用Φ′得到观测值y。由于观测矩阵是由信号确定的，不同的信号得到的观测矩阵是不同的，因此本发明中构造的观测矩阵称为自适应观测矩阵。

图3、5和图6、7分别是使用随机高斯观测矩阵和使用本发明的自适应观测矩阵时BP算法的信号恢复仿真图，我们可以看到，使用自适应观测矩阵得到的恢复误差要远远小于使用随机高斯观测矩阵所产生的误差。

2、恢复算法的设计方法

本发明中的恢复算法采用的是基于相关向量机（RVM）的贝叶斯(BCS)压缩感知算法。由于信号在传输过程中会产生噪声，因此式（1）的理想情况应改为

y=Φ′f+n （7）

我们可以根据稀疏变换系数来将式（8）写成如下形式：

y=Φ′Ψw+n=Φw+n （8）

根据压缩感知理论，当测量值的数量小于信号系数的数量时（M＜＜N），使用适当的恢复算法就可在某些确定情况下精确地恢复出初始信号f。由于M＜＜N，直接求解式（9）的逆问题是一个病态问题，无法直接求解。

利用w的稀疏性，原始信号的近似值可以通过解决下式的最优化问题来得到：

其中||w||₀是w的l₀范数。这个最优化问题是一个NP难问题，因此需要简化，最常用的方法是用l₁范数代替l₀范数，这个最优化问题就转化为下式：

我们让w_s代表一个N维向量w中M个最大的值，剩下的N-M个值设为0。类似地，向量w_e分代表w中最小的N-M个元素，剩下的元素置为0。由此得到：

w=w_s+w_e （11）

和：

y=Φw=Φw_s+Φw_e=Φw_s+n_e （12）

其中n_e=Φw_e；

因为Φ是通过随机采样获得的，所以根据中央极限定理，n_e中的元素可以由一个均值为0的高斯噪声近似，同时考虑到压缩感知在采样过程中本身包含的噪声n_m，所以有：

y=Φw_s+n_e+n_m=Φw_s+n （13）

式中n是均值为0、方差σ²未知的高斯噪声。y的高斯似然模型为：

经过上面的分析，压缩感知问题转变为带有w_s稀疏约束的线性回归问题。

假设已知Φ，则需要估计的是稀疏向量w_s和噪声方差σ²，需要寻找它们的后验概率密度函数。

在RVM中引入分层的先验，它与Laplace先验具有相似的性质，但是它允许共轭指数分析。首先，对w中的每一个元素先验都定义为均值为0的高斯分布：

其中：α_i是高斯概率密度函数的精度。接着，假设α的先验服从Γ分布：

结合公式（15）和（16），得到w的先验

其中：Γ(α_i|a,b)dα_i服从Student-t分布。

当a和b的选择合适时，Student-t分布在w_i=0处取得峰值，因此（17）式中的先验促进了w的稀疏性。同样地，可以为噪声方差选择Γ先验。

假设超参数α和α₀已知，给出测量值y和矩阵Φ，那么w的后验可以解析地表示为多变量的高斯分布，其均值和方差为：

μ=α₀∑Φ^Ty （18）

∑=(α₀Φ^TΦ+A)^-1 （19）

其中：A=diag(α₁,α₂,…,α_N)。

在RVM中，超参数α和α₀通过Type-II型ML过程进行估计，这种逼近使用了α和α₀的点估计来求它们边缘似然函数的最大值。应用EM算法，得到：

其中：μ_i是（18）式中计算的第i个均值，其中∑_ii是（19）式计算出的第i个对角元素。

对于噪声方差σ²=1/α₀，微分进行再估计：

接着对w和α、α₀交替进行迭代计算，直到最后得到的结果收敛。

该算法的层次先验模型如图8所示。图9、10、11和12分别是在同样使用随机高斯观测矩阵的情况下，OMP算法和基于RVM的BCS算法的信号恢复仿真图。观察可得，基于RVM的BCS算法在信号的恢复精度上要高于OMP算法，且提供了误差范围的估计。

本发明具有以下特点和显著进步：

1、本发明以压缩感知中自适应观测矩阵的设计为基础，结合贝叶斯压缩感知算法得到一种压缩感知方法的设计方案。它的设计的观测矩阵可以根据不同信号自适应地生成，结合贝叶斯压缩感知恢复算法得到了非常好的信号恢复效果，并且可以对恢复信号的误差范围进行估计。

2、本发明的压缩感知方案中观测矩阵的设计是借助稀疏系数的先验信息来生成相应的观测矩阵，它的性能要显著优于其他随机观测矩阵和确定性观测矩阵。

3、本发明在压缩感知恢复算法的设计上引入了贝叶斯推理和相关向量机的理论，使得算法结合了凸松弛算法和贪婪算法的优点，信号恢复精度和运算耗时都达到了比较满意的结果。

4、本发明的自适应观测矩阵的设计中，需要找出稀疏向量中的非零值，再将观测矩阵中相应位置的元素置为1，其它元素设为0，这对于算法的抗噪性能有很大的帮助。通过仿真发现，与其它观测矩阵相比，这种自适应的观测矩阵恢复精度有着显著的提高。

5本发明贝叶斯恢复算法中引入了分层先验的结构，并用相关向量机来对其中的超参数进行估计。通过仿真发现，与其他恢复算法相比，本发明提出的这种恢复算法对信号的恢复精度更高，而且可以提供信号的误差范围。

Claims (2)

1.一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法，其特征是：它由以下步骤实现：

步骤一、利用M×N维的观测矩阵Φ′，通过公式：

y=Φ′f=Φ′Ψw=Φw （1）

获取N×1维未知信号f的M×1维观测值y；M、N均为正整数，且M＜＜N；Φ为感知矩阵；Ψ为稀疏基；

其中：N×1维的未知信号f表示为：

f=Ψw （2）

式中：w是一个N×1维的稀疏信号；

对于将观测矩阵Φ′设计成自适应观测矩阵，具体为：

根据式（1），在时域中，由于未知信号f包含了原始信号的信息，则时域观测矩阵为Φ′；

在稀疏域中，由于稀疏信号w也包含了原始信号的信息，则稀疏域观测矩阵为Φ；

对稀疏信号w中的非零系数获取观测值，具体为：

对式（1）进行变形，得到：

y=Φ′w=Φ′Ψ^-1f=Φf （3）

在稀疏基Ψ是正交的情况下，则式（3）变为：

y=Φ′w=Φ′Ψ^Tf=Φf （4）

此时，时域的观测矩阵变为Φ，稀疏域的观测矩阵变为Φ′；

稀疏信号w中非零值的个数为M，M为正整数；稀疏信号w中第i个非零值的位置为j，1≤i≤M；1≤j≤N；

则观测矩阵Φ′中元素φ′_i,j=1，其它的元素都设为0，如下所示：

由于Φ=Φ′Ψ^T，因此得到Φ中的元素为：

φ_i,k=ψ_j,k （6）

式中：1≤k≤N；这里得到的Φ′即为式（1）中的Φ，得到的Φ即为式（1）中的Φ′；

步骤二、采用步骤一获得的观测矩阵Φ′通过贝叶斯压缩感知方法对M×1维的观测信号y进行信号恢复，获得恢复后的信号；

具体为：由于信号在传输过程中会产生噪声，因此式（2）的实际情况应为：

y=Φ′f+n （7）

式中n是均值为0、方差σ²未知的高斯噪声；

根据稀疏变换系数将式（7）改写成如下形式：

y=Φ′Ψw+n=Φw+n （8）

利用w的稀疏性，原始信号的近似值通过解决下式的最优化问题获得：

其中：||w||₀是稀疏信号w的l₀范数；

用l₁范数代替l₀范数，将上式转化为：

令w_s代表一个N维向量w中M个最大的值，剩下的N-M个值设为0；向量w_e代表w中最小的N-M个元素，剩下的元素置为0；

由此得到：

w=w_s+w_e （11）

和

y=Φw=Φw_s+Φw_e=Φw_s+n_e （12）

式中：n_e=Φw_e；

根据中央极限定理，n_e中的元素由一个均值为0的高斯噪声近似，同时考虑到压缩感知在采样过程中本身包含的噪声n_m，故有：

y=Φw_s+n_e+n_m=Φw_s+n （13）

观测值y的高斯似然模型为：

通过估计稀疏向量w_s和噪声方差σ²，获得观测值y的恢复信号，完成基于自适应观测矩阵的贝叶斯压缩感知信号恢复。

2.根据权利 要求1所述的一种基于自适应观测矩阵的贝叶斯压缩感知信号恢复方法，其特征在于步骤二中估计稀疏向量w_s和噪声方差σ²的方法为：采用后验概率密度函数的方法实现，具体为：

首先，对稀疏信号w中的每一个元素先验都定义为均值为0的高斯分布：

其中：α_i是高斯概率密度函数的精度；

然后，令α的先验服从Γ分布：

结合公式（15）和（16），得到w的先验概率密度函数：

其中：Γ(α_i|a,b)dα_i服从Student-t分布；

假设超参数α和α₀已知，给出测量值y和矩阵Φ，那么w的后验概率密度函数解析地表示为多变量的高斯分布，其均值和方差为：

μ=α₀∑Φ^Ty （18）

∑=(α₀Φ^TΦ+A)^-1 （19）

其中：A=diag(α₁,α₂,…,α_N)；

在相关向量机RVM中，超参数α和α₀通过Type-II型最大似然过程进行估计，这种逼近使用了α和α₀的点估计来求它们边缘似然函数的最大值；

应用最大期望算法，得到：

其中：μ_i是（18）式中计算的第i个均值，其中∑_ii是（19）式计算出的第i个对角元素；

对于噪声方差σ²=1/α₀，微分进行再估计：

最后对w和α、α₀交替进行迭代计算，直到最后得到的结果收敛。