CN105447894A - 基于拟牛顿公式的压缩感知重建算法 - Google Patents

Abstract

本发明公开了基于拟牛顿公式的压缩感知重建算法，首先对原始含有噪声且细节模糊的图像进行稀疏表示，然后通过观测矩阵对稀疏表示后的原始图像进行测量得到结果矩阵，最后采用本发明算法对结果矩阵进行重建，获得比原始图像细节更清晰、低噪声图像。和传统压缩感知重建算法相比，本发明算法具有收敛速度快、计算时间短、重建精度高等优点。

Description

基于拟牛顿公式的压缩感知重建算法

技术领域

本发明属于压缩感知技术领域，具体涉及一种基于拟牛顿公式的压缩感知重建算法。

背景技术

传统情况下，根据香农采样定理可以知道，当采样频率大于原始信号截止频率的两倍(奈奎斯特采样率)才能无失真的获得原始信号，因此在将模拟信号转换成数字信号过程中一般需要很高的采样频率。同时伴随着科技的进步，在某些场合下两部于截止频率的采样率已经不能满足人们的需求，因此人们希望采用三倍甚至五倍于截止频率的过采样技术来捕捉变化更快地信号。更高的采样率势必会带来非常大的数据量，对数据存储、处理和传输带来不利，这样会给硬件资源带来称重的负担。于是一些学者提出：能否在保证原始的数据量的同时，采用小于信号截止频率的采样率，精确恢复原始信号？如果能解决这个问题，就可以降低采样数据量，减少硬件资源的负担。

在2006年，D.Donoho(DonohoD.Compressedsensing[J].IEEETransactionsTheory,2006,52(4):1289-1306)和E.Candes、J.Romberg、T.Tao(CandesE,RombergJ,TaoJ.Robustuncertaintyprinciples:Exactsignalreconstructionfromhighlyincompletefrequencyinformation[J].IEEETransactionInformationTheory,2006,52(2):489-509)提出了压缩感知(CompressedSensing，CS)理论框架。压缩感知理论表明，如果原始信号x在某个变换域稀疏基Ψ下是稀疏的就可以被一个与稀疏基互不相干的观测矩阵Φ投影到一个低维空间y中，然后通过求解一个最优化问题(s.t.y＝ΦΨs＝Θs)将原始稀疏表示s精确地重建出来，最后通过稀疏基逆变换获得原始信号x。压缩感知过程如图1所示。

与传统的信号采样处理框架不同，压缩感知理论框架的基础是稀疏变换，工具是随机观测矩阵，核心是测量信号的重建算法。所以，压缩感知并不依赖香农采样定理，可以在一个低于奈奎斯特频率上进行采样，然后根据重建算法对测量信号进行精确重构，将压缩和采样同时进行，节省了存储空间。

常用的稀疏基主要有基于局部傅里叶变换稀疏基、基于小波变换稀疏基、基于哈达玛变换稀疏基等，而观测矩阵主要有高斯随机观测矩阵和伯努利随机观测矩阵。传统的压缩感知重建算法在许多文献中提到，大体上可以分为两类，一类是求解稀疏表示||s||₀最小化方法，另一类是求解稀疏表示||s||₁最小化方法。其中求解稀疏表示||s||₀最小化方法主要包括匹配追踪法(MatchPursuit，MP)和正交匹配追踪法(OrthogonalMatchingPursuit，OMP)。这类算法具有收敛速度快、计算量小、处理时间短、硬件易实现等优点，但是重建信号精度稍低。求解稀疏表示||s||₁最小化方法主要包括梯度投影法(GradientProjection，GP)和基追踪法(BasisPursuit，BP)。这类算法具有重建信号精度精度高的优点，但是计算量大、处理时间长、硬件难实现等缺点。

赵瑞珍，林婉娟，李浩，胡绍海(基于光滑l₀范数和修正牛顿法的压缩感知重建算法.计算机辅助设计与图形学学报，2012)提出利用牛顿公式来求解压缩感知重建问题，和传统算法相比取得了一定研究成果。但是由于牛顿公式复杂且需要计算Hesse矩阵，因此该方法处理时间仍然比较长，收敛速度也缓慢，在此基础上提出基于拟牛顿公式的压缩感知重建算法。

拟牛顿公式是牛顿公式基础上改进得来的，和牛顿公式求解最优化问题相比，拟牛顿公式可以保证算法整体收敛，每次迭代过程中不需要计算Hesse矩阵，收敛速度快，耗费时间少。拟牛顿公式表示为：s_k+1＝s_k-α_kH_kg_k，其中α_k为迭代步长，g_k为函数f(s)在s_k处的偏导数，H_k为n阶对称矩阵，s_k为待求最优解。采用拟牛顿公式求解最优化问题过程如下：

①.初始化，包括给定控制误差ε，给定初始点s₀，初始矩阵H₀(通常取单位对角阵)，计算g₀，令k＝0。

②.令p_k＝-H_kg_k。

③.通过精确一维搜索方法确定迭代步长α_k。

$f(s_k+{\mathrm{\α}}_k{p}_k)=\underset{\mathrm{\α}\≥0}{\min }f(s_k+{\mathrm{\α}}_k{p}_k)$

④.令s_k+1＝s_k+α_kp_k。

⑤.若||g_k+1||≤ε，则停，为最优解；否则令

w_k＝s_k+1-s_k,v_k＝g_k+1-g_k

⑥.修正H_k+1。令k＝k+1，转②。

$H_{k+1}=H_k-\frac{H_k{v}_k{v}_k^T{H}_k}{v_k^T{H}_k{v}_k}+\frac{w_k{w}_k^T}{v_k^T{w}_k}$

利用拟牛顿公式求解压缩感知重建最优化问题关键需要找到合适的平滑连续函数来逼近稀疏表示||s||₀。在这里利用MohimaniH(MohimaniH,Babaie-ZadehM,JuttenC,Afastapproachforovercompletesparsedecompositionbasedonsmoothedl₀norm[J].IEEETransactionsonSignalProcessing,2009,57(1):289-301)提出的一种平滑连续函数来逼近稀疏表示||s||₀。s中每一点s_i平滑连续函数为：

$f_{\mathrm{\σ}}\left(s_i\right)\stackrel{\mathrm{\Δ}}{=}\exp \left(\frac{-{s_i}^2}{2{\mathrm{\σ}}^2}\right)$

并且

$\underset{\mathrm{\σ}\→0}{\lim }{f}_{\mathrm{\σ}}\left(s_i\right)=\left\{\begin{array}{ccc}1,& \mathrm{if}& s_i=0\\ 0,& \mathrm{if}& s_i\≠0\end{array}\right.$

或者

$f_{\mathrm{\&sigma;}}\left(s_i\right)=\left\{\begin{array}{ccc}1,& \mathrm{if}& \left|s_i\right|<<\mathrm{\&sigma;}\\ 0,& \mathrm{if}& \left|s_i\right|>>\mathrm{\&sigma;}\end{array}\right.$

定义逼近||s||₀的函数为：

$F_{\mathrm{\&sigma;}}\left(s\right)=\underset{i=1}{\overset{n}{\mathrm{\&Sigma;}}}{f}_{\mathrm{\&sigma;}}\left(s_i\right)$

其中σ为可控参数，σ越大逼近函数越平滑，相反情况逼近函数越陡峭。选择σ>4max_i|s_i|，这样逼近函数

通过求解函数的最优解，从而获得原始信号的最稀疏表示，最后经过变换域逆变换完成原始信号的精确重建。

发明内容

本发明的目的在于提供一种基于拟牛顿公式的压缩感知重建算法，解决了传统压缩感知重建算法带来的收敛速度慢、复杂度高、重建精度低等问题。

实现本发明目的的技术解决方案为：一种基于拟牛顿公式的压缩感知重建算法，算法步骤如下：

步骤1、输入一幅原始图像x；

步骤2、将原始图像进行稀疏变换，得到原始图像在某一稀疏基Ψ的稀疏系数s，原始图像稀疏表示为x＝Ψs；

步骤3、利用观测矩阵Φ对稀疏表示的原始图像x进行测量，得到测量结果矩阵y；

步骤4、利用基于拟牛顿公式的压缩感知重建算法，对测量结果矩阵y进行重建得到重建图像重建步骤如下：

4-1)参数初始化

4-1-1)初始化迭代向量s₀＝Φ^Ty；

4-1-2)初始化标准偏差σ₀＝4max|s₀|；

4-1-3)初始化H₀，H₀为单位对角矩阵；初始化迭代次数k，令k＝0；初始化平滑连续函数处的偏导数初始化控制误差epsilon，epsilon∈(10^-4,10^-3)；

4-2)如果满足条件norm(g_k)>epsilon，转入4-2-1)；否则直接转入4-3)；

4-2-1)更新迭代方向p_k＝-H_kg_k，H_k为对角矩阵，转入步骤4-2-2)；

4-2-2)采用精确一维搜索方法，确定迭代步长α_k，转入步骤4-2-3)；

4-2-3)利用拟牛顿公式更新s_k+1＝s_k-α_kH_kg_k，转入步骤4-2-4)；

4-2-4)更新g_k+1和σ_k+1，并计算得到平滑连续函数的偏导数的中间偏差v_k以及迭代向量残差w_k，其中v_k＝g_k+1-g_k，w_k＝s_k+1-s_k，转入步骤4-2-5)；

4-2-5)修正令k＝k+1，转入4-2)，直至norm(g_k)<epsilon；

4-3)输出 为利用拟牛顿公式求得地最优解；

4-4)重建图像Ψ'为稀疏基Ψ的逆变换。

上述精确一维搜索方法为精确一维搜索方法为Fibonacci法、黄金分割法或进退法。

本发明与现有技术相比，其显著优点：(1)本发明算法简单且易实现，由于采用拟牛顿公式，不需要计算函数二阶导数同时也不需要计算Hesse矩阵；

(2)本发明算法和其它同类算法相比具有收敛速度快、计算时间短、重建精度高等优点；

(3)本发明算法重建的原始信号在噪声上也得到了一定的抑制；

(4)本发明算法适应能力强，只要原始信号满足在某一变换域下是稀疏的这一条件，那就可以进行压缩感知重建。

附图说明

图1是压缩感知工作过程示意图。

图2是本发明算法的流程示意图。

图3是原始图像。

图4是经过本发明算法重建后的图像。

具体实施方式

下面结合附图对本发明作进一步详细描述。

结合图2，一种基于拟牛顿公式的压缩感知重建算法，算法步骤如下：

步骤1、输入一幅原始图像x，原始图像含有噪声且细节模糊。

步骤2、将原始图像进行稀疏变换，得到原始图像在某一稀疏基Ψ的稀疏系数s，原始图像稀疏表示为x＝Ψs；

步骤3、利用观测矩阵Φ对稀疏表示的原始图像x进行测量，得到测量结果矩阵y；

步骤4、利用基于拟牛顿公式的压缩感知重建算法，对测量结果矩阵y进行重建得到重建图像重建步骤如下：

4-1)参数初始化

4-1-1)初始化迭代向量s₀＝Φ^Ty；

4-1-2)初始化标准偏差σ₀＝4max|s₀|；

4-1-3)初始化H₀，H₀为单位对角矩阵；初始化迭代次数k，令k＝0；初始化平滑连续函数处的偏导数初始化控制误差epsilon，epsilon∈(10^-4,10^-3)；

4-2)如果满足条件norm(g_k)>epsilon，转入4-2-1)；否则直接转入4-3)；

4-2-1)更新迭代方向p_k＝-H_kg_k，k＝0,1,2,3...，H_k为对角矩阵，转入步骤4-2-2)；

4-2-2)采用精确一维搜索方法，确定迭代步长α_k，转入步骤4-2-3)；

4-2-3)利用拟牛顿公式更新s_k+1＝s_k-α_kH_kg_k，转入步骤4-2-4)；

4-2-4)更新g_k+1和σ_k+1，并计算得到平滑连续函数的偏导数的中间偏差v_k以及迭代向量残差w_k，其中v_k＝g_k+1-g_k，w_k＝s_k+1-s_k，转入步骤4-2-5)；

4-2-5)修正令k＝k+1，转入4-2)，直至norm(g_k)<epsilon；

4-3)输出 为利用拟牛顿公式求得地最优解；

4-4)重建图像Ψ'为稀疏基Ψ的逆变换。

上述精确一维搜索方法为精确一维搜索方法为Fibonacci法、黄金分割法或进退法。

结合图3和图4，通过两幅图像整体对比发现，原始图像中含有一些局部噪声，经过本发明算法重建后，在重建图像上明显可以看出噪声得到明显抑制。而且通过局部观察可以发现，原始的图像上面的模糊很严重(比如天空部分)，表现为有许多的块效应，而且图像细节(比如船上的桅杆)也不是很清晰，周围存在锯齿效应。原始的图像(比如船体)的分辨率也比较低，层次感不明显。通过本发明算法处理后，可以很清楚地看见重建后的图像有了大幅度地改善，图像细节分辨能力得到了明显地提高，而且处理后的图像清晰度也有一定增强，层次感相比于原始图像更鲜明了。

Claims (2)

1.一种基于拟牛顿公式的压缩感知重建算法，其特征在于，算法步骤如下：

步骤1、输入一幅原始图像x；

步骤2、将原始图像进行稀疏变换，得到原始图像在某一稀疏基Ψ的稀疏系数s，原始图像稀疏表示为x＝Ψs；

步骤3、利用观测矩阵Φ对稀疏表示的原始图像x进行测量，得到测量结果矩阵y；

步骤4、利用基于拟牛顿公式的压缩感知重建算法，对测量结果矩阵y进行重建得到重建图像重建步骤如下：

4-1)参数初始化

4-1-1)初始化迭代向量s₀＝Φ^Ty；

4-1-2)初始化标准偏差σ₀＝4max|s₀|；

4-1-3)初始化H₀，H₀为单位对角矩阵；初始化迭代次数k，令k＝0；初始化平滑连续函数在s₀处的偏导数初始化控制误差epsilon，epsilon∈(10^-4,10^-3)；

4-2)如果满足条件norm(g_k)>epsilon，转入4-2-1)；否则直接转入4-3)；

4-2-1)更新迭代方向p_k＝-H_kg_k，H_k为对角矩阵，转入步骤4-2-2)；

4-2-2)采用精确一维搜索方法，确定迭代步长α_k，转入步骤4-2-3)；

4-2-3)利用拟牛顿公式更新s_k+1＝s_k-α_kH_kg_k，转入步骤4-2-4)；

4-2-4)更新g_k+1和σ_k+1，并计算得到平滑连续函数的偏导数的中间偏差v_k以及迭代向量残差w_k，其中v_k＝g_k+1-g_k，w_k＝s_k+1-s_k，转入步骤4-2-5)；

4-2-5)修正令k＝k+1，转入4-2)，直至norm(g_k)<epsilon；

4-3)输出 为利用拟牛顿公式求得地最优解；

4-4)重建图像Ψ'为稀疏基Ψ的逆变换。

2.根据权利要求1所述的基于拟牛顿公式的压缩感知重建算法，其特征在于：上述精确一维搜索方法为Fibonacci法、黄金分割法或进退法。