CN111862257A - 基于反正切函数逼近近似l0范数的压缩感知图像重构方法 - Google Patents

Abstract

本发明公开了一种基于反正切函数逼近近似L0范数的压缩感知图像重构方法。使用了一种基于反正切函数的数学模型，在算法的迭代求解过程中通过收缩模型参数实现了从凸优化向近似L0范数非凸优化的逼近，并且根据重构误差项自适应地去调节目标损失函数中的各项权重。本发明提出的方法使得在压缩感知图像重构求解过程中我们的算法以更高的效率和更大的概率去逼近全局最优并且尽可能稀疏的解，相对于传统算法，本发明方法在相对较短的时间内有效地提升了压缩感知图像重构的精度和质量。从而在保证信号重构稀疏度的同时达到更加精确重构原始信号的目的。本发明中的方法在压缩感知图像重建中在相对更短的时间内重建出了更高精度的图像。

Description

基于反正切函数逼近近似L0范数的压缩感知图像重构方法

技术领域

本发明涉及一种基于反正切函数逼近近似L0范数的压缩感知图像重构方法，特点是通过设计提出一种反正切函数的数学模型，并在压缩感知图像重建过程中不断收缩模型参数实现凸优化向非凸优化L0范数的迭代逼近，在保证重构信号稀疏度的同时也保证了信号重构精度，最后提升了重构图像的峰值信噪比和结构相似度。本发明提出的新方法能够应用于信号的采集与恢复、图像处理和计算机视觉等方向，属于信号与信息处理中的图像信号恢复重建领域。

背景技术

压缩传感(Compressed Sensing,CS)理论在2006年被Donoho、Candès等人提出，压缩感知核心思想是在原始信号是稀疏的或者能够进行稀疏表示的前提下，将信号的压缩与采样合并进行，通过测量矩阵用较少的采样次数直接到信号的线性投影值。压缩感知采样并不经过奈奎斯特采样(Nyquist)的中间阶段实现信号的将维压缩，然后根据相应重构算法由测量值直接恢复重建出原始信号，节约了传输和存储成本，降低了计算复杂度。正是由于压缩感知理论对信号进行低于奈奎斯特采样(Nyquist)频率的采样，以及信号的高压缩性和可恢复性，让压缩感知在信号处理领域有着广泛的应用。

在压缩感知的采样过程中，首先定义一个原始信号x，x∈Cⁿ，x乘以大小为m×n的测量矩阵Φ得到测量信号y，y∈C^m，m<n。于是就有以下信号测量模型：

y＝Φx+e， (1)

e为高斯白噪声，y是通过测量矩阵获得的原始信号x的非完备(undercomplete)线性测量。

原始信号的恢复过程相当于信号测量的逆过程。根据信号测量值y恢复出原始信号x，由于，由于y的维数远远小于信号x的维数，必须解一个欠定方程。由于求解欠定方程通常是非常困难的，原始信号x必须是稀疏的或者能够进行稀疏表示。离散信号的稀疏性通常用信号的L0范数加以表示，||x||₀表示x中非零元素的个数。原始信号x的零范数可以作为(1)式的正则项，因此，我们可以获得以下表达：

其中，ε是非负的正常数，为误差上界。

表示重构信号和真实信号的逼近误差。

如果原始信号x是非稀疏的，必须对信号x进行稀疏表示。我们使用稀疏变换正交基或者冗余字典Ψ对x进行稀疏表示，Ψ＝[ψ₁,ψ₂,ψ₃,...,ψ_n]。从而有：

其中，s＝[s₁,s₂,s₃,...,s_n]^T，s为信号x在稀疏基Ψ上的稀疏表示系数，[]^T为转置运算符。如果s中大部分系数为零或者接近于零，则说明信号x能够进行稀疏表示，这样的信号能够进行很好的压缩。因此为了求解稀疏表示s，我们可以得到(3)式的一种全新表达形式：

其中，

为稀疏系数向量s的求解值，因此我们得到原始信号的解为

由于求解(4)式中的最小L0范数通常非常困难，通常是一个NP难问题，因此最小L0范数问题通常被规避。由此通常使用最小L1范数来替代L0范数，得到如下所示更新(4)式后的等式：

公式(5)是一个二次约束线性问题。

因此，由上面的分析可知，信号的稀疏性、测量矩阵的构造、信号的重构算法为压缩感知理论的三个主要部分。在本发明中，我们使用的测量矩阵为0-1二值稀疏对角测量矩阵以及采用了适应于这种对角测量矩阵的双侧投影方式，我们采用的稀疏基Ψ为离散小波稀疏基。本发明是针对压缩感知信号重构算法提出的方法，详细的过程和细节将在后面的发明内容中做详细阐述。

发明内容

本发明要解决技术问题为：在压缩感知信号重建中，通常使用L0范数表示稀疏信号的稀疏度，虽然L0范数能够表示稀疏信号更加稀疏的形式，但是实际上L0范数通常难以实现，而且求解最小L0范数的压缩感知信号重构算法通常是非凸的，这种非凸优化算法的求解相对来说更加困难，而且容易陷入局部最优。而以L1范数为代表的凸优化算法通常在压缩感知信号重构中被使用，尽管L1范数相关的凸优化算法容易求解重构信号的全局最优值，但是最小L1范数所表示的信号稀疏性通常没有L0范数好，也就是L1范数算法在压缩感知信号重构中并不能求解出足够稀疏的解。

本发明解决上述技术问题采用的技术方案为：一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，设计了一种基于反正切函数的数学模型，在算法的迭代求解过程中通过收缩模型参数实现了从凸优化向近似L0范数非凸优化的逼近，并且根据重构误差项自适应地去调节目标损失函数中的各项权重。本发明提出的方法使得在压缩感知图像重构求解过程中算法以更高的效率和更大的概率去逼近全局最优并且尽可能稀疏的解，相对于传统算法，本发明方法在相对较短的时间内有效地提升了压缩感知图像重构的精度和质量。该方法包括如下步骤：

步骤1、在压缩感知图像重构算法中，为了充分利用凸优化算法和非凸优化算法各自的优点，实现从凸优化向L0范数非凸优化的逼近，设计一种反正切的数学模型，用以模拟信号稀疏系数的范数表示；

步骤2、在这个反正切函数模型中设置一个调节参数，通过对这个模型参数的收缩，实现算法从凸优化向L0范数非凸优化的近似逼近；

步骤3、使用这个反正切函数数学模型项和信号重构误差项构造目标损失函数，通过对这两项的同时最小化，目标损失函数为：

其中，L(s)为需要最小化的目标损失函数，s稀疏信号向量，λ为权重参数，Φ为测量矩阵，Ψ为稀疏基，y为测量信号，σ为模型参数，F_σ(s)和

两项分别保证重建信号的稀疏度和重构信号的精度；

同时在迭代过程中，根据重构误差自适应地去调节目标函数中两项的权重，从而达到更加精确重构信号的目的；

步骤4、使用梯度投影的方式对上述目标函数进行最小化求解，在梯度投影算法的迭代过程中，不断收缩模型参数的值，从而实现向近似L0范数算法的逼近，最后重构出原始信号。

其中，值得注意的是，在本发明是通过重建图像来证明该方法的有效性，使用0-1二值稀疏对角测量矩阵以及和0-1二值对角测量矩阵相适应的双侧投影方式对原始图像进行投影测量，相当于对原始图像先进行降采样，再根据降采样得到的测量值最后通过压缩感知的方法超分辨率地重建出原始图像。

本发明与现有技术相比的优点在于：

(1)本发明提出一种从凸优化向近似L0范数非凸优化逼近的压缩感知图像重构算法，在现有技术中，目前最常采用压缩感知算法为追踪类贪婪算法和最小范数类优化算法，其中贪婪类算法没有很好的理论保证，信号重建结果往往具有一定随机性。虽然最小范数类算法具有更好的理论保证，但是最小范数类算法中常用的最小L0范数算法和最小L1范数算法均具有各自的优缺点，而本发明提出的方法则是尽可能综合了两种方式的优点，尽可能地去避免它们的缺点。

(2)本发明提出的方法中，首先基于反正切函数设计一个逼近近似L0范数的数学模型，在压缩感知图像重建中，通过收缩模型参数和梯度投影的方式间接地实现算法凸优化向非凸优化的迭代逼近，这种反正切函数模型简单并且易于实现，同时避免了最小L1范数在零点处不解析的问题，巧妙地实现了向近似L0范数的逼近；与此同时，基于这个新的数学模型和信号重构误差提出了一个新的目标损失函数，在求解这目标函数最小的过程中，设置和重构误差项成正比的权重参数从而自适应地去调节目标函数的各项权重，从而在保证信号重构稀疏度的同时达到更加精确重构原始信号的目的。

(3)本发明充分利用了最小L1范数凸优化算法和最小L0范数非凸优化算法各自的优点。在本发明方法中，首先在算法迭代的起始阶段，模型参数设置较大，此时本发明的算法更加接近于最小L1范数的凸优化算法，此时算法的解以更大概率落在全局解的附近；随着迭代的进行，不断收缩模型参数，反正切函数模型向着L0范数递进，从而求解出尽可能稀疏的解。因此，通过这种逼近方式，本发明方法以更大的概率和更高的效率去逼近了全局最优并且尽可能稀疏的解，相比于传统的追踪类贪婪算法和最小范数类优化算法，本发明中的方法在压缩感知图像重建中在相对更短的时间内重建出了更高精度的图像。

附图说明

图1为本发明基于反正切函数逼近近似L0范数压缩感知图像重构的摘要流程图；

图2为反正切函数模型f_σ(s_i)与模型参数σ以及稀疏系数元素s_i之间的关系曲线；

图3为通过不同算法重构图像Building的结果图，图3(a)IRLS算法、图3(b)OMP算法、图3(c)ROMP算法、图3(d)L1_LS算法、图3(e)L1_BP算法、图3(f)本发明中的AL0M算法；

图4为通过不同算法重构图像House的结果图，图4(a)IRLS算法、图4(b)OMP算法、图4(c)ROMP算法、图4(d)L1_LS算法、图4(e)L1_BP算法、图4(f)本发明中的AL0M算法。

具体实施方式

下面结合附图意见具体实施方式进一步说明本发明。

1.本发明的原理和创新改进之处在于：本发明提出一种从凸优化向近似L0范数非凸优化逼近的压缩感知图像重构算法，在现有技术中，目前最常采用压缩感知算法为追踪类贪婪算法和最小范数类优化算法，其中贪婪类算法没有很好的理论保证，信号重建结果往往具有一定随机性。虽然最小范数类算法具有更好的理论保证，但是最小范数类算法中常用的最小L0范数算法和最小L1范数算法均具有各自的优缺点，而本发明提出的方法则是尽可能综合了两种方式的优点，尽可能地去避免它们的缺点。本发明提出的方法中，首先基于反正切函数设计一个逼近近似L0范数的数学模型，在压缩感知图像重建中，通过收缩模型参数和梯度投影的方式间接地实现算法凸优化向非凸优化的迭代逼近，这种反正切函数模型简单并且易于实现，同时避免了最小L1范数在零点处不解析的问题，巧妙地实现了向近似L0范数的逼近；与此同时，基于这个新的数学模型和信号重构误差提出了一个新的目标损失函数，在求解这目标函数最小的过程中，设置和重构误差项成正比的权重参数从而自适应地去调节目标函数的各项权重，从而在保证信号重构稀疏度的同时达到更加精确重构原始信号的目的。本发明充分利用了最小L1范数凸优化算法和最小L0范数非凸优化算法各自的优点。在本发明方法中，首先在算法迭代的起始阶段，模型参数设置较大，此时算法更加接近于最小L1范数的凸优化算法，此时算法的解以更大概率落在全局解的附近；随着迭代的进行，不断收缩模型参数，反正切函数模型向着L0范数递进，从而求解出尽可能稀疏的解。因此，通过这种逼近方式，本发明中方法以更大的概率和更高的效率去逼近了全局最优并且尽可能稀疏的解，相比于传统的追踪类贪婪算法和最小范数类优化算法，本发明中的方法在压缩感知图像重建中在相对更短的时间内重建出了更高精度的图像。

本发明提出一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，下面介绍这种逼近近似L0范数的压缩感知图像重构算法的具体实施方式。

基于以上对凸优化算法和非凸优化算法的描述，充分考虑和利用这两种方式的优越性，为了实现向L0范数的逼近，通常使用最小Lp范数的方式，因此更新(5)式为：

但是，直接动态地收缩p值往往令求解非常困难。因此，在本发明中，提出一种基于反正切函数的数学模型，这种模型能间接地实现对p值的收缩最后达到逼近近似最小L0范数的效果。提出的这种方法实现了凸优化向非凸优化的动态迭代逼近，同时避免了最小L1范数问题在零点处不解析的问题。

首先，对于稀疏向量s，提出一种新的数学模型用来替代s的Lp范数，这个新的数学模型表示为：

其中，s_i为稀疏向量s的第i个元素，i∈[1,n]，σ为调节逼近L0范数程度的模型参数。以上(7)式为反正切函数模型，f_σ(s_i)与σ以及s_i之间的关系曲线如图2所示。正如图2所示，模型参数σ能够调节图2中曲线的曲率。当σ的值非常小的时候，f_σ(s_i)的曲线非常近似L0范数的分布，随着σ值的增大，f_σ(s_i)接近L1范数的分布。因此，逐渐减少σ的值能够间接地实现对Lp范数中的p值的动态收缩。当σ的值非常小的时候，能够得到下列的近似表达式：

对f_σ(s_i)进行累加和，可以得到：

其中，n是稀疏信号s的长度。因此，当σ非常小的时候，F_σ(s)近似等价于||s||₀，可以表示s中非零元素的个数。因此，(6)式可以被更新为：

通过拉格朗日方式加入

作为最小项，将(10)式限制性优化问题转换为非限制性优化问题，因此得到一个全新的目标损失函数：

其中，需要求解目标函数L(s)的最小化，F_σ(s)和

两项分别保证重建信号的稀疏度和重构信号的精度，λ为调节两项所占比重的权重因子。

由(11)式可知，在算法迭代的开始阶段，当σ较大时，目标函数(11)近似相当于凸优化过程，所得到的解已经大概率地落入全局最优解的附近，局部最优以及所得解的不稳定性风险已经被降低。随着σ收缩到更小，F_σ(s)逐渐地逼近光滑的L0范数，从而求解更加稀疏的解。因此，通过收缩σ值让新型目标函数(11)以更大的概率和更高的效率逼近全局最优并且尽可能稀疏的解。

由图2所示，由于f_σ(s_i)的逼近曲线是光滑可导的，因此相对于最小L0范数和L1范数，更加容易求得F_σ(s)的微分形式。由此得到目标损失函数L(s)在s处的梯度表达式为：

值得注意的是，在求解损失函数的过程中，σ的收缩使得F_σ(s)更加接近L0范数，这时

项的误差值也随之减小，为了获取更加精确的稀疏表示向量s，采取的方式是在迭代过程中逐渐增加

项的权重，这样F_σ(s)的权重就相应下降，这样就能更加精确地求解出原始信号。因此，λ可以设置成一个和

的值成正比的相应递减序列，通过这种方式λ可以根据

的值进行自适应的调节，于是λ可以表示为：

λ＝0.1||Θs-y||_∞. (13)

采用梯度投影的方式对近似逼近L0范数的目标损失函数(11)进行求解，梯度投影的具体实现步骤为：

(1)输入：传感矩阵Θ＝ΦΨ，测量值向量y；

(2)初始化：迭代次数k，k＝0，s初始化为s⁽⁰⁾，s⁽⁰⁾＝Θ^⊥y，Θ^⊥为Θ的伪逆，Θ^⊥＝(Θ^TΘ)^-1Θ^T。模型参数σ的收缩序列，σ＝[σ₀,σ₁,σ₂,...,σ_k]＝[σ₀,βσ₀,β²σ₀,...,β^kσ₀]。λ⁽⁰⁾＝0.1||Θs⁽⁰⁾-y||_∞，初始迭代步长μ⁽⁰⁾，

如果(δ^(k))^TAδ^(k)＝0，μ^(k)＝1；

(3)梯度投影的第k次迭代：

·σ＝σ_k，

·梯度下降方向

·在梯度方向对s进行更新s^(k)＝s+μ^(k)δ^(k)，

·约束正交投影

s^(k)＝s^(k)-Θ^⊥(Θs^(k)-y)， (15)

·

(4)如果算法收敛并且满足终止条件：

停止迭代，ξ为迭代终止参数，

为s的最终解。否者，k＝k+1，返回步骤(3)直到满足终止条件；

(5)最后，重构原始信号的值为

为了验证本发明所提出方法的有效性，进行了压缩感知图像重构实验。根据双侧投影方式，图像的采样率为(m/n)²，我们在m＝86和n＝256的情况下对Building和House图像进行重构。将本发明中所提出的方法和压缩感知常用的追踪类贪婪算法以及最小范数类算法进行比较，这些比较的算法有：正交匹配追踪算法(OMP)、正则化正交匹配追踪算法(ROMP)，迭代加权最小均方算法(IRLS)、L1范数基追踪算法(L1_BP)、L1范数最小二乘算法(L1_LS)，本发明中我们提出的逼近近似L0范数算法取名为AL0M算法。本发明中算法参数设置为：σ₀＝1，β＝0.5，ξ＝0.01。

通过不同算法重构Building以及House图像的结果分别如图3和图4所示，将图3(a)和图4(a)中红色虚线框标记区域进行放大显示，表1给出了重建Building以及House图像的峰值信噪比(PSNR)、结构相似度(SSIM)以及图像重构时间的数据统计。

表1重建Building和House图像的峰值信噪比(PSNR)、结构相似度(SSIM)和重构时间的数据统计

通过图3和图4以及其中被放大的显示区域，可以知道，和压缩感知常用的传统算法相比，本发明提出的方法重构图像具有更好的视觉质量、更高的对比度、更丰富的图像细节以及更少的图像失真和噪声。而且，根据表一定量的数据结果，本发明提出的方法耗费更短的时间重建了更高精度的图像，尽管ROMP算法重构图像的时间更短，但是ROMP算法重构图像具有较差的视觉质量和较低的图像精度，本发明的方式重建图像具有最高的峰值信噪比和结构相似度。

综上所述，在压缩感知图像重构中，本发明提出一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，基于反正切函数提出了一种全新的逼近L0范数的数学模型，在我们提出的算法迭代过程中，通过对模型参数的收缩，实现了由凸优化算法向非凸优化算法的动态逼近，并且实现了目标损失函数权重的自适应调节。相较于传统算法，本发明中提出的方法在重建原始信号时以更大的概率和更高的效率去逼近全局最优并且尽可能稀疏的解，由此在更短的时间内重建出更高质量和更高精度的图像。本发明提出的方法对压缩感知信号重构中近似L0范数算法更深入的研究具有启发意义，同时在解决信号处理问题中具有实际的应用价值。

本发明未详细阐述部分属于本领域技术人员的公知技术。

本技术领域中的普通技术人员应当认识到，以上的实施例仅是用来说明本发明，而并非用作为对本发明的限定，只要在本发明的实质精神范围内，对以上所述实施例变化、变型都将落在本发明权利要求书的范围内。

Claims (5)

1.一种基于反正切函数逼近近似L0范数的压缩感知图像重构方法，其特征是：该方法包括如下步骤：

步骤1、在压缩感知图像重构算法中，为了充分利用凸优化算法和非凸优化算法各自的优点，实现从凸优化向L0范数非凸优化的逼近，设计一种反正切的数学模型，用以模拟信号稀疏系数的范数表示；

步骤2、在这个反正切函数模型中设置一个调节参数，通过对这个模型参数的收缩，实现算法从凸优化向L0范数非凸优化的近似逼近；

步骤3、使用这个反正切函数数学模型项和信号重构误差项构造目标损失函数，通过对这两项的同时最小化，目标损失函数为：

其中，L(s)为需要最小化的目标损失函数，s稀疏信号向量，λ为权重参数，Φ为测量矩阵，Ψ为稀疏基，y为测量信号，σ为模型参数，F_σ(s)和

两项分别保证重建信号的稀疏度和重构信号的精度；

同时在迭代过程中，根据重构误差自适应地去调节目标函数中两项的权重，从而达到更加精确重构信号的目的；

步骤4、使用梯度投影的方式对上述目标函数进行最小化求解，在梯度投影算法的迭代过程中，不断收缩模型参数的值，从而实现向近似L0范数算法的逼近，最后重构出原始信号。

2.根据权利要求1所述的一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，其特征是：通过提出一种反正切函数的数学模型，通过设置模型参数来调节反正切函数的曲率，从而实现近似地表达稀疏信号的范数形式。

3.根据权利要求1所述的一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，其特征是：提出的目标函数包括反正切数学模型项和信号重构误差项，这两项分别保证了重构信号的稀疏度和信号重构的精度；在迭代求解的过程中，把反正切函数模型项的权重参数设置为与信号重构误差项成正比的值，通过这种方式实现了对目标损失函数中两项权重的自适应调节，从而在保证重构信号稀疏度的同时提高信号重构的精度。

4.根据权利要求1所述的一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，其特征是：使用梯度投影的方式对目标函数进行最小化，在算法迭代过程中，通过不断收缩反正切函数模型中的调节参数，间接地实现算法从凸优化向近似L0范数非凸优化的迭代逼近，从而巧妙地避开了最小L1范数在零点处不解析的问题。

5.根据权利要求2或3或4所述的一种基于反正切函数的逼近近似L0范数的压缩感知图像重构方法，其特征是：通过提出反正切函数模型的方式来实现向近似L0范数的迭代逼近，在算法迭代的开始阶段算法倾向于凸优化求解，这样在开始是就能使所求得的以更大的概率落在全局最优解的附近，提高了算法求解全局最优值的效率；然后通过不断收缩模型参数来实现向非凸优化的L0范数逼近，这个过程是逐渐求解最稀疏解的过程；因此通过以上方式该方法就能以更大的概率和更高的效率去逼近全局最优并且尽可能稀疏的解，从而实现了在更短的时间内重构出更高精度的原始信号或者图像。

Images