CN110288525B - 一种多字典超分辨率图像重建方法 - Google Patents

Abstract

本发明公开了一种多字典超分辨率图像重建方法，考虑到使用全局字典进行超分辨率重建会忽略图像块结构多样化的特性，提出一种利用高斯混合模型对外部图像的先验信息进行训练进而引导多字典构造的超分辨率重建方法。本发明解决了全局字典无法兼顾各种不同类型图像块特征这一不足，有效提高图像的重建质量。

Description

一种多字典超分辨率图像重建方法

本发明属于图像处理技术领域，涉及一种多字典超分辨率图像重建方法。

背景技术

超分辨率重建技术作为图像处理领域的一个重要分支，在医学成像、公共安全、遥感成像、高清电视和工农业生产等方面均有广泛的应用。目前主流的超分辨率研究方法就是软件方案，基于软件的单帧图像超分辨率按照先验信息的不同可分为基于预测建模的超分辨率图像重建、基于边缘的超分辨率图像重建、基于统计规律的超分辨率图像重建和基于块的图像超分辨率重建，其中基于块的图像超分辨率重建的方法主要有：基于样例学习的方法、邻域嵌入法和基于稀疏表示的方法。

基于稀疏表示的方法其过程可以分为3个阶段：训练样本集的构造、训练学习字典、超分辨率图像的重建。通常训练图像块的结构是多样化的，具有不同结构特征的图像块所具有的先验信息也是不同的，基于稀疏表示的图像超分辨率重建方法通常使用全局学习字典，使用全局字典进行超分辨率重建会忽略图像块结构多样化的特性。

发明内容

针对现有技术存在的不足，本发明的目的在于，提出一种多字典超分辨率图像重建方法，基于高分辨率字典和低分辨率字典以及相应的稀疏表示系数，解决目前基于稀疏表示的图像超分辨率重建方法没有考虑到图像块结构多样化这一问题。

为了解决上述技术问题，本发明采用如下技术方案予以实现：

一种多字典超分辨率图像重建方法，本方法是对待重建的低分辨率图像LR进行图像重建得到高分辨率图像HR，包括以下步骤：

步骤1对LR经过双三次插值放大u倍得到中间分辨率图像MR，对MR采用滑动窗口算法搜索相似块得到多个中间分辨率块组，利用后验概率的计算公式将该待重建的自然图像的所有中间分辨率块组匹配为K个块组；

步骤2利用步骤1的多个中间分辨率块组，得到高分辨率图像HR的高分辨率图像块：

步骤2具体包括：

步骤2.1取自然界中的任意多幅图像组成待求解的自然图像集合，对该待求解的自然图像集合中的每一幅自然图像，采用滑动窗口算法搜索相似块组成块组z_i，对该待求解的自然图像集合的所有块组采用EM算法求解，得到包含K个分量的高斯混合模型；其中，z_i表示第i个块组，i取自然数，每个块组中包含多个相似图像块；

步骤2.2取自然界中不同于步骤2.1的任意多幅图像组成待训练的自然图像集合，对该待训练的自然图像集合中的每一幅自然图像，采用滑动窗口算法得到多个块组β_j，β_j表示第j个块组，j取自然数，利用后验概率的计算公式将该待训练的自然图像集合的所有块组β_j匹配到K个分量中，得到K类训练样本；

后验概率的计算公式为：

其中，P(k|β_j)表示β_j被分配到第k个分量的概率，k表示K个分量中的第K个分量，k＝1,2,3,...,K，I是一个单位阵，Σ_k表示高斯混合模型第k个分量的协方差矩阵，σ表示第k个分量中相似图像块标准差，N(β_j|0,Σ_k+σ²I)表示β_j满足均值为0，方差为Σ_k+σ²I的概率；Q表示待训练的自然图像集合的所有块组的数目，q为自然数，q最大取值为Q；S表示待训练的自然图像集合的每个块组中含有的相似图像块的数目，s为自然数，s最大取值为S，β_s表示β_s的均值；

步骤2.3对k类训练样本分别采用K-SVD字典训练方法进行训练，得到K对低分辨率字典D^lk和与D^lk相应的K对高分辨率字典D^hk，每类训练样本对应一对高分辨率字典D^hk和低分辨率字典D^lk；

步骤2.4利用OMP算法依次计算步骤1得到的中间分辨率块组的每一相似块在其对应的低分辨率字典D^lk下的稀疏表示系数；

步骤2.5将该类块的稀疏表示系数与对应的高分辨率字典D^hk相乘得到高频成分，再将高频成分与步骤1得到的相似块求和得到高分辨率图像块；

步骤3将高分辨率图像块融合后得到高分辨率图像HR。

其中，步骤2.2中，利用后验概率的计算公式将所有块组β_j匹配到步骤2.1得到的高斯混合模型的K个分量中，具体包括：利用后验概率P(k|β_j)的计算公式，计算每个块组β_j与K个分量中的每一个分量的后验概率值，将这一块组分配到最大的后验概率值对应的分量中。

其中，步骤2.4中，利用OMP算法依次计算中间分辨率块组在低分辨率字典D^lk下相应的稀疏表示系数，具体包括：

步骤2.3.1将步骤1的多个中间分辨率块组，利用后验概率的计算公式寻找每个中间分辨率块组属于高斯混合模型的哪个分量；

步骤2.3.2对每个相似块，利用滤波模板计算一阶梯度特征和二阶梯度特征得到特征矢量，对特征矢量在每个相似块所在中间分辨率块组对应的分量的低分辨率字典D_lk下采用OMP算法，计算得到低分辨率字典D_lk相应的稀疏表示系数。

其中，步骤3中，将高分辨率图像块融合去除块效应得到高分辨率图像。

本发明与现有技术相比，具有如下技术效果：

本发明考虑了自然图像块结构多样化这一特性，不同于现有的全局字典训练，本发明基于高分辨率字典和低分辨率字典以及相应的稀疏表示系数，构造了一种多字典的方式，解决全局字典无法兼顾各种不同类型图像块特征的问题。

下面结合附图和具体实施方式对本发明的方案做进一步解释和说明。

附图说明

图1是本发明的方法流程图。

图2给出了本发明的超分辨率重建过程，其中Bicubic amlifucation是双三次差值放大方法，take patches是指取块处理，GMM是指通过高斯混合模型指导分类，featureextraction是指特征提取得到patch feature vectors(图像块组特征矢量)，kthcategory HR patches是指第k类高分辨率块组，remove the patch effect是指去除块效应操作。

图3是三幅低分辨率测试图像。

图4、图5和图6是各种方法对于三幅测试图像的SR重建结果，图4为Butterfly图像放大2倍的重建结果，图5为Parrot图像放大2倍的重建结果，图6为Comic图像放大2倍的重建结果，其中，(a)是HR原图，(b)是LR图像经过双三次插值后得到的HR图像，(c)是CSC重建的结果，(d)是NCSR的结果，(e)是ANR的重建结果，(f)是Far的重建结果，(g)是yang的重建结果，(h)是本文方法的重建结果。

具体实施方式

实施例1：

本实施例提出一种多字典超分辨率图像重建方法，包括以下步骤：

步骤一，取自然界中多幅自然图像，组成待求解的自然图像集合，该集合中的图像可以在自然中任意选取，目的是为了求解得到包含K个分量的高斯混合模型来训练别的图像，选取的图像不会影响算法结果，对多幅自然图像中的每一幅取块，采用滑动窗口算法，进行取块处理，构成图像块集合，对图像块进行训练生成含有K个分量的高斯混合模型，训练得到的模型信息即为外部先验信息，此处的多幅自然图像，可取自自然界任意处的图像。本步骤为常规步骤，可按照常用的算法求解得到，也可以按照本实施例给出的如下的具体实施步骤实施：

步骤1.1：对于一系列自然图像组成的样本而言，首先定义一个局部图像块(5*5)，在(15*15)大小的窗口下遍历所有自然图像进行相似块的搜索，我们可以提取出相似块组，这些相似块组包含非局部自相似先验信息，非局部自相似先验信息是本领域图像取块处理时一种定义方式，本领域公知，这些块组可以定义为：

其中，z_i表示第i个块组，N表示块组数量，M表示每一个块组中相似图像块的数目，x_m,i表示第i个块组的第m个相似块。

步骤1.2：假定所有的图像块都是独立采样，训练包含K个分量的高斯混合模型，具体训练就是求解下式的目标函数：

其中，μ_k表示GMM(高斯混合模型)中第k个分量的均值，Σ_k表示GMM中第k个分量的协方差矩阵，π_i(i＝1,2,3,…K)是高斯混合模型的混合系数。

具体求解高斯混合模型参数的方法是交替求解下述两个步骤，具体公式如下：

步骤1.2.1：通常通过引入一个隐藏变量Δ_nk(n＝1,2,…,N；k＝1,2,…K)进行下述优化问题的求解，当图像块组z_i属于高斯混合模型的第k个分量时，

Δ_nk＝1，否则的话Δ_nk＝0，那么隐藏变量Δ_nk的期望就是γ_nk。

其中，

表示块组中每一个元素都减去块组均值。

步骤1.2.2：具体的求解公式为：

其中，其中，m表示z_i的维度，T表示转置。

步骤二，同样的取块处理方法，对待训练的自然图像取块，此处待训练的自然图像取自然界中任意图像，但不同于步骤一的图像。本方法中待训练的自然图像可以取自Yang的69幅自然图像(Yang J.,Wright J.,Huang T S.,et al.Image Super-Resolution ViaSparse Representation[J].IEEE Transactions on Image Processing,2010,19(11):2861-2873.)，在本方法的实施过程中，推荐使用Yang的69幅自然图像作为待训练的自然图像集合，原因在于Yang的69幅自然图像是本领域训练图像时采用的较为通用的数据集，对Yang的69幅自然图像进行取块，并将相似的局部图像块形成块组，对于所有的块组，根据训练好的高斯混合模型指导图像块组进行分类，利用最大后验概率寻找该块组属于高斯混合模型的哪一个分量，得到K类训练样本，具体的步骤如下：

对69幅自然图像取块处理，然后对于每一个局部块，在大小为w×w的窗口寻找其相似的块形成块组PG，分别计算每一个PG属于K个高斯分量的概率，找出K个概率中的最大概率所对应的分量，将PG分配到该分量中，得到K类训练样本。

具体地计算公式如下所示：

其中，β_j表示第j个块组，r表示混合模型的分量，P(r|β_j)表示的是j个块组被分到第r个分量的概率，Q表示块组的数目(待训练高斯混合模型的M大小不同)，S表示每一个块组中相似图像块的数目(与待训练高斯混合模型的M大小相同)，Σ_r表示第一步训练好的高斯混合模型的第r个分量的协方差矩阵，I是一个单位阵，

表示第s个图像块的均值，σ表示图像块的标准差，N(β_j|0,Σ_r+σ²I)表示第j个块组满足均值为0，方差为Σ_r+σ²I的概率，每个PG属于对应后验概率最大的那一个分量，所有的样本块分到PG后，都会被分到K类分量中。

步骤三，对K类训练样本分别采用K-SVD字典训练方法进行学习，得到K对高分辨率字典D^hk和相应的低分辨率字典D^lk，本步骤为常规步骤，可按照常用的算法求解得到，也可以按照本实施例给出的如下的具体实施步骤实施：

步骤3.1：将K类样本中的每块图像采样，经双三次插值放大两倍组成中间分辨率图像块。

步骤3.2：计算第k类中的每个图像块减去其对应的中间分辨率信息，作为HR训练集U_hk。

步骤3.3：计算中间分辨率图像块的一阶和二阶梯度，作为LR训练集合U_lk。

步骤3.4：利用K-SVD算法，求解下式的最小化问题：

其中，D_lk表示第k类的LR过完备字典，A＝{α_k}表示稀疏系数，K₀表示α_k的稀疏性。

步骤3.5：计算第k类高分辨率字典，具体公式如下：

{D_hk}＝U_hk(A)^T(A(A)^T)^-1

步骤四，对待重建的LR图片经过双三次插值放大u倍得到中间分辨率图像MR，对MR进行取块，并搜索最相似的块构建块组，利用后验概率寻找每一个块组属于哪一个高斯混合模型的分量，具体步骤如下：

步骤4.1：将LR图像Y经过双三次放大u倍(例如2倍)得到MR图像Y’，对MR图像取块y，每个图像块大小为5×5，步长为1。

步骤4.2：对每个图像块在W×W大小的窗口内进行搜索M个最相似的块形成块组。然后，对于所有的块组，利用后验概率寻找其属于哪一个高斯混合模型的分量。例如，对于MR的某个中间分辨率块组W，利用后验概率计算公式计算中间分辨率块组W与K个分量的后验概率值，找出后验概率值最大的分量，即为该中间分辨率块组W对应的分量，在前述步骤中，对于每一个高斯混合模型的分量，已经得到了该分量对应的高低分辨率字典，所以等于是为中间分辨率块组W寻找到了对应的高低分辨率字典。

步骤五，对中间分辨率块组W中的每一个相似块，利用滤波模板计算一阶梯度和二阶梯度特征得到特征矢量，利用特征矢量和中间分辨率块组W对应的低分辨率字典，采用OMP算法计算稀疏表示系数A＝{α_k}。本步骤为常规步骤，可按照常用OMP算法求解得到：

例如，得到特征矢量的过程如下：

利用四个滤波模板得到四幅特征图I₁、I₂、I₃和I₄。如果要提取这类块组中图像块x_i时，取出该图像块x_i在I₁、I₂、I₃和I₄中对应位置的块作为特征块。将四个特征块按照列优先的顺序分别放入四个特征列向量中：v₁,v₂,v₃,v₄。将四个列向量组合为一个列向量V，即为特征向量

提取一阶梯度和二阶梯度滤波模板，滤波模板是图像处理领域常用术，提取方法公知，如下：

f₁＝[-1,0,1]f₂＝f₁ ^T

f₃＝[1,0,-2,0,1]f₄＝f₃ ^T

步骤六，利用上一步计算出的每一个块的稀疏系数和中间分辨率块组W相应的高分辨率字典D_hk，相乘计算高频成分，与对应的相似块求和，就得到了高分辨率图像块x_ik；

步骤七，将所有高分辨率图像块放回中间分辨率MR图像中(即放回相应的位置，融合)，并去除块效应得到最终的高分辨率图像X。

以下为本发明的实验结果验证分析：

本实验块组中块的数目M和S的取值为10，高斯分量数目K的取值为12,σ取值为0.002，放大倍数u取2。本实验采用的对比方法包括：双三次插值，yang,CSC,Far,NCSR和ANR方法。对比方法的数值实现代码都是从作者的个人主页下载：

双三次直接调用matlab的库函数，

Yang代码下载链接:http://www.ifp.illinois.edu/～jyang29/codes/ScSR.rar

CSC代码下载链接:http://www4.comp.polyu.edu.hk/～cslzhang/code/CSCSR.Zip

Far代码获取渠道：https://www.researchgate.net/profile/Fahimeh_FarhadifardNCSR代码下载链接http://see.xidian.edu.cn/faculty/wsdong/Data/NCSR.rarANR代码下载链接为：

http://www.vision.ee.ethz.ch/～timofter/software/SR_NE_ANR.zip

参数设置遵照其中原文给出的参数。图3是三幅低分辨率测试图像，图4、图5和图6是各种方法对于三幅测试图像的SR重建结果，其中(a)是HR原图，(b)是LR图像经过双三次插值后得到的HR图像，(c)是CSC重建的结果，(d)是NCSR的结果，(e)是ANR的重建结果，(f)是Far的重建结果，(g)是yang的重建结果，(h)是本文方法的重建结果。由结果图可知，我们的方法在花纹的边界几乎没有模糊现象，呈现出理想的重建效果。

为进一步说明本发明方法的有效性，表1展示了本文方法和几种对比方法在不同测试图像下的PSNR值。其中PSNR(Peak Signal to Noise Ratio)为峰值信噪比，单位是dB，数值越大表示失真越小。PSNR是最普遍和使用最为广泛的一种图像客观评价指标，它是基于对应像素点间的误差，即基于误差敏感的图像质量评价。从PSNR值来看，我们的方法在大部分图像上都具有较高的PSNR值，平均PSNR是所有方法中最高的。

表2展示了几种不同方法在测试图像下的SSIM。其中，SSIM(StructuralSimilarity)为结构相似性，也是一种全参考的图像质量评价指标，它分别从亮度、对比度、结构三方面度量图像相似性。SSIM取值范围[0,1]，值越大，表示图像失真越小。SSIM在图像去噪、图像相似度评价上是优于PSNR的。

以下是本实施例中用到的参考文献：

yang^[1],CSC^[2],Far^[3],NCSR^[4]和ANR^[5]：

[1]Yang J.,Wright J.,Huang T S.,et al.Image Super-Resolution ViaSparse Representation[J].IEEE Transactions on Image Processing,2010,19(11):2861-2873.

[2]Gu S.,Zuo W.,Xie Q.,et al.Convolutional Sparse Coding for ImageSuper-resolution[A].2015IEEE International Conference on Computer Vision(ICCV)[C].IEEE Computer Society,2015.

[3]Farhadifard F.,Abar E.,Nazzal M.,et al.Single image superresolution based on sparse representation via directionally structureddictionaries[A].Signal Processing and Communications Applications Conference(SIU),2014 22nd.IEEE[C].2014

[4]Dong W.,Zhang L.,Shi G.Nonlocally Centralized SparseRepresentation for Image Restoration[J].IEEE Transactions on ImageProcessing,2013,22(4):1618-1628.

[5]Timofte R.,De V.,Gool L V.Anchored Neighborhood Regression forFast Example-Based Super-Resolution[A].2013IEEE International Conference onComputer Vision(ICCV)[C].IEEE Computer Society,2013.

表1不同方法重建结果的PSNR值

表2不同方法重建结果的SSIM值

Claims (5)

1.一种多字典超分辨率图像重建方法，本方法是对待重建的低分辨率图像LR进行超分辨率重建得到超分辨率图像HR，其特征在于，包括以下步骤：

步骤1 取自然界中任意多幅自然图像组成自然图像集合Ⅰ，对自然图像集合Ⅰ采用滑动窗口算法搜索相似块得到多个块组，对所有块组采用EM算法求解，得到高斯混合模型，该高斯混合模型具有K个分量；

步骤2 取自然界中任意多幅自然图像组成自然图像集合Ⅱ，自然图像集合Ⅱ与自然图像集合Ⅰ无交集，对自然图像集合Ⅱ中的每一幅自然图像，采用滑动窗口算法搜索相似块组成多个块组，利用后验概率的计算公式将自然图像集合Ⅱ的所有块组匹配到K个分量中，得到K类训练样本；β_j表示第j个块组，j取自然数；

后验概率的计算公式如下：

其中，k表示K个分量中的第k个分量，k＝1,2,3,...,K，P(k|β_j)表示β_j被分配到第k个分量的概率，Γ是一个单位阵，Σ_k表示第k个分量的协方差矩阵，σ表示第k个分量的相似块标准差，N(β_j|0,Σ_k+σ²Γ)表示β_j满足均值为0，方差为Σ_k+σ²Γ的概率；

表示β_s的均值，Q表示自然图像集合Ⅱ的所有块组的数目，Q为自然数，q＝1,2,...,Q；S表示自然图像集合Ⅱ的每个块组中含有的相似块的数目，S为自然数，s＝1,2,...,S；

步骤3 对K类训练样本分别采用K-SVD字典训练方法进行训练，得到K个低分辨率字典D^l和与D^l相应的K个高分辨率字典D^h；

步骤4 对LR经过双三次插值放大得到中间分辨率图像MR，对MR采用滑动窗口算法搜索相似块组成多个中间分辨率块组，利用后验概率的计算公式找出每个中间分辨率块组所匹配的高斯混合模型的分量；

在所匹配的高斯混合模型的分量对应的低分辨率字典D^l下利用OMP算法依次计算对应每个中间分辨率块组中的每一个相似块的稀疏表示系数，将所匹配的高斯混合模型的分量对应的D^h和稀疏表示系数相乘得到高频成分；

步骤5 将中间分辨率块组的每一个相似块与每一个相似块对应的高频成分求和即得到超分辨率图像块，将超分辨率图像块融合后得到HR。

2.如权利要求1所述方法，其特征在于：步骤1中，对自然图像集合Ⅰ中的每一幅自然图像，采用滑动窗口算法搜索相似块得到多个块组z_i，对自然图像集合Ⅰ的所有块组采用EM算法求解，得到包含K个分量的高斯混合模型；其中，z_i表示第i个块组，i＝1,2,3,...,N，N表示块组的数目，K＜N。

3.如权利要求1所述方法，其特征在于：步骤2中，利用后验概率的计算公式将所有块组匹配到K个分量中，具体包括：利用后验概率的计算公式，计算每个块组与K个分量中的每一个分量的后验概率值，将这一块组分配到后验概率值的最大值对应的分量中。

4.如权利要求1所述方法，其特征在于：步骤4中，计算每个中间分辨率块组中的每一个相似块对应的稀疏表示系数，包括：

步骤4.1 利用后验概率的计算公式寻找每个中间分辨率块组对应的后验概率值的最大值对应的高斯混合模型的分量；

步骤4.2 对每个中间分辨率块组所包含的每一个相似块，利用滤波模板计算一阶梯度特征和二阶梯度特征得到特征矢量，对特征矢量在步骤4.1所述高斯混合模型的分量对应的低分辨率字典D^l下采用OMP算法，计算得到与低分辨率字典D^l相应的稀疏表示系数。

5.如权利要求1所述方法，其特征在于：步骤5中，将超分辨率图像块融合并去除块效应得到HR。

Images