CN105488759B - 一种基于局部回归模型的图像超分辨率重建方法 - Google Patents
一种基于局部回归模型的图像超分辨率重建方法 Download PDFInfo
- Publication number
- CN105488759B CN105488759B CN201510902909.0A CN201510902909A CN105488759B CN 105488759 B CN105488759 B CN 105488759B CN 201510902909 A CN201510902909 A CN 201510902909A CN 105488759 B CN105488759 B CN 105488759B
- Authority
- CN
- China
- Prior art keywords
- block
- image
- resolution
- low
- dictionary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012549 training Methods 0.000 claims abstract description 18
- 230000006870 function Effects 0.000 claims abstract description 10
- 238000010801 machine learning Methods 0.000 claims abstract description 6
- 238000013507 mapping Methods 0.000 claims abstract description 4
- 238000001914 filtration Methods 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 claims description 4
- 230000003321 amplification Effects 0.000 claims description 3
- 238000002939 conjugate gradient method Methods 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 3
- 230000015572 biosynthetic process Effects 0.000 claims 1
- 238000003786 synthesis reaction Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012876 topography Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种基于局部回归模型的图像超分辨率重建方法,首先,对输入低分辨率图像,高斯低通滤波得到其低频带图像,双立方插值得到输出高分辨率图像的近似低频带图像。其次,重建时对高分辨率图像的低频带图像中每个图像块应用一阶回归模型,回归模型中高/低图像间的映射函数可对输入图像通过机器学习的方法得到,即利用输入低分辨率图像及其低频带图像对应位置采样得到对应位样本图像块对进行字典训练。最后,重建图像块的非局部自相似块分别应用一阶回归模型,加权综合得到重建的高分辨率图像块。本发明所提出方法无需利用外部图像模型,而是利用输入图像自身学习得到先验模型,依此模型重建出的高分辨图像取得了较好的主客观重建效果。
Description
技术领域
本发明涉及图像超分辨率重建的技术领域,特别是涉及一种基于局部回归模型的图像超分辨率重建方法。
背景技术
大部分数字图像应用中都需要高分辨率图像来分析和处理。图像分辨率描述的是图像细节,所以更高分辨率的图像就具有更多的细节。获得高分辨率图像最直接的方法就是用具有更好的棱镜和光学处理器的相机,但由于物理原因,这种方法具有局限性有时甚至不可实现,而且常常需要对无法再次采集的已有图像提高分辨率。因而实用的方法是是基于信号处理和机器学习的方法做超分辨率图像重建。超分辨率图像重建意图冲破图像获取时的限制来增强图像的分辨率,并可以提高很多图像处理应用的性能。
由于很多不同的高分辨率图像能产生相同的低分辨率图像,因此超分辨率图像重建问题是一个病态问题,必须依赖一些图像先验才能得到稳健的估计结果。常见的图像先验是简单的“平滑”先验,如,双立方插值。当一幅图像包含尖锐的不连续区域,如边缘、转角等,简单的“平滑”先验用于超分辨率重建是就会产生振铃、锯齿、模糊和重影等问题。因此,更理想的统计图像先验是从自然图像中学习得到的。纵然自然图像是稀疏信号,仅用少量参数来表示其丰富的特征也是不可能的,基于样本的非参数方法用训练样本低/高分辨率图像块整体来用于预测高分辨率图像中丢失的高频分量。但这些方法需要大量的训练块,使其计算的有效性不强。
目前很多超分辨率算法利用图像具有大量自相似性的事实,即,局部图像结构会在不同的图像尺度重复出现,因此,图像超分辨率问题可以用这些样本而不是外部的数据库来做正则化。Glasner等就提出一种用不同图像尺度的自相似样本块来正则化超分辨率重建问题的框架。Yang等开发一种利用低分辨率图像建造的图像金字塔提取图像块对进行字典学习的超分辨率算法。Freedman则利用样本图像块的局部自相似假设和迭代上采样低分辨率图像扩展了基于样本超分辨率重建框架。
目前这类利用局部图像结构自相似性的图像超分辨率重建方法大多需要额外的训练样本作为重建的先验模型,而训练样本中的局部图像结构与待重建图像的局部图像结构对重建的质量的影响较大,有一些超分辨率重建方法的模型框架过于复杂,计算复杂度也过高。
发明内容
本发明的目的是提供一种基于局部回归模型的图像超分辨率重建方法,学习得到的字典可以更准确的反映出图像的先验模型,并将该模型应用到超分辨率重建中。
一种基于局部回归模型的图像超分辨率重建方法,包括如下步骤,
步骤1:读入待重建低分辨率图像X0,放大因子s;
步骤2:对X0高斯低通滤波得到其低频带图像Y0,对X0双立方插值近似输出高分辨率图像的低频带图像Y;
步骤3:对Y划分成互相重叠的大小为a×a的图像块y;
步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Y0中的对应位(ir,jr),其中得到y在Y0和X0中的对应位相似样本块对{y0,x0};
步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块x,公式如下:
步骤6:计算步骤3得到的图像块y的非局部自相似块的对应位相似样本块对组分别执行步骤5,将计算结果加权求和,公式如下:
权值wp可通过共轭梯度法求解下列公式得到:
其中,
步骤7:对所有高分辨率图像块x叠加平均,得到高分辨率图像X。
所述步骤5中映射梯度函数▽f利用对应位图像块对通过机器学习的方法得到字典,来表示图像的先验模型,方法如下:
步骤501)从输入图像X0、其低频带图像Y0的对应位置采样得到Q个对应位样本图像
块对
步骤502)将x0与y0之间的残差作为字典训练中高分辨率样本块向量字典训练中的低分辨率样本块向量是将两组训练样本联
合起来同时训练,则用于字典训练的图像块对为其中norm(.)为
归一化处理,M、N分别为高、低图像特征块的矢量维数;
步骤503)目标字典为用高斯随机矩阵初始化字典D∈R(M+N)×K,其中Dh
∈RM×K,Dl∈RN×K,K为字典中原子的个数,D的每列需作归一化处理;
步骤504)迭代直至收敛:
a)固定D,用线性规划方法更新Λ;
b)固定Λ,用Lasso算法更新D:
步骤505)得到高低字典对{Dh,Dl};
步骤506)对于待重建图像块y,由下式求出其对应位样本块对{y0,x0}在低分辨率字典Dl下的稀疏解向量
其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综合;一维滤波器组函数为:
f1=[-1,0,1],f2=f1 T,f3=[-1,2,-1],f4=f3 T (7)
步骤507)对于待重建图像块y,其对应位样本块对{y0,x0}的映射梯度函数▽f为:
▽f(y0)=Dhα* (8)。
所述方法的步骤6中图像块y的非局部自相似块的搜索方法如下:
步骤601)以(ir,jr)为中心,在Y0上一个13*13大小的窗内对所有块计算其与待重
建块间的欧式距离
步骤602)如有dp≤t,块被选为y的非局部相似块,其中t是预设的阈值,或者是与y最相似的前J个块。
本发明在利用局部一阶回归模型,充分利用局部图像结构会在不同的图像尺度重复出现的事实,无需使用外部图像模型,直接对输入图像块用机器学习的方法学习得到先验模型,用于重建时该先验模型较外部图像模型更准确。在应用局部回归模型重建时,对图像中非局部自相似块分别重建,通过加权综合得到最终的重建结果。该发明的重建主客观质量上较现有算法都有提高。
附图说明
图1为基于局部回归模型的图像超分辨率重建方法实施例的整体流程图;
图2为非局部自相似图像块的局部回归模型示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,本发明的一种基于局部回归模型的图像超分辨率重建方法,该方法具体实施步骤如下:
步骤1:读入待重建低分辨率图像X0,放大因子s;
步骤2:对X0高斯低通滤波得到其低频带图像Y0,对X0双立方插值近似输出高分辨率图像的低频带图像Y;
步骤3:对Y划分成互相重叠的大小为a×a的图像块y。
步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Y0中的对应位(ir,jr)得到其在Y0和X0中的对应位相似样本块对{y0,x0}。
步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块x,公式如下:
步骤6:搜索步骤3得到的图像块y的非局部自相似块,以(ir,jr)为中心,在Y0上一个足够大的窗内对所有块计算如有dp≤t,块被选为y的非局部相似块,其中t是预设的阈值,或者是与y最相似的前J个块。对非局部自相似块的对应位相似样本块对组分别进行步骤5,将计算结果加权求和,公式如下:
权值wp可通过共轭梯度法求解下列公式得到:
其中,
步骤7:对所有求出的高分辨率图像块x叠加平均得到高分辨率图像X。
其中,所述方法的步骤5中映射梯度函数▽f利用对应位图像块对通过机器学习的方法得到字典,来表示图像的先验模型。方法如下:
1)从输入图像X0、其低频带图像Y0的对应位置采样得到的对应位样本图像块对
2)将x0与y0之间的残差作为字典训练中高分辨率样本块向量
字典训练中的低分辨率样本块向量是将两组训练样本联合起来同时训练,
则用于字典训练的图像块对为其中norm(.)为归一化处理,M、N分
别为高、低图像特征块的矢量维数;
3)目标字典为用高斯随机矩阵初始化字典D∈R(M+N)×K,其中Dh∈RM×K,
Dl∈RN×K,K为字典中原子的个数,D的每列需作归一化处理;
4)迭代直至收敛:
a)固定D,用线性规划方法更新Λ
b)固定Λ,用Lasso(LEE H,BATTLE A,RAINA R,et al.Efficient sparse codingalgorithms[C]//.NIPS 2007:Advances in Neural Information Processing Systems,pp.801--808.)算法更新D
5)得到高低字典对{Dh,Dl}
6)对于待重建图像块y,可以由下式求出其对应位样本块对{y0,x0}在低分辨率字典Dl下的稀疏解向量
其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综合。一维滤波器组函数为:
f1=[-1,0,1],f2=f1 T,f3=[-1,2,-1],f4=f3 T (7)7)对于待重建图像块y,其对应位样本块对{y0,x0}的映射梯度函数▽f为:
▽f(y0)=Dhα* (8)
本发明方案所公开的技术手段不仅限于上述实施方式所公开的技术手段,还包括由以上技术特征任意组合所组成的技术方案。
Claims (3)
1.一种基于局部回归模型的图像超分辨率重建方法,其特征在于,包括如下步骤,
步骤1:读入待重建低分辨率图像X0,放大因子s;
步骤2:对X0高斯低通滤波得到其低频带图像Y0,对X0双立方插值近似输出高分辨率图像的低频带图像Y;
步骤3:对Y划分成互相重叠的大小为a×a的图像块y;
步骤4:根据步骤3得到的图像块y的位置(i,j)找到其在Y0中的对应位(ir,jr),其中得到y在Y0和X0中的对应位相似样本块对{y0,x0};
步骤5:由一阶局部回归模型计算步骤3得到的图像块y的高分辨率图像块x,公式如下:
步骤6:搜索步骤3得到的图像块y的非局部自相似块,以(ir,jr)为中心,在Y0上一个足够大的窗内对所有块计算如有dp≤t,块被选为y的非局部相似块,其中t是预设的阈值,或者是与y最相似的前J个块;对非局部自相似块的对应位相似样本块对分别执行步骤5,将计算结果加权求和,公式如下:
权值wp可通过共轭梯度法求解下列公式得到:
其中,w=[w1,w2,...wp,...wJ];γ为预设的是正则化因子,I是单位阵;
步骤7:对所有像素重叠的高分辨率图像块x叠加平均,得到高分辨率图像X。
2.根据权利要求1所述的基于局部回归模型的图像超分辨率重建方法,其特征在于,所述步骤5中映射梯度函数▽f利用对应位图像块对通过机器学习的方法得到字典,来表示图像的先验模型,方法如下:
步骤501)从输入图像X0、其低频带图像Y0的对应位置采样得到Q个对应位样本图像块对
步骤502)将x0与y0之间的残差作为字典训练中高分辨率样本块向量字典训练中的低分辨率样本块向量是将两组训练样本联合起来同时训练,则用于字典训练的图像块对为其中norm(.)为归一化处理,M、N分别为高、低图像特征块的矢量维数;
步骤503)目标字典为用高斯随机矩阵初始化字典D∈R(M+N)×K,R表示实数集;其中Dh∈RM×K,Dl∈RN×K,K为字典中原子的个数,D的每列需作归一化处理;
步骤504)迭代直至收敛:
a)固定D,用线性规划方法更新Λ;
λ为线性规划方法中所使用的更新系数;
b)固定Λ,用Lasso算法更新D:
其中,Di为D的列向量;
步骤505)得到高低字典对{Dh,Dl};
步骤506)对于待重建图像块y,由下式求出其对应位样本块对{y0,x0}在低分辨率字典Dl下的稀疏解向量
其中,F是特征提取算子,是将下列一维滤波器组应用到图像上得到的响应的综合;一维滤波器组函数为:
f1=[-1,0,1],f2=f1 T,f3=[-1,2,-1],f4=f3 T (7)
步骤507)对于待重建图像块y,其对应位样本块对{y0,x0}的映射梯度函数▽f为:
▽f(y0)=Dhα* (8)。
3.根据权利要求1所述的基于局部回归模型的图像超分辨率重建方法,其特征在于,所述方法的步骤6中图像块y的非局部自相似块的搜索方法如下:
步骤601)以(ir,jr)为中心,在Y0上一个13*13大小的窗内计算所有块与待重建块间的欧式距离
步骤602)如有dp≤t,块被选为y的非局部相似块,其中t是预设的阈值,或者是与y最相似的前J个块。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510902909.0A CN105488759B (zh) | 2015-12-09 | 2015-12-09 | 一种基于局部回归模型的图像超分辨率重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510902909.0A CN105488759B (zh) | 2015-12-09 | 2015-12-09 | 一种基于局部回归模型的图像超分辨率重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105488759A CN105488759A (zh) | 2016-04-13 |
CN105488759B true CN105488759B (zh) | 2019-06-04 |
Family
ID=55675724
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510902909.0A Active CN105488759B (zh) | 2015-12-09 | 2015-12-09 | 一种基于局部回归模型的图像超分辨率重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105488759B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105931181B (zh) * | 2016-04-14 | 2018-10-26 | 武汉大学 | 基于非耦合映射关系的影像超分辨率重建方法及系统 |
CN106101557B (zh) * | 2016-07-29 | 2018-03-30 | 广东欧珀移动通信有限公司 | 镜头变焦方法和装置及移动终端 |
CN106846286B (zh) * | 2017-01-05 | 2019-10-29 | 四川大学 | 基于多种互补先验的视频超分辨率重建算法 |
CN107038730B (zh) * | 2017-03-30 | 2020-09-11 | 湖北工业大学 | 基于高斯尺度结构块分组的稀疏表示图像重建方法 |
CN108492270B (zh) * | 2018-03-23 | 2021-09-21 | 沈阳理工大学 | 一种基于模糊核估计和变分重构的超分辨率方法 |
CN112581367B (zh) * | 2020-12-01 | 2023-06-30 | 南京理工大学 | 基于随机样本分类增扩的gpr图像超分辨率重建方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101794440A (zh) * | 2010-03-12 | 2010-08-04 | 东南大学 | 图像序列的加权自适应超分辨率重建方法 |
CN104008538A (zh) * | 2014-05-12 | 2014-08-27 | 清华大学 | 基于单张图像超分辨率方法 |
-
2015
- 2015-12-09 CN CN201510902909.0A patent/CN105488759B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101794440A (zh) * | 2010-03-12 | 2010-08-04 | 东南大学 | 图像序列的加权自适应超分辨率重建方法 |
CN104008538A (zh) * | 2014-05-12 | 2014-08-27 | 清华大学 | 基于单张图像超分辨率方法 |
Non-Patent Citations (3)
Title |
---|
Edge Directed Single Image Super Resolution Through the Learning Based Gradient Regression Estimation;Dandan Si等;《Springer International Publishing Switzerland 2015》;20150804;第9218卷;第226-239页 |
Image Super-Resolution via Sparse Representation;Jianchao Yang等;《IEEE Transactions on Image Processing (TIP)》;20100101;第1-13页 |
基于局部回归的快速超分辨率技术研究;顾舒航等;《中国优秀硕士学位论文全文数据库 信息科技辑》;20140615;第2014年卷(第06期);第I138-822页 |
Also Published As
Publication number | Publication date |
---|---|
CN105488759A (zh) | 2016-04-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105488759B (zh) | 一种基于局部回归模型的图像超分辨率重建方法 | |
CN111047516B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN110119780B (zh) | 基于生成对抗网络的高光谱图像超分辨重建方法 | |
CN110443842B (zh) | 基于视角融合的深度图预测方法 | |
CN106952228A (zh) | 基于图像非局部自相似性的单幅图像的超分辨率重建方法 | |
CN102136144B (zh) | 图像配准可靠性模型和超分辨率图像的重构方法 | |
CN109636721B (zh) | 基于对抗学习和注意力机制的视频超分辨率方法 | |
Chen et al. | Convolutional neural network based dem super resolution | |
Huang et al. | Deep hyperspectral image fusion network with iterative spatio-spectral regularization | |
CN109146787B (zh) | 一种基于插值的双相机光谱成像系统的实时重建方法 | |
CN102915527A (zh) | 基于形态学成分分析的人脸图像超分辨率重建方法 | |
CN105046672A (zh) | 一种图像超分辨率重建方法 | |
CN110349087B (zh) | 基于适应性卷积的rgb-d图像高质量网格生成方法 | |
CN103020898B (zh) | 序列虹膜图像超分辨率重建方法 | |
CN113762147B (zh) | 人脸表情迁移方法、装置、电子设备及存储介质 | |
Wei et al. | Improving resolution of medical images with deep dense convolutional neural network | |
Fan et al. | A segmentation-aware deep fusion network for compressed sensing mri | |
CN113807361A (zh) | 神经网络、目标检测方法、神经网络训练方法及相关产品 | |
CN106981046B (zh) | 基于多层梯度约束回归的单幅图像超分辨率重建方法 | |
CN104091364B (zh) | 单幅图像超分辨重建方法 | |
CN112508786B (zh) | 面向卫星图像的任意尺度超分辨率重建方法及系统 | |
CN111696167A (zh) | 自范例学习引导的单张影像超分辨率重构方法 | |
CN112686830A (zh) | 基于图像分解的单一深度图的超分辨率方法 | |
CN104182931A (zh) | 超分辨率方法和装置 | |
CN108986027A (zh) | 基于改进的联合三边滤波器的深度图像超分辨重建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |