CN108257108A - 一种超分辨率图像重建方法及系统 - Google Patents

一种超分辨率图像重建方法及系统 Download PDF

Info

Publication number
CN108257108A
CN108257108A CN201810120946.XA CN201810120946A CN108257108A CN 108257108 A CN108257108 A CN 108257108A CN 201810120946 A CN201810120946 A CN 201810120946A CN 108257108 A CN108257108 A CN 108257108A
Authority
CN
China
Prior art keywords
resolution
image
low
texture
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810120946.XA
Other languages
English (en)
Other versions
CN108257108B (zh
Inventor
端木春江
汪宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangyulaite Digital Technology Shanghai Co ltd
Original Assignee
Zhejiang Normal University CJNU
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhejiang Normal University CJNU filed Critical Zhejiang Normal University CJNU
Priority to CN201810120946.XA priority Critical patent/CN108257108B/zh
Publication of CN108257108A publication Critical patent/CN108257108A/zh
Application granted granted Critical
Publication of CN108257108B publication Critical patent/CN108257108B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明公开一种超分辨率图像重建方法。该重建方法包括:获取多幅低分辨率图像;将低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像,结构部分表示低分辨率图像的整体框架,纹理部分表示低分辨率图像的细节部分;根据低分辨率结构图像,获得高分辨率结构图像;将低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像;根据高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像;采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。本发明通过采用图像融合的方法和迭代反投影法,获得高分辨率图像,提高了图像超分辨率重建效果。

Description

一种超分辨率图像重建方法及系统
技术领域
本发明涉及图像重建领域,特别是涉及一种超分辨率图像重建方法及系统。
背景技术
超分辨率图像重建是指用一幅或多幅低分辨率图像通过算法转化成高分辨率图像的技术。
目前,超分辨率图像恢复重建主要分为基于插值、基于重建和基于学习的方法。基于插值的方法主要只有双线性插值法和双三次插值法,插值算法的重建效果有限,细节部分不丰富,图像比较模糊。基于重建的方法有迭代反投影法、凸集投影法和最大后验概率估计法,需要多幅高低分辨率图像样本进行训练获得先验知识,虽然能够有效引入先验信息而获得超过单帧插值法的超分辨率效果,但是配准误差的敏感性,可用图像的有限性等限制了重建算法的性能。基于学习的超分辨率方法主要是对大量的高低分辨率图像样本进行训练最终获得图像的先验知识,再对图像进行超分辨率重建。
上述方法对图像的超分辨率重建的效果都比较差,获得图像不清晰。
发明内容
本发明的目的是提供一种能够提高图像超分辨率重建效果的超分辨率图像重建方法及系统。
为实现上述目的,本发明提供了如下方案:
一种超分辨率图像重建方法,所述重建方法包括:
获取多幅低分辨率图像。
将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像,所述结构部分表示所述低分辨率图像的整体框架,所述纹理部分表示所述低分辨率图像的细节部分。
根据所述低分辨率结构图像,获得高分辨率结构图像。
将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像。
根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像。
采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
可选的,所述根据所述低分辨率结构图像,获得高分辨率结构图像具体包括:
将所述低分辨率结构图像采用插值滤波的方法计算所述结构部分,获得高分辨率结构图像。
可选的,所述将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像具体包括:
将所述低分辨率的图像采用K-SVD字典学习方法计算所述纹理部分,获得高分辨率字典和低分辨率字典。
将所述高分辨率字典和所述低分辨率字典采用基于1范数的同伦法算法恢复,获得高分辨率纹理图像。
为了实现上述目的,本发明还提供了如下方案:
一种超分辨率图像重建系统,所述重建系统包括:
低分辨率图像获取模块,用于获取多幅低分辨率图像。
分解模块与所述低分辨率图像获取模块连接,所述分解模块用于将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像。
高分辨率结构图像获取模块与所述分解模块连接,所述高分辨率结构图像获取模块用于根据所述低分辨率结构图像,获得高分辨率结构图像。
高分辨率纹理图像获取模块与所述分解模块连接,所述高分辨率纹理图像获取模块用于将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像。
融合模块分别与所述高分辨率纹理图像获取模块和所述高分辨率结构图像获取模块连接,所述融合模块用于根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像。
修正模块与所述融合模块连接,所述修正模块用于采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
根据本发明提供的具体实施例,本发明公开了以下技术效果:本发明公开了一种超分辨率图像重建方法及系统,根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像;采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像,提高了图像超分辨率的重建效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的超分辨率图像重建方法的流程图;
图2为本发明提供的超分辨率图像重建系统的结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明的目的是提供一种能够提高图像超分辨率重建效果的超分辨率图像重建方法及系统。
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合附图和具体实施方式对本发明作进一步详细的说明。
如图1所示的一种超分辨率图像重建方法的流程图,所述重建方法包括:
步骤100:获取多幅低分辨率图像,由于人眼对图像的亮度分量很敏感,首先将所述低分辨率图像分为YCbCr三个通道,然后选取Y通道分量的所述低分辨率图像。
步骤200:将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像,所述结构部分表示所述低分辨率图像的整体框架,所述纹理部分表示所述低分辨率图像的细节部分,使用迭代的方法对所述低分辨率图像进行分解,减少所述低分辨率结构图像中的全变分,直到得到稳定的结构部分和纹理部分。
迭代的具体方法包括:
其中,j表示迭代的次数,fm,n表示输入所述低分辨率图像在位置(m,n)处的像素值,wm,n是窗函数的系数,Im,n(j)表示第j次迭代的输出的所述低分辨率结构图像,ε(j)表示随着j增大逐渐变小的一个小数,λ1表示平衡系数;随着迭代次数的增加,Im,n(j)逐步趋于稳定,即ε1为极小数,此时,迭代终止,输出所述低分辨率结构图像Im,n(j+1)和所述低分辨率纹理图像fm,n-Im,n(j+1),符号表示卷积运算,表示求矢量的散度。
步骤300:根据所述低分辨率结构图像,获得高分辨率结构图像,采用插值滤波的方法处理所述低分辨率结构图像,获得所述高分辨率结构图像。
滤波插值函数为
其中函数sinc(x)=sin(x)/x,β1=3,σ1是一个和窗口大小相关的参数,插值的运算公式:
其中,s(i,j)表示输入的所述低分辨率的结构图像,S(x,y)表示输出的高分辨率的结构图像。
步骤400:将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像。
步骤500:根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像。
所述融合高分辨率图像Ih=C1*Ihc+C2*Iht+C3*▽2Iht
其中,Ihc表示所述高分辨率结构图像,Iht表示所述高分辨率纹理图像,C1=0.4,C2=0.6,C3=0.1。
步骤600:采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
将所述融合高分辨率图像Ih进行下采样和滤波后得到融合低分辨率图像I′,滤波器函数为B(x,y)=exp((-x2-y2)/(2σ));
x和y为-5到5的整数,σ表示滤波程度,σ=1;
将融合低分辨率图像I′和所述低分辨率图像进行差值运算得到误差图像ΔI;
将所述误差图像ΔI放大处理得到高分辨率的差值图像ΔIh
对所述融合高分辨率图像Ih进行修正,fH(i+1)=fH(i)+μ*ΔIh
其中,i表示迭代次数,μ=0.2,fH(0)=Ih,能够降低高分辨率放大的误差。
所述步骤300:根据所述低分辨率结构图像,获得高分辨率结构图像具体包括:将所述低分辨率结构图像采用插值滤波的方法计算所述结构部分,获得高分辨率结构图像。
所述步骤400:将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像具体包括:
步骤401:将所述低分辨率的图像采用K-SVD字典学习方法计算所述纹理部分,获得高分辨率字典和低分辨率字典。
步骤402:将所述高分辨率字典和所述低分辨率字典采用基于1范数的同伦法算法恢复,获得高分辨率纹理图像。
为了实现上述目的,本发明还提供了如下方案:
如图2所示的一种超分辨率图像重建系统的结构图,所述重建系统包括:
低分辨率图像获取模块1,用于获取多幅低分辨率图像。
分解模块2与所述低分辨率图像获取模块1连接,所述分解模块2用于将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像。
高分辨率结构图像获取模块3与所述分解模块2连接,所述高分辨率结构图像获取模块3用于根据所述低分辨率结构图像,获得高分辨率结构图像。
高分辨率纹理图像获取模块4与所述分解模块2连接,所述高分辨率纹理图像获取模块4用于将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像。
融合模块5分别与所述高分辨率纹理图像获取模块4和所述高分辨率结构图像获取模块3连接,所述融合模块5用于根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像。
修正模块6与所述融合模块5连接,所述修正模块6用于采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的系统而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的一般技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。

Claims (4)

1.一种超分辨率图像重建方法,其特征在于,所述重建方法包括:
获取多幅低分辨率图像;
将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像,所述结构部分表示所述低分辨率图像的整体框架,所述纹理部分表示所述低分辨率图像的细节部分;
根据所述低分辨率结构图像,获得高分辨率结构图像;
将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像;
根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像;
采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
2.根据权利要求1所述的一种超分辨率图像重建方法,其特征在于,所述根据所述低分辨率结构图像,获得高分辨率结构图像具体包括:
将所述低分辨率结构图像采用插值滤波的方法计算所述结构部分,获得高分辨率结构图像。
3.根据权利要求1所述的一种超分辨率图像重建方法,其特征在于,所述将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像具体包括:
将所述低分辨率的图像采用K-SVD字典学习方法计算所述纹理部分,获得高分辨率字典和低分辨率字典;
将所述高分辨率字典和所述低分辨率字典采用基于1范数的同伦法算法恢复,获得高分辨率纹理图像。
4.一种超分辨率图像重建系统,其特征在于,所述重建系统包括:
低分辨率图像获取模块,用于获取多幅低分辨率图像;
分解模块与所述低分辨率图像获取模块连接,所述分解模块用于将所述低分辨率图像用RTV模型分解为结构部分和纹理部分,获得低分辨率结构图像和低分辨率纹理图像;
高分辨率结构图像获取模块与所述分解模块连接,所述高分辨率结构图像获取模块用于根据所述低分辨率结构图像,获得高分辨率结构图像;
高分辨率纹理图像获取模块与所述分解模块连接,所述高分辨率纹理图像获取模块用于将所述低分辨率纹理图像采用联合训练方法,获得高分辨率纹理图像;
融合模块分别与所述高分辨率纹理图像获取模块和所述高分辨率结构图像获取模块连接,所述融合模块用于根据所述高分辨率结构图像和所述高分辨率纹理图像,采用图像融合的方法获得融合高分辨率图像;
修正模块与所述融合模块连接,所述修正模块用于采用迭代反投影法对所述融合高分辨率图像进行多次修正,获得高分辨率图像。
CN201810120946.XA 2018-02-07 2018-02-07 一种超分辨率图像重建方法及系统 Active CN108257108B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810120946.XA CN108257108B (zh) 2018-02-07 2018-02-07 一种超分辨率图像重建方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810120946.XA CN108257108B (zh) 2018-02-07 2018-02-07 一种超分辨率图像重建方法及系统

Publications (2)

Publication Number Publication Date
CN108257108A true CN108257108A (zh) 2018-07-06
CN108257108B CN108257108B (zh) 2020-05-22

Family

ID=62744006

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810120946.XA Active CN108257108B (zh) 2018-02-07 2018-02-07 一种超分辨率图像重建方法及系统

Country Status (1)

Country Link
CN (1) CN108257108B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110674862A (zh) * 2019-09-12 2020-01-10 浙江师范大学 基于内部样例的邻域回归的超分辨率方法
CN110705699A (zh) * 2019-10-18 2020-01-17 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN110706156A (zh) * 2019-09-16 2020-01-17 昆明理工大学 基于多成分分析和残差补偿的图像融合与超分辨率重建联合实现方法
WO2021083020A1 (zh) * 2019-11-01 2021-05-06 RealMe重庆移动通信有限公司 图像融合方法、图像融合装置、存储介质与终端设备
WO2021115403A1 (zh) * 2019-12-13 2021-06-17 深圳市中兴微电子技术有限公司 一种图像的处理方法及装置
CN115618171A (zh) * 2022-06-06 2023-01-17 北京理工大学 一种基于同伦算法的推进剂燃烧平衡产物求解方法

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110674862A (zh) * 2019-09-12 2020-01-10 浙江师范大学 基于内部样例的邻域回归的超分辨率方法
CN110674862B (zh) * 2019-09-12 2023-05-26 浙江师范大学 基于内部样例的邻域回归的超分辨率方法
CN110706156A (zh) * 2019-09-16 2020-01-17 昆明理工大学 基于多成分分析和残差补偿的图像融合与超分辨率重建联合实现方法
CN110706156B (zh) * 2019-09-16 2023-03-07 昆明理工大学 基于多成分分析和残差补偿的图像融合与超分辨率重建联合实现方法
CN110705699A (zh) * 2019-10-18 2020-01-17 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
CN110705699B (zh) * 2019-10-18 2022-05-31 厦门美图之家科技有限公司 超分辨率重建方法、装置、电子设备和可读存储介质
WO2021083020A1 (zh) * 2019-11-01 2021-05-06 RealMe重庆移动通信有限公司 图像融合方法、图像融合装置、存储介质与终端设备
WO2021115403A1 (zh) * 2019-12-13 2021-06-17 深圳市中兴微电子技术有限公司 一种图像的处理方法及装置
CN115618171A (zh) * 2022-06-06 2023-01-17 北京理工大学 一种基于同伦算法的推进剂燃烧平衡产物求解方法
CN115618171B (zh) * 2022-06-06 2023-10-24 北京理工大学 一种基于同伦算法的推进剂燃烧平衡产物求解方法

Also Published As

Publication number Publication date
CN108257108B (zh) 2020-05-22

Similar Documents

Publication Publication Date Title
CN108257108A (zh) 一种超分辨率图像重建方法及系统
Shan et al. Fast image/video upsampling
CN108765511B (zh) 基于深度学习的超声图像超分辨率重建方法
US8867858B2 (en) Method and system for generating an output image of increased pixel resolution from an input image
CN112215755B (zh) 一种基于反投影注意力网络的图像超分辨率重建方法
Zhao et al. Unsupervised degradation learning for single image super-resolution
CN111340744B (zh) 基于注意力双流深度网络的低质量图像降采样方法及其系统
CN105631807A (zh) 基于稀疏域选取的单帧图像超分辨重建方法
Zhang et al. Accurate and efficient image super-resolution via global-local adjusting dense network
CN111861886B (zh) 一种基于多尺度反馈网络的图像超分辨率重建方法
Xu et al. Exploiting raw images for real-scene super-resolution
CN109767389A (zh) 基于局部和非局部联合先验的自适应加权双范数遥感图像盲超分辨重建方法
Zhang et al. Video super-resolution with 3D adaptive normalized convolution
JP5105286B2 (ja) 画像復元装置、画像復元方法及び画像復元プログラム
CN106910215A (zh) 一种基于分数阶梯度插值的超分辨率方法
JP2007527155A (ja) 画像を符号化及び復号化する方法及び装置
Neumayer et al. Regularization of inverse problems via time discrete geodesics in image spaces
CN103390266B (zh) 一种图像超分辨率方法和装置
CN106846250A (zh) 一种基于多尺度滤波的超分辨率重建方法
Singh et al. Single image super-resolution using adaptive domain transformation
KR101341617B1 (ko) 단일 영상의 오차모델을 기반으로 한 고해상도 영상 복원장치 및 방법
CN111899166A (zh) 一种基于深度学习的医学高光谱显微图像超分辨重构方法
Que et al. Single image super-resolution via deep progressive multi-scale fusion networks
Zhou et al. Towards the automation of deep image prior
Xie et al. Bidirectionally aligned sparse representation for single image super-resolution

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20230616

Address after: 509 Kangrui Times Square, Keyuan Business Building, 39 Huarong Road, Gaofeng Community, Dalang Street, Longhua District, Shenzhen, Guangdong Province, 518000

Patentee after: Shenzhen lizhuan Technology Transfer Center Co.,Ltd.

Address before: 321000 688 Yingbin Avenue, Jinhua, Zhejiang

Patentee before: ZHEJIANG NORMAL University

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20231110

Address after: Room 820, 8th floor, No. 390-408 Beijing East Road, Huangpu District, Shanghai, 200001

Patentee after: Guangyulaite Digital Technology (Shanghai) Co.,Ltd.

Address before: 509 Kangrui Times Square, Keyuan Business Building, 39 Huarong Road, Gaofeng Community, Dalang Street, Longhua District, Shenzhen, Guangdong Province, 518000

Patentee before: Shenzhen lizhuan Technology Transfer Center Co.,Ltd.

TR01 Transfer of patent right