CN104680502B - 基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 - Google Patents
基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 Download PDFInfo
- Publication number
- CN104680502B CN104680502B CN201510122491.1A CN201510122491A CN104680502B CN 104680502 B CN104680502 B CN 104680502B CN 201510122491 A CN201510122491 A CN 201510122491A CN 104680502 B CN104680502 B CN 104680502B
- Authority
- CN
- China
- Prior art keywords
- resolution
- image
- infrared image
- infrared
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
本发明公开了一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,属于超分辨重建方法技术领域,解决了字典学习方法获取的冗余字典自由度较高、结构化较差、缺乏正则性、计算量也较大以及非下采样Contourlet变换的红外图像重建算法得到的高频信息不完善等问题。本发明产物获取多幅高、低分辨率红外图像作为图像训练对,即一幅高分辨率红外图像和一幅低分辨率红外图像为一个图像训练对;再将图像训练对采用稀疏字典表示模型和非下采样Contourlet变换,训练得到两对稀疏字典对,即高、低分辨率初始稀疏字典对和高、低分辨率残余稀疏字典对;最后利用训练得到的两对稀疏字典对,对低分辨率测试红外图像进行重建,获得最终的高分辨率红外图像。本发明用于图像处理。
Description
技术领域
一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,用于图像处理,属于超分辨重建方法技术领域。
背景技术
红外图像反应场景的辐射特性,这种特性能为医学成像、安全监控,夜间导航等应用提供有价值的信息。但由于红外图像成像过程中受采集设备自身及周围环境的影响,造成红外图像分辨率低。这将导致对红外图像的进一步自动或者人工分析存在一定的困难,因此提高红外图像的分辨率十分必要。
红外图像超分辨技术是提高红外图像分辨率的一种主要技术。该技术通过对一幅或者多幅低分辨率红外图像重建同一场景的高分辨率红外图像。目前超分辨技术主要分为三类:基于插值的超分辨技术,基于重构的超分辨技术和基于学习的超分辨技术。基于学习的超分辨技术是目前的研究热点,基于学习的方法充分利用了图像本身的先验知识,在不增加输入图像样本数量的情况下,仍能产生新的高频细节,取得比较好的效果。而在基于学习的超分辨方法中基于稀疏表示的超分辨方法是目前的研究重点。
目前针对红外图像的超分辨方法较少,文献“Single infrared image super-resolution combining non-local means with kernel regression”提出通过非局部均值法重建红外图像的高频信息,通过核回归抑制噪声和保护边界信息。文献“A Study onNSCT based Super-Resolution Reconstruction for Infrared Image”提出基于非下采样Contourlet变换的红外图像重建算法,此方法能够很好的保护图像边界信息,提高图像对比度。虽然以上方法能够重建红外图像的高频信息,但是得到的高频信息并不完善,使得复原的红外图像显得较为模糊。
文献“基于局部约束群稀疏的红外图像超分辨重建”提出了基于字典学习的红外图像重建算法,文中利用局部约束的群稀疏表示模型构造冗余字典,字典原子更加适应于信号特征,这使得该算法能够取得较好的重建效果。然而该方法使用的字典学习方法获取的冗余字典自由度较高,结构化较差,缺乏正则性,另外计算量也较大。
发明内容
本发明针对现有技术的不足之处提供了一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,解决了现有技术中字典学习方法获取的冗余字典自由度较高、结构化较差、缺乏正则性、计算量也较大以及非下采样Contourlet变换的红外图像重建算法得到的高频信息不完善,使得复原的红外图像较为模糊的问题。
为了实现上述目的,本发明的优点在于:
一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其
特征在于:
(1)获取多幅高、低分辨率红外图像作为图像训练对,即一幅高分辨率红外图像和一幅低分辨率红外图像为一个图像训练对;
(2)将图像训练对采用稀疏字典表示模型和非下采样Contourlet变换,训练得到两对稀疏字典对,即高、低分辨率初始稀疏字典对和高、低分辨率残余稀疏字典对;
(3)利用训练得到的两对稀疏字典对,对低分辨率红外测试图像进行重建,获得最终的高分辨率红外图像。
进一步,所述步骤(2)的具体步骤如下:
(21)将图像训练对分为两个图像训练库,即训练库1和训练库2,然后分别对训练库1和训练库2中的低分辨率红外图像进行插值放大,得到训练库1和训练库2的红外图像插值放大图;
(22)将训练库1和训练库2中的高分辨率红外图像与相对应的训练库1和训练库2中训练对的低分辨率红外图像进行插值放大得到的红外图像插值放大图进行差分得到相对应的训练库1和训练库2的红外图像高频细节图;
(23)对训练库1和训练库2中的红外图像插值放大图进行非下采样Contourlet变换,获得多个子图像,即非下采样Contourlet变换系数图像;
(24)对训练库1和训练库2中的各个非下采样Contourlet变换系数图像进行分块,得到训练库1和训练库2的红外图像插值放大图的系数块;
(25)对训练库1和训练库2中的红外图像高频细节图进行分块操作,得到训练库1和训练库2中的红外图像高频细节图系数块;
(26)对训练库1中的红外图像插值放大图的系数块进行稀疏字典训练,获得训练库1低分辨率初始稀疏字典以及稀疏表示系数,利用稀疏表示系数和训练库1中的红外图像高频细节图系数块,通过公式得到训练库1高分辨率初始稀疏字典;
(27)通过得到的训练库1中的低分辨率初始稀疏字典和高分辨率初始稀疏字典对训练库2中的红外图像插值放大图的系数块重建,获得初始重建高分辨率红外图像;
(28)将训练库2中的高分辨率红外图像和初始重建高分辨率红外图像差分得到残余红外图像;
(29)将初始重建高分辨率红外图像作为红外图像插值放大图,残余红外图像作为红外图像高频细节图进行如步骤(26)的稀疏字典训练,得到高、低分辨率残余稀疏字典对。
进一步,所述步骤(3)的具体步骤如下:
(31)输入低分辨率红外测试图像;
(32)对低分辨率红外测试图像进行插值放大,得到红外图像插值放大测试图;
(33)对红外图像插值放大测试图进行非下采样Contourlet变换,得到非下采样Contourlet变换测试系数图像;
(34)对各个非下采样Contourlet变换测试系数图像进行分块,得到红外测试图像插值放大图的系数块;
(35)通过高、低分辨率初始稀疏字典对对红外测试图像插值放大图的系数块进行重建,得到初始重建高分辨率红外测试图像;
(36)由高、低分辨率残余稀疏字典对和初始重建高分辨率红外测试图像重建残余红外图像,即低分辨率残余稀疏字典作为低分辨率初始稀疏字典,高分辨率残余稀疏字典作为高分辨率初始稀疏字典,初始重建高分辨率红外测试图像作为红外图像插值放大图重建残余红外图像,重建过程如步骤(35);
(37)将残余红外图像和初始重建高分辨率红外测试图像逐像素点相加得到最终的高分辨率红外图像。
进一步,所述步骤(26)中获得低分辨率初始稀疏字典以及稀疏表示系数的约束公式为:
其中ψ为DCT字典,为红外图像插值放大图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Al为低分辨率初始稀疏字典,alq为求得的低分辨率稀疏字典表示Al的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第k列,||φk||0为φk的l0范数,||alq||2为alq的l2范数,||ψalq||2为ψalq的l2范数,为求解的l2范数;
高分辨率初始稀疏字典的约束公式为:
s.t在已得φ的情况下,可得到高分辨率初始稀疏字典其中ψ为DCT字典,为红外图像高频细节图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Ah为高分辨率初始稀疏字典,ahq为求得的高分辨率稀疏字典表示Ah的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第k列,||φk||0为φk的l0范数,ahq为||ahq||2的l2范数,ψahq为||ψahq||2的l2范数,为求解的l2范数。
进一步,字典的训练过程为:
求得最优解,其中,X为红外图像,φ为X的稀疏表示,φi为X的稀疏表示矩阵的第i列,A为稀疏字典,aj为求得的稀疏字典表示A的第j列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第i列,为任意第j列,为φi的l0范数,为aj的l0范数,||ψaj||2为ψaj的l2范数,为求解X-ψAφ的l2范数。
进一步,用稀疏KSVD方法对上式进行求解,具体步骤为:
1)输入:图像X,稀疏字典基础字典ψ,原子稀疏性最大值p,训练样本稀疏性最大值t,迭代次数k;
2)初始化:稀疏字典表示初始化值A;
3)固定A,用OMP算法求解X中每一块xi的稀疏表示:
s.tφi为xi的稀疏表示矩阵的第i列,A为稀疏字典,ai为稀疏字典A的第i列,t表示φ中向量的稀疏性,为φi的l0范数;
4)逐个对A中原子a(A中每列)和稀疏表示φi进行修正;
5)判定终止条件,否则返回3)继续迭代;
6)输出:稀疏字典A,稀疏表示系数φaj。
进一步,所述步骤(27)或(35)中,所述的重建过程为:对每一个红外图像插值放大图像的系数块K为单个系数图像中系数块的总数,或每一个红外测试图像插值放大图的系数块K为单个系数图像中系数块的总数,用OMP算法求解下式得到稀疏系数αk,s.t其中,ε>0表示容许误差,||αk||1为αk的l0范数,为求解ψAlαk-B的l2范数,ψ为DCT字典,Al为低分辨率初始稀疏字典,利用稀疏系数αk和高分辨率稀疏字典Ah可以得到红外图像高频细节图像的系数块或红外图像高频细节测试图像的系数块即B'=ψAhαk,其中B'为或再将每一个红外图像高频细节图像的系数块或红外图像高频细节测试图像的系数块按它们在系数图像相对应的位置进行串联,得到红外图像高频细节图或红外图像高频细节测试图Ihf *,将红外图像插值放大图和红外图像高频细节图逐像素点相加得到初始重建高分辨率红外图像或将红外图像插值放大测试图和红外图像高频细节测试图Ihf *逐像素点相加得到初始重建高分辨率红外测试图像Iho *。
与现有技术相比,本实用发明新型的优点在于:
一、与传统的冗余字典不同,稀疏字典D可以表示为D=ψ*A,其中ψ是基础字典,具有良好正则性;A是一个稀疏矩阵,具有较好灵活性,稀疏字典将正则性与灵活性相结合,可获得有效的表示能力,稀疏字典比传统冗余字典更有效;
二、非下采样Contourlet变换是冗余Contourlet变换,相对于Contourlet变换去掉了抽样环节,具有更高的冗余,它具有多尺度特性、平移不变性、良好的空域和频域局部特性和方向特性,能更好捕获图像信息。因为非下采样Contourlet变换具有平移不变、多分辨率、多方向性,可以得到不同方向不同尺度和不同分辨率的图像,丰富了图像特征,而且避免了频谱混叠;
三、基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建,稀疏字典代替传统的冗余字典,另外考虑到非下采样Contourlet变换能够有效地提取图像各个尺度、各个方向上的特征,因此将非下采样Contourlet变换引入,最后为了使得重建的效果更好,本发明引入残余稀疏字典重建残余红外图像。
附图说明
图1是本发明的稀疏字典学习的流程框图;
图2是本发明图像超分辨重建的流程框图;
图3是本发明图像分块的流程图;
图4是本发明非下采样Contourlet变换流程图;
图5(a)是本发明原始测试图像;
图5(b)是本发明采用最临近插值法处理后的图像;
图5(c)是本发明采用双三次插值法处理后的图像;
图5(d)是本发明采用Yang的方法处理后的图像;
图5(e)是本发明采用KSVD的方法处理后的图像;
图5(f)是本发明采用Zhang的方法处理后的图像;
图5(g)是本发明采用本发明处理后的图像;
图6(a)是本发明原始测试图像局部放大图;
图6(b)是本发明采用最临近插值法处理后的图像局部放大图,
图6(c)是本发明采用双三次插值法处理后的图像局部放大图;
图6(d)是本发明采用Yang的方法处理后的图像局部放大图;
图6(e)是本发明采用KSVD的方法处理后的图像局部放大图;
图6(f)是本发明采用Zhang的方法处理后的图像局部放大图;
图6(g)是本发明采用本发明处理后的图像局部放大图。
具体实施例方式
下面结合附图和实施例对本发明作进一步说明。
一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,首先是获取多幅高、低分辨率红外图像作为图像训练对,即一高分辨率红外图像和一低分辨率红外图像为一图像训练对;本实施例所使用的图像分为两部分,一部分是人脸图像来自于USTC-NVIE,另一部分建筑物图像通过FLIR红外摄像仪采集得到。先对人脸图像进行红外图像超分辨重建,再对建筑物图像进行红外图像超分辨重建。对从USTC-NVIE库随机选择50幅图像,其中16幅图像为测试图像,34幅图像为训练图像,图像大小为228×300,从FLIR红外摄像仪采集的图像库中随机选择75幅图像,其中13幅图像为测试库,62幅图像为训练图像,图像大小为240×348。
然后将图像训练对采用稀疏字典表示模型和非下采样Contourlet变换,训练得到两对稀疏字典对,即高、低分辨率初始稀疏字典对和高、低分辨率残余稀疏字典对。具体步骤如下:
(21)将图像训练对中的图像分为两个训练库,即训练库1和训练库2,然后分别对训练库1和训练库2中的低分辨率红外图像进行插值放大,得到训练库1和训练库2的红外图像插值放大图;本实施例对训练库1和训练库2中的低分辨率红外图像进行双三次插值得到红外图像插值放大图。
(22)将训练库1和训练库2中的高分辨率红外图像与相对应的训练库1和训练库2中训练对的低分辨率红外图像进行插值放大得到的红外图像插值放大图进行差分得到相对应的训练库1和训练库2的红外图像高频细节图;本实施例对训练库1和训练库2高分辨率红外图像和红外图像插值放大图逐像素点相减得到红外图像高频细节图。
(23)对训练库1和训练库2中的红外图像插值放大图进行非下采样Contourlet变换,获得多个子图像,即非下采样Contourlet变换系数图像;本实施例对红外图像插值放大图进行1层4个方向的非下采样Contourlet变换,获得5个子图像,即系数图像,其中包括1个低频图像和4个高频图像,即非下采样Contourlet变换系数图像其中表示对红外图像插值放大图进行非下采样Contourlet变换后,在第i个层,第j个方向上的系数图像。
(24)对训练库1和训练库2中的各个非下采样Contourlet变换系数图像进行分块,得到训练库1和训练库2的红外图像插值放大图的系数块;非下采样Contourlet变换是由一个非下采样的金字塔滤波器组(NSP)和一个非下采样的方向滤波器组(NSDFB)组成,首先将图像通过NSP分解为低通子带和高通子带,得到图像的多尺度分解,然后用NSDFB对各尺度子带图像进行方向分解,从而得到不同尺度、不同方向的子带图像。本实施例对各个系数图像进行分块,将每一个系数块展开为一个特征向量,然后将在不同层、不同方向,而同一位置的块(特征向量),串联为一个特征向量,其中分块大小为9×9,并保留与周围图像块3个像素的重叠,即块与块之间的重叠列或行数为3,得到红外图像插值放大图的系数块 表示取自于低频图像,表示取自于高频图像,它们表示系数图像中的第k个系数块,K为单个系数图像中系数块的总数,然后将所有的块变换成81×1的列向量,最后将所有层和所有方向的系数图像上的81×1大小的列向量按它们在红外图像插值放大图的非下采样Contourlet变换系数图像中相对应的位置依次串联,构成大小为405×1大小的列向量,对于每一个图像块的非下采样Contourlet变换系数,用Dog滤波器处理后得到低频系数,保留不同尺度、不同方向的高频系数。
(25)对训练库1和训练库2中的红外图像高频细节图进行分块操作,得到训练库1和训练库2中的红外图像高频细节图系数块;本实施例对于红外图像高频细节图按9×9大小的块,与周围图像块有3个像素的重叠,即块与块之间的重叠列或行数为3,进行分块操作。
(26)对训练库1中的红外图像插值放大图的系数块进行稀疏字典训练,获得低分辨率初始稀疏字典以及稀疏表示系数,利用稀疏表示系数和训练库1中的红外图像高频细节图系数块,通过公式得到高分辨率初始稀疏字典;本实施例所用字典大小为1024,获得低分辨率初始稀疏字典Al以及稀疏表示系数φ的约束方程为:s.t其中ψ为基础字典,可以为小波字典、DCT字典等,本实施例选择DCT字典为基础字典,为红外图像插值放大图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Al为低分辨率初始稀疏字典,alq为求得的低分辨率稀疏字典表示Al的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第k列,||φk||0为φk的l0范数,||alq||2为alq的l2范数,||ψalq||2为ψalq的l2范数,为求解的l2范数。
高分辨率初始稀疏字典的约束公式为:
s.t在已得φ的情况下,可得到高分辨率初始稀疏字典其中ψ为DCT字典,为红外图像高频细节图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Ah为高分辨率初始稀疏字典,ahq为求得的高分辨率稀疏字典表示Ah的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,||φk||0为φk的l0范数,||ahq||2为ahq的l2范数,||ψahq||2为ψahq的l2范数,为求解的l2范数。
字典的训练过程求最优解如下:
X为红外图像,φ为X的稀疏表示,φi为X的稀疏表示矩阵的第i列,A为稀疏字典,aj为求得的稀疏字典表示A的第j列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第i列,为任意第j列,为φi的l0范数,为aj的l0范数,||ψaj||2为ψaj的l2范数,为求解X-ψAφ的l2范数。字典求解迭代包括两步:一、求X的稀疏表示;二、字典原子更新。在求解稀疏表示阶段可以用任意信号稀疏分解方法,本实施例用OMP算法,在字典原子更新阶段每次只更新一个原子,即保持其他原子固定,对目标方程求最优解。本发明用稀疏KSVD方法对上式进行求解。具体算法如下:
1)输入:图像X,稀疏字典基础字典ψ,原子稀疏性最大值p,训练样本稀疏性最大值t,迭代次数k;
2)初始化:稀疏字典表示初始化值A;
3)固定A,用OMP算法求解X中每一块xi的稀疏表示:s.tφi为xi的稀疏表示矩阵的第i列,A为稀疏字典,ai为稀疏字典A的第i列,t表示φ中向量的稀疏性,为φi的l0范数;
4)逐个对A中原子a(A中每列)和稀疏表示φi进行修正;
5)判定终止条件,否则返回3)继续迭代;
6)输出:稀疏字典A,稀疏表示系数φaj。
通过以上字典训练方式可以得到高、低分辨率初始稀疏字典对Ah,Al。
(27)通过得到的低分辨率初始稀疏字典和高分辨率初始稀疏字典对训练库2中的红外图像插值放大图的系数块重建,获得初始重建高分辨率红外图像;本实施例用得到的低分辨率初始稀疏字典Al和高分辨率初始稀疏字典Ah,对图像训练库2中的低分辨率红外图像进行重建。重建过程为:对每一个红外图像插值放大图像的系数块K为单个系数图像中系数块的总数,用OMP算法求解下式得到稀疏系数αk,s.t其中,ε>0表示容许误差,||αk||1为αk的l0范数,为求解ψAlαk-B的l2范数,ψ为DCT字典,Al为低分辨率初始稀疏字典,利用稀疏系数αk和高分辨率稀疏字典Ah可以得到红外图像高频细节图像的系数块即B'=ψAhαk,其中B'为再将每一个红外图像高频细节图像的系数块按它们在系数图像相对应的位置进行串联,得到红外图像高频细节图将红外图像插值放大图和红外图像高频细节图逐像素点相加得到初始重建高分辨率红外图像
(28)将训练库2中的高分辨率红外图像和初始重建高分辨率红外图像差分得到残余红外图像;本实施例对训练库2中的高分辨率红外图像和初始重建高分辨率红外图像逐像素点相减得到残余红外图像。
(29)将初始重建高分辨率红外图像作为红外图像插值放大图,残余红外图像作为红外图像高频细节图进行稀疏字典训练,得到高、低分辨率残余稀疏字典对;本实施例将初始重建高分辨率红外图像作为红外图像插值放大图残余红外图像作为红外图像高频细节图代入步骤(26)的稀疏字典训练,得到高、低分辨率残余稀疏字典对Arh,Arl。
最后利用训练得到的两对稀疏字典对,对低分辨率测试红外图像进行重建,获得最终的高分辨率红外图像;利用训练得到的两对稀疏字典对,对低分辨率测试红外图像进行重建,获得最终的高分辨率红外图像的具体步骤如下:
(31)输入低分辨率红外测试图像;本实施例输入的低分辨率红外测试图像为
(32)对低分辨率红外测试图像进行插值放大,得到红外图像插值放大测试图;本实施例对低分辨率红外测试图像进行双三次插值放大得到红外图像插值放大测试图
(33)对红外图像插值放大测试图进行非下采样Contourlet变换,得到非下采样Contourlet变换测试系数图像;本实施例先进行1层4个方向的非下采样Contourlet变换得到5个子图像即系数图,其中包括1个低频图像和4个高频图像。
(34)对各个非下采样Contourlet变换测试系数图像进行分块,得到红外图像插值放大测试图的系数块;本实施例对红外图像插值放大测试图的非下采样Contourlet变换的系数块,按9×9大小的块进行分块操作,并保留与周围图像块3个像素的重叠,即块与块之间的重叠列或行数为3,得到红外图像插值放大测试图的系数块
(35)通过高、低分辨率初始稀疏字典对对红外测试图像插值放大图的系数块进行重建,得到初始重建高分辨率红外测试图像;本实施例先得到红外图像插值放大测试图的系数块再对红外图像插值放大测试图的系数块进行重建,得到红外图像的高频细节测试图像的系数块即重建过程为:对每一个红外图像插值放大测试图的系数块K为单个系数图像中系数块的总数,用OMP算法求解下式得到稀疏系数αk,s.t其中,ε>0表示容许误差,||αk||1为αk的l0范数,为求解ψAlαk-B的l2范数,ψ为DCT字典,Al为低分辨率初始稀疏字典,利用稀疏系数αk和高分辨率稀疏字典Ah可以得到红外图像高频细节测试图像的系数块,即B'=ψAhαk,其中B'为再将每一个红外图像高频细节测试图像的系数块按它们在系数图像相对应的位置进行串联,得到红外图像高频细节测试图Ihf *,将红外图像插值放大测试图和红外图像高频细节测试图Ihf *逐像素点相加得到初始重建高分辨率红外测试图像Iho *。
(36)由高、低分辨率残余稀疏字典对和初始重建高分辨率红外测试图像重建残余红外图像,即低分辨率残余稀疏字典作为低分辨率初始稀疏字典,高分辨率残余稀疏字典作为高分辨率初始稀疏字典,初始重建高分辨率红外测试图像作为红外图像插值放大图重建残余红外图像;本实施例由高、低分辨率残余稀疏字典Arh,Arl和初始重建高分辨率红外图像Iho *重建残余红外图像Ir,低分辨率残余稀疏字典Arl作为低分辨率初始稀疏字典Al,高分辨率残余稀疏字典Arh作为高分辨率初始稀疏字典Ah,初始重建高分辨率红外测试图像Iho *作为红外图像插值放大图Il'进行重建,重建过程和步骤(35)相同。
(37)将残余红外图像和初始重建高分辨率红外测试图像逐像素点相加得到最终的高分辨率红外图像;本实施例最后将残余红外图像Ir和初始重建高分辨率红外测试图像Iho *逐像素点相加得到最终的高分辨率红外图像Ih *。
观察图5(a)-(g)、图6(a)-(g),本发明重建的超分辨图像效果优于其他与之相比较的方法,获得更好的视觉效果。
表1给出了本发明方法和其他常用超分辨方法的客观评价指标的比较结果。通过观察表1,可以发现,无论是PSNR还是MSSIM,本发明的方法均优于其他方法。因此,不论是视觉效果还是客观评价指标,本发明的方法都是最好的,可以获得较好的重建图像。
表1
Claims (6)
1.一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于:
(1)获取多幅高、低分辨率红外图像作为图像训练对,即一幅高分辨率红外图像和一幅低分辨率红外图像为一个图像训练对;
(2)将图像训练对采用稀疏字典表示模型和非下采样Contourlet变换,训练得到两对稀疏字典对,即高、低分辨率初始稀疏字典对和高、低分辨率残余稀疏字典对;具体步骤如下:
(21)将图像训练对分为两个图像训练库,即训练库1和训练库2,然后分别对训练库1和训练库2中的低分辨率红外图像进行插值放大,得到训练库1和训练库2的红外图像插值放大图;
(22)将训练库1和训练库2中的高分辨率红外图像与相对应的训练库1和训练库2中训练对的低分辨率红外图像进行插值放大得到的红外图像插值放大图进行差分得到相对应的训练库1和训练库2的红外图像高频细节图;
(23)对训练库1和训练库2中的红外图像插值放大图进行非下采样Contourlet变换,获得多个子图像,即非下采样Contourlet变换系数图像;
(24)对训练库1和训练库2中的各个非下采样Contourlet变换系数图像进行分块,得到训练库1和训练库2的红外图像插值放大图的系数块;
(25)对训练库1和训练库2中的红外图像高频细节图进行分块操作,得到训练库1和训练库2中的红外图像高频细节图系数块;
(26)对训练库1中的红外图像插值放大图的系数块进行稀疏字典训练,获得训练库1低分辨率初始稀疏字典以及稀疏表示系数,利用稀疏表示系数和训练库1中的红外图像高频细节图系数块,通过公式得到训练库1高分辨率初始稀疏字典;
(27)通过得到的训练库1中的低分辨率初始稀疏字典和高分辨率初始稀疏字典对训练库2中的红外图像插值放大图的系数块重建,获得初始重建高分辨率红外图像;
(28)将训练库2中的高分辨率红外图像和初始重建高分辨率红外图像差分得到残余红外图像;
(29)将初始重建高分辨率红外图像作为红外图像插值放大图,残余红外图像作为红外图像高频细节图进行如步骤(26)的稀疏字典训练,得到高、低分辨率残余稀疏字典对;
(3)利用训练得到的两对稀疏字典对,对低分辨率红外测试图像进行重建,获得最终的高分辨率红外图像。
2.根据权利要求1所述的一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于,所述步骤(3)的具体步骤如下:
(31)输入低分辨率红外测试图像;
(32)对低分辨率红外测试图像进行插值放大,得到红外图像插值放大测试图;
(33)对红外图像插值放大测试图进行非下采样Contourlet变换,得到非下采样Contourlet变换测试系数图像;
(34)对各个非下采样Contourlet变换测试系数图像进行分块,得到红外测试图像插值放大图的系数块;
(35)通过高、低分辨率初始稀疏字典对对红外测试图像插值放大图的系数块进行重建,得到初始重建高分辨率红外测试图像;
(36)由高、低分辨率残余稀疏字典对和初始重建高分辨率红外测试图像重建残余红外图像,即低分辨率残余稀疏字典作为低分辨率初始稀疏字典,高分辨率残余稀疏字典作为高分辨率初始稀疏字典,初始重建高分辨率红外测试图像作为红外图像插值放大图重建残余红外图像,重建过程如步骤(35);
(37)将残余红外图像和初始重建高分辨率红外测试图像逐像素点相加得到最终的高分辨率红外图像。
3.根据权利要求1所述的一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于,所述步骤(26)中获得低分辨率初始稀疏字典以及稀疏表示系数的约束公式为:||alq||2≤p,||ψalq||2=1;
其中ψ为DCT字典,为红外图像插值放大图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Al为低分辨率初始稀疏字典,alq为求得的低分辨率稀疏字典表示Al的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第k列,||φk||0为φk的l0范数,||alq||2为alq的l2范数,||ψalq||2为ψalq的l2范数,为求解的l2范数;
高分辨率初始稀疏字典的约束公式为:
||ahq||2≤p,||ψahq||2=1,在已得φ的情况下,得到高分辨率初始稀疏字典其中ψ为DCT字典,为红外图像高频细节图的第k个系数块,φ为的稀疏表示,φk为的稀疏表示矩阵的第k列,Ah为高分辨率初始稀疏字典,ahq为求得的高分辨率稀疏字典表示Ah的第q列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第k列,||φk||0为φk的l0范数,||ahq||2为ahq的l2范数,||ψahq||2为ψahq的l2范数,为求解的l2范数。
4.根据权利要求3所述的一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于,字典的训练过程为:
求得最优解,其中,X为红外图像,φ为X的稀疏表示,φi为X的稀疏表示矩阵的第i列,A为稀疏字典,aj为求得的稀疏字典表示A的第j列,t表示φ中向量的稀疏性,p是原子稀疏性最大值,为任意第i列,为任意第j列,为φi的l0范数,为aj的l0范数,||ψaj||2为ψaj的l2范数,为求解X-ψAφ的l2范数。
5.根据权利要求4所述的一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于,用稀疏KSVD方法对上式进行求解,具体步骤为:
1)输入:图像X,稀疏字典基础字典ψ,原子稀疏性最大值p,训练样本稀疏性最大值t,迭代次数k;
2)初始化:稀疏字典表示初始化值A;
3)固定A,用OMP算法求解X中每一块xi的稀疏表示:
φi为xi的稀疏表示矩阵的第i列,A为稀疏字典,ai为稀疏字典A的第i列,t表示φ中向量的稀疏性,为φi的l0范数;
4)逐个对A中原子a和稀疏表示φi进行修正;
5)判定终止条件,否则返回3)继续迭代;
6)输出:稀疏字典A,稀疏表示系数φaj。
6.根据权利要求1或2所述的一种基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法,其特征在于,所述步骤(27)或(35)中,所述的重建过程为:对每一个红外图像插值放大图像的系数块K为单个系数图像中系数块的总数,或每一个红外测试图像插值放大图的系数块K为单个系数图像中系数块的总数,用OMP算法求解下式得到稀疏系数αk,其中,ε>0表示容许误差,||αk||1为αk的l1范数,为求解ψAlαk-B的l2范数,ψ为DCT字典,Al为低分辨率初始稀疏字典,利用稀疏系数αk和高分辨率稀疏字典Ah可以得到红外图像高频细节图像的系数块或红外图像高频细节测试图像的系数块即B'=ψAhαk,其中B'为或再将每一个红外图像高频细节图像的系数块或红外图像高频细节测试图像的系数块按它们在系数图像相对应的位置进行串联,得到红外图像高频细节图或红外图像高频细节测试图Ihf *,将红外图像插值放大图和红外图像高频细节图逐像素点相加得到初始重建高分辨率红外图像或将红外图像插值放大测试图和红外图像高频细节测试图Ihf *逐像素点相加得到初始重建高分辨率红外测试图像Iho *,其中表示第m个红外图像在第0个层,第0个方向上的红外图像插值放大图像的系数块,分别表示第m个红外图像在第1个层,第1个方向;第1个层,第2个方向;第1个层,第3个方向;第1个层,第4个方向上的红外图像插值放大图像的系数块;表示在第0个层,第0个方向上的红外测试图像插值放大图的系数块,分别表示在第1个层,第1个方向;第1个层,第2个方向;第1个层,第3个方向;第1个层,第4个方向上的红外测试图像插值放大图的系数块。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510122491.1A CN104680502B (zh) | 2015-03-19 | 2015-03-19 | 基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510122491.1A CN104680502B (zh) | 2015-03-19 | 2015-03-19 | 基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104680502A CN104680502A (zh) | 2015-06-03 |
CN104680502B true CN104680502B (zh) | 2017-09-22 |
Family
ID=53315500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510122491.1A Expired - Fee Related CN104680502B (zh) | 2015-03-19 | 2015-03-19 | 基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104680502B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105427264B (zh) * | 2015-12-23 | 2019-02-01 | 重庆大学 | 一种基于群稀疏系数估计的图像重构方法 |
CN106227015B (zh) * | 2016-07-11 | 2019-04-26 | 中国科学院深圳先进技术研究院 | 一种基于压缩感知理论的全息图像高分辨率重建方法及系统 |
CN108898568B (zh) * | 2018-04-25 | 2021-08-31 | 西北大学 | 图像合成方法与装置 |
CN108830791B (zh) * | 2018-05-09 | 2022-05-06 | 浙江师范大学 | 基于自身样例和稀疏表示的图像超分辨率方法 |
CN109785235A (zh) * | 2018-12-29 | 2019-05-21 | 华中光电技术研究所(中国船舶重工集团有限公司第七一七研究所) | 基于压缩感知的红外行人图像超分辨率重建方法及系统 |
CN112508828A (zh) * | 2019-09-16 | 2021-03-16 | 四川大学 | 一种基于稀疏表示和引导滤波的多聚焦图像融合方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104008539A (zh) * | 2014-05-29 | 2014-08-27 | 西安理工大学 | 基于多尺度几何分析的图像超分辨率重建方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014144306A1 (en) * | 2013-03-15 | 2014-09-18 | Arizona Board Of Regents On Behalf Of Arizona State University | Ensemble sparse models for image analysis and restoration |
-
2015
- 2015-03-19 CN CN201510122491.1A patent/CN104680502B/zh not_active Expired - Fee Related
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104008539A (zh) * | 2014-05-29 | 2014-08-27 | 西安理工大学 | 基于多尺度几何分析的图像超分辨率重建方法 |
Non-Patent Citations (5)
Title |
---|
A Study on NSCT based Super-Resolution Reconstruction for Infrared Image;Zhao Gang et al.;《2013 IEEE Region 10 Conference》;20131022;第1-5页 * |
Infrared surveillance image super resolution via group sparse representation;Hai-cang Liu et al.;《Optics Communications》;20130215;第289卷;第45-52页 * |
Remote Sensing Image Super-resolution Using Dual-Dictionary Pairs Based on Sparse Presentation and Multiple Features;Xiaomin Yang et al.;《Proceedings of International Conference on Internet Multimedia Computing and Service》;20140710;第1-5页 * |
基于局部约束群稀疏的红外图像超分辨率重建;邓承志 等;《物理学报》;20140228;第63卷(第4期);第1-8页 * |
基于稀疏表示的图像超分辨率算法及应用;王红婷;《中国优秀硕士学位论文全文数据库(信息科技辑)》;20140415(第4期);摘要 * |
Also Published As
Publication number | Publication date |
---|---|
CN104680502A (zh) | 2015-06-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104680502B (zh) | 基于稀疏字典和非下采样Contourlet变换的红外图像超分辨重建方法 | |
CN105741252B (zh) | 基于稀疏表示与字典学习的视频图像分级重建方法 | |
CN104778671B (zh) | 一种基于sae和稀疏表示的图像超分辨率方法 | |
CN106796716B (zh) | 用于为低分辨率图像提供超分辨率的设备和方法 | |
CN108710830A (zh) | 一种结合密集连接注意力金字塔残差网络和等距限制的人体3d姿势估计方法 | |
CN105335929B (zh) | 一种深度图超分辨方法 | |
CN106204449A (zh) | 一种基于对称深度网络的单幅图像超分辨率重建方法 | |
CN103714526B (zh) | 基于稀疏多流形嵌入的超分辨率图像重构方法 | |
CN105046651B (zh) | 一种图像的超分辨率重构方法和装置 | |
CN107657217A (zh) | 基于运动目标检测的红外与可见光视频的融合方法 | |
CN103455988B (zh) | 基于结构自相似性与稀疏表示的超分辨率图像重构方法 | |
CN103489174B (zh) | 一种基于残差保持的人脸超分辨率方法 | |
CN106097253B (zh) | 一种基于块旋转和清晰度的单幅图像超分辨率重建方法 | |
CN107301630B (zh) | 一种基于排序结构组非凸约束的cs-mri图像重构方法 | |
CN108765280A (zh) | 一种高光谱图像空间分辨率增强方法 | |
CN107341765A (zh) | 一种基于卡通纹理分解的图像超分辨率重建方法 | |
CN104252703B (zh) | 基于小波预处理和稀疏表示的卫星遥感图像超分辨率重构方法 | |
CN107993194A (zh) | 一种基于平稳小波变换的超分辨率重建方法 | |
CN107590779A (zh) | 一种基于图像块聚类字典训练的图像去噪去模糊方法 | |
CN104036482B (zh) | 一种基于字典渐近更新的人脸图像超分辨率方法 | |
CN106981046B (zh) | 基于多层梯度约束回归的单幅图像超分辨率重建方法 | |
CN106203269A (zh) | 一种基于可形变局部块的人脸超分辨率处理方法及系统 | |
CN104091364B (zh) | 单幅图像超分辨重建方法 | |
CN108492252A (zh) | 基于二次重建的人脸图像超分辨率重建方法 | |
CN105844589B (zh) | 一种基于混合成像系统的实现光场图像超分辨的方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170922 Termination date: 20190319 |