CN114298950A - 一种基于改进的GoDec算法的红外与可见光图像融合方法 - Google Patents
一种基于改进的GoDec算法的红外与可见光图像融合方法 Download PDFInfo
- Publication number
- CN114298950A CN114298950A CN202111560098.2A CN202111560098A CN114298950A CN 114298950 A CN114298950 A CN 114298950A CN 202111560098 A CN202111560098 A CN 202111560098A CN 114298950 A CN114298950 A CN 114298950A
- Authority
- CN
- China
- Prior art keywords
- image
- low
- frequency
- infrared
- rank
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Processing (AREA)
Abstract
本发明公开了一种基于改进的GoDec算法的红外与可见光图像融合方法,包括:获取红外图像和可见光图像;通过改进的GoDec算法对红外图像和可见光图像矩阵进行GoDec分解,并分别得到低秩图像和稀疏图像;对低秩图像进行非下采样Contourlet变换,分别得到高频子带和低频子带;利用分层贝叶斯方法融合低频子带,利用相位一致性融合高频子带,进行逆变换得到融合后的低秩分量;使用加权平均策略融合稀疏图像得到稀疏分量,叠加低秩分量和稀疏分量得到融合图片。本发明解决了红外与可见光图像融合时融合图像的边缘强度,平均梯度以及视觉信息保真度等图像评价指标不高的问题,非采样Contourlet变换更好地弥补了小波变换和Contourlet变换在图像融合特征描述、方向性等方面的缺陷。
Description
技术领域
本发明涉及图像处理的技术领域,尤其涉及一种基于改进的GoDec算法的红外与可见光图像融合方法。
背景技术
近年来红外与可见光图像融合作为多源图像融合中的一个重要分支,既继承了图像融合的基本理论和方法,又具有其自身的特性。红外传感器利用景物的热辐射性质成像,具有不受天气和光照环境影响的特点,但其获得的红外图像整体比较模糊,且具有较低的空间分辨率和图像对比度;相对而言,可见光传感器通过探测场景反射的可见光成像,其获得的可见光图像具有较高的空间分辨率、清晰的纹理信息以及丰富的图像细节成分,但其容易受光照条件以及天气环境的干扰。
根据融合层次以及技术手段的不同,红外与可见光图像融合技术大致可分为像素级融合、特征级融合以及决策级融合三类。其中,特征级融合方法依赖于图像的显著性,因此融合结果易引起图像失真问题。决策级融合对图像特征提取和预处理要求较高,因此该类方法融合代价最大、复杂度较高。
随着小波变换、Contourlet变换以及非采样Contourlet变换等分析方法在图像融合技术中的快速推广,基于变换域的像素级图像融合技术逐渐成为红外与可见光图像融合研究的热点问题。虽然小波变换和Contourlet变换能够有效提高融合图像的空间分辨率,但是小波变换无法准确描述图像边缘和纹理特征、Contourlet变换须对图像进行下采样等限制导致这两类方法的图像融合结果易出现图像失真等问题,非采样Contourlet变换是在Contourlet变换基础上提出的一类具有多方向性、平移旋转不变性以及各向异性的多尺度分析方法,其较好地弥补了小波变换和Contourlet变换在图像融合特征描述以及方向性等方面的缺陷。
发明内容
本部分的目的在于概述本发明的实施例的一些方面以及简要介绍一些较佳实施例。在本部分以及本申请的说明书摘要和发明名称中可能会做些简化或省略以避免使本部分、说明书摘要和发明名称的目的模糊,而这种简化或省略不能用于限制本发明的范围。
鉴于上述现有存在的问题,提出了本发明。
因此,本发明解决的技术问题是:特征级融合方法依赖于图像的显著性,融合结果易引起图像失真问题;决策级融合对图像特征提取和预处理要求较高,融合代价最大、复杂度较高;小波变换和Contourlet变换能够有效提高融合图像的空间分辨率,但是小波变换无法准确描述图像边缘和纹理特征、Contourlet变换须对图像进行下采样等限制导致这两类方法的图像融合结果易出现图像失真等问题。
为解决上述技术问题,本发明提供如下技术方案:获取红外图像和可见光图像;通过改进的GoDec算法对红外图像IR和可见光图像VIS矩阵进行GoDec分解,并分别得到各自对应的低秩图像和稀疏图像;对低秩图像进行非下采样Contourlet变换,分别得到各自对应的高频子带和低频子带;利用分层贝叶斯方法融合低频子带,利用相位一致性融合高频子带,进行逆变换得到融合后的低秩分量;使用加权平均策略融合稀疏图像得到稀疏分量,叠加低秩分量和稀疏分量得到融合图片。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法的一种优选方案,其中:利用改进的GoDec算法对红外图像IR和可见光图像VIS矩阵进行GoDec分解,并得到各自对应的低秩图像和稀疏图像的过程包括,
改进的GoDec算法引入了广义最大相关熵,其计算公式为:
其中,||.||F表示矩阵的F范数,使分解后的重构误差最小,E为基于半二次优化理论提出的辅助变量,为期望算子,为基于广义最大相关熵的核函数的对偶函数,rank(L)表示对L矩阵求秩,card(S)表示矩阵S的稀疏度,r、k为预设值;其中,r=300,k=100000,基于广义最大相关熵只考虑高斯核的核函数为:
其中,Γ(.)为伽马函数,α>0为形状参数,β>0为规模参数,λ=1/βα为核参数,γα,β=α/2β,γα,β=α/2β为归一化常数,α=2,β=1;利用HQ优化策略处理M估计问题,即最小Welsch M估计量,定义为1-Gα,β(e);考虑HQ函数的加性形式,由最小值函数δ(.)式决定,对于Welsch M估计量,函数δ(.)为:
交替求解以下问题直至收敛:
根据改进的GoDec算法得到各自的低秩图像L1、L2与稀疏图像S1、S2。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:对低秩图像L1、L2进行非下采样Contourlet变换,并分别得到各自对应的高频子带和低频子带的过程包括,采用NSCT变换将低秩图像L1、L2分别分解为低频子带和高频子带;通过非下采样金字塔滤波器组对源图像进行分解,得到每个分解层上的低频图像和高频图像;对低频图像进行NSPFB迭代分解,得到k+1幅与源图像大小相同的子图像,其中高频图像k张,低频图像1张;通过非下采样方向滤波器组对NSPFB的高频图像进行L级方向分解,得到2L个方向子图像;第k级低通滤波器的理想频率支持区域为:
[-(π/2k)(π/2k)]2
等效的滤波器k级联NSPDF表示为:
其中,H0(z)表示低通滤波器,H1(z)表示对应的高通滤波器。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:低频部分的图像分层贝叶斯融合模型包括,将融合低频图像(I)与源低频图像(U,V)之间差异最小化,保持源低频图像的总体轮廓,其表达公式为:
其中,f、g为损失函数;
假设差异用L1范数衡量,问题改为:
令X=I-V,Y=U-V,得到:
对应一个线性回归模型:
Y=X+E
其中,E是拉普拉斯噪声,X受拉普拉斯分布控制;
通过贝叶斯的方法重新表述为:
X的先验分布表示为:
优化拉普拉斯分布后新的模型表示为:
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:使用EM算法推断贝叶斯融合模型包括,对X进行初始化,在E步中计算q函数,在M步中找到使得q函数最大的X,其中E步和M步相互交替,达到最大迭代次数T,得到T=13。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:利用相位一致性融合高频子带包括,采用相位一致性增加高频图像特征,保留更多的信息量;图像为二维信号,在(x,y)处的PC计算公式为:
其中,θk表示在k处的方向角,An,θk表示第n个傅里叶分量的振幅和角度,ε表示为正常数以去除图像信号的直流分量,在高频部分融合中,ε=0.001;
引入锐度变化的测量方法弥补PC不反映局部对比变化:
其中,Ω0表示在(x,y)处输入一个大小为3×3的局部区域,(x0,y0)表示在Ω0局部区域内的一个像素点,引入局部SCM计算(x,y)领域对比,表达公式为:
(2M+1)×(2N+1)表示领域大小,引入局部能量反映局部亮度信息LSCM和PC:
设计新的活动测量,使用PC、LSCM和LE测量图像信息的不同方面;
其中,α1=1,β1=2,γ1=2,调节PC、LSCM和LE,得到NAM后,融合高频带图像根据下式得出:
HF(x,y),HA(x,y),HB(x,y)代表融合高频图像和两个高频源图像,Lmapi(x,y)表示高频融合的决策图,由下式计算:
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:低频部分与高频部分进行逆变换的结果包括,将融合后的低频部分与高频部分进行NSCT逆变换得到融合后的低秩分量。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:使用加权平均策略融合稀疏图像得到稀疏分量包括,稀疏图像采用加权平均策略融合,得到稀疏分量S,其表达公式为:
S=0.5*S1+0.5*S2。
作为本发明所述的基于改进的GoDec算法的红外与可见光图像融合方法,其中:将得到的稀疏分量与低秩分量相加得到最终的融合图像。
本发明的有益效果:解决了如今红外与可见光图像融合时融合图像的边缘强度,平均梯度以及视觉信息保真度等图像评价指标不高的问题,非采样Contourlet变换更好地弥补了小波变换和Contourlet变换在图像融合特征描述以及方向性等方面的缺陷。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其它的附图。其中:
图1为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的基本流程示意图;
图2为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的NSCT变换分解框示意图;
图3为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像的可见光图像示意图;
图4为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像的红外图像示意图;
图5为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像经潜在低秩表示方法后的融合图像示意图;
图6为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像经过基于深度学习框架方法后的融合图像示意图;
图7为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像经过nsct方法后的融合图像示意图;
图8为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像经godec方法后的融合图像示意图;
图9为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第一组源图像经本发明方法后的融合图像示意图;
图10为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像的可见光图像示意图;
图11为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像的红外图像示意图;
图12为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像经潜在低秩表示方法后的融合图像示意图;
图13为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像经基于深度学习框架方法后的融合图像示意图;
图14为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像经nsct方法后的融合图像示意图;
图15为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像经godec方法后的融合图像示意图;
图16为本发明一个实施例提供的一种基于改进的GoDec算法的红外与可见光图像融合方法的第二组源图像经本发明方法后的融合图像示意图。
具体实施方式
为使本发明的上述目的、特征和优点能够更加明显易懂,下面结合说明书附图对本发明的具体实施方式做详细的说明,显然所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明的保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是本发明还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似推广,因此本发明不受下面公开的具体实施例的限制。
其次,此处所称的“一个实施例”或“实施例”是指可包含于本发明至少一个实现方式中的特定特征、结构或特性。在本说明书中不同地方出现的“在一个实施例中”并非均指同一个实施例,也不是单独的或选择性的与其他实施例互相排斥的实施例。
本发明结合示意图进行详细描述,在详述本发明实施例时,为便于说明,表示器件结构的剖面图会不依一般比例作局部放大,而且所述示意图只是示例,其在此不应限制本发明保护的范围。此外,在实际制作中应包含长度、宽度及深度的三维空间尺寸。
同时在本发明的描述中,需要说明的是,术语中的“上、下、内和外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一、第二或第三”仅用于描述目的,而不能理解为指示或暗示相对重要性。
本发明中除非另有明确的规定和限定,术语“安装、相连、连接”应做广义理解,例如:可以是固定连接、可拆卸连接或一体式连接;同样可以是机械连接、电连接或直接连接,也可以通过中间媒介间接相连,也可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
实施例1
参照图1~4、10~11所示,为本发明的一个实施例,提供了一种基于改进的GoDec算法的红外与可见光图像融合方法,包括:
S1:获取红外图像和可见光图像。
需要说明的是,通过OTCBVS的红外行人数据集、可见光图像数据集获取红外图像和可见光图像;
其中,行人检测任务:包含284张红外图片,10个序列;可见光图像融合和目标识别、跟踪任务:包含17,089张图片;6个序列。
S2:通过改进的GoDec算法对红外图像IR和可见光图像VIS矩阵进行GoDec分解,并分别得到各自对应的低秩图像和稀疏图像。
需要说明的是,利用改进的GoDec算法对精确配准尺寸相同(m*n)的红外图像IR和可见光图像VIS矩阵进行GoDec分解,并得到各自对应的低秩图像(L1,L2)和稀疏图像(S1,S2)的过程包括:
传统GoDec算法求解为:
改进后的GoDec算法引入了广义最大相关熵,其计算公式为:
其中,||.||F表示矩阵的F范数,使分解后的重构误差最小,E为基于半二次优化理论提出的辅助变量,为期望算子,为基于广义最大相关熵的核函数的对偶函数,rank(L)表示对L矩阵求秩,card(S)表示矩阵S的稀疏度,r、k为预设值;
其中,r=300,k=100000,基于广义最大相关熵只考虑高斯核的核函数为:
其中,Γ(.)为伽马函数,α>0为形状参数,β>0为规模参数,λ=1/βα为核参数,γα,β=α/2β,γα,β=α/2β为归一化常数,α=2,β=1。
利用HQ优化策略处理M估计问题,即最小Welsch M估计量,定义为1-Gα,β(e),考虑HQ函数的加性形式,由最小值函数δ(.)式决定,对于Welsch M估计量,函数δ(.)为:
交替求解以下问题直至收敛:
根据改进的GoDec算法得到各自的低秩图像L1、L2与稀疏图像S1、S2。
S3:对低秩图像进行非下采样Contourlet变换,分别得到各自对应的高频子带和低频子带。
需要说明的是,采用NSCT变换将L1、L2分别分解为低频子带和高频子带,NSCT变换克服了上下采样对轮廓波变换造成的频率混叠现象。
通过非下采样金字塔滤波器组(NSPFBs)对源图像进行分解,得到每个分解层上的低频图像和高频图像,其中,NSPFB为双通道非下采样滤波器组;
对低频图像进行NSPFB迭代分解,实现多尺度分解,得到k+1幅与源图像大小相同的子图像,其中高频图像k张,低频图像1张。
通过非下采样方向滤波器组(NSDFBs)对NSPFB的高频图像进行L级方向分解,得到2L个方向子图像,使NSCT获得多向特性和更准确的方向信息,其中,NSDFB为双通道树型滤波器组。
第k级低通滤波器的理想频率支持区域为:
[-(π/2k)(π/2k)]2
等效的滤波器k级联NSPDF表示为:
其中,H0(z)表示低通滤波器,H1(z)表示对应的高通滤波器。
S4:利用分层贝叶斯方法融合低频子带,利用相位一致性融合高频子带,进行逆变换得到融合后的低秩分量。
需要说明的是,低频部分的图像分层贝叶斯融合模型包括:将融合低频图像(I)与源低频图像(U,V)之间差异最小化,保持源低频图像的总体轮廓,其表达公式为:
其中,f、g为损失函数;
假设差异用L1范数衡量,问题改为:
令X=I-V,Y=U-V,得到:
对应一个线性回归模型:
Y=X+E
其中,E是拉普拉斯噪声,X受拉普拉斯分布控制。
通过贝叶斯的方法重新表述为:
X的先验分布表示为:
优化拉普拉斯分布后新的模型表示为:
使用EM算法推断贝叶斯融合模型包括:对X进行初始化,在E步中计算q函数,也就是对数似然函数对上的期望;
在M步中找到使得q函数最大的X,其中E步和M步相互交替,达到最大迭代次数T,得到T=13。
利用相位一致性(PC)融合高频子带包括:采用相位一致性增加高频图像特征,保留更多的信息量,PC无因次测量方法,主要测量图像的特征,PC是局部锐度最大的系数相位。
图像为二维信号,在(x,y)处的PC计算公式为:
其中,θk表示在k处的方向角,An,θk表示第n个傅里叶分量的振幅和角度,ε表示为正常数以去除图像信号的直流分量,在高频部分融合中,ε=0.001;
引入锐度变化(SCM)的测量方法弥补PC不反映局部对比变化:
其中,Ω0表示在(x,y)处输入一个大小为3×3的局部区域,(x0,y0)表示在Ω0局部区域内的一个像素点,引入局部SCM(LSCM)计算(x,y)领域对比,表达公式为:
(2M+1)×(2N+1)表示领域大小,引入局部能量(LE)反映局部亮度信息LSCM和PC:
设计新的活动测量(NAM),使用PC、LSCM和LE测量图像信息的不同方面;
其中α1=1,β1=2,γ1=2,调节PC、LSCM和LE,得到NAM后,融合高频带图像根据下式得出:
其中,HF(x,y),HA(x,y),HB(x,y)代表融合高频图像和两个高频源图像,Lmapi(x,y)表示高频融合的决策图,由下式计算:
S5:使用加权平均策略融合稀疏图像得到稀疏分量,叠加低秩分量和稀疏分量得到融合图片。
需要说明的是,将融合后的低频部分与高频部分进行NSCT逆变换得到融合后的低秩分量;
使用加权平均策略融合稀疏图像得到稀疏分量S,其表达公式为:
S=0.5*S1+0.5*S2
将得到的稀疏分量与低秩分量相加得到最终的融合图像。
本发明解决了如今红外与可见光图像融合时融合图像的边缘强度,平均梯度以及视觉信息保真度等图像评价指标不高的问题,非采样Contourlet变换更好地弥补了小波变换和Contourlet变换在图像融合特征描述以及方向性等方面的缺陷。
实施例2
参照图5~9、12~16所示,为本发明另一个实施例,该实施例不同于第一个实施例的是,提供了一种基于改进的GoDec算法的红外与可见光图像融合方法的验证测试,为对本方法中采用的技术效果加以验证说明,本实施例选择了两组图像进行实验,分别采用了潜在低秩表示(latlrr)、基于深度学习框架、nsct、godec方法的四种融合方式对其进行融合,与本发明方法进行对比测试,以科学论证的手段对比试验结果,以验证本方法所具有的真实效果。
本发明在win10系统,处理器为Intel(R)Core(TM)i5-8265U CPU@1.60GHz1.80GHz,机带RAM为8.00GB的MALAB 2016b上实现。采用六项图像融合评价指标:平均梯度(avg)、边缘强度(ein)、空间频率(sf)、图像清晰度(fd)、视觉信息质量(Q)、互信息(fmii)对不同方法的红外与可见光图像融合效果进行比较,对比结果如下表所示。
表1:第一组图像融合对比表。
方法 | latlrr | 深度学习 | nsct | godec | 本文方法 |
avg | 2.4135 | 1.9867 | 2.3522 | 2.9762 | 3.2286 |
ein | 25.6823 | 21.008 | 25.3978 | 32.4773 | 34.0541 |
sf | 9.1842 | 7.4595 | 7.2173 | 8.7522 | 12.3565 |
fd | 3.0121 | 2.507 | 2.7732 | 3.2151 | 4.1754 |
Q | 0.5037 | 0.4045 | 0.4259 | 0.4974 | 0.5462 |
fmii | 0.9178 | 0.9191 | 0.9136 | 0.9151 | 0.9224 |
表2:第二组图像融合对比表。
方法 | latlrr | 深度学习 | nsct | godec | 本文方法 |
avg | 3.6751 | 3.4589 | 3.9062 | 4.8685 | 5.7907 |
ein | 38.1822 | 35.8275 | 41.3525 | 52.5651 | 59.5944 |
sf | 9.2834 | 8.6226 | 8.6752 | 10.8784 | 14.7097 |
fd | 4.1795 | 3.9611 | 4.3255 | 5.0878 | 6.6863 |
Q | 0.3936 | 0.3616 | 0.3289 | 0.4529 | 0.5648 |
fmii | 0.8820 | 0.9602 | 0.9044 | 0.8982 | 0.9155 |
如图5~9所示,分别为潜在低秩表示(latlrr)、基于深度学习框架、nsct、godec与本文方法的第一组图像图像融合结果图;
如图12~16所示,分别为潜在低秩表示(latlrr)、基于深度学习框架、nsct、godec与本文方法的第二组图像图像融合结果图。
主管效果:第一组融合结果图可看出,本发明方法对于汽车、路灯、垃圾桶、路上的行人等轮廓信息的提取十分明显,整体图像相对清晰没有雾感;
第二组融合结果图可看出,指标牌、信箱的边缘相对明显,树枝以及门框下的人物纹理较为清晰,整体视觉效果优于与之比较的几种方法,从改进后的GoDec算法分解后的低秩图像可以看出包含的大量有用信息。
客观指标:本发明的平均梯度、边缘强度、图像清晰度相对于传统方法以及基于深度学习框架的方法都有明显改进。本发明的融合效果具有清晰度高、轮廓分明、视觉保真度高的优点,更有利于后续图像应用。
应当认识到,本发明的实施例可以由计算机硬件、硬件和软件的组合、或者通过存储在非暂时性计算机可读存储器中的计算机指令来实现或实施。所述方法可以使用标准编程技术-包括配置有计算机程序的非暂时性计算机可读存储介质在计算机程序中实现,其中如此配置的存储介质使得计算机以特定和预定义的方式操作——根据在具体实施例中描述的方法和附图。每个程序可以以高级过程或面向对象的编程语言来实现以与计算机系统通信。然而,若需要,该程序可以以汇编或机器语言实现。在任何情况下,该语言可以是编译或解释的语言。此外,为此目的该程序能够在编程的专用集成电路上运行。
此外,可按任何合适的顺序来执行本文描述的过程的操作,除非本文另外指示或以其他方式明显地与上下文矛盾。本文描述的过程(或变型和/或其组合)可在配置有可执行指令的一个或多个计算机系统的控制下执行,并且可作为共同地在一个或多个处理器上执行的代码(例如,可执行指令、一个或多个计算机程序或一个或多个应用)、由硬件或其组合来实现。所述计算机程序包括可由一个或多个处理器执行的多个指令。
进一步,所述方法可以在可操作地连接至合适的任何类型的计算平台中实现,包括但不限于个人电脑、迷你计算机、主框架、工作站、网络或分布式计算环境、单独的或集成的计算机平台、或者与带电粒子工具或其它成像装置通信等等。本发明的各方面可以以存储在非暂时性存储介质或设备上的机器可读代码来实现,无论是可移动的还是集成至计算平台,如硬盘、光学读取和/或写入存储介质、RAM、ROM等,使得其可由可编程计算机读取,当存储介质或设备由计算机读取时可用于配置和操作计算机以执行在此所描述的过程。此外,机器可读代码,或其部分可以通过有线或无线网络传输。当此类媒体包括结合微处理器或其他数据处理器实现上文所述步骤的指令或程序时,本文所述的发明包括这些和其他不同类型的非暂时性计算机可读存储介质。当根据本发明所述的方法和技术编程时,本发明还包括计算机本身。计算机程序能够应用于输入数据以执行本文所述的功能,从而转换输入数据以生成存储至非易失性存储器的输出数据。输出信息还可以应用于一个或多个输出设备如显示器。在本发明优选的实施例中,转换的数据表示物理和有形的对象,包括显示器上产生的物理和有形对象的特定视觉描绘。
如在本申请所使用的,术语“组件”、“模块”、“系统”等等旨在指代计算机相关实体,该计算机相关实体可以是硬件、固件、硬件和软件的结合、软件或者运行中的软件。例如,组件可以是,但不限于是:在处理器上运行的处理、处理器、对象、可执行文件、执行中的线程、程序和/或计算机。作为示例,在计算设备上运行的应用和该计算设备都可以是组件。一个或多个组件可以存在于执行中的过程和/或线程中,并且组件可以位于一个计算机中以及/或者分布在两个或更多个计算机之间。此外,这些组件能够从在其上具有各种数据结构的各种计算机可读介质中执行。这些组件可以通过诸如根据具有一个或多个数据分组(例如,来自一个组件的数据,该组件与本地系统、分布式系统中的另一个组件进行交互和/或以信号的方式通过诸如互联网之类的网络与其它系统进行交互)的信号,以本地和/或远程过程的方式进行通信。
应说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (9)
1.一种基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于,包括:
获取红外图像和可见光图像;
通过改进的GoDec算法对所述红外图像IR和所述可见光图像VIS矩阵进行GoDec分解,并分别得到各自对应的低秩图像和稀疏图像;
对所述低秩图像进行非下采样Contourlet变换,分别得到各自对应的高频子带和低频子带;
利用分层贝叶斯方法融合低频子带,利用相位一致性融合高频子带,进行逆变换得到融合后的低秩分量;
使用加权平均策略融合稀疏图像得到稀疏分量,叠加低秩分量和稀疏分量得到融合图片。
2.如权利要求1所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:利用所述改进的GoDec算法对所述红外图像IR和可见光图像VIS矩阵进行GoDec分解,并得到各自对应的所述低秩图像和稀疏图像的过程包括,
所述改进的GoDec算法引入了广义最大相关熵,其计算公式为:
其中,||.||F表示矩阵的F范数,使分解后的重构误差最小,E为基于半二次优化理论提出的辅助变量,为期望算子,为基于广义最大相关熵的核函数的对偶函数,rank(L)表示对L矩阵求秩,card(S)表示矩阵S的稀疏度,r、k为预设值;
其中,r=300,k=100000,基于广义最大相关熵只考虑高斯核的核函数为:
其中,Γ(.)为伽马函数,α>0为形状参数,β>0为规模参数,λ=1/βα为核参数,γα,β=α/2β,γα,β=α/2β为归一化常数,α=2,β=1;
利用HQ优化策略处理M估计问题,即最小Welsch M估计量,定义为1-Gα,β(e);
考虑HQ函数的加性形式,由最小值函数δ(.)式决定,对于Welsch M估计量,函数δ(.)为:
交替求解以下问题直至收敛:
根据所述改进的GoDec算法得到各自的低秩图像L1、L2与稀疏图像S1、S2。
3.如权利要求1或2所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:对所述低秩图像L1、L2进行非下采样Contourlet变换,并分别得到各自对应的所述高频子带和低频子带的过程包括,
采用NSCT变换将所述低秩图像L1、L2分别分解为低频子带和高频子带;
通过非下采样金字塔滤波器组对源图像进行分解,得到每个分解层上的低频图像和高频图像;
对低频图像进行NSPFB迭代分解,得到k+1幅与源图像大小相同的子图像,其中高频图像k张,低频图像1张;
通过非下采样方向滤波器组对NSPFB的高频图像进行L级方向分解,得到2L个方向子图像;
第k级低通滤波器的理想频率支持区域为:
[-(π/2k)(π/2k)]2
等效的滤波器k级联NSPDF表示为:
其中,H0(z)表示低通滤波器,H1(z)表示对应的高通滤波器。
4.如权利要求3所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:所述低频部分的图像分层贝叶斯融合模型包括,
将融合低频图像(I)与源低频图像(U,V)之间差异最小化,保持源低频图像的总体轮廓,其表达公式为:
其中,f、g为损失函数;
假设差异用L1范数衡量,问题改为:
令X=I-V,Y=U-V,得到:
对应一个线性回归模型:
Y=X+E
其中,E是拉普拉斯噪声,X受拉普拉斯分布控制;
通过贝叶斯的方法重新表述为:
X的先验分布表示为:
优化拉普拉斯分布后新的模型表示为:
5.如权利要求4所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:使用EM算法推断所述贝叶斯融合模型包括,
对X进行初始化,在E步中计算q函数,在M步中找到使得q函数最大的X,其中E步和M步相互交替,达到最大迭代次数T,得到T=13。
6.如权利要求3所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:利用所述相位一致性融合高频子带包括,
采用相位一致性增加高频图像特征,保留更多的信息量;
图像为二维信号,在(x,y)处的PC计算公式为:
其中,θk表示在k处的方向角,An,θk表示第n个傅里叶分量的振幅和角度,ε表示为正常数以去除图像信号的直流分量,在高频部分融合中,ε=0.001;
引入锐度变化的测量方法弥补PC不反映局部对比变化:
其中,Ω0表示在(x,y)处输入一个大小为3×3的局部区域,(x0,y0)表示在Ω0局部区域内的一个像素点,引入局部SCM计算(x,y)领域对比,表达公式为:
(2M+1)×(2N+1)表示领域大小,引入局部能量反映局部亮度信息LSCM和PC:
设计新的活动测量,使用PC、LSCM和LE测量图像信息的不同方面;
其中α1=1,β1=2,γ1=2,调节PC、LSCM和LE,得到NAM后,融合高频带图像根据下式得出:
其中,HF(x,y),HA(x,y),HB(x,y)代表融合高频图像和两个高频源图像,Lmapi(x,y)表示高频融合的决策图,由下式计算:
7.如权利要求1、4、6任一所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:所述低频部分与所述高频部分进行逆变换的结果包括,
将所述融合后的低频部分与所述高频部分进行NSCT逆变换得到融合后的低秩分量。
8.如权利要求1或2所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:使用所述加权平均策略融合稀疏图像得到稀疏分量包括,
所述稀疏图像采用所述加权平均策略融合,得到稀疏分量S,其表达公式为:
S=0.5*S1+0.5*S2。
9.如权利要求1所述的基于改进的GoDec算法的红外与可见光图像融合方法,其特征在于:将得到的所述稀疏分量与所述低秩分量相加得到最终的融合图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111560098.2A CN114298950A (zh) | 2021-12-20 | 2021-12-20 | 一种基于改进的GoDec算法的红外与可见光图像融合方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111560098.2A CN114298950A (zh) | 2021-12-20 | 2021-12-20 | 一种基于改进的GoDec算法的红外与可见光图像融合方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114298950A true CN114298950A (zh) | 2022-04-08 |
Family
ID=80967942
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111560098.2A Pending CN114298950A (zh) | 2021-12-20 | 2021-12-20 | 一种基于改进的GoDec算法的红外与可见光图像融合方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114298950A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114926719A (zh) * | 2022-05-26 | 2022-08-19 | 大连理工大学 | 一种基于超图低秩表示的复杂动态系统感知特征融合方法 |
CN115620030A (zh) * | 2022-12-06 | 2023-01-17 | 浙江正泰智维能源服务有限公司 | 一种图像匹配方法、装置、设备、介质 |
-
2021
- 2021-12-20 CN CN202111560098.2A patent/CN114298950A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114926719A (zh) * | 2022-05-26 | 2022-08-19 | 大连理工大学 | 一种基于超图低秩表示的复杂动态系统感知特征融合方法 |
CN115620030A (zh) * | 2022-12-06 | 2023-01-17 | 浙江正泰智维能源服务有限公司 | 一种图像匹配方法、装置、设备、介质 |
CN115620030B (zh) * | 2022-12-06 | 2023-04-18 | 浙江正泰智维能源服务有限公司 | 一种图像匹配方法、装置、设备、介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108830818B (zh) | 一种快速多聚焦图像融合方法 | |
Li et al. | Pixel-level image fusion: A survey of the state of the art | |
Gan et al. | Infrared and visible image fusion with the use of multi-scale edge-preserving decomposition and guided image filter | |
Geman et al. | Bayesian image analysis | |
Chen et al. | A saliency-based multiscale approach for infrared and visible image fusion | |
CN111429391B (zh) | 一种红外和可见光图像融合方法、融合系统及应用 | |
CN108399611B (zh) | 基于梯度正则化的多聚焦图像融合方法 | |
Namboodiri et al. | On defocus, diffusion and depth estimation | |
CN104835130A (zh) | 一种多曝光图像融合方法 | |
CN114298950A (zh) | 一种基于改进的GoDec算法的红外与可见光图像融合方法 | |
Wang et al. | Multi-focus image fusion based on the improved PCNN and guided filter | |
Guo et al. | An image super-resolution reconstruction method with single frame character based on wavelet neural network in internet of things | |
Gao et al. | Improving the performance of infrared and visible image fusion based on latent low-rank representation nested with rolling guided image filtering | |
Ali et al. | 3D shape recovery by aggregating 3D wavelet transform-based image focus volumes through 3D weighted least squares | |
Wang et al. | Total generalized variation-based Retinex image decomposition | |
CN114758031A (zh) | 电容耦合电阻抗层析成像图像重建方法和装置 | |
Huang et al. | RDCa-Net: Residual dense channel attention symmetric network for infrared and visible image fusion | |
CN106934398A (zh) | 基于超像素聚类和稀疏表示的图像去噪方法 | |
Lyasheva et al. | Edge detection in images using energy characteristics | |
Luo et al. | Infrared and visible image fusion based on VPDE model and VGG network | |
Li et al. | Anisotropic total generalized variation model for Poisson noise removal | |
Zhang et al. | Infrared-visible image fusion using accelerated convergent convolutional dictionary learning | |
CN115880199B (zh) | 一种长波红外高光谱与多光谱图像融合方法、系统及介质 | |
CN101908211A (zh) | 一种基于变分方法的高光谱图像融合方法 | |
Lv et al. | Denoising method of low illumination underwater motion image based on improved canny |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |