CN104361571B - 基于边缘信息和支持度变换的红外与微光图像融合方法 - Google Patents

基于边缘信息和支持度变换的红外与微光图像融合方法 Download PDF

Info

Publication number
CN104361571B
CN104361571B CN201410676622.6A CN201410676622A CN104361571B CN 104361571 B CN104361571 B CN 104361571B CN 201410676622 A CN201410676622 A CN 201410676622A CN 104361571 B CN104361571 B CN 104361571B
Authority
CN
China
Prior art keywords
image
support
infrared
fused images
fusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201410676622.6A
Other languages
English (en)
Other versions
CN104361571A (zh
Inventor
刘磊
岳超
黄伟
李贺
孔祥宇
崔民杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Science and Technology
Original Assignee
Nanjing University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Science and Technology filed Critical Nanjing University of Science and Technology
Priority to CN201410676622.6A priority Critical patent/CN104361571B/zh
Publication of CN104361571A publication Critical patent/CN104361571A/zh
Application granted granted Critical
Publication of CN104361571B publication Critical patent/CN104361571B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

本发明公开了一种基于边缘信息和支持度变换的红外与微光图像融合方法,第一次先对源图像进行边缘检测,将检测后的结果进行融合,得到第一次融合图像,第二次先用SVT分别对两幅源图像和第一次融合图像进行多尺度分解,得到各自的各尺度近似图像与支持度图像;各尺度支持度图像,先按区域能量的融合策略互相融合,得到两幅源图像的支持度融合图像,然后两幅源图像的支持度融合图像再与第一次融合图像分解得到的各尺度支持度图像进行加权融合得到最终的支持度融合图像;最后将融合后的近似图像与最终的支持度图像进行支持度逆变换,重构得到最终的融合图像。本发明能够对红外与微光图像进行高效的图像融合。

Description

基于边缘信息和支持度变换的红外与微光图像融合方法
技术领域
本发明属于图像融合技术领域,特别是一种基于边缘信息和支持度变换的红外与微光图像融合方法。
背景技术
正如李才平、邹永星和杨松龄发表在2006年第2期国外电子元器件上《基于微光与红外的夜视技术》一文所提到的,单一的红外或微光成像技术,由于原理不同,各有利弊。微光图像的对比度差,灰度级有限,瞬间动态范围差,高增益时有闪烁,只敏感于目标场景的反射,与目标背景的热对比无关。而红外图像的对比度差,动态范围大,但其只敏感于目标场景的辐射,而对场景的亮度变化不敏感。二者均存在不足之处,随着微光与红外成像技术的发展,综合和发掘微光与红外图像的特征信息,使其融合成更全面的图像已发展成为一种有效的技术手段。夜视图像融合能增强场景理解、突出目标,有利于在隐藏、伪装和迷惑的军用背景下更快更精确地探测目标。将融合图像显示成适合人眼观察的自然形式,可明显改善人眼的识别性能,减小操作者的疲劳感。在微光和红外技术各自不断进展的时期,考虑到二者的互补性,在不增加现有技术难度的基础上,将微光图像和红外图像融合以获取更好的观察效果,成为当前夜视技术发展的热点之一,这也使得图像融合技术的研究显得非常有迫切性。
发明内容
本发明的目的在于提供一种基于边缘信息和支持度变换的红外与微光图像融合方法,能够对红外与微光图像进行高效的图像融合。
实现本发明目的的技术解决方案为:一种基于边缘信息和支持度变换的红外与微光图像融合方法,包括以下步骤:
步骤(1),图像预处理:首先对红外图像和微光图像分别进行灰度化,然后经中值滤波去除噪声;
步骤(2),边缘检测:对步骤(1)得到的处理过的红外图像与微光图像,利用Sobel算子分别进行边缘检测;
步骤(3),第一次融合:对步骤(2)得到的红外图像与微光图像的边缘检测结果,利用加权平均方法进行融合,得到第一次融合图像;
步骤(4),红外图像与微光图像支持度变换:对步骤(1)得到的处理过的红外图像与微光图像利用SVT进行多尺度分解,得到各自的各尺度近似图像和支持度图像;
步骤(5),第一次融合图像支持度变换:对步骤(3)得到的第一次融合图像利用SVT进行多尺度分解,得到各尺度的近似图像和支持度图像;
步骤(6),红外图像与微光图像的近似图像融合:对于步骤(4)得到的红外图像与微光图像各自的最后一层近似图像,给出一种基于灰度均值偏差的加权系数选择融合方法,得到近似层融合图像;
步骤(7),红外图像与微光图像的各尺度支持度图像融合:对于步骤(4)得到的红外图像与微光图像各自的各尺度支持度图像,给出一种基于区域能量的融合方法,且每一尺度均按照此融合方法进行融合,得到红外与微光各尺度支持度融合图像;
步骤(8),支持度图像第二次融合:将步骤(5)得到的第一次融合图像的各尺度支持度图像与步骤(7)得到的红外与微光各尺度支持度融合图像进行加权融合,得到最终的各尺度支持度融合图像;
步骤(9),图像重构:将步骤(6)得到的近似层融合图像和步骤(8)得到的最终各尺度支持度融合图像进行支持度逆变换,得到最终融合图像。
本发明与现有技术相比,其显著优点:(1)使用边缘检测技术,提取图像的边缘信息,并进行第一次融合,这使得最终融合图像具有更为鲜明的边缘细节信息。(2)采用SVT(支持度变换)对图像进行多尺度分解,支持度变换后得到的图像的支持度矩阵是与图像显示相关的信息,可以很好地表征图像的细节特征信息,且同小波变换相比具有平移不变性、不会产生振铃效应、运算速度快的优点。(3)针对近似层图像系数的融合处理采用一种新的低频融合策略——基于灰度均值偏差的加权系数选择,避免了直接采用取平均或简单加权平均的线性融合策略在当源图像的低频成分之间相差较大时会降低图像的对比度,从而使目标(或场景)变得不清晰的问题的出现。(4)采用二次融合的方法,将提取的边缘信息多尺度分解取高频即支持度图像与红外与微光图像多尺度分解的支持度融合图像进行第二次融合,使得融合图像不仅具有普通融合方法信息丰富的特点,还具有鲜明的边缘细节信息。
下面结合附图对本发明作进一步详细描述。
附图说明
图1是本发明基于边缘信息和支持度变换的红外与微光图像融合方法的流程图。
图2(a)是本发明方法仿真原始红外图像。
图2(b)是本发明方法仿真原始微光图像。
图3(a)是本发明方法红外图像边缘检测的结果图。
图3(b)是本发明方法微光图像边缘检测的结果图。
图4是本发明方法第一次融合结果。
图5是本发明方法SVT(支持度变换)流程图。
图6是本发明方法近似层图像融合结果图。
图7(a)是本发明方法红外与微光图像第一层支持度图像融合结果图。
图7(b)是本发明方法红外与微光图像第二层支持度图像融合结果图。
图7(c)是本发明方法红外与微光图像第三层支持度图像融合结果图。
图8(a)是本发明方法最终支持度第一层融合图像结果图。
图8(b)是本发明方法最终支持度第二层融合图像结果图。
图8(c)是本发明方法最终支持度第三层融合图像结果图。
图9是本发明方法最终融合结果图。
图10(a)是支持度单变换模型融合结果图。
图10(b)是简单加权平均模型融合结果图。
图10(c)是拉普拉斯变换模型融合结果图。
图10(d)是小波变换模型融合结果图。
图10(e)是本发明方法最终融合结果图。
具体实施方式
结合图1,本发明的基于边缘信息和支持度变换的红外与微光图像融合方法,包括以下步骤:
步骤1图像预处理:首先对红外图像和微光图像分别进行灰度化,然后经中值滤波去除噪声;
步骤2边缘检测:对步骤1得到的处理过的红外图像和微光图像,进行边缘检测。边缘检测的步骤为:
第一:采用Sobel(索贝尔)边缘检测算子,该算子是由两个卷积核(Δxf(x,y)、Δyf(x,y))对原图像(指红外图像和微光图像)f(x,y)进行卷积运算而得到的,如果用差分代替一阶偏导,边缘检测算子的计算方法如下:
式中Δxf(x,y)表示检测出图像中的水平方向的边缘;Δyf(x,y)表示检测出图像中垂直方向的边缘。
第二:图像中的每一个像素点都用这两个卷积核进行卷积运算,取其平方和的算术平方根作为输出:
以红外图像为例,f1表示红外图像经过边缘检测之后的图像。
以微光图像为例,f2表示微光图像经过边缘检测之后的图像。
步骤3第一次融合:对步骤2得到的红外和微光图像边缘检测的结果,利用简单的加权平均策略进行融合,得到第一次融合图像。第一次融合的方法为:
其中,f1为红外图像经过边缘检测之后的图像,f2为微光图像经过边缘检测之后的图像,ft表示第一次融合图像。
步骤4红外图像与微光图像支持度变换:对步骤1得到的处理过的红外图像和微光图像利用SVT(支持度变换)分别进行多尺度分解,得到各自的各尺度近似图像和支持度图像。
支持度变换是一种非采样的二值冗余变换,是在最小二乘支持向量机(leastsquares support vectormachine,LS-SVM)基础上提出的一种新的图像多尺度变换方法。支持度变换后得到的图像的支持度矩阵是与图像显示相关的信息,可以很好地表征图像的细节特征信息,且同小波变换相比具有平移不变性、不会产生振铃效应、运算速度快的优点,因而成为一种很有前途的图像多尺度分析工具。具体步骤为:
第一步:输入红外图像fa和微光图像fb。
第二步:创建初始滤波矩阵SV0
在LS-SVM中,其优化条件可以写成线性方程:
式中:Ω=K+Iγ-1,K为核函数,kij=K(xi,xj),Y=[y1,…,yN]Tα=[α1,…,αN]T。αi为支持向量xi的支持度。用映射最小二乘向量机求解上式的解为:
如果设有两个矩阵:
则式(6)变为:
式中:矩阵A、B只取决于输入向量{xi,i=1,…,N},可以预先计算出,而与输出无关。设有一个N*N的矩阵则上式可写成:
在映射邻域,图像像素的支持度可以由(8)式求得。Q取决于输入矢量、核函数K和参数γ。因此,在映射最小二乘向量机中,输入向量对特定大小的邻域而言是常数,支持度滤波器可由核函数K和参数γ确定,若核函数选择高斯径向基核函数K(xi,xj)=exp(-||xi-xj||/2σ2),其中σ2扩展参数设为0.3,γ为1,对于5*5的映射向量空间,相应的支持度滤波矩阵为:
第三步:红外图像fa、微光图像fb与滤波矩阵相乘,得到一层近似图像和支持度图像。
第四步:判断是否达到分解层数r,若没有则重构滤波矩阵SVl,对初始滤波矩阵SV0采用隔行隔列填充0的方法可以构造出一系列的多尺度支持度滤波矩阵SVl,并跳转至第三步;若达到分解层数,则结束。
综上所述图像的支持度变换过程可以用如下公式描述:以红外图像fa为例,通过与系列支持度滤波器卷积得到系列支持度图像和近似图像
式中:r为分解层数;SVl为系列支持度滤波器;Sal为红外图像的系列支持度图像,其可反应图像的细节显著特征,Pal为红外图像的系列近似图像。
步骤5第一次融合图像支持度变换:对于步骤3得到的第一次融合图像利用SVT(支持度变换)进行多尺度分解,得到各尺度的近似图像与支持度图像。
其结果表述为:
式中:r为分解层数;SVl为系列支持度滤波器;Sfl为第一次融合图像的系列支持度图像,其可反应图像的细节显著特征,Pfl为第一次融合图像的系列近似图像。ft为第一次融合图像。
其中支持度变换具体步骤为:
第一步:输入第一次融合图像ft
第二步:创建初始滤波矩阵SV0
在LS-SVM中,其优化条件写成线性方程:
式中:Ω=K+Iγ-1,K为核函数,kij=K(xi,xj),Y=[y1,…,yN]Tα=[α1,…,αN]T,αi为支持向量xi的支持度,用映射最小二乘向量机求解上式的解为:
如果设有两个矩阵:
则式(6)变为:
式中:矩阵A、B只取决于输入向量{xi,i=1,…,N},预先计算出,而与输出无关;设有一个N*N的矩阵则上式写成:
在映射邻域,图像像素的支持度由(8)式求得,Q取决于输入矢量、核函数K和参数γ;核函数选择高斯径向基核函数K(xi,xj)=exp(-||xi-xj||/2σ2),其中σ2扩展参数设为0.3,γ为1,对于5*5的映射向量空间,相应的支持度滤波矩阵为:
第三步:第一次融合图像ft与滤波矩阵相乘,得到一层近似图像和支持度图像;
第四步:判断是否达到分解层数r,即若没有则重构滤波矩阵SVl,对初始滤波矩阵SV0采用隔行隔列填充0的方法构造出一系列的多尺度支持度滤波矩阵SVl,并跳转至第三步;若达到分解层数,则结束。
步骤6红外图像与微光图像的近似图像融合:对于步骤4得到的红外图像和微光图像的最后一层近似图像,给出一种基于灰度均值偏差的加权系数选择的融合方案,得到近似层融合图像。
与图像的其他多尺度分解类似,图像经SVT分解后所得的近似层图像也是原图像的近似描述,主要反映的是原始图像的平均灰度和轮廓。目前,针对低频系数的融合处理,基于多尺度的图像融合方法大多数直接采用取平均或简单加权平均的线性融合策略。但是,当源图像的低频成分之间相差较大时,这种简单的线性融合方法会降低图像的对比度,从而使目标(或场景)变得不清晰。为此,针对图像SVT域的近似系数,采用一种新的低频融合策略——基于灰度均值偏差的加权系数选择的融合策略,具体如下:
第一:计算红外图像最后一层近似图像Par和微光图像最后一层近似图像Pbr(步骤4得到的近似图像为多层图像,最底下为最后一层))在以当前处理像素(x,y)为中心的局部区域R(这里取为M×N的矩形域)上的灰度均值偏差,以图像Par为例,其定义为
其中,M×N表示区域中所有像素点的个数;为图像Par的灰度均值偏差;表示局部区域R内所有像素灰度值的平均值,即
将Par、Pbr的灰度均值偏差归一化,分别表示归一化结果:
第二:定义一个匹配度MP(x,y)
第三:确定融合算子,定义一个匹配度阈值T(T通常取0.5~1,按照实际实验结果,取值0.6为最佳经验值),如果MP(x,y)≥T则有
否则
式中,Prf(x,y)表示近似层融合结果。
步骤7红外图像与微光图像的各尺度支持度图像融合:对于步骤4得到的红外图像与微光图像的支持度图像,给出一种基于区域能量的融合方案,且每一尺度均按照此融合方案进行融合,得到各尺度支持度融合图像。
由于支持度图像保留和突出了图像的细节信息,而局部区域能量较大的中心像素代表了图像的显著特征,如图像的边缘、纹理、线条等。对于支持度图像,为了获得视觉特性更佳、细节更丰富和突出的融合效果,本发明红外与微光图像的各尺度支持度图像融合的步骤为:
第一:分别计算红外图像的支持度图像Sal和微光图像的支持度图像Sbl对应像素(x,y)的局部区域能量为了计算方便,局部区域R取以像素(x,y)为中心、大小为M×N的矩形窗口(这里以选取3×3的矩形窗口为例),r为分解层数:
第二:确定融合算子,其中Slf(x,y)表示支持度图像融合结果,r为分解层数:
(20)
步骤8支持度图像第二次融合:将步骤5中第一次融合图像经SVT变换后得到的各尺度支持度图像与步骤7得到的红外与微光图像各尺度支持度融合图像进行加权融合,得到最终各尺度支持度融合图像。其中支持度图像第二次融合的步骤为:
步骤5所得到的第一次融合图像经SVT变换得到的各尺度支持度图像分别与步骤7得到的红外图像与微光图像各尺度支持度融合图像进行第二次融合,其融合方法可以表述为:
Sffl=Slf(x,y)+αSfl l=1,2,…,r (21)
其中Sffl表示第二次融合结果即最终各尺度支持度融合图像;Slf(x,y)表示红外图像与微光图像的支持度融合图像;Sfl为第一次融合图像经SVT变换得到的各尺度支持度图像;r为分解层数;α为匹配系数,一般取0~0.5,本方法实际取值0.1,若α取大于0.5的值,则融合效果将会变得奇差,产生空洞和虚假边缘等。
步骤9图像重构:将步骤6得到的红外图像与微光图像近似层融合图像和步骤8得到的最终各尺度支持度融合图像进行支持度逆变换,得到最终融合图像P。其中图像重构的步骤为:
将步骤6得到的近似层融合图像和步骤8得到的最终各尺度支持度融合图像进行支持度逆变换,得到最终融合图像P,其可表述为:
其中r表示多尺度变换的层数;Prf表示近似层融合图像;Sffl表示最终支持度融合图像。
下面结合实例对本发明作进一步详细的说明。
本发明以红外热像仪和微光摄像头采集的图像为源文件(其中红外与微光图像为已经配准好的图像),Matlab(R2012b)软件平台为基础,提出了一种基于边缘信息和支持度变换的红外与微光图像融合方法,并利用此方法对红外图像与微光图像进行融合,方法流程如图1所示。
本实例所使用的红外和微光图像像素大小均为314×234,如图2(a)本发明方法仿真输入原始红外图像、图2(b)本发明方法仿真输入原始微光图像所示。首先分别读取源红外图像fa和微光图像fb,对图像进行灰度化,并进行中值滤波去噪处理;接着用Sobel边缘检测算子对2幅图像进行边缘检测,其结果分别记为f1、f2,如图3(a)本发明方法红外图像边缘检测的结果、图3(b)本发明方法微光图像边缘检测的结果所示;然后将f1、f2进行简单的加权平均,这就是本方法的第一次融合,其结果记为ft,如图4本发明方法第一次融合结果所示。至此本发明的第一阶段结束。
第二阶段,首先用SVT对红外图像fa、微光图像fb和第一次融合图像ft分别进行多尺度分解(本实例分解层数r为3),如图5本发明方法SVT(支持度变换)流程示意图所示,分别得到各自的近似层图像和系列支持度图像;之后对红外图像与微光图像的最后一层近似图像,提出了一种基于灰度均值偏差的加权系数选择的融合方案,结果如图6本发明方法近似层图像融合结果所示;接着对红外图像与微光图像每层的支持度图像,采用基于区域能量的融合系数选择,结果如图7(a)本发明方法红外与微光图像第一层支持度图像融合结果,图7(b)本发明方法红外与微光图像第二层支持度图像融合结果,图7(c)本发明方法红外与微光图像第三层支持度图像融合结果所示。
第三阶段即本发明的第二次融合,将第一阶段的融合结果ft的各尺度支持度图像和第二阶段红外与微光图像的支持度图像融合结果两者之间进行融合,其融合策略见式(21),结果如图8(a)本发明方法最终支持度第一层融合图像结果图8(b)本发明方法最终支持度第二层融合图像结果图8(c)本发明方法最终支持度第三层融合图像结果所示。
最后一阶段即图像的重构,运用支持度逆变换得到最终融合图像,如图9本发明方法最终融合结果所示。
为了将本发明所提出的方法和其它方法对比,分别设计了简单加权平均融合模型、拉普拉斯变换融合模型和小波变换融合模型,其中拉普拉斯变换融合模型和小波变换融合模型的低频和高频均采用加权平均的融合策略。其仿真结果分别如图10(a)-(d)所示:(a)支持度单变换模型仿真结果;(b)简单加权平均融合模型仿真结果;(c)拉普拉斯变换融合模型仿真结果;(d)小波变换融合模型仿真结果。
根据图10(a)-(e),可以看出,从图像内容的丰富程度和细节信息的表现方面,(e)图本发明方法效果最佳,(c)拉普拉斯变换次之,而(b)图简单加权平均的效果最差,图像不清晰;从对比度角度方面,也是(e)图本发明方法效果最佳,具有更强的纹理细节,而其他四种变换模型对比不明显且纹理细节不够清晰;所以本发明所提出的方法融合结果明显优于其它各类融合算法,细节保留更加全面,具有较强的图像对比度,边缘轮廓也更加清晰,视觉效果更好、信息更丰富的特点。

Claims (8)

1.一种基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于包括以下步骤:
步骤(1),图像预处理:首先对红外图像和微光图像分别进行灰度化,然后经中值滤波去除噪声;
步骤(2),边缘检测:对步骤(1)得到的处理过的红外图像与微光图像,利用Sobel算子分别进行边缘检测;
步骤(3),第一次融合:对步骤(2)得到的红外图像与微光图像的边缘检测结果,利用加权平均方法进行融合,得到第一次融合图像;
步骤(4),红外图像与微光图像支持度变换:对步骤(1)得到的处理过的红外图像与微光图像利用SVT进行多尺度分解,得到各自的各尺度近似图像和支持度图像;
步骤(5),第一次融合图像支持度变换:对步骤(3)得到的第一次融合图像利用SVT进行多尺度分解,得到各尺度的近似图像和支持度图像;
步骤(6),红外图像与微光图像的近似图像融合:对于步骤(4)得到的红外图像与微光图像各自的最后一层近似图像,给出一种基于灰度均值偏差的加权系数选择融合方法,得到近似层融合图像;
步骤(7),红外图像与微光图像的各尺度支持度图像融合:对于步骤(4)得到的红外图像与微光图像各自的各尺度支持度图像,给出一种基于区域能量的融合方法,且每一尺度均按照此融合方法进行融合,得到红外与微光各尺度支持度融合图像;
步骤(8),支持度图像第二次融合:将步骤(5)得到的第一次融合图像的各尺度支持度图像与步骤(7)得到的红外与微光各尺度支持度融合图像进行加权融合,得到最终的各尺度支持度融合图像;
步骤(9),图像重构:将步骤(6)得到的近似层融合图像和步骤(8)得到的最终各尺度支持度融合图像进行支持度逆变换,得到最终融合图像。
2.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(2)的边缘检测的步骤为:
第一:采用Sobel边缘检测算子,该算子是由两个卷积核Δxf(x,y)、Δyf(x,y)对原图像f(x,y)进行卷积运算而得到的,如果用差分代替一阶偏导,边缘检测算子的计算方法如下:
Δ x f ( x , y ) = [ f ( x - 1 , y + 1 ) + 2 f ( x , y + 1 ) + f ( x + 1 , y + 1 ) ] - [ f ( x - 1 , y - 1 ) + 2 f ( x , y - 1 ) + f ( x + 1 , y - 1 ) ] Δ y f ( x , y ) = [ f ( x - 1 , y - 1 ) + 2 f ( x - 1 , y ) + f ( x - 1 , y + 1 ) ] - [ f ( x + 1 , y - 1 ) + 2 f ( x + 1 , y ) + f ( x + 1 , y + 1 ) ] - - - ( 1 )
式中Δxf(x,y)表示检测出图像中的水平方向的边缘;Δyf(x,y)表示检测出图像中垂直方向的边缘;
第二:原图像中的每一个像素点都用这两个卷积核进行卷积运算,取其平方和的算术平方根作为输出:
f = Δ x f ( x , y ) 2 + Δ y f ( x , y ) 2 - - - ( 2 ) .
3.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(3)所述的第一次融合的方法为:
f t = f 1 + f 2 2 - - - ( 3 )
其中,f1为红外图像经过边缘检测之后的图像,f2为微光图像经过边缘检测之后的图像,ft表示第一次融合图像。
4.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(4)、步骤(5)的支持度变换的步骤为:
第一步:输入红外图像fa、微光图像fb和第一次融合图像ft
第二步:创建初始滤波矩阵SV0
在LS-SVM中,其优化条件写成线性方程:
0 1 → 1 → Ω b α = 0 Y - - - ( 4 )
式中:Ω=K+Iγ-1,K为核函数,kij=K(xi,xj),Y=[y1,…,yN]Tα=[α1,…,αN]T,αi为支持向量xi的支持度,用映射最小二乘向量机求解上式的解为:
b = 1 → Ω - 1 Y 1 → Ω - 1 1 → , α = Ω - 1 ( Y - b 1 → ) - - - ( 5 )
如果设有两个矩阵:
A = Ω - 1 , B = 1 → T Ω - 1 1 → T Ω - 1 1 → - - - ( 6 )
则式(6)变为:
b = B T Y , α = A ( Y - b 1 → ) - - - ( 7 )
式中:矩阵A、B只取决于输入向量{xi,i=1,…,N},预先计算出,而与输出无关;设有一个N*N的矩阵则上式写成:
α = A ( I - 1 → B ) Y = Q Y - - - ( 8 )
在映射邻域,图像像素的支持度由式(8)求得,Q取决于输入矢量、核函数K和参数γ;核函数选择高斯径向基核函数
K(xi,xj)=exp(-||xi-xj||/2σ2),其中σ2扩展参数设为0.3,γ为1,对于5*5的映射向量空间,相应的支持度滤波矩阵为:
SV 0 = - 0.0158 - 0.0136 - 0.0102 - 0.0136 - 0.0158 - 0.0136 - 0.0130 - 0.0602 - 0.0130 - 0.0136 - 0.0102 - 0.0602 0.5056 - 0.0602 - 0.0102 - 0.0136 - 0.0130 - 0.0602 - 0.0130 - 0.0136 - 0.0158 - 0.0136 - 0.0102 - 0.0136 - 0.0158 - - - ( 9 )
第三步:红外图像fa、微光图像fb和第一次融合图像ft分别与滤波矩阵相乘,得到一层近似图像和支持度图像;
第四步:判断是否达到分解层数r,即若没有则重构滤波矩阵SVl,对初始滤波矩阵SV0采用隔行隔列填充0的方法构造出一系列的多尺度支持度滤波矩阵SVl,并跳转至第三步;若达到分解层数,则结束。
5.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(6)的红外与微光图像的最后一层近似图像的融合的步骤为:
第一步:计算红外图像最后一层近似图像Par和微光图像最后一层近似图像Pbr在以当前处理像素(x,y)为中心的局部区域R上的灰度均值偏差,这里取为M×N的矩形域,以红外图像最后一层近似图像Par为例,其定义为
m Pa r ( x , y ) = 1 M × N Σ m = 1 M Σ n = 1 N | Pa r ( x + m - M + 1 2 , y + n - N + 1 2 ) - Pa r - ( x , y ) |
m Pb r ( x , y ) = 1 M × N Σ m = 1 M Σ n = 1 N | Pb r ( x + m - M + 1 2 , y + n - N + 1 2 ) - Pb r - ( x , y ) | - - - ( 12 )
其中,M×N表示区域中所有像素点的个数;为图像Par的灰度均值偏差;表示局部区域R内所有像素灰度值的平均值,即
Pa r - ( x , y ) = 1 M × N Σ m = 1 M Σ n = 1 N Pa r ( x + m - M + 1 2 , y + n - N + 1 2 )
Pb r - ( x , y ) = 1 M × N Σ m = 1 M Σ n = 1 N Pb r ( x + m - M + 1 2 , y + n - N + 1 2 ) - - - ( 13 )
将Par、Pbr的灰度均值偏差归一化,分别表示归一化结果:
N m Pa r ( x , y ) = m Pa r ( x , y ) m Pa r ( x , y ) + m Pb r ( x , y ) N m Pb r ( x , y ) = m Pb r ( x , y ) m Pa r ( x , y ) + m Pb r ( x , y ) - - - ( 14 )
第二:定义一个匹配度MP(x,y)
M P ( x , y ) = | N m Pa r ( x , y ) - N m Pb r ( x , y ) | - - - ( 15 )
第三:确定融合算子,定义一个匹配度阈值T,T取0.5~1,如果MP(x,y)≥T则有
P r f ( x , y ) = Pa r ( x , y ) , m Pa r ( x , y ) &GreaterEqual; m Pb r ( x , y ) Pb r ( x , y ) , m Pa r ( x , y ) < m Pb r ( x , y ) - - - ( 16 )
否则
P r f ( x , y ) = N m Pa r ( x , y ) &times; Pa r ( x , y ) + N m Pb r ( x , y ) &times; Pb r ( x , y ) - - - ( 17 )
式中,Prf(x,y)表示近似层融合结果。
6.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于步骤(7)的红外与微光图像的各尺度支持度图像融合的步骤为:
第一:分别计算红外图像的支持度图像Sal和微光图像的支持度图像Sbl对应像素(x,y)的局部区域能量为了计算方便,局部区域R取以像素(x,y)为中心、大小为M×N的矩形窗口,r为分解层数:
E Sa l ( x , y ) = &Sigma; m = 1 M &Sigma; n = 1 N &lsqb; Sa l ( x + m - M + 1 2 , y + n - N + 1 2 ) &rsqb; 2 l = 1 , 2 , ... , r - - - ( 18 )
E Sb l ( x , y ) = &Sigma; m = 1 M &Sigma; n = 1 N &lsqb; Sb l ( x + m - M + 1 2 , y + n - N + 1 2 ) &rsqb; 2 l = 1 , 2 , ... , r - - - ( 19 )
第二:确定融合算子,其中Slf(x,y)表示支持度图像融合结果,r为分解层数:
S l f ( x , y ) = Sa l ( x , y ) , | E Sa l ( x , y ) | > | E Sb l ( x , y ) | Sa l ( x , y ) + Sb l ( x , y ) 2 , | E Sa l ( x , y ) | = | E Sb l ( x , y ) | Sb l ( x , y ) , | E Sa l ( x , y ) | < | E Sb l ( x , y ) | l = 1 , 2 , ... , r - - - ( 20 ) .
7.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(8)的支持度图像第二次融合的步骤为:
步骤(5)所得到的第一次融合图像经SVT变换得到的各尺度支持度图像分别与步骤(7)得到的红外与微光图像各尺度支持度融合图像进行第二次融合,其融合方法表述为:
Sffl=Slf(x,y)+αSfl l=1,2,…,r (21)
其中Sffl表示第二次融合结果即最终的支持度融合图像;Slf(x,y)表示红外与微光图像各尺度支持度融合图像;Sfl为第一次融合图像经SVT变换得到的各尺度支持度图像;r为分解层数;α为匹配系数,取0~0.5。
8.根据权利要求1所述的基于边缘信息和支持度变换的红外与微光图像融合方法,其特征在于,步骤(9)的图像重构的步骤为:
将步骤(6)得到的近似层融合图像和步骤(8)得到的最终各尺度支持度融合图像进行支持度逆变换,得到最终融合图像P,其表述为:
P = P r f + &Sigma; l = 1 r Sff l l = 1 , 2 , ... , r - - - ( 22 )
其中r表示多尺度变换的层数;Prf表示近似层融合图像;Sffl表示最终支持度融合图像。
CN201410676622.6A 2014-11-21 2014-11-21 基于边缘信息和支持度变换的红外与微光图像融合方法 Expired - Fee Related CN104361571B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410676622.6A CN104361571B (zh) 2014-11-21 2014-11-21 基于边缘信息和支持度变换的红外与微光图像融合方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410676622.6A CN104361571B (zh) 2014-11-21 2014-11-21 基于边缘信息和支持度变换的红外与微光图像融合方法

Publications (2)

Publication Number Publication Date
CN104361571A CN104361571A (zh) 2015-02-18
CN104361571B true CN104361571B (zh) 2017-05-10

Family

ID=52528829

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410676622.6A Expired - Fee Related CN104361571B (zh) 2014-11-21 2014-11-21 基于边缘信息和支持度变换的红外与微光图像融合方法

Country Status (1)

Country Link
CN (1) CN104361571B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106815826A (zh) * 2016-12-27 2017-06-09 上海交通大学 基于场景识别的夜视图像彩色融合方法
CN108830819B (zh) * 2018-05-23 2021-06-18 青柠优视科技(北京)有限公司 一种深度图像与红外图像的图像融合方法及装置
CN111968068A (zh) * 2020-08-18 2020-11-20 杭州海康微影传感科技有限公司 一种热成像图像的处理方法及装置
CN112241973B (zh) * 2020-10-23 2022-11-25 国网电力科学研究院武汉南瑞有限责任公司 用于变电设备智能组件图像分析边界追踪表示方法及装置
CN117853962A (zh) * 2024-03-07 2024-04-09 国网江西省电力有限公司电力科学研究院 基于单双邻域边缘检测的瓷绝缘子微光红外融合感知方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101799915A (zh) * 2010-02-26 2010-08-11 中北大学 一种双色中波红外图像融合方法
CN101907772A (zh) * 2010-07-12 2010-12-08 南京理工大学 红外与微光多光谱融合前端光机结构
CN103093448A (zh) * 2013-01-24 2013-05-08 中北大学 双色中波红外图像变换域多规则融合方法
CN103729836A (zh) * 2014-01-27 2014-04-16 中北大学 基于多尺度变换和可能性理论的多波段图像融合方法
CN103745203A (zh) * 2014-01-15 2014-04-23 南京理工大学 基于视觉注意和均值漂移的目标检测与跟踪方法
CN104112263A (zh) * 2014-06-28 2014-10-22 南京理工大学 基于深度神经网络的全色图像与多光谱图像融合的方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101799915A (zh) * 2010-02-26 2010-08-11 中北大学 一种双色中波红外图像融合方法
CN101907772A (zh) * 2010-07-12 2010-12-08 南京理工大学 红外与微光多光谱融合前端光机结构
CN103093448A (zh) * 2013-01-24 2013-05-08 中北大学 双色中波红外图像变换域多规则融合方法
CN103745203A (zh) * 2014-01-15 2014-04-23 南京理工大学 基于视觉注意和均值漂移的目标检测与跟踪方法
CN103729836A (zh) * 2014-01-27 2014-04-16 中北大学 基于多尺度变换和可能性理论的多波段图像融合方法
CN104112263A (zh) * 2014-06-28 2014-10-22 南京理工大学 基于深度神经网络的全色图像与多光谱图像融合的方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
DIFFERENT FOCUSES IMAGE FUSION WITH DIRECTIONAL SUPPORT VALUE TRANSFORM;SHENG ZHENG 等;《Machine Learning and Cybernetics》;20090715;第39-44页 *
Multisource Image Fusion Method Using Support Value Transform;Sheng Zheng 等;《IMAGE PROCESSING》;20070731;第1831-1839页 *
双色中波红外图像的分割支持度变换融合;杨风暴 等;《红外与毫米波学报》;20101031;第362-366页 *
目标增强的红外与微光图像融合算法;张宝辉 等;《红外与激光工程》;20140731;第2349-2353页 *
远距离红外与微光/可见光融合成像系统;张俊举 等;《红外与激光工程》;20120131;第20-24页 *

Also Published As

Publication number Publication date
CN104361571A (zh) 2015-02-18

Similar Documents

Publication Publication Date Title
CN107578418B (zh) 一种融合色彩和深度信息的室内场景轮廓检测方法
CN104361571B (zh) 基于边缘信息和支持度变换的红外与微光图像融合方法
CN103020933B (zh) 一种基于仿生视觉机理的多源图像融合方法
CN103745468B (zh) 一种基于图结构和边界先验的显著性物体检测方法
CN104408700A (zh) 基于形态学和pca的轮廓波红外与可见光图像融合方法
CN106204447A (zh) 基于总变差分和卷积神经网络的超分辨率重建方法
CN106339998A (zh) 基于对比度金字塔变换的多聚焦图像融合方法
CN104835130A (zh) 一种多曝光图像融合方法
CN109558806A (zh) 高分遥感图像变化的检测方法和系统
CN110689495B (zh) 一种深度学习的图像修复方法
CN112733950A (zh) 一种基于图像融合与目标检测结合的电力设备故障诊断方法
CN110189286B (zh) 一种基于ResNet的红外与可见光图像融合方法
CN104143102B (zh) 在线图像数据处理方法
CN109034184A (zh) 一种基于深度学习的均压环检测识别方法
CN111178121B (zh) 基于空间特征和深度特征强化技术的害虫图像定位识别方法
Zhao et al. Infrared and visible image fusion algorithm based on saliency detection and adaptive double-channel spiking cortical model
CN104268833A (zh) 基于平移不变剪切波变换的图像融合新方法
CN104036481B (zh) 一种基于深度信息提取的多聚焦图像融合方法
CN111179208A (zh) 基于显著图与卷积神经网络的红外-可见光图像融合方法
CN103489168A (zh) 一种红外图像自适应转伪彩增强方法及系统
CN104252704A (zh) 基于总广义变分的红外图像多传感器超分辨率重建方法
Zhou et al. New improved optimized method for medical image enhancement based on modified shark smell optimization algorithm
CN108694708A (zh) 基于图像边缘提取的小波变换图像融合方法
CN111815550A (zh) 一种基于灰度共生矩阵的红外与可见光图像融合方法
CN107451986A (zh) 一种基于融合技术的单幅红外图像增强方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20170510

Termination date: 20181121

CF01 Termination of patent right due to non-payment of annual fee