CN110633759A - 图像融合方法、装置及电子设备 - Google Patents

图像融合方法、装置及电子设备 Download PDF

Info

Publication number
CN110633759A
CN110633759A CN201910903087.6A CN201910903087A CN110633759A CN 110633759 A CN110633759 A CN 110633759A CN 201910903087 A CN201910903087 A CN 201910903087A CN 110633759 A CN110633759 A CN 110633759A
Authority
CN
China
Prior art keywords
image
infrared
subject
perspective
fluoroscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910903087.6A
Other languages
English (en)
Inventor
曲海波
赵杰
范立军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Hualixing Sci Tech Development Co Ltd
Original Assignee
Beijing Hualixing Sci Tech Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Hualixing Sci Tech Development Co Ltd filed Critical Beijing Hualixing Sci Tech Development Co Ltd
Priority to CN201910903087.6A priority Critical patent/CN110633759A/zh
Publication of CN110633759A publication Critical patent/CN110633759A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/251Fusion techniques of input or preprocessed data

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Processing (AREA)

Abstract

本公开实施例中提供了一种图像融合方法、装置及电子设备,属于图像处理技术领域,该方法包括:获取被摄体的透视图像和红外图像;对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。通过本公开的处理方案,解决了安防领域中X射线透视图像与红外热辐射图像在不同角度、不同比例、不同维度下的信息融合问题。

Description

图像融合方法、装置及电子设备
技术领域
本公开涉及图像处理技术领域,尤其涉及一种图像融合方法、装置及电子设备。
背景技术
图像融合技术较多的被用于可见光图像与红外图像的融合,以实现同一物体信息的融合,以用于物品非接触查验及安防等。
X射线图像通过X射线穿过被摄体,形成被摄体的透视图像;由于被摄体的原子序数、密度及厚度不同,从而形成明暗不同的灰度图像,其可以直接反应被摄体的内部结构及材质等特征。
另一方面,高于绝对零度的物体都会向外辐射电磁波,长波红外即是一种非可见范围内的电磁波。通过红外相机采集这些电磁波可以得到这些物体的红外图像,红外图像能够直接反映出物体及周围环境的温度分布情况。
X射线图像和红外图像这两类图像能够在各自的领域表现出被摄体的不同属性,若想同时查看这两个维度的信息,需要观看两幅图像,且这两幅图像受限于像素分辨率,一般会以不同的大小比例显示在各自的图像上,因此需要反复比较对照两幅图像来查看某特定位置的信息。
发明内容
有鉴于此,本公开实施例提供一种图像融合方法、装置及电子设备,以至少部分解决现有技术中存在的问题。
第一方面,本公开实施例提供了一种图像融合方法,包括:
获取被摄体的透视图像和红外图像,其中所述透视图像为通过使用放射线照射所述被摄体并捕获穿过所述被摄体的放射线而获得的图像;
对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;
对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及
对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
根据本公开实施例的一种具体实现方式,所述放射线为X射线,并且所述透视图像为X射线透视图像。
根据本公开实施例的一种具体实现方式,所述对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域,包括:
对所述透视图像和所述红外图像执行预处理,其中所述预处理包括降低噪声处理和边缘增强处理中的至少一种;以及
对经所述预处理的透视图像和红外图像执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域。
根据本公开实施例的一种具体实现方式,所述对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域,包括:
对所述透视图像和所述红外图像执行边缘检测以获得所述透视图像和所述红外图像中的物体的边缘轮廓;以及
从所述透视图像和所述红外图像中的物体的边缘轮廓筛选出所述被摄体的轮廓以获得所述被摄体区域。
根据本公开实施例的一种具体实现方式,所述对所述透视图像和所述红外图像执行预处理,包括:
对所述透视图像和所述红外图像应用自适应中值滤波以得到滤波后的图像;以及
对所述滤波后的图像采用一阶微分算法以得到增强图像。
根据本公开实施例的一种具体实现方式,所述对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像,包括:
对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域的二维像素矩阵应用矩阵变换以得到二维空间上的对齐图像;
将经矩阵变换的图像从空间域转换到频率域,对图像的高频部分执行滤波处理并将滤波后的图像转换到空间域;以及
利用Harris角点检测得到被摄体的外围轮廓,并选取预定角点来进行坐标系对齐以获得所述被摄体区域的经配准的透视图像和红外图像。
根据本公开实施例的一种具体实现方式,所述对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域的二维像素矩阵应用矩阵变换以得到二维空间上的对齐图像,包括:
选取所述透视图像中的被摄体区域和所述红外图像中的被摄体区域中的较大尺寸的图像作为基准图像;以及
利用图像缩放方法将较小尺寸的图像拉伸到与所述较大尺寸的图像的尺寸相同的尺寸。
根据本公开实施例的一种具体实现方式,所述对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像,包括:
对所述被摄体区域的经配准的红外图像执行伪彩色的映射以获得红外辐射的彩色图像;以及
基于小波变换对所述被摄体区域的经配准的透视图像和所述红外辐射的彩色图像进行图像融合。
第二方面,本公开实施例提供了一种图像融合装置,包括:
图像获取模块,获取被摄体的透视图像和红外图像,其中所述透视图像为通过捕获穿过所述被摄体的放射线而获得的图像;
目标特征提取模块,对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;
配准模块,对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及融合模块,对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
第三方面,本公开实施例还提供了一种电子设备,该电子设备包括:
至少一个处理器;以及,
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述第一方面或第一方面的任一实现方式中的图像融合方法。
第四方面,本公开实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述第一方面或第一方面的任一实现方式中的图像融合方法。
第五方面,本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述第一方面或第一方面的任一实现方式中的图像融合方法。
本公开实施例中的图像融合方案,包括:获取被摄体的透视图像和红外图像,其中所述透视图像为通过使用放射线照射所述被摄体并捕获穿过所述被摄体的放射线而获得的图像;对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。通过本公开的处理方案,解决了安防领域中X射线透视图像与红外热辐射图像在不同角度、不同比例、不同维度下的信息融合问题。
附图说明
为了更清楚地说明本公开实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本公开实施例提供的一种图像融合方法的流程示意图;
图2(a)为本公开实施例提供的车辆的X射线透视图的示意图,图2(b)示出了车辆及其周围环境的红外图像,并且图2(c)示出了融合后的图像;
图3为本公开实施例提供的对透视图像和红外图像分别执行目标特征提取以获得被摄体区域的流程示意图;
图4为本公开实施例提供的配准操作的流程示意图;
图5为本公开实施例提供的图像融合操作的流程示意图;
图6为本公开实施例提供的图像融合装置的结构示意图;并且
图7为本公开实施例提供的电子设备示意图。
具体实施方式
下面结合附图对本公开实施例进行详细描述。
以下通过特定的具体实例说明本公开的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本公开的其他优点与功效。显然,所描述的实施例仅仅是本公开一部分实施例,而不是全部的实施例。本公开还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本公开的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本公开中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本公开保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本公开,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本公开的基本构想,图式中仅显示与本公开中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本公开实施例提供一种图像融合方法。本实施例提供的图像融合方法可以由一计算装置来执行,该计算装置可以实现为软件,或者实现为软件和硬件的组合,该计算装置可以集成设置在服务器、终端设备等中。
此外,虽然在以下的描述中基于车辆特征来描述多分辨率下的X射线图像与红外图像的融合,但是根据本公开实施例的图像融合方法还可以应用于其他领域。
安防领域常规的X射线透视图像包含单一维度的被摄体信息,而多维度的被摄体信息需要结合多张图像进行人工比对。根据本公开实施例的基于车辆特征的多分辨率下X射线图像与红外图像融合所获得的融合图像兼具红外辐射和透视的内部构造这两个维度的信息,省去了比较对照的时间,节省了检验时间。
在本公开实施例中,术语“车辆特征”是指需要从X射线透视图像和红外辐射图像中提取的被检车辆的信息;术语“多分辨率”是指X射线透视图像的分辨率通常超过或略小于红外辐射图像分辨率的两倍,且该比例是跟随应用设备的固有特点而定,同时该比例也与被摄体同检测设备相对运动速度有关,并且不是一个固定的比例值。
接下来,参考附图具体描述根据本公开实施例的图像融合处理方法。并且在以下的描述中,以车辆作为被摄体的示例进行描述,但是应当理解,本公开实施例的图像融合处理方法还可以应用于诸如仓库之类的其他类型的被摄体。
参见图1,本公开实施例提供的一种图像融合方法,包括:
S100:获取被摄体的透视图像和红外图像,其中所述透视图像为通过使用放射线照射所述被摄体并捕获穿过所述被摄体的放射线而获得的图像。
在本公开实施例中,被摄体例如可以是车辆、仓库等。可以通过X射线照射诸如车辆之类的被摄体,并通过X照相机捕获穿过车辆的X射线以获得该车辆的X射线透视图像,图2(a)示出了车辆的X射线透视图的示意图。此外,可以通过红外照相机对车辆进行成像,以获得车辆的红外图像,图2(b)示出了车辆及其周围环境的红外图像,并且图2(c)示出了融合后的图像。
车辆的X射线透视图像能够直接反应车辆内部的结构及材质等特征。并且车辆的红外图像能够直接反映出车辆及其周围环境的温度分布情况。
应当注意,虽然在本公开实施例中以X射线作为放射线的示例进行描述,但是放射线还可以是其他的能够对被摄体内部结构进行检测的射线。
S200:对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域。
对于所获得的透视图像和红外图像,如图2(a)和图2(b)所示,并非整个图像均为所关心的车辆。因此,在本公开实施例中,需要对所获得的透视图像和红外图像进行处理,以获得作为被摄体的示例的车辆的区域。
具体地,可以通过目标特征提取方法获得透视图像和红外图像中的被摄体区域。例如可以提取图像中的各物体的轮廓,并根据目标(车辆)的轮廓特征识别出图像中的哪个物体是目标物体(车辆)。
可替代地,可以通过识别图像中的特征点,并通过特征点来标识出图像中的被摄体区域。例如,可以通过车轮、车窗等特征点来标识车辆。
应当理解,从图像中识别出被摄体的方法不限于以上所述的方法,而是还可以采用其他的目标特征提取方法以获得图像中的被摄体区域。
S300:对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像。
对于所获得的被摄体的透视图像和红外图像,由于二者的分辨率不同,在步骤S200中获得的被摄体区域的大小也不一致。因此,在本公开实施例中,需要对被摄体的透视图像和红外图像执行配准操作,以使得被摄体的透视图像和红外图像的大小尺寸一致,并且在尺寸被调整为相同之后,还需要构建统一的坐标系,以便于后续的融合。
具体地,对于尺寸不同的透视图像和红外图像,例如可以通过插值的方法来缩放图像,以使得二者的尺寸相同。另外,对于缩放后的图像,例如可以采用Harris角点检测得到车辆(被摄体)精确的外围轮廓特征值,并选取一个特定的角点进行坐标系对齐,如此获得了相同坐标系下的透视图像和红外图像,即经配准的透视图像和红外图像。
S400:对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
对于对透视图像和红外图像执行配准操作,建立了统一的坐标系,因此能够直接对二者进行图像融合操作。
图像融合操作例如可以采用基于加权平均的融合方法、基于绝对值取大的融合方法、基于主成分析PCA的融合方法、IHS融合方法、基于PCNN的融合方法、基于金字塔变换的融合方法、基于小波变换的图像融合方法、多尺度变换的融合方法、轮廓波的变换方法等等,并且还可以采用其他的图像融合方法。
根据本公开实施例的图像融合方法解决了例如安防领域中X射线透视图像与红外热辐射图像在不同角度、不同比例、不同维度下的信息融合问题。
参见图3,根据本公开实施例的一种具体实现方式,所述对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域,包括:
S301:对所述透视图像和所述红外图像执行预处理,其中所述预处理包括降低噪声处理和边缘增强处理中的至少一种。
具体地,可以对透视图像和红外图像采用自适应中值滤波以进行降低噪声处理。自适应中值滤波可以表示为:
Sxy,Zmin=MIN(Sxy),Zmax=MAX(Sxy),
Zmed=Median(Sxy),Zxy为坐标(x,y)处灰度值;Smin≤Sxy≤Smax
Figure BDA0002212437340000091
自适应中值滤波的具体描述例如可以参见https://blog.csdn.net/hongbin_xu/ article/details/79780967,其全部内容通过引用结合于此。
另外,应当理解,降低噪声处理还可以采用最大值最小值滤波、均值滤波等其他降噪方法。
对于边缘增强处理,例如可以采用采用一阶微分算法,以得到增强图像。
一阶微分算法可以被表示为:
Figure BDA0002212437340000092
Δfx(i,j)=f(x,y)-f(x±i,y),Δfy(i,j)=f(x,y)-f(x,y±j),
应当理解,边缘增强处理还可以采用Roberts算子边缘检测方法、Prewitt算子边缘检测方法、Sobel算子边缘检测方法等其他边缘检测方法。这些算法的详细描述例如可参见https://blog.csdn.net/IMWTJ123/article/details/79843913,其全部内容通过引用结合于此。
S302:对经所述预处理的透视图像和红外图像执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域。
具体地,可以通过目标特征提取方法获得透视图像和红外图像中的被摄体区域。例如可以提取图像中的各物体的轮廓,并根据目标(车辆)的轮廓特征识别出图像中的哪个物体是目标物体(车辆)。
目标特征提取方法例如可以采用基于深度学习的目标检测算法、基于区域提名的目标检测等等。
在本公开实施例中,例如可以通过边缘检测得到图像中所有物体的边缘轮廓,通过车辆特有轮廓特征筛选车辆区域。对于边缘检测,例如可以采用差分边缘检测、Reborts算子边缘检测、Sobel算子边缘检测等方法。此外,可以从这些物体的边缘轮廓中筛选出车辆(被摄体)的轮廓以获得所述被摄体区域。
参见图4,根据本公开实施例的一种具体实现方式,所述对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像,包括:
S401:对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域的二维像素矩阵应用矩阵变换以得到二维空间上的对齐图像。
针对车辆区域的X射线透视图像与红外辐射图像的二维像素矩阵采用线性和非线性的变换,得到二维空间上的对齐图像。在本公开实施例中,主要使用图像缩放方法,以尺寸较大的图像为基准,将小尺寸的图像二维矩阵利用插值方法拉伸到大图的尺寸。图像缩放例如可以采用最近邻算法、Bilinear算法等等。
优选地,可以采用双立方插值方法以获得更好的效果,该方法可以表示为:
Figure BDA0002212437340000101
此外,在本公开实施例中,选取所述透视图像中的被摄体区域和所述红外图像中的被摄体区域中的较大尺寸的图像作为基准图像,并且利用图像缩放方法将较小尺寸的图像拉伸到与所述较大尺寸的图像的尺寸相同的尺寸。
S402:将经矩阵变换的图像从空间域转换到频率域,对图像的高频部分执行滤波处理并将滤波后的图像转换到空间域。
将上面经过矩阵变换后的图像,利用离散傅里叶变换,从空间域转换到频率域,对图像的高频部分进行滤波处理,对滤波后的图像使用离散傅里叶逆变换,转换到空间域。其中离散傅里叶变换可以被表示为:
Figure BDA0002212437340000102
Figure BDA0002212437340000103
离散傅里叶逆变换可以被表示为:
Figure BDA0002212437340000111
其中
S403:利用Harris角点检测得到被摄体的外围轮廓,并选取预定角点来进行坐标系对齐以获得所述被摄体区域的经配准的透视图像和红外图像。
利用Harris角点检测得到车辆精确的外围轮廓,选取一个特定的角点进行坐标系对齐。其中Harris角点检测公式:
Figure BDA0002212437340000113
[u,v]是窗口偏移量
参见图5,根据本公开实施例的一种具体实现方式,所述对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像,包括:
S501:对所述被摄体区域的经配准的红外图像执行伪彩色的映射以获得红外辐射的彩色图像。
伪彩色的映射将灰度图转化为彩色图像进行显示。具体地,可以将红外图像归一化,再映射到8位图像空间,使用灰度-彩色映射方法进行红外图像的伪彩色映射转换。
具体地,例如可以以图像像素为xy轴,灰度值为z轴建立笛卡尔坐标系,选择某一个灰度阈值平面对坐标进行分层,并将灰度值分配给RGB三通道分别处理后再合成一副彩色图。具体地,例如可以采用jet、Pink、Copper、Bone、Cool、Hot等颜色查找表。
S502:基于小波变换对所述被摄体区域的经配准的透视图像和所述红外辐射的彩色图像进行图像融合。
小波变换的方法可以表示为:
其中f(t)为小波函数。
以下,将X射线透视图像记作Xsrc,将红外辐射图像记作Isrc,以对根据本公开实施例的图像融合方法作进一步的描述。
步骤1,对X射线透视图像和红外图像进行图像预处理。
步骤1.1,对X射线和红外辐射图像进行降低噪声处理,将两个图像采用自适应中值滤波,得到滤波后的两幅图像XAM和IAM。具体的滤波窗口大小,经验值为3-7,即自适应的搜索窗口大小可在3x3、4x4…7x7之间自适应选择。
XAM=AdaptiveMedian(Xsrc)
IAM=AdaptiveMedian(Isrc)
步骤1.2,对图像XAM和IAM进行边缘增强处理。使用离散一阶微分算法,对图像处理,并得到XAM和IAM图像的增强图像XG和IG
Figure BDA0002212437340000121
Figure BDA0002212437340000122
Figure BDA0002212437340000123
Figure BDA0002212437340000124
式子中的i、j分别表示水平与垂直方向上的窗口取值,这里可以取3x3或5x5。
步骤1-3,对增强后的图像XG和IG进行目标特征提取。常使用的边缘检测方法有形态学上的膨胀与腐蚀的差和canny等,这里使用canny算法,得到图像中的所有轮廓;利用车辆的轮廓在图像中的特点,筛选得到车辆区域图像。
Xcan=Canny(XG),Ican=Canny(IG)
步骤2,对上面得到的Xcan,Ican两种类型的车辆区域图像进行同坐标系下配准。
步骤2.1,针对Xcan,Ican图像的二维像素矩阵采用线性和非线性的变换,得到二维空间上的车辆轮廓对齐图像。具体方法是以尺寸较大的图像为基准,将小尺寸的图像二维矩阵利用双立方插值方法拉伸到大图的尺寸。
Figure BDA0002212437340000131
式中的v、u表示窗口尺寸,这里可取3x3或5x5。
步骤2.2,将上面的Iresize,Xcan两幅图像,利用离散傅里叶变换,从空间域转换到频率域,对图像的高频部分进行滤波处理,对滤波后的图像使用离散傅里叶逆变换,转换到空间域。
Xf=F(f(Xcan)),If=F(f(Iresize))
步骤23,利用Harris
Figure BDA0002212437340000144
方法处理Xf,If车辆精确的外围轮廓特征值,从而得到两个图像坐标系的对齐关系。
XE=E(Xf).IE=E(If)
步骤3,两幅图像进行图像融合。
步骤3.1,将经过上面处理后红外辐射图像进行伪彩色的映射,得到红外辐射的彩色图像。具体方法:红外图像归一化,再映射到8位图像空间,使用灰度-彩色映射方法进行红外图像的伪彩色映射转换。
Figure BDA0002212437340000142
Figure BDA0002212437340000143
式中的L1,L2,L3可分别设为64、128、192这组数值。
IRGB=RGB(IE)
步骤3.2,对XE,IRGB图像使用基于小波变换的图像融合,得到融合图像。
Fusion=WT(XE)+WT(IRGB)
另外,参见图6,其示出了根据本公开实施例的图像融合装置600,该图像融合装置600包括:
图像获取模块601,获取被摄体的透视图像和红外图像,其中所述透视图像为通过捕获穿过所述被摄体的放射线而获得的图像。
目标特征提取模块602,对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域。
配准模块603,对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像。
融合模块604,对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
图6所示装置可以对应的执行上述方法实施例中的内容,本实施例未详细描述的部分,参照上述方法实施例中记载的内容,在此不再赘述。
参见图7,本公开实施例还提供了一种电子设备700,该电子设备包括:
至少一个处理器;以及,
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述方法实施例中的图像融合方法。
本公开实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述方法实施例中的图像融合方法。
本公开实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述方法实施例中的的图像融合方法。
下面参考图7,其示出了适于用来实现本公开实施例的电子设备700的结构示意图。本公开实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图7示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
通常,以下装置可以连接至I/O接口705:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图中示出了具有各种装置的电子设备700,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从ROM 702被安装。在该计算机程序被处理装置701执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取至少两个网际协议地址;向节点评价设备发送包括所述至少两个网际协议地址的节点评价请求,其中,所述节点评价设备从所述至少两个网际协议地址中,选取网际协议地址并返回;接收所述节点评价设备返回的网际协议地址;其中,所获取的网际协议地址指示内容分发网络中的边缘节点。
或者,上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:接收包括至少两个网际协议地址的节点评价请求;从所述至少两个网际协议地址中,选取网际协议地址;返回选取出的网际协议地址;其中,接收到的网际协议地址指示内容分发网络中的边缘节点。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定,例如,第一获取单元还可以被描述为“获取至少两个网际协议地址的单元”。
应当理解,本公开的各部分可以用硬件、软件、固件或它们的组合来实现。
以上所述,仅为本公开的具体实施方式,但本公开的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本公开揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本公开的保护范围之内。因此,本公开的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种图像融合方法,其特征在于,包括:
获取被摄体的透视图像和红外图像,其中所述透视图像为通过使用放射线照射所述被摄体并捕获穿过所述被摄体的放射线而获得的图像;
对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;
对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及
对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
2.根据权利要求1所述的图像融合方法,其特征在于,所述放射线为X射线,并且所述透视图像为X射线透视图像。
3.根据权利要求1所述的图像融合方法,其特征在于,所述对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域,包括:
对所述透视图像和所述红外图像执行预处理,其中所述预处理包括降低噪声处理和边缘增强处理中的至少一种;以及
对经所述预处理的透视图像和红外图像执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域。
4.根据权利要求1所述的图像融合方法,其特征在于,所述对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域,包括:
对所述透视图像和所述红外图像执行边缘检测以获得所述透视图像和所述红外图像中的物体的边缘轮廓;以及
从所述透视图像和所述红外图像中的物体的边缘轮廓筛选出所述被摄体的轮廓以获得所述被摄体区域。
5.根据权利要求3所述的图像融合方法,其特征在于,所述对所述透视图像和所述红外图像执行预处理,包括:
对所述透视图像和所述红外图像应用自适应中值滤波以得到滤波后的图像;以及
对所述滤波后的图像采用一阶微分算法以得到增强图像。
6.根据权利要求1所述的图像融合方法,其特征在于,所述对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像,包括:
对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域的二维像素矩阵应用矩阵变换以得到二维空间上的对齐图像;
将经矩阵变换的图像从空间域转换到频率域,对图像的高频部分执行滤波处理并将滤波后的图像转换到空间域;以及
利用Harris角点检测得到被摄体的外围轮廓,并选取预定角点来进行坐标系对齐以获得所述被摄体区域的经配准的透视图像和红外图像。
7.根据权利要求6所述的图像融合方法,其特征在于,所述对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域的二维像素矩阵应用矩阵变换以得到二维空间上的对齐图像,包括:
选取所述透视图像中的被摄体区域和所述红外图像中的被摄体区域中的较大尺寸的图像作为基准图像;以及
利用图像缩放方法将较小尺寸的图像拉伸到与所述较大尺寸的图像的尺寸相同的尺寸。
8.根据权利要求1所述的图像融合方法,其特征在于,所述对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像,包括:
对所述被摄体区域的经配准的红外图像执行伪彩色的映射以获得红外辐射的彩色图像;以及
基于小波变换对所述被摄体区域的经配准的透视图像和所述红外辐射的彩色图像进行图像融合。
9.一种图像融合装置,其特征在于,包括:
图像获取模块,获取被摄体的透视图像和红外图像,其中所述透视图像为通过捕获穿过所述被摄体的放射线而获得的图像;
目标特征提取模块,对所述透视图像和所述红外图像分别执行目标特征提取以获得所述透视图像和所述红外图像中的被摄体区域;
配准模块,对所述透视图像中的被摄体区域和所述红外图像中的被摄体区域执行配准操作以获得所述被摄体区域的经配准的透视图像和红外图像;以及
融合模块,对所述被摄体区域的经配准的透视图像和红外图像执行图像融合操作以获得融合图像。
一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述利要求1-8中任一项所述的图像融合方法。
CN201910903087.6A 2019-09-24 2019-09-24 图像融合方法、装置及电子设备 Pending CN110633759A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910903087.6A CN110633759A (zh) 2019-09-24 2019-09-24 图像融合方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910903087.6A CN110633759A (zh) 2019-09-24 2019-09-24 图像融合方法、装置及电子设备

Publications (1)

Publication Number Publication Date
CN110633759A true CN110633759A (zh) 2019-12-31

Family

ID=68974036

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910903087.6A Pending CN110633759A (zh) 2019-09-24 2019-09-24 图像融合方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN110633759A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112264329A (zh) * 2020-08-27 2021-01-26 安徽中科光电色选机械有限公司 一种异物检测装置及方法
CN112329588A (zh) * 2020-10-30 2021-02-05 中海石油(中国)有限公司 一种基于Faster R-CNN的管道故障检测方法
CN114025106A (zh) * 2021-12-16 2022-02-08 海宁奕斯伟集成电路设计有限公司 智能处理器、图像智能处理系统、方法及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103356293A (zh) * 2013-08-05 2013-10-23 南京工业大学 具有可调角度和位置反射镜面的多光谱图像融合手术导航系统及方法
CN105069768A (zh) * 2015-08-05 2015-11-18 武汉高德红外股份有限公司 一种可见光图像与红外图像融合处理系统及融合方法
WO2016159504A1 (ko) * 2015-04-02 2016-10-06 을지대학교 산학협력단 복강경 수술중 감시림프절 절제술을 위한 삼중 융합 영상장치
CN106780451A (zh) * 2016-12-07 2017-05-31 西安电子科技大学 X射线、超声、红外图像融合乳腺肿块图像检测方法
CN109584197A (zh) * 2018-12-20 2019-04-05 广东浪潮大数据研究有限公司 一种图像融合方法及相关装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103356293A (zh) * 2013-08-05 2013-10-23 南京工业大学 具有可调角度和位置反射镜面的多光谱图像融合手术导航系统及方法
WO2016159504A1 (ko) * 2015-04-02 2016-10-06 을지대학교 산학협력단 복강경 수술중 감시림프절 절제술을 위한 삼중 융합 영상장치
CN105069768A (zh) * 2015-08-05 2015-11-18 武汉高德红外股份有限公司 一种可见光图像与红外图像融合处理系统及融合方法
CN106780451A (zh) * 2016-12-07 2017-05-31 西安电子科技大学 X射线、超声、红外图像融合乳腺肿块图像检测方法
CN109584197A (zh) * 2018-12-20 2019-04-05 广东浪潮大数据研究有限公司 一种图像融合方法及相关装置

Non-Patent Citations (6)

* Cited by examiner, † Cited by third party
Title
侯宏花: "《数字图像处理与分析》", 30 September 2011, 北京理工大学出版社 *
冯学智: "《遥感数字图像处理与应用》", 31 October 2011, 商务印书馆 *
向世明: "《现代光电子成像技术概论 第2版》", 31 August 2013, 北京理工大学出版社 *
杜军平: "《多源运动图像的跨尺度融合研究》", 30 June 2018, 北京邮电大学出版社 *
苗启广: "《多传感器图像融合技术及应用》", 30 April 2014, 西安电子科技大学出版社 *
陈树越: "红外与X光图像融合方法研究", 《万方数据知识服务平台》 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112264329A (zh) * 2020-08-27 2021-01-26 安徽中科光电色选机械有限公司 一种异物检测装置及方法
CN112329588A (zh) * 2020-10-30 2021-02-05 中海石油(中国)有限公司 一种基于Faster R-CNN的管道故障检测方法
CN112329588B (zh) * 2020-10-30 2024-01-05 中海石油(中国)有限公司 一种基于Faster R-CNN的管道故障检测方法
CN114025106A (zh) * 2021-12-16 2022-02-08 海宁奕斯伟集成电路设计有限公司 智能处理器、图像智能处理系统、方法及存储介质

Similar Documents

Publication Publication Date Title
CN109410218B (zh) 用于生成车辆损伤信息的方法和装置
Ghosh et al. A survey on image mosaicing techniques
CN109118542B (zh) 激光雷达与相机之间的标定方法、装置、设备及存储介质
US9665927B2 (en) Method and apparatus of multi-frame super resolution robust to local and global motion
CN111950353B (zh) 印章文本识别方法、装置及电子设备
CN110633759A (zh) 图像融合方法、装置及电子设备
US20060165311A1 (en) Spatial standard observer
Ishii et al. Color-histogram-based tracking at 2000 fps
US10346980B2 (en) System and method of processing medical images
CN110930438B (zh) 图像配准方法、装置、电子设备及存储介质
CN109118456B (zh) 图像处理方法和装置
Yusuf et al. Spectral information analysis of image fusion data for remote sensing applications
JP2013161142A (ja) 画像認識装置、画像認識方法および画像認識プログラム
WO2021012520A1 (zh) 三维mra医学图像拼接方法、装置、电子设备及计算机可读存储介质
US20230245320A1 (en) Artificial intelligence using convolutional neural network with hough transform
Witwit et al. Satellite image resolution enhancement using discrete wavelet transform and new edge-directed interpolation
CN111209856B (zh) 发票信息的识别方法、装置、电子设备及存储介质
CN112435223A (zh) 目标检测方法、装置及存储介质
CN113033715A (zh) 目标检测模型训练方法和目标车辆检测信息生成方法
Dolly et al. Image fusion for stabilized medical video sequence using multimodal parametric registration
Watson Spatial standard observer
CN110349108B (zh) 处理图像的方法、装置、电子设备、及存储介质
CN111754435A (zh) 图像处理方法、装置、终端设备及计算机可读存储介质
Zhang A selection of image processing techniques: from fundamentals to research front
CN107038705B (zh) 视网膜图像出血区域分割方法、装置和计算设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20191231