CN102800097B - 多特征多级别的可见光与红外图像高精度配准方法 - Google Patents
多特征多级别的可见光与红外图像高精度配准方法 Download PDFInfo
- Publication number
- CN102800097B CN102800097B CN201210251401.5A CN201210251401A CN102800097B CN 102800097 B CN102800097 B CN 102800097B CN 201210251401 A CN201210251401 A CN 201210251401A CN 102800097 B CN102800097 B CN 102800097B
- Authority
- CN
- China
- Prior art keywords
- feature
- infrared image
- millet cake
- image
- transformation model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 62
- 244000062793 Sorghum vulgare Species 0.000 claims abstract description 74
- 235000019713 millet Nutrition 0.000 claims abstract description 74
- 230000009466 transformation Effects 0.000 claims abstract description 57
- 230000008878 coupling Effects 0.000 claims abstract description 20
- 238000010168 coupling process Methods 0.000 claims abstract description 20
- 238000005859 coupling reaction Methods 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims abstract description 11
- 238000000354 decomposition reaction Methods 0.000 claims abstract description 10
- 239000000284 extract Substances 0.000 claims abstract description 9
- 238000001228 spectrum Methods 0.000 claims abstract description 5
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 239000013598 vector Substances 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 11
- HUTDUHSNJYTCAR-UHFFFAOYSA-N ancymidol Chemical compound C1=CC(OC)=CC=C1C(O)(C=1C=NC=NC=1)C1CC1 HUTDUHSNJYTCAR-UHFFFAOYSA-N 0.000 claims description 4
- 230000001629 suppression Effects 0.000 claims description 4
- 238000013461 design Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 7
- 230000008901 benefit Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000013011 mating Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 239000012141 concentrate Substances 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000284 resting effect Effects 0.000 description 1
- 230000017105 transposition Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明公开了一种可见光图像与红外图像的配准方法包括对可见光图像和红外图像进行多尺度分解,得到低分辨率的可见光图像和红外图像;在低分辨率图像对上提取SIFT特征、多尺度角点特征和面点特征,匹配SIFT特征并去除外点,利用匹配的SIFT特征对得到初始变换模型,所谓变换模型是指红外图像和高光谱图像之间的一种几何变换关系;在原始图像对上利用初始变换模型提供的几何约束,进行基于图像块对的多尺度角点特征、面点特征提取,根据初始变换模型和多尺度角点特征、面点特征确定更精确的变换模型;根据变换模型对红外图像进行变换,得到变换后的红外图像。
Description
技术领域
本发明属于图像处理技术领域,具体涉及遥感图像的配准方法,特别是一种可见光与红外图像的配准方法。本发明可以广泛适用于航天、航空传感器平台获取的遥感影像的配准方法。
背景技术
红外图像的光谱位于可见光波段之外,包含了很多可见光波段之外的很多特征,这些特征对于准确识别目标具有重要的意义。例如,处于机动状态和休息状态的同一辆坦克,在可见光图像上无法区分,而通过红外图像的反映的温度信息可以正确识别坦克的状态。因此,综合利用不同传感器的互补特性,对可见光与红外图像进行融合对情报获取和分析具有重要的作用。作为可见光与红外图像融合的前提,可见光与红外图像必须进行自动、高精度配准。可见光与红外图像高精度自动配准技术是制约可见光与红外图像融合应用的关键技术,具有重要的应用价值。
然而,由于成像机理的差异,同一物体在可见光与红外图像上的表现差距很大,这种差距给传统的特征匹配方法带来了很大的挑战。实际上,即使让判图专家在可见光与红外图像手工标定快速一些控制点对也是一件很困难的事情。正是因为可见光与红外图像的差异较大,目前可见光与红外图像配准基本上仍处于研究阶段,尚未有专门的可见光-红外图像配准软件。尽管商业软件如Erdas和Envi都提供了配准功能,但这些配准功能都是为可见光图像设计的。在这些软件上对可见光和红外图像进行配准,成功的概率很小。目前,对可见光与红外图像配准的研究大都集中在相似性度量,其中基于互信息的配准方法最受青睐。然而,基于互信息的可见光与红外图像配准方法有致命的缺陷:对初始值依赖严重。若没有好的初始值,极易陷入局部极小值或不收敛。该缺陷严重制约了其实用性,因为自动从可见光与红外图像上获取这种初始值信息是很困难的。在这种情况下,必须另辟思路研究新的配准方法,在保证配准精度的同时,尽可能提供其自动化程度和计算速度。
发明内容
(一)要解决的技术问题
本发明所要解决的技术问题是针对可见光图像与红外图像的互补性而提出一种特别适合于可见光与红外图像的自动、高效、高精度的配准方法,以推动遥感识别技术的发展。
(二)技术方案
本发明提出一种可见光图像与红外图像的配准方法,包括如下步骤:
步骤S1、对可见光图像和红外图像进行多尺度分解,得到低分辨率的可见光图像和红外图像;
步骤S2、在所述低分辨率图像对上提取SIFT特征、多尺度角点特征和面点特征,匹配SIFT特征并去除外点,利用匹配的SIFT特征对得到初始变换模型,所谓变换模型是指红外图像和高光谱图像之间的一种几何变换关系;
步骤S3、在原始图像对上利用初始变换模型提供的几何约束,进行基于图像块对的多尺度角点特征、面点特征提取,根据初始变换模型和多尺度角点特征、面点特征确定更精确的变换模型;
步骤S4、根据所述变换模型对红外图像进行变换,得到变换后的红外图像。
(三)有益效果
本发明的可见光与红外图像高精度自动配准方法基于多特征多级别的配准,综合利用了模式识别、计算机视觉领域中最新的特征提取和特征匹配技术及并行计算技术,有效地解决了可见光与红外图像的配准问题,弥补了现有配准软件对可见光与红外图像配准方面的缺陷。
本发明的配准方法对可见光与红外图像配准具有很好的通用性和实用性,能够大大推动可见光与红外图像的广泛应用,具有很好的经济效益。
附图说明
图1是本发明的系统框图;
图2是本发明的方法的一个具体实施例的原始可见光图像和生成的低分辨率可见光图像的例图;
图3是本发明的方法的一个具体实施例的原始红外图像与生成的低分辨率红外图像的例图;
图4SIFT特征提取流程图;
图5是本发明的方法的一个具体实施例的SIFT特征提取中DOG构建图例;
图6是本发明的方法的一个具体实施例的SIFT特征提取中极值点提取图例;
图7是本发明的方法的一个具体实施例的SIFT特征提取中主方向检测图例;
图8是本发明的一个具体实施例的为SIFT特征构造描述向量的一个示意图;
图9是本发明的一个具体实施例的粗配准流程;
图10是本发明的一个具体实施例的GDBICP核心流程。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明作进一步的详细说明。
本发明的多特征多级别的可见光与红外图像的高精度配准方法既可以硬件方式实现,也可以软件方式实现。例如在个人计算机、工控机及服务器上以软件的形式安装并执行,也可本发明的方法做成嵌入式芯片以硬件的形式来体现。下面参照附图对本发明的具体实施方式进行说明。
在下面的描述中,所述的“图像”特指通过遥感设备获得的遥感图像,并且是已进行了数字化的数字图像。然而,本发明并不限于遥感图像,对于其它技术领域中获得的需要配准的可见光图像和红外图像,本发明也可适用。
图1给出了一个实施例的系统框图。如图1所示,总的来说,本发明的方法包括如下步骤:
步骤S1:多尺度分解。对可见光图像和红外图像进行多尺度分解,得到低分辨率的可见光图像和红外图像;
根据本发明的一种具体实施方式,该实施例中的多尺度分解通过降采样实现。虽然多尺度分解可以由小波金字塔、高斯金字塔等多种方法实现,但计算量比降采样大的多;而在精配准阶段,SIFT特征还要在原始图像上提取。因此,基于降采样的多尺度分解方式在保持配准精度的同时,还大大减少了计算量。
步骤S2:粗配准。在低分辨率图像对上提取SIFT(Scale-invariantFeature Transform,尺度不变特征变换)特征、多尺度角点特征和面点特征,采用最近邻比值法匹配SIFT特征并去除外点,利用匹配的SIFT特征对和GDBICP法得到初始变换模型;
根据本发明的一种具体实施方式,角点特征分为主动匹配角点特征和被动匹配角点特征,面点特征分为主动匹配面点特征和被动匹配面点特征。主动匹配角(面)点特征是参考图像(如可见光图像)上需要匹配的角(面)点特征,被动匹配角(面)点特征是待配准图像(如红外图像)上可能匹配的角(面)点特征。主动匹配角(面)点特征是被动匹配角(面)点特征的子集。
根据本发明的一种具体实施方式,采用最近邻比值法来匹配SIFT特征,并去除外点,外点指不满足上述变换模型的SIFT特征对;
根据本发明的一种具体实施方式,利用GDBICP(Generalized DualBootstrap Iterative Closest Point)法得到初始变换模型,所谓变换模型是指红外图像和高光谱图像之间的一种几何变换关系。
变换模型包含变换类型和变换参数两层含义。同样,变换模型的确定也包括变换类型选择和变换参数求解。上述变换模型是后续配准变换模型的初始值即初始变换模型,在精配准阶段变换模型的类型及其参数都将不断调整。
步骤S3:精配准。在所述原始图像对上利用初始变换模型提供的几何约束,进行基于图像块对的多尺度角点特征、面点特征提取,根据初始变换模型和多尺度角点特征、面点特征确定更精确的变换模型。在更精确的变换模型下,红外图像和显著波段图像的多尺度角/面点特征之间的拟合误差更小。
根据本发明的一种具体实施方式,利用迭代重加权最小二乘法选择变换类型并求取变换参数。
步骤S4:图像变换。根据所述变换模型对红外图像进行变换,得到变换后的红外图像。
根据本发明的一种具体实施方式,根据变换模型对红外图像进行双三次样条插值,然后根据变换模型及可见光图像和红外图像的尺寸计算参考图像和变换后的红外图像的最大重叠区域的坐标,取出、保存所述最大重叠区域的坐标内的可见光图像和红外图像。
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,对本发明作进一步的详细说明。
在该实施例中,步骤S1利用双线性插值方法对可见光图像和红外图像进行降采样,生成低分辨率可见光图像和低分辨率红外图像。图2为原始可见光图像和生成的低分辨率可见光图像的例图,其中上图为原始可见光图像,下图为低分辨率可见光图像。图3为原始红外图像和生成的低分辨率红外图像的例图,其中上图为原始红外图像,下图为低分辨率红外图像。
图4是本发明的方法的具体实施例中步骤S2的提取SIFT特征的流程图。在该实施例中,SIFT特征的提取是按照如下流程实现的:
步骤S21、构建图像的DOG(Difference of Gaussian,高斯差分)金字塔。
设图像为I(x,y),则DOG金字塔中第k层高斯差分图像为D(x,y,kσ)=L(x,y,(k+1)σ)-L(x,y,kσ),其中,L(x,y,σ)=G(x,y,σ)*I(x,y),*表示卷积运算。图5是DOG构建图例,如图5所示,图像在5个尺度上进行高斯卷积,得到的DOG金字塔中有4个图像。
步骤S22、在DOG金字塔的每层上提取极值点,所谓极值点是指在局部邻域内D(x,y,kσ)取值最大的点。
提取极值点的过程为,选择DOG金字塔上的任一点,若该点在该层及上、下相邻两层的26个邻域内不是极值点,则将该点去除,否则将该点作为极值点。图6是提取极值点的示意图,如图6所示,DOG金字塔中的第k层图像的标“×”的点与第k-1层、第k+1层的26个标““的点进行比较,若标“×”的点对应的D(x,y,kσ)是这26个邻域点中的最大值,则标“×”的点为极值点。
步骤S23、对于所提取的极值点,去除局部曲率非常不对称的极值点。在该实施例中,计算差分图像D的局部Hessian矩阵H,去除满足下面条件的极值点:tr(H)2/det(H)>10,其中det(H)表示矩阵H的行列式值,tr(H)表示矩阵H的迹;
步骤S24、计算SIFT特征的亚像素级别的空间位置、尺度,所述SIFT特征是指保留下来的极值点。
假设SIFT特征X=(x,y,σ),其中x,y,σ分别为极值点X的x、y方向坐标及尺度参数,此时三个方向的坐标都为正数。根据高斯差分图像D(x,y,σ)泰勒展开公式计算出以SIFT特征X为原点相对于X在行、列及层数上的偏移量,即其中D表示泰勒展开公式的一次项,D、和可由SIFT特征X及其邻域的像素根据差分法计算。然后按照如下规则对极值点进行亚像素级插值:如果三个方向上的偏移量都小于0.5像素,则该点就是极值点为所求的亚像素级极值点坐标;如果某一方向上的偏移量大于等于0.5像素,如假设x方向的偏移量大于0.5像素,将偏移量四舍五入到一整数值a,将a与x相加得到新的SIFT特征X2=(x+a,y,s),然后将极值点X2按上述步骤进行操作,直到三个方向上的偏移量都小于0.5。
步骤S25、确定所述SIFT特征主方向,所谓主方向是指与以SIFT特征为中心的邻域内的梯度方向直方图的峰值对应的梯度方向。
在该实施例中,在以SIFT特征X=(x,y,σ)为中心、以1.5σ为半径的邻域窗口内采样,计算高斯平滑图像L(x,y,σ)在上述邻域窗口内的每一像素的梯度方向并用直方图统计邻域像素的梯度方向,得到一个梯度方向直方图。梯度方向直方图是一种关于梯度方向θ的统计图,其范围是0~360度,其中每10度一个柱,总共36个柱。该梯度方向直方图的峰值代表了该极值点处邻域梯度的主方向,即作为该SIFT特征的方向。图7是本发明的该实施例的梯度直方图的一个示例图。在该图中显示了采用7个柱为SIFT特征确定主方向的示例。在该梯度方向直方图中,当存在另一个相当于主峰值80%能量的峰值时,则将这个方向认为是该SIFT特征的辅方向。一个SIFT特征可能会被指定具有多个方向(一个主方向,一个以上辅方向)。
步骤S26、为SIFT特征构造描述向量,所谓描述向量是指用于刻画该SIFT特征周围图像块统计特征的、由梯度方向直方图构成的向量。
在该实施例中,首先将SIFT特征周围图像块的坐标轴旋转为所述SIFT特征的方向,以确保旋转不变性;然后将SIFT特征周围16×16像素的窗口内分成4×4像素的小块,计算每个小块的8个方向的梯度方向直方图,将每个小块的梯度方向直方图连接起来形成128维的特征向量;最后,将其归一化到单位长度。图8是本发明的为SIFT特征构造描述向量的一个示意图。
本发明的步骤S2还涉及到在多个尺度上提取角点特征和面点特征。对图像I,在多个尺度上提取角点特征和面点特征。k=0,…,N,N控制尺度的个数,本实例N=4。在每个尺度上,角点特征和面点特征提取方法如下:
步骤S21’、对于图像的每个像素点x计算互相关矩阵M(x),互相关矩阵是用来描述该像素点与其邻域像素的关系。计算方式如下式,其中表示图像I在水平、竖直方向的梯度图像,w()表示高斯权重函数,其标准差为σ,像素点x邻域N(x)的尺寸为3σ。
步骤S22’、根据互相关矩阵的特征值选取角点特征和面点特征,得到角点特征集合和面点特征集合。
首先对互相关矩阵M(x)进行特征值分解,即M(x)=∑i=1,2λi(x)Γi(x)Γi(x)T,λ1(x)≤λ2(x),λ1(x)和λ2(x)表示x处M(x)的特征值,Γi(x)表示与λi(x)对应的特征向量,Γi(x)T表示Γi(x)的转置。
然后,根据特征值来选取角点特征和面点特征。若λ1(x)/λ2(x)>0.1且m(x)=λ1(x)+λ2(x)>tm,则x为候选角点特征;若λ1(x)/λ2(x)≤0.1且m(x)=λ1(x)+λ2(x)≤tm,x为候选面点特征。对每个像素点进行上述操作,得到角点特征集合C和面点特征集合F。tm是一阈值,表示特征的强度。tm应取一正数,tm越大得到的候选角点特征和面点特征越少,不同的tm取值对后续的特征匹配影响不大,在该实施例中,tm=1。
步骤S23’、去除角点特征集合和面点特征集合中的噪声点。对于角点特征集合C或面点特征集合F中的某特征点x,若m(x)<μm+0.5σm,将x从C或F中去除。其中,μm和σm分别为半径r=30的邻域内的m(x)的均值和方差。
步骤S24’、对于角点特征和面点特征进行非极值点抑制。对于角点特征集合C中的角点特征x,沿特征值λ1(x)和λ2(x)对应的特征向量Γ1(x)和Γ2(x)的方向进行非极大值点抑制;对于面点特征集合F中的某面点特征x,沿λ2(x)对应的特征向量的方向Γ2(x)进行非极大值点抑制。具体方法如下:对以x为中心、沿Γi(x)方向的半径r=30的邻域内,若存在x'满足m(x')>m(x),则x不是好的特征,将其从候选特征集合中去掉。
步骤S25’、根据特征强度的大小来选择被动角点特征和被动面点特征。
在该实施例中,对角点特征集合C或面点特征集合F中的特征按特征强度m(x)从大到小排序,选择前n个角点特征和面点特征作为被动匹配角点特征和面点特征的集合。n根据图像大小确定,对于1024×1024像素的图像,n一般取1000。
步骤S26’、根据特征强度的大小来选择主动角点特征和主动面点特征。
改变特征强度阈值,令tm=2tm,r=2r,重复步骤S22’-S25’。对角点特征集合C或面点特征集合F中的特征点按特征强度m(x)从大到小排序,选择前m个角点特征和m个面点特征作为主动匹配角点特征、面点特征集合。m根据图像大小确定,对于1024×1024像素的图像,m一般取500。同一图像的主动匹配角(面)点特征是被动匹配角(面)点特征的子集,在匹配时,参考图像的主动匹配角(面)点特征与待配准图像的被动匹配角(面)点特征(而不是待配准图像的主动匹配角(面)点特征)进行匹配,这样做的好处是可以得到更稠密的角(面)点特征匹配点对,从而有利用提高配准精度。
按照上述步骤在每个尺度σk上提取被动匹配角点特征、面点特征和主动匹配角点特征、面点特征,将各尺度、各类型特征点合并在一起,组成被动匹配角点特征集合Cm、被动匹配面点特征集合Fm、主动匹配角点特征集合Cd、主动匹配面点特征集合Fd。每一个角点特征ci由三维向量组成,即ci=(xi,yi,si),si等于它所在的尺度参数σk。每一个面点特征fi由四维向量组成,即fi=(xi,yi,si,ηi),ηi表示方向,ηi对应步骤S26’中在(xi,yi)处的Γ2(x)。
图9是本发明的方法的步骤S3的流程图。该步骤为精配准步骤。如图9所示,本发明中的步骤S3是按如下流程实现的:
选择置信度高且未尝试过的SIFT特征对,由该SIFT特征对及被动匹配角点特征集合Cm、被动匹配面点特征集合Fm、主动匹配角点特征集合Cd、主动匹配面点特征集合Fd通过GDBICP方法进行匹配,若该次匹配成功,粗配准终止;否则,选择下一个置信度高的SIFT特征对通过GDBICP方法进行匹配。
图10是本发明的方法的步骤S3中的GDBICP方法的流程图。如图10所示,GDBICP方法包括如下步骤:
步骤S31、根据选择的SIFT特征对确定初始变换模型(相似变换),SIFT特征对所在的邻域作为初始匹配区域;
设当前选择的SIFT特征对为A=(x1,y1,s1,θ1)和B=(x2,y2,s2,θ2),其中xi和yi是坐标值,si和θ2是对应的尺度参数和主方向参数。该步骤为粗配准,变换类型为相似变换,SIFT特征对之间应满足 s、θ、tx、ty为所求的变换参数。根据A和B的尺度参数和主方向参数的对应关系,可求得θ=θ2-θ1,xt=x2-s·cosθ·x1-s·sinθ·y1,yt=y2+s·sinθ·x1-s·cosθ·y1。以(xi,yi)为中心、以h+3·si为半径的区域分别作为A和B的初始匹配区域。
步骤S32、根据当前迭代步骤的变换模型(注:求变换模型是一个迭代的过程,S4的变换模型是最终的变换模型,当前迭代步骤的变换模型是一个中间结果)和当前匹配区域,分别从前向和后向利用ICP(IterativeClosest Point)方法匹配当前匹配区域内的角点特征和面点特征;
前向匹配以可见光图像为参考图像,为红外图像上的每一个角点特征和面点特征寻找其在红外图像上对应的角点特征和面点特征。假设当前变换模型类型为(k表示变换类型,k=0表示相似变换、k=1表示仿射变换、k=2表示投影变换),对于红外图像的任一角点特征ci=(xi,yi,si),它对应可见光图像的坐标记为在可见光图像上距离最近的三个角点特征为然后计算中每个元素与ci的匹配度将与最大的对应的作为ci的匹配角点特征,记为ei。类似的,为红外图像的每一面点特征fi=(xi,yi,si,ηi)寻找可见光图像对应的匹配面点特征hi,面点特征的匹配度计算公式为 为可见光图像上距离最近的三个面点特征。
后向匹配以红外图像为参考图像,为可见光图像上的每一个角点特征和面点特征寻找其在红外图像上对应的角点特征和面点特征,操作过程与前向匹配类似。
步骤S33、根据当前匹配的角点特征和面点特征利用迭代重加权最小二乘法重新估计前向和后向变换参数;通过ICP和参数估计的交替迭代,确定最优变换参数和最优的匹配;
当前变换模型与当前匹配的角点特征和面点特征紧密相关。为此,在给定变换类型的前提下采用迭代重加权最小二乘法不断调整变换参数及匹配的角点特征和面点特征集合。为方便叙述,在步骤S33中,当变换类型给定后将变换模型记为θpq。迭代重加权最小二乘法的目标函数为:
上式中, a=4,dc(p,q;θpq)=||T(p;θpq)-q||/sq
df(p,q;θpq)=|(T(p;θpq)-q)Tηq|/sq,wc;i和wf;i为每一对角点特征和面点特征的权重。为简化计算,实际求解时将上述目标函数拆分为两个步骤:求解每一对角(面)点对匹配权重wd,i和更新变换参数,这两个步骤循环交叉迭代,直到算法收敛。匹配权重wd,i根据当前变换模型θpq下匹配点对(pi,qi)的匹配误差进行计算,对于角点,对于面点, 其中, 在当前匹配点对权重wd,i的基础上,利用加权最小二乘法估计新通过优化 求解新的变换参数。σc和σf为角点特征和面点特征的尺度因子,计算公式如下:
步骤S34、利用当前最优匹配的角点特征和面点特征集合,根据AkaikeInformation准则进行模型选择;
令变换类型k=0,1,2,并分别-进行步骤S33操作,得到对应的前向变换模型和后向变换分别为和当前最优匹配的前向匹配角点特征和面点特征集合为和后向匹配角点特征和面点特征集合为和 在Akaike Information准则下的不适度为:
上式中,l表示变换类型k的自由度,k=0时,l=4;k=1时,l=6;k=2时,l=9;|A|表示集合A中元素个数。与最小的Ii对应的和为当前匹配区域的最优前向、后向变换模型。
步骤S35、根据当前变换模型的不确定性(用变换参数的方差矩阵刻画)进行匹配区域增长,区域增长的速度与当前匹配区域的前向匹配和后向匹配的角点特征和面点特征的匹配误差成反比。当匹配区域增长到角点特征和面点特征的最大外接矩形时,GDBICP收敛,此时的前向匹配变换模型作为步骤S4的变换模型。
本发明的该实施例的步骤S4是按如下流程实现的:根据步骤S3求得的变换模型,对红外图像进行双三次样条插值得到变换后的红外图像,变换后的红外图像与可见光图像已经配准。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (7)
1.一种可见光图像与红外图像的配准方法,其特征在于,包括如下步骤:
步骤S1、对可见光图像和红外图像进行多尺度分解,得到低分辨率的可见光图像和红外图像;
步骤S2、在所述低分辨率图像对上提取SIFT特征、多尺度角点特征和面点特征,匹配SIFT特征并去除外点,利用匹配的SIFT特征对得到初始变换模型,所谓变换模型是指红外图像和高光谱图像之间的一种几何变换关系;
步骤S3、在原始图像对上利用初始变换模型提供的几何约束,进行基于图像块对的多尺度角点特征、面点特征提取,根据初始变换模型和多尺度角点特征、面点特征确定更精确的变换模型;
步骤S4、根据所述变换模型对红外图像进行变换,得到变换后的红外图像;
所述步骤S3包括:
步骤S31、根据选择的SIFT特征对确定初始变换模型,SIFT特征对所在的邻域作为初始匹配区域;
步骤S32、根据当前迭代步骤的变换模型和当前匹配区域,分别从前向和后向利用ICP方法匹配当前匹配区域内的角点特征和面点特征;
步骤S33、根据当前匹配的角点特征和面点特征利用迭代重加权最小二乘法重新估计前向和后向变换参数;通过ICP和参数估计的交替迭代,确定最优变换参数和最优的匹配;
步骤S34、利用当前最优匹配的角点特征和面点特征集合,根据AkaikeInformation准则进行模型选择;
步骤S35、根据当前变换模型的不确定性进行匹配区域增长,区域增长的速度与当前匹配区域的前向匹配和后向匹配的角点特征和面点特征的匹配误差成反比。
2.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,在步骤S1中,通过降采样实现多尺度分解。
3.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,在步骤S2中,采用最近邻比值法来匹配SIFT特征,并去除外点,外点指不满足上述变换模型的SIFT特征对。
4.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,在步骤S2中,利用GDBICP法得到初始变换模型。
5.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,所述步骤S2中的SIFT特征提取步骤包括:
步骤S21、构建图像的DOG金字塔;
步骤S22、在DOG金字塔的每层上提取极值点,所谓极值点是指在局部邻域内取值最大的点;
步骤S23、对于所提取的极值点,去除局部曲率不对称的极值点;
步骤S24、步骤S24、计算SIFT特征的亚像素级别的空间位置、尺度,所述SIFT特征是指保留下来的极值点;
步骤S25、确定所述SIFT特征主方向,所谓主方向是指与以SIFT特征为中心的邻域内的梯度方向直方图的峰值对应的梯度方向;
步骤S26、为SIFT特征构造描述向量,所谓描述向量是指用于刻画该SIFT特征周围图像块统计特征的、由梯度方向直方图构成的向量。
6.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,所述步骤S2中的中提取角点特征和面点特征的步骤包括:
步骤S21’、对于图像的每个像素点计算互相关矩阵,互相关矩阵是用来描述该像素点与其邻域像素的关系;
步骤S22’、根据互相关矩阵的特征值选取角点特征和面点特征,得到角点特征集合和面点特征集合;
步骤S23’、去除角点特征集合和面点特征集合中的噪声点;
步骤S24’、对于角点特征和面点特征进行非极值点抑制;
步骤S25’、根据特征强度的大小来选择被动角点特征和被动面点特征;
步骤S26’、根据特征强度的大小来选择主动角点特征和主动面点特征。
7.如权利要求1所述的可见光图像与红外图像的配准方法,其特征在于,在所述步骤S3中,采用最近邻比值法来匹配SIFT特征,并去除外点,外点指不满足上述变换模型的SIFT特征对。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210251401.5A CN102800097B (zh) | 2012-07-19 | 2012-07-19 | 多特征多级别的可见光与红外图像高精度配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210251401.5A CN102800097B (zh) | 2012-07-19 | 2012-07-19 | 多特征多级别的可见光与红外图像高精度配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102800097A CN102800097A (zh) | 2012-11-28 |
CN102800097B true CN102800097B (zh) | 2015-08-19 |
Family
ID=47199195
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210251401.5A Expired - Fee Related CN102800097B (zh) | 2012-07-19 | 2012-07-19 | 多特征多级别的可见光与红外图像高精度配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102800097B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103247040B (zh) * | 2013-05-13 | 2015-11-25 | 北京工业大学 | 基于分层拓扑结构的多机器人系统地图拼接方法 |
CN103337077B (zh) * | 2013-07-01 | 2016-03-16 | 武汉大学 | 一种基于多尺度分割和sift的可见光与红外图像配准的方法 |
CN105787912B (zh) * | 2014-12-18 | 2021-07-30 | 南京大目信息科技有限公司 | 一种基于分类的阶跃型边缘亚像素定位方法 |
CN105139412B (zh) * | 2015-09-25 | 2018-04-24 | 深圳大学 | 一种高光谱图像角点检测方法与系统 |
CN105574877A (zh) * | 2015-12-21 | 2016-05-11 | 中国资源卫星应用中心 | 一种基于多尺度特征的热红外图像配准方法 |
CN107133976B (zh) * | 2017-04-24 | 2020-04-14 | 浙江大学 | 一种获取三维高光谱信息的方法和装置 |
CN109247910B (zh) * | 2017-07-12 | 2020-12-15 | 京东方科技集团股份有限公司 | 血管显示设备以及血管显示方法 |
CN107633506B (zh) * | 2017-08-31 | 2021-04-02 | 深圳市智图医疗技术有限责任公司 | 一种图像对称性检测方法、装置及终端设备 |
CN108427912B (zh) * | 2018-02-05 | 2020-06-05 | 西安电子科技大学 | 基于稠密目标特征学习的光学遥感图像目标检测方法 |
CN109685078B (zh) * | 2018-12-17 | 2022-04-05 | 浙江大学 | 基于自动标注的红外图像识别方法 |
CN110335271B (zh) * | 2019-07-10 | 2021-05-25 | 浙江铁素体智能科技有限公司 | 一种电气部件故障的红外检测方法及装置 |
CN110443835B (zh) * | 2019-07-16 | 2022-07-12 | 北京迈格威科技有限公司 | 图像配准方法、装置、设备和存储介质 |
CN110243769A (zh) * | 2019-07-30 | 2019-09-17 | 南阳理工学院 | 一种多源信息辅助的高光谱亚像元目标识别系统和方法 |
CN115176274A (zh) * | 2020-06-08 | 2022-10-11 | 上海交通大学 | 一种异源图像配准方法及系统 |
CN113188661A (zh) * | 2021-03-12 | 2021-07-30 | 浙江黑卡电气有限公司 | 一种红外热图的智能拍摄记录方法及装置 |
CN117152218A (zh) * | 2023-08-08 | 2023-12-01 | 正泰集团研发中心(上海)有限公司 | 图像配准方法、装置、计算机设备和可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101873440A (zh) * | 2010-05-14 | 2010-10-27 | 西安电子科技大学 | 基于Surfacelet变换的红外与可见光视频图像融合方法 |
CN201927079U (zh) * | 2011-03-07 | 2011-08-10 | 山东电力研究院 | 一种对于可见光图像和红外图像的快速实时融合处理系统 |
-
2012
- 2012-07-19 CN CN201210251401.5A patent/CN102800097B/zh not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101873440A (zh) * | 2010-05-14 | 2010-10-27 | 西安电子科技大学 | 基于Surfacelet变换的红外与可见光视频图像融合方法 |
CN201927079U (zh) * | 2011-03-07 | 2011-08-10 | 山东电力研究院 | 一种对于可见光图像和红外图像的快速实时融合处理系统 |
Non-Patent Citations (2)
Title |
---|
Multilevel SIFT Matching for Large-Size VHR Image Registration;Chunlei Huo;《IEEE GEOSCIENCE AND REMOTE SENSING LETTERS》;20120331;第9卷(第2期);171-175 * |
基于不变特征的CCD影像与红外影像的自动配准;丁琳;《红外与激光工程》;20110228;第40卷(第2期);350-354 * |
Also Published As
Publication number | Publication date |
---|---|
CN102800097A (zh) | 2012-11-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102800097B (zh) | 多特征多级别的可见光与红外图像高精度配准方法 | |
CN102819839B (zh) | 多特征多级别的红外与高光谱图像的高精度配准方法 | |
CN102800099B (zh) | 多特征多级别的可见光与高光谱图像高精度配准方法 | |
CN102800098B (zh) | 多特征多级别的可见光全色与多光谱高精度配准方法 | |
CN103400151B (zh) | 一体化的光学遥感影像与gis自动配准与水体提取方法 | |
Das et al. | Use of salient features for the design of a multistage framework to extract roads from high-resolution multispectral satellite images | |
CN102654902B (zh) | 基于轮廓向量特征的嵌入式实时图像匹配方法 | |
CN106529591A (zh) | 一种基于改进的mser图像匹配算法 | |
CN102289812B (zh) | 一种基于先验形状和cv模型的目标分割方法 | |
CN105139412A (zh) | 一种高光谱图像角点检测方法与系统 | |
CN102903109B (zh) | 一种光学影像和sar影像一体化分割配准方法 | |
CN105335986A (zh) | 基于特征匹配和MeanShift算法的目标跟踪方法 | |
CN103822616A (zh) | 一种图分割与地形起伏约束相结合的遥感影像匹配方法 | |
CN104091162A (zh) | 基于特征点的三维人脸识别方法 | |
CN103180874A (zh) | 用于检查轮胎表面的预处理轮胎表面的三维图像的方法 | |
CN104102904B (zh) | 一种静态手势识别方法 | |
CN103489193B (zh) | 基于融合策略的面向对象的高分辨率遥感影像变化检测方法 | |
CN105354841A (zh) | 一种快速遥感影像匹配方法及系统 | |
CN104732546A (zh) | 区域相似性和局部空间约束的非刚性sar图像配准方法 | |
CN103679740B (zh) | 一种无人机对地目标roi提取方法 | |
CN103854290A (zh) | 一种结合骨架特征点和分布场描述子的扩展目标跟踪方法 | |
CN115511952A (zh) | 一种基于深度相机的装配式铺面三维点云预处理方法 | |
Jin et al. | Road feature extraction from high resolution aerial images upon rural regions based on multi-resolution image analysis and Gabor filters | |
Yao et al. | Robust Harris corner matching based on the quasi-homography transform and self-adaptive window for wide-baseline stereo images | |
CN113205023B (zh) | 一种基于先验矢量引导的高分影像建筑物提取精处理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20150819 Termination date: 20210719 |
|
CF01 | Termination of patent right due to non-payment of annual fee |