CN112541932A - 基于双光相机不同焦距变换参数的多源图像配准方法 - Google Patents

基于双光相机不同焦距变换参数的多源图像配准方法 Download PDF

Info

Publication number
CN112541932A
CN112541932A CN202011375819.8A CN202011375819A CN112541932A CN 112541932 A CN112541932 A CN 112541932A CN 202011375819 A CN202011375819 A CN 202011375819A CN 112541932 A CN112541932 A CN 112541932A
Authority
CN
China
Prior art keywords
characteristic point
image
point
characteristic
matched
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011375819.8A
Other languages
English (en)
Other versions
CN112541932B (zh
Inventor
曾操
邢航
刘洋
李力新
陶海红
杨志伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kunshan Innovation Institute of Xidian University
Original Assignee
Kunshan Innovation Institute of Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kunshan Innovation Institute of Xidian University filed Critical Kunshan Innovation Institute of Xidian University
Priority to CN202011375819.8A priority Critical patent/CN112541932B/zh
Publication of CN112541932A publication Critical patent/CN112541932A/zh
Application granted granted Critical
Publication of CN112541932B publication Critical patent/CN112541932B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • G06T7/337Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20164Salient point detection; Corner detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的同时,提升配准效率。

Description

基于双光相机不同焦距变换参数的多源图像配准方法
技术领域
本发明属于多源图像配准技术领域,尤其涉及一种基于双光相机不同焦距变换参数的多源图像配准方法。
背景技术
自动化图像配准方法一般属于参数寻优型图像配准方法,其主要思想是,设定初始变换参数,对待配准图像利用初始变换参数进行配准得到初步结果,再通过相似性度量判定结果是否满足要求,如果不满足,通过迭代寻优的方法找出最优的变换模型参数,实现图像配准。传统的人工参与的多源图像配准方法配准速度普遍在1分钟左右,自动化图像配准方法从图像配准的数学定义出发,直接用最优化理论通过搜索策略和迭代寻优的方式实现自动化配准,减少人工参与过程,降低资金投入。
但是由于多源图像之间的成像机理迥异,造成两种图像之间的相关性较小,导致多源图像难以实时配准。现有的自动化多源图像配准方法在平衡多源图像配准精度和配准速度时难以把握。另外,传统的利用搜索策略寻找最优参数需要进行多次迭代,耗费大量的时间,而且还会出现局部收敛的情况。
发明内容
为了解决现有技术中存在的上述问题,本发明提供了一种基于双光相机不同焦距变换参数的多源图像配准方法。本发明要解决的技术问题通过以下技术方案实现:
本发明提供的一种基于双光相机不同焦距变换参数的多源图像配准方法包括:
步骤1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
步骤2:获取多源图像以及拍摄该多源图像时的焦距,所述多源图像包括:光学图像和红外图像;
步骤3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
步骤4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
步骤5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
步骤6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
步骤7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
步骤8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
步骤9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。
可选的,所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间。
可选的,所述建立双光相机不同焦距的变换矩阵参数库包括:
将每个子区间的子矩阵按序拼接为变换矩阵;
将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库。
可选的,所述步骤3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
可选的,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
可选的,所述步骤6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
可选的,所述步骤7包括:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合。
可选的,所述步骤7包括:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合。
可选的,所述步骤7包括:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留。
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合;
可选的,所述步骤8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84:判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的前提下,提升配准效率。以下将结合附图及实施例对本发明做进一步详细说明。
附图说明
图1为本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法的流程图;
图2为本发明实施例提供的一种云台控制软件界面的示意图;
图3a为本发明实施例提供的大楼的光学图像;
图3b为本发明实施例提供的大楼的红外图像;
图4a为本发明实施例提供的一种角点检测光学图像的效果图;
图4b为本发明实施例提供的一种角点检测红外图像的效果图;
图5a为本发明实施例提供的在直线上检测角点的示意图;
图5b为本发明实施例提供的在平坦区域上检测的示意图;
图5c为本发明实施例提供的在角点位置上检测角点的示意图;
图6为本发明实施例提供的初始匹配图像的示意图;
图7为本发明实施例提供的用对应焦距的变换矩阵处理图像的效果图;
图8为本发明实施例提供的得到最优配准参数模型的效果图;
图9a为本发明实施例提供的配准结果图;
图9b为本发明实施例提供的叠加显示的效果图。
具体实施方式
下面结合具体实施例对本发明做进一步详细的描述,但本发明的实施方式不限于此。
实施例一
如图1所示,本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法包括:
S1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
其中,双光相机量化焦距步长内近似不变性特征是指,红外相机和光学相机的焦距在很小范围内变化时,由红外图像变换到光学图像的变换模型矩阵参数在10个像素误差范围内可以用同一个变换矩阵参数表示。
S2:获取多源图像以及拍摄该多源图像时的焦距;
其中,所述多源图像包括:光学图像和红外图像。
S3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
S4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
S5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
S6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
S7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
S8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
S9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。
本发明实施例提供的一种基于双光相机不同焦距变换参数的多源图像配准方法,通过建立不同焦距的变换矩阵参数库,对多源图像进行角点检测,获得第一特征点集合以及第二特征点集合,利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合,进一步对集合剔除误匹配的特征点,得到待优化的特征点集合;利用距离信息和位置信息对待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;利用最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。相比于现有技术,可以在配准精度达到亚像素级的同时,提升配准效率。
实施例二
作为本发明一种可选的实施例,所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间。
可以理解,将焦距区间划分成N个子区间是指,根据不同应用场景,每5-15个马达步数的焦距设置为1个子区间。
实施例三
作为本发明可选的一种实施例,所述建立双光相机不同焦距的变换矩阵参数库包括:
步骤a:将每个子区间的子矩阵按序拼接为变换矩阵;
步骤b:将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库。
其实际实施过程如下:
参考图2,图2为云台控制软件的界面图;首先固定好双光相机,通过云台控制软件调整相机的拍摄角度,确定拍摄过程中相机具有良好的视角。
通过云台控制软件在马达步数(控制焦距)751到-37范围内,每间隔8个马达步数固定焦距,拍摄特征明显的光学和红外图像,如果拍摄的图像模糊时,采用云台控制软件的“添加”按钮设定焦距进行补拍,“添加”按钮主要功能是当自动拍照拍摄的图像模糊时,可以输入相应的焦距,然后点击“添加”按钮就会拍摄对应焦距的图像。保证每组图像清晰且特征易于提取。用MATLAB软件利用基于特征点的图像配准方法求取对应焦距的变换模型参数。变换模型参数进行图像配准,通过均方根误差定量对配准精度进行分析,如果配准精度达到要求则保存该焦距对应的变换矩阵参数。反之,采用云台控制软件的“添加”按钮设定焦距进行补拍,再计算其变换模型矩阵参数,最终建立不同焦距对应的变换矩阵参数库。
如图3a和3b所示,光学图像大小为1920′1080像素,红外图像大小为640′480像素。获取相机拍摄图像时的焦距,然后调用变换模型矩阵参数库找出对应焦距所在区间的变换矩阵参数。
利用特征描述序列建立初始匹配关系(变换矩阵),实现多源图像初始配准。变换矩阵及其参数如下:
Figure BDA0002808169840000111
kx表示沿x轴方向红外图像变换到光学图像的放大倍数,ky表示沿y轴方向红外图像变换到光学图像的放大倍数;θ代表红外图像变换到光学图像的旋转角度;sx,sy为分别沿x、y轴红外图像变换到光学图像的平移的像素点数。
变换矩阵是把一个二维坐标系转换到另一个二维坐标系的对应关系,转换过程坐标点的相对位置和属性不发生变换,即:
x'=kx cosθ·x-ky sinθ·y+sx
y'=kx sinθ·x+ky cosθ·y+sy
上述是一个线性变换,该过程只发生旋转和平移过程。图像配准就是将不同时间、不同传感器(成像设备)或不同条件下(天候、照度、摄像位置和角度等)获取的两幅或多幅图像通过变换矩阵进行匹配、叠加的过程。
将变换矩阵按行优先的方法排列,其中部分焦距变换参数表请参见表1所示。
表1不同焦距变换矩阵部分参数表
Figure BDA0002808169840000112
表1是建立的双光相机变换参数模型库中的一部分,这些配准参数是以8个马达步数为步长建立的双光相机矩阵参数,从表中可以看出相邻序号的配准参数的误差都在10个像素的误差范围内。
实施例四
作为本发明可选的一种实施例,所述S3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
其中,利用用Harris角点检测算法通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,对输入的光学和红外图像进行角点检测,得到光学和红外特征点集合。利用Harris角点检测算法提取的角点结果图,如图4a和4b所示,光学图像所提取的角点数量明显多于和红外图像角点数量,两幅图像在大楼棱角明显的地方均提取出了特征点。由于分辨率、成像原理和拍摄环境等因素的影响,在红外图像中的某些地方存在角点漏检的情况,但已经检测出足够数量的角点,不影响后续配准。
实施例五
作为本发明可选的一种实施例,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
请参见图5a,当且仅当局部搜索窗口沿着某一方向移动时,窗口中图像的灰度值没有明显改变,沿着其它任意方向移动时窗口中图像的灰度值均发生明显变化,则局部窗口遇到了直线段。请参见图5b,如果局部搜索窗口沿着任意方向移动,窗口中图像的灰度值基本不变,则窗口内是平坦区域。请参见图5c,如果局部搜索窗口沿着任何方向移动时,灰度值均发生显著变化,则该局部窗口内含有角点。
实施例六
作为本发明一种可选的实施例,所述S6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
利用特征点集合对光学和红外图像进行初步匹配,得到匹配特征点对的映射关系,有一对一,一对多,多对一和多对多。
初始匹配图像如图6所示,可以看出图像中有许多误匹配的角点和一些无关角点,需要对这些误匹配的角点进行剔除来提高图像配准的精度。
使用对应焦距下的变换矩参数对初始匹配后的误匹配角点进行剔除。设定一个误差阈值,将红外特征点用变换矩阵进行变换,求取它和光学图像中对应匹配特征点的距离信息误差值,如果误差值小于阈值,则保留。如果误差值大于阈值,则剔除误匹配的特征点,实现误匹配的特征点对的第一次剔除。结果如图7所示。由处理结果可以看出,因为该变换是仿射变换,对应点的连线相互平行,说明保留下角点对是精确的特征点对集合,剔除了许多误匹配的角点和无关角点,节约了大量时间。
实施例七
作为本发明可选的一种实施例,所述S7包括:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合。
可以理解,根据特征点对的大小要求,对第一次剔除后的匹配的特征点中一对多、多对一和多对多的特征点对中误匹配点对进行第二次剔除。
对于一对多,将红外特征点用变换矩阵进行变换,求取它和光学图像中对应的多个匹配特征点的距离信息误差值,保留其中误差值最小的光学图像特征点,剔除非误差值最小的光学特征点,使一对多对应变成一对一对应,再求取这一对一特征点对的欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。
实施例八
作为本发明可选的一种实施例,所述S7包括:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合。
对于多对一,将多个红外特征点分别用变换矩阵进行变换,分别求取它们和光学图像中对应的匹配特征点的距离信息误差值,保留其中误差值最小的红外图像特征点,剔除非误差值最小的红外特征点,使一对多对应变成一对一对应,再求取这一对一特征点对的欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。
实施例九
作为本发明可选的一种实施例,所述S7包括:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留。
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合;
对于多对多,将被光学特征点对应次数超过一次的红外特征点集合A找到,对A中每个元素a1、a2、a3……分别用变换矩阵进行变换,分别找到A中每个元素和光学图像中对应的匹配特征点集合B1、B2、B3……。对B1中每个元素分别求与其对应的元素a1的距离信息误差值,保留B1中距离信息误差值最大的那个元素。对于B2、B3……采取和对B1相同的做法,对于遍历完B1、B2、B3……,从没有被保留过的光学特征点进行剔除。
使多对多对应变成一对一对应和一对多对应的集合C。对于集合C中的每个一对一对应的特征点对计算其欧氏距离,如果欧氏距离小于等于7个像素点则保留,否则剔除。对于集合C中每个一对多对应的特征点对,进行上述一对多的剔除办法进行剔除。
实施例八
作为本发明可选的一种实施例,所述S8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84:判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
如图8所示,采用随机抽样一致性算法(RANSAC)对距离和位置信息约束后的匹配特征点对进行迭代拟合,减小控制点估计误差,得到精确稳健的最优配准参数模型。
可以理解,按照本发明提供的图像配准方法对红外图像以及光学图像进行图像配准后,配准结果如图9a所示,叠加显示结果如图9b所示。由叠加显示图可以看出红外图像和光学图像的大楼柱子、屋顶、建筑的顶点已经完全对齐,没有出现错位和虚影的情况。因此可以认为红外图像和光学图像达到了比较好配准效果。
为了更加精确的分析和评估该方法的配准效果,使用均方根误差的方法对红外和光学图像的配准精度进行评估。从红外图像和光学图像中随机挑选10组控制点对,计算这些控制点对之间的均方根误差RMSE。通过计算可得均方根误差RMSE=0.5957,说明配准精度达到了亚像素级,验证了该配准方法的有效性。而且由于利用了变换矩阵模型库剔除了大量误匹配的角点和无关角点,在配准精度相同达到亚像素级配准的情况下,将配准时间由原来的1分钟缩短到20秒左右。另外,整个配准过程无需人工参与,实现了自动化多源图像配准。
在本发明中,除非另有明确的规定和限定,第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触,也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且,第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方,或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方,或仅仅表示第一特征水平高度小于第二特征。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。此外,本领域的技术人员可以将本说明书中描述的不同实施例或示例进行接合和组合。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明,不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干简单推演或替换,都应当视为属于本发明的保护范围。

Claims (10)

1.一种基于双光相机不同焦距变换参数的多源图像配准方法,其特征在于,所述多源图像配准方法包括:
步骤1:根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间,建立双光相机不同焦距的变换矩阵参数库;
步骤2:获取多源图像以及拍摄该多源图像时的焦距,所述多源图像包括:光学图像和红外图像;
步骤3:使用Harris角点检测算法,对所述多源图像进行角点检测,获得光学图像的第一特征点集合以及红外图像的第二特征点集合;
步骤4:利用第一特征点集合以及第二特征点集合,对光学图像和红外图像进行初步匹配,得到匹配的特征点对集合;
步骤5:在所述变换矩阵参数库中,确定所述焦距所在区间的目标变换矩阵参数;
步骤6:使用所述目标变换矩阵参数在所述匹配的特征点对集合中剔除误匹配的特征点,得到待优化的特征点集合;
步骤7:利用距离信息和位置信息对所述待优化的特征点集合进行约束优化,确定最优匹配的特征点对集合;
步骤8:采用随机抽样一致性算法,对最优匹配的特征点对集合进行迭代拟合,确定最优配准参数模型;
步骤9:利用所述最优配准参数模型,对红外图像以及光学图像进行配准,得到配准图像。
2.根据权利要求1所述的多源图像配准方法,其特征在于,所述根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将焦距区间划分成N个子区间包括:
根据应用场景所需求的亚像素级配准精度以及双光相机量化焦距步长内近似不变性特征,将预设的马达步数的焦距设置为1个子区间,将焦距区间划分为N个子区间。
3.根据权利要求1所述的多源图像配准方法,其特征在于,所述建立双光相机不同焦距的变换矩阵参数库包括:
将每个子区间的子矩阵按序拼接为变换矩阵;
将红外图像的每个像素点位置信息以及与该像素点匹配的光学图像的像素点位置信息代入所述变换矩阵,得到变换矩阵参数库。
4.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤3包括:
使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的第一特征点集合和红外图像的第二特征点集合。
5.根据权利要求4所述的多源图像配准方法,其特征在于,所述使用Harris角点检测算法,在所述多源图像中通过局部窗口沿任意方向移动,记录分析窗口内灰度值的变化,从而判别局部窗口内是否含有角点,得到光学图像的特征点集合和红外图像的特征点集合的步骤包括:
步骤41:在所述多源图像中,使用Harris角点检测算法,设置局部窗口沿任意方向移动;
步骤42:当局部窗口内的超过预设数量的像素点的灰度值发生变化时,则该局部窗口内包含特征点,当局部窗口内的超过预设数量的像素点的灰度值不发生变化时,则该局部窗口内不包含特征点;
步骤43:针对光学图像,将该光学图像中包含特征点的局部窗口内提取特征点,组成第一特征点集合,以及针对红外图像,将该红外图像中包含特征点的局部窗口内提取特征点组成第二特征点集合。
6.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤6包括:
步骤61:将红外图像第一参数变换矩阵进行变换获得变换后的红外图像;
步骤62:基于变化后的红外图像光学图像匹配的特征点之间距离信息,计算匹配的特征点之间的误差值;
步骤63:如果误差值小于预设的误差阈值,则将匹配的特征点对保留,如果误差值大于预设的误差阈值,则剔除误匹配的特征点。
7.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤7包括:
步骤71a:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是一对多时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72a:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73a:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第一目标特征点对保留,并组成最优匹配的特征点对集合。
8.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤7包括:
步骤71b:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对一时,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤72b:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤73b:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第二目标特征点对保留,并组成最优匹配的特征点对集合。
9.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤7包括:
步骤71c:针对待优化的特征点集合中匹配的红外图像的第一特征点与光学图像的第二特征点,当第一特征点与第二特征点是多对多时,将第一特征点组成第一集合;
步骤72c:将目标集合中的第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤73c:确定变换后的第一特征点匹配的多个第二特征点组成第二集合;
步骤74c:计算变换后的第一特征点与第二集合中每个第二特征点之间的距离信息误差值,将距离误差值最小的第二特征点与第一特征点保留。
步骤75c:针对第一集合中的第一特征点重复步骤72c至步骤74c,获得第三集合;
其中,所述第三集合中的第一特征点与第二特征点是一对多或一对一的关系;
步骤76c:当所述第三集合中的第一特征点与第二特征点是一对多的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤77c:计算变换后的第一特征点与第二特征点之间的距离信息误差值和欧氏距离;
步骤78c:将所述同时满足欧式距离小于预设的距离阈值且距离信息误差值最小的第一特征点与第二特征点作为第三目标特征点对保留,并组成最优匹配的特征点对集合;
步骤79c:当所述第三集合中的第一特征点与第二特征点是一对一的关系,将第一特征点使用目标变换矩阵参数进行变换,得到变换后的第一特征点;
步骤80c:计算变换后的第一特征点与第二特征点之间的欧氏距离;
步骤81c:将所述满足欧式距离小于预设的距离阈值的第一特征点与第二特征点作为第四目标特征点对保留,并组成最优匹配的特征点对集合。
10.根据权利要求1所述的多源图像配准方法,其特征在于,所述步骤8包括:
S81:从最优匹配的特征点对集合中随机选出3组初始匹配的特征点对构成初始样本;
S82:利用初始样本,计算多源图像的变换参数矩阵M;
S83:利用光学图像的变换参数矩阵M对该光学图像的特征点进行变换,以及利用红外图像的变换参数矩阵M对该光学图像的特征点进行变换,计算最优匹配的特征点对集合中一对匹配特征点之间的距离;
S84:判断每一对匹配特征点之间的距离是否不小于距离阈值,如果是则将该特征点对确定为局内点,如果否则将该特征点对确定为局外点;
S85:通过迭代寻优的方式,遍历所有初始样本,选取局内点数量最多的一个初始样本作为最优样本;
S86:将局内点作为正确匹配的特征点对加入最优样本;
S87:确定所述最优样本的参数,组成最优配准参数模型。
CN202011375819.8A 2020-11-30 2020-11-30 基于双光相机不同焦距变换参数的多源图像配准方法 Active CN112541932B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011375819.8A CN112541932B (zh) 2020-11-30 2020-11-30 基于双光相机不同焦距变换参数的多源图像配准方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011375819.8A CN112541932B (zh) 2020-11-30 2020-11-30 基于双光相机不同焦距变换参数的多源图像配准方法

Publications (2)

Publication Number Publication Date
CN112541932A true CN112541932A (zh) 2021-03-23
CN112541932B CN112541932B (zh) 2024-03-26

Family

ID=75016778

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011375819.8A Active CN112541932B (zh) 2020-11-30 2020-11-30 基于双光相机不同焦距变换参数的多源图像配准方法

Country Status (1)

Country Link
CN (1) CN112541932B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114143459A (zh) * 2021-11-26 2022-03-04 中国电子科技集团公司第五十四研究所 一种适用于大变焦摄像头的视频消抖方法
CN114205519A (zh) * 2021-11-09 2022-03-18 南京泰立瑞信息科技有限公司 一种放大成像系统的快速齐焦方法及装置
CN116523982A (zh) * 2023-05-12 2023-08-01 北京长木谷医疗科技股份有限公司 基于相似度兼容性度量的稀疏点云配准方法及装置
CN116612441A (zh) * 2023-07-21 2023-08-18 山东科技大学 一种基于矿井排粉图像识别的钻孔防卡方法、设备及介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6738532B1 (en) * 2000-08-30 2004-05-18 The Boeing Company Image registration using reduced resolution transform space
US20100194971A1 (en) * 2009-01-30 2010-08-05 Pingshan Li Two-dimensional polynomial model for depth estimation based on two-picture matching
CN103106688A (zh) * 2013-02-20 2013-05-15 北京工业大学 基于双层配准方法的室内三维场景重建方法
CN103856727A (zh) * 2014-03-24 2014-06-11 北京工业大学 一种多路实时视频拼接处理系统
WO2015096806A1 (zh) * 2013-12-29 2015-07-02 刘进 智能机姿态测定、全景影像生成及目标识别方法
WO2015103621A1 (en) * 2014-01-06 2015-07-09 Oculus Vr, Llc Calibration of virtual reality systems
CN106447704A (zh) * 2016-10-13 2017-02-22 西北工业大学 基于显著区域特征和边缘度的可见光‑红外图像配准方法
CN106960449A (zh) * 2017-03-14 2017-07-18 西安电子科技大学 基于多特征约束的异源配准方法
CN106981077A (zh) * 2017-03-24 2017-07-25 中国人民解放军国防科学技术大学 基于dce和lss的红外图像和可见光图像配准方法
CN107993258A (zh) * 2017-11-23 2018-05-04 浙江大华技术股份有限公司 一种图像配准方法及装置
CN110310310A (zh) * 2019-03-27 2019-10-08 南京航空航天大学 一种针对航空影像配准的改进方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6738532B1 (en) * 2000-08-30 2004-05-18 The Boeing Company Image registration using reduced resolution transform space
US20100194971A1 (en) * 2009-01-30 2010-08-05 Pingshan Li Two-dimensional polynomial model for depth estimation based on two-picture matching
CN103106688A (zh) * 2013-02-20 2013-05-15 北京工业大学 基于双层配准方法的室内三维场景重建方法
WO2015096806A1 (zh) * 2013-12-29 2015-07-02 刘进 智能机姿态测定、全景影像生成及目标识别方法
WO2015103621A1 (en) * 2014-01-06 2015-07-09 Oculus Vr, Llc Calibration of virtual reality systems
CN103856727A (zh) * 2014-03-24 2014-06-11 北京工业大学 一种多路实时视频拼接处理系统
CN106447704A (zh) * 2016-10-13 2017-02-22 西北工业大学 基于显著区域特征和边缘度的可见光‑红外图像配准方法
CN106960449A (zh) * 2017-03-14 2017-07-18 西安电子科技大学 基于多特征约束的异源配准方法
CN106981077A (zh) * 2017-03-24 2017-07-25 中国人民解放军国防科学技术大学 基于dce和lss的红外图像和可见光图像配准方法
CN107993258A (zh) * 2017-11-23 2018-05-04 浙江大华技术股份有限公司 一种图像配准方法及装置
CN110310310A (zh) * 2019-03-27 2019-10-08 南京航空航天大学 一种针对航空影像配准的改进方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
JUN-JIE HU等: ""The Study of the Object Depth Estimation Based on Point Pair Features on Images"", 《2019 20TH IEEE/ACIS INTERNATIONAL CONFERENCE ON SOFTWARE ENGINEERING, ARTIFICIAL INTELLIGENCE, NETWORKING AND PARALLEL/DISTRIBUTED COMPUTING》, 19 December 2019 (2019-12-19) *
孙艳艳;董峰;龚惠兴;: "相机移动场景下的多曝光图像融合系统设计", 电子设计工程, no. 12, 20 June 2016 (2016-06-20) *
李振华;江耿红;徐胜男;刘允刚;: "基于轮廓多边形拟合的红外与可见光图像配准算法", 系统工程与电子技术, no. 12, 31 December 2015 (2015-12-31) *
郭晓杰: ""红外图像配准技术在电力设备故障检测中的研究与应用"", 《中国优秀硕士学位论文全文数据库》, 15 September 2008 (2008-09-15) *
陈剑虹;韩小珍;: "结合FAST-SURF和改进k-d树最近邻查找的图像配准", 西安理工大学学报, no. 02, 30 June 2016 (2016-06-30) *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114205519A (zh) * 2021-11-09 2022-03-18 南京泰立瑞信息科技有限公司 一种放大成像系统的快速齐焦方法及装置
CN114143459A (zh) * 2021-11-26 2022-03-04 中国电子科技集团公司第五十四研究所 一种适用于大变焦摄像头的视频消抖方法
CN116523982A (zh) * 2023-05-12 2023-08-01 北京长木谷医疗科技股份有限公司 基于相似度兼容性度量的稀疏点云配准方法及装置
CN116523982B (zh) * 2023-05-12 2024-05-03 北京长木谷医疗科技股份有限公司 基于相似度兼容性度量的稀疏点云配准方法及装置
CN116612441A (zh) * 2023-07-21 2023-08-18 山东科技大学 一种基于矿井排粉图像识别的钻孔防卡方法、设备及介质
CN116612441B (zh) * 2023-07-21 2023-09-22 山东科技大学 一种基于矿井排粉图像识别的钻孔防卡方法、设备及介质

Also Published As

Publication number Publication date
CN112541932B (zh) 2024-03-26

Similar Documents

Publication Publication Date Title
CN112541932A (zh) 基于双光相机不同焦距变换参数的多源图像配准方法
CN107993258B (zh) 一种图像配准方法及装置
CN108470356B (zh) 一种基于双目视觉的目标对象快速测距方法
CN112132874B (zh) 无标定板异源图像配准方法、装置、电子设备及存储介质
JP2003254748A (ja) ステレオ画像特性検査システム
Wang et al. Recognition and location of the internal corners of planar checkerboard calibration pattern image
CN111242991B (zh) 一种可见光与红外相机快速配准的方法
CN113191954B (zh) 一种基于双目相机的全景图像拼接方法
CN111028271B (zh) 基于人体骨架检测的多摄像机人员三维定位跟踪系统
CN110969667A (zh) 基于边缘特征的多光谱相机外参自校正算法
CN110889829A (zh) 一种基于鱼眼镜头的单目测距方法
CN114067197B (zh) 一种基于目标检测及双目视觉的管道缺陷识别与定位方法
CN106447601A (zh) 一种基于投影‑相似变换的无人机遥感影像拼接方法
CN106897995A (zh) 一种面向机械装配过程的零部件自动识别方法
CN107092905B (zh) 一种电力巡检机器人的待识别仪器定位方法
CN111724446B (zh) 一种用于建筑物三维重建的变焦距相机外参数标定方法
CN113329179B (zh) 拍摄对位方法、装置、设备及存储介质
CN113393439A (zh) 一种基于深度学习的锻件缺陷检测方法
CN107680035B (zh) 一种参数标定方法和装置、服务器及可读存储介质
CN104966283A (zh) 图像分层配准方法
CN112508885B (zh) 一种弯管的三维中轴线检测方法及系统
CN112017259B (zh) 一种基于深度相机与热像仪的室内定位与建图方法
TWI471821B (zh) A system, a method, and a recording medium for establishing a correlation for a plurality of images
CN110728703B (zh) 可见光图像与日盲紫外光图像的配准融合方法
CN111899289A (zh) 一种基于图像特征信息的红外图像与可见光图像的配准方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant