CN110310310B - 一种针对航空影像配准的改进方法 - Google Patents

一种针对航空影像配准的改进方法 Download PDF

Info

Publication number
CN110310310B
CN110310310B CN201910237873.7A CN201910237873A CN110310310B CN 110310310 B CN110310310 B CN 110310310B CN 201910237873 A CN201910237873 A CN 201910237873A CN 110310310 B CN110310310 B CN 110310310B
Authority
CN
China
Prior art keywords
points
point
image
feature
characteristic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910237873.7A
Other languages
English (en)
Other versions
CN110310310A (zh
Inventor
胡挺
何成龙
韩伟
徐诚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN201910237873.7A priority Critical patent/CN110310310B/zh
Publication of CN110310310A publication Critical patent/CN110310310A/zh
Application granted granted Critical
Publication of CN110310310B publication Critical patent/CN110310310B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明提出一种针对航空影像配准的改进方法,提高航空影像配准的时间效率,同时提高配准结果的精度,针对航空影像变化尺度较大,序列重合度低等特点,采用该改进方法能够有效地完成航空影像的配准任务。基于SURF特征提取方法生成航空影像的匹配点对;对提取的特征点对进行预处理并生成样本优先集;建立模型适应度函数代替RANSAC算法中人为设置阈值的刚性判别;通过改进RANSAC算法计算航空影像间的变换矩阵,最终获得较优的配准结果。

Description

一种针对航空影像配准的改进方法
技术领域
本发明属于计算机视觉中面向图像处理的技术领域,尤其涉及一种针对航空影像配准的改进方法。
背景技术
图像配准(Image Registration)过程包含设定一幅图片作为参考图片,对于其他的图片采用空间转换来匹配此参考图片,此过程亦称作图像匹配或者图像相关(ImageMatching or Image Correlation)。图像的空间转换就是寻找一种坐标变换模型,建立从一个图像坐标到另一个图像坐标之间的映射关系。常用变换模型包括四种变换:刚体变换、仿射变换、投影变换和非线性变换。由于空间转换为从一幅图像的点转换为另一幅图像中的点,因此,正确的空间转换参数是图像正确配准的关键。特征点对的误匹配、照相机的捕捉视角、镜头及传感器的畸变、摄像机的差别等均会导致图像的误匹配。介于后面影响因素均为硬件条件,不宜调整,故相关研究均致力于降低特征误匹配对图像配准产生的影响。
由于误匹配特征的存在,模型参数估计将产生较大的偏差,甚至出现估计失败。通常,模型参数估计可以分为线性法、迭代法和鲁棒法。线性法速度较快,但对于存在错误匹配点以及由噪声引起坏点的情况精确性较低。迭代法精度比线性算法高,但计算时间长,且误匹配点剔除效果不是很好。鲁棒法是通过制定错误信息排除策略,并利用正确信息进行模型参数估计的方法。目前,研究人员已经提出了众多鲁棒性参数估计算法,其中应用最为广泛的有极大似然估计(M-estimation)、最小中值(LMedS)和随机抽样一致性(RANSAC)3种算法。RANSAC算法与前两种相比具有算法结构简单、鲁棒性强、能够有效处理较多外点存在的情况等优势,故广泛应用于图像配准过程中的模型参数估计问题中。
RANSAC算法在外点比率较大时算法效率低下,且通过人为设置阈值刚性判断内外点,过大或过小均会对估计结果产生不利影响。本发明针对航空影像的变化尺度大,受光照影响明显且对配准过程实时性要求高等特点,对RANSAC算法进行了一定改进,在快速准确完成影像间变换模型参数估计的前提下实现航空影像配准。
发明内容
发明目的:针对以上现有技术存在的问题,本发明提出一种航空影像间的配准方法,该方法公开了一种改进方法来计算变换矩阵的优化方案,并以该优化方案为基础实现了航空影像间的精确配准,解决了航空影像的特殊性所面临的技术问题。
技术方案:为实现本发明的目的,本发明所采用的技术方案是:本发明公开了一种航空影像配准的改进方法,将改进的图像配准方法应用于变化尺度大,受光照影响明显且对配准过程实时性要求高等特点的航空影像配准。本发明的整体操作流程见图1所示。
(1)对航空影像进行SURF特征提取,包含四个步骤:建立尺度空间,精确定位及选择特征点,决定特征点的主方向,特征点描述。操作流程见图2所示。详细操作步骤如下:
(1.1)选择二阶标准高斯函数作为滤波器,高斯函数的标准差为尺度因子,将不同尺度的高斯核与图像进行卷积以计算二阶偏导数,构建不同尺度σ下的Hessian矩阵
Figure BDA0002008759830000021
其中,Lxx、Lyy、Lxy分为高斯滤波二阶导
Figure BDA0002008759830000022
同图像I=(x,y)的卷积结果。
用盒子滤波近似代替二阶高斯滤波,并借助积分图像加速卷积,简化Hessian矩阵的求解过程。
通过改变盒子滤波的大小,将不同大小的盒子滤波同原始图像做卷积,即可生成不同尺度的金字塔图像。生成的金字塔图像分为4个组,每一组包含4张尺度不同的图像。对于L×L大小的盒子滤波,其对应的尺度为
Figure BDA0002008759830000023
尺度空间金字塔的最底层由9×9的盒子滤波输出得到,则对应尺度为σ0=1.2。为保证盒子滤波的结构不变,后续盒子滤波器的大小至少以6个像素值步长增加。在生成金字塔图像的过程中,图像大小保持不变,不同组之间的图像通过改变盒子滤波尺寸而获得,每一组的第一层盒子滤波尺寸是上一组的第二层盒子滤波的尺寸。第1组中,相邻盒子滤波尺寸L以6个像素的步长逐步增加;第2组中,相邻盒子滤波尺寸L以12个像素的步长逐步增加;第3组中,相邻盒子滤波尺寸L以24个像素的步长逐步增加;第4组中,相邻盒子滤波尺寸L以48个像素的步长逐步增加,最终,生成不同尺度的金字塔图像。
(1.2)选择上述每组图像的第2层和第3层卷积图像中的像素点的Hessian响应,即Hessian矩阵行列式的近似值,分别与上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应进行比较,若该点的Hessian响应大于或小于上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应值,该点为最大或最小极值点,则保留为初步特征点。图2中标记为‘x’的像素点的Hessian响应若大于3×3×3周围像素的Hessian响应,则可确定该点为该区域的初步特征点。然后,在尺度空间采用三维线性插值法对初步特征点进行插值运算得到亚像素级别的极值点,该极值点为稳定的特征点,同时可获得该特征点的位置及所在的尺度。
(1.3)以稳定的特征点为中心,计算半径为6s的邻域内的点在水平x和垂直y方向的Haar小波响应,即Haar小波特征值,s为特征点所属尺度空间的尺度值,并对所求的响应值赋高斯权重系数σ1=2s,并加权;圆心角为60°的扇形以特征点为中心环绕一周,旋转步长为10°,计算该扇形处于每个角度时所包含图像点的Haar小波响应之和,由于每一点都有x、y两个方向的响应,因此扇形区域中所有点的响应之和构成一个新的矢量,遍历整个圆形区域,选择最长矢量的方向为该特征点的主方向。图2中标记出了中心特征点的主方向。
(1.4)以特征点为中心,将坐标轴旋转到特征点的主方向,即特征点的主方向为y轴。按照主方向选取边长为20s的正方形区域,将区域分为4×4个子区域。以特征点为中心,采样步长取该特征点所属尺度空间的尺度值大小是,在每个子区域内统计5s×5s范围内的Haar小波响应,相对于主方向的水平、垂直方向的Haar小波响应分别记作dx、dy,同样赋予高斯权重系数σ2=3.3s,并加权。将每个子区域中的Haar小波响应及响应的绝对值相加得到∑dx、∑dy、∑|dx|、∑|dy|,即在每个子区域可获得四维矢量Vsub=(∑dx,∑|dx|,∑dy,∑|dy|),最后,形成4×4×4=64维的描述向量。
(2)由于航空序列影像间的重叠度较低,采用最近邻算法容易产生较多误匹配点,故在提取SURF特征点之后,对特征点匹配进行预处理以消除误匹配点。预处理之后,设定阈值生成样本优先集作为RANSAC算法的初始采样集。
(2.1)预处理过程具体为通过建立评测标准η(x)=1-d1(x)/d2(x),来剔除明显误匹配点完成预处理步骤,其中:x为特征描述向量,η(x)为特征点匹配调整系数,d1(x)为左影像中特征点通过遍历找出的右影像中与之最近的特征点之间的欧式距离,d2(x)为左影像中该特征点通过遍历找出的右影像中与之次近的特征点之间的欧式距离,其中,左影像为参考影像,右影像为待配准影像。若η(x)>0.3,则将左右影像中的特征点视为一对特征点对。
(2.2)预处理后,得到特征点对样本集X={xi|i=1,2,…,N},其中,N为总特征点对数,设第i对特征点对之间的距离为d(i),i=1,2,…,N。根据
Figure BDA0002008759830000041
计算标准差估计值σd,将满足d(i)≤σd条件的所有特征点对加入样本优先集X'={x'j|j=1,2,…,N'},其中,N'为符合d(i)≤σd条件的特征点对数。
(3)图3为RANSAC算法的原理图。以图3为例,随机选择图中两个点生成一条直线,位于距离该直线一定值范围内的点称为支撑点,并统计支撑点数目。重复选择两个点生成一系列直线,统计不同直线所产生的支撑点数目,并选择包含支撑点最多的直线为最终计算结果。属于该直线的支撑点称为内点,剩余点则为外点。图3显示出RANSAC算法优于最小二乘法。类似于两点生成一条直线的RANSAC理论,将RANSAC算法应用到四对特征点生成变换矩阵的情况。
在本发明中,通过建立模型适应度函数对原始RANSAC算法进行改进,建立模型适应度函数
Figure BDA0002008759830000042
其中/>
Figure BDA0002008759830000043
代替根据余差Ri大小所产生的内点比率来对变换矩阵H进行选择,其中,xi=(xi,yi)与x'i=(x′i,y′i)为一对特征点对,/>
Figure BDA0002008759830000044
为样本集X中样本对由优先样本集X'采样所求得的变换矩阵H的余差,d()为两点之间的欧式影像距离,v=Rmax-Rmin,Rmax和Rmin为余差最大值和最小值,/>
Figure BDA0002008759830000051
为标准差估计,取值为/>
Figure BDA0002008759830000052
其中,m为影像间变换矩阵参数估计所需最小样本数,i=1,2,…,N。
将改进的RANSAC算法用于计算影像间的变换矩阵,该算法可以有效地剔除外点,即错误匹配点,并利用内点,即正确匹配点,实现变换矩阵参数的最优估计。改进RANSAC算法具体步骤可描述为:
(3.1)输入匹配点样本集X={xi|i=1,2,…,N},样本优先集X'={x'j|j=1,2,…,N'},样本中内点比率ε=0.8,用作计算采样次数,置信率η0,内外点判定阈值τ,影像间变换矩阵参数估计所需最小样本数m,迭代次数l=0;
(3.2)计算采样次数k=log(1-η0)/log(1-εm),并从样本优先集X'中随机抽取四个点对(xa,x'a)建立方程组
Figure BDA0002008759830000053
经过k次采样,即k次随机抽取四个点对,求得影像间得变换矩阵集ΩH=(H1,H2,…Hk),变换矩阵H的求解步骤入下:
变换矩阵H为大小为3×3的矩阵,h33=1。剩余变换矩阵H的8个未知数需要8个方程来求解,每对特征点对(xa,x'a)可提供两个方程,因此,四对特征点对即可正确求解出变换矩阵H。
(3.3)对变换矩阵集ΩH=(H1,H2,…Hk)计算不同变换矩阵Hh,h=1,2,…,k,所对应的余差Rih,并利用函数F(H)来检验当前变换矩阵H的模型适应度,遍历k个变换矩阵H之后,选择函数F(H)最大值所对应的变换矩阵H,记为Hmax
(3.4)Hmax对应的余差Ri,i=1,2,…,N,与设定的阈值τ作比较,若Hmax对应的余差项Ri小于τ的特征点对为内点,反之为外点,更新内点比率
Figure BDA0002008759830000061
ninlier为采样集X中的内点数目;
(3.5)迭代次数l=l+1,与采样次数k进行比较,若l>k,停止循环,并输出内点比率最高的变换矩阵作为最终结果,否则重复步骤(3.2)-(3.5)。
有益效果:与现有技术相比,本发明的技术方案具有以下有益技术效果:
1、采用SURF特征算子提取算法用于航空影像配准,能够快速生成相对可靠的特征用于后续处理步骤;
2、对匹配点对进行预处理之后,设定阈值生成样本优先集作为RANSAC算法的初始采样集,提高运行效率;
3、建立模型适用度函数用于RANSAC算法中变换矩阵的可靠性分析,提高算法的鲁棒性。
附图说明
图1是本发明的整体流程图;
图2是提取SURF特征算子的过程;
图3是RANSAC原理的示意图;
图4是不同计算方法所获得的变换矩阵;
图5是基于SIFT和SURF特征算子进行点对匹配的对比图;
图6是利用本发明对航空影像配准的结果示意图。
具体实施方式
下面结合附图对发明的技术方案进行详细说明。下面通过参考附图描述的实施方式是示例性的,仅用于解释本发明,而不能解释为对本发明的限制。
本领域的技术人员可以理解,除非另外定义,这里使用的所有术语,包括技术术语和科学术语,具有与本发明所属领域中的普通技术人员的一般理解相同的意义。还应该理解的是,诸如通用字典中定义的那些术语应该被理解为具有与现有技术的上下文中的意义一致的意义,并且除非像这里一样定义,不会用理想化或过于正式的含义来解释。
本发明公开了一种航空影像配准的改进方法,将改进的图像配准方法应用于变化尺度大,受光照影响明显且对配准过程实时性要求高等特点的航空影像配准。本发明的整体操作流程见图1所示。
(1)对航空影像进行SURF特征提取,包含四个步骤:建立尺度空间,精确定位及选择特征点,决定特征点的主方向,特征点描述。操作流程见图2所示。详细操作步骤如下:
(1.1)选择二阶标准高斯函数作为滤波器,高斯函数的标准差为尺度因子,将不同尺度的高斯核与图像进行卷积以计算二阶偏导数,构建不同尺度σ下的Hessian矩阵
Figure BDA0002008759830000071
其中,Lxx、Lyy、Lxy分为高斯滤波二阶导
Figure BDA0002008759830000072
同图像I=(x,y)的卷积结果。
用盒子滤波近似代替二阶高斯滤波,并借助积分图像加速卷积,简化Hessian矩阵的求解过程。
通过改变盒子滤波的大小,将不同大小的盒子滤波同原始图像做卷积,即可生成不同尺度的金字塔图像。生成的金字塔图像分为4个组,每一组包含4张尺度不同的图像。对于L×L大小的盒子滤波,其对应的尺度为
Figure BDA0002008759830000073
尺度空间金字塔的最底层由9×9的盒子滤波输出得到,则对应尺度为σ0=1.2。为保证盒子滤波的结构不变,后续盒子滤波器的大小至少以6个像素值步长增加。在生成金字塔图像的过程中,图像大小保持不变,不同组之间的图像通过改变盒子滤波尺寸而获得,每一组的第一层盒子滤波尺寸是上一组的第二层盒子滤波的尺寸。第1组中,相邻盒子滤波尺寸L以6个像素的步长逐步增加;第2组中,相邻盒子滤波尺寸L以12个像素的步长逐步增加;第3组中,相邻盒子滤波尺寸L以24个像素的步长逐步增加;第4组中,相邻盒子滤波尺寸L以48个像素的步长逐步增加,最终,生成不同尺度的金字塔图像。
(1.2)选择上述每组图像的第2层和第3层卷积图像中的像素点的Hessian响应,即Hessian矩阵行列式的近似值,分别与上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应进行比较,弱该点的Hessian响应大于或小于上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应值,该点为最大或最小极值点,则保留为初步特征点。图2中标记为‘x’的像素点的Hessian响应若大于3×3×3周围像素的Hessian响应,则可确定该点为该区域的初步特征点。然后,在尺度空间采用三维线性插值法对初步特征点进行插值运算得到亚像素级别的极值点,该极值点为稳定的特征点,同时可获得该特征点的位置及所在的尺度。
(1.3)以稳定的特征点为中心,计算半径为6s的邻域内的点在水平x和垂直y方向的Haar小波响应,即Haar小波特征值,s为特征点所属尺度空间的尺度值,并对所求的响应值赋高斯权重系数σ1=2s,并加权;圆心角为60°的扇形以特征点为中心环绕一周,旋转步长为10°,计算该扇形处于每个角度时所包含图像点的Haar小波响应之和,由于每一点都有x、y两个方向的响应,因此扇形区域中所有点的响应之和构成一个新的矢量,遍历整个圆形区域,选择最长矢量的方向为该特征点的主方向。图2中标记出了中心特征点的主方向。
(1.4)以特征点为中心,将坐标轴旋转到特征点的主方向,即特征点的主方向为y轴。按照主方向选取边长为20s的正方形区域,将区域分为4×4个子区域。以特征点为中心,采样步长取该特征点所属尺度空间的尺度值大小是,在每个子区域内统计5s×5s范围内的Haar小波响应,相对于主方向的水平、垂直方向的Haar小波响应分别记作dx、dy,同样赋予高斯权重系数σ2=3.3s,并加权。将每个子区域中的Haar小波响应及响应的绝对值相加得到∑dx、∑dy、∑|dx|、∑|dy|,即在每个子区域可获得四维矢量Vsub=(∑dx,∑|dx|,∑dy,∑|dy|),最后,形成4×4×4=64维的描述向量。
(2)由于航空序列影像间的重叠度较低,采用最近邻算法容易产生较多误匹配点,故在提取SURF特征点之后,对特征点匹配进行预处理以消除误匹配点。预处理之后,设定阈值生成样本优先集作为RANSAC算法的初始采样集。
(2.1)预处理过程具体为通过建立评测标准η(x)=1-d1(x)/d2(x),来剔除明显误匹配点完成预处理步骤,其中:x为特征描述向量,η(x)为特征点匹配调整系数,d1(x)为左影像中特征点通过遍历找出的右影像中与之最近的特征点之间的欧式距离,d2(x)为左影像中该特征点通过遍历找出的右影像中与之次近的特征点之间的欧式距离,其中,左影像为参考影像,右影像为待配准影像。若η(x)>0.3,则将左右影像中的特征点视为一对特征点对。
(2.2)预处理后,得到特征点对样本集X={xi|i=1,2,…,N},其中,N为总特征点对数,设第i对特征点对之间的距离为d(i),i=1,2,…,N。根据
Figure BDA0002008759830000091
计算标准差估计值σd,将满足d(i)≤σd条件的所有特征点对加入样本优先集X'={x'j|j=1,2,…,N'},其中,N'为符合d(i)≤σd条件的特征点对数。
(3)图3为RANSAC算法的原理图。以图3为例,随机选择图中两个点生成一条直线,位于距离该直线一定值范围内的点称为支撑点,并统计支撑点数目。重复选择两个点生成一系列直线,统计不同直线所产生的支撑点数目,并选择包含支撑点最多的直线为最终计算结果。属于该直线的支撑点称为内点,剩余点则为外点。图3显示出RANSAC算法优于最小二乘法。类似于两点生成一条直线的RANSAC理论,将RANSAC算法应用到四对特征点生成变换矩阵的情况。
在本发明中,通过建立模型适应度函数对原始RANSAC算法进行改进,建立模型适应度函数
Figure BDA0002008759830000092
其中/>
Figure BDA0002008759830000093
代替根据余差Ri大小所产生的内点比率来对变换矩阵H进行选择,其中,xi=(xi,yi)与x'i=(x′i,y′i)为一对特征点对,/>
Figure BDA0002008759830000094
为样本集X中样本对由优先样本集X'采样所求得的变换矩阵H的余差,d()为两点之间的欧式影像距离,v=Rmax-Rmin,Rmax和Rmin为余差最大值和最小值,/>
Figure BDA0002008759830000095
为标准差估计,取值为/>
Figure BDA0002008759830000101
其中,m为影像间变换矩阵参数估计所需最小样本数,i=1,2,…,N。
将改进的RANSAC算法用于计算影像间的变换矩阵,该算法可以有效地剔除外点,即错误匹配点,并利用内点,即正确匹配点,实现变换矩阵参数的最优估计。改进RANSAC算法具体步骤可描述为:
(3.1)输入匹配点样本集X={xi|i=1,2,…,N},样本优先集X'={x'j|j=1,2,…,N'},样本中内点比率ε=0.8,用作计算采样次数,置信率η0,内外点判定阈值τ,影像间变换矩阵参数估计所需最小样本数m,迭代次数l=0;
(3.2)计算采样次数k=log(1-η0)/log(1-εm),并从样本优先集X'中随机抽取四个点对(xa,x'a)建立方程组
Figure BDA0002008759830000102
经过k次采样,即k次随机抽取四个点对,求得影像间得变换矩阵集ΩH=(H1,H2,…Hk),变换矩阵H的求解步骤入下:
变换矩阵H为大小为3×3的矩阵,h33=1。剩余变换矩阵H的8个未知数需要8个方程来求解,每对特征点对(xa,x'a)可提供两个方程,因此,四对特征点对即可正确求解出变换矩阵H。
(3.3)对变换矩阵集ΩH=(H1,H2,…Hk)计算不同变换矩阵Hh,h=1,2,…,k,所对应的余差Rih,并利用函数F(H)来检验当前变换矩阵H的模型适应度,遍历k个变换矩阵H之后,选择函数F(H)最大值所对应的变换矩阵H,记为Hmax
(3.4)Hmax对应的余差Ri,i=1,2,…,N,与设定的阈值τ作比较,若Hmax对应的余差项Ri小于τ的特征点对为内点,反之为外点,更新内点比率
Figure BDA0002008759830000111
ninlier为采样集X中的内点数目;
(3.5)迭代次数l=l+1,与采样次数k进行比较,若l>k,停止循环,并输出内点比率最高的变换矩阵作为最终结果,否则重复步骤(3.2)-(3.5)。
利用本发明中的方法,采用一组无人机航拍的影像进行配准测试。附图4显示了不同变换矩阵的计算方法对影像变化产生的影像,其中(b)为本发明中的改进变换矩阵方法生成的结果图。对比基于SIFT和SURF特征算子的提取过程,结果证明为了满足航空影像配准的实时性及可靠性,SURF更适用于航空影像配准的特征提取。附图5为基于SIFT和SURF特征算子进行点对匹配的对比图。结合本发明的技术方案最终实现的航空影像配准结果如附图6所示。
其中,本发明的技术方案所提取的SURF特征算子可抵抗尺度、光照等变化带来的影响,经过预处理后可获得可靠性较高的匹配点对,并用于改进的RANSAC算法计算航空影像间的变换矩阵,提供了较优的航空影像配准结果。
上述实施例仅为本发明技术方案的一种实现方式,不构成对本发明实施例的限定,本领域的技术人员在本发明公开的航空影像配准方案的基础上,能够将其应用到其它的配准领域中。

Claims (1)

1.一种针对航空影像配准的改进方法,其特征在于,该方法包括如下步骤:
(1)对航空影像进行SURF特征提取,包含四个步骤:建立尺度空间,选择特征点,决定特征点的主方向,并进行特征点描述;
(2)在参考影像上寻找与上述特征点匹配的点形成点对集合,并对点对集合进行预处理以消除误匹配的点生成样本优先集;
(3)构建适应度函数,通过样本优先集计算航空影像和参考影像之间的最佳转换矩阵实现影像上特征点对的映射;
步骤(1)中,对航空影像进行SURF特征提取,包含四个步骤:建立尺度空间,精确定位及选择特征点,决定特征点的主方向,特征点描述的方法如下:
(1.1)选择二阶标准高斯函数作为滤波器,高斯函数的标准差为尺度因子,将不同尺度的高斯核与图像进行卷积以计算二阶偏导数,构建不同尺度σ下的Hessian矩阵
Figure FDA0003941019170000011
其中,Lxx、Lyy、Lxy分为高斯滤波二阶导/>
Figure FDA0003941019170000012
Figure FDA0003941019170000013
同图像I=(x,y)的卷积结果,通过二阶高斯滤波器设置盒子滤波器,借助积分图像加速卷积,简化Hessian矩阵的求解过程;
(1.2)通过改变盒子滤波的大小,将不同大小的盒子滤波同原始图像做卷积,即可生成不同尺度的金字塔图像,生成的金字塔图像分为4个组,每一组包含4张尺度不同的图像;
(1.3)选择上述每组图像的第2层和第3层卷积图像中的像素点的Hessian响应,分别与上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应进行比较,若该点的Hessian响应大于或小于上一尺度、下一尺度及本尺度周围的26个邻域像素点的Hessian响应值,该点为最大或最小极值点,则保留为初步特征点,在尺度空间采用三维线性插值法对初步特征点进行插值运算得到亚像素级别的极值点,该极值点为稳定的特征点,同时可获得该特征点的位置及所在的尺度;
(1.3)以稳定的特征点为中心,计算半径为6s的邻域内的点在水平x和垂直y方向的Haar小波响应,即Haar小波特征值,s为特征点所属尺度空间的尺度值,并对所求的响应值赋高斯权重系数σ1=2s,并加权;圆心角为60°的扇形以特征点为中心环绕一周,旋转步长为10°,计算该扇形处于每个角度时所包含图像点的Haar小波响应之和,由于每一点都有x、y两个方向的响应,因此扇形区域中所有点的响应之和构成一个新的矢量,遍历整个圆形区域,选择最长矢量的方向为该特征点的主方向;
(1.4)以稳定特征点为中心,将坐标轴旋转到特征点的主方向,即特征点的主方向为y轴,按照主方向选取边长为20s的正方形区域,将区域分为4×4个子区域,以特征点为中心,采样步长取该特征点所属尺度空间的尺度值大小s,在每个子区域内统计5s×5s范围内的Haar小波响应,相对于主方向的水平、垂直方向的Haar小波响应分别记作dx、dy,同样赋予高斯权重系数σ2=3.3s,并加权,将每个子区域中的Haar小波响应及响应的绝对值相加得到∑dx、∑dy、∑|dx|、∑|dy|,即在每个子区域可获得四维矢量Vsub=(∑dx,∑|dx|,∑dy,∑|dy|);
所述步骤(2),在参考影像上寻找与上述特征点匹配的点形成点对集合,并对点对集合进行预处理以消除误匹配的点生成样本优先集的方法如下:
(2.1)通过建立评测标准η(x)=1-d1(x)/d2(x),来剔除明显误匹配点完成预处理步骤,其中:x为特征描述向量,η(x)为特征点匹配调整系数,d1(x)为左影像中特征点通过遍历找出的右影像中与之最近的特征点之间的欧式距离,d2(x)为左影像中该特征点通过遍历找出的右影像中与之次近的特征点之间的欧式距离,其中,左影像为参考影像,右影像为待配准影像,若η(x)>M,则将左右影像中的特征点视为一对特征点对,M为预设的阈值;
(2.2)记所获得的特征点对样本集X={xi|i=1,2,…,N},其中,N为总特征点对数,设第i对特征点对之间的距离为d(i),i=1,2,…,N,根据
Figure FDA0003941019170000021
计算标准差估计值σd,将满足d(i)≤σd条件的所有特征点对加入样本优先集X'={x'j|j=1,2,…,N'},其中,N'为符合d(i)≤σd条件的特征点对数;
步骤(3)中,构建适应度函数,通过样本优先集计算航空影像和参考影像之间的最佳转换矩阵实现特征点对的映射的方法如下:
(3.1)建立模型适应度函数
Figure FDA0003941019170000031
其中
Figure FDA0003941019170000032
代替根据余差Ri大小所产生的内点比率来对变换矩阵H进行选择,其中,xi=(xi,yi)与x'i=(xi',yi')为一对特征点对,
Figure FDA0003941019170000033
为样本集X中样本对由优先样本集X'采样所求得的变换矩阵H的余差,d()为两点之间的欧式影像距离,v=Rmax-Rmin,Rmax和Rmin为余差最大值和最小值,/>
Figure FDA0003941019170000034
为标准差估计,取值为/>
Figure FDA0003941019170000035
其中,m为影像间变换矩阵参数估计所需最小样本数,i=1,2,…,N;
(3.2)输入匹配点对样本集X={xi|i=1,2,…,N},样本优先集对X'={x'j|j=1,2,…,N'},设置样本中内点比率ε,用作计算采样次数,置信率η0,内外点判定阈值τ,影像间变换矩阵参数估计所需最小样本数m,迭代次数l=0;
(3.3)计算采样次数k=log(1-η0)/log(1-εm),并从样本优先集X'中随机抽取四个点对(xa,x'a)建立方程组
Figure FDA0003941019170000036
a=1,2,3,4,经过k次采样,即k次随机抽取四个点对,求得影像间得变换矩阵集ΩH=(H1,H2,…Hk),变换矩阵H的求解步骤入下:
变换矩阵H为大小为3×3的矩阵,h33=1,剩余变换矩阵H的8个未知数需要8个方程来求解,每对特征点对(xa,x'a)可提供两个方程,因此,四对特征点对即可正确求解出变换矩阵H;
(3.4)对变换矩阵集ΩH=(H1,H2,…Hk)计算不同变换矩阵Hh,h=1,2,…,k,所对应的余差Rih,并利用函数F(H)来检验当前变换矩阵H的模型适应度,遍历k个变换矩阵H之后,选择函数F(H)最大值所对应的变换矩阵H,记为Hmax
(3.5)使用Hmax计算输入匹配点对样本集X={xi|i=1,2,…,N}对应的余差Ri,i=1,2,…,N,与设定的阈值τ作比较,若计算的每个特征点对所对应的余差项Ri小于τ的特征点对为内点,反之为外点,ninlier为采样集X中的内点数目,更新内点比率
Figure FDA0003941019170000041
(3.6)迭代次数l=l+1,与采样次数k进行比较,若l>k,停止循环,并输出内点比率最高的变换矩阵作为最终结果,否则重复步骤(3.3)-(3.6)。
CN201910237873.7A 2019-03-27 2019-03-27 一种针对航空影像配准的改进方法 Active CN110310310B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910237873.7A CN110310310B (zh) 2019-03-27 2019-03-27 一种针对航空影像配准的改进方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910237873.7A CN110310310B (zh) 2019-03-27 2019-03-27 一种针对航空影像配准的改进方法

Publications (2)

Publication Number Publication Date
CN110310310A CN110310310A (zh) 2019-10-08
CN110310310B true CN110310310B (zh) 2023-03-31

Family

ID=68074846

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910237873.7A Active CN110310310B (zh) 2019-03-27 2019-03-27 一种针对航空影像配准的改进方法

Country Status (1)

Country Link
CN (1) CN110310310B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110853043B (zh) * 2019-11-21 2020-09-29 北京推想科技有限公司 影像分割方法、装置、可读存储介质及电子设备
CN111861866A (zh) * 2020-06-30 2020-10-30 国网电力科学研究院武汉南瑞有限责任公司 一种变电站设备巡检图像全景重建方法
CN112541932B (zh) * 2020-11-30 2024-03-26 西安电子科技大学昆山创新研究院 基于双光相机不同焦距变换参数的多源图像配准方法
CN112729254A (zh) * 2020-12-23 2021-04-30 西南交通大学 适用于多梯度航带倾斜摄影测量的空中三角测量解算方法
CN112652002B (zh) * 2020-12-25 2024-05-03 江苏集萃复合材料装备研究所有限公司 一种基于idc算法的医疗影像配准方法
CN112529021B (zh) * 2020-12-29 2024-05-28 辽宁工程技术大学 一种基于尺度不变特征变换算法特征的航拍图像匹配方法
CN112749888B (zh) * 2020-12-31 2023-10-03 浙江省标准化研究院(金砖国家标准化(浙江)研究中心、浙江省物品编码中心) 基于ransac算法的多元随机抽查方法、系统、装置
CN112927143B (zh) * 2021-04-09 2024-04-19 中国工商银行股份有限公司 图像拼接方法、装置、电子设备及存储介质
CN113657194B (zh) * 2021-07-27 2023-09-22 武汉理工大学 基于改进的surf算法的车辆摄像头图像特征提取匹配方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102865859B (zh) * 2012-09-21 2014-11-05 西北工业大学 一种基于surf特征的航空序列图像位置估计方法
CN102938147A (zh) * 2012-09-21 2013-02-20 西北工业大学 一种基于快速鲁棒特征的低空无人机视觉定位方法
CN107481273B (zh) * 2017-07-12 2021-01-15 南京航空航天大学 一种航天器自主导航快速图像匹配方法

Also Published As

Publication number Publication date
CN110310310A (zh) 2019-10-08

Similar Documents

Publication Publication Date Title
CN110310310B (zh) 一种针对航空影像配准的改进方法
CN106709950B (zh) 一种基于双目视觉的巡线机器人跨越障碍导线定位方法
CN109903313B (zh) 一种基于目标三维模型的实时位姿跟踪方法
CN109118544B (zh) 基于透视变换的合成孔径成像方法
CN111429533B (zh) 一种相机镜头畸变参数估计装置及方法
CN110827332B (zh) 一种基于卷积神经网络的sar图像的配准方法
CN110992263B (zh) 一种图像拼接方法及系统
CN106886748B (zh) 一种基于tld的适用于无人机的变尺度目标跟踪方法
CN110969669B (zh) 基于互信息配准的可见光与红外相机联合标定方法
CN111462012A (zh) 一种基于条件生成对抗网络的sar图像仿真方法
CN109559273B (zh) 一种面向车底图像的快速拼接方法
CN108460792B (zh) 一种基于图像分割的高效聚焦立体匹配方法
CN111553845B (zh) 一种基于优化的三维重建的快速图像拼接方法
CN108648216B (zh) 一种基于光流与深度学习的视觉里程计实现方法和系统
US20210256299A1 (en) System and method for correspondence map determination
CN110942476A (zh) 基于二维图像引导的改进三维点云配准方法、系统及可读存储介质
CN111369605A (zh) 一种基于边缘特征的红外与可见光图像的配准方法和系统
CN111127353B (zh) 一种基于块配准和匹配的高动态图像去鬼影方法
CN116664892A (zh) 基于交叉注意与可形变卷积的多时相遥感图像配准方法
CN113627481A (zh) 一种面向智慧园林的多模型组合的无人机垃圾分类方法
CN115035326B (zh) 一种雷达图像与光学图像精确匹配方法
CN113610906B (zh) 一种基于融合图像引导的多视差图像序列配准方法
CN111145216A (zh) 一种视频图像目标的跟踪方法
CN115456870A (zh) 基于外参估计的多图像拼接方法
CN113781375A (zh) 一种基于多曝光融合的车载视觉增强方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant