CN104574421B - 一种大幅面小重合区域高精度多光谱图像配准方法及装置 - Google Patents
一种大幅面小重合区域高精度多光谱图像配准方法及装置 Download PDFInfo
- Publication number
- CN104574421B CN104574421B CN201510047728.4A CN201510047728A CN104574421B CN 104574421 B CN104574421 B CN 104574421B CN 201510047728 A CN201510047728 A CN 201510047728A CN 104574421 B CN104574421 B CN 104574421B
- Authority
- CN
- China
- Prior art keywords
- point
- image
- registration
- transformation matrix
- overlapping region
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 239000011159 matrix material Substances 0.000 claims abstract description 71
- 230000009466 transformation Effects 0.000 claims abstract description 64
- 238000011156 evaluation Methods 0.000 claims abstract description 25
- 238000013507 mapping Methods 0.000 claims abstract description 15
- 238000000605 extraction Methods 0.000 claims abstract description 14
- 238000012216 screening Methods 0.000 claims abstract description 4
- 238000001228 spectrum Methods 0.000 claims description 11
- 230000002441 reversible effect Effects 0.000 claims description 9
- 230000008569 process Effects 0.000 claims description 8
- 230000007717 exclusion Effects 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims 2
- 238000012545 processing Methods 0.000 abstract description 4
- 238000005070 sampling Methods 0.000 abstract description 2
- 238000013519 translation Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000012937 correction Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 241000208340 Araliaceae Species 0.000 description 2
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 description 2
- 235000003140 Panax quinquefolius Nutrition 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 150000001875 compounds Chemical class 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 235000008434 ginseng Nutrition 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 238000007670 refining Methods 0.000 description 2
- 241001639867 Exelis Species 0.000 description 1
- 241000282320 Panthera leo Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000002829 reductive effect Effects 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 241000894007 species Species 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
Abstract
本发明属于图像处理领域,具体而言,涉及一种大幅面小重合区域高精度多光谱图像配准方法及装置,其中,该方法包括对参考图像和待配准图像进行SIFT特征点提取;对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;利用均方根误差RMSE对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。通过该方法本发明提高了大幅多光谱图像在少量重合区域时的配准精度。
Description
技术领域
本发明属于图像处理领域,具体而言,涉及一种大幅面小重合区域高精度多光谱图像配准方法及装置。
背景技术
图像配准技术是将在同一区域但在不同传感器或不同观测角度下拍摄的两幅或者多幅图像,找出其相同或重叠区域,并进行匹配对准的过程。图像配准总是相对于多幅图像而言的,在实际工作中,通常取其中的一幅图像作为配准的基准,称为参考图像;另一幅图像,称为待配准图像。
准确的图像配准是图像融合与拼接能够顺利完成的重要先决条件,也是目标变化检测、医学图像分析、目标识别等应用中必不可少的步骤,其精度将直接影响后续操作的效果。图像配准误差通常要求亚像素级、甚至深亚像素级,否则会使小目标、细线目标等多源识别失效,融合图像边缘模糊。
但是随着遥感图像光谱分辨率、空间分辨率的逐渐提高以及观测区域的逐步扩大,高分辨率遥感图像间会出现旋转、平移、光照甚至分辨率大小不同的情况,而对一般配准算法影响准确率更大的因素则是参考图像和待配准图像只有小部分重合区域(重合区域小于图像长宽的10%)。所以,如何提高大幅图像小重合区域时配准算法的正确率已经成为现今图像配准技术要攻克的难题,也是遥感图像拼接技术目前研究的重要方向。
对于大幅面高分辨率遥感图像间的配准,相关技术中的一般方法是:对图像先进行网格化,利用相似性原理选取特征网格进行粗匹配,得到重合位置的候选区域,之后再利用候选区域进行配准,该方法虽能比较有效地缩短配准时间,但在只有少量重合区域下的图像配准过程中由于出现过多的误匹配或无法提取足够特征点从而导致图像配准精度下降,无法保证配准算法的精度。
发明内容
本发明的目的在于提供一种大幅面小重合区域高精度多光谱图像配准方法及装置,以解决上述的问题。
在本发明的实施例中提供了一种大幅面小重合区域高精度多光谱图像配准方法,包括:
对参考图像和待配准图像进行SIFT特征点提取;
对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;
利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;
利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
进一步,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵包括:
步骤1,计算重合区域全部N个内点P(x,y)在所述待配准图像中的匹配点Pi(xi,yi),与利用RANSAC算法估计变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,逐点计算偏差值,排除引起数值偏大的不准确匹配点;RMSE的计算公式如下;
步骤2,利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复步骤1,直到RMSE小于1,获取精确变换矩阵。
进一步,对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像包括:
1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;
2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;
3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°;
4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点。
进一步,在步骤4)之后还包括:
对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点。
本发明的实施例还提供了一种大幅面小重合区域高精度多光谱图像配准装置,包括:
特征点提取模块,用于对参考图像和待配准图像进行SIFT特征点提取;
特征点匹配模块,用于对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;
初步变换矩阵估算模块,用于利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;
精确变换矩阵获取模块,用于利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
进一步,该精确变换矩阵获取模块包括:
配准判定模块,用于计算重合区域全部N个内点P(x,y)在所述待配准图像中的匹配点Pi(xi,yi),与利用RANSAC算法估计变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,逐点计算偏差值,排除引起数值偏大的不准确匹配点;RMSE的计算公式如下;
迭代配准模块,用于利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复配准判定模块的配准判定过程,直到RMSE小于1,获取精确变换矩阵。
进一步,初步变换矩阵估算模块具体用于:
1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;
2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;
3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°。
4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点。
进一步,该初步变换矩阵估算模块还用于在步骤4)之后:
对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点。
本发明实施例提供的一种大幅面小重合区域高精度多光谱图像配准方法及装置与现有技术相比,将客观评价方法作为配准算法一部分,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,并结合随机抽样一致性算法与最小二乘法拟合曲线重新迭代拟合出更加准确的变换矩阵,达到了高精度配准的要求,提高了大幅多光谱图像在少量重合区域时的配准精度,解决了传统大幅面图像配准方法在处理小重合区域时,无法提取足够特征点或者存在过多错误匹配,最终导致无法完成精确配准的问题。
附图说明
图1示出了本发明一种大幅面小重合区域高精度多光谱图像配准方法的流程图;
图2示出了本发明一种大幅面小重合区域高精度多光谱图像配准装置的结构框图。
具体实施方式
下面通过具体的实施例子并结合附图对本发明做进一步的详细描述。
参图1所示,图1示出了本发明一种大幅面小重合区域高精度多光谱图像配准方法的流程图。
本实施例提供了一种大幅面小重合区域高精度多光谱图像配准方法,包括:
步骤S101,对参考图像和待配准图像进行SIFT特征点提取;
步骤S103,对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;
步骤S105,利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;
步骤S107,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
本实施例提供的图像配准方法,将客观评价方法作为配准算法一部分,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,并结合随机抽样一致性算法与最小二乘法拟合曲线重新迭代拟合出更加准确的变换矩阵,达到了高精度配准的要求,提高了大幅多光谱图像在少量重合区域时的配准精度。
在本实施例中,步骤S107具体包括:
步骤1,计算全部N个内点P(x,y)在待配准图像中的匹配点Pi(xi,yi)与估算的初步变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE(Root Mean Squared Error),RMSE标准值计算的归一化应该在一个像素级之内,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,则说明配准的误差精度大于或者等于1个像素点,逐点(利用下式)计算偏差值,排除引起数值偏大的不准确匹配点;RMSE的计算公式如下;
由于图像的旋转、缩放等会导致即使是正确的匹配点,因为变换矩阵也会存在一定误差,这一点是可以容忍的,但如果Pi(x,y)中存在一个点使成立,那么一定会导致最终RMSE的值大于或者等于1,则系统会判定该点为误匹配或者误差过大的不稳定匹配也称其为奇异点。
步骤2,排除所有上述奇异点后,利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复步骤1,直到RMSE小于1,获取精确变换矩阵。每次迭代,随着匹配点对的不断精炼,所得矩阵将越来越准确。引起RMSE偏大的原因是Pi(x,y)与对应Po(x,y)的距离过大,即原图像中点P(x,y)的匹配点与矩阵变换后的点在位置上有明显误差。利用最小二乘法拟合方法,矩阵能够满足绝大多数点的正确映射,这样剩下距离过大的点极有可能是误匹配点。本实施例通过在逐步迭代的过程中逐步排除误差较大的点来达到精炼匹配点的目的,当所有匹配点都满足公式时,迭代终止,也意味着图像已经达到亚像素级配准精度。相比传统的SIFT算法,经过客观评价方法提纯后,特征点匹配的正确率以及计算变换矩阵的精度都有明显提高。
在本实施例中,步骤S103具体包括:
1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;
2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;
3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°;
4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点。
在本实施例中,在步骤4)之后还可以包括:
对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点。
参图2所示,图2示出了本发明一种大幅面小重合区域高精度多光谱图像配准装置的结构框图。
本发明的实施例还提供了一种大幅面小重合区域高精度多光谱图像配准装置,包括:
特征点提取模块21,用于对参考图像和待配准图像进行SIFT特征点提取;
特征点匹配模块23,用于对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;
初步变换矩阵估算模块25,用于利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;
精确变换矩阵获取模块27,用于利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
本实施例提供的图像配准装置,通过精确变换矩阵获取模块27,将客观评价方法作为配准算法一部分,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,并结合随机抽样一致性算法与最小二乘法拟合曲线重新迭代拟合出更加准确的变换矩阵,达到了高精度配准的要求,提高了大幅多光谱图像在少量重合区域时的配准精度。
在本实施例中,该精确变换矩阵获取模块27包括:
配准判定模块,用于计算重合区域全部N个内点P(x,y)在所述待配准图像中的匹配点Pi(xi,yi),与利用RANSAC算法估计变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,则说明配准的误差精度大于或者等于1个像素,反馈给系统,逐点计算偏差值,排除引起数值偏大的不准确匹配点;RMSE的计算公式如下;
迭代配准模块,用于利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复配准判定模块的配准判定过程,直到RMSE小于1,获取精确变换矩阵。
在本实施例中,初步变换矩阵估算模块25具体用于:
1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;
2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;
3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°。
4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点。
在本实施例中,该初步变换矩阵估算模块还用于在步骤4)之后:
对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点。
下面结合具体算法进一步详细描述本发明的配准方法。
针对SIFT(Scale Invariant Feature Transform)算子在大幅图像中提取的过多不稳定特征点及在只有少量重合区域下图像配准过程中出现的过多误匹配,导致图像配准精度下降。本发明的实施例提出了一种大幅面小重合区域高精度多光谱图像配准方法,在对参考图像和待配准图像提取SIFT特征点后,利用双向BBF(Best-Bin-First)匹配算法对提取的特征点进行匹配,采用SIFT描述子的尺度以及梯度方向信息建立最小邻域匹配剔除误匹配点,通过RANSAC算法进一步筛选匹配点,并利用最小二乘法结合多项式近似拟合出变换模型,利用均方根误差(RMSE)评价映射矩阵与实际图像的误差,找出并删除引起误差的误匹配点,迭代至配准图像精度达到亚像素级后,计算出精确变换矩阵。
该方法提高了大幅多光谱图像在少量重合区域时的配准精度,解决了传统大幅面图像配准方法在处理小重合区域时,无法提取足够特征点或者存在过多错误匹配,最终导致无法完成精确配准的问题。
1、SIFT(Scale Invariant Feature Transform)特征提取算法
SIFT算法选择用高斯核与图像卷积求出图像的尺度空间,一个二维图像的尺度空间定义为:
L(x,y,σ)=G(x,y,σ)×I(x,y) (1)
其中原始图像定义为I(x,y),可变尺度的二维高斯函数为G(x,y,σ),σ是尺度系数。为了在尺度空间检测到稳定的特征点(关键点),利用lowe提出的近似LoG(拉普拉斯高斯金字塔)尺度不变算子的高斯差分算子DoG,对相邻图像进行不同尺度高斯平滑后差分运算。具体描述如下:
D(x,y,σ)=[F(x,y,kσ)-G(x,y,σ)]×I(x,y)
=L(x,y,kσ)-L(x,y,σ) (2)
关键点由DoG空间的局部极值点组成,每个检测点要和它同尺度的8个相邻点和上下相邻尺度对应的9×2个点共26个点比较,以确保在尺度空间和二维图像空间都检测到极值点。
只去掉低对比度的极值点对于特征点的稳定性是不够的,因此还需要用2×2的Hessian矩阵来去除DoG带来的边缘响应,公式(3)所示,公式中的偏导数是通过近似估计上述已确定的特征点处的相邻区域的差分来求得。
通过尺度不变性求取关键点后,可以使其具有缩放不变的性质,利用关键点邻域像素的梯度方向分布特性,可以为每个关键点指定方向参数,从而使描述子对图像旋转具有不变性。像素点的梯度表示为:
梯度幅值:
梯度方向:
式中,L为每个关键点所在的尺度空间。计算过程中,选取特征点周围邻域8×8个点的窗口,将其分成16个2×2的小块组成向量描述子,每一个描述子由2×2个8方向的方向直方图组成,分别计算每个描述子8个方向的直方图累加值,则每个特征点对应4×4×8=128维的向量。
2、改进的SIFT邻域特征双相匹配算法
提取参考图像和待配准图像的特征点后,进行参考图像和待配准图像特征点的匹配,将所提取出的特征点集合构成一颗K-D树(K-Dimensional Tree),然后利用BBF算法搜索最近邻域点。
本实施例将特征点表示为Si=[Xi,ri,θi,f(Xi,ri,θi)]T,其中Xi∈R2是特征点的坐标,ri是特征点的尺度大小,θi是特征点的梯度方向,f(Xi,ri,θi)是对应匹配特征点描述子。找到与目标特征点Xi拥有最相似尺度及梯度方向的1个邻近特征点,以及它们在对应图像中的匹配点。根据之前算法的匹配结果,对应的匹配点应该具有相同的描述子结构,即相同的尺度以及方向性,尽管图像间会发生平移、旋转等差异,但只要图像间没有发生强烈的扭曲,映射至对应图像时它们之间的空间方向及尺度大小应保持一定的相似性。最后利用同一幅图像中具有相似梯度分布的两特征点之间的位置关系,与其各自对应匹配特征点在另一幅图像中的位置对比,来排除误匹配点。
邻域特征匹配算法步骤如下:
步骤1:从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其ri(尺度),θi(梯度)最接近的特征点S2;
步骤2:连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;
步骤3:设定阈值角度为10°,考虑到不同拍摄角度引起的误差,如果计算后匹配点的角度差在阈值之内,则判定匹配成功,保留匹配点,否则认为其为误匹配候选点,利用同样的方法计算与其次邻近点的角度,如果还是同样的结果,则判断该点是错误的匹配点;
步骤4:重复步骤1、2、3,直到遍历完图像中所有匹配特征点。
通过上述步骤能有效利用邻域的特征点位置关系来进行特征点的匹配,并且可以消除一定误匹配。
本实施例对配准图像中的特征点进行上述单向匹配后,再对配准图像中的同名匹配点进行同阈值的逆向匹配,只保留双向匹配均为相同对应双方的特征点对,将剩余特征点删除掉。这样做的目的是:在第一次匹配后,经常会出现参考图像中多个点与待配准图像中同一个点匹配,而在逆向匹配后,可以找到唯一对应的同名点,从而有效地排除其他错误的匹配,此外在对两幅分辨率相差较大的大幅遥感图像进行配准时,如果只用单向的匹配方法,因为分辨率的差异,高分辨率的图像中往往会提取出更多的SIFT特征点,并且特征点之间具有极大的相似性,当与分辨率较低图像提取的特征点匹配时会出现较多的多对一匹配以及误匹配,所以利用逆向的同阈值匹配,可以找到与之唯一对应的同名点,有效地消除误匹配及多对一匹配,解决不同分辨率大幅图像在配准时出现的问题。通过逆向匹配方法在保证正确匹配点对的同时,能有效删除多对一匹配及一些误匹配点。
3、建立精确变换矩阵
曲线拟合不要求严格对应所有数据点,但要求求得的变换模型尽量逼近匹配点的位置,误差值(残差)达到最小。最小二乘法原则是使公式(7)达到最小。
其中,δi是点i经过变换矩阵后与参考图像同名点的误差值(残差),是x图像上的点i拟合后的坐标,yi是y图像在点i上的坐标。
之后需要根据变换模型的未知数建立方程组求解,本实施例利用仿射变换模型,此模型需要三组对应特征点对的值来实现图像间的平移、缩放、旋转和错切等变化。公式(8)是仿射变换的矩阵表示形式:
其中,X、Y是点的原坐标,θ为旋转角度,x、y是点变换后的坐标。
为了确定本配准结果是否达到评价指标,在完成上述步骤后,本实施例利用均方根误差(RMSE)方法,计算出两幅图像重合区域特征点经过变换矩阵后的位置与待配准图像在重合区域的误差,有效地评价图像配准的精度以及变换模型的优劣,并计算出每个特征点对应坐标的残差值,删除掉这些残差值过大的匹配点后,再结合随机抽样一致性算法与最小二乘法拟合曲线重新拟合出变换矩阵,并对配准图像进行客观评价,如果评价指标达到客观评价要求,则认为符合标准,如果达不到要求,那么重复上述步骤,排除所有误差偏大的不稳定匹配点后,迭代出达到亚像素级配准精度的变换矩阵,最终得到效果最好的配准结果。
相比传统的SIFT算法及其改进算法,本实施例提供的配准方法将客观评价计算获得的参数与SIFT算法相结合,达到了优化变换矩阵的效果,在两幅配准图像存在不同旋转角度且重合区域较小的情况下,都能较好地配准,具有较高的配准精度。本实施例提供的配准方法对于配准图像间出现的平移、旋转、光照不同、分辨率大小不同时都可以达到亚像素级高精度配准,针对只有极少重合区域时的图像间的配准也可以达到亚像素级高精度配准,为后续的图像拼接等工作提供了良好的基础。
为了验证本发明实施例提供的配准方法的配准效果,进行了相关实验,选取不同地形的多幅多光谱图像进行了配准测试,主要选取了不同分辨率的城区、村落、公路、机场、山地的多光谱图像,较全面地测试了配准功能,并与ENVI软件及近年来几种经典配准算法进行了实验结果比较。
遥感图像处理平台ENVI(The Environment for Visualizing Images)是美国Exelis Visual Information Solutions公司的旗舰产品,它是由遥感领域的科学家采用交互式数据语言IDL(Interactive Data Language)开发的一套功能强大的遥感图像处理软件。ENVI软件主要采用SIFT与SURF结合的算法进行遥感图像配准。软件拥有几何校正、大气矫正、图像融合、掩膜和镶嵌等众多专业功能,并且提供了完备的数据分析工具如:创建图像统计资料,自相关系数和协方差,计算图像统计信息,如平均值、最小/最大值、标准差和提取线性特征等功能。
本发明与ENVI软件对同样两幅大幅面小重合区域的多光谱图像在不同旋转角度时的配准结果进行了详细数据对比,角度分别是36°、60°、90°、180°、275°,表1、2、3、4给出了实验结果。
表1 本发明对带有旋转角度图像的配准结果及评价指标
表2 ENVI软件对带有旋转角度图像的配准结果及评价指标
表3 本发明对平移且旋转图像的配准结果及评价指标
表4 ENVI软件对平移且旋转图像的配准结果及评价指标
在表1、表2的第一组试验中,选取了分辨率为2500×1800像素的大幅面多光谱城市图像,参考图像和待配准图像的重合区域为1800×50像素。ENVI在处理小区域重合并且带有旋转的大幅面遥感图像配准时,出现了过多的误匹配,最后导致配准结果均方根误差(RMSE)过大,其中只有在90°的时候勉强达到了像素级的精度,其他的情况下均因为过多的错误匹配导致结果不理想;而本发明先利用改进的SIFT双相匹配法以及RANSAC算法结合客观评价方法计算出并删除掉了引起配准误差的关键误匹配点,之后计算RMSE值都达到了亚像素级配准精度;在表3、表4中,在旋转90°的情况下加入了平移像素值,可以通过对比得知,ENVI在处理此种状况时配准精度均大于10像素,很难精确配准,而本发明算法在重合区域50×1000像素时还可以达到像素级配准,但之后随着重合区域的进一步缩小,因为无法提取足够多正确的匹配点,也无法达到精确度较高的配准,对比可以发现本发明在处理较小重合区域的图像配准时具有较好的效果。
表5列出了本发明方法与近年来几种经典算法在时间上的比较。可以看到,虽然本发明方法沿用了经典SIFT算法进行特征点提取,未能在特征点提取阶段节省时间,但是在保证高精度匹配的情况下,在匹配时间上还是有所减少。
表5 本发明方法与近年来几种经典算法的平均时间比较
需要说明的是:除利用本发明实施例提供的客观评价方法外,利用交叉熵的客观评价方法也能有效地评价参考图像和配准图像的配准精确程度。图像F和图像R的交叉熵可以定义为:
对于完成配准后的参考图像和配准图像,在重合区域相同的坐标系中,由于存在误差,其灰度信息会存在差异,这种差异的大小也体现了配准算法的好坏。求出配准图像与参考图像的差异,交叉熵越小,则该配准算法计算出的重合区域越准确。通过计算局部重合区域的交叉熵可以判定哪一部分的误差较大,从而根据其位置关系建立矫正模型,矫正后再次计算其交叉熵,当熵值满足阈值范围,则判定达到亚像素级配准。该方法利用灰度统计的方法可以计算出配准后图像间的误差,同样可以提供一定的位置信息来建立更精确的变换矩阵,达到精确配准的目的,但是相比本发明方法,在特征点误差的定位上无法提供有效的信息,工作量较大。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (4)
1.一种大幅面小重合区域高精度多光谱图像配准方法,其特征在于,包括:
对参考图像和待配准图像进行SIFT特征点提取;
对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像,具体包括:1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°;4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点;5)对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点;
利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵;
利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
2.根据权利要求1所述的一种大幅面小重合区域高精度多光谱图像配准方法,其特征在于,利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵,包括:
步骤1,计算重合区域全部N个内点P(x,y)在所述待配准图像中的匹配点Pi(xi,yi),与利用随机抽取一致性算法估计变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,逐点计算偏差值,排除引起数值偏大的不准确匹配点;所述RMSE的计算公式如下;
步骤2,利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复步骤1,直到RMSE小于1,获取精确变换矩阵。
3.一种大幅面小重合区域高精度多光谱图像配准装置,其特征在于,包括:
特征点提取模块,用于对参考图像和待配准图像进行SIFT特征点提取;
特征点匹配模块,用于对提取的特征点进行匹配,获取参考图像和待配准图像的重合区域,得到初步的配准图像;
初步变换矩阵估算模块,用于利用随机抽样一致性算法筛选的内点,与最小二乘法拟合曲线结合,估算出初步变换矩阵,具体包括:1)从图像中选择一点S1,遍历图像全部剩余特征点,计算出与其尺度ri、梯度θi最接近的特征点S2;2)连接S1与S2,并且同时连接各自对应的点f(S1)与f(S2),计算其各自连线与S1点和f(S1)梯度方向角度的差值θx;3)判断差值θx是否在预设阈值之内,当差值θx在预设阈值之内时,判定匹配成功,保留匹配点;否则,计算与其邻近点的角度θx,当θx未在预设阈值之内时,判定该点为错误的匹配点;其中,所述预设阈值为10°;4)重复步骤1)、2)、3),直到遍历完图像中所有匹配特征点;5)对待匹配图像中的同名匹配点进行同阈值的逆向匹配,保留双向匹配均为相同对应双方的特征点对,并删除剩余特征点;
精确变换矩阵获取模块,用于利用均方根误差对重合区域的特征点进行映射矩阵客观评价,筛除引起误差的误匹配点,迭代至配准图像精度达到亚像素级,获取精确变换矩阵。
4.根据权利要求3所述的一种大幅面小重合区域高精度多光谱图像配准装置,其特征在于,所述精确变换矩阵获取模块包括:
配准判定模块,用于计算重合区域全部N个内点P(x,y)在所述待配准图像中的匹配点Pi(xi,yi),与利用RANSAC算法估计变换矩阵相乘后的点Po(xp,yp)的均方根误差RMSE,当RMSE小于1时,判定配准成功;当RMSE大于或者等于1时,逐点计算偏差值,排除引起数值偏大的不准确匹配点;所述RMSE的计算公式如下;
迭代配准模块,用于利用随机抽样一致性算法将剩余的点重新构造内点,估算出变换矩阵,并重复所述配准判定模块的配准判定过程,直到RMSE小于1,获取精确变换矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510047728.4A CN104574421B (zh) | 2015-01-29 | 2015-01-29 | 一种大幅面小重合区域高精度多光谱图像配准方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510047728.4A CN104574421B (zh) | 2015-01-29 | 2015-01-29 | 一种大幅面小重合区域高精度多光谱图像配准方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104574421A CN104574421A (zh) | 2015-04-29 |
CN104574421B true CN104574421B (zh) | 2017-05-24 |
Family
ID=53090393
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510047728.4A Expired - Fee Related CN104574421B (zh) | 2015-01-29 | 2015-01-29 | 一种大幅面小重合区域高精度多光谱图像配准方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104574421B (zh) |
Families Citing this family (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105551058B (zh) * | 2016-02-02 | 2018-04-03 | 天津大学 | 一种结合surf特征提取和曲线拟合的柱面图像匹配方法 |
CN107154017A (zh) * | 2016-03-03 | 2017-09-12 | 重庆信科设计有限公司 | 一种基于sift特征点匹配的图像拼接方法 |
CN106709904A (zh) * | 2016-11-21 | 2017-05-24 | 天津大学 | 一种基于主动视觉的高值目标细微变化检测方法 |
CN106780339B (zh) * | 2016-12-27 | 2019-02-05 | 上海集成电路研发中心有限公司 | 一种解决通道间亮度不一致的方法 |
CN107240127A (zh) * | 2017-04-19 | 2017-10-10 | 中国航空无线电电子研究所 | 基于特征点映射的图像配准评估方法 |
CN107194959A (zh) * | 2017-04-25 | 2017-09-22 | 北京海致网聚信息技术有限公司 | 基于切片进行图像配准的方法和装置 |
CN108876842A (zh) * | 2018-04-20 | 2018-11-23 | 苏州大学 | 一种亚像素边缘角度的测量方法、系统、设备及存储介质 |
CN108615223A (zh) * | 2018-05-08 | 2018-10-02 | 南京齿贝犀科技有限公司 | 基于局部优化算法的牙齿唇颊侧全景图像拼接方法 |
EP3788590A4 (en) | 2018-06-04 | 2021-09-01 | Shanghai United Imaging Healthcare Co., Ltd. | DEVICES, SYSTEMS AND METHODS FOR IMAGE STITCHING |
CN108983769B (zh) * | 2018-06-22 | 2022-06-21 | 理光软件研究所(北京)有限公司 | 即时定位与地图构建的优化方法及装置 |
CN109472752B (zh) * | 2018-10-30 | 2022-05-03 | 北京工业大学 | 基于航拍图像的多曝光融合系统 |
CN109934860B (zh) * | 2019-03-21 | 2022-10-18 | 大连海事大学 | 一种基于sift-flann与误匹配点剔除的图像配准方法 |
CN109961393A (zh) * | 2019-03-21 | 2019-07-02 | 北京理工大学 | 基于插值和迭代优化算法的亚像素配准与拼接技术 |
CN110458875B (zh) * | 2019-07-30 | 2021-06-15 | 广州市百果园信息技术有限公司 | 异常点对的检测方法、图像拼接方法、相应装置及设备 |
CN110675388B (zh) * | 2019-09-27 | 2024-02-02 | 沈阳派得林科技有限责任公司 | 一种焊缝图像相似性比较方法 |
CN110930323B (zh) * | 2019-11-07 | 2023-09-12 | 华为技术有限公司 | 图像去反光的方法、装置 |
CN111639662A (zh) * | 2019-12-23 | 2020-09-08 | 珠海大横琴科技发展有限公司 | 一种遥感图像双向匹配方法、装置、电子设备及存储介质 |
CN113033590A (zh) * | 2019-12-25 | 2021-06-25 | 杭州海康机器人技术有限公司 | 图像特征匹配方法、装置、图像处理设备及存储介质 |
CN111354026B (zh) * | 2020-02-27 | 2022-10-21 | 广州运达智能科技有限公司 | 一种基于surf特征的改进列车图像精确配准方法和系统 |
CN111932593B (zh) * | 2020-07-21 | 2024-04-09 | 湖南中联重科智能技术有限公司 | 基于触摸屏手势校正的图像配准方法、系统及设备 |
CN111681271B (zh) * | 2020-08-11 | 2020-10-30 | 湖南大学 | 一种多通道多光谱相机配准方法、系统及介质 |
CN112184554B (zh) * | 2020-10-13 | 2022-08-23 | 重庆邮电大学 | 一种基于残差混合膨胀卷积的遥感图像融合方法 |
CN112348105B (zh) * | 2020-11-17 | 2023-09-01 | 贵州省环境工程评估中心 | 一种无人机图像匹配优化方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103822616A (zh) * | 2014-03-18 | 2014-05-28 | 武汉大学 | 一种图分割与地形起伏约束相结合的遥感影像匹配方法 |
CN104021556A (zh) * | 2014-06-13 | 2014-09-03 | 西南交通大学 | 一种基于几何结构相似性的异源遥感影像配准方法 |
CN104200461A (zh) * | 2014-08-04 | 2014-12-10 | 西安电子科技大学 | 基于互信息图像选块和sift特征的遥感图像配准方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9710730B2 (en) * | 2011-02-11 | 2017-07-18 | Microsoft Technology Licensing, Llc | Image registration |
US8532402B2 (en) * | 2011-06-22 | 2013-09-10 | The Boeing Company | Image registration |
-
2015
- 2015-01-29 CN CN201510047728.4A patent/CN104574421B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103822616A (zh) * | 2014-03-18 | 2014-05-28 | 武汉大学 | 一种图分割与地形起伏约束相结合的遥感影像匹配方法 |
CN104021556A (zh) * | 2014-06-13 | 2014-09-03 | 西南交通大学 | 一种基于几何结构相似性的异源遥感影像配准方法 |
CN104200461A (zh) * | 2014-08-04 | 2014-12-10 | 西安电子科技大学 | 基于互信息图像选块和sift特征的遥感图像配准方法 |
Non-Patent Citations (1)
Title |
---|
基于改进SIFT的图像拼接算法;郭文静等;《工业控制计算机》;20141130;第27卷(第11期);第17-19页 * |
Also Published As
Publication number | Publication date |
---|---|
CN104574421A (zh) | 2015-04-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104574421B (zh) | 一种大幅面小重合区域高精度多光谱图像配准方法及装置 | |
Ye et al. | A local descriptor based registration method for multispectral remote sensing images with non-linear intensity differences | |
CN109615611B (zh) | 一种基于巡检影像的绝缘子自爆缺陷检测方法 | |
CN104318548B (zh) | 一种基于空间稀疏度和sift特征提取的快速图像配准实现方法 | |
Awrangjeb et al. | Automatic detection of residential buildings using LIDAR data and multispectral imagery | |
Chen et al. | Building change detection with RGB-D map generated from UAV images | |
Ma et al. | Fully automatic subpixel image registration of multiangle CHRIS/Proba data | |
Zhu et al. | Detection of large-scale concrete columns for automated bridge inspection | |
Awrangjeb et al. | Building detection in complex scenes thorough effective separation of buildings from trees | |
Wang et al. | Recognition and location of the internal corners of planar checkerboard calibration pattern image | |
CN102236798B (zh) | 一种图像匹配方法及其装置 | |
Bacher et al. | Automatic road extraction from multispectral high resolution satellite images | |
CN105354841B (zh) | 一种快速遥感影像匹配方法及系统 | |
CN107424161B (zh) | 一种由粗至精的室内场景图像布局估计方法 | |
CN103839265A (zh) | 基于sift和归一化互信息的sar图像配准方法 | |
CN107492107B (zh) | 基于平面与空间信息融合的物体识别与重建方法 | |
CN104899834A (zh) | 基于sift算法的模糊图像识别方法及装置 | |
CN108763575B (zh) | 基于像控点数据库的像控点自动选取方法 | |
JP2020148625A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラム | |
CN107862319A (zh) | 一种基于邻域投票的异源高分光学影像匹配误差剔除方法 | |
CN113689445A (zh) | 结合语义分割与边缘检测的高分辨率遥感建筑物提取方法 | |
Wang | Automatic extraction of building outline from high resolution aerial imagery | |
CN104966283A (zh) | 图像分层配准方法 | |
CN104820992B (zh) | 一种基于超图模型的遥感图像语义相似性度量方法及装置 | |
Adu-Gyamfi et al. | Functional evaluation of pavement condition using a complete vision system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170524 Termination date: 20180129 |