CN109961399B - 基于图像距离变换的最佳缝合线搜寻方法 - Google Patents
基于图像距离变换的最佳缝合线搜寻方法 Download PDFInfo
- Publication number
- CN109961399B CN109961399B CN201910198989.4A CN201910198989A CN109961399B CN 109961399 B CN109961399 B CN 109961399B CN 201910198989 A CN201910198989 A CN 201910198989A CN 109961399 B CN109961399 B CN 109961399B
- Authority
- CN
- China
- Prior art keywords
- image
- mask
- value
- warp
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000009466 transformation Effects 0.000 title claims abstract description 50
- 238000000034 method Methods 0.000 title claims abstract description 47
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 28
- 239000011159 matrix material Substances 0.000 claims abstract description 27
- 238000007670 refining Methods 0.000 claims abstract description 4
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 5
- 101100269850 Caenorhabditis elegans mask-1 gene Proteins 0.000 claims description 4
- 101100332287 Dictyostelium discoideum dst2 gene Proteins 0.000 claims description 3
- 230000004927 fusion Effects 0.000 abstract description 5
- 238000007499 fusion processing Methods 0.000 abstract 1
- 230000007704 transition Effects 0.000 abstract 1
- 238000004088 simulation Methods 0.000 description 6
- 230000007547 defect Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000007500 overflow downdraw method Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于距离变换的最佳缝合线搜寻方法,主要解决现有技术在图像融合过程中易出现鬼影的问题。其实现方案是:1)使用SIFT算法检测每幅图像的特征点以及描述符;2)对检测到的特征点进行配对;3)求取配对点的单应性矩阵H;4)从单应性矩阵H得到相机内外参数以及通过光束法平差算法精细化相机内外参数;5)通过相机内外参得到投影变换图像,对投影变换图像进行距离变换得到最佳缝合线;6)在最佳缝合线两侧对两幅投影变换图像使用多分辨率融合算法进行融合,得到拼接图像。本发明利基于距离原则,能找到最佳缝合线,拼接图像重叠部分过渡自然,占用资源少,运行速度快,可应用于航拍图像、智能手机拍摄的全景图像拼接。
Description
技术领域
本发明属于图像处理技术领域,更进一步涉及一种最佳缝合线搜寻方法,可应用于航拍图像、智能手机拍摄的全景图像拼接。
背景技术
图像拼接主要目的是将含有重叠区域的统一场景的两幅或者多幅图像拼接为一幅具有高分辨率的图像。而在图像获取时,由于受拍摄时间、环境变换等因素影响,待拼接图像重叠部分常常会存在亮度差异,若直接将重叠部分的两幅图像中的第二幅图像叠加到第一幅图像,将会产生明显的缝合线,该缝合线是指图像配准之后,拼接图像在重叠区域内,根据肉眼观察可以明显地将两幅图像区分开的分界线,该分界线将严重影响整体图像的视觉效果。最佳缝合线搜寻就是采用某个策略搜索到重叠部分最相似像素的连线,最佳缝合线左侧的像素属于左边图像,而右侧的像素属于右边图像,得到在缝合线处过度自然的拼接图像。
最佳缝合线策略是计算机视觉在运动场景中应用十分广泛的一种有效分割运动物体的方法,其原理是将两幅图的重叠区域分成两部分,根据某种相似性准则来寻找符合最优条件的缝合线,避免产生鬼影等问题。
目前国内外在图像拼接过程中的最佳缝合线搜寻已经有了多种方法,逐渐形成了完成、使用、科学的检测体系、方法和标准,但是目前这些方法还存在算法复杂度高、计算速度较慢等缺点。
罗永涛在其发表的论文“结合最佳缝合线和改进渐入渐出的图像拼接算法”(红外技术,2018年第04期)中使用了基于动态规划思想的最佳缝合线搜寻方法,其动态规划求解最佳缝合线的准则如下:
式中Ecolor(x,y)表示图像颜色差异强度值;Egeometry(x,y)表示图像结构差异强度值。其中,Egeometry(x,y)的求解公式为:
Egeometry(x,y)=[Sx(I1(x,y)-I2(x,y)]2+[Sy(I1(x,y)-I2(x,y)]2 (2)
式中:Sx和Sy分别表示3×3的Sobel算子在x和y方向的模板。
动态规划求解最佳缝合线的具体步骤为:1)在重叠区域,从第1行起,计算该行每个像素点为起始点的缝合线,将其标准值作为强度值,列值作为缝合线的当前点;2)确定缝合线的扩展方向;3)若缝合线当前点为重叠图像的最后一行的点,则进行步骤4),否则返回步骤2),继续进行下一次扩展;4)在所有缝合线中,准则值最小的即为最佳缝合线。用该动态规划法得到缝合线的接缝线有两个限制条件:一是要提前计算重叠区域的宽高比,如果宽大于高,则接缝线是横向走向的,反之是纵向走向的;二是重叠区域必须是矩形,接缝线从矩形的一边出发,必须到达与该边平行的另一边结束。但是由于拍摄原因,获取的相邻图像的重叠区域不一定为矩形,而且动态规划法的复杂度相对较高,差异强度值计算量过大,耗费时间较长。
秦绪佳在其发表的论文“基于最佳缝合线的序列遥感图像拼接融合方法”(计算机科学,2015年第10期)中采用了图切割方法搜索最佳缝合线。图切割法是利用优化理论中最大流最小割定理。求解最佳缝合线的过程就是在两幅图像重叠部分中找出像素灰度值之差最小的那组点,然后通过计算对赋予权值以实现图的最小割。这类算法是将图论知识应用到寻找最佳缝合线,虽然其找到的最佳缝合线比较正确,但是其最大流最小割的计算复杂度比上述的动态规划法还要高,且耗时长。
发明内容
本发明的目的在于克服上述已有技术的不足,提出一种基于图像距离变换的最佳缝合线搜寻方法,以降低最佳缝合线搜寻的复杂度,大幅减少多幅图像拼接时在寻找最佳缝合线上耗费的时间。
实现本发明的基本思路是:通过相机拍摄多幅图像,对每幅图像使用SIFT算法提取特征点并计算特征描述子,通过对特征描述子进行配对,获取相邻图像间的单应性矩阵,通过单应性矩阵找到相邻图像重合的区域,对重合区域进行最佳缝合线搜寻方法,得到一幅过度自然的拼接图像。
根据上述思路,本发明的实现步骤包括如下:
(1)计算机读取图像,并对其进行依次灰度化和高斯滤波的预处理,得到平滑图像;
(2)使用SIFT算法检测平滑图像中的特征点以及描述符;
(3)对检测到的特征点使用K-D树进行匹配,得到匹配点对;
(4)使用RANSAC算法求取匹配点对的单应性矩阵H;
(5)利用单应性矩阵H计算出相机的内参数K与外参数R;然后通过光束法平差算法对相机的内参数K与外参数R进行精细化处理;
(6)记两幅原图像为img1和img2,其掩码图像为mask1和mask2,分别对原图像和掩码图像进行投影变换,得到两幅原图变换图像img1_warp、img2_warp,和两幅掩码变换图像mask1_warp、mask2_warp;
(7)搜索最佳缝合线;
(7a)获得第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域;
(7b)根据重合区域的像素点个数,重新建立两幅大小相同的掩码图像submask1-1和submask2-1,使这两幅掩码图像的宽和高均比重合区域多出10个像素;
(7c)遍历重合区域,获得重合区域相对于第一幅原图变换图像img1_warp的坐标(x1,y1)和第二幅原图变换图像img2_warp的坐标(x2,y2),并对这两个坐标(x1,y1)和(x2,y2)进行判断:
如果(x1,y1)均大于0,且分别小于第一幅原图变换图像img1_warp的宽和高,则将第一幅掩码变换图像mask1_warp在(x1,y1)的值赋给第一幅重建掩码图像submask1-1,否则,将第一幅重建掩码图像submask1-1赋值为0,得到赋值后的重建掩码图像submask1-2;
如果(x2,y2)均大于0,且分别小于第二幅原图变换图像img2_warp的宽和高,则将第二幅掩码变换图像mask2_warp在(x2,y2)的值赋给第二幅重建掩码图像submask2-1,否则,将第二幅重建掩码图像submask2-1赋值为0,得到赋值后的重建掩码图像submask2-2;
(7d)对赋值后第一幅重建掩码图像submask1-2和赋值后第二幅重建掩码图像submask2-2取交集,得到collision图像,遍历collision图像,得到collision图像像素值为255的区域,并将第一幅重建掩码图像submask1-2和第二幅重建掩码图像submask2-2区域内的值赋为0,分别得到第一幅赋值后的重建掩码图像submask1-3和第二幅赋值后的重建掩码图像submask2-3;
(7e)分别对两幅赋值后的重建掩码图像submask1-3和submask2-3使用距离变换,得到这两幅图像的距离图像dist1和dist2,遍历距离图像,并对其进行比较:
如果第一幅距离图像dist1的像素值小于第二幅距离图像dist2的像素值,则将第二幅掩码变换图像mask2_warp的值赋为0,得到第二幅赋值后的掩码变换图像mask2_warp`;
如果第一幅距离图像dist1的像素值大于第二幅距离图像dist2的像素值,则将第一幅掩码变换图像mask1_warp的值赋为0,得第一幅到赋值后的掩码变换图像mask1_warp`;
在第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域,寻找第一幅赋值后的掩码变换图像mask1_warp`像素值从0变化到1的曲线,该曲线即为最佳缝合线。
本发明与现有技术相比,具有如下优点:
第一,本发明在图像预处理部分采用了高斯滤波法和灰度转化法相结合的方法,克服了现有技术中图像预处理对于图像特征点显示不清的缺点,同时减少了待处理图像数据量,提高了图像处理速度。
第二,本发明采用了距离变换算法,基于距离准则,在两幅图像重合区域内,准确地搜寻最佳缝合线,有效地消除了拼接图像中重影的问题,能够以较低的复杂度对相邻两幅图像进行最佳缝合线搜寻,克服了现有技术,如动态规划法和图割法复杂度高的缺点,具有处理速度快、缝合线搜寻准确的优点。
附图说明
图1为本发明的实现流程图。
图2为本发明仿真中使用的第一幅实验图像。
图3为本发明仿真中使用的第二幅实验图像。
图4为用本发明对图2和图3进行基于距离变换最佳缝合线搜寻的拼接图。
图5为不使用最佳缝合线搜寻直接使用图像融合的拼接图。
图6为图5的局部放大图。
图7为使用图割法最佳缝合线搜寻的拼接图。
图8为图7的局部放大图。
图9为使用动态规划法最佳缝合线搜寻的拼接图。
图10为图9的局部放大图。
具体实施方式
以下结合附图,对本实施例及技术效果做进一步详细描述。
步骤1,读取图像,并对其进行预处理。
(1a)计算机采集卡从数字摄像机采集的待检测的图像,按照如下公式对其进行灰度化处理:
gray(x,y)=0.30R(x,y)+0.59G(x,y)+0.11B(x,y)
其中,gray(x,y)表示坐标为(x,y)的像素点的灰度值,R(x,y)表示坐标为(x,y)的像素点的红色分量值,G(x,y)表示坐标为(x,y)的像素点的绿色分量值,B(x,y)表示坐标为(x,y)的像素点的蓝色分量值;
(1b)对灰度化处理后的待检测图像,按照高斯滤波公式进行高斯滤波得到平滑图像:
其中,P2(i,j)表示平滑图像中第i行,第j列的像素点的值,P1(w,t)表示灰度图像中第w行,第t列的像素点的值,i,j分别与w,t对应相等,*表示卷积运算,[·]表示高斯核矩阵。
步骤2,检测平滑图像中的特征点以及描述符。
现有图像特征点检测算法包括:SIFT算法、SURF算法、ORB算法、KAZE算法和AKAZE算法,本步骤采用但不限于SIFT算法,其实现步骤如下:
(2a)在图像的全部尺度和全部位置上进行搜索,并通过应用高斯差分函数有效地识别出尺度不变性和旋转不变性的候选特征点;
(2b)在每个候选特征点上,通过泰勒展开式拟合出一个精细的模型用于确定特性点的位置和尺度,得到特征点;
(2c)基于特征点邻域的局部梯度方向,为每个特性点分配一个或多个方向角度;
(2d)在所选定的尺度空间内,测量特征点邻域的局部梯度幅值,并将这些梯度幅值转换成一种允许局部较大程度的形状变形和亮度变化的128维特征描述符。
步骤3,对检测到的特征点使用K-D树进行匹配,得到匹配点对。
(3a)分别对第一幅图像和第二幅图像的所有特征点建立K-D树;
(3b)使用局部敏感哈希算法在K-D树上,查找两幅图像中特征点最相近的匹配对。
步骤4,使用RANSAC算法求取匹配点对的单应性矩阵H。
(4a)随机抽取4个匹配点对,且同一幅图像中任意3个点不共线,使用归一化直接线性变换计算出临时单应矩阵H`;
(4b)由临时单应矩阵H`,根据重映射误差方法剔除误匹配的匹配点对,得到正确的匹配点对;
(4c)对所有正确匹配点对使用最小二乘法计算出得到最终的单应性矩阵H。
步骤5,计算并精细化相机的内参数K与外参数R。
(5a)利用单应性矩阵H计算出相机的内参数K与外参数R:
(5a1)由小孔成像原理以及相机数学模型,可得到第一幅图像和第二幅图像之间的单应性矩阵H21:
H21=K2R2R1 -1K1 -1=K2R21K1 -1 <1>
其中,K1、R1为分别第一幅图像所代表的相机内、外参数,K2、R2分别为第二幅图像所代表的相机内、外参数,R21为第二图图像到第一幅图像的相对旋转矩阵。
(5a2)通过旋转矩阵R的正交性质,求得相机的内参数K和外参数R:
求得第一幅图像的相机内参数为:
求得第二幅图像的相机内参数为:
将式<1>表示为:
其中,f1为第一幅图像相机的焦距,f2为第二幅图像相机的焦距;hi为单应性矩阵H中第i个值,i=1-9,rnm为旋转矩阵R中的值,n=1-3,m=1-3;
由于R21是正交的,因此有:
由式<5>可得:
由式<7>可得:
比较式<7>和式<8>分母部分绝对值的大小,如果式<7>的分母大,则再比较式<7>和式<8>分式的大小,选择分式大的值开根号作为f1;如果式<8>的分母大,则再比较式<7>和式<8>分式的大小,选择分式小的值开根号作为f1;
同理可得:
由式<9>可得:
由式<10>可得:
比较式<11>和式<12>分母部分绝对值的大小,如果式<11>的分母大,则再比较式<11>和式<12>分式的大小,选择分式大的值开根号作为f2;如果式<12>的分母大,则再比较式<11>和式<12>分式的大小,选择分式小的值开根号作为f2;
将求得的f1和f2分别带入式<2>和式<3>,得到相机的内参数K1和K2,由式<1>可得:
R21=R2R1 -1=K2 -1H21K1 <13>
则得到由图像1到图像2的相对旋转矩阵R12为:
由式<14>得到第二幅图像的旋转矩阵R2:
R2=R21R1 <15>
由于旋转矩阵是相对量,所以第一幅图像的旋转矩阵R1是单位矩阵;
(5b)通过光束法平差算法对相机的内参数K与外参数R进行精细化处理,即先根据光束法平差算法得到关于相机内参数K与外参数R的重投影误差矩阵e(h),再使用LM算法对误差矩阵进行优化e(h),得到精细化的相机内参数K`和外参数R`。
步骤6,根据精细化的相机内参数K`与外参数R`对图像进行投影变换。
(6a)记两幅原图像为img1和img2,其掩码图像为mask1和mask2;
(6b)对两幅原图像img1和img2进行平面投影变换,得到两幅原图变换图像img1_warp、img2_warp;
(6c)对两幅掩码图像mask1和mask2进行平面投影变换,得到两幅掩码变换图像mask1_warp、mask2_warp。
步骤7,搜索最佳缝合线。
(7a)获得第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域;
(7b)根据重合区域的像素点个数,重新建立两幅大小相同的掩码图像submask1-1和submask2-1,使这两幅掩码图像的宽和高均比重合区域多出10个像素;
(7c)遍历重合区域,获得重合区域相对于第一幅原图变换图像img1_warp的坐标(x1,y1)和第二幅原图变换图像img2_warp的坐标(x2,y2),并对这两个坐标(x1,y1)和(x2,y2)进行判断:
如果(x1,y1)均大于0,且分别小于第一幅原图变换图像img1_warp的宽和高,则将第一幅掩码变换图像mask1_warp在(x1,y1)的值赋给第一幅重建掩码图像submask1-1,否则,将第一幅重建掩码图像submask1-1赋值为0,得到赋值后的重建掩码图像submask1-2;
如果(x2,y2)均大于0,且分别小于第二幅原图变换图像img2_warp的宽和高,则将第二幅掩码变换图像mask2_warp在(x2,y2)的值赋给第二幅重建掩码图像submask2-1,否则,将第二幅重建掩码图像submask2-1赋值为0,得到赋值后的重建掩码图像submask2-2;
(7d)对赋值后第一幅重建掩码图像submask1-2和赋值后第二幅重建掩码图像submask2-2取交集,得到collision图像;
(7e)遍历collision图像,得到collision图像像素值为255的区域,并将第一幅重建掩码图像submask1-2和第二幅重建掩码图像submask2-2区域内的值赋为0,分别得到第一幅赋值后的重建掩码图像submask1-3和第二幅赋值后的重建掩码图像submask2-3;
(7f)分别对两幅赋值后的重建掩码图像submask1-3和submask2-3使用距离变换:
(7f1)建立一幅宽和高分别比第一幅赋值后的重建掩码图像submask1-3的宽和高大2个像素的临时图像tempMat,建立一幅大小与第一幅赋值后的重建掩码图像submask1-3相同的距离结果图像dst1;
(7f2)给临时图像tempMat的第一行和最后一行的像素值赋值为无穷大;
(7f3)从第一幅赋值后的重建掩码图像submask1-3左上角第一个像素开始,按行向下遍历,对临时图像tempMat所在该行的第一列和最后一列像素值赋值为无穷大,然后,按列向右遍历:
如果在当前坐标(i,j)第一幅赋值后的重建掩码图像submask1-3的像素值为0,则对临时图像tempMat当前坐标(i,j)的像素值赋值为0;
如果第一幅赋值后的重建掩码图像submask1-3在当前坐标(i,j)的像素值不为0,则在临时图像tempMat中,依次取当前坐标(i,j)左上角像素点(i-1,j-1)的值加上2,记为a,右上角像素点(i-1,j+1)的值加上2,记为b,上边像素点(i-1,j)的值加上1,记为c,左边像素点(i,j-1)的值加上1,记为d,执行(7f4);
(7f4)比较a,b,c,d这四个值,并得到最小值min1,并且将临时图像tempMat在(i,j)的像素值赋值为最小值min1;
(7f5)从第一幅赋值后的重建掩码图像submask1-3右下角第一个像素开始,先按行向上遍历,再按列向左遍历:
将当前坐标(i,j)临时图像tempMat的像素值赋值给一个临时变量t0;
如果t0大于1,则依次取当前坐标(i,j)临时图像tempMat右下角像素点(i+1,j+1)的值加上2,记为w,左下角像素点(i+1,j-1)的值加上2,记为x,下边像素点(i+1,j)的值加上1,记为y,右边像素点(i,j+1)的值加上1,记为z,执行(7f6);
如果t0不大于1,继续遍历;
(7f6)比较w,x,y,z这四个值并得出最小值min2,并且将临时图像tempMat和距离结果图像dst1在(i,j)的像素值赋值为最小值min2,得到第一幅赋值后的重建掩码图像submask1-3的距离图像dst1;
(7f7)依据步骤(7f1)至(7f6)所述方法,得到第二幅赋值后的重建掩码图像submask2-3经过距离变换的距离图像dst2;
(7g)遍历这两个距离图像dst1和dst2,并对其进行比较:
如果第一幅距离图像dist1的像素值小于第二幅距离图像dist2的像素值,则将第二幅掩码变换图像mask2_warp的值赋为0,得到第二幅赋值后的掩码变换图像mask2_warp`;
如果第一幅距离图像dist1的像素值大于第二幅距离图像dist2的像素值,则将第一幅掩码变换图像mask1_warp的值赋为0,得第一幅到赋值后的掩码变换图像mask1_warp`;
在第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域,寻找第一幅赋值后的掩码变换图像mask1_warp`像素值从0变化到1的曲线,该曲线即为最佳缝合线。
步骤8,使用多频段融合算法,融合最佳缝合线两侧原图变换图像img1_warp和原图变换图像img2_warp的像素,形成拼接图。
本发明的效果可通过以下仿真进一步说明。
1.仿真条件:
本发明的仿真实验是在CPU主频为2.6GHz的Intel i5-3230M CPU、内存为12GB的硬件环境和Visual Studio 2015的软件环境下进行的。
2.仿真内容:
用本发明方法对图2和图3所示为两幅实验图像,搜寻最佳缝合线,这两幅实验图像大约重合30%。再按搜寻的最佳缝合线利用距离变换将图2和图3进行拼接,结果如图4。其中白色线条为最佳缝合线。
图4可见,按其最佳缝合线对两幅图像重合区域使用多分辨率融合,有效地消除了鬼影问题,得到过渡平滑的拼接图。
由图6可见,不使用最佳缝合线搜寻方法而直接融合图像,在重合区域出现了严重的鬼影问题,造成图像模糊,影响视觉效果。
由图8和图10可见,图割法和动态规划法寻找的最佳缝合线存在问题,造成拼接后局部图像缺失。
仿真3,用背景技术中的两种方法和本发明分别4组图像进行最佳缝合线搜寻、拼接图像,并对这三种方法所得拼接图像的信息熵,以及在最佳缝合线搜寻时的处理时间进行对比。
其中,图像信息熵的定义为:
式中,p代表的是图像中灰度值为i的概率,也就是i的灰度频率,L为图像中不同灰度值的数量。信息熵的值越大说明图像中的信息量越多,图像融合的效果也就越好。
最终结果见表1。
表1对比验证结果一览表
从表1可见,本发明现有比动态规划法和图割法在最佳缝合线搜寻处理中用时更少,而且拼接图像的信息熵接近,说明这三种方法最终得到拼接图像的信息量相近。
以上所述仅是本发明的一个具体实例,并未构成对本发明的任何限制,显然对于本领域的专业人员来说,在了解了本发明内容和原理后,都可能在不背离本发明原理、结构的情况下,进行形式和细节上的各种修改和改变,但是这些基于本发明思想的修正和改变仍在本发明的权利要求保护范围之内。
Claims (5)
1.一种基于图像距离变换的最佳缝合线搜寻方法,其特征在于,包括如下:
(1)计算机读取图像,并对其进行依次灰度化和高斯滤波的预处理,得到平滑图像;
(2)使用SIFT算法检测平滑图像中的特征点以及描述符;
(3)对检测到的特征点使用K-D树进行匹配,得到匹配点对;
(4)使用RANSAC算法求取匹配点对的单应性矩阵H;
(5)利用单应性矩阵H计算出相机的内参数K与外参数R;然后通过光束法平差算法对相机的内参数K与外参数R进行精细化处理;
(6)记两幅原图像为img1和img2,其掩码图像为mask1和mask2,分别对原图像和掩码图像进行投影变换,得到两幅原图变换图像img1_warp、img2_warp,和两幅掩码变换图像mask1_warp、mask2_warp;
(7)搜索最佳缝合线;
(7a)获得第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域;
(7b)根据重合区域的像素点个数,重新建立两幅大小相同的掩码图像submask1-1和submask2-1,使这两幅掩码图像的宽和高均比重合区域多出10个像素;
(7c)遍历重合区域,获得重合区域相对于第一幅原图变换图像img1_warp的坐标(x1,y1)和第二幅原图变换图像img2_warp的坐标(x2,y2),并对这两个坐标(x1,y1)和(x2,y2)进行判断:
如果(x1,y1)均大于0,且分别小于第一幅原图变换图像img1_warp的宽和高,则将第一幅掩码变换图像mask1_warp在(x1,y1)的值赋给第一幅重建掩码图像submask1-1,否则,将第一幅重建掩码图像submask1-1赋值为0,得到赋值后的重建掩码图像submask1-2;
如果(x2,y2)均大于0,且分别小于第二幅原图变换图像img2_warp的宽和高,则将第二幅掩码变换图像mask2_warp在(x2,y2)的值赋给第二幅重建掩码图像submask2-1,否则,将第二幅重建掩码图像submask2-1赋值为0,得到赋值后的重建掩码图像submask2-2;
(7d)对赋值后第一幅重建掩码图像submask1-2和赋值后第二幅重建掩码图像submask2-2取交集,得到collision图像,遍历collision图像,得到collision图像像素值为255的区域,并将第一幅重建掩码图像submask1-2和第二幅重建掩码图像submask2-2区域内的值赋为0,分别得到第一幅赋值后的重建掩码图像submask1-3和第二幅赋值后的重建掩码图像submask2-3;
(7e)分别对两幅赋值后的重建掩码图像submask1-3和submask2-3使用距离变换,得到这两幅图像的距离图像dist1和dist2,遍历距离图像,并对其进行比较:
如果第一幅距离图像dist1的像素值小于第二幅距离图像dist2的像素值,则将第二幅掩码变换图像mask2_warp的值赋为0,得到第二幅赋值后的掩码变换图像mask2_warp`;
如果第一幅距离图像dist1的像素值大于第二幅距离图像dist2的像素值,则将第一幅掩码变换图像mask1_warp的值赋为0,得第一幅到赋值后的掩码变换图像mask1_warp`;
在第一幅原图变换图像img1_warp和第二幅原图变换图像img2_warp的重合区域,寻找第一幅赋值后的掩码变换图像mask1_warp`像素值从0变化到1的曲线,该曲线即为最佳缝合线。
2.根据权利要求书1中所述的方法,其特征在于,所述(1)中对读取图像进行灰度化,其公式如下:
gray(x,y)=0.30R(x,y)+0.59G(x,y)+0.11B(x,y)
其中,gray(x,y)表示坐标为(x,y)的像素点的灰度值,R(x,y)表示坐标为(x,y)的像素点的红色分量值,G(x,y)表示坐标为(x,y)的像素点的绿色分量值,B(x,y)表示坐标为(x,y)的像素点的蓝色分量值。
4.根据权利要求书1中所述的方法,其特征在于,步骤(2)使用SIFT算法检测平滑图像中的特征点以及描述符,实现步骤如下:
(2a)在图像的全部尺度和全部位置上进行搜索,并通过应用高斯差分函数有效地识别出尺度不变性和旋转不变性的候选特征点;
(2b)在每个候选特征点上,通过泰勒展开式拟合出一个精细的模型用于确定特性点的位置和尺度,得到特征点;
(2c)基于特征点邻域的局部梯度方向,为每个特性点分配一个或多个方向角度;
(2d)在所选定的尺度空间内,测量特征点邻域的局部梯度幅值,将这些梯度幅值转换成一种允许局部较大程度的形状变形和亮度变化的描述符。
5.根据权利要求书1中所述的方法,其特征在于,步骤(7e)中对两幅赋值后的重建掩码图像submask1-3和submask2-3使用距离变换,得到这两幅图像的距离图像,实现步骤如下:
(7e1)建立一幅宽和高分别比第一幅赋值后的重建掩码图像submask1-3的宽和高大2个像素的临时图像tempMat,建立一幅大小与第一幅赋值后的重建掩码图像submask1-3相同的距离结果图像dst1;
(7e2)将临时图像tempMat的第一行和最后一行的像素值赋值为无穷大;
(7e3)从第一幅赋值后的重建掩码图像submask1-3左上角第一个像素开始,按行向下遍历,对临时图像tempMat所在该行的第一列和最后一列像素值赋值为无穷大,然后,按列向右遍历;
如果在当前坐标(i,j)第一幅赋值后的重建掩码图像submask1-3的像素值为0,则对临时图像tempMat当前坐标(i,j)的像素值赋值为0;
如果第一幅赋值后的重建掩码图像submask1-3在当前坐标(i,j)的像素值不为0,则在临时图像tempMat中,依次取当前坐标(i,j)左上角像素点(i-1,j-1)的值加上2,记为a,右上角像素点(i-1,j+1)的值加上2,记为b,上边像素点(i-1,j)的值加上1,记为c,左边像素点(i,j-1)的值加上1,记为d,执行(7e4);
(7e4)比较a,b,c,d这四个值,并得到最小值min1,并且将临时图像tempMat在(i,j)的像素值赋值为最小值min1;
(7e5)从第一幅赋值后的重建掩码图像submask1-3右下角第一个像素开始,先按行向上遍历,再按列向左遍历:
将当前坐标(i,j)临时图像tempMat的像素值赋值给一个临时变量t0;
如果t0大于1,则依次取当前坐标(i,j)临时图像tempMat右下角像素点(i+1,j+1)的值加上2,记为w,左下角像素点(i+1,j-1)的值加上2,记为x,下边像素点(i+1,j)的值加上1,记为y,右边像素点(i,j+1)的值加上1,记为z,执行(7e6);
如果t0不大于1,继续遍历;
(7e6)比较w,x,y,z这四个值并得出最小值min2,并且将临时图像tempMat和距离结果图像dst1在(i,j)的像素值赋值为最小值min2,得到第一幅赋值后的重建掩码图像submask1-3的距离结果图像dst1;
(7e7)依据上述方法,得到第二幅赋值后的重建掩码图像submask2-3经过距离变换的距离结果图像dst2。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910198989.4A CN109961399B (zh) | 2019-03-15 | 2019-03-15 | 基于图像距离变换的最佳缝合线搜寻方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910198989.4A CN109961399B (zh) | 2019-03-15 | 2019-03-15 | 基于图像距离变换的最佳缝合线搜寻方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109961399A CN109961399A (zh) | 2019-07-02 |
CN109961399B true CN109961399B (zh) | 2022-12-06 |
Family
ID=67024353
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910198989.4A Active CN109961399B (zh) | 2019-03-15 | 2019-03-15 | 基于图像距离变换的最佳缝合线搜寻方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109961399B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111028155B (zh) * | 2019-12-17 | 2023-02-14 | 大连理工大学 | 一种基于多对双目相机的视差图像拼接方法 |
CN111738918A (zh) * | 2020-05-08 | 2020-10-02 | 普宙机器人科技(武汉)有限公司 | 一种基于无人机云端服务器计算的全景拼接方法和系统 |
CN112950468A (zh) * | 2021-02-01 | 2021-06-11 | 咪咕文化科技有限公司 | 图像拼接方法、电子设备及可读存储介质 |
CN112927213B (zh) * | 2021-03-11 | 2022-11-11 | 上海交通大学 | 一种医学图像分割方法、介质及电子设备 |
CN112907452A (zh) * | 2021-04-09 | 2021-06-04 | 长春理工大学 | 一种用于图像拼接的最佳缝合线搜寻方法 |
CN112991186B (zh) * | 2021-04-27 | 2021-07-27 | 湖南大学 | 一种无人机大视场高光谱图像生成方法及系统 |
CN115393196B (zh) * | 2022-10-25 | 2023-03-24 | 之江实验室 | 一种无人机面阵摆扫的红外多序列影像无缝拼接方法 |
CN117111879B (zh) * | 2023-10-25 | 2024-05-03 | 深圳市微克科技股份有限公司 | 一种表盘生成方法、装置、智能穿戴设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2221764A1 (en) * | 2009-02-20 | 2010-08-25 | Samsung Electronics Co., Ltd. | Method of creating a composite image |
WO2012058902A1 (zh) * | 2010-11-02 | 2012-05-10 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN107918927A (zh) * | 2017-11-30 | 2018-04-17 | 武汉理工大学 | 一种匹配策略融合及低误差的快速图像拼接方法 |
-
2019
- 2019-03-15 CN CN201910198989.4A patent/CN109961399B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2221764A1 (en) * | 2009-02-20 | 2010-08-25 | Samsung Electronics Co., Ltd. | Method of creating a composite image |
WO2012058902A1 (zh) * | 2010-11-02 | 2012-05-10 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN107918927A (zh) * | 2017-11-30 | 2018-04-17 | 武汉理工大学 | 一种匹配策略融合及低误差的快速图像拼接方法 |
Non-Patent Citations (1)
Title |
---|
一种基于线条特征的图像拼接算法;徐奕;《湖州师范学院学报》;20040430(第02期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109961399A (zh) | 2019-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109961399B (zh) | 基于图像距离变换的最佳缝合线搜寻方法 | |
CN109615611B (zh) | 一种基于巡检影像的绝缘子自爆缺陷检测方法 | |
CN105913093B (zh) | 一种用于文字识别处理的模板匹配方法 | |
CN110414507B (zh) | 车牌识别方法、装置、计算机设备和存储介质 | |
CN104376548B (zh) | 一种基于改进型surf算法的图像快速拼接方法 | |
CN107230203B (zh) | 基于人眼视觉注意机制的铸件缺陷识别方法 | |
CN106940876A (zh) | 一种基于surf的快速无人机航拍图像拼接算法 | |
CN110390640A (zh) | 基于模板的泊松融合图像拼接方法、系统、设备及介质 | |
Bonny et al. | Feature-based image stitching algorithms | |
CN111222395A (zh) | 目标检测方法、装置与电子设备 | |
CN107705288A (zh) | 伪目标运动强干扰下的危险气体泄漏红外视频检测方法 | |
CN103902953B (zh) | 一种屏幕检测系统及方法 | |
CN104933434A (zh) | 一种结合LBP特征提取和surf特征提取方法的图像匹配方法 | |
CN111192194B (zh) | 一种针对幕墙建筑立面的全景图像拼接方法 | |
CN111369605A (zh) | 一种基于边缘特征的红外与可见光图像的配准方法和系统 | |
CN111861866A (zh) | 一种变电站设备巡检图像全景重建方法 | |
CN113688846A (zh) | 物体尺寸识别方法、可读存储介质及物体尺寸识别系统 | |
Ji et al. | An evaluation of conventional and deep learning‐based image‐matching methods on diverse datasets | |
CN104715250B (zh) | 十字激光检测方法和装置 | |
CN113989604A (zh) | 基于端到端深度学习的轮胎dot信息识别方法 | |
Wang et al. | Deep learning-based human activity analysis for aerial images | |
CN110070490A (zh) | 图像拼接方法和装置 | |
CN108647680A (zh) | 图像定位框检测方法和装置 | |
CN114998980A (zh) | 一种虹膜检测方法、装置、电子设备及存储介质 | |
Dai et al. | An Improved ORB Feature Extraction Algorithm Based on Enhanced Image and Truncated Adaptive Threshold |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |