CN109859105A - 一种无参数影像自然拼接方法 - Google Patents

一种无参数影像自然拼接方法 Download PDF

Info

Publication number
CN109859105A
CN109859105A CN201910053008.7A CN201910053008A CN109859105A CN 109859105 A CN109859105 A CN 109859105A CN 201910053008 A CN201910053008 A CN 201910053008A CN 109859105 A CN109859105 A CN 109859105A
Authority
CN
China
Prior art keywords
suture
image
registration
reference images
parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910053008.7A
Other languages
English (en)
Other versions
CN109859105B (zh
Inventor
吴军
高炯笠
刘祺昌
叶松
彭智勇
邓仕杰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guilin University of Electronic Technology
Original Assignee
Guilin University of Electronic Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guilin University of Electronic Technology filed Critical Guilin University of Electronic Technology
Priority to CN201910053008.7A priority Critical patent/CN109859105B/zh
Publication of CN109859105A publication Critical patent/CN109859105A/zh
Application granted granted Critical
Publication of CN109859105B publication Critical patent/CN109859105B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明提出一种无参数影像自然拼接方法,包括以下步骤:建立二次配准框架,分阶段获得二次配准模型参数;从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对SL进行映射得到待配准影像初始缝合线SR;对SL,SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对SL'进行映射得到待配准影像缝合线SR';利用二次配准参数及缝合线SL',SR'将待配准影像映射、融合到基准影像。本发明统筹图像配准和缝合线生成过程,仅利用基准影像和待拼接影像上的一组控制点对自动估计配准模型参数并从控制点对中生成配准误差可忽略的缝合线,进而融合生成视觉效果流畅的拼接影像,可有效克服现有方法依赖后期处理、重叠区域拼接存在局部鬼影现象之不足。

Description

一种无参数影像自然拼接方法
技术领域
本发明涉及图像处理、计算机视觉、数字摄影测量领域,具体涉及一种无参数影像自然拼接方法。
背景技术
图像拼接是将一组相互关联(具有一定重叠区域)图像重采样成宽视角、高分辨率单幅图像,从而克服普通图像采集设备在焦平面上的传感器阵列密度限制,实现宏大场景视觉信息的集中呈现,在虚拟现实、安防监控、遥感探测等多方面具有广泛应用价值。传统图像拼接通常划分为图像配准和图像融合两个串行处理阶段。图像配准目的在于将不同坐标系下的待拼接图像纳入到一个统一的坐标框架,计算简单、可直接实现图像到图像2D变换的单应性映射被广泛用于快速图像拼接过程,但存在平面场景或摄像机纯旋转条件限制;基于场景或影像区域差异,以局部单应性映射取代全局单应性映射则需考虑多个单应性矩阵整体最优估计、重叠区域内变化过渡及失真变形系列问题,复杂度高且计算量大;理论上,严格恢复场景3D结构和摄像机参数,再将每个场景点重投影到预设平面即可获得一组重叠视图的拼接图像,但仅适用于影像重叠区域且高效、高质量3D场景重构技术本身仍面临大的挑战。源于不精确的图像配准模型及其潜在的参数估计误差,图像融合时因影像重叠区域内的像素空间位置不一致(错位)而产生“鬼影”现象,是影响拼接图像视觉质量的主要问题,目前解决该问题的有效途径是在重叠区域内找出一条最佳缝合线,在该线两侧分别取一幅图像像素以避免产生叠影。以缝合线上两幅图像间像素差异最小化为目标函数,或通过动态规划过程,或运用Twin Snake模型,或利用图切割技术,现有方法可从影像重叠区域可自动搜索出给定准则下的最优缝合线但拼接效果难以保证,存在不同程度的局部鬼影现象。迄今为止,图像拼接技术发展已取得许多成果并为知名商业软件采用,但由于场景内容、摄像相机姿态及光照条件复杂、多变,拼接影像流畅视觉效果的获得目前仍主要依赖于后期人工交互处理,从这一角度出发,不依赖场景内容、通用且高效的无参数影像自然拼接方法,将具有更为广阔的市场应用前景。
发明内容
鉴于以上所述现有技术的缺点,本发明的目的在于提供一种无参数影像自然拼接方法。
为实现上述目的及其他相关目的,本发明提供一种无参数影像自然拼接方法,包括以下步骤:
建立二次配准框架,分阶段获得二次配准模型参数;
从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR
对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR';
利用二次配准参数、基准影像缝合线SL'以及待配准影像缝合线SR'将待配准影像映射、融合到基准影像。
可选地,所述建立二次配准框架,获得二次配准模型参数,具体包括:
采用RANSANC算法从控制点集CP中估计单应性映射参数hj
求解2N个薄板样条参数
按固定间隔取待拼接影像边界像素作为虚拟控制点,虚拟控制点与虚拟控制点在基准影像上的位置构成虚拟控制点集VP;
利用匹配控制点集CP、虚拟控制点集VP及缝合线加密点集PP,求解2(M+N+Q)个薄板样条参数该参数和单应性映射参数hj构成二次配准模型参数
可选地,所述匹配控制点集CP由特征匹配算子自动匹配计算得到,其中, 分别表示基准影像、待配准影像上对应于同一空间点的特征点。
可选地,所述虚拟控制点集 分别表示基准影像、待配准影像上非重叠区域内的虚拟控制点,通常按固定间隔在基准影像边界上取得,利用参数hj逐一对映射计算得到。
可选地,所述缝合线加密点集 分别表示基准影像缝合线SL'、待配准影像缝合线SR'上的加密点(像素),由动态规划匹配算子自动匹配计算得到。
可选地,所述从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR,具体包括:
对基准影像的匹配控制点集CP进行Delaunay三角构网,记为D_Net,该网中三角形顶点对应于各控制点,三角形边界表示控制点邻接关系,通过三角形相邻边界搜索获得一条由若干控制点依次连接构成的路径作缝合线;
设置一垂直于图像拼接方向的基准线;
在D-Net中搜索距所述基准线最近的控制点,进而以该控制点为起始点,根据D-Net中三角形顶点、边几何拓扑关系分别向上、向下生长,依次获取邻接三角形中距基准线最近的点,直至遇到轮廓点截止,搜索得到基准影像上的控制点序列其中:为D_Net轮廓上的控制点;
依次连接该控制点序列中的点即构成一条与基准线方向吻合的初始缝合线SL,利用一次配准参数对基准影像初始缝合线SL进行映射得到待配准影像初始缝合线SR
可选地,对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR',具体包括:
在所述缝合线SL控制点序列的首、末位置中插入图像的上、下边界点,获得新的控制点序列其中:为基准图像的上、下边界点;
确定所述基准影像的匹配窗口,按序逐一取初始缝合线SL上的像素构成一维匹配窗口Ib
根据初次配准模型参数将基准影像的初始缝合线SL上的像素逐一映射到待拼接影像上并按相同顺序排列构成待匹配窗口Im
将一维匹配窗口Ib中的像素与匹配过程的阶段相对应,将待匹配窗口Im中的像素与每一阶段的状态相对应,通过最小化代价函数mind∑L(p,d),获得缝合线SL和SR上更多同名像素,从而实现控制点加密目的;
对动态规划匹配结果中的有效匹配像素按其匹配代价从小到大排序,构成加密控制点集该加密控制点集按其在匹配窗口中的像素位置顺序引入初始缝合线SL共同构成基准影像缝合线SL';
利用二次配准参数对基准影像缝合线SL'重新映射以获得新的待配准影像缝合线SR'。
可选地,所述利用二次配准参数、基准影像缝合线SL'以及待配准影像缝合线SR'将待配准影像映射、融合到基准影像,具体包括:
利用二次配准模型参数将待配准影像重映射到基准影像所在空间坐标参考框架;
根据缝合线SL'和SR',分别取基准影像上缝合线SL'左侧、待配准影像上缝合线SL'右侧像素到拼接影像上相应位置。
如上所述,本发明的一种无参数影像自然拼接方法,具有以下有益效果:
本发明统筹图像配准和缝合线生成过程,仅利用基准影像和待拼接影像上的一组控制点对自动估计配准模型参数并从控制点对中生成配准误差可忽略的缝合线,进而融合生成视觉效果流畅的拼接影像,可有效克服现有方法依赖后期处理、重叠区域拼接存在局部鬼影现象之不足。
附图说明
为了进一步阐述本发明所描述的内容,下面结合附图对本发明的具体实施方式作进一步详细的说明。应当理解,这些附图仅作为典型示例,而不应看作是对本发明的范围的限定。
图1是本发明实施例的无参数影像自然拼接方法结构图;
图2是本发明实施例的基准影像控制点集缝合线生成示意图:其中(a)控制点三角网D_Net,(b)基准线设置与缝合线搜索;
图3是本发明实施例的网上待拼接图像及其匹配控制点集示意图;其中:(a)基准图像,(b)待拼接影像;
图4是本发明实施例的b网上待拼接图像配准局部鬼影现象不同方法对比示意图;
图5是本发明实施例的网上待拼接图像最后拼接结果。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
如图1所示,本实施例提供了一种无参数影像自然拼接方法,包括以下步骤:
建立二次配准框架,分阶段获得二次配准模型参数;
从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR
对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR';
利用二次配准参数、基准影像缝合线SL'以及待配准影像缝合线SR'将待配准影像映射、融合到基准影像,实现自然拼接目的。
具体地,本发明图像配准模型结合全局单应性映射与薄板样条TPS变换,并建立二次配准框架以满足缝合线控制点无误差配准、加密以及非控制点像素映射计算需要,原理解释如下:
TPS是自然样条函数在两维空间上的推广,具有光滑插值、无参数控制及能量最小意义上的物理解释等多种优点,对于二维影像,TPS采用两个独立函数T(x,y)=(fx(x,y),fy(x,y))来建立其映射关系,通常具有数学形式:
其中:a0,a1,a2,b0,b1,b2,Ai,Bi(i=1,...,n)为2n+6个TPS参数,可利用n(>3)对控制点进行线性求解;ri为控制点Pi(xi,yi),Pj(xj,yj)间的欧氏距离。若从全局与局部的关系去看待TPS对映射的分解,TPS实质上是以仿射变换来表达影像全局运动,而以基于径向基函数的插值来实现对影像像素局部非线性运动的描述,借助于TPS这种全局与局部运动的分解思路,本发明引入单应性映射来增强TPS全局运动的透视变换性能,即有:
其中:hj(j=1,···,8)为给定单应性矩阵H的8个元素,Ai,Bi,n,rij定义同上,但TPS参数减少为2n个,仍利用控制点线性求解。
本实施例中,图像配准模型结合全局单应性映射与薄板样条TPS变换,并建立二次配准框架以满足缝合线控制点无误差配准、加密以及非控制点像素映射计算需要。
给定基准影像和待配准影像,其控制点对CP由特征匹配算子自动匹配计算得到: 分别表示基准影像、待配准影像上的特征点,在保证控制点一一对应的同时,传统TPS对远离控制点的影像非重叠区域会形成较大变形、失真,对此本发明采取的解决办法是利用单应性映射在远离控制点的非重叠区域内(靠近图像边界)增加虚拟控制点来进行平衡,计算上则通过二次TPS变换完成,实施步骤如下:
1、单应性矩阵估计。采用RANSANC算法从控制点集CP中精确估计单应性映射参数hj
2、首次TPS变换。根据式(2)求解2N个薄板样条参数
3、虚拟控制点设置。按固定间隔取待拼接影像边界(远离缝合线)像素作为虚拟控制点,其在基准影像上的位置由单应性映射计算得到,两者构成虚拟控制点集
4、二次TPS变换。综合利用匹配控制点集CP,虚拟控制点集VP及缝合线加密点集PP,根据式(2)重新求解2(M+N+Q)个薄板样条参数该参数和单应性映射参数hj构成最后的配准模型参数。
如图2所示,本实施例中的缝合线生成基于控制点像素配准精度优于非控制点像素这一事实,首先从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR;对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR'。
具体地,给定基准影像b和待配准影像m上的控制点对CP,并假定拼接主要发生在影像水平方向,本实施例从影像控制点中生成缝合线方式如图2所示,包括:
1、Delaunay三角构网。对基准影像的控制点集进行Delaunay三角构网,见图2(a),记为D_Net,该网中三角形顶点对应于各控制点,三角形边界给出了控制点邻接关系,后续通过三角形相邻边界搜索可获得一条由若干控制点依次连接构成的路径(折线段)作为缝合线;
2、基准线设置。设置一条贯穿图像重叠区域(垂直于图像拼接方向)的直线X=a,见图2(b),为D_Net中缝合线搜索提供方向参考,该基准线设置遵循两方面原则:一是基准线落在D_Net中的线段尽可能长,二是基准线两侧一定范围内的控制点数应尽可能多,从而有利于沿基准线方向搜索出一条尽可能贯穿较多重叠区域且控制点数多的缝合线。令(xmin,xmax,ymin,ymax)表示D_Net区域围盒,通过在区间范围(xmin,xmax)中遍历a分析给出基准线位置,即对于不同a值基准线,考察以该基准线为中心、固定宽度W的条带区域(这里取W=25,a∈[xmin+W,xmax-W]),统计条带区域内控制点数n及任意两控制点间最大y坐标差值d,并按(3)给出适宜度因子Ra,基准线由最大Ra对应位置给出。
Ra=w1*n/M+w2*d/H (3)
其中:H为待拼接影像高度,M为待拼接影像全部控制点数;w1,w2为权重系数,表征缝合线上控制点数量及其高度(重叠区域覆盖深度)对基准线选择的重要性,这里优先考虑缝合线高度,取w1>w2且w1=0.6,w2=0.4。
3、缝合线搜索。如图2(b)所示,首先在D-Net中搜索距基准线最近的控制点,进而以该控制点为起始点,根据D-Net中三角形顶点、边几何拓扑关系分别向上、向下生长,依次获取邻接三角形中距基准线最近的点并记录,直至遇到轮廓点截止,搜索得到基准影像上的控制点序列:其中:为D_Net轮廓上的控制点,依次连接该序列中的点即构成一条与基准线方向大致吻合的缝合线SL(折线段);相应的,利用初次配准参数对SL进行映射计算可获得待配准影像上的缝合线SR
针对缝合线上控制点数量可能过于稀疏,难以保障影像融合质量,本实施例中给出的问题解决思路是对缝合线S进行控制点加密,并将其视为一个路径受限的动态规划匹配过程,关键在于匹配窗口的确定。传统动态规划匹配是以立体影像同名核线像素为对象,这里以待拼接影像重叠区域内的缝合线“取代”同名核线并结合图像配准模型参数来构建匹配窗口。缝合线控制点加密过程实施步骤如下:
1、缝合线伸展。因D_Net不能完全覆盖影像重叠区域,从中搜索出的缝合线首、末端点(轮廓点)将不能到达图像边界,这里对基准影像缝合线S简单进行伸展处理,即在控制点序列首、末位置中额外插入图像的上、下边界点(该边界点与其前一相邻点x坐标值相同,见图2(b)),获得新点序列其中:为基准图像的上、下边界点。
2、确定匹配窗口。首先确定基准影像匹配窗口,按序逐一取缝合线SL上像素构成一维匹配窗口Ib,该匹配窗口长度即为影像高度H;再根据初次配准模型参数将基准影像缝合线SL上像素逐一映射到待拼接影像上并按相同顺序排列构成待匹配窗口Im
3、动态规划匹配。定义如下代价函数:
其中:L(p,d)表示Ib中像素p在匹配距离d下的路径代价,d可粗略看作是Im与Ib像素间的“上下视差”;L(p-1,k)表示像素p前一点的最小路径代价;B为选择惩罚系数的布尔函数,K为实施顺序约束的惩罚系数,这里假定缝合线上的同名像素按同样顺序排列;C(p,d)表示Ib中像素p与Im中像素q=p+d的匹配代价,由归一化SSD给出:
其中:Ib(p)表示基准影像像素p(x,y)灰度级,Im(q)表示待拼接影像像素q(x',y')灰度级,W(p)表示以像素p为中心的局部窗口,C(p,d)值越小,匹配度越高。将Ib中像素与匹配过程的阶段相对应,将Im中像素与每一阶段的状态相对应,通过最小化代价函数mind∑L(p,d),即可获得缝合线SL和SR上更多同名像素,从而实现控制点加密目的。考虑到传统动态规划匹配过程中,当前像素匹配代价依赖于其所在路径的前一个像素,而缝合线上已有控制点像素的匹配代价可直接给出且不受其所在路径前面像素的影响,这里以控制点为“锚点”对缝合线像素匹配代价计算路径进行限制,通过“阻断”错误匹配代价沿向后传播来提高动态规划匹配的整体可靠性。
4、加密控制点滤波。旨在剔除步骤2中因配准模型几何映射误差引入的非同名像素,这里借鉴统计排序滤波思想,对动态规划匹配结果中的有效匹配像素按其匹配代价从小到大排序,取前25%为最后的加密控制点集该加密控制点集引入SL共同构成基准影像上最后的缝合线SL'。
5、对于定义在图像空间的2D配准模型,图像上靠近控制点的像素将由于更为强烈的内插作用而具有相对小的配准误差,从这一角度出发,本发明将加密控制点集PP引入二次配准模型参数估计过程,并利用配准模型参数对基准影像缝合线SL'重新映射以获得新的待拼接影像缝合线SR',从而尽可能降低缝合线上非控制点像素处的配准误差。
本实施例中,利用二次配准参数及影像缝合线SL'和SR',将待配准影像映射、融合到基准影像,具体包括:
先利用二次配准模型参数将待配准影像重映射到基准影像所在空间坐标参考框架,进而根据缝合线SL'和SR',分别取基准影像上缝合线SL'左侧、待配准影像上缝合线SL'右侧像素到拼接影像上相应位置。因缝合线处像素配准误差很小,配准影像上仅对缝合线较小邻域(x方向)内像素采用渐入渐出法进行简单加权平均融合即可实现拼接目的。
本发明突破“图像配准→缝合线生成”这一传统的图像缝合线拼接串行处理模式,基于改进TPS变换模型建立二次配准框架以满足缝合线控制点加密、非控制点像素映射计算需要,从控制点中自动生成缝合线用于图像拼接目的。因缝合线上像素配准误差很小,本发明方法影像拼接时仅需通过简单像素混合即可消除鬼影现象、光照差异,获得流畅视觉效果且计算实现上更简单、高效;引入单应性映射的改进TPS变换模型及其二次配准框架巧妙地将全局单应性映射和基于径向基函数的局部映射调整纳入同一空间变换框架,有助于拼接影像透视特性保持并减少局部变形、失真,同时该配准模型严格遵循控制点对应约束、控制点无配准误差的特点也为缝合线生成提供了保障;本发明方法影像拼接时无先验知识要求、参数可线性求解,拼接影像整体视觉效果流畅、重叠区域与非重叠区域过渡平滑、自然,效果明显优于现有方法,具有良好的应用前景和价值。
本实施例中还提供了本实施例方法性能测试实验,对网上公开的railtracks影像进行拼接处理,并与经典方法(DHW,SVA,APAP)、知名商业软件(网站图像工具Photosynth和智能手机应用Autostitch)拼接结果进行对比。图3是待拼接图像及其匹配控制点集示意图;图4不同方法下的待拼接图像配准局部鬼影现象对比示意图,其中:三个方框为选中的局部放大区域,圆或者椭圆为拼接有误之处。除商业软件外,本实施例中各方法图像融合时均只进行简单灰度平均处理,以便于分析、比较拼接图像中因不精确配准而产生的鬼影现象或几何扭曲、变形。由图4可以发现,SVA、DHW方法鬼影现象突出,尤其是SVA在非控制点(外推)区域产生高度扭曲;商业软件Photosynth和Autostitch均采用了先进的像素选取、融合策略,总体上可有效“屏蔽”鬼影现象,但局部细节丰富区域(纵横交错铁轨线)仍存在明显错位;APAP算法是现有方法及商业软件处理结果中最优的,既能有效去除重叠区域内的鬼影现象,也能较好保持非重叠区域透视变换特性,但重叠区域和非重叠区域过渡地带(靠进控制点)仍存在小的局部变形失真,而本发明方法借助于TPS变换框架的优良计算特性(光滑插值、封闭解),在利用径向基函数插值“补偿”全局单应性映射之局部“不完善”、有效减少拼接影像局部变形失真的同时,可实现重叠区域和非重叠区域间的自然、平缓过渡,其效果媲美甚至优于APAP算法。表1给出了本发明方法及经典方法(DHW,SVA,APAP)(商业软件无法给出)配准精度RMSE统计,该精度统计方式如下:将匹配控制点分为训练集TR和测试集TE(随机抽取,约占总点数10%)两部分,TR用于配准参数估计,并由控制点重投影误差公式(6)计算获得TR、TE各自配准精度。由表1可以看出,本发明方法TR和TE配准精度均最高,尤其是TR的配准误差为0,为我们从中生成理想缝合线奠定基础,沿缝合线仅需简单融合处理即可获得严密拼接结果,图5给出了本实施例中最后的影像拼接结果,该拼接影像整体视觉效果流畅、重叠区域与非重叠区域过渡平滑、自然。
表1不同方法图像配准精度RMSE统计(单位:像素)
Imagepair DHW SVA APAP 本发明
railtracks–TR/TE 14.09/14.12 7.48/7.30 4.51/4.66 0.00/2.27
temple–TR/TE 6.64/6.84 12.30/12.21 1.36/2.04 0.00/1.46
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。

Claims (8)

1.一种无参数影像自然拼接方法,其特征在于,包括以下步骤:
建立二次配准框架,分阶段获得二次配准模型参数;
从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR
对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR';
利用二次配准参数、基准影像缝合线SL'以及待配准影像缝合线SR'将待配准影像映射、融合到基准影像。
2.根据权利要求1所述的一种无参数影像自然拼接方法,其特征在于,所述建立二次配准框架,获得二次配准模型参数,具体包括:
采用RANSANC算法从控制点集CP中估计单应性映射参数hj
求解2N个薄板样条参数
按固定间隔取待拼接影像边界像素作为虚拟控制点,虚拟控制点与虚拟控制点在基准影像上的位置构成虚拟控制点集VP;
利用匹配控制点集CP、虚拟控制点集VP及缝合线加密点集PP,求解2(M+N+Q)个薄板样条参数该参数和单应性映射参数hj构成二次配准模型参数
3.根据权利要求2所述的一种无参数影像自然拼接方法,其特征在于,所述匹配控制点集CP由特征匹配算子自动匹配计算得到,其中, 分别表示基准影像、待配准影像上对应于同一空间点的特征点。
4.根据权利要求2所述的一种无参数影像自然拼接方法,其特征在于,所述虚拟控制点集 分别表示基准影像、待配准影像上非重叠区域内的虚拟控制点,通常按固定间隔在基准影像边界上取得,利用参数hj逐一对映射计算得到。
5.根据权利要求2所述的一种无参数影像自然拼接方法,其特征在于,所述缝合线加密点集 分别表示基准影像缝合线SL'、待配准影像缝合线SR'上的加密点,由动态规划匹配算子自动匹配计算得到。
6.根据权利要求1所述的一种无参数影像自然拼接方法,其特征在于,所述从基准影像匹配控制点集从中搜索初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR,具体包括:
对基准影像的匹配控制点集CP进行Delaunay三角构网,记为D_Net,该网中三角形顶点对应于各控制点,三角形边界表示控制点邻接关系,通过三角形相邻边界搜索获得一条由若干控制点依次连接构成的路径作缝合线;
设置一垂直于图像拼接方向的基准线;
在D-Net中搜索距所述基准线最近的控制点,进而以该控制点为起始点,根据D-Net中三角形顶点、边几何拓扑关系分别向上、向下生长,依次获取邻接三角形中距基准线最近的点,直至遇到轮廓点截止,搜索得到基准影像上的控制点序列其中:为D_Net轮廓上的控制点;
依次连接该控制点序列中的点即构成一条与基准线方向吻合的初始缝合线SL,利用一次配准参数对初始缝合线SL进行映射得到待配准影像初始缝合线SR
7.根据权利要求6所述的一种无参数影像自然拼接方法,其特征在于,对基准影像初始缝合线SL以及待配准影像初始缝合线SR所在像素实施动态规划匹配计算获得控制点加密后的基准影像缝合线SL',并利用二次配准参数对基准影像缝合线SL'进行映射得到待配准影像缝合线SR',具体包括:
在所述缝合线SL控制点序列的首、末位置中插入图像的上、下边界点,获得新的控制点序列其中:为基准图像的上、下边界点;
确定所述基准影像的匹配窗口,按序逐一取初始缝合线SL上的像素构成一维匹配窗口Ib
根据初次配准模型参数将基准影像的初始缝合线SL上的像素逐一映射到待拼接影像上并按相同顺序排列构成待匹配窗口Im
将一维匹配窗口Ib中的像素与匹配过程的阶段相对应,将待匹配窗口Im中的像素与每一阶段的状态相对应,通过最小化代价函数mind∑L(p,d),获得缝合线SL和SR上更多同名像素,从而实现控制点加密目的;
对动态规划匹配结果中的有效匹配像素按其匹配代价从小到大排序,构成加密控制点集该加密控制点集按其在匹配窗口中的像素位置顺序引入初始缝合线SL共同构成基准影像缝合线SL';
利用二次配准参数对基准影像缝合线SL'重新映射以获得新的待配准影像缝合线SR'。
8.根据权利要求7所述的一种无参数影像自然拼接方法,其特征在于,所述利用二次配准参数、基准影像缝合线SL'以及待配准影像缝合线SR'将待配准影像映射、融合到基准影像,具体包括:
利用二次配准模型参数将待配准影像重映射到基准影像所在空间坐标参考框架;
根据缝合线SL'和SR',分别取基准影像上缝合线SL'左侧、待配准影像上缝合线SL'右侧像素到拼接影像上相应位置。
CN201910053008.7A 2019-01-21 2019-01-21 一种无参数影像自然拼接方法 Active CN109859105B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910053008.7A CN109859105B (zh) 2019-01-21 2019-01-21 一种无参数影像自然拼接方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910053008.7A CN109859105B (zh) 2019-01-21 2019-01-21 一种无参数影像自然拼接方法

Publications (2)

Publication Number Publication Date
CN109859105A true CN109859105A (zh) 2019-06-07
CN109859105B CN109859105B (zh) 2023-01-03

Family

ID=66895353

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910053008.7A Active CN109859105B (zh) 2019-01-21 2019-01-21 一种无参数影像自然拼接方法

Country Status (1)

Country Link
CN (1) CN109859105B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112215749A (zh) * 2020-04-30 2021-01-12 北京的卢深视科技有限公司 基于柱面投影的图像拼接方法、系统、设备及存储介质
CN112927128A (zh) * 2019-12-05 2021-06-08 晶睿通讯股份有限公司 图像拼接方法及其相关监控摄像设备
CN113034362A (zh) * 2021-03-08 2021-06-25 桂林电子科技大学 一种高速公路隧道监控全景影像拼接方法
CN113066010A (zh) * 2021-04-06 2021-07-02 无锡安科迪智能技术有限公司 全景拼接图像的二次调整方法、装置、电子设备及存储介质
CN113344787A (zh) * 2021-06-11 2021-09-03 北京中交华安科技有限公司 最佳缝合线自动调整算法、交通预警方法及系统
TWI759657B (zh) * 2019-12-05 2022-04-01 晶睿通訊股份有限公司 影像拼接方法及其相關監控攝影設備
CN117424968A (zh) * 2023-12-15 2024-01-19 深圳市贝铂智能科技有限公司 智能扫描的数据安全传输方法、装置以及智能扫描笔

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100194851A1 (en) * 2009-02-03 2010-08-05 Aricent Inc. Panorama image stitching
CN105245841A (zh) * 2015-10-08 2016-01-13 北京工业大学 一种基于cuda的全景视频监控系统
CN106780303A (zh) * 2016-12-02 2017-05-31 上海大学 一种基于局部配准的图像拼接方法
CN107146213A (zh) * 2017-05-08 2017-09-08 西安电子科技大学 基于缝合线的无人机航拍图像拼接方法
CN107734268A (zh) * 2017-09-18 2018-02-23 北京航空航天大学 一种结构保持的宽基线视频拼接方法
CN108093221A (zh) * 2017-12-27 2018-05-29 南京大学 一种基于缝合线的实时视频拼接方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20100194851A1 (en) * 2009-02-03 2010-08-05 Aricent Inc. Panorama image stitching
CN105245841A (zh) * 2015-10-08 2016-01-13 北京工业大学 一种基于cuda的全景视频监控系统
CN106780303A (zh) * 2016-12-02 2017-05-31 上海大学 一种基于局部配准的图像拼接方法
CN107146213A (zh) * 2017-05-08 2017-09-08 西安电子科技大学 基于缝合线的无人机航拍图像拼接方法
CN107734268A (zh) * 2017-09-18 2018-02-23 北京航空航天大学 一种结构保持的宽基线视频拼接方法
CN108093221A (zh) * 2017-12-27 2018-05-29 南京大学 一种基于缝合线的实时视频拼接方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
ZHIMIN WEI等: "Research on adaptive fusion algorithm for image stitching", 《2017 INTERNATIONAL SYMPOSIUM ON INTELLIGENT SIGNAL PROCESSING AND COMMUNICATION SYSTEMS (ISPACS)》 *
杜往泽等: "单摄像头旋转监控下的快速图像拼接", 《中国图象图形学报》 *
秦绪佳等: "基于最佳缝合线的序列遥感图像拼接融合方法", 《计算机科学》 *
陈思聪等: "一种用于图像拼接的改进BRISK算法", 《液晶与显示》 *

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112927128A (zh) * 2019-12-05 2021-06-08 晶睿通讯股份有限公司 图像拼接方法及其相关监控摄像设备
TWI759657B (zh) * 2019-12-05 2022-04-01 晶睿通訊股份有限公司 影像拼接方法及其相關監控攝影設備
CN112927128B (zh) * 2019-12-05 2023-11-24 晶睿通讯股份有限公司 图像拼接方法及其相关监控摄像设备
CN112215749A (zh) * 2020-04-30 2021-01-12 北京的卢深视科技有限公司 基于柱面投影的图像拼接方法、系统、设备及存储介质
CN113034362A (zh) * 2021-03-08 2021-06-25 桂林电子科技大学 一种高速公路隧道监控全景影像拼接方法
CN113066010A (zh) * 2021-04-06 2021-07-02 无锡安科迪智能技术有限公司 全景拼接图像的二次调整方法、装置、电子设备及存储介质
CN113066010B (zh) * 2021-04-06 2022-11-15 无锡安科迪智能技术有限公司 全景拼接图像的二次调整方法、装置、电子设备及存储介质
CN113344787A (zh) * 2021-06-11 2021-09-03 北京中交华安科技有限公司 最佳缝合线自动调整算法、交通预警方法及系统
CN113344787B (zh) * 2021-06-11 2022-02-01 北京中交华安科技有限公司 最佳缝合线自动调整算法、交通预警方法及系统
CN117424968A (zh) * 2023-12-15 2024-01-19 深圳市贝铂智能科技有限公司 智能扫描的数据安全传输方法、装置以及智能扫描笔

Also Published As

Publication number Publication date
CN109859105B (zh) 2023-01-03

Similar Documents

Publication Publication Date Title
CN109859105A (zh) 一种无参数影像自然拼接方法
CN105245841B (zh) 一种基于cuda的全景视频监控系统
CN111047510B (zh) 一种基于标定的大视场角图像实时拼接方法
Richardt et al. Megastereo: Constructing high-resolution stereo panoramas
CN105205858B (zh) 一种基于单个深度视觉传感器的室内场景三维重建方法
US7505623B2 (en) Image processing
CN106228605A (zh) 一种基于动态规划的立体匹配三维重建方法
CN107734268A (zh) 一种结构保持的宽基线视频拼接方法
CN103559737A (zh) 一种对象全景建模方法
CN106023230B (zh) 一种适合变形图像的稠密匹配方法
CN106856012B (zh) 一种实时大规模场景三维扫描建模方法及系统
CN102075779A (zh) 一种基于块匹配视差估计的中间视图合成方法
CN111047709B (zh) 一种双目视觉裸眼3d图像生成方法
CN109118544A (zh) 基于透视变换的合成孔径成像方法
CA3021189A1 (en) Image stitching method and device
CN104537668B (zh) 一种快速视差图像计算方法及装置
Bleyer et al. Temporally consistent disparity maps from uncalibrated stereo videos
JP4327919B2 (ja) 単一カメラ像から放射歪パラメータを回復する方法
CN109242959A (zh) 三维场景重建方法及系统
CN114049464A (zh) 一种三维模型的重建方法及设备
CN114996814A (zh) 一种基于深度学习与三维重建的家具设计系统
CN109788270B (zh) 3d-360度全景图像生成方法及装置
Waizenegger et al. Real-time patch sweeping for high-quality depth estimation in 3D video conferencing applications
JP2007507945A (ja) 立体映像化
Li et al. Global color consistency correction for large-scale images in 3-D reconstruction

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant