CN111461032B - 局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 - Google Patents
局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 Download PDFInfo
- Publication number
- CN111461032B CN111461032B CN202010261275.6A CN202010261275A CN111461032B CN 111461032 B CN111461032 B CN 111461032B CN 202010261275 A CN202010261275 A CN 202010261275A CN 111461032 B CN111461032 B CN 111461032B
- Authority
- CN
- China
- Prior art keywords
- feature
- straight line
- linear
- matching
- linear feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/176—Urban or other man-made structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
- G06V10/443—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
- G06V10/507—Summing image-intensity values; Histogram projection analysis
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明属于遥感影像处理中的影像匹配技术领域,具体涉及局部结构与拓扑几何约束的倾斜影像直线特征匹配方法。其技术方案为:局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,包括如下步骤:a)直线特征提取与合并;b)直线特征编组;c)局部结构约束的直线特征组初匹配;d)局部结构与拓扑几何联合约束的直线特征组扩展匹配;e)单直线特征扩展匹配;f)直线特征匹配结果重定位,得到最终的直线特征匹配结果。本发明提供了一种局部结构和拓扑几何联合约束的直线特征匹配方法,解决了倾斜影像显著视角变化导致直线特征匹配困难的问题。
Description
技术领域
本发明属于遥感影像处理中的影像匹配技术领域,具体涉及局部结构与拓扑几何约束的倾斜影像直线特征匹配方法。
背景技术
倾斜摄影测量能够从不同角度同时获取建筑物的多视影像信息,被广泛应用于城市三维模型重建。目前,基于倾斜影像的三维重建主要通过影像密集匹配获取三维点云数据来重建建筑物三维模型。通过密集匹配点云数据构建的三维模型能够较好地表达建筑物整体轮廓信息,但模型存在严重的边缘变形、缺失等问题。鉴于建筑物蕴含着大量的直线特征,这些直线特征包含丰富的结构信息,能够很好地表达建筑物边缘特征,可以将倾斜影像中提取的直线特征用于约束密集匹配点云生成过程,进而提高三维重建的精度。将倾斜影像直线特征用于约束密集匹配点云生成的关键是直线特征匹配获得可靠的同名直线特征。
经过多年的发展,研究人员提出了大量适用于不同场景的直线特征匹配方法。一些方法通过简单的几何信息,如方向、距离、长度、重复性、最近邻关系等,以及直线特征邻域内的灰度信息进行直线特征相似性度量。这类方法通常需要同名直线特征之间具有较高的重叠度,并且影像之间的亮度和几何变形变化较小,难以适用于倾斜影像直线特征匹配。受点特征匹配的启发,研究人员提出了一类基于特征描述符的直线特征匹配方法。这类方法在直线特征邻域内确定一个特征区域,并在特征区域内计算均值和标准差等统计信息来构建特征描述符,对于影像视角变化较小或地形平坦的纹理丰富区域获得了较好的匹配结果。但是当影像之间存在较大视角变化且影像区域目标深度变化比较显著时,此类方法中的规则特征区域以及在此基础上构建的特征描述符鲁棒性较差,影响最终的匹配结果。为了提高直线特征匹配算法对影像几何变形的鲁棒性,研究人员提出了一类同名点特征辅助的直线特征匹配算法。通过点特征与直线特征之间的几何位置关系构建仿射不变量来进行直线特征相似性度量。这类方法需要已知大量的同名点特征。当影像之间具有较大的视角变化时,难以获得大量可靠的点特征匹配结果,导致这类方法难以适用。
为了提高直线特征匹配的可靠性,直线特征可被聚类为直线特征组,通过在直线特征组之间构建约束条件来实现同名直线特征匹配。这类方法通过挖掘直线特征组之间的几何约束关系进行直线组匹配,或先通过几何约束建立候选匹配集合,再为直线特征组构建特征描述符来实现直线对匹配。在直线特征组匹配方法中,常用的策略是寻找直线特征上的稳定点与直线特征组的交点来构建几何不变特征区域并计算特征描述符。这种匹配策略对影像视角变化具有一定的鲁棒性。但是,此类方案都以直线特征组交点为中心构建对称的特征区域,难以适应倾斜影像上视差不连续的影像区域的几何变形。特征区域中部分影像内容难以在影像视角变化下保持一致性,导致同名直线特征描述符相似度较低。因此,此类方法获得的同名直线特征通常位于目标平面内,而难以获得建筑物边缘上的同名直线特征。此外,由于直线特征检测受影像噪声等影响,一个完整的线性结构通常被检测为多条碎片化的短直线特征,导致在直线特征聚类编组过程中许多直线特征无法编组,进而难以在直线特征组匹配阶段被匹配。为了克服这个问题,研究人员在直线特征组匹配后,通过一个扩展匹配步骤来提高特征匹配率。但是,现有扩展匹配方法通常是基于在直线特征组匹配过程中获得的同名直线特征的局部几何关系来度量待匹配直线特征的相似度,导致扩展匹配时只能有效处理已匹配特征局部区域内的直线特征,对整体直线特征匹配效果的提升非常有限。
综上所述,虽然研究人员已提出了多种直线特征匹配方法,但现有方法应用于倾斜影像直线特征匹配时仍存在以下问题:
(1)现有基于直线特征几何关系、特征描述符或点-线几何关系的单直线特征匹配方法都难以适用于具有显著视角变化的倾斜影像;
(2)虽然现有基于直线特征编组的特征匹配方法相对于单直线特征匹配方法对影像视角变化造成的几何变形具有更强的鲁棒性,但是现有方法难以有效克服直线特征检测时产生的大量碎片化短直线特征以及城区倾斜影像大量视差不连续区域造成的匹配困难,进而限制了此类方法在倾斜影像直线特征匹配中的应用。
发明内容
为了解决现有技术存在的上述问题,本发明目的在于提供一种局部结构和拓扑几何联合约束的直线特征匹配方法,解决了倾斜影像显著视角变化导致直线特征匹配困难的问题。
本发明所采用的技术方案为:
局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,包括如下步骤:
a)直线特征提取与合并;
b)直线特征编组;
c)局部结构约束的直线特征组初匹配;
d)局部结构与拓扑几何联合约束的直线特征组扩展匹配;
e)单直线特征扩展匹配;
f)直线特征匹配结果重定位,得到最终的直线特征匹配结果。
优选地,包括如下具体步骤:
a)直线特征提取与合并:利用直线特征提取算子算法分别对待匹配的倾斜影像像对中的参考影像和搜索影像提取直线特征,获得参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS,并对直线特征集合LineSetR和LineSetS中邻近且近似共线的直线特征进行合并处理,获得合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合同时保存参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS;
c)局部结构约束的直线特征组初匹配:对步骤b)中得到的参考影像直线特征组集合和搜索影像直线特征组集合中的直线特征组进行匹配,得到直线特征组初匹配集合稳定点初匹配集合和影像基础矩阵FInitial,并基于根据直线特征组中直线特征的相对左右关系得到直线特征初匹配集合
d)局部结构与拓扑几何联合约束的直线特征组扩展匹配:基于步骤c)所述的直线特征组初匹配结果分别将直线特征组集合和中未匹配的直线特征组存入两个新的集合,形成未匹配直线特征组集合和然后对未匹配直线特征组集合和中的直线特征组进行扩展匹配,得到直线特征组扩展匹配集合直线特征扩展匹配集合和稳定点扩展匹配集合
e)单直线特征扩展匹配:由步骤a)所述的参考影像直线特征集合和搜索影像直线特征集合步骤c)所述的直线特征初匹配集合以及步骤d)所述的直线特征扩展匹配集合获得参考影像和搜索影像上仍未匹配的直线特征,构成参考影像未匹配直线特征集合和搜索影像未匹配直线特征集合并对集合和中直线特征进行扩展匹配,得到单直线特征扩展匹配集合
f)直线特征匹配结果重定位,得到最终的直线特征匹配结果。
优选地,步骤a)包括如下具体步骤:
a1)利用直线特征提取算子分别对参考影像和搜索影像提取直线特征,并剔除长度小于阈值TLength的细碎直线特征,然后将长度大于或等于阈值TLength的直线特征按长度从长到短排列后保存得到参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS;
a2)遍历参考影像直线特征集合LineSetR中的直线特征,判断正在遍历的直线特征是否需要与其邻近的直线特征进行合并处理:假设当前正在遍历的直线特征为l,分别以直线特征l的两端点ps与pe为中心建立半径为R的圆形区域;判断直线特征集合LineSetR中是否有l以外的未被合并过的直线特征满足条件C1;如果没有,转入步骤a5);如果有,则计算这些满足条件C1的直线特征与直线特征l的夹角;若这些满足条件C1的直线特征中,有任意一条直线特征与直线特征l的夹角大于阈值θ,则转入步骤a5);若所有这些满足条件C1的直线特征与直线特征l的夹角都小于阈值θ,则将满足条件C1的直线特征存入对应端点的待合并直线特征集合,并转入步骤a3);
其中条件C1是指:直线特征上至少有一个像素位于以ps为中心的圆形区域内或以pe为中心的圆形区域内;
a3)对存入待合并直线特征集合中的直线特征进行合并处理:以直线特征l的端点ps为例,首先,对待合并的直线特征按到端点ps的距离从小到大排序,使得距离较近的待合并直线特征具有较高的遍历优先级;然后,遍历待合并直线特征集合中的直线特征,假设正在遍历的待合并直线特征为li,令li两端点中距离端点ps较远的端点为并将投影至直线特征l所在直线上,对应的投影点标记为此时,计算投影点与直线特征l的另一个端点pe的距离d;若d大于直线特征l的长度,则将直线特征li与l合并,由投影点代替端点ps作为新的直线端点,与另一个端点pe构成合并后的新直线特征l;
a4)对于步骤a3)所述的合并产生的新直线特征l,重复步骤a2)和步骤a3)所述方法进行判别和处理,直至直线特征两端均无可合并的直线特征为止;
a5)遍历下一条直线特征,并按步骤a2)至步骤a4)所述方法进行处理,直至直线特征集合LineSetR中所有直线特征遍历完成,得到合并后的参考影像直线特征集合并保存参考影像合并后的直线特征与合并前直线特征的对应关系MR;
优选地,步骤b)包括如下具体步骤:
式(1)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征Li的长度,Li⊥表示直线特征Li的中垂线,s是一个控制支撑区域大小的参数;
b2)对于正在遍历的直线特征Li,直线特征集合中其余任意直线特征Lj,j≠i上如果至少有一个像素点位于直线特征Li的支撑区域SRi内,且直线特征Lj,j≠i所在直线与直线特征Li所在直线的交点位于支撑区域SRi内,则将直线特征Lj,j≠i与Li组成一个直线特征组;
优选地,步骤c)包括如下具体步骤:
c1)遍历参考影像直线特征组集合中的直线特征组,假设正在遍历的直线特征组为LiLj,判断能否为LiLj寻找三类视角不变的稳定点构建局部几何区域:如果在直线特征组集合中,直线特征Li未与除Lj以外的任何直线特征组成直线特征组,或者直线特征Lj未与除Li以外的任何直线特征组成直线特征组,则无法为直线特征组LiLj寻找到三类稳定点构建局部几何区域,转入步骤c5);否则,转入步骤c2)计算稳定点;
c3)基于三类稳定点为直线特征组LiLj确定特征区域;首先,分别从第二类稳定点和第三类稳定点中各取一个点,与第一类稳定点共同确定一个平行四边形区域PR;然后,将平行四边形区域PR归一化为正方形区域,即为直线特征组LiLj的特征区域;在归一化过程中,将第一类稳定点对应于正方形的左下角,将归一化后区域的边长固定为r;由此可消除同名特征区域之间的尺度、旋转、仿射变换等几何变形,在后续计算特征描述符的过程中无需再考虑尺度和旋转变化,有助于提高算法可靠性和效率;由于有n个第二类稳定点和m个第三类稳定点,因此对于直线特征组LiLj将确定m×n个特征区域;将这m×n个特征区域中的每个特征区域分别分配给LiLj,形成m×n个直线特征相同但特征区域不同的直线特征组;
c4)将直线特征组的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组的特征描述符;
c7)利用最邻近距离比值算法对参考影像特征描述符集合DescSetR和搜索影像特征描述符集合DescSetS中的特征描述符进行相似性度量并获取直线特征组候选匹配集合同时保存每对直线特征组候选匹配所对应的三对稳定点得到稳定点候选匹配集合
c9)基于步骤c8)所述的内点集合获取直线特征组初匹配集合对于直线特征组候选匹配集合中的每对直线特征组候选匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组候选匹配为一对正确匹配,并存入集合中;
优选地,步骤c2)包括如下具体步骤:
c22)找到直线特征组集合中所有Li参与形成的直线特征组,计算这些直线特征组中除直线特征组LiLj以外的其他直线特征组的交点作为第二类稳定点:假设除直线特征组LiLj以外,直线特征Li与其他n条直线特征形成了直线特征组,则此处将得到n个第二类稳定点
c23)找到直线特征组集合中所有Lj参与形成的直线特征组,计算这些直线特征组中除直线特征组LiLj以外的其他直线特征组的交点作为第三类稳定点:假设除直线特征组LiLj以外,直线特征Lj与其他m条直线特征形成了直线特征组,则此处将得到m个第三类稳定点
优选地,步骤d)包括如下具体步骤:
d1)遍历未匹配直线特征组集合中的直线特征组,假设正在遍历的直线特征组为LgLh,利用重叠约束分别从未匹配直线特征组集合所包含的直线特征中为直线特征Lg和Lh寻找候选匹配直线特征,得到Lg的候选匹配直线特征集合CanLg和Lh的候选匹配直线特征集合CanLh;重叠约束为:对于参考影像上的直线特征及其两个端点,其在搜索影像上对应的候选匹配直线特征应该位于两个端点对应的核线所夹的区域内,或与至少一条核线相交;其中,核线由步骤c)所述的基础矩阵FInitial计算得到;如果候选匹配直线特征集合CanLg和CanLh都为非空集,则转入步骤d2);否则,转入步骤d7)。
d2)按步骤b)所述方法将候选匹配直线特征集合CanLg中的直线特征与候选匹配直线特征集合CanLh中的直线特征进行编组,得到直线特征组集合CanLgLh即为直线特征组LgLh的候选匹配集合;如果候选匹配集合CanLgLh为非空集,则转入步骤d3);否则,转入步骤d7);
d3)计算参考影像上直线特征组LgLh的交点在搜索影像上对应的核线。计算搜索影像上候选匹配集合CanLgLh中的直线特征组的交点与核线的距离,将距离大于阈值Te的直线特征组剔除,保留距离小于阈值Te的直线特征组,并更新集合CanLgLh,得到直线特征组LgLh的新的候选匹配集合CanLgLh。如果更新后的候选匹配集合CanLgLh为非空集,则转入步骤d4);否则,转入步骤d7)。
d4)构建拓扑几何约束,进一步精化候选匹配集合CanLgLh;
d5)为参考影像直线特征组LgLh及候选匹配集合CanLgLh中的每个直线特征组计算特征描述符;
d6)基于步骤d5)所述的特征描述符,计算参考影像直线特征组LgLh与候选匹配集合CanLgLh中的每个直线特征组的相似度,以相似度最大且大于阈值Tsim的直线特征组作为参考影像直线特征组LgLh的匹配结果;此处,参考影像直线特征组LgLh与候选匹配集合CanLgLh中任意候选直线特征组的相似度计算方法为:分别计算参考影像直线特征组LgLh的9个特征描述符与该候选直线特征组的9个特征描述符的欧氏距离,得到81个欧氏距离,并找到其中最小的一个距离dmin,以作为参考影像直线特征组LgLh与该候选直线特征组的相似度;
d7)遍历未匹配直线特征组集合中的下一个直线特征组,并按步骤d1)至步骤d6)进行匹配处理,直至遍历完未匹配直线特征组集合中的所有直线特征组,得到直线特征组匹配集合同时保存每对直线特征组匹配所对应的三对稳定点得到稳定点匹配集合
d9)基于步骤d8)所述的内点集合获取直线特征组扩展匹配集合对于直线特征组匹配集合中的每对直线特征组匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组匹配为一对正确匹配,并存入集合中;
优选地,步骤d4)包括如下具体步骤:
d41)对于参考影像直线特征组LgLh及其候选匹配集合CanLgLh中的每个直线特征组,以直线特征组中两条直线特征所在直线相交构成一个坐标系统,并以两条直线特征所夹区域为第一象限,并按顺时针方向依次确定第二、三、四象限;
d43)遍历步骤c)所述的直线特征组初匹配集合中的每个搜索影像直线特征组,计算其在候选匹配集合CanLgLh中的每个直线特征组的坐标系统中的象限编号,以象限编号作为向量元素,遍历完成后得到候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量;
d44)计算参考影像直线特征组LgLh的拓扑描述符向量与候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量之间的欧氏距离,保留候选匹配集合CanLgLh中欧氏距离最小的a个直线特征组,剔除其他直线特征组,更新候选匹配集合CanLgLh。
优选地,步骤d5)包括如下具体步骤:
d51)将直线特征组LgLh的交点作为第一类稳定点;
d52)遍历直线特征Lg上的每个像素点,以正在遍历的像素点沿直线的左侧5个像素的灰度均值和右侧5个像素的灰度均值之差作为正在遍历的像素点的显著度。遍历完成以后,将直线特征Lg的两个端点以及直线特征Lg上除两个端点以外的显著度最大的一个像素点作为第二类稳定点;
d53)按步骤d52)方法找到直线特征Lh上除两个端点以外的显著度最大的一个像素点,将其与直线特征Lh的两个端点一并作为第三类稳定点;
d54)分别从第二类稳定点和第三类稳定点中各取一个点,与第一类稳定点一起按步骤c3)所述方法确定一个平行四边形区域,并将平行四边形区域归一化为正方形区域,即为直线特征组LgLh的特征区域。在归一化过程中,将第一类稳定点对应于正方形区域的左下角,将归一化后区域的边长固定为r;
d55)将直线特征组LgLh的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组LgLh的特征描述符。由于直线特征组LgLh有3个第二类稳定点和3个第三类稳定点,因此在步骤d54)中直线特征组LgLh将得到9个特征区域。分别对这9个特征区域计算特征描述符,并将得到的9个特征描述符都分配给直线特征组LgLh;
d56)按步骤d51)至步骤d55)所述方法为候选匹配集合CanLgLh中的每个直线特征组计算9个特征描述符。
优选地,步骤e)包括如下具体步骤:
e2)遍历参考影像未匹配直线特征集合中的直线特征,假设正在遍历的直线特征为Ld,基于基础矩阵Fupdated计算直线特征两个端点在搜索影像上的核线e1和e2,按步骤d)所述的重叠约束从搜索影像未匹配直线特征集合中为直线特征Ld寻找候选匹配直线特征,得到候选匹配集合CanLd;如果候选匹配集合CanLd为空集,则转入步骤e9);否则,转入步骤e3);
e3)按公式(2)为参考影像直线特征Ld确定特征区域:
式(2)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征的长度,Ld⊥表示直线特征Ld的中垂线,s是一个控制支撑区域大小的参数;
e4)对于候选匹配集合CanLd中的任意一条直线特征计算其所在直线与参考影像直线特征Ld的两个端点在搜索影像上的核线e1和e2的交点和按公式(2)所述方法为交点和所确定的直线段计算特征区域,并以此特征区域作为直线特征的特征区域以此方法为候选匹配集合CanLd中的所有直线特征计算特征区域。
e7)按公式(3)计算参考影像直线特征Ld与候选匹配集合CanLd中每条直线特征的相似度:
式中,Sim表示两条直线特征的相似度,|| ||表示计算两个向量的欧氏距离,min()表示取最小值。
e8)根据步骤e7)计算的相似度值,找到候选匹配集合CanLd中相似度最高的一条直线特征,如果其对应的相似度值大于阈值Tsim,则认为该候选直线特征是参考影像直线特征Ld的匹配直线特征;
优选地,步骤f)包括如下具体步骤:
f3)遍历集合中的直线特征匹配,假设正在遍历的直线特征匹配为其中直线特征和分别是步骤a)获得的合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合中的直线特征。根据步骤a)获得的参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS,分别从步骤a)所述的参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS中找到直线特征对应的合并前的参考影像直线特征以及直线特征对应的合并前的搜索影像直线特征
首先,计算的起始端点和末端端点在直线特征上的投影点A和B;然后,假设直线特征的起始端点和末端端点分别为R1和R2,直线特征的起始端点和末端端点分别为S1和S2,由和计算点A和点B在直线特征上的对应点X和Y;最后,将中的每条直线特征投影到直线特征上,得到投影直线段寻找投影直线段中与直线段XY有重叠的投影直线段,将有重叠的投影直线段对应的中的直线特征与直线特征组成匹配直线特征并存入集合
本发明的有益效果为:
1.本发明针对倾斜影像显著视角变化导致直线特征匹配困难的问题,提出了一种局部结构和拓扑几何联合约束的直线特征匹配方法。本发明提出的匹配方法包括四个环节:直线特征提取与合并优化、直线特征组初匹配、直线特征组扩展匹配和单直线特征扩展匹配。其中,在直线特征组初匹配中提出了一种无需任何先验信息的局部结构约束的视角不变直线特征匹配方法,能够适应倾斜影像视角变化造成的影像几何变形,并能够匹配位于视差不连续区域的直线特征,获得优于传统方法的匹配结果,为后续扩展匹配奠定基础;
2.针对直线特征组初匹配中存在漏匹配现象导致直线特征匹配数量不足的问题,本发明在直线特征组初匹配的基础上提出了一种局部结构与拓扑几何联合约束的直线特征组扩展匹配方法和一种核线几何约束的单直线特征扩展匹配方法,充分挖掘直线特征组初匹配过程中获得的有用信息构建对影像视角变化具有较强鲁棒性的约束条件进行直线特征匹配,能够有效提高直线特征匹配率,减少漏匹配现象;
3.针对因影像噪声等因素造成直线特征提取碎片化现象严重,导致在直线特征匹配过程中许多直线特征编组失败或直线特征组无法找到三类稳定点来构建特征区域的问题,本发明在利用传统直线特征提取算子提取直线特征的基础上,提出了一种针对邻近且近似共线的直线特征的合并算法,有效克服了直线特征碎片化问题,为直线特征匹配提供了高质量的匹配基元,能够大幅提高直线特征匹配性能。此外,鉴于直线特征合并操作在提高特征匹配性能的同时会对特征定位精度造成不利影响,本发明在直线特征匹配基础上提出了一种直线特征匹配结果重定位方法,获得基于合并前的直线特征的匹配结果。上述直线特征匹配之前的直线特征合并算法和直线特征匹配之后的重定位算法使得本发明方法能够在不降低特征定位精度的同时具有更好的匹配性能。
本发明的有益效果不限于此描述,为了更好的便于理解,在具体实施方式部分进行了更加详细的描述。
本发明的附加优点、目的,以及特征将在下面的描述中将部分地加以阐述,且将对于本领域普通技术人员在研究下文后部分地变得明显,或者可以根据本发明的实践而获知。本发明的目的和其它优点可以通过在书面说明及其权利要求书以及附图中具体指出的结构实现到并获得。
本领域技术人员将会理解的是,能够用本发明实现的目的和优点不限于以上具体所述,并且根据以下详细说明将更清楚地理解本发明能够实现的上述和其他目的。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明的方法流程图。
图2是利用稳定点确定平行四边形区域示意图。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,旨在用于解释本发明,而不能理解为对本发明的限制。
在本发明的描述中,需要理解的是,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
在本发明中,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以根据具体情况理解上述术语在本发明中的具体含义。
如图1所示,本实施例的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,该方法包括以下步骤:
a)直线特征提取与合并。利用直线特征提取算子分别对待匹配的参考影像和搜索影像提取直线特征,获得参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS,并对直线特征集合LineSetR和LineSetS中邻近且近似共线的直线特征进行合并处理,获得合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合同时保存参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS。具体方法如下:
a1)利用直线特征提取算子分别对参考影像和搜索影像提取直线特征,并剔除长度小于阈值TLength的细碎直线特征,然后将长度大于或等于阈值TLength的直线特征按长度从长到短排列后保存得到参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS;
a2)遍历参考影像直线特征集合LineSetR中的直线特征,判断正在遍历的直线特征是否需要与其邻近的直线特征进行合并处理。假设当前正在遍历的直线特征为l,分别以直线特征l的两端点ps与pe为中心建立半径为R的圆形区域。判断直线特征集合LineSetR中是否有l以外的未被合并过的直线特征满足条件C1。如果没有,转入步骤a5);如果有,则计算这些满足条件C1的直线特征与直线特征l的夹角。若这些满足条件C1的直线特征中,有任意一条直线特征与直线特征l的夹角大于阈值θ,则转入步骤a5);若所有这些满足条件C1的直线特征与直线特征l的夹角都小于阈值θ,则将满足条件C1的直线特征存入对应端点的待合并直线特征集合,并转入步骤a3);
其中,条件C1是指:直线特征上至少有一个像素位于以ps为中心的圆形区域内或以pe为中心的圆形区域内。
a3)对存入待合并直线特征集合中的直线特征进行合并处理。以直线特征l的端点ps为例。首先,对待合并的直线特征按到端点ps的距离从小到大排序,使得距离较近的待合并直线特征具有较高的遍历优先级;然后,遍历待合并直线特征集合中的直线特征,假设正在遍历的待合并直线特征为li,令li两端点中距离端点ps较远的端点为并将投影至直线特征l所在直线上,对应的投影点标记为此时,计算投影点与直线特征l的另一个端点pe的距离d。若d大于直线特征l的长度,则将直线特征li与l合并,由投影点代替端点ps作为新的直线端点,与另一个端点pe构成合并后的新直线特征l;
a4)对于步骤a3)所述的合并产生的新直线特征l,重复步骤a2)和步骤a3)所述方法进行判别和处理,直至直线特征两端均无可合并的直线特征为止;
a5)遍历下一条直线特征,并按步骤a2)至步骤a4)所述方法进行处理,直至直线特征集合LineSetR中所有直线特征遍历完成,得到合并后的参考影像直线特征集合并保存参考影像合并后的直线特征与合并前直线特征的对应关系MR;
式(1)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征Li的长度,Li⊥表示直线特征Li的中垂线,s是一个控制支撑区域大小的参数。
b2)对于正在遍历的直线特征Li,直线特征集合中其余任意直线特征Lj,j≠i上如果至少有一个像素点位于直线特征Li的支撑区域SRi内,且直线特征Lj,j≠i所在直线与直线特征Li所在直线的交点位于支撑区域SRi内,则将直线特征Lj,j≠i与Li组成一个直线特征组;
c)局部结构约束的直线特征组初匹配:对步骤b)中得到的参考影像直线特征组集合和搜索影像直线特征组集合中的直线特征组进行匹配,得到直线特征组初匹配集合稳定点初匹配集合和影像基础矩阵FInitial,并基于根据直线特征组中直线特征的相对左右关系得到直线特征初匹配集合具体方法如下:
如果在直线特征组集合中,直线特征Li未与除Lj以外的任何直线特征组成直线特征组,或者直线特征Lj未与除Li以外的任何直线特征组成直线特征组,则无法为直线特征组LiLj寻找到三类稳定点构建局部几何区域,转入步骤c5);否则,转入步骤c2)计算稳定点。
c22)找到直线特征组集合中所有Li参与形成的直线特征组,计算这些直线特征组中除直线特征组LiLj以外的其他直线特征组的交点作为第二类稳定点。假设除直线特征组LiLj以外,直线特征Li与其他n条直线特征形成了直线特征组,则此处将得到n个第二类稳定点
c23)找到直线特征组集合中所有Lj参与形成的直线特征组,计算这些直线特征组中除直线特征组LiLj以外的其他直线特征组的交点作为第三类稳定点。假设除直线特征组LiLj以外,直线特征Lj与其他m条直线特征形成了直线特征组,则此处将得到m个第三类稳定点
c3)基于三类稳定点为直线特征组LiLj确定特征区域。如图2所示,首先,分别从第二类稳定点和第三类稳定点中各取一个点,与第一类稳定点共同确定一个平行四边形区域PR;然后,将平行四边形区域PR归一化为正方形区域,即为直线特征组LiLj的特征区域。在归一化过程中,将第一类稳定点对应于正方形的左下角,将归一化后区域的边长固定为r。由此可消除同名特征区域之间的尺度、旋转、仿射变换等几何变形,在后续计算特征描述符的过程中无需再考虑尺度和旋转变化,有助于提高算法可靠性和效率。由于有n个第二类稳定点和m个第三类稳定点,因此对于直线特征组LiLj将确定m×n个特征区域。本发明将这m×n个特征区域中的每个特征区域分别分配给LiLj,形成m×n个直线特征相同但特征区域不同的直线特征组;
c4)将直线特征组的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组的特征描述符;
c7)利用最邻近距离比值算法对参考影像特征描述符集合DescSetR和搜索影像特征描述符集合DescSetS中的特征描述符进行相似性度量并获取直线特征组候选匹配集合同时保存每对直线特征组候选匹配所对应的三对稳定点得到稳定点候选匹配集合
c9)基于步骤c8)所述的内点集合获取直线特征组初匹配集合本发明规定,对于直线特征组候选匹配集合中的每对直线特征组候选匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组候选匹配为一对正确匹配,并存入集合中;
d)局部结构与拓扑几何联合约束的直线特征组扩展匹配。基于步骤c)所述的直线特征组初匹配结果分别将直线特征组集合和中未匹配的直线特征组存入两个新的集合,形成未匹配直线特征组集合和然后对未匹配直线特征组集合和中的直线特征组进行扩展匹配,得到直线特征组扩展匹配集合直线特征扩展匹配集合和稳定点扩展匹配集合具体方法如下:
d1)遍历未匹配直线特征组集合中的直线特征组,假设正在遍历的直线特征组为LgLh,利用重叠约束分别从未匹配直线特征组集合所包含的直线特征中为直线特征Lg和Lh寻找候选匹配直线特征,得到Lg的候选匹配直线特征集合CanLg和Lh的候选匹配直线特征集合CanLh。重叠约束为:对于参考影像上的直线特征及其两个端点,其在搜索影像上对应的候选匹配直线特征应该位于两个端点对应的核线所夹的区域内,或与至少一条核线相交。其中,核线由步骤c)所述的基础矩阵FInitial计算得到。
如果候选匹配直线特征集合CanLg和CanLh都为非空集,则转入步骤d2);否则,转入步骤d7)。
d2)按步骤b)所述方法将候选匹配直线特征集合CanLg中的直线特征与候选匹配直线特征集合CanLh中的直线特征进行编组,得到直线特征组集合CanLgLh即为直线特征组LgLh的候选匹配集合。如果候选匹配集合CanLgLh为非空集,则转入步骤d3);否则,转入步骤d7)。
d3)计算参考影像上直线特征组LgLh的交点在搜索影像上对应的核线。计算搜索影像上候选匹配集合CanLgLh中的直线特征组的交点与核线的距离,将距离大于阈值Te的直线特征组剔除,保留距离小于阈值Te的直线特征组,并更新集合CanLgLh,得到直线特征组LgLh的新的候选匹配集合CanLgLh。如果更新后的候选匹配集合CanLgLh为非空集,则转入步骤d4);否则,转入步骤d7)。
d4)构建拓扑几何约束,进一步精化候选匹配集合CanLgLh。拓扑几何约束方法如下:
d41)对于参考影像直线特征组LgLh及其候选匹配集合CanLgLh中的每个直线特征组,以直线特征组中两条直线特征所在直线相交构成一个坐标系统,并以两条直线特征所夹区域为第一象限,并按顺时针方向依次确定第二、三、四象限;
d43)遍历步骤c)所述的直线特征组初匹配集合中的每个搜索影像直线特征组,计算其在候选匹配集合CanLgLh中的每个直线特征组的坐标系统中的象限编号,以象限编号作为向量元素,遍历完成后得到候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量;
d44)计算参考影像直线特征组LgLh的拓扑描述符向量与候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量之间的欧氏距离,保留候选匹配集合CanLgLh中欧氏距离最小的a个直线特征组,剔除其他直线特征组,更新候选匹配集合CanLgLh。在计算欧氏距离时,由于在象限系统中第一象限与第四象限为相邻象限,但是它们对应的拓扑描述符向量元素差值为3,为了克服该问题,本发明在计算拓扑描述符向量欧氏距离时将第一象限与第四象限的距离固定为1。
d5)为参考影像直线特征组LgLh及候选匹配集合CanLgLh中的每个直线特征组计算特征描述符。具体方法如下:
d51)将直线特征组LgLh的交点作为第一类稳定点;
d52)遍历直线特征Lg上的每个像素点,以正在遍历的像素点沿直线的左侧5个像素的灰度均值和右侧5个像素的灰度均值之差作为正在遍历的像素点的显著度。遍历完成以后,将直线特征Lg的两个端点以及直线特征Lg上除两个端点以外的显著度最大的一个像素点作为第二类稳定点;
d53)按步骤d52)方法找到直线特征Lh上除两个端点以外的显著度最大的一个像素点,将其与直线特征Lh的两个端点一并作为第三类稳定点;
d54)分别从第二类稳定点和第三类稳定点中各取一个点,与第一类稳定点一起按步骤c3)所述方法确定一个平行四边形区域,并将平行四边形区域归一化为正方形区域,即为直线特征组LgLh的特征区域。在归一化过程中,将第一类稳定点对应于正方形区域的左下角,将归一化后区域的边长固定为r;
d55)将直线特征组LgLh的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组LgLh的特征描述符。由于直线特征组LgLh有3个第二类稳定点和3个第三类稳定点,因此在步骤d54)中直线特征组LgLh将得到9个特征区域。分别对这9个特征区域计算特征描述符,并将得到的9个特征描述符都分配给直线特征组LgLh;
d56)按步骤d51)至步骤d55)所述方法为候选匹配集合CanLgLh中的每个直线特征组计算9个特征描述符。
d6)基于步骤d5)所述的特征描述符,计算参考影像直线特征组LgLh与候选匹配集合CanLgLh中的每个直线特征组的相似度,以相似度最大且大于阈值Tsim的直线特征组作为参考影像直线特征组LgLh的匹配结果。此处,参考影像直线特征组LgLh与候选匹配集合CanLgLh中任意候选直线特征组的相似度计算方法为:分别计算参考影像直线特征组LgLh的9个特征描述符与该候选直线特征组的9个特征描述符的欧氏距离,得到81个欧氏距离,并找到其中最小的一个距离dmin,以作为参考影像直线特征组LgLh与该候选直线特征组的相似度;
d7)遍历未匹配直线特征组集合中的下一个直线特征组,并按步骤d1)至步骤d6)进行匹配处理,直至遍历完未匹配直线特征组集合中的所有直线特征组,得到直线特征组匹配集合同时保存每对直线特征组匹配所对应的三对稳定点得到稳定点匹配集合
d9)基于步骤d8)所述的内点集合获取直线特征组扩展匹配集合本发明规定,对于直线特征组匹配集合中的每对直线特征组匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组匹配为一对正确匹配,并存入集合中;
e)单直线特征扩展匹配。由步骤a)所述的参考影像直线特征集合和搜索影像直线特征集合步骤c)所述的直线特征初匹配集合以及步骤d)所述的直线特征扩展匹配集合获得参考影像和搜索影像上仍未匹配的直线特征,构成参考影像未匹配直线特征集合和搜索影像未匹配直线特征集合并对集合和中直线特征进行扩展匹配,得到单直线特征扩展匹配集合具体方法如下:
e2)遍历参考影像未匹配直线特征集合中的直线特征,假设正在遍历的直线特征为Ld,基于基础矩阵Fupdated计算直线特征两个端点在搜索影像上的核线e1和e2,按步骤d)所述的重叠约束从搜索影像未匹配直线特征集合中为直线特征Ld寻找候选匹配直线特征,得到候选匹配集合CanLd。如果候选匹配集合CanLd为空集,则转入步骤e9);否则,转入步骤e3);
e3)按公式(2)为参考影像直线特征Ld确定特征区域:
式(2)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征的长度,Ld⊥表示直线特征Ld的中垂线,s是一个控制支撑区域大小的参数。
e4)对于候选匹配集合CanLd中的任意一条直线特征计算其所在直线与参考影像直线特征Ld的两个端点在搜索影像上的核线e1和e2的交点和按公式(2)所述方法为交点和所确定的直线段计算特征区域,并以此特征区域作为直线特征的特征区域以此方法为候选匹配集合CanLd中的所有直线特征计算特征区域。
e7)按公式(3)计算参考影像直线特征Ld与候选匹配集合CanLd中每条直线特征的相似度:
式中,Sim表示两条直线特征的相似度,|| ||表示计算两个向量的欧氏距离,min()表示取最小值。
e8)根据步骤e7)计算的相似度值,找到候选匹配集合CanLd中相似度最高的一条直线特征,如果其对应的相似度值大于阈值Tsim,则认为该候选直线特征是参考影像直线特征Ld的匹配直线特征;
f)直线特征匹配结果重定位,得到最终的直线特征匹配结果。具体方法如下:
f3)遍历集合中的直线特征匹配,假设正在遍历的直线特征匹配为其中直线特征和分别是步骤a)获得的合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合中的直线特征。根据步骤a)获得的参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS,分别从步骤a)所述的参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS中找到直线特征对应的合并前的参考影像直线特征以及直线特征对应的合并前的搜索影像直线特征
首先,计算的起始端点和末端端点在直线特征上的投影点A和B;然后,假设直线特征的起始端点和末端端点分别为R1和R2,直线特征的起始端点和末端端点分别为S1和S2,由和计算点A和点B在直线特征上的对应点X和Y;最后,将中的每条直线特征投影到直线特征上,得到投影直线段寻找投影直线段中与直线段XY有重叠的投影直线段,将有重叠的投影直线段对应的中的直线特征与直线特征组成匹配直线特征并存入集合
本发明针对倾斜影像显著视角变化导致直线特征匹配困难的问题,提出了一种局部结构和拓扑几何联合约束的直线特征匹配方法。本发明提出的匹配方法包括四个环节:直线特征提取与合并优化、直线特征组初匹配、直线特征组扩展匹配和单直线特征扩展匹配。其中,在直线特征组初匹配中提出了一种无需任何先验信息的局部结构约束的视角不变直线特征匹配方法,能够适应倾斜影像视角变化造成的影像几何变形,并能够匹配位于视差不连续区域的直线特征,获得优于传统方法的匹配结果,为后续扩展匹配奠定基础;
针对直线特征组初匹配中存在漏匹配现象导致直线特征匹配数量不足的问题,本发明在直线特征组初匹配的基础上提出了一种局部结构与拓扑几何联合约束的直线特征组扩展匹配方法和一种核线几何约束的单直线特征扩展匹配方法,充分挖掘直线特征组初匹配过程中获得的有用信息构建对影像视角变化具有较强鲁棒性的约束条件进行直线特征匹配,能够有效提高直线特征匹配率,减少漏匹配现象;
针对因影像噪声等因素造成直线特征提取碎片化现象严重,导致在直线特征匹配过程中许多直线特征编组失败或直线特征组无法找到三类稳定点来构建特征区域的问题,本发明在利用传统直线特征提取算子提取直线特征的基础上,提出了一种针对邻近且近似共线的直线特征的合并算法,有效克服了直线特征碎片化问题,为直线特征匹配提供了高质量的匹配基元,能够大幅提高直线特征匹配性能。此外,鉴于直线特征合并操作在提高特征匹配性能的同时会对特征定位精度造成不利影响,本发明在直线特征匹配基础上提出了一种直线特征匹配结果重定位方法,获得基于合并前的直线特征的匹配结果。上述直线特征匹配之前的直线特征合并算法和直线特征匹配之后的重定位算法使得本发明方法能够在不降低特征定位精度的同时具有更好的匹配性能。
本发明不局限于上述可选实施方式,任何人在本发明的启示下都可得出其他各种形式的产品,但不论在其形状或结构上作任何变化,凡是落入本发明权利要求界定范围内的技术方案,均落在本发明的保护范围之内。
Claims (9)
1.局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,包括如下步骤:
a)直线特征提取与合并:利用直线特征提取算子分别对待匹配的倾斜影像像对中的参考影像和搜索影像提取直线特征,获得参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS,并对直线特征集合LineSetR和LineSetS中邻近且近似共线的直线特征进行合并处理,获得合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合同时保存参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS;
c)局部结构约束的直线特征组初匹配:对步骤b)中得到的参考影像直线特征组集合和搜索影像直线特征组集合中的直线特征组进行匹配,得到直线特征组初匹配集合稳定点初匹配集合和影像基础矩阵FInitial,并基于根据直线特征组中直线特征的相对左右关系得到直线特征初匹配集合
d)局部结构与拓扑几何联合约束的直线特征组扩展匹配:基于步骤c)所述的直线特征组初匹配结果分别将直线特征组集合和中未匹配的直线特征组存入两个新的集合,形成未匹配直线特征组集合和然后对未匹配直线特征组集合和中的直线特征组进行扩展匹配,得到直线特征组扩展匹配集合直线特征扩展匹配集合和稳定点扩展匹配集合包括:
d1)遍历未匹配直线特征组集合中的直线特征组,正在遍历的直线特征组为LgLh,利用重叠约束分别从未匹配直线特征组集合所包含的直线特征中为直线特征Lg和Lh寻找候选匹配直线特征,得到Lg的候选匹配直线特征集合CanLg和Lh的候选匹配直线特征集合CanLh;重叠约束为:对于参考影像上的直线特征及其两个端点,其在搜索影像上对应的候选匹配直线特征应该位于两个端点对应的核线所夹的区域内,或与至少一条核线相交;其中,核线由步骤c)所述的基础矩阵FInitial计算得到;如果候选匹配直线特征集合CanLg和CanLh都为非空集,则转入步骤d2);否则,转入步骤d7);
d2)按步骤b)所述方法将候选匹配直线特征集合CanLg中的直线特征与候选匹配直线特征集合CanLh中的直线特征进行编组,得到直线特征组集合CanLgLh即为直线特征组LgLh的候选匹配集合;如果候选匹配集合CanLgLh为非空集,则转入步骤d3);否则,转入步骤d7);
d3)计算参考影像上直线特征组LgLh的交点在搜索影像上对应的核线;计算搜索影像上候选匹配集合CanLgLh中的直线特征组的交点与核线的距离,将距离大于阈值Te的直线特征组剔除,保留距离小于阈值Te的直线特征组,并更新集合CanLgLh,得到直线特征组LgLh的新的候选匹配集合CanLgLh;如果更新后的候选匹配集合CanLgLh为非空集,则转入步骤d4);否则,转入步骤d7);
d4)构建拓扑几何约束,进一步精化候选匹配集合CanLgLh;
d5)为参考影像直线特征组LgLh及候选匹配集合CanLgLh中的每个直线特征组计算特征描述符;
d6)基于步骤d5)所述的特征描述符,计算参考影像直线特征组LgLh与候选匹配集合CanLgLh中的每个直线特征组的相似度,以相似度最大且大于阈值Tsim的直线特征组作为参考影像直线特征组LgLh的匹配结果;此处,参考影像直线特征组LgLh与候选匹配集合CanLgLh中任意候选直线特征组的相似度计算方法为:分别计算参考影像直线特征组LgLh的9个特征描述符与该候选直线特征组的9个特征描述符的欧氏距离,得到81个欧氏距离,并找到其中最小的一个距离dmin,以作为参考影像直线特征组LgLh与该候选直线特征组的相似度;
d7)遍历未匹配直线特征组集合中的下一个直线特征组,并按步骤d1)至步骤d6)进行匹配处理,直至遍历完未匹配直线特征组集合中的所有直线特征组,得到直线特征组匹配集合同时保存每对直线特征组匹配所对应的三对稳定点得到稳定点匹配集合
d9)基于步骤d8)所述的内点集合获取直线特征组扩展匹配集合对于直线特征组匹配集合中的每对直线特征组匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组匹配为一对正确匹配,并存入集合中;
e)单直线特征扩展匹配:由步骤a)所述的参考影像直线特征集合和搜索影像直线特征集合步骤c)所述的直线特征初匹配集合以及步骤d)所述的直线特征扩展匹配集合获得参考影像和搜索影像上仍未匹配的直线特征,构成参考影像未匹配直线特征集合和搜索影像未匹配直线特征集合并对集合和中直线特征进行扩展匹配,得到单直线特征扩展匹配集合
f)直线特征匹配结果重定位,得到最终的直线特征匹配结果。
2.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤a)包括如下具体步骤:
a1)利用直线特征提取算子分别对参考影像和搜索影像提取直线特征,并剔除长度小于阈值TLength的细碎直线特征,然后将长度大于或等于阈值TLength的直线特征按长度从长到短排列后保存得到参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS;
a2)遍历参考影像直线特征集合LineSetR中的直线特征,判断正在遍历的直线特征是否需要与其邻近的直线特征进行合并处理:当前正在遍历的直线特征为l,分别以直线特征l的两端点ps与pe为中心建立半径为R的圆形区域;判断直线特征集合LineSetR中是否有l以外的未被合并过的直线特征满足条件C1;如果没有,转入步骤a5);如果有,则计算这些满足条件C1的直线特征与直线特征l的夹角;若这些满足条件C1的直线特征中,有任意一条直线特征与直线特征l的夹角大于阈值θ,则转入步骤a5);若所有这些满足条件C1的直线特征与直线特征l的夹角都小于阈值θ,则将满足条件C1的直线特征存入对应端点的待合并直线特征集合,并转入步骤a3);
其中条件C1是指:直线特征上至少有一个像素位于以ps为中心的圆形区域内或以pe为中心的圆形区域内;
a3)对存入待合并直线特征集合中的直线特征进行合并处理:设置直线特征l的端点为ps,首先,对待合并的直线特征按到端点ps的距离从小到大排序,使得距离较近的待合并直线特征具有较高的遍历优先级;然后,遍历待合并直线特征集合中的直线特征,正在遍历的待合并直线特征为li,令li两端点中距离端点ps较远的端点为并将投影至直线特征l所在直线上,对应的投影点标记为此时,计算投影点与直线特征l的另一个端点pe的距离d;若d大于直线特征l的长度,则将直线特征li与l合并,由投影点代替端点ps作为新的直线端点,与另一个端点pe构成合并后的新直线特征l;
a4)对于步骤a3)所述的合并产生的新直线特征l,重复步骤a2)和步骤a3)所述方法进行判别和处理,直至直线特征两端均无可合并的直线特征为止;
a5)遍历下一条直线特征,并按步骤a2)至步骤a4)所述方法进行处理,直至直线特征集合LineSetR中所有直线特征遍历完成,得到合并后的参考影像直线特征集合并保存参考影像合并后的直线特征与合并前直线特征的对应关系MR;
3.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤b)包括如下具体步骤:
式(1)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征Li的长度,Li⊥表示直线特征Li的中垂线,s是一个控制支撑区域大小的参数;
b2)对于正在遍历的直线特征Li,直线特征集合中其余任意直线特征Lj,j≠i上如果至少有一个像素点位于直线特征Li的支撑区域SRi内,且直线特征Lj,j≠i所在直线与直线特征Li所在直线的交点位于支撑区域SRi内,则将直线特征Lj,j≠i与Li组成一个直线特征组;
4.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤c)包括如下具体步骤:
c1)遍历参考影像直线特征组集合中的直线特征组,正在遍历的直线特征组为LiLj,判断能否为LiLj寻找三类视角不变的稳定点构建局部几何区域:如果在直线特征组集合中,直线特征Li未与除Lj以外的任何直线特征组成直线特征组,或者直线特征Lj未与除Li以外的任何直线特征组成直线特征组,则无法为直线特征组LiLj寻找到三类稳定点构建局部几何区域,转入步骤c5);否则,转入步骤c2)计算稳定点;
c3)基于三类稳定点为直线特征组LiLj确定特征区域;首先,分别从第二类稳定点和第三类稳定点 中各取一个点,与第一类稳定点共同确定一个平行四边形区域PR;然后,将平行四边形区域PR归一化为正方形区域,即为直线特征组LiLj的特征区域;在归一化过程中,将第一类稳定点对应于正方形的左下角,将归一化后区域的边长固定为r;由此可消除同名特征区域之间的尺度、旋转和仿射变换这几种几何变形,在后续计算特征描述符的过程中无需再考虑尺度和旋转变化,有助于提高算法可靠性和效率;由于有n个第二类稳定点和m个第三类稳定点,因此对于直线特征组LiLj将确定m×n个特征区域;将这m×n个特征区域中的每个特征区域分别分配给LiLj,形成m×n个直线特征相同但特征区域不同的直线特征组;
c4)将直线特征组的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组的特征描述符;
c7)利用最邻近距离比值算法对参考影像特征描述符集合DescSetR和搜索影像特征描述符集合DescSetS中的特征描述符进行相似性度量并获取直线特征组候选匹配集合同时保存每对直线特征组候选匹配所对应的三对稳定点,得到稳定点候选匹配集合
c9)基于步骤c8)所述的内点集合获取直线特征组初匹配集合对于直线特征组候选匹配集合中的每对直线特征组候选匹配,只有当它所对应的三对稳定点匹配均为内点时,才认为该直线特征组候选匹配为一对正确匹配,并存入集合中;
5.根据权利要求4所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤c2)包括如下具体步骤:
c22)找到直线特征组集合中所有Li参与形成的直线特征组,计算这些直线特征组中除直线特征组LiLj以外的其他直线特征组的交点作为第二类稳定点:除直线特征组LiLj以外,直线特征Li与其他n条直线特征形成了直线特征组,则此处将得到n个第二类稳定点
6.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤d4)包括如下具体步骤:
d41)对于参考影像直线特征组LgLh及其候选匹配集合CanLgLh中的每个直线特征组,以直线特征组中两条直线特征所在直线相交构成一个坐标系统,并以两条直线特征所夹区域为第一象限,并按顺时针方向依次确定第二、三、四象限;
d43)遍历步骤c)所述的直线特征组初匹配集合中的每个搜索影像直线特征组,计算其在候选匹配集合CanLgLh中的每个直线特征组的坐标系统中的象限编号,以象限编号作为向量元素,遍历完成后得到候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量;
d44)计算参考影像直线特征组LgLh的拓扑描述符向量与候选匹配集合CanLgLh中的每个直线特征组的拓扑描述符向量之间的欧氏距离,保留候选匹配集合CanLgLh中欧氏距离最小的a个直线特征组,剔除其他直线特征组,更新候选匹配集合CanLgLh。
7.根据权利要求4所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤d5)包括如下具体步骤:
d51)将直线特征组LgLh的交点作为第一类稳定点;
d52)遍历直线特征Lg上的每个像素点,以正在遍历的像素点沿直线的左侧5个像素的灰度均值和右侧5个像素的灰度均值之差作为正在遍历的像素点的显著度;遍历完成以后,将直线特征Lg的两个端点以及直线特征Lg上除两个端点以外的显著度最大的一个像素点作为第二类稳定点;
d53)按步骤d52)方法找到直线特征Lh上除两个端点以外的显著度最大的一个像素点,将其与直线特征Lh的两个端点一并作为第三类稳定点;
d54)分别从第二类稳定点和第三类稳定点中各取一个点,与第一类稳定点一起按步骤c3)所述方法确定一个平行四边形区域,并将平行四边形区域归一化为正方形区域,即为直线特征组LgLh的特征区域;在归一化过程中,将第一类稳定点对应于正方形区域的左下角,将归一化后区域的边长固定为r;
d55)将直线特征组LgLh的特征区域等间隔划分为4行4列共16个子区域,并在每个子区域内计算8个方向的梯度方向直方图,将梯度方向直方图累积得到128维的特征向量,并对特征向量进行归一化消除光照变化的影响,得到直线特征组LgLh的特征描述符;由于直线特征组LgLh有3个第二类稳定点和3个第三类稳定点,因此在步骤d54)中直线特征组LgLh将得到9个特征区域;分别对这9个特征区域计算特征描述符,并将得到的9个特征描述符都分配给直线特征组LgLh;
d56)按步骤d51)至步骤d55)所述方法为候选匹配集合CanLgLh中的每个直线特征组计算9个特征描述符。
8.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤e)包括如下具体步骤:
e2)遍历参考影像未匹配直线特征集合中的直线特征,正在遍历的直线特征为Ld,基于基础矩阵Fupdated计算直线特征两个端点在搜索影像上的核线e1和e2,按步骤d)所述的重叠约束从搜索影像未匹配直线特征集合中为直线特征Ld寻找候选匹配直线特征,得到候选匹配集合CanLd;如果候选匹配集合CanLd为空集,则转入步骤e9);否则,转入步骤e3);
e3)按公式(2)为参考影像直线特征Ld确定特征区域:
式(2)中,x表示影像上的像素点,dist()为点到直线的距离函数,length()表示直线特征的长度,Ld⊥表示直线特征Ld的中垂线,s是一个控制支撑区域大小的参数;
e4)对于候选匹配集合CanLd中的任意一条直线特征计算其所在直线与参考影像直线特征Ld的两个端点在搜索影像上的核线e1和e2的交点IntPi 1和IntPi 2;按公式(2)所述方法为交点IntPi 1和IntPi 2所确定的直线段计算特征区域,并以此特征区域作为直线特征的特征区域以此方法为候选匹配集合CanLd中的所有直线特征计算特征区域;
e7)按公式(3)计算参考影像直线特征Ld与候选匹配集合CanLd中每条直线特征的相似度:
式中,Sim表示两条直线特征的相似度,|| ||表示计算两个向量的欧氏距离,min()表示取最小值;
e8)根据步骤e7)计算的相似度值,找到候选匹配集合CanLd中相似度最高的一条直线特征,如果其对应的相似度值大于阈值Tsim,则认为该候选直线特征是参考影像直线特征Ld的匹配直线特征;
9.根据权利要求1所述的局部结构与拓扑几何约束的倾斜影像直线特征匹配方法,其特征在于,步骤f)包括如下具体步骤:
f3)遍历集合中的直线特征匹配,正在遍历的直线特征匹配为其中直线特征和分别是步骤a)获得的合并后的参考影像直线特征集合和合并后的搜索影像直线特征集合中的直线特征;根据步骤a)获得的参考影像合并后的直线特征与合并前直线特征的对应关系MR和搜索影像合并后的直线特征与合并前直线特征的对应关系MS,分别从步骤a)所述的参考影像直线特征集合LineSetR和搜索影像直线特征集合LineSetS中找到直线特征对应的合并前的参考影像直线特征以及直线特征对应的合并前的搜索影像直线特征
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010261275.6A CN111461032B (zh) | 2020-04-03 | 2020-04-03 | 局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010261275.6A CN111461032B (zh) | 2020-04-03 | 2020-04-03 | 局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111461032A CN111461032A (zh) | 2020-07-28 |
CN111461032B true CN111461032B (zh) | 2022-09-09 |
Family
ID=71680550
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010261275.6A Active CN111461032B (zh) | 2020-04-03 | 2020-04-03 | 局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111461032B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112163622B (zh) * | 2020-09-30 | 2022-07-05 | 山东建筑大学 | 全局与局部融合约束的航空宽基线立体像对线段匹配方法 |
CN115346058B (zh) * | 2022-10-19 | 2022-12-20 | 深圳市规划和自然资源数据管理中心(深圳市空间地理信息中心) | 一种直线特征匹配方法、系统、电子设备及介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015042772A1 (zh) * | 2013-09-24 | 2015-04-02 | 中国科学院自动化研究所 | 一种遥感图像显著目标变化检测方法 |
CN107025449A (zh) * | 2017-04-14 | 2017-08-08 | 西南交通大学 | 一种视角不变局部区域约束的倾斜影像直线特征匹配方法 |
CN108171731A (zh) * | 2017-09-28 | 2018-06-15 | 中国矿业大学(北京) | 一种顾及拓扑几何多要素约束的最小影像集自动优选方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101315698B (zh) * | 2008-06-25 | 2010-06-02 | 中国人民解放军国防科学技术大学 | 基于直线特征图像配准中的特征匹配方法 |
CN103353984A (zh) * | 2013-04-03 | 2013-10-16 | 西安交通大学 | 一种非几何约束多幅图像线段匹配的方法 |
CN105809678B (zh) * | 2016-03-04 | 2018-08-31 | 中国民航大学 | 一种短基线条件下两视图间线段特征全局匹配方法 |
CN106780577B (zh) * | 2016-12-02 | 2019-08-27 | 辽宁工程技术大学 | 一种基于组特征的直线匹配方法 |
CN109711321B (zh) * | 2018-12-24 | 2020-09-01 | 西南交通大学 | 一种结构自适应的宽基线影像视角不变直线特征匹配方法 |
CN109671110B (zh) * | 2018-12-29 | 2020-08-25 | 西南交通大学 | 一种局部几何结构约束的城区宽基线影像特征点匹配方法 |
-
2020
- 2020-04-03 CN CN202010261275.6A patent/CN111461032B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2015042772A1 (zh) * | 2013-09-24 | 2015-04-02 | 中国科学院自动化研究所 | 一种遥感图像显著目标变化检测方法 |
CN107025449A (zh) * | 2017-04-14 | 2017-08-08 | 西南交通大学 | 一种视角不变局部区域约束的倾斜影像直线特征匹配方法 |
CN108171731A (zh) * | 2017-09-28 | 2018-06-15 | 中国矿业大学(北京) | 一种顾及拓扑几何多要素约束的最小影像集自动优选方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111461032A (zh) | 2020-07-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Fan et al. | Line matching leveraged by point correspondences | |
CN111461032B (zh) | 局部结构与拓扑几何约束的倾斜影像直线特征匹配方法 | |
CN106683137B (zh) | 基于人工标志的单目多目标识别与定位方法 | |
CN110490913B (zh) | 基于角点与单线段编组的特征描述算子进行影像匹配方法 | |
Micusik et al. | Descriptor free visual indoor localization with line segments | |
CN108921895B (zh) | 一种传感器相对位姿估计方法 | |
CN109711321B (zh) | 一种结构自适应的宽基线影像视角不变直线特征匹配方法 | |
CN109671110B (zh) | 一种局部几何结构约束的城区宽基线影像特征点匹配方法 | |
CN107818598B (zh) | 一种基于视觉矫正的三维点云地图融合方法 | |
CN101782969A (zh) | 一种基于物理定位信息的图像特征可靠匹配的方法 | |
CN104933434A (zh) | 一种结合LBP特征提取和surf特征提取方法的图像匹配方法 | |
CN105354578A (zh) | 一种多目标物体图像匹配方法 | |
CN105184786B (zh) | 一种浮点型三角形特征描述方法 | |
CN102722887A (zh) | 一种图像配准方法及装置 | |
CN111612728A (zh) | 一种基于双目rgb图像的3d点云稠密化方法和装置 | |
CN107025449A (zh) | 一种视角不变局部区域约束的倾斜影像直线特征匹配方法 | |
CN108182705A (zh) | 一种基于机器视觉的三维坐标定位方法 | |
Li et al. | Line segment matching: A benchmark | |
CN102446356A (zh) | 一种获取均匀分布匹配点的遥感影像并行自适应匹配方法 | |
CN112163622A (zh) | 全局与局部融合约束的航空宽基线立体像对线段特征匹配方法 | |
CN102663733A (zh) | 基于特征组对的特征点匹配方法 | |
CN114463396B (zh) | 一种利用平面形状和拓扑图投票的点云配准方法 | |
CN107610174A (zh) | 一种鲁棒的基于深度信息的平面检测方法及系统 | |
Zheng et al. | Lattice-point mutually guided ground-to-aerial feature matching for urban scene images | |
CN105118062B (zh) | 一种基于单端点特征描述的线段匹配方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |