CN116071491A - 一种多视角三维点云重建方法及装置 - Google Patents
一种多视角三维点云重建方法及装置 Download PDFInfo
- Publication number
- CN116071491A CN116071491A CN202211573562.6A CN202211573562A CN116071491A CN 116071491 A CN116071491 A CN 116071491A CN 202211573562 A CN202211573562 A CN 202211573562A CN 116071491 A CN116071491 A CN 116071491A
- Authority
- CN
- China
- Prior art keywords
- points
- point
- candidate
- angle
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
Abstract
本发明公开一种多视角三维点云重建方法及装置,该方法步骤包括:S01.在不同视角下采集预先布置的多个标志点的点云数据;S02.对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角数据帧内任意两点之间的距离,根据距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及邻域点,如果一个标志点同时与两个以上的标志点配对,再根据角度大小关系的相似性进行二次匹配;S03.根据相邻视角数据帧之间同名点的匹配关系,得到坐标系转换关系;S04.将所有数据转换至同一视角坐标系后,进行三维模型重建。本发明具有实现方法简单、重建效率以及精度高且适用范围广、灵活性强等优点。
Description
技术领域
本发明涉及三维重建技术领域,尤其涉及一种多视角三维点云重建方法及装置。
背景技术
在3D视觉领域,三维点云重建技术是实现目标表面信息还原的一个重要技术手段,且三维重建技术具有非常广泛的应用,如质量检测、逆向重建等。在三维重建技术出现以前,为了获取一个工件、模具尺寸或者获取目标模型,需要进行非常复杂的人工测量或者复制的模型设计,而利用三维重建技术,可以快速获取目标的三维数据进行逆向工程或者快速获取目标模型,可以大大降低经济成本与时间成本,且采用三维重建技术可实现多视角、柔性化的高精度检测,解决传统不能实现全方面、多样性检测的问题。
针对于对待测目标的三维重建,现有技术中通常是采用目标特征点提取与匹配方式,即扫描待测目标并提取出能够体现待测目标特征的目标特征点,然后基于该目标特征点进行匹配以实现三维重建。但是上述三维重建方式实现过程复杂,且需要依赖于对目标自身特征点的提取,如果目标特征不明显或者不具备易匹配的特征,则无法提取出目标特征点,导致无法进行高精度点云拼接,即无法完成高精度三维重建。
发明内容
本发明要解决的技术问题就在于:针对现有技术存在的技术问题,本发明提供一种实现方法简单、重建效率以及精度高且适用范围广、灵活性强的多视角三维点云重建方法及装置。
为解决上述技术问题,本发明提出的技术方案为:
一种多视角三维点云重建方法,步骤包括:
S01.在不同视角下采集预先布置的多个标志点的点云数据,所述标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
S02.对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果所述候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
S03.根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
S04.根据所述坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重建。
进一步的,所述步骤S02中根据两个视角数据帧中各点与同一视角数据帧中其他点之间的空间距离大小关系的相似性进行初步匹配的具体步骤包括:
S201.计算两个视角的数据帧内任意两点之间的距离,分别得到第一距离矩阵A以及第二距离矩阵B,所述第一距离矩阵A为一个视角的数据帧计算得到,所述第二距离矩阵B为另一个视角的数据帧计算得到;
S202.计算所述第一距离矩阵A与第二距离矩阵B中各距离点之间的差值,以根据所述差值大小判定相似性;
S203.查找出所述第一距离矩阵A与所述第二距离矩阵B中距离点之间的差值小于预设阈值的所有距离点;
S204.根据所述第一距离矩阵A中查找出的所有距离点确定出候选同名点以及所述候选同名点的邻域点形成第一候选集合N1,根据所述第二距离矩阵B中查找出的所述距离点确定出候选标志点以及所述候选标志点的邻域点形成第二候选集合M1。
进一步的,所述第一距离矩阵A以及第二距离矩阵B中每行的元素对应为第i个点到其余点之间的空间距离,i=1,2,……,m,m为数据帧中点的数量;所述步骤S204中,如果判断到第一距离矩阵A中第k行与第二距离矩阵B中第p行元素之间差值小于预设阈值的数量超过预设数量阈值,则判定第k行与第p行所对应的点为候选同名点,所述差值小于预设阈值的距离点中与候选同名点计算距离的点为所述候选同名点的邻域点,k,p分别对应为距离矩阵A、B的任意行数。
进一步的,所述步骤S02中根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配的步骤包括:
S211.计算所述第一候选集合N1中任意两个元素点之间的角度值形成第一角度矩阵,计算所述第二候选集合M1中任意两个元素点之间的角度值形成第二角度矩阵;
S212.如果所述第一角度矩阵中第一目标候选同名点的角度值以及对应的邻域点的角度值与所述第二角度矩阵中第二目标候选同名点的角度值以及对应邻域点的角度值相似度最大,则判定第一目标候选同名点与所述第二目标候选同名点为匹配成功的标志点对。
进一步的,所述步骤S212中,计算所述第一角度矩阵中各角度值与所述第二角度矩阵中各角度值之间的差值,如果第一目标候选同名点的角度值以及对应的邻域点的角度值与所述第二目标候选同名点的角度值以及对应邻域点的角度值之间的差值小于预设阈值的差值点数量最多,则判定所述角度值相似度最大。
进一步的,所述步骤S03中,如果当前得到的同名点数量大于预设阈值,采用SVD奇异值分解法求解出相邻视角数据帧之间的转换矩阵,以使用求解后的转换矩阵完成相邻两帧数据的拼接;如果使用求解后的转换矩阵不能够完成相邻两帧数据的拼接,则将当前得到的同名点根据所具有的邻域点的数量进行排序,并去掉邻域点最小的同名点后,重新采用SVD奇异值分解法进行求解以及进行相邻两帧数据的拼接,直至最终完成拼接。
进一步的,所述步骤S03后、步骤S04前还包括对转换后数据进行全局优化,以使得全局误差e最小,所述全局优化采用基于位姿图优化方法,并采用回环检测建立多帧强约束关系,以实现相机外参优化,所述回环检测为按照回路循环的方式进行图像采集;或采用对基于光束平差优化方法以及回环检测实现相机外参优化。
进一步的,所述全局误差e按下式计算得到:
其中,Mm、Mn分别表示第m帧与第n帧转换到第一帧下的转换矩阵,Pmi、Pni分别表示第m帧与第n帧的第i对同名点。
一种多视角三维点云重建装置,包括:
采集模块,用于在不同视角下采集预先布置的多个标志点的点云数据,所述标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
匹配查找模块,用于对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果所述候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
转换关系确定模块,用于根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
三维重建模块,用于根据所述坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重建。
一种计算机设备,包括处理器以及存储器,所述存储器用于存储计算机程序,所述处理器用于执行所述计算机程序以执行如上述方法。
与现有技术相比,本发明的优点在于:
1、本发明通过预先在待测目标上或附近布置易于识别、匹配的标志点,在不同视角下采集各标志点,根据相邻两个视角的数据帧之间共同标志点的匹配关系间接获取相邻视角数据帧之间的坐标转换关系,最终求得所有视角下两两视角之间的坐标转换关系,进而利用该坐标转换关系将所有数据配准在统一坐标系下,即可实现快速、高精度的点云拼接,完成高效、高精度的三维模型重建,可以灵活适用于各类场景,且不受限于待测目标的形状尺寸或者特征是否易显性等限制。
2、本发明在共同标志点的查找过程中,通过先基于距离关系进行粗匹配,查找出相邻视角数据帧中标志点与所在的数据帧内其余点之间的空间距离大小关系相似性满足预设要求的候选同名点,可以快速模糊查找出所有可能的同名点,如果存在一对二或一对多的歧义以及误匹配情况,进一步通过根据候选同名点与其余点之间的角度关系再次进行二次匹配,依据角度相似度最终确定出正确的匹配关系,可以充分利用空间点的邻域关系快速、准确的确定出最终的标志点对关系,解决一对二或一对多的歧义问题,有效提升共同标志点的匹配精度、降低误匹配率。
3、本发明进一步通过根据不同适用场景采用不同的优化方法,对于不适用内参优化的相机,采用基于位姿图优化与回环检测的方式,提升转换矩阵准确率,优化全局拼接效果;对于适用内参优化的相机,则采用基于光速平差与回环检测的方式,提升标志点识别的准确率,可以灵活适用于不同应用场景实现全局优化。
附图说明
图1是本实施例多视角三维点云重建方法的实现流程示意图。
图2是在具体应用实施例中存在误匹配的情况示意图。
图3是在具体应用实施例中采用本发明方法消除误匹配的结果示意图。
图4是在具体应用实施例中采用本发明方法进行优化前后的效果对比示意图。
图5是本发明具体应用实施例实现多视角三维点云重建的详细流程示意图。
图6是本发明具体应用实施例中实现共同标志点查找的实现流程示意图。
具体实施方式
以下结合说明书附图和具体优选的实施例对本发明作进一步描述,但并不因此而限制本发明的保护范围。
如本发明公开所示,除非上下文明确提示例外情形,本发明公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。同样,“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。
如图1所示,本实施例多视角三维点云重建方法的步骤包括:
S01.在不同视角下采集预先布置的多个标志点的点云数据,所述标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
S02.对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果所述候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
S03.根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
S04.根据坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重建。
本实施例通过预先在待测目标上或附近布置易于识别、匹配的标志点,在不同视角下采集各标志点,由于相邻两个视角采集的数据帧中具有共同的标志点,因而根据相邻两个视角的数据帧之间共同标志点(同名点)的匹配关系可以间接获取相邻视角数据帧之间的坐标转换关系,最终可求得所有视角下两两视角之间的坐标转换关系,进而利用该坐标转换关系将所有数据配准在统一坐标系下,即可实现快速、高精度的点云拼接,完成高效、高精度的三维模型重建。
同时在共同标志点的查找过程中,考虑到若两个标志点为同名点,则该两个标志点与周围其余点之间的空间距离、角度大小通常会具有较高的相似性,利用同名点之间的上述特性,本实施例通过先基于距离关系进行粗匹配,查找出相邻视角数据帧中标志点与所在的数据帧内其余点之间的空间距离大小关系相似性满足预设要求的候选同名点,可以快速模糊查找出所有可能的同名点,实现共同标志点的粗匹配,考虑到标志点中容易出现两两距离接近或相等情况,利用空间距离会将所有距离满足要求的标志点进行配对,使得产生一对二(一个标志点同时与两个标志点形成共同标志点对)或一对多(一个标志点同时与三个以上的标志点形成共同标志点对)的歧义以及误匹配情况,进一步通过根据候选同名点与其余点之间的角度关系再次进行二次匹配,依据角度相似度最终确定出正确的匹配关系,从标志点之间的空间距离关系延申至角度关系,可以充分利用空间点的邻域关系快速、准确的确定出最终的标志点对关系,解决一对二或一对多的歧义问题,有效降低误匹配,可以灵活适用于各类场景,且不受限于待测目标的形状尺寸或者特征是否易显性等限制。
上述标志点具体可采用非编码圆形标志点,布置在待测目标上或者目标附近,布置时只需保证相邻视角能够同时扫描到圆形标志点以及待测目标即可。在具体应用实施例中,将圆形标志点作为待提取的特征,利用3D相机获取圆形标志点的图像数据以及点云数据,相邻两个视角采集数据帧具有共同的标志点,则相机两个视角的坐标转换关系可以通过寻找相邻视角间共同标志点(同名点)的数学关系间接获取得到。可以理解的是,标志点的形状、类型具体可以根据实际需求选取,例如可以采用编码点替代非编码点,或者编码点与非编码点结合的方式。
本实施例步骤S02根据两个视角数据帧中各点与同一视角数据帧中其他点之间的空间距离大小关系的相似性进行初步匹配的具体步骤包括:
S201.计算两个视角的数据帧内任意两点之间的距离,分别得到第一距离矩阵A以及第二距离矩阵B,第一距离矩阵A为一个视角的数据帧计算得到,第二距离矩阵B为另一个视角的数据帧计算得到;
S202.计算第一距离矩阵A与第二距离矩阵B中各距离点之间的差值,以根据差值大小判定相似性;
S203.查找出第一距离矩阵A与所述第二距离矩阵B中距离点之间的差值小于预设阈值的所有距离点;
S204.根据第一距离矩阵A中查找出的所有距离点确定出候选同名点以及候选同名点的邻域点形成第一候选集合N1,根据第二距离矩阵B中查找出的所述距离点确定出候选标志点以及候选标志点的邻域点形成第二候选集合M1。
本实施例通过将相邻数据帧中其中一个数据帧的一个点到其他点的距离值,与另一个数据帧的一个点到其他点的距离值作差,统计差值小于阈值的点对数值,该数值大小可以反映为相似性大小,数值越大则相似性越高,反之相似性越低,则通过查找出距离点之间的差值小于预设阈值的所有距离点即可确定出候选同名点以及邻域点。
在具体应用实施例中,第一距离矩阵A以及第二距离矩阵B中每行的元素对应为第i个点到其余点之间的空间距离,i=1,2,……,m,m为数据帧中点的数量;所述步骤S204中,如果判断到第一距离矩阵A中第k行与第二距离矩阵B中第p行元素之间差值小于预设阈值的数量超过预设数量阈值,则判定第k行与第p行所对应的点为候选同名点,所述差值小于预设阈值的距离点中与候选同名点计算距离的点为所述候选同名点的邻域点,k,p分别对应为距离矩阵A、B的任意行数。上述距离矩阵A、B具体如下所示:
其中,矩阵A根据前一视角采集得到的点集S构建得到,矩阵B根据后一视角采集得到的点集T构建得到,S0,1标识当前点集S中索引0与1点的距离,矩阵中第i行表示点集的第i个点。
本实施例根据最大匹配原理,先基于空间关系相似性最大匹配查找出候选同名点。例如对于点集S中的某一点p与点集T中的某一点q为同名点,则从空间关系上,p与q会存在距离或角度相似性最大的点,即p与点集S中其他点的距离,与q与点集T中其他点的距离会存在多个相等的距离,距离点相等的数量越多,表明两点的相似性越大,基于该特性通过最大匹配原理即可查找出同名点。
以上述构建的矩阵(1)、(2)为例,对矩阵A中的第i行与矩阵B中的每一行进行距离元素对比,如果元素对比满足式(1),即认为元素相等,如果第i行元素与B中的第j行有指定数量(如具体可取3)以上的元素差值小于预设差值阈值t1,即认为Si与Tj为候选同名点。例如如果S0,1、T0,1,S0,2、T0,2,S0,k、T0,x满足式(1),则说明S0、T0为一组候选同名点,S1、S2、Sk即为S0的邻域点,T1、T2、Tx为T0的邻域点,将S0、S1、S2、Sk与T0、T1、T2、Tx存入集合N1、M1,得到的集合N1、M1具体如式(2)所示,N1、M1中第一列即为查找出的候选同名点、其余为候选同名点的邻域点。
|Si,p-Tj,q|≤=t1 (1)
经过上述基于距离的粗匹配后,可以查找出所有可能的同名点(共同标志点对),而这其中可能会包含一对二或一对多的情况(例如式(2)中S0、T0以及S1、T0同时匹配为同名点,T0同时与S0、S1配对成功),需要进一步确定出正确的匹配关系。考虑到如果是正确的共同标志点对,则两者与周围其他点之间的角度大小关系也应当是最为相似的,本实例进一步利用该角度关系特性,在基于距离进行粗匹配后再根据一个候选集合中各点与集合内其余点之间的角度大小与另一个候选集合中各点与集合内其余点之间的角度大小之间的相似度关系,对各标志点对进行二次匹配以最终确定出正确的共同标志点对。
本实施例步骤S02中根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配的步骤包括:
S211.计算第一候选集合N1中任意两个元素点之间的角度值形成第一角度矩阵,计算第二候选集合M1中任意两个元素点之间的角度值形成第二角度矩阵;
S212.如果第一角度矩阵中第一目标候选同名点的角度值以及对应的邻域点的角度值与第二角度矩阵中第二目标候选同名点的角度值以及对应邻域点的角度值相似度最大,则判定第一目标候选同名点与第二目标候选同名点为匹配成功的标志点对。
本实施例通过在存在一对二或一对多的同名点匹配的情况下,采用角度矩阵最大匹配原理,利用角度差值小于预设阈值的点对数值大小判断点对的相似性,通过查找出与其余点之间的角度值的大小关系相似度最大的同名点作为最终匹配成功的标志点对,以有效解决一对二或一对多的误匹配问题。
如图2所示,当点集S中出现距离信息相似的两点S1、S2则容易造成误匹配,S1、S2真正同名点应为T2、T1,但由于S1、S2距离信息相似,造成S1误匹配T1,S2误匹配T2。进而分别对S1、S2计算与S点集中其他候选同名点的角度关系,同样T1、T2计算T点集中其他候选点的角度关系,利用最大匹配原理获得真正的同名点对。
以上式(2)为例,S0、T0以及S1、T0同时匹配为同名点,采用角度矩阵进行进一步判定,将N1、M1的第一行点集与第二行点集以两两角度值为元素建立角度矩阵,利用角度矩阵最大匹配方法剔除出歧义同名点,例如若S0、S1、S2、Sk组合的角度与T0、T1、T2、Tx具有最大匹配特性,说明S0、T0为正确同名点,剔除掉。进一步的,对于不是一对多的同名点,可以通过直接判断是否具有3个以上的角度相似性(即是否有三个以上与周围点之间的角度大小相似),如果有则为正确同名点,否则判定不是同名点,集合N1、M1经过上述筛选后的点集为最终的匹配结果点集N2、M2。
本步骤S212中,计算第一角度矩阵中各角度值与第二角度矩阵中各角度值之间的差值,如果第一目标候选同名点的角度值以及对应的邻域点的角度值与第二目标候选同名点的角度值以及对应邻域点的角度值之间的差值小于预设阈值的差值点数量最多,则判定角度值相似度最大。即由角度值之间的距离判断角度值之间的相似性,如果角度值之间的距离小于预设阈值,则表明两个角度值具有相似性,则通过查找两个角度矩阵中角度值之间的差值小于预设阈值的差值点数量最多的点即可确定出最终正确的同名点。
本实施例步骤S03中,如果当前得到的同名点数量大于预设阈值,采用SVD奇异值分解法求解出相邻视角数据帧之间的转换矩阵,以使用求解后的转换矩阵完成相邻两帧数据的拼接;如果使用求解后的转换矩阵不能够完成相邻两帧数据的拼接,则将当前得到的同名点根据所具有的邻域点的数量进行排序,并去掉邻域点最小的同名点后,重新采用SVD奇异值分解法进行求解以及进行相邻两帧数据的拼接,直至最终完成拼接。如果N2、M2中匹配同名点数量达到一定数量,则直接通过SVD奇异值分解法即可求解出前一帧视角与后一帧视角的转换矩阵,实现相邻两帧数据的拼接,如果求解后不能实现两帧数据拼接,则说明N2、M2存在错误同名点,则进一步根据同名点所包含的邻域点的数量将N2、M2进行排序,去掉邻域点最小的同名点后再次基于SVD计算是否能实现拼接,否则继续迭代尝试,直到实现正确拼接为止,如果一直无法正确拼接,则可判定当前两帧数据不存在满足预设数量同名点的要求。
所有帧点云经过共同标志点匹配转换到同一坐标系之后,由于相邻帧之间粗拼接会存在误差,进而多帧拼接之后会产生累积误差,累积误差会严重影响拼接质量。为消除上述累积误差,本实施例步骤S03后、步骤S04前还包括对转换后数据进行全局优化步骤,以对转换后数据进行进一步全局优化,消除多帧拼接产生的累积误差,确保三维重建的效果。
将相邻帧数据进行转换后全局误差可按照下式计算得到:
其中,Mm、Mn分别表示第m帧与第n帧转换到第一帧下的转换矩阵,Pmi、Pni分别表示第m帧与第n帧的第i对同名点。全局优化即是优化Mm、Mn、Pmi、Pni使得全局误差e最小。
考虑到采集相机可能适用内参优化,也可能不适用内参优化,本实施例对于相机不适用内参优化的情况,采用基于位姿图优化的原理加入回环检测,即拍摄轨迹加入回环,例如第一帧拍摄了A区域,经过多帧拍摄后,相机重新拍摄A区域,如此形成了一个回环。利用回环检测建立多帧强约束关系,实现相机外参优化。上述外参即为与第一帧的转换矩阵,也即式(3)中的Mm、Mn。由于标志点中心坐标识别与外参都存在误差,只优化外参的准确率提升有限,本实施例通过利用回环检测结合光束平差的方式,可同时优化内外参,从而进一步提高标志点识别准确率,使得标志点中心坐标更接近真正,进而可提高相邻视角间转换关系的准确率,进而结合对Mm、Mn、Pmi、Pni进行优化,可使得全局e更小,有效提升全局拼接效果。
本实施例对于相机可适用内参优化情形,则采用基于光束平差优化原理,外加回环检测的方式实现,可以提升标志点识别的准确率,同时提升转换矩阵准确率,优化全局拼接效果。
本实施例通过根据不同适用场景采用不同的优化方法,对于不适用内参优化的相机,采用基于位姿图优化与回环检测的方式,提升转换矩阵准确率,优化全局拼接效果;对于适用内参优化的相机,则采用基于光速平差与回环检测的方式,提升标志点识别的准确率,可以灵活适用于不同应用场景实现全局优化。
在具体应用实施例中,如图4所示,其中左侧图对应为优化前标志点数据,右侧图为优化后标志点数据,由图中可以看出,优化前灰色填充标志点与黑色填充标志点由于累积误差重合不高,会造成分层现象,采用本实施例上述方法进行全局优化处理后,标志点重合高,可以使得分层现象基本消失,累积误差消除。
以下以在具体应用实施例中,采用本发明上述方法实现多视角三维点云重建为例,对本发明进行进一步说明。如图5所示,本实施例实现多视角三维点云重建的详细步骤为:
S1.在待测工件上贴上圆形标志点,使用3D相机在不同视角下采集标志点的图像数据以及3D点云数据,需要满足相邻视角有共同标志点;
S2.通过构建距离矩阵以及角度矩阵,利用距离矩阵以及角度矩阵关系对相邻视角的数据帧之间进行共同标志点(同名点)查找,并计算相邻两帧数据坐标系的转换关系。
如图6所示,进行共同标志点(同名点)查找的详细步骤为:
S2.1.分别对前一帧与后一帧的标志点点云,求出任意两点之间的空间距离,建立距离矩阵A、B,如式(1)、(2)所示。
S2.2.基于匈牙利算法最大匹配原理,查找出矩阵A匹配矩阵B的同名点:对矩阵A中的第i行与矩阵B中的每一行进行距离元素对比,如果元素对比满足式(1),即认为元素相等,如果第i行元素与B中的第j行有超过预设数量的元素差值小于T1,即认为Si与Tj为同名点,将Si与Tj存入新矩阵N1、M1,以重新建立同名点矩阵。矩阵N1、M1的行序号即是一组同名点,得到的矩阵N1、M1如式(2)所示。
S2.3.对于N1、M1中可能存在的错误匹配,将N1、M1中的同名点以两两角度值为元素建立角度矩阵,利用角度矩阵最大匹配方法剔除出歧义同名点,将正确同名点存入新矩阵N2、M2。
S2.4.再次采用角度矩阵提取同名点去除错误匹配,存入新矩阵矩阵N3、M3;如果N3、M3中匹配同名点数量大于预设数量时,通过SVD奇异值分解法求解出前一帧视角与后一帧视角的转换矩阵,实现相邻两帧数据的拼接。
S3.利用步骤S2得到的相邻视角之间的转换矩阵实现将数据转换至任一视角坐标系下,具体可选择第一帧视角为基础坐标系。
S4.对转换后数据进行全局优化以消除累积误差,进行三维模型重建。
本实施例多视角三维点云重建装置包括:
采集模块,用于在不同视角下采集预先布置的多个标志点的点云数据,标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
匹配查找模块,用于对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
转换关系确定模块,用于根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
三维重建模块,用于根据所述坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重。
本实施例中,匹配查找模块包括用于根据两个视角数据帧中各点与同一视角数据帧中其他点之间的空间距离大小关系的相似性进行初步匹配的第一匹配单元,包第一匹配单元:
距离计算子单元,用于计算两个视角的数据帧内任意两点之间的距离,分别得到第一距离矩阵A以及第二距离矩阵B,所述第一距离矩阵A为一个视角的数据帧计算得到,第二距离矩阵B为另一个视角的数据帧计算得到;
距离差值计算子单元,用于计算第一距离矩阵A与第二距离矩阵B中各距离点之间的差值,以根据差值大小判定相似性;
查找子单元,用于查找出第一距离矩阵A与所述第二距离矩阵B中距离点之间的差值小于预设阈值的所有距离点;
候选集合构建子单元,用于根据所述第一距离矩阵A中查找出的所有距离点确定出候选同名点以及所述候选同名点的邻域点形成第一候选集合N1,根据所述第二距离矩阵B中查找出的所述距离点确定出候选标志点以及所述候选标志点的邻域点形成第二候选集合M1。
本实施例中,匹配查找模块包括根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配的第二匹配单元,第二匹配单元包括:
角度计算子单元,用于计算第一候选集合N1中任意两个元素点之间的角度值形成第一角度矩阵,计算第二候选集合M1中任意两个元素点之间的角度值形成第二角度矩阵;
匹配子单元,如果第一角度矩阵中第一目标候选同名点的角度值以及对应的邻域点的角度值与所述第二角度矩阵中第二目标候选同名点的角度值以及对应邻域点的角度值相似度最大,则判定第一目标候选同名点与所述第二目标候选同名点为匹配成功的标志点对。
本实施例中,还包括连接在转换关系确定模块与三维重建模块之间的全局优化模块,用于对转换后数据进行全局优化步骤,所述全局优化步骤采用基于位姿图优化方法,并采用回环检测建立多帧强约束关系,以实现相机外参优化;或采用对基于光束平差优化方法以及回环检测实现优化。
本实施例多视角三维点云重建装置与上述多视角三维点云重建方法为一一对应,在此不再一一赘述。
本实施例还提供计算机设备,包括处理器以及存储器,存储器用于存储计算机程序,处理器用于执行所述计算机程序以执行如上述方法。
上述只是本发明的较佳实施例,并非对本发明作任何形式上的限制。虽然本发明已以较佳实施例揭露如上,然而并非用以限定本发明。因此,凡是未脱离本发明技术方案的内容,依据本发明技术实质对以上实施例所做的任何简单修改、等同变化及修饰,均应落在本发明技术方案保护的范围内。
Claims (10)
1.一种多视角三维点云重建方法,其特征在于,步骤包括:
S01.在不同视角下采集预先布置的多个标志点的点云数据,所述标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
S02.对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果所述候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
S03.根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
S04.根据所述坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重建。
2.根据权利要求1所述的多视角三维点云重建方法,其特征在于,所述步骤S02中根据两个视角数据帧中各点与同一视角数据帧中其他点之间的空间距离大小关系的相似性进行初步匹配的具体步骤包括:
S201.计算两个视角的数据帧内任意两点之间的距离,分别得到第一距离矩阵A以及第二距离矩阵B,所述第一距离矩阵A为一个视角的数据帧计算得到,所述第二距离矩阵B为另一个视角的数据帧计算得到;
S202.计算所述第一距离矩阵A与第二距离矩阵B中各距离点之间的差值,以根据所述差值大小判定相似性;
S203.查找出所述第一距离矩阵A与所述第二距离矩阵B中距离点之间的差值小于预设阈值的所有距离点;
S204.根据所述第一距离矩阵A中查找出的所有距离点确定出候选同名点以及所述候选同名点的邻域点形成第一候选集合N1,根据所述第二距离矩阵B中查找出的所述距离点确定出候选标志点以及所述候选标志点的邻域点形成第二候选集合M1。
3.根据权利要求2所述的多视角三维点云重建方法,其特征在于,所述第一距离矩阵A以及第二距离矩阵B中每行的元素对应为第i个点到其余点之间的空间距离,i=1,2,……,m,m为数据帧中点的数量;所述步骤S204中,如果判断到第一距离矩阵A中第k行与第二距离矩阵B中第p行元素之间差值小于预设阈值的数量超过预设数量阈值,则判定第k行与第p行所对应的点为候选同名点,所述差值小于预设阈值的距离点中与候选同名点计算距离的点为所述候选同名点的邻域点,k,p分别对应为距离矩阵A、B的任意行数。
4.根据权利要求2所述的多视角三维点云重建方法,其特征在于,所述步骤S02中根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配的步骤包括:
S211.计算所述第一候选集合N1中任意两个元素点之间的角度值形成第一角度矩阵,计算所述第二候选集合M1中任意两个元素点之间的角度值形成第二角度矩阵;
S212.如果所述第一角度矩阵中第一目标候选同名点的角度值以及对应的邻域点的角度值与所述第二角度矩阵中第二目标候选同名点的角度值以及对应邻域点的角度值相似度最大,则判定第一目标候选同名点与所述第二目标候选同名点为匹配成功的标志点对。
5.根据权利要求4所述的多视角三维点云重建方法,其特征在于,所述步骤S212中,计算所述第一角度矩阵中各角度值与所述第二角度矩阵中各角度值之间的差值,如果第一目标候选同名点的角度值以及对应的邻域点的角度值与所述第二目标候选同名点的角度值以及对应邻域点的角度值之间的差值小于预设阈值的差值点数量最多,则判定所述角度值相似度最大。
6.根据权利要求1~5中任意一项所述的多视角三维点云重建方法,其特征在于,所述步骤S03中,如果当前得到的同名点数量大于预设阈值,采用SVD奇异值分解法求解出相邻视角数据帧之间的转换矩阵,以使用求解后的转换矩阵完成相邻两帧数据的拼接;如果使用求解后的转换矩阵不能够完成相邻两帧数据的拼接,则将当前得到的同名点根据所具有的邻域点的数量进行排序,并去掉邻域点最小的同名点后,重新采用SVD奇异值分解法进行求解以及进行相邻两帧数据的拼接,直至最终完成拼接。
7.根据权利要求1~5中任意一项所述的多视角三维点云重建方法,其特征在于,所述步骤S03后、步骤S04前还包括对转换后数据进行全局优化,以使得全局误差e最小,所述全局优化采用基于位姿图优化方法,并采用回环检测建立多帧强约束关系,以实现相机外参优化,所述回环检测为按照回路循环的方式进行图像采集;或采用对基于光束平差优化方法以及回环检测实现相机外参优化。
9.一种多视角三维点云重建装置,其特征在于,包括:
采集模块,用于在不同视角下采集预先布置的多个标志点的点云数据,所述标志点布置在待测目标上或者布置在待测目标附近指定范围内,相邻视角采集到的数据中具有同名点,所述同名点为相同的标志点;
匹配查找模块,用于对相邻两个视角的数据帧进行匹配以查找出同名点,其中先分别计算两个视角的数据帧内任意两点之间的距离,根据两个视角数据帧中各点与所在的数据帧内其余点之间的空间距离大小关系的相似性进行初步匹配,查找出所有的候选同名点以及候选同名点的邻域点构成候选点集合,如果所述候选点集合中存在一个标志点同时与两个以上的标志点形成配对,再根据两个视角数据帧所对应得到的候选集合中各点与所在的候选集合内其余点之间的角度大小关系的相似性进行二次匹配,得到正确的匹配标志点对,输出最终的匹配结果;
转换关系确定模块,用于根据相邻视角的数据帧之间同名点的匹配关系,得到相邻视角数据帧间的坐标系转换关系;
三维重建模块,用于根据所述坐标系转换关系将采集到的所有数据转换至同一视角坐标系后,进行三维模型重建。
10.一种计算机设备,包括处理器以及存储器,所述存储器用于存储计算机程序,其特征在于,所述处理器用于执行所述计算机程序以执行如权利要求1~8中任意一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211573562.6A CN116071491A (zh) | 2022-12-08 | 2022-12-08 | 一种多视角三维点云重建方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211573562.6A CN116071491A (zh) | 2022-12-08 | 2022-12-08 | 一种多视角三维点云重建方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116071491A true CN116071491A (zh) | 2023-05-05 |
Family
ID=86172469
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211573562.6A Pending CN116071491A (zh) | 2022-12-08 | 2022-12-08 | 一种多视角三维点云重建方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116071491A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116912427A (zh) * | 2023-09-12 | 2023-10-20 | 武汉工程大学 | 基于标记点三角特征聚类的三维扫描重建方法及系统 |
-
2022
- 2022-12-08 CN CN202211573562.6A patent/CN116071491A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116912427A (zh) * | 2023-09-12 | 2023-10-20 | 武汉工程大学 | 基于标记点三角特征聚类的三维扫描重建方法及系统 |
CN116912427B (zh) * | 2023-09-12 | 2023-11-24 | 武汉工程大学 | 基于标记点三角特征聚类的三维扫描重建方法及系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109631855B (zh) | 基于orb-slam的高精度车辆定位方法 | |
Pizarro et al. | Large area 3-D reconstructions from underwater optical surveys | |
CN103745498B (zh) | 一种基于图像的快速定位方法 | |
CN103295239B (zh) | 一种基于平面基准影像的激光点云数据的自动配准方法 | |
CN106529538A (zh) | 一种飞行器的定位方法和装置 | |
CN111652934A (zh) | 定位方法及地图构建方法、装置、设备、存储介质 | |
CN103679674A (zh) | 一种无人飞行器实时图像拼接方法及系统 | |
CN111027140B (zh) | 基于多视角点云数据的飞机标准件模型快速重构方法 | |
CN109919084B (zh) | 一种基于深度多索引哈希的行人重识别方法 | |
CN112036249B (zh) | 端对端行人检测及属性识别的方法、系统、介质及终端 | |
CN110119768B (zh) | 用于车辆定位的视觉信息融合系统及方法 | |
KR20200063368A (ko) | 대응점 일관성에 기반한 비지도 학습 방식의 스테레오 매칭 장치 및 방법 | |
CN111126116A (zh) | 无人船河道垃圾识别方法及系统 | |
CN116071491A (zh) | 一种多视角三维点云重建方法及装置 | |
CN111664845B (zh) | 交通标志定位、视觉地图制作方法及装置、定位系统 | |
CN115527050A (zh) | 图像特征匹配方法、计算机设备和可读存储介质 | |
CN111583342A (zh) | 一种基于双目视觉的目标快速定位方法及装置 | |
Jiang et al. | Learned local features for structure from motion of uav images: A comparative evaluation | |
Remondino et al. | Evaluating hand-crafted and learning-based features for photogrammetric applications | |
CN114693524A (zh) | 侧扫声呐图像准确匹配快速拼接方法、设备及存储介质 | |
CN107369179B (zh) | 一种高精度图像定位方法 | |
JP2008224641A (ja) | カメラ姿勢推定システム | |
KR102289690B1 (ko) | 동위의 3차원 마커 사이의 회전 및 이동 위치 추정 방법 | |
CN114166211B (zh) | 一种双视场星敏感器星图识别方法 | |
CN114494586B (zh) | 晶格投影的深度学习网络阔叶树枝叶分离与骨架重建方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |