CN115908517A - 一种基于对应点匹配矩阵优化的低重叠点云配准方法 - Google Patents
一种基于对应点匹配矩阵优化的低重叠点云配准方法 Download PDFInfo
- Publication number
- CN115908517A CN115908517A CN202310015380.5A CN202310015380A CN115908517A CN 115908517 A CN115908517 A CN 115908517A CN 202310015380 A CN202310015380 A CN 202310015380A CN 115908517 A CN115908517 A CN 115908517A
- Authority
- CN
- China
- Prior art keywords
- point
- point cloud
- matching
- vector
- curve
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Image Analysis (AREA)
- Manipulator (AREA)
Abstract
本发明提供了一种基于对应点匹配矩阵优化的低重叠点云配准方法,包括:将移动机器人的源点云和目标点云输入特征提取模块,获取源点云特征向量和目标点云特征向量;将所述源点云特征向量和目标点云特征向量输入特征匹配模块,获取对应点匹配矩阵;其中,所述应点匹配矩阵中的行和列分别代表所述源点云和目标点云中的3D点;将所述对应点匹配矩阵输入注意力点融合及位姿更新模块,获取移动机器人的变换姿态,完成低重叠点云配准。本发明的目的是在大尺度稀疏点云、弱纹理区域、相邻点云重叠率低、高噪音等极端环境下获得较好的位姿估计结果,降低模型受干扰程度,提高鲁棒性,与此同时在普通环境下相比其他方法也能大幅提高配准性能。
Description
技术领域
本发明属于移动机器人位姿估计技术领域,尤其涉及一种基于对应点匹配矩阵优化的低重叠点云配准方法。
背景技术
点云配准是移动机器人实现自主导航和三维重建的重要步骤,其目的是将两组不同的点云进行匹配,其中分为部分对部分配准和全部对全部配准。移动机器人首先通过激光雷达获取当前时刻生成的点云信息,再根据不同时刻的点云信息进行点云配准,从而获取移动机器人的移动位姿信息。可以利用获取的位姿信息进行自主导航,也可以将位姿信息和点云信息进行融合从而完成真实场景的三维重建。在过去几十年里,基于视觉的方法已经得到了广泛的研究。基于视觉的方法主要通过对RGB图像提取关键点和其对应的描述子信息,然后利用不同帧之间的关键点和描述子信息进行相似度匹配,最终依靠相似度匹配的结果来估计不同帧之间的位姿变换。但不幸的是,这些基于视觉的关键点配准方法在实际运用中往往并不可靠。因为基于视觉的方法对季节、光照和视点的变化敏感,并且在黑暗情况下可能完全奔溃。然而基于3D点云的配准方法对多变的环境和极端光照条件下具有更好的鲁棒性,因此基于3D点云的配准方法获得广泛研究者的关注。由于激光雷达产生的点云图像为稀疏点云,并且两幅相邻的稀疏点云图像之间并不是所有3D点都存在一一对应关系,因此结合实际情况,机器人在大尺度稀疏点云、弱纹理区域、相邻点云重叠度低、高噪音等复杂场景中如何进行机器人位姿估计是移动机器人3D点云配准领域的重要课题。
3D点云配准是通过寻找不同帧之间3D点的对应关系从而生成不同帧之间的相对位姿变换。位姿变换指两帧点云之间的位移及旋转变换。移动机器人在执行位姿估计任务要求点云配准具有实时性、高精度以及模型泛化能力。而在实际应用场景中,大尺度稀疏点云、弱纹理区域、相邻点云重叠度低、高噪音等是阻碍移动机器人获取自身精确位姿的棘手问题。
综上,目前存在如下缺陷:
(1)现有的技术只针对3D点局部信息进行特征提取,这种方式使得稀疏或无纹理区域的点云生成的特征值不具有明显的区分性。
(2)现有技术直接利用特征值进行特征匹配矩阵计算,这种方法的匹配精度不高,限制了后续位姿估计的结果。
(3)在相邻点云对重叠度低的情况下,现有方法未充分考虑非重叠点对配准结果的干扰,并且随着重叠率下降,3D点错误匹配率进一步增高,从而导致位姿估计精度进一步降低。
发明内容
为解决上述技术问题,本发明提出了一种基于对应点匹配矩阵优化的低重叠点云配准方法,在大尺度稀疏点云、弱纹理区域、相邻点云重叠率低、高噪音等极端环境下获得较好的位姿估计结果,降低模型受干扰程度,提高鲁棒性,与此同时在普通环境下相比其他方法也能大幅提高配准性能。
为实现上述目的,本发明提供了一种基于对应点匹配矩阵优化的低重叠点云配准方法,包括:
将移动机器人的源点云和目标点云输入特征提取模块,获取源点云特征向量和目标点云特征向量;
将所述源点云特征向量和目标点云特征向量输入特征匹配模块,获取对应点匹配矩阵;其中,所述对应点匹配矩阵中的行和列分别代表所述源点云和目标点云中的3D点;
将所述对应点匹配矩阵输入注意力点融合及位姿更新模块,获取移动机器人的变换姿态,完成低重叠点云配准;其中所述注意力点融合及位姿更新模块包括注意力点融合生成虚拟对应点和对应点位姿更新计算。
可选地,所述特征提取模块包括:残差长距离曲线特征提取模型和注意力模型;
所述残差长距离曲线特征提取模型,用于提取所述源点云和目标点云中3D点的长距离特征信息;其中所述残差长距离曲线特征提取模型包括点云残差卷积结构分支和长距离曲线特征提取网络;
所述注意力模型,用于进一步加强长距离特征信息的特征表达,提高所有区域点云特征向量的可区分性并加强特征值匹配效率。
可选地,提取所述源点云和目标点云中3D点的特征信息包括:
对所述源点云和目标点云中每个3D点坐标进行球空间采样和坐标拼接,获取拼接向量,对所述拼接向量进行一维卷积加最大池化操作,获取当前3D点的初始特征;
对当前点的初始特征进行卷积操作并选取若干个最大响应特征作为曲线的起始点,并将该起始点的特征设为曲线的初始特征,为了实现曲线特征连接,首先将当前连接点球空间内3D点特征值与当前曲线特征进行拼接并进行一维卷积操作输出连接点特征,为了避免曲线连接过程中曲线交叉现象,通过计算相邻两次曲线特征的差值、当前连接点球空间点特征与当前曲线特征的差值,对求取非交叉系数,通过将非交叉系数乘以连接点特征,并对其进行gumbel_softmax操作确定下一个连接点,通过将当前连接点球空间点特征与曲线特征相乘,从而更新下一次曲线特征,最终对每一次曲线特征进行拼接,从而获取多条长距离曲线特征信息;
之后对曲线进行一维卷积操作并分别在曲线个数方向与曲线连接点方向求取最大响应值,并将该响应值与曲线特征进行相乘再相加,从而分别获取曲线个数关系向量与曲线连接点关系向量,最后将初始点特征分别与关系向量进行相乘并通过softmax操作获取曲线个数权重向量和曲线连接点权重向量,并将权重向量和关系向量分别进行相乘再拼接得到每个3D点对应的所述长距离特征信息;
提取源点云长距离特征和目标点云长距离特征的注意力信息包括:
注意力模型由Transformer网络构成,Transformer网络由一个自注意力编码层和交叉注意力解码层构成,使用的Transformer为线性Transformer,位置编码则使用两个一维卷积进行替代,将长距离特征向量做为输入并使用线性回归去生成查询向量Q、键向量K和值向量V,之后使用多头注意力机制去生成新的自注意力特征向量和,其中为特征向量的维度,上标T表示为矩阵转置,通过对源点云进行交叉注意力计算,其中和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,其中,而和分别为通过神经网络学习到的权重矩阵,同时对目标点云进行同样交叉注意力计算,最后将注意力信息与长距离特征信息进行特征相加从而获取最终的特征向量。
可选地,所述特征匹配模块包括:上分支阈值参数预测模型、下分支极化参数预测模型和Sinkhorn优化算法;
获取所述对应点匹配矩阵包括:
将所述源点云特征向量和目标点云特征向量进行最大匹配分数向量计算,并将最大匹配分数向量输入所述上分支阈值参数预测模型,获取阈值参数;
将所述源点云特征向量和目标点云特征向量进行拼接后输入所述下分支极化参数预测模型,获取极化参数;
基于所述阈值参数和所述极化参数对初始对应点匹配矩阵进行优化,获取对应点匹配矩阵,其中初始对应点匹配矩阵按照特征向量平方差公式进行计算。
可选地,对所述对应点匹配矩阵进行进一步优化包括:
对所述对应点匹配矩阵的每一行和每一列设置非重叠点标志位;
基于Sinkhorn算法匹配分数分布,并使得非重叠点的匹配分数集中于所述非重叠点标志位,其中任意点的匹配分数为对应点匹配矩阵所对应的值;
将匹配分数优化后的所述对应点匹配矩阵的最后一行和最后一列的所述非重叠点标志位移除,获取移除后的所述对应点匹配矩阵中3D点的重叠点分数;其中3D点的重叠点分数为对应点匹配矩阵所对应的行或列的和;
将3D点的重叠点分数、真实标签重叠点与非重叠点的分数进行二分类损失函数处理,完成对所述对应点匹配矩阵进行优化训练;其中所述真实标签重叠点和非重叠点分数通过对训练点云进行投影计算所得。
可选地,获取移动机器人的所述变换姿态包括:
对所述对应点匹配矩阵按列方向进行排序,选取前若干个3D点为注意力点;
对所述注意力点按照匹配分数进行融合生成其对应的虚拟对应点;
基于所述3D点和所述3D点对应的所述虚拟对应点,构成匹配对;将所述源点云对应3D点的重叠点分数设置为所述匹配对的权重分数;
将匹配对权重分数进行从大到小进行排序,选择前若干个匹配对为最优匹配对,并将所述最优匹配对和所述权重分数,输入权重SVD算法去进行矩阵分解获取移动机器人的所述变换姿态。
可选地,所述源点云特征向量和目标点云特征向量为:
其中,和分别为源点云和目标点云输出的特征向量,为置信度矩阵,和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,和分别为源点云长距离特征向量和目标点云长距离特征向量,为特征向量属性,其中为点云数量,为特征维度。
与现有技术相比,本发明具有如下优点和技术效果:
本发明优化了网络结构;使用残差曲线注意力网络进行特征提取,增强了3D点特征值的可区分性,使其在点云稀疏以及无纹理区域也能更好的通过特征值寻找对应点;
本发明中参数预测更加精准;使用上分支极化参数网络来预测极化参数,同时使用下分支阈值参数网络来预测阈值参数。与使用一个网络来预测多个参数相比,多网络预测能够更好的训练出代表不同功能的参数。同时对于不同功能的参数选择不同特性的表达式进行输入能够更好的表达参数的具体作用,通过加载参数使得对应点匹配矩阵更加真实反应对应点匹配情况,减少非对应点权重对虚拟对应点的干扰,并使得之后融合生成的虚拟对应点更加精确。
本发明中对应点匹配矩阵精确反映点云部分重叠情况;由于点云对存在部分重叠情况,因此对应点匹配矩阵也需要通过重叠点分数对3D点进行正确辨别。基于对应点匹配矩阵计算3D点的重叠点分数,并将3D点的重叠点分数与真实标签重叠点和非重叠点的分数进行二分类损失函数训练,这有利于重叠点分数预测更加精准。由于权重SVD算法也需要加载重叠点分数,因此这也使得预测的位姿变换更加精确。
本发明在现有点云配准的基础上,进一步提高了的准确性和和鲁棒性,增强了模型的泛化能力,即使处于极端环境下也能通过点云配准实现位姿估计。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本发明实施例的总体框架示意图;
图2为本发明实施例的长距离曲线特征提取网络结构及参数示意图;
图3为本发明实施例的Transform网络结构结构示意图;
图4为本发明实施例的上分支阈值参数预测网络结构及参数示意图;
图5为本发明实施例的下分支极化参数预测网络结构及参数示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本发明提出了一种基于对应点匹配矩阵优化的低重叠点云配准方法,包括:
将移动机器人的源点云和目标点云输入特征提取模块,获取源点云特征向量和目标点云特征向量;
将所述源点云特征向量和目标点云特征向量输入特征匹配模块,获取对应点匹配矩阵;其中,所述对应点匹配矩阵中的行和列分别代表所述源点云和目标点云中的3D点;
将所述对应点匹配矩阵输入注意力点融合及位姿更新模块,获取移动机器人的变换姿态,完成低重叠点云配准;其中所述注意力点融合及位姿更新模块包括注意力点融合生成虚拟对应点和对应点位姿更新计算。
进一步地,所述特征提取模块包括:残差长距离曲线特征提取模型和注意力模型;
所述残差长距离曲线特征提取模型,用于提取所述源点云和目标点云中3D点的长距离特征信息;其中所述残差长距离曲线特征提取模型包括点云残差卷积结构分支和长距离曲线特征提取网络;
所述注意力模型,用于进一步加强长距离特征信息的特征表达,提高所有区域点云特征向量的可区分性并加强特征值匹配效率。
进一步地,提取所述源点云和目标点云中3D点的特征信息包括:
对所述源点云和目标点云中每个3D点坐标进行球空间采样和坐标拼接,获取拼接向量,对所述拼接向量进行一维卷积加最大池化操作,获取当前3D点的初始特征;
对当前点的初始特征进行卷积操作并选取若干个最大响应特征作为曲线的起始点,并将该起始点的特征设为曲线的初始特征,为了实现曲线特征连接,首先将当前连接点球空间内3D点特征值与当前曲线特征进行拼接并进行一维卷积操作输出连接点特征,为了避免曲线连接过程中曲线交叉现象,通过计算相邻两次曲线特征的差值、当前连接点球空间点特征与当前曲线特征的差值,对求取非交叉系数,通过将非交叉系数乘以连接点特征,并对其进行gumbel_softmax操作确定下一个连接点,通过将当前连接点球空间点特征与曲线特征相乘,从而更新下一次曲线特征,最终对每一次曲线特征进行拼接,从而获取多条长距离曲线特征信息;
之后对曲线进行一维卷积操作并分别在曲线个数方向与曲线连接点方向求取最大响应值,并将该响应值与曲线特征进行相乘再相加,从而分别获取曲线个数关系向量与曲线连接点关系向量,最后将初始点特征分别与关系向量进行相乘并通过softmax操作获取曲线个数权重向量和曲线连接点权重向量,并将权重向量和关系向量分别进行相乘再拼接得到每个3D点对应的所述长距离特征信息;
提取源点云长距离特征和目标点云长距离特征的注意力信息包括:
注意力模型由Transformer网络构成,Transformer网络由一个自注意力编码层和交叉注意力解码层构成,使用的Transformer为线性Transformer,位置编码则使用两个一维卷积进行替代,将长距离特征向量做为输入并使用线性回归去生成查询向量Q、键向量K和值向量V,之后使用多头注意力机制去生成新的自注意力特征向量和,其中为特征向量的维度,上标T表示为矩阵转置,通过对源点云进行交叉注意力计算,其中和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,其中,而和分别为通过神经网络学习到的权重矩阵,同时对目标点云进行同样交叉注意力计算,最后将注意力信息与长距离特征信息进行特征相加从而获取最终的特征向量。
进一步地,所述特征匹配模块包括:上分支阈值参数预测模型、下分支极化参数预测模型和Sinkhorn优化算法;
获取所述对应点匹配矩阵包括:
将所述源点云特征向量和目标点云特征向量进行最大匹配分数向量计算,并将最大匹配分数向量输入所述上分支阈值参数预测模型,获取阈值参数;
将所述源点云特征向量和目标点云特征向量进行拼接后输入所述下分支极化参数预测模型,获取极化参数;
基于所述阈值参数和所述极化参数对初始对应点匹配矩阵进行优化,获取对应点匹配矩阵,其中初始对应点匹配矩阵按照特征向量平方差公式进行计算。
进一步地,对所述对应点匹配矩阵进行进一步优化包括:
对所述对应点匹配矩阵的每一行和每一列设置非重叠点标志位;
基于Sinkhorn算法匹配分数分布,并使得非重叠点的匹配分数集中于所述非重叠点标志位,其中任意点的匹配分数为对应点匹配矩阵所对应的值;
将匹配分数优化后的所述对应点匹配矩阵的最后一行和最后一列的所述非重叠点标志位移除,获取移除后的所述对应点匹配矩阵中3D点的重叠点分数;其中3D点的重叠点分数为对应点匹配矩阵所对应的行或列的和;
将3D点的重叠点分数、真实标签重叠点与非重叠点的分数进行二分类损失函数处理,完成对所述初始对应点匹配矩阵进行优化训练;其中所述真实标签重叠点和非重叠点分数通过对训练点云进行投影计算所得。
进一步地,获取移动机器人的所述变换姿态包括:
对所述对应点匹配矩阵按列方向进行排序,选取前60个3D点为注意力点;
对所述注意力点按照匹配分数进行融合生成其对应的虚拟对应点;
基于所述3D点和所述3D点对应的所述虚拟对应点,构成最优匹配对;将所述源点云对应3D点的重叠点分数设置为所述匹配对的权重分数;
将匹配对权重分数从大到小进行排序,选择前70%个匹配对为最优匹配对。将所述最优匹配对和所述权重分数,输入权重SVD算法去进行矩阵分解获取移动机器人的所述变换姿态。
进一步地,所述源点云特征向量和目标点云特征向量为:
其中,和分别为源点云和目标点云输出的特征向量,为置信度矩阵,和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,和分别为源点云长距离特征向量和目标点云长距离特征向量,为特征向量属性,其中为点云数量,为特征维度。
实施例:
本实施例的低重叠点云配准总体框架流程图如图1所示。的目标是从两张相邻且具有相同点云数目的低重叠点云图像中预测出两帧之间的相对位姿变换(位移和旋转变换)。其中网络主要分为三个模块:特征提取模块、特征匹配模块以及位姿更新模块。接下来将介绍架构的具体细节。
(1)特征提取模块:特征提取模块指残差曲线注意力网络,该网络包括残差长距离曲线特征提取网络和注意力网络,具体来说,首先将源点云和目标点云输入到残差长距离曲线特征提取网络提取3D点的特征向量,其中残差长距离曲线特征提取网络由卷积残差结构和长距离曲线特征提取网络组成,其中长距离曲线特征提取网络用于提取基于3D点的长距离信息。对于弱纹理以及点云稀疏的区域,长距离信息与局部结构信息相比能够加强该3D点的特征空间表示,这有利于提高该部分区域点云配准效率,并且通过残差卷积结构能进一步加强原始坐标信息对于特征空间的表达。长距离曲线特征提取网络实现方法如图2所示,具体流程为:首先对每个3D点坐标进行半径为0.03、点数量为64的球空间采样,并按照进行坐标拼接,其中为当前点拼接向量、为当前点坐标、为球型空间其他点坐标。若在球空间内采样数量少于k=64个点,则使用最近点进行补齐,补齐后对拼接向量进行一维卷积加最大池化操作,最终输出当前点的初始特征。对点云初始特性进行卷积操作并选取100个最大响应特征作为曲线的起始点,并将该起始点的特征设为曲线的初始特征;为了实现曲线特征连接,首先将当前连接点球空间内3D点特征值与当前曲线特征进行拼接并进行一维卷积操作输出连接点特征。为了避免曲线连接过程中曲线交叉现象,通过计算相邻两次曲线特征的差值、当前连接点球空间点特征与当前曲线特征的差值按求取非交叉系数,通过将非交叉系数乘以连接点特征,并对其进行gumbel_softmax操作确定下一个连接点。通过将当前连接点球空间点特征与曲线特征相乘,从而更新下一次曲线特征。最终对每一次曲线特征进行拼接,从而获取多条长距离曲线特征信息。在本框架中设定曲线数量为100,曲线长度为5。之后对曲线进行一维卷积操作并分别在曲线个数方向与曲线连接点方向求取最大响应值,并将该响应值与曲线特征进行相乘再相加,从而分别获取曲线个数关系向量与曲线连接点关系向量。最后将初始点特征分别与关系向量进行相乘并通过softmax操作获取曲线个数权重向量和曲线连接点权重向量,并将权重向量和关系向量分别进行相乘再拼接得到每个3D点对应的长距离特征信息。该特征信息能够加强稀疏以及弱纹理区域的特征表达,提高该区域点云在目标点云中寻找对应点的效率。为了进一步加强所有区域的点云特征表达,引入了点云注意力网络。
点云注意力网络由Transformer网络构成,Transformer网络由一个自注意力编码层和交叉注意力解码层构成。Transformer的详细结构如图3所示。使用的Transformer为线性Transformer,位置编码则使用两个一维卷积进行替代。其中自注意力层主要用来加强3D点之间的特征关联度,使得3D点之间的特征向量更加具有区分度。将长距离特征向量做为输入并使用线性回归去生成查询向量Q、键向量K和值向量V,之后使用多头注意力机制去生成新的特征向量和。其中为特征向量的维度,上标T表示为矩阵转置。交叉注意力层主要用来提高匹配质量,使得源点云中3D点通过特征向量更容易在目标点云中寻找到对应点。通过对源点云进行交叉注意力计算,其中和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,其中,而和分别为通过神经网络学习到的权重矩阵。同时对目标点云进行同样交叉注意力计算。最终特征向量的表达式如下所示:
其中,和分别为源点云和目标点云最终输出的特征向量,为置信度矩阵。其中和分别为源点云长距离特征向量和目标点云长距离特征向量。
(2)特征匹配模块:特征匹配模块主要用来输出对应点匹配矩阵,该矩阵的行和列分别代表源点云和目标点云中的每个3D点,矩阵的值为两个3D点之间的匹配分数。特征匹配模块主要由上分支阈值参数预测网络、下分支极化参数预测网络和Sinkhorn优化算法组成。其中上分支阈值参数预测网络如图4所示,下分支极化参数预测网络如图5所示,其中卷积单元由一维卷积、归一化层、Relu激活函数组成,线性单元由线性函数、归一化层、Relu激活函数组成。详细步骤为:将
F 1和
F 2按照进行最大匹配分数向量计算并输入上分支阈值参数预测网络生成阈值参数,同时将源点云特征
F 1和目标点云特征
F 2在点数量层上进行拼接并输入到下分支极化参数预测网络生成极化参数P,并通过计算生成初步的对应点匹配矩阵。其中阈值参数主要用来过滤无关的非对应点。极化参数则用来两极化对应点匹配矩阵,即增大拥有对应点的匹配分数,同时进一步抑制非对应点的匹配分数,使得对应点匹配矩阵呈现两极化分布。通过对不同功能参数构建单独预测网络并且根据参数特性来调整不同的参数输入,预测的极化参数与阈值参数能够更加精确的调整对应点匹配矩阵的权重分布,使得权重分布更加精确的集中于对应点同时进一步降低非对应点的权重。
由于源点云和目标点云部分重叠,因此存在源点云中部分3D点无法在目标点云中找到其对应点。将能够寻找到对应点的3D点称为重叠点,反之无法找到对应点的3D点即全是非对应点的3D点称为非重叠点。其中重叠点分数计算公式为将对应点匹配矩阵按行方向和列方向分别进行求和从而获取其对应3D点的重叠点分数。为了进一步优化匹配分数分布,使用了Sinkhorn算法。其中Sinkhorn算法通过不断迭代的方式使得矩阵的行方向和列方向的和趋近为1。考虑到Sinkhorn算法会将对应点匹配矩阵行方向和列方向的和趋近为1,同时为了避免出现非重叠点的重叠点分数为1的情况,在对应点匹配矩阵的每一行和每一列设置一个非重叠点标志位。从而通过Sinkhorn算法来进一步优化匹配分数分布并且使得非重叠点匹配分数主要集中于该标志位。当Sinkhorn算法执行完成后,需要将对应点匹配矩阵最后一行和最后一列非重叠点标志位移除,并计算其对应3D点的重叠点分数。为了进一步确保使得重叠点在对应点匹配矩阵输出的重叠点分数为1,非重叠点在对应点匹配矩阵输出的重叠点分数为0。将3D点的重叠点分数和真实标签重叠点与非重叠点的分数进行二分类损失函数计算。其中真实标签重叠点和非重叠点分数通过对训练点云进行投影计算所得,我们将源点云通过真实位姿信息投影到目标点云,如果源点云中3D点所在半径为0.01的球型空间内存在目标点云中3D点,则将该一对3D点设为重叠点并将该重叠点分数设为1。否则将这一对3D点设为非重叠点并将该重叠点分数设为0。通过二分类损失函数使得预测的重叠点分数更加精准,并使得对应点匹配矩阵能够更加真实反映点云对部分重叠情况。同时通过引入相应损失函数,也为极化参数和阈值参数预测的精准性以及网络整体配准性能提供了一个正反馈作用。
(3)注意力点融合及位姿更新模块:由于真实场景中往往存在噪音干扰,即使预测的位姿变换足够精确准,也很难使得两个点云中的3D点完全重合。因此通过注意力点融合的思路去解决这个问题。将对应点匹配矩阵按列方向从大到小进行排序,选择前个对应点为注意力点,将每个注意力点的值设为,点云坐标设为,其中注意力点的值v为对应点匹配矩阵中每个注意力点所对应的匹配分数。利用计算每一个源点云3D点生成其虚拟对应点,其中为目标点云中点的数量,为每个源点云3D点所对应虚拟对应点的坐标序号,因此为每个源点云3D点所对应注意力点值,为每个源点云3D点所对应注意力坐标,为每个源点云3D点在目标点云中所对应的每个3D点的匹配分数。与直接使用最大匹配分数作为对应点相比,使用虚拟对应点方式能够有效的降低噪音的干扰,增加模型的鲁棒性。同时考虑到只有部分点云对有重叠的现象,对源点云重叠点分数进行从大到小排序,并将前70%个3D点设为最优重叠点。将最优重叠点初始坐标与其对应的虚拟对应点坐标进行绑定形成最优匹配对,并将源点云重叠度分数设置为该匹配对的权重分数。最后将这些最优匹配对与其权重分数输入到权重SVD算法去进行矩阵分解获取当前迭代次数下最终的变换姿态(旋转矩阵和平移向量)。其中权重SVD算法是SVD方法的变形,相当于对输入矩阵乘以一个置信度向量操作并最后通过矩阵分解方式去获取最终的变换矩阵。由于低重叠点云配准框架是一个迭代框架,因此当未达到设定的迭代次数时,需要将当前迭代次数下计算出的位姿变换运用到下一次迭代中,通过对源点云坐标进行变换。其中为当前迭代的源点云坐标,为下一次迭代的源点云坐标,R为旋转矩阵,为平移向量,本框架的总体迭代次数为4。
在本实施例中,提出基于残差曲线注意力网络的特征提取方法,利用残差长距离曲线特征提取模块提取点云长距离特征信息,并利用注意力网络进一步加强了特征空间信息表达,使得点云在无纹理或稀疏区域也具有很好的区分性。
在本实施例中,提出上分支阈值参数预测网络来筛选对应点和非对应点,创造性引入最大匹配分数向量来作为网络输入,使得特征匹配矩阵更加精确的筛选对应点与非对应点。同时提出下分支极化参数预测网络来极化对应点匹配矩阵,通过极化参数使得对应点和非对应点匹配分数呈两极化分布。这使得对应点匹配矩阵融合生成的虚拟对应点更加精准并同时有利于提高点云配准整体性能。
在本实施例中,基于对应点匹配矩阵来计算3D点的重叠点分数并提出二分类损失函数来进行训练;利用对应点匹配矩阵行方向与列方向的和分别计算其对应3D点的重叠点分数,并将3D点的重叠点分数与真实标签重叠点和非重叠点的分数进行二分类损失函数计算。这有利于重叠点分数预测更加精准并提高点云配准在低重叠场景下的精度和鲁棒性。
在本实施例中,对于源点云中任一3D点,从目标点云中选取60个最优匹配分数的对应点按权重进行融合生成虚拟对应点,然后将源点云中3D点与其最终对应点形成匹配对。对于所有匹配对,根据重叠点分数选取前70%。最后将重叠点分数以及最终匹配对通过权重SVD计算相对位姿变换。这有利于提高点云配准在低重叠和高噪音场景下的准确度。
本实施例具有如下优点:
优化了网络结构;使用残差曲线注意力网络进行特征提取,增强了3D点特征值的可区分性,使其在点云稀疏以及无纹理区域也能更好的通过特征值寻找对应点;
参数预测更加精准;使用上分支极化参数网络来预测极化参数,同时使用下分支阈值参数网络来预测阈值参数。与使用一个网络来预测多个参数相比,多网络预测能够更好的训练出代表不同功能的参数。同时对于不同功能的参数选择不同特性的表达式进行输入能够更好的表达参数的具体作用,通过加载参数使得对应点匹配矩阵更加真实反应对应点匹配情况,减少非对应点权重对虚拟对应点的干扰,并使得之后融合生成的虚拟对应点更加精确。
对应点匹配矩阵精确反映点云部分重叠情况;由于点云对存在部分重叠情况,因此对应点匹配矩阵也需要通过重叠点分数对3D点进行正确辨别。基于对应点匹配矩阵计算3D点的重叠点分数,并将3D点的重叠点分数与真实标签重叠点和非重叠点的分数进行二分类损失函数训练,这有利于重叠点分数预测更加精准。由于权重SVD算法也需要加载重叠点分数,因此这也使得预测的位姿变换更加精确。
本实施例在现有点云配准的基础上,进一步提高了的准确性和和鲁棒性,增强了模型的泛化能力,即使处于极端环境下也能通过点云配准实现位姿估计。
以上,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。
Claims (7)
1.一种基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,包括:
将移动机器人的源点云和目标点云输入特征提取模块,获取源点云特征向量和目标点云特征向量;
将所述源点云特征向量和目标点云特征向量输入特征匹配模块,获取对应点匹配矩阵;其中,所述对应点匹配矩阵中的行和列分别代表所述源点云和目标点云中的3D点;
将所述对应点匹配矩阵输入注意力点融合及位姿更新模块,获取移动机器人的变换姿态,完成低重叠点云配准;其中所述注意力点融合及位姿更新模块包括注意力点融合生成虚拟对应点和对应点位姿更新计算。
2.根据权利要求1所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,所述特征提取模块包括:残差长距离曲线特征提取模型和注意力模型;
所述残差长距离曲线特征提取模型,用于提取所述源点云和目标点云中3D点的长距离特征信息;其中所述残差长距离曲线特征提取模型包括点云残差卷积结构分支和长距离曲线特征提取网络;
所述注意力模型,用于进一步加强长距离特征信息的特征表达,提高所有区域点云特征向量的可区分性并加强特征值匹配效率。
3.根据权利要求2所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,提取所述源点云和目标点云中3D点的特征信息包括:
对所述源点云和目标点云中每个3D点坐标进行球空间采样和坐标拼接,获取拼接向量,对所述拼接向量进行一维卷积加最大池化操作,获取当前3D点的初始特征;
对当前点的初始特征进行卷积操作并选取若干个最大响应特征作为曲线的起始点,并将该起始点的特征设为曲线的初始特征,为了实现曲线特征连接,首先将当前连接点球空间内3D点特征值与当前曲线特征进行拼接并进行一维卷积操作输出连接点特征,为了避免曲线连接过程中曲线交叉现象,通过计算相邻两次曲线特征的差值、当前连接点球空间点特征与当前曲线特征的差值,对求取非交叉系数,通过将非交叉系数乘以连接点特征,并对其进行gumbel_softmax操作确定下一个连接点,通过将当前连接点球空间点特征与曲线特征相乘,从而更新下一次曲线特征,最终对每一次曲线特征进行拼接,从而获取多条长距离曲线特征信息;
之后对曲线进行一维卷积操作并分别在曲线个数方向与曲线连接点方向求取最大响应值,并将该响应值与曲线特征进行相乘再相加,从而分别获取曲线个数关系向量与曲线连接点关系向量,最后将初始点特征分别与关系向量进行相乘并通过softmax操作获取曲线个数权重向量和曲线连接点权重向量,并将权重向量和关系向量分别进行相乘再拼接得到每个3D点对应的所述长距离特征信息;
提取源点云长距离特征和目标点云长距离特征的注意力信息包括:
注意力模型由Transformer网络构成,Transformer网络由一个自注意力编码层和交叉注意力解码层构成,使用的Transformer为线性Transformer,位置编码则使用两个一维卷积进行替代,将长距离特征向量做为输入并使用线性回归去生成查询向量Q、键向量K和值向量V,之后使用多头注意力机制去生成新的自注意力特征向量和,其中为特征向量的维度,上标T表示为矩阵转置,通过对源点云进行交叉注意力计算,其中和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,其中,而和分别为通过神经网络学习到的权重矩阵,同时对目标点云进行同样交叉注意力计算,最后将注意力信息与长距离特征信息进行特征相加从而获取最终的特征向量。
4.根据权利要求1所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,所述特征匹配模块包括:上分支阈值参数预测模型、下分支极化参数预测模型和Sinkhorn优化算法;
获取所述对应点匹配矩阵包括:
将所述源点云特征向量和目标点云特征向量进行最大匹配分数向量计算,并将最大匹配分数向量输入所述上分支阈值参数预测模型,获取阈值参数;
将所述源点云特征向量和目标点云特征向量进行拼接后输入所述下分支极化参数预测模型,获取极化参数;
基于所述阈值参数和所述极化参数对初始对应点匹配矩阵进行优化,获取对应点匹配矩阵,其中初始对应点匹配矩阵按照特征向量平方差公式进行计算。
5.根据权利要求4所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,对所述对应点匹配矩阵进行进一步优化包括:
对所述对应点匹配矩阵的每一行和每一列设置非重叠点标志位;
基于Sinkhorn算法匹配分数分布,并使得非重叠点的匹配分数集中于所述非重叠点标志位,其中任意点的匹配分数为对应点匹配矩阵所对应的值;
将匹配分数优化后的所述对应点匹配矩阵的最后一行和最后一列的所述非重叠点标志位移除,获取移除后的所述对应点匹配矩阵中3D点的重叠点分数;其中3D点的重叠点分数为对应点匹配矩阵所对应的行或列的和;
将3D点的重叠点分数、真实标签重叠点与非重叠点的分数进行二分类损失函数处理,完成对所述对应点匹配矩阵进行优化;其中所述真实标签重叠点和非重叠点分数通过对训练点云进行投影计算所得。
6.根据权利要求5所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,获取移动机器人的所述变换姿态包括:
对所述对应点匹配矩阵按列方向进行排序,选取前若干个3D点为注意力点;
对所述注意力点按照匹配分数进行融合生成其对应的虚拟对应点;
基于所述3D点和所述3D点对应的所述虚拟对应点,构成匹配对;将所述源点云对应3D点的重叠点分数设置为所述匹配对的权重分数;
将匹配对权重分数进行从大到小进行排序,选择前若干个匹配对为最优匹配对,并将所述最优匹配对和所述权重分数,输入权重SVD算法去进行矩阵分解获取移动机器人的所述变换姿态。
7.根据权利要求1所述的基于对应点匹配矩阵优化的低重叠点云配准方法,其特征在于,所述源点云特征向量和目标点云特征向量为:
其中,和分别为源点云和目标点云输出的特征向量,为置信度矩阵,和分别为源点云自注意力层特征向量和目标点云自注意力层特征向量,和分别为源点云长距离特征向量和目标点云长距离特征向量,为特征向量属性,其中为点云数量,为特征维度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310015380.5A CN115908517B (zh) | 2023-01-06 | 2023-01-06 | 一种基于对应点匹配矩阵优化的低重叠点云配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310015380.5A CN115908517B (zh) | 2023-01-06 | 2023-01-06 | 一种基于对应点匹配矩阵优化的低重叠点云配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115908517A true CN115908517A (zh) | 2023-04-04 |
CN115908517B CN115908517B (zh) | 2023-05-12 |
Family
ID=85751726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310015380.5A Active CN115908517B (zh) | 2023-01-06 | 2023-01-06 | 一种基于对应点匹配矩阵优化的低重叠点云配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115908517B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116740300A (zh) * | 2023-06-16 | 2023-09-12 | 广东工业大学 | 一种基于多模态的素体与纹理融合家具模型重建方法 |
CN117034123A (zh) * | 2023-08-28 | 2023-11-10 | 定州市云领域体育用品有限公司 | 健身器材的故障监控系统及其方法 |
CN117876447A (zh) * | 2024-03-13 | 2024-04-12 | 南京邮电大学 | 一种基于微表面融合与对齐的三维点云配准方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170161945A1 (en) * | 2015-12-04 | 2017-06-08 | Autodesk, Inc. | Keypoint-based point-pair-feature for scalable automatic global registration of large rgb-d scans |
US20190295266A1 (en) * | 2016-05-20 | 2019-09-26 | Nokia Technologies Oy | Point cloud matching method |
CN113706589A (zh) * | 2021-08-25 | 2021-11-26 | 中国第一汽车股份有限公司 | 车载激光雷达点云配准方法、装置、电子设备及存储介质 |
CN215182044U (zh) * | 2021-04-30 | 2021-12-14 | 盛视科技股份有限公司 | 车辆全景查验装置及系统 |
WO2022165876A1 (zh) * | 2021-02-06 | 2022-08-11 | 湖南大学 | 一种基于wgan的无监督多视角三维点云联合配准方法 |
CN114972460A (zh) * | 2022-06-02 | 2022-08-30 | 福州大学 | 一种结合图特征上下文匹配的点云配准方法 |
CN115222889A (zh) * | 2022-07-19 | 2022-10-21 | 深圳万兴软件有限公司 | 基于多视图图像的3d重建方法、装置及相关设备 |
-
2023
- 2023-01-06 CN CN202310015380.5A patent/CN115908517B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170161945A1 (en) * | 2015-12-04 | 2017-06-08 | Autodesk, Inc. | Keypoint-based point-pair-feature for scalable automatic global registration of large rgb-d scans |
US20190295266A1 (en) * | 2016-05-20 | 2019-09-26 | Nokia Technologies Oy | Point cloud matching method |
WO2022165876A1 (zh) * | 2021-02-06 | 2022-08-11 | 湖南大学 | 一种基于wgan的无监督多视角三维点云联合配准方法 |
CN215182044U (zh) * | 2021-04-30 | 2021-12-14 | 盛视科技股份有限公司 | 车辆全景查验装置及系统 |
CN113706589A (zh) * | 2021-08-25 | 2021-11-26 | 中国第一汽车股份有限公司 | 车载激光雷达点云配准方法、装置、电子设备及存储介质 |
CN114972460A (zh) * | 2022-06-02 | 2022-08-30 | 福州大学 | 一种结合图特征上下文匹配的点云配准方法 |
CN115222889A (zh) * | 2022-07-19 | 2022-10-21 | 深圳万兴软件有限公司 | 基于多视图图像的3d重建方法、装置及相关设备 |
Non-Patent Citations (3)
Title |
---|
MILOŠ PROKOP 等: "Low Overlapping Point Cloud Registration Using Line Features Detection", 《REMOTE SENSING》 * |
梁达勇等: "多特征像素级融合的遮挡物体6DoF 姿态估计研究", 《计算机科学与探索》 * |
秦庭威等: "基于残差注意力机制的点云配准算法", 《计算机应用》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116740300A (zh) * | 2023-06-16 | 2023-09-12 | 广东工业大学 | 一种基于多模态的素体与纹理融合家具模型重建方法 |
CN116740300B (zh) * | 2023-06-16 | 2024-05-03 | 广东工业大学 | 一种基于多模态的素体与纹理融合家具模型重建方法 |
CN117034123A (zh) * | 2023-08-28 | 2023-11-10 | 定州市云领域体育用品有限公司 | 健身器材的故障监控系统及其方法 |
CN117034123B (zh) * | 2023-08-28 | 2024-05-07 | 定州市云领域体育用品有限公司 | 健身器材的故障监控系统及其方法 |
CN117876447A (zh) * | 2024-03-13 | 2024-04-12 | 南京邮电大学 | 一种基于微表面融合与对齐的三维点云配准方法 |
CN117876447B (zh) * | 2024-03-13 | 2024-05-07 | 南京邮电大学 | 一种基于微表面融合与对齐的三维点云配准方法 |
Also Published As
Publication number | Publication date |
---|---|
CN115908517B (zh) | 2023-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110263912B (zh) | 一种基于多目标关联深度推理的图像问答方法 | |
CN115908517A (zh) | 一种基于对应点匹配矩阵优化的低重叠点云配准方法 | |
CN108665491B (zh) | 一种基于局部参考点的快速点云配准方法 | |
CN112036260B (zh) | 一种自然环境下多尺度子块聚合的表情识别方法及系统 | |
CN114372173A (zh) | 一种基于Transformer架构的自然语言目标跟踪方法 | |
Wang et al. | MCF3D: Multi-stage complementary fusion for multi-sensor 3D object detection | |
CN115690152A (zh) | 一种基于注意力机制的目标追踪方法 | |
Song et al. | A novel partial point cloud registration method based on graph attention network | |
Song et al. | A joint siamese attention-aware network for vehicle object tracking in satellite videos | |
CN116563355A (zh) | 一种基于时空交互注意力机制的目标跟踪方法 | |
CN116772820A (zh) | 一种基于slam和语义分割的局部细化建图系统及方法 | |
Yang et al. | S3Net: A single stream structure for depth guided image relighting | |
Zhai et al. | PGMANet: Pose-guided mixed attention network for occluded person re-identification | |
CN117115911A (zh) | 一种基于注意力机制的超图学习动作识别系统 | |
Qiao et al. | Superline: A robust line segment feature for visual slam | |
Zou et al. | Gpt-cope: A graph-guided point transformer for category-level object pose estimation | |
Fu et al. | Dual-branch deep point cloud registration framework for unconstrained rotation | |
CN112906432A (zh) | 一种应用于人脸关键点定位任务的检错纠错方法 | |
CN113688672B (zh) | 一种基于深度关节与手工表观特征融合的动作识别方法 | |
Chen et al. | What to Learn: Features, Image Transformations, or Both? | |
Liang et al. | SCDFMixer: Spatial-Channel Dual-Frequency Mixer Based on Satellite Optical Sensors for Remote Sensing Multi-Object Detection | |
CN117649582B (zh) | 基于级联注意力的单流单阶段网络目标跟踪方法与系统 | |
CN116486489B (zh) | 基于语义感知图卷积的三维手物姿态估计方法及系统 | |
CN118096836B (zh) | 基于旋转等变网络与三重注意力机制目标跟踪方法与系统 | |
CN115631319B (zh) | 一种基于交叉注意力网络的回环检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |