CN114627170A - 三维点云配准方法、装置、计算机设备及存储介质 - Google Patents
三维点云配准方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN114627170A CN114627170A CN202210236602.1A CN202210236602A CN114627170A CN 114627170 A CN114627170 A CN 114627170A CN 202210236602 A CN202210236602 A CN 202210236602A CN 114627170 A CN114627170 A CN 114627170A
- Authority
- CN
- China
- Prior art keywords
- feature
- original
- point cloud
- data
- mapping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013507 mapping Methods 0.000 claims abstract description 200
- 238000000605 extraction Methods 0.000 claims abstract description 93
- 238000004364 calculation method Methods 0.000 claims abstract description 72
- 238000007781 pre-processing Methods 0.000 claims abstract description 24
- 239000011159 matrix material Substances 0.000 claims description 140
- 230000011218 segmentation Effects 0.000 claims description 50
- 238000012545 processing Methods 0.000 claims description 47
- 238000012549 training Methods 0.000 claims description 46
- 238000013519 translation Methods 0.000 claims description 31
- 230000006870 function Effects 0.000 claims description 26
- 238000006243 chemical reaction Methods 0.000 claims description 15
- 238000002372 labelling Methods 0.000 claims description 5
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 239000013598 vector Substances 0.000 description 16
- 238000010586 diagram Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000011176 pooling Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例属于人工智能领域,涉及一种三维点云配准方法,包括获取原始三维数据,对原始三维数据进行预处理得到目标数据集;对原始点集和映射点集进行特征提取得到第一原始特征、第二原始特征、第一映射特征和第二映射特征;对第一原始特征和第一映射特征拼接得到第一拼接特征,对第二原始特征和第二映射特征拼接得到第二拼接特征;分别对第一拼接特征和第二拼接特征进行卷积得到第一卷积特征和第二卷积特征;对第一卷积特征和第二卷积特征拼接得到目标拼接特征,对目标拼接特征进行注意力计算得到注意力特征;计算注意力特征得到点云配准数据。本申请还提供一种三维点云配准装置、计算机设备及存储介质。本申请提高了点云配准的准确率。
Description
技术领域
本申请涉及人工智能技术领域,尤其涉及一种三维点云配准方法、装置、计算机设备及存储介质。
背景技术
三维点云的配准技术应用极其广泛,是自动驾驶、三维重建和高精度地图等的基础。传统的点云配准技术是基于几何特征的,在使用密度聚类对原始点云进行自动分割后,会对后续产生干扰的离散数据点。
近几年开始出现的基于深度学习的配准方法,则往往是将同一个数据点集的PPF-FoldNet特征和PC-FoldNet特征做差,然后将两个点集的特征之差相加得到新的特征,最后计算得到输出结果。然而,这种模型的计算精度低下,容易导致点云配准准确率低下的问题。
发明内容
本申请实施例的目的在于提出一种三维点云配准方法、装置、计算机设备及存储介质,以解决点云配准准确率低下的技术问题。
为了解决上述技术问题,本申请实施例提供一种三维点云配准方法,采用了如下所述的技术方案:
获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
进一步的,所述对所述原始三维数据进行预处理,得到目标数据集的步骤包括:
获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据,并确定所述原始三维数据和所述原始映射数据组成的集合为原始点集对;
分别对所述原始三维数据和所述原始映射数据进行分割处理,得到第一分割点集和第二分割点集,确定所述第一分割点集和所述第二分割点集组成的集合为分割点集对;
根据所述映射参数对所述分割点集对进行标注,得到所述目标数据集。
进一步的,所述获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据的步骤包括:
所述映射参数包括第一平移矩阵和第二平移矩阵,根据所述第一平移矩阵和所述第二平移矩阵对所述原始三维数据进行转换,得到所述原始映射数据。
进一步的,所述获取训练好的目标点云配准模型的步骤包括:
采集多组三维训练数据和真实配准数据作为训练数据;
根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数;
在所述损失函数收敛时,确定所述基础点云配准模型训练完成,得到所述目标点云配准模型。
进一步的,所述根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数的步骤包括:
输入所述三维训练数据至所述基础点云配准模型中,计算得到预测配准数据;
计算所述真实配准数据的旋转矩阵和平移矩阵,组合所述旋转矩阵和所述平移矩阵中的元素得到所述真实配准数据的转换数据;
对所述转换数据和所述预测配准数据进行平方损失计算,得到所述基础点云配准模型的损失函数。
进一步的,所述基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征的步骤包括:
所述三维特征提取层包括第一子特征网络和第二子特征网络,根据所述第一子特征网络对所述原始点集进行特征提取,得到所述第一原始特征;
根据所述第二子特征网络对所述原始点集进行特征提取,得到所述第二原始特征。
进一步的,所述根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征的步骤包括:
随机初始化三个大小相同的矩阵,分别为第一初始矩阵、第二初始矩阵和第三初始矩阵;
分别计算所述目标拼接矩阵和所述第一初始矩阵、所述第二初始矩阵、所述第三初始矩阵的点乘,得到第一特征矩阵、第二特征矩阵和第三特征矩阵;
根据所述第一特征矩阵、所述第二特征矩阵和所述第三特征矩阵计算相似度矩阵,对所述相似度矩阵和所述第三初始矩阵进行点乘计算,得到所述注意力特征。
为了解决上述技术问题,本申请实施例还提供一种三维点云配准装置,采用了如下所述的技术方案:
预处理模块,用于获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
特征提取模块,用于获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
第一拼接模块,用于基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
卷积模块,用于根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
第二拼接模块,用于对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
计算模块,用于输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
为了解决上述技术问题,本申请实施例还提供一种计算机设备,采用了如下所述的技术方案:
获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
为了解决上述技术问题,本申请实施例还提供一种计算机可读存储介质,采用了如下所述的技术方案:
获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
本申请提出的三维点云配准方法,通过获取目标处理对象的原始三维数据,对原始三维数据进行预处理,得到目标数据集,其中,目标数据集包括原始点集和映射点集;之后,获取训练好的目标点云配准模型,基于目标点云配准模型的三维特征提取层对原始点集进行特征提取,得到原始点集的第一原始特征和第二原始特征,基于三维特征提取层对映射点集进行特征提取,得到映射点集的第一映射特征和第二映射特征,实现了对原始点集和映射点集特征的精确提取;而后,基于目标点云配准模型的拼接层对第一原始特征和第一映射特征进行拼接,得到第一拼接特征,基于拼接层对第二原始特征和第二映射特征进行拼接,得到第二拼接特征,使得拼接后的特征更充分;此后,根据目标点云配准模型的第一卷积层对第一拼接特征进行卷积计算,得到第一卷积特征,根据目标点云配准模型的第二卷积层对第二拼接特征进行卷积计算,得到第二卷积特征;对第一卷积特征和第二卷积特征进行拼接,得到目标拼接特征,根据目标点云配准模型的注意力层对目标拼接特征进行注意力计算,得到注意力特征,进一步提高了模型处理的精度;最后,输入注意力特征至目标点云配准模型的全连接层,计算得到目标处理对象的点云配准数据,由此,实现了对点云特征的精确提取,提高了点云配准模型的准确率和泛化性,最终提高了三维点云配准的准确率和效率。
附图说明
为了更清楚地说明本申请中的方案,下面将对本申请实施例描述中所需要使用的附图作一个简单介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请可以应用于其中的示例性系统架构图;
图2根据本申请的三维点云配准方法的一个实施例的流程图;
图3是根据本申请的一种目标点云配准模型的网络结构示意图;
图4是根据本申请的三维点云配准装置的一个实施例的结构示意图;
图5是根据本申请的计算机设备的一个实施例的结构示意图。
附图标记:三维点云配准装置400包括:预处理模块401、特征提取模块402、第一拼接模块403、卷积模块404、第二拼接模块405以及计算模块406。
具体实施方式
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同;本文中在申请的说明书中所使用的术语只是为了描述具体的实施例的目的,不是旨在于限制本申请;本申请的说明书和权利要求书及上述附图说明中的术语“包括”和“具有”以及它们的任何变形,意图在于覆盖不排他的包含。本申请的说明书和权利要求书或上述附图中的术语“第一”、“第二”等是用于区别不同对象,而不是用于描述特定顺序。
在本文中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域技术人员显式地和隐式地理解的是,本文所描述的实施例可以与其它实施例相结合。
为了使本技术领域的人员更好地理解本申请方案,下面将结合附图,对本申请实施例中的技术方案进行清楚、完整地描述。
如图1所示,系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、电子书阅读器、MP3播放器(Moving PictureExpertsGroup Audio Layer III,动态影像专家压缩标准音频层面3)、MP4(MovingPictureExperts Group Audio Layer IV,动态影像专家压缩标准音频层面4)播放器、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对终端设备101、102、103上显示的页面提供支持的后台服务器。
需要说明的是,本申请实施例所提供的三维点云配准方法一般由服务器/终端设备执行,相应地,三维点云配准装置一般设置于服务器/终端设备中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
继续参考图2,示出了根据本申请的三维点云配准的方法的一个实施例的流程图。所述的三维点云配准方法,包括以下步骤:
步骤S201,获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
在本实施例中,目标处理对象为需要进行点云配准的对象,如目标图片或者目标物体,原始三维数据为目标处理对象的点云数据,其中,点云数据为一个三维坐标系统中一组向量的集合。例如,通过扫描目标图片可以得到目标图片的点云数据,将该目标图片中的每个点均采用三维坐标表示,即得到该目标图片的点云数据;该三维坐标中除包括点的几何位置外还包括颜色信息或反射强度信息。获取的原始三维数据,通过P={pi|pi=[xi yizi]T}表示该原始三维数据,其中,pi表示点集P中的第i个点,xi,yi和zi分别为三维空间中的x轴,y轴和z轴的坐标。对该原始三维数据进行预处理,得到目标数据集。具体地,预处理包括对原始三维数据的分割和映射等操作,通过预处理后的原始三维数据即为目标数据集。该目标数据集包括原始点集和映射点集,原始点集为对原始三维数据分割后得到的子点集的集合,映射点集为原始三维数据映射后的数据集分割得到的子点集的集合。
步骤S202,获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
在本实施例中,如下图3所示,图3为一种目标点云配准模型的网络结构示意图。目标点云配准模型包括三维特征提取层(第一子特征网络和第二子特征网络)、拼接层、第一卷积层、第二卷积层、注意力层和全连接层。基于目标点云配准模型的三维特征提取层对原始点集进行特征提取,得到原始点集的第一原始特征和第二原始特征;同时基于该三维特征提取层对映射点集进行特征提取,得到映射点集的第一映射特征和第二映射特征。具体地,该特征提取可采用PPF-FoldNet(Point Pair Features-FoldNet)和PC-FoldNet(PointCloud-FoldNet),将该PPF-FoldNet作为第一子特征网络,将该PC-FoldNet作为第二子特征网络。根据该PPF-FoldNet对原始点集p′i进行特征提取得到第一原始特征fea1,根据PC-FoldNet对原始点集进行特征提取得到第二原始特征fea2;同理,通过PPF-FoldNet和PC-FoldNet分别对映射点集Q′i进行特征提取,即得到第一映射特征fea3和第二映射特征fea4。其中,PPF-FoldNet为一种特征提取网络,在得到原始点集和映射点集时,获取该原始点集和映射点集分别对应的点对特征(PPF,Point Pair Features),一个点对特征包括原始点集或映射点集中两个点之间的距离、两个点之间的法向量、法向量和距离之间的夹角;之后,对该点对特征通过PPF-FoldNet进行处理得到三维局部特征子,该三维局部特征子即为第一原始特征或第一映射特征。PC-FoldNet与PPF-FoldNet的网络结构大致相同,但相比于PPF-FoldNet,PC-FoldNet的最后折叠层数为3,PPF-FoldNet的最后折叠层数为4。在基于PC-FoldNet对原始点集和映射点集进行特征提取时,则获取该原始点集和映射点集分别对应的原始点云数据,根据PC-FoldNet分别原始点集和映射点集对应的原始点云数据进行特征提取,得到第二原始特征和第二映射特征。
步骤S203,基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
在本实施例中,目标点云配准模型包括两个相同的拼接层,一个拼接层对第一原始特征和第一映射特征进行向量平铺后拼接,得到第一拼接特征;另一个拼接层对第二原始特征和第二映射特征平铺后拼接,得到第二拼接特征。以图3为例,通过拼接层对第一原始特征fea1和第一映射特征fea3进行拼接,得到第一拼接特征fea5;之后,通过另一拼接层对第二原始特征fea2和第二映射特征fea4平铺后拼接,得到第二拼接特征fea6。
步骤S204,根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
在本实施例中,第一卷积层和第二卷积层为并列的两个相同卷积层,例如,该第一卷积层和第二卷积层均采用卷积核为4x4,步长为1的2D卷积。通过该第一卷积层对第一拼接向量进行卷积计算,得到第一卷积特征;通过第二卷积层对第二拼接向量进行卷积计算,得到第二卷积特征。以图3为例,通过第一卷积层Conv1对第一拼接向量fea5进行卷积计算,得到第一卷积特征fea7;通过第二卷积层Conv2对第二拼接向量fea6进行卷积计算,得到第二卷积特征fea8。
步骤S205,对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
在本实施例中,在得到第一卷积特征和第二卷积特征时,对该第一卷积特征和第二卷积特征平铺后进行拼接,得到目标拼接特征;之后,根据目标点云配准模型的注意力层对目标拼接特征进行注意力计算,得到注意力特征。以图3为例,第一卷积特征和第二卷积特征大小均为1024x4,则该第一卷积特征fea7和第二卷积特征fea8平铺拼接后,得到大小为1024x8的目标拼接特征fea9;通过注意力层(Attention)对目标拼接特征fea9进行注意力计算,得到注意力特征fea10。
步骤S206,输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
在本实施例中,在得到注意力特征时,输入该注意力特征至目标点云配准模型的全连接层,根据该全连接层对该注意力特征进行计算,得到原始三维数据的点云配准数据。具体地,在得到注意力特征时,可通过一个大小为512的全连接层对注意力特征进行处理,得到一个1x512的特征值;之后,将该特征值输入至大小为12的全连接层,计算得到最终的大小为1x12的特征,该特征即为目标处理对象的点云配准数据。以图3为例,图3中包括两个全连接层,MLP3和MLP4,在计算得到注意力特征fea10时,首先通过全连接层MLP3对该注意力特征进行计算,得到特征fea11;而后,将该特征fea11通过第二个全连接层MLP4计算,得到最终的特征PRE′i,该特征PRE′i即为目标处理对象的点云配准数据。最终,通过该点云配准数据可以在自动驾驶、三维重建和高精度地图中实现精确数据处理。
需要强调的是,为进一步保证上述点云配准数据的私密和安全性,上述点云配准数据还可以存储于一区块链的节点中。
本申请所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
本申请实现了对点云特征的精确提取,提高了点云配准模型的准确率和泛化性,最终提高了三维点云配准的准确率和效率。
在本实施例的一些可选的实现方式中,上述对所述原始三维数据进行预处理,得到目标数据集的步骤包括:
获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据,并确定所述原始三维数据和所述原始映射数据组成的集合为原始点集对;
分别对所述原始三维数据和所述原始映射数据进行分割处理,得到第一分割点集和第二分割点集,确定所述第一分割点集和所述第二分割点集组成的集合为分割点集对;
根据所述映射参数对所述分割点集对进行标注,得到所述目标数据集。
在本实施例中,在得到原始三维数据时,对该原始三维数据进行映射处理,得到原始映射数据。具体地,获取预设的不同映射参数Ri和ti,根据该映射参数移动激光雷达,通过激光雷达对该原始三维数据P进行采样得到原始映射数据Q,该原始映射数据为原始三维数据对应的点集,原始三维数据和原始映射数据组成原始点集对(P,Q)。分别对原始三维数据和原始映射数据进行分割处理,得到原始三维数据对应的第一分割点集和原始映射数据对应的第二分割点集;其中,该第一分割点集即为上述的原始点集,该第二分割点集即为上述的映射点集。具体地,通过密度聚类对原始三维数据和原始映射数据分别进行分割,得到分别对应的子点集的集合。之后,计算每个子点集集合中数据点的个数,保留其中数据点个数大于预设数值的子点集,即得到patchp和patchq。其中,预设数值的大小可根据点云密度的大小确定,patchp={P′i|i=1,2,3,…,mp},patchq={Q′j|j=1,2,3,…,mq},该子点集patchp和patchq即为第一分割点集和第二分割点集;对该第一分割点集和第二分割点集进行集合,得到分割点集对(patchp,patchq)。而后,将分割点集对中相匹配的点云块进行匹配,根据该映射参数对分割点集对中匹配的点云块进行标注,即得到一个标注的匹配点云块对,该匹配点云块对可表示为(P′any,Q′any,Ri,ti),其中,P′any∈patchp,Q′any∈patchq。最后,对多次采样得到的数据进行分割、标注及汇总,即得到最终的目标数据集Data,该目标数据集由多个标注的匹配点云块对组成,可表示为Data={datai=(P′i,Q′i,Ri,ti)|i=1,2,3,…}。
本实施例通过获取预设的映射参数,根据映射参数对原始三维数据进行映射处理,得到原始映射数据,并确定原始三维数据和原始映射数据组成的集合为原始点集对;之后,分别对原始三维数据和原始映射数据进行分割处理,得到第一分割点集和第二分割点集,确定第一分割点集和第二分割点集组成的集合为分割点集对;而后根据映射参数对分割点集对进行标注,得到目标数据集,实现了对原始点云数据的分割、标定和汇总,使得通过预处理后的数据能够进行精确地特征提取,进一步提高点云配准的准确率和数据处理效率。
在本实施例的一些可选的实现方式中,上述获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据的步骤包括:
所述映射参数包括第一平移矩阵和第二平移矩阵,根据所述第一平移矩阵和所述第二平移矩阵对所述原始三维数据进行转换,得到所述原始映射数据。
pi=R·qj+t
本实施例通过第一平移矩阵和第二平移矩阵对原始三维数据进行转换,得到原始映射数据,实现了对原始映射数据的精确获取。
在本实施例的一些可选的实现方式中,上述获取训练好的目标点云配准模型的步骤包括:
采集多组三维训练数据和真实配准数据作为训练数据;
根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数;
在所述损失函数收敛时,确定所述基础点云配准模型训练完成,得到所述目标点云配准模型。
在本实施例中,基础点云配准模型与目标点云配准模型的结构相同,但每层的参数不同,通过对基础点云配准模型进行训练,根据损失函数调整该基础点云配准模型的参数,即得到最终的目标点云配准模型。具体地,采集多组三维训练数据和该三维训练数据对应的真实配准数据,作为训练数据,根据该训练数据对基础点云配准模型进行训练。其中,三维训练数据包括预先采集的原始点云数据,以及该原始点云数据对应的映射点云数据,根据该基础点云配准模型的三维特征提取层对该原始点云数据和映射点云数据进行特征提取。三维特征提取层包括第一子特征网络和第二子特征网络,在得到原始点云数据和映射点云数据时,首先,计算该原始点云数据和映射点云数据分别对应的第一点对特征和第二点对特征;之后,根据该第一子特征网络对该第一点对特征进行特征提取,得到第一原始特征,根据该第二子特征网络对该原始点云数据进行特征提取,得到第二原始特征;同理,根据第一子特征网络对该第二点对特征进行特征提取,得到第一映射特征,根据该第二子特征网络对该映射点云数据进行特征提取,得到第二映射特征。
之后,根据基础点云配准模型的拼接层对第一原始特征和第一映射特征进行拼接,得到第一拼接特征,基于拼接层对第二原始特征和第二映射特征进行拼接,得到第二拼接特征;根据基础点云配准模型的第一卷积层对第一拼接特征进行卷积计算,得到第一卷积特征,根据基础点云配准模型的第二卷积层对第二拼接特征进行卷积计算,得到第二卷积特征;对第一卷积特征和第二卷积特征进行拼接,得到目标拼接特征,根据基础点云配准模型的注意力层对目标拼接特征进行注意力计算,得到注意力特征;输入注意力特征至基础点云配准模型的全连接层,计算得到预测配准数据。根据该预测配准数据和真实配准数据计算该基础点云配准模型的损失函数,在该损失函数收敛时,确定该基础点云配准模型训练完成,得到目标点云配准模型。
本实施例通过采集多组三维训练数据和真实配准数据作为训练数据;之后,根据训练数据对基础点云配准模型进行训练,计算得到基础点云配准模型的损失函数;而后,在损失函数收敛时,确定基础点云配准模型训练完成,得到目标点云配准模型,实现了对基础点云配准模型的高效训练,提高了模型的泛化性,使得通过训练好的目标点云配准模型能够对点云数据进行精确配准,提高了模型配准的准确率。
在本实施例的一些可选的实现方式中,上述根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数的步骤包括:
输入所述三维训练数据至所述基础点云配准模型中,计算得到预测配准数据;
计算所述真实配准数据的旋转矩阵和平移矩阵,组合所述旋转矩阵和所述平移矩阵中的元素得到所述真实配准数据的转换数据;
对所述转换数据和所述预测配准数据进行平方损失计算,得到所述基础点云配准模型的损失函数。
在本实施例中,将该三维训练数据输入至基础点云配准模型中,计算得到预测配准数据。根据该预测配准数据和真实配准数据,计算基础点云配准模型的损失函数,通过该损失函数对该基础点云配准模型的参数进行调整。具体地,计算真实配准数据的旋转矩阵和平移矩阵,对该平移矩阵和旋转矩阵中的元素进行组合,即得到真实配准数据的转换数据,该转换数据如下所示:
其中,Ri为旋转矩阵,ti为平移矩阵,为旋转矩阵Ri的第1行第1列的元素,为平移矩阵ti第1行第1列的元素,GRTi′中的其他元素含义同理。对该转换数据和预测配准数据进行平方损失计算,得到该基础点云配准模型的损失函数。该损失函数的计算公式如下所示:
其中,预测配准数据为PRE′i,真实配准数据的转换数据为GRT′il。
本实施例通过计算基础点云配准模型的损失函数,使得通过该损失函数能够对模型进行高效训练,提高了模型训练的效率。
在本实施例的一些可选的实现方式中,上述基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征的步骤包括:
所述三维特征提取层包括第一子特征网络和第二子特征网络,根据所述第一子特征网络对所述原始点集进行特征提取,得到所述第一原始特征;
根据所述第二子特征网络对所述原始点集进行特征提取,得到所述第二原始特征。
在本实施例中,三维特征提取层包括第一子特征网络和第二子特征网络,该第一子特征网络采用PPF-FoldNet,第二子特征网络采用PC-FoldNet,PPF-FoldNet的输入为原始点集或映射点集的点对特征,PC-FoldNet的输入特征为原始点集或映射点集的原始点云数据。根据该第一子特征网络对原始点集的点对特征进行特征提取,得到第一原始特征;根据该第二子特征网络对原始点集的原始点云数据进行特征提取,得到第二原始特征。第一子特征网络和第二子特征网络的结构区别在于PC-FoldNet的最后折叠层数为3,PPF-FoldNet的最后折叠层数为4。
故而,以PC-FoldNet对原始点集的原始点云数据进行特征提取,得到第二原始特征为例,PC-FoldNet包括编码器和解码器。其中,编码器包括一个三层的多层感知机(mlp,multi layer perceptron)、两个最大池化(max pool)层、一个两层的多层感知机;当原始点云数据输入至该PC-FoldNet时,先经过一个三层的多层感知机(mlp,multi layerperceptron),根据该三层的多层感知机对该原始点云数据进行处理;在该三层的多层感知机之后为一个最大池化(max pool)层,根据该最大池化层将通过上一层的多层感知机处理得到的特征聚合为一个通用的特征值,即得到一个归一化特征。之后,将低纬度的特征(即通过多层感知机处理得到的特征)通过跳跃连接(skip-links)串联起来,计算得到强化特征;而后,将该强化特征通过一个两层的多层感知机和最大池化层进行处理,得到一个512维的编码结果。解码器包括两个多层感知机,通过该编码器对编码器输出的强化特征进行处理,最终提取得到该原始点集的第二原始特征。
本实施例通过第一子特征网络对原始点集进行特征提取,得到第一原始特征,通过第二子特征网络对原始点集进行特征提取,得到所述第二原始特征,实现了对原始点集特征的精确提取。
在本实施例的一些可选的实现方式中,上述根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征的步骤包括:
随机初始化三个大小相同的矩阵,分别为第一初始矩阵、第二初始矩阵和第三初始矩阵;
分别计算所述目标拼接矩阵和所述第一初始矩阵、所述第二初始矩阵、所述第三初始矩阵的点乘,得到第一特征矩阵、第二特征矩阵和第三特征矩阵;
根据所述第一特征矩阵、所述第二特征矩阵和所述第三特征矩阵计算相似度矩阵,对所述相似度矩阵和所述第三初始矩阵进行点乘计算,得到所述注意力特征。
在本实施例中,随机初始化三个大小相同的矩阵mq,mk,mv,mq,mk,mv分别对应第一初始矩阵、第二初始矩阵和第三初始矩阵。分别计算目标拼接矩阵和第一初始矩阵的点乘,得到第一特征矩阵Q;计算目标拼接矩阵和第二初始矩阵的点乘,得到第二特征矩阵K;计算目标拼接矩阵和第三初始矩阵的点乘,得到第三特征矩阵V。例如,第一初始矩阵、第二初始矩阵和第三初始矩阵的大小为8x1024,目标拼接矩阵的大小为1024x8,则Q=fea9·mq,K=fea9·mk,V=fea9·mv,计算得到的Q、K和V的大小为1024x1024。在计算得到第一特征矩阵、第二特征矩阵和第三特征矩阵时,根据该第一特征矩阵、第二特征矩阵和第三特征矩阵计算相似度矩阵,该相似度矩阵的计算公式如下:
其中,d为目标拼接矩阵fea9的第一个维度,在上述例子中则d=1024,通过该公式计算得到的相似度矩阵S的大小为1024。而后,通过softmax操作对该相似度矩阵进行更新,得到每次更新后的矩阵值该矩阵值的计算公式如下:
本实施例通过目标点云配准模型的注意力层对目标拼接特征进行注意力计算,得到注意力特征,使得计算得到的注意力特征更关注于数据本身,进一步提高了点云数据配准的准确率。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机可读指令来指令相关的硬件来完成,该计算机可读指令可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,前述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)等非易失性存储介质,或随机存储记忆体(Random Access Memory,RAM)等。
应该理解的是,虽然附图的流程图中的各个步骤按照箭头的指示依次显示,但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,其可以以其他的顺序执行。而且,附图的流程图中的至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,其执行顺序也不必然是依次进行,而是可以与其他步骤或者其他步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
进一步参考图4,作为对上述图2所示方法的实现,本申请提供了一种三维点云配准装置的一个实施例,该装置实施例与图2所示的方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,本实施例所述的三维点云配准装置400包括:预处理模块401、特征提取模块402、第一拼接模块403、卷积模块404、第二拼接模块405以及计算模块406。其中:
预处理模块401,用于获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
在本实施例的一些可选的实现方式中,预处理模块401包括:
映射单元,用于获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据,并确定所述原始三维数据和所述原始映射数据组成的集合为原始点集对;
分割单元,用于分别对所述原始三维数据和所述原始映射数据进行分割处理,得到第一分割点集和第二分割点集,确定所述第一分割点集和所述第二分割点集组成的集合为分割点集对;
标注单元,用于根据所述映射参数对所述分割点集对进行标注,得到所述目标数据集。
在本实施例的一些可选的实现方式中,映射单元包括:
转换子单元,用于所述映射参数包括第一平移矩阵和第二平移矩阵,根据所述第一平移矩阵和所述第二平移矩阵对所述原始三维数据进行转换,得到所述原始映射数据。
在本实施例中,目标处理对象为需要进行点云配准的对象,如目标图片或者目标物体,原始三维数据为目标处理对象的点云数据,其中,点云数据为一个三维坐标系统中一组向量的集合。例如,通过扫描目标图片可以得到目标图片的点云数据,将该目标图片中的每个点均采用三维坐标表示,即得到该目标图片的点云数据;该三维坐标中除包括点的几何位置外还包括颜色信息或反射强度信息。获取的原始三维数据,通过P={pi|pi=[xi yizi]T}表示该原始三维数据,其中,pi表示点集P中的第i个点,xi,yi和zi分别为三维空间中的x轴,y轴和z轴的坐标。对该原始三维数据进行预处理,得到目标数据集。具体地,预处理包括对原始三维数据的分割和映射等操作,通过预处理后的原始三维数据即为目标数据集。该目标数据集包括原始点集和映射点集,原始点集为对原始三维数据分割后得到的子点集的集合,映射点集为原始三维数据映射后的数据集分割得到的子点集的集合。
特征提取模块402,用于获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
在本实施例的一些可选的实现方式中,特征提取模块402包括:
采集单元,用于采集多组三维训练数据和真实配准数据作为训练数据;
训练单元,用于根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数;
确认单元,用于在所述损失函数收敛时,确定所述基础点云配准模型训练完成,得到所述目标点云配准模型。
在本实施例的一些可选的实现方式中,训练单元包括:
第一计算子单元,用于输入所述三维训练数据至所述基础点云配准模型中,计算得到预测配准数据;
组合子单元,用于计算所述真实配准数据的旋转矩阵和平移矩阵,组合所述旋转矩阵和所述平移矩阵中的元素得到所述真实配准数据的转换数据;
第二计算子单元,用于对所述转换数据和所述预测配准数据进行平方损失计算,得到所述基础点云配准模型的损失函数。
在本实施例的一些可选的实现方式中,特征提取模块402还包括:
第一特征提取单元,用于所述三维特征提取层包括第一子特征网络和第二子特征网络,根据所述第一子特征网络对所述原始点集进行特征提取,得到所述第一原始特征;
第二特征提取单元,用于根据所述第二子特征网络对所述原始点集进行特征提取,得到所述第二原始特征。
在本实施例中,如下图3所示,图3为一种目标点云配准模型的网络结构示意图。目标点云配准模型包括三维特征提取层(第一子特征网络和第二子特征网络)、拼接层、第一卷积层、第二卷积层、注意力层和全连接层。基于目标点云配准模型的三维特征提取层对原始点集进行特征提取,得到原始点集的第一原始特征和第二原始特征;同时基于该三维特征提取层对映射点集进行特征提取,得到映射点集的第一映射特征和第二映射特征。具体地,该特征提取可采用PPF-FoldNet(Point Pair Features-FoldNet)和PC-FoldNet(PointCloud-FoldNet),将该PPF-FoldNet作为第一子特征网络,将该PC-FoldNet作为第二子特征网络。根据该PPF-FoldNet对原始点集p′i进行特征提取得到第一原始特征fea1,根据PC-FoldNet对原始点集进行特征提取得到第二原始特征fea2;同理,通过PPF-FoldNet和PC-FoldNet分别对映射点集Q′i进行特征提取,即得到第一映射特征fea3和第二映射特征fea4。其中,PPF-FoldNet为一种特征提取网络,在得到原始点集和映射点集时,获取该原始点集和映射点集分别对应的点对特征(PPF,Point Pair Features),一个点对特征包括原始点集或映射点集中两个点之间的距离、两个点之间的法向量、法向量和距离之间的夹角;之后,对该点对特征通过PPF-FoldNet进行处理得到三维局部特征子,该三维局部特征子即为第一原始特征或第一映射特征。PC-FoldNet与PPF-FoldNet的网络结构大致相同,但相比于PPF-FoldNet,PC-FoldNet的最后折叠层数为3,PPF-FoldNet的最后折叠层数为4。在基于PC-FoldNet对原始点集和映射点集进行特征提取时,则获取该原始点集和映射点集分别对应的原始点云数据,根据PC-FoldNet分别原始点集和映射点集对应的原始点云数据进行特征提取,得到第二原始特征和第二映射特征。
第一拼接模块403,用于基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
在本实施例中,目标点云配准模型包括两个相同的拼接层,一个拼接层对第一原始特征和第一映射特征进行向量平铺后拼接,得到第一拼接特征;另一个拼接层对第二原始特征和第二映射特征平铺后拼接,得到第二拼接特征。以图3为例,通过拼接层对第一原始特征fea1和第一映射特征fea3进行拼接,得到第一拼接特征fea5;之后,通过另一拼接层对第二原始特征fea2和第二映射特征fea4平铺后拼接,得到第二拼接特征fea6。
卷积模块404,用于根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
在本实施例中,第一卷积层和第二卷积层为并列的两个相同卷积层,例如,该第一卷积层和第二卷积层均采用卷积核为4x4,步长为1的2D卷积。通过该第一卷积层对第一拼接向量进行卷积计算,得到第一卷积特征;通过第二卷积层对第二拼接向量进行卷积计算,得到第二卷积特征。以图3为例,通过第一卷积层Conv1对第一拼接向量fea5进行卷积计算,得到第一卷积特征fea7;通过第二卷积层Conv2对第二拼接向量fea6进行卷积计算,得到第二卷积特征fea8。
第二拼接模块405,用于对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
在本实施例的一些可选的实现方式中,第二拼接模块405包括:
初始化单元,用于随机初始化三个大小相同的矩阵,分别为第一初始矩阵、第二初始矩阵和第三初始矩阵;
第一计算单元,用于分别计算所述目标拼接矩阵和所述第一初始矩阵、所述第二初始矩阵、所述第三初始矩阵的点乘,得到第一特征矩阵、第二特征矩阵和第三特征矩阵;
第二计算单元,用于根据所述第一特征矩阵、所述第二特征矩阵和所述第三特征矩阵计算相似度矩阵,对所述相似度矩阵和所述第三初始矩阵进行点乘计算,得到所述注意力特征。
在本实施例中,在得到第一卷积特征和第二卷积特征时,对该第一卷积特征和第二卷积特征平铺后进行拼接,得到目标拼接特征;之后,根据目标点云配准模型的注意力层对目标拼接特征进行注意力计算,得到注意力特征。以图3为例,第一卷积特征和第二卷积特征大小均为1024x4,则该第一卷积特征fea7和第二卷积特征fea8平铺拼接后,得到大小为1024x8的目标拼接特征fea9;通过注意力层(Attention)对目标拼接特征fea9进行注意力计算,得到注意力特征fea10。
计算模块406,用于输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
在本实施例中,在得到注意力特征时,输入该注意力特征至目标点云配准模型的全连接层,根据该全连接层对该注意力特征进行计算,得到原始三维数据的点云配准数据。具体地,在得到注意力特征时,可通过一个大小为512的全连接层对注意力特征进行处理,得到一个1x512的特征值;之后,将该特征值输入至大小为12的全连接层,计算得到最终的大小为1x12的特征,该特征即为目标处理对象的点云配准数据。以图3为例,图3中包括两个全连接层,MLP3和MLP4,在计算得到注意力特征fea10时,首先通过全连接层MLP3对该注意力特征进行计算,得到特征fea11;而后,将该特征fea11通过第二个全连接层MLP4计算,得到最终的特征PRE′i,该特征PRE′i即为目标处理对象的点云配准数据。最终,通过该点云配准数据可以在自动驾驶、三维重建和高精度地图中实现精确数据处理。
需要强调的是,为进一步保证上述点云配准数据的私密和安全性,上述点云配准数据还可以存储于一区块链的节点中。
本申请提出的三维点云配准装置,实现了对点云特征的精确提取,提高了点云配准模型的准确率和泛化性,最终提高了三维点云配准的准确率和效率。
为解决上述技术问题,本申请实施例还提供计算机设备。具体请参阅图5,图5为本实施例计算机设备基本结构框图。
所述计算机设备6包括通过系统总线相互通信连接存储器61、处理器62、网络接口63。需要指出的是,图中仅示出了具有组件61-63的计算机设备6,但是应理解的是,并不要求实施所有示出的组件,可以替代的实施更多或者更少的组件。其中,本技术领域技术人员可以理解,这里的计算机设备是一种能够按照事先设定或存储的指令,自动进行数值计算和/或信息处理的设备,其硬件包括但不限于微处理器、专用集成电路(ApplicationSpecific Integrated Circuit,ASIC)、可编程门阵列(Field-Programmable GateArray,FPGA)、数字处理器(Digital Signal Processor,DSP)、嵌入式设备等。
所述计算机设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述计算机设备可以与用户通过键盘、鼠标、遥控器、触摸板或声控设备等方式进行人机交互。
所述存储器61至少包括一种类型的可读存储介质,所述可读存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如,SD或DX存储器等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等。在一些实施例中,所述存储器61可以是所述计算机设备6的内部存储单元,例如该计算机设备6的硬盘或内存。在另一些实施例中,所述存储器61也可以是所述计算机设备6的外部存储设备,例如该计算机设备6上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(FlashCard)等。当然,所述存储器61还可以既包括所述计算机设备6的内部存储单元也包括其外部存储设备。本实施例中,所述存储器61通常用于存储安装于所述计算机设备6的操作系统和各类应用软件,例如三维点云配准方法的计算机可读指令等。此外,所述存储器61还可以用于暂时地存储已经输出或者将要输出的各类数据。
所述处理器62在一些实施例中可以是中央处理器(Central Processing Unit,CPU)、控制器、微控制器、微处理器、或其他数据处理芯片。该处理器62通常用于控制所述计算机设备6的总体操作。本实施例中,所述处理器62用于运行所述存储器61中存储的计算机可读指令或者处理数据,例如运行所述三维点云配准方法的计算机可读指令。
所述网络接口63可包括无线网络接口或有线网络接口,该网络接口63通常用于在所述计算机设备6与其他电子设备之间建立通信连接。
本申请提出的计算机设备,实现了对点云特征的精确提取,提高了点云配准模型的准确率和泛化性,最终提高了三维点云配准的准确率和效率。
本申请还提供了另一种实施方式,即提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可读指令,所述计算机可读指令可被至少一个处理器执行,以使所述至少一个处理器执行如上述的三维点云配准方法的步骤。
本申请提出的计算机可读存储介质,实现了对点云特征的精确提取,提高了点云配准模型的准确率和泛化性,最终提高了三维点云配准的准确率和效率。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本申请各个实施例所述的方法。
显然,以上所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例,附图中给出了本申请的较佳实施例,但并不限制本申请的专利范围。本申请可以以许多不同的形式来实现,相反地,提供这些实施例的目的是使对本申请的公开内容的理解更加透彻全面。尽管参照前述实施例对本申请进行了详细的说明,对于本领域的技术人员来而言,其依然可以对前述各具体实施方式所记载的技术方案进行修改,或者对其中部分技术特征进行等效替换。凡是利用本申请说明书及附图内容所做的等效结构,直接或间接运用在其他相关的技术领域,均同理在本申请专利保护范围之内。
Claims (10)
1.一种三维点云配准方法,其特征在于,包括下述步骤:
获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
2.根据权利要求1所述的三维点云配准方法,其特征在于,所述对所述原始三维数据进行预处理,得到目标数据集的步骤包括:
获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据,并确定所述原始三维数据和所述原始映射数据组成的集合为原始点集对;
分别对所述原始三维数据和所述原始映射数据进行分割处理,得到第一分割点集和第二分割点集,确定所述第一分割点集和所述第二分割点集组成的集合为分割点集对;
根据所述映射参数对所述分割点集对进行标注,得到所述目标数据集。
3.根据权利要求2所述的三维点云配准方法,其特征在于,所述获取预设的映射参数,根据所述映射参数对所述原始三维数据进行映射处理,得到原始映射数据的步骤包括:
所述映射参数包括第一平移矩阵和第二平移矩阵,根据所述第一平移矩阵和所述第二平移矩阵对所述原始三维数据进行转换,得到所述原始映射数据。
4.根据权利要求1所述的三维点云配准方法,其特征在于,所述获取训练好的目标点云配准模型的步骤包括:
采集多组三维训练数据和真实配准数据作为训练数据;
根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数;
在所述损失函数收敛时,确定所述基础点云配准模型训练完成,得到所述目标点云配准模型。
5.根据权利要求4所述的三维点云配准方法,其特征在于,所述根据所述训练数据对基础点云配准模型进行训练,计算得到所述基础点云配准模型的损失函数的步骤包括:
输入所述三维训练数据至所述基础点云配准模型中,计算得到预测配准数据;
计算所述真实配准数据的旋转矩阵和平移矩阵,组合所述旋转矩阵和所述平移矩阵中的元素得到所述真实配准数据的转换数据;
对所述转换数据和所述预测配准数据进行平方损失计算,得到所述基础点云配准模型的损失函数。
6.根据权利要求1所述的三维点云配准方法,其特征在于,所述基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征的步骤包括:
所述三维特征提取层包括第一子特征网络和第二子特征网络,根据所述第一子特征网络对所述原始点集进行特征提取,得到所述第一原始特征;
根据所述第二子特征网络对所述原始点集进行特征提取,得到所述第二原始特征。
7.根据权利要求1所述的三维点云配准方法,其特征在于,所述根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征的步骤包括:
随机初始化三个大小相同的矩阵,分别为第一初始矩阵、第二初始矩阵和第三初始矩阵;
分别计算所述目标拼接矩阵和所述第一初始矩阵、所述第二初始矩阵、所述第三初始矩阵的点乘,得到第一特征矩阵、第二特征矩阵和第三特征矩阵;
根据所述第一特征矩阵、所述第二特征矩阵和所述第三特征矩阵计算相似度矩阵,对所述相似度矩阵和所述第三初始矩阵进行点乘计算,得到所述注意力特征。
8.一种三维点云配准装置,其特征在于,包括:
预处理模块,用于获取目标处理对象的原始三维数据,对所述原始三维数据进行预处理,得到目标数据集,其中,所述目标数据集包括原始点集和映射点集;
特征提取模块,用于获取训练好的目标点云配准模型,基于所述目标点云配准模型的三维特征提取层对所述原始点集进行特征提取,得到所述原始点集的第一原始特征和第二原始特征,基于所述三维特征提取层对所述映射点集进行特征提取,得到所述映射点集的第一映射特征和第二映射特征;
第一拼接模块,用于基于所述目标点云配准模型的拼接层对所述第一原始特征和所述第一映射特征进行拼接,得到第一拼接特征,基于所述拼接层对所述第二原始特征和所述第二映射特征进行拼接,得到第二拼接特征;
卷积模块,用于根据所述目标点云配准模型的第一卷积层对所述第一拼接特征进行卷积计算,得到第一卷积特征,根据所述目标点云配准模型的第二卷积层对所述第二拼接特征进行卷积计算,得到第二卷积特征;
第二拼接模块,用于对所述第一卷积特征和所述第二卷积特征进行拼接,得到目标拼接特征,根据所述目标点云配准模型的注意力层对所述目标拼接特征进行注意力计算,得到注意力特征;
计算模块,用于输入所述注意力特征至所述目标点云配准模型的全连接层,计算得到所述目标处理对象的点云配准数据。
9.一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机可读指令,所述处理器执行所述计算机可读指令时实现如权利要求1至7中任一项所述的三维点云配准方法的步骤。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机可读指令,所述计算机可读指令被处理器执行时实现如权利要求1至7中任一项所述的三维点云配准方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210236602.1A CN114627170B (zh) | 2022-03-11 | 2022-03-11 | 三维点云配准方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210236602.1A CN114627170B (zh) | 2022-03-11 | 2022-03-11 | 三维点云配准方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114627170A true CN114627170A (zh) | 2022-06-14 |
CN114627170B CN114627170B (zh) | 2024-06-07 |
Family
ID=81902745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210236602.1A Active CN114627170B (zh) | 2022-03-11 | 2022-03-11 | 三维点云配准方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114627170B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116128941A (zh) * | 2023-02-08 | 2023-05-16 | 西安电子科技大学 | 一种基于跳跃注意力机制的点云配准方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190042870A1 (en) * | 2017-12-28 | 2019-02-07 | Yen-Kuang Chen | Multi-domain convolutional neural network |
CN112017225A (zh) * | 2020-08-04 | 2020-12-01 | 华东师范大学 | 一种基于点云配准的深度图像匹配方法 |
CN112215101A (zh) * | 2020-09-27 | 2021-01-12 | 武汉科技大学 | 一种基于注意力机制的三维目标识别方法及系统 |
US20210350620A1 (en) * | 2020-05-07 | 2021-11-11 | Imperial College Innovations Limited | Generative geometric neural networks for 3d shape modelling |
CN113658100A (zh) * | 2021-07-16 | 2021-11-16 | 上海高德威智能交通系统有限公司 | 三维目标物体检测方法、装置、电子设备及存储介质 |
CN113838109A (zh) * | 2021-11-30 | 2021-12-24 | 北京航空航天大学 | 一种低重合度点云配准方法 |
CN114004871A (zh) * | 2022-01-04 | 2022-02-01 | 山东大学 | 一种基于点云补全的点云配准方法及系统 |
CN114118181A (zh) * | 2021-08-26 | 2022-03-01 | 西北大学 | 一种高维回归点云配准方法、系统、计算机设备及应用 |
-
2022
- 2022-03-11 CN CN202210236602.1A patent/CN114627170B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190042870A1 (en) * | 2017-12-28 | 2019-02-07 | Yen-Kuang Chen | Multi-domain convolutional neural network |
US20210350620A1 (en) * | 2020-05-07 | 2021-11-11 | Imperial College Innovations Limited | Generative geometric neural networks for 3d shape modelling |
CN112017225A (zh) * | 2020-08-04 | 2020-12-01 | 华东师范大学 | 一种基于点云配准的深度图像匹配方法 |
CN112215101A (zh) * | 2020-09-27 | 2021-01-12 | 武汉科技大学 | 一种基于注意力机制的三维目标识别方法及系统 |
CN113658100A (zh) * | 2021-07-16 | 2021-11-16 | 上海高德威智能交通系统有限公司 | 三维目标物体检测方法、装置、电子设备及存储介质 |
CN114118181A (zh) * | 2021-08-26 | 2022-03-01 | 西北大学 | 一种高维回归点云配准方法、系统、计算机设备及应用 |
CN113838109A (zh) * | 2021-11-30 | 2021-12-24 | 北京航空航天大学 | 一种低重合度点云配准方法 |
CN114004871A (zh) * | 2022-01-04 | 2022-02-01 | 山东大学 | 一种基于点云补全的点云配准方法及系统 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116128941A (zh) * | 2023-02-08 | 2023-05-16 | 西安电子科技大学 | 一种基于跳跃注意力机制的点云配准方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114627170B (zh) | 2024-06-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112396613B (zh) | 图像分割方法、装置、计算机设备及存储介质 | |
CN112395390B (zh) | 意图识别模型的训练语料生成方法及其相关设备 | |
CN110490959B (zh) | 三维图像处理方法及装置、虚拟形象生成方法以及电子设备 | |
CN113012075B (zh) | 一种图像矫正方法、装置、计算机设备及存储介质 | |
CN112861662B (zh) | 基于人脸和交互文本的目标对象行为预测方法及相关设备 | |
US20210166058A1 (en) | Image generation method and computing device | |
CN113947095B (zh) | 多语种文本翻译方法、装置、计算机设备及存储介质 | |
CN114529574A (zh) | 基于图像分割的图像抠图方法、装置、计算机设备及介质 | |
CN114780701B (zh) | 自动问答匹配方法、装置、计算机设备及存储介质 | |
CN112836521A (zh) | 问答匹配方法、装置、计算机设备及存储介质 | |
CN111476225A (zh) | 基于人工智能的车内人脸识别方法、装置、设备及介质 | |
CN116935449A (zh) | 指纹图像匹配模型训练方法、指纹匹配方法及相关介质 | |
CN110717405B (zh) | 人脸特征点定位方法、装置、介质及电子设备 | |
CN114241411B (zh) | 基于目标检测的计数模型处理方法、装置及计算机设备 | |
CN114627170B (zh) | 三维点云配准方法、装置、计算机设备及存储介质 | |
CN112801099A (zh) | 一种图像处理方法、装置、终端设备及介质 | |
CN114821255A (zh) | 多模态特征的融合方法、装置、设备、介质和产品 | |
CN113988223A (zh) | 证件图像识别方法、装置、计算机设备及存储介质 | |
CN112434746B (zh) | 基于层次化迁移学习的预标注方法及其相关设备 | |
CN117235257A (zh) | 基于人工智能的情感预测方法、装置、设备及存储介质 | |
CN115273110A (zh) | 基于TensorRT的文本识别模型部署方法、装置、设备及存储介质 | |
CN113936286A (zh) | 图像文本识别方法、装置、计算机设备及存储介质 | |
CN112396111A (zh) | 文本意图分类方法、装置、计算机设备及存储介质 | |
CN113139490A (zh) | 一种图像特征匹配方法、装置、计算机设备及存储介质 | |
CN113657104A (zh) | 文本抽取方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |