CN113706686A - 一种三维点云重建结果补全方法及相关组件 - Google Patents
一种三维点云重建结果补全方法及相关组件 Download PDFInfo
- Publication number
- CN113706686A CN113706686A CN202110779987.1A CN202110779987A CN113706686A CN 113706686 A CN113706686 A CN 113706686A CN 202110779987 A CN202110779987 A CN 202110779987A CN 113706686 A CN113706686 A CN 113706686A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- features
- training
- global
- pyramid
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 238000012549 training Methods 0.000 claims description 53
- 238000005070 sampling Methods 0.000 claims description 19
- 238000005457 optimization Methods 0.000 claims description 15
- 238000004590 computer program Methods 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 7
- 230000008439 repair process Effects 0.000 claims description 5
- 230000009191 jumping Effects 0.000 claims description 2
- 230000000694 effects Effects 0.000 abstract description 6
- 238000012937 correction Methods 0.000 abstract description 3
- 239000000284 extract Substances 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 13
- 238000000605 extraction Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000011176 pooling Methods 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 230000003190 augmentative effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种三维点云重建结果补全方法，该方法采用迭代预测和修正的方式预测缺失点云，以不完全的三维点云作为输入，构建基于Transformer的金字塔编码器，学习点之间的相关性，提取多尺度的全局几何结构和局部细节特征；构建基于Transformer的金字塔解码器，充分利用已有点云的全局几何结构和局部细节信息，在多个尺度上迭代预测缺失点云，补全三维点云重建结果，该方法可以有效提升三维点云重建结果补全的精准度，提升三维点云重建的输出效果。本发明还公开了一种三维点云重建结果补全装置、设备及可读存储介质，具有相应的技术效果。
Description
技术领域
本发明涉及数据处理技术领域，特别是涉及一种三维点云重建结果补全方法、装置、设备及可读存储介质。
背景技术
三维点云数据(point cloud)指通过3D扫描仪所取得的资料形式。扫描资料以点的形式存储，每一个点包含有三维坐标，有些可能含有色彩资讯(R,G,B)或物体反射面强度等信息。点云数据是常见的三维模型表示方法，可有效表示复杂三维形状。其主要可以利用激光扫描设备或通过RGBD(RGB Depth Map，RGB模式深度图)深度相机等扫描设备来获取。但是，由于物体间相互遮挡、传感器距离限制等原因，通过扫描设备获取的三维点云重建结果存在噪声，甚至出现孔洞或形状结构缺失。针对这一问题，点云补全从不完整点云重建结果出发，通过补全得到完整的高质量点云形状来弥补扫描设备获取的三维点云重建结果差的问题，从而广泛应用于自动驾驶、机器人视觉、虚拟现实、增强现实等领域。
近来，通常基于点进行深度学习的点云补全，具体地，该方法中以不完整点云作为输入，在多个层次上提取已有点云的多尺度特征，用以迭代预测缺失部分的点云。该方法可以在一定程度上补全细节信息，但是存在已有点云细节丢失和修复不完全的问题。
综上所述，如何解决三维点云形状补全中已有点云细节丢失和修复不完全的问题，是目前本领域技术人员急需解决的技术问题。
发明内容
本发明的目的是提供一种三维点云重建结果补全方法、装置、设备及可读存储介质，以解决三维点云形状补全中已有点云细节丢失和修复不完全的问题。
为解决上述技术问题，本发明提供如下技术方案：
一种三维点云重建结果补全方法，包括：
接收待补全的三维点云，作为不完整点云；
调用基于Transformer的金字塔编码器对所述不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，得到缺失点云；
将所述缺失点云与所述不完整点云组合，作为预测完整点云。
可选地，所述调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，包括：
调用第一解码块根据所述全局特征、所述局部特征以及嵌入的条件输入进行点云恢复，得到缺失点云的初始特征；
调用第二解码块对输入点云上采样后进行点云特征优化，作为所述缺失点云。
可选地，所述调用第二解码块对输入点云上采样后进行点云特征优化，包括：
调用所述第二解码块中的上采样层对所述生成点云以及对应连接的编码块输出的已有点云进行点云合并，得到合并点云；
对所述合并点云按预设分辨率进行插值，得到插值点云；
调用所述第二解码块中的Transformer层对所述插值点云进行点云特征优化，作为所述缺失点云；
跳转至所述调用所述第二解码块中的上采样层对所述生成点云以及对应连接的编码块输出的已有点云进行点云合并的步骤，直至达到预设迭代次数。
可选地，所述第二解码块中包括：四个子解码块，所述子解码块包括：上采样层、线性变换层和Transformer层。
可选地，所述金字塔编码器与所述金字塔解码器的优化训练方法，包括：
确定不完整的训练点云以及对应的完整点云；
生成所述训练点云对应的全局点；
将所述全局点添加至所述训练点云中，作为输入点云；
调用所述金字塔编码器对所述输入点云进行多尺度全局特征和局部特征提取，得到全局训练特征以及局部训练特征；
调用所述金字塔解码器根据所述全局训练特征以及所述局部训练特征进行多尺度迭代预测，得到缺失预测训练点云；
将所述缺失预测训练点云与所述训练点云组合，作为预测完整训练点云；
根据所述预测完整训练点云与所述完整点云间的差异对所述金字塔编码器以及所述金字塔解码器进行模型参数优化处理。
可选地，所述生成所述训练点云对应的全局点，包括：
根据可学习的随机变量，作为所述全局点。
可选地，所述根据所述预测完整训练点云与所述完整点云间的差异对所述金字塔编码器以及所述金字塔解码器进行模型参数优化处理，包括：
确定所述预测完整点的重建损失；
根据所述重建损失与所述完整点云的对抗损失交替优化生成对抗网络的生成器和判别器参数。
一种三维点云重建结果补全装置，包括：
点云接收单元，用于接收待补全的三维点云，作为不完整点云；
编码单元，用于调用基于Transformer的金字塔编码器对所述不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
解码单元，用于调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，得到缺失点云；
预测单元，用于将所述缺失点云与所述不完整点云组合，作为预测完整点云。
一种计算机设备，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现上述三维点云重建结果补全方法的步骤。
一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述三维点云重建结果补全方法的步骤。
本发明实施例所提供的方法，采用迭代预测和修正的方式预测缺失点云，以不完全的三维点云作为输入，构建基于Transformer的金字塔编码器，学习点之间的相关性，提取多尺度的全局几何结构和局部细节特征；构建基于Transformer的金字塔解码器，充分利用已有点云的全局几何结构和局部细节信息，在多个尺度上迭代预测缺失点云，补全三维点云重建结果，该方法可以有效提升三维点云重建结果补全的精准度，提升三维点云重建的输出效果。
相应地，本发明实施例还提供了与上述三维点云重建结果补全方法相对应的三维点云重建结果补全装置、设备和可读存储介质，具有上述技术效果，在此不再赘述。
附图说明
为了更清楚地说明本发明实施例或相关技术中的技术方案，下面将对实施例或相关技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种三维点云重建结果补全方法的实施流程图；
图2为本发明实施例中一种基于Transformer的金字塔编码器和解码器连接示意图；
图3为本发明实施例中一种三维点云重建结果补全装置的结构示意图；
图4为本发明实施例中一种计算机设备的结构示意图。
具体实施方式
本发明的核心是提供一种三维点云重建结果补全方法，可以解决三维点云形状补全中已有点云细节丢失和修复不完全的问题。
为了使本技术领域的人员更好地理解本发明方案，下面结合附图和具体实施方式对本发明作进一步的详细说明。显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
请参考图1，图1为本发明实施例中一种三维点云重建结果补全方法的流程图，该方法包括以下步骤：
S101、接收待补全的三维点云，作为不完整点云；
确定输入的三维点云，作为待补全的不完整点云。
S102、调用基于Transformer的金字塔编码器对不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
本实施例中基于Transformer的金字塔编码器，学习点云中点之间的相关性，提取多尺度的全局几何结构和局部细节特征，可以实现精准细化的特征提取。具体地，本实施例中对于金字塔编码器的具体结构不做限定，金字塔编码器中包括多个下采样层和Transformer层，通过下采样层对点云进行下采样，得到由细到粗的多尺度点云，比如对于包含N1个点的输入点云P1，可以利用最远点采样的方法进行采样，得到包含N2个点的点云P2，其中N1＞N2，
通过Transformer层优化点云特征表示，其中Transformer层可以采用多种自注意力实现方法构建，具体地，可以基于偏移注意力的自注意力机制实现Transformer层的构建，本实施例中对此不做限定。
具体地，金字塔编码器可以包含5个特征提取块，第一个特征提取块包含一个MLP(多层感知器)和一个Transformer层；其余4个特征提取块均包含一个下采样层、一个线性变换层和一个Transformer层，本实施例中仅以上述编码器结构为例进行介绍，其它结构形式对应的补全方法均可参照本实施例的介绍，在此不再赘述。
本实施例中对不完整点云进行多尺度全局特征和局部特征提取，其中多尺度指多个特征的尺度，可以通过重复特征提取得到，则相应地，对不完整点云进行多尺度全局特征和局部特征提取的过程可以为：利用金字塔编码器中的下采样层对不完整点云进行下采样得到点云特征，调用Transformer层对点云特征进行优化得到点云局部和全局特征。重复上述步骤，即可得到多个尺度的点云尺度局部和全局特征。以不完整点云的三维坐标N×3为例，其中N为输入点云的个数，下采样层对不完整点云进行下采样得到点云特征的过程可以为：对不完整点云进行下采样得到下采样后的点云(N/4+1)×32，利用线性变换层对点云特征的维度进行变换得到点云特征表示(N/4+1)×64，然后利用构建的Transformer层对点云特征进行优化得到点云特征表示。重复上述步骤，得到多个尺度的点云全局几何结构和局部细节特征，尺度分别为(N+1)×32、(N/4+1)×64、(N/16+1)×128、(N/64+1)×256、(N/256+1)×512。本实施例中仅以上述点云尺度为例进行介绍，其它均可参照本实施例的介绍，在此不再赘述。
S103、调用基于Transformer的金字塔解码器根据全局特征以及局部特征进行多尺度迭代预测，得到预测的缺失点云；
本实施例中调用预构建的基于Transformer的金字塔解码器来迭代解码预测缺失点云。本实施例中对于金字塔解码器的具体结构不做限定，基于Transformer的金字塔解码器中主要可以包括上采样层和Transformer层，其中，上采样层主要用于合并上一个解码块输出的生成点云和对应编码块编码的已有点云，并进行插值，恢复点云的分辨率。
编码器与解码器中对应的块连接(如图2所示为一种基于Transformer的金字塔编码器和解码器连接示意图)，从而解码器可以充分利用编码器编码的输入点云特征，解码预测缺失点云。
具体地，金字塔解码器中可以包含两部分解码块，第一部分解码块包含一个MLP和一个Transformer层；第二部分解码块由一个上采样层、一个线性变换层和一个Transformer层组成，编码器和解码器中块需对应设置。其中，第二部分解码块可以由4个子解码块构成，用于实现多尺度缺失点云的迭代预测。
具体地，基于上述结构的解码器的一种工作过程可以如下所示：
(1)调用第一解码块根据全局特征、局部特征以及嵌入的条件输入进行点云恢复，得到缺失点云的初始特征；
利用编码器输出的多尺度全局几何结构和局部细节特征，并嵌入随机条件输入，生成缺失点云的初始特征。
具体地，将编码器中对应块输出的输入点云特征N/256×512作为第一个解码块的输入，并嵌入可学习的随机向量作为条件输入，利用MLP计算生成缺失点云的初始特征表示，然后利用Transformer层学习点云之间的关系，得到优化后的缺失点云的初始特征表示N/256×512。
(2)调用第二解码块对输入点云上采样后进行点云特征优化，得到预测的缺失点云。
利用上采样层对输入点云进行上采样得到包含更多点的点云，并利用Transformer层对点云特征进行优化。
具体地该过程可以为：调用上采样层对输入点云进行上采样得到点云N/64×512，利用线性层对点云特征的维度进行变换得到点云特征表示N/64×256，然后利用Transformer层对点云特征进行优化生成缺失点云的特征表示N/64×256。
其中，上采样层主要用于：合并上一个解码块输出的生成点云和对应编码块编码的已有点云，上一个解码块的输出包含N1个点的点云P1，对应的编码器中特征提取块输出包含N1个点的点云P2，合并点云P1和P2得到上采样以后包含2N1个点的点云，然后利用插值到4N1个点，由粗到细恢复点云分辨率。
重复上述步骤，在多个尺度上预测缺失点云特征，直至达到预设迭代次数，最终生成的缺失点云特征表示为N×32。
本实施例中仅以上述结构对应的一种工作模式进行介绍，其它结构以及工作模式下的实现过程均可参照上述介绍，在此不再赘述。
S104、将缺失点云与不完整点云组合，作为预测完整点云。
合并生成的缺失点云和输入的不完整点云得到生成的完整点云，作为预测完整点云。具体地，进行点云组合的过程可以为：基于编码器和解码器得到的缺失点云特征，利用MLP变换得到缺失点云的三维坐标；合并生成的缺失点云和输入点云得到生成的完整点云。其中，进行点云合并的过程本实施例中不做限定，可以参照相关技术的实现。
基于上述介绍，本发明实施例所提供的技术方案，采用迭代预测和修正的方式预测缺失点云，以不完全的三维点云作为输入，构建基于Transformer的金字塔编码器，学习点之间的相关性，提取多尺度的全局几何结构和局部细节特征；构建基于Transformer的金字塔解码器，充分利用已有点云的全局几何结构和局部细节信息，在多个尺度上迭代预测缺失点云，补全三维点云重建结果，该方法可以有效提升三维点云重建结果补全的精准度，提升三维点云重建的输出效果。
需要说明的是，基于上述实施例，本发明实施例还提供了相应的改进方案。在优选/改进实施例中涉及与上述实施例中相同步骤或相应步骤之间可相互参考，相应的有益效果也可相互参照，在本文的优选/改进实施例中不再一一赘述。
上述实施例中对于金字塔编码器与金字塔解码器的优化训练方法不做限定，本实施例中针对其训练过程介绍一种实现方式，具体可以包括以下步骤：
(1)确定不完整的训练点云以及对应的完整点云；
训练点云是一种不完整点云，在进行训练时还需要获取该不完整点云对应的完整点云，以便根据重建差异进行模型参数的优化训练。
(2)生成训练点云对应的全局点；
其中全局点可以统计目前已有点云的全局特征后得到，也可以采取其它方式，其中优选地，可以构建包含虚拟“全局点”的虚拟输入点云，设置可学习的随机变量表示全局特征，并作为虚拟的“全局点”加入点云。其中，虚拟全局点是可学习的，可以避免全局特征局部偏置的问题。
例如，输入的不完整点云的三维坐标N×3，其中N为输入点云的个数，利用金字塔编码器中第一个特征提取块的MLP提取点云的初始局部特征表示N×32，设置可学习的随机变量表示全局特征表示1×32，作为虚拟的“全局点”加入点云，然后利用金字塔编码器中的Transformer层学习点云中的点与其邻域点的关系，可以输出优化后的点云局部细节和全局几何结构特征(N+1)×32。
上述方法引入可学习的随机向量作为条件输入，使得生成缺失点云分布更加合理。
需要说明的是，本实施例中仅以上述全局点的生成以及特征提取方式为例进行详细介绍，其它全局点生成方式下的特征提取方式均可参照上述介绍，在此不再赘述。
(3)将全局点添加至训练点云中，作为输入点云；
(4)调用金字塔编码器对输入点云进行多尺度全局特征和局部特征提取，得到全局训练特征以及局部训练特征；
(5)调用金字塔解码器根据全局训练特征以及局部训练特征进行多尺度迭代预测，得到缺失预测训练点云；
(6)将缺失预测训练点云与训练点云组合，作为预测完整训练点云；
其中，上述步骤(4)至(6)的实现过程可以参照上述实施例的介绍，在此不再赘述。
(7)根据预测完整训练点云与完整点云间的差异对金字塔编码器以及金字塔解码器进行模型参数优化处理。
计算真实点云与生成点云的坐标差值作为相对坐标特征，根据其差异损失对金字塔编码器以及金字塔解码器进行模型参数优化处理，具体地可以输入到判别器中，经过多层感知器MLP和最大池化层得到特征2N×32，然后利用线性变换层输出一个标量，该标量能够用以判断输入的点云是来自生成的数据还是真实点云数据。
可选地，一种参数优化处理的过程如下：
(7.1)确定预测完整点的重建损失；
将构建的基于Transformer的编码器-解码器结构作为生成对抗网络的生成器；构建判别器，包括由多个MLP组成的编码块、一个最大池化层和一个线性变换层。预训练缺失点云生成的编码器-解码器网络，计算缺失点云的重建损失，最小化生成缺失点云和缺失点云真值之间的距离。
其中计算预测的缺失点云的重建损失具体可以采用CD作为重建损失函数，计算预测的缺失点云与缺失点云真值之间的距离，具体计算公式为：
其中，S1，S2分别表示缺失点云的真值和预测生成的缺失点云。
计算预测的完整点云的对抗损失，采用稳定高效的LS-GAN作为对抗损失函数，计算生成的完整三维点云形状的对抗损失，具体计算公式为：
其中
分别表示生成的完整三维点云形状和三维点云形状真值。
(7.2)根据重建损失与完整点云的对抗损失交替优化生成对抗网络的生成器和判别器参数。
训练生成对抗网络，同时计算缺失点云的重建损失和完整点云的对抗损失，交替优化生成对抗网络的生成器和判别器参数，使得生成器生成足以迷惑判别器的完整三维点云形状。
上述过程采用CD计算缺失点云的重建损失，优化编码器-解码器中的参数，最小化生成缺失点云和缺失点云真值之间的距离。训练生成对抗网络，同时计算缺失点云的重建损失和完整点云的对抗损失，交替优化生成对抗网络的生成器和判别器参数，使得生成器生成足以迷惑判别器的完整三维点云形状。
本实施例中介绍的上述模型训练方法中，首先构建包含虚拟“全局点”的输入点云，然后利用基于Transformer的金字塔编码器学习点之间的相关性，提取多尺度全局和局部点云特征，更好地保留输入点云的整体几何结构和局部信息。其中通过多尺度迭代预测缺失点云的方法，可以充分利用输入点云的全局几何结构和局部细节信息，并引入可学习的随机向量作为条件输入，在多个尺度上迭代预测分布合理的缺失点云。另外设计了一种多任务损失函数，计算生成的缺失点云的重建损失和生成的完整点云的对抗损失，在充分预测缺失点云的同时保留已有点云的细节信息。
本实施例中仅以上述模型训练过程为例进行介绍，其它基于本申请的模型训练方法均可参照本实施例的介绍，在此不再赘述。
相应于上面的方法实施例，本发明实施例还提供了一种三维点云重建结果补全装置，下文描述的三维点云重建结果补全装置与上文描述的三维点云重建结果补全方法可相互对应参照。
参见图3所示，该装置包括以下模块：
点云接收单元110主要用于接收待补全的三维点云，作为不完整点云；
编码单元120主要用于调用基于Transformer的金字塔编码器对不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
解码单元130主要用于调用基于Transformer的金字塔解码器根据全局特征以及局部特征进行多尺度迭代预测，得到预测的缺失点云；
预测单元140主要用于将缺失点云与不完整点云组合，作为预测完整点云。
相应于上面的方法实施例，本发明实施例还提供了一种计算机设备，下文描述的一种计算机设备与上文描述的一种三维点云重建结果补全方法可相互对应参照。
该计算机设备包括：
存储器，用于存储计算机程序；
处理器，用于执行计算机程序时实现上述方法实施例的三维点云重建结果补全方法的步骤。
具体的，请参考图4，为本实施例提供的一种计算机设备的具体结构示意图，该计算机设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上处理器(central processing units，CPU)322(例如，一个或一个以上处理器)和存储器332，存储器332存储有一个或一个以上的计算机应用程序342或数据344。其中，存储器332可以是短暂存储或持久存储。存储在存储器332的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对数据处理设备中的一系列指令操作。更进一步地，中央处理器322可以设置为与存储器332通信，在计算机设备301上执行存储器332中的一系列指令操作。
计算机设备301还可以包括一个或一个以上电源326，一个或一个以上有线或无线网络接口350，一个或一个以上输入输出接口358，和/或，一个或一个以上操作系统341。
上文所描述的三维点云重建结果补全方法中的步骤可以由计算机设备的结构实现。
相应于上面的方法实施例，本发明实施例还提供了一种可读存储介质，下文描述的一种可读存储介质与上文描述的一种三维点云重建结果补全方法可相互对应参照。
一种可读存储介质，可读存储介质上存储有计算机程序，计算机程序被处理器执行时实现上述方法实施例的三维点云重建结果补全方法的步骤。
该可读存储介质具体可以为U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可存储程序代码的可读存储介质。
本领域技术人员还可以进一步意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。本领域技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
Claims (10)
1.一种三维点云重建结果补全方法，其特征在于，包括：
接收待补全的三维点云，作为不完整点云；
调用基于Transformer的金字塔编码器对所述不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，得到预测的缺失点云；
将所述缺失点云与所述不完整点云组合，作为预测完整点云。
2.根据权利要求1所述的三维点云重建结果补全方法，其特征在于，所述调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，包括：
调用第一解码块根据所述全局特征、所述局部特征以及嵌入的条件输入进行点云形状修复，得到缺失点云的初始特征；
调用第二解码块对输入点云上采样后进行点云特征优化，作为所述缺失点云。
3.根据权利要求2所述的三维点云重建结果补全方法，其特征在于，所述调用第二解码块对输入点云上采样后进行点云特征优化，包括：
调用所述第二解码块中的上采样层对所述生成点云以及对应连接的编码块输出的已有点云进行点云合并，得到合并点云；
对所述合并点云按预设分辨率进行插值，得到插值点云；
调用所述第二解码块中的Transformer层对所述插值点云进行点云特征优化，作为所述缺失点云；
跳转至所述调用所述第二解码块中的上采样层对所述生成点云以及对应连接的编码块输出的已有点云进行点云合并的步骤，直至达到预设迭代次数。
4.根据权利要求2所述的三维点云重建结果补全方法，其特征在于，所述第二解码块中包括：四个子解码块，所述子解码块包括：上采样层、线性变换层和Transformer层。
5.根据权利要求1所述的三维点云重建结果补全方法，其特征在于，所述金字塔编码器与所述金字塔解码器的优化训练方法，包括：
确定不完整的训练点云以及对应的完整点云；
生成所述训练点云对应的全局点；
将所述全局点添加至所述训练点云中，作为输入点云；
调用所述金字塔编码器对所述输入点云进行多尺度全局特征和局部特征提取，得到全局训练特征以及局部训练特征；
调用所述金字塔解码器根据所述全局训练特征以及所述局部训练特征进行多尺度迭代预测，得到缺失预测训练点云；
将所述缺失预测训练点云与所述训练点云组合，作为预测完整训练点云；
根据所述预测完整训练点云与所述完整点云间的差异对所述金字塔编码器以及所述金字塔解码器进行模型参数优化处理。
6.根据权利要求5所述的三维点云重建结果补全方法，其特征在于，所述生成所述训练点云对应的全局点，包括：
设置可学习的随机变量，作为所述全局点。
7.根据权利要求5所述的三维点云重建结果补全方法，其特征在于，所述根据所述预测完整训练点云与所述完整点云间的差异对所述金字塔编码器以及所述金字塔解码器进行模型参数优化处理，包括：
确定所述预测完整点的重建损失；
根据所述重建损失与所述完整点云的对抗损失交替优化生成对抗网络的生成器和判别器参数。
8.一种三维点云重建结果补全装置，其特征在于，包括：
点云接收单元，用于接收待补全的三维点云，作为不完整点云；
编码单元，用于调用基于Transformer的金字塔编码器对所述不完整点云进行多尺度全局特征和局部特征提取，得到全局特征以及局部特征；
解码单元，用于调用基于Transformer的金字塔解码器根据所述全局特征以及所述局部特征进行多尺度迭代预测，得到预测的缺失点云；
预测单元，用于将所述缺失点云与所述不完整点云组合，作为预测完整点云。
9.一种计算机设备，其特征在于，包括：
存储器，用于存储计算机程序；
处理器，用于执行所述计算机程序时实现如权利要求1至7任一项所述三维点云重建结果补全方法的步骤。
10.一种可读存储介质，其特征在于，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至7任一项所述三维点云重建结果补全方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110779987.1A CN113706686B (zh) | 2021-07-09 | 2021-07-09 | 一种三维点云重建结果补全方法及相关组件 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110779987.1A CN113706686B (zh) | 2021-07-09 | 2021-07-09 | 一种三维点云重建结果补全方法及相关组件 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113706686A true CN113706686A (zh) | 2021-11-26 |
| CN113706686B CN113706686B (zh) | 2023-07-21 |
Family
ID=78648797
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110779987.1A Active CN113706686B (zh) | 2021-07-09 | 2021-07-09 | 一种三维点云重建结果补全方法及相关组件 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113706686B (zh) |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113870422A (zh) * | 2021-11-30 | 2021-12-31 | 华中科技大学 | 一种基于金字塔Transformer的点云重建方法、装置、设备及介质 |
| CN114048845A (zh) * | 2022-01-14 | 2022-02-15 | 深圳大学 | 点云修复方法、装置、计算机设备和存储介质 |
| CN114298946A (zh) * | 2022-03-10 | 2022-04-08 | 武汉大学 | 一种框架细节增强的深度学习点云补全方法 |
| CN114419258A (zh) * | 2022-03-29 | 2022-04-29 | 苏州浪潮智能科技有限公司 | 一种三维物体形状的补全方法、装置、设备及存储介质 |
| CN114612619A (zh) * | 2022-03-16 | 2022-06-10 | 上海交通大学 | 基于点云补全技术的三维点云重建方法及系统 |
| CN114663619A (zh) * | 2022-02-24 | 2022-06-24 | 清华大学 | 一种基于自注意力机制的三维点云物体预测方法和装置 |
| CN114842180A (zh) * | 2022-07-06 | 2022-08-02 | 山东海量信息技术研究院 | 一种点云补全方法、装置、设备及介质 |
| CN114972654A (zh) * | 2022-06-15 | 2022-08-30 | 清华大学 | 一种基于路侧点云补全的三维目标检测方法 |
| CN116152611A (zh) * | 2023-04-14 | 2023-05-23 | 山东省凯麟环保设备股份有限公司 | 一种多级多尺度点云补全方法、系统、设备及存储介质 |
| CN117274454A (zh) * | 2023-08-29 | 2023-12-22 | 西交利物浦大学 | 一种基于部件信息的三维点云补全方法、设备及存储介质 |
| WO2024060395A1 (zh) * | 2022-09-19 | 2024-03-28 | 南京邮电大学 | 一种基于深度学习的高精度点云补全方法及装置 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017008226A1 (zh) * | 2015-07-13 | 2017-01-19 | 深圳大学 | 一种三维人脸重建方法及系统 |
| US20170193692A1 (en) * | 2015-12-30 | 2017-07-06 | Shenzhen Institutes Of Advanced Technology Chinese Academy Of Sciences | Three-dimensional point cloud model reconstruction method, computer readable storage medium and device |
| CN111429514A (zh) * | 2020-03-11 | 2020-07-17 | 浙江大学 | 一种融合多帧时序点云的激光雷达3d实时目标检测方法 |
| CN112241997A (zh) * | 2020-09-14 | 2021-01-19 | 西北大学 | 基于多尺度点云上采样的三维模型建立、修复方法及系统 |
| CN112614071A (zh) * | 2020-12-29 | 2021-04-06 | 清华大学 | 基于自注意力的多样点云补全方法和装置 |
| CN112819080A (zh) * | 2021-02-05 | 2021-05-18 | 四川大学 | 一种高精度通用的三维点云识别方法 |
-
2021
- 2021-07-09 CN CN202110779987.1A patent/CN113706686B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2017008226A1 (zh) * | 2015-07-13 | 2017-01-19 | 深圳大学 | 一种三维人脸重建方法及系统 |
| US20170193692A1 (en) * | 2015-12-30 | 2017-07-06 | Shenzhen Institutes Of Advanced Technology Chinese Academy Of Sciences | Three-dimensional point cloud model reconstruction method, computer readable storage medium and device |
| CN111429514A (zh) * | 2020-03-11 | 2020-07-17 | 浙江大学 | 一种融合多帧时序点云的激光雷达3d实时目标检测方法 |
| CN112241997A (zh) * | 2020-09-14 | 2021-01-19 | 西北大学 | 基于多尺度点云上采样的三维模型建立、修复方法及系统 |
| CN112614071A (zh) * | 2020-12-29 | 2021-04-06 | 清华大学 | 基于自注意力的多样点云补全方法和装置 |
| CN112819080A (zh) * | 2021-02-05 | 2021-05-18 | 四川大学 | 一种高精度通用的三维点云识别方法 |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113870422B (zh) * | 2021-11-30 | 2022-02-08 | 华中科技大学 | 一种点云重建方法、装置、设备及介质 |
| CN113870422A (zh) * | 2021-11-30 | 2021-12-31 | 华中科技大学 | 一种基于金字塔Transformer的点云重建方法、装置、设备及介质 |
| CN114048845A (zh) * | 2022-01-14 | 2022-02-15 | 深圳大学 | 点云修复方法、装置、计算机设备和存储介质 |
| CN114048845B (zh) * | 2022-01-14 | 2022-06-03 | 深圳大学 | 点云修复方法、装置、计算机设备和存储介质 |
| CN114663619A (zh) * | 2022-02-24 | 2022-06-24 | 清华大学 | 一种基于自注意力机制的三维点云物体预测方法和装置 |
| CN114298946A (zh) * | 2022-03-10 | 2022-04-08 | 武汉大学 | 一种框架细节增强的深度学习点云补全方法 |
| CN114298946B (zh) * | 2022-03-10 | 2022-06-14 | 武汉大学 | 一种框架细节增强的深度学习点云补全方法 |
| CN114612619A (zh) * | 2022-03-16 | 2022-06-10 | 上海交通大学 | 基于点云补全技术的三维点云重建方法及系统 |
| CN114419258A (zh) * | 2022-03-29 | 2022-04-29 | 苏州浪潮智能科技有限公司 | 一种三维物体形状的补全方法、装置、设备及存储介质 |
| WO2023184759A1 (zh) * | 2022-03-29 | 2023-10-05 | 苏州浪潮智能科技有限公司 | 一种三维物体形状的补全方法、装置、设备及存储介质 |
| CN114972654A (zh) * | 2022-06-15 | 2022-08-30 | 清华大学 | 一种基于路侧点云补全的三维目标检测方法 |
| CN114972654B (zh) * | 2022-06-15 | 2023-02-03 | 清华大学 | 一种基于路侧点云补全的三维目标检测方法 |
| CN114842180A (zh) * | 2022-07-06 | 2022-08-02 | 山东海量信息技术研究院 | 一种点云补全方法、装置、设备及介质 |
| WO2024007616A1 (zh) * | 2022-07-06 | 2024-01-11 | 山东海量信息技术研究院 | 一种点云补全方法、装置、设备及介质 |
| WO2024060395A1 (zh) * | 2022-09-19 | 2024-03-28 | 南京邮电大学 | 一种基于深度学习的高精度点云补全方法及装置 |
| CN116152611A (zh) * | 2023-04-14 | 2023-05-23 | 山东省凯麟环保设备股份有限公司 | 一种多级多尺度点云补全方法、系统、设备及存储介质 |
| CN116152611B (zh) * | 2023-04-14 | 2023-08-25 | 山东省凯麟环保设备股份有限公司 | 一种多级多尺度点云补全方法、系统、设备及存储介质 |
| CN117274454A (zh) * | 2023-08-29 | 2023-12-22 | 西交利物浦大学 | 一种基于部件信息的三维点云补全方法、设备及存储介质 |
| CN117274454B (zh) * | 2023-08-29 | 2024-10-18 | 西交利物浦大学 | 一种基于部件信息的三维点云补全方法、设备及存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113706686B (zh) | 2023-07-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113706686A (zh) | 一种三维点云重建结果补全方法及相关组件 | |
| CN111047548B (zh) | 姿态变换数据处理方法、装置、计算机设备和存储介质 | |
| CN112614071B (zh) | 基于自注意力的多样点云补全方法和装置 | |
| RU2424561C2 (ru) | Обучение сверточных нейронных сетей на графических процессорах | |
| CN113850916A (zh) | 模型训练、点云缺失补全方法、装置、设备及介质 | |
| CN112529150A (zh) | 一种模型结构、模型训练方法、图像增强方法及设备 | |
| CN109376830A (zh) | 二维码生成方法及装置 | |
| CN113344003B (zh) | 目标检测方法及装置、电子设备和存储介质 | |
| CN114283347B (zh) | 目标检测方法、系统、智能终端及计算机可读存储介质 | |
| CN114972363A (zh) | 图像分割方法、装置、电子设备及计算机存储介质 | |
| CN114677412A (zh) | 一种光流估计的方法、装置以及设备 | |
| CN115861635B (zh) | 抗透射畸变的无人机倾斜影像语义信息提取方法及设备 | |
| CN112767463A (zh) | 一种对抗配准方法、装置、计算机设备及存储介质 | |
| CN116912367A (zh) | 一种基于轻量级动态细化的文本生成图像方法及系统 | |
| CN115908753A (zh) | 一种全身人体网格表面重建方法及相关装置 | |
| CN118015283B (zh) | 图像分割方法、装置、设备和存储介质 | |
| CN115049919B (zh) | 一种基于注意力调控的遥感图像语义分割方法及系统 | |
| CN117934524A (zh) | 建筑物轮廓提取方法及装置 | |
| CN113763539B (zh) | 一种基于图像和三维输入的隐式函数三维重建方法 | |
| CN113920466A (zh) | 先验空间的生成方法、装置、计算机设备和存储介质 | |
| CN116563409A (zh) | 一种多尺度空频域特征信息引导的mri加速重建系统 | |
| CN115883850A (zh) | 基于深度残差式压缩和稀疏表征的分辨率自适应点云几何有损编码方法、装置和介质 | |
| CN115471676A (zh) | 一种基于多尺度胶囊与Bi-FPN的多模态海上目标检测方法 | |
| CN115619903A (zh) | 文本图像合成模型的训练、合成方法、装置、设备及介质 | |
| CN115131414A (zh) | 基于深度学习的无人机图像对齐方法、电子设备和存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |