CN113327279B - 一种点云数据处理方法、装置、计算机设备及存储介质 - Google Patents
一种点云数据处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN113327279B CN113327279B CN202110890342.5A CN202110890342A CN113327279B CN 113327279 B CN113327279 B CN 113327279B CN 202110890342 A CN202110890342 A CN 202110890342A CN 113327279 B CN113327279 B CN 113327279B
- Authority
- CN
- China
- Prior art keywords
- point cloud
- feature
- autocorrelation
- point
- coordinate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本申请实施例公开了一种点云数据处理方法、装置、计算机设备及存储介质,包括:获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征;获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征;基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征;基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。采用本申请实施例,可以提高点云数据的补全效率。
Description
技术领域
本申请涉及计算机技术领域,尤其涉及一种点云数据处理方法、装置、计算机设备及存储介质。
背景技术
目前,深度摄像头等空间模型采集设备(例如,3D数据采集设备)在用户终端(例如,手机)上得到了越来越广泛的应用,从而为目标对象(例如,3D空间模型)对应的点云数据的采集过程提供了便利性。其中,点云是在同一空间参考系下表达目标空间分布和目标表面特性的海量点集合,在获取物体表面每个采样点的空间坐标后,得到的是点的集合,称之为“点云”(Point Cloud)。但是,发明人发现大规模采集数据将受到采集角度、环境遮挡、采集精度等各方面的限制,因此在采用3D数据采集设备对3D空间模型对应的点云数据进行数据采集时,将会出现数据精度较低、缺损较严重等情况,以至于需要对采集到的点云数据进行补全处理。
在传统点云数据补全方案中,具有空间模型补全功能的计算机设备在采集到目标对象(例如,待采集的脸部数据)的残缺点云数据时,需要通过该3D数据采集设备,重新对该目标对象进行数据采集,进而可以通过重新采集到的点云数据对该残缺点云数据进行恢复,直到将残缺点云数据补全为完整点云数据。由此可见,在传统点云数据补全方案中往往需要花费较长的采集时间来多次采集点云数据,这样将导致点云数据的补全效率过低。
发明内容
本申请实施例提供一种点云数据处理方法、装置、计算机设备及存储介质,可以提高点云数据的补全效率。
本申请实施例一方面提供一种点云数据处理方法,包括:
获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征;
获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征;自相关性权重矩阵用于强化点云坐标特征相互之间的关联关系;
基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征;
基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
本申请实施例一方面提供一种点云数据处理装置,包括:
点云坐标特征获取模块,用于获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征;
点位自相关性特征确定模块,用于获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征;自相关性权重矩阵用于强化点云坐标特征相互之间的关联关系;
缺失部位预测模块,用于基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征;
补全处理模块,用于基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
其中,该点云坐标特征获取模块包括:
待补全点云数据获取单元,用于获取待补全空间模型对应的待补全点云数据;待补全空间模型是基于空间模型采集设备所采集到的;待补全点云数据包括N个坐标点;N为正整数;
坐标点特征确定单元,用于从N个坐标点中确定用于进行向量编码处理的坐标点Vi,在待补全空间模型所在的空间坐标系中,确定坐标点Vi的坐标特征,且获取坐标点Vi的紧邻特征;i为小于或者等于N的正整数;坐标点Vi的紧邻特征是基于与坐标点Vi相关联的法向量信息所确定的;
点云坐标特征确定单元,用于将坐标点Vi的坐标特征与坐标点Vi的紧邻特征进行拼接处理,得到坐标点Vi的点云坐标特征,且基于坐标点Vi的点云坐标特征,确定待补全点云数据对应的点云坐标特征。
其中,该点位自相关性特征确定模块包括:
目标网络模型获取单元,用于获取目标点云预测网络模型;目标点云预测网络模型包括编码网络层;编码网络层包括向量化编码网络层以及点位编码网络层;
点云向量化特征确定单元,用于将点云坐标特征输入至向量化编码网络层,由向量化编码网络层对点云坐标特征进行特征提取,得到点云坐标特征对应的点云向量化特征;
点云向量化特征输入单元,用于将点云向量化特征输入至点位编码网络层,通过点位编码网络层分别对点云向量化特征进行线性变换,得到点云向量化特征对应的查询向量以及点云向量化特征对应的键向量;
注意力编码单元,用于基于查询向量以及键向量确定自相关性权重矩阵,基于自相关性权重矩阵对点云向量化特征进行注意力编码,得到点云向量化特征对应的点位自相关性特征。
其中,点位编码网络层包括第一全连接子网络层以及第一特征提取子网络层;
该注意力编码单元包括:
自相关性权重矩阵确定子单元,用于通过点位编码网络层,对键向量进行转置处理,得到转置处理后的键向量,对查询向量和转置处理后的键向量进行矩阵相乘处理,得到与点云向量化特征相关联的自相关性权重矩阵;
标准化子单元,用于对自相关性权重矩阵进行标准化,得到标准化后的自相关性权重矩阵;
值向量确定子单元,用于通过第一全连接子网络层对点云向量化特征进行线性变换,得到点云向量化特征对应的值向量;
注意力特征确定子单元,用于基于标准化后的自相关性权重矩阵以及值向量,得到点云向量化特征对应的注意力特征;
目标输出特征确定子单元,用于基于注意力特征、点云向量化特征以及第一特征提取子网络层,得到点云向量化特征对应的目标输出特征;
第一自相关性特征确定子单元,用于将目标输出特征输入至编码网络层中的特征提取网络层,通过特征提取网络层对目标输出特征进行特征提取,得到目标输出特征对应的点位自相关性特征。
其中,该目标输出特征确定子单元还用于:
基于点云向量化特征以及注意力特征,确定与点位编码网络层相关联的偏移注意力特征;
将偏移注意力特征输入至第一特征提取子网络层,由第一特征提取子网络层对偏移注意力特征进行特征提取,得到偏移注意力特征对应的偏移提取特征;
对偏移提取特征以及点云向量化特征进行拼接处理,得到点云向量化特征对应的目标输出特征。
其中,点位编码网络层包括X个自相关性网络层;X为大于1的正整数;X个自相关性网络层包括第一自相关性网络层和第二自相关性网络层;自相关性权重矩阵包括第一自相关性权重矩阵和第二自相关性权重矩阵;
该注意力编码单元还包括:
第一权重矩阵获取子单元,用于将点云向量化特征作为第一自相关性网络层的第一输入特征,基于查询向量以及键向量,获取与第一输入特征相关联的第一自相关性权重矩阵;
第一输出特征确定子单元,用于基于第一自相关性权重矩阵,对第一输入特征进行注意力编码,得到第一输入特征对应的第一输出特征;
第二权重矩阵获取子单元,用于将第一输出特征作为第二自相关性网络层的第二输入特征,通过第二自相关性网络层,获取与第二输入特征相关联的第二自相关性权重矩阵;
第二输出特征确定子单元,用于基于第二自相关性权重矩阵,对第二输入特征进行注意力编码,得到第二输入特征对应的第二输出特征;
第二自相关性特征确定子单元,用于对第一输出特征和第二输出特征进行拼接处理,得到自相关性拼接特征,将自相关性拼接特征输入至编码网络层中的特征提取网络层,通过特征提取网络层对自相关性拼接特征进行特征提取,得到自相关性拼接特征对应的点位自相关性特征。
其中,该缺失部位预测模块包括:
缺失部位预测单元,用于对点位自相关性特征进行分类识别,得到待补全空间模型对应的对象分类特征,基于对象分类特征以及点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
其中,点位自相关性特征是将点云坐标特征输入至目标点云预测网络模型之后所得到的;目标点云预测网络模型包括解码网络层;解码网络层包括池化层、分类特征识别层以及缺失点云预测层;
该缺失部位预测单元包括:
全局特征提取子单元,用于将点位自相关性特征输入至池化层,由池化层对点位自相关性特征进行全局特征提取,得到第一全局特征;
分类识别子单元,用于将第一全局特征输入至分类特征识别层,由分类特征识别层对第一全局特征进行分类识别,得到待补全空间模型对应的对象分类特征;
全局拼接特征确定子单元,用于基于对象分类特征以及第一全局特征,得到第二全局特征,将第二全局特征以及点位自相关性特征进行拼接处理,得到全局自相关性拼接特征;
缺失部位预测子单元,用于将全局自相关性拼接特征输入至缺失点云预测层,由缺失点云预测层对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
其中,分类特征识别层包括第二特征提取子网络层以及第二全连接子网络层;
该分类识别子单元还用于:
将第一全局特征输入至第二特征提取子网络层,由第二特征提取子网络层对第一全局特征进行特征提取,得到第一全局特征对应的全局提取特征;
将全局提取特征输入至第二全连接子网络层,由第二全连接子网络层对全局提取特征进行线性变换,得到待补全空间模型对应的对象分类特征。
其中,缺失点云预测层包括第三特征提取子网络层以及第三全连接子网络层;
该缺失部位预测子单元还用于:
将全局自相关性拼接特征输入至第三特征提取子网络层,由第三特征提取子网络层对全局自相关性拼接特征进行特征提取,得到全局自相关性拼接特征对应的拼接提取特征;
将拼接提取特征输入至第三全连接子网络层,由第三全连接子网络层对拼接提取特征进行线性变换,得到与待补全空间模型相关联的缺失点位特征。
其中,该补全处理模块包括:
缺失点位特征转换单元,用于在待补全空间模型所在的空间坐标系中,将缺失点位特征转换为缺失点云数据;
完整点云数据获取单元,用于将缺失点云数据与待补全点云数据进行拼接处理,得到完整点云数据;
完整空间模型构建单元,用于基于完整点云数据,构建待补全空间模型对应的完整空间模型。
其中,该装置还包括:
样本数据获取模块,用于获取样本空间模型对应的样本完整点云数据,从样本完整点云数据中获取用于对初始点云预测网络模型进行训练的样本待补全点云数据,将样本完整点云数据作为样本待补全点云数据的样本标签;
样本预测模块,用于确定样本待补全点云数据对应的点云坐标特征,将确定的点云坐标特征作为样本输入特征,将样本输入特征输入至初始点云预测网络模型,由初始点云预测网络模型对样本待补全点云数据中的缺失部位进行预测,得到样本输出特征;
样本拼接模块,用于基于样本输出特征确定样本待补全点云数据对应的预测缺失点云数据,将预测缺失点云数据与样本待补全点云数据进行拼接处理,将拼接处理后的点云数据作为预测完整点云数据;
迭代训练模块,用于基于样本标签、预测完整点云数据以及与初始点云预测网络模型相关联的模型损失函数,对初始点云预测网络模型进行迭代训练,得到用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
本申请实施例一方面提供了一种计算机设备,包括:处理器和存储器;
处理器与存储器相连,其中,存储器用于存储计算机程序,计算机程序被处理器执行时,使得该计算机设备执行本申请实施例提供的方法。
本申请实施例一方面提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,该计算机程序适于由处理器加载并执行,以使得具有该处理器的计算机设备执行本申请实施例提供的方法。
本申请实施例一方面提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行本申请实施例提供的方法。
在本申请实施例中,具备空间模型补全功能的计算机设备在获取到待补全空间模型对应的待补全点云数据时,可以确定该待补全点云数据对应的点云坐标特征。进一步地,该计算机设备可以获取用于强化该点云坐标特征相互之间的关联关系的自相关性权重矩阵,以增强点位之间的相关性信息,从而可以得到用于准确表征该待补全点云数据的点位自相关性特征,进而在基于点位自相关性特征对待补全空间模型的缺失部位进行预测时,能够提升缺失点云数据的预测精准度。进一步地,该计算机设备可以采用预测的缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,而无需花费较长的采集时间来重新采集缺失点云数据,以至于提高了点云数据的补全效率,进而能够得到更加准确的完整空间模型。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种网络架构的结构示意图;
图2是本申请实施例提供的一种对待补全空间模型进行补全处理的场景示意图;
图3是本申请实施例提供的一种点云数据处理方法的流程示意图;
图4是本申请实施例提供的一种点云预测网络模型的模型架构图;
图5是本申请实施例提供的一种自相关性网络层的网络架构图;
图6是本申请实施例提供的一种对点云数据进行补全处理的场景示意图;
图7是本申请实施例提供的一种点云数据处理方法的流程示意图;
图8是本申请实施例提供的一种点云数据处理装置的结构示意图;
图9是本申请实施例提供的一种计算机设备的示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
请参见图1,图1是本申请实施例提供的一种网络架构的结构示意图。如图1所示,该网络架构可以包括服务器10F和用户终端集群。该用户终端集群可以包括一个或者多个用户终端。如图1所示,该用户终端集群具体可以包括用户终端100a、用户终端100b、用户终端100c、…、用户终端100n。如图1所示,用户终端100a、用户终端100b、用户终端100c、…、用户终端100n可以分别与上述服务器10F进行网络连接,以便于每个用户终端可以通过该网络连接与服务器10F进行数据交互。其中,这里的网络连接不限定连接方式,可以通过有线通信方式进行直接或间接地连接,也可以通过无线通信方式进行直接或间接地连接,还可以通过其他方式,本申请在此不做限制。
其中,该用户终端集群中的每个用户终端均可以包括:智能手机、平板电脑、笔记本电脑、台式计算机、智能音箱、智能手表、车载终端、智能电视等具备空间模型补全功能的智能终端。应当理解,如图1所示的用户终端集群中的每个用户终端均可以安装有目标应用(即应用客户端),当该应用客户端运行于各用户终端中时,可以分别与上述图1所示的服务器10F之间进行数据交互。其中,该应用客户端可以包括社交客户端、多媒体客户端(例如,视频客户端)、娱乐客户端(例如,游戏客户端)、教育客户端、直播客户端等应用客户端。其中,该应用客户端可以为独立的客户端,也可以为集成在某客户端(例如,社交客户端、教育客户端以及多媒体客户端等)中的嵌入式子客户端,在此不做限定。
如图1所示,本申请实施例中的服务器10F可以为该应用客户端对应的服务器。该服务器10F可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器。其中,本申请实施例将不对用户终端和服务器的数量进行限制。
为便于理解,本申请实施例可以在图1所示的多个用户终端中选择一个用户终端作为目标用户终端。例如,本申请实施例可以将图1所示的用户终端100a作为目标用户终端,该目标用户终端中可以集成有目标应用(即应用客户端)。此时,该目标用户终端可以通过该应用客户端对应的业务数据平台与服务器10F之间实现数据交互。其中,这里的目标应用可以运行有已经训练完成的点云预测网络模型(即目标点云预测网络模型),该目标点云预测网络模型是一种深度学习网络架构,采用编码(encoder)-中间表示(intermediaterepresentation)-解码(decoder)的方式,将一种数据形式转换为另一种数据形式,常用于自然语言处理(Natural Language Process,简称NLP)中的自动翻译等任务中。
其中,自然语言处理是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此,这一领域的研究将涉及自然语言,即人们日常使用的语言,所以它与语言学的研究有着密切的联系。自然语言处理技术通常包括文本处理、语义理解、机器翻译、机器人问答、知识图谱等技术。
可以理解的是,所谓人工智能(Artificial Intelligence,简称AI)是利用数字计算机或者数字计算机控制的计算模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说,人工智能是计算机科学的一个综合技术,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法,使机器具有感知、推理与决策的功能。
人工智能技术是一门综合学科,涉及领域广泛,既有硬件层面的技术也有软件层面的技术。人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、语音处理技术、自然语言处理技术以及机器学习/深度学习、自动驾驶、智慧交通等几大方向。
其中,机器学习(Machine Learning,ML)是一门多领域交叉学科,涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为,以获取新的知识或技能,重新组织已有的知识结构使之不断改善自身的性能。机器学习是人工智能的核心,是使计算机具有智能的根本途径,其应用遍及人工智能的各个领域。机器学习和深度学习通常包括人工神经网络、置信网络、强化学习、迁移学习、归纳学习、式教学习等技术。
应当理解,本申请实施例提出了一种结合深度特征及自相关性信息,对待补全空间模型的进行补全的点云数据处理方法,即具备空间模型补全功能的计算机设备(例如,图1所示的服务器10F或者用户终端100a)在获取到待补全空间模型(例如,待补全的三维空间模型)对应的待补全点云数据时,能够确定待补全点云数据对应的点云坐标特征,进而可以采用已经训练完成的目标点云预测网络模型,对待补全空间模型中的缺失部位进行预测,以得到更加准确的缺失点位特征对应的缺失点云数据,进而基于预测得到的缺失点云数据,得到更加准确的空间模型点云补全结果,不仅提升了缺失点云数据的预测精准度,还提升了点云数据的补全准确度。
为便于理解,进一步地,请参见图2,图2是本申请实施例提供的一种对待补全空间模型进行补全处理的场景示意图。如图2所示,本申请实施例中的计算机设备可以为具备空间模型补全功能的计算机设备,该计算机设备可以为上述图1所示的用户终端集群中的任意一个用户终端,例如,用户终端100a,该计算机设备也可以为上述图1所示的服务器10F,这里将不对计算机设备进行限定。
其中,本申请实施例中的计算机设备在采集空间模型时,往往由于采集角度、环境遮挡、采集精度等各方面限制,导致采集到的空间模型精度较低,缺损严重,基于此,该计算机设备需要对具有缺损的空间模型进行补全处理,以得到完整空间模型。其中,本申请实施例中的空间模型可以为三维空间模型,该三维空间模型对应的物体分类信息可以包括三维家具电器模型(例如,三维桌子模型)、三维人物模型(例如,三维人脸模型或者三维人体模型)、三维交通运输模型(例如,三维飞机模型)、三维动物模型以及三维植物模型等。
如图2所示,空间模型21M可以为该计算机设备获取到的待补全空间模型,该待补全空间模型是通过空间模型采集设备(例如,深度摄像头)所采集到的三维人脸残缺模型。其中,本申请实施例可以将该空间模型21M对应的点云数据210S确定为待补全空间模型对应的待补全点云数据。可以理解的是,该计算机设备可以对点云数据210S进行特征提取,以得到该点云数据210S对应的点云坐标特征。其中,这里的点云坐标特征是基于点云数据210S中的每个坐标点的坐标特征和紧邻特征所确定的。
此时,该计算机设备可以获取训练好的目标点云预测网络模型(例如,图2所示的点云预测网络模型2000W),该点云预测网络模型2000W是基于样本空间模型所训练的深度神经网络模型。进一步地,该计算机设备可以将点云数据210S对应的点云坐标特征输入至点云预测网络模型2000W,从而可以根据该点云预测网络模型2000W,获取与该点云坐标特征相关联的自相关性权重矩阵。其中,该自相关性权重矩阵可以用于强化点云坐标特征相互之间的关联关系,以便于更准确的表征点云数据210S。进一步地,该计算机设备可以基于自相关性权重矩阵,对点云坐标特征进行注意力编码,以得到该点云坐标特征对应的点位自相关性特征。该点位自相关性特征可以是对每个点云数据210S中的每个坐标点的特征赋予自相关性权重矩阵,以增强点位间相关性信息,进而可以提升模型空间感知能力。
可以理解的是,该计算机设备可以基于点位自相关性特征,对该空间模型21M中的缺失部位进行预测,以至于得到与该空间模型21M相关联的缺失点位特征。进一步地,该计算机设备可以在空间模型21M所在的空间坐标系中,确定该缺失点位特征对应的缺失点云数据(例如,图2所示的点云数据220S)。如图2所示,空间模型22M可以为该缺失点云数据的可视化展示。
进一步地,该计算机设备可以基于点云数据220S,对点云数据210S进行补全处理,以得到完整点云数据(例如,图2所示的点云数据230S),进而可以基于点云数据230S,构建空间模型21M对应的完整空间模型(例如,图2所示的空间模型23M)。
由此可见,本申请实施例中的计算机设备在获取到待补全空间模型对应的原始残缺点云数据(即待补全点云数据,例如,点云数据210S)时,无需花费时间重新采集点云数据,而是直接通过点云预测网络模型2000W,获取用于准确表征点云数据210S的特征(即点位自相关性特征),进而对待补全空间模型的缺失部位进行预测,以提高缺失点云数据的预测精准度。在缺失部位预测过程中,该点云预测网络模型2000W无需输出包括原始残缺点云数据的完整点云数据,而是直接输出原始残缺点云数据对应的缺失点云数据(例如,点云数据220S),进而在对空间模型21M进行补全处理时,可以直接采用缺失点云数据对待补全点云数据进行补全处理,以得到完整空间模型。整个模型补全过程不仅减少了信息冗余,还能够保持点位原始拓扑结构与模型表达能力,进而提升了点云数据的补全准确度以及补全效率。
其中,具备点云数据处理功能的计算机设备通过目标点云预测网络模型,对待补全空间模型的缺失部位进行预测并补全的具体实现方式可以参见下述图3-图7所对应的实施例。
进一步地,请参见图3,图3是本申请实施例提供的一种点云数据处理方法的流程示意图。如图3所示,该方法可以由具备空间模型补全功能的计算机设备执行,该计算机设备可以为用户终端(例如,上述图1所示的用户终端集群中的任意一个用户终端,例如,具备模型应用功能的用户终端100a),也可以为服务器(例如,上述图1所示的服务器10F),在此不做限定。为便于理解,该方法至少可以包括以下步骤S101-步骤S104:
步骤S101,获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征。
具体地,该计算机设备可以获取待补全空间模型对应的待补全点云数据。其中,这里的待补全空间模型是基于空间模型采集设备(例如,深度摄像头或者传感器等)所采集到的。该待补全点云数据可以包括N个坐标点,这里的N为正整数。应当理解,该计算机设备可以从N个坐标点中,确定用于进行向量编码处理的坐标点Vi,进而可以在待补全空间模型所在的空间坐标系中,确定坐标点Vi的坐标特征,且获取该坐标点Vi的紧邻特征。其中,i可以为小于或者等于N的正整数。这里的坐标点Vi的紧邻特征是基于与坐标点Vi相关联的法向量信息所确定的。进一步地,该计算机设备可以将坐标点Vi的坐标特征与坐标点Vi的紧邻特征进行拼接处理,得到坐标点Vi的点云坐标特征,进而可以基于坐标点Vi的点云坐标特征,确定待补全点云数据对应的点云坐标特征。
其中,可以理解的是,该计算机设备在待补全空间模型所在的空间坐标系中,可以确定该待补全点云数据中的坐标点Vi的坐标位置信息,进而可以基于该坐标点Vi的坐标位置信息,得到坐标点Vi的坐标特征(Xi,Yi,Zi)。其中,X,Y,Z可以分别表示该空间坐标系中的三个维度的坐标轴。
与此同时,该计算机设备还可以确定该坐标点Vi的周边区域的法向量信息,以得到该坐标点Vi的紧邻特征(NormXi,NormYi,NormZi)。比如,该计算机设备可以在待补全空间模型对应的待补全点云数据中,获取与坐标点Vi(例如,坐标点V1)具有最近空间距离的两个坐标点(例如,坐标点V2和坐标点V3),进而可以将坐标点V1、坐标点V2和坐标点V3所构建的三角平面,确定为与该坐标点V1相关联的三角平面。进一步地,该计算机设备可以确定这个三角平面对应的法向量信息,进而直接将该法向量信息作为该坐标点V1的紧邻特征(NormX1,NormY1,NormZ1)。又比如,由于待补全空间模型往往是具有拓扑结构的流行曲面,因此,为了更加精准的表征每个坐标点的紧邻特征,该计算机设备可以在待补全点云数据中,获取与坐标点Vi(例如,坐标点V4)相关联的多个三角平面(例如,三角平面1、三角平面2、三角平面3以及三角平面4),进而可以确定这四个三角平面中的每个三角平面的初始法向量信息。进一步地,该计算机设备可以对确定的这四个初始法向量信息进行向量求和处理,得到待处理法向量信息,且对该待处理法向量信息进行归一化处理,将归一化处理后的待处理法向量信息作为该坐标点V4的目标法向量信息,进而可以将该目标法向量信息作为坐标点V4的紧邻特征(NormX4,NormY4,NormZ4)。
进一步地,该计算机设备可以将坐标点Vi的坐标特征(Xi,Yi,Zi)与坐标点Vi的紧邻特征(NormXi,NormYi,NormZi)进行拼接处理,得到坐标点Vi的点云坐标特征,进而可以基于坐标点Vi的点云坐标特征,确定待补全点云数据对应的点云坐标特征。其中,该点云坐标特征(Inputpc)可以用N×6的矩阵张量来表示,以表达该待补全点云数据的每个坐标点的输入特征。可以理解的是,该计算机设备在点位数学向量表示中结合坐标特征与紧邻特征,从而可以强化待补全点云数据的局部空间相关性表示。
步骤S102,获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征。
具体地,该计算机设备可以获取目标点云预测网络模型。其中,该目标点云预测网络模型可以包括编码网络层,这里的编码网络层包括向量化编码网络层以及点位编码网络层。此时,该计算机设备可以将点云坐标特征输入至向量化编码网络层,由该向量化编码网络层对点云坐标特征进行特征提取,得到点云坐标特征对应的点云向量化特征。进一步地,该计算机设备可以将点云向量化特征输入至点位编码网络层,通过点位编码网络层分别对点云向量化特征进行线性变换,以得到点云向量化特征对应的查询向量(query)以及点云向量化特征对应的键向量(key)。此时,该计算机设备可以基于查询向量以及键向量确定自相关性权重矩阵(Attention Weight),进而可以基于自相关性权重矩阵对点云向量化特征进行注意力编码,得到点云向量化特征对应的点位自相关性特征。
为便于理解,进一步地,请参见图4,图4是本申请实施例提供的一种点云预测网络模型的模型架构图。如图4所示,点云预测网络模型4000W可以为具备空间模型补全功能的计算机设备所获取到的已经训练完成的目标点云预测网络模型。其中,该点云预测网络模型4000W可以包括编码网络层和解码网络层,以融合点云高阶-低阶信息,从而可以得到更加准确的空间模型点云补全结果。如图4所示,该编码网络层可以包括向量化编码网络层41L、点位编码网络层42L以及特征提取网络层43L。该解码网络层可以包括池化层44L、分类特征识别层45L以及缺失点云预测层46L。
其中,这里的向量化编码网络层41L包括LBR层,该LBR层是由全连接层(Linear)、归一化层(Batchnorm)以及激活层(Relu)组成的一个深度网络模块。本申请实施例中的计算机设备在确定待补全点云数据对应的点云坐标特征(例如,N×6的特征矩阵)时,可以将该点云坐标特征输入至向量化编码网络层41L,由该向量化编码网络层41L对点云坐标特征进行特征提取,得到点云坐标特征对应的点云向量化特征。例如,这里的点云向量化特征可以为一个N×128的矩阵张量。
其中,这里的点位编码网络层42L可以采用自相关性结构(Self-Attention,简称SA)的网络层(即自相关性网络层),强化点云坐标特征相互之间的关联关系,以更加准确的完成整体点云特征编码。其中,该点位编码网络层42L中的自相关性网络层的数量可以为一个,也可以为多个,这里将不对点位编码网络层42L中的自相关性网络层的数量进行限定。如图4所示,点位编码网络层42L中的自相关性网络层的数量以4个为例,具体可以包括自相关性网络层421L、自相关性网络层422L、自相关性网络层423L以及自相关性网络层424L。
其中,这里的特征提取网络层43L可以包括LBR层,该LBR层是由全连接层(Linear)、归一化层(Batchnorm)以及激活层(Relu)组成的一个深度网络模块。该特征提取网络层43L可以用于对点位编码网络层42L输出的特征进行深度特征提取,以得到中间层特征表示信息(即图4所示的点位自相关性特征)。
其中,这里的池化层44L(MA-Pool)可以用于连接最大池化层(Max-Pool)和平均池化层(Average-Pool),以得到该待补全点云数据对应的全局特征(即图4所示的第一全局特征)。
其中,这里的分类特征识别层45L可以包括特征提取子网络层451L和全连接子网络层452L(例如,Linear层)。该特征提取子网络层451L可以包括多个LBRD层,本申请实施例可以以两个LBRD层为例,该LBRD层是由全连接层(Linear)、归一化层(Batchnorm)、激活层(Relu)以及防止过拟合层(Dropout)组成的一个深度网络模块。可以理解的是,LBRD层是指在LBR层之后连接一个Dropout层。其中,该分类特征识别层45L可以用于识别待补全空间模型对应的对象分类特征。例如,在待补全空间模型为空间模型采集设备所采集到的残缺人脸模型,此时,该分类特征识别层45L输出的对象分类特征可以指示该待补全空间模型为三维人脸模型。进一步地,该分类特征识别层45L可以将该对象分类特征回引至第一全局特征,进而可以对回引后的第一全局特征进行重复处理,以得到图4所示的第二全局特征。其中,本申请实施例可以将这里的第二全局特征与编码网络层输出的点位自相关性特征进行拼接处理,以得到图4所示的全局自相关性拼接特征,将其作为缺失点云预测层46L的输入特征。
其中,这里的缺失点云预测层46L可以包括特征提取子网络层461L和全连接子网络层462L(例如,Linear层)。该特征提取子网络层461L可以包括LBRD层和LBR层,本申请实施例可以以一个LBRD层和一个LBR层为例。该缺失点云预测层46L可以用于对待补全空间模型的缺失部位进行预测。
可以理解的是,在目标点云预测网络模型中的点位编码网络层中的自相关性网络层的数量为一个时,该计算机设备可以通过这个自相关性网络层,对向量化编码网络层输出的点云向量化特征进行注意力编码时,以得到点云向量化特征对应的点位自相关性特征。
具体地,该计算机设备对输入至自相关性网络层的输入特征(FA)进行注意力编码,得到输出特征(SA)的公式可以参见下述公式(1)-(6):
FAWQ=Q (1)
FAWK=K (2)
FAWV=V (3)
A=QKT (4)
SA=LBR(FA-Attention(Q,K,V)+FA (6)
其中,WQ、WK以及WV均为用于对输入特征FA进行线性变换的权值矩阵,Q是输入特征FA对应的查询向量,K是输入特征FA对应的键向量,V是输入特征FA对应的值向量,A是指与输入特征FA相关联的自相关性权重矩阵,Attention(Q,K,V)是输入特征FA对应的注意力特征,是一个为了防止其结果过大的一个尺度标度,dk为查询向量和键向量的一个维度。
进一步地,请参见图5,图5是本申请实施例提供的一种自相关性网络层的网络架构图。如图5所示,本申请实施例中的自相关性网络层550L可以为上述图4所示的点位编码网络层42L中的任意一个自相关性网络层。其中,该自相关性网络层550L可以包括全连接子网络层5501L(即第一全连接子网络层,例如,Linear层)以及特征提取子网络层5502L(即第一特征提取子网络层,例如,LBR层)。其中,本申请实施例中的计算机设备可以通过该自相关性网络层550L,对输入至该自相关性网络层550L中的输入特征进行注意力编码,以得到输入特征对应的输出特征。
应当理解,该计算机设备可以将上述图4所示的向量化编码网络层41L的输出特征(即点云向量化特征)输入至目标点云预测网络模型中的点位编码网络层,通过该点位编码网络层分别对该点云向量化特征进行线性变换,以得到该点云向量化特征对应的查询向量以及点云向量化特征对应的键向量。此时,该计算机设备可以基于查询向量以及键向量确定自相关性权重矩阵,进而可以基于自相关性权重矩阵对点云向量化特征进行注意力编码,得到点云向量化特征对应的点位自相关性特征。
可以理解的是,若点位编码网络层中所包括的一个自相关性网络层为该自相关性网络层550L,则该计算机设备可以确定输入至该自相关性网络层550L中的输入特征为一个N×d(例如,N×128)的点云向量化特征。此时,该计算机设备可以通过图5所示的全连接子网络层5501L以及上述公式(1)对点云向量化特征进行线性变换(即对点云向量化特征进行降维处理),以得到该点云向量化特征对应的查询向量。其中,该查询向量可以为一个N×da(例如,N×32)的矩阵张量。
与此同时,该计算机设备可以通过图5所示的全连接子网络层5501L以及上述公式(2)对点云向量化特征进行线性变换(即对点云向量化特征进行降维处理),以得到该点云向量化特征对应的键向量。其中,该键向量可以为一个N×da(例如,N×32)的矩阵张量。进一步地,该计算机设备可以通过该点位编码网络层中的自相关性网络层550L,对键向量进行转置处理,以得到一个da×N(例如,32×N)的转置处理后的键向量,进而可以通过上述公式(4),对N×32的查询向量和32×N的转置处理后的键向量进行矩阵相乘处理,以得到与该点云向量化特征相关联的自相关性权重矩阵,即一个N×N的矩阵向量。
其中,图5所示的归一化1g和归一化2g可以为该自相关性网络层550L提供的两种不同的归一化处理方式。该归一化1g是指采用softmax激活函数以及使用L1范数(L1Norm)进行归一化,该归一化2g是指采用softmax激活函数以及尺度缩放(Scale)进行归一化。经过对比发现,采用归一化1g比采用归一化2g所得到的准确度要高,因此,本申请实施例中的计算机设备可以采用归一化1g的归一化处理方式。
进一步地,为了防止结果过大,该计算机设备需要根据公式(5),对自相关性权重矩阵进行标准化(Normalized),以得到标准化后的自相关性权重矩阵,进而可以对标准化后的自相关性权重矩阵进行归一化,以得到一个N×N的归一化后的自相关性权重矩阵。与此同时,该计算机设备可以通过该全连接子网络层5501L以及上述公式(3)对点云向量化特征进行线性变换(即对点云向量化特征进行降维处理),以得到该点云向量化特征对应的值向量。其中,该值向量可以为一个N×d(例如,N×128)的矩阵张量。进一步地,该计算机设备可以将归一化后的自相关性权重矩阵与值向量进行矩阵相乘处理,得到该点云向量化特征对应的注意力特征。其中,该注意力特征为一个N×d(例如,N×128)的矩阵张量。
此时,该计算机设备可以基于注意力特征、点云向量化特征以及图5所示的特征提取子网络层5502L,得到点云向量化特征对应的目标输出特征。例如,该计算机设备可以通过上述公式(6),对点云向量化特征与注意力特征进行矩阵相减处理,确定与点位编码网络层相关联的偏移注意力特征,进而可以将该偏移注意力特征输入至特征提取子网络层5502L,由该特征提取子网络层5502L对偏移注意力特征进行特征提取,以得到偏移注意力特征对应的偏移提取特征,然后,该计算机设备可以对偏移提取特征以及点云向量化特征进行拼接处理,以得到点云向量化特征对应的目标输出特征(即点位编码网络层的输出特征)。其中,该目标输出特征为一个N×d(例如,N×128)的矩阵张量。
进一步地,该计算机设备可以将目标输出特征输入至编码网络层中的特征提取层(例如,图4所示的特征提取网络层43L),通过该特征提取网络层43L对目标输出特征进行特征提取,以得到目标输出特征对应的点位自相关性特征。其中,该目标输出特征可以为一个N×1024的矩阵张量。
可选的,该目标点云预测网络模型中的点位编码网络层中的自相关性网络层的数量可以为X个,这里的X为大于1的正整数。其中,该计算机设备通过包括X个自相关性网络层的点位编码网络层,得到输出特征(OutPutSA)的公式可以参见下述公式(7):
OutPutSA=Concat(SA1,SA2,…,SAX) (7)
其中,SA1是指该点位编码网络层中的第一个自相关性网络层的输出特征,SA2是指该点位编码网络层中的第二个自相关性网络层的输出特征,以此类推,SAX是指该点位编码网络层中的第X个自相关性网络层的输出特征。
例如,这X个自相关性网络层可以包括第一自相关性网络层和第二自相关性网络层,且该计算机设备通过该点位编码网络层获取到的自相关性权重矩阵可以包括第一自相关性权重矩阵和第二自相关性权重矩阵。
应当理解,该计算机设备可以将点云向量化特征作为第一自相关性网络层的第一输入特征,进而可以基于查询向量以及键向量,获取与第一输入特征相关联的第一自相关性权重矩阵。进一步地,该计算机设备可以基于第一自相关性权重矩阵,对第一输入特征进行注意力编码,得到第一输入特征对应的第一输出特征。然后,该计算机设备可以将第一输出特征作为第二自相关性网络层的第二输入特征,通过该第二自相关性网络层,获取与第二输入特征相关联的第二自相关性权重矩阵,进而可以基于第二自相关性权重矩阵,对该第二输入特征进行注意力编码,得到第二输入特征对应的第二输出特征。其中,本申请实施例中的该计算机设备确定第二输出特征和第一输出特征的具体实施方式,均可以参见计算机设备确定上述目标输出特征的具体实施方式,这里将不再继续进行赘述。
进一步地,该计算机设备可以根据上述公式(7),对第一输出特征和第二输出特征进行拼接处理,得到自相关性拼接特征,进而可以将自相关性拼接特征输入至编码网络层中的特征提取网络层,通过该特征提取网络层对自相关性拼接特征进行特征提取,以得到自相关性拼接特征对应的点位自相关性特征。
如图4所示,该点云预测网络模型4000W中的点位编码网络层中的自相关性网络层的数量可以为4个,具体可以包括自相关性网络层421L、自相关性网络层422L、自相关性网络层423L以及自相关性网络层424L。首先,该计算机设备可以将向量化编码网络层41L的输出特征(即点云向量化特征)作为该自相关性网络层421L的输入特征(例如,输入特征FA1),进而可以基于输入特征FA1的查询向量以及键向量,获取与该输入特征FA1相关联的自相关性权重矩阵(例如,自相关性权重矩阵A1)。进一步地,该计算机设备可以基于该自相关性权重矩阵A1,对输入特征FA1进行注意力编码,以得到输入特征FA1对应的输出特征(例如,输出特征SA1)。
进一步地,该计算机设备可以将输出特征SA1作为该自相关性网络层422L的输入特征(例如,输入特征FA2),通过该自相关性网络层422L,获取与输入特征FA2相关联的自相关性权重矩阵(例如,自相关性权重矩阵A2),进而可以基于自相关性权重矩阵A2,对输入特征FA2进行注意力编码,以得到输入特征FA2对应的输出特征(例如,输出特征SA2)。
然后,该计算机设备可以将输出特征SA2作为该自相关性网络层423L的输入特征(例如,输入特征FA3),通过该自相关性网络层423L,获取与输入特征FA3相关联的自相关性权重矩阵(例如,自相关性权重矩阵A3),进而可以基于自相关性权重矩阵A3,对输入特征FA3进行注意力编码,得到输入特征FA3对应的输出特征(例如,输出特征SA3)。
最后,该计算机设备可以将输出特征SA3作为该自相关性网络层424L的输入特征(例如,输入特征FA4),通过该自相关性网络层424L,获取与输入特征FA4相关联的自相关性权重矩阵(例如,自相关性权重矩阵A4),进而可以基于自相关性权重矩阵A4,对输入特征FA4进行注意力编码,得到输入特征FA4对应的输出特征(例如,输出特征SA4)。其中,本申请实施例中的该计算机设备确定输出特征SA1、输出特征SA2、输出特征SA3以及输出特征SA4的具体实施方式,均可以参见上述图5所示的计算机设备确定目标输出特征的具体实施方式,这里将不再继续进行赘述。
此时,该计算机设备可以根据上述公式(7),对输出特征SA1、输出特征SA2、输出特征SA3以及输出特征SA4进行拼接处理,得到自相关性拼接特征(OutPutSA),进而可以将自相关性拼接特征输入至图4所示的特征提取网络层43L,通过该特征提取网络层43L对该自相关性拼接特征进行特征提取,以得到自相关性拼接特征对应的点位自相关性特征。
其中,在通过目标点云预测网络模型中的编码网络层对待补全点云数据的坐标点云特征进行编码的过程中,可以通过点位编码网络层中的自相关性网络层,强化点云内部相互关联表示信息,能够更好的表征待补全点云数据的形状信息。
步骤S103,基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
具体地,该计算机设备可以对点位自相关性特征进行分类识别,得到待补全空间模型对应的对象分类特征,进而可以基于对象分类特征以及该点位自相关性特征,对待补全空间模型中的缺失部位进行预测,进而可以得到与该待补全空间模型相关联的缺失点位特征。
其中,该点位自相关性特征是将点云坐标特征输入至目标点云预测网络模型(例如,图4所示的点云预测网络模型4000M)之后所得到的;如图4所示,该目标点云预测网络模型包括解码网络层,该解码网络层包括池化层44L、分类特征识别层45L以及缺失点云预测层46L。
应当理解,该计算机设备可以将编码网络层输出的点位自相关性特征(中间层特征表示信息)输入至池化层44L,由该池化层44L对点位自相关性特征进行全局特征提取,得到第一全局特征。其中,可以理解的是,该计算机设备可以通过池化层44L中的最大池化层对点位自相关性特征进行最大池化操作,进而可以对最大池化操作后的特征进行平均池化操作,以得到该待补全点云数据的第一全局特征。
进一步地,该计算机设备可以将该第一全局特征输入至图4所示的分类特征识别层45L,由该分类特征识别层45L对该第一全局特征进行分类识别,进而可以得到待补全空间模型对应的对象分类特征。其中,该分类特征识别层45L包括特征提取子网络层451L(即第二特征提取子网络层,例如,两个LBRD层)以及全连接子网络层452L(即第二全连接子网络层,例如,Linear层)。可以理解的是,该计算机设备可以将第一全局特征输入至特征提取子网络层451L,由该特征提取子网络层451L中的两个LBRD层,对第一全局特征进行特征提取,以得到该第一全局特征对应的全局提取特征。其中,该全局提取特征为一个N×256的矩阵张量。进一步地,该计算机设备可以将该全局提取特征输入至图4所示的全连接子网络层452L,由该全连接子网络层452L对全局提取特征进行线性变换,以得到待补全空间模型对应的对象分类特征。其中,该对象分类特征为一个具有NC维度的One-Hot特征向量。
其中,这里的对象分类特征可以为一个用于表示待补全空间模型的物体分类信息,采用分数最高的那一类作为该点云的最终分类。例如,分类特征识别层45L可以识别NC类空间模型的物体分类信息。其中,这NC类物体分类信息具体可以包括三维桌子模型、三维人脸模型、三维人体模型、三维飞机模型、三维动物模型以及三维植物模型这6类。一个物体分类信息对应对象分类特征中的一个维度。比如,若该点云预测网络模型4000W所预测的待补全空间模型为上述图2所示的空间模型21M,则该计算机设备可以通过分类特征识别层45L确定分数最高的那一类为三维人脸模型,此时,该计算机设备可以将三维人脸模型对应的维度的值编码为1,将其他维度的值均编码为0,以得到对象分类特征(例如,01000)。
进一步地,该计算机设备可以基于对象分类特征以及第一全局特征,得到第二全局特征,并将第二全局特征以及点位自相关性特征进行拼接处理,以得到全局自相关性拼接特征。其中,如图4所示,该计算机设备可以将对象分类特征回引至第一全局特征,进而可以对回引后的第一全局特征进行重复处理,以得到第二全局特征。然后,该计算机设备可以将第二全局特征以及编码网络层输出的点位自相关性特征进行拼接处理,从而得到图4所示的全局自相关性拼接特征。
此时,该计算机设备可以将全局自相关性拼接特征输入至图4所示的缺失点云预测层46L,由该缺失点云预测层46L对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。其中,如图4所示,该缺失点云预测层46L可以包括特征提取子网络层461L(即第三特征提取子网络层,例如,一个LBRD层和一个LBR层)以及全连接子网络层462L(即第三全连接子网络层,例如,Linear层)。可以理解的是,该计算机设备可以将全局自相关性拼接特征输入至特征提取子网络层461L,由该特征提取子网络层461L中的LBRD层和LBR层,对该全局自相关性拼接特征进行特征提取,以得到全局自相关性拼接特征对应的拼接提取特征。其中,该拼接提取特征可以一个N×256的矩阵张量。进一步地,该计算机设备可以将拼接提取特征输入至全连接子网络层462L,由该全连接子网络层462L对该拼接提取特征进行线性变换,得到与待补全空间模型相关联的缺失点位特征。其中,该缺失点位特征可以一个No×NS(例如,No×3)的矩阵张量。这里的No是指预测的待补全空间模型的缺失部位的坐标点的总数量,No为正整数。
步骤S104,基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
具体地,该计算机设备可以在待补全空间模型所在的空间坐标系中,将缺失点位特征转换为缺失点云数据,进而可以将该缺失点云数据与该待补全点云数据进行拼接处理,得到完整点云数据。进一步地,该计算机设备可以基于完整点云数据,构建该待补全空间模型对应的完整空间模型。
为便于理解,进一步地,请参见图6,图6是本申请实施例提供的一种对点云数据进行补全处理的场景示意图。如图6所示,本申请实施例中的具备空间模型补全功能的计算机设备可以为上述图1所示的用户终端集群中的任意一个用户终端,例如,用户终端100a,该计算机设备也可以为上述图1所示的服务器10F,这里将不对计算机设备进行限定。其中,该点云数据补全过程可以包括6个过程,具体可以包括点云输入过程,点云自相关性特征编码过程、点云分类过程、点云特征解码过程、残缺点云预测过程以及补全完整点云数据过程。
如图6所示,点云数据610S为该计算机设备获取到的待补全空间模型(例如,三维桌子模型)对应的待补全点云数据。在点云输入过程中,该计算机设备需要确定该点云数据610S的点云坐标特征,进而可以将该点云坐标特征输入至计算机设备获取到的目标点云预测网络模型(例如,图4所示的点云预测网络模型4000W)。
在点云自相关性特征编码过程中,该计算机设备可以通过目标点云预测网络模型中的编码网络层,获取与点云坐标特征相关联的自相关性权重矩阵,进而可以基于自相关性权重矩阵对该点云坐标特征进行注意力编码,以得到中间层特征表示信息(即点位自相关性特征)。
在点云分类过程中,该计算机设备可以通过目标点云预测网络模型中的分类特征识别层,对该点位自相关性特征进行分类识别,以得到对象分类特征。该对象分类特征用于指示点云数据610S的物体分类信息为三维桌子模型。进一步地,在点云特征解码过程中,该计算机设备可以基于对象分类特征以及点位自相关性特征,得到用于输入至缺失点云预测层的全局自相关性拼接特征,进而可以通过该缺失点云预测层,得到与待补全空间模型相关联的缺失点位特征。在残缺点云预测过程中,该计算机设备可以在待补全空间模型所在的空间坐标系中,将缺失点位特征转换为缺失点云数据(例如,图6所示的点云数据620S)。
在补全完整点云数据过程中,该计算机设备可以将该点云数据610S与该点云数据620S进行拼接处理,得到完整点云数据(例如,图6所示的点云数据630S)。此时,该计算机设备可以基于点云数据630S,构建该待补全空间模型对应的完整空间模型(即完整的三维桌子模型)。
在本申请实施例中,具备空间模型补全功能的计算机设备在获取到待补全空间模型对应的待补全点云数据时,无需花费时间重新采集点云数据,而是在确定该待补全点云数据对应的点云坐标特征时,通过使用目标点云预测网络模型,获取用于强化该点云坐标特征相互之间的关联关系的自相关性权重矩阵,以增强点位之间的相关性信息,能够得到用于准确表征该待补全点云数据的点位自相关性特征,进而在基于点位自相关性特征对待补全空间模型的缺失部位进行预测时,能够提升缺失点云数据的预测精准度。进一步地,该计算机设备可以在采用预测的缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理时,能够得到更加准确的完整空间模型,以至于提升了点云数据的补全准确度以及补全效率。
进一步地,请参见图7,图7是本申请实施例提供的一种点云数据处理方法的流程示意图。该方法涉及点云数据补全系统中的计算机设备。其中,该计算机设备可以为用户终端(例如,上述图1所示的用户终端集群中的任意一个用户终端,例如,用户终端100a),也可以为服务器(例如,上述图1所示的服务器10F),还可以由具备模型应用功能的用户终端和具备模型训练功能的服务器共同执行,在此不做限定。该方法至少可以包括以下步骤S201-步骤S208:
步骤S201,获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征。
具体地,该计算机设备可以获取待补全空间模型对应的待补全点云数据。其中,这里的待补全空间模型是基于空间模型采集设备(例如,深度摄像头或者传感器等)所采集到的。该待补全点云数据可以包括N个坐标点,这里的N为正整数。应当理解,该计算机设备可以从N个坐标点中,确定用于进行向量编码处理的坐标点Vi,进而可以在待补全空间模型所在的空间坐标系中,确定坐标点Vi的坐标特征,且获取坐标点Vi的紧邻特征。其中,i可以为小于或者等于N的正整数。这里的坐标点Vi的紧邻特征是基于与坐标点Vi相关联的法向量信息所确定的。进一步地,该计算机设备可以将坐标点Vi的坐标特征与坐标点Vi的紧邻特征进行拼接处理,得到坐标点Vi的点云坐标特征,进而可以基于坐标点Vi的点云坐标特征,确定待补全点云数据对应的点云坐标特征。
步骤S202,获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征。
具体地,该计算机设备可以获取目标点云预测网络模型。其中,该目标点云预测网络模型可以包括编码网络层,这里的编码网络层包括向量化编码网络层以及点位编码网络层。此时,该计算机设备可以将点云坐标特征输入至向量化编码网络层,由该向量化编码网络层对点云坐标特征进行特征提取,得到点云坐标特征对应的点云向量化特征。进一步地,该计算机设备可以将点云向量化特征输入至点位编码网络层,通过点位编码网络层分别对点云向量化特征进行线性变换,以得到点云向量化特征对应的查询向量以及点云向量化特征对应的键向量。此时,该计算机设备可以基于查询向量以及键向量确定自相关性权重矩阵,进而可以基于自相关性权重矩阵对点云向量化特征进行注意力编码,得到点云向量化特征对应的点位自相关性特征。
步骤S203,基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
具体地,该计算机设备可以对点位自相关性特征进行分类识别,得到待补全空间模型对应的对象分类特征,进而可以基于对象分类特征以及该点位自相关性特征,对待补全空间模型中的缺失部位进行预测,进而可以得到与该待补全空间模型相关联的缺失点位特征。
步骤S204,基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
具体地,该计算机设备可以在待补全空间模型所在的空间坐标系中,将缺失点位特征转换为缺失点云数据,进而可以将该缺失点云数据与该待补全点云数据进行拼接处理,得到完整点云数据。进一步地,该计算机设备可以基于完整点云数据,构建该待补全空间模型对应的完整空间模型。
可以理解的是,该计算机设备还可以为接入区块链网络中的区块链节点,在基于预测的缺失点云数据,对待补全点云数据进行补全处理后,能够将得到的完整空间模型打包至区块中,以写入至该区块链网络中的区块链,从而可以确保该完整空间模型不被其他非法用户进行篡改,以至于提高该完整空间模型的安全性。其中,区块链(Blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。
其中,本申请实施例中的点云数据处理方法可以包括模型训练过程以及模型应用过程。可以理解的是,该步骤S201-步骤S204阐述了模型应用过程,即获取目标点云预测网络模型对待补全空间模型中的缺失补全进行预测。该模型应用过程的具体实施方式可参见上述图3所对应实施例中对步骤S101-步骤S104的描述,这里将不再继续进行赘述。
其中,该模型训练过程具体可以参见下述步骤S205-步骤S208的描述。
步骤S205,获取样本空间模型对应的样本完整点云数据,从样本完整点云数据中获取用于对初始点云预测网络模型进行训练的样本待补全点云数据,将样本完整点云数据作为样本待补全点云数据的样本标签。
具体地,该计算机设备可以采集完整空间模型(例如,三维空间模型),进而可以将采集到的完整空间模型作为样本完整空间模型,进一步地,该计算机设备可以获取样本空间模型对应的样本完整点云数据。其中,这里的样本完整空间模型的物体分类信息可以包括NC类,这里的NC为正整数。此时,该计算机设备可以对该样本完整点云数据进行预处理(例如,随机去除该样本完整点云数据中的部分点云数据),以得到用于对初始点云预测网络模型进行训练的样本待补全点云数据。可以理解的是,该计算机设备可以将样本完整点云数据作为样本待补全点云数据的样本标签。
其中,该样本完整空间模型的物体分类信息可以包括三维家具电器模型(例如,三维桌子模型)、三维人物模型(例如,三维人脸模型或者三维人体模型)、三维交通运输模型(例如,三维飞机模型)、三维动物模型以及三维植物模型等。
若该计算机设备获取到的样本完整空间模型的物体分类信息的种类包括NC类,则该计算机设备基于样本完整空间模型对应的样本待补全点云数据进行训练后,可以得到用于对这NC类中的任意一类待补全空间模型中的缺失部位进行预测目标点云预测网络模型(例如,目标点云预测网络模型1),该计算机设备在应用该目标点云预测网络模型1对某一待补全空间模型进行预测时,需要识别该待补全空间模型的物体分类信息(即对象分类特征所指示的物体分类信息),进而可以结合该物体分类信息以及中间层特征表示信息(即点位自相关性特征),对该待补全空间模型的缺失部位进行预测以及补全处理。
可选的,该计算机设备可以采用一类样本完整空间模型对初始点云预测网络模型进行迭代训练,得到用于对该类待补全空间模型的缺失部位进行预测的目标点云预测网络模型。比如,若该计算机设备获取到的样本完整空间模型的物体分类信息均为三维人脸模型,则该计算机设备基于样本完整空间模型对应的样本待补全点云数据进行训练,可以得到用于对三维人脸模型中的缺失部位进行预测的目标点云预测网络模型(例如,目标点云预测网络模型2)。该计算机设备在应用该目标点云预测网络模型2对三维人脸模型这一类待补全空间模型进行预测时,无需识别该待补全空间模型的物体分类信息,可以直接基于点位自相关性特征对待补全空间模型的缺失部位进行预测以及补全处理,以便于提高预测效率。
步骤S206,确定样本待补全点云数据对应的点云坐标特征,将确定的点云坐标特征作为样本输入特征,将样本输入特征输入至初始点云预测网络模型,由初始点云预测网络模型对样本待补全点云数据中的缺失部位进行预测,得到样本输出特征。
具体地,该计算机设备可以确定该样本待补全点云数据对应的点云坐标特征,进而可以将该样本待补全点云数据对应的点云坐标特征作为样本输入特征。其中,该样本待补全点云数据对应的点云坐标特征是由该样本待补全点云数据中的每个坐标点的紧邻特征以及坐标特征所确定的。进一步地,该计算机设备可以将样本输入特征输入至初始点云预测网络模型,通过该初始点云预测网络模型中的编码网络层和解码网络层,对该样本待补全点云数据中的缺失部位进行预测,以得到样本输出特征。
步骤S207,基于样本输出特征确定样本待补全点云数据对应的预测缺失点云数据,将预测缺失点云数据与样本待补全点云数据进行拼接处理,将拼接处理后的点云数据作为预测完整点云数据。
具体地,该计算机设备可以在样本待补全空间模型所在的空间坐标系中,将样本输出特征转换为预测缺失点云数据,进而可以将该预测缺失点云数据与样本待补全点云数据进行拼接处理,以得到预测完整点云数据。
步骤S208,基于样本标签、预测完整点云数据以及与初始点云预测网络模型相关联的模型损失函数,对初始点云预测网络模型进行迭代训练,得到用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
具体地,该计算机设备可以基于与初始点云预测网络模型相关联的模型损失函数,确定样本标签与预测完整点云数据之间的点云相似度。此时,该计算机设备还可以获取与初始点云预测网络模型相关联的模型收敛条件,该模型收敛条件可以包括相似度阈值(例如,95%)。进一步地,该计算机设备可以基于该点云相似度以及模型收敛条件,对初始点云预测网络模型进行迭代训练,得到模型训练结果,进而可以基于该模型训练结果,确定用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
可以理解的是,当该模型训练结果指示该初始点云预测网络模型的模型损失函数满足该模型收敛条件(即点云相似度大于相似度阈值)时,该计算机设备可以将满足该模型收敛条件的初始点云预测网络模型直接作为用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
可选的,当该模型训练结果指示该初始点云预测网络模型的模型损失函数不满足模型收敛条件(即点云相似度小于或者等于相似度阈值)时,该计算机设备可以基于不满足该模型收敛条件的模型损失函数,对该初始点云预测网络模型的模型参数进行调整。进一步地,该计算机设备可以将调整模型参数后的初始点云预测网络模型确定为过渡点云预测网络模型,进而可以对该过渡点云预测网络模型进行训练,直到训练后的过渡点云预测网络模型满足该模型收敛条件时,该计算机设备可以将满足该模型收敛条件的过渡点云预测网络模型,作为用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
其中,该计算机设备训练成功的目标点云预测网络模型是在点云表示的维度下,即该计算机设备在获取到待补全空间模型对应的待补全点云数据时,需要确定该待补全点云数据对应的点云坐标特征,进而将该点云坐标特征直接输入至该目标点云预测网络模型,通过采用编码-中间表示-解码的结构,获取用于增强点位间相关性信息的自相关性权重,以对点云坐标特征进行注意力编码,从而更加准确的得到该待补全点云数据的点位自相关性特征,进而提升了缺失点云数据的预测精准度。进一步地,该计算机设备通过该目标点云预测网络模型,可以直接得到与待补全空间模型相关联的缺失点位特征,进而能够对缺失点位特征对应的缺失点云数据以及待补全空间模型对应的待补全点云数据进行拼接,得到恢复结果(即完整点云数据对应的完整空间模型),以至于提升点云数据的补全准确度以及补全效率。
此外,在不关注算法的时间复杂度和空间复杂度的情况,为了更好的抓取待补全空间模型的三维空间特征,该计算机设备获取的目标点云预测网络模型还可以是在体素化表示的维度下,即该计算机设备在获取到待补全空间模型对应的待补全点云数据时,需要对该待补全点云数据进行体素化,以得到待补全空间模型对应的待补全体素,进而可以确定该待补全体素对应的体素坐标特征,然后,将该体素坐标特征输入至该目标点云预测网络模型,通过采用编码-中间表示-解码的结构,得到与待补全空间模型相关联的缺失体素特征。此时,该计算机设备可以确定该缺失体素特征对应的缺失体素,并将该缺失体素转换为缺失点云数据,进而可以对缺失点云数据以及待补全点云数据进行拼接,得到恢复结果(即完整点云数据对应的完整空间模型),以至于提升点云数据的补全准确度。
进一步地,请参见图8,图8是本申请实施例提供的一种点云数据处理装置的结构示意图。如图8所示,该点云数据处理装置1可以是运行于计算机设备中的一个计算机程序(包括程序代码),例如,该点云数据处理装置1为一个应用软件;该点云数据处理装置1可以用于执行本申请实施例提供的方法中的相应步骤。如图8所示,该点云数据处理装置1可以运行于具备空间模型补全功能的计算机设备,该计算机设备可以为上述图1所对应实施例中的服务器10F,也可以为上述图1所对应实施例中的用户终端集群中的任意一个运行有目标点云预测网络模型的用户终端,例如,用户终端100a。该点云数据处理装置1可以包括:点云坐标特征获取模块10,点位自相关性特征确定模块20,缺失部位预测模块30,补全处理模块40,样本数据获取模块50,样本预测模块60,样本拼接模块70以及迭代训练模块80。
该点云坐标特征获取模块10,用于获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征。
其中,该点云坐标特征获取模块10包括:待补全点云数据获取单元101,坐标点特征确定单元102以及点云坐标特征确定单元103。
该待补全点云数据获取单元101,用于获取待补全空间模型对应的待补全点云数据;待补全空间模型是基于空间模型采集设备所采集到的;待补全点云数据包括N个坐标点;N为正整数;
该坐标点特征确定单元102,用于从N个坐标点中确定用于进行向量编码处理的坐标点Vi,在待补全空间模型所在的空间坐标系中,确定坐标点Vi的坐标特征,且获取坐标点Vi的紧邻特征;i为小于或者等于N的正整数;坐标点Vi的紧邻特征是基于与坐标点Vi相关联的法向量信息所确定的;
该点云坐标特征确定单元103,用于将坐标点Vi的坐标特征与坐标点Vi的紧邻特征进行拼接处理,得到坐标点Vi的点云坐标特征,且基于坐标点Vi的点云坐标特征,确定待补全点云数据对应的点云坐标特征。
其中,该待补全点云数据获取单元101,坐标点特征确定单元102以及点云坐标特征确定单元103的具体实现方式可以参见上述图3所对应实施例中对步骤S101的描述,这里将不再继续进行赘述。
该点位自相关性特征确定模块20,用于获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征;自相关性权重矩阵用于强化点云坐标特征相互之间的关联关系。
其中,该点位自相关性特征确定模块20包括:目标网络模型获取单元201,点云向量化特征确定单元202,点云向量化特征输入单元203以及注意力编码单元204。
该目标网络模型获取单元201,用于获取目标点云预测网络模型;目标点云预测网络模型包括编码网络层;编码网络层包括向量化编码网络层以及点位编码网络层;
该点云向量化特征确定单元202,用于将点云坐标特征输入至向量化编码网络层,由向量化编码网络层对点云坐标特征进行特征提取,得到点云坐标特征对应的点云向量化特征;
该点云向量化特征输入单元203,用于将点云向量化特征输入至点位编码网络层,通过点位编码网络层分别对点云向量化特征进行线性变换,得到点云向量化特征对应的查询向量以及点云向量化特征对应的键向量;
该注意力编码单元204,用于基于查询向量以及键向量确定自相关性权重矩阵,基于自相关性权重矩阵对点云向量化特征进行注意力编码,得到点云向量化特征对应的点位自相关性特征。
其中,点位编码网络层包括第一全连接子网络层以及第一特征提取子网络层;
该注意力编码单元204包括:自相关性权重矩阵确定子单元20401,标准化子单元20402,值向量确定子单元20403,注意力特征确定子单元20404,目标输出特征确定子单元20405,第一自相关性特征确定子单元20406,第一权重矩阵获取子单元20407,第一输出特征确定子单元20408,第二权重矩阵获取子单元20409,第二输出特征确定子单元20410以及第二自相关性特征确定子单元20411。
该自相关性权重矩阵确定子单元20401,用于通过点位编码网络层,对键向量进行转置处理,得到转置处理后的键向量,对查询向量和转置处理后的键向量进行矩阵相乘处理,得到与点云向量化特征相关联的自相关性权重矩阵;
该标准化子单元20402,用于对自相关性权重矩阵进行标准化,得到标准化后的自相关性权重矩阵;
该值向量确定子单元20403,用于通过第一全连接子网络层对点云向量化特征进行线性变换,得到点云向量化特征对应的值向量;
该注意力特征确定子单元20404,用于基于标准化后的自相关性权重矩阵以及值向量,得到点云向量化特征对应的注意力特征;
该目标输出特征确定子单元20405,用于基于注意力特征、点云向量化特征以及第一特征提取子网络层,得到点云向量化特征对应的目标输出特征。
其中,该目标输出特征确定子单元20405还用于:
基于点云向量化特征以及注意力特征,确定与点位编码网络层相关联的偏移注意力特征;
将偏移注意力特征输入至第一特征提取子网络层,由第一特征提取子网络层对偏移注意力特征进行特征提取,得到偏移注意力特征对应的偏移提取特征;
对偏移提取特征以及点云向量化特征进行拼接处理,得到点云向量化特征对应的目标输出特征。
该第一自相关性特征确定子单元20406,用于将目标输出特征输入至编码网络层中的特征提取网络层,通过特征提取网络层对目标输出特征进行特征提取,得到目标输出特征对应的点位自相关性特征。
其中,点位编码网络层包括X个自相关性网络层;X为大于1的正整数;X个自相关性网络层包括第一自相关性网络层和第二自相关性网络层;自相关性权重矩阵包括第一自相关性权重矩阵和第二自相关性权重矩阵;
该第一权重矩阵获取子单元20407,用于将点云向量化特征作为第一自相关性网络层的第一输入特征,基于查询向量以及键向量,获取与第一输入特征相关联的第一自相关性权重矩阵;
该第一输出特征确定子单元20408,用于基于第一自相关性权重矩阵,对第一输入特征进行注意力编码,得到第一输入特征对应的第一输出特征;
该第二权重矩阵获取子单元20409,用于将第一输出特征作为第二自相关性网络层的第二输入特征,通过第二自相关性网络层,获取与第二输入特征相关联的第二自相关性权重矩阵;
该第二输出特征确定子单元20410,用于基于第二自相关性权重矩阵,对第二输入特征进行注意力编码,得到第二输入特征对应的第二输出特征;
该第二自相关性特征确定子单元20411,用于对第一输出特征和第二输出特征进行拼接处理,得到自相关性拼接特征,将自相关性拼接特征输入至编码网络层中的特征提取网络层,通过特征提取网络层对自相关性拼接特征进行特征提取,得到自相关性拼接特征对应的点位自相关性特征。
其中,该自相关性权重矩阵确定子单元20401,标准化子单元20402,值向量确定子单元20403,注意力特征确定子单元20404,目标输出特征确定子单元20405,第一自相关性特征确定子单元20406,第一权重矩阵获取子单元20407,第一输出特征确定子单元20408,第二权重矩阵获取子单元20409,第二输出特征确定子单元20410以及第二自相关性特征确定子单元20411的具体实现方式可以参见上述图4所对应实施例中对点位自相关性特征的描述,这里将不再继续进行赘述。
其中,该目标网络模型获取单元201,点云向量化特征确定单元202,点云向量化特征输入单元203以及注意力编码单元204的具体实现方式可以参见上述图3所对应实施例中对步骤S102的描述,这里将不再继续进行赘述。
该缺失部位预测模块30,用于基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
其中,该缺失部位预测模块30包括:缺失部位预测单元301。
该缺失部位预测单元301,用于对点位自相关性特征进行分类识别,得到待补全空间模型对应的对象分类特征,基于对象分类特征以及点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
其中,点位自相关性特征是将点云坐标特征输入至目标点云预测网络模型之后所得到的;目标点云预测网络模型包括解码网络层;解码网络层包括池化层、分类特征识别层以及缺失点云预测层;
该缺失部位预测单元301包括:全局特征提取子单元3011,分类识别子单元3012,全局拼接特征确定子单元3013以及缺失部位预测子单元3014。
该全局特征提取子单元3011,用于将点位自相关性特征输入至池化层,由池化层对点位自相关性特征进行全局特征提取,得到第一全局特征;
该分类识别子单元3012,用于将第一全局特征输入至分类特征识别层,由分类特征识别层对第一全局特征进行分类识别,得到待补全空间模型对应的对象分类特征。
其中,分类特征识别层包括第二特征提取子网络层以及第二全连接子网络层;
该分类识别子单元3012还用于:
将第一全局特征输入至第二特征提取子网络层,由第二特征提取子网络层对第一全局特征进行特征提取,得到第一全局特征对应的全局提取特征;
将全局提取特征输入至第二全连接子网络层,由第二全连接子网络层对全局提取特征进行线性变换,得到待补全空间模型对应的对象分类特征。
该全局拼接特征确定子单元3013,用于基于对象分类特征以及第一全局特征,得到第二全局特征,将第二全局特征以及点位自相关性特征进行拼接处理,得到全局自相关性拼接特征;
该缺失部位预测子单元3014,用于将全局自相关性拼接特征输入至缺失点云预测层,由缺失点云预测层对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征。
其中,缺失点云预测层包括第三特征提取子网络层以及第三全连接子网络层;
该缺失部位预测子单元3014还用于:
将全局自相关性拼接特征输入至第三特征提取子网络层,由第三特征提取子网络层对全局自相关性拼接特征进行特征提取,得到全局自相关性拼接特征对应的拼接提取特征;
将拼接提取特征输入至第三全连接子网络层,由第三全连接子网络层对拼接提取特征进行线性变换,得到与待补全空间模型相关联的缺失点位特征。
其中,该全局特征提取子单元3011,分类识别子单元3012,全局拼接特征确定子单元3013以及缺失部位预测子单元3014的具体实现方式可以参见上述图3所对应实施例中对步骤S103的描述,这里将不再继续进行赘述。
该补全处理模块40,用于基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
其中,该补全处理模块40包括:缺失点位特征转换单元401,完整点云数据获取单元402以及完整空间模型构建单元403。
该缺失点位特征转换单元401,用于在待补全空间模型所在的空间坐标系中,将缺失点位特征转换为缺失点云数据;
该完整点云数据获取单元402,用于将缺失点云数据与待补全点云数据进行拼接处理,得到完整点云数据;
该完整空间模型构建单元403,用于基于完整点云数据,构建待补全空间模型对应的完整空间模型。
其中,该缺失点位特征转换单元401,完整点云数据获取单元402以及完整空间模型构建单元403的具体实现方式可以参见上述图3所对应实施例中对步骤S104的描述,这里将不再继续进行赘述。
该样本数据获取模块50,用于获取样本空间模型对应的样本完整点云数据,从样本完整点云数据中获取用于对初始点云预测网络模型进行训练的样本待补全点云数据,将样本完整点云数据作为样本待补全点云数据的样本标签;
该样本预测模块60,用于确定样本待补全点云数据对应的点云坐标特征,将确定的点云坐标特征作为样本输入特征,将样本输入特征输入至初始点云预测网络模型,由初始点云预测网络模型对样本待补全点云数据中的缺失部位进行预测,得到样本输出特征;
该样本拼接模块70,用于基于样本输出特征确定样本待补全点云数据对应的预测缺失点云数据,将预测缺失点云数据与样本待补全点云数据进行拼接处理,将拼接处理后的点云数据作为预测完整点云数据;
该迭代训练模块80,用于基于样本标签、预测完整点云数据以及与初始点云预测网络模型相关联的模型损失函数,对初始点云预测网络模型进行迭代训练,得到用于对待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
其中,该点云坐标特征获取模块10,点位自相关性特征确定模块20,缺失部位预测模块30,补全处理模块40,样本数据获取模块50,样本预测模块60,样本拼接模块70以及迭代训练模块80的具体实现方式可以参见上述图7所对应实施例中对步骤S201-步骤S208的描述,这里将不再继续进行赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
进一步地,请参见图9,图9是本申请实施例提供的一种计算机设备的示意图。如图9所示,该计算机设备1000可以为具备空间模型补全功能的计算机设备,该计算机设备1000可以包括:至少一个处理器1001,例如,CPU,至少一个网络接口1004,存储器1005,至少一个通信总线1002。其中,通信总线1002用于实现这些组件之间的连接通信。网络接口1004可选地可以包括标准的有线接口、无线接口(如WI-FI接口)。存储器1005可以是高速RAM存储器,也可以是非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。存储器1005可选地还可以是至少一个位于远离前述处理器1001的存储装置。如图9所示,作为一种计算机存储介质的存储器1005可以包括操作系统、网络通信模块、用户接口模块以及设备控制应用程序。其中,在一些实施例中,该计算机设备还可以包括图9所示的用户接口1003,比如,若该计算机设备为图1所示的具有空间模型补全功能的用户终端(例如,用户终端100a),则该计算机设备还可以包括该用户接口1003,其中,该用户接口1003可以包括显示屏(Display)、键盘(Keyboard)等。
在图9所示的计算机设备1000中,网络接口1004主要用于进行网络通信;而用户接口1003主要用于为用户提供输入的接口;而处理器1001可以用于调用存储器1005中存储的设备控制应用程序,以实现:
获取待补全空间模型对应的待补全点云数据,确定待补全点云数据对应的点云坐标特征;
获取与点云坐标特征相关联的自相关性权重矩阵,基于自相关性权重矩阵对点云坐标特征进行注意力编码,得到点云坐标特征对应的点位自相关性特征;自相关性权重矩阵用于强化点云坐标特征相互之间的关联关系;
基于点位自相关性特征,对待补全空间模型中的缺失部位进行预测,得到与待补全空间模型相关联的缺失点位特征;
基于缺失点位特征对应的缺失点云数据,对待补全点云数据进行补全处理,得到待补全空间模型对应的完整空间模型。
应当理解,本申请实施例中所描述的计算机设备1000可执行前文图3和图7所对应实施例中对该点云数据处理方法的描述,也可执行前文图8所对应实施例中对该点云数据处理装置1的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
本申请实施例还提供一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序包括程序指令,该程序指令被处理器执行时实现图3和图7中各个步骤所提供的点云数据处理方法,具体可参见图3以及图7各个步骤所提供的实现方式,在此不再赘述。
计算机可读存储介质可以是前述任一实施例提供的数据传输装置或者计算机设备的内部存储单元,例如计算机设备的硬盘或内存。该计算机可读存储介质也可以是该计算机设备的外部存储设备,例如该计算机设备上配备的插接式硬盘,智能存储卡(smartmedia card,SMC),安全数字(secure digital,SD)卡,闪存卡(flash card)等。进一步地,该计算机可读存储介质还可以既包括该计算机设备的内部存储单元也包括外部存储设备。该计算机可读存储介质用于存储该计算机程序以及该计算机设备所需的其他程序和数据。该计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。
本申请一方面提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中。计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备可执行前文图3或者图7所对应实施例中对点云数据处理方法的描述,在此不再赘述。另外,对采用相同方法的有益效果描述,也不再进行赘述。
本申请实施例的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象,而非用于描述特定顺序。此外,术语“包括”以及它们任何变形,意图在于覆盖不排他的包括。例如包括了一系列步骤或单元的过程、方法、装置、产品或设备没有限定于已列出的步骤或模块,而是可选地还包括没有列出的步骤或模块,或可选地还包括对于这些过程、方法、装置、产品或设备固有的其他步骤单元。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
本申请实施例提供的方法及相关装置是参照本申请实施例提供的方法流程图和/或结构示意图来描述的,具体可由计算机程序指令实现方法流程图和/或结构示意图的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。这些计算机程序指令可提供到通用计算机、专用计算机、嵌入式处理机或其他可编程点云数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程点云数据处理设备的处理器执行的指令产生用于实现在流程图中的一个流程或多个流程和/或结构示意图中的一个方框或多个方框中指定的功能的装置。这些计算机程序指令也可存储在能引导计算机或其他可编程点云数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图中的一个流程或多个流程和/或结构示意图中的一个方框或多个方框中指定的功能。这些计算机程序指令也可装载到计算机或其他可编程点云数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图中的一个流程或多个流程和/或结构示意图中的一个方框或多个方框中指定的功能的步骤。
以上所揭露的仅为本申请较佳实施例而已,当然不能以此来限定本申请之权利范围,因此依本申请权利要求所作的等同变化,仍属本申请所涵盖的范围。
Claims (15)
1.一种点云数据处理方法,其特征在于,包括:
获取待补全空间模型对应的待补全点云数据,确定所述待补全点云数据对应的点云坐标特征;所述点云坐标特征是基于所述待补全点云数据中的每个坐标点的坐标特征和紧邻特征所确定的;
获取与所述点云坐标特征相关联的自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云坐标特征进行注意力编码,得到所述点云坐标特征对应的点位自相关性特征;所述自相关性权重矩阵用于强化所述点云坐标特征相互之间的关联关系;所述自相关性权重矩阵是基于点云向量化特征对应的查询向量和所述点云向量化特征对应的键向量所确定的;所述点云向量化特征是对所述点云坐标特征进行特征提取后所得到的;
基于所述点位自相关性特征,对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征;
基于所述缺失点位特征对应的缺失点云数据,对所述待补全点云数据进行补全处理,得到所述待补全空间模型对应的完整空间模型。
2.根据权利要求1所述的方法,其特征在于,所述获取待补全空间模型对应的待补全点云数据,确定所述待补全点云数据对应的点云坐标特征,包括:
获取待补全空间模型对应的待补全点云数据;所述待补全空间模型是基于空间模型采集设备所采集到的;所述待补全点云数据包括N个坐标点;所述N为正整数;
从所述N个坐标点中确定用于进行向量编码处理的坐标点Vi,在所述待补全空间模型所在的空间坐标系中,确定所述坐标点Vi的坐标特征,且获取所述坐标点Vi的紧邻特征;所述i为小于或者等于所述N的正整数;所述坐标点Vi的紧邻特征是基于与所述坐标点Vi相关联的法向量信息所确定的;
将所述坐标点Vi的坐标特征与所述坐标点Vi的紧邻特征进行拼接处理,得到所述坐标点Vi的点云坐标特征,且基于所述坐标点Vi的点云坐标特征,确定所述待补全点云数据对应的点云坐标特征。
3.根据权利要求1所述的方法,其特征在于,所述获取与所述点云坐标特征相关联的自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云坐标特征进行注意力编码,得到所述点云坐标特征对应的点位自相关性特征,包括:
获取目标点云预测网络模型;所述目标点云预测网络模型包括编码网络层;所述编码网络层包括向量化编码网络层以及点位编码网络层;
将所述点云坐标特征输入至所述向量化编码网络层,由所述向量化编码网络层对所述点云坐标特征进行特征提取,得到所述点云坐标特征对应的点云向量化特征;
将所述点云向量化特征输入至所述点位编码网络层,通过所述点位编码网络层分别对所述点云向量化特征进行线性变换,得到所述点云向量化特征对应的查询向量以及所述点云向量化特征对应的键向量;
基于所述查询向量以及所述键向量确定自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云向量化特征进行注意力编码,得到所述点云向量化特征对应的点位自相关性特征。
4.根据权利要求3所述的方法,其特征在于,所述点位编码网络层包括第一全连接子网络层以及第一特征提取子网络层;
所述基于所述查询向量以及所述键向量确定自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云向量化特征进行注意力编码,得到所述点云向量化特征对应的点位自相关性特征,包括:
通过所述点位编码网络层,对所述键向量进行转置处理,得到转置处理后的键向量,对所述查询向量和所述转置处理后的键向量进行矩阵相乘处理,得到与所述点云向量化特征相关联的自相关性权重矩阵;
对所述自相关性权重矩阵进行标准化,得到标准化后的自相关性权重矩阵;
通过所述第一全连接子网络层对所述点云向量化特征进行线性变换,得到所述点云向量化特征对应的值向量;
基于所述标准化后的自相关性权重矩阵以及所述值向量,得到所述点云向量化特征对应的注意力特征;
基于所述注意力特征、所述点云向量化特征以及所述第一特征提取子网络层,得到所述点云向量化特征对应的目标输出特征;
将所述目标输出特征输入至所述编码网络层中的特征提取网络层,通过所述特征提取网络层对所述目标输出特征进行特征提取,得到所述目标输出特征对应的点位自相关性特征。
5.根据权利要求4所述的方法,其特征在于,所述基于所述注意力特征、所述点云向量化特征以及所述第一特征提取子网络层,得到所述点云向量化特征对应的目标输出特征,包括:
基于所述点云向量化特征以及所述注意力特征,确定与所述点位编码网络层相关联的偏移注意力特征;
将所述偏移注意力特征输入至所述第一特征提取子网络层,由所述第一特征提取子网络层对所述偏移注意力特征进行特征提取,得到所述偏移注意力特征对应的偏移提取特征;
对所述偏移提取特征以及所述点云向量化特征进行拼接处理,得到所述点云向量化特征对应的目标输出特征。
6.根据权利要求3所述的方法,其特征在于,所述点位编码网络层包括X个自相关性网络层;所述X为大于1的正整数;所述X个自相关性网络层包括第一自相关性网络层和第二自相关性网络层;所述自相关性权重矩阵包括第一自相关性权重矩阵和第二自相关性权重矩阵;
所述基于所述查询向量以及所述键向量确定自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云向量化特征进行注意力编码,得到所述点云向量化特征对应的点位自相关性特征,包括:
将所述点云向量化特征作为所述第一自相关性网络层的第一输入特征,基于所述查询向量以及所述键向量,获取与所述第一输入特征相关联的所述第一自相关性权重矩阵;
基于所述第一自相关性权重矩阵,对所述第一输入特征进行注意力编码,得到所述第一输入特征对应的第一输出特征;
将所述第一输出特征作为所述第二自相关性网络层的第二输入特征,通过所述第二自相关性网络层,获取与所述第二输入特征相关联的所述第二自相关性权重矩阵;
基于所述第二自相关性权重矩阵,对所述第二输入特征进行注意力编码,得到所述第二输入特征对应的第二输出特征;
对所述第一输出特征和所述第二输出特征进行拼接处理,得到自相关性拼接特征,将所述自相关性拼接特征输入至所述编码网络层中的特征提取网络层,通过所述特征提取网络层对所述自相关性拼接特征进行特征提取,得到所述自相关性拼接特征对应的点位自相关性特征。
7.根据权利要求1所述的方法,其特征在于,所述基于所述点位自相关性特征,对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征,包括:
对所述点位自相关性特征进行分类识别,得到所述待补全空间模型对应的对象分类特征,基于所述对象分类特征以及所述点位自相关性特征,对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征。
8.根据权利要求7所述的方法,其特征在于,所述点位自相关性特征是将所述点云坐标特征输入至目标点云预测网络模型之后所得到的;所述目标点云预测网络模型包括解码网络层;所述解码网络层包括池化层、分类特征识别层以及缺失点云预测层;
所述对所述点位自相关性特征进行分类识别,得到所述待补全空间模型对应的对象分类特征,基于所述对象分类特征以及所述点位自相关性特征,对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征,包括:
将所述点位自相关性特征输入至所述池化层,由所述池化层对所述点位自相关性特征进行全局特征提取,得到第一全局特征;
将所述第一全局特征输入至所述分类特征识别层,由所述分类特征识别层对所述第一全局特征进行分类识别,得到所述待补全空间模型对应的对象分类特征;
基于所述对象分类特征以及所述第一全局特征,得到第二全局特征,将所述第二全局特征以及所述点位自相关性特征进行拼接处理,得到全局自相关性拼接特征;
将所述全局自相关性拼接特征输入至所述缺失点云预测层,由所述缺失点云预测层对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征。
9.根据权利要求8所述的方法,其特征在于,所述分类特征识别层包括第二特征提取子网络层以及第二全连接子网络层;
所述将所述第一全局特征输入至所述分类特征识别层,由所述分类特征识别层对所述第一全局特征进行分类识别,得到所述待补全空间模型对应的对象分类特征,包括:
将所述第一全局特征输入至所述第二特征提取子网络层,由所述第二特征提取子网络层对所述第一全局特征进行特征提取,得到所述第一全局特征对应的全局提取特征;
将所述全局提取特征输入至所述第二全连接子网络层,由所述第二全连接子网络层对所述全局提取特征进行线性变换,得到所述待补全空间模型对应的对象分类特征。
10.根据权利要求8所述的方法,其特征在于,所述缺失点云预测层包括第三特征提取子网络层以及第三全连接子网络层;
所述将所述全局自相关性拼接特征输入至所述缺失点云预测层,由所述缺失点云预测层对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征,包括:
将所述全局自相关性拼接特征输入至所述第三特征提取子网络层,由所述第三特征提取子网络层对所述全局自相关性拼接特征进行特征提取,得到所述全局自相关性拼接特征对应的拼接提取特征;
将所述拼接提取特征输入至所述第三全连接子网络层,由所述第三全连接子网络层对所述拼接提取特征进行线性变换,得到与所述待补全空间模型相关联的缺失点位特征。
11.根据权利要求1所述的方法,其特征在于,所述基于所述缺失点位特征对应的缺失点云数据,对所述待补全点云数据进行补全处理,得到所述待补全空间模型对应的完整空间模型,包括:
在所述待补全空间模型所在的空间坐标系中,将所述缺失点位特征转换为缺失点云数据;
将所述缺失点云数据与所述待补全点云数据进行拼接处理,得到完整点云数据;
基于所述完整点云数据,构建所述待补全空间模型对应的完整空间模型。
12.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取样本空间模型对应的样本完整点云数据,从所述样本完整点云数据中获取用于对初始点云预测网络模型进行训练的样本待补全点云数据,将所述样本完整点云数据作为所述样本待补全点云数据的样本标签;
确定所述样本待补全点云数据对应的点云坐标特征,将确定的点云坐标特征作为样本输入特征,将所述样本输入特征输入至所述初始点云预测网络模型,由所述初始点云预测网络模型对所述样本待补全点云数据中的缺失部位进行预测,得到样本输出特征;
基于所述样本输出特征确定所述样本待补全点云数据对应的预测缺失点云数据,将所述预测缺失点云数据与所述样本待补全点云数据进行拼接处理,将拼接处理后的点云数据作为预测完整点云数据;
基于所述样本标签、所述预测完整点云数据以及与所述初始点云预测网络模型相关联的模型损失函数,对所述初始点云预测网络模型进行迭代训练,得到用于对所述待补全空间模型中的缺失部位进行预测的目标点云预测网络模型。
13.一种点云数据处理装置,其特征在于,包括:
点云坐标特征获取模块,用于获取待补全空间模型对应的待补全点云数据,确定所述待补全点云数据对应的点云坐标特征;所述点云坐标特征是基于所述待补全点云数据中的每个坐标点的坐标特征和紧邻特征所确定的;
点位自相关性特征确定模块,用于获取与所述点云坐标特征相关联的自相关性权重矩阵,基于所述自相关性权重矩阵对所述点云坐标特征进行注意力编码,得到所述点云坐标特征对应的点位自相关性特征;所述自相关性权重矩阵用于强化所述点云坐标特征相互之间的关联关系;所述自相关性权重矩阵是基于点云向量化特征对应的查询向量和所述点云向量化特征对应的键向量所确定的;所述点云向量化特征是对所述点云坐标特征进行特征提取后所得到的;
缺失部位预测模块,用于基于所述点位自相关性特征,对所述待补全空间模型中的缺失部位进行预测,得到与所述待补全空间模型相关联的缺失点位特征;
补全处理模块,用于基于所述缺失点位特征对应的缺失点云数据,对所述待补全点云数据进行补全处理,得到所述待补全空间模型对应的完整空间模型。
14.一种计算机设备,其特征在于,包括:处理器和存储器;
所述处理器与存储器相连,其中,所述存储器用于存储计算机程序,所述处理器用于调用所述计算机程序,以使得所述计算机设备执行权利要求1-12任一项所述的方法。
15.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质中存储有计算机程序,所述计算机程序适于由处理器加载并执行,以使得具有所述处理器的计算机设备执行权利要求1-12任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110890342.5A CN113327279B (zh) | 2021-08-04 | 2021-08-04 | 一种点云数据处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110890342.5A CN113327279B (zh) | 2021-08-04 | 2021-08-04 | 一种点云数据处理方法、装置、计算机设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113327279A CN113327279A (zh) | 2021-08-31 |
CN113327279B true CN113327279B (zh) | 2021-09-28 |
Family
ID=77427023
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110890342.5A Active CN113327279B (zh) | 2021-08-04 | 2021-08-04 | 一种点云数据处理方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113327279B (zh) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114048845B (zh) * | 2022-01-14 | 2022-06-03 | 深圳大学 | 点云修复方法、装置、计算机设备和存储介质 |
CN114820465B (zh) * | 2022-04-06 | 2024-04-26 | 合众新能源汽车股份有限公司 | 点云检测模型训练方法、装置、电子设备及存储介质 |
CN115396645B (zh) * | 2022-08-18 | 2024-04-19 | 腾讯科技(深圳)有限公司 | 一种沉浸媒体的数据处理方法、装置、设备及存储介质 |
CN115857836B (zh) * | 2023-02-10 | 2023-05-26 | 中南大学湘雅医院 | 基于大数据的信息储存方法及装置 |
CN116168348B (zh) * | 2023-04-21 | 2024-01-30 | 成都睿瞳科技有限责任公司 | 基于图像处理的安全监控方法、系统及存储介质 |
CN116501972B (zh) * | 2023-05-06 | 2024-01-05 | 广州市巨应信息科技有限公司 | 基于大数据在线服务的内容推送方法及ai智能推送系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111462197A (zh) * | 2020-03-06 | 2020-07-28 | 深圳大学 | 外观模型获取方法、装置、计算机设备和存储介质 |
CN111475730A (zh) * | 2020-04-09 | 2020-07-31 | 腾讯科技(北京)有限公司 | 基于人工智能的信息推荐方法、装置、电子设备 |
CN112966696A (zh) * | 2021-02-05 | 2021-06-15 | 中国科学院深圳先进技术研究院 | 一种处理三维点云的方法、装置、设备以及存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105203044B (zh) * | 2015-05-27 | 2019-06-11 | 珠海真幻科技有限公司 | 以计算激光散斑为纹理的立体视觉三维测量方法及系统 |
-
2021
- 2021-08-04 CN CN202110890342.5A patent/CN113327279B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111462197A (zh) * | 2020-03-06 | 2020-07-28 | 深圳大学 | 外观模型获取方法、装置、计算机设备和存储介质 |
CN111475730A (zh) * | 2020-04-09 | 2020-07-31 | 腾讯科技(北京)有限公司 | 基于人工智能的信息推荐方法、装置、电子设备 |
CN112966696A (zh) * | 2021-02-05 | 2021-06-15 | 中国科学院深圳先进技术研究院 | 一种处理三维点云的方法、装置、设备以及存储介质 |
Non-Patent Citations (1)
Title |
---|
三维激光点云数据的处理及应用研究;孙钰科;《中国优秀硕士学位论文全文数据库 信息科技辑》;20180815(第8期);第A008-38页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113327279A (zh) | 2021-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113327279B (zh) | 一种点云数据处理方法、装置、计算机设备及存储介质 | |
CN111444340B (zh) | 文本分类方法、装置、设备及存储介质 | |
CN111554268B (zh) | 基于语言模型的语言识别方法、文本分类方法和装置 | |
CN112418292B (zh) | 一种图像质量评价的方法、装置、计算机设备及存储介质 | |
CN113919344B (zh) | 文本处理方法和装置 | |
CN112800234B (zh) | 信息处理方法、装置、电子设备和存储介质 | |
CN112182166A (zh) | 一种文本匹配方法、装置、电子设备及存储介质 | |
CN110796160A (zh) | 一种文本分类方法、装置和存储介质 | |
CN114897060B (zh) | 样本分类模型的训练方法和装置、样本分类方法和装置 | |
CN115422944A (zh) | 语义识别方法、装置、设备及存储介质 | |
CN114387567A (zh) | 一种视频数据的处理方法、装置、电子设备及存储介质 | |
CN114282059A (zh) | 视频检索的方法、装置、设备及存储介质 | |
CN111291695B (zh) | 人员违章行为识别模型训练方法、识别方法及计算机设备 | |
CN114241459B (zh) | 一种驾驶员身份验证方法、装置、计算机设备及存储介质 | |
CN114998583A (zh) | 图像处理方法、图像处理装置、设备及存储介质 | |
CN115424013A (zh) | 模型的训练方法、图像处理方法和设备、介质 | |
CN111597816A (zh) | 一种自注意力命名实体识别方法、装置、设备及存储介质 | |
CN114529785A (zh) | 模型的训练方法、视频生成方法和装置、设备、介质 | |
CN114140831A (zh) | 人体姿态估计方法、装置、电子设备及存储介质 | |
CN113239799A (zh) | 训练方法、识别方法、装置、电子设备和可读存储介质 | |
CN114333069B (zh) | 对象的姿态处理方法、装置、设备及存储介质 | |
CN115273110A (zh) | 基于TensorRT的文本识别模型部署方法、装置、设备及存储介质 | |
CN114625877A (zh) | 文本分类方法和装置、电子设备、存储介质 | |
CN114612826A (zh) | 视频和文本相似度确定方法、装置、电子设备、存储介质 | |
CN114627282A (zh) | 目标检测模型的建立方法、应用方法、设备、装置及介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40050584 Country of ref document: HK |