CN116310179A - 点云补全方法、装置、设备和介质 - Google Patents
点云补全方法、装置、设备和介质 Download PDFInfo
- Publication number
- CN116310179A CN116310179A CN202310300595.1A CN202310300595A CN116310179A CN 116310179 A CN116310179 A CN 116310179A CN 202310300595 A CN202310300595 A CN 202310300595A CN 116310179 A CN116310179 A CN 116310179A
- Authority
- CN
- China
- Prior art keywords
- point cloud
- vector
- matrix
- adopting
- processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 94
- 239000013598 vector Substances 0.000 claims abstract description 242
- 239000011159 matrix material Substances 0.000 claims abstract description 158
- 238000012545 processing Methods 0.000 claims abstract description 71
- 230000007246 mechanism Effects 0.000 claims abstract description 70
- 230000008569 process Effects 0.000 claims abstract description 39
- 238000004364 calculation method Methods 0.000 claims abstract description 25
- 238000000354 decomposition reaction Methods 0.000 claims abstract description 23
- 230000000295 complement effect Effects 0.000 claims abstract description 5
- 238000005070 sampling Methods 0.000 claims description 41
- 238000004422 calculation algorithm Methods 0.000 claims description 30
- 238000000605 extraction Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 17
- 238000000638 solvent extraction Methods 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 230000011218 segmentation Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000009471 action Effects 0.000 description 4
- 238000012549 training Methods 0.000 description 4
- 238000011176 pooling Methods 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 238000004148 unit process Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002567 autonomic effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013524 data verification Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 229940050561 matrix product Drugs 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/05—Geographic models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Remote Sensing (AREA)
- Image Processing (AREA)
Abstract
本公开实施例提供一种点云补全方法、装置、设备和介质。点云补全方法包括:对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量;采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理所述已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用所述低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;基于所述预测特征向量生成缺失点云,并将所述缺失点云和所述待补全点云组合为完整点云。在采用自注意力机制模块处理已知特征向量的过程中,低秩分解后的矩阵进行运算,可以实现资源开销的降低。
Description
技术领域
本公开涉及点云数据处理技术领域,具体涉及一种点云补全方法、装置、设备和介质。
背景技术
在自动驾驶领域,基于点云的道路对象检测已经得到的普及应用。车辆行驶过程中,因为各种原因,激光雷达可能被异物局部遮挡而造成采集到的点云仅是检测对象的局部点云。由于辅助驾驶系统无法通过局部点云确定检测对象的全貌,也就无法道路参与者的类型,进而无法制定合理的辅助驾驶策略。
为了解决前述问题,相关技术提出采用自注意力机制的点云补全算法,基于已有的局部点云特征预测缺失点云,进而利用已有局部点云和缺失点云拼接得到检测对象的完整点云。由于自注意力机制的点云补全算法中的注意力矩阵运算需要消耗大量运算紫云资源,在资源有限的自动驾驶系统中部署前述点云算法可能出现资源不足而降低运算速度的问题,使得计算结果无法满足实时性要求。
发明内容
为了解决上述技术问题,本公开实施例提供一种点云补全方法、装置、设备和介质。
第一方面,本公开实施例提供一种点云补全方法,包括:
对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量;
采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理所述已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用所述低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;
基于所述预测特征向量生成缺失点云,并将所述缺失点云和所述待补全点云组合为完整点云。
可选的,所述对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量,包括:
分割所述待补全点云,得到多组局部点云;
提取各组所述局部点云的位置特征和几何形状特征;
基于所述位置特征和所述几何形状特征构建所述已知特征向量。
可选的,所述分割所述待补全点云进行,得到多组局部点云,包括:
采用最远点采样算法处理所述待补全点云,得到多个采样点;
基于所述采样点对所述待补全点云进行分割,得到所述多组局部点云。
可选的,所述采样点为对应的局部点云的中心点;
所述提取各组所述局部点云的位置特征和几何形状特征,包括:
对所述采样点的位置坐标进行位置编码,得到所述位置特征;
采用动态图边卷积网络处理所述局部点,得到所述几何形状特征。
可选的,所述自注意力机制模型包括编码器和解码器,所述编码器包括第一矩阵生成模块、注意力机制模块和最近邻接算法模块;
所述采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,包括:
采用所述第一矩阵生成模块处理所述已知特征向量,得到第一查询矩阵、第一键矩阵和第一值矩阵;
采用所述注意力机制模块处理所述第一查询矩阵、所述第一键矩阵和所述第一值矩阵,得到第一中间向量,以及采用最近邻接算法模块处理所述第一值矩阵,得到第二中间向量;
拼接所述第一中间向量和所述第二中间向量得到第一拼接向量,并基于所述第一拼接向量得到编码向量;
采用所述解码器处理所述编码向量,得到所述预测特征向量。
可选的,所述自注意力机制模型还包括查询生成器;
在所述采用所述解码器处理所述编码向量,得到所述预测特征向量之前,所述方法还包括:
采用查询生成器处理所述编码向量,得到表征所述缺失点云初始状态的初始状态向量;
所述采用所述解码器处理所述编码向量,得到所述预测特征向量,包括:
采用解码器处理所述编码向量和所述初始状态向量,得到所述预测特征向量。
可选的,所述查询生成器包括中心预测模块和初始状态预测模块;
所述查询查询生成器处理所述编码向量,得到初始状态向量,包括:
采用所述中心预测模块处理所述编码向量得到中心坐标向量,所述中心坐标向量中元素表征所述预测点云中局部预测区域的中心点;
拼接所述编码向量和所述初始状态向量得到第二拼接向量;
采用所述初始状态预测模块处理所述第二拼接向量,得到所述初始状态向量。
可选的,所述基于所述预测特征向量生成缺失点云,包括:
采用折叠网络处理所述中心坐标向量和所述预测特征向量,得到所述中心坐标向量中各个中心点的临近点;
采用所述中心点和所述临近点生成局部缺失点云,并拼接所述局部缺失点云得到所述缺失点云。
第二方面,本公开实施例提供一种点云补全装置,包括:
点云特征提取单元,用于对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量;
模型处理单元,用于采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理所述已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用所述低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;
点云补全单元503,用于基于所述预测特征向量生成缺失点云,并将所述缺失点云和所述待补全点云组合为完整点云。
第三方面,本公开实施例提供一种计算设备,包括处理器和存储器,所述存储器用于存储计算机程序;所述计算机程序在被所述处理器加载时,使所述处理器执行如前所述的点云补全方法。
第四方面,本公开实施例提供一种计算机可读存储介质,所述存储介质存储有计算机程序,当计算机程序被处理器执行时,使得处理器实现如前所述的点云补全方法。
本公开实施例提供的技术方案与现有技术相比具有如下优点:
采用本公开实施例提供的点云补全方法,可以基于待补全点云生成已知特征向量,随后采用自注意力机制模型处理已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,并采用预测特征向量生成缺失点云,进而利用缺失点云实现点云的补全。在采用自注意力机制模块处理已知特征向量的过程中,将中间计算得到的查询矩阵和/或键矩阵进行了低秩分解,再利用低秩分解后的矩阵进行运算,实现资源开销的降低。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
为了更清楚地说明本公开实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图,其中:
图1是本公开实施例提供的点云补全方法流程图;
图2是本公开一些实施例对待补全点云进行切分而得到局部点云的方法流程图;
图3是本公开一些实施例中进行注意力运算的方法流程图;
图4是本公开一些实施例中的编码器结构示意图;
图5是本公开实施例提供的点云补全装置的结构示意图;
图6是本公开实施例提供的计算设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施例提供一种点云补全方法,在执行基于注意力机制的点云补全算法时通过对实时获取的注意力矩阵进行低秩分解,利用低秩分解得到的低秩矩阵进行注意力机制运算,进而降低计算过程中的缓存开销。
图1是本公开实施例提供的点云补全方法流程图。如图1所示,本公开实施例提供的点云补全方法包括S110-S130。
本公开实施例提供的点云补全方法由计算设备执行,计算设备可以是终端设备,也可以是与终端设备通信连接的服务器。前述的终端设备可以是安装在配置有激光雷达的车辆终端,也可以是安装在机器人系统的终端。
S110:对待补全点云进行特征提取,得到表征待补全点云空间分布特征的已知特征向量。
待补全点云是表征某一检测对象局部特征的点云。通过待补全点云,计算设备并不能直接确认检测对象的类型或者检测对象的空间位置。
在对待补全点云进行特征提取之前,计算设备需要获取到待补全点云的点云数据。计算设备可以通过各种方法获取到待补全点云的点云数据。在一些实施例中,在计算设备为车载终端设备的情况下,其可以通过对车载激光雷达实时采集的点云进行分割和特征识别,确定的待补全点云。在另外一些实施例中,在计算设备为服务器的情况下,计算设备可以接收终端设备发送的待补全点云。
在获取到局部点云的点云数据之后,随后计算设备对点云数据进行特征提取,得到已知特征向量。已知特征向量是用于表征待补全点云空间分布特征的向量,也就是表征识别对象已知表面空间特征的向量。前述的空间分布特征包括空间位置特征和几何形状特征。
具体实施中,计算设备可以采用各种方法对待补全点云进行特征提取,得到已知特征向量。在一些实施例中,计算设备可以采用如下的S111-S113确定已知特征向量.
S111:分割待补全点云,得到多组局部点云。
局部点云是用于表征识别对象已知表面空间特征中局部特征的点云。通过将待补全点云分割为多组局部点云,可以采用局部点云更好地表征识别对象的局部区域表面空间特征,进而利用前述局部表面空间特征融合得到待补全点云的空间分布特征。
计算设备可以采用各种方法对待补全点云进行分割。
在一些实施例中,计算设备可以根据预先确定的局部点云分组数量,确定各组局部点云的坐标点数量,按照前述坐标点数量将待补全点云分割为多个局部点云。具体实施例中。
在另外一些实施例中,计算设备可以识别待补全点云所在的三维空间大小,按照预先设定的局部点云分组数量和前述的三维空间大小确定单个分组的空间形状和尺寸,并按照前述空间形状和尺寸将待补全点云所在区域切分多个子区域。随后,计算设备将各个子区域内的点云分别作为一组局部点云。
可选的,计算设备可以按照待补全点云的空间分布特征对待补全点云进行分割,得到多个局部点云。
图2是本公开一些实施例对待补全点云进行切分而得到局部点云的方法流程图。如图2所示,在本公开的一些实施例中,计算设备可以采用如下的S210-S220得到多组局部点云。
S210:采用最远点采样算法处理待补全点云,得到多个采样点。
最远点采样算法(Farthest Point Sampling,FPS)是在所有离散点中确定尽可能远的多个采样点的采样算法。前述采样点的数量是确定的。通过采用最远点采样算法,可以在待补全点云中尽可能地全面地选点,使得采样点在待补全点云中距离均匀地分布。
S220:基于采样点对待补全点云进行分割,得到各个采样点对应的局部点云。
在确定多个个采样点之后,随后计算设备可以按照采样点的空间分布对待补全点云进行分割,得到多组局部点云。
在一些实施例中,计算设备可以以各个采样点为中心,以采样点之间距离的平均值为半径对待补全点云所在空间区域进行截取,确定各个采样点对应的子空间,并将此子空间内中的点云作为采样点对应的局部点云。采用此方法,某些位置的坐标点可能为多个局部点云中的坐标点。
在另外一些实施例中,计算设备可以根据采样点的临近关系,采用三角区域分割方法对待补全点云进行区域分割得到多个局部点云,并使得采样点尽可能地落在局部点云的中心区域。
在其他实施例中,计算设备还可以采用其他的的区域分割方法对待待补全点云进行分割,得到各个采样点对应的局部点云。
前述实施例中,计算设备首先确定了多个个采样点,在根据多个采样点对待补全点云进行分割,得到多组局部点云。在其他实施例中,计算设备也可以对待补全点进行局部形状分析,并根据局部形状分析结果确定多组局部点云。S112:提取各组局部点云的位置特征和几何形状特征。
局部点云的位置特征是表征局部点云在待补全点云中相对位置的特征。
在一些实施例中,在采用前述采样点作为局部点云的中点的情况下,可以采用局部点云的位置坐标确定局部点云的位置特征。
在一些实施例中,在基于前述采样点确定多组局部点云,并且采样点是对应局部点云的中心特征点的情况下,计算设备可以根据采样点的位置坐标确定对应局部点云的位置特征。
在另外一些实施例中,计算设备可以分别对各组局部点云进行筛选,确定各组局部点云中位置最具有代表性的坐标点,并采用前述坐标点确定局部点云的位置特征。
在其他实施例中,计算设备还可以求取局部点云内各个坐标点的坐标均值,并根据坐标均值确定局部点云的位置特征。
具体实施中,在获取到前述位置坐标或者坐标均值的情况下,计算设备可以对位置坐标或者坐标均值进行位置编码(Positional Embedding),确定局部点云的位置特征。
在另外一些实施例中,计算设备可以采用诸如多层神经网络处理前述位置坐标或者坐标均值,确定局部点云的位置特征。
局部点云的几何形状特征是局部点云形成的表面几何形状的特征。计算设备可以采用各种已知的点云形状特征提取方法获取局部点云的集合形状特征。
在一些实施例中,计算设备可以采用动态图边卷积网络(Dynamic GraphConvolutional Neural Network,DGCNN)处理每一组局部点云,得到对应的位置特征。动态图边缘卷积网络是在自注意力机制模型训练过程中同时训练得到的卷积神经网络。
S113:基于位置特征和几何形状特征构建已知特征向量。
在采用前述方法确定局部点云的位置特征和几何形状特征之后,计算设备可以基于位置特征和几何形状特征构建已知特征向量。
在一些实施例中,针对各组局部点云的位置特征和几何形状特征,计算设备可以将二者相加得到此局部点云的融合特征,并对融合特征进行拼接得到已知特征向量。
在另外一些实施例中,计算设备可以将各组局部点云的位置特征和几何形状特征进行拼接处理,得到已知特征向量。
S120:采用自注意力机制模型处理已知特征向量,得到表征缺失点云空间分布特征的预测特征向量。
本公开实施例中,自注意机制模型网络是采用自注意力机制算法的网络。前述的自注意力机制算法优选为多头注意力机制算法。具体实施中,自注意机制模型可以是诸如Transformer模型等已知模型,也可以是基于Transformer模型进行局部改进得到的模型。
应当注意的是,自注意力机制模型中的节点参数通过样本运算已经确定。
由于自注意机制算法在运算过程中会针对输入向量(此处可能为自注意力机制模型的输入向量,也可能为内部模块的输入向量)进行处理时,会基于输入向量进行矩阵运算,生成查询矩阵(Query矩阵)、键矩阵(Key矩阵)和值矩阵(Value矩阵),并采用前述矩阵进行计算注意力机制头。
图3是本公开一些实施例中进行注意力运算的方法流程图。如图3所示,本公开实施例中,为了减少在矩阵运算时的内存开销,也就是降低采用自注意力机制模型处理已知特征向量时的内存开销,计算设备采用如下的S310-S320进行注意力机制计算。
S310:将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵。
本公开实施例中,计算设备可以采用各种矩阵分解的方法将查询矩阵或者键矩阵进行低秩分解,得到对应的低秩矩阵。例如,计算设备可以通过采用诸如主成分分析分解、奇异值分解的方法对查询矩阵或者键矩阵进行分解,得到低秩矩阵。
具体实施中,对前述查询矩阵或者键矩阵进行低秩分解,可以得到在前矩阵、对角矩阵和在后矩阵。
S320:采用低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算。
经过前期大量的试验验证,将查询矩阵或者键矩阵进行低秩分解后得到的低秩矩阵可以共享,采用得到的低秩矩阵替代前述查询矩阵或者键矩阵进行数据运算并不会对注意力机制模型的计算结果产生较大影响。
由于前述低秩矩阵中在前矩阵和在后矩阵的矩阵维度相比于原有矩阵维度有了较大降低,并且对角矩阵的计算开销很小,所以采用低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算时,可以产生更少的中间运算结果,使得中间运算的缓存开销减小。具体的,在将相乘的查询矩阵和键矩阵均进行低秩分解再进行运算,可以将矩阵乘积运算的计算量由平方量级降低至线性量级。
在一个具体应用中,在对注意力机制模型中的所有查询矩阵和键矩阵进行低秩分解的情况下,在针对ShapeNet数据集进行数据验证运算时,在采用8块显卡的情况下,每块显卡上中运行的样本数为24的情况下,显存占有量从原来的9G减小到7G左右。
在采用自注意力机制模型处理已知特征向量之后,自注意力机制模型输出预测特征向量。预测特征向量是表征缺失点云空间分布特征的特征向量。
S130:基于预测特征向量生成缺失点云,并将缺失点云和待补全点云组合为完整点云。
因为预测特征向量是表征缺失点云空间分布特征的特征向量,所以基于预测特征向量可以生成缺失点云。具体实施中,可以采用折叠网络(FoldingNet)处理预测特征向量,生成缺失点云。
在得到缺失点云之后,随后计算设备可以将缺失点云和在前已有的待补全进行拼接,得到完整点云。完整点云是表征检测对象至少一个方向上空间分布特征的点云。
采用本公开实施例提供的点云补全方法,可以基于待补全点云生成已知特征向量,随后采用自注意力机制模型处理已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,并采用预测特征向量生成缺失点云,进而利用缺失点云实现点云的补全。在采用自注意力机制模块处理已知特征向量的过程中,将中间计算得到的查询矩阵和/或键矩阵进行了低秩分解,再利用低秩分解后的矩阵进行运算,实现资源开销的降低。也就是说,采用本公开实施例提供的方法可以降低资源开销,提高运算速度。
在诸如自动驾驶场景下部署本公开实施例提供的点云补全方法,可以减小因为已有资源不足造成的计算耗时,尽可能满足对结果输出的实时性要求。
如前描述,在具体实施中,计算设备采用的自注意力机制模型可以是Transformer模型。在此情况下,注意力机制模型包括编码器和解码器。其中编码器用于处理输入向量(也就是前述的已知特征向量)得到编码向量,解码器用于处理编码向量得到预测特征向量,并且前述的编码器和解码器均是具有注意力机制的模块。
在一些实施例中,编码器架构可以采用已有Transformer模型编码器架构。在另外一些实施例中,编码器可以是对已有Transformer模型架构进行改进得到。
图4是本公开一些实施例中的编码器结构示意图。如图4所示,一些实施例中编码器包括第一矩阵生成模块、注意力机制模块和最近邻接算法模块和后处理模块。在此情况下,计算设备采用S410-S440得到编码向量。
S410:采用第一矩阵生成模块处理已知特征向量,得到第一查询矩阵、第一键矩阵和第一值矩阵。
具体的,计算设备在获取到已知特征向量I后,采用预先训练得到的Wq、WK和WV矩阵分别与已知向量I进行矩阵运算,得到第一查询矩阵Q1、第一键矩阵K1和第一值矩阵V1。
应当注意的是,在编码器中采用多头注意力机制算法模块的情况下,第一矩阵生成模块分别采用多个预先训练得到的Wq计算得到多个第一查询矩阵Q1,利用多个预先训练的WK计算多个第一键矩阵K1,以及利用多个预先训练得到的WV计算多个第一值矩阵V1。
如前描述,在一些实施例执行过程中,为了减少资源开销,在获取到第一查询矩阵Q1和第一键矩阵K1后,计算设备可以对第一查询矩阵Q1和第一键矩阵K1进行低秩分解,得到对应的低秩矩阵,再采用低秩矩阵替换第一查询矩阵Q1和第一键矩阵K1执行后续的运算。
S420:采用注意力机制模块处理第一查询矩阵、第一键矩阵和第一值矩阵,得到第一中间向量,以及采用最近邻接算法模块处理第一值矩阵,得到第二中间向量。
注意力机制模块处理第一查询矩阵、第一键矩阵和第一值矩阵的方法如前文实施例中的仅是相应的参数发生变化。应当注意的是,在前述计算过程中,如果注意力机制模块为多头注意力机制模块,需要将多个计算得到的headi进行拼接得到第一中间向量。
本公开实施例中,计算设备采用最近邻接(KNN)算法模块处理第一值矩阵,得到第二中间向量,是采用预先训练的参数pk和pQ对第一值矩阵进行处理后,再采用最近临近算法模块处理第一值矩阵,得到第二中间向量。具体实施中,最近邻接算法模块中除了具有最近邻接算法层之外,还包括在最近邻接算法层之后的线性层和最大池化层,通过线性层和最大池化层对最近邻接算法层输出结果进行处理,得到第二中间向量。
S430:拼接第一中间向量和第二中间向量得到第一拼接向量,并基于第一拼接向量得到编码向量。
本公开实施例中,计算设备在确定第一中间向量和第二中间向量之后,会将第一中间向量和第二中间向量进行拼接,以得到拼接向量,并采用后处理模块处理拼接向量,得到编码向量。具体实施中,后处理模块可以包括线性层和残差连接层,拼接向量通过线性层和残差连接层处理后得到编码向量。
在计算设备中的编码器执行前述S410-S430的情况之后,计算设备再执行S440。
S440:采用解码器处理编码向量,得到预测特征向量。
在一些实施例中,计算设备中采用的解码器可以采用已有Transformer模型解码器架构。
在本公开的一些实施例中,自主力机制模型除了包括前述的编码器和解码器之外,还可以包括查询生成器。在执行前述的S440之前,计算设备还会执行如下的S450。
S450:采用查询生成器处理编码向量,得到表征缺失点云初始状态的初始状态向量。
本公开实施例中,查询生成器中的参数在自主力机制模型训练过程中得到。在一些实施例中,查询生成器包括中心预测模块和初始状态预测模块。查询生成器处理编码向量,得到初始状态向量具体包括S451-S452。
S451:采用中心预测模块处理编码向量得到中心坐标向量。
具体实施中,计算设备可以采用最大池化层处理编码向量处理,在采用线性层层处理得到中心坐标向量。中心坐标向量中元素表征预测点云中局部预测区域的中心点。
S452:拼接编码向量和初始状态向量得到第二拼接向量;
S453:采用初始状态预测模块处理第二拼接向量,得到初始状态向量。
在具体实施例中,计算设备采用的初始状态预测模块可以是多层感知机,以利用多层感知机处理第二拼接向量,得到初始状态向量。
在生成前述的初始状态向量的情况下,本公开实施例,计算设备在执行S440时,具体为:采用解码器处理编码向量和初始状态向量,得到预测特征向量。
具体实施中,解码器可以包括两层注意力机制运算层,其中第一层注意机制运算层的输出结果被用于计算第二层注意力计算层中的Query矩阵。在此情况下,计算设备可以将初始状态向量输入到第一层注意力机制计算层中,将编码向量输入到第二注意力机制计算层中,得到预测特征向量。
在本公开一些实施例中,在采用前述实施例提供的方法确定的预测特征向量仅是代表局部区域点云的形状特征。在此情况下,还需要结合局部区域点云的位置特征得到缺失点云。对应的,在一些实施例中,计算设备在执行前述的S130基于预测特征向量生成缺失点云包括S131-S132。
S131:采用折叠网络处理中心坐标向量和预测特征向量,得到中心坐标向量中各个中心点的临近点。
折叠网络(FoldingNet)可以基于预测特征向量中进行对应区域点的形状特征重建,确定中心坐标向量中各个中线点的临近点。具体实施中,折叠网络可以以中心坐标向量中个点的中心坐标为中心,基于预测特征向量中的元素进行偏置坐标重建,确定各个中心点的临近点。
S132:采用中心点和临近点生成局部缺失点云,并拼接局部缺失点云得到缺失点云。
在确定中心点和临近点之后,可以对各个局部区域进行点云重建生成局部区域点云。随后,将局部缺失点云进行平滑连接之后,可以得到缺失点云。
除了提供前述的点云补全方法之外,本公开实施例还提供一种点云补全装置500。图5是本公开实施例提供的点云补全装置500的结构示意图。如图5所示,本公开实施例提供的点云补全装置500包括点云特征提取单元501、模型处理单元502和点云补全单元503。
点云特征提取单元501用于对待补全点云进行特征提取,得到表征待补全点云空间分布特征的已知特征向量。
模型处理单元502用于采用自注意力机制模型处理已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;
点云补全单元503用于基于预测特征向量生成缺失点云,并将缺失点云和待补全点云组合为完整点云。在一些实施例中,点云特征提取单元包括点云分割子单元、特征提取子单元和向量构建子单元。点云分割子单元用于分割待补全点云,得到多组局部点云;特征提取子单元用于提取各组局部点云的位置特征和几何形状特征;向量构建子单元用于基于位置特征和几何形状特征构建已知特征向量。
在一些实施例中,点云分割子单元采用最远点采样算法处理待补全点云,得到多个采样点,并基于采样点对待补全点云进行分割,得到多组局部点云。
在一些实施例中,采样点为对应的局部点云的中心点。对应的特征提取子单元对采样点的位置坐标进行位置编码,得到位置特征;采用动态图边卷积网络处理局部点,得到几何形状特征。
在本公开一些实施例中,自注意力机制模型包括编码器和解码器,编码器包括第一矩阵生成模块、注意力机制模块和最近邻接算法模块。对应的,点云特征提取单元采用第一矩阵生成模块处理已知特征向量,得到第一查询矩阵、第一键矩阵和第一值矩阵;采用注意力机制模块处理第一查询矩阵、第一键矩阵和第一值矩阵,得到第一中间向量,以及采用最近邻接算法模块处理第一值矩阵,得到第二中间向量;拼接第一中间向量和第二中间向量得到第一拼接向量,并基于第一拼接向量得到编码向量;采用解码器处理编码向量,得到预测特征向量。
在一些实施例中,自注意力机制模型还包括查询生成器。自注意计时模型还包括查询生成器。在点云特征提取单元采用解码器处理编码向量,得到预测特征向量,还会采用查询生成器处理编码向量,得到表征缺失点云初始状态的初始状态向量。对应的,点云特征提取单元采用解码器处理编码向量和初始状态向量,得到预测特征向量。
在一些实施例中,查询生成器包括中心预测模块和初始状态预测模块;点云特征提取单元采用中心预测模块处理编码向量得到中心坐标向量,中心坐标向量中元素表征预测点云中局部预测区域的中心点;拼接编码向量和初始状态向量得到第二拼接向量,并采用初始状态预测模块处理第二拼接向量,得到初始状态向量。
在一些实施例中,点云补全单元503采用折叠网络处理中心坐标向量和预测特征向量,得到中心坐标向量中各个中心点的临近点,采用中心点和临近点生成局部缺失点云,并拼接局部缺失点云得到缺失点云。本公开实施例还提供一种计算设备,该计算设备包括处理器和存储器,其中,存储器中存储有计算机程序,当计算机程序被处理器执行时可以实现上述任一实施例的点云补全方法点云补全方法。
图6是本公开实施例提供的计算设备的结构示意图。下面具体参考图6,其示出了适于用来实现本公开实施例中的计算设备600的结构示意图。图6示出的计算设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图6所示,计算设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器ROM602中的程序或者从存储装置608加载到随机访问存储器RAM603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有计算设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出I/O接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、摄像头、麦克风、加速度计、陀螺仪等的输入装置605;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许计算设备600与其他设备进行无线或有线通信以交换数据。虽然图6示出了具有各种装置的计算设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述计算设备中所包含的;也可以是单独存在,而未装配入该计算设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该计算设备执行时,使得该计算设备:对待补全点云进行特征提取,得到表征待补全点云空间分布特征的已知特征向量;采用自注意力机制模型处理已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;基于预测特征向量生成缺失点云,并将缺失点云和待补全点云组合为完整点云。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的根据硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,单元的名称在某种情况下并不构成对该单元本身的限定。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括根据一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
本公开实施例还提供一种计算机可读存储介质,存储介质中存储有计算机程序,当计算机程序被处理器执行时可以实现上述任一方法实施例的方法,其执行方式和有益效果类似,在这里不再赘述。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上仅是本公开的具体实施方式,使本领域技术人员能够理解或实现本公开。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本公开的精神或范围的情况下,在其它实施例中实现。因此,本公开将不会被限制于本文的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (11)
1.一种点云补全方法,其特征在于,包括:
对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量;
采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理所述已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用所述低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;
基于所述预测特征向量生成缺失点云,并将所述缺失点云和所述待补全点云组合为完整点云。
2.根据权利要求1所述的方法,其特征在于,所述对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量,包括:
分割所述待补全点云,得到多组局部点云;
提取各组所述局部点云的位置特征和几何形状特征;
基于所述位置特征和所述几何形状特征构建所述已知特征向量。
3.根据权利要求2所述的方法,其特征在于,所述分割所述待补全点云进行,得到多组局部点云,包括:
采用最远点采样算法处理所述待补全点云,得到多个采样点;
基于所述采样点对所述待补全点云进行分割,得到所述多组局部点云。
4.根据权利要求3所述的方法,其特征在于,所述采样点为对应的局部点云的中心点;
所述提取各组所述局部点云的位置特征和几何形状特征,包括:
对所述采样点的位置坐标进行位置编码,得到所述位置特征;
采用动态图边卷积网络处理所述局部点,得到所述几何形状特征。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述自注意力机制模型包括编码器和解码器,所述编码器包括第一矩阵生成模块、注意力机制模块和最近邻接算法模块;
所述采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,包括:
采用所述第一矩阵生成模块处理所述已知特征向量,得到第一查询矩阵、第一键矩阵和第一值矩阵;
采用所述注意力机制模块处理所述第一查询矩阵、所述第一键矩阵和所述第一值矩阵,得到第一中间向量,以及采用最近邻接算法模块处理所述第一值矩阵,得到第二中间向量;
拼接所述第一中间向量和所述第二中间向量得到第一拼接向量,并基于所述第一拼接向量得到编码向量;
采用所述解码器处理所述编码向量,得到所述预测特征向量。
6.根据权利要求5所述的方法,其特征在于,所述自注意力机制模型还包括查询生成器;
在所述采用所述解码器处理所述编码向量,得到所述预测特征向量之前,所述方法还包括:
采用查询生成器处理所述编码向量,得到表征所述缺失点云初始状态的初始状态向量;
所述采用所述解码器处理所述编码向量,得到所述预测特征向量,包括:
采用解码器处理所述编码向量和所述初始状态向量,得到所述预测特征向量。
7.根据权利要求6所述的方法,其特征在于,所述查询生成器包括中心预测模块和初始状态预测模块;
所述查询查询生成器处理所述编码向量,得到初始状态向量,包括:
采用所述中心预测模块处理所述编码向量得到中心坐标向量,所述中心坐标向量中元素表征所述预测点云中局部预测区域的中心点;
拼接所述编码向量和所述初始状态向量得到第二拼接向量;
采用所述初始状态预测模块处理所述第二拼接向量,得到所述初始状态向量。
8.根据权利要求7所述的方法,其特征在于,所述基于所述预测特征向量生成缺失点云,包括:
采用折叠网络处理所述中心坐标向量和所述预测特征向量,得到所述中心坐标向量中各个中心点的临近点;
采用所述中心点和所述临近点生成局部缺失点云,并拼接所述局部缺失点云得到所述缺失点云。
9.一种点云补全装置,其特征在于,包括:
点云特征提取单元,用于对所述待补全点云进行特征提取,得到表征所述待补全点云空间分布特征的已知特征向量;
模型处理单元,用于采用自注意力机制模型处理所述已知特征向量,得到表征缺失点云空间分布特征的预测特征向量,其中在采用自注意力机制模型处理所述已知特征向量的过程中,将中间计算得到的至少一个查询矩阵和/或键矩阵进行低秩分解为低秩矩阵,并采用所述低秩矩阵替代对应的查询矩阵或者键矩阵进行注意力运算;
点云补全单元,用于基于所述预测特征向量生成缺失点云,并将所述缺失点云和所述待补全点云组合为完整点云。
10.一种计算设备,其特征在于,包括处理器和存储器,所述存储器用于存储计算机程序;
所述计算机程序在被所述处理器加载时,使所述处理器执行如权利要求1-8任一项所述的点云补全方法。
11.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,当计算机程序被处理器执行时,使得处理器实现如权利要求1-8任一项所述的点云补全方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310300595.1A CN116310179A (zh) | 2023-03-24 | 2023-03-24 | 点云补全方法、装置、设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310300595.1A CN116310179A (zh) | 2023-03-24 | 2023-03-24 | 点云补全方法、装置、设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116310179A true CN116310179A (zh) | 2023-06-23 |
Family
ID=86834074
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310300595.1A Pending CN116310179A (zh) | 2023-03-24 | 2023-03-24 | 点云补全方法、装置、设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116310179A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116843807A (zh) * | 2023-06-30 | 2023-10-03 | 北京百度网讯科技有限公司 | 虚拟形象生成、模型的训练方法、装置及电子设备 |
-
2023
- 2023-03-24 CN CN202310300595.1A patent/CN116310179A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116843807A (zh) * | 2023-06-30 | 2023-10-03 | 北京百度网讯科技有限公司 | 虚拟形象生成、模型的训练方法、装置及电子设备 |
CN116843807B (zh) * | 2023-06-30 | 2024-09-03 | 北京百度网讯科技有限公司 | 虚拟形象生成、模型的训练方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11037305B2 (en) | Method and apparatus for processing point cloud data | |
CN110321958B (zh) | 神经网络模型的训练方法、视频相似度确定方法 | |
JP2022518322A (ja) | ソフトクロスエントロピー損失を用いたセマンティックセグメンテーション | |
Lu et al. | Edge compression: An integrated framework for compressive imaging processing on cavs | |
CN113468978B (zh) | 基于深度学习的细粒度车身颜色分类方法、装置和设备 | |
CN113901909B (zh) | 基于视频的目标检测方法、装置、电子设备和存储介质 | |
US11967150B2 (en) | Parallel video processing systems | |
CN114758337A (zh) | 一种语义实例重建方法、装置、设备及介质 | |
CN115761702B (zh) | 车辆轨迹生成方法、装置、电子设备和计算机可读介质 | |
WO2024060558A1 (zh) | 可行域预测方法、装置、系统和存储介质 | |
CN116310179A (zh) | 点云补全方法、装置、设备和介质 | |
EP4174789A1 (en) | Method and apparatus of processing image, and storage medium | |
CN116164770B (zh) | 路径规划方法、装置、电子设备和计算机可读介质 | |
CN116258859A (zh) | 语义分割方法、装置、电子设备及存储介质 | |
JP2023131117A (ja) | 結合感知モデルのトレーニング、結合感知方法、装置、機器および媒体 | |
CN116188931A (zh) | 一种基于融合特征进行点云目标检测的处理方法和装置 | |
CN110555861A (zh) | 光流计算方法、装置及电子设备 | |
CN108881899A (zh) | 基于光流场金字塔的图像预测方法和装置及电子设备 | |
CN110796003B (zh) | 车道线检测方法、装置及电子设备 | |
CN114820755B (zh) | 一种深度图估计方法及系统 | |
EP3582149A1 (en) | Information processing device and information processing method | |
JP7556142B2 (ja) | 点群からの効率的な三次元物体検出 | |
CN115923847B (zh) | 自动驾驶车辆的感知信息的预处理方法、装置及车辆 | |
CN114332800B (zh) | 一种用于自动驾驶的街道场景解析语义分割方法 | |
WO2023206532A1 (zh) | 预测方法、装置、电子设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |