CN111738293A - 点云数据的处理方法、装置、电子设备及可读存储介质 - Google Patents
点云数据的处理方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN111738293A CN111738293A CN202010420765.6A CN202010420765A CN111738293A CN 111738293 A CN111738293 A CN 111738293A CN 202010420765 A CN202010420765 A CN 202010420765A CN 111738293 A CN111738293 A CN 111738293A
- Authority
- CN
- China
- Prior art keywords
- point
- key
- points
- cloud data
- key point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 10
- 239000013598 vector Substances 0.000 claims abstract description 216
- 238000000034 method Methods 0.000 claims description 52
- 238000012545 processing Methods 0.000 claims description 36
- 238000006243 chemical reaction Methods 0.000 claims description 28
- 230000015654 memory Effects 0.000 claims description 20
- 230000000007 visual effect Effects 0.000 claims description 8
- 239000000126 substance Substances 0.000 claims description 2
- 238000013528 artificial neural network Methods 0.000 description 23
- 230000006870 function Effects 0.000 description 23
- 238000000605 extraction Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 6
- 238000011176 pooling Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000002349 favourable effect Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/757—Matching configurations of points or features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/344—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Mathematical Physics (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Geometry (AREA)
- Computer Graphics (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种点云数据的处理方法、装置、电子设备及可读存储介质,可用于自动驾驶。本申请实施例通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
Description
技术领域
涉及计算机技术,具体涉及计算机视觉技术,尤其涉及一种点云数据的处理方法、装置、电子设备及可读存储介质,可用于自动驾驶。
背景技术
点云数据是通过测量仪器得到的物体外观表面的点数据集合,是对真实世界的一种数字化表现形式。点云数据在建筑物保护、三维地图、生物医学等领域具有很强的应用价值。点云配准,是三维视觉领域的一项基础技术,其目标是将不同视角采集的点云数据通过计算其相对位姿的方式统一到指定坐标系之下。
由于点云配准技术是点云数据在应用过程中的一个基础环节(即点云配准)所采用的重要技术,因此,点云配准技术的效率对于点云数据的应用至关重要。
发明内容
本申请的多个方面提供一种点云数据的处理方法、装置、电子设备及可读存储介质,用以提高点云配准技术的效率。
本申请的一方面,提供一种点云数据的处理方法,包括:
获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量;
根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量;
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量之前,还包括:
根据所述第一点云数据,利用预先构造的特征模型,获得所述各第一关键点的各第一临近点的第二特征向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量之前,还包括:
根据所述第二点云数据,利用预先构造的特征模型,获得所述各候选关键点的第五特征向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,包括:
基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,还包括:
根据所述各第二关键点的搜索空间,确定重复的搜索空间;
将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,包括:
将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;
将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;
根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
本申请的另一方面,提供一种点云数据的处理装置,包括:
关键点确定单元,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
关键点转换单元,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
关键点特征单元,用于根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量;
候选关键点特征单元,用于根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量;
匹配点确定单元,用于根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述关键点特征单元,还用于
根据所述第一点云数据,利用预先构造的特征模型,获得所述各第一关键点的各第一临近点的第二特征向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述候选关键点特征单元,还用于
根据所述第二点云数据,利用预先构造的特征模型,获得所述各候选关键点的第五特征向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述候选关键点特征单元,具体用于
基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;以及
将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述候选关键点特征单元,具体用于
根据所述各第二关键点的搜索空间,确定重复的搜索空间;以及
将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述候选关键点特征单元,具体用于
将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;以及
将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述匹配点确定单元,具体用于
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及
根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
本申请的另一方面,提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。
本申请的另一方面,提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。
由上述技术方案可知,本申请实施例通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据第一点云数据中各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的第二点云数据中各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
另外,采用本申请所提供的技术方案,通过采用基于第二点云数据所确定的相同网格体素,进行搜索空间的确定,使得能够利用这些相同的网格体素,简化候选关键点的数量,从而简化后续的计算。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
上述方面或可能的实现方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。附图仅仅用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请一实施例提供的点云数据的处理方法的流程示意图;
图2为本申请另一实施例提供的点云数据的处理装置的结构示意图;
图3是用来实现本申请实施例提供的点云数据的处理方法的电子设备的示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer,PC)、MP3播放器、MP4播放器、可穿戴设备(例如,智能眼镜、智能手表、智能手环等)等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本申请一实施例提供的点云数据的处理方法的流程示意图,如图1所示。
101、获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点。
102、根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点。
其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据。
103、根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量。
104、根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量。
105、根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
需要说明的是,101~105的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
这样,通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据第一点云数据中各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的第二点云数据中各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
在申请中,第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据。在一些具体的场景中,第一点云数据可以称为源点云数据,第二点云数据可以称为目标点云数据。第一点云数据和第二点云数据可以为位姿固定的点云采集装置采集得到的。点云数据的处理方法运行于其上的电子设备可以从本地或其它电子设备处获取第一点云数据中各点的第一特征向量。上述第一特征向量可以是执行主体自身或者其它电子设备通过各种特征提取算法对第一点云数据提取得到的。
例如,具体可以将第一点云数据输入预先训练的特征提取模型,得到点的特征向量。
本实现方式中,上述特征提取模型用于表征点云数据中点和特征向量的对应关系。具体可以将第一点云数据输入该特征提取模型中,得到点云数据中各点的特征向量,此处可以称为语义特征向量,基于该语义特征向量所选取的第一关键点能自动避开移动目标并高优选取形态利于匹配的点例如墙角,树干等。上述特征提取模型可以是人工神经网络,它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。通常由大量的节点(或称神经元)之间相互联接构成,每个节点代表一种特定的输出函数,称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重(又叫做参数),网络的输出则以网络的连接方式、权重值和激励函数的不同而不同。人工神经网络通常包括多个层,每个层包括多个节点,通常,同一层的节点的权重可以相同,不同层的节点的权重可以不同,故人工神经网络的多个层的参数也可以不同。这里,可以将第一点云数据从人工神经网络的输入侧输入,依次经过人工神经网络中的各层的参数的处理(例如乘积、卷积等),并从人工神经网络的输出侧输出,输出侧输出的信息即为各点的第一特征向量。
在一些具体的应用场景中,上述特征提取模型可以为PointNet++。PointNet++是PointNet的改进版本。Pointnet的基本思想是对输入点云数据中的每一个点学习其对应的特征向量,之后再利用所有点的特征向量得到一个全局的点云特征。这里欠缺了对局部特征的提取及处理,没有考虑到点云数据的局部稀疏性。Pointnet++就上述问题提出了改进,解决了两个问题:如何对点云进行局部划分,如何对点云进行局部特征提取。Pointnet++是作者Charles R.Qi和Hao Su提出的一种网络结构。Pointnet++的结构在三维点云数据方面处于顶尖水准的水平,解决了如何处理采样不均匀的问题,也考虑了空间中点与点之间的距离度量,通过层级结构利用局部区域信息学习特征,网络结构更有效更鲁棒。
在得到第一点云数据中各点的第一特征向量之后,则可以根据第一点云数据中各点的第一特征向量,来确定第一点云数据的至少一个第一关键点。
本实施例中,第一关键点可以是具有某些特定特征的点,这些特定特征可以更方便实现点云配准。例如,第一关键点为静态对象的特征点。
例如,在得到第一点云数据中各点的第一特征向量之后,则可以对第一特征向量进行降维处理,以确定第一点云数据中点的权重,进而,则可以根据第一点云数据中点的权重,确定第一点云数据的第一关键点。
本实施例中,具体可以通过多种方式对第一特征向量进行降维处理。例如,将第一特征向量通过多层感知器(MLP)、对第一特征向量进行下采样,或者将第一特征向量输入卷积核数量较少的卷积层中。在对第一特征向量进行降维处理后,则可以根据降维处理之后的第一特征向量来确定各点的权重。并根据各点的权重,确定其中的第一关键点。
具体地,可以通过以下步骤来确定第一点云数据中各点的权重:将第一特征向量输入预先建立的关键点确定模型中,得到第一点云数据的一维特征向量;将一维特征向量中的值作为第一点云数据中点的权重。其中,关键点确定模型可以包括但不限于多层感知器(MLP),本实施例对此不进行特别限定。
具体地,可以通过以下步骤来确定第一关键点:将权重按照由大到小的顺序进行排序;确定排序中前预设数量个权重对应的点为第一点云数据的第一关键点。
在本实现方式中,由于第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据,则可以根据第一点云数据所在坐标系与第二点云数据所在坐标系之间的转换参数(R,T),来将第一点云数据和第二点云数据统一到同一坐标系中。其中,R为两个坐标系的旋转矩阵,T为两个坐标系之间的平移向量。本实施例中,上述预设第一转换参数可以根据点云采集装置的位姿计算得到。可以将各第一关键点的坐标与第一转换参数相乘,得到各第一关键点所对应的第二点云数据中的各第二关键点。
可替换地,在其他一些场景中,第二点云数据也可以称为源点云数据,第一点云数据也可以称为目标点云数据,上述操作与前述场景中的类似。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,则可以根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,具体可以采用如下实现过程中的技术方案。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,具体可以根据所述至少一个第一关键点、至少一个第二关键点以及预先建立的匹配点生成模型,确定所述各第一关键点所配准的匹配点。
其中,上述匹配点生成模型用于表征至少一个第一关键点、至少一个第二关键点与匹配点之间的关系。进一步地,上述匹配点生成模型还可以进一步用于表征第一特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。
本实施例中,匹配点生成模型可以是一个列表,上述列表中包括第一特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。具体可以根据第一特征向量、至少一个第一关键点、至少一个第二关键点检索上述列表,将对应的匹配点输出。
上述匹配点生成模型还可以是神经网络,可以将第一特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到匹配点。
上述匹配点生成模型还可以是神经网络与列表的组合。上述神经网络可以用于提取所输入的数据的特征。具体地,可以将第一特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到特征数据。然后,检索包括特征数据与匹配点对应关系的列表,得到匹配点。
本实施例中,上述各匹配点为与各第一关键点所配准的点。其可能全部为第二点云数据中的点,也可能部分为第二点云数据中的点,也可能全部不为第二点云数据中的点,本实施例对此不进行特别限定。
在得到各匹配点之后,还可以进一步根据至少一个第一关键点以及与至少一个第一关键点所配准的至少一个匹配点,对第一点云数据和第二点云数据进行配准处理。
本实施例的方法,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在一个具体的实现过程中,在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,确定匹配点的一个实施例的流程可以包括以下步骤a~d:
步骤a、对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点。
具体地,可以首先确定第一点云数据中各点与该第一关键点之间的距离。然后,则可以将得到的距离按照由小到大的顺序进行排序,将上述排序中的前第一预设数量个点作为该第一关键点的第一临近点。
例如,将该第一关键点作为中心,根据预设的邻域距离,确定该第一关键点的邻域空间,进而,将邻域空间内的点作为该第一关键点的第一临近点。对于每个第一关键点,可以将该第一关键点作为中心,以预设的邻域距离为半径,确定该第一关键点的邻域空间。具体地,该邻域空间为球体。然后,则可以将该邻域空间内的点作为该第一关键点的第一临近点。
在确定该第一关键点的邻域空间之后,则可以进一步确定邻域空间内点的数量是否小于第一预设数量。响应于确定邻域空间内点的数量小于第一预设数量,则可以直接认为是空点,或者还可以复制邻域空间中的至少一个点,使得复制后邻域空间中点的数量等于第一预设数量。具体来说,在确定第一关键点的邻域空间之后,可以首先判断邻域空间内点的数量是否小于第一预设数量。如果小于,可以直接认为是空点,或者可以复制邻域空间内的至少一个点,使得复制后邻域空间中点的数量等于第一预设数量。可以理解的是,此处的复制可以一次完成,也可以分多次完成。需要复制的点的数量为第一预设数量与复制前邻域空间中点的数量之差。
步骤b、对于所述各第一关键点所对应的第二关键点,根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;可以根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点。
此时,由于点云采集装置存在的采集误差,或者根据点云采集装置的位置计算得到的转换参数存在误差,可能导致第二关键点不是第二点云数据中实际存在的点。为了确定更精确的匹配点,此处可以首先确定候选关键点,由各候选关键点确定匹配点。
在该步骤中,对于所述各第一关键点所对应的各第二关键点,可以首先根据预设的搜索半径以及预设的网格尺寸,确定该第二关键点的第二预设数量个候选关键点。具体的确定候选关键点的方式可以包括如下两种方式:
方式一:将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;以及将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
具体地,可以根据搜索半径,确定搜索空间。然后,在搜索空间内,以该第二关键点作为中心点,与该第二关键点距离为网格尺寸整数倍的点作为该第二关键点的候选关键点。
例如,将各第一关键点所对应的第二关键点作为搜索中心,根据搜索半径,确定各第二关键点的搜索空间,进而,可以在搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,可以将第二预设数量个网格体素中网格体素的中心点作为该第二关键点的候选关键点。对于每个第二关键点,可以将该第二关键点作为搜索中心,然后根据搜索半径,确定该第二关键点的搜索空间。该搜索空间为球体。然后,在该搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,将每个网格体素的中心点作为该第二关键点的候选关键点。
在该方式中,还可以进一步根据所述各第二关键点的搜索空间,确定重复的搜索空间,进而,基于重复的搜索空间,进行第二关键点的候选关键点的去重处理,可以将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
方式二:基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;以及将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
具体地,可以根据搜索半径,确定搜索空间。在搜索空间内,以该第二关键点距离最近的点作为中心点,与该中心点距离为网格尺寸整数倍的点作为该第二关键点的候选关键点。
例如,将各第一关键点所对应的第二关键点距离最近的点作为搜索中心,根据搜索半径,确定各第二关键点的搜索空间,进而,可以在搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,可以将第二预设数量个网格体素中网格体素的中心点作为该第二关键点的候选关键点。对于每个第二关键点,可以将该第二关键点作为搜索中心,然后根据搜索半径,确定该第二关键点的搜索空间。该搜索空间为球体。然后,在该搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,将每个网格体素的中心点作为该第二关键点的候选关键点。
在采用上述两种方式,获得各第二关键点的候选关键点之后,则可以根据第二点云数据,确定第二预设数量个候选关键点中候选关键点的第一预设数量个第二临近点。
本实施例中,确定第二临近点的方式可以与确定第一临近点的方式相同。对于每个第二关键点,可以将该第二关键点作为中心,以预设的邻域距离为半径,确定该第二关键点的邻域空间。具体的,该邻域空间为球体。然后,可以将该邻域空间内的点作为该第二关键点的第二临近点。
步骤c、根据所述各第一临近点,获得该第一临近点的第二特征向量;以及根据所述各第二临近点,获得该第二临近点的第三特征向量。
在确定各第一临近点、各第二临近点之后,具体可以根据所述各第一临近点,获得该第一临近点的第二特征向量;以及根据所述各第二临近点,获得该第二临近点的第三特征向量。
具体地,具体可以根据所述第一点云数据,利用预先构造的特征模型,获得所述第一点云数据的各点的特征向量,以及可以根据所述第二点云数据,利用预先构造的特征模型,获得所述第二点云数据的各点的特征向量。
例如,具体可以将所述第一点云数据输入预先训练的特征模型,得到点的特征向量。
本实现方式中,上述特征提取模型用于表征点云数据中点和特征向量的对应关系。具体可以将第一点云数据输入该特征模型中,得到点云数据中各点的特征向量。此处,通过特征模型进一步提取第一点云数据和第二点云数据的局部特征,得到了更详细的特征向量,此处可以称为匹配特征向量或几何特征向量,基于该匹配特征向量所选取的匹配点能选取具有深层次特征的利于可匹配的点。上述特征模型可以是人工神经网络。这里,可以将第一点云数据从人工神经网络的输入侧输入,依次经过人工神经网络中的各层的参数的处理(例如乘积、卷积等),并从人工神经网络的输出侧输出,输出侧输出的信息即为各点的特征向量。
通过特征提取子模型进一步提取第一点云数据和第二点云数据的局部特征,得到了更详细的特征向量,此处可以称为几何特征向量。这些特征向量可以更完整的表示第一点云
在一些具体的应用场景中,上述特征模型可以为PointNet,或者还可以为PointNet++。
类似地,可以采用同样的方法,获得所述第二点云数据中各点的特征向量。
在得到第一点云数据中各点的特征向量和第二点云数据中各点的特征向量之后,则可以对这些特征向量进行存储处理。这样,在确定各第一临近点、各第二临近点之后,则可以根据所述各第一临近点,获得该第一临近点所对应的该第一临近点的第二特征向量,以及根据所述各第二临近点,获得该第二临近点所对应的该第二临近点的第三特征向量。
步骤d、根据所述各第一关键点的各第一临近点的第二特征向量和所述各候选关键点的各第二临近点的第三特征向量,确定所述各第一关键点所配准的匹配点。
在获得各第一临近点的第二特征向量、各第二临近点的第三特征向量之后,具体可以根据第一临近点的第二特征向量、第二临近点的第三特征向量以及匹配点生成模型,确定至少一个匹配点。
具体地,匹配点生成模型可以包括但不限于特征提取子模型和匹配点生成子模型。特征提取子模型用于提取所输入的数据的特征,匹配点生成子模型用于根据所输入的数据,生成匹配点。
对于各第一关键点,具体可以将各第一关键点,以及该第一关键点的各第一临近点,划分到一个块(patch)中,对于每个块中的各点,可以将其转换到以第一关键点为中心的局部坐标系中。对于各第二关键点的各候选关键点,具体可以将各候选关键点,以及该候选关键点的各第二临近点,划分到一个块(patch)中,对于每个块中的各点,可以将其转换到以候选关键点为中心的局部坐标系中。
例如,对于至少一个第一关键点中的各第一关键点,根据该第一关键点的坐标以及该第一关键点的各第一临近点的坐标,确定各第一临近点相对于该第一关键点的相对坐标,即以该第一关键点作为坐标系原点,确定各第一临近点在该坐标系中的相对坐标。对于至少一个第二关键点中第二关键点的第二预设数量个第二候选关键点中的各候选关键点,根据该候选关键点的坐标以及该候选关键点的各第二临近点的坐标,确定各第二临近点相对于该候选关键点的相对坐标,即以该候选关键点作为坐标系原点,确定各第二临近点在该坐标系中的相对坐标。
进一步可选地,在确定各第一临近点的相对坐标和各第二临近点的相对坐标之后,还可以进一步对上述相对坐标进行归一化处理。
具体地,具体可以根据所述各第一关键点的各第一临近点的第二特征向量,获得该第一关键点的第四特征向量,以及根据所述各候选关键点的所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量,进而,则可以根据所述第四特征向量和所述第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度。然后,则可以根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
在获得各第一临近点的第二特征向量和各第二临近点的第三特征向量之后,可以将所得到的各第一临近点的相对坐标和激光反射强度、以及各第一临近点的第二特征向量,所得到的各第二临近点的相对坐标和激光反射强度、以及各第二临近点的第三特征向量输入特征提取子模型,得到各第一关键点的第四特征向量和各第二关键点的各候选关键点的第五特征向量。
在一些具体的应用场景中,上述特征提取子模型可以为上卷积神经网络(UpconvNet)。例如,UpconvNet由两个三层的MLP和一个最大池化(max-pooling)层组成。第一个三层的MLP用于学习每个临近点对中心点的特征向量插值的贡献权重;最大池化(max-pooling)层用于通过最大池化(max-pooling)操作,结合每个临近点对中心点的特征向量插值的贡献权重,融合所有临近点的特征向量;第二个三层的MLP用于调整(refine)每个临近点的特征向量,得到各patch的中心点即第一关键点的特征或候选关键点的特征向量。
在获得各第一关键点的第四特征向量和各候选关键点的第五特征向量之后,具体可以根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度,进而,则可以根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
具体地,在获得各第一关键点的第四特征向量和各候选关键点的第五特征向量之后,则可以将所得到的第四特征向量、第五特征向量以及候选关键点输入匹配点生成子模型,确定至少一个匹配点。
在得到第四特征向量和第五特征向量后,可以将其与候选关键点一起输入到匹配点生成子模型中,确定至少一个匹配点。
其中,上述匹配点生成子模型的工作原理为:对于至少一个第二关键点中的各第二关键点,可以根据该第二关键点所对应的第一关键点的第四特征向量和该第二关键点的各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度,然后,根据所得到的相似度和该第二关键点的第二预设数量个候选关键点,确定所述至少一个匹配点即各第一关键点所配准的匹配点。
具体地,可以计算各候选关键点的第五特征向量与对应的第一关键点的第四特征向量之间的距离例如,L2距离,根据所属距离确定相似度。然后,则可以根据所得到的相似度以及各候选关键点,确定至少一个匹配点。
本实施例中,由于点云数据的局部稀疏性,在第二点云数据中可能没有确切的、与第一点云数据对应的匹配点。本实施例采用匹配点生成子模型,从所提取的特征中生成与第一点云数据对应的匹配点,从而提高了匹配点的准确度。
上述匹配点生成子模型可以包括三维神经网络,例如三维卷积神经网络(3D CNN)等,三维神经网络可以对输入的特征数据(即第五特征向量与第四特征向量之间的距离,例如,L2距离)进行降维处理,最终得到一维向量。该一维向量经激活函数softmax后,可以得到概率值(即相似度)。各概率值与对应的候选关键点的位置进行加权,得到最终的匹配点。
本实施例中,由于点云数据的局部稀疏性,在第二点云数据中可能没有确切的、与第一点云数据对应的匹配点。本实施例采用匹配点生成子模型,从所提取的特征中生成与第一点云数据对应的匹配点,从而提高了匹配点的准确度。
这样,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,进而,可以再利用三维神经网络,生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在一个具体的实现过程中,具体可以根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数。进而,则可以根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点,以及根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点。然后,则可以根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
在确定匹配点之后,可以将各第一关键点作为一个点集,将各匹配点作为另一个点集。然后,确定两个点集之间的第二转换参数。具体地,可以利用多种方式来求解上述第二转换参数,例如,利用线性优化的求解和利用非线性优化方式求解。线性优化的算法包括奇异值分解(Singular Value Decomposition,SVD)。
在利用各种方法计算得到上述第二转换参数之后,具体可以计算至少一个第一关键点中各第一关键点对应的各第三关键点。具体地,可以将各第一关键点的坐标与第二转换参数相乘,得到的坐标即为各第三关键点的坐标。
本实现过程中,还可以进一步获取第一点云数据与第二点云数据之间的预设第三转换参数。上述第三转换参数与第一转换参数的不同之处在于,第一转换参数是由实际安装的点云采集装置的位姿计算得到的,存在误差。而第三转换参数是通过其它方式(例如仿真模拟等方式)得到的。也就是说,第三转换参数相当于真值,第一转换参数相当于测量值。具体地,可以将各第一关键点的坐标与第三转换参数相乘,得到的坐标即为各第四关键点的坐标。
本实现过程中,具体可以根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。例如,可以为各点集分配权重系数,然后根据各权重系数以及各点集之间的距离,确定所述点云配准技术的损失函数。
例如,具体可以根据至少一个匹配点和至少一个第四关键点,确定第一损失函数,以及根据至少一个第三关键点和至少一个第四关键点,确定第二损失函数,进而,则可以根据第一损失函数、第二损失函数以及预设的平衡因子,确定所述点云配准技术的损失函数。
本实现过程中,首先可以根据各匹配点和各第四关键点,确定第一损失函数Loss1。然后,根据各第三关键点和各第四关键点,确定第二损失函数Loss2。然后,结合平衡因子α,得到损失函数Loss=α·Loss1+(1-α)·Loss2。其中,0<α<1。
其中,可以使用点的距离(例如,在欧式空间的L2距离)作为第一损失函数,第一损失函数Loss1可以由下式表示:
式中,pi,gt为第i个第四关键点,pi,cor为第i个匹配点,i∈[1,nm]。
由上式可以看出,第一损失函数Loss1是对各对独立的第一关键点和匹配点进行配准,没有考虑到其它第一关键点和匹配点之间的联系。因此,其配准结果必然受到全局变换的约束。
第二损失函数Loss2可以由下式表示:
式中,pi,gt为第i个第四关键点,(rref,tref)为第二转换参数,pi为第i个第一关键点,rref*pi+tref为第i个第三关键点。
本申请的上述实施例所提供的用于处理点云数据的方法,可以针对所有的匹配点,确定一个统一的第二变换参数,从而能够优化第一点云数据和第二点云数据的配准效果。
本实施例中,通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据第一点云数据中各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的第二点云数据中各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
另外,采用本申请所提供的技术方案,通过采用基于第二点云数据所确定的相同网格体素,进行搜索空间的确定,使得能够利用这些相同的网格体素,简化候选关键点的数量,从而简化后续的计算。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2为本申请另一实施例提供的点云数据的处理装置的结构示意图,如图2所示。本实施例的点云数据的处理装置200可以包括关键点确定单元201、关键点转换单元202、关键点特征单元203、候选关键点特征单元204和匹配点确定单元205。其中,关键点确定单元201,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;关键点转换单元202,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;关键点特征单元203,用于根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量;候选关键点特征单元204,用于根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量;匹配点确定单元205,用于根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
需要说明的是,本实施例所提供的点云数据的处理装置的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
可选地,在本实施例的一个可能的实现方式中,所述关键点特征单元203,还可以进一步用于根据所述第一点云数据,利用预先构造的特征模型,获得所述各第一关键点的各第一临近点的第二特征向量。
可选地,在本实施例的一个可能的实现方式中,所述候选关键点特征单元204,还可以进一步用于根据所述第二点云数据,利用预先构造的特征模型,获得所述各候选关键点的第五特征向量。
可选地,在本实施例的一个可能的实现方式中,所述候选关键点特征单元204,具体可以用于基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;以及将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
在一个具体的实现过程中,所述候选关键点特征单元204,具体可以用于根据所述各第二关键点的搜索空间,确定重复的搜索空间;以及将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
可选地,在本实施例的一个可能的实现方式中,所述候选关键点特征单元204,具体可以用于将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;以及将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
可选地,在本实施例的一个可能的实现方式中,所述匹配点确定单元205,具体可以用于根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
需要说明的是,图1对应的实施例中的方法可以由本实施例提供的点云数据的处理装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得关键点特征单元能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及候选关键点特征单元能够基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据第一点云数据中各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的第二点云数据中各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
另外,采用本申请所提供的技术方案,通过采用基于第二点云数据所确定的相同网格体素,进行搜索空间的确定,使得能够利用这些相同的网格体素,简化候选关键点的数量,从而简化后续的计算。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
根据本申请的实施例,本申请还提供了一种电子设备和一种存储有计算机指令的非瞬时计算机可读存储介质。
如图3所示,是用来实现本申请实施例提供的点云数据的处理方法的电子设备的示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图3所示,该电子设备包括:一个或多个处理器301、存储器302,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图3中以一个处理器301为例。
存储器302即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的点云数据的处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的点云数据的处理方法。
存储器302作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及单元,如本申请实施例中的点云数据的处理方法对应的程序指令/单元(例如,附图2所示的关键点确定单元201、关键点转换单元202、关键点特征单元203、候选关键点特征单元204和匹配点确定单元205)。处理器301通过运行存储在存储器302中的非瞬时软件程序、指令以及单元,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的点云数据的处理方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据实现本申请实施例提供的点云数据的处理方法的电子设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至实现本申请实施例提供的点云数据的处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
点云数据的处理方法的电子设备还可以包括:输入装置303和输出装置304。处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图3中以通过总线连接为例。
输入装置303可接收输入的数字或字符信息,以及产生与实现本申请实施例提供的点云数据的处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置304可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用专用集成电路(ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,阴极射线管(CRT)或者液晶显示器(LCD)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过预先学习第一点云数据和第二点云数据中各点的特征向量,使得能够基于所学习的第一点云数据中各第一关键点的各第一临近点的第二特征向量,直接确定该第一关键点的特征向量,以及基于所学习的该第一关键点所对应的第二点云数据中各候选关键点的各第二临近点的第三特征向量,直接确定该候选关键点的特征向量,无需再根据第一点云数据中各第一关键点及其第一临近点,学习该第一关键点的特征向量,以及根据该第一关键点所对应的第二点云数据中各候选关键点及其第二临近点,学习该候选关键点的特征向量,能够有效降低所需要学习的点数量,从而提高了点云配准的效率。
另外,采用本申请所提供的技术方案,通过采用基于第二点云数据所确定的相同网格体素,进行搜索空间的确定,使得能够利用这些相同的网格体素,简化候选关键点的数量,从而简化后续的计算。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (16)
1.一种点云数据的处理方法,其特征在于,包括:
获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量;
根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量;
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
2.根据权利要求1所述的方法,其特征在于,所述根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量之前,还包括:
根据所述第一点云数据,利用预先构造的特征模型,获得所述各第一关键点的各第一临近点的第二特征向量。
3.根据权利要求1所述的方法,其特征在于,所述根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量之前,还包括:
根据所述第二点云数据,利用预先构造的特征模型,获得所述各候选关键点的第五特征向量。
4.根据权利要求1所述的方法,其特征在于,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,包括:
基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
5.根据权利要求4所述的方法,其特征在于,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,还包括:
根据所述各第二关键点的搜索空间,确定重复的搜索空间;
将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
6.根据权利要求1所述的方法,其特征在于,所述根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点,包括:
将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;
将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
7.根据权利要求1-6中任一项所述的方法,其特征在于,所述根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;
根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
8.一种点云数据的处理装置,其特征在于,包括:
关键点确定单元,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
关键点转换单元,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
关键点特征单元,用于根据所述第一点云数据,确定所述各第一关键点的第一预设数量个第一临近点,根据所述各第一关键点的各第一临近点的第二特征向量,获得所述各第一关键点的第四特征向量;
候选关键点特征单元,用于根据预设的搜索半径和预设的网格尺寸,确定所述各第一关键点所对应的各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述各候选关键点的所述第一预设数量个第二临近点,根据所述各候选关键点的各第二临近点的第三特征向量,获得所述各候选关键点的第五特征向量;
匹配点确定单元,用于根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,确定所述各第一关键点所配准的匹配点。
9.根据权利要求8所述的装置,其特征在于,所述关键点特征单元,还用于
根据所述第一点云数据,利用预先构造的特征模型,获得所述各第一关键点的各第一临近点的第二特征向量。
10.根据权利要求8所述的装置,其特征在于,所述候选关键点特征单元,还用于
根据所述第二点云数据,利用预先构造的特征模型,获得所述各候选关键点的第五特征向量。
11.根据权利要求8所述的装置,其特征在于,所述候选关键点特征单元,具体用于
基于根据所述网格尺寸所确定的所述第二点云数据中的网格体素,将所述各第二关键点距离最近的网格体素作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;以及
将所述各第二关键点的搜索空间内的所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
12.根据权利要求11所述的装置,其特征在于,所述候选关键点特征单元,具体用于
根据所述各第二关键点的搜索空间,确定重复的搜索空间;以及
将所述重复的搜索空间内的所述第二预设数量个网格体素的中心点,确定为两个或两个以上第二关键点的候选关键点。
13.根据权利要求8所述的装置,其特征在于,所述候选关键点特征单元,具体用于
将所述各第二关键点作为所述各第二关键点的搜索中心,根据所述搜索半径,确定所述各第二关键点的搜索空间;
在所述各第二关键点的搜索空间,根据所述网格尺寸,确定所述第二预设数量个网格体素;以及
将所述第二预设数量个网格体素的中心点,确定为所述各第一关键点所对应的各第二关键点的候选关键点。
14.根据权利要求8-13中任一项所述的装置,其特征在于,所述匹配点确定单元,具体用于
根据所述各第一关键点的第四特征向量和所述各候选关键点的第五特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及
根据所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度和所述各候选关键点,确定所述各第一关键点所配准的匹配点。
15.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010420765.6A CN111738293A (zh) | 2020-05-18 | 2020-05-18 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
EP21163480.3A EP3913535B1 (en) | 2020-05-18 | 2021-03-18 | Method, apparatus, electronic device and readable storage medium for point cloud data processing |
US17/206,999 US11830207B2 (en) | 2020-05-18 | 2021-03-19 | Method, apparatus, electronic device and readable storage medium for point cloud data processing |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010420765.6A CN111738293A (zh) | 2020-05-18 | 2020-05-18 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111738293A true CN111738293A (zh) | 2020-10-02 |
Family
ID=72647370
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010420765.6A Pending CN111738293A (zh) | 2020-05-18 | 2020-05-18 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11830207B2 (zh) |
EP (1) | EP3913535B1 (zh) |
CN (1) | CN111738293A (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115661220B (zh) * | 2022-12-28 | 2023-03-17 | 深圳煜炜光学科技有限公司 | 点云数据配准方法、装置、设备及存储介质 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140192050A1 (en) * | 2012-10-05 | 2014-07-10 | University Of Southern California | Three-dimensional point processing and model generation |
US20170039436A1 (en) * | 2015-08-03 | 2017-02-09 | Nokia Technologies Oy | Fusion of RGB Images and Lidar Data for Lane Classification |
CN107818598A (zh) * | 2017-10-20 | 2018-03-20 | 西安电子科技大学昆山创新研究院 | 一种基于视觉矫正的三维点云地图融合方法 |
CN108765475A (zh) * | 2018-05-25 | 2018-11-06 | 厦门大学 | 一种基于深度学习的建筑物三维点云配准方法 |
CN109034077A (zh) * | 2018-08-01 | 2018-12-18 | 湖南拓视觉信息技术有限公司 | 一种基于多尺度特征学习的三维点云标记方法和装置 |
WO2019060125A1 (en) * | 2017-09-22 | 2019-03-28 | Zoox, Inc. | THREE-DIMENSIONAL DELIMITATION FRAMEWORK BASED ON TWO-DIMENSIONAL IMAGE DATA AND CLOUD OF POINTS |
CN109766903A (zh) * | 2018-08-13 | 2019-05-17 | 西安理工大学 | 一种基于曲面特征的点云模型曲面匹配方法 |
CN109801316A (zh) * | 2018-12-19 | 2019-05-24 | 中国农业大学 | 一种果树树冠三维点云自动化配准方法及重构方法 |
CN109859256A (zh) * | 2019-03-13 | 2019-06-07 | 大连理工大学 | 一种基于自动对应点匹配的三维点云配准方法 |
CN110211167A (zh) * | 2019-06-14 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246112A (zh) * | 2019-01-21 | 2019-09-17 | 厦门大学 | 基于深度学习的激光扫描slam室内三维点云质量评价方法 |
CN110569969A (zh) * | 2019-09-11 | 2019-12-13 | 北京百度网讯科技有限公司 | 网络模型结构的采样方法、装置以及电子设备 |
-
2020
- 2020-05-18 CN CN202010420765.6A patent/CN111738293A/zh active Pending
-
2021
- 2021-03-18 EP EP21163480.3A patent/EP3913535B1/en active Active
- 2021-03-19 US US17/206,999 patent/US11830207B2/en active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140192050A1 (en) * | 2012-10-05 | 2014-07-10 | University Of Southern California | Three-dimensional point processing and model generation |
US20170039436A1 (en) * | 2015-08-03 | 2017-02-09 | Nokia Technologies Oy | Fusion of RGB Images and Lidar Data for Lane Classification |
WO2019060125A1 (en) * | 2017-09-22 | 2019-03-28 | Zoox, Inc. | THREE-DIMENSIONAL DELIMITATION FRAMEWORK BASED ON TWO-DIMENSIONAL IMAGE DATA AND CLOUD OF POINTS |
CN107818598A (zh) * | 2017-10-20 | 2018-03-20 | 西安电子科技大学昆山创新研究院 | 一种基于视觉矫正的三维点云地图融合方法 |
CN108765475A (zh) * | 2018-05-25 | 2018-11-06 | 厦门大学 | 一种基于深度学习的建筑物三维点云配准方法 |
CN109034077A (zh) * | 2018-08-01 | 2018-12-18 | 湖南拓视觉信息技术有限公司 | 一种基于多尺度特征学习的三维点云标记方法和装置 |
CN109766903A (zh) * | 2018-08-13 | 2019-05-17 | 西安理工大学 | 一种基于曲面特征的点云模型曲面匹配方法 |
CN109801316A (zh) * | 2018-12-19 | 2019-05-24 | 中国农业大学 | 一种果树树冠三维点云自动化配准方法及重构方法 |
CN110246112A (zh) * | 2019-01-21 | 2019-09-17 | 厦门大学 | 基于深度学习的激光扫描slam室内三维点云质量评价方法 |
CN109859256A (zh) * | 2019-03-13 | 2019-06-07 | 大连理工大学 | 一种基于自动对应点匹配的三维点云配准方法 |
CN110211167A (zh) * | 2019-06-14 | 2019-09-06 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110569969A (zh) * | 2019-09-11 | 2019-12-13 | 北京百度网讯科技有限公司 | 网络模型结构的采样方法、装置以及电子设备 |
Non-Patent Citations (2)
Title |
---|
WEIXIN LU ETAL: "DeepICP:An End-to-End Deep Neural Network for 3D Point Cloud Registration", ARXIV CORR- ARXIV:1905.04153V1, 10 May 2019 (2019-05-10), pages 1 - 10 * |
陈茂霖;卢维欣;万幼川;田思忆;杨威;: "无附加信息的地面激光点云自动拼接方法", 中国激光, no. 04, 10 April 2016 (2016-04-10) * |
Also Published As
Publication number | Publication date |
---|---|
US11830207B2 (en) | 2023-11-28 |
EP3913535A1 (en) | 2021-11-24 |
EP3913535B1 (en) | 2023-10-18 |
US20210358213A1 (en) | 2021-11-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111369602B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
EP3198373B1 (en) | Tracking hand/body pose | |
CN111739005B (zh) | 图像检测方法、装置、电子设备及存储介质 | |
CN111539347B (zh) | 用于检测目标的方法和装置 | |
CN114386503A (zh) | 用于训练模型的方法和装置 | |
CN112241716B (zh) | 训练样本的生成方法和装置 | |
CN115222896B (zh) | 三维重建方法、装置、电子设备及计算机可读存储介质 | |
CN112308145A (zh) | 一种分类网络训练方法、分类方法、装置以及电子设备 | |
CN115511779A (zh) | 图像检测方法、装置、电子设备和存储介质 | |
CN111523467A (zh) | 人脸跟踪方法和装置 | |
CN112270760B (zh) | 一种定位方法、装置、电子设备及存储介质 | |
CN112488126A (zh) | 特征图处理方法、装置、设备以及存储介质 | |
CN111738292B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN111738293A (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN111369603B (zh) | 点云配准技术的评估方法、装置、电子设备及可读存储介质 | |
CN113066125A (zh) | 一种增强现实方法及其相关设备 | |
CN112200169B (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN114707070A (zh) | 一种用户行为预测方法及其相关设备 | |
CN112037315A (zh) | 一种局部描述子的生成方法、模型生成的方法及装置 | |
CN112489216B (zh) | 面部重建模型的评测方法、装置、设备及可读存储介质 | |
CN115578745A (zh) | 用于生成图像的方法和装置 | |
CN116778529A (zh) | 用于遮挡的轻量级人体姿态估计方法、装置、电子设备及存储介质 | |
CN113033258A (zh) | 一种图像特征提取方法、装置、设备和存储介质 | |
CN116912314A (zh) | 一种姿态估计方法及其相关设备 | |
CN113744362A (zh) | 用于生成图形的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211014 Address after: 105 / F, building 1, No. 10, Shangdi 10th Street, Haidian District, Beijing 100085 Applicant after: Apollo Intelligent Technology (Beijing) Co.,Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |