CN111369603B - 点云配准技术的评估方法、装置、电子设备及可读存储介质 - Google Patents
点云配准技术的评估方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN111369603B CN111369603B CN202010116089.3A CN202010116089A CN111369603B CN 111369603 B CN111369603 B CN 111369603B CN 202010116089 A CN202010116089 A CN 202010116089A CN 111369603 B CN111369603 B CN 111369603B
- Authority
- CN
- China
- Prior art keywords
- point
- key
- points
- matching
- key point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005516 engineering process Methods 0.000 title claims abstract description 103
- 238000011156 evaluation Methods 0.000 title claims abstract description 60
- 238000003860 storage Methods 0.000 title claims abstract description 16
- 238000009826 distribution Methods 0.000 claims abstract description 88
- 239000013598 vector Substances 0.000 claims description 205
- 238000000034 method Methods 0.000 claims description 67
- 238000006243 chemical reaction Methods 0.000 claims description 65
- 230000006870 function Effects 0.000 claims description 37
- 238000012545 processing Methods 0.000 claims description 32
- 238000000605 extraction Methods 0.000 claims description 29
- 230000015654 memory Effects 0.000 claims description 19
- 230000009467 reduction Effects 0.000 claims description 18
- 230000000694 effects Effects 0.000 claims description 11
- 238000013528 artificial neural network Methods 0.000 description 27
- 230000008569 process Effects 0.000 description 19
- 238000011946 reduction process Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 4
- 238000004590 computer program Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000010076 replication Effects 0.000 description 4
- 238000012163 sequencing technique Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 238000001303 quality assessment method Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000013210 evaluation model Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 238000013441 quality evaluation Methods 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 210000004556 brain Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/344—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/20—Finite element generation, e.g. wire-frame surface description, tesselation
- G06T17/205—Re-meshing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Computer Graphics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Geometry (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Image Analysis (AREA)
Abstract
本申请公开了一种点云配准技术的评估方法、装置、电子设备及可读存储介质,涉及计算机视觉技术,可用于自动驾驶。具体实现方案为利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;以及根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量。
Description
技术领域
涉及计算机技术,具体涉及计算机视觉技术,尤其涉及一种点云配准技术的评估方法、装置、电子设备及可读存储介质,可用于自动驾驶。
背景技术
点云数据是通过测量仪器得到的物体外观表面的点数据集合,是对真实世界的一种数字化表现形式。点云数据在建筑物保护、三维地图、生物医学等领域具有很强的应用价值。点云配准,是三维视觉领域的一项基础技术,其目标是将不同视角采集的点云数据通过计算其相对位姿的方式统一到指定坐标系之下。
由于点云配准技术是点云数据在应用过程中的一个基础环节(即点云配准)所采用的重要技术,因此,点云配准技术的质量对于点云数据应用的可靠性至关重要。
发明内容
本申请的多个方面提供一种点云配准技术的评估方法、装置、电子设备及可读存储介质,用以评估点云配准的质量。
本申请的一方面,提供一种点云配准技术的评估方法,包括:
利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;
根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;
根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,包括:
将所述至少一个第一关键点作为一个区块patch;
对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,包括:
根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,包括:
对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征;
根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理之前,还包括:
根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数;
根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点;
根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点;
根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,包括:
获取所述第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;
根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,包括:
对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点;
对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点;
根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;
根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述各第一关键点所对应的第二关键点为候选匹配点;所述根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,包括:
对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点;
对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点;
根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量;
根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量;
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
本申请的另一方面,提供一种点云配准技术的评估装置,包括:
配准单元,用于利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;
特征单元,用于根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;
评估单元,用于根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述特征单元,具体用于
将所述至少一个第一关键点作为一个区块patch;以及
对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述特征单元,具体用于
根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;以及
根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述评估单元,具体用于
对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征;以及
根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述评估单元,还用于
根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数;
根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点;
根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点;以及
根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述配准单元,具体用于
获取所述第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;以及
根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述配准单元,具体用于
对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点;
对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点;以及
根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述配准单元,具体用于
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及
根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述各第一关键点所对应的第二关键点为候选匹配点;所述配准单元,具体用于
对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点;
对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点;以及
根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述配准单元,具体用于
根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量;
根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量;以及
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
本发明的另一方面,提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。
本发明的另一方面,提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。
由上述技术方案可知,本申请实施例通过利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,进而,根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,使得能够根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,从而实现了点云配准技术的质量评估。
另外,采用本申请所提供的技术方案,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,进而,可以再利用三维神经网络,生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,通过对采用点云配准技术所生成的与第一点云数据中的关键点所配准的匹配点的对接质量进行评估,能够有效增加后续流程中的鲁棒性,从而提升了点云配准技术的可用性。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
上述方面或可能的实现方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。附图仅仅用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请一实施例提供的点云配准技术的评估方法的流程示意图;
图2为本申请另一实施例提供的点云配准技术的评估装置的结构示意图;
图3是用来实现本申请实施例提供的点云配准技术的评估方法的电子设备的示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer,PC)、MP3播放器、MP4播放器、可穿戴设备(例如,智能眼镜、智能手表、智能手环等)等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本申请一实施例提供的点云配准技术的评估方法的流程示意图,如图1所示。
101、利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点。
102、根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征。
103、根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量。
需要说明的是,101~103的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
这样,通过利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,进而,根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,使得能够根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,从而实现了点云配准技术的质量评估。
可选地,在本实施例的一个可能的实现方式中,在101中,具体可以采用现有的基于关键点的点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点。
具体地,具体可以获取所述第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点,进而,则可以根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点。然后,则可以根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
在本实施例中,第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据。在一些具体的场景中,第一点云数据可以称为源点云数据,第二点云数据可以称为目标点云数据。第一点云数据和第二点云数据可以为位姿固定的点云采集装置采集得到的。点云配准技术的评估方法运行于其上的电子设备可以从本地或其它电子设备处获取第一点云数据中各点的第一特征向量。上述第一特征向量可以是执行主体自身或者其它电子设备通过各种特征提取算法对第一点云数据提取得到的。
例如,具体可以将第一点云数据输入预先训练的特征提取模型,得到点的特征向量。
本实现方式中,上述特征提取模型用于表征点云数据中点和特征向量的对应关系。具体可以将第一点云数据输入该特征提取模型中,得到点云数据中各点的特征向量,此处可以称为语义特征向量。上述特征提取模型可以是人工神经网络,它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。通常由大量的节点(或称神经元)之间相互联接构成,每个节点代表一种特定的输出函数,称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重(又叫做参数),网络的输出则以网络的连接方式、权重值和激励函数的不同而不同。人工神经网络通常包括多个层,每个层包括多个节点,通常,同一层的节点的权重可以相同,不同层的节点的权重可以不同,故人工神经网络的多个层的参数也可以不同。这里,可以将第一点云数据从人工神经网络的输入侧输入,依次经过人工神经网络中的各层的参数的处理(例如乘积、卷积等),并从人工神经网络的输出侧输出,输出侧输出的信息即为各点的特征向量。
在一些具体的应用场景中,上述特征提取模型可以为PointNet++。PointNet++是PointNet的改进版本。Pointnet的基本思想是对输入点云数据中的每一个点学习其对应的特征向量,之后再利用所有点的特征向量得到一个全局的点云特征。这里欠缺了对局部特征的提取及处理,没有考虑到点云数据的局部稀疏性。Pointnet++就上述问题提出了改进,解决了两个问题:如何对点云进行局部划分,如何对点云进行局部特征提取。Pointnet++是作者Charles R.Qi和Hao Su提出的一种网络结构。Pointnet++的结构在三维点云数据方面处于顶尖水准的水平,解决了如何处理采样不均匀的问题,也考虑了空间中点与点之间的距离度量,通过层级结构利用局部区域信息学习特征,网络结构更有效更鲁棒。
在得到第一点云数据中各点的第一特征向量之后,则可以根据第一点云数据中各点的第一特征向量,来确定第一点云数据中各点中的至少一个第一关键点。
本实施例中,第一关键点可以是具有某些特定特征的点,这些特定特征可以更方便实现点云配准。例如,第一关键点为静态对象的特征点。
例如,在得到第一点云数据中各点的第一特征向量之后,则可以对第一特征向量进行降维处理,以确定第一点云数据中点的权重,进而,则可以根据第一点云数据中点的权重,确定第一点云数据的第一关键点。
本实施例中,具体可以通过多种方式对第一特征向量进行降维处理。例如,对第一特征向量进行下采样,或者将第一特征向量输入卷积核数量较少的卷积层中。在对特征向量进行降维处理后,则可以根据降维处理之后的特征向量来确定各点的权重。并根据各点的权重,确定其中的第一关键点。
具体地,可以通过以下步骤来确定第一点云数据中各点的权重:将第一特征向量输入预先建立的关键点确定模型中,得到第一点云数据的一维特征向量;将一维特征向量中的值作为第一点云数据中点的权重。其中,关键点确定模型可以包括但不限于多层感知器,本实施例对此不进行特别限定。
具体地,可以通过以下步骤来确定第一关键点:将权重按照由大到小的顺序进行排序;确定排序中前预设数量个权重对应的点为第一点云数据的第一关键点。
在本实现方式中,由于第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据,则可以根据第一点云数据所在坐标系与第二点云数据所在坐标系之间的转换参数(R,T),来将第一点云数据和第二点云数据统一到同一坐标系中。其中,R为两个坐标系的旋转矩阵,T为两个坐标系之间的平移向量。本实施例中,上述预设第一转换参数可以根据点云采集装置的位姿计算得到。可以将各第一关键点的坐标与第一转换参数相乘,得到第二点云数据中的各第二关键点。
可替换地,在其他一些场景中,第二点云数据也可以称为源点云数据,第一点云数据也可以称为目标点云数据,上述操作与前述场景中的类似。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,则可以根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,具体可以采用如下两个具体的实现过程中的技术方案。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,具体可以根据所述至少一个第一关键点、至少一个第二关键点以及预先建立的匹配点生成模型,确定所述各第一关键点所配准的匹配点。
其中,上述匹配点生成模型用于表征至少一个第一关键点、至少一个第二关键点与匹配点之间的关系。进一步地,上述匹配点生成模型还可以进一步用于表征第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。
本实施例中,匹配点生成模型可以是一个列表,上述列表中包括第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。具体可以根据第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点检索上述列表,将对应的匹配点输出。
上述匹配点生成模型还可以是神经网络,可以将第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到匹配点。
上述匹配点生成模型还可以是神经网络与列表的组合。上述神经网络可以用于提取所输入的数据的特征。具体地,可以将第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到特征数据。然后,检索包括特征数据与匹配点对应关系的列表,得到匹配点。
本实施例中,上述各匹配点为与各第一关键点所配准的点。其可能全部为第二点云数据中的点,也可能部分为第二点云数据中的点,也可能全部不为第二点云数据中的点,本实施例对此不进行特别限定。
在得到各匹配点之后,还可以进一步根据至少一个第一关键点以及与至少一个第一关键点所配准的至少一个匹配点,对第一点云数据和第二点云数据进行配准处理。
本实施例的方法,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在一个具体的实现过程中,在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,确定匹配点的一个实施例的流程可以包括以下步骤a~c:
步骤a、对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点。
具体地,可以首先确定第一点云数据中各点与该第一关键点之间的距离。然后,则可以将得到的距离按照由小到大的顺序进行排序,将上述排序中的前第一预设数量个点作为该第一关键点的第一临近点。
例如,将该第一关键点作为中心,根据预设的邻域距离,确定该第一关键点的邻域空间,进而,将邻域空间内的点作为该第一关键点的第一临近点。对于每个第一关键点,可以将该第一关键点作为中心,以预设的邻域距离为半径,确定该第一关键点的邻域空间。具体地,该邻域空间为球体。然后,则可以将该邻域空间内的点作为该第一关键点的第一临近点。
在确定该第一关键点的邻域空间之后,则可以进一步确定邻域空间内点的数量是否小于第一预设数量。响应于确定邻域空间内点的数量小于第一预设数量,复制邻域空间中的至少一个点,使得复制后邻域空间中点的数量等于第一预设数量。具体来说,在确定第一关键点的邻域空间之后,可以首先判断邻域空间内点的数量是否小于第一预设数量。如果小于,可以复制邻域空间内的至少一个点,使得复制后邻域空间中点的数量等于第一预设数量。可以理解的是,此处的复制可以一次完成,也可以分多次完成。需要复制的点的数量为第一预设数量与复制前邻域空间中点的数量之差。
步骤b、对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点。
具体地,对于每个第二关键点,可以首先根据预设的第一搜索半径以及预设的网格尺寸,确定该第二关键点的第二预设数量个候选关键点。具体地,可以根据第一搜索半径,确定搜索空间。然后,在搜索空间内,与该第二关键点距离为网格尺寸整数倍的点作为该第二关键点的候选关键点。此处,由于点云采集装置存在的采集误差,或者根据点云采集装置的位置计算得到的转换参数存在误差,可能导致第二关键点不是第二点云数据中实际存在的点。为了确定更精确的匹配点,此处可以首先确定候选关键点,由各候选关键点确定匹配点。
例如,将该第二关键点作为中心,根据第一搜索半径,确定该第二关键点的搜索空间,进而,可以在搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,可以将第二预设数量个网格体素中网格体素的中心点作为该第二关键点的候选关键点。对于每个第二关键点,可以将该第二关键点作为中心,然后根据第一搜索半径,确定该第二关键点的搜索空间。该搜索空间为球体。然后,在该搜索空间内,以网格尺寸为棱长,确定第二预设数量个网格体素。然后,将每个网格体素的中心点作为该第二关键点的候选关键点。
在获得各第二关键点的候选关键点之后,则可以根据第二点云数据,确定第二预设数量个候选关键点中候选关键点的第一预设数量个第二临近点。
本实施例中,确定第二临近点的方式可以与确定第一临近点的方式相同。对于每个第二关键点,可以将该第二关键点作为中心,以预设的邻域距离为半径,确定该第二关键点的邻域空间。具体的,该邻域空间为球体。然后,可以将该邻域空间内的点作为该第二关键点的第二临近点。
步骤c、根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
在确定各第一临近点、各第二临近点之后,具体可以根据第一特征向量、第二特征向量、第一临近点、第二临近点以及匹配点生成模型,确定至少一个匹配点。具体地,匹配点生成模型可以包括但不限于特征提取子模型和匹配点生成子模型。特征提取子模型用于提取所输入的数据的特征,匹配点生成子模型用于根据所输入的数据,生成匹配点。
具体地,具体可以根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量,进而,则可以根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度。然后,则可以根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
本实施例中,可以首先根据第一点云数据确定第一临近点的信息,并根据第二点云数据确定第二临近点的信息。其中,第一临近点的信息可以包括但不限于第一临近点的激光反射强度;第二临近点的信息可以包括但不限于第二临近点的激光反射强度,本实施例对此不进行特别限定。
在获得各第一临近点的信息和各第二临近点的信息之后,可以将第一特征向量、第二特征向量、第一临近点的信息、第二临近点的信息输入特征提取子模型,得到各第一关键点的第三特征向量和各第二关键点的各候选关键点的第四特征向量。上述特征提取子模型可以包括多层感知器,具体可以通过调整多层感知器中每层的神经元的数量,来调整输出的特征向量的维数。
本实施例中,通过特征提取子模型进一步提取第一点云数据和第二点云数据的局部特征,得到了更详细的特征向量,此处可以称为几何特征向量。这些特征向量可以更完整的表示第一点云数据和第二点云数据中对象的特征。从而使得最后得到的匹配度更精确。在一些具体的应用场景中,特征提取子模型可以是迷你PointNet(mini-PointNet)结构。
例如,对于至少一个第一关键点中的各第一关键点,根据该第一关键点的坐标以及该第一关键点的各第一临近点的坐标,确定各第一临近点相对于该第一关键点的相对坐标,即以该第一关键点作为坐标系原点,确定各第一临近点在该坐标系中的相对坐标。对于至少一个第二关键点中第二关键点的第二预设数量个第二候选关键点中的各候选关键点,根据该候选关键点的坐标以及该候选关键点的各第二临近点的坐标,确定各第二临近点相对于该候选关键点的相对坐标,即以该候选关键点作为坐标系原点,确定各第二临近点在该坐标系中的相对坐标。
在获得各第一临近点相对于该第一关键点的相对坐标,以及各第二临近点相对于该候选关键点的相对坐标之后,则可以将第一特征向量、第二特征向量、所得到的第一临近点的相对坐标和激光反射强度、所得到的第二临近点的相对坐标和激光反射强度输入特征提取子模型中,得到各第一关键点的第三特征向量和各候选关键点的第四特征向量。
进一步可选地,在确定各第一临近点的相对坐标和各第二临近点的相对坐标之后,还可以进一步对上述相对坐标进行归一化处理。然后,再将第一特征向量、第二特征向量、所得到的第一临近点的归一化坐标和激光反射强度、所得到的第二临近点的归一化坐标和激光反射强度输入特征提取子模型中,从而能够得到各第一关键点的第三特征向量和各候选关键点的第四特征向量。
在获得各第一关键点的第三特征向量和各候选关键点的第四特征向量之后,则可以将所得到的第三特征向量、第四特征向量以及候选关键点输入匹配点生成子模型,确定至少一个匹配点。
在得到第三特征向量和第四特征向量后,可以将其与候选关键点一起输入到匹配点生成子模型中,确定至少一个匹配点。
其中,上述匹配点生成子模型的工作原理为:对于至少一个第二关键点中的各第二关键点,可以根据该第二关键点所对应的第一关键点的第三特征向量和该第二关键点的各候选关键点的第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度,然后,根据所得到的相似度和该第二关键点的第二预设数量个候选关键点,确定所述至少一个匹配点即各第一关键点所配准的匹配点。
具体地,可以计算各候选关键点的第四特征向量与对应的第一关键点的第三特征向量之间的距离,例如,L2距离等,根据所述距离确定相似度。然后,则可以根据所得到的相似度以及各候选关键点,确定至少一个匹配点。
上述匹配点生成子模型可以包括三维神经网络,例如三维卷积神经网络(3D CNN)等,三维神经网络可以对输入的特征数据(即第四特征向量与第三特征向量之间的距离,例如,L2距离等)进行降维处理,最终得到一维向量。该一维向量经激活函数softmax后,可以得到概率值(即相似度)。各概率值与对应的候选关键点的位置进行加权,得到最终的匹配点。
本实施例中,由于点云数据的局部稀疏性,在第二点云数据中可能没有确切的、与第一点云数据对应的匹配点。本实施例采用匹配点生成子模型,从所提取的特征中生成与第一点云数据对应的匹配点,从而提高了匹配点的准确度。
这样,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,进而,可以再利用三维神经网络,生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在另一个具体的实现过程中,在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,可以将所述各第一关键点所对应的第二关键点作为候选匹配点,确定匹配点的另一个实施例的流程可以包括以下步骤a’~c’:
步骤a’、对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点。
具体地,对于每个第一关键点,可以首先根据预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点。具体地,可以根据第二搜索半径,确定搜索空间。其中,所述搜索空间可以为第一点云数据的整个数据范围。
然后,在搜索空间内,首先确定第一点云数据中各点与该第一关键点之间的距离,再将得到的距离按照由小到大的顺序进行排序,将上述排序中的前第三预设数量个点作为该第一关键点的第三临近点。
例如,将该第一关键点为中心,根据预设的第二搜索半径,确定搜索空间,作为该第一关键点的领域空间,进而,根据所述第一点云数据,将领域空间内的第三预设数量个点,作为该第一关键点的第三临近点。
步骤b,、对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点。
具体地,对于每个候选匹配点,可以首先根据预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点。具体地,可以根据第二搜索半径,确定搜索空间。其中,所述搜索空间可以为第二点云数据的整个数据范围。
然后,在搜索空间内,首先确定第二点云数据中各点与该候选匹配点之间的距离,再将得到的距离按照由小到大的顺序进行排序,将上述排序中的前第三预设数量个点作为该候选匹配点的第四临近点。
例如,将该候选匹配点为中心,根据预设的第二搜索半径,确定搜索空间,作为该候选匹配点的领域空间,进而,根据所述第二点云数据,将领域空间内的第三预设数量个点,作为该候选匹配点的第四临近点。
步骤c’、根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
在确定各第三临近点、各第四临近点之后,具体可以根据第一特征向量、第二特征向量、第一临近点、第二临近点以及匹配点生成模型,确定至少一个匹配点。具体地,匹配点生成模型可以包括但不限于特征提取子模型和匹配点生成子模型。特征提取子模型用于提取所输入的数据的特征,匹配点生成子模型用于根据所输入的数据,生成匹配点。
具体地,具体可以根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量,进而,则可以根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量。然后,则可以根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
例如,具体可以根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的匹配特征向量,进而,则可以对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
本实施例中,可以首先根据第一点云数据确定第三临近点的信息,并根据第二点云数据确定第四临近点的信息。其中,第三临近点的信息可以包括但不限于第三临近点的激光反射强度;第四临近点的信息可以包括但不限于第四临近点的激光反射强度,本实施例对此不进行特别限定。
在获得各第三临近点的信息和各第四临近点的信息之后,可以将第一特征向量、第二特征向量、第三临近点的信息、第四临近点的信息输入特征提取子模型,得到各第一关键点的第五特征向量和各第二关键点的各候选关键点的第六特征向量。上述特征提取子模型可以包括多层感知器,具体可以通过调整多层感知器中每层的神经元的数量,来调整输出的特征向量的维数。
本实施例中,通过特征提取子模型进一步提取第一点云数据和第二点云数据的局部特征,得到了更详细的特征向量,此处可以称为几何特征向量。这些特征向量可以更完整的表示第一点云数据和第二点云数据中对象的特征。从而使得最后得到的匹配度更精确。在一些具体的应用场景中,特征提取子模型可以是迷你PointNet(mini-PointNet)结构。
例如,对于至少一个第一关键点中的各第一关键点,根据该第一关键点的坐标以及该第一关键点的各第三临近点的坐标,确定各第三临近点相对于该第一关键点的相对坐标,即以该第一关键点作为坐标系原点,确定各第三临近点在该坐标系中的相对坐标。对于至少一个第二关键点中各第二关键点即各候选匹配点,根据该候选匹配点的坐标以及该候选匹配点的各第四临近点的坐标,确定各第四临近点相对于该候选匹配点的相对坐标,即以该候选匹配点作为坐标系原点,确定各第四临近点在该坐标系中的相对坐标。
在获得各第三临近点相对于该第一关键点的相对坐标,以及各第四临近点相对于该候选匹配点的相对坐标之后,则可以将第一特征向量、第二特征向量、所得到的第三临近点的相对坐标和激光反射强度、所得到的第四临近点的相对坐标和激光反射强度输入特征提取子模型中,得到各第一关键点的第五特征向量和各候选匹配点的第六特征向量。
进一步可选地,在确定各第三临近点的相对坐标和各第四临近点的相对坐标之后,还可以进一步对上述相对坐标进行归一化处理。然后,再将第一特征向量、第二特征向量、所得到的第三临近点的归一化坐标和激光反射强度、所得到的第四临近点的归一化坐标和激光反射强度输入特征提取子模型中,从而能够得到各第一关键点的第五特征向量和各候选匹配点的第六特征向量。
在获得各第一关键点的第五特征向量和各候选匹配点的第六特征向量之后,则可以将所得到的第五特征向量、第六特征向量以及候选匹配点输入匹配点生成子模型,确定至少一个匹配点。
在得到第五特征向量和第六特征向量后,可以将其与候选匹配点一起输入到匹配点生成子模型中,确定至少一个匹配点。
其中,上述匹配点生成子模型的工作原理为:对于至少一个第二关键点中的各第二关键点即各候选匹配点,可以根据各候选匹配点所对应的第一关键点的第五特征向量和该候选匹配点的第六特征向量,获得所述各候选匹配点的偏移向量,然后,根据所得到的偏移向量和所述至少一个候选匹配点,确定至少一个匹配点。
具体地,可以将各候选匹配点所对应的第一关键点的第五特征向量和该候选匹配点的第六特征向量做差值,根据差值确定各候选匹配点的偏移向量。然后,则可以根据所得到的偏移向量以及各候选匹配点,确定所述至少一个匹配点即各第一关键点所配准的匹配点。
上述匹配点生成子模型可以包括神经网络,例如,MLP等,神经网络可以对输入的特征数据(即第六特征向量与第五特征向量的差值)进行降维处理,最终得到一维向量,以作为偏移向量。然后,根据各候选匹配点和各偏移向量,得到最终的匹配点。
本实施例中,由于点云数据的局部稀疏性,在第二点云数据中可能没有确切的、与第一点云数据对应的匹配点。本实施例采用匹配点生成子模型,从所提取的特征中生成与第一点云数据对应的匹配点,从而提高了匹配点的准确度。
进一步地,在该实现过程中,还可以进一步调整第二搜索半径,分别利用所调整的各第二搜索半径,获得该第二搜索半径所对应的第五特征向量和第六特征向量,进而采用多层感知器(MLP)融合成最终的第五特征向量和第六特征向量。
这样,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
与上一实现过程相比,该实现过程中,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。另外,还无需采用三维神经网络进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
在确定所述各第一关键点,以及该第一关键点所配准的匹配点之后,具体可以根据所述各第一关键点、该第一关键点所配准的匹配点以及评估模型,对所述点云配准技术的配准效果进行评估处理。具体地,评估模型可以包括但不限于特征模型和回归模型,本实施例对此不进行特别限定。特征模型用于提取所输入的数据的特征,回归模型用于根据所输入的数据,生成评估参数。
可选地,在本实施例的一个可能的实现方式中,在102中,具体可以将所述至少一个第一关键点作为一个区块(patch),进而,则可以对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征。
在获得所述至少一个第一关键点之后,则可以将所述至少一个第一关键点中各第一关键点的坐标输入特征模型中,得到位置特征向量,作为所述至少一个第一关键点的位置分布特征。
在一些具体的应用场景中,所述特征模型具体可以是迷你PointNet(mini-PointNet)结构。
可选地,在本实施例的一个可能的实现方式中,在102中,具体可以根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点。此处的转换点,相当于前述实施例中的第二关键点。进而,则可以根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
在获得所述至少一个第一关键点和各第一关键点所配准的匹配点之后,则可以将所述各第一关键点的坐标和各第一关键点所配准的匹配点的坐标输入特征模型中,得到距离特征向量,作为所述各第一关键点所对应的匹配点的误差分布特征。
可选地,在本实施例的一个可能的实现方式中,在103中,具体可以对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征。进而,则可以根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
在获得所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征之后,则可以将所得到的所述至少一个第一关键点的位置分布特征、所述各第一关键点所对应的匹配点的误差分布特征以及所述点云配准技术的损失函数输入回归模型,获得评估参数。
其中,上述回归模型的工作原理为:可以对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征。然后,可以根据所述评估特征与所述点云配准技术的损失函数,计算差值,以作为评估参数。
所获得的评估参数越小,说明所述点云配准技术的配准效果越好;评估参数越大,说明所述点云配准技术的配准效果越差。
在一个具体的实现过程中,具体可以根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数。进而,则可以根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点,以及根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点。然后,则可以根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
在确定匹配点之后,可以将各第一关键点作为一个点集,将各匹配点作为另一个点集。然后,确定两个点集之间的第二转换参数。具体地,可以利用多种方式来求解上述第二转换参数,例如,利用线性优化的求解和利用非线性优化方式求解。线性优化的算法包括奇异值分解(Singular Value Decomposition,SVD)。
在利用各种方法计算得到上述第二转换参数之后,具体可以计算至少一个第一关键点中各第一关键点对应的各第三关键点。具体地,可以将各第一关键点的坐标与第二转换参数相乘,得到的坐标即为各第三关键点的坐标。
本实现过程中,还可以进一步获取第一点云数据与第二点云数据之间的预设第三转换参数。上述第三转换参数与第一转换参数的不同之处在于,第一转换参数是由实际安装的点云采集装置的位姿计算得到的,存在误差。而第三转换参数是通过其它方式(例如仿真模拟等方式)得到的。也就是说,第三转换参数相当于真值,第一转换参数相当于测量值。具体地,可以将各第一关键点的坐标与第三转换参数相乘,得到的坐标即为各第四关键点的坐标。
本实现过程中,具体可以根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。例如,可以为各点集分配权重系数,然后根据各权重系数以及各点集之间的距离,确定所述点云配准技术的损失函数。
例如,具体可以根据至少一个匹配点和至少一个第四关键点,确定第一损失函数,以及根据至少一个第三关键点和至少一个第四关键点,确定第二损失函数,进而,则可以根据第一损失函数、第二损失函数以及预设的平衡因子,确定所述点云配准技术的损失函数。
本实现过程中,首先可以根据各匹配点和各第四关键点,确定第一损失函数Loss1。然后,根据各第三关键点和各第四关键点,确定第二损失函数Loss2。然后,结合平衡因子α,得到损失函数Loss=α·Loss1+(1-α)·Loss2。其中,0<α<1。
其中,可以使用点的距离(例如,点在欧式空间的L2距离等)作为第一损失函数,第一损失函数Loss1可以由下式表示:
式中,为第i个第四关键点,yi为第i个匹配点,i∈[1,N]。
由上式可以看出,第一损失函数Loss1是对各对独立的第一关键点和匹配点进行配准,没有考虑到其它第一关键点和匹配点之间的联系。因此,其配准结果必然受到全局变换的约束。
第二损失函数Loss2可以由下式表示:
式中,为第i个第四关键点,(R,T)为第二转换参数,xi为第i个第一关键点,Rxi+T为第i个第三关键点。
这样,通过采用深度学习网络,对采用点云配准技术所生成的与第一点云数据中的关键点所配准的匹配点的对接质量进行评估,能够有效增加后续流程中的鲁棒性,从而提升了点云配准技术的可用性。
本实施例中,通过利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,进而,根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,使得能够根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,从而实现了点云配准技术的质量评估。
另外,采用本申请所提供的技术方案,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,通过对采用点云配准技术所生成的与第一点云数据中的关键点所配准的匹配点的对接质量进行评估,能够有效增加后续流程中的鲁棒性,从而提升了点云配准技术的可用性。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2为本申请另一实施例提供的点云配准技术的评估装置的结构示意图,如图2所示。本实施例的点云配准技术的评估装置200可以包括配准单元201、特征单元202和评估单元203。其中,配准单元201,用于利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;特征单元202,用于根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;评估单元203,用于根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量。
需要说明的是,本实施例所提供的点云配准技术的评估装置的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
可选地,在本实施例的一个可能的实现方式中,所述特征单元202,具体可以用于将所述至少一个第一关键点作为一个区块(patch);以及对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征。
可选地,在本实施例的一个可能的实现方式中,所述特征单元202,具体可以用于根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;以及根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
可选地,在本实施例的一个可能的实现方式中,所述评估单元203,具体可以用于对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征;以及根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
在一个具体的实现过程中,所述评估单元203,还可以进一步用于根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数;根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点;根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点;以及根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
可选地,在本实施例的一个可能的实现方式中,所述配准单元201,具体可以用于获取所述第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;以及根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
在一个具体的实现过程中,所述配准单元201,具体可以用于对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点;对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点;以及根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
具体地,所述配准单元201,具体可以用于根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量;根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
可选地,在本实施例的一个可能的实现方式中,所述各第一关键点所对应的第二关键点为候选匹配点;相应地,所述配准单元201,具体可以用于对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点;对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点;以及根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
在一个具体的实现过程中,所述配准单元201,具体可以用于根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量;根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量;以及根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
需要说明的是,图1对应的实施例中的方法可以由本实施例提供的点云配准技术的评估装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,通过配准单元利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,进而,由特征单元根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,使得评估单元能够根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,从而实现了点云配准技术的质量评估。
另外,采用本申请所提供的技术方案,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,通过对采用点云配准技术所生成的与第一点云数据中的关键点所配准的匹配点的对接质量进行评估,能够有效增加后续流程中的鲁棒性,从而提升了点云配准技术的可用性。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
根据本申请的实施例,本申请还提供了一种电子设备和一种存储有计算机指令的非瞬时计算机可读存储介质。
如图3所示,是用来实现本申请实施例提供的点云配准技术的评估方法的电子设备的示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图3所示,该电子设备包括:一个或多个处理器301、存储器302,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图3中以一个处理器301为例。
存储器302即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的点云配准技术的评估方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的点云配准技术的评估方法。
存储器302作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及单元,如本申请实施例中的点云配准技术的评估方法对应的程序指令/单元(例如,附图2所示的配准单元201、特征单元202和评估单元203)。处理器301通过运行存储在存储器302中的非瞬时软件程序、指令以及单元,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的点云配准技术的评估方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据实现本申请实施例提供的点云配准技术的评估方法的电子设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至实现本申请实施例提供的点云配准技术的评估方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
点云配准技术的评估方法的电子设备还可以包括:输入装置303和输出装置304。处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图3中以通过总线连接为例。
输入装置303可接收输入的数字或字符信息,以及产生与实现本申请实施例提供的点云配准技术的评估方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置304可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用专用集成电路(ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,阴极射线管(CRT)或者液晶显示器(LCD)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,通过利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,进而,根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,使得能够根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,从而实现了点云配准技术的质量评估。
另外,采用本申请所提供的技术方案,通过对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,通过对采用点云配准技术所生成的与第一点云数据中的关键点所配准的匹配点的对接质量进行评估,能够有效增加后续流程中的鲁棒性,从而提升了点云配准技术的可用性。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (18)
1.一种点云配准技术的评估方法,其特征在于,包括:
利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;
根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;
根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量;其中,
所述根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,包括:
将所述至少一个第一关键点作为一个区块patch;
对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征;
所述根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征,包括:
根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
2.根据权利要求1所述的方法,其特征在于,所述根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量,包括:
对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征;
根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
3.根据权利要求2所述的方法,其特征在于,所述根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理之前,还包括:
根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数;
根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点;
根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点;
根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
4.根据权利要求1-3中任一项所述的方法,其特征在于,所述利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点,包括:
获取所述第一点云数据中各点的第一特征向量;根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;
根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
5.根据权利要求4所述的方法,其特征在于,所述根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,包括:
对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点;
对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点;
根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
6.根据权利要求5所述的方法,其特征在于,所述根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;
根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
7.根据权利要求4所述的方法,其特征在于,所述各第一关键点所对应的第二关键点为候选匹配点;所述根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,包括:
对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点;
对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点;
根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
8.根据权利要求7所述的方法,其特征在于,所述根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量;
根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量;
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
9.一种点云配准技术的评估装置,其特征在于,包括:
配准单元,用于利用点云配准技术,确定第一点云数据中各点中的至少一个第一关键点,以及与所述至少一个第一关键点中各第一关键点所配准的匹配点;
特征单元,用于根据所述至少一个第一关键点,获得所述至少一个第一关键点的位置分布特征,以及根据所述各第一关键点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的匹配点的误差分布特征;
评估单元,用于根据所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,获得所述点云配准技术的点云配准质量;其中,
所述特征单元,具体用于
将所述至少一个第一关键点作为一个区块patch;以及
对所述patch进行特征提取处理,以获得所述patch的特征向量,作为所述至少一个第一关键点的位置分布特征;
所述特征单元,具体用于
根据所述各第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,确定所述各第一关键点所对应的转换点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;以及
根据所述各第一关键点所对应的转换点和该第一关键点所配准的匹配点,获得所述各第一关键点所对应的转换点与该第一关键点所配准的匹配点之间的距离,以作为所述各第一关键点所对应的匹配点的误差分布特征。
10.根据权利要求9所述的装置,其特征在于,所述评估单元,具体用于
对所述至少一个第一关键点的位置分布特征和所述各第一关键点所对应的匹配点的误差分布特征,进行降维处理,以获得评估特征;以及
根据所述评估特征与所述点云配准技术的损失函数,对所述点云配准技术的配准效果进行评估处理。
11.根据权利要求10所述的装置,其特征在于,所述评估单元,还用于
根据所述至少一个第一关键点,以及与所述各第一关键点所配准的匹配点,确定所述各第一关键点与该第一关键点所配准的匹配点之间的第二转换参数;
根据所述各第一关键点和该第一关键点所对应的第二转换参数,确定与所述各第一关键点所对应的第三关键点;
根据所述各第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第三转换参数,确定所述各第一关键点所对应的第四关键点;以及
根据所述各第一关键点所配准的匹配点,以及该第一关键点所对应的第三关键点和该第一关键点所对应的第四关键点,获得所述点云配准技术的损失函数。
12.根据权利要求9-11中任一项所述的装置,其特征在于,所述配准单元,具体用于
获取所述第一点云数据中各点的第一特征向量;根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及所述第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点;以及
根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点。
13.根据权利要求12所述的装置,其特征在于,所述配准单元,具体用于
对于所述各第一关键点,根据所述第一点云数据,确定该第一关键点的第一预设数量个第一临近点;
对于所述各第一关键点所对应的第二关键点,根据预设的第一搜索半径和预设的网格尺寸,确定各第二关键点的第二预设数量个候选关键点;根据所述第二点云数据,确定所述第二预设数量个候选关键点中各候选关键点的第一预设数量个第二临近点;以及
根据所述各第一关键点的各第一临近点和所述各候选关键点的各第二临近点,确定所述各第一关键点所配准的匹配点。
14.根据权利要求13所述的装置,其特征在于,所述配准单元,具体用于
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选关键点的各第二临近点的信息,获得所述各候选关键点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各第二关键点的各候选关键点与该第二关键点所对应的第一关键点之间的相似度;以及
根据所述相似度和所述各候选关键点,确定所述至少一个匹配点。
15.根据权利要求12所述的装置,其特征在于,所述各第一关键点所对应的第二关键点为候选匹配点;所述配准单元,具体用于
对于所述各第一关键点,根据所述第一点云数据和预设的第二搜索半径,确定该第一关键点的第三预设数量个第三临近点;
对于所述各候选匹配点,根据所述第二点云数据和预设的第二搜索半径,确定该候选匹配点的第三预设数量个第四临近点;以及
根据所述各第一关键点的各第三临近点和所述各候选匹配点的各第四临近点,确定所述各第一关键点所配准的匹配点。
16.根据权利要求15所述的装置,其特征在于,所述配准单元,具体用于
根据所述各第一关键点的第三临近点的信息,获得该第一关键点的第五特征向量,以及根据所述各候选匹配点的第四临近点的信息,获得所述各候选匹配点的第六特征向量;
根据所述第五特征向量和所述第六特征向量,获得所述各候选匹配点的偏移向量;以及
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
17.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-8中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116089.3A CN111369603B (zh) | 2020-02-25 | 2020-02-25 | 点云配准技术的评估方法、装置、电子设备及可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116089.3A CN111369603B (zh) | 2020-02-25 | 2020-02-25 | 点云配准技术的评估方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111369603A CN111369603A (zh) | 2020-07-03 |
CN111369603B true CN111369603B (zh) | 2023-09-29 |
Family
ID=71208251
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010116089.3A Active CN111369603B (zh) | 2020-02-25 | 2020-02-25 | 点云配准技术的评估方法、装置、电子设备及可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111369603B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112652003B (zh) * | 2020-10-29 | 2024-04-12 | 西北工业大学 | 一种基于ransac测度优化的三维点云配准方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103955939A (zh) * | 2014-05-16 | 2014-07-30 | 重庆理工大学 | 三维扫描系统中点云拼接用边界特征点配准方法 |
CN104299260A (zh) * | 2014-09-10 | 2015-01-21 | 西南交通大学 | 一种基于sift和lbp的点云配准的接触网三维重建方法 |
CN109801316A (zh) * | 2018-12-19 | 2019-05-24 | 中国农业大学 | 一种果树树冠三维点云自动化配准方法及重构方法 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110415342A (zh) * | 2019-08-02 | 2019-11-05 | 深圳市唯特视科技有限公司 | 一种基于多融合传感器的三维点云重建装置与方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9300901B2 (en) * | 2013-12-04 | 2016-03-29 | Disney Enterprises, Inc. | Augmenting physical appearance using illumination |
US9177481B2 (en) * | 2013-12-13 | 2015-11-03 | Sikorsky Aircraft Corporation | Semantics based safe landing area detection for an unmanned vehicle |
-
2020
- 2020-02-25 CN CN202010116089.3A patent/CN111369603B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103955939A (zh) * | 2014-05-16 | 2014-07-30 | 重庆理工大学 | 三维扫描系统中点云拼接用边界特征点配准方法 |
CN104299260A (zh) * | 2014-09-10 | 2015-01-21 | 西南交通大学 | 一种基于sift和lbp的点云配准的接触网三维重建方法 |
CN109801316A (zh) * | 2018-12-19 | 2019-05-24 | 中国农业大学 | 一种果树树冠三维点云自动化配准方法及重构方法 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110415342A (zh) * | 2019-08-02 | 2019-11-05 | 深圳市唯特视科技有限公司 | 一种基于多融合传感器的三维点云重建装置与方法 |
Non-Patent Citations (4)
Title |
---|
Tomas Petricek等.Point cloud registration from local feature correspondences—Evaluation on challenging datasets.《PLOS ONE》.2017,1-16. * |
Weixin Lu等.DeepVCP: An End-to-End Deep Neural Network for Point Cloud Registration.《IEEE/CVF International Conference on Computer Vision (ICCV)》.2019,12-21. * |
唐靖.三维重建过程中的点云数据处理技术研究.《中国优秀硕士学位论文全文数据库信息科技辑》.2016,(第02期),I138-1723. * |
熊风光.三维点云配准技术研究.《中国博士学位论文全文数据库信息科技辑》.2018,(第08期),I138-50. * |
Also Published As
Publication number | Publication date |
---|---|
CN111369603A (zh) | 2020-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111369602B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN111795704B (zh) | 一种视觉点云地图的构建方法、装置 | |
CN105069423B (zh) | 一种人体姿态检测方法及装置 | |
CN108875524B (zh) | 视线估计方法、装置、系统和存储介质 | |
CN109902548B (zh) | 一种对象属性识别方法、装置、计算设备及系统 | |
CN112862874B (zh) | 点云数据匹配方法、装置、电子设备及计算机存储介质 | |
CN110633608A (zh) | 一种姿态图像的人体肢体相似度评估方法 | |
CN109446889A (zh) | 基于孪生匹配网络的物体追踪方法及装置 | |
CN111539347B (zh) | 用于检测目标的方法和装置 | |
KR101794399B1 (ko) | 사용자 얼굴의 복합 다중 감정 인식 방법 및 시스템 | |
CN113159273B (zh) | 一种神经网络的训练方法及相关设备 | |
CN115222896B (zh) | 三维重建方法、装置、电子设备及计算机可读存储介质 | |
CN114386503A (zh) | 用于训练模型的方法和装置 | |
CN115661336A (zh) | 一种三维重建方法及相关装置 | |
CN111369603B (zh) | 点云配准技术的评估方法、装置、电子设备及可读存储介质 | |
CN111738292B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN111738293B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN112200169B (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN118212028A (zh) | 虚拟试衣方法、装置、电子设备及可读存储介质 | |
US20240054671A1 (en) | Method and system for learned morphology-aware inverse kinematics | |
CN115147564A (zh) | 一种三维模型构建方法、神经网络训练方法以及装置 | |
CN112037315A (zh) | 一种局部描述子的生成方法、模型生成的方法及装置 | |
CN112489216B (zh) | 面部重建模型的评测方法、装置、设备及可读存储介质 | |
US20240221314A1 (en) | Invertible neural skinning | |
CN116778529A (zh) | 用于遮挡的轻量级人体姿态估计方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211021 Address after: 105 / F, building 1, No. 10, Shangdi 10th Street, Haidian District, Beijing 100085 Applicant after: Apollo Intelligent Technology (Beijing) Co.,Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |