CN111369602B - 点云数据的处理方法、装置、电子设备及可读存储介质 - Google Patents
点云数据的处理方法、装置、电子设备及可读存储介质 Download PDFInfo
- Publication number
- CN111369602B CN111369602B CN202010116037.6A CN202010116037A CN111369602B CN 111369602 B CN111369602 B CN 111369602B CN 202010116037 A CN202010116037 A CN 202010116037A CN 111369602 B CN111369602 B CN 111369602B
- Authority
- CN
- China
- Prior art keywords
- point
- points
- cloud data
- key
- point cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 13
- 239000013598 vector Substances 0.000 claims abstract description 179
- 238000006243 chemical reaction Methods 0.000 claims abstract description 10
- 238000012545 processing Methods 0.000 claims description 46
- 238000000034 method Methods 0.000 claims description 43
- 230000015654 memory Effects 0.000 claims description 20
- 230000009467 reduction Effects 0.000 claims description 18
- 238000004590 computer program Methods 0.000 claims description 6
- 239000004973 liquid crystal related substance Substances 0.000 claims description 6
- 238000005516 engineering process Methods 0.000 abstract description 21
- 238000013528 artificial neural network Methods 0.000 description 23
- 238000000605 extraction Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 238000012163 sequencing technique Methods 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000011946 reduction process Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 210000002569 neuron Anatomy 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000005284 excitation Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/211—Selection of the most significant subset of features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Mathematical Physics (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
- Databases & Information Systems (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
Abstract
本申请公开了一种点云数据的处理方法、装置、电子设备及可读存储介质,涉及计算机视觉技术,可用于自动驾驶。具体实现方案为获取第一点云数据中各点的第一特征向量,根据各点的第一特征向量,确定第一点云数据中各点中的至少一个第一关键点;根据至少一个第一关键点,以及第二点云数据与第一点云数据之间的预设第一转换参数,获得至少一个第一关键点中各第一关键点所对应的第二点云数据的第二关键点,以作为候选匹配点;根据第一点云数据、第二点云数据和预设的搜索半径,确定各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点;根据各第一关键点的各第一临近点和各候选匹配点的各第二临近点,确定各第一关键点所配准的匹配点。
Description
技术领域
涉及计算机技术,具体涉及计算机视觉技术,尤其涉及一种点云数据的处理方法、装置、电子设备及可读存储介质,可用于自动驾驶。
背景技术
点云数据是通过测量仪器得到的物体外观表面的点数据集合,是对真实世界的一种数字化表现形式。点云数据在建筑物保护、三维地图、生物医学等领域具有很强的应用价值。点云配准,是三维视觉领域的一项基础技术,其目标是将不同视角采集的点云数据通过计算其相对位姿的方式统一到指定坐标系之下。
由于点云配准技术是点云数据在应用过程中的一个基础环节(即点云配准)所采用的重要技术,因此,点云配准技术的效率对于点云数据的应用至关重要。
发明内容
本申请的多个方面提供一种点云数据的处理方法、装置、电子设备及可读存储介质,用以提高点云配准的效率。
本申请的一方面,提供一种点云数据的处理方法,包括:
获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点;
根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述方法还包括:
根据所述各第一关键点和与所述各第一关键点所配准的匹配点,对所述第一点云数据和所述第二点云数据进行配准处理。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点,包括:
对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点;
对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点,包括:
将所述各第一关键点为中心,根据预设的搜索半径,确定搜索空间,以作为该第一关键点的领域空间;
根据所述第一点云数据,将该第一关键点的领域空间内的预设数量个点,作为该第一关键点的第一临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点,包括:
将所述各候选匹配点为中心,根据预设的搜索半径,确定搜索空间,以作为该候选匹配点的领域空间;
根据所述第二点云数据,将该候选匹配点的领域空间内的预设数量个点,作为该候选匹配点的第二临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量;
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量,包括:
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量;
对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述方法还包括:
调整所述搜索半径,分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量。
本申请的另一方面,提供一种点云数据的处理装置,包括:
关键点确定单元,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
候选匹配点确定单元,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
临近点确定单元,用于根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点;
匹配点确定单元,用于根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述装置还包括:
点云配准单元,用于根据所述各第一关键点和与所述各第一关键点所配准的匹配点,对所述第一点云数据和所述第二点云数据进行配准处理。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述临近点确定单元,具体用于
对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点;以及
对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述临近点确定单元,具体用于
将所述各第一关键点为中心,根据预设的搜索半径,确定搜索空间,以作为该第一关键点的领域空间;以及
根据所述第一点云数据,将该第一关键点的领域空间内的预设数量个点,作为该第一关键点的第一临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述临近点确定单元,具体用于
将所述各候选匹配点为中心,根据预设的搜索半径,确定搜索空间,以作为该候选匹配点的领域空间;以及
根据所述第二点云数据,将该候选匹配点的领域空间内的预设数量个点,作为该候选匹配点的第二临近点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述匹配点确定单元,具体用于
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量;以及
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述匹配点确定单元,具体用于
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量;以及
对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述临近点确定单元,还用于
调整所述搜索半径;
所述匹配点确定单元,具体用于
分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量。
本发明的另一方面,提供一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行如上所述的方面和任一可能的实现方式的方法。
本发明的另一方面,提供一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行如上所述的方面和任一可能的实现方式的方法。
由上述技术方案可知,本申请实施例可以生成与第一点云数据中的关键点对应的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
上述方面或可能的实现方式所具有的其他效果将在下文中结合具体实施例加以说明。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。附图仅仅用于更好地理解本方案,不构成对本申请的限定。其中:
图1为本申请一实施例提供的点云数据的处理方法的流程示意图;
图2A为本申请另一实施例提供的点云数据的处理装置的结构示意图;
图2B为本申请另一实施例提供的点云数据的处理装置的结构示意图;
图3是用来实现本申请实施例提供的点云数据的处理方法的电子设备的示意图。
具体实施方式
以下结合附图对本申请的示范性实施例做出说明,其中包括本申请实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本申请的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本申请保护的范围。
需要说明的是,本申请实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer,PC)、MP3播放器、MP4播放器、可穿戴设备(例如,智能眼镜、智能手表、智能手环等)等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
图1为本申请一实施例提供的点云数据的处理方法的流程示意图,如图1所示。
101、获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点。
102、根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据。
103、根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点。
104、根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
需要说明的是,101~104的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(SoftwareDevelopment Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
这样,可以生成与第一点云数据中的关键点对应的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在申请中,第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据。在一些具体的场景中,第一点云数据可以称为源点云数据,第二点云数据可以称为目标点云数据。第一点云数据和第二点云数据可以为位姿固定的点云采集装置采集得到的。点云数据的处理方法运行于其上的电子设备可以从本地或其它电子设备处获取第一点云数据中各点的第一特征向量。上述第一特征向量可以是执行主体自身或者其它电子设备通过各种特征提取算法对第一点云数据提取得到的。
例如,具体可以将第一点云数据输入预先训练的特征提取模型,得到点的特征向量。
本实现方式中,上述特征提取模型用于表征点云数据中点和特征向量的对应关系。具体可以将第一点云数据输入该特征提取模型中,得到点云数据中各点的特征向量,此处可以称为语义特征向量。上述特征提取模型可以是人工神经网络,它从信息处理角度对人脑神经元网络进行抽象,建立某种简单模型,按不同的连接方式组成不同的网络。通常由大量的节点(或称神经元)之间相互联接构成,每个节点代表一种特定的输出函数,称为激励函数。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重(又叫做参数),网络的输出则以网络的连接方式、权重值和激励函数的不同而不同。人工神经网络通常包括多个层,每个层包括多个节点,通常,同一层的节点的权重可以相同,不同层的节点的权重可以不同,故人工神经网络的多个层的参数也可以不同。这里,可以将第一点云数据从人工神经网络的输入侧输入,依次经过人工神经网络中的各层的参数的处理(例如乘积、卷积等),并从人工神经网络的输出侧输出,输出侧输出的信息即为各点的特征向量。
在一些具体的应用场景中,上述特征提取模型可以为PointNet++。PointNet++是PointNet的改进版本。Pointnet的基本思想是对输入点云数据中的每一个点学习其对应的特征向量,之后再利用所有点的特征向量得到一个全局的点云特征。这里欠缺了对局部特征的提取及处理,没有考虑到点云数据的局部稀疏性。Pointnet++就上述问题提出了改进,解决了两个问题:如何对点云进行局部划分,如何对点云进行局部特征提取。Pointnet++是作者Charles R.Qi和Hao Su提出的一种网络结构。Pointnet++的结构在三维点云数据方面处于顶尖水准的水平,解决了如何处理采样不均匀的问题,也考虑了空间中点与点之间的距离度量,通过层级结构利用局部区域信息学习特征,网络结构更有效更鲁棒。
在得到第一点云数据中各点的第一特征向量之后,则可以根据第一点云数据中各点的第一特征向量,来确定第一点云数据的至少一个第一关键点。
本实施例中,第一关键点可以是具有某些特定特征的点,这些特定特征可以更方便实现点云配准。例如,第一关键点为静态对象的特征点。
例如,在得到第一点云数据中各点的第一特征向量之后,则可以对第一特征向量进行降维处理,以确定第一点云数据中点的权重,进而,则可以根据第一点云数据中点的权重,确定第一点云数据的第一关键点。
本实施例中,具体可以通过多种方式对第一特征向量进行降维处理。例如,对第一特征向量进行下采样,或者将第一特征向量输入卷积核数量较少的卷积层中。在对特征向量进行降维处理后,则可以根据降维处理之后的特征向量来确定各点的权重。并根据各点的权重,确定其中的第一关键点。
具体地,可以通过以下步骤来确定第一点云数据中各点的权重:将第一特征向量输入预先建立的关键点确定模型中,得到第一点云数据的一维特征向量;将一维特征向量中的值作为第一点云数据中点的权重。其中,关键点确定模型可以包括但不限于多层感知器,本实施例对此不进行特别限定。
具体地,可以通过以下步骤来确定第一关键点:将权重按照由大到小的顺序进行排序;确定排序中前预设数量个权重对应的点为第一点云数据的第一关键点。
在本实现方式中,由于第一点云数据和第二点云数据可以为不同视角获取的同一场景的点云数据,则可以根据第一点云数据所在坐标系与第二点云数据所在坐标系之间的转换参数(R,T),来将第一点云数据和第二点云数据统一到同一坐标系中。其中,R为两个坐标系的旋转矩阵,T为两个坐标系之间的平移向量。本实施例中,上述预设第一转换参数可以根据点云采集装置的位姿计算得到。可以将各第一关键点的坐标与第一转换参数相乘,得到第二点云数据中的各第二关键点。
可替换地,在其他一些场景中,第二点云数据也可以称为源点云数据,第一点云数据也可以称为目标点云数据,上述操作与前述场景中的类似。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,则可以根据所述各第一关键点和该第一关键点所对应的第二关键点,确定所述各第一关键点所配准的匹配点,具体可以采用如下技术方案。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,具体可以根据所述至少一个第一关键点、至少一个第二关键点以及预先建立的匹配点生成模型,确定所述各第一关键点所配准的匹配点。
其中,上述匹配点生成模型用于表征至少一个第一关键点、至少一个第二关键点与匹配点之间的关系。进一步地,上述匹配点生成模型还可以进一步用于表征第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。
本实施例中,匹配点生成模型可以是一个列表,上述列表中包括第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点与匹配点的对应关系。具体可以根据第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点检索上述列表,将对应的匹配点输出。
上述匹配点生成模型还可以是神经网络,可以将第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到匹配点。
上述匹配点生成模型还可以是神经网络与列表的组合。上述神经网络可以用于提取所输入的数据的特征。具体地,可以将第一特征向量、第二特征向量、至少一个第一关键点、至少一个第二关键点由神经网络的输入侧输入,经神经网络的各处理层(如卷积层、池化层等)处理后,由神经网络的输出侧输出,得到特征数据。然后,检索包括特征数据与匹配点对应关系的列表,得到匹配点。
本实施例中,上述各匹配点为与各第一关键点所配准的点。其可能全部为第二点云数据中的点,也可能部分为第二点云数据中的点,也可能全部不为第二点云数据中的点,本实施例对此不进行特别限定。
在得到各匹配点之后,还可以进一步根据至少一个第一关键点以及与至少一个第一关键点所配准的至少一个匹配点,对第一点云数据和第二点云数据进行配准处理。
本实施例的方法,可以生成与第一点云数据中的关键点所配准的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
在获得第一点云数据中的各第一关键点和该第一关键点所对应的第二点云数据中的第二关键点之后,可以将所述各第一关键点所对应的第二关键点作为候选匹配点,确定匹配点的一个实施例的流程可以包括以下步骤a~c:
步骤a、对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点。
具体地,对于每个第一关键点,可以首先根据预设的搜索半径,确定该第一关键点的预设数量个第一临近点。具体地,可以根据搜索半径,确定搜索空间。其中,所述搜索空间可以为第一点云数据的整个数据范围。
然后,在搜索空间内,首先确定第一点云数据中各点与该第一关键点之间的距离,再将得到的距离按照由小到大的顺序进行排序,将上述排序中的前预设数量个点作为该第一关键点的第一临近点。
例如,将该第一关键点为中心,根据预设的搜索半径,确定搜索空间,作为该第一关键点的领域空间,进而,根据所述第一点云数据,将领域空间内的预设数量个点作为该第一关键点的第一临近点。
步骤b、对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点。
具体地,对于每个候选匹配点,可以首先根据预设的搜索半径,确定该候选匹配点的预设数量个第二临近点。具体地,可以根据搜索半径,确定搜索空间。其中,所述搜索空间可以为第二点云数据的整个数据范围。
然后,在搜索空间内,首先确定第二点云数据中各点与该候选匹配点之间的距离,再将得到的距离按照由小到大的顺序进行排序,将上述排序中的前预设数量个点作为该候选匹配点的第二临近点。
例如,将该候选匹配点为中心,根据预设的搜索半径,确定搜索空间,作为该候选匹配点的领域空间,进而,根据所述第二点云数据,将领域空间内的预设数量个点作为该候选匹配点的第二临近点。
步骤c、根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
在确定各第一临近点、各第二临近点之后,具体可以根据第一特征向量、第二特征向量、第一临近点、第二临近点以及匹配点生成模型,确定至少一个匹配点。具体地,匹配点生成模型可以包括但不限于特征提取子模型和匹配点生成子模型。特征提取子模型用于提取所输入的数据的特征,匹配点生成子模型用于根据所输入的数据,生成匹配点。
具体地,具体可以根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量,进而,则可以根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量。然后,则可以根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
例如,具体可以根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量,进而,则可以对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
本实施例中,可以首先根据第一点云数据确定第一临近点的信息,并根据第二点云数据确定第二临近点的信息。其中,第一临近点的信息可以包括但不限于第一临近点的激光反射强度;第二临近点的信息可以包括但不限于第二临近点的激光反射强度,本实施例对此不进行特别限定。
在获得各第一临近点的信息和各第二临近点的信息之后,可以将第一特征向量、第二特征向量、第一临近点的信息、第二临近点的信息输入特征提取子模型,得到各第一关键点的第三特征向量和各第二关键点的各候选关键点的第四特征向量。上述特征提取子模型可以包括多层感知器,具体可以通过调整多层感知器中每层的神经元的数量,来调整输出的特征向量的维数。
本实施例中,通过特征提取子模型进一步提取第一点云数据和第二点云数据的局部特征,得到了更详细的特征向量,此处可以称为几何特征向量。这些特征向量可以更完整的表示第一点云数据和第二点云数据中对象的特征。从而使得最后得到的匹配度更精确。在一些具体的应用场景中,特征提取子模型可以是迷你PointNet(mini-PointNet)结构。
例如,对于至少一个第一关键点中的各第一关键点,根据该第一关键点的坐标以及该第一关键点的各第一临近点的坐标,确定各第一临近点相对于该第一关键点的相对坐标,即以该第一关键点作为坐标系原点,确定各第一临近点在该坐标系中的相对坐标。对于至少一个第二关键点中各第二关键点即各候选匹配点,根据该候选匹配点的坐标以及该候选匹配点的各第二临近点的坐标,确定各第二临近点相对于该候选匹配点的相对坐标,即以该候选匹配点作为坐标系原点,确定各第二临近点在该坐标系中的相对坐标。
在获得各第一临近点相对于该第一关键点的相对坐标,以及各第二临近点相对于该候选匹配点的相对坐标之后,则可以将第一特征向量、第二特征向量、所得到的第一临近点的相对坐标和激光反射强度、所得到的第二临近点的相对坐标和激光反射强度输入特征提取子模型中,得到各第一关键点的第三特征向量和各候选匹配点的第四特征向量。
进一步可选地,在确定各第一临近点的相对坐标和各第二临近点的相对坐标之后,还可以进一步对上述相对坐标进行归一化处理。然后,再将第一特征向量、第二特征向量、所得到的第一临近点的归一化坐标和激光反射强度、所得到的第二临近点的归一化坐标和激光反射强度输入特征提取子模型中,从而能够得到各第一关键点的第三特征向量和各候选匹配点的第四特征向量。
在获得各第一关键点的第三特征向量和各候选匹配点的第四特征向量之后,则可以将所得到的第三特征向量、第四特征向量以及候选匹配点输入匹配点生成子模型,确定至少一个匹配点。
在得到第三特征向量和第四特征向量后,可以将其与候选匹配点一起输入到匹配点生成子模型中,确定至少一个匹配点。
其中,上述匹配点生成子模型的工作原理为:对于至少一个第二关键点中的各第二关键点即各候选匹配点,可以根据各候选匹配点所对应的第一关键点的第三特征向量和该候选匹配点的第四特征向量,获得所述各候选匹配点的偏移向量,然后,根据所得到的偏移向量和所述至少一个候选匹配点,确定至少一个匹配点。
具体地,可以将各候选匹配点所对应的第一关键点的第三特征向量和该候选匹配点的第四特征向量做差值,根据差值确定各候选匹配点的偏移向量。然后,则可以根据所得到的偏移向量以及各候选匹配点,确定所述至少一个匹配点即各第一关键点所配准的匹配点。
上述匹配点生成子模型可以包括神经网络,例如,多层感知器(MLP)等,神经网络可以对输入的特征数据(即第四特征向量与第三特征向量的差值)进行降维处理,最终得到一维向量,以作为偏移向量。然后,根据各候选匹配点和各偏移向量,得到最终的匹配点。
本实施例中,由于点云数据的局部稀疏性,在第二点云数据中可能没有确切的、与第一点云数据对应的匹配点。本实施例采用匹配点生成子模型,从所提取的特征中生成与第一点云数据对应的匹配点,从而提高了匹配点的准确度。
进一步地,在该实现过程中,还可以进一步调整搜索半径,分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量,进而采用多层感知器(MLP)融合成最终的第三特征向量和第四特征向量。
这样,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
与上一实现过程相比,该实现过程中,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。另外,还无需采用三维神经网络进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
本实施例中,可以生成与第一点云数据中的关键点对应的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2A为本申请另一实施例提供的点云数据的处理装置的结构示意图,如图2A所示。本实施例的点云数据的处理装置200可以包括关键点确定单元201、候选匹配点确定单元202、临近点确定单元203和匹配点确定单元204。其中,关键点确定单元201,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;候选匹配点确定单元202,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;临近点确定单元203,用于根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点;匹配点确定单元204,用于根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
需要说明的是,本实施例所提供的点云数据的处理装置的执行主体的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,例如,网络侧的处理平台中的处理引擎或者分布式系统等,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行限定。
可选地,在本实施例的一个可能的实现方式中,如图2B所示,本实施例提供的点云数据的处理装置还可以进一步包括点云配准单元205,可以用于根据所述各第一关键点和与所述各第一关键点所配准的匹配点,对所述第一点云数据和所述第二点云数据进行配准处理。
可选地,在本实施例的一个可能的实现方式中,所述临近点确定单元203,具体可以用于对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点;以及对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点。
在一个具体的实现过程中,所述临近点确定单元203,具体可以用于将所述各第一关键点为中心,根据预设的搜索半径,确定搜索空间,以作为该第一关键点的领域空间;以及根据所述第一点云数据,将该第一关键点的领域空间内的预设数量个点,作为该第一关键点的第一临近点。
在另一个具体的实现过程中,所述临近点确定单元203,具体可以用于将所述各候选匹配点为中心,根据预设的搜索半径,确定搜索空间,以作为该候选匹配点的领域空间;以及根据所述第二点云数据,将该候选匹配点的领域空间内的预设数量个点,作为该候选匹配点的第二临近点。
可选地,在本实施例的一个可能的实现方式中,所述匹配点确定单元204,具体可以用于根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量;根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量;以及根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
具体地,所述匹配点确定单元204,具体可以用于根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量;以及对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
进一步地,所述临近点确定单元203,还可以进一步用于调整所述搜索半径;相应地,所述匹配点确定单元204,具体可以用于分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量。
需要说明的是,图1对应的实施例中的方法可以由本实施例提供的点云数据的处理装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,可以生成与第一点云数据中的关键点对应的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
根据本申请的实施例,本申请还提供了一种电子设备和一种存储有计算机指令的非瞬时计算机可读存储介质。
如图3所示,是用来实现本申请实施例提供的点云数据的处理方法的电子设备的示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本申请的实现。
如图3所示,该电子设备包括:一个或多个处理器301、存储器302,以及用于连接各部件的接口,包括高速接口和低速接口。各个部件利用不同的总线互相连接,并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理,包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如,耦合至接口的显示设备)上显示图形用户界面(GUI)的图形信息的指令。在其它实施方式中,若需要,可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样,可以连接多个电子设备,各个设备提供部分必要的操作(例如,作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图3中以一个处理器301为例。
存储器302即为本申请所提供的非瞬时计算机可读存储介质。其中,所述存储器存储有可由至少一个处理器执行的指令,以使所述至少一个处理器执行本申请所提供的点云数据的处理方法。本申请的非瞬时计算机可读存储介质存储计算机指令,该计算机指令用于使计算机执行本申请所提供的点云数据的处理方法。
存储器302作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及单元,如本申请实施例中的点云数据的处理方法对应的程序指令/单元(例如,附图2A所示的关键点确定单元201、候选匹配点确定单元202、临近点确定单元203和匹配点确定单元204)。处理器301通过运行存储在存储器302中的非瞬时软件程序、指令以及单元,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例中的点云数据的处理方法。
存储器302可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据实现本申请实施例提供的点云数据的处理方法的电子设备的使用所创建的数据等。此外,存储器302可以包括高速随机存取存储器,还可以包括非瞬时存储器,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中,存储器302可选包括相对于处理器301远程设置的存储器,这些远程存储器可以通过网络连接至实现本申请实施例提供的点云数据的处理方法的电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
点云数据的处理方法的电子设备还可以包括:输入装置303和输出装置304。处理器301、存储器302、输入装置303和输出装置304可以通过总线或者其他方式连接,图3中以通过总线连接为例。
输入装置303可接收输入的数字或字符信息,以及产生与实现本申请实施例提供的点云数据的处理方法的电子设备的用户设置以及功能控制有关的键信号输入,例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置304可以包括显示设备、辅助照明装置(例如,LED)和触觉反馈装置(例如,振动电机)等。该显示设备可以包括但不限于,液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中,显示设备可以是触摸屏。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用专用集成电路(ASIC)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令,并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的,术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如,磁盘、光盘、存储器、可编程逻辑装置(PLD)),包括,接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,阴极射线管(CRT)或者液晶显示器(LCD)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
根据本申请实施例的技术方案,可以生成与第一点云数据中的关键点对应的匹配点,从而能够提高第一点云数据和第二点云数据配准的精确度。
另外,采用本申请所提供的技术方案,通过回归方法即降维处理,直接获得第二点云数据中最终所生成的匹配点相对于第一点云数据中各第一关键点在第二点云数据中所直接对应的各候选匹配点的偏移向量,再进一步根据各候选匹配点和该候选匹配点的偏移向量,从而生成各第一关键点所配准的配准匹配点,能够有效提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需对第二点云数据的搜索空间绘制三维格网,进行基于各网格体素的候选匹配点的确定,有效降低了候选匹配点的数量和计算量,能够进一步提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,无需采用三维神经网络对三维格网进行降维处理,使得计算量大大降低,能够大幅提升点云配准技术的效率。
另外,采用本申请所提供的技术方案,能够有效地提高用户的体验。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本申请公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本申请保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等,均应包含在本申请保护范围之内。
Claims (17)
1.一种点云数据的处理方法,其特征在于,包括:
获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点;其中,所述根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点,包括:对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点;对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点;
根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据所述各第一关键点和与所述各第一关键点所配准的匹配点,对所述第一点云数据和所述第二点云数据进行配准处理。
3.根据权利要求1所述的方法,其特征在于,所述对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点,包括:
将所述各第一关键点为中心,根据预设的搜索半径,确定搜索空间,以作为该第一关键点的领域空间;
根据所述第一点云数据,将该第一关键点的领域空间内的预设数量个点,作为该第一关键点的第一临近点。
4.根据权利要求1所述的方法,其特征在于,所述对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点,包括:
将所述各候选匹配点为中心,根据预设的搜索半径,确定搜索空间,以作为该候选匹配点的领域空间;
根据所述第二点云数据,将该候选匹配点的领域空间内的预设数量个点,作为该候选匹配点的第二临近点。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点,包括:
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量;
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
6.根据权利要求5所述的方法,其特征在于,所述根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量,包括:
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量;
对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
7.根据权利要求5所述的方法,其特征在于,所述方法还包括:
调整所述搜索半径,分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量。
8.一种点云数据的处理装置,其特征在于,包括:
关键点确定单元,用于获取第一点云数据中各点的第一特征向量,根据所述各点的第一特征向量,确定所述第一点云数据中各点中的至少一个第一关键点;
候选匹配点确定单元,用于根据所述至少一个第一关键点,以及第二点云数据与所述第一点云数据之间的预设第一转换参数,获得所述至少一个第一关键点中各第一关键点所对应的所述第二点云数据的第二关键点,以作为候选匹配点;其中,所述第一点云数据和所述第二点云数据为不同视角获取的同一场景的点云数据;
临近点确定单元,用于根据所述第一点云数据、所述第二点云数据和预设的搜索半径,确定所述各第一关键点的至少一个第一临近点和该第一关键点所对应的候选匹配点的至少一个第二临近点,具体用于对于所述各第一关键点,根据所述第一点云数据和预设的搜索半径,确定该第一关键点的预设数量个第一临近点;以及对于所述各候选匹配点,根据所述第二点云数据和预设的搜索半径,确定该候选匹配点的预设数量个第二临近点;
匹配点确定单元,用于根据所述各第一关键点的各第一临近点和所述各候选匹配点的各第二临近点,确定所述各第一关键点所配准的匹配点。
9.根据权利要求8所述的装置,其特征在于,所述装置还包括:
点云配准单元,用于根据所述各第一关键点和与所述各第一关键点所配准的匹配点,对所述第一点云数据和所述第二点云数据进行配准处理。
10.根据权利要求8所述的装置,其特征在于,所述临近点确定单元,具体用于
将所述各第一关键点为中心,根据预设的搜索半径,确定搜索空间,以作为该第一关键点的领域空间;以及
根据所述第一点云数据,将该第一关键点的领域空间内的预设数量个点,作为该第一关键点的第一临近点。
11.根据权利要求8所述的装置,其特征在于,所述临近点确定单元,具体用于
将所述各候选匹配点为中心,根据预设的搜索半径,确定搜索空间,以作为该候选匹配点的领域空间;以及
根据所述第二点云数据,将该候选匹配点的领域空间内的预设数量个点,作为该候选匹配点的第二临近点。
12.根据权利要求8-11中任一项所述的装置,其特征在于,所述匹配点确定单元,具体用于
根据所述各第一关键点的第一临近点的信息,获得该第一关键点的第三特征向量,以及根据所述各候选匹配点的第二临近点的信息,获得所述各候选匹配点的第四特征向量;
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的偏移向量;以及
根据所述各候选匹配点和该候选匹配点的偏移向量,生成所述各第一关键点所配准的匹配点。
13.根据权利要求12所述的装置,其特征在于,所述匹配点确定单元,具体用于
根据所述第三特征向量和所述第四特征向量,获得所述各候选匹配点的匹配特征向量;以及
对所述各候选匹配点的匹配特征向量进行降维处理,以获得所述各候选匹配点的偏移向量。
14.根据权利要求12所述的装置,其特征在于,所述临近点确定单元,还用于
调整所述搜索半径;
所述匹配点确定单元,具体用于
分别利用所调整的各搜索半径,获得该搜索半径所对应的第三特征向量和第四特征向量。
15.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
16.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。
17.一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116037.6A CN111369602B (zh) | 2020-02-25 | 2020-02-25 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
EP21159007.0A EP3872763B1 (en) | 2020-02-25 | 2021-02-24 | Point cloud data processing method, apparatus, electronic device and computer readable storage medium |
US17/184,363 US11521370B2 (en) | 2020-02-25 | 2021-02-24 | Point cloud data processing method, apparatus, electronic device and computer readable storage medium |
JP2021029051A JP7131758B2 (ja) | 2020-02-25 | 2021-02-25 | 点群データ処理方法、装置、電子機器及び読み取り可能な記憶媒体 |
KR1020210025597A KR102615957B1 (ko) | 2020-02-25 | 2021-02-25 | 점군 데이터 처리방법, 장치, 전자기기 및 판독 가능 기록매체 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116037.6A CN111369602B (zh) | 2020-02-25 | 2020-02-25 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111369602A CN111369602A (zh) | 2020-07-03 |
CN111369602B true CN111369602B (zh) | 2023-10-27 |
Family
ID=71211145
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010116037.6A Active CN111369602B (zh) | 2020-02-25 | 2020-02-25 | 点云数据的处理方法、装置、电子设备及可读存储介质 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11521370B2 (zh) |
EP (1) | EP3872763B1 (zh) |
JP (1) | JP7131758B2 (zh) |
KR (1) | KR102615957B1 (zh) |
CN (1) | CN111369602B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111929694B (zh) * | 2020-10-12 | 2021-01-26 | 炬星科技(深圳)有限公司 | 点云匹配方法、设备及存储介质 |
CN115082562A (zh) * | 2021-03-15 | 2022-09-20 | 华为技术有限公司 | 一种外参标定方法、装置、设备、服务器及车载计算设备 |
CN113077501B (zh) * | 2021-04-02 | 2022-05-27 | 浙江大学计算机创新技术研究院 | 一种基于特征学习的端到端点云配准方法 |
CN113807366B (zh) * | 2021-09-16 | 2023-08-08 | 电子科技大学 | 一种基于深度学习的点云关键点提取方法 |
WO2023059089A1 (ko) * | 2021-10-06 | 2023-04-13 | 엘지전자 주식회사 | 포인트 클라우드 데이터 송신 방법, 포인트 클라우드 데이터 송신 장치, 포인트 클라우드 데이터 수신 방법 및 포인트 클라우드 데이터 수신 장치 |
CN114970743B (zh) * | 2022-06-17 | 2022-11-08 | 中国科学院地理科学与资源研究所 | 一种基于多模态深度学习的多源遥感降雨数据融合方法 |
CN115408549B (zh) * | 2022-08-31 | 2024-04-12 | 深圳前海瑞集科技有限公司 | 工件点云的过滤方法、装置、计算机可读介质及电子设备 |
CN115685133B (zh) * | 2022-12-30 | 2023-04-18 | 安徽蔚来智驾科技有限公司 | 自动驾驶车辆的定位方法、控制装置、存储介质及车辆 |
CN116596755A (zh) * | 2023-03-13 | 2023-08-15 | 深圳优立全息科技有限公司 | 一种点云数据的拼接方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228798A (zh) * | 2017-12-29 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 确定点云数据之间的匹配关系的方法和装置 |
CN109766903A (zh) * | 2018-08-13 | 2019-05-17 | 西安理工大学 | 一种基于曲面特征的点云模型曲面匹配方法 |
CN109767463A (zh) * | 2019-01-09 | 2019-05-17 | 重庆理工大学 | 一种三维点云自动配准方法 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4518092B2 (ja) | 2006-03-31 | 2010-08-04 | ソニー株式会社 | 物体認識装置、物体認識方法、物体認識プログラム、特徴量登録装置、特徴量登録方法、及び特徴量登録プログラム |
JP6230442B2 (ja) | 2014-02-20 | 2017-11-15 | 株式会社東芝 | 算出装置、方法及びプログラム |
CN107958482B (zh) * | 2016-10-17 | 2021-06-18 | 杭州海康威视数字技术股份有限公司 | 一种三维场景模型构建方法及装置 |
US10628949B2 (en) | 2017-12-18 | 2020-04-21 | Samsung Electronics Co., Ltd. | Image processing with iterative closest point (ICP) technique |
-
2020
- 2020-02-25 CN CN202010116037.6A patent/CN111369602B/zh active Active
-
2021
- 2021-02-24 EP EP21159007.0A patent/EP3872763B1/en active Active
- 2021-02-24 US US17/184,363 patent/US11521370B2/en active Active
- 2021-02-25 JP JP2021029051A patent/JP7131758B2/ja active Active
- 2021-02-25 KR KR1020210025597A patent/KR102615957B1/ko active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108228798A (zh) * | 2017-12-29 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 确定点云数据之间的匹配关系的方法和装置 |
CN109766903A (zh) * | 2018-08-13 | 2019-05-17 | 西安理工大学 | 一种基于曲面特征的点云模型曲面匹配方法 |
CN109767463A (zh) * | 2019-01-09 | 2019-05-17 | 重庆理工大学 | 一种三维点云自动配准方法 |
CN110246166A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
CN110246167A (zh) * | 2019-06-14 | 2019-09-17 | 北京百度网讯科技有限公司 | 用于处理点云数据的方法和装置 |
Non-Patent Citations (3)
Title |
---|
Weixin Lu,and etc.DeepICP:An End-to-End Deep Neural Network for 3D Point Cloud Registration.《arXiv CoRR-arXiv》.2019,全文. * |
吕强 ; 王晓龙 ; 刘峰 ; 倪佩佩 ; .基于S-NARF算法的点云图像特征提取与描述.科技导报.2013,(第13期),全文. * |
胡修祥 ; 张良 ; .结合NARF特征的改进型3D-NDT多视点云配准.信号处理.2015,(第12期),全文. * |
Also Published As
Publication number | Publication date |
---|---|
KR102615957B1 (ko) | 2023-12-19 |
US11521370B2 (en) | 2022-12-06 |
CN111369602A (zh) | 2020-07-03 |
US20210264197A1 (en) | 2021-08-26 |
EP3872763A1 (en) | 2021-09-01 |
EP3872763B1 (en) | 2024-02-14 |
JP7131758B2 (ja) | 2022-09-06 |
JP2021136037A (ja) | 2021-09-13 |
KR20210108906A (ko) | 2021-09-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111369602B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN111488824B (zh) | 运动提示方法、装置、电子设备和存储介质 | |
CN108875524B (zh) | 视线估计方法、装置、系统和存储介质 | |
CN111860167B (zh) | 人脸融合模型获取及人脸融合方法、装置及存储介质 | |
CN111259671B (zh) | 文本实体的语义描述处理方法、装置及设备 | |
CN112862874B (zh) | 点云数据匹配方法、装置、电子设备及计算机存储介质 | |
CN112070207A (zh) | 一种模型训练方法及装置 | |
CN111539347B (zh) | 用于检测目标的方法和装置 | |
CN115222896B (zh) | 三维重建方法、装置、电子设备及计算机可读存储介质 | |
Pantuwong et al. | A novel template‐based automatic rigging algorithm for articulated‐character animation | |
CN115661336A (zh) | 一种三维重建方法及相关装置 | |
CN111369603B (zh) | 点云配准技术的评估方法、装置、电子设备及可读存储介质 | |
CN111738292B (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
CN112488126A (zh) | 特征图处理方法、装置、设备以及存储介质 | |
CN111582139B (zh) | 一种排污口识别方法、装置、电子设备和存储介质 | |
CN111738293A (zh) | 点云数据的处理方法、装置、电子设备及可读存储介质 | |
Xu et al. | 3D joints estimation of the human body in single-frame point cloud | |
CN112001369B (zh) | 船舶烟囱的检测方法、装置、电子设备及可读存储介质 | |
CN114707070A (zh) | 一种用户行为预测方法及其相关设备 | |
CN112200169A (zh) | 用于训练模型的方法、装置、设备以及存储介质 | |
CN112037315A (zh) | 一种局部描述子的生成方法、模型生成的方法及装置 | |
CN111353581B (zh) | 轻量模型获取方法、装置、电子设备及存储介质 | |
CN116012873B (zh) | 一种行人重识别方法、装置、电子设备及存储介质 | |
CN116778529A (zh) | 用于遮挡的轻量级人体姿态估计方法、装置、电子设备及存储介质 | |
AU2021455408A1 (en) | Three dimensional hand pose estimator |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20211019 Address after: 105 / F, building 1, No. 10, Shangdi 10th Street, Haidian District, Beijing 100085 Applicant after: Apollo Intelligent Technology (Beijing) Co.,Ltd. Address before: 2 / F, baidu building, 10 Shangdi 10th Street, Haidian District, Beijing 100085 Applicant before: BEIJING BAIDU NETCOM SCIENCE AND TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
GR01 | Patent grant | ||
GR01 | Patent grant |