CN106097334A - 基于深度学习的点云配准方法 - Google Patents
基于深度学习的点云配准方法 Download PDFInfo
- Publication number
- CN106097334A CN106097334A CN201610404412.0A CN201610404412A CN106097334A CN 106097334 A CN106097334 A CN 106097334A CN 201610404412 A CN201610404412 A CN 201610404412A CN 106097334 A CN106097334 A CN 106097334A
- Authority
- CN
- China
- Prior art keywords
- network
- registration
- point cloud
- cloud
- degree
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Image Analysis (AREA)
Abstract
本发明涉及一种基于深度学习的点云配准方法,鉴于传统的点云配准算法计算复杂度高,不适于在计算资源有限的设备上运行,提出一种基于深度学习的点云配准方法。配准过程为:将点云转换成深度图像表示;使用堆叠卷积自动编码器网络提取深度图像的特征;利用提取到的深度图像特征通过配准网络计算点云的旋转参数;其中的自动编码器网络和配准网络需要在配准之前进行训练以得到网络参数,得到参数后不需要在使用时进行训练。本发明实现了点云的优化配准,并具备配准效率高的特点,可应用于三维模型扫描、三维重建和物体跟踪等领域。
Description
方法领域
本发明属于计算机视觉领域,涉及一种基于深度学习的点云配准方法,可应用于三维模型扫描、三维重建和物体跟踪等领域。
背景方法
点云配准方法用于解决对一个或多个三维物体在不同视角下的三维模型之间的位姿关系的估计问题。其广泛应用于三维模型扫描、三维重建和物体跟踪等领域。点云配准的过程一般可描述为估计两片点云之间的旋转和平移参数。
在过去几十年中,大量点云配准算法被提出,其中Besl等人提出的迭代最近点(Iterative Closest Point,ICP)算法最富代表性。ICP是一种基于自由形态曲面的配准算法,它具有简单易行的优点,但ICP算法的效率不高,计算的复杂度随着点云的规模增大而显著提高,且ICP算法对噪声点或异常点敏感,噪声点或异常点容易导致该算法失效。
为解决ICP算法的问题,人们在此基础上做出了许多改进。有学者提出了一种迭代最近线方法(Iterative Closest Line,ICL),通过直接对两片点云中的点连线并查找对应线段进行配准,但是线段之间的对应关系可能存在缺陷。另有学者提出通过GPU等硬件进行算法的加速,但此方法未解决原点云配准算法的缺陷,不能满足在实际应用场景下的需求。因此需要一种有效的点云配准算法,能够计算两片点云之间的相对位姿关系并满足:(1)算法的适应性强,对噪声点和异常点不敏感;(2)算法的计算速度快,尽可能满足实时配准三维点云模型的要求。
发明内容
为克服现有点云配准算法存在的不足,本发明提出一种基于深度学习的点云配准方法,通过堆叠卷积自动编码器网络提取点云的特征,并利用配准网络从提取到的特征中计算出点云配准的参数,旨在提高点云配准算法的计算速度和适应性。
为此目的,本发明提出了一种基于深度学习的点云配准方法,包括以下步骤:
第一步:获取训练点云和测试点云的深度图像。对于一片有限大小的点云,计算点云在观测方向上的深度图像;
第二步:训练堆叠卷积自动编码器网络,使之能够从训练点云的深度图像中提取深度图像的特征;
第三步:训练配准网络,使之能够利用堆叠卷积自动编码器网络提取的两片训练点云的深度图像的特征计算两片训练点云之间的配准参数;
第四步:精调堆叠卷积自动编码器网络和配准网络的网络参数,使之得到更好的配准效果;
第五步:利用训练好的堆叠卷积自动编码器网络和配准网络,计算两片测试点云之间的配准参数。
优选的,所述的堆叠卷积自动编码器网络是一种深度学习的神经网络结构。它由卷积自动编码器堆叠而成,即将上一层卷积自动编码器的隐含层作为下一层卷积自动编码器的输入。卷积自动编码器,是一种采用卷积核的自动编码器,利用不同的卷积核进行卷积操作提取深度图像的不同特征。本发明在实现堆叠卷积自动编码器网络的过程中对隐层编码施加稀疏限制,使得其对输入的编码更具表现力。
优选的,所述的配准网络是多层全连接的神经网络。配准网络的输入是堆叠卷积自动编码器网络提取的两片点云的深度图像的特征,输出是两片点云之间的配准参数。
优选的,所述的训练是指优化堆叠卷积自动编码器网络或配准网络的网络参数,使之能够完成相应的任务。
优选的,所述的精调是指同时优化堆叠卷积自动编码器网络和配准网络的网络参数,使之得到更好的配准效果。
优选的,所述的配准参数是指对点云进行配准所用到的参数。包括但不限于在空间某方向上的旋转角度和在空间某方向上的平移距离。
优选的,利用堆叠卷积自动编码器网络提取点云的特征,并利用配准网络从提取到的特征中计算出点云配准的参数。
有益效果:与现有方法相比,本方法利用深度学习方法提取点云的特征并利用提取到的特征进行点云的配准,其优点在于算法的适应性强,对噪声点和异常点不敏感,算法的实现较为简单,且算法的计算速度快,能尽可能满足实时配准三维点云模型的要求。
附图说明
通过参考附图会更加清楚的理解本发明的特征和优点,附图是示意性的而不应理解为对本发明进行任何限制,在附图中:
图1为本发明实施例提供的基于深度学习的点云配准方法的流程示意图;
图2为本发明实施例提供的配准网络结构示意图。
具体实施方式
下面将结合附图对本发明的实施例进行详细描述。
如图1所示,本发明实施例提供了一种基于深度学习的点云配准方法,包括以下步骤:
第一步:对于一片有限大小的点云,计算点云在观测方向上的深度图像,其中深度图像上点的灰度表示该点距观测点的距离,灰度越深表示距观测点越远,灰度越浅表示距观测点越近。具体的距离与灰度的映射公式可以依据实验条件具体确定。
第二步:训练堆叠卷积自动编码器提取深度图像的特征。堆叠卷积自动编码器是一种深度学习的神经网络结构。它由卷积自动编码器堆叠而成。卷积自动编码器利用不同的卷积核提取深度图像的不同特征。在卷积自动编码器中二维隐层h中第i,j个元素为:
其中x为二维输入矩阵,Lw为深度图像的长宽。
对于自动编码器,训练的目标是获得最小化误差函数的参数W,b1,b2:
其中f为激活函数,通常选择Sigmoid函数,即:
本发明在实现过程中对隐层编码施加稀疏限制,使得其对输入的编码更具表现力,即训练目标为:
其中KL为Kullback-Leibler散度,其定义为:
其中为隐层节点的平均值,即:
ρ为一个充分小的数。
本发明对自动编码器进行堆叠,即使用上一层自动编码器的隐层作为下一层自动编码器的输入,通过多层自动编码器更好地提取深度图像的特征。
第三步:如图2所示,训练配准网络利用堆叠卷积自动编码器得到的两片点云的特征来计算点云的旋转参数。其中用到的配准网络,是多层全连接的网络:
{α,β,γ}=MLPθ(x1,x2) (7)
网络以两片点云提取到的特征作为输入,输出三个方向的旋转角度。实际应用中,可另其不仅输出三个方向的旋转角度,同时输出三个方向的相对位移。
通过配准网络的输出与真实配准参数计算均方误差,得到配准网络的训练信号,以此训练配准网络的参数θ。
第四步:精调堆叠卷积自动编码器和配准网络的参数,使之得到更好的配准效果。利用配准的误差信号,同时优化堆叠卷积自动编码器和配准网络的参数,使之能更好的配合,减小配准的误差。
第五步:利用训练好的堆叠卷积自动编码器网络和配准网络,计算两片点云之间的配准参数。先通过堆叠卷积自动编码器网络计算两片点云的深度图像的特征,再通过配准网络得到两片点云的配准参数。在此过程中不对网络的参数进行优化调整。
虽然结合附图描述了本发明的实施方式,但是本领域技术人员可以在不脱离本发明的精神和范围的情况下做出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。
Claims (7)
1.一种基于深度学习的点云配准方法,其特征在于,包括以下步骤:
第一步:获取训练点云和测试点云的深度图像;对于一片有限大小的点云,计算点云在观测方向上的深度图像;
第二步:训练堆叠卷积自动编码器网络,使之能够从训练点云的深度图像中提取深度图像的特征;
第三步:训练配准网络,使之能够利用堆叠卷积自动编码器网络提取的两片训练点云的深度图像的特征计算两片训练点云之间的配准参数;
第四步:精调堆叠卷积自动编码器网络和配准网络的网络参数,使之得到更好的配准效果;
第五步:利用训练好的堆叠卷积自动编码器网络和配准网络,计算两片测试点云之间的配准参数。
2.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,所述的堆叠卷积自动编码器网络是一种深度学习的神经网络结构;它由卷积自动编码器堆叠而成,即将上一层卷积自动编码器的隐含层作为下一层卷积自动编码器的输入;卷积自动编码器,是一种采用卷积核的自动编码器,利用不同的卷积核进行卷积操作提取深度图像的不同特征;本发明在实现堆叠卷积自动编码器网络的过程中对隐层编码施加稀疏限制,使得其对输入的编码更具表现力。
3.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,所述的配准网络是多层全连接的神经网络;配准网络的输入是堆叠卷积自动编码器网络提取的两片点云的深度图像的特征,输出是两片点云之间的配准参数。
4.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,所述的训练是指优化堆叠卷积自动编码器网络或配准网络的网络参数,使之能够从训练点云的深度图像中提取深度图像的特征或计算两片训练点云之间的配准参数。
5.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,所述的精调是指同时优化堆叠卷积自动编码器网络和配准网络的网络参数,使之得到更好的配准效果。
6.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,所述的配准参数是指对点云进行配准所用到的参数;包括但不限于在空间某方向上的旋转角度和在空间某方向上的平移距离。
7.根据权利要求1所述的基于深度学习的点云配准方法,其特征在于,利用堆叠卷积自动编码器网络提取点云的特征,并利用配准网络从提取到的特征中计算出点云配准的参数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610404412.0A CN106097334B (zh) | 2016-06-08 | 2016-06-08 | 基于深度学习的点云配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610404412.0A CN106097334B (zh) | 2016-06-08 | 2016-06-08 | 基于深度学习的点云配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106097334A true CN106097334A (zh) | 2016-11-09 |
CN106097334B CN106097334B (zh) | 2023-09-12 |
Family
ID=57228324
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610404412.0A Active CN106097334B (zh) | 2016-06-08 | 2016-06-08 | 基于深度学习的点云配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106097334B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106651926A (zh) * | 2016-12-28 | 2017-05-10 | 华东师范大学 | 一种基于区域配准的深度点云三维重建方法 |
CN106709943A (zh) * | 2017-01-12 | 2017-05-24 | 重庆邮电大学 | 一种基于最优传输的点云配准方法 |
CN108596961A (zh) * | 2018-04-17 | 2018-09-28 | 浙江工业大学 | 基于三维卷积神经网络的点云配准方法 |
TWI657407B (zh) * | 2017-12-07 | 2019-04-21 | 財團法人資訊工業策進會 | 利用遞歸神經網路的三維點雲追蹤裝置及方法 |
CN109919145A (zh) * | 2019-01-21 | 2019-06-21 | 江苏徐工工程机械研究院有限公司 | 一种基于3d点云深度学习的矿卡检测方法及系统 |
CN111178138A (zh) * | 2019-12-04 | 2020-05-19 | 国电南瑞科技股份有限公司 | 基于激光点云和双目视觉的配网导线作业点检测方法及装置 |
CN111386551A (zh) * | 2017-10-19 | 2020-07-07 | 交互数字Vc控股公司 | 点云的预测编码、解码的方法和设备 |
CN111612778A (zh) * | 2020-05-26 | 2020-09-01 | 上海交通大学 | 一种术前cta与术中x光冠状动脉配准方法 |
CN112991407A (zh) * | 2021-04-02 | 2021-06-18 | 浙江大学计算机创新技术研究院 | 一种基于非局部操作的点云配准方法 |
US11477481B2 (en) | 2018-04-11 | 2022-10-18 | Interdigital Vc Holdings, Inc. | Method and device for coding the geometry of a point cloud |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070031064A1 (en) * | 2004-06-10 | 2007-02-08 | Wenyi Zhao | Method and apparatus for aligning video to three-dimensional point clouds |
CN104463826A (zh) * | 2013-09-18 | 2015-03-25 | 镇江福人网络科技有限公司 | 一种新的点云并行Softassign配准算法 |
-
2016
- 2016-06-08 CN CN201610404412.0A patent/CN106097334B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070031064A1 (en) * | 2004-06-10 | 2007-02-08 | Wenyi Zhao | Method and apparatus for aligning video to three-dimensional point clouds |
CN104463826A (zh) * | 2013-09-18 | 2015-03-25 | 镇江福人网络科技有限公司 | 一种新的点云并行Softassign配准算法 |
Non-Patent Citations (2)
Title |
---|
田慧等: "深度图像自动配准点云的方法研究", 《测绘科学》 * |
詹曙等: "SICP配准的三维人脸建模", 《光电工程》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106651926A (zh) * | 2016-12-28 | 2017-05-10 | 华东师范大学 | 一种基于区域配准的深度点云三维重建方法 |
CN106709943B (zh) * | 2017-01-12 | 2019-09-24 | 重庆邮电大学 | 一种基于最优传输的点云配准方法 |
CN106709943A (zh) * | 2017-01-12 | 2017-05-24 | 重庆邮电大学 | 一种基于最优传输的点云配准方法 |
CN111386551A (zh) * | 2017-10-19 | 2020-07-07 | 交互数字Vc控股公司 | 点云的预测编码、解码的方法和设备 |
TWI657407B (zh) * | 2017-12-07 | 2019-04-21 | 財團法人資訊工業策進會 | 利用遞歸神經網路的三維點雲追蹤裝置及方法 |
CN109901189A (zh) * | 2017-12-07 | 2019-06-18 | 财团法人资讯工业策进会 | 利用递归神经网络的三维点云跟踪装置及方法 |
CN109901189B (zh) * | 2017-12-07 | 2023-07-07 | 财团法人资讯工业策进会 | 利用递归神经网络的三维点云跟踪装置及方法 |
US11477481B2 (en) | 2018-04-11 | 2022-10-18 | Interdigital Vc Holdings, Inc. | Method and device for coding the geometry of a point cloud |
US11838547B2 (en) | 2018-04-11 | 2023-12-05 | Interdigital Vc Holdings, Inc. | Method and device for encoding the geometry of a point cloud |
CN108596961A (zh) * | 2018-04-17 | 2018-09-28 | 浙江工业大学 | 基于三维卷积神经网络的点云配准方法 |
CN108596961B (zh) * | 2018-04-17 | 2021-11-23 | 浙江工业大学 | 基于三维卷积神经网络的点云配准方法 |
CN109919145A (zh) * | 2019-01-21 | 2019-06-21 | 江苏徐工工程机械研究院有限公司 | 一种基于3d点云深度学习的矿卡检测方法及系统 |
CN111178138A (zh) * | 2019-12-04 | 2020-05-19 | 国电南瑞科技股份有限公司 | 基于激光点云和双目视觉的配网导线作业点检测方法及装置 |
CN111612778A (zh) * | 2020-05-26 | 2020-09-01 | 上海交通大学 | 一种术前cta与术中x光冠状动脉配准方法 |
CN112991407A (zh) * | 2021-04-02 | 2021-06-18 | 浙江大学计算机创新技术研究院 | 一种基于非局部操作的点云配准方法 |
Also Published As
Publication number | Publication date |
---|---|
CN106097334B (zh) | 2023-09-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106097334A (zh) | 基于深度学习的点云配准方法 | |
CN104459668B (zh) | 基于深度学习网络的雷达目标识别方法 | |
CN110531313B (zh) | 一种基于深度神经网络回归模型的近场信号源定位方法 | |
US11182644B2 (en) | Method and apparatus for pose planar constraining on the basis of planar feature extraction | |
US20200265597A1 (en) | Method for estimating high-quality depth maps based on depth prediction and enhancement subnetworks | |
EP4131172A1 (en) | Deep convolutional neural network for 3d reconstruction of a real object | |
CN101251926B (zh) | 一种基于局部轮廓协方差矩阵的遥感图像配准方法 | |
CN105809693A (zh) | 基于深度神经网络的sar图像配准方法 | |
CN110060286B (zh) | 一种单目深度估计方法 | |
CN106295637A (zh) | 一种基于深度学习与强化学习的车辆识别方法 | |
CN104240212B (zh) | 基于目标特征的isar图像融合方法 | |
CN105844627A (zh) | 一种基于卷积神经网络的海面目标图像背景抑制方法 | |
CN106204620A (zh) | 一种基于微视觉的触觉三维力检测方法 | |
CN104751472A (zh) | 基于b样条小波和深度神经网络的织物疵点检测方法 | |
CN111681178A (zh) | 一种基于知识蒸馏的图像去雾方法 | |
CN106940439A (zh) | 基于无线声传感器网络的k均值聚类加权声源定位方法 | |
CN104181513B (zh) | 一种雷达天线阵元位置的校正方法 | |
CN106295503A (zh) | 区域卷积神经网络的高分辨率遥感影像舰船目标提取方法 | |
CN105678757A (zh) | 一种物体位移测量方法 | |
CN104834931A (zh) | 一种基于小波变换的改进的尺度不变特征匹配算法 | |
CN116776208B (zh) | 地震波分类模型的训练方法、地震选波方法、设备及介质 | |
Gwon et al. | Development of a side scan sonar module for the underwater simulator | |
CN110930306A (zh) | 一种基于非局部感知的深度图超分辨率重建网络构建方法 | |
CN106971189A (zh) | 一种低分辨率含噪星图识别方法 | |
CN112766381B (zh) | 有限样本下属性引导的sar图像生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |