CN109613557A - 一种补全激光雷达三维点云目标的系统及方法 - Google Patents

一种补全激光雷达三维点云目标的系统及方法 Download PDF

Info

Publication number
CN109613557A
CN109613557A CN201811432689.XA CN201811432689A CN109613557A CN 109613557 A CN109613557 A CN 109613557A CN 201811432689 A CN201811432689 A CN 201811432689A CN 109613557 A CN109613557 A CN 109613557A
Authority
CN
China
Prior art keywords
point
feature
layer
matrix
global
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811432689.XA
Other languages
English (en)
Other versions
CN109613557B (zh
Inventor
汪明明
严璐
刘磊
顾昕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing LES Information Technology Co. Ltd
Original Assignee
Nanjing LES Information Technology Co. Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing LES Information Technology Co. Ltd filed Critical Nanjing LES Information Technology Co. Ltd
Priority to CN201811432689.XA priority Critical patent/CN109613557B/zh
Publication of CN109613557A publication Critical patent/CN109613557A/zh
Application granted granted Critical
Publication of CN109613557B publication Critical patent/CN109613557B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明提供一种补全激光雷达三维点云目标的系统及方法,通过三层共享多层感知器、三层逐点最大池化层获得激光雷达目标的全局特征,使得激光雷达扫描获得的物体点云分布更稠密均匀,物体轮廓外形细节更完整,以实现检测识别及测量计算的目的。

Description

一种补全激光雷达三维点云目标的系统及方法
技术领域
本专利属于激光雷达物体检测识别技术领域。
背景技术
激光雷达由于受环境因素影响小,能够输出三维信息,在无人机、无人驾驶汽车等场景下应用越来越广泛。这使得激光雷达的研发与相应的数据处理技术受到业界关注。激光雷达输出的是稀疏的三维点云数据,扫描物体残缺不全,这对目标检测识别,目标尺寸测量造成很大障碍。现有技术利用激光雷达扫描获取物体外形,通常对外形不做补全处理,从而使得目标尺寸仍不够准确。还有通过摄像头获取物体图像数据,然后通过图像算法实现检测识别等目的。但是摄像头受环境因素影响很大,如雨雾天,夜晚等。另外,图像数据为二维信息,缺少深度信息,仍需借助雷达等传感器获取距离角度等信息。
发明内容
发明目的:本发明的目的是提供一种补全激光雷达三维点云目标的系统及方法,使得激光雷达扫描获得的物体点云分布更稠密均匀,物体轮廓外形细节更完整,以实现检测识别及测量计算等目的。
技术方案:为实现上述发明目的,本发明补全激光雷达三维点云目标的系统可采用以下技术方案:
一种补全激光雷达三维点云目标的系统,包括第一编码层、第二编码层、第三编码层;
第一编码层包括第一共享多层感知器、第一逐点最大池化层;第二编码层包括第二共享多层感知器、第二逐点最大池化层;第三编码层包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
进一步的,在解码阶段,将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
进一步的,还包括机翼参数补全模块,该机翼参数补全模块获取分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。
本发明补全激光雷达三维点云目标的方法可采用以下技术方案:
一种补全激光雷达三维点云目标的方法,
设置第一编码层,包括第一共享多层感知器、第一逐点最大池化层;
设置第二编码层,包括第二共享多层感知器、第二逐点最大池化层;
设置第三编码层,包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
进一步的,在解码阶段,将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
进一步的,分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。
有益效果:本发明通过修改的网络结构,改进网络提取特征的能力,在补全物体外形的基础上,增强物体点云分布稠密性与均匀性,物体轮廓特征细节部分补全效果更好。
附图说明
图1为本发明补全方法流程示意图。
具体实施方式
实施例一
本实施例基于IEEE国际计算机视觉与模式识别会议2017论文集中:
《C.R.Qi,H.Su,K.Mo,and L.J.Guibas.Pointnet:Deep learning on point setsfor 3d classification and segmentation.Proc.Computer Vision and PatternRecognition(CVPR),IEEE,1(2):4,2017》提出的方案改进。
本实施例一种补全激光雷达三维点云目标的系统,包括第一编码层、第二编码层、第三编码层;
第一编码层包括第一共享多层感知器、第一逐点最大池化层;第二编码层包括第二共享多层感知器、第二逐点最大池化层;第三编码层包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
在解码阶段,与文献《C.R.Qi,H.Su,K.Mo,and L.J.Guibas.Pointnet:Deeplearning on point sets for 3d classification and segmentation.Proc.ComputerVision and Pattern Recognition(CVPR),IEEE,1(2):4,2017》中的解码方式一致,即将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
测试部分,测量机翼宽度,准确补全机翼宽度对测量准确度影响很大,这就要求算法对物体轮廓细节部分还原效果要好。利用补全好的飞机外形测量机翼宽度。通过机翼参数补全模块获取分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。
实施例二
本实施例提供一种补全激光雷达三维点云目标的方法:
设置第一编码层,包括第一共享多层感知器、第一逐点最大池化层;
设置第二编码层,包括第二共享多层感知器、第二逐点最大池化层;
设置第三编码层,包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
在解码阶段,与文献《C.R.Qi,H.Su,K.Mo,and L.J.Guibas.Pointnet:Deeplearning on point sets for 3d classification and segmentation.Proc.ComputerVision and Pattern Recognition(CVPR),IEEE,1(2):4,2017》中的解码方式一致,即将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
以及,分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。

Claims (6)

1.一种补全激光雷达三维点云目标的系统,其特征在于,包括第一编码层、第二编码层、第三编码层;
第一编码层包括第一共享多层感知器、第一逐点最大池化层;第二编码层包括第二共享多层感知器、第二逐点最大池化层;第三编码层包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
2.根据权利要求1所述补全激光雷达三维点云目标的系统,其特征在于,
在解码阶段,将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
3.根据权利要求1所述补全激光雷达三维点云目标的系统,其特征在于,还包括机翼参数补全模块,该机翼参数补全模块获取分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。
4.一种补全激光雷达三维点云目标的方法,其特征在于,
设置第一编码层,包括第一共享多层感知器、第一逐点最大池化层;
设置第二编码层,包括第二共享多层感知器、第二逐点最大池化层;
设置第三编码层,包括第三共享多层感知器、第三逐点最大池化层;
在第一编码层中,输入数据包括m个点三维坐标,数据格式为m×3的矩阵P,该矩阵的每一行为一个点的三维坐标pk=(x,y,z);输入数据首先经过由第一共享多层感知器获取点特征矩阵Point feature i,每点特征为f1k;然后,点特征矩阵Point feature i通过第一最大池化层获取全局特征矩阵Global feature i,即g1k=maxk=1,...,m{Fkj}for j=1,...n;
在第二编码层中,首先将点特征矩阵Point feature i和点全局特征矩阵Globalfeature i连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f1k g1k];然后,将串联特征作为下一层输入,依次通过第二共享多层感知器(Shared MLP)和第二逐点最大池化层最终获得全局特征矩阵Global feature ii;
在第三编码层中,首先将点特征矩阵Point feature i、Point feature ii与全局特征矩阵Global feature ii串联连接获得扩展点特征矩阵它的每一行为一个点的串联特征[f2k g1k g2k],然后,将串联特征作为下一层输入,依次通过第三共享多层感知器和第三逐点最大池化层,最终获得全局特征。
5.根据权利要求4所述补全激光雷达三维点云目标的方法,其特征在于,
在解码阶段,将获得的特征Global feature iii通过全连接层解码重采样获得飞机整体完整轮廓,通过基于折叠的解码操作平滑物体表面。
6.根据权利要求4所述补全激光雷达三维点云目标的方法,其特征在于,分别与飞机两侧最宽处接触的两束激光束长度及两束激光束之间的夹角,获取机翼长度L:
其中,a为其中一束激光束的长度,b为另一束激光束的长度c为两束激光束之间的夹角。
CN201811432689.XA 2018-11-28 2018-11-28 一种补全激光雷达三维点云目标的系统及方法 Active CN109613557B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811432689.XA CN109613557B (zh) 2018-11-28 2018-11-28 一种补全激光雷达三维点云目标的系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811432689.XA CN109613557B (zh) 2018-11-28 2018-11-28 一种补全激光雷达三维点云目标的系统及方法

Publications (2)

Publication Number Publication Date
CN109613557A true CN109613557A (zh) 2019-04-12
CN109613557B CN109613557B (zh) 2022-04-29

Family

ID=66005653

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811432689.XA Active CN109613557B (zh) 2018-11-28 2018-11-28 一种补全激光雷达三维点云目标的系统及方法

Country Status (1)

Country Link
CN (1) CN109613557B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021082745A1 (zh) * 2019-10-31 2021-05-06 浙江商汤科技开发有限公司 信息补全方法、车道线识别方法、智能行驶方法及相关产品
CN112767554A (zh) * 2021-04-12 2021-05-07 腾讯科技(深圳)有限公司 一种点云补全方法、装置、设备及存储介质
CN113160068A (zh) * 2021-02-23 2021-07-23 清华大学 基于图像的点云补全方法及系统
CN113495278A (zh) * 2020-04-02 2021-10-12 北京京东乾石科技有限公司 用于增强点云数据的方法和装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000242785A (ja) * 1999-02-19 2000-09-08 Ricoh Co Ltd 3次元形状情報生成方法及び装置並びに記録媒体
CN102175182A (zh) * 2011-01-27 2011-09-07 浙江大学宁波理工学院 结构光三维测量装置及其完整点云数据的获取方法
CN104063898A (zh) * 2014-06-30 2014-09-24 厦门大学 一种三维点云自动补全方法
US20170046845A1 (en) * 2014-04-24 2017-02-16 Cathx Research Ltd 3d point clouds
CN108171796A (zh) * 2017-12-25 2018-06-15 燕山大学 一种基于三维点云的巡检机器人视觉系统及控制方法
CN108692656A (zh) * 2017-04-07 2018-10-23 中国人民解放军信息工程大学 一种激光扫描数据获取方法及装置
CN108898112A (zh) * 2018-07-03 2018-11-27 东北大学 一种近红外人脸活体检测方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000242785A (ja) * 1999-02-19 2000-09-08 Ricoh Co Ltd 3次元形状情報生成方法及び装置並びに記録媒体
CN102175182A (zh) * 2011-01-27 2011-09-07 浙江大学宁波理工学院 结构光三维测量装置及其完整点云数据的获取方法
US20170046845A1 (en) * 2014-04-24 2017-02-16 Cathx Research Ltd 3d point clouds
CN104063898A (zh) * 2014-06-30 2014-09-24 厦门大学 一种三维点云自动补全方法
CN108692656A (zh) * 2017-04-07 2018-10-23 中国人民解放军信息工程大学 一种激光扫描数据获取方法及装置
CN108171796A (zh) * 2017-12-25 2018-06-15 燕山大学 一种基于三维点云的巡检机器人视觉系统及控制方法
CN108898112A (zh) * 2018-07-03 2018-11-27 东北大学 一种近红外人脸活体检测方法及系统

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021082745A1 (zh) * 2019-10-31 2021-05-06 浙江商汤科技开发有限公司 信息补全方法、车道线识别方法、智能行驶方法及相关产品
CN113495278A (zh) * 2020-04-02 2021-10-12 北京京东乾石科技有限公司 用于增强点云数据的方法和装置
CN113495278B (zh) * 2020-04-02 2024-04-16 北京京东乾石科技有限公司 用于增强点云数据的方法和装置
CN113160068A (zh) * 2021-02-23 2021-07-23 清华大学 基于图像的点云补全方法及系统
CN113160068B (zh) * 2021-02-23 2022-08-05 清华大学 基于图像的点云补全方法及系统
CN112767554A (zh) * 2021-04-12 2021-05-07 腾讯科技(深圳)有限公司 一种点云补全方法、装置、设备及存储介质

Also Published As

Publication number Publication date
CN109613557B (zh) 2022-04-29

Similar Documents

Publication Publication Date Title
CN111242041B (zh) 基于伪图像技术的激光雷达三维目标快速检测方法
Chen et al. 3D global mapping of large-scale unstructured orchard integrating eye-in-hand stereo vision and SLAM
CN110415342B (zh) 一种基于多融合传感器的三维点云重建装置与方法
US20210390329A1 (en) Image processing method, device, movable platform, unmanned aerial vehicle, and storage medium
CN109613557A (zh) 一种补全激光雷达三维点云目标的系统及方法
CN113706480B (zh) 一种基于关键点多尺度特征融合的点云3d目标检测方法
Zhang et al. Visual SLAM for underwater vehicles: A survey
Jiang et al. Unmanned Aerial Vehicle-Based Photogrammetric 3D Mapping: A survey of techniques, applications, and challenges
CN114821536B (zh) 一种改进yolov5的无人驾驶拖拉机田间障碍物识别方法
CN114066960B (zh) 三维重建方法、点云融合方法、装置、设备及存储介质
US20230070615A1 (en) Systems and methods for automated structure modeling from digital imagery
Kuçak et al. The segmentation of point clouds with k-means and ANN (artifical neural network)
CN114283394A (zh) 一种车载传感器融合的交通目标检测系统
CN117237919A (zh) 跨模态监督学习下多传感器融合检测的卡车智驾感知方法
CN117409339A (zh) 一种用于空地协同的无人机作物状态视觉识别方法
Hayton et al. CNN-based human detection using a 3D LiDAR onboard a UAV
Gebrehiwot et al. A method to generate flood maps in 3D using DEM and deep learning
CN116704304A (zh) 一种混合注意力机制的多模态融合目标检测方法
CN113378647B (zh) 基于三维点云的实时轨道障碍物检测方法
Bai et al. Application of unmanned aerial vehicle multi-vision image 3D modeling in geological disasters
Gao et al. Optimization of greenhouse tomato localization in overlapping areas
Wu et al. Ground-distance segmentation of 3D LiDAR point cloud toward autonomous driving
Chen et al. 3D Grid-Based VDBSCAN Clustering and Radar-Monocular Depth Completion
Ambata et al. Three-dimensional mapping system for environment and object detection on an unmanned aerial vehicle
US20240094029A1 (en) System and method for generating multi-resolution voxel spaces

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant