CN113219472A - 一种测距系统和方法 - Google Patents

一种测距系统和方法 Download PDF

Info

Publication number
CN113219472A
CN113219472A CN202110471060.1A CN202110471060A CN113219472A CN 113219472 A CN113219472 A CN 113219472A CN 202110471060 A CN202110471060 A CN 202110471060A CN 113219472 A CN113219472 A CN 113219472A
Authority
CN
China
Prior art keywords
point cloud
target object
laser point
distance
monitoring unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110471060.1A
Other languages
English (en)
Inventor
张良
续秋锦
饶泉泉
李鑫
祁永芳
朱立红
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei University of Technology
Original Assignee
Hefei University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei University of Technology filed Critical Hefei University of Technology
Priority to CN202110471060.1A priority Critical patent/CN113219472A/zh
Publication of CN113219472A publication Critical patent/CN113219472A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/23Clustering techniques

Abstract

本发明涉及一种测距系统和方法,其按照采集设定空间内含有目标物信息的二维图像和激光点云的方式得到该空间区域内的若干目标物位置信息,第一监测单元用于获取指定方向区域内目标或遮挡物的激光点云信息;第二监测单元以模仿双目视觉的方式获取同一指定方向区域的二维图像;中央处理模块能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距,其中,所述第一监测单元采集到的激光点云以映射的方式融合至所述第二监测单元获取的二维图像中,从而所述中央处理模块能够根据所述二维图像中检测识别出的目标物边界框进行对应于不同目标物的至少部分激光点云的聚类与测距。

Description

一种测距系统和方法
技术领域
本发明涉及多传感器信息融合技术领域,尤其涉及一种测距系统和方法。
背景技术
随着无人车和无人机等自动驾驶研究以及机器人等人工智能研究的兴起,三维扫描激光雷达由于具有不受外界光照条件影响,测距精度高,扫描角度范围大等优点,被广泛应用于无人驾驶车辆以及移动机器人中作为障碍物探测和环境感知传感器。无人驾驶和移动机器人中的一个重要任务就是准确感知周围环境并对环境中的障碍物和目标做出准确分类和判断。三维扫描激光雷达作为车辆和机器人的“眼睛”,在无人驾驶和移动机器人目标分类判断中起着重要作用。点云数据作为激光雷达返回的对环境感知的重要数据,已经逐渐在无人驾驶,移动机器人,目标识别等领域成为重要研究对象。
道路检测作为无人驾驶的关键技术之一,在无人驾驶系统中有着非常重要的作用。道路作为环境的一部分,进行道路检测可以帮助无人车更好地感知环境,道路的信息可以辅助规划模块在进行路径规划时,把路径限制在道路中,防止车辆行驶到道路之外。同时,左右道边的信息可以帮助无人车更好地定位自身在道路中的位置,与GPS、IMU或者其他定位结果共同优化当前车辆所在的位置,得到更为准确的定位结果。
对于三维扫描激光雷达,其不仅可以准确地获取目标的各个点的位置信息,还可以记录每个点反射回来的强度。强度数据反映了目标反射能力的强弱,在目标分类和识别中具有重要的潜能,但其不仅与目标本身特性有关,还受到距离,入射方位角,系统设备和大气状况等多种因素的影响。当前对于扫描激光雷达强度数据的研究主要集中在影响因素和校正利用两方面,但是对激光雷达的强度数据在目标分割和分类中研究较少。另外,传统的目标分割的数据类型主要为图像数据,基于图像数据的分割方法在计算机视觉领域已经被广泛研究,主要方法有基于阈值的分割方法,基于边缘检测的分割方法和基于神经网络的分割方法。现有的雷达点云分割方法利用的都是点云的坐标信息,分割的准则都是基于点与点间的欧式距离的远近,方法的差别主要体现在点云的组织方式的不同。且没有对激光雷达采集的点云强度数据进行有效利用,缺乏利用点云强度数据等采集的信息辅助完成精准的点云分割和有效的距离测量的相关系统设计。
中国专利CN109410264A公开了一种基于激光点云与图像融合的前方车辆距离测量方法,属于多传感器信息融合领域。首先,利用激光点云与相机图像之间的映射关系,将3D激光点云映射为二维图像。其次,根据相机图像中所识别的车辆ROI,对激光点云映射的图像进行筛选。接着,经过图像—激光点云映射,得到筛选后车辆ROI对应的激光点云。利用双目图像检测的前方车辆距离进行约束,再次筛选对应车辆的激光点云。然后,对车辆点云进行聚类,进一步去除非车辆点云。最后,使用聚类出的车辆点云计算前方车辆的距离。测试结果表明,激光点云与图像融合方法测得的距离平均误差较之双目图像方法减小近一半,均方差也有所降低。因此,该发明方法较之双目图像方法测距更精确、更稳定。但是该专利没有对车辆ROI的数量进行验证,无法保证用于进行距离计算的类别数目的准确性,尤其是存在相互间距较小或视线方向上的图像重叠时,无法准确地识别类别数目的数值。
中国专利CN108241871A公开了基于多特征的激光点云与影像融合数据分类方法:步骤1数据预处理:对航空影像和无人机载激光点云数据进行预先处理;步骤2样本提取:综合利用点云数据提供的几何特征以及航空影像提供的光谱特征进行各类别样本提取;步骤3基于多特征的融合数据分类:根据样本数据使用向量描述模型进行分类;步骤4精度评定:对分类后的数据进行精度评定。该发明地物提取完整,分类精度高。本发明从融合影像光谱信息的角度出发,并根据应用目的及地物分类需求进行数据融合,并针对分类的主要地物设定相应的分类规则,建立分类类别和分类特征之间的对应关系,能够提取比较完整的地物区域,减少误分类现象。该专利采用光谱特征进行目标分类提取,无法有效地进行图像和点云的有效分割,也无法进行距离的测量。
针对目前目标物激光点云的分类和测距的不足,需要开发一种能够准确地进行点云与图像的分类并能够通过高质量激光点进行图像或点云中的目标物距离的有效测量。
此外,一方面由于对本领域技术人员的理解存在差异;另一方面由于发明人做出本发明时研究了大量文献和专利,但篇幅所限并未详细罗列所有的细节与内容,然而这绝非本发明不具备这些现有技术的特征,相反本发明已经具备现有技术的所有特征,而且申请人保留在背景技术中增加相关现有技术之权利。
发明内容
针对现有技术之不足,本发明的技术方案提供的是一种融合激光雷达获取的激光点云与双目相机采集的二维图像的目标物分类与测距系统,其按照采集设定空间内含有目标物信息的二维图像和激光点云的方式得到不同目标物相对于装置主体的位置信息,所述装置主体至少包括有第一监测单元、第二监测单元和中央处理模块;所述第一监测单元用于获取指定方向区域内目标或遮挡物的激光点云信息;所述第二监测单元以模仿双目视觉的方式获取同一指定方向区域的二维图像;所述中央处理模块能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距,其中,所述第一监测单元采集到的激光点云以映射的方式融合至所述第二监测单元获取的二维图像中,从而所述中央处理模块能够根据所述二维图像中检测识别出的目标物边界框进行对应于不同目标物的至少部分激光点云的聚类与测距。本发明通过融合应用激光点云与图像的映射关系,以及双目视觉所检测的前方目标物感兴趣区域与激光点云提供的距离信息,实现误差小、识别率高、稳定性高的3D激光测距。
根据一种优选地实施方式,在所述激光点云位于不同的目标物边界框内的情况下,所述中央处理模块按照其可调节地对不同目标物边界框内的激光点云进行赋色的方式勾勒出多个颜色不同的目标物点云轮廓;所述中央处理模块还能够根据不同颜色的目标物点云分别计算出不同目标物与所述装置主体之间的距离。其优势在于,通过对边界框划分的多个聚类激光点云进行赋色,从而能够更好地对激光点云进行分割。
根据一种优选地实施方式,所述第一监测单元还能够接收到指定方向区域内目标物反射的回波强度数据,所述中央处理模块按照将所述强度数据作为第一验证信息的方式验证所述第二监测单元获取的二维图像中的目标物边界框分布情况是否与具有回波强度值的位置一致。其优势在于,利用激光雷达接收到的点云信息中的回波强度数据来对用于目标物点云进行划分的目标物边界框的位置信息和数量进行验证,使得最终分割得到的目标物聚类点云的数量更加准确,同时强度数据也方便在完成聚类的点云中选取高质量激光点进行目标物距离测量。
根据一种优选地实施方式,所述第一监测单元获取的原始激光点云滤去地面点云后获得能够转换成距离图像的目标点云;当所述第一监测单元获取到激光点的扫描天顶角、扫描方位角及距离信息时,所述中央处理模块按照遍历每个点的方式建立所述距离图像;所述距离图像还通过像素的邻接关系建立激光点云间的邻域关系,从而使得激光点云的分割转换为对距离图像相邻像素之间的连通分量的标记;所述中央处理模块按照将所述距离图像作为第二验证信息的方式对所述第二监测单元获取的二维图像中的目标物边界框分布情况进行二次验证。
根据一种优选地实施方式,所述连通分量是按照相邻像素对应的至少两个坐标之间的欧式距离在设定的距离阈值范围内的方式进行标记的,在相邻的两个像素之间的距离值小于距离阈值的情况下,所述中央处理模块判定相邻的两个像素对应的坐标点属于同一类目标,从而所述中央处理模块以遍历距离图像的非零像素的方式获取所述像素的最大连通区域,进而完成目标物的分割。
根据一种优选地实施方式,所述强度数据按照能够与距离图像相互融合的方式对欠分割的激光点云进行二次分割,其中,激光点云信息中的点云强度信息能够建立强度图像,所述强度图像中像素的像素值均保存有与该像素对应的激光点云信息的强度值;在所述相邻两个像素点为同一目标物的情况下,相邻的两个像素之间的距离值小于距离阈值,且相邻的两个像素的强度值也小于一设定阈值。本发明能够有效降低产生过分割和欠分割的可能性,使得分类结果和检测结果更加可靠。
根据一种优选地实施方式,在所述中央处理模块根据二维图像中目标物边界框进行目标物激光点云分割时,相邻两像素的强度值的差小于或等于设定的强度值阈值的限定条件与所述距离图像进行联合,从而完成对所述目标物边界框的分布情况进行二次验证,使得相互靠近或在设定方向上具有部分重叠的至少两个目标物能够被分割成至少两个部分,其中,在所述中央处理模块进行点云分割时加入的强度信息还能够对存在嵌套的两个目标物分类成不同的部分。其优势在于,该分割方式能够将相互靠近或存在重叠的目标分割为接近的两类不同目标,同时在对多种模块组成的大目标或者相互嵌套的不同目标进行分割时,具有较低时间复杂度,能有效减少欠分割的情况,对于进一步准确提取不同目标特征具有重要意义。
根据一种优选地实施方式,在完成激光点云的聚类和分割的情况下,所述中央处理模块根据分割的目标物聚类点云个数和点云强度值选择不同激光点计算不同目标物的距离,其中,所述二维图像中的目标物边界框数量与距离图像和强度图像中的点云簇数量一致。
本发明还提供一种针对目标物的分类与测距方法,将第一监测单元获取的激光点云映射为图像并将其与第二监测单元获取的二维图像进行融合,使得所述第二监测单元获取的二维图像中的目标物边界框能够对所述激光点云进行聚类和分割;中央处理模块能够对聚类后的激光点云进行分类验证并完成目标物的距离测量。本发明通过融合应用激光点云与图像的映射关系,以及双目视觉所检测的前方目标物感兴趣区域与激光点云提供的距离信息,实现误差小、识别率高、稳定性高的3D激光测距。
根据一种优选地实施方式,所述第一监测单元用于获取指定方向区域内目标或遮挡物的激光点云信息;所述第二监测单元以模仿双目视觉的方式获取同一指定方向区域的二维图像;所述中央处理模块能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距,其中,所述第一监测单元采集到的激光点云以映射的方式融合至所述第二监测单元获取的二维图像中,从而所述中央处理模块能够根据所述二维图像中检测识别出的目标物边界框进行对应于不同目标物的至少部分激光点云的聚类与测距;在所述激光点云位于不同的目标物边界框内的情况下,所述中央处理模块按照其可调节地对不同目标物边界框内的激光点云进行赋色的方式勾勒出多个颜色不同的目标物点云轮廓;所述中央处理模块还能够根据不同颜色的目标物点云分别计算出不同目标物与所述装置主体之间的距离。
附图说明
图1是本发明的一种测距系统和方法的优选实施例的系统示意图;
图2是本发明的一种测距系统和方法的算法流程图;
图3是本发明的一种测距系统和方法的坐标系之间转换的示意图;
图4是本发明的一种测距系统和方法的效果图。
附图标记列表
1:装置主体 2:第一监测单元 3:第二监测单元
4:中央处理模块
具体实施方式
下面结合附图进行详细说明。
实施例1
如图1所示,本发明提供一种测距系统,其按照采集指定方向区域内含有目标物信息的二维图像和激光点云的方式得到该区域内多个目标物相对于装置主体1的位置信息和距离信息。装置主体1包括第一监测单元2、第二监测单元3和中央处理模块4。第一监测单元2用于获取指定方向区域内目标物的激光点云信息。激光点云信息包括原始激光点云和点云的强度信息等。第二监测单元3以模仿双目视觉的方式获取同一指定方向区域的二维图像。第二监测单元3包括左相机和右相机,其获取的二维图像是两个相机采集图像的融合图像,该二维图像能够以标定前方设定区域内目标物的方式利用与目标物相适配的边界框进行目标物的框选。中央处理模块4能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距。第一监测单元2采集到的激光点云以映射的方式融合至第二监测单元3获取的二维图像中,从而中央处理模块4能够根据二维图像中检测识别出的目标物边界框进行对应于不同目标物的激光点云的聚类、分割与测距。
优选地,在激光点云位于不同的目标物边界框内的情况下,中央处理模块4按照其可调节地对不同目标物边界框内的激光点云进行赋色的方式勾勒出多个颜色不同的目标物点云轮廓。第一监测单元2即用于仅点云数据获取的激光雷达。第二监测单元3为能够获取具有目标物标定边界框的相机。
本发明提供结合点云强度数据进行点云分隔并获取目标物距离的方法。在进行点云信息采集时,第一监测单元2能够准确地返回目标点的坐标信息并接收到指定方向区域内目标或遮挡物的回波强度值。作为第一监测单元2返回的重要信息之一的强度数据能够在一定程度上反映目标的反射能力。优选地,强度数据可以是第一监测单元2经后续信号处理和离散化操作后得到的一组离散整数值,其对于目标的分割和分类具有重要作用。
第一监测单元2在探测时返回的是离散的点云信息,若干个点云数据间没有显式地建立邻接关系。因此,当利用点云数据对目标进行分类和判断时,首先需要将离散的点云分割为一个个具有实际意义的目标,然后才能进行后续特征提取、目标分类或三维重建等一系列操作。故在需要利用双目图像和基于Tiny_YOLO_V3算法检测前方目标物感兴趣区域,并通过不同颜色的边界框对多个目标物感兴趣区域进行分类并对非目标物点云数据进行初步筛除。激光雷达获取的点云信息能够被聚类为不同边界框限定的且位于目标物感兴趣区域内的目标物点云簇,从而实现进一步去除非目标物点云和隶属于不同目标物的点云数据分类。将点云场景快速准确地分割为单个且有意义的对象是相关系统后续数据处理分析的关键。激光雷达强度值作为与目标本身相关的物理量在点云的精确分割中具有重要潜能。
第一监测单元2不仅可以准确地获取目标的各个点的位置信息,还可以记录每个点反射回来的强度。强度数据反映了目标反射能力的强弱,在目标分类和识别中具有重要的潜能,但其不仅与目标本身特性有关,还受到距离、入射方位角、系统设备和大气状况等多种因素的影响。
点云分割是与图像的分割相关联的,第一监测单元2的点云信息分割形成多个点云区域即是二维图像分割而形成的单一特性的部分图像。图像的分割就是把图像分成若干个特定的、具有独特性质的区域并提取出感兴趣目标的过程。点云分割就是把杂乱的点云分成若干个特定的、具有独特性质的点云子集的过程,每个子集可以作为一个整体进行相应特征的提取。点云的分割也叫做聚类操作。
第一监测单元2获得的点云分割的目的是将具有相似属性的点在空间上划分成一个个独立区域。点云分割在数学形式上就是将集合分成的一个个互不相交的子集的过程,其中,如果子集满足以下几个条件,则称为点云集合的有效分割。
(1)所有分割子集的并集是分割的点云总集。也就是点云总集中的任何一个点都属于一个特定的子集,不存在未分割的点。
(2)每个数据点不能同时属于两个相同的子集,也就是说每个子集中都没有和其他子集中相同的数据点。
(3)每个子集可以看作一个整体进行特征提取,提取的特征能准确反映子集对应目标的特性。也即每个分割子集对应分割点云场景中的一个有意义的目标。
在分割中,主要会出现两种分割不准确的情况。一种是将属于一个目标的点云分到多个目标类中,过分割。而另一种是将属于不同目标的点云分为一类,欠分割。一个好的分割算法要尽可能少地产生过分割和欠分割的情况。当使用k-means算法对点云进行分割时,原始M值的选取直接影响聚类分割的结果。当M值取较大时,由于真实目标类别数可能小于选取M值,所以会在一定程度上造成过分割。当M值取较小时,则容易在一定程度上造成欠分割。本发明通过对采集到的双目视觉图像进行基于Tiny_YOLO_V3算法检测来识别划分出多个位于第一监测单元2前方的目标物感兴趣区域,从而能够准确有效地计算出类别数目M。相对于单一的激光点云方法进行目标物的分类和距离检测,本发明能够有效降低产生过分割和欠分割的可能性,使得分类结果和检测结果更加可靠。进一步优选地,本发明还通过距离图像与强度数据的联合,并基于两者的相互印证的方式验证双目视觉图像进行基于Tiny_YOLO_V3算法检测识别出的目标物感兴趣区域个数能够恰好等于类别数目M。
优选地,为了能够对间距小或存在边缘重叠的多个目标物的激光点云进行正确分割,本发明提出将采集的距离图像与第一监测单元2获取的强度数据进行结合的方式进行点云分割。基于距离图像的点云分割方法首先需要在原始点云中滤去地面点云,然后将滤去地面点云后的目标点云转换成距离图像。通过原始点云生成距离图像,本质就是将原始点云坐标信息转换为图像像素坐标信息。在距离图像中,图像行像素坐标对应点云的扫描天顶角φ,列像素坐标对应点云的扫描方位角θ,每个像素的灰度值对应每个点的距离信息R。当激光雷达返回(R,θ,φ)信息时,中央处理模块4可以通过遍历每个点的方式直接建立距离图像。优选地,行像素坐标rows和列像素坐标cols可以通过式(1)计算,其中α和β为激光雷达的水平和垂直角分辨率。
Figure BDA0003044497180000091
当激光雷达返回(x,y,z)信息时,中央处理模块4可以通过式(2)转换为距离值R,扫描方位角θ。扫描天顶角φ,进而建立距离图像。
Figure BDA0003044497180000092
将原始点云转换为距离图像后,距离图像利用像素的邻接关系隐式地建立起点云间的邻域关系。在距离图像中,对点云的分割问题转换为对距离图像相邻像素进行连通分量标记问题。对连通分量进行标记,最主要的就是判断邻接的像素是否表示同一个目标。在距离图像中,相邻的像素对应的坐标若属于同一个目标物,则其之间的欧氏距离应该接近短边距离形成的弧长,设相邻的两个像素保存的距离值为d1和d2,α为雷达的角分辨率。则短边对应的弧长l为l=min(d1,d2)*α,由于相邻两像素对应的点之间夹角很小,所以两像素对应点间距离可以近似用|d1-d2|代替。我们可以设定一个距离阈值D来判断两个相邻像素对应的坐标点云是否属于一个目标。距离阈值D的值可以通过式(3)计算,K为大于1的常数。
D=K*min(d1,d2)*α (3)
当相邻两像素间像素距离值小于阈值D时,中央处理模块4判定两像素对应的坐标点属于同一类目标。中央处理模块4通过对距离图像从左到右,从上到下进行遍历,每遍历一个非零像素,进行深度优先搜索,根据上述判定准则找到该像素的最大连通区域,进行标记,从而实现对目标的分割。由于标记后的距离图像中的数据无法直接提取分割后目标的相关特征信息,中央处理模块4对距离图像标记后再按照下列公式(4)将像素坐标转换为点云坐标,从而可以直接在原始点云信息中直接提取分割后的目标特征。
Figure BDA0003044497180000101
激光雷达返回的点云数据中还包括点云的强度信息。在点云分割中,使用强度数据来进一步对欠分割的点云进行分割。依据建立距离图像的方法建立一个强度图像,图像每个像素值保存了当前像素对应点云数据的强度值。激光雷达强度返回值主要受到材料本身性质、距离以及入射角的影响。对于同一目标上的相邻点云,若目标曲率较小,其相对雷达的距离和入射角都应该较为接近,所以其强度返回值也应该较为接近。故若当相邻的两个像素点为同一目标时,两点间距离应该小于距离阈值的同时,两点的强度返回值差也应该小于一个阈值。通过在现有的基于距离图像标记的点云分割算法中添加相邻两像素的强度返回值的差小于或等于设定的强度值阈值的限定条件,从而获得能够基于距离图像和强度信息联合的点云分割算法。基于距离图像和强度数据的点云分割算法能对较为接近的两个目标进行进一步分割,使得相互靠近或在设定方向上存在部分重叠的至少两个目标物能够被分割成至少两个部分,同时在分割时加入的强度信息还能够对存在嵌套的目标物或其他分类物分割成不同的部分,实现对待分类物的合理分割。其优势在于,该分割方式能够将相互靠近或存在重叠的目标分割为接近的两类不同目标,同时在对多种模块组成的大目标或者相互嵌套的不同目标进行分割时,具有较低时间复杂度,能有效减少欠分割的情况,对于进一步准确提取不同目标特征具有重要意义。
实施例2
本实施例是对实施例1的进一步改进,重复的内容不再赘述。
本发明提供一种基于激光点云与图像融合的目标物分类方法,其通过激光雷达以激光波束为载体获取高精度、高密度的点云数据,获取的三维数据反映的是目标在现实世界中的三维尺寸信息。其还采用检测率高的双目视觉进行前方若干目标物的感兴趣区域与距离检测。本发明进一步通过将两者获取的信息进行融合处理以得到若干个不同颜色的目标物点云,其中,双目视觉获取的目标物信息对激光点云进行筛选,并通过筛选出的高质量激光点求取前方目标物距离。
如图2所示,本发明首先利用激光点云与相机图像之间的映射关系,将3D激光点云映射为二维图像。其次,根据Tiny_YOLO_V3算法对图像中的目标物进行定位与分类。然后,完成初步筛选和框选的激光点云通过欧氏距离聚类算法对其进行聚类的方式进一步去除非目标物点云。优选地,激光雷达获取的激光点云是根据Tiny_YOLO_V3检测算法所识别的目标物边界框对不同的目标物聚类点云进行定位,从而经过图像-激光点云映射得到目标物边界框内对应的激光点云。最后,根据边界框的种类对相应边界框内的激光点云按照边界框的种类对应的RGB值进行赋色,得到不同颜色的目标物点云。多个不同目标物边界框内聚类出的高质量目标物激光点能够用于计算出其对应目标物的距离,从而能够对前方若干目标物进行分类的同时计算出多个目标物的距离。
优选地,在进行具体的目标物分类和测距时,主要包括以下实施步骤:
第一步:获取激光点云与图像的映射矩阵Tlc
如图3所示,根据激光雷达和相机的相对位置计算出相机坐标系在雷达坐标系下的位姿矩阵,则激光雷达坐标原点Ol和相机坐标原点Oc之间的距离分量为dx,dy和dz。在已知相机焦距f、像主点(cx,cy)的情况下,激光点云与图像的映射矩阵Tl_c为:
Figure BDA0003044497180000111
激光点(xl,yl,zl)和图像像素(u,v)之间的映射关系如下:
Figure BDA0003044497180000112
式中
Figure BDA0003044497180000122
表示伪逆。
第二步:采用双目图像和基于Tiny_YOLO_V3算法检测前方目标物感兴趣区域,设利用Tiny_YOLO_V3算法检测到目标物的边界框的左上角坐标为(xs,ys),ROI的宽度为wr,高度为hr
第三步:对激光点云进行过滤聚类,基于欧氏距离聚类算法和点云数量聚类出目标物点云簇,去除非目标物点云。
在使用欧式距离聚类算法进行目标物点云过滤聚类时,双目图像利用Tiny_YOLO_V3算法进行检测而获取到的目标物感兴趣区域的个数作为欧式聚类算法要聚类分割的类别数目M,然后在要聚类的点云数据中心随机选取M个种子点作为初始的每个类别的中心,根据剩余的所有点到每个种子点的距离,将剩余点划分到距离最小的那一类中。之后调整种子点为划分好的每个类别的新中心,重复上面过程,直到最后质心不发生移动或达到最大迭代次数从而完成对原始点云数据的聚类分割。通过调用欧氏距离函数来使用欧氏距离聚类算法完成对点云数据的聚类分割。欧氏距离函数的输入为点云数据集和聚类类别数M,输出每个数据点所属的类别。
第四步:将第三步得到的目标物聚类点云根据第一步得到的映射矩阵分别映射为左右相机坐标系下的二维图像,根据第二步检测出的目标物ROI筛选点云。
设一激光点P(x,y,z),根据公式(2)将其映射到图像坐标系。得到地图像坐标为(u,v)。若点P是属于前方目标物的激光点,则(u,v)需要满足下列约束条件:
Figure BDA0003044497180000121
第五步:将第四步筛选后的激光点云与检测出的边界框的类别对应,如图4所示,根据边界框的种类(红、蓝、黄等)对应的RGB值将对应的边界框内的激光点云进行赋色,得到信息更丰富的(x,y,z,RGB)格式的数据,得到不同颜色目标物的聚类点云。
第六步:应用第五步得到的不同颜色目标物的聚类点云计算距离Dc
设基于欧氏距离聚类算法检测到的目标物聚类点云共M个,记为(x1,y1,z1),(x2,y2,z2),……,(xM,yM,zM)。则前方目标物的激光检测距离为:
Figure BDA0003044497180000131
实施例3
本发明的双目视觉相机通过Tiny_YOLO_V3算法对其采集图像中的目标物进行定位与分类。Tiny_YOLO_V3算法能够识别出与目标物位置相对应的感兴趣区域并对不同区域采用不同颜色的边框进行框选。YOLOv3-Tiny拥有检测速度快、体积小、易于安装在边缘设备上部等优点,同时也存在着识别精度低,定位不准的问题。该算法是在YOLOv3目标检测算法的基础上进行改进,首先,对网络结构进行改进,在保证实时性的同时设计一个新的主干网络,提高网络的特征提取能力;其次改进目标损失函数和特征融合的策略,使用IOU损失函数代替原先边框位置损失函数,提高定位精度。YOLO V3-tiny网络还是基于YOLO V3算法的一个精简目标检测网络,可以在算推理能力较低的硬件上进行实时性的目标检测。YOLOV3-tiny的特征提取层由7个卷积层和6个最大池化层组成,其中卷积层依次包括二维卷积层、批量归一化层和非线性激活函数层。YOLO V3-tiny目标检测网络虽然它有很快的检测速度,但是它只采用13*13和26*26的网格特征图来进行目标预测,导致它对小尺寸目标检测精度较低。因此,为了能够获取更加精准的检测结果,本发明将其分类结果与强度数据、深度图形的处理结构进行结合和择优选取,从而使得最终向欧式距离聚类算法提供的M值能够精准地对应于实际目标物数量,从而能够准确地对目标物进行分类和测距。
YOLO V3-tiny相对于YOLO V3是在YOLO V3的网络结构基础上删除一些特征提取层,而且YOLO V3-tiny也是由YOLO V3中的三个不同尺度的输出变为两个不同尺度的输出,从而仅由两个尺度的特征图构成YOLO输出层。在网络和结构上YOLOv3-tiny相对于YOLOv3更加精简,但是在数据集上发挥的性能并没有形成很大的劣势,但是在检测速度上,却有着较大的提升,使其能够更加符合本发明在目标物图像检测分类时对网络结构的需求。
优选地,本发明针对现有的YOLO V3-tiny作出了进一步改良,将YOLO V3-tiny中的两个不同尺度的检测结构删改为单尺度的检测结构,针对于前方目标物在视野中的大小存在从近到远的变化,中央处理模块4使用不同尺度的anchors来对这几种不同尺度的目标进行检测,anchors的大小是根据数据集的标签利用k-means算法回归计算得到的,网络可以在该数据集上具有良好的表现。相对于原始的YOLOv3-tiny算法改进后的YOLOv3-tiny仅具有一个yolo层,大大节约了网络的计算成本,同时还可以对YOLOv3-tiny中利用多尺度的输出层和不同大小的anchors来实现多尺度检测的冗余计算进行整合。
需要注意的是,上述具体实施例是示例性的,本领域技术人员可以在本发明公开内容的启发下想出各种解决方案,而这些解决方案也都属于本发明的公开范围并落入本发明的保护范围之内。本领域技术人员应该明白,本发明说明书及其附图均为说明性而并非构成对权利要求的限制。本发明的保护范围由权利要求及其等同物限定。

Claims (10)

1.一种测距系统,其按照采集设定空间内含有目标物信息的二维图像和激光点云的方式得到该空间区域内的若干目标物相对于装置主体(1)的位置信息,其特征在于,
所述装置主体(1)至少包括第一监测单元(2)、第二监测单元(3)和中央处理模块(4);
所述第一监测单元(2)用于获取指定方向区域内目标或遮挡物的激光点云信息;
所述第二监测单元(3)以模仿双目视觉的方式获取同一指定方向区域的二维图像;
所述中央处理模块(4)能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距,其中,
所述第一监测单元(2)采集到的激光点云以映射的方式融合至所述第二监测单元(3)获取的二维图像中,从而所述中央处理模块(4)能够根据所述二维图像中检测识别出的目标物边界框进行对应于不同目标物的至少部分激光点云的聚类与测距。
2.如权利要求1所述的测距系统,其特征在于,在所述激光点云位于不同的目标物边界框内的情况下,所述中央处理模块(4)按照其可调节地对不同目标物边界框内的激光点云进行赋色的方式勾勒出多个颜色不同的目标物点云轮廓;
所述中央处理模块(4)还能够根据不同颜色的目标物点云分别计算出不同目标物与所述装置主体(1)之间的距离。
3.如权利要求2所述的测距系统,其特征在于,所述第一监测单元(2)还能够接收到指定方向区域内目标物反射的回波强度数据,
所述中央处理模块(4)按照将所述强度数据作为第一验证信息的方式验证所述第二监测单元获取的二维图像中的目标物边界框分布情况是否与具有回波强度值的位置一致。
4.如权利要求3所述的测距系统,其特征在于,所述第一监测单元(2)获取的原始激光点云滤去地面点云后获得能够转换成距离图像的目标点云;
当所述第一监测单元(2)获取到激光点的扫描天顶角、扫描方位角及距离信息时,所述中央处理模块(4)按照遍历每个点的方式建立所述距离图像;
所述距离图像还通过像素的邻接关系建立激光点云间的邻域关系,从而使得激光点云的分割转换为对距离图像相邻像素之间的连通分量的标记;
所述中央处理模块(4)按照将所述距离图像作为第二验证信息的方式对所述第二监测单元获取的二维图像中的目标物边界框分布情况进行二次验证。
5.如权利要求4所述的测距系统,其特征在于,所述连通分量是按照相邻像素对应的至少两个坐标之间的欧式距离在设定的距离阈值范围内的方式进行标记的,
在相邻的两个像素之间的距离值小于距离阈值的情况下,所述中央处理模块(4)判定相邻的两个像素对应的坐标点属于同一类目标,从而所述中央处理模块(4)以遍历距离图像的非零像素的方式获取所述像素的最大连通区域,进而完成目标物的分割。
6.如权利要求5所述的测距系统,其特征在于,所述强度数据按照能够与距离图像相互融合的方式对欠分割的激光点云进行二次分割,其中,激光点云信息中的点云强度信息能够建立强度图像,所述强度图像中像素的像素值均保存有与该像素对应的激光点云信息的强度值;
在所述相邻两个像素点为同一目标物的情况下,相邻的两个像素之间的距离值小于距离阈值,且相邻的两个像素的强度值也小于一设定阈值。
7.如权利要求6所述的测距系统,其特征在于,在所述中央处理模块(4)根据二维图像中目标物边界框进行目标物激光点云分割时,相邻两像素的强度值的差小于或等于设定的强度值阈值的限定条件与所述距离图像进行联合,从而完成对所述目标物边界框的分布情况进行二次验证,
使得相互靠近或在设定方向上具有部分重叠的至少两个目标物能够被分割成至少两个部分,其中,在所述中央处理模块(4)进行点云分割时加入的强度信息还能够对存在嵌套的两个目标物分类成不同的部分。
8.如权利要求7所述的测距系统,其特征在于,在完成激光点云的聚类和分割的情况下,所述中央处理模块(4)根据分割的目标物聚类点云个数和点云强度值选择不同激光点计算不同目标物的距离,其中,
所述二维图像中的目标物边界框数量与距离图像和强度图像中的点云簇数量一致。
9.一种测距方法,其特征在于,
将第一监测单元(2)获取的激光点云映射为图像并将其与第二监测单元(3)获取的二维图像进行融合,使得所述第二监测单元(3)获取的二维图像中的目标物边界框能够对所述激光点云进行聚类和分割;
中央处理模块(4)能够对聚类后的激光点云进行分类验证并完成目标物的距离测量。
10.如权利要求9所述的测距方法,其特征在于,
所述第一监测单元(2)用于获取指定方向区域内目标或遮挡物的激光点云信息;
所述第二监测单元(3)以模仿双目视觉的方式获取同一指定方向区域的二维图像;
所述中央处理模块(4)能够根据获取的激光点云信息和二维图像进行指定方向区域内的目标物的分类与测距,其中,
所述第一监测单元(2)采集到的激光点云以映射的方式融合至所述第二监测单元(3)获取的二维图像中,从而所述中央处理模块(4)能够根据所述二维图像中检测识别出的目标物边界框进行对应于不同目标物的至少部分激光点云的聚类与测距;
在所述激光点云位于不同的目标物边界框内的情况下,所述中央处理模块(4)按照其可调节地对不同目标物边界框内的激光点云进行赋色的方式勾勒出多个颜色不同的目标物点云轮廓;
所述中央处理模块(4)还能够根据不同颜色的目标物点云分别计算出不同目标物与所述装置主体(1)之间的距离。
CN202110471060.1A 2021-04-28 2021-04-28 一种测距系统和方法 Pending CN113219472A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110471060.1A CN113219472A (zh) 2021-04-28 2021-04-28 一种测距系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110471060.1A CN113219472A (zh) 2021-04-28 2021-04-28 一种测距系统和方法

Publications (1)

Publication Number Publication Date
CN113219472A true CN113219472A (zh) 2021-08-06

Family

ID=77089921

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110471060.1A Pending CN113219472A (zh) 2021-04-28 2021-04-28 一种测距系统和方法

Country Status (1)

Country Link
CN (1) CN113219472A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113703455A (zh) * 2021-08-27 2021-11-26 广州文远知行科技有限公司 一种激光点云的语义信息标注方法及相关设备
CN114475650A (zh) * 2021-12-01 2022-05-13 中铁十九局集团矿业投资有限公司北京信息技术分公司 一种车辆行驶行为确定方法、装置、设备及介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109765571A (zh) * 2018-12-27 2019-05-17 合肥工业大学 一种车辆障碍物检测系统及方法
CN109961440A (zh) * 2019-03-11 2019-07-02 重庆邮电大学 一种基于深度图的三维激光雷达点云目标分割方法
CN110414577A (zh) * 2019-07-16 2019-11-05 电子科技大学 一种基于深度学习的激光雷达点云多目标地物识别方法
CN112396650A (zh) * 2020-03-30 2021-02-23 青岛慧拓智能机器有限公司 一种基于图像和激光雷达融合的目标测距系统及方法
US10929694B1 (en) * 2020-01-22 2021-02-23 Tsinghua University Lane detection method and system based on vision and lidar multi-level fusion
CN112698306A (zh) * 2020-12-17 2021-04-23 上海交通大学宁波人工智能研究院 一种多激光雷达结合相机解决地图构建盲区的系统和方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109765571A (zh) * 2018-12-27 2019-05-17 合肥工业大学 一种车辆障碍物检测系统及方法
CN109961440A (zh) * 2019-03-11 2019-07-02 重庆邮电大学 一种基于深度图的三维激光雷达点云目标分割方法
CN110414577A (zh) * 2019-07-16 2019-11-05 电子科技大学 一种基于深度学习的激光雷达点云多目标地物识别方法
US10929694B1 (en) * 2020-01-22 2021-02-23 Tsinghua University Lane detection method and system based on vision and lidar multi-level fusion
CN112396650A (zh) * 2020-03-30 2021-02-23 青岛慧拓智能机器有限公司 一种基于图像和激光雷达融合的目标测距系统及方法
CN112698306A (zh) * 2020-12-17 2021-04-23 上海交通大学宁波人工智能研究院 一种多激光雷达结合相机解决地图构建盲区的系统和方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张晓川: "激光点云和图像的后校准融合与障碍物测距", 《中国优秀硕士学位论文全文数据库 信息科技辑》, pages 138 - 1499 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113703455A (zh) * 2021-08-27 2021-11-26 广州文远知行科技有限公司 一种激光点云的语义信息标注方法及相关设备
CN114475650A (zh) * 2021-12-01 2022-05-13 中铁十九局集团矿业投资有限公司北京信息技术分公司 一种车辆行驶行为确定方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN109100741B (zh) 一种基于3d激光雷达及图像数据的目标检测方法
CN110988912B (zh) 自动驾驶车辆的道路目标与距离检测方法、系统、装置
CN110175576B (zh) 一种结合激光点云数据的行驶车辆视觉检测方法
CN111882612B (zh) 一种基于三维激光检测车道线的车辆多尺度定位方法
US8611585B2 (en) Clear path detection using patch approach
CN110781827A (zh) 一种基于激光雷达与扇状空间分割的路沿检测系统及其方法
Yao et al. Extraction and motion estimation of vehicles in single-pass airborne LiDAR data towards urban traffic analysis
CN108828621A (zh) 基于三维激光雷达的障碍检测和路面分割算法
CN104778721A (zh) 一种双目图像中显著性目标的距离测量方法
CN112396650A (zh) 一种基于图像和激光雷达融合的目标测距系统及方法
US20100098297A1 (en) Clear path detection using segmentation-based method
CN110197173B (zh) 一种基于双目视觉的路沿检测方法
CN110334678A (zh) 一种基于视觉融合的行人检测方法
CN107796373B (zh) 一种基于车道平面几何模型驱动的前方车辆单目视觉的测距方法
EP4086846A1 (en) Automatic detection of a calibration standard in unstructured lidar point clouds
CN112740225B (zh) 一种路面要素确定方法及装置
CN115943439A (zh) 一种基于雷视融合的多目标车辆检测及重识别方法
CN113219472A (zh) 一种测距系统和方法
CN112819895A (zh) 一种摄像机标定方法及装置
CN114359181A (zh) 一种基于图像和点云的智慧交通目标融合检测方法及系统
CN114782729A (zh) 一种基于激光雷达与视觉融合的实时目标检测方法
CN115546741A (zh) 一种双目视觉和激光雷达无人艇海洋环境障碍物识别方法
CN116452852A (zh) 一种高精度矢量地图的自动生成方法
CN115372990A (zh) 一种高精度语义地图的建图方法、装置和无人车
CN111487643B (zh) 一种基于激光雷达点云和近红外影像的建筑物检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination