CN109949372A - 一种激光雷达与视觉联合标定方法 - Google Patents

一种激光雷达与视觉联合标定方法 Download PDF

Info

Publication number
CN109949372A
CN109949372A CN201910201719.4A CN201910201719A CN109949372A CN 109949372 A CN109949372 A CN 109949372A CN 201910201719 A CN201910201719 A CN 201910201719A CN 109949372 A CN109949372 A CN 109949372A
Authority
CN
China
Prior art keywords
point cloud
image data
laser radar
outer ginseng
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910201719.4A
Other languages
English (en)
Other versions
CN109949372B (zh
Inventor
陈东
熊琪
张放
李晓飞
张德兆
王肖
霍舒豪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Idriverplus Technologies Co Ltd
Original Assignee
Beijing Idriverplus Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Idriverplus Technologies Co Ltd filed Critical Beijing Idriverplus Technologies Co Ltd
Priority to CN201910201719.4A priority Critical patent/CN109949372B/zh
Publication of CN109949372A publication Critical patent/CN109949372A/zh
Application granted granted Critical
Publication of CN109949372B publication Critical patent/CN109949372B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明实施例涉及一种激光雷达与视觉联合标定方法,包括点云与图像同步数据对自动采集、外参自动联合标定和外参标定效果校验三个环节,采用多层的最优化联合标定外参计算方法,在无需搭建特定标定场景的情况下,实现准确、快速、高度一致性的激光雷达与视觉的联合标定,且对于不同线束激光雷达和视觉的联合标定均有一致性较好的标定结果。

Description

一种激光雷达与视觉联合标定方法
技术领域
本发明涉及图像数据处理领域,尤其涉及一种激光雷达与视觉联合标定方法。
背景技术
无人驾驶汽车凭借不同类型的传感器设备来感知周围的环境信息,每种传感器都有自己的感知能力和感知边界,为了能够尽可能充分地理解周边环境,目前无人驾驶的感知方案一般采用多传感器融合的方式来扩充其感知能力和边界。激光雷达和相机(视觉传感器)是最常见的感知传感器之一。其中,激光雷达能够精准地检测目标的距离、方位信息,并且受环境光照条件影响很小,在夜间也能正常工作。不过,受限于传感器性能和输出点云密度,激光雷达的类别分辨能力较为一般。相机能够采集环境中的光学信息并将其转化为图像,能够保留丰富的颜色信息和纹理细节,可以相对准确地检测特定障碍物并判断其类别。不过,由于对环境光照条件要求较高,相机一般无法在夜间工作。
因此,通过融合激光雷达和相机两种传感器的信息,互相取长补短,可以大幅提高无人车的感知性能。而在进行传感器数据融合之前,一个重要的工作就是对两个传感器之间的位姿关系进行精准地标定。只有准确的传感器外参标定结果,才能确保后续的传感器数据融合工作可以顺利地进行。
激光雷达与视觉联合标定的现有方案主要分为两类:基于特定目标的标定和无需特定目标的标定。
通常基于特定目标的标定方案依赖于激光雷达和视觉均能检测到的匹配目标,由于对目标和检测环境有一定要求,这种标定方案一般需要在预先搭建好的特定环境中进行。这种方案通过激光雷达与视觉对相同特定目标的检测,提取多组匹配的特征点对,通过数学方法即可解算出两个传感器之间的相对位姿。这类方法的标定精度取决于匹配点对的检测精度,由于可以采用人工选点的方式来选择匹配点对,因此标定结果可以达到一个较高的精度。而结果的一致性好坏则取决于算法对匹配点对的选择精度,或是人工选点时不同人的选择差异。这种方法的缺陷在于每次标定之前需要搭建合适的标定环境,并且标定过程较为繁琐,标定结果会受到标定人员操作熟练度或主观意识的影响。
第二类无需特定目标的标定方案不需要特定的标定场景,且多为在线自动化的标定。这类方法需要一个相对准确的初始位姿预测作为算法输入,以减少算法陷入局部最优的概率。另外,不同的标定场景可能会对算法结果产生一定影响,因此,需要对标定环境做出一些必要的限制。此外,由于激光雷达点云分布往往是稀疏的、离散的,高线束(点云更密集)的激光雷达和相机的外参标定结果明显优于低线束(点云更稀疏)的标定结果。
由此,对于配置了激光雷达和视觉传感器的无人驾驶车辆,由于传感器移动或损坏等原因,往往需要多次就地重新标定。而基于特定目标的标定方案往往需要搭建标定环境,并且需要经过训练的专业技术人员进行支持,过程比较繁琐,且标定结果会受到标定人员主观意识的影响。第二类无需特定目标的标定方案更适合于量产化的无人驾驶车辆产品中,但目前也存在一些限制其直接在产品中使用的缺陷:对激光雷达线数要求较高(一般要求不少于32线)、标定结果受环境影响导致一致性较差、自动化程度较低以及标定结果不准确。
发明内容
本发明的目的是针对现有技术的缺陷,提供一种激光雷达与视觉联合标定方法,是针对无人驾驶车辆上的激光雷达和视觉联合标定任务提出的一种全自动的标定方法。该方法不依赖于人工搭建的标定环境或特定标志物,对于高(不小于64线)、中(大于16线,小于64线)、低(不大于16线)不同线束激光雷达和视觉的联合标定均有一致性较好的标定结果,且整个标定过程只需要车辆处于行驶状态,同步后的点云和图像数据会作为后续的联合标定过程的输入,本发明采用多层的最优化联合标定外参计算方法,兼顾结果的准确性和运行效率的最优,在可接受的运算时间之内,保证了标定参数输出结果具有良好的一致性和准确性,并且能够大幅提高低线数雷达的标定效果。
有鉴于此,本发明实施例提供了一种激光雷达与视觉联合标定方法,包括:
输入N组时间同步的点云-图像数据对;
获取视觉传感器和激光雷达之间第一初始外参估计参数,并根据所述第一初始外参估计参数和相机内参参数得到激光雷达坐标系和相机坐标系之间的转换关系;
在所述N组点云-图像数据对中随机抽取M组点云-图像数据对;其中,所述N≥M;
针对每组点云-图像数据对,基于所述激光雷达坐标系和相机坐标系之间的转换关系,将点云-图像数据对中的激光雷达点云转换到相机坐标系下,将相机视野范围内的点云依据每个点的反射率强度投影到图像上生成点云投影灰度图像;
将点云-图像数据对中的图像数据转化为相机灰度图像;
根据所述点云投影灰度图像和所述相机灰度图像转化为点云灰度直方图和相机灰度直方图,从而得到M组点云灰度直方图和M组相机灰度直方图;
将M组点云灰度直方图和M组相机灰度直方图分别进行数据累加,将所述累加后的点云灰度直方图和所述累加后的相机灰度直方图进行相关性函数运算,得到相关值;
根据第一预设算法多次调整第一初始外参估计参数,再次输入所述M组点云-图像数据对进行联合标定运算,从而得到多个调整后的第一外参估计参数对应的第一相关值;
将多个所述第一相关值进行比较,得到第一最优相关值,并获取所述第一最优相关值对应的外参标定结果;
在所述N组点云-图像数据对中进行K次M组点云-图像数据对的抽取,从而得到K组外参标定结果;
根据所述K组外参标定结果进行平均值计算,得到最优外参标定结果;
将所述最优外参标定结果作为第二初始外参估计参数,并导入N组点云-图像数据对,进行联合标定运算,得到第二相关值;
根据第二预设算法对所述第二初始外参估计参数进行多次调整,再次输入所述N组点云-图像数据对进行联合标定运算,从而得到多个调整后的第二初始外参估计参数对应的第二相关值;
将多个所述第二相关值进行比较,得到第二最优相关值,并获取所述第二最优相关值对应的外参标定结果进行输出。
优选的,在所述输入N组时间同步的点云-图像数据对之前,所述方法还包括:
根据预设时间间隔和预设行驶距离进行数据采集,得到一组点云数据和图像数据;
依据点云配准获得的车辆位姿,采用位姿预测的方式将点云数据补偿到图像数据对应的时间点上,从而得到同步的点云-图像数据对;
当所述点云-图像数据对的数量到达所述N时,停止数据采集。
优选的,在所述根据预设时间间隔和预设行驶距离进行数据采集之前,所述方法还包括:
对系统进行初始化,根据所述系统视觉传感器和激光雷达采集的图像数据和点云数据的有效性判断初始化是否成功;
当初始化成功时,判断系统的点云配准功能是否正常;
当点云配准功能正常时,开始进行数据采集。
优选的,在所述获取所述第二最优相关值对应的外参标定结果进行输出之前,所述方法还包括:
对所述第二最优相关值对应的外参标定结果进行校验;
当校验失败时,重新进行点云-图像数据对的采集,并重新进行标定。
进一步优选的,所述对所述第二最优相关值对应的外参标定结果进行校验具体包括:
利用激光点云在相机图片上的投影图进行人工判别。
优选的,所述根据第一预设算法多次调整第一初始外参估计参数具体包括:
采用梯度下降搜索法对所述第一初始外参估计参数进行多次调整。
优选的,所述根据第二预设算法对所述第二初始外参估计参数进行多次调整具体包括:
采用栅格化搜索法对所述第二初始外参估计参数进行多次调整。
优选的,所述视觉传感器包括单目相机、环视相机、双目相机、TOF相机和结构光相机中的一种。
优选的,所述激光雷达包括多线激光雷达、Flash雷达、MEMS雷达、相控阵雷达、TOF相机和结构光相机中的一种。
本发明实施例提供的一种激光雷达与视觉联合标定方法,采用多层的最优化联合标定外参计算方法,在无需搭建特定标定场景的情况下,实现准确、快速、高度一致性的激光雷达与视觉的联合标定,且对于高(不小于64线)、中(大于16线,小于64线)、低(不大于16线)不同线束激光雷达和视觉的联合标定均有一致性较好的标定结果。
附图说明
图1为本发明实施例提供的一种激光雷达与视觉自动联合标定系统的结构示意图;
图2为本发明实施例提供的一种数据采集流程图;
图3为本发明实施例提供的一种激光雷达与视觉联合标定方法流程图;
图4为本发明实施例提供的最优化联合标定外参计算流程图;
图5为本发明实施例提供的标定前的灰度图像和点云投影灰度图像;
图6为本发明实施例提供的标定后的灰度图像和点云投影灰度图像;
图7为本发明实施例提供的标定失败的校验图;
图8为本发明实施例提供的标定成功的校验图。
具体实施方式
下面通过附图和实施例,对本发明的技术方案做进一步的详细描述。
本发明实施例提供的激光雷达与视觉联合标定方法,主要包括点云与图像同步数据对自动采集、外参自动联合标定和外参标定效果校验三个环节,可以在无需搭建特定标定场景的情况下,实现准确、快速、高度一致性的激光雷达与视觉的联合标定,适合于量产无人驾驶车辆的产线标定或是传感器维修后的现场标定。本发明支持多线激光雷达和视觉传感器,对于低线数(不大于16线)和低线数以上的激光雷达和不同类型的相机均有良好的标定效果,因此可以被广泛应用于不同传感器配置的无人车和机器人上,此外还可应用于安防等其他任何对激光雷达和视觉联合使用有需求的领域。在本例中以具有自动驾驶功能的无人车为例进行描述。
本发明实施例提供的激光雷达与视觉联合标定方法可以通过标定系统实现,如图1所示,所述系统包括数据采集模块、外参自动联合标定和结果校验模块,数据采集模块的作用是实现点云与图像同步数据对自动采集,联合标定模块的作用是实现外参自动联合标定,结果校验模块的作用是对标定结果有效性进行校验。下面依据三个模块的功能对联合标定方法进行详细介绍。
联合标定算法需要多组点云-图像数据对,作为算法的输入。为了保障数据的有效性和覆盖范围,标定环境应选择明亮且相机视野内有较多障碍物的环境,避免黑暗或空旷的环境。操纵无人车在合适的环境中低速行驶,数据采集模块自动采集N组点云-图像数据对用于后续联合标定算法运算。
数据采集模块的输入为硬件输出的原始图像信息和激光点云信息,数据输入到模块中相应的硬件驱动中,解析后生成算法可用的激光点云数据和图像数据。上述数据通过算法处理后,生成多组时间同步的点云-图像数据对,并将同步数据输出到联合标定模块。
在一个具体的例子中,对于某一时刻单帧的点云和图像数据输入,数据采集过程可以如图1所示。
首先,对系统进行初始化,根据系统视觉传感器和激光雷达采集的图像数据和点云数据的有效性判断初始化是否成功,具体的,通过驱动程序解析点云和图像数据,并依据数据的有效性判断是否初始化成功。需要说明的是,本发明中使用的视觉传感器应当包括但不仅限于单目相机,还可以采用环视相机、双目相机、TOF相机、结构光相机等其他可用的视觉传感器;激光雷达应当包括但不仅限于多线激光雷达,还可以是Flash雷达、MEMS雷达、相控阵雷达、TOF相机、结构光相机等其他任何能够生成三维点云信息的传感器。
其次,当初始化成功时,判断系统的点云配准功能是否正常。为了能够在不依赖于其他传感器的情况下判断车辆运行状态,本方法采用点云配准的方式来统计车辆行驶距离和转弯状态。需要说明的是,在本例中,数据采集模块采用了点云配准作为车辆运动状态和行驶距离的判断方法,此方法可以替换为GPS、IMU、轮速计或其他任何可行的航迹推算方法。
最后,确认点云和图像数据有效和点云配准功能正常之后,开始进行数据采集工作。具体的,为了确保标定用数据更一般化,减少同一场景的出现频次,根据预设时间间隔和预设行驶距离进行数据采集,得到一组点云数据和图像数据;依据点云配准获得的车辆位姿,采用位姿预测的方式将点云数据补偿到图像数据对应的时间点上,从而得到同步的点云-图像数据对,由此,标定系统会依据外界环境和车辆行驶状态自动采集合适的激光点云和视觉图像数据,并进行数据的时间同步和延时补偿;当点云-图像数据对的数量到达N时,停止数据采集。在一个具体的例子中,具体如图1所示,点云配准累计的车辆行驶距离(D)和与前一帧数据对之间的时间间隔(T)也会被作为某帧数据是否采集的判断条件,满足上述条件之后,数据采集模块会对时间戳最接近的一对最新的点云和图像数据进行采集,并且依据点云配准获得的车辆位姿,采用位姿预测的方式,将点云数据补偿到图像数据对应的时间点上,完成上述步骤之后,模块会记录下同步的点云-图像数据对,并重复上述过程,直到数据对数量(N)满足联合标定需求为止。需要说明的是,在本例中,车辆行驶距离(D)设为1.5米,时间间隔(T)设为5秒,数量(N)设为60帧,本领域技术人员可以根据需要对车辆行驶距离(D)、时间间隔(T)和数量(N)进行选择和限定。
在数据采集模块完成数据采集之后,外参自动联合标定模块进行外参自动联合标定,本模块的输入为多组同步的点云-图像数据对、初始外参估计参数和相机内参参数。数据输入到模块中,通过联合标定算法解算,最终输出激光和相机之间的外参标定结果。
图3为本发明实施例提供的一种激光雷达与视觉联合标定方法流程图,如图3所示,联合标定方法包括:
步骤101,输入N组时间同步的点云-图像数据对,并且获取视觉传感器和激光雷达之间第一初始外参估计参数,并根据第一初始外参估计参数和相机内参参数得到激光雷达坐标系和相机坐标系之间的转换关系。
其中,N组时间同步的点云-图像数据对是指根据上述采集方法采集的N组点云-图像数据对,在本例中点云-图像数据对为60组。
第一初始外参估计参数是指视觉传感器和激光雷达之间的初始外参估计参数,是根据视觉传感器和激光雷达的放置位置计算得到的。
相机内参参数是指视觉传感器的内参参数。
通过视觉传感器和激光雷达之间第一初始外参估计参数,以及相机内参参数可以得到激光雷达坐标系和相机坐标系之间的转换关系,也就是三维坐标系和二维坐标系之间的转化关系。
步骤102,在N组点云-图像数据对中随机抽取M组点云-图像数据对,其中,N≥M。
现有的标定方法通常通过一组点云-图像数据对获得相应的联合标定外参结果。但是,由于数据样本的单一性,很容易因为样本采集时的光照条件或环境较为空旷等原因,导致标定输入数据不够理想,致使外参标定结果的一致性较差或误差较大。另外,对于低线数的激光雷达而言,其点云分布较为稀疏,单帧数据样本不具有足够的代表性,很可能缺失关键的环境特征信息。
而如图4所示,本发明采用了一种多层的最优化联合标定外参计算方法,在第一层计算中,本方法从N组点云-图像数据对中随机抽取M组作为数据输入,由此可以兼顾结果的准确性和运行效率的最优,在可接受的运算时间之内,保证了标定参数输出结果具有良好的一致性和准确性,并且能够大幅提高低线数雷达的标定效果。
步骤103,针对每组点云-图像数据对,基于激光雷达坐标系和相机坐标系之间的转换关系,将点云-图像数据对中的激光雷达点云转换到相机坐标系下,将相机视野范围内的点云依据每个点的反射率强度投影到图像上生成点云投影灰度图像;并且,将点云-图像数据对中的图像数据转化为相机灰度图像。
这一过程的目的是依据激光雷达坐标系和相机坐标系之间的转换关系,将激光点云转换到相机坐标系,并且将相机视野范围内的点云依据每个点的反射率强度投影到图像上生成点云投影灰度图像,从而得到M组点云灰度图像。
并且,将相机采集的RBG图像也转化为灰度图像,从而得到M组相机灰度图像。
步骤104,根据点云投影灰度图像和相机灰度图像转化为点云灰度直方图和相机灰度直方图,从而得到M组点云灰度直方图和M组相机灰度直方图;将M组点云灰度直方图和M组相机灰度直方图分别进行数据累加,将累加后的点云灰度直方图和累加后的相机灰度直方图进行相关性函数运算,得到相关值。
计算得到的相关值越大表明标定后的点云投影灰度图像和相机灰度图像融合的越好,也就是说相关值越大表明激光雷达和视觉传感器之间的标定结果越准确。
步骤105,根据第一预设算法多次调整第一初始外参估计参数,再次输入M组点云-图像数据对进行联合标定运算,从而得到多个调整后的第一外参估计参数对应的第一相关值。
由于难以直接判断当前相关值是否为最优,因此采用梯度下降搜索法对第一初始外参估计参数进行多次调整,在采用梯度下降搜索法多次调整后得到多个调整后的第一外参估计参数,依次输入调整后的第一外参估计参数和M组点云-图像数据对进行联合标定运算,即重复上述步骤101和步骤104,从而得到多个第一相关值。
步骤106,将多个第一相关值进行比较,得到第一最优相关值,并获取第一最优相关值对应的外参标定结果。
将上述步骤104和步骤105得到的多个第一相关值进行比较,选取最大的第一相关值为第一最优相关值,并获取第一最优相关值对应的第一外参估计参数作为输出外参标定结果,也就是说,针对上述选取的M组点云-图像数据对,输出点云图像融合度最高时对应的外参参数。
步骤107,在N组点云-图像数据对中进行K次M组点云-图像数据对的抽取,从而得到K组外参标定结果。
为了保证标定参数输出结果具有良好的一致性和准确性,并且能够大幅提高低线数雷达的标定效果,在N组点云-图像数据对中进行K次M组点云-图像数据对的抽取,从而得到K组外参标定结果,也就是说重复上述过程K次,可以获得K组不同的外参标定结果。
步骤108,根据K组外参标定结果进行平均值计算,得到最优外参标定结果。
对上述K组外参数据采用数学方法计算其均值,作为第一层的最优参数结果输出。
步骤109,将最优外参标定结果作为第二初始外参估计参数,并导入N组点云-图像数据对,进行联合标定运算,得到第二相关值。
再次如图4所示,在得到第一层输出的最优参数结果后,将最优外参标定结果作为第二初始外参估计参数,为了进一步提高标定精度,导入预先采集的全部N组点云-图像数据对,进行联合标定运算,具体标定过程与步骤101至步骤104相似,即根据第二初始外参估计参数和相机内参参数得到激光雷达坐标系和相机坐标系之间的转换关系,针对每组点云-图像数据对,基于激光雷达坐标系和相机坐标系之间的转换关系,将点云-图像数据对中的激光雷达点云转换到相机坐标系下,将相机视野范围内的点云依据每个点的反射率强度投影到图像上生成点云投影灰度图像;并且,将点云-图像数据对中的图像数据转化为相机灰度图像;根据点云投影灰度图像和相机灰度图像转化为点云灰度直方图和相机灰度直方图,从而得到N组点云灰度直方图和N组相机灰度直方图;将N组点云灰度直方图和N组相机灰度直方图分别进行数据累加,将累加后的点云灰度直方图和累加后的相机灰度直方图进行相关性函数运算,得到第二相关值。
步骤110,根据第二预设算法对第二初始外参估计参数进行多次调整,再次输入N组点云-图像数据对进行联合标定运算,从而得到多个调整后的第二初始外参估计参数对应的第二相关值。
为了进一步提高标定精度,并确保标定结果良好的一致性,因此采用栅格化搜索法对第二初始外参估计参数进行多次调整,在采用栅格化搜索法多次调整后得到多个调整后的第二外参估计参数,依次输入调整后的第二外参估计参数和N组点云-图像数据对进行联合标定运算,即重复上述步骤109中的标定过程,从而得到多个第二相关值。
步骤111,将多个第二相关值进行比较,得到第二最优相关值,并获取第二最优相关值对应的外参标定结果进行输出。
将上述步骤109和步骤110得到的多个第二相关值进行比较,选取最大的第二相关值为第二最优相关值,并获取第二最优相关值对应的第二外参估计参数作为输出外参标定结果,也就是说,针对上述选取的N组点云-图像数据对,输出点云图像融合度最高时对应的外参参数。
由此,在第二层计算中,选用全部N组点云-图像数据对进行联合标定运算,并将更新外参估计参数的方法改为栅格化搜索,通过在第一层输出参数结果的基础上进行更细致地栅格化搜索,可以进一步提高标定精度,并确保标定结果良好的一致性。
在一个具体的例子中,图5为本发明实施例提供的标定前的灰度图像和点云投影灰度图像,图6为本发明实施例提供的标定后的灰度图像和点云投影灰度图像,如图5和图6所示,图中灰黑色线条即为依据点云反射率投影生成的点云投影灰度图,背景的灰度图像为原RGB图像转化的灰度图,从两图中的对比可以看出标定后点云投影灰度图与图像灰度图融合度极高。
在优选的实施例中,在外参标定结果输出之前,需要对标定结果(第二最优相关值对应的外参标定结果)有效性进行校验,校验方式一般是判断标定误差是否在可接受范围之内,具体可以通过自动校验法,自动校验一般需要特定的环境或标志物来作为校验参考,其校验结果可以对标定误差进行定量分析。
还可以采用人工校验的方式,人工校验一般是利用激光点云在相机图片上的投影图进行人工判别,即通过人工观察标定后点云到图像上投影的重合度来判断,人工校验成功与否能够较准确的分辨,且不依赖于特定环境。在一个具体的例子中,图7为本发明实施例提供的标定失败的校验图,图8为本发明实施例提供的标定成功的校验图,如图7和图8所示,图中横向线条为激光点云到图像的投影,颜色深浅代表距离的远近。从标定失败的校验图中可以明显看出,点云投影的障碍物轮廓和图像有明显的错位,尤其是行人和左侧矮墙的边缘。而标定成功的校验图中,行人的轮廓和矮墙边缘与点云投影重合度很高,表明标定效果较好。
当校验标定失败时,重新进行点云-图像数据对的采集,并重新进行标定。
本发明实施例提供的一种激光雷达与视觉联合标定方法,在无需搭建特定标定场景的情况下,实现准确、快速、高度一致性的激光雷达与视觉的联合标定,且对于高(不小于64线)、中(大于16线,小于64线)、低(不大于16线)不同线束激光雷达和视觉的联合标定均有一致性较好的标定结果。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RA激光雷达与视觉联合标定方法)、内存、只读存储器(RO激光雷达与视觉联合标定方法)、电可编程RO激光雷达与视觉联合标定方法、电可擦除可编程RO激光雷达与视觉联合标定方法、寄存器、硬盘、可移动磁盘、CD-RO激光雷达与视觉联合标定方法、或技术领域内所公知的任意其它形式的存储介质中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.一种激光雷达与视觉联合标定方法,其特征在于,所述方法包括:
输入N组时间同步的点云-图像数据对;
获取视觉传感器和激光雷达之间第一初始外参估计参数,并根据所述第一初始外参估计参数和相机内参参数得到激光雷达坐标系和相机坐标系之间的转换关系;
在所述N组点云-图像数据对中随机抽取M组点云-图像数据对;其中,所述N≥M;
针对每组点云-图像数据对,基于所述激光雷达坐标系和相机坐标系之间的转换关系,将点云-图像数据对中的激光雷达点云转换到相机坐标系下,将相机视野范围内的点云依据每个点的反射率强度投影到图像上生成点云投影灰度图像;
将点云-图像数据对中的图像数据转化为相机灰度图像;
根据所述点云投影灰度图像和所述相机灰度图像转化为点云灰度直方图和相机灰度直方图,从而得到M组点云灰度直方图和M组相机灰度直方图;
将M组点云灰度直方图和M组相机灰度直方图分别进行数据累加,将所述累加后的点云灰度直方图和所述累加后的相机灰度直方图进行相关性函数运算,得到相关值;
根据第一预设算法多次调整第一初始外参估计参数,再次输入所述M组点云-图像数据对进行联合标定运算,从而得到多个调整后的第一外参估计参数对应的第一相关值;
将多个所述第一相关值进行比较,得到第一最优相关值,并获取所述第一最优相关值对应的外参标定结果;
在所述N组点云-图像数据对中进行K次M组点云-图像数据对的抽取,从而得到K组外参标定结果;
根据所述K组外参标定结果进行平均值计算,得到最优外参标定结果;
将所述最优外参标定结果作为第二初始外参估计参数,并导入N组点云-图像数据对,进行联合标定运算,得到第二相关值;
根据第二预设算法对所述第二初始外参估计参数进行多次调整,再次输入所述N组点云-图像数据对进行联合标定运算,从而得到多个调整后的第二初始外参估计参数对应的第二相关值;
将多个所述第二相关值进行比较,得到第二最优相关值,并获取所述第二最优相关值对应的外参标定结果进行输出。
2.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,在所述输入N组时间同步的点云-图像数据对之前,所述方法还包括:
根据预设时间间隔和预设行驶距离进行数据采集,得到一组点云数据和图像数据;
依据点云配准获得的车辆位姿,采用位姿预测的方式将点云数据补偿到图像数据对应的时间点上,从而得到同步的点云-图像数据对;
当所述点云-图像数据对的数量到达所述N时,停止数据采集。
3.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,在所述根据预设时间间隔和预设行驶距离进行数据采集之前,所述方法还包括:
对系统进行初始化,根据所述系统视觉传感器和激光雷达采集的图像数据和点云数据的有效性判断初始化是否成功;
当初始化成功时,判断系统的点云配准功能是否正常;
当点云配准功能正常时,开始进行数据采集。
4.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,在所述获取所述第二最优相关值对应的外参标定结果进行输出之前,所述方法还包括:
对所述第二最优相关值对应的外参标定结果进行校验;
当校验失败时,重新进行点云-图像数据对的采集,并重新进行标定。
5.根据权利要求4所述的激光雷达与视觉联合标定方法,其特征在于,所述对所述第二最优相关值对应的外参标定结果进行校验具体包括:
利用激光点云在相机图片上的投影图进行人工判别。
6.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,所述根据第一预设算法多次调整第一初始外参估计参数具体包括:
采用梯度下降搜索法对所述第一初始外参估计参数进行多次调整。
7.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,所述根据第二预设算法对所述第二初始外参估计参数进行多次调整具体包括:
采用栅格化搜索法对所述第二初始外参估计参数进行多次调整。
8.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,所述视觉传感器包括单目相机、环视相机、双目相机、TOF相机和结构光相机中的一种。
9.根据权利要求1所述的激光雷达与视觉联合标定方法,其特征在于,所述激光雷达包括多线激光雷达、F l ash雷达、MEMS雷达、相控阵雷达、TOF相机和结构光相机中的一种。
CN201910201719.4A 2019-03-18 2019-03-18 一种激光雷达与视觉联合标定方法 Active CN109949372B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910201719.4A CN109949372B (zh) 2019-03-18 2019-03-18 一种激光雷达与视觉联合标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910201719.4A CN109949372B (zh) 2019-03-18 2019-03-18 一种激光雷达与视觉联合标定方法

Publications (2)

Publication Number Publication Date
CN109949372A true CN109949372A (zh) 2019-06-28
CN109949372B CN109949372B (zh) 2021-12-10

Family

ID=67008868

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910201719.4A Active CN109949372B (zh) 2019-03-18 2019-03-18 一种激光雷达与视觉联合标定方法

Country Status (1)

Country Link
CN (1) CN109949372B (zh)

Cited By (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110456330A (zh) * 2019-08-27 2019-11-15 中国人民解放军国防科技大学 一种相机与激光雷达之间外参无目标自动标定方法及系统
CN110579764A (zh) * 2019-08-08 2019-12-17 北京三快在线科技有限公司 深度相机和毫米波雷达的配准方法、装置、电子设备
CN110796683A (zh) * 2019-10-15 2020-02-14 浙江工业大学 一种基于视觉特征联合激光slam的重定位方法
CN110910498A (zh) * 2019-11-21 2020-03-24 大连理工大学 一种利用激光雷达和双目相机构建栅格地图的方法
CN111060132A (zh) * 2019-11-29 2020-04-24 苏州智加科技有限公司 行车定位坐标的标定方法和装置
CN111054782A (zh) * 2019-12-31 2020-04-24 太原科技大学 一种宽厚板板形检测装置及方法
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN111289957A (zh) * 2020-03-10 2020-06-16 上海高仙自动化科技发展有限公司 外参标定方法及装置、智能机器人及计算机可读存储介质
CN111415385A (zh) * 2020-03-02 2020-07-14 武汉大学 激光雷达和多线阵相机组合系统的相对位姿参数优化方法
CN111429521A (zh) * 2020-03-05 2020-07-17 深圳市镭神智能系统有限公司 相机与激光雷达的外参标定方法、装置、介质及电子设备
CN111505606A (zh) * 2020-04-14 2020-08-07 武汉大学 多相机与激光雷达系统相对位姿检校方法及装置
CN111638499A (zh) * 2020-05-08 2020-09-08 上海交通大学 基于激光雷达反射强度点特征的相机-激光雷达相对外参标定方法
CN112017205A (zh) * 2020-07-27 2020-12-01 清华大学 一种激光雷达和相机传感器空间位置自动标定方法及系统
CN112184589A (zh) * 2020-09-30 2021-01-05 清华大学 一种基于语义分割的点云强度补全方法及系统
CN112230241A (zh) * 2020-10-23 2021-01-15 湖北亿咖通科技有限公司 基于随机扫描型雷达的标定方法
CN112291024A (zh) * 2019-07-25 2021-01-29 北京地平线机器人技术研发有限公司 信息同步方法、信息同步装置及电子设备
CN112379354A (zh) * 2020-11-16 2021-02-19 哈尔滨工业大学 一种mems扫描激光雷达系统的时间误差自标定方法
CN112541886A (zh) * 2020-11-27 2021-03-23 北京佳力诚义科技有限公司 一种激光雷达和相机融合人工智能矿石识别方法和装置
CN112630749A (zh) * 2019-09-24 2021-04-09 北京百度网讯科技有限公司 用于输出提示信息的方法和装置
CN112750165A (zh) * 2019-10-29 2021-05-04 商汤集团有限公司 参数标定方法、智能驾驶方法及其装置、设备和存储介质
CN112837383A (zh) * 2021-03-01 2021-05-25 东南大学 相机与激光雷达重标定方法、装置及计算机可读存储介质
CN113096437A (zh) * 2021-03-30 2021-07-09 三一专用汽车有限责任公司 自动停车方法、装置及车辆
CN113538591A (zh) * 2021-06-18 2021-10-22 深圳奥锐达科技有限公司 一种距离测量装置与相机融合系统的标定方法及装置
CN113625288A (zh) * 2021-06-15 2021-11-09 中国科学院自动化研究所 基于点云配准的相机与激光雷达位姿标定方法和装置
WO2021233309A1 (zh) * 2020-05-21 2021-11-25 杭州海康威视数字技术股份有限公司 一种外参变化检测方法、装置、电子设备及检测系统
WO2022040940A1 (zh) * 2020-08-25 2022-03-03 深圳市大疆创新科技有限公司 标定方法、装置、可移动平台及存储介质
CN114593751A (zh) * 2022-03-11 2022-06-07 北京京东乾石科技有限公司 外参标定方法、装置、介质及电子设备
CN115097427A (zh) * 2022-08-24 2022-09-23 北原科技(深圳)有限公司 基于飞行时间法的自动标定系统及方法
CN115797401A (zh) * 2022-11-17 2023-03-14 昆易电子科技(上海)有限公司 对齐参数的验证方法、装置、存储介质及电子设备
CN115953484A (zh) * 2023-03-13 2023-04-11 福思(杭州)智能科技有限公司 探测设备的参数标定方法和装置、存储介质及电子装置

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2728376A1 (en) * 2012-11-05 2014-05-07 The Chancellor, Masters and Scholars of the University of Oxford Extrinsic calibration of imaging sensing devices and 2D LIDARs mounted on transportable apparatus
CN104142157A (zh) * 2013-05-06 2014-11-12 北京四维图新科技股份有限公司 一种标定方法、装置及设备
CN105678783A (zh) * 2016-01-25 2016-06-15 西安科技大学 折反射全景相机与激光雷达数据融合标定方法
US9784576B2 (en) * 2015-12-28 2017-10-10 Automotive Research & Test Center Calibration method for merging object coordinates and calibration board device using the same
CN107610199A (zh) * 2017-09-11 2018-01-19 常州新途软件有限公司 实时倒车轨迹显示方法、系统及等宽轨迹线绘制方法
CN107945220A (zh) * 2017-11-30 2018-04-20 华中科技大学 一种基于双目视觉的重建方法
CN109061610A (zh) * 2018-09-11 2018-12-21 杭州电子科技大学 一种摄像头与雷达的联合标定方法
CN109100741A (zh) * 2018-06-11 2018-12-28 长安大学 一种基于3d激光雷达及图像数据的目标检测方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2728376A1 (en) * 2012-11-05 2014-05-07 The Chancellor, Masters and Scholars of the University of Oxford Extrinsic calibration of imaging sensing devices and 2D LIDARs mounted on transportable apparatus
CN104142157A (zh) * 2013-05-06 2014-11-12 北京四维图新科技股份有限公司 一种标定方法、装置及设备
US9784576B2 (en) * 2015-12-28 2017-10-10 Automotive Research & Test Center Calibration method for merging object coordinates and calibration board device using the same
CN105678783A (zh) * 2016-01-25 2016-06-15 西安科技大学 折反射全景相机与激光雷达数据融合标定方法
CN107610199A (zh) * 2017-09-11 2018-01-19 常州新途软件有限公司 实时倒车轨迹显示方法、系统及等宽轨迹线绘制方法
CN107945220A (zh) * 2017-11-30 2018-04-20 华中科技大学 一种基于双目视觉的重建方法
CN109100741A (zh) * 2018-06-11 2018-12-28 长安大学 一种基于3d激光雷达及图像数据的目标检测方法
CN109061610A (zh) * 2018-09-11 2018-12-21 杭州电子科技大学 一种摄像头与雷达的联合标定方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A. ADÁN等: ""Fusion of thermal imagery and LiDAR data for generating TBIM models"", 《2017 IEEE SENSORS》 *
夏鹏飞: ""基于最大互信息的激光雷达与相机的配准"", 《仪器仪表学报》 *

Cited By (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112291024A (zh) * 2019-07-25 2021-01-29 北京地平线机器人技术研发有限公司 信息同步方法、信息同步装置及电子设备
CN112291024B (zh) * 2019-07-25 2023-11-03 北京地平线机器人技术研发有限公司 信息同步方法、信息同步装置及电子设备
CN110579764A (zh) * 2019-08-08 2019-12-17 北京三快在线科技有限公司 深度相机和毫米波雷达的配准方法、装置、电子设备
CN110579764B (zh) * 2019-08-08 2021-03-09 北京三快在线科技有限公司 深度相机和毫米波雷达的配准方法、装置、电子设备
CN110456330A (zh) * 2019-08-27 2019-11-15 中国人民解放军国防科技大学 一种相机与激光雷达之间外参无目标自动标定方法及系统
CN110456330B (zh) * 2019-08-27 2021-07-09 中国人民解放军国防科技大学 一种相机与激光雷达之间外参无目标自动标定方法及系统
CN112630749B (zh) * 2019-09-24 2023-06-09 北京百度网讯科技有限公司 用于输出提示信息的方法和装置
CN112630749A (zh) * 2019-09-24 2021-04-09 北京百度网讯科技有限公司 用于输出提示信息的方法和装置
CN110796683A (zh) * 2019-10-15 2020-02-14 浙江工业大学 一种基于视觉特征联合激光slam的重定位方法
CN112750165B (zh) * 2019-10-29 2023-12-15 商汤集团有限公司 参数标定方法、智能驾驶方法及其装置、设备和存储介质
CN112750165A (zh) * 2019-10-29 2021-05-04 商汤集团有限公司 参数标定方法、智能驾驶方法及其装置、设备和存储介质
CN110910498A (zh) * 2019-11-21 2020-03-24 大连理工大学 一种利用激光雷达和双目相机构建栅格地图的方法
CN110910498B (zh) * 2019-11-21 2021-07-02 大连理工大学 一种利用激光雷达和双目相机构建栅格地图的方法
CN111060132A (zh) * 2019-11-29 2020-04-24 苏州智加科技有限公司 行车定位坐标的标定方法和装置
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN111054782A (zh) * 2019-12-31 2020-04-24 太原科技大学 一种宽厚板板形检测装置及方法
CN111054782B (zh) * 2019-12-31 2021-08-13 太原科技大学 一种宽厚板板形检测装置及方法
CN111415385B (zh) * 2020-03-02 2022-03-11 武汉大学 激光雷达和多线阵相机组合系统的相对位姿参数优化方法
CN111415385A (zh) * 2020-03-02 2020-07-14 武汉大学 激光雷达和多线阵相机组合系统的相对位姿参数优化方法
CN111429521A (zh) * 2020-03-05 2020-07-17 深圳市镭神智能系统有限公司 相机与激光雷达的外参标定方法、装置、介质及电子设备
CN111289957A (zh) * 2020-03-10 2020-06-16 上海高仙自动化科技发展有限公司 外参标定方法及装置、智能机器人及计算机可读存储介质
CN111505606A (zh) * 2020-04-14 2020-08-07 武汉大学 多相机与激光雷达系统相对位姿检校方法及装置
CN111638499A (zh) * 2020-05-08 2020-09-08 上海交通大学 基于激光雷达反射强度点特征的相机-激光雷达相对外参标定方法
CN111638499B (zh) * 2020-05-08 2024-04-09 上海交通大学 基于激光雷达反射强度点特征的相机-激光雷达相对外参标定方法
WO2021233309A1 (zh) * 2020-05-21 2021-11-25 杭州海康威视数字技术股份有限公司 一种外参变化检测方法、装置、电子设备及检测系统
CN112017205B (zh) * 2020-07-27 2021-06-25 清华大学 一种激光雷达和相机传感器空间位置自动标定方法及系统
CN112017205A (zh) * 2020-07-27 2020-12-01 清华大学 一种激光雷达和相机传感器空间位置自动标定方法及系统
WO2022040940A1 (zh) * 2020-08-25 2022-03-03 深圳市大疆创新科技有限公司 标定方法、装置、可移动平台及存储介质
CN112184589A (zh) * 2020-09-30 2021-01-05 清华大学 一种基于语义分割的点云强度补全方法及系统
CN112184589B (zh) * 2020-09-30 2021-10-08 清华大学 一种基于语义分割的点云强度补全方法及系统
US11315271B2 (en) 2020-09-30 2022-04-26 Tsinghua University Point cloud intensity completion method and system based on semantic segmentation
CN112230241A (zh) * 2020-10-23 2021-01-15 湖北亿咖通科技有限公司 基于随机扫描型雷达的标定方法
CN112379354A (zh) * 2020-11-16 2021-02-19 哈尔滨工业大学 一种mems扫描激光雷达系统的时间误差自标定方法
CN112379354B (zh) * 2020-11-16 2021-09-28 哈尔滨工业大学 一种mems扫描激光雷达系统的时间误差自标定方法
CN112541886A (zh) * 2020-11-27 2021-03-23 北京佳力诚义科技有限公司 一种激光雷达和相机融合人工智能矿石识别方法和装置
CN112837383A (zh) * 2021-03-01 2021-05-25 东南大学 相机与激光雷达重标定方法、装置及计算机可读存储介质
CN113096437A (zh) * 2021-03-30 2021-07-09 三一专用汽车有限责任公司 自动停车方法、装置及车辆
CN113625288A (zh) * 2021-06-15 2021-11-09 中国科学院自动化研究所 基于点云配准的相机与激光雷达位姿标定方法和装置
CN113538591B (zh) * 2021-06-18 2024-03-12 深圳奥锐达科技有限公司 一种距离测量装置与相机融合系统的标定方法及装置
CN113538591A (zh) * 2021-06-18 2021-10-22 深圳奥锐达科技有限公司 一种距离测量装置与相机融合系统的标定方法及装置
CN114593751A (zh) * 2022-03-11 2022-06-07 北京京东乾石科技有限公司 外参标定方法、装置、介质及电子设备
CN115097427B (zh) * 2022-08-24 2023-02-10 北原科技(深圳)有限公司 基于飞行时间法的自动标定方法
CN115097427A (zh) * 2022-08-24 2022-09-23 北原科技(深圳)有限公司 基于飞行时间法的自动标定系统及方法
CN116577796A (zh) * 2022-11-17 2023-08-11 昆易电子科技(上海)有限公司 对齐参数的验证方法、装置、存储介质及电子设备
CN115797401A (zh) * 2022-11-17 2023-03-14 昆易电子科技(上海)有限公司 对齐参数的验证方法、装置、存储介质及电子设备
CN116577796B (zh) * 2022-11-17 2024-03-19 昆易电子科技(上海)有限公司 对齐参数的验证方法、装置、存储介质及电子设备
CN115953484A (zh) * 2023-03-13 2023-04-11 福思(杭州)智能科技有限公司 探测设备的参数标定方法和装置、存储介质及电子装置

Also Published As

Publication number Publication date
CN109949372B (zh) 2021-12-10

Similar Documents

Publication Publication Date Title
CN109949372A (zh) 一种激光雷达与视觉联合标定方法
CN109949371A (zh) 一种用于激光雷达和相机数据的标定方法
US11915501B2 (en) Object detection method and apparatus, electronic device, and storage medium
US20190236380A1 (en) Image generation system, program and method, and simulation system, program and method
CN109931939B (zh) 车辆的定位方法、装置、设备及计算机可读存储介质
CN108764187A (zh) 提取车道线的方法、装置、设备、存储介质以及采集实体
CN112749594B (zh) 信息补全方法、车道线识别方法、智能行驶方法及相关产品
AU2013343222A1 (en) Cloud feature detection
Zhang et al. Quantifying impacts on remote photogrammetric inspection using unmanned aerial vehicles
CN114254696A (zh) 基于深度学习的可见光、红外和雷达融合目标检测方法
CN103424112A (zh) 一种基于激光平面辅助的运动载体视觉导航方法
CN113095154A (zh) 基于毫米波雷达与单目相机的三维目标检测系统及方法
CN114758504A (zh) 一种基于滤波校正的网联车超速预警方法及系统
CN117111085A (zh) 一种自动驾驶汽车车路云融合感知方法
CN116978009A (zh) 基于4d毫米波雷达的动态物体滤除方法
Krajewski et al. Using drones as reference sensors for neural-networks-based modeling of automotive perception errors
CN113988197A (zh) 基于多相机、多激光雷达的联合标定及目标融合检测方法
CN111753901B (zh) 一种数据融合方法、装置、系统及计算机设备
Lucks et al. Improving trajectory estimation using 3D city models and kinematic point clouds
CN115690711A (zh) 一种目标检测方法、装置及智能车辆
US20230057655A1 (en) Three-dimensional ranging method and device
CN114037968A (zh) 基于深度雷达点云和图像数据融合的车道线检测方法
CN114169356A (zh) 信息补全方法、装置、计算机设备和存储介质
US11682140B1 (en) Methods and apparatus for calibrating stereo cameras using a time-of-flight sensor
CN116309379B (zh) 基于多数据融合的航摄质量自动检查方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB03 Change of inventor or designer information
CB03 Change of inventor or designer information

Inventor after: Chen Dong

Inventor after: Xiong Qi

Inventor after: Zhang Fang

Inventor after: Li Xiaofei

Inventor after: Zhang Dezhao

Inventor after: Wang Xiao

Inventor after: Huo Shuhao

Inventor before: Chen Dong

Inventor before: Xiong Qi

Inventor before: Zhang Fang

Inventor before: Li Xiaofei

Inventor before: Zhang Dezhao

Inventor before: Wang Xiao

Inventor before: Huo Shuhao

GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: B4-006, maker Plaza, 338 East Street, Huilongguan town, Changping District, Beijing 100096

Patentee after: Beijing Idriverplus Technology Co.,Ltd.

Address before: B4-006, maker Plaza, 338 East Street, Huilongguan town, Changping District, Beijing 100096

Patentee before: Beijing Idriverplus Technology Co.,Ltd.