CN112861660A - 激光雷达阵列与相机同步装置、方法、设备及存储介质 - Google Patents

激光雷达阵列与相机同步装置、方法、设备及存储介质 Download PDF

Info

Publication number
CN112861660A
CN112861660A CN202110089673.9A CN202110089673A CN112861660A CN 112861660 A CN112861660 A CN 112861660A CN 202110089673 A CN202110089673 A CN 202110089673A CN 112861660 A CN112861660 A CN 112861660A
Authority
CN
China
Prior art keywords
point cloud
module
camera
array
lidar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110089673.9A
Other languages
English (en)
Other versions
CN112861660B (zh
Inventor
章嵘
张大鹏
赵钊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Westwell Information Technology Co Ltd
Original Assignee
Shanghai Westwell Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Westwell Information Technology Co Ltd filed Critical Shanghai Westwell Information Technology Co Ltd
Priority to CN202110089673.9A priority Critical patent/CN112861660B/zh
Publication of CN112861660A publication Critical patent/CN112861660A/zh
Application granted granted Critical
Publication of CN112861660B publication Critical patent/CN112861660B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06—Systems determining position data of a target
    • G01S17/08—Systems determining position data of a target for measuring distance only
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88—Lidar systems specially adapted for specific applications
    • G01S17/93—Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931—Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S19/00—Satellite radio beacon positioning systems; Determining position, velocity or attitude using signals transmitted by such systems
    • G01S19/01—Satellite radio beacon positioning systems transmitting time-stamped messages, e.g. GPS [Global Positioning System], GLONASS [Global Orbiting Navigation Satellite System] or GALILEO
    • G01S19/13—Receivers
    • G01S19/35—Constructional details or hardware or software details of the signal processing chain
    • G01S19/37—Hardware or software details of the signal processing chain
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10028—Range image; Depth image; 3D point clouds

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Theoretical Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Data Mining & Analysis (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Abstract

本发明提供了激光雷达阵列与相机同步装置、方法、设备及存储介质，该装置包括：一相机模块，生成图像信息；一激光雷达阵列，包括多个矩阵排布的激光雷达，每个激光雷达生成第一点云信息；一同步触发模块，将GPS模块的GPS信号解析为GPRMC信号和PSS脉冲信号，时间戳模块根据高频信号对GPRMC信号、PSS脉冲信号切分后生成时间戳同步加入激光雷达阵列的第一点云信息和相机模块的图像信息；一数据处理单元，至少根据具有相同时间戳的第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。本发明能够能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据。

Description

激光雷达阵列与相机同步装置、方法、设备及存储介质
技术领域
本发明属于机器视觉采集设备领域，尤其涉及一种利用激光雷达传感器和图像传感器融合进行3D目标检测的算法。
背景技术
目前，在无人驾驶领域和3维重建领域的深度数据制作都是通过对单个激光雷达扫描的数据进行大量且复杂的人工处理后得到的。此类深度数据制作过程复杂且需要大量的手动数据处理，数据制作成本极其昂贵，最终的数据稀疏且精度不高，从而制约着深度估计、视差估计和3维重建的发展。与此同时，高精密度的激光雷达的成本非常高昂，大大增加了无人车、无人集卡等车辆的整体成本。
因此，本发明提供了一种激光雷达阵列与相机同步装置、方法、设备及存储介质。
需要说明的是，在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
针对现有技术中的问题，本发明的目的在于提供激光雷达阵列与相机同步装置、方法、设备及存储介质，克服了现有技术的困难，能够不需要人为处理数据，且能高效、高质量的采集深度数据以满足无人驾驶和3 维重建模型训练所需的高精度深度数据、视差数据。
本发明的实施例提供一种激光雷达阵列与相机同步装置，包括以下步骤：
一相机模块，生成图像信息；
一激光雷达阵列，包括多个矩阵排布的激光雷达，每个所述激光雷达生成第一点云信息；
一同步触发模块，包括GPS模块、高频晶振模块时间戳模块，将所述GPS模块的GPS信号解析为GPRMC信号和PSS脉冲信号，所述高频晶振模块生成高频信号，所述时间戳模块根据所述高频信号对所述 GPRMC信号、PSS脉冲信号切分后生成时间戳，将所述时间戳同步加入所述激光雷达阵列的第一点云信息和相机模块的图像信息；
一数据处理单元，至少根据具有相同时间戳的所述第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
优选地，所述时间戳模块生成包含相同绝对时间信息的多路TTL脉冲电平信号同步发送到所述激光雷达阵列中的所有激光雷达和相机模块。
优选地，所述数据处理单元叠加包含相同的时间戳所有所述激光雷达的第一点云信息生成第二点云信息。
优选地，所述数据处理单元自所述第二点云信息中删除沿轴向重叠的点云坐标中的较远的点云坐标，筛选所述第二点云信息。
优选地，所述第二点云信息的时间戳包含具有相同绝对时间信息的第一点云信息。
优选地，还包括：一运动补偿模块，对所述激光雷达阵列进行运动补偿，所述运动补偿模块的防抖频率为所述激光雷达的发生频率的整数倍。
优选地，还包括：一GPS信号天线，连接所述GPS模块，接收外部的GPS信号传输到所述GPS模块。
优选地，所述激光雷达阵列的所有激光雷达进行联合标定，再与相机模块进行联合标定。
优选地，所述高频晶振模块的频率大于等于10Mhz，所述高频信号的频率范围为5Mhz至50Mhz。
本发明的实施例还提供一种激光雷达阵列与相机同步方法，采用上述的激光雷达阵列与相机同步装置，激光雷达阵列与相机同步方法包括：
相机模块生成图像信息，激光雷达阵列的激光雷达分别生成第一点云信息；
将GPS信号解析为GPRMC信号和PSS脉冲信号，根据高频信号对所述GPRMC信号、PSS脉冲信号切分后生成时间戳，将时间戳同步加入所述激光雷达阵列的第一点云信息和相机模块的图像信息；
至少根据具有相同时间戳的所述第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
本发明的实施例还提供一种激光雷达阵列与相机同步设备，包括：
处理器；
存储器，其中存储有处理器的可执行指令；
其中，处理器配置为经由执行可执行指令来执行上述激光雷达阵列与相机同步方法的步骤。
本发明的实施例还提供一种计算机可读存储介质，用于存储程序，程序被执行时实现上述激光雷达阵列与相机同步方法的步骤。
本发明的激光雷达阵列与相机同步装置、方法、设备及存储介质，能够不需要人为处理数据，且能高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据。本发明操作简单，精度高，可适用于任何场景(包括无人驾驶开放场景、室内场景和3 维重建场景)，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述，本发明的其它特征、目的和优点将会变得更明显。
图1是安装本发明的激光雷达阵列与相机同步装置的集卡的结构示意图。
图2是本发明的激光雷达阵列与相机同步装置的主视图。
图3是本发明的激光雷达阵列与相机同步装置的侧视图。
图4是本发明的激光雷达阵列与相机同步装置的电路连接图。
图5是本发明的激光雷达阵列与相机同步方法的流程图。
图6是本发明的激光雷达阵列与相机同步设备的结构示意图。以及
图7是本发明一实施例的计算机可读存储介质的结构示意图。
附图标记
10 无人卡车
20 激光雷达阵列与相机同步装置
21 同步触发模块
22 GPS模块
23 高频晶振模块
24 时间戳模块
25 激光雷达阵列
251 激光雷达
252 激光雷达
253 激光雷达
254 激光雷达
255 激光雷达
256 激光雷达
257 激光雷达
258 激光雷达
259 激光雷达
26 相机模块
27 GPS信号天线
28 运动补偿模块
29 数据处理单元
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的实施方式。相反，提供这些实施方式使得本发明将全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。在图中相同的附图标记表示相同或类似的结构，因而将省略对它们的重复描述。
图1是安装本发明的激光雷达阵列与相机同步装置的集卡的结构示意图。图2是本发明的激光雷达阵列与相机同步装置的主视图。图3是本发明的激光雷达阵列与相机同步装置的侧视图。图4是本发明的激光雷达阵列与相机同步装置的电路连接图。如图1至4所示，将本发明的激光雷达阵列与相机同步装置20安装于无人卡车的车头位置，本发明的激光雷达阵列与相机同步装置20包括：一同步触发模块21、一激光雷达阵列 25、一相机模块26、一GPS信号天线27、一运动补偿模块28以及一数据处理单元29。本实施例中，相机模块26用于生成图像信息。激光雷达阵列25包括3×3矩阵排布的9个激光雷达251、252、253、254、255、 256、257、258、259，每个激光雷达生成第一点云信息。同步触发模块 21包括GPS模块22、高频晶振模块23时间戳模块24，将GPS模块 22的GPS信号解析为GPRMC信号和PSS(脉冲数/秒)脉冲，高频晶振模块23生成高频信号，时间戳模块24分别连接激光雷达阵列25、相机模块26，时间戳模块24根据高频信号对GPRMC信号、PSS脉冲信号切分后生成时间戳，将时间戳同步加入激光雷达阵列25的第一点云信息和相机模块26的图像信息。激光雷达阵列25、相机模块26分别连接到数据处理单元29。数据处理单元29可以内置于车载电脑中，用于至少根据具有相同时间戳的第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。运动补偿模块28用于对激光雷达阵列25 进行运动补偿，运动补偿模块28的防抖频率为激光雷达的发生频率的整数倍。GPS信号天线27连接GPS模块22，接收外部的GPS信号传输到GPS模块。
本发明提供一种可以通过同步触发装置和多激光雷达阵列对相机图片进行深度数据制作的系统，通过高精度同时触发多激光雷达和相机，并对点云进行运动补偿去除拖影，也可进行多帧激光雷达点云匹配叠加，实现无人驾驶和3维重建领域中高精度深度数据端对端制作。
本发明是无人驾驶领域和图像三维重建领域制作高质量的图像深度数据、视差数据的装置。此系统可以解决任意场景下无法获取大量的图像深度数据且深度数据质量不高的难题。本系统通过GPS、高频率晶振和 FPGA产生高精度(纳秒级别)触发信号，触发多激光雷达阵列(激光雷达数量>＝2)和相机，通过软硬件协调，将各传感器之间的同步误差精确到纳秒级别，每一帧的激光雷达阵列点云和图像完全对应，并对每帧点云通过IMU进行点云级别运动补偿，矫正点云拖影，可继续对每帧图像所对应的前后各5帧点云进行点云配置，并去除遮挡，叠加成更为稠密的深度图、视差图。此系统生成的深度数据可以用于无人驾驶深度估计、视差估计和3维重建等，解决了深度数据制作难、制作精度不高的难题。
本实施例中的GPRMC信号是推荐定位信息，这种推荐定位信息的数据格式为：
$GPRMC，<1>，<2>，<3>，<4>，<5>，<6>，<7>，<8>，<9>， <10>，<11>，<12>*hh
<1>UTC时间，hhmmss.sss(时分秒.毫秒)格式
<2>定位状态，A＝有效定位，V＝无效定位
<3>纬度ddmm.mmmm(度分)格式(前面的0也将被传输)
<4>纬度半球N(北半球)或S(南半球)
<5>经度dddmm.mmmm(度分)格式(前面的0也将被传输)
<6>经度半球E(东经)或W(西经)
<7>地面速率(000.0～999.9节，前面的0也将被传输)
<8>地面航向(000.0～359.9度，以正北为参考基准，前面的0也将被传输)
<9>UTC日期，ddmmyy(日月年)格式
<10>磁偏角(000.0～180.0度，前面的0也将被传输)
<11>磁偏角方向，E(东)或W(西)
<12>模式指示(仅NMEA0183 3.00版本输出，A＝自主定位，D＝差分，E＝估算，N＝数据无效)
在一个优选实施例中，时间戳模块24生成包含相同绝对时间信息的多路TTL脉冲电平信号同步发送到激光雷达阵列25中的所有激光雷达和相机模块26。
在一个优选实施例中，数据处理单元29叠加包含相同的时间戳所有激光雷达的第一点云信息生成第二点云信息。
在一个优选实施例中，数据处理单元29自第二点云信息中删除沿轴向重叠的点云坐标中的较远的点云坐标，筛选第二点云信息，但不以此为限。
在一个优选实施例中，第二点云信息的时间戳包含具有相同绝对时间信息的第一点云信息。
在一个优选实施例中，激光雷达阵列25的所有激光雷达可以根据阵列中位置居中的一个激光雷达进行联合标定，然后再与相机模块进行联合标定，但不以此为限。
在一个优选实施例中，高频晶振模块23的频率大于等于10Mhz，高频信号的频率范围为5Mhz至50Mhz，但不以此为限。
本发明可以通过将多个低密度的激光雷达组成的激光雷达阵列，利用同步触发模块21来保持所有激光雷达25与相机模块26的同步性，从而获得具有相同时间戳的第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
本发明的具体实施方式包括：
为了克服传统的基于数据后处理的深度数据所带来的精度不高，深度数据稀疏，且需要大量人工后处理等的不足，本发明提供一种深度数据采集制作系统，该系统可以不需要人为处理数据，且能高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据。
本发明解决其技术问题所采用的技术方案是：将GPS信号接入的同步装置中，同步装置内的GPS模块接受GPS信号并解析为GPRMC、PPS信号，将解析的GPRMC、PPS信号和装置中高频晶振产生的10Mhz 的信号传入时间戳模块24(FPGA模块，可编程逻辑器件)，在时间戳模块24(FPGA模块，可编程逻辑器件)中将PPS秒脉冲进行高精度的切分，并将切分后的高频GPRMC和PPS传入激光雷达阵列和支持硬触发的相机，达到同步触发激光雷达阵列和相机的目的。此外，激光雷达点云数据和IMU输出信号相结合对点云数据进行点云级别的运动补偿，消除每帧点云中的拖影现象，相机产生的图像数据去除曝光所需时间，激光雷达阵列和相机联合标定后，最终将相对应的点云数据转换到图像坐标系下，生成高精度稠密的深度数据。
本发明操作简单，精度高，可适用于任何场景(包括无人驾驶开放场景、室内场景和3维重建场景)，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，解决了高精度深度数据难制作、精度不高的难题。
继续参考图2和3本发明包含同步触发装置21，同步触发装置中含有GPS模块22、高频晶振23、时间戳模块24(FPGA模块，可编程逻辑器件)，GPS信号天线27，激光雷达阵列25，相机模块26，用于点云运动补偿的运动补偿模块28，数据处理单元29(数据接收处理单元PC机)。本发明的安装支架三视图(以3*3激光雷达阵列为例)，自上而下分别是双目相机，激光雷达阵列(3*3阵列)，同步触发装置(左)和IMU (右)。
在运行此多激光雷达阵列和多目相机的同步触发深度数据采集装置时，首先需要进行多传感器的标定和坐标转换。M*N(M>＝1，N>＝1)阵列的激光雷达做标定，使得M*N个激光雷达坐标系统一在某一个激光雷达坐标系下，此激光雷达坐标系称之为基准雷达坐标系，并将M*N个点云帧合并为在基准雷达坐标系下一个点云帧，后文所提到的点云帧均为此基准雷达坐标系下的点云帧，再通过激光雷达和相机联合标定后，将基准雷达坐标系转到相机坐标系下，此时雷达阵列和相机的坐标系完全统一到相机坐标系下。
由于激光雷达连续扫描的特性，每帧点云数据中都会产生拖影现象，所谓拖影现象，即每帧点云开始的扫描点正确无误，但随着雷达在运动，以后采集的点云都会相对于真实情况，点云有延迟，所以为了保持更高的精度，需要对点云进行运动补偿，通过IMU的角速度、加速度信息积分，得到运动方向、速度和运动距离，然后根据对应时间将运动变化参数加到需要补偿的点云位置信息中，从何去除拖影现象，保证了高精度的深度数据所需精准点云数据源。本实施例中，沿汽车行驶方向上，若点云数据源中出超过两个点重叠，则仅保留距离最近的点云坐标信息，删除其余点云坐标信息，从而去除拖影现象，但不以此为限。
在一个变形例中，也沿汽车行驶方向上，将相互间距小于预设距离的多个点云(大于等于2个)求平均值，建立一个虚拟点云来代表这些点云，但不以此为限。
多激光雷达阵列和多目相机的同步触发深度数据采集装置的核心部分之一是如何保持多激光雷达和相机的高精度同步触发，即相对应的每帧点云数据和图像帧必须保持同一时刻触发采集(精度要求纳秒级)为本装置的雷达阵列和相机高精度同步触发器。本同步触发器选用GPS高精度铯钟时间作为基准，通过GPS模块解析冲所需的RMC和PPS信号，并将这两路信号传给时间戳模块24(FPGA模块，可编程逻辑器件))。 GPS模块产生的时间信号精度无法达到此系统的要求，因此一个频率>＝10MHz的高频晶振可用于保持和精修GPS时间精度。时间戳模块 24(FPGA模块，可编程逻辑器件)将获得的GPS信号和晶振高频信号进行融合和更高精度的切分，生成相同的多路绝对时间信息和所对应的 TTL脉冲电平信号接入激光雷达阵列，和相机，绝对时间信息用于区分不同帧，TTL电平用于硬触发激光雷达和相机。通过此设备，激光雷达和相机的时间和触发完全同步。
同步触发后产生的点云数据和图像数据传入PC中，对图像进行去畸变处理，并将点云数据(已经完成联合标定)通过图像内参产生每帧图像对应的深度图。此时生成的稠密深度图可用于深度模型、视差模型、3维重建模型等的训练。
本发明的激光雷达阵列与相机同步装置，能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据，本发明操作简单，精度高，可适用于任何场景，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
图5是本发明的激光雷达阵列与相机同步方法的流程图。如图5所示，本发明的实施例还提供一种激光雷达阵列与相机同步方法，采用上述的激光雷达阵列与相机同步装置，激光雷达阵列与相机同步装置方法包括以下步骤：
S110、相机模块生成图像信息，激光雷达阵列的激光雷达分别生成第一点云信息；
S120、将GPS信号解析为GPRMC信号和PSS脉冲信号，根据高频信号对GPRMC信号、PSS脉冲信号切分后生成时间戳，将时间戳同步加入激光雷达阵列的第一点云信息和相机模块的图像信息；
S130、至少根据具有相同时间戳的第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
本发明的激光雷达阵列与相机同步方法，能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据，本发明操作简单，精度高，可适用于任何场景，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
本发明实施例还提供一种激光雷达阵列与相机同步设备，包括处理器。存储器，其中存储有处理器的可执行指令。其中，处理器配置为经由执行可执行指令来执行的激光雷达阵列与相机同步方法的步骤。
如上，本发明的激光雷达阵列与相机同步设备能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据，本发明操作简单，精度高，可适用于任何场景，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
所属技术领域的技术人员能够理解，本发明的各个方面可以实现为系统、方法或程序产品。因此，本发明的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“平台”。
图6是本发明的激光雷达阵列与相机同步设备的结构示意图。下面参照图6来描述根据本发明的这种实施方式的电子设备600。图6显示的电子设备600仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示，电子设备600以通用计算设备的形式表现。电子设备 600的组件可以包括但不限于：至少一个处理单元610、至少一个存储单元620、连接不同平台组件(包括存储单元620和处理单元610)的总线 630、显示单元640等。
其中，存储单元存储有程序代码，程序代码可以被处理单元610执行，使得处理单元610执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。例如，处理单元610可以执行如图5中所示的步骤。
存储单元620可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)6201和/或高速缓存存储单元6202，还可以进一步包括只读存储单元(ROM)6203。
存储单元620还可以包括具有一组(至少一个)程序模块6205的程序/实用工具6204，这样的程序模块6205包括但不限于：操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。
总线630可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、外围总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。
电子设备600也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备 600交互的设备通信，和/或与使得该电子设备600能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备600还可以通过网络适配器660与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。网络适配器660可以通过总线630与电子设备600的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储平台等。
本发明实施例还提供一种计算机可读存储介质，用于存储程序，程序被执行时实现的激光雷达阵列与相机同步方法的步骤。在一些可能的实施方式中，本发明的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当程序产品在终端设备上运行时，程序代码用于使终端设备执行本说明书上述电子处方流转处理方法部分中描述的根据本发明各种示例性实施方式的步骤。
如上所示，该实施例的计算机可读存储介质的程序在执行时，能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据，本发明操作简单，精度高，可适用于任何场景，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
图7是本发明的计算机可读存储介质的结构示意图。参考图7所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品800，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本发明的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读存储介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读存储介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序代码，程序设计语言包括面向对象的程序设计语言—诸如 Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
综上，本发明的激光雷达阵列与相机同步装置、方法、设备及存储介质，能够高效、高质量的采集深度数据以满足无人驾驶和3维重建模型训练所需的高精度深度数据、视差数据，本发明操作简单，精度高，可适用于任何场景，最后输出数据不需要再进行人工处理，直接可以使用，且满足实时性要求，大大降低了获得高密度点云数据的成本，解决了高精度深度数据难制作、精度不高的难题。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (12)

1.一种激光雷达阵列与相机同步装置，其特征在于，包括：
一相机模块(26)，生成图像信息；
一激光雷达阵列(25)，包括多个矩阵排布的激光雷达，每个所述激光雷达生成第一点云信息；
一同步触发模块(21)，包括GPS模块(22)、高频晶振模块(23)时间戳模块(24)，将所述GPS模块(22)的GPS信号解析为GPRMC信号和PSS脉冲信号，所述高频晶振模块(23)生成高频信号，所述时间戳模块(24)根据所述高频信号对所述GPRMC信号、PSS脉冲信号切分后生成时间戳，将所述时间戳同步加入所述激光雷达阵列(25)的第一点云信息和相机模块(26)的图像信息；
一数据处理单元(29)，至少根据具有相同时间戳的所述第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
2.根据权利要求1所述的激光雷达阵列与相机同步装置，其特征在于，所述时间戳模块(24)生成包含相同绝对时间信息的多路TTL脉冲电平信号同步发送到所述激光雷达阵列(25)中的所有激光雷达和相机模块(26)。
3.根据权利要求1所述的激光雷达阵列与相机同步装置，其特征在于，所述数据处理单元(29)叠加包含相同的时间戳所有所述激光雷达的第一点云信息生成第二点云信息。
4.根据权利要求3所述的激光雷达阵列与相机同步装置，其特征在于，所述数据处理单元(29)自所述第二点云信息中删除沿轴向重叠的点云坐标中的较远的点云坐标，筛选所述第二点云信息。
5.根据权利要求4所述的激光雷达阵列与相机同步装置，其特征在于，所述第二点云信息的时间戳包含具有相同绝对时间信息的第一点云信息。
6.根据权利要求1所述的激光雷达阵列与相机同步装置，其特征在于，还包括：一运动补偿模块(28)，对所述激光雷达阵列(25)进行运动补偿，所述运动补偿模块(28)的防抖频率为所述激光雷达的发生频率的整数倍。
7.根据权利要求1所述的激光雷达阵列与相机同步装置，还包括：一GPS信号天线(27)，连接所述GPS模块(22)，接收外部的GPS信号传输到所述GPS模块。
8.根据权利要求1所述的激光雷达阵列与相机同步装置，其特征在于，所述激光雷达阵列(25)的所有激光雷达进行联合标定，再与相机模块进行联合标定。
9.根据权利要求1所述的激光雷达阵列与相机同步装置，其特征在于，所述高频晶振模块(23)的频率大于等于10Mhz，所述高频信号的频率范围为5Mhz至50Mhz。
10.一种激光雷达阵列与相机同步方法，其特征在于，采用实现如权利要求1所述的激光雷达阵列与相机同步装置，包括：
相机模块生成图像信息，激光雷达阵列的激光雷达分别生成第一点云信息；
将GPS信号解析为GPRMC信号和PSS脉冲信号，根据高频信号对所述GPRMC信号、PSS脉冲信号切分后生成时间戳，将时间戳同步加入所述激光雷达阵列的第一点云信息和相机模块的图像信息；
至少根据具有相同时间戳的所述第一点云信息生成第二点云信息和图像信息作为同一帧信息进行机器视觉识别。
11.一种激光雷达阵列与相机同步设备，其特征在于，包括：
处理器；
存储器，其中存储有处理器的可执行指令；
其中，处理器配置为经由执行可执行指令来执行权利要求1至9中任意一项所述激光雷达阵列与相机同步方法的步骤。
12.一种计算机可读存储介质，用于存储程序，其特征在于，程序被执行时实现权利要求1至9中任意一项所述激光雷达阵列与相机同步方法的步骤。
CN202110089673.9A 2021-01-22 2021-01-22 激光雷达阵列与相机同步装置、方法、设备及存储介质 Active CN112861660B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110089673.9A CN112861660B (zh) 2021-01-22 2021-01-22 激光雷达阵列与相机同步装置、方法、设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110089673.9A CN112861660B (zh) 2021-01-22 2021-01-22 激光雷达阵列与相机同步装置、方法、设备及存储介质

Publications (2)

Publication Number Publication Date
CN112861660A true CN112861660A (zh) 2021-05-28
CN112861660B CN112861660B (zh) 2023-10-13

Family

ID=76007995

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110089673.9A Active CN112861660B (zh) 2021-01-22 2021-01-22 激光雷达阵列与相机同步装置、方法、设备及存储介质

Country Status (1)

Country Link
CN (1) CN112861660B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113643321A (zh) * 2021-07-30 2021-11-12 北京三快在线科技有限公司 一种无人驾驶设备的传感器数据采集方法及装置
CN113674422A (zh) * 2021-08-27 2021-11-19 中汽创智科技有限公司 一种数据同步采集方法、控制模块、系统及存储介质
CN113792797A (zh) * 2021-09-16 2021-12-14 智道网联科技(北京)有限公司 点云数据筛选方法及存储介质
CN114754769A (zh) * 2022-06-15 2022-07-15 天津大学四川创新研究院 激光雷达与惯性传感器的数据同步授时系统和方法
CN115840234A (zh) * 2022-10-28 2023-03-24 苏州知至科技有限公司 雷达数据采集方法、装置和存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9097800B1 (en) * 2012-10-11 2015-08-04 Google Inc. Solid object detection system using laser and radar sensor fusion
EP3438776A1 (en) * 2017-08-04 2019-02-06 Bayerische Motoren Werke Aktiengesellschaft Method, apparatus and computer program for a vehicle
EP3540464A2 (en) * 2018-09-12 2019-09-18 Baidu Online Network Technology (Beijing) Co., Ltd. Ranging method based on laser radar system, device and readable storage medium
CN110879401A (zh) * 2019-12-06 2020-03-13 南京理工大学 基于相机和激光雷达的无人驾驶平台实时目标3d检测方法
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN112230240A (zh) * 2020-09-30 2021-01-15 深兰人工智能(深圳)有限公司 激光雷达与相机数据的时空同步系统、装置及可读介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9097800B1 (en) * 2012-10-11 2015-08-04 Google Inc. Solid object detection system using laser and radar sensor fusion
EP3438776A1 (en) * 2017-08-04 2019-02-06 Bayerische Motoren Werke Aktiengesellschaft Method, apparatus and computer program for a vehicle
EP3540464A2 (en) * 2018-09-12 2019-09-18 Baidu Online Network Technology (Beijing) Co., Ltd. Ranging method based on laser radar system, device and readable storage medium
CN110879401A (zh) * 2019-12-06 2020-03-13 南京理工大学 基于相机和激光雷达的无人驾驶平台实时目标3d检测方法
CN111127563A (zh) * 2019-12-18 2020-05-08 北京万集科技股份有限公司 联合标定方法、装置、电子设备及存储介质
CN112230240A (zh) * 2020-09-30 2021-01-15 深兰人工智能(深圳)有限公司 激光雷达与相机数据的时空同步系统、装置及可读介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘锴: "面向无人驾驶的多激光雷达与相机的融合技术研究", 《中国优秀硕博士学位论文全文数据库（硕士），信息科技辑》 *
刘锴: "面向无人驾驶的多激光雷达与相机的融合技术研究", 《中国优秀硕博士学位论文全文数据库（硕士），信息科技辑》, no. 1, 15 January 2021 (2021-01-15), pages 035 - 411 *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113643321A (zh) * 2021-07-30 2021-11-12 北京三快在线科技有限公司 一种无人驾驶设备的传感器数据采集方法及装置
CN113674422A (zh) * 2021-08-27 2021-11-19 中汽创智科技有限公司 一种数据同步采集方法、控制模块、系统及存储介质
CN113792797A (zh) * 2021-09-16 2021-12-14 智道网联科技(北京)有限公司 点云数据筛选方法及存储介质
CN113792797B (zh) * 2021-09-16 2024-04-26 智道网联科技(北京)有限公司 点云数据筛选方法及存储介质
CN114754769A (zh) * 2022-06-15 2022-07-15 天津大学四川创新研究院 激光雷达与惯性传感器的数据同步授时系统和方法
CN114754769B (zh) * 2022-06-15 2022-11-18 天津大学四川创新研究院 激光雷达与惯性传感器的数据同步授时系统和方法
CN115840234A (zh) * 2022-10-28 2023-03-24 苏州知至科技有限公司 雷达数据采集方法、装置和存储介质
CN115840234B (zh) * 2022-10-28 2024-04-19 苏州知至科技有限公司 雷达数据采集方法、装置和存储介质

Also Published As

Publication number Publication date
CN112861660B (zh) 2023-10-13

Similar Documents

Publication Publication Date Title
CN112861660B (zh) 激光雷达阵列与相机同步装置、方法、设备及存储介质
CN113708877B (zh) 用于车辆的时间同步系统和方法
US10267924B2 (en) Systems and methods for using a sliding window of global positioning epochs in visual-inertial odometry
JP6812404B2 (ja) 点群データを融合させるための方法、装置、コンピュータ読み取り可能な記憶媒体、及びコンピュータプログラム
EP3469306B1 (en) Geometric matching in visual navigation systems
CN110517303B (zh) 一种基于双目相机和毫米波雷达的融合slam方法及系统
CN107886531B (zh) 一种基于激光测距以及物方匹配的虚拟控制点获取方法
CN111415409B (zh) 一种基于倾斜摄影的建模方法、系统、设备和存储介质
CN109917419B (zh) 一种基于激光雷达与图像的深度填充密集系统及方法
US20030086604A1 (en) Three-dimensional database generating system and method for generating three-dimensional database
CN113160327A (zh) 一种点云补全的实现方法和系统
US20210190923A1 (en) Methods and systems for online synchronization of sensors of self-driving vehicles (sdv)
CN113240813B (zh) 三维点云信息确定方法及装置
CN112383675A (zh) 一种时间同步方法、装置及终端设备
Pagani et al. Sensors for location-based augmented reality the example of galileo and egnos
CN111784837A (zh) 高精地图生成方法和装置
CN112041767A (zh) 用于同步车辆传感器和设备的系统和方法
CN111556226A (zh) 一种相机系统
CN113296133A (zh) 一种基于双目视觉测量与高精度定位融合技术实现位置标定的装置及方法
Qiu et al. External multi-modal imaging sensor calibration for sensor fusion: A review
CN112235041A (zh) 实时点云的处理系统、方法及机载数据采集装置、方法
CN104296726B (zh) 双面阵推扫立体测绘成像方法及成像系统
CN116684740A (zh) 感知训练数据生成方法、装置、计算机设备和存储介质
CN112995524A (zh) 高精采集车及其照片曝光信息生成系统、方法和同步装置
CN116027351A (zh) 一种手持/背包式slam装置及定位方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: Room 503-3, 398 Jiangsu Road, Changning District, Shanghai 200050

Applicant after: Shanghai Xijing Technology Co.,Ltd.

Address before: Room 503-3, 398 Jiangsu Road, Changning District, Shanghai 200050

Applicant before: SHANGHAI WESTWELL INFORMATION AND TECHNOLOGY Co.,Ltd.

GR01 Patent grant
GR01 Patent grant