CN109343061B - 传感器标定方法、装置、计算机设备、介质和车辆 - Google Patents
传感器标定方法、装置、计算机设备、介质和车辆 Download PDFInfo
- Publication number
- CN109343061B CN109343061B CN201811094353.7A CN201811094353A CN109343061B CN 109343061 B CN109343061 B CN 109343061B CN 201811094353 A CN201811094353 A CN 201811094353A CN 109343061 B CN109343061 B CN 109343061B
- Authority
- CN
- China
- Prior art keywords
- camera
- laser radar
- vehicle
- static
- coordinate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/86—Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
- G01S13/865—Combination of radar systems with lidar systems
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/40—Means for monitoring or calibrating
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
- G01S7/4972—Alignment of sensor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Electromagnetism (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Traffic Control Systems (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种传感器标定方法、装置、计算机设备、介质和车辆,其中,该方法包括在车辆行驶过程中,检测周围物体;从检测到的周围物体中识别出静态物体;分别利用相机和激光雷达对静态物体进行特征提取,利用提取到的特征对相机和激光雷达的外参进行标定。本发明实施例解决了现有的传感器标定方法在车辆行驶过程中不适用的问题,实现了车辆行驶过程中的传感器标定,提高了传感器标定的便利性,并提高了车辆行驶的安全性。
Description
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种传感器标定方法、装置、计算机设备、介质和车辆。
背景技术
在自动驾驶技术中,相机和激光雷达都是自动驾驶系统中的重要组件,利用相机和激光雷达可以对车辆周围环境进行感知,具体的,例如实现车道线检测、路牙检测、障碍物检测和交通标志识别等。考虑相机和激光雷达各有优缺点,因而通过相机和激光雷达的联合使用,发挥出各自的优点,可以更好地完成自动驾驶过程中的感知工作。
其中,相机与激光雷达之间的外参标定直接影响他们工作产生的结果的准确性,这使得外参标定成为自动驾驶技术中一个不可忽视的重要环节。在现有技术中,相机到激光雷达的外参标定往往需要特制的标定物或在标定间完成,这样不仅操作复杂,且需要车辆定期返厂标定,不适用于行驶过程中的自动化标定。因此,当车辆行驶过程中由于相机和激光雷达的松动,导致两者采集的数据产生较大偏差时,如何对相机和激光雷达快速进行自适应标定,对自动驾驶具有重要的意义。
发明内容
本发明实施例提供一种传感器标定方法、装置、计算机设备、介质和车辆,以实现车辆行驶过程中的传感器标定。
第一方面,本发明实施例提供了一种传感器标定方法,该方法包括:
在车辆行驶过程中,检测周围物体;
从检测到的周围物体中识别出静态物体;
分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定。
第二方面,本发明实施例还提供了一种传感器标定装置,该装置包括:
物体检测模块,用于在车辆行驶过程中,检测周围物体;
静态物体识别模块,用于从检测到的周围物体中识别出静态物体;
标定模块,用于分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定。
第三方面,本发明实施例还提供了一种计算机设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任一实施例所述的传感器标定方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任一实施例所述的传感器标定方法。
第五方面,本发明实施例还提供了一种车辆,包括车体,还包括如本发明实施例所述的计算机设备,以及设置在所述车体上的至少两种传感器,其中,所述至少两种传感器包括激光雷达和相机,所述至少两种传感器分别与所述计算机设备进行通信。
本发明实施例首先通过在车辆行驶过程中,从检测到的周围物体中识别出静态物体;然后分别利用相机和激光雷达对静态物体进行特征提取;最后利用提取到的特征对相机和激光雷达的外参进行标定。本发明实施例解决了现有的传感器标定方法在车辆行驶过程中不适用的问题,实现了车辆行驶过程中的传感器标定,提高了传感器标定的便利性,并提高了车辆行驶的安全性。
附图说明
图1是本发明实施例一提供的传感器标定方法的流程图;
图2是本发明实施例二提供的传感器标定方法的流程图;
图3是本发明实施例三提供的传感器标定装置的结构示意图;
图4是本发明实施例四提供的一种计算机设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1是本发明实施例一提供的传感器标定方法的流程图,本实施例可适用于对传感器进行标定的情况,该方法可以由传感器标定装置来执行,该装置可以采用软件和/或硬件的方式实现,并可配置在计算机设备上,该计算设备可以配置在车辆上,例如具有控制和计算能力的无人车等。如图1所示,该方法具体包括:
S110、在车辆行驶过程中,检测周围物体。
在车辆行驶过程中,根据车上配置的用于感知车辆周围物体的传感器采集的数据,例如相机和激光雷达等采集的数据,并结合物体识别方法,检测出周围物体。
示例性的,可以根据车辆周围环境的特点,选择根据一种传感器的检测结果确定周围物体,例如,当周围环境中包括的动态物体较少时,可以选择将相机采集的图像,作为预先训练的障碍物识别模型的输入,检测出车辆周围环境中不同类型的物体;当周围环境包括较多的动态物体时,可以选择基于点云数据进行三维场景构建,检测出车辆周围环境中不同类型的物体;同时,也可以综合考虑至少两种传感器的检测结果,确定出周围物体。
可选的,检测周围物体,包括:
分别利用相机和激光雷达进行障碍物检测;
对相机和激光雷达的障碍物检测结果进行融合校验,得到最终的障碍物检测结果,并作为周围物体。
其中,障碍物即周围环境中相对于行驶车辆之外的物体。考虑相机和激光雷达在物体检测过程中各有优势,例如,在障碍物的检测过程中,利用相机采集的图像,基于深度学习,便可实现对障碍物的细致分类;而基于激光雷达采集的点云数据识别的障碍物只能实现大类上的划分,但是,对物体运动状态的判断主要还是基于激光雷达实现,因此,通过相机和激光雷达之间检测结果的融合校验,可以发挥两者各自的优势,提高物体检测的准确性。
S120、从检测到的周围物体中识别出静态物体。
当识别出周围物体之后,可以根据不同物体在相同时间内的位置变化特点,识别出不同运动状态的物体,并进行分类,得到静态物体。静态物体是世界坐标系中位置固定的物体,包括汽车、房子、树和电线杆中的一个或多个。
可选的,从检测到的周围物体中识别出静态物体,包括:
利用预先训练的识别模型,从检测到的周围物体中识别出静态物体。例如,利用预先训练的物体分类器,将识别出的周围物体作为输入,得到静态物体。
相比于周围环境中的动态物体,静态物体相对于车辆的位置变化只与车辆的行驶速度有关,因此,在传感器的标定过程中将静态物体作为标定所用的标准物体,可以简化标定过程,降低标定过程中的计算复杂度;并且,本实施例中静态物体包括的种类均属于车辆行驶过程中的自然场景物体,具有普遍性,可以提高本实施例中的标定方法在车辆行驶过程中的适用性。
S130、分别利用相机和激光雷达对静态物体进行特征提取,利用提取到的特征对相机和激光雷达的外参进行标定。
在同一时刻,依次利用相机和激光雷达对包括识别的静态物体在内的环境数据进行采集;然后,基于物体识别与特征提取技术,确定出静态物体分别在相机坐标系和激光雷达坐标系中的位置坐标,其中,可以选择将静态物体上可用于表征该静态物体的关键点坐标作为其位置坐标;最后,基于不同坐标系之间的坐标变换操作,当确定的关键点坐标在相机坐标系和激光雷达坐标系中重合时,即认为两种坐标系中的静态物体重合,确定出坐标变换过程中涉及的变换参数,即实现相机和激光雷达之间的自动标定。本实施例中的传感器标定方法可以在车辆行驶过程中基于任意时刻下相机和激光雷达同时采集的数据实现,因而,提高了传感器标定的便利性,避免了返厂标定的繁琐,进一步提高了车辆行驶的安全性。
本实施例的技术方案首先通过在车辆行驶过程中,检测周围物体,从检测到的周围物体中识别出静态物体;然后分别利用相机和激光雷达对静态物体进行特征提取;最后利用提取到的特征对相机和激光雷达的外参进行标定,解决了现有的传感器标定方法在车辆行驶过程中不适用的问题,实现了车辆行驶过程中的传感器标定,提高了传感器标定的便利性,并提高了车辆行驶的安全性;同时,在车辆行驶过程中,选择自然场景中的静态物体作为标定的标准物,不仅简化了标定过程,降低了标定过程中的计算复杂度,还进一步提高了标定方法在车辆行驶过程中的适用性。
实施例二
图2是本发明实施例二提供的传感器标定方法的流程图,本实施例是在上述实施例的基础上进一步进行优化。如图2所示,该方法可以包括:
S210、在车辆行驶过程中,检测周围物体。
S220、从检测到的周围物体中识别出静态物体。
S230、分别利用相机和激光雷达,对静态物体的边缘进行特征提取,得到边缘上的多个特征点分别在相机成像平面下的第一坐标,以及在激光雷达坐标系下的第二坐标。
具体的,在车辆行驶过程中,利用相机采集包括静态物体在内的图像数据,基于图像识别技术,识别出静态物体在图像上的轮廓,并且确定出该轮廓边缘上的多个特征点在相机成像平面下的第一坐标,其中,相机成像平面所在的坐标系即图像坐标系。
在相机采集图像数据的同一时刻,利用激光雷达同时采集车辆周围环境的点云数据,通过三维场景构建,得到三维的环境图像,然后,基于静态物体识别,确定出静态物体在三维环境图像的轮廓,并确定该轮廓边缘上多个特征点在激光雷达坐标系下的第二坐标。其中,第二坐标属于三维坐标,第二坐标和第一坐标对应于静态物体边缘上的相同特征点。
可选的,边缘的类型包括直线和圆环中的一种或多种。例如,路边大树的边缘为直线,电线杆的边缘也为直线,而路边停靠的车辆的轮胎边缘则为圆环。考虑到直线边缘的特征提取过程中会受到噪点影响,从而影响后续的标定准确率,优选提取圆环的特征。因为圆环有其固定的圆方程,可以结合该圆方程来进行边缘特征的提取,从而降低噪点影响,提高后续标定的准确率。
S240、通过迭代的方法,执行第二坐标经投影在相机成像平面下的坐标与第一坐标的对齐操作,并且当对齐时,确定相机与激光雷达之间的旋转矩阵和平移矢量。
为了简化三维坐标和二维坐标之间的变换操作,可以将激光雷达坐标系下的第二坐标投影至相机成像平面上,即将三维的点云数据转换为二维数据;然后,以迭代变换的方式,在相机成像平面上进行第一坐标与投影之后的第二坐标之间的对齐操作,当第一坐标与投影之后的第二坐标分别重合时,即坐标对齐时刻,确定出坐标对齐过程中旋转操作对应的旋转矩阵以及平移操作对应的平移矢量,便可作为相机和传感器之间的标定外参。
示例性的,在坐标对齐过程中,可以选择将其中一种特征点坐标进行固定,通过迭代的方式,依次改变另一种特征点坐标的位置,直至两种特征点坐标对齐。例如可以选择将第一坐标固定,依次改变投影之后的第二坐标的位置,直至其与第一坐标对齐。投影之后的第二坐标所涉及的坐标变换参数即可作为相机和传感器之间的外参。
此外,在相机成像平面上进行第一坐标和第二坐标的对齐操作后,还可以基于相机成像平面所在的图像坐标系与相机坐标系之间的变换关系,以及三维坐标的投影变换关系,对坐标对齐过程中确定的旋转矩阵与平移矢量进行变换计算,得到相对于相机坐标系和激光点云坐标系中静态物体边缘上的特征点之间的坐标变换参数,作为相机和激光雷达之间的最终外参。
本实施例的技术方案首先通过在车辆行驶过程中,从检测到的周围物体中识别出静态物体;然后分别利用相机和激光雷达对静态物体的边缘进行特征提取;最后利用该边缘上的多个特征点分别在图像坐标系和激光点云坐标系中的坐标变换,实现相机和激光雷达之间的自动标定,解决了现有的传感器标定方法在车辆行驶过程中不适用的问题,实现了车辆行驶过程中的传感器标定,提高了传感器标定的便利性;并且,对静态物体的边缘识别过程中选择简单图形作为轮廓边缘,提高了边缘识别的准确性,进而保证了传感器标定的准确性。
实施例三
图3是本发明实施例三提供的传感器标定装置的结构示意图,本实施例可适用于对传感器进行标定的情况。该装置可以采用软件和/或硬件的方式实现,并可配置于计算机设备上,该计算设备可以配置在车辆上,例如具有控制和计算能力的车辆等。
如图3所示,该装置包括物体检测模块310、静态物体识别模块320和标定模块330,其中:
物体检测模块310,用于在车辆行驶过程中,检测周围物体;
静态物体识别模块320,用于从检测到的周围物体中识别出静态物体;
标定模块330,用于分别利用相机和激光雷达对静态物体进行特征提取,利用提取到的特征对相机和激光雷达的外参进行标定。
可选的,物体检测模块310包括:
障碍物检测单元,用于分别利用相机和激光雷达进行障碍物检测;
检测结果校验单元,用于对相机和激光雷达的障碍物检测结果进行融合校验,得到最终的障碍物检测结果,并作为周围物体。
可选的,静态物体识别模块320具体用于:
利用预先训练的识别模型,从检测到的周围物体中识别出静态物体。
可选的,标定模块330包括:
坐标获取单元,用于分别利用相机和激光雷达,对静态物体的边缘进行特征提取,得到边缘上的多个特征点分别在相机成像平面下的第一坐标,以及在激光雷达坐标系下的第二坐标;
坐标对齐单元,用于通过迭代的方法,执行第二坐标经投影在相机成像平面下的坐标与第一坐标的对齐操作,并且当对齐时,确定相机与激光雷达之间的旋转矩阵和平移矢量。
可选的,静态物体的边缘的类型包括直线和圆环中的一种或多种。
可选的,静态物体包括汽车、房子、树和电线杆中的一个或多个。
本发明实施例所提供的传感器标定装置可执行本发明任意实施例所提供的传感器标定方法,具备执行方法相应的功能模块和有益效果。
实施例四
图4是本发明实施例四提供的一种计算机设备的结构示意图。图4示出了适于用来实现本发明实施方式的示例性计算机设备412的框图。图4显示的计算机设备412仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机设备412以通用计算机设备的形式表现。计算机设备412的组件可以包括但不限于:一个或者多个处理器416,存储装置428,连接不同系统组件(包括存储装置428和处理器416)的总线418。
总线418表示几类总线结构中的一种或多种,包括存储装置总线或者存储装置控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(Industry SubversiveAlliance,ISA)总线,微通道体系结构(Micro Channel Architecture,MAC)总线,增强型ISA总线、视频电子标准协会(Video Electronics Standards Association,VESA)局域总线以及外围组件互连(Peripheral Component Interconnect,PCI)总线。
计算机设备412典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备412访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
存储装置428可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(Random Access Memory,RAM)430和/或高速缓存存储器432。计算机设备412可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统434可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘,例如只读光盘(Compact Disc Read-Only Memory,CD-ROM),数字视盘(Digital Video Disc-Read Only Memory,DVD-ROM)或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线418相连。存储装置428可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块442的程序/实用工具440,可以存储在例如存储装置428中,这样的程序模块442包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块442通常执行本发明所描述的实施例中的功能和/或方法。
计算机设备412也可以与一个或多个外部设备414(例如键盘、指向终端、显示器424等)通信,还可与一个或者多个使得用户能与该计算机设备412交互的终端通信,和/或与使得该计算机设备412能与一个或多个其它计算终端进行通信的任何终端(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口422进行。并且,计算机设备412还可以通过网络适配器420与一个或者多个网络(例如局域网(Local Area Network,LAN),广域网(Wide Area Network,WAN)和/或公共网络,例如因特网)通信。如图4所示,网络适配器420通过总线418与计算机设备412的其它模块通信。应当明白,尽管图中未示出,可以结合计算机设备412使用其它硬件和/或软件模块,包括但不限于:微代码、终端驱动器、冗余处理器、外部磁盘驱动阵列、磁盘阵列(Redundant Arrays of IndependentDisks,RAID)系统、磁带驱动器以及数据备份存储系统等。
处理器416通过运行存储在存储装置428中的程序,从而执行各种功能应用以及数据处理,例如实现本发明任意实施例所提供的传感器标定方法,该方法可以包括:
在车辆行驶过程中,检测周围物体;
从检测到的周围物体中识别出静态物体;
分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定。
实施例五
本发明实施例五还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所提供的传感器标定方法,该方法可以包括:
在车辆行驶过程中,检测周围物体;
从检测到的周围物体中识别出静态物体;
分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或终端上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
实施例六
本发明实施例六还提供了一种车辆,包括车体,还包括如本发明实施例所述的计算机设备,以及设置在车体上的至少两种传感器,其中,至少两种传感器包括激光雷达和相机,至少两种传感器分别与计算机设备进行通信。
传感器在车体上的具体位置可以根据车辆设计进行设置。其中,该车辆可以是具有控制和计算能力的无人车。在车辆行使过程中,不同传感器完成数据采集后,并将数据发送至计算机设备,以便计算机设备进行数据处理,例如执行激光雷达和相机之间的标定等。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (13)
1.一种传感器标定方法,其特征在于,包括:
在车辆行驶过程中,检测周围物体;
从检测到的周围物体中识别出静态物体;
分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定;
其中,所述分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定,包括:
分别利用所述相机和所述激光雷达,对所述静态物体的边缘进行特征提取,得到所述边缘上的多个特征点分别在相机成像平面下的第一坐标,以及在激光雷达坐标系下的第二坐标;
通过迭代的方法,执行所述第二坐标经投影在所述相机成像平面下的坐标与所述第一坐标的对齐操作,并且当对齐时,确定所述相机与所述激光雷达之间的旋转矩阵和平移矢量。
2.根据权利要求1所述的方法,其特征在于,所述检测周围物体,包括:
分别利用相机和激光雷达进行障碍物检测;
对所述相机和所述激光雷达的障碍物检测结果进行融合校验,得到最终的障碍物检测结果,并作为所述周围物体。
3.根据权利要求1所述的方法,其特征在于,所述从检测到的周围物体中识别出静态物体,包括:
利用预先训练的识别模型,从检测到的周围物体中识别出静态物体。
4.根据权利要求3所述的方法,其特征在于,所述边缘的类型包括直线和圆环中的一种或多种。
5.根据权利要求1~4任一所述的方法,其特征在于,所述静态物体包括汽车、房子、树和电线杆中的一个或多个。
6.一种传感器标定装置,其特征在于,包括:
物体检测模块,用于在车辆行驶过程中,检测周围物体;
静态物体识别模块,用于从检测到的周围物体中识别出静态物体;
标定模块,用于分别利用相机和激光雷达对所述静态物体进行特征提取,利用提取到的特征对所述相机和所述激光雷达的外参进行标定;
其中,所述标定模块包括:
坐标获取单元,用于分别利用所述相机和所述激光雷达,对所述静态物体的边缘进行特征提取,得到所述边缘上的多个特征点分别在相机成像平面下的第一坐标,以及在激光雷达坐标系下的第二坐标;
坐标对齐单元,用于通过迭代的方法,执行所述第二坐标经投影在所述相机成像平面下的坐标与所述第一坐标的对齐操作,并且当对齐时,确定所述相机与所述激光雷达之间的旋转矩阵和平移矢量。
7.根据权利要求6所述的装置,其特征在于,所述物体检测模块包括:
障碍物检测单元,用于分别利用相机和激光雷达进行障碍物检测;
检测结果校验单元,用于对所述相机和所述激光雷达的障碍物检测结果进行融合校验,得到最终的障碍物检测结果,并作为所述周围物体。
8.根据权利要求6所述的装置,其特征在于,所述静态物体识别模块具体用于:
利用预先训练的识别模型,从检测到的周围物体中识别出静态物体。
9.根据权利要求6所述的装置,其特征在于,所述边缘的类型包括直线和圆环中的一种或多种。
10.根据权利要求6~9任一所述的装置,其特征在于,所述静态物体包括汽车、房子、树和电线杆中的一个或多个。
11.一种计算机设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1~5中任一所述的传感器标定方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1~5中任一所述的传感器标定方法。
13.一种车辆,包括车体,其特征在于,还包括如权利要求11所述的计算机设备,以及设置在所述车体上的至少两种传感器,其中,所述至少两种传感器包括激光雷达和相机,所述至少两种传感器分别与所述计算机设备进行通信。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811094353.7A CN109343061B (zh) | 2018-09-19 | 2018-09-19 | 传感器标定方法、装置、计算机设备、介质和车辆 |
EP19195851.1A EP3627180B1 (en) | 2018-09-19 | 2019-09-06 | Sensor calibration method and device, computer device, medium, and vehicle |
JP2019169174A JP6915009B2 (ja) | 2018-09-19 | 2019-09-18 | センサーキャリブレーション方法と装置、コンピュータ機器、媒体及び車両 |
US16/574,995 US11042762B2 (en) | 2018-09-19 | 2019-09-18 | Sensor calibration method and device, computer device, medium, and vehicle |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811094353.7A CN109343061B (zh) | 2018-09-19 | 2018-09-19 | 传感器标定方法、装置、计算机设备、介质和车辆 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109343061A CN109343061A (zh) | 2019-02-15 |
CN109343061B true CN109343061B (zh) | 2021-04-02 |
Family
ID=65305532
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811094353.7A Active CN109343061B (zh) | 2018-09-19 | 2018-09-19 | 传感器标定方法、装置、计算机设备、介质和车辆 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11042762B2 (zh) |
EP (1) | EP3627180B1 (zh) |
JP (1) | JP6915009B2 (zh) |
CN (1) | CN109343061B (zh) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109901141B (zh) * | 2019-02-28 | 2021-03-30 | 东软睿驰汽车技术(沈阳)有限公司 | 一种标定方法及装置 |
US12046006B2 (en) * | 2019-07-05 | 2024-07-23 | Nvidia Corporation | LIDAR-to-camera transformation during sensor calibration for autonomous vehicles |
CN110488234B (zh) * | 2019-08-30 | 2021-09-10 | 北京百度网讯科技有限公司 | 车载毫米波雷达的外参标定方法、装置、设备及介质 |
CN110766758B (zh) * | 2019-09-12 | 2022-08-09 | 浙江大华技术股份有限公司 | 标定方法、装置、系统及存储装置 |
US11352010B2 (en) * | 2019-09-30 | 2022-06-07 | Baidu Usa Llc | Obstacle perception calibration system for autonomous driving vehicles |
CN112816949B (zh) * | 2019-11-18 | 2024-04-16 | 商汤集团有限公司 | 传感器的标定方法及装置、存储介质、标定系统 |
US11494939B2 (en) | 2019-12-02 | 2022-11-08 | Toyota Research Institute, Inc. | Sensor self-calibration in the wild by coupling object detection and analysis-by-synthesis |
CN111025250B (zh) * | 2020-01-07 | 2022-05-13 | 湖南大学 | 一种车载毫米波雷达在线标定方法 |
CN113376617B (zh) * | 2020-02-25 | 2024-04-05 | 北京京东乾石科技有限公司 | 雷达标定结果准确性的评价方法、装置、存储介质及系统 |
US11673567B2 (en) | 2020-04-14 | 2023-06-13 | Plusai, Inc. | Integrated fiducial marker for simultaneously calibrating sensors of different types |
US11366233B2 (en) | 2020-04-14 | 2022-06-21 | Plusai, Inc. | System and method for GPS based automatic initiation of sensor calibration |
US11635313B2 (en) * | 2020-04-14 | 2023-04-25 | Plusai, Inc. | System and method for simultaneously multiple sensor calibration and transformation matrix computation |
CN111627072B (zh) * | 2020-04-30 | 2023-10-24 | 贝壳技术有限公司 | 一种对多传感器进行标定的方法、装置和存储介质 |
CN111612760B (zh) * | 2020-05-20 | 2023-11-17 | 阿波罗智联(北京)科技有限公司 | 用于检测障碍物的方法和装置 |
JP7402121B2 (ja) * | 2020-06-02 | 2023-12-20 | 株式会社日立製作所 | 物体検出システムおよび物体検出方法 |
TWI755765B (zh) * | 2020-06-22 | 2022-02-21 | 中強光電股份有限公司 | 視覺與深度座標系的校正系統、校正方法及校正裝置 |
CN111857174A (zh) * | 2020-06-23 | 2020-10-30 | 国网江苏省电力有限公司徐州供电分公司 | 一种基于激光雷达数据的无人机电力数据检校方法 |
CN113847930A (zh) | 2020-06-28 | 2021-12-28 | 图森有限公司 | 多传感器校准系统 |
JP6837626B1 (ja) * | 2020-08-03 | 2021-03-03 | 株式会社空間技術総合研究所 | 地物データの生成システム、地物データベース更新システム及び地物データの生成方法 |
CN112255621B (zh) * | 2020-10-09 | 2022-08-30 | 中国第一汽车股份有限公司 | 一种车辆传感器的标定方法、装置、电子设备及存储介质 |
CN113759346B (zh) * | 2020-10-10 | 2024-06-18 | 北京京东乾石科技有限公司 | 一种激光雷达标定方法、装置、电子设备及存储介质 |
TWI768548B (zh) * | 2020-11-19 | 2022-06-21 | 財團法人資訊工業策進會 | 定位用基礎資訊產生系統與方法以及自身定位判斷裝置 |
US11960276B2 (en) * | 2020-11-19 | 2024-04-16 | Tusimple, Inc. | Multi-sensor collaborative calibration system |
JP7508350B2 (ja) * | 2020-12-04 | 2024-07-01 | 株式会社日立製作所 | キャリブレーション装置およびキャリブレーション方法 |
CN112712032A (zh) * | 2020-12-30 | 2021-04-27 | 南昌觅真科技有限公司 | 一种半自动物体姿态标注方案 |
CN112835019B (zh) * | 2020-12-30 | 2024-07-05 | 广州小鹏自动驾驶科技有限公司 | 车辆传感器标定方法、装置、车辆和存储介质 |
KR102498435B1 (ko) * | 2021-01-28 | 2023-02-13 | 경북대학교 산학협력단 | 자율주행 자동차의 센서 시스템 교정 장치 및 그 방법 |
CN113391299B (zh) * | 2021-04-30 | 2023-09-22 | 深圳市安思疆科技有限公司 | 一种扫描面阵激光雷达的参数标定方法和装置 |
CN112986982B (zh) * | 2021-05-12 | 2021-07-30 | 长沙万为机器人有限公司 | 环境地图参照定位方法、装置和移动机器人 |
WO2022261825A1 (zh) * | 2021-06-15 | 2022-12-22 | 华为技术有限公司 | 自动驾驶车辆的标定方法及装置 |
CN113340334B (zh) * | 2021-07-29 | 2021-11-30 | 新石器慧通(北京)科技有限公司 | 用于无人车的传感器标定方法、装置及电子设备 |
CN113838141B (zh) * | 2021-09-02 | 2023-07-25 | 中南大学 | 一种单线激光雷达与可见光相机的外参标定方法及系统 |
CN113734197A (zh) * | 2021-09-03 | 2021-12-03 | 合肥学院 | 一种基于数据融合的无人驾驶的智能控制方案 |
CN114170324A (zh) * | 2021-12-09 | 2022-03-11 | 深圳市商汤科技有限公司 | 标定方法及装置、电子设备和存储介质 |
CN117437303B (zh) * | 2023-12-18 | 2024-02-23 | 江苏尚诚能源科技有限公司 | 一种标定相机外参的方法及系统 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106558080A (zh) * | 2016-11-14 | 2017-04-05 | 天津津航技术物理研究所 | 一种单目相机外参在线标定系统及方法 |
CN107576960A (zh) * | 2017-09-04 | 2018-01-12 | 苏州驾驶宝智能科技有限公司 | 视觉雷达时空信息融合的目标检测方法及系统 |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4856263B2 (ja) * | 2009-08-07 | 2012-01-18 | シャープ株式会社 | 撮像画像処理システム、画像出力方法、プログラムおよび記録媒体 |
US8903186B2 (en) * | 2013-02-28 | 2014-12-02 | Facebook, Inc. | Methods and systems for differentiating synthetic and non-synthetic images |
CN103559791B (zh) * | 2013-10-31 | 2015-11-18 | 北京联合大学 | 一种融合雷达和ccd摄像机信号的车辆检测方法 |
CN103837869B (zh) * | 2014-02-26 | 2016-06-01 | 北京工业大学 | 基于向量关系的单线激光雷达和ccd相机标定方法 |
US9369689B1 (en) * | 2015-02-24 | 2016-06-14 | HypeVR | Lidar stereo fusion live action 3D model video reconstruction for six degrees of freedom 360° volumetric virtual reality video |
US10142609B2 (en) * | 2015-04-29 | 2018-11-27 | Northrop Grumman Systems Corporation | Dynamically adjustable situational awareness interface for control of unmanned vehicles |
EP3358364A4 (en) | 2015-09-30 | 2019-03-13 | Sony Corporation | SIGNAL PROCESSING DEVICE, SIGNAL PROCESSING, PROGRAM AND OBJECT DETECTION SYSTEM |
US9916703B2 (en) * | 2015-11-04 | 2018-03-13 | Zoox, Inc. | Calibration for autonomous vehicle operation |
CN105678689B (zh) * | 2015-12-31 | 2020-01-31 | 百度在线网络技术(北京)有限公司 | 高精地图数据配准关系确定方法及装置 |
US10002424B2 (en) * | 2016-09-22 | 2018-06-19 | Sony Corporation | Image processing system and method to reconstruct a three-dimensional (3D) anatomical surface |
DE102016225595A1 (de) * | 2016-12-20 | 2018-06-21 | Siemens Aktiengesellschaft | Verfahren und Anordnung zur Kalibrierung mindestens eines Sensors eines Schienenfahrzeugs |
US10816354B2 (en) * | 2017-08-22 | 2020-10-27 | Tusimple, Inc. | Verification module system and method for motion-based lane detection with multiple sensors |
US20190120934A1 (en) * | 2017-10-19 | 2019-04-25 | GM Global Technology Operations LLC | Three-dimensional alignment of radar and camera sensors |
CN108020826B (zh) * | 2017-10-26 | 2019-11-19 | 厦门大学 | 多线激光雷达与多路相机混合标定方法 |
US11435456B2 (en) * | 2017-12-28 | 2022-09-06 | Lyft, Inc. | Sensor calibration facility |
CN108198223B (zh) * | 2018-01-29 | 2020-04-07 | 清华大学 | 一种激光点云与视觉图像映射关系快速精确标定方法 |
CN108399643A (zh) * | 2018-03-15 | 2018-08-14 | 南京大学 | 一种激光雷达和相机间的外参标定系统和方法 |
CN108519605B (zh) * | 2018-04-09 | 2021-09-07 | 重庆邮电大学 | 基于激光雷达和摄像机的路沿检测方法 |
US10726579B1 (en) * | 2019-11-13 | 2020-07-28 | Honda Motor Co., Ltd. | LiDAR-camera calibration |
-
2018
- 2018-09-19 CN CN201811094353.7A patent/CN109343061B/zh active Active
-
2019
- 2019-09-06 EP EP19195851.1A patent/EP3627180B1/en active Active
- 2019-09-18 JP JP2019169174A patent/JP6915009B2/ja active Active
- 2019-09-18 US US16/574,995 patent/US11042762B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106558080A (zh) * | 2016-11-14 | 2017-04-05 | 天津津航技术物理研究所 | 一种单目相机外参在线标定系统及方法 |
CN107576960A (zh) * | 2017-09-04 | 2018-01-12 | 苏州驾驶宝智能科技有限公司 | 视觉雷达时空信息融合的目标检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
US11042762B2 (en) | 2021-06-22 |
US20200089971A1 (en) | 2020-03-19 |
JP2020047276A (ja) | 2020-03-26 |
CN109343061A (zh) | 2019-02-15 |
JP6915009B2 (ja) | 2021-08-04 |
EP3627180A1 (en) | 2020-03-25 |
EP3627180B1 (en) | 2022-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109343061B (zh) | 传感器标定方法、装置、计算机设备、介质和车辆 | |
CN109271944B (zh) | 障碍物检测方法、装置、电子设备、车辆及存储介质 | |
US11379699B2 (en) | Object detection method and apparatus for object detection | |
CN109345596B (zh) | 多传感器标定方法、装置、计算机设备、介质和车辆 | |
CN109188457B (zh) | 物体检测框的生成方法、装置、设备、存储介质及车辆 | |
CN109145680B (zh) | 一种获取障碍物信息的方法、装置、设备和计算机存储介质 | |
CN109116374B (zh) | 确定障碍物距离的方法、装置、设备及存储介质 | |
CN110095752B (zh) | 定位方法、装置、设备和介质 | |
CN109255341B (zh) | 障碍物感知错误数据的提取方法、装置、设备及介质 | |
CN108734058B (zh) | 障碍物类型识别方法、装置、设备及存储介质 | |
CN109544629A (zh) | 摄像头位姿确定方法和装置以及电子设备 | |
CN110135396B (zh) | 地面标志的识别方法、装置、设备及介质 | |
CN109635861B (zh) | 一种数据融合方法、装置、电子设备及存储介质 | |
CN109635868B (zh) | 障碍物类别的确定方法、装置、电子设备及存储介质 | |
CN113838125A (zh) | 目标位置确定方法、装置、电子设备以及存储介质 | |
CN115147328A (zh) | 三维目标检测方法及装置 | |
CN110363193B (zh) | 车辆重识别方法、装置、设备和计算机存储介质 | |
CN109345567B (zh) | 物体运动轨迹识别方法、装置、设备和存储介质 | |
CN114386481A (zh) | 一种车辆感知信息融合方法、装置、设备及存储介质 | |
CN113762001B (zh) | 一种目标检测方法、装置、电子设备和存储介质 | |
CN116681884B (zh) | 一种对象检测方法和相关装置 | |
US20230386222A1 (en) | Method for detecting three-dimensional objects in roadway and electronic device | |
CN110706374B (zh) | 运动状态预测方法、装置、电子设备及车辆 | |
WO2020073268A1 (en) | Snapshot image to train roadmodel | |
WO2020073270A1 (en) | Snapshot image of traffic scenario |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right | ||
TR01 | Transfer of patent right |
Effective date of registration: 20211019 Address after: 105 / F, building 1, No. 10, Shangdi 10th Street, Haidian District, Beijing 100085 Patentee after: Apollo Intelligent Technology (Beijing) Co.,Ltd. Address before: 100085 Baidu Building, 10 Shangdi Tenth Street, Haidian District, Beijing Patentee before: BAIDU ONLINE NETWORK TECHNOLOGY (BEIJING) Co.,Ltd. |