CN112862899A - 用于图像获取设备的外参标定方法、装置和系统 - Google Patents

用于图像获取设备的外参标定方法、装置和系统 Download PDF

Info

Publication number
CN112862899A
CN112862899A CN202110179411.1A CN202110179411A CN112862899A CN 112862899 A CN112862899 A CN 112862899A CN 202110179411 A CN202110179411 A CN 202110179411A CN 112862899 A CN112862899 A CN 112862899A
Authority
CN
China
Prior art keywords
vehicle
image
image acquisition
angle
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110179411.1A
Other languages
English (en)
Other versions
CN112862899B (zh
Inventor
唐志勇
彭江
章涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Black Sesame Intelligent Technology Chongqing Co Ltd
Original Assignee
Black Sesame Intelligent Technology Chongqing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Black Sesame Intelligent Technology Chongqing Co Ltd filed Critical Black Sesame Intelligent Technology Chongqing Co Ltd
Priority to CN202110179411.1A priority Critical patent/CN112862899B/zh
Publication of CN112862899A publication Critical patent/CN112862899A/zh
Priority to US17/585,213 priority patent/US20220254064A1/en
Application granted granted Critical
Publication of CN112862899B publication Critical patent/CN112862899B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/04Traffic conditions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/06Improving the dynamic response of the control system, e.g. improving the speed of regulation or avoiding hunting or overshoot
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0075Automatic parameter input, automatic initialising or calibrating means
    • B60W2050/0083Setting, resetting, calibration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2552/00Input parameters relating to infrastructure
    • B60W2552/53Road markings, e.g. lane marker or crosswalk
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

提供用于图像获取设备的外参标定方法,其包括:从图像获取设备所拍摄的图像中获取图像,该图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;将该图像中的所述参照物沿所述车辆所在的道路方向分割为多个区间,并将各区间内的参照物拟合为直线;基于各区间内直线的消失点,确定图像获取设备的俯仰角和偏航角;沿道路方向,对所确定的俯仰角和偏航角序列进行滤波;从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分;将对应平直部分的俯仰角和偏航角数据存储到数据栈,数据栈还存储有从车辆相关部件获取的用于确定车辆行驶环境的车辆状态数据;在车辆状态数据表明车辆状态满足预设要求时,从数据栈中的俯仰角和偏航角中确定准静态标定外参。

Description

用于图像获取设备的外参标定方法、装置和系统
技术领域
本申请涉及图像获取设备的参数标定技术,更为具体地,涉及外参标定技术。
背景技术
在计算机视觉应用中,为确定空间物体表面某点的三维几何位置与其在图像中对应点之间的相互关系,需要建立相机成像的几何模型,这些几何模型的参数就是相机参数。
确定相机参数的过程可以称为相机标定或摄像机标定。相机参数包括内参和外参。内参与相机自身特性相关,例如内参可以包括相机的焦距、畸变系数等;外参体现相机坐标系和世界坐标系之间的相对位置关系,与相机的位置、旋转方向等相关,例如外参可以包括相机坐标系和世界坐标系之间的旋转参数、平移参数等。相机标定就是标定相机的内参和外参。
对于车载相机的标定,外参标定方法包括基于标定板等特定标定器材的标定、基于车辆、行人等轨迹的标定、以及基于车道线等地面标记的标定方法。基于标定板标定器材的标定方法精度高,但对标定环境要求高且较难适应如汽车行驶等相机参数动态变化的场景。基于车辆、行人等轨迹的标定方法可适应相机外参动态变化的场景,但实现复杂、可靠性低,而且往往需要对目标进行跟踪以获取轨迹从而影响实时性。基于车道线等地面标记的标定方法需要在车道线上选择多个特征点,并通过如车道线平行等几何约束限制所选择的特征点的空间位置,再使用透视方程求取相机外参。该方法虽然能在汽车行驶过程中动态标定相机外参,但往往对运行环境有诸多要求,例如要求道路平坦、笔直且车道线清晰。
基于此,有必要提出改进的外参标定方案,能够适应相机参数动态变化的场景且对标定环境的要求相对低。
发明内容
有鉴于此,本申请提供改进的外参标定方法。根据本申请示例的用于图像获取设备的外参标定方法,其包括:从所述图像获取设备所拍摄的图像中获取图像,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;将所述图像中的所述参照物沿所述车辆所在的道路方向分割为多个区间,并将各所述区间内的参照物拟合为直线;基于各所述区间内直线的消失点,确定所述图像获取设备的俯仰角和偏航角;沿所述道路方向,对所确定的俯仰角和偏航角序列进行滤波;从滤波后的所述俯仰角和所述偏航角的序列中获取所述道路中的平直部分;将对应所述平直部分的俯仰角和偏航角数据存储到数据栈,所述数据栈还存储有从车辆相关部件获取的用于确定车辆行驶环境的车辆状态数据;在所述车辆状态数据表明车辆状态满足预设要求时,从所述数据栈中的俯仰角和偏航角中确定准静态标定外参。
根据本申请的一些示例,所述的外参标定方法中,参照物是至少在车辆行驶的一定距离内与道路长度方向基本平行的参照物。在一些具体示例中,参照物是车道线。
根据本申请的一些示例,所述的外参标定方法中,在所述车辆状态数据表明车辆状态满足预设要求指的是车辆处于平稳运行状态。
根据本申请的另一方面,本申请还提供用于图像获取设备的外参标定装置,其包括处理器和存储器,所述存储器存储指令,所述处理器被配置为执行所述指令时实现如在此所述的方法。
根据本申请的再一方面,本申请还提供用于图像用于图像获取设备的外参标定系统,包括获取单元、第一处理单元、数据栈和第二处理单元。获取单元被用于从所述图像获取设备所拍摄的图像中获取图像,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像。第一处理单元被配置为将所述图像中的所述参照物沿道路方向分割为多个区间,并将各所述区间内的参照物拟合为直线;基于各所述区间内直线的消失点,确定所述图像获取设备的俯仰角和偏航角;沿所述道路方向,对所确定的俯仰角和偏航角序列进行滤波;从滤波后的所述俯仰角和所述偏航角的序列中获取所述道路中的平直部分,以及将对应所述平直部分的俯仰角和偏航角数据存储到数据栈。数据栈用于存储所述平直部分的俯仰角和偏航角数据,以及存储从车辆相关部件获取的用于确定车辆行驶环境的车辆状态数据。第二处理单元配置为在所述车辆状态数据表明车辆状态满足预设要求时,从所述数据栈中的俯仰角和偏航角中确定准静态标定外参。
本申请还提供一种图像获取设备,所述图像获取设备被配置为:响应于外参标定请求输出所获取的图像,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;以及根据校正需求,实时地获取已标定好的外参。
附图说明
图1是根据本申请示例的用于图像获取设备的外参标定方法的流程图。
图2示意了根据本申请的示例的外参标定装置的结构图。
图3示意了根据本申请示例的用于图像获取设备的外参标定系统的结构图。
图4是根据本申请示例的用于图像获取设备的外参标定方法的应用场景示意图。
图5是根据本申请一个具体示例的用于图像获取设备的外参标定方法的流程图。
具体实施方式
下文将结合附图对本发明的具体实施方式做详细描述。应理解,本发明能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本发明内涵的情况下做类似改进,因此本发明不受下面公开的具体实施的限制。
本申请提供用于图像获取设备的外参标定方法。图像获取设备在此指的是相机、摄像头、图像传感器等各类捕获图像的设备、器件、装置、系统等。相机应做广义理解,它可以是传统意义上的相机、还可以是手机、平板等带摄像模块的数据处理设备。
图1是根据本申请示例的用于图像获取设备的外参标定方法的流程图。如如所示,在步骤S100,从图像获取设备所拍摄的图像中获取图像,其中,所获取的图像是图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像。在步骤S102,将在步骤S100中获取的图像中的参照物沿车辆所在的道路方向分割为多个区间,并将各区间内的参照物拟合为直线。在步骤S104,基于各区间内直线的消失点,确定图像获取设备的俯仰角和偏航角。在步骤S106,沿道路方向,对所确定的俯仰角和偏航角的序列进行滤波,即剔除异常值并平滑序列。在步骤S108,从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分。在步骤S110,将对应平直部分的俯仰角和偏航角数据存储到数据栈。在步骤S112,在该车辆的车辆状态数据表明车辆状态满足预设要求的情况下,从数据栈中的俯仰角和偏航角中确定准静态标定外参。根据本申请的示例,可将从车辆相关部件获取的用于确定车辆行驶环境的车辆状态数据存储在数据栈中。
简单而言,根据图1示例的用于图像获取设备的外参标定方法包括两个部分,一个部分是从步骤S100到步骤S108的实时标定,另一部分是步骤S110和S112的拟静态标定。在实时标定部分,对行驶中车辆的车载相机所获取的图像进行参照物(例如车道线)检测、将参照物分割为多个区间、将多个区间内的参照物拟合为直线并进而计算直线内的俯仰角和偏航角等一系列处理,从而获得实时的标定外参,这样基于动态行驶过程中拍摄的图像所标定的外参能更为快速地响应车辆姿态的变化。实时标定过程中每采用一张含参照物的图像,即可在步骤S108产生一组俯仰角和偏航角,如此将产生多组俯仰角和偏航角,亦即,有多组俯仰角和偏航角被存储到数据栈中。在车辆的行驶状态表明车辆处于平稳运行状态时,在该多组俯仰角和偏航角一致性佳的情况下,以数据栈的多组俯仰角和偏航角作为基础,确定准静态标定标定外参,例如求该组数据的均值,并将其作为作为准静态标定标定外参。
本文各示例中,车辆状态数据表明车辆处于平稳运行状态指的是根据车辆的速度、方向盘转角和横摆角速度中的一项或多项因素所判断的车辆接近于汽车静止工况的状态。比如车辆在平直的道路上平行于例如车道线的参照物匀速行驶,则认为车辆的状态接近于汽车静止工况。在这样的状态下,按照时间顺序,对数据栈中存储的多组俯仰角和偏航角中依照时间段T分别求俯仰角和偏航角的方差以判断该组数据的一致性;并在一致性佳的情况下,分别求俯仰角和偏航角的均值从而以所获得的均值作为准静态标定标定外参。应理解,方差越小则表明这一段时间T内俯仰角和偏航角的变化越小,说明它们对应的路况最为接近期望路况。车辆状态数据可包括车辆速度、加速度、车辆方向盘及横摆角速度传感器等,例如可由车辆的速度传感器、加速度传感器等获得。
根据本申请的一些示例,在步骤S108中从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分之后,对于该平直部分继续执行步骤S102到S108,直到步骤S108输出的平直部分符合预期。应理解,对平直部分后执行步骤S102到S108时,平直部分即为步骤中的参照物。
根据本申请的示例,参照物可以是在车辆行驶过程中,至少在车辆行驶的一段时间内与车辆行驶的道路基本平行的参照物。在车辆行驶的一段时间,比如说为15分钟、30分钟等,只要这段时间内足以采集到所需要的图像进行处理即可。参照物例如为车道线、道路中间或两旁的绿化带、道路旁边的建筑物等。在本申请结合附图描述的例子中,示例而非限制地,将车道线作为参照物。
结合图1所描述的方法可由数据处理设备来在执行。该数据处理设备可以是单独的设备,诸如手机、平板、电脑等具有处理器的设备等。在这种情况下,该数据处理设备与设置于车辆上的相机通信连接,以自后者获得图像;还与车辆的相关部件通信连接,以从这些部件得车辆的状态数据。作为替代,结合图1所描述的方法可直接实现在车辆中,例如实现在车辆的电子控制单元,或车辆的信息娱乐系统、或数字座舱系统中。在一些情况下,结合图1描述的方法也可由下文将要介绍的用于图像获取设备的外参标定系统来执行。
图2示意了根据本申请的示例的外参标定装置的结构图。该外参标定装置被用于标定图像获取设备的外参。如图所示,该外参标定装置包括处理器22和存储器20。存储器20用于存储指令,处理器22被配置为在执行该指令时,在如本申请任一例子所描述的用于图像获取设备的外参标定方法。作为示例,图2所示的外参标定装置可以被实现在车辆中,例如车辆的电子控制单元,或车辆的信息娱乐系统、或数字座舱系统中。或者,图2所示的外参标定装置被实现为单独的控制器,设置在车辆里或其它电子设备中。应理解到,在采用图2所示的外参标定装置时,其应当被直接或间接地连接到车辆的图像获取设备以获得图像,以及车辆的相关部件以获得车辆状态数据。存储器20可以是易失存储单元或非易失存储单元或其它可存储数据的器件。
图3示意了根据本申请示例的用于图像获取设备的外参标定系统的结构图。如图所示,该外参标定系统包括获取单元30、第一处理单元32、数据栈34和第二处理单元36。该外参标定系统与图像获取设备通信连接,以从其获得图像。获取单元30被配置为从图像获取设备所拍摄的图像中获取图像,所获取的图像是图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像。第一处理单元32配置为将获取单元30获取的图像中的参照物,沿车辆所在的道路方向分割为多个区间,并将各区间内的参照物拟合为直线;基于各区间内直线的消失点,确定图像获取设备的俯仰角和偏航角;沿道路方向,对所确定的俯仰角和偏航角序列进行滤波;以及,从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分,还将对应平直部分的俯仰角和偏航角数据存储到数据栈34。第二处理单元36被配置为在车辆的车辆状态数据表明车辆状态满足预设要求时,从数据栈中的俯仰角和偏航角中确定准静态标定外参。根据本申请的一些示例,数据栈34还存储有从车辆相关部件获取的用于确定车辆行驶环境的车辆状态数据。但在一些示例中,也可能由第二处理单元36直接从车辆相关部件获取。
第一处理单元32进行实时标定,第二处理单元36进行拟静态标定。在实时标定部分,由例如车载相机所获取的图像被第一处理单元32处理,从而获得包括俯仰角和偏航角的标定外参。实时标定过程中每采用一张含参照物的图像,即可产生一组俯仰角和偏航角。如此,第一处理单元32处理由获取单元30连续传送的图像,将产生多组俯仰角和偏航角。多组俯仰角和偏航角被存储到数据栈34中。第二处理单元36在车辆的行驶状态表明车辆处于平稳运行状态状态时,从数据栈34的多组俯仰角和偏航角存储中获得多组俯仰角和偏航角,并基于所获得的这组数据来获得准静态标定外参。第二处理单元36对数据栈中存储的多组俯仰角和偏航角中依照时间段T分别求俯仰角和偏航角的方差以判断该组数据的一致性;并在一致性佳的情况下,分别求俯仰角和偏航角的均值从而以所获得的均值作为标定外参。
根据本申请的一些例子,第一处理单元32进一步被配置为从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分之后,将该平直部分再次分割为多个区间,并将各区间内分割后的平直部分拟合为直线;基于各区间内直线的消失点,确定图像获取设备的俯仰角和偏航角;沿道路方向,对所确定的俯仰角和偏航角序列进行滤波;以及,从滤波后的俯仰角和偏航角的序列中获取道路中的平直部分,直到达到所获得的平直部分的输出符合预期。
在一些示例中,第一处理单元32和第二处理单元36可被实现在同一模块,图中以虚线对此进行了示意。例如,实现在同一处理器中。
图4是根据本申请示例的用于图像获取设备的外参标定方法的应用场景示意图。如图4所示,车辆4位于道路A中,且按照本例示意,车辆4将行驶在车道线A1与A2所限定的路线上。车道线A1与A2将作为本申请所描述的参照物,但如前文提到,参照物也可能选择例如道路A两侧的建筑或道路A上车辆行驶方向平行的绿化带等。车辆4上配置有图像获取设备,即相机40。在图4的是示例中,设置了外参标定系统43,它可以是独立设置的系统,也可以被实现在车辆已有的控制器、处理器或系统中。在本例中,外参标定系统43可采用结合图3描述的外参标定系统。作为替代,图4示例的外参标定系统也可以采用结合图2描述的外参标定装置。外参标定系统43与相机40连接,还与车辆4中的相关部件和/或系统连接。本例中,该相关部件和/或系统包括车辆的速度传感器44、横摆角速度传感器46和方向盘转角传感器(未示意)。根据本示例,由外参标定系统43标定的外参可根据需求传输给相机40,以便该相机40用来校准其外参。虽然在此讨论时提到从车辆的速度传感器44、横摆角速度传感器46和方向盘转角传感器分别获得车速信息、横摆角速度和方向盘转角信息,但是这并不是限定说只能从它们获取,其它可提供这些信息的部件、控制器、系统等都可替代车辆的速度传感器44、横摆角速度传感器46和方向盘转角传感器。
图5是根据本申请一个具体示例的用于图像获取设备的外参标定方法的流程图。现以图5所示的方法执行在图4所示的环境为例来阐述本申请。
在车辆4启动之后,即可开始该方法的执行。在步骤501,获取单元43从相机40获取一帧图像。在步骤502,实时标定单元432从获取单元43取得所获取的该帧图像,并检测其中的车道线。实时标定单元432可基于深度学习模型来检测车道线。基于深度学习模型检测车道线在本领域中已经有诸多已知的解决方式,例如文章《End-to-end Lane ShapePrediction with Transformers》(《基于转换的端到端车道线预测》)所公开的方式。在步骤503,实时标定单元432将车道线沿道路方向分割为多个区间。将车道线沿道路方向分割为多个区间,或者说分割为多段。具体要分多少段,取决于实际应用中检测到的车道线的情况,例如步骤501中检测的车道线相对较直,则所划分的区间就少,反之,则划分的区间就较多。在步骤S504,实时标定单元432将各区间内的车道线拟合为直线。在步骤S505,实时标定单元432基于拟合的车道线计算相机40的俯仰角θ和俯航角β。具体而言,实时标定单元432计算各区间内直线的消失点Vp(u,v),也就是各直线的交点,而俯仰角θ如表达式(1)所示而俯航角β如表达式(2):
Figure BDA0002941006100000091
Figure BDA0002941006100000092
对俯仰角θ俯航角β的计算都是以车辆自身等效为坐标系的原点,其中,Cx、Cy、fx和fy分别为相机内参。
在步骤S506,实时标定单元432对所计算的俯仰角θ和俯航角β进行滤波,剔除异常以获得平滑结果。在步骤S507,实时标定单元432基于俯仰角θ的变化判断道路起伏程度,在俯仰角θ的变化小于俯仰角变化阈值的情况下,认为路面较为平坦,截取较平坦路段。举例来说,如果相机相对车辆所在平面俯仰角为θ=-90度,俯仰角的变化阈值是3度,则稍远处路面的俯仰角在-92度到-87度的范围内都是符合条件的。在这里,最为可能的场景是相机设置在车辆上,其所拍摄的图像中,车辆或其马上要经过的路面(根据相机设置在车辆上位置的不同,拍摄的图片可能含有车辆的一部分或不含有车辆)处于照片的最底部,则截取的平坦路段应位于照片的底部向上的部分。
在步骤S508,实时标定单元432判断所截取的路段的长度是否满足需求。如果满足,则进入到步骤S508b,否则进入到步骤S508a。如果所截取的路段过短,可能无法满足标定条件,而路段过长,又可能引入难以满足路面平直的条件等,因此,路段的长度可根据实际需求来确定。
在步骤S508b,实时标定单元432基于俯航角β的变化,判断道路弯曲程度,在俯航角β的变化小于俯航角变化阈值的情况下,认为路面为直线,并基于它从前面截取的平直路段做进一步的截取。
需要说明的是,步骤S507和步骤S508b并不是必须先基于俯仰角θ判断路面,再基于俯航角β判断。基于这两个参数的判断是可同时进行,或先进行基于俯航角β判断再进行基于俯仰角θ的判断。但,无论哪种判断方式,能进入到步骤510的平直路面的俯仰角和航角阈值需分别满足要求的判断条件。
在步骤S509,实时标定单元432判断在步骤S508b所截取的路段的长度是否满足需求。如果步骤S509的判断是满足需求,则进入到步骤S510,否则进入到步骤S508a。在步骤S510,对在步骤S508b所截取的且步骤S509判断符合条件的平直路段,进行采样,并返回到步骤S501,再次执行上述步骤,意在将所获取的平直路段再次作为车道线进行步骤S501到步骤S509的处理,直到输入到步骤S510的平直路段已经满足期望的平直水平。
按照本申请,在步骤S510,实时标定单元432还将所获得的俯仰角θ和俯航角β传送给数据栈434。需要说明的是,在车辆4的行驶过程中,获取单元43从相机40持续获得其所拍摄的图像。因此,实时标定单元432会在步骤S510输出多组对应不同时间的俯仰角θ和俯航角β,这些数据均被存储到数据栈434。如此,借由步骤S501到步骤S510,能够在行驶过程中动态标定相机外参,有助于逐帧给出标定结果从而更快速的响应车辆姿态的变化。此外,因考虑到将车道线分段,从而与常见的基于车道线的动态标定方案,能够尽可能的适应弯道坡道情形,极大拓展动态标定的适用范围。
准静态标定单元或者说准静态标定功能是可触发的,例如在人工触发后执行,或者是按照预设的条件而触发执行。人工触发指的是人工操作对应该功能的交互按钮(例如交互按钮可设置在车辆内的中控显示屏上)或人工发送要静态标定的请求信息给执行该标定方法的设备或系统。预设的条件可能是持续行驶过程中每半个小时触发一次,或者是按照行驶过程中车辆的行驶环境来触发等。
按照本申请图5的示例,准静态标定是通过人工触发执行。如图5所示,在步骤S600,如果接收到进行准静态标定的请求,则进入到步骤S601,反之就一直维持在待被执行的状态,比如作为待调用的线程。在步骤S601,准静态标定单元436从数据栈434中读取多组俯仰角θ和俯航角β,同时准静态标定单元436还从数据栈434中获取车辆状态数据,例如车辆的车速数据、车辆方向盘和横摆角速度信息等。作为替代,这些数据也可以由准静态标定单元436直接从车辆的相关部件(例如车辆的车速传感器44、横摆角速度传感器46和方向盘转角传感器等)获取,这种情况下,数据栈434并不必须存储这些车辆状态数据。在步骤S601中,准静态标定单元436还可获取车辆中存储的与该道路相关的历史信息作为辅助信息来协助判断诸如路面平滑状态等。应理解到,从数据栈中读取的多组俯仰角θ和俯航角β都是包含有栈时间戳信息。
步骤S602是对步骤S601的执行过程的判断,如果步骤S601在预定条件内都未产生输出读取多组俯仰角θ和俯航角β、未输出车辆状态数据中的任意一者,则认为超时,返回标定失败的信息;反之,将进入到步骤S603。预设条件可以是时间,比如在30秒;或者是车辆的行驶距离,比如车辆行驶了100米,都输出获得的。
在步骤S603,准静态标定单元436判断所读取的多组俯仰角θ和俯航角β的数量是否符合进行标定的数量。如果判断结果是符合,则到步骤S604;反之则回去执行步骤S601。
在步骤S604,准静态标定单元436根据所获取的车辆状态数据以及辅助信息(有的话)判断当前车辆的状态是否类似于静态标定所需的环境,并且通过俯仰角θ和俯航角β的方差判断它们的一致性,在判断结果为车辆的状态类似于静态标定所需的环境并且俯仰角θ和俯航角β的一致性佳的情况下,进入到步骤S605,否则返回标定失败。
在步骤S605,对该多组俯仰角和偏航角求均值,并将其作为准静态标定外参。如此,通过步骤S600到步骤S605的执行,能基于在行驶过程中动态标定的外参,在道路条件良好、车辆行驶平稳时给出一个接近车辆静止工况的相机外参数。
以上例子中由实时标定单元标定的外参和/或由准静态标定单元标定的准静态外参,均可根据需要传送给相机40,供其作为外参使用。当然,由实时标定单元标定的外参和/或由准静态标定单元标定的准静态外参可以传送给车辆的任何需要改数据的部件、模块或系统。
此外,示例中的实时标定单元432与准静态标定单元436可以实现在同一个模块或器件中,例如同一处理器中。
结合图3和图4描述的外参标定系统中,用于进行实时标定的第一处理单元和实时标定单元以及用于进行准静态标定的第二处理单元和准静态标定单元,可由处理器等硬件实现,也可由处理器与软件的结合实现。例如处理器结合软件指令实现。数据栈则可通过诸如缓存等存储部件实现。
与常规的基于标定板等特殊器材的静态标定方案相比,执行本发明描述的外参标定方法或采用本发明描述的外参标定系统,不仅能够在行驶过程中动态标定相机外参,而且依靠准静态标定方式,能够在道路条件良好、车辆行驶平稳时给出一个接近车辆静止工况的相机外参数。
此外,相比基于车辆、行人等轨迹跟踪的标定方案,执行本发明描述的外参标定方法或采用本发明描述的外参标定系统,还能够逐帧给出标定结果从而更快速的响应车辆姿态的变化。
再者,相比于常见的基于车道线的动态标定方案,执行本发明描述的外参标定方法或采用本发明描述的外参标定系统,能够尽可能的适应弯道坡道情形,极大拓展动态标定的适用范围。
上文已结合不同的实施例描述了本申请的基本原理。需要指出的是,上文所提及的优点、优势、效果等均为示例而非限制,且这些优点、优势、效果等并不是在此公开的各示例、实施例所必须具备的。另外,上述公开的具体细节仅是为了示例和便于理解,并不限制以其它细节来实现本申请各示例要实现的功能。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
可能以许多方式来实现本公开的方法和装置。例如,可通过软件、硬件、固件或者软件、硬件、固件的任何组合来实现本公开的方法和装置。用于所述方法的步骤的上述顺序仅是为了进行说明,本公开的方法的步骤不限于以上具体描述的顺序,除非以其它方式特别说明。
还需要指出的是,在本申请所公开的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
在此结合附图的描述,意在使本领域的任何技术人员能够理解、做出或者使用本公开。但对所描述的各细节的修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本公开的范围。因此,本公开不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (12)

1.一种用于图像获取设备的外参标定方法,其特征在于,所述方法包括:
步骤a,从所述图像获取设备所拍摄的图像中获取图像,其中,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;
步骤b,将所述图像中的所述参照物沿所述车辆所在的道路方向分割为多个区间,并将各所述区间内的参照物拟合为直线;
步骤c,基于各所述区间内直线的消失点,确定所述图像获取设备的俯仰角和偏航角;
步骤d,沿所述道路方向,对所确定的俯仰角和偏航角的序列进行滤波;
步骤e,从滤波后的所述俯仰角和所述偏航角的序列中获取所述道路中的平直部分;
步骤f,将对应所述平直部分的俯仰角和偏航角数据存储到数据栈;
步骤h,在所述车辆的车辆状态数据表明车辆状态满足预设要求的情况下,从所述数据栈中的俯仰角和偏航角中确定准静态标定外参;
其中,所述车辆状态数据是从车辆相关部件获取的用于确定车辆行驶环境的数据。
2.根据权利要求1所述的外参标定方法,其特征在于,所述数据栈还存储有所述车辆状态数据。
3.根据权利要求1或2所述的外参标定方法,其特征在于,所述参照物至少在车辆行驶的一定距离内与道路长度方向基本平行。
4.根据权利要求3所述的图像获取设备的外参标定方法,其特征在于,所述参照物为车道线。
5.根据权利要求4所述的外参标定方法,其特征在于,从滤波后的所述俯仰角和所述偏航角的序列中获取所述道路中平直部分后,所述方法还包括对所述平直部分执行步骤b到步骤e直到所述平直部分的输出符合要求。
6.根据权利要求4所述的外参标定方法,其特征在于,在所述车辆状态数据表明车辆状态满足预设要求指的是车辆处于平稳运行状态。
7.根据权利要求1或2所述的外参标定方法,其特征在于,所述车辆状态数据包括所述车辆的速度、方向盘转角和横摆角速度中的一种或其任意结合。
8.一种用于图像获取设备的外参标定装置,其特征在于,所述装置包括处理器和存储器,所述存储器存储指令,所述处理器被配置为执行所述指令时实现如权利要求1到7中任意一项所述的方法。
9.一种图像获取设备,其特征在于,所述图像获取设备被配置为:
响应于外参标定请求输出所获取的图像,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;以及
根据校正需求,实时地获取已标定好的外参。
10.一种用于图像获取设备的外参标定系统,其特征在于,所述外参标定系统包括:
获取单元,其用于从所述图像获取设备所拍摄的图像中获取图像,其中,所述图像是所述图像获取设备在车辆行驶过程中所拍摄的包括参照物的图像;
第一处理单元,其被配置为:
将所述图像中的所述参照物沿道路方向分割为多个区间,并将各所述区间内的参照物拟合为直线;
基于各所述区间内直线的消失点,确定所述图像获取设备的俯仰角和偏航角;
沿所述道路方向,对所确定的俯仰角和偏航角的序列进行滤波;
从滤波后的所述俯仰角和所述偏航角的序列中获取所述道路中的平直部分,以及将对应所述平直部分的俯仰角和偏航角数据存储到数据栈;
数据栈,其用于存储所述平直部分的俯仰角和偏航角数据;以及
第二处理单元,其配置为在所述车辆的车辆状态数据表明车辆状态满足预设要求的情况下,从所述数据栈中的俯仰角和偏航角中确定准静态标定外参;
其中,所述车辆状态数据是从车辆相关部件获取的用于确定车辆行驶环境的数据。
11.根据权利要求10所述的用于图像获取设备的外参标定系统,其特征在于,所述数据栈还存储有所述车辆状态数据。
12.根据权利要求10或11所述的用于图像获取设备的外参标定系统,其特征在于,所述参照物为车道线,以及,所述车辆状态数据包括所述车辆的速度、方向盘转角和横摆角速度中的一种或其任意结合。
CN202110179411.1A 2021-02-07 2021-02-07 用于图像获取设备的外参标定方法、装置和系统 Active CN112862899B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202110179411.1A CN112862899B (zh) 2021-02-07 2021-02-07 用于图像获取设备的外参标定方法、装置和系统
US17/585,213 US20220254064A1 (en) 2021-02-07 2022-01-26 External parameter calibration method, device and system for image acquisition apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110179411.1A CN112862899B (zh) 2021-02-07 2021-02-07 用于图像获取设备的外参标定方法、装置和系统

Publications (2)

Publication Number Publication Date
CN112862899A true CN112862899A (zh) 2021-05-28
CN112862899B CN112862899B (zh) 2023-02-28

Family

ID=75989519

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110179411.1A Active CN112862899B (zh) 2021-02-07 2021-02-07 用于图像获取设备的外参标定方法、装置和系统

Country Status (2)

Country Link
US (1) US20220254064A1 (zh)
CN (1) CN112862899B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114022863A (zh) * 2021-10-28 2022-02-08 广东工业大学 基于深度学习的车道线检测方法、系统、计算机及存储介质
CN114049404A (zh) * 2022-01-12 2022-02-15 深圳佑驾创新科技有限公司 一种车内相机外参标定方法及装置

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11967112B2 (en) * 2022-09-07 2024-04-23 AitronX Inc. Method and apparatus for detecting calibration requirement for image sensors in vehicles
CN117270548B (zh) * 2023-11-23 2024-02-09 安徽领云物联科技有限公司 一种带有路线矫正功能的智慧巡检机器人

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014021421A1 (ja) * 2012-08-03 2014-02-06 クラリオン株式会社 カメラパラメータ演算装置、ナビゲーションシステムおよびカメラパラメータ演算方法
EP3174007A1 (en) * 2015-11-30 2017-05-31 Delphi Technologies, Inc. Method for calibrating the orientation of a camera mounted to a vehicle
CN106875448A (zh) * 2017-02-16 2017-06-20 武汉极目智能技术有限公司 一种车载单目摄像头外部参数自标定方法
CN108450058A (zh) * 2015-12-28 2018-08-24 英特尔公司 实时自动车载相机校准
CN109191531A (zh) * 2018-07-30 2019-01-11 深圳市艾为智能有限公司 一种基于车道线检测的后方车载相机的自动外参标定方法
CN109389650A (zh) * 2018-09-30 2019-02-26 京东方科技集团股份有限公司 一种车载相机的标定方法、装置、车辆和存储介质
CN110855906A (zh) * 2018-07-24 2020-02-28 黑芝麻智能科技(上海)有限公司 利用安装在车辆周围的摄像机和雷达进行360度全景环视的拼接光学图像的方法
CN110930459A (zh) * 2019-10-29 2020-03-27 北京经纬恒润科技有限公司 灭点提取方法、相机标定方法以及存储介质
CN111612849A (zh) * 2020-05-12 2020-09-01 深圳市哈工大交通电子技术有限公司 一种基于流动车辆的摄像机标定方法及系统
CN112017249A (zh) * 2020-08-18 2020-12-01 东莞正扬电子机械有限公司 车载摄像头滚转角获取、安装角度校正方法及设备
CN112085798A (zh) * 2020-08-10 2020-12-15 深圳市优必选科技股份有限公司 摄像机标定方法、装置、电子设备及存储介质
CN112183512A (zh) * 2020-12-02 2021-01-05 深圳佑驾创新科技有限公司 摄像头标定方法、装置、车载终端和存储介质

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014021421A1 (ja) * 2012-08-03 2014-02-06 クラリオン株式会社 カメラパラメータ演算装置、ナビゲーションシステムおよびカメラパラメータ演算方法
EP3174007A1 (en) * 2015-11-30 2017-05-31 Delphi Technologies, Inc. Method for calibrating the orientation of a camera mounted to a vehicle
CN108450058A (zh) * 2015-12-28 2018-08-24 英特尔公司 实时自动车载相机校准
CN106875448A (zh) * 2017-02-16 2017-06-20 武汉极目智能技术有限公司 一种车载单目摄像头外部参数自标定方法
CN110855906A (zh) * 2018-07-24 2020-02-28 黑芝麻智能科技(上海)有限公司 利用安装在车辆周围的摄像机和雷达进行360度全景环视的拼接光学图像的方法
CN109191531A (zh) * 2018-07-30 2019-01-11 深圳市艾为智能有限公司 一种基于车道线检测的后方车载相机的自动外参标定方法
CN109389650A (zh) * 2018-09-30 2019-02-26 京东方科技集团股份有限公司 一种车载相机的标定方法、装置、车辆和存储介质
CN110930459A (zh) * 2019-10-29 2020-03-27 北京经纬恒润科技有限公司 灭点提取方法、相机标定方法以及存储介质
CN111612849A (zh) * 2020-05-12 2020-09-01 深圳市哈工大交通电子技术有限公司 一种基于流动车辆的摄像机标定方法及系统
CN112085798A (zh) * 2020-08-10 2020-12-15 深圳市优必选科技股份有限公司 摄像机标定方法、装置、电子设备及存储介质
CN112017249A (zh) * 2020-08-18 2020-12-01 东莞正扬电子机械有限公司 车载摄像头滚转角获取、安装角度校正方法及设备
CN112183512A (zh) * 2020-12-02 2021-01-05 深圳佑驾创新科技有限公司 摄像头标定方法、装置、车载终端和存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
GUOYANZHENG: "A novel parameter decomposition based optimization approach for automatic pose estimation of distal locking holes from single calibrated fluoroscopic image", 《PATTERN RECOGNITION LETTERS》 *
刘源: "面向辅助驾驶的车道检测和偏离预警方法研究", 《中国优秀硕士论文电子期刊网》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114022863A (zh) * 2021-10-28 2022-02-08 广东工业大学 基于深度学习的车道线检测方法、系统、计算机及存储介质
CN114049404A (zh) * 2022-01-12 2022-02-15 深圳佑驾创新科技有限公司 一种车内相机外参标定方法及装置
CN114049404B (zh) * 2022-01-12 2022-04-05 深圳佑驾创新科技有限公司 一种车内相机外参标定方法及装置

Also Published As

Publication number Publication date
US20220254064A1 (en) 2022-08-11
CN112862899B (zh) 2023-02-28

Similar Documents

Publication Publication Date Title
CN112862899B (zh) 用于图像获取设备的外参标定方法、装置和系统
US9824586B2 (en) Moving object recognition systems, moving object recognition programs, and moving object recognition methods
CN107567412B (zh) 利用汽车相机使用车辆运动数据的对象位置测量
JP4962581B2 (ja) 区画線検出装置
US9740942B2 (en) Moving object location/attitude angle estimation device and moving object location/attitude angle estimation method
US10821975B2 (en) Lane division line recognition apparatus, lane division line recognition method, driving assist apparatus including lane division line recognition apparatus, and driving assist method including lane division line recognition method
EP2743889A2 (en) Stereoscopic camera object detection system and method of aligning the same
US8259174B2 (en) Camera auto-calibration by horizon estimation
US8824741B2 (en) Method for estimating the roll angle in a travelling vehicle
US9912933B2 (en) Road surface detection device and road surface detection system
CN104111058B (zh) 车距测量方法及装置、车辆相对速度测量方法及装置
JP4943034B2 (ja) ステレオ画像処理装置
CN110858405A (zh) 车载摄像头的姿态估计方法、装置和系统及电子设备
JP2014034251A (ja) 車両走行制御装置及びその方法
US10997737B2 (en) Method and system for aligning image data from a vehicle camera
JP2012166705A (ja) 車載カメラレンズ用異物付着判定装置
CN114943939A (zh) 一种停车状态的检测方法、系统及装置
JP6564127B2 (ja) 自動車用視覚システム及び視覚システムを制御する方法
JP6213359B2 (ja) ドライブレコーダ及びドライブレコーダにおける加速度補正プログラム
JP2020109560A (ja) 信号機認識方法及び信号機認識装置
JP2017090159A (ja) 車両ピッチ角推定装置
JP6295524B2 (ja) 光軸補正装置
TWI734648B (zh) 雷達校正系統和方法
JP2005148784A (ja) 路面走行レーン検出装置
JP6704307B2 (ja) 移動量算出装置および移動量算出方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant