CN105059190A - 基于视觉的汽车开门碰撞预警装置及方法 - Google Patents

基于视觉的汽车开门碰撞预警装置及方法 Download PDF

Info

Publication number
CN105059190A
CN105059190A CN201510504544.6A CN201510504544A CN105059190A CN 105059190 A CN105059190 A CN 105059190A CN 201510504544 A CN201510504544 A CN 201510504544A CN 105059190 A CN105059190 A CN 105059190A
Authority
CN
China
Prior art keywords
coordinate
scanning line
vehicle
warning device
automobile door
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510504544.6A
Other languages
English (en)
Other versions
CN105059190B (zh
Inventor
杨明
王旱霖
王春香
王冰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Jiaotong University
Original Assignee
Shanghai Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Jiaotong University filed Critical Shanghai Jiaotong University
Priority to CN201510504544.6A priority Critical patent/CN105059190B/zh
Publication of CN105059190A publication Critical patent/CN105059190A/zh
Application granted granted Critical
Publication of CN105059190B publication Critical patent/CN105059190B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/802Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for monitoring and displaying vehicle exterior blind spot views

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)

Abstract

本发明提供了一种基于视觉的汽车开门碰撞预警装置及方法,包括四个鱼眼摄像头和工控机,利用四个鱼眼摄像头安装在车辆的头部,尾部,左部和右部,利用鱼眼摄像头的视角接近180度的特点,完成对汽车四周无死角的观测,与车载的工控机构成环视平台;由环视平台得到的四个视野的图像具有鱼眼畸变,需进行畸变矫正;对四个视野畸变矫正后的图像分别进行基于STHOL特征的检测。本发明对硬件要求低、可维护性可移植性良好、可扩展性良好。

Description

基于视觉的汽车开门碰撞预警装置及方法
技术领域
本发明涉及交通领域的辅助驾驶技术,具体地,涉及一种基于视觉的汽车开门碰撞预警装置及方法。
背景技术
对于智能车的研究是当今研究热点之一。在对智能车的研究中,驾驶辅助系统是其中的一个核心的系统。在使用车辆的各种行为中,很多行为的危险性的来源都是车内人员在执行该行为时存在的视觉盲区。停车开门这一行为就是上述危险行为之一,因为车内人员在停车开门时候忽略其视觉盲区内的运动物体而造成的碰撞事故时有发生。因此研制出一种原理先进,简单易行,准确度高,价格适中的车辆开门碰撞预警装置是十分必要的。
目前市面上已有的车辆开门碰撞预警装置,大多是利用传感器等硬件完成车辆外界物体的检测,但是基于硬件的检测装置成本较高,而且可扩展性和可维护性较差,例如利用超声波传感器的装置检测范围小、检测角度分辨率低;利用毫米波雷达的装置检测成本高、安装不方便;利用激光雷达的装置检测成本高等。
利用机器视觉的方法可以有效实现运动物体的检测,而且基于机器视觉的装置硬件结构简单,硬件成本低。但是现有的利用机器视觉的检测装置,大多只能实现观测点周围部分区域的视觉检测,很少有能实现车身四周全局无盲点检测的装置,且装置所用算法大多为光流法,帧差法,背景差分法等传统算法,这些传统算法有着各自的缺点,例如光流法的计算量巨大,计算效率低;帧差法在物体运动速度过高和过低时会产生很大的误差;背景差分法需要很长的时间进行背景建模,初始化时间长等。
发明内容
针对现有技术中的缺陷,本发明的目的是提供一种基于STHOL(Spatio-temporalHistogramsofOrientedLines)特征的车辆开门碰撞预警检测装置及方法。STHOL特征是一种结合当前图像帧和之前连续多帧图像信息的特征,利用该特征准确检测某一预设方向上的物体的运动,其计算效率高,应用性灵活,准确率高,可以自主根据实际需要控制运算的复杂程度和监控范围。利用STHOL特征搭配可以获取汽车四周全局图像的环视装置,实现车身四周全局无盲点的实时检测。
根据本发明的一个方面,提供一种基于视觉的汽车开门碰撞预警装置,包括四个摄像头和工控机,其中:四个摄像头采集汽车周围的环视图像,并将采集到的图像信息传输给工控机,这四个摄像头与车载的工控机构成环视平台;工控机对接收到的图像信息进行畸变矫正处理,并对矫正后的图像进行基于STHOL特征的检测。
优选地,所述工控机对矫正后的图像进行基于STHOL特征的检测,包括:扫描线的设置、扫描线由车辆坐标到图像坐标的转换、时空信息图的建立、时空特征图的边缘线的提取和拟合、STHOL特征的提取以及决策,得到四个视野图像中的检测结果;取每个视野中有危险的运动的结果为“1”,无危险运动的结果为“0”,则对四个视野中的检测结果取并集,若并集结果为“1”,则判定安全区域内有危险运动,发出警报;若并集结果是“0”,则判定安全区域内没有危险运动,不发出警报。
优选地,所述四个摄像头分别安装于车辆的头部、尾部、左部和右部,其安装参数根据实际车辆尺寸而定,以使四个摄像头的视角覆盖汽车周围的所有观测死角为准。
更优选地,所述四个摄像头均为鱼眼摄像头。
根据本发明的另一个方面,提供一种基于视觉的汽车开门碰撞预警装置的方法,所述方法中:在车辆头部、尾部、左部和右部安装四个鱼眼摄像头,四个鱼眼摄像头视角接近180度,完成对汽车四周无死角的观测,这四个鱼眼摄像头与车载的工控机构成环视平台;由环视平台得到的四个视野的图像具有鱼眼畸变,对鱼眼畸变进行畸变矫正;对四个视野畸变矫正后的图像分别进行基于STHOL特征的检测。
优选地,所述基于STHOL特征的检测,包括:
扫描线的设置;扫描线由车辆坐标到图像坐标的坐标转换;时空信息图的建立;时空特征图的边缘线的提取和拟合;STHOL特征的提取以及决策;最后得到四个视野图像中的检测结果。
优选地,所述扫描线的设置包括扫描线的密度以及铺设范围,扫描线的密度以及铺设范围根据汽车的具体尺寸以及硬件平台性能而定。
优选地,利用透视变换的方法实现所述扫描线由车辆坐标到图像坐标的坐标转换。
优选地,根据实际需求设置四个所述摄像头的检测范围、精度,以及检测的运动方向。
与现有技术相比,本发明具有如下的有益效果:
1、基于机器视觉,成本低,可扩展性好;
2、原理先进,准确性好;
3、实现汽车周围全局的观测,确保无盲点;
4、算法灵活,其运行时间和需要检测的运动的方向可以预先设定。
附图说明
通过阅读参照以下附图对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1为本发明一实施例的装置安装俯视图;
图2为本发明一实施例的四个视野图像中预设扫描线的方向示意图;
图3为本发明一实施例方法的流程图;
图4为本发明一实施例中各个坐标系之间的关系图;
图5为本发明一实施例中四个部分视野的扫描线设置转换后的效果图,其中(a)尾部视野,(b)头部视野,(c)右部视野,(d)左部视野;
图6为本发明一实施例中时空信息图形成示意图;
图7为本发明一实施例中某一条扫描线对应的时空信息图;
图8为本发明一实施例中Canny算子处理过的时空信息图;
图中:前摄像头1,后摄像头2,左摄像头3,右摄像头4,工控机5。
具体实施方式
下面结合具体实施例对本发明进行详细说明。以下实施例将有助于本领域的技术人员进一步理解本发明,但不以任何形式限制本发明。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进。这些都属于本发明的保护范围。
要完成汽车的停车开门碰撞预警,要求装置满足两个条件,第一个就是需要能实现汽车四周无死角的观测,也就是得到汽车周围的环视图像;第二个就是能辨别出所得到的环视图像中具有危险运动的物体。在本发明装置中第一个条件由设计的环视平台(即前摄像头1、后摄像头2、左摄像头3和右摄像头4、工控机构成)满足,第二个条件由工控机中基于STHOL特征的检测算法满足。
如图1所示,一种基于视觉的汽车开门碰撞预警装置,包括:前摄像头1,后摄像头2,左摄像头3,右摄像头4,工控机5;其中:前摄像头1、后摄像头2、左摄像头3和右摄像头4为鱼眼摄像头,其安装参数根据实际车辆尺寸而定,令四个摄像头的视角覆盖汽车周围的所有观测死角;摄像头1、2、3、4采集到的图像传入工控机5中,由于四个摄像头采集的图像均有鱼眼畸变,采用畸变矫正技术进行矫正。
如图2所示,为四个视野图像中预设扫描线的方向示意图,由STHOL的提取过程可知,整个检测算法需要进行需要被检测运动的方向的预设,这个过程通过扫描线的设置方向实现;考虑到装置的用途,在汽车开门时,车的头部视野中垂直车身的运动,车的两侧和后部视野中平行于车身的运动被认为是可能产生碰撞的运动,所以汽车四个视野中扫描线设置如图2所示,扫描线的密度以及铺设范围根据汽车的具体尺寸以及硬件平台性能而定。
在按照图2完成扫描线设置之后,利用透视变换将车辆坐标系中的扫描线坐标转换到图像坐标系中,然后进行时空信息图的搭建,STHOL特征的提取及决策,最后得到四个视野图像中的检测结果;四个视野是全局视野的四个部分,彼此之间是独立的,所以四个视野之间的检测内容也是彼此独立的,取每个视野中有危险的运动的结果为“1”,无危险运动的结果为“0”,则对四个视野中的检测结果取并集,若并集结果为“1”,则判定安全区域内有危险运动,发出警报;若并集结果是“0”,则判定安全区域内没有危险运动,不发出警报(如图3所示的流程图)。
本实施例提出的车辆开门预警装置的设计方案是:
利用四个鱼眼摄像头(即前摄像头1,后摄像头2,左摄像头3,右摄像头4)安装在车辆的头部、尾部、左部和右部,利用四个鱼眼摄像头的视角接近180度的特点,完成对汽车四周无死角的观测,与车载的工控机4构成环视平台。由环视平台得到的四个视野的图像具有鱼眼畸变,需进行畸变矫正;对四个视野畸变矫正后的图像分别进行基于STHOL特征的检测,检测过程如下:
第一,扫描线的设置;
所述扫描线的设置包括扫描线的密度以及铺设范围,扫描线的密度以及铺设范围根据汽车的具体尺寸以及硬件平台性能而定。
每个视野中的扫描线的设置。扫描线的方向是危险运动的速度方向。在本发明中,定义在车头部分相对于车身垂直的运动,在左端右端以及后端相对于车身平行的运动为危险运动,所以在车辆坐标中扫描线的设置为在车头部分为垂直车身设置,其余三个部分的设置为平行车身设置,安全区域的大小取决于扫描线的间隔以及数目,安全区域的大小标志了要预警的范围的大小,可以通过控制安全区域的大小实现预警范围的控制。在车辆坐标中的扫描线设置如图2所示。
表1扫描线的设置参数
在车辆坐标中确定了扫描线的各个坐标之后,利用坐标变换,将扫描线的车辆坐标转换到图像的像素坐标中。在初始化的时候完成这个转换,建立四个部分图像不同扫描线的坐标的查找表,这样在后续计算时直接查表即可,加速程序的运行效率。
第二,扫描线由车辆坐标到图像坐标的转换;
利用透视变换的方法实现所述扫描线由车辆坐标到图像坐标的坐标转换。
在从车辆坐标转换到非畸变图像坐标的过程中,一共涉及到4个坐标系,分别为车辆坐标系,摄像头坐标系,成像平面坐标系,和实际图像坐标系,这四个坐标系的关系如图4所示,图中M是车辆坐标中的一点;m’是直接成像时的畸变图像坐标中的一点;m是在非畸变图像中M对应的点。这一步需要做的就是把扫描线上的每一点从车辆坐标转换到最终需要的图像坐标中,也就是四个坐标之间的转换。
首先,是车辆坐标系与摄像头坐标系之间的转换关系。车辆坐标系是一个基本坐标系,该坐标系是一个三维坐标系,由人为预先设定,所有的信息包括采集图像数据的摄像头本身都在这个车辆坐标系中拥有对应的坐标;鱼眼摄像头坐标系是以鱼眼摄像头的焦点为坐标系的原点,光轴为Z轴。车辆坐标系和鱼眼摄像头坐标系的坐标之间的关系一般使用一个旋转矩阵R和一个平移矩阵T描述,具体的关系参见下式(1):
x c y c z c = R · x w y w z w + T - - - ( 1 )
在该式中,(xw,yw,zw)表示的是在车辆坐标中的某个点的坐标,(xc,yc,zc)表示的是该点在摄像头坐标中对应的坐标,可以将上式转换成齐次式,即式(2):
x c y c z c 1 = R T 0 1 · x w y w z w 1 - - - ( 2 )
其中旋转矩阵R和平移矩阵T的参数构成了鱼眼摄像头的外参,由标定得到。
成像坐标系和摄像头坐标系基本是相同的,所不同的是成像平面坐标系是一个二维的坐标系,其坐标的原点在摄像头的光心的位置。它描述了某一个像素点在图像中的对应的物理位置。鱼眼摄像头坐标系中的一点(xc,yc,zc)与成像坐标系中的一个像素点的坐标(x,y)的对应关系可以由线性针孔模型来表示,如式(3)所示:
z c · x y 1 = f 0 0 0 0 f 0 0 0 0 1 0 · x c y c z c 1 - - - ( 3 )
在上面的公式中,f表示的是摄像头的焦距,f是鱼眼摄像头的内参数线性部分的一个参数,一样可以通过摄像头的标定得到。
非畸变图像坐标系中的坐标反映了对应的像素坐标。非畸变图像坐标系同样是一个二维的坐标系,该坐标系和实际影像坐标系之间的关系可以利用畸变系数来表示。这里的畸变系数指的是线性畸变系数,而鱼眼的非线性畸变系数已经在前述的畸变矫正中处理掉了。线性畸变的产生是由于摄像头的光心不再成像平面的正中心所产生的。这里设光心的在实际影响坐标系中的坐标为(uc,vc)表示,则成像坐标系中的任意一点(x,y)和实际影像坐标系的对应点(u,v)之间的关系可以用式(4)表示:
u v 1 = k x 0 u c 0 k y v c 0 0 1 · x y 1 - - - ( 4 )
上面的式子中,kx,ky分别表示的是成像平面上x轴和y轴上的1cm代表多少像素。
图5为四个部分视野的扫描线设置转换后的效果图。
第三,时空信息图的建立;
时空信息图,是指将每一帧的特定的一条扫描线上的所有像素点的值抽取出来,得到当前帧的一条扫描线矩阵,然后将相邻多帧的对应的扫描线矩阵合起来形成时空信息图。公式描述如下:
在第t帧图像中,坐标为(x,y)的点的值为I(x,y,t),则有当前帧的j条扫描线图矩阵:
式(5)中xji,yji∈Lj(x,y),i=1,2...n,i表示点在扫描线集合中的序号,n表示每条扫描线集合中点的个数,Lj为第j条扫描线的点的集合。
假设每次取6帧图像组成时空信息图,则此扫描线组成的时空信息图的矩阵为:
I ( x j 1 , y j 1 , t - 5 ) I ( x j 2 , y j 2 , t - 5 ) K I ( x j n , y j n , t - 5 ) M M M M I ( x j 1 , y j 1 , t - 1 ) I ( x j 2 , y j 2 , t - 1 ) K I ( x j n , y j n , t - 1 ) I ( x j 1 , y j 1 , t ) I ( x j 2 , y j 2 , t ) K I ( x j n , y j n , t ) - - - ( 6 )
式中xji,yji∈Lj(x,y),Lj为第j条扫描线的点的集合。
图像表示如图6所示,图中为一条扫描线形成其对应时空信息图的示意,左半部分是运动物体,右部分为静止物体构成时空信息图的示意。从图中可以看出,静止物体和运动物体产生的时空信息图中的边缘线的斜率是不同的,按照它们的斜率不同可以区分出扫描线上的物体的运动状态。
在完成了每个视野中扫描线的设定和转换后,本发明就可以利用这些扫描线进行时空信息图的建立。对于上述的每一条扫描线,按照上述的概念构建时空信息图,每经过一帧,时空信息图中的每一行就向下移动一行,最下面的一行被舍弃,当前帧的相应的扫描线补充到最上面的一行中。这是一个长度一定的队列结构,图7为其中一条扫描线在某一帧构成的时空信息图。
第三,时空特征图的边缘线的提取和拟合;
在完成了每一条扫描线的时空信息图的建立后,本发明获取了一系列的时空信息图,对于每一张时空信息图进行边缘检测。图像的边缘是图像中灰度急剧变化的地方,受噪声和光照等干扰的影响较小。利用Canny算子与阈值化进行边缘线的二值化,其中Canny算子的上阈值和下阈值的选取很重要,选取恰当的值可以除去很大一部分的由于光照变化等情况引起的噪声,图8为利用Canny算子得到的时空信息图的边缘线。
对于Canny算子处理过的时空信息图,首先要寻找每一条独立的边缘线,这是一个寻找连通域的过程,在本发明中是寻找的4连通域。对于每一条得到的边缘线的连通域集合,对其进行最小二乘法拟合,每一条线利用极坐标可以表示为:ρ=xcosθ+ysinθ,其中ρ为距原点距离;θ为对于极轴的角度。
已经找到的每一个连通域都是一个点的集合,在每个集合中的点的坐标本发明认为是近似按照某条直线线性分布的,需要求解的是这条直线相对于极轴的倾斜角。对于这个集合进行最小二乘法的拟合,则对于每一个连通域有回归矩阵D:
D = Σ i ( x i - x ‾ ) 2 Σ i ( x i - x ‾ ) ( y i - y ‾ ) Σ i ( x i - x ‾ ) ( y i - y ‾ ) Σ i ( y i - y ‾ ) 2 - - - ( 7 )
式中i=1,2...n,i表示点在扫描线集合中的序号,n表示每个连通域集合中点的个数。对于矩阵D,有特征值λ12,特征向量其中有λ1≥λ2,是与λ12分别对应的特征向量,则有倾斜角对于理想拟合的矩阵,其特征值比值应有λ21=0,这个比值反映了点集拟合直线的质量,所以可以设定一个阈值,特征值比值大于这个阈值的点集认为拟合质量不好,可以舍去,这样做能去除一部分噪声引起的干扰。
第四,STHOL特征的提取以及决策;
按照每条线的θ角度不同,对每张图上的边缘线进行加权统计,将每个点集内的点的数目作为加权数,再将一个视野中的所有扫描线产生的统计结果综合起来,得到一个视野中的总决策向量,数学表达为:
y 1 y 2 · · · y v = Σ q Σ p 0 · · · n u m m q p 0 - - - ( 8 )
式(8)中,y为最终的v维决策向量;q为一个视野中的扫描线个数;p为每条扫描线的时空信息图中的边缘线个数;nummqp表示的是在第q条扫描线时空信息图中第p条边缘线上的点的数目,其中m满足1≤k≤n,θ为拟合线的倾角,即每个单独线的决策向量除了第m项,m指决策向量y中的第m项外其余项全为0;π是指圆周率,v是决策向量维数。
在本发明中选取的决策向量维数为20,即选取9°为一个间隔进行统计。
由上述内容可知,时空信息图中的边缘线的斜率主要与物体相对于观测点的运动速度有关,运动速度越大,斜率越大,这样本发明可以利用决策向量中的每一维的分布来大致估测物体相对于观测点的运动速度,从而可以人为的调整危险的速度阈值,以控制对危险运动的警报(有些情境中的低速运动并不需要警报,则可以通过指定最后决策时的决策向量相加的维数,来控制预设危险运动的速度和方向)。
第五,最后得到四个视野图像中的检测结果。
可以根据实际需求设置检测的范围,精度,以及想要检测的运动的方向。
由上述内容可知,时空信息图中的边缘线的斜率主要与物体相对于观测点的运动速度以及方向有关,运动速度越大,斜率越大,这样本文可以利用决策向量中的每一维的分布来大致估测物体相对于观测点的运动速度,从而可以人为的调整危险的速度阈值,以控制对危险运动的警报.
在本实施例中,认为只要有相对速度就是有危险,则对于每一个视野有:
式中,Wc表示第c个视野内的判断结果,yh为上述决策向量y中第h维的数值,θi为决策向量y第h维对应的角度,T为阈值。
在一实施例中,每个视野中有危险的运动的结果为“1”,无危险运动的结果为“0”,对四个视野中的检测结果取并集,若并集结果为“1”,则判定安全区域内有危险运动,发出警报;若并集结果是“0”,则判定安全区域内没有危险运动,不发出警报。
按照上述操作,本发明在实际路况中进行过实验后:
1.能精准检测安全区域内的运动物体,对危险发出警报。
2.能有效区分危险运动和安全运动,只对运动方向符合预设危险方向的运动做出警报。
本发明对硬件要求低、可维护性可移植性良好、可扩展性良好,除了在交通领域,在工业生产、人工智能等领域均有应用,具有广泛的应用前景。
以上对本发明的具体实施例进行了描述。需要理解的是,本发明并不局限于上述特定实施方式,本领域技术人员可以在权利要求的范围内做出各种变形或修改,这并不影响本发明的实质内容。

Claims (11)

1.一种基于视觉的汽车开门碰撞预警装置,其特征在于,包括四个摄像头和工控机,其中:四个摄像头采集汽车周围的环视图像,并将采集到的图像信息传输给工控机,这四个摄像头与车载的工控机构成环视平台;工控机对接收到的图像信息进行畸变矫正处理,并对矫正后的图像进行基于STHOL特征的检测。
2.根据权利要求1所述的一种基于视觉的汽车开门碰撞预警装置,其特征在于,所述工控机对矫正后的图像进行基于STHOL特征的检测,包括:扫描线的设置、扫描线由车辆坐标到图像坐标的转换、时空信息图的建立、时空特征图的边缘线的提取和拟合、STHOL特征的提取以及决策,得到四个视野图像中的检测结果;
每个视野中有危险的运动的结果为“1”,无危险运动的结果为“0”,对四个视野中的检测结果取并集,若并集结果为“1”,则判定安全区域内有危险运动,发出警报;若并集结果是“0”,则判定安全区域内没有危险运动,不发出警报。
3.根据权利要求2所述的一种基于视觉的汽车开门碰撞预警装置,其特征在于,所述四个摄像头分别安装于车辆的头部、尾部、左部和右部,四个摄像头的视角覆盖汽车周围的所有观测死角。
4.根据权利要求3所述的一种基于视觉的汽车开门碰撞预警装置,其特征在于,所述四个摄像头均为鱼眼摄像头。
5.一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述方法中:在车辆头部、尾部、左部和右部安装四个鱼眼摄像头,四个鱼眼摄像头视角接近180度,完成对汽车四周无死角的观测,这四个鱼眼摄像头与车载的工控机构成环视平台;由环视平台得到的四个视野的图像具有鱼眼畸变,对鱼眼畸变进行畸变矫正;对四个视野畸变矫正后的图像分别进行基于STHOL特征的检测。
6.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述基于STHOL特征的检测,包括:
扫描线的设置;
扫描线由车辆坐标到图像坐标的坐标转换;
时空信息图的建立;
时空特征图的边缘线的提取和拟合;
STHOL特征的提取以及决策;
最终得到四个视野图像中的检测结果,并进行预警。
7.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述扫描线的设置包括:在车辆坐标中扫描线的设置为在车头部分为垂直车身设置,其余三个部分的设置为平行车身设置,安全区域的大小取决于扫描线的间隔以及数目,安全区域的大小标志了要预警的范围的大小,通过控制安全区域的大小实现预警范围的控制;
在车辆坐标中确定了扫描线的各个坐标之后,利用坐标变换,将扫描线的车辆坐标转换到图像的像素坐标中,在初始化的时候完成这个转换,建立四个部分图像不同扫描线的坐标的查找表,这样在后续计算时直接查表。
8.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,利用透视变换的方法实现所述扫描线由车辆坐标到图像坐标的坐标转换。
9.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述时空信息图,是指在完成了每个视野中扫描线的设定和转换后,将每一帧的特定的一条扫描线上的所有像素点的值抽取出来,得到当前帧的一条扫描线矩阵,然后将相邻多帧的对应的扫描线矩阵合起来形成时空信息图。
10.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述时空特征图的边缘线的提取和拟合,是指对于每一张时空信息图进行边缘检测,利用Canny算子与阈值化进行边缘线的二值化;
对于Canny算子处理过的时空信息图,首先要寻找每一条独立的边缘线,这是一个寻找连通域的过程,对于每一条得到的边缘线的连通域集合,对其进行最小二乘法拟合,每一条线利用极坐标表示为:ρ=xcosθ+ysinθ,其中ρ为距原点距离;θ为对于极轴的角度;
已经找到的每一个连通域都是一个点的集合,对于这个集合进行最小二乘法的拟合,则对于每一个连通域有回归矩阵,对于该矩阵,有特征值λ12、特征向量其中λ1≥λ2,是与λ12分别对应的特征向量,则有倾斜角对于理想拟合的矩阵,其特征值比值应有λ21=0,这个比值反映了点集拟合直线的质量,设定一个阈值,特征值λ21比值大于这个阈值的点集认为拟合质量不好,舍去。
11.根据权利要求5所述的一种基于视觉的汽车开门碰撞预警装置的方法,其特征在于,所述STHOL特征的提取以及决策,是指:对每张图上的边缘线进行加权统计,将每个点集内的点的数目作为加权数,再将一个视野中的所有扫描线产生的统计结果综合起来,得到一个视野中的总决策向量;
每个视野中有危险的运动的结果为“1”,无危险运动的结果为“0”,对四个视野中的检测结果取并集,若并集结果为“1”,则判定安全区域内有危险运动,发出警报;若并集结果是“0”,则判定安全区域内没有危险运动,不发出警报。
CN201510504544.6A 2015-08-17 2015-08-17 基于视觉的汽车开门碰撞预警装置及方法 Active CN105059190B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510504544.6A CN105059190B (zh) 2015-08-17 2015-08-17 基于视觉的汽车开门碰撞预警装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510504544.6A CN105059190B (zh) 2015-08-17 2015-08-17 基于视觉的汽车开门碰撞预警装置及方法

Publications (2)

Publication Number Publication Date
CN105059190A true CN105059190A (zh) 2015-11-18
CN105059190B CN105059190B (zh) 2018-05-29

Family

ID=54488796

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510504544.6A Active CN105059190B (zh) 2015-08-17 2015-08-17 基于视觉的汽车开门碰撞预警装置及方法

Country Status (1)

Country Link
CN (1) CN105059190B (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105539289A (zh) * 2015-12-14 2016-05-04 宁波裕兰信息科技有限公司 一种基于四颗摄像头360度环视的停车开门预警方法
CN108062600A (zh) * 2017-12-18 2018-05-22 北京星云互联科技有限公司 一种基于矩形建模的车辆碰撞预警方法及装置
CN110345961A (zh) * 2016-06-27 2019-10-18 御眼视觉技术有限公司 基于检测到的停放车辆特性控制主车辆
CN107221005B (zh) * 2017-05-04 2020-05-08 美的集团股份有限公司 物体检测方法及装置
CN111401114A (zh) * 2019-02-12 2020-07-10 深圳市艾为智能有限公司 一种基于受限光流场的横穿物体检测装置及方法
CN111559314A (zh) * 2020-04-27 2020-08-21 长沙立中汽车设计开发股份有限公司 深度与图像信息融合的3d增强全景环视系统及实现方法
CN112001266A (zh) * 2020-07-30 2020-11-27 上海交通大学 一种大型无人运输车监控方法及系统
CN112793509A (zh) * 2021-04-14 2021-05-14 天津所托瑞安汽车科技有限公司 一种盲区监测方法及装置、设备、介质
CN113104046A (zh) * 2021-04-28 2021-07-13 中国第一汽车股份有限公司 一种基于云服务器的开门预警方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040033675A (ko) * 2002-10-15 2004-04-28 여태순 자동차용 후방 감시 장치
CN1956018A (zh) * 2005-10-24 2007-05-02 财团法人车辆研究测试中心 车用开门危险预警装置
CN101234620A (zh) * 2008-02-28 2008-08-06 上海交通大学 车辆智能后视装置
CN101442618A (zh) * 2008-12-31 2009-05-27 葛晨阳 用于车辆辅助驾驶的360度环形视频合成方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20040033675A (ko) * 2002-10-15 2004-04-28 여태순 자동차용 후방 감시 장치
CN1956018A (zh) * 2005-10-24 2007-05-02 财团法人车辆研究测试中心 车用开门危险预警装置
CN101234620A (zh) * 2008-02-28 2008-08-06 上海交通大学 车辆智能后视装置
CN101442618A (zh) * 2008-12-31 2009-05-27 葛晨阳 用于车辆辅助驾驶的360度环形视频合成方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
FERNANDEZ-LLORCA DAVID,ETC: "Parking Assistance System for Leaving Perpendicular Parking Lots:Experiments in Daytime/Nighttime Conditions", 《IEEE INTELLIGENT TRANSPORTATION SYSTEMS MAGAZINE》 *

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105539289B (zh) * 2015-12-14 2018-03-06 宁波裕兰信息科技有限公司 一种基于四颗摄像头360度环视的停车开门预警方法
CN105539289A (zh) * 2015-12-14 2016-05-04 宁波裕兰信息科技有限公司 一种基于四颗摄像头360度环视的停车开门预警方法
CN110345961A (zh) * 2016-06-27 2019-10-18 御眼视觉技术有限公司 基于检测到的停放车辆特性控制主车辆
CN110345961B (zh) * 2016-06-27 2020-10-16 御眼视觉技术有限公司 基于检测到的停放车辆特性控制主车辆
CN107221005B (zh) * 2017-05-04 2020-05-08 美的集团股份有限公司 物体检测方法及装置
CN108062600A (zh) * 2017-12-18 2018-05-22 北京星云互联科技有限公司 一种基于矩形建模的车辆碰撞预警方法及装置
CN111401114B (zh) * 2019-02-12 2023-09-19 深圳市艾为智能有限公司 一种基于受限光流场横穿物体检测装置的横穿物体检测方法
CN111401114A (zh) * 2019-02-12 2020-07-10 深圳市艾为智能有限公司 一种基于受限光流场的横穿物体检测装置及方法
CN111559314A (zh) * 2020-04-27 2020-08-21 长沙立中汽车设计开发股份有限公司 深度与图像信息融合的3d增强全景环视系统及实现方法
CN111559314B (zh) * 2020-04-27 2021-08-24 长沙立中汽车设计开发股份有限公司 深度与图像信息融合的3d增强全景环视系统及实现方法
CN112001266B (zh) * 2020-07-30 2023-01-17 上海交通大学 一种大型无人运输车监控方法及系统
CN112001266A (zh) * 2020-07-30 2020-11-27 上海交通大学 一种大型无人运输车监控方法及系统
CN112793509A (zh) * 2021-04-14 2021-05-14 天津所托瑞安汽车科技有限公司 一种盲区监测方法及装置、设备、介质
CN113104046A (zh) * 2021-04-28 2021-07-13 中国第一汽车股份有限公司 一种基于云服务器的开门预警方法及装置

Also Published As

Publication number Publication date
CN105059190B (zh) 2018-05-29

Similar Documents

Publication Publication Date Title
CN105059190A (zh) 基于视觉的汽车开门碰撞预警装置及方法
CN111201451B (zh) 基于场景的激光数据和雷达数据进行场景中的对象检测的方法及装置
Zielke et al. Intensity and edge-based symmetry detection with an application to car-following
CN102774325B (zh) 一种后视倒车辅助系统和形成后视障碍图像的方法
CN102313536B (zh) 基于机载双目视觉的障碍物感知方法
CN107031623A (zh) 一种基于车载盲区相机的道路预警方法
EP3594902B1 (en) Method for estimating a relative position of an object in the surroundings of a vehicle and electronic control unit for a vehicle and vehicle
Zhang et al. Robust inverse perspective mapping based on vanishing point
CA2950791A1 (en) Binocular visual navigation system and method based on power robot
CN104378582A (zh) 一种基于ptz摄像机巡航的智能视频分析系统及方法
CN104751119A (zh) 基于信息融合的行人快速检测跟踪方法
CN105205785A (zh) 一种可定位的大型车辆运行管理系统及其运行方法
CN103204104B (zh) 一种车辆全视角驾驶监控系统及方法
EP2813973B1 (en) Method and system for processing video image
CN104331901A (zh) 一种基于tld的多视角目标跟踪装置及方法
CN108021899A (zh) 基于双目相机的车载智能前车防撞预警方法
CN105741234A (zh) 基于三维全景环视的无人艇自动锚泊视觉辅助系统
KR102270827B1 (ko) 360도 주변 물체 검출 및 인식 작업을 위한 다중 센서 데이터 기반의 융합 정보 생성 방법 및 장치
Kemsaram et al. A stereo perception framework for autonomous vehicles
CN114905512A (zh) 一种智能巡检机器人全景追踪及避障方法及系统
Baris et al. Classification and tracking of traffic scene objects with hybrid camera systems
Gao et al. Multi-Sensor Fusion Perception System in Train
Bui et al. Deformable parts model for people detection in heavy machines applications
Lin et al. Road obstacle detection in stereo vision based on UV-disparity
Kogler et al. Embedded stereo vision system for intelligent autonomous vehicles

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant