CN104021388A - 基于双目视觉的倒车障碍物自动检测及预警方法 - Google Patents
基于双目视觉的倒车障碍物自动检测及预警方法 Download PDFInfo
- Publication number
- CN104021388A CN104021388A CN201410203724.6A CN201410203724A CN104021388A CN 104021388 A CN104021388 A CN 104021388A CN 201410203724 A CN201410203724 A CN 201410203724A CN 104021388 A CN104021388 A CN 104021388A
- Authority
- CN
- China
- Prior art keywords
- image
- designated
- barrier
- region
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Image Analysis (AREA)
- Medicines Containing Antibodies Or Antigens For Use As Internal Diagnostic Agents (AREA)
Abstract
本发明的基于双目视觉的倒车障碍物自动检测及预警方法,步骤包括:1)对双目摄像头进行标定;2)对双目视频帧图像对去除纹理不丰富的路面区域;3)提取右目图像中的轮廓,确定左目图像的裁剪量;4)根据裁剪后的左目图像,与完整的右目图像,获取基于左目图像的视差图;5)根据左目图像的视差图,确定右目图像的拼接位置,并进行左右目图像的拼接;6)对左右目图像的拼接图,提取疑似障碍物轮廓及其外接矩形;7)计算疑似障碍物的像素高度,筛选出障碍物,计算障碍物的距离,并在拼接图中进行障碍物及其距离标记,分级预警即成。本发明的方法,简单实用,准确率高。
Description
技术领域
本发明属于汽车智能辅助安全驾驶技术领域,涉及一种基于双目视觉的倒车障碍物自动检测及预警方法。
背景技术
汽车是当今世界最主要的交通工具之一,随着汽车数量的增加,车辆的安全辅助驾驶技术越来越受到人们的关注,倒车是汽车驾驶中非常重要的一项,由于人的视角范围、后视镜存在盲区、司机误操作、新手不熟练等原因,极易导致倒车事故的发生,安装倒车辅助装置能够有效地减少倒车事故的发生几率。目前常用的倒车辅助装置主要有两类:即倒车探头和倒车影像。
倒车探头主要有雷达、激光、超声波等设备,雷达电磁波、激光光波、超声波等在遇到障碍物后发生反射,探头接收到反射信号后计算障碍物的距离信息并给出报警,其缺点是探头的感知区域有限,检测范围具有局限性,对不在感知区域内的物体,如台阶、较细障碍物、突出的钢筋等容易出现漏检现象;另外,倒车探头不能给驾驶人提供一种可视的车后方影像。倒车影像是通过车尾安装的摄像头为驾驶人提供车后方的可视影像,驾驶人通过显示屏看到车后方的实景,但它不自动检测障碍物也不提供预警,所以驾驶人必须主动关注显示屏上的影像,依赖经验自主判断后方有无障碍物以及障碍物离车的距离;倒车探头和倒车影像结合,使驾驶人看到倒车影像的同时,还有倒车探头给出预警,但由于该组合装置只是简单结合,具体是针对哪个障碍物的预警依旧需要驾驶人自己去判断,且该组合装置依旧没有解决倒车探头的漏检问题。
目前也有关于基于单目和双目视觉的倒车障碍物距离计算的研究。
基于单目视觉的障碍物距离测量需要对安装好的单目摄像头的高度和俯仰角进行测量,并通过标定和计算来实现对障碍物距离的测量,这种方法虽然设计简单,但是由于这种方法的距离计算精度依赖于摄像头安装高度和俯仰角度的测量,测距精度不高,对于处于地面附近的被测点的测量较为准确,如果被测点距离地面有一定高度,则测量结果存在较大误差。
基于双目视觉的障碍物距离测量,需要获取双目视差图,但是现有的获取双目视差图的匹配方法,一是易受纹理不丰富的区域的影响以及没有对左目图像左侧区域进行裁剪处理,导致视差图匹配不准确,从而影响距离计算的精度;二是视差图匹配的速度较慢,实时性差,反应时间短。
发明内容
本发明的目的是提供一种基于双目视觉的倒车障碍物自动检测及预警方法,解决了现有技术中基于双目视觉的倒车设备,视差图易受纹理不丰富区域、以及左目图左侧区域误匹配的影响,导致障碍物距离计算精度不高、双目视差图匹配速度较慢的问题。
本发明所采用的技术方案是,一种基于双目视觉的倒车障碍物自动检测及预警方法,具体按照以下步骤实施:
步骤1:对安装在车辆尾部的双目摄像头进行标定;
步骤2:对倒车时双目摄像头拍摄的双目视频帧图像对,去除纹理不丰富的路面区域;
步骤3:提取右目图像中的轮廓,确定左目图像的裁剪量;
步骤4:根据裁剪后的左目图像,与完整的右目图像,获取基于左目图像的视差图;
步骤5:根据左目图像的视差图,确定右目图像的拼接位置,并进行左右目图像的拼接;
步骤6:对左右目图像的拼接图,去除纹理不丰富的路面区域,提取疑似障碍物轮廓及其外接矩形;
步骤7:计算疑似障碍物的像素高度,筛选出障碍物,计算障碍物的距离,并在拼接图中进行障碍物及其距离标记,采用声光分级预警,即成。
本发明的有益效果是,在车辆尾部中间位置一定高度处安装双目摄像头,对双目摄像头进行标定;对倒车时双目摄像头拍摄的双目视频帧图像对,分别利用分块区域生长法去除纹理不丰富的路面区域;提取右目图像中的轮廓,利用反向轮廓模板匹配法确定左目图像的裁剪量;根据裁剪后的左目图像,与完整的右目图像,再利用正向轮廓模板匹配法,获取基于左目图像的视差图;根据视差图,确定右目图像的拼接量,进行左右目图像的拼接;去除拼接图中纹理不丰富的路面区域,提取疑似障碍物轮廓及其外接矩形;根据视差图以及标定的拟合公式,计算疑似障碍物的像素高度,筛选出障碍物,计算障碍物的距离,并在显示屏显示出的拼接图中进行障碍物及其距离标记,声光分级预警。
本发明方法实现了倒车过程中的障碍物的自动检测及距离预警,通过疑似障碍物的筛选提高了倒车障碍物检测的准确度;通过视差图的改善和双目参数的拟合提高了障碍物距离计算的精度;通过最大视差值对匹配搜索范围的限制和轮廓模板匹配法提高了视差图匹配的速度,使得倒车障碍物检测的速度满足了倒车的实时性需求。
附图说明
图1是本发明方法的右目图像与左目图像的轮廓模板匹配示意图;
图2是本发明方法的左目图像与右目图像的轮廓模板匹配示意图;
图3是本发明方法的基于左目图像的视差图示意图;
图4是本发明方法的分级预警示意图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
本发明的基于双目视觉的倒车障碍物自动检测及预警方法,具体按照以下步骤实施:
步骤1:对安装在车辆尾部的双目摄像头进行标定
对安装在车辆尾部中间一定高度位置的双目摄像头,测量其盲区的物理长度,记为Zmin,设最低障碍物的物理高度为Hmin,高度小于Hmin的物体不被视为障碍物,设标定用棋盘格的内角点数为PQ,记棋盘格的物理高度为HQ,HQ≤Hmin;测量双目摄像头刚好将最低障碍物拍全时,双目摄像头与最低障碍物之间的物理距离,记为Zmax,利用双目摄像头拍摄垂直放置在N个不同物理距离Zi,Zi∈[Zmin,Zmax],i=1,2,3,…,N处的棋盘格,N≥5,得到N组双目图像对,检测N组双目图像对中棋盘格的角点,记N个左目图像中棋盘格的各个角点坐标为j=1,2,…,PQ,i=1,2,…,N,记N个右目图像中棋盘格的各个角点坐标为j=1,2,…,PQ,i=1,2,…,N,计算N组左右目图像对中对应角点的横坐标差的平均值,即视差值,计算公式如下:
由双目距离计算公式得到如下公式:
(B×f)i=Zi×(xl-xr)i,i=1,2,…,N, (2)
其中B为双目摄像头中两个摄像头光轴间的距离,f为有效焦距,Zi为前述的N个棋盘格的物理距离;以(B×f)i,i=1,2,3,…,N为纵坐标y,以公式(1)的视差值(xl-xr)i,i=1,2,…,N为横坐标x拟合二次曲线,记拟合出的曲线方程式为:
y=ax2+bx+c, (3)
其中的y为双目B×f值,x为视差值,a、b、c均为拟合出的常量;
利用双目摄像头拍摄垂直放置在Zi处的最低障碍物,得到N组双目图像对,获取N个左目图像中该最低障碍物的像素高度,记为HOi,以HOi为纵坐标y,以公式(1)的视差值xl-xr为横坐标x拟合二次曲线,则拟合出的曲线方程式为:
yo=ao×xo2+bo×xo+co, (4)
其中yo为最低障碍物的像素高度值,xo为视差值,ao、bo、co分别为拟合出的常量;
将棋盘格放置在双目摄像头盲区距离处,当Zi=Zmin时,根据公式(1)所得的视差值xl-xr即为最大视差值,记为Dmax。
步骤2:对倒车时双目摄像头拍摄的双目视频帧图像对,分别利用分块区域生长法去除纹理不丰富的路面区域
对倒车时双目摄像头拍摄的双目视频帧图像对,记左目图像为L,右目图像为R,对双目图像对分别进行灰度化处理,记左目灰度图像为LG,右目灰度图像为RG,如图1所示,规定左目灰度图像LG下方区域为代表路面的小块,记为S,其左上角坐标为右下角坐标为坐标计算公式如下:
H、W分别为左目灰度图像LG的高度和宽度,
统计路面小块S的平均灰度值,记为ave_gray;
将左目灰度图像LG分为m×n,m≥2,n≥2的小块,记为Ki,i=1,2…m×n,对各小块Ki从左到右,从下到上依次遍历该小块中各像素的灰度值,当第一次得到的像素值与ave_gray的差小于阈值T=2的点就作为该小块的种子点,各小块的种子点记为Pi,i∈1,2,…m×n;分别以Pi,i∈1,2,…m×n为种子点,依次对左目灰度图像LG进行漫水填充区域生长,生长的正、负阈值分别设置为T_pos=90和T_neg=50,将生长区域赋为白色,这些白色区域就是被去除的路面区域,则非白色区域为路面上的物体;
同理,对右目灰度图像RG利用上述的分块区域生长法去除路面区域;
路面区域去除后的左目灰度图像LG和右目灰度图像RG分别记为LGS、RGS。
步骤3:提取右目图像中的轮廓,利用轮廓模板匹配法确定左目图像的裁剪量
置路面区域去除后的右目图像RGS中的非白色的路面上物体区域为黑色,对其左侧2×Dmax部分,进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Ri,i=1,2,…,NR,NR为轮廓的个数,计算各个轮廓LK_Ri,i=1,2,…,NR的外接矩形的面积,找出外接矩形面积最大的轮廓区域,其外接矩形左上角坐标记为右下角坐标记为在右目灰度图像RG中,如图1所示,以为左上角点,为右下角点所围成的矩形区域记为RectMax,以其作为模板;在左目灰度图像LG中,以k=0,1,2…Dmax为左上角点及以k=0,1,2…Dmax为右下角点构成的矩形区域记为RectMaxLk,k=0,1,2,…Dmax,作为被匹配区域,随着k从0到Dmax变化,从左向右移动,如图1中的箭头所指方向,利用归一化互相关方法进行右目灰度图像RG上的模板区域RectMax依次和左目灰度图像LG上的被匹配区域RectMaxLk,k=0,1,2,…Dmax的匹配,公式如下:
其中,k=0,1,2…Dmax,SK为相似性度量值,0≤SK≤1,计算得到SK的最大值Smax,将其对应的k值作为左目图像的裁剪量KL,KL∈0,1,2…Dmax,即KL=k;若NR=0,即最大轮廓区域不存在,则左目图像的裁剪量设置为KL=Dmax。
步骤4:根据裁剪后的左目图像,与完整的右目图像,利用轮廓模板匹配法,获取基于左目图像的视差图
记基于左目图像的视差图为Depth,其高度为H,宽度为W,其初始化设视差图Depth的左侧0~KL部分的视差值为0,即置黑;规定步骤2中的LGS右侧KL~W部分中的白色区域,即路面区域在视差图Depth中的视差值为0,即置黑;规定非路面区域在视差图Depth中的视差值为255,即置白;
对步骤2中的左目图像LGS中的非白色的路面上的物体区域置为黑色,对其右侧KL~W部分进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Li,i=1,2,…,NL,NL为轮廓的个数,计算各个轮廓LK_Li,i=1,2,…,NL的外接矩形,其外接矩形左上角坐标记为i=1,2.…,NL,右下角坐标记为i=1,2.…,NL,
在左目灰度图像LG中,以i=1,2,…,NL为左上角点,i=1,2,…,NL为右下角点,该左上角点与右下角点构成的矩形区域记为Recti,i=1,2,…,NL,分别以Recti,i=1,2,…,NL作为模板,如图2所示;
在右目灰度图像RG中,依次以k=0,1,2…Dmax,i=1,2,…,NL为左上角点,以k=0,1,2…Dmax,i=1,2,…,NL为右下角点,该左上角点与右下角点构成的区域记为k=0,1,2,…Dmax,i=1,2,…,NL,作为被匹配区域,随着k从0到Dmax变化,从右向左移动,如图2中的箭头所指方向,利用归一化互相关方法依次进行左目灰度图像LG中模板区域Recti,i=1,2,…,NL和右目灰度图像RG中被匹配区域k=0,1,2,…Dmax,i=1,2,…,NL的匹配,公式如下:
其中,为相似性度量值,分别计算当i=0,1,2,…NL各个数值的的最大值,记为i=1,2,…,NL,在视差图Depth中,如图3所示,记左上角点i=1,2,…,NL与右下角点i=1,2,…,NL构成的矩形区域为RectDi,i=1,2,…,NL,以各个i=1,2,…,NL对应的k值,作为区域RectDi,i=1,2,…,NL的视差值Di,i=1,2,…,NL,至此,得到了基于左目图像的视差图Depth。
步骤5:根据左目图像的视差图,确定右目图像的拼接位置,并进行左右目图像的拼接
如图3所示,根据步骤4中的视差图Depth,在区域RectDi,i=1,2,…,NL中找到面积最大的区域,记为RectDmax,取该矩形区域的视差值作为右目图像的拼接位置,记为KR,KR∈0,1,2…Dmax;
采用加权平均融合法,对左目图像L(x,y)与右目图像R(x,y)中以(W-2×KR,0)为左上角坐标,(W,H)为右下角坐标围成的子区域进行拼接,记拼接图像为P(x,y),其高度为H,宽度为W+KR,拼接公式如下:
其中,y=0,1,…H-1,d1、d2均为融合拼接系数,计算公式如下:
步骤6:对左右目图像的拼接图P,去除纹理不丰富的路面区域,提取疑似障碍物轮廓及其外接矩形
对步骤5中的拼接图P进行灰度化,记为PG,以步骤2中的S作为路面区域,将拼接灰度图PG分为m×n,m≥2,n≥2的小块,记为KPi,i=1,2…m×n,对各小块KPi,i=1,2…m×n从左到右,从下到上依次遍历该小块中各像素的灰度值,当第一次得到的像素值与步骤2中ave_gray的差小于阈值T=2的点就作为该小块的种子点,各小块的种子点记为PPi,i∈1,2,…m×n;分别以PPi,i∈1,2,…m×n为种子点,依次对拼接灰度图PG进行漫水填充区域生长,生长的正、负阈值分别设置为T_pos=90和T_neg=50,将生长区域赋为白色,这些白色区域就是被去除的路面区域,非白色区域为路面上的物体,路面去除后的拼接灰度图像PG记为PGS;
置图像PGS中的非白色的路面上物体区域为黑色,对其进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Pi,i=1,2,…,Np,称为疑似障碍物轮廓,Np为轮廓的个数;计算各个轮廓LK_Pi,i=1,2,…,Np的外接矩形,其外接矩形的左上角坐标记为i=1,2,…,Np,右下角坐标记为i=1,2,…,Np,如图4所示,在拼接图P中,以i=1,2,…,Np为左上角坐标,以i=1,2,…,Np为右下角坐标,它们围成的矩形区域记为RectPi,i=1,2,…,NP,称为为疑似障碍物区域。
步骤7:根据视差图Depth以及标定的拟合公式,计算疑似障碍物的像素高度,筛选出障碍物,计算障碍物的距离,并在拼接图P中进行障碍物及其距离标记,采用声光分级预警
根据步骤1的公式(4)以及步骤4的视差值Di,i=1,2,…,NL,计算视差值为Di,i=1,2,…,NL时,最低障碍物的像素高度yi,公式如下:
yi=ao×Di 2+bo×Di+co,i=1,2,…,NL, (10)
计算步骤4视差图Depth中各个矩形区域RectDi,i=1,2,…,NL的像素高度HRi,i=1,2,…,NL,如图3所示,公式如下:
若HRi≥yi,i=1,2,…,NL,则该矩形区域RectDi,i∈1,2,…,NL对应的步骤6中的拼接图P中的疑似障碍物区域RectPi,i∈1,2,…,NP作为障碍物区域,否则,不作为障碍物区域;
根据步骤1的公式(3),以及步骤4的视差值Di,i=1,2,…,NL,计算各个障碍物对应的双目B×f值,公式如下:
(B×f)i=a×Di 2+b×Di+c,i∈1,2,3,…,NL, (12)
根据公式(12)和步骤1的公式(2),计算各个障碍物的物理距离ZOi,i∈1,2,3,…,NL,NL≤NP,公式如下:
如图4所示,在显示屏显示的拼接图P中,标记出各个障碍物的外接矩形框RectPi,i∈1,2,…,NP,同时还对应标记出各个障碍物的物理距离ZOi,i∈1,2,3,…,NL,NL≤NP;设分级预警物理距离分别为Z1、Z2、Z3,Z1<Z2<Z3,统计出障碍物物理距离ZOi,i∈1,2,3,…,NL,NL≤NP的最小值,记为ZOmin,
若Z2<ZOmin≤Z3,则将拼接图P中的S区域置为绿色,并发出报警声“倒车请注意!”;
若Z1<ZOmin≤Z2,则将拼接图P中的S区域置为黄色,并发出报警声“危险请注意!”;
若Zmin≤ZOmin≤Z1,则将拼接图P中的S区域置为红色,并发出报警声“请停车!”,即成。
Claims (8)
1.一种基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于,具体按照以下步骤实施:
步骤1:对安装在车辆尾部的双目摄像头进行标定;
步骤2:对倒车时双目摄像头拍摄的双目视频帧图像对,去除纹理不丰富的路面区域;
步骤3:提取右目图像中的轮廓,确定左目图像的裁剪量;
步骤4:根据裁剪后的左目图像,与完整的右目图像,获取基于左目图像的视差图;
步骤5:根据左目图像的视差图,确定右目图像的拼接位置,并进行左右目图像的拼接;
步骤6:对左右目图像的拼接图,去除纹理不丰富的路面区域,提取疑似障碍物轮廓及其外接矩形;
步骤7:计算疑似障碍物的像素高度,筛选出障碍物,计算障碍物的距离,并在拼接图中进行障碍物及其距离标记,采用声光分级预警,即成。
2.根据权利要求1所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤1中,
对安装在车辆尾部的双目摄像头,测量其盲区的物理长度,记为Zmin,设最低障碍物的物理高度为Hmin,高度小于Hmin的物体不被视为障碍物,设标定用棋盘格的内角点数为PQ,记棋盘格的物理高度为HQ,HQ≤Hmin;测量双目摄像头刚好将最低障碍物拍全时,双目摄像头与最低障碍物之间的物理距离,记为Zmax,利用双目摄像头拍摄垂直放置在N个不同物理距离Zi,Zi∈[Zmin,Zmax],i=1,2,3,…,N处的棋盘格,N≥5,得到N组双目图像对,检测N组双目图像对中棋盘格的角点,记N个左目图像中棋盘格的各个角点坐标为j=1,2,…,PQ,i=1,2,…,N,记N个右目图像中棋盘格的各个角点坐标为j=1,2,…,PQ,i=1,2,…,N,计算N组左右目图像对中对应角点的横坐标差的平均值,即视差值,计算公式如下:
由双目距离计算公式得到如下公式:
(B×f)i=Zi×(xl-xr)i,i=1,2,…,N, (2)
其中B为双目摄像头中两个摄像头光轴间的距离,f为有效焦距,Zi为前述的N个棋盘格的物理距离;以(B×f)i,i=1,2,3,…,N为纵坐标y,以公式(1)的视差值(xl-xr)i,i=1,2,…,N为横坐标x拟合二次曲线,记拟合出的曲线方程式为:
y=ax2+bx+c, (3)
其中的y为双目B×f值,x为视差值,a、b、c均为拟合出的常量;
利用双目摄像头拍摄垂直放置在Zi处的最低障碍物,得到N组双目图像对,获取N个左目图像中该最低障碍物的像素高度,记为HOi,以HOi为纵坐标y,以公式(1)的视差值xl-xr为横坐标x拟合二次曲线,则拟合出的曲线方程式为:
yo=ao×xo2+bo×xo+co, (4)
其中yo为最低障碍物的像素高度值,xo为视差值,ao、bo、co分别为拟合出的常量;
将棋盘格放置在双目摄像头盲区距离处,当Zi=Zmin时,根据公式(1)所得的视差值xl-xr即为最大视差值,记为Dmax。
3.根据权利要求2所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤2中,
对倒车时双目摄像头拍摄的双目视频帧图像对,记左目图像为L,右目图像为R,对双目图像对分别进行灰度化处理,记左目灰度图像为LG,右目灰度图像为RG,规定左目灰度图像LG下方区域为代表路面的小块,记为S,其左上角坐标为右下角坐标为坐标计算公式如下:
H、W分别为左目灰度图像LG的高度和宽度,
统计路面小块S的平均灰度值,记为ave_gray;
将左目灰度图像LG分为m×n,m≥2,n≥2的小块,记为Ki,i=1,2…m×n,对各小块Ki从左到右从下到上依次遍历该小块中各像素的灰度值,当第一次得到的像素值与ave_gray的差小于阈值T=2的点就作为该小块的种子点,各小块的种子点记为Pi,i∈1,2,…m×n;分别以Pi,i∈1,2,…m×n为种子点,依次对左目灰度图像LG进行漫水填充区域生长,生长的正、负阈值分别设置为T_pos=90和T_neg=50,将生长区域赋为白色,这些白色区域就是被去除的路面区域,则非白色区域为路面上的物体;
同理,对右目灰度图像RG利用上述的分块区域生长法去除路面区域;
路面区域去除后的左目灰度图像LG和右目灰度图像RG分别记为LGS、RGS。
4.根据权利要求3所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤3中,
置路面区域去除后的右目图像RGS中的非白色的路面上物体区域为黑色,对其左侧2×Dmax部分,进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Ri,i=1,2,…,NR,NR为轮廓的个数,计算各个轮廓LK_Ri,i=1,2,…,NR的外接矩形的面积,找出外接矩形面积最大的轮廓区域,其外接矩形左上角坐标记为右下角坐标记为在右目灰度图像RG中,以为左上角点,为右下角点所围成的矩形区域记为RectMax,以其作为模板;在左目灰度图像LG中,以k=0,1,2…Dmax为左上角点及以k=0,1,2…Dmax为右下角点构成的矩形区域记为RectMaxLk,k=0,1,2,…Dmax,作为被匹配区域,随着k从0到Dmax变化,从左向右移动,利用归一化互相关方法进行右目灰度图像RG上的模板区域RectMax依次和左目灰度图像LG上的被匹配区域RectMaxLk,k=0,1,2,…Dmax的匹配,公式如下:
其中,k=0,1,2…Dmax,SK为相似性度量值,0≤SK≤1,计算得到SK的最大值Smax,将其对应的k值作为左目图像的裁剪量KL,KL∈0,1,2…Dmax,即KL=k;若NR=0,即最大轮廓区域不存在,则左目图像的裁剪量设置为KL=Dmax。
5.根据权利要求4所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤4中,
记基于左目图像的视差图为Depth,其高度为H,宽度为W,其初始化设视差图Depth的左侧0~KL部分的视差值为0,即置黑;规定步骤2中的LGS右侧KL~W部分中的白色区域,即路面区域在视差图Depth中的视差值为0,即置黑;规定非路面区域在视差图Depth中的视差值为255,即置白;
对步骤2中的左目图像LGS中的非白色的路面上的物体区域置为黑色,对其右侧KL~W部分进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Li,i=1,2,…,NL,NL为轮廓的个数,计算各个轮廓LK_Li,i=1,2,…,NL的外接矩形,其外接矩形左上角坐标记为i=1,2.…,NL,右下角坐标记为i=1,2.…,NL,
在左目灰度图像LG中,以i=1,2,…,NL为左上角点,i=1,2,…,NL为右下角点,该左上角点与右下角点构成的矩形区域记为Recti,i=1,2,…,NL,分别以Recti,i=1,2,…,NL作为模板;
在右目灰度图像RG中,依次以k=0,1,2…Dmax,i=1,2,…,NL为左上角点,以k=0,1,2…Dmax,i=1,2,…,NL为右下角点,该左上角点与右下角点构成的区域记为k=0,1,2,…Dmax,i=1,2,…,NL,作为被匹配区域,随着k从0到Dmax变化,从右向左移动,利用归一化互相关方法依次进行左目灰度图像LG中模板区域Recti,i=1,2,…,NL和右目灰度图像RG中被匹配区域k=0,1,2,…Dmax,i=1,2,…,NL的匹配,公式如下:
其中,为相似性度量值,分别计算当i=0,1,2,…NL各个数值的的最大值,记为i=1,2,…,NL,在视差图Depth中,记左上角点i=1,2,…,NL与右下角点i=1,2,…,NL构成的矩形区域为RectDi,i=1,2,…,NL,以各个i=1,2,…,NL对应的k值,作为区域RectDi,i=1,2,…,NL的视差值Di,i=1,2,…,NL,至此,得到了基于左目图像的视差图Depth。
6.根据权利要求5所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤5中,根据步骤4中的视差图Depth,在区域RectDi,i=1,2,…,NL中找到面积最大的区域,记为RectDmax,取该矩形区域的视差值作为右目图像的拼接位置,记为KR,KR∈0,1,2…Dmax;
采用加权平均融合法,对左目图像L(x,y)与右目图像R(x,y)中以(W-2×KR,0)为左上角坐标,(W,H)为右下角坐标围成的子区域进行拼接,记拼接图像为P(x,y),其高度为H,宽度为W+KR,拼接公式如下:
其中,y=0,1,…H-1,d1、d2均为融合拼接系数,计算公式如下:
7.根据权利要求6所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤6中,对步骤5中的拼接图P进行灰度化,记为PG,以步骤2中的S作为路面区域,将拼接灰度图PG分为m×n,m≥2,n≥2的小块,记为KPi,i=1,2…m×n,对各小块KPi,i=1,2…m×n从左到右,从下到上依次遍历该小块中各像素的灰度值,当第一次得到的像素值与步骤2中ave_gray的差小于阈值T=2的点就作为该小块的种子点,各小块的种子点记为PPi,i∈1,2,…m×n;分别以PPi,i∈1,2,…m×n为种子点,依次对拼接灰度图PG进行漫水填充区域生长,生长的正、负阈值分别设置为T_pos=90和T_neg=50,将生长区域赋为白色,这些白色区域就是被去除的路面区域,非白色区域为路面上的物体,路面去除后的拼接灰度图像PG记为PGS;
置图像PGS中的非白色的路面上物体区域为黑色,对其进行路面上物体的轮廓提取,提取到的各个物体的轮廓记为LK_Pi,i=1,2,…,Np,称为疑似障碍物轮廓,Np为轮廓的个数;计算各个轮廓LK_Pi,i=1,2,…,Np的外接矩形,其外接矩形的左上角坐标记为i=1,2,…,Np,右下角坐标记为i=1,2,…,Np,在拼接图P中,以i=1,2,…,Np为左上角坐标,以i=1,2,…,Np为右下角坐标,它们围成的矩形区域记为RectPi,i=1,2,…,NP,称为为疑似障碍物区域。
8.根据权利要求7所述的基于双目视觉的倒车障碍物自动检测及预警方法,其特点在于:所述的步骤7中,根据步骤1的公式(4)以及步骤4的视差值Di,i=1,2,…,NL,计算视差值为Di,i=1,2,…,NL时,最低障碍物的像素高度yi,公式如下:
yi=ao×Di 2+bo×Di+co,i=1,2,…,NL, (10)
计算步骤4视差图Depth中各个矩形区域RectDi,i=1,2,…,NL的像素高度HRi,i=1,2,…,NL,公式如下:
若HRi≥yi,i=1,2,…,NL,则该矩形区域RectDi,i∈1,2,…,NL对应的步骤6中的拼接图P中的疑似障碍物区域RectPi,i∈1,2,…,NP作为障碍物区域,否则,不作为障碍物区域;
根据步骤1的公式(3),以及步骤4的视差值Di,i=1,2,…,NL,计算各个障碍物对应的双目B×f值,公式如下:
(B×f)i=a×Di 2+b×Di+c,i∈1,2,3,…,NL, (12)
根据公式(12)和步骤1的公式(2),计算各个障碍物的物理距离ZOi,i∈1,2,3,…,NL,NL≤NP,公式如下:
在显示屏显示的拼接图P中,标记出各个障碍物的外接矩形框RectPi,i∈1,2,…,NP,同时还对应标记出各个障碍物的物理距离ZOi,i∈1,2,3,…,NL,NL≤NP;
设分级预警物理距离分别为Z1、Z2、Z3,Z1<Z2<Z3,统计出障碍物物理距离ZOi,i∈1,2,3,…,NL,NL≤NP的最小值,记为ZOmin,
若Z2<ZOmin≤Z3,则将拼接图P中的S区域置为绿色,并发出报警声“倒车请注意!”;
若Z1<ZOmin≤Z2,则将拼接图P中的S区域置为黄色,并发出报警声“危险请注意!”;
若Zmin≤ZOmin≤Z1,则将拼接图P中的S区域置为红色,并发出报警声“请停车!”。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410203724.6A CN104021388B (zh) | 2014-05-14 | 2014-05-14 | 基于双目视觉的倒车障碍物自动检测及预警方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410203724.6A CN104021388B (zh) | 2014-05-14 | 2014-05-14 | 基于双目视觉的倒车障碍物自动检测及预警方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104021388A true CN104021388A (zh) | 2014-09-03 |
CN104021388B CN104021388B (zh) | 2017-08-22 |
Family
ID=51438133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410203724.6A Expired - Fee Related CN104021388B (zh) | 2014-05-14 | 2014-05-14 | 基于双目视觉的倒车障碍物自动检测及预警方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104021388B (zh) |
Cited By (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105574470A (zh) * | 2014-10-10 | 2016-05-11 | 广州汽车集团股份有限公司 | 一种侧后方车辆识别方法及装置 |
CN105893928A (zh) * | 2015-12-21 | 2016-08-24 | 乐视致新电子科技(天津)有限公司 | 虚拟现实设备及虚拟现实设备提供的避障方法 |
CN106155066A (zh) * | 2016-09-29 | 2016-11-23 | 翁锦祥 | 一种可进行路面障碍检测的搬运车及搬运方法 |
CN106204687A (zh) * | 2016-07-20 | 2016-12-07 | 广州小鹏汽车科技有限公司 | 一种基于贝塞尔曲线的倒车雷达图实现方法 |
CN106225764A (zh) * | 2016-07-01 | 2016-12-14 | 北京小米移动软件有限公司 | 基于终端中双目摄像头的测距方法及终端 |
CN106327465A (zh) * | 2015-06-18 | 2017-01-11 | 深圳超多维光电子有限公司 | 物体位置确定方法及装置 |
CN106682584A (zh) * | 2016-12-01 | 2017-05-17 | 广州亿航智能技术有限公司 | 无人机障碍物检测方法及装置 |
CN107341789A (zh) * | 2016-11-23 | 2017-11-10 | 杭州视氪科技有限公司 | 一种基于rgb‑d相机和立体声的视障人士通路预知系统和方法 |
CN107636679A (zh) * | 2016-12-30 | 2018-01-26 | 深圳前海达闼云端智能科技有限公司 | 一种障碍物检测方法及装置 |
CN107845291A (zh) * | 2017-10-26 | 2018-03-27 | 中国外运大件物流有限公司 | 车辆的防撞预警系统及包括其的车辆 |
CN107909009A (zh) * | 2017-10-27 | 2018-04-13 | 北京中科慧眼科技有限公司 | 一种基于路面学习的障碍物检测方法与装置 |
CN107909010A (zh) * | 2017-10-27 | 2018-04-13 | 北京中科慧眼科技有限公司 | 一种道路障碍物检测方法与装置 |
CN108108667A (zh) * | 2017-12-01 | 2018-06-01 | 大连理工大学 | 一种基于窄基线双目视觉的前方车辆快速测距方法 |
CN108230373A (zh) * | 2018-02-06 | 2018-06-29 | 时明 | 机械清洁设备行走轨迹修正平台 |
CN108830257A (zh) * | 2018-06-29 | 2018-11-16 | 电子科技大学 | 一种基于单目光流的潜在障碍物检测方法 |
CN109435852A (zh) * | 2018-11-08 | 2019-03-08 | 湖北工业大学 | 一种针对大型卡车的全景式辅助驾驶系统及方法 |
CN109697745A (zh) * | 2017-10-24 | 2019-04-30 | 富泰华工业(深圳)有限公司 | 障碍物透视方法及障碍物透视装置 |
CN109753858A (zh) * | 2017-11-07 | 2019-05-14 | 北京中科慧眼科技有限公司 | 一种基于双目视觉的道路障碍物检测方法与装置 |
CN109859137A (zh) * | 2019-02-14 | 2019-06-07 | 重庆邮电大学 | 一种广角相机非规则畸变全域校正方法 |
CN110231832A (zh) * | 2018-03-05 | 2019-09-13 | 北京京东尚科信息技术有限公司 | 用于无人机的避障方法和避障装置 |
CN110573905A (zh) * | 2017-04-28 | 2019-12-13 | 株式会社电装 | 障碍物检知装置 |
CN110617970A (zh) * | 2018-06-19 | 2019-12-27 | 上海汽车集团股份有限公司 | 一种泊车反应时间的测试系统及方法 |
CN110667474A (zh) * | 2018-07-02 | 2020-01-10 | 北京四维图新科技股份有限公司 | 通用障碍物检测方法、装置与自动驾驶系统 |
US10880489B2 (en) | 2018-07-10 | 2020-12-29 | Boe Technology Group Co., Ltd. | Monitoring method for goods shelf, monitoring system for goods shelf and goods shelf |
CN113822396A (zh) * | 2021-08-24 | 2021-12-21 | 杭州飞步科技有限公司 | 桥吊实时定位方法、装置和系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101294801A (zh) * | 2007-07-13 | 2008-10-29 | 东南大学 | 基于双目视觉的车距测量方法 |
CN102682292A (zh) * | 2012-05-10 | 2012-09-19 | 清华大学 | 基于单目视觉的道路边缘检测及粗定位方法 |
US20130163821A1 (en) * | 2011-12-22 | 2013-06-27 | Ganmei YOU | Method and device for detecting road region as well as method and device for detecting road line |
-
2014
- 2014-05-14 CN CN201410203724.6A patent/CN104021388B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101294801A (zh) * | 2007-07-13 | 2008-10-29 | 东南大学 | 基于双目视觉的车距测量方法 |
US20130163821A1 (en) * | 2011-12-22 | 2013-06-27 | Ganmei YOU | Method and device for detecting road region as well as method and device for detecting road line |
CN102682292A (zh) * | 2012-05-10 | 2012-09-19 | 清华大学 | 基于单目视觉的道路边缘检测及粗定位方法 |
Cited By (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105574470A (zh) * | 2014-10-10 | 2016-05-11 | 广州汽车集团股份有限公司 | 一种侧后方车辆识别方法及装置 |
CN106327465A (zh) * | 2015-06-18 | 2017-01-11 | 深圳超多维光电子有限公司 | 物体位置确定方法及装置 |
CN106327465B (zh) * | 2015-06-18 | 2019-08-06 | 深圳超多维光电子有限公司 | 物体位置确定方法及装置 |
CN105893928A (zh) * | 2015-12-21 | 2016-08-24 | 乐视致新电子科技(天津)有限公司 | 虚拟现实设备及虚拟现实设备提供的避障方法 |
CN106225764A (zh) * | 2016-07-01 | 2016-12-14 | 北京小米移动软件有限公司 | 基于终端中双目摄像头的测距方法及终端 |
CN106204687B (zh) * | 2016-07-20 | 2017-09-12 | 广州小鹏汽车科技有限公司 | 一种基于贝塞尔曲线的倒车雷达图实现方法 |
CN106204687A (zh) * | 2016-07-20 | 2016-12-07 | 广州小鹏汽车科技有限公司 | 一种基于贝塞尔曲线的倒车雷达图实现方法 |
CN106155066B (zh) * | 2016-09-29 | 2022-11-11 | 翁锦祥 | 一种可进行路面障碍检测的搬运车及搬运方法 |
CN106155066A (zh) * | 2016-09-29 | 2016-11-23 | 翁锦祥 | 一种可进行路面障碍检测的搬运车及搬运方法 |
CN107341789A (zh) * | 2016-11-23 | 2017-11-10 | 杭州视氪科技有限公司 | 一种基于rgb‑d相机和立体声的视障人士通路预知系统和方法 |
CN107341789B (zh) * | 2016-11-23 | 2019-12-17 | 杭州视氪科技有限公司 | 一种基于rgb-d相机和立体声的视障人士通路预知系统和方法 |
CN106682584A (zh) * | 2016-12-01 | 2017-05-17 | 广州亿航智能技术有限公司 | 无人机障碍物检测方法及装置 |
CN107636679A (zh) * | 2016-12-30 | 2018-01-26 | 深圳前海达闼云端智能科技有限公司 | 一种障碍物检测方法及装置 |
CN107636679B (zh) * | 2016-12-30 | 2021-05-25 | 达闼机器人有限公司 | 一种障碍物检测方法及装置 |
CN110573905A (zh) * | 2017-04-28 | 2019-12-13 | 株式会社电装 | 障碍物检知装置 |
CN110573905B (zh) * | 2017-04-28 | 2023-05-02 | 株式会社电装 | 障碍物检知装置 |
CN109697745A (zh) * | 2017-10-24 | 2019-04-30 | 富泰华工业(深圳)有限公司 | 障碍物透视方法及障碍物透视装置 |
CN107845291A (zh) * | 2017-10-26 | 2018-03-27 | 中国外运大件物流有限公司 | 车辆的防撞预警系统及包括其的车辆 |
CN107909009B (zh) * | 2017-10-27 | 2021-09-17 | 北京中科慧眼科技有限公司 | 一种基于路面学习的障碍物检测方法与装置 |
CN107909010B (zh) * | 2017-10-27 | 2022-03-18 | 北京中科慧眼科技有限公司 | 一种道路障碍物检测方法与装置 |
CN107909010A (zh) * | 2017-10-27 | 2018-04-13 | 北京中科慧眼科技有限公司 | 一种道路障碍物检测方法与装置 |
CN107909009A (zh) * | 2017-10-27 | 2018-04-13 | 北京中科慧眼科技有限公司 | 一种基于路面学习的障碍物检测方法与装置 |
CN109753858A (zh) * | 2017-11-07 | 2019-05-14 | 北京中科慧眼科技有限公司 | 一种基于双目视觉的道路障碍物检测方法与装置 |
CN108108667B (zh) * | 2017-12-01 | 2019-08-09 | 大连理工大学 | 一种基于窄基线双目视觉的前方车辆快速测距方法 |
CN108108667A (zh) * | 2017-12-01 | 2018-06-01 | 大连理工大学 | 一种基于窄基线双目视觉的前方车辆快速测距方法 |
CN108230373A (zh) * | 2018-02-06 | 2018-06-29 | 时明 | 机械清洁设备行走轨迹修正平台 |
CN110231832A (zh) * | 2018-03-05 | 2019-09-13 | 北京京东尚科信息技术有限公司 | 用于无人机的避障方法和避障装置 |
CN110231832B (zh) * | 2018-03-05 | 2022-09-06 | 北京京东乾石科技有限公司 | 用于无人机的避障方法和避障装置 |
CN110617970A (zh) * | 2018-06-19 | 2019-12-27 | 上海汽车集团股份有限公司 | 一种泊车反应时间的测试系统及方法 |
CN110617970B (zh) * | 2018-06-19 | 2021-08-17 | 上海汽车集团股份有限公司 | 一种泊车反应时间的测试系统及方法 |
CN108830257A (zh) * | 2018-06-29 | 2018-11-16 | 电子科技大学 | 一种基于单目光流的潜在障碍物检测方法 |
CN110667474A (zh) * | 2018-07-02 | 2020-01-10 | 北京四维图新科技股份有限公司 | 通用障碍物检测方法、装置与自动驾驶系统 |
US10880489B2 (en) | 2018-07-10 | 2020-12-29 | Boe Technology Group Co., Ltd. | Monitoring method for goods shelf, monitoring system for goods shelf and goods shelf |
CN109435852B (zh) * | 2018-11-08 | 2021-11-02 | 湖北工业大学 | 一种针对大型卡车的全景式辅助驾驶系统及方法 |
CN109435852A (zh) * | 2018-11-08 | 2019-03-08 | 湖北工业大学 | 一种针对大型卡车的全景式辅助驾驶系统及方法 |
CN109859137B (zh) * | 2019-02-14 | 2023-02-17 | 重庆邮电大学 | 一种广角相机非规则畸变全域校正方法 |
CN109859137A (zh) * | 2019-02-14 | 2019-06-07 | 重庆邮电大学 | 一种广角相机非规则畸变全域校正方法 |
CN113822396A (zh) * | 2021-08-24 | 2021-12-21 | 杭州飞步科技有限公司 | 桥吊实时定位方法、装置和系统 |
CN113822396B (zh) * | 2021-08-24 | 2024-01-09 | 杭州飞步科技有限公司 | 桥吊实时定位方法、装置和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN104021388B (zh) | 2017-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104021388A (zh) | 基于双目视觉的倒车障碍物自动检测及预警方法 | |
WO2021004548A1 (zh) | 一种基于双目立体视觉系统的车辆智能测速方法 | |
EP3792660B1 (en) | Method, apparatus and system for measuring distance | |
WO2023124383A1 (zh) | 一种车辆速度检测、撞车预警方法及电子设备 | |
CN104700414B (zh) | 一种基于车载双目相机的前方道路行人快速测距方法 | |
CN110443225B (zh) | 一种基于特征像素统计的虚实车道线识别方法及其装置 | |
CN101950350B (zh) | 使用分级方法的畅通路径检测 | |
EP4141737A1 (en) | Target detection method and device | |
CN104011737B (zh) | 用于探测雾的方法 | |
CN100403332C (zh) | 用于车道偏离报警的车道线鲁棒识别方法 | |
US6122597A (en) | Vehicle monitoring apparatus | |
RU2571871C2 (ru) | Способ определения границ дороги, формы и положения объектов, находящихся на дороге, и устройство для его выполнения | |
CN108596058A (zh) | 基于计算机视觉的行车障碍物测距方法 | |
US20200211226A1 (en) | Camera calibration using traffic sign recognition | |
CN105654732A (zh) | 一种基于深度图像的道路监控系统及方法 | |
CN106064587B (zh) | 一种基于车牌识别的多车道车间距识别方法及装置 | |
CN105620489A (zh) | 驾驶辅助系统及车辆实时预警提醒方法 | |
US20180137754A1 (en) | Detection and documentation of tailgating and speeding violations | |
CN103837139A (zh) | 不平路面驾驶辅助设备和用于不平路面驾驶辅助的方法 | |
CN109747530A (zh) | 一种双摄像头和毫米波融合汽车感知系统 | |
CN103196418A (zh) | 一种弯道车距测量方法 | |
CN104008377A (zh) | 基于时空关联的地面交通标志实时检测识别方法 | |
CN104063882B (zh) | 一种基于双目的车辆视频测速方法 | |
CN109583267A (zh) | 车辆用目标检测方法、车辆用目标检测装置和车辆 | |
CN109522847A (zh) | 一种基于深度图的轨道和道路障碍物检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20170822 Termination date: 20210514 |