CN103522970B - 基于机器视觉的车辆行驶安全检测方法和系统 - Google Patents

基于机器视觉的车辆行驶安全检测方法和系统 Download PDF

Info

Publication number
CN103522970B
CN103522970B CN201310212915.4A CN201310212915A CN103522970B CN 103522970 B CN103522970 B CN 103522970B CN 201310212915 A CN201310212915 A CN 201310212915A CN 103522970 B CN103522970 B CN 103522970B
Authority
CN
China
Prior art keywords
moving target
vehicle
image
camera
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201310212915.4A
Other languages
English (en)
Other versions
CN103522970A (zh
Inventor
李相涛
邵诗强
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen TCL High-Tech Development Co Ltd
Original Assignee
Shenzhen TCL Industrial Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen TCL Industrial Research Institute Co Ltd filed Critical Shenzhen TCL Industrial Research Institute Co Ltd
Priority to CN201310212915.4A priority Critical patent/CN103522970B/zh
Publication of CN103522970A publication Critical patent/CN103522970A/zh
Application granted granted Critical
Publication of CN103522970B publication Critical patent/CN103522970B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了基于机器视觉的车辆行驶安全检测方法和系统,其检测方法包括:A、采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;B、获取实时同步的左右摄像头图像,并判断左右摄像头图像中是否存在运动目标;C、在存在运动目标时,匹配左右摄像头图像中的运动目标,并对匹配的运动目标进行三维重建,计算运动目标与当前车辆的距离;D、判断所述运动目标与当前车辆的距离是否小于预定距离,若是则输出预警信号。本发明通过判断运动目标的距离远近来输出预警信号提高了驾驶的安全性。

Description

基于机器视觉的车辆行驶安全检测方法和系统
技术领域
本发明涉及机器视觉技术,特别涉及一种基于机器视觉的车辆行驶安全检测方法和系统。
背景技术
随着图像识别和车载行车安全技术的进步,机器视觉、模式识别等相对复杂的方法在汽车领域的应用也越来越多。如倒车时,会在车载电脑上显示车辆后方的图像,并通过语音提示车辆后方预定距离内是否有障碍物。
目前,在车辆行驶过程中,一般通过驾驶员自己判断车辆前后方是否存在运动物体(如行人和车辆),在驾驶员自己判断运动物体过近时执行刹车。现有这种仅仅靠驾驶员自身判断的行车方式还远远不够,一般还需要很多安全辅助设备来确保行驶安全。但现有的汽车辅助安全系统主要体现在制动系统等方面,没有提前预警和前后方车辆的行驶状态的提醒功能,其驾驶安全性能比较低。
发明内容
鉴于上述现有技术的不足之处,本发明的目的在于提供一种基于机器视觉的车辆行驶安全检测方法和系统,以解决现有技术不能提前预警及提示前后方车辆的行驶距离,造成驾驶安全性能低的问题。
为了达到上述目的,本发明采取了以下技术方案:
一种基于机器视觉的车辆行驶安全检测方法,其包括:
A、采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;
B、获取实时同步的左右摄像头图像,并判断所述左右摄像头图像中是否存在运动目标;
C、在存在运动目标时,匹配左右摄像头图像中的运动目标,并对匹配的运动目标进行三维重建,计算运动目标与当前车辆的距离;
D、判断所述运动目标与当前车辆的距离是否小于预定距离,若是则输出预警信号。
所述的基于机器视觉的车辆行驶安全检测方法中,所述获取实时同步的左右摄像头图像,包括:
B1、分别为每个摄像头建立存放图像帧的缓冲区;
B2、对每个摄像头实时采集到的图像帧标记时间戳,并暂存在相应的缓冲区内;
B3、在每组左、右摄像头的缓冲区内将时间戳最近的两帧图像组成一组。
所述的基于机器视觉的车辆行驶安全检测方法中,所述判断左右摄像头图像中是否存在运动目标,具体包括:
B4、获取连续的三帧图像,分别计算相邻两帧图像的差值图像;
B5、将所述差值图像进行逻辑与运算得到融合的差值图像;
B6、对融合的差值图像进行阈值分割,将大于第一阈值的像素点确定为运动目标。
所述的基于机器视觉的车辆行驶安全检测方法中,所述步骤C具体包括:
C1、采用极线几何约束法查找左右摄像头图像中是否具有匹配点;如果是,则执行步骤C2;否则,匹配失败,并返回步骤B;
C2、根据左、右摄像头的投影矩阵,计算运动目标的真实三维坐标,并计算运动目标与当前车辆的距离。
所述的基于机器视觉的车辆行驶安全检测方法中,所述步骤D还包括:
D1、若否,则判断所述运动目标是否为车辆;
D2、若为车辆,则跟踪所述车辆,获取车辆的闪灯状态。
所述的基于机器视觉的车辆行驶安全检测方法中,所述步骤D1具体包括:
D11、计算每个运动目标的特征属性;
D12、将所述运动目标的特征属性作为分类器的输入,通过分类器确定当前运动目标是否为车辆。
所述的基于机器视觉的车辆行驶安全检测方法中,在所述步骤D2中,跟踪所述车辆包括:
D21、将运动目标的图像区域设为搜寻区域,初始化搜寻区域的大小和位置;
D22、计算搜寻区域内的彩色概率分布;
D23、采用MeanShift算法获取初始化后的搜寻区域的位置和大小;
D24、将当前所计算的彩色概率分布值,及初始化后的搜寻区域的位置和大小作为下一帧图像的初始化基准,自适应调整下一帧图像的搜寻区域的位置和大小。
所述的基于机器视觉的车辆行驶安全检测方法中,在步骤D2中,获取车辆的闪灯状态包括:
D25、选定左右车灯的候选区域;
D26、采用阈值分割法对车灯候选区域的图像进行二值化处理,将大于第二阈值的区域标记为白色,小于第二阈值的区域标记为黑色;
D27、在分割图像区域内统计白色连通区域的个数;
D28、通过预定时间内的所跟踪车辆的车灯亮暗状态,获取跟踪车辆的闪灯状态。
一种基于机器视觉的车辆行驶安全检测系统,其包括:
标定模块,用于采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;
图像获取模块,用于获取实时同步的左右摄像头图像;
检测及匹配模块,用于判断所述左右摄像头图像中是否存在运动目标,以及在存在运动目标时,匹配左右摄像头图像中的运动目标;
三维重建模块,用于对匹配的运动目标进行三维重建,计算运动目标的三维坐标,及运动目标与车辆的距离;
判断模块,用于判断运动目标与当前车辆的距离是否小于预定距离;
预警模块,用于在运动目标与车辆的距离小于预定距离时输出预警信号。
所述的车辆行驶安全检测系统中,
所述判断模块,还用于判断预定距离内的运动目标是否为车辆;
所述车辆行驶安全检测系统还包括
跟踪及闪灯获取模块,用于在所述运动目标与当前车辆的距离在预定距离内、且运动目标为车辆时,跟踪所述车辆,并获取车辆的闪灯状态;
显示模块,用于显示所述跟踪车辆的闪灯状态。
相较于现有技术,本发明提供的基于机器视觉的车辆行驶安全检测方法和系统,通过同步获取左右摄像头图像确定运动目标,并对左右摄像头图像中的运动目标进行匹配,计算运动目标与当前车辆的距离,当车辆间距过近时输出预警信号。并且在运动目标在预定距离内时,提示前后车辆的闪灯状态来提高驾驶安全,大大提高了驾驶的安全性。
附图说明
图1为本发明基于机器视觉的车辆行驶安全检测方法的方法流程图。
图2为本发明基于机器视觉的车辆行驶安全检测方法的实施例中极线几何约束原理的示意图。
图3为本发明基于机器视觉的车辆行驶安全检测方法的实施例中车灯候选区域的划分示意图。
图4为本发明基于机器视觉的车辆行驶安全检测系统的结构框图。
具体实施方式
本发明提供一种基于机器视觉的车辆行驶安全检测方法和系统,为使本发明的目的、技术方案及效果更加清楚、明确,以下参照附图并举实施例对本发明进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
请参阅图1,其为本发明基于机器视觉的车辆行驶安全检测方法的方法流程图。如图1所示,所述的基于机器视觉的车辆行驶安全检测方法包括以下步骤:
S100、采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;
S200、获取实时同步的左右摄像头图像,并判断所述左右摄像头图像中是否存在运动目标;
S300、在存在运动目标时,匹配左右摄像头图像中的运动目标,并对匹配的运动目标进行三维重建,计算运动目标与当前车辆的距离;
S400、判断所述运动目标与当前车辆的距离是否小于预定距离,若是则输出预警信号。
在步骤S100中,采用了左、右摄像头分别获取车辆左侧和右侧的图像,以下定义为左右摄像头图像。具体实施过程中,一般需要至少两个摄像头分别来获取车辆左侧的图像(如车辆前方左侧的图像)和车辆右侧的图像(如车辆前方右侧的图像)。因此本发明选为采用至少四个摄像头分别获取车辆前方左侧、车辆前方右侧、车辆后方左侧、车辆后方右侧的图像。
本实施例中,将获取车辆前方左侧和车辆后方左侧的摄像头定义为左摄像头,将获取车辆前方右侧和车辆后方右侧的摄像头定义为右摄像头;并且获取车辆前方图像的摄像头定义为一组,获取车辆后方图像的摄像头定义为一组。本发明在行驶之前需固定这四个摄像头,摄像头安装固定后,再对每个摄像头进行标定。此处需说明的是,本实施例对摄像头的安装位置不作限制,只要能获取车辆相应区域的图像即可。
以下一组左、右摄像头(即一组用来获取车辆后方图像的左、右摄像头)为例,为本发明的技术方案进行详细说明:
在标定摄像头时,采用的摄像头标定算法包括:传统标定方法、自标定方法和基于主动视觉的标定方法。摄像头标定就是通过实验和计算获取到摄像头成像的几何模型,即获取到真实世界中的物点(XYZ)与其图像平面中的像点(uv)的射影几何映射关系。一般认为物点的三维坐标(XYZ)通过一个投影矩阵M映射成图像平面像点的二维坐标(uv),公式如下:
Z c u v 1 = m 11 m 12 m 13 m 14 m 21 m 22 m 23 m 24 m 31 m 32 m 33 m 34 X Y Z 1
其中Zc是一个比例因子,摄像头标定算法最主要的目标就是计算出这个投影矩阵M。
在步骤S200中,所述获取实时同步的左右摄像头图像的实施方式,具体包括:
S201、分别为每个摄像头建立存放图像帧的先进先出缓冲区;
S202、对每个摄像头实时采集到的图像帧标记时间戳,并暂存在相应的缓冲区内;
S203、在每组左、右摄像头的缓冲区内将时间戳最近的两帧图像组成一组。其中所述时间戳最近即左、右摄像头拍摄的时间差小于或等于预设值,所述预设值可由用户设定,此处对此不作限制,作为优选,所述预设值为0.1ms。
本实施例中,获取车辆前后方图像的两组摄像头需要获取到左右同步的图像,才能够准确的计算出其它车辆与当前车辆的距离。对外输出时,在每组左、右摄像头的图像帧缓冲区中将时间戳相近的两帧图像组成一组,供后续算法使用。
由于车辆间距离的变化总是伴随着相对运动,因此本实施需先检测出运动目标,后续处理可以只对运动目标进行分析处理,这样既可以加快后续算法的处理速度,也可以减小环境干扰,提高系统的准确度。
本发明采用的运动目标检测算法包括:背景减法和帧差法。为了适应复杂背景和快速变化的背景,本实施例优选帧差法检测左右摄像头图像中是否存在运动目标,其具体包括:
S204、获取连续的三帧图像,分别计算相邻两帧图像的差值图像;
S205、将所述差值图像进行逻辑与运算得到融合的差值图像;
S206、对融合的差值图像进行阈值分割,将大于第一阈值的像素点确定为运动目标,其中所述第一阈值可根据实际情况而设,此处对此不作限制。
本实施例采用了三帧差法检测运动目标,设图像序列表示为:Ii(uv),其中,(uv)表示图像中像素点的位置坐标,i表示第i帧图像(或者称为i时刻的图像)。选取图像序列中连续的三帧图像Ii-1(uv)、Ii(uv)、Ii+1(uv),分别计算相邻两帧图像的插值图像,即:
d i , i - 1 u v = | I i u v - I i - 1 u v | d i + 1 , i u v = | I i + 1 u v - I i u v |
在每一个像素点(uv)上将得到的图像进行逻辑“与”运算,得到图像Ai(uv):
Ai(uv)=di,i-1(uv)∩di+1,i(uv)
接下来对得到的差值图像进行阈值分割,分割出运动目标。在进行图像分割时需设置一个阈值T,当点(u,v)的值Ai(uv)大于阈值T时表示这个点为运动点,否则为非运动点。应当说明的是,阈值T可以根据实际情况设定为固定值,还可以使用大津阈值或局部阈值等经过统计计算得出的该阈值T。如果在步骤S206中检测到运动目标,则进入步骤S300,否则返回步骤S201重复步骤S201-S206,反复获取实时同步的左右摄像头图像,并检测是否存在运动目标。
步骤S300中,在重建运动目标的三维坐标前需要先做立体匹配。由于每组左、右摄像头的两帧图像中,可能存在多个运动目标,立体匹配就是对应于左摄像头图像中的一个运动目标,在右摄像头图像中找到与之对应的运动目标,其方式具体包括:
S301、采用极线几何约束法查找左右摄像头图像中是否具有匹配点;如果是,则执行步骤S302;否则,匹配失败,并返回步骤S200;
S302、根据左、右摄像头的投影矩阵,计算运动目标的真实三维坐标,并计算运动目标与当前车辆的距离。
本实施例采用了极线几何约束的相关性质进行匹配,其中,极线几何约束原理如图2所示,如果p1与p2为对应点,则由于p1,p2,P,O1,O2在同一平面上,p1与p2分别位于此平面与两个图像的交线l1与l2上,l1称为I1图像上对应于I2图像上p2点的极线,l2称为I2图像上对应于I1图像上p1点的极线。
两幅图像中对应点的极线约束关系可以用基本矩阵F来进行代数表达:
P 1 T FP 2 = 0
其中,P1与P2分别为点p1与p2的齐次坐标表达式,T表示矩阵转置,基本矩阵F的计算公式为:
F = [ m 2 - M 21 M 11 - 1 m 1 ] × M 21 M 11 - 1
上式中,Mi1(i=1,2)为左、右摄像头的投影矩阵Mi(i=1,2)中左边的3×3部分,mi1为左、右摄像头的投影矩阵Mi(i=1,2)中右边3×1部分。利用极线约束关系式,就可以建立起左右摄像头图像中的运动目标匹配关系。对于运动目标的匹配,本发明可以使用运动目标的质心作为匹配点,可以减少计算量,提高匹配处理速度。如果能够匹配到运动目标,则进行计算运动目标与当前车辆的实际距离,否则如果未能够建立起左右摄像头图像中的运动目标匹配,则跳至步骤S201重新获取图像再进行检测。
本实施例在进行三维重建时,通过以下方式进行:
由于左右摄像头图像中的匹配点(u1v1)与(u2v2)已知,两个摄像头的投影矩阵M1和M2也已知,因此:
Z c 1 u 1 v 1 1 = m 11 1 m 12 1 m 13 1 m 14 1 m 21 1 m 22 1 m 23 1 m 24 1 m 31 1 m 32 1 m 33 1 m 34 1 X Y Z 1
Z c 2 u 2 v 2 1 = m 11 2 m 12 2 m 13 2 m 14 2 m 21 2 m 22 2 m 23 2 m 24 2 m 3 2 m 32 2 m 33 2 m 34 2 X Y Z 1
经过整理推导,消去Zc1和Zc2,得到关于X,Y,Z的四个线性方程:
( u 1 m 31 1 - m 11 1 ) X + ( u 1 m 32 1 - m 12 1 ) Y + ( u 1 m 33 1 - m 13 1 ) Z = m 14 1 - u 1 m 34 1 ( v 1 m 31 1 - m 21 1 ) X + ( v 1 m 32 1 - m 22 1 ) Y + ( u 2 m 33 2 - m 23 1 ) Z = m 24 1 - v 1 m 34 1 ( u 2 m 31 2 - m 11 2 ) X + ( u 2 m 32 2 - m 12 2 ) Y + ( u 2 m 33 2 - m 13 2 ) Z = m 14 2 - u 2 m 34 2 ( v 2 m 31 2 - m 21 2 ) X + ( v 2 m 32 2 - m 22 2 ) Y + ( v 2 m 33 2 - m 23 2 ) Z = m 24 2 - v 2 m 34 2
为了减少计算量,可以只使用步骤S301中匹配好的运动目标的质心参与计算,把质心坐标代入上式,可以计算出运动目标质心的真实三维坐标,从而可以计算出运动目标与当前车辆的距离。
其中大小为n行m列的运动目标质心的计算公式为:
u ‾ = Σ v = 1 n Σ u = 1 m u * I ( u , v ) Σ v = 1 n Σ u = 1 m I ( u , v ) v ‾ = Σ v = 1 n Σ u = 1 m v * I ( u , v ) Σ v = 1 n Σ u = 1 m I ( u , v )
所述步骤S400中,所述预定距离为车辆行驶的安全距离,其为一段距离范围,为了减少计算量,本发明对大于预定距离的运动目标不作任何处理。由于相对运动的目标不一定都是车辆,为了后续判断前后车辆的闪灯情况,因此所述步骤S400还包括:
S410、若运动目标与当前车辆的距离为预定距离,则判断所述运动目标是否为车辆;
S420、若为车辆,则跟踪所述车辆,获取车辆的闪灯状态。
当然在其它实施例中,还可以判断大于预定距离的运动目标是否为车辆,并对大于预定距离的车辆进行车辆跟踪。而且该判断运动目标是否为车辆的步骤、及对车辆进行跟踪的步骤还可以在步骤S200之后完成,此处对此顺序不作限制。
其中,判断所述辆运动目标是否为车辆具体包括:
S411、计算每个运动目标的特征属性;
S412、将所述运动目标的特征属性作为分类器的输入,通过分类器确定当前运动目标是否为车辆。
具体实施过程中,由于车辆的形状具有一定的相似性,因此可以根据车辆共有的相似特征来训练一个分类器,使用该分类器来检测运动目标是否为车辆。本发明采用SVM(支持向量机)方法(其中,SVM是建立在统计学习理论基础上的一种分类方法),来训练和检测运动目标是否为车辆。其中,SVM方法分包括:训练部分和检测分类部分。
其中,训练部分只需要进行一次,训练出分类器,具体训练步骤如下:
第一步:准备图片。本实施例需准备收集各种类型车辆的图片,作为训练分类器的数据源。
第二步:计算每幅图片中车辆的特征属性,如车辆的形状的几何属性、统计属性(如投影)和拓扑属性(如连通、欧拉数)作为车辆的共同特征的数学描述。
第三步:把第二步计算出的特征作为输入传给SVM分类器训练程序,最终训练出一个车辆的分类器。
在分类器检测时,其具体包括:
第一步:计算每个运动目标的几何属性、统计属性(如投影)和拓扑属性(如连通、欧拉数)。
第二步:将计算出的运动目标的特征属性作为SVM分类器的输入,由SVM分类器来确定当前运动目标是否为车辆。
在判断运动目标为车辆,且运动目标与当前车辆的距离在预定距离范围内时,表示运动目标行驶正常,此时还可对车辆进行跟踪,获取所跟踪车辆的闪灯状态。
本发明实施例中,由于判断车灯的闪烁情况需要分析一段时间的视频图像,因此需要对每个检测到的车辆进行跟踪,以确保分析数据的连续性与准确性。本发明采用的跟踪算法为Camshift算法(即"ContinuouslyApativeMean-Shift"算法,是一种运动跟踪算法),它主要通过视频图像中运动物体的颜色信息来达到跟踪的目的,避免了车辆行驶或位置的改变来干扰系统对图像的处理,其具体包括:
S421、将运动目标的图像区域设为搜寻区域,初始化搜寻区域的大小和位置。其中,在设置搜寻区域时,针对一个运动目标设置一个搜寻区域,以便于后续进行车辆跟踪。在初始化搜寻区域的大小和位置时,把检测到的车辆的位置和大小设置为搜寻区域。
S422、计算搜寻区域内的彩色概率分布。
S423、以步骤S422作为输入,运行MeanShift(均值飘移)算法获取初始化后的搜寻区域的位置和大小。
S424、将当前所计算的彩色概率分布值,及初始化后的搜寻区域的位置和大小作为下一帧图像的初始化基准,自适应调整下一帧图像的搜寻区域的位置和大小。从而定位出当前图像中运动目标的中心位置,进行车辆跟踪。如果跟踪失败,如跟踪目标丢失、跟踪目标变得过小等,则输出预警信号,提示驾驶员。
在步骤S420中,在获取车辆的闪灯状态时,具体包括:
S425、选定左右车灯的候选区域。在本步骤中:可先统计运动目标为车辆的区域,如图3所示,具体可统计车辆区域的宽度、高度、及上下左右的边界;然后,在车辆区域的左下角和右下角各取一个子矩形区域,其高度为车辆区域的高度二分之一,宽度为车辆区域的宽度三分之一,作为左、右车灯的车灯候选区域。
S426、采用阈值分割法对车灯候选区域的图像进行二值化处理,将大于第二阈值的区域标记为白色,小于第二阈值的区域标记为黑色。其中,阈值分割方法可以根据实际情况选用固定阈值方法、大津阈值方法或局部阈值等方法,其为现有技术,此处不作详述,而所述第二阈值可根据实际情况而设,此处对此不作限制。
S427、在分割图像区域内统计白色连通区域的个数。其中,白色连通区域的个数为检测到的打开的车灯的数量。具体实施过程中,可对每个检测到的亮状态的车灯按照对应车辆的相对位置进行编号,如分别标记为A、B等,并把与其相关的标志位标记为亮状态。如果前一帧某个车灯X为亮状态,当前帧未分割到亮状态的X灯,则把当前帧X灯的标记位标记为暗状态。其中,车灯的相对位置确定的方法为:按照分割出的车灯的大小,把车辆区域划分为网格,车灯所在的行和列即为此车灯的相对位置标记位置。
S428、通过预定时间内的所跟踪车辆的车灯亮暗状态,获取跟踪车辆的闪灯状态。
本实施例通过分析一段时间内所跟踪车辆的车灯状态,统计确认当前车辆的闪灯状态,是没有闪灯,还是左闪灯、右闪灯、左右闪灯等。一般设置时间为3秒统计一次。通过车辆的闪灯状态,对运动车辆的行驶状态进行判断:若某车灯在一段时间内都处于亮状态,则该车灯用于照明作用;若某车灯在一段时间内既有亮状态也有暗状态,且亮状态和暗状态的次数相差不是很大(如1秒闪灯一次)时,该车辆处于闪灯状态;若某车灯在一段时间内既有亮状态也有暗状态,且亮状态和暗状态的次数相差很大时,则认为是干扰造成的,不做分析;若两侧车灯一直处于暗状态,则认为车灯没有打开,也没有闪烁。
在步骤S420中,在获取车辆的闪灯状态后,可直接通过车载电脑显示。本发明采用了高速处理系统,该系统一般30ms输出一次检测结果,这个预警信号可确保驾驶安全。
本发明实施例还相应提供一种基于机器视觉的车辆行驶安全检测系统,如图4所示,所述车辆行驶安全检测系统包括:
标定模块110,用于采用摄像头标定算法标定用于分别获取车辆左侧图像和右侧图像的左、右摄像头,并计算左、右摄像头的投影矩阵;
图像获取模块120,用于获取实时同步的左右摄像头图像;
检测及匹配模块130,用于判断所述左右摄像头图像中是否存在运动目标,以及在存在运动目标时,匹配左右摄像头图像中的运动目标;
三维重建模块140,用于对匹配的运动目标进行三维重建,计算运动目标的三维坐标,及运动目标与车辆的距离;
判断模块150,用于判断运动目标与当前车辆的距离是否小于预定距离;
预警模块160,用于在运动目标与车辆的距离小于预定距离时输出预警信号。
本发明提供的车辆行驶安全检测系统通过图像获取模块120获取实时同步的左右摄像头图像,之后通过检测及匹配模块130判断所述左右摄像头图像中是否存在运动目标,以及在存在运动目标时,匹配左右摄像头图像中的运动目标;并通过三维重建模块140计算运动目标的三维坐标,及运动目标与车辆的距离,之后由判断模块150判断运动目标与当前车辆的距离是否小于预定距离,在小于预定距离时通过预警模块160输出预警信号。
当运动目标在预定距离范围内时,表示运动目标的状态正常,此时还需判断模块150判断运动目标是否为车辆,如果为车辆,此时还可对车辆进行跟踪,并获取所跟踪车辆的闪灯状态,因此所述的车辆行驶安全检测系统还包括:
跟踪及闪灯获取模块170,用于在所述运动目标与当前车辆的距离在预定距离内、且运动目标为车辆时,跟踪所述车辆,并获取车辆的闪灯状态;
显示模块180,用于显示所述跟踪车辆的闪灯状态。
在本实施例中,所述标定模块进一步包括:
缓冲单元,用于分别为每个摄像头建立存放图像帧的先进先出缓冲区;
时间标记单元,用于对每个摄像头实时采集到的图像帧标记时间戳,并暂存在相应的缓冲区内;
获取单元,用于在每组左、右摄像头的缓冲区内寻找时间戳相近的两帧图像组成一组。
在本实施例中,所述检测及匹配模块进一步包括:
插值图像计算单元,用于获取连续的三帧图像,分别计算相邻两帧图像的插值图像;
逻辑与运算计算单元,用于将所述插值图像进行逻辑与运算得到差值图像;
阈值分割单元,用于对差值图像进行阈值分割,将大于阈值的像素点确定为运动目标。
由于上述车辆行驶安全检测系统中各个部分的功能已经在上述方法中进行了详细介绍,此处不再赘述。
综上所述,本发明通过同步获取左右摄像头图像确定运动目标,并对左右摄像头图像中的运动目标进行匹配,计算运动目标与当前车辆的距离,当车辆间距过近时输出预警信号。并在运动目标在预定距离内时,显示前后车辆的闪灯状态提示当前车辆前后的交通状态,大大提高了驾驶的安全性,而且还减轻了司机的行车负担。
可以理解的是,对本领域普通技术人员来说,可以根据本发明的技术方案及其发明构思加以等同替换或改变,而所有这些改变或替换都应属于本发明所附的权利要求的保护范围。

Claims (8)

1.一种基于机器视觉的车辆行驶安全检测方法,其特征在于,包括如下步骤:
A、采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;
B、获取实时同步的左右摄像头图像,并判断所述左右摄像头图像中是否存在运动目标;
C、在存在运动目标时,匹配左右摄像头图像中的运动目标,并对匹配的运动目标进行三维重建,计算运动目标与当前车辆的距离;
D、判断所述运动目标与当前车辆的距离是否小于预定距离,若是则输出预警信号;
所述步骤D还包括:
D1、若否,则判断所述运动目标是否为车辆;
D2、若为车辆,则跟踪所述车辆,获取车辆的闪灯状态;
所述步骤D2中,跟踪所述车辆包括:
D21、将运动目标的图像区域设为搜寻区域,初始化搜寻区域的大小和位置;
D22、计算搜寻区域内的彩色概率分布;
D23、采用MeanShift算法获取初始化后的搜寻区域的位置和大小;
D24、将当前所计算的彩色概率分布值,及初始化后的搜寻区域的位置和大小作为下一帧图像的初始化基准,自适应调整下一帧图像的搜寻区域的位置和大小。
2.根据权利要求1所述的基于机器视觉的车辆行驶安全检测方法,其特征在于,所述获取实时同步的左右摄像头图像,包括:
B1、分别为每个摄像头建立存放图像帧的缓冲区;
B2、对每个摄像头实时采集到的图像帧标记时间戳,并暂存在相应的缓冲区内;
B3、在每组左、右摄像头的缓冲区内将时间戳最近的两帧图像组成一组。
3.根据权利要求2所述的基于机器视觉的车辆行驶安全检测方法,其特征在于,所述判断左右摄像头图像中是否存在运动目标,具体包括:
B4、获取连续的三帧图像,分别计算相邻两帧图像的差值图像;
B5、将所述差值图像进行逻辑与运算得到融合的差值图像;
B6、对融合的差值图像进行阈值分割,将大于第一阈值的像素点确定为运动目标。
4.根据权利要求1所述的基于机器视觉的车辆行驶安全检测方法,其特征在于,所述步骤C具体包括:
C1、采用极线几何约束法查找左右摄像头图像中是否具有匹配点;如果是,则执行步骤C2;否则,匹配失败,并返回步骤B;
C2、根据左、右摄像头的投影矩阵,计算运动目标的真实三维坐标,并计算运动目标与当前车辆的距离。
5.根据权利要求1所述的基于机器视觉的车辆行驶安全检测方法,其特征在于,所述步骤D1具体包括:
D11、计算每个运动目标的特征属性;
D12、将所述运动目标的特征属性作为分类器的输入,通过分类器确定当前运动目标是否为车辆。
6.根据权利要求1所述的基于机器视觉的车辆行驶安全检测方法,其特征在于,在步骤D2中,获取车辆的闪灯状态包括:
D25、选定左右车灯的候选区域;
D26、采用阈值分割法对车灯候选区域的图像进行二值化处理,将大于第二阈值的区域标记为白色,小于第二阈值的区域标记为黑色;
D27、在分割图像区域内统计白色连通区域的个数;
D28、通过预定时间内的所跟踪车辆的车灯亮暗状态,获取跟踪车辆的闪灯状态。
7.一种基于机器视觉的车辆行驶安全检测系统,其特征在于,包括:
标定模块,用于采用摄像头标定算法标定左、右摄像头,并计算左、右摄像头的投影矩阵;
图像获取模块,用于获取实时同步的左右摄像头图像;
检测及匹配模块,用于判断所述左右摄像头图像中是否存在运动目标,以及在存在运动目标时,匹配左右摄像头图像中的运动目标;
三维重建模块,用于对匹配的运动目标进行三维重建,计算运动目标的三维坐标,及运动目标与车辆的距离;
判断模块,用于判断运动目标与当前车辆的距离是否小于预定距离;
预警模块,用于在运动目标与车辆的距离小于预定距离时输出预警信号;
所述判断模块,还用于判断预定距离内的运动目标是否为车辆;
跟踪及闪灯获取模块,用于在所述运动目标与当前车辆的距离在预定距离内、且运动目标为车辆时,跟踪所述车辆,并获取车辆的闪灯状态;
所述跟踪及闪灯获取模块具体用于将运动目标的图像区域设为搜寻区域,初始化搜寻区域的大小和位置;计算搜寻区域内的彩色概率分布;运行MeanShift算法获取初始化后的搜寻区域的位置和大小;将当前所计算的彩色概率分布值,及初始化后的搜寻区域的位置和大小作为下一帧图像的初始化基准,自适应调整下一帧图像的搜寻区域的位置和大小。
8.根据权利要求7所述的车辆行驶安全检测系统,其特征在于,
所述车辆行驶安全检测系统还包括
显示模块,用于显示所述跟踪车辆的闪灯状态。
CN201310212915.4A 2013-05-31 2013-05-31 基于机器视觉的车辆行驶安全检测方法和系统 Active CN103522970B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310212915.4A CN103522970B (zh) 2013-05-31 2013-05-31 基于机器视觉的车辆行驶安全检测方法和系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310212915.4A CN103522970B (zh) 2013-05-31 2013-05-31 基于机器视觉的车辆行驶安全检测方法和系统

Publications (2)

Publication Number Publication Date
CN103522970A CN103522970A (zh) 2014-01-22
CN103522970B true CN103522970B (zh) 2016-04-27

Family

ID=49925453

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310212915.4A Active CN103522970B (zh) 2013-05-31 2013-05-31 基于机器视觉的车辆行驶安全检测方法和系统

Country Status (1)

Country Link
CN (1) CN103522970B (zh)

Families Citing this family (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103997624B (zh) * 2014-05-21 2017-04-05 江苏大学 重叠域双摄像头目标跟踪系统及方法
CN104200689A (zh) * 2014-08-28 2014-12-10 长城汽车股份有限公司 一种道路预警方法及装置
CN105818743B (zh) * 2015-01-05 2018-08-07 上海纵目科技有限公司 用于车门开启时的防撞方法及系统
CN105818742B (zh) * 2015-01-05 2018-06-12 上海纵目科技有限公司 车辆预警方法及系统
CN105355086B (zh) * 2015-10-26 2017-12-05 宁波裕兰信息科技有限公司 汽车前撞报警系统中基于双摄像头的信息融合方法及装置
CN105390026A (zh) * 2015-11-17 2016-03-09 魅族科技(中国)有限公司 一种提示车辆避让的方法和终端
CN105702093B (zh) * 2016-04-21 2018-01-02 江苏联盟信息工程有限公司 一种基于经纬度采集点的车道判定方法及定位装置
DE102016225061A1 (de) * 2016-12-15 2018-06-21 Robert Bosch Gmbh System zum Auslösen von Personenschutzmitteln für ein Fahrzeug und Verfahren
CN106709476A (zh) * 2017-01-24 2017-05-24 福州市规划设计研究院 一种交叉路口od调查方法
CN107230333A (zh) * 2017-04-26 2017-10-03 深圳市赛格导航科技股份有限公司 一种检测车辆上gps设备的方法、装置及系统
US10402646B2 (en) * 2017-09-21 2019-09-03 Amazon Technologies, Inc. Object detection and avoidance for aerial vehicles
CN109591698A (zh) * 2017-09-30 2019-04-09 上海欧菲智能车联科技有限公司 盲区检测系统、盲区检测方法和车辆
CN111223302B (zh) * 2018-11-23 2021-12-03 明创能源股份有限公司 移动载具用外部坐标实时三维路况辅助装置及该系统
CN109686048B (zh) * 2019-01-02 2022-03-18 平安科技(深圳)有限公司 火车站台越线的预警方法、装置、计算机设备和存储介质
CN110677814B (zh) * 2019-05-09 2020-11-17 杨丽 基于密度分析的无线通信方法
CN110188665B (zh) * 2019-05-28 2022-02-22 阿波罗智联(北京)科技有限公司 图像处理方法、装置以及计算机设备
CN110751836A (zh) * 2019-09-26 2020-02-04 武汉光庭信息技术股份有限公司 车辆行驶预警方法及系统
CN111505617B (zh) * 2020-04-30 2022-04-15 安徽江淮汽车集团股份有限公司 车辆定位方法、装置、设备及存储介质
CN112150826A (zh) * 2020-07-29 2020-12-29 广州汽车集团股份有限公司 车速确定方法、装置及计算机可读存储介质
CN112053590A (zh) * 2020-09-08 2020-12-08 中国第一汽车股份有限公司 一种车辆预警方法、装置、设备及介质
CN112530160A (zh) * 2020-11-18 2021-03-19 合肥湛达智能科技有限公司 一种基于深度学习的目标距离检测方法
CN113965733A (zh) * 2021-12-07 2022-01-21 中国联合网络通信集团有限公司 双目视频监控方法、系统、计算机设备及存储介质
CN115534801B (zh) * 2022-08-29 2023-07-21 深圳市欧冶半导体有限公司 车灯自适应调光方法、装置、智能终端及存储介质
CN117079219B (zh) * 2023-10-08 2024-01-09 山东车拖车网络科技有限公司 一种应用于拖车业务的车辆运行情况监控方法及设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0617296A1 (fr) * 1993-03-22 1994-09-28 Automobiles Peugeot Procédé et dispositif de détection d'obstacles, embarqué sur un véhicule automobile
CN1836939A (zh) * 2005-03-22 2006-09-27 高田株式会社 对象物检测系统、保护系统、车辆
CN101734214A (zh) * 2010-01-21 2010-06-16 上海交通大学 汽车防撞行人智能装置与方法
CN103077393A (zh) * 2013-01-08 2013-05-01 西安电子科技大学 基于dsp的车载实时运动目标检测系统及其方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3664892B2 (ja) * 1998-09-30 2005-06-29 松下電器産業株式会社 ステレオ画像処理方法および装置と侵入物体監視システム
US7362885B2 (en) * 2004-04-20 2008-04-22 Delphi Technologies, Inc. Object tracking and eye state identification method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0617296A1 (fr) * 1993-03-22 1994-09-28 Automobiles Peugeot Procédé et dispositif de détection d'obstacles, embarqué sur un véhicule automobile
CN1836939A (zh) * 2005-03-22 2006-09-27 高田株式会社 对象物检测系统、保护系统、车辆
CN101734214A (zh) * 2010-01-21 2010-06-16 上海交通大学 汽车防撞行人智能装置与方法
CN103077393A (zh) * 2013-01-08 2013-05-01 西安电子科技大学 基于dsp的车载实时运动目标检测系统及其方法

Also Published As

Publication number Publication date
CN103522970A (zh) 2014-01-22

Similar Documents

Publication Publication Date Title
CN103522970B (zh) 基于机器视觉的车辆行驶安全检测方法和系统
CN101075376B (zh) 基于多视点的智能视频交通监控系统及方法
CN103279736B (zh) 一种基于多信息邻域投票的车牌检测方法
CN107766821B (zh) 基于卡尔曼滤波与深度学习的视频中全时段车辆检测跟踪方法及系统
CN103971521B (zh) 道路交通异常事件实时检测方法及装置
Hirabayashi et al. Traffic light recognition using high-definition map features
US9064418B2 (en) Vehicle-mounted environment recognition apparatus and vehicle-mounted environment recognition system
Kühnl et al. Spatial ray features for real-time ego-lane extraction
CN110379168B (zh) 一种基于Mask R-CNN的交通车辆信息获取方法
CN107031623A (zh) 一种基于车载盲区相机的道路预警方法
CN102354457B (zh) 基于广义霍夫变换的交通信号灯位置检测方法
CN104129389A (zh) 一种有效判别车辆行驶状态的方法及其装置
CN105825696A (zh) 基于信号灯信息提示的驾驶辅助系统
CN109948552B (zh) 一种复杂交通环境中的车道线检测的方法
CN112329747B (zh) 基于视频识别和深度学习的车辆参数检测方法及相关装置
CN103578115A (zh) 移动体识别系统以及移动体识别方法
KR102491527B1 (ko) 카메라 영상에서 대상의 감지
CN200990147Y (zh) 基于多视点的智能视频交通监控系统
WO2013094242A1 (ja) 立体物検出装置
CN102592454A (zh) 一种基于车辆侧面与路面交线检测的交叉口车辆运动参数测量方法
CN109917359B (zh) 基于车载单目视觉的鲁棒车辆距离估计方法
US10984264B2 (en) Detection and validation of objects from sequential images of a camera
CN104050818A (zh) 基于目标跟踪和特征点匹配的运动车辆测速方法
CN102496281A (zh) 一种基于跟踪与虚拟线圈结合的车辆闯红灯检测方法
Lee et al. Accurate ego-lane recognition utilizing multiple road characteristics in a Bayesian network framework

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: SHENZHEN TCL INDUSTRIAL INSTITUTE CO., LTD.

Free format text: FORMER OWNER: TCL GROUP CO., LTD.

Effective date: 20150402

COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 516001 HUIZHOU, GUANGDONG PROVINCE TO: 518067 SHENZHEN, GUANGDONG PROVINCE

TA01 Transfer of patent application right

Effective date of registration: 20150402

Address after: 518067 TCL building, South District, Shenzhen hi tech Zone, Guangdong, China

Applicant after: Shenzhen TCL Industry Research Institute Co.,Ltd.

Address before: 516001 Guangdong City, Huizhou Province, South Road, No. 6 TCL Arts crafts emporium, technology center,

Applicant before: TCL Corp.

C14 Grant of patent or utility model
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240510

Address after: Room 802-1, unit B1, building D4, R & D building, TCL Science Park, 1001 Zhongshan Park Road, Xili Liuxian cave, Nanshan District, Shenzhen City, Guangdong Province

Patentee after: SHENZHEN TCL HIGH-NEW TECHNOLOGY DEVELOPMENT CO.,LTD.

Country or region after: China

Address before: 518067 TCL Building, Nanyi Road, South District, Shenzhen High tech Park, Guangdong Province

Patentee before: Shenzhen TCL Industry Research Institute Co.,Ltd.

Country or region before: China