CN109598244A - 一种交通信号灯识别系统及其识别方法 - Google Patents

一种交通信号灯识别系统及其识别方法 Download PDF

Info

Publication number
CN109598244A
CN109598244A CN201811491197.8A CN201811491197A CN109598244A CN 109598244 A CN109598244 A CN 109598244A CN 201811491197 A CN201811491197 A CN 201811491197A CN 109598244 A CN109598244 A CN 109598244A
Authority
CN
China
Prior art keywords
binary map
image
result
traffic lights
arrow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811491197.8A
Other languages
English (en)
Other versions
CN109598244B (zh
Inventor
贾士政
冷智鑫
高炳钊
刘伟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jilin University
Original Assignee
Jilin University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jilin University filed Critical Jilin University
Priority to CN201811491197.8A priority Critical patent/CN109598244B/zh
Publication of CN109598244A publication Critical patent/CN109598244A/zh
Application granted granted Critical
Publication of CN109598244B publication Critical patent/CN109598244B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/584Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R16/00Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for
    • B60R16/02Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements
    • B60R16/023Electric or fluid circuits specially adapted for vehicles and not otherwise provided for; Arrangement of elements of electric or fluid circuits specially adapted for vehicles and not otherwise provided for electric constitutive elements for transmission of signals between vehicle parts or subsystems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60TVEHICLE BRAKE CONTROL SYSTEMS OR PARTS THEREOF; BRAKE CONTROL SYSTEMS OR PARTS THEREOF, IN GENERAL; ARRANGEMENT OF BRAKING ELEMENTS ON VEHICLES IN GENERAL; PORTABLE DEVICES FOR PREVENTING UNWANTED MOVEMENT OF VEHICLES; VEHICLE MODIFICATIONS TO FACILITATE COOLING OF BRAKES
    • B60T7/00Brake-action initiating means
    • B60T7/12Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger
    • B60T7/22Brake-action initiating means for automatic initiation; for initiation not subject to will of driver or passenger initiated by contact of vehicle, e.g. bumper, with an external object, e.g. another vehicle, or by means of contactless obstacle detectors mounted on the vehicle
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Transportation (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Abstract

本发明属于无人驾驶汽车的技术领域,具体的说是一种基于视频信号图像处理技术的交通信号灯识别系统及其识别方法。该系统包括车载前置摄像头、图像识别装置、语音芯片、扬声器、加速踏板和制动器,利用图像识别装置对车载前置摄像头采集的信号进行判断,图像识别装置由颜色识别、形状识别、形状二次确认和连续图像识别结果验证组成,对于车载前置摄像头采集到的图像采用总体上基于RGB空间进行识别,局部基于HSL空间进行识别的双轨方式。本发明提出的交通信号灯识别方法简单、高效,对于识别结果多次进行确认验证,具有很高的可靠性,实验表明该设计方法准确率高,具有实时检测交通信号灯的能力,能满足实际道路交通情况下交通信号灯识别的工作需求。

Description

一种交通信号灯识别系统及其识别方法
技术领域
本发明属于无人驾驶汽车的技术领域,具体的说是一种基于视频信号图像处理技术的交通信号灯识别系统及其识别方法。
背景技术
随着改革开放以来我国经济社会的不断发展,汽车日益得到普及,给人们生活带来极大便利的同时也带来了很多的问题,其中最突出问题的就是交通事故频发造成的人员伤亡数量不断上升。交通事故主要是由驾驶人员技术不足、违规违章、疲劳驾驶等人为因素造成的,所以减小驾驶人员误判断误操作造成的负面影响,是提高道路安全性的有效措施。
交通信号灯作为现代城市道路交通灯的一部分,是重要的信息来源。如今全世界的色弱、色盲的人有很多,这些人群无法正确辨别颜色,甚至完全失去辨别颜色的能力,他们不能正确地区分交通信号灯的颜色就可能引起交通事故,给自己和他人带来很大的危险,因此构建汽车交通信号灯识别系统给这类人群驾车带来了希望。另外,驾驶人员疲劳驾驶或者注意力不集中时就很容易忽视道路交通信号灯提示的信息,存在很大的安全隐患,汽车交通信号灯识别系统能自动识别信号灯,提供危险报警甚至直接控制车辆的行驶状态,从而起到辅助驾驶的作用,大大提高了车辆的行驶安全性。不仅局限在辅助驾驶方面,汽车交通信号灯识别更是无人驾驶汽车安全行驶的重要保障。
发明内容
本发明提供了一种准确度高、实时性好、能满足实际道路交通情况下交通信号灯识别的工作需求的交通信号灯识别系统及其识别方法,解决了由于驾驶人员误判交通信号灯造成负面影响的问题。
本发明技术方案结合附图说明如下:
一种交通信号灯识别系统,该系统包括车载前置摄像头、图像识别装置、语音芯片、扬声器、加速踏板和制动器,其中所述的车载前置摄像头安装在前保险杠中间位置;所述的车载前置摄像头的输出端与图像识别装置的输入端相连;所述的图像识别装置的输出端与加速踏板、制动器、语音芯片的输入端相连;所述的语音芯片的输出端与扬声器的输入端相连。
所述的图像识别装置为TL6748F-EVM TMS320C6748;
所述的语音芯片采用型号为:QGPH6340;
一种交通信号灯识别系统的识别方法,该方法包括以下步骤:
步骤一、利用车载前置摄像头实时采集道路交通信号视频,基于视频信号的每一帧图像进行交通信号灯识别;
步骤二、利用图像识别装置对车载前置摄像头采集的信号进行判断,若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片;
步骤三、语音芯片控制扬声器进行语音播报提示。
所述的步骤二中图像识别装置由颜色识别、形状识别、形状二次确认和连续图像识别结果验证组成,对于车载前置摄像头采集到的图像采用总体上基于RGB空间进行识别,局部基于HSL空间进行识别的双轨方式,具体方法如下:
1)采用加权平均的方法对图像进行灰度化处理:
h(x,y)=0.30×R(x,y)+0.60×G(x,y)+0.10×B(x,y)
其中,h(x,y)为转换后在(x,y)点的灰度值,R(x,y)为RGB图像在(x,y)点的R通道分量,G(x,y)为RGB图像在(x,y)点的G通道分量,B(x,y)为RGB图像在(x,y)点的B通道分量,且R(x,y)、G(x,y)、B(x,y)∈[0,255];
2)再采取直方图均衡化的方式对灰度图像进行均衡处理,增强图像的对比度;
3)最后采用类别之间方差最大算法自动选取阈值对均衡化图像进行二值化处理,高于阈值的置为1,低于阈值的置为0;
4)分别设置红色、绿色和黄色的筛选条件如下所示:
(R-B)≥75∩(R-G)≥65
(G-R)≥80∩(G-B)≥5
(G-B)≥75∩(R-B)≥65
对原始图像进行基于以上条件的颜色筛选,把交通信号灯的红、绿、黄发光区域分割出来,同时把不符合以上颜色筛选条件的区域去除;
5)用二值图中对应位置区域替换彩色区域,将彩色灯体和干扰区域变成白色;
6)对步骤5)中经颜色筛选得到的二值图进行腐蚀、膨胀和开运算的形态学处理;
7)构建所有连通区域各自在主轴方向的最小外接矩形;
8)遍历所有的连通区域主轴最小外接矩形,将符合筛选阈值的矩形标定出来,并将他们的尺寸和位置信息反馈到原始彩色图像中,在原始彩色图中将同一位置和相同尺寸的区域裁剪出来,放入存储器中,达到精确定位交通信号灯的目的;
9)使用的车载前置摄像头拍摄的图像是基于RGB色彩空间的,RGB空间结构简单,三个通道的高相关性不能完整地保留形状,从存储器中提取出基于RGB空间的候选区域,将它们转换到HSL空间;
10)将R、G、B分量进行归一化处理,得到R′、G′、B′∈[0,1],由R′、G′、B′分量转换成H、S、L分量。
11)提取HSL空间候选区域的L通道明亮度图;
12)对L通道明亮度图进行二值化处理,得到候选区域二值图;
13)依国家标准GB 14887-2011对圆形和箭头形交通信号灯尺寸要求作出圆形、左向箭头、前向箭头和右向箭头二值图作为形状对比的模板;
14)将所有的候选区域二值图和二值图模板进行尺寸统一化处理,统一放缩到200×200的尺寸;
15)遍历40000个像素点进行逐一对比,若在图像某一像素点位置候选区域二值图和二值图模板的灰度级同为1或同为0,记为相同像素点;若灰度级不相同,记为不同像素点;
16)整幅图像中相同的像素点个数占总像素点个数的比例叫做匹配相似度;
其中,N.same为相同的像素点个数;N.all为总像素点个数,即N.all=40000;S为匹配相似度;
17)计算所有候选区域二值图与4个二值图模板依次对比的匹配相似度,取相似度最高的为形状识别的最佳匹配结果S*
S*=max{S11、S12、S13、S14......Sn1、Sn2、Sn3、Sn4};
其中,S11为第1个候选区域二值图与圆形二值图模板的匹配相似度,S12为第1个候选区域二值图与左向箭头二值图模板的匹配相似度,S13为第1个候选区域二值图与前向箭头二值图模板的匹配相似度,S14为第1个候选区域二值图与右向箭头二值图模板的匹配相似度,Sn1为第n个候选区域二值图与圆形二值图模板的匹配相似度,Sn2为第n个候选区域二值图与左向箭头二值图模板的匹配相似度,Sn3为第n个候选区域二值图与前向箭头二值图模板的匹配相似度,Sn4为第n个候选区域二值图与右向箭头二值图模板的匹配相似度。
18)得到最佳匹配结果S*对应的候选区域,对区域再次确认,将区域等分成四个部分,统计四个部分白色像素点的个数,依次为Num1、Num2、Num3、Num4;如果两部分之间白色像素点个数的差值Δ<150,则认为这两部分白色像素点个数近似相等,否则不相等;
19)用以下判断条件对最佳匹配结果再次进行确认:
20)若最佳匹配结果和二次确认结果一致,那么输出形状识别的结果;若最佳匹配结果和二次确认结果不一致,那么选择匹配相似度第二大的候选区域进行二次确认,依次往复,直至二者结果一致,停止循环,输出形状识别的结果;
21)综合步骤4)颜色筛选的条件、步骤17)形状对比的最佳匹配结果及步骤19)二次确认结果,初步判断交通信号灯的类型Dx即红色圆形、绿色圆形、黄色圆形、红色左向箭头、绿色左向箭头、黄色左向箭头、红色前向箭头、绿色前向箭头、黄色前向箭头、红色右向箭头、绿色右向箭头、黄色右向箭头;
22)车载前置摄像头采集到的是连续的视频信号,基于连续的多帧图像识别结果进行验证;
23)如果连续十帧图像中有连续五帧的识别结果一样,或者连续十帧图像中至少有七帧的识别结果一样,那么认为识别结果正确,输出最终的识别结果,完成判断交通信号灯的类型;否则,继续取后续的连续图像重新进行识别;
24)若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片,控制扬声器进行语音播报提示。
所述的步骤6)的具体方法如下:
61)腐蚀处理,选取一个5×5的十字形区域作为腐蚀的核,在二值图白色区域移动核,如果二者重叠的部分完全属于二值图白色区域,则将该区域保留下来;否则,二者重叠部分不完全属于二值图的白色区域,则将该区域删除,作为腐蚀处理的结果;
62)膨胀处理,选取一个3×3的正方形区域作为膨胀处理的核,将核在二值图白色区域上进行卷积操作,如果核移动的过程中与白色区域存在重叠部分,则将核扫过的区域和白色区域都保留下来并取并集,作为膨胀处理的结果;
63)连续进行3次腐蚀处理,再进行3次膨胀处理;
所述的步骤7)的具体方法如下:
71)输出主轴最小外接矩形的尺寸信息和在整幅图像中的位置信息,尺寸信息用于筛选区域,位置信息用于将这些区域在图像中准确定位;
72)设置主轴最小外接矩形的宽度像素和宽高比的筛选阈值,宽度像素的上限为80个像素点,下限为10个像素点;宽高比的上限为1.25,下限为0.75;
所述的步骤23)的具体方法如下:
231)连续十帧图像中有连续五帧的识别结果一样:D1=D2=D3=D4=D5或D2=D3=D4=D5=D6或……或D6=D7=D8=D9=D10
232)连续十帧图像中至少有七帧的识别结果一样:same(D1、D2、D3、D4、D5、D6、D7、D8、D9、D10)≥7。
本发明的有益效果为:本发明提出的交通信号灯识别方法简单、高效,且对于识别结果多次进行确认验证,具有很高的可靠性。实验表明本发明的设计方法准确率高,具有实时检测交通信号灯的能力,能满足实际道路交通情况下交通信号灯识别的工作需求。
附图说明
图1为本发明的系统整体工作原理图;
图2a为圆形的模板图;
图2b为左向箭头的模板图;
图2c为前向箭头的模板图;
图2d为右向箭头的模板图;
图3为所得到的最佳匹配结果对应候选区域的分块示意图;
图4为图像识别装置的工作流程图。
具体实施方式
一种交通信号灯识别系统,该系统包括车载前置摄像头、图像识别装置、语音芯片、扬声器、加速踏板和制动器,其中所述的车载前置摄像头安装在前保险杠中间位置;所述的车载前置摄像头的输出端与图像识别装置的输入端相连;所述的图像识别装置的输出端与加速踏板、制动器、语音芯片的输入端相连;所述的语音芯片的输出端与扬声器的输入端相连。
所述的图像识别装置为TL6748F-EVM TMS320C6748;
所述的语音芯片采用型号为:QGPH6340;
参阅图1—图4,一种交通信号灯识别系统的识别方法,该方法包括以下步骤:
步骤一、利用车载前置摄像头实时采集道路交通信号视频,基于视频信号的每一帧图像进行交通信号灯识别;
步骤二、利用图像识别装置对车载前置摄像头采集的信号进行判断,若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片;
所述的步骤二中图像识别装置由颜色识别、形状识别、形状二次确认和连续图像识别结果验证组成,对于车载前置摄像头采集到的图像采用总体上基于RGB空间进行识别,局部基于HSL空间进行识别的双轨方式,具体方法如下:
1)采用加权平均的方法对图像进行灰度化处理:
h(x,y)=0.30×R(x,y)+0.60×G(x,y)+0.10×B(x,y)
其中,h(x,y)为转换后在(x,y)点的灰度值,R(x,y)为RGB图像在(x,y)点的R通道分量,G(x,y)为RGB图像在(x,y)点的G通道分量,B(x,y)为RGB图像在(x,y)点的B通道分量,且R(x,y)、G(x,y)、B(x,y)∈[0,255];
2)再采取直方图均衡化的方式对灰度图像进行均衡处理,增强图像的对比度;
3)最后采用类别之间方差最大算法自动选取阈值对均衡化图像进行二值化处理,高于阈值的置为1,低于阈值的置为0;
4)分别设置红色、绿色和黄色的筛选条件如下所示:
(R-B)≥75∩(R-G)≥65
(G-R)≥80∩(G-B)≥5
(G-B)≥75∩(R-5)≥65
对原始图像进行基于以上条件的颜色筛选,把交通信号灯的红、绿、黄发光区域分割出来,同时把不符合以上颜色筛选条件的区域去除;
5)用二值图中对应位置区域替换彩色区域,将彩色灯体和干扰区域变成白色;
6)对步骤5)中经颜色筛选得到的二值图进行腐蚀、膨胀和开运算的形态学处理;
所述的步骤6)的具体方法如下:
61)腐蚀处理,选取一个5×5的十字形区域作为腐蚀的核,在二值图白色区域移动核,如果二者重叠的部分完全属于二值图白色区域,则将该区域保留下来;否则,二者重叠部分不完全属于二值图的白色区域,则将该区域删除,作为腐蚀处理的结果;
62)膨胀处理,选取一个3×3的正方形区域作为膨胀处理的核,将核在二值图白色区域上进行卷积操作,如果核移动的过程中与白色区域存在重叠部分,则将核扫过的区域和白色区域都保留下来并取并集,作为膨胀处理的结果;
63)连续进行3次腐蚀处理,再进行3次膨胀处理;
64)腐蚀处理消除孤立点或噪声等面积小而无意义的区域;膨胀处理使距离较近的两个或多个区域连在一起构成一个新的连通区域,减小了干扰区域数量;于形态学上去除噪点,平滑边界,提高了系统的识别效率,为后续操作减少了麻烦。
7)构建所有连通区域各自在主轴方向的最小外接矩形;
所述的步骤7)的具体方法如下:
71)输出主轴最小外接矩形的尺寸信息和在整幅图像中的位置信息,尺寸信息用于筛选区域,位置信息用于将这些区域在图像中准确定位;
72)设置主轴最小外接矩形的宽度像素和宽高比的筛选阈值,宽度像素的上限为80个像素点,下限为10个像素点;宽高比的上限为1.25,下限为0.75;
8)遍历所有的连通区域主轴最小外接矩形,将符合筛选阈值的矩形标定出来,并将他们的尺寸和位置信息反馈到原始彩色图像中,在原始彩色图中将同一位置和相同尺寸的区域裁剪出来,放入存储器中,达到精确定位交通信号灯的目的。
9)使用的车载前置摄像头拍摄的图像是基于RGB色彩空间的,RGB空间结构简单,不必转换,考虑到所发明的交通信号灯识别系统实时性的要求,为提高系统运行速度和效率,图像处理总体上是基于RGB色彩空间来进行颜色识别的。但RGB空间三个通道的高相关性使得不能很好地提取交通信号灯的形状信息,HSL空间的L通道反映了明亮程度信息,能很好地保留交通信号灯的形状,从存储器中提取出基于RGB空间的候选区域,将它们转换到HSL空间。
10)将R、G、B分量进行归一化处理,得到R′、G′、B′∈[0,1],RGB空间转换到HSL空间的公式为:
11)提取HSL空间候选区域的L通道明亮度图;
12)对L通道明亮度图进行二值化处理,得到候选区域二值图;
13)依国家标准GB 14887-2011对圆形和箭头形交通信号灯尺寸要求作出圆形、左向箭头、前向箭头和右向箭头二值图作为形状对比的模板;
14)将所有的候选区域二值图和二值图模板进行尺寸统一化处理,统一放缩到200×200的尺寸;
15)遍历40000个像素点进行逐一对比,若在图像某一像素点位置候选区域二值图和二值图模板的灰度级同为1或同为0,记为相同像素点;若灰度级不相同,记为不同像素点;
16)整幅图像中相同的像素点个数占总像素点个数的比例叫做匹配相似度;
其中,N.same为相同的像素点个数;N.all为总像素点个数,即.all=40000;S为匹配相似度;
17)计算所有候选区域二值图与4个二值图模板依次对比的匹配相似度,取相似度最高的为形状识别的最佳匹配结果S*
S*max{S11、S12、S13、S14......Sn1、Sn2、Sn3、Sn4};
其中,S11为第1个候选区域二值图与圆形二值图模板的匹配相似度,S12为第1个候选区域二值图与左向箭头二值图模板的匹配相似度,S13为第1个候选区域二值图与前向箭头二值图模板的匹配相似度,S14为第1个候选区域二值图与右向箭头二值图模板的匹配相似度,Sn1为第n个候选区域二值图与圆形二值图模板的匹配相似度,Sn2为第n个候选区域二值图与左向箭头二值图模板的匹配相似度,Sn3为第n个候选区域二值图与前向箭头二值图模板的匹配相似度,Sn4为第n个候选区域二值图与右向箭头二值图模板的匹配相似度。
逐像素点对比的方法基于全局信息考虑,样本数量大,有很好的识别效果。
18)得到最佳匹配结果S*对应的候选区域,对区域再次确认,将区域等分成四个部分,统计四个部分白色像素点的个数,依次为Num1、Num2、Num3、Num4;如果两部分之间白色像素点个数的差值Δ<150,则认为这两部分白色像素点个数近似相等,否则不相等;
19)用以下判断条件对最佳匹配结果再次进行确认:
20)若最佳匹配结果和二次确认结果一致,那么输出形状识别的结果;若最佳匹配结果和二次确认结果不一致,那么选择匹配相似度第二大的候选区域进行二次确认,依次往复,直至二者结果一致,停止循环,输出形状识别的结果;
21)综合步骤4)颜色筛选的条件、步骤17)形状对比的最佳匹配结果及步骤19)二次确认结果,初步判断交通信号灯的类型Dx即红色圆形、绿色圆形、黄色圆形、红色左向箭头、绿色左向箭头、黄色左向箭头、红色前向箭头、绿色前向箭头、黄色前向箭头、红色右向箭头、绿色右向箭头、黄色右向箭头;
22)车载前置摄像头采集到的是连续的视频信号,为了减小单帧图像由于交通信号灯的频闪、拍摄角度或者遮挡等问题造成的误判断,进一步提高识别系统的可靠性,基于连续的多帧图像识别结果进行验证。
23)如果连续十帧图像中有连续五帧的识别结果一样,或者连续十帧图像中至少有七帧的识别结果一样,那么认为识别结果正确,输出最终的识别结果,完成判断交通信号灯的类型;否则,继续取后续的连续图像重新进行识别;
所述的步骤23)的具体方法如下:
231)连续十帧图像中有连续五帧的识别结果一样:D1=D2=D3=D4=D5或D2=D3=D4=D5=D6或……或D6=D7=D8=D9=D10
232)连续十帧图像中至少有七帧的识别结果一样:same(D1、D2、D3、D4、D5、D6、D7、D8、D9、D10)≥7。
24)若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片。
步骤三、语音芯片控制扬声器进行语音播报提示。
本发明提出的交通信号灯识别方法简单、高效,且对于识别结果多次进行确认验证,具有很高的可靠性。实验表明本发明的设计方法准确率高,具有实时检测交通信号灯的能力,能满足实际道路交通情况下交通信号灯识别的工作需求。

Claims (8)

1.一种交通信号灯识别系统,其特征在于,该系统包括车载前置摄像头、图像识别装置、语音芯片、扬声器、加速踏板和制动器,其中所述的车载前置摄像头安装在前保险杠中间位置;所述的车载前置摄像头的输出端与图像识别装置的输入端相连;所述的图像识别装置的输出端与加速踏板、制动器、语音芯片的输入端相连;所述的语音芯片的输出端与扬声器的输入端相连。
2.根据权利要求1所述的一种交通信号灯识别系统,其特征在于,所述的图像识别装置为TL6748F-EVM TMS320C6748。
3.根据权利要求1所述的一种交通信号灯识别系统,其特征在于,所述的语音芯片采用型号为:QGPH6340。
4.根据权利要求1所述的一种交通信号灯识别系统的识别方法,其特征在于,该方法包括以下步骤:
步骤一、利用车载前置摄像头实时采集道路交通信号视频,基于视频信号的每一帧图像进行交通信号灯识别;
步骤二、利用图像识别装置对车载前置摄像头采集的信号进行判断,若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片;
步骤三、语音芯片控制扬声器进行语音播报提示。
5.根据权利要求4所述的一种交通信号灯识别系统的识别方法,其特征在于,所述的步骤二中图像识别装置由颜色识别、形状识别、形状二次确认和连续图像识别结果验证组成,对于车载前置摄像头采集到的图像采用总体上基于RGB空间进行识别,局部基于HSL空间进行识别的双轨方式,具体方法如下:
1)采用加权平均的方法对图像进行灰度化处理:
h(x,y)=0.30×R(x,y)+0.60×G(x,y)+0.10×B(x,y)
其中,h(x,y)为转换后在(x,y)点的灰度值,R(x,y)为RGB图像在(x,y)点的R通道分量,G(x,y)为RGB图像在(x,y)点的G通道分量,B(x,y)为RGB图像在(x,y)点的B通道分量,且R(x,y)、G(x,y)、B(x,y)∈[0,255];
2)再采取直方图均衡化的方式对灰度图像进行均衡处理,增强图像的对比度;
3)最后采用类别之间方差最大算法自动选取阈值对均衡化图像进行二值化处理,高于阈值的置为1,低于阈值的置为0;
4)分别设置红色、绿色和黄色的筛选条件如下所示:
(R-B)≥75∩(R-G)≥65
(G-R)≥80∩(G-B)≥5
(G-B)≥75∩(R-B)≥65
对原始图像进行基于以上条件的颜色筛选,把交通信号灯的红、绿、黄发光区域分割出来,同时把不符合以上颜色筛选条件的区域去除;
5)用二值图中对应位置区域替换彩色区域,将彩色灯体和干扰区域变成白色;
6)对步骤5)中经颜色筛选得到的二值图进行腐蚀、膨胀和开运算的形态学处理;
7)构建所有连通区域各自在主轴方向的最小外接矩形;
8)遍历所有的连通区域主轴最小外接矩形,将符合筛选阈值的矩形标定出来,并将他们的尺寸和位置信息反馈到原始彩色图像中,在原始彩色图中将同一位置和相同尺寸的区域裁剪出来,放入存储器中,达到精确定位交通信号灯的目的;
9)使用的车载前置摄像头拍摄的图像是基于RGB色彩空间的,RGB空间结构简单,三个通道的高相关性不能完整地保留形状,从存储器中提取出基于RGB空间的候选区域,将它们转换到HSL空间;
10)将R、G、B分量进行归一化处理,得到R′、G′、B′∈[0,1],由R′、G′、B′分量转换成H、S、L分量。
11)提取HSL空间候选区域的L通道明亮度图;
12)对L通道明亮度图进行二值化处理,得到候选区域二值图;
13)依国家标准GB 14887-2011对圆形和箭头形交通信号灯尺寸要求作出圆形、左向箭头、前向箭头和右向箭头二值图作为形状对比的模板;
14)将所有的候选区域二值图和二值图模板进行尺寸统一化处理,统一放缩到200×200的尺寸;
15)遍历40000个像素点进行逐一对比,若在图像某一像素点位置候选区域二值图和二值图模板的灰度级同为1或同为0,记为相同像素点;若灰度级不相同,记为不同像素点;
16)整幅图像中相同的像素点个数占总像素点个数的比例叫做匹配相似度;
其中,N.same为相同的像素点个数;N.all为总像素点个数,即N.all=40000;S为匹配相似度;
17)计算所有候选区域二值图与4个二值图模板依次对比的匹配相似度,取相似度最高的为形状识别的最佳匹配结果S*
S*=max{S11、S12、S13、S14……Sn1、Sn2、Sn3、Sn4};
其中,S11为第1个候选区域二值图与圆形二值图模板的匹配相似度,S12为第1个候选区域二值图与左向箭头二值图模板的匹配相似度,S13为第1个候选区域二值图与前向箭头二值图模板的匹配相似度,S14为第1个候选区域二值图与右向箭头二值图模板的匹配相似度,Sn1为第n个候选区域二值图与圆形二值图模板的匹配相似度,Sn2为第n个候选区域二值图与左向箭头二值图模板的匹配相似度,Sn3为第n个候选区域二值图与前向箭头二值图模板的匹配相似度,Sn4为第n个候选区域二值图与右向箭头二值图模板的匹配相似度;
18)得到最佳匹配结果S*对应的候选区域,对区域再次确认,将区域等分成四个部分,统计四个部分白色像素点的个数,依次为Num1、Num2、Num3、Num4;如果两部分之间白色像素点个数的差值Δ<150,则认为这两部分白色像素点个数近似相等,否则不相等;
19)用以下判断条件对最佳匹配结果再次进行确认:
20)若最佳匹配结果和二次确认结果一致,那么输出形状识别的结果;若最佳匹配结果和二次确认结果不一致,那么选择匹配相似度第二大的候选区域进行二次确认,依次往复,直至二者结果一致,停止循环,输出形状识别的结果;
21)综合步骤4)颜色筛选的条件、步骤17)形状对比的最佳匹配结果及步骤19)二次确认结果,初步判断交通信号灯的类型Dx即红色圆形、绿色圆形、黄色圆形、红色左向箭头、绿色左向箭头、黄色左向箭头、红色前向箭头、绿色前向箭头、黄色前向箭头、红色右向箭头、绿色右向箭头、黄色右向箭头;
22)车载前置摄像头采集到的是连续的视频信号,基于连续的多帧图像识别结果进行验证;
23)如果连续十帧图像中有连续五帧的识别结果一样,或者连续十帧图像中至少有七帧的识别结果一样,那么认为识别结果正确,输出最终的识别结果,完成判断交通信号灯的类型;否则,继续取后续的连续图像重新进行识别;
24)若是绿灯,则将信号传递给加速踏板,控制加速踏板使车辆行驶;若是红灯或者黄灯,则将信号传递给制动器,控制制动器使车辆制动停车;同时,将判断绿灯或红灯或黄灯的结果传递给语音芯片,控制扬声器进行语音播报提示。
6.根据权利要求5所述的一种交通信号灯识别系统的识别方法,其特征在于,所述的步骤6)的具体方法如下:
61)腐蚀处理,选取一个5×5的十字形区域作为腐蚀的核,在二值图白色区域移动核,如果二者重叠的部分完全属于二值图白色区域,则将该区域保留下来;否则,二者重叠部分不完全属于二值图的白色区域,则将该区域删除,作为腐蚀处理的结果;
62)膨胀处理,选取一个3×3的正方形区域作为膨胀处理的核,将核在二值图白色区域上进行卷积操作,如果核移动的过程中与白色区域存在重叠部分,则将核扫过的区域和白色区域都保留下来并取并集,作为膨胀处理的结果;
63)连续进行3次腐蚀处理,再进行3次膨胀处理。
7.根据权利要求5所述的一种交通信号灯识别系统的识别方法,其特征在于,所述的步骤7)的具体方法如下:
71)输出主轴最小外接矩形的尺寸信息和在整幅图像中的位置信息,尺寸信息用于筛选区域,位置信息用于将这些区域在图像中准确定位;
72)设置主轴最小外接矩形的宽度像素和宽高比的筛选阈值,宽度像素的上限为80个像素点,下限为10个像素点;宽高比的上限为1.25,下限为0.75。
8.根据权利要求5所述的一种交通信号灯识别系统的识别方法,其特征在于,所述的步骤23)的具体方法如下:
231)连续十帧图像中有连续五帧的识别结果一样:D1=D2=D3=D4=D5或D2=D3=D4=D5=D6或……或D6=D7=D8=D9=D10
232)连续十帧图像中至少有七帧的识别结果一样:same(D1、D2、D3、D4、D5、D6、D7、D8、D9、D10)≥7。
CN201811491197.8A 2018-12-07 2018-12-07 一种交通信号灯识别系统及其识别方法 Active CN109598244B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811491197.8A CN109598244B (zh) 2018-12-07 2018-12-07 一种交通信号灯识别系统及其识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811491197.8A CN109598244B (zh) 2018-12-07 2018-12-07 一种交通信号灯识别系统及其识别方法

Publications (2)

Publication Number Publication Date
CN109598244A true CN109598244A (zh) 2019-04-09
CN109598244B CN109598244B (zh) 2023-08-22

Family

ID=65961332

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811491197.8A Active CN109598244B (zh) 2018-12-07 2018-12-07 一种交通信号灯识别系统及其识别方法

Country Status (1)

Country Link
CN (1) CN109598244B (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110175582A (zh) * 2019-05-29 2019-08-27 南京林业大学 基于像素分布的茶树嫩芽智能识别方法
CN110335273A (zh) * 2019-07-15 2019-10-15 北京海益同展信息科技有限公司 检测方法、检测装置、电子设备和介质
CN111428663A (zh) * 2020-03-30 2020-07-17 北京百度网讯科技有限公司 红绿灯状态的识别方法、装置、电子设备和存储介质
CN112131922A (zh) * 2019-06-24 2020-12-25 丰田自动车株式会社 信号识别系统
CN112133088A (zh) * 2020-08-25 2020-12-25 浙江零跑科技有限公司 一种车辆交通辅助指示方法及系统
CN112906471A (zh) * 2021-01-18 2021-06-04 国汽智控(北京)科技有限公司 一种交通信号灯识别方法及装置
CN112965503A (zh) * 2020-05-15 2021-06-15 东风柳州汽车有限公司 多路摄像头融合拼接方法、装置、设备及存储介质
CN113052190A (zh) * 2021-04-01 2021-06-29 威海职业学院(威海市技术学院) 一种基于图像处理的视觉辅助系统及方法
CN113095220A (zh) * 2021-04-12 2021-07-09 浙江吉利控股集团有限公司 交通信号灯数字识别方法及数字识别系统
CN113311819A (zh) * 2021-03-25 2021-08-27 华南理工大学广州学院 一种由机器狗导盲的方法及机器狗控制系统
US20210370829A1 (en) * 2020-06-02 2021-12-02 Hyundai Motor Company Apparatus, method, and vehicle for providing braking level of forward vehicle
CN113826107A (zh) * 2019-05-23 2021-12-21 日立安斯泰莫株式会社 物体识别装置
CN114062961A (zh) * 2021-11-17 2022-02-18 吉林大学 一种基于occ的自动驾驶车辆多特征解调方法
CN112131922B (zh) * 2019-06-24 2024-05-28 丰田自动车株式会社 信号识别系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102556043A (zh) * 2011-12-12 2012-07-11 浙江吉利汽车研究院有限公司 一种基于交通灯识别的汽车控制系统及其控制方法
CN102582619A (zh) * 2012-02-28 2012-07-18 浙江吉利汽车研究院有限公司 一种具有红绿灯识别功能的汽车启停系统及其控制方法
CN107813830A (zh) * 2016-08-31 2018-03-20 法乐第(北京)网络科技有限公司 一种辅助车辆驾驶的方法及装置
CN107978165A (zh) * 2017-12-12 2018-05-01 南京理工大学 基于计算机视觉的交叉口标志标线与信号灯智能感知方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102556043A (zh) * 2011-12-12 2012-07-11 浙江吉利汽车研究院有限公司 一种基于交通灯识别的汽车控制系统及其控制方法
CN102582619A (zh) * 2012-02-28 2012-07-18 浙江吉利汽车研究院有限公司 一种具有红绿灯识别功能的汽车启停系统及其控制方法
CN107813830A (zh) * 2016-08-31 2018-03-20 法乐第(北京)网络科技有限公司 一种辅助车辆驾驶的方法及装置
CN107978165A (zh) * 2017-12-12 2018-05-01 南京理工大学 基于计算机视觉的交叉口标志标线与信号灯智能感知方法

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113826107A (zh) * 2019-05-23 2021-12-21 日立安斯泰莫株式会社 物体识别装置
CN110175582A (zh) * 2019-05-29 2019-08-27 南京林业大学 基于像素分布的茶树嫩芽智能识别方法
CN112131922A (zh) * 2019-06-24 2020-12-25 丰田自动车株式会社 信号识别系统
CN112131922B (zh) * 2019-06-24 2024-05-28 丰田自动车株式会社 信号识别系统
CN110335273A (zh) * 2019-07-15 2019-10-15 北京海益同展信息科技有限公司 检测方法、检测装置、电子设备和介质
CN110335273B (zh) * 2019-07-15 2021-03-05 北京海益同展信息科技有限公司 检测方法、检测装置、电子设备和介质
CN111428663A (zh) * 2020-03-30 2020-07-17 北京百度网讯科技有限公司 红绿灯状态的识别方法、装置、电子设备和存储介质
CN111428663B (zh) * 2020-03-30 2023-08-29 阿波罗智能技术(北京)有限公司 红绿灯状态的识别方法、装置、电子设备和存储介质
CN112965503A (zh) * 2020-05-15 2021-06-15 东风柳州汽车有限公司 多路摄像头融合拼接方法、装置、设备及存储介质
CN112965503B (zh) * 2020-05-15 2022-09-16 东风柳州汽车有限公司 多路摄像头融合拼接方法、装置、设备及存储介质
US11535153B2 (en) * 2020-06-02 2022-12-27 Hyundai Motor Company Apparatus, method, and vehicle for providing braking level of forward vehicle
US20210370829A1 (en) * 2020-06-02 2021-12-02 Hyundai Motor Company Apparatus, method, and vehicle for providing braking level of forward vehicle
CN112133088A (zh) * 2020-08-25 2020-12-25 浙江零跑科技有限公司 一种车辆交通辅助指示方法及系统
CN112906471A (zh) * 2021-01-18 2021-06-04 国汽智控(北京)科技有限公司 一种交通信号灯识别方法及装置
CN113311819A (zh) * 2021-03-25 2021-08-27 华南理工大学广州学院 一种由机器狗导盲的方法及机器狗控制系统
CN113311819B (zh) * 2021-03-25 2024-05-31 华南理工大学广州学院 一种由机器狗导盲的方法及机器狗控制系统
CN113052190A (zh) * 2021-04-01 2021-06-29 威海职业学院(威海市技术学院) 一种基于图像处理的视觉辅助系统及方法
CN113095220A (zh) * 2021-04-12 2021-07-09 浙江吉利控股集团有限公司 交通信号灯数字识别方法及数字识别系统
CN113095220B (zh) * 2021-04-12 2023-04-18 浙江吉利控股集团有限公司 交通信号灯数字识别方法及数字识别系统
CN114062961A (zh) * 2021-11-17 2022-02-18 吉林大学 一种基于occ的自动驾驶车辆多特征解调方法
CN114062961B (zh) * 2021-11-17 2023-08-08 吉林大学 一种基于occ的自动驾驶车辆多特征解调方法

Also Published As

Publication number Publication date
CN109598244B (zh) 2023-08-22

Similar Documents

Publication Publication Date Title
CN109598244A (zh) 一种交通信号灯识别系统及其识别方法
CN103345766B (zh) 一种信号灯识别方法及装置
CN105354530B (zh) 一种车身颜色识别方法及装置
CN106682601B (zh) 一种基于多维信息特征融合的驾驶员违规通话检测方法
CN103971128B (zh) 一种面向无人驾驶车的交通标志识别方法
CN106909937A (zh) 交通信号灯识别方法、车辆控制方法、装置及车辆
CN110688907B (zh) 基于夜间道路光源识别物体的方法及装置
CN102176287A (zh) 一种交通信号灯识别系统和方法
CN103390167A (zh) 一种多特征的分层交通标志识别方法
CN103927548B (zh) 一种新的避免车辆碰撞的刹车行为检测方法
CN107704853A (zh) 一种基于多分类器的交通信号灯的识别方法
CN108564034A (zh) 一种驾驶员行车中操作手机行为的检测方法
CN104050447A (zh) 一种交通信号灯识别方法和装置
CN105023452B (zh) 一种多路交通信号灯信号采集的方法及装置
CN102184393A (zh) 一种根据车牌识别判断车型的方法
CN108446668A (zh) 基于无人驾驶平台的交通信号灯检测识别方法及系统
CN106650611B (zh) 一种识别车身颜色的方法及装置
CN109784214A (zh) 一种铁路轨道异物的检测装置及方法
CN109508659A (zh) 一种用于人行横道的人脸识别系统及方法
CN102306276A (zh) 基于分块聚类的视频车辆图像中车身颜色识别方法
CN104408431B (zh) 交通监控下的车款识别方法
CN106529533A (zh) 一种基于多尺度分析和匹配排序的复杂天气车牌定位方法
US10977500B2 (en) Street marking color recognition
CN113101155A (zh) 一种基于机器视觉的红绿灯路口导盲方法及导盲装置
CN106600732A (zh) 一种基于人脸识别的驾驶员培训计时系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant