CN114926815A - 基于信号灯识别的驾驶行为预警方法及系统 - Google Patents
基于信号灯识别的驾驶行为预警方法及系统 Download PDFInfo
- Publication number
- CN114926815A CN114926815A CN202210531444.2A CN202210531444A CN114926815A CN 114926815 A CN114926815 A CN 114926815A CN 202210531444 A CN202210531444 A CN 202210531444A CN 114926815 A CN114926815 A CN 114926815A
- Authority
- CN
- China
- Prior art keywords
- signal lamp
- traffic signal
- network
- image
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/146—Display means
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Multimedia (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Data Mining & Analysis (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明实施例提供一种基于信号灯识别的驾驶行为预警方法及系统,属于图像识别技术领域。所述方法包括:采集车辆行进方向的实时图像;基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;对存在交通信号灯目标的图像进行类别标注;基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。本发明方案提高了复杂场景下交通信号灯的识别精准度,且构建轻量级网络模型进行交通信号灯的识别,减少了网络中参数量和计算量,提升了训练及检测速度,从而满足在移动端或嵌入式端实现功能。
Description
技术领域
本发明涉及图像识别技术领域,具体地涉及一种基于信号灯识别的驾驶行为预警方法及一种基于信号灯识别的驾驶行为预警系统。
背景技术
随着私有车辆保有量逐年递增,交通环境也变得愈发紧张,为了在这种场景下实现高效和安全的交通运输,使用了一系列的交通控制信息来指导驾驶员通行,其中交通信号灯是防止交通事故和控制交通流通的最重要的信息。但是有时由于路况的复杂性、天气环境的多样性以及驾驶员自身的因素等等,驾驶员常常容易错失交通数据信息导致违规违章驾驶,严重者酿成交通事故。因此为了减少交通事故的发生,能够让驾驶员安全出行,对交通信号灯进行识别,具有非常好的实用价值和社会意义。交通信号灯检测作为智能驾驶领域的关键技术之一,交通信号灯检测经历数年发展,检测方法主要分为两大类:一类是基于传统方法的交通信号灯检测,另一类是基于深度学习方法的交通信号灯检测。这些方法均能在一定程度上解决交通信号灯的识别问题,但在复杂交通场景下,相似颜色和形状物体多,目标被部分遮挡,距离远目标尺寸小等,目标漏检情况严重,检测精度和实时性难以同时满足要求,且模型参数量和计算量较大,难以在嵌入式等边缘设备上部署。针对现有交通信号灯识别方法存在的诸多问题,需要创造一种新的基于信号灯识别的驾驶行为预警方法。
发明内容
本发明实施方式的目的是提供一种基于信号灯识别的驾驶行为预警方法及系统,以至少解决现有交通信号灯识别方法在复杂场景下检测精度低以及无法在嵌入式边缘设备上稳定运行的问题。
为了实现上述目的,本发明第一方面提供一种基于信号灯识别的驾驶行为预警方法,所述方法包括:采集车辆行进方向的实时图像;基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;对存在交通信号灯目标的图像进行类别标注;基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。
可选的,所述采集车辆行进方向的实时图像,包括:基于多个预设角度进行车辆行进方向的视频信息采集,获得多个角度的视频信息;基于预设时间间隔进行各视频的图像分帧处理,获得每个视频信息的多个图像;将每一时刻的各视频信息图像整合作为对应时刻的采集图像,获得车辆行进方向的实时图像。
可选的,所述基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标,包括:对每一时刻的多个图像分别进行是否存在交通信号灯目标判断,过滤掉不存在交通信号灯目标的图像,保留存在交通信号灯目标的初选图像;若同一时刻保留有多个存在交通信号灯目标的初选图像,则对比该时刻保留的多个初选图像,筛选出交通信号灯目标的坐标最靠近图像中心点的初选图像作为存在交通信号灯目标的图像;若同一时刻仅保留有一个存在交通信号灯目标的初选图像,直接将该初选图像作为存在交通信号灯目标的图像。
可选的,所述方法还包括:构建交通信号灯识别模型,包括:采集多场景下的交通信号灯图像;其中,所述多场景至少包括:不同天气场景、不同时间场景、与交通信号灯之间的不同距离场景、不同遮挡程度场景;对所述多场景下的交通信号灯图像进行类别标注,将每一图像归类到对应类别体系中;其中,所述类别体系包括:红色信号灯、黄色信号灯、绿色信号灯、红色左转信号灯、绿色左转信号灯中的一种或多种;将所述多场景下的交通信号灯图像作为训练样本,在预构建的神经网络中进行训练,获得交通信号灯识别模型。
可选的,所述预构建的神经网络的特征提取网络为轻量级卷积网络;所述轻量级卷积网络包括:Mobilenet系列网络、Shufflenet系列网络、SNet网络、SqueezeNet系列网络和Xception系列网络中的任意一种;所述预构建的神经网络的特征融合网络为多尺度检测识别网络;所述多尺度检测识别网络包括:Pvanet网络、RFBNet网络和FPN网络中的任意一种。
可选的,所述将多场景下的交通信号灯图像作为训练样本,在预构建的神经网络中进行训练,获得交通信号灯识别模型,包括:在包含Mobilenet系列网络、Shufflenet系列网络、SNet网络、SqueezeNet系列网络和Xception系列网络中的任意一种轻量级卷积网络和Pvanet网络、RFBNet网络和FPN网络中的任意一种多尺度检测识别网络的预构建神经网络中进行模型训练,获得一个候选模型;对所述候选模型进行分析,判断其是否符合预期标准;若所述候选模型不符合预期标准,则更改所述预构建神经网络的轻量级卷积网络和/或多尺度检测识别网络,并重新进行模型训练,获得新的候选模型,并对所述新的候选模型进行分析;重复上述候选模型分析步骤和重新训练步骤,直到获得符合预期标准的交通信号灯识别模型。
可选的,所述对所述候选模型进行分析,判断其是否符合预期,包括:对比所述候选模型体量和预设模型体量,若所述候选模型体量大于所述预设模型体量,则判定候选模型的模型体量不符合预期标准;对比所述候选模型的训练速度和预设训练速度,若所述候选模型训练速度大于所述预设训练速度,则判定候选模型的训练速度不符合预期标准;选择多个与交通信号灯之间的不同距离场景的图像信息作为检测样本进行所述候选模型训练,对比识别结果与预先标注结果,当所述对比识别结果与预先标注结果完全对应的数量在所述检测样本数量中的占比小于预设占比阈值时,判定候选模型的准确度不符合预期标准;仅当模型体量、训练速度和准确度均符合预期标准时,才判定所述候选模型符合预期标准。
可选的,所述对存在交通信号灯目标的图像进行类别标注,包括:使用label标注方法进行所述类别标注;所述类别至少包括:红色信号灯、黄色信号灯、绿色信号灯、红色左转信号灯、绿色左转信号灯中的一种或多种。
本发明第二方面提供一种基于信号灯识别的驾驶行为预警系统,所述系统包括:采集单元,用于采集车辆行进方向的实时图像;处理单元,用于:基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;对存在交通信号灯目标的图像进行类别标注;人机交互单元,用于基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。
另一方面,本发明提供一种计算机可读储存介质,该计算机可读存储介质上储存有指令,其在计算机上运行时使得计算机执行上述的基于信号灯识别的驾驶行为预警方法。
通过上述技术方案,针对实际场景中交通信号灯背景复杂多变、摄像头在运动中或者发生抖动会导致图像模糊且交通信号灯数据集中各类信号灯样本数量严重不均衡的问题,构建数据集,深入研究多种数据增强方法,对所用交通信号灯数据进行增强与扩充,来增加对交通信号灯的分辨能力。通过多尺度检测思想,实现一个多尺度交通信号灯检测识别算法,使得网络提取到更加细粒度特征,从而提升网络对于像素尺寸较小交通信号灯的检测与识别精度,能够在较远距离实现对目标的检测,对驾驶员进行提醒和预警,使他们有足够的时间应对,具有实际应用价值。
本发明实施方式的其它特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
附图是用来提供对本发明实施方式的进一步理解,并且构成说明书的一部分,与下面的具体实施方式一起用于解释本发明实施方式,但并不构成对本发明实施方式的限制。在附图中:
图1是本发明一种实施方式提供的基于信号灯识别的驾驶行为预警方法的步骤流程图;
图2是本发明一种实施方式提供的基于信号灯识别的驾驶行为预警系统的系统结构图。
具体实施方式
以下结合附图对本发明的具体实施方式进行详细说明。应当理解的是,此处所描述的具体实施方式仅用于说明和解释本发明,并不用于限制本发明。
随着私有车辆保有量逐年递增,交通环境也变得愈发紧张,为了在这种场景下实现高效和安全的交通运输,使用了一系列的交通控制信息来指导驾驶员通行,其中交通信号灯是防止交通事故和控制交通流通的最重要的信息。但是有时由于路况的复杂性、天气环境的多样性以及驾驶员自身的因素等等,驾驶员常常容易错失交通数据信息导致违规违章驾驶,严重者酿成交通事故。因此为了减少交通事故的发生,能够让驾驶员安全出行,对交通信号灯进行识别,具有非常好的实用价值和社会意义。
交通信号灯检测作为智能驾驶领域的关键技术之一,交通信号灯检测经历数年发展,检测方法主要分为两大类:一类是基于传统方法的交通信号灯检测,另一类是基于深度学习方法的交通信号灯检测。
其中,基于传统方法的交通信号灯检测主要分为两个阶段:第一个阶段根据图像筛选出交通信号灯候选区域;第二个阶段是对候选区域的交通信号灯类别进行划分。检测方法首先主要围绕着颜色信息和边缘形状、和位置分布等信息来进行候选区域提取,然后用基于梯度方向直方图特征(HOG),局部二值模式(LBP)和类Haar特征(Haar-like),利用SVM或AdaBoost等分类器进行分类。
近年来,由于计算能力的增加,深度学习由于具备强大的特征提取能力和学习能力,在基于视觉的目标识别中得到了越来越广泛的应用。越来越多的研究工作采用CNN做交通信号的识别,并且卷积神经网络(CNN)无需手动选择特征即可从大量样本中学习特征。国内外学者在基于深度学习的交通信号灯检测主要从一下三个方面展开研究:基于单阶段目标检测算法的交通信号灯检测、基于双阶段目标检测算法的交通信号灯检测、基于深度学习和其他方法结合的交通信号灯检测。
这些方法均能在一定程度上解决交通信号灯的识别问题,但在复杂交通场景下,相似颜色和形状物体多,目标被部分遮挡,距离远目标尺寸小等,目标漏检情况严重,检测精度和实时性难以同时满足要求,且模型参数量和计算量较大,难以在嵌入式等边缘设备上部署。基于此,为了保证复杂场景下的交通信号灯识别准确性,且需要保证识别方案能够顺畅的在嵌入式边缘设备上部署,需要保证程序本身体量以及运行功耗都要足够小,本发明方案提出了一种新的基于信号灯识别的驾驶行为预警方法,针对性地解决了现有方法检测精度和实时性难以同时满足要求,且模型参数量和计算量较大,难以在嵌入式等边缘设备上部署的问题。
本发明方案提出的基于信号灯识别的驾驶行为预警方法,针对实际场景中交通信号灯背景复杂多变、摄像头在运动中或者发生抖动会导致图像模糊且交通信号灯数据集中各类信号灯样本数量严重不均衡的问题,构建数据集,深入研究多种数据增强方法,对所用交通信号灯数据进行增强与扩充,来增加对交通信号灯的分辨能力。通过多尺度检测思想,实现一个多尺度交通信号灯检测识别算法,使得网络提取到更加细粒度特征,从而提升网络对于像素尺寸较小交通信号灯的检测与识别精度,能够在较远距离实现对目标的检测,对驾驶员进行提醒和预警,使他们有足够的时间应对,具有实际应用价值。本发明主要从深度学习出发,构建轻量级网络模型来进行交通信号灯的识别,减少了网络中参数量和计算量,提升了训练及检测速度,从而满足在移动端或嵌入式端实现功能,对模型进行轻量化的方法极大的减少了对硬件系统的要求。
图1是本发明一种实施方式提供的基于信号灯识别的驾驶行为预警方法的方法流程图。如图1所示,本发明实施方式提供一种基于信号灯识别的驾驶行为预警的方法,所述方法包括:
步骤S10:采集车辆行进方向的实时图像信息。
具体的,想要实现汽车行进过程中的实时驾驶行为,就需要持续地进行交通信号灯目标检测已经信号识别,以保证能够及时地进行驾驶人员的驾驶行为提醒。所以信号灯的识别过程必定是一个连续的,动态的识别过程,而不是仅到了路口才进行信号灯识别。一方面是无法进行是否是路口判断,另一方面,若需要人工在达到路口后主动出发,其又失去了智能识别信号灯本身的意义。为了实现连续已经动态的信号灯识别,在车辆行进过程中,需要实时地进行交通信号灯识别,为了保证这种时间上的连续性,优选的,采集车辆行进方向的视频信息,然后对视频信息进行分帧处理,便能获得时间上连续的行进方向图像信息。随着接近路口,采集的图像信息中会逐渐出现信号灯,只要能够识别到出现的信号灯,便可以自动的进行信号灯识别,已实现交通信号灯的自动识别,然后基于识别结果进行对应的驾驶行为提醒便可,例如识别到之行红灯,提醒驾驶人员减速停车,避免出现闯红灯的违章行为。
在实际应用场景中,信号灯并不一定完全处于车辆行进的正方向,当路口存在一定的弯度时,信号灯的位置可能会存在一定的偏差,所以若固定正方向进行图像拍摄,会出现信号灯无法落入图像中的情况。为了避免这种因为没有拍摄到交通信号灯而导致信号灯漏检的情况,进行图像采集是,需要采集多个角度的图像信息,具体的实现步骤为基于多个预设角度进行车辆行进方向视频信息采集,获得多个角度的视频信息;基于预设时间间隔进行各视频图像信息分帧处理,获得多个图像信息;将每一个时刻的多个图像信息整合作为对应时刻的采集图像信息,获得车辆行进方向的实时图像信息。为了实现该方案,优选的,采集单元可以在预定范围内进行摇动拍摄,即将采集单元固定在车辆上某个位置,然后该采集单元进行多角度图像拍摄。当然,另一种可能的实施方式中,在车辆上设置多个采集单元,每个采集单元采集一个固定角度的图像信息,这些所有的采集单元共同采集多角度的图像信息。
步骤S20:基于预设交通信号灯识别模型对所述实时图像信息进行处理,判断所述当前图像内是否存在交通信号灯目标。
具体的,对每一时刻的多个图像信息分别进行是否存在交通信号灯目标判断;过滤掉其中不存在交通信号灯目标的图像信息,保留存在交通信号灯目标的图像信息;若同一时刻保留有多个存在交通信号灯目标的图像信息,则对比这些保留的图像信息,筛选出其中交通信号灯目标的坐标最靠近图像中心点的图像信息为最终存在交通信号灯目标的图像信息。
通过预设的交通信号灯识别模型可以对采集的图像信息进行特征提取,然后基于提取的特征判断图像中是否存在交通信号灯,以及对应信号灯的颜色信息。上述已知,本发明方案需要解决的两个技术问题分别是识别准确性的问题和便于在嵌入式等边缘设备上部署的问题。
针对便于在嵌入式等边缘设备上部署的问题,基于深度学习的目标检测算法,可分为单阶段和双阶段算法。双阶段目标检测算法使用第一级网络用于候选区域提取,第二级网络对提取的候选区域进行分类和精确坐标回归,例如RCNN系列。检测精度比较高,但是参数量计算量大,检测速度慢。单阶段目标检测算法掘弃了候选区域提取这一步骤,只用一级网络就完成了分类和回归两个任务,例如YOLO和SSD等。检测速度快,模型比双阶段检测小,但是检测精度比双阶段检测低。总体上,现有方法能够准确的识别出一般交通场景下的交通信号灯识别,但是过多的下采样,还是使得参数量和计算量增加,检测模型过大,检测速度过慢,在嵌入式端实现困难,并且使得小目标的信息丢失严重,而且很难保证检测精度和检测速度同时满足要求。
基于此,本发明在特征提取网络部分,替换成轻量级网络,来减少参数量和模型大小。其中,所述轻量级卷积网络包括:Mobilenet系列网络、Shufflenet系列网络、SNet网络、SqueezeNet系列网络、Xception系列网络中的任意一种。轻量化模型设计主要思想在于设计更高效的网络计算方式(主要针对卷积方式),从而使网络参数减少的同时,不损失网络性能。减少网络中参数量和计算量,提升训练及检测速度,从而满足在移动端或嵌入式端实现功能。
针对检测精度的问题,实际应用过程中,主要因为距离原因导致漏检概率高,因为距离较远的情况下,信号灯在图像中的位置占比很小,所以针对这种距离原因导致的漏检情况,本发明方案在根据特征图信息进行预测部分,通过多尺度检测来融合不同尺度的特征图信息,使得预测网络对不同大小的目标更敏感。所述多尺度检测识别网络包括:Pvanet网络、RFBNet网络和FPN网络中的任意一种。例如,在特征融合部分,用BiFPN方法进行不同尺度的特征融合,从而对不同尺度的特征图信息进行融合,使得预测网络对不同大小的目标更敏感,提升了整体的模型检测能力,降低了漏检率与误检率。
为了保证模型能够在嵌入式等边缘设备中稳定运行,进行模型训练时,便需要针对对应的神经网络进行训练,及利用包含轻量级卷积和多尺度检测网络的神经网络进行模型训练。
具体的,采集多场景下的交通信号灯图像信息;其中,所述多场景至少包括:不同天气场景、不同时间场景、与交通信号灯之间的不同距离场景、不同遮挡程度场景;将所述多场景下的交通信号灯图像信息作为训练样本,在预构建的神经网络中进行训练,获得交通信号灯识别模型。训练样本越大,覆盖的场景越多,最终训练获得的模型准确性也更高。
在模型训练过程中,在包含任意一种轻量级卷积网络和任意一种多尺度检测识别网络的预构建神经网络中进行模型训练,获得一个候选模型;对所述候选模型进行分析,判断其是否符合预期;对比所述候选模型体量和预设模型体量,若所述候选模型体量大于所述预设模型体量,则判定候选模型的模型体量不符合预期;
对比所述候选模型的训练速度和与预设训练速度,若所述候选模型训练速度大于所述预设训练速度,则判定候选模型的训练速度不符合预期;选择多个与交通信号灯之间的不同距离场景的图像信息作为检测样本,进行所述候选模型训练,对比识别结果与预先标注结果,当所述对比识别结果与预先标注结果完全对应的数量在所述检测样本中的占比小于预设占比阈值时,判定候选模型的准确度不符合预期;仅当模型体量、训练速度和准确度均符合预期时,才判定所述候选模型符合预期。若所述候选模型不符合预期,则更改所述预构建神经网络的轻量级卷积网络和/或多尺度检测识别网络,并重新进行模型训练,获得新的候选模型,并对所述新的候选模型进行分析;重复上述步骤,直到获得符合预期的交通信号灯识别模型。
当候选模型不符合预期时,需要对模型进行原因追溯,即判读其为模型体量、训练速度和准确度中的哪一种不符合预期,若训练后得到的检测模型过大或者检测速度慢时,则调整或更换轻量级网络模型,来减小检测模型。由于目标较远,使得交通信号灯像素尺度较小,如果训练后得到的检测模型对于这类目标漏检率高时,则对于进行多尺度检测的融合层进行更改,融合更浅层网络,提高对小目标的检测精度。以此修正方案,获得最终符合应用需求的交通信号灯识别模型。
步骤S30:对存在交通信号灯目标的图像信息进行类别标注。
具体的,完成信号灯识别后,基于信号灯的识别结果,对当前图像信息进行类别标注,包含的类别至少包括:红色信号灯、黄色信号灯、绿色信号灯、红色左转信号灯、绿色左转信号灯中的一种或多种。
步骤S40:基于类别标注结果触发对应预设的报警信息,并将所述报警信息实时推送到车载终端。
具体的,基于标注结果输出对应的提醒信息,例如,当识别结果为红色信号灯、黄色信号灯或红色左转信号灯,表示需要注意减速,则输出对应的报警信息,并展示当前报警信息,通过设备声音报警提醒或车载显示器现实报警信息提醒。若其他类别标注结果,则仅需要输出“前方存在路口,请谨慎慢行”等警醒式提醒信息便可。通过输出不同的提醒信息,对驾驶行为进行预警干预,保证驾驶安全。
在本发明实施例中,本发明方案能够在各种复杂场景下正确识别到交通信号灯的信息,提高了对交通信号灯的分辨能力;能够在较远的距离识别到交通信号灯的信息,进而对驾驶员进行提醒和预警,使他们有足够的时间应对;结合轻量化的方法,减少了网络中参数量和计算量,提升了训练及检测速度,降低了对硬件部署成本,并且能够实时的对交通信号灯进行识别,及时的对驾驶员进行提醒和预警,具有实际应用价值。
图2是本发明一种实施方式提供的基于信号灯识别的驾驶行为预警系统的系统结构图。如图2所示,本发明实施方式提供一种基于信号灯识别的驾驶行为预警系统,所述系统包括:
采集单元,用于采集车辆行进方向的实时图像;处理单元,用于:基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;对存在交通信号灯目标的图像进行类别标注;人机交互单元,用于基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。
本发明实施方式还提供一种计算机可读储存介质,该计算机可读存储介质上储存有指令,其在计算机上运行时使得计算机执行上述的基于信号灯识别的驾驶行为预警方法。
本领域技术人员可以理解实现上述实施方式的方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序存储在一个存储介质中,包括若干指令用以使得单片机、芯片或处理器(processor)执行本发明各个实施方式所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上结合附图详细描述了本发明的可选实施方式,但是,本发明实施方式并不限于上述实施方式中的具体细节,在本发明实施方式的技术构思范围内,可以对本发明实施方式的技术方案进行多种简单变型,这些简单变型均属于本发明实施方式的保护范围。另外需要说明的是,在上述具体实施方式中所描述的各个具体技术特征,在不矛盾的情况下,可以通过任何合适的方式进行组合。为了避免不必要的重复,本发明实施方式对各种可能的组合方式不再另行说明。
此外,本发明的各种不同的实施方式之间也可以进行任意组合,只要其不违背本发明实施方式的思想,其同样应当视为本发明实施方式所公开的内容。
Claims (10)
1.一种基于信号灯识别的驾驶行为预警方法,其特征在于,所述方法包括:
采集车辆行进方向的实时图像;
基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;
对存在交通信号灯目标的图像进行类别标注;
基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。
2.根据权利要求1所述的方法,其特征在于,所述采集车辆行进方向的实时图像,包括:
基于多个预设角度进行车辆行进方向的视频信息采集,获得多个角度的视频信息;
基于预设时间间隔进行各视频的图像分帧处理,获得每个视频信息的多个图像;
将每一时刻的各视频信息图像整合作为对应时刻的采集图像,获得车辆行进方向的实时图像。
3.根据权利要求2所述的方法,其特征在于,所述基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标,包括:
对每一时刻的多个图像分别进行是否存在交通信号灯目标判断,过滤掉不存在交通信号灯目标的图像,保留存在交通信号灯目标的初选图像;
若同一时刻保留有多个存在交通信号灯目标的初选图像,则对比该时刻保留的多个初选图像,筛选出交通信号灯目标的坐标最靠近图像中心点的初选图像作为存在交通信号灯目标的图像;
若同一时刻仅保留有一个存在交通信号灯目标的初选图像,直接将该初选图像作为存在交通信号灯目标的图像。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
构建交通信号灯识别模型,包括:
采集多场景下的交通信号灯图像;其中,
所述多场景至少包括:不同天气场景、不同时间场景、与交通信号灯之间的不同距离场景、不同遮挡程度场景;
对所述多场景下的交通信号灯图像进行类别标注,将每一图像归类到对应类别体系中;其中,所述类别体系包括:红色信号灯、黄色信号灯、绿色信号灯、红色左转信号灯、绿色左转信号灯中的一种或多种;
将所述多场景下的交通信号灯图像作为训练样本,在预构建的神经网络中进行训练,获得交通信号灯识别模型。
5.根据权利要求4所述的方法,其特征在于,所述预构建的神经网络的特征提取网络为轻量级卷积网络;所述轻量级卷积网络包括:
Mobilenet系列网络、Shufflenet系列网络、SNet网络、SqueezeNet系列网络和Xception系列网络中的任意一种;
所述预构建的神经网络的特征融合网络为多尺度检测识别网络;所述多尺度检测识别网络包括:
Pvanet网络、RFBNet网络和FPN网络中的任意一种。
6.根据权利要求5所述的方法,其特征在于,所述将多场景下的交通信号灯图像作为训练样本,在预构建的神经网络中进行训练,获得交通信号灯识别模型,包括:
在包含Mobilenet系列网络、Shufflenet系列网络、SNet网络、SqueezeNet系列网络和Xception系列网络中的任意一种轻量级卷积网络和Pvanet网络、RFBNet网络和FPN网络中的任意一种多尺度检测识别网络的预构建神经网络中进行模型训练,获得一个候选模型;
对所述候选模型进行分析,判断其是否符合预期标准;
若所述候选模型不符合预期标准,则更改所述预构建神经网络的轻量级卷积网络和/或多尺度检测识别网络,并重新进行模型训练,获得新的候选模型,并对所述新的候选模型进行分析;
重复上述候选模型分析步骤和重新训练步骤,直到获得符合预期标准的交通信号灯识别模型。
7.根据权利要求6所述的方法,其特征在于,所述对所述候选模型进行分析,判断其是否符合预期,包括:
对比所述候选模型体量和预设模型体量,若所述候选模型体量大于所述预设模型体量,则判定候选模型的模型体量不符合预期标准;
对比所述候选模型的训练速度和预设训练速度,若所述候选模型训练速度大于所述预设训练速度,则判定候选模型的训练速度不符合预期标准;
选择多个与交通信号灯之间的不同距离场景的图像信息作为检测样本进行所述候选模型训练,对比识别结果与预先标注结果,当所述对比识别结果与预先标注结果完全对应的数量在所述检测样本数量中的占比小于预设占比阈值时,判定候选模型的准确度不符合预期标准;
仅当模型体量、训练速度和准确度均符合预期标准时,才判定所述候选模型符合预期标准。
8.根据权利要求1所述的方法,其特征在于,所述对存在交通信号灯目标的图像进行类别标注,包括:
使用label标注方法进行所述类别标注;所述类别至少包括:
红色信号灯、黄色信号灯、绿色信号灯、红色左转信号灯、绿色左转信号灯中的一种或多种。
9.一种基于信号灯识别的驾驶行为预警系统,其特征在于,所述系统包括:
采集单元,用于采集车辆行进方向的实时图像;
处理单元,用于:
基于预设交通信号灯识别模型对所述实时图像进行处理,判断图像内是否存在交通信号灯目标;
对存在交通信号灯目标的图像进行类别标注;
人机交互单元,用于基于类别标注结果触发对应的预设报警信息,并将所述报警信息实时推送到车载终端。
10.一种计算机可读储存介质,该计算机可读存储介质上储存有指令,其在计算机上运行时使得计算机执行权利要求1-8中任一项权利要求所述的基于信号灯识别的驾驶行为预警方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210531444.2A CN114926815A (zh) | 2022-05-16 | 2022-05-16 | 基于信号灯识别的驾驶行为预警方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210531444.2A CN114926815A (zh) | 2022-05-16 | 2022-05-16 | 基于信号灯识别的驾驶行为预警方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114926815A true CN114926815A (zh) | 2022-08-19 |
Family
ID=82808692
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210531444.2A Pending CN114926815A (zh) | 2022-05-16 | 2022-05-16 | 基于信号灯识别的驾驶行为预警方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114926815A (zh) |
-
2022
- 2022-05-16 CN CN202210531444.2A patent/CN114926815A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110188807B (zh) | 基于级联超分辨率网络与改进Faster R-CNN的隧道行人目标检测方法 | |
CN113284366B (zh) | 车辆盲区预警方法、预警装置、mec平台和存储介质 | |
US8064643B2 (en) | Detecting and recognizing traffic signs | |
US7724962B2 (en) | Context adaptive approach in vehicle detection under various visibility conditions | |
US8184159B2 (en) | Forward looking sensor system | |
Chen et al. | Nighttime brake-light detection by Nakagami imaging | |
CN106909937A (zh) | 交通信号灯识别方法、车辆控制方法、装置及车辆 | |
CN110555347B (zh) | 具有危险载货行为的车辆目标识别方法、装置及电子设备 | |
CN109711264A (zh) | 一种公交车道占道检测方法及装置 | |
CN110895662A (zh) | 车辆超载报警方法、装置、电子设备及存储介质 | |
Hechri et al. | Robust road lanes and traffic signs recognition for driver assistance system | |
Bell et al. | A novel system for nighttime vehicle detection based on foveal classifiers with real-time performance | |
Salarian et al. | A vision based system for traffic lights recognition | |
Biswas et al. | Detection and classification of speed limit traffic signs | |
CN110634324A (zh) | 一种基于车载终端的礼让行人的提醒方法、系统及车载终端 | |
CN111383248B (zh) | 一种行人闯红灯判断方法、装置和电子设备 | |
Helala et al. | Road boundary detection in challenging scenarios | |
Arthi et al. | Object detection of autonomous vehicles under adverse weather conditions | |
CN114926815A (zh) | 基于信号灯识别的驾驶行为预警方法及系统 | |
Al Khafaji et al. | Traffic Signs Detection and Recognition Using A combination of YOLO and CNN | |
Nine et al. | Traffic Light and Back-light Recognition using Deep Learning and Image Processing with Raspberry Pi | |
CN113581059A (zh) | 灯光调节方法及相关装置 | |
Biswas et al. | LVQ and HOG based speed limit traffic signs detection and categorization | |
Abrougui et al. | Convolutional Neural Network for Vehicle Detection in A Captured Image | |
Yang et al. | Deep Traffic Light Perception with Spatiotemporal Analysis for Autonomous Driving |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |