CN109711379A - 一种复杂环境交通信号灯候选区域提取及识别方法 - Google Patents
一种复杂环境交通信号灯候选区域提取及识别方法 Download PDFInfo
- Publication number
- CN109711379A CN109711379A CN201910002424.4A CN201910002424A CN109711379A CN 109711379 A CN109711379 A CN 109711379A CN 201910002424 A CN201910002424 A CN 201910002424A CN 109711379 A CN109711379 A CN 109711379A
- Authority
- CN
- China
- Prior art keywords
- image
- traffic signal
- signal lamp
- value
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 238000012545 processing Methods 0.000 claims abstract description 46
- 238000000605 extraction Methods 0.000 claims abstract description 20
- 238000010586 diagram Methods 0.000 claims abstract description 17
- 230000011218 segmentation Effects 0.000 claims description 27
- 230000000877 morphologic effect Effects 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000012216 screening Methods 0.000 claims description 13
- 238000012549 training Methods 0.000 claims description 12
- 239000013598 vector Substances 0.000 claims description 11
- 230000004927 fusion Effects 0.000 claims description 7
- 238000003672 processing method Methods 0.000 claims description 4
- 230000001149 cognitive effect Effects 0.000 abstract 1
- 239000000284 extract Substances 0.000 abstract 1
- 230000008447 perception Effects 0.000 description 33
- 238000001514 detection method Methods 0.000 description 20
- 238000004364 calculation method Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 238000013507 mapping Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000012937 correction Methods 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 235000002566 Capsicum Nutrition 0.000 description 1
- 239000006002 Pepper Substances 0.000 description 1
- 235000016761 Piper aduncum Nutrition 0.000 description 1
- 235000017804 Piper guineense Nutrition 0.000 description 1
- 244000203593 Piper nigrum Species 0.000 description 1
- 235000008184 Piper nigrum Nutrition 0.000 description 1
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 150000003839 salts Chemical class 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
本发明公开了一种复杂环境交通信号灯候选区域提取及识别方法。本发明的提取交通信号灯候选区域时,通过避开直接从灰度图像处理的方式,将对图像的处理以提取多层图像信息的感知模型,以及张量结构化的方式进行。有效去除了原始图像中冗余杂乱的区域,得到了更加精准的分割图像。同时在关联图像集抽取时结合关联元素之间的时域互相关信息从而更好的保留了图像中交通信号灯的内容。识别阶段从以感知模型为基础构建的结构张量出发提取张量内部特征,有效提高了识别精度。本发明兼顾了简单背景和复杂背景下的目标提取,准确度高,鲁棒性好。
Description
技术领域
本发明属于智能交通和计算机视觉技术领域,具体涉及对交通信号灯的特征提取即检测处理。
背景技术
随着汽车的逐渐普及,城市交通安全和路口通行效率等问题日益突出。为了有效降低交通事故的发生几率,基于机器视觉与模式识别技术的道路交通信号灯识别技术就成了智能交通系统的一个重要研究领域,同时也是无人驾驶车辆研究的关键技术和难点之一。交通信号灯识别的核心在于算法。目前,尽管计算机技术和人工智能技术在快速发展,目标检测和识别的算法在不断涌现,但由于交通信号灯本身颜色与环境光线的多变性,城市背景环境的复杂性,以及实时性的要求等,导致现有算法应用于交通信号灯识别研究时,不能很好的处理上述问题,而现有的交通信号灯识别研究仅局限于简单背景场景下的机动车信号灯检测。
交通信号灯一般多分布在城市道路的十字路口,国内的交通信号灯根据地域的不同主要分为圆形交通信号灯和箭头指向的交通信号灯。现有的大多数算法主要是对圆形交通信号灯进行检测和识别。例如文献《Nathaniel Fairfield,Chris Urmson.TrafficLight Mapping and Detection[C].IEEE International Conference on Robotics andAutomation.2011》公开的一种基于位置映射方式进行交通信号灯的检测和识别,其主要思想是先通过google map以及GPS信息确定各个路口的交通信号灯的位置,然后对这些位置上的交通信号灯进行编码得到道路交通信号灯的位置映射图。之后在获取的图片上进行对应位置的交通信号灯检测。同时对这个位置检测窗口设置一个误差范围。在误差允许的范围内进行交通信号灯的搜索。获得交通信号灯的感兴趣区域之后,再将图片放入到分类器中进行分类识别,最后再进行相关的信息融合之后获得交通信号灯区域。这种方法可以建立圆形交通信号灯以及方向指示灯的映射图。
但是,由于交通信号灯的目标较小,受周围环境和光照变化影响较大,所以对城市环境中的交通信号灯的识别有很大的难度。其中主要的难点在于对交通信号灯的分割。上述的基于位置映射方式中提出了利用多阈值最大均方误差的方法进行交通信号灯目标的提取,这种方法通过将图像中的物体分为多个类,通过计算最大类间方差得到分割阈值。但这种方法复杂度较高,且无法准确确定图像中的物体分类类别。会带来较大的计算误差。
发明内容
本发明的发明目的在于:针对上述存在的问题,提供一种用于交通信号灯识别处理系统的特征提取方法。
本发明的复杂环境交通信号灯候选区域提取方法,包括下列步骤:
步骤1:提取图像的多层图像信息:
步骤101:提取第一层图像:
基于待处理图像I的不同颜色通道下的图像Ic,进行像素级的图像信息提取处理,得到第一层图像L1,其中c为颜色通道区分符;
所述第一层图像L1的各像素点的像素值L1(x,y):在以当前像素点(x,y)为中心的预设窗口内,分别计算窗口内各像素点的在所有颜色通道中的最小像素值,得到窗口内每个像素点的第一像素值;再取窗口内的第一像素值的最小值作为当前像素点(x,y)的像素值;
步骤102:提取第二层图像:
为每个颜色通道分别设置一个模糊系数δc∈(0,1),模糊系数δc下的不同分辨率图像Rδi,再基于预设的权重,对各图像Rδi进行加权融合得到第一融合图像Rc;
图像Rδi的获取方式为:其中,Rδi(x,y)、I(x,y)分别表示图像Rδi、I在像素点(x,y)处的像素值,参数k的取值范围为k∈(3,7)。
再根据得到第二层图像L2的各像素值L2(x,y),其中α为预设权重,且0<α<1;G表示预设的高斯滤波函数,即对图像进行高斯滤波操作。
步骤103:提取第三层图像:
对第一和第二层图像进行像素级的加权融合,得到第三层图像L3;
步骤2:构造关联图集:
基于视频序列每一帧的第三层图像L3,确定各帧图像的第一关联图集:当前帧图像及其一定数量的近邻帧图像;
并计算第一关联图集中的各近邻帧图像分别与当前帧图像之间的方差,记为Dn,其中n为近邻帧图像的区分符;
基于预设的方差阈值,将第一关联图集中方差大于方差阈值的近邻帧删除,得到第二关联图集;
根据公式得到图像其中Num表示第二关联图集的图像数量,j为第二关联图集中的不同图像区分符,表示第二关联图集中的第j幅图像在像素点(x,y)处的像素值;
步骤3:对图像进行对象分割和形态学处理,得到每帧图像的交通信号灯候选区域(包含背板):
步骤301:确定分割阈值:
分别对第二关联图集中的各幅图像进行对象分割处理,并统计不同类型对象在整个图像中所占的比例,记为其中i为对象类别标识符;
再分别计算第二关联图集中的各图像的阈值参考值F,再从中选择最大值作为分割阈值;
其中其中μi表示第i类对象的均值,μt表示的以t为分割点所得到的整个图像的均值,T表示对象类别数;
步骤302:基于分割阈值,对图像进行对象分割处理,得到不同对象的分割图像J′;
步骤303:对分割图像J′进行形态学处理,得到图像L;
其中图像L的各像素值为:A表示形态学操作的核矩阵,其是一个大小可变的矩阵,矩阵中的数值由0,1组成,表示的是矩阵A的共轭,z表示变换域,J′(x,y)表示分割图像J′的像素值;
步骤304:对图像L进行滑窗调整处理,得到调整处理后的图像L′:
其中图像L′的各像素值L′(x,y)为:K表示滑窗尺寸;
步骤305:对步骤304得到的图像L′进行筛选处理,将满足筛选条件的图像L′作为每帧图像的交通信号灯候选区域;
其中筛选条件为:图像面积大于设定的面积阈值,且图像的宽高比小于设定的宽高比阈值。
进一步的,为了实现对提取到的交通信号灯候选区域的识别检测处理,本发明还公开了一种复杂环境交通信号灯识别方法,包括下列步骤:
(1)特征提取处理:
构建相邻两帧待提取特征的图像的张量空间,再提取邻两帧的张量空间中间的距离空间特征;
在距离空间中筛选关键特征点,作为各交通信号灯候选区域的特征向量;
(2)训练交通信号灯识别分类器:
采集用于交通信号灯识别的训练样本,并按照步骤(1)的特征提取方式提取各训练样本的特征向量;
基于训练样本的特征向量进行交通信号灯识别的分类器训练,并将训练好的分类器作为交通信号灯识别分类器,用于判断待识别图像是否存在交通信号灯,即对交通信号灯的二分类检测;
(3)提取待识别图像的交通信号灯候选区域,并按照步骤(1)的特征提取方式提取各交通信号灯候选区域的特征向量,输入交通信号灯识别分类器,获取交通信号灯识别处理结果。
综上所述,由于采用了上述技术方案,本发明的有益效果是:
(1)构建的深度感知模型时,从不同的维度对图像进行描述,构建建适合场景应用的N层感知模型。该深度感知模型对目标区域的凸显有良好表现。
(2)构建视频帧序列的关联图集时,从最大后验概率和互信息熵的角度出发,对所构建的深度感知模型进行优化。最大程度的利用了视频帧序列的相关性信息。使得模型的精细化程度有很大提升。
(3)兼顾了简单背景与复杂背景下的交通信号灯检测。对类似的目标检测任务具有良好的可移植性。算法鲁棒性,时效性较强。
附图说明
图1是本发明的处理流程示意图;
图2是本发明与现有处理方式(基于位置映射方式进行交通信号灯的检测和识别)在对交通信号灯进行检测处理时的处理过程及检测效果的第一组对比图。其中,2-a为原始的RGB彩色图像,2-b和2-c分别为原始的RGB彩色图像的灰度图像和模式图像;2-d、2-f、2-h和2-j依次为灰度图像2-b的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图;2-e、2-g、2-i和2-k依次为模式图像2-c的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图;
图3是本发明与现有处理方式在对交通信号灯进行检测处理时的处理过程及检测效果的第二组对比图。其中,3-a为原始的RGB彩色图像,3-b和3-c分别为原始的RGB彩色图像的灰度图像和模式图像;3-d、3-f、3-h和3-j依次为灰度图像3-b的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图;3-e、3-g、3-i和3-k依次为模式图像3-c的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图;
图4是本发明与现有处理方式在对交通信号灯进行检测处理时的处理过程及检测效果的第一组对比图。其中,4-a为原始的RGB彩色图像,4-b和4-c分别为原始的RGB彩色图像的灰度图像和模式图像;4-d、4-f、4-h和4-j依次为灰度图像4-b的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图;4-e、4-g、4-i和4-k依次为模式图像4-c的二值图像、形态学处理后的图像、目标二值图像和识别处理结果图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面结合实施方式和附图,对本发明作进一步地详细描述。
为了解决交通信号灯的准确分割和提取的技术问题,本发明通过构建图像整体深度感知模型,同时结合视频序列目标运动连续性进行交通信号灯目标的检测和识别。深度感知模型的构建以发光交通信号灯自身特点为基础,并结合图像中与交通信号灯相关的结构性特征以及图像整体色彩空间分布特性来完成。从而有效去除图像中杂乱背景以及光照的影响。在获得深度感知模型之后对感知模型图像进行分割,目标提取。同时建立关联图像集,计算关联图像集中元素的最大后验概率估计与互信息熵。通过关联性指标对关联图像集进行元素抽取,进而构建基于时间连续性的可信度结构张量。最后从构建的张量空间提取特征放入到预训练好的模型中进行交通信号灯的预测。本方法避开直接从灰度图像处理的方式,将对图像的处理以感知模型和张量结构化的方式进行。有效去除了原始图像中冗余杂乱的区域,得到了更加精准的分割图像。同时在关联图像集抽取时结合关联元素之间的时域互相关信息从而更好的保留了图像中交通信号灯的内容。识别阶段从以感知模型为基础构建的结构张量出发提取张量内部特征,有效提高了识别精度。本发明兼顾了简单背景和复杂背景下的目标提取,准确度高,鲁棒性好。
参见图1,本发明中对交通信号灯的检测处理具体包括下列步骤:
(1)交通信号灯图像采集。
通过车载网络相机收集和获取包含交通信号灯的视频序列,所获取的视频序列大小记为M*N。
(2)构建深度感知模型。
深度感知模型的构建需要首先获得整体图像中的较暗区域,在整个感知模型中暗区域作为最底层,记为L1,其通过下述底层模型计算得到:
式中,Jc表示彩色图像的不同颜色通道,即红(r)、绿(g)、蓝(b)三种颜色通道,Jd(p)表示最底层中像素点p处的像素值,Jc(q)表示在第c个通道图像中的像素点q处的像素值,Ω(p)表示以像素点p为中心的一个窗口,实际操作中可根据实践经验设定窗口为方形,对应的尺寸表示为A*A。
获取最底层的感知模型之后,由于底层模型承载的是图像的暗区域特征,在底层模型中仍然保留着许多零散的亮点区域,这些亮点区域构成的椒盐噪声很大程度上干扰了交通信号灯区域的提取。因此考虑加入次感知层消除过亮边缘区域的影响。
记次感知层为L2,L2的构建由下述公式来进行:
log(Rc(x,y))=ω1·log(Rδ1(x,y))+ω2·log(Rδ2(x,y))+ω3·log(Rδ3(x,y)) (3)
其中,Rδi(x,y)表示在模糊系数δi的条件下得到的不同分辨率图像的任意像素值,即图像Rδi的图像信息,其中i=1,2,3。I(x,y)表示原始图像I在(x,y)坐标处的像素值,k是一个可变参数,且k∈(0,1]。具体实施方式中,设置为0.35,用来控制对原始图像的模糊程度;Rc(x,y)表示的是由三个不同分辨率图像按照不同的权值组合得到的图像的任意像素值,用来控制图像特征的提取质量和规避某些非必需特征(因为在不同的分辨率下从图像中得到的特质是不同的),α是一个可调参数用于控制原始图像在第一层深度感知模型里的权重,Ic(x,y)表示的是在第c个颜色通道图像中坐标(x,y)处的像素值。
整个的计算过程中需要满足的约束条件是:ω1+ω2+ω3=1,ωi>0,(i=1,2,3);其中ωi表示的是不同尺度下的图像对L2层的贡献。联合式(2),(3)和(4),通过非线性约束规划求解最终的权值和输出图像Rf。
之后构建深度感知模型的最后一层记忆层L3。记忆层是在前两层的基础上获得的通过对L1,L2层的图像进行K倍下采样同时按一定的权重进行组合得到的。
L3=θ1·L1+θ2·L2 (5)
其中,θ1,θ2表示的是L1,L2在记忆层中的权重。满足约束条件:θ1+θ2=1,θi>0(i=1,2)。最终将记忆层L3作为深度感知模型的输出。
(3)构造关联图集。
求解视频序列中每一帧图像的深度感知模型,将最终的记忆层L3作为输出。
确定视频序列每一帧的第一关联图集:当前帧图像及其近邻帧图像;本具体实施方式中,以当前帧的前后各两帧作为其近邻帧。特别的,对于视频序列的前端和末端不足以构成足够数量的近邻帧的情况,以前后两帧作为近邻帧的情况,对于视频序列的最前面两帧(第1、2帧)和最后面两帧(倒数第1、2帧),则可以通过基于当前帧或存在的近邻帧进行扩展后补齐的方式组成;亦或是直接跳过最前面两帧和最后面两帧的相关处理。
并基于第一关联图集中各图像的第三层图像L3,计算第一关联图集中的各近邻帧图像分别与当前帧图像之间的方差;
本具体实施方式中,记当前帧的及其前后各两帧图像的深度感知模型为x10,x20,x00,x01,x02,其中x00表示的是当前帧图像。则每一组5张图像中前后两帧图像相对于当前帧的方差为:D10,D20,D01,D02。
然后,基于预设的方差阈值,记为D0,将第一关联图集中方差大于方差阈值D0的近邻帧删除,得到第二关联图集,即经过筛选后留下的关联图集;
基于第二关联图集计算通用感知模型,记为μ(x,y)。假设对原始的每一组中5张图像进行筛选之后留下的图像为Num张。通用感知模型的计算按下式来进行。
其中Ii(x,y)表示的是经筛选之后得到的深度感知模型,即记忆层L3对应的图像信息。
在得到通用感知模型之后,为了充分利用帧间关系考虑使用视频序列的时序连续性。
其中,Di(i=1,2,3,4)分别表示每一组5张图像中前后各两帧图像相对于当前帧的方差,即Di D1=D10,D2=D20,D3=D01,D4=D02。
t为帧标识符,p(s)表示的是交通信号灯的先验概率,p(·)表示的是交通信号灯的条件先验概率,s为统计变量,取值为0或1,即s表示有无交通信号灯,Θ表示统计变量s的取值组成的集合,即{0,1},(di,l(t),μi(t))表示的是相邻两帧图片的协方差和均值构成的点对。
用来衡量两帧图像之间相关程度,即衡量所构造的深度感知模型的准确度,通过一个预设阈值来判定,若大于该阈值阈值,则认为其准确,否则不准确。本具体实施方式中,的阈值设置为0.9,若满足则判定当前对应的深度感知模型准确。若深度感知模型被认为为不准确,则需要调整深度感知模型对应的参数,如权重(ω1、ω2、ω2、α、θ1、θ2)、可变参数k、高斯函数G等,直到得到的深度感知模型为准确的。
而是用来计算的可信度,用以衡量计算的可靠程度,同深度感知模型的准确度,将大于的阈值的判定为可信,否则为不可信。本具体实施方式中,的阈值设置为0.7,若满足则判定当前对应的可信。不可信时,则需要相应的调整深度感知模型的对应参数,直到满足。
φ表示违背量,用以衡量相关性误差可接受范围,取值限定为φ<0.2。
本发明通过φ这两个指标,可以将帧间泛化误差控制在[0,0.3]之间。
φ的计算中f(t)取当前帧的深度感知模型I(x,y)。
(4)通过关联图集得到当前帧的精确深度感知模型之后,需要对此模型进行分割,形态学处理等操作。获取比较完整的包含背板区域的交通信号灯区域。
对得到的模型进行对象分割,得到对象分割结果,并统计不同类型对象在整个图像中所占的比例,计算公式为:
其中,表示类别i在整个图像中所占的比例,即一幅图像中的对象可以被分割为多个类别,那么表示的就是第i类对象在整个图像中的比例;Ni表示第i类对象在图像中所占的像素数,M、N分别表示的是原始图像的宽和高。对于满足其中T表示对象类别数。
以及根据下式计算阈值参考值F:
其中,μi表示的是第i类对象的均值,μt表示的以t为分割点所得到的整个图像的均值。
由筛选之后留下的Num张图像所分别对应的阈值参考值F中选择最大值作为各类对象的分割阈值,即{t1,t2,t3…tT}=argmax(F),其中ti表示第i类对象。
然后,再基于分割阈值,对图像进行对象分割处理,得到不同对象的分割图像J′;接着继续对各分割图像J′进行形态学处理,得到图像L;
根据下式计算形态学操作之后的图像的各像素值L(x,y):
A表示一个大小可变的矩阵,矩阵中的数值由0,1组成,表示的是矩阵A的共轭,z表示变换域.J'(x,y)表示的是分割之后的图像的像素值;
对L(x,y)进行调整处理,得到其调整结果L'(x,y):
K根据实际要求进行取值。建议取值范围为[3,15],m,n表示的是滤波器滑动窗口的高和宽。
将基于公式(15)调整后得到的各图像L'作为初始交通信号灯候选区域,并通过校正函数verity()对得到的这些初始交通信号灯候选区域进行筛选处理,得到交通信号灯候选区域。其中校正函数verity()具体为:通过面积以及宽高比对候选区域进行筛选,当候选区域的面积大于设定的面积阈值S0(一般取S0=75)时,并且宽高比小于设定的宽高比阈值(优选值为0.35)时将当前候选区域删除,否则保留。
通过上述的一系列操作之后可以很好的消除深度感知模型中存在的噪声。去除大部分对交通信号灯有效区域提取产生干扰的成分。获取比较明显的交通信号灯有效区域。
(5)构建结构张量。
经过步骤(1),(2),(3),(4)获取到了比较完整而且精细化的深度感知模型,同时也获得了精确的交通信号灯有效区域。
为了更加准确的对交通信号灯进行识别,本发明采用构建结构张量的方式,在张量空间进行特征的提取。
首先,构建相邻时刻(相邻两帧)的张量空间St、Tt+1,由于本具体实施方式中,采用的是三层度感知模型,故所构建的张量为3*2*1的三维结构张量。
然后基于相邻时刻的张量空间St、Tt+1提取距离空间特征:
式中,ki(i=1,2,3)表示张量中的三个不同的维度,Ki(i=1,2,3)表示每个维度中的元素个数,且有K1=3,K2=2,K3=1,n=2。
通过计算张量之间的距离构建基于Ln范数的距离空间。距离空间由式(17)计算得到,其中本发明采用张量的L2范数。计算中需要对张量进行对角化处理,计算张量的对角化矩阵,即将两个张量空间进行张量分解,得到St=EΛE-1,Tt+1=BΛB-1,其中E是一个单位矩阵,Λ是一个对角矩阵,通过分解得到的张量空间St的特征向量,B是一个可逆矩阵,Λ是一个对角矩阵,即张量空间Tt+1的特征矩阵。
之后在距离空间中寻找SIFT(Scale-invariant feature transform)关键特征点。将特征点以向量的形式放入SVM(支持向量机)分类器中进行训练。训练完成过后对测试集中的图片进行预测。输出最终的识别结果。
为了进一步说明本发明的检测性能,对本发明方法与现有方法(基于位置映射方式进行交通信号灯的检测和识别)进行了对比试验,图2~图4分别给出了三组不同检测对象(图2-a、图3-a,图4-a)的处理过程及检测效果,由图可见,本发明对目标区域的凸显效果更好。
表1处理性能对比表
表1中,各参数的含义具体如下:TP:真实标签为真,预测也为真;TN:真实标签为真,预测为假;
FP:真实标签为假,预测为真;FN:真实标签为假,预测为假。
通过上表的混淆矩阵可以看出,本发明中的准确率为92.1626%远远大于传统算法的30.8824%,从F-score(综合准确度和召回率的指标)可以看出本发明的模型泛化能力更强,具有更好的鲁棒性。可以更好的适应现实场景中的情况。
以上所述,仅为本发明的具体实施方式,本说明书中所公开的任一特征,除非特别叙述,均可被其他等效或具有类似目的的替代特征加以替换;所公开的所有特征、或所有方法或过程中的步骤,除了互相排斥的特征和/或步骤以外,均可以任何方式组合。
Claims (7)
1.一种复杂环境交通信号灯候选区域提取方法,其特征在于,包括下列步骤:
步骤1:提取图像的多层图像信息:
步骤101:提取第一层图像:
基于待处理图像I的不同颜色通道下的图像Ic,进行像素级的图像信息提取处理,得到第一层图像L1,其中c为颜色通道区分符;
所述第一层图像L1的各像素点的像素值L1(x,y):在以当前像素点(x,y)为中心的预设窗口内,分别计算窗口内各像素点的在所有颜色通道中的最小像素值,得到窗口内每个像素点的第一像素值;再取窗口内的第一像素值的最小值作为当前像素点(x,y)的像素值;
步骤102:提取第二层图像:
为每个颜色通道分别设置一个模糊系数δc∈(0,1),模糊系数δc下的不同分辨率图像Rδi,再基于预设的权重,对各图像Rδi进行加权融合得到第一融合图像Rc;
图像Rδi的获取方式为:其中,Rδi(x,y)、I(x,y)分别表示图像Rδi、I在像素点(x,y)处的像素值,参数k的取值范围为k∈(3,7);
再根据得到第二层图像L2的各像素值L2(x,y),其中α为预设权重,且0<α<1;G表示预设的高斯滤波函数;
步骤103:提取第三层图像:
对第一和第二层图像进行像素级的加权融合,得到第三层图像L3;
步骤2:构造关联图集:
基于视频序列每一帧的第三层图像L3,确定各帧图像的第一关联图集:当前帧图像及其一定数量的近邻帧图像;
并计算第一关联图集中的各近邻帧图像分别与当前帧图像之间的方差,记为Dn,其中n为近邻帧图像的区分符;
基于预设的方差阈值,将第一关联图集中方差大于方差阈值的近邻帧删除,得到第二关联图集;
根据公式得到图像其中Num表示第二关联图集的图像数量,j为第二关联图集中的不同图像区分符,表示第二关联图集中的第j幅图像在像素点(x,y)处的像素值;
步骤3:对图像进行对象分割和形态学处理,得到每帧图像的交通信号灯候选区域:
步骤301:确定分割阈值:
分别对第二关联图集中的各幅图像进行对象分割处理,并统计不同类型对象在整个图像中所占的比例,记为θi,其中i为对象类别标识符;
再分别计算第二关联图集中的各图像的阈值参考值F,再从中选择最大值作为分割阈值;
其中F=θ1·(μ1-μt)2+θ2·(μ2-μt)2+θ3·(μ3-μt)2+…θT·(μT-μt)2,其中μi表示第i类对象的均值,μt表示的以t为分割点所得到的整个图像的均值,T表示对象类别数;
步骤302:基于分割阈值,对图像进行对象分割处理,得到不同对象的分割图像J′;
步骤303:对分割图像J′进行形态学处理,得到图像L:其中A表示形态学操作的核矩阵,核矩阵中的数值由0,1组成,L(x,y)表示图像L的像素值;
步骤304:对图像L进行滑窗调整处理,得到调整处理后的图像L′:其中,K表示滑窗尺寸,L′(x,y)表示图像L′的像素值;
步骤305:对步骤304得到的图像L′进行筛选处理,将满足筛选条件的图像L′作为每帧图像的交通信号灯候选区域;
其中筛选条件为:图像面积大于设定的面积阈值,且图像的宽高比小于设定的宽高比阈值。
2.如权利要求1所述的方法,其特征在于,步骤102中,参数k的优选取值为0.35。
3.如权利要求1所述的方法,其特征在于,步骤305中,面积阈值的优选取值为75。
4.如权利要求1所述的方法,其特征在于,步骤305中,宽高比阈值的优选取值为0.35。
5.如权利要求1所述的方法,其特征在于,步骤1中,所述颜色通道包括红、绿、蓝三种颜色通道。
6.一种复杂环境交通信号灯识别处理方法,其特征在于,包括下列步骤:
(1)特征提取处理:
构建相邻两帧待提取特征的图像的张量空间,再提取相邻两帧的张量空间中间的距离空间特征;
在距离空间中筛选关键特征点,作为各交通信号灯候选区域的特征向量;
(2)训练交通信号灯识别分类器:
采集用于交通信号灯识别的训练样本,并按照步骤(1)的特征提取方式提取各训练样本的特征向量;
基于训练样本的特征向量进行交通信号灯识别的分类器训练,并将训练好的分类器作为交通信号灯识别分类器,用于判断待识别图像是否存在交通信号灯;
(3)按照权利要求1~5任意一项权利要求所述的方法,提取待识别图像的交通信号灯候选区域,并按照步骤(1)的特征提取方式提取各交通信号灯候选区域的特征向量,输入交通信号灯识别分类器,获取交通信号灯识别处理结果。
7.如权利要求6所述的方法,其特征在于,所述分类器训练为SVM分类器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910002424.4A CN109711379B (zh) | 2019-01-02 | 2019-01-02 | 一种复杂环境交通信号灯候选区域提取及识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910002424.4A CN109711379B (zh) | 2019-01-02 | 2019-01-02 | 一种复杂环境交通信号灯候选区域提取及识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109711379A true CN109711379A (zh) | 2019-05-03 |
CN109711379B CN109711379B (zh) | 2022-03-15 |
Family
ID=66260625
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910002424.4A Active CN109711379B (zh) | 2019-01-02 | 2019-01-02 | 一种复杂环境交通信号灯候选区域提取及识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109711379B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110097026A (zh) * | 2019-05-13 | 2019-08-06 | 北京邮电大学 | 一种基于多维要素视频分割的段落关联规则评判方法 |
CN110119725A (zh) * | 2019-05-20 | 2019-08-13 | 百度在线网络技术(北京)有限公司 | 用于检测信号灯的方法及装置 |
CN110197135A (zh) * | 2019-05-13 | 2019-09-03 | 北京邮电大学 | 一种基于多维分割的视频结构化方法 |
CN111724445A (zh) * | 2020-05-08 | 2020-09-29 | 华中科技大学 | 一种大视野小尺寸识别码的识别方法及系统 |
CN116828209A (zh) * | 2023-08-30 | 2023-09-29 | 华洋通信科技股份有限公司 | 一种矿下智能视频监控数据传输方法及系统 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104050447A (zh) * | 2014-06-05 | 2014-09-17 | 奇瑞汽车股份有限公司 | 一种交通信号灯识别方法和装置 |
CN104050827A (zh) * | 2014-06-06 | 2014-09-17 | 北京航空航天大学 | 一种基于视觉的交通信号灯自动检测识别方法 |
CN104598912A (zh) * | 2015-01-23 | 2015-05-06 | 湖南科技大学 | 一种基于cpu与gpu协同计算的交通灯检测识别方法 |
CN106909937A (zh) * | 2017-02-09 | 2017-06-30 | 北京汽车集团有限公司 | 交通信号灯识别方法、车辆控制方法、装置及车辆 |
CN107038420A (zh) * | 2017-04-14 | 2017-08-11 | 北京航空航天大学 | 一种基于卷积网络的交通信号灯识别算法 |
CN108446668A (zh) * | 2018-04-10 | 2018-08-24 | 吉林大学 | 基于无人驾驶平台的交通信号灯检测识别方法及系统 |
-
2019
- 2019-01-02 CN CN201910002424.4A patent/CN109711379B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104050447A (zh) * | 2014-06-05 | 2014-09-17 | 奇瑞汽车股份有限公司 | 一种交通信号灯识别方法和装置 |
CN104050827A (zh) * | 2014-06-06 | 2014-09-17 | 北京航空航天大学 | 一种基于视觉的交通信号灯自动检测识别方法 |
CN104598912A (zh) * | 2015-01-23 | 2015-05-06 | 湖南科技大学 | 一种基于cpu与gpu协同计算的交通灯检测识别方法 |
CN106909937A (zh) * | 2017-02-09 | 2017-06-30 | 北京汽车集团有限公司 | 交通信号灯识别方法、车辆控制方法、装置及车辆 |
CN107038420A (zh) * | 2017-04-14 | 2017-08-11 | 北京航空航天大学 | 一种基于卷积网络的交通信号灯识别算法 |
CN108446668A (zh) * | 2018-04-10 | 2018-08-24 | 吉林大学 | 基于无人驾驶平台的交通信号灯检测识别方法及系统 |
Non-Patent Citations (2)
Title |
---|
YEHU S.等: "A Robust Video based Traffic Light Detection Algorithm for Intelligent Vehicles", 《2009 IEEE INTELLIGENT VEHICLES SYMPOSIUM》 * |
金涛 等: "基于级联滤波的交通信号灯识别方法", 《上海交通大学学报》 * |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110097026A (zh) * | 2019-05-13 | 2019-08-06 | 北京邮电大学 | 一种基于多维要素视频分割的段落关联规则评判方法 |
CN110197135A (zh) * | 2019-05-13 | 2019-09-03 | 北京邮电大学 | 一种基于多维分割的视频结构化方法 |
CN110197135B (zh) * | 2019-05-13 | 2021-01-08 | 北京邮电大学 | 一种基于多维分割的视频结构化方法 |
CN110119725A (zh) * | 2019-05-20 | 2019-08-13 | 百度在线网络技术(北京)有限公司 | 用于检测信号灯的方法及装置 |
CN110119725B (zh) * | 2019-05-20 | 2021-05-25 | 百度在线网络技术(北京)有限公司 | 用于检测信号灯的方法及装置 |
CN111724445A (zh) * | 2020-05-08 | 2020-09-29 | 华中科技大学 | 一种大视野小尺寸识别码的识别方法及系统 |
CN116828209A (zh) * | 2023-08-30 | 2023-09-29 | 华洋通信科技股份有限公司 | 一种矿下智能视频监控数据传输方法及系统 |
CN116828209B (zh) * | 2023-08-30 | 2023-10-31 | 华洋通信科技股份有限公司 | 一种矿下智能视频监控数据传输方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN109711379B (zh) | 2022-03-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109711379B (zh) | 一种复杂环境交通信号灯候选区域提取及识别方法 | |
CN110020651B (zh) | 基于深度学习网络的车牌检测定位方法 | |
Li et al. | Traffic light recognition for complex scene with fusion detections | |
CN107729801B (zh) | 一种基于多任务深度卷积神经网络的车辆颜色识别系统 | |
CN110910378B (zh) | 一种基于深度融合网络的双模态图像能见度检测方法 | |
CN108549874B (zh) | 一种目标检测方法、设备及计算机可读存储介质 | |
CN103605953B (zh) | 基于滑窗搜索的车辆兴趣目标检测方法 | |
CN109284669A (zh) | 基于Mask RCNN的行人检测方法 | |
CN109918971B (zh) | 监控视频中人数检测方法及装置 | |
Kühnl et al. | Monocular road segmentation using slow feature analysis | |
CN110889398B (zh) | 一种基于相似度网络的多模态图像能见度检测方法 | |
CN104978567B (zh) | 基于场景分类的车辆检测方法 | |
CN108960404B (zh) | 一种基于图像的人群计数方法及设备 | |
CN107622229A (zh) | 一种基于融合特征的视频车辆重识别方法与系统 | |
CN109543632A (zh) | 一种基于浅层特征融合引导的深层网络行人检测方法 | |
CN109447082B (zh) | 一种场景运动目标分割方法、系统、存储介质及设备 | |
CN110706235A (zh) | 一种基于双级级联分割的远红外行人检测方法 | |
CN112674998B (zh) | 基于快速深度神经网络和移动智能设备的盲人交通路口辅助方法 | |
CN104517095A (zh) | 一种基于深度图像的人头分割方法 | |
CN104143077B (zh) | 基于图像的行人目标检索方法和系统 | |
CN106951863A (zh) | 一种基于随机森林的变电站设备红外图像变化检测方法 | |
CN110910497B (zh) | 实现增强现实地图的方法和系统 | |
CN105184299A (zh) | 基于局部约束线性编码的车身颜色识别方法 | |
CN107045630B (zh) | 一种基于rgbd的行人检测和身份识别方法及系统 | |
CN116778530A (zh) | 一种基于生成模型的跨外观行人重识别检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |