CN109670404B - 一种基于混合模型的道路积水图像检测预警方法 - Google Patents

一种基于混合模型的道路积水图像检测预警方法 Download PDF

Info

Publication number
CN109670404B
CN109670404B CN201811403004.9A CN201811403004A CN109670404B CN 109670404 B CN109670404 B CN 109670404B CN 201811403004 A CN201811403004 A CN 201811403004A CN 109670404 B CN109670404 B CN 109670404B
Authority
CN
China
Prior art keywords
image
ponding
detection
road
depth
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811403004.9A
Other languages
English (en)
Other versions
CN109670404A (zh
Inventor
陈湘军
舒振球
叶飞跃
范洪辉
马晓东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Jiangsu University of Technology
Original Assignee
Jiangsu University of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Jiangsu University of Technology filed Critical Jiangsu University of Technology
Priority to CN201811403004.9A priority Critical patent/CN109670404B/zh
Publication of CN109670404A publication Critical patent/CN109670404A/zh
Application granted granted Critical
Publication of CN109670404B publication Critical patent/CN109670404B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A50/00TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE in human health protection, e.g. against extreme weather

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于混合模型的道路积水图像检测预警方法,属于大数据技术领域,基于深度学习图像特征,实现道路不同监控摄像机的实时积水检测,并生成积水严重等级数据,解决传统检测仪器安装复杂,易损坏等缺陷;采用交互式区域配置方式,适应不同场景的监控摄像机;本发明采用深度神经网络特征和改进后的ResNet残差网络,并联合监控视频的时空特征,混合计算积水置信,提高检测准确率,基于监控视频条件达到实际应用准确率要求。

Description

一种基于混合模型的道路积水图像检测预警方法
技术领域
本发明属于大数据技术领域,尤其涉及一种基于混合模型的道路积水图像检测预警方法。
背景技术
由于公路干道地势偏低或排水不畅,雨季经常发生道路积水事件,严重积水易造成车辆熄火抛锚,不仅造成车主财产损失,也影响路网通行状态,造成大面积拥堵。因此,公路管理部门需要即时掌握路段积水情况,并根据路段积水严重程度,相应做出禁止通行、缓行、分车型通行等管制策略。
目前的道路路面积水监测一般使用水位传感器实现。水位传感器方法可实现定量水位检测,可以精确测量道路积水深度,但传感器需要提供专门供电和网络通讯设施,安装过程需要在路面开槽,破坏路面,影响通行。此外,由于公路主干道车流量大,路面槽线容易损坏,且积水路段环境复杂,污水淤泥堵塞水位管道,易造成设备失灵。水位传感器方法存在成本较高,施工与维护难度较大,有安全隐患,使用寿命短等多种缺限。
很多公路管理部门仍依靠监控视频人工查看方式实现积水路段的监测。目前省、市级主要公路干道覆盖众多高清监控视频,随着计算机视觉技术,特别是深度学习技术的成熟,利用图像识别各种场景已具备可行性。如果能利用计算机图像视频进行道路积水场景识别,可直接部署在视频监控中心部署监测系统,不需在路面另外铺设电源与通讯线路,不受污水影响,图像检测道路积水方法具有系统灵活、成本低等优点。近年出现了系列以场景分类方法为代表的图像积水检测方法,此类方法一般采用水面纹理识别等方法对正常路面、积水路面进行场景识别,易受噪声干扰,检测准确率较低,且无法提供定量的积水级别判定。
由于不同监控场景下道路图像判别较大,且受车辆、行人干扰,加之监控摄像机夜晚切换成红外成像,与白天图像差异等因素,基于图像识别道路积水方法检测准确率较低,且缺乏积水深度的定量判断。
发明内容
本发明的目的是提供一种基于混合模型的道路积水图像检测预警方,解决了为传统检测仪器安装复杂,易损坏等缺陷、检测准确率较低的技术问题。
为实现上述目的,本发明采用如下技术方案:
一种基于混合模型的道路积水图像检测预警方法,包括如下步骤:
步骤1:在监测路段的不同位置设置数个摄像机,由所述摄像机拍摄监测路段的监控图像;由用户在监控图像中动态标注并设置积水检测区域和积水等级标志区域;
步骤2:对待提取特征的输入图像进行图像特征提取,其步骤如下:
步骤A1:待提取特征的输入图像为步骤1中由用户动态标注的监控图像;对待提取特征的输入图像进行特征提取,特征提取包括提取检测区图像和提取积水深度标位图像;
步骤A2:检测区图像从实时监控视频中标定位置提取;
步骤A3:积水深度标位图像包括两组图像:一组为预置的未积水标志位对比图像、另一组为实时监控的积水标位图像;
步骤3:将步骤2提取的检测区图像和积水深度标位图像通过混合数据的方式,并经过减均值和归一化的操作后生成待检测图像,
并输入到ResNet残差网络;
所述混合数据包括按照224*224尺度变换的原始图像、原始图像的RGB统计直方值;
步骤4:在ResNet残差网络对待检测图像进行训练,包括如下步骤:
步骤B1:对ResNet残差网络进行改进:将ResNet残差网络改进成50层,其中,1~20层的卷积核大小为7×7,21~40层卷积核的大小为5×5,41~50层的卷积核心大小为3×3;
步骤B2:在ResNet残差网络的倒数第49层进行全连接操作,求出输入到ResNet残差网络的图像数据的稀疏特征,第50层使用Softmax分类器,训练或预测待检测图像的标签;
步骤B3:取ResNet残差网络的第49层的特征数据,将该特征数据与所述预置的未积水标志位对比图像进行对比;
步骤5:使用时间窗方法间隔检测路面积水状态,其步骤如下:
步骤C1:设置检测时间窗T=300秒,检测频率为freq=10,在帧率fps为25的视频流中,每个检测窗口T内共有750个积水检测区域图像序列送入Softmax分类器进行场景分类;
步骤C2:将积水检测区域图像subimg送入编码器Encoder,提取ResNet的第50层的特征数据F={f1,f2,f3,f4},按以下公式计算分类结果:
y=index(max(Fi));
式中:index()函数为最大概率标签max(Fi)的下标位置,当y=1,即判定本次检测结果为道路积水,i的取值为正整数;
步骤C3:当判断为道路积水后,根据以下公式求检测窗口内所有检测区图像序列的平均积水置信α:
Figure GDA0004106628340000031
N=T*fps%freq;
式中:N为检测图片总数,T为检测窗口时长,fps为帧率,freq为检测频率,α为平均积水置信,n值为判定积水的图片与总检测图片比值;
步骤C4:平均积水置信α阈值设置为0.85,统计平均积水置信度,当积水置信度>0.85,启动积水深度检测;
步骤C5:在积水检测区域标注出10CM、20CM、30CM和40CM深度标志位图像区域,依次读取10CM~40CM深度标志位图像,送入编码器encoder,提取ResNet残差网络的第49层特征数据,并存储在特征字典Dict_f中,启动图像对比进程;Dict_f字典结构如以下公式:
Dict_f={"deep10":f10,"deep20":f20,"deep30":f30,"deep40":f40};
式中:键值deep10~deep40分别表示10CM~40CM的积水深度预置位初始图像,f10~f40分别为10CM~40CM的积水深度预置位初始图像的编码特征;
步骤C6:当Softmax分类器判定检测区图像ROI为积水时,依次读取10CM~40CM的深度预置位实时图像,启动深度比对,采用图像特征相似度判定积水深度检测位是否积水,相信度计算公式如以下公式:
Figure GDA0004106628340000041
式中:Df_pre,i和Df_cur,i分别表示第i个积水深度检测区的预置的未积水标志位对比图像和当前图像,
i={10cm,20cm,30cm,40cm};
对S进行归一化处理,得S’,当相似度S’大于设计阈值0.7时,则判定预置的未积水标志位对比图像与当前图像相同,即未达到该深度的积水阈值;反之,则达到该深度的积水阈值;
步骤6:根据步骤C6的结果:如果检测到路面发生积水,且积水超过警戒阈值,启动消息预警。
优选的,所述待检测图像的标签包括积水、积雨和正常路面。
优选的,在执行步骤B2时,采用二次分类方法实现检测:首先区分待检图片为路面或车辆,再次区分路面图片为积水、积雨或正常路面;ResNet残差网络中的训练数据集共使用4类标签:积水路面、积雨路面、正常路面和车辆。
优选的,在执行步骤B3时,将该特征数据与所述预置的未积水标志位对比图像进行对比,即,将该特征数据的实时监控的积水标位图像与所述预置的未积水标志位对比图像进行对比。
优选的,在执行步骤6时,消息预警包括通过手机短信、微信或平台预警的形式向管理人员发送预警信息。
优选的,在执行步骤3时,使用多通道混合图像特征,分别提取输入图像的颜色、纹理和轮廓信息,作为ResNet残差网络的并行输入通道,训练图像特征。
优选的,在执行步骤C1时,Softmax分类器进行场景分类采用二次分类和多帧平均置信的策略,消除过往车辆对积水路面和积水深度断定的影响,具体作法是:取检测区图像进行一次分类,并启动计数器C、Cw和Cr,C、Cw和Cr分别表示检测帧数、积水和积雨结果累计数,如果分类结果为车辆,则跳过该帧,如分类为路面,则C累加1,并启动二次分类;当路面二次分类为积水,则Cw累加1,如二次分类结果为积水,则Cr累加1;当C累计到200帧,分别统计积水和积雨的置信度αw和ar,平均置信按以下公式计算:
Figure GDA0004106628340000051
Figure GDA0004106628340000052
当arw>T时,判定路面为积水,并启动积水深度检测模块,当αw>ar>T时,判定路面为积雨,否则,判定路面为正常状态,其中T为预设阈值。
本发明所述的一种基于混合模型的道路积水图像检测预警方,基于深度学习图像特征,实现道路不同监控摄像机的实时积水检测,并生成积水严重等级数据,解决传统检测仪器安装复杂,易损坏等缺陷;采用交互式区域配置方式,适应不同场景的监控摄像机;采用深度神经网络特征,并联合监控视频的时空特征,混合计算积水置信,提高检测准确率,基于监控视频条件达到实际应用准确率要求,本发明使用道路已经有监控视频,通过混合模型识别道路积水、积雨、正常等场景,并通过标定桩检测与测量,识别积水严重级别。对比传感器道路积水检测,具有成本低、维护简单、形象直观等优点,本发明使用改进的多通道CNN深度学习网络模型,通过颜色、纹理、轮廓边缘等多种图像特征,并结合图像兴趣区域、时间关联等参数,准确识别积水、积雨、正常路面,与传统图像检测方法比较,可提供定量的积水严重等级判定,准确率大幅度提高。
附图说明
图1为本发明的道路监控视频积水检测与预警工作流程图;
图2是本发明的路面检测区域交互标注示意图;
图3是本发明的基于改进ResNet残差网络的图片特征提取、图像分类、积水检测过程流程图;
图4是本发明的积水检测混合图像特征模型示意图;
图5是本发明的路面积水检测系统工作流程图;
图中:道牙1、车道2、第一深度标志位3、第二深度标志位4、第一深度标志位5、第一深度标志位6、积水检测区域7。
具体实施方式
由图1-图5所示的一种基于混合模型的道路积水图像检测预警方法,包括如下步骤:
步骤1:在监测路段的不同位置设置数个摄像机,由所述摄像机拍摄监测路段的监控图像;由用户在监控图像中动态标注并设置积水检测区域和积水等级标志区域;
为了适应路段、不同摄像机机位的道路积水检测,本发明采用检测区域和积水深度等级标志位,即积水等级标志区域,的用户交互标注方式,由用户在监控图像中动态设置检测区域图像和积水等级标志区域,交互式标流程如图2中所示的深度标志位和积水检测区。
步骤2:对待提取特征的输入图像进行图像特征提取,其步骤如下:
步骤A1:待提取特征的输入图像为步骤1中由用户动态标注的监控图像;对待提取特征的输入图像进行特征提取,特征提取包括提取检测区图像和提取积水深度标位图像;
步骤A2:检测区图像从实时监控视频中标定位置提取;
步骤A3:积水深度标位图像包括两组图像:一组为预置的未积水标志位对比图像、另一组为实时监控的积水标位图像;
步骤3:将步骤2提取的检测区图像和积水深度标位图像通过混合数据的方式,并经过减均值和归一化的操作后生成待检测图像,并输入到ResNet残差网络;
本实施例中训练集数据从4个监控摄像机采集,每个监控摄像机包括白天、夜间的晴天、阴天、下雨、积水共8个场景,每幅图像使用滑动窗口随机在道路区域8幅子图像,训练数据集共使用4类标签,积水路面、积雨路面、正常路面、车辆。训练集每类标签包含样本12000个。
所述混合数据包括按照224*224尺度变换的原始图像、原始图像的RGB统计直方值;
如图4所示,对每幅图像预处理,提取颜色、纹理、轮廓信息,作为改进ResNet残差网络输入,迭代训练80000次,生成图像特征模型。为了提升模型精度,在测试和试用过程,使用交互确认方式,人工交互确定检测场景的分类标签,系统自动将误报、漏检样本加入训练集,自动重新训练网络,提升模型准确性。
步骤4:在ResNet残差网络对待检测图像进行训练,包括如下步骤:
步骤B1:对ResNet残差网络进行改进:将ResNet残差网络改进成50层,其中,1~20层的卷积核大小为7×7,21~40层卷积核的大小为5×5,41~50层的卷积核心大小为3×3;
步骤B2:在ResNet残差网络的第49层进行全连接操作,求出输入到ResNet残差网络的图像数据的稀疏特征,第50层使用Softmax分类器,训练或预测待检测图像的标签;
图像特征位于第49层,对于场景分类任务,直接将图像特征送入Softmax分类器,根据输出向量的最大值对应到车辆、积水路面、积水路面或正常路面等分类标签,对于积水深度对比任务,分别取当前实时监控的积水标位图像与预置的未积水标志位对比图像的第49层,进行相似度比较。
如图3所示在ResNet残差网络第49层进行全连接操作,求出输入数据的稀疏特征,在第50层使用Softmax分类器,训练或预测待检测图像的标签,包括积水、积雨和正常路面。
步骤B3:取ResNet残差网络的第49层的特征数据,将该特征数据与所述预置的未积水标志位对比图像进行对比;
步骤5:使用时间窗方法间隔检测路面积水状态,其步骤如下:
步骤C1:设置检测时间窗T=300秒,检测频率为freq=10,在帧率fps为25的视频流中,每个检测窗口T内共有750个积水检测区域图像序列送入Softmax分类器进行场景分类;
步骤C2:将积水检测区域图像subimg送入编码器Encoder,提取ResNet的第50层的特征数据F={f1,f2,f3,f4},按以下公式计算分类结果:
y=index(max(Fi));
式中:index()函数为最大概率标签max(Fi)的下标位置,当y=1,即判定本次检测结果为道路积水,i的取值为正整数;
步骤C3:当判断为道路积水后,根据以下公式求检测窗口内所有检测区图像序列的平均积水置信α:
Figure GDA0004106628340000081
N=T*fps%freq;
式中:N为检测图片总数,T为检测窗口时长,fps为帧率,freq为检测频率,α为平均积水置信,n值为判定积水的图片与总检测图片比值;
步骤C4:平均积水置信α阈值设置为0.85,统计平均积水置信度,当积水置信度>0.85,启动积水深度检测;
步骤C5:在积水检测区域标注出10CM、20CM、30CM和40CM深度标志位图像区域,依次读取10CM~40CM深度标志位图像,送入编码器encoder,提取ResNet残差网络的第49层特征数据,并存储在特征字典Dict_f中,启动图像对比进程;Dict_f字典结构如以下公式:
Dict_f={"deep10":f10,"deep20":f20,"deep30":f30,"deep40":f40};
式中:键值deep10~deep40分别表示10CM~40CM的积水深度预置位初始图像,f10~f40分别为10CM~40CM的积水深度预置位初始图像的编码特征;
步骤C6:当Softmax分类器判定检测区图像ROI为积水时,依次读取10CM~40CM的深度预置位实时图像,启动深度比对,采用图像特征相似度判定积水深度检测位是否积水,相信度计算公式如以下公式:
Figure GDA0004106628340000091
式中:Df_pre,i和Df_cur,i分别表示第i个积水深度检测区的预置的未积水标志位对比图像和当前图像,
i={10cm,20cm,30cm,40cm};
对S进行归一化处理,得S’,当相似度S’大于设计阈值0.7时,则判定预置的未积水标志位对比图像与当前图像相同,即未达到该深度的积水阈值;反之,则达到该深度的积水阈值;
步骤6:根据步骤C6的结果:如果检测到路面发生积水,且积水超过警戒阈值,启动消息预警。
优选的,所述待检测图像的标签包括积水、积雨和正常路面。
优选的,在执行步骤B2时,采用二次分类方法实现检测:首先区分待检图片为路面或车辆,再次区分路面图片为积水、积雨或正常路面;ResNet残差网络中的训练数据集共使用4类标签:积水路面、积雨路面、正常路面和车辆。
优选的,在执行步骤B3时,将该特征数据与所述预置的未积水标志位对比图像进行对比,即,将该特征数据的实时监控的积水标位图像与所述预置的未积水标志位对比图像进行对比。
优选的,在执行步骤6时,消息预警包括通过手机短信、微信或平台预警的形式向管理人员发送预警信息。
优选的,在执行步骤3时,使用多通道混合图像特征,分别提取输入图像的颜色、纹理和轮廓信息,作为ResNet残差网络的并行输入通道,训练图像特征。
优选的,在执行步骤C1时,Softmax分类器进行场景分类采用二次分类和多帧平均置信的策略,为了适应实际检测中车辆图像对检测路面干扰,消除过往车辆对积水路面和积水深度断定的影响,采用二次分类方法实现检测,首先区分待检图片为路面或车辆,再次区分路面图片为积水、积雨或正常路面,具体作法是:取检测区图像进行一次分类,并启动计数器C、Cw和Cr,C、Cw和Cr分别表示检测帧数、积水和积雨结果累计数,如果分类结果为车辆,则跳过该帧,如分类为路面,则C累加1,并启动二次分类;当路面二次分类为积水,则Cw累加1,如二次分类结果为积水,则Cr累加1;当C累计到200帧,分别统计积水和积雨的置信度αw和ar,平均置信按以下公式计算:
Figure GDA0004106628340000101
Figure GDA0004106628340000102
当arw>T时,判定路面为积水,并启动积水深度检测模块,当αw>ar>T时,判定路面为积雨,否则,判定路面为正常状态,其中T为预设阈值。
本实施例的实验结果如下:
在“008-0726”和“008-0805”两个数据集进行检测区图像分类测试,输出测试结果为正常路面、车辆、积雨、积水4类标签。
表1为008-0726数据集测试结果:
Figure GDA0004106628340000103
表1
数据集008-0726共5770个测试样本,为白天晴天场景,检测区有桥面阴影,交通比较拥堵,测试样本分布为车辆为4450,正常路面为1320;
表2为008-0805数据集测试结果:
Figure GDA0004106628340000111
表2
数据集008-0805共2400个测试样本,为白天暴雨场景,路面积水深度变化在0~30CM之间,路面状态以积水为主,部分样本为积雨,经过车辆以大卡车为主,样本分布为车辆830,积水积雨路面1570。
从测试结果看,本实施例所使用改进ResNet残差网络具有最好的准确率,在数据集008-0726数中,共有8个样本被错分为积水、44个样本错分为积雨,主要原因是交立桥在路面阴影未与积雨、积水图像相信,且未包括在训练集中。数据集008-080中,3辆车辆错分为正常路面,21个积水路面错分为正常路面,主要原因是大车车身和积水路面与正常路面纹理和轮廓非常相近。
从测试图片来看,路面积水与积雨在图像上比较相似,即使人眼也容易发生判断失误,不能严格确定分类标准,因此在单帧图片分类时分类错误较高,此两类标签接近30%错分率。本发明引入时间窗多帧平均置信,统计积水、积水两类相信的平均置信,以分类标签高置信、以及最高置信是否达到经验阈值,综合决策是否发生道路积水事件,准确率显示提高,在测试的50个场景,正检率为100%,漏检率为0%。
过往车辆造成的路面遮挡,影响积水检测区域和积水检测标志位的准确性,本发明采用二次分类方法,首先区分车辆与路面,确定检测图像为路面,再分类为积水、积雨或正常路面,有效剔除车辆遮挡影响,过往车辆未对积水事件判定造成显著干扰。
试验结果的数据表明:本发明采用的多特征深度学习网络模型,以及基于时间、统计的综合决策策略,显著改提高道路积水事件检测准确率,可保证实际应用的准确率需要,系统在现有道路监控系统中实现,硬件成本可忽略不计,准确率和成本控件在目前积水系统中性能最优。
本发明所述的一种基于混合模型的道路积水图像检测预警方,基于深度学习图像特征,实现道路不同监控摄像机的实时积水检测,并生成积水严重等级数据,解决传统检测仪器安装复杂,易损坏等缺陷;采用交互式区域配置方式,适应不同场景的监控摄像机;采用深度神经网络特征,并联合监控视频的时空特征,混合计算积水置信,提高检测准确率,基于监控视频条件达到实际应用准确率要求,本发明使用道路已经有监控视频,通过混合模型识别道路积水、积雨、正常等场景,并通过标定桩检测与测量,识别积水严重级别。对比传感器道路积水检测,具有成本低、维护简单、形象直观等优点,本发明使用改进的多通道CNN深度学习网络模型,通过颜色、纹理、轮廓边缘等多种图像特征,并结合图像兴趣区域、时间关联等参数,准确识别积水、积雨、正常路面,与传统图像检测方法比较,可提供定量的积水严重等级判定,准确率大幅度提高。

Claims (7)

1.一种基于混合模型的道路积水图像检测预警方法,其特征在于:包括如下步骤:
步骤1:在监测路段的不同位置设置数个摄像机,由所述摄像机拍摄监测路段的监控图像;由用户在监控图像中动态标注并设置积水检测区域和积水等级标志区域;
步骤2:对待提取特征的输入图像进行图像特征提取,其步骤如下:
步骤A1:待提取特征的输入图像为步骤1中由用户动态标注的监控图像;对待提取特征的输入图像进行特征提取,特征提取包括提取检测区图像和提取积水深度标位图像;
步骤A2:检测区图像从实时监控视频中标定位置提取,标定位置即为步骤1中设置的积水检测区域;
步骤A3:积水深度标位图像包括两组图像:一组为预置的未积水标志位对比图像、另一组为实时监控的积水标位图像;积水标位图像即为步骤1中设置的积水等级标志区域;
步骤3:将步骤2提取的检测区图像和积水深度标位图像通过混合数据的方式,并经过减均值和归一化的操作后生成待检测图像,并输入到ResNet残差网络;
所述混合数据包括按照224*224尺度变换的原始图像、原始图像的RGB统计直方值;
步骤4:在ResNet残差网络对待检测图像进行训练,包括如下步骤:
步骤B1:对ResNet残差网络进行改进:将ResNet残差网络改进成50层,其中,1~20层的卷积核大小为7×7,21~40层卷积核的大小为5×5,41~50层的卷积核心大小为3×3;
步骤B2:在ResNet残差网络的倒数第49层进行全连接操作,求出输入到ResNet残差网络的图像数据的稀疏特征,第50层使用Softmax分类器,训练或预测待检测图像的标签;
步骤B3:取ResNet残差网络的第49层的特征数据,将该特征数据与所述预置的未积水标志位对比图像进行对比;
步骤5:使用时间窗方法间隔检测路面积水状态,其步骤如下:
步骤C1:设置检测时间窗T=300秒,检测频率为freq=10,在帧率fps为25的视频流中,每个检测窗口T内共有750个积水检测区域图像序列送入Softmax分类器进行场景分类;
步骤C2:将积水检测区域图像subimg送入编码器Encoder,提取ResNet的第50层的特征数据F={f1,f2,f3,f4},按以下公式计算分类结果:
y=index(max(Fi));
式中:index()函数为最大概率标签max(Fi)的下标位置,当y=1,即判定本次检测结果为道路积水,i的取值为正整数;
步骤C3:当判断为道路积水后,根据以下公式求检测窗口内所有检测区图像序列的平均积水置信α:
Figure FDA0004106628330000021
N=T*fps%freq;
式中:N为检测图片总数,T为检测窗口时长,fps为帧率,freq为检测频率,α为平均积水置信,n值为判定积水的图片与总检测图片比值;
步骤C4:平均积水置信α阈值设置为0.85,统计平均积水置信度,当积水置信度>0.85,启动积水深度检测;
步骤C5:在积水检测区域标注出10CM、20CM、30CM和40CM深度标志位图像区域,依次读取10CM~40CM深度标志位图像,送入编码器encoder,提取ResNet残差网络的第49层特征数据,并存储在特征字典Dict_f中,启动图像对比进程;Dict_f字典结构如以下公式:
Dict_f={"deep10":f10,"deep20":f20,"deep30":f30,"deep40":f40};
式中:键值deep10~deep40分别表示10CM~40CM的积水深度预置位初始图像,f10~f40分别为10CM~40CM的积水深度预置位初始图像的编码特征;
步骤C6:当Softmax分类器判定检测区图像ROI为积水时,依次读取10CM~40CM的深度预置位实时图像,启动深度比对,采用图像特征相似度判定积水深度检测位是否积水,相信度计算公式如以下公式:
Figure FDA0004106628330000031
式中:Df_pre,i和Df_cur,i分别表示第i个积水深度检测区的预置的未积水标志位对比图像和当前图像,
i={10cm,20cm,30cm,40cm};
对S进行归一化处理,得S’,当相似度S’大于设计阈值0.7时,则判定预置的未积水标志位对比图像与当前图像相同,即未达到该深度的积水阈值;反之,则达到该深度的积水阈值;
步骤6:根据步骤C6的结果:如果检测到路面发生积水,且积水超过警戒阈值,启动消息预警。
2.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:所述待检测图像的标签包括积水、积雨和正常路面。
3.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:在执行步骤B2时,采用二次分类方法实现检测:首先区分待检图片为路面或车辆,再次区分路面图片为积水、积雨或正常路面;ResNet残差网络中的训练数据集共使用4类标签:积水路面、积雨路面、正常路面和车辆。
4.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:在执行步骤B3时,将该特征数据与所述预置的未积水标志位对比图像进行对比,即,将该特征数据的实时监控的积水标位图像与所述预置的未积水标志位对比图像进行对比。
5.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:在执行步骤6时,消息预警包括通过手机短信、微信或平台预警的形式向管理人员发送预警信息。
6.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:在执行步骤3时,使用多通道混合图像特征,分别提取输入图像的颜色、纹理和轮廓信息,作为ResNet残差网络的并行输入通道,训练图像特征。
7.如权利要求1所述的一种基于混合模型的道路积水图像检测预警方法,其特征在于:在执行步骤C1时,Softmax分类器进行场景分类采用二次分类和多帧平均置信的策略,消除过往车辆对积水路面和积水深度断定的影响,具体作法是:取检测区图像进行一次分类,并启动计数器C、Cw和Cr,C、Cw和Cr分别表示检测帧数、积水和积雨结果累计数,如果分类结果为车辆,则跳过该帧,如分类为路面,则C累加1,并启动二次分类;当路面二次分类为积水,则Cw累加1,如二次分类结果为积水,则Cr累加1;当C累计到200帧,分别统计积水和积雨的置信度αw和ar,平均置信按以下公式计算:
Figure FDA0004106628330000041
Figure FDA0004106628330000042
当arw>T时,判定路面为积水,并启动积水深度检测模块,当αw>ar>T时,判定路面为积雨,否则,判定路面为正常状态,其中T为预设阈值。
CN201811403004.9A 2018-11-23 2018-11-23 一种基于混合模型的道路积水图像检测预警方法 Active CN109670404B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811403004.9A CN109670404B (zh) 2018-11-23 2018-11-23 一种基于混合模型的道路积水图像检测预警方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811403004.9A CN109670404B (zh) 2018-11-23 2018-11-23 一种基于混合模型的道路积水图像检测预警方法

Publications (2)

Publication Number Publication Date
CN109670404A CN109670404A (zh) 2019-04-23
CN109670404B true CN109670404B (zh) 2023-07-11

Family

ID=66142173

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811403004.9A Active CN109670404B (zh) 2018-11-23 2018-11-23 一种基于混合模型的道路积水图像检测预警方法

Country Status (1)

Country Link
CN (1) CN109670404B (zh)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110207783A (zh) * 2019-06-28 2019-09-06 湖南江河机电自动化设备股份有限公司 一种基于视频识别的检测水位方法
CN110298311B (zh) * 2019-06-28 2021-05-07 北京智行者科技有限公司 路面积水检测方法及装置
CN110569755B (zh) * 2019-08-26 2022-04-29 浙江工商大学 一种基于视频的智能积水检测方法
CN110675374B (zh) * 2019-09-17 2022-05-03 电子科技大学 一种基于生成对抗网络的二维图像污水流量检测方法
CN111160155A (zh) * 2019-12-17 2020-05-15 北京文安智能技术股份有限公司 一种积水检测方法及装置
CN111353380B (zh) * 2020-01-08 2024-07-12 广州华工信元通信技术有限公司 一种基于机器图像识别技术的城市道路积水图像识别系统
CN111310671B (zh) * 2020-02-19 2023-04-28 中冶赛迪信息技术(重庆)有限公司 基于深度学习的加热炉底部积水坑异常识别方法、系统及设备
CN114255574B (zh) * 2020-09-11 2024-08-16 英业达科技有限公司 淹水警示方法
TWI749770B (zh) * 2020-09-16 2021-12-11 英業達股份有限公司 淹水警示方法
CN112085001B (zh) * 2020-09-23 2024-04-23 清华大学苏州汽车研究院(相城) 一种基于多尺度边缘特征检测的隧道识别模型及方法
CN112329582B (zh) * 2020-10-29 2022-08-02 西南大学 大数据分析与机理模型协同的道路积水深度监测方法及系统
CN113682310B (zh) * 2021-09-02 2023-06-23 江苏理工学院 一种用于车辆的路面积水检测系统及检测控制方法
CN113763363B (zh) * 2021-09-09 2023-08-01 华南理工大学 一种排水管道破裂缺陷检测及等级评定方法
CN113793069A (zh) * 2021-09-30 2021-12-14 天津市气象台 深度残差网络的城市内涝积水智能识别方法
CN113962996B (zh) * 2021-12-22 2022-04-05 迈赫机器人自动化股份有限公司 用于雨天积水路面的积水智能化检测系统
CN114030487B (zh) * 2021-12-22 2024-03-22 诺博汽车科技南京有限公司 车辆控制方法、装置、存储介质及车辆
CN114202573B (zh) * 2022-02-18 2022-04-29 南京路健通工程技术有限公司 一种旅游区道路用提示方法及装置
CN114913477A (zh) * 2022-05-06 2022-08-16 广州市城市规划勘测设计研究院 城市管线防挖掘预警方法、装置、设备及介质
CN114758139B (zh) * 2022-06-16 2022-10-21 成都鹏业软件股份有限公司 基坑积水检测方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011118889A (ja) * 2009-11-04 2011-06-16 Valeo Schalter & Sensoren Gmbh ビデオ画像に基づく道路特性分析、車線検出、および車線逸脱防止方法および装置
CN106874863A (zh) * 2017-01-24 2017-06-20 南京大学 基于深度卷积神经网络的车辆违停逆行检测方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011118889A (ja) * 2009-11-04 2011-06-16 Valeo Schalter & Sensoren Gmbh ビデオ画像に基づく道路特性分析、車線検出、および車線逸脱防止方法および装置
CN106874863A (zh) * 2017-01-24 2017-06-20 南京大学 基于深度卷积神经网络的车辆违停逆行检测方法

Also Published As

Publication number Publication date
CN109670404A (zh) 2019-04-23

Similar Documents

Publication Publication Date Title
CN109670404B (zh) 一种基于混合模型的道路积水图像检测预警方法
CN109977812B (zh) 一种基于深度学习的车载视频目标检测方法
CN106874863B (zh) 基于深度卷积神经网络的车辆违停逆行检测方法
CN105744232B (zh) 一种基于行为分析技术的输电线路视频防外破的方法
CN108446630B (zh) 机场跑道智能监控方法、应用服务器及计算机存储介质
CN106845424B (zh) 基于深度卷积网络的路面遗留物检测方法
CN104376554B (zh) 一种基于图像纹理的违章停车检测方法
US8301577B2 (en) Intelligent monitoring system for establishing reliable background information in a complex image environment
CN105184271A (zh) 一种基于深度学习的车辆自动检测方法
CN112308032B (zh) 一种视频检测的井下风门智能协同联动控制方法
CN102968625A (zh) 基于轨迹的船舶识别与跟踪方法
CN103186982A (zh) 一种治安智能卡口系统
CN107133591B (zh) 基于结构光的车位检测方法及装置
CN109086682B (zh) 一种基于多特征融合的智能视频黑烟车检测方法
CN106339657A (zh) 基于监控视频的秸秆焚烧监测方法、装置
Ketcham et al. The intruder detection system for rapid transit using CCTV surveillance based on histogram shapes
CN110569755A (zh) 一种基于视频的智能积水检测方法
CN110674887A (zh) 一种基于视频分类的端到端道路拥堵检测算法
CN117953421A (zh) 一种城市道路场景的积水检测方法、电子设备及存储介质
CN113221603A (zh) 一种检测监控设备被异物遮挡的方法及装置
CN113362851A (zh) 基于深度学习交通场景声音分类的方法及系统
CN112347906A (zh) 公交车内异常聚集行为的检测方法
CN112598865A (zh) 一种电缆线路防外力破坏的监控方法及系统
CN116886874A (zh) 一种生态园安防监控预警数据的采集方法及其系统
CN116152496A (zh) 一种基于帧差法和语义分割结合的道路抛洒物识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant