CN112562255B - 微光环境下电缆沟道烟雾火情的智能图像检测方法 - Google Patents
微光环境下电缆沟道烟雾火情的智能图像检测方法 Download PDFInfo
- Publication number
- CN112562255B CN112562255B CN202011397103.8A CN202011397103A CN112562255B CN 112562255 B CN112562255 B CN 112562255B CN 202011397103 A CN202011397103 A CN 202011397103A CN 112562255 B CN112562255 B CN 112562255B
- Authority
- CN
- China
- Prior art keywords
- smoke
- image
- layer
- convolution
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000000779 smoke Substances 0.000 title claims abstract description 102
- 238000001514 detection method Methods 0.000 title claims abstract description 70
- 238000012549 training Methods 0.000 claims abstract description 36
- 230000007246 mechanism Effects 0.000 claims abstract description 21
- 238000012360 testing method Methods 0.000 claims abstract description 19
- 238000000034 method Methods 0.000 claims abstract description 16
- 238000001914 filtration Methods 0.000 claims abstract description 9
- 230000003044 adaptive effect Effects 0.000 claims abstract description 4
- 238000000605 extraction Methods 0.000 claims description 58
- 230000006870 function Effects 0.000 claims description 37
- 238000006243 chemical reaction Methods 0.000 claims description 35
- 230000004913 activation Effects 0.000 claims description 13
- 238000011176 pooling Methods 0.000 claims description 12
- 238000012544 monitoring process Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 5
- 238000005070 sampling Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 230000009467 reduction Effects 0.000 claims description 2
- 239000004576 sand Substances 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 6
- 238000013135 deep learning Methods 0.000 description 3
- 238000005457 optimization Methods 0.000 description 3
- 206010000369 Accident Diseases 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 235000002566 Capsicum Nutrition 0.000 description 1
- 239000006002 Pepper Substances 0.000 description 1
- 235000016761 Piper aduncum Nutrition 0.000 description 1
- 235000017804 Piper guineense Nutrition 0.000 description 1
- 244000203593 Piper nigrum Species 0.000 description 1
- 235000008184 Piper nigrum Nutrition 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 150000003839 salts Chemical class 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B17/00—Fire alarms; Alarms responsive to explosion
- G08B17/12—Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions
- G08B17/125—Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions by using a video camera to detect fire or smoke
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B17/00—Fire alarms; Alarms responsive to explosion
- G08B17/10—Actuation by presence of smoke or gases, e.g. automatic alarm devices for analysing flowing fluid materials by the use of optical means
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Emergency Management (AREA)
- Business, Economics & Management (AREA)
- Biomedical Technology (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Fire-Detection Mechanisms (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种微光环境下电缆沟道烟雾火情的智能图像检测方法,其实现步骤为:获取训练样本集和测试样本集,构建用于提取特征的各个模块和注意力机制等模块,构建烟雾检测网络FSSD并进行迭代训练,对微光相机拍摄到的视频图像进行单高斯背景建模,中值滤波和限制对比度直方图均衡化的操作后送入训练好的网络中得到烟雾检测结果。本发明采用了单高斯背景建模、中值滤波和限制对比度自适应直方图均衡化结合的方法,使得微光环境下的烟雾图像得到了增强,并将该方法与加入了注意力机制的FSSD网络结合,提升了烟雾早期检测能力和检测精确度,降低了误检率。
Description
技术领域
本发明属于图像处理技术领域,涉及一种烟雾火情的智能图像检测方法,具体涉及一种微光环境下电缆沟道烟雾火情的智能图像检测方法,可用于微光环境下电缆沟道烟雾火情的检测、预警等。
背景技术
随着人工智能的发展和图像识别技术的广泛普及,通过视频监控智能地进行烟雾火情监控将是未来火灾预警的重要手段。由于电缆沟道内的电缆在地面以下,环境漆黑,当电缆发生故障而引起火灾时,较难被工作人员发现,这就使得电缆沟火灾事故一旦发生将会造成严重的后果。而烟雾通常在火焰之前产生,因此如何识别微光环境下的烟雾,就直接影响到应急抢险的效率和成果。
近年来众多学者在烟雾检测方面做出了许多研究,并提出了许多检测方法和方案,主要包括传统算法和深度学习算法两大类。其中,传统算法如申请公布号CN111353334A,名称为“烟雾检测方法和装置”的专利申请,提出了一种烟雾检测方法和装置,包含以下步骤:首先在视频的多个帧图像中检测前景块,确定检测到的各个前景块的移动区域,然后计算各个前景块在至少两个帧图像中的重叠度,根据重叠度确定干扰前景块,最后在去除该干扰前景块的剩余前景块的移动区域中提取特征并检测烟雾。该方法可以避免水滴或光斑等干扰物造成的误检测,但需要手工提取特征并且不适用于微光环境。
现有的深度学习算法要优于传统算法,例如,申请公布号为CN111723656A,名称为“一种基于YOLO v3与自优化的烟雾检测方法”的专利申请,提出了一种基于YOLO v3与自优化的烟雾检测方法及装置,能够利用监控视频,采用深度学习与传统图像处理相结合的方法对烟雾进行检测,并将检测错误的样本与原始训练集合并成新的训练集,进行了自优化过程,一定程度上提高了烟雾检测能力。但由于该方法使用的YOLO v3网络并不使用于小目标的检测,容易错失烟雾火情的早期预警时间。
发明内容
本发明的目的在于提供一种微光环境下电缆沟道烟雾火情的智能图像检测方法,用于解决现有技术中存在的早期烟雾小目标的检测精确度较低和不适应微光环境下检测的技术问题。
为达到上述目的,本发明采用如下技术方案:
微光环境下电缆沟道烟雾火情的智能图像检测方法,包括以下步骤:
(1)获取训练样本集和测试样本集:
从微光相机的监控视频中获取到N幅包含烟雾的视频帧图像,组成烟雾图像样本集P={P1,P2,...,Pi,...,PN},将烟雾图像样本集P中的烟雾区域用矩形框进行标记,得到烟雾标签样本集L={L1,L2,...,Li,...,LN},将烟雾图像样本集P划分为训练样本集Pa={P1 a,P2 a,...,Pj a,...,Pm a}和测试样本集Pb={P1 b,P2 b,...,Pk b,...,Pn b},选取L中与Pa对应的烟雾标签样本组成训练标签样本集La={L1 a,L2 a,...,Lj a,...,Lm a},L中剩余标签样本集组成测试标签样本集Lb={L1 b,L2 b,...,Lk b,...,Ln b},其中,N≥3000,Pi表示第i幅烟雾图像,Li表示Pi对应的烟雾图像标签,Pj a表示第j个训练图像,Lj a表示第j个训练图像标签,Pk b表示第k幅测试图像,Lk b表示第k幅测试图像标签,m表示训练样本集的总数,n表示测试样本集的总数,m=[N×0.8],n=N-m,[·]表示取整操作;
(2)构建特征提取模块V、额外层特征提取模块E、金字塔特征提取模块Y、特征转换模块T和注意力机制模块A:
(2a)构建特征提取模块V;
(2b)四个依次层叠的卷积层构成额外特征提取模块E;
(2c)六个依次层叠的卷积层构成金字塔特征提取模块Y;
(2d)三个层叠的上采样与卷积层之间并联,再进行通道合并,构成特征转换模块T;
(2e)通道最大池化层与通道平均池化层分别经过通道数缩减的卷积层、激活层和通道数还原的卷积层,将两个结果相加后再经过一次激活层,构成通道注意力子模块CA,通道最大池化层与通道平均池化层并联,再与依次层叠的通道拼接层、卷积层和激活层串联,构成空间注意力子模块SA,通道注意力子模块CA与空间注意力子模块SA串联构成注意力机制模块A;
(3)构建烟雾检测网络FSSD:
(3a)将特征提取模块V与额外特征提取模块E串联构成特征提取子网D,将特征提取子网D与特征转换模块T串连;
(3b)将金字塔特征提取模块Y中的前两个卷积层输出分别与注意力机制模块A相连,构成输出特征子网O;
(3c)特征转换模块T与输出特征子网O串联,得到烟雾检测网络FSSD;
(4)对烟雾检测网络FSSD进行迭代训练;
(4a)初始化迭代轮数为t,最大迭代轮数为Y,Y≥80,烟雾检测网络FSSD的损失函数为Loss,令t=0;
(4b)将训练样本集Pa和训练标签样本集La作为烟雾检测网络FSSD的输入,获得网络输出结果;
(4c)采用烟雾检测网络的损失函数Loss,计算当前时刻的Losss,并采用Adam算法,通过Losss对FSSD网络进行训练,得到第s次训练的网络FSSDs;
(4d)判断Losss是否连续n轮迭代都没有下降或s=Y是否成立,其中n≥10,若是,得到训练好的烟雾检测网络FSSD,否则,令s=s+1,并执行步骤(4b);
(5)对微光相机拍摄到的视频进行初始化单高斯背景模型、检测运动帧图像和单高斯背景模型的更新:
(5a)用第一帧图像数据初始化单高斯背景模型;
(5b)判断后续视频帧中的像素是否发生了变化,若某一帧的像素发生了变化,则将这一帧标记为运动帧图像S,并执行步骤(5c),否则继续执行步骤(5b);
(5c)对单高斯背景模型进行更新并执行步骤(5b);
(6)对运动帧图像S进行中值滤波,得到去噪帧图像Sm;
(7)对去噪帧图像Sm进行限制对比度自适应直方图均衡化,得到增强帧图像Sh;
(8)将增强帧图像Sh送入烟雾检测网络FSSD中,获取烟雾检测结果Ss。
进一步地,步骤(2)中所述的特征提取模块V、额外层特征提取模块E、金字塔特征提取模块Y、特征转换模块T和注意力机制模块A,其中:
所述特征提取模块V,采用方法为VGG-16网络;
所述额外层特征提取模块E,其包含四层卷积层,各层参数具体如下:
第一个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动的步长为1;
第二个卷积层的卷积核大小为3×3,卷积核数量为512,卷积核移动的步长为1;
第三个卷积层的卷积核大小为3×3,卷积核数量为128,卷积核移动的步长为2;
第四个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动的步长为1;
所述金字塔特征提取模块Y,其包含六层卷积层,卷积核大小为3×3,卷积核移动步长为2,第一、二卷积层卷积核数量为512,第三、四、五、六卷积层卷积核数量为256;
所述特征转换模块T,其上采样尺寸为固定的38×38,卷积核大小为1×1,卷积核数量为256;
所述注意力机制模块A,其中通道注意力子模块CA的通道缩减数为16,卷积层的卷积核大小为3×3,空间注意力机制子模块SA的卷积核大小为7×7,激活层都采用Sigmoid激活函数。
进一步地,步骤(3a)中所述的特征提取子网D与特征转换模块T连接方式为:选取特征提取模块V的第23层、第35层输出和额外特征提取模块E的输出与特征转换模块T的三个输入相连。
进一步地,步骤(4c)中所述的烟雾检测网络FSSD的损失函数Loss,其表达式为:
其中,Lconf为目标置信度损失,Lloc为目标位置损失函数,smoothL1为损失函数,l为烟雾检测网络FSSD对训练样本集的结果目标框,g为l对应的标签样本中的真实目标框,d为l中与g匹配的目标框,Pos为d的集合,Neg为l与g的非匹配集合,N为d的总数,变量表示第i个结果目标框与第j个真实目标框是否匹配且是否存在类别P,匹配时为1,否则为0,{cx,cy,w,h}分别为目标框中心点的横坐标、中心点的纵坐标、目标框的宽度和高度,为第i个结果目标框属于类别P的置信度,为第i个结果目标框属于背景类的置信度。
进一步地,步骤(5)中所述的对微光相机拍摄到的视频进行初始化单高斯背景模型、检测运动帧图像和单高斯背景模型的更新,其中:
所述初始化单高斯背景模型的表达式为:
σ0(x,y)=20,μ0(x,y)=I(x,y,0)
其中,I(x,y,t)为像素点(x,y)在第t帧的像素值,μt(x,y)和σt(x,y)分别为第t帧时像素点(x,y)处的期望值和标准差,exp为以自然常数e为底的指数函数;
所述检测运动帧图像的表达式为:
|I(x,y,t)-μt-1(x,y)|≥λσt-1(x,y)
其中,λ为3,当第t帧有像素值满足该式时,则判定第t帧为运动帧,第t帧图像为运动帧图像;
所述单高斯背景模型的更新的表达式为:
μt(x,y)=(1-α)×μt-1(x,y)+α×I(x,y,t)
其中,α为0.05。
进一步地,步骤(6)中所述的中值滤波窗口大小为3×3,具体方法为:将每个像素的像素值替换为其与周围8个像素的像素值排序后的中间值。
进一步地,步骤(7)中所述的限制对比度自适应直方图均衡化的步骤如下:
第一步:将图像分为8×8大小的多个矩形块区域;
第二步:对每个矩形块区域计算灰度直方图分布和对应的变换函数,设置直方图分布的上限阈值K,将超过该阈值的部分均匀分布在整个图像灰度值区间上,令K=2.0;
第三步:将矩形块区域中的像素分为三种情况处理:四个角点处的像素按照该点的变换函数进行灰度变换,除角点外四个边处的像素按照所在的两个相邻像素的变换函数变换后进行线性插值得到,剩余的中心像素按照其所在的四个相邻像素的变换函数变换后进行双线性插值得到。
与现有技术相比,本发明具有以下有益的技术效果:
(1)本发明采用了烟雾检测网络FSSD,通过特征提取子网D获得了更多的图像高层语义特征,并通过特征转换模块T结合了图像的低层特征,使用高低层图像特征融合的方式提升了网络对于小目标的检测能力。
(2)本发明设计了包含注意力机制模块A的输出特征子网O,对图像进行了通道和空间信息的增强,并可以输出多尺度的预测结果,更精确地预测出烟雾目标的具体的位置。
(3)本发明设计了单高斯背景建模、中值滤波和限制对比度自适应直方图均衡化结合的微光环境下的烟雾检测方法,使得微光环境下的烟雾图像得到了增强处理,并将此方法与烟雾检测网络FSSD结合起来,减少了烟雾误检的概率。
附图说明
图1是本发明的实现流程图;
图2是本发明中的额外特征提取模块E结构图;
图3是本发明中的特征转换模块T结构图;
图4是本发明中的注意力机制模块A结构图;
图5是本发明中的输出特征子网O结构图;
图6是本发明实施例中所构建的烟雾检测网络FSSD结构示意图。
具体实施方式
下面结合附图和具体实施例,对本发明作进一步详细描述。
参照图1,本发明包括如下步骤:
步骤1)获取训练图像集和测试图像集:
从微光相机的监控视频中获取3000幅包含烟雾的视频帧图像,组成烟雾图像样本集P={P1,P2,...,Pi,...,P3000},将烟雾图像样本集P中的烟雾区域用矩形框进行标记,得到烟雾标签样本集L={L1,L2,...,Li,...,L3000},烟雾图像和图像所对应的标签大小相同,都为三通道图像。我们对烟雾图像样本集P进行训练集和测试集的划分,随机选取2400张组成训练样本集Pa={P1 a,P2 a,...,Pj a,...,P2400 a}以及对应的2400张烟雾图像标签组成训练标签样本集La={L1 a,L2 a,...,Lj a,...,L2400 a},将其余的600张烟雾图像组成测试样本集Pb={P1 b,P2 b,...,Pk b,...,P600 b},L中剩余标签样本组成测试标签样本集Lb={L1 b,L2 b,...,Lk b,...,L600 b},Pi表示第i幅烟雾图像,Li表示Pi对应的烟雾图像标签,Pj a表示第j个训练图像,Lj a表示第j个训练图像标签,Pk b表示第k幅测试图像,Lk b表示第k幅测试图像标签。
步骤2)构建特征提取模块V、额外层特征提取模块E(如图2)、金字塔特征提取模块Y、特征转换模块T(如图3)和注意力机制模块A(如图4);
(2a)构建特征提取模块V,采用方法为VGG-16;
(2b)四个依次层叠的卷积层构成如图2所示的额外特征提取模块E,其包含四层卷积层,各层参数具体为:第一个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动步长为1,第二个卷积层的卷积核大小为3×3,卷积核数量为512,卷积核移动步长为1,第三个卷积层的卷积核大小为3×3,卷积核数量为128,卷积核移动步长为2,第四个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动步长为1。通过额外卷积对图像进行特征的提取,得到语义信息更加丰富的特征层;
(2c)六个依次层叠的卷积层构成金字塔特征提取模块Y,其包含六层卷积层,卷积核大小为3×3,卷积核移动步长为2,第一、二卷积层卷积核数量为512,第三、四、五、六卷积层卷积核数量为256,通过该模块可以获取不同尺度的输出特征图像;
(2d)三个层叠的上采样与卷积层之间并联,再进行通道合并,构成如图3所示的特征转换模块T,其中上采样的尺寸为固定的38×38,卷积核大小为1×1,卷积核数量为256。通过三个不同尺度特征的合并转换,可以保留更多的图像信息;
(2e)通道最大池化层与通道平均池化层分别进过通道数缩减为16的卷积层、激活层和通道数还原的卷积层,将两个结果相加后再进过一次激活层,构成通道注意力子模块CA,通道最大池化层与通道平均池化层并联,再与依次层叠的通道拼接层、卷积层和激活层串联,构成空间注意力子模块SA,CA与SA串联构成如图4所示的注意力机制模块A。通道注意力子模块的卷积层的卷积核大小为3×3,空间注意力机制子模块的卷积核大小为7×7,激活层都采用激活函数,通过此模块可以得到通道和空间信息加强后的特征图。
步骤3)构建烟雾检测网络FSSD;
(3a)将特征提取模块V与额外特征提取模块E串联构成特征提取子网D,将D与特征转换模块T连接,连接方式为:选取特征提取模块V的第23层、第35层输出和额外特征提取模块E的输出与特征转换模块T的三个输入相连,通过融合高低层图像特征的方式增强对烟雾小目标的检测能力;
(3b)将金字塔特征提取模块Y中的前两个卷积层输出分别与注意力机制模块A相连,构成如图5所示的输出特征子网O。由于输出特征子网O中金字塔卷积模块的卷积核移动步长为2,因此输出特征图像大小分别为输入特征图像的这些不同尺度的输出特征图像可以加强不同尺度下的烟雾检测能力。另外通过与注意力机制模块A相连,可以增强对应的烟雾区域的通道与空间信息,抑制掉图像中的无用信息;
(3c)特征转换模块T与输出特征子网O串联,得到如图6所示的烟雾检测网络FSSD。
步骤4)对烟雾检测网络FSSD进行迭代训练;
(4a)初始化迭代轮数为t,最大迭代轮数为Y,Y≥80,烟雾检测网络FSSD的损失函数为Loss,令t=0;
(4b)将训练样本集Pa和训练标签样本集La作为烟雾检测网络FSSD的输入,获得结果目标框。烟雾检测网络FSSD的结果为与输入网络的训练图像大小相同的图像,图像中包含若干个目标框,目标框上标有该类所属的类别和所属该类别的概率;
(4c)采用烟雾检测网络的损失函数Loss,计算当前时刻的Loss,损失函数Loss的表达式为:
其中,Lconf为目标置信度损失,Lloc为目标位置损失函数,smoothL1为损失函数,l为烟雾检测网络FSSD对训练样本集的结果目标框,g为l对应的标签样本中的真实目标框,d为l中与g匹配的目标框,Pos为d的集合,Neg为l与g的非匹配集合,N为d的总数,变量表示第i个结果目标框与第j个真实目标框是否匹配且是否存在类别P,匹配时为1,否则为0,{cx,cy,w,h}分别为目标框中心点的横坐标、中心点的纵坐标、目标框的宽度和高度,为第i个结果目标框属于类别P的置信度,为第i个结果目标框属于背景类的置信度。
采用Adam算法,通过Loss对FSSD网络进行训练,得到第s次训练的网络FSSDs;
(4d)判断Losss是否连续10轮迭代都没有下降或s=Y是否成立,若是,得到训练好的烟雾检测网络FSSD,否则,令s=s+1,并执行步骤(4b)。
步骤5)对微光相机拍摄到的视频进行初始化单高斯背景模型、检测运动帧图像和单高斯背景模型的更新;
(5a)用第一帧图像数据初始化单高斯背景模型,表达式为:
σ0(x,y)=20,μ0(x,y)=I(x,y,0)
其中,I(x,y,t)为像素点(x,y)在第t帧的像素值,μt(x,y)和σt(x,y)分别为第t帧时像素点(x,y)处的期望值和标准差,exp为以自然常数e为底的指数函数;
(5b)判断后续视频帧中的像素是否发生了变化,表达式为:
|I(x,y,t)-μt-1(x,y)|≥λσt-1(x,y)
其中,λ为3,当第t帧有像素值满足该式时,则判定第t帧为运动帧,将这一帧标记为运动帧图像S,并执行步骤(5c),否则继续执行步骤(5b);
(5c)对单高斯背景模型进行更新并执行步骤(5b),更新表达式为:
μt(x,y)=(1-α)×μt-1(x,y)+α×I(x,y,t)
其中,α为0.05。
步骤6)对运动帧图像S进行中值滤波,得到去噪帧图像Sm,中值滤波的窗口大小为3×3,具体方法为:将每个像素的像素值替换为其与周围8个像素的像素值排序后的中间值,通过此步骤可以降低微光相机拍摄到的图像中产生的椒盐噪声影响。
步骤7)对去噪帧图像Sm进行限制对比度自适应直方图均衡化,得到增强帧图像Sh,具体步骤为:
第一步:将图像分为8×8大小的多个矩形块区域;
第二步:对每个矩形块区域计算灰度直方图分布和对应的变换函数,设置直
方图分布的上限阈值K,将超过该阈值的部分均匀分布在整个图像灰度值区间上,令K=2.0;
第三步:将矩形块区域中的像素分为三种情况处理:四个角点处的像素按照该点的变换函数进行灰度变换,除角点外四个边处的像素按照所在的两个相邻像素的变换函数变换后进行线性插值得到,剩余的中心像素按照其所在的四个相邻像素的变换函数变换后进行双线性插值得到。
步骤8)将增强帧图像Sh送入烟雾检测网络FSSD中,获取烟雾检测结果,其中包含烟雾目标的概率及结果目标框的具体位置。
Claims (4)
1.微光环境下电缆沟道烟雾火情的智能图像检测方法,其特征在于,包括以下步骤:
(1)获取训练样本集和测试样本集:
从微光相机的监控视频中获取到N幅包含烟雾的视频帧图像,组成烟雾图像样本集P={P1,P2,...,Pi,...,PN},将烟雾图像样本集P中的烟雾区域用矩形框进行标记,得到烟雾标签样本集L={L1,L2,...,Li,...,LN},将烟雾图像样本集P划分为训练样本集Pa={P1 a,P2 a,...,Pj a,...,Pm a}和测试样本集Pb={P1 b,P2 b,...,Pk b,...,Pn b},选取L中与Pa对应的烟雾标签样本组成训练标签样本集La={L1 a,L2 a,...,Lj a,...,Lm a},L中剩余标签样本集组成测试标签样本集Lb={L1 b,L2 b,...,Lk b,...,Ln b},其中,N≥3000,Pi表示第i幅烟雾图像,Li表示Pi对应的烟雾图像标签,Pj a表示第j个训练图像,Lj a表示第j个训练图像标签,Pk b表示第k幅测试图像,Lk b表示第k幅测试图像标签,m表示训练样本集的总数,n表示测试样本集的总数,m=[N×0.8],n=N-m,[·]表示取整操作;
(2)构建特征提取模块V、额外层特征提取模块E、金字塔特征提取模块Y、特征转换模块T和注意力机制模块A:
(2a)构建特征提取模块V;
(2b)四个依次层叠的卷积层构成额外特征提取模块E;
(2c)六个依次层叠的卷积层构成金字塔特征提取模块Y;
(2d)三个层叠的上采样与卷积层之间并联,再进行通道合并,构成特征转换模块T;
(2e)通道最大池化层与通道平均池化层分别经过通道数缩减的卷积层、激活层和通道数还原的卷积层,将两个结果相加后再经过一次激活层,构成通道注意力子模块CA,通道最大池化层与通道平均池化层并联,再与依次层叠的通道拼接层、卷积层和激活层串联,构成空间注意力子模块SA,通道注意力子模块CA与空间注意力子模块SA串联构成注意力机制模块A;
(3)构建烟雾检测网络FSSD:
(3a)将特征提取模块V与额外特征提取模块E串联构成特征提取子网D,将特征提取子网D与特征转换模块T串连;
(3b)将金字塔特征提取模块Y中的前两个卷积层输出分别与注意力机制模块A相连,构成输出特征子网O;
(3c)特征转换模块T与输出特征子网O串联,得到烟雾检测网络FSSD;
(4)对烟雾检测网络FSSD进行迭代训练;
(4a)初始化迭代轮数为t,最大迭代轮数为Y,Y≥80,烟雾检测网络FSSD的损失函数为Loss,令t=0;
(4b)将训练样本集Pa和训练标签样本集La作为烟雾检测网络FSSD的输入,获得网络输出结果;
(4c)采用烟雾检测网络的损失函数Loss,计算当前时刻的Losss,并采用Adam算法,通过Losss对FSSD网络进行训练,得到第s次训练的网络FSSDs;
所述的烟雾检测网络FSSD的损失函数Loss,其表达式为:
其中,Lconf为目标置信度损失,Lloc为目标位置损失函数,smoothL1为损失函数,l为烟雾检测网络FSSD对训练样本集的结果目标框,g为l对应的标签样本中的真实目标框,d为l中与g匹配的目标框,Pos为d的集合,Neg为l与g的非匹配集合,N为d的总数,变量表示第i个结果目标框与第j个真实目标框是否匹配且是否存在类别P,匹配时为1,否则为0,{cx,cy,w,h}分别为目标框中心点的横坐标、中心点的纵坐标、目标框的宽度和高度,为第i个结果目标框属于类别P的置信度,为第i个结果目标框属于背景类的置信度;
(4d)判断Losss是否连续n轮迭代都没有下降或s=Y是否成立,其中n≥10,若是,得到训练好的烟雾检测网络FSSD,否则,令s=s+1,并执行步骤(4b);
(5)对微光相机拍摄到的视频进行初始化单高斯背景模型、检测运动帧图像和单高斯背景模型的更新:
(5a)用第一帧图像数据初始化单高斯背景模型;
(5b)判断后续视频帧中的像素是否发生了变化,若某一帧的像素发生了变化,则将这一帧标记为运动帧图像S,并执行步骤(5c),否则继续执行步骤(5b);
(5c)对单高斯背景模型进行更新并执行步骤(5b);
(6)对运动帧图像S进行中值滤波,得到去噪帧图像Sm;
(7)对去噪帧图像Sm进行限制对比度自适应直方图均衡化,得到增强帧图像Sh;
(8)将增强帧图像Sh送入烟雾检测网络FSSD中,获取烟雾检测结果Ss;
其中,步骤(2)中所述的特征提取模块V、额外层特征提取模块E、金字塔特征提取模块Y、特征转换模块T和注意力机制模块A,其中:
所述特征提取模块V,采用方法为VGG-16网络;
所述额外层特征提取模块E,其包含四层卷积层,各层参数具体如下:
第一个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动的步长为1;
第二个卷积层的卷积核大小为3×3,卷积核数量为512,卷积核移动的步长为1;
第三个卷积层的卷积核大小为3×3,卷积核数量为128,卷积核移动的步长为2;
第四个卷积层的卷积核大小为3×3,卷积核数量为256,卷积核移动的步长为1;
所述金字塔特征提取模块Y,其包含六层卷积层,卷积核大小为3×3,卷积核移动步长为2,第一、二卷积层卷积核数量为512,第三、四、五、六卷积层卷积核数量为256;
所述特征转换模块T,其上采样尺寸为固定的38×38,卷积核大小为1×1,卷积核数量为256;
所述注意力机制模块A,其中通道注意力子模块CA的通道缩减数为16,卷积层的卷积核大小为3×3,空间注意力机制子模块SA的卷积核大小为7×7,激活层都采用Sigmoid激活函数;
步骤(3a)中所述的特征提取子网D与特征转换模块T连接方式为:选取特征提取模块V的第23层、第35层输出和额外特征提取模块E的输出与特征转换模块T的三个输入相连。
2.根据权利要求1所述的微光环境下电缆沟道烟雾火情的智能图像检测方法,其特征在于,步骤(5)中所述的对微光相机拍摄到的视频进行初始化单高斯背景模型、检测运动帧图像和单高斯背景模型的更新,其中:
所述初始化单高斯背景模型的表达式为:
σ0(x,y)=20,μ0(x,y)=I(x,y,0)
其中,I(x,y,t)为像素点(x,y)在第t帧的像素值,μt(x,y)和σt(x,y)分别为第t帧时像素点(x,y)处的期望值和标准差,exp为以自然常数e为底的指数函数;
所述检测运动帧图像的表达式为:
|I(x,y,t)-μt-1(x,y)|≥λσt-1(x,y)
其中,λ为3,当第t帧有像素值满足该式时,则判定第t帧为运动帧,第t帧图像为运动帧图像;
所述单高斯背景模型的更新的表达式为:
μt(x,y)=(1-α)×μt-1(x,y)+α×I(x,y,t)
其中,α为0.05。
3.根据权利要求1所述的微光环境下电缆沟道烟雾火情的智能图像检测方法,其特征在于,步骤(6)中所述的中值滤波窗口大小为3×3,具体方法为:将每个像素的像素值替换为其与周围8个像素的像素值排序后的中间值。
4.根据权利要求1所述的微光环境下电缆沟道烟雾火情的智能图像检测方法,其特征在于,步骤(7)中所述的限制对比度自适应直方图均衡化的步骤如下:
第一步:将图像分为8×8大小的多个矩形块区域;
第二步:对每个矩形块区域计算灰度直方图分布和对应的变换函数,设置直方图分布的上限阈值K,将超过该阈值的部分均匀分布在整个图像灰度值区间上,令K=2.0;
第三步:将矩形块区域中的像素分为三种情况处理:四个角点处的像素按照该点的变换函数进行灰度变换,除角点外四个边处的像素按照所在的两个相邻像素的变换函数变换后进行线性插值得到,剩余的中心像素按照其所在的四个相邻像素的变换函数变换后进行双线性插值得到。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011397103.8A CN112562255B (zh) | 2020-12-03 | 2020-12-03 | 微光环境下电缆沟道烟雾火情的智能图像检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011397103.8A CN112562255B (zh) | 2020-12-03 | 2020-12-03 | 微光环境下电缆沟道烟雾火情的智能图像检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112562255A CN112562255A (zh) | 2021-03-26 |
CN112562255B true CN112562255B (zh) | 2022-06-28 |
Family
ID=75047786
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011397103.8A Active CN112562255B (zh) | 2020-12-03 | 2020-12-03 | 微光环境下电缆沟道烟雾火情的智能图像检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112562255B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113111937A (zh) * | 2021-04-09 | 2021-07-13 | 中国工程物理研究院电子工程研究所 | 基于深度学习的图像匹配方法 |
CN113408549B (zh) * | 2021-07-14 | 2023-01-24 | 西安电子科技大学 | 基于模板匹配和注意力机制的少样本弱小目标检测方法 |
CN113537390B (zh) * | 2021-08-06 | 2023-10-10 | 国网新源水电有限公司富春江水力发电厂 | 一种基于图卷积网络的动态点云位置预测方法 |
CN114550104B (zh) * | 2022-04-22 | 2022-08-05 | 科大天工智能装备技术(天津)有限公司 | 一种火情监测方法及系统 |
CN115512506B (zh) * | 2022-10-09 | 2023-06-20 | 青鸟消防股份有限公司 | 基于两个缓冲池的端云联动消防图侦方法及系统 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101917094B1 (ko) * | 2017-08-29 | 2018-11-09 | 전남대학교산학협력단 | 매핑테이블을 이용한 고속 스모그/저조도 영상 개선 방법 및 장치 |
CN110415260A (zh) * | 2019-08-01 | 2019-11-05 | 西安科技大学 | 基于字典与bp神经网络的烟雾图像分割与识别方法 |
CN110533051A (zh) * | 2019-08-02 | 2019-12-03 | 中国民航大学 | 基于卷积神经网络的x光安检图像中违禁品自动检测方法 |
CN110543879A (zh) * | 2019-08-20 | 2019-12-06 | 高新兴科技集团股份有限公司 | 基于se模块的ssd目标检测方法及计算机存储介质 |
CN110751185A (zh) * | 2019-09-26 | 2020-02-04 | 高新兴科技集团股份有限公司 | 目标检测模型的训练方法和装置 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20110317007A1 (en) * | 2010-06-24 | 2011-12-29 | Kim Ki-Il | Smoke and carbon monoxide alarm device having a video camera |
US9472082B2 (en) * | 2014-06-23 | 2016-10-18 | Bruno Delean | Vision based system for detecting distress behavior |
CN111784963A (zh) * | 2019-04-03 | 2020-10-16 | 中徽机电科技股份有限公司 | 一种智能化节能烟雾应急报警系统 |
-
2020
- 2020-12-03 CN CN202011397103.8A patent/CN112562255B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101917094B1 (ko) * | 2017-08-29 | 2018-11-09 | 전남대학교산학협력단 | 매핑테이블을 이용한 고속 스모그/저조도 영상 개선 방법 및 장치 |
CN110415260A (zh) * | 2019-08-01 | 2019-11-05 | 西安科技大学 | 基于字典与bp神经网络的烟雾图像分割与识别方法 |
CN110533051A (zh) * | 2019-08-02 | 2019-12-03 | 中国民航大学 | 基于卷积神经网络的x光安检图像中违禁品自动检测方法 |
CN110543879A (zh) * | 2019-08-20 | 2019-12-06 | 高新兴科技集团股份有限公司 | 基于se模块的ssd目标检测方法及计算机存储介质 |
CN110751185A (zh) * | 2019-09-26 | 2020-02-04 | 高新兴科技集团股份有限公司 | 目标检测模型的训练方法和装置 |
Non-Patent Citations (1)
Title |
---|
深度卷积神经网络在目标检测中的研究进展;姚群力;《计算机工程与应用》;20181231;1-9 * |
Also Published As
Publication number | Publication date |
---|---|
CN112562255A (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112562255B (zh) | 微光环境下电缆沟道烟雾火情的智能图像检测方法 | |
CN108133188B (zh) | 一种基于运动历史图像与卷积神经网络的行为识别方法 | |
CN109584248B (zh) | 基于特征融合和稠密连接网络的红外面目标实例分割方法 | |
CN109478239B (zh) | 检测图像中的对象的方法和对象检测系统 | |
CN107016357B (zh) | 一种基于时间域卷积神经网络的视频行人检测方法 | |
CN109215034B (zh) | 一种基于空间金字塔掩盖池化的弱监督图像语义分割方法 | |
CN107563433B (zh) | 一种基于卷积神经网络的红外小目标检测方法 | |
CN111767882A (zh) | 一种基于改进yolo模型的多模态行人检测方法 | |
CN111950649A (zh) | 基于注意力机制与胶囊网络的低照度图像分类方法 | |
CN111738054B (zh) | 一种基于时空自编码器网络和时空cnn的行为异常检测方法 | |
CN110991444B (zh) | 面向复杂场景的车牌识别方法及装置 | |
CN112487913A (zh) | 一种基于神经网络的标注方法、装置及电子设备 | |
CN112614136A (zh) | 一种红外小目标实时实例分割方法及装置 | |
CN110490155B (zh) | 一种禁飞空域无人机检测方法 | |
CN110807384A (zh) | 低能见度下的小目标检测方法和系统 | |
CN112288026B (zh) | 一种基于类激活图的红外弱小目标检测方法 | |
CN111626090A (zh) | 一种基于深度帧差卷积神经网络的运动目标检测方法 | |
CN111898566B (zh) | 姿态估计方法、装置、电子设备和存储介质 | |
CN114724189A (zh) | 一种目标识别的对抗样本防御模型训练方法、系统及应用 | |
Kadim et al. | Deep-learning based single object tracker for night surveillance. | |
CN112308087A (zh) | 基于动态视觉传感器的一体化成像识别系统和方法 | |
CN111199255A (zh) | 基于darknet53网络的小目标检测网络模型及检测方法 | |
CN116363535A (zh) | 基于卷积神经网络的无人机航拍影像中的船舶检测方法 | |
CN107886093B (zh) | 一种字符检测方法、系统、设备及计算机存储介质 | |
CN117218545A (zh) | 基于LBP特征与改进Yolov5的雷达图像检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |