CN109948557A - 多网络模型融合的烟雾检测方法 - Google Patents
多网络模型融合的烟雾检测方法 Download PDFInfo
- Publication number
- CN109948557A CN109948557A CN201910219817.0A CN201910219817A CN109948557A CN 109948557 A CN109948557 A CN 109948557A CN 201910219817 A CN201910219817 A CN 201910219817A CN 109948557 A CN109948557 A CN 109948557A
- Authority
- CN
- China
- Prior art keywords
- network
- vgg16
- smog
- smoke
- resnet50
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明涉及多网络模型融合的烟雾检测方法。融合VGG16和ResNet50两个网络模型实现对烟雾的可靠检测。本发明提出的融合网络可以提取更丰富的烟雾图像细节特征,增强特征对烟雾图像和类烟雾图像的区分能力。采用基于同构空间下的特征迁移学习方法,能够很好地将预训练好的VGG16和ResNet50模型的特征提取层迁移到烟雾场景下的目标数据集分类任务中,同时提高模型的泛化能力。通过融合多网络模型,增强了特征的区分能力,降低了云、雾等与烟雾相似的目标引发的虚警现象,进一步提高了烟雾检测的可靠性。
Description
技术领域
本发明涉及多网络模型融合的烟雾检测方法。
背景技术
基于计算机视觉的火灾预警技术在火灾的探测、预警领域发挥着越来越重要的作用。其中,烟雾检测对于火灾早期的探测意义重大。目前,烟雾检测方法主要分为两类,一类是根据颜色、形状、纹理、运动等传统特征实现火灾检测,如文献《Smoke detection invideo using wavelets and support vector machines》采用离散小波变换提取烟雾图像特征,并应用支持向量机进行分类。文献《Smoke Detection in Video Sequences:Combined Approach》采用区域匹配的方法提取疑似烟雾区域,利用背景物体颜色改变速度对烟雾进行了识别。这类方法具有实现简单、检测速度快等优点,但受环境干扰较大。另一类是根据深度网络自动提取特征实现烟雾检测,如文献《Convolutional neural networkfor video fire and smoke detection》将卷积神经网络(CNN)应用于火焰和烟雾的识别,相比依靠人工提取特征的传统方法识别率更高。文献《基于深度迁移学习的烟雾识别方法》将VGG16网络用于烟雾识别,能够很好区分烟雾、火焰等5种场景,进一步提升了烟雾检测精度,但VGG16网络块与块之间采用了最大池化,会丢失原始图像一部分特征,仍难以很好地区分烟雾和云雾等类烟雾目标。总的来说,尽管深度学习方法可以大幅提高烟雾检测性能,但现有方法对于云、雾等与烟雾特别相似的目标区分能力仍然不够,虚警率仍偏高。
发明内容
本发明提出一种多网络模型融合的烟雾检测方法,主要创新是融合VGG16和ResNet50两个网络模型实现对烟雾的可靠检测。VGG16网络的卷积层和池化层均采用相同的核函数,以卷积层、池化层堆叠的方式构成卷积块结构,具有结构简单、容易形成较深的网络结构等优点。但是VGG16网络的块与块之间采用了最大池化,对于烟雾等细节非常丰富的图像而言,可能会丢失原始图像的部分重要特征。为了弥补特征丢失的不足,本发明引入ResNet50网络,ResNet50网络采用了跳跃连接,构成残差块,从而将图像信息传递到神经网络的更深层,能够避免烟雾图像重要特征的丢失。同时,可以避免因梯度消失导致的欠拟合问题,从而在加深网络层次的同时有效提高模型的表达能力。此外,相比单一网络,本发明提出的融合网络可以提取更丰富的烟雾图像细节特征,增强特征对烟雾图像和类烟雾图像的区分能力。考虑到两个网络融合造成的训练困难问题,本发明采用基于同构空间下的特征迁移学习方法,能够很好地将预训练好的VGG16和ResNet50模型的特征提取层迁移到烟雾场景下的目标数据集分类任务中,同时提高模型的泛化能力。本发明的有益效果是通过融合多网络模型,增强了特征的区分能力,降低了云、雾等与烟雾相似的目标引发的虚警现象,进一步提高了烟雾检测的可靠性。
本发明的实现流程如图1所示。实施步骤如下:
Step1:采用双线性插值方法,将输入图像尺寸缩放到224×224;
Step2:分别采用VGG16特征提取器和ResNet50特征提取器提取特征。VGG16是由13个卷积层和3个全连接层组成,网络结构如图3所示,其最大的特点是通过3×3滤波器的组合与堆叠来提取特征。对于烟雾检测而言,这种方式提取丰富的烟雾细节特征,增强特征对烟雾图像和类烟雾图像的区分能力。本发明使用的VGG16网络特征提取器为图2中虚线框的卷积块结构部分;
ResNet50中包含了49个卷积层和1个全连接层,网络结构如图3所示。由于该网络加入了恒等映射层,直接连接浅层网络与深层网络,这样可以保障网络随着深度的增加而不退化,并且收敛效果好。利用这一特性,可以解决VGG16网络特征丢失和欠拟合的问题。本发明使用的ResNet50网络特征提取器为图3中虚线框的残差块结构部分;
将ResNet50网络提取的7×7×2048=100352维特征置于VGG16网络提取的7×7×512=25088维特征之后,构建一个100352+25088=125440维的特征;
本发明通过融合VGG16和Resnet50网络模型,与单层网络相比可以提取到烟雾图像更多的细节特征,同时,可以避免经典的VGG16网络因梯度消失而引发的欠拟合问题,从而在加深网络层次的同时有效提高模型的表达能力,便于区分烟雾图像和云、雾等类烟雾图像;
Step3:将每个特征看作神经元的节点,采用全连接(FC)的方式连接提取到的特征,输出1024个神经元节点;
Step4:为了防止卷积神经网络过拟合现象发生,采用Dropout方法,按照一定概率p(其中p=0.3)随机选择神经单元并丢弃;
Step5:Dropout后剩余的神经单元仍采用全连接(FC)方式连接,输出128个神经元节点;
Step6:仍采用Dropout方法,按照一定概率p(其中p=0.3)随机选择神经单元并丢弃;
Step7:将剩余的神经单元通过Sigmoid激活函数输出,输出的值大于等于0.5则判定为烟雾图像,否则判定为非烟雾图像。
在本发明中,多模型网络模型的训练非常重要。本发明采用袁非牛教授公开的烟雾图像数据集进行训练。考虑到公开的烟雾图像据集偏少,本发明采用目标检测领域中含有的大量标注数据进行迁移学习。具体地,本发明采用Keras库已经训练好的VGG16和ResNet50模型(https://github.com/fchollet/deep-learning-models/releases)进行迁移学习,直接使用VGG16网络特征提取器和ResNet50网络特征提取器中的参数作为初始训练参数,其他连接层参数丢弃。之后,在烟雾图像数据集上对本发明提出的多网络融合模型进行训练。本发明通过采用迁移学习方法进行模型训练,可以解决烟雾图像小样本空间下两个网络融合造成的训练困难问题,同时提高模型的泛化能力,适应复杂环境下的烟雾检测。
本发明相对现有技术,具有的优势有:1)通过融合VGG16和Resnet50网络模型,与单层网络相比可以提取到烟雾图像更多的细节特征,同时,可以避免经典的VGG16网络因梯度消失而引发的欠拟合问题,从而在加深网络层次的同时有效提高模型的表达能力,便于区分烟雾图像和云、雾等类烟雾图像。2)通过采用迁移学习方法进行模型训练,可以解决烟雾图像小样本空间下两个网络融合造成的训练困难问题,同时提高模型的泛化能力,适应复杂环境下的烟雾检测。综合上述优势,本发明的有益成果是:可以实现复杂环境下烟雾目标的可靠检测,降低云雾等类烟雾目标引起的虚警现象。
附图说明
图1 本发明实现流程图,
图2 VGG16网络结构图,
图3 ResNet50网络结构图。
具体实施方式
可以将本发明所述方法部署在视频监控系统中,智能检测监控视频中是否有烟雾等火情发生,提醒值班人员注意。
具体实施例如下:
Step1:采用摄像机采集场景监控视频;
Step2:对于视频中的每一帧图像,采用双线性插值方法,将图像尺寸缩放到224×224;
Step3:分别采用VGG16特征提取器和ResNet50特征提取器提取特征,并将ResNet50网络提取的7×7×2048=100352维特征置于VGG16网络提取的7×7×512=25088维特征之后,构建一个100352+25088=125440维的特征;
Step4:将每个特征看作神经元的节点,采用全连接(FC)的方式连接提取到的特征,输出1024个神经元节点;
Step5:采用Dropout方法,按照一定概率p(其中p=0.3)随机选择神经单元并丢弃;
Step5:剩余的神经单元仍采用全连接(FC)方式连接,输出128个神经元节点;
Step6:仍采用Dropout方法,按照一定概率p(其中p=0.3)随机选择神经单元并丢弃;
Step7:将剩余的神经单元通过Sigmoid激活函数输出,输出的值大于等于0.5则判定为烟雾图像,否则判定为非烟雾图像;
Step8:检测到烟雾图像之后,启动报警程序,通知值班人员注意核查火情。
Claims (2)
1.多网络模型融合的烟雾检测方法,融合VGG16和ResNet50两个网络模型实现对烟雾的检测,其特征在于,步骤如下:
Step1:采用双线性插值方法,将输入图像尺寸缩放到224×224;
Step2:分别采用VGG16特征提取器和ResNet50特征提取器提取特征,VGG16是由13个卷积层和3个全连接层组成,
ResNet50中包含了49个卷积层和1个全连接层,
将ResNet50网络提取的7×7×2048=100352维特征置于VGG16网络提取的7×7×512=25088维特征之后,构建一个100352+25088=125440维的特征;
Step3:将每个特征看作神经元的节点,采用全连接的方式连接提取到的特征,输出1024个神经元节点;
Step4:为了防止卷积神经网络过拟合现象发生,采用Dropout方法,按照一定概率p随机选择神经单元并丢弃,其中p=0.3;
Step5:Dropout后剩余的神经单元仍采用全连接方式连接,输出128个神经元节点;
Step6:仍采用Dropout方法,按照一定概率p随机选择神经单元并丢弃,其中p=0.3;
Step7:将剩余的神经单元通过Sigmoid激活函数输出,输出的值大于等于0.5则判定为烟雾图像,否则判定为非烟雾图像。
2.根据权利要求1所述的多网络模型融合的烟雾检测方法,其特征在于,所述多模型网络模型的训练采用烟雾图像数据集进行训练,采用目标检测领域中含有的大量标注数据进行迁移学习,具体地,本发明采用Keras库已经训练好的VGG16和ResNet50模型进行迁移学习,直接使用VGG16网络特征提取器和ResNet50网络特征提取器中的参数作为初始训练参数,其他连接层参数丢弃,之后,在烟雾图像数据集上对多网络融合模型进行训练。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910219817.0A CN109948557B (zh) | 2019-03-22 | 2019-03-22 | 多网络模型融合的烟雾检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910219817.0A CN109948557B (zh) | 2019-03-22 | 2019-03-22 | 多网络模型融合的烟雾检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109948557A true CN109948557A (zh) | 2019-06-28 |
CN109948557B CN109948557B (zh) | 2022-04-22 |
Family
ID=67011275
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910219817.0A Active CN109948557B (zh) | 2019-03-22 | 2019-03-22 | 多网络模型融合的烟雾检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109948557B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110719444A (zh) * | 2019-11-07 | 2020-01-21 | 中国人民解放军国防科技大学 | 多传感器融合的全方位监控与智能摄像方法与系统 |
CN110765982A (zh) * | 2019-11-07 | 2020-02-07 | 中国人民解放军国防科技大学 | 基于变化累积图和级联深度网络的视频烟雾检测方法 |
CN111597394A (zh) * | 2020-04-24 | 2020-08-28 | 云南电网有限责任公司电力科学研究院 | 一种多维、多层、多粒度的多网融合建模方法 |
CN111753925A (zh) * | 2020-07-02 | 2020-10-09 | 广东技术师范大学 | 一种多模型融合医学图像分类方法及设备 |
CN112734707A (zh) * | 2020-12-31 | 2021-04-30 | 重庆西山科技股份有限公司 | 一种3d内窥镜辅助检测方法、系统、装置及存储介质 |
CN112927207A (zh) * | 2021-03-02 | 2021-06-08 | 精英数智科技股份有限公司 | 实例分割探杆检测方法及装置 |
CN113191944A (zh) * | 2021-05-31 | 2021-07-30 | 大连民族大学 | 一种多通道图像内容特征融合风格迁移方法及系统 |
CN115330658A (zh) * | 2022-10-17 | 2022-11-11 | 中国科学技术大学 | 一种多曝光图像融合方法、装置、设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108229319A (zh) * | 2017-11-29 | 2018-06-29 | 南京大学 | 基于帧间差异与卷积神经网络融合的船舶视频检测方法 |
CN108334830A (zh) * | 2018-01-25 | 2018-07-27 | 南京邮电大学 | 一种基于目标语义和深度外观特征融合的场景识别方法 |
CN108628993A (zh) * | 2018-04-28 | 2018-10-09 | 国家基础地理信息中心 | 电子地图自适应分类方法、装置、设备及存储介质 |
CN108734095A (zh) * | 2018-04-10 | 2018-11-02 | 南京航空航天大学 | 一种基于3d卷积神经网络的动作检测方法 |
CN108985061A (zh) * | 2018-07-05 | 2018-12-11 | 北京大学 | 一种基于模型融合的webshell检测方法 |
-
2019
- 2019-03-22 CN CN201910219817.0A patent/CN109948557B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108229319A (zh) * | 2017-11-29 | 2018-06-29 | 南京大学 | 基于帧间差异与卷积神经网络融合的船舶视频检测方法 |
CN108334830A (zh) * | 2018-01-25 | 2018-07-27 | 南京邮电大学 | 一种基于目标语义和深度外观特征融合的场景识别方法 |
CN108734095A (zh) * | 2018-04-10 | 2018-11-02 | 南京航空航天大学 | 一种基于3d卷积神经网络的动作检测方法 |
CN108628993A (zh) * | 2018-04-28 | 2018-10-09 | 国家基础地理信息中心 | 电子地图自适应分类方法、装置、设备及存储介质 |
CN108985061A (zh) * | 2018-07-05 | 2018-12-11 | 北京大学 | 一种基于模型融合的webshell检测方法 |
Non-Patent Citations (3)
Title |
---|
宋小杉等: "《基于支持向量机的地面目标自动识别技术》", 31 July 2018 * |
王文朋等: "基于深度迁移学习的烟雾识别方法", 《计算机应用》 * |
王正来等: "基于并行深度残差网络的堆场烟雾检测方法", 《激光与光电子学进展》 * |
Cited By (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110719444A (zh) * | 2019-11-07 | 2020-01-21 | 中国人民解放军国防科技大学 | 多传感器融合的全方位监控与智能摄像方法与系统 |
CN110765982A (zh) * | 2019-11-07 | 2020-02-07 | 中国人民解放军国防科技大学 | 基于变化累积图和级联深度网络的视频烟雾检测方法 |
CN111597394A (zh) * | 2020-04-24 | 2020-08-28 | 云南电网有限责任公司电力科学研究院 | 一种多维、多层、多粒度的多网融合建模方法 |
CN111597394B (zh) * | 2020-04-24 | 2023-08-08 | 云南电网有限责任公司电力科学研究院 | 一种多维、多层、多粒度的多网融合建模方法 |
CN111753925A (zh) * | 2020-07-02 | 2020-10-09 | 广东技术师范大学 | 一种多模型融合医学图像分类方法及设备 |
CN112734707A (zh) * | 2020-12-31 | 2021-04-30 | 重庆西山科技股份有限公司 | 一种3d内窥镜辅助检测方法、系统、装置及存储介质 |
CN112734707B (zh) * | 2020-12-31 | 2023-03-24 | 重庆西山科技股份有限公司 | 一种3d内窥镜辅助检测方法、系统、装置及存储介质 |
CN112927207A (zh) * | 2021-03-02 | 2021-06-08 | 精英数智科技股份有限公司 | 实例分割探杆检测方法及装置 |
CN112927207B (zh) * | 2021-03-02 | 2022-06-14 | 精英数智科技股份有限公司 | 实例分割探杆检测方法及装置 |
CN113191944A (zh) * | 2021-05-31 | 2021-07-30 | 大连民族大学 | 一种多通道图像内容特征融合风格迁移方法及系统 |
CN113191944B (zh) * | 2021-05-31 | 2023-11-07 | 大连民族大学 | 一种多通道图像内容特征融合风格迁移方法及系统 |
CN115330658A (zh) * | 2022-10-17 | 2022-11-11 | 中国科学技术大学 | 一种多曝光图像融合方法、装置、设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109948557B (zh) | 2022-04-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109948557A (zh) | 多网络模型融合的烟雾检测方法 | |
CN109977773B (zh) | 基于多目标检测3d cnn的人体行为识别方法及系统 | |
CN108830252B (zh) | 一种融合全局时空特征的卷积神经网络人体动作识别方法 | |
CN110956094B (zh) | 一种基于非对称双流网络的rgb-d多模态融合人员检测方法 | |
CN108846365B (zh) | 视频中打架行为的检测方法、装置、存储介质及处理器 | |
CN107609470B (zh) | 野外火灾早期烟雾视频检测的方法 | |
CN103295016B (zh) | 基于深度与rgb信息和多尺度多方向等级层次特征的行为识别方法 | |
CN104303193B (zh) | 基于聚类的目标分类 | |
CN104504395A (zh) | 基于神经网络实现人车分类的方法和系统 | |
CN111274930A (zh) | 一种基于深度学习的安全帽佩戴以及吸烟行为识别方法 | |
CN105590099A (zh) | 一种基于改进卷积神经网络的多人行为识别方法 | |
US11023717B2 (en) | Method, apparatus, device and system for processing commodity identification and storage medium | |
CN107995982A (zh) | 一种目标识别方法、装置和智能终端 | |
CN111223129A (zh) | 检测方法、检测装置、监控设备和计算机可读存储介质 | |
CN108198202A (zh) | 一种基于光流和神经网络的视频内容检测方法 | |
CN108064389A (zh) | 一种目标识别方法、装置和智能终端 | |
CN114202646A (zh) | 一种基于深度学习的红外图像吸烟检测方法与系统 | |
CN114580541A (zh) | 一种基于时空域双通道火灾视频烟雾识别方法 | |
CN117152443B (zh) | 一种基于语义前导指引的图像实例分割方法及系统 | |
CN114677754A (zh) | 行为识别方法、装置、电子设备及计算机可读存储介质 | |
CN111860457A (zh) | 一种斗殴行为识别预警方法及其识别预警系统 | |
CN113837144B (zh) | 一种冰箱的智能化图像数据采集处理方法 | |
CN115311111A (zh) | 课堂参与度评价方法及系统 | |
CN114885119A (zh) | 一种基于计算机视觉的智能监控报警系统及方法 | |
CN110765982B (zh) | 基于变化累积图和级联深度网络的视频烟雾检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |