CN112101473B - 一种基于小样本学习的烟雾检测算法 - Google Patents

一种基于小样本学习的烟雾检测算法 Download PDF

Info

Publication number
CN112101473B
CN112101473B CN202011001772.9A CN202011001772A CN112101473B CN 112101473 B CN112101473 B CN 112101473B CN 202011001772 A CN202011001772 A CN 202011001772A CN 112101473 B CN112101473 B CN 112101473B
Authority
CN
China
Prior art keywords
data
network
countermeasure network
semi
discriminator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011001772.9A
Other languages
English (en)
Other versions
CN112101473A (zh
Inventor
朱晓荣
郭涵奕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202011001772.9A priority Critical patent/CN112101473B/zh
Publication of CN112101473A publication Critical patent/CN112101473A/zh
Application granted granted Critical
Publication of CN112101473B publication Critical patent/CN112101473B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G06F18/2155—Generating training patterns; Bootstrap methods, e.g. bagging or boosting characterised by the incorporation of unlabelled data, e.g. multiple instance learning [MIL], semi-supervised techniques using expectation-maximisation [EM] or naïve labelling
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computational Linguistics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Evolutionary Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Fire-Detection Mechanisms (AREA)

Abstract

本发明提供了一种基于小样本学习的烟雾检测算法，包括数据生成；通过修改改进的生成对抗网络中的判别器，将判别器模型的输出层替换成softmax分类器，使之可以实现对真实数据的分类，形成半监督生成对抗网络；通过在生成器网络的损失函数中增加特征匹配和紧密度计算这两个约束函数来稳定半监督生成对抗网络模型的收敛，提高模型最终的性能；利用小样本图像，通过改进的生成对抗网络生产大量的样本数据，将数据输入到卷积神经网络进行学习训练，调整神经网络的参数，达到精确监测火灾的目的；本发明提供的烟雾检测算法包括与传统方法相比，能实现对不同类型火灾中烟雾图像的检测，具有更高的精确度。

Description

一种基于小样本学习的烟雾检测算法
技术领域
本发明涉及智能图像识别技术领域，主要涉及一种基于小样本学习的烟雾检测算法。
背景技术
随着大数据时代的到来和深度学习等技术的快速发展，人们可以在强大的计算机算力的支持下，利用复杂的神经网络模型挖掘和提取海量数据中的关键信息。尤其在大规模的火灾监控中，成千上万的传感器每天会产生大量的数据，数据可能会存在火灾类别标记缺失或者类别标记太过笼统的问题，即含有效火灾类别标签的数据在总数据中占比较小，从而对于卷积神经网络(CNN)这种有监督的深度学习算法而言，处理这类数据可能就无法取得较为理想的效果。因此为了使烟雾检测算法拥有较高的精确度，需要更多的图像训练CNN，避免训练样本不足导致的过拟合。
生成式对抗网络(GAN)是蒙特利尔大学的伊恩·古德费洛(Ian Goodfellow)和其他研究人员在2014年6月提出的一种新型神经结构，是近年来复杂分布上无监督学习最具前景的方法之一。模型通过框架中生成模型和判别模型的互相博弈学习产生相当好的输出。因此我们可以将它应用到数据生成中，通过改进GAN使之可以对真实数据进行分类，对真实烟雾图像进行训练生成新的烟雾图像数据，用以构建图像感烟探测深度学习库。
GAN被广泛应用于生成海量数据，用来训练深度学习模型。因此，本专利受其启发将GAN用于生成火灾烟雾图像数据中，通过生成的大量数据训练CNN，避免训练样本不足导致的过拟合，达到提升火灾烟雾检测算法精确度的目标。
发明内容
发明目的：本发明的目的是提供基于小样本学习的烟雾检测算法，即基于改进的生成对抗网络(GAN)的火灾烟雾检测算法，将改进的GAN与CNN结合提高烟雾检测算法的精确度。该方法采用GAN网络生成真实烟雾的“伪图像”，修改GAN判别器使之形成半监督生成对抗网络(SGAN)。并且在生成器网络的损失函数中增加特征匹配和紧密度来稳定模型的收敛和最终的性能。最后将数据输入到CNN网络进行学习训练，调整神经网络的参数，达到精确监测火灾的目的。
技术方案：为实现上述目的，本发明采用的技术方案为：
一种基于小样本学习的烟雾检测算法，其特征在于，包括如下步骤：
步骤S1、采用改进的生成对抗网络生成真实烟雾的伪图像，修改改进的生成对抗网络中的判别器，将判别器模型的输出层替换成softmax分类器，对真实数据进行分类，生成半监督生成对抗网络；
记训练数据类别有K个，softmax分类器数量则为K+1类，其中第K+1类就代表生成器生成的假数据，其余则对应训练数据中的K类，即形成半监督生成对抗网络；
判别器D结构改变，半监督生成对抗网络的损失函数LG也发生了相应的变化如下：
Figure BDA0002694576050000021
其中
Figure BDA0002694576050000022
代表生成器生成数据；
Figure BDA0002694576050000023
是
Figure BDA0002694576050000024
的概率分布函数；
Figure BDA0002694576050000025
表示生成数据
Figure BDA0002694576050000026
被判别器D判别为第K+1类的概率；
判别器D的损失函数LD分为有监督损失部分和无监督损失部分，具体如下：
Figure BDA0002694576050000027
其中x是真实数据，y是x的类别标签，p(x,y)是(x,y)服从的概率分布，
Figure BDA0002694576050000028
是生成器生成数据，
Figure BDA0002694576050000029
是其服从的概率分布，E表示数学期望；
步骤S2、在所述生成器网络的损失函数中增加特征匹配和紧密度计算，提升半监督生成对抗网络模型的收敛；
步骤S3、利用小样本图像，通过改进的生成对抗网络生产大量的样本数据，将数据输入至卷积神经网络进行学习训练，调整神经网络参数，实现精确监测火灾。
进一步地，步骤S2中增加特征匹配和紧密度计算的具体步骤如下：
采用嵌入式选择的方式进行特征匹配，通过L1范数正则化，有利于帮助降低过拟合风险，更容易获得稀疏解；L1正则化的求解采用近端梯度下降，对LG进行最小化，则每一步梯度下降迭代实际上等价于最小化函数
Figure BDA00026945760500000210
则每一步迭代为
Figure BDA00026945760500000211
在每一步进行梯度下降迭代的同时考虑L1范数最小化；
令
Figure BDA00026945760500000212
求解
Figure BDA00026945760500000213
xi表示x的第i个分量，有闭式解
Figure BDA0002694576050000031
其中
Figure BDA0002694576050000032
与zi分别是xk+1与z的第i个分量。
有益效果：本发明具备以下优点：
本方法建立图像感烟探测深度学习数据库，将改进的GAN与CNN结合提高烟雾检测算法的精确度。通过修改GAN的判别器，使GAN具有对真实数据的分类的能力。通过使用GAN建立数据库，避免了CNN训练少量样本可能导致的过拟合问题。通过在生成器网络的损失函数中增加特征匹配和紧密度计算这两个约束函数来稳定SGAN模型的收敛和提高模型最终的性能。与传统方法相比，该算法能实现对不同类型火灾中烟雾图像的检测，具有更高的精确度。
附图说明
图1是本发明提供的基于小样本学习的烟雾检测算法框架图；
图2是本发明提供的基于改进的生成对抗网络模型示意图。
具体实施方式
下面结合附图对本发明作更进一步的说明。
如图1-2所示的基于小样本学习的烟雾检测算法，包括如下步骤：
步骤S1、采用改进的生成对抗网络生成真实烟雾的伪图像，修改改进的生成对抗网络中的判别器，将判别器模型的输出层替换成softmax分类器，对真实数据进行分类，生成半监督生成对抗网络。
记训练数据类别有K个，softmax分类器数量则为K+1类，其中第K+1类就代表生成器生成的假数据，其余则对应训练数据中的K类，即形成半监督生成对抗网络；
由于判别器D结构改变，半监督生成对抗网络的损失函数LG也发生了相应的变化如下：
Figure BDA0002694576050000033
其中
Figure BDA0002694576050000034
代表生成器生成数据；
Figure BDA0002694576050000035
是
Figure BDA0002694576050000036
的概率分布函数；
Figure BDA0002694576050000037
表示生成数据
Figure BDA0002694576050000038
被判别器D判别为第K+1类的概率。
判别器D的损失函数LD分为有监督损失部分和无监督损失部分，具体如下：
Figure BDA0002694576050000041
其中x是真实数据，y是x的类别标签，p(x,y)是(x,y)服从的概率分布，
Figure BDA0002694576050000042
是生成器生成数据，
Figure BDA0002694576050000043
是其服从的概率分布，E表示数学期望。
步骤S2、SGAN虽然可以通过学习额外的未标记的样本来改进监督任务的性能，但SGAN中的梯度下降算法的目标是找到最小的损失函数点，而不是找到使生成器和判别器都能达到最佳性能的纳什平衡点，在输入特征参数比较多的情况下，模型收敛的难度也会大大增加，所以拟通过在生成器网络的损失函数中增加特征匹配和紧密度计算这两个约束函数来稳定SGAN模型的收敛和提高模型最终的性能。
具体地，这里采用嵌入式选择的方式进行特征匹配，嵌入式特征选择是将特征选择过程与学习器训练过程融为一体，两者在同一个优化过程中完成，即在学习器训练过程中自动地进行特征选择。这里我们采用L1范数正则化，有利于帮助降低过拟合风险，更容易获得稀疏解。L1正则化的求解采用近端梯度下降，对LG进行最小化，则每一步梯度下降迭代实际上等价于最小化函数
Figure BDA0002694576050000044
则每一步迭代为
Figure BDA0002694576050000045
在每一步进行梯度下降迭代的同时考虑L1范数最小化。
令
Figure BDA0002694576050000046
求解
Figure BDA0002694576050000047
令xi表示x的第i个分量，有闭式解
Figure BDA0002694576050000048
其中
Figure BDA0002694576050000049
与zi分别是xk+1与z的第i个分量。
步骤S3、利用小样本图像，通过改进的生成对抗网络生产大量的样本数据，将数据输入至卷积神经网络进行学习训练，调整神经网络参数，实现精确监测火灾。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (2)

1.一种基于小样本学习的烟雾检测算法，其特征在于，包括如下步骤：
步骤S1、采用改进的生成对抗网络生成真实烟雾的伪图像，修改改进的生成对抗网络中的判别器，将判别器模型的输出层替换成softmax分类器，对真实数据进行分类，生成半监督生成对抗网络；
记训练数据类别有K个，softmax分类器数量则为K+1类，其中第K+1类就代表生成器生成的假数据，其余则对应训练数据中的K类，即形成半监督生成对抗网络；
判别器D结构改变，半监督生成对抗网络的损失函数LG也发生了相应的变化如下：
Figure FDA0002694576040000011
其中
Figure FDA0002694576040000012
代表生成器生成数据；
Figure FDA0002694576040000013
是
Figure FDA0002694576040000014
的概率分布函数；
Figure FDA0002694576040000015
表示生成数据
Figure FDA0002694576040000016
被判别器D判别为第K+1类的概率；
判别器D的损失函数LD分为有监督损失部分和无监督损失部分，具体如下：
Figure FDA0002694576040000017
其中x是真实数据，y是x的类别标签，p(x,y)是(x,y)服从的概率分布，
Figure FDA0002694576040000018
是生成器生成数据，
Figure FDA0002694576040000019
是其服从的概率分布，E表示数学期望；
步骤S2、在生成器网络的损失函数中增加特征匹配和紧密度计算，提升半监督生成对抗网络模型的收敛；
步骤S3、利用小样本图像，通过改进的生成对抗网络生产大量的样本数据，将数据输入至卷积神经网络进行学习训练，调整神经网络参数，实现精确监测火灾。
2.根据权利要求1所述的一种基于小样本学习的烟雾检测算法，其特征在于，所述步骤S2中增加特征匹配和紧密度计算的具体步骤如下：
采用嵌入式选择的方式进行特征匹配，通过L1范数正则化，有利于帮助降低过拟合风险，更容易获得稀疏解；L1正则化的求解采用近端梯度下降，对LG进行最小化，则每一步梯度下降迭代实际上等价于最小化函数
Figure FDA00026945760400000110
则每一步迭代为
Figure FDA00026945760400000111
在每一步进行梯度下降迭代的同时考虑L1范数最小化；
令
Figure FDA0002694576040000021
求解
Figure FDA0002694576040000022
xi表示x的第i个分量，有闭式解
Figure FDA0002694576040000023
其中
Figure FDA0002694576040000024
与zi分别是xk+1与z的第i个分量。
CN202011001772.9A 2020-09-22 2020-09-22 一种基于小样本学习的烟雾检测算法 Active CN112101473B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011001772.9A CN112101473B (zh) 2020-09-22 2020-09-22 一种基于小样本学习的烟雾检测算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011001772.9A CN112101473B (zh) 2020-09-22 2020-09-22 一种基于小样本学习的烟雾检测算法

Publications (2)

Publication Number Publication Date
CN112101473A CN112101473A (zh) 2020-12-18
CN112101473B true CN112101473B (zh) 2022-07-15

Family

ID=73755734

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011001772.9A Active CN112101473B (zh) 2020-09-22 2020-09-22 一种基于小样本学习的烟雾检测算法

Country Status (1)

Country Link
CN (1) CN112101473B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113344119A (zh) * 2021-06-28 2021-09-03 南京邮电大学 工业物联网复杂环境下的小样本烟雾监测方法
CN114282684A (zh) * 2021-12-24 2022-04-05 支付宝(杭州)信息技术有限公司 训练用户相关的分类模型、进行用户分类的方法及装置
CN115314254B (zh) * 2022-07-07 2023-06-23 中国人民解放军战略支援部队信息工程大学 基于改进wgan-gp的半监督恶意流量检测方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107688773A (zh) * 2017-07-07 2018-02-13 北京联合大学 一种基于深度学习的手势识别方法
CN110414600A (zh) * 2019-07-27 2019-11-05 西安电子科技大学 一种基于迁移学习的空间目标小样本识别方法
CN111476292A (zh) * 2020-04-03 2020-07-31 北京全景德康医学影像诊断中心有限公司 医学图像分类处理人工智能的小样本元学习训练方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107688773A (zh) * 2017-07-07 2018-02-13 北京联合大学 一种基于深度学习的手势识别方法
CN110414600A (zh) * 2019-07-27 2019-11-05 西安电子科技大学 一种基于迁移学习的空间目标小样本识别方法
CN111476292A (zh) * 2020-04-03 2020-07-31 北京全景德康医学影像诊断中心有限公司 医学图像分类处理人工智能的小样本元学习训练方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于深度学习的动态手势识别方法;王健等;《计算机仿真》;20180215(第02期);全文 *

Also Published As

Publication number Publication date
CN112101473A (zh) 2020-12-18

Similar Documents

Publication Publication Date Title
CN112101473B (zh) 一种基于小样本学习的烟雾检测算法
CN112560432B (zh) 基于图注意力网络的文本情感分析方法
CN113190699B (zh) 一种基于类别级语义哈希的遥感图像检索方法及装置
CN110046671A (zh) 一种基于胶囊网络的文本分类方法
CN110110707A (zh) 人工智能cnn、lstm神经网络动态识别系统
CN112906770A (zh) 一种基于跨模态融合的深度聚类方法及系统
CN108427740B (zh) 一种基于深度度量学习的图像情感分类与检索算法
CN112434628B (zh) 基于主动学习和协同表示的小样本图像分类方法
CN112464004A (zh) 一种多视角深度生成图像聚类方法
CN113780003B (zh) 时空数据变分编解码跨模态增强方法
CN116311483B (zh) 基于局部面部区域重构和记忆对比学习的微表情识别方法
CN114022311A (zh) 基于时序条件生成对抗网络的综合能源系统数据补偿方法
Zhang et al. Representation learning of knowledge graphs with entity attributes
CN110111365B (zh) 基于深度学习的训练方法和装置以及目标跟踪方法和装置
CN116258990A (zh) 一种基于跨模态亲和力的小样本参考视频目标分割方法
CN116229179A (zh) 基于宽度学习系统的双松弛图像分类方法
CN108388918B (zh) 具有结构保持特性的数据特征选择方法
Wang et al. R2-trans: Fine-grained visual categorization with redundancy reduction
CN112364160A (zh) 一种结合ALBERT和BiGRU的专利文本分类方法
Zhu A face recognition system using ACO-BPNN model for optimizing the teaching management system
Chen et al. A handwritten character recognition algorithm based on artificial immune
CN113435190B (zh) 一种融合多层次信息抽取和降噪的篇章关系抽取方法
CN112598065B (zh) 一种基于记忆的门控卷积神经网络语义处理系统及方法
Qin et al. Generation of Handwritten Numbers Using Generative Adversarial Networks
CN111444787B (zh) 一种性别约束的全智能化人脸表情识别方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant