CN108280516B - 一种多组卷积神经网络之间互博智能进化的优化方法 - Google Patents

一种多组卷积神经网络之间互博智能进化的优化方法 Download PDF

Info

Publication number
CN108280516B
CN108280516B CN201810179969.8A CN201810179969A CN108280516B CN 108280516 B CN108280516 B CN 108280516B CN 201810179969 A CN201810179969 A CN 201810179969A CN 108280516 B CN108280516 B CN 108280516B
Authority
CN
China
Prior art keywords
convolutional neural
neural networks
image
neti
data set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201810179969.8A
Other languages
English (en)
Other versions
CN108280516A (zh
Inventor
朱顺意
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong Lingneng Electronic Technology Co ltd
Original Assignee
Shandong Lingneng Electronic Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong Lingneng Electronic Technology Co ltd filed Critical Shandong Lingneng Electronic Technology Co ltd
Priority to CN201810179969.8A priority Critical patent/CN108280516B/zh
Publication of CN108280516A publication Critical patent/CN108280516A/zh
Application granted granted Critical
Publication of CN108280516B publication Critical patent/CN108280516B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种多组卷积神经网络之间互博智能进化的优化方法，通过多个卷积神经网络之间通过对比识别图像的准确率，利用摄像头实时采集图像作为数据集反馈给识别效果不好的网络进行微调以优化该网络可以对该类别的图像更好的分类；可以利用安防监控自动获取训练集喂给一个分类效果较差的网络，控制其自动微调(Finturn)，节省大量人力物力手动采集图片并且写上标签，而且实现卷积神经网络之间自动的训练进化。

Description

一种多组卷积神经网络之间互博智能进化的优化方法
技术领域
本发明涉及一种多组卷积神经网络之间互博智能进化的优化方法，属于人工智能深度学习领域。
背景技术
近年来人工智能技术发展迅速，深度学习领域中的卷积神经网络CNN已经成为众多科学领域的研究热点之一，特别是在模式分类领域，由于卷积神经网络避免了对图像的复杂前期预处理，可以直接输入原始图像，在目标识别、行为识别、人脸识别等领域有着广泛的应用。
虽然卷积神经网络的应用十分广泛，但是限制其发展的一个非常关键的因素就是训练数据集的收集问题。要想训练好一个卷积神经网络实现目标检测，就要喂给这个网络一个很大的数据集，拿ImageNet数据集来讲，它包含1000个物体类别，每个类别有1200张图片，其训练数据集就达到了1200000张图，对这些图的采集和标注标签的工作量是非常大的，耗费了大量的人力物力。并且很多公司收集的数据集不对外开放，这就严重限制了深度学习的发展和应用。
人工智能芯片的问世，使得在嵌入式设备上进行实时的训练卷积神经网络成为可能。
发明内容
针对现有技术的不足，本发明提供了一种多组卷积神经网络之间互博智能进化的优化方法；
本发明通过多个卷积神经网络之间通过对比识别图像的准确率，利用摄像头实时采集图像作为数据集反馈给识别效果不好的网络进行微调以优化该网络可以对该类别的图像更好的分类；可以利用安防监控自动获取训练集喂给一个分类效果较差的网络，控制其自动微调(Finturn)，节省大量人力物力手动采集图片并且写上标签，而且实现卷积神经网络之间自动的训练进化。
术语解释：
1、卷积神经网络(Convolutional Neural Network,CNN)：是一种前馈神经网络，它的人工神经元可以响应一部分覆盖范围内的周围单元，对于大型图像处理有出色表现。它包括卷积层(convolutional layer)和池化层(pooling layer)。
2、训练数据集：是用来训练卷积神经网络的，卷积神经网络可以通过各种算法计算处理训练数据集从而提取特征并保存，然后和实际数据进行比对从而实现识别分类。
3、ImageNet：是根据WordNet层次结构组织的一个图像数据库，其中层次结构的每个节点都被成百上千的图像所描述。目前，每个节点平均有超过500个图像。该数据集在2012年的时候包括1000类图像，有126万张图像，验证集5万张，测试集10万张(标注未公布)。
4、微调(fine turning)：训练好的model里面存放的是一些参数，我们实际上就是把预先训练好的参数，拿来作为我们的初始化参数，而不需要再去随机初始化了。使用训练好的参数，必须和别人用同一个network，因为参数是由network而来的。但是，最后一层得修改，因为我们的数据集可能和原来训练的数据集并不一样，而只有几类。我们把最后一层的输出类别改一下，然后把层的名称改一下就可以了。最后用预先训练好的参数、修改后的network和我们数据，再进行训练，使得参数适应我们的数据。
5、Batch_Size(批尺寸)：是机器学习中每次训练的样本个数，迭代次数＝样本总数/批尺寸。
6、IamgeNet大规模视觉识别挑战赛：从2010年以来，ImageNet每年都会举办一次软件竞赛，也即ImageNet大规模视觉识别挑战赛(ILSVRC)，参赛程序会相互比试，看谁能以最高的正确率对物体和场景进行分类和检测，不仅牵动着产学研三界的心，也是各团队、巨头展示实力的竞技场。
7、推理分类，就是把任意的图片输入进一个卷积神经网络，通过网络对图片的计算得到分类结果。
本发明的技术方案为：
一种多组卷积神经网络之间互博智能进化的优化方法，包括：
(1)选取m个卷积神经网络，包括net1,…,neti,…,netm，m≥2且m为整数，1≤i≤m，neti是指m个卷积神经网络中的任一卷积神经网络；m个卷积神经网络的初始化状态均是基于同一个数据集训练得到，该数据集有n个类别，一个类别有多张训练图片，包括1,…,j,…,n；j是指n个类别中的任一类别；
(2)利用m个卷积网络分别对采集装置采集的单张图像进行推理分类，卷积神经网络neti得到分类结果，即n个概率值Xi1，…，Xij…Xin,Xij是指当前采集的图像是类别j的概率，从n个概率值中选取其中的最大值
Figure BDA0001588485590000022
ai∈{1,…,j,…,n}；最终，m个卷积网络分别从得到的n个概率值中选取其中的最大值，依次为
Figure BDA0001588485590000021
(3)设置阈值Z，阈值Z的取值范围为50％-100％，阈值Z实际上是一个概率，比如卷积神经网络net1分类一张图像的结果为：目标图像是物体A的概率为P1＝90％，是物体B的概率为P2＝40％，是物体C的概率为P3＝30％，设置阈值Z＝80％，P1>P2,P1>P3,并且P1>Z,就认为该卷积神经网络把目标图像分类成了物体A。从步骤(2)求取的
Figure BDA0001588485590000023
中选取最大值
Figure BDA0001588485590000024
为
Figure BDA0001588485590000028
Figure BDA0001588485590000025
中的任一个；比较
Figure BDA0001588485590000027
与阈值Z的关系，如果
Figure BDA0001588485590000026
则判定neti卷积神经网络识别该图像正确，把第ai个分类的标签赋值给该图像，除neti外的其它卷积神经网络对该图像类别的识别效果都不正确，进入步骤(4)；否则，认为采集的所述单张图像不够清晰，重新采集图像，返回步骤(2)；
(4)控制同一个采集装置进行实时快速拍照，采样N张图像，并将步骤(3)判断得到的标签赋值给这N张图像；N为整数且N≥2；
(5)控制除neti外的其它卷积神经网络各自进行微调(Finturn),如果训练数据集比较小，即训练数据集中图片的数量小于1万张，则设置各个卷积神经网络训练时的批大小batch_size为N，否则，设置batchsize为N/2或N/3，目的是减少处理器的计算量。使得除neti外的其它卷积神经网络自我训练进化。以对该类物体可以更好的识别。
根据本发明优选的，所述采集装置为摄像头。
根据本发明优选的，阈值Z的取值范围为80％-90％。
本发明的有益效果为：
1、相比于人工标注数据集，本发明大大降低了时间成本和经济成本，原本需要花费数百人工作几十天的任务量，现在系统可以自动标注数据集。
2、卷积神经网络之间通过反馈可以让系统自动的微调各个网络得到更好的分类特征，这是在传统训练卷积神经网络方法基础上的优化，系统可以自动的优化卷积神经网络的分类特征。
3、本发明先选取了已经经过训练的多个卷积神经网络，在传统训练卷积神经网络方法基础上的优化，经过智能进化网络的准确率会比初选时的网络准确率更高。
附图说明
图1为本发明一种多组卷积神经网络之间互博智能进化的优化方法的流程框图；
图2为本发明实施例2中多组卷积神经网络之间互博智能进化的优化方法的流程框图。
具体实施方式
下面结合说明书附图和实施例对本发明作进一步限定，但不限于此。
实施例1
一种多组卷积神经网络之间互博智能进化的优化方法，如图1所示，包括：
(1)选取m个卷积神经网络，包括net1,…,neti,…,netm，m≥2且m为整数，1≤i≤m，neti是指m个卷积神经网络中的任一卷积神经网络；m个卷积神经网络的初始化状态均是基于同一个数据集训练得到，该数据集有n个类别，一个类别有多张训练图片，包括1,…,j,…,n；j是指n个类别中的任一类别；
(2)利用m个卷积网络分别对摄像头采集的单张图像进行推理分类，卷积神经网络neti得到分类结果，即n个概率值Xi1，…，Xij…Xin,Xij是指当前采集的图像是类别j的概率，从n个概率值中选取其中的最大值
Figure BDA0001588485590000048
ai∈{1,…,j,…,n}；最终，m个卷积网络分别从得到的n个概率值中选取其中的最大值，依次为
Figure BDA0001588485590000041
(3)根据此网络的精确度设置阈值Z，阈值Z的取值范围为80％-90％，阈值Z实际上是一个概率，比如卷积神经网络net1分类一张图像的结果为：目标图像是物体A的概率为P1＝90％，是物体B的概率为P2＝40％，是物体C的概率为P3＝30％，设置阈值Z＝80％，P1>P2,P1>P3,并且P1>Z,就认为该卷积神经网络把目标图像分类成了物体A。从步骤(2)求取的
Figure BDA0001588485590000042
中选取最大值
Figure BDA0001588485590000043
为
Figure BDA0001588485590000044
中的任一个；比较
Figure BDA0001588485590000045
与阈值Z的关系，如果
Figure BDA0001588485590000046
Figure BDA0001588485590000047
则判定neti卷积神经网络识别该图像正确，把第ai个分类的标签赋值给该图像，除neti外的其它卷积神经网络对该图像类别的识别效果都不正确，进入步骤(4)；否则，认为采集的所述单张图像不够清晰，重新采集图像，返回步骤(2)；
(4)系统发出指令控制同一个摄像头进行实时快速拍照，采样N张图像，并将步骤(3)判断得到的标签赋值给这N张图像；N为整数且N≥2；
(5)控制除neti外的其它卷积神经网络各自进行微调(Finturn),如果训练数据集比较小，即训练数据集中图片的数量小于1万张，则设置各个卷积神经网络训练时的批大小batch_size为N，否则，设置batchsize为N/2或N/3，目的是减少处理器的计算量。使得除neti外的其它卷积神经网络自我训练进化。以对该类物体可以更好的识别。
实施例2
一种多组卷积神经网络之间互博智能进化的优化方法，如图2所示，包括：
(1)选取在IamgeNet大规模视觉识别挑战赛(ImageNet Large Scale VisualRecogition Challenge)中分别于2012年和2014年获得分类识别冠军的AlexNet和GoogleNet应用在嵌入式设备安防监控上，这两个卷积神经网络都是在拥有1000个类别的IamgeNet训练数据集上训练得到的。
(2)安防监控在限定的时间点捕捉图像，在某时刻监控拍摄一张图像A分别传递给AlexNet和GoogleNet进行实时识别，AlexNet计算出A图像中的目标是IamgeNet数据集中1000种分类的概率为X1，X2，X3…X1000，其中最大的概率值是Xi，即AlexNet认为A图像中的目标和IamgeNet数据集中的第i类最为相似。与AlexNet类似，GoogleNet识别A图像获得的最大概率值为Yj，即GoogleNet认为A图像中的目标和IamgeNet数据集中的第j类最为相似。
(3)比较Xi与Yj的大小，根据这两个网络的精确度设置一个阈值Z，若Xi>Yj，并且Xi>Z，则认为AlexNet识别该图像正确，把第i个分类的标签赋值给该图像，判定GoogleNet不如AlexNet对此类目标的识别效果好。若GoogleNet不如AlexNet对此类目标的识别效果好，系统做出判断的同时，系统发出指令控制摄像头进行快速拍照，限定1秒钟拍摄50张图像，假设目标移动的速度允许一秒钟的拍摄，只取这一秒拍到的图像集存储，把步骤(3)判断得到的第i类标签结果赋给这50张图像，至此，监控自动获取数据集成功。以上识别过程反馈的结果是GoogleNet不如AlexNet对此类目标的识别效果好，因此系统会控制GoogleNet利用监控获取的数据集微调(Finturn)，使得GoogleNet自我训练进化以对该类物体可以更好的识别。提前设置好了两个网络的batch_size为50，也可以根据监控自动获取的训练数据集调整。
(4)通过微调GoogleNet得到一个更好的Caffemodel，这个Caffemodel对A图像目标的类别可以更好的识别。至此，本发明实现了利用两组卷积神经网络之间互博选取对某类目标分类比较差的网络，然后通过系统智能控制其微调进化的优化方法。
与现有技术相比，本发明将人力成本减少至零，时间成本上实现系统实时自动标注数据集，准确率提高5％以上。

Claims (3)

1.一种多组卷积神经网络之间互博智能进化的优化方法，其特征在于，包括：
(1)选取m个卷积神经网络，包括net1,…,neti,…,netm，m≥2且m为整数，1≤i≤m，neti是指m个卷积神经网络中的任一卷积神经网络；m个卷积神经网络均是基于同一个数据集训练得到，该数据集有n个类别，包括1,…,j,…,n；j是指n个类别中的任一类别；
(2)利用m个卷积网络分别对采集装置采集的单张图像进行推理分类，卷积神经网络neti得到分类结果，即n个概率值Xi1，…，Xij…Xin,Xij是指当前采集的图像是类别j的概率，从n个概率值中选取其中的最大值
Figure FDA00015884855800000110
最终，m个卷积网络分别从得到的n个概率值中选取其中的最大值，依次为
Figure FDA00015884855800000111
(3)设置阈值Z，阈值Z的取值范围为50％-100％，从步骤(2)求取的
Figure FDA0001588485580000014
中选取最大值
Figure FDA0001588485580000015
为
Figure FDA0001588485580000016
中的任一个；比较
Figure FDA0001588485580000017
与阈值Z的关系，如果
Figure FDA0001588485580000018
Figure FDA0001588485580000019
则判定neti卷积神经网络识别该图像正确，把第ai个分类的标签赋值给该图像，除neti外的其它卷积神经网络对该图像类别的识别效果都不正确，进入步骤(4)；否则，认为采集的所述单张图像不够清晰，重新采集图像，返回步骤(2)；
(4)控制同一个采集装置进行实时快速拍照，采样N张图像，并将步骤(3)判断得到的标签赋值给这N张图像；N为整数且N≥2；
(5)控制除neti外的其它卷积神经网络各自进行微调,如果训练数据集比较小，即训练数据集中图片的数量小于1万张，则设置各个卷积神经网络训练时的批大小batch_size为N，否则，设置batch_ size为N/2或N/3。
2.根据权利要求1所述的一种多组卷积神经网络之间互博智能进化的优化方法，其特征在于，所述采集装置为摄像头。
3.根据权利要求1或2所述的一种多组卷积神经网络之间互博智能进化的优化方法，其特征在于，阈值Z的取值范围为80％-90％。
CN201810179969.8A 2018-03-05 2018-03-05 一种多组卷积神经网络之间互博智能进化的优化方法 Active CN108280516B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810179969.8A CN108280516B (zh) 2018-03-05 2018-03-05 一种多组卷积神经网络之间互博智能进化的优化方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810179969.8A CN108280516B (zh) 2018-03-05 2018-03-05 一种多组卷积神经网络之间互博智能进化的优化方法

Publications (2)

Publication Number Publication Date
CN108280516A CN108280516A (zh) 2018-07-13
CN108280516B true CN108280516B (zh) 2021-05-11

Family

ID=62809094

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810179969.8A Active CN108280516B (zh) 2018-03-05 2018-03-05 一种多组卷积神经网络之间互博智能进化的优化方法

Country Status (1)

Country Link
CN (1) CN108280516B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109726761B (zh) * 2018-12-29 2023-03-31 青岛海洋科学与技术国家实验室发展中心 Cnn进化方法、基于cnn的auv集群工作方法、装置及存储介质
US10579907B1 (en) * 2019-01-31 2020-03-03 StradVision, Inc. Method for automatically evaluating labeling reliability of training images for use in deep learning network to analyze images, and reliability-evaluating device using the same
CN109961030A (zh) * 2019-03-18 2019-07-02 北京邮电大学 路面修补信息检测方法、装置、设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679185A (zh) * 2012-08-31 2014-03-26 富士通株式会社 卷积神经网络分类器系统、其训练方法、分类方法和用途
CN104850890A (zh) * 2015-04-14 2015-08-19 西安电子科技大学 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法
CN106447625A (zh) * 2016-09-05 2017-02-22 北京中科奥森数据科技有限公司 基于人脸图像序列的属性识别方法及装置
WO2017114810A1 (en) * 2015-12-31 2017-07-06 Vito Nv Methods, controllers and systems for the control of distribution systems using a neural network arhcitecture
CN107341549A (zh) * 2017-07-26 2017-11-10 成都快眼科技有限公司 一种基于多通道竞争卷积神经网络参数优化方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103810497B (zh) * 2014-01-26 2017-04-19 华中科技大学 一种基于忆阻器的图像识别系统及方法
US9484022B2 (en) * 2014-05-23 2016-11-01 Google Inc. Training multiple neural networks with different accuracy
US9852492B2 (en) * 2015-09-18 2017-12-26 Yahoo Holdings, Inc. Face detection
US10068171B2 (en) * 2015-11-12 2018-09-04 Conduent Business Services, Llc Multi-layer fusion in a convolutional neural network for image classification
US10846591B2 (en) * 2015-12-29 2020-11-24 Synopsys, Inc. Configurable and programmable multi-core architecture with a specialized instruction set for embedded application based on neural networks
CN106295507B (zh) * 2016-07-25 2019-10-18 华南理工大学 一种基于集成卷积神经网络的性别识别方法
CN107067020B (zh) * 2016-12-30 2019-11-15 腾讯科技（上海）有限公司 图片识别方法及装置
CN107704625B (zh) * 2017-10-30 2021-01-15 锐捷网络股份有限公司 字段匹配方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103679185A (zh) * 2012-08-31 2014-03-26 富士通株式会社 卷积神经网络分类器系统、其训练方法、分类方法和用途
CN104850890A (zh) * 2015-04-14 2015-08-19 西安电子科技大学 基于实例学习和Sadowsky分布的卷积神经网络参数调整方法
WO2017114810A1 (en) * 2015-12-31 2017-07-06 Vito Nv Methods, controllers and systems for the control of distribution systems using a neural network arhcitecture
CN106447625A (zh) * 2016-09-05 2017-02-22 北京中科奥森数据科技有限公司 基于人脸图像序列的属性识别方法及装置
CN107341549A (zh) * 2017-07-26 2017-11-10 成都快眼科技有限公司 一种基于多通道竞争卷积神经网络参数优化方法

Also Published As

Publication number Publication date
CN108280516A (zh) 2018-07-13

Similar Documents

Publication Publication Date Title
Budiharto et al. Fast object detection for quadcopter drone using deep learning
CN107122375B (zh) 基于图像特征的图像主体的识别方法
CN106845401B (zh) 一种基于多空间卷积神经网络的害虫图像识别方法
CN111832608B (zh) 一种基于单阶段检测模型yolov3的铁谱图像多磨粒识别方法
CN111161315B (zh) 一种基于图神经网络的多目标跟踪方法和系统
CN108280516B (zh) 一种多组卷积神经网络之间互博智能进化的优化方法
CN110135231A (zh) 动物面部识别方法、装置、计算机设备和存储介质
CN109871885A (zh) 一种基于深度学习和植物分类学的植物识别方法
CN113128478B (zh) 模型训练方法、行人分析方法、装置、设备及存储介质
CN112270681B (zh) 一种黄板害虫深度检测与计数方法与系统
WO2022062419A1 (zh) 基于非督导金字塔相似性学习的目标重识别方法及系统
CN113761259A (zh) 一种图像处理方法、装置以及计算机设备
CN111709371A (zh) 基于人工智能的分类方法、装置、服务器和存储介质
CN114359727A (zh) 基于轻量级优化Yolo v4的茶叶病害识别方法及系统
CN110688980A (zh) 基于计算机视觉的人体姿态分类方法
CN110580510A (zh) 一种聚类结果评价方法和系统
CN110443181A (zh) 人脸识别方法及装置
CN113705596A (zh) 图像识别方法、装置、计算机设备和存储介质
Dai Real-time and accurate object detection on edge device with TensorFlow Lite
CN111967501B (zh) 一种遥测原始数据驱动的载荷状态判别方法及判别系统
Nikpour et al. Deep reinforcement learning in human activity recognition: A survey
CN117253192A (zh) 用于桑蚕养殖的智能系统及方法
CN110427804B (zh) 一种基于二次迁移学习的虹膜身份验证方法
CN112084913A (zh) 一种端到端的人体检测与属性识别方法
CN111507396A (zh) 缓解神经网络对未知类样本产生错误分类的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant