CN113128323B - 一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 - Google Patents
一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 Download PDFInfo
- Publication number
- CN113128323B CN113128323B CN202010047847.0A CN202010047847A CN113128323B CN 113128323 B CN113128323 B CN 113128323B CN 202010047847 A CN202010047847 A CN 202010047847A CN 113128323 B CN113128323 B CN 113128323B
- Authority
- CN
- China
- Prior art keywords
- network
- training
- parameters
- networks
- models
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Biophysics (AREA)
- Remote Sensing (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Astronomy & Astrophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于协同进化卷积神经网络学习的遥感图像分类方法，属于图像处理技术领域。首先初始化多个不同优化方法的相同网络，将初始化的网络同时进行训练,选取一个时间间隔，在每个时间间隔后，选取在测试集上分类准确率最高的网络，保存其模型的全部参数并将保存的模型参数赋予协同训练中剩余的网络，进行网络的迭代训练，每次丢弃表现较差的模型参数，继承表现最好的模型参数。使得每个优化方法充分发挥其功能，达到优化最大化，提高收敛速度，达到较高的准确率。本发明可对大规模的高分辨率遥感图像进行场景分类，大大提高遥感图像分类的准确性，可用于自然灾害的检测与评估，环境监测等领域，减少判断与决策失误性，减少损失。
Description
技术领域
本发明属于图像处理技术领域，尤其涉及一种基于协同进化卷积神经网络学习的遥感图像场景分类方法及装置。
背景技术
随着深度学习的发展和延伸，深度学习网络在各大领域都取得了一定进展，遥感领域也不例外。而近些年航空和航天遥感技术的快速发展更是如虎添翼。遥感图像分类作为遥感领域的一项重大应用，受到了相关专业人士的重视，越来越多的精力投入其中。遥感图像分类的方法主要分为两类，一类是采用非深度学习的分类方法，另一类是结合了深度学习的分类方法。
传统的图像非深度学习分类方法的基本流程包括：图像预处理、底层特征提取、特征编码、特征汇聚和使用分类器分类四个部分。但是，这种方法对人工提取特征的依赖性较高。人工提取特征既耗时，又需要相关的专业知识。在大数据时代，想要高效且精准地完成图像分类，仅靠人工提取特征是做不到的。此时深度学习网络便大有用武之地。其基本思想就是通过有监督或无监督的方式学习层次化的特征表达，完成对图像从底层到高层的特征描述。深度学习网络，通过逐层训练的方式自主提取图像特征，能够学习到强大的特征表达。因此，基于深度学习网络的分类方法在进行遥感图像场景分类时能够达到较好的效果。现有的深度学习网络主要建立在卷积神经网络的基础上，得到广泛应用的有AlexNet、VGGNet以及深度残差网络。
遥感图像数据集相比于普通图像数据集存在以下问题：
(1)数据规模小：现有遥感数据集中场景类别较少，并且每个类别包含的图片数量也较少；
(2)数据缺乏多样性：由于数据整体规模较小，数据集所提供的图像信息自然不够丰富。
遥感数据集存在的问题极大地限制了深度学习网络在场景分类应用中的发展。数据规模有限，导致这些网络学习的特征表达不具有鲁棒性，并且网络容易产生过拟合的情况。
发明内容
发明目的：针对以上问题，本发明提出了一种基于协同进化卷积神经网络学习的遥感图像分类方法。本发明与现有的遥感图像分类技术相比，有助于提升遥感图像场景分类的准确率。除此之外，基于协同进化卷积神经网络学习的遥感图像分类方法，在训练过程中采用了协同进化，充分利用了每个网络的优势，使得网络得以更快的收敛并达到较高的分类准确率。
技术方案：为实现本发明的目的，本发明所采用的技术方案是：一种基于协同进化卷积神经网络学习的遥感图像分类方法，该方法如下：
首先初始化多个基于不同优化方法的相同网络，在训练阶段，将多个的神经网络同时进行训练，在测试阶段得到每个网络的准确率，找出表现最好的网络，而协同训练中剩余网络丢弃本身的网络参数，继承准确率最高的网络的全部网络参数，依此协同进化进行迭代训练，直至达到所设置的终止训练次数。具体包括以下步骤：
S1构建训练数据集和测试集；
S1.1划分将原始的遥感图像数据集划分为训练集和测试集，并对训练集和测试集的图片进行处理；
S2初始化三个网络；
S2.1设置训练所用的网络模型结构且三个网络所选用的模型相同，进行模型初始化；
S2.2为三个网络选取合适且相同的损失函数；
S2.3选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络，对每个网络进行网络参数优化方法初始化；
S3训练初始化的三个网络；
S3.1根据每个网络的优化方法，同时对三个网络进行训练，分别更新每个网络的网络参数；
S4测试所训练的三个网络的分类准确率；
S5选取测试准确率最高的网络，将其全部网络参数赋予其余网络；
S6迭代训练，再次导入数据集，在一次训练内每个网络进行自我的参数更新，完成一次训练后，按照S5所述的策略进行网络间的参数更新，直至达到所设置的训练次数。
进一步的，步骤S1.1具体如下：
S1.1.1划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；
S1.1.2对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式获取，再通过水平翻转方法进行数据增强；
步骤S2.1具体如下：
S2.1.1选取网络模型，以处理过后的图片为输入，以类别作为输出，且根据数据集的类别数量修改由全连接分类器输出的类别数量：
classifer＝Linear(m,n)；
其中，m表示上层网络输出的通道数，n表示分类器输出的类别数量；
S2.1.2根据所选取的网络模型的复杂程度，调整模型的结构参数，防止过拟合现象的发生。
进一步的，所述步骤S2.2具体步骤如下：
S2.2.1本发明中实验选取cross_entropy作为网络的损失函数来度量真实值与预测值之间的距离：
其中，pk表示真实值即第k种类的类别，qk表示由网络分类器输出的预测类别，n表示种类数量；
使用CrossEntropyLoss,问题表现为一个凸优化问题，使用多种优化方法时，凸优化问题具有很好的收敛性；
步骤S2.3具体步骤如下：
S2.3.1设置第一个网络最小化损失函数的优化方法为随机梯度下降法(SGD)；
S2.3.2设置第二个网络最小化损失函数的优化方法为Adam；
S2.3.3设置第三个网络最小化损失函数的优化方法为RMSprop。
进一步的：所述步骤S3.1具体步骤如下：
S3.1.1将训练数据以批为单位送入网络，将所有训练数据训练一次表示网络训练完成一次；
S3.1.2为提高训练效率，将每一个网络的训练作为一个线程，让所有网络同时进行训练，利用每个网络的优化方法最小化损失函数，利用反向传播更新网络参数；
所述步骤S4具体步骤如下：
S4.本发明以网络训练以一次为基本时间单位，当所有网络均完成了一次的训练，则在测试集上对所有网络进行测试其分类准确率；
所述步骤S5具体步骤如下：
S5通过对所有网络输出的分类准确率进行比较，选取最具有优势的网络即分类准确率最高的网络，该网络的网络参数保持不变，其余网络丢弃自身的网络参数，继承准确率最高网络的所有网络参数；
所述步骤S6具体步骤如下：
S6每一次训练完成之后，最具有优势网络保留其网络参数，其余网络更新全部网络参数，依此作为下一次训练的初始条件进行训练，直至达到所设置的训练次数。
此外，本发明还提出一种基于协同进化卷积神经网络的遥感图像分类装置，所述装置包括：
数据构造模块，用于遥感图像数据的训练集和测试集的划分及图片的预处理；
网络初始模块，选取用于实现遥感图像分类的网络模型，应用于所有网络，并为每个网络设置不同的优化方法；
网络训练模块，网络依据各自的优化方法，最小化损失函数并更新网络参数；
测试模块，每一次训练完成后，进行测试，选出分类准确率最高的网络；
网络更新模块，将其余网络的参数全部更新为分类准确率最高的网络的参数；
迭代模块，迭代训练，再次导入数据集，在一次训练内每个网络进行自我的参数更新，完成一次训练后，按照网络更新模块所述的策略进行网络间的参数更新，直至达到所设置的训练次数。
进一步的，所述数据构造模块：划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式获取，再通过水平翻转方法进行数据增强；
所述网络初始模块：
设置模型：设置训练所用的三个网络模型结构且三个网络所选用的模型相同，进行模型初始化；
选择损失函数：为三个网络选取合适且相同的损失函数；
设置不同的参数优化方法：选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络模型，对每个网络进行网络参数优化方法初始化；
所述网络训练模块：
分配线程：为每个网络分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程训练：网络在各自被分配的线程中训练，利用优化器最小化损失函数，从而更新自身参数；
所述测试模块：
分配线程：为每个训练好的网络模型分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程测试：训练好的网络模型在各自被分配的线程中测试，得出在一批数据中分类正确的图片数量；
所述网络更新模块：
找出最具优势的网络：比较所有网络在测试中的准确率，得出分类准确率最高的网络；
变更网络参数：除准确率最高网络的网络参数保持不变，其余网络丢弃自身网络参数，继承准确率最高网络的网络参数。
有益效果：与现有技术相比，本发明的技术方案具有以下有益技术效果：
第一，由于本发明采用了多网络训练的方法，通过训练不同优化方法的网络，并基于协同进化，不断更新网络间参数，充分发挥了每一个网络的特征优势即每种优化方法的优势，提升网络的收敛速度，提高分类的准确率；
第二，本发明基于协同进化从问题解的串集开始搜索，而不是从单个解开始。协同进化训练方法从串集开始搜索，覆盖面大，利于全局择优；
第三，在训练多个网络的过程中，采用的是多线程的运行方式即每个网络对应一个线程，网络在每个线程中同时进行训练，提高了训练的并发性，大大缩短了多网络的训练时间。
附图说明
图1是本发明的一种基于协同进化卷积神经网络学习的遥感图像分类方法的步骤图；
图2是本发明一种基于协同进化卷积神经网络学习的遥感图像分类装置实施例一的结构框图。
具体实施方式
下面结合说明书附图对本发明的技术方案做进一步的详细说明。
参照图1，本发明实现的具体步骤如下：一种基于协同进化卷积神经网络学习的遥感图像分类方法，该方法如下：
首先初始化多个基于不同优化方法的相同网络，在训练阶段，将多个的神经网络同时进行训练，在测试阶段得到每个网络的准确率，找出表现最好的网络，而协同训练中剩余网络丢弃本身的网络参数，继承准确率最高的网络的全部网络参数，依此协同进化进行迭代训练，直至达到所设置的终止训练次数。具体包括以下步骤：
S1构建训练数据集和测试集；
S1.1划分将原始的遥感图像数据集划分为训练集和测试集，并对训练集和测试集的图片进行处理；
S2初始化三个网络；
S2.1设置训练所用的网络模型结构且三个网络所选用的模型相同，进行模型初始化；
S2.2为三个网络选取合适且相同的损失函数；
S2.3选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络，对每个网络进行网络参数优化方法初始化；
S3训练初始化的三个网络；
S3.1根据每个网络的优化方法，同时对三个网络进行训练，分别更新每个网络的网络参数；
S4测试所训练的三个网络的分类准确率；
S5选取测试准确率最高的网络，将其全部网络参数赋予其余网络；
S6迭代训练，再次导入数据集，在一次训练内每个网络进行自我的参数更新，完成一次训练后，按照S5所述的策略进行网络间的参数更新，直至达到所设置的训练次数。
进一步的，步骤S1.1具体如下：
S1.1.1划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；
S1.1.2对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式获取，再通过水平翻转方法进行数据增强；
步骤S2.1具体如下：
S2.1.1选取网络模型，以处理过后的图片为输入，以类别作为输出，且根据数据集的类别数量修改由全连接分类器输出的类别数量：
classifer＝Linear(m,n)；
其中，m表示上层网络输出的通道数，n表示分类器输出的类别数量；
S2.1.2根据所选取的网络模型的复杂程度，调整模型的结构参数，防止过拟合现象的发生。
进一步的，所述步骤S2.2具体步骤如下：
S2.2.1本发明中实验选取cross_entropy作为网络的损失函数来度量真实值与预测值之间的距离：
其中，pk表示真实值即第k种类的类别，qk表示由网络分类器输出的预测类别，n表示种类数量；
使用CrossEntropyLoss,问题表现为一个凸优化问题，使用多种优化方法时，凸优化问题具有很好的收敛性；
步骤S2.3具体步骤如下：
S2.3.1设置第一个网络最小化损失函数的优化方法为随机梯度下降法(SGD)；
S2.3.2设置第二个网络最小化损失函数的优化方法为Adam；
S2.3.3设置第三个网络最小化损失函数的优化方法为RMSprop。
进一步的：所述步骤S3.1具体步骤如下：
S3.1.1将训练数据以批为单位送入网络，将所有训练数据训练一次表示网络训练完成一次；
S3.1.2为提高训练效率，将每一个网络的训练作为一个线程，让所有网络同时进行训练，利用每个网络的优化方法最小化损失函数，利用反向传播更新网络参数；
所述步骤S4具体步骤如下：
S4.本发明以网络训练以一次为基本时间单位，当所有网络均完成了一次的训练，则在测试集上对所有网络进行测试其分类准确率；
所述步骤S5具体步骤如下：
S5通过对所有网络输出的分类准确率进行比较，选取最具有优势的网络即分类准确率最高的网络，该网络的网络参数保持不变，其余网络丢弃自身的网络参数，继承准确率最高网络的所有网络参数；
所述步骤S6具体步骤如下：
S6每一次训练完成之后，最具有优势网络保留其网络参数，其余网络更新全部网络参数，依此作为下一次训练的初始条件进行训练，直至达到所设置的训练次数。
此外，本发明还提出一种基于协同进化卷积神经网络的遥感图像分类装置，所述装置包括：
数据构造模块，用于遥感图像数据的训练集和测试集的划分及图片的预处理；
网络初始模块，选取用于实现遥感图像分类的网络模型，应用于所有网络，并为每个网络设置不同的优化方法；
网络训练模块，网络依据各自的优化方法，最小化损失函数并更新网络参数；
测试模块，每一次训练完成后，进行测试，选出分类准确率最高的网络；
网络更新模块，将其余网络的参数全部更新为分类准确率最高的网络的参数；
迭代模块，迭代训练，再次导入数据集，在一次训练内每个网络进行自我的参数更新，完成一次训练后，按照网络更新模块所述的策略进行网络间的参数更新，直至达到所设置的训练次数。
进一步的，所述数据构造模块：划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式获取，再通过水平翻转方法进行数据增强；
所述网络初始模块：
设置模型：设置训练所用的三个网络模型结构且三个网络所选用的模型相同，进行模型初始化；
选择损失函数：为三个网络选取合适且相同的损失函数；
设置不同的参数优化方法：选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络模型，对每个网络进行网络参数优化方法初始化；
所述网络训练模块：
分配线程：为每个网络分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程训练：网络在各自被分配的线程中训练，利用优化器最小化损失函数，从而更新自身参数；
所述测试模块：
分配线程：为每个训练好的网络模型分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程测试：训练好的网络模型在各自被分配的线程中测试，得出在一批数据中分类正确的图片数量；
所述网络更新模块：
找出最具优势的网络：比较所有网络在测试中的准确率，得出分类准确率最高的网络；
变更网络参数：除准确率最高网络的网络参数保持不变，其余网络丢弃自身网络参数，继承准确率最高网络的网络参数。
下面对本发明的效果做进一步的说明：
1、实验条件：
本发明的实验是在双NVIDIA GTX 1080Ti GPU的硬件环境和Python的软件环境下进行的。
本发明的实验使用的遥感数据集为NWPU-RESISC45，其中验证协同进化有效性的伪数据集为CIFAR-10和CIFAR-100。
NWPU-RESISC45是一个公开的遥感数据集，2016年发布。这个数据集总共有31500张图片，45个类别且每个类别有700张图片。这45个类别分别是：飞机，飞机场，棒球场，篮球场，海滩，桥，灌木丛，教堂，圆形农田，云，商业区，密集住宅区，沙漠，森林，高速公路，高尔夫球场，田径场，海港，工业区，交叉路口，岛，湖，草地，中型住宅区，活动房，山，立交桥，宫殿，停车场，火车，火车站，方形农田，河，环形路口，跑道，海冰，船只，冰山，稀疏住宅区，体育场，储存罐，网球场，梯田，热力发电站以及湿地。
2、结果分析：
本发明的仿真实验采用本发明方法与未做改变的VGG19网络对光学图像数据集和遥感数据集进行分类，并与单个网络进行训练的分类结果进行对比分析。
下列表是本发明的实验采用三种单独的优化方法的VGG神经网络和本发明方法对总体正确率进行对比的统计表。
下列表中的“Data Set”表示采用的数据集类型、“Class”表示采用的数据集对应的场景类别、“Methods”表示采用的分类方法类型，“Accuracy”表示分类的正确率。
表1 CIFAR-10图像分类结果比较一览表
表2 CIFAR-100图像分类结果比较一览表
表3 NWPU-RESISC45图像分类结果比较一览表
从结果表中可以看出，本发明方法，在三个数据集上分类的正确率都高于采用单独优化方法的网络训练的卷积网络方法。
需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。对于装置类实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
最后，还需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个......”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
以上对本申请所提供的一种检索方法、装置及系统进行了详细介绍，本文中应用了具体个例对本申请的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本申请的方法及其核心思想；同时，对于本领域的一般技术人员，依据本申请的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本申请的限制。
Claims (5)
1.一种基于协同进化卷积神经网络学习的遥感图像分类方法，其特征在于，该方法如下：
S1构建训练数据集和测试集；
S1.1划分将原始的遥感图像数据集划分为训练集和测试集，并对训练集和测试集的图片进行处理；
S2初始化三个网络模型；
S2.1设置训练所用的三个网络模型结构且三个网络所选用的模型相同，进行模型初始化；
S2.2为三个网络模型选取合适且相同的损失函数；
S2.3选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络模型，对每个网络模型进行网络参数优化方法初始化；
S3训练初始化的三个网络模型；
S3.1根据每个网络模型的优化方法，同时对三个网络模型进行训练，分别更新每个网络的网络参数；
S4利用测试集的图片测试所训练的三个网络模型的分类准确率；
S5选取测试准确率最高的网络模型，将其全部网络参数赋予其余网络模型；
S6迭代训练，再次导入数据集，在一次训练内每个网络模型进行自我的参数更新，完成一次训练后，按照S5的策略进行网络模型间的参数更新，直至达到所设置的训练次数；
所述步骤S2.2具体步骤如下：
S2.2.1选取cross_entropy作为网络的损失函数来度量真实值与预测值之间的距离：
其中，pk表示真实值即第k种类的类别，qk表示由网络分类器输出的预测类别，n表示种类数量；
步骤S2.3中选取不同的三种网络参数的优化方法如下：
S2.3.1设置第一个网络模型最小化损失函数的优化方法为随机梯度下降法SGD；
S2.3.2设置第二个网络模型最小化损失函数的优化方法为Adam；
S2.3.3设置第三个网络模型最小化损失函数的优化方法为RMSprop。
2.根据权利要求1所述的一种基于协同进化卷积神经网络学习的遥感图像分类方法，其特征在于，步骤S1.1具体如下：
S1.1.1划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；
S1.1.2对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式进行图片调整，再通过水平翻转方法进行数据增强；
步骤S2.1具体如下：
S2.1.1选取网络模型，以处理过后的图片为输入，以类别作为输出，且根据数据集的类别数量修改由全连接分类器输出的类别数量：
classifer＝Linear(m,n)；
其中，m表示上层网络输出的通道数，n表示分类器输出的类别数量；
S2.1.2根据所选取的网络模型的复杂程度，调整模型的结构参数。
3.根据权利要求1所述的一种基于协同进化卷积神经网络学习的遥感图像分类方法，其特征在于：
所述步骤S3.1具体步骤如下：
S3.1.1将训练数据以批为单位送入网络模型，将所有训练数据训练一次表示网络模型训练完成一次；
S3.1.2将每一个网络模型的训练作为一个线程，让所有网络同时进行训练，利用每个网络的优化方法最小化损失函数，利用反向传播更新网络参数；
所述步骤S4具体步骤如下：
S4.以网络模型训练以一次为基本时间单位，当所有网络模型均完成了一次的训练，则在测试集上对所有网络进行测试其分类准确率；
所述步骤S5具体步骤如下：
S5通过对所有网络输出的分类准确率进行比较，选取最具有优势的网络即分类准确率最高的网络，该网络的网络参数保持不变，其余网络丢弃自身的网络参数，继承准确率最高网络的所有网络参数；
所述步骤S6具体步骤如下：
S6每一次训练完成之后，最具有优势网络保留其网络参数，其余网络更新全部网络参数，依此作为下一次训练的初始条件进行训练，直至达到所设置的训练次数。
4.一种基于协同进化卷积神经网络的遥感图像分类装置，其特征在于，所述装置包括如下模块：
数据构造模块，用于遥感图像数据的训练集和测试集的划分及图片的预处理；
网络初始模块，选取用于实现遥感图像分类的网络模型，应用于所有网络模型，并为每个网络模型设置不同的优化方法；
设置第一个网络模型最小化损失函数的优化方法为随机梯度下降法SGD；
设置第二个网络模型最小化损失函数的优化方法为Adam；
设置第三个网络模型最小化损失函数的优化方法为RMSprop；
网络训练模块，网络依据各自的优化方法，最小化损失函数并更新网络参数；
测试模块，每一次训练完成后，进行测试，选出分类准确率最高的网络；
网络更新模块，将其余网络的参数全部更新为分类准确率最高的网络的参数；
迭代模块，迭代训练，再次导入数据集，在一次训练内每个网络进行自我的参数更新，完成一次训练后，按照网络更新模块的策略进行网络间的参数更新，直至达到所设置的训练次数。
5.根据权利要求4所述的一种基于协同进化卷积神经网络的遥感图像分类装置，特征在于，所述数据构造模块：划分遥感图像数据集，将数据集中每类按照6：1的比例分别划分为训练集和测试集；对训练集和测试集进行处理，将图片尺寸大小由256*256调整为224*224，即采用中心切割或随机切割的方式进行调整，再通过水平翻转方法进行数据增强；
所述网络初始模块：
设置模型：设置训练所用的三个网络模型结构且三个网络模型所选用的模型相同，进行模型初始化；
选择损失函数：为三个网络模型选取合适且相同的损失函数；
设置不同的参数优化方法：选取不同的三种网络参数的优化方法，将所选的优化方法分别赋予网络模型初始化后的三个网络模型，对每个网络模型进行网络参数优化方法初始化；
所述网络训练模块：
分配线程：为每个网络分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程训练：网络在各自被分配的线程中训练，利用优化器最小化损失函数，从而更新自身参数；
所述测试模块：
分配线程：为每个训练好的网络模型分配一个线程，该线程的粒度为测试一批数据，每一批数据为预设张数量的图片；
线程测试：训练好的网络模型在各自被分配的线程中测试，得出在一批数据中分类正确的图片数量；
所述网络更新模块：
找出最具优势的网络：比较所有网络在测试中的准确率，得出分类准确率最高的网络；
变更网络参数：除准确率最高网络的网络参数保持不变，其余网络丢弃自身网络参数，继承准确率最高网络的网络参数。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010047847.0A CN113128323B (zh) | 2020-01-16 | 2020-01-16 | 一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202010047847.0A CN113128323B (zh) | 2020-01-16 | 2020-01-16 | 一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113128323A CN113128323A (zh) | 2021-07-16 |
| CN113128323B true CN113128323B (zh) | 2023-08-18 |
Family
ID=76771767
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202010047847.0A Active CN113128323B (zh) | 2020-01-16 | 2020-01-16 | 一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113128323B (zh) |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108171266A (zh) * | 2017-12-25 | 2018-06-15 | 中国矿业大学 | 一种多目标深度卷积生成式对抗网络模型的学习方法 |
| CN108805200A (zh) * | 2018-06-08 | 2018-11-13 | 中国矿业大学 | 基于深度孪生残差网络的光学遥感场景分类方法及装置 |
| CN109583425A (zh) * | 2018-12-21 | 2019-04-05 | 西安电子科技大学 | 一种基于深度学习的遥感图像船只集成识别方法 |
| CN109670528A (zh) * | 2018-11-14 | 2019-04-23 | 中国矿业大学 | 面向行人重识别任务的基于成对样本随机遮挡策略的数据扩充方法 |
| CN109784376A (zh) * | 2018-12-26 | 2019-05-21 | 中国科学院长春光学精密机械与物理研究所 | 一种遥感图像分类方法及分类系统 |
| WO2019139460A2 (ko) * | 2019-02-01 | 2019-07-18 | 엘지전자 주식회사 | 인공지능 장치 |
| CN110321811A (zh) * | 2019-06-17 | 2019-10-11 | 中国工程物理研究院电子工程研究所 | 深度逆强化学习的无人机航拍视频中的目标检测方法 |
| CN110533097A (zh) * | 2019-08-27 | 2019-12-03 | 腾讯科技（深圳）有限公司 | 一种图像清晰度识别方法、装置、电子设备及存储介质 |
| CN110619632A (zh) * | 2019-09-18 | 2019-12-27 | 华南农业大学 | 一种基于Mask R-CNN的芒果实例对抗分割方法 |
| CN110636020A (zh) * | 2019-08-05 | 2019-12-31 | 北京大学 | 一种自适应通信系统神经网络均衡方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20190085890A (ko) * | 2019-07-01 | 2019-07-19 | 엘지전자 주식회사 | 제스처 인식 장치 및 방법 |
-
2020
- 2020-01-16 CN CN202010047847.0A patent/CN113128323B/zh active Active
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108171266A (zh) * | 2017-12-25 | 2018-06-15 | 中国矿业大学 | 一种多目标深度卷积生成式对抗网络模型的学习方法 |
| CN108805200A (zh) * | 2018-06-08 | 2018-11-13 | 中国矿业大学 | 基于深度孪生残差网络的光学遥感场景分类方法及装置 |
| CN109670528A (zh) * | 2018-11-14 | 2019-04-23 | 中国矿业大学 | 面向行人重识别任务的基于成对样本随机遮挡策略的数据扩充方法 |
| CN109583425A (zh) * | 2018-12-21 | 2019-04-05 | 西安电子科技大学 | 一种基于深度学习的遥感图像船只集成识别方法 |
| CN109784376A (zh) * | 2018-12-26 | 2019-05-21 | 中国科学院长春光学精密机械与物理研究所 | 一种遥感图像分类方法及分类系统 |
| WO2019139460A2 (ko) * | 2019-02-01 | 2019-07-18 | 엘지전자 주식회사 | 인공지능 장치 |
| CN110321811A (zh) * | 2019-06-17 | 2019-10-11 | 中国工程物理研究院电子工程研究所 | 深度逆强化学习的无人机航拍视频中的目标检测方法 |
| CN110636020A (zh) * | 2019-08-05 | 2019-12-31 | 北京大学 | 一种自适应通信系统神经网络均衡方法 |
| CN110533097A (zh) * | 2019-08-27 | 2019-12-03 | 腾讯科技（深圳）有限公司 | 一种图像清晰度识别方法、装置、电子设备及存储介质 |
| CN110619632A (zh) * | 2019-09-18 | 2019-12-27 | 华南农业大学 | 一种基于Mask R-CNN的芒果实例对抗分割方法 |
Non-Patent Citations (1)
| Title |
|---|
| Wei Zhao等.Superpixel-Based Multiple Local CNN for Panchromatic and Multispectral Image Classification.《IEEE Transactions on Geoscience and Remote Sensing》.2017,第55卷(第7期),Wei Zhao. * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113128323A (zh) | 2021-07-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108805200B (zh) | 基于深度孪生残差网络的光学遥感场景分类方法及装置 | |
| CN106874956B (zh) | 图像分类卷积神经网络结构的构建方法 | |
| CN108984745B (zh) | 一种融合多知识图谱的神经网络文本分类方法 | |
| CN109948029A (zh) | 基于神经网络自适应的深度哈希图像搜索方法 | |
| CN105205448B (zh) | 基于深度学习的文字识别模型训练方法和识别方法 | |
| CN114092832B (zh) | 一种基于并联混合卷积网络的高分辨率遥感影像分类方法 | |
| CN113326731B (zh) | 一种基于动量网络指导的跨域行人重识别方法 | |
| CN110008842A (zh) | 一种基于深度多损失融合模型的行人重识别方法 | |
| CN109086437A (zh) | 一种融合Faster-RCNN和Wasserstein自编码器的图像检索方法 | |
| CN106778921A (zh) | 基于深度学习编码模型的人员再识别方法 | |
| CN111291556B (zh) | 基于实体义项的字和词特征融合的中文实体关系抽取方法 | |
| CN106920243A (zh) | 改进的全卷积神经网络的陶瓷材质件序列图像分割方法 | |
| CN106845499A (zh) | 一种基于自然语言语义的图像目标检测方法 | |
| CN108875816A (zh) | 融合置信度准则和多样性准则的主动学习样本选择策略 | |
| CN109523013A (zh) | 一种基于浅层卷积神经网络的空气颗粒物污染程度估计方法 | |
| CN109062962A (zh) | 一种融合天气信息的门控循环神经网络兴趣点推荐方法 | |
| WO2022062419A1 (zh) | 基于非督导金字塔相似性学习的目标重识别方法及系统 | |
| CN104318271B (zh) | 一种基于适应性编码和几何平滑汇合的图像分类方法 | |
| CN110866134A (zh) | 一种面向图像检索的分布一致性保持度量学习方法 | |
| CN108959304A (zh) | 一种标签预测方法及装置 | |
| CN114399018B (zh) | 一种基于轮转操控策略麻雀优化的EfficientNet陶瓷碎片分类方法 | |
| Cao et al. | Lightweight multiscale neural architecture search with spectral–spatial attention for hyperspectral image classification | |
| CN110347853A (zh) | 一种基于循环神经网络的图像哈希码生成方法 | |
| CN110084413A (zh) | 基于pca与深度置信网络的民航安全风险指数预测方法 | |
| CN113128323B (zh) | 一种基于协同进化卷积神经网络学习的遥感图像分类方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |