CN116977854A - 一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 - Google Patents
一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 Download PDFInfo
- Publication number
- CN116977854A CN116977854A CN202310949167.1A CN202310949167A CN116977854A CN 116977854 A CN116977854 A CN 116977854A CN 202310949167 A CN202310949167 A CN 202310949167A CN 116977854 A CN116977854 A CN 116977854A
- Authority
- CN
- China
- Prior art keywords
- gene
- neural network
- individuals
- complex
- population
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 100
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 72
- 238000013527 convolutional neural network Methods 0.000 claims abstract description 100
- 238000012549 training Methods 0.000 claims abstract description 93
- 238000005070 sampling Methods 0.000 claims abstract description 22
- 238000003062 neural network model Methods 0.000 claims abstract description 21
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 108090000623 proteins and genes Proteins 0.000 claims description 169
- 210000000349 chromosome Anatomy 0.000 claims description 61
- 230000002068 genetic effect Effects 0.000 claims description 56
- 230000035772 mutation Effects 0.000 claims description 24
- 238000004422 calculation algorithm Methods 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 15
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 238000012163 sequencing technique Methods 0.000 claims description 9
- 238000010276 construction Methods 0.000 claims description 6
- 238000011156 evaluation Methods 0.000 claims description 6
- 238000013459 approach Methods 0.000 claims description 4
- 238000007667 floating Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 238000010845 search algorithm Methods 0.000 abstract 1
- 239000003795 chemical substances by application Substances 0.000 description 49
- 238000004088 simulation Methods 0.000 description 46
- 238000010586 diagram Methods 0.000 description 29
- 238000013461 design Methods 0.000 description 12
- 238000002372 labelling Methods 0.000 description 11
- 230000010287 polarization Effects 0.000 description 8
- 238000004458 analytical method Methods 0.000 description 6
- 238000012795 verification Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 230000001537 neural effect Effects 0.000 description 5
- 238000012854 evaluation process Methods 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000013139 quantization Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000009827 uniform distribution Methods 0.000 description 2
- 101150072531 10 gene Proteins 0.000 description 1
- BQCADISMDOOEFD-UHFFFAOYSA-N Silver Chemical compound [Ag] BQCADISMDOOEFD-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002759 chromosomal effect Effects 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000011835 investigation Methods 0.000 description 1
- 238000012804 iterative process Methods 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000002245 particle Substances 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
- G06N3/0455—Auto-encoder networks; Encoder-decoder networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
Abstract
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法、系统、设备及介质,方法包括:复值神经网络模型编码、代理模型训练数据库数据采样、代理模型训练数据库数据预处理、训练代理模型、获取最优复值卷积神经网络、SAR图像分类;系统、设备及介质:用于实现一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法;本发明能够降低进化架构搜索算法的时间成本和资源消耗,能够高效、高精度地搜索适合极化SAR图像分类的神经网络模型。
Description
技术领域
本发明涉及图像处理技术领域,特别涉及一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法、系统、设备及介质。
背景技术
极化合成孔径雷达(PolSAR)是一种多极化电磁波成像雷达系统,工作在多种不同的极化方式下,可以在恶劣天气条件下不受影响地实现对地观测。随着对地面观测和信息收集需求的增加,极化SAR系统逐渐广泛地应用于军事和民用领域,如农业监测、地质调查、森林生长分析和城市发展分析等。大量极化SAR图像的解译是极化SAR系统实用化的必要前提,极化SAR图像分类作为其中的重要方法之一,业界对极化SAR图像进行地物分类的需求也日益增多。深度学习方法避免了传统方法需要人工构建特征的繁琐流程,在极大降低了极化SAR图像分类难度的同时,也大大提高了对极化SAR图像的分类精度,但随着极化SAR系统的日益普及,极化SAR图像变得越来越复杂、且数量越来越多,人工设计的深度神经网络模型已不足以解决如今多样化的极化SAR图像分类问题,并且人工为每一幅极化SAR图像设计深度神经网络模型会带来较大的人工成本,并会引入人为误差。此外,现有技术在进行神经网络架构搜索的过程中普遍存在的耗时和耗费资源的问题严重影响了其在极化SAR图像分类中的应用。
名称为“基于去噪卷积神经网络的极化SAR地物分类方法”,公开号为CN110516728A的专利申请,提供了一种基于去噪卷积神经网络的极化SAR地物分类方法。该方法使用人工构建的去噪卷积神经网络模型用于解决极化SAR图像分类问题,该方法实现的步骤为:(1)对极化SAR图像中每个像素点的复散射矩阵进行分解,生成所有像素点的特征向量图;(2)使用特征向量图生成均值图;(3)构建去噪卷积神经网络。去噪卷积神经网络模型包括输入层、十层卷积层和softmax输出层三部分。该方法减少了去噪过程对地物信息的损失,保留了更多的极化散射信息,最终提高了分类精度,但是,该方法仍然存在的不足之处在于,采用人工设计的神经网络模型实现分类,对设计者的模型设计经验和高光谱相关知识都具有较高的要求,针对不同的极化SAR图像,人工设计神经网络架构的工作量过大,且人工设计神经网络架构容易导致结构冗余和人为误差,影响分类效率与分类精度。
名称为“基于进化卷积神经网络的极化SAR图像分类方法”,公开号为CN113420812A的专利申请,提供了一种基于进化卷积神经网络的极化SAR图像分类方法。该方法将卷积神经网络以进化算法的方式进行编码,并以卷积神经网络的分类精度作为个体的适应度,通过选择、交叉和变异操作对初始种群进行迭代更新后,使用适应度最高的个体对应的卷积神经网络计算对待分类的极化SAR图像的分类精度。该方法实现的步骤为:(1)初始化种群,将种群中的个体解码为卷积神经网络;(2)训练卷积神经网络,并将分类精度作为个体的适应度;(3)采用选择、交叉和变异操作对种群进行迭代更新,得到最终种群;(4)使用最终种群中适应度最高的个体对应的卷积神经网络对待分类极化SAR图像进行分类。该方法实现了卷积神经网络的自动设计,降低了手工设计卷积神经网络造成的人为误差,最终得到高分类精度的卷积神经网络。但是,该方法仍然存在的不足之处在于,这种方法在神经网络架构搜索过程中需要大量的模型训练和评估过程,造成了大量的时间和资源消耗,从而降低了模型的搜索效率。
Hongwei Dong等人在“Automatic Design of CNNs via Differentiable NeuralArchitecture Search for PolSAR Image Classification,IEEE Transactions onGeoscience and Remote Sensing,vol.58,no.9,pp.6362-6375,Sept.2020,doi:10.1109/TGRS.2020.2976694”中提出一种用于解决极化SAR图像地物分类问题的卷积神经网络结构搜索方法。该方法通过使用粒子群优化算法搜索基于单元的CNN全局最优架构,该方法的步骤为:(1)构建搜索空间;(2)将架构搜索问题转化为可微的参数优化问题,确定不同网络模型的权重;(3)使用基于梯度的方法进行神经架构搜索。该方法在三个广泛使用的高光谱图像数据集上取得了良好的性能,但是,该方法仍然存在的不足之处在于,受限于搜索空间的设置,该方法获得的神经网络架构较为单一,且采用基于梯度的方法,由于神经网络的超参绝大多数都是离散类型,需要进行可微操作。
综上所述,现有技术存在以下问题:
1、目前大部分极化SAR图像分类模型都是通过手工设计得到的,这对设计者的模型设计经验和极化SAR图像相关知识都具有较高的要求,针对不同的极化SAR图像,人工设计神经网络架构的工作量过大,且人工设计神经网络架构容易导致结构冗余和人为误差,影响分类效率与分类精度。
2、现有的进化神经网络架构搜索方法在搜索过程中需要大量的模型训练和评估过程,这造成了大量的时间和资源消耗,从而降低了模型的搜索效率。
3、现有技术受限于搜索空间的设置,获得的神经网络架构较为单一。
发明内容
为了克服上述现有技术的缺点,本发明的目的在于提供一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法、系统、设备及介质,通过对复值神经网络的架构参数进行编码,利用遗传算法结合代理模型选择最优的复值卷积神经网络,以此计算待分类的极化SAR图像的分类精度,本发明能够降低进化架构搜索算法的时间成本和资源消耗,能够高效、高精度地搜索适合极化SAR图像分类的神经网络模型。
为了实现上述目的,本发明采取的技术方案如下:
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,包括如下步骤:
步骤1,复值神经网络模型编码:选取架构参数不同的复值卷积神经网络,分别对架构参数不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络;
步骤2,代理模型训练数据库数据采样:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
步骤3,代理模型训练数据库数据预处理:对步骤2代理模型训练数据库中的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码;
步骤4,训练代理模型:将步骤3得到的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
步骤5,获取最优复值卷积神经网络:利用遗传算法结合步骤4得到的代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
步骤6,SAR图像分类:利用步骤5得到的最优的复值卷积神经网络对SAR图像进行分类。
所述步骤1中复值卷积神经网络的编码如下:
[s,c1,c2,c3,c4,k1,k2,k3,k4]
式中,s表示待分类的极化SAR图像输入图像块尺寸,[c1,c2,c3,c4]表示复值卷积神经网络四个子网络单元的输出通道,[k1,k2,k3,k4]表示网络单元内部卷积操作的卷积核尺寸。
所述步骤2中使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库的具体过程为:
步骤2.11,通过种群初始化方式随机选择目标训练数据数量一半的基因个体加入代理模型训练数据库;
步骤2.12,周期性随机选择目标训练数据数量一半的基因个体作为临时数据集,计算临时数据集中的基因个体与步骤2.11中代理模型训练数据库中的基因个体的编码距离,计算公式如下:
式中,xi,xj表示两个不同的基因个体编码,d(xi,xj)表示两个基因个体之间的欧氏距离,σ表示比例因子,g(xi,xj)表示两个基因个体之间的相似度分数,当两个基因个体完全相同时其值为1,差异较大时则趋近于0;
步骤2.13,根据步骤2.12计算的基因个体的编码距离,选择步骤2.12临时数据集中与步骤2.11代理模型训练数据库中所有基因个体中平均编码距离最大的基因个体加入代理模型训练数据库;
步骤2.14,重复步骤2.11-步骤2.13,直至代理模型训练数据库中的基因个体数达到目标训练数据数量为止;
所述步骤2中对数据库中的基因个体进行解码,得到对应的复值卷积神经网络的具体过程为:
步骤2.21,根据步骤1编码的复值卷积神经网络中的第一个基因s将极化SAR数据截取为对应尺寸大小的图像块作为复值卷积神经网络的输入;
步骤2.22,根据步骤1编码的复值卷积神经网络中的基因组[c1,c2,c3,c4]对应的编码信息确认四个网络单元的通道数,其中第一个网络单元c1为普通网络单元,c2、c3、c4分别为分辨率缩小网络单元;
步骤2.23,根据步骤1编码的复值卷积神经网络中的基因组[k1,k2,k3,k4]对应的编码信息确认步骤2.22中四个网络单元中每层卷积的卷积核尺寸,不同网络单元之间的卷积操作相同;
步骤2.24,将各个网络单元相连接,并在最后一层卷积后加入一层全连接层,得到解码后的复值卷积神经网络模型。
所述步骤3中对步骤2采集的数据进行特征工程的具体过程为:
在步骤2代理模型训练数据库中的每个基因个体中加入对应的扩展基因,得到染色体,所述扩展基因包括复值卷积神经网络模型的架构深度、网络单元中不同卷积核尺寸的卷积层数和模型复杂度信息,所述模型复杂度信息包括模型参数量和浮点计算量。
所述步骤5获取最优复值卷积神经网络的具体过程为:
步骤5.1,随机选择符合编码要求的N个基因个体,组成得到进化神经网络架构搜索的父代种群;
步骤5.2,对步骤5.1得到的父代种群中的基因个体执行交叉、变异操作生成子代种群;
步骤5.3,合并步骤5.1的父代种群与步骤5.2的子代种群中的基因个体,得到合并种群;
步骤5.4,使用步骤4训练得到的代理模型对步骤5.3得到的合并种群中的基因个体进行排序;
步骤5.5,根据步骤5.4中代理模型排序结果选择下一代种群:基于步骤5.4得到的排序结果,将步骤5.4中合并种群作为当前种群,并选择其中的最优基因个体添加到代理模型训练数据库中,在当前种群迭代次数达到一定要求时执行步骤3-步骤4对代理模型进行再训练;基于步骤5.4得到的排序结果,使用二元锦标赛算法结合精英选择得到下一代种群;
步骤5.6,将步骤5.5中选择的下一代种群作为新的父代种群,若当前迭代次数等于设定的最大迭代次数,则将当前迭代的种群作为最终种群,否则返回步骤5.2。
所述步骤5.2的具体过程为:
步骤5.2.1,使用二元锦标赛的方法从步骤5.1得到的父代种群中不放回地选择两个优秀的基因个体作为亲本,判断其是否满足交叉概率,若满足,执行步骤5.2.2,否则执行步骤5.2.4;
步骤5.2.2,对步骤5.2.1中的两个亲本基因个体对应的染色体进行交叉操作,判断交叉后的基因个体是否满足变异概率,若满足,执行步骤5.2.3;
步骤5.2.3,在满足变异概率的染色体上随机选择变异基因位点进行变异操作,将变异操作后的基因个体加入子代种群中;
步骤5.2.4,判断步骤5.2.1中的染色体是否满足变异概率,若满足,执行步骤5.2.3,否则将两个基因个体直接加入子代种群中;
步骤5.2.5,判断子代种群中基因个体的数量是否达到要求数量,若未达到,则返回步骤5.2.1,若达到,则生成子代种群。
所述步骤5.4的具体过程为:
步骤5.4.1,将步骤5.3合并种群中的基因个体输入代理模型进行排序,代理模型将排序结果预测为值为0或1的矩阵,矩阵中的元素表示成对基因个体的评估结果;
步骤5.4.2,当步骤5.4.1得到的预测矩阵中的元素yi,j和yj,i的值满足异或条件时,第i个基因个体与第j个基因个体之间的优劣是确定的,若yi,j为1,则第i个基因个体的排序适应度值F[i]加1,反之,第j个基因个体的排序适应度值F[j]加1;当预测矩阵中yi,j和yj,i的值不满足异或条件时,由于无法确定第i个基因个体与第j个基因个体之间的关系,这一对基因个体会被加入到不确定集合中;
步骤5.4.3,当所有基因个体对的预测都已处理完毕,并获得每个基因个体的预排序分数时,对步骤5.4.2的不确定集合中的基因个体对进行处理,先验知识将作为评估基因个体不确定性的条件,并使用已经确定的结果来推断不确定配对的优劣,对于每对不确定基因个体,预排序的结果被用作先验知识,其排序适应度值的计算公式如下:
F[u0]=F[u0]+F[u0]/(F[u0]+F[u1])
F[u1]=F[u1]+F[u1]/(F[u0]+F[u1])
式中,u0与u1表示不确定集中的一对基因个体,F[u0]与F[u1]分别表示基因个体u0与u1的排序适应度值。
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类系统,包括:
复值神经网络模型编码模块:选取架构参数不同的复值卷积神经网络,分别对架构不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络;
代理模型训练数据库数据采样模块:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
代理模型训练数据库数据预处理模块:对代理模型训练数据库数据采样模块中采集的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码;
训练代理模型模块:将基因扩展后的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
获取最优复值卷积神经网络模块:利用遗传算法结合代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
SAR图像分类模块:利用获取最优复值卷积神经网络模块得到的最优的复值卷积神经网络对SAR图像进行分类。
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类设备,包括:
存储器:用于存储实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法的计算机程序;
处理器:用于执行所述计算机程序时实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
一种计算机可读存储介质:
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
相对于现有技术,本发明的有益效果在于:
1、本发明采用由三类基因组成的个体表示复值卷积神经网络的输入图像块的尺寸、四个网络单元的通道数和每个网络单元中卷积核的尺寸,并利用进化算法优化神经网络的架构参数,通过选择、交叉和变异操作对种群进行迭代更新后,使用适应度最高的基因个体对应的卷积神经网络对待分类的极化SAR图像进行分类,与现有技术相比,本发明能够以较低的成本自动设计实现极化SAR图像分类的高精度神经网络模型。
2、本发明采用代理模型预测神经网络架构搜索过程中不同复值卷积神经网络的性能优劣,与现有技术相比,取代了现有进化架构搜索技术中大量的模型训练和评估环节,降低了进化架构搜索算法的时间成本和资源消耗,能够高效、高精度地搜索适合极化SAR图像分类的神经网络模型。
3、本发明设计了独特的代理训练方案,将代理模型的适应度预测任务转化为逻辑回归排序任务。代理模型对基因个体在当前种群中的排名进行预测,能够通过排序适应度准确地筛选出期望的优秀个体。随着进化迭代过程,每一代选择的最优基因个体添加到代理训练数据库中,代理模型将在迭代一定次数时进行再训练并能通过此种方式良好地适应随着种群进化而发生改变的代理模型的预测环境。
4、本发明采用特征工程扩展代理模型训练数据库中的染色体编码,使用染色体对应的神经网络模型的架构深度、网络单元中不同卷积核尺寸的卷积层数、模型参数量和浮点计算量扩充个体编码,与现有技术相比,提高了代理模型特征提取效果,更充分地挖掘了染色体的模型特征,增强了代理模型的泛化能力。
5、本发明在代理模型训练数据采样方面设计了多样性增强采样,降低了采样数据分布的均匀性,保证了初始化代理模型训练数据的多样性。与现有技术相比,本发明具有提高代理模型对进化过程中体系结构特征的识别能力和的预测精度的优点。
综上所述,本发明将复值神经网络的架构参数进行编码,使用进化算法,通过选择、交叉和变异操作对种群进行迭代更新后,选择适应度最高的基因个体对应的卷积神经网络计算待分类的极化SAR图像的分类精度,以此解决人工设计神经网络架构的工作量过大且对设计者要求高的问题;同时将代理模型的排序结果作为复值神经网络模型性能优劣的评价标准,取代了进化过程中大量的模型训练和评估过程,实现了极化SAR图像分类的高效、高精度的神经架构搜索要求,以此解决进化神经网络架构搜索方法耗时和资源需求高的问题。
附图说明
图1为本发明的方法流程图。
图2为本发明结合遗传算法完成极化SAR图像分类的方法流程图。
图3为本发明步骤2中解码操作得到的神经网络模型的示意图。
图4为本发明步骤5.2中交叉操作示意图。
图5为本发明与现有技术PDAS,对荷兰Flevoland地区农田极化SAR图像的分类结果对比图;其中,图5(a)为荷兰Flevoland地区农田极化SAR图像的真实标注图,图5(b)为本发明仿真得到的分类图,图5(c)为现有技术PDAS仿真得到的分类图。
图6为本发明在荷兰Flevoland地区农田极化SAR图像上仿真得到的神经网络结构图。
图7为本发明与现有技术PDAS,对美国San Francisco地区极化SAR图像的分类结果对比图;其中,图7(a)为美国San Francisco地区极化SAR图像的真实标注图,图7(b)为本发明仿真得到的分类图,图7(c)为现有技术PDAS仿真得到的分类图。
图8为本发明在美国San Francisco地区极化SAR图像上仿真得到的神经网络结构图。
图9为本发明与现有技术PDAS,对德国Oberpfaffenhofen地区极化SAR图像的分类结果对比图;其中,图9(a)为德国Oberpfaffenhofen地区极化SAR图像的真实标注图,图9(b)为本发明仿真得到的分类图,图9(c)为现有技术PDAS仿真得到的分类图。
图10为本发明在德国Oberpfaffenhofen地区极化SAR图像上仿真得到的神经网络结构图。
具体实施方式
下面结合附图和仿真详细说明本发明的技术方案。
参见图1和图2,一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,包括如下步骤:
步骤1,复值神经网络模型编码:选取架构参数不同的复值卷积神经网络,分别对架构参数不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络:
将待构建的复值卷积神经网络的输入图像块尺寸、网络单元的输出通道数和卷积核尺寸进行编码获得对应基因个体,所述整数编码的基因个体的结构为:
[s,c1,c2,c3,c4,k1,k2,k3,k4]
其中,s表示待分类的极化SAR图像输入图像块尺寸,其值为在[15,17,19,21,23,25,27,29,31,33,35,37,39]范围内随机选取的一个数,[c1,c2,c3,c4]表示复值卷积神经网络四个子网络单元的输出通道,其中c1的值为[16,24,32]范围内随机选取的一个数,c2的值为[32,48,64]范围内随机选取的一个数,c3的值为[48,64,96]范围内随机选取的一个数,c4的值为[96,128,192]范围内随机选取的一个数,[k1,k2,k3,k4]表示网络单元内部卷积操作的卷积核尺寸,值为[0,3×3,5×5,7×7]范围内随机选取的一个数,当基因为0时,表示网络单元中该层卷积不存在。
步骤2,代理模型训练数据库数据采样:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
所述步骤2中使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库的具体过程为:
步骤2.11,通过种群初始化方式随机选择目标训练数据数量一半的基因个体加入代理模型训练数据库;
步骤2.12,周期性随机选择目标训练数据数量一半的基因个体作为临时数据集,计算临时数据集中的基因个体与步骤2.11中代理模型训练数据库中的基因个体的编码距离,计算公式如下:
式中,xi,xj表示两个不同的基因个体编码,d(xi,xj)表示两个基因个体之间的欧氏距离,σ表示比例因子,g(xi,xj)表示两个基因个体之间的相似度分数,当两个基因个体完全相同时其值为1,差异较大时则趋近于0;
步骤2.13,根据步骤2.12计算的基因个体的编码距离,选择步骤2.12临时数据集中与步骤2.11代理模型训练数据库中所有基因个体中平均编码距离最大的基因个体加入代理模型训练数据库;
步骤2.14,重复步骤2.11-步骤2.13,直至代理模型训练数据库中的基因个体数达到目标训练数据数量为止。
参见图3,所述步骤2中对数据库中的基因个体进行解码,得到对应的复值卷积神经网络的具体过程为:
步骤2.21,根据步骤1编码的复值卷积神经网络中的第一个基因s将极化SAR数据截取为对应尺寸大小的图像块作为复值卷积神经网络的输入;
步骤2.22,根据步骤1编码的复值卷积神经网络中的基因组[c1,c2,c3,c4]对应的编码信息确认四个网络单元的通道数,其中第一个网络单元c1为普通网络单元,c2、c3、c4分别为分辨率缩小网络单元;
步骤2.23,根据步骤1编码的复值卷积神经网络中的基因组[k1,k2,k3,k4]对应的编码信息确认步骤2.22中四个网络单元中每层卷积的卷积核尺寸,不同网络单元之间的卷积操作相同;
步骤2.24,将各个网络单元相连接,并在最后一层卷积后加入一层全连接层,得到解码后的复值卷积神经网络模型。
步骤3,代理模型训练数据库数据预处理:对步骤2代理模型训练数据库中的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码,具体过程为:
对代理模型的训练数据库中的每条染色体进行扩展,使代理模型能够充分挖掘染色体的模型特征。加入每条染色体对应的神经网络模型的架构深度、网络单元中不同卷积核尺寸的卷积层数和模型复杂度信息作为扩展基因,其中架构深度和卷积层数从染色体编码中计算获得,模型复杂度包括模型参数量和浮点计算量。通过特征工程,原始的9位编码扩展为15位。
步骤4,训练代理模型:将步骤3得到的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
步骤5,获取最优复值卷积神经网络:利用遗传算法结合步骤4得到的代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
具体过程为:
步骤5.1,随机选择符合编码要求的10个基因个体,组成得到进化神经网络架构搜索的父代种群;
步骤5.2,对步骤5.1得到的父代种群中的基因个体执行交叉、变异操作生成子代种群,具体为:
步骤5.2.1,使用二元锦标赛的方法从步骤5.1得到的父代种群中不放回地选择两个优秀的基因个体作为亲本,判断其是否满足交叉概率,若满足,执行步骤5.2.2,否则执行步骤5.2.4;
步骤5.2.2,对步骤5.2.1中的两个亲本基因个体对应的染色体进行交叉操作,判断交叉后的基因个体是否满足变异概率,若满足,执行步骤5.2.3;
参见图4,所述交叉操作具体为:
使用二元锦标赛方法从父代种群中不放回地选出一对染色体,为该对染色体生成一个满足0-1均匀分布的随机数,若生成的随机数小于交叉概率pc,pc=0.7,在染色体编码长度内随机选择两个不同的交点,替换这两个点上的亲本染色体基因。如果交叉后产生的所有卷积编码为0,则交叉操作无效,返回原始亲本染色体。
步骤5.2.3,在满足变异概率的染色体上随机选择变异基因位点进行变异操作,生成一个满足0-1均匀分布的随机数,若该随机数小于变异概率pm,pm=0.3,则在染色体上随机选择变异基因位点,然后随机选择该位点基因可选范围内不同的值,将变异操作后的基因个体加入子代种群中;
步骤5.2.4,判断步骤5.2.1中的染色体是否满足变异概率,若满足,执行步骤5.2.3,否则将两个基因个体直接加入子代种群中;
步骤5.2.5,判断子代种群中基因个体的数量是否达到要求数量,若未达到,则返回步骤5.2.1,若达到,则生成子代种群。
步骤5.3,合并步骤5.1的父代种群与步骤5.2的子代种群中的基因个体,得到合并种群;
步骤5.4,使用步骤4训练得到的代理模型对步骤5.3得到的合并种群中的基因个体进行排序,具体过程为:
步骤5.4.1,代理模型将结果预测为值为0或1的矩阵,矩阵中的元素表示成对基因个体的评估结果;
步骤5.4.2,当步骤5.4.1得到的预测矩阵中的元素yi,j和yj,i的值满足异或条件时,第i个基因个体与第j个基因个体之间的优劣是确定的,若yi,j为1,则第i个基因个体的排序适应度值F[i]加1,反之,第j个基因个体的排序适应度值F[j]加1;当预测矩阵中yi,j和yj,i的值不满足异或条件时,由于无法确定第i个基因个体与第j个基因个体之间的关系,这一对基因个体会被加入到不确定集合中;
步骤5.4.3,当所有基因个体对的预测都已处理完毕,并获得每个基因个体的预排序分数时,对不确定集合中的基因个体对进行处理,先验知识将作为评估基因个体不确定性的条件,并使用已经确定的结果来推断不确定配对的优劣,对于每对不确定基因个体,预排序的结果被用作先验知识,其排序适应度值的计算公式如下:
F[u0]=F[u0]+F[u0]/(F[u0]+F[u1])
F[u1]=F[u1]+F[u1]/(F[u0]+F[u1])
式中,u0与u1表示不确定集中的一对基因个体,F[u0]与F[u1]分别表示基因个体u0与u1的排序适应度值;
步骤5.5,根据步骤5.4中代理模型排序结果选择下一代种群:基于步骤5.4得到的排序结果,将步骤5.4中合并种群作为当前种群,并选择其中的最优基因个体添加到代理模型训练数据库中,在当前种群迭代次数达到一定要求时执行步骤3-步骤4对代理模型进行再训练;基于步骤5.4得到的排序结果,使用二元锦标赛算法结合精英选择得到下一代种群,具体为:
将具有最高排序适应度的染色体直接放入下一代种群;
基于代理模型预测的排序适应度对剩下的染色体采用二元锦标赛的方式进行筛选,得到下一代种群;
步骤5.6,将步骤5.5中选择的下一代种群作为新的父代种群,若当前迭代次数等于设定的最大迭代次数,则将当前迭代的种群作为最终种群,否则返回步骤5.2。
步骤6,SAR图像分类:利用步骤5得到的最优的复值卷积神经网络对SAR图像进行分类,具体为:
进化迭代结束后,对最终种群中所有基因个体对应的神经网络模型进行实际的训练和评估,选择与分类精度最高的基因个体对应的复值卷积神经网络作为最终的搜索模型,输入待分类的极化SAR图像得到分类结果,完成极化SAR图像分类。
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类系统,包括:
复值神经网络模型编码模块:选取架构参数不同的复值卷积神经网络,分别对架构不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络;
代理模型训练数据库数据采样模块:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
代理模型训练数据库数据预处理模块:对代理模型训练数据库数据采样模块中采集的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码;
训练代理模型模块:将基因扩展后的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
获取最优复值卷积神经网络模块:利用遗传算法结合代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
SAR图像分类模块:利用获取最优复值卷积神经网络模块得到的最优的复值卷积神经网络对SAR图像进行分类。
一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类设备,包括:
存储器:用于存储实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法的计算机程序;
处理器:用于执行所述计算机程序时实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
一种计算机可读存储介质:
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
下面结合仿真对本发明的应用效果作详细的描述。
1、仿真实验条件:
本发明的仿真实验的硬件平台为:联众工作站,CPU型号为Intel Xeon Silver4214R,频率为2.40GHZ,GPU型号为NVIDIA GeForce RTX 3090,显存为24GB。
本发明仿真实验的软件平台为:ubuntu 22.10系统,Python3.9,Torch 1.13。
本发明仿真实验所使用的输入图像为:荷兰Flevoland地区农田极化SAR数据集、美国San Francisco地区极化SAR数据集、德国Oberpfaffenhofen地区极化SAR数据集。
2、仿真内容与结果分析:
本发明的仿真实验是采用本发明与现有技术PDAS,分别对荷兰Flevoland地区农田极化SAR图像、美国San Francisco地区极化SAR图像、德国Oberpfaffenhofen地区极化SAR图像中的标注样本进行分类测试。
现有技术PDAS是指:H.Dong等人在“Automatic Design ofCNNs viaDifferentiable Neural Architecture Search for PolSAR Image Classification,IEEE Transactions on Geoscience and Remote Sensing,vol.58,no.9,pp.6362-6375,Sept.2020,doi:10.1109/TGRS.2020.2976694”中提出一种用于解决极化SAR图像地物分类问题的卷积神经网络结构搜索方法,简称PDAS。
2.1、仿真内容:
仿真实验1:采用本发明与现有技术PDAS分别对荷兰Flevoland地区农田极化SAR图像数据进行仿真实验,荷兰Flevoland地区农田极化SAR图像是由美国宇航局/喷气推进实验室AIRSAR在1989年采集得到的,波段为L波段,图像尺寸为750×1024。本发明的仿真实验采用的真实的标注图如图5(a)所示。图5(a)图像中一共有15种类型的地物,图像中的区域颜色由深到浅依次表示类别1,类别2,类别3,类别4,类别5,类别6,类别7,类别8,类别9,类别10,类别11,类别12,类别13,类别14,和类别15,标注的样本总数为167712。仿真实验1对该图像中的每类地物样本300个标注样本组成训练集,其余标注样本组成验证集后进行仿真,得到本发明和现有技术PDAS对验证集中每个样本的分类结果,将本发明和现有技术PDAS得到的分类结果分别绘制成图5(b)和图5(c)所示的分类结果图。本发明在荷兰Flevoland地区农田极化SAR图像上仿真得到的神经网络的结构如图6所示。
由图5(b)和图5(c)所示的分类结果图分别与图5(a)所示的真实标注图进行对比可见,在本发明方法得到的分类结果图中,绝大部分样本都取得了正确的分类结果,总体上来看非常接近图5(a)所示的真实标注图,而在现有技术PDAS得到的分类结果图中,具有明显的误差区域,整体错误较多且分布较广。
分析图6可得,本发明方法得到的复值卷积神经网络输入图像块尺寸为27×27,每个网络单元包含一个3×3复值卷积层,整体网络结构具有参数少、结构简单的优点。
为了验证本发明仿真实验1的效果,利用每类地物分类精度、整体分类精度和平均分类精度这三种指标,分别对本发明方法和现有技术PDAS的分类结果进行量化。
利用下述的三种指标的计算公式,分别对仿真实验1结果中的各种类型的地物目标进行量化,结果如表1所示。
表1仿真实验1的量化结果表
类型 | 本发明方法(%) | 现有技术PDAS(%) |
类别1 | 99.95 | 98.60 |
类别2 | 99.89 | 99.15 |
类别3 | 99.73 | 93.32 |
类别4 | 99.77 | 98.68 |
类别5 | 99.76 | 94.93 |
类别6 | 99.76 | 99.48 |
类别7 | 99.95 | 99.95 |
类别8 | 99.76 | 97.82 |
类别9 | 99.90 | 96.16 |
类别10 | 99.92 | 99.61 |
类别11 | 99.02 | 98.16 |
类别12 | 99.72 | 95.43 |
类别13 | 99.73 | 98.66 |
类别14 | 99.89 | 99.05 |
类别15 | 99.95 | 99.86 |
整体分类精度 | 99.79 | 98.15 |
平均分类精度 | 99.78 | 98.14 |
表1中分别列出了本发明和现有技术PDAS的每类地物分类精度,平均分类精度和总体分类精度计算结果,从表1可见,本发明方法的整体精度相比现有技术提升了1.64%,平均精度相比现有技术提升了1.64%,在每类地物分类精度的对比中,类别7在两种方法上都得到最优分类精度,其他地物的分类精度相比现有技术PDAS均有所提升。
仿真实验2:采用本发明与现有技术PDAS分别对美国San Francisco地区极化SAR图像数据进行仿真实验,美国San Francisco地区极化SAR图像是由美国宇航局/喷气推进实验室AIRSAR在2008年采集得到的,波段为C波段,图像尺寸为1895×1419,其真实的标注图如图7(a)所示。图7(a)中一共有5种地物类型,图像中的区域颜色由深到浅依次表示类别1,类别2,类别3,类别4,和类别5,标注的样本总数为1886740。仿真实验2对该图像中的每类地物样本300个标注样本组成训练集,其余标注样本组成验证集后进行仿真,得到本发明和现有技术PDAS对验证集中每个样本的分类结果,将本发明和现有技术PDAS得到的分类结果分别绘制成图7(b)和图7(c)所示的分类结果图。本发明在美国San Francisco地区极化SAR图像上仿真得到的神经网络的结构如图8所示。
由图7(b)和图7(c)所示的分类结果图分别与图7(a)所示的真实标注图进行对比可见,在本发明方法得到的分类结果图中,只在某些像素区域存在少量的误差,且总体分类精度最好,非常接近真实的标签图,而在现有技术PDAS得到的分类结果图中,具有明显的错分区域,整体错分样本较多且分布较广。
分析图7可得,本发明方法得到的复值卷积神经网络输入图像块尺寸为25×25,每个网络单元包含两个相连的复值卷积层,卷积核尺寸分别为7×7和5×5,整体网络结构参数少、结构简单。
为了验证本发明仿真实验2的效果,利用每类地物分类精度、整体分类精度和平均分类精度这三种指标,分别对本发明方法和现有技术PDAS的分类结果进行量化。
利用与仿真实验1相同的三种指标的计算公式,分别对仿真实验2结果中的各种类型的地物目标进行量化,结果如表2所示。
表2仿真实验2的量化结果表
表2中分别列出了本发明和现有技术PDAS的每类地物分类精度,平均分类精度和总体分类精度计算结果,从表2可见,本发明方法的整体精度相比现有技术提升了2.26%,平均精度相比现有技术提升了3.65%,在每类地物分类精度的对比中,除类别2上的分类精度低于现有技术PDAS,其他地物的分类精度相比现有技术PDAS均有所提升。
仿真实验3:采用本发明与现有技术PDAS分别对德国Oberpfaffenhofen地区极化SAR图像数据进行仿真实验,德国Oberpfaffenhofen地区极化SAR图像是由ESAR机载平台在1999年采集得到的,波段为L波段,图像尺寸为1200×1300,其真实的标注图如图9(a)所示。图9(a)中一共有3种地物类型,图像中的区域颜色由深到浅依次表示类别1,类别2,和类别3,标注的样本总数为1385269。仿真实验3对该图像中的每类地物样本300个标注样本组成训练集,其余标注样本组成验证集后进行仿真,得到本发明和现有技术PDAS对验证集中每个样本的分类结果,将本发明和现有技术PDAS得到的分类结果分别绘制成图9(b)和图9(c)所示的分类结果图。本发明在德国Oberpfaffenhofen地区极化SAR图像上仿真得到的神经网络的结构如图10所示。
由图9(b)和图9(c)所示的分类结果图分别与图9(a)所示的真实标注图进行对比可见,在本发明方法得到的分类结果图中,只在某些像素区域存在少量的误差,且不同的类别划分清晰,总体分类精度最好,而在现有技术PDAS得到的分类结果图中,存在较多的误差,且具有较多分布广泛的错分样本。
分析图7可得,本发明方法得到的复值卷积神经网络输入图像块尺寸为37×37,每个网络单元包含三个相连的复值卷积层,卷积核尺寸分别为3×3,7×7和3×3,整体网络结构参数较少、结构相对简单。
为了验证本发明仿真实验3的效果,利用每类地物分类精度、整体分类精度和平均分类精度这三种指标,分别对本发明方法和现有技术PDAS的分类结果进行量化。
利用与仿真实验1相同的三种指标的计算公式,分别对仿真实验3结果中的各种类型的地物目标进行量化,结果如表3所示。
表3仿真实验3的量化结果表
表3中分别列出了本发明和现有技术PDAS的每类地物分类精度,平均分类精度和总体分类精度计算结果,从表3可见,本发明方法的整体精度相比现有技术提升了2.55%,平均精度相比现有技术提升了3.83%,在每类地物分类精度的对比中,除类别3上的分类精度低于现有技术PDAS,其他地物的分类精度相比现有技术PDAS均有所提升。
2.2、仿真结果:
以上仿真实验表明:本发明方法利用进化算法优化神经网络的架构参数,并使用代理模型预测不同神经网络性能优劣,能够以较高的分类精度搜索参数更少、结构更简单的神经网络模型,同时减少了进化过程中大量的模型训练和评估过程,降低了神经结构搜索的时间和计算资源要求。
Claims (10)
1.一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,包括如下步骤:
步骤1,复值神经网络模型编码:选取架构参数不同的复值卷积神经网络,分别对架构参数不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络;
步骤2,代理模型训练数据库数据采样:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
步骤3,代理模型训练数据库数据预处理:对步骤2代理模型训练数据库中的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码;
步骤4,训练代理模型:将步骤3得到的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
步骤5,获取最优复值卷积神经网络:利用遗传算法结合步骤4得到的代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
步骤6,SAR图像分类:利用步骤5得到的最优的复值卷积神经网络对SAR图像进行分类。
2.根据权利要求1所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤1中复值卷积神经网络的编码如下:
[s,c1,c2,c3,c4,k1,k2,k3,k4]
式中,s表示待分类的极化SAR图像输入图像块尺寸,[c1,c2,c3,c4]表示复值卷积神经网络四个子网络单元的输出通道,[k1,k2,k3,k4]表示网络单元内部卷积操作的卷积核尺寸。
3.根据权利要求1所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤2中使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库的具体过程为:
步骤2.11,通过种群初始化方式随机选择目标训练数据数量一半的基因个体加入代理模型训练数据库;
步骤2.12,周期性随机选择目标训练数据数量一半的基因个体作为临时数据集,计算临时数据集中的基因个体与步骤2.11中代理模型训练数据库中的基因个体的编码距离,计算公式如下:
式中,xi,xj表示两个不同的基因个体编码,d(xi,xj)表示两个基因个体之间的欧氏距离,σ表示比例因子,g(xi,xj)表示两个基因个体之间的相似度分数,当两个基因个体完全相同时其值为1,差异较大时则趋近于0;
步骤2.13,根据步骤2.12计算的基因个体的编码距离,选择步骤2.12临时数据集中与步骤2.11代理模型训练数据库中所有基因个体中平均编码距离最大的基因个体加入代理模型训练数据库;
步骤2.14,重复步骤2.11-步骤2.13,直至代理模型训练数据库中的基因个体数达到目标训练数据数量为止;
所述步骤2中对数据库中的基因个体进行解码,得到对应的复值卷积神经网络的具体过程为:
步骤2.21,根据步骤1编码的复值卷积神经网络中的第一个基因s将极化SAR数据截取为对应尺寸大小的图像块作为复值卷积神经网络的输入;
步骤2.22,根据步骤1编码的复值卷积神经网络中的基因组[c1,c2,c3,c4]对应的编码信息确认四个网络单元的通道数,其中第一个网络单元c1为普通网络单元,c2、c3、c4分别为分辨率缩小网络单元;
步骤2.23,根据步骤1编码的复值卷积神经网络中的基因组[k1,k2,k3,k4]对应的编码信息确认步骤2.22中四个网络单元中每层卷积的卷积核尺寸,不同网络单元之间的卷积操作相同;
步骤2.24,将各个网络单元相连接,并在最后一层卷积后加入一层全连接层,得到解码后的复值卷积神经网络模型。
4.根据权利要求1所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤3中对步骤2采集的数据进行特征工程的具体过程为:
在步骤2代理模型训练数据库中的每个基因个体中加入对应的扩展基因,得到染色体,所述扩展基因包括复值卷积神经网络模型的架构深度、网络单元中不同卷积核尺寸的卷积层数和模型复杂度信息,所述模型复杂度信息包括模型参数量和浮点计算量。
5.根据权利要求1所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤5获取最优复值卷积神经网络的具体过程为:
步骤5.1,随机选择符合编码要求的N个基因个体,组成得到进化神经网络架构搜索的父代种群;
步骤5.2,对步骤5.1得到的父代种群中的基因个体执行交叉、变异操作生成子代种群;
步骤5.3,合并步骤5.1的父代种群与步骤5.2的子代种群中的基因个体,得到合并种群;
步骤5.4,使用步骤4训练得到的代理模型对步骤5.3得到的合并种群中的基因个体进行排序;
步骤5.5,根据步骤5.4中代理模型排序结果选择下一代种群:基于步骤5.4得到的排序结果,将步骤5.4中合并种群作为当前种群,并选择其中的最优基因个体添加到代理模型训练数据库中,在当前种群迭代次数达到一定要求时执行步骤3-步骤4对代理模型进行再训练;基于步骤5.4得到的排序结果,使用二元锦标赛算法结合精英选择得到下一代种群;
步骤5.6,将步骤5.5中选择的下一代种群作为新的父代种群,若当前迭代次数等于设定的最大迭代次数,则将当前迭代的种群作为最终种群,否则返回步骤5.2。
6.根据权利要求5所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤5.2的具体过程为:
步骤5.2.1,使用二元锦标赛的方法从步骤5.1得到的父代种群中不放回地选择两个优秀的基因个体作为亲本,判断其是否满足交叉概率,若满足,执行步骤5.2.2,否则执行步骤5.2.4;
步骤5.2.2,对步骤5.2.1中的两个亲本基因个体对应的染色体进行交叉操作,判断交叉后的基因个体是否满足变异概率,若满足,执行步骤5.2.3;
步骤5.2.3,在满足变异概率的染色体上随机选择变异基因位点进行变异操作,将变异操作后的基因个体加入子代种群中;
步骤5.2.4,判断步骤5.2.1中的染色体是否满足变异概率,若满足,执行步骤5.2.3,否则将两个基因个体直接加入子代种群中;
步骤5.2.5,判断子代种群中基因个体的数量是否达到要求数量,若未达到,则返回步骤5.2.1,若达到,则生成子代种群。
7.根据权利要求5所述的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法,其特征在于,所述步骤5.4的具体过程为:
步骤5.4.1,将步骤5.3合并种群中的基因个体输入代理模型进行排序,代理模型将排序结果预测为值为0或1的矩阵,矩阵中的元素表示成对基因个体的评估结果;
步骤5.4.2,当步骤5.4.1得到的预测矩阵中的元素yi,j和yj,i的值满足异或条件时,第i个基因个体与第j个基因个体之间的优劣是确定的,若yi,j为1,则第i个基因个体的排序适应度值F[i]加1,反之,第j个基因个体的排序适应度值F[j]加1;当预测矩阵中yi,j和yj,i的值不满足异或条件时,由于无法确定第i个基因个体与第j个基因个体之间的关系,这一对基因个体会被加入到不确定集合中;
步骤5.4.3,当所有基因个体对的预测都已处理完毕,并获得每个基因个体的预排序分数时,对步骤5.4.2的不确定集合中的基因个体对进行处理,先验知识将作为评估基因个体不确定性的条件,并使用已经确定的结果来推断不确定配对的优劣,对于每对不确定基因个体,预排序的结果被用作先验知识,其排序适应度值的计算公式如下:
F[u0]=F[u0]+F[u0]/(F[u0]+F[u1])
F[u1]=F[u1]+F[u1]/(F[u0]+F[u1])
式中,u0与u1表示不确定集中的一对基因个体,F[u0]与F[u1]分别表示基因个体u0与u1的排序适应度值。
8.一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类系统,其特征在于,包括:
复值神经网络模型编码模块:选取架构参数不同的复值卷积神经网络,分别对架构不同的复值卷积神经网络进行编码,获得基因个体,所述基因个体为一个以编码形式表现的复值卷积神经网络;
代理模型训练数据库数据采样模块:使用多样性扩充采样策略选择每代种群包含基因个体个数2倍的基因个体加入代理模型训练数据库,并对代理模型训练数据库中的基因个体进行解码,得到每个基因个体对应的复值卷积神经网络,所述种群为多个复值卷积神经网络;
代理模型训练数据库数据预处理模块:对代理模型训练数据库数据采样模块中采集的基因个体进行特征工程,得到染色体,所述染色体为加入了扩展基因的基因个体的编码;
训练代理模型模块:将基因扩展后的染色体成对组合,形成染色体对,并将染色体对之间的分类精度的二元优劣度作为输入标签,将所述染色体对输入代理模型中,对代理模型进行训练,得到二元判别模型,所述二元判别模型即为进行神经网络性能预测的代理模型;
获取最优复值卷积神经网络模块:利用遗传算法结合代理模型从满足编码要求的不同架构参数的复值卷积神经网络中选择最优的复值卷积神经网络;
SAR图像分类模块:利用获取最优复值卷积神经网络模块得到的最优的复值卷积神经网络对SAR图像进行分类。
9.一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类设备,其特征在于,包括:
存储器:用于存储实现所述权利要求1-7的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法的计算机程序;
处理器:用于执行所述计算机程序时实现所述权利要求1-7的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
10.一种计算机可读存储介质,其特征在于:
所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时能够实现权利要求1-7的一种基于代理辅助进化神经网络架构搜索的极化SAR图像分类方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310949167.1A CN116977854A (zh) | 2023-07-31 | 2023-07-31 | 一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310949167.1A CN116977854A (zh) | 2023-07-31 | 2023-07-31 | 一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116977854A true CN116977854A (zh) | 2023-10-31 |
Family
ID=88481015
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310949167.1A Pending CN116977854A (zh) | 2023-07-31 | 2023-07-31 | 一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116977854A (zh) |
-
2023
- 2023-07-31 CN CN202310949167.1A patent/CN116977854A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110363344B (zh) | 基于miv-gp算法优化bp神经网络的概率积分参数预测方法 | |
CN111612066B (zh) | 基于深度融合的卷积神经网络的遥感图像分类方法 | |
CN109142171B (zh) | 基于特征扩张的融合神经网络的城市pm10浓度预测方法 | |
CN111274903B (zh) | 一种基于图卷积神经网络的宫颈细胞图像分类方法 | |
CN111860982A (zh) | 一种基于vmd-fcm-gru的风电场短期风电功率预测方法 | |
CN112347970B (zh) | 一种基于图卷积神经网络的遥感影像地物识别方法 | |
CN112685504B (zh) | 一种面向生产过程的分布式迁移图学习方法 | |
CN112560966B (zh) | 基于散射图卷积网络的极化sar图像分类方法、介质及设备 | |
CN111611960B (zh) | 一种基于多层感知神经网络大区域地表覆盖分类方法 | |
CN114118369A (zh) | 一种基于群智能优化的图像分类卷积神经网络设计方法 | |
CN112084877A (zh) | 基于nsga-net的遥感图像识别方法 | |
CN114897085A (zh) | 一种基于封闭子图链路预测的聚类方法及计算机设备 | |
CN114792126A (zh) | 一种基于遗传算法的卷积神经网络设计方法 | |
CN114241267A (zh) | 基于结构熵采样的多目标架构搜索骨质疏松图像识别方法 | |
CN110490234A (zh) | 基于聚类分类联合机制的分类器的构建方法以及分类方法 | |
CN112183721B (zh) | 一种基于自适应差分进化的组合水文预测模型的构建方法 | |
CN113282747A (zh) | 一种基于自动机器学习算法选择的文本分类方法 | |
CN110866838A (zh) | 基于转移概率预处理的网络表示学习算法 | |
CN113420812B (zh) | 基于进化卷积神经网络的极化sar图像分类方法 | |
CN115661498A (zh) | 一种自优化单细胞聚类方法 | |
CN116977854A (zh) | 一种基于代理辅助进化神经网络架构搜索的极化sar图像分类方法、系统、设备及介质 | |
CN115620046A (zh) | 一种基于半监督性能预测器的多目标神经架构搜索方法 | |
CN115620803A (zh) | 一种基于跨图注意力的蛋白质相互作用点位预测方法 | |
Wan et al. | RSSM-Net: Remote sensing image scene classification based on multi-objective neural architecture search | |
CN113283390B (zh) | 基于门控多尺度匹配网络的sar图像小样本目标识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |