CN113780146A - 基于轻量化神经架构搜索的高光谱图像分类方法及系统 - Google Patents
基于轻量化神经架构搜索的高光谱图像分类方法及系统 Download PDFInfo
- Publication number
- CN113780146A CN113780146A CN202111039219.9A CN202111039219A CN113780146A CN 113780146 A CN113780146 A CN 113780146A CN 202111039219 A CN202111039219 A CN 202111039219A CN 113780146 A CN113780146 A CN 113780146A
- Authority
- CN
- China
- Prior art keywords
- network
- sample
- architecture
- training
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 230000001537 neural effect Effects 0.000 title claims abstract description 29
- 238000013528 artificial neural network Methods 0.000 claims abstract description 37
- 238000005457 optimization Methods 0.000 claims abstract description 13
- 238000012549 training Methods 0.000 claims description 84
- 238000012360 testing method Methods 0.000 claims description 45
- 238000012795 verification Methods 0.000 claims description 23
- 238000012545 processing Methods 0.000 claims description 11
- 238000000354 decomposition reaction Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 abstract description 15
- 238000012217 deletion Methods 0.000 abstract description 2
- 230000037430 deletion Effects 0.000 abstract description 2
- 239000006185 dispersion Substances 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 18
- 230000000694 effects Effects 0.000 description 15
- 230000003595 spectral effect Effects 0.000 description 15
- 238000003860 storage Methods 0.000 description 15
- 238000013461 design Methods 0.000 description 14
- 238000004590 computer program Methods 0.000 description 9
- 238000013527 convolutional neural network Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000000875 corresponding effect Effects 0.000 description 4
- 238000004445 quantitative analysis Methods 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000002441 reversible effect Effects 0.000 description 3
- 238000010845 search algorithm Methods 0.000 description 3
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000019771 cognition Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000002156 mixing Methods 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 235000008331 Pinus X rigitaeda Nutrition 0.000 description 1
- 235000011613 Pinus brutia Nutrition 0.000 description 1
- 241000018646 Pinus brutia Species 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000007635 classification algorithm Methods 0.000 description 1
- 238000013145 classification model Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000012938 design process Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 230000002028 premature Effects 0.000 description 1
- 238000013138 pruning Methods 0.000 description 1
- 230000002040 relaxant effect Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Probability & Statistics with Applications (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于轻量化神经架构搜索的高光谱图像分类方法及系统，利用模块化的轻量化候选操作搭建超网，通过加权混合操作将边上离散的候选操作连续化，以梯度优化的方式对超网进行双层优化，同时通过子网权重共享加快模型搜索速度。随后，在优化过程中利用贪心决策选择一条未离散的边，保留边上架构参数最大的操作，删除该边中的其余操作，剩下的网络构成新的超网，利用上述方式迭代优化新的超网，并随着边的不断离散与边上操作的删除，使超网不断简化，最终得到用于高光谱图像分类的轻量化深度神经网络架构。本发明充分利用了轻量化模块构建超网，实现基于顺序贪心的神经架构搜索方法，能够自动生成参数量更少、分类精度更高的网络架构。
Description
技术领域
本发明属于图像信息处理技术领域，具体涉及一种基于轻量化神经架构搜索的高光谱图像分类方法及系统。
背景技术
高光谱遥感图像是通过高光谱成像仪在可见光到红外波段的数百个连续窄光谱波段中捕获数字图像，生成包含光谱和空间信息的三维高光谱图像。高光谱图像的空间信息和光谱信息十分丰富，与普通图像相比，具备更多的波段数以及极高的分辨率。目前,高光谱遥感对地观测技术的应用十分普遍,在地质绘图和勘探、大气或植被生态监测、产品质检、精细农业、城市遥感和军事战场侦察等领域有广泛应用。
高光谱遥感图像最突出的特点是能够将图像空间信息与光谱信息进行有效的融合。因此根据高光谱遥感数据的特点和应用需要，进行有针对性的空谱特征提取，能够更加有效的提高高光谱遥感技术在实际应用中的效果。此外，高光谱遥感图像需要相关专家大面积走访进行标定，因此实际应用中可用的有标记样本十分有限。高维的光谱特征、少量的有标记样本和高度相关的空间特性，为高光谱遥感图像分类带来了一系列挑战。早期的高光谱图像分类方法仅关注图像的光谱信息。然而，在高光谱图像中不同的物体可能表现出相似的光谱特征，仅利用光谱信息的分类算法会产生较多的离散错分点，造成整个分类结果不平滑。
近年来深度模型算法在高光谱图像分类中得到了越来越多的关注。卷积神经网络在深度模型中表现出了优异性能，但是性能高度地依赖于其网络设计，同时深度网络模型难以科学设计。目前，多数复杂的神经架构都是由人工经验设计，超参数的设计或选取，都存在许多不确定性，也没有明显的规律性。因此，越来越多的学者开始关注自动化的深度学习分类模型构建和生成。
神经架构搜索技术作为一种创新的自动机器学习技术，使得深度学习模型的构建更加智能化和自动化，而且相关研究表明其分类性能已经超越专家手工设计的神经网络架构，但该技术在高光谱图像分类任务中还处于起步阶段。此外，自动的神经网络模型构建与搜索，涉及构建与特定数据集有关的最佳神经网络架构，比如高光谱图像数据。到目前为止，神经架构搜索方法在高光谱图像分类任务中的研究与应用较少。因此，自动的神经网络架构设计和生成方法，在如何适应高光谱图像的数据特性上，仍处于研究的初期阶段。
虽然神经架构搜索能有效减少网络设计过程中的人工成本，以极少的时间成本完成架构搜索，但是会出现搜索阶段有着更高验证准确率的架构在评估阶段可能会表现得更差的现象，如何让搜索结果更稳定，也是一个需要解决的问题。
发明内容
本发明所要解决的技术问题在于针对上述现有技术中的不足，提供一种基于轻量化神经架构搜索的高光谱图像分类方法及系统，解决人工手动设计卷积神经网络局限于人的主观认知，难以设计出最优的模型结构，导致分类精度难以进一步提升的问题。
本发明采用以下技术方案：
基于轻量化神经架构搜索的高光谱图像分类方法，包括以下步骤：
S1、采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；
S2、以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；
S3、采用步骤S2划定的训练样本X_train_part和验证样本X_valid对步骤S1搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；
S4、使用步骤S2划定的训练集X_train训练步骤S3的轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
具体的，步骤S1中，超网中的每个单元由两个输入结点、N个中间结点以及一个输出结点的有向无环图表示，所有结点进行有序的编号，对于中间结点，编号为i的中间结点与其前面共i个结点相连，对于输出节点，输出结点与所有中间结点相连；所有不与输出结点相连的边包含多条路径，每条路径执行一种候选操作，并给每条路径设置一个架构参数，将整个超网的架构参数记为A；每个单元的两个输入结点分别来自前两个单元的输出，如果前面不存在单元，则输入原始数据。
进一步的，对于连续搜索策略，每个中间结点表示为：
其中，x(j)是中间结点的隐含表示，并通过有向边操作o(i，j)与单元的每个先前的中间结点x(i)相连。
具体的，步骤S1中，每条边上的候选操作包括空操作、跳接操作、反向残差模块、SE模块、3D分解卷积，数据每经过一条边时，将所有路径上的操作结果通过架构参数A的softmax加权求和得到输出。
具体的，步骤S3具体为：
S301、优化网络权重W；
S302、优化架构参数A；
S303、每优化一次网络权重，优化一次架构参数，即执行一次步骤S301后，执行一次步骤S302；
S304、对超网执行贪心决策，直至超网所有的边都被离散化，此时得到最优架构a。
进一步的，步骤S301具体为：
S3011、固定架构参数A，将训练样本X_train_part输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_1；
S3012、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L1；
S3013、利用损失值L1对超网权重W进行反向传播训练。
进一步的，步骤S302具体为：
S3021、固定网络权重W，将验证样本X_valid输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_2；
S3022、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L2；
S3023、利用损失值L2对架构参数A进行反向传播训练。
进一步的，步骤S304具体为：
S3041、按照步骤S303优化超网n代，n为预热代数；
S3042、根据设立的选择准则，之后每经过m代，就从超网中选出一条未离散的边，将边上架构参数最大的路径保留，其他路径及其上的权重和架构参数都删除，此时该边被离散化；
S3043、将剩余的网络当作子问题，继续迭代优化，直至超网所有的边都被离散化，此时得到最优架构a。
更进一步的，步骤S3042中，选择准则具体为：
选择边重要性
和选择确定性
的边(i+，j+)，正则化
和
计算最终得分并选择最高分的边：
其中，S(i，j)为边(i，j)的得分，
为边(i，j)的边重要性正则化后的值，
为边(i，j)的选择确定性正则化后的值。
本发明的另一技术方案是，一种基于轻量化神经架构搜索的高光谱图像分类系统，包括：
搭建模块，采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；
样本模块，以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；
训练模块，采用样本模块划定的训练样本X_train_part和验证样本X_valid对搭建模块搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；
分类模块，使用样本模块划定的训练集X_train训练训练模块的轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
与现有技术相比，本发明至少具有以下有益效果：
本发明基于轻量化神经架构搜索的高光谱图像分类方法，能够将网络架构设计自动化，首先设置单元搜索空间及候选操作，利用基于顺序贪心的可微架构搜索算法对搜索空间进行双层优化，得到针对特定任务的最优单元架构，最后将最优单元进行堆叠构成最终网络用于目标任务。通过本发明方法能够快速构建出针对特定任务的高效且性能优异的网络模型。
进一步的，对于搜索空间的设计，近年来人工设计神经网络大多采用相同的块堆叠而成。因此设置基于单元的搜索空间，最终网络以链式加残差的方式将搜索到的单元堆叠构成。这样的好处是：一方面，搜索空间大大减小，搜索速度加快，存储成本降低，同时实现了更好的性能。另一方面，通过调整网络中单元的数量，更容易将网络迁移到其他数据集上。
进一步的，对于连续搜索策略，通过将相连边上所有候选操作的结果求和，实现将多种离散候选操作混合。中间结点表示网络前馈过程中提取的特征，此时结点之间的连接正是要搜索的网络操作，这样可以以有向无环图的方式表示单元搜索空间。
进一步的，在超网中存在权重共享问题的情况下，模块化候选操作通常更能保证搜索架构的性能。同时，为了使搜索架构具有较少的参数量、更快的推理速度以及高精度，我们采用了反向残差模块、SE模块以及3D分解卷积作为主要候选操作。其中，反向残差模块有效提升了分类的效果，并确保网络轻量化。SE模块使得网络能够自适应地调整不同通道的权重，有助于充分提取光谱判别特征。3D分解卷积能够分别提取高光谱数据的光谱特征和空间特征，与3D卷积相比，减少了参数量同时感受野不变。
进一步的，采用双层优化与贪心决策共同对超网进行优化。超网中包含网络权重和架构参数两种可训练参数，网络权重指候选操作中的参数，架构参数衡量了每条边上不同候选操作的权重。架构参数是上层变量，网络权重是下层变量。对架构参数和网络权重交替优化，以便从超网中搜索出最优子网架构。贪心决策使得每过若干代，超网中就有一条边被离散化，极大地提升了架构搜索的速度。
进一步的，步骤S301对超网权重进行训练。训练使得超网的权重是针对当前任务的最优权重，在直观上确保超网中任何一个子网的权重针对当前任务的效果良好，进而使用超网的最优权重近似表示任一子网的最优权重。
进一步的，步骤S302对架构参数进行优化。在固定网络权重的情况下，使用验证集数据对超网进行训练，优化架构参数的值，对分类结果有益的候选操作理应具备更大的架构参数权重，因此优化后的架构参数可以确定唯一的最优子网架构，该架构是针对当前任务的最优网络架构。
进一步的，步骤304首先对超网进行预热，使得超网具有针对当前任务的较优初始权重。之后采用边决策边优化的方式，确保每次决策时超网权重是针对当前任务的最优权重，而每次决策后都要优化新的超网权重到最优权重，这样的决策过程更加可靠。
进一步的，步骤S3042根据贪心准则对超网执行贪心决策，贪心决策使超网中的边在迭代过程中不断被离散化，类似于剪枝，使得超网中包含的子网数量减少，权重共享现象减轻，加快了超网优化的速度。
综上所述，本发明使得网络架构设计能够避免人主观认知的局限性，大大减少了网络设计的成本，简化了网络设计的过程，无需过多的人工参与，就能自动化地完成架构设计。其次，本发明针对特定数据集提出相应的轻量化候选操作，保证搜索到的架构高效且轻量化，具有较少的参数和优异的性能。最后，本发明采用基于顺序贪心的架构搜索算法，搜索成本很低，相较于常见搜索方法，搜索效率大大提升，在高光谱图像分类任务上，相较其他已有方法，精度和分类速度都有所提高。
下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。
附图说明
图1为本发明的实现流程框图；
图2为贪心决策的处理流程图；
图3为搜索所得最优单元架构图；
图4为本发明与对比方法的分类图，其中，(a)为SVM分类结果图，(b)为2D-CNN分类结果图，(c)为DFFN分类结果图，(d)为本发明分类结果图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
在本发明的描述中，需要理解的是，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解，在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解，在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
在附图中示出了根据本发明公开实施例的各种结构示意图。这些图并非是按比例绘制的，其中为了清楚表达的目的，放大了某些细节，并且可能省略了某些细节。图中所示出的各种区域、层的形状及它们之间的相对大小、位置关系仅是示例性的，实际中可能由于制造公差或技术限制而有所偏差，并且本领域技术人员根据实际所需可以另外设计具有不同形状、大小、相对位置的区域/层。
NAS通常从一组预定义的操作集开始，创建架构的搜索空间，并在控制器的控制下从搜索空间选择候选架构。然后在训练集上对候选架构进行训练，并根据在验证集上的准确性对候选架构进行排名。然后将候选架构的排名信息作为反馈信息调整控制器的搜索策略，在此基础上获得一组新的候选架构。当达到终止条件时，搜索过程终止并保留选择过程中的最佳神经架构，最后在测试集上对最佳架构进行性能评估。
为了更清楚地表示神经架构搜索的基本过程，遵循前人相关研究中的表示形式，将搜索空间，搜索策略和性能评估视为神经架构搜索的三个主要组成部分。
搜索空间通常用由有向无环图表示，包含候选操作集和神经网络架构的超参数。搜索空间的定义决定了可以搜索出哪些神经网络架构。搜索策略定义如何去搜索，既要求快速找到较好的架构，又要避免过早收敛到次优架构区域。基于梯度的搜索策略，通过不断松弛离散的操作，使其连续化，之后便可以使用梯度来有效优化体系结构搜索空间。性能评估是指评估网络性能的过程：通常的方式是对一个标准架构训练和验证来获得结果。
本发明提供了一种基于轻量化神经架构搜索的高光谱图像分类方法，解决在高光谱图像分类任务上人工设计神经网络成本巨大且模型精度难以提升的问题，实现了轻量化的自动架构构建框架；首先，利用模块化的轻量化候选操作搭建超网，超网中的每条边都包含多种候选操作。通过加权混合操作将边上离散的候选操作连续化，以梯度优化的方式对超网进行双层优化，同时通过子网权重共享加快模型搜索速度。随后，在优化过程中利用贪心决策选择一条未离散的边，保留边上架构参数最大的操作，删除该边中的其余操作(包括网络权重和架构参数)，剩下的网络构成新的超网，利用上述方式迭代优化新的超网，并随着边的不断离散与边上操作的删除，使超网不断简化；最终得到用于高光谱图像分类的轻量化深度神经网络架构。本发明充分利用了轻量化模块构建超网，实现基于顺序贪心的神经架构搜索方法，能够自动生成参数量更少、分类精度更高的网络架构。
本发明一种基于轻量化神经架构搜索的高光谱图像分类方法，对高光谱遥感图像处理分为两个阶段，搜索阶段和评估阶段。
在搜索阶段，将空操作(None)，跳接操作(Skip-Connect，Skip)，反向残差块(Inverted Residual,IR)，SE模块(Squeeze-and-Excitation)以及两种3D卷积作为候选操作，把训练集X_train划分为训练样本X_train_part和验证样本X_valid，根据训练样本X_train_part的损失优化超网权重W，根据验证样本X_valid的损失优化架构参数A。每过若干代，根据选择准则贪心选择一条边并将其离散化，剩下的网络构成新的子问题。最终得到一个所有边都离散的网络，即搜索的最优网络。
在评估阶段，通过训练集X_train训练搜索阶段得到的最优网络，将训练好的网络用于待分类高光谱图像数据，得到模型的预测结果。
请参阅图1，本发明的具体步骤如下：
S1、创建网络架构搜索空间；
S101、搭建超网；超网是搜索空间的具体表示形式，与子网对应，超网由众多子网组成；当不同的子网有共同边时，该边上操作的权重会子网间共享，即权重共享。
采用基于单元(Cell)的搜索空间，通过堆叠多个重复的单元构成最终的网络，每个单元由两个输入结点、N个中间结点以及一个输出结点的有向无环图表示，所有结点进行有序的编号(编号从0开始，输入结点分别为0和1，N个中间结点分别由2到N+1，输出结点编号为N+2)，对于中间结点来说，编号为i的中间结点与其前面共i个结点(2个输入节点和i-2个中间结点)相连，对输出节点来说，输出结点与所有中间结点相连。所有不与输出结点相连的边包含多条路径，每条路径执行一种候选操作，并给每条路径设置一个架构参数，将整个超网的架构参数记为A。
每个单元的两个输入结点分别来自前两个单元的输出，如果前面不存在单元，则输入原始数据；
对于连续搜索策略，每个中间结点表示为：
x(j)＝∑i＜jo(i,j)(x(i)) (1)
其中，x(j)是中间结点的隐含表示，并通过有向边操作o(i,j)与单元的每个先前的中间结点x(i)相连。
S102、设置候选操作
每条边上的候选操作包括空操作(None)、跳接操作(Skip-Connect,Skip)、反向残差模块(Inverted Residual，IR)、SE(Squeeze-and-Excitation)模块、提取光谱特征的3D卷积(Spectral)和提取空间特征的3D卷积(Spatial)。
其中用于光谱特征提取的卷积，卷积核形状为1×1×C，而用于空间特征提取的卷积，卷积核形状为K×K×1，并设置每个候选操作包含的内部权重，将超网所有操作的权重记为W。数据每经过一条边时，将所有路径上的操作结果通过架构参数A的softmax加权求和得到输出。
边上的混合运算记为
公式为：
其中，O表示一组候选操作，
表示有向边e(i，j)上操作o上的架构参数。神经架构搜索演变为针对一组连续变量α＝{α(i，j)}的优化过程。
S2、确定样本集；
S201、以标准高光谱遥感图像中每个带有标签的像素为中心，划定p×p×n_channels大小的三维张量，记为样本集X；
其中，p×p表示以任意像素点为中心获得的空间邻域块的行数和列数，n_channels表示标准高光谱遥感图像的通道数；
S202、在样本集X中，随机选取一部分作为训练集X_train，其余部分作为测试集X_test；再从训练集X_train中，随机选取一部分样本作为验证样本X_valid，其余的训练样本记为X_train_part；
S3、采用步骤S2的样本集训练超网；
S301、优化网络权重W；
S3011、固定架构参数A，将训练样本X_train_part输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_1；
S3012、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L1；
S3013、利用损失值L1对超网权重W进行反向传播训练；
S302、优化架构参数A；
S3021、固定网络权重W，将验证样本X_valid输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_2；
S3022、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L2；
S3023、利用损失值L2对架构参数A进行反向传播训练；
S303、每优化一次网络权重，就优化一次架构参数，即执行一次步骤S301，就要执行一次步骤S302；
本质上是一个双层优化问题，α是上层变量，ω是下层变量，用以下的公式联合优化混合操作(架构参数α)和网络权重ω：
s.t.ω*(α)＝argminωLtrain(ω，α) (4)
其中，Lval和Ltrain分别表示验证和训练损失。通过共同优化的公式，得到最优α，然后进行离散化获得最终的神经架构体系结构。
S304、对超网执行贪心决策，如图2所示；
S3041、按照步骤S303优化超网n代，n为预热代数；
S3042、根据设立的选择准则，之后每经过m代，就从超网中选出一条未离散的边，将边上架构参数最大的路径保留，其他路径及其上的权重和架构参数都删除，此时该边被离散化；
选择有向边e(i，j)上可能的操作，将其他操作丢弃，即：
其中，选择准则包含边重要性和选择确定性。
边重要性SEI定义为所有非空操作softmax权重求和，公式如下：
熵常用来衡量分布的确定性。
将非空操作的归一化softmax值视为一个分布
o∈O，o≠none；选择确定性定义为分布po的归一化熵：
选择准则：选择有着更高边重要性
和更高选择确定性
的边(i+，j+)。正则化
和
计算最终得分并选择最高分的边：
S3043、将剩余的网络当作子问题，继续迭代优化，直至超网所有的边都被离散化，此时得到最优架构a；
为了维持搜索结果的最佳性，选择准则的设计至关重要。考虑了边重要性和选择确定性两个指标：边重要性SEI定义为所有非空操作架构参数经softmax后值的求和；选择确定性Ssc定义为非空操作架构参数经softmax后分布的归一化熵；总的选择准则定义为归一化边重要性和归一化选择确定性的乘积。在贪心决策时，选择准则结果最高的边。
S4、架构准确性验证；
使用训练集X_train训练最优架构a，将测试集X_test输入训练好的模型中，输出测试样本的预测标签，与测试样本的真实地物标签进行对比，若对比结果满足要求，则训练后的分类网络满足使用要求；向训练好的分类网络模型中输入待分类高光谱遥感图像，获得分类结果。
本发明再一个实施例中，提供一种基于轻量化神经架构搜索的高光谱图像分类系统，该系统能够用于实现上述基于轻量化神经架构搜索的高光谱图像分类方法，具体的，该基于轻量化神经架构搜索的高光谱图像分类系统包括搭建模块、样本模块、训练模块以及分类模块。
其中，搭建模块，采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；
样本模块，以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；
训练模块，采用样本模块划定的训练样本X_train_part和验证样本X_valid对搭建模块搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；
分类模块，使用样本模块划定的训练集X_train训练训练模块的轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
本发明再一个实施例中，提供了一种终端设备，该终端设备包括处理器以及存储器，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器用于执行所述计算机存储介质存储的程序指令。处理器可能是中央处理单元(Central ProcessingUnit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor、DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable GateArray，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等，其是终端的计算核心以及控制核心，其适于实现一条或一条以上指令，具体适于加载并执行一条或一条以上指令从而实现相应方法流程或相应功能；本发明实施例所述的处理器可以用于基于轻量化神经架构搜索的高光谱图像分类方法的操作，包括：
采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；采用训练样本X_train_part和验证样本X_valid对超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；使用训练集X_train训练轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
本发明再一个实施例中，本发明还提供了一种存储介质，具体为计算机可读存储介质(Memory)，所述计算机可读存储介质是终端设备中的记忆设备，用于存放程序和数据。可以理解的是，此处的计算机可读存储介质既可以包括终端设备中的内置存储介质，当然也可以包括终端设备所支持的扩展存储介质。计算机可读存储介质提供存储空间，该存储空间存储了终端的操作系统。并且，在该存储空间中还存放了适于被处理器加载并执行的一条或一条以上的指令，这些指令可以是一个或一个以上的计算机程序(包括程序代码)。需要说明的是，此处的计算机可读存储介质可以是高速RAM存储器，也可以是非不稳定的存储器(non-volatile memory)，例如至少一个磁盘存储器。
可由处理器加载并执行计算机可读存储介质中存放的一条或一条以上指令，以实现上述实施例中有关基于轻量化神经架构搜索的高光谱图像分类方法的相应步骤；计算机可读存储介质中的一条或一条以上指令由处理器加载并执行如下步骤：
采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；采用训练样本X_train_part和验证样本X_valid对超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；使用训练集X_train训练轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中的描述和所示的本发明实施例的组件可以通过各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明针对帕维亚大学遥感图像数据集(University of Pavia)给出一个具体实例，用以证明本发明方法的实施效果，针对肯尼迪航天中心遥感图像数据集(KSC)或帕维亚中心遥感图像数据集(Pavia Center)等其他遥感图像数据集同样有效。
实验验证
对比结果包括总体精度OA，平均精度AA，卡帕系数KAPPA；总体精度OA表示正确分类的样本占所有样本的比例，取值范围为[0,1，且值越大说明分类效果越好；平均精度AA表示每一类分类精度的平均值，取值范围为[0,1]，且值越大说明分类效果越好；卡帕系数KAPPA表示混淆矩阵中不同的权值，取值范围为[0,1]，且值越大说明分类效果越好。
请参阅表1，将不同候选操作组合在Indian Pines数据集上进行搜索与评估，并对分类的总体精度OA和平均精度AA做了分析评价。
表1是验证本发明模块化候选操作选择的定量分析表。
由上表可知，第1，2个实验对比可知采用轻量化模块(反向残差块IR)比只使用基础卷积效果好，说明NAS可以利用d现有轻量化模块的优点；第3，4个实验对比表明添加SE模块和两种3D卷积(Spatial,Spectral)都是有效的，如图3所示，对结果有积极影响；第5个实验表明同时添加SE模块和3D卷积能达到最好的结果。
表2是本发明和各种现有技术分类结果的定量分析表。将本发明和三个现有技术(SVM、CNN和DFFN)对PaviaU数据集，每类3％的训练样本数的情况下，对他们分类的总体精度OA、平均精度AA、卡帕系数KAPPA做了分析评价，图A、图B、图C、图D分别是SVM、CNN、DFFN和本发明对PaviaU数据集分类的结果图。
表2 SVM、2D-CNN、DFFN和Proposed分类准确率(％)
由上表可知，可以看出传统SVM在图像问题上表现欠佳，不如深度学习的效果好。而对比三种深度学习方法(2D-CNN、DFFN和Proposed)，2D-CNN由于忽略了高光谱图像的光谱特性，效果依然不好。DFFN由于考虑到了高光谱图像的特性，进行光谱与空间的特征融合，有很不错的效果，但是由于其是人工设计的，所以很难成为最优的网络架构。本发明的方法(Proposed)通过自动架构搜索的方式，搜索出一个效果最优的网络，取得了最优的效果。
表3是本发明搜到的模型(Proposed)与现有模型(DFFN,SSRN)在University ofPavia数据集上，每类20个训练样本下的参数量、训练时间和测试时间的定量分析表。
表3模型参数、Flops、训练时间(s)以及测试时间(s)定量分析表
由表3可知，本方法搜出的模型在使用相同标记样本条件下，相比于DFFN和SSRN，模型参数量减少了43.66％和29.94％,训练时间减少了53.06％和39.21％，测试时间减少了69.70％和95.51％。由此可见，在使用相同训练样本量的情况下，本发明搜索到的架构具有更少的参数量并且运行速度更快。
请参阅图4，SVM由于不考虑空间信息而分类性能不佳，并且在其分类图中显示出非常嘈杂的预测结果。虽然CNN考虑了空间信息，相比SVM来说分类结果大有改善，但其分类图中仍有许多大面积的错分现象。DFFN结合了光谱和空间信息，效果有进一步的提升，但仍不理想。本发明模型分类效果优于前三种模型，具有较好的区域一致性，分类效果理想。
综上所述，本发明一种基于轻量化神经架构搜索的高光谱图像分类方法及系统，采用基于单元的搜索空间，以可微的架构搜索算法进行优化，能够以极小的搜索成本，搜索到针对当前任务的最优架构，该架构与现有网络模型相比，具有更高效的搜索效率，节约了人工成本，并且具有更少的参数量、更快的推理速度以及更好的效果。
本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上内容仅为说明本发明的技术思想，不能以此限定本发明的保护范围，凡是按照本发明提出的技术思想，在技术方案基础上所做的任何改动，均落入本发明权利要求书的保护范围之内。
Claims (10)
1.基于轻量化神经架构搜索的高光谱图像分类方法，其特征在于，包括以下步骤：
S1、采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；
S2、以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；
S3、采用步骤S2划定的训练样本X_train_part和验证样本X_valid对步骤S1搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；
S4、使用步骤S2划定的训练集X_train训练步骤S3的轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
2.根据权利要求1所述的方法，其特征在于，步骤S1中，超网中的每个单元由两个输入结点、N个中间结点以及一个输出结点的有向无环图表示，所有结点进行有序的编号，对于中间结点，编号为i的中间结点与其前面共i个结点相连，对于输出节点，输出结点与所有中间结点相连；所有不与输出结点相连的边包含多条路径，每条路径执行一种候选操作，并给每条路径设置一个架构参数，将整个超网的架构参数记为A；每个单元的两个输入结点分别来自前两个单元的输出，如果前面不存在单元，则输入前置卷积的输出。
3.根据权利要求2所述的方法，其特征在于，对于连续搜索策略，每个中间结点表示为：
其中，x(j)是中间结点的隐含表示，并通过有向边操作o(i，j)与单元的每个前序结点x(i)相连。
4.根据权利要求1所述的方法，其特征在于，步骤S1中，每条边上的候选操作包括空操作、跳接操作、反向残差模块、SE模块、3D分解卷积，数据每经过一条边时，将所有路径上的操作结果通过架构参数A的softmax加权求和得到输出。
5.根据权利要求1所述的方法，其特征在于，步骤S3具体为：
S301、优化网络权重W；
S302、优化架构参数A；
S303、每优化一次网络权重，优化一次架构参数，即执行一次步骤S301后，执行一次步骤S302；
S304、对超网执行贪心决策，直至超网所有的边都被离散化，此时得到最优架构a。
6.根据权利要求5所述的方法，其特征在于，步骤S301具体为：
S3011、固定架构参数A，将训练样本X_train_part输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_1；
S3012、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L1；
S3013、利用损失值L1对网络权重W进行反向传播训练。
7.根据权利要求5所述的方法，其特征在于，步骤S302具体为：
S3021、固定网络权重W，将验证样本X_valid输入超网，对样本进行分类，得到地物类别预测结果，记为y_pred_2；
S3022、利用交叉熵损失函数计算预测结果与真实地物类别的损失值L2；
S3023、利用损失值L2对架构参数A进行反向传播训练。
8.根据权利要求5所述的方法，其特征在于，步骤S304具体为：
S3041、按照步骤S303优化超网n代，n为预热代数；
S3042、根据设立的选择准则，之后每经过m代，就从超网中选出一条未离散的边，将边上架构参数最大的路径保留，其他路径及其上的权重和架构参数都删除，此时该边被离散化；
S3043、将剩余的网络当作子问题，继续迭代优化，直至超网所有的边都被离散化，此时得到最优架构a。
9.根据权利要求8所述的方法，其特征在于，步骤S3042中，选择准则具体为：
选择边重要性
和选择确定性
的边(i+，j+)，正则化
和
计算最终得分并选择最高分的边：
其中，S(i，j)为边(i，j)的得分，
为边(i，j)的边重要性正则化后的值，
为边(i，j)的选择确定性正则化后的值。
10.一种基于轻量化神经架构搜索的高光谱图像分类系统，其特征在于，包括：
搭建模块，采用基于单元的搜索空间，通过堆叠多个重复的单元搭建超网，并设置候选操作；
样本模块，以标准高光谱遥感图像中每个带有标签的像素为中心划定样本集，将样本集划分为训练集X_train和测试集X_test；再从训练集X_train中选取验证样本X_valid和训练样本X_train_part；
训练模块，采用样本模块划定的训练样本X_train_part和验证样本X_valid对搭建模块搭建的超网进行训练得到用于高光谱图像分类的轻量化深度神经网络架构；
分类模块，使用样本模块划定的训练集X_train训练训练模块的轻量化深度神经网络架构，利用测试集X_test对训练好的轻量化深度神经网络架构进行验证，当输出测试样本的预测标签满足条件后，向训练好的轻量化深度神经网络架构中输入待分类的高光谱遥感图像，获得分类结果。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111039219.9A CN113780146B (zh) | 2021-09-06 | 2021-09-06 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111039219.9A CN113780146B (zh) | 2021-09-06 | 2021-09-06 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113780146A true CN113780146A (zh) | 2021-12-10 |
| CN113780146B CN113780146B (zh) | 2024-05-10 |
Family
ID=78841302
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111039219.9A Active CN113780146B (zh) | 2021-09-06 | 2021-09-06 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113780146B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115620147A (zh) * | 2022-11-29 | 2023-01-17 | 国网山东省电力公司济南供电公司 | 深度卷积神经网络的可微架构搜索方法及装置 |
Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105302813A (zh) * | 2014-06-16 | 2016-02-03 | 深圳市雅都软件股份有限公司 | 基于面向对象技术的多场景业务信息自动共享平台及方法 |
| CN110111345A (zh) * | 2019-05-14 | 2019-08-09 | 西安电子科技大学 | 一种基于注意力网络的3d点云分割方法 |
| CN110276442A (zh) * | 2019-05-24 | 2019-09-24 | 西安电子科技大学 | 一种神经网络架构的搜索方法及装置 |
| WO2019238976A1 (en) * | 2018-06-15 | 2019-12-19 | Université de Liège | Image classification using neural networks |
| CN110852168A (zh) * | 2019-10-11 | 2020-02-28 | 西北大学 | 基于神经架构搜索的行人重识别模型构建方法及装置 |
| CN111178316A (zh) * | 2020-01-06 | 2020-05-19 | 武汉大学 | 一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法 |
| CN111814966A (zh) * | 2020-08-24 | 2020-10-23 | 国网浙江省电力有限公司 | 神经网络架构搜索方法、神经网络应用方法、设备及存储介质 |
| CN111860197A (zh) * | 2020-06-26 | 2020-10-30 | 中国人民解放军32802部队 | 基于多光谱多模的低慢小目标感知方法及系统 |
| CN111898683A (zh) * | 2020-07-31 | 2020-11-06 | 平安科技（深圳）有限公司 | 基于深度学习的图像分类方法、装置及计算机设备 |
| CN112036512A (zh) * | 2020-11-03 | 2020-12-04 | 浙江大学 | 基于网络裁剪的图像分类神经网络架构搜索方法和装置 |
| US20210019531A1 (en) * | 2019-07-16 | 2021-01-21 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method and apparatus for classifying video |
| CN112381208A (zh) * | 2020-11-13 | 2021-02-19 | 中国科学院计算技术研究所 | 一种深度渐进且逐步寻优的神经网络架构搜索方法与系统 |
| CN112560894A (zh) * | 2020-11-16 | 2021-03-26 | 武汉光谷信息技术股份有限公司 | 一种改进型3d卷积网络高光谱遥感影像分类方法及装置 |
| CN112949416A (zh) * | 2021-02-04 | 2021-06-11 | 东华理工大学 | 一种监督的高光谱多尺度图卷积分类方法 |
| CN113240055A (zh) * | 2021-06-18 | 2021-08-10 | 桂林理工大学 | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 |
-
2021
- 2021-09-06 CN CN202111039219.9A patent/CN113780146B/zh active Active
Patent Citations (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105302813A (zh) * | 2014-06-16 | 2016-02-03 | 深圳市雅都软件股份有限公司 | 基于面向对象技术的多场景业务信息自动共享平台及方法 |
| WO2019238976A1 (en) * | 2018-06-15 | 2019-12-19 | Université de Liège | Image classification using neural networks |
| CN110111345A (zh) * | 2019-05-14 | 2019-08-09 | 西安电子科技大学 | 一种基于注意力网络的3d点云分割方法 |
| CN110276442A (zh) * | 2019-05-24 | 2019-09-24 | 西安电子科技大学 | 一种神经网络架构的搜索方法及装置 |
| US20210019531A1 (en) * | 2019-07-16 | 2021-01-21 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method and apparatus for classifying video |
| CN110852168A (zh) * | 2019-10-11 | 2020-02-28 | 西北大学 | 基于神经架构搜索的行人重识别模型构建方法及装置 |
| CN111178316A (zh) * | 2020-01-06 | 2020-05-19 | 武汉大学 | 一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法 |
| CN111860197A (zh) * | 2020-06-26 | 2020-10-30 | 中国人民解放军32802部队 | 基于多光谱多模的低慢小目标感知方法及系统 |
| CN111898683A (zh) * | 2020-07-31 | 2020-11-06 | 平安科技（深圳）有限公司 | 基于深度学习的图像分类方法、装置及计算机设备 |
| CN111814966A (zh) * | 2020-08-24 | 2020-10-23 | 国网浙江省电力有限公司 | 神经网络架构搜索方法、神经网络应用方法、设备及存储介质 |
| CN112036512A (zh) * | 2020-11-03 | 2020-12-04 | 浙江大学 | 基于网络裁剪的图像分类神经网络架构搜索方法和装置 |
| CN112381208A (zh) * | 2020-11-13 | 2021-02-19 | 中国科学院计算技术研究所 | 一种深度渐进且逐步寻优的神经网络架构搜索方法与系统 |
| CN112560894A (zh) * | 2020-11-16 | 2021-03-26 | 武汉光谷信息技术股份有限公司 | 一种改进型3d卷积网络高光谱遥感影像分类方法及装置 |
| CN112949416A (zh) * | 2021-02-04 | 2021-06-11 | 东华理工大学 | 一种监督的高光谱多尺度图卷积分类方法 |
| CN113240055A (zh) * | 2021-06-18 | 2021-08-10 | 桂林理工大学 | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 |
Non-Patent Citations (1)
| Title |
|---|
| 宋相法: "基于稀疏表示的多示例图像分类", 计算机科学, vol. 42, no. 1, 31 January 2015 (2015-01-31), pages 293 - 296 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115620147A (zh) * | 2022-11-29 | 2023-01-17 | 国网山东省电力公司济南供电公司 | 深度卷积神经网络的可微架构搜索方法及装置 |
| CN115620147B (zh) * | 2022-11-29 | 2023-04-07 | 国网山东省电力公司济南供电公司 | 深度卷积神经网络的可微架构搜索方法及装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113780146B (zh) | 2024-05-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN110516596B (zh) | 基于Octave卷积的空谱注意力高光谱图像分类方法 | |
| WO2021043193A1 (zh) | 神经网络结构的搜索方法、图像处理方法和装置 | |
| Zhang et al. | Hyperspectral band selection based on multi-objective optimization with high information and low redundancy | |
| CN109948029B (zh) | 基于神经网络自适应的深度哈希图像搜索方法 | |
| CN111882040B (zh) | 基于通道数量搜索的卷积神经网络压缩方法 | |
| CN111914728B (zh) | 高光谱遥感影像半监督分类方法、装置及存储介质 | |
| CN112465120A (zh) | 一种基于进化方法的快速注意力神经网络架构搜索方法 | |
| CN107169535A (zh) | 生物多光谱图像的深度学习分类方法及装置 | |
| CN112508104A (zh) | 一种基于快速网络架构搜索的跨任务图像分类方法 | |
| Filatovas et al. | A preference-based multi-objective evolutionary algorithm R-NSGA-II with stochastic local search | |
| CN104751179A (zh) | 一种基于博弈论的多目标高光谱遥感影像波段选择方法 | |
| CN104156943B (zh) | 基于非支配邻域免疫算法的多目标模糊聚类图像变化检测方法 | |
| Zhao et al. | A decomposition-based many-objective ant colony optimization algorithm with adaptive solution construction and selection approaches | |
| WO2022042506A1 (zh) | 基于卷积神经网络的细胞筛选方法和装置 | |
| CN110516537A (zh) | 一种基于自步学习的人脸年龄估计方法 | |
| CN113807176B (zh) | 一种基于多知识融合的小样本视频行为识别方法 | |
| CN111723285A (zh) | 一种基于评分的深度谱卷积协同过滤推荐方法 | |
| CN113361466A (zh) | 一种基于多模态交叉指导学习的多光谱目标检测方法 | |
| CN113780146B (zh) | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 | |
| Sun et al. | Real-time semantic segmentation via auto depth, downsampling joint decision and feature aggregation | |
| van Stein et al. | Neural network design: learning from neural architecture search | |
| CN117611974B (zh) | 基于多种群交替进化神经结构搜索的图像识别方法及系统 | |
| CN114386142A (zh) | 基于多源融合特征选择和模糊差异性增强Stacking框架的建筑能耗预测方法 | |
| Cai et al. | EST-NAS: An evolutionary strategy with gradient descent for neural architecture search | |
| CN112699957A (zh) | 一种基于darts的图像分类优化方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |