CN113240055A - 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 - Google Patents
基于宏操作变异神经架构搜索的色素性皮损图像分类方法 Download PDFInfo
- Publication number
- CN113240055A CN113240055A CN202110681578.8A CN202110681578A CN113240055A CN 113240055 A CN113240055 A CN 113240055A CN 202110681578 A CN202110681578 A CN 202110681578A CN 113240055 A CN113240055 A CN 113240055A
- Authority
- CN
- China
- Prior art keywords
- macro
- neural
- operations
- pigmented
- variant
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000001537 neural effect Effects 0.000 title claims abstract description 36
- 239000000049 pigment Substances 0.000 title claims abstract description 13
- 230000037380 skin damage Effects 0.000 title abstract description 9
- 238000013528 artificial neural network Methods 0.000 claims abstract description 18
- 210000004027 cell Anatomy 0.000 claims description 48
- 206010040882 skin lesion Diseases 0.000 claims description 22
- 231100000444 skin lesion Toxicity 0.000 claims description 22
- 238000012360 testing method Methods 0.000 claims description 20
- 201000001441 melanoma Diseases 0.000 claims description 16
- 238000012549 training Methods 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 12
- 208000009077 Pigmented Nevus Diseases 0.000 claims description 9
- 238000011176 pooling Methods 0.000 claims description 8
- 230000009467 reduction Effects 0.000 claims description 8
- 206010004146 Basal cell carcinoma Diseases 0.000 claims description 6
- 206010039796 Seborrhoeic keratosis Diseases 0.000 claims description 6
- 201000003385 seborrheic keratosis Diseases 0.000 claims description 6
- 238000012795 verification Methods 0.000 claims description 6
- 206010020649 Hyperkeratosis Diseases 0.000 claims description 5
- 208000001126 Keratosis Diseases 0.000 claims description 5
- 208000009621 actinic keratosis Diseases 0.000 claims description 5
- 230000003902 lesion Effects 0.000 claims description 5
- 206010053717 Fibrous histiocytoma Diseases 0.000 claims description 4
- 208000001119 benign fibrous histiocytoma Diseases 0.000 claims description 4
- 201000010305 cutaneous fibrous histiocytoma Diseases 0.000 claims description 4
- 231100000216 vascular lesion Toxicity 0.000 claims description 4
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 abstract description 9
- 238000013461 design Methods 0.000 abstract description 4
- 230000035945 sensitivity Effects 0.000 abstract description 3
- 238000010200 validation analysis Methods 0.000 description 8
- 238000002474 experimental method Methods 0.000 description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 2
- 206010027145 Melanocytic naevus Diseases 0.000 description 2
- 208000000453 Skin Neoplasms Diseases 0.000 description 2
- 208000024248 Vascular System injury Diseases 0.000 description 2
- 208000012339 Vascular injury Diseases 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000035772 mutation Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 101100498818 Arabidopsis thaliana DDR4 gene Proteins 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 208000007256 Nevus Diseases 0.000 description 1
- 238000000137 annealing Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 201000011510 cancer Diseases 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 206010016629 fibroma Diseases 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 231100000518 lethal Toxicity 0.000 description 1
- 230000001665 lethal effect Effects 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 201000000849 skin cancer Diseases 0.000 description 1
- 102000030938 small GTPase Human genes 0.000 description 1
- 108060007624 small GTPase Proteins 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000004083 survival effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30088—Skin; Dermal
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Medical Informatics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Investigating Or Analysing Biological Materials (AREA)
- Measuring Or Testing Involving Enzymes Or Micro-Organisms (AREA)
Abstract
本发明提供一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法，该方法针对基于人工设计CNN的色素性皮损图像分类方法需要丰富的神经网络设计经验和大量的参数调优的问题，提出了一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法以自动构建面向色素性皮损图像分类的卷积神经网络。首先，通过使用宏操作变异不断地改变父代神经架构的操作类型和连接方式来产生子代，最后进化出一个高性能的色素性皮损分类神经网络。实验结果表明，MOM‑NAS搜索到的卷积神经网络能够取得与前沿方法接近或更好的分类性能，在HAM10000和ISIC2017数据集上分别取得了72.4％和58.5％的平均敏感度。
Description
技术领域
本发明涉及医学图像处理方法领域，更具体地，涉及一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法。
背景技术
皮肤癌是最常见的癌症类型之一，其中黑色素瘤是最致命的皮肤癌，死亡率约占75％，早期准确识别黑色素瘤可显著提高患者的生存率。色素性皮损图像一般采用皮肤镜采集，由于皮肤颜色或毛发等方面的影响以及黑色素瘤和非黑色素瘤病灶高度的视觉相似性，医生可能会出现误诊或漏诊的情况。因此，研究色素性皮损自动分类方法可以辅助医生对黑色素瘤的识别准确率和工作效率。
目前深度学习在医学图像处理任务中取得了较大进展，一些研究开始将深度学习方法应用于黑色素瘤的识别，尤其是使用卷积神经网络(Convolutional Neural Network，CNN)用于色素性皮损图像分类。实践证明，神经网络架构的设计对提取图像的特征和分类性能至关重要。然而，它的设计在很大程度上依赖于专家的经验，例如卷积核的选择、超参数的设置等。另外，人们现有的先验知识和固定的思维模式可能在一定程度上限制了新神经网络架构的发现。
发明内容
本发明提供一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法，该方法提高基于CNN的色素性皮损图像分类准确性。
为了达到上述技术效果，本发明的技术方案如下：
一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法，包括以下步骤：
S1：增加自定义的宏操作搜索空间，并对AmoebaNet原始的微操作搜索空间进行简化；
S2：采用基于宏操作变异的进化搜索策略搜索最佳Cell；
S3：堆叠最佳Cell构建色素性皮损分类神经网络，并在数据集上进行训练和测试。
进一步地，所述步骤S1的具体过程是：
S11：将InceptionV1、PS、Fire、SE宏操作加入到该搜索空间；
S12：移除了在NASNet-A、AmoebaNet-A最佳Cell中不出现的微操作，包括1×1卷积、5×5最大池化和7×7最大池化；
S13：增加了3×3和5×5空洞卷积操作，用微操作和宏操作构造候选的Normalcell和Reduction cell。
进一步地，所述步骤S2的具体过程是：
S21：基于微操作搜索空间初始化P个神经架构形成种群；
S22：进化种群：每次进化将从种群中随机选取S个神经架构，其中适应度最高的神经架构作为变异对象parent；
S23：使用宏操作变异产生子代架构child，并对child进行性能评估，child和父代种群一起进入下一次迭代，直到满足收敛条件。
进一步地，所述步骤S23中，宏操作变异的具体过程是：
1)、随机确定神经架构的变异位点：从Normal cell和Reduction cell中随机选择变异的cell，再从组成cell的B个Blocks中随机选择一个block，之后再随机选择block中的一个操作op；
2)、从宏操作搜索空间中随机选择一个宏操作macro op对op进行替换，至此，神经架构的宏操作变异完成。
进一步地，每个Cell包括若干Blocks组成，每个Block由一个五元组构成，Block的操作包括微操作或者宏操作，Block的操作的输出相加作为该Block的最终输出。
其中，所述步骤S3中的数据集选用HAM10000和ISIC2017；所述HAM10000数据集具有10015张皮肤镜图像，包含了七种皮损图像：黑色素瘤、色素痣、基底细胞癌、光化性角化病、良性角化病、皮肤纤维瘤和血管损伤；对HAM10000数据集随机分成四等份，其中一等份2500张图像作为测试集，其它三等份5000张用于训练和验证；ISIC2017数据集共有2750张图像，包含了三种皮损图像：黑色素瘤、色素痣和脂溢性角化病；ISIC2017数据集已经划分了训练集2000张、验证集150张以及测试集600张。
与现有技术相比，本发明技术方案的有益效果是：
本发明将宏操作加入搜索空间：基于Cell的搜索空间，将PSP、Fire、SE和InceptionV1等宏操作加入到搜索空间中，使搜索空间既包含卷积层等基本操作，也包含这些人工设计的、精巧的宏操作，扩大了被搜索的神经架构范围。此外，对原NAS搜索空间进行了简化，移除了1×1卷积、5×5最大池化和7×7最大池化等基本操作；在进化搜索过程中，通过使用宏操作变异改变父代的神经架构来产生子代；将宏操作作为变异的目标单元替换神经架构的操作类型，以及使用AmoebaNet中的连接变异方法来改变神经架构的连接方式。该方法在HAM10000和ISIC2017色素性皮损数据集上取得了与前沿方法接近或者更好的分类性能，平均敏感度分别为72.4％和58.5％。
附图说明
图1为本发明方法流程框图；
图2为通过MON-NAS在HAM10000上发现的最佳Cell结构，包含了4个Block.左：Normal Cell.右：Reduction Cell.其中，H[i-1]和H[i]是两个输入，i是层数，对所有没有后续连接的Block的输出使用concat运算作为Cell的最终输出；
图3为在不同堆叠深度下(a)HAM10000和(b)ISIC2017验证集的MC-Sensitivity-Epoch曲线。
具体实施方式
附图仅用于示例性说明，不能理解为对本专利的限制；
为了更好说明本实施例，附图某些部件会有省略、放大或缩小，并不代表实际产品的尺寸；
对于本领域技术人员来说，附图中某些公知结构及其说明可能省略是可以理解的。
下面结合附图和实施例对本发明的技术方案做进一步的说明。
如图1所示，一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法，包括以下步骤：
S1：增加自定义的宏操作搜索空间，并对AmoebaNet原始的微操作搜索空间进行简化；
S2：采用基于宏操作变异的进化搜索策略搜索最佳Cell；
S3：堆叠最佳Cell构建色素性皮损分类神经网络，并在数据集上进行训练和测试。
步骤S1的具体过程是：
S11：将InceptionV1、PS、Fire、SE宏操作加入到该搜索空间；
S12：移除了在NASNet-A、AmoebaNet-A最佳Cell中不出现的微操作，包括1×1卷积、5×5最大池化和7×7最大池化；
S13：增加了3×3和5×5空洞卷积操作，用微操作和宏操作构造候选的Normalcell和Reduction cell。
步骤S2的具体过程是：
S21：基于微操作搜索空间初始化P个神经架构形成种群；
S22：进化种群：每次进化将从种群中随机选取S个神经架构，其中适应度最高的神经架构作为变异对象parent；
S23：使用宏操作变异产生子代架构child，并对child进行性能评估，child和父代种群一起进入下一次迭代，直到满足收敛条件。具体的算法程序描述如下(算法1)：
步骤S23中，宏操作变异的具体过程是：
1)、随机确定神经架构的变异位点：从Normal cell和Reduction cell中随机选择变异的cell，再从组成cell的B个Blocks中随机选择一个block，之后再随机选择block中的一个操作op；
2)、从宏操作搜索空间中随机选择一个宏操作macro op对op进行替换，至此，神经架构的宏操作变异完成。具体的算法程序描述如下(算法2)：
每个Cell包括若干Blocks组成，每个Block由一个五元组构成，Block的操作包括微操作或者宏操作，Block的操作的输出相加作为该Block的最终输出。
步骤S3中的数据集选用HAM10000和ISIC2017，HAM10000数据集具有10015张皮肤镜图像，包含了七种皮损图像：黑色素瘤、色素痣、基底细胞癌、光化性角化病、良性角化病、皮肤纤维瘤和血管损伤；对HAM10000数据集随机分成四等份，其中一等份2500张图像作为测试集，其它三等份5000张用于训练和验证；ISIC2017数据集共有2750张图像，包含了三种皮损图像：黑色素瘤、色素痣和脂溢性角化病；ISIC2017数据集划分了训练集2000张、验证集150张以及测试集600张。
具体实验：
本实验采用Pytorch 1.5实现，主要系统环境为Win10，Intel i7-8700 CPU，16GbDDR4 RAM，GTX1080 8G GPU。实验主要包括搜索和测试两个阶段。在搜索阶段，通过使用本文提出的MOM-NAS方法在HAM10000数据集上搜索出最佳Cell。在测试阶段，采用搜索到的最佳Cell构造神经网络，对比了不同Cell堆叠深度(N，G)的神经网络在HAM10000和ISIC2017数据集上的分类性能，并分别与InceptV3+Attention、DenseNet-121、Inception+ResNet、VGG19及ARL-CNN、SA+AS、G-CNN、LIN、AmoebaNet等SOTA方法进行了比较。
实验采用HAM10000数据集和ISIC2017数据集两个数据集的类分布如表1所示：
表1 HAM10000和ISIC2017数据集的样本数量分布
| 诊断类型 | HAM | ISIC2017 |
| 黑色素瘤(MEL) | 1113 | 521 |
| 色素痣(NV) | 6705 | 1843 |
| 基底细胞癌(BCC) | 514 | - |
| 光化性角化病(AKIEC) | 327 | - |
| 良性角化病(BKL) | 1099 | - |
| 皮肤纤维瘤(DF) | 115 | - |
| 血管损伤(VASC) | 142 | - |
| 脂溢性角化病(SKL) | - | 386 |
| 总计 | 10015 | 2750 |
HAM10000数据集具有10015张皮肤镜图像，包含了七种皮损图像：黑色素瘤、色素痣、基底细胞癌、光化性角化病、良性角化病、皮肤纤维瘤和血管损伤。我们采用与相同的数据集划分方式，对HAM10000数据集随机分成四等份，其中一等份作为测试集(2500张图像)，其它三等份用于训练和验证(5000张用于训练，2500张用于验证)。
ISIC2017数据集共有2750张图像，包含了三种皮损图像：黑色素瘤、色素痣和脂溢性角化病。ISIC2017数据集已经划分了训练集(2000张)、验证集(150张)以及测试集(600张)。
在搜索阶段，在算法1中涉及的参数默认设置为P＝5，S＝5，M＝50，B＝4。训练和评估候选神经网络时使用224×224图像，共训练5个epoch，批次大小为5，学习率为0.001，使用Adam优化器。
在测试阶段，同样使用224×224图像。在HAM10000上，初始学习率为0.0005，使用betas为(0.9，0.999)及weights decay为3e-4的Adam优化器。在ISIC2017上，初始学习率为0.00125，使用momentum为0.9及weights decay为3e-4的SGD优化器。训练时在每个epoch后均使用余弦退火来降低学习率(其中在HAM10000上的最低值为0.0001，ISIC2017为0.001)。批次大小设置为5或8；共迭代训练120次。
有表1可知数据集存在类别不平衡问题，所以搜索和测试阶段的损失函数均采用了加权损失函数。
在评估指标方面，本文使用多类敏感性S(multi-class sensitivity，MC-Sensitivity)来全面衡量分类准确性，其定义如下：
其中，TP表示真阳性，FN表示假阴性，C表示类别数。
首先，在HAM10000数据集上搜索最佳Cell。为了提高搜索效率，N不宜设置过大。其次，影响神经网络深度和视野范围的G值不宜太小或太大。G太小会导致视野范围过小，太大则会造成神经网络深度过大而搜索效率低。因此，分别选取N＝1，G＝5和N＝2，G＝5进行搜索。N＝1，G＝5时，搜索花费大约1.5GPU Days，N＝2，G＝5时，耗时2.5GPU Days。
图2展示了在N＝1，G＝5上发现的最佳Cell的结构。可以看到，Normal cell(左)和Reduction cell(右)不仅包含了微操作，还包含了宏操作(PSP和SE)，宏操作的出现是因为在进化过程中应用了宏操作变异。PSP整合了不同尺度的特征，能够更好地进行特征表示，而SE中的注意力机制能够更好地关注病灶信息。这样的微/宏操作组合在一定程度上提升了整个神经网络的泛化能力。
采用Cell堆叠的方式构建不同深度的候选神经网络，以确定在HAM10000和ISIC2017数据集上最优的神经网络。
优选Cell堆叠方式：
通过改变N(N＝1,2,3)和G(G＝3,4,5)来分析最佳Cell的堆叠深度对HAM10000和ISIC2017验证集分类性能的影响，以此分别确定各自最优的神经网络。
图3显示了在不同堆叠深度下，HAM10000和ISIC2017验证集的MC-Sensitivity-Epoch曲线图。由图3(a)可知，当N＝1，G＝3时，MOM-NAS在HAM10000验证集上的性能表现要明显优于其他方式。而在ISIC2017验证集上的MC-Sensitivity相差不明显，但当N＝1，G＝3或G＝4时，MC-Sensitivity较高。
为了优选Cell堆叠方式，根据N值不同分成3组，并分别计算100～120epochs的MC-Sensitivity平均值，以此作为堆叠方式优选的参考指标(有图3可知，在训练100epoch后，候选神经网络均已基本收敛)。当N一定时，MC-Sensitivity平均值随着G的增大呈下降趋势。因此，我们优选了每组中MC-Sensitivity平均值最高的堆叠方式进行测试。
HAM10000数据集测试结果：
使用优选的堆叠方式的MOM-NAS与InceptV3+Attention、Inception+ResNet等2种SOTA方法进行比较，有表2可知MOM-NAS(N＝1,G＝3)的MC-Sensitivity与InceptV3+Attention同为最高(约72.4％)。
表2 不同的方法在HAM10000上的测试结果比较
| 方法 | MC-Sensitivity |
| InceptV3+Attention[21] | 72.4 |
| Inception+ResNet[23] | 63.1 |
| MOM-NAS(N＝1,G＝3) | 72.4 |
为了验证最佳Cell的可迁移性，继续在ISIC2017数据集上进行测试，并与ARL-CNN、SA+AS等2种SOTA方法进行了性能比较。如表3所示，优选的MOM-NAS神经网络在脂溢性角化病分类和三分类任务上的MC-Sensitivity均超过了其它方法，特别是当N＝2，G＝3时，MOM-NAS在所有分类任务的MC-Sensitivity都是最高的。
表3 不同的方法在ISIC2017上的测试结果比较
相同或相似的标号对应相同或相似的部件；
附图中描述位置关系的用于仅用于示例性说明，不能理解为对本专利的限制；
显然，本发明的上述实施例仅仅是为清楚地说明本发明所作的举例，而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说，在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明权利要求的保护范围之内。
Claims (10)
1.一种基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，包括以下步骤：
S1：增加自定义的宏操作搜索空间，并对AmoebaNet原始的微操作搜索空间进行简化；
S2：采用基于宏操作变异的进化搜索策略搜索最佳Cell；
S3：堆叠最佳Cell构建色素性皮损分类神经网络，并在数据集上进行训练和测试。
2.根据权利要求1所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，所述步骤S1的具体过程是：
S11：将InceptionV1、PS、Fire、SE宏操作加入到该搜索空间；
S12：移除了在NASNet-A、AmoebaNet-A最佳Cell中不出现的微操作，包括1×1卷积、5×5最大池化和7×7最大池化；
S13：增加了3×3和5×5空洞卷积操作，用微操作和宏操作构造候选的Normal cell和Reduction cell。
3.根据权利要求2所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，所述步骤S2的具体过程是：
S21：基于微操作搜索空间初始化P个神经架构形成种群；
S22：进化种群：每次进化将从种群中随机选取S个神经架构，其中适应度最高的神经架构作为变异对象parent；
S23：使用宏操作变异产生子代架构child，并对child进行性能评估，child和父代种群一起进入下一次迭代，直到满足收敛条件。
4.根据权利要求3所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，所述步骤S23中，宏操作变异的具体过程是：
1)、随机确定神经架构的变异位点：从Normal cell和Reduction cell中随机选择变异的cell，再从组成cell的B个Blocks中随机选择一个block，之后再随机选择block中的一个操作op；
2)、从宏操作搜索空间中随机选择一个宏操作macro op对op进行替换，至此，神经架构的宏操作变异完成。
5.根据权利要求4所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，每个Cell包括若干Blocks组成，每个Block由一个五元组构成，Block的操作包括微操作或者宏操作，Block的操作的输出相加作为该Block的最终输出。
6.根据权利要求5所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，所述步骤S3中的数据集选用HAM10000和ISIC2017。
7.根据权利要求6所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，所述HAM10000数据集具有10015张皮肤镜图像，包含了七种皮损图像：黑色素瘤、色素痣、基底细胞癌、光化性角化病、良性角化病、皮肤纤维瘤和血管损伤。
8.根据权利要求7所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，对HAM10000数据集随机分成四等份，其中一等份2500张图像作为测试集，其它三等份5000张用于训练和验证。
9.根据权利要求8所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，ISIC2017数据集共有2750张图像，包含了三种皮损图像：黑色素瘤、色素痣和脂溢性角化病。
10.根据权利要求9所述的基于宏操作变异神经架构搜索的色素性皮损图像分类方法，其特征在于，ISIC2017数据集划分了训练集2000张、验证集150张以及测试集600张。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110681578.8A CN113240055B (zh) | 2021-06-18 | 2021-06-18 | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110681578.8A CN113240055B (zh) | 2021-06-18 | 2021-06-18 | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113240055A true CN113240055A (zh) | 2021-08-10 |
| CN113240055B CN113240055B (zh) | 2022-06-14 |
Family
ID=77140303
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110681578.8A Active CN113240055B (zh) | 2021-06-18 | 2021-06-18 | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113240055B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113780146A (zh) * | 2021-09-06 | 2021-12-10 | 西安电子科技大学 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100002528A1 (en) * | 2008-07-01 | 2010-01-07 | Renesas Technology Corp. | Semiconductor device |
| CN107197006A (zh) * | 2017-05-12 | 2017-09-22 | 中国人民解放军信息工程大学 | 基于全局QoS分解的多约束服务选取方法及其装置 |
| US20180107591A1 (en) * | 2011-04-06 | 2018-04-19 | P4tents1, LLC | System, method and computer program product for fetching data between an execution of a plurality of threads |
| CN108734649A (zh) * | 2017-04-24 | 2018-11-02 | 英特尔公司 | 神经网络训练机构 |
| US20200104687A1 (en) * | 2018-09-27 | 2020-04-02 | Google Llc | Hybrid neural architecture search |
| CN111178316A (zh) * | 2020-01-06 | 2020-05-19 | 武汉大学 | 一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法 |
| CN111833310A (zh) * | 2020-06-17 | 2020-10-27 | 桂林理工大学 | 一种基于神经网络架构搜索的表面缺陷分类方法 |
| CN112068526A (zh) * | 2014-02-20 | 2020-12-11 | M·奥利尼克 | 用于在机器人烹饪厨房中制备食物的方法和系统 |
| CN112465120A (zh) * | 2020-12-08 | 2021-03-09 | 上海悠络客电子科技股份有限公司 | 一种基于进化方法的快速注意力神经网络架构搜索方法 |
| CN112561027A (zh) * | 2019-09-25 | 2021-03-26 | 华为技术有限公司 | 神经网络架构搜索方法、图像处理方法、装置和存储介质 |
| CN112686366A (zh) * | 2020-12-01 | 2021-04-20 | 江苏科技大学 | 一种基于随机搜索和卷积神经网络的轴承故障诊断方法 |
| CN112766466A (zh) * | 2021-02-23 | 2021-05-07 | 北京市商汤科技开发有限公司 | 一种神经网络架构搜索的方法、装置和电子设备 |
| CN112884118A (zh) * | 2019-11-30 | 2021-06-01 | 华为技术有限公司 | 神经网络的搜索方法、装置及设备 |
-
2021
- 2021-06-18 CN CN202110681578.8A patent/CN113240055B/zh active Active
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20100002528A1 (en) * | 2008-07-01 | 2010-01-07 | Renesas Technology Corp. | Semiconductor device |
| US20180107591A1 (en) * | 2011-04-06 | 2018-04-19 | P4tents1, LLC | System, method and computer program product for fetching data between an execution of a plurality of threads |
| CN112068526A (zh) * | 2014-02-20 | 2020-12-11 | M·奥利尼克 | 用于在机器人烹饪厨房中制备食物的方法和系统 |
| CN108734649A (zh) * | 2017-04-24 | 2018-11-02 | 英特尔公司 | 神经网络训练机构 |
| CN107197006A (zh) * | 2017-05-12 | 2017-09-22 | 中国人民解放军信息工程大学 | 基于全局QoS分解的多约束服务选取方法及其装置 |
| US20200104687A1 (en) * | 2018-09-27 | 2020-04-02 | Google Llc | Hybrid neural architecture search |
| CN112561027A (zh) * | 2019-09-25 | 2021-03-26 | 华为技术有限公司 | 神经网络架构搜索方法、图像处理方法、装置和存储介质 |
| CN112884118A (zh) * | 2019-11-30 | 2021-06-01 | 华为技术有限公司 | 神经网络的搜索方法、装置及设备 |
| CN111178316A (zh) * | 2020-01-06 | 2020-05-19 | 武汉大学 | 一种基于深度架构自动搜索的高分辨率遥感影像土地覆盖分类方法 |
| CN111833310A (zh) * | 2020-06-17 | 2020-10-27 | 桂林理工大学 | 一种基于神经网络架构搜索的表面缺陷分类方法 |
| CN112686366A (zh) * | 2020-12-01 | 2021-04-20 | 江苏科技大学 | 一种基于随机搜索和卷积神经网络的轴承故障诊断方法 |
| CN112465120A (zh) * | 2020-12-08 | 2021-03-09 | 上海悠络客电子科技股份有限公司 | 一种基于进化方法的快速注意力神经网络架构搜索方法 |
| CN112766466A (zh) * | 2021-02-23 | 2021-05-07 | 北京市商汤科技开发有限公司 | 一种神经网络架构搜索的方法、装置和电子设备 |
Non-Patent Citations (8)
| Title |
|---|
| L ZHOU等: ""CP-NAS：Child-Parent Neural Architecture Search for Binary Neural Networks"", 《ARXIV》 * |
| LIU C等: ""Progressive neural architecture search"", 《ARXIV》 * |
| UNAI GARCIARENA等: ""Redefining Neural Architecture Search of Heterogeneous Multi-Network Model by Characterizing Variation Operators and Model Components"", 《ARXIV》 * |
| ZIXIANG DING等: ""Simplified Space Based Neural Architecture Search"", 《2019 IEEE SYMPOSIUM SERIES ON COMPUTATIONAL INTELLIGENCE》 * |
| 李建明等: ""优化搜索空间下带约束的可微分网络架构搜索"", 《计算机应用》 * |
| 田华等: ""基于学习的智能机器人动作规划"", 《机器人》 * |
| 耿飞等: ""神经网络架构搜索综述"", 《智能计算机与应用》 * |
| 赵永强等: ""深度学习目标检测方法综述"", 《中国图象图形学报》 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113780146A (zh) * | 2021-09-06 | 2021-12-10 | 西安电子科技大学 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
| CN113780146B (zh) * | 2021-09-06 | 2024-05-10 | 西安电子科技大学 | 基于轻量化神经架构搜索的高光谱图像分类方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113240055B (zh) | 2022-06-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Elfatimi et al. | Beans leaf diseases classification using mobilenet models | |
| CN110472817A (zh) | 一种结合深度神经网络的XGBoost集成信用评价系统及其方法 | |
| CN113011239B (zh) | 一种基于最优窄频带特征融合的运动想象分类方法 | |
| CN112270958B (zh) | 一种基于分层深度学习miRNA-lncRNA互作关系的预测方法 | |
| CN112270955A (zh) | 一种注意力机制预测lncRNA的RBP结合位点的方法 | |
| CN113240055B (zh) | 基于宏操作变异神经架构搜索的色素性皮损图像分类方法 | |
| CN114469120B (zh) | 一种基于相似度阈值迁移的多尺度Dtw-BiLstm-Gan心电信号生成方法 | |
| CN113871021A (zh) | 一种基于图注意力机制的circRNA与疾病关联关系预测方法 | |
| Stuchi et al. | Frequency learning for image classification | |
| Anders et al. | Compensating class imbalance for acoustic chimpanzee detection with convolutional recurrent neural networks | |
| Salama et al. | Prune your neurons blindly: Neural network compression through structured class-blind pruning | |
| CN109948589B (zh) | 基于量子深度信念网络的人脸表情识别方法 | |
| CN106056167A (zh) | 一种基于高斯核混合人工蜂群算法的归一化可能性模糊熵聚类方法 | |
| CN114242178A (zh) | 基于梯度提升决策树的ERα拮抗剂的生物活性定量预测方法 | |
| CN114091529A (zh) | 一种基于生成对抗网络数据增强的脑电情感识别方法 | |
| Babu et al. | A simplex method-based bacterial colony optimization algorithm for data clustering analysis | |
| Nie et al. | Skin cancer classification based on cosine cyclical learning rate with deep learning | |
| Shinde et al. | Artificial intelligence approach for terror attacks prediction through machine learning | |
| CN116015967B (zh) | 基于改进鲸鱼算法优化delm的工业互联网入侵检测方法 | |
| Olfati et al. | Feature subset selection and parameters optimization for support vector machine in breast cancer diagnosis | |
| CN112951320B (zh) | 一种基于集成学习的生物医学网络关联预测方法 | |
| CN114611719A (zh) | 一种新的基于布谷鸟搜索算法的XGBoost训练方法 | |
| Tarle et al. | Improved artificial neural network for dimension reduction in medical data classification | |
| Zheng et al. | Face recognition based on weighted multi-channel Gabor sparse representation and optimized extreme learning machines | |
| CN113345593A (zh) | 一种在生物关联网络中进行疾病关联关系预测的方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| EE01 | Entry into force of recordation of patent licensing contract | ||
| EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20210810 Assignee: Guangxi Sanjia International Exhibition Service Co.,Ltd. Assignor: GUILIN University OF TECHNOLOGY Contract record no.: X2022450000100 Denomination of invention: Classification of pigmented skin lesions based on macro operation variant neural architecture search Granted publication date: 20220614 License type: Common License Record date: 20221121 |
|
| EE01 | Entry into force of recordation of patent licensing contract | ||
| EE01 | Entry into force of recordation of patent licensing contract |
Application publication date: 20210810 Assignee: Guangxi Aigui Intelligent Technology Co.,Ltd. Assignor: GUILIN University OF TECHNOLOGY Contract record no.: X2023980046600 Denomination of invention: A Classification Method for Pigmented Skin Lesions Images Based on Macrooperation Mutation Neural Architecture Search Granted publication date: 20220614 License type: Common License Record date: 20231108 |