CN113361623B - 一种轻量级cnn结合迁移学习的医学图像分类方法 - Google Patents
一种轻量级cnn结合迁移学习的医学图像分类方法 Download PDFInfo
- Publication number
- CN113361623B CN113361623B CN202110691248.7A CN202110691248A CN113361623B CN 113361623 B CN113361623 B CN 113361623B CN 202110691248 A CN202110691248 A CN 202110691248A CN 113361623 B CN113361623 B CN 113361623B
- Authority
- CN
- China
- Prior art keywords
- network
- mobilenetv
- gray level
- image
- window template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000013526 transfer learning Methods 0.000 title claims abstract description 9
- 230000006870 function Effects 0.000 claims abstract description 57
- 238000012549 training Methods 0.000 claims abstract description 32
- 238000012795 verification Methods 0.000 claims abstract description 21
- 238000012545 processing Methods 0.000 claims abstract description 16
- 238000005457 optimization Methods 0.000 claims abstract description 9
- 238000012360 testing method Methods 0.000 claims abstract description 8
- 238000007781 pre-processing Methods 0.000 claims abstract description 6
- 230000004913 activation Effects 0.000 claims description 23
- 239000011159 matrix material Substances 0.000 claims description 21
- 230000001174 ascending effect Effects 0.000 claims description 3
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000003745 diagnosis Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 206010035664 Pneumonia Diseases 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 206010011409 Cross infection Diseases 0.000 description 1
- 208000019693 Lung disease Diseases 0.000 description 1
- 206010029803 Nosocomial infection Diseases 0.000 description 1
- 241000700605 Viruses Species 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000006116 polymerization reaction Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000010839 reverse transcription Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computational Linguistics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Biology (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种轻量级CNN结合迁移学习的医学图像分类方法,包括:(1)获取医学图像数据集,并对其预处理,包括调整大小,使用高斯模糊和直方图均衡化进行增强处理,之后将预处理后的医学图像数据集按照一定比例划分得到训练集、验证集以及测试集;(2)构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络;(3)将测试集输入重新训练好的MobileNetV2网络,得到分类结果。本发明所述方法提高了分类精度,缩短了MobileNetV2网络的训练时间,并且对于硬件设备的要求不高,适合资源匮乏的地区使用。
Description
技术领域
本发明属于图像处理技术领域,具体涉及一种轻量级CNN结合迁移学习的医学图像分类方法。
背景技术
新冠是一种传染性极强的病毒,同时新冠的诊断是治疗新冠最大的拦路虎。为此,大量的研究人员都在研究能够快速准确诊断新冠的方法。目前,诊断新冠的标准是逆转录聚合链式反应,但是这一方式耗时长、假阳性率高,而且在进行检测的过程中存在医患交叉感染的风险。因此,通过胸部医学影像来诊断新冠就成了一大研究热点,医生们可以通过观察病人的胸部影像来判断病人是否患有新冠肺炎或者其他疾病,但是,由于新冠患者数量的庞大和医疗资源的匮乏,医护人员每天的工作量巨大,难免会导致诊断出现失误;因此,人为检测胸部影像的效率并不高。开发一种能够自动诊断新冠肺炎的方法势在必行。
当下能够自动检测新冠的方法是基于深度学习的方法,具体实现是通过大量胸部影像数据训练神经网络使其具有区分正常胸部影像和新冠肺炎胸部影像的能力,以此达到诊断新冠的目的。而且这些方法不仅能够检测新冠肺炎,还可以检测出其它的肺部疾病。虽然使用神经网络诊断新冠肺炎的效率很高,但是训练网络并且使用训练好的网络进行分类较为耗时而且必须配有昂贵的硬件设备进行加速训练,而这些条件往往是很多地区和医院所不具备的。
发明内容
发明目的:针对现有新冠图像分类技术的缺点,本发明提出一种轻量级CNN结合迁移学习的医学图像分类方法。
技术方案:为实现本发明的目的,本发明所采用的技术方案是:一种轻量级CNN结合迁移学习的医学图像分类方法,具体包括如下步骤:
(1)获取医学图像数据集,并对其预处理,包括调整大小,使用高斯模糊和直方图均衡化进行增强处理,之后将预处理后的医学图像数据集按照一定比例划分得到训练集、验证集以及测试集;
(2)构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络;
(3)将测试集输入重新训练好的MobileNetV2网络,得到分类结果。
进一步地,步骤(1)中对医学图像数据集预处理,包括调整大小,使用高斯模糊和直方图均衡化进行增强处理,方法如下:
(1.1)将医学图像数据集中的每一幅图像调整尺寸大小至224像素*224像素;
(1.2)利用高斯滤波器对调整尺寸后的图像进行高斯模糊处理,方法如下:
(1.21)设置滑动窗口模板,所述窗口模板是一个长宽都为M像素的正方形窗口,设置窗口模板的中心点为坐标原点,进而得到窗口模板中剩余点的坐标;
(1.22)利用二维高斯函数计算窗口模板中每一个点各自对应的二维高斯函数值;其中,二维高斯函数值G(x,y)为:
其中,(x,y)表示窗口模板中的点的坐标;x表示模板中的横坐标,y表示模板中的纵坐标;σ表示高斯半径,可以人为调整;
(1.23)分别计算窗口模板中每个点各自对应的权重,具体为先计算窗口模板中所有点的二维高斯函数值之和,再将每个点的二维高斯函数值除以窗口模板中所有点的二维高斯函数值之和,从而得到窗口模板中每个点各自对应的权重;
(1.24)计算窗口模板中心点的高斯模糊值,具体为先计算窗口模板中每个点的灰度值与自身对应的权重之乘积,再对所有乘积求和,从而得到该窗口模板中心点的高斯模糊值;
(1.25)对调整尺寸后的图像的所有点重复步骤(1.21)-(1.24),得到高斯模糊后的图像;
其中,对于边界点而言,没有达到窗口模板大小,此时将该边界点与该边界点的对称边界点进行拼接,从而得到窗口模板大小;
(1.3)对高斯模糊后的图像进行直方图均衡化处理,得到直方图均衡化后的图像,方法如下:
首先对高斯模糊后的图像统计每一个灰度级所对应的像素个数;其中,nk表示灰度级为k的像素个数,k表示灰度级,k=0,1...,255;
其次对高斯模糊后的图像计算每一个灰度级所对应的灰度分布频率值pk:
pk=nk/N
其中,N表示图像的总像素数;
然后对每一个灰度级统计各自对应的灰度累计分布频率值sk:
其中,i=0表示从灰度级0开始;
最后对高斯模糊后的图像计算每一个灰度级经过直方图均衡化后各自对应的灰度级:
k'=[sk*255+0.5]
式中,k'表示灰度级k经过直方图均衡化后对应的灰度级;
将图像的灰度级k替代为经过直方图均衡化后对应的灰度级k',得到直方图均衡化后的图像。
进一步地,对MobileNetV2网络进行改进,使用ELU激活函数替换MobileNetV2网络中的瓶颈层的ReLu6激活函数;
通过使用ELU激活函数替换原本的瓶颈层中的ReLu6激活函数,得到改进后的瓶颈层结构,所述改进后的瓶颈层结构,依次包括:首先通过1*1卷积、ELU激活函数进行升维,其次通过3*3DW卷积操作、ELU激活函数进行卷积,最后通过1*1的卷积、线性激活函数进行降维;
ReLu6本是MobileNetV2为适应移动端设备而使用的,但在台式电脑中使用易于计算和收敛速度快的ELU激活函数更加合适;而瓶颈层结构的输出是低维特征向量,所以在瓶颈层结构的最后一个卷积层使用线性激活函数避免信息损失;
DW卷积的步长为1和2,为1时存在捷径分支,为2时没有捷径分支;每个卷积核的深度均为1,且只与输入特征矩阵的一个深度进行卷积运算,得到输入特征矩阵对应的输出特征矩阵的深度;其中,卷积核的个数与输入特征矩阵的深度相同,一个卷积核输出一个特征矩阵深度,最后输出特征矩阵的深度等于输入特征矩阵深度;在瓶颈层结构中,DW卷积和PW卷积同时使用,PW卷积是卷积核大小为1卷积;理论上普通卷积计算量是DW+PW卷积的9倍,因此使用DW卷积大大减少了MobileNetV2的计算量;
进一步地,步骤(2)所述构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络,包括:
(2.1)搭建在ImageNet上预训练好的MobileNetV2网络;
(2.2)对MobileNetV2网络的损失函数使用L2正则化进行处理,防止模型过拟合;
(2.3)遍历搭建好的MobileNetV2网络中网络底层的Z个瓶颈层中的全部权重参数,并将所述Z个瓶颈层中的全部权重参数的requires grade的属性设置为False,由此固定所述Z个瓶颈层中的全部权重参数,其中,Z是整数,表示选择的瓶颈层的个数,且0<Z<18;
(2.4)利用贝叶斯优化方法调整MobileNetV2网络中的超参数包括学习率、衰减指数、L2正则化参数、迭代次数,因为不同的超参数会影响网络的分类精确度,所以将网络分类的精确度作为评价指标,选择得到最高精确度的超参数集作为MobileNetV2网络的超参数集,并在此基础上使用训练集训练MobileNetV2网络,利用验证集验证MobileNetV2网络,得到重新训练好的MobileNetV2网络;
在训练过程中,训练每进行一个周期就在验证集上进行验证,保存验证集上准确度最高的MobileNetV2网络作为训练好的MobileNetV2网络。
进一步地,步骤(2.2)所述对MobileNetV2网络的损失函数使用L2正则化进行处理,方法如下:
式中,L表示L2正则化后的MobileNetV2网络的损失函数;Ein是未加入L2正则化项的原始MobileNetV2网络的损失函数;λ是正则化参数;J是L2正则化权值向量w中元素的总个数;wj代表L2正则化权值向量w中第j个元素。
有益效果:与现有技术相比,本发明所述技术方案具有以下有益技术效果:
本发明使用迁移学习的方法并且对MobileNetV2网络进行微调,提高了分类精度,并且缩短了模型的训练时间;对原始图像使用高斯滤波器和直方图均衡化进行图像增强,从而提高MobileNetV2网络分类精度;采用了MobileNetV2网络,参数少,训练快,精度高,并且对于硬件设备的要求不高,很适合资源匮乏地区;使用L2正则化处理MobileNetV2网络的损失函数并且用贝叶斯优化算法来对MobileNetV2网络的超参数进行调整,进一步提高了MobileNetV2网络的性能。
附图说明
图1是一种实施例下的流程框图;
图2是一种实施例下MobileNetV2网络训练中瓶颈模块示意图;
图3是一种实施例下MobileNetV2网络训练中瓶颈模块DW卷积操作示意图。
具体实施方式
下面结合附图和实施例对本发明的技术方案作进一步的说明。
本发明所述的一种轻量级CNN结合迁移学习的医学图像分类方法,参考图1,具体包括如下步骤:
(1)获取医学图像数据集,并对其预处理提高质量,为了统一标准将医学图像数据集中所有图像尺寸调整为224像素*224像素,之后使用高斯模糊和直方图均衡化来进行增强处理,最后根据以往实验经验将处理后的医学图像数据集按照一定比例划分得到训练集、验证集以及测试集;
(2)构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络;
(3)将测试集输入重新训练好的MobileNetV2网络,得到分类结果。
进一步地,步骤(1)中对医学图像数据集使用高斯模糊和直方图均衡化来进行增强处理,方法如下::
(1.1)将医学图像数据集中的每一幅图像调整尺寸大小至224像素*224像素;
(1.2)利用高斯滤波器对调整尺寸后的图像进行高斯模糊处理,方法如下:
(1.21)设置滑动窗口模板大小为3*3,在坐标轴上窗口模板的中心点为坐标原点(0,0),进而得到窗口模板中剩余点的坐标,所述剩余点的坐标具体为(-1,-1)、(0,-1)、(1,-1)、(1,0)、(1,1)、(0,1)、(-1,1)、(-1,0);
(1.22)利用二维高斯函数计算窗口模板中每一个点各自对应的二维高斯函数值;其中,二维高斯函数值G(x,y)为:
其中,(x,y)表示窗口模板中的点的坐标;x表示模板中的横坐标,y表示模板中的纵坐标;σ表示高斯半径,可以人为调整;
(1.23)分别计算窗口模板中每个点各自对应的权重,具体为先计算窗口模板中所有点的二维高斯函数值之和,再将每个点的二维高斯函数值除以窗口模板中所有点的二维高斯函数值之和,从而得到窗口模板中每个点各自对应的权重;
(1.24)计算窗口模板中心点的高斯模糊值,具体为先计算窗口模板中每个点的灰度值与自身对应的权重之乘积,再对所有乘积求和,从而得到该窗口模板中心点的高斯模糊值;
(1.25)对调整尺寸后的图像的所有点重复步骤(1.21)-(1.24),得到高斯模糊后的图像;
其中,对于边界点而言,没有达到窗口模板大小,此时将该边界点与其对侧面的边界点进行拼接,从而得到窗口模板大小;
(1.3)对高斯模糊后的图像进行直方图均衡化处理,得到直方图均衡化后的图像,方法如下:
首先对高斯模糊后的图像统计每一个灰度级所对应的像素个数;其中,nk表示灰度级为k的像素个数,k表示灰度级,k=0,1...,255;
其次对高斯模糊后的图像计算每一个灰度级所对应的灰度分布频率值pk:
pk=nk/N
其中,N表示图像的总像素数;
然后对每一个灰度级统计各自对应的灰度累计分布频率值sk:
其中,i=0表示从灰度级0开始;
最后对高斯模糊后的图像计算每一个灰度级经过直方图均衡化后各自对应的灰度级:
k'=[sk*255+0.5]
式中,k'表示灰度级k经过直方图均衡化后对应的灰度级;
将图像的灰度级k替代为经过直方图均衡化后对应的灰度级k',得到直方图均衡化后的图像。
进一步地,参考图2和图3,对MobileNetV2网络进行改进,使用ELU激活函数替换MobileNetV2网络中的瓶颈层的ReLu6激活函数;
通过使用ELU激活函数替换原本的瓶颈层中的ReLu6激活函数,得到改进后的瓶颈层结构,所述改进后的瓶颈层结构,依次包括:首先通过1*1卷积、ELU激活函数进行升维,其次通过3*3DW卷积操作、ELU激活函数进行卷积,最后通过1*1的卷积、线性激活函数进行降维;
ReLu6本是MobileNetV2为适应移动端设备而使用的,但在台式电脑中使用易于计算和收敛速度快的ELU激活函数更加合适;而瓶颈层结构的输出是低维的特征向量,所以在瓶颈层结构的最后一个卷积层使用线性激活函数避免信息损失;
DW卷积的步长为1和2,为1时存在捷径分支,为2时没有捷径分支;每个卷积核的深度均为1,且只与输入特征矩阵的一个深度进行卷积运算,得到输入特征矩阵对应的输出特征矩阵的深度;其中,卷积核的个数与输入特征矩阵的深度相同,一个卷积核输出一个特征矩阵深度,最后输出特征矩阵的深度等于输入特征矩阵深度;在瓶颈层结构中,DW卷积和PW卷积同时使用,PW卷积是卷积核大小为1卷积;理论上普通卷积计算量是DW+PW卷积的9倍,因此使用DW卷积大大减少了MobileNetV2的计算量;
进一步地,步骤(2)所述构建预训练好的MobileNetV2网络并进行微调,对MobileNetV2网络的损失函数使用L2正则化进行处理,通过贝叶斯优化方法调整MobileNetV2网络中的超参数,之后利用训练集对MobileNetV2网络进行训练,利用验证集对MobileNetV2网络进行验证,得到重新训练好的MobileNetV2网络,包括:
(2.1)搭建在ImageNet上预训练好的MobileNetV2网络;
(2.2)对MobileNetV2网络的损失函数使用L2正则化进行处理,防止模型过拟合;
(2.3)遍历搭建好的MobileNetV2网络中网络底层的Z个瓶颈层中的全部权重参数,并将所述Z个瓶颈层中的全部权重参数的requires grade的属性设置为False,由此固定所述Z个瓶颈层中的全部权重参数,其中,Z是整数,表示选择的瓶颈层的个数,且0<Z<18;
(2.4)利用贝叶斯优化方法调整MobileNetV2网络中的超参数包括学习率、衰减指数、L2正则化参数、迭代次数,因为不同的超参数会影响网络的分类精确度,所以将网络分类的精确度作为评价指标,选择得到最高精确度的超参数集作为MobileNetV2网络的超参数集,并在此基础上使用训练集训练MobileNetV2网络,利用验证集验证MobileNetV2网络,得到重新训练好的MobileNetV2网络;
在训练过程中,训练每进行一个周期就在验证集上进行验证,保存验证集上准确度最高的MobileNetV2网络作为训练好的MobileNetV2网络。
进一步地,步骤(2.2)所述损失函数是通过使用L2正则化方法处理得到的,所述损失函数如下:
式中,L表示L2正则化后的MobileNetV2网络的损失函数;Ein是未加入L2正则化项的原始MobileNetV2网络的损失函数;λ是正则化参数;J是L2正则化权值向量w中元素的总个数;wj代表L2正则化权值向量w中第j个元素。
Claims (1)
1.一种轻量级CNN结合迁移学习的医学图像分类方法,其特征在于,具体包括如下步骤:
步骤(1)获取医学图像数据集,并对其预处理,之后将预处理后的医学图像数据集按照一定比例划分得到训练集、验证集以及测试集;所述预处理包括调整大小,使用高斯模糊和直方图均衡化进行增强处理,具体如下:
(1.1)将医学图像数据集中的每一幅图像调整尺寸大小至224像素*224像素;
(1.2)利用高斯滤波器对调整尺寸后的图像进行高斯模糊处理;
(1.21)设置滑动窗口模板,所述窗口模板是一个长宽都为M像素的正方形窗口,设置窗口模板的中心点为坐标原点,进而得到窗口模板中剩余点的坐标;
(1.22)利用二维高斯函数计算窗口模板中每一个点各自对应的二维高斯函数值;其中,二维高斯函数值G(x,y)为:
其中,(x,y)表示窗口模板中的点的坐标;σ表示高斯半径;
(1.23)分别计算窗口模板中每个点各自对应的权重,具体为先计算窗口模板中所有点的二维高斯函数值之和,再将每个点的二维高斯函数值除以窗口模板中所有点的二维高斯函数值之和,得到窗口模板中每个点各自对应的权重;
(1.24)计算窗口模板中心点的高斯模糊值,具体为先计算窗口模板中每个点的灰度值与自身对应的权重之乘积,再对所有乘积求和,得到该窗口模板中心点的高斯模糊值;
(1.25)对调整尺寸后的图像的所有点重复(1.21)-(1.24),得到高斯模糊后的图像;其中,对于边界点而言,没有达到窗口模板大小,此时将该边界点与该边界点的对称边界点进行拼接,得到窗口模板大小;
(1.3)对高斯模糊后的图像进行直方图均衡化处理,得到直方图均衡化后的图像;
首先对高斯模糊后的图像统计每一个灰度级所对应的像素个数;其中,nk表示灰度级为k的像素个数,k表示灰度级,k=0,1...,255;其次对高斯模糊后的图像计算每一个灰度级所对应的灰度分布频率值pk:
pk=nk/N
其中,N表示图像的总像素数;然后对每一个灰度级统计各自对应的灰度累计分布频率值sk:
其中,i=0表示从灰度级0开始;最后对高斯模糊后的图像计算每一个灰度级经过直方图均衡化后各自对应的灰度级:
k'=[sk*255+0.5]
式中,k'表示灰度级k经过直方图均衡化后对应的灰度级;将图像的灰度级k替代为经过直方图均衡化后对应的灰度级k',得到直方图均衡化后的图像;
步骤(2)搭建在ImageNet上预训练好的MobileNetV2网络;对MobileNetV2网络的损失函数使用L2正则化进行处理;
遍历MobileNetV2网络中底层的Z个瓶颈层中的全部权重参数,并将所述Z个瓶颈层中的全部权重参数的requires grade的属性设置为False,固定所述Z个瓶颈层中的全部权重参数,其中,0<Z<18;
对MobileNetV2网络进行改进,使用ELU激活函数替换MobileNetV2网络中的瓶颈层的ReLu6激活函数,得到改进后的瓶颈层结构;
改进后的瓶颈层结构依次包括:首先通过1*1卷积、ELU激活函数进行升维,其次通过3*3DW卷积操作、ELU激活函数进行卷积,最后通过1*1的卷积、线性激活函数进行降维;
DW卷积的步长为1和2,为1时存在捷径分支,为2时没有捷径分支;每个卷积核的深度均为1,且只与输入特征矩阵的一个深度进行卷积运算,得到输入特征矩阵对应的输出特征矩阵的深度;
其中,卷积核的个数与输入特征矩阵的深度相同,一个卷积核输出一个特征矩阵深度,最后输出特征矩阵的深度等于输入特征矩阵深度;
利用贝叶斯优化方法调整MobileNetV2网络中的超参数,所述超参数包括学习率、衰减指数、L2正则化参数和迭代次数中的至少一个;
以网络分类的精确度作为评价指标,选择精确度最高的超参数作为MobileNetV2网络的超参数;
使用训练集训练MobileNetV2网络,利用验证集验证MobileNetV2网络,得到重新训练好的MobileNetV2网络;
在训练过程中,训练每进行一个周期就在验证集上进行验证,保存验证集上准确度最高的MobileNetV2网络作为训练好的MobileNetV2网络;
步骤(3)将测试集输入重新训练好的MobileNetV2网络,得到分类结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691248.7A CN113361623B (zh) | 2021-06-22 | 2021-06-22 | 一种轻量级cnn结合迁移学习的医学图像分类方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110691248.7A CN113361623B (zh) | 2021-06-22 | 2021-06-22 | 一种轻量级cnn结合迁移学习的医学图像分类方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113361623A CN113361623A (zh) | 2021-09-07 |
CN113361623B true CN113361623B (zh) | 2024-05-14 |
Family
ID=77535683
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110691248.7A Active CN113361623B (zh) | 2021-06-22 | 2021-06-22 | 一种轻量级cnn结合迁移学习的医学图像分类方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113361623B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114067092B (zh) * | 2022-01-17 | 2022-04-19 | 山东药品食品职业学院 | 一种基于DenseNet和lightGBM的脂肪肝B超图像分类方法 |
CN114782931B (zh) * | 2022-04-22 | 2023-09-29 | 电子科技大学 | 改进MobileNetv2网络的驾驶行为分类方法 |
CN116310483A (zh) * | 2022-12-06 | 2023-06-23 | 河北玖嘉医药科技有限公司 | 基于MobileNetV2网络的肺癌病理识别分类方法 |
CN116681619A (zh) * | 2023-06-14 | 2023-09-01 | 常州市宏发纵横新材料科技股份有限公司 | 一种图像增强方法、装置、计算机设备及存储介质 |
CN116596753B (zh) * | 2023-07-20 | 2024-02-02 | 哈尔滨工程大学三亚南海创新发展基地 | 一种基于风格迁移网络的声学图像数据集扩充方法和系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108648191A (zh) * | 2018-05-17 | 2018-10-12 | 吉林大学 | 基于贝叶斯宽度残差神经网络的害虫图像识别方法 |
CN111062282A (zh) * | 2019-12-05 | 2020-04-24 | 武汉科技大学 | 基于改进yolov3模型的变电站指针式仪表识别方法 |
CN111524112A (zh) * | 2020-04-17 | 2020-08-11 | 中冶赛迪重庆信息技术有限公司 | 追钢识别方法、系统、设备及介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11816709B2 (en) * | 2018-12-28 | 2023-11-14 | Pied Parker, Inc. | Image-based parking recognition and navigation |
-
2021
- 2021-06-22 CN CN202110691248.7A patent/CN113361623B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108648191A (zh) * | 2018-05-17 | 2018-10-12 | 吉林大学 | 基于贝叶斯宽度残差神经网络的害虫图像识别方法 |
CN111062282A (zh) * | 2019-12-05 | 2020-04-24 | 武汉科技大学 | 基于改进yolov3模型的变电站指针式仪表识别方法 |
CN111524112A (zh) * | 2020-04-17 | 2020-08-11 | 中冶赛迪重庆信息技术有限公司 | 追钢识别方法、系统、设备及介质 |
Non-Patent Citations (8)
Title |
---|
Lightweight Convolutional Neural Networks for Vehicle Target Recognition;Wang, JT 等;《IEEE 5th International Conference on Intelligent Transportation Engineering (ICITE)》;20210422;245-248 * |
MobileNetV2: Inverted Residuals and Linear Bottlenecks;Mark Sandler 等;《arXiv:1801.04381》;20190321;1-14 * |
Rice Diseases Detection and Classification Using Attention Based Neural Network and Bayesian Optimization;Wang Yibin 等;《Expert Systems with Applications》;第178卷;1-11 * |
乔梦雨 等.面向陆战场目标识别的轻量级卷积神经网络.《计算机科学》.2019,(第05期),161-165. * |
基于卷积神经网络的肝硬化识别;刘梦伦;《中国优秀硕士学位论文全文数据库医药卫生科技辑》(第01期);E064-138 * |
基于深度残差网络的番茄叶片病害识别方法;吴华瑞;《智慧农业》(第04期);42-49 * |
枸杞病虫害识别方法的研究与设计;苏虹;《中国优秀硕士学位论文全文数据库农业科技辑》;20200215(第02期);D046-137 * |
面向陆战场目标识别的轻量级卷积神经网络;乔梦雨 等;《计算机科学》(第05期);161-165 * |
Also Published As
Publication number | Publication date |
---|---|
CN113361623A (zh) | 2021-09-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113361623B (zh) | 一种轻量级cnn结合迁移学习的医学图像分类方法 | |
Zhang et al. | A Lightweight CNN Based on Transfer Learning for COVID-19 Diagnosis. | |
CN107316307B (zh) | 一种基于深度卷积神经网络的中医舌图像自动分割方法 | |
WO2022160771A1 (zh) | 基于自适应多尺度特征提取模型的高光谱图像分类方法 | |
CN112132817B (zh) | 一种混合注意力机制的眼底图像视网膜血管分割方法 | |
CN110675411B (zh) | 基于深度学习的宫颈鳞状上皮内病变识别算法 | |
CN110992351B (zh) | 基于多输入卷积神经网络的sMRI图像分类方法和装置 | |
CN111242063B (zh) | 基于迁移学习的小样本分类模型构造方法及虹膜分类应用 | |
CN111242865A (zh) | 基于生成式对抗网络的眼底图像增强方法 | |
CN111523483B (zh) | 中餐菜品图像识别方法及装置 | |
CN110930378A (zh) | 基于低数据需求的肺气肿影像处理方法及系统 | |
Hasan et al. | A combined approach using image processing and deep learning to detect pneumonia from chest X-ray image | |
CN113782184A (zh) | 一种基于面部关键点与特征预学习的脑卒中辅助评估系统 | |
CN114648806A (zh) | 一种多机制自适应的眼底图像分割方法 | |
Jin et al. | Defect identification of adhesive structure based on DCGAN and YOLOv5 | |
CN110287759B (zh) | 一种基于简化输入卷积神经网络o-cnn的眼部疲劳检测方法 | |
CN116152194A (zh) | 一种物体缺陷检测方法、系统、设备及介质 | |
CN115330600A (zh) | 一种基于改进srgan的肺部ct图像超分辨率方法 | |
CN113034473A (zh) | 基于Tiny-YOLOv3的肺炎图像目标检测方法 | |
CN112488125A (zh) | 一种基于高速视觉诊断和bp神经网络的重建方法及系统 | |
Ajam et al. | Convolutional neural network in the classification of COVID-19 | |
CN111932486A (zh) | 一种基于3d卷积神经网络的脑胶质瘤分割方法 | |
CN116452910B (zh) | 基于图神经网络的scRNA-seq数据特征表示和细胞类型识别方法 | |
Wu et al. | Multi-scale Attention Net for Retina Blood Vessel Segmentation | |
CN117617888B (zh) | 一种近视屈光度的预测系统及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |