CN115760777B - 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 - Google Patents
基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 Download PDFInfo
- Publication number
- CN115760777B CN115760777B CN202211456728.6A CN202211456728A CN115760777B CN 115760777 B CN115760777 B CN 115760777B CN 202211456728 A CN202211456728 A CN 202211456728A CN 115760777 B CN115760777 B CN 115760777B
- Authority
- CN
- China
- Prior art keywords
- neural network
- model
- layer
- convolution layer
- parameters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 56
- 208000001204 Hashimoto Disease Diseases 0.000 title claims abstract description 52
- 208000030836 Hashimoto thyroiditis Diseases 0.000 title claims abstract description 52
- 238000003745 diagnosis Methods 0.000 title abstract description 25
- 238000012549 training Methods 0.000 claims abstract description 43
- 238000012360 testing method Methods 0.000 claims abstract description 34
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000012795 verification Methods 0.000 claims abstract description 15
- 238000003062 neural network model Methods 0.000 claims abstract description 12
- 238000011156 evaluation Methods 0.000 claims abstract description 11
- 238000002372 labelling Methods 0.000 claims abstract description 5
- 230000004913 activation Effects 0.000 claims description 29
- 230000006870 function Effects 0.000 claims description 25
- 238000010606 normalization Methods 0.000 claims description 16
- 206010043778 thyroiditis Diseases 0.000 claims description 14
- 230000003321 amplification Effects 0.000 claims description 12
- 238000000605 extraction Methods 0.000 claims description 12
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 12
- 238000002604 ultrasonography Methods 0.000 claims description 10
- 238000013145 classification model Methods 0.000 claims description 7
- 238000011176 pooling Methods 0.000 claims description 5
- 238000010200 validation analysis Methods 0.000 claims description 4
- 238000013519 translation Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 abstract description 4
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 238000010191 image analysis Methods 0.000 abstract description 2
- 210000001685 thyroid gland Anatomy 0.000 description 12
- 201000010099 disease Diseases 0.000 description 10
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 10
- 210000004027 cell Anatomy 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 6
- 238000004590 computer program Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000003759 clinical diagnosis Methods 0.000 description 2
- 238000004195 computer-aided diagnosis Methods 0.000 description 2
- 230000006378 damage Effects 0.000 description 2
- 230000003325 follicular Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 208000024891 symptom Diseases 0.000 description 2
- 206010016654 Fibrosis Diseases 0.000 description 1
- 208000009453 Thyroid Nodule Diseases 0.000 description 1
- AUYYCJSJGJYCDS-LBPRGKRZSA-N Thyrolar Chemical class IC1=CC(C[C@H](N)C(O)=O)=CC(I)=C1OC1=CC=C(O)C(I)=C1 AUYYCJSJGJYCDS-LBPRGKRZSA-N 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000001363 autoimmune Effects 0.000 description 1
- 230000005784 autoimmunity Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 208000037976 chronic inflammation Diseases 0.000 description 1
- 230000006020 chronic inflammation Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007850 degeneration Effects 0.000 description 1
- 238000002405 diagnostic procedure Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000004761 fibrosis Effects 0.000 description 1
- 230000002068 genetic effect Effects 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 208000003532 hypothyroidism Diseases 0.000 description 1
- 230000002989 hypothyroidism Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000008595 infiltration Effects 0.000 description 1
- 238000001764 infiltration Methods 0.000 description 1
- 210000001165 lymph node Anatomy 0.000 description 1
- 210000004698 lymphocyte Anatomy 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 230000003340 mental effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000007170 pathology Effects 0.000 description 1
- 230000000149 penetrating effect Effects 0.000 description 1
- 210000004180 plasmocyte Anatomy 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000008961 swelling Effects 0.000 description 1
- 239000005495 thyroid hormone Substances 0.000 description 1
- 229940036555 thyroid hormone Drugs 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation
Landscapes
- Ultra Sonic Daignosis Equipment (AREA)
Abstract
本发明属于人工智能及超声图像分析领域，涉及基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，包括：图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；神经网络结构搜索模块，用于利用主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最优神经网络结构。本发明实现神经网络结构的自动搭建，并对超声图像上的桥本氏甲状腺炎快速准确诊断。
Description
技术领域
本发明属于人工智能及超声图像分析领域，特别涉及基于神经网络结构搜索的桥本氏甲状腺炎诊断系统。
背景技术
桥本氏甲状腺炎在临床上又被称为慢性淋巴细胞性甲状腺炎，是一种常见的甲状腺炎类型，被认为是一种和自身免疫相关的疾病，常合并甲状腺结节，其病理特点是淋巴细胞和浆细胞广泛浸润到甲状腺内部组织，淋巴滤泡形成，甲状腺滤泡细胞变性和破坏，至晚期形成纤维化。该疾病在1912年被日本外科医生Hashimoto首次发现并报告。据统计，目前桥本氏甲状腺炎的全球发病率为每年千分之一左右，相关资料提示近年来，该病的发病率有上升趋势。在发病率上女性显著高于男性，男女比例约为1：5-20，好发年龄为30-50岁，导致该疾病的重要因素有遗传、环境、自身免疫和精神等因素。由于桥本氏甲状腺炎的临床表现多种多样，起病隐匿，病情发展缓慢，病程较长，早期可无明显症状，漏诊率较高。随着病情的发展，受到攻击的甲状腺滤泡细胞逐渐被破坏而引起甲状腺的慢性炎症并逐渐肿大，导致甲状腺功能减退，血液中的甲状腺激素含量减少，不能满足机体的需要，从而出现相关的症状，对患者的身体健康造成严重危害。因此，尽早准确诊断出该疾病并进行治疗，对提高患者的生活质量有着非常重要的意义。
基于超声成像技术的甲状腺超声检查是临床诊断中常见的一种辅助检查方式，其具有无辐射，无创伤，重复性强和经济快捷等优势。桥本氏甲状腺炎在超声图像上具有特征性表现，应用超声检查可直观地观察到甲状腺及其周围淋巴结的情况，有助于降低该病的漏诊率和误诊率，同时超声图像可以帮助医生更具体的了解病情，从而制定出科学合理的治疗方案。然而，医生对甲状腺超声图像的诊断结果往往受到超声设备的成像质量、显示清晰度等因素的影响，同时，不同的判断方法和评估标准可能导致不同医生对同一张甲状腺超声图像给出不同的诊断结果，这在一定程度上影响了对桥本氏甲状腺炎诊断的准确性。
由于计算机技术的发展以及医学图像处理技术的日渐成熟，计算机辅助诊断逐步渗入到医学领域。使用计算机技术来辅助临床诊断，可显著提高诊断准确率，减少漏诊，提高工作效率。近年来随着人工智能与大数据技术的快速发展，卷积神经网络在医学影像诊断上取得的成就证明了它的有效性，通过神经网络模型对医学影像进行辅助分析可以大幅减轻医生的工作负担，减少成像设备差异性、医生经验水平等因素对诊断结果的影响，从而提高诊断准确率。目前，利用深度学习技术对超声图像上桥本氏甲状腺炎进行计算机辅助诊断的相关研究较少，大多数都是基于传统的图像处理以及机器学习方法，现有方法普遍存在准确率低，鲁棒性差，诊断过程费时费力等缺点。
发明内容
针对现有的在甲状腺超声图像上对桥本氏甲状腺炎诊断困难，对相关医生的技能要求高，基层医院或相关医疗机构无法筛查，同时传统的卷积神经网络搭建需要依靠大量专家经验的问题，本发明提供一种基于神经网络结构搜索的甲状腺超声图像桥本氏甲状腺炎诊断系统，实现神经网络结构的自动搭建，并对超声图像上的桥本氏甲状腺炎快速准确诊断，以降低桥本氏甲状腺炎超声图像诊断的专业难度，促进桥本氏甲状腺炎在基层及社区医院的早筛。
基于神经网络结构搜索的桥本氏甲状腺炎诊断系统包括：
图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；
神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；
神经网络结构搜索模块，用于将主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；
模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最终神经网络结构。
优选的，所述图像数据获取模块包括分类单元；
所述分类单元用于将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别；
所述分类单元还将超声图像数据集分为训练集、验证集和测试集。
优选的，所述输入单元包括图像尺寸调整层和标准化层；
所述图像调整层的参数Input-size有多种可选取值，超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；
所述标准化层接收该处理后的超声图像，将像素值归一化到[0,1]之间。
进一步的，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
其中为归一化后的输出数据，/>为需要归一化的输入数据；/>和/>分别为批数据的均值与方差；/>和/>分别为模型可学习的缩放与平移参数，初始值分别设置为1和0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数设有三种可选取值，分别设置为0、0.1和0.2，当/>时，即为Relu激活函数；具体公式为：
其中表示激活函数的输出，/>表示输入。
优选的，所述堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积层G和拼接层A组成一个可重复特征提取块；
卷积层E、卷积层F和卷积层G的卷积核尺寸分别为、/>和/>；
参数表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元一中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16。
在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化层A组成一个可重复特征提取块；
在中，除卷积层P的激活操作使用sigmoid激活函数以外，其他卷积层使用Leaky Relu激活函数；
符号表示特征图相乘；⊕符号表示特征图相加；参数/>表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元二中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16。
优选的，在输出单元中，分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
优选的，在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸。
作为一种优选方案，所述神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸、激活函数的负值斜率/>、/>卷积层的通道扩增倍数/>、/>重复堆叠次数/>、卷积层的通道扩增倍数/>和/>重复堆叠次数/>，由这些参数的取值范围构成了本系统的搜索空间；
S2训练方法：
S2-1: 以参数、/>、/>、/>、/>和/>组成的网络做为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多1500轮次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权重，记为最优模型；
S2-2: 固定参数和/>，其他参数在其取值范围内随机取值，通过选取的参数构成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集上验证网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并保存；
S2-3: 重复步骤Step2十五次，搜索最优的、/>、/>和/>模型参数组合；
S2-4: 在采用最优、/>、/>和/>参数组合的基础上，在堆叠单元一中随机增加/>的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加/>的数量，该模块最大可重复数量为16；新增加/>的权重值采用随机初始化，其他权重值采用当前最优模型训练完成的对应权重值；
S2-5: 参照Step2训练每一组和/>参数构成的新网络模型，同时重复设置/>和参数二十次，搜索最优网络模型的/>和/>参数组合。
进一步的，模型搜索训练完成之后，所述模型测试模块在测试集上测试保存的所有最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
本发明的另一目的是提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
本发明的再一目的是提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
本发明的有益效果为：
本发明基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，包括三个方面，首先建立桥本氏甲状腺炎超声图像数据集，并将数据集划分为训练集、验证集和测试集。其次搭建神经网络主体结构，主体结构中待确定模块和参数构成本方法的搜索空间。接着设置搜索方法，并设置结构评估方式，再利用训练集和验证集数据训练搜索空间中的各个神经网络模型。最后在测试集上进行测试，根据评价指标得到最终神经网络结构。该最终神经网络结构即为桥本氏甲状腺炎诊断方法的模型结构。
本发明采用基于卷积神经网络方式实现对甲状腺超声图像上的桥本氏甲状腺炎快速准确诊断。相比于现有神经网络模型，利用该系统得到的模型拥有精确度高、泛化性能好的优点。
本发明采用基于神经网络结构搜索的方法来构建最终的网络模型，可以减少人为参与；获得的最终模型对桥本氏甲状腺炎的诊断有较高准确率，对临床辅助诊断有重要意义，尤其适用于缺少甲状腺专科的基层医院。
本发明从临床出发，建立的高质量桥本氏甲状腺炎超声数据集，为桥本氏甲状腺炎的神经网络模型训练提供可能。
附图说明
附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：
图1是本发明的神经网络主体结构示意图；
图2是本发明的输入单元的结构示意图；
图3是本发明的堆叠单元一的工作原理示意图；
图4是本发明的堆叠单元二的工作原理示意图；
图5是本发明的输出单元的结构示意图。
具体实施方式
如图1至图5所示，基于神经网络结构搜索的桥本氏甲状腺炎诊断系统包括图像数据获取模块、神经网络搭建模块、神经网络结构搜索模块和模型测试模块。
其中，图像数据获取模块用于对桥本氏甲状腺炎超声图像数据收集并分类标注。请参考图1，神经网络搭建模块用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元。神经网络结构搜索模块用于将主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型。模型测试模块用于在测试集上测试所有的最优神经网络模型，根据评价指标得到最终神经网络结构。
图像数据获取模块包括分类单元，用于将超声图像分类别；分类单元还将超声图像数据集分为训练集、验证集和测试集。
具体地，桥本氏甲状腺炎超声图像数据集收集和标注的方法为：
S1-1：分类单元通过医院收集甲状腺超声图像，并根据病理报告将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别，即对数据集进行分类标注。
S1-2：将数据集划分为训练集、验证集和测试集。
搭建神经网络主体结构的方法如下：
首先，请参考图2，神经网络搭建模块的输入单元包括图像调整层和标准化层。图像调整层的参数Input-size有四种可选取值，分别设置为448、512、672和896。超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；随后标准化层接收该处理后的超声图像，将像素值归一化到[0,1]之间。
其次，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
其中为归一化后的输出数据，/>为需要归一化的输入数据；/>和/>分别为批数据的均值与方差；/>和/>分别为模型可学习的缩放与平移参数，初始值分别设置为1和0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数设有三种可选取值，分别设置为0、0.1和0.2，当/>时，即为Relu激活函数；具体公式为：
其中表示激活函数的输出，/>表示输入。
第三，请参考图3，在堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积层G和拼接层A组成一个可重复特征提取块。卷积层E、卷积层F和卷积层G的卷积核尺寸分别为/>、/>和/>。参数/>表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元一中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16。
第四，请参考图4，在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化层A组成一个可重复特征提取块。在/>中，除卷积层P的激活操作使用sigmoid激活函数以外，其他卷积层使用Leaky Relu激活函数。/>符号表示特征图相乘；⊕符号表示特征图相加；参数/>表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元二中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16。
第五，请参考图5，在输出单元中，池化层B用来降低维度，全连接层用来做线性变换，输出列向量，为后面的分类层做准备。池化层和全连接层都是公知技术，因此不再赘述。分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
第六，在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸。
具体地，神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸、激活函数的负值斜率/>、/>卷积层的通道扩增倍数/>、/>重复堆叠次数/>、卷积层的通道扩增倍数/>和/>重复堆叠次数/>，由这些参数的取值范围构成了本系统的搜索空间；
S2训练方法：
S2-1: 以参数、/>、/>、/>、/>和/>组成的网络做为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多1500轮次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权重，记为最优模型；
S2-2: 固定参数和/>，其他参数在其取值范围内随机取值，通过选取的参数构成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集上验证网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并保存；
S2-3: 重复步骤S2-2十五次，搜索最优的、/>、/>和/>模型参数组合；
S2-4: 在采用最优、/>、/>和/>参数组合的基础上，在堆叠单元一中随机增加/>的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加/>的数量，该模块最大可重复数量为16；新增加/>的权重值采用随机初始化，其他权重值采用当前最优模型训练完成的对应权重值；
S2-5: 参照S2-2训练每一组和/>参数构成的新网络模型，同时重复设置/>和/>参数二十次，搜索最优网络模型的/>和/>参数组合。
在模型搜索训练完成之后，模型测试模块在测试集上测试所有保存的最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
上述基于神经网络结构搜索的桥本氏甲状腺炎诊断系统的诊断方法包括以下步骤：
a.图像数据获取模块对桥本氏甲状腺炎超声图像数据进行收集和标注；
b.神经网络搭建模块搭建神经网络主体结构，神经网络主体结构包括输入单元、堆叠单元一、堆叠单元二和输出单元；
c.神经网络结构搜索模块执行神经网络结构搜索步骤；
d.模型测试模块执行模型测试步骤，得到最适合模型即为最终的桥本氏甲状腺炎分类模型，利用该模型即可对待诊断的甲状腺超声图像进行诊断。
采用基于神经网络结构搜索的方法来构建最终的网络模型，可以减少人为参与；获得的最终模型对桥本氏甲状腺炎的诊断有较高准确率，对临床辅助诊断有重要意义，尤其适用于缺少甲状腺专科的基层医院。
实施例2
本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
实施例3
本实施例提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现上述基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读存储介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (6)
1.一种基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，其特征在于，包括：
图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；
神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；
神经网络结构搜索模块，用于利用主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；
模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最优神经网络结构；
在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸；
所述堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积层G和拼接层A组成一个可重复特征提取块；
卷积层E、卷积层F和卷积层G的卷积核尺寸分别为、/>和/>；
在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化层A组成一个可重复特征提取块；
在中，除卷积层P的激活操作使用sigmoid激活函数以外，其他卷积层使用Leaky Relu激活函数；
所述神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸、激活函数的负值斜率/>、/>卷积层的通道扩增倍数/>、/>重复堆叠次数/>、/>卷积层的通道扩增倍数/>和/>重复堆叠次数/>，由这些参数的取值范围构成了本系统的搜索空间；
参数表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元一中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16；
参数表示在/>中，各个卷积层的通道扩增倍数；参数/>表示在堆叠单元二中，特征提取块/>重复堆叠的次数；/>有三种可选取值，分别设置为1、2和3；/>有十六种可选取值，分别设置为1至16；
S2训练方法：
S2-1: 以参数、/>、/>、/>、/>和 />组成的网络做为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多1500轮次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权重，记为最优模型；
S2-2: 固定参数和/>，其他参数在其取值范围内随机取值，通过选取的参数构成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集上验证网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并保存；
S2-3: 重复步骤S2-2十五次，搜索最优的、/>、/>和/>模型参数组合；
S2-4: 在采用最优、/>、/>和/>参数组合的基础上，在堆叠单元一中随机增加/>的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加/>的数量，该模块最大可重复数量为16；新增加/>的权重值采用随机初始化，其他权重值采用当前最优模型训练完成的对应权重值；
S2-5: 参照S2-2训练每一组和/>参数构成的新网络模型，同时重复设置/>和/>参数二十次，搜索最优网络模型的/>和/>参数组合。
2.根据权利要求1所述的诊断系统，其特征在于，所述图像数据获取模块包括分类单元；
所述分类单元用于将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别；
所述分类单元还将超声图像数据集分为训练集、验证集和测试集。
3.根据权利要求1所述的诊断系统，其特征在于，所述输入单元包括图像调整层和标准化层；
所述图像调整层的参数Input-size有多种可选取值，超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；
所述标准化层接收处理后的超声图像，将像素值归一化到[0,1]之间。
4.根据权利要求1所述的诊断系统，其特征在于，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
其中为归一化后的输出数据，/>为需要归一化的输入数据；/>和/>分别为批数据的均值与方差；/>和/>分别为模型可学习的缩放与平移参数，初始值分别设置为1和0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数设有三种可选取值，分别设置为0、0.1和0.2，当/>时，即为Relu激活函数；具体公式为：
其中表示激活函数的输出，/>表示输入。
5.根据权利要求4所述的诊断系统，其特征在于：在输出单元中，分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
6.根据权利要求1所述的诊断系统，其特征在于：模型搜索训练完成之后，所述模型测试模块在测试集上测试所有保存的最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211456728.6A CN115760777B (zh) | 2022-11-21 | 2022-11-21 | 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211456728.6A CN115760777B (zh) | 2022-11-21 | 2022-11-21 | 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115760777A CN115760777A (zh) | 2023-03-07 |
| CN115760777B true CN115760777B (zh) | 2024-04-30 |
Family
ID=85333634
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211456728.6A Active CN115760777B (zh) | 2022-11-21 | 2022-11-21 | 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115760777B (zh) |
Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108564026A (zh) * | 2018-04-10 | 2018-09-21 | 复旦大学附属肿瘤医院 | 用于甲状腺肿瘤细胞学涂片图像分类的网络构建方法及系统 |
| CN111126564A (zh) * | 2019-11-27 | 2020-05-08 | 东软集团股份有限公司 | 一种神经网络结构搜索方法、装置及设备 |
| CN111833310A (zh) * | 2020-06-17 | 2020-10-27 | 桂林理工大学 | 一种基于神经网络架构搜索的表面缺陷分类方法 |
| CN112069370A (zh) * | 2019-06-11 | 2020-12-11 | 北京地平线机器人技术研发有限公司 | 神经网络结构搜索方法、装置、介质和设备 |
| CN112215332A (zh) * | 2019-07-12 | 2021-01-12 | 华为技术有限公司 | 神经网络结构的搜索方法、图像处理方法和装置 |
| CN112464579A (zh) * | 2021-02-02 | 2021-03-09 | 四川大学 | 基于进化神经网络结构搜索食管癌病变区域识别建模方法 |
| WO2021119875A1 (zh) * | 2019-12-15 | 2021-06-24 | 中国科学院深圳先进技术研究院 | 基于神经网络结构搜索的磁共振快速成像方法和装置 |
| CN113344174A (zh) * | 2021-04-20 | 2021-09-03 | 湖南大学 | 基于概率分布的高效神经网络结构搜索方法 |
| WO2022037696A1 (zh) * | 2020-08-21 | 2022-02-24 | 张逸凌 | 基于深度学习的骨骼分割方法和系统 |
| CN114202669A (zh) * | 2020-09-16 | 2022-03-18 | 香港大学深圳研究院 | 一种用于医疗图像分割的神经网络搜索方法 |
| CN114391827A (zh) * | 2022-01-06 | 2022-04-26 | 普昶钦 | 一种基于卷积神经网络的院前肺气肿诊断装置 |
| CN114758191A (zh) * | 2022-04-15 | 2022-07-15 | 浪潮(北京)电子信息产业有限公司 | 一种图像识别方法、装置及电子设备和存储介质 |
| WO2022222020A1 (zh) * | 2021-04-20 | 2022-10-27 | 中国科学院深圳先进技术研究院 | 一种用于流量分类的神经网络架构自动搜索方法及装置 |
-
2022
- 2022-11-21 CN CN202211456728.6A patent/CN115760777B/zh active Active
Patent Citations (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108564026A (zh) * | 2018-04-10 | 2018-09-21 | 复旦大学附属肿瘤医院 | 用于甲状腺肿瘤细胞学涂片图像分类的网络构建方法及系统 |
| CN112069370A (zh) * | 2019-06-11 | 2020-12-11 | 北京地平线机器人技术研发有限公司 | 神经网络结构搜索方法、装置、介质和设备 |
| CN112215332A (zh) * | 2019-07-12 | 2021-01-12 | 华为技术有限公司 | 神经网络结构的搜索方法、图像处理方法和装置 |
| CN111126564A (zh) * | 2019-11-27 | 2020-05-08 | 东软集团股份有限公司 | 一种神经网络结构搜索方法、装置及设备 |
| WO2021119875A1 (zh) * | 2019-12-15 | 2021-06-24 | 中国科学院深圳先进技术研究院 | 基于神经网络结构搜索的磁共振快速成像方法和装置 |
| CN111833310A (zh) * | 2020-06-17 | 2020-10-27 | 桂林理工大学 | 一种基于神经网络架构搜索的表面缺陷分类方法 |
| WO2022037696A1 (zh) * | 2020-08-21 | 2022-02-24 | 张逸凌 | 基于深度学习的骨骼分割方法和系统 |
| CN114202669A (zh) * | 2020-09-16 | 2022-03-18 | 香港大学深圳研究院 | 一种用于医疗图像分割的神经网络搜索方法 |
| CN112464579A (zh) * | 2021-02-02 | 2021-03-09 | 四川大学 | 基于进化神经网络结构搜索食管癌病变区域识别建模方法 |
| CN113344174A (zh) * | 2021-04-20 | 2021-09-03 | 湖南大学 | 基于概率分布的高效神经网络结构搜索方法 |
| WO2022222020A1 (zh) * | 2021-04-20 | 2022-10-27 | 中国科学院深圳先进技术研究院 | 一种用于流量分类的神经网络架构自动搜索方法及装置 |
| CN114391827A (zh) * | 2022-01-06 | 2022-04-26 | 普昶钦 | 一种基于卷积神经网络的院前肺气肿诊断装置 |
| CN114758191A (zh) * | 2022-04-15 | 2022-07-15 | 浪潮(北京)电子信息产业有限公司 | 一种图像识别方法、装置及电子设备和存储介质 |
Non-Patent Citations (2)
| Title |
|---|
| Intelligent tool wear monitoring based on parallel residual and stacked bidirectional long short-term memory network;Xianli Liu等;Journal of Manufacturing Systems;20210724;608-619 * |
| 基于集成卷积神经网络的图像分类研究;宝阿春;中国优秀硕士学位论文全文数据库 信息科技辑;20190915;I138-640 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115760777A (zh) | 2023-03-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Cui et al. | RNN-based longitudinal analysis for diagnosis of Alzheimer’s disease | |
| EP4002271A1 (en) | Image segmentation method and apparatus, and storage medium | |
| CN108717869B (zh) | 基于卷积神经网络的糖尿病视网膜并发症诊断辅助系统 | |
| CN112529894B (zh) | 一种基于深度学习网络的甲状腺结节的诊断方法 | |
| CN109815965B (zh) | 一种图像过滤方法、装置及存储介质 | |
| CN113610859B (zh) | 一种基于超声图像的甲状腺结节自动分割方法 | |
| CN113191390B (zh) | 一种图像分类模型的构建方法、图像分类方法及存储介质 | |
| CN110910377B (zh) | 一种基于神经网络的脑梗死mri图像识别方法 | |
| CN113012163A (zh) | 一种基于多尺度注意力网络的视网膜血管分割方法、设备及存储介质 | |
| Nasir et al. | Deep dr: Detection of diabetic retinopathy using a convolutional neural network | |
| Dipu et al. | Ocular disease detection using advanced neural network based classification algorithms | |
| CN115035127A (zh) | 一种基于生成式对抗网络的视网膜血管分割方法 | |
| CN111275103A (zh) | 多视角信息协作的肾脏良恶性肿瘤分类方法 | |
| CN115760777B (zh) | 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 | |
| Miao et al. | Classification of diabetic retinopathy based on multiscale hybrid attention mechanism and residual algorithm | |
| CN114418999B (zh) | 基于病变关注金字塔卷积神经网络的视网膜病变检测系统 | |
| Li et al. | Leveraging deep learning and xception architecture for high-accuracy mri classification in alzheimer diagnosis | |
| CN116309507A (zh) | 注意力机制下对ctp进行特征融合的ais病灶预测方法 | |
| CN116310535A (zh) | 一种多尺度多区域的甲状腺结节预测方法 | |
| CN113191413B (zh) | 基于中央凹残差网络的前列腺多模mr图像分类方法和系统 | |
| CN113796850A (zh) | 甲状旁腺mibi图像分析系统、计算机设备及存储介质 | |
| Qu et al. | Lightweight Urine Sediment Image Recognition Network Based on Deep Separable Residual Structure | |
| CN114092427B (zh) | 一种基于多序列mri图像的克罗病与肠结核分类方法 | |
| CN115631386B (zh) | 一种基于机器学习的病理图像分类方法和系统 | |
| Gebremariam | Detection Of Diabetic Retinopathy Using Deep Convolutional Neural Network On Mobile Devices |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |