CN115760777A - 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 - Google Patents

基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 Download PDF

Info

Publication number
CN115760777A
CN115760777A CN202211456728.6A CN202211456728A CN115760777A CN 115760777 A CN115760777 A CN 115760777A CN 202211456728 A CN202211456728 A CN 202211456728A CN 115760777 A CN115760777 A CN 115760777A
Authority
CN
China
Prior art keywords
neural network
model
layer
thyroiditis
hashimoto
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211456728.6A
Other languages
English (en)
Other versions
CN115760777B (zh
Inventor
赵星
石一磊
牟立超
张雷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maide Intelligent Technology Wuxi Co ltd
Original Assignee
Maide Intelligent Technology Wuxi Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maide Intelligent Technology Wuxi Co ltd filed Critical Maide Intelligent Technology Wuxi Co ltd
Priority to CN202211456728.6A priority Critical patent/CN115760777B/zh
Publication of CN115760777A publication Critical patent/CN115760777A/zh
Application granted granted Critical
Publication of CN115760777B publication Critical patent/CN115760777B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10—Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Ultra Sonic Daignosis Equipment (AREA)

Abstract

本发明属于人工智能及超声图像分析领域，涉及基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，包括：图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；神经网络结构搜索模块，用于利用主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最优神经网络结构。本发明实现神经网络结构的自动搭建，并对超声图像上的桥本氏甲状腺炎快速准确诊断。

Description

基于神经网络结构搜索的桥本氏甲状腺炎诊断系统
技术领域
本发明属于人工智能及超声图像分析领域，特别涉及基于神经网络结构搜索的桥本氏甲状腺炎诊断系统。
背景技术
桥本氏甲状腺炎在临床上又被称为慢性淋巴细胞性甲状腺炎，是一种常见的甲状腺炎类型，被认为是一种和自身免疫相关的疾病，常合并甲状腺结节，其病理特点是淋巴细胞和浆细胞广泛浸润到甲状腺内部组织，淋巴滤泡形成，甲状腺滤泡细胞变性和破坏，至晚期形成纤维化。该疾病在1912年被日本外科医生Hashimoto首次发现并报告。据统计，目前桥本氏甲状腺炎的全球发病率为每年千分之一左右，相关资料提示近年来，该病的发病率有上升趋势。在发病率上女性显著高于男性，男女比例约为1：5-20，好发年龄为30-50岁，导致该疾病的重要因素有遗传、环境、自身免疫和精神等因素。由于桥本氏甲状腺炎的临床表现多种多样，起病隐匿，病情发展缓慢，病程较长，早期可无明显症状，漏诊率较高。随着病情的发展，受到攻击的甲状腺滤泡细胞逐渐被破坏而引起甲状腺的慢性炎症并逐渐肿大，导致甲状腺功能减退，血液中的甲状腺激素含量减少，不能满足机体的需要，从而出现相关的症状，对患者的身体健康造成严重危害。因此，尽早准确诊断出该疾病并进行治疗，对提高患者的生活质量有着非常重要的意义。
基于超声成像技术的甲状腺超声检查是临床诊断中常见的一种辅助检查方式，其具有无辐射，无创伤，重复性强和经济快捷等优势。桥本氏甲状腺炎在超声图像上具有特征性表现，应用超声检查可直观地观察到甲状腺及其周围淋巴结的情况，有助于降低该病的漏诊率和误诊率，同时超声图像可以帮助医生更具体的了解病情，从而制定出科学合理的治疗方案。然而，医生对甲状腺超声图像的诊断结果往往受到超声设备的成像质量、显示清晰度等因素的影响，同时，不同的判断方法和评估标准可能导致不同医生对同一张甲状腺超声图像给出不同的诊断结果，这在一定程度上影响了对桥本氏甲状腺炎诊断的准确性。
由于计算机技术的发展以及医学图像处理技术的日渐成熟，计算机辅助诊断逐步渗入到医学领域。使用计算机技术来辅助临床诊断，可显著提高诊断准确率，减少漏诊，提高工作效率。近年来随着人工智能与大数据技术的快速发展，卷积神经网络在医学影像诊断上取得的成就证明了它的有效性，通过神经网络模型对医学影像进行辅助分析可以大幅减轻医生的工作负担，减少成像设备差异性、医生经验水平等因素对诊断结果的影响，从而提高诊断准确率。目前，利用深度学习技术对超声图像上桥本氏甲状腺炎进行计算机辅助诊断的相关研究较少，大多数都是基于传统的图像处理以及机器学习方法，现有方法普遍存在准确率低，鲁棒性差，诊断过程费时费力等缺点。
发明内容
针对现有的在甲状腺超声图像上对桥本氏甲状腺炎诊断困难，对相关医生的技能要求高，基层医院或相关医疗机构无法筛查，同时传统的卷积神经网络搭建需要依靠大量专家经验的问题，本发明提供一种基于神经网络结构搜索的甲状腺超声图像桥本氏甲状腺炎诊断系统，实现神经网络结构的自动搭建，并对超声图像上的桥本氏甲状腺炎快速准确诊断，以降低桥本氏甲状腺炎超声图像诊断的专业难度，促进桥本氏甲状腺炎在基层及社区医院的早筛。
基于神经网络结构搜索的桥本氏甲状腺炎诊断系统包括：
图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；
神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；
神经网络结构搜索模块，用于将主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；
模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最终神经网络结构。
优选的，所述图像数据获取模块包括分类单元；
所述分类单元用于将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别；
所述分类单元还将超声图像数据集分为训练集、验证集和测试集。
优选的，所述输入单元包括图像尺寸调整层和标准化层；
所述图像调整层的参数Input-size有多种可选取值，超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；
所述标准化层接收该处理后的超声图像，将像素值归一化到[0,1]之间。
进一步的，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
Figure 430396DEST_PATH_IMAGE001
其中
Figure 784017DEST_PATH_IMAGE002
为归一化后的输出数据，
Figure 582209DEST_PATH_IMAGE003
为需要归一化的输入数据；
Figure 63000DEST_PATH_IMAGE004
和
Figure 997458DEST_PATH_IMAGE005
分 别为批数据的均值与方差；
Figure 521980DEST_PATH_IMAGE006
和
Figure 807468DEST_PATH_IMAGE007
分别为模型可学习的缩放与平移参数，初始值分别设置 为1和0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数
Figure 810059DEST_PATH_IMAGE008
设有三种可选取 值，分别设置为0、0.1和0.2，当
Figure 113871DEST_PATH_IMAGE009
时，即为Relu激活函数；具体公式为：
Figure 74873DEST_PATH_IMAGE010
其中
Figure 582078DEST_PATH_IMAGE011
表示激活函数的输出，
Figure 388360DEST_PATH_IMAGE012
表示输入。
优选的，所述堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积层G和拼 接层A组成一个可重复特征提取块
Figure 297410DEST_PATH_IMAGE013
；
卷积层E、卷积层F和卷积层G的卷积核尺寸分别为
Figure 914467DEST_PATH_IMAGE014
、
Figure 908968DEST_PATH_IMAGE015
和
Figure 518941DEST_PATH_IMAGE016
；
参数
Figure 282498DEST_PATH_IMAGE017
表示在
Figure 585303DEST_PATH_IMAGE013
中，各个卷积层的通道扩增倍数；参数
Figure 801521DEST_PATH_IMAGE018
表示在堆叠单元 一中，特征提取块
Figure 458593DEST_PATH_IMAGE013
重复堆叠的次数；
Figure 342235DEST_PATH_IMAGE017
有三种可选取值，分别设置为1、2和3；
Figure 550363DEST_PATH_IMAGE018
有 十六种可选取值，分别设置为1至16。
6.根据权利要求4所述的诊断系统，其特征在于：
在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化层A组成一个可重 复特征提取块
Figure 519456DEST_PATH_IMAGE019
；
在
Figure 221964DEST_PATH_IMAGE019
中，除卷积层P的激活操作使用sigmoid激活函数以外，其他卷积层使 用Leaky Relu激活函数；
⨂符号表示特征图相乘；⊕符号表示特征图相加；参数
Figure 960113DEST_PATH_IMAGE020
表示在
Figure 604720DEST_PATH_IMAGE019
中，各个 卷积层的通道扩增倍数；参数
Figure 61110DEST_PATH_IMAGE021
表示在堆叠单元二中，特征提取块
Figure 550997DEST_PATH_IMAGE019
重复堆叠的次 数；
Figure 878073DEST_PATH_IMAGE020
有三种可选取值，分别设置为1、2和3；
Figure 942850DEST_PATH_IMAGE021
有十六种可选取值，分别设置为1至16。
优选的，在输出单元中，分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
优选的，在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸。
作为一种优选方案，所述神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸
Figure 620956DEST_PATH_IMAGE022
、激活 函数的负值斜率
Figure 180113DEST_PATH_IMAGE008
、
Figure 892854DEST_PATH_IMAGE013
卷积层的通道扩增倍数
Figure 348106DEST_PATH_IMAGE017
、
Figure 529820DEST_PATH_IMAGE013
重复堆叠次数
Figure 627089DEST_PATH_IMAGE018
、
Figure 194337DEST_PATH_IMAGE019
卷积层的通道扩增倍数
Figure 86069DEST_PATH_IMAGE020
和
Figure 738767DEST_PATH_IMAGE019
重复堆叠次数
Figure 888995DEST_PATH_IMAGE021
，由这些参数的取值范围构 成了本系统的搜索空间；
S2训练方法：
S2-1: 以参数
Figure 310749DEST_PATH_IMAGE023
、
Figure 373383DEST_PATH_IMAGE009
、
Figure 247798DEST_PATH_IMAGE024
、
Figure 952449DEST_PATH_IMAGE025
、
Figure 979442DEST_PATH_IMAGE026
和
Figure 478556DEST_PATH_IMAGE027
组成的网 络做为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多 1500轮次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权 重，记为最优模型；
S2-2: 固定参数
Figure 105847DEST_PATH_IMAGE025
和
Figure 83030DEST_PATH_IMAGE027
，其他参数在其取值范围内随机取值，通过选取的 参数构成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集 上验证网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并 保存；
S2-3: 重复步骤Step2十五次，搜索最优的
Figure 479376DEST_PATH_IMAGE022
、
Figure 398660DEST_PATH_IMAGE008
、
Figure 513246DEST_PATH_IMAGE017
和
Figure 28541DEST_PATH_IMAGE020
模型参数组 合；
S2-4: 在采用最优
Figure 544973DEST_PATH_IMAGE022
、
Figure 120311DEST_PATH_IMAGE008
、
Figure 472926DEST_PATH_IMAGE017
和
Figure 791912DEST_PATH_IMAGE020
参数组合的基础上，在堆叠单元一中 随机增加
Figure 162850DEST_PATH_IMAGE013
的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加
Figure 909089DEST_PATH_IMAGE019
的数量，该模块最大可重复数量为16；新增加
Figure 732689DEST_PATH_IMAGE028
的权重值采用随机初始化，其他权重值 采用当前最优模型训练完成的对应权重值；
S2-5: 参照Step2训练每一组
Figure 110493DEST_PATH_IMAGE018
和
Figure 335938DEST_PATH_IMAGE021
参数构成的新网络模型，同时重复设置
Figure 253078DEST_PATH_IMAGE018
和
Figure 829553DEST_PATH_IMAGE021
参数二十次，搜索最优网络模型的
Figure 490341DEST_PATH_IMAGE018
和
Figure 586605DEST_PATH_IMAGE021
参数组合。
进一步的，模型搜索训练完成之后，所述模型测试模块在测试集上测试保存的所有最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
本发明的另一目的是提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
本发明的再一目的是提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
本发明的有益效果为：
本发明基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，包括三个方面，首先建立桥本氏甲状腺炎超声图像数据集，并将数据集划分为训练集、验证集和测试集。其次搭建神经网络主体结构，主体结构中待确定模块和参数构成本方法的搜索空间。接着设置搜索方法，并设置结构评估方式，再利用训练集和验证集数据训练搜索空间中的各个神经网络模型。最后在测试集上进行测试，根据评价指标得到最终神经网络结构。该最终神经网络结构即为桥本氏甲状腺炎诊断方法的模型结构。
本发明采用基于卷积神经网络方式实现对甲状腺超声图像上的桥本氏甲状腺炎快速准确诊断。相比于现有神经网络模型，利用该系统得到的模型拥有精确度高、泛化性能好的优点。
本发明采用基于神经网络结构搜索的方法来构建最终的网络模型，可以减少人为参与；获得的最终模型对桥本氏甲状腺炎的诊断有较高准确率，对临床辅助诊断有重要意义，尤其适用于缺少甲状腺专科的基层医院。
本发明从临床出发，建立的高质量桥本氏甲状腺炎超声数据集，为桥本氏甲状腺炎的神经网络模型训练提供可能。
附图说明
附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：
图1是本发明的神经网络主体结构示意图；
图2是本发明的输入单元的结构示意图；
图3是本发明的堆叠单元一的工作原理示意图；
图4是本发明的堆叠单元二的工作原理示意图；
图5是本发明的输出单元的结构示意图。
具体实施方式
如图1至图5所示，基于神经网络结构搜索的桥本氏甲状腺炎诊断系统包括图像数据获取模块、神经网络搭建模块、神经网络结构搜索模块和模型测试模块。
其中，图像数据获取模块用于对桥本氏甲状腺炎超声图像数据收集并分类标注。请参考图1，神经网络搭建模块用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元。神经网络结构搜索模块用于将主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型。模型测试模块用于在测试集上测试所有的最优神经网络模型，根据评价指标得到最终神经网络结构。
图像数据获取模块包括分类单元，用于将超声图像分类别；分类单元还将超声图像数据集分为训练集、验证集和测试集。
具体地，桥本氏甲状腺炎超声图像数据集收集和标注的方法为：
S1-1：分类单元通过医院收集甲状腺超声图像，并根据病理报告将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别，即对数据集进行分类标注。
S1-2：将数据集划分为训练集、验证集和测试集。
搭建神经网络主体结构的方法如下：
首先，请参考图2，神经网络搭建模块的输入单元包括图像调整层和标准化层。图像调整层的参数Input-size有四种可选取值，分别设置为448、512、672和896。超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；随后标准化层接收该处理后的超声图像，将像素值归一化到[0,1]之间。
其次，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
Figure 940225DEST_PATH_IMAGE001
其中
Figure 738417DEST_PATH_IMAGE002
为归一化后的输出数据，
Figure 202897DEST_PATH_IMAGE003
为需要归一化的输入数据；
Figure 137355DEST_PATH_IMAGE004
和
Figure 911144DEST_PATH_IMAGE005
分 别为批数据的均值与方差；
Figure 196632DEST_PATH_IMAGE006
和
Figure 199223DEST_PATH_IMAGE007
分别为模型可学习的缩放与平移参数，初始值分别设置 为1和0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数
Figure 253767DEST_PATH_IMAGE008
设有三种可选取 值，分别设置为0、0.1和0.2，当
Figure 949190DEST_PATH_IMAGE009
时，即为Relu激活函数；具体公式为：
Figure 207128DEST_PATH_IMAGE010
其中
Figure 13410DEST_PATH_IMAGE011
表示激活函数的输出，
Figure 188039DEST_PATH_IMAGE012
表示输入。
第三，请参考图3，在堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积 层G和拼接层A组成一个可重复特征提取块
Figure 788785DEST_PATH_IMAGE013
。卷积层E、卷积层F和卷积层G的卷积核 尺寸分别为
Figure 48865DEST_PATH_IMAGE014
、
Figure 908105DEST_PATH_IMAGE015
和
Figure 671662DEST_PATH_IMAGE016
。参数
Figure 708888DEST_PATH_IMAGE017
表示在
Figure 190685DEST_PATH_IMAGE013
中，各个卷积层的通道扩增倍数；参 数
Figure 604349DEST_PATH_IMAGE018
表示在堆叠单元一中，特征提取块
Figure 222412DEST_PATH_IMAGE013
重复堆叠的次数；
Figure 446851DEST_PATH_IMAGE017
有三种可选取值，分 别设置为1、2和3；
Figure 150365DEST_PATH_IMAGE018
有十六种可选取值，分别设置为1至16。
第四，请参考图4，在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化 层A组成一个可重复特征提取块
Figure 102140DEST_PATH_IMAGE019
。在
Figure 105868DEST_PATH_IMAGE019
中，除卷积层P的激活操作使用 sigmoid激活函数以外，其他卷积层使用Leaky Relu激活函数。⨂符号表示特征图相乘；⊕ 符号表示特征图相加；参数
Figure 219318DEST_PATH_IMAGE020
表示在
Figure 924975DEST_PATH_IMAGE019
中，各个卷积层的通道扩增倍数；参数
Figure 414862DEST_PATH_IMAGE021
表示 在堆叠单元二中，特征提取块
Figure 7517DEST_PATH_IMAGE019
重复堆叠的次数；
Figure 823026DEST_PATH_IMAGE020
有三种可选取值，分别设置为 1、2和3；
Figure 783023DEST_PATH_IMAGE021
有十六种可选取值，分别设置为1至16。
第五，请参考图5，在输出单元中，池化层B用来降低维度，全连接层用来做线性变换，输出列向量，为后面的分类层做准备。池化层和全连接层都是公知技术，因此不再赘述。分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
第六，在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸。
具体地，神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸
Figure 76601DEST_PATH_IMAGE022
、激活 函数的负值斜率
Figure 789342DEST_PATH_IMAGE008
、
Figure 510174DEST_PATH_IMAGE013
卷积层的通道扩增倍数
Figure 675576DEST_PATH_IMAGE017
、
Figure 39690DEST_PATH_IMAGE013
重复堆叠次数
Figure 606938DEST_PATH_IMAGE018
、
Figure 498671DEST_PATH_IMAGE019
卷积层的通道扩增倍数
Figure 416948DEST_PATH_IMAGE020
和
Figure 786750DEST_PATH_IMAGE019
重复堆叠次数
Figure 208504DEST_PATH_IMAGE021
，由这些参数的取值范围构 成了本系统的搜索空间；
S2训练方法：
S2-1: 以参数
Figure 287449DEST_PATH_IMAGE023
、
Figure 161864DEST_PATH_IMAGE009
、
Figure 866515DEST_PATH_IMAGE024
、
Figure 408355DEST_PATH_IMAGE025
、
Figure 156737DEST_PATH_IMAGE026
和
Figure 518448DEST_PATH_IMAGE027
组成的网 络做为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多 1500轮次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权 重，记为最优模型；
S2-2: 固定参数
Figure 495631DEST_PATH_IMAGE025
和
Figure 157557DEST_PATH_IMAGE027
，其他参数在其取值范围内随机取值，通过选取的 参数构成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集 上验证网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并 保存；
S2-3: 重复步骤S2-2十五次，搜索最优的
Figure 827573DEST_PATH_IMAGE022
、
Figure 427312DEST_PATH_IMAGE008
、
Figure 208187DEST_PATH_IMAGE017
和
Figure 459039DEST_PATH_IMAGE020
模型参数组合；
S2-4: 在采用最优
Figure 34377DEST_PATH_IMAGE022
、
Figure 636260DEST_PATH_IMAGE008
、
Figure 470093DEST_PATH_IMAGE017
和
Figure 575452DEST_PATH_IMAGE020
参数组合的基础上，在堆叠单元一中 随机增加
Figure 587270DEST_PATH_IMAGE013
的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加
Figure 145290DEST_PATH_IMAGE019
的数量，该模块最大可重复数量为16；新增加
Figure 533546DEST_PATH_IMAGE028
的权重值采用随机初始化，其他权重值 采用当前最优模型训练完成的对应权重值；
S2-5: 参照S2-2训练每一组
Figure 509724DEST_PATH_IMAGE018
和
Figure 692443DEST_PATH_IMAGE021
参数构成的新网络模型，同时重复设置
Figure 3339DEST_PATH_IMAGE018
和
Figure 929707DEST_PATH_IMAGE021
参数二十次，搜索最优网络模型的
Figure 744079DEST_PATH_IMAGE018
和
Figure 612547DEST_PATH_IMAGE021
参数组合。
在模型搜索训练完成之后，模型测试模块在测试集上测试所有保存的最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
上述基于神经网络结构搜索的桥本氏甲状腺炎诊断系统的诊断方法包括以下步骤：
a.图像数据获取模块对桥本氏甲状腺炎超声图像数据进行收集和标注；
b.神经网络搭建模块搭建神经网络主体结构，神经网络主体结构包括输入单元、堆叠单元一、堆叠单元二和输出单元；
c.神经网络结构搜索模块执行神经网络结构搜索步骤；
d.模型测试模块执行模型测试步骤，得到最适合模型即为最终的桥本氏甲状腺炎分类模型，利用该模型即可对待诊断的甲状腺超声图像进行诊断。
采用基于神经网络结构搜索的方法来构建最终的网络模型，可以减少人为参与；获得的最终模型对桥本氏甲状腺炎的诊断有较高准确率，对临床辅助诊断有重要意义，尤其适用于缺少甲状腺专科的基层医院。
实施例2
本实施例提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
实施例3
本实施例提供一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序时实现上述基于神经网络结构搜索的桥本氏甲状腺炎的诊断方法。
在此以其他方式描述的逻辑和/或步骤，例如，可以被认为是用于实现逻辑功能的可执行指令的定序列表，可以具体实现在任何计算机可读介质中，以供指令执行系统、装置或设备(如基于计算机的系统、包括处理器的系统或其他可以从指令执行系统、装置或设备取指令并执行指令的系统)使用，或结合这些指令执行系统、装置或设备而使用。就本说明书而言，“计算机可读介质”可以是任何可以包含、存储、通信、传播或传输程序以供指令执行系统、装置或设备或结合这些指令执行系统、装置或设备而使用的装置。
计算机可读存储介质的更具体的示例(非穷尽性列表)包括以下：具有一个或多个布线的电连接部(电子装置)，便携式计算机盘盒(磁装置)，随机存取存储器(RAM)，只读存储器(ROM)，可擦除可编辑只读存储器(EPROM或闪速存储器)，光纤装置，以及便携式光盘只读存储器(CDROM)。另外，计算机可读介质甚至可以是可在其上打印所述程序的纸或其他合适的介质，因为可以例如通过对纸或其他介质进行光学扫描，接着进行编辑、解译或必要时以其他合适方式进行处理来以电子方式获得所述程序，然后将其存储在计算机存储器中。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种基于神经网络结构搜索的桥本氏甲状腺炎诊断系统，其特征在于，包括：
图像数据获取模块，用于对桥本氏甲状腺炎超声图像数据收集并分类标注；
神经网络搭建模块，用于构建神经网络主体结构，包括依次连接的输入单元、堆叠单元一、堆叠单元二和输出单元；
神经网络结构搜索模块，用于利用主体结构中待确定模块和参数构成系统的搜索空间，并设置搜索方法和结构评估方式，再利用训练集和验证集数据训练所述搜索空间中的各个神经网络模型；
模型测试模块，用于在测试集上测试所有的神经网络模型，根据评价指标得到最优神经网络结构。
2.根据权利要求1所述的诊断系统，其特征在于，所述图像数据获取模块包括分类单元；
所述分类单元用于将超声图像分为桥本氏甲状腺炎超声图像和非桥本氏甲状腺炎超声图像两个类别；
所述分类单元还将超声图像数据集分为训练集、验证集和测试集。
3.根据权利要求1所述的诊断系统，其特征在于，所述输入单元包括图像调整层和标准化层；
所述图像调整层的参数Input-size有多种可选取值，超声图像尺寸经图像调整层处理后得到大小为Input-size×Input-size的超声图像；
所述标准化层接收该处理后的超声图像，将像素值归一化到[0,1]之间。
4.根据权利要求1所述的诊断系统，其特征在于，标准化处理后的超声图像输入到由一系列卷积层组成的神经网络中，每个卷积层都包括卷积积分、批归一化和激活三种操作，批归一化操作具体公式为：
Figure 334221DEST_PATH_IMAGE001
其中
Figure 414173DEST_PATH_IMAGE002
为归一化后的输出数据，
Figure 767794DEST_PATH_IMAGE003
为需要归一化的输入数据；
Figure 565985DEST_PATH_IMAGE004
和
Figure 545311DEST_PATH_IMAGE005
分别为 批数据的均值与方差；
Figure 479769DEST_PATH_IMAGE006
和
Figure 4292DEST_PATH_IMAGE007
分别为模型可学习的缩放与平移参数，初始值分别设置为1和 0；
激活操作使用Leaky Relu激活函数，激活函数的负值斜率参数
Figure 289779DEST_PATH_IMAGE008
设有三种可选取值， 分别设置为0、0.1和0.2，当
Figure 557950DEST_PATH_IMAGE009
时，即为Relu激活函数；具体公式为：
Figure 363226DEST_PATH_IMAGE010
其中
Figure 58649DEST_PATH_IMAGE011
表示激活函数的输出，
Figure 97013DEST_PATH_IMAGE012
表示输入。
5.根据权利要求4所述的诊断系统，其特征在于：
所述堆叠单元一中，由卷积层C、卷积层D、卷积层E、卷积层F、卷积层G和拼接层A组成一 个可重复特征提取块
Figure 903295DEST_PATH_IMAGE013
；
卷积层E、卷积层F和卷积层G的卷积核尺寸分别为
Figure 333051DEST_PATH_IMAGE014
、
Figure 199376DEST_PATH_IMAGE015
和
Figure 928297DEST_PATH_IMAGE016
；
参数
Figure 803849DEST_PATH_IMAGE017
表示在
Figure 301827DEST_PATH_IMAGE013
中，各个卷积层的通道扩增倍数；参数
Figure 355365DEST_PATH_IMAGE018
表示在堆叠单元一中， 特征提取块
Figure 571582DEST_PATH_IMAGE013
重复堆叠的次数；
Figure 985246DEST_PATH_IMAGE017
有三种可选取值，分别设置为1、2和3；
Figure 603309DEST_PATH_IMAGE018
有十六 种可选取值，分别设置为1至16。
6.根据权利要求4所述的诊断系统，其特征在于：
在堆叠单元二中，由卷积层K、卷积层L、卷积层P、卷积层R和池化层A组成一个可重复特 征提取块
Figure 77016DEST_PATH_IMAGE019
；
在
Figure 780530DEST_PATH_IMAGE019
中，除卷积层P的激活操作使用sigmoid激活函数以外，其他卷积层使用 Leaky Relu激活函数；
⨂符号表示特征图相乘；⊕符号表示特征图相加；参数
Figure 247152DEST_PATH_IMAGE020
表示在
Figure 719722DEST_PATH_IMAGE019
中，各个卷积 层的通道扩增倍数；参数
Figure 364330DEST_PATH_IMAGE021
表示在堆叠单元二中，特征提取块
Figure 820719DEST_PATH_IMAGE019
重复堆叠的次数；
Figure 310606DEST_PATH_IMAGE020
有三种可选取值，分别设置为1、2和3；
Figure 919573DEST_PATH_IMAGE021
有十六种可选取值，分别设置为1至16。
7.根据权利要求4所述的诊断系统，其特征在于：在输出单元中，分类层输出两个值，分别表示输入甲状腺超声图像是桥本氏甲状腺炎的概率和不是桥本氏甲状腺炎的概率。
8.根据权利要求4所述的诊断系统，其特征在于：在输入单元、堆叠单元一、堆叠单元二和输出单元的输入或输出处，还设置有卷积层A、卷积层B、卷积层H、卷积层J、卷积层S和卷积层T，主要用于提取特征、调整特征图通道数、降低特征图尺寸。
9.根据权利要求4所述的诊断系统，其特征在于：所述神经网络结构搜索模块的搜索步骤为：
S1搜索空间：
在搭建的神经网络主体结构中，待确定的参数有超声图像尺寸
Figure 735082DEST_PATH_IMAGE022
、激活函数的 负值斜率
Figure 413188DEST_PATH_IMAGE008
、
Figure 972346DEST_PATH_IMAGE013
卷积层的通道扩增倍数
Figure 934354DEST_PATH_IMAGE017
、
Figure 655186DEST_PATH_IMAGE013
重复堆叠次数
Figure 555008DEST_PATH_IMAGE018
、
Figure 652277DEST_PATH_IMAGE019
卷积 层的通道扩增倍数
Figure 485104DEST_PATH_IMAGE020
和
Figure 127569DEST_PATH_IMAGE019
重复堆叠次数
Figure 780268DEST_PATH_IMAGE021
，由这些参数的取值范围构成了本系统的 搜索空间；
S2训练方法：
S2-1: 以参数
Figure 415648DEST_PATH_IMAGE023
、
Figure 102982DEST_PATH_IMAGE009
、
Figure 165615DEST_PATH_IMAGE024
、
Figure 554877DEST_PATH_IMAGE025
、
Figure 728370DEST_PATH_IMAGE026
和
Figure 270209DEST_PATH_IMAGE027
组成的网络做 为起始网络模型，模型权重值采用随机初始化，在训练集上进行训练，总共训练最多1500轮 次，同时在验证集上验证网络模型的准确率，保存在验证集上准确率最高的模型权重，记为 最优模型；
S2-2: 固定参数
Figure 503745DEST_PATH_IMAGE025
和
Figure 131035DEST_PATH_IMAGE027
，其他参数在其取值范围内随机取值，通过选取的参数构 成一个新的网络模型，在训练集上进行训练，总共训练最多1500轮次；同时在验证集上验证 网络模型的准确率，若准确率大于先前最优模型的准确率，则将其记为最优模型，并保存；
S2-3: 重复步骤S2-2十五次，搜索最优的
Figure 124530DEST_PATH_IMAGE022
、
Figure 255297DEST_PATH_IMAGE008
、
Figure 925313DEST_PATH_IMAGE017
和
Figure 39899DEST_PATH_IMAGE020
模型参数组合；
S2-4: 在采用最优
Figure 820774DEST_PATH_IMAGE022
、
Figure 338472DEST_PATH_IMAGE008
、
Figure 913810DEST_PATH_IMAGE017
和
Figure 515693DEST_PATH_IMAGE020
参数组合的基础上，在堆叠单元一中随机 增加
Figure 834678DEST_PATH_IMAGE013
的数量，该模块最大可重复数量为16；在堆叠单元二中随机增加
Figure 205617DEST_PATH_IMAGE019
的数 量，该模块最大可重复数量为16；新增加
Figure 951856DEST_PATH_IMAGE028
的权重值采用随机初始化，其他权重值采用 当前最优模型训练完成的对应权重值；
S2-5: 参照S2-2训练每一组
Figure 791767DEST_PATH_IMAGE018
和
Figure 648865DEST_PATH_IMAGE021
参数构成的新网络模型，同时重复设置
Figure 874310DEST_PATH_IMAGE018
和
Figure 57029DEST_PATH_IMAGE021
参数 二十次，搜索最优网络模型的
Figure 367925DEST_PATH_IMAGE018
和
Figure 543560DEST_PATH_IMAGE021
参数组合。
10.根据权利要求9所述的诊断系统，其特征在于：模型搜索训练完成之后，所述模型测试模块在测试集上测试所有保存的最优网络模型，综合考虑各个网络模型在测试集上的准确率和推理时间，根据运行模型的计算设备挑选出最适合的网络模型即为最终的桥本氏甲状腺炎分类模型，利用该分类模型即可对待诊断的甲状腺超声图像进行诊断。
CN202211456728.6A 2022-11-21 2022-11-21 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统 Active CN115760777B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211456728.6A CN115760777B (zh) 2022-11-21 2022-11-21 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211456728.6A CN115760777B (zh) 2022-11-21 2022-11-21 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统

Publications (2)

Publication Number Publication Date
CN115760777A true CN115760777A (zh) 2023-03-07
CN115760777B CN115760777B (zh) 2024-04-30

Family

ID=85333634

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211456728.6A Active CN115760777B (zh) 2022-11-21 2022-11-21 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统

Country Status (1)

Country Link
CN (1) CN115760777B (zh)

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108564026A (zh) * 2018-04-10 2018-09-21 复旦大学附属肿瘤医院 用于甲状腺肿瘤细胞学涂片图像分类的网络构建方法及系统
CN111126564A (zh) * 2019-11-27 2020-05-08 东软集团股份有限公司 一种神经网络结构搜索方法、装置及设备
CN111833310A (zh) * 2020-06-17 2020-10-27 桂林理工大学 一种基于神经网络架构搜索的表面缺陷分类方法
CN112069370A (zh) * 2019-06-11 2020-12-11 北京地平线机器人技术研发有限公司 神经网络结构搜索方法、装置、介质和设备
CN112215332A (zh) * 2019-07-12 2021-01-12 华为技术有限公司 神经网络结构的搜索方法、图像处理方法和装置
CN112464579A (zh) * 2021-02-02 2021-03-09 四川大学 基于进化神经网络结构搜索食管癌病变区域识别建模方法
WO2021119875A1 (zh) * 2019-12-15 2021-06-24 中国科学院深圳先进技术研究院 基于神经网络结构搜索的磁共振快速成像方法和装置
CN113344174A (zh) * 2021-04-20 2021-09-03 湖南大学 基于概率分布的高效神经网络结构搜索方法
WO2022037696A1 (zh) * 2020-08-21 2022-02-24 张逸凌 基于深度学习的骨骼分割方法和系统
CN114202669A (zh) * 2020-09-16 2022-03-18 香港大学深圳研究院 一种用于医疗图像分割的神经网络搜索方法
CN114391827A (zh) * 2022-01-06 2022-04-26 普昶钦 一种基于卷积神经网络的院前肺气肿诊断装置
CN114758191A (zh) * 2022-04-15 2022-07-15 浪潮(北京)电子信息产业有限公司 一种图像识别方法、装置及电子设备和存储介质
WO2022222020A1 (zh) * 2021-04-20 2022-10-27 中国科学院深圳先进技术研究院 一种用于流量分类的神经网络架构自动搜索方法及装置

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108564026A (zh) * 2018-04-10 2018-09-21 复旦大学附属肿瘤医院 用于甲状腺肿瘤细胞学涂片图像分类的网络构建方法及系统
CN112069370A (zh) * 2019-06-11 2020-12-11 北京地平线机器人技术研发有限公司 神经网络结构搜索方法、装置、介质和设备
CN112215332A (zh) * 2019-07-12 2021-01-12 华为技术有限公司 神经网络结构的搜索方法、图像处理方法和装置
CN111126564A (zh) * 2019-11-27 2020-05-08 东软集团股份有限公司 一种神经网络结构搜索方法、装置及设备
WO2021119875A1 (zh) * 2019-12-15 2021-06-24 中国科学院深圳先进技术研究院 基于神经网络结构搜索的磁共振快速成像方法和装置
CN111833310A (zh) * 2020-06-17 2020-10-27 桂林理工大学 一种基于神经网络架构搜索的表面缺陷分类方法
WO2022037696A1 (zh) * 2020-08-21 2022-02-24 张逸凌 基于深度学习的骨骼分割方法和系统
CN114202669A (zh) * 2020-09-16 2022-03-18 香港大学深圳研究院 一种用于医疗图像分割的神经网络搜索方法
CN112464579A (zh) * 2021-02-02 2021-03-09 四川大学 基于进化神经网络结构搜索食管癌病变区域识别建模方法
CN113344174A (zh) * 2021-04-20 2021-09-03 湖南大学 基于概率分布的高效神经网络结构搜索方法
WO2022222020A1 (zh) * 2021-04-20 2022-10-27 中国科学院深圳先进技术研究院 一种用于流量分类的神经网络架构自动搜索方法及装置
CN114391827A (zh) * 2022-01-06 2022-04-26 普昶钦 一种基于卷积神经网络的院前肺气肿诊断装置
CN114758191A (zh) * 2022-04-15 2022-07-15 浪潮(北京)电子信息产业有限公司 一种图像识别方法、装置及电子设备和存储介质

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
XIANLI LIU等: "Intelligent tool wear monitoring based on parallel residual and stacked bidirectional long short-term memory network", JOURNAL OF MANUFACTURING SYSTEMS, 24 July 2021 (2021-07-24), pages 608 - 619 *
YAHEI: "MobileNet全家桶", Retrieved from the Internet <URL:https://aijishu.com/a/1060000000001188> *
宝阿春: "基于集成卷积神经网络的图像分类研究", 中国优秀硕士学位论文全文数据库 信息科技辑, 15 September 2019 (2019-09-15), pages 138 - 640 *
顾道长生\': "纵横交错|GoogLeNet（二）", Retrieved from the Internet <URL:https://blog.csdn.net/wl1780852311/article/details/123187280> *

Also Published As

Publication number Publication date
CN115760777B (zh) 2024-04-30

Similar Documents

Publication Publication Date Title
CN110060774B (zh) 一种基于生成式对抗网络的甲状腺结节识别方法
CN108717869B (zh) 基于卷积神经网络的糖尿病视网膜并发症诊断辅助系统
CN112529894B (zh) 一种基于深度学习网络的甲状腺结节的诊断方法
CN112396621B (zh) 基于深度学习的高分辨率显微内窥镜图像细胞核分割方法
CN109815965B (zh) 一种图像过滤方法、装置及存储介质
CN113610859B (zh) 一种基于超声图像的甲状腺结节自动分割方法
CN112950614B (zh) 一种基于多尺度空洞卷积的乳腺癌病理图片分类方法
CN113191390B (zh) 一种图像分类模型的构建方法、图像分类方法及存储介质
CN112784856A (zh) 胸部x射线图像的通道注意力特征提取方法和识别方法
CN108766555A (zh) 胰腺神经内分泌肿瘤恶性程度的计算机诊断方法及系统
CN113610118B (zh) 一种基于多任务课程式学习的青光眼诊断方法、装置、设备及方法
CN113012163A (zh) 一种基于多尺度注意力网络的视网膜血管分割方法、设备及存储介质
CN115035127A (zh) 一种基于生成式对抗网络的视网膜血管分割方法
CN112043273A (zh) 一种脑影像数据处理方法、装置、设备以及存储介质
CN115760777B (zh) 基于神经网络结构搜索的桥本氏甲状腺炎诊断系统
CN116309507A (zh) 注意力机制下对ctp进行特征融合的ais病灶预测方法
CN114418999B (zh) 基于病变关注金字塔卷积神经网络的视网膜病变检测系统
CN113476065B (zh) 一种多类肺炎诊断系统
CN113796850A (zh) 甲状旁腺mibi图像分析系统、计算机设备及存储介质
CN113033330A (zh) 一种基于轻型卷积神经网络的舌体姿态异常判别方法
CN109480842B (zh) 用于诊断功能性消化不良的系统及设备
CN112132790A (zh) Dac-gan模型构建方法及在乳腺mr图像中的应用
Pavithra et al. Systemic Lupus Erythematosus Detection using Deep Learning with Auxiliary Parameters
CN114092427B (zh) 一种基于多序列mri图像的克罗病与肠结核分类方法
Kandel Deep Learning Techniques for Medical Image Classification

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant