CN113476065B - 一种多类肺炎诊断系统 - Google Patents
一种多类肺炎诊断系统 Download PDFInfo
- Publication number
- CN113476065B CN113476065B CN202111039147.8A CN202111039147A CN113476065B CN 113476065 B CN113476065 B CN 113476065B CN 202111039147 A CN202111039147 A CN 202111039147A CN 113476065 B CN113476065 B CN 113476065B
- Authority
- CN
- China
- Prior art keywords
- training
- sample
- learning network
- module
- result
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 206010035664 Pneumonia Diseases 0.000 title claims abstract description 52
- 238000012549 training Methods 0.000 claims abstract description 100
- 238000003745 diagnosis Methods 0.000 claims abstract description 68
- 238000002601 radiography Methods 0.000 claims abstract description 11
- 230000006870 function Effects 0.000 claims description 81
- 239000011159 matrix material Substances 0.000 claims description 40
- 238000000034 method Methods 0.000 claims description 26
- 230000014509 gene expression Effects 0.000 claims description 22
- 210000002569 neuron Anatomy 0.000 claims description 22
- 201000010099 disease Diseases 0.000 claims description 19
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 claims description 19
- 230000004913 activation Effects 0.000 claims description 17
- 238000000605 extraction Methods 0.000 claims description 16
- 230000009466 transformation Effects 0.000 claims description 16
- 238000011156 evaluation Methods 0.000 claims description 11
- 238000012360 testing method Methods 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 8
- 238000004458 analytical method Methods 0.000 claims description 4
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000005284 excitation Effects 0.000 claims description 3
- 210000002364 input neuron Anatomy 0.000 claims description 3
- 238000013507 mapping Methods 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 3
- 210000004205 output neuron Anatomy 0.000 claims description 3
- 230000019771 cognition Effects 0.000 claims description 2
- 238000011176 pooling Methods 0.000 claims description 2
- 230000001575 pathological effect Effects 0.000 claims 1
- 238000009827 uniform distribution Methods 0.000 claims 1
- 230000005540 biological transmission Effects 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 3
- 238000006467 substitution reaction Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000012886 linear function Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000004931 aggregating effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/50—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Pathology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- High Energy & Nuclear Physics (AREA)
- Heart & Thoracic Surgery (AREA)
- Probability & Statistics with Applications (AREA)
- Optics & Photonics (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Evolutionary Biology (AREA)
- Animal Behavior & Ethology (AREA)
- Dentistry (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种多类肺炎诊断系统,包括读片模块、特征获取模块、训练学习模块、诊断模块和结果输出模块。读片模块用于在计算机的硬盘上存储有诊断系统,通过视图传输设备输入体检者X光正位胸片图像;特征获取模块用于构建并预训练深度卷积块网络模型作为图像特征提取器,采用图像特征提取器提取X光正位胸片图像的特征形成样本;训练学习模块用于构建并训练多个动态学习网络分类器;诊断模块用于针对各个动态学习网络分类器,构建双阶段集成动态学习网络模型来对图像进行诊断,得到诊断预测结果;结果输出模块用于输出最终诊断结果。该系统通过双阶段集成动态学习网络模型大大提高了训练速度和诊断效率。
Description
技术领域
本发明涉及人工智能预测评估技术领域,具体涉及一种多类肺炎诊断系统。
背景技术
现有技术中,运用人工智能方法和模型对体检者X光正位胸片图像进行读取和诊断具备以下优势:
1. 诊断结果非常直观,不但可以判断是否患病,而且可以判断病种类型、病情发展阶段和严重程度;
2. 辅助验证诊断结果,确保诊断结果准确稳定;
3. 检测设备轻便,方便运输,维护简便,原材料消耗少;
4. 全程耗时少(15s),一经查出患病马上把患者送去就医,诊断效率高;
5. 技术要求低,所需用人少。
针对体检者X光正位胸片图像的自动智能筛查诊断过程,在现有的统计学习模型中,深度残差网络(Residual convolutional neural network, ResNet)通过引入捷径连接的方式有效防止训练过程中可能产生的梯度消失问题(K. He, X. Zhang, S. Ren, andJ. Sun, “Deep residual learning for imagerecognition,” in Proc. IEEE Comput.Soc. Conf. Comput. Vision Pattern Recognit. (CVPR), pp. 770–778, 2016.),因其优异的学习拟合数据的能力而在图像识别领域里得以广泛应用。然而ResNet末端的全连通层的泛化性能可能不够强大,不能作为合适的分类器对图像的深度卷积特征进行分类(Y.Zeng, X. Xu, D. Shen, Y. Fang, and Z. Xiao, “Traffic sign recognitionusingkernel extreme learning machines with deep perceptual features,”IEEE Trans.Intell. Transp. Syst., vol. 18, no. 6, pp. 1647–1653, 2017.)。而且在对各种肺炎的筛查诊断过程中,针对图像的深度卷积特征,以往只采用单个分类器模型,诊断结果的可靠性难以保证,这些缺陷在智能化疾病诊断的过程中受到很大制约。
发明内容
为了克服现有技术存在的缺陷与不足,本发明提供一种多类肺炎诊断系统。本发明针对X光正位胸片图像采用具有双阶段集成动态学习网络分类器模型的诊断模块,先判断是否患肺炎,再判断所患肺炎类型。
本发明至少通过如下技术方案之一实现。
一种多类肺炎诊断系统,包括读片模块、特征获取模块、训练学习模块、诊断模块和结果输出模块;
所述读片模块通过视图传输设备在计算机上输入X光正位胸片图像输入;
所述特征获取模块用于构建并预训练深度卷积块网络模型作为图像特征提取器,采用所述图像特征提取器提取X光正位胸片图像的特征形成样本;
所述训练学习模块用于构建多个动态学习网络分类器,包括输入层、隐含层和输出层,设定输入神经元个数为训练集特征样本维度以及隐含层和输出层神经元的激活函数,输入层与隐含层之间各个连接权重分量随机初始化且保持不变,隐含层与输出层之间各个连接权重分量随机初始化并进行训练;
所述诊断模块根据各个动态学习网络分类器,构建集成动态学习网络模型,对图像进行诊断,得到诊断预测结果;
所述结果输出模块用于输出最终诊断结果,并通过显示器界面显示出来。
优选的,所述读片模块包括:划分单元,用于将图像数据集分为用于训练集和测试集;
预处理单元,用于将体检者X光正位胸片图像顺序变换成RGB次序,并调整各图像的大小尺寸一致,其次对于训练集每张图像进行图像增强,然后将训练集图像和测试集图像分别进行归一化,对于图像中的每个颜色通道,设定均值向量和方差向量。
优选的,所述特征获取模块包括:
预训练单元,用于搭建深度卷积块网络模型,并在确定训练方式、训练轮数和每批次输入图像数目后预训练网络;
图像特征提取器单元,用于提取输入的训练图像,得到对应的特征样本。
优选的,所述训练学习模块包括:
训练集特征样本单元,用于存储训练图像特征;
样本抽取单元,用于从训练集特征样本单元中抽取训练所需的特征样本构成模型训练子集;
模型训练单元,用于采用不同激活函数和不同类型的变换函数进行训练,得到相应的不同动态学习网络分类器,采用多个动态学习网络分类器针对测试集的图像所提取出来的特征进行诊断预测。
优选的,所述变换函数包括线性函数、Tanh函数和Sinh函数;动态学习网络分类器中隐含层神经元激活函数采用softsign函数和softsign幂级函数两种情形,输出层神经元激活函数采用单极性softsign函数。
优选的,softsign函数和softsign幂级函数表达式如下所示:
其中,表示第个隐含层神经元,代表隐含层第个神经元的激活函数,z表
示自变量;隐含层与输出层之间的权重矩阵随机初始化等待训练,输出层各个神经元的
激励函数均为单极性Softsign函数,将分析结果通过非线性映射的方式转化成预判结
果;单极性Softsign函数的表达式如下:
优选的,采用神经动力学训练方法对动态学习网络分类器进行训练,其表达式为:
输入层与隐含层之间的权重矩阵为,由-1到1之间的均匀分布方式生成随机数
且保持不变,以此对体检者所输入的X光正位胸片图像特征数据进行加权汇总;隐含层各个
神经元的激活函数采用softsign函数和softsign幂级函数两种情形,从而对样本进
行初步记忆学习;
对于训练误差的求取,首先动态学习网络分类器判断结果输出里的各
个矩阵元素进行归一化计算得出概率矩阵,得出每位体检者是否患肺炎以及患新冠
肺炎的概率,并取中针对每个样本的最大类概率所对应的类型作为预判结果,从而得
知是否患病以及患病类型;
设矩阵和规模均为,其中表示体检者数目,表示诊断结果类
别数目,对于中的第个体检者身体指标测量数据样本对应的预测
判断结果,其中表示动态学习网络分类器第个输出神经元输出;中的第行的行向量,即表示相应的第个样本对是否患
病的归属程度,通过以下式子而得:
其中:
设训练误差阈值为,如果,则停止对隐含层与输出层之间权重矩阵的训练,结束对特征样本的学习过程;否则通过神经动力学训练方法的表达式推出,得到疾病诊断专家第次学习样本后动态学习网
络分类器输出减去期望值应有的结果,在此基础上需要求出隐含层与输出层之
间的权重矩阵为,类比和式子(5)得与同时满
足以下等式关系:
优选的,在抽取样本时,随机抽取得到的特征样本和小类全部构成一个子集,每个子集训练一种变换函数类型的动态学习网络分类器。
优选的,所述诊断模块包括:
结合单元,用于将多个动态学习网络分类器平均分为两组,结合形成双阶段集成动态学习网络分类器模型;
综合评估单元,各动态学习网络分类器对测试图像各自进行诊断,得到多个初判结果,通过多个初判结果得出最终的诊断结果;针对双阶段集成动态学习网络分类器模型,首先采用第一阶段集成动态学习网络模型判断体检者是否患肺炎,若体检者被诊断患肺炎,则采用第二阶段判断所患肺炎类型。
优选的,所述综合评估单元中,将完成训练的多个疾病诊断专家用于对未知是否患病的体检者所输入的X光正位胸片图像特征样本进行预判;各个专家相对独立,各自按学习认识的知识进行预测判断,总共得出对应的预判结果;针对多个初判结果,采用基于少数服从多数的投票决策原则得到诊断结果。
本发明还提供一种存储介质,存储有程序,所述程序被处理器执行时实现上述多类肺炎诊断系统。
本发明还提供一种计算设备,包括处理器和用于存储处理器可执行程序的存储器,所述处理器执行存储器存储的程序时,实现上述多类肺炎诊断系统。首先,在计算机的硬盘上存储有诊断系统,通过视图传输设备在计算机上输入X光正位胸片;其次采用特征获取模块对图像提取特征样本;然后对于所提取出来的图像特征样本,采用诊断模块诊断是否患肺炎,以及所患肺炎的类型;最后诊断结果可通过显示器显示出来。这种双阶段集成动态深度学习分类器模型大大提高了模型训练效率,同时运用综合诊断机制能够有效保证结果的可靠性。
本发明与现有技术相比,至少具备以下有益效果:
本发明的诊断系统运用深度卷积块网络模型作为体检者X光正位胸片图像的特征获取模块,其用于诊断不同类型肺炎的诊断模块中的双阶段集成动态学习网络分类器模型是基于神经动力学训练动态学习网络分类器模型并加以集成得到,这大大节省了分类器所需训练的参数数目,提高了模型训练效率,同时运用综合诊断机制能够有效保证诊断系统的诊断结果的可靠性。
附图说明
图1为本发明实施例多类肺炎诊断系统的构成示意图;
图2为本实施例的基于深度集成动态学习网络的肺炎诊断模型示意图;
图3为本实施例动态学习网络分类器拓扑结构意图;
图4为本实施例动态学习网络分类器训练算法流程示意图;
图5为本实施例的双阶段集成动态学习网络分类器模型的设计思路图;
图6为本实施例的集成动态学习网络分类器模型构造示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
本实施例中,对于图1所有模块所涉及的多类肺炎诊断系统构建,首先构建由针对训练图像构建深度卷积块网络模型并进行预训练,得到特征获取模块,其中深度卷积块网络模型包括5个卷积块,每个卷积块包括卷积、池化、捷径连接等;其次将训练图像输入特征获取模块的图像特征提取器中,得到对应的训练集特征样本;然后针对训练集特征样本构建并训练动态学习网络,在训练过程中,对于每一次有放回的随机抽取部分训练集特征样本,采用一种激活函数和一种类型变换函数训练出一个动态学习网络分类器(Dynamiclearning network, DLN),得到训练学习模块;针对完成训练的多种动态学习网络模型进行组合,形成两组动态学习网络分类器,采用基于少数服从多数的投票决策原则对这两组动态学习网络分类器分别进行结合,形成双阶段集成动态学习网络模型,得到诊断模块;从而完成构建多类肺炎诊断系统整体模型,并进一步加以测试,得出最终诊断结果。
具体的,如图1和图2所示,本实施例提供了一种多类肺炎诊断系统,包括基于深度集成动态学习网络的肺炎诊断模型,所述基于深度集成动态学习网络的肺炎诊断模型包括读片模块、特征获取模块、训练学习模块、诊断模块和结果输出模块:
读片模块通过视图传输设备(例如X光扫描仪)在计算机上输入体检者X光正位胸片图像;
特征获取模块用于构建并预训练深度卷积块网络模型作为图像特征提取器,采用所述图像特征提取器提取X光正位胸片图像的特征形成样本;
训练学习模块用于构建多个动态学习网络分类器,包括输入层、隐含层和输出层,设定输入神经元个数为训练集特征样本维度以及隐含层和输出层神经元的激活函数,输入层与隐含层之间各个连接权重分量随机初始化且保持不变,隐含层与输出层之间各个连接权重分量随机初始化并进行训练;
诊断模块用于针对各个动态学习网络分类器,构建集成动态学习网络模型来对图像进行诊断,得到诊断预测结果,包括是否患肺炎,以及所患肺炎类型;
结果输出模块用于输出最终诊断结果,并通过显示器界面显示出来。
所述读片模块包括:划分单元,用于将图像数据集分为用于训练深度卷积块网络模型的训练集图像和用于评估深度卷积块网络模型的测试集图像;
预处理单元,用于将体检者X光正位胸片图像顺序变换成RGB次序,并调整各图像的大小尺寸一致。其次对于训练集每张图像,以50%的概率进行水平翻转,以达到图像增强目的。然后将训练集图像和测试集图像分别进行归一化,对于图像中的每个颜色通道,设定均值向量为[0.485 0.456 0.406],方差向量为[0.229 0.224 0.225]。
所述特征获取模块包括:
预训练单元,用于搭建深度卷积块网络模型作为图像特征提取器,并在确定训练方式为Adam方法(初始学习率是3×10−5)、训练轮数为16轮和每批次输入图像数目为6张图像后预训练所述深度卷积块网络模型;
图像特征提取器单元,用于提取输入的训练图像,得到对应的特征样本。
所述训练学习模块包括:
训练集特征样本单元,用于存储训练图像特征;
样本抽取单元,用于从训练集特征样本单元中抽取训练所需的特征样本构成模型训练子集;
模型训练单元,用于采用不同激活函数和不同类型的变换函数对分类器模型进行训练,得到相应的不同动态学习网络分类器。
所述样本抽取单元中,抽取样本时若遇到类别不平衡问题,则在较大数目一类中有放回地随机抽取,抽取量与较小数目一类中的样本数目相当,在较大数目一类中每随机抽取一次得到的特征样本和小类全部构成一个子集,每个子集训练一种变换函数类型的动态学习网络分类器。若类别平衡,则在各类中同比例随机抽取,构成子集。
所述模型训练单元中,根据不同类型的变换函数,将神经动力学训练方法运用到训练动态学习网络分类器中,迭代更新隐含层与输出层之间的各个连接权重分量,根据运用一种类型的变换函数训练出一个动态学习网络分类器的原则,得到多个动态学习网络分类器。采用多个动态学习网络分类器可以针对测试图像所提取出来的特征进行诊断预测。
所述变换函数包括线性函数、Tanh函数和Sinh函数;动态学习网络分类器中隐含层神经元激活函数采用softsign函数和softsign幂级函数两种情形,输出层神经元激活函数采用单极性softsign函数。
如图3所示,在模型训练单元中,动态学习网络分类器包括三层:输入层、隐含层和输出层,其中隐含层神经元激活函数采用softsign函数和softsign幂级函数两种情形,输出层神经元激活函数采用单极性softsign函数。因此可训练得到6个不同的动态学习网络分类器。这6个不同的动态学习网络分类器平均分成两组,通过不同学习方法和学习目标学习认识X光正位胸片图像特征,从而对各自未知是否患肺炎以及所患肺炎类型的体检者所拍摄输入的X光正位胸片图像进行诊断预测。
训练动态学习网络分类器时使用的方法为神经动力学训练方法,其表达式为:
其中表示动态学习网络分类器在第次学习样本后动态学习网络分类器输
出减去期望值(样本标签)结果,相当于对体检者的预判结果与实际结果的偏差;表
示动力学系数,相当于在系统建立过程中,疾病诊断专家对所输入的X光正位胸片图像的学
习速度;表示变换函数,相当于学习方法。
输入层与隐含层之间的权重矩阵为,由-1到1之间的均匀分布方式生成随机数
且保持不变,以此对体检者所输入的X光正位胸片图像特征数据进行加权汇总;隐含层各个
神经元的激活函数采用softsign函数和softsign幂级函数两种情形,从而对样本进行
初步记忆学习。softsign函数(式子(1))和softsign幂级函数(式子(2))表达式如下所示:
其中,表示第个隐含层神经元,代表隐含层第个神经元的激活函数,z是
自变量。隐含层与输出层之间的权重矩阵随机初始化等待训练,这相当于对输入样本进
行具体分析;输出层各个神经元的激励函数均为单极性Softsign函数,将分析结果通
过非线性映射的方式转化成预判结果。单极性Softsign函数的表达式如下:
在模型训练单元中,动态学习网络分类器的训练方法如图4所示,设表示第次学习样本后隐含层与输出层之间的权重矩阵,则单个动态学习网络分类器输出为,即疾病诊断专家对体检者X光正位胸片图像的诊断预测结果可由以下式子推出:
对于训练误差的求取,首先动态学习网络分类器判断结果输出里的各
个矩阵元素进行归一化计算得出概率矩阵,得出每位体检者患肺炎以及患新冠肺炎
的概率,并取最大程度对应的类型作为预判结果,得知是否患病以及患病类型。
设矩阵和规模均为,其中表示体检者数目,表示诊断结果类
别数目。对于中的第个体检者身体指标测量数据样本对应的预测
判断结果,其中 表示动态学习网络分类器第
个输出神经元输出。中的第行的行向量,即表示相应的第个样本对是否患病的
归属程度,通过以下式子而得:
其中:
设训练误差阈值为,以此对疾病诊断专家学习认识体检者X光正位胸片图像特
征样本数据程度进行把关,如果,则停止对隐含层与输出层之间权重矩阵的
训练,结束对特征样本的学习过程;否则通过神经动力学训练方法的表达式可以推出,也就是得到疾病诊断专家第次学习样本后动态学习网
络分类器输出减去期望值应有的结果。在此基础上需要求出隐含层与输出层之间的权重矩
阵为。类比和式子(5)可得与同时满足以下等
式关系:
在式子(11)与式子(12)中,表示隐含层输出矩阵的Moore-Penrose伪逆;函数理论上应表示函数的反函数。然而在这里为单极性Softsign函数(如式子
(3)所示),不具备反函数。因此将式子(3)按自变量的实数取值区间设置一个实数阈值,
进行分段处理运算,每段各自求出其反函数,再将各个取值区间的反函数拼接一起近似代
替,故以为自变量,的表达式可近似表示为:
所述诊断模块包括:
结合单元,用于将多个动态学习网络分类器平均分为两组,结合形成双阶段集成动态学习网络分类器模型;
综合评估单元,各动态学习网络分类器对测试图像各自进行诊断,得到多个初判结果,通过对多个初判结果进行基于“少数服从多数”的相对投票原则,得出最终的诊断结果。针对双阶段集成动态学习网络分类器模型,首先采用第一阶段集成动态学习网络模型输出类概率大小,判断体检者是否患肺炎,若体检者被诊断患了肺炎,则采用第二阶段集成动态学习网络模型,通过输出类概率大小的方式判断所患肺炎类型,包括新冠肺炎和其他类型肺炎。
作为优选的技术方案,所述结合单元中,6个动态学习网络分类器平均分为两组,结合形成双阶段集成动态学习网络分类器模型。双阶段集成动态学习网络分类器模型如图5所示,对于X光正位胸片图像特征样本数据,首先由第一组集成动态学习网络分类器模型判断是否患肺炎:若判断结果为正常,则直接输出到结果输出模块,得出最终诊断结果;否则该图像特征样本数据将先通过主成分分析环节进行特征选择,将最具有代表性的部分特征输入到第二组集成动态学习网络分类器模型中,从而判断所患肺炎的类型,得到最终诊断结果。
作为优选的技术方案,所述综合评估单元中,针对多个初判结果,采用基于少数服从多数的投票决策原则得到诊断结果。
在综合评估单元中,对于综合诊断机制,将完成训练的三个疾病诊断专家用于对
未知是否患病的体检者所输入的X光正位胸片图像特征样本进行预判。各个专家相对独立,
各自按学习认识的知识进行预测判断,总共得出三个预判结果。在此基础上设定基于少数
服从多数的投票规则进行综合评估,即将这三个疾病诊断专家聚集一起,各自对未知的X光
正位胸片图像特征样本进行预测判断,所得出的预判结果将采取基于少数服从多数的投票
规则的形式进行综合评估,得到最终的诊断结果。比如对于图6中,将某个未知是否患新冠
肺炎的体检者输入的维X光正位胸片图像特征样本输入到个疾
病诊断专家(在图6中简称为“专家”)中,第一个疾病诊断专家预判结果为类别1而其他个的为类别2,则经过综合评估机制后该未知样本将被估计为类别2。 在本发明的其
中一个实施例中,还提供一种存储介质,存储介质可以是ROM、RAM、磁盘、光盘等储存介质,
该存储介质存储有一个或多个程序,所述程序被处理器执行时,实现上述多类肺炎诊断系
统。
在本发明的其中一个实施例中,还提供一种计算设备,所述的计算设备可以是台式电脑、笔记本电脑、智能手机、PDA手持终端、平板电脑或其他具有显示功能的终端设备,该计算设备包括该计算设备包括处理器和存储器,存储器存储有一个或多个程序,处理器执行存储器存储的程序时,实现上述多类肺炎诊断系统。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围内。
Claims (5)
1.一种多类肺炎诊断系统,其特征在于,系统包括:读片模块、特征获取模块、训练学习模块、诊断模块和结果输出模块;
所述读片模块用于读取体检者的X光正位胸片图像;
所述特征获取模块以运用Adam方法预训练的深度卷积块网络模型作为图像特征提取器,采用图像特征提取器提取X光正位胸片图像的特征形成样本;所述深度卷积块网络模型包括多个卷积块,每个卷积块包括卷积、池化、捷径连接;
所述训练学习模块用于构建多个动态学习网络分类器,每个动态学习网络分类器包括输入层、隐含层和输出层,设定输入神经元个数为训练集特征样本维度以及隐含层和输出层神经元的激活函数,输入层与隐含层之间各个连接权重分量随机初始化且保持不变,隐含层与输出层之间各个连接权重分量随机初始化并进行训练;
所述输出层神经元激活函数采用单极性softsign函数,单极性softsign函数的表达式如下:
其反函数为:
其中,z表示自变量;
所述诊断模块包括:
结合单元,用于将多个动态学习网络分类器平均分为两组,结合形成双阶段集成动态学习网络分类器模型;
综合评估单元,各动态学习网络分类器对测试图像各自进行诊断,得到多个初判结果,通过多个初判结果得出最终的诊断结果;针对双阶段集成动态学习网络分类器模型,首先采用第一阶段集成动态学习网络模型判断体检者是否患肺炎,若体检者被诊断患肺炎,则采用第二阶段判断所患肺炎类型;
所述结果输出模块用于输出最终诊断结果,并通过显示器界面显示出来。
2.根据权利要求1所述的一种多类肺炎诊断系统,其特征在于,所述特征获取模块包括:
预训练单元,用于搭建深度卷积块网络模型,并在确定训练方式为Adam方法、训练轮数和每批次输入图像数目后预训练网络;
图像特征提取器单元,用于提取输入的训练图像,得到对应的特征样本。
3.根据权利要求1所述的一种多类肺炎诊断系统,其特征在于,神经动力学训练方法对动态学习网络分类器进行训练,其表达式为:
E(k+1)-E(k)=-αΦ(E(k)),α>0 (3)
其中E(k)表示动态学习网络分类器在第k次学习样本后动态学习网络分类器输出减去期望值结果,相当于对体检者的预判结果与实际结果的偏差;α>0表示动力学系数,Φ(·)表示变换函数;
输入层与隐含层之间的权重矩阵为V,由-1到1之间的均匀分布方式生成随机数且保持不变,以此对体检者所输入的X光正位胸片图像特征数据进行加权汇总;隐含层与输出层之间的权重矩阵W随机初始化等待训练,这相当于对输入样本进行具体分析;输出层各个神经元的激励函数g(·)均为单极性softsign函数,将分析结果通过非线性映射的方式转化成预判结果;单极性softsign函数的表达式如下:
设X表示经过样本抽取单元后得到的体检者X光正位胸片图像特征样本的矩阵,并作为输入,则单个动态学习网络分类器输出Y由以下式子表示:
Y=g(QW)=g(F(I)W) (4)
其中I和Q分别表示隐含层输入和输出矩阵,F(I)=[f1(i1);f2(i2);…;fj(ij);…;fn(in)],ij表示I里面的第j列,fj(ij)代表第j个隐含层神经元的输出;
设W(k)表示第k次学习样本后隐含层与输出层之间的权重矩阵,则单个动态学习网络分类器输出为Y(k),即疾病诊断专家对体检者X光正位胸片图像的诊断预测结果由以下式子推出:
Y(k)=g(QW(k))=g(F(I)W(k)) (5)
设实际结果,即期望值矩阵为L,则偏差E(k)=Y(k)-L,先求出第k次学习样本后的训练误差ε(k),训练误差为对多个体检者的预判结果与这些实际结果的总偏差;
对于训练误差ε(k)的求取,首先动态学习网络分类器判断结果输出Y(k)里的各个矩阵元素进行归一化计算得出概率矩阵P(k),得出每位体检者是否患肺炎以及患新冠肺炎的概率,并取P(k)中针对每个样本的最大类概率所对应的类型作为预判结果,从而得知是否患病以及患病类型;
设矩阵Y(k)和P(k)规模均为l×q,其中l表示体检者数目,q表示诊断结果类别数目,对于Y(k)中的第s个体检者身体指标测量数据样本对应的预测判断结果ys=[ys1,ys2,…,ysq],其中,ysr表示动态学习网络分类器第r个输出神经元输出;1≤s≤l,s∈z;1≤r≤q,r∈z;P(k)中的第s行的行向量Ps,即表示相应的第s个样本对是否患病的归属程度,通过以下式子而得:
其中:
在式子(6)中,Psr表示第s个样本属于第r类的概率;作为样本实际标签,采取one-hot向量编码形式,得到编码矩阵L,通过交叉熵损失函数公式得出训练误差ε(k):
其中Lsr与Psr分别表示L与P(k)中第s行第r列元素,1≤r≤q,r∈z;
设训练误差阈值为ε',以此对疾病诊断专家学习认识体检者X光正位胸片图像特征样本数据程度进行把关,如果ε(k)<ε',则停止对隐含层与输出层之间权重矩阵W的训练,结束对特征样本的学习过程;否则通过神经动力学训练方法的表达式推出E(k+1)=E(k)-αΦ(E(k)),得到疾病诊断专家第(k+1)次学习样本后动态学习网络分类器输出减去期望值应有的结果E(k+1),在此基础上需要求出隐含层与输出层之间的权重矩阵为W(k+1),类比E(k)=Y(k)-L可得E(k+1)与Y(k+1)同时满足以下等式关系:
E(k+1)=Y(k+1)-L (9)
Y(k+1)=g(QW(k+1)) (10)
由式子(9)和式子(10)得出W(k+1)的求解表达式:
进一步得出在第(k+1)次学习样本后,W(k+1)与W(k)的关系,W(k+1)迭代求解表达式为:
其中Φ(·)表示变换函数,Φ(E(k))表示诊断专家对诊断偏差的学习认知程度;
在式子(11)与式子(12)中,Q+表示隐含层输出矩阵Q的Moore-Penrose伪逆;将式子(1)按自变量z的取值区间进行分段处理,每段各自求出其反函数,再将各个取值区间的反函数拼接,g-1(z)的表达式为:
5.根据权利要求4所述的一种多类肺炎诊断系统,其特征在于,所述综合评估单元中,将完成训练的多个疾病诊断专家用于对未知是否患病的体检者所输入的X光正位胸片图像特征样本进行预判;各个专家相对独立,各自按学习认识的知识进行预测判断,总共得出对应的预判结果;针对多个初判结果,采用基于少数服从多数的投票决策原则得到诊断结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111039147.8A CN113476065B (zh) | 2021-09-06 | 2021-09-06 | 一种多类肺炎诊断系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111039147.8A CN113476065B (zh) | 2021-09-06 | 2021-09-06 | 一种多类肺炎诊断系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113476065A CN113476065A (zh) | 2021-10-08 |
CN113476065B true CN113476065B (zh) | 2022-04-22 |
Family
ID=77946511
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111039147.8A Active CN113476065B (zh) | 2021-09-06 | 2021-09-06 | 一种多类肺炎诊断系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113476065B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115797272A (zh) * | 2022-11-17 | 2023-03-14 | 普罗朗生物技术(无锡)有限公司 | 基于大数据ai的肺部健康的检测系统 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110504027A (zh) * | 2019-08-20 | 2019-11-26 | 东北大学 | 一种基于深度学习的X-Ray胸片肺炎智能诊断系统与方法 |
CN111951246A (zh) * | 2020-08-11 | 2020-11-17 | 湖南大学 | 一种基于深度学习的多方位x光胸片肺炎诊断方法 |
CN112101418A (zh) * | 2020-08-17 | 2020-12-18 | 华南理工大学 | 一种乳腺肿瘤类型识别方法、系统、介质及设备 |
CN113012133A (zh) * | 2021-03-22 | 2021-06-22 | 华南理工大学 | 一种新冠肺炎诊断系统、介质及设备 |
-
2021
- 2021-09-06 CN CN202111039147.8A patent/CN113476065B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110504027A (zh) * | 2019-08-20 | 2019-11-26 | 东北大学 | 一种基于深度学习的X-Ray胸片肺炎智能诊断系统与方法 |
CN111951246A (zh) * | 2020-08-11 | 2020-11-17 | 湖南大学 | 一种基于深度学习的多方位x光胸片肺炎诊断方法 |
CN112101418A (zh) * | 2020-08-17 | 2020-12-18 | 华南理工大学 | 一种乳腺肿瘤类型识别方法、系统、介质及设备 |
CN113012133A (zh) * | 2021-03-22 | 2021-06-22 | 华南理工大学 | 一种新冠肺炎诊断系统、介质及设备 |
Non-Patent Citations (2)
Title |
---|
A bagging dynamic deep learning network for diagnosing COVID-19;zhang zhijun等;《nature》;20210811(第11期);第1-15页 * |
深度学习在肺炎检测中的研究综述;李新等;《桂林理工大学学报》;20201130;第40卷(第4期);第859-866页 * |
Also Published As
Publication number | Publication date |
---|---|
CN113476065A (zh) | 2021-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Wang et al. | Simultaneous diagnosis of severity and features of diabetic retinopathy in fundus photography using deep learning | |
Alqudah et al. | COVID-19 detection from x-ray images using different artificial intelligence hybrid models | |
US5622171A (en) | Method and system for differential diagnosis based on clinical and radiological information using artificial neural networks | |
CN113191215A (zh) | 融合注意力机制与孪生网络结构的滚动轴承故障诊断方法 | |
CN110660478A (zh) | 一种基于迁移学习的癌症图像预测判别方法和系统 | |
CN112784856A (zh) | 胸部x射线图像的通道注意力特征提取方法和识别方法 | |
CN113593714A (zh) | 一种多分类新冠肺炎病例的检测方法、系统、设备及介质 | |
CN113610118A (zh) | 一种基于多任务课程式学习的眼底图像分类方法、装置、设备及介质 | |
CN114359629A (zh) | 一种基于深度迁移学习的肺炎x胸片分类识别方法 | |
CN116705300A (zh) | 基于体征数据分析的医疗决策辅助方法、系统及存储介质 | |
Shamrat et al. | Analysing most efficient deep learning model to detect COVID-19 from computer tomography images | |
CN113476065B (zh) | 一种多类肺炎诊断系统 | |
CN113012133A (zh) | 一种新冠肺炎诊断系统、介质及设备 | |
CN115761216A (zh) | 一种孤独症脑部核磁共振图像识别方法 | |
Swarna et al. | Detection of colon cancer using inception v3 and ensembled cnn model | |
CN117010971B (zh) | 一种基于人像识别的智能健康险提供方法及系统 | |
CN113052227A (zh) | 一种基于SE-ResNet的肺结核识别方法 | |
CN116452865B (zh) | 基于模糊逻辑的跳跃式注意力肺部病理图像分类方法 | |
CN114224354B (zh) | 心律失常分类方法、装置及可读存储介质 | |
CN116091446A (zh) | 食管内窥镜图像的异常检测方法、系统、介质及设备 | |
CN113033330A (zh) | 一种基于轻型卷积神经网络的舌体姿态异常判别方法 | |
Bakır et al. | DETECTION OF PNEUMONIA FROM X-RAY IMAGES USING DEEP LEARNING TECHNIQUES | |
Cao et al. | Alzheimer’s Disease Stage Detection Method Based on Convolutional Neural Network | |
Pavithra et al. | Systemic Lupus Erythematosus Detection using Deep Learning with Auxiliary Parameters | |
An et al. | A COVID-19 CXR image recognition method based on deep transfer learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |