CN109119159B - 一种基于快速权重机制的深度学习医疗诊断系统 - Google Patents
一种基于快速权重机制的深度学习医疗诊断系统 Download PDFInfo
- Publication number
- CN109119159B CN109119159B CN201810948263.3A CN201810948263A CN109119159B CN 109119159 B CN109119159 B CN 109119159B CN 201810948263 A CN201810948263 A CN 201810948263A CN 109119159 B CN109119159 B CN 109119159B
- Authority
- CN
- China
- Prior art keywords
- data
- module
- unit
- training
- hidden layer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/70—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Pathology (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
本发明涉及一种基于快速权重机制的深度学习医疗诊断系统,属于深度学习及大数据处理技术领域。包括数据预处理模块、参数设定模块、训练数据生成模块、加载及迭代模块、联合网络模型定义模块、前向模块以及联合模型训练模块;联合网络模型定义模块主要包括先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元和判决单元;快速权重机制单元的工作过程为:1)生成快速权重机制输入、隐藏层向量以及进行层规范化操作;联合模型训练模块的工作过程主要包括:采用Adam优化、计算交叉熵、分别将当前训练及测试数据送入前向模块中进行训练并计算准确度。所提诊断系统显著提高了决策准确率。
Description
技术领域
本发明涉及一种基于快速权重机制的深度学习医疗诊断系统,属于深度学习及大数据处理技术领域。
背景技术
现代医学发展迅速,即使这样,在医疗诊断技术领域依然会屡屡出现误诊及难诊的问题。一方面,疾病种类繁多且变体多样,导致正确诊断困难;例如,恶性肿瘤的早期筛查往往很难通过CT检查出来,而CT都不是常规体检所包含的项目;好多晚期癌症患者的肿瘤标志物结果为阴性,会让患者及经验不丰富的医生误认为未生病,从而导致诊断失误;此外还存在许多医疗记录信息及数据往往存在模糊、任务记录不全甚至丢失的情况,从而导致医生做出错误诊断。另一方面,医生往往需要经过多年的积累,通过大量的临床数据进行消化吸收,才能对疾病进行精确诊断;我们往往需要找到“好状态”下的“好大夫”才能正确确诊得到正确而及时的治疗。上述两方面信息,这对于医生及患者两方面而言都是亟待需要协助解决和缓解。
相比传统的医疗诊断系统,基于深度学习的医疗诊断系统可以通过自主学习获取疾病的特征,在某些疾病诊断及防治方面,甚至可以使人类摆脱对医疗专家的依赖。如何通过深度学习模型处理“正常”数据以及缺失数据并做出正确率尽量高的医疗诊断,是本申请致力于研究和解决的内容。
现有医疗诊断技术中,典型的学习诊断模型为:基于深度生成变分神经网络和判别式神经网络的联合模型。该模型具有学习稳健、可泛化特征以及端到端的深度学习结构。该网络结构可以很好地解决医疗诊断系统的三个问题:填补缺失值、寻找时序数据中的规律与模式以及诊断或预测疾病。
发明内容
本发明的目的针对现有VRNN和NN结合模型用于疾病预测方面准确率不高的技术现状,致力于通过数据提取及模型机制修改两方面来改进,提出了一种基于快速权重的深度学习医疗诊断系统。
本发明的核心思想是:提出了变分递归神经网络及判别神经联合网络模型,并在该联合网络模型中引入快速权重机制和层规范化,有效提高了模型训练和测试的准确度,同时也有效稳定了各层中的动态参数。
一种基于深度学习的医疗诊断系统,主要包括数据预处理模块、参数设定模块、训练数据生成模块、加载及迭代模块、联合网络模型定义模块、前向模块以及联合模型训练模块;
其中,数据预处理模块将庞杂的MIMIC数据集中的数据进行规范,转换为可训练及测试的统一格式及内容;
其中,参数设定模块设定的参数包括:训练数据集大小、测试数据集大小、批大小、隐藏变量z的大小、隐藏层大小、检查项数、时间步、快速权重步进、快速权重学习率、学习率、EPOCH、快速权重衰减率、变分网络损失函数以及判别网络损失比例系数;
其中,训练数据生成模块又包括生成训练集数据单元、生成测试集数据单元、生成训练集标签单元以及生成测试集标签单元;
加载及迭代模块又包括数据加载器和数据迭代器;
联合网络模型定义模块包括初始化偏置单元、先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元以及判决单元;
本系统各模块的连接方式如下:
数据预处理模块与训练数据生成模块相连,参数设定模块分别与加载及迭代模块、联合网络模型定义模块以及联合模型训练模块相连;训练数据生成模块与加载及迭代模块相连;加载及迭代模块与联合网络模型定义模块相连,联合网络模型定义模块与前向模块相连,前向模块与联合模型训练模块相连;
加载及迭代模块中的数据加载器与数据迭代器相连;
本系统各模块的功能如下:
数据预处理模块的功能是对MIMIC数据集数据进行预处理,即将庞杂的MIMIC数据集中的数据进行规范,转换为可训练及测试的统一格式及内容,具体包括维度变换、依据统计结果删减数据以及弥补必要缺失项为主的操作,输出数量及规格符合要求的训练和测试数据;
本系统各模块的功能如下:
数据预处理模块的功能是对要进行训练及测试的数据进行预处理,具体包括维度变换、依据统计结果删减数据以及弥补必要缺失项为主的操作,输出数量及规格符合要求的训练和测试数据;
参数设定模块的功能是为加载及迭代模块、联合网络模型定义模块以及联合模型训练模块提供参数,具体为:为训练数据生成模块提供训练数据集大小、测试数据集大小、检查项数和时间步以确定生成数据各个维度的大小,为加载及迭代模块提供批大小用以进行小批数据的生成;为联合网络模型定义模块提供隐藏变量z的大小、隐藏层大小、检查项数、时间步用来定义各神经网络各层的大小;为前向模块提供快速权重步进、快速权重学习率、快速权重衰减率进行快速权重的更新以及提供判别网络损失比例系数求整个模型总损失函数;为联合模型训练模块提供学习率用以进行反向运算、提供参数:EPOCH 进行确定对数据集的训练次数;
训练数据生成模块的功能是对经数据预处理模块预处理的数据进行维度转换,对于生成训练集数据单元和生成测试集数据单元,即将一维数据变换成可以输入到数据加载器中的三维数据,其中三维数据各维度的大小在参数设定模块中定义为训练数据集大小、时间步和检查项数参数;
加载及迭代模块中数据加载器的功能是将数据生成模块输出的训练集数据和训练集标签以及测试集数据和标签中按照样本对应起来,并保存在一个变量集合中,此外加载器还可以返回训练集和测试集的样本数;数据迭代器的功能是调用数据加载器产生的变量集合,将数据集分成一个个小批,输入到联合网络模型中,小批的大小在参数设定模块中定义;
联合网络模型定义模块的功能是定义联合模型中各个单元的网络结构,用以前向模块的调用和连接;具体包括定义先验单元、编码单元、特征提取单元、生成单元以及判决单元中各层的大小以及应用的非线性激活函数,定义GRU单元的输入变量和隐藏层变量的大小、隐藏层数,定义快速权重单元的输入慢权重、隐藏层变量慢权重以及层规范化操作,具体的快速权重更新和迭代规则在前向模块中定义;
前向模块的功能是完成整个训练或测试的前向过程,包括整个联合网络的运行以及生成损失函数的计算,在t时刻具体过程为调用联合网络模型定义模块中的特征提取单元提取x特征,以x特征和隐藏层变量为输入调用编码单元得到隐藏变量z,调用特征提取单元提取 z特征,运行先验和编码求相对熵损失函数,调用生成网络求交叉熵损失函数,以x特征、z特征为输入,隐藏层变量为状态,调用GRU 单元得到快速权重的初始隐藏层变量,更新快速权重矩阵,调用快速权重单元的两个慢权重和快速权重矩阵进行迭代,并对隐藏层变量进行层规范化操作和激活函数激活,得到迭代后的隐藏层变量;对每个时刻的隐藏层变量求平均,作为输入调用判决单元,得到最终的判决结果;
联合模型训练模块是整个训练和测试过程的主函数,包括选择参数优化器,调用训练集批数据,梯度初始化,运行前向模块,计算总损失函数,进行后向传播,调用测试集进行准确率测试过程。
其中,数据预处理模块的工作过程,包括如下步骤:
步骤1)筛选样本;
具体从MIMIC数据集中筛选出样本数最多的M种疾病和N种检查项目,并去除“LABEVENT.csv”中不属于这N种检查项的数据和“DIAGNOSES_IDC.csv”中不属于这M种疾病的数据,将筛选后的数据和标签分别保存成文件“M_ITEMID.csv”和“N_ICD9CODE.csv”;
其中,样本数对应患者数,指与同一相关疾病及检查项目相关的患者数;
步骤2)数据标签匹配;
统一数据和标签中的患者,即筛选出“M_ITEMID.csv”和“N_ICD9CODE.csv”中共有的检查项目,并去除其他患者的数据,使数据和标签一一对应,将结果保存成文件;
步骤3)筛选时间节点;
删去在某一时刻,检查项数目小于等于K的时间节点,保存成文件;
步骤4)筛选患者;
要求训练的时间步是一个固定值,确定一个时间步,即筛选出检查项目数量大于时间步的患者,保存成文件;
步骤5)补全缺失数据;
对于检查项数目大于K小于N的时间节点,数据依然是缺失的,需将这些数据补全,分别算出这N项检查项目的平均值,缺失的数据填入对应检查项目的平均值,结果保存成文件;
步骤6)数据截断;
将步骤5)已补全的数据截断,截取每个患者前TIME_STEP个时间步的数据用于输入;
步骤7)筛选标签;
在步骤4)筛选患者的过程中又对检查项目进行了筛选,因此按照训练数据中的检查项目,对训练标签进行筛选,筛选后的训练标签为x行的一维数据,称为训练标签;
其中,训练数据中保存的是样本的检查项目结果;
步骤9)拆分数据;
具体将训练数据进行拆分,X%保存为训练数据用于训练,Y%保存为测试数据用于测试,训练标签也以同样的比例分成训练标签和测试标签;
其中,X%+Y%=100%;
步骤10)数据标准化,即将已经变成x*y*z行的训练数据中的一维数据进行归一化。
加载及迭代模块中数据加载器以及数据迭代器的工作过程包括如下步骤:
步骤A1)判定数据加载器及目标加载器的第一维度大小是否相同,如果不相同则退出加载及迭代模块的工作过程,即不执行加载与迭代模块,否则如果相同则继续进行下面的步骤:
步骤A2)从数据加载器及目标加载器中获取对应项;
步骤A3)定义长度为数据加载器的大小;
步骤A4)加载训练数据:训练数据给数据加载器,训练标签给目标加载器;
步骤A5)加载测试数据:测试数据给数据加载器,测试标签给目标加载器;
步骤A6)将步骤A4)和步骤A5)加载的训练数据和测试数据分成多个小批。
先验单元的工作过程包括如下步骤:
步骤B1)用Linear,BatchNorm1d及ReLU求先验;
步骤B2)用Linear及BatchNorm1d求先验均值;
步骤B3)用Linear和Softplus求先验标准差;
编码单元的工作过程包括如下步骤:
步骤C1)用Linear及ReLU进行编码;
步骤C2)用Linear及BatchNorm1d求编码均值;
步骤C3)用Linear,BatchNorm1d和Softplus求编码标准差;
特征提取单元的工作过程包括如下步骤:
步骤D1)用Linear,BatchNorm1d及ReLU提取x特征;
步骤D2)用Linear,BatchNorm1d及ReLU提取z特征;
生成单元的工作过程包括如下步骤:
步骤E1)用Linear,BatchNorm1d及ReLU进行译码;
步骤E2)用Linear,BatchNorm1d及Sigmoid计算生成均值;
步骤E3)用Linear,BatchNorm1d及Softplus计算生成标准差;
快速权重机制单元的工作过程包括如下步骤:
步骤F1)用Linear生成快速权重机制输入的慢权重;
步骤F2)用Linear生成快速权重机制隐藏层向量的慢权重;
步骤F3)用LayerNorm实现快速权重机制的层规范化操作;
判决单元的工作过程为:用Linear,BatchNorm1d及Softmax生成判决网络,输出本系统的判决结果;
前向模块的工作过程包括如下步骤:
步骤HA)初始化生成损失函数,隐藏层向量以及快速权重矩阵 A;初始化隐藏层向量和h_sum为0;
其中,生成损失函数包含kld_loss和nll_loss两个参数,两者均被初始化为0;
步骤HB)针对当前t时刻,做如下步骤G1)到步骤G15)的操作:
步骤H1)调用特征提取单元提取x特征,即执行特征提取单元的工作过程的步骤D1):
步骤H2)调用编码单元进行编码;
其中,步骤H2)即执行编码单元的工作过程的步骤C1);
步骤H3)调用编码单元计算编码均值及编码标准差;
其中,步骤H3)即执行编码单元的工作过程的步骤C2)和步骤C3);
步骤H4)调用先验单元运行先验;
其中,步骤H4)即执行先验单元的工作过程的步骤B1);
步骤H5)调用先验单元计算先验均值及先验标准差;
其中,步骤H5)即执行先验单元的工作过程的步骤B2)和步骤B3);
步骤H6)由x特征生成隐藏变量z;
步骤H7)基于步骤H6)生成的隐藏变量z调用特征提取单元提取z特征;
其中,步骤H7)即执行特征提取单元的工作过程的步骤D2);
步骤H8)调用生成单元运行生成;
其中,步骤H8)即执行生成单元的工作过程的步骤E1);
步骤H9)计算生成均值及生成标准差;
其中,步骤H9)即执行生成单元的工作过程的步骤E2)和步骤E3);
步骤H10)将x特征和z特征级联形成X;
步骤H11)运行GRU单元;
其中,GRU单元调用GRU网络,GRU网络的输入为X,初始状态为隐藏层向量h;
步骤H12)利用隐藏层向量及设定的LR、DR生成快速权重矩阵 A;
步骤H13)基于快速权重矩阵A、输入慢权重矩阵自己隐藏层向量慢权重矩阵更新S次隐藏层向量;
其中,输入慢权重矩阵以及隐藏层向量慢权重矩阵分别由快速权重机制单元的步骤F1)和步骤F2)生成;
步骤H13)中的每次循环做如下操作:
步骤H13.1)计算当前步输入的慢权重和隐藏层向量的慢权重;
其中,步骤H13.1)对应执行快速权重机制单元的工作过程的步骤F1)和步骤F2);
步骤H13.2)对当前步的隐藏层向量进行层规范化操作;
其中,步骤H13.2)对应执行快速权重机制单元的工作过程的步骤F3);
步骤H13.3)将当前步的隐藏层向量通过激活函数Relu;
步骤H14)累加当前t时刻的隐藏层向量和h_sum;
步骤H15)累加更新kld_loss和nll_loss的值;
步骤HC)求隐藏层向量和基于时间步的均值,仍存为h_sum;
步骤HD)将h_sum均值输入判决单元,得到判决结果out;
其中,步骤HD)对应判决单元的工作过程;
步骤HE)返回生成损失函数kld_loss、nll_loss和判决结果out;
联合模型训练模块的工作过程包括如下步骤:
步骤I1)选择Adam优化器;
步骤I2)基于CrossEntropyLoss函数计算交叉熵,即判决损失函数;
步骤I3)改变输入批数据中训练数据的维度;
步骤I4)初始化当前EPOCH对应的梯度;
步骤I5)将当前训练数据送入联合网络模型进行训练;
其中,送入联合网络模型进行训练是指运行整个前向模块;其中,前向模块中会调用联合网络定义模块中的所有单元,包括:先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元和判决单元,还会调用生成损失函数;进入联合网络模型进行训练的具体过程如下:
在t时刻具体过程为调用联合网络模型定义模块中的特征提取单元提取x特征,以x特征和隐藏层向量为输入调用编码单元得到隐藏变量z,调用特征提取单元提取z特征,调用先验网络和编码网络求相对熵损失函数,调用生成网络求交叉熵损失函数,以x特征、z特征为输入,隐藏层变量为状态,调用GRU单元得到快速权重的初始隐藏层变量,更新快速权重矩阵,调用快速权重单元的两个慢权重和快速权重矩阵进行迭代,并对隐藏层变量进行层规范化操作和激活函数激活,得到迭代后的隐藏层变量;对每个时刻的隐藏层变量求平均,作为输入调用判决单元,得到最终的判决结果;
步骤I6)计算总的损失函数;
其中,总的损失函数包括生成损失函数和判决损失函数;
步骤I7)运行后向传播;
步骤I8)计算梯度;
步骤I9)装载测试数据并改变测试数据维度;
步骤I10)将当前测试数据送入联合网络模型进行测试;
其中,送入联合模型进行测试是指运行整个前向模块;运行前向模块的具体过程如步骤I5)所述;
步骤I11)计算准确度并输出。
有益效果
本发明一种基于深度学习的医疗诊断系统,与现医疗诊断系统相比,具有如下有益效果:
1.本发明所提系统通过变分递归神经网络模拟出数据的时序性特征有效解决数据缺失问题;
2.本发明所提系统经过训练和测试,结果显示我们的模型对疾病决策的准确率接近90%,显著提高了决策准确率这样的结果说明我们的模型在进行疾病诊断上具有一定的参考价值。
附图说明
图1是本发明一种基于快速权重机制的深度学习医疗诊断系统的模块组成示意图;
图2是本发明一种基于快速权重机制的深度学习医疗诊断系统中加载及迭代模块的工作过程示意图;
图3是本发明一种基于快速权重机制的深度学习医疗诊断系统中的联合网络定义模块的流程图;
图4是本发明一种基于快速权重机制的深度学习医疗诊断系统中前向模块的流程图;
图5是本发明一种基于快速权重机制的深度学习医疗诊断系统的联合模型训练模块的流程图;
图6是本发明一种基于快速权重机制的深度学习医疗诊断系统的仿真结果。
具体实施方式
下面结合附图和实施例对本发明做进一步说明和详细描述。
实施例1
本实施例叙述了本发明数据预处理的具体实施。
在开始联合模型训练前,需要将庞杂的MIMIC数据集中的数据进行规范,即对数据进行预处理,转换为可训练及测试的统一格式及内容。
具体实施时,选择了样本数最多的10种疾病和10种检查项,即M=10,N=10。其原因是,样本最多的10种疾病样本数占 6984种疾病总样本数量的15%,最多的10种检查项目样本数占 726种检查项总样本数的28.73%,样本数量大,便于训练。预处理过程如下:
筛选样本时,筛选出样本数最多的10种疾病和10种检查项,并去除“LABEVENT.csv”中不属于这10种检查项的数据和“DIAGNOSES_IDC.csv”中不属于这10种疾病的数据,将筛选后的数据和标签分别保存成文件“10ITEMID.csv”和“10ICD9CODE.csv”。
数据标签匹配时,统一数据和标签中的患者,即筛选出“10ITEMID.csv”和“10ICD9CODE.csv”中共有的 SUBJECT_ID,并去除其他患者的数据,使数据和标签一一对应,将结果保存成文件“MATCHSUBJECT_ID.csv”;
筛选时间节点,由于不同时刻进行的检查项的数目不同,因此有些时刻检查项目的测试数据也是无法使用的,例如表1 中SUJECT_ID=3的患者在2010-10-1204:40:00时刻,只进行了ITEMID=50912和51006两项检查,其他8项检查结果均未知,因此我们就要删去这样的时间节点,我们删去在某一时刻,检查项数目小于等于4的时间节点,保存成文件“DELTIME.csv”。
表1无效时间节点举例
筛选患者,由于每个患者住院时间长短的不同,进行检查的次数也是不同的,即时间节点的个数不同。但我们要求训练的时间步是一个固定值,因此我们需要定一个确定的时间步 y,令y=20,即筛选出检查次数大于20的患者,保存成文件“DELSUBJECT_ID.csv”。
补全缺失数据,在“筛选时间节点”这一步中已经删去了检查项数目小于等于4的时间节点,但对于检查项数目大于4 小于10的时间节点,数据依然是缺失的,因此我们需将这些数据补全,分别算出这10项检查项的平均值,缺失的数据填入对应项目的平均值,结果保存成文件“INSERTROW.csv”;
数据截断并标准化,具体为:将已经补全的数据截断,截取每个患者前20个时间节点的数据用于输入,经过上述处理, train_data已经变成x*y*z行的一维数据,将其变成(x,y,z)的三维数据,并对VALUENUM进行标准化;
其中,x代表患者的数目,y代表训练的时间步,即每个患者在y个时间点进行了实验室测试,z代表每次实验室测试测试的z个检查项目;
筛选标签,由于在筛选患者的过程中又对SUBJECT_ID进行了筛选,所以最后一步的任务就是按照train_data中的 SUBJECT_ID,对训练标签进行筛选,筛选后的训练标签为x行的一维数据,记为train_labels。
最后将train_data进行拆分,75%保存为train_data用于训练,train_data数据,25%保存为test_data用于测试, train_labels也以同样的比例分成train_labels和test_labels,train_labels数据;
至此,就完成了MIMIC-III数据的预处理工作。
实施例2
本实施例叙述了本发明一种基于快速权重机制的深度学习医疗诊断系统的模块组成以及各个模块的工作过程与具体实施例。
如图1所示,为本发明所提出的一种基于快速权重机制的深度学习医疗诊断系统的模块组成示意图。
从图1中可以看出,数据预处理模块处理完的数据送给训练数据生成模块,再分别经训练集数据生成单元生成训练集数据、经测试集数据生成单元生成测试集数据、经训练集标签生成单元生成训练集标签以及经测试集标签生成单元生成测试集标签;训练数据生成模块的输出送入加载及迭代模块;加载及迭代模块的输出进入联合网络模型定义模块,联合网络模型定义模块的输出进入联合模型训练模块;参数设定模块分别与加载及迭代模块、联合网络模型定义模块以及联合模型训练模块相连,控制这三种模块中操作的参数。
具体到本实施例,参数设定模块中设定的参数如下:
数据加载器及目标加载器均被初始化为训练数据集大小为6000,测试集大小为2000;批大小:记为BATCH_SIZE,由数据加载器调用,具体实施时每批数据的样本数为50、100、150以及200,也可以设定为大于20小于300的其他整数;隐藏变量z的大小:记为z_size,设为20、隐藏层大小:记为h_size,设为128、检查项数:记为 INPUT_SIZE,设为10、时间步:记为TIME_STEP,设为20、快速权重步进:记为S,具体实施时,根据隐藏层变量之间的关联紧密度设定为1、3、5、7为主的整数;快速权重学习率:记为LR,具体实施时,参数可设为0.3、0.5、0.7以及0.95、学习率:记为lr,设为0.005、 EPOCH设为1000、快速权重衰减率:记为DR,设为0.95,具体实施时可修改为其他在0.3到1范围内的实数;生成损失函数 kld_loss+nll_loss以及判别损失的比例系数:记为gama,设为15,具体实施时也可将修改为在5到30范围内的整数。
图2是本系统中加载及迭代模块的组成及工作过程示意图;从图2可以看出,加载及迭代模块的工作过程包括定义数据加载器以及定义数据迭代器两部分;
其中,定义加载器又包括如下子步骤:
步骤J1)判定数据加载器及目标加载器的第一维度大小是否相同,相同则继续进行下面的步骤;
其中,具体到实例,第一维度的大小代表的是数据集总样本数的大小;
步骤J2)从数据加载器及目标加载器中获取对应项;
步骤J3)定义长度为数据加载器的大小;
步骤J4)加载训练数据:训练数据给数据加载器;训练标签给目标加载器;
步骤J5)加载测试数据:测试数据给数据加载器;测试标签给目标加载器。
图3是本发明一种基于快速权重机制的深度学习医疗诊断系统中的联合网络定义模块组成及操作流程。
从图3可以看出联合网络模型定义模块包括初始化偏置单元、先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元以及判决单元。
其中,先验单元的工作过程包括如下步骤:
步骤K1)用Linear,BatchNorm1d及ReLU求先验;
其中,Linear的输入大小为h_size,输出大小为h_size;
步骤K2)用Linear及BatchNorm1d求先验均值;
其中,Linear的输入大小为h_size,输出大小为z_size;
步骤K3)用Linear和Softplus求先验标准差;
其中,Linear的输入大小为h_size,输出大小为z_size;
编码单元的工作过程包括如下步骤:
步骤L1)用Linear及ReLU进行编码;
其中,Linear的输入大小为h_size+INPUT_SIZE,输出大小为h_size+INPUT_SIZE;
步骤L2)用Linear及BatchNorm1d求编码均值;
其中,Linear的输入大小为h_size+INPUT_SIZE,输出大小为 z_size;
步骤L3)用Linear,BatchNorm1d和Softplus求编码标准差;
其中,Linear的输入大小为h_size+INPUT_SIZE,输出大小为 z_size;
特征提取单元的工作过程包括如下步骤:
步骤M1)用Linear,BatchNorm1d及ReLU提取x特征;
其中,Linear的输入大小为INPUT_SIZE,输出大小为INPUT_SIZE;
步骤M2)用Linear,BatchNorm1d及ReLU提取z特征;
其中,Linear的输入大小为z_size,输出大小为z_size;
生成单元的工作过程包括如下步骤:
步骤N1)用Linear,BatchNorm1d及ReLU进行译码;
其中,Linear的输入大小为h_size+z_size,输出大小为h_size +z_size;
步骤N2)用Linear,BatchNorm1d及Sigmoid计算生成均值;
其中,Linear的输入大小为h_size+z_size,输出大小为 INPUT_SIZE;
步骤N3)用Linear,BatchNorm1d及Softplus计算生成标准差;
其中,Linear的输入大小为h_size+z_size,输出大小为 INPUT_SIZE;
快速权重机制单元的工作过程包括如下步骤:
步骤O1)用Linear生成快速权重机制的输入;
其中,Linear的输入大小为z_size+INPUT_SIZE,输出大小为h_size;
步骤O2)用Linear生成快速权重机制的隐藏层向量;
其中,Linear的输入大小为h_size,输出大小为h_size;
步骤O3)用LayerNorm实现快速权重机制的层规范化操作;
判决单元的工作过程为:用Linear,BatchNorm1d及 Softmax生成判决网络,输出本系统的判决结果;
其中,Linear的输入大小为h_size,输出大小为 INPUT_SIZE,即10;
图4是图1中前向模块工作过程的流程图,从图4可以看出,前向模块的工作过程包括如下步骤:
步骤P1)初始化生成损失函数kld_loss和nll_loss为0,隐藏层向量以及快速权重矩阵A;初始化隐藏层向量和为0;
步骤P2)运行当前t时刻的操作,具体又包括如下子步骤:
步骤P2.1)调用特征提取单元提取x特征;
步骤P2.2)调用编码单元进行编码,计算编码均值和编码标准差;
步骤P2.3)调用先验单元运行先验,计算先验均值和先验标准差;
步骤P2.4)由x特征生成隐藏变量z,基于此调用特征提取单元提取z特征;具体通过reparameterized_sample函数实现;
步骤P2.5)调用生成单元运行生成,计算生成均值和生成标准差;
步骤P2.6)将x特征和z特征级联形成X;
步骤P2.7)运行GRU单元即调用GRU网络,其中GRU网络输入为X,初始状态为隐藏层向量h,GRU层数为1;
步骤P2.8)利用隐藏层向量及设定的LR、DR生成快速权重矩阵A;
步骤P2.9)基于快速权重矩阵A、输入慢权重矩阵以及隐藏层向量慢权重矩阵更新S次隐藏层向量;
其中,输入慢权重矩阵以及隐藏层向量慢权重矩阵分别由快速权重机制单元的步骤F1)或步骤O1)和步骤F2)或步骤 O2)生成;
步骤P2.10)累加当前t时刻的隐藏层向量和,累加更新 kld_loss和nll_loss的值,具体使用kld_gauss和 nll_bernoulli函数;
步骤P3)求隐藏层向量和基于时间步的均值,并输出该均值以及kld_loss和nll_loss。
图5是本发明一种基于快速权重机制的深度学习医疗诊断系统的联合模型训练模块的流程图。
从图5可以看出,联合模型训练模块的工作过程如下:
步骤Q1)选择Adam优化器;
步骤Q2)基于CrossEntropyLoss函数计算交叉熵,即判决损失函数;
步骤Q3)改变输入批数据中训练数据的维度;
步骤Q4)初始化当前Epoch数据对应的梯度;
步骤Q5)将当前训练数据送入联合模型进行训练;
步骤Q6)调用gama作为判决损失函数和生成损失函数的比例系数,计算联合模型总损失函数;
步骤Q7)运行后向传播;
步骤Q8)计算梯度;
步骤Q9)装载测试数据并改变测试数据维度;
步骤Q10)将当前测试数据送入联合模型进行测试;
步骤Q11)依据测试集中2000个样本的判决结果计算准确度并输出。
实施例3
本实施例叙述了一种基于快速权重机制的深度学习医疗诊断系统的仿真结果,如图6所示;其中,虚线是现有技术的医疗诊断系统的仿真结果;实线是本申请提出的一种基于快速权重机制的深度学习医疗诊断系统的仿真结果。
从图6可以看出,不论是本系统还是现有医疗诊断系统总体上随着EPOCH数的增加准确率逐渐提升并渐进稳定,即收敛。具体地:EPOCH数从100到1000期间,其准确率呈现抛物状提升的趋势,且渐进稳定。
然而,现有医疗诊断系统的准确度一直低于本发明基于快速权重机制单元的医疗诊断系统的准确率,且两者准确度相差大于10%。在1000个EPOCH训练结束后,本发明所述医疗系统的诊断准确率高达85.80%,而现有技术的医疗诊断系统模型的准确率仅为72.55%。
仿真结果一方面表明,本系统给出的结果可以在一定程度上起到辅助医疗诊断的作用。
以上所述为本发明的较佳实施例而已,本发明不应该局限于该实施例和附图所公开的内容。凡是不脱离本发明所公开的精神下完成的等效或修改,都落入本发明保护的范围。
Claims (3)
1.一种基于快速权重的深度学习医疗诊断系统,其特征在于:核心思想是:提出了变分递归神经网络及判别神经联合网络模型,并在该联合网络模型中引入快速权重机制和层规范化,有效提高了模型训练和测试的准确度,同时也有效稳定了各层中的动态参数;
所述医疗诊断系统,包括数据预处理模块、参数设定模块、训练数据生成模块、加载及迭代模块、联合网络模型定义模块、前向模块以及联合模型训练模块;
其中,数据预处理模块将庞杂的MIMIC数据集中的数据进行规范,转换为可训练及测试的统一格式及内容;
其中,参数设定模块设定的参数包括:训练数据集大小、测试数据集大小、批大小、隐藏变量z的大小、隐藏层大小、检查项数、时间步、快速权重步进、快速权重学习率、学习率、EPOCH、快速权重衰减率、变分网络损失函数以及判别网络损失比例系数;
其中,训练数据生成模块又包括生成训练集数据单元、生成测试集数据单元、生成训练集标签单元以及生成测试集标签单元;
加载及迭代模块又包括数据加载器和数据迭代器;
联合网络模型定义模块包括初始化偏置单元、先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元以及判决单元;
本系统各模块的连接方式如下:
数据预处理模块与训练数据生成模块相连,参数设定模块分别与加载及迭代模块、联合网络模型定义模块以及联合模型训练模块相连;训练数据生成模块与加载及迭代模块相连;加载及迭代模块与联合网络模型定义模块相连,联合网络模型定义模块与前向模块相连,前向模块与联合模型训练模块相连;
加载及迭代模块中的数据加载器与数据迭代器相连;
本系统各模块的功能如下:
数据预处理模块的功能是对MIMIC数据集数据进行预处理,即将庞杂的MIMIC数据集中的数据进行规范,转换为可训练及测试的统一格式及内容,具体包括维度变换、依据统计结果删减数据以及弥补必要缺失项为主的操作,输出数量及规格符合要求的训练和测试数据,具体包括维度变换、依据统计结果删减数据以及弥补必要缺失项,输出数量及规格符合要求的训练和测试数据;
参数设定模块的功能是为加载及迭代模块、联合网络模型定义模块以及联合模型训练模块提供参数,具体为:为训练数据生成模块提供训练数据集大小、测试数据集大小、检查项数和时间步以确定生成数据各个维度的大小,为加载及迭代模块提供批大小用以进行小批数据的生成;为联合网络模型定义模块提供隐藏变量z的大小、隐藏层大小、检查项数、时间步用来定义各神经网络各层的大小;为前向模块提供快速权重步进、快速权重学习率、快速权重衰减率进行快速权重的更新以及提供判别网络损失比例系数求整个模型总损失函数;为联合模型训练模块提供学习率用以进行反向运算、提供参数:EPOCH进行确定对数据集的训练次数;
训练数据生成模块的功能是对经数据预处理模块预处理的数据进行维度转换,对于生成训练集数据单元和生成测试集数据单元,即将一维数据变换成可以输入到数据加载器中的三维数据,其中三维数据各维度的大小在参数设定模块中定义为训练数据集大小、时间步和检查项数参数;
加载及迭代模块中数据加载器的功能是将数据生成模块输出的训练集数据和训练集标签以及测试集数据和标签中按照样本对应起来,并保存在一个变量集合中,此外加载器还可以返回训练集和测试集的样本数;数据迭代器的功能是调用数据加载器产生的变量集合,将数据集分成一个个小批,输入到联合网络模型中,小批的大小在参数设定模块中定义;
联合网络模型定义模块的功能是定义联合模型中各个单元的网络结构,用以前向模块的调用和连接;具体包括定义先验单元、编码单元、特征提取单元、生成单元以及判决单元中各层的大小以及应用的非线性激活函数,定义GRU单元的输入变量和隐藏层变量的大小、隐藏层数,定义快速权重单元的输入慢权重、隐藏层变量慢权重以及层规范化操作,具体的快速权重更新和迭代规则在前向模块中定义;
前向模块的功能是完成整个训练或测试的前向过程,包括整个联合网络的运行以及生成损失函数的计算,在t时刻具体过程为调用联合网络模型定义模块中的特征提取单元提取x特征,以x特征和隐藏层变量为输入调用编码单元得到隐藏变量z,调用特征提取单元提取z特征,运行先验和编码求相对熵损失函数,调用生成网络求交叉熵损失函数,以x特征、z特征为输入,隐藏层变量为状态,调用GRU单元得到快速权重的初始隐藏层变量,更新快速权重矩阵,调用快速权重单元的两个慢权重和快速权重矩阵进行迭代,并对隐藏层变量进行层规范化操作和激活函数激活,得到迭代后的隐藏层变量;对每个时刻的隐藏层变量求平均,作为输入调用判决单元,得到最终的判决结果;
联合模型训练模块是整个训练和测试过程的主函数,包括选择参数优化器,调用训练集批数据,梯度初始化,运行前向模块,计算总损失函数,进行后向传播,调用测试集进行准确率测试过程。
2.根据权利要求1所述的一种基于快速权重的深度学习医疗诊断系统,其特征在于:数据预处理模块的工作过程,包括如下步骤:
步骤1)筛选样本;
具体从MIMIC数据集中筛选出样本数最多的M种疾病和N种检查项目,并去除“LABEVENT.csv”中不属于这N种检查项的数据和“DIAGNOSES_IDC.csv”中不属于这M种疾病的数据,将筛选后的数据和标签分别保存成文件“M_ITEMID.csv”和“N_ICD9CODE.csv”;
其中,样本数对应患者数,指与同一相关疾病及检查项目相关的患者数;
步骤2)数据标签匹配;
统一数据和标签中的患者,即筛选出“M_ITEMID.csv”和“N_ICD9CODE.csv”中共有的检查项目,并去除其他患者的数据,使数据和标签一一对应,将结果保存成文件;
步骤3)筛选时间节点;
删去在某一时刻,检查项数目小于等于K的时间节点,保存成文件;
步骤4)筛选患者;
要求训练的时间步是一个固定值,确定一个时间步,即筛选出检查项目数量大于时间步的患者,保存成文件;
步骤5)补全缺失数据;
对于检查项数目大于K小于N的时间节点,数据依然是缺失的,需将这些数据补全,分别算出这N项检查项目的平均值,缺失的数据填入对应检查项目的平均值,结果保存成文件;
步骤6)数据截断;
将步骤5)已补全的数据截断,截取每个患者前TIME_STEP个时间步的数据用于输入;
步骤7)筛选标签;
在步骤4)筛选患者的过程中又对检查项目进行了筛选,因此按照训练数据中的检查项目,对训练标签进行筛选,筛选后的训练标签为x行的一维数据,称为训练标签;
其中,训练数据中保存的是样本的检查项目结果;
步骤8)拆分数据;
具体将训练数据进行拆分,X%保存为训练数据用于训练,Y%保存为测试数据用于测试,训练标签也以同样的比例分成训练标签和测试标签;
其中,X%+Y%=100%;
步骤9)数据标准化,即将已经变成x*y*z行的训练数据中的一维数据进行归一化。
3.根据权利要求1所述的一种基于快速权重的深度学习医疗诊断系统,其特征在于:加载及迭代模块中数据加载器以及数据迭代器的工作过程包括如下步骤:
步骤A1)判定数据加载器及目标加载器的第一维度大小是否相同,如果不相同则退出加载及迭代模块的工作过程,即不执行加载与迭代模块,否则如果相同则继续进行下面的步骤:
步骤A2)从数据加载器及目标加载器中获取对应项;
步骤A3)定义长度为数据加载器的大小;
步骤A4)加载训练数据:训练数据给数据加载器,训练标签给目标加载器;
步骤A5)加载测试数据:测试数据给数据加载器,测试标签给目标加载器;
步骤A6)将步骤A4)和步骤A5)加载的训练数据和测试数据分成多个小批;
先验单元的工作过程包括如下步骤:
步骤B1)用Linear,BatchNorm1d及ReLU求先验;
步骤B2)用Linear及BatchNorm1d求先验均值;
步骤B3)用Linear和Softplus求先验标准差;
编码单元的工作过程包括如下步骤:
步骤C1)用Linear及ReLU进行编码;
步骤C2)用Linear及BatchNorm1d求编码均值;
步骤C3)用Linear,BatchNorm1d和Softplus求编码标准差;
特征提取单元的工作过程包括如下步骤:
步骤D1)用Linear,BatchNorm1d及ReLU提取x特征;
步骤D2)用Linear,BatchNorm1d及ReLU提取z特征;
生成单元的工作过程包括如下步骤:
步骤E1)用Linear,BatchNorm1d及ReLU进行译码;
步骤E2)用Linear,BatchNorm1d及Sigmoid计算生成均值;
步骤E3)用Linear,BatchNorm1d及Softplus计算生成标准差;
快速权重机制单元的工作过程包括如下步骤:
步骤F1)用Linear生成快速权重机制输入的慢权重;
步骤F2)用Linear生成快速权重机制隐藏层向量的慢权重;
步骤F3)用LayerNorm实现快速权重机制的层规范化操作;
判决单元的工作过程为:用Linear,BatchNorm1d及Softmax生成判决网络,输出本系统的判决结果;
前向模块的工作过程包括如下步骤:
步骤HA)初始化生成损失函数,隐藏层向量以及快速权重矩阵A;初始化隐藏层向量和h_sum为0;
其中,生成损失函数包含kld_loss和nll_loss两个参数,两者均被初始化为0;
步骤HB)针对当前t时刻,做如下步骤H1)到步骤H15)的操作:
步骤H1)调用特征提取单元提取x特征,即执行特征提取单元的工作过程的步骤D1):
步骤H2)调用编码单元进行编码;
其中,步骤H2)即执行编码单元的工作过程的步骤C1);
步骤H3)调用编码单元计算编码均值及编码标准差;
其中,步骤H3)即执行编码单元的工作过程的步骤C2)和步骤C3);
步骤H4)调用先验单元运行先验;
其中,步骤H4)即执行先验单元的工作过程的步骤B1);
步骤H5)调用先验单元计算先验均值及先验标准差;
其中,步骤H5)即执行先验单元的工作过程的步骤B2)和步骤B3);
步骤H6)由x特征生成隐藏变量z;
步骤H7)基于步骤H6)生成的隐藏变量z调用特征提取单元提取z特征;
其中,步骤H7)即执行特征提取单元的工作过程的步骤D2);
步骤H8)调用生成单元运行生成;
其中,步骤H8)即执行生成单元的工作过程的步骤E1);
步骤H9)计算生成均值及生成标准差;
其中,步骤H9)即执行生成单元的工作过程的步骤E2)和步骤E3);
步骤H10)将x特征和z特征级联形成X;
步骤H11)运行GRU单元;
其中,GRU单元调用GRU网络,GRU网络的输入为X,初始状态为隐藏层向量h;
步骤H12)利用隐藏层向量及设定的LR、DR生成快速权重矩阵A;
步骤H13)基于快速权重矩阵A、输入慢权重矩阵自己隐藏层向量慢权重矩阵更新S次隐藏层向量;
其中,输入慢权重矩阵以及隐藏层向量慢权重矩阵分别由快速权重机制单元的步骤F1)和步骤F2)生成;
步骤H13)中的每次循环做如下操作:
步骤H13.1)计算当前步输入的慢权重和隐藏层向量的慢权重;
其中,步骤H13.1)对应执行快速权重机制单元的工作过程的步骤F1)和步骤F2);
步骤H13.2)对当前步的隐藏层向量进行层规范化操作;
其中,步骤H13.2)对应执行快速权重机制单元的工作过程的步骤F3);
步骤H13.3)将当前步的隐藏层向量通过激活函数Relu;
步骤H14)累加当前t时刻的隐藏层向量和h_sum;
步骤H15)累加更新kld_loss和nll_loss的值;
步骤HC)求隐藏层向量和基于时间步的均值,仍存为h_sum;
步骤HD)将h_sum均值输入判决单元,得到判决结果out;
其中,步骤HD)对应判决单元的工作过程;
步骤HE)返回生成损失函数kld_loss、nll_loss和判决结果out;
联合模型训练模块的工作过程包括如下步骤:
步骤I1)选择Adam优化器;
步骤I2)基于CrossEntropyLoss函数计算交叉熵,即判决损失函数;
步骤I3)改变输入批数据中训练数据的维度;
步骤I4)初始化当前EPOCH对应的梯度;
步骤I5)将当前训练数据送入联合网络模型进行训练;
其中,送入联合网络模型进行训练是指运行整个前向模块;其中,前向模块中会调用联合网络定义模块中的所有单元,包括:先验单元、编码单元、特征提取单元、生成单元、GRU单元、快速权重机制单元和判决单元,还会调用生成损失函数;进入联合网络模型进行训练的具体过程如下:
在t时刻具体过程为调用联合网络模型定义模块中的特征提取单元提取x特征,以x特征和隐藏层向量为输入调用编码单元得到隐藏变量z,调用特征提取单元提取z特征,调用先验网络和编码网络求相对熵损失函数,调用生成网络求交叉熵损失函数,以x特征、z特征为输入,隐藏层变量为状态,调用GRU单元得到快速权重的初始隐藏层变量,更新快速权重矩阵,调用快速权重单元的两个慢权重和快速权重矩阵进行迭代,并对隐藏层变量进行层规范化操作和激活函数激活,得到迭代后的隐藏层变量;对每个时刻的隐藏层变量求平均,作为输入调用判决单元,得到最终的判决结果;
步骤I6)计算总的损失函数;
其中,总的损失函数包括生成损失函数和判决损失函数;
步骤I7)运行后向传播;
步骤I8)计算梯度;
步骤I9)装载测试数据并改变测试数据维度;
步骤I10)将当前测试数据送入联合网络模型进行测试;
其中,送入联合模型进行测试是指运行整个前向模块;运行前向模块的具体过程如步骤I5)所述;
步骤I11)计算准确度并输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810948263.3A CN109119159B (zh) | 2018-08-20 | 2018-08-20 | 一种基于快速权重机制的深度学习医疗诊断系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810948263.3A CN109119159B (zh) | 2018-08-20 | 2018-08-20 | 一种基于快速权重机制的深度学习医疗诊断系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109119159A CN109119159A (zh) | 2019-01-01 |
CN109119159B true CN109119159B (zh) | 2022-04-15 |
Family
ID=64853543
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810948263.3A Active CN109119159B (zh) | 2018-08-20 | 2018-08-20 | 一种基于快速权重机制的深度学习医疗诊断系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109119159B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111314934B (zh) * | 2020-02-14 | 2021-08-10 | 西北工业大学 | 一种统一最优判决的网络协同探测方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005022343A2 (en) * | 2003-08-29 | 2005-03-10 | Exscientia, Llc | System and methods for incrementally augmenting a classifier |
CN106901723A (zh) * | 2017-04-20 | 2017-06-30 | 济南浪潮高新科技投资发展有限公司 | 一种心电图异常自动诊断方法 |
CN108231201A (zh) * | 2018-01-25 | 2018-06-29 | 华中科技大学 | 一种疾病数据分析处理模型的构建方法、系统及应用 |
CN108288502A (zh) * | 2018-04-11 | 2018-07-17 | 平安科技(深圳)有限公司 | 疾病预测方法及装置、计算机装置及可读存储介质 |
-
2018
- 2018-08-20 CN CN201810948263.3A patent/CN109119159B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2005022343A2 (en) * | 2003-08-29 | 2005-03-10 | Exscientia, Llc | System and methods for incrementally augmenting a classifier |
CN106901723A (zh) * | 2017-04-20 | 2017-06-30 | 济南浪潮高新科技投资发展有限公司 | 一种心电图异常自动诊断方法 |
CN108231201A (zh) * | 2018-01-25 | 2018-06-29 | 华中科技大学 | 一种疾病数据分析处理模型的构建方法、系统及应用 |
CN108288502A (zh) * | 2018-04-11 | 2018-07-17 | 平安科技(深圳)有限公司 | 疾病预测方法及装置、计算机装置及可读存储介质 |
Non-Patent Citations (2)
Title |
---|
基于数据挖掘技术的辅助医疗诊断系统;吴炜;《医学信息学杂志》;20101231;第31卷(第12期);第22-26页 * |
基于模糊神经网络的腹痛疾病;施宇等;《辽宁工学院学报》;20070228;第27卷(第1期);第18-21页 * |
Also Published As
Publication number | Publication date |
---|---|
CN109119159A (zh) | 2019-01-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2016192612A1 (zh) | 基于深度学习对医疗数据进行分析的方法及其智能分析仪 | |
CN109192298B (zh) | 基于脑网络的深度脑疾病诊断算法 | |
Carvalho et al. | An approach to the classification of COVID-19 based on CT scans using convolutional features and genetic algorithms | |
CN110993094A (zh) | 一种基于医学图像的智能辅助诊断方法及终端 | |
CN111180068A (zh) | 一种基于多任务学习模型的慢病预测系统 | |
CN112487193B (zh) | 一种基于自编码器的零样本图片分类方法 | |
CN109753571A (zh) | 一种基于二次主题空间投影的场景图谱低维空间嵌入方法 | |
Shubham et al. | Identify glomeruli in human kidney tissue images using a deep learning approach | |
Purnama et al. | Disease classification based on dermoscopic skin images using convolutional neural network in teledermatology system | |
CN115271033B (zh) | 基于联邦知识蒸馏医学图像处理模型构建及其处理方法 | |
CN110349668A (zh) | 一种基于bp神经网络的治疗方案辅助决策方法及其系统 | |
Sheremet et al. | Diagnosis of lung disease based on medical images using artificial neural networks | |
KR101955526B1 (ko) | 혈액종합검사 소견 생성 방법 및 시스템 | |
Galić et al. | Application of Neural Networks and Machine Learning in Image Recognition | |
CN113780483B (zh) | 结节超声分类数据处理方法及数据处理系统 | |
CN109119159B (zh) | 一种基于快速权重机制的深度学习医疗诊断系统 | |
CN111091916A (zh) | 人工智能中基于改进粒子群算法的数据分析处理方法及系统 | |
CN113012133A (zh) | 一种新冠肺炎诊断系统、介质及设备 | |
CN114224354B (zh) | 心律失常分类方法、装置及可读存储介质 | |
CN113476065B (zh) | 一种多类肺炎诊断系统 | |
CN114708347A (zh) | 一种基于自适应选择的双源域异构迁移学习的肺结节ct图像分类方法 | |
Lantang et al. | Convolutional neural network for predicting the spread of cancer | |
CN117689625B (zh) | 多任务混杂神经网络驱动的ct图像处理方法和类脑诊断系统 | |
CN117116476B (zh) | 下游任务预测方法、装置及计算机可读存储介质 | |
CN115879513B (zh) | 一种数据的层次化标准化方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |