CN114566281A - 脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 - Google Patents
脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 Download PDFInfo
- Publication number
- CN114566281A CN114566281A CN202210201686.5A CN202210201686A CN114566281A CN 114566281 A CN114566281 A CN 114566281A CN 202210201686 A CN202210201686 A CN 202210201686A CN 114566281 A CN114566281 A CN 114566281A
- Authority
- CN
- China
- Prior art keywords
- layer
- convolution
- module
- attention
- attention residual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 208000004930 Fatty Liver Diseases 0.000 title claims abstract description 57
- 238000003745 diagnosis Methods 0.000 title claims abstract description 37
- 238000000034 method Methods 0.000 title claims abstract description 21
- 238000012549 training Methods 0.000 title claims abstract description 11
- 239000011159 matrix material Substances 0.000 claims abstract description 36
- 238000005070 sampling Methods 0.000 claims abstract description 12
- 238000000605 extraction Methods 0.000 claims abstract description 10
- 230000006870 function Effects 0.000 claims description 83
- 230000004913 activation Effects 0.000 claims description 80
- 238000010606 normalization Methods 0.000 claims description 66
- 238000011176 pooling Methods 0.000 claims description 24
- 238000012545 processing Methods 0.000 claims description 11
- 206010020772 Hypertension Diseases 0.000 claims description 5
- 206010012601 diabetes mellitus Diseases 0.000 claims description 5
- 230000008569 process Effects 0.000 claims description 4
- 210000000579 abdominal fat Anatomy 0.000 claims description 3
- 210000000577 adipose tissue Anatomy 0.000 claims description 3
- 210000000988 bone and bone Anatomy 0.000 claims description 3
- 229910052500 inorganic mineral Inorganic materials 0.000 claims description 3
- 238000005259 measurement Methods 0.000 claims description 3
- 230000002503 metabolic effect Effects 0.000 claims description 3
- 239000011707 mineral Substances 0.000 claims description 3
- 239000000203 mixture Substances 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract 1
- 208000008338 non-alcoholic fatty liver disease Diseases 0.000 description 10
- 206010053219 non-alcoholic steatohepatitis Diseases 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 4
- 210000004369 blood Anatomy 0.000 description 3
- 239000008280 blood Substances 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 206010016654 Fibrosis Diseases 0.000 description 2
- 206010019708 Hepatic steatosis Diseases 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- HVYWMOMLDIMFJA-DPAQBDIFSA-N cholesterol Chemical compound C1C=C2C[C@@H](O)CC[C@]2(C)[C@@H]2[C@@H]1[C@@H]1CC[C@H]([C@H](C)CCCC(C)C)[C@@]1(C)CC2 HVYWMOMLDIMFJA-DPAQBDIFSA-N 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 208000010706 fatty liver disease Diseases 0.000 description 2
- 238000012317 liver biopsy Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 231100000240 steatosis hepatitis Toxicity 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- 108010023302 HDL Cholesterol Proteins 0.000 description 1
- 108010028554 LDL Cholesterol Proteins 0.000 description 1
- LEHOTFFKMJEONL-UHFFFAOYSA-N Uric Acid Chemical compound N1C(=O)NC(=O)C2=C1NC(=O)N2 LEHOTFFKMJEONL-UHFFFAOYSA-N 0.000 description 1
- TVWHNULVHGKJHS-UHFFFAOYSA-N Uric acid Natural products N1C(=O)NC(=O)C2NC(=O)NC21 TVWHNULVHGKJHS-UHFFFAOYSA-N 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000000740 bleeding effect Effects 0.000 description 1
- 238000004820 blood count Methods 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 235000012000 cholesterol Nutrition 0.000 description 1
- 230000007882 cirrhosis Effects 0.000 description 1
- 208000019425 cirrhosis of liver Diseases 0.000 description 1
- 238000012631 diagnostic technique Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 239000006185 dispersion Substances 0.000 description 1
- 238000013399 early diagnosis Methods 0.000 description 1
- 238000002091 elastography Methods 0.000 description 1
- 230000004761 fibrosis Effects 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 208000015181 infectious disease Diseases 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 210000000265 leukocyte Anatomy 0.000 description 1
- 210000004185 liver Anatomy 0.000 description 1
- 201000007270 liver cancer Diseases 0.000 description 1
- 208000019423 liver disease Diseases 0.000 description 1
- 208000014018 liver neoplasm Diseases 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 238000004393 prognosis Methods 0.000 description 1
- 230000036387 respiratory rate Effects 0.000 description 1
- 230000000405 serological effect Effects 0.000 description 1
- 210000002966 serum Anatomy 0.000 description 1
- 230000004622 sleep time Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
- 150000003626 triacylglycerols Chemical class 0.000 description 1
- 229940116269 uric acid Drugs 0.000 description 1
- 230000002485 urinary effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Public Health (AREA)
- Medical Informatics (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Pathology (AREA)
- Databases & Information Systems (AREA)
- Epidemiology (AREA)
- Primary Health Care (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本发明涉及一种脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法，所述设备用于执行以下操作，获取待测样本的人体基础体征数据；将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块；将提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。本发明从脂肪性肝炎临床实际问题出发，利用人工智能设备辅助医生简单快捷的判断患者患病风险，对脂肪性肝炎的精准治疗具有重要意义。
Description
技术领域
本发明涉及智能医疗技术领域，更具体地，涉及一种脂肪性肝炎风险诊断设备、一种脂肪性肝炎风险诊断系统和一种脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法。
背景技术
非酒精性脂肪性肝炎(NASH)伴随着肥胖人群越来越多，在全球范围内成为较为常见的慢性肝病，NASH疾病后期会导致肝硬化，最严重的是可能跳过该阶段直接进展成为肝癌，但是该疾病的早诊早治对疾病预后极为关键，由于缺乏特异的实验诊断和血清学标志,肝活检仍是诊断本病的金标准。
然而肝活检作为一种有创检查，可能会引起出血、感染等多种并发症，尤其是因为脂肪肝被要求活检，常难以被患者所接受。在众多无创诊断技术中，基于影像学或血清纤维化指标构建的无创诊断模型，以及基于FibroScan的振动控制瞬时弹性成像(VCTE)技术测量肝脏弹性值(LSM)，但他们在临床应用上都因为检查费用、准确程度等原因存在着一定的局限性，不具备成为推广为普筛NASH的手段。
发明内容
为解决上述问题，我们根据中国NASH患者的临床特点，建立适用于中国NASH患者的风险诊断设备和系统，以期能实现NASH的早发现早治疗。
本申请公开一种脂肪性肝炎风险诊断设备，所述设备包括：存储器和处理器；
所述存储器用于存储程序指令；
所述处理器用于调用程序指令，当程序指令被执行时，用于执行以下操作：
获取待测样本的人体基础体征数据；
将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
进一步，所述注意力模块包括串联连接的第一全局池化层、第四一维卷积层、第三激活函数层、第五一维卷积层、第四激活函数层。
进一步，所述下采样模块包括第一池化层、第六一维卷积层、第四批归一化层、第五激活函数层，所述输入层包括第七一维卷积层、第五批归一化层、第六激活函数层，所述输出层包括第二全局池化层，第一全连接层、Softmax层。
进一步，所述下采样模块还包括第一Dropout层，所述输入层还包括第二Dropout层，所述输出层还包括第二全连接层、第七激活函数层、第六批归一化层和第三Dropout层。
进一步，所述第一一维卷积层、第二一维卷积层、第三一维卷积层、第四一维卷积层、第五一维卷积层、第六一维卷积层和第七一维卷积层都从下列中选择一种进行卷积运算：一维常规卷积，一维空洞卷积，一维分组卷积，一维深度可分离卷积，一维可变形卷积。
进一步，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加并输出，或者，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加，经过激活函数处理或激活函数和Dropout处理后输出。
进一步，所述第一批归一化层、第二批归一化层、第三批归一化层、第四批归一化层、第五批归一化层和第六批归一化层均从下列中选择一种进行归一化运算：BatchNorm、Sync BatchNorm、Layer Normalization，所述激活函数或所述第一激活函数层、第二激活函数层、第三激活函数层、第四激活函数层、第五激活函数层、第六激活函数层和第七激活函数层中的激活函数包括下列中的一种或几种：Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU和RReLU，所述第一池化层或所述第一全局池化层、第二全局池化层均选择下列中的一种进行池化操作：平均池化、最大值池化。
进一步，所述人体基础体征数据包括临床信息数据和来自下列仪器测量数据中的一种或几种数据：血压计、身高体重仪、多功能分析仪、人体成分分析仪；
人体基础体征数据至少包括下列指标数据中的一种或数种：年龄、性别、是否有糖尿病、是否有高血压、体脂百分数、腹部脂肪面积、身体细胞量、骨矿物含量、基础代谢量、上臂周长；
获取所述待测样本的人体基础体征数据后，进行归一化处理。
一种脂肪性肝炎风险诊断系统，包括：
获取单元，用于获取待测样本的人体基础体征数据；
处理单元，用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵，将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
显示单元，用于将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
一种脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法，所述注意力残差卷积网络的方法包括：
获得具有脂肪性肝炎和不具有脂肪性肝炎的人体基础体征数据；
用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果，利用损失函数，计算分类结果和真实值之间的损失，然后进行反向传播，利用优化器进行参数更新。
一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述的脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法。
本申请的优点：
1.本申请创新性的公开一种新的基于一维卷积的深度学习网络，该深度学习网络中的注意力残差卷积模块，提取特征更具倾向性，尤其适合中小样本的数据训练和建模，在节约算力的同时，提高整个深度学习网络的预测准确性；
2.本申请创造性的公开了一种无创的用于脂肪性肝炎风险诊断设备和系统，该设备和系统仅通过部分临床信息和人体成分分析仪的数据就能高度准确的预测患者是否具有脂肪性肝炎患病风险诊断预测。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获取其他的附图。
图1是本发明实施例提供的一种脂肪性肝炎风险诊断示意流程图；
图2是本发明实施例提供的一种脂肪性肝炎风险诊断设备示意图；
图3是本发明实施例提供的一种脂肪性肝炎风险诊断系统示意流程图；
图4是本发明实施例提供的一种脂肪性肝炎风险诊断的注意力残差卷积网络示意图；
图5是本发明实施例提供的输入层示意图；
图6是本发明实施例提供的输出层示意图；
图7是本发明实施例提供的注意力残差卷积网络层示意图；
图8是本发明实施例提供的注意力残差卷积模块示意图；
图9是本发明实施例提供的第一子一维卷积模块示意图。
图10是本发明实施例提供的注意力模块示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。
在本发明的说明书和权利要求书及上述附图中的描述的一些流程中，包含了按照特定顺序出现的多个操作，但是应该清楚了解，这些操作可以不按照其在本文中出现的顺序来执行或并行执行，操作的序号如101、102等，仅仅是用于区分开各个不同的操作，序号本身不代表任何的执行顺序。另外，这些流程可以包括更多或更少的操作，并且这些操作可以按顺序执行或并行执行。需要说明的是，本文中的“第一”、“第二”等描述，是用于区分不同的消息、设备、模块等，不代表先后顺序，也不限定“第一”和“第二”是不同的类型。
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域技术人员在没有作出创造性劳动前提下所获取的所有其他实施例，都属于本发明保护的范围。
图1是本发明实施例提供的一种脂肪性肝炎风险诊断示意流程图，具体地，所述方法包括如下步骤：
101：获取待测样本的人体基础体征数据；
102：将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
103：将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取；
104：将提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
在一个实施例中，所述多个串联连接的注意力残差卷积模块和下采样模块中的多个表示大于等于2的整数，其中，所述注意力残差卷积网络层包括4-16个串联连接的注意力残差卷积模块，所述注意力残差卷积网络层包括2-5个串联连接的下采样模块。
图2是本发明实施例提供的一种脂肪性肝炎风险诊断设备，所述设备包括：存储器和处理器；
所述存储器用于存储程序指令；
所述处理器用于调用程序指令，当程序指令被执行时，用于执行以下操作：
获取待测样本的人体基础体征数据；
在一个实施例中，所述人体基础体征数据包括临床信息数据和来自下列仪器测量数据中的一种或几种数据：血压计、身高体重仪、多功能分析仪、人体成分分析仪。所述临床信息可以是基线信息(包括年龄、性别、基线血压等)、既往史信息(包括是否有糖尿病、是否有高血压、是否有脂肪肝等)、实验室指标(包括血糖、白细胞数等)等。所述临床信息可以是下列信息中的一种或数种：年龄、性别、是否有糖尿病、是否有高血压、总胆固醇、甘油三脂、低密度脂蛋白胆固醇、高密度脂蛋白胆固醇、血尿酸、尿常规、呼吸频率、血氧浓度、心率、运动步数、消耗卡路里、睡眠时间等。
在一个实施例中，人体基础体征数据至少包括下列指标数据中的一种或数种：年龄、性别、是否有糖尿病、是否有高血压、体脂百分数、腹部脂肪面积、身体细胞量、骨矿物含量、基础代谢量、上臂周长。
将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
在一个实施例中，参见图5，输入层包括第七一维卷积层、第五批归一化层、第六激活函数层。
第五批归一化层不仅可以加快了模型的收敛速度，而且更重要的是在一定程度缓解了深层网络中梯度弥散的问题，从而使得训练深层网络模型更加容易和稳定。
第六激活函数层是用来引入非线性因素的，激活函数具有非线性、处处可导、单调性等性质。
在一个实施例中，输入层包括第七一维卷积层、第五批归一化层、第六激活函数层、第二Dropout层。其中，所述第五批归一化从下列中选择一种进行归一化运算：SyncBatchNorm、Layer Normalization、BatchNorm；所述第六激活函数层的激活函数包括下列中的一种或几种：Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU和RReLU。
在一个实施例中，输入层包括第七一维卷积层、BatchNorm、Tanh和Dropout层。
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块；
在一个实施例中，参见图8，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层；参见图10，所述注意力模块包括串联连接的第一全局池化层、第四一维卷积层、第三激活函数层、第五一维卷积层、第四激活函数层；所述下采样模块包括第一池化层、第六一维卷积层、第四批归一化层、第五激活函数层；多个串联可以是2、3、4、5或其他个串联连接的一维卷积模块，所述注意力残差卷积网络层可以包括4、5、6、7、8、9、10、11、12、13、14、15、16或其他个串联连接、并联连接、串联连接和并联连接都有的注意力残差卷积模块，所述注意力残差卷积网络层可以包括2、3、4、5个串联连接的下采样模块；参见图7，注意力残差卷积网络层可以包括1个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块和1个下采样模块、3个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块的串联连接。
在一个实施例中，参见图8，每个所述注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，参见图9，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述注意力模块包括串联连接的第一全局池化层、第四一维卷积层、第三激活函数层、第五一维卷积层、第四激活函数层，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加并输出，或者，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加，经过激活函数处理或激活函数和Dropout处理后输出。
将提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
在一个实施例中，参见图6，输出层包括第二全局池化层，第一全连接层、Softmax层。
图3是一种脂肪性肝炎风险诊断装置，包括：
获取单元301，用于获取待测样本的人体基础体征数据；
处理单元302，用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵，将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
显示单元303，用于将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
本发明的一个目的在于提供一种脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法，所述注意力残差卷积网络的训练方法包括：
获得具有脂肪性肝炎和不具有脂肪性肝炎的人体基础体征数据；
用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果，利用损失函数，计算分类结果和真实值之间的损失，然后进行反向传播，利用优化器进行参数更新。
在一个实施例中，对脂肪性肝炎风险诊断的残差网络进行优化，注意力残差卷积网络层包括串联连接的1个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块和1个下采样模块、3个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块，训练集和测试集的AUC值分别为0.808和0.794。
一种脂肪性肝炎风险诊断的注意力残差卷积网络，参见图4，所述脂肪性肝炎风险诊断的注意力残差卷积网络包括输入层、注意力残差卷积网络层和输出层；输入层包括第七一维卷积层、BatchNorm、Tanh和Dropout层，输出层包括第二全局池化层，第一全连接层、Softmax层，注意力残差卷积网络层包括串联连接的1个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块和1个下采样模块、3个注意力残差卷积模块和1个下采样模块、2个注意力残差卷积模块，其中，每个所述注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述注意力模块包括串联连接的第一全局池化层、第四一维卷积层、第三激活函数层、第五一维卷积层、第四激活函数层，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加并输出，或者，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加，经过激活函数处理或激活函数和Dropout处理后输出。
本发明的一个目的在于提供一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时实现上述的脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法。
本发明中的注意力残差卷积网络、风险诊断设备和系统不仅适用于脂肪性肝炎还适用于NAFLD。
本验证实施例的验证结果表明，为适应症分配固有权重相对于默认设置来说可以适度改善本方法的性能。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取存储器(RAM，RandomAccess Memory)、磁盘或光盘等。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。
以上对本发明所提供的一种计算机设备进行了详细介绍，对于本领域的一般技术人员，依据本发明实施例的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。
Claims (10)
1.一种脂肪性肝炎风险诊断设备，所述设备包括：存储器和处理器；
所述存储器用于存储程序指令；
所述处理器用于调用程序指令，当程序指令被执行时，用于执行以下操作：
获取待测样本的人体基础体征数据；
将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
2.根据权利要求1所述的脂肪性肝炎风险诊断设备，其特征在于，所述注意力模块包括串联连接的第一全局池化层、第四一维卷积层、第三激活函数层、第五一维卷积层、第四激活函数层。
3.根据权利要求1所述的脂肪性肝炎风险诊断设备，其特征在于，所述下采样模块包括第一池化层、第六一维卷积层、第四批归一化层、第五激活函数层，所述输入层包括第七一维卷积层、第五批归一化层、第六激活函数层，所述输出层包括第二全局池化层，第一全连接层、Softmax层。
4.根据权利要求3所述的脂肪性肝炎风险诊断设备，其特征在于，所述下采样模块还包括第一Dropout层，所述输入层还包括第二Dropout层，所述输出层还包括第二全连接层、第七激活函数层、第六批归一化层和第三Dropout层。
5.根据权利要求1-3任意一项所述的脂肪性肝炎风险诊断设备，其特征在于，其中，第一一维卷积层、第二一维卷积层、第三一维卷积层、第四一维卷积层、第五一维卷积层、第六一维卷积层和第七一维卷积层都从下列中选择一种进行卷积运算：一维常规卷积，一维空洞卷积，一维分组卷积，一维深度可分离卷积，一维可变形卷积。
6.根据权利要求1所述的脂肪性肝炎风险诊断设备，其特征在于，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加并输出，或者，所述残差结构将第一子一维卷积模块的输入和注意力模块的输出相加，经过激活函数处理或激活函数和Dropout处理后输出。
7.根据权利要求1-6任意一项所述的脂肪性肝炎风险诊断设备，其特征在于，所述第一批归一化层、第二批归一化层、第三批归一化层、第四批归一化层、第五批归一化层和第六批归一化层均从下列中选择一种进行归一化运算：BatchNorm、Sync BatchNorm、LayerNormalization，所述激活函数或所述第一激活函数层、第二激活函数层、第三激活函数层、第四激活函数层、第五激活函数层、第六激活函数层和第七激活函数层中的激活函数包括下列中的一种或几种：Sigmoid、Tanh、ReLU、Leaky ReLU、PReLU和RReLU，所述第一池化层或所述第一全局池化层、第二全局池化层均选择下列中的一种进行池化操作：平均池化、最大值池化。
8.根据权利要求1所述的脂肪性肝炎风险诊断设备，其特征在于，所述人体基础体征数据包括临床信息数据和来自下列仪器测量数据中的一种或几种数据：血压计、身高体重仪、多功能分析仪、人体成分分析仪；
人体基础体征数据至少包括下列指标数据中的一种或数种：年龄、性别、是否有糖尿病、是否有高血压、体脂百分数、腹部脂肪面积、身体细胞量、骨矿物含量、基础代谢量、上臂周长；
获取所述待测样本的人体基础体征数据后，进行归一化处理。
9.一种脂肪性肝炎风险诊断系统，包括：
获取单元，用于获取待测样本的人体基础体征数据；
处理单元，用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵，将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
显示单元，用于将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果。
10.一种脂肪性肝炎风险诊断的注意力残差卷积网络的训练方法，所述注意力残差卷积网络的方法包括：
获得具有脂肪性肝炎和不具有脂肪性肝炎的人体基础体征数据；
用于将所述人体基础体征数据输入输入层，在输入层中将所述人体基础体征数据转换为浅层特征矩阵；
将所述浅层特征矩阵输入到注意力残差卷积网络层，在注意力残差卷积网络层中对所述浅层特征矩阵进行特征提取，其中，所述注意力残差卷积网络层包括多个串联连接的注意力残差卷积模块和下采样模块，所述多个注意力残差卷积模块中的每个注意力残差卷积模块包括串联连接的第一子一维卷积模块、第二子一维卷积模块、第三子一维卷积模块、注意力模块和残差结构，所述第一子一维卷积模块包括串联连接的第一一维卷积层、第一批归一化层、第一激活函数层，所述第二子一维卷积模块包括串联连接的第二一维卷积层、第二批归一化层、第二激活函数层，所述第三子一维卷积模块包括串联连接的第三一维卷积层、第三批归一化层，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数处理后，作为后一个所述注意力残差卷积模块的输入，或者，所述多个串联连接的注意力残差卷积模块中相邻连接的每两个所述注意力残差卷积模块中，前一个所述注意力残差卷积模块的输出经过激活函数和Dropout处理后，作为后一个所述注意力残差卷积模块的输入；
将注意力残差卷积网络层提取的特征输入到输出层，通过输出层计算得到待测样本是否有脂肪性肝炎风险的分类结果，利用损失函数，计算分类结果和真实值之间的损失，然后进行反向传播，利用优化器进行参数更新。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210201686.5A CN114566281A (zh) | 2022-03-03 | 2022-03-03 | 脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210201686.5A CN114566281A (zh) | 2022-03-03 | 2022-03-03 | 脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN114566281A true CN114566281A (zh) | 2022-05-31 |
Family
ID=81718320
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210201686.5A Withdrawn CN114566281A (zh) | 2022-03-03 | 2022-03-03 | 脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114566281A (zh) |
-
2022
- 2022-03-03 CN CN202210201686.5A patent/CN114566281A/zh not_active Withdrawn
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN107330263A (zh) | 一种计算机辅助乳腺浸润性导管癌组织学分级的方法 | |
| CN113611410B (zh) | 一种脂肪性肝炎风险诊断设备、系统及其残差网络的训练方法 | |
| CN110246577B (zh) | 一种基于人工智能辅助妊娠期糖尿病遗传风险预测的方法 | |
| CN112786204A (zh) | 一种机器学习糖尿病发病风险预测方法及应用 | |
| CN114974585A (zh) | 一种妊娠期代谢综合征早期风险预测评估模型构建方法 | |
| CN103735247B (zh) | 用于健康状态辨识的掌色分析方法 | |
| CN103093112B (zh) | 预警装置 | |
| US20140170741A1 (en) | Hepatic fibrosis detection apparatus and system | |
| CN112951426B (zh) | 一种胰腺导管腺瘤炎性浸润程度判断模型的构建方法及评估系统 | |
| CN114023440A (zh) | 可解释分层老年mods早期死亡风险评估模型、装置及其建立方法 | |
| CN115937192B (zh) | 一种无监督视网膜血管分割方法、系统及电子设备 | |
| CN115602319B (zh) | 一种无创肝纤维化评估装置 | |
| CN114566281A (zh) | 脂肪性肝炎风险诊断设备、系统及其卷积网络的训练方法 | |
| CN116564521A (zh) | 一种慢性病风险评估模型建立方法、介质及系统 | |
| CN110827275A (zh) | 基于树莓派和深度学习的肝脏核磁动脉期影像质量分级方法 | |
| CN105433901A (zh) | 一种测定人体体脂的方法及其应用 | |
| JP3300763B2 (ja) | 臨床検査数値データ処理システムとこれを用いた診断プログラムの記録媒体 | |
| CN113178109B (zh) | 一种手术仿真测试方法、装置、设备及存储介质 | |
| CN110084509A (zh) | 一种针对病例诊断结论进行分级的方法、装置及系统 | |
| CN109091113A (zh) | 一种轻度认知障碍诊断装置及数据处理装置 | |
| CN115497630B (zh) | 一种急性重症溃疡性结肠炎数据的处理方法及其系统 | |
| CN113010722B (zh) | 一种融合眼底图像的慢病临床研究队列查询系统及方法 | |
| CN114049962A (zh) | 一种空腹血糖受损风险预测模型及其应用 | |
| NAROUEINEZHAD et al. | Arterial Resistive index (RI) in type ii diabetic nephropathy stages and healthy controls | |
| Wegner | Data, data, data… |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WW01 | Invention patent application withdrawn after publication | ||
| WW01 | Invention patent application withdrawn after publication |
Application publication date: 20220531 |