CN117059263B - 基于双视图胸片的肺动脉高压发生概率的确定方法及系统 - Google Patents
基于双视图胸片的肺动脉高压发生概率的确定方法及系统 Download PDFInfo
- Publication number
- CN117059263B CN117059263B CN202310647898.0A CN202310647898A CN117059263B CN 117059263 B CN117059263 B CN 117059263B CN 202310647898 A CN202310647898 A CN 202310647898A CN 117059263 B CN117059263 B CN 117059263B
- Authority
- CN
- China
- Prior art keywords
- chest
- real
- positive side
- time
- film
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000002601 radiography Methods 0.000 title claims abstract description 133
- 238000000034 method Methods 0.000 title claims abstract description 67
- 210000001147 pulmonary artery Anatomy 0.000 title claims abstract description 48
- 238000012545 processing Methods 0.000 claims abstract description 119
- 238000004458 analytical method Methods 0.000 claims abstract description 55
- 238000013528 artificial neural network Methods 0.000 claims abstract description 39
- 206010064911 Pulmonary arterial hypertension Diseases 0.000 claims abstract description 16
- 230000004913 activation Effects 0.000 claims abstract description 14
- 239000011159 matrix material Substances 0.000 claims description 73
- 238000011176 pooling Methods 0.000 claims description 40
- 238000013527 convolutional neural network Methods 0.000 claims description 32
- 238000012549 training Methods 0.000 claims description 32
- 230000006870 function Effects 0.000 claims description 26
- 210000005241 right ventricle Anatomy 0.000 claims description 24
- 238000010586 diagram Methods 0.000 claims description 19
- 230000002159 abnormal effect Effects 0.000 claims description 18
- 238000012360 testing method Methods 0.000 claims description 16
- 238000007499 fusion processing Methods 0.000 claims description 13
- 230000004927 fusion Effects 0.000 claims description 10
- 230000008569 process Effects 0.000 claims description 10
- 238000012795 verification Methods 0.000 claims description 8
- 230000003213 activating effect Effects 0.000 claims description 7
- 230000000007 visual effect Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000007781 pre-processing Methods 0.000 claims description 4
- 206010039722 scoliosis Diseases 0.000 claims description 4
- 239000000758 substrate Substances 0.000 claims 3
- 230000000694 effects Effects 0.000 abstract description 6
- 210000000056 organ Anatomy 0.000 description 18
- 208000002815 pulmonary hypertension Diseases 0.000 description 11
- 238000004891 communication Methods 0.000 description 8
- 201000010099 disease Diseases 0.000 description 5
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 5
- 230000009977 dual effect Effects 0.000 description 5
- 238000007689 inspection Methods 0.000 description 5
- 238000012216 screening Methods 0.000 description 5
- 208000002151 Pleural effusion Diseases 0.000 description 4
- 230000002685 pulmonary effect Effects 0.000 description 4
- 208000011580 syndromic disease Diseases 0.000 description 4
- 206010020772 Hypertension Diseases 0.000 description 3
- 230000004872 arterial blood pressure Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 208000024891 symptom Diseases 0.000 description 3
- 230000008719 thickening Effects 0.000 description 3
- 206010048612 Hydrothorax Diseases 0.000 description 2
- 206010039163 Right ventricular failure Diseases 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000017531 blood circulation Effects 0.000 description 2
- 238000010968 computed tomography angiography Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000013178 mathematical model Methods 0.000 description 2
- 230000008506 pathogenesis Effects 0.000 description 2
- 230000001991 pathophysiological effect Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000036593 pulmonary vascular resistance Effects 0.000 description 2
- 210000005245 right atrium Anatomy 0.000 description 2
- 238000010561 standard procedure Methods 0.000 description 2
- 239000013589 supplement Substances 0.000 description 2
- 230000002792 vascular Effects 0.000 description 2
- 206010013012 Dilatation ventricular Diseases 0.000 description 1
- 206010067282 Right atrial dilatation Diseases 0.000 description 1
- 230000001746 atrial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000011976 chest X-ray Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000010339 dilation Effects 0.000 description 1
- 230000006806 disease prevention Effects 0.000 description 1
- 230000002526 effect on cardiovascular system Effects 0.000 description 1
- 210000004072 lung Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000000047 product Substances 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000001356 surgical procedure Methods 0.000 description 1
- 230000002861 ventricular Effects 0.000 description 1
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
- A61B6/02—Devices for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/03—Computerised tomographs
- A61B6/032—Transmission computed tomography [CT]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus for radiation diagnosis, e.g. combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5258—Devices using data or image processing specially adapted for radiation diagnosis involving detection or reduction of artifacts or noise
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/30—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for calculating health indices; for individual health risk assessment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30061—Lung
Abstract
基于双视图胸片的肺动脉高压发生概率的确定方法及系统,该方法包括:获取实时正侧位胸片和实时左侧位胸片;将实时正侧位胸片和实时左侧位胸片输入第一胸片分析模型,第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层,第一卷积神经网络包括空间注意力模块;使用第一卷积神经网络对实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;使用第二卷积神经网络对实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;将实时正侧位胸片的全连接层参数和实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值。具有能够提高对PH预测的概率的准确性的效果。
Description
技术领域
本申请涉及医学图像处理的技术领域,具体涉及基于双视图胸片的肺动脉高压发生概率的确定方法及系统。
背景技术
肺动脉高压(pulmonary hypertension,PH)是指由多种异源性疾病和不同发病机制所致肺血管结构或功能发生改变,从而引起肺血管阻力和肺动脉压力升高的临床和病理生理综合症,继而容易发展成右心衰竭甚至死亡。肺动脉高压可以是一种独立的疾病,也可以是并发症,还可以是综合症,其致残率和病死率都较高,因此在临床上较为重视。近年来,PH对所有年龄段的人群尤其是老年人的影响显著增加。据估计,PH的全球患病率约为1%,而在65岁以上人群中可高达10%。
目前,右心导管检查是诊断和评价PH的标准方法,当在早期症状不明显的情况下,需要在患者的身上进行有创手术,对于早期筛查预防疾病的患者来说是极为不便的。为了解决上述问题,一种方法是在CT血管造影上通过计算肺动脉直径或血流特征,预测是否存在肺动脉高压。该方法主要依赖于数学模型和流体力学方程,受建模设置的边界条件影响较大,预测效果较差。另一种方法是通过胸片图像预测肺动脉高压,但是该方法只考虑了胸部正位片的信息,未考虑胸部左侧位图像信息,会丢失一些其它维度的信息,影响预测精度。
因此,亟需基于双视图胸片的肺动脉高压发生概率的确定方法及系统,以提高对PH预测的概率的准确性。
发明内容
本申请提供了基于双视图胸片的肺动脉高压发生概率的确定方法及系统,能够提高对PH预测的概率的准确性。
在本申请的第一方面提供了基于双视图胸片的肺动脉高压发生概率的确定方法,所述方法包括:
获取实时正侧位胸片和实时左侧位胸片;
将所述实时正侧位胸片和所述实时左侧位胸片输入第一胸片分析模型,所述第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层,所述第一卷积神经网络包括空间注意力模块;
使用所述第一卷积神经网络对所述实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,所述实时正侧位胸片的全连接层参数包括胸片异常特征;
使用所述第二卷积神经网络对所述实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,所述实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;
将所述实时正侧位胸片的全连接层参数和所述实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值。
可选地,所述右心室的左侧视角的影像特征包括所述实时正侧位胸片的全连接层参数中包括的所述右心室的影像特征未展示的特征。
可选地,所述第一卷积神经网络包括第一空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
将所述实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将所述第二正侧位结果图经过多个卷积层和多个最大池化层处理,生成第三正侧位结果图;
将所述第三正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数。
可选地,所述第一卷积神经网络包括第一空间注意力模块、第二空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
将所述实时正侧位胸片经过卷积层处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将所述第二正侧位结果图经过卷积层和第二空间注意力模块进行处理,生成第三正侧位结果图;
将所述第三正侧位结果图经过多个卷积层和多个最大池化层处理,生成第四正侧位结果图;
将所述第四正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数。
可选地,所述第一卷积神经网络还包括第二全连接层、多个卷积层、多个最大池化层以及多个空间注意力模块;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
将所述实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
使用第二空间注意力模块对所述第二正侧位结果图进行分析处理,生成第二参数矩阵,所述第二参数矩阵与所述第二正侧位结果图的图像像素的位置相关;
将所述第二正侧位结果图进行卷积处理,生成第三正侧位结果图;
使用第N空间注意力模块对所述第N正侧位结果图进行分析处理,生成第N参数矩阵,所述第N参数矩阵与所述第N正侧位结果图的图像像素的位置相关;
将所述第N正侧位结果图进行卷积处理,生成第N正侧位结果图;
将所述第N正侧位结果图经过多个卷积层和多个最大池化层处理,生成第N+1正侧位结果图;
将所述第N+1正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数。
可选地,所述使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,具体包括:
将所述实时正侧位胸片进行全局最大池化处理,生成最大特征图;
将所述实时正侧位胸片进行全局平均池化处理,生成平均特征图;
基于所述最大特征图和所述平均特征图,生成正侧位胸片融合特征图;
将所述正侧位胸片融合特征图经过激活函数处理,生成所述第一参数矩阵。
可选地,对所述肺动脉高压发生概率值进行反向传播计算,生成针对所述第三正侧位结果图中各通道的权重值;
根据所述第三正侧位结果图和所述权重值,生成正侧位胸片热力图。
可选地,所述获取实时正侧位胸片和实时左侧位胸片之前,所述方法还包括:
获取同一待检测患者的两张胸片,将所述胸片输入至胸片正/左侧位识别模型,输出每张胸片的正侧位胸片概率和左侧位胸片概率;
基于每张胸片的所述正侧位胸片概率和左侧位胸片概率,对所述胸片进行分类;
若所述正侧位胸片概率大于左侧位胸片概率,则确定所述胸片为实时正侧位胸片;
若所述左侧位胸片概率大于正侧位胸片概率,则确定所述胸片为实时左侧位胸片。
可选地,对所述第一胸片分析模型的训练包括如下步骤:
获取历史正侧位胸片和历史左侧位胸片;
对所述历史正侧位胸片和所述历史左侧位胸片进行预处理,生成预处理后的胸片图像,构建基础数据集;
基于所述基础数据集划分出训练集、验证集以及测试集;
将所述训练集输入胸片分析模型框架,得到训练成熟的第二胸片分析模型和对应的肺动脉高压发生概率值;
将所述验证集输入第二胸片分析模型进行预测,选取肺动脉高压发生概率值的准确率最佳的模型作为第三胸片分析模型;
使用所述测试集对所述第三胸片分析模型进行测试,确认测试分数大于或者等于预设分数的模型作为最终的胸片分析模型。
可选地,删除存在伪影的胸片,保留正侧位胸片和左侧位胸片作为训练集,所述存在伪影的胸片包括存在脊柱侧弯和右心镜的伪影的胸片;
将所述训练集输入至所述胸片分析模型进行训练。
在本申请的第二方面提供了基于双视图胸片的肺动脉高压发生概率的确定系统,所述系统包括获取模块、处理模块以及输出模块;
所述获取模块,用于获取实时正侧位胸片和实时左侧位胸片;
所述处理模块,用于将所述实时正侧位胸片和所述实时左侧位胸片输入第一胸片分析模型,所述第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层,所述第一卷积神经网络包括空间注意力模块;
所述处理模块,还用于使用所述第一卷积神经网络对所述实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,所述实时正侧位胸片的全连接层参数包括胸片异常特征;
所述处理模块,还用于使用所述第二卷积神经网络对所述实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,所述实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;
所述处理模块,还用于将所述实时正侧位胸片的全连接层参数和所述实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值;
所述输出模块,用于输出所述肺动脉高压发生概率值。
在本申请的第三方面提供了一种电子设备,包括处理器、存储器、用户接口及网络接口,所述存储器用于存储指令,所述用户接口和网络接口用于给其他设备通信,所述处理器用于执行所述存储器中存储的指令,以使所述电子设备执行如上述任意一项所述的方法。
综上所述,本申请提供的一个或多个技术方案,至少具有如下技术效果或优点:
目前常见的方式是通过对实时正侧位胸片进行图像识别,从而根据识别出的特征计算对PH预测的概率,计算出的概率存在较大的误差。
但是,本申请创造性地将实时正侧位胸片和实时左侧位胸片结合,根据识别出的特征共同计算对PH预测的概率。并且在对实时正侧位胸片进行图像识别的第一卷积神经网络中引入空间注意力模块,从而将识别到的器官与所述器官的空间位置进行叠加,使实时正侧位胸片中包括更多的器官信息和器官的空间位置关系,能够清楚地了解到异常特征,如肺动脉段凸出、右下肺动脉增粗、中心肺动脉扩张、残根征、右心房扩大、右心室扩大、胸腔积液(左)、胸腔积液(右)的情况。
结合上述多个更加精细化的数据,从而使计算对PH预测的概率比目前的方式对PH预测的概率更加准确,从而提高对PH预测的概率的准确性。
附图说明
图1是本申请实施例提供的基于双视图胸片的肺动脉高压发生概率的确定方法的一种流程示意图。
图2是本申请实施例提供的一种获取实时正侧位胸片的全连接层参数的流程示意图。
图3是本申请实施例提供的一种获取第一参数矩阵的流程示意图。
图4是本申请实施例提供的一种获取正侧位胸片热力图的流程示意图。
图5是本申请实施例提供的对胸片进行正/左侧位识别的流程示意图。
图6是本申请实施例提供的正/左侧位识别模型和第一胸片分析模型的结构示意图。
图7是本申请实施例提供的空间注意力模块的结构示意图。
图8是本申请实施例提供的第一胸片分析模型训练流程示意图。
图9是本申请实施例公开的基于双视图胸片的肺动脉高压发生概率的确定系统的结构示意图。
图10是本申请实施例的公开的一种电子设备的结构示意图。
附图标记说明:1、获取模块;2、处理模块;3、输出模块;4、电子设备;5、处理器;6、通信总线;7、用户接口;8、网络接口;9、存储器。
实施方式
为了使本领域的技术人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。
在本申请实施例的描述中,“例如”或者“举例来说”等词用于表示作例子、例证或说明。本申请实施例中被描述为“例如”或者“举例来说”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言,使用“例如”或者“举例来说”等词旨在以具体方式呈现相关概念。
在本申请实施例的描述中,术语“多个”的含义是指两个或两个以上。例如,多个系统是指两个或两个以上的系统,多个屏幕终端是指两个或两个以上的屏幕终端。此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。术语“包括”、“包含”、“具有”及它们的变形都意味着“包括但不限于”,除非是以其他方式另外特别强调。
本申请提供的技术方案可以应用于对肺动脉高压进行早期筛查的场景中或者应用于对肺动脉高压进行早期筛查的实验场景中。本申请的实施例只是针对胸片进行图像识别和处理,本质是保护图像识别和数据处理的技术,并不涉及对疾病的诊断和治疗的方案。
肺动脉高压(pulmonary hypertension,PH)是指由多种异源性疾病和不同发病机制所致肺血管结构或功能发生改变,从而引起肺血管阻力和肺动脉压力升高的临床和病理生理综合症,继而容易发展成右心衰竭甚至死亡。肺动脉高压可以是一种独立的疾病,也可以是并发症,还可以是综合症,其致残率和病死率都较高,因此在临床上较为重视。近年来,PH对所有年龄段的人群尤其是老年人的影响显著增加。据估计,PH的全球患病率约为1%,而在65岁以上人群中可高达10%。
目前右心导管检查是诊断和评价PH的标准方法,由于操作及技术等原因,右心导管检查无法全面普及,且该检查为有创检查、费用较高,不适合早期筛查。临床发现肺动脉高压患者胸部X线可见肺动脉段凸出,中心肺动脉扩张,与周围肺动脉纤细或截断形成鲜明对比,表现为“残根”征,以及右心房和右心室扩大等征象。考虑到胸片检查价格廉价、无创、易操作、可重复,方便在基层医院开展。所以可从胸片入手,对肺动脉高压患者进行早期筛查,做到早发现,早治疗。
目前对肺动脉高压的早期筛查技术主要是在CT血管造影影像上通过计算肺动脉直径或血流特征,来预测是否存在肺动脉高压的情况。该方法主要依赖搭建的数学模型及流体力学等方程,受建模过程中设置的边界条件影响较大,预测效果比较差,无法在临床上广泛应用。
同时,也有相关学者通过胸片预测肺动脉高压,但其只考虑了胸部正位片的信息,未考虑胸部左侧位图像信息,会丢失一些其它维度的信息(例如,右心室扩大是预测肺动脉高压的一个重要特征,该特征受伪影以及患者拍摄时的站姿角度等影响,使其有漏诊情况,故结合左侧位片能更好补充其它角度的影像信息)。
本申请提供了基于双视图胸片的肺动脉高压发生概率的确定方法,参照图1,图1是本申请实施例的公开的基于双视图胸片的肺动脉高压发生概率的确定方法的流程示意图。该方法可以应用于服务器,包括步骤S101至步骤S102,上述步骤如下:
S101、获取实时正侧位胸片和实时左侧位胸片;
心血管的常规胸片检查包括采集正侧位、左前斜位、右前斜位和左侧位胸片,其中正侧位胸片可以显示出心脏大血管的大小、形态、位置和轮廓,能够观察心脏与周围器官的关系和肺内血管的变化,但是当患者出现右心室扩大的情况时,该特征受伪影以及患者拍摄时的站姿角度等影响,正侧位胸片不能有效识别该特征,有漏诊情况。因此,本方案采用同时获取实时正侧位胸片和实时左侧位胸片的方法,能更好补充其它角度的影像信息。
S102、将实时正侧位胸片和实时左侧位胸片输入第一胸片分析模型,第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层,第一卷积神经网络包括空间注意力模块;
其中,第一胸片分析模型的模型框架选用了VGG模型,VGG模型包括并列的两个卷积神经网络,在其中一个卷积神经网络上增加了空间注意力模块,作为第一卷积神经网络,未增加空间注意力模块的卷积神经网络为第二卷积神经网络。
具体地,第一胸片分析模型对实时正侧位胸片和实时左侧位胸片进行处理,包括步骤S1021至步骤S1023:
S1021、使用第一卷积神经网络对实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,实时正侧位胸片的全连接层参数包括胸片异常特征;
因为正侧位胸片需要检测的特征较丰富,多数特征与位置相关,因此第一卷积神经网络包括了空间注意力模块,使第一卷积神经网络能更好的提取实时正侧位胸片的异常特征,第一卷积神经网络接收实时正侧位胸片,提取实时正侧位胸片的异常特征,输出实时正侧位胸片的全连接层参数,实时正侧位胸片的全连接层参数包括胸片异常特征。
具体地,异常特征包括肺动脉段凸出、右下肺动脉增粗、中心肺动脉扩张、残根征、右心房扩大、右心室扩大、胸腔积液(左)、胸腔积液(右)等8种情况。
S1022、使用第二卷积神经网络对实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;
因为左侧位胸片的胸片特征较少,因此第二卷积神经网络不包括空间注意力模块,第二卷积神经网络接收实时左侧位胸片,提取实时左侧位胸片的异常特征,输出实时左侧位胸片的全连接层参数,实时左侧位胸片的全连接层参数实时左侧位胸片的异常特征,实时左侧位胸片的异常特征包括右心室的左侧视角的影像特征。
S1023、将实时正侧位胸片的全连接层参数和实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值。
将实时正侧位胸片的全连接层参数和实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,从实时正侧位胸片中提取的胸片异常特征与从实时左侧位胸片中提取的胸片异常特征结合,根据结合后的特征计算肺动脉高压发生概率值,因为补充了左侧角度的异常特征,预测更加准确。
本实施例中,激活函数为Sigmoid,使用Sigmoid函数对拼接后的实时正侧位胸片的全连接层参数和实时左侧位胸片的全连接层参数进行激活,得到肺动脉高压发生概率值。
具体地,目前常见的方式是通过对实时正侧位胸片进行图像识别,从而根据识别出的特征计算对PH预测的概率,计算出的概率存在较大的误差。或者是通过上述的其他方式进行计算,这里不再赘述。
但是,本申请创造性地将实时正侧位胸片和实时左侧位胸片结合,根据识别出的特征共同计算对PH预测的概率。并且在对实时正侧位胸片进行图像识别的第一卷积神经网络中引入空间注意力模块,从而将识别到的器官与所述器官的空间位置进行叠加,使实时正侧位胸片中包括更多的器官信息和器官的空间位置关系,能够清楚地了解到异常特征,如肺动脉段凸出、右下肺动脉增粗、中心肺动脉扩张、残根征、右心房扩大、右心室扩大、胸腔积液(左)、胸腔积液(右)情况。结合上述多个更加精细化的数据,从而使计算对PH预测的概率比目前的方式对PH预测的概率更加准确,从而提高对PH预测的概率的准确性。
在一种可能的实施方式中,右心室的左侧视角的影像特征包括实时正侧位胸片的全连接层参数中包括的右心室的影像特征未展示的特征。
当患者出现右心室扩大的情况时,该异常特征受伪影以及患者拍摄时的站姿角度等影响,正侧位胸片不能有效识别该特征,但左侧位胸片可以识别出。结合实时左侧位胸片识别出的右心室的左侧视角的影像特征,能够展示右心室的影像特征未展示的特征,使右心室的特征更加完整,能够更加清楚地了解右心室扩大的情况。
在一种可能的实施方式中,第一卷积神经网络包括第一空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
将实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将第二正侧位结果图经过多个卷积层和多个最大池化层处理,生成第三正侧位结果图;
将第三正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
本实施方式中,第一卷积神经网络包括一个空间注意力模块。经过空间注意力模块生成的第一参数矩阵,与不具备空间注意力模块的卷积神经网络相比包括更多的器官的影像特征和空间位置关系,基于第一参数矩阵最终生成的实时正侧位胸片的全连接层参数包含的信息更多,降低了机器识别造成的误差。
参照图2,图2是本申请实施例提供的一种获取实时正侧位胸片的全连接层参数的流程示意图。
在一种可能的实施方式中,第一卷积神经网络包括第一空间注意力模块、第二空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
当实时正侧位胸片输入至第一卷积神经网络之后,该方法还包括步骤S201至步骤S206:
S201、使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
S202、将实时正侧位胸片经过卷积层处理,生成第一正侧位结果图;
S203、将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
S204、将第二正侧位结果图经过卷积层和第二空间注意力模块进行处理,生成第三正侧位结果图;
S205、将第三正侧位结果图经过多个卷积层和多个最大池化层处理,生成第四正侧位结果图;
S206、将第四正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
本实施方式中,第一卷积神经网络包括两个空间注意力模块,经过第一空间注意力模块生成第一参数矩阵,第一参数矩阵和第一正侧位结果图融合生成第二正侧位结果图,再经过卷积层和第二空间注意力模块处理,生成的第三正侧位结果图,能够进一步获取更多的器官的影像特征和空间位置关系,最终生成的实时正侧位胸片的全连接层参数包含的信息更多,降低了机器识别造成的误差。
在一种可能的实施方式中,第一卷积神经网络还包括第二全连接层、多个卷积层、多个最大池化层以及多个空间注意力模块;
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
将实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
使用第二空间注意力模块对第二正侧位结果图进行分析处理,生成第二参数矩阵,第二参数矩阵与第二正侧位结果图的图像像素的位置相关;
将第二正侧位结果图进行卷积处理,生成第三正侧位结果图;
使用第N空间注意力模块对第N正侧位结果图进行分析处理,生成第N参数矩阵,第N参数矩阵与第N正侧位结果图的图像像素的位置相关;
将第N正侧位结果图进行卷积处理,生成第N正侧位结果图;
将第N正侧位结果图经过多个卷积层和多个最大池化层处理,生成第N+1正侧位结果图;
将第N+1正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
特别地,这里的N的数量为大于或者等于3。
本实施方式中,第一卷积神经网络包括多个空间注意力模块,可根据胸片复杂程度,选择空间注意力模块的数量。
参照图3,图3是本申请实施例提供的一种获取第一参数矩阵的流程示意图流程示意图。
在一种可能的实施方式中,使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,具体包括:
S301、将实时正侧位胸片进行全局最大池化处理,生成最大特征图;其中,最大特征图包括器官的位置特征;
S302、将实时正侧位胸片进行全局平均池化处理,生成平均特征图;其中,平均特征图包括实时正侧位胸片的空间结构特征;
S303、基于最大特征图和平均特征图,生成正侧位胸片融合特征图;
S304、将正侧位胸片融合特征图经过激活函数处理,生成第一参数矩阵。其中,第一参数矩阵与第二正侧位结果的与图像像素位置相关。
将实时正侧位胸片进行全局最大池化处理后生成的最大特征图,主要提取器官的位置特征,将所述实时正侧位胸片进行全局平均池化处理后生成的平均特征图,主要提取实时正侧位胸片的空间结构特征,接着将最大特征图和平均特征图融合成融合特征图,便于将器官的位置特征和实时正侧位胸片的空间结构特征进行融合,单独对器官的位置特征进行提取,从而保证器官的位置特征的精确度,进而使生成的第二正侧位结果的与图像像素位置相关的参数矩阵包含的位置特征更加准确。
参照图4,图4是本申请实施例提供的一种获取正侧位胸片热力图的的流程示意图。
在一种可能的实施方式中,该方法还包括:
S401、对肺动脉高压发生概率值进行反向传播计算,生成针对第三正侧位结果图中各通道的权重值;
S402、根据第三正侧位结果图和权重值,生成正侧位胸片热力图。
具体地,反向传播算法是一种常见的神经网络训练方法,用来计算神经网络中损失函数对各参数的梯度,配合优化方法更新参数,降低损失函数。在反向传播时,将输出误差(期望输出与实际输出之差)按原通路反传计算,通过隐层反向,直至输入层,在反传过程中将误差分摊给各层的各个单元,获得各层各单元的误差信号,并将其作为修正各单元权值的根据。反向传播算法是现有技术,本申请并没有进行改进。
由生成的疑似肺动脉高压概率值进行反向传播计算生成的器官的权重值更加准确,充分利用了同一位待测患者的胸片信息,根据该患者的胸片信息生成的第五正侧位结果图和权重值,生成正侧位胸片热力图,便于对检测结果更加可视化,从而便于对医护人员提供参考信息。
参照图5,图5是本申请实施例提供的对胸片进行正/左侧位识别的流程示意图。
在一种可能的实施方式中,获取实时正侧位胸片和实时左侧位胸片之前,该方法还包括:
S501、获取同一待检测患者的两张胸片,将胸片输入至胸片正/左侧位识别模型,输出每张胸片的正侧位胸片概率和左侧位胸片概率;
S502、基于每张胸片的正侧位胸片概率和左侧位胸片概率,对胸片进行分类;
S503、若正侧位胸片概率大于左侧位胸片概率,则确定胸片为实时正侧位胸片;
S504、若左侧位胸片概率大于正侧位胸片概率,则确定胸片为实时左侧位胸片。
经过识别模型便于自动挑选出实时正侧位胸片和实时左侧位胸片,实现胸片正、左侧的自动分类,无需人工干预,为后续肺动脉高压发生概率的确定方法提供数据基础。
参照图6,图6是本申请实施例提供的正/侧位识别模型和第一胸片分析模型的结构示意图。
参照图7,图7是本申请实施例提供的空间注意力模块的结构示意图。
参照图6,服务器接收同一待检测患者的多张胸片。特别地,这里的多张也可以特指为两张。将多张胸片输入至正/左侧位识别模型中,正/左侧位识别模型对多张胸片进行处理,输入每张胸片的正侧位胸片概率和左侧位胸片概率,根据正侧位胸片概率和左侧位胸片概率对每张胸片进行分类。例如,输出一张A患者的第一张胸片的正侧位胸片概率为0.9,左侧位胸片概率为0.1,则确定该胸片为实时正侧位胸片。输出一张A患者的第二张胸片的正侧位胸片概率为0.2,左侧位胸片概率为0.8,则确定该胸片为实时左侧位胸片。特别地,正/左侧位识别模型为现有结构的模型,在此不再赘述。
参照图6,服务器将A患者的实时正侧位胸片和实时左侧位胸片输入至第一胸片分析模型中。第一胸片分析模型包括第一卷积神经网络和第二卷积神经网络,第一卷积神经网络用于对实时正侧位胸片进行处理,第二卷积神经网络用于对实时左侧位胸片进行处理。利用第一卷积神经网络对实时正侧位胸片进行处理的过程参照上述步骤S201至步骤S206。其中空间注意力模块的架构如图7所示。
利用第二卷积神经网络对实时左侧位胸片进行处理的过程包括:将实时左侧位胸片进行多次卷积和最大池化处理,本实施例中重复卷积和最大池化处理操作五次,得到左侧位结果图,将左侧位结果图输入至第三全连接层,输出实时左侧位胸片的全连接层参数。
最后,将所述实时正侧位胸片的全连接层参数和所述实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值。
在一种可能的实施方式中,对第一胸片分析模型的训练包括如下步骤:
获取历史正侧位胸片和历史左侧位胸片;
对历史正侧位胸片和历史左侧位胸片进行预处理,生成预处理后的胸片图像,构建基础数据集;
基于基础数据集划分出训练集、验证集以及测试集;
将训练集输入胸片分析模型框架,得到训练成熟的第二胸片分析模型和对应的肺动脉高压发生概率值;
将验证集输入第二胸片分析模型进行预测,选取肺动脉高压发生概率值的准确率最佳的模型作为第三胸片分析模型;
使用测试集对第三胸片分析模型进行测试,确认测试分数大于或者等于预设分数的模型作为最终的胸片分析模型。最终的胸片分析模型即为第一胸片分析模型。
参照图8,图8是本申请实施例提供的第一胸片分析模型训练流程示意图。在一种可能的实施方式中,该方法还包括:
S801、删除存在伪影的胸片,保留正侧位胸片和左侧位胸片作为训练集,存在伪影的胸片包括存在脊柱侧弯和右心镜的伪影的胸片;
S802、将训练集输入至胸片分析模型进行训练。
删除伪影的胸片,便于使训练集的数据更加精准,从而使识别模型训练得更加成熟。
在一种可能的实施方式中,该方法还包括:
对正侧位胸片和左侧位胸片分别标注区分标签,以对正侧位胸片和左侧位胸片进行区分。
参照图9,图9是本申请实施例公开的基于双视图胸片的肺动脉高压发生概率的确定系统的结构示意图。
本申请还提供了基于双视图胸片的肺动脉高压发生概率的确定方法系统,该系统包括获取模块1、处理模块2以及输出模块3;
获取模块1,用于获取实时正侧位胸片和实时左侧位胸片;
处理模块2,用于将实时正侧位胸片和实时左侧位胸片输入第一胸片分析模型,第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层,第一卷积神经网络包括空间注意力模块;
处理模块2,还用于使用第一卷积神经网络对实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,实时正侧位胸片的全连接层参数包括胸片异常特征;
处理模块2,还用于使用第二卷积神经网络对实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;
处理模块2,还用于将实时正侧位胸片的全连接层参数和实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值;
输出模块3,用于输出肺动脉高压发生概率值。
在一种可能的实施方式中,右心室的左侧视角的影像特征包括实时正侧位胸片的全连接层参数中包括的右心室的影像特征未展示的特征。
在一种可能的实施方式中,第一卷积神经网络包括第一空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
该系统还用于:
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
将实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将第二正侧位结果图经过多个卷积层和多个最大池化层处理,生成第三正侧位结果图;
将第三正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
在一种可能的实施方式中,第一卷积神经网络包括第一空间注意力模块、第二空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
该系统还用于:
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
将实时正侧位胸片经过卷积层处理,生成第一正侧位结果图;
将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将第二正侧位结果图经过卷积层和第二空间注意力模块进行处理,生成第三正侧位结果图;
将第三正侧位结果图经过多个卷积层和多个最大池化层处理,生成第四正侧位结果图;
将第四正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
在一种可能的实施方式中,第一卷积神经网络还包括第二全连接层、多个卷积层、多个最大池化层以及多个空间注意力模块;
该系统还用于:
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,第一参数矩阵与实时正侧位胸片的图像像素的位置相关;
将实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将第一参数矩阵和第一正侧位结果图进行融合处理,生成第二正侧位结果图;
使用第二空间注意力模块对第二正侧位结果图进行分析处理,生成第二参数矩阵,第二参数矩阵与第二正侧位结果图的图像像素的位置相关;
将第二正侧位结果图进行卷积处理,生成第三正侧位结果图;
使用第N空间注意力模块对第N正侧位结果图进行分析处理,生成第N参数矩阵,第N参数矩阵与第N正侧位结果图的图像像素的位置相关;
将第N正侧位结果图进行卷积处理,生成第N正侧位结果图;
将第N正侧位结果图经过多个卷积层和多个最大池化层处理,生成第N+1正侧位结果图;
将第N+1正侧位结果图输入至第二全连接层,输出实时正侧位胸片的全连接层参数。
在一种可能的实施方式中,该系统还用于:
使用第一空间注意力模块对实时正侧位胸片进行分析处理,生成第一参数矩阵,具体包括:
将实时正侧位胸片进行全局最大池化处理,生成最大特征图;其中,最大特征图包括器官的位置特征;
将实时正侧位胸片进行全局平均池化处理,生成平均特征图;其中,平均特征图包括实时正侧位胸片的空间结构特征;
基于最大特征图和平均特征图,生成正侧位胸片融合特征图;
将正侧位胸片融合特征图经过激活函数处理,生成第一参数矩阵。其中,第一参数矩阵与第二正侧位结果的与图像像素位置相关。
在一种可能的实施方式中,该系统还用于:
对肺动脉高压发生概率值进行反向传播计算,生成针对第三正侧位结果图中各通道的权重值;
根据第三正侧位结果图和权重值,生成正侧位胸片热力图。
在一种可能的实施方式中,获取实时正侧位胸片和实时左侧位胸片之前,该系统还用于:
获取同一待检测患者的两张胸片,将胸片输入至胸片正/左侧位识别模型,输出每张胸片的正侧位胸片概率和左侧位胸片概率;
基于每张胸片的正侧位胸片概率和左侧位胸片概率,对胸片进行分类;
若正侧位胸片概率大于左侧位胸片概率,则确定胸片为实时正侧位胸片;
若左侧位胸片概率大于正侧位胸片概率,则确定胸片为实时左侧位胸片。
在一种可能的实施方式中,对第一胸片分析模型的训练包括如下步骤:
获取历史正侧位胸片和历史左侧位胸片;
对历史正侧位胸片和历史左侧位胸片进行预处理,生成预处理后的胸片图像,构建基础数据集;
基于基础数据集划分出训练集、验证集以及测试集;
将训练集输入胸片分析模型框架,得到训练成熟的第二胸片分析模型和对应的肺动脉高压发生概率值;
将验证集输入第二胸片分析模型进行预测,选取肺动脉高压发生概率值的准确率最佳的模型作为第三胸片分析模型;
使用测试集对第三胸片分析模型进行测试,确认测试分数大于或者等于预设分数的模型作为最终的胸片分析模型。
在一种可能的实施方式中,该系统还用于:删除存在伪影的胸片,保留正侧位胸片和左侧位胸片作为训练集,存在伪影的胸片包括存在脊柱侧弯和右心镜的伪影的胸片;
将训练集输入至胸片分析模型进行训练。
在一种可能的实施方式中,该系统还用于:
对正侧位胸片和左侧位胸片分别标注区分标签,以对正侧位胸片和左侧位胸片进行区分。
需要说明的是:上述实施例提供的系统/装置在实现其功能时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将设备的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的系统/装置和方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本申请还公开一种电子设备。参照图10,图10是本申请实施例的公开的一种电子设备的结构示意图。该电子设备4可以包括:至少一个处理器5,至少一个网络接口8,用户接口7,存储器9,至少一个通信总线6。
其中,通信总线6用于实现这些组件之间的连接通信。
其中,用户接口7可以包括显示屏(Display)、摄像头(Camera),可选用户接口7还可以包括标准的有线接口、无线接口。
其中,网络接口8可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
其中,处理器5可以包括一个或者多个处理核心。处理器5利用各种接口和线路连接整个服务器内的各个部分,通过运行或执行存储在存储器9内的指令、程序、代码集或指令集,以及调用存储在存储器9内的数据,执行服务器的各种功能和处理数据。可选地,处理器5可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。处理器5可集成中央处理器(Central ProcessingUnit,CPU)、图像处理器(Graphics Processing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到处理器5中,单独通过一块芯片进行实现。
其中,存储器9可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。可选地,该存储器9包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器9可用于存储指令、程序、代码、代码集或指令集。存储器9可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及的数据等。存储器9可选的还可以是至少一个位于远离前述处理器5的存储装置。参照图10,作为一种计算机存储介质的存储器9中可以包括操作系统、网络通信模块、用户接口模块以及基于双视图胸片的肺动脉高压发生概率的确定方法的应用程序。
在图10所示的电子设备4中,用户接口7主要用于为用户提供输入的接口,获取用户输入的数据;而处理器5可以用于调用存储器9中存储基于双视图胸片的肺动脉高压发生概率的确定方法的应用程序,当由一个或多个处理器5执行时,使得电子设备4执行如上述实施例中一个或多个所述的方法。需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本申请并不受所描述的动作顺序的限制,因为依据本申请,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本申请所必需的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几种实施方式中,应该理解到,所披露的装置,可通过其他的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些服务接口,装置或单元的间接耦合或通信连接,可以是电性或其他的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本申请各个实施例方法的全部或部分步骤。而前述的存储器包括:U盘、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述者,仅为本公开的示例性实施例,不能以此限定本公开的范围。即但凡依本公开教导所作的等效变化与修饰,皆仍属本公开涵盖的范围内。本领域技术人员在考虑说明书及实践真理的公开后,将容易想到本公开的其他实施方案。
本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未记载的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的范围和精神由权利要求限定。
Claims (10)
1.基于双视图胸片的肺动脉高压发生概率的确定方法,其特征在于,所述方法包括:
获取实时正侧位胸片和实时左侧位胸片;
将所述实时正侧位胸片和所述实时左侧位胸片输入第一胸片分析模型,所述第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层;
使用所述第一卷积神经网络对所述实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,所述实时正侧位胸片的全连接层参数包括胸片异常特征;所述第一卷积神经网络包括第一空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵;其中,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;所述第一参数矩阵由如下步骤得到,将所述实时正侧位胸片进行全局最大池化处理,生成最大特征图;将所述实时正侧位胸片进行全局平均池化处理,生成平均特征图;基于所述最大特征图和所述平均特征图,生成正侧位胸片融合特征图;将所述正侧位胸片融合特征图经过激活函数处理,生成所述第一参数矩阵;
将所述实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将所述第二正侧位结果图经过多个卷积层和多个最大池化层处理,生成第三正侧位结果图;将所述第三正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数;使用所述第二卷积神经网络对所述实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,所述实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;将所述实时正侧位胸片的全连接层参数和所述实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值。
2.根据权利要求1所述的方法,其特征在于,
所述右心室的左侧视角的影像特征包括所述实时正侧位胸片的全连接层参数中包括的所述右心室的影像特征未展示的特征。
3.根据权利要求1所述的方法,其特征在于,
所述第一卷积神经网络包括第一空间注意力模块、第二空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
将所述实时正侧位胸片经过卷积层处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
将所述第二正侧位结果图经过卷积层和第二空间注意力模块进行处理,生成第三正侧位结果图;
将所述第三正侧位结果图经过多个卷积层和多个最大池化层处理,生成第四正侧位结果图;将所述第四正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数。
4.根据权利要求1所述的方法,其特征在于,
所述第一卷积神经网络还包括第二全连接层、多个卷积层、多个最大池化层以及多个空间注意力模块;
使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
将所述实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
使用第二空间注意力模块对所述第二正侧位结果图进行分析处理,生成第二参数矩阵,所述第二参数矩阵与所述第二正侧位结果图的图像像素的位置相关;
将所述第二正侧位结果图进行卷积处理,生成第三正侧位结果图;
使用第N空间注意力模块对所述第N正侧位结果图进行分析处理,生成第N参数矩阵,所述第N参数矩阵与所述第N正侧位结果图的图像像素的位置相关;
将所述第N正侧位结果图进行卷积处理,生成第N正侧位结果图;
将所述第N正侧位结果图经过多个卷积层和多个最大池化层处理,生成第N+1正侧位结果图;
将所述第N+1正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括:
对所述肺动脉高压发生概率值进行反向传播计算,生成针对第三正侧位结果图中各通道的权重值;
根据所述第三正侧位结果图和所述权重值,生成正侧位胸片热力图。
6.根据权利要求1所述的方法,其特征在于,所述获取实时正侧位胸片和实时左侧位胸片之前,所述方法还包括:
获取同一待检测患者的两张胸片,将所述胸片输入至胸片正/左侧位识别模型,输出每张胸片的正侧位胸片概率和左侧位胸片概率;
基于每张胸片的所述正侧位胸片概率和左侧位胸片概率,对所述胸片进行分类;
若所述正侧位胸片概率大于左侧位胸片概率,则确定所述胸片为实时正侧位胸片;
若所述左侧位胸片概率大于正侧位胸片概率,则确定所述胸片为实时左侧位胸片。
7.根据权利要求1所述的方法,其特征在于,对所述第一胸片分析模型的训练包括如下步骤:获取历史正侧位胸片和历史左侧位胸片;
对所述历史正侧位胸片和所述历史左侧位胸片进行预处理,生成预处理后的胸片图像,构建基础数据集;
基于所述基础数据集划分出训练集、验证集以及测试集;
将所述训练集输入胸片分析模型框架,得到训练成熟的第二胸片分析模型和对应的肺动脉高压发生概率值;
将所述验证集输入第二胸片分析模型进行预测,选取肺动脉高压发生概率值的准确率最佳的模型作为第三胸片分析模型;
使用所述测试集对所述第三胸片分析模型进行测试,确认测试分数大于或者等于预设分数的模型作为最终的胸片分析模型。
8.根据权利要求7所述的方法,其特征在于,所述方法还包括:
删除存在伪影的胸片,保留正侧位胸片和左侧位胸片作为训练集,所述存在伪影的胸片包括存在脊柱侧弯和右心镜的伪影的胸片;
将所述训练集输入至所述胸片分析模型进行训练。
9.基于双视图胸片的肺动脉高压发生概率的确定系统,其特征在于,所述系统包括获取模块(1)、处理模块(2)以及输出模块(3);
所述获取模块(1),用于获取实时正侧位胸片和实时左侧位胸片;
所述处理模块(2),用于将所述实时正侧位胸片和所述实时左侧位胸片输入第一胸片分析模型,所述第一胸片分析模型包括第一卷积神经网络、第二卷积神经网络以及第一全连接层;所述处理模块(2),还用于使用所述第一卷积神经网络对所述实时正侧位胸片进行分析处理,得到实时正侧位胸片的全连接层参数;其中,所述实时正侧位胸片的全连接层参数包括胸片异常特征;所述第一卷积神经网络包括第一空间注意力模块、第二全连接层、多个卷积层以及多个最大池化层;
所述处理模块(2),还用于使用第一空间注意力模块对所述实时正侧位胸片进行分析处理,生成第一参数矩阵,所述第一参数矩阵与所述实时正侧位胸片的图像像素的位置相关;
所述处理模块(2),还用于将所述实时正侧位胸片进行全局最大池化处理,生成最大特征图;所述处理模块(2),还用于将所述实时正侧位胸片进行全局平均池化处理,生成平均特征图;所述处理模块(2),还用于基于所述最大特征图和所述平均特征图,生成正侧位胸片融合特征图;
所述处理模块(2),还用于将所述正侧位胸片融合特征图经过激活函数处理,生成所述第一参数矩阵;
所述处理模块(2),还用于将所述实时正侧位胸片进行卷积处理,生成第一正侧位结果图;
所述处理模块(2),还用于将所述第一参数矩阵和所述第一正侧位结果图进行融合处理,生成第二正侧位结果图;
所述处理模块(2),还用于将所述第二正侧位结果图经过多个卷积层和多个最大池化层处理,生成第三正侧位结果图;
所述处理模块(2),还用于将所述第三正侧位结果图输入至第二全连接层,输出所述实时正侧位胸片的全连接层参数;
所述处理模块(2),还用于使用所述第二卷积神经网络对所述实时左侧位胸片进行分析处理,得到实时左侧位胸片的全连接层参数;其中,所述实时左侧位胸片的全连接层参数包括右心室的左侧视角的影像特征;
所述处理模块(2),还用于将所述实时正侧位胸片的全连接层参数和所述实时左侧位胸片的全连接层参数经过第一全连接层拼接操作,再经过激活函数激活得到肺动脉高压发生概率值;所述输出模块(3),用于输出所述肺动脉高压发生概率值。
10.一种电子设备,其特征在于,包括处理器(5)、存储器(9)、用户接口(7)及网络接口(8),所述存储器(9)用于存储指令,所述用户接口(7)和网络接口(8)用于给其他设备通信,所述处理器(5)用于执行所述存储器(9)中存储的指令,以使所述电子设备(4)执行如权利要求1至8任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310647898.0A CN117059263B (zh) | 2023-06-02 | 2023-06-02 | 基于双视图胸片的肺动脉高压发生概率的确定方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310647898.0A CN117059263B (zh) | 2023-06-02 | 2023-06-02 | 基于双视图胸片的肺动脉高压发生概率的确定方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN117059263A CN117059263A (zh) | 2023-11-14 |
CN117059263B true CN117059263B (zh) | 2024-01-19 |
Family
ID=88657820
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310647898.0A Active CN117059263B (zh) | 2023-06-02 | 2023-06-02 | 基于双视图胸片的肺动脉高压发生概率的确定方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117059263B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20170045099A (ko) * | 2015-10-16 | 2017-04-26 | 재단법인 아산사회복지재단 | 심층신경망을 이용한 혈류상태 분석시스템, 방법 및 프로그램 |
CN111028248A (zh) * | 2019-12-19 | 2020-04-17 | 杭州健培科技有限公司 | 一种基于ct图像的静动脉分离方法及装置 |
CN114023436A (zh) * | 2021-11-03 | 2022-02-08 | 北京掌引医疗科技有限公司 | 一种基于人工智能的肺结核分类诊断模型训练方法 |
-
2023
- 2023-06-02 CN CN202310647898.0A patent/CN117059263B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20170045099A (ko) * | 2015-10-16 | 2017-04-26 | 재단법인 아산사회복지재단 | 심층신경망을 이용한 혈류상태 분석시스템, 방법 및 프로그램 |
CN111028248A (zh) * | 2019-12-19 | 2020-04-17 | 杭州健培科技有限公司 | 一种基于ct图像的静动脉分离方法及装置 |
CN114023436A (zh) * | 2021-11-03 | 2022-02-08 | 北京掌引医疗科技有限公司 | 一种基于人工智能的肺结核分类诊断模型训练方法 |
Non-Patent Citations (1)
Title |
---|
人工智能及机器学习在心血管疾病中的应用;宋绮蕊;蔡军;;基础医学与临床(05);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN117059263A (zh) | 2023-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3429465B1 (en) | Systems and methods for estimating healthy lumen diameter and stenosis quantification in coronary arteries | |
CN109886933B (zh) | 一种医学图像识别方法、装置和存储介质 | |
AU2016213696A1 (en) | Systems and methods for numerically evaluating vasculature | |
CN111210401B (zh) | 根据医学图像的主动脉自动检测和量化 | |
US20210407077A1 (en) | Information processing device and model generation method | |
US11468570B2 (en) | Method and system for acquiring status of strain and stress of a vessel wall | |
US9198603B2 (en) | Device, method and program for searching for the shortest path in a tubular structure | |
US20210151171A1 (en) | Apparatus and method for medical image reading assistant providing representative image based on medical use artificial neural network | |
CN111275755B (zh) | 基于人工智能的二尖瓣瓣口面积检测方法、系统和设备 | |
CN113066061A (zh) | 一种基于mra的动脉瘤检测方法、系统、终端及介质 | |
KR20240054248A (ko) | 의료 영상 분석 장치 및 방법, 의료 영상 시각화 장치 및 방법 | |
US20230076868A1 (en) | Systems and methods for utilizing synthetic medical images generated using a neural network | |
JP2018529446A (ja) | モバイルffrシミュレーション | |
KR20190087681A (ko) | 자궁경부암에 대한 피검체의 발병 여부를 판정하는 방법 | |
EP3939003B1 (en) | Systems and methods for assessing a likelihood of cteph and identifying characteristics indicative thereof | |
CN112926537A (zh) | 图像处理方法、装置、电子设备以及存储介质 | |
CN114782358A (zh) | 一种血管形变自动计算的方法、装置及存储介质 | |
CN111340794A (zh) | 冠状动脉狭窄的量化方法及装置 | |
CN116452579B (zh) | 一种基于胸片图像的肺动脉高压智能评估方法和系统 | |
US9436889B2 (en) | Image processing device, method, and program | |
US20230222668A1 (en) | Image processing apparatus, image processing method, and recording medium | |
CN117059263B (zh) | 基于双视图胸片的肺动脉高压发生概率的确定方法及系统 | |
KR20230118054A (ko) | 의료 영상으로부터 바이오마커 발현을 예측하는 방법및 시스템 | |
CN109767468B (zh) | 脏器体积检测方法及装置 | |
CN113706541B (zh) | 一种图像处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |