CN111436212A - 用于医学成像评估的深度学习的应用 - Google Patents
用于医学成像评估的深度学习的应用 Download PDFInfo
- Publication number
- CN111436212A CN111436212A CN201980000228.1A CN201980000228A CN111436212A CN 111436212 A CN111436212 A CN 111436212A CN 201980000228 A CN201980000228 A CN 201980000228A CN 111436212 A CN111436212 A CN 111436212A
- Authority
- CN
- China
- Prior art keywords
- medical
- deep learning
- abnormality
- algorithm
- learning algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/72—Signal processing specially adapted for physiological signals or for diagnostic purposes
- A61B5/7235—Details of waveform analysis
- A61B5/7264—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
- A61B5/7267—Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/12—Detection or correction of errors, e.g. by rescanning the pattern
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B2576/00—Medical imaging apparatus involving image processing or analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Psychiatry (AREA)
- Physiology (AREA)
- Pathology (AREA)
- Veterinary Medicine (AREA)
- Signal Processing (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- Computing Systems (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Analysis (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本公开总体上涉及用于处理从成像或其他诊断和评估医疗流程中获得的电子数据的方法和系统。某些实施例涉及用于深度学习算法的开发的方法,该算法对成像和其他医学数据中的特定特征和状况执行机器识别。另一实施例提供了被配置为通过深度学习算法来检测并定位医学成像扫描上的医学异常的系统。
Description
相关申请
本申请要求享有于2018年11月14日提交的第201821042893号印度专利申请的优先权权益,通过引用将其全部并入本文用于所有目的。
技术领域
本公开总体上涉及用于处理从成像或其他诊断和评估医疗程序中获得的电子数据的方法和系统。一些实施例涉及用于深度学习算法的开发的方法,该算法对成像和其他医学数据中的特定特征和状况执行机器识别。
背景技术
诸如计算机断层摄影(CT)和X射线成像的医学成像技术广泛用于诊断、临床研究和治疗计划。存在对提高医学成像评估的效率、准确性和成本效益的自动化方法的新兴需求。
胸部X光片在最常见的放射学诊断试验当中,每年全球都会进行数百万次扫描。虽然经常进行试验,但是读取胸部X光片成为更复杂的放射学任务,并且众所周知是高度主观的,其中根据评阅者(reader)的经验水平、检测到的异常和临床环境,评阅者之间的一致性从0.2的kappa值到0.77的kappa值变化。
由于他们的可支付力(affordability),世界各地,包括在很少有或没有放射科医师的地区都使用胸部X光片。在世界许多地方,数字胸部X光片机的可用性(availability)比经过高度训练以执行这项复杂的任务的临床医生的可用性增长地更快。如果自动检测可以在资源匮乏环境中作为疾病筛查工具被应用,那么对全球人口健康结果的益处可以很有意义。胸部X光片的这种使用的一个示例是在结核病筛查中,其中专家评阅者所掌握的胸部X光片对结核病的早期检测比临床症状更敏感。
在过去几年中,人们对使用深度学习算法来帮助医学图像上的异常检测的兴趣越来越大。这是机器解释自然图像和检测其中的对象的能力快速增长的自然结果。特别是在胸部X光片方面,已经有一系列研究描述了使用深度学习算法来检测各种异常(Shin等人,Proceedings of the IEEE Conference on Computer Vision and PatternRecognition,第2497-2506页,2016;Rajpurkar等人,arXiv preprint arXiv:1711.05225,2017;Li等人,arXiv preprint arXiv:1711.06373,2017)。这些中的大部分受到缺乏大型高质量数据集的可用性的限制,其中发表的著作(work)描述的最大的是对112,120张X光片进行训练的算法,相对少数考虑到大多数胸部X光片是正常的(normal),并且异常的(abnormal)X光片不太常见,特定的异常更少。
发明概述
本公开描述了全自动深度学习系统的开发和临床验证,该系统被训练以从医学成像扫描检测并定位异常。
特定实施例提供了深度学习系统的训练和临床验证,以检测并定位胸部X光片异常。该系统已经在120万张X光片上进行了训练,并在包含2000项研究的独立数据集上对照由3名放射科医师组成的小组(panel)的多数投票对其进行了试验。胸部X光片上异常范围从非常小的病变(lesion)到覆盖肺野(field)大部分的弥漫性(diffuse)异常。最佳深度学习算法架构基于检测到的异常而不同;因此,提供了针对每个异常使用具有最大化AUC的单独算法的系统。
具体地,实施例提供了用于开发深度学习系统以检测并定位胸部X射线扫描上的医学异常的方法,包括:
选择医学成像扫描,并且使用自然语言处理(NLP)算法来提取医学异常;
通过调整大小和标签特定的数据扩增(augmentation)来预处理所选择的医学成像扫描;
用选择的医学成像扫描来训练包括卷积神经网络架构的深度学习算法,其中,通过预先训练将胸部X射线扫描与其他身体部位的X射线扫描分离的任务来修改架构;
通过组合多个模型的预测来预测特定类型的医学异常的存在/不存在,其中,使用各种启发法(heuristic)来选择模型;
生成对应于医学异常的识别水平的分数,并且输出表示医学异常的精确位置和范围的边界框;以及
通过与放射科医师报告进行比较来验证用于检测医学异常的深度学习算法的准确性。
根据实施例,所述医学成像扫描包括但不限于CT、X射线、核磁共振成像(MRI)和超声流程。对于胸部X射线扫描,所述医学异常包括但不限于钝化的CP角(blunted CPangle)、钙化(calcification)、心脏肥大(cardiomegaly)、空洞(cavity)、实变(consolidation)、纤维化(fibrosis)、肺门增大(hilar enlargement)、混浊(opacity)和胸腔积液(pleural effusion)。
另一实施例提供了被配置为通过深度学习算法来检测并定位胸部X射线扫描上的医学异常的系统,其中,通过以下步骤来开发深度学习算法:
选择医学成像扫描,并且使用自然语言处理(NLP)算法来提取医学异常;
通过调整大小和标签特定的数据扩增来预处理所选择的医学成像扫描;
用选择的医学成像扫描来训练包括卷积神经网络架构的深度学习算法,其中,通过预先训练将胸部X射线扫描与其他身体部位的X射线扫描分离的任务来修改架构;
通过组合多个模型的预测来预测特定类型的医学异常的存在/不存在,其中,使用各种启发法来选择模型;
生成对应于医学异常的识别水平的分数,并且输出表示医学异常的精确位置和范围的边界框;以及
通过与放射科医师报告进行比较来验证用于检测医学异常的深度学习算法的准确性。
此外,系统被配置为通过深度学习算法来检测并定位胸部X射线扫描上的医学异常的系统,其中,算法实现了对于异常扫描的检测的AUC为0.93±0.01,以及对于钝化的肋膈角、钙化、心脏肥大、空洞、实变、纤维化、肺门增大、混浊和胸腔积液的检测的AUC分别为0.94±0.02、0.88±0.03、0.97±0.02、0.93±0.07、0.93±0.04、0.88±0.05、0.89±0.05、0.93±0.02、0.98±0.02。
发明的有益效果
以前发表的关于用于胸部X光片异常检测的深度学习的著作没有区分“疾病”的诊断和“异常调查结果(findings)”的检测。本发明的重点是检测异常调查结果或者X光片上的异常,这种异常可以由专家在没有临床历史的任何先验知识(prior knowledge)的情况下可视地检测出来。这允许将系统应用于具有不同疾病患病率(prevalence)模式的地理环境和不同疾病表现。
附图简述
图1对于深度学习系统以检测胸部X光片异常的放射科医师验证的研究设计。
图2对于所有异常的AUC曲线相对于3名放射科医师多数,其中标记了评阅者性能。
图3使用qXR在地区TB中心进行试点(pilot)的TB检测的推荐工作流。
详细描述
应当理解,本发明不限于本文描述的特定的方法论、协议和系统等,且因此可以变化。本文使用的术语仅为了描述特定实施例的目的,而不旨在限制本发明的范围,本发明的范围仅由权利要求限定。
如说明书和所附权利要求中所使用的,除非有相反的指定,否则以下术语具有以下所指示的含义。
“架构”是指描述计算机系统的功能、组织和实现的一组规则和方法。
“卷积神经网络(CNN)”是指一类深度、前馈人工神经网络,最常用于分析视觉影像。CNN使用多层感知器的变体,这些感知器被设计为需要最少的预处理。CNN由输入和输出层以及多个隐藏层组成。CNN的隐藏层通常由卷积层、池化(pooling)层、全连接层和标准化层组成。卷积层对输入应用卷积运算,将结果传递给下一层。局部或全局池化层将一层处的神经元簇(cluster)的输出合并到下一层中的单个神经元中。全连接层将一层中的每个神经元连接到另一层中的每个神经元。与其他图像分类算法相比,CNN使用相对较少的预处理。这意味着网络学习传统算法中手工设计(hand-engineered)的过滤器。在特征设计中,独立于先前知识和人类努力是主要的优势。
“启发法”是指被设计用于在经典方法太慢时更快地解决问题,或者用于在经典方法找不到任何精确解(exact solution)时找到近似解的技术。这是通过交易最优性、完整性、准确性或速度精度来实现的。从某种意义上来说,这可以被认为是捷径。启发式函数(也简称为启发法)是基于可用信息在每个分支步骤中对搜索算法中的备选方案进行排序以决定跟随哪个分支的函数。启发法的目标是在合理的时间范围内产生足以解决手头问题的解。该解可能不是对该问题的所有解中最好的,或者它可以仅仅近似精确解。
“自然语言处理(NLP)”是指计算机以智能且有用的方式来分析、理解人类语言并从人类语言获得含义的方法。通过利用NLP,开发人员可以组织并构造知识来执行任务,诸如自动摘要、翻译命名实体识别、关系提取、情感分析、语音识别和主题分割。
本公开示出了能够在数据驱动的图像评估工作流中集成并使用机器学习分析的各种技术和配置。例如,可以对被产生作为医学成像研究的一部分的医学成像过程数据执行机器学习分析(诸如某些医学状况的图像检测的经训练的模型)。医学成像过程数据可以包括由成像模态捕获的图像数据,以及命令(order)数据(诸如指示对放射线图像读取的请求的数据),每个都是为了便于医学成像评估而产生的(诸如由放射科医师执行的放射学读取或者由另一合格的医学专业人员执行的诊断评估)。
例如,机器学习分析可以接收并处理来自医学成像过程数据的图像,以识别经训练的结构、状况以及特定研究的图像内的状况。机器学习分析可以导致自动检测、指示或确认图像内的某些医疗状况,例如紧急或生命攸关的医疗状况、临床严重异常和其他关键调查结果。基于机器学习分析的结果,对于图像的医学评估和相关联的成像过程可以被设置优先级,或者以其他方式被改变或被修改。此外,医学状况的检测可以用于帮助将医学成像数据分配给特定评估者、对于医学成像数据的评估过程,或在医学成像评估之前或与医学成像评估同时执行其他动作(或生成诸如来自这样的医学成像评估的报告的数据项)。
如本文进一步讨论的,机器学习分析可以代表任何数量的机器学习算法和经训练的模型来被提供,包括但不限于已经被训练来执行图像识别任务的深度学习模型(也称为深度机器学习或分层模型),特别是对于人体解剖和解剖表示的医学图像上的某些类型的医学状况。如本文所使用的,术语“机器学习”用于指各类人工智能算法和能够执行经训练的结构的机器驱动(例如,计算机辅助)识别的算法驱动方法,其中术语“深度学习”是指使用多层表示和抽象的这种机器学习算法的多层操作。然而,明显的是,在当前描述的医学成像评估中应用、使用和配置的机器学习算法的角色可以由任何数量的其他基于算法的方法(包括人工神经网络的变体、有学习能力的算法、可训练的对象分类和其他人工智能处理技术)来补充或替代。
在下面的一些示例中,参考放射学医学成像过程(例如,计算机断层摄影(CT)、核磁共振成像(MRI)、超声波和X射线过程等)和由这样的成像过程产生的图像的诊断评估,这样的成像过程由经许可并认证的放射科医师通过图像评估(例如,放射学读取)来执行。应当理解,当前描述的技术和系统的适用性将扩展到由各种医学过程和专业(包括不涉及传统放射学成像模态的那些)产生的各种各样的成像数据(和其他数据表示)。这样的专业包括但不限于病理学、医学摄影、诸如脑电图学(EEG)和心电图学(EKG)过程的医学数据测量、心脏病学数据、神经科学数据、临床前成像以及与远程医疗、远程病理学(telepathology)、远程诊断相关的其他数据收集过程,以及医学过程和医学科学的其他应用。因此,本文描述的数据识别和工作流修改技术的性能可以应用于各种医学图像数据类型、设置和用例(usecase),包括捕获的静态图像和多图像(例如视频)表示。
以下描述和附图充分说明了具体实施例,以使本领域技术人员能够实施它们。其他实施例可以结合结构、逻辑、电气、过程和其他变化。一些实施例的部分及特征可以被包括在其它实施例中或是代替其他实施例的部分及特征。
示例
示例1深度学习系统以检测胸部X光片异常的放射科医师验证
1.1.方法
1.1.1算法开发
1,200,000张X光片及其相应的放射学报告被用于训练卷积神经网络(CNN)以识别异常。开发了自然语言处理算法来解析(parse)非结构化放射学报告,并提取关于胸部X光片中的异常的存在的信息。在训练CNN时,这些提取的调查结果被用作标注(label)。训练单个网络以识别正常的X光片,以及胸部X光片调查结果“钝化的CP角”、“钙化”、“心脏肥大”、“空洞”、“实变”、“纤维化”、“肺门增大”、“混浊”和“胸腔积液”。表1列出了从报告中提取放射学调查结果时使用的定义。这些调查结果被称为标签(tag)。标签提取准确性相对于一组手动提取异常的报告进行测量。表2a报告了标签提取准确性。
表1.异常定义
表2.标签提取准确性。
(a)标签提取准确性
(b)放射科医师之间的一致性。Fleiss’sκ是在两个放射科医师的读数和用NLP从原始报告提取的实际真相(ground truth)之间计算的。
1.1.1.1预处理和数据扩增
所有X光片都被调整大小到标准大小,并且应用了一组标准归一化来减少源相关的变化。调整大小的操作包括对原始图像进行下采样。虽然下采样意味着潜在的有价值的信息的丢失,但是它通过克服维数灾难来帮助模型更好地训练,并且由AI的当前状态进行保证。此外,图像的大小会显著影响推理的速度。
鉴于X光片不如其他医学成像模态(modality)(如CT和MRI)那样标准化,在训练的同时使用了大量标签特定的数据扩增,其旨在使模型对被用于获取、曝光和噪声的制造商/模型中的可变性具有鲁棒性。
1.1.1.2架构和训练
检测个体异常的系统中的基本块是DenseNet(Huang等人,Proceedings of theIEEE conference on computer vision and pattern recognition,第1卷,第3页,2017)或ResNet(He等人,Proceedings of the IEEE conference on computer vision andpattern recognition,第770-778页,2016)的修改版本。构建个体异常检测系统的所有分类模型都是针对将胸部X光片与其他身体部位的X光片分离的任务进行预训练的,而不是流行的ImageNet预训练。该步骤旨在利用由所有X光片组成的超级集合。在与ImageNet预训练相比时,观察到改进的模型收敛(convergence)和在泛化(generalization)性能上的增加的增益。
1.1.1.3模型集成的使用
集成(ensembling)是通过组合由模型的集合产生的预测来提高泛化性能的简单方法。使用不同的初始条件、架构和采样(训练时使用的异常的分布)来创建多个模型以检测特定异常。使用各种启发法来选择这些模型的子集,并且使用多数集成方案来组合这些选择的模型的预测,以做出关于特定异常的存在/不存在的决定。
1.2研究设计
1.2.1采样大小和X光片选择
对于研究使用了来自南印度的两个哥伦比亚亚洲医院中心的门诊和住院X光片的组合。在该研究中使用之前,所有的数据都被去识别(de-identified)。放射科医师验证分两个阶段进行,每个阶段使用1000张X光片单独集合。章节1.4.1中解释了样本大小的计算。来自两个中心的所有胸部X光片都按如下方式进行过滤。
1.选择所有PA和AP位(view)胸部X光片,其中放射科医师报告是可用的。
2.在这个集合中,排除了来自儿科患者(年龄≤14岁)的X光片,排除了以仰卧位拍摄的X光片(床边/便携式X光片)。
从该池中随机选择了1000张X光片的集合(集合1),没有包含感兴趣的异常的X光片的富集(enrichment)。从相同的池中采样1000张X光片的第二集合(集合2)(不包括先前选择的1000张X光片),使得它们包括每个异常的至少80个示例(可用的情况下),其余的X光片是随机选择的。解析X光片放射学报告的自然语言处理工具被用于实现上面列出的排除,并且自动化对于阶段2的采样。图1中示出了研究设计。
1.2.2包含和排除准则
研究中包括了以站立姿势拍摄的非卧床(ambulatory)成人患者的PA和AP位胸部X光片。排除了来自14岁以下患者的X光片、来自床边或便携式X光机的以仰卧位拍摄的X光片。因此,数据集不包含任何带有可见静脉置(intravenous lines)、管状物(tube)或导管(catheter)或ECG导联(lead)的X光片,或带有诸如起搏器的植入医疗设备的患者的X光片。
1.2.3异常定义
为了确保审查(review)放射科医师和算法在相同的参照系下操作以用于定义异常,以下工作定义用于“正常”和每个异常。在算法开发阶段期间,这些定义用于从报告中提取标签,并且在验证阶段期间,由放射科医师使用这些定义。
1.3放射科医师验证和黄金标准创建
1.3.1从报告中提取异常
一种结合自然语言处理算法的定制的基于词典的方法被用于从对应于X光片的原始放射科医师报告中提取相关调查结果。自然语言处理算法的准确性被量化,用于从由2000次扫描组成的独立数据集上的非结构化放射学报告中提取胸部X光片异常,与对于每次扫描只有单个专家评阅者的意见进行对比。专家们被提供表1中的标签定义、原始报告以及胸部X光片,并且无视于算法输出。
1.3.2对于从图像中异常检测的深度学习算法准确性的验证
X光片被随机分配给6名经委员会认证的放射科医师(3对),他们具有3至15年的放射学专业知识,使得每一张X光片都由2名放射科医师独立评阅,这2名放射科医师都没有最初地报告过该X光片。第三读数以附带X光片的原始放射学报告的形式可用。放射科医师验证使用了定制验证门户(portal)。DICOM文件有完整的原始分辨率可供放射科医师在决定是否存在异常时使用。放射科医师能够针对每个异常标记“存在”或“不存在”,也可以使用钢笔工具来标记出受影响的区域。附加的文本域可用于反馈。
对于该研究的黄金标准(gold standard)是3名放射科医师读数之间对于每个异常的存在或不存在的大多数意见(2名放射科医师使用验证门户用于回顾性(retrospective)评估以及1份原始放射学报告)。相对于该黄金标准报告了检测异常X光片和每个单独异常的算法准确性。算法输出在两个数据集上生成,并且放置在锁定的数据库中,直到放射科医师验证完成。放射科医师在针对验证研究审查X光片时,无视于原始X光片报告和算法输出。
1.4统计分析
1.4.1样本大小计算
以95%的置信区间精确地计算敏感性和特异性将需要从人群中随机采样的未富集数据集中的大约20,000个的样本大小。使用了章节1.2.1中详述的富集策略。以90%准确性和95%置信区间估计80%敏感性所需的样本为951。因此,2000张X光片足以评估X光片作为正常和异常的分类。由于在初步诊断调查中,假阴性被认为比假阳性更严重,因此对于该样本大小计算考虑了敏感性。
在典型的门诊环境中,异常的患病率低于5%。951张X光片的样本大小可以在95%置信区间上给出3%的精确度来估计80%的特异性。鉴于对于以上列出的每种具体状况的患病率低于10%,每种状况下至少77个真实病例将以10%精确度和95%的置信区间给出80%的敏感性。因此,对于集合2,每种状况最少使用80个真实病例。
1.4.2算法性能度量相对于放射科医师
当计算对于特定异常的AUC时,使用集合1的整体,以及集合2中对于该异常为阳性的所有X光片。
1.使用足够大量的“异常阳性”病例进行敏感性计算。
2.保持正常的比率:异常接近自然分布。与使用所组合的两个集合比较时,这使得对特异性的评估更加公平。
实际上,这相当于进行独立的研究,其单独地评估每个异常的检测的准确性。然而,在计算对于异常X光片的检测的AUC时,使用了整个数据集(n=2000)。
使用由Hanley和McNeil描述的“基于分布的”方法(Radiology,143(1):29-36,1982)来计算AUC置信区间。使用一致的百分比和Cohen’s kappaκ统计(Fam Med,37(5):360-363,2005)来测量成对评阅者之间对每项调查结果的一致性。此外,使用Fleiss’kappaκ统计(Psychological bulletin,76(5):378,1971)来测量所有三名评阅者(2名放射科医师和原始报告)之间对每项调查结果的一致性。因为评阅者被分组成3对,所以评阅者之间一致性的每个报告的测量结果是3个估计值的平均值。
1.3结果
表3汇总了基本人口统计和包含每个异常的扫描的次数。2000张X光片中有658张是异常的,其中最常见的异常是“混浊”、“心脏肥大”和“钙化”。没有足够的包含空洞的扫描来可信地计算深度学习系统在识别该异常上的准确性。
表3.研究人群的人口统计。
实现报告解析的高准确性有助于能够使用大量X光片来训练深度学习算法。表2a汇总了来自放射学报告的异常提取准确性相对于由单个评阅者手动提取。算法能够相对于专家评阅者检测正常的X光片报告,具有0.94的敏感性以及1的特异性。对于报告中的个体异常的检测,敏感性从胸腔积液的0.93到钙化和空洞的1变化;特异性从混浊的0.92到纤维化的0.99变化。
1.3.1放射科医师之间的一致性
表2b描述了评阅者之间的一致性。异常X光片的检测的一致性最高(评阅者之间的一致性为85%,Cohen’s Kappa为0.6,Fleiss’kappa为0.56)。
1.3.2算法准确性相对于3名放射科医师的大多数意见
表4列出了在识别12种异常的每一种上的深度学习系统准确性。图2示出了对于在整个数据集(n=2000)上绘制的每个异常的AUC曲线,相对于从6名放射科医师中随机抽取(drawn)的3名放射科医师的大多数意见(2名放射科医师回顾性地重新评阅,加上原始放射学报告)。在每张图上标记了对于6名放射科医师的个体放射科医师敏感性和特异性。在大多数情况下,个体放射科医师敏感性和特异性略高于AUC曲线(胸腔积液、心脏肥大和混浊除外),并且其中算法性能等同于某些个体的性能(或放射科医师敏感性和特异性)。
表4.算法的性能
另一数据集(Qure90k)是在印度的4个中心随机采样的,这些中心对原始训练数据集没有贡献。使用自然语言处理(NLP)在原始放射科医师报告上建立了对于该数据集的参考标准(实际真相)。表5列出了在识别12种异常的每一种上的深度学习系统准确性。
表5.算法在Qure90K数据集上的性能。
1.4结论
深度学习系统示出了对于异常扫描的检测的AUC为0.93(CI0.92-0.94),以及对于钝化的肋膈角、钙化、心脏肥大、空洞、实变、纤维化、肺门增大、混浊和胸腔积液的检测的AUC(CI)分别为0.94(0.92-0.97)、0.88(0.85-0.91)、0.97(0.95-0.99)、0.93(0.85-1)、0.93(0.89-0.96)、0.88(0.84-0.93)、0.89(0.84-0.94)、0.93(0.91-0.95)、0.98(0.97-1)。
该示例表明,用大量良好标注的数据来训练的深度学习算法可以准确地检测胸部X光片上的异常。随着这些系统变得越来越准确,使用它们来扩大胸部X光片解释的范围并提高其效率的可行性增加了。
示例2用于结核病检测的深度学习解决方案qXR
Qure.ai's qXR被设计用于筛查异常胸部X光片并确定其优先级。算法自动识别15种最常见的胸部X光片异常。这些异常的子集暗示了典型或不典型的肺结核被组合在一起,以在结果内生成“肺结核筛查”算法。结核病筛查算法旨在复制放射科医师或内科医师的胸部X光片的筛查,用于微生物确认前的结核病的异常提示。qXR是第一个通过CE认证的基于AI的胸部X光片解释软件。qXR与供应商中立集成流程(Vendor Neutral IntegrationProcess)集成在一起,并与从任何X光片系统(CR或DR)生成的X光片一起工作。qXR筛查结核病,并且也识别15种其他异常,这样就可以告知患者他们可能患有的non-TB状况。
qXR与供应商中立档案(VNA)和PACS无缝地集成在一起,不会干扰现有的放射学工作流。它被部署在符合HIPAA的云服务器中,以提供包含以下内容的结果的表格:
a.对于每张胸部X光片是“正常”或“异常”。
b.算法检测到的所有异常及其相应的概率分数的列表。
c.对于每张X光片的“结核病筛查建议”或“结核病筛查阴性”,以
及概率分数。
使用标准成像方案,qXR自动从客户端PACS/VNA上传感兴趣的X光片(匿名化的),并且使用HL7格式回复结果叠加(overlay)和相应的报告,允许用户在审查原始X光片之前访问分析。该标准过程确保了有如两周以上咳嗽、糖尿病和其他免疫缺陷的患者的症状的个体在几秒钟内就能完成他们对结核病的筛查,称为微生物确认(NAAT),并且如果发现是阳性的,治疗可以在同一天开始。图3示出了对于使用qXR在地区TB中心处进行试点的TB检测的推荐工作流。
部署工作将包括通过API与当前X光片系统集成在一起。结果与任何放射学查看器兼容,或者可以托管(hosted)在基于网络的Qure查看器上。自动报告是用与图像数据中特定医学状况的特性的识别水平相对应的分数创建的。表6是自动报告的示例。
表6.自动报告的示例。
胸部X光片异常检测和分数
X光片调查结果 | 概率 | 备注 |
异常 | 0.94 | 是 |
钝化的肋膈角 | 0.24 | 否 |
钙化 | 0.78 | 是 |
心脏肥大 | 0.11 | 否 |
空洞 | 0.85 | 是 |
颈肋 | 0.42 | 否 |
实变 | 0.92 | 是 |
过度膨胀(Hyper Inflation) | 0.44 | 否 |
纤维化 | 0.8 | 是 |
肺门区域中的突起 | 0.91 | 是 |
混浊 | 0.95 | 是 |
胸腔积液 | 0.08 | 否 |
脊柱侧凸 | 0.1 | 否 |
结核病筛查 | 0.96 | 建议 |
Claims (13)
1.一种用于开发深度学习系统以检测并定位胸部X射线扫描上的医学异常的方法,包括:
选择医学成像扫描,并且使用自然语言处理(NLP)算法来提取医学异常;
通过调整大小和标签特定的数据扩增来预处理所选择的医学成像扫描;
用所述选择的医学成像扫描来训练深度学习算法;
通过组合多个模型的预测来预测特定类型的医学异常的存在/不存在;以及
生成对应于所述医学异常的识别水平的分数,并且输出表示所述医学异常的精确位置和范围的边界框。
2.根据权利要求1所述的方法,其中,所述深度学习算法包括卷积神经网络架构。
3.根据权利要求2所述的方法,其中,通过预先训练将胸部X光片与其他身体部位的X光片分离的任务来修改所述架构。
4.根据权利要求1所述的方法,其中,使用各种启发法来选择所述模型。
5.根据权利要求1所述的方法,其中,所述医学异常包括钝化的CP角、钙化、心脏肥大、空洞、实变、纤维化、肺门增大、混浊和胸腔积液。
6.根据权利要求1所述的方法,其中,通过与放射科医师报告进行比较来验证用于检测所述医学异常的所述深度学习算法的准确性。
7.一种被配置为使用深度学习算法来检测并定位胸部X射线扫描上的医学异常的系统,其中,通过以下步骤来开发所述深度学习算法:
选择医学成像扫描,并且使用自然语言处理(NLP)算法来提取医学异常;
通过调整大小和标签特定的数据扩增来预处理所选择的医学成像扫描;
用所述选择的医学成像扫描来训练深度学习算法;
通过组合多个模型的预测来预测特定类型的医学异常的存在/不存在;以及
生成对应于所述医学异常的识别水平的分数,并且输出表示所述医学异常的精确位置和范围的边界框。
8.根据权利要求7所述的系统,其中,所述深度学习算法包括卷积神经网络架构。
9.根据权利要求8所述的系统,其中,通过预先训练将胸部X光片与其他身体部位的X光片分离的任务来修改所述架构。
10.根据权利要求7所述的系统,其中,使用各种启发法来选择所述模型。
11.根据权利要求7所述的系统,其中,所述医学异常包括钝化的CP角、钙化、心脏肥大、空洞、实变、纤维化、肺门增大、混浊和胸腔积液。
12.根据权利要求7所述的系统,其中,通过与放射科医师报告进行比较来验证用于检测所述医学异常的所述深度学习算法的准确性。
13.根据权利要求7所述的系统,其中,所述算法对于异常扫描的检测实现了0.93±0.01的AUC,以及对于钝化的肋膈角、钙化、心脏肥大、空洞、实变、纤维化、肺门增大、混浊和胸腔积液的检测分别实现了0.94±0.02、0.88±0.03、0.97±0.02、0.93±0.07、0.93±0.04、0.88±0.05、0.89±0.05、0.93±0.02、0.98±0.02的AUC。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
IN201821042893 | 2018-11-14 | ||
IN201821042893 | 2018-11-14 | ||
PCT/IB2019/050317 WO2020099941A1 (en) | 2018-11-14 | 2019-01-15 | Application of deep learning for medical imaging evaluation |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111436212A true CN111436212A (zh) | 2020-07-21 |
Family
ID=70731782
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980000228.1A Pending CN111436212A (zh) | 2018-11-14 | 2019-01-15 | 用于医学成像评估的深度学习的应用 |
Country Status (3)
Country | Link |
---|---|
JP (1) | JP7097350B2 (zh) |
CN (1) | CN111436212A (zh) |
WO (1) | WO2020099941A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102507451B1 (ko) * | 2020-09-07 | 2023-03-08 | 주식회사 뷰노 | 흉부 이미지 판독 방법 |
WO2023239150A1 (ko) * | 2022-06-07 | 2023-12-14 | 서울대학교병원 | 기능적 분석 장치 및 방법 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160350919A1 (en) * | 2015-06-01 | 2016-12-01 | Virtual Radiologic Corporation | Medical evaluation machine learning workflows and processes |
US20170053074A1 (en) * | 2014-03-04 | 2017-02-23 | The Regents Of The University Of California | Automated quality control of diagnostic radiology |
US20180214105A1 (en) * | 2017-01-31 | 2018-08-02 | Siemens Healthcare Gmbh | System and method breast cancer detection with x-ray imaging |
KR101887194B1 (ko) * | 2018-06-20 | 2018-08-10 | 주식회사 뷰노 | 피검체의 의료 영상의 판독을 지원하는 방법 및 이를 이용한 장치 |
WO2018176035A1 (en) * | 2017-03-24 | 2018-09-27 | The United Of America, As Represented By The Secretary, Department Of Health And Human Services | Method and system of building hospital-scale chest x-ray database for entity extraction and weakly-supervised classification and localization of common thorax diseases |
CN108784655A (zh) * | 2017-04-28 | 2018-11-13 | 西门子保健有限责任公司 | 针对医疗患者的快速评估和后果分析 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102005010076A1 (de) * | 2005-03-04 | 2006-09-07 | Siemens Ag | Bildbearbeitungsverfahren für ein digitales medizinisches Untersuchungsbild und zugehörige Untersuchungseinrichtung |
WO2016094330A2 (en) * | 2014-12-08 | 2016-06-16 | 20/20 Genesystems, Inc | Methods and machine learning systems for predicting the liklihood or risk of having cancer |
US10169863B2 (en) * | 2015-06-12 | 2019-01-01 | International Business Machines Corporation | Methods and systems for automatically determining a clinical image or portion thereof for display to a diagnosing physician |
-
2019
- 2019-01-15 JP JP2019507912A patent/JP7097350B2/ja active Active
- 2019-01-15 CN CN201980000228.1A patent/CN111436212A/zh active Pending
- 2019-01-15 WO PCT/IB2019/050317 patent/WO2020099941A1/en active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170053074A1 (en) * | 2014-03-04 | 2017-02-23 | The Regents Of The University Of California | Automated quality control of diagnostic radiology |
US20160350919A1 (en) * | 2015-06-01 | 2016-12-01 | Virtual Radiologic Corporation | Medical evaluation machine learning workflows and processes |
US20180214105A1 (en) * | 2017-01-31 | 2018-08-02 | Siemens Healthcare Gmbh | System and method breast cancer detection with x-ray imaging |
WO2018176035A1 (en) * | 2017-03-24 | 2018-09-27 | The United Of America, As Represented By The Secretary, Department Of Health And Human Services | Method and system of building hospital-scale chest x-ray database for entity extraction and weakly-supervised classification and localization of common thorax diseases |
CN108784655A (zh) * | 2017-04-28 | 2018-11-13 | 西门子保健有限责任公司 | 针对医疗患者的快速评估和后果分析 |
KR101887194B1 (ko) * | 2018-06-20 | 2018-08-10 | 주식회사 뷰노 | 피검체의 의료 영상의 판독을 지원하는 방법 및 이를 이용한 장치 |
Non-Patent Citations (1)
Title |
---|
PREETHAM PUTHA ET AL.: "Can Artificial Intelligence Reliably Report Chest X-Rays?", 《HTTPS://ARXIV.ORG/ABS/1807.07455》 * |
Also Published As
Publication number | Publication date |
---|---|
WO2020099941A1 (en) | 2020-05-22 |
JP2021509491A (ja) | 2021-03-25 |
JP7097350B2 (ja) | 2022-07-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10733727B2 (en) | Application of deep learning for medical imaging evaluation | |
US10755413B1 (en) | Method and system for medical imaging evaluation | |
Nair et al. | Detection of COVID-19 cases through X-ray images using hybrid deep neural network | |
Kundu et al. | Pneumonia detection in chest X-ray images using an ensemble of deep learning models | |
Choe et al. | Content-based image retrieval by using deep learning for interstitial lung disease diagnosis with chest CT | |
US20210327055A1 (en) | Systems and methods for detection of infectious respiratory diseases | |
Chhabra et al. | A smart healthcare system based on classifier DenseNet 121 model to detect multiple diseases | |
Khanna et al. | Radiologist-level two novel and robust automated computer-aided prediction models for early detection of COVID-19 infection from chest X-ray images | |
US20230148996A1 (en) | Lung ultrasound processing systems and methods | |
US11742072B2 (en) | Medical image diagnosis assistance apparatus and method using plurality of medical image diagnosis algorithms for endoscopic images | |
Xue et al. | Using deep learning for detecting gender in adult chest radiographs | |
Luís et al. | Integrating eye-gaze data into cxr dl approaches: A preliminary study | |
CN111436212A (zh) | 用于医学成像评估的深度学习的应用 | |
Neves et al. | Shedding light on ai in radiology: A systematic review and taxonomy of eye gaze-driven interpretability in deep learning | |
Raghavan | Attention guided grad-CAM: an improved explainable artificial intelligence model for infrared breast cancer detection | |
Srujana et al. | Supply chain based demand analysis of different deep learning methodologies for effective covid-19 detection | |
Chedid et al. | Synthesis of fracture radiographs with deep neural networks | |
Fonseca et al. | A Research Agenda on Pediatric Chest X-Ray: Is Deep Learning Still in Childhood? | |
Calisto | Towards the human-centered design of intelligent agents in medical imaging diagnosis | |
Urooj et al. | Computer-Aided Diagnosis of Pneumothorax Through X-Ray Images Using Deep Learning—A Review | |
Lalitha et al. | Segmentation and Classification of 3D Lung Tumor Diagnoses Using Convolutional Neural Networks | |
Gunasekara et al. | A feasibility study for deep learning based automated brain tumor segmentation using magnetic resonance images | |
Zhang et al. | Ultrasonic Image's Annotation Removal: A Self-supervised Noise2Noise Approach | |
Akogo | A Standardized Radiograph-Agnostic Framework and Platform For Evaluating AI Radiological Systems | |
EP4339961A1 (en) | Methods and systems for providing a template data structure for a medical report |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |