CN116168809A - 用于可视化医用管或线的放置的系统和方法 - Google Patents
用于可视化医用管或线的放置的系统和方法 Download PDFInfo
- Publication number
- CN116168809A CN116168809A CN202211422749.6A CN202211422749A CN116168809A CN 116168809 A CN116168809 A CN 116168809A CN 202211422749 A CN202211422749 A CN 202211422749A CN 116168809 A CN116168809 A CN 116168809A
- Authority
- CN
- China
- Prior art keywords
- tube
- line
- image
- processor
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
- G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Data Mining & Analysis (AREA)
- Pathology (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Biophysics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种图像处理系统。该图像处理系统包括显示器、处理器和存储器。该存储器存储处理器可执行代码,该处理器可执行代码在由处理器执行时使得:接收患者的感兴趣区域的图像,其中肠管或线设置在该感兴趣区域内;检测在该图像内的该医用管或线;通过在该图像上叠加指示该肠管或线的放置或错放的图形标记来生成组合图像;以及在显示器上显示该组合图像。在另一方面,可确定该肠管或线的分类(例如,存在正确放置的管、存在错位的管等)并将其传达给一个或多个临床医生。附加地,还可提供图像处理系统的输出以促进患者的分诊,从而有助于对哪个管放置要求进一步注意和要以什么样的顺序排优先级。
Description
相关申请的交叉引用
本申请要求2021年11月24日提交的名称为“用于可视化医用管或线的放置的系统和方法(SYSTEM AND METHOD FOR VISUALIZING PLACEMENT OF A MEDICAL TUBE ORLINE)”的美国临时申请号63/282,814的优先权和权益,该临时申请全文以引用方式并入以用于所有目的。
技术领域
本文公开的主题涉及医学图像处理,并且更具体地,涉及用于可视化医用管或线(诸如肠管(例如,鼻胃管))的放置的系统和方法。
背景技术
医学成像可用于可视化以医学方式放置的管或线(例如,胸管、鼻胃管、肠管、气管内管、血管线、外周置入中心导管(PICC)、导管等)。然而,医务人员(例如,医生、放射科医生、技术人员等)可能难以可视化这些以医学方式放置的管或线。此外,医务人员可能未受过训练或经验不足,这可能妨碍他们识别以医学方式放置的管或线并确定其是否被正确放置的能力。此外,医务人员可能必须手动进行测量(这可能是耗时的)以确定以医学方式放置的管或线是否正确放置。如果以医学方式放置的管或线错放,则可能期望这种错放的提示信息,以便采取校正动作。
发明内容
下文示出了本文所公开的某些实施方案的概述。应当理解,提供这些方面仅仅是为了向读者提供这些特定实施方案的简要概述,并且这些方面并非旨在限制本公开的范围。实际上,本公开可涵盖下文可能未示出的各个方面。
在某些实施方案中,在确定以医学方式放置的管或线(例如,肠管或线)是否正确放置(例如,经由深度学习网络模型)时,提供了一种技术,该技术包括将在管或线的表面和/或端部与参考标志或解剖标志之间的测量距离与期望的阈值进行比较,并且确定该距离(其可被测量为例如两个点的几何距离(例如,沿直线)或沿管曲线测量的距离)是否是可接受的。期望的阈值可表示管或线与待正确放置的管或线的参考标志或解剖标志之间的距离的可接受范围。例如,对于鼻胃管而言,期望的阈值可为胃食管接合部下方的一定距离范围。如果测量距离是不可接受的,则该技术可包括在显示器上提供用户可感知的错放指示。该指示可被提供在显示器上,其中该组合图像被显示或被提供在另一设备(例如,用户的设备)上。该指示可以是陈述管或线被错放的文本。在某些实施方案中,文本可更具体并陈述管或线太高或太低或以其他方式不当。在某些实施方案中,文本可提供另外的说明(例如,用于将管或线的端部升高或降低一定距离)。在一些实施方案中,文本可以是经颜色编码的(例如,以橙色或红色编码)以进一步指示错放。在一些实施方案中,该指示可经由一个或多个图形标记或显示在组合图像上的管或线的颜色编码来提供。例如,图形标记中的一个或多个(例如,针对管或线的端部,针对参考标志或解剖标志,和/或其间的测量距离的指示)和/或管或线可被颜色编码为特定颜色(例如,红色或橙色)以指示错放。另选地或除此之外,如果管或线错放,则图形标记中的一个或多个图形标记可闪烁或以其他方式视觉上突出显示。如果测量距离是可接受的,则该技术可包括提供管或线的正确放置的用户可感知的指示。该指示可被提供在显示器上,其中该组合图像被显示或被提供在另一设备(例如,用户的设备)上。正确放置的指示可以是陈述管或线正确放置的文本。在某些实施方案中,用于正确放置的指示可经由对显示在组合图像上的管或线的一个或多个图形标记进行颜色编码来提供(例如,所有图形标记和/或管或线可为绿色颜色编码的)。在某些实施方案中,正确放置或错放的指示可被写入标准或私人信息标签(例如,DICOM)中,并且在图像也被发送的后续信息系统(例如,PACS)中可见。在某些实施方案中,关于以医学方式放置的管或线是否正确放置或定位的确定可由查看所显示的组合图像的医务人员手动完成。
在本文中可作为示例描述的鼻胃管的上下文中,关于正确放置,可插入鼻胃管,以便在X射线投影上将气道和隔膜二等分(例如,将基本上定位在相对于气道的中线上)。当正确放置时,插入尖端(即,远侧尖端)和侧端口(如果存在的话)在隔膜下方,通常朝向患者的左手侧定位。管的正确插入和放置避免或减轻可能的风险,诸如插入肺中的风险(具有物质进入肺的的相关联风险)、管放置太高(例如,在食管中)的风险和在所插入的管中的绕圈或扭结可能干扰流和/或刺激患者的风险。
如本文所讨论,并且在前述讨论的上下文中,目前描述的技术利用基于AI的特征来促进和评价肠管(包括但不限于鼻胃管)的放置。基于AI的特征可用于检测和/或表征所放置的管,以提供示出相对于相关联解剖特征(例如,在实际解剖背景中)的管的图形概况,并且将管分类为正确放置或需要调整。因此,使用基于AI的特征可在放置管时提高床边团队的置信度。基于AI的特征的使用还可促进可能错放的管的排优先级以供诸如放射科医生查阅,并且可加速查阅过程,由此有助于避免与错放的管相关联的并发症。
由本文描述的技术提供的特征和益处包括但不限于:定位肠管的特定特征(例如,管尖端、侧端口、端部端口等)的能力;定位相关解剖特征和背景(例如,隔膜、气道、隆突、肺、患者中线等)的能力;定位可能地与肠管混淆的其他相关设备(例如,探针、外周置入中心导管(PICC)线、心电图(ECG)引线或线、气管内(ET)管等)的能力;评价管位置并提供关于评价的解释或评论(例如,解释关于当前管放置的具体问题,诸如“侧端口位置相对于隔膜太高”)的能力;评价管位置并提供关于被检验为正确或令人满意的放置的方面的解释或评论(例如,管在中线附近正确地将隔膜二等分)的能力;提供对于管评价相关的自动化测量(例如,在隔膜下方的管的长度、侧端口距隔膜的距离、测量管直径等)的能力;在图形概况中显示所检测的管、管特征以及相关解剖特征和测量的能力和在图形概况内突出显示可能有问题的(或没有问题的)区域的能力;基于管放置分类来执行分诊以允许对可能错放的管的关注度的排优先级的能力;以各种格式(二次捕获、结构报告、联合保健企业(IHE)AI结果(AIR)(Integrating the Healthcare Enterprise(IHE)AI Results(AIR))等)保存图形概况的能力;以及允许用户编辑、修改和/或注释图形概况的能力。
根据一个实施方案,提供了医学图像处理系统。根据该实施方案,该医学图像处理系统可包括:显示器;处理器;和存储器,该存储器存储处理器可执行代码。该处理器可执行代码在由该处理器执行时使得执行动作,包括:接收患者的胸部或腹部图像中的一者或两者,其中肠管或线设置在感兴趣区域内;检测在一个该图像或多个该图像内的肠管或线;通过在一个该图像或多个该图像上叠加一个或多个图形标记来生成组合图像,其中该一个或多个图形标记指示肠管的在解剖背景中的一个或多个特征;以及将该组合图像显示在该显示器上。
附图说明
参考附图阅读以下详细描述时,将更好地理解本发明主题的这些和其他特征、方面和优点,附图中相同的符号在整个附图中表示相同的部分,其中:
图1为状况比较器的实施方案的示意图;
图2为临床分析装置的实施方案的示意图;
图3为学习神经网络的实施方案的示意图;
图4为作为卷积神经网络的图3中的神经网络的特定具体实施的实施方案的示意图;
图5为图像分析卷积神经网络的实施方案的示意图;
图6A为应用学习网络来处理和/或以其他方式评估图像的配置的实施方案的示意图;
图6B为多个学习网络的组合的实施方案的示意图;
图7为学习网络的训练阶段和部署阶段的实施方案的示意图;
图8为利用经训练的网络包来提供深度学习产品供应的产品的实施方案的示意图;
图9A至图9C为各种深度学习设备配置的相应实施方案的示意图;
图10为图2的人工智能分类器的实施方式的实施方案的示意图,该人工智能分类器用于处理图像数据以供人工智能模型使用以量化状况;
图11为用于确定以医学方式放置的管或线在感兴趣区域内的放置的方法的实施方案的流程图;
图12是在鼻胃管的放置和评价中进行的步骤的过程流程的示例;
图13描绘了用于对肠管放置进行分割和分类的模型架构;
图14为识别患者体内的管或线的组合图像的示例;
图15为具有识别患者体内的管或线的组合图像的用户界面的示意图;
图16至图20描绘了具有在管在预期位置的上下文中识别患者体内的管或线的组合图像的用户界面的另外的示意图;
图21至图28描绘了具有在管错位的上下文中识别患者体内的管或线的组合图像的用户界面的另外的示意图;
图29至图31描绘了具有在管在次优位置的上下文中识别患者体内的管或线的组合图像的用户界面的另外的示意图;
图32至图34描绘了具有在管部分地可视化的上下文中识别患者体内的管或线的组合图像的用户界面的另外的示意图;并且
图35为被构造成执行示例性机器可读指令以实现本文公开和描述的部件的处理器平台的实施方案的示意图。
具体实施方式
在下面将描述一个或多个具体的实施方案。为了提供这些实施方案的简明描述,并非实际具体实施的所有特征都要在说明书中进行描述。应当理解,在任何此类实际具体实施的开发中,如在任何工程或设计项目中,必须做出许多特定于具体实施的决策以实现开发者的具体目标,诸如遵守可能因具体实施而不同的系统相关和业务相关约束。此外,应当理解,此类开发努力可能是复杂且耗时的,但对于受益于本公开的普通技术人员来说仍然是设计、制作和制造的常规任务。
介绍本发明主题的各种实施方案的要素时,冠词“一个”、“一种”、“该”和“所述”旨在表示存在一个或多个(种)所述要素。术语“包括”、“包含”和“具有”旨在是包含性的,并且意指除了列出的元件之外还可存在附加元件。此外,以下讨论中的任何数值示例旨在非限制性的,并且因此附加的数值、范围和百分比在所公开的实施方案的范围内。
成像设备(例如,γ相机、正电子发射断层成像(PET)扫描仪、计算机断层成像(CT)扫描仪、X射线机、荧光检查机、磁共振(MR)成像机、超声扫描仪等)生成表示身体部位(例如,器官、组织等)的医学图像(例如,原始医学数字成像与通信(DICOM)图像)以用于各种临床目的,诸如诊断和/或治疗疾病。医学图像可包括体数据,其包括与医学图像中捕获的身体部位相关联的体素。医学图像可视化软件允许临床医生分割、注释、测量和/或报告医学图像的各个位置上的功能或解剖特性。在一些示例中,临床医生可利用医学图像可视化软件来识别医学图像内的感兴趣区域。
医学图像数据的采集、处理、质量控制、分析和存储对医疗保健环境中患者的诊断和治疗起着重要作用。医学成像工作流以及该工作流中涉及的设备可在医学成像工作流和设备的整个操作中配置、监测和更新。机器和/或深度学习可用于帮助配置、监测和更新医学成像工作流和设备。
本文讨论的某些示例提供和/或促进使用成像装置来提供改进的临床服务和结果。某些示例促进所改进或修改的图像重建和/或呈现以及进一步处理,以提供用于某些临床程序(即,插入和放置医用线或管诸如肠管(例如,鼻胃管))的所改进的数据和分析。
某些示例提供了包括人工智能分类器的图像处理装置。例如,分类器可检测、分割和量化解剖特征和/或医疗设备。分类器可以是用于查找、分割等的正或负的离散输出。例如,分类器可实例化机器学习和/或其他人工智能以检测、分割和分析医疗设备(例如,以医学方式放置的管或线)的存在。作为示例,分类器可实例化机器学习和/或其他人工智能以检测以医学方式放置的管或线(诸如肠管)的端部,检测参考标志或解剖标志,确定以医学方式放置的管或线相对于参考标志或解剖标志的位置,测量以医学方式放置的管或线的端部与参考标志之间的距离,并且确定管或线是否正确放置。
例如,机器学习技术(不论是深度学习网络,还是其他体验/观察学习系统)可用于定位图像中的对象,理解语音并且将语音转换为文本,并且提高搜索引擎结果的相关性。深度学习是机器学习的子集,该机器学习使用一套算法以使用具有多个处理层(包括线性和非线性变换)的深度图对数据中的高层抽象化进行建模。虽然许多机器学习系统都是先植入初始特征和/或网络权重、再通过机器学习网络的学习和更新加以修改,但是深度学习网络是通过训练自身来识别分析的“良好”特征。使用多层架构时,采用深度学习技术的机器对原始数据的处理可好于使用常规机器学习技术的机器。使用评估或抽象化的不同层促进了各组高度相关的值或区别性主题的数据检查。
在本说明书和权利要求书中,以下术语自始至终都采取与本文明确阐述的含义,除非上下文另外指明。术语“深度学习”是利用多个数据处理层来识别数据集中的各种结构并且以高准确性对这些数据集进行分类的机器学习技术。深度学习网络可以是基于多个输入和输出来学习模式的训练网络(例如,训练网络模型或设备)。深度学习网络可以是由训练网络生成并且响应于输入而提供输出的所部署的网络(例如,所部署的网络模型或设备)。
术语“监督学习”是向机器提供来自人类来源的已分类数据的深度学习训练方法。术语“无监督学习”是向机器给予先前未被分类用于训练的数据的深度学习训练方法。此类无监督学习技术可适合于针对异常检测的训练。术语“半监督学习”是这样的深度学习训练方法,其中向机器提供少量来自人类来源的分类数据,相比之下,更大量的未分类数据可供机器使用。
术语“表示学习”是将原始数据变换为可在机器学习任务中利用的表示或特征的方法领域。在监督学习中,经由标记输入来学习特征。
术语“卷积神经网络”或“CNN”是用于在深度学习中检测、分割和识别数据集中的相关对象和区域的互连数据的生物启发网络。CNN以多个阵列的形式评估原始数据,将数据分为一系列级,并且检查数据中学习到的特征。
术语“迁移学习”是机器存储正确地或不正确地解决一个问题时所使用的信息来解决与第一问题相同或类似性质的另一个问题的过程。迁移学习可也称为“归纳学习”。例如,迁移学习可利用来自先前任务的数据。
术语“主动学习”是机器选择要接收训练数据的一组示例而不是被动地接收外部实体所选的示例的机器学习过程。例如,当机器学习时,可允许机器选择机器确定将对学习最有用的示例,而非仅仅依赖外部人类专家或外部系统来识别和提供示例。
术语“计算机辅助检测”或“计算机辅助诊断”是指出于检测感兴趣解剖结构、感兴趣生理测量或事件和/或建议可能的诊断的目的而分析医学图像的计算机。
某些示例使用神经网络和/或其他机器学习架构来实现用于图像和相关联患者分析的新工作流,包括基于可在放射学检查的护理点处生成和递送的放射学发现来生成警报。某些示例使用人工智能(AI)算法来处理一个或多个成像检查(例如,图像或图像集),并且基于自动检查分析来提供警报。警报(例如,包括通知、推荐、其他动作等)可以旨在用于执行检查的技术人员、临床团队供应方(例如,护士、医生等)、放射科医生、行政人员、手术人员和/或甚至患者。例如,警报可被提供用于指示检查图像数据中的特定或多个质量控制问题和/或放射学发现或其缺乏。
在某些示例中,AI算法可以(1)嵌入成像设备内,(2)在移动设备(例如,平板计算机、智能电话、膝上型计算机、其他手持式或移动计算设备等)上运行,并且/或者(3)在云计算架构中运行(例如,在内部或外部),并且经由web浏览器(例如,其可能出现在放射学系统、移动设备、计算机等上)递送警报。此类配置可以是供应商中立的并且与传统成像系统兼容。例如,如果AI处理器在移动设备上和/或在“云”中运行,则配置可以按下列方式接收图像:(A)直接从X射线和/或其他成像系统(例如,建立为辅助推送目的地,诸如医学数字成像和通信(DICOM)节点等),(B)通过键入图片存档和通信系统(PACS)目的地以进行冗余图像访问,(C)通过经由嗅探器方法检索图像数据(例如,一旦生成DICOM图像就将其从系统中拉出)等。
某些示例提供了用于基于使用人工智能(AI)模型(诸如深度学习网络模型、机器学习网络模型等)实例化和/或由该人工智能(AI)模型驱动的算法的输出来如本文所讨论的那样确定和提供与患者的治疗或护理相关的临床反馈(诸如临床线或管的放置)和/或其他患者相关病症的装置、系统、方法等。例如,可基于AI检测算法的输出来确定以医学方式放置的管或线(例如,胸管、肠管(诸如鼻胃管)、气管内管、血管线、外周置入中心导管、导管等)的存在。此外,可基于AI检测的输出(例如,医用管或线是否正确放置)来确定医用管或线在感兴趣的区域(例如,肺、胃、血管系统等)内的放置。
本文讨论和描述的某些示例提供了用于基于应用于患者数据的AI分类算法来检测在患者的感兴趣区域内的以医学方式放置的管或线以及该管或线是否正确放置在感兴趣区域内的系统和方法。示例性方法包括检测图像中以医学方式放置的管或线的存在;检测图像中的以医学方式放置的管或线的一个或多个终端和/或表面轮廓;检测该图像中的一个或多个解剖标志;确定该以医学方式放置的管或线是否相对于该参考标志或解剖标志正确放置;以及/或者向护理人员提供关于该以医学方式放置的管或线是否相对于参考标志或解剖标志正确放置的通知。在某些实施方案中,AI分类算法可检测以医学方式放置的线或管的存在;用可视(例如,彩色或颜色编码的)图形叠层以图形方式标记该以医学方式放置的线或管;检测该以医学方式放置的线或管的表面和/或端部(例如,远侧端部);以图形方式标记该以医学方式放置的管或线的表面和/或端部;检测一个或多个参考标志或解剖标志(例如,用于确定管或线相对于该标志的正确放置);以图形方式标记该参考标志或解剖标志;计算该以医学方式放置的管或线的表面和/或端部之间的距离;以及/或者计算并提供置信度度量或其他度量(例如,针对所计算的距离、针对以医学方式放置的管或线的存在的确定、针对检测管或线的端部的准确性、针对检测参考标志或解剖标志的准确性等)。AI分类算法基于具有或不具有以医学方式放置的管或线的图像、具有正确放置的管或线的图像、具有错放的管或线的图像、具有参考标志或解剖标志的图像、和/或不具有参考标志或解剖标志的图像来训练。
例如,重症监护环境中的患者接收x-射线(例如,胸部x-射线)以监测以医学方式放置的管或线的放置。如果管或线被错放,则医疗团队可能需要进行干预,以正确放置医用管或线。人工智能分类器可检测以医学方式放置的管或线的存在,检测以医学方式放置的管或线的表面和/或终端,检测参考标志或解剖标志,并且评估管或线是否正确放置。例如,可在护理点处诸如在设备(例如,成像设备、成像工作站等)上生成警示并输出警示,以向临床护理团队通知和/或以其他方式提供指令(例如,管被正确放置或未被正确放置的通知,或移除管或线的指令、沿特定方向移动管或线等)。
本文所述的技术提供了快速的手段来确定以医学方式放置的管或线是否不正确放置。这使得能够更快地干预以确保管或线处于适当的位置以获得患者护理。此外,这减轻了向患者提供帮助的医疗团队(尤其是可能未经培训或缺乏经验的那些人员)的一些负担。
深度学习是采用表示学习方法的一类机器学习技术,其允许机器被给予原始数据并且确定数据分类所需的表示。深度学习使用用于改变深度学习机器的内部参数(例如,节点权重)的反向传播算法来确定数据集中的结构。深度学习机器可利用多种多层架构和算法。例如,虽然机器学习涉及识别要用于训练网络的特征,但深度学习处理原始数据来识别感兴趣特征而无需外部识别。
神经网络环境中的深度学习包括许多称为神经元的互连节点。由外部来源激活的输入神经元基于受机器参数控制的与其他神经元的连接来激活这些其他神经元。神经网络以基于其自身参数的一定方式起作用。学习改善机器参数,并且广义来说,改善网络中的各神经元之间的连接,使得神经网络以所需方式起作用。
利用卷积神经网络的深度学习使用卷积滤波器来分割数据以定位并且识别数据中学习到的可观测特征。CNN架构的每个滤波器或层变换输入数据以增加数据的选择性和不变性。数据的该抽象化允许机器聚焦于数据中其尝试分类的特征并且忽略不相关的背景信息。
深度学习的操作建立在许多数据集包括高级特征而高级特征本身又包括低级特征这一理解上。例如,当检查图像时,并不查找对象,更有效的做法是查找边缘,边缘形成模体,模体形成部分,部分形成要寻找的对象。特征的这些层次可见于许多不同形式的数据,诸如语音和文本等。
学习到的可观测特征包括机器在监督学习期间学习到的对象和可量化正则性。设置有有效分类的数据的大集合的机器更有条件区分并且提取与新数据的成功分类相关的特征。
利用迁移学习的深度学习机器可将数据特征正确地连接到由人类专家确认的某些分类。相反,同一机器可在人类专家告知分类错误时更新用于分类的参数。例如,可通过学习到的设置和/或其他配置信息的使用来引导设置和/或其他配置信息,并且当系统被使用更多次(例如,反复使用和/或由多个用户使用)时,对于给定情况而言,可减少设置和/或其他配置信息的变化和/或其他可能性的数量。
例如,可使用专家分类数据集来训练示例性深度学习神经网络,对其进行分类并进一步注释以进行对象定位。该数据集构建了神经网络的第一参数,并且这将成为监督学习阶段。在监督学习阶段期间,可测试神经网络是否已实现所需行为。
一旦已实现所需神经网络行为(例如,机器经过训练以根据指定阈值来操作等),就可部署机器以便使用(例如,使用“真实”数据来测试机器等)。在操作期间,可(例如,由专家用户、专家系统、参考数据库等)确认或拒绝神经网络分类以继续改善神经网络行为。然后示例性神经网络处于迁移学习状态,因为确定神经网络行为的分类参数基于正在进行的交互来更新。在某些示例中,神经网络可向另一个过程提供直接反馈。在某些示例中,神经网络输出的数据先经过缓冲(例如经由云等)和验证,再提供给另一个过程。
使用卷积神经网络(CNN)的深度学习机器可用于图像分析。CNN分析的阶段可用于自然图像中的面部识别、计算机辅助诊断(CAD)等。
可使用诸如x射线、计算机断层成像(CT)、分子成像与计算机断层成像(MICT)、磁共振成像(MRI)等一种或多种成像模式来采集高质量医学图像数据。医学图像在很大程度上由医师解释,但是这些解释可能是主观的,受医师在该领域中的经验和/或疲劳的影响。经由机器学习的图像分析可支持医疗保健从业者的工作流程。
例如,深度学习机器可提供计算机辅助检测支持以在图像质量和分类方面改进其图像分析。然而,应用于医疗领域的深度学习机器所面临的问题通常会引起许多错误分类。例如,深度学习机器必须克服小的训练数据集并且需要反复调节。
例如,深度学习机器在经过最少训练的情况下可用于确定医学图像的质量。半监督和无监督深度学习机器可用于定量测量图像的质量方面。例如,可在已采集图像之后利用深度学习机器来确定图像的质量是否足以用于诊断。监督深度学习机器可也用于计算机辅助诊断。例如,监督学习可有助于减少错误分类敏感性。
深度学习机器可在与医师交互时利用迁移学习来抵消监督训练中可用的小数据集。这些深度学习机器可随时间推移通过训练和迁移学习来改进其计算机辅助诊断。
图1示出了示例性状况比较器装置100,该示例性状况比较器装置包括多个输入110、115,人工智能(AI)分类器120和输出比较器130。每个输入110、115被提供给AI分类器120,该AI分类器对相应输入110、115中的图像数据和/或其他信息进行分类,以识别输入110、115中的状况并基于输入110、115生成所识别状况的指示。在某些实施方案中,AI分类器120可对相应输入110、115中的图像和/或其他信息进行分类,以识别以医学方式放置的管或线(例如,胸管、肠管、气管内管、血管线、外周置入中心导管、导管等),并且识别与线的类型及其期望位置相关的参考标志或解剖标志。使用示例性比较器装置100,该示例性比较器装置可确定管或线是否相对于参考标志或解剖标志适当地放置在患者的感兴趣区域内。具体地,可定位管或线的表面和/或端部以及参考标志或解剖标志两者,并且确定管或线是否相对于参考标志或解剖标志正确放置。在确定管或线的端部是否正确放置时,可测量管或线的端部与参考标志或解剖标志之间的距离。置信度度量(例如,针对计算的距离,针对以医学方式放置的管或线的存在的确定,针对检测管或线的端部的准确性、针对检测参考标志或解剖标志的准确性等)可经由用户可感知的通知来计算和/或提供,或者存储以供进一步参考。此外,可提供关于以医学方式放置的管或线是否正确放置的通知或警示。如果管或线未正确放置,则可经由通知或警示(例如,与在某个方向上移动管或线相关)提供另外的指令。
图2示出了可基于图1的示例性状况比较器100构造的示例性临床进展分析装置200。示例性装置200包括数据源210、人工智能(AI)分类器220、数据存储装置230、比较器240、输出生成器250和触发器260。输入110、115可以由数据源210(例如,合并到装置200中和/或以其他方式连接到该装置等的存储设备、成像设备等)提供给AI分类器220。
示例性分类器220随时间推移处理输入以将来自数据源210的输入与分类相关联。因此,AI分类器220处理输入图像数据和/或其他数据以识别输入数据中的状况,并且根据一个或多个状态(例如,管或线存在、管或线不存在、参考标志或解剖标志存在、参考标志或解剖标志不存在、管或线正确放置、管或线错放)对该状况进行分类,如由公式、阈值和/或其他标准所指定的。在某些实施方案中,AI分类器220处理输入图像数据和/或其他数据以检测以医学方式放置的管或线,并且确定该以医学方式放置的管或线的端部是否正确放置。例如,AI分类器220的输出可以存储在数据存储装置230中。
随着时间推移,可以生成由AI分类器220相对于来自数据源210的相同类型的输入110、115(例如,在时间t0和t1处获取的相同患者的肺MR图像等)做出的分类,并且将其存储在数据存储装置230中。将分类提供给比较器240,该比较器将在两个或更多个不同时间处(例如,在插入管或线之前以及在插入管或线之后)的分类进行比较,以识别以医学方式放置的管或线,并且确定该以医学方式放置的管或线是否正确放置。例如,在时间t0处,管或线可不存在于感兴趣区域中,并且在时间t1处或稍后时间处,管或线可被放置在感兴趣区域内的位置中(管或线可正确地放置或可不正确放置)。
比较器240提供了指示趋势/进展的结果。在某些实施方案中,比较器240提供指示以医学方式放置的管或线的放置的结果。输出生成器250将该结果转变为可显示、存储、提供给另一个系统以用于进一步处理的输出,诸如警报、通知或命令、患者护理(例如,护理点警报系统、成像/放射学工作站、计算机辅助诊断(CAD)处理器、调度系统、医疗设备等)的调整等。
触发器260协调数据源210、AI分类器220、数据存储装置230、比较器240和输出生成器250之间的动作。触发器260可以启动数据从数据源210到分类器220的输入、由比较器240进行的来自数据存储装置230的结果的比较、由输出生成器250进行的输出。因此,触发器260用作装置200的元件之间的协调器。
图3是示例性学习神经网络300的表示。示例性神经网络300包括层320、340、360和380。层320和340使用神经连接330来连接。层340和360使用神经连接350来连接。层360和380使用神经连接370来连接。数据经由输入312、314、316从输入层320向前流到输出层380并到达输出390。
层320是输入层,其在图3的示例中包括多个节点322、324、326。层340和360是隐藏层,并且在图3的示例中包括节点342、344、346、348、362、364、366、368。神经网络300可包括比所示的更多或更少的隐藏层340和360。层380是输出层,并且在图3的示例中包括具有输出390的节点382。每个输入312至316对应于输入层320的节点322至326,并且输入层320的每个节点322至326具有到隐藏层340的每个节点342至348的连接330。隐藏层340的每个节点342至348具有到隐藏层360的每个节点362至368的连接350。隐藏层360的每个节点362至368具有到输出层380的连接370。输出层380具有输出390以提供来自示例性神经网络300的输出。
在连接330、350和370中,某些示例性连接332、352、372可被赋予增加的权重,而其他示例性连接334、354、374可在神经网络300中被赋予较小的权重。例如,通过经由输入312-316接收输入数据来激活输入节点322-326。通过数据分别经由连接330和350向前流过网络300来激活隐藏层340和360的节点342至348和362至368。在经由连接370发送在隐藏层340和360中处理的数据之后,激活输出层380的节点382。当输出层380的输出节点382被激活时,节点382基于在神经网络300的隐藏层340和360中完成的处理来输出适当的值。
图4示出了作为卷积神经网络400的示例性神经网络300的特定具体实施。如图4的示例中所示,将输入310提供给第一层320,该第一层处理输入310并将该输入传播到第二层340。输入310在第二层340中进一步被处理并被传播到第三层360。第三层360对数据进行分类以便提供给输出层380。更具体地,如图4的示例中所示,将卷积404(例如,5×5卷积等)应用于第一层320中的输入310(例如,32×32数据输入等)的部分或窗口(也称为“接受域”)402以提供特征映射406(例如,(6×)28×28特征映射等)。卷积404将来自输入310的元素映射到特征映射406。第一层320还提供了子采样(例如,2×2子采样等)以生成减小的特征映射410(例如,(6×)14×14特征映射等)。特征映射410发生卷积412并且从第一层320传播到第二层340,在第二层中,特征映射410变为扩展的特征映射414(例如,(16x)10x10特征映射等)。在第二层340中的子采样416之后,特征映射414变为减小的特征映射418(例如,(16x)4x5特征映射等)。特征映射418发生卷积420并且传播到第三层360,在第三层中,特征映射418变为分类层422,从而形成例如具有到卷积层422的连接426的N个类别的输出层424。
图5是图像分析卷积神经网络500的示例性具体实施的表示。卷积神经网络500接收输入图像502,并且在卷积层504中将该图像抽象化以识别学习到的特征510至522。在第二卷积层530中,图像被变换为多个图像530至538,其中学习到的特征510至522各自在相应子图像530至538中加强。进一步处理图像530至538以聚焦于图像540至548中的感兴趣特征510至522。然后通过池化层处理所得图像540至548,该池化层减小图像540至548的尺寸以分离包括感兴趣特征510至522在内的图像540至548的部分550至554。卷积神经网络500的输出550至554从最后非输出层接收值,并且基于从最后非输出层接收到的数据对图像进行分类。在某些示例中,卷积神经网络500可包含卷积层、池化层、学习的特征和输出等的许多不同变型。
图6A示出了应用学习(例如,机器学习、深度学习等)网络来处理和/或以其他方式评估图像的示例性配置600。机器学习可应用于多种过程,包括图像采集、图像重建、图像分析/诊断等。如图6A的示例性配置600中所示,原始数据610(例如,从成像扫描仪诸如x射线、计算机断层成像、超声、磁共振等扫描仪获得的原始数据610,诸如声谱图原始数据等)被馈入学习网络620。学习网络620处理数据610以将原始数据620相关联和/或以其他方式组合到已处理数据630(例如,所得图像等)(例如,“良好质量”图像和/或其他提供足以诊断的质量的图像等)中。学习网络620包括节点和连接(例如,路径)以将原始数据610与已处理数据630相关联。例如,学习网络620可为训练网络,其学习这些连接并且处理反馈以建立连接并识别模式。例如,学习网络620可为所部署的网络,其由训练网络生成,并且利用在训练网络中建立的连接和模式来获取输入原始数据610并生成所得图像630。
一旦学习620经过训练并从原始图像数据610产生良好图像630,网络620就可继续“自学习”过程并且在操作时改善其性能。例如,输入数据(原始数据)610中存在“冗余”,并且网络620中存在冗余,并且可利用该冗余。
如果检查分配给学习网络620中的节点的权重,则可能存在许多具有极低权重的连接和节点。低权重指示这些连接和节点对学习网络620的整体性能的贡献很少。因此,这些连接和节点是冗余的。可评估此类冗余以减少输入(原始数据)610中的冗余。例如,减少输入610冗余可节省扫描仪硬件,降低对部件的要求,并且还减少对患者的暴露剂量。
在部署中,配置600形成包,其包括输入定义610、经训练的网络620和输出定义630。可相对于另一个系统(诸如成像系统、分析引擎等)来部署和安装包。图像增强器625可以利用学习网络620和/或以其他方式与该学习网络一起工作以处理原始数据610并提供结果(例如,已处理图像数据和/或其他已处理数据630等)。例如,经训练的学习网络620的节点之间的路径和连接使得图像增强器625能够处理原始数据610以形成图像和/或其他已处理的数据结果630。
如图6B的示例中所示,学习网络620可与多个学习网络621至623链接和/或以其他方式组合在一起而形成更大的学习网络。例如,网络620至623的组合可用于进一步改善对输入的响应和/或将网络620至623分配给系统的各个方面。
在一些示例中,在操作中,可最初将“弱”连接和节点设定为零。然后学习网络620在保持过程中处理其节点。在某些示例中,不允许在重新训练期间改变被设定为零的节点和连接。考虑到网络620中存在冗余,很有可能会生成同样好的图像。如图6B所示,在重新训练之后,学习网络620变为DLN 621。还检查学习网络621以识别弱连接和节点,并且将它们设定为零。该进一步重新训练的网络是学习网络622。示例性学习网络622包括学习网络621中的“零点”以及节点和连接的新集合。学习网络622继续重复该处理直到在学习网络623(其称为“最小可行性网(MVN)”)处达到良好图像质量。学习网络623之所以为MVN,是因为如果试图在学习网络623中将附加连接或节点设定为零,则图像质量会变差。
一旦已用学习网络623获得MVN,就将“零”区域(例如,图中的不规则暗区域)映射到输入610。每个暗区可能映射到输入空间中的一个或一组参数。例如,零区域之一可与原始数据中的视图数量和通道数量联系起来。由于可减少与这些参数相对应的网络623中的冗余,因此很有可能可减少输入数据并且该输入数据可生成同样好的输出。为了减少输入数据,获得与减少的参数相对应的新的原始数据集并且通过学习网络621运行该新的原始数据集。可简化或可不简化网络620至623,但处理学习网络620至623中的一者或多者直到达到原始数据输入610的“最小可行性输入(MVI)”。在MVI处,输入原始数据610的进一步减少可导致图像630质量降低。例如,MVI可使得数据采集的复杂性降低、对系统部件的要求更少、患者的紧张感减轻(例如,屏气或造影剂更少)和/或对患者的剂量减少。
通过使学习网络620至623中的一些连接和节点强制变为零,网络620至623构建“侧支”来补偿。在该过程中,获得对学习网络620至623的拓朴结构的洞察。应当注意,网络621和网络622例如具有不同拓朴结构,这是由于已强制一些节点和/或连接变为零。从网络有效移除连接和节点的该过程超出了“深度学习”,并且可称为例如“深度-深度学习”。
在某些示例中,输入数据处理和深度学习阶段可被实现为单独系统。然而,作为单独系统,两个模块可能都不知晓用于选择感兴趣/重要的输入参数的更大的输入特征评估回路。由于输入数据处理选择对产生高质量输出很重要,因此来自深度学习系统的反馈可用于经由模型来执行输入参数选择优化或改进。并非通过在整个输入参数集内扫描来形成原始数据(例如,这是强力的且昂贵的),而是可实现主动学习的变型。使用主动学习的该变型,可确定起始参数空间以在模型中产生所需或“最佳”结果。然后可随机减小参数值以生成原始输入,这会降低结果的质量,同时仍保持质量的可接受范围或阈值,并且通过处理对模型质量没有什么影响的输入来缩短运行时间。
图7示出了学习网络的示例性训练和部署阶段,诸如深度学习或其他机器学习网络。如图7的示例中所示,在训练阶段,向网络704提供一组输入702以便进行处理。在该示例中,该组输入702可包括待识别的图像的特征。网络704沿正向706处理输入702以关联数据元素并识别模式。网络704确定输入702表示肺结节708。在训练中,将网络结果708与已知结果712进行比较710。在该示例中,已知结果712是正面胸部(例如,输入数据集702表示正面胸部识别,而不是肺结节)。由于网络704的确定708与已知结果712不匹配710,因此生成错误714。错误714沿着通过网络704的后向通路716触发对已知结果712和相关联数据702的反向分析。因此,训练网络704通过网络704从前向通路706和后向通路716学习数据702、712。
一旦网络输出708与已知输出712的比较根据特定标准或阈值匹配710(例如,匹配n次,匹配大于x%等),训练网络704就可以用于生成用于与外部系统部署的网络。一旦被部署,就向所部署的学习网络722提供单个输入720以生成输出724。在这种情况下,基于训练网络704,部署的网络722确定输入720是正面胸部724的图像。该相同的方法可用于确定管或线、参考标志或解剖标志和/或管或线的正确放置。
图8示出了利用经训练的网络包来提供深度学习和/或其他机器学习产品供应的示例性产品。如图8的示例中所示,提供输入810(例如,原始数据)以便进行预处理820。例如,对原始输入数据810进行预处理820以检查格式、完整性等。一旦已对数据810进行了预处理820,就将其馈送到经训练的网络840进行处理。基于学习的模式、节点和连接,经训练的网络840基于输入的补丁确定输出。组装850输出(例如,组合和/或以其他方式分组在一起以生成可用输出等)。然后将输出显示860和/或以其他方式输出给用户(例如,人类用户、临床系统、成像模态、数据存储(例如,云存储、本地存储、边缘设备等)等)。
如上所讨论,可将学习网络包装为供训练、部署和应用于多种系统之用的设备。图9A至图9C示出了各种学习设备配置。例如,图9A示出了一般学习设备900。示例性设备900包括输入定义910、学习网络模型920和输出定义930。输入定义910可包括经由网络920转化为一个或多个输出930的一个或多个输入。
图9B示出了示例性训练设备901。即,训练设备901是被配置为训练学习网络设备的设备900的示例。在图9B的示例中,将多个训练输入911提供给网络921以在网络921中开发连接并提供由输出评估器931评估的输出。然后,输出评估器931将反馈提供到网络921中,以进一步开发(例如,训练)网络921。可以将附加输入911提供给网络921,直到输出评估器931确定网络921被训练(例如,输出已经根据特定阈值、误差幅度等满足输入到输出的已知相关性)。
图9C示出了示例性经部署的设备903。一旦训练设备901已经学习到必要水平,就可以部署训练设备901以供使用。例如,虽然训练设备901通过处理多个输入来学习,但经部署的设备903通过处理单个输入来确定输出。如图9C的示例中所示,经部署的设备903包括输入定义913、经训练的网络923和输出定义933。例如,一旦网络921已经过充分训练,就可由网络921生成经训练的网络923。经部署的设备903接收系统输入913并且经由网络923处理输入913以生成输出933,然后例如已与经部署的设备903相关联的系统可使用该输出。
在某些示例中,可以通过对患者的相关联图像数据的AI驱动分析来确定状况(例如,管或线的放置)的识别和进展。
图10示出了AI分类器220的示例性实施方式,该AI分类器用于处理图像数据以供AI模型用来量化状况(例如,管或线的放置)。分类器220的示例性实施方式使得能够对包括器官区域和器官区域内的感兴趣区域的一个或多个图像进行注释。图10的示例性分类器220包括图像分割器1010、掩模组合器1020和状况比较器1040。
示例性图像分割器1010用于识别输入图像中的第一掩模和第二掩模。例如,图像分割器1010处理图像以在图像中识别的器官区域内分割感兴趣区域以获得第一掩模。第一掩模是分割掩模,并且可体现为包括图像中的感兴趣区域并且排除图像的其余部分的过滤器。例如,可以将掩模应用于图像数据以排除除了感兴趣区域之外的所有区域。可以使用卷积神经网络模型(例如,诸如图4至图5所示的网络400、500、生成对抗网络等)来获得掩模。图像分割器1010进一步处理图像以根据一个或多个标准来分割器官区域以获得第二掩模。例如,第二掩模可以表示器官区域、器官区域的在感兴趣区域之外的面积等。
例如,如果器官区域是肺(和周围区域诸如气管),并且感兴趣区域是在气管中识别的管或线,则生成第一掩模以识别以医学方式放置的管或线,并且生成第二掩模以识别整个器官区域。在另一个实施方案中,如果器官区域是胃,并且感兴趣区域是在胃中识别的管或线,则生成第一掩模以识别以医学方式放置的管或线,并且生成第二掩模以识别整个器官区域。例如,如果器官区域是心脏(和周围区域诸如静脉或其他脉管系统),并且感兴趣区域是在心脏附近的静脉或其他脉管系统中识别的管或线,则生成第一掩模以识别以医学方式放置的管或线,并且生成第二掩模以识别整个器官区域。因此,就以医学方式放置的管或线而言,为管或线生成第一掩模,并且为放置管或线的整个器官区域(例如,脉管系统、心脏、肺、胃、气管、胸部、胸膜腔等)生成第二掩模。
示例性组合器1020将第一掩模和第二掩模以及相关联面积与图像中的注释术语进行组合。注释可以是用于产生量化的相对资格术语。例如,可以将掩模面积与描述性术语(诸如模糊、零散、致密等)组合以计算图像中的感兴趣区域和器官区域的相对密度值。例如,可以组合图像面积(例如,正面图像和侧面图像的面积等)以产生体积度量。
示例性距离计算机1030确定所识别的管或线的表面和/或端部与参考标志或解剖标志之间的距离(或者确定管或线相对于该标志的位置)。示例性状况比较器1040将距离或测量的位置与管或线的类型和/或放置管或线的感兴趣区域的预设距离或期望位置进行比较(例如,根据预先确定的规则)。基于该比较,状况比较器1040可确定管或线的端部是否相对于参考标志或解剖标志正确放置。
因此,AI分类器220可被构造成注释用于AI/机器学习/深度学习/CAD算法训练的医学图像或相关医学图像集,以量化状况。此类方法是一致的、可重复的方法,其可替代当今的常见主观方法,从而能够自动、准确地检测以医学方式放置的管或线的存在及其放置。
虽然结合图1至图10示出了示例性具体实施,但是结合图1至图10而示出的元件、方法和/或设备可以任何其他方式组合、划分、重新布置、省略、消除和/或实现。此外,本文所公开和描述的部件可由硬件、机器可读指令、软件、固件、以及/或者硬件、机器可读指令、软件和/或固件的任何组合来实现。因此,例如,本文所公开和描述的部件可由模拟和/或数字电路、逻辑电路、可编程处理器、专用集成电路(ASIC)、可编程逻辑设备(PLD)和/或现场可编程逻辑设备(FPLD)来实现。当读到本专利中的任一项覆盖纯粹的软件和/或固件实现的装置或系统权利要求时,这些部件中的至少一者在此明确地被定义为包括存储软件和/或固件的有形计算机可读存储设备或存储盘,诸如存储器、数字通用盘(DVD)、压缩盘(CD)、蓝光盘等。
代表用于实现本文描述的目前公开的技术的方面或实施方案的示例性机器可读指令的流程图结合至少图11示出。在示例中,机器可读指令包括由处理器(诸如下文结合图35讨论的示例性处理器平台1300中所示的处理器1312)执行的程序。程序可体现在有形计算机可读存储介质(诸如CD-ROM、软盘、硬盘驱动器、数字多用盘(DVD)、蓝光盘或与处理器1312相关联的存储器)上存储的机器可读指令中,但是整个程序和/或其部分可另选地由除了处理器1312之外的设备执行以及/或者体现在固件或专用硬件中。另外,尽管参考结合至少图11示出的流程图描述了示例性程序,但是可另选地使用实现本文公开和描述的部件的许多其他方法。例如,可改变框的执行顺序,并且/或者可改变、消除或组合所述的一些框。尽管至少图11的流程图以示出的顺序描绘了示例性操作,但是这些操作不是穷举性的,并且不局限于示出的顺序。另外,本领域技术人员可在本公开的实质和范围内作出各种变化和修改。例如,流程图中示出的框可按另选顺序执行或者可并行执行。
如上所述,至少图11的示例性过程可使用存储在有形计算机可读存储介质上的编码指令(例如,计算机和/或机器可读指令)来实现,该有形计算机可读存储介质为诸如硬盘驱动器、闪存存储器、只读存储器(ROM)、光盘(CD)、数字通用光盘(DVD)、高速缓存、随机存取存储器(RAM)和/或任何其他存储设备或存储盘,其中信息被存储任何持续时间(例如,延长的时间段、永久、短暂、用于暂时缓冲和/或用于信息的高速缓存)。如本文所用,术语有形计算机可读存储介质明确地被定义为包括任何类型的计算机可读存储设备和/或存储盘,并且排除传播信号且排除传输介质。如本文所用,“有形计算机可读存储介质”和“有形机器可读存储介质”可互换使用。除此之外或另选地,至少图11的示例性过程可使用存储在非暂态计算机和/或机器可读介质上的编码指令(例如,计算机和/或机器可读指令)来实现,该非暂态计算机和/或机器可读介质诸如为硬盘驱动器、闪存存储器、只读存储器、压缩盘、数字通用盘、高速缓存、随机存取存储器和/或任何其他存储设备或存储盘,其中信息被存储任何持续时间(例如,延长时间段、永久、短暂、用于暂时缓冲和/或用于信息的高速缓存)。如本文所用,术语非暂态计算机可读介质明确地被定义为包括任何类型的计算机可读存储设备和/或存储盘,并且排除传播信号并且排除传输介质。如本文所用,当短语“至少”用作权利要求前序中的过渡性术语时,与术语“包括”是开放式的一样,也是开放式的。另外,与术语“包含”是开放式的一样,术语“包括”也是开放式的。
如上所述,这些技术可用于识别以医学方式放置的管或线,并且用于确定以医学方式放置的管或线是否正确放置。例如,以医学方式放置的管或线可以是肠管,并且可以确定该肠管的正确放置。此类示例旨在是非限制性的,并且可识别插入身体的感兴趣区域内的任何其他管或线,并且确定其正确的放置。
图11为用于确定以医学方式放置的管或线在感兴趣区域内的放置的方法1600的实施方案的流程图。该方法的一个或多个步骤可由图35中的处理器平台1600执行。所描绘的步骤中的一个或多个步骤可以同时执行或以与图11所示的不同的顺序执行。该方法1600包括接收或获得包括感兴趣区域(ROI)的患者的图像(例如,胸部图像)(框1602)。图像可包括插入感兴趣区域内的以医学方式放置的管或线。可在患者被插入管或线时提供图像。该方法1600还包括接收或获得关于待检测的管或线的类型(例如,鼻胃管或其他肠管)和/或待在其中插入管或线的感兴趣区域(例如,气管、胃、胃肠道)的输入(框1603)。输入可以为用户定义的距离或规则,其用于定义以医学方式放置的管或线的端部相对于参考位置或解剖位置的正确放置。在某些实施方案中,输入可简单地为管或线的类型和/或用于在其中正确放置管或线的所期望的感兴趣区域。基于该输入,可利用某些限定的距离或规则(例如,在特定解剖位置的左、右、上方和/或下方),该距离或规则定义特定管或线的端部在感兴趣的特定区域内的正确放置。该方法1600还包括利用本文描述的技术检测图像内的管或线(框1604)。该方法1600包括识别图像中的感兴趣区内的管或线的表面和/或端部(例如,远侧端部)(框1606)。该方法1600还包括识别图像内的参考标志或解剖标志(框1608)。参考标志或解剖标志将基于所利用的管或线的类型以及管或线设置在其中的感兴趣区域而变化。例如,对于鼻胃管,参考标志或解剖标志可包括但不限于患者的气道和隔膜和/或在胃内在胃食管接合部下方的位置。
在识别管或线的表面和/或远侧端部以及参考标志或解剖标志时,方法1600可包括测量可向用户报告和/或在自动化放置评估中使用的距离(例如,在管或线的端部与参考标志或解剖标志之间)(框1610)。该方法1600包括生成具有管或线、参考标志或解剖标志和/或测量距离的指示的组合图像(框1612)。生成该组合图像包括将各种标记叠加在接收的患者图像上。例如,可将颜色编码(例如,颜色编码的图形叠层)叠加在检测到的管或线上。在某些实施方案中,患者可包括多于一个管或线,并且感兴趣的管或线是经颜色编码的。可将图形标记叠加在图像上以指示线或管的端部。可将另一个图形标记叠加在图像上以指示参考标志或解剖标志。图形标记可包括相同形状或不同形状。这些形状的非限制性示例可以为空心圆或其他椭圆形形状、空心直线形状、空心三角形形状、或其他形状。图形标记和/或管可用不同的颜色进行颜色编码。例如,管或线的图形标记、参考标志或解剖标志的图形标记以及管或线的图形标记可分别为绿色、蓝色和黄色。当计算距离时,也可将图形标记叠加在指示管或线的端部与参考标志或解剖标志之间的距离的图像上。距离的图形标记还可包括测量值。方法1600还包括在显示器上显示组合图像(框1614)。组合图像可实时显示给医务人员,使得他们能够根据需要调整管或线的放置。在某些实施方案中,组合图像可显示为DICOM图像。
在某些实施方案中,该方法1600包括计算一个或多个相应置信度度量(框1616)。置信度度量可以是针对所计算的距离、针对以医学方式放置的管或线的存在的确定、针对检测管或线的放置的准确性和/或针对检测参考标志或解剖标志的准确性。置信度度量可包括置信水平或置信区间。置信度度量可被存储以供将来参考。在某些实施方案中,该方法1600可包括向用户提供一个或多个置信度度量(框1618)。例如,置信度度量可显示在组合图像上或提供在单独的设备(例如,用户的设备)上。在某些实施方案中,置信度度量可被写入标准或私人信息标签(例如,DICOM)中,并且在图像也被发送的后续信息系统(例如,PACS)中可见。
在某些实施方案中,在确定以医学方式放置的管或线是否正确放置(例如,经由深度学习网络模型)时,该方法1600包括将管或线的表面和/或端部与参考标志或解剖标志之间的测量距离与期望的阈值进行比较(框1620),并且确定该距离是否可接受(框1622)。期望的阈值可表示管或线与待正确放置的管或线的参考标志或解剖标志之间的距离的可接受范围。例如,对于鼻胃管而言,期望的阈值可为胃食管接合部下方的一定距离范围。如果所测量的距离是不可接受的,则该方法1600包括提供用户可感知的错放指示(框1624)。该指示可被提供在显示器上,其中该组合图像被显示或被提供在另一设备(例如,用户的设备)上。该指示可以是陈述管或线被错放的文本。在某些实施方案中,文本可更具体并陈述管或线太高或太低或以其他方式不当。在某些实施方案中,文本可提供另外的说明(例如,用于将管或线的端部升高或降低一定距离)。在一些实施方案中,文本可以是经颜色编码的(例如,以橙色或红色编码)以进一步指示错放。在一些实施方案中,该指示可经由一个或多个图形标记或显示在组合图像上的管或线的颜色编码来提供。例如,图形标记中的一个或多个(例如,针对管或线的端部,针对参考标志或解剖标志,和/或其间的测量距离的指示)和/或管或线可被颜色编码为特定颜色(例如,红色或橙色)以指示错放。另选地或除此之外,如果管或线错放,则图形标记中的一个或多个图形标记可闪烁或以其他方式视觉上突出显示。如果所测量的距离是可接受的,则该方法1600包括提供管或线的正确放置的用户可感知的指示(框1626)。该指示可被提供在显示器上,其中该组合图像被显示或被提供在另一设备(例如,用户的设备)上。正确放置的指示可以是陈述管或线正确放置的文本。在某些实施方案中,用于正确放置的指示可经由对显示在组合图像上的管或线的一个或多个图形标记进行颜色编码来提供(例如,所有图形标记和/或管或线可为绿色颜色编码的)。在某些实施方案中,正确放置或错放的指示可被写入标准或私人信息标签(例如,DICOM)中,并且在图像也被发送的后续信息系统(例如,PACS)中可见。在某些实施方案中,关于以医学方式放置的管或线是否正确放置或定位的确定可由查看所显示的组合图像的医务人员手动完成。
在考虑前述内容时,并且借助真实世界上下文和示例来促进解释,下面描述肠管具体实施的进一步说明。如本文所用,肠管可被理解为进入胃和伸出胃的薄柔性中空导管。实际上,此类肠管可包括或可不包括侧端口。如可理解,短语“肠管”可被理解为涵盖按其插入点(例如,在鼻部(鼻-)或嘴部(口-)中和按其终点(例如,在胃(-胃)中、在十二指肠(-十二指肠)中)或在空肠(-空肠)中区分的管类型的阵列。出于说明的目的,在鼻胃管的上下文中呈现了以下示例中的许多示例,以便提供真实世界上下文。然而,应当理解,此类示例和讨论可同样适用于其他类型的肠管,并且确实地通常可适用于其他合适的医用管。
在鼻胃管的上下文中,可理解的是,使用此类管可能产生可如本文所解释和示出的那样解决的特定问题。借助上下文,此类管通常可被实现为塑料(或其他生物相容性材料)管,该管被设计成穿过鼻部并进入患者的胃。一旦正确放置,可使用鼻胃管来施用营养物药物和/或与患者形成对比。除此之外或另选地,所放置的管可用于从胃中去除液体和/或空气。
关于正确放置,可插入鼻胃管,以便在X射线投影上将气道和隔膜二等分(例如,将基本上定位在相对于气道的中线上)。当正确放置时,插入尖端(即,远侧尖端)和侧端口(如果存在的话)在隔膜下方,通常朝向患者的左手侧定位。管的正确插入和放置避免或减轻可能的风险,诸如插入肺中的风险(具有物质进入肺的的相关联风险)、管放置太高(例如,在食管中)的风险和在所插入的管中的绕圈或扭结可能干扰流和/或刺激患者的风险。
如本文所讨论,并且在前述讨论的上下文中,目前描述的技术利用基于AI的特征来促进和评价肠管(包括但不限于鼻胃管)的放置。基于AI的特征可用于检测和/或表征所放置的管,以提供示出相对于相关联解剖特征(例如,在实际解剖背景中)的管的图形概况,并且将管分类为正确放置或需要调整。因此,使用基于AI的特征可在放置管时提高床边团队的置信度。基于AI的特征的使用还可促进可能错放的管的排优先级以供诸如放射科医生查阅,并且可加速查阅过程,由此有助于避免与错放的管相关联的并发症。
由本文描述的技术提供的特征和益处包括但不限于:定位肠管的特定特征(例如,管尖端、侧端口、端部端口等)的能力;定位相关解剖特征和背景(例如,隔膜、气道、隆突、肺、患者中线等)的能力;定位可能地与肠管混淆的其他相关设备(例如,探针、外周置入中心导管(PICC)线、心电图(ECG)引线或线、气管内(ET)管等)的能力;评价管位置并提供关于评价的解释或评论(例如,解释关于当前管放置的具体问题,诸如“侧端口位置相对于隔膜太高”)的能力;评价管位置并提供关于被检验为正确或令人满意的放置的方面的解释或评论(例如,管在中线附近正确地将隔膜二等分)的能力;提供对于管评价相关的自动化测量(例如,在隔膜下方的管的长度、侧端口距隔膜的距离、测量管直径等)的能力;在图形概况中显示所检测的管、管特征以及相关解剖特征和测量的能力和在图形概况内突出显示可能有问题的(或没有问题的)区域的能力;基于管放置分类来执行分诊以允许对可能错放的管的关注度的排优先级的能力;以各种格式(二次捕获、结构报告、联合保健企业(IHE)AI结果(AIR)(Integrating the Healthcare Enterprise(IHE)AI Results(AIR))等)保存图形概况的能力;以及允许用户编辑、修改和/或注释图形概况的能力。
可注意,与主要涉及气管内管或其他医用管的方法相比,被应用于肠管的本发明技术可解决附加的复杂性。作为示例,所应用于肠管的本发明技术必须解决或允许采集和使用胸部和腹部图像(与仅胸部图像相反)。另外,肠管具有必须考虑的各种管类型。作为示例,鼻胃管涵盖标准鼻胃管(例如,勒文氏管、赖耳氏管)、塞勒姆油底壳管、小孔硅橡胶进料管(例如,Keofeed管、Duo管、Dobbhoff管)和其他专用管(例如,Ewald管、Cantor管、Miller-Abbott管、Sengstaken-Blakemore管、Minnesota管、Linton-Nachlas管、Nutrivent管)。另外,与气管内管不同,肠管可在插入时形成绕圈和复杂曲线并可允许许多可能轨迹。对应地,肠管可能具有许多放置要求(相对于其他医用管插入),并且可能经受许多且不同类型的错放。由于肠管长度,某些类型的肠管也可离开和/或重新进入所获取的图像,从而可解决另外的不同的复杂性。
借助上下文,图12中示出了肠管(这里是鼻胃管(NGT))放置的高级工作流程。在该示例中,在步骤1700处,指示用于插入鼻胃管的点(例如,解剖点)。然后,可标记鼻胃管以得到适当的插入距离(步骤1702)。然后,可由医务人员(诸如胃肠道科护士或床边医生)插入或以其他方式放置鼻胃管(步骤1704)。一旦插入,就可将鼻胃管稳固(步骤1706)到患者的面部和/或颈部。为了检验在胃中的放置,可抽吸流体样品并测试pH(步骤1708)。可执行X射线成像操作(步骤1710)以评价鼻胃管的定位。可根据本文讨论的技术评价和/或呈现X射线图像数据。可将如图12所示的X射线图像数据的分析的输出提供给床边临床医生(步骤1712)以评价鼻胃管的位置并进行任何需要的调整。
可除此之外或另选地将如图12所示的X射线图像数据的分析的输出提供(步骤1714)给供放射科医生查阅的图片存档系统(PACS)。在所描绘的示例中,关于放射科医生查阅示出两个结果。在第一(步骤1718)中,确定管放置是最佳的或令人满意的,并且为此目的生成放射科医生报告,该放射科医生报告可包括测量数据。在第二(步骤1716)中,确定管错放,并且将该信息传送给床边团队。然后,可由床边团队重新定位管(步骤1720)并且获取附加的X射线(步骤1722)来评价管放置。利用如本文关于该工作流程所讨论的技术的益处包括但不限于:提供管放置中的提高的置信度、提供关于错放的管和/或次优图像质量的警报、对可疑的管错放的情况排优先级、提供可能无法以其他方式生成的自动化测量和加速报告创建。因此,如本文所述,目前描述的技术有助于检测肠管的存在和/或数量,有助于确定肠管是否错位,提供针对错位的管的立即床边警报,提供针对可疑的错位的管的PACS排优先级,并且提供管以及解剖背景和特征的可视化。就临床益处而言,这些可包括基于床边临床医生的决策在关键情况下的立即床边干预、基于放射科报告在关键情况下的更快干预,以及对床边团队的就适当放置的管的更高的置信度。
转到图13,其为用于对肠管(例如,鼻胃管)进行分割和分类的模型架构的简要概览。在该示例中,获取感兴趣解剖区域(例如,胸部和腹部)的图像1800或图像序列并将其提供给主链网络1804。在所描绘的示例中,图像1800包括肠管1802作为图像的一部分。图像数据和操作被示出为在网络1804的上下文中执行。可执行分割操作1806以识别并分割每个图像1800内的管1802,以便生成管1802的分割对象或表示1818。
分类逻辑(诸如基于AI的分类操作)可在分割表示1818上操作以生成一系列分类输出。作为示例,分类逻辑1800可基于所提供的输入来做出关于在图像1800中是否存在管1802的初始确定。另外,假定确定存在管1802,可执行另外的分类逻辑1812和分割逻辑1814以确定是否存在管尖端并对应地在图像1800内定位和分割管尖端1820。另外的分类逻辑1808可基于分割表示并结合所指定的最大值或阈值1822来确定管1802是否延伸超过图像1800。分类逻辑1816也可被应用于基于分割表示1818来检测在管1802中是否存在绕圈。鉴于该架构,可如本文所述那样处理图像1800的每个图像或序列,以向床边临床医生和/或向经由PACS查看图像和输出的放射科医生提供信息。
如本文所讨论,基于AI的逻辑的输出可用于评价或以其他方式评估肠管的放置。例如,基于AI的逻辑的输出可用于将放置表征为如所预期或令人满意(例如,侧端口正常、无侧端口长、尖端在外部长)、具有绕圈或扭结(例如,绕圈接着向下、扭结、太深)、临界(例如,尖端在外部短、侧端口边界、管长度边界)、错位以致气道有风险(例如,在隆突上方、在气道中)、错位以致太高(例如,在食管中、无侧端口短、侧端口高)、错位以致太高并具有绕圈(例如,在隔膜上方绕圈、返回到食管)或具有有限视场或以其他方式超出范围(例如,尖端在外部短、在隔膜下方短、在隔膜下方向上离开)。在实践中,并且在考虑前述内容时,可能存在针对给定具体实施的用于将可能的管位置分组成可能的分类输出的多种变化且合适的选项包括但不限于:(1)存在错位的管/不存在错位的管,(2)不存在管/正确放置的管/错位的管,(3)不存在管/正确放置的管/管位置需要检验,(4)不存在管/正确放置的管/错位的管/临界放置/部分地可视化的管/存在绕圈或扭结/因有限视场而超出范围,(5)不存在管/正确放置的管/具有侧端口的正确放置的管/错位的管在气道中/错位的管在食管中/错位的管太高/临界放置/存在绕圈或扭结/部分地可视化的管/不确定/因有限视场而超出范围/等等。
关于所呈现或显示的信息,并且转向图14和图15,可在显示器上显示识别患者体内的肠管或线的组合图像1628(例如,DICOM图像)的示例。如图所示,患者的组合图像1628示出定位在患者体内的鼻胃管1632。作为组合图像的一部分,可经由虚线或其他视觉参考的叠置来指示一个或多个解剖参考或特征,以促进管1632相对于解剖背景的用户可视化。作为示例,在所描绘的图像中,叠置虚线1660来示出支气管,叠置虚线1662来示出患者中线,并且叠置虚线1664来示出隔膜。
在所描绘的示例中,叠置在组合图像1628上面的图形标记1634(例如,圆圈或颜色编码的圆圈)指示鼻胃管1632的端部(即,管尖端)的位置。叠置在胸部图像上面的图形标记1636(例如,圆圈或颜色编码的圆圈)指示参考位置或解剖位置(例如,隆突)。叠置在图像上的图形标记1630(例如,圆圈、颜色编码的圆圈、虚线圆圈等)指示鼻胃管1632的侧孔或侧端口(如果存在的话)。数值1640指示鼻胃管1632的尖端与参考位置或解剖位置(这里是隔膜)之间的测量距离(例如,管长度距离)。在某些实施方案中,还显示由人工智能生成的测量距离中的置信度度量(例如,如置信水平所示的)。在某些实施方案中,管1632、图形标记1630、1634和/或1636可以是颜色编码的(例如,蓝色、黄色、绿色和红色)或以其他方式视觉上编码的(例如,实线、虚线、双线、独特厚度的线)。
图15为具有可显示在显示器上的识别患者体内的管或线的组合图像1628的用户界面1652的示意图。如图15所示,组合图像1628还可包括或被显示为包括与图像1628相关的信息的标题或其他信息块或区段1642。例如,如图所示,信息块1642(该信息块的一部分被扩展为插图以改进可见性)包括管或线的类型1644(例如,肠管),管的放置是否正确1646,以及管的尖端与参考标记或解剖标记之间的计算距离1648。
在某些实施方案中,信息块1642可包括关于是否检测到管或线(诸如通过本文讨论的基于AI的逻辑)的指示。在某些实施方案中,可在图像1628上显示一个或多个置信度度量(例如,针对所计算的距离、针对以医学方式放置的管或线的存在的确定、针对检测管或线的尖端的准确性和/或针对检测参考标志或解剖标志的准确性)。如在示例中所示,在某些实施方案中,信息块还可包括由基于AI的逻辑确定的其他相关放置信息。作为示例,在图15的所描绘的信息块中,关于管1632是否将支气管二等分、管是否在中线附近穿过隔膜、尖端是否在隔膜下方左侧、侧孔是否低于隔膜、尖端距隔膜的距离和管曲率是否看起来正常的信息全部都进行显示。也就是说,在某些实施方案中,所描绘的指示可指示管或线正确放置、错放、提供放置错误的指示或提供校正放置的指令。在所描绘的示例中,还提供了打开或关闭图像叠层的选项。
通过提供另外的示例,下文描述了附加的用户界面1652,该用户界面示出不同的管放置和AI结果以及如何向用户呈现此类放置和结果。作为示例,并且转向图16,显示了被提供用于在存在侧端口的情况下的正常或预期管放置的结果和可视化的示例。图17描绘了其中不存在侧端口并且具有关于尖端延伸超过隔膜的长放置的正常或预期管放置的结果和可视化的示例。图18描绘了其中不存在侧端口并且具有其中尖端在图像的边缘处或外部的长放置的正常或预期管放置的结果和可视化的示例。图19描绘了其中管1632以长放置在隔膜下方的正常或预期管放置的结果和可视化的示例。图20描绘了其中管1632放置在深处但仅管的短部分可见的正常或预期管放置的结果和可视化的示例。
虽然前述示例说明预期或可接受放置,但是以下示例说明错位、临界或不确定管放置。转到图21,示出了被提供用于其中侧端口高(例如,定位在隔膜上方)的错位的管放置的结果和可视化的示例。为了促进就管放置的问题方面的通信,对应于侧端口的图形标记1630和/或对应于隔膜的图形标记(例如,虚线)1664中的一者或两者可进行颜色编码(例如,黄色或红色)。类似地,在信息块1642中的指示管的放置是否正确的文本1646可指示管错位。该文本也可进行颜色编码(例如,黄色或红色)以指示有问题的放置。类似地,图22描绘了其中不存在侧端口并且关于尖端延伸超过隔膜的短放置的错位的管放置的结果和可视化的示例。图23描绘了其中管尖端定位在隆突上方的错位的管放置的结果和可视化的示例。图24描绘了其中管1632定位在食管内的错位的管放置的结果和可视化的示例。图25描绘了其中管1632定位在气道内的错位的管放置的结果和可视化的示例。图26描绘了其中管1632定位在胸腔内的错位的管放置的结果和可视化的示例。图27描绘了其中管1632被定位成以便顺着食管返回并重新上升的错位的管放置的结果和可视化的示例。图28描绘了其中管1632被定位成以便在隔膜上方绕圈的错位的管放置的结果和可视化的示例。
在以下示例中,次优管放置在AI输出的上下文中进行说明并提供可视化。转到图29,显示了被提供用于其中在隔膜上方的管段绕圈但侧端口和尖端放置在隔膜下方的一个此类次优位置的结果和可视化的示例。类似地,图30描绘了其中管段在隔膜下方绕圈并且整个管放置太深的次优管放置的结果和可视化的示例。图31描绘了其中管段绕圈在隔膜下方扭结的次优管放置的结果和可视化的示例。为了促进就管放置的问题方面的通信,管1632的有问题的段1666可进行颜色编码(例如,黄色或红色)。
在以下示例中,管在图像数据中仅部分地可视化。转到图32,显示了被提供用于其中管尖端在隔膜下方但达有限或较短长度的一个此类部分地可视化的管的结果和可视化的示例。图33描绘了其中管从隔膜下方回升而终止于图像外的部分地可视化的管的结果和可视化的示例。图34描绘了其中管延伸超过图像帧的部分地可视化的管的结果和可视化的示例。
图35是示例性处理器平台1300的框图,该处理器平台被构造成执行处理器可执行指令以实现本文公开和描述的示例性部件。处理器平台1300可为例如服务器、个人计算机、移动设备(例如,手机、智能电话、平板计算机诸如iPadTM)、个人数字助理(PDA)、互联网设备或任何其他类型的计算设备。
所示示例的处理器平台1300包括处理器1312。所示示例的处理器1312是硬件。例如,处理器1312可由来自任何期望产品系列或制造商的集成电路、逻辑电路、微处理器或控制器来实现。
所示示例的处理器1312包括本地存储器1313(例如,高速缓存)。图35的示例性处理器1312执行处理器可执行指令以实现图1至图13的系统、基础设施、显示器和相关联方法,诸如示例性数据源210、AI分类器220、数据存储装置230、比较器240、输出生成器250、触发器260等。所示示例的处理器1312经由总线1318与包括易失性存储器1314和非易失性存储器1316的主存储器通信。易失性存储器1314可由同步动态随机存取存储器(SDRAM)、动态随机存取存储器(DRAM)、RAMBUS动态随机存取存储器(RDRAM)和/或任何其他类型的随机存取存储器设备来实现。非易失性存储器1316可由闪存存储器和/或任何其他期望类型的存储器设备来实现。由时钟控制器控制对主存储器1314、1316的访问。
所示示例的处理器平台1300还包括接口电路1320。接口电路1320可由任何类型的接口标准(诸如以太网接口、通用串行总线(USB)和/或PCI express接口)来实现。
在所示示例中,一个或多个输入设备1322连接到接口电路1320。输入设备1322允许用户将数据和命令输入到处理器1312中。输入设备可由例如传感器、麦克风、相机(静物相机或摄像机、RGB或深度等)、键盘、按钮、鼠标、触摸屏、触控板、轨迹球、isopoint和/或语音识别系统来实现。
一个或多个输出设备1324也连接到所示示例的接口电路1320。输出设备1324可例如由显示设备(例如,发光二极管(LED)、有机发光二极管(OLED)、液晶显示器、阴极射线管显示器(CRT)、触摸屏、触觉输出设备和/或扬声器)来实现。因此,所示示例的接口电路1320通常包括图形驱动器卡、图形驱动器芯片或图形驱动器处理器。
所示示例的接口电路1320还包括通信设备,诸如发射器、接收器、收发器、调制解调器和/或网络接口卡,以促进经由网络1326(例如,以太网连接、数字订户线(DSL)、电话线、同轴电缆、蜂窝电话系统等)与外部机器(例如,任何种类的计算设备)交换数据。
所示示例的处理器平台1300还包括用于存储软件和/或数据的一个或多个大容量存储设备1328。此类大容量存储设备1328的示例包括软盘驱动器、硬盘驱动器、光盘驱动器、蓝光盘驱动器、RAID系统以及数字通用盘(DVD)驱动器。
编码指令可存储在大容量存储设备1328、易失性存储器1314、非易失性存储器1316中和/或可移动有形计算机可读存储介质(诸如CD或DVD)上。
根据前述内容,应当理解,已公开了以上所公开的方法、装置和制品以使用多种深度学习和/或其他机器学习技术来监测、处理并改善成像和/或其他医疗系统的操作。
因此,某些示例促进在护理点处诸如在患者成像点处经由成像设备进行图像采集和分析。如果应重新拍摄图像,则应立即进行进一步分析,并且/或者尽早(而不是稍后)探索其他危急程度,本文公开和描述的示例性系统、装置和方法可以促进此类动作以自动化分析、简化工作流并改善患者护理。
某些示例提供了特殊配置的成像装置,该成像装置可以采集图像并在重症监护团队的护理点处作为决策支持工具操作。某些示例提供了成像装置,该成像装置用作医疗设备以在护理点处提供和/或促进诊断以检测放射学发现等。装置可以触发放射科医生和/或重症监护团队的危急警报以立即引起患者注意。
在某些示例中,移动设备和/或云产品启用供应商中立的解决方案,从而在任何数字x射线系统(例如,完全集成、升级套件等)上证明护理点警报。在某些示例中,在移动成像系统(诸如移动x射线机等)上执行的嵌入式AI算法在图像采集等期间和/或之后实时提供护理点警报。
通过将AI托管在成像设备上,移动x射线系统可在例如没有医院信息技术网络的农村地区中使用,或者甚至可在将成像带给患者社区的移动卡车上使用。另外,如果将图像发送到服务器或云存在长延迟,则成像设备上的AI可以被代替地执行并且生成返回成像设备的输出以进行进一步的动作。并非使x射线技术专家移到下一位患者上并且使x射线设备不再与临床护理团队一起处于患者的床边,而是图像处理、分析和输出可以实时(或在给定某个数据转移/检索、处理和输出延迟的情况下基本实时)发生以便在临床护理团队和设备仍在患者身边或附近时向临床护理团队提供相关通知。例如,对于创伤情况,需要快速做出治疗决策,并且某些示例减轻了其他临床决策支持工具带来的延迟。
移动X射线系统在整个医院内行进到患者床边(例如,急诊室、手术室、重症监护室等)。在医院内,网络通信在医院的“死”区(例如,地下室、具有电信号干扰或阻挡的房间等)中可能是不可靠的。例如,如果X射线设备依赖于建立Wi-Fi以将图像推送到正在托管AI模型的服务器或云并且然后等待将AI输出接收回X射线设备,则患者有在需要时危急警报不可靠的风险。另外,如果网络或电源中断影响通信,则在成像设备上操作的AI可以继续充当独立的移动处理单元。
为一般放射学生成的警报的示例可以包括危急警报(例如,对于移动x射线等),诸如管和线放置、胸膜积液、肺叶塌陷、气腹、肺炎等;筛选警报(例如,对于固定x射线等),诸如肺结核、肺结节等;质量警报(例如,对于移动和/或固定x射线等),诸如患者定位、被修剪的解剖结构、不足的技术、图像伪影等。
因此,某些示例改善了人工智能算法的准确性。某些示例将患者医疗信息以及图像数据考虑在内以更准确地预测危急发现、紧急发现和/或其他问题的存在。
虽然本文已描述了某些示例性方法、装置和制品,但本专利的覆盖范围不限于此。相反,本专利覆盖合理落入本专利的权利要求书的范围内的所有方法、装置和制品。
所公开主题的技术效果包括提供利用AI(例如,深度学习网络)来确定以医学方式放置的管或线是否正确地放置在感兴趣区域内(例如,相对于参考标志或解剖标志)的系统和方法。该系统和方法可提供实时反馈,该实时反馈以更准确且更快的方式确定以医疗方式放置的管或线是否被错放。因此,如果需要,允许快速干预以将管或线移动到适当的位置以获得患者安全。
此书面描述使用示例来公开主题,包括最佳模式,并且还使本领域技术人员能够实践主题,包括制造和使用任意设备或系统以及执行任何包含的方法。本公开主题的专利范围由权利要求书限定,并且可包括本领域技术人员想到的其他示例。如果此类其他示例具有与权利要求书的字面语言没有区别的结构元素,或者如果它们包括与权利要求书的字面语言具有微小差别的等效结构元素,则此类其他示例旨在落入权利要求书的范围内。
Claims (15)
1.一种医学图像处理系统,所述医学图像处理系统包括:
显示器;
处理器;和
存储器,所述存储器存储处理器可执行代码,所述处理器可执行代码在由所述处理器执行时使得:
接收患者的胸部或腹部图像中的一者或两者,其中肠管或线设置在感兴趣区域内;
检测在一个所述图像或多个所述图像内的所述肠管或线;
检测在所述感兴趣区域内的一个或多个解剖参考标志;
通过在一个所述图像或多个所述图像上叠加一个或多个图形标记来生成组合图像,其中所述一个或多个图形标记指示基于所述一个或多个解剖参考标志得到的所述肠管或线的在解剖背景中的一个或多个特征;并且
将所述组合图像显示在所述显示器上。
2.根据权利要求1所述的医学图像处理系统,其中生成所述组合图像包括在一个所述图像或多个所述图像上叠加指示所述解剖参考标志的一个或多个解剖图形标记。
3.根据权利要求2所述的医学图像处理系统,其中所述处理器可执行代码在由所述处理器执行时使得:计算所述肠管或线的远侧尖端相对于相应解剖参考标志的测量位置,并且其中生成所述组合图像包括在一个所述图像或多个所述图像上叠加指示所述测量位置的图形指示符。
4.根据权利要求1所述的医学图像处理系统,其中所述处理器可执行代码在由所述处理器执行时使得确定所述肠管或线在所述图像内是完全地还是部分地可见的。
5.根据权利要求1所述的医学图像处理系统,其中所述处理器可执行代码在由所述处理器执行时使得确定所述肠管或线是否相对于相应解剖参考标志正确放置。
6.根据权利要求5所述的医学图像处理系统,其中所述处理器可执行代码在由所述处理器执行时使得在所述肠管或线相对于所述相应解剖参考标志错放时,显示具有所述组合图像的指示。
7.根据权利要求1所述的医学图像处理系统,其中所述肠管或线包括鼻胃管、鼻肠管、鼻空肠管、口胃管、口十二指肠管或口空肠管。
8.根据权利要求1所述的医学图像处理系统,其中所述一个或多个解剖参考标志包括隆突、隔膜、气道、胃、肺、中线或气道边缘。
9.根据权利要求1所述的医学图像处理系统,其中检测在一个所述图像或多个所述图像内的所述肠管或线包括利用一个或多个深度学习网络模型来检测在一个所述图像或多个所述图像内的所述肠管或线。
10.根据权利要求1所述的医学图像处理系统,其中生成所述组合图像包括在所述图像上叠加在所述肠管或线上方的彩色图形叠层,以促进所述肠管或线的可视化。
11.根据权利要求1所述的医学图像处理系统,其中所述一个或多个图形标记被颜色编码,以指示所述肠管或线的正确或不正确放置中的一者或两者。
12.一种用于医学图像处理的方法,所述方法包括:
经由处理器接收患者的胸部或腹部图像中的一者或两者,其中肠管或线设置在感兴趣区域内;
经由所述处理器检测在一个所述图像或多个所述图像内的所述肠管或线;
检测在所述感兴趣区域内的一个或多个解剖参考标志;
通过在一个所述图像或多个所述图像上叠加一个或多个图形标记来经由所述处理器生成组合图像,其中所述一个或多个图形标记指示基于所述一个或多个解剖参考标志得到的所述肠管或线的在解剖背景中的一个或多个特征;并且
经由所述处理器使得所述组合图像显示在显示器上。
13.根据权利要求12所述的方法,所述方法包括经由所述处理器检测在所述感兴趣区域内的一个或多个解剖参考标志。
14.根据权利要求13所述的方法,其中生成所述组合图像包括经由所述处理器在一个所述图像或多个所述图像上叠加指示所述解剖参考标志的一个或多个解剖图形标记。
15.一种非暂态计算机可读介质,所述计算机可读介质包括处理器可执行代码,所述处理器可执行代码被配置成:
接收患者的胸部或腹部图像中的一者或两者,其中肠管或线设置在感兴趣区域内;
检测在一个所述图像或多个所述图像内的所述肠管或线;
检测在所述感兴趣区域内的一个或多个解剖参考标志;
通过在一个所述图像或多个所述图像上叠加一个或多个图形标记来生成组合图像,其中所述一个或多个图形标记指示基于所述一个或多个解剖参考标志得到的所述肠管或线的在解剖背景中的一个或多个特征;并且
将所述组合图像显示在显示器上。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202163282814P | 2021-11-24 | 2021-11-24 | |
US63/282,814 | 2021-11-24 | ||
US17/951,281 | 2022-09-23 | ||
US17/951,281 US20230162352A1 (en) | 2021-11-24 | 2022-09-23 | System and method for visualizing placement of a medical tube or line |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116168809A true CN116168809A (zh) | 2023-05-26 |
Family
ID=84332271
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211422749.6A Pending CN116168809A (zh) | 2021-11-24 | 2022-11-15 | 用于可视化医用管或线的放置的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20230162352A1 (zh) |
EP (1) | EP4187491A1 (zh) |
CN (1) | CN116168809A (zh) |
-
2022
- 2022-09-23 US US17/951,281 patent/US20230162352A1/en active Pending
- 2022-11-14 EP EP22207340.5A patent/EP4187491A1/en active Pending
- 2022-11-15 CN CN202211422749.6A patent/CN116168809A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4187491A1 (en) | 2023-05-31 |
US20230162352A1 (en) | 2023-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111401398B (zh) | 用于根据人工智能检测输出确定疾病进展的系统和方法 | |
US11341646B2 (en) | Systems and methods to deliver point of care alerts for radiological findings | |
US11712208B2 (en) | Systems and methods to deliver point of care alerts for radiological findings | |
US11049250B2 (en) | Systems and methods to deliver point of care alerts for radiological findings | |
KR102140402B1 (ko) | 기계학습을 이용한 의료 영상 판독의 품질 관리 방법 및 장치 | |
CN106796621B (zh) | 图像报告注释识别 | |
JP2022023981A (ja) | X線画像吸気品質モニタリング | |
EP4002275A1 (en) | System and method for visualizing placement of a medical tube or line | |
US9471973B2 (en) | Methods and apparatus for computer-aided radiological detection and imaging | |
US20220331556A1 (en) | System and method for visualizing placement of a medical tube or line | |
JP2021521949A (ja) | インターベンショナルx線画像及びディープラーニングを用いたインタラクティブ冠動脈ラベル付け | |
US20230162352A1 (en) | System and method for visualizing placement of a medical tube or line | |
US20220284579A1 (en) | Systems and methods to deliver point of care alerts for radiological findings | |
US20230162355A1 (en) | System and method for visualizing placement of a medical tube or line | |
EP4375921A1 (en) | System and method for visualizing placement of a medical tube or line | |
US20240164845A1 (en) | Artificial Intelligence System and Method for Defining and Visualizing Placement of a Catheter in a Patient Coordinate System Together with an Assessment of Typical Complications | |
CN118072065A (zh) | 用于利用患者坐标系来限定和可视化导管的放置的人工智能系统和方法 | |
KR20210029167A (ko) | 기계학습을 이용한 의료 영상 판독의 품질 관리 방법 및 장치 | |
EP3644274A1 (en) | Orientation detection for vessel segmentation | |
Zhang et al. | Ultrasonic Image's Annotation Removal: A Self-supervised Noise2Noise Approach | |
US20230309936A1 (en) | Automatic malposition detection of medical devices in medical images | |
JP2024061756A (ja) | 情報処理装置、情報処理方法及びプログラム | |
KR20220129144A (ko) | 패치 영상을 기반으로 목적 부위의 질환을 결정하기 위한 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |