CN113015476A - 用于生成和显示体内图像流的研究的系统和方法 - Google Patents

用于生成和显示体内图像流的研究的系统和方法 Download PDF

Info

Publication number
CN113015476A
CN113015476A CN201980075047.5A CN201980075047A CN113015476A CN 113015476 A CN113015476 A CN 113015476A CN 201980075047 A CN201980075047 A CN 201980075047A CN 113015476 A CN113015476 A CN 113015476A
Authority
CN
China
Prior art keywords
images
image
subset
displayed
interest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980075047.5A
Other languages
English (en)
Inventor
A·斯皮林格
D·法勒
O·埃尔卡亚姆
E·尼夫
I·安博
S·福克斯
R·苏尔登
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Given Imaging Ltd
Original Assignee
Given Imaging Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Given Imaging Ltd filed Critical Given Imaging Ltd
Publication of CN113015476A publication Critical patent/CN113015476A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • A61B1/000094Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope extracting biological structures
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00011Operational features of endoscopes characterised by signal transmission
    • A61B1/00016Operational features of endoscopes characterised by signal transmission using wireless means
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00055Operational features of endoscopes provided with output arrangements for alerting the user
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/041Capsule endoscopes for imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H15/00ICT specially adapted for medical reports, e.g. generation or transmission thereof
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10068Endoscopic image

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Public Health (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Pathology (AREA)
  • Optics & Photonics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Veterinary Medicine (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Endoscopes (AREA)

Abstract

本发明公开了系统和方法,该系统和方法可显示可吞服胶囊在体内收集的患者的胃肠道的多个所选择的图像和/或对该多个所选择的图像提供分析。可显示图像以供用户复查(例如,作为研究)和/或进一步分析。可显示表示该图像流并且根据第一选择方法自动地选择的图像子集。在用户输入时,可显示与当前显示的图像相对应的附加图像,其中根据第二选择方法自动地选择该附加图像。该第二选择方法可基于该体内图像流中的图像与该当前显示的图像之间的关系。

Description

用于生成和显示体内图像流的研究的系统和方法
技术领域
本公开涉及用于显示和/或分析和/或报告来自体内捕获的图像系列或流的医学图像的方法、系统和计算机程序产品。具体地,本公开涉及用于生成和显示经由胶囊内窥镜检查(CE)规程捕获的体内图像的研究的方法、系统和计算机程序产品。
背景技术
胶囊系统可包括捕获胃肠道(“GI”道或“GIT”)的图像的可吞服胶囊。这些图像可存储在胶囊上和/或传输到接收设备(通常包括天线)。接收设备接收并且可(例如,在接收设备中的存储设备内)存储这些图像。可吞服胶囊可包括一个或多个相机或成像设备、电源、处理器和发射器。
胶囊、接收设备或接收设备的可移除存储设备可与计算设备(诸如服务器)耦接。计算设备可处理所接收的图像并且可提供界面以显示这些图像,通常显示为视频或电影(例如,一系列移动图像)。还可在接受从接收器或记录器传输的图像之后,在医疗专业人员操作的工作站上“在本地”执行这种处理。在一些实施方案中,位于患者身上的物理接收设备可将图像传输或下载到计算机以便进行处理和查看。用于处理或查看图像的工作站可为本地计算机、平板电脑或工作站。
保健专业人员(诸如医生)可在图像显示在例如工作站、终端上或例如经由网页浏览器远程地显示时复查这些图像,此时保健专业人员通常按照电影或图像流来查看这些图像(由于例如预处理,该电影或图像流通常包括比所有捕获的图像更少的图像)。
期望以一定方式呈现胶囊所收集的数千个图像,使得保健专业人员可在合理的时间内准确地复查这些图像并且发现重要图像或特征。
医生所见的规程结果或规程研究的典型现有技术视图包括按照移动图像或视频来查看的数千个图像(例如,单个相机所捕获的每个图像流按顺序一次显示一个图像)。查看数千个图像要花费宝贵的时间并且可能是麻烦的任务。按照视频来查看数千个图像还可能导致遗漏感兴趣图像的更高概率。期望缩短医疗专业人员查看图像所花费的时间。还期望使查看任务更高效且更有益。
附图说明
在附图的各图中通过示例而非限制的方式示出了本发明的实施方案,其中类似的附图标记指示对应的、类似的或相似的元件,并且其中:
图1是可与本发明的实施方案一起使用的示例性计算设备的高级框图。
图2示出了根据一些实施方案的最初向查看者或用户呈现的第一屏幕或默认屏幕。
图3示出了根据一些实施方案的示例性屏幕。
图4示出了根据一些实施方案的显示有附加信息(例如,研究)的示例性屏幕或显示。
图5示出了根据一些实施方案的放大操作之后的图4的示例性屏幕。
图6A示出了根据本发明的一个实施方案的研究视图模式的示意图。
图6B是根据一个实施方案的图6A的默认视图模式下的标测图(例如,条)的示意图。
图7示出了根据一些实施方案的根据图6A所示的显示来选择的图像的第二级信息的显示或视图的示例性图示。
图8A描绘了根据一个实施方案的默认研究视图。
图8B描绘了根据一些实施方案的图8A所示的图像的矩阵布局。
图9A是根据本公开的一个实施方案的默认视图模式的示例性屏幕截图。
图9B是在图9A的显示中选择的图像的第二级信息的显示或视图的示例性屏幕截图。
图10描绘了根据本发明的一个实施方案的样本显示。
图11是根据本发明的实施方案的方法的流程图。
应当理解,为了说明简单和清楚起见,附图所示的元件未必精确地或按比例绘制。例如,为了清楚起见,可相对于其他元件夸大或更加凸显一些元件的尺寸,或可在一个功能块或元件中包括若干物理部件。此外,在认为适当的情况下,可在附图之间重复附图标记以指示对应或类似的元件。
发明内容
本发明的实施方案可包括胶囊设备和任选的接收设备。胶囊设备可为在穿越胃肠道时捕获图像并且将图像传输到接收设备(其通常包括天线)的可吞服胶囊。接收设备可接收这些图像并且将它们存储在例如接收设备中的存储设备内。接收设备可将这些图像实时地(例如,在规程期间)传输到基于“云”的服务器或另一个远程设备。接收设备可为例如穿戴在患者身上的腰带或贴片或任何其他物品。接收设备可将所接收的图像转发到远程设备以便显示,包括实时显示、存储、处理和/或分析。接收设备可例如经由患者的蜂窝电话将这些图像传输到远程设备。本地或远程(例如,“云”)服务器或任何其他合适的计算设备可处理并分析这些图像和所接收的其他规程相关数据(例如,图像捕获时间和患者数据)以生成CE规程的研究。计算设备可在本地或远程地提供界面以显示该研究以便供用户(例如,医疗专业人员)复查。可使用存储、接收、处理和显示图像的其他方法。
本发明的实施方案包括用于显示多个所选择的图像和/或对多个所选择的图像提供分析以供查看者或用户复查(例如,研究)和/或进一步分析的系统、方法和计算机程序产品。这些图像选自由穿越胃肠道的部分(诸如小肠和/或结肠)的胶囊内窥镜在体内捕获的图像流。所公开的方法、系统、工具和/或计算机程序产品可尤其用于GIT的各种病变、障碍、异常和疾病的诊断、治疗决策、监测和/或筛查。
可显示图像以供用户复查(例如,作为研究)和/或进一步分析。可显示表示该图像流并且根据第一选择方法自动地选择的图像子集。在用户输入时,可显示与当前显示的图像相对应的附加图像,其中根据第二选择方法自动地选择该附加图像。该第二选择方法可基于该体内图像流中的图像与该当前显示的图像之间的关系。
具体实施方式
在以下具体实施方式中,阐述了许多特定细节以便提供对本发明的透彻理解。然而,本领域技术人员将理解,可在没有这些特定细节的情况下实践本发明。在其他情况下,没有详细描述熟知的方法、规程和部件,以免模糊本发明。相对于一个实施方案描述的一些特征或元件可与相对于其他实施方案描述的特征或元件组合。为清楚起见,可能不会重复相同或类似特征或元件的讨论。
尽管本发明的实施方案在该方面不受限制,但是利用诸如例如“处理”、“计算”、“确定”、“确立”、“分析”、“检查”等术语的讨论可指计算机、计算平台、计算系统或其他电子计算设备的操作和/或过程,该操作和/或过程将表示为计算机的寄存器和/或存储器内的物理(例如,电子)量的数据操纵和/或转换成类似地表示为计算机的寄存器和/或存储器或其他可存储执行操作和/或过程的指令的信息非暂态存储介质内的物理量的其他数据。尽管本发明的实施方案在该方面不受限制,但是如本文所用的术语“多个”和“多种”可包括例如“多重”或“两个或更多个”。术语“多个”或“多种”可在整个说明书中用于描述两个或更多个部件、设备、元件、单元、参数等。该术语集在本文中使用时可包括一项或多项。除非明确说明,否则本文所述的方法实施方案不限于特定次序或序列。另外,所述方法实施方案或其元素中的一些可以同时地、在相同时间点或并行地发生或执行。
如本文相对于图像所提及的术语“位置”及其派生词可指胶囊在捕获图像时沿着GIT的估计位置或图像中沿着GIT示出的GIT的部分的估计位置。
一种类型的胶囊内窥镜检查规程可尤其基于感兴趣且待成像的GIT的部分(例如,结肠或小肠(“SB”))或基于特定用途(例如,用于检查GI疾病诸如克罗恩病的状态,或用于结肠癌筛查)来确定。
术语屏幕、视图和显示可在本文中互换使用并且可根据特定上下文来理解。
如本文所提及的术语“默认视图”、“默认显示”和“默认屏幕”可相应地指在规程的研究的复查的每次启动时首先根据本发明系统和方法显示的“视图”、“显示”和“屏幕”,并且其中该第一视图、显示或屏幕被预定义并且不是用户选择的结果。
如本文相对于特定信息的视图或显示所提及的术语“默认视图”和“默认显示”可相应地指在规程的研究的复查的每次启动时根据本发明系统和方法的特定信息的第一“视图”和“显示”,并且其中特定信息的该第一视图或显示被预定义并且不是用户选择的结果。
如本文相对于特定信息的显示或视图所提及的术语“默认情况下”或“默认时”可涉及在特定视图、显示或屏幕的框架中显示的信息,而无需用户动作或输入以上传、启动或触发该显示。
除非另外明确指明,否则如本文相对于图像(例如,在另一个图像周围或与其他图像相邻的图像)所提及的术语“周围”或“相邻”可涉及空间和/或时间特性。例如,在其他图像周围或与其他图像相邻的图像可为这样的图像,其估计位置邻近沿着GIT的其他图像和/或在另一个图像的捕获时间附近、在一定阈值内例如在一厘米或两厘米内或在一秒、五秒或十秒内捕获的图像。
根据其上下文,术语“GIT”和“GIT的一部分”可彼此互指或相互包括。因此,术语“GIT的一部分”也可指整个GIT,并且术语“GIT”也可仅指GIT的一部分。
本发明的实施方案与现有技术CE规程查看应用程序的不同之处可在于现有技术应用程序通常按照第一或默认视图或显示来呈现电影或图像流(例如,按时间序列呈现的一系列图像)。在本发明的实施方案中,可处理经由例如可吞服胶囊从GIT收集的一组图像,然后例如一旦在胶囊捕获之后并在根据所述系统和方法的实施方案的规程的研究的复查的每次启动时上传或处理图像,就初始将该组图像例如按照默认或第一视图呈现为一组静态图像。默认视图中呈现的每个图像可具有感兴趣特征(例如,病变的特定实例)并且可与未在默认视图中示出的该相同特征(例如,病变的该相同实例)的其他图像相关联或相对应。指示或选择(例如,使用输入设备点击)所显示的单个静态图像以表示感兴趣特征的实例可呈现第二级或附加信息视图,该视图可为例如也示出该特征的该实例的移动图像或可滚动图像系列。
可呈现GIT的不同部分(例如,SB、大肠或结肠、食道、胃等)的图像,并且用户界面可根据所显示的不同部分而变化。所执行的规程的类型例如SB规程或结肠规程或两者的规程(例如,旨在具体地展示或检查SB的规程或者旨在具体地展示或检查结肠的规程或者两者)可确定GIT的哪个部分是感兴趣部分。通常,所显示的大多数图像具有感兴趣部分。可将每个感兴趣部分分成多段。每段(例如,示出估计位于该段中的GIT的部分的图像)可例如经由不同选项卡显示于不同视图中。例如,如果感兴趣部分是结肠(例如,该规程是结肠规程),则其可被分段成五个解剖段(盲肠、升结肠、横结肠、降结肠和直肠),每段具有可经由选项卡访问的单独视图。因此,可向用户呈现标记为盲肠、升结肠、横结肠、降结肠和直肠的选项卡,并且点击盲肠可示出第一级的组,该第一级的组估计最佳表示估计位于盲肠中的所接收的图像流中的图像。
第二级图像可显示于与第一级图像相同的屏幕上(例如,第一级图像可转变成显示为移动图像或可滚动图像以显示其对应第二级图像,且其他第一级静态图像保留在显示器上),或显示于不同窗口或弹出窗口中。根据图像捕获时间,第二级图像可先于对应第一级图像和/或跟随对应第一级图像或在对应第一级图像之后。第二级图像可包括对应第一级图像(种子图像)或第二级图像的显示可包括对应第一级图像。因此,包括或外加对应第一级图像的第二级图像可根据其捕获时间来显示。然后可对第二级图像进行编号,使得第一级图像(例如,“最佳”代表性图像)被编号为零,并且第二级图像或其他第二级图像按其在图像中离图像零的距离来编号。
用户可点击复选框或以其他方式选择第一级中显示的图像以使该图像放置于报告或最终报告(通常在用户复查这些图像之后显示或递送)中;用户可过滤第一级中的图像,使得仅显示“选择的”图像。可呈现各种工具或图像分析能力,诸如自动病变大小估计和病变大小估计工具(例如,用于息肉)。可以以其他方式基于用户输入来过滤和/或选择性地显示图像。
可由用户选择不同类型的图像显示或视图,诸如矩阵或网格视图、转盘视图(例如,其中图像被显示为好像从图像环的侧边观看,其中一个“当前”图像位于正面且最大,而其他图像围绕该“环”且大小递减)。标测图或“热图”可使某些图像与其沿着GIT的空间取向相关联,其中某些特征或特征组合具有例如使用颜色沿着热图指示的特征的“扩展”或长度。标测图可表示GIT的一部分或GIT的感兴趣部分。标测图可对应于第一级图像,因为标测图可表示拍摄这些图像的GIT的一部分,和/或包括与这些图像的估计位置相对应的标记物。因此标测图可包括根据其在GIT中的位置或估计位置来表示这些图像的局部化的图像指示或标记物。
当在本文中使用时,可基于可供处理器和计算方法使用的信息来估计或近似计算处理器导出的描述,诸如位置、大小或清洗级(cleansing level)。
用户可将信息添加到图像,和/或信息可自动地添加到图像。例如,用户可使用可选择的病变类型来标记图像。过程可自动地在图像内的一个图像中自动识别的病变的位置周围绘制一个方框或边框。
根据一些方面,研究的创建或生成可包括除了与图像子集中的图像相对应的附加一个或多个图像之外,还生成附加信息或第二级信息。例如,附加信息可包括GIT的至少感兴趣部分向多段的划分;图像流中的图像沿着GIT的至少感兴趣部分的位置;表示GIT的至少感兴趣部分的标测图,包括图像子集中的图像沿着GIT的至少感兴趣部分的指示;根据第三选择方法从图像子集中选择的预定义数量的图像;图像中的感兴趣特征的指示;按照图像、段和/或按照规程确定的清洗级的指示;感兴趣特征的估计大小的指示;感兴趣特征的范围的指示;体内图像流中表示GIT的至少感兴趣部分的解剖区段之间的过渡的图像的选择;以及它们的组合。
在一些方面,系统或方法可显示胶囊内窥镜检查规程的研究,包括在胶囊内窥镜检查规程期间胶囊(例如,由患者吞服)所捕获的图像以供用户复查。系统可接收从经由胶囊内窥镜检查规程捕获的患者或受试者的GIT的至少一部分的体内图像流或组中选择的图像子集(例如,第一级图像)。根据一些方面,该系统可接收患者或受试者的GIT的至少一部分的体内图像流或组。然后该系统可根据第一选择方法从所接收的体内图像流或组中自动地选取或选择图像子集,该图像子集“表示”所接收的体内图像流或组。所谓“表示”意指从相对于患者的GIT的感兴趣部分作出医疗诊断并作出治疗决策的方面进行的表示,或为了相对于患者的GIT的感兴趣部分作出医疗诊断并作出治疗决策的利益而进行的表示。例如,系统可识别所接收的图像中的一个或多个感兴趣特征(例如,一种或多种类型的病变)。该一个或多个感兴趣特征可基于特定类型的胶囊内窥镜检查规程来预先确定。基于感兴趣特征的该识别,可选择图像子集以尤其表示所识别的病变。
对于图像子集的至少一部分的每个图像而言,该系统可从体内图像流或组中接收、选择或识别与图像子集中的图像(例如,第二级图像)相对应的一个或多个图像。可根据第二选择方法来选择该一个或多个对应图像。根据一些方面,对于图像子集中的每个图像而言,选择并接收对应一个或多个图像。根据一些方面,所选择的对应一个或多个图像可包括图像子集中的对应图像。根据一些方面,对应一个或多个图像可不包括图像子集中的图像。根据一些方面,该系统可根据第二选择方法来选择对应一个或多个图像。
第二选择方法可基于体内图像流中的图像之间的过滤器或关系。图像之间的这种过滤器或关系可以是被识别为包括来自相同特征(例如,相同特定溃疡)或相同类型特征的至少一部分的图像(例如,被识别为包括溃疡的图像)、沿着GIT在相近时间捕获的图像或沿着GIT相邻地定位的图像或它们的组合。根据一些方面,可接收并显示从图像子集中选择的预定义数量的图像。可在接收到用户输入时显示预定义数量的图像(例如,五个图像、十个图像或十以上的任何数量)。可根据第三选择方法来选择预定义数量的图像以汇总图像子集。根据一些方面,第三选择方法可选择图像子集中被确定或估计为最感兴趣的图像。例如,在结肠规程中,可根据图像子集的第一选择方法来选择所接收的图像流或组中以一定级别的确定性识别为包括息肉的图像。
可根据第三选择方法来选择图像子集中被识别为包括五个最大息肉的五个图像,或以最高级别的确定性识别为包括息肉的五个图像。本文所述的每个图像选择方法可包括一个或多个过滤器或者选择或检测规则,并且可在一个或多个阶段中执行根据每种方法的选择。可通过利用算法(例如,特别是机器学习算法和深度学习算法)来应用选择或检测规则。例如,当从所接收的图像流中选择图像子集时,可在第一阶段处执行一个或多个感兴趣特征的检测。不同规则(例如,算法)可用于检测不同类型的特征,诸如不同病变或GIT的不同解剖部分之间的穿行。通常,检测算法的结果可以是被分配给图像的评分,该评分指示图像包括所检测的特征的确定性级别。第二选择方法依据的关系或过滤器可针对不同第一级图像或图像子集中的不同图像产生不同对应附加图像。至少第一选择方法可基于深度学习技术,例如神经网络技术。第一选择方法和第二选择方法可各自包括一个或多个选择规则。
在第二阶段处,可基于第一阶段的检测结果来从图像流中选择图像。该选择可包括例如用于不同类型的特征(诸如不同类型的病变和解剖部分之间的穿行)的不同选择规则。第二阶段处的选择规则可尤其基于为检测评分确定的阈值。例如,对于SB规程而言,可确定在第二阶段处选择图像子集的图像的不同规则并且该不同规则基于:图像中识别的病变或特征的类型、沿着GI道识别的病变的扩展类型(例如,局灶性、扩散性或“地毯式”分布)以及所识别的病变的严重性或位置。这些规则还可基于要按照特定特征、按照特征的类型和/或按照要选择的整组图像来显示的最大数量的图像。例如,对于局灶性病变而言,系统可仅选择一个图像来表示将在图像子集中出现的病变(例如,一个规则)。对于扩散性病变而言,系统可选择多个图像来表示图像子集中的病变(例如,另一个规则)。
作为另一个示例,在用作癌筛查工具的结肠规程中,感兴趣特征可仅包括一个病变:息肉。之后,系统可包括一个规则,根据该规则来为每个所识别的息肉的图像子集选择一个图像。可根据图像的息肉检测评分的阈值来确定所识别的息肉。另选地或除此之外,可确定另一个规则,根据该规则,第一子集将包括最大数量的图像(例如,50、100、160、200或大约数十的最大数量、大约100的最大数量或大约几百的最大数量)。如果应用了这两个规则,并且根据第一规则选择的图像的数量超过根据第二规则确定的最大数量,则可应用第三规则。这种第三规则可确定根据第一规则选择的具有最高检测评分的图像的、根据第二规则的最大数量的图像被选择用于图像子集。具有更高检测评分的所识别的息肉的图像可被视为更重要,例如这是由于此类图像展现出息肉的概率更高。
根据一些方面,可包括基于跟踪特征(诸如息肉的溃疡)的规则。可在附加阶段中应用这种规则。这种规则可允许识别使相同特定特征(例如,相同息肉)成像的图像。这种规则可用于第二选择方法中以确定示出图像子集中的图像中所示的相同特征的至少一部分的一个或多个图像。可例如基于诸如美国专利9,430,706(其全文以引用方式并入本文)所公开的方法或光流技术来执行这种特征跟踪。
系统例如通过利用本文所述的方法来创建或生成胶囊内窥镜检查规程的研究。该研究可包括至少所选择的图像子集(例如,级别一视图)和任选的附加信息。附加信息可包括例如(例如,由系统)选择的与“级别一”图像子集的至少一部分的每个图像相对应的一个或多个附加图像。附加信息还可包括诸如以下的信息:沿着GIT的所显示的图像的局部化;所显示的图像中的所识别或疑似特征的位置和/或类型的指示;所识别或疑似特征的范围或沿着GIT的特征的类型(例如,“地毯式”病变或扩散性疾病的范围)的指示;感兴趣的GIT的部分的分割的指示;GIT的解剖部分的指示;以及表示GIT的不同解剖部分之间的解剖穿行的图像的显示。根据一些方面,一部分附加信息或全部附加信息可仅在用户输入时显示,例如在经由动作(例如,通过激活控件或悬停于特定显示区域上)发出用户请求时显示。根据一些方面,级别一图像和/或级别二图像可以以静态方式显示。通常,只有在用户选择级别一图像进行附加复查时才不显示级别二图像。通常,一组第二级图像包括不作为第一级图像包括或显示的一个或多个图像。研究图像可显示于与第一级图像相同的视图中(例如,当显示于相同窗口中时)或不同的视图中(例如,当显示于弹出窗口中时)。
研究可显示于一个或多个视图中以供用户复查。每个研究视图可包括至少图像子集的显示。不同研究视图的特征可在于例如:图像显示布局(例如,矩阵或转盘)、图像显示浏览(例如,静态方式或视频)、显示该研究的哪种附加信息(如果有的话)以及显示附加信息的方式。例如,根据一些方面,可显示两个研究视图。一个视图包括以静态方式按矩阵布局对图像子集(例如,“第一级”或“级别一”图像)及附加信息(例如,GIT分割和各段的清洗级)的显示,但不包括对与图像子集的图像相对应的该一个或多个图像(例如,“级别二”或“第二级”图像)的显示。第二视图可包括按转盘布局对图像子集的显示以及对该研究中包括的所有附加信息(包括第二级图像)的显示。就多个研究视图而言,一个视图可被定义为默认研究视图。与其他研究视图相反,默认研究视图不由用户选择以便显示。一旦选择特定规程进行研究复查,就将显示默认研究视图。因此,默认研究视图是要显示的第一研究视图。就单个研究视图而言,单个研究视图是默认研究视图。
研究视图可包括一个或多个视图。图像子集显示于研究视图的主要或默认视图中。研究视图的主要或默认视图还可包括附加信息的显示,诸如沿着GIT使图像子集中的图像局部化的标测图;图像子集中的每个图像的清洗级指示;GIT的感兴趣部分的分割;图像子集中的图像的捕获时间;和/或感兴趣GIT部分的估计转运时间(例如,胶囊设备穿越感兴趣GIT部分所需的时间的估计)。可仅在接收到用户输入时显示其他附加信息,诸如对与所显示的图像子集中的图像相对应的附加一个或多个图像的显示。信息的这种“可选”显示(例如,供用户决定是否显示该附加信息)可在主要视图中或在单独视图中。例如,与图像子集中的图像相对应的附加一个或多个图像可显示于主要视图中,例如显示于显示图像子集中的对应图像的相同图像窗口中或显示于研究视图的主要视图的不同专用区域中。在另一个示例中,与图像子集中的图像相对应的附加一个或多个图像可显示于单独视图中,诸如显示于弹出窗口中。
研究显示或视图可包括多个特性。研究显示特性可包括显示图像子集的方式;图像的显示的布局(例如,转盘或矩阵),包括同时显示的图像的数量;图像之间浏览的方式(如果并未同时显示所有图像);以及附加信息的显示。例如,特性可包括哪种附加信息可显示于特定显示或视图中以及哪种附加信息不显示于特定显示或视图中。涉及附加信息的显示的特性可包括哪种信息在默认情况下显示于特定视图中以及哪种信息仅在用户请求时才显示于特定视图中(例如,对图像中的特征的指示的显示)的确定。研究显示特性可具体地包括第二级图像的显示的布局,例如采用转盘方式或作为视频剪辑、处于与第一级图像相同的窗口中或者处于弹出窗口或另一个窗口或屏幕中、一次显示一个图像或同时显示一些图像。根据一些方面,所显示的一组图像中的图像之间的浏览可按照图像进行(例如,每个浏览动作仅替换当前显示的一个图像)或按照页面或屏幕进行(例如,在同时显示多个图像的情况下,每个浏览动作替换当前显示的所有图像),采用静态方式(例如,其中图像或图像页面之间的浏览仅按照用户输入进行),或采用自动方式(例如,当用户激活浏览控件并且自动地在所显示的该组图像的图像或页面之间执行浏览时)。根据一些方面,图像(例如,所选择的图像子集)的显示按照GIT的感兴趣部分的段进行并且基于该部分的分割。例如,在研究视图中,该组图像可按照段来显示,其中通过激活选项卡来显示每段。根据一些方面,一些显示或视图特性可由用户预定义或可在用户输入时更改(例如,在视图中同时显示的图像的数量)。在一些实施方案中,用户可在第一级图像的组的图像之间或“页面”之间浏览或引起显示在第一级图像的组的图像之间或“页面”之间移动(例如,如果显示包括x个图像,则浏览到下一页面将呈现下一x个图像)。自动化浏览(与视频显示相反)可自动地移动到下一图像或下一“页面”。
在一个实施方案中,在第二级图像的视图或显示中,一次仅显示一个图像(与第一级图像相反,其中一次显示多个第一级图像)。可例如使用自动播放模式将第二级图像显示为视频剪辑。
研究可包括系统向用户提供的所有图像和信息,例如与呈现给医生的案例或规程相关的所有数据,包括图像捕获时间、图像(例如,第一级和第二级)和附加数据诸如与系统可执行的案例和/或规程相关的数据的分析结果。研究还可包括患者信息(例如,详情、背景、历史)。
根据一些方面,系统的实施方案可在显示设备(例如,监视器)上显示图像子集以供用户复查:通常所显示的图像是每组的一个或多个代表性图像,因此不同组中的每组可具有在“第一级”显示中显示的一个或多个代表性图像。第一级显示可在“默认”情况下例如在没有用户输入或选择的情况下显示这些图像,并且该第一级显示可以以静态方式显示图像而不是移动图像或电影。
可同时显示由该规程中使用的胶囊设备的单个成像设备捕获的第一级图像或“代表性”图像。可预定义可在(例如,第一级图像的)视图或显示中同时显示的图像的数量或图像的最大数量。
根据一些方面,研究包括在研究的默认视图中显示的第一级信息。因此,第一级信息的显示是强制性的并且不供用户决定是否显示该类型的信息。根据一些方面,第一级信息仅由表示从胶囊设备或从接收设备接收的图像流或组的所选择的图像子集组成。研究还可包括第二级信息。可仅在用户输入时(例如,按照用户的请求)显示第二级信息,因此其显示可为可选的。第二级信息可提供第一级信息的附加信息。第二级信息或其至少一部分与图像子集中的图像相关联或相对应。
规程相关信息的这种选择和显示可允许用户更高效地进行复查过程,可减少复查时间并且得出更佳诊断。根据本发明方法和系统,用户可以以适合其技能和偏好和/或源于特定患者、规程和/或研究的需求的方式复查研究。这样,所公开的系统和方法可允许规程研究的个性化复查。例如,熟练的用户可能需要比新手用户更少的信息就能作出诊断。因此,新手或不太熟练的用户可选择显示并复查对于熟练的用户不需要的附加信息。作为另一个示例,在被认为和/或已知患病的受试者中执行的规程的研究的复查可涉及比被认为和/或已知健康的受试者中执行的规程的研究的复查更多的附加信息的显示。
此外,可根据所述系统和方法的实施方案提供通常或迄今为止未在CE规程的研究的框架中向用户显示或提供的附加信息。此类信息可帮助并支持用户作出诊断和/或治疗决策,从而可实现更快且更佳的诊断和护理。附加信息包括尤其通过采用现有技术计算机辅助决策技术(诸如深度学习技术)来生成或实现的信息。
根据一些方面,为了显示第二级信息,用户可(例如,通过向图形用户界面(GUI)提供用户输入)在第一级显示中选择一个图像,该图像对应于一组图像,因此可对应于该组中的其他尚未显示的图像。根据一些方面,一组中的所有图像可包括相同自动找出的感兴趣特征或使相同自动找出的感兴趣特征成像,因此除第一级中显示的单个图像之外的该组中的图像(与第一级图像相对应的图像)可示出针对第一级中的该组来显示的图像中所示的相同特征。在接收到与第一级图像有关的用户输入时,该系统可显示与当前显示的图像子集中的所选择的第一级图像相对应的该一个或多个图像。这可引起附加信息的第二级显示。例如,所选择的图像组可以以静态方式显示,然后用户可能能够在该图像组中滚动,从而引起该组中的图像按顺序显示,或可使用另一种显示方法,诸如将该图像组显示为视频剪辑。在图像的显示期间,用户可相对于所显示的图像来添加或注释信息。在用户完成复查这些图像之后,该系统可创建或生成报告,该报告包括来自由用户选择的所显示的图像中的图像并且不包括其他图像。在一些实施方案中,该报告可仅包括由用户查看的图像和可能用户输入信息,并且不包括所捕获的体内图像流中的其他图像。通常,仅所选择的图像子集和与该子集中的图像相对应的图像可用于显示以供用户在该报告中复查。
根据一些方面,可显示期中研究并且任选地由所公开的系统和方法生成该期中研究。可基于从胶囊设备或从与胶囊设备通信的接收设备接收的部分图像流或组来生成期中研究。部分图像流可仅包括直至仅相对于该规程的开始(例如,受试者吞服胶囊)的一定时间点为止或直至胶囊到达GIT的感兴趣部分内的一定位置为止以及在该规程结束之前捕获的图像。通常由医疗专业人员在该规程期间接收部分图像流,执行期中研究的生成并且进行期中研究的复查。根据一些方面,在胶囊设备到达GIT的感兴趣部分的终点之前生成并显示期中研究。可由所公开的系统根据具有所需变化的所公开的方法执行期中研究的生成和显示以供用户复查。期中研究可包括从所接收的部分图像流选择的图像子集。期中研究通常可包括比完整研究(例如,该研究)更少的附加信息。例如,在一些实施方案中,期中研究不包括第二级图像。然后用户可通过使用本文所公开的系统和方法基于期中研究来生成期中报告。期中研究可用于提供所需的医疗诊断和治疗,包括转诊患者,使之接受要在CE规程完成的同一天或不久之后执行的医疗规程。
例如,如果医疗专业人员在复查期中研究时识别应当摘除的息肉,则可将患者转诊到同一天的结肠镜检查。同一天的结肠镜检查可具有优点,包括使患者免于进行另一次结肠准备。根据一些方面,用户可确定参数,诸如确定由此生成期中研究的部分图像流的一定时间点或GIT的感兴趣部分内的一定位置。根据一些方面,用户可选择他将接收期中研究的一天中的时间。
可显示最后图像。该最后图像可为胶囊所捕获的最后图像或被识别为位于胶囊所捕获的最后位置处的图像(注意胶囊可来回往返)。可显示该图像,例如以让医生知道胶囊一直捕获图像到何处以及是否到达感兴趣部分。该最后图像可为图像子集的一部分或可为附加信息的一部分。
根据一些实施方案,可接收体内捕获的图像并且可(例如,由图1所示的处理器)自动地选择多个这些图像以便显示。在一些实施方案中,可自动地和/或由用户识别这些所选择的图像的子集,并且可生成案例报告或报告,该案例报告或报告仅包括来自所识别的图像子集的图像(例如,该子集中的图像中的一个或多个图像或所有图像)。
被选择用于显示的图像可为例如疑似包括特定病变、异常或任何异常状况的图像和/或被选择为表示或展示GIT的一定部分或GIT的一定解剖区域的图像。
可经由一个或多个软件应用程序来实现或执行所公开的系统、方法和计算机程序产品,该一个或多个软件应用程序可接收或可访问所选择的图像和/或体内捕获的整个图像流和/或其一部分。此类应用程序可例如向用户显示所选择的图像,(例如,经由GUI)与用户交互,促进用户对所显示的图像的分析,提供所显示的图像的自动分析,和/或生成报告。根据本公开的一些实施方案,此类应用程序可执行要显示的图像的选择。根据本公开的系统和计算机程序产品可包括一个或多个非暂态计算机可读存储介质(其还可存储数据,诸如图像、图像流等)。根据本公开的系统可包括一个或多个硬件处理器、一个或多个显示器、一个或多个I/O设备和/或利用一种或多种通信技术的一个或多个通信设备。该一个或多个软件应用程序可包括存储在该一个或多个非暂态计算机可读存储介质中并且可由该一个或多个硬件处理器执行的程序代码。可经由该一个或多个显示器向用户显示这些图像和/或任何另外的数据,并且用户可经由该一个或多个I/O设备与该一个或多个应用程序交互。可由该一个或多个通信设备接收或(例如,经由互联网)远程地访问图像流、其一部分或图像流的所选择的子集。
图1示出了可与本发明的实施方案一起使用的示例性计算设备的高级框图。计算设备100可包括控制器或处理器105,该控制器或处理器可为或包括例如一个或多个中央处理单元处理器(CPU)、一个或多个图形处理单元(GPU或GPGPU)、芯片或任何合适的计算或运算设备、操作系统115、存储器120、存储装置130、输入设备135和输出设备140。对可吞服内窥镜检查胶囊所收集的医学图像进行收集或接收的模块或装备(例如,穿戴在患者身上的接收器)或进行显示或选择来显示的模块或装备(例如,工作站)可为或包括诸如图1中包括的计算设备,或可由该计算设备执行。通信元件122可允许例如经由互联网或另一个网络、经由无线电等来与远程或外部设备通信。
操作系统115可为或可包括被设计和/或被配置为执行涉及协调、调度、仲裁、监督、控制或以其他方式管理计算设备100的操作(例如,调度程序的执行)的任务的任何代码段。存储器120可为或可包括例如随机存取存储器(RAM)、只读存储器(ROM)、动态RAM(DRAM)、同步DRAM(SD RAM)、双倍数据速率(DDR)存储器芯片、闪速存储器、易失性存储器、非易失性存储器、高速缓存存储器、缓冲器、短期存储器单元、长期存储器单元或其他合适的存储器单元或存储单元。存储器120可为或可包括多个可能不同的存储器单元。存储器120可存储例如执行方法的指令(例如,代码125)和/或诸如用户响应、中断等数据。
可执行代码125可为任何可执行代码,例如应用程序、程序、过程、任务或脚本。可执行代码125可由控制器105可能在操作系统115的控制下执行。例如,可执行代码125在被执行时可引起如本文所述的医学图像的显示或选择来显示。在一些实施方案中,多于一个计算设备100或设备100的部件可用于本文所述的多个功能。对于本文所述的各种模块和功能而言,可使用一个或多个计算设备100或计算设备100的部件。可使用包括与计算设备100中包括的那些类似或不同的部件的设备,并且可将这些设备连接到网络并用作系统。一个或多个处理器105可被配置为通过例如执行软件或代码来执行本发明的实施方案。存储装置130可为或可包括例如硬盘驱动器、软盘驱动器、压缩盘(CD)驱动器、CD可记录(CD-R)驱动器、通用串行总线(USB)设备或其他合适的可移除和/或固定存储单元。诸如指令、代码、医学图像、图像流等数据可存储在存储装置130中,并且可从存储装置130加载到存储器120中,其可在该存储器处由控制器105处理。在一些实施方案中,可省略图1所示的部件中的一些部件。
输入设备135可为或可包括例如鼠标、键盘、触摸屏或触摸板或任何合适的输入设备。应当认识到,任何合适数量的输入设备可操作地连接到计算设备100,如框135所示。输出设备140可包括一个或多个监视器、屏幕、显示器、扬声器和/或任何其他合适的输出设备。应当认识到,任何合适数量的输出设备可操作地连接到计算设备100,如框140所示。任何适用的输入/输出(I/O)设备可连接到计算设备100,例如有线或无线网络接口卡(NIC)、调制解调器、打印机或传真机、通用串行总线(USB)设备或外部硬盘驱动器可包括在输入设备135和/或输出设备140中。
本发明的实施方案可包括一个或多个制品(例如,存储器120或存储装置130)诸如计算机或处理器非暂态可读介质或者计算机或处理器非暂态存储介质,诸如例如存储器、磁盘驱动器或USB闪速存储器,它们编码、包括或存储指令,例如计算机可执行指令,这些指令在被处理器或控制器执行时执行本文所公开的方法。
可使用包括诸如图1中的处理器等的多个计算机系统:例如,胶囊、接收器、基于云的系统和/或用于显示图像的工作站或便携式计算设备可包括图1的部件。包括诸如图1中的部件的云平台(例如,远程服务器)可接收规程数据诸如图像和元数据,处理并生成研究,并且还可显示该研究以供医生复查(例如,在工作站或便携式计算机上执行的网页浏览器上)。“内部部署(on premise)”选项可使用医疗设施的工作站或本地服务器来存储、处理和显示图像。
根据本公开的某个实施方案,用户(例如,医师)可通过复查例如自动地选择为可能感兴趣的图像的静态图像(例如,由可吞服胶囊捕获)的显示来建立他或她对案例的理解。案例可为例如在胶囊内窥镜穿过患者的胃肠道(GIT)或其一部分(例如,小肠和/或结肠)期间捕获的图像。静态图像可显示于一个或多个屏幕中并且可布置成各种布局(例如,布置成矩阵,布置成行,布置成列和/或布置在GIT或其部分的图示之中或之上)。根据一些实施方案,静态图像的显示可为默认研究显示或研究模式或视图。根据一些实施方案,这些图像仅以静态方式显示(与图像流或视频相反)。用户可例如通过在一个或多个图像之间(例如,在图像组之间)滚动来在静态图像(例如,以静态方式显示的图像)之间浏览。在一些实施方案中,静态图像可水平地显示以模拟GIT的细长结构。这种显示可减轻医师的复查任务。可由用户预先确定或预先选择同时显示的静态图像的数量。在一些实施方案中,可由用户更改同时显示的图像的数量。在一些实施方案中,同时显示的图像的数量可介于三至七个图像之间。
根据本公开的一些实施方案,按照案例显示来自所捕获的图像的相对较小数量的图像以供用户复查。所谓“相对较小数量”意指与当前方法相反,最多大约数百或至少处于平均值,该当前方法显示通常按照案例包括数千个图像(例如,约6,000个图像)的图像视频流。在一些实施方案中,仅显示至多几百个图像以供用户复查。在一些实施方案中,为供用户复查而显示的图像的数量至多为约1,000(即,按照案例低于2,000个图像)。
浏览静态图像(例如,以静态方式显示的图像)可允许用户对每个图像和/或每个图像组(或阵列)的显示的时间和方式具有更多控制,而不同于观看或复查图像的视频流(例如,电影)。不同于观看或复查数千个图像的视频流,浏览相对较少量的静态图像可显著减轻用户的复查过程,减少按照案例的读取时间并且可得出更佳的诊断。
可尤其通过利用按照案例提供高灵敏度(例如,通过提供识别感兴趣图像的高概率)以及高特异性(例如,通过提供识别不感兴趣的图像的高概率)的选择或决策方法来实现要按照案例或研究显示和复查的仅相对较小数量的图像的选择。根据一些实施方案,可通过利用现有技术方法(诸如深度学习方法)来执行图像选择。
在根据本公开的一些实施方案中,可显示涉及胶囊内窥镜检查规程的附加信息(例如,除所选择的图像之外)。附加信息可按照默认显示(例如,显示于默认屏幕中)或可为可选的并且按照用户的请求或在用户的动作或输入之后显示。
在一些实施方案中,附加信息可涉及当前显示的图像或当前显示的图像组。例如,用户可指示当前显示的静态图像或多个静态图像以接收涉及所指示的图像的附加信息。附加信息可包括例如以下的一者或多者:在所指示的图像周围或与所指示的图像相邻的一个或多个图像;所指示的图像内的感兴趣区域的指示;和/或所指示的图像疑似或被识别为(例如,以一定级别的确定性)包括的病变和/或任何其他感兴趣结构或特征的类型和/或大小。
在一些实施方案中,案例(例如,在胶囊一次穿过患者或规程期间从患者拍摄的一组图像)的显示可包括可根据用户输入和设置来单独或一起显示的信息的两个级别或类别:第一级(例如,“级别一”),其包括在默认情况下显示所选择的静态图像以供用户复查的默认显示(例如,研究默认视图的主要视图);和第二可选级(例如,“级别二”),其包括附加信息的显示并且可按照用户的请求或在用户的动作之后显示。
(例如,默认研究视图的)默认或第一或主要屏幕或显示可包括案例的“第一级”图像,这些图像可能已被自动地选择为感兴趣图像,例如(以一定级别的确定性)示出病变的图像。在一些实施方案中,如果多个图像被识别为捕获特定病变(例如,溃疡),则可仅选择那些图像中的一个图像来呈现在默认或主要屏幕中(例如,第一级图像)。其他特征或结构可被识别为与病变分开的感兴趣结构(例如,某个解剖结构或异物、异常、它们的组合等)。用户可从第一级中选择图像并且“激活”该图像以观看与第一级所选择的图像相关的第二级的图像。例如,如果用户从第一级显示中选择(例如,点击或悬停或以其他方式指示)溃疡的图像,则在第二级中,例如用户可在该溃疡的其他图像(可先于和/或跟随所选择的图像)之间滚动。
在一些实施方案中,(例如,经由控件)显示的选项或相对于第一级对焦图像(例如,由用户选择的图像)的第二级或类别信息的显示可经由单独窗口或屏幕(例如,弹出窗口)执行。通常,这种单独窗口或屏幕将在用户请求或动作时出现,例如在接收到与附加显示级或类别有关的用户输入时出现。在一些实施方案中,第一级对焦图像与其相关联的第二级图像一起显示于单独视图(例如,单独窗口或屏幕)中。单独窗口或屏幕可提供更多屏幕区域来显示对焦图像和其相关联的第二级信息。
在一些实施方案中,第二级信息和/或用于显示第二级信息的控件可呈现于相同初始或默认屏幕中:例如,允许用户输入请求第二级显示或在显示该第二级之后控制该第二级的GUI项,其中第二级显示可与第一级显示一起出现于例如相同屏幕或显示区域中或专用屏幕或显示区域中。在此类实施方案中,不需要或不显示单独窗口或屏幕来呈现第二级信息。通过将第二级信息与第一级或默认信息一起提供于相同屏幕或窗口中,这允许用户保持在上下文中,因此可促进并改善复查过程。
在一些实施方案中,第二级信息可包括附加图像。还可从所捕获的图像的所接收的系列或组中选择附加图像。在一些实施方案中,第二级信息可包括在第一级上显示且由用户指示的一个或多个静态图像周围的多个图像。可根据相对于所指示的图像的捕获时间的其捕获时间和/或根据相对于所指示的图像的位置的其沿着所成像的GIT部分的位置来选择周围图像。在一些实施方案中,与第一级所指示的图像最相邻的预先确定数量的图像可显示于第二级中。在一些实施方案中,第二级显示可包括所指示的第一级图像以及在所指示的第一级图像周围或大约在所指示的第一级图像的捕获时间捕获的图像的显示。在一些实施方案中,例如在估计第一级中的两个图像相邻地定位在所成像的GIT部分中的情况下,可针对第一级的两个或更多个图像来组合第二级显示。在一些实施方案中,附加图像和所指示的图像可在第二级中显示为静态图像和/或显示为移动图像(例如,显示为视频剪辑、移动图像序列或电影)。
在根据本公开的一些实施方案中,静态图像可以以局部化方式例如连同提供GI道内的图像的捕获位点的位置的位置信息一起显示。在一些实施方案中,被选择用于显示的所有图像可以以局部化方式显示。在一些实施方案中,图像的局部化可仅按照用户的请求提供(例如,作为第二级信息的一部分)。通常,用户请求或用户选择或用户模式更改或其他输入被接收为计算设备处的输入(例如,如图1所示,经由输入设备)。在一些实施方案中,仅由用户选择为感兴趣图像的图像(例如,由医师识别为描绘结肠规程中的息肉的图像)以局部化方式显示。发现或病变的局部化可提供重要信息,其可影响例如治疗决策或所提供的治疗。因此,例如,所识别的息肉的位置可确定是否应执行乙状结肠镜检查或结肠镜检查以摘除息肉并且可在这样做时指导医师。
可将所成像的GIT部分分成多段。例如,可例如根据美国专利公布2019/0244351(其全文以引用方式并入本文)中公开的方法或其他已知方法将小肠分成长度相等的三段。可例如基于http://www.cs.technion.ac.il/~cs234313/projects sites/S18/12/site/(其全文以引用方式并入本文)中公开的方法将结肠分成例如五个解剖段:盲肠、升结肠或右结肠、横结肠、降结肠或左结肠或左结肠-乙状结肠和直肠,或分成由脾曲分隔的两个解剖段。图像(例如,第一级图像、第二级图像或两者)的显示可包括每个图像定位在哪段中的指示。在一些实施方案中,可指示每个图像在一段内的位置。在一些实施方案中,可在图像中指示所识别的感兴趣区域(例如,图像中的所识别的感兴趣特征)或其位置(例如,图像内的位置)。例如,轮廓可界定所识别的区域,或箭头可指示图像中的所识别的区域的位置。可通过已知的位置估计方法来确定图像沿着所成像的GIT部分的位置。例如,可基于胶囊设备穿过受试者的GIT的进程的计算机化评估来确定图像沿着所成像的GIT部分的位置。这种计算机化评估可基于例如授予Krupnik等人并转让给本申请的共同受让人的名称为“用于检测体内成像设备的运动模式的系统和方法(System and method for detecting motionpatterns of in vivo imaging devices)”的美国专利8,792,691中公开的方法和系统或其他已知方法。
一般来讲,可例如基于不同解剖段之间的胶囊内窥镜穿行的识别来执行GIT向多个解剖段的划分。可例如基于机器学习技术来执行这种识别。
在一些实施方案中,可显示表示至少整个所成像的GIT部分或其区段的标测图。标测图可包括所选择的图像(例如,第一级图像和/或第二级图像)的指示。因此,标测图可向用户提供所成像的GIT部分或其区段的关于疑似区域或可能感兴趣的区域、其范围(例如,其沿着GIT的长度的发生情况)和/或其分布的概览。可由该系统自动地估计或生成范围,并且将范围直观地(例如,标测图上的长度的指示)或用数字(例如,范围的尺寸,诸如按百分比计)呈现给用户。用户可使用标测图来在所选择的图像之间导航。在一些实施方案中,标测图可呈条的形式或呈与GIT的形式类似的形式。在一些实施方案中,所选择的图像的指示可呈热图的形式,即GIT的全部或一部分的抽象的表示,诸如根据其沿着GIT的位置来显示所选择的图像的条。“热”可指用于在标测图上传送信息的颜色,诸如分配给沿着条表示某些图像的线的颜色。不同颜色可表示例如不同类型的图像,诸如第一级或第二级的图像。这种热图或条可包括指示GI部分的分割的线(例如,用不同颜色着色)等。标测图的着色区段可提供关于那些区段的某些信息。系统或GUI可接收标测图中的图像指示或位置的用户选择,并且作为响应,显示由用户选择的图像或位置指示表示的图像或涉及标测图指示的图像的附加信息。
标测图中的所选择的图像的指示可根据其沿着所成像的GIT部分的估计位置。在一些实施方案中,可在标测图中指示所成像的GIT部分的各段。在一些实施方案中,可(例如,通过对该段进行着色或高亮显示)在标测图中指示当前显示的段(即,当前显示的图像定位的段)。可基于其时间顺序来在标测图中指示所选择的图像。在一些实施方案中,可在标测图中指示对焦图像。用户可从标测图中选择要显示的图像或要聚焦的图像。
在一些实施方案中,标测图可包括沿着由标测图表示的GIT部分识别的感兴趣特征或结构的类型的指示。这些指示可为例如表示特征的类型(例如,出血、溃疡或息肉)的图标。
在一些实施方案中,标测图和/或图形表示可显示于所选择的图像上方和/或屏幕的顶部区段上。这种顶部显示可促进经由标测图在所选择的图像中导航(例如,将不需要用户移动其视线(例如,降低其视线)以查看标测图)。
可由本发明的实施方案提供或显示的清洗或清洁级可描述通常在检查规程(诸如胶囊内窥镜检查)前的“准备”之后相对于内容物、粪便和食物残渣的肠的清洗级,该准备规程旨在清洗GI道以免受到此类视觉遮挡。结肠清洗级的已知标准包括4级(可使用其他数量的级别或标准)。也存在评估小肠的清洗的若干方法;在一个实施方案中,结肠的清洗标准可用于描述小肠的清洗级。
在一些实施方案中,附加信息可包括图像的清洗级的指示或图形表示,其提供GIT的所成像的部分的清洗级的指示。可针对所捕获的图像序列的每个图像或仅针对所选择的图像的每个图像和/或针对所成像的GIT部分的每段和/或针对整个所成像的GIT部分来(例如,由诸如图1中的系统自动地)估计或确定清洗级。一般来讲,所成像的GIT部分可包括诸如可使GIT的组织模糊的内容物(例如,GIT中天然存在的可使成像模糊的物质)和/或气泡之类的物质。然后可分析这些图像以检测此类遮挡性要素。可向每个图像分配评分,该评分指示图像中检测到的清洗级。在一些实施方案中,清洗级可以以图表或条(例如,颜色条)的形式呈现。在一些实施方案中,清洗级图形表示可显示于标测图下方或标测图上方并且以对应方式显示。在一些实施方案中,可确定一些类别,诸如低清洗级、中清洗级和高清洗级,并且可根据这些类别来确定图像的清洗级。
在一些实施方案中,可(例如,由如图1所示的系统)自动地确定并向每个图像或每个所选择的图像和/或段和/或规程分配评分,该评分可反映GIT的所成像的区段(例如,结肠)的粘膜覆盖度。这一事项的规程可为在由特定患者在特定时间实例处吞服后特定胶囊所捕获的一组图像。例如,这种评分可反映这些图像捕获了GIT区段的多少(例如,按百分比计)组织(粘膜)。这种评分可基于例如估计或确定的清洗级、内容物、气泡、胶囊转运时间、胶囊速度和/或胶囊动力学。该评分可向医师或查看者提供关于规程的适当性的信息。可作为清洗级的补充或替代来提供该评分,并且可以以如上文相对于清洗级的显示所述的类似方式显示该评分。可在默认情况下或在请求时,在所选择的图像的复查之前、在这些图像的复查期间和/或之后向用户提供该评分。
在一些实施方案中,附加信息可包括所捕获的图像系列中的图像序列,该所捕获的图像系列被识别为包括所成像的GIT部分的解剖段或解剖区段之间的穿行。这种穿行可为例如从胃到小肠的穿行、从小肠到结肠的穿行或从结肠到患者身体外部的穿行。在一些实施方案中,附加信息可仅包括这种图像序列的表示(例如,这些图像的概要)。在一些实施方案中,该图像穿行序列的表示可包括颜色条。这种穿行表示可允许用户更仔细地复查所成像的GIT部分的不同解剖区段之间的穿行。在一些实施方案中,图像穿行序列或此类序列的表示可在用户请求时或在用户动作(例如,悬停在此类穿行的指示上方)后显示于例如表示所成像的GIT部分的标测图中。在一些实施方案中,这种解剖穿行可为要在第一级图像或所选择的图像子集中识别和表示的感兴趣特征。例如,单个图像可被选择为表示图像子集中的穿行(例如,第一级图像),并且与图像子集中的所选择的图像相关联的该一个或多个图像(例如,第二级图像)可以是被选择为表示该穿行的附加图像。
在一些实施方案中,可提供在图像中自动地识别和/或由用户在图像中指示的特征、病变或任何其他发现(诸如息肉)的自动大小估计。可作为附加信息(例如,第二级信息)和/或在用户请求时且不在默认情况下提供自动大小估计。在一些实施方案中,可在默认情况下提供感兴趣区域及其大小估计的指示。根据一些实施方案,自动大小估计可基于已知的大小估计方法,该已知的大小估计方法例如基于用户输入来提供大小估计。用户输入可指示如图像中所示的待测量的特征的至少一个尺寸,例如,例如由用户所指示的两个或更多个图像像素表示的长度或直径。此类方法可见于美国专利9,412,054和9,911,203,这些专利全文以引用方式并入本文;可使用其他已知方法。为了生成完整自动大小估计,则可生成用户输入的自动估计。例如,通过对图像中的所识别的感兴趣特征进行分段并且选择彼此相距最远的分段特征的两个边缘点或两个周边点。在一些实施方案中,用户可校正或替换自动选择的两个点并且基于用户所提供的输入来接收大小估计。
在一些实施方案中,可在胶囊内窥镜检查规程期间生成自动期中报告。这种自动期中报告可基于例如直至一定时间为止捕获的图像和/或基于GIT的所成像的部分的一定所识别的解剖区域的图像和/或基于特定发现(例如,有意义发现诸如大出血或需要摘除的息肉)的图像。可例如在自患者吞服胶囊内窥镜检查设备以来或自已识别胶囊内窥镜检查设备已到达解剖标志(例如,小肠的起点或结肠的起点)以来已经过预先确定的时间段之后生成期中报告。作为另一个示例,一旦已识别胶囊内窥镜检查设备已到达一定解剖标志或一旦识别一定病变或事件(诸如出血或息肉),就可生成期中报告。然后可将期中报告提供给指定的医师。
自动期中报告可包括被选择为表示所接收的图像流组和/或特定发现的图像。在某个实施方案中,自动期中报告还可包括如本文所公开的附加信息。在一些实施方案中,自动期中报告可包括对特定发现的指示、诊断的建议和/或疗法或治疗行动方案的建议或推荐。
在一些实施方案中,根据不同实施方案的供医疗专业人员复查的自动期中报告或期中研究(其实时地指示可能需要医疗干预(诸如外科手术或微创规程)的所识别的病变或任何其他发现)的生成可允许在无延迟的情况下例如立即或在胶囊内窥镜检查规程刚结束或不久之后执行这种规程。在一些情况下,例如在大出血的情况下,可需要立即医疗干预。然而,即使当所需的医疗规程不紧急时(例如,在识别需要摘除的息肉的情况下),期中报告也可允许将患者为胶囊内窥镜检查规程执行的禁食和/或肠准备用于所需的医疗规程,例如通过在同一天执行结肠镜检查。同一天的结肠镜检查例如对于患者可更方便且不那么困难,患者将不必接受两次准确。
可例如通过利用诸如分布式计算、非集中式计算和/或云计算的技术来促进实时和在活动规程期间的自动期中报告或期中研究的生成。在一些实施方案中,自动期中报告或期中研究可包括涉及估计或确定的清洗级或涉及直至该阶段为止的规程的适当性的评分,如本公开中所述。在决定执行随后的医疗规程(例如,同一天的结肠镜检查)的情况下,可由医师使用此类信息来向患者提供关于准备和/或饮食的说明和/或更改向患者提供的说明。
在加以必要的变更的情况下,实施方案可应用于静态图像和/或移动图像(例如,视频)的显示。在一些实施方案中,根据本文所公开的系统和方法包括在研究中的附加信息可包括诊断的建议和/或疗法或治疗行动方案的建议或推荐。此类建议可基于由和根据本文所公开的系统和方法执行的处理和分析,并且可基于相关护理标准。
在一个实施方案中,为供用户复查而显示的感兴趣图像的选择在两个阶段中执行。在第一阶段中,(例如,由诸如图1中的计算设备)自动地选择来自所捕获的图像系列的多个感兴趣图像并且例如按矩阵、网格或其他布局向用户显示该多个感兴趣图像。所选择的图像可以以局部化方式例如连同提供GIT内的图像的捕获位点的位置的位置信息一起显示。在第二阶段中,用户可(例如,通过提供用户输入)从自动选择的图像中选择图像以接收关于所选择的图像(例如,对焦图像)的附加信息的显示。附加信息可包括自动选择的附加图像。然后可使用图像的用户选择来生成或填充整个案例的标测图或报告。
图2示出了最初向查看者或用户呈现(例如,作为研究的默认显示的默认屏幕)的第一屏幕,例如默认屏幕。查看者可在所成像的GIT部分的各个区域或段之间导航,这些区域或段在图2的示例中是小肠的三个三分位。每个三分位可被表示为该示例性屏幕上的三个选项卡210之一。当例如通过用户点击图2中显示的GUI中的相应选项卡210来选择段或小肠三分位时,例如按屏幕的中心区域处的矩阵布局220向用户显示自动地选择的涉及该三分位的图像206。在该示例中,每个三分位表示胶囊穿过小肠的穿行时间的三分之一。在一些实施方案中,每个三分位可表示小肠的长度的三分之一的估计。在一些实施方案中,可基于沿着小肠的标志的检测来解析这些三分位。用户可点击或以其他方式指示按钮202以在报告屏幕与第一视图之间切换。可显示对于小肠或其他GIT区段的估计进入和离开时间204。
在一些实施方案中,用户可在级别一显示和级别二显示之间切换。例如可通过点击级别一中示出的图像来切换到级别二显示。当例如在显示在GUI上时通过用户点击图像来选择特定图像时,该图像的更大版本显示于屏幕的“附加信息”(例如,第二级)区域230中。附加信息显示的每个图像可对应于默认视图中的一个第一级图像,例如通过示出该第一级图像所示的相同特征或病变。用户可在“附加信息”或第二级区域中查看涉及图像206中的所选择的图像的附加信息,诸如捕获的时序在所选择的图像之前或之后的附加静态图像或包括在所选择的图像周围的图像(例如,在所选择的图像之前或之后的一些图像或在所选择的图像之前或之后几秒捕获的图像)的短剪辑(例如,移动图像序列或电影)。在图2中,第二级图像显示于第一级图像的相同显示视图中。用户还可将所选择的图像识别为感兴趣图像或以其他方式标记所选择的图像以便包括在案例报告中,例如通过点击可位于主要显示区域中的所选择的图像上的专用复选框208。该屏幕上的附加功能可供用户使用,诸如向所选择的图像添加标记(例如,经由用户将信息输入到GUI)或注释的选项。
诸如图2的示例中的屏幕或显示可包括热图或其他信息呈现240,其可包括例如以图形形式显示每个段或三分位的信息的图形表示。当用户选择感兴趣图像时,可在与该段内的所选择的图像的位置相对应的位置处的相应段的图形表示或标测图上添加指示(诸如垂直线242)。诸如242的指示和其他图中所示的类似指示可为根据其在GIT中的位置或估计位置来表示图像的局部化的图像指示或标记物。用户执行的该第二阶段选择可与如上所述报告的图像的用户选择分开或结合起来。因此,在一些实施方案中,在用户选择图像来填充标测图之后,他可随后执行图像的另一个选择以包括在报告中。在其他实施方案中,用户选择来填充标测图的图像也可为将包括在报告中的图像。
在图2的示例性显示中,如果一个段或三分位的自动选择的图像的数量高于适合中心显示区域的图像的数量,则向上和向下滚动可供用户使用。图2的示例中,可(例如,由蓝色帧)高亮显示用户选择的用于在“附加信息”区域中显示的图像并且还可同时高亮显示热图区域上的相应标记。
图3示出了示例性屏幕截图。在一些实施方案中,基于图像的用户选择来生成的标测图或案例图310可显示于例如单独屏幕中,如图3的示例中所示。在图3的示例中,案例图310是具有各种标记、时标和其他符号312的细长条,该细长条以图形形式示出该案例的受试者(例如,其GIT由胶囊进行成像的人)的GIT。该标测图可包括整个案例或基本上整个案例(包括整个所成像的GIT部分(其在图3中仅是整个GIT的一部分))的示例性表示。在图3的示例中,显示整个展开小肠的图形表示,但整个案例的其他示例性图形表示也是可能的。在一些实施方案中,示例性图形表示可包括与相关段的解剖特征类似或暗指相关段的解剖特征的元素314。例如,图3中的表示包括沿着胃肠道的先前和后续器官的指示(例如,在小肠表示的相应相对端处显示的胃和结肠的图像)。
另选地,该屏幕可显示更示意性地表示这些段的标测图。
可使用单独标记来描绘单独段,诸如小肠的三个三分位。在图3中的示例中,这些标记是垂直虚线316,它们处于小肠图形表示的起点和终点并且沿着该表示处于相同距离。
用户所选择的图像可由标测图上的标记表示。此处,例如,这些标记是完全垂直的线312并且用户可通过例如点击这些标记或悬停在这些标记上来访问相应图像。
图3的标测图屏幕或显示还可包括估计或确定的清洗级的图形表示或指示,例如相应段的自动测量的清洁级的评分,和/或该段中的胶囊穿行期间的图像质量的指示。在本文其他图中示出了清洗级的类似指示。可例如基于覆盖有内容物或以其他方式不显示相应器官的组织壁的图像帧的部分或百分比的自动估计来计算清洗评分。在该屏幕截图中,清洗级被表示为包括图表的条320。清洗级条还包括水平虚线322,该水平虚线可表示阀值级,其可帮助用户评估任何给定点处的清洗级是否高于或低于该阈值。该阈值可为例如平均值或适当值的极限。
图3所示的标测图可显示于与第一级图像的屏幕或显示(如图2所示)分开的屏幕中或与所选择的图像一起显示。
在一个实施方案中,可自动地选择来自所捕获的图像系列的图像。包括自动选择的图像的指示的标测图最初向用户显示或在默认情况下显示(例如,预先填充的标测图)。该标测图包括所成像的器官的自动识别的区域或段的标记。然后用户可访问他或她可能希望探究的标测图的区域的更详细呈现。
在一个实施方案中,向用户呈现整个案例,例如GIT的整个感兴趣部分(例如,整个SB或整个结肠)的图形表示(例如,标测图)。例如,可向用户呈现小肠的整个扩展的图形表示,该图形表示例如基于胶囊内窥镜进入小肠中、其从小肠离开的自动识别以及其间的穿行时间的测量来分成三个三分位。在一些实施方案中,GIT部分的划分可基于胶囊内窥镜检查设备所穿越的长度的估计。这种图形表示上的标记(例如,呈完全垂直的线的形式)可指示可为或很可能为感兴趣图像的自动选择的图像,例如第一级图像或所选择的图像子集中的图像。可在标测图上识别扩散性发现(例如,可包括邻近的感兴趣图像分组或多个感兴趣图像的器官的区域)。在这种实施方案中,扩散性发现可被显示为条,这些条具有比感兴趣图像标记更浅的阴影并且从图像分组的起点的相应位置延伸到其终点的相应位置。
图4示出了显示有附加信息的示例性屏幕或显示。在相同屏幕中,用户可例如通过点击标测图502上的相应标记510或悬停在该相应标记上来提供输入,由此查看所选择的图像。当用户例如通过点击在标测图的显示区域中显示的相应标记510或缩略图512来选择图像时,相同图像的更大版本530可显示于“附加信息”区域540中(例如,此处,在屏幕的左下角中)。然后用户可查看来自器官的相应段的附加图像或包括在所选择的图像之前或之后捕获的图像(例如,在所选择的图像周围的图像)的短剪辑。其他功能可供用户使用,诸如注释或标记向所显示的图像的添加或对要包括在报告中的图像的选择。将器官划分成多段的标记504(例如,三分位划分标记)可显示于其在该区段的图形表示上的相应位置中。
图5示出了放大操作之后的图5的示例性屏幕。在一些实施方案中,用户可输入“放大”命令以引起系统(例如,工作站)放大整个标测图502的某区域或区段,从而查看来自该相应区段的所选择的图像组。(例如,对应于)相应区段的所选择的图像可在相应区域的图形表示上显示为缩略图522的例如按时间排序的系列、网格、列表520等。用户还可使用该标测图的缩小表示540(如在图5的示例中例如在屏幕的右上角中示出)来在该标测图的区段或子区域之间导航(例如,通过向GUI提供输入)。
在一些实施方案中,用户可编辑该标测图,例如通过经由GUI来提供输入以例如在用户确定相应图像不是感兴趣图像的情况下引起过程去除所选择的图像的标记。
在完成复查之后,用户可引起过程继续显示报告生成屏幕,其中用户可复查为该报告选择的图像,例如由用户选择为感兴趣图像的图像。
在一个实施方案中,在默认视图模式下,自动选择的图像可以以静态方式显示于屏幕的一侧的列布局中,例如屏幕的右侧上的垂直列。用户可选择图像以显示于图像显示区域中,例如屏幕的左侧上。每个所选择的图像可与图像内的所识别的感兴趣区域的指示(例如通过用特定颜色对感兴趣区域进行着色)一起显示。该显示可包括涉及感兴趣区域的识别的复选框。然后用户可识别感兴趣区域并且相应地勾选适当的复选框(例如,出血、溃疡或其他)。GIT的整个感兴趣部分或其区段的标测图或热图也可显示于例如图像显示区域下方。该标测图可包括所选择的图像的指示并且也可由用户用于在这些图像之间导航。
在一个示例性实施方案中,可基于两个信息级别来执行图像的复查。可在默认视图模式下呈现第一级信息,并且可在用户请求(例如,接收到由诸如图1所示的系统执行的过程的对GUI的用户输入)时或在用户动作后显示第二级信息。默认视图模式可包括(例如,由诸如图1所示的系统)从GIT或其一部分(例如,小肠)中捕获的图像系列自动地选择的图像的显示。GIT的所成像的部分被分成多个段(例如,SB被分成三个段/三分位,或结肠被分成五个解剖部分或段)。所选择的图像以静态方式根据其所定位的段来显示。用户可浏览这些静态图像。默认视图模式还可包括整个所成像的GIT部分的标测图的显示,该标测图指示各段并根据它们在各段内的估计位置来指示所选择的图像。在一些实施方案中,该标测图的默认显示可仅包括所显示的图像所定位的段。在一些实施方案中,用户可向过程提供输入以引起表示所成像的GIT部分的区段的、该标测图的区段的放大(例如,所显示的图像的大小的扩大)。
第二级信息可包括所选择的图像周围的附加图像的显示并且可与第一级图像单独地显示(例如,显示于弹出窗口或屏幕中)。默认视图或显示(例如,第一级信息)还可包括第二级信息中显示的所成像的GIT部分的区段的指示。默认视图还可包括GIT部分中捕获的图像系列的清洗级的指示。第二级信息中显示的周围图像可以以静态方式显示和/或显示为视频剪辑、短电影或移动图像。
图6A和图6B提供了所显示和分析的小肠的案例的示例。
图6A示出了根据所公开的实施方案的默认视图模式的示意图。图6B是根据一个实施方案的图6A的默认视图模式下的标测图(例如,条)的示意图。
根据图6A和图6B所示的实施方案,默认视图700可包括一组静态图像712的同时显示,该组静态图像仅包括一些图像(例如,四个图像),因此允许用户仔细并清楚地复查所显示的图像。该组图像可按行710布局显示,因此模拟GIT的布局,或按另一种布局显示。这些图像可基本上显示于该视图的中心中。用户可例如经由用户输入来在所显示的图像组中的各图像之间移动焦点(例如,主要或最大显示)或在各图像组之间滚动。每段(例如,每个三分位)中的所选择的图像可被分成此类图像组并且根据其时间顺序(例如,根据其捕获时间)来显示。可在视图中指示当前显示的图像组属于的三分位。
作为图6A和图6B所示的示例,默认视图可包括位于例如屏幕的底部中的标测图740。标测图740可呈条或行或线格式的形式,并且可包括表示信息类型(在一个示例中,图6B中指示为741、742和743的三种信息类型)的子行(例如,三行)。示例性标测图是整个小肠的标测图。该标测图可被垂直虚线747分成多个区段,诸如三个三分位745。该标测图还可包括结肠的一部分。可由如图6A和图6B所示的不同颜色的垂直线760和/或光标762(例如,由蓝线760和光标762)在该标测图中指示对焦图像。对焦图像的帧也可呈不同颜色(例如,呈蓝色,如图6A和图6B所示)。用户还可接收是否已经在第二级信息中复查一个帧的指示。因此,例如,已经在第二级中复查的图像的帧还可改变其颜色,例如从黑色改变为灰色。
图6B中的第一子行741包括指示沿着所成像的GIT部分(此处包括小肠)定位的所选择的图像的热图。所选择的图像被指示为特定颜色(例如,灰色)的垂直线770并且沿着条并根据其沿着小肠的估计位置来定位。用户可向表示图像的线提供输入(例如,鼠标悬停在该线上)以接收该图像的缩略图(例如,缩小图像)的显示及其捕获时间的指示。可用不同颜色对条的部分进行着色以指示感兴趣的解剖区域,如例如图6A和图6B所示(例如,被提供为指示小肠的近侧和远侧区域的估计的浅蓝色区域)。在热图的终点,可尤其显示GIT的下一解剖部分(此处为结肠)的至少一个图像,以展示对整个小肠或感兴趣GIT部分进行了成像并且已完成该规程。这些图像的线指示可在用户复查这些图像后改变其颜色(例如,改变为橙色)。
第二子行742可包括对所成像的GIT部分(此处为小肠)的各区段的指示,它们的图像将显示于第二级信息中。这些区段可由指示780(诸如灰色矩形)指示。每个矩形(例如,第二级区段)可包括和/或涉及第一级的一个或多个所选择的图像,如可在图6A和图6B中看出。这是两个或更多个第一级所选择的图像彼此相对邻近的情况。
第三子行743可包括沿着例如小肠指示所捕获的图像的清洗级的图表。可根据级别值来对该图表进行着色,例如当值(例如,清洗)相对较低时,可将该图表着色为红色。
如图6A和图6B所示,还可指示所成像的GIT部分的不同解剖区段例如胃(Gastro)至SB(例如,胃至小肠)和/或SB至结肠之间的穿行。该穿行可在该标测图中的相关段的指示(例如,虚线)上方指示,并且可包括穿行时间。任选地,小颜色条可显示于相关段的指示上方,从而表示所识别的穿行区域中捕获的一系列图像。用户可向颜色条提供输入(例如,悬停)并且复查穿行图像。颜色条可仅表示所识别的穿行区域的图像的样本。
如图6A所示的图像可不同;例如可以以矩阵形式显示所选择的图像,因此可同时显示更多图像。用户可请求例如使用其他视图显示模式代替图6A的视图模式。根据这种另选视图,每个三分位的图像可显示于单独矩阵中,例如单独选项卡中。用户可在每个三分位中的图像之间滚动。
图7示出了根据图6A所示的显示来选择的图像的第二级(例如,研究)信息的显示或视图的示例性图示。
可根据本发明实施方案通过在默认情况下显示所选择的图像912的弹出窗口910来实现第二级信息。窗口/显示/视图可显示所选择的图像周围的图像子系列(例如,为在所选择的图像之前或之后的若干图像,或在所选择的图像之前或之后若干秒捕获)。用户可使用输入设备(诸如鼠标滚轮)引起过程以静态方式滚动(例如,按序列或时间向前和向后移动)图像或他可引起过程将图像子系列显示为视频剪辑。标测图920可显示于图像显示区域下方。
根据图7中的示例,该标测图可包括第一级中的默认视图的标测图的第一子行的一部分,该部分表示所成像的GIT部分的相关段。表示第二级的图像子系列的区段可用颜色(例如橙色)指示。附加第二级标测图可呈现于第一级标测图的部分上方,其包括第二级图像子系列中包括的第一级显示的所选择的图像的指示。当这种图像(例如,第一级所选择的图像)显示于该第二级数据弹出窗口的图像显示区域中时,其在该第二级标测图中指示(例如,由正方形指示;在所示的示例中,相关正方形用蓝色着色并且蓝色光标位于该标记上方)。
表示包括第二级图像的区段的第一级标测图的一部分可显示于图像显示区域下方。所选择的图像在该标测图中指示,并且复查中的第一级所选择的图像例如通过用不同颜色对图像线指示进行着色来指示。
在一个实施方案中,可通过水平地(例如,以转盘方式)浏览这些图像来从所选择的图像组或“堆”中一次选择一个图像。表示所成像的GIT部分并指示所选择的图像的热图可显示于例如图像显示区域上方。所显示的每个图像可例如通过连接该图像及其在热图或标测图上的点或表示的线来引用到其在热图中的指示。
一个实施方案可从所选择的图像组或堆中一次显示一个图像。用户可通过以下方式查看单个图像:使用输入控件(例如,鼠标、滚轮等)向GUI提供输入以引起在这些图像中垂直地滚动,从而一次选择一个图像。表示所成像的GIT部分并指示所选择的图像的热图或其他标测图可显示于例如图像显示区域旁边。所显示的每个图像可例如通过将该图像连接到相关热图或标测图位置或图像指示的连接线来引用到其在热图中的指示。
默认视图模式(例如,研究的默认视图的主要视图)可包括表示所成像的GIT部分并指示所选择的图像的热图的显示。这些图像可根据其在所成像的GIT部分中的估计位置来定位在热图中。所选择的图像可显示于图像显示区域中。所选择的图像可按照用户的请求或在用户的动作之后以静态方式显示或作为包括附加相关图像的视频剪辑的一部分显示。用户可悬停或点击例如热图上的图像指示以接收例如图像的缩略图和/或静态显示和/或剪辑。
图8A描绘了根据一个实施方案的可选视图模式的屏幕截图或显示。在图8A所示的实施方案中,第一级或所选择的图像子集中的图像可以以滑块方式或“转盘方式”1300显示并且使得一个图像1302更明显地显示于中心,而其他图像1304以随离主要中心图像1302的距离递减的大小显示于侧边,由此用户输入(例如,对屏幕边缘处的箭头1310,或使用鼠标滚动条)引起“旋转”,使得该视图中的其他图像1304中的另一个图像移动到中心而变成中心图像1302。具有清洗1326和其他附加信息的标测图1320可显示于第一级图像转盘显示1300(通常上方)。
第二级图像可显示于第一级的相同窗口中,因此可能不需要激活另一个窗口。用户可例如悬停在该图像上或点击该图像,该图像便“被激活”或变成“对焦的”,如图8A所示。例如,用户可向GUI提供输入以切换到级别二,并且中心图像1302可按与级别一中的一个中心图像所表示的特定实例相关或相关联的所有图像(例如,第二级图像)的视频或图像流或以静态方式显示的“可滚动”图像序列查看。
在该实施方案中,静态图像(例如,自动预先选择的图像)以转盘形式1300水平地显示。在图8A中的特定示例中,同时显示五个图像。中心图像1302是对焦的图像。之后,通常同时显示的图像数量通常是奇数个图像。在一些实施方案中,可同时显示各种奇数个图像。这些图像可以以转盘方式显示,从而允许用户在这些图像之间水平地浏览并使得没有图像隐藏另一图像。这些图像的大小根据其在显示转盘1300中的位置来改变。中心图像1302(其是对焦图像)为最大的。其他图像1304的大小相对于其离中心图像的接近度来改变。图像离中心图像1302越近,其就越大。这种布局可允许用户仔细并更清楚地复查一个图像,与此同时复查并接收关于相邻或周围图像的信息。此类视图可允许相邻图像之间的比较,同时仍然详细显示对焦图像。
条或标测图1320(例如,热图)可描绘整个所成像的GIT部分或其区段的表示。图8A中显示的示例性显示是小肠的显示。标测图1320显示于这些图像的显示上方并在屏幕的顶部区域上。因此,该标测图表示小肠并且(例如,由垂直虚线1322)分成三个三分位。该标测图可包括关于所显示的图像沿着所成像的GIT部分的位置和/或所显示的图像和/或所捕获的图像和/或所成像的GIT部分的清洗级的信息。该标测图可包括呈现不同信息的两个或更多个子行。对焦图像可例如由连接线1324在该标测图中指示,如图8A所示。在一些实施方案中,所有当前显示的图像可(例如,由符号或线或连接线)在该标测图中指示。
在本发明实施方案中,标测图1320包括两个子行1326和1328。第一子行1326可包括关于所捕获的图像的清洗级的信息。在本发明实施方案中,清洗级以图表的形式呈现并且可以以颜色条的形式呈现(如图10中)。不同颜色指示不同清洗级类别,诸如:低、中和高。第二子行1328可包括条,所选择的图像在该条上根据其沿着GIT的所成像的部分的估计位置来指示(例如由垂直线指示)。
此外,根据本发明实施方案,第二级信息呈现于相同初始或默认屏幕(例如,研究视图的主要或默认屏幕)中。对焦图像(例如,中心图像1302)与附加控件1308一起示出,这些附加控件允许用户例如在作为第二级显示的所选择的图像周围的图像之间滚动。滚动条可指示周围图像相对于对焦图像的编号。例如,对焦图像可被指示为“0”,下一右侧图像被指示为“1”,再下一右侧图像被指示为“2”,以此类推。在对焦图像之前的图像(即,下一左侧图像)可被指示为“-1”,该图像之前的图像被指示为“-2”,以此类推。因此,用户可相对于与初始所选择的图像1302相关的距离和方向(在图像和时间上)进行取向。此外,文本框可显示于对焦图像下方,从而允许用户输入信息,诸如所识别的病变类型和注释。在一些实施方案中,一旦图像被选择为对焦图像和/或一旦用户将图像布置为中心图像1302(例如,通过滚动)或一旦用户悬停在对焦图像上、点击对焦图像或在任何其他用户动作时,第二级控件和/或数据就可出现(例如,在图像下方)。
图8B描绘了图8A所示的图像1300的矩阵布局。
图9A是根据本公开的一个实施方案的默认视图模式的示例性屏幕。图9B是在图9A的显示中选择的图像的第二级信息的显示或视图的示例性屏幕截图。
在该实施方案中,为复查而显示的案例是结肠的案例。在如图9A所示的默认屏幕(例如,研究视图的默认屏幕)中,(例如,由图像选择过程自动地)从规程期间捕获的图像流中选择的图像以矩阵1400形式显示。结肠可被分成五个解剖段:盲肠、升结肠、横结肠、降结肠-乙状结肠和直肠。所显示的所选择的图像可根据这五段来局部化(例如,与局部化信息一起显示)并逐段显示-例如,图像可不以特定位置局部化,而是通过被指示为位于这五个结肠段之一内或另一个GIT段或类别中来局部化。每段的图像可显示于专用显示区域中,并且用户可通过选项卡在各段的显示之间切换。图9A所示的特定屏幕示出了被识别为在降结肠-乙状结肠段中捕获的图像。由用户选择为要包括在报告中的图像的图像可由例如蓝色帧1410指示。可向用户显示附加信息1420。此类附加信息可为(图9B):指示显示哪段的结肠的图示;患者相关详情;规程日期;GIT的相关区域(此处为结肠前区和结肠)中的规程时间;以及研究是否完整(在所示的示例中,胶囊是否到达结肠的终点)。可基于相关标志的识别来确定此类规程时间和完整性指示,这些相关标志诸如为:穿行或进入到结肠和排出体外。
可在用户请求时显示另外的信息,例如第二级信息。例如,用户可点击所显示的图像以打开弹出窗口1450,该弹出窗口在默认情况下显示该图像并且允许附加信息的复查,如图9B所示。根据本发明实施方案显示或可能显示(例如,在用户请求时)的附加信息可包括在胶囊内窥镜检查包括多于一个相机的情况下图像中的感兴趣区域(例如,息肉的区域或由胶囊的哪个头部捕获该图像)的自动指示。感兴趣区域的指示可例如通过分割该区域和/或通过箭头指向这种区域。感兴趣区域(例如,疑似息肉)的自动识别和指示可向医师提供指导并且改善诊断,例如息肉的检测。
图10描绘了根据图标1010的样本显示(在一个实施方案中,为一堆图像的描绘,其附近的数量“3”对应于用户所选择的三个图像1032)。所选择的图像1032可包括在窗口或对话框1030内。用户可点击或选择(例如,使用鼠标向GUI输入)图标1010,系统可引起窗口1030出现,包括用户勾选或选择的图像。然后用户可以以相邻或行方式一次性全部复查勾选的图像1032。
在另一个实施方案中,系统可在另一个视图或显示中显示一定数量的最相关或疑似图像(例如,“前X个最疑似的图像”,例如5或10个最相关图像)。此类视图可为用户提供第一快速指示,并且可有益于例如结肠筛查。在结肠筛查上下文中,用户可希望确定是否存在息肉(息肉可指示患癌的可能性以及结肠镜检查的需要)。可在另一个选项卡或窗口中添加该视图。
自动息肉(或其他特征)大小估计功能可响应于用户的请求而计算息肉的直径、长度或其他大小估计并提供其指示。可通过例如测量所识别的息肉周边中的两个点之间的最大距离来自动计算息肉或特征的大小。用户可选择其他点来测量息肉的大小并且过程可根据用户的选择来计算该大小。例如,特征或息肉的显示可包括息肉的定界框,使得息肉位于该框内。可显示定界框中的线(其表示所测量的长度),并且可例如在该线附近显示或呈现该大小。在用户认为自动选择的点不准确的情况下,用户可改变该线的两个终点中的每个终点的位置。自动息肉大小估计或任何其他感兴趣特征的一个优点是标准化。例如,当前方法基于手动用户输入(例如,定义息肉的长度的点)或根据手动估计来确定息肉大小,并且一个或多个不同用户的输入可提供或引起对相同息肉的不同大小估计。
在一些实施方案中,可按照图像、按照段和/或按照规程来显示清洗级或其他数据。
在一些实施方案中,可提供选项以在每段中首先呈现最疑似的图像(例如,在矩阵视图中)或通过另一种方法(例如,通过星号)呈现。
在一些实施方案中,标测图中的感兴趣GIT部分的表示还可指示第二级图像,而不仅仅指示第一级图像。因此,例如,还可表示疾病和病变的范围。
在一些实施方案中,为了提供研究的个性化,可按照患者调节或确定该研究的参数(例如,将在第一级/第二级中包括多少图像;将选择该研究的多少图像来表示所研究的GIT部分的一定段;用于选择要包括在该研究中的图像的阈值等)。在一些实施方案中,这种调节可手动地执行,例如通过用户执行规程或转诊医师输入数据来进行。在一些实施方案中,例如基于患者的信息或详情(包括患者的病史),这种参数选择可为自动的,或其至少一部分可为自动的(例如,对待确定的一些参数的自动调节)。在自动调节中,可利用自然语言处理(NLP)算法或基于机器学习的工具,诸如亚马逊公司(Amazon)所提供的ComprehendMedical系统。此类工具可使自由文本可互操作和可搜索。然后系统可使用患者的医学背景来调节该研究。例如,如果系统在患者(例如,案例)的自由文本中识别患者具有息肉家族史,则与没有息肉病史的健康患者相比,该系统可修改该研究或呈现以具有更多图像(例如,以增加该研究的灵敏度)。
在一些实施方案中,可集成语音转文字或自动语音识别系统(例如,亚马逊公司(Amazon)的“Transcribe”)以例如通过以下方式显著缩短自由文本的报告时间:允许用户在复查图像的同时开始使用语音转文字“撰写”报告。语音转文字的使用可减少点击或其他手动用户输入的需要。例如,用户可说话并且基于“向我显示图集中的一张溃疡照片”来采取动作;从而允许该系统采取该动作而无需点击或用户手动输入(例如,以显示可通过关键描述符搜索并用作将研究图像与参考图像比较的查看辅助的典型疾病图像的图集)。语音转文字可允许“聊天机器人(chatbot)”辅助系统GUI,使得用户可向系统询问问题并且让系统查找“FAQ”或其他储存库中是否存在足够类似的问题,并提供答案。
在一些实施方案中,系统可显示感兴趣GIT部分中的过渡区段。例如,作为颜色条的替代,表示来自每一侧的过渡区段(例如,胃和SB的结肠)的图像可例如在研究的第一级或默认视图处呈现或提供(并在该标测图中指示),该研究具有包括过渡(区段之间)图像的第二级显示。在一些实施方案中,过渡图像(例如,指示GI区段之间的过渡的图像)可相应地在用户输入之后,例如在用户点击指示胃或结肠的图标之后,在所显示的标测图的每个终点处显示。这种解剖过渡图像可包括被识别为位于解剖过渡(例如,从SB到结肠)附近的多个图像。过渡图像的显示的一个选项可为将每个过渡的一个图像包括在图像子集(例如,第一级图像)中,然后该多个图像将该过渡表示为该一个或多个对应图像(例如,第二级图像)。然后图像子集中的图像可出现在感兴趣部分之外的标测图中(例如,在两个终点中)。另一个选项是将此类图像表示于感兴趣部分的两个终点处的标测图上方的小颜色条中,或通过让用户点击该部分的终点处的图标(例如,结肠研究中的SB图标和马桶图标)来接收包括这些图像的显示的窗口或屏幕。
在一些实施方案中,研究的默认视图可示出图像子集的矩阵显示,以允许用户首先快速复查第一级图像。然后用户可切换到该研究的另一个视图,例如如其他地方描述的“转盘显示”。例如,点击矩阵显示中的图像将启动其他研究视图的显示,包括图像子集的转盘显示,并且其中所点击的图像是转盘的中心图像(例如,一种放大视图)。这可能在该研究包括相对较多图像(例如,几百个图像)时最有利。在一些实施方案中,矩阵视图还可包括第二级图像和/或其他附加信息的显示。
在一些实施方案中,机器学习、人工智能或AI可用于自动地识别、局部化癌前结肠息肉和小肠病变或其他特征并确定其大小。实施方案可使用或执行充当某些特征或病变诸如NLH(结节性淋巴样增生)、溃疡、血管扩张、糜烂、血液、病灶或炎性狭窄的“检测器”的模块。
可在用户复查之后基于复查期间的用户输入来生成报告。
图11示出了根据本发明的实施方案的方法的流程图。图11中的操作可使用如图1所示的系统,但可使用其他系统。
在操作1100中,受试者或患者可吞服或咽下可吞服胶囊,例如包括一个或多个成像仪或成像设备(例如,数字成像仪或相机)、发射器以及其他单元(诸如电源和天线)。
在操作1110中,胶囊可(例如,通过受试者的自然蠕动)穿越受试者的GIT或GIT的一部分,从而(例如,经由无线电发射器)将图像传输到外部接收器。
在操作1120中,胶囊所传输的图像可由外部接收器接收(但可使用其他传输图像的方法)、记录并处理。可使用装备的各种组合来接收和存储这些图像。
在操作1130中,在一个实施方案中,可例如由一个或多个处理器使用例如第一选择方法来自动识别或选择一组感兴趣图像。每个感兴趣图像可示出自动识别的不同特征或病变。可创建图像组,每个组包括一个感兴趣的第一级图像以及不在感兴趣的第一级中但示出与该组的一个对应第一级图像相同的特征的对应图像组。每个第一级图像可被识别为该组中的“最具代表性”图像。
在操作1140中,第一级图像可在监测器或显示设备上的研究默认视图的主要或默认视图(例如,无需开始这种显示的任何用户输入或命令)中显示为静态(例如,非视频)图像。第一级图像可为体内图像流中的图像子集。用户可复查第一级图像。第一级图像子集可表示所接收的图像流。
在操作1150中,用户可提供并且系统或GUI可接收输入以显示第二级图像,其中可在显示设备或监视器上显示与图像子集中的当前显示的图像相对应的一个或多个附加图像。例如,可显示与所选择或点击的第一级图像相对应的组中的图像。该组中的该一个或多个附加图像可能已根据第二选择方法自动地从所接收的体内图像流中选择。该第二选择方法可基于该体内图像流中的图像与该当前显示的图像之间的关系。
在操作1160中,在一个实施方案中,用户可改变第二级图像的显示;例如,引起这些图像显示为移动图像,或例如使用滚轮以静态方式在该图像组中向前和向后移动。该研究可以以例如转盘模式、矩阵模式或另一种模式显示。
在操作1170中,可生成或向用户显示报告。该报告可包括来自所显示的图像的由用户选择的图像以及可能其他信息,诸如由用户插入的注释。
可使用其他或不同操作。
实施方案可改进胶囊内窥镜检查规程的技术,特别是研究生成、医学图像显示和医疗诊断的技术,因此还可提高医疗专业人员诊断信息并且提供更佳和更有效的治疗的能力。例如,可通过提供系统来改进医学图像处理和显示技术,该系统允许医生更快速地查找、查看和分析GIT中的感兴趣区域,并且提供与现有医疗技术相比可支持和改善医生决策的自动分析。例如,在现有GIT成像系统中,医生可能被迫查看冗长的视频。另外,不提供感兴趣特征的自动识别、局部化和/或大小确定。
尽管在以上附图中已经示出了本公开的若干实施方案,但是本公开不旨在限于此,因为本公开旨在与本领域所允许的范围那样宽泛,并且旨在同样宽泛地阅读说明书。因此,以上说明不应理解为限制性的,而是仅作为具体实施方案的例示。
应当清楚的是,上面针对根据本公开的实施方案描述和/或附图中示出的大多数原理、元件和特征不限于与之结合来描述/示出这些原理、元件和特征的实施方案,并且在加以必要的变更的情况下,可以以本领域技术人员认为适当的任何组合独立地应用于彼此或应用于根据本公开的任何其他实施方案。

Claims (55)

1.一种用于显示胶囊内窥镜检查规程的研究以供用户复查的方法,其中所述胶囊内窥镜检查规程包括捕获受试者的GIT的至少感兴趣部分的体内图像流,所述方法包括使用一个或多个硬件处理器执行以下操作:
在显示设备上显示所述体内图像流中的图像子集以供所述用户复查,其中所述图像子集表示所捕获的体内图像流,并且其中根据第一选择方法从所述体内图像流自动地选择所述图像子集;
在接收到用户输入时,在所述显示设备上显示与所述图像子集中的当前显示的图像相对应的一个或多个附加图像,其中根据第二选择方法从所述体内图像流自动地选择所述一个或多个附加图像,并且其中所述第二选择方法基于所述体内图像流中的图像与所述当前显示的图像之间的关系;以及
生成报告,所述报告包括来自所显示的图像的由所述用户选择的图像。
2.根据权利要求1所述的方法,其中所述图像子集以静态方式显示于所述研究的默认显示中。
3.根据权利要求1所述的方法,其中所述图像子集的所述显示包括同时显示所述子集中的多个图像,其中所述多个图像由所述胶囊内窥镜检查规程中使用的胶囊设备的单个成像设备捕获。
4.根据权利要求3所述的方法,其中所述子集中的所述同时显示的多个图像以转盘或矩阵的布局显示。
5.根据权利要求3所述的方法,其中所述子集中的所述同时显示的多个图像以水平转盘的布局显示并且使得没有图像覆盖另一图像。
6.根据权利要求3所述的方法,其中所述子集中的所述同时显示的多个图像以水平转盘的布局显示并且使得中心图像的大小大于其他同时显示的图像的任何大小。
7.根据权利要求1所述的方法,其中所述第二选择方法依据的所述关系选自:被识别为包括相同特征的至少一部分的图像、被识别为包括相同类型特征的至少一部分的图像、在相近时间捕获的图像、沿着所述受试者的GIT的所述至少部分相邻地局部化的图像以及它们的组合。
8.根据权利要求7所述的方法,其中所述特征是胃肠(GI)道中的感兴趣特征。
9.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器执行以下操作:
根据所述第一选择方法选择所述图像子集;以及
对于所述图像子集的至少一部分中的每个图像,根据所述第二选择方法从所述体内图像流选择所述一个或多个对应附加图像。
10.根据权利要求1所述的方法,其中所述一个或多个附加图像包括所选择的图像子集中不包括的所述图像流中的至少一个图像。
11.根据权利要求1所述的方法,其中所述一个或多个附加图像仅包括所选择的图像子集中不包括的所述图像流中的图像。
12.根据权利要求1所述的方法,其中所述第二选择方法依据的所述关系对所述图像子集中的不同图像产生不同对应一个或多个附加图像。
13.根据权利要求1所述的方法,其中所述一个或多个附加图像以静态方式显示于所述研究的默认显示中。
14.根据权利要求1所述的方法,其中所述一个或多个附加图像显示于与所述对应当前显示的图像相同的窗口中。
15.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器来显示标测图,所述标测图表示所述受试者的GIT的至少所述感兴趣部分并且至少对应于所选择的图像子集,其中所述标测图包括局部化的图像指示,所述局部化的图像指示根据其沿着所述受试者的GIT的所述至少感兴趣部分的估计位置来表示所述图像子集中的所述图像。
16.根据权利要求15所述的方法,其中所述图像子集中的当前显示且对焦的所述图像的所述指示被高亮显示。
17.根据权利要求15所述的方法,所述方法还包括使用所述一个或多个硬件处理器执行以下操作:
接收所述标测图中的图像指示的用户选择;以及
显示由所选择的图像指示表示的所述图像。
18.根据权利要求1所述的方法,其中所述图像子集以矩阵布局显示于所述研究的默认显示中。
19.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器来在用户输入时显示从所述图像子集自动地选择的预定义数量的图像,其中根据第三选择方法从所述图像子集选择所述预定义数量的图像。
20.根据权利要求19所述的方法,其中根据所述第三选择方法,选择所述图像子集中的估计最感兴趣的图像。
21.根据权利要求1所述的方法,其中至少所述第一选择方法基于深度学习技术。
22.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器来显示疑似包括感兴趣特征的至少一部分的所显示的图像中的位置的指示。
23.根据权利要求1所述的方法,其中:
将所述受试者的GIT的所述至少感兴趣部分分成多段;以及
根据所述段使所述图像子集中的图像沿着所述受试者的GIT的至少所述感兴趣部分局部化,并且
所述方法还包括使用所述一个或多个硬件处理器来显示对所述图像子集中的所述当前显示的图像所定位的所述段的指示。
24.根据权利要求23所述的方法,所述方法还包括使用所述一个或多个硬件处理器根据所述段来显示所述图像组。
25.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器来显示所捕获的图像流中的图像的估计清洗级的指示。
26.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器执行以下操作:
估计所显示的图像中识别的特征的大小;以及
显示所述估计大小的指示。
27.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器执行以下操作:
估计所述图像子集中识别的特征沿着所述GIT的所述至少感兴趣部分的范围;以及
显示对所述估计范围的指示。
28.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器来在用户输入时显示从所述体内图像流选择的多个图像,所述多个图像表示从所述GIT的所述至少感兴趣部分的一个解剖区段到另一个解剖区段的过渡。
29.根据权利要求1所述的方法,所述方法包括显示所述研究,其中除所述图像子集和与所述子集中的图像相对应的所述附加图像之外,所述研究不包括所捕获的体内图像流中的任何图像。
30.根据权利要求1所述的方法,所述方法还包括使用所述一个或多个硬件处理器基于用户输入来过滤所述图像子集的所述显示。
31.根据权利要求1所述的方法,其中根据所述第一选择方法,
选择被识别为包括感兴趣特征的图像。
32.根据权利要求31所述的方法,其中所述感兴趣特征选自:病变、异物、异常、解剖特征以及它们的组合。
33.一种方法,所述方法包括使用至少一个硬件处理器执行以下操作:
接收图像子集,所述图像子集自动地从经由胶囊内窥镜检查规程捕获的受试者的GIT的至少感兴趣部分的体内图像流中选择,其中基于第一选择方法来选择所述图像子集中的所述图像;
在显示设备上以静态方式显示所述自动选择的图像子集;
在接收到用户输入时,显示关于所述自动选择的图像子集中当前显示的图像的附加信息;和
生成报告,所述报告包括来自所显示的图像的由所述用户选择的图像。
34.根据权利要求33所述的方法,其中所述附加信息包括根据第二选择方法从所述体内图像流自动地选择的一个或多个附加图像。
35.根据权利要求33所述的方法,其中所述图像子集的所述显示包括同时显示所述子集中的多个图像,其中所述多个图像由所述胶囊内窥镜检查规程中使用的胶囊设备的单个成像设备捕获。
36.根据权利要求34所述的方法,其中所述一个或多个附加图像包括所选择的图像子集中不包括的所述图像流中的至少一个图像。
37.根据权利要求33所述的方法,其中所述一个或多个附加图像显示于与所述对应当前显示的图像相同的窗口中。
38.根据权利要求33所述的方法,所述方法还包括使用所述一个或多个硬件处理器来显示标测图,所述标测图表示所述受试者的GIT的至少所述感兴趣部分并且至少对应于所选择的图像子集,其中所述标测图包括局部化的图像指示,所述局部化的图像指示根据其沿着所述受试者的GIT的所述至少感兴趣部分的估计位置来表示所述图像子集中的所述图像。
39.根据权利要求33所述的方法,其中:
将所述受试者的GIT的所述至少感兴趣部分分成多段;并且
根据所述段使所述图像子集中的图像沿着所述受试者的GIT的至少所述感兴趣部分局部化,并且
所述方法还包括使用所述一个或多个硬件处理器来显示对所述图像子集中的所述当前显示的图像所定位的所述段的指示。
40.根据权利要求33所述的方法,所述方法还包括使用所述一个或多个硬件处理器来显示所捕获的体内图像流中的图像的所述清洗级的指示。
41.根据权利要求33所述的方法,其中根据所述第一选择方法,选择被识别为包括感兴趣特征的图像。
42.一种用于生成胶囊内窥镜检查规程的研究以供用户复查的方法,其中所述胶囊内窥镜检查规程包括捕获受试者的GIT的至少感兴趣部分的体内图像流,所述方法包括使用一个或多个硬件处理器执行以下操作:
根据第一选择方法从所捕获的体内图像流选择图像子集,其中所选择的图像子集表示所捕获的体内图像流;
对于所述图像子集的至少一部分中的每个图像,根据第二选择方法从所述体内图像流选择一个或多个对应附加图像;以及
生成所述胶囊内窥镜检查规程的所述研究,其中所述研究包括所选择的图像子集和附加信息,并且其中所述附加信息包括与所述图像子集的至少一部分中的每个图像相对应的所选择的一个或多个附加图像。
43.根据权利要求42所述的方法,所述方法还包括使用所述一个或多个硬件处理器来在显示设备上显示所述研究以供用户复查。
44.根据权利要求43所述的方法,其中所述研究的所述显示包括:
在显示设备上显示所选择的图像子集;
在用户输入时,在所述显示设备上显示与所述图像子集中的当前显示的图像相对应的所述一个或多个附加图像。
45.根据权利要求42所述的方法,其中除了与所述图像子集中的图像相对应的所述附加一个或多个图像之外,所述研究的所述生成还包括生成附加信息,所述附加信息选自:所述GIT的至少所述感兴趣部分向多段的划分;所述图像流中的图像沿着所述GIT的至少所述感兴趣部分的位置;表示所述GIT的至少所述感兴趣部分的标测图,包括所述图像子集中的图像沿着所述GIT的至少所述感兴趣部分的指示;根据第三选择方法从所述图像子集中选择的多个图像;图像中的感兴趣特征的指示;清洗级的指示;感兴趣特征的估计大小的指示;感兴趣特征的范围的指示;所述体内图像流中表示所述GIT的至少所述感兴趣部分的解剖区段之间的过渡的图像的选择;以及它们的组合。
46.根据权利要求42所述的方法,其中所述第二选择方法依据的所述关系选自:被识别为包括相同特征的至少一部分的图像、被识别为包括相同类型特征的至少一部分的图像、在相近时间捕获的图像、沿着所述受试者的GIT的所述至少部分相邻地局部化的图像以及它们的组合。
47.根据权利要求42所述的方法,其中所述一个或多个附加图像包括所选择的图像子集中不包括的所述图像流中的至少一个图像。
48.根据权利要求42所述的方法,其中所述一个或多个附加图像仅包括所选择的图像子集中不包括的所述图像流中的图像。
49.根据权利要求42所述的方法,其中所述第二选择方法依据的所述关系对所述图像子集中的不同图像产生不同对应一个或多个附加图像。
50.根据权利要求42所述的方法,其中至少所述第一选择方法基于深度学习技术。
51.根据权利要求42所述的方法,其中根据所述第一选择方法,选择被识别为包括感兴趣特征的图像。
52.根据权利要求42所述的方法,其中所述第一选择方法和所述第二选择方法各自包括一个或多个选择规则。
53.一种用于显示胶囊内窥镜检查规程的研究以供用户复查的系统,其中所述胶囊内窥镜检查规程包括捕获受试者的GIT的至少感兴趣部分的体内图像流,所述系统包括:
一个或多个处理器;
非暂态存储设备,所述非暂态存储设备上存储有指令,所述指令在被所述处理器执行时引起所述处理器执行根据权利要求1至41中任一项所述的方法;和
显示设备,所述显示设备被配置为显示所述研究。
54.一种用于生成胶囊内窥镜检查规程的研究以供用户复查的系统,其中所述胶囊内窥镜检查规程包括捕获受试者的GIT的至少感兴趣部分的体内图像流,所述系统包括:
一个或多个处理器;
非暂态存储设备,所述非暂态存储设备上存储有指令,所述指令在被所述处理器执行时引起所述处理器执行根据权利要求42至52中任一项所述的方法。
55.根据权利要求54所述的系统,所述系统进一步被配置用于执行所述胶囊内窥镜检查规程,所述系统还包括胶囊设备,所述胶囊设备包括至少一个成像设备,所述至少一个成像设备被配置为在所述胶囊设备穿越所述患者的GIT的所述至少感兴趣部分时捕获所述体内图像流,其中所捕获的体内图像流提供给所述非暂态存储设备,并且其中所述非暂态存储设备进一步被配置为接收和存储所提供的体内图像流。
CN201980075047.5A 2018-10-19 2019-10-19 用于生成和显示体内图像流的研究的系统和方法 Pending CN113015476A (zh)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201862747786P 2018-10-19 2018-10-19
US62/747,786 2018-10-19
US201962807018P 2019-02-18 2019-02-18
US62/807,018 2019-02-18
US201962849508P 2019-05-17 2019-05-17
US62/849,508 2019-05-17
PCT/IL2019/051133 WO2020079696A1 (en) 2018-10-19 2019-10-19 Systems and methods for generating and displaying a study of a stream of in vivo images

Publications (1)

Publication Number Publication Date
CN113015476A true CN113015476A (zh) 2021-06-22

Family

ID=70283916

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980075047.5A Pending CN113015476A (zh) 2018-10-19 2019-10-19 用于生成和显示体内图像流的研究的系统和方法

Country Status (6)

Country Link
US (1) US20210345865A1 (zh)
EP (1) EP3866667A4 (zh)
JP (2) JP2022505154A (zh)
KR (1) KR20210086647A (zh)
CN (1) CN113015476A (zh)
WO (1) WO2020079696A1 (zh)

Families Citing this family (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111936032B (zh) * 2018-04-13 2024-03-26 富士胶片株式会社 图像处理装置、内窥镜系统及图像处理方法
CN112789083A (zh) 2018-10-05 2021-05-11 美敦力公司 心脏快速性心律失常的多层预测
US11694804B2 (en) 2019-05-06 2023-07-04 Medtronic, Inc. Reduced power machine learning system for arrhythmia detection
US11776691B2 (en) 2019-05-06 2023-10-03 Medtronic, Inc. Machine learning based depolarization identification and arrhythmia localization visualization
US20200352466A1 (en) 2019-05-06 2020-11-12 Medtronic, Inc. Arrythmia detection with feature delineation and machine learning
US11723577B2 (en) * 2019-05-06 2023-08-15 Medtronic, Inc. Visualization of arrhythmia detection by machine learning
US11475998B2 (en) 2019-05-06 2022-10-18 Medtronic, Inc. Data preparation for artificial intelligence-based cardiac arrhythmia detection
US11583687B2 (en) 2019-05-06 2023-02-21 Medtronic, Inc. Selection of probability thresholds for generating cardiac arrhythmia notifications
US11423318B2 (en) * 2019-07-16 2022-08-23 DOCBOT, Inc. System and methods for aggregating features in video frames to improve accuracy of AI detection algorithms
US10671934B1 (en) 2019-07-16 2020-06-02 DOCBOT, Inc. Real-time deployment of machine learning systems
USD991279S1 (en) * 2019-12-09 2023-07-04 Ankon Technologies Co., Ltd Display screen or portion thereof with transitional graphical user interface
USD991278S1 (en) * 2019-12-09 2023-07-04 Ankon Technologies Co., Ltd Display screen or portion thereof with transitional graphical user interface for auxiliary reading
CN115769306A (zh) 2020-05-01 2023-03-07 吉温成像有限公司 用于选择事件标志图像的系统和方法
JP2023540579A (ja) 2020-09-08 2023-09-25 ギブン イメージング リミテッド ポリープの画像を識別するためのシステム及び方法
WO2022054049A1 (en) * 2020-09-08 2022-03-17 Given Imaging Ltd. Systems and methods for polyp size estimation
EP3977909A1 (en) * 2020-09-30 2022-04-06 ENSEA - Ecole Nationale Supérieure de l'Electronique et de ses Applications Device and method for producing a digital video classifier
US11100373B1 (en) 2020-11-02 2021-08-24 DOCBOT, Inc. Autonomous and continuously self-improving learning system
GB2615477A (en) 2020-11-19 2023-08-09 Digestaid Artificial Intelligence Dev Lda Automatic detection of erosions and ulcers in Crohn's capsule endoscopy
US20230410295A1 (en) 2020-11-19 2023-12-21 Digestaid - Artificial Intelligence Development, Lda Automatic detection of colon lesions and blood in colon capsule endoscopy
US11948303B2 (en) * 2021-02-26 2024-04-02 Capsovision Inc. Method and apparatus for objective assessment of gastrointestinal conditions based on images captured in the GI tract
WO2022269603A1 (en) 2021-06-24 2022-12-29 Given Imaging Ltd. Systems and methods for assessing gastrointestinal cleansing
US20230036851A1 (en) * 2021-07-27 2023-02-02 International Business Machines Corporation Path planning
KR20230071409A (ko) * 2021-11-16 2023-05-23 주식회사 아이도트 캡슐 내시경 영상 판독 시스템
WO2023089718A1 (ja) * 2021-11-18 2023-05-25 日本電気株式会社 情報処理装置、情報処理方法、及び、記録媒体
WO2023153069A1 (ja) * 2022-02-09 2023-08-17 富士フイルム株式会社 医療画像装置、内視鏡システム、及び、診断書作成システム

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050075537A1 (en) * 2003-10-06 2005-04-07 Eastman Kodak Company Method and system for real-time automatic abnormality detection for in vivo images
US20050196023A1 (en) * 2004-03-01 2005-09-08 Eastman Kodak Company Method for real-time remote diagnosis of in vivo images
US20070066875A1 (en) * 2005-09-18 2007-03-22 Eli Horn System and method for identification of images in an image database
US20070078335A1 (en) * 2005-09-30 2007-04-05 Eli Horn System and method for in-vivo feature detection
US20070167715A1 (en) * 2005-12-05 2007-07-19 Toshiaki Shigemori Receiving device
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
US20090023993A1 (en) * 2007-07-18 2009-01-22 Tal Davidson System and method for combined display of medical devices
US20100094104A1 (en) * 2007-06-12 2010-04-15 Olympus Corporation In-vivo information acquiring device
WO2010082993A2 (en) * 2008-12-11 2010-07-22 Mc10, Inc. Systems, methods, and devices using stretchable or flexible electronics for medical applications
JP2013075244A (ja) * 2013-02-01 2013-04-25 Olympus Medical Systems Corp 画像表示装置、画像表示方法、および画像表示プログラム
US20160048637A1 (en) * 2013-08-30 2016-02-18 Olympus Corporation Image management apparatus
US20170119236A1 (en) * 2015-10-29 2017-05-04 Elwha Llc Lumen traveling device
US20170272699A1 (en) * 2016-02-01 2017-09-21 Megan Stopek Systems and methods for communicating with a fetus
WO2018112255A1 (en) * 2016-12-14 2018-06-21 Progenity Inc. Treatment of a disease of the gastrointestinal tract with an immunosuppressant

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4441464B2 (ja) * 2005-09-09 2010-03-31 オリンパスメディカルシステムズ株式会社 画像表示装置
US8900124B2 (en) * 2006-08-03 2014-12-02 Olympus Medical Systems Corp. Image display device
US8446465B2 (en) * 2010-01-05 2013-05-21 Given Imaging Ltd. System and method for displaying an image stream captured in-vivo
JP5972865B2 (ja) * 2010-04-28 2016-08-17 ギブン イメージング リミテッドGiven Imaging Ltd. 生体内画像の部分を表示するシステム及びその作動方法
US8792691B1 (en) * 2011-01-06 2014-07-29 Given Imaging Ltd. System and method for detecting motion patterns of in vivo imaging devices
JP7034102B2 (ja) * 2016-06-30 2022-03-11 ギブン イメージング リミテッド 対象の消化管における粘膜疾患の評価及び監視のためのシステム及び方法

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050075537A1 (en) * 2003-10-06 2005-04-07 Eastman Kodak Company Method and system for real-time automatic abnormality detection for in vivo images
US20050196023A1 (en) * 2004-03-01 2005-09-08 Eastman Kodak Company Method for real-time remote diagnosis of in vivo images
US20070066875A1 (en) * 2005-09-18 2007-03-22 Eli Horn System and method for identification of images in an image database
US20070078335A1 (en) * 2005-09-30 2007-04-05 Eli Horn System and method for in-vivo feature detection
US20070167715A1 (en) * 2005-12-05 2007-07-19 Toshiaki Shigemori Receiving device
US20100094104A1 (en) * 2007-06-12 2010-04-15 Olympus Corporation In-vivo information acquiring device
WO2009008125A1 (ja) * 2007-07-12 2009-01-15 Olympus Medical Systems Corp. 画像処理装置、該動作方法及び該プログラム
US20090023993A1 (en) * 2007-07-18 2009-01-22 Tal Davidson System and method for combined display of medical devices
WO2010082993A2 (en) * 2008-12-11 2010-07-22 Mc10, Inc. Systems, methods, and devices using stretchable or flexible electronics for medical applications
JP2013075244A (ja) * 2013-02-01 2013-04-25 Olympus Medical Systems Corp 画像表示装置、画像表示方法、および画像表示プログラム
US20160048637A1 (en) * 2013-08-30 2016-02-18 Olympus Corporation Image management apparatus
US20170119236A1 (en) * 2015-10-29 2017-05-04 Elwha Llc Lumen traveling device
US20170272699A1 (en) * 2016-02-01 2017-09-21 Megan Stopek Systems and methods for communicating with a fetus
WO2018112255A1 (en) * 2016-12-14 2018-06-21 Progenity Inc. Treatment of a disease of the gastrointestinal tract with an immunosuppressant

Also Published As

Publication number Publication date
JP2023171651A (ja) 2023-12-01
WO2020079696A1 (en) 2020-04-23
KR20210086647A (ko) 2021-07-08
WO2020079696A9 (en) 2020-07-30
EP3866667A4 (en) 2022-04-20
US20210345865A1 (en) 2021-11-11
EP3866667A1 (en) 2021-08-25
JP2022505154A (ja) 2022-01-14

Similar Documents

Publication Publication Date Title
CN113015476A (zh) 用于生成和显示体内图像流的研究的系统和方法
JP6215236B2 (ja) 生体内画像ストリーム中の運動性事象を表示するためのシステムおよび方法
TWI793337B (zh) 訓練生成對抗網路之系統及方法以及經訓練之生成對抗網路之使用
US8423123B2 (en) System and method for in-vivo feature detection
JP5972865B2 (ja) 生体内画像の部分を表示するシステム及びその作動方法
JP4740212B2 (ja) データストリームを表示するためのシステム及び方法
JP2015509026A5 (zh)
JP5927591B2 (ja) 症例表示装置、症例表示方法およびプログラム
KR102531400B1 (ko) 인공 지능 기반 대장 내시경 영상 진단 보조 시스템 및 방법
US20230206435A1 (en) Artificial intelligence-based gastroscopy diagnosis supporting system and method for improving gastrointestinal disease detection rate
JP2007105458A (ja) 画像データベースにおける画像の認識のためのシステム及び方法
Ebadi et al. Automated detection of pneumonia in lung ultrasound using deep video classification for COVID-19
KR102536369B1 (ko) 인공 지능 기반 위 내시경 영상 진단 보조 시스템 및 방법
Zhou et al. A convolutional neural network-based system for detecting early gastric cancer in white-light endoscopy
KR102637484B1 (ko) 인공지능 기반의 내시경 진단 보조 시스템 및 이의 제어방법
Phillips et al. Video capsule endoscopy: pushing the boundaries with software technology
US20230298306A1 (en) Systems and methods for comparing images of event indicators
KR20160115269A (ko) 건강검진 정보 제공 애플리케이션 및 시스템
CN118076315A (zh) 用于分析内窥镜检查过程的检查质量的计算机实现的系统和方法
KR100921655B1 (ko) 촬영 이미지에 대한 병증 소견 입력이 편리한 소화 기관의 이미지 프로세싱 시스템
KR20240079994A (ko) 민감도 설정이 가능한 인공지능 기반의 병변 검출 방법 및 장치
KR20220056710A (ko) 의료 영상 제공 방법 및 이를 이용한 디바이스

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination