CN117393117A - 用于审阅带标注医学图像的系统和方法 - Google Patents
用于审阅带标注医学图像的系统和方法 Download PDFInfo
- Publication number
- CN117393117A CN117393117A CN202311340460.4A CN202311340460A CN117393117A CN 117393117 A CN117393117 A CN 117393117A CN 202311340460 A CN202311340460 A CN 202311340460A CN 117393117 A CN117393117 A CN 117393117A
- Authority
- CN
- China
- Prior art keywords
- medical
- medical image
- annotation
- user interface
- graphical user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 83
- 238000012986 modification Methods 0.000 claims abstract description 33
- 230000004048 modification Effects 0.000 claims abstract description 33
- 238000012937 correction Methods 0.000 claims abstract description 18
- 238000012795 verification Methods 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 30
- 230000000007 visual effect Effects 0.000 claims description 18
- 210000000056 organ Anatomy 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 3
- 238000012552 review Methods 0.000 description 26
- 238000003384 imaging method Methods 0.000 description 16
- 230000000747 cardiac effect Effects 0.000 description 14
- 238000002595 magnetic resonance imaging Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 8
- 238000002372 labelling Methods 0.000 description 7
- 230000007246 mechanism Effects 0.000 description 7
- 238000012549 training Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 210000002216 heart Anatomy 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 5
- 230000003902 lesion Effects 0.000 description 5
- 238000002059 diagnostic imaging Methods 0.000 description 4
- 238000004374 forensic analysis Methods 0.000 description 4
- 230000004217 heart function Effects 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 206010038748 Restrictive cardiomyopathy Diseases 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 239000003814 drug Substances 0.000 description 2
- 210000005240 left ventricle Anatomy 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000000877 morphologic effect Effects 0.000 description 2
- 210000004165 myocardium Anatomy 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000007170 pathology Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 238000002604 ultrasonography Methods 0.000 description 2
- 238000010200 validation analysis Methods 0.000 description 2
- 208000031229 Cardiomyopathies Diseases 0.000 description 1
- 208000024172 Cardiovascular disease Diseases 0.000 description 1
- 208000002330 Congenital Heart Defects Diseases 0.000 description 1
- 206010052337 Diastolic dysfunction Diseases 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 210000003484 anatomy Anatomy 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 230000017531 blood circulation Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 239000000872 buffer Substances 0.000 description 1
- 210000005242 cardiac chamber Anatomy 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 230000001149 cognitive effect Effects 0.000 description 1
- 208000028831 congenital heart disease Diseases 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 229940079593 drug Drugs 0.000 description 1
- 238000013399 early diagnosis Methods 0.000 description 1
- 210000001174 endocardium Anatomy 0.000 description 1
- 238000005206 flow analysis Methods 0.000 description 1
- 238000011207 functional examination Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 210000003709 heart valve Anatomy 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000001727 in vivo Methods 0.000 description 1
- 238000010348 incorporation Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000005865 ionizing radiation Effects 0.000 description 1
- 208000028867 ischemia Diseases 0.000 description 1
- 238000009607 mammography Methods 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 210000003205 muscle Anatomy 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 210000003254 palate Anatomy 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000029058 respiratory gaseous exchange Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000004611 spectroscopical analysis Methods 0.000 description 1
- 238000009662 stress testing Methods 0.000 description 1
- 230000002861 ventricular Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/10—Text processing
- G06F40/166—Editing, e.g. inserting or deleting
- G06F40/169—Annotation, e.g. comment data or footnotes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/776—Validation; Performance evaluation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/70—Labelling scene content, e.g. deriving syntactic or semantic representations
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/03—Recognition of patterns in medical or anatomical images
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Primary Health Care (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Epidemiology (AREA)
- Public Health (AREA)
- Evolutionary Computation (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
公开了用于审阅带标注医学图像的方法和系统。该方法包括:接收其中包括一个或多个预先存在的标注的医学图像数据集。方法还包括:在给定的情况下经由第一图形用户界面显示一个医学图像,以及检测第一输入,第一输入包括对显示的一个医学图像中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注,并且包括用于至少一个修改的标注的参考以与其相关联。方法还包括:经由第二图形用户界面显示具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像,以及检测第二输入,第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。
Description
技术领域
所公开实施例的方面总体涉及医学成像,具体涉及用于审阅带标注医学图像的工作流程。
背景技术
心脏成像技术的进步使得可以获得完整心动周期的高分辨率图像。磁共振成像(MRI)正在成为心脏异常成像的有力工具。MRI已经成为一种无价的医学诊断工具,因为其能够获得身体的选定部分的高分辨率体内图像,而无需侵入或使用电离辐射。在这种成像中,主磁场被纵向地施加到细长的、通常为圆柱形的测量空间。MRI允许心脏结构的精确形态学表征。例如,从心脏图像提取轮廓特征可以用于计算目的,诸如当所提取的轮廓是心脏内壁(心内膜)时计算心室中血池的容积的度量,然后可以根据舒张末期位置和收缩末期位置的这种心室容积度量来计算射血分数。
使用来自MRI的动态图像的心脏功能和应变分析需要用户标注短轴和长轴数据上的舒张末期(ED)帧与收缩末期(ES)帧之间的切片图像上的大量图像帧,并且还定义长轴系列中的心脏结构的左心室的区域。这种医学图像的标注过程是极其困难和耗时的。该过程需要具有所需技能集合和培训的“专家”用户(诸如,包括放射科医师和肿瘤学家的医师、外科医生等)能够进行这样的标注,并且这些用户可能已经紧缺。为了减少或消除医学图像的人工标注,越来越多地采用涉及机器学习的基于AI的算法来计算初始结果,如果需要,随后可以由用户编辑(校正)初始结果;这显著地减少了需要的人力。
然而,如可以设想的,这样的基于AI的算法将首先需要大的带标注图像数据的集合用于其训练目的以实现某一期望准确度。现在,与生成其他类型的图像标注数据不同,标注大医学图像集合的任务的限制在于,由于用户为此目的所需的高技能水平和培训,这样的任务通常不能是众包的。话虽如此,在一段时间内,用户将期望人工标注的数据将引起算法的准确度提高。但是这种假设的一个问题是标注数据的质量。如可以理解的,涉及机器学习的基于AI的算法的输出严重依赖于训练数据的质量。
现在,为了确定医学图像数据是否被正确地标注,需要审阅标注的数据(这在大多数情况下是惯例)。本文中,如果第一用户发现任何一个或多个标注不正确,则他/她可以对预先存在的标注数据进行修改,并且其后通常第二用户(或相同的第一用户)可以审阅修改(作为第二意见)以便验证和确认。利用当前技术,现有的人工标注数据可以被加载回认知机器学习(CML)应用中,并且由用户(本文中是所述第一用户和第二用户)审阅。即,现有方法涉及将数据加载到工作流程中并人工地审阅所有帧。然而,对于用户而言,没有视觉引导来帮助他/她仅通过修改的标注进行导航。由此,这种审阅过程可能花费与重复标注过程本身一样多的时间,这是一种效率非常低的方法。存在一些其它已知的方法来解决这个问题,这些方法将原始轮廓点与新标注的点进行比较以生成一些指标。然而,该过程不能给出关于标注准确度的任何视觉反馈,并且该过程也没有集成到工作流程中,这使得监督者难以审阅例如由技师完成的标注。
鉴于前述讨论,需要用于心脏MR工作流程的高效方法,该方法将使审阅过程更有针对性并且减少所需的总审阅时间,从而使其更高效。通过将这样的系统与如在本申请的剩余部分中参考附图阐述的本公开的一些方面进行比较,常规和传统方法的另外限制和缺点对于本领域技术人员将变得显而易见。
发明内容
所公开实施例的方面提供了如结合至少一个附图大致示出和/或描述并在权利要求中更完整地阐述的用于审阅带标注医学图像的方法和系统。
在示例中,所公开实施例的方面提供了一种用于审阅带标注医学图像的方法。在一个实施例中,该方法包括:接收医学图像数据集,其中医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注。方法还包括:在给定的情况下经由第一图形用户界面显示来自医学图像数据集的一个医学图像。方法还包括:检测经由第一图形用户界面的第一输入,第一输入包括对显示的一个医学图像中的一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注,第一输入还包括用于至少一个修改的标注的参考以与其相关联。方法还包括:经由第二图形用户界面显示具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像。方法还包括:经由第二图形用户界面检测第二输入,第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。
在可能的实施形式中,医学图像数据集包括患者器官的医学扫描的时间序列。
在可能的实施形式中,方法还包括:基于作为医学扫描的时间序列的一部分的具有至少一个修改的标注和用于至少一个修改的标注的参考的一个医学图像,处理医学扫描的时间序列中的其他医学扫描,以确定一个医学图像中的至少一个修改的标注与医学扫描的时间序列中的其他医学扫描中的一个或多个预先存在的标注之间的相应相关性。方法还包括:基于所确定的相应相关性,自动修改医学扫描的时间序列中的其他医学扫描中的每个医学扫描中的一个或多个预先存在的标注中的至少一个预先存在的标注,以针对其定义至少一个自动修改的标注。方法还包括:针对医学扫描的时间序列中的其他医学扫描中的每个医学扫描自动生成用于至少一个自动修改的标注的参考,以与其相关联。
在可能的实施形式中,方法还包括:在给定的情况下经由第二图形用户界面显示具有至少一个自动修改的标注和用于至少一个自动修改的标注的相关联的自动生成的参考的医学扫描的时间序列中的其他医学扫描中的一个医学扫描。方法还包括:经由第二图形用户界面检测第三输入,第三输入包括对至少一个自动修改的标注的验证、校正或拒绝中的一个。
在可能的实施形式中,方法还包括:经由第二图形用户界面显示一个医学图像,其中以一种颜色显示医学图像中的一个或多个预先存在的标注,并且以不同的颜色显示医学图像中的至少一个修改的标注。
在可能的实施形式中,方法还包括:经由第一图形用户界面显示医学图像数据集中的各个医学图像的缩略图。方法还包括:经由第一图形用户界面检测第四输入,第四输入包括一个缩略图的选择。方法还包括:在给定情况下经由第一图形用户界面显示与选定的一个缩略图相对应的医学图像。
在可能的实施形式中,方法还包括:经由第二图形用户界面显示具有至少一个修改的标注的各个医学图像的缩略图、以及视觉指示符,该视觉指示符指示具有至少一个修改的标注的一个医学图像的所显示的缩略图是否具有与其相关联的至少一个修改的标注的参考。
在可能的实施形式中,视觉指示符为叠加在至少一个修改标注上的背景突出显示、工具提示、边框颜色、文本或图标中的一个或多个的形式。
在可能的实施形式中,用于至少一个修改的标注的参考为文本注释、音频注释或视频记录中的一个或多个的形式。
在可能的实施形式中,方法还生成总结报告,该总结报告包括针对医学图像数据集中的所有医学图像的至少一个修改的标注和用于至少一个修改的标注的相关联的参考的列表。
在另一示例中,所公开实施例的方面提供了一种用于审阅带标注医学图像的系统。在一个实施例中,该系统包括:存储器,其被配置为存储医学图像数据集,其中医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注。系统还包括处理装置,其被配置为:在给定的情况下经由第一图形用户界面显示来自医学图像数据集的一个医学图像;检测经由第一图形用户界面的第一输入,第一输入包括对显示的一个医学图像中的一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注,第一输入还包括用于至少一个修改的标注的参考以与其相关联;经由第二图形用户界面显示具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像;以及经由第二图形用户界面检测第二输入,第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。
在可能的实施形式中,医学图像数据集包括患者器官的医学扫描的时间序列。
在可能的实施形式中,处理装置还被配置为:基于作为医学扫描的时间序列的一部分的具有至少一个修改的标注和用于至少一个修改的标注的参考的一个医学图像,处理医学扫描的时间序列中的其他医学扫描,以确定一个医学图像中的至少一个修改的标注与医学扫描的时间序列中的其他医学扫描中的一个或多个预先存在的标注之间的相应相关性;基于所确定的相应相关性,自动修改医学扫描的时间序列中的其他医学扫描中的每个医学扫描中的一个或多个预先存在的标注中的至少一个预先存在的标注,以针对其定义至少一个自动修改的标注;以及针对医学扫描的时间序列中的其他医学扫描中的每个医学扫描自动生成用于至少一个自动修改的标注的参考,以与其相关联。
在可能的实施形式中,处理装置还被配置为:在给定的情况下经由第二图形用户界面显示具有至少一个自动修改的标注和用于至少一个自动修改的标注的相关联的自动生成的参考的医学扫描的时间序列中的其他医学扫描中的一个医学扫描;以及经由第二图形用户界面检测第三输入,第三输入包括对至少一个自动修改的标注的验证、校正或拒绝中的一个。
在可能的实施形式中,处理装置还被配置为:经由第二图形用户界面显示一个医学图像,其中以一种颜色显示医学图像中的一个或多个预先存在的标注,并且以不同的颜色显示医学图像中的至少一个修改的标注。
在可能的实施形式中,处理装置还被配置为:经由第一图形用户界面显示医学图像数据集中的各个医学图像的缩略图;经由第一图形用户界面检测第四输入,第四输入包括一个缩略图的选择;以及在给定情况下经由第一图形用户界面显示与选定的一个缩略图相对应的医学图像。
在可能的实施形式中,处理装置还被配置为:经由第二图形用户界面显示具有至少一个修改的标注的各个医学图像的缩略图、以及视觉指示符,该视觉指示符指示具有至少一个修改的标注的一个医学图像的所显示的缩略图是否具有与其相关联的至少一个修改的标注的参考。
在可能的实施形式中,视觉指示符为叠加在至少一个修改标注上的背景突出显示、工具提示、边框颜色、文本或图标中的一个或多个的形式。
在可能的实施形式中,用于至少一个修改的标注的参考为文本注释、音频注释或视频记录中的一个或多个的形式。
在可能的实施形式中,处理装置还被配置为:生成总结报告,该总结报告包括针对医学图像数据集中的所有医学图像的至少一个修改的标注和用于至少一个修改的标注的相关联的参考的列表。
应当理解,可以组合所有上述实施形式。必须注意,本申请中描述的所有设备、元件、电路、单元和装置可以以软件或硬件元件或其任何种类的组合来实施。由本申请中描述的各种实体执行的所有步骤以及被描述为由各种实体执行的功能旨在意指相应的实体适于或被配置为执行相应的步骤和功能。即使在以下对具体实施例的描述中,由外部实体执行的具体功能或步骤没有反映在对执行该具体步骤或功能的该实体的具体详细元件的描述中,对于技术人员而言应当清楚的是,这些方法和功能可以在相应的软件或硬件元件或其任何种类的组合中实施。应当理解,在不脱离由所附权利要求限定的本公开的范围的情况下,本公开的特征易于以各种组合进行组合。
从附图和结合所附权利要求解释的例示性实施方式的详细描述,将使本公开的附加方面、优点、特征以及目的变得显而易见。
附图说明
当结合附图阅读时,可以更好地理解以上发明内容以及以下对例示性实施例的详细描述。为了例示本公开,在附图中示出了本公开的示例性结构。然而,本公开不限于本文所公开的具体方法和装置。而且,本领域技术人员应当理解,附图不是等比例。只要有可能,同样的元件由相同的附图标记来指示。
现在将参考以下附图仅仅通过示例的方式描述本公开的实施例,附图中:
图1是根据本公开实施例的用于审阅带标注医学图像的方法的流程图;
图2是根据本公开实施例的允许用户对带标注医学图像中的预先存在的标注进行修改的第一图形用户界面的示例性描绘;
图3是根据本公开实施例的允许用户审阅对带标注医学图像中的预先存在的标注的修改的第二图形用户界面的示例性描绘;以及
图4是根据本公开实施例的用于审阅带标注医学图像的系统的框图。
在附图中,采用加下划线的附图标记来表示加下划线的附图标记位于其上的项或加下划线的附图标记与其相邻的项。未加下划线的附图标记涉及由将未加下划线的附图标记联系到项的线所标识的项。当附图标记未加下划线并且伴随有关联的箭头时,未加下划线的附图标记用于标识箭头所指向的一般项。
具体实施方式
以下详细描述例示了本公开的实施例以及它们可以被实施的方式。尽管已经公开了执行本公开的一些模式,但是本领域技术人员将认识到,用于执行或实践本公开的其他实施例也是可能的。
示例性实施例涉及用于审阅带标注医学图像的方法和系统。如图1所示,用于审阅带标注医学图像的方法的一个实施例包括:接收102医学图像数据集,其中医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注。经由第一图形用户界面显示104来自医学图像数据集的一个医学图像。检测106经由第一图形用户界面的第一输入。第一输入包括对显示的一个医学图像中的一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注。第一输入还包括用于至少一个修改的标注的参考以与其相关联。
经由第二图形用户界面显示108具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像。经由第二图形用户界面检测110第二输入。第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。
所公开实施例的方面提供了一种分析具有预先存在的标注的医学图像并且通过将审查机制集成到现有工作流程中来对预先存在的标注进行修改的自然方式。本实施例在医学成像工作流程中引入取证模式,其允许用户运行对迄今为止在工作流程上执行的动作的取证分析。这不同于由已知医学成像工作流程提供的典型撤销/重复栈。在这个意义上,本实施例引入用于工作流程的修改的标注的标记/标签,其允许用户获得迄今为止在工作流程上执行的动作的鸟瞰图,并且快速地审阅和重新标注工作流程的对于其时间和使用情况增加最多价值的部分。该方法对于心脏成像工作流程实施特别有意义,因为动态心脏成像工作流程提供了查看跨切片图像的各个帧中的检测到的轮廓的机制,但是可以应用于审阅任何种类的医学图像的标注数据而没有任何限制。
参考图1,例示了根据本公开实施例的用于审阅带标注医学图像的方法100的流程图。如本文所用的,医学图像包括通过对患者器官的医学扫描而生成的图像数据,诸如超声数据、磁共振成像(MRI)数据、乳房X线照相术数据等。这种医学图像以标准图像格式(诸如医学数字成像和通信(DICOM)格式)存储,并且存储在存储器或计算机存储系统(诸如图片存档与通信系统(PACS)、放射信息系统(RIS)等)中。进一步地,这些医学图像可以从储存器中检索,或者直接从诸如MR扫描仪、CT扫描仪、PET扫描仪等的成像源接收。来自多个模态的医学图像被处理和分析以提取定量和定性信息。定量信息可以包括动力学信息和生化信息。可以从诸如MRI图像数据的图像数据的时间序列中提取动力学特征。生化信息可以从MRS数据的光谱分析中提取。可以从MRI图像、超声图像、X射线图像或其他模态的图像中提取形态特征。
在步骤102,方法100包括:接收医学图像数据集,其中医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注。通常,标注与图像或切片图像相关。在广义上,图像标注包括允许用户标记、指向或以其他方式指示图像的作为注意焦点的某一特征的任何技术,包括文本评论。已经建立了向个人提供添加符号、标签和说明文字以描述图像的内容或传达概念并将观看者引导到图像的重要特征的能力。长久以来,人们已经接受,分配说明文字或释义并提供书写图例的选项允许用户传达关于图像本身中的结构的知识信息,该图例进一步描述了图像所特有的感兴趣区域。
如本文所用的,标注可以包括多媒体格式,诸如文本、图形、语音等。标注可以被显示为诸如几何对象、徒手画、测量线、文本框等的表征,其叠加在图像切片上,或者与相关联的图像分离,诸如边注栏、上颚(palate)、图标等。标注可以是视觉的和/或听觉的。包括尺寸、位置、取向等的标注与相关联的图像一起存储。标注和相关联的图像可以被存储为对象、分组等的块,或者经由数据库或图像元数据来单独地和动态地链接。为了本公开的目的,已经根据可以跟踪发现的图像上的标记(如病变的最明确定义的边界)描述了标注。通常,标注将包括以下内容中的一个或多个:感兴趣区域、指针和诸如符号、标签和/或说明文字的文本信息。图像上的标注的可见部分可以包括感兴趣区域、指针和符号。感兴趣区域、指针和符号可以允许用户例如识别传达关于该图像的相关信息的解剖结构。
特别地,感兴趣区域是标注的感兴趣的可见部分。例如,在医学领域中,感兴趣区域可以是传达临床或研究发现的图像上的特征或结构(例如,病理、肿瘤、神经)。尽管任何标记感兴趣区域的方式都将满足要求,但是用户通常画出点、线或多边形来指示感兴趣区域。例如,可以通过可以定义多边形、折线或点集的点集来描述感兴趣区域。当感兴趣区域是明确定义的区域时,可以使用多边形,当对区域的分离感兴趣时,可以使用折线(或边),并且当感兴趣特征太小而实际上不能用多边形封闭时,可以使用点。标注的指针部分地由用户定义,并且部分地基于用户最初将其放置在哪里来计算。例如,用户选择指针的尾部应当出现在哪里,并且算法计算感兴趣区域上的最近点来放置指针尖端。文本信息由标注方法定义,并且包括符号、标签和说明文字。提供添加关于标注的文本信息的能力使得用户能够以符号、标签和说明文字的形式对图像的内容进行评论或添加他们的专家知识。评论可以指代图像的细节或者作为整体的带标注图像。
在示例中,诸如放射科医师或健康护理从业者的专家可以分析医学图像(和/或图像切片)以在其中添加所述预先存在的标注。例如,使用来自MRI的动态图像的心脏功能和应变分析需要专家审阅短轴和长轴数据上的舒张末期(ED)帧与收缩末期(ES)帧之间的切片图像上的大量图像帧,并且还定义长轴系列中的心脏结构的左心室的区域。患者研究可以包括跨越患者的区域的一系列平行切片图像,例如20-50cm或更多。切片图像的厚度随成像模态而变化,通常为1-5mm。在审阅过程期间,专家可以对至少一些图像进行标注,并将细节包括在标注中,诸如病变测量结果。当标注图像时,专家的目标是利用发现的最佳示例来标注图像切片。例如,在病变中,最佳示例可以包括具有到病变的最明确定义的边界的图像切片或者示出病变的最大尺寸的图像切片。在其他示例中,基于人工智能的算法可以分析医学图像(和/或图像切片)以在其中添加所述预先存在的标注,而没有任何限制。
在一些示例中,具有预先存在的标注的医学图像还可以包括伴随信息,包括关于患者的患者信息,诸如要被射线照相(图像生成)的患者的患者姓名、患者ID、年龄、性别等;检查信息,诸如检查日期、检查ID、部分信息、射线照相(图像生成)条件(身体位姿、射线照相(图像生成)方向等)、图像记录模态信息等;图像数据信息,诸如医学图像的像素数量、位数、指定输出尺寸、读取像素尺寸、最大密度等;等等。
如所讨论的,为了确定医学图像数据是否被正确地标注,需要审阅标注的数据(这在大多数情况下是惯例)。本文中,如果第一用户发现任何一个或多个标注不正确,则他/她可以对预先存在的标注数据进行修改,并且其后通常第二用户(或相同的第一用户)可以审阅修改(作为第二意见)以便验证和确认。方法100提供了一种分析具有预先存在的标注的医学图像并且通过将审查机制集成到现有工作流程中来对预先存在的标注进行修改的自然方式,如在之前段落中详细讨论的。
在实施例中,医学图像数据集可以包括患者器官的医学扫描的时间序列。例如,对于作为器官的心脏,心脏功能和流量表征受诸如呼吸、血压、心率、锻炼或药物的各种生理影响所影响的动态过程。潜在的心肌和瓣膜移动的特征在于仅有限的周期性程度,其通常在患有心血管疾病的患者中进一步受损。心脏的临床评估通常需要心肌的全面三维覆盖。这可以通过顺序的“多切片图像影片”采集并随后应用高级后处理软件使用实时MRI来高效地实现。例如,采集部分可以涉及12个直接相邻的部分,各个部分具有10秒持续时间的影片,使得整个心脏的解剖/功能检查将在2分钟内完成。这种实时MRI允许在患有局部缺血或其它心肌病的患者的肌力测试期间或者在修复之前和之后具有先天性心脏缺陷的幼儿的应力测试期间直接监测两个心室。其它有前景的应用将是限制性和缩窄性心肌病,其中检测心室之间的直接相互作用的能力添加了重要信息。这样的研究甚至可以有助于病理(诸如舒张功能障碍)的早期诊断。关于血流,实时流动分析提供关于在多于一个血管中同时的流速和体积的搏动到搏动变化的信息。未来的扩展将是MRI引导的导管插入和介入,其依赖于导管跟踪的实时成像。
在步骤104,方法100包括:在给定的情况下经由第一图形用户界面显示来自医学图像数据集的一个医学图像。图2例示了根据本公开实施例的第一图形用户界面(如由附图标记200表示)的描绘。第一图形用户界面200可以包括图像显示部分202,其提供一个或多个图像窗口(在所例示的示例中,为两个图像窗口)以显示在给定情况下分析的医学图像。在一个或多个示例中,具有两个图像窗口的图像显示部分202可以显示在给定情况下由用户分析的同一医学图像的两个不同视图。第一图形用户界面200还可以包括工具选项板204,其包括工具集合(诸如但不限于绘图工具、擦除工具等,其可以由本领域技术人员设想),用于用户对图像显示部分202中显示的医学图像进行标注和/或对医学图像中的预先存在的标注进行修改。例如,工具选项板204可以包括用于分割和/或编辑截面图像的多个可选择的控制工具,包括用于定义医学图像中的解剖特征的轮廓和/或区域的轮廓绘制/分割工具。第一图形用户界面200还可以包括网格部分206,其可以显示医学图像数据集中的各个医学图像的缩略图(或者至少是在给定情况下可以在显示装置上显示的医学图像的缩略图的数量)。第一图形用户界面200还可以包括注释部分208,其可以允许用户添加与所做的标注和/或对预先存在的标注所做的修改(如下文所讨论的)相关的注释(诸如文本注释)。
在方法100的步骤104,第一图形用户界面200可以显示与从网格部分206选择的缩略图对应的医学图像,并且可以在图像显示部分202中显示该医学图像。如所讨论的,医学图像数据集可以包括患者器官(诸如用于分析心脏功能的心脏)的医学扫描的时间序列。在这种情况下,在成像过程期间生成的多个图像可以全部显示在第一图形用户界面200的网格部分206中,该网格部分可以显示医学图像数据集中的各个医学图像的缩略图(或者至少是在给定情况下可以在实施第一图形用户界面200的显示装置上显示的医学图像的缩略图的数量)。在本实施例中,第一图形用户界面200可以被配置为接收输入,即第四输入,其中,第四输入可以包括在第一图形用户界面200的网格部分206中显示的一个缩略图的选择。在接收到这种输入的情况下,第一图形用户界面200可以在图像显示部分202处显示与选定的一个缩略图相对应的医学图像,以便在给定情况下由用户进行分析。
在步骤106,方法100包括检测经由第一图形用户界面200的输入,即第一输入。在本实施例中,第一输入包括对显示的一个医学图像中的一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注。当选定医学图像被显示在图像显示部分202处以在给定情况下由用户分析时,用户可以审阅其中预先存在的标注。在用户可能发现一个或多个预先存在的标注不正确的情况下,用户可以具有使用第一图形用户界面200来校正这些标注的选项。为此,用户可以从工具选项板204选择一个或多个可用的工具,诸如绘图工具或擦除工具,并且在预先存在的标注中进行所需的校正。为了本公开的目的,预先存在的标注的这种修改/校正形式被称为“修改的标注”。在本实施例中,第一输入还可以包括用于至少一个修改的标注的参考以与其相关联。在一个或多个实施例中,用于至少一个修改的标注的参考为文本注释、音频注释或视频记录中的一个或多个的形式。例如,用户可以通过向第一图形用户界面200的注释部分208中键入与所做的标注和/或对预先存在的标注所做的修改相关的评论来添加用于修改的标注的参考,诸如文本注释。如本领域技术人员可以设想的,在不脱离本公开的精神和范围的情况下,可以替代地或另外地添加包括音频注释或视频记录的所述其他类型的参考。
如所讨论的,为了审阅医学图像中的标注,如果第一用户发现任何一个或多个标注不正确,则他/她可以最初在预先存在的标注数据中进行修改(如在前述段落中讨论的),这借助于如其中所述的第一图形用户界面200来实现。其后,通常可以要求第二用户(或同一第一用户)审阅修改(作为第二意见)以便验证、校正或拒绝。在这种情况下,可能期望提供另一图形用户界面,其可以是针对与审阅在预先存在的标注中做出的修改有关的工作流程“定制设计的”,以便使过程更高效,而不是针对所述目的使用相同的图形用户界面(即,第一图形用户界面200)。之前的段落描述了用于第二用户(在一些情况下,可以与第一用户相同)的这种图形用户界面的细节以及用于第二用户实现所述目的的工作流程。可以理解,本文中,如果两个所述用户是同一个人,则该人可以使用应用软件中提供的选项(如可以设想的)在相同装置等上从第一图形用户界面200切换到所述另一图形用户界面。另一方面,在第二用户不同并且可能在不同装置上工作的情况下,则来自第一图形用户界面200的工作流程的输出可以被导出以导入(或加载)到另一图形用户界面中。参考本说明书中稍后对本公开的系统方面的讨论,这些细节将变得更清楚。
在步骤108,方法100包括:经由第二图形用户界面显示具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像。图3例示了根据本公开实施例的第二图形用户界面(如由附图标记300表示)的描绘。类似于第一图形用户界面200,第二图形用户界面300还可以包括图像显示部分302,其提供一个或多个图像窗口(在所例示的示例中,为两个图像窗口)以显示在给定情况下分析的医学图像。再次在本文中,具有两个图像窗口的图像显示部分302可以显示在给定情况下由用户分析的同一医学图像的两个不同视图。而且,类似于第一图形用户界面200,第二图形用户界面300可以包括工具选项板304,其包括工具集合(诸如但不限于绘图工具、擦除工具等,其可以由本领域技术人员设想),用于用户对图像显示部分302中显示的医学图像进行标注和/或对医学图像中的预先存在的标注进行修改。进一步类似于第一图形用户界面200,第二图形用户界面300可以包括网格部分306。本文中,第二图形用户界面300的网格部分306可以显示其中具有修改的标注的各个医学图像的缩略图(或者在给定的情况下至少可以显示在实施第二图形用户界面300的显示装置上的具有修改的标注的医学图像的缩略图的数量)。此外,类似于第一图形用户界面200,第二图形用户界面300可以包括注释部分308,其可以允许用户添加与所做的标注和/或对修改的标注所做的修改(如下文所讨论的)相关的注释(诸如文本注释)。
在方法100的步骤108,第二图形用户界面300可以显示与从网格部分306选择的缩略图对应的医学图像,并且可以在图像显示部分302中显示该医学图像。本文中,具有修改的标注的多个图像可以全部显示在第二图形用户界面300的网格部分306中,该网格部分可以显示具有修改的标注的各个这种医学图像的缩略图(或者至少是在给定情况下可以在实施第二图形用户界面300的显示装置上显示的医学图像的缩略图的数量)。本文中,第二图形用户界面300可以被配置为接收输入,类似于第四输入(如上讨论的),其中,所述输入可以包括在第二图形用户界面300的网格部分306中显示的一个缩略图的选择。在接收到这种输入的情况下,第二图形用户界面300可以在图像显示部分302处显示与选定的一个缩略图相对应的医学图像,以便在给定情况下由用户进行分析。
在实施例中,方法100包括:经由第二图形用户界面300显示具有至少一个修改的标注的各个医学图像的缩略图、以及视觉指示符,该视觉指示符指示具有至少一个修改的标注的一个医学图像的所显示的缩略图是否具有与其相关联的至少一个修改的标注的参考。即,第二图形用户界面300可以被配置为使得可以通过使用所述视觉指示符来突出显示具有修改的标注的所有图像,以便使用第二图形用户界面300的用户容易参考,修改的标注可以被显示在网格部分306中,具有与其相关联的对应参考。在本实施例中,视觉指示符为叠加在至少一个修改标注上的背景突出显示、工具提示、边框颜色、文本或图标中的一个或多个的形式。例如,在网格部分306中显示的具有与其相关联的对应参考的图像的缩略图可以用彩色边界突出显示以便用户容易地视觉参考,从而使得用户能够仅选择用于要显示的对应医学图像的这种缩略图以用于进一步分析。
在实施例中,方法100包括:经由第二图形用户界面300显示一个医学图像,其中以一种颜色显示医学图像中的一个或多个预先存在的标注,并且以不同的颜色显示医学图像中的至少一个修改的标注。即,第二图形用户界面300可以显示选定的医学图像,其以一种颜色示出了其中预先存在的标注,并且以另一种颜色示出了其中修改的标注。本文中,特别地,在第二图形用户界面300的图像显示部分302中显示的选定图像可以用于显示选定的医学图像,其以一种颜色(比如黄色)示出了其中预先存在的标注并且以另一种颜色示出了其中修改的标注。这是为了使用第二图形用户界面300的用户能够在给定情况下在图像显示部分302中显示的医学图像中容易地区分其中的预先存在的标注和修改的标注。
在步骤110,方法100包括经由第二图形用户界面300检测输入,即第二输入。在本实施例中,第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。换言之,第二输入包括对一个医学图像中的一个或多个预先存在的标注的验证、校正或拒绝中的一个。当选定医学图像被显示在图像显示部分302处以在给定情况下由用户分析时,用户可以审阅其中修改的标注。本文中,用户还可以参考如第二图形用户界面300的注释部分308所示的参考,诸如文本注释,其与对预先存在的标注所做出的修改有关。在用户可能发现一个或多个修改的标注不正确的情况下,用户可以具有使用第二图形用户界面300来校正这些标注的选项。为此,用户可以从工具选项板304选择一个或多个可用的工具,诸如绘图工具或擦除工具,并且在修改的标注中进行所需的校正。在一些示例中,用户还可以提供输入作为修改的标注中的所做的校正的参考,用于记录。类似于用于修改的标注的参考,用于修改的标注中的校正的本参考也可以是文本注释、音频注释或视频记录(如所描述的)中的一个或多个的形式。
在本公开的实施例中,通过使用第一图形用户界面200和第二图形用户界面300,可以对医学图像中的标注进行双重检查。例如,在医学图像中的预先存在的标注已经由“初级操作者”做出的情况下,这样的预先存在的标注可以由“高级操作者”使用第一图形用户界面200审阅并且修改(如果需要);并且这种修改可以进一步由相同的“高级操作者”或具有更高专业知识的人(例如“主管”(如外科医生))使用第二图形用户界面300来审阅。第二图形用户界面300的实施使得能够快速选择仅具有修改的标注的图像,并且清楚地突出显示其中的修改的标注以供“主管”快速参考以执行审阅,从而使得工作流程与没有为用户提供视觉引导以帮助他/她仅通过修改的标注进行导航的常规工作流程相比显著地更高效。本公开提供了用于工作流程中的修改的标注的视觉指示符(标记/标签),其允许用户获得迄今为止在工作流程上执行的动作的鸟瞰图,并且快速地审阅和重新标注工作流程的对于其时间和使用情况增加最多价值的部分。
进一步地,如所讨论的,为了减少或消除医学图像的人工标注,越来越多地采用涉及机器学习的基于AI的算法。然而,这样的基于AI的算法将首先需要大的带标注图像数据的集合用于其训练目的以实现某一期望准确度。使用本公开的示教,可以实施基于AI的算法来对医学图像(对于其当前训练)做出标注的初始集合,然后如果需要,由第一用户人工修改(校正)这些标注(预先存在的标注);然后由第二用户使用按照本公开的实施例的工作流程(如上所述)进一步人工检查准确度,其中所有这些都以与已知技术相比明显更高效的方式来实现,由此节省了在使用常规技术执行人工标注中涉及的时间、成本和资源。这可以进一步帮助生成用于所述基于AI的算法的所需的大训练数据集,由此解决可能是非常昂贵和耗时的医学图像的人工标注的更大问题。
如所讨论的,在本示例中,医学图像数据集可以包括患者器官的医学扫描的时间序列。在一些实施例中,方法100还包括:基于作为医学扫描的时间序列的一部分的具有至少一个修改的标注和用于至少一个修改的标注的参考的一个医学图像,处理医学扫描的时间序列中的其他医学扫描,以确定一个医学图像中的至少一个修改的标注与医学扫描的时间序列中的其他医学扫描中的一个或多个预先存在的标注之间的相应相关性。本文中,首先,可以确定在患者器官的医学图像中识别的解剖特征的一个或多个标注;然后可以确定在为患者器官的医学扫描的时间序列的一部分的其他医学图像中识别的解剖特征的一个或多个标注中的至少两个标注之间的依赖性或层次。方法100还包括:基于所确定的相应相关性,自动修改医学扫描的时间序列中的其他医学扫描中的每个医学扫描中的一个或多个预先存在的标注中的至少一个预先存在的标注,以针对其定义至少一个自动修改的标注。即,基于依赖性或层次,方法100配置基于AI的模块以添加在患者器官的所述其他医学图像中识别的解剖特征的一个或多个标注。方法100还可以包括:针对医学扫描的时间序列中的其他医学扫描中的每个医学扫描自动生成用于至少一个自动修改的标注的参考,以与其相关联。即,基于依赖性或层次,方法100配置基于AI的模块以生成用于在患者器官的所述其他医学图像中识别的解剖特征的添加的一个或多个标注的评论。这有助于生成具有修改的标注的初始集合的带标注图像数据的大集合,从而减少第一用户(如上文讨论的“初级操作者”)所需的人工工作。
方法100还可以包括:在给定的情况下经由第二图形用户界面300显示具有至少一个自动修改的标注和用于至少一个自动修改的标注的相关联的自动生成的参考的医学扫描的时间序列中的其他医学扫描中的一个医学扫描。即,第二图形用户界面300可以显示具有自动修改的标注和相关联的自动生成的参考的医学图像,以供第二用户(诸如,如上文讨论的“主管”)审阅。方法100还可以包括经由第二图形用户界面300检测输入,即第三输入。本文中,第三输入可以包括对至少一个自动修改的标注的验证、校正或拒绝中的一个。即,第二用户然后可以快速地审阅自动修改的标注,由此节省在使用常规技术执行人工标注中涉及的时间、成本和资源。
在实施例中,方法100还包括:生成总结报告,该总结报告包括针对医学图像数据集中的所有医学图像的至少一个修改的标注和用于至少一个修改的标注的相关联的参考的列表。本文中,如在之前的段落中描述的,工作流程连续地监视和维护所做出的修改的状态,该状态然后可以用于生成总结报告。这提供了理解医学图像集合中最常修改的标注(组成部分)并由此有助于改进工作流程的机制。
应当注意,附图中的流程图和框图例示了根据本发明的各种实施例的系统、设备、方法和计算机程序产品的可能实施方式的架构、功能和操作。在这点上,流程图或框图中的各个方框可以表示代码的模块、段或部分,其包括用于实施指定的逻辑功能的至少一个可执行指令。还应当注意,在一些替代实施方式中,方框中注释的功能可以不按图中注释的顺序发生。例如,连续示出的两个方框实际上可以大致同时执行,或者方框有时可以按相反的顺序来执行,这取决于所涉及的功能。还将注意,框图和/或流程图例示的各个方框以及框图和/或流程图例示中的方框的组合可以由执行指定功能或动作的基于专用硬件的系统或专用硬件和计算机指令的组合来实施。
参考图4,例示了用于审阅带标注医学图像的系统400。参考以上方法100公开的各种实施例和变型加以必要的变更适用于系统400。本文所述的方法100可以以硬件软件(例如,固件)或其组合来实施。在示例性实施例中,本文所述的方法100可以以硬件实施,并且是诸如个人计算机、工作站、小型计算机或大型计算机的专用或通用数字计算机的微处理器的一部分。
在示例性实施例中,在硬件架构方面,如图4所示,系统400因此包括通用计算机401。本文中,计算机401包括处理装置405、经由存储控制器445耦合的存储器440、储存装置420、以及经由本地输入/输出控制器435通信地耦合的一个或多个输入和/或输出(I/O)装置440、445(或外围设备)。输入/输出控制器435可以是例如但不限于一个或多个总线或其它有线或无线连接,如本领域已知的。输入/输出控制器435可以具有附加的元件,诸如控制器、缓冲器(高速缓存)、驱动器、中继器和接收器,以实现通信,为了简单起见省略了这些元件。进一步地,本地接口可以包括地址、控制和/或数据连接,以使得能够在上述部件之间进行适当的通信。储存装置420可以包括一个或多个硬盘驱动器(HDD)、固态驱动器(SSD)或任何其他合适形式的储存器。
处理装置405是用于执行硬件指令或软件、特别是存储在存储器440中的硬件指令或软件的计算装置。处理装置405可以是任何定制的或市售的处理器、中央处理单元(CPU)、与计算机401相关联的若干处理器中的辅助处理器、基于半导体的微处理器(以微芯片或芯片集的形式)、宏处理器或一般地用于执行指令的任何装置。处理装置405可以包括高速缓存470,其可以被组织为更多高速缓存级(L1、L2等)的层次结构。在本示例中,处理装置405可以被分布为在可能需要的不同计算装置中执行第一图形用户界面200和第二图形用户界面200,例如,当第一图形用户界面200的所述第一用户和第二图形用户界面200的所述第二用户可以在不同计算装置中工作时。本领域技术人员可以设想这样的架构,并且由此为了本公开的简洁而没有进一步描述。
存储器440可以包括易失性存储元件(例如,随机存取存储器(RAM,诸如DRAM、SRAM、SDRAM等))和非易失性存储元件(例如,ROM、可擦可编程只读存储器(EPROM)、电可擦可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁带、光盘只读存储器(CD-ROM)、光盘、软盘、磁带盒、盒式磁带等)中的任何一个或其组合。而且,存储器440可以并入电子、磁、光和/或其它类型的存储介质。注意,存储器440可以具有分布式架构,其中,各种部件彼此远离,但是可以由处理装置405访问。
存储器440中的指令可以包括一个或多个单独的程序,各个程序包括用于实施逻辑功能的可执行指令的有序列表。在图4的示例中,存储器440中的指令包括合适的操作系统(OS)411。操作系统411本质上控制其它计算机程序的执行,并提供调度、输入输出控制、文件和数据管理、存储管理、以及通信控制和相关服务。
在示例性实施例中,常规键盘450和鼠标455可以耦合到输入/输出控制器435。诸如I/O装置440、445的其他输出装置可以包括输入装置,例如但不限于打印机、扫描仪、麦克风等。最后,I/O装置440、445还可以包括与输入和输出两者通信的装置,例如但不限于网络接口卡(NIC)或调制器/解调器(用于访问其他文件、装置、系统或网络)、射频(RF)或其他收发器、电话接口、桥接器、路由器等。系统400还可以包括耦合到显示器430的显示控制器425。在示例性实施例中,系统400还可以包括用于耦合到网络465的网络接口460。网络465可以是用于计算机401与任何外部服务器、客户端等之间经由宽带连接通信的基于IP的网络。网络465在计算机401与外部系统之间发送和接收数据。在示例性实施例中,网络465可以是由服务提供商管理的被管理IP网络。网络465可以以无线方式实施,例如使用诸如Wi-Fi、WiMax等的无线协议和技术。网络465还可以是分组交换网络,诸如局域网、广域网、城域网、因特网或其它类似类型的网络环境。网络465可以是固定无线网络、无线局域网(LAN)、无线广域网(WAN)、个域网(PAN)、虚拟专用网(VPN)、内联网或其它合适的网络系统,并且包括用于接收和发送信号的设备。
如果计算机401是PC、工作站、智能装置等,则存储器440中的指令还可以包括基本输入输出系统(BIOS)(为了简单起见而省略)。BIOS是基本例程集合,其在启动时初始化和测试硬件,启动OS 411,并且支持储存装置之间的数据传送。BIOS存储在ROM中,使得在计算机401被激活时可以执行BIOS。
当计算机401在操作中时,处理装置405被配置为执行存储在存储器440内的指令,以向和从存储器440传送数据,并且一般地根据指令控制计算机401的操作。在示例性实施例中,系统400包括一个或多个加速器480,其被配置为与处理装置405通信。加速器480可以是现场可编程门阵列(FPGA)或被配置为执行特定处理任务的其他合适的装置。在示例性实施例中,系统400可以被配置为将某些处理任务卸载到加速器480,因为加速器480可以比处理装置405更高效地执行处理任务。
在系统400中,存储器440被配置为存储医学图像数据集,其中,医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注。进一步地,处理装置405被配置为:在给定的情况下在显示器430处经由第一图形用户界面200显示来自医学图像数据集的一个医学图像;检测经由第一图形用户界面200的第一输入,第一输入包括对显示的一个医学图像中的一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注,第一输入还包括用于至少一个修改的标注的参考以与其相关联;在显示器430处经由第二图形用户界面300显示具有至少一个修改的标注和用于至少一个修改的标注的相关联的参考的一个医学图像;以及经由第二图形用户界面300检测第二输入,第二输入包括对至少一个修改的标注的验证、校正或拒绝中的一个。
在一个或多个实施例中,医学图像数据集包括患者器官的医学扫描的时间序列。在这样的实施例中,处理装置405还被配置为:基于作为医学扫描的时间序列的一部分的具有至少一个修改的标注和用于至少一个修改的标注的参考的一个医学图像,处理医学扫描的时间序列中的其他医学扫描,以确定一个医学图像中的至少一个修改的标注与医学扫描的时间序列中的其他医学扫描中的一个或多个预先存在的标注之间的相应相关性;基于所确定的相应相关性,自动修改医学扫描的时间序列中的其他医学扫描中的每个医学扫描中的一个或多个预先存在的标注中的至少一个预先存在的标注,以针对其定义至少一个自动修改的标注;以及针对医学扫描的时间序列中的其他医学扫描中的每个医学扫描自动生成用于至少一个自动修改的标注的参考,以与其相关联。
在这样的实施例中,处理装置405还被配置为:在给定的情况下在显示器430处经由第二图形用户界面300显示具有至少一个自动修改的标注和用于至少一个自动修改的标注的相关联的自动生成的参考的医学扫描的时间序列中的其他医学扫描中的一个医学扫描;以及经由第二图形用户界面300检测第三输入,第三输入包括对至少一个自动修改的标注的验证、校正或拒绝中的一个。
在一个或多个实施例中,处理装置405还被配置为:在显示器430处经由第二图形用户界面300显示一个医学图像,其中以一种颜色显示医学图像中的一个或多个预先存在的标注,并且以不同的颜色显示医学图像中的至少一个修改的标注。
在一个或多个实施例中,处理装置405还被配置为:在显示器430处经由第一图形用户界面200显示医学图像数据集中的各个医学图像的缩略图;经由第一图形用户界面200检测第四输入,第四输入包括一个缩略图的选择;以及在给定情况下在显示器430处经由第一图形用户界面200显示与选定的一个缩略图相对应的医学图像。
在一个或多个实施例中,处理装置405还被配置为:在显示器430处经由第二图形用户界面300显示具有至少一个修改的标注的各个医学图像的缩略图、以及视觉指示符,该视觉指示符指示具有至少一个修改的标注的一个医学图像的所显示的缩略图是否具有与其相关联的至少一个修改的标注的参考。
在一个或多个实施例中,视觉指示符为叠加在至少一个修改标注上的背景突出显示、工具提示、边框颜色、文本或图标中的一个或多个的形式。
在一个或多个实施例中,用于至少一个修改的标注的参考为文本注释、音频注释或视频记录中的一个或多个的形式。
在一个或多个实施例中,处理装置405还被配置为:生成总结报告,该总结报告包括针对医学图像数据集中的所有医学图像的至少一个修改的标注和用于至少一个修改的标注的相关联的参考的列表。
由此,本公开的方法100和系统400提出了一种新颖的工作流程,其在心脏成像工作流程中引入了一种模式,用于对作为工作流程的一部分的数据所做的修改进行取证分析,其中,这些取证被提供为工作流程的修改的组成部分上的视觉指示符,从而允许用户容易地识别和审阅对工作流程所做的修改。所提出的工作流程允许用户在涉及对标注进行修改(根据需要)的分析模式与涉及对所做的修改的审阅的取证模式之间无缝地切换。本文中,心脏成像的医学成像工作流程中的取证模式允许用户运行对迄今为止在工作流程上执行的动作的取证分析。这不同于大多数成像应用所提供的典型撤销/重复栈。在某种意义上,所提出的工作流程引入用于修改部分的标记/标签,其允许用户获得迄今为止在工作流程上执行的动作的鸟瞰图,并且快速地审阅和重新标注工作流程的对于时间和使用情况增加最多价值的部分。所描述的机制提供了通过将审阅机制集成到现有工作流程中来审阅医学图像数据中的预先存在的标注和对预先存在的标注的修改的自然方式。该方法对于心脏成像工作流程实施特别有意义,因为动态心脏成像工作流程提供了在跨切片图像的各个帧中查看所检测的轮廓的机制。也就是说,所提出的工作流程可以扩展到需要在医学图像中的修改标注的识别和审阅方面进行取证分析的任何成像应用。
在不脱离由所附权利要求限定的本公开的范围的情况下,对上文描述的本公开的实施例的修改是可能的。用于描述和要求保护本公开的诸如“包括”、“包含”、“并入”、“具有”、“是”的表述旨在以非排他的方式来解释,即允许还存在未明确描述的项、部件或元件。对单数的引用也被解释为涉及复数。词语“示例性”在本文中用于意指“用作示例、实例或说明”。任何被描述为“示例性”的实施例不必被解释为比其它实施例优选或有利和/或排除来自其它实施例的特征的并入。词语“可选地”在本文中用于意指“在一些实施例中提供而在其它实施例中不提供”。应当理解,为了清楚起见在单独的实施例的上下文中描述的本公开的某些特征也可以在单个实施例中组合提供。相反地,为了简洁起见在单个实施例的上下文中描述的本公开的各种特征也可以单独地或以任何合适的组合或如在本公开的任何其它描述的实施例中合适地提供。
Claims (10)
1.一种用于审阅带标注医学图像的方法,所述方法包括:
接收医学图像数据集,其中所述医学图像数据集中的各个医学图像中包括一个或多个预先存在的标注;
在给定的情况下经由第一图形用户界面显示来自所述医学图像数据集的一个所述医学图像;
检测经由所述第一图形用户界面的第一输入,所述第一输入包括对显示的所述一个医学图像中的所述一个或多个预先存在的标注中的至少一个预先存在的标注的修改,以针对其定义至少一个修改的标注,所述第一输入还包括用于所述至少一个修改的标注的参考以与其相关联;
经由第二图形用户界面显示具有所述至少一个修改的标注和用于所述至少一个修改的标注的所述相关联的参考的所述一个医学图像;以及
经由所述第二图形用户界面检测第二输入,所述第二输入包括对所述至少一个修改的标注的验证、校正或拒绝中的一个。
2.根据权利要求1所述的方法,其中,所述医学图像数据集包括患者器官的医学扫描的时间序列。
3.根据权利要求2所述的方法,还包括:
基于作为所述医学扫描的时间序列的一部分的具有所述至少一个修改的标注和用于所述至少一个修改的标注的所述参考的所述一个医学图像,处理所述医学扫描的时间序列中的其他医学扫描,以确定所述一个医学图像中的所述至少一个修改的标注与所述医学扫描的时间序列中的所述其他医学扫描中的一个或多个预先存在的标注之间的相应相关性;
基于所述所确定的相应相关性,自动修改所述医学扫描的时间序列中的所述其他医学扫描中的每个医学扫描中的所述一个或多个预先存在的标注中的至少一个预先存在的标注,以针对其定义至少一个自动修改的标注;以及
针对所述医学扫描的时间序列中的所述其他医学扫描中的每个医学扫描自动生成用于所述至少一个自动修改的标注的参考,以与其相关联。
4.根据权利要求3所述的方法,还包括:
在给定的情况下经由所述第二图形用户界面显示具有所述至少一个自动修改的标注和用于所述至少一个自动修改的标注的所述相关联的自动生成的参考的所述医学扫描的时间序列中的所述其他医学扫描中的一个医学扫描;以及
经由所述第二图形用户界面检测第三输入,所述第三输入包括对所述至少一个自动修改的标注的验证、校正或拒绝中的一个。
5.根据权利要求1所述的方法,还包括:经由所述第二图形用户界面显示所述一个医学图像,其中以一种颜色显示所述医学图像中的所述一个或多个预先存在的标注,并且以不同的颜色显示所述医学图像中的所述至少一个修改的标注。
6.根据权利要求1所述的方法,还包括:
经由所述第一图形用户界面显示所述医学图像数据集中的各个所述医学图像的缩略图;
经由所述第一图形用户界面检测第四输入,所述第四输入包括一个缩略图的选择;以及
在所述给定情况下经由所述第一图形用户界面显示与所述选定的一个缩略图相对应的医学图像。
7.根据权利要求1所述的方法,还包括:经由所述第二图形用户界面显示具有所述至少一个修改的标注的各个所述医学图像的缩略图、以及视觉指示符,所述视觉指示符指示具有所述至少一个修改的标注的所述一个医学图像的所述所显示的缩略图是否具有与其相关联的所述至少一个修改的标注的所述参考,其中,所述视觉指示符为叠加在所述至少一个修改标注上的背景突出显示、工具提示、边框颜色、文本或图标中的一个或多个的形式。
8.根据权利要求1所述的方法,其中,用于所述至少一个修改的标注的所述参考为文本注释、音频注释或视频记录中的一个或多个的形式。
9.根据权利要求1所述的方法,还包括:生成总结报告,所述总结报告包括针对所述医学图像数据集中的所有医学图像的所述至少一个修改的标注和用于所述至少一个修改的标注的所述相关联的参考的列表。
10.一种包含指令的计算机程序产品,当其在计算机上运行时,使得计算机执行如权利要求1-9任意一项所述的方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US17/966,948 US20240127929A1 (en) | 2022-10-17 | 2022-10-17 | System and method for reviewing annotated medical images |
US17/966,948 | 2022-10-17 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117393117A true CN117393117A (zh) | 2024-01-12 |
Family
ID=89471496
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311340460.4A Pending CN117393117A (zh) | 2022-10-17 | 2023-10-17 | 用于审阅带标注医学图像的系统和方法 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20240127929A1 (zh) |
CN (1) | CN117393117A (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8554307B2 (en) * | 2010-04-12 | 2013-10-08 | Inneroptic Technology, Inc. | Image annotation in image-guided medical procedures |
EP4038622A4 (en) * | 2019-10-01 | 2023-11-01 | Sirona Medical, Inc. | AI-ASSISTED MEDICAL IMAGE INTERPRETATION AND REPORT GENERATION |
US11315246B2 (en) * | 2019-11-27 | 2022-04-26 | Shanghai United Imaging Intelligence Co., Ltd. | Cardiac feature tracking |
-
2022
- 2022-10-17 US US17/966,948 patent/US20240127929A1/en active Pending
-
2023
- 2023-10-17 CN CN202311340460.4A patent/CN117393117A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
US20240127929A1 (en) | 2024-04-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7599534B2 (en) | CAD (computer-aided decision) support systems and methods | |
JP6438395B2 (ja) | 効果的な表示及び報告のための画像資料に関連する以前の注釈の自動検出及び取り出し | |
Sharma et al. | Artificial intelligence in diagnostic imaging: status quo, challenges, and future opportunities | |
EP3614390B1 (en) | Imaging and reporting combination in medical imaging | |
US10878564B2 (en) | Systems and methods for processing 3D anatomical volumes based on localization of 2D slices thereof | |
JP6796060B2 (ja) | 画像レポート注釈同定 | |
JP2017513590A (ja) | 患者履歴の視覚化のための方法及びシステム | |
US20100082365A1 (en) | Navigation and Visualization of Multi-Dimensional Image Data | |
KR102270934B1 (ko) | 의료용 인공 신경망 기반 대표 영상을 제공하는 의료 영상 판독 지원 장치 및 방법 | |
WO2021157705A1 (ja) | 文書作成支援装置、方法およびプログラム | |
WO2021112141A1 (ja) | 文書作成支援装置、方法およびプログラム | |
CN117672470B (zh) | 一种基于Web浏览器的医学影像辅助诊断装置 | |
WO2022215530A1 (ja) | 医用画像装置、医用画像方法、及び医用画像プログラム | |
US12062447B2 (en) | Medical image diagnosis support device, method, and program | |
KR102337031B1 (ko) | 복수의 폐질환을 스크리닝하기 위한 의료 영상 재구성 장치 및 방법 | |
US20240127929A1 (en) | System and method for reviewing annotated medical images | |
EP3696818A1 (en) | Automatic key image generation for radiology reports | |
US20150278443A1 (en) | Method and computer program for managing measurements on medical images | |
US20240266026A1 (en) | Information processing apparatus, operation method of information processing apparatus, and program | |
US20240071604A1 (en) | Artificial intelligence supported reading by redacting of a normal area in a medical image | |
US20230099284A1 (en) | System and method for prognosis management based on medical information of patient | |
WO2022220158A1 (ja) | 作業支援装置、作業支援方法、及び作業支援プログラム | |
WO2023157957A1 (ja) | 情報処理装置、情報処理方法及び情報処理プログラム | |
EP2755156A2 (en) | Techniques to improve accuracy of a medical report relating to a medical imaging study |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |