CN115131427A - 用于医学可视化的自动光布置的系统和方法 - Google Patents
用于医学可视化的自动光布置的系统和方法 Download PDFInfo
- Publication number
- CN115131427A CN115131427A CN202210232039.0A CN202210232039A CN115131427A CN 115131427 A CN115131427 A CN 115131427A CN 202210232039 A CN202210232039 A CN 202210232039A CN 115131427 A CN115131427 A CN 115131427A
- Authority
- CN
- China
- Prior art keywords
- light
- interest
- region
- image
- arrangements
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012800 visualization Methods 0.000 title claims abstract description 15
- 238000000034 method Methods 0.000 title claims description 60
- 238000012913 prioritisation Methods 0.000 claims abstract description 12
- 238000005286 illumination Methods 0.000 claims description 56
- 230000009471 action Effects 0.000 claims description 17
- 238000002059 diagnostic imaging Methods 0.000 claims description 13
- 230000011218 segmentation Effects 0.000 claims description 6
- 238000007405 data analysis Methods 0.000 claims description 5
- 238000001514 detection method Methods 0.000 claims description 4
- 230000008447 perception Effects 0.000 claims description 4
- 239000000523 sample Substances 0.000 claims description 4
- 238000009877 rendering Methods 0.000 description 15
- 238000002595 magnetic resonance imaging Methods 0.000 description 14
- 238000005259 measurement Methods 0.000 description 11
- 238000013461 design Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 8
- 238000001208 nuclear magnetic resonance pulse sequence Methods 0.000 description 7
- 239000013598 vector Substances 0.000 description 6
- 238000002591 computed tomography Methods 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 4
- 210000003484 anatomy Anatomy 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 3
- 210000005166 vasculature Anatomy 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000003745 diagnosis Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000000056 organ Anatomy 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 206010002329 Aneurysm Diseases 0.000 description 1
- 206010028980 Neoplasm Diseases 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 210000000988 bone and bone Anatomy 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000005094 computer simulation Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 239000003814 drug Substances 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000329 molecular dynamics simulation Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000013439 planning Methods 0.000 description 1
- 238000013442 quality metrics Methods 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000007493 shaping process Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 210000003625 skull Anatomy 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 230000002792 vascular Effects 0.000 description 1
- 210000001835 viscera Anatomy 0.000 description 1
- 238000007794 visualization technique Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
- A61B6/5223—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data generating planar views from image data, e.g. extracting a coronal view from a 3D image
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/0033—Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/05—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves
- A61B5/055—Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/02—Arrangements for diagnosis sequentially in different planes; Stereoscopic radiation diagnosis
- A61B6/03—Computed tomography [CT]
- A61B6/032—Transmission computed tomography [CT]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/461—Displaying means of special interest
- A61B6/466—Displaying means of special interest adapted to display 3D data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/46—Arrangements for interfacing with the operator or the patient
- A61B6/467—Arrangements for interfacing with the operator or the patient characterised by special input means
- A61B6/469—Arrangements for interfacing with the operator or the patient characterised by special input means for selecting a region of interest [ROI]
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5205—Devices using data or image processing specially adapted for radiation diagnosis involving processing of raw data to produce diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B6/00—Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
- A61B6/52—Devices using data or image processing specially adapted for radiation diagnosis
- A61B6/5211—Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/46—Ultrasonic, sonic or infrasonic diagnostic devices with special arrangements for interfacing with the operator or the patient
- A61B8/461—Displaying means of special interest
- A61B8/466—Displaying means of special interest adapted to display 3D data
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
- A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/506—Illumination models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/50—Lighting effects
- G06T15/60—Shadow generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H30/00—ICT specially adapted for the handling or processing of medical images
- G16H30/20—ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10081—Computed x-ray tomography [CT]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10072—Tomographic images
- G06T2207/10088—Magnetic resonance imaging [MRI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10132—Ultrasound image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2210/00—Indexing scheme for image generation or computer graphics
- G06T2210/41—Medical
Landscapes
- Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Radiology & Medical Imaging (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- Veterinary Medicine (AREA)
- Pathology (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Biophysics (AREA)
- High Energy & Nuclear Physics (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Computer Interaction (AREA)
- Pulmonology (AREA)
- General Engineering & Computer Science (AREA)
- Primary Health Care (AREA)
- Epidemiology (AREA)
- Computer Hardware Design (AREA)
- Software Systems (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Generation (AREA)
Abstract
一种用于医学可视化的自动光布置包括:提供医学3D图像(D),提供关于该3D图像(D)中的感兴趣区域(R)的空间信息和关于虚拟摄像机(C)的空间信息,通过使用基于3D图像的深度信息(DI)连同关于该图像中的感兴趣区域(R)的空间信息和关于虚拟摄像机(C)的空间信息来确定用于光源(L)的多个可能布置,其中,有效布置是感兴趣区域(R)上的阴影(S)低于预定义阈值的那些布置,和/或其中,所述确定或布置是基于具体应用于感兴趣区域的多个预定义感知度量的,对所确定的布置进行优先级排序,以及选择具有最佳优先级排序的布置。
Description
相关申请
本申请要求2021年3月10日提交的21161885.5的优先权,其全部内容通过引用合并于此。
技术领域
实施例涉及用于医学图像的自动光布置的系统和方法,尤其是用于基于感兴趣区域的医学可视化的自动光放置。
背景技术
光设计是一个重要的研究领域,其关注在可视化中复杂的光设置上的重要性。在精确渲染患者解剖结构是最很重要的情况下,在医学可视化中适当的照明是不可缺少的。然而,找到最佳设置并非微不足道。尽管在光设计领域有了重要的进步,但是找到照明场景的最佳参数仍然是手动的和耗时的任务。
电影渲染(“CR”)是一种3D可视化技术,其可以从传统的计算机断层摄影(CT)或磁共振(MR)体积中产生真实感图像(参见例如Comaniciu D等人的“Shaping the futurethrough innovations: From medical imaging to precision medicine(通过创新塑造未来:从医学成像到精密医学)”,Med Image Anal.2016;33:19-26)。CR使用了基于蒙特卡罗路径跟踪的全局光照模型来创建增强体积数据集的深度和形状感知的逼真着色效果。
通常,CR方法使用高动态范围(HDR)光照图以自然的方式照亮场景。这些图可以与合成光组合以突出特殊结构或照亮内部器官。这些光照图的取向以及合成光的布置可以提供关于数据的深度、形状和表面特性的有价值的感知信息。
用于体积渲染的照明设计的传统方法是基于手动设置照明参数并修改它们直到产生期望的图像。由于这个过程是耗时的并且经常需要一些照明的技术和美学知识,因此,已经提出了几种方法来促进这个任务。
Poulin等人(“Sketching shadows and highlights to position lights(画阴影和高亮到位置光)”,Proceedings Computer Graphics International,Hasselt和Diepenbeek,Belgium,1997,第56-63页)让用户在最终图像上指定阴影和高亮作为期望的属性。然后使用反向阴影方法来确定满足这些约束的光源位置。
Zhou,J等人(“Topology-aware illumination design for volume rendering(拓扑感知的体积渲染照明设计)”。BMC生物信息学17,309;2016)公开了一种基于数据拓扑的体积渲染照明设计。该方法的目的不是确定最佳的光位置和方向,而是基于数据的拓扑属性、拓扑距离和拓扑显著性来调整照明系数。
Zhang和Ma(在2013年的IEEE Transactions on Visualization and ComputerGraphics中的卷19,第12期,2946-2955页,“Lighting design for globally illuminatedvolume rendering(用于全球照明体积渲染照明设计)”中)将通常用于摄影的三点照明设置应用于体积渲染。基于对整个体积数据集的表面法线的统计分布的分析来设置主光(key-light)。辅助光(fill light)被用于照亮阴影区域,以使阴影区域中的细节可见,同时背光被用于改善深度感知。这种方法产生了良好平衡的图像,但是没有考虑哪些区域处于阴影中以及哪些区域处于明亮之中。这可能导致具有隐藏了数据的重要细节的强阴影的图像。
发明内容
目的是改进已知的系统、设备和方法以促进用于医学可视化的自动光布置,尤其是在控制医学成像系统以设置最佳光布置时。
该目的是通过根据权利要求的方法、系统、控制设备和医学成像系统来实现的。
根据一个实施例的用于医学可视化的光布置的方法,尤其是用于控制医学成像系统以设置最佳光布置,包括以下动作:
-提供医学3D图像,其例如可以是具有体素的完整3D图像,或者也可以是描述3D体积的2D切片图像的序列,其中,该3D图像是包括深度信息或利用给定摄像机视图计算深度信息的可能性的体积图像,
-提供关于该图像中的感兴趣区域和虚拟摄像机(例如,手动定义的或自动检测的)的空间信息,
-可选地:提供关于多个预定义的人造光源的信息(即,应当使用什么类型的光源以及尤其是多少这种/这些类型的光源的信息),
-通过使用基于3D图像的深度信息连同关于该图像中的感兴趣区域的空间信息以及关于虚拟摄像机(或虚拟观察者)的空间信息来确定用于光源的多个可能布置,其中,有效布置是其中感兴趣区域上的阴影低于预定义阈值的那些布置,
-对所确定的布置进行优先级排序,尤其是通过使用来自摄影的准则,
-选择具有最佳优先级排序的布置。
这些动作之后可以是以下动作:
-使用所选择的光源布置来渲染具有阴影的图像。然而,一旦设定了照明布置,就可以经由公知的方程来计算照明计算。
首先,必须定义或至少知道3D图像数据(3D体积)、感兴趣区域、虚拟摄像机的位置以及光源的类型以用于进一步的确定。这可以自动地(例如,通过使用偏好)或通过用户的手动选择来实现。通常,这些动作是现有技术,因为选择图像和ROI以及(手动)选择和布置光源是本领域的普通实践。然而,实施例增加了下面描述的特定特征。关于3D图像,优选地将其定义为来自医学扫描的2D图像切片序列,其通常被称为3D体积。替代地,3D图像可以从数学/函数描述中构建,它可以是计算模拟(例如,分子动力学)的结果。
关于人造光源的信息的提供,这些光源的位置不是必需的信息(因为在该方法的过程中计算布置)。优选的信息关于形成照明布置的光源的类型。该动作可以是应当使用单独类型的光源(例如,具有预定义强度的主光)的简单预定义。该动作还可以是提供从存储器设备读取的具有定义的属性的光照图。然而,该动作还可以包括关于要使用的光源(例如,主光和辅助光)的用户输入。信息也可以被硬连线到该方法,例如“如果没有用户输入并且没有存储器设备可用,则使用主光用于以下动作”。应当注意,光源的数量和类型可以在以后增强,例如,如果增加了附加的光源。
虚拟摄像机意味着知道相对于3D体积和ROI数据的摄像机角度、位置和取向。
“感兴趣区域”(ROI)也不是物理物体,而是3D图像的数据集(体积)内的数据样本(3D区域),并且尤其不是整个3D图像。它可以由其位置和该位置处的体素信息来定义。特别地,ROI可以被看作3D图像内的多边形选择。例如,它可以定义所考虑的物体(例如器官)的边界。在医学技术领域中,ROI是已经被识别以提供重要医学信息的(图像数据的)特定区域。ROI的概念通常被用在图像处理和放射学的文献中。ROI可以表示疑似肿瘤、动脉瘤等。
与生成具有良好平衡的高亮、中间色调和阴影区域的图像的技术相比,这可能导致在这些图像能够被良好平衡而同时遮蔽了重要结构的缺点,本实施例具有的优点在于,其使用所述ROI而不是仅整个图像来计算照明。
术语“提供”在这里意味着某些信息可用于所述方法。如何提供数据并不重要。因此,“提供”尤其意味着“读取输入”、“读取预定义参数”、“计算”或“测量”。
关于感兴趣区域的空间信息是关于3D图像内的感兴趣区域的位置、取向以及尤其是还有形状的信息。
关于虚拟摄像机的空间信息是关于虚拟摄像机的位置和观看方向(观看方向应当指向感兴趣区域)的信息。关于计算,优选地,在计算照明时仅考虑摄像机的视锥体内的ROI。在这种情况下,可能存在其他ROI,但是它们被忽略,直到摄像机被转动以将它们包括在视图中。
每个空间信息都可以作为输入或预定义参数来提供。
优选地,基于外科器械的用户选择、自动检测、自动分割、数据分析、用户凝视跟踪或3D跟踪来识别关于ROI的空间信息。例如,空间信息可以被定义为高曲率区域。高曲率区域通常是与均匀区域(或具有低曲率的区域)相比携带重要信息的结构,因此它们可以被用作ROI。
术语“光源”包括可以应用于重建医学图像的人工照明的任何合成照明上。这种光源优选地是主光或光照图(也称为“环境图”),但是也可以尤其是点光(spot light)或辅助光。光源可以包括仅一个单个光源、或者两个或多个光源(例如,“三点照明”),特别是与至少一个点光和/或辅助光组合的主光或光照图。主光优选地被建模为无限远离场景的定向光。它被特别地定义为不具有精确的位置的方向向量,并且倾向于从无穷远处照亮整个场景。优选的主光的强度被设置为1(相对于其它光的单位)。可以使用光照图来代替主光或与主光一起使用。优选地,光照图被定向为使最高强度(通常是天空)在也是主光的方向的方向上进行照射。
特别地,从包括主光、光照图、辅助光(以照亮阴影)、背光和点光的组中选择一个或多个光源。应当注意,由于该方法涉及医学图像的重建,因此光源可以不是真实光源,而是通常用于3D渲染的合成光源。这种光源本身在本领域中是公知的。
为了应用根据一个实施例的方法,必须“提供”多个光源,即,必须清楚最初使用什么类型的光源以及一种类型的多少。这可以通过由预定义或用户输入所进行的偏好来实现。然而,光源也可以通过自动地选择或计算它们来提供。例如,可以预定义总是使用具有给定特性(光锥的方向和形状、强度)的主光。当该方法检测到存在比预定义阈值暗并且不能通过修改主光的位置而被柔化的阴影时,可以自动地添加辅助光或点光。
术语“布置”(或“放置”)意味着确定多个光源的取向和/或位置。这意味着至少在非全向光源的情况下,提供了感兴趣区域的环境中的光源的位置(也可以包括无限距离)以及该环境中的光源的取向,即(多个)光束的(多个)主方向的向量。
例如,光照图(存储模拟照明环境的信息的预先渲染的纹理)可以被定位,因为光照图的取向被修改,使得光照图的最亮区域的对准对应于计算的光的方向。该布置然后是围绕该体积的光照图的取向的定义,即光线的取向。
关于主光,可以假定为定向光或正面光。还假设定向光是无限远的,再次仅需要计算平行光线的取向。对于正面光,位置是重要的,因为光强度与距离的平方成反比。
关于点光,其模拟了从空间中的单个无限小的点以特定取向辐射的光。当不存在所有ROI都可以被主光照明的配置时,特别选择照亮特定ROI。然后,点光优选地放置在给定ROI附近并且瞄准它的方向。
关于均匀的全向光源,不需要定义取向,因为光是在所有方向上发出的。然而,其位置必须定义。
关于辅助光(和点光),优选地,在确定多个可能布置的过程中,例如在嵌套环中考虑不同强度和/或照明角度,对于不同取向来测试不同强度和/或照明角度。
辅助光通常用于照亮场景中的某些部分,否则这些部分将保持黑暗。这些光优选地被建模成是具有位置和方向以及特定张角的点光,使得仅在特定半径内的物体可被照亮。对于这些光,在增加所覆盖的表面积时,强度与到被照射的物体的距离的平方成反比(平方反比定律)。知道了需要被照亮的区域(在ROI中)的尺寸和到辅助光源的距离,就可以计算出适当的强度。如果辅助光(作为点光)被例如放置在距ROI的距离d处,则它将以强度I0/A照亮大小为4πd2的表面区域A,其中,I0是辅助光的初始强度,并且它被设置为值I0<1(相对于主光的强度)。
关于确定光源的多个可能布置的重要动作,确定了两个或更多个可能布置。布置应该是不同的。优选地使用本领域公知的反向照明技术来进行确定。
为了进行确定,使用基于3D图像(在3D图像中提供或计算)的深度信息和关于该图像中的感兴趣区域的空间信息(澄清3D图像中ROI的位置)来确定感兴趣区域和阴影的周围结构的位置、取向和形状。关于虚拟摄像机的空间信息被用来确定虚拟摄像机如何看到感兴趣区域,以及还有例如哪些阴影对于虚拟摄像机是相关的,因为被前面的结构隐藏的阴影不能被虚拟摄像机看到,并且因此是次要相关的。
可以基于具体应用于这些区域的某种感知度量来确定每个ROI周围的图像的视觉信息的质量,包括将这些区域与图像的其余部分进行比较的暗程度。这些度量中的一些可以包括ROI周围的平均照度。Shacked等人在“Automatic Lighting Design Using aPerceptual Quality Metric(使用感知质量度量的自动照明设计)”中更详细地描述了其它度量。
ROI中的阴影的“质量”可以通过辐射或亮度和/或被阴影化的区域和/或ROI的特殊点是否被阴影覆盖来量化。为了确定有效的布置,(多个)ROI中的阴影的量化的“质量”可以与预定义阈值(可以是恒定值或者值的映射,每个值用于ROI中的不同位置)进行比较。在这种情况下,低于该阈值,例如阴影比定义的阈值更亮或更小并且不覆盖ROI中的特定点,该布置是有效的布置。而且,(多个)ROI中阴影的“质量”可以与图像的其他区域的光亮度、图像的最暗/最亮/中值进行比较。
优选地,对于光源的可能位置存在某些边界条件,并且不使用感兴趣区域周围的整个空间。例如,主光(或光照图的天空)的位置的优选边界条件是由ROI定义的截锥体(即,金字塔),尤其是加上ROI周围的预定空间(例如,边界框),其被用作金字塔的顶点,以及朝向虚拟摄像机(或虚拟观察者)的取向或方向。点光和辅助光可放置在任何地方,甚至就在该体积内。
关于优先级排序,存在取决于图像中所示的医学场景和所渲染图像所预期的检查的许多可能性。优先级排序尤其可以在摄影中被采用。例如,应当避免主光从右上照明ROI或者应当避免摄像机视图方向上的光以避免平图像的要求。可以通过选择最靠近摄像机到物体轴放置的辅助光(以避免产生可见阴影)来实现对辅助光的优先级排序。然而,优先级排序也可以取决于利用这种布置产生的阴影的尺寸或着色。
在实践中,可以通过使用摄像机方向上的ROI的截锥体来执行优先级排序。由于截锥体的交点通常不是单个点,因此可以以使得光的方向不平行于视图方向的方式来拾取所得到的交点物体的顶点Vi,以避免平图像。对于每个顶点vi,可以计算将vi与每个ROI联合的平均向量,并且还可以计算这些向量与视图方向的点乘积。可以选择最小点乘积作为最高优先级。定向光可以用于主光,因此到ROI的距离不重要。
所选择的布置可以被输出到渲染具有阴影的3D图像的设备或者用于直接渲染3D图像,其中,当通过渲染算法使用所选择的布置时,其也可以被认为是输出。
根据一个实施例的用于医学可视化的光布置的系统,尤其是用于控制医学成像系统以设置最佳光布置的系统,包括以下组件:
-数据接口,其被设计成接收医学3D图像、关于该图像中的感兴趣区域和虚拟摄像机的空间信息,以及优选地关于多个预定义人造光源的信息,
-确定单元(处理器),其被设计用于通过使用基于3D图像的深度信息连同关于该图像中的感兴趣区域的空间信息和关于虚拟摄像机的空间信息来确定用于光源的多个可能布置,其中,有效布置是其中感兴趣区域上的阴影低于预定义阈值的那些布置,
-优先级排序单元(处理器),其被设计用于对所确定的布置进行优先级排序,
-输出单元(用户接口),其被设计用于选择具有最佳优先级排序的布置并且输出所选择的布置。
所述系统可以优选地另外包括渲染单元(渲染器),其被设计用于使用光源的所选布置来渲染具有阴影的图像。
根据一个实施例的用于控制医学成像系统的控制设备(控制器)包括上述系统。替代地或附加地,控制设备被设计成执行上述方法。所述控制设备可以包括用于控制医学成像系统的组件的附加单元或设备。
根据一个实施例的医学成像系统,例如磁共振成像系统(MRI)或计算机断层摄影系统(CT),包括上述控制设备。
总之,光源的布置控制了阴影和高亮的位置。然而,阴影也是重要的,因为阴影提供了关于物体的形状、相对位置和表面特性的基本视觉线索。阴影产生深度感,这是用于捕获逼真的图像的关键线索。但是,如果光没有被正确设置,那么,阴影也会隐藏数据的重要细节。这可以通过选择由实施例实现的光源的最佳布置来克服。
上述系统或控制设备的一些单元或模块可以完全或部分地实现为在系统或控制设备的处理器上运行的软件模块。主要以软件模块形式的实现可以具有这样的优点,即,可以以相对小的努力来更新已经安装在现有系统中的应用,以安装和运行本申请的这些单元。该目的还通过具有计算机程序的计算机程序产品来实现,该计算机程序可直接加载到系统的设备或医学成像系统的控制设备的存储器中,并且包括程序单元,以在控制设备或系统执行程序时执行该方法的动作。除了计算机程序之外,这样的计算机程序产品还可以包括诸如文档和/或附加组件之类的其他部分,以及诸如硬件密钥(软件狗等)之类的硬件组件,以便于访问软件。
诸如记忆棒、硬盘或其他可运输或永久安装的载体的非暂时性计算机可读介质可以用于运输和/或存储计算机程序产品的可执行部分,使得这些部分可以从控制设备或系统的处理器单元(处理器)读取。处理器单元可以包括一个或多个微处理器或其等效物。
如在以下描述中所揭示的,从属权利要求给出了特别有利的实施例和特征。不同权利要求类别的特征可以适当地组合以给出这里未描述的其他实施例。
优选地,通过自动检测提供3D图像中感兴趣区域的空间信息。关于ROI,空间信息尤其可以经由分割算法或使用提供关于注意焦点的信息的眼睛跟踪系统来提供。优选地,基于外科器械的用户选择、自动分割、数据分析、用户凝视跟踪或3D跟踪来识别ROI。
优选地,在第一次确定光源的多个可能布置之后,额外提供多个另外的光源,并且执行用于附加光源的多个可能布置的第二次确定。这优选地意味着确定了所有光源的布置(在开始提供的光源和新添加的光源,这在当不能找到良好布置时是有利的)。优选地,在对于特定ROI不能找到位置的情况下(例如,如果在ROI周围存在环境遮挡)添加点光。点光应当总是要被引导到具有最令人讨厌的阴影的区域。
“良好”布置是其中所有相关ROI(由该方法所考虑的ROI)被照亮同时提供良好总体照明的布置。“良好”的光布置应当例如将主光置于截锥体(每个截锥体由ROI在摄像机的方向上定义)的交点内。如果不存在这种布置,则要为未良好照明的这种ROI添加辅助光源。可以通过确定ROI中阴影的强度和/或面积并将该值与预定义阈值进行比较来量化质量。
然而,第二确定是基于由第一确定所确定的多个布置也可以是有利的。这意味着,对于最初提供的光源所发现的布置没有改变,并且在这些初始布置中仅包括新添加的光源作为可能的新布置。布置的总数可以大于第一次确定之后的布置的总数,因为对于任何“第一布置”,都可能会找到新添加的光源的若干布置。
优选地,基于来自摄影的准则执行优先级排序动作。优选地,对于照亮大多数感兴趣区域的场景的右侧上方和朝向右侧的位置(在该布置中),为光照图的天空或主光确定高优先级。替代地或附加地,为虚拟摄像机方向上的主光确定低优先级(例如,可以对所有光源有效)。这应该避免以避免平图像。替代地或附加地,当辅助光被放置为最靠近摄像机到物体轴时,为辅助光给予高优先级,以避免产生可见阴影。替代地或附加地,对于来自前方的光源给予低优先级,除非它是照亮所有ROI的唯一方式。
优选地,至少一个光源是高动态范围(HDR)光探头。这对于通过照亮场景和产生自然的外观图像来增强真实性是有利的。替代地或附加地,至少一个光源是全向光源。这对于照亮阴影是有利的。
优选地,使用反向照明技术来自动地将光源布置在场景中,尤其是定向光照图或放置主光源。关于感兴趣区域,优选地使用ROI形心作为视点,其中,截锥体朝向摄像机位置。因此,对于感兴趣区域,计算感兴趣区域的形心作为视点,并且计算朝向虚拟摄像机的位置的截锥体。所计算的深度信息被用于检测哪些光位置将会在ROI上生成阴影。
对于多个ROI,重复该过程,跟踪关于哪些光位置照亮大多数ROI。对于较大的ROI,可以围绕ROI放置边界框,并且使用边界框的形心或可见拐角重复该方法的过程。因此,优选地,针对3D图像中的多个感兴趣区域和/或针对形成一个感兴趣区域的多个断开的物体执行该方法。因此,确定了多个区域的光布置。这优选地通过围绕感兴趣区域和/或物体放置边界框并且通过使用边界框的形心或可见拐角重复确定动作来执行。
优选地,光照图被用作光源。光照图的这种特定实施例可以被认为是“内部”光源的非改变设置或固定光分布。优选地,通过确定光照图的光或照明的内部布置,不改变该光照图的光或照明的内部布置,但是在搜索有效(或“良好”)布置时确定该光照图的不同取向。因此,在实践中,光照图可以被转动,使得较亮的部分(通常是天空)指向正确的方向。这可以类似于计算合适的主光方向来完成。
优选地,外科器械是感兴趣区域。当需要该设备的3D跟踪和定位时,这是特别有利的,尤其是对于虚拟现实、医疗介入和/或外科计划模拟。
该方法也可以包括“云计算”的要素。在“云计算”技术领域中,IT基础设施是通过数据网络来提供的,例如存储空间或处理能力和/或应用软件。用户和“云”之间的通信是通过数据接口和/或数据传输协议来实现的。
在“云计算”的背景下,在该方法的优选实施例中,经由数据信道(例如数据网络)向“云”提供数据发生。该“云”包括(远程)计算系统,例如,通常不包括用户的本地机器的计算机集群。该云尤其可以由医疗设施提供,该医疗设施也提供医学成像系统。特别地,图像采集数据经RIS(放射学信息系统)或PACS(图片归档和通信系统)被发送到(远程)计算机系统(“云”)。
在系统的一个优选实施例的范围内,上述单元存在于“云”侧。优选的系统还包括经由数据信道(例如,数据网络,特别配置为RIS或PACS)连接到系统的本地计算单元(计算机)。本地计算单元包括至少一个数据接收接口以接收数据。此外,优选地,本地计算机附加地具有传输接口,以便向系统发送数据。
避免了遮蔽重要区域。在医学可视化中,诸如骨骼的许多结构经常会在其他重要结构上投射出阴影。光参数的适当设置在生成提供复杂解剖结构的清楚图示的图像时是基本的。
代替生成具有良好对比度的平衡图像,当前实施例的方法是基于体积数据内的感兴趣区域的。主要目的之一是向重要的解剖结构提供最佳照明,以便产生对医学诊断或治疗有用的图像。
附图说明
本发明的其它目的和特征将从结合附图考虑的以下详细描述中变得显而易见。然而,应当理解,附图仅仅是为了说明的目的而设计的,而不是作为对本发明的限制的定义。
图1示出具有根据一个实施例的系统的简化MRI系统。
图2示出优选方法的过程流程的框图。
图3示出一个照明示例。
图4示出基于ROI位置的一个示例性反向照明。
图5示出用于两个给定ROI的光设计的示例性截锥体。
图6示出由光照图照亮的一个示例性渲染图像。
图7示出由正面光照明照亮的一个示例性渲染图像。
图8示出由右上照明照亮的一个示例性渲染图像。
图9示出由光照图和主光照亮的一个示例性渲染图像。
图10示出由光照图、主光和辅助光照亮的一个示例渲染图像。
图11示出由光照图、主光和点光照亮的一个示例性渲染图像。
图12示出在一个实施例中在反向照亮期间使用具有截锥体的两个ROI。
在附图中,相同的标号始终表示相同的物体。图中的物体不一定按比例渲染。
具体实施方式
图1示出了磁共振成像系统1(“MRI系统”)的示意性表示。MRI系统1包括具有检查空间3或患者管舱的实际磁共振扫描仪(数据采集单元)2,其中患者或测试人员位于驱动床8上,实际检查物体位于该驱动床的主体处。
磁共振扫描仪2通常装备了基本场磁体系统4、梯度系统6以及RF发射天线系统5和RF接收天线系统7。在所示的示例性实施例中,RF发射天线系统5是永久安装在磁共振扫描仪2中的全身线圈,与之相比,RF接收天线系统7被形成为用于布置在患者或测试物体上的并行成像的多个局部线圈(这里仅由单个局部线圈来表示)。
基本场磁体系统4是以典型的方式设计的,使得其在患者的纵向方向上,即沿着磁共振扫描仪2的纵轴产生在z方向上前进的基本磁场。梯度系统6通常包括单独可控的梯度线圈,以便能够彼此独立地切换(激活)x方向、y方向或z方向上的梯度。
这里所示的MRI系统1是一种具有患者管舱的全身系统,患者可以完全进入该患者管舱中。然而,原则上可以使用其他MRI系统,例如具有侧向开口的C形外壳,以及在其中仅可以放置一个身体部分的较小磁共振扫描仪。
下面,我们将MRI系统作为医学成像系统的示例。显然,除了MRI数据之外,还可以使用来自CT、超声或其他医学成像系统的图像。
另外,MRI系统1具有用于控制MRI系统1的中央控制设备(控制器)13。该中央控制设备13包括用于测量序列控制的序列控制单元(序列发生器(sequencer))14。利用该序列控制单元14,可以根据所选择的脉冲序列或分别根据一系列多脉冲序列来控制一系列射频脉冲(RF脉冲)和梯度脉冲,以在测量会话内采集患者O的磁共振图像。例如,可以在测量或控制协议内预先确定这一系列脉冲序列。用于不同测量或测量会话的不同控制协议通常存储在存储器19中,并且可以由操作者选择(并且根据需要可能修改),然后用于实施测量。
为了输出脉冲序列的各个RF脉冲,中央控制设备13具有射频发射设备(发射器)15,其产生并放大RF脉冲,并通过适当的接口(未详细示出)将其馈送到RF发射天线系统5中。为了控制梯度系统6的梯度线圈,控制设备13具有梯度系统接口16。序列控制单元14以适当的方式与射频发射设备15和梯度系统接口16通信以发射脉冲序列。
此外,控制设备13具有(同样以合适的方式与序列控制单元14通信的)射频接收设备(接收器)17,以便采集用于各个测量的磁共振信号(即原始数据),所述磁共振信号在脉冲序列的范围内以协调的方式从RF接收天线系统7上接收。
重建单元(计算机)18接收所采集的原始数据,并从其重建磁共振图像数据,以用于测量。这种重建通常是基于在相应的测量或控制协议中指定的参数来执行的。例如,图像数据然后可以被存储在存储器19中。
中央控制设备13的操作可以经由具有输入单元和显示单元9的终端10发生,由此整个MRI系统1也可以由操作者通过该终端进行操作。MR图像也可以在显示单元(显示屏)9上显示,并且测量可以由输入单元(可能与显示单元9组合)规划和开始,并且特别地,可以利用如上所述的适当的脉冲序列系列来选择(并且可能修改)适当的控制协议。
控制设备13包括用于医学可视化的自动光布置的系统12,其被设计成执行根据本发明的方法。系统12包括以下组件:
数据接口20,其被设计成接收医学3D图像D,这里具有深度信息DI、关于该图像中感兴趣区域R的空间信息和关于虚拟摄像机C的空间信息,并且尤其还有关于多个预定义人造光源L的信息(例如,来自存储器或用户输入;参见解释根据本发明的方法的以下附图)。还可以基于ROI和初始主光将它们照亮的程度来计算(在进行的过程中)多个光。数据接口还可以用于发送从系统12输出的数据。数据接口20可以设计成从用户接口、PACS或其它数据线接收数据,并且可以包括设计成通过不同数据信道接收数据的不同组件。
确定单元21,其被设计用于通过使用基于3D图像D的深度信息DI以及关于该图像中的感兴趣区域R的空间信息和关于虚拟摄像机C的空间信息来确定光源L的多个可能布置,其中,有效布置是感兴趣区域R上的阴影S低于预定义阈值的那些布置。
优先级排序单元22,其被设计用于对所确定的布置进行优先级排序。
输出单元23,其被设计用于选择具有最佳优先级排序的布置并输出所选择的布置。输出单元可以经由数据接口20输出数据。
渲染单元,其被设计用于渲染用光源的所选择的布置照明并且具有由照明产生的阴影的图像,例如,利用公知的渲染过程。
系统的组件优选地表现为软件模块。
根据一个实施例的MRI系统1,并且特别是控制设备13,可以具有多个附加组件,这些组件没有详细示出,但是通常存在于这样的系统中,例如网络接口,以便将整个系统与网络连接,并且能够交换原始数据和/或图像数据,或者分别交换参数映射,但是也能够交换附加数据(例如患者相关数据或控制协议)。
通过RF脉冲的辐射和梯度场的生成来获取适当的原始数据,并且根据原始数据重建MR图像的方式对于本领域技术人员是已知的,因此不需要在此详细解释。
图2示出了根据本发明的用于医学可视化的自动光布置的一个优选方法的过程流程的框图。
在动作I中,提供了医学3D图像D,这里具有深度信息DI、关于该3D图像D中的感兴趣区域R的空间信息以及关于虚拟摄像机C的空间信息。这可以通过用户输入、经由PACS访问图像数据或3D图像中的测量来完成。如果感兴趣,可以选择不止一个区域,例如器官和外科器械。
应当注意,由于(数字)图像的渲染是目标,因此感兴趣区域R以及虚拟摄像机C仅是与该3D图像D相关的数据集。
3D图像D中的感兴趣区域R的空间信息可以特别地通过自动检测来提供,优选地通过基于外科器械的自动分割、数据分析、用户凝视跟踪或3D跟踪来检测区域,特别地其中高曲率的区域优选地经由分割算法或使用眼睛跟踪系统被检测并被定义为感兴趣区域。
此外,提供了关于多个预定义的人造光源L的信息,即,应当使用什么类型的光源和一种类型的多少个光源的信息。这种提供可以通过从存储器(例如RAM、EEPROM、硬盘、MMC)读取数据来实现,尤其是通过偏好、计算数据或通过用户输入来实现。例如,至少一个光源L是高动态范围光探头和/或全向光源。而且,光照图可被用作光源L。三点照明是优选的。
在动作II中,通过使用基于3D图像的深度信息DI以及关于该图像中的感兴趣区域R的空间信息和关于虚拟摄像机C的空间信息来确定光源L的多个可能布置。有效布置是其中感兴趣区域R上的阴影S低于预定义阈值的那些。
在该示例中,存在这样的可能性(参见具有两个虚线箭头的动作II下面的框),即在第一次确定光源L的多个可能布置之后,可以另外提供多个另外光源L,特别是点光,并且针对另外提供的多个光源L执行多个可能布置的第二次确定。第二次确定可以是基于由第一次确定而确定的多个布置。
优选地,可以应用反向照明技术来自动地布置光源L,优选地定向光照图或放置主光源。这种反向照明技术在本领域中是公知的,通常用于从图像中推断出信息。对于感兴趣区域R,可以将感兴趣区域的形心计算为视点,并且可以计算朝向虚拟摄像机C的位置的截锥体。
在动作III中,确定的布置被优先级排序。基于来自摄影的准则执行优先级排序的动作。
针对高优先级的可能准则是:
a)(对于主光或光照图的天空)以具有在场景的右侧上方并朝向场景的右侧的位置,该位置照亮了感兴趣区域的大部分,或者
b)(对于辅助光源)放置在最靠近摄像机到物体的轴。
针对低优先级的可能准则是:
a)在虚拟摄像机的方向上照射的光,或
b)光源从ROI的前面照射,除非它是照亮所有感兴趣区域的唯一方式。
在动作IV中,从所确定的布置中选择具有最佳优先级的布置。
在动作V中,基于光源的选定布置而用阴影渲染图像。
可以优选地通过将边界框B放置在感兴趣区域R、R1周围并且通过使用边界框B的形心或可见拐角重复确定动作,来针对3D图像D中的多个感兴趣区域R、R1(例如,参见图5)执行该方法。
图3示出了一个照明示例。包括两个不同物体(虚线框)的感兴趣区域由光源L照明并被虚拟摄像机C观看。如通过粗黑线可以看到的,当物体完全或部分地遮挡了光源L时,会生成阴影S。
图4示出了基于ROI位置的反向照明。这种反向照明技术用于自动地定向光照图或将主光源放置在场景中(即,布置光源)。
图5示出了两个感兴趣区域R(圆形)。在初始动作期间,ROI形心被用作视点,其中,截锥体看向虚拟摄像机C。所计算的深度信息被用于检测哪些光位置将会在ROI上生成阴影。对于第二ROI,重复该过程,跟踪哪些光位置照亮两个ROI中的大部分。对于较大的ROI,边界框B(如这里所示)可以被放置在ROI周围,并且该方法可以使用边界框的形心或可见拐角来执行。
一旦确定了光源的潜在布置,就可以遵循来自摄影的准则来对它们进行优先级排序。例如,应当避免正面光,除非它是照亮所有ROI的唯一方式。使用这些准则,可以将最高优先级给予照亮大多数给定ROI场景的右侧上方和朝向右侧的位置。
图6到11示出了光源L的不同布置的结果。在所有这些附图中,示出了作为ROI的围绕颈部的血管的同一图像被不同布置的光来渲染的结果。
图6示出了通过使用默认光照图来照亮天空在顶部的场景而渲染的图像。尽管光照图几乎在所有方向上照亮场景,但是颈部周围的脉管系统从诊断目的来看仍然看起来相当暗。
因此,可以看出,即使在这些全向光源的情况下,体积中的一些区域仍可能被阴影隐藏。例如,颈部周围的脉管系统会由于颚骨投射的阴影而无法区分。尽管该图像具有高亮、中间色调和阴影区域的良好平衡,但是其对于具有血管状况的患者的准确诊断是无效的。
图7示出了使用正面照明的渲染图像。这种配置会产生无遮蔽阴影,但是所得到的图像相当平。
图8示出了由右上照明照亮的渲染图像,其可以产生相当好的3D外观,但是严重的阴影。
图9示出了通过放置具有顶部天空的光照图和主光来照亮脉管系统而生成的渲染图像,从而避免了ROI上的硬阴影。
图10示出了由光照图、主光和辅助光照亮的渲染图像。图像使用了与图9相同的配置,加上辅助光以使阴影看起来更柔和。
图11示出了由光照图、主光和点光照亮的渲染图像。该图像使用了与图9相同的配置,加上放置在颅骨内的点光来照亮给定ROI的背面,从而产生了发光效果。
偶尔,由于不能保证存在其中所有(整个)ROI都可以被主光照明的配置,因此可以在ROI周围发现环境遮挡。图7的配置(其中主光位于摄像机后面)提供较少阴影,但应避免此配置,因为其会产生平图像。来自右上(图8)的主光或如图6中的照明提供良好的3D印象,但是遮挡了重要区域的严重的阴影。为了使这些被遮蔽区域变亮,可以使用点光或辅助光。
ROI的环境遮挡可基于来自摄像机视图的深度图来近似。当发现环境遮挡非常显著时,可以在ROI后面放置点光(参见图11)。
在图12中,一起示出了两个ROI与它们的截锥体。为了更好的概述,从上面示出场景。可以通过使用摄像机方向上的ROI的截锥体来执行优先级排序。由于截锥体的交点通常不是单个点,因此可以使得光的方向不平行于视图方向的方式来拾取所得到的交点物体的顶点Vi,以避免平图像。对于每个顶点vi,都可以计算将vi与每个ROI联合的平均向量,并且还可以计算这些向量与视图方向的点乘积。可以选择0.707附近的点乘积作为最高优先级。这对应于光与摄像机之间的角度更接近45°。定向光可被用作主光,因此到ROI的距离不重要。
尽管已经以优选实施例及其变型的形式公开了本发明,但是应当理解,在不脱离本发明范围的情况下,可以对其进行许多附加的修改和变型。为了清楚起见,应当理解,贯穿本申请使用的“一”或“一个”不排除多个,并且“包括”不排除其他动作或要素。提及“一个单元”或“一个设备”并不排除使用多于一个单元或设备。
Claims (17)
1.一种用于医学可视化的自动光布置的方法,所述方法包括:
提供医学3D图像,
提供关于该3D图像中的感兴趣区域的空间信息和关于虚拟摄像机的空间信息,
使用基于所述3D图像的深度信息连同关于该医学3D图像中的所述感兴趣区域的空间信息和关于所述虚拟摄像机的空间信息来确定用于光源的多个布置,其中:(a)所述布置中的有效布置是感兴趣区域上的阴影低于预定义阈值的那些布置,和/或(b)对所述布置的确定是基于具体应用于感兴趣区域的多个预定义感知度量的,
对所确定的布置进行优先级排序,以及
选择具有最大优先级排序的布置。
2.根据权利要求1所述的方法,其中,所述3D图像中的所述感兴趣区域的空间信息是通过自动检测来提供的。
3.根据权利要求2所述的方法,其中,所述自动检测包括基于外科器械的自动分割、数据分析、用户凝视跟踪或3D跟踪来检测区域,其中,高曲率的区域是经由数据分析来检测的并被定义为感兴趣区域。
4.根据权利要求1所述的方法,其中,在用于所述光源的多个布置的第一确定之后,另外提供多个另外的光源,并且针对所述另外提供的多个光源执行多个布置的第二确定。
5.根据权利要求4所述的方法,其中,所述另外的光源中的一个包括点光,其中,所述第二确定是基于由所述第一确定所确定的多个布置的。
6.根据权利要求1所述的方法,其中,基于来自摄影的准则执行所述优先级排序的动作。
7.根据权利要求6所述的方法,其中,来自摄影的准则包括:
为用于照亮大部分感兴趣区域的场景的右侧上方和朝向右侧的位置的光照图的天空或主光确定高优先级,
为虚拟摄像机方向上的光确定低优先级,
对于最靠近摄像机到物体轴放置的辅助光给予高优先级,以及
对于来自前方的光源确定低优先级,除非来自前方的光源是照亮所有感兴趣区域的唯一方式。
8.根据权利要求1所述的方法,其中,至少一个光源是高动态范围光探头和/或全向光源。
9.根据权利要求1所述的方法,其中,通过在所述感兴趣区域和/或所述物体周围放置边界框并且通过使用所述边界框的形心或可见拐角重复所述确定动作,针对所述3D图像(D)中的多个感兴趣区域和/或针对形成一个感兴趣区域的多个断开的物体执行所述方法。
10.根据权利要求1所述的方法,其中,光照图被用作所述光源中的一个,所述光照图具有固定的光分布,并且其中,所述光照图的光或照明的内部布置不通过确定其布置而改变,而是在对布置的搜索中确定该光照图的不同取向。
11.根据权利要求1所述的方法,其中,应用反向照明技术以自动地定向光照图或放置主光源。
12.根据权利要求1所述的方法,其中,对于所述感兴趣区域,所述感兴趣区域的形心被计算为视点,并且朝向所述虚拟摄像机的位置来计算截锥体。
13.根据权利要求1所述的方法,其中,外科器械是所述感兴趣区域。
14.根据权利要求1所述的方法,还包括提供关于多个预定义人造光源的信息。
15.一种用于医学可视化的自动光布置的系统,所述系统包括:
数据接口,被配置为接收医学三维(3D)图像、关于所述医学3D图像中的感兴趣区域的空间信息、关于虚拟摄像机的空间信息以及关于多个预定义人造光源的信息,以及
处理器,被配置为:使用基于所述3D图像的深度信息连同关于所述感兴趣区域的空间信息和关于所述虚拟摄像机的空间信息来确定用于所述光源的多个可能布置,其中,所述可能布置的有效布置是所述感兴趣区域上的阴影低于预定义阈值的那些布置,和/或其中,对可能布置的确定是基于具体应用于所述感兴趣区域的多个预定义感知度量的,所述处理器被配置为对所述可能布置进行优先级排序,并且所述处理器被配置为选择具有最佳优先级排序的可能布置并输出所选择的布置。
16.根据权利要求15所述的系统,其中,所述处理器是医学成像系统的控制器。
17.一种非暂时性计算机可读介质,其上存储有可由处理器读取和执行的指令,所述指令包括:
使用基于医学三维(3D)图像的深度信息连同关于所述医学3D图像中的感兴趣区域的空间信息和关于虚拟摄像机的空间信息来确定用于光源的多个布置,其中:(a)所述布置中的有效布置是感兴趣区域上的阴影低于预定义阈值的那些布置,和/或(b)对所述布置的确定是基于具体应用于感兴趣区域的多个预定义感知度量的,
对所确定的布置进行优先级排序,以及
选择具有最大优先级排序的布置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP21161885.5A EP4057233A1 (en) | 2021-03-10 | 2021-03-10 | System and method for automatic light arrangement for medical visualization |
EP21161885.5 | 2021-03-10 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115131427A true CN115131427A (zh) | 2022-09-30 |
Family
ID=74870781
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210232039.0A Pending CN115131427A (zh) | 2021-03-10 | 2022-03-10 | 用于医学可视化的自动光布置的系统和方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US20220287669A1 (zh) |
EP (1) | EP4057233A1 (zh) |
CN (1) | CN115131427A (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019045144A1 (ko) * | 2017-08-31 | 2019-03-07 | (주)레벨소프트 | 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법 |
JPWO2021149526A1 (zh) * | 2020-01-23 | 2021-07-29 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2007048197A1 (en) * | 2005-10-26 | 2007-05-03 | The University Of Sydney | Systems for providing a 3d image |
US10607393B2 (en) * | 2017-03-10 | 2020-03-31 | Siemens Healthcare Gmbh | Consistent 3D rendering in medical imaging |
-
2021
- 2021-03-10 EP EP21161885.5A patent/EP4057233A1/en active Pending
-
2022
- 2022-01-24 US US17/648,698 patent/US20220287669A1/en active Pending
- 2022-03-10 CN CN202210232039.0A patent/CN115131427A/zh active Pending
Also Published As
Publication number | Publication date |
---|---|
EP4057233A1 (en) | 2022-09-14 |
US20220287669A1 (en) | 2022-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9922452B2 (en) | Apparatus and method for adjusting brightness of image | |
CN110785674B (zh) | 医学成像系统、操作医学成像系统的方法及计算机可读介质 | |
US10692272B2 (en) | System and method for removing voxel image data from being rendered according to a cutting region | |
US20110254845A1 (en) | Image processing method and image processing apparatus | |
CN115131427A (zh) | 用于医学可视化的自动光布置的系统和方法 | |
US20140192054A1 (en) | Method and apparatus for providing medical images | |
US9741161B2 (en) | Method, system, and medical imaging device for shading with multiple light sources | |
JP5793243B2 (ja) | 画像処理方法および画像処理装置 | |
US20220343589A1 (en) | System and method for image processing | |
US9147250B2 (en) | System and method for automatic magnetic resonance volume composition and normalization | |
CN110458834B (zh) | 一种乳腺肿瘤图像处理系统、方法及装置 | |
CN114092626A (zh) | 用于使三维对象可视化的方法和可视化系统 | |
CN111145336B (zh) | 图像绘制方法及装置 | |
AU2019431324B2 (en) | VRDS 4D medical image multi-device Ai interconnected display method and product | |
AU2019431568B2 (en) | Method and product for processing of vrds 4d medical images | |
US11259782B2 (en) | Medical imaging data processing apparatus and method | |
Hombeck et al. | Distance Visualizations for Vascular Structures in Desktop and VR: Overview and Implementation. | |
CN111403007A (zh) | 一种超声成像的优化方法、超声成像系统和计算机可读存储介质 | |
CN111724388B (zh) | 医学图像数据的可视化 | |
US20240037731A1 (en) | Image processing method and apparatus | |
EP4273811A1 (en) | Technique for optimizing rendering parameters of overlays of medical images | |
CN117994409A (zh) | 一种内窥镜图像三维重建方法、装置及内窥镜系统 | |
CN118038487A (zh) | 识别模型的训练方法、身体部位识别方法、装置及介质 | |
JP2016016072A (ja) | 画像処理装置及び立体画像表示装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |