CN112541882A - 医学体积渲染中的隐式表面着色 - Google Patents

医学体积渲染中的隐式表面着色 Download PDF

Info

Publication number
CN112541882A
CN112541882A CN202010995886.3A CN202010995886A CN112541882A CN 112541882 A CN112541882 A CN 112541882A CN 202010995886 A CN202010995886 A CN 202010995886A CN 112541882 A CN112541882 A CN 112541882A
Authority
CN
China
Prior art keywords
rendering
roughness
renderer
triggered
implicit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010995886.3A
Other languages
English (en)
Inventor
克劳斯·恩格尔
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Siemens Healthcare GmbH
Original Assignee
Siemens Healthcare GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Siemens Healthcare GmbH filed Critical Siemens Healthcare GmbH
Publication of CN112541882A publication Critical patent/CN112541882A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/06Ray-tracing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/005General purpose rendering architectures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/08Volume rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • G06T15/506Illumination models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/50Lighting effects
    • G06T15/80Shading
    • G06T15/83Phong shading
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • G06F3/04847Interaction techniques to control parameter settings, e.g. interaction with sliders or dials
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2210/00Indexing scheme for image generation or computer graphics
    • G06T2210/41Medical
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03Recognition of patterns in medical or anatomical images

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Graphics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Geometry (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Generation (AREA)
  • Image Processing (AREA)

Abstract

本公开涉及医学体积渲染中的隐式表面着色。在一个方面,本发明涉及用于基于蒙特卡洛路径追踪算法MCPT使用影像渲染方法来渲染来自接收到的体积数据的医学体积图像的方法,其中,MCPT算法使用至少一个基于微面的双向反射率分布函数BRDF以计算光如何在隐式表面处反射的概率,概率用于对隐式表面进行着色。该方法包括:检测(S1)是否触发了表面散射事件,并且如果触发了表面散射事件,则:通过应用噪声函数扰动相应的接收到的体积数据来修改(S2)BRDF中的局部梯度的计算以模拟隐式表面的粗糙度;对隐式表面进行着色(S3)以渲染接收到的体积数据。

Description

医学体积渲染中的隐式表面着色
技术领域
本发明涉及用于基于影像渲染来渲染医学体积图像的方法和渲染装置、系统以及计算机程序。
背景技术
在最近的几十年期间,医学成像已经影响了医学实践,有助于极大地改善疾病的诊断、治疗和随访(follow-up)。图像引导的微创手术在医院中变得越来越普遍,取代了常规的外科手术并且实现了较快的康复和较少的术后并发症。我们预计这种趋势将继续,医学成像在将精准医学应用于临床实践方面发挥着越来越重要的作用。通过能够表征患者的解剖结构、生理和代谢,医学成像能够实现精准、个性化的手术以及预测性的、患者特定的治疗选择和交付。
为了医学诊断的目的,可以例如由计算机断层扫描仪或磁共振成像扫描仪生成体积数据,如CT或MRI/MRT图像。经训练的医务人员可以解释“图像切片”并且可以说明他们的发现,例如可能期望使图像信息用于诊断或计划的外科手术。
为此,为了以即使未经训练的人也可以识别体积中的感兴趣的元素的方式显示不同来源(如,CT、MRI、PET或其他图像生成形式)的体积数据中包含的信息,在WO 2016/045701 A1中已经提出应用被称为“影像(cinematic)渲染”的方法来显示作为“3D图像”的信息,即三维体积数据的(例如,显示在计算机监视器上的)二维视图,从而以非常逼真的方式显示感兴趣的对象。在K.Engel,Real-Time Monte-Carlo Path Tracing of MedicalVolume Data,GPU Technology Conference,APRIL 4–7,2016,CA,USA,San JoseConvention Center(2016)中可以找到有关影像渲染技术的更多细节。这种技术允许观看者从任何视点或以任何细节水平观察三维“对象”(例如,头部、胸部、腹部等),并且清楚地识别出不同的对象或元素例如骨骼、肌肉、血管、治疗性无机材料例如植入物等。
影像渲染算法或渲染器的结果是对人脑来说通常更容易解释的物理上合理的图像,这是因为大脑被训练以解释最细微的着色提示,以重建形状和深度信息。在基于更简单的几何计算例如射线投射的计算机生成的图像中经常缺少这样的着色提示。特别地,影像渲染实时计算可见光子与扫描的患者解剖结构的相互作用。该算法通过沿每个像素数百或数千个光子路径的光传输模拟使用蒙特卡洛路径追踪(Monte Carlo path tracing)方法来生成照片级真实乃至超逼真的图像,光传输模拟使用随机过程通过解剖结构在迭代中实现,以渲染三维图像中的体积数据。
在该技术中,许多虚拟路径以相反的方式被追踪,即从图像平面的像素开始并且行进通过体积。图像平面中的像素的颜色和强度通过以下确定:全局辐射图(定义指向图像的虚拟光源的方向、颜色和亮度)以及所追踪的路径(从该像素开始)是否在体积中吸收、所追踪的路径是否穿过体积或者所追踪的路径是否在体积中经历体积散射或表面散射。路径例如在离开体积或被体积吸收之前可能经历若干散射事件。每个追踪路径的参数很大程度上由数据体积体素的属性例如根据传递函数的数据体积体素的阿尔法(alpha)值来确定。通常,全局传递函数向体积的每个体素分配颜色值和不透明度值。由于输入数据涉及体积数据,因此没有明确的表面、对象或网格数据可用。这就是为什么所述表面被称为“隐式”的原因。
当渲染数据时,基于局部梯度的幅度对隐式表面进行概率地着色(shade)。对于着色,通常采用漫射和镜面光贴图。针对特定的镜面波瓣对特定的镜面光贴图进行预滤波,这取决于例如基于冯氏(Phong-based)的双向反射率分布函数(在下文中,被称为BRDF)模型中的镜面指数或者基于微面(microfacet)的BRDF的表面粗糙度。对于渲染不同的表面材料例如塑料或金属,期望在影像渲染中针对不同的隐式表面允许不同的BRDF,例如取决于表面的局部标量值或分割信息。
然而,在现有技术中的已知方法中,为了允许表面的粗糙度变化,当改变镜面指数或粗糙度参数时,必须重新计算(滤波)镜面光贴图。这种重新计算步骤的缺点是计算上昂贵。
在现有技术中已知系统中的另一选择是在不同镜面指数或表面粗糙度的情况下预先计算一组镜面光贴图,然后可以选择该组镜面光贴图用于表面着色。然而,该第二种方法的缺点是占用大量内存。
发明内容
因此,本发明的目的是通过提供利用不同着色渲染不同对象或感兴趣区域(例如,不同材料如骨骼或植入物或不同类别的组织)同时不会增加计算成本和内存成本的选项来提供用于渲染体积数据的方法。
该目的通过根据所附独立权利要求的用于渲染医学体积图像的方法、渲染器、计算机程序和计算机可读介质来解决。在从属权利要求中以及在以下描述中连同优点一起描述有利方面、特征和实施方式。
在第一方面中,本发明涉及一种用于使用影像渲染方法根据从成像模态或从重建或存储单元(例如,PACS)接收的体积数据来渲染医学体积图像的计算机实现的方法。该方法使用或执行蒙特卡洛路径追踪算法(MCPT算法)。MCPT算法使用至少一个并且通常是若干个基于微面的双向反射率分布函数(也被简称为BRDF)以计算光如何在隐式表面处反射的概率,概率用于对隐式表面进行着色。该方法包括以下步骤:
-检测是否触发了表面散射事件,并且如果触发了表面散射事件,则:
-通过应用噪声函数来扰动梯度计算所需的相应接收到的体积数据而修改BRDF中的局部梯度的计算,以模拟隐式表面的粗糙度;
-如先前的“修改”步骤中所提及的,通过使用经修改的BRDF对隐式表面进行着色以渲染接收到的体积数据。
通过修改BRDF中的局部梯度的计算,将相应地修改BRDF。这样修改的BRDF将用于计算由着色器进行的着色。
本发明具有以下技术优点:可以渲染体积数据中的不同结构、对象或材料,并且特别地,对体积数据中的不同结构、对象或材料进行不同地着色,以使其可区分以用于发现或提供医学诊断的目的。通过这种方法,可以提高医学诊断的质量,因为可以以改进的方式提供结构内的基础医学图像信息。这是主要优点,因为当为患者提供医学诊断时,图像信息的质量是关键。当图像信息是用于生成医学问题答案的唯一信息时,这变得更加重要。
此外,可以避免并且不再需要用于存储预先计算的镜面光贴图的存储资源。另外,可以节省计算资源的处理能力,因为不需要针对不同的镜面分量重新计算镜面光贴图。
根据优选实施方式,噪声函数是过程噪声函数。可以借助于激活应用(即,执行或控制计算机实现的方法的应用)的图形用户界面上的滑动条通过用户定义的粗糙度参数来由用户控制或缩放噪声函数。这具有以下优点:可以响应于实际使用情况的特殊配置来控制着色属性以及特别地粗糙度参数。这样,例如可以优先考虑特定结构(例如,骨骼与植入物)之间的区别。
根据另一优选实施方式,可以针对接收到的体积数据中的不同对象或材料特别确定粗糙度参数。因此,对不同对象和/或材料中的每一个进行特别着色。可以通过使用局部灰度值、分割或对象分类信息(可以提供分割或分类步骤作为先前的步骤以便在图像数据内提供分割的图像或分类的对象)以及/或者包括梯度幅度和/或曲率的其他图像处理参数来确定粗糙度参数。换句话说,可以通过体积数据中的灰度值来修改粗糙度参数。例如,可以将较亮的体素分配至较低的粗糙度参数或者较亮的体素可以具有较低的粗糙度参数。该特征也可以借助于将体素值映射至粗糙度值的传递函数来实现。
根据另一优选实施方式,该方法还包括:
-对接收到的体积数据中的不同对象或材料或组织类型进行分割或分类;
-接收粗糙度参数,该粗糙度参数用于对每个经分割或分类的对象的噪声函数分别进行缩放;
-针对每个经分割或分类的对象,将经特别缩放的噪声函数应用于BRDF中的每个BRDF。
替选地,体积数据可以经受先前的分割过程,使得可以基于分割或分类特别确定粗糙度参数。利用该特征,可以利用第一着色渲染第一类别的对象(一种类型的对象,例如植入物)以及以第二(不同的)着色渲染第二类别的对象(例如,骨骼或其他身体结构)。这提高了图像内不同对象(例如,组织类型)的可辨性。因此,(修改的)缩放也可以取决于分割或分类。
在另一优选实施方式中,对于经分割或分类的对象中的每一个,可以应用不同的BRDF,所述不同的BRDF可以通过不同的粗糙度参数进行缩放。这提高了渲染应用的适应性,特别地用于优先处理特定结构或诊断方面(例如,血管疾病中不同的血管类型等)。
在另一优选实施方式中,检测是否(或已经)触发了表面散射事件是通过首先检测是否触发了散射事件来执行的,并且(仅)如果触发了散射事件,则:
-通过使用噪声函数修改用于梯度计算的局部样本来计算局部梯度;
-通过执行表面散射概率密度函数来计算表面散射事件的概率。换句话说,响应于检测到散射事件,通过根据局部梯度的幅度执行表面散射概率密度函数来计算表面散射事件的概率。此特征使修改后的计算机实现的着色器模块更高效。
在另一优选实施方式中,通过下述触发散射事件:
-比较沿路径累积的不透明度值是否超过预定义的阈值,并且如果超过预定义的阈值,则:
-触发散射事件,其中,阈值是通过执行散射概率密度函数来计算的。散射概率密度函数通常与表面散射概率密度函数不同。这具有可以更有效地执行计算的技术效果。
在另一优选实施方式中,通过修改中心差分算法的中心差分样本或者通过修改更高阶差分算法的更高阶差分样本来计算局部梯度。关于更多详细信息,请参照https://en.wikipedia.org/wiki/Finite_difference。通常,更高阶差分提供具有更高质量的梯度,并且避免伪影或图像故障。
在另一优选实施方式中,在渲染期间即时修改隐式表面的着色。这有助于减少处理时间,并且使该方法对最终用户更具吸引力,因为可以减少深入诊断的时间。
在又一优选实施方式中,该方法访问存储装置,在存储装置中仅存储一个单独的未滤波的镜面光贴图以用于计算针对不同对象的具有变化的表面粗糙度的着色。因此,由于将不存储多组镜面光贴图,因此可以减少存储容量。
到目前为止,已经关于要求保护的方法描述了本发明。在该上下文中提及的特征、优点或替选实施方式也可以分配至其他要求保护的对象(例如,渲染器、计算机程序或计算机程序产品),反之亦然。换句话说,可以利用在该方法的上下文中描述或要求保护的特征来改进关于装置(例如,渲染器)要求保护或描述的主题,反之亦然。在这种情况下,方法的功能特征分别由系统的结构单元体现,反之亦然。通常,在计算机科学中,软件实现和相应的硬件实现是等效的。因此,例如,可以利用着色器(计算单元)和用于对要渲染的表面进行着色的相应指令来执行用于对数据进行“着色”的方法步骤。为了避免冗余,尽管在参考方法描述的替选实施方式中也可以使用渲染器,但是这些实施方式并未对渲染器再次进行明确地描述。
在另一方面,本发明涉及一种用于渲染医学体积图像的渲染器。渲染器或渲染单元是计算机实现的单元,并且可以以硬件和/或软件来提供,并且配备有用于接收体积数据的输入接口。渲染器适于执行如上所述的方法,并且可以被配置成用于执行以上提及的步骤中的任何一个。
特别地,渲染器可以在处理单元(图形处理单元或中央处理单元)上实现或者可以访问该处理单元,以基于蒙特卡洛路径追踪算法(MCPT)执行影像渲染,其中,MCPT算法使用至少一个基于微面的双向反射率分布函数(BRDF)以计算光如何在隐式表面处反射的概率,其用于对隐式表面进行着色。渲染器还包括:
-表面散射检测单元,其用于检测是否触发了表面散射事件;以及
-修改器,其用于通过应用噪声函数扰动(梯度计算所需的)相应的接收到的体积数据来修改BRDF中的局部梯度的计算,以模拟隐式表面的粗糙度,该噪声函数用于对隐式表面进行着色以渲染接收到的体积数据。
渲染器是计算机实现的,并且包括用于梯度计算的经修改的着色器模块。修改是指以下事实:渲染器包括修改器,该修改器用于通过小的随机数来修改(扰动)局部梯度,以模拟隐式表面的粗糙度。
渲染器可以包括用于计算着色的着色器(模块)。着色器可以使用经修改的BRDF。因此,本文提出的着色器可以被提供为已知系统或渲染器的附加模块。如以上关于方法所述,着色器被相应地调整。
通常,渲染计算是复杂且占用大量资源的。这就是为什么渲染计算通常通过例如OpenGL实时外包给图形处理单元(GPU)。因此,方法和经修改的着色器也可以外包给GPU。着色器例如可以用OpenGL着色语言编写并编译。然后,在GPU上执行经编译的程序。
在另一方面,本发明涉及一种用于渲染来自接收到的体积数据的医学体积图像的系统,该系统包括或访问:
-例如具有滑动条的用户界面,该滑动条用于调整要由渲染器使用的不同对象的粗糙度参数;
-如上提及的渲染器,该渲染器用于执行如上所述的方法;
-输出接口,该输出接口用于为体积数据中的不同对象提供具有变化的表面粗糙度的经渲染的医学体积图像。
因此,与已知的渲染应用相比,提供了例如呈滑动条形式的附加的用户界面。滑动条用于修改用于着色的粗糙度参数。尽管在现有技术中的已知应用中,用户可以与经渲染的三维“对象”进行交互以更改视点、照度水平、要显示的组织类型等,但是在本领域中,这种具有用于改变要用于对不同类型的对象进行着色的粗糙度的分配功能的特定用户界面元素是未知的。例如,在现有技术的系统中,用户可以从正视图切换至侧视图;用户可以在其中仅显示骨骼的视图与还显示肌肉和其他组织类型的视图之间进行切换等。然而,改变粗糙度参数来立即考虑用于着色是未知的。
在另一方面,本发明涉及一种包括计算机程序的计算机程序产品,或者涉及一种计算机程序,该计算机程序包括程序元素,当程序元素被加载到计算机的存储器中时,程序元素引导计算机执行根据前述方法的用于渲染医学体积图像的方法的步骤。
在另一方面,本发明涉及一种计算机可读介质,其上存储有可以由计算机读取和执行的程序元素,以便在程序元素由计算机执行时,执行根据前述方法的用于渲染医学体积图像的方法的步骤。
通过计算机程序产品和/或计算机可读介质实现本发明具有以下优点:可以通过软件更新容易地采用已经存在的计算机如服务器或客户端,以便按照本发明的建议工作。
在下文中给出了在本申请内使用的术语的定义。
方法是计算机实现的。用于执行如上所提及的渲染和着色任务的计算机可以是个人计算机或计算机网络中的工作站,并且可以包括处理单元、系统存储器和系统总线,该系统总线将包括系统存储器的各种系统部件耦接至处理单元。系统存储器可以包括只读存储器(ROM)和/或随机存取存储器(RAM)。基本输入/输出系统(BIOS)(其包含有助于例如在启动期间在个人计算机内的元件之间传递信息的基本例程)可以被存储在ROM中。计算机还可以包括用于从磁盘读取和写入磁盘的若干类型的磁盘驱动器。硬盘驱动器、磁盘驱动器和(磁)光盘驱动器可以分别通过硬盘驱动器接口、磁盘驱动器接口和(磁)光盘驱动器接口与系统总线耦接。驱动器及其相关联的存储介质提供机器可读指令、数据结构、程序模块和用于计算机的其他数据的非易失性存储。多个程序模块可以被存储在存储单元例如操作系统、一个或更多个应用程序(如用于执行用于对体积医学图像进行渲染和着色的方法的应用)上。例如,用户可以通过输入设备例如键盘和指点设备将命令和信息输入至计算机中。也可以包括其他输入设备例如麦克风、操纵杆、游戏手柄等。这些设备以及其他输入设备通常通过耦接至系统总线的串行端口接口连接至处理单元。例如,监视器(例如,GUI)或其他类型显示设备也可以经由接口(例如视频适配器)连接至系统总线。除了监视器以外,计算机还可以例如包括其他外围输出设备例如扬声器和打印机。
用于执行渲染方法的计算机可以在联网环境中操作,该联网环境定义与一个或更多个远程计算机的逻辑连接。远程计算机可以是另一个人计算机、后处理工作站、服务器、路由器、网络PC、对等设备或其他公共网络节点,并且可以包括以上相对于个人计算机描述的许多或所有元件。逻辑连接包括局域网(LAN)和广域网(WAN)、内联网和因特网。
散射事件是指其中蒙特卡洛路径追踪算法的路径上的光被散射的概率状态。如果沿MC路径追踪算法的路径针对每个采样点所累积的不透明度值超过预定义的阈值,则触发散射事件。
表面散射事件是散射事件的子集,并且是指其中蒙特卡洛路径追踪算法的路径上的切割隐式表面的光被散射的概率状态。这可以由梯度的高幅度来确定。如果随机数[0,1]小于在BRDF中使用的表面散射概率密度函数,则触发表面散射事件。
附图说明
根据以下详细描述,本发明的上述特性、特征和优点以及实现它们的方式变得更清楚和更容易理解,将在附图的的背景下更详细地描述本发明的上述特性、特征和优点以及实现它们的方式。以下描述并不将本发明限制于所包含的实施方式。在不同的附图中,相同的部件或部分可以使用相同的附图标记进行标记。通常,附图并非按比例绘制。应当理解,本发明的优选实施方式还可以是从属权利要求或以上实施方式与相应的独立权利要求的任何组合。
图1是根据本发明的优选实施方式的方法的流程图;
图2是根据本发明的另一优选实施方式的另一流程图;以及
图3是根据本发明的优选实施方式的系统的结构部件的概况图。
具体实施方式
图1示出了用于响应于粗糙度参数对隐式表面进行着色的方法的流程图。
在该方法的开始之后,在步骤S1中,检测是否已经触发或发生表面散射事件。如果已经检测到这样的表面散射事件,则在步骤S2中修改BRDF中的局部梯度的计算。这样的修改是基于:通过应用噪声函数来扰动梯度计算所需的相应的接收到的体积数据以模拟隐式表面的粗糙度。随后,在步骤S3中计算针对隐式表面的着色以渲染接收到的体积数据。如果处理了该体积的所有像素的所有蒙特卡洛迭代,则该方法可以结束(END);否则该方法将分支出来以再次从步骤S1开始。
通常,本发明利用一个单独的、未滤波的镜面光贴图。通常,首先必须计算梯度以检测是否是表面散射事件(这取决于梯度的幅度;通常,幅度越大,表面散射事件的概率越高)。当在蒙特卡洛路径追踪算法期间检测到散射事件时,例如使用中心差分来计算局部梯度。在梯度计算期间,使用在渲染器10的修改器14中即时(on-the-fly)计算的小噪声值来扰动用于梯度计算的局部样本(这将在下面相对于图3更详细地说明)。特别地,通过小的噪声值修改梯度计算所需的每个体积样本。粗糙度参数[0.,1.]用于修改或缩放添加至每个梯度计算样本的噪声的量,从而允许从零(导致完美的镜面)到一(1)(对于漫射表面)的任何表面粗糙度。
使用局部灰度值、分割信息或任何其他局部可用的参数(例如,梯度幅度、曲率等)来修改用于局部梯度计算的粗糙度参数。这允许对每体积数据集的不同材料或对象(例如金属、塑料和不同的软组织类型)进行特定且不同的渲染(特别地,着色)。
着色器可以例如用OpenGL着色语言编写并编译。然后,在GPU上执行编译后的程序。在下文中给出了使用中心差分的GLSL代码示例。
Figure BDA0002692511080000091
Figure BDA0002692511080000101
Figure BDA0002692511080000111
在已经触发(并检测到)散射事件之后,基于表面散射概率密度函数PDF来计算表面散射事件的概率。表面散射概率密度函数PDF可以选自由以下项组成的组:
-float PDF_BRDF=(1.0-exp(-sd*gradMag));
--float PDF_BRDF=sampleColor.a*(1.0-exp(-sd*gradMag));
其中,sd是表面改性因子或参数,其可以是用户控制的。默认值例如可以是:针对CT数据为10.0,针对MR数据为1.0。因子或参数定义如何通过着色渲染表面。“gradMag”是指梯度的局部幅度,并且“sampleColor.a”是指传递函数的阿尔法值。
如果随机数[0,1]小于PDF_BRDF(在以上代码片段中:“if(rand()<PdfBrdf)”),则将发出或触发表面散射事件。
基于相应的灰度值或者基于先前的分割步骤,参数sd可能因对象而异,或者因材料而异。
为了解决问题而在本文中建议的可以作为现有应用的附加装置而提供的修改后的着色器模块的伪代码如下:
针对所有MC迭代
针对所有像素
生成相机射线
使相机射线与体积数据的边界框相交
将采样位置设置为边界框的射线入口点
同时不终止(吸收)路径并且对在边界框内部的位置进行采样
基于散射PDF计算针对散射事件的不透明度阈值
当未检测到新的散射事件时
对体积数据进行采样
对样本进行分类(传递函数查找,产生颜色和o)
累积不透明度
如果检测到散射事件(基于所累积的不透明度和散射概率密度函数)
通过分别使用建议的方法或渲染器中的附加着色器来计算局部梯度以进行建议的修改:使用噪声/随机数修改中心差分样本以模拟表面粗糙度(粗糙度因子对噪声进行缩放)
如果触发了表面散射事件(“if(rand()<PdfBrdf)”)
则利用BRDF进行表面着色计算
改变半球中的散射射线方向
否则
使用体积相位函数改变射线方向
沿射线方向推进射线位置。
图2示出了根据优选实施方式的渲染方法的流程图,该渲染方法包括分割或分类步骤。在该方法的开始之后,在步骤S21中,对接收到的体积数据中的不同的对象或材料或组织类型进行分割或分类。在步骤S22中,接收粗糙度参数。这可以通过从用户界面的滑动条sb(图3所描绘的)读取信号来完成。接收到的粗糙度参数用于对每个经分割或分类的对象的噪声函数分别进行缩放。在步骤S33中,针对每个经分割或分类的对象或材料,将经特定修改或缩放的噪声函数应用于不同的BRDF中的每个BRDF。这具有以下技术效果:对每个体积数据集的不同材料或对象例如不同的组织类型进行不同地渲染和着色。这使得所渲染的图像的诊断相关性改善并且提高了质量。
图3示出了用于对医学体积数据进行渲染和着色的系统1的软件和/或硬件实体或模块的框图。系统1包括渲染器10。可以在计算机系统的图形处理单元GPU或中央处理单元CPU上实现渲染器10。在替选的实施方式中,渲染器10可以经由数据通信链路(网络连接)访问这样的GPU(如图3所示)。系统1还包括用户界面UI,该用户界面UI包括用于接收粗糙度参数的滑动条sb。如图3中的示例实施方式所示,渲染器10可以配备有用于接收体积数据的输入接口IN,并且配备有用于提供渲染并且特别是着色的图像的输出接口OUT。渲染器10可以包括表面散射检测单元12和用于在表面散射检测单元12已经检测到表面散射事件的情况下修改BRDF中的局部梯度的计算的修改器14。接口IN、OUT可以实现为硬件接口或实现为软件接口(例如,PCI总线、USB或火线)。
在渲染期间在算法上识别出表面散射事件的情况下,本文中建议的用于渲染的修改的着色过程对接收到的体积数据使用人工和预期修改。体积数据的扰动用于修改BRDF。
本发明示出若干优点。本文中建议的解决方案在计算上成本低,并且不需要针对不同的粗糙度参数预先计算一组镜面光贴图,从而节省了存储空间。这些优点是通过使用简单的过程噪声函数对局部梯度进行扰动来实现的。此外,影像渲染提供了照片级真实的图像渲染结果,通过使用此技术可以进一步增强该图像渲染结果。特别是针对NDT(非破坏性试验)体积数据,在体积渲染中使用不同的表面材料至关重要。最后,通过由粗糙度参数缩放的噪声对局部梯度的扰动允许在影像渲染中使用各种表面材料。使用该方法不需要对镜面波瓣进行特定采样。隐式表面的粗糙度易于控制,并且可以取决于各种参数,例如灰度值、分割、梯度幅度等。
从附图、公开内容和所附权利要求的研究中,本领域技术人员在实践所要求保护的发明时可以理解和实现所公开的实施方式的其他变型。在权利要求中,词语“包括”不排除其他元件或步骤,并且不定冠词“一(a)”或“一个(an)”不排除多个。
单个单元或设备可以实现权利要求中记载的若干项的功能。在相互不同的从属权利要求中记载某些措施的仅有事实并不表示不能有利地使用这些措施的组合。
根据如上所述的方法的用于渲染医学体积数据的渲染器可以被实现为计算机程序的程序代码装置和/或被实现为专用硬件。
计算机程序可以被存储/分布在合适的介质上例如与其他硬件一起或者作为其他硬件的一部分提供的光学存储介质或固态介质,但是也可以以其他形式分布,例如经由因特网或其他有线或无线电信系统。
权利要求书中的任何附图标记都不应被解释为限制范围。
在还没有明确地描述的任何地方,在不限制或扩大所描述的发明的范围的情况下,可以彼此组合或交换关于附图描述的各个实施方式或其各个方面和特征,只要这种组合或交换是有意义的并且在本发明的意义内。关于本发明的特定实施方式或关于特定附图描述的优点在适用的情况下也是本发明的其他实施方式的优点。

Claims (14)

1.一种用于基于蒙特卡洛路径追踪MCPT算法使用影像渲染方法来渲染来自接收到的体积数据的医学体积图像的方法,其中,所述MCPT算法使用至少一个基于微面的双向反射率分布函数BRDF以计算光如何在隐式表面处反射的概率,所述概率用于对所述隐式表面进行着色,
其特征在于:
-检测(S1)是否触发了表面散射事件,并且如果触发了表面散射事件,则:
-通过应用噪声函数扰动相应的接收到的体积数据来修改(S2)所述BRDF中的局部梯度的计算,以模拟所述隐式表面的粗糙度;
-对所述隐式表面进行着色(S3)以渲染所述接收到的体积数据。
2.根据权利要求1所述的方法,其中,所述噪声函数是过程噪声函数,并且能够借助于控制所述方法的图形用户界面(UI)上的滑动条(sb)通过用户定义的粗糙度参数进行缩放。
3.根据权利要求2所述的方法,其中,通过使用局部灰度值、分割或对象分类信息以及/或者包括梯度幅度和/或曲率的其他图像处理参数,针对所述接收到的体积数据中的不同对象或材料特别确定所述粗糙度参数。
4.根据前述权利要求中任一项所述的方法,其中,所述方法还包括:
-对所述接收到的体积数据中的不同对象进行分割或分类(S21);
-接收(S22)粗糙度参数,所述粗糙度参数用于对每个经分割或分类的对象的噪声函数分别进行缩放;
-针对每个经分割或分类的对象,将经特别缩放的噪声函数应用(S23)于所述BRDF中的每个BRDF。
5.根据权利要求4所述的方法,其中,针对所述经分割或分类的对象中的每一个,能够应用不同的BRDF,所述不同的BRDF能够通过不同的粗糙度参数进行缩放。
6.根据前述权利要求中任一项所述的方法,其中,检测是否触发了表面散射事件是通过首先检测是否触发了散射事件来执行的,并且如果触发了散射事件,则:
-通过使用所述噪声函数修改用于梯度计算的局部样本来计算局部梯度;
-通过执行表面散射概率密度函数来计算表面散射事件的概率。
7.根据权利要求6所述的方法,其中,通过下述方式来触发散射事件:
-比较沿路径累积的不透明度值是否超过预定义的阈值,并且如果超过预定义的阈值,则:
-触发散射事件,其中,所述阈值是通过执行散射概率密度函数来计算的。
8.根据前述权利要求中任一项所述的方法,其中,通过修改中心差分算法的中心差分样本或者通过修改更高阶差分算法的更高阶差分样本来计算所述局部梯度。
9.根据前述权利要求中任一项所述的方法,其中,在渲染期间即时修改所述隐式表面的着色。
10.根据前述权利要求中任一项所述的方法,其中,所述方法访问存储装置,在所述存储装置中存储单个未滤波的镜面光贴图以用于计算针对不同对象的具有变化的表面粗糙度的着色。
11.一种用于渲染医学体积图像的渲染器(10),所述渲染器(10)具有用于接收体积数据的输入接口(IN),其中,所述渲染器(10)适于执行根据前述方法权利要求中任一项所述的方法,并且能够在处理单元(GPU,CPU)上实现或者能够访问所述处理单元(GPU,CPU),以基于蒙特卡洛路径追踪MCPT算法来执行影像渲染,其中,所述MCPT算法使用至少一个基于微面的双向反射率分布函数BRDF以计算光如何在隐式表面处反射的概率,所述概率用于对所述隐式表面进行着色,
其特征在于:
所述渲染器包括:
-表面散射检测单元(12),其用于检测是否触发了表面散射事件;以及
-修改器(14),其用于通过应用噪声函数扰动相应的接收到的体积数据来修改所述BRDF中的局部梯度的计算,以模拟所述隐式表面的粗糙度,所述噪声函数用于对所述隐式表面进行着色以渲染所述接收到的体积数据。
12.一种用于渲染来自接收到的体积数据的医学体积图像的系统(1),所述系统(1)包括或访问:
具有滑动条(sb)的用户界面(UI),所述滑动条(sb)用于调整要由渲染器(10)使用的不同对象的粗糙度参数;
根据权利要求11所述的渲染器(10),所述渲染器(10)指向用于执行根据前述方法权利要求中任一项所述的方法的渲染器;
输出接口(OUT),所述输出接口(OUT)用于为所述体积数据中的不同对象提供具有变化的表面粗糙度的经渲染的医学体积图像。
13.一种计算机程序,所述计算机程序包括程序元素,当所述程序元素被加载到计算机的存储器中时,所述程序元素引导所述计算机执行根据前述方法权利要求中的一项所述的用于渲染医学体积图像的方法的步骤。
14.一种计算机可读介质,其上存储有能够由计算机读取和执行的程序元素,以便在所述程序元素由所述计算机执行时,执行根据前述方法权利要求中的一项所述的用于渲染医学体积图像的方法的步骤。
CN202010995886.3A 2019-09-23 2020-09-21 医学体积渲染中的隐式表面着色 Pending CN112541882A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
EP19198933.4 2019-09-23
EP19198933.4A EP3796265A1 (en) 2019-09-23 2019-09-23 Implicit surface shading in medical volumetric rendering

Publications (1)

Publication Number Publication Date
CN112541882A true CN112541882A (zh) 2021-03-23

Family

ID=68062830

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010995886.3A Pending CN112541882A (zh) 2019-09-23 2020-09-21 医学体积渲染中的隐式表面着色

Country Status (3)

Country Link
US (1) US11302069B2 (zh)
EP (1) EP3796265A1 (zh)
CN (1) CN112541882A (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019045144A1 (ko) * 2017-08-31 2019-03-07 (주)레벨소프트 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170061672A1 (en) * 2015-09-01 2017-03-02 Siemens Healthcare Gmbh Semantic cinematic volume rendering
CN106485777A (zh) * 2015-09-02 2017-03-08 西门子保健有限责任公司 用功能信息在渲染解剖结构中光照
US20180068590A1 (en) * 2016-09-06 2018-03-08 Eidgenoessische Technische Hochschulezurich (Ethz) Ray-tracing Methods for Realistic Interactive Ultrasound Simulation
CN107924580A (zh) * 2015-09-03 2018-04-17 西门子保健有限责任公司 在医学成像中的表面体积混合模块的可视化
US20180227568A1 (en) * 2017-02-07 2018-08-09 Siemens Healthcare Gmbh Lightfield rendering based on depths from physically-based volume rendering
US20190005710A1 (en) * 2017-06-30 2019-01-03 Canon Kabushiki Kaisha System and method of rendering a graphical object with modification in structure

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7133041B2 (en) * 2000-02-25 2006-11-07 The Research Foundation Of State University Of New York Apparatus and method for volume processing and rendering
US7952583B2 (en) * 2000-06-19 2011-05-31 Mental Images Gmbh Quasi-monte carlo light transport simulation by efficient ray tracing
US7589723B2 (en) * 2005-07-25 2009-09-15 Microsoft Corporation Real-time rendering of partially translucent objects
US9767599B2 (en) * 2006-12-29 2017-09-19 X-Rite Inc. Surface appearance simulation
CA2714562C (en) * 2008-01-31 2017-11-28 University Of Southern California Practical modeling and acquisition of layered facial reflectance
US9619920B2 (en) * 2013-01-31 2017-04-11 Ice Edge Business Solutions, Ltd. Method and system for efficient modeling of specular reflection
US9330485B2 (en) * 2013-02-20 2016-05-03 Kabushiki Kaisha Toshiba Volume rendering of medical images
WO2016045701A1 (de) 2014-09-23 2016-03-31 Siemens Aktiengesellschaft Verfahren, visualisierungsvorrichtung und computerprogrammprodukt zur visualisierung eines dreidimensionalen objekts
US10543061B2 (en) * 2014-10-03 2020-01-28 3M Innovative Properties Company Methods for managing the scattering of incident light and articles created therefrom
US10635761B2 (en) * 2015-04-29 2020-04-28 Energid Technologies Corporation System and method for evaluation of object autonomy
US9582926B2 (en) * 2015-05-22 2017-02-28 Siemens Healthcare Gmbh Coherent memory access in Monte Carlo volume rendering
GB201610594D0 (en) * 2016-06-17 2016-08-03 Ucl Business Plc Method and apparatus for estimating the value of a physical parameter in a biological tissue
US11127197B2 (en) * 2017-04-20 2021-09-21 Siemens Healthcare Gmbh Internal lighting for endoscopic organ visualization
US10311631B2 (en) * 2017-05-12 2019-06-04 Siemens Healthcare Gmbh Light path fusion for rendering surface and volume data in medical imaging
EP3462418A1 (en) * 2017-09-28 2019-04-03 Siemens Healthcare GmbH Method and apparatus for rendering material properties
US10810469B2 (en) * 2018-05-09 2020-10-20 Adobe Inc. Extracting material properties from a single image

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170061672A1 (en) * 2015-09-01 2017-03-02 Siemens Healthcare Gmbh Semantic cinematic volume rendering
CN106485777A (zh) * 2015-09-02 2017-03-08 西门子保健有限责任公司 用功能信息在渲染解剖结构中光照
CN107924580A (zh) * 2015-09-03 2018-04-17 西门子保健有限责任公司 在医学成像中的表面体积混合模块的可视化
US20180068590A1 (en) * 2016-09-06 2018-03-08 Eidgenoessische Technische Hochschulezurich (Ethz) Ray-tracing Methods for Realistic Interactive Ultrasound Simulation
US20180227568A1 (en) * 2017-02-07 2018-08-09 Siemens Healthcare Gmbh Lightfield rendering based on depths from physically-based volume rendering
US20190005710A1 (en) * 2017-06-30 2019-01-03 Canon Kabushiki Kaisha System and method of rendering a graphical object with modification in structure

Also Published As

Publication number Publication date
EP3796265A1 (en) 2021-03-24
US20210090325A1 (en) 2021-03-25
US11302069B2 (en) 2022-04-12

Similar Documents

Publication Publication Date Title
US10957098B2 (en) Consistent 3D rendering in medical imaging
CN108701370B (zh) 基于机器学习的基于内容的医学成像渲染
Stytz et al. Three-dimensional medical imaging: algorithms and computer systems
CN110211215B (zh) 医用图像处理装置以及医用图像处理方法
EP3493161B1 (en) Transfer function determination in medical imaging
CN107924580B (zh) 在医学成像中的表面体积混合模块的可视化
US20210327563A1 (en) Salient visual explanations of feature assessments by machine learning models
US10311631B2 (en) Light path fusion for rendering surface and volume data in medical imaging
JP2020503628A (ja) 複雑なデータのリアルタイムレンダリングのためのシステムおよび方法
US10884490B2 (en) Transfer function adaptation in virtual reality environments
CN112541882A (zh) 医学体积渲染中的隐式表面着色
EP3989172A1 (en) Method for use in generating a computer-based visualization of 3d medical image data
WO2020038771A1 (en) Salient visual relevancy of feature assessments by machine learning models
Wang Three-dimensional medical CT image reconstruction
Hachaj et al. Augmented reality approaches in intelligent health technologies and brain lesion detection
Tiede et al. Surface rendering
Singh et al. A Narrative Review on 3D Visualization Techniques in Neurosurgical Education, Simulation and Planning
ter Haar Romeny Image processing on diagnostic workstations
Jian et al. Research and realization of medical volume data interactive cutting
Bartz Visual computing for medicine
Chiorean et al. 3D Rendering of Radiological Images using Java Secure Technologies
LAN Multi-dimensional volume rendering for PC-based medical simulation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination