CN101010701A - 使用明暗处理的直接体绘制 - Google Patents
使用明暗处理的直接体绘制 Download PDFInfo
- Publication number
- CN101010701A CN101010701A CNA2005800293054A CN200580029305A CN101010701A CN 101010701 A CN101010701 A CN 101010701A CN A2005800293054 A CNA2005800293054 A CN A2005800293054A CN 200580029305 A CN200580029305 A CN 200580029305A CN 101010701 A CN101010701 A CN 101010701A
- Authority
- CN
- China
- Prior art keywords
- gradient
- sample
- contribution
- illumination model
- direct volume
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000009877 rendering Methods 0.000 title abstract description 5
- 238000005286 illumination Methods 0.000 claims description 23
- 238000000034 method Methods 0.000 claims description 21
- 238000007620 mathematical function Methods 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 claims description 8
- 230000005055 memory storage Effects 0.000 claims 1
- 210000000988 bone and bone Anatomy 0.000 description 6
- 238000004422 calculation algorithm Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 239000000463 material Substances 0.000 description 5
- 238000012545 processing Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000004744 fabric Substances 0.000 description 3
- 238000005070 sampling Methods 0.000 description 3
- 230000035807 sensation Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 239000008280 blood Substances 0.000 description 1
- 210000004369 blood Anatomy 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000000053 physical method Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 210000001519 tissue Anatomy 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/40—Hidden part removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/06—Ray-tracing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Graphics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Image Generation (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明涉及基于应用于信息数据样本的3D数组的光照模型的直接体绘制。首先对单个样本估计梯度,之后在具有低梯度(即均质区域)的样本上完成简单的明暗处理。
Description
技术领域
本发明涉及数据处理。本发明尤其涉及医学领域中3D图像的直接体绘制和可视化。
背景技术
直接体绘制(DVR)是获得三维数据集的二维图像的直接方法。存在产生2D图像的其它技术,如最大强度投影、分层和等值面可视化等,但是这些公知的技术受限于仅有某些3D数据值对最终的2D结果有所贡献。在直接体绘制中,全部数据集都有可能对2D输出图像有所贡献。直接体绘制因此将体投影到显示窗口之内,尽管一些可视区域的深度可能存在模糊性,但是交互性允许使用者操纵视点和视角,并且得到所观察对象及其体积的良好感觉。然而其它图像处理算法都是基于像素的,DVR处理体素,其为2D像素的3D模拟。存在多种直接体绘制方法,但是全部都是基于把色彩和透明掩模赋值给体素的构思。这个透明参数意味着被遮蔽的体素尽管作用程度较小但仍然可以对最终的图像有所贡献。这种机理允许直接体绘制通过把不透明度值的变化赋值给体壳和体表面,显示整个3D数据集,包括所观看到的内部结构。
直接体绘制方法使用图像灰度值查找表借把不透明度值赋值给图像体素。运用不透明度查找表和源于样本位置处的梯度信息,运用光照(light)模型或明暗处理(shading)模型,计算对最终绘制的贡献。Phong明暗处理模型是广泛地应用于计算机图形设计中的标准反射模型。其表示光线与样点处表面的相互作用。Phong模型定义了样点的漫反射分量和镜面反射分量等项的贡献加之环境项的贡献。表面上点的亮度是这三个分量的线性组合。在实践中,相对于视点的深度也得到重视,则样点的贡献可以是深度分量、环境分量、漫反射分量和镜面反射分量的加权和。
对于大型的3D数据集,全部贡献的计算会相当繁重,并且对于均质区域,大量的处理能力可能被浪费。相对于具有对象边界的图像区域,这些均质区域在最终图像中并不起关键作用,理想上应当耗费较少的处理。此外,均质区域中的噪声可能引起非所期望的干扰图案,该干扰图案会导致图像的模糊。遵循这个观察结果,业界已经开发了在图像质量与显示速度之间提供折衷的计算解决方案。
一种可行的解决方案在以下论文《Direct Volume Rendering withShading via Three-Dimensional Textures》(Allen van Gelder、Kwansik Kim,1996年,IEEE)中作了阐述,以引用的方式在此结合。这篇论文阐述了运用3D纹理贴图并且结合了定向光照的一种直接体绘制方法。其开发了基于梯度的明暗处理准则,其中在现场数据值和材料分类参数的角度下说明了梯度量值。首先,计算体积中各个体素的量化梯度指数和材料分类。依据客户提供的梯度量值的阈值,体素可以分类为反射的或环境的。由此在查找表中为各个体素确定索引。用预赋值的各个体素的查找表索引,以预计算的色彩值填充3D纹理贴图。每个纹理贴图项都对应一个体素。其色彩为环境分量和反射分量的和。反射分量基于对定向光源响应的表面,并且仅施加于判定为表示不同材料之间边界面的体部分。因此,这种基于梯度的明暗处理方法去除了低梯度区域(即非边界区域)的反射分量。这改变了这些区域的光学外观,不过为了执行这样的绘制,仍须为体数据集内的每个样本位置计算梯度。
发明内容
本发明的目的尤其在于加速直接体绘制的同时最小化对图像质量的影响。此外,在本发明的一个或多个实施方式中,所建议的方法改进了整体图像绘制。
为此,提出了一种把光照模型应用于信息数据样本的三维数组的方法。该光照模型由灰度值参数和梯度参数的数学函数表示。该方法规定首先计算样本的梯度量值的梯度估计表示,之后把所获得的估计结果与阈值进行比较。如果该梯度估计低于该阈值,则把该样本对基于该光照模型的直接体绘制的最终结果的贡献设置为统一的贡献值。
直接体绘制运用光照模型来计算信息数据样本对最终图像的贡献。如上述所揭示的,该贡献通常为2或3个分量的和。对将用于最终计算的分量的选择,在不同的光照模型之间可以不同,并且可以执行之中不同。现有技术解决方案建议依据基于梯度的准则和体素的所得分类(反射的或不反射的),在计算期间切换光照模型。本发明提出不同的解决方案。在本发明中,对于整个图像,计算基于相同的光照模型和相同的光照模型分量,并且其特征是对某些图像区域施加明暗处理。
样本的贡献基于梯度估计值确定。在一个示例性实施例中,梯度估计是为信息数据样本计算的实际梯度。另一选择为,梯度估计可以是梯度的近似值,其提供了实际梯度值的快速、粗略估计。因此没有在样本分类上浪费时间。每个样本对最终结果的贡献依据所计算的梯度估计值而不同。如果估计值低于阈值,则贡献设置为统一值。在一个或多个实施方式中,通过在所有梯度方向上积分光照模型的数学函数,来确定该统一值。这相当于对具有低梯度值的区域进行平滑明暗处理。术语“样本”传统上是指表示体元素的体素,或者在离散的体素位置之间内插的亮度值。
本发明的优势是简化了具有低梯度的图像区域(该图像区域内的信息相似并且变化慢)内的计算。均质区域通常是对最终绘制呈现出最小重要性的区域,这些区域中的数据变化较慢以至用统一值替换掉精确计算结果也不会改变最终结果和用户对显示的总体感觉。相反,因为本发明的简化的贡献计算与更复杂的完全计算相比,更少地受到噪声的影响,所以用户的感觉可以得到改善。本发明既改善了用户对显示的总体感觉,同时也降低了计算的复杂性,由此提高了显示速度。
在另一实施方式中,引入额外的基于梯度的准则,来平滑位于称为均质区域内的样本与位于具有高梯度值的区域内的样本之间的过渡。具有高梯度的样本通常出现在对象之间或不同材料之间的边界面附近。将梯度估计与第二阈值比较,若该估计值在第一与第二阈值之间,则将该贡献设置为为精确梯度值推导出的光照模型函数与前面的贡献统一值的组合。
本发明还涉及相应的装置和相应的存储用于执行该方法的指令的记录载体。
本发明的这些和其他方面从以下阐述的实施方式来说将是显而易见的,并且将参照以下阐述的实施方式加以阐明。
附图说明
现在将以举例的方式并且参照附图更详细地阐述本发明,其中:
图1是3D对象的屏幕图像;
图2是本发明3D对象的屏幕图像;
图3是图解说明本发明方法的流程图;和
图4是本发明3D对象的2D切片的屏幕显示。
全部附图中,相同的参考数字涉及相同的元素,或涉及执行基本上相同功能的元素。
具体实施方式
将在医学图像的情况下对本发明加以阐述,然而这不应把本发明的范围限制在医学应用中。本发明很明显包括使用本发明特征的任何类型应用,即便是在数据3D数组得以应用的远程技术领域。例如,本发明将会有益于如视频游戏、气象学和航空等其他领域。
图1和图2表示人手内部骨结构的显示。两幅显示示出了手指骨骼和显示为暗的均质区域的手组织。与身体结构变化的区域(如骨表面边界)相对照地如此提及均质区域。两幅图像都是基于相同的原始数据集,例如由人手的X射线辐射所获得的数据集,但是这个原始数据集以两种不同的方式加以处理,从而显示在质量上有所不同。当现有技术的数据处理算法应用到该原始数据集时,获得图1的显示;而当本发明的算法应用到该原始数据集时,获得图2的显示。两幅显示之间明显的差别是均质区域的总体外观。在图1的图像中,可觉察到的噪声,以在暗区域中的较浅云状物的形式,模糊了的这些部分。这种模糊是由噪声引起的。当本发明的算法应用到原始数据集时,获得了平滑的统一结果,并且如在图2中所见,体材质之间的边界(如血/骨边界)更加清晰地得以标记。
图3是给出本发明示例性算法步骤的流程图。接收并处理初始数据集。该初始数据集是信息数据样本的三维数组。每个数据样本可以与表示3D环境(包含3D对象)的3D图像的体元素或体素关联。术语“样本”或“体素”可以无差别地用于指数据3D数组的单个元素,尽管体素通常指离散的位置,而样本可以是指可能具有非整数坐标的任何位置的内插值。样本可以是色彩值、物理测量值(如辐射吸收水平、空间中一些点处所观测到的总辐射水平)、温度值等等。本发明提供一种在直接体绘制中确定3D数据的样本对光照模型计算的个体贡献C的方式。该3D数组的每个信息数据样本对最终的2D图像都有贡献,并且已知的光照模型用于确定这些个体贡献C。在本发明中,光照模型是基于两个主要参数的数学函数:样本的梯度和灰度值。
在第一步骤310中,为至少样本之一确定梯度估计值。此估计是精确梯度计算或是精确梯度值的近似值。如果选择了近似值计算,则粗略的梯度计算最终允许在精密的精确梯度计算上节约时间,这将在下文中见到。之后,将所获得的梯度估计值与两个阈值G1和G2相比较。阈值G1和G2可以由显示设备的设计者预先设置,或者可以留给用户选择,用户籍此可能实时地在视觉上细调显示。在步骤320中,该梯度估计首先与最小的阈值G1相比较。如果该梯度估计小于阈值G1,则在步骤330中,贡献C设置为统一值Crandom。例如,该统一梯度值可以由以下方程式导出:
通过限于均质区域在所有体方向上积分贡献函数,获得值Crandom。因此,具有低梯度的区域(即均质区域)将表现为无噪声的均匀区域。
如果该梯度估计大于阈值G1,则在步骤340中将其与第二阈值G2相比较。如果比较显示该梯度估计具有大于G2的值,即该样本具有高梯度,则该信息数据样本很可能非常接近诸如骨表面或器官表面的物理边界。因此在步骤360中,根据上面所提及的光照模型的数学函数确定对直接体绘制的贡献。该函数可以基于样本的梯度估计或精确梯度加以运用。在高梯度区域中允许与该函数的很小的偏差,因为在边界处非常需要精确性,而且使用梯度的粗略近似值或简化所选择光照模型都会在边界处引入模糊效应或明暗处理效应。
如果该梯度在[G1;G2]的范围内,则对直接体绘制的贡献是用光照模型的原始数学函数计算所得的贡献与如在步骤350中所见的统一贡献Crandom的组合。该贡献能够如下导出:
‖I‖是所关心样本的梯度量值。该第三计算公式提供了均质区域(低梯度)与边界之间的平滑过渡,并且因此产生更好的图像外观。
本发明的其他实施方式并不包括与阈值G2的比较,因此也就不包括步骤340和350。
图4是3D数据集的2D切片,该图表示了图2中手的另一实验显示结果,其使用了应用本发明算法的直接体绘制。人们能够注意到诸如手指内部、骨本身和手指外部的均质区域均匀地显示出来,而没有由于这些区域中的噪声所引起的任何非所期望的图案。
以上仅仅图解说明了本发明的原理。因此,将会意识到,所属技术领域的专业人员将能够设计出具体实现本发明原理的各种方案(尽管没有在此明确阐述或示出),这些方案因此在以下权利要求书的精神和范围之内。
本发明并不对以上所提及的各种参数值强加任何限制,例如,如果需要,阈值和这些参数可以实时加以改变。例如,人们可以预期一种实施方式,其能够修改阈值G1和G2以改进总体图像绘制。
在解释这些权利要求时,应理解:
a)词语“包括”并不排除所给出权利要求中列出之外的其它元素或动作的出现;
b)元素之前的词语“一”或“一个”并不排除多个这种元件的出现;
c)权利要求书中的任何参考标记并不限制它们的范围;
d)数种“装置”可以通过相同的项或硬件或软件实现的结构或函数来表示;
e)所揭示的各个元件可以包括硬件部分(例如,包括分立和集成的电子电路)、软件部分(例如,计算机程序)及其任意组合;
f)硬件部分可以包括模拟和数字部分之一或两者;
g)任何所揭示的设备或其部分可以组合起来或分离成另外的部分,除非特别声明并非如此;和
h)除非特别表明,并不需要动作的特定顺序。
Claims (7)
1.一种方法,其对信息数据样本的三维数组应用光照模型,来确定对该三维数组的直接体绘制的个体贡献,所述光照模型由灰度值参数和梯度参数的数学函数表示,该方法包括:
计算(310)样本的梯度量值的梯度估计表示;
将该梯度估计与阈值进行比较(320);
如果该梯度估计低于该阈值(330),则把该样本对基于该光照模型的直接体绘制的贡献设置为统一的贡献值。
2.如权利要求1的方法,其特征在于通过在所有梯度方向上积分所述数学函数来获得该统一贡献值。
3.如权利要求1的方法,其中从该样本的精确梯度计算获得所述梯度估计。
4.如权利要求1的方法,其中从该样本梯度的近似计算获得所述梯度估计。
5.如权利要求1的方法,其中该方法进一步包括:
进一步将该梯度估计与第二阈值比较(340);
如果该梯度估计在第一和第二阈值之间(350),则根据基于精确的样本梯度值所计算的数学函数和所述统一贡献值的组合确定该样本对该光照模型的贡献。
6.一种设备,包括:
存储装置,用于存储信息数据样本的三维数组;
处理装置,其基于由灰度值参数和梯度参数的数学函数表示的光照模型,计算数据样本对直接体绘制的个体贡献,其特征在于该处理装置配置成计算样本的梯度量值的梯度估计表示,并且在将该梯度估计与阈值相比较之后,如果该梯度估计低于该阈值,则把该样本对基于该光照模型的直接体绘制的贡献设置为统一值。
7.一种记录载体,用于存储执行权利要求1的方法的计算机可执行指令。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP04300565 | 2004-08-31 | ||
EP04300565.1 | 2004-08-31 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN101010701A true CN101010701A (zh) | 2007-08-01 |
Family
ID=35124596
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNA2005800293054A Pending CN101010701A (zh) | 2004-08-31 | 2005-07-27 | 使用明暗处理的直接体绘制 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20070299639A1 (zh) |
EP (1) | EP1789926A1 (zh) |
JP (1) | JP2008511365A (zh) |
CN (1) | CN101010701A (zh) |
WO (1) | WO2006024973A1 (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178814B (zh) * | 2007-11-30 | 2010-09-08 | 华南理工大学 | 一种融合解剖与功能成像信息数据场的半透明体绘制方法 |
CN103035026A (zh) * | 2012-11-24 | 2013-04-10 | 浙江大学 | 基于视觉感知增强的最大密度投影方法 |
CN103646418A (zh) * | 2013-12-31 | 2014-03-19 | 中国科学院自动化研究所 | 基于自动多阈值的多层着色体绘制方法 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
GB0616685D0 (en) * | 2006-08-23 | 2006-10-04 | Warwick Warp Ltd | Retrospective shading approximation from 2D and 3D imagery |
KR101117035B1 (ko) * | 2009-03-24 | 2012-03-15 | 삼성메디슨 주식회사 | 볼륨 데이터에 표면 렌더링을 수행하는 초음파 시스템 및 방법 |
JP5197830B2 (ja) * | 2011-11-01 | 2013-05-15 | 富士フイルム株式会社 | 放射線画像取扱システム |
EP3077993A1 (en) | 2013-12-04 | 2016-10-12 | Koninklijke Philips N.V. | Image data processing |
US10002457B2 (en) | 2014-07-01 | 2018-06-19 | Toshiba Medical Systems Corporation | Image rendering apparatus and method |
US9576390B2 (en) | 2014-10-07 | 2017-02-21 | General Electric Company | Visualization of volumetric ultrasound images |
EP3057067B1 (en) * | 2015-02-16 | 2017-08-23 | Thomson Licensing | Device and method for estimating a glossy part of radiation |
WO2019045144A1 (ko) * | 2017-08-31 | 2019-03-07 | (주)레벨소프트 | 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법 |
US10964093B2 (en) | 2018-06-07 | 2021-03-30 | Canon Medical Systems Corporation | Shading method for volumetric imaging |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL127314A0 (en) * | 1998-11-27 | 1999-09-22 | Algotec Systems Ltd | A method for forming a perspective rendering from a voxel space |
EP1264281A4 (en) * | 2000-02-25 | 2007-07-11 | Univ New York State Res Found | ARRANGEMENT AND METHOD FOR PROCESSING AND PLAYING A VOLUME |
US7301538B2 (en) * | 2003-08-18 | 2007-11-27 | Fovia, Inc. | Method and system for adaptive direct volume rendering |
-
2005
- 2005-07-27 JP JP2007529049A patent/JP2008511365A/ja not_active Withdrawn
- 2005-07-27 WO PCT/IB2005/052519 patent/WO2006024973A1/en active Application Filing
- 2005-07-27 EP EP05772808A patent/EP1789926A1/en not_active Withdrawn
- 2005-07-27 US US11/573,795 patent/US20070299639A1/en not_active Abandoned
- 2005-07-27 CN CNA2005800293054A patent/CN101010701A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101178814B (zh) * | 2007-11-30 | 2010-09-08 | 华南理工大学 | 一种融合解剖与功能成像信息数据场的半透明体绘制方法 |
CN103035026A (zh) * | 2012-11-24 | 2013-04-10 | 浙江大学 | 基于视觉感知增强的最大密度投影方法 |
CN103035026B (zh) * | 2012-11-24 | 2015-05-20 | 浙江大学 | 基于视觉感知增强的最大密度投影方法 |
CN103646418A (zh) * | 2013-12-31 | 2014-03-19 | 中国科学院自动化研究所 | 基于自动多阈值的多层着色体绘制方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2008511365A (ja) | 2008-04-17 |
US20070299639A1 (en) | 2007-12-27 |
EP1789926A1 (en) | 2007-05-30 |
WO2006024973A1 (en) | 2006-03-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101010701A (zh) | 使用明暗处理的直接体绘制 | |
Hauser et al. | Two-level volume rendering | |
Wallace et al. | A two-pass solution to the rendering equation: A synthesis of ray tracing and radiosity methods | |
JP4204670B2 (ja) | ボリュームデータ表現システム | |
Blinn et al. | Texture and reflection in computer generated images | |
Bruckner et al. | Illustrative context-preserving exploration of volume data | |
ES2279910T3 (es) | Sistemas y procedimientos para suministrar un muestreo controlable de una textura. | |
US6975328B2 (en) | Shading of images using texture | |
Hauser et al. | Two-level volume rendering-fusing MIP and DVR | |
US20060176302A1 (en) | Visible surface determination system & methodology in computer graphics using interval analysis | |
CN108022285B (zh) | 地图渲染方法及装置 | |
Zhang et al. | Lighting design for globally illuminated volume rendering | |
JPH0740171B2 (ja) | コンピュータ画像発生装置においてピクセルの色輝度を決定する方法 | |
Bruckner et al. | Hybrid visibility compositing and masking for illustrative rendering | |
Haubner et al. | Virtual reality in medicine-computer graphics and interaction techniques | |
De Groot et al. | Implicit decals: Interactive editing of repetitive patterns on surfaces | |
Döllner | Non-photorealistic 3D geovisualization | |
US20190311530A1 (en) | Imaging data processing apparatus and method | |
Podobnikar | Multidirectional visibility index for analytical shading enhancement | |
Varkonyi-Koczy et al. | High-dynamic-range image reproduction methods | |
González et al. | based ambient occlusion | |
US20150116324A1 (en) | Image-generated system using beta distribution to provide accurate shadow mapping | |
Willis et al. | Rendering NURB regions for 2D animation | |
Salah et al. | Illustrative Rendering of Segmented Anatomical Data. | |
Jimenez | Practical Real-Time Strategies for Photorealistic Skin Rendering and Antialiasing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C02 | Deemed withdrawal of patent application after publication (patent law 2001) | ||
WD01 | Invention patent application deemed withdrawn after publication |