CN105302972A - 一种基于元球模型的软组织形变方法 - Google Patents
一种基于元球模型的软组织形变方法 Download PDFInfo
- Publication number
- CN105302972A CN105302972A CN201510746746.1A CN201510746746A CN105302972A CN 105302972 A CN105302972 A CN 105302972A CN 201510746746 A CN201510746746 A CN 201510746746A CN 105302972 A CN105302972 A CN 105302972A
- Authority
- CN
- China
- Prior art keywords
- model
- ball
- deformation
- soft tissue
- algorithm
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提出了一种基于元球模型的软组织形变方法,包括四个步骤:元球模型拓扑结构的构建阶段,使用Bradshow?Gareth球树生成算法,根据原始网格模型生成维诺图,进而生成元球模型,通过设置阈值的方法构建其拓扑结构;元球模型形变计算阶段,使用Position?Based?Dynamic(PBD)算法结合Laplacian坐标约束来模拟软组织体模型的形变过程;软组织模型的蒙皮阶段,对体模型中的元球分别建立其距离场函数,将体模型和表皮网格模型建立映射关系,实现蒙皮过程;真实感绘制及实时触觉渲染阶段,根据软组织物理形变进行真实感绘制,并基于Geomagic?Touch力反馈设备进行实时触觉渲染。本发明可真实模拟虚拟手术中软组织的形变过程,具有物理真实感强,实时性好的特点。
Description
技术领域
本发明涉及一种基于元球模型的软组织形变方法。
背景技术
随着虚拟现实(VirtualReality,VR)技术在医学领域应用的不断拓展和深入,虚拟手术(VirtualSurgery)及VR手术模拟器越来越受到人们的关注。虚拟手术技术具有手术环境及器械响应可控,可重复演练等多项优点,成为未来外科培训的发展趋势。医生借助VR手术模拟器进行手术训练及规划,可降低手术训练以及治疗的成本和风险;减少医生培训教学中对动物和尸体的依赖。
在虚拟手术中,对人体组织器官精确的物理建模是其关键技术。一些经典的力学模型,例如有限元和质子弹簧模型等,已被应用到各类手术中,但是这些算法有些缺乏实时运算能力,有的缺乏精确的表达能力,因而,研发更为有效的人体软组织物理模型就成为虚拟手术中的一大技术难题。
在这样的背景下,考虑到人体一些主要器官,例如:胃、肝脏、胆囊等通常具有连续、光滑、圆润的表面,而元球模型(Blobbymodel、Metaballs)在呈现和表达这样的形体时具有天然的优势。因此,本发明提出了一种基于元球模型的软组织形变方法。该算法包括软组织体模型形变阶段和蒙皮阶段,并在其中形变模拟中保证了其物理真实性和迭代实时性。
发明内容
本发明解决的技术问题是:克服了传统网格模型的真实性问题和传统物理方法的迭代周期性问题,提供了一种基于元球模型的软组织形变方法。该方法满足了软组织渲染的真实性和形变迭代的实时性。
本发明采用的技术方案为:一种基于元球模型的软组织形变方法,包括以下四个步骤:
步骤(1)、元球模型拓扑结构的构建:通过BradshowGareth球树生成算法生成软组织的元球模型,通过设置阈值的方法构建软组织体模型的拓扑结构。
步骤(2)、元球模型的形变计算:使用PositionBasedDynamic(PBD,位置动力学)算法与Laplacian坐标约束相结合的方法对软组织元球模型进行形变过程模拟。
步骤(3)、软组织体模型的蒙皮算法:对软组织体模型中的元球分别建立距离场函数,将体模型中的元球和表皮模型建立映射关系,在每次形变迭代中,表皮模型根据体模型的位置和映射关系更新其位置,完成蒙皮模拟。
步骤(4)、真实感绘制及实时触觉渲染:根据步骤(1)、(2)、(3)的算法,实现真实感绘制,并基于GeomagicTouch力反馈设备实现触觉渲染,并保证在此过程的实时性。
本发明的原理在于:
(1)为了实现软组织的连续、光滑、圆润的特性,本发明使用元球模型代替传统四面体模型作为物理模型来实现形变模拟。
(2)为了实现手术模拟中形变的物理真实性和实时性,又因为单纯PositionBasedDynamic(PBD)算法的局限性,本发明使用PBD算法和Laplacian坐标约束相结合的方法来进行体模型的形变模拟。
(3)为了实现软组织形变中的蒙皮模拟效果,本发明使用了生成元球模型距离场函数的方法,建立体模型与表皮网格模型的映射关系,并应用此算法来进行蒙皮的形变模拟。
(4)为了增加系统的物理真实性和触觉真实性,本发明使用了GeomagicTouch力反馈设备来进行手术器械的真实感绘制和触觉渲染。
本发明与现有技术相比的优点在于:
1、本发明采用的元球模型较传统的四面体模型对于软组织的连续、光滑、圆润的特性能够更好的表达出来。
2、本发明提出的将PBD算法和Laplacian坐标约束相结合的方法来模拟形变过程,克服了单纯PBD算法的局限性,并且物理真实性不亚于传统物理方法,又能很好地满足系统实时性要求。
3、本发明提出的将元球建立距离场,进而建立体模型和表皮模型映射关系的蒙皮算法,以及使用GeomagicTouch力反馈设备实现触觉渲染,大大增加了形变模拟过程中的真实性。
附图说明
图1:基于元球模型的软组织形变方法的处理流程图;
图2(a):用于模拟的肝脏原始网格模型;
图2(b):使用Bradshow算法生成的肝脏元球模型图;
图2(c):肝脏的表面网格模型和元球模型图;
图3(a):肝脏半透明表皮模型和元球模型图;
图3(b):在图3-(a)的基础上添加元球模型的拓扑结构图;
图3(c):肝脏的半透明表皮模型和元球模型的拓扑结构图;
图4:PBD算法中的拉伸约束图示;
图5(a):肝脏形变模拟的实验结果图,渲染半透明元球模性和其拓扑结构;
图5(b):肝脏形变模拟的纹理表面的实验结果图;
图6(a):胆囊形变模拟的实验结果图;
图6(b):小肠形变模拟的实验结果图;
图6(c):胃形变模拟的实验结果图;
图7(a):基于有限元算法对肝脏形变模拟的实验结果图;
图7(b):基于弹簧质子模型对肝脏形变模拟的实验结果图;
图7(c):基于传统PBD算法对肝脏形变模拟的实验结果图;
图7(d):基于发明对肝脏形变模拟的实验结果图。
具体实施方式
图1给出了基于元球模型的软组织形变方法的处理流程,下面结合其他附图及具体实施方式进一步说明本发明。
本发明提供一种基于元球模型的软组织形变方法,主要步骤如下:
1、元球模型拓扑结构的构建及其优化法
首先使用BradshowGareth球树生成算法,根据原始三角形网格模型(图2a)生成维诺图,根据维诺图,生成需要的元球模型,如图2b所示;图2c显示了网格模型和元球模型在一起的比较结果。
在已得到元球模型的基础上,对其构建拓扑结构,以下是其构建算法。
对于元球i,中心是ci,与其拓扑相连的点函数定义为:
其中,N是规定阈值,num(i)是与元球重叠的元球数量。L函数指与元球i重叠的元球全部定义为拓扑连接,L′是指距离i最近的N个元球定义为其拓扑连接。由此算法构建的拓扑结构如图3所示:
其中,图3a是表皮模型和元球模型;图3b是在图3a的基础上添加拓扑结构,图3c是只有表皮模型的情况下的拓扑结构。
2、元球模型形变计算
元球模型的形变模拟使用位置动力学:PositionBasedDynamic(PBD)算法与Laplacian坐标约束相结合的方法。
首先是PBD算法。PBD(PositionBasedDynamic)是一种直接由位置计算形变的启发式算法。在进行形变迭代时,不需要计算单元相互之间的加速度,只需要根据基于位置的约束函数将每个顶点投射到合适的位置,而从当前位置到最终位置的该变量可以用约束函数的梯度表示。
由于PBD的BendingConstraints和VolumeConstraints的局限性,本文方法只能采用其中的StretchConstraints(拉伸约束)。
图4给出了StretchConstraints的示例。距离约束函数为:
Cstretch(p1,p2)=|p1-p2|-d(3)
其中,d为顶点p1和p2之间最初的原始距离,有式子可以得到, 最终可以得到:
其中,w1与w2为两个顶点的权重。
在形变过程中,只有PBD算法对其进行约束是不够的,因为其中的StretchConstraint只能约束到2维,因此,还需要添加一个3维约束,这里我们就引进了LaplacianCoordinatesConstraint(Laplacian坐标约束)。它的算法如下。
对于任一元球,设为m,中心设为cm,假设其拓扑结构上相邻元球有n个,而这些元球中心设为ci,那么元球i的拓扑中心为ccenter,即:
然后,对元球模型的形变模拟进行预处理,对于元球m,定义其Laplacian坐标为:
根据元球模型的Laplacian坐标约束,即Lm,它是一个固定矢量,在每次形变迭代中,元球中心位置更新为:
c′m=Lm+c′center(8)
式中c′m和c′center为cm和ccenter更新之后的新的位置。
3、软组织模型的蒙皮算法
为了增加软组织模拟中的真实性,需要添加表皮模型,而表皮模型的形变是由蒙皮算法决定的。如下是本发明所使用的蒙皮算法。
首先,需要对元球模型进行预处理。即对于体模型中任一元球,建立其距离场函数:
在上式中,r是其半径,d是到球心的距离,c是常量参数,它的值由实验决定。
然后,对于表皮模型中的任一点,设为v,假设满足条件的元球有n个,则这n个元球构成一个虚拟拓扑结构,假设此拓扑的中心为pcenter,定义其式为:
在此式中,ci为元球i的球心。
预处理结束后,开始形变模拟。在形变迭代过程中,首先建立表皮顶点v与其对应的虚拟拓扑结构中心pcenter的关系式:
disp=v-pcenter(11)
然后,在每次迭代计算过程中,表皮点v的位置更新后的位置如式(12)所示:
v′=p′center+disp(12)
其中v′和p′center为迭代后更新的v和pcenter。
4、真实感绘制和触觉渲染
根据上述算法,完成对软组织的真实感绘制。视觉渲染使用OpenGLAPI,触觉渲染使用GeomagicTough力反馈设备(图5)及其提供的OpenHapticAPI。
实现本次算法的实验设备为NVIDIAGeForceGTX460,Intel(R)Core(TM)2QuadCPU(2.66GHz,4cores),and4GRAM运行在Windows764位系统上。
图(5)显示了本次算法中的肝脏部分的实验结果,图5a是肝脏手术模拟中元球模型形变的效果,而图5b表示肝脏表面网格模型的形变效果。
图(6)是使用本实验中除了肝脏外的其他软组织器官的实验结果。其中,图(a)(b)(c)分别代表着胆囊、小肠和胃。然后,第一列是原始状态中的表皮模型和元球体模型;第二列显示了表皮模型和拓扑结构;第三列和第四列分别表示对添加纹理后的软组织不同位置拉伸之后形变的实验结果。
表1不同软组织模型实验数据表
表1是本文方法的实验结果数据表。其中,四行代表着四种软组织器官;第一列是软组织器官的表皮模型中的顶点数,第二列是软组织器官体模型中的元球数,第三列是元球模型中元球之间构成的拓扑连接线数,第四列是生成元球模型的时间,最后一列是形变过程中每次迭代所需的时间。
图7给出了本文方法与传统物理方法的比较。其中(a)图是FEM方法,(b)图是弹簧质子模型的实验结果,(c)图是基于传统PBD算法的实验结果,(d)图是本次算法的实验结果。从中可以看出,本算法与FEM算法相较于弹簧质子和传统PBD算法有较好的实验效果,但是本算法的计算迭代周期比FEM算法短得多。
本发明未详细阐述的技术内容属于本领域技术人员的公知技术。
尽管上面对本发明说明性的具体实施方式进行了描述,以便于本技术领的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。
Claims (4)
1.一种基于元球模型的软组织形变方法,其特征在于包括以下四个步骤:
步骤(1)、元球模型拓扑结构的构建:通过BradshowGareth球树生成算法生成软组织的元球模型,通过设置阈值的方法构建软组织体模型的拓扑结构;
步骤(2)、元球模型的形变计算:使用PositionBasedDynamic(PBD),位置动力学算法,结合Laplacian坐标约束来对软组织元球模型进行形变过程模拟;
步骤(3)、软组织体模型的蒙皮算法:对软组织体模型中的元球分别建立距离场函数,将体模型中的元球和表皮模型建立映射关系,在每次形变迭代中,表皮模型根据体模型的位置和映射关系更新其位置,最终完成表面网格的变形;
步骤(4)、真实感绘制及实时触觉渲染:根据步骤(1)、(2)、(3)的算法,实现真实感绘制,并基于GeomagicTouch力反馈设备实现触觉渲染,并保证此过程的实时性。
2.根据权利要求1所述的基于元球模型的软组织形变方法,其特征在于:步骤(1)中所述的元球模型拓扑结构的构建中,在通过使用Bradshow算法生成软组织的元球模型的基础上,使用如下算法构建其拓扑结构:
对于元球i,中心是ci,与其拓扑相连的点函数定义为:
其中,N是规定阈值,num(i)是与元球i重叠的元球数量,L函数指与元球i重叠的元球全部定义为拓扑连接,L′是指距离i最近的N个元球定义为其拓扑连接。
3.根据权利要求1所述的基于元球模型的软组织形变方法,其特征在于:步骤(2)中所述的元球模型形变计算中,使用PositionBasedDynamic(PBD)算法与Laplacian坐标约束算法相结合的方法来对其进行形变模拟:
首先,使用PBD算法中的拉伸约束,拉伸约束函数如(2)式:
Cstretch(p1,p2)=|p1-p2|-d(2)
其中,d为顶点p1和p2之间最初的原始距离, 最终可以得到:
其中,w1与w2为两个顶点的权重;
然后,Laplacian坐标约束算法如下:
对于任一元球,设为m,中心设为cm,假设其拓扑结构上相邻元球有n个,而这些元球中心设为ci,那么元球i的拓扑中心为ccenter,即:
然后,对元球模型的形变模拟进行预处理,对于元球m,定义其Laplacian坐标:
由于Lm它是一个固定矢量,在每次形变迭代中,元球中心位置更新为:
c′m=Lm+c′center(7)
式中c′m和c′center为cm和ccenter更新之后的新的位置。
4.根据权利要求1所述的基于元球模型的软组织形变方法,其特征在于:步骤(3)中所述的软组织体模型的蒙皮算法中,首先,需要对元球模型进行预处理:即对于体模型中任一元球,建立它的距离场函数,如(8)式所示:
其中,r是其半径,d是表皮模型中的任一点到该球心的距离,c是常量参数;
然后,对于表皮模型中的任一点,设为v,假设满足条件的元球有n个,ri为第i个元球的半径,T是阈值,则这n个元球构成一个虚拟拓扑结构,假设ci为元球i的球心,则定义拓扑的中心pcenter为:
预处理结束后,开始形变模拟迭代,在形变迭代过程中,首先建立表皮顶点v与其对应的虚拟拓扑结构中心pcenter的关系式:
disp=v-pcenter(10)
然后,在每次迭代计算过程中,表皮点v的位置更新后的位置如式(11)所示,其中v′和p′为迭代后更新的v和p:
v′=p′+disp(11)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510746746.1A CN105302972A (zh) | 2015-11-05 | 2015-11-05 | 一种基于元球模型的软组织形变方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510746746.1A CN105302972A (zh) | 2015-11-05 | 2015-11-05 | 一种基于元球模型的软组织形变方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105302972A true CN105302972A (zh) | 2016-02-03 |
Family
ID=55200240
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510746746.1A Pending CN105302972A (zh) | 2015-11-05 | 2015-11-05 | 一种基于元球模型的软组织形变方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105302972A (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106875462A (zh) * | 2017-01-13 | 2017-06-20 | 北京航空航天大学 | 一种基于元球模型和混合驱动方法的实时数字器官切割方法 |
CN106960459A (zh) * | 2016-12-26 | 2017-07-18 | 北京航空航天大学 | 角色动画中基于扩展位置动力学的蒙皮技术及权重重定位的方法 |
CN108664126A (zh) * | 2018-05-16 | 2018-10-16 | 上海大学 | 一种虚拟现实环境下可变形手抓取交互方法 |
CN108803872A (zh) * | 2018-05-08 | 2018-11-13 | 上海嘉奥信息科技发展有限公司 | 在虚幻引擎中调用力反馈硬件的插件系统 |
CN109003319A (zh) * | 2018-06-26 | 2018-12-14 | 北京航空航天大学青岛研究院 | 角色动画中带有动力学约束的元球驱动蒙皮方法 |
CN109036567A (zh) * | 2018-01-10 | 2018-12-18 | 福建江夏学院 | 一种基于子空间凝聚算法的软组织形变仿真方法 |
CN109887094A (zh) * | 2019-03-21 | 2019-06-14 | 杭州同绘科技有限公司 | 一种基于球树的软组织物理建模方法 |
CN110060779A (zh) * | 2019-04-10 | 2019-07-26 | 福建师范大学福清分校 | 一种软组织表面刺穿仿真方法及装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103699714A (zh) * | 2013-12-01 | 2014-04-02 | 北京航空航天大学 | 一种基于有限元和无网格耦合的柔性物体实时切割仿真方法 |
CN104318056A (zh) * | 2014-09-24 | 2015-01-28 | 北京航空航天大学 | 基于位置动力学的软组织变形和切割模拟方法 |
-
2015
- 2015-11-05 CN CN201510746746.1A patent/CN105302972A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103699714A (zh) * | 2013-12-01 | 2014-04-02 | 北京航空航天大学 | 一种基于有限元和无网格耦合的柔性物体实时切割仿真方法 |
CN104318056A (zh) * | 2014-09-24 | 2015-01-28 | 北京航空航天大学 | 基于位置动力学的软组织变形和切割模拟方法 |
Non-Patent Citations (3)
Title |
---|
JAN BENDER等: "《A Survey on Position-Based Simulation Methods in Computer Graphics》", 《COMPUTER GRAPHICS FORUM》 * |
JUNJUN PAN等: "《Metaballs-based physical modeling and deformation of organs for virtual surgery》", 《VISUAL COMPUTER》 * |
白隽瑄等: "《基于四面体网格的软组织位置动力学切割仿真算法》", 《北京航空航天大学学报》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106960459B (zh) * | 2016-12-26 | 2019-07-26 | 北京航空航天大学 | 角色动画中基于扩展位置动力学的蒙皮技术及权重重定位的方法 |
CN106960459A (zh) * | 2016-12-26 | 2017-07-18 | 北京航空航天大学 | 角色动画中基于扩展位置动力学的蒙皮技术及权重重定位的方法 |
CN106875462A (zh) * | 2017-01-13 | 2017-06-20 | 北京航空航天大学 | 一种基于元球模型和混合驱动方法的实时数字器官切割方法 |
CN106875462B (zh) * | 2017-01-13 | 2020-07-07 | 北京航空航天大学 | 一种基于元球模型和混合驱动方法的实时数字器官切割方法 |
US10529132B2 (en) | 2017-01-13 | 2020-01-07 | Beihang University | Method for real-time cutting of digital organ based on metaball model and hybrid driving method |
CN109036567B (zh) * | 2018-01-10 | 2021-11-09 | 福建江夏学院 | 一种基于子空间凝聚算法的软组织形变仿真方法 |
CN109036567A (zh) * | 2018-01-10 | 2018-12-18 | 福建江夏学院 | 一种基于子空间凝聚算法的软组织形变仿真方法 |
CN108803872A (zh) * | 2018-05-08 | 2018-11-13 | 上海嘉奥信息科技发展有限公司 | 在虚幻引擎中调用力反馈硬件的插件系统 |
CN108664126B (zh) * | 2018-05-16 | 2021-06-04 | 上海大学 | 一种虚拟现实环境下可变形手抓取交互方法 |
CN108664126A (zh) * | 2018-05-16 | 2018-10-16 | 上海大学 | 一种虚拟现实环境下可变形手抓取交互方法 |
CN109003319A (zh) * | 2018-06-26 | 2018-12-14 | 北京航空航天大学青岛研究院 | 角色动画中带有动力学约束的元球驱动蒙皮方法 |
CN109003319B (zh) * | 2018-06-26 | 2023-06-16 | 北京航空航天大学青岛研究院 | 角色动画中带有动力学约束的元球驱动蒙皮方法 |
CN109887094A (zh) * | 2019-03-21 | 2019-06-14 | 杭州同绘科技有限公司 | 一种基于球树的软组织物理建模方法 |
CN110060779A (zh) * | 2019-04-10 | 2019-07-26 | 福建师范大学福清分校 | 一种软组织表面刺穿仿真方法及装置 |
CN110060779B (zh) * | 2019-04-10 | 2022-06-17 | 福建师范大学福清分校 | 一种软组织表面刺穿仿真方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105302972A (zh) | 一种基于元球模型的软组织形变方法 | |
US9330502B2 (en) | Mixed reality simulation methods and systems | |
CN110675474B (zh) | 虚拟角色模型的学习方法、电子设备和可读存储介质 | |
CN107330972B (zh) | 模拟生物力学特性的实时软组织形变方法和系统 | |
Pan et al. | Graphic and haptic simulation system for virtual laparoscopic rectum surgery | |
CN109308739A (zh) | 一种基于虚拟现实的软组织微创手术训练方法 | |
Zhang et al. | A fast and accurate vascular tissue simulation model based on point primitive method | |
Qin et al. | A novel modeling framework for multilayered soft tissue deformation in virtual orthopedic surgery | |
CN105205867A (zh) | 一种微创虚拟腹主动脉血管手术中的碰撞检测方法 | |
US20100063788A1 (en) | Method of modelling the interaction between deformable objects | |
France et al. | A layered model of a virtual human intestine for surgery simulation | |
CN105261069A (zh) | 基于gpu的软组织器官元球模型自动生成与碰撞检测的方法 | |
US20230237725A1 (en) | Data-driven physics-based models with implicit actuations | |
Ye et al. | A fast and stable vascular deformation scheme for interventional surgery training system | |
Abate et al. | A pervasive visual–haptic framework for virtual delivery training | |
Pan et al. | Real-time VR simulation of laparoscopic cholecystectomy based on parallel position-based dynamics in GPU | |
CN103699716A (zh) | 一种个性化三维医学图像驱动的器官虚拟显示方法 | |
Pan et al. | Metaballs-based physical modeling and deformation of organs for virtual surgery | |
Banihani et al. | POD for real‐time simulation of Hyperelastic soft biological tissue using the point collocation method of finite spheres | |
CN107590851A (zh) | 一种基于质点弹簧与填充体模型混合的软体形变模型构建方法 | |
Radetzky et al. | Elastodynamic shape modeler: A tool for defining the deformation behavior of virtual tissues | |
CN114724723A (zh) | 一种基于元球模型驱动的软组织变形方法 | |
Montgomery et al. | Surgical simulator for diagnostic and operative hysteroscopy | |
Nakao et al. | Transferring bioelasticity knowledge through haptic interaction | |
Lin et al. | Dynamic volume texture mapping and model deformation for visually realistic surgical simulation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20160203 |