CN108961907A - 虚拟显微眼科手术训练方法和系统 - Google Patents
虚拟显微眼科手术训练方法和系统 Download PDFInfo
- Publication number
- CN108961907A CN108961907A CN201810942749.6A CN201810942749A CN108961907A CN 108961907 A CN108961907 A CN 108961907A CN 201810942749 A CN201810942749 A CN 201810942749A CN 108961907 A CN108961907 A CN 108961907A
- Authority
- CN
- China
- Prior art keywords
- virtual
- micro
- cornea
- instrument
- suture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
Abstract
本发明适用于显微手术模拟技术领域,提供了一种虚拟显微眼科手术训练系统,包括手术动作模拟单元和人机交互装置,手术动作模拟单元包括眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块,人机交互装置包括虚拟现实设备、手术器械跟踪定位设备及显微控制设备;手术器械跟踪定位设备包括力反馈模块,用于将手部的动作信息传递至手术动作模拟单元以模拟手术动作。本发明通过虚拟现实设备提供虚拟手术场景,通过眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块实现手术过程的模拟,并通过手术器械跟踪定位设备追踪虚拟手术器械,使虚拟手术器械如用户手部真实操控一般,提升沉浸感和真实感,同时解决了虚拟眼科手术关键训练技术单一的问题。
Description
技术领域
本发明属于虚拟现实及人机交互技术领域,特别涉及虚拟显微眼科手术训练方法和系统。
背景技术
通过手术的方式治疗眼科疾病是目前而言最有效的方式。因为人眼部结构较为复杂、精细,大多处结构不可修复,而且手术过程需要在显微镜下操作,导致视野较小操作空间局限性大,需要医生手眼协调才能较为精准的实施手术。所以手术难度较大,手术培训的周期较长,培训成本较高,造成了眼科医师短缺的现状。目前,通过虚拟手术训练系统来培训医生是解决这一现状的有效手段。对于一个虚拟眼科手术训练系统,除了要完成手术过程的每一部分操作模块仿真外,其中真实的模拟人体器官组织的模型是增强系统真实感的关键,同时,使受训者可以获得真实手术过程的交互体验也是提高培训效果的有效途径。
目前市面上较为成熟的眼科手术训练系统有以下三款,其一,德国VR magic公司研发的Eyesi眼科手术训练系统,该系统目前可以应用于玻璃体视网膜和白内障手术的训练,包括的模块有:夹持、撕囊、超声乳化和人工晶体植入等,研究表明可以对白内障手术过程中的关键步骤进行有效训练,是目前市面上唯一通过同行评议可以用来练习玻璃体视网膜和白内障眼科手术的仿真系统。其二,国际非营利组织开发的HelpMeSee白内障手术训练平台是一套专门用于小切口白内障手术(MSICS)的训练平台,该系统模拟了上百种难易程度不同的手术场景,来帮助医生针对不同的病情诊断和手术方案的制定工作。其三,
MicroVisTouch系统是目前唯一一款支持触觉感应回馈的眼科手术仿真模拟器,该系统实现了全面视觉体验的仿真机,包括了手术设备、头部和眼睛,相比前两个系统而言具有更高的逼真度。而国内目前还没有一套市面上公认的可用于眼科手术训练的系统,而且因为手术过程的复杂性和部分技术的难度较高等原因,目前进行此方向的研究还较少。主要有浙江大学现代教育中心研发的基于自然交互的白内障训练平台,该平台利用Leapmotion等算法实现了系统的人机交互功能,并模拟了手术过程中的撕囊模拟、超声乳化玻璃体模拟和晶状体植入模拟的功能。
总的来说,目前用于显微眼科手术训练系统的研究还尚有不足,主要包括以下几个方面的问题:1.关于显微眼科手术训练系统的研究技术还不够成熟,真正可以投入市面用于实际显微眼科手术训练的系统主要还是上述三种,关于此方向的研究较少;2.考虑到整套手术的复杂性,目前研究大多集中于攻克手术过程中单一部分模块的技术研究,比如针对白内障手术过程中的撕囊、晶体植入、眼角膜变形等其中的某一部分,关于外部硬件部分涉足更是较少,有关眼角膜模型的动态变形效果的研究还有待提高;3.人机交互功能存在较大不足,不能使用户获得高度的手术沉浸感和更加自然、真实的手术体验,对手术的培训效果有较大影响。
发明内容
本发明的目的在于提供一种虚拟显微眼科手术训练系统,旨在解决传统虚拟眼科手术训练系统关键技术模块单一以及用户交互体验不足的问题,增强用户体验的真实感和沉浸感。
本发明是这样实现的,虚拟显微眼科手术训练系统,包括手术动作模拟单元和与其通信连接的人机交互装置,所述手术动作模拟单元包括眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块,所述人机交互装置包括用于观察虚拟显微手术场景的虚拟现实设备、用于供用户手部操作的手术器械跟踪定位设备,以及用于控制虚拟显微手术的显微效果及切换虚拟手术器械的显微控制设备;所述手术器械跟踪定位设备包括力反馈模块,用于将所述手部的动作信息传递至所述手术动作模拟单元以模拟手术动作。
进一步地,所述手术器械跟踪定位设备还包括夹具,所述夹具包括夹具主体、设置于所述夹具主体的用于固定真实器械的插槽,以及设于所述夹具主体的用于供真实器械触碰的按键板,所述力反馈模块对应所述按键板设有按键。
进一步地,所述显微控制设备包括设备主体、设置于所述设备主体的方向键以及扳机键,所述方向键用于调节显微放大倍率的大小和焦距的大小以及显微区域的移动,所述扳机键用于切换虚拟手术器械。
进一步地,所述人机交互装置还包括支架和设置于所述支架上的承托件,所述承托件与所述支架滑动连接使所述承托件的高度可调,所述虚拟现实设备安装于所述承托件上。
进一步地,所述眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块基于位置动力学方法模拟所述眼角膜的变形、切割以及缝合的过程;眼角膜模型采用三角网格进行表达,以三角网格的顶点作为所述位置动力学方法的粒子集,根据眼角膜的特征设置粒子间的约束关系,通过所述约束关系模拟眼角膜的动态变化。
进一步地,所述约束关系包括:相邻顶点的距离约束和相邻三角面的非公用顶点的弯曲约束;通过所述约束关系及移动的顶点的位置变化确定所述粒子的位置变化以模拟所述眼角膜的动态变化。
进一步地,所述手术动作模拟单元还包括加载于所述眼角膜模型上的碰撞检测模块,用于检测所述虚拟手术器械与所述眼角膜模型之间的碰撞、虚拟手术器械中任意两种之间的碰撞以及眼角膜模型的不同部位的碰撞。
进一步地,通过所述虚拟显微眼科手术训练系统进行眼角膜的变形模拟包括:
通过所述显微控制设备选择第一虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第一虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第一虚拟手术器械与所述眼角膜模型碰撞时,确定所述第一虚拟手术器械与所述眼角膜模型接触的碰撞检测点,通过所述碰撞检测点的位置以及所述约束关系不断更新粒子的位置信息模拟眼角膜变形效果。
进一步地,通过所述虚拟显微眼科手术训练系统进行眼角膜的切割模拟包括:
通过所述显微控制设备选择第二虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第二虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第二虚拟手术器械与所述眼角膜模型碰撞时,记录所述第二虚拟手术器械与所述眼角膜模型先后相交的两条线段,构建出切割平面;
判断眼角膜模型与所述切割平面相交的三角面和相交点,通过所述相交点重新生成三角面使所述切割平面两侧分离,产生切口;
对每一个与所述切割平面相交的三角面进行重构,同时对所述相交点做一次复制,利用所述粒子之间的约束关系将切割平面两侧的结构三角化。
进一步地,在所述产生切口和对每一个与所述切割平面相交的三角面进行重构之间,还对所述粒子的约束关系进行重新构建以更新眼角膜模型的表面拓扑结构。
进一步地,所述虚拟手术器械还包括虚拟缝合针和虚拟缝合线,所述虚拟缝合针为多个检测点首尾相连的刚性模型,所述虚拟缝合线为多个检测粒子间隔连接的弹性模型,所述虚拟缝合线的头部与虚拟缝合针的尾部相连;
通过所述虚拟显微眼科手术训练系统进行眼角膜的缝合模拟包括:
通过所述显微控制设备选择第三虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第三虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第三虚拟手术器械与虚拟缝合针碰撞时,确认第三虚拟手术器械已夹取虚拟缝合针;
通过所述碰撞检测模块检测到所述虚拟缝合针与眼角膜模型碰撞时,记录所述虚拟缝合针的第一个检测点的位置,生成穿刺点信息,并使所述穿刺点附近的粒子与所述穿刺点绑定,通过所述约束关系模拟所述粒子跟随所述穿刺点进行移动的变形效果;
待全部所述检测点穿过全部所述穿刺点后,确定穿针动作结束;
通过所述虚拟缝合针带动所述虚拟缝合线移动,检测所述虚拟缝合线的两个检测粒子之间的当前距离,当当前距离大于原始距离时,判断虚拟缝合线处于移动状态,并通过所述约束关系使所述粒子跟随所述虚拟缝合线的移动方向变形;
通过所述碰撞检测模块检测到所述切口两侧的碰撞时,缝合动作停止,所述切口合拢。
进一步地,待所述虚拟缝合线穿过全部所述穿刺点后,通过所述显微控制设备切换所述虚拟打夹器,将所述虚拟缝合线的尾部固定;
拉紧所述虚拟缝合线,通过所述碰撞检测模块检测所述虚拟缝合线与所述眼角膜模型的碰撞,并通过所述约束关系使所述粒子随所述虚拟缝合线的移动方向变形;
在所述切口合拢后,通过所述显微控制设备切换虚拟剪线钳,将所述虚拟缝合线剪断。
进一步地,所述穿刺点通过彩点标识,所述穿刺点的数量至少为两个。
本发明提供的虚拟显微眼科手术训练系统具有如下有益效果:
通过人机交互装置的虚拟现实设备为用户提供立体逼真的虚拟手术场景,通过眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块,实现不同类型手术过程的模拟,并在不同手术过程中,通过手术器械跟踪定位设备将用户的手部真实动作反馈至虚拟手术场景,追踪虚拟手术器械,使虚拟手术器械如用户手部真实操控一般,提升沉浸感和真实感,实现了真实手术过程的显微环境以及真实手术器械的操作体验,并且解决了虚拟眼科手术训练系统关键训练技术单一的问题。
附图说明
图1是本发明实施例提供的虚拟显微眼科手术训练系统示意图;
图2是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的支架整体结构示意图;
图3是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的支架分解结构示意图;
图4是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的虚拟现实设备的结构示意图;
图5是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的手术器械跟踪定位设备的结构示意图;
图6是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的手术器械跟踪定位设备的夹具结构示意图;
图7是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的显微控制设备的主视图;
图8是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的显微控制设备的侧视图;
图9是本发明实施例提供的虚拟显微眼科手术训练系统的人机交互装置的锁定板的结构示意图;
图10是本发明实施例提供的虚拟显微眼科手术训练系统的眼角膜切割模拟中的粒子集示意图之一;
图11是本发明实施例提供的虚拟显微眼科手术训练系统的眼角膜切割模拟中的粒子集示意图之二;
图12是本发明实施例提供的虚拟显微眼科手术训练系统的眼角膜缝合模拟的示意图;
图13是本发明实施例提供的虚拟显微眼科手术训练系统的眼角膜缝合完成的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
需说明的是,当部件被称为“固定于”或“设置于”另一个部件,它可以直接或者间接位于该另一个部件上。当一个部件被称为“连接于”另一个部件,它可以是直接或者间接连接至该另一个部件上。术语“上”、“下”、“左”、“右”、“前”、“后”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置为基于附图所示的方位或位置,仅是为了便于描述,不能理解为对本技术方案的限制。术语“第一”、“第二”仅用于便于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明技术特征的数量。“多个”的含义是两个或两个以上,除非另有明确具体的限定。
为了说明本发明所述的技术方案,以下结合具体附图及实施例进行详细说明。
请参阅图1和图2,本发明实施例提供一种虚拟显微眼科手术训练系统,包括手术动作模拟单元10和与其通信连接的人机交互装置20,手术动作模拟单元10包括眼角膜变形模块101、眼角膜切割模块102和眼角膜缝合模块103,人机交互装置20包括用于观察虚拟显微手术场景的虚拟现实设备201、用于供用户手部操作的手术器械跟踪定位设备202,以及用于控制虚拟显微手术的显微效果及切换虚拟手术器械的显微控制设备203;手术器械跟踪定位设备202包括力反馈模块2021,用于将手部的动作信息传递至手术动作模拟单元10以模拟手术动作。
具体地,该虚拟显微眼科手术训练系统由硬件部分和软件部分构成,手术动作模拟单元10是一种数据处理和分析软件,其可以以计算机为载体,包含了大量的模型信息和数据处理算法,具有相应的数据处理功能,人机交互装置20为硬件部分,主要用于将用户的动作信息映射至手术动作模拟单元10,对相应的手术器材进行追踪,同时为用户提供可视的虚拟手术场景。
如图4至图5,该手术动作模拟单元10至少包括眼角膜变形模块101、眼角膜切割模块102和眼角膜缝合模块103,分别用于实现眼角膜手术过程中的软体变形、切割、和缝合的过程。人机交互装置20包括虚拟现实设备201,用于佩戴在用户头部,供用户观察虚拟显微手术场景;还包括手术器械跟踪定位设备202,其至少包含一力反馈模块2021,用于供用户手部操作,例如做按压、提拉、切割、缝合等动作,该手部的动作信息由力反馈模块2021传输至手术动作模拟单元10,实现虚拟手术器械的追踪;还包括显微控制设备203,其类似一遥控器,用于控制虚拟显微手术过程中的显微放大倍率、焦距等的调节,以及显微区域的转动等,并且用于切换不同的虚拟手术器械,以进行不同的手术过程,该显微控制设备203可以通过有线或者无线的方式与手术动作模拟单元10连接。该显微控制设备203优选与虚拟现实设备201配套设置,二者共同构成虚拟现实单元,显微控制设备203也可以与虚拟现实设备201分别独立设置,然后再将二者通过计算机中的相应模块进行信号连接,使显微控制设备203能够操控透过虚拟现实设备201看到的场景。
本发明实施例提供的虚拟显微眼科手术训练系统的效果在于:通过人机交互装置20的虚拟现实设备201为用户提供立体逼真的虚拟手术场景,通过眼角膜变形模块101、眼角膜切割模块102和眼角膜缝合模块103,实现不同类型手术过程的模拟,并在不同手术过程中,通过手术器械跟踪定位设备202将用户的手部真实动作反馈至虚拟手术场景,追踪虚拟手术器械,使虚拟手术器械如用户手部真实操控一般,提升沉浸感和真实感,实现了真实手术过程的显微环境以及真实手术器械的操作体验,并且解决了虚拟眼科手术训练系统关键训练技术单一的问题。
参考图2和图3,在本实施例中,为了便于用户操作,人机交互装置20还包括支架204和设置于支架204上的承托件205,承托件205与支架204滑动连接,且能够固定于滑动行程中的任意位置,承托件205用于安装虚拟现实设备201,通过滑动调节其位置,以适应不同身高的用户。支架204可以为拱形,承托件205设置于拱形的最高点处,也可以设置于其他位置。
进一步地,承托件205背部可以设置滑轨2051,对应地,支架204设有与滑轨2051配合的滑槽2041;同样,承托件205背部可以设置滑槽,对应地,支架204设有与滑槽配合的滑轨。另外,可以通过锁紧件206穿过支架204或者承托件205将承托件205固定于某位置。
为了便于支架204与实验台的固定,可以在支架204的两个脚部设置夹持部2042,优选地,夹持部2042和支架204的拱形部2043一体成型。参考图2,夹持部2042为一端开口的U型结构,实验台的侧边嵌入夹持部2042的两臂之间,通过锁紧件206将支架204固定。
为了提升支架204和虚拟现实设备201的结构合理性,方便操作,支架204的拱形部2043相对夹持部2042向实验台的内侧靠近,使用户的操作部位和观看部位与实验台的边缘相隔一定距离,使用户处于一种较为舒适的方位进行操作。
参考图7和图8,显微控制设备203包括设备主体2031、设置于设备主体2031的若干个方向键2032以及扳机键2033,方向键2032用于调节显微放大倍率的大小、焦距的大小和显微镜头的方位移动模拟,扳机键2033用于切换虚拟手术器械。具体地,显微控制设备203有两个,为了便于操作,设备主体2031正面设置圆盘区,方向键2032可在圆盘区上下左右移动。左手设备的方向键2032对应显微镜头的上下左右移动,右手设备的方向键2032对应焦距的调大、调小和放大倍率的增大、缩小,扳机键2033设置于设备主体2031背面便于手指扳动的位置,用于切换手术操作中的虚拟手术器械。为了便于在虚拟场景中找到显微控制设备203的位置,将左右显微控制设备203定位在双手容易触及的部位,例如支架夹持部2042的附近。并对设备主体2031上的方向键功能进行了标识,以便操作者更好的理解和使用。
进一步地参考图9,显微控制设备203固定于锁定板207上,锁定板207包括一平板2071以及设于该平板2071表面的若干个插脚2072和支杆2073,显微控制设备203对应设有固定孔位,用于和插脚2072及支杆2073配合连接。
参考图5至图6,手术器械跟踪定位设备202设置于支架204附近,与用于载有上述手术动作模拟单元10的计算机相连,其除了包括上述力反馈模块2021外,还包括连接于力反馈模块2021和计算机之间的连接组件,该连接组件至少包括一部分活动件2022,该活动件2022的末端连接力反馈模块2021,允许手部灵活移动。还包括夹具2023,夹具2023包括夹具主体20231、设置于夹具主体20231的用于固定真实器械的插槽20232,以及设于夹具主体20231的用于供真实器械触碰的按键板20233,力反馈模块2021对应按键板20233设有按键20211。
以真实器械镊子为例,该手术器械跟踪定位设备202的使用原理为:将力反馈模块2021插入夹具2023的夹孔20234中,使其按键20211与夹具2023的按键板20233正对,将力反馈模块2021固定,将镊子一端插入插槽20232,并通过锁紧件206固定,另一端为自由端,该自由端的尖端位于按键板20233之上,手指按压自由端,使尖端按压按键板20233对按键20211施力,进而将按键20211压下,对应虚拟手术场景中,可以是一种虚拟手术器械的夹取动作,也可以是其他动作,本实施例不严格限制。
在其他实施例中,也可以不通过按压按键20211来追踪虚拟手术器械的动作,例如,可以通过真实器械带动力反馈模块2021移动,该移动动作同样可以反馈至手术动作模拟单元10。
以下详细说明眼角膜变形模块101、眼角膜切割模块102和眼角膜缝合模块103的工作原理。参考图10,该三个模块均基于位置动力学方法模拟眼角膜的变形、切割以及缝合的过程;其中,眼角膜模型104采用三角网格进行表达,以三角网格的顶点作为位置动力学方法的粒子集,根据眼角膜的特征设置粒子1041间的约束关系,通过约束关系模拟眼角膜的动态变化。具体地,约束关系包括:相邻顶点的距离约束和相邻三角面的非公用顶点的弯曲约束。通过将移动的顶点的位置带入约束关系,确定眼角膜软体组织在变形过程中相应粒子1041的位置变化,以模拟眼角膜的动态变化。
进一步地,手术动作模拟单元10还包括加载于眼角膜模型104上的碰撞检测模块105,用于检测碰撞,如虚拟手术器械与眼角膜模型104之间的碰撞、虚拟手术器械中任意两种之间的碰撞以及眼角膜模型104的不同部位的碰撞。基于该碰撞检测以及上述约束关系,仿真模拟手术过程。
具体地,眼角膜的变形模拟通过下述方式实现:
步骤11:通过显微控制设备203选择第一虚拟手术器械;
步骤12:手部操作与力反馈模块2021连接的真实器械30;
步骤13:通过力反馈模块2021追踪所述第一虚拟手术器械的动作;
步骤14:通过碰撞检测模块105检测到第一虚拟手术器械与所述眼角膜模型104碰撞时,确定第一虚拟手术器械与所述眼角膜模型104接触的碰撞检测点,通过碰撞检测点的位置以及约束关系不断更新粒子1041的位置信息模拟眼角膜变形效果。
具体地,在进行模拟之前,将真实器械连接至力反馈模块2021。步骤11中,通过手动操作显微控制设备203上的扳机键2033来选择第一虚拟手术器械,通过方向键2032来调节显微放大倍率、焦距以及可视区域,使适应于用户清晰观察手术过程。在眼角膜变形模拟中,第一虚拟手术器械可以是镊子等。步骤12中,选择好虚拟手术器械后,手部操作与力反馈模块2021连接的真实器械,具体可以是手持镊子按压夹具2023上的按键板20233,同时移动夹具2023,模拟真实的按压动作。步骤13中,力反馈模块2021会实时的将手部的真实动作反馈至计算机中的手术动作模拟单元10,该信息用于追踪第一虚拟手术器械在虚拟手术场景中的动作和位置。步骤14中,在虚拟手术场景中,碰撞检测模块105检测到第一虚拟手术器械与眼角膜模型104碰撞时,可以确定第一虚拟手术器械与眼角膜模型104接触,并且产生并记录碰撞检测点,当手部持续移动时,该碰撞检测点也会移动,通过约束关系,与其相近的若干粒子1041的位置会随之移动,不断更新粒子1041的位置信息,形成眼角膜局部变形的视觉效果。
可以理解,上述步骤11、12、13、14仅为了描述方便,并不用于唯一限制其时间顺序。
如图10和图11,眼角膜的切割模拟通过下述方式实现,具体包括:
步骤21,通过显微控制设备203选择第二虚拟手术器械;
步骤22,手部操作与力反馈模块2021连接的真实器械;
步骤23,通过力反馈模块2021追踪第二虚拟手术器械的动作;
步骤24,通过碰撞检测模块105检测到所述第二虚拟手术器械与眼角膜模型104碰撞时,记录第二虚拟手术器械与眼角膜模型104先后相交的两条线段,构建出切割平面;
步骤25,判断眼角膜模型104与切割平面相交的三角面和相交点,通过相交点重新生成三角面使切割平面两侧分离,产生切口;
步骤26,对每一个与切割平面相交的三角面进行重构,同时对相交点做一次复制,利用粒子1041之间的约束关系将切割平面两侧的结构三角化。
具体地,步骤21中,通过手动操作显微控制设备203上的扳机键2033来选择第二虚拟手术器械,通过方向键2032来调节显微放大倍率、焦距以及可视区域,使适应于用户清晰观察手术过程。第二虚拟手术器械可以是穿刺刀1021。步骤22中,选择好第二虚拟手术器械后,手部操作与力反馈模块2021连接的真实器械,具体可以是手持镊子(该真实器械的类型不需和虚拟手术器械相同,镊子是较为方便使用的真实器械)带动夹具2023移动,进行切割动作。步骤23中,力反馈模块2021会实时的将手部的真实动作反馈至计算机中的手术动作模拟单元10,该信息用于追踪穿刺刀1021在虚拟手术场景中的动作和位置。步骤24中,通过碰撞检测模块105检测到碰撞时,判断穿刺刀1021与眼角膜模型104接触,穿刺刀1021在切割时可以看做是一条线段,通过记录上一帧以及这一帧的两条线段构建出一个切割平面;在步骤25中,判断眼角膜模型104哪些线段与此切割平面相交以及相交所产生的点1043,通过相交点重新生成三角面使平面两侧分离,产生切口;在步骤26中,对眼角膜模型104每一个与切割平面相交的三角面进行重构,同时对相交点做一次复制,利用粒子1041之间的约束关系将切割平面两侧的结构三角化,保证模型完整,至此完成切割模拟。
进一步地,为了更加真实的体现眼角膜在切割前后的形态变化,优选在步骤25和步骤26之间进行步骤251:对粒子1041的约束关系进行重新构建以更新眼角膜模型104的表面拓扑结构,用于模拟切割后的眼角膜,使虚拟手术过程更加真实。
可以理解,上述步骤21、22、23、24、25、26仅为了描述方便,并不用于唯一限制其时间顺序。
如图12和图13,眼角膜的缝合模拟需要借助缝合针和缝合线,因此,该虚拟手术器械还包括虚拟缝合针106和虚拟缝合线107,虚拟缝合针106为多个检测点1061首尾相连的刚性模型,虚拟缝合线107为多个检测粒子1071间隔连接的弹性模型,虚拟缝合线107的头部与虚拟缝合针106的尾部相连。缝合模拟通过下述方法实现,具体包括:
步骤31,通过显微控制设备203选择第三虚拟手术器械;
步骤32,手部操作与力反馈模块2021连接的真实器械;
步骤33,通过力反馈模块2021追踪第三虚拟手术器械的动作;
步骤34,通过碰撞检测模块105检测到所述第三虚拟手术器械与虚拟缝合针106碰撞时,确认第三虚拟手术器械已夹取虚拟缝合针106;
步骤35,通过碰撞检测模块105检测到所述第三虚拟手术器械与眼角膜模型104碰撞时,记录虚拟缝合针106的第一个检测点1061的位置,生成穿刺点信息,并使穿刺点1042附近的粒子1041与穿刺点1042绑定,通过约束关系模拟所述粒子1041跟随穿刺点1042进行移动的变形效果;
步骤36,待全部检测点1061穿过全部穿刺点1042后,确定穿针动作结束;
步骤37,通过虚拟缝合针106带动虚拟缝合线107移动,检测虚拟缝合线107的两个检测粒子1071之间的当前距离,当当前距离大于原始距离时,判断虚拟缝合线107处于移动状态,并通过约束关系使所述粒子1041跟随虚拟缝合线107的移动方向变形;
步骤38,通过碰撞检测模块105检测到切口两侧的碰撞时,缝合动作停止,切口合拢。
可以理解,上述步骤31、32、33、34、35、36、37、38仅为了描述方便,并不用于唯一限制其时间顺序。具体地,步骤31中,通过手动操作显微控制设备203上的扳机键2033来选择第三虚拟手术器械,通过方向键2032来调节显微放大倍率、焦距以及可视区域,使适应于用户清晰观察手术过程。第三虚拟手术器械可以是镊子,用于夹取虚拟缝合针106。步骤32中,选择好第三虚拟手术器械后,手部操作与力反馈模块2021连接的真实器械,具体可以是手持镊子,带动夹具2023移动,进行穿针缝合动作。步骤33中,力反馈模块2021会实时的将手部的真实动作反馈至计算机中的手术动作模拟单元10,该信息用于追踪虚拟的镊子在虚拟手术场景中的动作和位置。步骤34中,通过碰撞检测模块105检测到碰撞时,判断镊子已经夹取虚拟缝合针106,可以通过虚拟现实设备201看到该动作;步骤35中,当碰撞检测模块105再次检测到碰撞时,判断虚拟缝合针106与眼角膜模型104接触,生成并记录虚拟缝合针106的第一个检测点1061的位置,生成穿刺点1042信息,使穿刺点1042附近的粒子1041与穿刺点1042绑定,随着虚拟缝合针106的移动,穿刺点1042随其移动,通过约束关系,周围粒子1041会跟随穿刺点1042进行移动,产生变形效果。当第一个检测点1061的移动超出穿刺点1042一定范围时,穿刺点1042会滑向第二个检测点1061,穿刺点1042记录的信息会更新为之后的第二个检测点1061的交点信息,之后依次向后放的检测点1061滑动直到完全穿过角膜软体。步骤35进行至少两次,实现至少两个穿刺点1042的缝合,步骤36中,待全部检测点1061穿过全部穿刺点1042后,确定穿针动作结束,将要进行拉线;步骤37中,通过虚拟缝合针106带动虚拟缝合线107移动,虚拟缝合线107的检测粒子1071之间存在角度约束以及距离约束,虚拟缝合线107的头部与虚拟缝合针106的尾部相连。当虚拟缝合针106完全穿过角膜软体表面时,穿刺点1042滑向缝合线头部的第一个检测粒子1071,当第一个检测粒子1071移动一定范围时,穿刺点1042同样会滑向第二个检测粒子1071。由于虚拟缝合线107具有一定的弹性,可以用虚拟缝合线107的一个检测粒子1071和另一检测粒子1071之间的原始距离与当前距离来判断缝合线在某一段上是否被拉紧,由此可以判断当抓取缝合针时,缝合线是否在移动。当判断为移动时,通过约束关系使眼角膜模型104的粒子1041跟随虚拟缝合线107的移动方向变形,产生缝合过程中角膜随缝合线的拉动而变形的效果。步骤38中,当碰撞检测模块105检测到切口两侧的碰撞时,缝合动作停止,切口呈现为合拢状态。
进一步地,待虚拟缝合线107穿过全部穿刺点1042后,通过显微控制设备203的扳机键2033切换虚拟打夹器,将虚拟缝合线107的尾部固定,便于拉紧虚拟缝合线107;然后拉紧虚拟缝合线107,在拉紧的过程中,通过约束关系使粒子1041随虚拟缝合线107的移动方向变形;在切口合拢后,通过显微控制设备203切换虚拟剪线钳108,将虚拟缝合线107剪断。
上述的各种虚拟手术动作均能够与手部真实动作对应映射,通过虚拟手术器械的精准追踪,使用户体验到身临其境的真实手术过程。
在本实施例中,为了便于观察缝合点,穿刺点1042通过彩点标识,例如红色点、黄色点等。
本发明实施例提供的虚拟显微眼科手术训练系统通过人机交互装置20的硬件设计结合手术动作模拟单元10的软件设计,实现显微眼科手术的高仿真模拟训练,为训练者提供手术类型多样的、高仿真的、极强沉浸感的手术体验,对手术的培训效果有很大提升。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。
Claims (13)
1.虚拟显微眼科手术训练系统,其特征在于,包括手术动作模拟单元和与其通信连接的人机交互装置,所述手术动作模拟单元包括眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块,所述人机交互装置包括用于观察虚拟显微手术场景的虚拟现实设备、用于供用户手部操作的手术器械跟踪定位设备,以及用于控制虚拟显微手术的显微效果及切换虚拟手术器械的显微控制设备;所述手术器械跟踪定位设备包括力反馈模块,用于将所述手部的动作信息传递至所述手术动作模拟单元以模拟手术动作。
2.如权利要求1所述的虚拟显微眼科手术训练系统,其特征在于,所述手术器械跟踪定位设备还包括夹具,所述夹具包括夹具主体、设置于所述夹具主体的用于固定真实器械的插槽,以及设于所述夹具主体的用于供真实器械触碰的按键板,所述力反馈模块对应所述按键板设有按键。
3.如权利要求1所述的虚拟显微眼科手术训练系统,其特征在于,所述显微控制设备包括设备主体、设置于所述设备主体的方向键以及扳机键,所述方向键用于调节显微放大倍率的大小和焦距的大小以及显微区域的移动,所述扳机键用于切换虚拟手术器械。
4.如权利要求1所述的虚拟显微眼科手术训练系统,其特征在于,所述人机交互装置还包括支架和设置于所述支架上的承托件,所述承托件与所述支架滑动连接使所述承托件的高度可调,所述虚拟现实设备安装于所述承托件上。
5.如权利要求1所述的虚拟显微眼科手术训练系统,其特征在于,所述眼角膜变形模块、眼角膜切割模块和眼角膜缝合模块基于位置动力学方法模拟所述眼角膜的变形、切割以及缝合的过程;眼角膜模型采用三角网格进行表达,以三角网格的顶点作为所述位置动力学方法的粒子集,根据眼角膜的特征设置粒子间的约束关系,通过所述约束关系模拟眼角膜的动态变化。
6.如权利要求5所述的虚拟显微眼科手术训练系统,其特征在于,所述约束关系包括:相邻顶点的距离约束和相邻三角面的非公用顶点的弯曲约束;通过所述约束关系及移动的顶点的位置变化确定所述粒子的位置变化以模拟所述眼角膜的动态变化。
7.如权利要求5或6所述的虚拟显微眼科手术训练系统,其特征在于,所述手术动作模拟单元还包括加载于所述眼角膜模型上的碰撞检测模块,用于检测所述虚拟手术器械与所述眼角膜模型之间的碰撞、虚拟手术器械中任意两种之间的碰撞以及眼角膜模型的不同部位的碰撞。
8.如权利要求7所述的虚拟显微眼科手术训练系统,其特征在于,通过所述虚拟显微眼科手术训练系统进行眼角膜的变形模拟包括:
通过所述显微控制设备选择第一虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第一虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第一虚拟手术器械与所述眼角膜模型碰撞时,确定所述第一虚拟手术器械与所述眼角膜模型接触的碰撞检测点,通过所述碰撞检测点的位置以及所述约束关系不断更新粒子的位置信息模拟眼角膜变形效果。
9.如权利要求7所述的虚拟显微眼科手术训练系统,其特征在于,通过所述虚拟显微眼科手术训练系统进行眼角膜的切割模拟包括:
通过所述显微控制设备选择第二虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第二虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第二虚拟手术器械与所述眼角膜模型碰撞时,记录所述第二虚拟手术器械与所述眼角膜模型先后相交的两条线段,构建出切割平面;
判断眼角膜模型与所述切割平面相交的三角面和相交点,通过所述相交点重新生成三角面使所述切割平面两侧分离,产生切口;
对每一个与所述切割平面相交的三角面进行重构,同时对所述相交点做一次复制,利用所述粒子之间的约束关系将切割平面两侧的结构三角化。
10.如权利要求9所述的虚拟显微眼科手术训练系统,其特征在于,在所述产生切口和对每一个与所述切割平面相交的三角面进行重构之间,还对所述粒子的约束关系进行重新构建以更新眼角膜模型的表面拓扑结构。
11.如权利要求7所述的虚拟显微眼科手术训练系统,其特征在于,所述虚拟手术器械还包括虚拟缝合针和虚拟缝合线,所述虚拟缝合针为多个检测点首尾相连的刚性模型,所述虚拟缝合线为多个检测粒子间隔连接的弹性模型,所述虚拟缝合线的头部与虚拟缝合针的尾部相连;
通过所述虚拟显微眼科手术训练系统进行眼角膜的缝合模拟包括:
通过所述显微控制设备选择第三虚拟手术器械;
手部操作与所述力反馈模块连接的真实器械;
通过所述力反馈模块追踪所述第三虚拟手术器械的动作;
通过所述碰撞检测模块检测到所述第三虚拟手术器械与虚拟缝合针碰撞时,确认第三虚拟手术器械已夹取虚拟缝合针;
通过所述碰撞检测模块检测到所述虚拟缝合针与眼角膜模型碰撞时,记录所述虚拟缝合针的第一个检测点的位置,生成穿刺点信息,并使所述穿刺点附近的粒子与所述穿刺点绑定,通过所述约束关系模拟所述粒子跟随所述穿刺点进行移动的变形效果;
待全部所述检测点穿过全部所述穿刺点后,确定穿针动作结束;
通过所述虚拟缝合针带动所述虚拟缝合线移动,检测所述虚拟缝合线的两个检测粒子之间的当前距离,当前距离大于原始距离时,判断虚拟缝合线处于移动状态,并通过所述约束关系使所述粒子跟随所述虚拟缝合线的移动方向变形;
通过所述碰撞检测模块检测到所述切口两侧的碰撞时,缝合动作停止,所述切口合拢。
12.如权利要求11所述的虚拟显微眼科手术训练系统,其特征在于,待所述虚拟缝合线穿过全部所述穿刺点后,通过所述显微控制设备切换所述虚拟打夹器,将所述虚拟缝合线的尾部固定;
拉紧所述虚拟缝合线,通过所述碰撞检测模块检测所述虚拟缝合线与所述眼角膜模型的碰撞,并通过所述约束关系使所述粒子随所述虚拟缝合线的移动方向变形;
在所述切口合拢后,通过所述显微控制设备切换虚拟剪线钳,将所述虚拟缝合线剪断。
13.如权利要求11所述的虚拟显微眼科手术训练系统,其特征在于,所述穿刺点通过彩点标识,所述穿刺点的数量至少为两个。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810942749.6A CN108961907B (zh) | 2018-08-17 | 2018-08-17 | 虚拟显微眼科手术训练方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810942749.6A CN108961907B (zh) | 2018-08-17 | 2018-08-17 | 虚拟显微眼科手术训练方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108961907A true CN108961907A (zh) | 2018-12-07 |
CN108961907B CN108961907B (zh) | 2020-09-25 |
Family
ID=64469848
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810942749.6A Active CN108961907B (zh) | 2018-08-17 | 2018-08-17 | 虚拟显微眼科手术训练方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108961907B (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111047937A (zh) * | 2019-12-14 | 2020-04-21 | 上海工程技术大学 | 一种基于磁流变液的手术训练系统 |
CN113633387A (zh) * | 2021-06-21 | 2021-11-12 | 安徽理工大学 | 术野追踪的扶持腹腔镜微创机器人触力交互方法和系统 |
CN115019877A (zh) * | 2022-08-05 | 2022-09-06 | 上海华模科技有限公司 | 生物组织模型的建模及更新方法、装置及存储介质 |
CN115294824A (zh) * | 2022-07-29 | 2022-11-04 | 上海市普陀区中心医院 | 一种眼科手术操作的培训方法及系统 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN2852297Y (zh) * | 2005-08-11 | 2006-12-27 | 江门新希望眼科研究所 | 眼部手术培训用模型 |
US20070207448A1 (en) * | 2006-03-03 | 2007-09-06 | The National Retina Institute | Method and system for using simulation techniques in ophthalmic surgery training |
CN101404039A (zh) * | 2008-03-28 | 2009-04-08 | 华南师范大学 | 一种虚拟手术的方法及其装置 |
US20110117530A1 (en) * | 2009-05-07 | 2011-05-19 | Technion Research & Development Foundation Ltd. | Method and system of simulating physical object incisions, deformations and interactions therewith |
CN102314710A (zh) * | 2011-09-26 | 2012-01-11 | 武汉大学 | 基于力异步扩散模型的医学组织动力学仿真方法 |
CA2856808A1 (en) * | 2011-11-23 | 2013-05-30 | Joseph W. Sassani | Universal microsurgical simulator |
EP2755194A1 (en) * | 2013-01-11 | 2014-07-16 | SuperD Co. Ltd. | 3D virtual training system and method |
CN105825752A (zh) * | 2016-04-22 | 2016-08-03 | 吉林大学 | 基于力反馈设备的虚拟眼角膜手术培训系统 |
CN106297471A (zh) * | 2016-10-25 | 2017-01-04 | 深圳市科创数字显示技术有限公司 | Ar和vr相结合的可移动眼角膜智能手术培训系统 |
CN103903487B (zh) * | 2013-11-26 | 2017-02-15 | 深圳市唯特视科技有限公司 | 一种基于3d力反馈技术的内窥镜微创手术三维仿真系统 |
EP2391963B1 (de) * | 2010-03-02 | 2017-06-21 | Geuder AG | Verfahren zur durchführung einer virtuellen operation zu trainingszwecken |
CN107205779A (zh) * | 2014-12-29 | 2017-09-26 | 助视会有限公司 | 手术模拟器系统和方法 |
CN105559887B (zh) * | 2015-12-11 | 2018-01-30 | 哈尔滨工业大学 | 用于手术机器人的基于力反馈的手术切割训练系统及方法 |
CN108281194A (zh) * | 2018-03-06 | 2018-07-13 | 温州医科大学 | 一种基于虚拟现实技术的患者视角眼科手术模拟方法 |
-
2018
- 2018-08-17 CN CN201810942749.6A patent/CN108961907B/zh active Active
Patent Citations (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN2852297Y (zh) * | 2005-08-11 | 2006-12-27 | 江门新希望眼科研究所 | 眼部手术培训用模型 |
US20070207448A1 (en) * | 2006-03-03 | 2007-09-06 | The National Retina Institute | Method and system for using simulation techniques in ophthalmic surgery training |
CN101404039A (zh) * | 2008-03-28 | 2009-04-08 | 华南师范大学 | 一种虚拟手术的方法及其装置 |
US20110117530A1 (en) * | 2009-05-07 | 2011-05-19 | Technion Research & Development Foundation Ltd. | Method and system of simulating physical object incisions, deformations and interactions therewith |
EP2391963B1 (de) * | 2010-03-02 | 2017-06-21 | Geuder AG | Verfahren zur durchführung einer virtuellen operation zu trainingszwecken |
CN102314710A (zh) * | 2011-09-26 | 2012-01-11 | 武汉大学 | 基于力异步扩散模型的医学组织动力学仿真方法 |
CA2856808A1 (en) * | 2011-11-23 | 2013-05-30 | Joseph W. Sassani | Universal microsurgical simulator |
CN104244859A (zh) * | 2011-11-23 | 2014-12-24 | J·萨萨尼 | 通用微手术模拟器 |
EP2755194A1 (en) * | 2013-01-11 | 2014-07-16 | SuperD Co. Ltd. | 3D virtual training system and method |
CN103903487B (zh) * | 2013-11-26 | 2017-02-15 | 深圳市唯特视科技有限公司 | 一种基于3d力反馈技术的内窥镜微创手术三维仿真系统 |
CN107205779A (zh) * | 2014-12-29 | 2017-09-26 | 助视会有限公司 | 手术模拟器系统和方法 |
CN105559887B (zh) * | 2015-12-11 | 2018-01-30 | 哈尔滨工业大学 | 用于手术机器人的基于力反馈的手术切割训练系统及方法 |
CN105825752A (zh) * | 2016-04-22 | 2016-08-03 | 吉林大学 | 基于力反馈设备的虚拟眼角膜手术培训系统 |
CN106297471A (zh) * | 2016-10-25 | 2017-01-04 | 深圳市科创数字显示技术有限公司 | Ar和vr相结合的可移动眼角膜智能手术培训系统 |
CN108281194A (zh) * | 2018-03-06 | 2018-07-13 | 温州医科大学 | 一种基于虚拟现实技术的患者视角眼科手术模拟方法 |
Non-Patent Citations (2)
Title |
---|
山君良司伟鑫李小萌王琼彭延军袁志勇王平安: "交互式基于点的外科手术软组织变形仿真", 《系统仿真学报》 * |
谢文,刘胜林,孔维佳,张佳华: "虚拟现实技术在微创外科手术学的应用", 《中国医疗设备》 * |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111047937A (zh) * | 2019-12-14 | 2020-04-21 | 上海工程技术大学 | 一种基于磁流变液的手术训练系统 |
CN113633387A (zh) * | 2021-06-21 | 2021-11-12 | 安徽理工大学 | 术野追踪的扶持腹腔镜微创机器人触力交互方法和系统 |
CN113633387B (zh) * | 2021-06-21 | 2024-01-26 | 安徽理工大学 | 术野追踪的扶持腹腔镜微创机器人触力交互方法和系统 |
CN115294824A (zh) * | 2022-07-29 | 2022-11-04 | 上海市普陀区中心医院 | 一种眼科手术操作的培训方法及系统 |
CN115019877A (zh) * | 2022-08-05 | 2022-09-06 | 上海华模科技有限公司 | 生物组织模型的建模及更新方法、装置及存储介质 |
CN115019877B (zh) * | 2022-08-05 | 2022-11-04 | 上海华模科技有限公司 | 生物组织模型的建模及更新方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN108961907B (zh) | 2020-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108961907A (zh) | 虚拟显微眼科手术训练方法和系统 | |
CN110390851B (zh) | 增强现实训练系统 | |
CN105825752A (zh) | 基于力反馈设备的虚拟眼角膜手术培训系统 | |
CN107067856A (zh) | 一种医学模拟训练系统和方法 | |
EP3040959A1 (en) | Surgical simulator system and method | |
US20150037775A1 (en) | Trauma training simulator with event-based gesture detection and instrument-motion tracking | |
US20090263775A1 (en) | Systems and Methods for Surgical Simulation and Training | |
CN109979600A (zh) | 基于虚拟现实的眼眶手术训练方法、系统和存储介质 | |
US20140011173A1 (en) | Training, skill assessment and monitoring users in ultrasound guided procedures | |
US11373553B2 (en) | Dynamic haptic robotic trainer | |
CN109009434A (zh) | 腹腔微创外科机器人虚拟手术方法 | |
MX2013012830A (es) | Sistema y metodo para realizar una simulacion hibrida de un procedimiento medico. | |
US20160314713A1 (en) | Motion learning support device and method for supporting motion learning | |
CN103456223A (zh) | 基于力反馈的腹腔镜手术模拟系统 | |
CN109273091A (zh) | 一种基于术中数据的经皮肾镜取石虚拟手术系统 | |
JP2015506726A (ja) | ユニバーサル顕微手術シミュレータ | |
JP4129527B2 (ja) | 仮想手術シミュレーションシステム | |
CN114402378B (zh) | 手术模拟器系统和方法 | |
CN115421594A (zh) | 一种基于虚拟训练及考试评分的装置与方法 | |
CN109064817A (zh) | 基于ct三维重建模型的手术模拟系统 | |
CN111696417A (zh) | 模拟经阴道后穹窿穿刺术智能训练方法及系统 | |
KR20190131188A (ko) | 가상 수술 시뮬레이션 및 수술용 가이드 제작이 가능한 의료용 vr 시뮬레이션 프로그램 | |
Bruyns et al. | Generalized interactions using virtual tools within the spring framework: Probing, piercing, cauterizing and ablating | |
Obeid et al. | Development and validation of a hybrid nuss procedure surgical simulator and trainer | |
Westwood | Low cost eye surgery simulator with skill assessment component |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |