CN113842216B - 一种上下牙对合模拟方法、装置及电子设备 - Google Patents
一种上下牙对合模拟方法、装置及电子设备 Download PDFInfo
- Publication number
- CN113842216B CN113842216B CN202111451411.9A CN202111451411A CN113842216B CN 113842216 B CN113842216 B CN 113842216B CN 202111451411 A CN202111451411 A CN 202111451411A CN 113842216 B CN113842216 B CN 113842216B
- Authority
- CN
- China
- Prior art keywords
- dimensional image
- target
- region
- tooth
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61C—DENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
- A61C19/00—Dental auxiliary appliances
- A61C19/04—Measuring instruments specially adapted for dentistry
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/10—Computer-aided planning, simulation or modelling of surgical operations
- A61B2034/101—Computer-aided simulation of surgical operations
- A61B2034/102—Modelling of surgical devices, implants or prosthesis
- A61B2034/104—Modelling the effect of the tool, e.g. the effect of an implanted prosthesis or for predicting the effect of ablation or burring
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B34/00—Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
- A61B34/20—Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
- A61B2034/2046—Tracking techniques
- A61B2034/2065—Tracking using image or pattern recognition
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Public Health (AREA)
- Animal Behavior & Ethology (AREA)
- Biophysics (AREA)
- Epidemiology (AREA)
- Dentistry (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Robotics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)
Abstract
本发明提供了一种上下牙对合模拟方法、装置及电子设备,包括:获取包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像的目标三维影像;根据成像标志物的三维影像,在目标三维影像中确定目标三维影像中的上下牙分界面;通过上下牙分界面对目标三维影像进行划分,得到上牙区域和下牙区域;以目标三维影像中的颌关节轴线为旋转轴,对上牙区域和/或下牙区域进行旋转,生成上下牙对合影像。这样,在医生需要观察患者时,可以利用目标三维影像中的成像标志物的三维影像,快速确定出患者的上下牙分界面,进而快速、精准确定出上牙区域和下牙区域,从而可以实现快速上下牙对合模拟,大大提高了诊疗过程中观察患者上下牙对合情况的便利性。
Description
技术领域
本发明实施例涉及图像处理领域,尤其涉及一种上下牙对合模拟方法、装置、电子设备、计算机可读存储介质及计算机程序产品。
背景技术
随着医疗技术的不断发展,机器人技术开始越来越多应用在检查、术前规划和手术阶段,例如可以通过齿科机器人对患者进行齿科手术的术前规划和手术实施。
使用齿科机器人对患者进行齿科手术,需要在患者牙齿上安装口腔定位工具,以便齿科机器人在手术过程中可以对患者口腔进行实时跟踪定位。跟踪定位的前提是进行不同坐标系之间的空间配准,包括但不限于三维图像坐标系、红外图像坐标系等等。因此,从CBCT图像拍摄到种植体植入手术完成,患者需要全程佩戴口腔定位工具。
种植体植入位置直接影响种植效果,观察植入后的上下牙对合情况是判断种植体植入位置是否合适的重要依据。然而在上述方式中,由于患者需要一直佩戴口腔定位工具,医生在规划过程中难以观察上下牙对合情况,不仅增加了规划阶段的耗时,还容易导致检查或治疗的效果不佳。
发明内容
本发明实施例提供一种上下牙对合模拟方法、装置、电子设备、计算机可读存储介质及计算机程序产品,以解决相关技术中通过机器人进行齿科手术规划时,观察患者上下牙对合情况不便的问题。
第一方面,本发明实施例提供了一种上下牙对合模拟方法,该方法包括:
获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的;
根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标;
根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面;
通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域;
以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像。
在一种可实施方式中,所述口腔定位工具包括至少三个成像标志物,所述成像标志物为金属球,所述根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标,包括:
从所述目标三维影像中识别出所述至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,
或,
响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
在一种可实施方式中,所述从所述目标三维影像中识别出所述至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,包括:
对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像;
从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置;
根据所述三个坐标位置确定三个定位坐标。
在一种可实施方式中,所述对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像,包括:
响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置;
根据所述至少三个三维影像点的坐标位置确定至少三个识别区域;
对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
在一种可实施方式中,所述根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面,包括:
按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量;
根据所述定位向量的之间的混合积确定所述上下牙分界面。
在一种可实施方式中,所述方法还包括:
响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
在一种可实施方式中,所述通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域,包括:
计算所述上下牙分界面的法向量;
根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为所述上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为所述下牙区域。
在一种可实施方式中,所述方法还包括:
根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置;
将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
在一种可实施方式中,所述以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像,包括:
根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域;
根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
在一种可实施方式中,所述根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像,包括:
以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系;
通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵;
在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
第二方面,本发明实施例提供了一种上下牙对合模拟装置,该装置包括:
获取模块,被配置为获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的;
坐标确定模块,被配置为根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标;
面确定模块,被配置为根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面;
划分模块,被配置为通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域;
对合模块,被配置为以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像。
在一种可实施方式中,所述坐标确定模块包括:
坐标确定子模块,被配置为从所述目标三维影像中识别出至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,或,响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
在一种可实施方式中,所述坐标确定子模块包括:
识别子模块,被配置为对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像;
坐标位置子模块,被配置为从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置;
定位坐标子模块,被配置为根据所述三个坐标位置确定三个定位坐标。
在一种可实施方式中,所述识别子模块包括:
影像点子模块,被配置为响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置;
识别区域子模块,被配置为根据所述至少三个三维影像点的坐标位置确定至少三个识别区域;
区域分析子模块,被配置为对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
在一种可实施方式中,所述面确定模块包括:
定位向量子模块,被配置为按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量;
分界面确定子模块,被配置为根据所述定位向量的之间的混合积确定所述上下牙分界面。
在一种可实施方式中,所述装置还包括:
分界面调整模块,被配置为响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
在一种可实施方式中,所述划分模块包括:
法向量子模块,被配置为计算所述上下牙分界面的法向量;
划分子模块,被配置为根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为下牙区域。
在一种可实施方式中,所述装置还包括:
颌关节位置模块,被配置为根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置;
颌关节轴线模块,被配置为将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
在一种可实施方式中,所述对合模块包括:
旋转确定子模块,被配置为根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域;
对合子模块,被配置为根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
在一种可实施方式中,所述对合子模块包括:
旋转坐标系子模块,被配置为以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系;
矩阵确定子模块,被配置为通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵;
影像子模块,被配置为在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
第三方面,本发明实施例还提供了一种电子设备,包括用于存储所述处理器可执行指令的存储器;其中,所述处理器被配置为执行所述指令,以实现所述的上下牙对合模拟方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得电子设备能够执行所述的上下牙对合模拟方法。
第五方面,本发明实施例还提供了一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现所述的上下牙对合模拟方法。
在本发明实施例中,包括:获取目标三维影像,目标三维影像包括上牙、下牙和安装于上牙或下牙的口腔定位工具,口腔定位工具用于对口腔机器人进行导航;根据口腔定位工具上的三个定位坐标,确定目标三维影像中的上下牙分界面;通过上下牙分界面对目标三维影像进行划分,得到上牙区域和下牙区域,上牙区域和下牙区域均为目标三维影像中的三维区域;以目标三维影像中的颌关节轴线为旋转轴,对上牙区域或下牙区域进行旋转,生成上下牙对合影像。通过本发明实施例提供的方法,在手术规划阶段,使得在医生需要观察患者时,无需拆卸患者口中的口腔定位工具,可以直接根据包含口腔定位工具的目标三维影像对患者的上下牙对合状态进行模拟,并生成上下牙对合影像,大大节省了诊疗时间和诊疗过程中观察患者上下牙对合情况的便利性。为了在目标三维影像上对患者的上下牙对合状态进行模拟,本发明实施例提供的方法利用口腔定位器上的成像标志物的三维影响确定上下牙分界面。口腔定位工具通常用于对口腔进行定位,其中的成像标志物通常用于图像配准,本发明的发明人通过付出创造性劳动,发现口腔定位器上设置的成像标志物近似处于上下牙区域的分割平面,提出利用成像标志物构建分界面,从而可以简单、快速、可靠地实现上下牙区域的分割。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1是本发明实施例提供的一种上下牙对合模拟方法的步骤流程图;
图2是本发明实施例提供的一种口腔定位工具结构图;
图3是本发明实施例提供的一种口腔定位工具的安装示意图;
图4是本发明实施例提供的另一种上下牙对合模拟方法的步骤流程图;
图5是本发明实施例提供的一种定位向量示意图;
图6是本发明实施例提供的一种体绘制示意图;
图7是本发明实施例提供的一种偏移采样线体绘制对比示意图;
图8是本发明实施例提供的一种上下牙对合模拟装置结构图;
图9是本发明一个实施例的电子设备的逻辑框图;
图10是本发明另一个实施例的电子设备的逻辑框图。
具体实施方式
下面将参照附图更详细地描述本发明的示例性实施例。虽然附图中显示了本发明的示例性实施例,然而应当理解,可以以各种形式实现本发明而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本发明,并且能够将本发明的范围完整的传达给本领域的技术人员。
图1是本发明实施例提供的一种上下牙对合模拟方法的步骤流程图,如图1所示,该方法包括:
步骤101、获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的。
在使用机器人对患者的牙齿进行检查、手术或规划等过程中,机器人需要精准确定患者口腔内的牙齿位置,以便使探头、机械臂等设备可以精准对患者的牙齿进行操作。例如,在采用齿科种植机器人进行齿科种植牙手术的规划阶段,需要对替代缺失牙齿的金属种植体的摆放位置进行规划。但是,由于患者并不能保持完全静止状态,因此,需要在患者牙齿上安装具有成像标志物的口腔定位工具,成像标志物的设置主要是为了对患者的口腔三维影像进行配准,即建立患者的口腔三维影像坐标系与实际空间坐标系之间的映射关系,以便机器人的机械臂可以准确对患者牙齿的精准位置进行操作。其中,种植牙是一种用金属种植体打入骨骼中替代原有缺失牙的修复手段。
参照图2和图3,图2是本发明实施例提供的一种口腔定位工具结构图。图3是本发明实施例提供的一种口腔定位工具的安装示意图。如图2所示,口腔定位工具1171包括定位工具本体11711、连接在定位工具本体一端的夹头11716、夹头11716附近位置的三个成像标志物11714以及定位工具本体另一端的若干红外定位球11717。如图3所示,夹头11716可以安装在患者的牙齿20上,并通过打胶等方式与患者的牙齿20固定连接。
在使用机器人对患者的牙齿进行检查、手术等过程前,需要先将口腔定位工具安装在患者的牙齿上,并对包含口腔定位工具的患者口腔进行建模,生成包含患者牙齿和成像标志物的三维口腔影像。再通过红外摄像头采集口腔定位工具上的各个红外定位球在空间中的位置信息,由于口腔定位工具的结构稳定,成像标志物和红外定位球的位置关系是确定的,而且口腔定位工具被固定于患者牙齿上,因此成像标志物和患者牙齿的位置关系也是固定的,从而可以根据红外定位球在空间中的位置信息精确确定出患者牙齿在空间中的位置和角度,为机器人精准操作提供了保障。
在机器人对患者牙齿进行操作的过程中,患者需要一直佩戴口腔定位工具,以便机器人可以实时确定患者牙齿在空间中的位置和角度,因此,在机器人对患者牙齿进行操作过程中,医生很有可能需要观察患者的上下牙对合情况,以便对患者进行针对性检查和治疗,例如,在牙齿种植过程中,需要使用牙科种植机器人在患者牙床上进行打孔,以便安置种植牙,此时,为了确定准确的打孔位置和角度等参数,医生需要根据患者的上下牙对合情况进行分析。但是,由于患者口腔内安装有口腔定位工具,因此患者的上下牙无法闭合。此时,可以获取包含患者上下牙和口腔定位工具的目标三维影像,并通过目标三维影像来模拟出患者的上下牙对合图像。
具体的,在患者牙齿上安装口腔定位工具后,可以通过锥形束计算机断层扫描(Cone beam CT,CBCT)等断层扫描设备对患者头部进行扫描建立包含患者口腔三维影像和口腔标志物影像的目标三维影像。目标三维影像也可以通过X光、核磁共振(MagneticResonance Imaging,MRI)等其他影像技术对患者头部进行扫描而建立。本发明实施例对目标三维影像的建立方式在此并不进行具体限定。
步骤102,根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标。
由于口腔定位工具的本体一般为平板结构,且直接被安装在患者的上牙或下牙上,口腔定位工具的本体与患者的上下牙分界面基本处于同一平面,而成像标志物安装在口腔定位工具的本体上,因此,可以在获取到包含患者上下牙影像和成像标志物的三维影像的目标三维影像后,直接根据成像标志物的三维影像在目标三维影像中所处的平面,快速确定出患者上下牙的分界面。
由于确定一个平面至少需要三个坐标,因此,可以根据目标三维影像中的至少三个成像标志位的三维影像,快速确定出位于口腔定位工具上的三个定位坐标,通过这些定位坐标,计算出一个位于目标三维影像坐标系中的平面,该平面即为患者上下牙分界面。需要说明的是,确定出的定位坐标是在目标三维影像空间坐标系中的坐标。
具体的,可以通过人工在目标三维影像中进行标注的方式,确定出上述定位坐标。例如,医生可以使用触摸屏或鼠标等输入设备对屏幕上显示的目标三维影像进行旋转,找到便于观察成像标志物的三维影像的角度,再通过触摸屏或鼠标等输入设备在模型中的口腔定位工具上选取定位点,定位点在目标三维影像中的位置坐标即为定位坐标。
还可以通过计算机直接对目标三维影像进行图像识别的方式自动确定定位坐标。例如,可以根据图库中存储的成像标志物的影像数据,在目标三维影像中匹配到成像标志物的三维影像,进而,确定出这些特征点在目标三维影像中的位置坐标,这些位置坐标即可作为上述定位坐标。需要说明的是,在根据成像标志物的三维影像确定定位坐标时,可以计算成像标志物在目标三维影像中的球心坐标,并将一个成像标志物的球心坐标作为一个定位坐标。
步骤103,根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面。
在确定出定位坐标后,可以计算出与定位坐标相交的平面公式,通过该平面公式在口腔三维影像中绘制出的平面即为上下牙分界面。
由于口腔定位工具的结构不同,某些口腔定位工具在安装到患者的牙齿上后,其上的成像标志物可能与患者牙齿的表面并不大致平行,而是存在一个较大的角度,导致通过成像标志物确定出来的上下牙分界面会穿过部分上牙和/或下牙,造成分界效果不佳。对于这种口腔定位工具,可以在数据库中预设有该口腔定位工具的修正数据,并根据修正数据对通过成像标志物的三维影像确定出的三个定位坐标中的两个定位坐标进行修正,以使三个定位坐标确定出的平面与患者牙齿表面大致平行,再根据修正后的定位坐标确定上下牙分界面。
步骤104、通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域。
为了生成模拟的上下牙对合影像,在确定出上下牙分界面后,还需要在目标三维影像中确定出包含上牙的影像区域和包含下牙的影像区域。
具体的,可以直接以上下牙分界面对目标三维影像进行切分,将上下牙分界面一侧的目标三维影像确定为上牙区域,将上下牙分界面另一侧的目标三维影像确定为下牙区域。
由于上下牙分界面处于上牙和下牙之间,因此,还可以对目标三维影像中的牙齿特征进行图像识别,确定出目标三维影像中的牙齿区域,并将上下牙分界面一侧的牙齿区域确定为上牙区域,将上下牙分界面另一侧的牙齿区域确定为下牙区域。
步骤105,以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像。
在患者实际进行对合动作时,下颌骨会以颌关节为圆心进行旋转,使下颌骨上的下牙向上颌骨上的上牙靠近,进而完成对合动作。
因此,还需要在目标三维影像中确定患者的下颌骨与上颌骨连接的两个颌关节位置,并对两个颌关节位置进行连线确定颌关节轴线。颌关节轴线可以通过三维坐标系中的直线进行表示。
具体的,可以通过人工在目标三维影像中进行标注的方式,确定出上述颌关节位置。例如,用户可以使用触摸屏或鼠标等输入设备对屏幕上显示的目标三维影像进行旋转,找到便于观察颌关节的模型角度,再通过触摸屏或鼠标等输入设备对每个颌关节进行标记。还可以通过图像识别技术对目标三维影像进行图像识别,自动确定出每个颌关节的位置。
由于颌关节的位置在目标三维影像的坐标系中可以通过三维坐标的方式进行表示,因此可以获取两个颌关节的位置坐标,并根据两个颌关节的位置坐标唯一确定出一条位于目标三维影像中的直线,该直线即为颌关节轴线。
进而,可以对目标三维影像中的上牙区域和/或下牙区域以颌关节轴线为旋转轴进行旋转,以模拟患者牙齿的实际运动情况。
具体的,用户可以判断出上下牙对合所需要的旋转角度进行录入,并选取所要旋转的一侧牙齿区域,则系统自动将用户选取的一侧牙齿区域,向另一侧牙齿区域旋转上述旋转角度值,以生成上下牙对合影像。还可以在无需用户输入旋转角度的情况下,自动对上牙区域和/或下牙区域以颌关节轴线为旋转轴进行旋转,使两者相互靠近,并判断上牙区域的牙齿影像在目标三维影像坐标系中,是否与下牙区域的牙齿影像在目标三维影像坐标系中相交,如果相交,则停止旋转,得到上下牙对合影像。
进一步的,为了便于用户观察上下牙的对合过程,用户还可以通过触摸屏或鼠标等输入设备对屏幕上显示的上牙区域或下牙区域进行拖拽操作,使上下区域或下牙区域以颌关节轴线为旋转轴,根据用户的拖拽轨迹连续转动,便于用户观察对合过程,用户还可以在确定观察到上下牙完成对合时停止拖拽,获得更为准确的上下牙对合影像。
在本发明实施例中,公开了一种上下牙对合模拟方法,包括:获取目标三维影像,目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,目标三维影像是基于患者口腔的CBCT图像重建得到的,CBCT图像是患者在上牙或下牙佩戴口腔定位工具的状态下拍摄得到的;根据成像标志物的三维影像,在目标三维影像中确定三个定位坐标;根据三个定位坐标,确定目标三维影像中的上下牙分界面;通过上下牙分界面对目标三维影像进行划分,得到上牙区域和下牙区域,上牙区域和下牙区域均为目标三维影像中的三维区域;以目标三维影像中的颌关节轴线为旋转轴,对上牙区域和/或下牙区域进行旋转,生成上下牙对合影像。这样,在医生需要观察患者时,可以利用目标三维影像中的成像标志物的三维影像,快速确定出患者的上下牙分界面,进而快速、精准确定出上牙区域和下牙区域,从而可以实现快速上下牙对合模拟,大大节省了诊疗时间并提高了诊疗过程中观察患者上下牙对合情况的便利性。
图4是本发明实施例提供的另一种上下牙对合模拟方法的步骤流程图,如图4所示,该方法包括:
步骤201,获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的。
在患者牙齿上安装口腔定位工具后,优选的,可以通过锥形束计算机断层扫描(Cone beam CT,CBCT)等断层扫描设备对患者头部进行扫描而建立包含患者颅骨和口腔定位工具上的成像标志物三维影像的目标三维影像,还可以采用其他能够对骨骼进行扫描的技术手段建立目标三维影像。
步骤202,根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标。
为了避免口腔定位工具置于患者口中时,对患者头部进行锥形束计算机断层扫描得到的目标三维影像中会包含口腔定位工具的影像,进而对患者牙齿部位造成遮挡。因此,口腔定位工具可以采用塑料等不会在锥形束计算机断层扫描过程中成像的材料进行制造,以避免口腔定位工具在目标三维影像中干扰人体部位。但是,由于锥形束计算机断层扫描对金属是可以成像的,因此,口腔定位工具上的成像标志物可以为采用金属材料制造的球体结构,例如钛球。
可选的,步骤202还可以包括:
子步骤2021,从所述目标三维影像中识别出所述至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,或,响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
确定金属球在目标三维影像中的位置,并根据金属球在目标三维影像中的位置确定定位坐标的方式具体可参见步骤102,本发明实施例不再赘述。
需要说明的是,出于提高精度的考虑,在某些口腔定位工具上可能设置有数量大于三个的金属球,导致目标三维影像中会包含数量超过三个的成像标志物的三维影像,此时可以在这些数量超过三个的成像标志物的三维影像中,选取三个成像标志物的三维影像用于确定三个定位坐标。例如,可以将数量超过三个的成像标志物的三维影像中的每三个形成一个三角形,并计算各个三角形的面积,选取面积最大的三角形对应的三个成像标志物的三维影像用于确定三个定位坐标,以使三个定位坐标相互之间距离较远,以提高确定出的上下牙分界面的精度。技术人员还可以采用其他方式从数量超过三个的成像标志物的三维影像中,选取三个成像标志物的三维影像用于确定三个定位坐标,本申请实施例在此不做具体限定。
通过位于目标三维影像中的至少三个金属球,可以快速确定出三个定位坐标,并且,无论采用何种方式生成目标三维影像,其中均会包含用于确定定位坐标的金属球影像,不仅大大提高了确定定位坐标的速度,还提升了技术方案的适用性。
可选的,子步骤2021还可以包括:
子步骤A1,对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像。
可选的,子步骤A1还可以包括:
子步骤a1,响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置。
由于目标三维影像中的像素较多,采用计算机对目标三维影像的全部区域进行识别需要消耗较多的算力和时间,为了进一步提高确定生成牙齿对合影像的速度,还可以采用人工与计算机结合的方式从目标三维影像中确定出至少三个成像标志物的三维影像。
具体的,可以先获取用户针对至少三个成像标志物的三维影像的选择操作,获取用户的选择操作对应的至少三个三维影像点的坐标位置。用户可以通过鼠标、触摸屏等设备在目标三维影响上选择至少三个三维影像点的坐标位置,也可以通过键盘等输入设备直接录入至少三个三维影像点的坐标值。
子步骤a2,根据所述至少三个三维影像点的坐标位置确定至少三个识别区域。
由于金属球较小,用户确定的三维影像点的坐标位置难以反映金属球的精确位置,因此还需要对用户选择的每个三维影像点的坐标位置进行扩充,形成至少三个识别区域。具体的,可以设置预设扩充半径,以用户选择的每个三维影像点的坐标位置为圆心,将预设扩充半径内的像素点扩充为识别区域。当然,也可以采用其他方式对每个三维影像点的坐标位置进行扩充,本申请实施例并不进行具体限定。
需要说明的是,用户也可以通过框选、圈选等方式直接确定出至少三个识别区域。
子步骤a3,对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
在确定出至少三个识别区域后,再对每个识别区域进行特征分析,从每个识别区域中匹配出成像标志物的三维影像,可以大大缩减进行图像识别的像素数量,提高了在目标三维影像中识别至少三个成像标志物的三维影像的效率。
子步骤A2,从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置。
子步骤A3,根据所述三个坐标位置确定三个定位坐标。
步骤203,根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面。
在确定出定位坐标后,可以采用上述步骤103中的方法确定上下牙分界面,本发明实施例不再赘述。
可选的,步骤203还可以包括:
子步骤2031,按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量。
由于上下牙分界面的两侧分别为不同的牙齿结构,即上牙和下牙,因此,在确定上下牙分界面的同时,还需要确定出上下牙分界面两侧分别对应的牙齿结构。
具体的,由于确定出的定位坐标所连接形成的三角形并不是等边三角形,例如,由于口腔定位工具上的三个金属球所连接形成三角形三条边并不等长,因此,当根据三个金属球确定出定位坐标后,可以根据三个定位坐标围绕形成的三角形形状,确定出口腔定位工具安装在口腔中的朝向。
如果确定口腔定位工具的安装方向在目标三维影像正置的情况下朝向上方,则可以按照顺时针方向对金属球位置对应的定位坐标进行连接,并构建两两相邻定位坐标之间的定位向量。
参照图5,图5是本发明实施例提供的一种定位向量示意图。如图5所示,按照顺时针方向连接金属球对应的定位坐标A,B和C,得到三个定位向量a,b和c。
子步骤2032,根据所述定位向量的之间的混合积确定所述上下牙分界面。
在确定出定位向量后,可以根据定位向量之间的混合积建立平面表达式方程,并对平面表达式方程进行求解,得到上下牙分界面。其中,混合积,又称三重积,是三个向量相乘的结果。
根据图5举例来说,其中,按照顺时针方向连接金属球对应的定位坐标A,B和C,得到三个定位向量a,b和c分别为:a(x0,y 0,z0),b(x 1,y1,z 1),c(x 2,y 2,z 2),则可以建立如下的平面表达式方程:
对上述平面表达式方程进行求解后,即可得到上下牙分界面方程,从而确定上下牙分界面。
通过上述定位坐标确定定位向量,并根据定位向量的混合积方式确定出的上下牙分界面含有法向量信息,进而可以在后续过程中通过该法向量信息直接确定出上牙区域和下牙区域,提升了运算效率。
步骤204,响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
根据定位坐标直接确定出的上下牙分界面可能会与实际的分界面存在一定偏差,因此用户还可以对确定出的上下牙分界面进行修正,使其更加精准。
具体的,为了提高上下牙分界面的确定精度,还可以在根据定位坐标确定出定位坐标所在的平面后,接收用户通过键盘、鼠标或触摸屏等输入设备的输入,对该平面进行微调,以使用户可以对该平面进行校准,得到更为精确的上下牙分界面,提高了确定出的上下牙分界面的精度。
步骤205,通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域。
可选的,步骤205还可以包括:
子步骤2051,计算所述上下牙分界面的法向量。
由于在子步骤2031至子步骤2032中,是根据顺时针或逆时针规则确定出的定位向量计算出上下牙分界面,而上下牙分界面位于上牙和下牙之间,因此上下牙分界面的法向量方向可以确定指示上牙位于上下牙分界面的方位以及下牙位于上下牙分界面的方位。
需要说明的是,按照不同的时针方向确定定位向量会导致上下牙分界面的法向量确定指示的牙齿部位的不同。例如,采用顺时针方式确定定位向量,则上下牙分界面的法向量方向指示上牙方向,若采用逆时针方式确定定位向量,则上下牙分界面的法向量方向指示下牙方向。
子步骤2052,根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为下牙区域。
本发明实施例可以通过上下牙分界面的法向量自动确定上牙区域和下牙区域,无需用户对上牙区域和下牙区域进行手动确定,也无需采用图像识别等耗费计算资源较大的方式识别并确定上牙区域和下牙区域,不仅提升了用户使用时的便利性,还降低了最终输出上下牙对合影响所需的运算量,提高了图像输出的速度。
步骤206,根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置。
在患者实际进行对合动作时,下颌骨会以颌关节为圆心进行旋转,使下颌骨上的下牙向上颌骨上的上牙靠近,进而完成对合动作。
因此,还需要在目标三维影像中确定患者的下颌骨与上颌骨连接的两个颌关节位置,并对两个颌关节位置进行连线确定颌关节轴线。颌关节轴线可以通过三维坐标系中的直线方程进行表示。
具体的,可以通过人工在目标三维影像中进行标注的方式,确定出上述颌关节位置。例如,医生可以使用触摸屏或鼠标等输入设备对屏幕上显示的目标三维影像进行旋转,找到便于观察颌关节的模型角度,再通过触摸屏或鼠标等输入设备对每个颌关节进行标记。还可以通过图像识别技术对目标三维影像进行图像识别,自动确定出每个颌关节的位置。
步骤207,将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
由于颌关节的位置在目标三维影像的坐标系中可以通过三维坐标的方式进行表示,因此可以获取两个颌关节的位置坐标,并根据两个颌关节的位置坐标唯一确定出一条位于目标三维影像中的直线,该直线即为颌关节轴线。
步骤208,根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域。
在对上下牙对合影像进行渲染前,还需要确定所要旋转的待旋转区域,以及旋转待旋转区域的区域旋转角度,其中,待旋转区域可以是上牙区域和/或下牙区域。
具体的,待旋转区域可以根据用户通过触摸屏、鼠标等输入设备对上牙区域和/或下牙区域的选择操作所确定。也可以通过其他方式进行确定,本发明实施例不做具体限定。
在确定出待旋转区域后,用户可以通过键盘等输入方式输入对应的区域旋转角度。由于用户可能并不清楚合适的可以使上下牙完全对合的区域旋转角度,因此还可以根据用户通过触摸屏或鼠标等输入设备对屏幕上显示的上牙区域或下牙区域的拖拽操作,确定上下区域和/或下牙区域的区域旋转角度。
步骤209,根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
体绘制(Volume rendering)是一种由三维数据场(即三维模型数据),直接产生屏幕上二维图像的技术。在采用体绘制进行渲染时,会根据采样线对采样线上经过的三维模型的像素进行提取,然后将所有采样线经过的像素进行组合得到对应的二维图像。其中,采样线可以有多条,多条采样线可以形成经过三维模型表面和/或内部的曲面,则体绘制渲染会将该曲面上的像素提取并排列生成二维图像。
参照图6,图6是本发明实施例提供的一种体绘制示意图。如图6所示,体绘制可以将三维模型30中,经过采样线40的像素点50绘制到用户60观察的屏幕70上。
参照图7,图是本发明实施例提供的一种偏移采样线体绘制对比示意图。如图7的301部分所示,在没有对采样线进行偏移的情况下,对目标三维影像进行体绘制可以得到上下牙未闭合的二维图像。如图7的302部分所示,在对采样线进行偏移后,可以根据偏移后的采样线绘制出上下牙闭合的二维图像。
由于在生成上下牙对合影像时,并不需要对目标三维影像中的像素内容进行修改,只是需要调整部分像素的位置,因此,无需对目标三维影像进行重新构建,只需要根据和颌关节轴线、待旋转区域和区域旋转角度,调整体绘制渲染时采用的采样线,即可通过体绘制直接得到上下牙闭合的二维图像。
通过上述体绘制渲染技术生成上下牙闭合影像,无需重新构建目标三维影像,只需要渲染上下牙闭合的二维影像,大大降低了绘制上下牙闭合影像的系统运算开支,提升了上下牙闭合影像的生成速度,节省了诊疗时间。
可选的,步骤209还可以包括:
子步骤2091,以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系。
要生成上下牙对合影像,首先需要建立旋转坐标系。
具体的,可以以两个颌关节中一个颌关节位置为坐标原点,以颌关节轴线为旋转轴,建立旋转坐标系。
子步骤2092,通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵。
罗德里格旋转公式是计算三维空间中,一个向量绕旋转轴旋转给定角度以后得到的新向量的计算公式。
通过罗德里格斯公式,可以计算得到待旋转区域在旋转坐标系中,围绕旋转轴转动区域旋转角度后生成的变换关系,其中该变换关系可以采用4X4的其次矩阵形式进行表示。
子步骤2093,在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
在使用体绘制对目标三维影像进行渲染的过程中,可以通过上述子步骤2092生成的齐次矩阵,对经过目标三维影像中待旋转区域的采样线进行偏移,得到偏移后的采样线,再通过偏移后的采样线使用体绘制方式对目标三维影像进行渲染,得到上下牙对合影像。
在本发明实施例中,公开了一种上下牙对合模拟方法,包括:获取目标三维影像,目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,目标三维影像是基于患者口腔的CBCT图像重建得到的,CBCT图像是患者在上牙或下牙佩戴口腔定位工具的状态下拍摄得到的;根据成像标志物的三维影像,在目标三维影像中确定三个定位坐标;根据三个定位坐标,确定目标三维影像中的上下牙分界面;通过上下牙分界面对目标三维影像进行划分,得到上牙区域和下牙区域,上牙区域和下牙区域均为目标三维影像中的三维区域;以目标三维影像中的颌关节轴线为旋转轴,对上牙区域和/或下牙区域进行旋转,生成上下牙对合影像。这样,在医生需要观察患者时,可以利用目标三维影像中的成像标志物的三维影像,快速确定出患者的上下牙分界面,进而快速、精准确定出上牙区域和下牙区域,从而可以实现快速上下牙对合模拟,大大节省了诊疗时间并提高了诊疗过程中观察患者上下牙对合情况的便利性。
与上述本发明的上下牙对合模拟方法实施例所提供的方法相对应,参见图8,本发明还提供了一种上下牙对合模拟装置结构图,在本实施例中,该装置可以包括:
获取模块501,被配置为获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的;
坐标确定模块502,被配置为根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标;
面确定模块503,被配置为根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面;
划分模块504,被配置为通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域;
对合模块505,被配置为以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像。
在一种可实施方式中,所述坐标确定模块包括:
坐标确定子模块,被配置为从所述目标三维影像中识别出至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,或,响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
在一种可实施方式中,所述坐标确定子模块包括:
识别子模块,被配置为对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像;
坐标位置子模块,被配置为从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置;
定位坐标子模块,被配置为根据所述三个坐标位置确定三个定位坐标。
在一种可实施方式中,所述识别子模块包括:
影像点子模块,被配置为响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置;
识别区域子模块,被配置为根据所述至少三个三维影像点的坐标位置确定至少三个识别区域;
区域分析子模块,被配置为对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
在一种可实施方式中,所述面确定模块包括:
定位向量子模块,被配置为按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量;
分界面确定子模块,被配置为根据所述定位向量的之间的混合积确定所述上下牙分界面。
在一种可实施方式中,所述装置还包括:
分界面调整模块,被配置为响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
在一种可实施方式中,所述划分模块包括:
法向量子模块,被配置为计算所述上下牙分界面的法向量;
划分子模块,被配置为根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为下牙区域。
在一种可实施方式中,所述装置还包括:
颌关节位置模块,被配置为根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置;
颌关节轴线模块,被配置为将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
在一种可实施方式中,所述对合模块包括:
旋转确定子模块,被配置为根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域;
对合子模块,被配置为根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
在一种可实施方式中,所述对合子模块包括:
旋转坐标系子模块,被配置为以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系;
矩阵确定子模块,被配置为通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵;
影像子模块,被配置为在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
综上,本发明实施例提供的一种上下牙对合模拟模型生成装置,包括:获取目标三维影像,目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,目标三维影像是基于患者口腔的CBCT图像重建得到的,CBCT图像是患者在上牙或下牙佩戴口腔定位工具的状态下拍摄得到的;根据成像标志物的三维影像,在目标三维影像中确定三个定位坐标;根据三个定位坐标,确定目标三维影像中的上下牙分界面;通过上下牙分界面对目标三维影像进行划分,得到上牙区域和下牙区域,上牙区域和下牙区域均为目标三维影像中的三维区域;以目标三维影像中的颌关节轴线为旋转轴,对上牙区域和/或下牙区域进行旋转,生成上下牙对合影像。这样,在医生需要观察患者时,可以利用目标三维影像中的成像标志物的三维影像,快速确定出患者的上下牙分界面,进而快速、精准确定出上牙区域和下牙区域,从而可以实现快速上下牙对合模拟,大大节省了诊疗时间并提高了诊疗过程中观察患者上下牙对合情况的便利性。
图9是根据一示例性实施例示出的一种电子设备600的框图。例如,电子设备600可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图9,电子设备600可以包括以下一个或多个组件:处理组件602,存储器604,电力组件606,多媒体组件608,音频组件610,输入/输出(I/ O)的接口612,传感器组件614,以及通信组件616。
处理组件602通常控制电子设备600的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件602可以包括一个或多个处理器620来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件602可以包括一个或多个模块,便于处理组件602和其他组件之间的交互。例如,处理组件602可以包括多媒体模块,以方便多媒体组件608和处理组件602之间的交互。
存储器604用于存储各种类型的数据以支持在电子设备600的操作。这些数据的示例包括用于在电子设备600上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器604可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件606为电子设备600的各种组件提供电力。电源组件606可以包括电源管理系统,一个或多个电源,及其他与为电子设备600生成、管理和分配电力相关联的组件。
多媒体组件608包括在所述电子设备600和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。若屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的分界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件608包括一个前置摄像头和/或后置摄像头。当电子设备600处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件610用于输出和/或输入音频信号。例如,音频组件610包括一个麦克风(MIC),当电子设备600处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风用于接收外部音频信号。所接收的音频信号可以被进一步存储在存储器604或经由通信组件616发送。在一些实施例中,音频组件610还包括一个扬声器,用于输出音频信号。
I/O接口612为处理组件602和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件614包括一个或多个传感器,用于为电子设备600提供各个方面的状态评估。例如,传感器组件614可以检测到电子设备600的打开/关闭状态,组件的相对定位,例如所述组件为电子设备600的显示器和小键盘,传感器组件614还可以检测电子设备600或电子设备600一个组件的位置改变,用户与电子设备600接触的存在或不存在,电子设备600方位或加速/减速和电子设备600的温度变化。传感器组件614可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件614还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件614还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件616用于便于电子设备600和其他设备之间有线或无线方式的通信。电子设备600可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件616经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件616还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,电子设备600可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于实现本发明实施例提供的一种上下牙对合模拟方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器604,上述指令可由电子设备600的处理器620执行以完成上述方法。例如,所述非临时性存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图10是根据一示例性实施例示出的一种电子设备700的框图。例如,电子设备700可以被提供为一服务器。参照图10,电子设备700包括处理组件722,其进一步包括一个或多个处理器,以及由存储器732所代表的存储器资源,用于存储可由处理组件722的执行的指令,例如应用程序。存储器732中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件722被配置为执行指令,以执行本发明实施例提供的一种上下牙对合模拟方法。
电子设备700还可以包括一个电源组件726被配置为执行电子设备700的电源管理,一个有线或无线网络接口750被配置为将电子设备700连接到网络,和一个输入输出(I/O)接口758。电子设备700可以操作基于存储在存储器732的操作系统,例如WindowsServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本发明实施例还提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现所述的上下牙对合模拟方法。
本领域技术人员在考虑说明书及实践这里公开的申请后,将容易想到本发明的其它实施方案。本发明旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (21)
1.一种上下牙对合模拟方法,其特征在于,所述方法包括:
获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的;
根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标;
根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面;
通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域;
以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像;
所述以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像,包括:
根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域;
根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
2.根据权利要求1所述的方法,其特征在于,所述口腔定位工具包括至少三个成像标志物,所述成像标志物为金属球,所述根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标,包括:
从所述目标三维影像中识别出所述至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,
或,
响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
3.根据权利要求2所述的方法,其特征在于,所述从所述目标三维影像中识别出所述至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,包括:
对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像;
从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置;
根据所述三个坐标位置确定三个定位坐标。
4.根据权利要求3所述的方法,其特征在于,所述对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像,包括:
响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置;
根据所述至少三个三维影像点的坐标位置确定至少三个识别区域;
对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
5.根据权利要求1所述的方法,其特征在于,所述根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面,包括:
按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量;
根据所述定位向量的之间的混合积确定所述上下牙分界面。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
7.根据权利要求1所述的方法,其特征在于,所述通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,包括:
计算所述上下牙分界面的法向量;
根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为所述上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为所述下牙区域。
8.根据权利要求1所述的方法,其特征在于,所述方法还包括:
根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置;
将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
9.根据权利要求1所述的方法,其特征在于,所述根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像,包括:
以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系;
通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵;
在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
10.一种上下牙对合模拟装置,其特征在于,所述装置包括:
获取模块,被配置为获取目标三维影像,所述目标三维影像包括患者口腔三维影像和口腔定位工具的成像标志物的三维影像,所述目标三维影像是基于患者口腔的CBCT图像重建得到的,所述CBCT图像是患者在上牙或下牙佩戴所述口腔定位工具的状态下拍摄得到的;
坐标确定模块,被配置为根据所述成像标志物的三维影像,在所述目标三维影像中确定三个定位坐标;
面确定模块,被配置为根据所述三个定位坐标,确定所述目标三维影像中的上下牙分界面;
划分模块,被配置为通过所述上下牙分界面对所述目标三维影像进行划分,得到上牙区域和下牙区域,所述上牙区域和所述下牙区域均为所述目标三维影像中的三维区域;
对合模块,被配置为以所述目标三维影像中的颌关节轴线为旋转轴,对所述上牙区域和/或所述下牙区域进行旋转,生成上下牙对合影像;
所述对合模块包括:
旋转确定子模块,被配置为根据用户的输入操作确定区域旋转角度,以及待旋转区域,所述待旋转区域包括所述上牙区域和/或所述下牙区域;
对合子模块,被配置为根据所述区域旋转角度和所述颌关节轴线,对所述待旋转区域的采样线进行偏移,并通过偏移采样线的体绘制渲染方式对所述目标三维影像进行渲染并得到上下牙对合影像。
11.根据权利要求10所述的装置,其特征在于,所述坐标确定模块包括:
坐标确定子模块,被配置为从所述目标三维影像中识别出至少三个成像标志物的三维影像,获取其中三个成像标志物的三维影像的坐标位置,并根据所述三个成像标志物的三维影像的坐标位置确定三个定位坐标,或,响应于用户针对三个成像标志物的三维影像的选择操作,获取所述选择操作对应的三个三维影像点的坐标位置,根据所述三个三维影像点的坐标位置确定三个定位坐标。
12.根据权利要求11所述的装置,其特征在于,所述坐标确定子模块包括:
识别子模块,被配置为对所述目标三维影像进行特征分析,识别所述目标三维影像中的所述至少三个成像标志物的三维影像;
坐标位置子模块,被配置为从所述至少三个成像标志物的三维影像中获取三个成像标志物的三维影像,并确定所述三个成像标志物的三维影像的三个坐标位置;
定位坐标子模块,被配置为根据所述三个坐标位置确定三个定位坐标。
13.根据权利要求12所述的装置,其特征在于,所述识别子模块包括:
影像点子模块,被配置为响应于用户针对至少三个成像标志物的三维影像的选择操作,获取所述选择操作对应的至少三个三维影像点的坐标位置;
识别区域子模块,被配置为根据所述至少三个三维影像点的坐标位置确定至少三个识别区域;
区域分析子模块,被配置为对所述至少三个识别区域进行特征分析,识别所述至少三个识别区域中的所述至少三个成像标志物的三维影像。
14.根据权利要求10所述的装置,其特征在于,所述面确定模块包括:
定位向量子模块,被配置为按照所述三个定位坐标在所述目标三维影像中的俯视图的顺时针或逆时针方向,确定两两相邻的定位坐标之间构成的定位向量;
分界面确定子模块,被配置为根据所述定位向量的之间的混合积确定所述上下牙分界面。
15.根据权利要求10所述的装置,其特征在于,所述装置还包括:
分界面调整模块,被配置为响应于用户针对所述上下牙分界面的调整指令,根据所述调整指令调整所述上下牙分界面在所述目标三维影像中的位置和/或角度。
16.根据权利要求10所述的装置,其特征在于,所述划分模块包括:
法向量子模块,被配置为计算所述上下牙分界面的法向量;
划分子模块,被配置为根据所述法向量的方向,将所述上下牙分界面一侧的目标三维影像确定为上牙区域,并将所述上下牙分界面另一侧的目标三维影像确定为下牙区域。
17.根据权利要求10所述的装置,其特征在于,所述装置还包括:
颌关节位置模块,被配置为根据用户针对所述目标三维影像的输入操作,确定所述目标三维影像中的两个颌关节位置;
颌关节轴线模块,被配置为将所述两个颌关节位置之间的连线确定为所述颌关节轴线。
18.根据权利要求10所述的装置,其特征在于,所述对合子模块包括:
旋转坐标系子模块,被配置为以其中一个颌关节位置为坐标原点,以所述颌关节轴线为旋转轴,建立旋转坐标系;
矩阵确定子模块,被配置为通过罗德里格斯公式确定所述待旋转区域在所述旋转坐标系中,围绕所述旋转轴转动所述区域旋转角度后的齐次矩阵;
影像子模块,被配置为在通过体绘制渲染对所述目标三维影像进行渲染的过程中,根据所述齐次矩阵对所述待旋转区域在所述目标三维影像中的位置进行变换,得到所述上下牙对合影像。
19.一种电子设备,其特征在于,包括:处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1至9中任一项所述的方法。
20.一种计算机可读存储介质,其特征在于,当所述计算机可读存储介质中的指令由电子设备的处理器执行时,使得所述电子设备能够执行如权利要求1至9中任一项所述的方法。
21.一种计算机程序产品,包括计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至9中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111451411.9A CN113842216B (zh) | 2021-12-01 | 2021-12-01 | 一种上下牙对合模拟方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111451411.9A CN113842216B (zh) | 2021-12-01 | 2021-12-01 | 一种上下牙对合模拟方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113842216A CN113842216A (zh) | 2021-12-28 |
CN113842216B true CN113842216B (zh) | 2022-02-22 |
Family
ID=78982585
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111451411.9A Active CN113842216B (zh) | 2021-12-01 | 2021-12-01 | 一种上下牙对合模拟方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113842216B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114711760B (zh) * | 2022-04-06 | 2023-01-24 | 哈尔滨工业大学 | 一种关节轴线计算方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102551892A (zh) * | 2012-01-17 | 2012-07-11 | 王旭东 | 一种用于颅颌面外科手术的定位方法 |
US10192003B2 (en) * | 2014-09-08 | 2019-01-29 | 3M Innovative Properties Company | Method of aligning intra-oral digital 3D models |
CN104771231B (zh) * | 2015-04-27 | 2016-10-12 | 四川大学 | 用于正颌外科手术骨块定向移动的导航装置及其制作方法 |
CN106875432B (zh) * | 2017-03-09 | 2020-04-21 | 南京医科大学附属口腔医院 | 颞下颌关节运动重建系统 |
US11090014B2 (en) * | 2017-10-23 | 2021-08-17 | Niigata University | Dental image processing device, dental imaging system, dental image processing method, and program |
CN108320325A (zh) * | 2018-01-04 | 2018-07-24 | 华夏天宇(北京)科技发展有限公司 | 牙列模型的生成方法及装置 |
KR20200098417A (ko) * | 2019-02-09 | 2020-08-20 | 이우형 | 디지털 삼차원 치아모형의 인체의 해부학적 위치 및 평면 분석과 병합이 가능하도록 기준선이 있는 치과용 시스템 |
KR102239358B1 (ko) * | 2019-03-19 | 2021-04-14 | 오스템임플란트 주식회사 | 임플란트 중심선을 이용한 임플란트 식립 계획 수립 방법 및 이를 위한 치과영상 처리장치 |
CA3131071A1 (en) * | 2019-04-04 | 2020-10-08 | Centerline Biomedical, Inc. | Spatial registration of tracking system with an image using two-dimensional image projections |
WO2020218560A1 (ja) * | 2019-04-26 | 2020-10-29 | 株式会社カイ | 歯の位置の分析装置、歯の領域抽出モデル生成方法、歯の位置の分析方法、プログラム、および記録媒体 |
GB201918006D0 (en) * | 2019-12-09 | 2020-01-22 | Univ Leeds Innovations Ltd | Determining spatial relationship between upper and lower teeth |
CN112006795B (zh) * | 2020-08-27 | 2022-06-14 | 爱迪特(秦皇岛)科技股份有限公司 | 一种义齿印模的确定及义齿的制作方法、装置、设备及介质 |
CN112120810A (zh) * | 2020-09-29 | 2020-12-25 | 深圳市深图医学影像设备有限公司 | 一种牙齿正畸隐型矫治器的三维数据生成方法 |
-
2021
- 2021-12-01 CN CN202111451411.9A patent/CN113842216B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN113842216A (zh) | 2021-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11310480B2 (en) | Systems and methods for determining three dimensional measurements in telemedicine application | |
US9990744B2 (en) | Image registration device, image registration method, and image registration program | |
Harders et al. | Calibration, registration, and synchronization for high precision augmented reality haptics | |
US10410363B2 (en) | Jaw surface based registration | |
US20130307935A1 (en) | Imaging system and method | |
KR20170124574A (ko) | 턱의 모션 추적 | |
CN113287158A (zh) | 用于远程医疗的方法和装置 | |
KR20080110739A (ko) | 의료용 화상의 처리 방법 | |
CN112807025A (zh) | 超声扫查引导方法、装置、系统、计算机设备和存储介质 | |
CN112043359B (zh) | 乳腺穿刺方法、装置、设备及存储介质 | |
CN113842216B (zh) | 一种上下牙对合模拟方法、装置及电子设备 | |
JP6493877B2 (ja) | 基準点評価装置、方法およびプログラム、並びに位置合せ装置、方法およびプログラム | |
CN115804652A (zh) | 手术操作系统及方法 | |
CN111973273A (zh) | 基于ar技术的手术导航系统、方法、设备和介质 | |
KR20100058031A (ko) | 안면 영상 촬영장치 | |
CN111658142A (zh) | 一种基于mr的病灶全息导航方法及系统 | |
US10102638B2 (en) | Device and method for image registration, and a nontransitory recording medium | |
CN113842227B (zh) | 医疗辅助三维模型定位匹配方法、系统、设备及介质 | |
EP3655919A1 (en) | Systems and methods for determining three dimensional measurements in telemedicine application | |
CN112216376A (zh) | 远程引导系统、方法、计算机设备以及可读存储介质 | |
US10049480B2 (en) | Image alignment device, method, and program | |
CN112674874B (zh) | 植入物规划方法、装置、存储介质及电子设备 | |
CN113693623B (zh) | 一种基于增强现实的超声扫查引导方法及系统 | |
CN215181889U (zh) | 使用三维面部及身体扫描数据提供实时可视化服务的设备 | |
JP2023543010A (ja) | ツール追跡のための方法及びシステム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |