CN112200843A - 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法 - Google Patents

一种基于超体素的cbct与激光扫描点云数据牙齿配准方法 Download PDF

Info

Publication number
CN112200843A
CN112200843A CN202011072708.XA CN202011072708A CN112200843A CN 112200843 A CN112200843 A CN 112200843A CN 202011072708 A CN202011072708 A CN 202011072708A CN 112200843 A CN112200843 A CN 112200843A
Authority
CN
China
Prior art keywords
point cloud
tooth
cloud data
voxel
cbct
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011072708.XA
Other languages
English (en)
Other versions
CN112200843B (zh
Inventor
何炳蔚
陈斌赫
于泽宽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuzhou University
Original Assignee
Fuzhou University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuzhou University filed Critical Fuzhou University
Priority to CN202011072708.XA priority Critical patent/CN112200843B/zh
Publication of CN112200843A publication Critical patent/CN112200843A/zh
Application granted granted Critical
Publication of CN112200843B publication Critical patent/CN112200843B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration using histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30036Dental; Teeth
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Epidemiology (AREA)
  • Pathology (AREA)
  • Data Mining & Analysis (AREA)
  • Biomedical Technology (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Dental Tools And Instruments Or Auxiliary Dental Instruments (AREA)

Abstract

本发明提出一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,包括以下步骤;首先根据区域增长法从口腔CBCT的扫描数据中提取牙齿模型;其次,使用激光扫描仪对牙齿模型进行处理,根据牙齿的特点将牙齿模型中的牙冠从基牙中分离;然后将不同来源的牙齿模型转换为牙齿点云数据,向牙齿点云数据添加颜色信息,以辅助牙齿点云的初始几何对齐,同时基于超体素方法实现对点云的降采样;最后,构建对齐度量;并提出基于混合特征的相互对应匹配条件;实现从不同的角度配准两块带有颜色信息的牙齿点云数据;本发明能解决不同分辨率的牙齿配准,手动添加牙齿颜色信息,提高配准精度以及节约配准时间,构建可用于种植、正颌外科手术的完整牙齿模型。

Description

一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法
技术领域
本发明涉及医学图像处理技术领域,尤其是一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法。
背景技术
完整、精确的三维牙体模型是牙科种植体或正颌外科手术计划的必要前提。医生通过三维模型可以对病人病灶部位的三维空间位置有更加深刻的理解。CBCT数据拍摄患者口腔内图像包括三个视平面(矢状,冠状和横向)的解剖结构,其是现在数字化口腔正畸软件中常用的牙模型可视化手段,但由于其精度、切片厚度、金属伪影以及患者在拍摄过程时牙齿为咬合状态,存在上、下牙冠难以分开导致牙冠表面精度低现象。表面光学扫描仪已被引入牙科和正畸治疗,因其可直接获取具有较高精度的三维牙模型,但扫描结果只包含牙冠与粘膜的表面信息,无法获得含有牙根的完整牙体数据。现有的成像技术没有一种能够同时获取和整合临床正畸实践中涉及的所有解剖组织,因此,只有将两者数据模型融合才能获得数据完整的、精度较高的三维数字模型。而两种三维数据模型的配准是生成完整模型的关键步骤。
配准是将不同来源的同一物体的测量得到的三维模型进行坐标系的调整,使两个模型中属于同一结构的部分在同一坐标系下的位置也一致。基于CBCT和光学扫描的牙齿模型是两种分辨率不同的数据模型,数据量不一样,并且有许多外在的因素的干扰(颌骨、金属伪影、牙龈等)。在牙齿模型重建过程中,想要实现牙齿的完整的较精确的融合,两种牙齿图像的配准步骤是必不可少的。配准精度越高,冠、根位置精度就越高,才能够指导两种数据的共同精确分割,且冠、根三维融合效果也会越好,因此,光学扫描牙列模型与CT牙列模型在牙冠部分的配准重合度,一定程度上决定了冠、根融合的最终效果。目前点云配准的方法主要分为以下几类:基于深度学习的配准方法、基于改进ICP的配准方法、基于半监督的配准方法、基于多视图融合的配准方法。在众多配准方法中,20世纪90年代初引入的迭代最近点(ICP)算法是最著名的在欧氏(刚性)变换下高效配准两个二维或三维点集的算法,它的概念简单而直观。尽管ICP降低了一定的目标函数测量对准度,但由于问题的非凸性以及需要良好的初始化,否则很容易陷入局部极小值,导致ICP经常陷入次优局部极值。为了解决ICP的局部优化和其他困难,衍生出了许多基于ICP算法的改进算法。这些算法从移除误匹配点、构造误差度量函数、求解误差函数等角度出发进行优化。
目前大多数改进后的ICP算法又存在一些共同的缺陷:1.侧重于单纯的几何特征,忽略了重要的颜色特征。;2.对于人工提取特征点,人为干扰因素大,而自动选取特征点时,算法较复杂,时间利用率不高;3.只针对刚体变换,没有引入尺度变换参数,无法解决大小、分辨率有差异的2个相似物体的配准;近年来,基于颜色的方法受到了广泛的关注。通过引入颜色信息,特别是在几何信息不充分的情况下,特征匹配提高了建立对应关系的精度。
发明内容
本发明提出一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,能解决不同分辨率的牙齿配准,手动添加牙齿颜色信息,提高配准精度以及节约配准时间,构建可用于种植、正颌外科手术的完整牙齿模型。
本发明采用以下技术方案。
一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,所述方法包括以下步骤;
首先根据区域增长法从口腔CBCT的扫描数据中提取牙齿模型;
其次,使用激光扫描仪对牙齿模型进行处理,根据牙齿的特点将牙齿模型中的牙冠从基牙中分离;
然后将不同来源的牙齿模型转换为牙齿点云数据,向牙齿点云数据添加颜色信息,以辅助牙齿点云的初始几何对齐,同时基于超体素方法实现对点云的降采样;
最后,联合牙齿点云数据的混合特征并据此定义相似性度量,动态调整牙齿点云数据的颜色与空间信息之间的权重,最后测量牙齿点云数据的混合特征,构建对齐度量;并提出基于混合特征的相互对应匹配条件;
所述配准方法为在改进的模型的ICP框架下进行的改进ICP配准算法,改进的模型的组成部分包括点云嵌入网络、用于近似组合匹配的基于注意的模块和指针生成层、用于提取最终的刚性变换的可微奇异值分解层;可实现从不同的角度配准两块带有颜色信息的牙齿点云数据。
所述将不同来源的牙齿模型转换为牙齿点云数据的方法包括以下方法;
步骤一、通过口腔CBCT对不同来源的牙体进行扫描,以扫描所得的CBCT数据进行三维牙体模型重建,在此步骤中,采用区域增长法重建CBCT数据,获得全面的、准确的三维牙体信息模型并将其转化为点云数据;
步骤二、通过激光扫描技术获取牙冠模型。
所述步骤二的具体步骤如下:
采用手持式三维激光扫描仪采集牙冠模型点云数据;在测量之前,需要对设备进行校准以确保输出数据的准确性,使用STL格式作为输出数据的文件格式来重建三维模型,最后将重建出的三维模型转为点云数据。
所述添加颜色信息的方法为,根据牙科医学教科书上对牙体的定义进行分类,使用同样的方法对待上、下颌牙体,使用14个不同的颜色标签分别对两种不同点云数据进行分类。
所述超体素方法为超体素分割方法,具体为;
步骤A1、利用八叉树将后得到的两种牙体3D点云数据划分成若干个大小形同的体素,计算各个体素的平均曲率,并将平均曲率最小的体素作为种子体素,避免出现过分割;
每个三维体素按照39维向量进行聚类,表示为:
F=[x,y,z,L,a,b,FPFH1,...,33] 公式一;
其中x,y,z为空间坐标,L,a,b为CIELab空间的颜色值,FPFH1,...33为快速点特征直方图提取的中提取的点云局部几何特征的33个元素;FPFH具有空间不变性的描述局部表面模型的特征,其构造方法为对于每个牙齿所提取的点,以半径0.2构造一个邻域球,沿x、y、z轴扩展,分为11个直方图等份,最终得到33维的描述符;
步骤A2、从初始种子体素开始,向外遍历邻近的体素,对点云进行聚类处理,聚类的距离度量D表示为:
Figure BDA0002715665470000041
式中λ、、μ和β分别对应颜色、空间距离和几何特征的影响因子,Dc是CIELab空间的欧式距离值,Ds是三维空间内体素的欧式距离值,Dhik是体素法向量分布直方图的交叉和;
Rseed是种子体素在空间中的分辨率,决定初始超体素的个数;计算邻域内体素到种子体素的距离后将距离最近的体素进行标记,并根据邻接图将邻接体素加入到搜索列表中;迭代直至到达每个体素的搜索边界;搜索完成条件是:邻接图中的所有叶节点均得到遍历,过分割得到超体素。
所述根据混合特征定义相似度度量包括
设置权重为0.5来平衡点云的几何特征和局部颜色分布特征,找到CBCT牙体点云和激光扫描牙体点云之间的对应点,混合特征距离的度量公式定义为:
Figure BDA0002715665470000042
式中ds()、dc()分别表示点云的几何特征距离、局部颜色分布特征距离,w为颜色特征的权重设为0.5,使空间和颜色特征适当结合并根据不同的点云位置进行合适的相似性度量;pu,qv分别表示CBCT点云数据与激光扫描点云数据的的空间对应点。
所述提出基于混合特征的相互对应匹配条件包括;
使用c(u,v)表示CBCT点云数据与激光扫描点云数据之间的双向对应关系,CDM(u)表示CBCT模型点云Q中数据点pu的对应点,CMD(v)表示激光扫描点云P中数据点qu的对应点;CDM(u)和CMD(v)可以定义为:
Figure BDA0002715665470000043
Figure BDA0002715665470000044
式中d(pu,qv)和d(qv,pu)是(4)式中定义的混合特征距离的度量,点对pu和qv在CDM(u)和CMD(v)中是相互对应的;
所述改进的模型的ICP框架,其改进处包括通过改进ICP算法解决目标函数中对应参数和转换参数的匹配问题,具体包括;
步骤B1、加入注意力机制预测点云之间的软匹配;;
首先CBCT点云数据与激光扫描点云数据,初始点云特征关系(DGCNN)利用图网络结构生成两片点云的全局特征向量,全局特征向量包含特征点的局部邻域信息,这对后续配准起了关键作用;
Figure BDA0002715665470000051
其中L表示网络层数,
Figure BDA0002715665470000052
表示点i在第l层中嵌入点;
然后将DGCNN得到的点云特征向量作为转换模块的输入,利用编码框架对点云集X和Y的特征向量进行解码,该模块增加注意力机制,根据点云形状不同自适应分配权重大小,不断调整权重大小进行修改点云间的映射关系m(·),从而实现点云集X和Y匹配,如下式所示;
Figure BDA0002715665470000053
式中φx和φy分别为Fx和Fy的输入的修改映射关系函数,Fx→φx以目标点云X结构作为标准,根据点云点云集X结构修改点云集Y的特征点权值,从而生成Fx→φx的变化,其中注意力机制模块的学习函数φ:
Figure BDA0002715665470000054
Figure BDA0002715665470000055
为非线性函数,P表示嵌入的维度,为非对称函数输入;
步骤B2、加入奇异值分解模块(SVD);
构建的深度学习网络利用奇异值分解法对映射后的点云进行求解变换矩阵,分别计算映射后新点云集和质心和协方差矩阵,为了避免到进行直接匹配,利用概率模型对点到的对应点进行概率分配,其模型为:
Figure BDA0002715665470000056
对概率模型分配概率进行均值求解,生成点云集X匹配到点云集Y的均值点:
Figure BDA0002715665470000061
上式
Figure BDA0002715665470000062
中Y为点矩阵。根据xi到yi的映射关系从而计算出目标点云X和待测点云Y刚体运动;
步骤B3、构建结合局部相似度和全局几何约束的损失函数:
Figure BDA0002715665470000063
Figure BDA0002715665470000064
其中,
Figure BDA0002715665470000065
为输入点云中的每个关键点xi通过给定的变换所得,N为提取的特征点云个数,yi为估计目标对应点,R、T为估计变换。通过直接计算欧几里得距离得出Loss1;考虑到配准任务还受到全局几何变换的约束,引入另一种包括全局几何约束的损失Loss2
综上,综合损失函数定义为:
Loss=aLoss1+(1-a)Loss2 公式十;
其中a为Loss1和Loss2之间的权重。
本发明提出了一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,与传统的基于几何特征的方法相比优点在于:(1)加入牙体点云的颜色信息,使点云更好的对齐(2)通过联合这些特征进行相似性度量,在颜色和空间信息之间动态地调整权重参数,相比于利用欧氏距离建立空间对应关系,通过混合特征建立对应关系使配准结果更加准确。(3)配准算法是在改进经典ICP迭代算法框架下建立对应关系和估计转换参数,该算法模型解决了经典ICP算法对初始位置敏感且收敛速度慢的问题。综上所述本发明能有效地减少配准点数据的数量,实现即使在初始条件较差的情况下也能取得较好的匹配结果。
附图说明
下面结合附图和具体实施方式对本发明进一步详细的说明:
附图1是本发明所述方法的流程示意图;
附图2是本发明的改进ICP配准算法网络架构示意图;
附图3是基于超体素方法的点云分割流程示意图。
具体实施方式
如图所示,一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,所述方法包括以下步骤;
首先根据区域增长法从口腔CBCT的扫描数据中提取牙齿模型;
其次,使用激光扫描仪对牙齿模型进行处理,根据牙齿的特点将牙齿模型中的牙冠从基牙中分离;
然后将不同来源的牙齿模型转换为牙齿点云数据,向牙齿点云数据添加颜色信息,以辅助牙齿点云的初始几何对齐,同时基于超体素方法实现对点云的降采样;
最后,联合牙齿点云数据的混合特征并据此定义相似性度量,动态调整牙齿点云数据的颜色与空间信息之间的权重,最后测量牙齿点云数据的混合特征,构建对齐度量;并提出基于混合特征的相互对应匹配条件;
所述配准方法为在改进的模型的ICP框架下进行的改进ICP配准算法,改进的模型的组成部分包括点云嵌入网络、用于近似组合匹配的基于注意的模块和指针生成层、用于提取最终的刚性变换的可微奇异值分解层;可实现从不同的角度配准两块带有颜色信息的牙齿点云数据。
所述将不同来源的牙齿模型转换为牙齿点云数据的方法包括以下方法;
步骤一、通过口腔CBCT对不同来源的牙体进行扫描,以扫描所得的CBCT数据进行三维牙体模型重建,在此步骤中,采用区域增长法重建CBCT数据,获得全面的、准确的三维牙体信息模型并将其转化为点云数据;
步骤二、通过激光扫描技术获取牙冠模型。
所述步骤二的具体步骤如下:
采用手持式三维激光扫描仪采集牙冠模型点云数据;在测量之前,需要对设备进行校准以确保输出数据的准确性,使用STL格式作为输出数据的文件格式来重建三维模型,最后将重建出的三维模型转为点云数据。
所述添加颜色信息的方法为,根据牙科医学教科书上对牙体的定义进行分类,使用同样的方法对待上、下颌牙体,使用14个不同的颜色标签分别对两种不同点云数据进行分类。
所述超体素方法为超体素分割方法,具体为;
步骤A1、利用八叉树将后得到的两种牙体3D点云数据划分成若干个大小形同的体素,计算各个体素的平均曲率,并将平均曲率最小的体素作为种子体素,避免出现过分割;
每个三维体素按照39维向量进行聚类,表示为:
F=[x,y,z,L,a,b,FPFH1,...,33] 公式一;
其中x,y,z为空间坐标,L,a,b为CIELab空间的颜色值,FPFH1,...33为快速点特征直方图提取的中提取的点云局部几何特征的33个元素;FPFH具有空间不变性的描述局部表面模型的特征,其构造方法为对于每个牙齿所提取的点,以半径0.2构造一个邻域球,沿x、y、z轴扩展,分为11个直方图等份,最终得到33维的描述符;
步骤A2、从初始种子体素开始,向外遍历邻近的体素,对点云进行聚类处理,聚类的距离度量D表示为:
Figure BDA0002715665470000081
式中λ、、μ和β分别对应颜色、空间距离和几何特征的影响因子,Dc是CIELab空间的欧式距离值,Ds是三维空间内体素的欧式距离值,Dhik是体素法向量分布直方图的交叉和;
Rseed是种子体素在空间中的分辨率,决定初始超体素的个数;计算邻域内体素到种子体素的距离后将距离最近的体素进行标记,并根据邻接图将邻接体素加入到搜索列表中;迭代直至到达每个体素的搜索边界;搜索完成条件是:邻接图中的所有叶节点均得到遍历,过分割得到超体素。
所述根据混合特征定义相似度度量包括
设置权重为0.5来平衡点云的几何特征和局部颜色分布特征,找到CBCT牙体点云和激光扫描牙体点云之间的对应点,混合特征距离的度量公式定义为:
Figure BDA0002715665470000091
式中ds()、dc()分别表示点云的几何特征距离、局部颜色分布特征距离,w为颜色特征的权重设为0.5,使空间和颜色特征适当结合并根据不同的点云位置进行合适的相似性度量;pu,qv分别表示CBCT点云数据与激光扫描点云数据的的空间对应点。
所述提出基于混合特征的相互对应匹配条件包括;
使用c(u,v)表示CBCT点云数据与激光扫描点云数据之间的双向对应关系,CDM(u)表示CBCT模型点云Q中数据点pu的对应点,CMD(v)表示激光扫描点云P中数据点qu的对应点;CDM(u)和CMD(v)可以定义为:
Figure BDA0002715665470000092
Figure BDA0002715665470000093
式中d(pu,qv)和d(qv,pu)是(4)式中定义的混合特征距离的度量,点对pu和qv在CDM(u)和CMD(v)中是相互对应的;
所述改进的模型的ICP框架,其改进处包括通过改进ICP算法解决目标函数中对应参数和转换参数的匹配问题,具体包括;
步骤B1、加入注意力机制预测点云之间的软匹配;;
首先CBCT点云数据与激光扫描点云数据,初始点云特征关系(DGCNN)利用图网络结构生成两片点云的全局特征向量,全局特征向量包含特征点的局部邻域信息,这对后续配准起了关键作用;
Figure BDA0002715665470000094
其中L表示网络层数,
Figure BDA0002715665470000095
表示点i在第l层中嵌入点;
然后将DGCNN得到的点云特征向量作为转换模块的输入,利用编码框架对点云集X和Y的特征向量进行解码,该模块增加注意力机制,根据点云形状不同自适应分配权重大小,不断调整权重大小进行修改点云间的映射关系m(·),从而实现点云集X和Y匹配,如下式所示;
Figure BDA0002715665470000101
式中φx和φy分别为Fx和Fy的输入的修改映射关系函数,Fx→φx以目标点云X结构作为标准,根据点云点云集X结构修改点云集Y的特征点权值,从而生成Fx→φx的变化,其中注意力机制模块的学习函数φ:
Figure BDA0002715665470000102
Figure BDA0002715665470000103
为非线性函数,P表示嵌入的维度,为非对称函数输入;
步骤B2、加入奇异值分解模块(SVD);
构建的深度学习网络利用奇异值分解法对映射后的点云进行求解变换矩阵,分别计算映射后新点云集和质心和协方差矩阵,为了避免到进行直接匹配,利用概率模型对点到的对应点进行概率分配,其模型为:
Figure BDA0002715665470000104
对概率模型分配概率进行均值求解,生成点云集X匹配到点云集Y的均值点:
Figure BDA0002715665470000105
上式
Figure BDA0002715665470000106
中Y为点矩阵。根据xi到yi的映射关系从而计算出目标点云X和待测点云Y刚体运动;
步骤B3、构建结合局部相似度和全局几何约束的损失函数:
Figure BDA0002715665470000107
Figure BDA0002715665470000108
其中,
Figure BDA0002715665470000111
为输入点云中的每个关键点xi通过给定的变换所得,N为提取的特征点云个数,yi为估计目标对应点,R、T为估计变换。通过直接计算欧几里得距离得出Loss1;考虑到配准任务还受到全局几何变换的约束,引入另一种包括全局几何约束的损失Loss2
综上,综合损失函数定义为:
Loss=aLoss1+(1-a)Loss2 公式十;
其中a为Loss1和Loss2之间的权重。
实施例:
如图1所示为本发明的配准方法流程图,首先首先获取不同来源的牙体数据:一方面,利用患者的CBCT数据进行重建,根据区域增长法从CBCT数据中提取牙齿模型。另一方面,使用激光扫描仪对三维牙模型进行数字化,根据牙齿的特点将牙冠从基牙中分离出。然后将不同来源的牙齿模型转换为点云数据,添加点云的颜色信息辅助点云初始的几何对齐,然后基于超体素方法分割点云,降低点云的采样量。通过联合特征进行相似性度量,动态调整颜色与空间信息之间的权重,测量这些混合特征构建对齐度量,最后采用基于深度学习的改进ICP算法进行配准,这种策略可以提高配准的效率以及准确率。
如图2所示本发明的改进ICP算法网络架构图,ICP算法的关键是在不断迭代修正两片点集之间的变换矩阵,使两片点云集中对应点距离最小。由于ICP算法对初始位置敏感且收敛速度慢,许多方法尝试通过使用启发式方法来改进匹配精度或通过搜索更大的运动空间来提高配准精度,但这些算法速度比ICP慢,提高精度的能力也有限。针对ICP存在的问题,引入学习理论算法、快速得到两片点云间的变换矩阵,实现点云快速配准。应用改进ICP算法将点云嵌入到高维空间,使用注意力模块对上下文信息进行编码,利用奇异值分解模块对齐待配准点云。
图2所示中网络架构关键模块如下:
(1)初始点云特征关系(DGCNN)
输入目标点云X和待配准点云Y,DGCNN对点云集构造一个基于k-N N的图网络
Figure BDA0002715665470000121
通过
Figure BDA0002715665470000122
非线性函数将点云集逐点嵌入到高维空间中,查找两片点云的匹配点对,寻找点云上每个点的特性,从而生成映射关系m(·),进行刚性转换。
(2)注意力机制模块
将DGCNN得到的点云特征向量作为转换模块的输入,利用编码框架对点云集和的特征向量进行解码,根据点云形状不同自适应分配权重大小,不断调整权重大小进行修改点云间的映射关系m(·),从而实现点云集X和Y匹配。
(3)奇异值分解模块(SVD)
ICP算法使用奇异值分解法求解点云间的变换矩阵,其分解过程简单、计算速度快。构建的深度学习网络同样利用奇异值分解法对映射后的点云进行求解变换矩阵,分别计算映射后新点云集
Figure BDA0002715665470000123
Figure BDA0002715665470000124
质心和协方差矩阵。为了避免Y到X进行直接匹配,利用概率模型对点xi到的Y对应点进行概率分配,然后对概率模型分配概率进行均值求解,生成点云集匹配到点云集Y的均值点。
如图3所示为本发明的基于超体素点云分割流程图,具体步骤如下:
1.将输入的点云数据进行过分割得到超体素。
将点云数据进行体素化处理,在体素的26邻域内,通过遍历KD树构造其对应的邻接图。
在点云的三维空间内进行网格化处理,选择网格内最接近中心的体素作为初始种子体素。对初始种子体素进行过滤,计算种子点邻域半径内的体素数目,将数目小于某一阈值的种子点删除。对所有的体素构造36维的特征向量F,F=[x,y,z,L,a,b,PPFH1..30]。
2.根据超体素中心点之间的测地距离和欧式距离的差值,并对其归一化得到超体素之间的相似性度量;
3.根据超体素相似性度量,对超体素进行融合:
对于每个超体素,用最小二乘法进行平面拟合,根据残差值对所有超体素进行排序,将残差值最小的超体素作为初始种子,并获取种子体素的邻接超体素;对于每个邻接超体素,计算其与超体素种子之间的相似性度量:如果相似性大于某一阈值,则将该邻接超体素添加到当前区域内,同时计算邻接超体素的残差值,如果残差值小于某一阈值,则该邻接超体素被添加到种子集合中;当遍历完超体素种子的所有邻接超体素后,从种子集合中移除当前种子;
本发明提出了一种新的彩色点云配准方法,利用超体素分割提取稀疏特征点,以减轻大规模配准任务的负担。提出了一种将空间信息和颜色信息动态结合的特征匹配相似度度量方法。最后通过改进经典ICP迭代算法对点云进行配准,该方法不仅能较好地解决现实世界中数据重叠和初始位置不佳的问题,还可以极大地提高配准效率,降低配准时间。
最后需要注意的是,公布实施方式的目的在于帮助进一步理解本发明,但是本领域的技术人员可以理解:在不脱离本发明及所附的权利要求的精神和范围内,各种替换和修改都是可能的。因此,本发明不应局限于实施例所公开的内容,本发明要求保护的范围以权利要求书界定的范围为准。

Claims (7)

1.一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:
所述方法包括以下步骤;
首先根据区域增长法从口腔CBCT的扫描数据中提取牙齿模型;
其次,使用激光扫描仪对牙齿模型进行处理,根据牙齿的特点将牙齿模型中的牙冠从基牙中分离;
然后将不同来源的牙齿模型转换为牙齿点云数据,向牙齿点云数据添加颜色信息,以辅助牙齿点云的初始几何对齐,同时基于超体素方法实现对点云的降采样;
最后,联合牙齿点云数据的混合特征并据此定义相似性度量,动态调整牙齿点云数据的颜色与空间信息之间的权重,最后测量牙齿点云数据的混合特征,构建对齐度量;并提出基于混合特征的相互对应匹配条件;
所述配准方法为在改进的模型的ICP框架下进行的改进ICP配准算法,改进的模型的组成部分包括点云嵌入网络、用于近似组合匹配的基于注意的模块和指针生成层、用于提取最终的刚性变换的可微奇异值分解层;可实现从不同的角度配准两块带有颜色信息的牙齿点云数据。
2.根据权利要求1所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述将不同来源的牙齿模型转换为牙齿点云数据的方法包括以下方法;
步骤一、通过口腔CBCT对不同来源的牙体进行扫描,以扫描所得的CBCT数据进行三维牙体模型重建,在此步骤中,采用区域增长法重建CBCT数据,获得全面的、准确的三维牙体信息模型并将其转化为点云数据;
步骤二、通过激光扫描技术获取牙冠模型。
3.根据权利要求2所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述步骤二的具体步骤如下:
采用手持式三维激光扫描仪采集牙冠模型点云数据;在测量之前,需要对设备进行校准以确保输出数据的准确性,使用STL格式作为输出数据的文件格式来重建三维模型,最后将重建出的三维模型转为点云数据。
4.根据权利要求1所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述添加颜色信息的方法为,根据牙科医学教科书上对牙体的定义进行分类,使用同样的方法对待上、下颌牙体,使用14个不同的颜色标签分别对两种不同点云数据进行分类。
5.根据权利要求1所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述超体素方法为超体素分割方法,具体为;
步骤A1、利用八叉树将后得到的两种牙体3D点云数据划分成若干个大小形同的体素,计算各个体素的平均曲率,并将平均曲率最小的体素作为种子体素,避免出现过分割;
每个三维体素按照39维向量进行聚类,表示为:
F=[x,y,z,L,a,b,FPFH1,...,33] 公式一;
其中x,y,z为空间坐标,L,a,b为CIELab空间的颜色值,FPFH1,...33为快速点特征直方图提取的中提取的点云局部几何特征的33个元素;FPFH具有空间不变性的描述局部表面模型的特征,其构造方法为对于每个牙齿所提取的点,以半径0.2构造一个邻域球,沿x、y、z轴扩展,分为11个直方图等份,最终得到33维的描述符;
步骤A2、从初始种子体素开始,向外遍历邻近的体素,对点云进行聚类处理,聚类的距离度量D表示为:
Figure FDA0002715665460000021
式中λ、μ和β分别对应颜色、空间距离和几何特征的影响因子,Dc是CIELab空间的欧式距离值,Ds是三维空间内体素的欧式距离值,Dhik是体素法向量分布直方图的交叉和;
Rseed是种子体素在空间中的分辨率,决定初始超体素的个数;计算邻域内体素到种子体素的距离后将距离最近的体素进行标记,并根据邻接图将邻接体素加入到搜索列表中;迭代直至到达每个体素的搜索边界;搜索完成条件是:邻接图中的所有叶节点均得到遍历,过分割得到超体素。
6.根据权利要求1所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述根据混合特征定义相似度度量包括
设置权重为0.5来平衡点云的几何特征和局部颜色分布特征,找到CBCT牙体点云和激光扫描牙体点云之间的对应点,混合特征距离的度量公式定义为:
Figure FDA0002715665460000031
式中ds()、dc()分别表示点云的几何特征距离、局部颜色分布特征距离,w为颜色特产的权重设为0.5,使空间和颜色特征适当结合并根据不同的点云位置进行合适的相似性度量;pu,qv分别表示CBCT点云数据与激光扫描点云数据的的空间对应点。
7.根据权利要求1所述的一种基于超体素的CBCT与激光扫描点云数据牙齿配准方法,其特征在于:所述提出基于混合特征的相互对应匹配条件包括;
使用c(u,v)表示CBCT点云数据与激光扫描点云数据之间的双向对应关系,CDM(u)表示CBCT模型点云Q中数据点pu的对应点,CMD(v)表示激光扫描点云P中数据点qu的对应点;CDM(u)和CMD(v)可以定义为:
Figure FDA0002715665460000032
Figure FDA0002715665460000033
式中d(pu,qv)和d(qv,pu)是(4)式中定义的混合特征距离的度量,点对pu和qv在CDM(u)和CMD(v)中是相互对应的;
所述改进的模型的ICP框架,其改进处包括通过改进ICP算法解决目标函数中对应参数和转换参数的匹配问题,具体包括;
步骤B1、加入注意力机制预测点云之间的软匹配;;
首先CBCT点云数据与激光扫描点云数据,初始点云特征关系(DGCNN)利用图网络结构生成两片点云的全局特征向量,全局特征向量包含特征点的局部邻域信息,这对后续配准起了关键作用;
Figure FDA0002715665460000041
其中L表示网络层数,
Figure FDA0002715665460000042
表示点i在第l层中嵌入点;
然后将DGCNN得到的点云特征向量作为转换模块的输入,利用编码框架对点云集X和Y的特征向量进行解码,该模块增加注意力机制,根据点云形状不同自适应分配权重大小,不断调整权重大小进行修改点云间的映射关系m(·),从而实现点云集X和Y匹配,如下式所示;
Figure FDA0002715665460000043
式中φx和φy分别为Fx和Fy的输入的修改映射关系函数,Fx→φx以目标点云X结构作为标准,根据点云点云集X结构修改点云集Y的特征点权值,从而生成Fx→φx的变化,其中注意力机制模块的学习函数φ:
Figure FDA0002715665460000044
Figure FDA0002715665460000045
为非线性函数,P表示嵌入的维度,为非对称函数输入;
步骤B2、加入奇异值分解模块(sVD);
构建的深度学习网络利用奇异值分解法对映射后的点云进行求解变换矩阵,分别计算映射后新点云集和质心和协方差矩阵,为了避免到进行直接匹配,利用概率模型对点到的对应点进行概率分配,其模型为:
Figure FDA0002715665460000046
对概率模型分配概率进行均值求解,生成点云集X匹配到点云集Y的均值点:
Figure FDA0002715665460000047
上式
Figure FDA0002715665460000048
中Y为点矩阵。根据xi到yi的映射关系从而计算出目标点云X和待测点云Y刚体运动;
步骤B3、构建结合局部相似度和全局几何约束的损失函数:
Figure FDA0002715665460000051
Figure FDA0002715665460000052
其中,
Figure FDA0002715665460000053
为输入点云中的每个关键点xi通过给定的变换所得,N为提取的特征点云个数,yi为估计目标对应点,R、T为估计变换。通过直接计算欧几里得距离得出Loss1;考虑到配准任务还受到全局几何变换的约束,引入另一种包括全局几何约束的损失Loss2
综上,综合损失函数定义为:
Loss=aLoss1+(1-a)Loss2 公式十;
其中a为Loss1和Loss2之间的权重。
CN202011072708.XA 2020-10-09 2020-10-09 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法 Active CN112200843B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011072708.XA CN112200843B (zh) 2020-10-09 2020-10-09 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011072708.XA CN112200843B (zh) 2020-10-09 2020-10-09 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法

Publications (2)

Publication Number Publication Date
CN112200843A true CN112200843A (zh) 2021-01-08
CN112200843B CN112200843B (zh) 2023-05-23

Family

ID=74012613

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011072708.XA Active CN112200843B (zh) 2020-10-09 2020-10-09 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法

Country Status (1)

Country Link
CN (1) CN112200843B (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112767347A (zh) * 2021-01-18 2021-05-07 上海商汤智能科技有限公司 一种图像配准方法及装置、电子设备和存储介质
CN112801945A (zh) * 2021-01-11 2021-05-14 西北大学 基于双重注意力机制特征提取的深度高斯混合模型颅骨配准方法
CN112862974A (zh) * 2021-03-12 2021-05-28 东南大学 基于口腔扫描点云的牙齿贴面模型生成与厚度测量方法
CN112967219A (zh) * 2021-03-17 2021-06-15 复旦大学附属华山医院 基于深度学习网络的二阶段牙体点云补全方法及系统
CN112989954A (zh) * 2021-02-20 2021-06-18 山东大学 基于深度学习的三维牙齿点云模型数据分类方法及系统
CN113077502A (zh) * 2021-04-16 2021-07-06 中南大学 基于标志球内部多层球面生成点的牙颌空间配准方法
CN113516784A (zh) * 2021-07-27 2021-10-19 四川九洲电器集团有限责任公司 一种牙齿分割建模方法和装置
CN113837326A (zh) * 2021-11-30 2021-12-24 自然资源部第一海洋研究所 一种基于特征曲线的机载激光测深数据配准方法
CN115830287A (zh) * 2023-02-20 2023-03-21 汉斯夫(杭州)医学科技有限公司 基于激光口扫与cbct重建的牙齿点云融合方法、设备及介质
CN116485809A (zh) * 2022-07-01 2023-07-25 山东财经大学 基于自注意力与感受野调整的牙齿实例分割方法及系统
CN116817771A (zh) * 2023-08-28 2023-09-29 南京航空航天大学 一种基于圆柱体素特征的航天零件涂层厚度测量方法
EP4280155A1 (en) 2022-05-16 2023-11-22 Institut Straumann AG Improved manufacturing of dental implants based on digital scan data alignment
CN117152446A (zh) * 2023-10-31 2023-12-01 昆明理工大学 一种基于高斯曲率和局部凹凸性的改进lccp点云分割方法
WO2024088360A1 (zh) * 2022-10-26 2024-05-02 上海时代天使医疗器械有限公司 牙列三维数字模型的配准方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105447908A (zh) * 2015-12-04 2016-03-30 山东山大华天软件有限公司 基于口腔扫描数据和cbct数据的牙列模型生成方法
CN106600622A (zh) * 2016-12-06 2017-04-26 西安电子科技大学 一种基于超体素的点云数据分割方法
CN108665533A (zh) * 2018-05-09 2018-10-16 西安增材制造国家研究院有限公司 一种通过牙齿ct图像和三维扫描数据重建牙列的方法
CN108765474A (zh) * 2018-04-17 2018-11-06 天津工业大学 一种针对ct与光学扫描牙齿模型的高效配准方法
CN109493372A (zh) * 2018-10-24 2019-03-19 华侨大学 大数据量、少特征的产品点云数据快速全局优化配准方法
US20190318536A1 (en) * 2016-06-20 2019-10-17 Ocean Maps GmbH Method for Generating 3D Data Relating to an Object

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105447908A (zh) * 2015-12-04 2016-03-30 山东山大华天软件有限公司 基于口腔扫描数据和cbct数据的牙列模型生成方法
US20190318536A1 (en) * 2016-06-20 2019-10-17 Ocean Maps GmbH Method for Generating 3D Data Relating to an Object
CN106600622A (zh) * 2016-12-06 2017-04-26 西安电子科技大学 一种基于超体素的点云数据分割方法
CN108765474A (zh) * 2018-04-17 2018-11-06 天津工业大学 一种针对ct与光学扫描牙齿模型的高效配准方法
CN108665533A (zh) * 2018-05-09 2018-10-16 西安增材制造国家研究院有限公司 一种通过牙齿ct图像和三维扫描数据重建牙列的方法
CN109493372A (zh) * 2018-10-24 2019-03-19 华侨大学 大数据量、少特征的产品点云数据快速全局优化配准方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
TIAN,FUJING ET AL.: "Supervoxel based Point Cloud Segmentation Algorithm", 《OPTOELECTRONIC IMAGING AND MULTIMEDIA TECHNOLOGY VI》 *
张雅玲 等: "基于GCNN的CBCT模拟口扫点云数据牙齿分割算法", 《计算机辅助设计与图形学学报》 *
白慧鹏: "地面三维激光点云去噪算法研究", 《中国优秀博硕士学位论文全文数据库(硕士)》 *

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112801945A (zh) * 2021-01-11 2021-05-14 西北大学 基于双重注意力机制特征提取的深度高斯混合模型颅骨配准方法
CN112767347A (zh) * 2021-01-18 2021-05-07 上海商汤智能科技有限公司 一种图像配准方法及装置、电子设备和存储介质
CN112989954A (zh) * 2021-02-20 2021-06-18 山东大学 基于深度学习的三维牙齿点云模型数据分类方法及系统
CN112989954B (zh) * 2021-02-20 2022-12-16 山东大学 基于深度学习的三维牙齿点云模型数据分类方法及系统
CN112862974A (zh) * 2021-03-12 2021-05-28 东南大学 基于口腔扫描点云的牙齿贴面模型生成与厚度测量方法
CN112862974B (zh) * 2021-03-12 2024-02-23 东南大学 基于口腔扫描点云的牙齿贴面模型生成与厚度测量方法
CN112967219A (zh) * 2021-03-17 2021-06-15 复旦大学附属华山医院 基于深度学习网络的二阶段牙体点云补全方法及系统
CN112967219B (zh) * 2021-03-17 2023-12-05 复旦大学附属华山医院 基于深度学习网络的二阶段牙体点云补全方法及系统
CN113077502A (zh) * 2021-04-16 2021-07-06 中南大学 基于标志球内部多层球面生成点的牙颌空间配准方法
CN113516784B (zh) * 2021-07-27 2023-05-23 四川九洲电器集团有限责任公司 一种牙齿分割建模方法和装置
CN113516784A (zh) * 2021-07-27 2021-10-19 四川九洲电器集团有限责任公司 一种牙齿分割建模方法和装置
CN113837326A (zh) * 2021-11-30 2021-12-24 自然资源部第一海洋研究所 一种基于特征曲线的机载激光测深数据配准方法
EP4280155A1 (en) 2022-05-16 2023-11-22 Institut Straumann AG Improved manufacturing of dental implants based on digital scan data alignment
CN116485809A (zh) * 2022-07-01 2023-07-25 山东财经大学 基于自注意力与感受野调整的牙齿实例分割方法及系统
CN116485809B (zh) * 2022-07-01 2023-12-15 山东财经大学 基于自注意力与感受野调整的牙齿实例分割方法及系统
WO2024088360A1 (zh) * 2022-10-26 2024-05-02 上海时代天使医疗器械有限公司 牙列三维数字模型的配准方法
CN115830287A (zh) * 2023-02-20 2023-03-21 汉斯夫(杭州)医学科技有限公司 基于激光口扫与cbct重建的牙齿点云融合方法、设备及介质
CN115830287B (zh) * 2023-02-20 2023-12-12 汉斯夫(杭州)医学科技有限公司 基于激光口扫与cbct重建的牙齿点云融合方法、设备及介质
CN116817771A (zh) * 2023-08-28 2023-09-29 南京航空航天大学 一种基于圆柱体素特征的航天零件涂层厚度测量方法
CN116817771B (zh) * 2023-08-28 2023-11-17 南京航空航天大学 一种基于圆柱体素特征的航天零件涂层厚度测量方法
CN117152446A (zh) * 2023-10-31 2023-12-01 昆明理工大学 一种基于高斯曲率和局部凹凸性的改进lccp点云分割方法
CN117152446B (zh) * 2023-10-31 2024-02-06 昆明理工大学 一种基于高斯曲率和局部凹凸性的改进lccp点云分割方法

Also Published As

Publication number Publication date
CN112200843B (zh) 2023-05-23

Similar Documents

Publication Publication Date Title
CN112200843B (zh) 一种基于超体素的cbct与激光扫描点云数据牙齿配准方法
CN109785374B (zh) 一种牙科增强现实手术导航的自动实时无标记图像配准方法
CN111862171B (zh) 基于多视图融合的cbct与激光扫描点云数据牙齿配准方法
KR20210028226A (ko) 딥 러닝을 사용하여 3d 객체의 정규 자세 및 3d 객체의 중첩을 자동 결정
CA3024372A1 (en) Method for estimating at least one of shape, position and orientation of a dental restoration
Zanjani et al. Mask-MCNet: tooth instance segmentation in 3D point clouds of intra-oral scans
CN111784754B (zh) 基于计算机视觉的牙齿正畸方法、装置、设备及存储介质
CN112085821A (zh) 一种基于半监督的cbct与激光扫描点云数据配准方法
CN115619773B (zh) 一种三维牙齿多模态数据配准方法及系统
WO2020136243A1 (en) Tooth segmentation using tooth registration
US20230394687A1 (en) Oral image processing device and oral image processing method
CN112785609B (zh) 一种基于深度学习的cbct牙齿分割方法
CN113052902A (zh) 牙齿治疗监测方法
CN114549540A (zh) 一种口扫牙齿数据与cbct数据自动融合的方法及其应用
CN113706514B (zh) 基于模板图像的病灶定位方法、装置、设备及存储介质
Ben-Hamadou et al. 3DTeethSeg'22: 3D Teeth Scan Segmentation and Labeling Challenge
Chen et al. Hierarchical CNN-based occlusal surface morphology analysis for classifying posterior tooth type using augmented images from 3D dental surface models
Tian et al. Efficient tooth gingival margin line reconstruction via adversarial learning
CN116152235A (zh) 一种肺癌ct到pet的医学图像跨模态合成方法
CN114612532A (zh) 一种三维牙齿配准方法、系统、计算机设备及存储介质
CN114092643A (zh) 一种基于混合现实与3dgan的软组织自适应形变方法
Xie et al. Automatic Individual Tooth Segmentation in Cone-Beam Computed Tomography Based on Multi-Task CNN and Watershed Transform
Trabelsi et al. 3D Active Shape Model for CT-scan liver segmentation
EP4307229A1 (en) Method and system for tooth pose estimation
Dhar et al. Automatic tracing of mandibular canal pathways using deep learning

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant