CN116503389B - 牙根外吸收自动检测方法 - Google Patents

牙根外吸收自动检测方法 Download PDF

Info

Publication number
CN116503389B
CN116503389B CN202310745960.XA CN202310745960A CN116503389B CN 116503389 B CN116503389 B CN 116503389B CN 202310745960 A CN202310745960 A CN 202310745960A CN 116503389 B CN116503389 B CN 116503389B
Authority
CN
China
Prior art keywords
network
absorption
tooth root
body layer
curved surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310745960.XA
Other languages
English (en)
Other versions
CN116503389A (zh
Inventor
戴修斌
倪吉祥
朱书进
冒添逸
孙智民
周曼婷
王东苗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Posts and Telecommunications
Original Assignee
Nanjing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Posts and Telecommunications filed Critical Nanjing University of Posts and Telecommunications
Priority to CN202310745960.XA priority Critical patent/CN116503389B/zh
Publication of CN116503389A publication Critical patent/CN116503389A/zh
Application granted granted Critical
Publication of CN116503389B publication Critical patent/CN116503389B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30036Dental; Teeth
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种牙根外吸收自动检测方法,首先,构建轻量化重平衡深度检测网络,由特征提取子网络、特征融合子网络和预测子网络三部分组成,特征提取子网络主要通过将若干卷积层、轻量化特征变换模块和通道特征自适应校准模块组合构成,实现从曲面体层图像中有效提取多尺度特征的目的;然后,利用从曲面体层图像和对应三维锥形束CT图像中获得的下颌第三磨牙牙根外吸收病灶区的位置标注和类别标注,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练;最后,以新采集的曲面体层图像作为已训练轻量化重平衡深度检测网络的输入,该网络即可最终输出新曲面体层图像中下颌第三磨牙发生牙根外吸收的置信度和病灶区位置。

Description

牙根外吸收自动检测方法
技术领域
本发明涉及一种基于轻量化重平衡深度检测网络的曲面体层图像下颌第三磨牙牙根外吸收自动检测方法,属于图像处理技术领域。
背景技术
牙根吸收是由正畸牙移动所致的炎症引起。牙根外吸收是指牙根表面发生的进行性病理性吸收,严重时可能导致牙齿丧失。牙根外吸收发生原因与牙骨质损伤有关,无明显症状,在X线片检查时可发现牙根表面深浅不一的虫蚀状缺陷。
目前,下颌磨牙牙根外吸收判断仍通过曲面体层图像进行主观观察、判断为主,判断精度受经验、精力等主观因素差异影响较大,且耗时费力、效率不高。虽然已有学者开始将图像自动处理算法应用于下颌磨牙牙根外吸收,以从图像中自动检测和判断出病变位置。但是目前仍未发现有牙根外吸收自动检测方法的相关文献报导。
因此,急需发展一种针对曲面体层图像的下颌磨牙牙根外吸收自动检测与判断技术,以提高下颌磨牙牙根外吸收的判断效率。
发明内容
本发明的目的在于提供一种牙根外吸收自动检测方法,为下颌第三磨牙牙根外吸收自动检测技术的实现提供了可行方法。
为实现上述目的,本发明提供了一种牙根外吸收自动检测方法,主要包括以下步骤:
步骤1:构建轻量化重平衡深度检测网络,所述轻量化重平衡深度检测网络包括特征提取子网络、特征融合子网络和预测子网络,所述特征提取子网络用于从曲面体层图像中提取多尺度图像特征,所述特征融合子网络用于对提取出的牙根外吸收语义特征和位置特征进行融合及传输,所述预测子网络用于输出发生牙根外吸收情况的置信度和病灶区位置;
步骤2:利用从曲面体层图像和对应三维锥形束CT图像中获得的下颌第三磨牙牙根外吸收病灶区的位置标注和类别标注,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练;
步骤3:在检测阶段,以新采集的曲面体层图像作为已训练轻量化重平衡深度检测网络的输入,该轻量化重平衡深度检测网络即可输出新曲面体层图像中下颌第三磨牙发生牙根外吸收的置信度和病灶区位置。
作为本发明的进一步改进,步骤1中的特征提取子网络用于从曲面体层图像中获取牙根外吸收语义特征和对应的位置特征。
作为本发明的进一步改进,步骤1中的特征融合子网络用于实现多尺度、多层次牙根外吸收语义特征和位置特征的有效融合及传输,所述特征融合子网络的结构由自上而下的特征金字塔网络和自下而上的路径聚合网络依次连接构成。
作为本发明的进一步改进,步骤1中的预测子网络还用于将从特征融合子网络输出的三个不同维度、尺度下的通道特征图分别经过三次独立的卷积操作后,估计出候选边界框的位置信息和类别置信度,以及所属网格的类别置信度。
作为本发明的进一步改进,步骤2中的位置标注和类别标注获得方法分别为:
位置标注方法:将曲面体层图像下颌第三磨牙牙根部分作为感兴趣区域ROI,使用矩形框来标记;记R i 为曲面体层图像第i个ROI,提取曲面体层图像中所有R i 的中心点坐标(x i ,y i )以及相应的宽、高(w i ,h i )作为训练时所需的下颌第三磨牙牙根位置标注信息;
类别标注方法:利用对应的三维锥形束CT图像,从颊舌向、近远中向和牙齿咬合方向对下颌第三磨牙牙根空间形态进行分析,将得出的下颌第三磨牙牙根是否存在外吸收情况作为训练时所需的分类标注信息,若选定感兴趣区域中发生牙根外吸收现象,则标注为1,否则标注为0。
作为本发明的进一步改进,步骤2中,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练的步骤包括:
针对数据集样本类别失衡的情况,训练模型时在损失函数中加入重平衡模块,通过调节类别失衡样本对整个损失函数的贡献权重,使得网络模型在训练过程中更加侧重于对类别失衡样本和困难样本的特征学习,以降低样本数量类别不平衡对网络模型训练的影响;
总损失函数L total 的表达式为:
式中,L box 为对含有可能发生牙根外吸收情况的边界框位置回归预测损失,L obj 为预测牙根外吸收目标损失,L cls_BL 为嵌入类别重平衡机制的预测牙根外吸收类别损失;
L cls_BL 可用如下公式表示:
其中,为二元交叉熵损失,定义如下:
式中,i∈[1,N],N表示曲面体层图像中待检测牙根外吸收病例样本数;表示某样本i的类别标注信息;/>表示轻量化重平衡深度检测网络预测出的样本i中存在下颌第三磨牙牙根外吸收的概率值;
为在损失函数中嵌入的类别重平衡机制,其定义如下:
其中,表示外吸收阳性与外吸收阴性的样本比例,/>是调节牙根外吸收简单、困难样本权重的调制因子,γ是聚焦参数,其值越大,对简单样本的损失抑制就越强;
其中,表示样本i的标注为阳性,α(0<α<1)是类别权重超参数,默认值为0.25,在二分类场景下,可以看作对阳性样本之外的阴性样本,以及图像背景干扰信息进行抑制;
类别重平衡机制是动态缩放的交叉熵损失,加权因子表示数据集中外吸收阳性与外吸收阴性的样本比例,调节加权因子/>能够缓解样本数据不平衡对损失函数的影响;
当样本i的类别标注为1,则为阳性,在训练阶段中,p为当前训练未完成的模型对样本i的类别判断为阳性的实际概率值。
作为本发明的进一步改进,在网络模型不断地训练、迭代的过程中,通过反向传播的参数反馈机制,不断校正网络的权重系数,使得损失函数趋于收敛,则训练流程结束。
与现有技术相比,本发明的技术效果为:一方面,本发明利用锥形束CT图像判断下颌第三磨牙牙根外吸收,为训练深度神经网络添加了额外的3D空间信息,减少了制作数据集时的人工误差。另一方面,本发明将新的曲面体层图像输入到已训练好的轻量化重平衡深度检测网络中测试,测试阶段无需人工操作,只需对整张曲面体层图像进行一次扫描,即可快速自动识别该图像中下颌第三磨牙牙根位置是否存在外吸收,也能够准确定位出病变位置。
附图说明
图1是本发明的方法流程图。
图2是本发明采用的轻量化重平衡深度检测网络的结构示意图。
图3是本发明采用的轻量化特征变换原理图。
图4是本发明采用的轻量化特征变换模块结构图。
图5是通道特征自适应校准模块简图。
图6是本发明实施例二中检测曲面体层图像下颌第三磨牙牙根位置外吸收的结果示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面结合附图和具体实施例对本发明进行详细描述。
在此,需要说明的是,为了避免因不必要的细节而模糊了本发明,在附图中仅仅示出了与本发明的方案密切相关的结构和/或处理步骤,而省略了与本发明关系不大的其他细节。
本发明提供了一种牙根外吸收自动检测方法,主要包括以下步骤:
步骤1:构建轻量化重平衡深度检测网络,所述轻量化重平衡深度检测网络包括特征提取子网络、特征融合子网络和预测子网络,所述特征提取子网络用于从曲面体层图像中提取多尺度图像特征,所述特征融合子网络用于对提取出的牙根外吸收语义特征和位置特征进行融合及传输,所述预测子网络用于输出发生牙根外吸收情况的置信度和病灶区位置;
步骤2:利用从曲面体层图像和对应三维锥形束CT图像中获得的下颌第三磨牙牙根外吸收病灶区的位置标注和类别标注,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练;
步骤3:在检测阶段,以新采集的曲面体层图像作为已训练轻量化重平衡深度检测网络的输入,该轻量化重平衡深度检测网络即可输出新曲面体层图像中下颌第三磨牙发生牙根外吸收的置信度和病灶区位置。
具体来讲,步骤1中的特征提取子网络用于从曲面体层图像中获取牙根外吸收语义特征和对应的位置特征,为下一阶段网络模型的特征融合、定位匹配做准备。本阶段网络主要包括:聚焦层、CBL层、特征变换模组、通道特征自适应校准模块以及SPP模块。操作步骤包括:首先,将曲面体层图像输入聚焦层后,聚焦层会先对图像分通道进行切片操作并在相同通道维度上进行连接操作,输出不同通道的特征图;随后对连接后的特征图依次施加卷积、批量归一化、加权激活函数(Convolution-Batch Normalization-Leaky Relu,CBL)的组合操作,提取出分辨率减半的特征图,然后将结果输出至特征变换模组一。如图2所示,特征变换模组一由三组若干不同尺寸轻量化特征变换模块依次串联构成,具体构成如下:第一组由3个步长为1、卷积核大小为3×3的轻量化特征变换模块串联成;第二组选用单个步长为2、卷积核大小为3×3的轻量化特征变换模块;第三组则将9个步长为1、卷积核大小为3×3的轻量化特征变换模块进行串联。
如图4所示,轻量化特征变换模块是基于轻量化特征变换的运算模块,步长为1的轻量化特征变换模块结构如下:特征图被输入后分为两条传播路径,第一支路中的输入特征依次进行轻量化特征变换和批量归一化操作(Batch Normalization,BN)后施加ReLu激活函数,然后对变换后的特征图进行第二次轻量化特征变换和批量归一化操作;第二支路则将输入模块的特征图直接与第一支路所得结果线性叠加,叠加结果即为步长为1的轻量化特征变换模块的输出。
步长为2的轻量化特征变换模块与步长为1的轻量化特征变换模块总体结构相同,唯一区别在于:第二次轻量化特征变换前添加了步长为2的深度可分离卷积操作(Depth-wise Convolution,DWConv) ,主要目的是将特征图按不同维度、尺度进行分通道整理,融合。
虽然两种轻量化特征变换模块的结构不同,但相比于传统特征提取模块,这两种轻量化特征变换模块在减轻计算量负担,降低网络参数维度都起着关键作用:假设输入特征图的通道数、高度和宽度分别为c、h和w,输出特征图的通道数、高度和宽度分别为c′、h′和w′,普通卷积中卷积核的大小为k×k;轻量化特征变换模块中通过普通卷积生成的特征图数量为m,每个线性运算的平均内核大小为d×d。轻量化特征变换模块的计算量可表示为2[mh′w′ckk+ddh′w′(c′-m)]。传统特征提取模块计算量可表示为2c′h′w′ckk。因此传统特征提取模块与轻量化特征变换模块的计算量之比可表示为:
其中k、d大小相同,m<c′,且c′-m<<c,所以传统特征提取模块的计算量是本网络所采用的轻量化变换模块的r倍(r>1)。
以上不同步长的轻量化特征变换模块中均采用的轻量化特征变换,轻量化特征变换是轻量化重平衡深度检测网络实现轻量化的核心,其原理如图3所示:先通过普通卷积得到尺寸缩小后的原始特征,再对原始特征的每层分别施加深度可分离卷积操作,以得到若干扩充特征;将生成的全部扩充特征堆叠后再与原始特征拼接,即可获得经过轻量化特征变换后的特征。
随后,将从特征变换模组一获得的轻量化后特征传递至通道特征自适应校准模块,根据轻量化后特征中各通道的重要程度输出加权校准后的特征。通道特征自适应校准模块的结构如图5所示:首先对输入特征图全局平均池化,获得特征图的每个通道描述符向量,再将描述符向量依次经过全连接层、ReLu激活函数、全连接层、Sigmoid激活函数操作后,可获得表征输入特征各通道重要程度的特征通道权重系数向量。将特征通道权重系数向量与输入特征图对应相乘,即可获得加权校准后的特征。
加权校准后的特征会进入特征变换模组二,并且会被另外一条通路L1传递至特征融合子网络中。特征变换模组二的结构如图2所示,由两组若干轻量化特征变换模块串联构成:第一组由1个步长为2、卷积核大小为3×3的轻量化特征变换模块串联组成;第二组选用9个步长为1、卷积核大小为3×3的轻量化特征变换模块串联组成。将特征变换模组二的输出结果传递至下一个通道特征自适应校准模块后,其输出依次经过CBL组合操作和空间金字塔池化(Spatial Pyramid Pooling,SPP)操作,随后输入至第三个通道特征自适应校准模块;同时也经过另一通路L2被传递至特征融合子网络中。第三个通道特征自适应校准模块将其提取出的特征作为特征提取子网络的输出,传递至特征融合子网络。
所述特征融合子网络用于实现多尺度、多层次牙根外吸收语义特征和位置特征的有效融合及传输,所述特征融合子网络的结构由自上而下的特征金字塔网络和自下而上的路径聚合网络依次连接构成,主要是整合特征提取网络在多尺度、多维度的特征图中不断训练强化的牙根外吸收强语义特征与病灶位置特征。本阶段网络主要包括:轻量化特征变换模块(步长为1、卷积核大小为3×3)、DBL层、上采样模块、拼接模块。在自上而下的特征金字塔网络中,1个步长为1、卷积核大小为3×3的轻量化特征变换模块接收特征提取子网络的输出特征,然后对经过轻量化特征变换模块后的特征施加1个深度可分离卷积、批量归一化、加权激活函数(DepthWise-Convolution-Batch normalization-Leaky Relu,DBL)的组合操作,其结果利用R1通路连接进入自下而上的路径聚合网络外,还在上采样后与从L2通路输送来的特征进行拼接。接下来,拼接后的特征依次施加一次DBL组合操作,1个步长为1、卷积核大小为3×3的轻量化特征变换模块以及又一次DBL组合操作。获得的特征通过R2通路被传递至自下而上的路径聚合网络中;同时,经过上采样后与从L1通路输送来的特征进行拼接后输入至自下而上的路径聚合网络。
自下而上的路径聚合网络首先对输入特征进行一次DBL操作后,将结果输入1个步长为1、卷积核大小为3×3的轻量化特征变换模块,其结果在通过R3通路被传递至预测子网络外,再经过一次DBL操作后与从R2通路输送来的特征进行拼接。拼接后的特征重复前一步骤,即依次被输入1个步长为1、卷积核大小为3×3的轻量化特征变换模块以及又一次DBL操作,同时此轻量化特征变换模块的输出特征通过R4通路被传递至预测子网络。最后,经过DBL的特征与从R1通路输送来的特征进行拼接,再被输入至1个步长为1、卷积核大小为3×3的轻量化特征变换模块,输出特征至预测子网络。
步骤1中的预测子网络还用于将从特征融合子网络输出的三个不同维度、尺度下的通道特征图分别经过三次独立的卷积操作后,估计出候选边界框的位置信息和类别置信度,以及所属网格的类别置信度。具体为:预测子网络分别对曲面体层图像产生的多尺度、多层级的特征图进行编码,在三个输出通道上各自经过一次卷积操作后,检测网络利用卷积后的输出信息生成大量候选边界框和对应候选边界框所预测的类别及其置信度,同时也会采用非极大值抑制的方法,筛选、淘汰冗余的边界框,优化输出结果,得出最终的候选框及其对应的类别置信度,并输出结果。
步骤2具体为:采集曲面体层图像与相应三维锥形束CT图像,在曲面体层图像上完成第三磨牙牙根外吸收的定位标注,根据三维锥形束CT图像获取外吸收类别标注信息;将曲面体层图像以及对应类别、定位标注信息以coco数据形式整理、保存,设置训练参数后,利用轻量化重平衡深度检测网络读取图像及其对应定位、标注信息辅助训练,直至训练完成。
以构建的轻量化重平衡深度检测网络为基础训练下颌第三磨牙牙根外吸收自动检测模型,包括:
训练阶段:
(1)以三维锥形束CT图像中下颌第三磨牙牙根病灶区的类别标注信息作为网络模型训练的金标准,避免因二维曲面体层图像的颊舌向、近远中向、牙齿咬合方向信息的缺失对网络模型识别精度产生不利影响。
(2)利用传统图像增强手段,如图像亮度变化、随机像素裁剪、随机饱和度调节、图像旋转以及马赛克增强等,扩充数据集,增强训练模型的泛化能力,提高网络模型的鲁棒性。
(3)针对数据中存在的类别不平衡问题,在构建的深度检测网络中,加入损失重平衡机制,调整模型在训练过程中对大量阴性样本以及简单样本的学习权重,提升对阳性样本和难区分样本的识别精度,使得检测模型能更好地适应普遍存在的样本类别不均衡现象。
(4)针对模型训练过程产生的巨量参数,以及模型的计算负担较大等问题,对检测网络中的部分模块进行了改换,在保证检测精度的同时,减少了训练阶段网络的参数量和运算量,实现了最终深度检测模型的轻量化。
(5)分析模型训练时各部分损失函数的衰减趋势的同时,结合遗传算法搜索所得的超参数,调校检测网络中涉及的关键参数,使轻量化重平衡深度检测网络对第三磨牙牙根外吸收的检测精度进一步提升。
检测阶段:
(1)在测试过程中,也利用数据扩充的常规手段,测试集数据的扩充能更好地反映检测网络的实际检测性能。
(2)通过阈值的合理设置以及相关参数的调整,使得最终的检测网络性能在对测试集数据的识别、定位上达到更为理想的效果。
具体来讲,步骤2中的位置标注和类别标注获得方法分别为:
位置标注方法:将曲面体层图像下颌第三磨牙牙根部分作为感兴趣区域(RegionOf Interset, ROI),使用矩形框来标记;记R i 为曲面体层图像第i个ROI,提取曲面体层图像中所有R i 的中心点坐标(x i ,y i )以及相应的宽、高(w i ,h i )作为训练时所需的下颌第三磨牙牙根位置标注信息;
类别标注方法:利用对应的三维锥形束CT图像,从颊舌向、近远中向和牙齿咬合方向对下颌第三磨牙牙根空间形态进行分析,将得出的下颌第三磨牙牙根是否存在外吸收情况作为训练时所需的分类标注信息,若选定感兴趣区域中发生牙根外吸收现象,则标注为1,否则标注为0。
步骤2中,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练的步骤包括:
针对数据集样本类别失衡的情况,训练模型时在损失函数中加入重平衡模块,通过调节类别失衡样本对整个损失函数的贡献权重,使得网络模型在训练过程中更加侧重于对类别失衡样本和困难样本的特征学习,以降低样本数量类别不平衡对网络模型训练的影响;
总损失函数L total 的表达式为:
式中,L box 为对含有可能发生牙根外吸收情况的边界框位置回归预测损失,L obj 为预测牙根外吸收目标损失,L cls_BL 为嵌入类别重平衡机制的预测牙根外吸收类别损失。
L box 采用CIOU作为广义交并比损失函数;
式中,表示预测框与真实框中心点的直线距离,c表示两框最小外接矩形对角线距离,/>是用于平衡比例的参数,/>表示长宽一致性参数,IOU表示候选框与真实标注框之间面积的交并比,计算公式如下:
其中,IOU表示预测框与真实标注框之间面积的交并比。A、B分别表示预测框A、真实标注框B,A∩B则表示预测框A与真实标注框B两框交错、重叠的面积,A∪B则表示表示预测框A与真实标注框B两框作为一个整体所占的面积。
b与bgt分别表示预测框与真实标注框,ρ2(b,bgt)则表示b与bgt的欧式距离,即取两框的中心点间的直线距离;c是表示预测框与真实标注框之间最小外接矩形(即同时包含预测框和真实标注框的面积最小的矩形框)的对角线距离。
表示预测框与真实标注框的长宽一致性参数,w、wgt分别表示预测框、真实标注框的横向宽度;h、hgt则分别表示预测框、真实标注框的纵向宽度。
是平衡比例的参数,其具体数值与IOU、/>有关。
使用CIOU损失作为边界框损失函数,能够最小化预测框与真实框之间的距离,加快模型收敛速度,降低模型训练难度,提高牙根外吸收检测的准确率。
L cls_BL 可用如下公式表示:
其中,为二元交叉熵损失,定义如下:
式中,i∈[1,N],N表示曲面体层图像中待检测牙根外吸收病例样本数;表示某样本i的类别标注信息,若边界框选中牙根外吸收病灶区则为1,未选中病灶区则为0;/>表示轻量化重平衡深度检测网络预测出的样本i中存在下颌第三磨牙牙根外吸收的概率值。
为在损失函数中嵌入的类别重平衡机制,其定义如下:
其中,表示外吸收阳性与外吸收阴性的样本比例,/>是调节牙根外吸收简单、困难样本权重的调制因子,/>是下颌第三磨牙牙根外吸收的置信度,/>值越小,则样本学习难度越高,则被分为困难样本;γ是聚焦参数,其值越大,对简单样本的损失抑制就越强;
其中,表示样本i的标注为阳性,α(0<α<1)是类别权重超参数,默认值为0.25,具体数值可根据数据样本分布实际情况进行调节。在本发明的二分类场景下,可以看作对阳性样本之外的阴性样本,以及图像背景干扰信息进行抑制。
类别重平衡机制是动态缩放的交叉熵损失,加权因子表示数据集中外吸收阳性与外吸收阴性的样本比例,调节加权因子/>能够缓解样本数据不平衡对损失函数的影响;
当样本i的类别标注为1,则为阳性,在训练阶段中,p为当前训练未完成的模型对样本i的类别判断为阳性的实际概率值。
在网络模型不断地训练、迭代的过程中,通过反向传播的参数反馈机制,不断校正网络的权重系数,使得损失函数趋于收敛,则训练流程结束。
以下将利用两个实施例对本发明进行举例说明。
实施例1
如图1所示,牙根外吸收方法,主要包括以下步骤:
首先,采集新曲面体层图像,图像划分为S×S网格;
其次,将采集后的图像输入训练完成的轻量化重平衡深度检测网络,获得多个候选边界框的位置、模型对相应候选框所预测的类别以及预测类别的置信度;
最后,利用非极大值抑制(Non-Maximum Suppression,NMS)方法从多个候选边界框中筛选出最终的边界框,实现对下颌第三磨牙牙根外吸收位置的定位。
训练获得轻量化重平衡深度检测网络模型,包括:
(1)扩充训练集,训练集包括曲面体层图像、锥形束CT图像、分类标注信息和定位标注信息;
(2)利用训练集迭代训练构建的单步轻量化重平衡深度检测网络模型;
训练开始之前,利用遗传算法,迭代10000次,得出本训练网络在曲面体层图像外吸收数据集下的anchor分布;
设置超参数的初始值,每次迭代训练中,采用Adam优化器,令学习率进行自适应动态调整;
利用遗传算法进行超参数搜索,根据设定的epoch训练轻量化重平衡深度检测网络模型,根据总损失函数对所有的超参数组合进行排序,获得最优超参数组合。
本实施例将采集后的图像划分为S×S网格,在每个网格中均会生成多个候选边界框。
本实施例利用NMS方法从多个候选边界框中筛选出最终边界框,实现对下颌第三磨牙牙根外吸收位置的定位,包括:
将边界框的目标置信度乘以每个网格包含目标类别属于牙根外吸收的目标置信度,获得候选边界框包含目标类别属于牙根外吸收的概率值;
根据候选边界框包含目标类别属于牙根外吸收的概率值和CIOU交集,剔除冗余的候选框,确定最终的边界框;
若最终的边界框包含目标类别属于牙根外吸收的概率值超过设定的阈值,则判定最终的边界框指出的新曲面体层图像中牙根外吸收的位置合格。
本实施例的扩充训练集,包括:对曲面体层图像进行多种数据扩充变换操作,如图像的亮度修改、随机像素裁剪,随机饱和度修改、随机角度旋转以及马赛克增强等多种手段。
实施例2
针对某一张待检测的曲面体层图像,实际应用中,具体包括以下步骤:
(1)训练集为1484个研究病例的曲面体层图像、分类标注信息和定位标注信息,其中用于训练的曲面体层图像尺寸为2976×1536,像素尺寸为0.07×0.07mm 2
(2)从曲面体层图像研究病例对应的锥形束CT图像中判断下颌第三磨牙牙根是否存在外吸收,作为对应曲面体层图像的分类标注信息。对研究病例的曲面体层图像进行标注,将曲面体层图像中疑似发生外吸收的下颌第三磨牙邻域作为感兴趣区域ROI,使用边界框标记,记R i 为曲面体层图像第i个ROI,提取曲面体层图像中所有R i 的中心点坐标(x i ,y i )与宽高(w i ,h i )作为定位标注信息;存在外吸收的为420例,无外吸收的为1858例。
(3)对训练集以数据增强的方式进行扩充,其方式有:亮度修改、随机像素裁剪、随机饱和度修改、随机角度图像翻转以及马赛克增强等。
(4)轻量化重平衡深度检测网络模型设置超参数的初始值:深度系数设定为1.33,宽度系数设定为1.25,初始学习率设置为0.0012,融合概率设置为0.214,训练轮数设置为300,采用Adam优化器。设置好以上初始超参数后利用遗传算法进行超参数搜索,超参数搜索的终止循环迭代次数为300轮,每轮对单步深度网络模型训练100个epoch并根据总损失函数对所有的超参数组合进行排序,最终获得最优超参数组合。
(5)重复上述步骤(3)、(4),不断迭代,直至完成轻量化重平衡深度检测网络模型的训练,获取最终的模型。
(6)利用训练完成的轻量化重平衡深度检测网络模型对采集的新曲面体层图像进行测试:将新曲面体层图像划分为S×S网格,随后将划分完成的图像输入到轻量化重平衡深度检测网络模型中,可输出候选边界框位置、候选边界框尺寸、每个候选边界框的目标置信度,以及每个网格包含目标类别属于牙根外吸收的目标置信度。
(7)利用NMS方法从多个候选边界框中筛选出最终的边界框,实现对下颌第三磨牙牙根外吸收位置的定位,包括:
将新采集的曲面体层图像输入训练完成的轻量化重平衡深度检测网络,则网络模型将输出若干包含下颌第三磨牙牙根外吸收病灶区的候选锚框位置信息,如候选框中心点坐标(x i ,y i ),中心点位置与锚框宽度、高度的相对距离(w i ,h i ),以及这些锚框中发生下颌第三磨牙牙根外吸收的概率值:
根据候选边界框包含目标类别属于牙根外吸收的概率值和CIOU交集,剔除冗余的候选框,确定最终的边界框;
将边界框的目标置信度乘以每个网格包含目标类别属于牙根外吸收的目标置信度,获得候选边界框包含目标类别属于牙根外吸收的概率值。
再通过非极大值抑制操作,筛选出最佳锚框作为下颌第三磨牙牙根外吸收病灶的最终位置,该锚框对应的置信度作为新采集的曲面体层图像中发生牙根外吸收的置信度,若最终的边界框包含目标类别属于牙根外吸收的置信度超过设定的阈值,则判定最终的边界框指出的新曲面体层图像中牙根外吸收的位置合格。
如图6所示,Resorption表示采用本发明方法检测到曲面体层图像有牙根外吸收,Normal表示采用本发明方法检测到曲面体层图像不存在牙根外吸收;图6中左侧为待检测的曲面体层图像,右侧为本发明输出的最终的边界框及目标置信度。
综上,本发明具备以下技术效果:
1、本发明对训练集以数据增强的方式进行扩充,扩增训练集的大小可以训练出更加泛化的模型,经过图像增强的数据集可以有效地帮助轻量化重平衡深度检测网络模型在提取和学习二维图像特征时降低因曲面体层图像拍摄位置、光照关系、饱和度等扰动带来的负面影响。
2、本发明利用遗传算法进行超参数搜索,最终获得最优超参数组合,超参数进化使得单步轻量化重平衡深度检测网络模型在一个独立分布的数据中可以最小化事先给定的损失函数,以达到更优的预测精度。
3、本发明选用CIOU损失作为回归边界框的损失函数,CIOU解决一般IOU无法直接优化两个框框没有重叠的部分。CIOU将目标与框框anchor之间的距离,重叠率、尺度以及惩罚项都考虑进去,使得目标框的回归变得更加稳定,避免出现训练过程中损失函数发散等问题。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程或/方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
综上所述,本发明提出的轻量化重平衡深度检测网络可同时自动完成对下颌第三磨牙牙根外吸收病灶位置的定位和分类任务,提高检测效率的同时可排除主观因素对检测精度的影响。在训练过程中以对应三维锥形束CT图像中获得的类别标注作为分类金标准可提高检测精度,并在损失函数中加入类别重平衡机制,可减少样本类别不均衡对分类预测精度的影响。
以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的精神和范围。

Claims (6)

1.一种牙根外吸收自动检测方法,其特征在于,主要包括以下步骤:
步骤1:构建轻量化重平衡深度检测网络,所述轻量化重平衡深度检测网络包括特征提取子网络、特征融合子网络和预测子网络,所述特征提取子网络用于从曲面体层图像中提取多尺度图像特征,所述特征融合子网络用于对提取出的牙根外吸收语义特征和位置特征进行融合及传输,所述预测子网络用于输出发生牙根外吸收情况的置信度和病灶区位置;
步骤2:利用从曲面体层图像和对应三维锥形束CT图像中获得的下颌第三磨牙牙根外吸收病灶区的位置标注和类别标注,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练;其中,位置标注和类别标注获得方法分别为:
位置标注方法:将曲面体层图像下颌第三磨牙牙根部分作为感兴趣区域ROI,使用矩形框来标记;记R i 为曲面体层图像第i个ROI,提取曲面体层图像中所有R i 的中心点坐标(x i ,y i )以及相应的宽、高(w i , h i )作为训练时所需的下颌第三磨牙牙根位置标注信息;
类别标注方法:利用对应的三维锥形束CT图像,从颊舌向、近远中向和牙齿咬合方向对下颌第三磨牙牙根空间形态进行分析,将得出的下颌第三磨牙牙根是否存在外吸收情况作为训练时所需的分类标注信息,若选定感兴趣区域中发生牙根外吸收现象,则标注为1,否则标注为0;
步骤3:在检测阶段,以新采集的曲面体层图像作为已训练轻量化重平衡深度检测网络的输入,该轻量化重平衡深度检测网络即可输出新曲面体层图像中下颌第三磨牙发生牙根外吸收的置信度和病灶区位置。
2.根据权利要求1所述的牙根外吸收自动检测方法,其特征在于:步骤1中的特征提取子网络用于从曲面体层图像中获取牙根外吸收语义特征和对应的位置特征。
3.根据权利要求1所述的牙根外吸收自动检测方法,其特征在于:步骤1中的特征融合子网络用于实现多尺度、多层次牙根外吸收语义特征和位置特征的有效融合及传输,所述特征融合子网络的结构由自上而下的特征金字塔网络和自下而上的路径聚合网络依次连接构成。
4.根据权利要求1所述的牙根外吸收自动检测方法,其特征在于:步骤1中的预测子网络还用于将从特征融合子网络输出的三个不同维度、尺度下的通道特征图分别经过三次独立的卷积操作后,估计出候选边界框的位置信息和类别置信度,以及所属网格的类别置信度。
5.根据权利要求1所述的牙根外吸收自动检测方法,其特征在于,步骤2中,在损失函数中嵌入类别重平衡机制对轻量化重平衡深度检测网络进行训练的步骤包括:
针对数据集样本类别失衡的情况,训练模型时在损失函数中加入重平衡模块,通过调节类别失衡样本对整个损失函数的贡献权重,使得网络模型在训练过程中更加侧重于对类别失衡样本和困难样本的特征学习,以降低样本数量类别不平衡对网络模型训练的影响;
总损失函数L total 的表达式为:
式中,L box 为对含有可能发生牙根外吸收情况的边界框位置回归预测损失,L obj 为预测牙根外吸收目标损失,L cls_BL 为嵌入类别重平衡机制的预测牙根外吸收类别损失;
L cls_BL 可用如下公式表示:
其中,L cls 为二元交叉熵损失,定义如下:
式中,i∈[1,N],N表示曲面体层图像中待检测牙根外吸收病例样本数;∈[0,1]表示某样本i的类别标注信息;/>∈[0,1]表示轻量化重平衡深度检测网络预测出的样本i中存在下颌第三磨牙牙根外吸收的概率值;
为在损失函数中嵌入的类别重平衡机制,其定义如下:
其中,表示外吸收阳性与外吸收阴性的样本比例,/>,/>是调节牙根外吸收简单、困难样本权重的调制因子,γ是聚焦参数,其值越大,对简单样本的损失抑制就越强;
其中,=1表示样本i的标注为阳性,α,0<α<1是类别权重超参数,默认值为0.25,在二分类场景下,能够看作对阳性样本之外的阴性样本,以及图像背景干扰信息进行抑制;
类别重平衡机制是动态缩放的交叉熵损失,加权因子表示数据集中外吸收阳性与外吸收阴性的样本比例,调节加权因子/>能够缓解样本数据不平衡对损失函数的影响;
当样本i的类别标注为1,则为阳性,在训练阶段中,p为当前训练未完成的模型对样本i的类别判断为阳性的实际概率值。
6.根据权利要求5所述的牙根外吸收自动检测方法,其特征在于:在网络模型不断地训练、迭代的过程中,通过反向传播的参数反馈机制,不断校正网络的权重系数,使得损失函数趋于收敛,则训练流程结束。
CN202310745960.XA 2023-06-25 2023-06-25 牙根外吸收自动检测方法 Active CN116503389B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310745960.XA CN116503389B (zh) 2023-06-25 2023-06-25 牙根外吸收自动检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310745960.XA CN116503389B (zh) 2023-06-25 2023-06-25 牙根外吸收自动检测方法

Publications (2)

Publication Number Publication Date
CN116503389A CN116503389A (zh) 2023-07-28
CN116503389B true CN116503389B (zh) 2023-10-20

Family

ID=87320490

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310745960.XA Active CN116503389B (zh) 2023-06-25 2023-06-25 牙根外吸收自动检测方法

Country Status (1)

Country Link
CN (1) CN116503389B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117132596B (zh) * 2023-10-26 2024-01-12 天津医科大学口腔医院 基于深度学习的下颌第三磨牙阻生类型识别方法及系统

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995008962A1 (en) * 1993-09-30 1995-04-06 Cedars-Sinai Medical Center Fiber-optic endodontic apparatus and method
WO2012135952A1 (en) * 2011-04-05 2012-10-11 The Governing Council Of The University Of Toronto Systems and methods for thermophotonic dynamic imaging
CN105411700A (zh) * 2015-12-30 2016-03-23 首都医科大学附属北京口腔医院 纯钛牙的制作方法及借助纯钛牙进行自体牙移植的方法
CN110633758A (zh) * 2019-09-20 2019-12-31 四川长虹电器股份有限公司 针对小样本或样本不平衡的癌症区域检测定位的方法
AU2021100684A4 (en) * 2021-02-03 2021-04-22 Ajay Sharma, Ajay Sharma DR DEPCADDX - A MATLAB App for Caries Detection and Diagnosis from Dental X-rays
CN113205103A (zh) * 2021-04-19 2021-08-03 金科智融科技(珠海)有限公司 一种轻量级的文身检测方法
CN113313722A (zh) * 2021-06-10 2021-08-27 浙江传媒学院 一种牙根图像交互标注方法
WO2022050199A1 (ja) * 2020-09-07 2022-03-10 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法および情報処理プログラム
WO2022191571A1 (ko) * 2021-03-09 2022-09-15 연세대학교 산학협력단 치근외흡수와 관련된 단일염기다형성 및 그의 용도
CN115527082A (zh) * 2022-09-19 2022-12-27 东南大学 一种基于图像多重预处理的深度学习小目标检测方法
CN115869067A (zh) * 2023-03-08 2023-03-31 北京大学口腔医学院 用于牙科手术的引导装置、组件及制备方法
CN116309225A (zh) * 2023-03-10 2023-06-23 深圳供电局有限公司 一种基于卷积神经网络的轻量化多光谱图像融合模型构建方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4247293A1 (en) * 2020-11-23 2023-09-27 Align Technology, Inc. Automatic segmentation of dental cbct scans

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1995008962A1 (en) * 1993-09-30 1995-04-06 Cedars-Sinai Medical Center Fiber-optic endodontic apparatus and method
WO2012135952A1 (en) * 2011-04-05 2012-10-11 The Governing Council Of The University Of Toronto Systems and methods for thermophotonic dynamic imaging
CN105411700A (zh) * 2015-12-30 2016-03-23 首都医科大学附属北京口腔医院 纯钛牙的制作方法及借助纯钛牙进行自体牙移植的方法
CN110633758A (zh) * 2019-09-20 2019-12-31 四川长虹电器股份有限公司 针对小样本或样本不平衡的癌症区域检测定位的方法
WO2022050199A1 (ja) * 2020-09-07 2022-03-10 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法および情報処理プログラム
AU2021100684A4 (en) * 2021-02-03 2021-04-22 Ajay Sharma, Ajay Sharma DR DEPCADDX - A MATLAB App for Caries Detection and Diagnosis from Dental X-rays
WO2022191571A1 (ko) * 2021-03-09 2022-09-15 연세대학교 산학협력단 치근외흡수와 관련된 단일염기다형성 및 그의 용도
CN113205103A (zh) * 2021-04-19 2021-08-03 金科智融科技(珠海)有限公司 一种轻量级的文身检测方法
CN113313722A (zh) * 2021-06-10 2021-08-27 浙江传媒学院 一种牙根图像交互标注方法
CN115527082A (zh) * 2022-09-19 2022-12-27 东南大学 一种基于图像多重预处理的深度学习小目标检测方法
CN115869067A (zh) * 2023-03-08 2023-03-31 北京大学口腔医学院 用于牙科手术的引导装置、组件及制备方法
CN116309225A (zh) * 2023-03-10 2023-06-23 深圳供电局有限公司 一种基于卷积神经网络的轻量化多光谱图像融合模型构建方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
"基于双边采样对比增强的不平衡图像分类研究";彭祎祺等;《计算机应用与软件》;第40卷(第6期);第205-210页 *
"轻量型单步深度学习网络自动识别下颌智齿牙根与下颌管位置关系的研究";王芷凡等;《口腔医学》;第43卷(第6期);第534-539页 *

Also Published As

Publication number Publication date
CN116503389A (zh) 2023-07-28

Similar Documents

Publication Publication Date Title
CN111259930B (zh) 自适应注意力指导机制的一般性目标检测方法
CN111126472A (zh) 一种基于ssd改进的目标检测方法
CN111461319B (zh) 可适应用户要求的基于cnn的对象检测方法及装置
CN108805070A (zh) 一种基于嵌入式终端的深度学习行人检测方法
CN114897779B (zh) 基于融合注意力的宫颈细胞学图像异常区域定位方法及装置
CN110765865B (zh) 基于改进的yolo算法的水下目标检测方法
CN116503389B (zh) 牙根外吸收自动检测方法
CN113160062B (zh) 一种红外图像目标检测方法、装置、设备及存储介质
CN114187491A (zh) 一种遮挡物体检测方法和装置
CN113408423A (zh) 适用于tx2嵌入式平台的水产品目标实时检测方法
CN113052834B (zh) 一种基于卷积神经网络多尺度特征的管道缺陷检测方法
CN115222946B (zh) 一种单阶段实例图像分割方法、装置以及计算机设备
CN111652864A (zh) 一种基于条件式生成对抗网络的铸件缺陷图像生成方法
CN114092487A (zh) 目标果实实例分割方法及系统
CN114565842A (zh) 基于Nvidia Jetson嵌入式硬件的无人机实时目标检测方法及系统
Fan et al. A novel sonar target detection and classification algorithm
CN112232411A (zh) HarDNet-Lite在嵌入式平台的优化方法
CN115861229A (zh) 一种基于YOLOv5s元器件封装缺陷X射线检测方法
Kwak et al. Semi-supervised land cover classification of remote sensing imagery using CycleGAN and EfficientNet
CN114092463A (zh) 数字乳腺断层影像病灶定位装置
CN113902966A (zh) 一种针对电子元器件的无锚框目标检测网络及应用该网络的检测方法
CN117253188A (zh) 基于改进的YOLOv5的变电站接地线状态目标检测方法
CN115830302B (zh) 一种多尺度特征提取融合配电网设备定位识别方法
CN117152601A (zh) 一种基于动态感知区域路由的水下目标检测方法及系统
CN117173120A (zh) 一种芯片焊缝空洞缺陷检测方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant