CN115880281B - 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法 - Google Patents

一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法 Download PDF

Info

Publication number
CN115880281B
CN115880281B CN202310056778.3A CN202310056778A CN115880281B CN 115880281 B CN115880281 B CN 115880281B CN 202310056778 A CN202310056778 A CN 202310056778A CN 115880281 B CN115880281 B CN 115880281B
Authority
CN
China
Prior art keywords
spine
scoliosis
target
angles
name information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310056778.3A
Other languages
English (en)
Other versions
CN115880281A (zh
Inventor
高燕飞
孔德瑾
朱壮华
张贵军
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanxi Finance & Taxation College
Original Assignee
Shanxi Finance & Taxation College
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanxi Finance & Taxation College filed Critical Shanxi Finance & Taxation College
Priority to CN202310056778.3A priority Critical patent/CN115880281B/zh
Publication of CN115880281A publication Critical patent/CN115880281A/zh
Application granted granted Critical
Publication of CN115880281B publication Critical patent/CN115880281B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本发明提供了一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法,属于医学X光图像处理技术领域;解决了现有脊柱侧弯角度检测方法和脊柱侧弯类型检测方法需要人工操作导致误差较大的问题;将待测脊柱全长X光图像经过改进的Mask R‑CNN网络提取目标脊柱椎体的关键点信息;根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线;根据各目标脊柱椎体的关键点信息和中心点,结合目标脊柱椎体的名称信息生成上垂线夹角序列和下垂线夹角序列;根据夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型;本发明应用于脊柱侧弯识别。

Description

一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法
技术领域
本发明提供了一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法,属于医学X光图像处理技术领域。
背景技术
脊柱侧弯是一种脊柱的三维畸形,包括冠状位、矢状位和轴状位上的序列异常,通常发生于颈椎、胸椎或者胸部与腰部之间的脊椎,若侧弯出现在脊柱的一侧,呈现“C”型,若侧弯出现在脊柱的双侧,呈现“S”型。脊柱侧弯多发生于青春期,随着年龄的增加症状逐渐加剧,严重者将影响呼吸、心脏功能,甚至出现脊髓压迫以及瘫痪现象。而且由于早期脊柱侧弯对身体的机能影响不明显,因此不易察觉,若未能及时进行有效干预,后期将对人体器官机能和形态造成极大影响。近年来,已发现很多疾病与脊柱侧弯有关,并且脊柱侧弯的发病率逐年上升,已然成为危害青少年和儿童身心健康的疾病。
脊柱侧弯的严重程度大多通过对侧弯角度的测量确定,而角度的测量常采用Cobb角测量方法,Cobb角是衡量脊柱侧弯的一个标准。传统的Cobb角测量方法需要医生利用马克笔和量角器在脊柱X光图像上手工找到脊柱侧弯的上端椎和下端椎进行测量,测量结果误差大并且需要花费大量时间,检测效率低。并且脊柱侧弯的类型需要人工确定,这就需要检测者具有较高的专业知识水平,但是不同等级的检测人员由于经验不同,脊柱侧弯检测的结果也将存在一定的偏差,因此传统的Cobb角测量方法和脊柱侧弯类型人工判断无法满足人们的医疗需求。脊柱侧弯的类型根据脊柱侧弯顶锥所在脊柱中的位置确定,对医生来说,确定脊柱侧弯类型需要人工确定顶锥的位置,判断速度较慢。
随着人工智能AI技术的发展,基于AI辅助检测脊柱侧弯展现了巨大的优势。因此本发明通过改进Mask R-CNN网络快速准确地检测出目标脊柱椎体的关键点信息,并利用骶骨中垂线进行数学计算实现了批量自动测量脊柱侧弯角度,并能快速准确地确定脊柱侧弯类型,避免了传统手工检测对脊柱侧弯角度和类型判断结果的影响,有效提升了脊柱侧弯检测的效率和准确度。
发明内容
本发明针对现有脊柱侧弯角度检测方法和脊柱侧弯类型检测方法需要人工操作导致误差较大的问题,提出了一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法,能够辅助医生准确快速地检测出脊柱侧弯角度Cobb角和脊柱侧弯类型。
为了解决上述技术问题,本发明采用的技术方案为:一种脊柱椎体关键点检测及脊柱侧弯识别装置,所述装置包括:
脊柱检查X线仪器,用于获取目标脊柱全长X光图像;
处理器,所述处理器通过导线与脊柱检查X线仪器相连,所述处理器包括信息确定模块和计算分析模块,所述信息确定模块通过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息,并确定脊柱椎体中心点和骶骨中垂线;
所述计算分析模块用于对脊柱侧弯进行识别,根据各目标脊柱椎体的关键点信息和中心点,从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合目标脊柱椎体的名称信息生成上垂线夹角序列和下垂线夹角序列;根据上垂线夹角序列和下垂线夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型。
一种脊柱椎体关键点检测及脊柱侧弯识别方法,所述方法包括信息确定阶段和脊柱侧弯识别阶段,具体包括:
信息确定阶段:
S1:将待测脊柱全长X光图像经过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息;
S2:根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线;
脊柱侧弯识别阶段:
S3:根据各目标脊柱椎体的关键点信息和中心点,从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合目标脊柱椎体的名称信息生成上垂线夹角序列和下垂线夹角序列;
S4:根据上垂线夹角序列和下垂线夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;
S5:基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型。
所述S1中将待测脊柱全长X光图像经过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息的具体步骤如下:
S1.1:获取待测脊柱全长X光图像;
S1.2:利用带有标注的脊柱全长X光图像数据训练生成的改进后的Mask R-CNN网络提取目标脊柱椎体的关键点信息;
所述改进后的Mask R-CNN网络结构为:
将原始Mask R-CNN网络中的主干特征提取网络用RepVGG网络和FPN网络耦合的网络替换,RepVGG网络包含两种残差分支;FPN网络融合RepVGG网络提取出的不同分辨率的特征图;
(2)将原始Mask R-CNN网络中的Mask分支进行改进,原始Mask分支输出实例的掩膜图,用于不同实例的分割,将Mask分支的训练目标变为单像素关键点,即将脊柱椎体关键点的位置信息建模为One-HotMask,并预测出98个Mask,对应98个目标脊柱椎体的关键点;
(3)将原始Mask R-CNN网络的损失函数进行改进,将Mask分支的损失变为目标脊柱椎体关键点检测的均方误差损失,则修改后的网络损失函数为L=Lcls+Lbox+Lkey,其中Lcls为目标分类分支损失,Lbox为边框回归分支损失,Lkey为关键点检测分支损失,基于损失函数训练生成适用于目标脊柱椎体关键点的检测器。
所述脊柱全长X光图像和目标脊柱椎体的关键点信息为:
所述脊柱全长X光图像是患者冠状位脊柱全长X光片,包含患者头部和整个背部,用于评估脊柱冠状面的侧弯严重程度,拍摄时患者处于自然站立姿势,不搀扶外物,双上肢在身体两侧自然下垂;
所述目标脊柱椎体的关键点信息为颈椎椎体、胸椎椎体和腰椎椎体的各四个顶点以及骶椎两个上关节突共98个关键点数据和对应的目标脊柱椎体的名称信息。
所述S2中根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线的具体步骤如下:
S2.1:根据目标脊柱椎体的四个顶点,首先确定相邻顶点的中点,然后做非相邻两中点的连线,交点即为目标脊柱椎体的中心点;
S2.2:根据所骶椎两个上关节突确定中点,并经过中点得到垂直于水平方向的垂线,所述垂线即为骶骨中垂线。
所述S3中根据各目标脊柱椎体的关键点信息和中心点从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合名称信息生成上垂线夹角序列和下垂线夹角序列包括:
根据所确定的目标脊柱椎体的顶点与中心点利用几何计算分别得到目标脊柱椎体的上垂线与下垂线,进一步得到与骶骨中垂线之间的夹角,从上至下依次收集上垂线夹角和下垂线夹角,并与目标脊柱椎体的名称信息一一对应,生成上垂线夹角序列和下垂线夹角序列。
所述S4中根据夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和的步骤包括:
S4.1:在上垂线夹角序列中选择一个上垂线夹角,包括夹角数值与对应的名称信息;
S4.2:在下垂线夹角序列中,选择所述名称信息之后的夹角值作为新的下垂线夹角序列;
S4.3:依次计算所选上垂线夹角与新的下垂线夹角序列之和;
S4.4:循环重复步骤S4.1~S4.3直至所有上垂线夹角都被选择,生成一系列夹角和序列,所述夹角和序列包括夹角和数值,以及对应的两个脊柱椎体名称信息。
所述S5中基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型的步骤包括:
S5.1:由于人体脊柱存在正常的生理弯曲,因此设定角度阈值,夹角和序列中大于角度阈值的即为脊柱侧弯角度Cobb角,并得脊柱侧弯角度Cobb角到对应的两个脊柱椎体名称信息;
S5.2:根据Cobb角和脊柱名称信息确定脊柱侧弯顶椎的名称信息;
S5.3:根据确定的脊柱侧弯顶锥名称信息快速确定脊柱侧弯类型。
所述根据确定的脊柱侧弯顶锥名称信息快速确定脊柱侧弯类型的步骤如下:
若所述脊柱侧弯顶锥名称信息为C1~C6之一,则脊柱侧弯类型为颈弯;
若所述脊柱侧弯顶锥名称信息为C7~T1之一,则脊柱侧弯类型为颈胸弯;
若所述脊柱侧弯顶锥名称信息为T2~T11之一,则脊柱侧弯类型为胸弯;
若所述脊柱侧弯顶锥名称信息为T12~L1之一,则脊柱侧弯类型为胸腰弯;
若所述脊柱侧弯顶锥名称信息为L2~L4之一,则脊柱侧弯类型为腰弯。
所述利用带有标注的脊柱全长X光图像训练生成的改进后的Mask R-CNN网络的训练步骤包括:
S1.2.1:采集脊柱全长X光图像,并人工标注目标脊柱椎体的关键点数据;
S1.2.2:对网络输入的带标注数据的脊柱全长X光图像进行预处理,调整图像的尺寸为固定大小,并利用非线性灰度增强改进的CLAHE算法增强图像对比度来抑制噪声;
S1.2.3:将预处理后的图像输入到RepVGG+FPN主干特征提取网络中进行特征提取生成特征图;
S1.2.4:特征图输入进RPN网络,并根据特征图的语义信息确立ROI区域,输出锚点候选窗口,利用滑窗操作在真实值上根据重叠度和非极大值抑制保留得分最高的候选框;
然后经过ROI Align通过双线性插值操作依次将原图和特征、特征图和固定特征进行像素值的一一对应,并保留小数位的像素值计算结果;
S1.2.5:依次经过两个全连接层分别进行目标分类和边框回归计算,并行经过全卷积网络进行脊柱椎体关键点检测,并计算损失函数和更新学习率,通过反向传播调整各层的权重参数;
S1.2.6:重复训练S1.2.2~S1.2.5,直至训练结束,输出权重文件。
本发明相对于现有技术具备的有益效果为:
(1)使用RepVGG网络改进原始Mask R-CNN的主干特征提取网络,在提高特征提取准确率的前提下提升了推理效率,实现了精度和效率兼得;改变Mask分支,将其训练目标变为单像素关键点,使Mask R-CNN网络适用于目标脊柱椎体的关键点信息的提取,并且关键点信息包括顶点和名称信息;
(2)通过数学计算能准确确定脊柱侧弯角度Cobb角,进一步确定脊柱侧弯区域和顶锥,并通过脊柱侧弯顶锥名称信息快速确定脊柱侧弯的类型,整个过程不再需要医生人工操作,实现了自动准确快速地脊柱侧弯检测,避免了人工测量脊柱侧弯角度Cobb角产生误差和人工确定脊柱侧弯类型对知识储备的要求,有效提升的脊柱侧弯检测的效率和精确度。
附图说明
下面结合附图对本发明做进一步说明:
图1为本发明的方法流程图;
图2为本发明改进的Mask R-CNN网络结构。
具体实施方式
如图1至图2所示,本发明为了解决传统的脊柱侧弯检测方法需要人工手动测量,受医生的主观经验影响较大的问题,提出了一种基于改进的Mask R-CNN网络实现了目标脊柱椎体的关键点信息提取,通过几何计算快速准确地确定脊柱侧弯角度Cobb角,并通过脊柱侧弯顶锥名称信息快速确定脊柱侧弯的类型。
如图1为本发明基于改进的Mask R-CNN实现脊柱椎体关键点检测及脊柱侧弯识别的流程图,本发明的技术方案包括信息确定阶段(S1~S2)和脊柱侧弯识别阶段(S3~S5),实施例的具体步骤如下:
S1、将待测脊柱全长X光图像经过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息;
S2、根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线;
S3、根据各目标脊柱椎体的关键点信息和中心点从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合名称信息生成上垂线夹角序列和下垂线夹角序列;
S4、根据所述夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;
S5、基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型。
具体地,步骤S1首先获取待测脊柱全长X光图像,然后输入利用带有标注的脊柱全长X光图像训练生成的改进后的Mask R-CNN网络中提取得到目标脊柱椎体的关键点信息。
在本实施例中,所述待测脊柱全长X光图像是患者冠状位脊柱全长X光片,用于评估脊柱冠状面的侧弯严重程度,拍摄时患者处于自然站立姿势,不搀扶外物,双上肢在身体两侧自然下垂,包括患者的头部和整个背部。
在本实施例中,所述目标脊柱椎体的关键点信息为脊柱椎体顶点和脊柱椎体名称信息,所述脊柱椎体顶点包括C1~C7,T1~T12,L1~L5这24个目标脊柱椎体的四个顶点、骶骨两个上关节突,共98个关键点;所述脊柱椎体名称信息从上至下依次为C1、C2、C3、C4、C5、C6、C7、T1、T2、T3、T4、T5、T6、T7、T8、T9、T10、T11、T12、L1、L2、L3、L4、L5。
更具体地,所述改进的Mask R-CNN网络结构如图2所示,改进具体内容如下:
(1)图像预处理:改进的Mask R-CNN网络中,图像预处理部分首先对输入图像进行尺寸调整,固定图像大小;然后利用非线性灰度增强改进的CLAHE算法增强图像对比度,更好的强调图像的暗区域或亮区域,进而抑制图像噪声。
(2)主干特征提取网络:改进的Mask R-CNN网络中的主干特征提取网络采用RepVGG网络和FPN网络的耦合网络。RepVGG网络主要依赖3×3卷积,使用步长为2的3×3卷积替换最大池化,网络共包含5个阶段,每个阶段的首个卷积的步长为2,RepVGG网络包含两种残差分支,在训练时用多分支结构提升网络性能,推理时采用结构重参数思想变为单路结构,提高推理效率;FPN网络融合RepVGG网络不同阶段提取出的不同分辨率的特征图,FPN结构利用不同大小目标分辨率不同的特征在不同尺度下生成合适的特征表示,听过融合多尺度信息,输出多尺度的特征图,实现精度和效率的兼得。
(3)Mask分支结构:改进的Mask R-CNN网络中的Mask分支采用单像素关键点为训练目标,原始Mask R-CNN网络在RoI区域应用小的全卷积神经网络以pixel-to-pixel的方式预测分割Mask,实现实例分割,本发明任务是在脊柱实例上检测关键点位置,因此,对于目标脊柱椎体的98个关键点,将脊柱椎体关键点的位置信息建模为One-Hot Mask,并预测出98个Mask,将Mask中关键点位置设置为1,其他设置为0,生成目标脊柱椎体的关键点。
(4)损失函数:改进的Mask R-CNN网络中的损失函数根据修改后的Mask分支确定。在训练期间,对于一个关键点经过softmax输出,采用均方误差损失,因此网络的整体损失变为L=Lcls+Lbox+Lkey,其中Lcls为目标分类分支损失,Lbox为边框回归分支损失,Lkey为关键点检测分支损失。
更具体地,所述利用带有标注的脊柱全长X光图像训练生成的改进后的Mask R-CNN网络的训练过程如图2所示,训练具体步骤包括:
(1)采集脊柱全长X光图像,并人工标注目标脊柱椎体的关键点数据;
(2)对网络输入的带标注数据的脊柱全长X光图像预处理,调整图像的尺寸为固定大小,并利用非线性灰度增强改进的CLAHE算法增强图像对比度来抑制噪声;
(3)将得到预处理图像输入到RepVGG+FPN主干特征提取网络中进行特征提取生成特征图;
(4)输入进RPN网络根据特征图的语义信息确立ROI区域,输出锚点候选窗口,利用滑窗操作在真实值上根据重叠度和非极大值抑制保留得分最高的候选框;然后经过ROIAlign通过双线性插值操作依次将原图和特征、特征图和固定特征进行像素值的一一对应,并保留小数位的像素值计算结果,避免特征图与原始图像不对齐;
(5)依次经过两个全连接层分别进行目标分类和边框回归计算,并行经过全卷积网络进行脊柱椎体关键点检测,并计算损失函数和更新学习率,通过反向传播调整各层的权重参数;
(6)重复训练(2)~(5),直至训练结束,输出权重文件。
具体地,步骤S2首先根据所述目标脊柱椎体的四个顶点,确定相邻顶点的中点,并作非相邻两中点的连线,交点即为目标脊柱椎体的中心点;然后根据所述骶椎两个上关节突确定中点,经过中点得到垂直于水平方向的垂线,所述垂线即为骶骨中垂线。
在本实施例中,所述骶骨中垂线垂直向上,描绘了脊柱在冠状面上相对于骨盆的位置。
具体地,步骤S3根据所确定的目标脊柱椎体的顶点与中心点利用几何计算分别得到目标脊柱椎体的上垂线与下垂线与骶骨中垂线之间的夹角,从上至下依次收集上垂线夹角和下垂线夹角,并与目标脊柱椎体的名称信息一一对应,生成上垂线夹角序列和下垂线夹角序列。
具体的,步骤S4中循环计算的具体步骤如下:
(1)选择一个上垂线夹角,包括夹角数值与对应的名称信息;
(2)在下垂线夹角序列中,选择所述名称信息之后的夹角值作为新的下垂线夹角序列;
(3)依次计算所选上垂线夹角与新的下垂线夹角序列之和;
(4)循环重复步骤(1)~(2)直至所有上垂线夹角都被选择,生成一系列夹角和序列,所述夹角和序列包括夹角和数值,以及对应的两个脊柱椎体名称信息。
具体的,步骤S5中由于人体脊柱存在正常的生理弯曲,因此设定角度阈值,夹角和序列中大于角度阈值的即为脊柱侧弯角度Cobb角,并根据对应的名称信息确定脊柱侧弯的顶锥,进而确定脊柱侧弯类型。
在本实施例中,顶锥的确定方法为根据脊柱侧弯角度Cobb角对应的两个脊柱椎体名称信息在上垂线序列中选择一个子序列,在所述子序列中最小夹角值对应的脊柱椎体名称信息即为顶锥名称信息。
在本实施例中,脊柱侧弯的类型的确定方法为若所述脊柱侧弯顶锥名称信息为C1~C6之一,则脊柱侧弯类型为颈弯;若所述脊柱侧弯顶锥名称信息为C7~T1之一,则脊柱侧弯类型为颈胸弯;若所述脊柱侧弯顶锥名称信息为T2~T11之一,则脊柱侧弯类型为胸弯;若所述脊柱侧弯顶锥名称信息为T12~L1之一,则脊柱侧弯类型为胸腰弯;若所述脊柱侧弯顶锥名称信息为L2~L4之一,则脊柱侧弯类型为腰弯。
关于本发明具体结构需要说明的是,本发明采用的各部件模块相互之间的连接关系是确定的、可实现的,除实施例中特殊说明的以外,其特定的连接关系可以带来相应的技术效果,并基于不依赖相应软件程序执行的前提下,解决本发明提出的技术问题,本发明中出现的部件、模块、具体元器件的型号、相互间连接方式以及,由上述技术特征带来的常规使用方法、可预期技术效果,除具体说明的以外,均属于本领域技术人员在申请日前可以获取到的专利、期刊论文、技术手册、技术词典、教科书中已公开内容,或属于本领域常规技术、公知常识等现有技术,无需赘述,使得本案提供的技术方案是清楚、完整、可实现的,并能根据该技术手段重现或获得相应的实体产品。
最后应说明的是:以上各实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述各实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (8)

1.一种脊柱椎体关键点检测及脊柱侧弯识别装置,其特征在于:所述装置包括:
脊柱检查X线仪器,用于获取目标脊柱全长X光图像;
处理器,所述处理器通过导线与脊柱检查X线仪器相连,所述处理器包括信息确定模块和计算分析模块,所述信息确定模块通过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息,并确定脊柱椎体中心点和骶骨中垂线;
所述计算分析模块用于对脊柱侧弯进行识别,根据各目标脊柱椎体的关键点信息和中心点,从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合目标脊柱椎体的名称信息生成上垂线夹角序列和下垂线夹角序列;根据上垂线夹角序列和下垂线夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型;
所述改进的Mask R-CNN网络结构为:
将原始Mask R-CNN网络中的主干特征提取网络用RepVGG网络和FPN网络耦合的网络替换,RepVGG网络包含两种残差分支;FPN网络融合RepVGG网络提取出的不同分辨率的特征图;
将原始Mask R-CNN网络中的Mask分支进行改进,原始Mask分支输出实例的掩膜图,用于不同实例的分割,将Mask分支的训练目标变为单像素关键点,即将脊柱椎体关键点的位置信息建模为One-Hot Mask,并预测出98个Mask,对应98个目标脊柱椎体的关键点;
将原始Mask R-CNN网络的损失函数进行改进,将Mask分支的损失变为目标脊柱椎体关键点检测的均方误差损失,则修改后的网络损失函数为L=Lcls+Lbox+Lkey,其中Lcls为目标分类分支损失,Lbox为边框回归分支损失,Lkey为关键点检测分支损失,基于损失函数训练生成适用于目标脊柱椎体关键点的检测器;
其中根据夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和的步骤包括:
S4.1:在上垂线夹角序列中选择一个上垂线夹角,包括夹角数值与对应的名称信息;
S4.2:在下垂线夹角序列中,选择所述名称信息之后的夹角值作为新的下垂线夹角序列;
S4.3:依次计算所选上垂线夹角与新的下垂线夹角序列之和;
S4.4:循环重复步骤S4.1~S4.3直至所有上垂线夹角都被选择,生成一系列夹角和序列,所述夹角和序列包括夹角和数值,以及对应的两个脊柱椎体名称信息;
其中基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型的步骤包括:
S5.1:由于人体脊柱存在正常的生理弯曲,因此设定角度阈值,夹角和序列中大于角度阈值的即为脊柱侧弯角度Cobb角,并得脊柱侧弯角度Cobb角到对应的两个脊柱椎体名称信息;
S5.2:根据Cobb角和脊柱名称信息确定脊柱侧弯顶椎的名称信息;
S5.3:根据确定的脊柱侧弯顶锥名称信息快速确定脊柱侧弯类型。
2.一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述方法包括信息确定阶段和脊柱侧弯识别阶段,具体包括:
信息确定阶段:
S1:将待测脊柱全长X光图像经过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息;所述改进的Mask R-CNN网络结构为:
将原始Mask R-CNN网络中的主干特征提取网络用RepVGG网络和FPN网络耦合的网络替换,RepVGG网络包含两种残差分支;FPN网络融合RepVGG网络提取出的不同分辨率的特征图;
将原始Mask R-CNN网络中的Mask分支进行改进,原始Mask分支输出实例的掩膜图,用于不同实例的分割,将Mask分支的训练目标变为单像素关键点,即将脊柱椎体关键点的位置信息建模为One-Hot Mask,并预测出98个Mask,对应98个目标脊柱椎体的关键点;
将原始Mask R-CNN网络的损失函数进行改进,将Mask分支的损失变为目标脊柱椎体关键点检测的均方误差损失,则修改后的网络损失函数为L=Lcls+Lbox+Lkey,其中Lcls为目标分类分支损失,Lbox为边框回归分支损失,Lkey为关键点检测分支损失,基于损失函数训练生成适用于目标脊柱椎体关键点的检测器;
S2:根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线;
脊柱侧弯识别阶段:
S3:根据各目标脊柱椎体的关键点信息和中心点,从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合目标脊柱椎体的名称信息生成上垂线夹角序列和下垂线夹角序列;
S4:根据上垂线夹角序列和下垂线夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和;
所述S4中根据夹角序列循环计算不同脊柱椎体的上垂线夹角与下垂线夹角之和的步骤包括:
S4.1:在上垂线夹角序列中选择一个上垂线夹角,包括夹角数值与对应的名称信息;
S4.2:在下垂线夹角序列中,选择所述名称信息之后的夹角值作为新的下垂线夹角序列;
S4.3:依次计算所选上垂线夹角与新的下垂线夹角序列之和;
S4.4:循环重复步骤S4.1~S4.3直至所有上垂线夹角都被选择,生成一系列夹角和序列,所述夹角和序列包括夹角和数值,以及对应的两个脊柱椎体名称信息;
S5:基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型;
所述S5中基于阈值确定脊柱侧弯Cobb角和顶锥,并基于顶锥的名称信息快速得到脊柱侧弯类型的步骤包括:
S5.1:由于人体脊柱存在正常的生理弯曲,因此设定角度阈值,夹角和序列中大于角度阈值的即为脊柱侧弯角度Cobb角,并得脊柱侧弯角度Cobb角到对应的两个脊柱椎体名称信息;
S5.2:根据Cobb角和脊柱名称信息确定脊柱侧弯顶椎的名称信息;
S5.3:根据确定的脊柱侧弯顶锥名称信息快速确定脊柱侧弯类型。
3.根据权利要求2所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述S1中将待测脊柱全长X光图像经过改进的Mask R-CNN网络提取目标脊柱椎体的关键点信息的具体步骤如下:
S1.1:获取待测脊柱全长X光图像;
S1.2:利用带有标注的脊柱全长X光图像数据训练生成的改进后的Mask R-CNN网络提取目标脊柱椎体的关键点信息。
4.根据权利要求3所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述脊柱全长X光图像和目标脊柱椎体的关键点信息为:
所述脊柱全长X光图像是患者冠状位脊柱全长X光片,包含患者头部和整个背部,用于评估脊柱冠状面的侧弯严重程度,拍摄时患者处于自然站立姿势,不搀扶外物,双上肢在身体两侧自然下垂;
所述目标脊柱椎体的关键点信息为颈椎椎体、胸椎椎体和腰椎椎体的各四个顶点以及骶椎两个上关节突共98个关键点数据和对应的目标脊柱椎体的名称信息。
5.根据权利要求4所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述S2中根据目标脊柱椎体的关键点信息确定脊柱椎体中心点和骶骨中垂线的具体步骤如下:
S2.1:根据目标脊柱椎体的四个顶点,首先确定相邻顶点的中点,然后做非相邻两中点的连线,交点即为目标脊柱椎体的中心点;
S2.2:根据所述骶椎两个上关节突确定中点,并经过中点得到垂直于水平方向的垂线,所述垂线即为骶骨中垂线。
6.根据权利要求5所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述S3中根据各目标脊柱椎体的关键点信息和中心点从上至下依次计算经过脊柱椎体中心点的脊柱椎体上垂线和下垂线分别与骶骨中垂线的夹角,结合名称信息生成上垂线夹角序列和下垂线夹角序列包括:
根据所确定的目标脊柱椎体的顶点与中心点利用几何计算分别得到目标脊柱椎体的上垂线与下垂线,进一步得到与骶骨中垂线之间的夹角,从上至下依次收集上垂线夹角和下垂线夹角,并与目标脊柱椎体的名称信息一一对应,生成上垂线夹角序列和下垂线夹角序列。
7.根据权利要求2所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述根据确定的脊柱侧弯顶锥名称信息快速确定脊柱侧弯类型的步骤如下:
若所述脊柱侧弯顶锥名称信息为C1~C6之一,则脊柱侧弯类型为颈弯;
若所述脊柱侧弯顶锥名称信息为C7~T1之一,则脊柱侧弯类型为颈胸弯;
若所述脊柱侧弯顶锥名称信息为T2~T11之一,则脊柱侧弯类型为胸弯;
若所述脊柱侧弯顶锥名称信息为T12~L1之一,则脊柱侧弯类型为胸腰弯;
若所述脊柱侧弯顶锥名称信息为L2~L4之一,则脊柱侧弯类型为腰弯。
8.根据权利要求3所述的一种脊柱椎体关键点检测及脊柱侧弯识别方法,其特征在于:所述利用带有标注的脊柱全长X光图像训练生成的改进后的Mask R-CNN网络的训练步骤包括:
S1.2.1:采集脊柱全长X光图像,并人工标注目标脊柱椎体的关键点数据;
S1.2.2:对网络输入的带标注数据的脊柱全长X光图像进行预处理,调整图像的尺寸为固定大小,并利用非线性灰度增强改进的CLAHE算法增强图像对比度来抑制噪声;
S1.2.3:将预处理后的图像输入到RepVGG+FPN主干特征提取网络中进行特征提取生成特征图;
S1.2.4:特征图输入进RPN网络,并根据特征图的语义信息确立ROI区域,输出锚点候选窗口,利用滑窗操作在真实值上根据重叠度和非极大值抑制保留得分最高的候选框;
然后经过ROI Align通过双线性插值操作依次将原图和特征、特征图和固定特征进行像素值的一一对应,并保留小数位的像素值计算结果;
S1.2.5:依次经过两个全连接层分别进行目标分类和边框回归计算,并行经过全卷积网络进行脊柱椎体关键点检测,并计算损失函数和更新学习率,通过反向传播调整各层的权重参数;
S1.2.6:重复训练S1.2.2~S1.2.5,直至训练结束,输出权重文件。
CN202310056778.3A 2023-01-20 2023-01-20 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法 Active CN115880281B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310056778.3A CN115880281B (zh) 2023-01-20 2023-01-20 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310056778.3A CN115880281B (zh) 2023-01-20 2023-01-20 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法

Publications (2)

Publication Number Publication Date
CN115880281A CN115880281A (zh) 2023-03-31
CN115880281B true CN115880281B (zh) 2023-05-02

Family

ID=85758673

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310056778.3A Active CN115880281B (zh) 2023-01-20 2023-01-20 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法

Country Status (1)

Country Link
CN (1) CN115880281B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117474906B (zh) * 2023-12-26 2024-03-26 合肥吉麦智能装备有限公司 基于脊柱x光图像匹配的术中x光机复位方法
CN117665495A (zh) * 2024-02-01 2024-03-08 山西省财政税务专科学校 一种基于智能计算机的工业供配电故障诊断系统
CN117765062B (zh) * 2024-02-22 2024-04-26 天津市天津医院 用于青少年脊柱侧弯检测的图像处理方法及系统
CN117889809B (zh) * 2024-03-18 2024-05-17 山西省财政税务专科学校 一种计算机用辅助轮廓扫描系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009053671A1 (en) * 2007-10-25 2009-04-30 University College Cardiff Consultants Limited Device for measuring spinal curvature
CN112529860A (zh) * 2020-12-04 2021-03-19 中国科学院深圳先进技术研究院 脊柱图像处理方法、装置、电子设备及存储介质
CN113850763A (zh) * 2021-09-06 2021-12-28 中山大学附属第一医院 一种脊柱Cobb角测量方法、装置、设备及介质
CN114359472A (zh) * 2021-11-23 2022-04-15 宁波全网云医疗科技股份有限公司 一种脊柱三维模型的重构方法及系统

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110415291A (zh) * 2019-08-07 2019-11-05 清华大学 图像处理方法及相关设备
CN110720923A (zh) * 2019-10-22 2020-01-24 四川大学华西医院 形态检测仪
CN111047572B (zh) * 2019-12-10 2023-04-07 南京安科医疗科技有限公司 一种基于Mask RCNN的医学图像中脊柱自动定位方法
US11877717B2 (en) * 2019-12-17 2024-01-23 Emma Ruccio Method and apparatus for detecting scoliosis
US20240023809A1 (en) * 2020-01-31 2024-01-25 The Board Of Trustees Of The Leland Stanford Junior University Systems and Methods for Detection of Musculoskeletal Anomalies
CN112233083B (zh) * 2020-10-13 2024-01-02 沈阳先进医疗设备技术孵化中心有限公司 脊椎检测方法、装置、电子设备及存储介质
CN113223072B (zh) * 2021-03-31 2024-01-02 首都医科大学附属北京朝阳医院 一种脊柱Cobb角测量方法和系统
US20220409279A1 (en) * 2021-06-23 2022-12-29 Medicrea International SA Systems and methods for planning a patient-specific spinal correction
CN115222937A (zh) * 2022-07-21 2022-10-21 北京深睿博联科技有限责任公司 一种脊柱侧弯检测方法及装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009053671A1 (en) * 2007-10-25 2009-04-30 University College Cardiff Consultants Limited Device for measuring spinal curvature
CN112529860A (zh) * 2020-12-04 2021-03-19 中国科学院深圳先进技术研究院 脊柱图像处理方法、装置、电子设备及存储介质
CN113850763A (zh) * 2021-09-06 2021-12-28 中山大学附属第一医院 一种脊柱Cobb角测量方法、装置、设备及介质
CN114359472A (zh) * 2021-11-23 2022-04-15 宁波全网云医疗科技股份有限公司 一种脊柱三维模型的重构方法及系统

Also Published As

Publication number Publication date
CN115880281A (zh) 2023-03-31

Similar Documents

Publication Publication Date Title
CN115880281B (zh) 一种脊柱椎体关键点检测及脊柱侧弯识别装置及方法
CN112734757B (zh) 一种脊柱X光图像cobb角测量方法
CN111047572B (zh) 一种基于Mask RCNN的医学图像中脊柱自动定位方法
CN112258516B (zh) 一种脊柱侧弯图像检测模型的生成方法
Lee et al. FingerNet: Deep learning-based robust finger joint detection from radiographs
Tu et al. Automatic measurement algorithm of scoliosis Cobb angle based on deep learning
CN113674257B (zh) 脊柱侧弯角度的测量方法、装置、设备及存储介质
CN114494192B (zh) 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法
CN107146214A (zh) 儿童髋关节发育状况计算机自动诊断的方法
CN112802019B (zh) 一种基于脊柱AIS影像的lenke分型方法
CN113689402A (zh) 基于深度学习的股骨髓腔形态识别方法、装置及存储介质
CN113284090B (zh) 一种脊柱侧弯检测方法与医疗平台
CN112184617A (zh) 一种基于深度学习的脊椎mri影像关键点检测方法
CN114795258B (zh) 一种儿童髋关节发育不良诊断系统
CN115187606A (zh) 一种青少年特发性脊柱侧凸pumc分型方法
CN115222937A (zh) 一种脊柱侧弯检测方法及装置
CN114287915A (zh) 一种基于背部彩色图像的无创脊柱侧弯筛查方法及系统
CN111317580A (zh) 一种椎骨稳定系统及方法
EP3858245A1 (en) Automatic recognition method for measurement point in cephalo image
CN110427987A (zh) 一种关节炎患者的足底压力特征识别方法和系统
US11704796B2 (en) Estimating bone mineral density from plain radiograph by assessing bone texture with deep learning
KR102570004B1 (ko) 인공신경망 기반의 척추 진단 시스템 및 그 정보 제공 방법
CN110895818A (zh) 一种基于深度学习的膝关节轮廓特征提取方法和装置
CN111210404B (zh) 晶状体分割难度分类方法及装置
Zhang et al. Intelligent measurement of spinal curvature using cascade gentle AdaBoost classifier and region-based DRLSE

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant