CN110634133A - 一种基于x线平片的膝关节骨科测量方法及装置 - Google Patents

一种基于x线平片的膝关节骨科测量方法及装置 Download PDF

Info

Publication number
CN110634133A
CN110634133A CN201910833460.5A CN201910833460A CN110634133A CN 110634133 A CN110634133 A CN 110634133A CN 201910833460 A CN201910833460 A CN 201910833460A CN 110634133 A CN110634133 A CN 110634133A
Authority
CN
China
Prior art keywords
key point
knee joint
image
channel
dimensional gaussian
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910833460.5A
Other languages
English (en)
Inventor
程国华
姜志强
何林阳
季红丽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HANGZHOU JIANPEI TECHNOLOGY Co Ltd
Original Assignee
HANGZHOU JIANPEI TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by HANGZHOU JIANPEI TECHNOLOGY Co Ltd filed Critical HANGZHOU JIANPEI TECHNOLOGY Co Ltd
Priority to CN201910833460.5A priority Critical patent/CN110634133A/zh
Publication of CN110634133A publication Critical patent/CN110634133A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone

Abstract

本发明公开了一种基于X线平片的膝关节骨科测量方法及装置,提高了膝关节X线平片骨科测量的效率和精度,实现了全自动的膝关节X线平片的骨科测量。其中发明内容的主要步骤包括:获取膝关节X线平片图像数据;对X线平片图像数据进行关键点标注,并且对图像和关键点坐标数据进行预处理;利用标注完成的数据训练膝关节关键点检测模型;对膝关节X线平片图像进行膝关节关键点检测;通过检测得到的所述膝关节关键点坐标计算膝关节相关的骨科参数。由于采用了卷神经网络,实现了端到端的膝关节关键点的训练和检测,并且实现了膝关节骨科参数的自动测量,无需人工干预且测量速度快,提高了测量的效率。

Description

一种基于X线平片的膝关节骨科测量方法及装置
技术领域
本发明涉及医学影像处理领域,特别涉及一种基于X线平片的膝关节骨科测量方法及装置。
背景技术
骨关节测量是一个值得我们关注的领域。骨关节的影像测量参数是外科医生急迫需要的,反映了许多重要临床特征,包括了关节排列和骨骼发育等诊断、术前评估和预后发展。以Insall-Salvati指数为例,它已被证明是髌骨高度变化的重要指标,尤其是在全膝关节置换术中。然而,在放射科医生的眼中,这项工作被认为乏味而耗时,并且受到相当大的观察者之间和观察者内部的限制。
异常的髌骨高度与膝关节病理密切相关。髌骨高位是髌骨不稳、髌骨软化及髌股关节炎的重要危险因素。髌骨低位通常继发于膝关节的自然变异、机械外伤、手术并发或炎症改变,导致膝关节活动范围受限,胫骨结节骨软骨炎和髌股关节炎等。客观且可靠的髌骨高度指标是临床诊断和治疗决策的重要依据。然而,髌骨高度指标的测量冗长而耗时,并且受到观察者之间以及观察者内部差异的限制。随着卷积神经网络在二维图像上应用越来越多,尤其是医学影像,髌骨高位或低位患者影像指标的自动测量是一个很有前景的研究方向。
受到人类姿势的自动评估,人脸关键点的自动检测,头颅侧位片的关键点检测,脊柱疾病和畸形的全自动影像分析,以及心脏图像的关键点自动定位的启发,我们尝试创建一个新的关键点检测神经网络来实现髌骨高度的自动影像测量及评估。关键点检测神经网络不受与经验缺乏、注意力分散和疲劳相关的限制,这些限制可导致人类对医学图像的解释存在差异。且对关键点的检测非常高效,这将使其成为一种非常有用的髌骨高度快速评估方法。
发明内容
本发明实施例提供一种基于X线平片的膝关节骨科测量方法及装置,用以提高膝关节X线平片的测量精度及效率。
本发明实施例提供一种基于X线平片的膝关节骨科测量方法,包括:
获取样本集,所述样本集包括膝关节X线平片图像数据和对应的关键点标注信息;
对所述图像和所述关键点坐标数据进行预处理,然后构建训练模型所需的训练集数据和验证集数据;
构建级联式全卷积神经网络的关键点检测模型,并根据标注信息和关键点目标的难易程度确定加权的损失函数。
利用所述训练集数据训练级联式全卷积神经网络的关键点检测模型,得到膝关节关键点检测模型;
利用所述膝关节关键点检测模型对需要测量的膝关节X线平片图像进行关键点检测,得到膝关节关键点坐标;
通过检测得到的所述膝关节关键点坐标计算膝关节相关的骨科参数。
可选的,所述关键点标注是医生通过关键点标注软件实现,具体方式是,医生通过移动鼠标在需要标注的膝关节关键点部位进行点击,获取关键点坐标,然后输入当前关键点的类别,最终将图像和关键点坐标保存到数据库。所有标注数据都是先经过一位医生标注,然后在再通过另外两名医生进行校对,减少标注错误。
可选的,所述数据预处理主要包括X线平片图像处理和关键点坐标处理,包括:
需要对所述X线平片图像缩放到指定大小并进行图像像素值归一化;
将关键点坐标转换成关键点检测模型训练所需的多通道二维高斯响应图,用于监督神经网络的训练,其中,多通道二维高斯响应图为K张二维图像堆叠而成的三维矩阵,每一张二维图像中都有一个响应热点,响应热点的像素值为二维高斯分布,且每个通道二维高斯响应图的最大值和最大值的位置即为置信度和关键点位置坐标;
其中,二维高斯响应图满足公式:
Figure 100002_DEST_PATH_IMAGE002
其中,公式中u1,u2为高斯分布的均值,即关键点的x轴和y轴坐标,σ1,σ2为x轴和y轴方向上的标准差。
其中将关键点坐标转换成多通道二维高斯响应图的步骤如下:
首先,新建一个384×256大小的零矩阵;然后令关键点坐标位置的像素值为1;接着使用高斯核大小为5×5,均值为0,方差为0~1之间的二维高斯核对该矩阵进行滤波;最后将矩阵使用最大-最小值归一化方法归一化到0~1之间。一共有10个关键点,则构建10张二维高斯响应图,每张二维高斯响应图为一个关键点坐标生成。
将数据集按一定比例分成训练集和验证集。
可选的,所述膝关节关键点检测模型由级联式全卷积神经网络构成,级联式全卷积神经网络的关键点检测模型由N个子网络串联组成构成,N大于1,且前一个子网络的特征传给后一个子网络。每个子网络由编码模块和解码模块组成,且编码模块和解码模块通过堆叠连接。如图五所示,下采样为stride为2×2的最大池化,上采样为双线性插值。子网络之间不同尺度层之间还通过跨跃连接。中间监督层和最后的预测层都融合了不同大小的特征图的结果,输出时特征图小于最后输出二维高斯响应图大小则进行上采样。用于监督的二维高斯响应图越往后高斯核大小越小,例如这里的两级全卷积神经网络,第一个子网络的高斯响应图的高斯核为9×9,第二个子网络的高斯响应图的高斯核为5×5。
可选的,根据标注信息和关键点目标的难易程度确定加权的损失函数,包括:
首先,通过三位医生对相同的200张图像进行关键点标注;然后通过计算三个医生对每个点标注的平均差异确定关键点标注的难易程度,医生的对同一个点的标注差异越大,说明这个点的识别越难;最后对计算出的差异性指标进行最大最小值归一化,然后关键点的损失函数加权。其中平均差异如下计算,对于一张图像的其中一个关键点,首先计算出三个医生标注的点的中心坐标,然后计算三个点到中心坐标的平均距离作为标注差异,然后计算200张图像的标注差异平均值,即为该关键点的平均差异。
可选的,所述膝关节关键点检测模型的训练方式是利用反向传播进行训练,其中,网络输入图像为预处理后的图像,输出为多通道二维高斯响应图,通过计算全卷积神经网络输出的多通道二维高斯响应图和真实多通道二维高斯响应图监督标签的误差,对所述全卷积神经网络参数进行优化。
可选的,所述利用膝关节关键点检测模型对X线平片图像进行关键点检测,包括:
对X线平片图像进行预处理,将图像缩放到指定大小,然后进行像素值归一化;
将预处理后的图像输入到所述全卷积网络计算得到多通道二维高斯响应图;
对多通道二维高斯响应图进行解析得到关键点坐标和置信度,其中,每个通道的像素最大值所在的坐标即为当前通道预测的关键点的坐标,最大值对应的即为当前像素点是关键点的置信度;
最后将关键点坐标映射到原始X线平片图像尺寸大小的坐标系中。
可选的,所述训练全卷积神经网络过程中可以对数据进行增强(DataAugmentation),数据增强可以增加模型的鲁棒性,包括:
对图像和多通道二维高斯响应图进行相同角度的旋转,对图像增加高斯噪声,对图像和多通道二维高斯响应图进行相同大小的缩放,对图像和对通道二维高斯响应图进行相同上下或左右的翻转。
可选的,计算的膝关节相关的骨科参数,例如:Insall-Salvati指数,Caton-Deschamps指数等。但不仅限于这几种参数,还可以是自己想要测量的其它参数,如骨骼角度、距离、比例等。
进一步的,根据图4(右图)进行说明:
Insall-Salvati指数,Insall-Salvati指数是应用最广泛的垂直髌骨测量方法之一。髌骨最大对角线长度(LP)的测量是从其后上角至髌骨下极的最低点,髌腱长度(LT)的测量是从髌骨下极的最低点至胫骨结节,两测量值的比值(LP/LT)即Insall-Salvati指数。其计算公式为(c到f点的距离)/(f到i点的距离)。
Caton-Deschamps指数,在Caton或Caton-Deschamps法中,髌骨的垂直位置被定义为髌关节面下缘至胫骨近端前缘间的距离(B)与髌关节面的长度(A)的比值,其计算公式为(c到e点的距离)/(e到g点的距离)。
相应的,本发明实施例还提供了一种计算设备,包括:
存储器,用于存储程序指令;
处理器,用于调用所述存储器中存储的程序指令,按照获得的程序执行上述X线平片膝关节骨科测量的方法。
相应的,本发明实施例还提供了一种计算机可读非易失性存储介质,其特征在于,包括计算机可读指令,当计算机读取并执行所述计算机可读指令时,使得计算机执行上述X线平片膝关节骨科测量的方法。
如上所述,本发明的一种基于X线平片的膝关节骨科测量方法及装置,具有以下有益效果:使用本发明方法提高了测量的精度和效率,特别是对于较难识别的关键点的检测精度也有了显著提高。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明提供的一种基于X线平片的膝关节骨科测量的流程图。
图2为本发明提供的X线平片的膝关节骨科测量装置的流程示意图。
图3为本发明提供的一种系统架构示意图。
图4为本发明提供的膝关节X线平片的关键点二维高斯响应图和关键点示意图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作进一步地详细描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
图1展示了本发明提供的一种基于X线平片的膝关节骨科测量的方法所对应的流程图,该流程图可以由基于X线平片的膝关节骨科测量装置执行,包括如下步骤:
步骤101,获取膝关节X线平片图像数据。
步骤102,对X线平片图像数据进行关键点标注,并且对图像和关键点坐标数据进行预处理,然后构建训练深度学习模型时所需的训练集数据和验证集数据,如图4所示。
在具体的标注过程中,医生通过标注软件在膝关节X线平片图像上的关键点位置进行鼠标点击标注,标注软件记录关键点的类别和坐标,一共标注10个关键点,如图4右侧图像所示,待一张图像的所以关键点标注完成后,通过标注软件的回显功能将标注结果给另外两名医生进行确认和改正,从而减少标注错误。
然后对数据进行预处理,将数据处理成可以用来训练神经网络的格式,具体的,首先将图像缩放到384×256大小,然后将关键点坐标转换成多通道二维高斯响应图,最后将数据按一定比例分成训练集和验证集。
其中将关键点坐标转换成多通道二维高斯响应图的步骤如下:
首先,新建一个384×256大小的零矩阵;然后令关键点坐标位置的像素值为1;接着使用高斯核大小为9×9,均值为0,方差为0~1之间的二维高斯核对该矩阵进行滤波;最后将矩阵使用最大-最小值归一化方法归一化到0~1之间。一共有10个关键点,则构建10张二维高斯响应图,每张二维高斯响应图为一个关键点坐标生成。同理,构建一个高斯核到小为5×5二维高斯响应图。将高斯核大小为9×9的二维高斯响应图作为第一个子网络的监督信息,将高斯核大小为5×5的二维高斯响应图作为第二个子网络的监督信息,从而形成了一个由粗到细的级联式分割网络。
然后对训练集数据进行数据增强,得到增强后的训练数据集。例如可以将数据量增强到之前的K倍,可能的方式可以为通过随机水平翻转、随机旋转-45~45度、随机缩放0.6~1.5、增加高斯噪声等方式来将数据量增强到之前的K倍。
步骤103,利用标注完成的数据训练膝关节关键点检测模型。
膝关节关键点检测模型为一个级联式的全卷积神经网络如图五所示,网络的输入为图像,输出为关键点二维高斯响应图。级联式的全卷积神经网络由多个类U-Net的子网络组成,每个子网络的组成如下:类U-Net的编码网络由去掉全连接层和输出层的ResNet-50组成,解码网络由多个双线性插值上采样加两个卷积块组成,且编码部分和解码部分使用堆叠连接(concat),网络的编码部分包括了4个下采样操作,网络的解码部分包括了4个上采样操作,解码网络的不同尺度层使用一个3x3的卷积预测输出关键点二维高斯响应图,最后预测结果由多个尺度的结果的平均得到,若输出大小小于监督label大小,则双线性插值到指定大小,网络除最后一个卷积以外其他卷积都使用了批归一化(Batchnormalization)和非线性激活(ReLU)。子网络之间相同尺度的特征图利用堆叠连接(concat)连接。
在训练时,可以将卷积神经网络模型输出的多通道二维高斯响应图和训练样本的label做均方差,作为loss函数,并通过反向传播进行训练网络参数,采用Adam作为训练的优化器,初始学习率为1e-3。
步骤104,对膝关节X线平片图像进行膝关节关键点检测,得到膝关节关键点坐标。
具体的,对要进行测量的膝关节X线平片图像进行上述步骤101中的预处理,然后将图像输入到上述训练得到的膝关节关键点检测模型中计算得到多通道二维高斯响应图,如图4所示。然后对多通道二维高斯响应图进行解析,每个通道解析出一种关键点,像素最大值所在的坐标即为当前通道预测的关键点的坐标,最大值对应的即为当前像素点是关键点的置信度,如果置信度小于设定的阈值则剔除。
最后将关键点坐标映射到与输入膝关节X线平片图像尺寸大小相同的坐标系中。
步骤105,通过检测得到的所述膝关节关键点坐标计算膝关节相关的骨科参数。
通过关键点可以计算髌骨高度相关的测量指标(根据图4中的点进行说明),其中包括:
Insall-Salvati指数,Insall-Salvati指数是应用最广泛的垂直髌骨测量方法之一。髌骨最大对角线长度(LP)的测量是从其后上角至髌骨下极的最低点,髌腱长度(LT)的测量是从髌骨下极的最低点至胫骨结节,两测量值的比值(LP/LT)即Insall-Salvati指数。其计算公式为(c到f点的距离)/(f到i点的距离)。
Caton-Deschamps指数,在Caton或Caton-Deschamps法中,髌骨的垂直位置被定义为髌关节面下缘至胫骨近端前缘间的距离(B)与髌关节面的长度(A)的比值。其计算公式为(c到e点的距离)/(e到g点的距离)。
经测试本发明提高了测量的精度和效率,并且经测试平均每张图像的测量时间为1.1秒,通过对损失加权的方式,给不同的关键点分配不同的权重,从而提高较难识别的关键点的检测精度。基于相同的技术构思,图2示例性的示出了本发明实施例提供的一种基于X线平片的膝关节骨科测量装置,该装置可以执行骨科测量方法的流程。
获取模块201,用于获取膝关节X线平片图像;
数据标注模块202,用于膝关节X线平片的关键点标注,得到关键点坐标标注信息;
数据预处理模块203,用于对所述图像和所述关键点坐标数据进行预处理,然后构建训练深度学习模型时所需的训练集数据和验证集数据;
模型训练模块204,用于利用标注好的数据训练得到关键点检测模型;
关键点检测模块205,用于对膝关节X线平片图像进行膝关节关键点检测,得到膝关节关键点坐标;
测量模块206,用于根据检测得到的坐标,计算膝关节骨科测量值。
相应的,本发明实施例还提供了一种计算设备,包括:
存储器,用于存储程序指令;
处理器,用于调用所述存储器中存储的程序指令,按照获得的程序执行上述X线平片膝关节骨科测量的方法。
相应的,本发明实施例还提供了一种计算机可读非易失性存储介质,其特征在于,包括计算机可读指令,当计算机读取并执行所述计算机可读指令时,使得计算机执行上述X线平片膝关节骨科测量的方法。
图3为本发明实施例提供的影像结节检测的方法所适用的系统架构,该系统架构可以为服务器100,包括处理器110、通信接口120、存储器130和终端设备140。
其中,通信接口120用于医生适用的终端设备140进行通信,收发该终端设备传输的信息,实现通信。
处理器110是服务器100的控制中心,利用各种接口和线路连接整个服务器100的各个部分,通过运行或执行存储在存储器130内的软件程序/或模块,以及调用存储在存储器130内的数据,执行服务器100的各种功能和处理数据。可选地,处理器110可以包括一个或多个处理单元。
存储器130可用于存储软件程序以及模块,处理器110通过运行存储在存储器130的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器130可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序等;存储数据区可存储根据业务处理所创建的数据等。此外,存储器130可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
需要说明的是,上述图3所示的结构仅是一种示例,本发明实施例对此不做限定。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变形而不脱离本发明的精髓和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (17)

1.一种基于X线平片的膝关节骨科测量方法及装置,其特征在于,包括以下步骤:
S1) 获取样本集,所述样本集包括膝关节X线平片图像数据和对应的关键点标注信息;
S2) 对所述图像和所述关键点坐标数据进行预处理,然后构建训练模型所需的训练集数据和验证集数据;
S3) 构建级联式全卷积神经网络的关键点检测模型,并根据标注信息和关键点目标的难易程度确定加权的损失函数;
S4) 利用所述训练集数据训练级联式全卷积神经网络的关键点检测模型,得到膝关节关键点检测模型;
S5) 利用所述膝关节关键点检测模型对需要测量的膝关节X线平片图像进行关键点检测,得到膝关节关键点坐标;
S6) 通过检测得到的所述膝关节关键点坐标计算膝关节相关的骨科参数。
2.如权利要求1所述的方法,其特征在于,所述步骤S1)中,所述关键点标注是医生通过关键点标注软件实现,具体方式是,医生通过移动鼠标在需要标注的膝关节关键点部位进行点击,然后输入当前关键点的类别,最终将图像和关键点坐标保存到数据库;所有标注数据都是先经过一位医生标注,然后在再通过另外两名医生进行校对,减少标注错误。
3.如权利要求1所述的方法,其特征在于,所述步骤S2)中,所述数据预处理主要包括图像处理和关键点坐标处理;
需要对所述X线平片图像缩放到指定大小并进行图像像素值归一化;
将所述关键点坐标转换成所述关键点检测模型训练所需的多通道二维高斯响应图,其中,每个通道包含一种类别的关键点的二维高斯响应图,且每个通道二维高斯响应图的最大值和最大值的位置即为置信度和关键点位置坐标;
其中,二维高斯响应图满足公式:
Figure DEST_PATH_IMAGE002
其中,公式中u1,u2为高斯分布的均值,即关键点的x轴和y轴坐标,σ1,σ2为x轴和y轴方向上的标准差。
4.如权利要求1所述的方法,其特征在于,所述步骤S3)中,所述级联式全卷积神经网络的关键点检测模型由N个子网络串联组成构成,N大于1,且前一个子网络的特征传给后一个子网络;每个子网络由编码模块和解码模块组成,且编码模块和解码模块通过堆叠连接。并且,每个子网络都有中间监督层。
5.如权利要求1所述的方法,其特征在于,所述步骤S3)中,所述膝关节关键点检测模型的训练方式是利用反向传播进行训练,其中,网络输入图像为预处理后的图像,输出为多通道二维高斯响应图,通过计算所述全卷积神经网络输出的多通道二维高斯响应图和权利要求3中的所述标注得到的多通道二维高斯响应图的误差,对所述全卷积神经网络参数进行优化。
6.如权利要求1所述的方法,其特征在于,所述S3)中,所诉根据标注信息和关键点目标的难易程度确定加权的损失函数,包括:
首先,通过三位医生对相同的N张图像进行关键点标注;然后通过计算三个医生对每个点标注的平均差异确定关键点标注的难易程度,医生的对同一个点的标注差异越大,说明这个点的识别越难;最后对计算出的差异性指标进行最大最小值归一化,然后关键点的损失函数加权。
7.如权利要求1所述的方法,其特征在于,所述步骤S4)中,所述利用膝关节关键点检测模型对膝关节X线平片图像进行关键点检测,包括:
对X线平片图像进行权利要求3中的预处理,将图像缩放到指定大小,然后进行像素值归一化;
将预处理后的图像输入所述全卷积网络计算得到多通道二维高斯响应图;
对多通道二维高斯响应图进行解析得到关键点坐标和置信度,其中,每个通道的像素最大值所在的坐标即为当前通道对应的关键点坐标,像素最大值对应的即为置信度;
最后将关键点坐标映射到原始图像尺寸大小的坐标系中。
8.如权利要求5所述的方法,其特征在于,所述训练全卷积神经网络过程中可以对数据进行增强(Data Augmentation),包括:
对图像和多通道二维高斯响应图进行相同角度的旋转;对图像增加高斯噪声;对图像和多通道二维高斯响应图进行相同大小的缩放;对图像和对通道二维高斯响应图进行相同上下或左右的翻转等。
9.如权利要求1所述的方法,其特征在于,所述步骤S6)中,计算的膝关节相关的骨科参数,例如:Insall-Salvati指数,Caton-Deschamps指数等,但不仅限于这几种参数。
10.一种基于X线平片的膝关节骨科测量装置,其特征在于,包括:
获取模块,用于获取膝关节X线平片图像;
数据标注模块,用于X线平片的关键点标注,得到关键点坐标;
数据预处理模块,用于对所述图像和所述关键点坐标数据进行预处理,然后构建训练深度学习模型时所需的训练集和验证集;
模型训练模块,用于利用标注数据训练关键点检测模型;
关键点检测模块,用于对膝关节X线平片图像进行膝关节关键点检测,得到膝关节关键点坐标;
测量模块,用于根据检测得到的坐标,计算所需的骨科测量值。
11.如权利要求10所述的装置,其特征在于,所述数据标注模块具体用于:
医生通过移动鼠标在需要标注的膝关节关键点部位进行点击,然后输入当前关键点的类别,最终将图像和关键点坐标保存到数据库。所有标注数据都是先经过一位医生标注,然后在再通过另外两名医生进行校对,减少标注错误。
12.如权利要求10所述的装置,其特征在于,所述数据预处理模块具体用于:
将所述X线平片图像缩放到指定大小并进行图像像素值归一化;
将关键点坐标转换成所述关键点检测模型训练所需的多通道二维高斯响应图,其中,每个通道包含一种类别的关键点的二维高斯响应图,且每个通道二维高斯响应图的最大值和最大值的位置即为置信度和关键点位置坐标。
13.如权利要求10所述的装置,其特征在于,所述模型训练模块具体用于:
将训练数据输入到级联式全卷积神经网络进行训练;
级联式全卷积神经网络输入为图像,输出为多通道二维高斯响应图。
14.如权利要求10所述的装置,其特征在于,所述关键点检测模块具体用于:
对膝关节X线平片图像进行预处理,将图像缩放到指定大小,然后进行像素值归一化;
将预处理后的图像输入到训练得到的级联式全卷积神经网络,计算得到多通道二维高斯响应图;
对多通道二维高斯响应图进行解析得到关键点坐标和置信度,其中,每个通道的像素最大值所在的坐标即为当前通道对应的关键点坐标,像素最大值对应置信度。
15.如权利要求10所述的装置,其特征在于,所述测量模块具体用于,计算Insall-Salvati指数,Caton-Deschamps指数等骨科参数。
16.一种计算设备,其特征在于,包括:
存储器,用于存储程序指令;
处理器,用于调用所述存储器中存储的程序指令,按照获得的程序执行权利要求1至9任一项所述的方法。
17.一种计算机可读非易失性存储介质,其特征在于,包括计算机可读指令,当计算机读取并执行所述计算机可读指令时,使得计算机执行如权利要求1至9任一项所述的方法。
CN201910833460.5A 2019-09-04 2019-09-04 一种基于x线平片的膝关节骨科测量方法及装置 Pending CN110634133A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910833460.5A CN110634133A (zh) 2019-09-04 2019-09-04 一种基于x线平片的膝关节骨科测量方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910833460.5A CN110634133A (zh) 2019-09-04 2019-09-04 一种基于x线平片的膝关节骨科测量方法及装置

Publications (1)

Publication Number Publication Date
CN110634133A true CN110634133A (zh) 2019-12-31

Family

ID=68970190

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910833460.5A Pending CN110634133A (zh) 2019-09-04 2019-09-04 一种基于x线平片的膝关节骨科测量方法及装置

Country Status (1)

Country Link
CN (1) CN110634133A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111862047A (zh) * 2020-07-22 2020-10-30 杭州健培科技有限公司 一种级联的医学影像关键点检测方法及装置
CN111882532A (zh) * 2020-07-15 2020-11-03 中国科学技术大学 下肢x光影像中关键点提取方法
CN113065552A (zh) * 2021-03-29 2021-07-02 天津大学 自动定位头影测量标志点的方法
CN113449692A (zh) * 2021-07-22 2021-09-28 成都纵横自动化技术股份有限公司 一种基于无人机的地图车道信息更新方法及其系统
CN116704021A (zh) * 2023-04-11 2023-09-05 北京长木谷医疗科技股份有限公司 三维空间膝关节解剖结构智能感知检测方法、装置及设备

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107358608A (zh) * 2017-08-23 2017-11-17 西安邮电大学 基于图像处理技术的骨组织几何形态学参数自动测量装置及方法
CN107767419A (zh) * 2017-11-07 2018-03-06 广州深域信息科技有限公司 一种人体骨骼关键点检测方法及装置
CN108334899A (zh) * 2018-01-28 2018-07-27 浙江大学 基于手骨x光片骨骼和关节量化信息集成的骨龄评估方法
CN109063625A (zh) * 2018-07-27 2018-12-21 北京以萨技术股份有限公司 一种基于级联深度网络的人脸关键点检测方法
CN109242837A (zh) * 2018-08-29 2019-01-18 上海市第六人民医院 测量骨盆x光片中颈干角的方法、系统、设备及存储介质
CN109242838A (zh) * 2018-08-29 2019-01-18 上海市第六人民医院 测量骨盆x光片中中心边缘角的方法、系统、设备及介质
CN109544536A (zh) * 2018-11-26 2019-03-29 中国科学技术大学 髋关节x光图像快速自动分析方法
CN109671073A (zh) * 2018-12-19 2019-04-23 深圳大学 胎儿股骨测量方法、装置、计算机设备及可读存储介质
US10304193B1 (en) * 2018-08-17 2019-05-28 12 Sigma Technologies Image segmentation and object detection using fully convolutional neural network
CN109948522A (zh) * 2019-03-18 2019-06-28 浙江工业大学 一种基于深度神经网络的x光片手骨成熟度判读方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107358608A (zh) * 2017-08-23 2017-11-17 西安邮电大学 基于图像处理技术的骨组织几何形态学参数自动测量装置及方法
CN107767419A (zh) * 2017-11-07 2018-03-06 广州深域信息科技有限公司 一种人体骨骼关键点检测方法及装置
CN108334899A (zh) * 2018-01-28 2018-07-27 浙江大学 基于手骨x光片骨骼和关节量化信息集成的骨龄评估方法
CN109063625A (zh) * 2018-07-27 2018-12-21 北京以萨技术股份有限公司 一种基于级联深度网络的人脸关键点检测方法
US10304193B1 (en) * 2018-08-17 2019-05-28 12 Sigma Technologies Image segmentation and object detection using fully convolutional neural network
CN109242837A (zh) * 2018-08-29 2019-01-18 上海市第六人民医院 测量骨盆x光片中颈干角的方法、系统、设备及存储介质
CN109242838A (zh) * 2018-08-29 2019-01-18 上海市第六人民医院 测量骨盆x光片中中心边缘角的方法、系统、设备及介质
CN109544536A (zh) * 2018-11-26 2019-03-29 中国科学技术大学 髋关节x光图像快速自动分析方法
CN109671073A (zh) * 2018-12-19 2019-04-23 深圳大学 胎儿股骨测量方法、装置、计算机设备及可读存储介质
CN109948522A (zh) * 2019-03-18 2019-06-28 浙江工业大学 一种基于深度神经网络的x光片手骨成熟度判读方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
冯华等: "《实用骨科运动损伤临床诊断》", 30 November 2012 *
方同等译: "《随机振动与谱分析概论》", 31 March 1980 *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111882532A (zh) * 2020-07-15 2020-11-03 中国科学技术大学 下肢x光影像中关键点提取方法
CN111882532B (zh) * 2020-07-15 2021-10-01 中国科学技术大学 下肢x光影像中关键点提取方法
CN111862047A (zh) * 2020-07-22 2020-10-30 杭州健培科技有限公司 一种级联的医学影像关键点检测方法及装置
CN113065552A (zh) * 2021-03-29 2021-07-02 天津大学 自动定位头影测量标志点的方法
CN113449692A (zh) * 2021-07-22 2021-09-28 成都纵横自动化技术股份有限公司 一种基于无人机的地图车道信息更新方法及其系统
CN116704021A (zh) * 2023-04-11 2023-09-05 北京长木谷医疗科技股份有限公司 三维空间膝关节解剖结构智能感知检测方法、装置及设备

Similar Documents

Publication Publication Date Title
CN110634133A (zh) 一种基于x线平片的膝关节骨科测量方法及装置
Galbusera et al. Fully automated radiological analysis of spinal disorders and deformities: a deep learning approach
Sobhaninia et al. Fetal ultrasound image segmentation for measuring biometric parameters using multi-task deep learning
Forsberg et al. Detection and labeling of vertebrae in MR images using deep learning with clinical annotations as training data
US11386553B2 (en) Medical image data
Korez et al. A deep learning tool for fully automated measurements of sagittal spinopelvic balance from X-ray images: performance evaluation
Allen et al. Validity and reliability of active shape models for the estimation of Cobb angle in patients with adolescent idiopathic scoliosis
CN110400316A (zh) 一种基于深度学习的骨科影像测量方法及装置
CN111862047A (zh) 一种级联的医学影像关键点检测方法及装置
Jin et al. A review of the methods on cobb angle measurements for spinal curvature
Zhao et al. Automatic Cobb angle measurement method based on vertebra segmentation by deep learning
Zhang et al. An automated cobb angle estimation method using convolutional neural network with area limitation
Ebrahimi et al. Vertebral rotation estimation from frontal X-rays using a quasi-automated pedicle detection method
Tran et al. MBNet: A multi-task deep neural network for semantic segmentation and lumbar vertebra inspection on X-ray images
Lin et al. Multitask deep learning for segmentation and lumbosacral spine inspection
Kusuma Determination of spinal curvature from scoliosis X-ray images using K-means and curve fitting for early detection of scoliosis disease
CN113724328A (zh) 一种髋关节关键点检测方法和系统
Zhang et al. A novel tool to provide predictable alignment data irrespective of source and image quality acquired on mobile phones: what engineers can offer clinicians
CN114093462A (zh) 医学影像处理方法、图像处理方法、计算机设备、存储介质
Thalengala et al. Computerized image understanding system for reliable estimation of spinal curvature in idiopathic scoliosis
Caesarendra et al. AutoSpine-Net: Spine detection using convolutional neural networks for Cobb angle classification in adolescent idiopathic scoliosis
CN113870261B (zh) 用神经网络识别力线的方法与系统、存储介质及电子设备
CN110517300A (zh) 基于局部结构算子的弹性图像配准算法
Maeda et al. Automatic measurement of the Cobb angle for adolescent idiopathic scoliosis using convolutional neural network
Burger et al. Comparative evaluation of three commercially available markerless depth sensors for close-range use in surgical simulation

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20191231

WD01 Invention patent application deemed withdrawn after publication