发明内容
针对现有技术中存在的问题,本发明实施例提供一种全膝关节置换术前规划方法及装置。
第一方面,本发明实施例提供一种全膝关节置换术前规划方法,包括:
获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;
将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;
基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;
基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;
基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
进一步地,所述膝关节X线片图像包括膝关节正位X线片图像和膝关节侧位X线片图像;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述膝关节正位X线片图像转化为第一灰度图,将所述膝关节侧位X线片图像转化为第二灰度图;
将所述第一灰度图输入至神经网络识别模型,确定如下关键点和关键轴线:股骨头中心点,股骨远端最低点连线,膝关节中心点,股骨内外侧缘连线,胫骨平台最低点连线,胫骨内外侧缘连线;将所述第二灰度图输入至神经网络识别模型,确定如下关键轴线:股骨前皮质切线、股骨后髁切线,胫骨前后缘连线,胫骨解剖轴。
进一步地,所述膝关节X线片图像中骨骼结构的股骨尺寸参数包括股骨左右径和股骨前后径;所述膝关节X线片图像中骨骼结构的胫骨尺寸参数包括胫骨左右径和胫骨前后径;
根据所述股骨内外侧缘连线确定所述股骨左右径;根据所述胫骨内外侧缘连线确定所述胫骨左右径;根据所述股骨前皮质切线和所述股骨后髁切线确定股骨前后径;根据所述胫骨前后缘连线确定所述胫骨前后径。
进一步地,所述关键轴线包括股骨机械轴、股骨解剖轴、胫骨机械轴和胫骨解剖轴;其中,所述胫骨机械轴和胫骨解剖轴为同一条关键轴线或重合的关键轴线;
其中,根据所述股骨头中心点和所述膝关节中心点确定所述股骨机械轴;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述第一灰度图输入至神经网络识别模型进行识别,确定股骨区域、股骨的骨皮质区域、胫骨区域和胫骨的骨皮质区域;
根据所述股骨区域和所述股骨的骨皮质区域确定股骨髓腔区域,根据所述胫骨区域和所述胫骨的骨皮质区域确定胫骨髓腔区域;
对所述股骨髓腔区域的中心点进行直线拟合确定所述股骨解剖轴,对所述胫骨髓腔区域的中心点进行直线拟合确定所述胫骨解剖轴和所述胫骨机械轴。
进一步地,基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号和胫骨假体的类型和型号,包括:
建立假体库,所述假体库中记录有假体数据;所述假体数据包括股骨假体左右径、股骨假体前后径、胫骨假体左右径和胫骨假体前后径;
根据所述股骨左右径和所述股骨前后径确定股骨假体左右径和股骨假体前后径,根据所述胫骨左右径和所述胫骨前后径确定胫骨假体左右径和胫骨假体前后径;
其中,所述假体数据还包括股骨假体截骨参数和胫骨假体截骨参数,基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,包括:
根据所述股骨假体截骨参数、胫骨假体截骨参数和关键轴线,确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
进一步地,所述方法还包括如下步骤中至少之一:
根据所述股骨机械轴和所述胫骨机械轴计算股骨胫骨机械轴夹角mTFA;
根据所述股骨解剖轴和所述胫骨解剖轴计算股骨胫骨解剖轴夹角aTFA;
根据所述股骨机械轴和股骨解剖轴计算股骨机械轴解剖轴夹角AMA;
根据所述股骨机械轴和股骨远端最低点连线计算股骨远端外侧角mLDFA;
根据所述胫骨机械轴和胫骨平台最低点连线计算胫骨近端内侧角mMPTA;
根据所述股骨远端最低点连线和胫骨平台最低点连线计算内汇聚角JLCA。
第二方面,本发明实施例提供了一种全膝关节置换术前规划装置,包括:
获取模块,被配置为获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;
识别模块,被配置为将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;
确定参数模块,被配置为基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;
确定假体模块,被配置为基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;
确定安放模块,被配置为基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
进一步地,所述获取模块中所述膝关节X线片图像包括膝关节正位X线片图像和膝关节侧位X线片图像;
其中,所述识别模块,被配置为:
将所述膝关节正位X线片图像转化为第一灰度图,将所述膝关节侧位X线片图像转化为第二灰度图;
将所述第一灰度图输入至神经网络识别模型,确定如下关键点和关键轴线:股骨头中心点,股骨远端最低点连线,膝关节中心点,股骨内外侧缘连线,胫骨平台最低点连线,胫骨内外侧缘连线;将所述第二灰度图输入至神经网络识别模型,确定如下关键轴线:股骨前皮质切线、股骨后髁切线,胫骨前后缘连线,胫骨解剖轴。
进一步地,所述确定参数模块中所述膝关节X线片图像中骨骼结构的股骨尺寸参数包括股骨左右径和股骨前后径;所述膝关节X线片图像中骨骼结构的胫骨尺寸参数包括胫骨左右径和胫骨前后径;
根据所述股骨内外侧缘连线确定所述股骨左右径;根据所述胫骨内外侧缘连线确定所述胫骨左右径;根据所述股骨前皮质切线和所述股骨后髁切线确定股骨前后径;根据所述胫骨前后缘连线确定所述胫骨前后径。
进一步地,所述关键轴线包括股骨机械轴、股骨解剖轴、胫骨机械轴和胫骨解剖轴;其中,所述胫骨机械轴和胫骨解剖轴为同一条关键轴线或重合的关键轴线;
其中,根据所述股骨头中心点和所述膝关节中心点确定所述股骨机械轴;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述第一灰度图输入至神经网络识别模型进行识别,确定股骨区域、股骨的骨皮质区域、胫骨区域和胫骨的骨皮质区域;
根据所述股骨区域和所述股骨的骨皮质区域确定股骨髓腔区域,根据所述胫骨区域和所述胫骨的骨皮质区域确定胫骨髓腔区域;
对所述股骨髓腔区域的中心点进行直线拟合确定所述股骨解剖轴,对所述胫骨髓腔区域的中心点进行直线拟合确定所述胫骨解剖轴和所述胫骨机械轴。
进一步地,所述确定假体模块,被配置为:
建立假体库,所述假体库中记录有假体数据;所述假体数据包括股骨假体左右径、股骨假体前后径、胫骨假体左右径和胫骨假体前后径;
根据所述股骨左右径和所述股骨前后径确定股骨假体左右径和股骨假体前后径,根据所述胫骨左右径和所述胫骨前后径确定胫骨假体左右径和胫骨假体前后径;
其中,所述假体数据还包括股骨假体截骨参数和胫骨假体截骨参数,基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,被配置为:
根据所述股骨假体截骨参数、胫骨假体截骨参数和关键轴线,确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
进一步地,所述装置还包括如下计算模块中至少之一:
所述计算模块,被配置为根据所述股骨机械轴和所述胫骨机械轴计算股骨胫骨机械轴夹角mTFA;
根据所述股骨解剖轴和所述胫骨解剖轴计算股骨胫骨解剖轴夹角aTFA;
根据所述股骨机械轴和股骨解剖轴计算股骨机械轴解剖轴夹角AMA;
根据所述股骨机械轴和股骨远端最低点连线计算股骨远端外侧角mLDFA;
根据所述胫骨机械轴和胫骨平台最低点连线计算胫骨近端内侧角mMPTA;
根据所述股骨远端最低点连线和胫骨平台最低点连线计算内汇聚角JLCA。。
第三方面,本发明实施例还提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上第一方面所述的全膝关节置换术前规划方法的步骤。
第四方面,本发明实施例还提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现如上第一方面所述的全膝关节置换术前规划方法的步骤。
由上述技术方案可知,本发明实施例提供的全膝关节置换术前规划方法及装置,能够获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,可见本发明实施例提供的全膝关节置换术前规划方法只需使用X线片图像即可进行术前工作有效的节约了成本,同时由于患者的个体差异在对患者进行关键点和关键轴线的测量时可以有效避免人工测量的随意性,基于深度学习的神经网络识别模型能够精准识别确定尺寸后的膝关节X线片图像的关键点位和关键轴轴线,从而基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数,进而基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,通过上述确定的多项参数和数据直观的显示在显示器上减少对手术医生经验的依赖,同时对手术中各种参数的计算和假体安放有重要参考作用,有助于提高手术效率和手术精度。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。下面将通过具体实施例对本发明提供的全膝关节置换术前规划方法进行详细解释和说明。
图1为本发明一实施例提供的全膝关节置换术前规划方法的流程示意图;如图1所示,该方法包括:
步骤S101:获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸。
在本步骤中,举例来说选择X线文件,获取膝关节X线片图像;同时确定所述膝关节X线片图像的真实尺寸。其中,确定膝关节X线片图像的真实尺寸可以采用比例尺、预设参照物、标定物等进行校准。举例来说在向系统中导入X线片图像时,在图像上手动选取比例尺两端点或标定物两端点,计算图像上两端点距离,与两端点确定的实际尺寸进行比例换算,将图像比例还原为真实尺寸(即确定所述膝关节X线片图像的真实尺寸),还可以通过在系统设置已知尺寸的尺寸还原装置,通过测量X线片图像中骨骼结构的尺寸直接确定真实尺寸,本实施例在此不作限定。
在本步骤中,所述膝关节X线片图像可以包括膝关节正位X线片图像和膝关节侧位X线片图像,参见图2和图3,使用正侧位两种不同拍摄体位的X线片进行规划,能够从正侧位观察不同类型和型号(或者说大小)的假体的匹配效果。
步骤S102:将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线。
在本步骤中,需要说明的是,关键点可以为:图4(正位X线片图像)中的点、线;其中:点1、2是股骨头中心点,a1为股骨机械轴,b1为股骨解剖轴,c1为胫骨解剖(机械)轴,d1为股骨远端最低点连线,e1为胫骨平台最低点连线,f1为股骨左右径,g1为胫骨左右径。关键点还可以为:图5(侧位X线片图像)中点、线;其中,a2为前侧股骨皮质切线,b2为股骨后髁切线,c2为股骨解剖轴,d2为胫骨解剖轴,e2为胫骨前后径,f2为胫骨平台前后缘连线,g2为股骨前后径。举例来说,如将膝关节正位X线片图像转化为第一灰度图,将膝关节侧位X线片图像转化为第二灰度图;将第一灰度图输入至训练好的第一神经网络识别模型,确定如下关键点、线:股骨头中心,股骨远端最低点连线,膝关节中心点,股骨内、外侧缘连线,胫骨平台最低点连线,胫骨内、外侧缘连线;将第二灰度图输入至训练好的第二神经网络识别模型,确定如下关键线:股骨前皮质切线、股骨后髁切线,胫骨前、后缘连线。
在本步骤中,需要说明的是关键轴线包括股骨解剖轴、股骨机械轴和胫骨解剖轴(胫骨机械轴同胫骨解剖轴),即股骨解剖轴和股骨机械轴不是同一条轴线,但胫骨机械轴和胫骨解剖轴是同一轴线。所述关键轴线还可以包括股骨远端最低点连线和胫骨平台最低点连线。
将确定尺寸后的膝关节X线片图像输入至神经网络识别模型进行识别,确定关键轴线的步骤包括:
将第一灰度图输入至训练好的第三神经网络识别模型,确定股骨区域、股骨的骨皮质区域、胫骨区域和胫骨的骨皮质区域;
根据所述股骨区域和所述股骨的骨皮质区域确定股骨髓腔区域,根据所述胫骨区域和所述胫骨的骨皮质区域确定胫骨髓腔区域;
对股骨髓腔区域的多个中心点进行直线拟合确定股骨解剖轴,对胫骨髓腔区域的多个中心点进行直线拟合确定胫骨机械轴。
步骤S103:基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数。
在本步骤中,举例来说,所述关键点包括股骨头中心,股骨内、外侧缘,股骨前皮质切线,股骨后髁切线,胫骨内、外侧缘,胫骨前、后缘。进而根据股骨内、外侧缘确定股骨左右径;根据股骨前皮质切线和股骨后髁切线确定股骨前后径;根据胫骨内、外侧缘确定胫骨左右径;根据胫骨前、后缘确定胫骨前后径;将股骨左右径和股骨前后径作为股骨尺寸参数,将胫骨左右径和胫骨前后径作为胫骨尺寸参数。
步骤S104:基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号。
在本步骤中,需要说明的是,假体有不同的类型,同一类型下还有不同大小(即型号)的假体,不同大小的假体的尺寸不同)。
为了更好的理解本发明,举例来说:
(1)建立假体库:将股骨假体左右径A1、股骨假体前后径B1,胫骨假体左右径A2、胫骨假体前后径B2数据、股骨假体截骨参数和胫骨假体截骨参数录入系统;
(2)基于识别的关键点计算出股骨和胫骨的左右径和前后径:根据神经网络识别模型确定的股骨内、外侧缘确定股骨左右径X1,股骨前皮质切线和股骨后髁切线确定股骨前后径Y1,胫骨内、外侧缘确定胫骨左右径X2,胫骨前、后缘确定胫骨前后径Y2;
(3)假体匹配:假体匹配按照如下原则:
对于股骨假体而言,优先根据左右径数据进行匹配,再匹配左右径型号前后径,综合确定股骨假体型号Z1。
对于胫骨假体选择而言,优先根据前后径数据进行匹配,因此自动匹配胫骨假体前后径型号,再匹配左右径型号。根据胫骨假体左右径数据和前后径数据智能匹配胫骨侧假体型号Z2。
综合股骨侧、胫骨侧假体数据,智能推荐垫片型号Z。
步骤S105:基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
在本步骤中,举例来说,根据股骨远端最低点连线、股骨机械轴以及股骨假体截骨参数(确定股骨假体类型和型号后相当于确定了股骨假体截骨参数)确定股骨假体的安放位置和安放角度,根据胫骨平台最低点连线、胫骨机械轴以及胫骨假体截骨参数(确定胫骨假体类型和型号后相当于确定了胫骨假体截骨参数)确定胫骨假体的安放位置和安放角度。假体安放的最终目的是为了恢复患者机械轴对线,故通过识别机械轴后可确定假体安放角度。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,能够获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,可见本发明实施例提供的全膝关节置换术前规划方法只需使用X线片图像即可进行术前工作有效的节约了成本,同时由于患者的个体差异在对患者进行关键点和关键轴线的测量时可以有效避免人工测量的随意性,基于深度学习的神经网络识别模型能够精准识别确定尺寸后的膝关节X线片图像的关键点位和关键轴轴线,从而基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数,进而基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,通过上述确定的多项参数和数据直观的显示在显示器上减少对手术医生经验的依赖,同时对手术中各种参数的计算和假体安放有重要参考作用,有助于提高手术效率和手术精度。
在上述实施例的基础上,在本实施例中,所述膝关节X线片图像包括膝关节正位X线片图像和膝关节侧位X线片图像;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述膝关节正位X线片图像转化为第一灰度图,将所述膝关节侧位X线片图像转化为第二灰度图;
将所述第一灰度图输入至神经网络识别模型,确定如下关键点和关键轴线:股骨头中心点,股骨远端最低点连线,膝关节中心点,股骨内外侧缘连线,胫骨平台最低点连线,胫骨内外侧缘连线;将所述第二灰度图输入至神经网络识别模型,确定如下关键轴线:股骨前皮质切线、股骨后髁切线,胫骨前后缘连线,胫骨解剖轴。
在本实施例中,所述膝关节X线片图像可以包括膝关节正位X线片图像和膝关节侧位X线片图像,参见图2和图3,使用正侧位两种不同拍摄体位的X线片进行规划,能够从正侧位观察不同类型和型号(或者说大小)的假体的匹配效果。
在本实施例中,需要说明的是,神经网络识别模型基于点识别神经网络训练识别:股骨头中心点,股骨远端最低点,膝关节中心点,股骨内、外侧缘点,骨前皮质切线,股骨后髁切线;胫骨平台最低点连线,胫骨内、外侧缘点,胫骨前、后缘点。
点识别神经网络结构图如图6所示,参见图6和图7,点识别网络能够在精确分割的基础上对关键解剖点位进行识别,相对于手动标点更加稳定和准确。
首先需要使用标点插件手动标股骨内外侧缘点等关键点,每张图片对应两个点坐标(X1,Y1),(X2,Y2),生成label.txt文件。输入像素值为0-255的正投影图像和label.txt,可以通过每张图片的名称找到互相对应的点坐标;若直接用目标点的坐标进行学习,神经网络需要自行将空间位置转换为坐标,是一种比较难学习的训练方式,所以将这些点生成高斯图,可以给网络的训练增加一个方向性的引导,距离目标点越近,激活值越大,这样网络能有方向的去快速到达目标点,即快速识别关键点。
网络使用的是hourglass,首先Conv层和Max Pooling层用于将特征缩放到很小的分辨率,每一个maxpooling(降采样)处,网络进行分叉,并对原来的人体姿态pre-pooled分辨率的特征进行卷积,得到最低分辨率特征后,网络开始进行取样up sampling,并逐渐结合不同尺度的特征信息。这里对较低分辨率采用的是最近邻上采样(nearest neighborupsampling)方式,将两个不同的特征集进行逐元素相加。整个hourglass是对称的,获取低分辨率特征过程中每有一个网络层,则在上采样的过程中相应的就会有一个对应网络层,得到hourglass网络模块的输出后,再采用两个连续的1*1Conv层进行处理,得到最终的网络输出。输出为热图heatmaps的集合,每一个热图heatmap表征了关键点在每个像素点存在的概率。
Hourglass网络在每次降采样之前,分出上半路保留原尺度信息;每次上采样之后,和上一个尺度的数据相加;两次降采样之间,使用三个残差网络residual模块提取特征;两次相加之间,使用一个残差网络residual模块提取特征。由于考虑了各个尺度的特征,所以运行速度更快,网络训练时间更快。
点识别网络可以精确的识别到股骨内外侧缘关键点位、胫骨内外侧缘关键点位、股骨远端最低点、膝关节中心点、胫骨平台最低点等关键点,对各种参数的计算和假体的放置有重要的参考作用。
优选地,为了更好精准确定关键点,在得到关键点后,检查关键点的识别,对识别位置不准确的关键点进行调整。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,基于神经网络识别模型得到关键点,从而快速精准的得到全膝关节置换手术所需的各关键点,能够在精确分割的基础上对各关键点进行识别,相对于手动标点更加稳定和准确,进而得到稳定准确的测量结果,如股骨左右径和股骨前后径、胫骨左右径和胫骨前后径等,通过更准确的测量结果匹配到契合度高的假体,进而有助于提升假体安放效果,得到更优的假体安放方案。
在上述实施例的基础上,在本实施例中,所述膝关节X线片图像中骨骼结构的股骨尺寸参数包括股骨左右径和股骨前后径;所述膝关节X线片图像中骨骼结构的胫骨尺寸参数包括胫骨左右径和胫骨前后径;
根据所述股骨内外侧缘连线确定所述股骨左右径;根据所述胫骨内外侧缘连线确定所述胫骨左右径;根据所述股骨前皮质切线和所述股骨后髁切线确定股骨前后径;根据所述胫骨前后缘连线确定所述胫骨前后径。
在上述实施例的基础上,在本实施例中,所述关键轴线包括股骨机械轴、股骨解剖轴、胫骨机械轴和胫骨解剖轴;其中,所述胫骨机械轴和胫骨解剖轴为同一条关键轴线或重合的关键轴线;
其中,根据所述股骨头中心点和所述膝关节中心点确定所述股骨机械轴;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述第一灰度图输入至神经网络识别模型进行识别,确定股骨区域、股骨的骨皮质区域、胫骨区域和胫骨的骨皮质区域;
根据所述股骨区域和所述股骨的骨皮质区域确定股骨髓腔区域,根据所述胫骨区域和所述胫骨的骨皮质区域确定胫骨髓腔区域;
对所述股骨髓腔区域的中心点进行直线拟合确定所述股骨解剖轴,对所述胫骨髓腔区域的中心点进行直线拟合确定所述胫骨解剖轴和所述胫骨机械轴。
在本实施例中,需要说明的是,神经网络识别模型如图8所示,参见图8,采集膝关节X线片图像,标注这些图像中的股骨区域及骨皮质区域;建立分割卷积神经网络模块,输入像素值为0-255的X线片图片,0-2的标注mask,其中0是背景,1是股骨,2是骨皮质;传入到卷积神经网络中,进行卷积池化采样一直迭代学习训练;输出为对X线片的每个像素值的预测,X线片的每个像素值都会归为一个类别,分别为0-背景,1-股骨,2-骨皮质。参见图9,截取股骨远端最低点直到股骨末端部位,股骨mask–骨皮质mask便是髓腔mask。参见图10,从股骨远端最低点处开始每个像素点依次做水平线,与髓腔交点处分别有四个坐标A1,A2,B1,B2;依据两点可以求出中点,公式:A1(X1,Y1),A2(X2,Y2)的中点坐标:X(中点)=(X1+X2)/2,Y(中点)=(Y1+Y2)/2。B1,B2同理,依次取得髓腔的中点,最后使用最小二乘法将这些点拟合成一条直线。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,基于神经网络识别模型确定关键轴线,从而快速精准的得到手术所需的关键轴线,如股骨解剖轴、股骨机械轴和胫骨解剖(机械)轴,从而得到稳定准确的测量结果,有助于提升假体安放效果,得到更优的假体安放方案。
在上述实施例的基础上,在本实施例中,基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号和胫骨假体的类型和型号,包括:
建立假体库,所述假体库中记录有假体数据;所述假体数据包括股骨假体左右径、股骨假体前后径、胫骨假体左右径和胫骨假体前后径;
根据所述股骨左右径和所述股骨前后径确定股骨假体左右径和股骨假体前后径,根据所述胫骨左右径和所述胫骨前后径确定胫骨假体左右径和胫骨假体前后径;
其中,所述假体数据还包括股骨假体截骨参数和胫骨假体截骨参数,基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,包括:
根据所述股骨假体截骨参数、胫骨假体截骨参数和关键轴线,确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
在上述实施例的基础上,在本实施例中,所述方法还包括如下步骤中至少之一:
根据所述股骨机械轴和所述胫骨机械轴计算股骨胫骨机械轴夹角mTFA;
根据所述股骨解剖轴和所述胫骨解剖轴计算股骨胫骨解剖轴夹角aTFA;
根据所述股骨机械轴和股骨解剖轴计算股骨机械轴解剖轴夹角AMA;
根据所述股骨机械轴和股骨远端最低点连线计算股骨远端外侧角mLDFA;
根据所述胫骨机械轴和胫骨平台最低点连线计算胫骨近端内侧角mMPTA;
根据所述股骨远端最低点连线和胫骨平台最低点连线计算内汇聚角JLCA。
在本实施例中,可以理解的是,根据股骨机械轴和胫骨机械轴确定股骨胫骨机械轴的夹角mTFA;根据股骨解剖轴和胫骨解剖轴(和胫骨机械轴为同一直线)确定股骨胫骨解剖轴的夹角胫骨aTFA。
在一些优选的实施方式中,本发明方法还包括:
在所述膝关节侧位X线片图像中,根据胫骨解剖轴和胫骨平台前后缘连线确定胫骨平台后倾角。需要说说明的是,胫骨平台后倾角为胫骨解剖轴的垂线与胫骨平台前后缘连线(图5中线f2)的夹角。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,根据所述股骨机械轴和所述胫骨机械轴计算夹角mTFA;根据所述股骨解剖轴和所述胫骨解剖轴计算夹角aTFA;根据所述股骨机械轴和股骨解剖轴计算夹角AMA;根据所述股骨机械轴和股骨远端最低点连线计算股骨远端外侧角mLDFA;根据所述胫骨机械轴和胫骨平台最低点连线计算胫骨近端内测角mMPTA;根据所述股骨远端最低点连线和胫骨平台最低点连线计算内汇聚角JLCA;从而为假体的放置角度提供重要的参考作用,进而通过精准的假体安放角度提升假体安放效果,得到更优的假体安放方案。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,基于精准的股骨远端最低点和胫骨平台最低点,以及膝关节X光片所述匹配的假体型号和假体尺寸确定匹配假体的安放位置,从而通过精准的安放位置提升假体安放效果,得到更优的假体安放方案。
在上述实施例的基础上,在本实施例中,所述方法还包括:
将匹配假体按假体的安放位置和假体的安放角度安放在膝关节X光片中,并进行假体安放结果展示。
在本实施例中,参见图11和图12,将匹配假体按假体的安放位置和假体的安放角度安放在膝关节X光片中,并进行假体安放结果展示。优选地,为了更好的安放效果,检查是否安放恰当,如需要调整则进行手动调整,从而得到最优的安放效果。
由上面技术方案可知,本发明实施例提供的全膝关节置换术前规划方法,计算机自动按确定的安放位置和安放角度将匹配的假体安放在膝关节X光片中,手术人员或患者等相关人员可以显示屏得到假体安放效果,从而提高手术效率。
图13为本发明一实施例提供的全膝关节置换术前规划装置的结构示意图,如图13所示,该装置包括:获取模块201、识别模块202、确定参数模块203、确定假体模块204和确定安放模块205,其中:
其中,获取模块201,被配置为获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;
识别模块202,被配置为将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;
确定参数模块203,被配置为基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;
确定假体模块204,被配置为基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;
确定安放模块205,被配置为基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
在上述实施例的基础上,在本实施例中,所述获取模块中所述膝关节X线片图像包括膝关节正位X线片图像和膝关节侧位X线片图像;
其中,所述识别模块,被配置为:
将所述膝关节正位X线片图像转化为第一灰度图,将所述膝关节侧位X线片图像转化为第二灰度图;
将所述第一灰度图输入至神经网络识别模型,确定如下关键点和关键轴线:股骨头中心点,股骨远端最低点连线,膝关节中心点,股骨内外侧缘连线,胫骨平台最低点连线,胫骨内外侧缘连线;将所述第二灰度图输入至神经网络识别模型,确定如下关键轴线:股骨前皮质切线、股骨后髁切线,胫骨前后缘连线,胫骨解剖轴。
在上述实施例的基础上,在本实施例中,所述确定参数模块中所述膝关节X线片图像中骨骼结构的股骨尺寸参数包括股骨左右径和股骨前后径;所述膝关节X线片图像中骨骼结构的胫骨尺寸参数包括胫骨左右径和胫骨前后径;
根据所述股骨内外侧缘连线确定所述股骨左右径;根据所述胫骨内外侧缘连线确定所述胫骨左右径;根据所述股骨前皮质切线和所述股骨后髁切线确定股骨前后径;根据所述胫骨前后缘连线确定所述胫骨前后径。
在上述实施例的基础上,在本实施例中,所述关键轴线包括股骨机械轴、股骨解剖轴、胫骨机械轴和胫骨解剖轴;其中,所述胫骨机械轴和胫骨解剖轴为同一条关键轴线或重合的关键轴线;
其中,根据所述股骨头中心点和所述膝关节中心点确定所述股骨机械轴;
其中,将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键轴线,包括:
将所述第一灰度图输入至神经网络识别模型进行识别,确定股骨区域、股骨的骨皮质区域、胫骨区域和胫骨的骨皮质区域;
根据所述股骨区域和所述股骨的骨皮质区域确定股骨髓腔区域,根据所述胫骨区域和所述胫骨的骨皮质区域确定胫骨髓腔区域;
对所述股骨髓腔区域的中心点进行直线拟合确定所述股骨解剖轴,对所述胫骨髓腔区域的中心点进行直线拟合确定所述胫骨解剖轴和所述胫骨机械轴。
在上述实施例的基础上,在本实施例中,所述确定假体模块,被配置为:
建立假体库,所述假体库中记录有假体数据;所述假体数据包括股骨假体左右径、股骨假体前后径、胫骨假体左右径和胫骨假体前后径;
根据所述股骨左右径和所述股骨前后径确定股骨假体左右径和股骨假体前后径,根据所述胫骨左右径和所述胫骨前后径确定胫骨假体左右径和胫骨假体前后径;
其中,所述假体数据还包括股骨假体截骨参数和胫骨假体截骨参数,基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度,被配置为:
根据所述股骨假体截骨参数、胫骨假体截骨参数和关键轴线,确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
在上述实施例的基础上,在本实施例中,所述装置还包括如下计算模块中至少之一:
所述计算模块,被配置为根据所述股骨机械轴和所述胫骨机械轴计算股骨胫骨机械轴夹角mTFA;
根据所述股骨解剖轴和所述胫骨解剖轴计算股骨胫骨解剖轴夹角aTFA;
根据所述股骨机械轴和股骨解剖轴计算股骨机械轴解剖轴夹角AMA;
根据所述股骨机械轴和股骨远端最低点连线计算股骨远端外侧角mLDFA;
根据所述胫骨机械轴和胫骨平台最低点连线计算胫骨近端内侧角mMPTA;
根据所述股骨远端最低点连线和胫骨平台最低点连线计算内汇聚角JLCA。
本发明实施例提供的全膝关节置换术前规划装置具体可以用于执行上述实施例的全膝关节置换术前规划方法,其技术原理和有益效果类似,具体可参见上述实施例,此处不再赘述。
基于相同的发明构思,本发明实施例提供一种电子设备,参见图14,电子设备具体包括如下内容:处理器301、通信接口303、存储器302和通信总线304;
其中,处理器301、通信接口303、存储器302通过总线304完成相互间的通信;通信接口303用于实现各建模软件及智能制造装备模块库等相关设备之间的信息传输;处理器301用于调用存储器302中的计算机程序,处理器执行计算机程序时实现上述各方法实施例所提供的方法,例如,处理器执行计算机程序时实现下述步骤:获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
基于相同的发明构思,本发明又一实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各方法实施例提供的方法,例如,获取膝关节X线片图像,并确定所述膝关节X线片图像的真实尺寸;将所述膝关节X线片图像输入至神经网络识别模型进行识别,确定所述膝关节X线片图像中骨骼结构的关键点和所述膝关节X线片图像中骨骼结构的关键轴线;基于所述膝关节X线片图像中骨骼结构的关键点、所述膝关节X线片图像中骨骼结构的关键轴线,以及所述膝关节X线片图像的真实尺寸确定所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数;基于所述膝关节X线片图像中骨骼结构的股骨尺寸参数和所述膝关节X线片图像中骨骼结构的胫骨尺寸参数确定股骨假体的类型和型号以及胫骨假体的类型和型号;基于所述关键轴线、所述股骨假体的类型和型号以及所述胫骨假体的类型和型号确定与所述股骨假体和所述胫骨假体对应的安放位置和安放角度。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在计算机可读存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行各个实施例或者实施例的某些部分的方法。
此外,在本发明中,诸如“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是至少两个,例如两个,三个等,除非另有明确具体的限定。
此外,在本发明中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
此外,在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不必须针对的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。