CN114881957A - 一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 - Google Patents
一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 Download PDFInfo
- Publication number
- CN114881957A CN114881957A CN202210463222.1A CN202210463222A CN114881957A CN 114881957 A CN114881957 A CN 114881957A CN 202210463222 A CN202210463222 A CN 202210463222A CN 114881957 A CN114881957 A CN 114881957A
- Authority
- CN
- China
- Prior art keywords
- vertebra
- angle
- inclination
- feature map
- cobb
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/80—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
- G06V10/806—Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30008—Bone
- G06T2207/30012—Spine; Backbone
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Geometry (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
- Radiology & Medical Imaging (AREA)
- Quality & Reliability (AREA)
- Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
- Databases & Information Systems (AREA)
- Apparatus For Radiation Diagnosis (AREA)
Abstract
本发明涉及一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,通过具有HRNet‑18编码单元和分辨率等价融合模块的解码单元构成的网络模型,将X线片图像中椎骨中心点坐标和椎骨倾斜向量进行预测,消除了现有工作中基于点预测Cobb角间接产生的误差,实现Cobb角的高精度自动评估;同时将椎骨中心点坐标和椎骨倾斜向量结合通过OpenCV可视化,实现视觉可解释性。
Description
技术领域
本发明涉及深度学习技术领域,具体而言,涉及一种基于深度学习的脊柱侧弯Cobb角自动评估的方法。
背景技术
脊柱侧弯是指人体脊柱中一个或多个椎体向侧方弯曲并伴有椎体旋转畸形,是常见的一类脊柱病变;脊柱侧弯会影响婴幼儿及青少年的生长发育,使身体变型,严重者可影响心肺功能。脊柱侧弯通常利用站位的X线片图像进行诊断,早期发现相关症状有积极作用,因为医生可以更早的治疗来抑制疾病的恶化;在脊柱侧凸的诊断和治疗决策中,Cobb角的测量至关重要,其通常用于衡量脊柱侧弯程度。如图1(a)所示,临床上Cobb角是上端椎上缘与下端椎下缘的引线夹角;上、下端椎是指侧弯中,向脊柱侧弯凹侧倾斜度最大的椎体,分别做上端椎的上终板和下端椎的下终板延长线,两条延长线或其垂线的夹角即为所求Cobb角;对于脊柱侧弯评估一般需要确定三个Cobb角,角度最大的被认为是主Cobb角,如图1(b)所示
临床上人工测量Cobb角的方式过程繁琐,相当耗时,且容易受主观上椎骨选择的影响会产生一定的偏差,导致不同的观察者测量的Cobb角可能会产生5-10度的差异;因此,Cobb角的评估方法自动化将有助于消除由于人工介入造成的主观性影响,并由此获得在临床上可靠且可重复的评估结果,形成从拍摄成像到诊断报告生成的一体化解决方案,具有很大现实价值与研究意义。
目前,有不少的自动评估Cobb角的方法被提出。其中,基于深度学习的方法相对于传统的方法不需要复杂的特征工程,并且具有较高的鲁棒性,显出了很大的优势。深度学习的方法主要分为两类,一类是直接回归Cobb角的方法,这类方法通过对脊柱整体形状特征进行学习,从而建立脊柱形状与Cobb角之间的关联;对于直接回归Cobb角的方法,由于其只能得到三个Cobb角的角度,而不能具体得知组成这些Cobb角的椎骨,这意味着其无法给出明确的可视化解释结果,从而阻碍了在真实临床诊断场景上的推广;另一类是基于椎骨关键点的方法,这些方法采用间接式的关键点驱动的方式来计算脊柱Cobb角,尽管其思想简单易于构建并且由于关键点检测任务的广泛性,这类方法能够从其他领域借鉴先进的网络框架和优化方法,但是由于一张Xray图像需要预测大量关键点潜在地增加了网络的学习难度并降低了泛化能力,这一点不容忽视;这是因为评估Cobb角的任务目标的本质是评估椎骨的倾斜程度,基于椎骨关键点的自动评估方法通过计算四个关键点形成的曲线斜率来计算椎骨倾斜度从而间接估计Cobb角,其对Cobb角的评估质量严重依赖于关键点的定位准确程度,这也就意味着微小的关键点坐标预测误差可能会导致最终结果的巨大偏差;而由于APxray图像中存在器官组织重叠遮挡的问题,椎骨关键点可能会被遮蔽,关键点坐标预测产生误差通常是不可避免的。
此外,在过去的研究中,基于关键点计算的Cobb角未考虑临床合理性,导致计算的Cobb角不符合临床规则,可能会产生误诊;因为临床诊断中Cobb角的计算不仅要求由倾斜度最大的两个椎骨组成,更重要的是Cobb角只能包含一个侧弯。现有计算Cobb角的方法包括:基于椎骨关键点的计算方法和基于椎骨区域的计算方法。基于椎骨关键点的方法将椎骨的上下边界视为平行,从而将椎骨的横向中线斜率作为椎骨倾斜程度,其中椎骨的横向中线由其四个角点决定,接着求得任意两个椎骨的横向中线所成夹角的角度,其中最大夹角即为Cobb角。MBR方法是一种基于椎骨区域的方法,跟基于椎骨关键点的方法不同之处在于该类方法只标记椎骨轮廓,并使用最小矩形包含轮廓,将矩形的边界作为椎骨的上下边界,再采用与基于椎骨关键点的方法类似的策略计算Cobb角;现有的Cobb角计算方式仅仅只考虑了前者而忽视了后者;为了能更好的应用于临床诊断脊柱侧弯,正确的Cobb角计算必不可少。
发明内容
本发明解决的问题是如何具有视觉可解释性且无间接误差地自动化评估得到符合临川规则的脊柱侧弯Cobb角。
为解决上述问题,本发明提供一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,包括:
步骤1、采集若干张X线片图像,并计算线片图像中的椎骨中心点和椎骨倾斜向量作为标签,作为训练样本集;
步骤2、基于训练样本集构建用于得到预估椎骨中心点和预估椎骨倾斜向量的网络模型,所述网络模型包括编码单元和解码单元,所述编码单元包括HRNet-18,用于输出4层特征图,所述解码单元包括多分辨率等价融合模块,用于将低分辨率下具有强语义信息的特征图和高分辨率下具有丰富空间信息的特征图进行特征融合,得到特征图像;
步骤3、基于特征图像解码得到预估椎骨中心点和预估椎骨倾斜向量;
步骤4、根据步骤3计算得到的椎骨中心点和椎骨倾斜向量与步骤2输出的预估椎骨中心点和预估椎骨倾斜向量构建总体损失函数,优化网络模型;
步骤5、构建用于计算Cobb角的合理角矩阵;
步骤6、基于网络模型和合理角矩阵计算用于脊柱评估的Cobb角并通过OpenCV将Cobb角可视化。
本发明的有益效果是:通过具有HRNet-18编码单元和分辨率等价融合模块的解码单元构成的网络模型,将X线片图像中椎骨中心点坐标和椎骨倾斜向量进行预测,消除了现有工作中基于点预测Cobb角间接产生的误差,实现Cobb角的高精度自动评估;同时将椎骨中心点坐标和椎骨倾斜向量结合通过OpenCV可视化,实现视觉可解释性。
作为优选,所述步骤1具体包括:
步骤101、采集的X线片图像包括n节椎骨,每节椎骨包括左上、右上、左下和右下四个角点坐标,通过计算每节椎骨四个角点坐标的平均值得到每节椎骨中心点的坐标:
式中,ltn,rtn,lbn,rbn分别表示第n节椎骨的左上角点、右上角点、左下角点和右下角点的坐标;
步骤102、根据椎骨中心点的坐标生成椎骨中心点的高斯热图:
式中,(X,Y)为高斯热图中的像素坐标,(xn,yn)为第n节椎骨中心点坐标;σn为高斯热图形成的圆盘的半径;
步骤103、将X线片图像中的n个椎骨中心点的高斯热图合并成为一张椎骨中心点高斯热图H:
H=H1+H2+……+Hn;
步骤104、通过椎骨的四个角点坐标分别得到椎骨左、右侧边的中心点:
则第n节椎骨的椎骨倾斜向量为:
式中,a为椎骨X方向上的倾斜分量,b为Y方向上的倾斜分量;
作为优选,所述特征图像包括预测中心点高斯热图Hpred和椎骨倾斜向量预测特征图Vpred,所述步骤2具体包括:
步骤201、将X线片图像输入网络模型,先经过HRNet-18编码单元输出4层特征图{C1,C2,C3,C4},所述特征图的分辨率{C'1,C'2,C'3,C'4};
步骤202、将特征图{C1,C2,C3,C4}通过多分辨率等价融合模块生成解码阶段的特征图{P1,P2,P3};具体为:
将特征图C4进行上采样,上采样的倍数为然后对上采样后的特征图C4经过3×3的卷积层进行特征处理,并将特征图C4的通道数调至特征图C3的通道数;将相同通道数的特征图C4和特征图C3通过通道拼接实现特征的融合,生成解码阶段的特征图P1;
将P1进行上采样,上采样的倍数为对上采样后的特征图P1经过3×3的卷积层进行特征处理,并将P1的通道数调至特征图C2的通道数;将相同通道的P1和特征图C2通过通道拼接实现特征的融合,生成解码阶段的特征图P2;
同理,将P2进行上采样,上采样的倍数为对上采样后的P2经过3×3的卷积层进行特征处理,并将P2的通道数调至特征图C1的通道数;将相同通道数的P2和特征图C1通过通道拼接实现特征的融合,生成解码阶段的特征图P3;
步骤203、将解码阶段特征图P3经过一个3×3的卷积层和一个1×1的卷积层分别生成预测中心点高斯热图Hpred和椎骨倾斜向量预测特征图Vpred;
相比现有技术CNN通过下采样运算或双线性上采样导致的空间信息损失,通过采用多分辨率等价融合模块将低分辨率下具有强语义信息的特征图和高分辨率下具有丰富空间信息的特征图通过通道拼接进行特征融合;在增加较少计算量的前提下,将强有力的语义信息和丰富的空间信息相结合,有助于椎体中心点的定位和椎骨倾斜向量的估计,避免空间信息损失,提高预测精度。
作为优选,所述步骤3包括:
步骤302、基于预估椎骨中心点得到预估椎骨倾斜向量,第n个椎骨的预估椎骨倾斜向量为:
8.根据权利要求4所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述步骤4具体包括:
步骤401、构建总体损失函数:
Loss=Lhm+Lvec
式中,Lhm用于优化预测中心点高斯热图Hpred;Lvec用于优化椎骨倾斜向量预测特征图Vpred;其中:
采用椎骨定位加权MSE优化预测中心点高斯热图Hpred:
式中,δ和α是超参数,当yi接近0时,权重W接近1,当yi靠近中心点接近1时,权重W接近β+α;
优化椎骨倾斜向量预测特征图Vpred:
Vecgt是步骤1计算的椎骨倾斜向量的值,Vecpred是步骤3输出的预估椎骨倾斜向量的值,M是样本数,N是椎骨数量;
根据脊柱在X线片图像中所占坐标位置和面积的特性型,通过椎骨定位加权MSE,加强区域空间约束,关注脊柱周围区域的差异的同时忽略较远背景的损失。
作为优选,所述步骤5具体包括:
步骤501、基于n节椎骨构建用于存储所有可以构成Cobb角的椎骨组合的角矩阵Angle:
Veci,Vecj分别指的是第i个椎骨和第j椎骨的倾斜度;
步骤502、基于椎骨倾斜向量计算椎骨的倾斜角tmpvec:
式中,i为第i节椎骨;
步骤503、基于椎骨的倾斜角tmpvec依次判断每节椎骨的倾斜方向Orientation[v]:
A1.判断第v节椎骨的倾斜角tmpvec,v=1;
A2.第v节椎骨的倾斜角tmpvec是否小于-3°,若是,则Orientation[v]←-1,并进入A3;否则,判断第v节椎骨的倾斜角tmpvec是否满足-3°≤tmpvec≤3°,若是,则Orientation[v]←0,并进入A3;否则,第v节椎骨的倾斜角tmpvec大于3°,Orientation[v]←1,进入A3;
A3.v=v+1;
A4.判断是否满足v≤n,若是,则返回A1;否则,进入步骤504;
步骤504、基于临床规定Cobb角的椎骨斜率正负变化规则,获取合理矩阵ReaMat:
B1.CurVec=Orientation[v],用于记录Cobb角中上椎骨的倾斜方向;并定义flag=True用于记录椎骨倾斜方向是否发生变化,默认状态下为True,及椎骨倾斜方向没有发生变化;当椎骨倾斜方向没有发生变化时,flag=False;
B2.判断是否满足curvec==0,若是,则进入B3,若否,则进入B6;
B3.找下一个倾斜方向不为0的椎骨k,k=v+1;
B4.判断Orientation[k]是否等于0,若是,则进入B5,若否,则curvec与Orientation[k]的倾斜方向一致,并进入B6;
B5.k=k+1,并返回B4;
B6.定位下椎骨j;j=v;
B7.判断是否满足j≤n;若是,进入B8,若否,则进入B11;
B8.判断下椎骨j的倾斜方向是否满足Orientation[j]==0,若是,则表示第v节椎骨和第j节椎骨能够构成Cobb角,并进入B10;若否,则进入B9;
B9.判断上椎骨v和下椎骨j的倾斜方向是否满足Orientation[j]!=CurVec;若是,则输出flag=False,并进入B10,若否,则判断是否满足flag==False,若是,则第v节椎骨和第j节椎骨不能构成Cobb角,进入B11;若否,则进入B10
B10.第v节椎骨和第j节椎骨能够构成Cobb角,ReaMat[v,j]=ReaMat[j,v]=1,j=j+1,并返回B7;
B11.v=v+1;ReaMat[v,j:]=ReaMat[j:,v]=0;并判断是否满足v≤n,若是,则并返回B2;若否,则输出合理矩阵ReaMat,结束;
步骤505、基于合理矩阵ReaMat与角矩阵点乘得到合理角矩阵RationalCobb,RationalCobb=ReaMat*Angle;
通过综合考虑任意两节椎骨形成的角度,并结合临床上一个Cobb角仅包含一个侧凸的规则,通过合理角矩阵添加角度合理性约束,使得Cobb角计算能够适用于任何脊柱侧弯的情况。
作为优选,所述步骤6具体包括:
步骤601、计算用于评估脊柱侧弯的前三个Cobb角θ1、θ2和θ3:
C1.从RationalCobb中筛选出最大的Cobb角θ1:
Vectop和Vecbottom分别是构成接Cobb角的上椎骨和下椎骨;
C2.得到未组成Cobb角的椎骨合理角RationalCobb'∈Rn
RationalCobb'[:top]=RationalCobb[top,:top]
RationalCobb'[bottom+1]=RationalCobb[bottom,bottom+1]
接着,从剩余的RationalCobb'中筛选出最大的Cobb角θ2:
C3.得到未组成Cobb角的椎骨合理角RationalCobb”∈Rn
RationalCobb”[:top']=RationalCobb'[top',:top']
RationalCobb”[bottom'+1]=RationalCobb'[bottom',bottom'+1]
接着,从剩余RationalCobb”中筛选出最大的Cobb角θ3:
步骤602、基于上椎骨Vectop、Vec'top'、Vec”top”和下椎骨Vecbottom、Vec'bottom'、Vec”bottom”对应的椎骨中心点K=(x,y)以及椎骨倾斜向量Vec=(a,b),通过椎骨中心点得到椎骨中心点所在椎骨横向中线的斜率结合椎骨中心点的坐标获取椎骨横向中线的直线方程的偏移量:S=y-Cx;
步骤603、根据椎骨横向中线的直线方程,采用OpenCV在X线片图像中绘制组成Cobb角的横向中心,使Cobb角可视化。
附图说明
图1中的(1a)为临床上Cobb角是上端椎上缘与下端椎下缘的引线夹角示意图,(1b)为脊柱侧弯评估主Cobb角示意图;
图2为本发明网络模型的结构图;
图3为本发明X线片图像经过网络模型后的输出效果图;
图4为本临床诊断中左侧凸和右侧凸的Cobb角示意图;
图5为本发明Cobb角可视化的输出效果图。
具体实施方式
为使本发明的上述目的、特征和优点能够更为明显易懂,下面结合附图对本发明的具体实施例做详细的说明。
一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,包括:
步骤1、采集若干张X线片图像,并计算线片图像中的椎骨中心点和椎骨倾斜向量作为标签,作为训练样本集;具体包括:
步骤101、采集的X线片图像包括n节椎骨,本具体实施例中n=17,每节椎骨包括左上、右上、左下和右下四个角点坐标,通过计算每节椎骨四个角点坐标的平均值得到每节椎骨中心点的坐标:
式中,ltn,rtn,lbn,rbn分别表示第n节椎骨的左上角点、右上角点、左下角点和右下角点的坐标;
步骤102、根据椎骨中心点的坐标生成椎骨中心点的高斯热图:
式中,(X,Y)为高斯热图中的像素坐标,(xn,yn)为第n节椎骨中心点坐标;σn为高斯热图形成的圆盘的半径;
步骤103、将X线片图像中的17节椎骨中心点的高斯热图合并成为一张椎骨中心点高斯热图H:
H=H1+H2+……+Hn;
步骤104、通过椎骨的四个角点坐标分别得到椎骨左、右侧边的中心点:
则第n节椎骨的椎骨倾斜向量为:
式中,a为椎骨X方向上的倾斜分量,b为Y方向上的倾斜分量;
将步骤1计算的椎骨中心点和椎骨倾斜向量作为对应X线片图像中的标签;
步骤2、基于训练样本集构建用于得到预估椎骨中心点和预估椎骨倾斜向量的网络模型,所述网络模型包括编码单元和解码单元,所述编码单元包括HRNet-18,用于输出4层特征图,所述解码单元包括多分辨率等价融合模块,用于将低分辨率下具有强语义信息的特征图和高分辨率下具有丰富空间信息的特征图进行特征融合,得到特征图像;所述特征图像包括预测中心点高斯热图Hpred和椎骨倾斜向量预测特征图Vpred,如图2所示,具体包括:
步骤201、将X线片图像输入网络模型,先经过HRNet-18编码单元输出4层特征图{C1,C2,C3,C4},所述特征图的分辨率{C'1,C'2,C'3,C'4},本具体实施例特征图的分辨率分别为{256×128×18,128×64×36,64×32×72,32×16×144};本具体实施例中特征图的尺寸为原X线片图像尺寸的
步骤202、将特征图{C1,C2,C3,C4}通过多分辨率等价融合模块生成解码阶段的特征图{P1,P2,P3};具体为:
将特征图C4进行上采样,上采样的倍数为2倍;然后对上采样后的特征图C4经过3×3的卷积层进行特征处理,并将特征图C4的通道数调至特征图C3的通道数;将相同通道数的特征图C4和特征图C3通过通道拼接实现特征的融合,生成解码阶段的特征图P1;
将P1进行上采样,上采样的倍数为2倍;对上采样后的特征图P1经过3×3的卷积层进行特征处理,并将P1的通道数调至特征图C2的通道数;将相同通道的P1和特征图C2通过通道拼接实现特征的融合,生成解码阶段的特征图P2;
同理,将P2进行上采样,上采样的倍数为2倍;对上采样后的P2经过3×3的卷积层进行特征处理,并将P2的通道数调至特征图C1的通道数;将相同通道数的P2和特征图C1通过通道拼接实现特征的融合,生成解码阶段的特征图P3;
步骤203、将解码阶段特征图P3经过一个3×3的卷积层和一个1×1的卷积层分别生成256×128×1的预测中心点高斯热图Hpred和256×128×2的椎骨倾斜向量预测特征图Vpred;
相比现有技术CNN通过下采样运算或双线性上采样导致的空间信息损失,通过采用多分辨率等价融合模块将低分辨率下具有强语义信息的特征图和高分辨率下具有丰富空间信息的特征图通过通道拼接进行特征融合;在增加较少计算量的前提下,将强有力的语义信息和丰富的空间信息相结合,有助于椎体中心点的定位和椎骨倾斜向量的估计,避免空间信息损失,提高预测精度;
步骤3、基于特征图像解码得到预估椎骨中心点和预估椎骨倾斜向量;具体包括:
步骤302、基于预估椎骨中心点得到预估椎骨倾斜向量,第n个椎骨的预估椎骨倾斜向量为:
步骤4、根据步骤3计算得到的椎骨中心点和椎骨倾斜向量与步骤2输出的预估椎骨中心点和预估椎骨倾斜向量构建总体损失函数,优化网络模型;具体包括:
步骤401、构建总体损失函数:
Loss=Lhm+Lvec
式中,Lhm用于优化预测中心点高斯热图Hpred;Lvec用于优化椎骨倾斜向量预测特征图Vpred;其中:
采用椎骨定位加权MSE优化预测中心点高斯热图Hpred:
式中,δ和α是超参数,当yi接近0时,权重W接近1,当yi靠近中心点接近1时,权重W接近β+α;
优化椎骨倾斜向量预测特征图Vpred:
Vecgt是步骤1计算的椎骨倾斜向量的值,Vecpred是步骤3输出的预估椎骨倾斜向量的值,M是样本数,N是椎骨数量,N=17;
根据脊柱在X线片图像中所占坐标位置和面积的特性型,通过椎骨定位加权MSE,加强区域空间约束,关注脊柱周围区域的差异的同时忽略较远背景的损失;
步骤5、构建用于计算Cobb角的合理角矩阵;具体包括:
步骤501、基于n节椎骨构建用于存储所有可以构成Cobb角的椎骨组合的角矩阵Angle:
Veci,Vecj分别指的是第i个椎骨和第j椎骨的倾斜度;
步骤502、基于椎骨倾斜向量计算椎骨的倾斜角tmpvec:
式中,i为第i节椎骨;
步骤503、基于椎骨的倾斜角tmpvec依次判断每节椎骨的倾斜方向Orientation[v]:
A1.判断第v节椎骨的倾斜角tmpvec,v=1;
A2.第v节椎骨的倾斜角tmpvec是否小于-3°,若是,则Orientation[v]←-1,并进入A3;否则,判断第v节椎骨的倾斜角tmpvec是否满足-3°≤tmpvec≤3°,若是,则Orientation[v]←0,并进入A3;否则,第v节椎骨的倾斜角tmpvec大于3°,Orientation[v]←1,进入A3;
A3.v=v+1;
A4.判断是否满足v≤17,若是,则返回A1;否则,进入步骤504;
临床诊断中的Cobb角的椎骨局部形状分为左侧凸和右侧凸,如图3所示,CobbA为左侧凸,CobbB为右侧凸;根据临床上规定Cobb不能包含两个侧弯,所以对于一个Cobb角其对应的曲线端的曲率符号需要一致;依据此原理,要满足一个Cobb角仅包含一个侧弯;组成符合临床规定的Cobb角的椎骨横向中线斜率正负变化的情况如表1所示:
表1
步骤504、基于临床规定Cobb角的椎骨斜率正负变化规则,获取合理矩阵ReaMat:
B1.CurVec=Orientation[v],用于记录Cobb角中上椎骨的倾斜方向;并定义flag=True用于记录椎骨倾斜方向是否发生变化,默认状态下为True,及椎骨倾斜方向没有发生变化;当椎骨倾斜方向没有发生变化时,flag=False;
B2.判断是否满足curvec==0,若是,则进入B3,若否,则进入B6;
B3.找下一个倾斜方向不为0的椎骨k,k=v+1;
B4.判断Orientation[k]是否等于0,若是,则进入B5,若否,则curvec与Orientation[k]的倾斜方向一致,并进入B6;
B5.k=k+1,并返回B4;
B6.定位下椎骨j;j=v;
B7.判断是否满足j≤n;若是,进入B8,若否,则进入B11;
B8.判断下椎骨j的倾斜方向是否满足Orientation[j]==0,若是,则表示第v节椎骨和第j节椎骨能够构成Cobb角,并进入B10;若否,则进入B9;
B9.判断上椎骨v和下椎骨j的倾斜方向是否满足Orientation[j]!=CurVec;若是,则输出flag=False,即上椎骨v和下椎骨j的倾斜方向发生变化,并进入B10,若否,则判断是否满足flag==False,若是,则第v节椎骨和第j节椎骨不能构成Cobb角,进入B11;若否,则进入B10
B10.第v节椎骨和第j节椎骨能够构成Cobb角,ReaMat[v,j]=ReaMat[j,v]=1,j=j+1,并返回B7;
B11.v=v+1;ReaMat[v,j:]=ReaMat[j:,v]=0;并判断是否满足v≤17,若是,则并返回B2;若否,则输出合理矩阵ReaMat,结束;
步骤505、基于合理矩阵ReaMat与角矩阵点乘得到合理角矩阵RationalCobb,RationalCobb=ReaMat*Angle;
通过综合考虑任意两节椎骨形成的角度,并结合临床上一个Cobb角仅包含一个侧凸的规则,通过合理角矩阵添加角度合理性约束,使得Cobb角计算能够适用于任何脊柱侧弯的情况;
步骤6、基于网络模型和合理角矩阵计算用于脊柱评估的Cobb角并通过OpenCV将Cobb角可视化,具体包括:
步骤601、计算用于评估脊柱侧弯的前三个Cobb角θ1、θ2和θ3:
C1.从RationalCobb中筛选出最大的Cobb角θ1:
Vectop和Vecbottom分别是构成接Cobb角的上椎骨和下椎骨;
C2.得到未组成Cobb角的椎骨合理角RationalCobb'∈R17
RationalCobb'[:top]=RationalCobb[top,:top]
RationalCobb'[bottom+1]=RationalCobb[bottom,bottom+1]
接着,从剩余的RationalCobb'中筛选出最大的Cobb角θ2:
C3.得到未组成Cobb角的椎骨合理角RationalCobb”∈R17
RationalCobb”[:top']=RationalCobb'[top',:top']
RationalCobb”[bottom'+1]=RationalCobb'[bottom',bottom'+1]
接着,从剩余RationalCobb”中筛选出最大的Cobb角θ3:
步骤602、基于上椎骨Vectop、Vec'top'、Vec”top”和下椎骨Vecbottom、Vec'bottom'、Vec”bottom”对应的椎骨中心点K=(x,y)以及椎骨倾斜向量Vec=(a,b),通过椎骨中心点得到椎骨中心点所在椎骨横向中线的斜率结合椎骨中心点的坐标获取椎骨横向中线的直线方程的偏移量:S=y-Cx;
步骤603、根据椎骨横向中线的直线方程,采用OpenCV在X线片图像中绘制组成Cobb角的横向中心,使Cobb角可视化,如图5所示。
虽然本公开披露如上,但本公开的保护范围并非仅限于此。本领域技术人员,在不脱离本公开的精神和范围的前提下,可进行各种变更与修改,这些变更与修改均将落入本发明的保护范围。
Claims (7)
1.一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,包括:
步骤1、采集若干张X线片图像,并计算线片图像中的椎骨中心点和椎骨倾斜向量作为标签,作为训练样本集;
步骤2、基于训练样本集构建用于得到预估椎骨中心点和预估椎骨倾斜向量的网络模型,所述网络模型包括编码单元和解码单元,所述编码单元包括HRNet-18,用于输出4层特征图,所述解码单元包括多分辨率等价融合模块,用于将低分辨率下具有强语义信息的特征图和高分辨率下具有丰富空间信息的特征图进行特征融合,得到特征图像;
步骤3、基于特征图像解码得到预估椎骨中心点和预估椎骨倾斜向量;
步骤4、根据步骤3计算得到的椎骨中心点和椎骨倾斜向量与步骤2输出的预估椎骨中心点和预估椎骨倾斜向量构建总体损失函数,优化网络模型;
步骤5、构建用于计算Cobb角的合理角矩阵;
步骤6、基于网络模型和合理角矩阵计算用于脊柱评估的Cobb角并通过OpenCV将Cobb角可视化。
2.根据权利要求1所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述步骤1具体包括:
步骤101、采集的X线片图像包括n节椎骨,每节椎骨包括左上、右上、左下和右下四个角点坐标,通过计算每节椎骨四个角点坐标的平均值得到每节椎骨中心点的坐标:
式中,ltn,rtn,lbn,rbn分别表示第n节椎骨的左上角点、右上角点、左下角点和右下角点的坐标;
步骤102、根据椎骨中心点的坐标生成椎骨中心点的高斯热图:
式中,(X,Y)为高斯热图中的像素坐标,(xn,yn)为第n节椎骨中心点坐标;σn为高斯热图形成的圆盘的半径;
步骤103、将X线片图像中的n个椎骨中心点的高斯热图合并成为一张椎骨中心点高斯热图H:
H=H1+H2+……+Hn;
步骤104、通过椎骨的四个角点坐标分别得到椎骨左、右侧边的中心点:
则第n节椎骨的椎骨倾斜向量为:
式中,a为椎骨X方向上的倾斜分量,b为Y方向上的倾斜分量。
3.根据权利要求1所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述特征图像包括预测中心点高斯热图Hpred和椎骨倾斜向量预测特征图Vpred,所述步骤2具体包括:
步骤201、将X线片图像输入网络模型,先经过HRNet-18编码单元输出4层特征图{C1,C2,C3,C4},所述特征图的分辨率{C'1,C'2,C'3,C'4};
步骤202、将特征图{C1,C2,C3,C4}通过多分辨率等价融合模块生成解码阶段的特征图{P1,P2,P3};具体为:
将特征图C4进行上采样,上采样的倍数为然后对上采样后的特征图C4经过3×3的卷积层进行特征处理,并将特征图C4的通道数调至特征图C3的通道数;将相同通道数的特征图C4和特征图C3通过通道拼接实现特征的融合,生成解码阶段的特征图P1;
将P1进行上采样,上采样的倍数为对上采样后的特征图P1经过3×3的卷积层进行特征处理,并将P1的通道数调至特征图C2的通道数;将相同通道的P1和特征图C2通过通道拼接实现特征的融合,生成解码阶段的特征图P2;
同理,将P2进行上采样,上采样的倍数为对上采样后的P2经过3×3的卷积层进行特征处理,并将P2的通道数调至特征图C1的通道数;将相同通道数的P2和特征图C1通过通道拼接实现特征的融合,生成解码阶段的特征图P3;
步骤203、将解码阶段特征图P3经过一个3×3的卷积层和一个1×1的卷积层分别生成预测中心点高斯热图Hpred和椎骨倾斜向量预测特征图Vpred。
5.根据权利要求4所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述步骤4具体包括:
步骤401、构建总体损失函数:
Loss=Lhm+Lvec
式中,Lhm用于优化预测中心点高斯热图Hpred;Lvec用于优化椎骨倾斜向量预测特征图Vpred;其中:
采用椎骨定位加权MSE优化预测中心点高斯热图Hpred:
W=(δ*yi+α)yi
式中,δ和α是超参数,当yi接近0时,权重W接近α,当yi靠近中心点接近1时,权重W接近β+α;
优化椎骨倾斜向量预测特征图Vpred:
Vecgt是步骤1计算的椎骨倾斜向量的值,Vecpred是步骤3输出的预估椎骨倾斜向量的值,M是样本数,N是椎骨数量。
6.根据权利要求5所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述步骤5具体包括:
步骤501、基于n节椎骨构建用于存储所有可以构成Cobb角的椎骨组合的角矩阵Angle:
Veci,Vecj分别指的是第i个椎骨和第j椎骨的倾斜度;
步骤502、基于椎骨倾斜向量计算椎骨的倾斜角tmpvec:
式中,i为第i节椎骨;
步骤503、基于椎骨的倾斜角tmpvec依次判断每节椎骨的倾斜方向Orientation[v]:
A1.判断第v节椎骨的倾斜角tmpvec,v=1;
A2.第v节椎骨的倾斜角tmpvec是否小于-3°,若是,则Orientation[v]←-1,并进入A3;否则,判断第v节椎骨的倾斜角tmpvec是否满足-3°≤tmpvec≤3°,若是,则Orientation[v]←0,并进入A3;否则,第v节椎骨的倾斜角tmpvec大于3°,Orientation[v]←1,进入A3;
A3.v=v+1;
A4.判断是否满足v≤n,若是,则返回A1;否则,进入步骤504;
步骤504、基于临床规定Cobb角的椎骨斜率正负变化规则,获取合理矩阵ReaMat:
B1.CurVec=Orientation[v],用于记录Cobb角中上椎骨的倾斜方向;并定义flag=True用于记录椎骨倾斜方向是否发生变化,默认状态下为True,及椎骨倾斜方向没有发生变化;当椎骨倾斜方向没有发生变化时,flag=False;
B2.判断是否满足curvec==0,若是,则进入B3,若否,则进入B6;
B3.找下一个倾斜方向不为0的椎骨k,k=v+1;
B4.判断Orientation[k]是否等于0,若是,则进入B5,若否,则curvec与Orientation[k]的倾斜方向一致,并进入B6;
B5.k=k+1,并返回B4;
B6.定位下椎骨j;j=v;
B7.判断是否满足j≤n;若是,进入B8,若否,则进入B11;
B8.判断下椎骨j的倾斜方向是否满足Orientation[j]==0,若是,则表示第v节椎骨和第j节椎骨能够构成Cobb角,并进入B10
若否,则进入B9;
B9.判断上椎骨v和下椎骨j的倾斜方向是否满足Orientation[j]!=CurVec;若是,则输出flag=False,并进入B10,若否,则判断是否满足flag==False,若是,则第v节椎骨和第j节椎骨不能构成Cobb角,进入B11;若否,则进入B10
B10.第v节椎骨和第j节椎骨能够构成Cobb角,ReaMat[v,j]=ReaMat[j,v]=1,j=j+1,并返回B7;
B11.v=v+1;ReaMat[v,j:]=ReaMat[j:,v]=0;并判断是否满足v≤n,若是,则并返回B2;若否,则输出合理矩阵ReaMat,结束;
步骤505、基于合理矩阵ReaMat与角矩阵点乘得到合理角矩阵RationalCobb,RationalCobb=ReaMat*Angle。
7.根据权利要求6所述的一种基于深度学习的脊柱侧弯Cobb角自动评估的方法,其特征在于,所述步骤6具体包括:
步骤601、计算用于评估脊柱侧弯的前三个Cobb角θ1、θ2和θ3:
C1.从RationalCobb中筛选出最大的Cobb角θ1:
Vectop和Vecbottom分别是构成接Cobb角的上椎骨和下椎骨;
C2.得到未组成Cobb角的椎骨合理角RationalCobb′∈Rn
RationalCobb′[:top]=RationalCobb[top,:top]
RationalCobb′[bottom+1]=RationalCobb[bottom,bottom+1]
接着,从剩余的RationalCobb′中筛选出最大的Cobb角θ2:
C3.得到未组成Cobb角的椎骨合理角RationalCobb″∈Rn
RationalCobb″[:top′]=RationalCobb′[top′,:top′]
RationalCobb″[bottom′+1]=RationalCobb′[bottom′,bottom′+1]
接着,从剩余RationalCobb″中筛选出最大的Cobb角θ3:
步骤602、基于上椎骨Vectop、Vec′top′、Vec″top″和下椎骨Vecbottom、Vec′bottom′、Vec″bottom″对应的椎骨中心点K=(x,y)以及椎骨倾斜向量Vec=(a,b),通过椎骨中心点得到椎骨中心点所在椎骨横向中线的斜率结合椎骨中心点的坐标获取椎骨横向中线的直线方程的偏移量:S=y-Cx;
步骤603、根据椎骨横向中线的直线方程,采用OpenCV在X线片图像中绘制组成Cobb角的横向中心,使Cobb角可视化。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210463222.1A CN114881957A (zh) | 2022-04-28 | 2022-04-28 | 一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210463222.1A CN114881957A (zh) | 2022-04-28 | 2022-04-28 | 一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114881957A true CN114881957A (zh) | 2022-08-09 |
Family
ID=82670798
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210463222.1A Pending CN114881957A (zh) | 2022-04-28 | 2022-04-28 | 一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114881957A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115187606A (zh) * | 2022-09-14 | 2022-10-14 | 中国医学科学院北京协和医院 | 一种青少年特发性脊柱侧凸pumc分型方法 |
CN115272313A (zh) * | 2022-09-27 | 2022-11-01 | 广州辉博信息技术有限公司 | 基于深度图像的肌肉均衡程度分析方法、系统及设备 |
-
2022
- 2022-04-28 CN CN202210463222.1A patent/CN114881957A/zh active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115187606A (zh) * | 2022-09-14 | 2022-10-14 | 中国医学科学院北京协和医院 | 一种青少年特发性脊柱侧凸pumc分型方法 |
CN115187606B (zh) * | 2022-09-14 | 2022-12-13 | 中国医学科学院北京协和医院 | 一种青少年特发性脊柱侧凸pumc分型方法 |
CN115272313A (zh) * | 2022-09-27 | 2022-11-01 | 广州辉博信息技术有限公司 | 基于深度图像的肌肉均衡程度分析方法、系统及设备 |
CN115272313B (zh) * | 2022-09-27 | 2022-12-30 | 广州辉博信息技术有限公司 | 基于深度图像的肌肉均衡程度分析方法、系统及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110599528B (zh) | 一种基于神经网络的无监督三维医学图像配准方法及系统 | |
CN111798462B (zh) | 一种基于ct图像的鼻咽癌放疗靶区自动勾画方法 | |
CN114881957A (zh) | 一种基于深度学习的脊柱侧弯Cobb角自动评估的方法 | |
CN103793904B (zh) | 图像配准装置及其图像配准的方法 | |
CN113205535B (zh) | 一种x光片脊椎自动分割及标识方法 | |
CN111047605B (zh) | 一种脊椎ct分割网络模型的构建方法及分割方法 | |
CN107688783B (zh) | 3d图像检测方法、装置、电子设备及计算机可读介质 | |
CN111932550A (zh) | 一种基于深度学习的3d心室核磁共振视频分割系统 | |
CN113077479A (zh) | 急性缺血性脑卒中病灶自动分割方法、系统、终端及介质 | |
CN112396605B (zh) | 网络训练方法及装置、图像识别方法和电子设备 | |
CN111415361B (zh) | 基于深度学习的胎儿大脑脑龄估计和异常检测方法及装置 | |
CN111861989A (zh) | 一种脑中线检测方法、系统、终端及存储介质 | |
CN112132878A (zh) | 基于卷积神经网络的端到端大脑核磁共振图像配准方法 | |
CN115457020A (zh) | 一种融合残差图像信息的2d医学图像配准方法 | |
CN114494289A (zh) | 一种基于局部线性嵌入的插值神经网络的胰腺肿瘤图像分割处理方法 | |
CN115100165A (zh) | 一种基于肿瘤区域ct图像的结直肠癌t分期方法及系统 | |
CN116758087B (zh) | 一种腰椎ct骨窗侧隐窝间隙检测方法及装置 | |
CN111918611A (zh) | 胸部x线图像的异常显示控制方法、异常显示控制程序、异常显示控制装置以及服务器装置 | |
CN116993793A (zh) | 基于自适应多门控混合专家模型的腹部多器官配准方法 | |
CN114119558B (zh) | 一种自动生成鼻咽癌影像诊断结构化报告方法 | |
CN113989269B (zh) | 一种基于卷积神经网络多尺度特征融合的中医舌图像齿痕自动检测方法 | |
CN114596286A (zh) | 图像分割方法、系统、装置和存储介质 | |
CN114663444A (zh) | 一种基于自监督迁移和全域注意力的胎儿心脏分割方法 | |
CN114581459A (zh) | 一种基于改进性3D U-Net模型的学前儿童肺部影像感兴趣区域分割方法 | |
CN113160256A (zh) | 一种多任务生成对抗模型的mr影像胎盘分割方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |