CN112102282A - 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法 - Google Patents

一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法 Download PDF

Info

Publication number
CN112102282A
CN112102282A CN202010956416.6A CN202010956416A CN112102282A CN 112102282 A CN112102282 A CN 112102282A CN 202010956416 A CN202010956416 A CN 202010956416A CN 112102282 A CN112102282 A CN 112102282A
Authority
CN
China
Prior art keywords
lumbar
mask
network
lumbar vertebra
vertebra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010956416.6A
Other languages
English (en)
Inventor
秦品乐
孙超
曾建潮
柴锐
周少飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
North University of China
Original Assignee
North University of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by North University of China filed Critical North University of China
Priority to CN202010956416.6A priority Critical patent/CN112102282A/zh
Publication of CN112102282A publication Critical patent/CN112102282A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30008Bone
    • G06T2207/30012Spine; Backbone

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Apparatus For Radiation Diagnosis (AREA)

Abstract

本发明是一种基于Mask RCNN的医学图像中不同节数腰椎自动识别的方法,该方法利用Mask RCNN网络作为腰椎自动识别模型,该网络在Faster RCNN的基础上加了用于预测每个实例的分割mask。使用添加了腰椎间盘包络框像素坐标、不同节数腰椎包络框像素坐标、Mask分类信息的腰椎矢状面CT定位像作为训练样本来训练腰椎自动识别模型,利用训练好的模型来预测新输入的腰椎矢状面CT定位像中包络框的像素坐标。采用本发明所述方法可以实现三节、四节、五节腰椎的自动定位,此方法中首先通过对腰椎间盘的定位,可以更加准确的对不同节数腰椎进行识别并得到更加合适的包络框坐标。

Description

一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别 方法
技术领域
本发明涉及一种腰椎自动识别技术,尤其是一种基于MaskRCNN的医学图像中腰椎的自动识别技术。
背景技术
近些年CT(计算机断层摄影术)系统发展越来越快,在医学领域得到越来越广泛的应用。CT设备主要包括三个部分:扫描部分、计算机系统、图像显示及存储系统。CT是用X射线束对人体某部分一定厚度的层面进行扫描,由探测器接收透过该层面的X射线,转变为可见光后,由光信号转换为电信号,再经模拟/数字转换器转为数字信号,输入计算机处理。在临床应用中,CT是从人体某一断层中采集建立影像所必需的信息,因此不会因其他解剖组织的重叠而模糊不清。它使用的X射线是一条或多条细窄的线束方式辐射,可以大幅度减少散射线的影响,有利于提高影像清晰度。
目前大多数系统都是医生人工阅片,手动判别每个腰椎的范围、位置、大小。有时由于机器或者其他外部噪声的影响,会使得拍出的CT影像不清晰,影响医生的判断,降低工作效率,人工标注还存在主观误差等问题,所以一种能够减少医生工作量且减少误差的识别方式很必要。
虽然目前也有分割椎骨的方法,但是这些方法只是分割脊柱锥体的区域,还没有具体到对不同节数的腰椎进行分割。比如专利201711315308.5提出一种基于主动轮廓模型的脊柱CT图像自动定位分割方法,该方法能够自动定位椎骨中心并分割初始轮廓位置,进而得到完整椎骨分割结果,但不能得到具体腰椎间盘的分割结果。专利201911264023.2提出一种脊柱自动定位方法,实现脊柱自动定位并识别每个椎体的包络框像素坐标和倾角,但是无法实现不同节数腰椎椎体的分割。
发明内容
发明目的:为弥补现有技术的空白,本发明提出一种基于MaskRCNN的医学图像中不同节数腰椎自动识别方法,可以实现腰椎自动定位并识别L1-S1(第一腰椎-第一骶椎)、L2-S1(第二腰椎-第一骶椎)、L3-S1(第三腰椎-第一骶椎) 的包络框的像素坐标。该方法中增加了腰椎间盘包络框的像素坐标作为mask进行训练,可以得到更加准确的不同节数腰椎包络框的像素坐标。
技术方案:为实现上述目的。本发明提出一种基于Mask RCNN的医学图像中不同节数腰椎的定位方法,包括步骤:
(1)构建训练样本:选取包含不同节数的腰椎矢状面CT定位像,为每个图像添加合适的腰椎间盘和不同节数腰椎包络框的像素坐标、Mask分类信息,得到训练样本;
(2)利用MaskRCNN网络作为腰椎自动识别定位模型,在Faster RCNN 的基础上,添加第三个分支,用来分割mask,mask分支是应用到每一个ROI 上的小的全卷积网络;
(3)利用处理好的训练样本训练腰椎自动识别定位模型;
(4)将新获取到的腰椎矢状面CT定位像输入训练好的腰椎自动识别模型,得到腰椎间盘和不同节数腰椎包络框的像素坐标以及不同节数的腰椎标签。
具体的,训练好的模型包括用于特征提取的主干网络、标注Mask的分支网络、区域生成网络RPN和回归网络,其中:
将预处理过后的定位像输入特征提取网络,获得相应的Feature map;Mask 分支网络对输入的定位像进行处理,得到相应的腰椎间盘和腰椎mask图;将 Feature map输入RPN网络,生成腰椎候选区域;对生成的ROI进行ROIAlign 操作;最后将特征信息输入全连接层进行分类、回归、分割,得到腰椎间盘和不同节数腰椎包络框的像素坐标。
本发明的特征提取中使用ResNet50-FPN作为主干网络。ResNet50-FPN是一种多尺度的方法,它包括自下而上连接、自上而下连接和横向连接三部分,自下而上实际上就是特征提取的过程,将ResNet50作为骨架网络,生成相应的Feature map;自上而下是从最高层开始上采样;横向连接是将上采样的结果和自下而上生成的大小相同的Feature map进行融合。FPN采用多尺度特征融合的方式,将高层的特征添加到相邻的低层组合成新的特征,每一层单独进行预测,实现了在目标检测的时候即考虑全局特征又考虑局部特征。
具体的,所述的MaskRCNN网络的损失函数表达式为:
L=Lfasterrcnn(pi,ti)+Lmask
Figure RE-GDA0002712155040000021
其中pi是预测分类的概率,当预测结果为正样本时,pi *=1,反之,pi *=0;ti是预测的Bounding Box的参数化坐标,ti *是真实值的Bounding Box的参数化坐标;Ncls是mini-batch size;Nreg是Anchor Location的数量;λ是正则化参数; Lcls是类别的对数损失,Lcls(pi,pi *)=-log[pipi *+(1-pi)(1-pi *)];Lreg(ti,ti *)=R(ti-ti *),R 是Smooth L1函数:
Figure RE-GDA0002712155040000031
Bounding Box的参数化坐标为:
tx=(x-xa)/wa,ty=(y-ya)/ha
tw=log(w/wa),th=log(h/ha)
Figure RE-GDA0002712155040000032
Figure RE-GDA0002712155040000033
其中,x,y,w,h是Bounding Box的中心点坐标、宽度、高度;x,xa, x*分别对应Predicted Box、Anchor Box、GroundTruth Box。
有益效果:与现有技术相比,本发明具有以下优势:
本发明通过构建MaskRCNN网络,将腰椎间盘和不同节数腰椎椎体像素包络框坐标作为Mask进行训练,调整参数后得到最优模型,将新获得的腰椎CT 定位像输入加载好的模型中,可以自动识别并定位出腰椎间盘的包络框,然后对不同节数的腰椎包络框进行定位,得到更加准确的腰椎椎体像素坐标。这为医生的诊断提供了辅助分析,该过程是自动进行的,所以不需要医生的过多参与,大大减少医生工作量,同时提高了工作效率。
附图说明
图1所示为本发明构建的腰椎自动识别定位模型图;
图2为训练好的腰椎自动识别定位模型的输入图像、输出图像对比图。
具体实施方式
下面结合附图和具体实施例对本发明作更进一步说明。
本发明提出一种基于Mask RCNN的医学图像中不同节数腰椎自动识别定位方法,包括步骤:
(1)构建训练样本:选取腰椎矢状面CT定位像,为每个图像添加腰椎间盘和不同节数腰椎包络框的像素坐标、Mask分类信息,得到训练样本;
(2)利用Mask RCNN网络作为腰椎自动识别模型,该网络的输出中包括:候选区域的相关参数、候选区域为目标的概率值;
(3)利用处理好的训练样本训练腰椎自动识别模型;
(4)将新获取的腰椎矢状面CT定位像输入训练好的腰椎自动识别模型,得到腰椎间盘和不同节数腰椎包络框的像素坐标以及不同节数的腰椎标签。
如图1所示,根据本发明的基于Mask RCNN的医学图像中不同节数腰椎自动识别定位方法的实施例所涉及的MaskRCNN神经网络示意性框图。
原始的Faster RCNN主要包括三个网络:主干网络,RPN网络(区域建议网络)和回归网络。
主干网络完成图像特征提取的任务,同时降低图像的维度,一般该网络的结构由卷积层+RELU激活层+卷积层+RELU激活层+池化层组成一部分,然后由多个这样的部分级联而成。该网络的主要作用是将输入的图像变成卷积特征图即 Feature map。
接下来将Feature map输入到FPN网络,通过对提取到的特征信息进行处理,选出合适的候选ROI。
最后经过ROIAlign操作提取相应的特征矩阵,送入最后的回归网络,输出特征包络框像素坐标和类别标签。
对比于原始的Faster RCNN,该发明改进了RPN网络,加入了腰椎间盘及腰椎椎体区域的mask来进行训练,只有在腰椎有效区域的RPN才会有激活输出。本方法中使用腰椎间盘和不同节数腰椎包络框像素坐标作为mask,通过添加腰椎间盘包络框可以更加准确定位腰椎椎体的位置,对识别三节、四节、五节腰椎起到辅助作用,使输出的包络框像素坐标更加符合实际要求。
在本实施例构建的MaskRCNN神经网络中,特征提取网络用来提取加入了腰椎间盘及腰椎椎体包络框像素坐标的CT定位像的卷积特征,得到相应的 Feature map,该特征提取网络使用ResNet50-FPN作为骨架;Mask分支网络用来得到腰椎间盘及腰椎椎体mask图;将提取得到的Feature map输入RPN网络,生成腰椎间盘及腰椎椎体包络框的候选区域;对生成的候选区域进行ROIAlign 操作,去除掉不合适的候选框;最后将特征信息输入全连接层进行分类、回归、分割,得到腰椎间盘及不同节数腰椎椎体包络框的像素坐标和分类标签。
调整超参数,得到损失最小的最优模型,将新获得的腰椎矢状面CT定位像输入最优模型,即可得到腰椎间盘及不同节数腰椎包络框的像素坐标,最后进行可视化显示,如图2所示,其中1表示五节腰椎锥体包络框(L1-S1:第一腰椎- 第一骶椎),2表示四节腰椎锥体包络框(L2-S1:第二腰椎-第一骶椎),3表示三节腰椎锥体包络框(L3-S1:第三腰椎-第一骶椎),4表示腰椎间盘包络框(L1-2; L2-3;L3-4;L4-5;L5-S1)。

Claims (3)

1.一种基于Mask RCNN的医学图像中不同节数腰椎自动识别方法,包括步骤:
(1)构建训练样本:选取腰椎矢状面CT定位像,为每个图像添加腰椎间盘和不同节数腰椎椎体包络框的像素坐标、Mask分类信息,得到训练样本;
(2)利用Mask RCNN网络作为腰椎自动识别模型,该网络的输出中包括:候选区域的相关参数、候选区域为目标的概率值;
(3)利用处理好的训练样本训练腰椎自动识别模型;
(4)将新获取的腰椎矢状面CT定位像输入训练好的腰椎自动识别模型,得到腰椎间盘和不同节数腰椎包络框的像素坐标以及不同节数的腰椎标签。
2.根据权利要求1所述的一种基于Mask RCNN的医学图像中不同节数腰椎自动识别模型,该训练好的模型包括用于特征提取的主干网络、标注Mask的分支网络、区域生成网络rpn,回归网络,最终实现分类、回归、分割的任务。
将预处理过后的定位像输入特征提取网络,获得相应的Feature map;Mask分支网络对输入的定位像进行处理,得到相应的腰椎mask图;根据Feature map生成候选ROI;将候选ROI输入RPN网络进行二值分类,过滤掉一部分ROI;对剩下的ROI进行ROIAlign操作,最后将特征信息输入全连接层进行分类、回归、分割,得到腰椎间盘和不同节数腰椎包络框的像素坐标。
3.根据权利要求2所述的一种基于Mask RCNN的医学图像中不同节数腰椎自动识别模型,所述的MaskRCNN网络的损失函数为:
L=Lfasterrcnn(pi,ti)+Lmask
Figure FDA0002678742620000011
其中pi是预测分类的概率,当预测结果为正样本时,pi *=1,反之,pi *=0;ti是预测的Bounding Box的参数化坐标,ti *是真实值的Bounding Box的参数化坐标;Ncls是mini-batchsize;Nreg是Anchor Location的数量;λ是正则化参数。
Lcls是类别的对数损失:
Lcls(pi,pi *)=-log[pipi *+(1-pi)(1-pi *)]。
Lreg(ti,ti *)=R(ti-ti *),R是Smooth L1函数:
Figure FDA0002678742620000012
Lmask是分割误差,使得网络能够输出每一类的mask,对于每个ROI,都是用sigmoid函数求相对熵,得到平均熵误差Lmask,ROI属于哪一个分类,就只使用哪一个分支的相对熵误差作为误差值进行计算。
CN202010956416.6A 2020-09-11 2020-09-11 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法 Pending CN112102282A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010956416.6A CN112102282A (zh) 2020-09-11 2020-09-11 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010956416.6A CN112102282A (zh) 2020-09-11 2020-09-11 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法

Publications (1)

Publication Number Publication Date
CN112102282A true CN112102282A (zh) 2020-12-18

Family

ID=73750957

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010956416.6A Pending CN112102282A (zh) 2020-09-11 2020-09-11 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法

Country Status (1)

Country Link
CN (1) CN112102282A (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112734740A (zh) * 2021-01-18 2021-04-30 推想医疗科技股份有限公司 训练目标检测模型的方法、目标检测的方法及其装置
CN113436202A (zh) * 2021-05-26 2021-09-24 哈尔滨理工大学 基于Mask R-CNN网络的脊柱CT图像分割系统
CN113470004A (zh) * 2021-07-22 2021-10-01 上海嘉奥信息科技发展有限公司 一种基于ct的单个椎体的分割方法、系统及介质
CN114494192A (zh) * 2022-01-26 2022-05-13 西南交通大学 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070242869A1 (en) * 2006-04-12 2007-10-18 Eastman Kodak Company Processing and measuring the spine in radiographs
CN108765371A (zh) * 2018-04-25 2018-11-06 浙江大学 一种病理切片中非常规细胞的分割方法
CN108846314A (zh) * 2018-05-08 2018-11-20 天津大学 一种基于深度学习的食材辨识系统和食材辨识方法
CN109284669A (zh) * 2018-08-01 2019-01-29 辽宁工业大学 基于Mask RCNN的行人检测方法
CN109712118A (zh) * 2018-12-11 2019-05-03 武汉三江中电科技有限责任公司 一种基于Mask RCNN的变电站隔离开关检测识别方法
CN110866921A (zh) * 2019-10-17 2020-03-06 上海交通大学 基于自训练和切片传播的弱监督脊椎椎体分割方法和系统
CN111047572A (zh) * 2019-12-10 2020-04-21 南京安科医疗科技有限公司 一种基于Mask RCNN的医学图像中脊柱自动定位方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070242869A1 (en) * 2006-04-12 2007-10-18 Eastman Kodak Company Processing and measuring the spine in radiographs
CN108765371A (zh) * 2018-04-25 2018-11-06 浙江大学 一种病理切片中非常规细胞的分割方法
CN108846314A (zh) * 2018-05-08 2018-11-20 天津大学 一种基于深度学习的食材辨识系统和食材辨识方法
CN109284669A (zh) * 2018-08-01 2019-01-29 辽宁工业大学 基于Mask RCNN的行人检测方法
CN109712118A (zh) * 2018-12-11 2019-05-03 武汉三江中电科技有限责任公司 一种基于Mask RCNN的变电站隔离开关检测识别方法
CN110866921A (zh) * 2019-10-17 2020-03-06 上海交通大学 基于自训练和切片传播的弱监督脊椎椎体分割方法和系统
CN111047572A (zh) * 2019-12-10 2020-04-21 南京安科医疗科技有限公司 一种基于Mask RCNN的医学图像中脊柱自动定位方法

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112734740A (zh) * 2021-01-18 2021-04-30 推想医疗科技股份有限公司 训练目标检测模型的方法、目标检测的方法及其装置
CN112734740B (zh) * 2021-01-18 2024-02-23 推想医疗科技股份有限公司 训练目标检测模型的方法、目标检测的方法及其装置
CN113436202A (zh) * 2021-05-26 2021-09-24 哈尔滨理工大学 基于Mask R-CNN网络的脊柱CT图像分割系统
CN113470004A (zh) * 2021-07-22 2021-10-01 上海嘉奥信息科技发展有限公司 一种基于ct的单个椎体的分割方法、系统及介质
CN114494192A (zh) * 2022-01-26 2022-05-13 西南交通大学 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法
CN114494192B (zh) * 2022-01-26 2023-04-25 西南交通大学 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法

Similar Documents

Publication Publication Date Title
CN111047572B (zh) 一种基于Mask RCNN的医学图像中脊柱自动定位方法
US11379975B2 (en) Classification and 3D modelling of 3D dento-maxillofacial structures using deep learning methods
CN112102282A (zh) 一种基于Mask RCNN的医学图像中不同节数腰椎的自动识别方法
CN111445478B (zh) 一种用于cta图像的颅内动脉瘤区域自动检测系统和检测方法
WO2021017297A1 (zh) 基于人工智能的脊柱影像处理方法及相关设备
CN111291825B (zh) 病灶分类模型训练方法、装置、计算机设备和存储介质
CN111882560B (zh) 一种基于加权全卷积神经网络的肺实质ct图像分割方法
CN109584209B (zh) 血管壁斑块识别设备、系统、方法及存储介质
JP5279245B2 (ja) クラスタ変更グラフ・カットを使用する検出の方法および装置
CN112862824A (zh) 新型冠状病毒肺炎病灶检测方法、系统、装置和存储介质
CN114494192B (zh) 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法
CN110223279B (zh) 一种图像处理方法和装置、电子设备
JP2005296605A (ja) 放射線写真画像を診断関連領域と診断非関連領域とにセグメント化する方法
CN111507932B (zh) 高特异性的糖尿病性视网膜病变特征检测方法及存储设备
CN111462071B (zh) 一种图像处理方法和系统
CN112669254A (zh) 基于全身骨扫描影像的深度学习摄护腺癌骨转移辨识系统
CN112308822A (zh) 基于深度卷积神经网络的椎间盘ct图像检测方法
US20230177698A1 (en) Method for image segmentation, and electronic device
CN111681230A (zh) 脑白质高信号评分系统及其评分方法
CN112991365B (zh) 一种冠状动脉分割方法、系统及存储介质
CN114359205B (zh) 头颈血管分析方法、装置、存储介质及电子设备
CN112053325A (zh) 一种乳腺肿块图像处理和分类系统
WO2022271838A1 (en) Detecting and segmenting regions of interest in biomedical images using neural networks
CN114638800A (zh) 一种基于改进Faster-RCNN的头影标记点定位方法
Kuok et al. Vertebrae segmentation from X-ray images using convolutional neural network

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination