CN108305248B - 一种骨折识别模型的构建方法及应用 - Google Patents
一种骨折识别模型的构建方法及应用 Download PDFInfo
- Publication number
- CN108305248B CN108305248B CN201810046430.5A CN201810046430A CN108305248B CN 108305248 B CN108305248 B CN 108305248B CN 201810046430 A CN201810046430 A CN 201810046430A CN 108305248 B CN108305248 B CN 108305248B
- Authority
- CN
- China
- Prior art keywords
- fracture
- coordinate system
- representing
- training
- sample
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010276 construction Methods 0.000 title abstract description 4
- 238000012549 training Methods 0.000 claims abstract description 71
- 238000000034 method Methods 0.000 claims abstract description 55
- 238000001514 detection method Methods 0.000 claims abstract description 20
- 238000000605 extraction Methods 0.000 claims abstract description 15
- 238000005065 mining Methods 0.000 claims abstract description 9
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 230000009466 transformation Effects 0.000 claims description 48
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 41
- 239000011159 matrix material Substances 0.000 claims description 30
- 238000013527 convolutional neural network Methods 0.000 claims description 19
- 210000000988 bone and bone Anatomy 0.000 claims description 14
- 239000000126 substance Substances 0.000 claims description 14
- 235000013372 meat Nutrition 0.000 claims description 11
- 238000013526 transfer learning Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 claims description 8
- 238000002372 labelling Methods 0.000 claims description 8
- 230000005764 inhibitory process Effects 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 4
- 238000004458 analytical method Methods 0.000 claims description 3
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000013135 deep learning Methods 0.000 claims description 3
- 238000003745 diagnosis Methods 0.000 abstract description 12
- 230000009286 beneficial effect Effects 0.000 abstract description 9
- 206010017076 Fracture Diseases 0.000 description 111
- 208000010392 Bone Fractures Diseases 0.000 description 106
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000013434 data augmentation Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 206010018720 Greenstick fracture Diseases 0.000 description 1
- 208000002565 Open Fractures Diseases 0.000 description 1
- 208000027418 Wounds and injury Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 210000000481 breast Anatomy 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 210000002683 foot Anatomy 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 230000004807 localization Effects 0.000 description 1
- 210000003141 lower extremity Anatomy 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 210000001364 upper extremity Anatomy 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0012—Biomedical image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10116—X-ray image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30004—Biomedical image processing
- G06T2207/30008—Bone
Abstract
本发明提供了一种骨折识别模型的构建方法及应用,包括：A、获取不同骨折部位的不同的骨折类型的X光图像；B、分别对各个不同骨折部位的不同的骨折类型的X光图像进行图像预处理；C、对所述预处理后的图像进行图像特征提取；D、根据所述图像特征生成候选区域；F、根据所述候选区域进行骨折类型目标检测和区域定位；G、根据骨折类型目标检测分数，进行困难样本挖掘获取训练用的负样本；K、通过对抗学习的策略扩充训练用的正样本；H、利用所述正样本和所述负样本进行训练以分别获取各个用于不同骨折部位的骨折识别模型。由上，本申请有利于通过上述模型准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低漏诊和误诊率。
Description
技术领域
本发明涉及医学影像领域，特别是涉及一种骨折识别模型的构建方法及应用。
背景技术
骨折是日常生活中常见的疾患，在对患者的骨折进行诊断时，医生通常会通过对患者的骨折部位进行X光拍摄，根据骨折部位的X光图像，根据医生的经验对骨折的位置及类型进行肉眼的识别。由此可见，上述的识别对于医生的水平要求较高，且识别的准确度和识别的效率依赖于医生的经验水平。因此，目前亟需一种骨折识别模型。以有利于准确快速的实现对骨折类型的识别以及对骨折区域的定位，从而为医生的诊断提供参考，大大减少医生的诊断时间，降低误诊率。
发明内容
有鉴于此，本申请提供一种骨折识别模型的构建方法及应用，有利于准确快速的实现对骨折类型的识别以及对骨折区域的定位，从而为医生的诊断提供参考，大大减少医生的诊断时间，降低误诊率。
本申请提供一种骨折识别模型的构建方法，包括：
A、获取不同骨折部位的不同的骨折类型的X光图像；
B、分别对各个不同骨折部位的不同的骨折类型的X光图像进行图像预处理；
C、通过卷积神经网络Inception ResNetV2对所述预处理后的图像进行图像特征提取；
D、通过Faster-RCNN中的区域建议网络层RPN层根据所述图像特征生成候选区域；
E、通过Faster-RCNN中的分类层根据所述候选区域进行骨折类型目标检测和区域定位；
F、根据所述骨折类型目标检测的信息及所述区域定位的信息，通过困难样本挖掘策略获取训练用的负样本以及通过对抗学习的策略扩充训练用的正样本；
G、利用所述正样本和所述负样本进行训练以分别获取各个用于不同骨折部位的骨折识别模型；
其中，所述骨折识别包括骨折类型的识别和骨折区域的检测。
由上，本申请通过对不同的骨折部位的不同的骨折类型的识别和骨折区域的检测模型的构建，有利于通过上述模型准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
优选地，所述步骤B包括：
B1、通过连通域分析，初步定位骨肉区域；
B2、将所述骨肉区域的边缘的非图像区域删除；
B3、根据所述骨肉区域，调整窗宽窗位信息。
由上，B1有利于初步定位骨肉区域的同时可以缓解目标物体尺度过小问题。B2有利于减少对均值和方差的影响。B3有利于将某些不太明显的的骨折(如骨裂)进行显示。
优选地，所述调整窗宽窗位信息包括：
分别使用参数a，b＝[1,2],[0.5,2.5],[1,3],[2,4],使用下述公式生成4个通道以调整窗宽窗位信息：
X[Mlow]＝μ-a·σ
X[Mup]＝μ+b·σ
其中，所述X表示X射线影像，其取值范围是[0,216]；μ表示均值；σ表示标准差；Mlow表示小于窗阈值掩码；Mup表示大于窗阈值掩码；X[Mlow]表示大于阈值的像素；X[Mup]表示小于阈值的像素；其中参数a，b表示控制阈值。
由上，通过上述处理有利于精确的调整窗宽窗位信息将某些不太明显的的骨折(如骨裂)进行显示。
优选地，在步骤F中的负样本的选取的步骤包括：
通过非极大值抑制法对步骤E中的区域定位后获取的各个预测骨折区域位置框进行打分处理；
根据所述打分选取一指定数量的样本，并选择其与医生标注的骨折区域无交集的区域；
使用困难样本挖掘方法对所述与医生标注区域无交集的区域进行打分并按照分数由高到低排列选取指定数量的所述与医生标注区域无交集的区域作为困难样本，放入损失函数计算，并用于反向传播。
由上，在目标物体检测中困难样本挖掘是在样本筛选中，只关注识别错误概率超过一定阈值的样本。仅使用部分样本而不是使用全部的样本，其原因是样本的识别分数一般表现出长尾分布特征。通常我们更关注的是分类错误的样本。如果分类正确，分数是否足够好，通常不需要过多关心。因此，通过上述步骤有利于获取更适合训练用的负样本。
在步骤F中的正样本扩充的的步骤包括：
通过仿射变换和对抗学习进行正样本的扩充；包括：
f1、通过仿射变换矩阵获取目标坐标系，公式为：
其中，
表示目标坐标系；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示原坐标系的横坐标；
表示原坐标系的纵坐标；Aθ为仿射变换矩阵；
为仿射变换矩阵，其中的每一个元素θ11，.........θ23分别表示一个3*2仿射变换小矩阵；xi和yi分别表示像素i的x轴和y轴；
f2、根据所述目标坐标系的横坐标、纵坐标及原坐标系的像素值，通过下述公式获取目标坐标系的像素值：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值；
f3、根据所述原坐标系像素值和目标坐标系像素值获取对抗样本的像素值；以及通过目标坐标系的横坐标和纵坐标、原仿射变换矩阵、目标坐标系像素值获取对抗样本的仿射变换矩阵；
其中，假设损失函数为
对抗样本的像素值的获取公式为：
对抗样本的仿射变换矩阵的获取的公式为：
其中，Xnew表示对抗样本的像素值，θnew表示对抗样本的仿射变换矩阵。Xnm表示原坐标系的像素值，
表示目标坐标系像素值。ε是超参数，θ为仿射变换矩阵中的各个表示3*2仿射变换小矩阵的元素，Is表示目标坐标系的坐标；Ytarget表示医生标注的骨折位置和骨折类型信息。J表示深度学习公式；
f4、通过空间变换层Spatial Transformer layer对所述对抗样本的像素值及对抗样本的仿射变进行训练，生成对抗后的样本图像。
由上，在训练过程中，正样本(骨折区域)和负样本(其他区域)不是一个数量级。这会造成算法极容易出现过学习。自然图像中常用的dropout或者L0范数，L1范数，L2范数正则化都很难缓解次问题。数据扩充可以根据正样本生成一批虚拟样本，但是选择什么样的生成样本一个需要研究的问题。近期的对抗训练尝试解决两个问题1)模型的安全性，2)增加正则化机制，使更好的泛化能力。对医学图像来说后者更重要。骨折是一个人体骨架在平面上的投射变换。因为没有骨架信息，而且骨架因人差异巨大，无法实现其透视变换(Perspective Transformation)。因此本文使用仿射变换(affine transformation)来对其近似。另一方面拍摄受到距离和个人差异的影响。同一区域的骨宽也差异巨大。综上所属，本文采用仿射变换，和采样的对抗样本来进行扩充。本申请的对抗扩充相当于增加正则化项，实验证明通过仿射变换和采样对抗训练，可以显著提升算法的识别率和稳定性。
优选地，所述
的获取公式为：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值。
优选地，所述
的获取公式为：
所述
的获取的公式为：
优选地，所述步骤G之后还包括：
H、进行迁移学习和训练，包括：
H1、将从斯坦福公开数据库Imagenet中获取的训练集，作为训练样本；
H2、使用卷积神经网络Inception ResnetV2对所述训练样本进行特征提取；并通过全连接层对提取后的图像特征进行分类；以获取特征提取参数；
H3、利用微软公开数据库Microsoft COCO提供的目标物体位置和分类信息以及利用H2中得到的特征提取参数，进行Faster RCNN的区域回归训练和分类训练；并进行整个获取卷积神经网络的训练，获取一预训练模型；
H4、将所述预训练模型的模型参数迁移到所述步骤G中获取的骨折识别模型中；
并通过卷积神经网络利用其进行位置回归训练和分类训练；并进行整个卷积神经网络的训练，以优化迁移学习之后训练完成的骨折识别模型。
由上，上述迁移学习及训练，在训练阶段，训练数据集需求量极大的缩小，通常的需要上万张的图片用于训练，但是本申请的骨折识别模型仅需几百张的原始图像用以训练。且本申请采用迁移学习的策略进行训练克服了Faster RCNN收敛不稳定的问题。
本申请还提供一种前述的骨折识别模型的骨折识别方法，其特征在于，包括如下步骤：
A’、输入患者的受伤部位的待识别的X光图像；
B’、将所述X光图像进行图像预处理；
C’、对预处理后的图像进行图像特征提取；
D’、利用训练好的与所述患者的受伤部位的相对应的骨折识别模型进行骨折类型的识别与骨折区域检测。
由上，本申请通过上述的步骤有利于准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
优选地，所述步骤D’之后还包括：
使用非极大值抑制法对通过所述骨折识别模型获取的候选框进行处理以获取骨折候选区域；包括：
将识别分数超过一指定阈值的区域作为骨折候选区域；或者
当识别分数超过一指定阈值的区域的数量小于一指定数量时，根据识别分数的排名顺序，选择一指定数量的区域作为骨折候选区域。
由上，有利于更好的为用户提供可以用于参考的骨折候选区域。
综上所述，本申请通过对不同的骨折部位的不同的骨折类型的识别和骨折区域的检测模型的构建，有利于通过上述模型准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
附图说明
图1为本申请实施例提供的一种骨折识别模型的构建方法的流程示意图；
图2为本申请实施例提供的卷积神经网络Inception Resnetv2的结构示意图；
图3为本申请实施例提供的Faster RCNN(快速目标检测)的工作原理示意图；
图4为本申请实施例提供的基于骨折识别模型的骨折识别方法。
具体实施方式
下面将结合本申请实施例中的附图对本申请进行说明。
实施例一
如图1所示，S101，获取不同骨折部位的不同的骨折类型的X光图像.
具体的，由于不同部位的不同的骨折类型的骨折具有不同的特征，因此为了更好的构建骨折识别模型，因此首选获取不同骨折部位的不同的骨折类型的X光图像。其中，对不同骨折部位的图像分别根据骨折类型进行标注，以分别获取包含有不同骨折部位的骨折类型与其对应的位置信息(也即后述的医生标注区域)；其中，不同骨折部位包括：手、足、上肢、下肢、胸部、脊柱、头部等；不同的骨折类型包括：开放性骨折、完全骨折、骨裂、青枝骨折、错位、边缘不整等。通过上述的分类获取从概率角度考虑可以减少样本的变换。从信息熵的角度考虑，可以给反向传播提供更多的信息。当批最小化(mini-batch)的时候可以保证震荡减小，更容易收敛。
S102，分别对各个不同骨折部位的不同的骨折类型的X光图像进行图像预处理；包括：
B1、通过连通域分析，初步定位骨肉区域；有利于初步定位骨肉区域的同时可以缓解目标物体尺度过小问题。
B2、将所述骨肉区域的边缘的非图像区域删除；因为拍摄设备的差别，通常在正常区域外侧可见大量的白边。通过该处理有利于保证骨肉定位以后归一化不受非正常区域干扰。使得均值和方差的估计不受影响。
B3、根据所述骨肉区域，调整窗宽窗位信息。由于某些骨折(如骨裂)不太明显，因此，通过调整窗宽窗位信息，有利于将某些不太明显的的骨折(如骨裂)进行显示。包括：
分别使用参数a，b＝[1,2],[0.5,2.5],[1,3],[2,4],使用下述公式生成4个通道以调整窗宽窗位信息：
X[Mlow]＝μ-a·σ
X[Mup]＝μ+b·σ
其中，所述X表示X射线影像，其取值范围是[0,216]；μ表示均值；σ表示标准差；Mlow表示小于窗阈值掩码；Mup表示大于窗阈值掩码；X[Mlow]表示大于阈值的像素；X[Mup]表示小于阈值的像素；其中参数a，b表示控制阈值。
S103，通过卷积神经网络Inception ResNetV2对所述预处理后的图像进行图像特征提取。
如图2所示，本申请还用到了Inception ResNetV2(一种深度卷积神经网络)。此网络结合Inception的解偶能力与Resnet的网络链接方式，避免层数过深的梯度消失问题。网络在COCO的竞赛表现较好的检出率。网络分成2部分，第一部分从下向上到7*Inception-B的输出。此部分用于Region Proposal的特征生成。第二部从Reduction-B开始用于FasterRCNN的分类层。
S104，通过Faster-RCNN中的区域建议网络层RPN层根据所述图像特征生成候选区域。
本申请用到了Faster-RCNN模型，Faster RCNN模型是经典的目标识别方法，该方法利用深度卷积神经网络，RPN网络来解决特征提取，定位和分类问题。其中用于产生目标备选集的RPN网络也是一个深度卷积神经网络，所以整个模型可以以一种端到端的方式进行训练。相比之前的以不同的方法来分别解决这些子任务的目标识别方法，Faster-RCNN在训练的效率以及识别的精度上有了很大的提升。网络构架如图3所示，首先对图像进行特征提取，然后使用RPN层生成候选区域。根据候选区域尺寸将其改变到固定尺寸，以进行后续的分类。这是一种2个步骤的目标物体检测。专门的RPN层缓解分类层分类不平衡的问题，使得其识别率较好。
S105，通过Faster-RCNN中的分类层根据所述候选区域进行骨折类型目标检测和区域定位。
S106，根据所述骨折类型目标检测的信息及所述区域定位的信息，通过困难样本挖掘策略获取训练用的负样本以及通过对抗学习的策略扩充训练用的正样本。
在目标物体检测中困难样本挖掘是在样本筛选中，只关注识别错误概率超过一定阈值的样本。仅使用部分样本而不是使用全部的样本，其原因是样本的识别分数一般表现出长尾分布特征。通常我们更关注的是分类错误的样本。如果分类正确，分数是否足够好，通常不需要过多关心。因此，通过下述步骤有利于获取更适合训练用的负样本：
通过非极大值抑制法对步骤S105中的区域定位后获取的各个预测骨折区域位置框进行打分处理；
根据所述打分选取一指定数量的样本，并选择其与医生标注区域无交集的区域；
使用困难样本挖掘方法对所述与医生标注区域无交集的区域进行打分并按照分数由高到低排列选取指定数量的所述与医生标注区域无交集的区域放入损失函数计算，并用于反向传播，以获取迭代优化处理后的负样本。
其中，正样本的选取的步骤包括：
通过仿射变换和对抗学习进行正样本的扩充；包括：
f1、通过仿射变换矩阵获取目标坐标系，公式为：
其中，
表示目标坐标系；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示原坐标系的横坐标；
表示原坐标系的纵坐标；Aθ为仿射变换矩阵；
为仿射变换矩阵，其中的每一个元素θ11，.........θ23分别表示一个3*2仿射变换小矩阵；xi和yi分别表示像素i的x轴和y轴；
f2、根据所述目标坐标系的横坐标、纵坐标及原坐标系的像素值，通过下述公式获取目标坐标系的像素值：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值；
f3、根据所述原坐标系像素值和目标坐标系像素值获取对抗样本的像素值；以及通过目标坐标系的横坐标和纵坐标、原仿射变换矩阵、目标坐标系像素值获取对抗样本的仿射变换矩阵；
其中，假设损失函数为
对抗样本的像素值的获取公式为：
对抗样本的仿射变换矩阵的获取的公式为：
其中，Xnew表示对抗样本的像素值，θnew表示对抗样本的仿射变换矩阵。Xnm表示原坐标系的像素值，
表示目标坐标系像素值。ε是超参数，θ为仿射变换矩阵中的各个表示3*2仿射变换小矩阵的元素，Is表示目标坐标系的坐标；Ytarget表示医生标注的骨折位置和骨折类型信息。J表示深度学习公式；
f4、通过空间变换层Spatial Transformer layer对所述对抗样本的像素值及对抗样本的仿射变进行训练，生成对抗后的样本图像。
其中，所述
的获取公式为：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值。
其中，所述
的获取公式为：
所述
的获取的公式为：
由上，在训练过程中，正样本(骨折区域)和负样本(其他区域)不是一个数量级。这会造成算法极容易出现过学习。自然图像中常用的dropout或者L0范数，L1范数，L2范数正则化都很难缓解次问题。数据扩充可以根据正样本生成一批虚拟样本，但是选择什么样的生成样本一个需要研究的问题。近期的对抗训练尝试解决两个问题1)模型的安全性，2)增加正则化机制，使更好的泛化能力。对医学图像来说后者更重要。骨折是一个人体骨架在平面上的投射变换。因为没有骨架信息，而且骨架因人差异巨大，无法实现其透视变换(Perspective Transformation)。因此本文使用仿射变换(affine transformation)来对其近似。另一方面拍摄受到距离和个人差异的影响。同一区域的骨宽也差异巨大。综上所属，本文采用仿射变换，和采样的对抗样本来进行扩充。本申请的对抗扩充相当于增加正则化项，实验证明通过仿射变换和采样对抗训练，可以显著提升算法的识别率和稳定性。
S107，利用所述正样本和所述负样本进行训练以分别获取各个用于不同骨折部位的骨折识别模型；其中，所述骨折识别包括骨折类型的识别和骨折区域的检测。
S108，进行迁移学习和训练，以获取迁移学习之后训练完成的骨折识别模型。包括：
H1、将从斯坦福公开数据库Imagenet中获取的训练集，作为训练样本；
H2、使用卷积神经网络Inception ResnetV2对所述训练样本进行特征提取；并通过全连接层对提取后的图像特征进行分类；以获取特征提取参数；
H3、利用微软公开数据库Microsoft COCO提供的目标物体位置和分类信息以及利用H2中得到的特征提取参数，进行Faster RCNN的区域回归训练和分类训练；并进行整个获取卷积神经网络的训练，获取一预训练模型；
H4、将所述预训练模型的模型参数迁移到所述步骤G中获取的骨折识别模型中；
并通过卷积神经网络利用其进行位置回归训练和分类训练；并进行整个卷积神经网络的训练，以优化迁移学习之后训练完成的骨折识别模型。
由上，上述迁移学习及训练，在训练阶段，训练数据集需求量极大的缩小，通常的需要上万张的图片用于训练，但是本申请的骨折识别模型仅需几百张的原始图像用以训练。且本申请采用迁移学习的策略进行训练克服了Faster RCNN收敛不稳定的问题。
综上所述，本申请通过对不同的骨折部位的不同的骨折类型的识别和骨折区域的检测模型的构建，有利于通过上述模型准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
实施例二
如图4所示，本申请还提供一种基于前述的骨折识别模型的骨折识别方法，包括如下步骤：
S401，输入患者的受伤部位的待识别的X光图像；
S402，将所述X光图像进行图像预处理；
S403，对预处理后的图像进行图像特征提取；
S404，利用训练好的与所述患者的受伤部位的相对应的骨折识别模型进行骨折类型的识别与骨折区域检测。
由上，本申请通过上述的步骤有利于准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
其中，所述S404之后还包括：
S405，使用非极大值抑制法对通过所述骨折识别模型获取的候选框进行处理以获取骨折候选区域；包括：
将识别分数超过一指定阈值的区域作为骨折候选区域；或者
当识别分数超过一指定阈值的区域的数量小于一指定数量时，根据识别分数的排名顺序，选择一指定数量的区域作为骨折候选区域。
由上，有利于更好的为用户提供可以用于参考的骨折候选区域。
综上所述，本申请通过对不同的骨折部位的不同的骨折类型的识别和骨折区域的检测模型的构建，并通过上述模型进行了骨折识别，最终现在召回率可以达到96％2fp/scan。由此可见，本申请有利于准确地预测骨折的类型及区域位置，大大减少医生的诊断时间，降低误诊率。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种骨折识别模型的构建方法，其特征在于，包括：
A、获取不同骨折部位的不同的骨折类型的X光图像；
B、分别对各个不同骨折部位的不同的骨折类型的X光图像进行图像预处理；
C、通过卷积神经网络Inception ResNetV2对所述预处理后的图像进行图像特征提取；
D、通过Faster-RCNN中的区域建议网络层RPN层根据所述图像特征生成候选区域；
E、通过Faster-RCNN中的分类层根据所述候选区域进行骨折类型目标检测和区域定位；
F、根据所述骨折类型目标检测的信息及所述区域定位的信息，通过困难样本挖掘策略获取训练用的负样本以及通过对抗学习的策略扩充训练用的正样本；
G、利用所述正样本和所述负样本进行训练以分别获取各个用于不同骨折部位的骨折识别模型；
其中，所述骨折识别包括骨折类型的识别和骨折区域的检测。
2.根据权利要求1所述的方法，其特征在于，所述分别对各个不同骨折部位的不同的骨折类型的X光图像进行图像预处理，包括：
B1、通过连通域分析，初步定位骨肉区域；
B2、将所述骨肉区域的边缘的非图像区域删除；
B3、根据所述骨肉区域，调整窗宽窗位信息。
3.根据权利要求2所述的方法，其特征在于，所述调整窗宽窗位信息包括：
分别使用参数a，b＝[1,2],[0.5,2.5],[1,3],[2,4],使用下述公式生成4个通道以调整窗宽窗位信息：
X[Mlow]＝μ-a·σ
X[Mup]＝μ+b·σ
其中，所述X表示X射线影像，其取值范围是[0,216]；μ表示均值；σ表示标准差；Mlow表示小于窗阈值掩码；Mup表示大于窗阈值掩码；X[Mlow]表示大于阈值的像素；X[Mup]表示小于阈值的像素；其中参数a，b表示控制阈值。
4.根据权利要求1所述的方法，其特征在于，所述负样本的选取的步骤包括：
通过非极大值抑制法对所述区域定位后获取的各个预测骨折区域位置框进行打分处理；
根据所述打分选取一指定数量的样本，并选择其与医生标注区域无交集的区域；
使用困难样本挖掘方法对所述与医生标注区域无交集的区域进行打分并按照分数由高到低排列选取指定数量的所述与医生标注区域无交集的区域作为困难样本，放入损失函数计算，并用于反向传播。
5.根据权利要求4所述的方法，其特征在于，所述正样本扩充的步骤包括：
通过仿射变换和对抗学习进行正样本的扩充；包括：
f1、通过仿射变换矩阵获取目标坐标系，公式为：
其中，
表示目标坐标系；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示原坐标系的横坐标；
表示原坐标系的纵坐标；Aθ为仿射变换矩阵；
为仿射变换矩阵，其中的每一个元素θ11，.........θ23分别表示一个3*2仿射变换小矩阵；xi和yi分别表示像素i的x轴和y轴；
f2、根据所述目标坐标系的横坐标、纵坐标及原坐标系的像素值，通过下述公式获取目标坐标系的像素值：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值；
f3、根据所述原坐标系像素值和目标坐标系像素值获取对抗样本的像素值；以及通过目标坐标系的横坐标和纵坐标、原仿射变换矩阵、目标坐标系像素值获取对抗样本的仿射变换矩阵；
其中，假设损失函数为
对抗样本的像素值的获取公式为：
对抗样本的仿射变换矩阵的获取的公式为：
其中，
表示对抗样本的像素值，
表示对抗样本的仿射变换矩阵；Xnm表示原坐标系的像素值，
表示目标坐标系像素值；ε是超参数，θ为仿射变换矩阵中的各个表示3*2仿射变换小矩阵的元素，Is表示目标坐标系的坐标；Ytarget表示医生标注的骨折位置和骨折类型信息；J表示深度学习公式；
f4、通过空间变换层Spatial Transformer layer对所述对抗样本的像素值及对抗样本的仿射变进行训练，生成对抗后的样本图像。
6.根据权利要求5所述的方法，其特征在于，
所述
的获取公式为：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值。
7.根据权利要求6所述的方法，其特征在于，
所述
的获取公式为：
所述
的获取的公式为：
其中，Xnm表示原坐标系的像素值；其中，n、m分别表示原坐标系的纵坐标和纵坐标，其取值范围分别是(1，H)(1，W)；其中，
表示目标坐标系的横坐标；
表示目标坐标系的纵坐标；
表示目标坐标系像素值。
8.根据权利要求7所述的方法，其特征在于，所述利用所述正样本和所述负样本进行训练以分别获取各个用于不同骨折部位的骨折识别模型，之后还包括：
H、进行迁移学习和训练，包括：
H1、将从斯坦福公开数据库Imagenet中获取的训练集，作为训练样本；
H2、使用卷积神经网络Inception ResnetV2对所述训练样本进行特征提取；并通过全连接层对提取后的图像特征进行分类；以获取特征提取参数；
H3、利用微软公开数据库Microsoft COCO提供的目标物体位置和分类信息以及利用H2中得到的特征提取参数，进行Faster RCNN的区域回归训练和分类训练；并进行整个获取卷积神经网络的训练，获取一预训练模型；
H4、将所述预训练模型的模型参数迁移到所述骨折识别模型中；
并通过卷积神经网络利用其进行位置回归训练和分类训练；并进行整个卷积神经网络的训练，以优化迁移学习之后训练完成的骨折识别模型。
9.一种骨折识别方法，基于权利要求1-8任一项所述的骨折识别模型的构建方法构建的骨折识别模型，其特征在于，包括如下步骤：
A’、输入患者的受伤部位的待识别的X光图像；
B’、将所述X光图像进行图像预处理；
C’、对预处理后的图像进行图像特征提取；
D’、利用训练好的与所述患者的受伤部位的相对应的骨折识别模型进行骨折类型的识别与骨折区域检测。
10.根据权利要求9所述的方法，其特征在于，所述步骤D’之后还包括：
使用非极大值抑制法对通过所述骨折识别模型获取的候选框进行处理以获取骨折候选区域；包括：
将识别分数超过一指定阈值的区域作为骨折候选区域；或者
当识别分数超过一指定阈值的区域的数量小于一指定数量时，根据识别分数的排名顺序，选择一指定数量的区域作为骨折候选区域。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810046430.5A CN108305248B (zh) | 2018-01-17 | 2018-01-17 | 一种骨折识别模型的构建方法及应用 |
| PCT/CN2018/109496 WO2019140957A1 (zh) | 2018-01-17 | 2018-10-09 | 一种骨折识别模型的构建方法及应用 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201810046430.5A CN108305248B (zh) | 2018-01-17 | 2018-01-17 | 一种骨折识别模型的构建方法及应用 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108305248A CN108305248A (zh) | 2018-07-20 |
| CN108305248B true CN108305248B (zh) | 2020-05-29 |
Family
ID=62865510
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201810046430.5A Active CN108305248B (zh) | 2018-01-17 | 2018-01-17 | 一种骨折识别模型的构建方法及应用 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN108305248B (zh) |
| WO (1) | WO2019140957A1 (zh) |
Families Citing this family (34)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108305248B (zh) * | 2018-01-17 | 2020-05-29 | 慧影医疗科技（北京）有限公司 | 一种骨折识别模型的构建方法及应用 |
| JP7336309B2 (ja) | 2018-08-19 | 2023-08-31 | チャン グァン メモリアル ホスピタル，リンコウ | 医療画像の分析方法、システムおよびモデル |
| CN109413023B (zh) * | 2018-08-24 | 2021-02-02 | 创新先进技术有限公司 | 机器识别模型的训练及机器识别方法、装置、电子设备 |
| CN109308694B (zh) * | 2018-08-31 | 2020-07-31 | 中国人民解放军总医院 | 骨折分型的形成方法及装置 |
| CN109410185B (zh) * | 2018-10-10 | 2019-10-25 | 腾讯科技（深圳）有限公司 | 一种图像分割方法、装置和存储介质 |
| CN109544526B (zh) * | 2018-11-15 | 2022-04-26 | 首都医科大学附属北京友谊医院 | 一种慢性萎缩性胃炎图像识别系统、装置和方法 |
| CN109472801A (zh) * | 2018-11-22 | 2019-03-15 | 廖祥 | 一种用于多尺度的神经形态检测和分割方法 |
| CN109978863B (zh) * | 2019-03-27 | 2021-10-08 | 北京青燕祥云科技有限公司 | 基于x射线图像的目标检测方法及计算机设备 |
| CN110070124A (zh) * | 2019-04-15 | 2019-07-30 | 广州小鹏汽车科技有限公司 | 一种基于生成式对抗网络的图像扩增方法及系统 |
| CN110084172B (zh) * | 2019-04-23 | 2022-07-29 | 北京字节跳动网络技术有限公司 | 文字识别方法、装置和电子设备 |
| CN110070076B (zh) * | 2019-05-08 | 2021-05-18 | 北京字节跳动网络技术有限公司 | 用于选取训练用样本的方法和装置 |
| CN110197206B (zh) * | 2019-05-10 | 2021-07-13 | 杭州深睿博联科技有限公司 | 图像处理的方法及装置 |
| CN110111323B (zh) * | 2019-05-13 | 2021-08-10 | 上海交通大学医学院附属上海儿童医学中心 | 髋关节检测方法及装置 |
| CN110458799A (zh) * | 2019-06-24 | 2019-11-15 | 上海皓桦科技股份有限公司 | 基于肋骨展开图的肋骨骨折自动检测方法 |
| CN110826634B (zh) * | 2019-11-11 | 2022-12-30 | 北京百度网讯科技有限公司 | 图像目标检测模型的训练方法、装置、电子设备及存储介质 |
| CN110880177A (zh) * | 2019-11-26 | 2020-03-13 | 北京推想科技有限公司 | 一种图像识别方法及装置 |
| CN110956255B (zh) * | 2019-11-26 | 2023-04-07 | 中国医学科学院肿瘤医院 | 难样本挖掘方法、装置、电子设备及计算机可读存储介质 |
| CN111128386B (zh) * | 2019-12-16 | 2023-04-18 | 天津市威曼生物材料有限公司 | 一种骨折内固定系统参数获取方法及装置 |
| CN111310815A (zh) * | 2020-02-07 | 2020-06-19 | 北京字节跳动网络技术有限公司 | 图像识别方法、装置、电子设备及存储介质 |
| CN110956225B (zh) * | 2020-02-25 | 2020-05-29 | 浙江啄云智能科技有限公司 | 一种违禁品检测方法及系统、一种计算设备及存储介质 |
| CN111310850B (zh) * | 2020-03-02 | 2023-06-16 | 杭州雄迈集成电路技术股份有限公司 | 车牌检测模型的构建方法及系统、车牌检测方法及系统 |
| CN111325745B (zh) * | 2020-03-09 | 2023-08-25 | 北京深睿博联科技有限责任公司 | 骨折区域分析方法和装置、电子设备及可读存储介质 |
| CN113450306B (zh) * | 2020-03-09 | 2024-04-30 | 长庚医疗财团法人林口长庚纪念医院 | 提供骨折检测工具的方法 |
| CN111462071B (zh) * | 2020-03-30 | 2023-08-04 | 浙江核睿医疗科技有限公司 | 一种图像处理方法和系统 |
| CN111681218A (zh) * | 2020-06-02 | 2020-09-18 | 浙江同花顺智能科技有限公司 | 一种骨折识别模型的训练方法、装置、设备及存储介质 |
| CN111667474A (zh) * | 2020-06-08 | 2020-09-15 | 杨天潼 | 骨折识别方法、装置、设备和计算机可读存储介质 |
| CN112036431A (zh) * | 2020-06-23 | 2020-12-04 | 昆山华颐生物科技有限公司 | 一种骨折类型的分类方法以及骨折识别模型的构建方法 |
| CN111967540B (zh) * | 2020-09-29 | 2021-06-08 | 北京大学口腔医学院 | 基于ct数据库的颌面部骨折的识别方法、装置及终端设备 |
| CN112435269A (zh) * | 2020-12-02 | 2021-03-02 | 山东中医药大学 | 一种基于Faster-RCNN的桡骨远端骨折图像处理方法 |
| KR102530016B1 (ko) * | 2020-12-22 | 2023-05-08 | 가천대학교 산학협력단 | 골절 검출 방법 및 이를 이용한 디바이스 |
| CN112837297B (zh) * | 2021-02-08 | 2023-04-28 | 福建医科大学附属协和医院 | 一种渐进式多尺度的颅面骨骨折检测方法 |
| CN113505837A (zh) * | 2021-07-14 | 2021-10-15 | 同济大学 | 一种基于Faster-RCNN的测量标志自动提取方法 |
| CN114283275B (zh) * | 2022-03-04 | 2022-08-16 | 南昌工学院 | 一种基于优化深度学习的多图形目标检测方法 |
| CN116523903A (zh) * | 2023-06-25 | 2023-08-01 | 天津师范大学 | 一种多模态骨折损伤检测识别方法和系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1732853A (zh) * | 2004-02-23 | 2006-02-15 | 计算机逻辑公司 | 超声波骨头评估的装置及方法 |
| CN107169421A (zh) * | 2017-04-20 | 2017-09-15 | 华南理工大学 | 一种基于深度卷积神经网络的汽车驾驶场景目标检测方法 |
| CN107536600A (zh) * | 2017-08-24 | 2018-01-05 | 京东方科技集团股份有限公司 | 骨折指数确定方法及系统 |
| CN107563446A (zh) * | 2017-09-05 | 2018-01-09 | 华中科技大学 | 一种微操作系统目标检测方法 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10002313B2 (en) * | 2015-12-15 | 2018-06-19 | Sighthound, Inc. | Deeply learned convolutional neural networks (CNNS) for object localization and classification |
| CN106022232A (zh) * | 2016-05-12 | 2016-10-12 | 成都新舟锐视科技有限公司 | 基于深度学习的车牌检测方法 |
| CN107316261A (zh) * | 2017-07-10 | 2017-11-03 | 湖北科技学院 | 一种基于人脸分析的教学质量评估系统 |
| CN107368859A (zh) * | 2017-07-18 | 2017-11-21 | 北京华信佳音医疗科技发展有限责任公司 | 病变识别模型的训练方法、验证方法和病变图像识别装置 |
| CN108305248B (zh) * | 2018-01-17 | 2020-05-29 | 慧影医疗科技（北京）有限公司 | 一种骨折识别模型的构建方法及应用 |
-
2018
- 2018-01-17 CN CN201810046430.5A patent/CN108305248B/zh active Active
- 2018-10-09 WO PCT/CN2018/109496 patent/WO2019140957A1/zh active Application Filing
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1732853A (zh) * | 2004-02-23 | 2006-02-15 | 计算机逻辑公司 | 超声波骨头评估的装置及方法 |
| CN107169421A (zh) * | 2017-04-20 | 2017-09-15 | 华南理工大学 | 一种基于深度卷积神经网络的汽车驾驶场景目标检测方法 |
| CN107536600A (zh) * | 2017-08-24 | 2018-01-05 | 京东方科技集团股份有限公司 | 骨折指数确定方法及系统 |
| CN107563446A (zh) * | 2017-09-05 | 2018-01-09 | 华中科技大学 | 一种微操作系统目标检测方法 |
Non-Patent Citations (2)
| Title |
|---|
| A Faster RCNN-based Pedestrian Detection System;Xiaotong Zhao;《 2016 IEEE 84th Vehicular Technology Conference (VTC-Fall)》;20161231;1-5页 * |
| Detecting hip fractures with radiologist-level performance using deep neural networks;William Gale;《arXiv:1711.06504v1 [cs.CV] 17 Nov 2017》;20171117;1-6页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108305248A (zh) | 2018-07-20 |
| WO2019140957A1 (zh) | 2019-07-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108305248B (zh) | 一种骨折识别模型的构建方法及应用 | |
| CN108364006B (zh) | 基于多模式深度学习的医学图像分类装置及其构建方法 | |
| Mahfouz et al. | Patella sex determination by 3D statistical shape models and nonlinear classifiers | |
| CN109923554B (zh) | 图像处理 | |
| US8494238B2 (en) | Redundant spatial ensemble for computer-aided detection and image understanding | |
| Niemeijer et al. | Assessing the skeletal age from a hand radiograph: automating the Tanner-Whitehouse method | |
| KR20190028422A (ko) | 해부학적 대상들의 자동 검출, 국부화, 및 의미론적 세그먼트화를 위한 시스템 및 방법 | |
| CN107862694A (zh) | 一种基于深度学习的手足口病检测系统 | |
| KR20170016778A (ko) | 심층신경망을 이용한 골 연령 산출방법 및 프로그램 | |
| CN114494192B (zh) | 一种基于深度学习的胸腰椎骨折识别分割与检测定位方法 | |
| CN112037200A (zh) | 一种医学影像中解剖特征自动识别与模型重建方法 | |
| KR20180064863A (ko) | 딥러닝을 이용한 수완부 방사선 영상으로부터 골 성숙도(ｓｍｉ) 자동 분석방법 | |
| CN112184617A (zh) | 一种基于深度学习的脊椎mri影像关键点检测方法 | |
| CN111754453A (zh) | 基于胸透图像的肺结核检测方法、系统和存储介质 | |
| CN109523523A (zh) | 基于fcn神经网络和对抗学习的椎体定位识别分割方法 | |
| CN109191465A (zh) | 一种基于深度学习网络判定、标识人体左右第一肋骨的系统 | |
| EP4191528A1 (en) | Methods and systems for image registration | |
| CN112820399A (zh) | 自动诊断甲状腺结节良恶性的方法及装置 | |
| CN108764355A (zh) | 基于纹理特征分类的图像处理装置及方法 | |
| Basha et al. | Enhanced and Effective Computerized Classification of X-Ray Images | |
| Cao et al. | Use of deep learning in forensic sex estimation of virtual pelvic models from the Han population | |
| CN110459303A (zh) | 基于深度迁移的医疗影像异常检测装置 | |
| CN111402231B (zh) | 一种用于肺部ct影像质量的自动评估系统及方法 | |
| CN113397485A (zh) | 一种基于深度学习的脊柱侧弯筛查方法 | |
| CN110826633A (zh) | 一种人脑mri数据的持久图像分类处理方法及其实现系统与应用 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| CB03 | Change of inventor or designer information | ||
| CB03 | Change of inventor or designer information |
Inventor after: Chai Xiangfei Inventor after: Guo Na Inventor after: Chen Cong Inventor after: Zuo Panli Inventor after: Ma Lan Inventor before: Chai Xiangfei Inventor before: Guo Na Inventor before: Gu Yichi Inventor before: Chen Cong |
|
| REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 1254941 Country of ref document: HK |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant | ||
| CP02 | Change in the address of a patent holder | ||
| CP02 | Change in the address of a patent holder |
Address after: 100192 Dongsheng Science Park, Zhongguancun, 66 Xixiaokou Road, Haidian District, Beijing. A206, 2nd floor, B-2 Building, Northern Territory Patentee after: HUIYING MEDICAL TECHNOLOGY (BEIJING) Co.,Ltd. Address before: 100192 Haidian District, Beijing, 66 West Road, Zhongguancun No. two, 206 floor, building C-2, Dongsheng science and technology park. Patentee before: HUIYING MEDICAL TECHNOLOGY (BEIJING) Co.,Ltd. |
|
| CP03 | Change of name, title or address |
Address after: 100000 Zhongguancun Dongsheng Science Park, 66 xixiaokou Road, Haidian District, Beijing A206, 2f, building B-2, Northern Territory Patentee after: Huiying medical technology (Beijing) Co.,Ltd. Address before: 100192 A206, 2 / F, building B-2, Dongsheng Science Park, Zhongguancun, 66 xixiaokou Road, Haidian District, Beijing Patentee before: HUIYING MEDICAL TECHNOLOGY (BEIJING) Co.,Ltd. |
|
| CP03 | Change of name, title or address |