CN113744229A

CN113744229A - 一种基于cta图像的适用于不同分割模型的改进因子

Info

Publication number: CN113744229A
Application number: CN202110995690.9A
Authority: CN
Inventors: 杨汀阳; 朱皞罡; 宫元; 安山
Original assignee: Beihang University
Current assignee: Beihang University
Priority date: 2021-08-27
Filing date: 2021-08-27
Publication date: 2021-12-03
Anticipated expiration: 2041-08-27
Also published as: CN113744229B

Abstract

本发明公开一种基于CTA图像的适用于不同分割模型的改进因子，具体包括加权因子及调制因子，加权因子为软权重，调制因子为Focal++因子及Exp因子。本发明优点在于：使得最终的分割精度得到提升，并同时提升训练速度和训练的稳定性。作为首个在复杂病变的CTA图像里实现血管区域分割的方法，将极大辅助医生对主动脉血管信息的掌握，从而加快医生的工作进度。从像素区域层面和切面层面，分别提出新的加权因子和新的调制因子，提升模型训练速度，增强模型训练的稳定性。加权因子平衡血管区域和非血管区域之间，使得血管区域得到更强的重视程度。调制因子增强了占比小的严重病变切面所传达信息的强度，利于模型泛化性能的提升。

Description

一种基于CTA图像的适用于不同分割模型的改进因子

技术领域

本发明涉及医疗图像处理，尤其涉及CTA图像区域分割技术领域，特别是提供一种基于CTA图像的适用于不同分割模型的改进因子。

背景技术

主动脉血管疾病往往病情凶险、进展速度快、病死率高。主动脉CT血管成像(computed tomography angiography,CTA)技术已经成为对主动脉及其重要分支血管病变做检查的主要手段。主动脉CTA为临床的研究工作提供了较为丰富的定性及定位资料。而借助于医疗图像分析技术，实现对于CTA的快速准确分析，则可以为医务工作者省却很大工作量，从而使医生有更多的时间解决其他问题。

U-net采用类似encoder-decoder的结构方式，先在降采样环节使用多次卷积池化操作做为特征提取；同时这些特征又在上采样过程中得到重用，有效的提升了上采样的特征精度。U-net的良好性能得到了众多科研工作者的青睐。在医学图像分析任务中，人们使用U-net进行处理图像，并做了多种改进以更好的适应不同任务，比如U2-Net,Unet3++等。

CE(Cross Entropy)在分类问题中取得了不错的效果，但是对于一些细节的部分就不怎么能够奏效，原因在于这些细节在整个图像中占比不高，而且有这些细节的图像在整个数据集里占比也不高。如图1a、b，这种因疾病导致血管变形的样例本就占比不多，而且该区域占整张图像的像素点数量也不多。图中横轴均是是背景像素点数量占比，纵轴分别是频数及背景和前景像素点数量的比值。从整个数据集里可以看出来，背景和前景的像素点数量的占比偏差很大。这个问题所带来的结果是，模型对于血管的不规则区域关注度不够高，导致特征提取不够准确。

WCE(Weighted Cross Entropy)则很好的解决了这个问题。WCE是在CE计算的基础上，添加了权重因子。但是，由于在每张CTA切面里，血管区域和非血管区域之间的像素点比例失衡，血管区域所占像素点过少，导致难以优化而且很重要的血管区域所传递出的反馈信息并没有得到足够大的重视，模型的优化过程变慢，性能受到限制。病变程度严重的切面所占比重不高，容易被模型忽略，但这些病变严重的切面却常常是诊断过程中关键的切面，对这些切面的分割效果差将导致医生损失重要的参考信息。

本发明使用改进之后的因子——加权因子及调制因子，基于多变化性的CTA切面，对主动脉血管区域进行分割。使得最终的分割精度得到提升，并同时提升训练速度和训练的稳定性。

发明内容

本发明的一个目的是，针对现有技术中存在的血管区域像素点比例失衡难以优化而且模型的优化过程变慢的问题，提出一种基于CTA图像的适用于不同分割模型的改进因子。

本发明的另一个目的是，针对现有技术中存在的诊断过程中关键的病变严重的切面分割效果差的问题，提出一种基于CTA图像的适用于不同分割模型的改进因子。

本发明所提出的改进因子，具体包括加权因子及调制因子，其中，加权因子为软权重，调制因子为Focal++因子及Exp因子；具体如下：

1、软权重：

使用交叉熵(Cross Entropy，CE)损失函数，加权的CE损失函数表示如下：

其中，图像大小是M*N，Weight是权，其中的Weight_k是第k类的权重。h_{_i，j}是位置(i,j)处像素值；

硬权重的加权方法如下：

NumP是所有类别点的总数，n_k是k类点的数量，HardW_k是硬权重方式。

T_i，j∈C_k

本发明针对不同类别间像素点所占比重失衡的问题，提出了软权重(Softweight，以下简称SW)的加权方式。

mt，nt分别是两个超参，

HSW＝H_WCE(SW)，HW＝H_WCE(HardW)

其中，HSW为使用软权重的加权方法，HW为使用硬权重的加权方法；

2、Focal++因子：

本发明的改进之后的Focal++因子计算公式如下，设置β值为基线(baseline)的值，使得每个样本都有一些基础性权重值而不为0。在本发明的实施例中设置β值为1。当β值为0时，即为原版的FocalLoss。

H_Focal++＝[β+(1-P)^γ]H_WCE

其中，β不等于0。

3、Exp因子：

本发明提出的Exp版本的Focal使用exp(1-p)作为调制系数，p是CE计算的结果，当x趋近于0的时候，Exp趋近于1。这也就意味着，即使在x趋近于0的时候，模型依旧可以有很快的收敛速度。计算公式如下：

H_ExpFocal＝e^(1-P)H_WCE。

本发明一种基于CTA图像的适用于不同分割模型的改进因子，优点及效果在于：基于多变化性的CTA切面，对主动脉血管区域进行分割，使得最终的分割精度得到提升，并同时提升训练速度和训练的稳定性。本发明作为首个在复杂病变的CTA图像里实现血管区域分割的方法，将极大辅助医生对主动脉血管信息的掌握，从而加快医生的工作进度。本发明从像素区域层面和切面层面，分别提出新的加权因子和新的调制因子，提升模型训练速度，增强模型训练的稳定性。加权因子平衡血管区域和非血管区域之间，使得血管区域得到更强的重视程度。调制因子增强了占比小的严重病变切面所传达信息的强度，利于模型泛化性能的提升。

附图说明

图1a、b所示为背景技术中因疾病导致血管变形的样例在整个数据集的占比；

图2a、b所示为本发明实施例硬权重和软权重的加权方法两个类别的权重值之间的对比；

图3a、b所示为本发明实施例Exp因子和Focal++因子的函数值和导数值对比；

图4a～d所示为本发明实施例不同模型针对困难样本及容易样本在训练过程中的处理效果；

图5a～d所示为本发明实施例不同加权方式的效果对比。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合附图对本发明的各实施方式进行详细的阐述。然而，本领域的普通技术人员可以理解，在本发明各实施方式中，为了使读者更好地理解本发明而提出了许多技术细节。但是，即使没有这些技术细节和基于以下各实施方式的种种变化和修改，也可以实现本发明所要求保护的技术方案。

本发明提供一种基于CTA图像的适用于不同分割模型的改进因子，所述的改进因子，具体包括加权因子及调制因子，其中，加权因子为软权重，调制因子为Focal++因子及Exp因子；具体如下：

1、软权重：

使用Cross Entropy损失函数，加权的CE损失函数表示如下：

其中，图像大小是M*N，Weight是权，其中的Weight_k是第k类的权重。h_{_i，j}是位置(i，j)处像素值；

硬权重的加权方法如下：

T_i，j∈C_k

mt，nt分别是两个超参，

HSW＝H_WCE(SW)，HW＝H_WCE(HardW)

其中，HSW为使用软权重的加权方法，HW为使用硬权重的加权方法。

图2a、b为本发明实施例硬权重和软权重的加权方法两个类别的权重值之间的对比。

2、Focal++因子：

在目标检测的任务中，会遇到难易样本不均衡问题，就是会遇到分类不明确的边框。这个问题体现在分割场景中，就是分割的难易程度。不常见的血管形态就会更难分割出来，可能会漏分割出一部分或者是误分割出一部分，这就是难样本。同样的道理，这样的样本所占的样本量是少的，难易样本不均衡问题同样存在。

Focalloss的思想是通过训练过程中的概率值，动态调整难易样本间的权重，使得模型不仅学会容易样本，更可以解决困难样本。

本研究提出的改进之后的Focal++因子计算公式如下，设置β值为基线(baseline)的值，使得每个样本都有一些基础性权重值而不为0。在本发明的实施例中设置β值为1。当β值为0时，即为原版的FocalLoss。

H_Focal++＝[β+(1-P)^γ]H_WCE

其中，β不等于0。

3、Exp因子：

但是在原版的FocalLoss及所述的Focal++中，x.^n这种方式在x趋近于0的时候，x.^n同样是趋近于0的，也就意味着在概率调整过程中，其优化速度会很慢。本发明提出的Exp版本的Focal则使用exp(1-p)作为调制系数，p是CE计算的结果；exp(n)与x.^(n)的差别在于，当x趋近于0的时候，Exp趋近于1，而x.^n趋近于0。这也就意味着，即使在x趋近于0的时候，模型依旧可以有很快的收敛速度。差别也体现在loss值反馈的尺度大小上。计算公式如下：

H_ExpFocal＝e^(1-P)H_WCE。

图3a、b对比了Exp因子和Focal++因子的函数值和导数值。图中可以看出Exp因子在x趋近与0的时候依旧可以有较大的梯度回传值，而Focal++在x趋近于0的时候，其梯度回传值趋近于0。这种特点使得他们适合于不同的模型。

需要说明的是，本发明所述的改进因子，可以适用于不同分割模型；具体来说，在所关注的类别占比少的时候，需要进行加权，从而使用加权因子，即使用本发明提出的软权重进行加权则更有效。

在困难样本少的时候，需要在样本层面更加关注困难样本，从而使用调制因子，即所述的Focal++因子及Exp因子两种新的因子。

实施例1

在本实施例中，图4a、b为困难样本示例，其中图4a为困难样本，虚线圈住的是目标区域，图4b为不同模型在训练过程中对此困难样本处理效果的变化趋势，横轴是训练轮数，纵轴是IOU。图4c、d为容易样本示例，其中图4c为是一个容易样本，虚线圈住的是目标区域，图4d为是不同模型在训练过程中，对此容易样本处理效果的变化趋势，横轴是训练轮数，纵轴是IOU。

其中，NW是代表没有权重的，可以看出在困难样本中，NW则IOU一直不高，而其他组合的则会很高，在容易样本中，各项组合均很高。具体的：SW、E、F1、F0分别代表软权重、Exp因子、Focal++因子(取β为1)、Focal++因子(β取0)；SE、SF0、SF1为SW与E、F0、F1的组合。

实施例2

在本实施例中，为采用不同加权方式的DeeplabV3+、U2Net、U3++Net、DenseNet四个模型在训练过程中的MIOU变化趋势，如图5a～d所示。其中，DL、U2、U3、D分别代表DeeplabV3+、U2Net、U3++Net、DenseNet四个模型，SW代表软权重，W代表硬权重，NW代表不加权重。可以看出软权重的方法可以有效提升模型训练的速度，缩短到达较高MIOU数值的时间，并且训练过程更为稳定。

实施例3

在本实施例中，如下表1为不同改进因子及其组合的效果对比。各项均代表与不加权重的比较，向上的箭头代表提升或者增强，向下的箭头代表降低。F和E分别代表波动程度和提早收敛。比如F↓代表波动降低，E↑代表提早收敛。约等于号表示效果相近。SW、E、F1、F0分别代表软权重，Exp因子，Focal++因子(取β为1)，Focal++因子(β取0)。SE、SF0、SF1为SW与E、F0、F1的组合。

表1

如下表2是不同模型和不同组合方式下的MIOU值。

表2

从两个表中可以看出，软权重的方法有助于模型及早收敛，降低波动性。F0，F1，Exp等调制因子有助于模型的加快模型训练。软权重和调制因子的结合，有助于模型同时保持较快的训练速度并增强训练的稳定性。不同的模型最适合的损失函数并不一样，在最佳的模式里，可以保持较高MIOU值的同时，有很稳健的训练过程。

Claims

1.一种基于CTA图像的适用于不同分割模型的改进因子，其特征在于：所述的改进因子，具体包括加权因子及调制因子，其中，加权因子为软权重，调制因子为Focal++因子及Exp因子。

2.根据权利要求1所述的一种基于CTA图像的适用于不同分割模型的改进因子，其特征在于：所述的软权重，针对不同类别间像素点所占比重失衡的，提出了软权重的加权方式：

mt，nt分别是两个超参，

HSW＝H_WCE(SW)，HW＝H_WCE(HardW)

3.根据权利要求1所述的一种基于CTA图像的适用于不同分割模型的改进因子，其特征在于：所述的Focal++因子的计算公式如下，设置β值为基线baseline的值，使得每个样本都有基础性权重值而不为0，具体如下：

H_Focal++＝[β+(1-P)^γ]H_WCE其中，β不等于0。

4.根据权利要求1所述的一种基于CTA图像的适用于不同分割模型的改进因子，其特征在于：所述的Exp因子：使用exp(1-p)作为调制系数，p是交叉熵损失函数计算的结果，当x趋近于0的时候，Exp趋近于1；计算公式如下：

H_ExpFocal＝e^(1-P)H_WCE。