CN107240097B - 基于mkl-svm-pso算法的肺结节图像处理方法 - Google Patents

Abstract

本发明公开了一种基于MKL‑SVM‑PSO算法的肺结节图像处理方法，包括：从肺结节图像中提取感兴趣区域，对所述感兴趣区域进行特征选取，获取数据样本；其中，所述数据样本包括：用于参数寻优的训练集及用于测试模型的测试集；通过MKL‑SVM‑PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL‑SVM的数学模型；将所述最优参数组应用于所述MKL‑SVM的数学模型进行识别计算，得出肺结节的识别结果。本发明可以快速、准确地寻找到MKL‑SVM算法的最优参数组，并将其应用于肺结节识别；将PSO算法引入MKL‑SVM算法，并将其应用于肺结节的良恶性判别。

Description

基于MKL-SVM-PSO算法的肺结节图像处理方法

技术领域

本发明涉及领域，具体地说，特别涉及一种基于MKL-SVM-PSO算法的肺结节图像处理方法。

背景技术

肺结节通常指直径不大于3cm的肺内类圆形致密影，也是肺癌在肺CT图像上的早期表征形式。计算机断层扫描成像(computed tomography，CT)技术是检测早期肺结节的重要手段。根据肺结节的CT表征形式，可以将其分为实心型结节(如孤立型结节、粘连肺壁型结节、粘连血管型结节)、磨玻璃型结节及空洞型结节。

肺计算机辅助检测(Computer Aided Detection，CAD)系统是机器视觉技术的应用，可以减少放射科医生因超大负荷阅片而造成的视觉疲劳，减少由此产生误判或漏检的可能性，为医生提供“第三方”的辅助诊断结果。通常肺CAD包含以下几个模块：肺部CT图像数据的采集、图像的预处理、肺实质分割、候选结节ROI或VOI的检测(主要指提取或分割)、ROI或VOI特征的计算与选择、肺结节的识别，其中肺结节识别是肺CAD的核心模块。

现有技术存在计算量大、寻参时间长、实时性差，不易形成在线识别算法的缺点。

发明内容

为了解决现有技术的问题，本发明实施例提供了一种基于MKL-SVM-PSO算法的肺结节图像处理方法。所述技术方案如下：

一方面，提供了一种基于MKL-SVM-PSO算法的肺结节图像处理方法，包括：

从肺结节图像中提取感兴趣区域，对所述感兴趣区域进行特征选取，获取数据样本；其中，所述数据样本包括：用于参数寻优的训练集及用于测试模型的测试集；

通过MKL-SVM-PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL-SVM的数学模型；将所述最优参数组应用于所述MKL-SVM的数学模型进行识别计算，得出肺结节的识别结果。

可选地，所述训练集与测试集均包含结节与非结节；所述数据样本是对感兴趣区域的13维特征提取，13维特征包括：7个形态特征，2个灰度特征，以及4个纹理特征。

可选地，所述通过MKL-SVM-PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL-SVM的数学模型；将所述最优参数组应用于所述MKL-SVM的数学模型进行识别计算，得出肺结节的识别结果的步骤具体包括：

1)将粒子和速度初始化；

2)在训练集上计算粒子适应度值；

3)寻找个体极值和群体极值；

4)进行速度更新与位置更新；

5)根据更新后的速度与位置，计算粒子适应度值；

6)求得个体极值和群体极值更新；

7)对所述个体极值和群体极值是否满足终止条件，满足则结束计算，得到最优参数组；不满足继续重复步骤4)；

8)用得到的最优参数组在测试集上进行测试，得到测试集上的识别结果。

可选地，所述计算粒子适应度值的步骤具体包括：

根据PSO算法，将交叉验证意义下肺结节的识别准确率ACC作为目标，并将其确定为PSO的适应度函数值，ACC定义式如下：

上式中，TP为检测出的真阳性结节，即恶性病灶；FP为检测出的假阳性；FN为检测出的假阴性；TN是检测出的真阴性，即非结节；ACC衡量整体的识别准确率，SEN则衡量肺结节的实际检出率。

可选地，所述MKL-SVM-PSO算法用于MKL-SVM的参数寻优，确定MKL-SVM识别算法的数学模型，并将其用在测试集上对肺结节进行识别。

可选地，所述所述MKL-SVM-PSO算法具体为：将PSO算法引入MKL-SVM算法，得到了MKL-SVM-PSO算法，对训练集进行训练。

本发明实施例提供的技术方案带来的有益效果是：

本发明提出了基于MKL-SVM-PSO算法的肺结节图像处理方法，可以快速、准确地寻找到MKL-SVM算法的最优参数组，并将其应用于肺结节识别。将PSO算法引入MKL-SVM算法，并将其应用于肺结节的良恶性判别；在改变动态权重的基础上，讨论了线性权重与非线性权重的异同，并得到了最优的动态非线性权重形式。使得算法的平均适应度值更加快速、稳定地接近最佳适应度值，且易得到全局最优解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例的一种基于MKL-SVM-PSO算法的肺结节图像处理方法流程图；

图2是本发明实施例的MKL-SVM-PSO算法应用于肺结节识别的流程图；

图3是本发明实施例的MKL-SVM-PSO算法的适应度(准确率)曲线；

图4是本发明实施例的式(16)的MKL-SVM-PSO算法的适应度(准确率)曲线；

图5是本发明实施例的式(17)的MKL-SVM-PSO算法的适应度(准确率)曲线；

图6是本发明实施例的式(18)的MKL-SVM-PSO算法的适应度(准确率)曲线；

图7是本发明实施例的式(19)的MKL-SVM-PSO算法的适应度(准确率)曲线；

图8是本发明实施例的式(20)的MKL-SVM-PSO算法的适应度(准确率)曲线；

图9是本发明实施例的式(16)至式(20)所对应的5种动态权重随迭代次数变化的曲线。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明实施方式作进一步地详细描述。

本发明提供了一种基于MKL-SVM-PSO算法的肺结节图像处理方法，参见图1，包括：

S100：从肺结节图像中提取感兴趣区域，对所述感兴趣区域进行特征选取，获取数据样本；

具体地，本实施例对感兴趣区域(region of interest，ROI)做了进一步说明：机器视觉、图像处理中，从被处理的图像以方框、圆、椭圆、不规则多边形等方式勾勒出需要处理的区域，称为感兴趣区域，ROI。在图像处理领域，感兴趣区域(ROI)是从图像中选择的一个图像区域，这个区域是图像分析所关注的重点。圈定该区域以便进行进一步处理。使用ROI圈定目标，可以减少处理时间，增加精度。本实施例中，所述感兴趣区域中包括结节以及假阳。

其中，所述数据样本包括：用于参数寻优的训练集及用于测试模型的测试集；所述训练集与测试集均包含结节与非结节；所述数据样本是对感兴趣区域的13维特征提取，13维特征包括：7个形态特征，2个灰度特征，以及4个纹理特征。

S200：通过MKL-SVM-PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL-SVM的数学模型；

S300：将所述最优参数组应用于所述MKL-SVM的数学模型进行识别计算，得出肺结节的识别结果。

具体地，所述MKL-SVM-PSO算法具体为：将PSO算法引入MKL-SVM算法，得到了MKL-SVM-PSO算法，对训练集进行训练。所述MKL-SVM-PSO算法用于MKL-SVM的参数寻优，确定MKL-SVM识别算法的数学模型，并将其用在测试集上对肺结节进行识别。

进一步的，参见图2，所述通过MKL-SVM-PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL-SVM的数学模型；将所述最优参数组应用于所述MKL-SVM的数学模型进行识别计算，得出肺结节的识别结果的步骤具体包括：

1)将粒子和速度初始化；

2)计算粒子适应度值；

3)寻找个体极值和群体极值；

4)进行速度更新与位置更新；

5)根据更新后的速度与位置，计算粒子适应度值；

6)求得个体极值和群体极值更新；

7)对所述个体极值和群体极值是否满足终止条件，满足则结束计算，得到最优参数组；不满足继续重复步骤4)。

8)用得到的最优参数组在测试集上进行测试，得到测试集上的识别结果。

进一步的，所述计算粒子适应度值的步骤具体包括：

根据PSO算法，将交叉验证(Cross Validation，CV)意义下肺结节的识别准确率ACC作为目标，并将其确定为PSO的适应度函数值，ACC定义见式

上式中，TP为检测出的真阳性结节，即恶性病灶；FP为检测出的假阳性；FN为检测出的假阴性；TN是检测出的真阴性，即非结节；ACC衡量整体的识别准确率，SEN则衡量肺结节的实际检出率。

本实施例中，还提供了多核支持向量机(Multiple Kernel LearningSupportVector Machine,MKL-SVM)，其中，支持向量机(Support Vector Machine，SVM)是一种小样本学习方法，通过结构风险最小化来实现对未知样本的预测或分类。将训练样本表示为

T＝{(x_i,y_i)},i＝1,2,…,l (1)

其中l为训练样本个数；x_i为SVM的输入向量，本实施例x_i对应于提取到的N维感兴趣区域(ROI)的特征，x_i∈R^N；y_i∈{-1,+1}为类别标签，本实施例中y_i＝1对应于结节，而y_i＝-1对应于非结节。

SVM用于二分类问题时，其模型的原问题可表示为：

式中，w是权重向量，b为阈值，SVM的目标就是使分类间隔2/||w||最大化，即||w||²最小化。C为正则化系数或称为惩罚参数，描述了对错分样本的惩罚程度，C越大对错误分类的惩罚越明显。当数据不能完全分开时，最大间隔将为负数，为此引入松弛变量ξ_i，可以衡量实际输出y_i与支持向量机输出之间的距离。

在特征空间实现SVM，将输入数据(X_i)通过非线性变换Φ(X)映射至高维特征空间Z，并在高维特征空间Z中构造最优分类超平面，以实现SVM。在空间Z中构造超平面时，训练算法使用点积方式，并且使用核函数K(x_i,x_j)代表Φ(x_i)与Φ(x_j)的内积，即可以找到一个函数K使得下式成立：

K(x_i,x_j)＝Φ(x_i)·Φ(x_j) (3)

这样，无需对给定训练样本构造并求解凸二次规划问题，通过拉格朗日乘子将问题转化如下：

式(2)中偏置b可通过式(5)求解：

构造决策函数为：

f(x)＝sgn(g(x)) (6)

其中

进一步的，MKL-SVM中，不同的核函数具有不同的优势，提高支持向量机性能的关键之一，是设计适合给定问题的核函数。常用的基本核函数有多项式核函数与径向基核函数(radial basis function，RBF)，依次用K_poly、K_rbf表示：

K_poly(x,x′)＝(x^tx′+1)^d (8)

K_rbf(x,x′)＝exp(-||x-x′||²/2g²)

(9)

其中，参数d代表多项式核的阶数，参数g代表RBF核宽度，d与g需要预先给定。

可以证明，核函数的凸组合形式，即式(10)仍然为核函数。

其中，K_p为使用的第p种基本核函数，m_p为对应于第p种基本核函数在混合核函数中所占的权重。混合核函数共采用了U种基本核函数，且各种基本核函数的权重相加得1，以此限制各种基本核函数在多核函数中所占比重。

证明：任意给定Rⁿ中l个点组成的集合{x₁，x₂，…，x_l}，只需证明式(10)的Gram矩阵半正定即可。

令K₁,K₂,…,K_P分别是K₁(x,x′),K₂(x,x′),…,K_P(x,x′)关于{x₁,x₂,…,x_l}的Gram矩阵，对于任意α∈R^l，有

所以

半正定，即K_mix(x,x′)为核函数，问题得证。

经验证，式(10)表述的核函数满足Mercer条件，可以用于SVM的训练和分类。利用该多核SVM，对样本点进行非线性变换，将得到相应的核矩阵，将其用于SVM分类器的训练，可以得到相应的分类结果。

RBF核具有较强的学习能力，而多项式核具有较强的泛化能力，将二者结合，可以兼顾学习与泛化能力。若仅采用RBF核与多项式核两种基本核函数，即取U＝2，K₁＝K_poly，K₂＝K_rbf，构成式(12)的混合核函数。需要比单核函数多估计一组核参数及一个权重系数m。m可以自由地调节各个核函数在多核中的比重，灵活地调节多核的学习与推广能力，使结果不偏重于某个指标的提升。

K(x,x′)＝mK_poly(x,x′)+(1-m)K_rbf(x,x′) (12)

采用了交叉验证意义下的网格搜索(Grid Seach)算法来寻找最佳的正则化系数C，多项式核的阶数d，RBF核的核宽度g以及多核的权重系数m。虽然采用网格搜索算法易于找到在交叉验证意义下对应于最高分类准确率的最优参数组，但因参数过多、循环嵌套的次数过大、以及网格的细化，从而导致计算量过大，运行时间过长的问题。采用启发式算法可以不必遍历网格内所有参数点，也可以找到全局最优解。

进一步的，基于PSO的MKL-SVM(MKL-SVM-PSO)算法具体为：粒子群优化算法(Particle Swarm Optimization，PSO)是一种基于群体智能的优化算法，是典型的启发式算法。与GA(Generic Algorithm)相比，PSO无需进行选择、交叉、变异的操作，通过粒子在解空间追踪最优的粒子进行搜索。

假设在一个D维的搜索空间中，由n个粒子组成种群X＝(X₁,X₂,…,X_n)，其中，X_i表示第i个粒子在D维搜索空间的位置，也为问题的一个潜在解，记为一个D维的向量，即X_i＝(X_i1,X_i2,…,X_iD)^T。根据目标函数即可计算出每个粒子位置X_i对应的适应度值。第i个粒子的速度为V_i＝(V_i1,V_i2,…,V_iD)^T，其个体极值为P_i＝(P_i1,P_i2,…,P_iD)^T，种群的群体极值为P_g＝(P_g1,P_g2,…,P_gD)^T。每次迭代过程中，粒子通过个体极值和群体极值更新自身的速度和位置，更新后的表达式为：

上式中，ω为惯性权重；d＝1，2，…，D，D代表所需寻找的参数个数；k为当前迭代次数；V_id为粒子的速度，c₁和c₂是加速度因子，为非负的常数，r₁和r₂是分布在[0，1]区间内的随机数。为防止粒子的盲目搜索，通常将其位置和速度分别限制在[-X_max,X_max]与[-V_max,V_max]区间内。

将PSO算法用于式(12)对应的MKL-SVM算法。因为多项式核的阶数定义为d≥2的正整数，且随着d的增加，多项式核的泛化能力逐渐降低，故d仅取d＝2和d＝3两个数值分别进行计算，而并不需要进行寻参。只需将粒子搜索空间的维数设置为D＝3即可，X_i＝(X_i1,X_i2,X_i3)^T代表了第i个粒子的解，其每一维X_i1、X_i2、X_i3分别对应需要搜索的正则化系数C，RBF核宽度g以及多核权重m。

本实施例中，还提供了实验选用数据及MKL-SVM-PSO算法结果分析：

实验数据为20组病例共约700幅图像，且每组病例均配有医生的诊断标准。每幅CT图像大小均为512×512，扫描层厚为5.0mm，从中共提取出270个ROI，其中包括80个结节，190个假阳。经过特征选取后，将数据样本随机分为两组：170组训练样本及100组测试样本。

实验平台采用MATLAB，利用libsvm工具箱进行仿真实验。在模型的参数寻优阶段，使用5倍交叉验证，得到了对应于最高ACC的最优参数组。在本MKL-SVM-PSO算法里，设置种群粒子数为n＝20，每个粒子的维数D＝3，算法的最大迭代次数为maxgen＝200，惯性权重取值为常数，即ω＝1。

得到的最优个体适应度值如图3所示，最优的个体适应度值，即训练集上进行5折交叉验证的结节识别的准确度为94.1176％；对应的最优粒子位置为C＝29.7267，g＝19.0653，d＝2，m＝0.8。在此种情况下，本实施例MKL-SVM-PSO算法的程序运行时间为303.8830s，而网格搜索算法则需2220s，比网格搜索算法的运行时间少了1916.117s，仅为网格搜索算法运行时间的13.69％。将其应用于测试集测试，得到的测试结果为ACC达到91％，SEN达到88.89％。

进一步的，引入不同惯性权重对肺结节识别结果的影响与比较，如下：

与网格搜索算法相比，MKL-SVM-PSO算法速度有所提高，但由图3可见，随着迭代次数的增加，每一代的平均适应度值振荡幅度较为剧烈，距离最优适应度值具有一定差距。

SHI.Y最先将惯性权重ω引入PSO算法，指出较大的惯性权重值利于全局搜索，较小的惯性权重更加利于局部搜索，惯性权重ω体现了粒子继承先前速度的能力。为更好地平衡算法的全局搜索能力与局部搜索能力，采用SHI.Y提出的线性递减惯性权重法(LinearDecreasing Inertia Weight，LDIW)，将ω重新赋值为：

ω(k)＝ω_start(ω_start-ω_end)(T_max-k)/T_max (16)

其中，ω_start为初始惯性权重，ω_end为迭代至最大次数时的惯性权重；k为当前迭代的代数；T_max为最大迭代代数。为保证算法在迭代初期具有较强的全局搜索能力以及在迭代后期具有较强的局部搜索能力以获得最优解，通常选取ω_start＝0.9，ω_end＝0.4，使得惯性权重由最初的0.9线性下降到0.4，这也是一种经验做法。得到的MKL-SVM-PSO算法寻找最优参数组的适应度(准确率)曲线如图4所示。

由图4可见，采用式(16)的惯性权重比采用常数的惯性权重，减少了振荡幅度，前期就已接近最优解。常用的线性惯性权重还有式(17)，如下所示

由图5可见，式(17)对应的惯性权重前期振荡略大，但很快收敛到最佳个体适应度值。式(16)与式(17)所表征的线性惯性权重可以使平均适应度曲线趋于平稳，但前期易陷入局部最优。

为保证尽量获得全局最优解，本实施例还采用以下的三种非线性惯性权重来控制收敛精度与收敛速度，以使平均适应度值快速、平稳地趋近最佳适应度值指标。

ω(k)＝ω_start-(ω_start-ω_end)(k/T_max)² (18)

在上述3种非线性ω的取值方法下，均以肺结节的总体识别准确度为适应度函数，得到的曲线如图6、7、8所示。

为比较不同类别的惯性权重对参数寻优的影响，如图9所示，描述了本实施例提出的式(16)至式(20)所对应的5种动态权重随迭代次数变化的曲线。迭代初期，较大的惯性权重可以使算法保持较强的全局搜索能力，而迭代后期较小的惯性权重可以使算法进行精确的局部搜索。由几种动态权重的变化曲线可见，式(18)前期的动态权重变化较慢，取值较大，维持了算法的全局搜素能力；后期动态权重变化较快，极大地提高了算法的局部寻优能力，结合对应的适应度曲线，可见参数寻优也取得了很好的求解效果，从而为最优的动态权重方式。

综上，权重不变的粒子群优化算法收敛速度快，但后期易陷入局部最优，求解精度低。采用式(16)和式(17)的线性惯性权重前期易陷入局部最优。采用式(18)至式(20)的几种动态的非线性惯性权重方法，算法初期收敛较慢，但后期局部搜索能力加强，利于算法跳出局部最优而得到全局最优解，可以提高算法的求解精度。其中，式(18)形式为最优的非线性惯性权重。

进一步，比较几种不同惯性权重对应的粒子群算法及采用网格搜索算法的参数寻优时间及识别结果等指标，更加证明了粒子群算法的有效性，将结果列于表1中。

表1各种算法参数寻优时间比较

表1的实验结果进一步表明，网格搜索算法的参数搜索时间最长，几乎为MKL-SVM-PSO算法的7倍，运行速度远远慢于MKL-SVM-PSO搜索算法。而惯性权重无论取常数值，还是线性的动态权重或者非线性的动态权重，参数寻优的时间差异并不大。综上，采用MKL-SVM-PSO算法，配以式(18)的动态非线性惯性权重，使得平均适应度值更加平稳、快速地接近最优适应度值，且结果趋于全局最优。

本发明实施例提供的技术方案带来的有益效果是：

本发明提出了基于MKL-SVM-PSO算法的肺结节图像处理方法，可以快速、准确地寻找到多核支持向量机(MKL-SVM)的最优参数组，并将其应用于肺结节识别。将PSO算法引入MKL-SVM算法，并将其应用于肺结节的良恶性判别；在改变动态权重的基础上，讨论了线性权重与非线性权重的异同，并得到了最优的动态非线性权重形式。使得算法的平均适应度值更加快速、稳定地接近最佳适应度值，且易得到全局最优解。

以上仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种基于MKL-SVM-PSO算法的肺结节图像处理方法，其特征在于，包括：

从肺结节图像中提取感兴趣区域，对所述感兴趣区域进行特征选取，获取数据样本；其中，所述数据样本包括：用于参数寻优的训练集及用于测试模型的测试集；

通过MKL-SVM-PSO算法对所述数据样本的训练集进行寻优处理，获取最优参数组，建立MKL-SVM的数学模型；

所述MKL-SVM-PSO算法通过将PSO算法引入MKL-SVM算法，得到了MKL-SVM-PSO算法，对训练集进行训练，得到MKL-SVM的参数寻优，确定MKL-SVM识别算法的数学模型，并将其用在测试集上对肺结节进行识别；

将所述最优参数组应用于所述MKL-SVM的数学模型进行识别计算，得出肺结节的识别结果，具体步骤包括：

1)将粒子和速度初始化，根据PSO算法，将交叉验证意义下肺结节的识别准确率ACC作为目标，并将其确定为PSO的适应度函数值，ACC定义式如下：

上式中，TP为检测出的真阳性结节，即恶性病灶；FP为检测出的假阳性；FN为检测出的假阴性；TN是检测出的真阴性，即非结节；ACC衡量整体的识别准确率，SEN则衡量肺结节的实际检出率；

2)在训练集上计算粒子适应度值；

3)寻找个体极值和群体极值；

4)进行速度更新与位置更新；

5)根据更新后的速度与位置，计算所述粒子适应度值；

6)求得个体极值和群体极值更新；

7)对所述个体极值和群体极值是否满足终止条件，满足则结束计算，得到最优参数组；不满足继续重复步骤4)；

8)用得到的最优参数组在测试集上进行测试，得到测试集上的识别结果。

2.如权利要求1所述的方法，其特征在于，所述训练集与测试集均包含结节与非结节；所述数据样本是对感兴趣区域的13维特征提取，13维特征包括：7个形态特征，2个灰度特征，以及4个纹理特征。

Images