CN113656294A - 一种软件缺陷预测方法 - Google Patents

Abstract

一种软件缺陷预测方法，首先对采集样本数据中的不平衡数据和脏数据处理形成信息决策表，采用等频率间隔划分方法对信息决策表进行离散化处理，采用基于信息熵属性约简的算法对全体样本进行属性约简，去掉冗余属性，降低样本维度，其次利用基于粒距动态改变惯性权重ω的改进粒子群算法搜索SVM模型最优参数组合(C，σ)，最后基于最优参数建立支持向量机软件缺陷预测模型，使用该模型在NASA软件度量数据集上进行缺陷预测；本发明通过粗糙集对原样本集进行属性约减，仅保留了少量特征属性，不但可提高软件缺陷预测性能，而且可以大大减少采样工作量，提高工作效率。

Description

一种软件缺陷预测方法

技术领域

本发明涉及一种缺陷预测，具体是一种软件缺陷预测方法，属于软件工程技术领域。

背景技术

软件缺陷，根据ISO 9000的定义“未满足与预期或者规定用途有关的要求”，是导致软件系统出错、失效、崩溃甚至机毁人亡的潜在根源。软件缺陷预测技术是根据历史数据以及已经发现的缺陷等软件度量数据预测哪些模块有出错倾向，对软件开发者合理配置资源，从而降低研发成本、缩短产品开发周期和提高软件质量起到重要作用。

软件缺陷预测本质上是一个模式识别的过程，它的核心是分类，目前用于软件缺陷预测的方法有Bayes分类器、分类回归树、聚类分析、神经网络等。由于软件缺陷受到多种复杂度度量属性的综合作用，至今尚没有一种软件缺陷预测的通用的分类模型。

近年来，用支持向量机(SupportVector Machine,SVM)来实现基于分类问题的预测已经成为研究热点。支持向量机(SVM)是一种通用的前馈神经网络，其核心是经验风险最小化原则，有效地解决了小样本、高维数、非线性等学习问题，由Vapnik在1992年首次提出，可以用于模式分类和非线性回归，各国学者开始用支持向量机(SVM)进行软件可靠性方面的预测。国际上，Gray等人利用支持向量机(SVM)对软件缺陷进行预测取得了不错的效果；Mishra等人提出模糊支持向量机(SVM)用于软件可靠性预测；国内崔正斌等人提出了遗传优化支持向量机(SVM)软件可靠性模型；张艳等人将支持向量机(SVM)回归模型用于测控软件故障预测。

但是作为一种新的学习机器，支持向量机(SVM)也存在一些有待完善的地方，例如参数选取的问题，数据量过大时，支持向量机(SVM)的训练时间过长、速度变慢的问题。

发明内容

本发明的目的是提供一种软件缺陷预测方法，不但可提高软件缺陷预测性能，而且可以大大减少采样工作量，提高工作效率。

为了实现上述目的，本发明提供一种软件缺陷预测方法，包括以下步骤：

步骤1：数据预处理

步骤1-1：软件缺陷样本数据采集；

步骤1-2：对采集到的样本数据进行清理，形成信息决策表S<U,C_RS∪D>,其中，U为论域，表示全体样本，C_RS为条件属性集，D为决策属性集；

步骤1-3：采用等频率间隔划分方法对信息决策表S<U,C_RS∪D>进行离散化处理；

步骤1-4：采用粗糙集约简的算法对全体样本U进行属性约简得到样本集；

步骤2：对属性约简后的样本集进行归一化，并将样本集划分为训练样本集和测试样本集两部分；

步骤3：利用基于粒距动态改变惯性权重ω的改进粒子群算法搜索支持向量机模型的最优参数组合(C，σ)；

步骤4：基于最优参数组合(C，σ)重新建立并训练支持向量机模型，其中C为支持向量机的惩罚因子，σ为支持向量机的核参数；

步骤5：对测试样本进行预测。

本发明步骤1-2中，对样本数据进行清理具体如下：对不平衡数据和脏数据预处理，删除全体样本中的“重复数据”和“矛盾数据”，信息决策表S<U,C_RS∪D>是由随机提取的50％的有缺陷样本和50％的无缺陷样本组成。

本发明步骤1-3中等频率间隔划分方法具体是：将所有M个属性值按照顺序排列，然后划分成K个区间段，每个区间段包含属性的个数为M/K个。

本发明步骤1-4中，采用粗糙集约简的算法对全体样本U进行属性约简具体如下：

由式I(B,D)＝H(D)-H(D|B),I(α_PSO,D|B)＝H(D|B)-H(D|B∪{α_PSO})求得

然后令B＝B∪{β}，重复直到I(B,D)＝I(C_RS,D)，此时B就是所求信息决策表S〈U,C_RS∪D>的一个约简；

式中：B为初始值是信息决策表S〈U,C_RS∪D>中C_RS关于D的核；

α_PSO∈C_RS\B，H(Q|P)为知识Q相对于知识P的条件熵；

α_PSO为C_RS\B的子集。

本发明步骤2中对样本集进行归一化，利用公式(1)归一化到[-1,1]区间：

x′＝(x_i-x_min)/(x_max-x_min) (1)

式中：x′是归一化后的数据；

x_i是原始数据的输入特征；

x_max和x_min分别是原始数据输入特征的最大值和最小值。

本发明步骤3中利用基于粒距动态改变惯性权重ω的改进粒子群(ImprovedParticle Swarm Optimization,IPSO)算法搜索支持向量机(SVM)模型的最优参数组合(C，σ)具体如下：

设定支持向量机(SVM)惩罚因子C的取值范围[C_min,C_max]，支持向量机的核参数σ的取值范围[σ_min,σ_max]，粒子群体大小N，初始化速度和位置，粒子维度D_PSO＝2，最大迭代次数I_PSO，终止算法的阈值等；粒子按公式(2)和公式(3)来更新自己的速度V_i和位置X_i，惯性权重ω按公式(4)-(6)计算：

V_i(k+1)＝ωV_i(k)+c₁r₁(p_i(k)-X_i(k))+c₂r₂(p_g(k)-X_i(k)) (2)

X_i(k+1)＝X_i(k)+V_i(k+1) (3)

式中：k为迭代次数；

r₁,r₂为[0,1]之间的随机数；

c₁,c₂为学习因子；

X_ij(k)为第k次迭代时第i个粒子的位置向量的第j个分量；

p_gj(k)为第k次迭代时种群历史最优位置向量的第j个分量；

ε为由粒距决定的惯性权重调节因子；

ε_max和ε_min分别为ε的最大值和最小值；

d_i为粒子的粒距；

d_max和d_min分别为第k次迭代时第i个粒子的最大和最小粒距；

ω_max和ω_min分别为惯性权重ω的最大值和最小值；

算法终止时最优位置即为支持向量机最优参数组合(C，σ)。

本发明步骤4中基于最优参数组合(C，σ)重新建立并训练支持向量机(SVM)模型具体为：

求出分类超平面(W_SVM，b)，此分类超平面(W_SVM，b)可以使几何间隔最大，然后可用此分类超平面(W_SVM，b)进行分类，

式中：l是支持向量的数目；

为最优拉格朗日乘子，0＜α_i＜C；

b是阈值；

W_SVM是分类直线法向量。

本发明步骤5中对测试样本进行预测具体为：

采用公式(8)对测试数据进行预测：将测试数据x代入公式(8)分类函数f(x)中，如果f(x)＝-1，则将x的类别赋为-1，表示软件有缺陷；如果f(x)＝1,则将x的类别赋为1，表示软件无缺陷；

分类函数：

式中：K(x_i,x)是径向基核函数。

本发明的预测方法还包括对提出的方法进行显著性检验，判断方法是否明显区别于其他方法。

检验采用准确度(Accuracy)、精确度(Precision)、查全率(Recall)和F-度量(F-Measure)来评价和比较预测模型，进行显著性检验。

与现有技术相比，本发明首先对采集样本数据中的不平衡数据和脏数据处理形成信息决策表，采用等频率间隔划分方法对信息决策表进行离散化处理，采用基于信息熵属性约简的算法对全体样本进行属性约简，去掉冗余属性，降低样本维度，其次利用基于粒距动态改变惯性权重ω的改进粒子群算法搜索SVM模型最优参数组合(C，σ)，最后基于最优参数建立支持向量机软件缺陷预测模型，使用该模型在NASA软件度量数据集上进行缺陷预测；本发明通过粗糙集对原样本集进行属性约减，仅保留了少量特征属性，不但可提高软件缺陷预测性能，而且可以大大减少采样工作量，提高工作效率。

附图说明

图1是本发明的流程框图；

图2是本发明经过属性约简后的特征向量图；

图3是本发明权值w随ε的变化趋势图。

具体实施方式

下面结合附图对本发明作进一步说明。

如图1所示，一种软件缺陷预测方法，包括以下步骤：

步骤1：数据预处理

步骤1-1：软件缺陷样本数据采集；

步骤1-2：对采集到的样本数据进行清理，形成信息决策表S<U,C_RS∪D>，其中，U为论域，表示全体样本，C_RS为条件属性集，D为决策属性集；

步骤1-3：采用等频率间隔划分方法对信息决策表S<U,C_RS∪D>进行离散化处理；

步骤1-4：采用粗糙集约简的算法对全体样本U进行属性约简，去掉冗余属性，降低样本维度；

步骤2：对属性约简后的样本集进行归一化，并将样本集划分为训练样本集和测试样本集两部分；

步骤3：利用基于粒距动态改变惯性权重ω的改进粒子群(Improved ParticleSwarm Optimization,IPSO)算法搜索支持向量机(SVM)模型的最优参数组合(C，σ)；

步骤4：基于最优参数组合(C，σ)重新建立并训练支持向量机(SVM)模型；

步骤5：对测试样本进行预测。

步骤1-2中，对样本数据进行清理具体如下：对采集到的样本数据中的不平衡数据和脏数据进行预处理，删除全体样本中的“重复数据”和“矛盾数据”，信息决策表S<U,C_RS∪D是由随机提取的50％的有缺陷样本和50％的无缺陷样本组成。

步骤1-3中等频率间隔划分方法具体是：将所有M个属性值按照顺序排列，然后划分成K个区间段，每个区间段包含属性的个数为M/K个。

步骤1-4中，采用粗糙集约简的算法对全体样本U进行属性约简具体如下：

由式I(B,D)＝H(D)-H(D|B),I(α_PSO,D|B)＝H(D|B)-H(D|B∪{α_PSO})求得

然后令B＝B∪{β}，重复直到I(B,D)＝I(C_RS,D)，此时B就是所求信息决策表S<U,C_RS∪D>的一个约简；

式中：B为初始值是信息决策表S<U,C_RS∪D>中C_RS关于D的核；

α_PSO∈C_RS\B，H(Q|P)为知识Q相对于知识P的条件熵；

α_PSO为C_RS\B的子集。

步骤2中对样本集进行归一化，利用公式(1)归一化到[-1,1]区间：

x′＝(x_i-x_min)/(x_max-x_min) (1)

式中：x′是归一化后的数据；

x_i是原始数据的输入特征；

x_max和x_min分别是原始数据输入特征的最大值和最小值。

步骤3中利用基于粒距动态改变惯性权重ω的改进粒子群(Improved ParticleSwarm Optimization,IPSO)算法搜索支持向量机(SVM)模型的最优参数组合(C，σ)具体如下：

设定支持向量机(SVM)惩罚因子C的取值范围[C_min,C_max]，支持向量机的核参数σ的取值范围[σ_min,σ_max]，粒子群体大小N，初始化速度和位置，粒子维度D_PSO＝2，最大迭代次数I_PSO，终止算法的阈值等；粒子按公式(2)和公式(3)来更新自己的速度V_i和位置X_i，惯性权重ω按公式(4)-(6)计算：

V_i(k+1)＝ωV_i(k)+c₁r₁(p_i(k)-X_i(k))+c₂r₂(p_g(k)-X_i(k)) (2)

X_i(k+1)＝X_i(k)+V_i(k+1) (3)

式中：k为迭代次数；

r₁,r₂为[0,1]之间的随机数；

c₁,c₂为学习因子；

X_ij(k)为第k次迭代时第i个粒子的位置向量的第j个分量；

p_gj(k)为第k次迭代时种群历史最优位置向量的第j个分量；

ε为由粒距决定的惯性权重调节因子；

ε_max和ε_min分别为ε的最大值和最小值；

d_i为粒子的粒距；

d_max和d_min分别为第k次迭代时第i个粒子的最大和最小粒距；

ω_max和ω_min分别为惯性权重ω的最大值和最小值；

算法终止时最优位置即为支持向量机最优参数组合(C，σ)。

步骤4中基于最优参数组合(C，σ)重新建立并训练支持向量机(SVM)模型具体为：

求出分类超平面(W_SVM，b)，此分类超平面(W_SVM，b)可以使几何间隔最大，然后可用此分类超平面(W_SVM，b)进行分类，

式中：l是支持向量的数目；

为最优拉格朗日乘子，0＜α_i＜C；

b是阈值；

W_SVM是分类直线法向量。

步骤5中对测试样本进行预测具体为：

采用公式(8)对测试数据进行预测：将测试数据x代入公式(8)分类函数f(x)中，如果f(x)＝-1，则将x的类别赋为-1，表示软件有缺陷；如果f(x)＝1,则将x的类别赋为1，表示软件无缺陷；

分类函数：

式中：K(x_i,x)为径向基核函数。

本方法还包括对提出的方法进行显著性检验，判断方法是否明显区别于其他方法，其检验方法采用准确度(Accuracy)、精确度(Precision)、查全率(Recall)和F-度量(F-Measure)来评价和比较预测模型，进行显著性检验。

实施例

本发明的软件缺陷预测方法，是基于粗糙集-改进粒子群-支持向量机的预测方法，用于构建高性能的软件缺陷预测模型，并对软件项目进行缺陷预测，如图1所示，实际应用中包括以下步骤：

步骤1：不平衡数据和脏数据预处理：删除样本集中大量的“重复数据”和“矛盾数据”这种脏数据，并随机提取有缺陷样本和无缺陷样本各占50％，形成信息决策表S<U,C_RS∪D>；以美国国家航空航天局(National Aeronautics&Space Administration，NASA)的JM1数据集为例，如表1所示，

美国国家航空航天局(National Aeronautics&Space Administration，NASA)较早就启动了软件缺陷预测技术的研究，并基于航空系统软件开展了软件模块的度量数据库项目MDP(metric data program)，为缺陷预测研究提供数据支撑，本发明采用的数据集是来源于MDP的JM1数据集，JM1数据集从一个用C++语言编写的一个地面预测系统项目中得到，共有10878个模块，每个模块的22个属性中5个属性来源于代码度量，3个来源于McCabe度量，12个来源于或派生于Halstead度量，1个属性是模块分支数，最后一个是目标属性。表1中No是序号，

F1是LOC_BLANK，表示空白行数目；

F2是BRANCH_COUNT，表示分支数目；

F3是LOC_CODE_AND_COMMENT，表示代码和注释行数；

F4是LOC_COMMENTS，表示注释行数；

F5是CYCLOMATIC_COMPLEXITY，表示环路复杂度；

F6是DESIGN_COMPLEXITY，表示设计复杂度；

F7是ESSENTIAL_COMPLEXITY，表示本质复杂度；

F8是LOC_EXECUTABLE，表示可执行行数；

F9是HALSTEAD_CONTENT，表示Halstead内容；

F10是HALSTEAD_DIFFICULTY，表示Halstead复杂度；

F11是HALSTEAD_EFFORT，表示Halstead编程效率；

F12是HALSTEAD_ERROR_EST，表示Halstead错误预测；

F13是HALSTEAD_LENGTH，表示Halstead程序长度；

F14是HALSTEAD_LEVEL，表示Halstead语言等级；

F15是HALSTEAD_PROG_TIME，表示Halstead编写程序时间；

F16是HALSTEAD_VOLUME，表示Halstead容量；

F17是NUM_OPERANDS，表示操作数数量；

F18是NUM_OPERATORS，表示操作符数量；

F19是NUM_UNIQUE_OPERANDS，表示特殊操作数数量；

F20是NUM_UNIQUE_OPERATORS，表示特殊操作符数量；

F21是LOC_TOTAL，表示总行数；

Defective是目标属性表示该模块是否存在缺陷，Y表示不存在缺陷，N表示存在缺陷；

去掉脏数据后，随机提取1200个数据作为实验样本，其中有缺陷样本和无缺陷样本各占50％，形成信息决策表S<U,C_RS∪D>；

采用等频率间隔划分方法对信息决策表S＜U,C_RS∪D>进行离散化处理后，进入步骤1-4，

计算I(B,D)＝H(D)-H(D|B),I(α_PSO,D|B)＝H(D|B)-H(D|B∪{α_PSO})，

求得

然后令B＝B∪{β}，重复直到I(B,D)＝I(C_RS,D)，此时B就是所求信息决策表S<U,C_RS∪D>的一个约简，这样共得出信息决策表S<U,C_RS∪D>的两个约简：R1＝{F1,F4,F6,F8,F9,F11,F21}和R2＝{F5,F6,F19,F20,F21}，实验表明，R2约简结果更优，如图2所示。

进入步骤2，样本集被随机等分成10个子集，任取其中一个子集作为测试样本集，其余9个子集作为训练样本集，样本数据利用以下公式归一化到[-1，1]区间：

x′＝(x_i-x_min)/(x_max-x_min) (1)

进入步骤3，设定支持向量机惩罚因子C的取值范围[1,，100]，支持向量机的核参数σ的取值范围[0.0001，1000]，粒子群规模为20，初始化速度和位置，粒子维度为2，最大迭代次数300，终止算法的阈值等；对最优位置利用Lozi映射进行混沌优化，粒子按式(2)和式(3)来更新自己的速度V_i和位置X_i，惯性权重ω按式(4)-(6)来计算，惯性权重ω随ε的变化趋势如图3所示；算法终止时最优位置即为SVM最优参数组合(C,σ)＝(8.56，0.0134)。

V_i(k+1)＝ωV_i(k)+c₁r₁(p_i(k)-X_i(k))+c₂r₂(p_g(k)-X_i(k)) (2)

X_i(k+1)＝X_i(k)+V_i(k+1) (3)

进入步骤4，基于最优参数(C,σ)＝(8.56，0.0134)及特征属性集R＝{F5,F6,F19,F20,F21}式(7)求出分类超平面(W_SVM，b)，可用此分类超平面进行分类，建立软件缺陷预测模型。

进入步骤5，将测试数据x代入式(8)分类函数f(x)中进行计算

式(8)中，如果f(x)＝-1，将x的类别赋为软件有缺陷；如果f(x)＝1则将x的类别赋为软件无缺陷。

Claims (10)

1.一种软件缺陷预测方法，其特征在于，包括以下步骤：

步骤1：数据预处理

步骤1-1：软件缺陷样本数据采集；

步骤1-2：对采集到的样本数据进行清理，形成信息决策表S∈U,C_RS∪D>,其中，U为论域，表示全体样本，C_RS为条件属性集，D为决策属性集；

步骤1-3：采用等频率间隔划分方法对信息决策表S<U,C_RS∪D>进行离散化处理；

步骤1-4：采用粗糙集约简的算法对全体样本U进行属性约简得到样本集；

步骤2：对属性约简后的样本集进行归一化，并将样本集划分为训练样本集和测试样本集两部分；

步骤3：利用基于粒距动态改变惯性权重ω的改进粒子群算法搜索支持向量机模型的最优参数组合(C，σ)，其中C为支持向量机的惩罚因子，σ为支持向量机的核参数；

步骤4：基于最优参数组合(C，σ)重新建立并训练支持向量机模型；

步骤5：对测试样本进行预测。

2.根据权利要求1所述的一种软件缺陷预测方法，其特征在于，所述步骤1-2中，对样本数据进行清理具体如下：对不平衡数据和脏数据预处理，删除全体样本中的“重复数据”和“矛盾数据”，信息决策表S<U,C_RS∪D>是由随机提取的50％的有缺陷样本和50％的无缺陷样本组成。

3.根据权利要求1或2所述的一种软件缺陷预测方法，其特征在于，所述步骤1-3中等频率间隔划分方法具体是：将所有M个属性值按照顺序排列，然后划分成K个区间段，每个区间段包含属性的个数为M/K个。

4.根据权利要求1或2所述的一种软件缺陷预测方法，其特征在于，所述步骤1-4中，采用粗糙集约简的算法对全体样本U进行属性约简具体如下：

由式I(B,D)＝H(D)-H(D|B),I(α_PSO,D|B)＝H(D|B)-H(D|B∪{α_PSO})求得

然后令B＝B∪{β}，重复直到I(B,D)＝I(C_RS,D)，此时B就是所求信息决策表S<U,C_RS∪D>的一个约简；

式中：B为初始值是信息决策表S<U,C_RS∪D>中C_RS关于D的核；

α_PSO∈C_RS\B，H(Q|P)为知识Q相对于知识P的条件熵；

α_PSO为C_RS\B的子集。

5.根据权利要求4所述的一种软件缺陷预测方法，其特征在于，所述步骤2中对样本集进行归一化，利用公式(1)归一化到[-1,1]区间：

x′＝(x_i-x_min)/(x_max-x_min) (1)

式中：x′是归一化后的数据；

x_i是原始数据的输入特征；

x_max和x_min分别是原始数据输入特征的最大值和最小值。

6.根据权利要求4所述的一种软件缺陷预测方法，其特征在于，所述步骤3中利用基于粒距动态改变惯性权重ω的改进粒子群算法搜索支持向量机模型的最优参数组合(C，σ)具体如下：

设定支持向量机惩罚因子C的取值范围[C_min,C_max]，支持向量机的核参数σ的取值范围[σ_min,σ_max]，粒子群体大小N，初始化速度和位置，粒子维度D_PSO＝2，最大迭代次数I_PSO，终止算法的阈值；粒子按公式(2)和公式(3)来更新自己的速度V_i和位置X_i，惯性权重ω按公式(4)-(6)计算：

V_i(k+1)＝ωV_i(k)+c₁r₁(p_i(k)-X_i(k))+c₂r₂(p_g(k)-X_i(k)) (2)

X_i(k+1)＝X_i(k)+V_i(k+1) (3)

式中：k为迭代次数；

r₁,r₂为[0,1]之间的随机数；

c₁,c₂为学习因子；

X_ij(k)为第k次迭代时第i个粒子的位置向量的第j个分量；

p_gj(k)为第k次迭代时种群历史最优位置向量的第j个分量；

ε为由粒距决定的惯性权重调节因子；

ε_max和ε_min分别为ε的最大值和最小值；

d_i为粒子的粒距；

d_max和d_min分别为第k次迭代时第i个粒子的最大和最小粒距；

ω_max和ω_min分别为惯性权重ω的最大值和最小值；

算法终止时最优位置即为支持向量机最优参数组合(C，σ)。

7.根据权利要求1或2所述的一种软件缺陷预测方法，其特征在于，所述步骤4中基于最优参数组合(C，σ)重新建立并训练支持向量机模型具体为：

求出分类超平面(W_SVM，b)，此分类超平面(W_SVM，b)的几何间隔最大，然后用此分类超平面(W_SVM，b)进行分类，

式中：l是支持向量的数目；

为最优拉格朗日乘子，0＜α_i＜C；

b是阈值；

W_SVM是分类直线法向量。

8.根据权利要求1或2所述的一种软件缺陷预测方法，其特征在于，所述步骤5中对测试样本进行预测具体为：

采用公式(8)对测试数据进行预测：将测试数据x代入公式(8)分类函数f(x)中，如果f(x)＝-1，则将x的类别赋为-1，表示软件有缺陷；如果f(x)＝1,则将x的类别赋为1，表示软件无缺陷；

分类函数：

式中：K(x_i,x)是径向基核函数。

9.根据权利要求1所述的一种软件缺陷预测方法，其特征在于，还包括对提出的方法进行检验。

10.根据权利要求9所述的一种软件缺陷预测方法，其特征在于，检验方法采用准确度、精确度、查全率和F-度量来评价和比较预测模型。

Images