CN107634857B - 基于svm的故障检测模型构建及评估方法 - Google Patents

Abstract

本发明适用于云技术领域，提供了一种基于SVM的故障模型构建及评估方法，该方法包括如下步骤:选择径向基核函数RBF构造支持向量机SVM云故障预测模型；基于给定的云样本训练集对支持向量机SVM进行训练，所述训练过程具体如下：基于支持向量机SVM将云故障预测转化为具有约束条件的二次规划；基于二次规划的解构建决策函数，所述决策函数即为超平面；基于超平面对测试样本点进行故障评估。SVM模型相对于BP模型，LVQ模型而言，可以寻找到全局最优解，能避免维数灾难，同时收敛速度较快提高，此外，本发明实施例选择径向基核函数RBF构造支持向量机SVM云故障预测模型，因而在满足精确度的同时，可以降低模型构建的复杂度，提高故障分析效率。

Description

基于SVM的故障检测模型构建及评估方法

技术领域

本发明属于云技术领域，提供了一种基于SVM的故障检测模型构建及评估方法。

背景技术

近些年来，随着云计算技术快速发展，已经在很多领域得到广泛应用，逐渐成为目前计算机技术发展和创新应用的热点。许多大型IT企业都推出了自己云平台(如Google云、Amazon EC2)，开源云计算技术有很多发展，其中包含了Eucalyptus、OpenStack等也使得云计算技术得到很大的发展。当前，电子商务、社交网络等互联网服务早已成为人们平时工作生活中无法分割的一部分，很多应用部署在云平台依托于Saleforce CRM等云服务。

但是，云应用的复杂性、多样性和云环境的动态性使得云系统不时出现一些故障，会对人们正常的生活工作产生巨大影响，同时也会在商业方面导致严重的经济损失，高效监控同时准确检测云系统故障是云系统稳定运行的前提条件，分布式系统故障一般是由系统运行时复杂原因所导致的，如硬件故障、软件失效等，故障本身具有随机性，很难重现，如软件并发带来的死锁问题，这些故障难以在软件开发及测试阶段被发现以及及时被处理，此外由于云系统的动态性，系统维护人员也很难通过人工及时跟踪云系统的运行状态，因此有必要采用云故障检测技术在线进行云故障检测。

现有云故障检测大都通过对系统搜集的各监控参数数据进故障分析模型的构造，所采用的技术包括基于BP神经网络方法、及基于BP神经网络加以改进的学习矢量量化LVQ网络法，BP是一种多层前馈神经网络，该网络是一种按误差反向传播训练的多层网络，其基本思想是梯度下降法，利用梯度搜索技术，以期使网络的实际输出值和期望输出值的误差均方差为最小，LVQ学习向量量化是一种用于训练竞争层的有监督学习方法的输入前向网络，其在模式识别和优化领域有着广泛的应用，而BP神经网络方法及学习矢量量化LVQ网络法存在的精准度及分析效率不高的问题。

发明内容

本发明实施例提供种云环境下基于SVM的故障检测模型构建方法及评估方法，旨在解决基于BP神经网络方法及学习矢量量化LVQ网络法存在的精准度及分析效率不高的问题。

本发明是这样实现的，一种基于SVM的故障检测模型构建及评估方法，所述方法包括如下步骤:

S1、选择径向基核函数RBF构造支持向量机SVM云故障预测模型；

S2、基于给定的云样本训练集对支持向量机SVM进行训练，所述训练过程具体如下：

基于支持向量机SVM将云故障预测转化为具有约束条件的二次规划；

基于二次规划的解构建决策函数，所述决策函数即为超平面；

S3、基于超平面对测试样本点进行故障评估。

进一步的，在步骤S1之后还包括：

S12、基于GRID网格方法计算支持向量机SVM的惩罚参数c和g在云故障预测模型达到设定阈值时的取值，所述设定阈值为云故障预测模型训练分类准确率的阈值。

进一步的，所述步骤S3包括如下步骤：

S31、输入测试样本集合，所述测试样本集合中包括有正常测试样本点和故障测试样本点；

S32、对测试样本集合中的测试样本点进行第一阶段故障评估：

由于故障测试样本点和正常测试样本点分别位于超平面的两侧，分别称为超平面故障侧和超平面正常侧，对于超平面故障侧而言，测试样本点距超平面的距离值与故障概率值成正比；在超平面正常侧而言，测试样本点距超平面的距离值与故障概率值成反比，

基于超平面对测试样本点进行分类，将超平面正常侧的测试样本点划至正常样本集合，将超平面故障侧的测试样本点划至故障样本集合。

进一步的，所述步骤S3还包括如下步骤：

对正常样本集合内的样本点进行第二阶段故障评估：

第二阶段故障评估采用如下公式计算正常样本集合内样本点的故障发生概率：

P_i为样本i的故障概率，v_i为样本点i的决策值，V是决策值的集合，决策值是基于决策函数获取的，

其中f₁，f₂分别是指二次规划求解得到的最小值及拉格朗日乘子的和；

当P_i小于等于概率阈值θ时，则样本i重新划入故障样本集合，否则，样本i保留在正常样本集合。

进一步的，当云系统故障发生后，计算新故障样本点与故障样本库中的旧故障样本点间的相似度，基于相似度值判定是否将新故障样本点更新至故障样本库，所述相似度计算公式具体如下：

S＝a_i·b_j/(|a_i|×|b_j|) (4)

其中，a_i为新故障样本点向量，b_j为旧故障样本点向量，S为相似度，当两者的相似度值低于设定阈值时，认为新故障样本在故障样本库中不存在，将新故障样本加入到故障样本库以增加其样本空间；否则，认为该新故障样本点已经在故障样本库中存在，不需要更新到故障样本库。

SVM模型相对于BP模型，LVQ模型而言，可以寻找到全局最优解，能避免维数灾难，同时收敛速度较快提高，此外，本发明实施例选择径向基核函数RBF构造支持向量机SVM云故障预测模型，因而在满足精确度的同时，可以降低模型构建的复杂度，提高故障分析效率。

附图说明

图1为本发明实施例提供的基于SVM的故障检测模型构建及评估方法的流程图；

图2为本发明实施例提供的SVM模型与BP模型、LVQ模型的准确率比较结果图；

图3为本发明实施例提供的SVM模型与LVQ模型的行时间性能比较结果图；

图4为本发明实施例提供的SVM模型与BP模型的时间性能比较结果图。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

图1是本发明实施例提供的云环境下基于SVM的故障检测模型构建及评估方法的流程图，该方法包括如下步骤：

S1、基于径向基核函数RBF构造支持向量机SVM；

满足merce条件的函数可被用作支持向量机SVM中的核函数，mercer条件具体如下：

对于任意的对称函数K(x,x')，它是某个特征空间中的内积运算的充分必要条件是，对于任意的

且

有

通常使用的核函数包括线性核函数、多项式核函数K(x_i,x)＝(x_i·x+1)^d以及径向基核函数(RBF)exp(-g||x-cx'||²)等，其中RBF可以逼近任意的非线性函数，处理系统内的难以解析的规律性，具有良好的泛化能力，具有快速的收敛速度且需要较少确定参数个数，是较理想的分类依据函数，在满足精确度的同时，可以降低模型构建的复杂度，提高故障分析效率，本文选择径向基核函数RBF构造云故障构造预测模型。

S2、基于给定的云样本训练集对支持向量机SVM进行训练，所述训练过程具体如下：

S21、基于支持向量机SVM将云故障预测转化为具有约束条件的二次规划；

S22、基于二次规划的解构建决策函数，该决策函数即为超平面；

构造用于训练支持向量机SVM的云样本训练集，云样本训练集S＝{(w₁,l₁),(w₂,l₂),...,(w_m,l_m)}，(w_m,l_m)为云样本训练集中的训练样本点，w_m是指向量空间的向量，其中w_m∈R_n，R_n是指由R(实数集)上的n维向量构成的，l_j是云故障分类标记：

云故障预测可以看作是个二分类问题，基于支持向量机SVM把云故障预测转化为具有约束条件的二次规划求解，具体如下所示：

上式中，α_i、α_j是拉格朗日乘子，K(w_i,w_j)是核函数，C是支持向量机的参数，式(1)的解为

其中1≤i≤m。

将云故障预测问题被转化成寻找超平面问题，其决策函数如下：

式(2)中，w_i是指阶段计算涉及的部分训练向量，w是输入的全部训练向量，b*是偏置量。

S3、基于超平面对测试样本点进行故障评估。

SVM模型相对于BP模型，LVQ模型而言，可以寻找到全局最优解，能避免维数灾难，同时收敛速度较快提高，此外，本发明实施例选择径向基核函数RBF构造支持向量机SVM云故障预测模型，因而在满足精确度的同时，可以降低模型构建的复杂度，提高故障分析效率。

在本发明实施例中，为了降低该模型的复杂度，基于GRID网格进行参数C和g优化，在步骤S1之后还包括：

S12、基于GRID网格方法计算支持向量机SVM的惩罚参数c和g在云故障预测模型达到设定阈值时的取值范围，该设定阈值为云故障预测模型训练分类准确率的阈值。

基于GRID网格方法计算惩罚参数c和g的取值范围，计算方法如表1所示：

表1

该方法可以视为从一个平面结构中找到最优参数C及g，参数C及g的取值范围分别来自集合(2^-10,2¹⁰)、(2^-10,2¹⁰)，因此算法1中的cmin与gmin的值均为2^-10，cmax与gmax的值均为2¹⁰。

在本发明实施例中，步骤S3具体包括如下步骤：

S31、输入测试样本集合，所述测试样本集合中包括有正常测试样本点和故障测试样本点；

S32、对测试样本集合中的测试样本点进行第一阶段的故障评估：

在本发明实施例中，故障测试样本点和正常测试样本点一般分别位于超平面的两侧，分别称为超平面故障侧和超平面正常侧，对于超平面故障侧而言，测试样本点离超平面的距离越远，则故障的概率越大，测试样本点离超平面的距离越近，则故障的概率越小；对于超平面正常侧而言，测试样本点离超平面越远，正常的可能性越小，测试样本点离超平面越近，则故障的可能性越大。

基于超平面对测试样本点进行分类，将超平面正常侧的测试样本点划至正常样本集合，将超平面故障侧的测试样本点划至故障样本集合。

第一阶段的故障评估过程如表2所示：

表2

第一阶段的故障评估将测试样本点划分至正常样本集合和故障样本集合，由于超平面附近被分类为正常样本点可能是故障样本，如果这些样本点完全被认为是正常的样本，则可能导致很大的误报和漏报，为降低云故障的漏报率，因此需要进行第二阶段故障评估，以提高云系统的稳定性。

在本发明实施例中，步骤S3还包括如下步骤：

对正常样本集合内的样本点进行第二阶段故障评估：

第二阶段故障评估采用如下公式计算正常样本集合内的样本点的故障发生概率：

P_i为样本i的故障概率，v_i为样本点i的决策值，V是决策值的集合，决策值是基于决策函数获取的，

其中f₁，f₂分别是指二次规划求解得到的最小值及拉格朗日乘子的和；

当P_i小于等于概率阈值θ时，则样本i重新划入故障样本集合，否则，样本i保留在正常样本集合。

该第二阶段的故障评估实现过程表3所示：

表3

在本发明实施例中，当故障发生后，将新故障样本点更新到故障样本库中，以提高样本空间的大小，基于新故障样本对云故障预测模型进行新的训练，以逐步提高预测模型的准确率和降低漏报率；

当云系统故障发生后，计算新故障样本点与故障样本库中的旧故障样本点间的相似度，基于相似度值判定是否将新故障样本点更新至故障样本库，所述相似度计算公式具体如下：

S＝a_i·b_j/(|a_i|×|b_j|) (4)

其中，a_i为新故障样本点向量，b_j为旧故障样本点向量，S为相似度，当两者的相似度值低于设定阈值时，认为新故障样本在故障样本库中不存在，将新故障样本加入到故障样本库以增加其样本空间；否则，认为该新故障样本点已经在故障样本库中存在，不需要更新到故障样本库。

该故障模型更新方法具体如表4所示：

表4

本文使用Google公司公开的监控数据进行模拟实验，该数据集来自GoogleCluster Trace应用集群的监控数据，包含12500多台虚拟机，总共时长为29天，每隔300秒进行一次数据采集，数据集总大小约40GB，其中包含了CPU、内存等使用情况的监控数据，本文在Matlab2017a平台上，实验环境为：Intel Core i5、2.3GHz、4G内存；采用libsvm-3.1对预测模型进行训练验证，对数据集中CPU使用率、内存使用率等10个数据参数进行分析。

根据TOME属性对各数据集云故障进行分类，每个数据集中，TOME＝1表示样本发生故障，TOME＝0表示系统正常。为了缩短分类时间，本文在数据集中随机分别选取500个正常数据样本和500个故障数据样本，为了验证模型预测能力，本文使用5折交叉验证法对模型验证。即把每个数据集均分为5份，再把拿出4份做模型训练，剩下的一份用来做模型预测，用5次故障预测模型的结果均值作为对云故障预测模型性能的评价值。

对于测试样本预测，测试样本面临下列四种情况：

正常测试样本被预测为正常样本，记为这样的样本数为NN；正常测试样本被预测为故障样本，记为这样的样本数为NF；故障测试样本被预测为正常样本，记为这样的样本数为FN；故障测试样本被预测为故障样本，记为这样的样本数为FF；

(1)准确准确率(Accurary)采用如下公式计算：

将本文提出的SVM模型，简称Proposed，将SVM模型与BP、LVQ模型的准确率比较结果如图2所示，三种模型通过5组实验，发现准确率数值上存在比较明显的差异，总体上，基于BP神经网络普遍比基于学习矢量量化LVQ模型在预测准确率上高，基于SVM模型比对基于BP神经网络和LVQ模型预测准确率普遍高，可以得出本文提出预测模型相比其他故障模型准确率较高。

(2)将SVM模型与LVQ模型、BP模型进行时间性能比较，SVM模型与LVQ模型的行时间性能比较结果如图3所示，SVM模型与BP模型的时间性能比较结果图4所示，通过对三种模型建模时间对比发现，基于学习矢量量化LVQ模型远高于基于改进型SVM模型及基于BP神经网络模型，而改进型SVM模型和基于BP神经网络模型建模耗时差不多。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种基于SVM的故障模型构建及评估方法，其特征在于，所述方法包括如下步骤:

S1、选择径向基核函数RBF构造支持向量机SVM云故障预测模型；

S2、基于给定的云样本训练集对支持向量机SVM进行训练，所述训练过程具体如下：

基于支持向量机SVM将云故障预测转化为具有约束条件的二次规划；

基于二次规划的解构建决策函数，所述决策函数即为超平面；

S3、基于超平面对测试样本点进行故障评估，所述步骤S3包括如下步骤：

S31、输入测试样本集合，所述测试样本集合中包括有正常测试样本点和故障测试样本点；

S32、对测试样本集合中的测试样本点进行第一阶段故障评估：

由于故障测试样本点和正常测试样本点分别位于超平面的两侧，分别称为超平面故障侧和超平面正常侧，对于超平面故障侧而言，测试样本点距超平面的距离值与故障概率值成正比；在超平面正常侧而言，测试样本点距超平面的距离值与故障概率值成反比，

基于超平面对测试样本点进行分类，将超平面正常侧的测试样本点划至正常样本集合，将超平面故障侧的测试样本点划至故障样本集合；

所述步骤S3还包括如下步骤：

对正常样本集合内的样本点进行第二阶段故障评估：

第二阶段故障评估采用如下公式计算正常样本集合内样本点的故障发生概率：

P_i为样本i的故障概率，v_i为样本点i的决策值，V是决策值的集合，决策值是基于决策函数获取的，

其中f₁，f₂分别是指二次规划求解得到的最小值及拉格朗日乘子的和；

当P_i小于等于概率阈值θ时，则样本i重新划入故障样本集合，否则，样本i保留在正常样本集合。

2.如权利要求1所述的基于SVM的故障模型构建及评估方法，其特征在于，在步骤S1之后还包括：

S12、基于GRID网格方法计算支持向量机SVM的惩罚参数c和g在云故障预测模型达到设定阈值时的取值，所述设定阈值为云故障预测模型训练分类准确率的阈值。

3.如权利要求1所述的基于SVM的故障模型构建及评估方法，其特征在于，当云系统故障发生后，计算新故障样本点与故障样本库中的旧故障样本点间的相似度，基于相似度值判定是否将新故障样本点更新至故障样本库，所述相似度计算公式具体如下：

S＝a_i·b_j/(|a_i|×|b_j|) (4)

其中，a_i为新故障样本点向量，b_j为旧故障样本点向量，S为相似度，当两者的相似度值低于设定阈值时，认为新故障样本在故障样本库中不存在，将新故障样本加入到故障样本库以增加其样本空间；否则，认为该新故障样本点已经在故障样本库中存在，不需要更新到故障样本库。

Images