CN109918313A - 一种基于GBDT决策树的SaaS软件性能故障诊断方法 - Google Patents

Abstract

为了满足SaaS软件性能维护需求，本发明公开了一种结合性能日志基于GBDT决策树的SaaS软件性能故障诊断方法，采用监控的手段获取软件系统运行时性能日志，并结合警告日志的分析结果进行性能日志的性能故障类型标注，利用同类型均值填补方法以及组合SMOTE和前抽样方法对性能日志进行处理，以提供完整且均衡的性能日志数据，利用机器学习方法中的GBDT算法对性能日志进行分析并建立性能故障诊断模型，并将系统实时产生的性能日志输入到构建的诊断模型中，得到输出的对应性能故障类型，以此来对SaaS软件运行时的性能状态进行诊断。此外，在本发明中还会对实时的性能日志和诊断结果予以保存，每隔一段时间会对诊断模型进行更新，保证诊断模型的实时性，进一步确保诊断结果的准确性。

Description

一种基于GBDT决策树的SaaS软件性能故障诊断方法

技术领域

本发明属于软件工程领域，尤其涉及基于性能日志的SaaS软件故障诊断方法。

背景技术

21世纪以来随着互联网技术的蓬勃发展以及应用软件的愈加成熟，一种创新型的软件应用模式SaaS模式开始兴起。SaaS是一种通过webservice服务提供软件的基于Web交付的软件部署模型，用户通过网络对构建的应用软件进行托管、提供和访问。SaaS以其独特的模式得到了快速发展，越来越多的人或企业选择SaaS模式，因此SaaS模式下的应用软件(以下简称SaaS软件)需要具备更高的性能、可靠性和可用性。

然而SaaS软件在运行时相比于传统模式需要面对更多的挑战，因为SaaS软件会因各种因素而导致软件服务质量下降甚至出现软件性能降级的问题：一方面可能由软件自身的架构和代码设计的缺陷造成的，这方面问题需要从软件构建过程入手，对其架构设计等进行改进；另一方面可能是由SaaS软件运行在大规模且高复杂度并具有不可预知性的动态云环境下所引起的，可能的情况如下：(1)虚拟机或物理节点上资源不足；(2)对服务器的服务请求过于频繁；(3)硬件资源运行状况出现动态变化等情况。以上这些情况都有可能导致SaaS软件出现响应时间过长、资源利用率或吞吐率下降等软件性能降级问题，甚至丧失可用性。由于SaaS模式的付费特性，当SaaS软件出现性能问题时，SaaS用户可以终止租赁服务，并改用竞争对手提供的应用软件，这带给了SaaS供应商巨大的风险。

在现代计算机系统中，日志用于记录系统的运行情况、系统中发生的事件和系统中的异常行为，是分析软件运行情况和诊断性能故障的重要依据和首要信息来源。传统的基于日志进行性能故障诊断的方法是依靠维护人员从大量且复杂的日志中抽出与性能故障相关的信息，根据经验进行分析，以及对性能故障的诊断和定位。但是由于SaaS软件大多处于分布式集群环境中，各个层次间的应用软件交互频繁，从而导致系统中各个组件产生海量的日志数据，不仅加大了对性能故障诊断的难度，而且传统的故障诊断方式很难对系统进行实时全面的故障诊断。因此如果可以利用计算机在短时间内对性能故障进行准确的诊断，就可以减低对性能故障的恢复时间，减少SaaS软件维护成本。

发明内容

传统的诊断方法浪费大量的时间，而且诊断的准确度会受到维护人员的经验影响，而现有利用计算机的诊断方法要么是利用了记录性能信息较少的系统日志，要么是只能对系统是否处于性能故障做出判断，都不利于对SaaS软件性能稳定的维护。本发明针对现有诊断方法的不足，提供一种基于性能日志利用GBDT算法的性能故障诊断方法。

一种基于GBDT决策树的SaaS软件性能故障诊断方法，其特征在于，包含以下步骤：

步骤1，性能日志的获取与特征提取，包括以下步骤：

步骤1.1，采用监控等技术手段获取SaaS软件系统运行时的性能日志；

步骤1.2，通过分析软件运行时资源层的KPI，提取性能日志中可以直接且全面反映软件运行时性能状态的特征；

步骤2，性能日志的标注，结合警告日志的分析结果对性能日志所述的性能故障类型进行标注，包括以下步骤：

步骤2.1，使用正则表达式和警告日志性能故障类型确定算法对警告日志进行提取，以确定其所属的性能故障类型，一条警告日志包含Time(时间)、Status(状态)、Details(描述信息)、Severity(警告级别)和Component(组件)等属性，使用正则表达式对警告日志Time属性值不符合规定格式的进行剔除，直接将警告级别为Normal等级的警告日志确定为normal类型，对非Normal等级的警告日志Component属性进行性能故障类型提取；

步骤2.2，根据警告日志的Status、Severity和Component属性找出警告日志对；

步骤2.3，将记录时间处于警告日志对时间段中的性能日志进行对应性能故障类型的标注；

步骤3，性能日志的预处理，对性能日志中的缺失数据和所属类型不均衡问题分别采用删除与替代补全相结合以及组合SMOTE与欠抽样的方法进行处理，包括以下步骤：

步骤3.1，首先判断一条性能日志的性能故障类型特征是否空缺，其次判断一条性能日志的缺失率是否超过阈值，对于性能故障类型特征不空缺而缺失率不超过阈值的性能日志采用同类型均值填补方法，对于性能故障类型特征空缺或缺失率超过阈值的性能日志进行删除；

步骤3.2，对于同类型均值填补方法，首先选取与包含缺失特征值的性能日志的性能故障类型相同的所有性能日志，其次所有选出的性能日志的该特征值进行累加求均值，并将均值对缺失特征值进行填补；

步骤3.3，选择某个少数性能故障类型作为划分标准，将多数性能故障类型的性能日志采用欠抽样的方式进行子集拆分，使每个子集与少数性能故障类型的性能日志数量相同；将更少数性能故障类型的性能日志采用SMOTE的方式进行合成，使合成后的更少数类型集合数量与划分标准相同；

步骤3.4，将这些性能日志集合或子集进行一一组合，得到若干个完整且均衡的组合性能日志集合；

步骤4，性能故障诊断模型构建，利用GBDT算法实现性能多个性能故障诊断模型的建立，包括以下步骤：

步骤4.1，选择CART回归模型作为GBDT的弱学习模型，并利用logistics变换将性能故障类型映射成对应概率，使用对数似然函数作为GBDT的损失函数；

步骤4.2，对于构建一个性能故障诊断模型，首先选取一个组合性能日志集合，在每次迭代中对于性能故障集中的每一个性能故障类型进行以下操作：对于集合中的每条性能日志，通过损失函数的负梯度来计算近似残差，也就是对损失函数计算一阶导数的负数作为新的学习目标；然后利用具有新的学习目标的性能日志拟合CART回归树，并对叶子节点计算增益，每个节点的增益都是一个十三维的向量，每一维增益代表着该节点属于各个性能故障类型的概率；最后合并累加弱学习模型，形成该次迭代所产生的新CART回归模型；重复以上步骤直至迭代完成，形成最终的强学习模型，也就是性能故障诊断模型；

步骤4.3，对于剩下所有的组合性能日志集合重复步骤4.2，最终得出若干个性能故障诊断模型；在进行对SaaS软件系统诊断时，采用投票机制对若干个诊断模型诊断结果进行投票，票数最高者为最终诊断结果；若出现平票情况，则表示当前系统处于两个甚至多个性能故障瓶颈中；或者诊断模型无法做出确定判断，此时则会交由人工进行判断；如果人工判断得到的性能故障类型不在性能故障集合中，则会对性能故障集合进行更新；

步骤4.4，对监控到的实时性能日志以及利用性能故障诊断模型对其进行诊断的结果予以保存，并周期性的利用这些保存的数据对性能日志集合和性能故障诊断模型进行更新。

在上述的一种基于GBDT决策树的SaaS软件性能故障诊断方法，其特征在于，所述步骤3.2具体包括：

步骤A、我们将average processor queue length性能故障类型作为划分标准，分别计算属于剩下性能故障类型的性能日志数量，并将其与标准性能日志数量作对比，多于标准性能日志数量的记作多数类型，而少于标准性能日志数量的记作少数类型；

步骤B、对于属于多数性能故障类型性能日志采用欠抽样的方式对其进行若干子集划分，使每个子集内的性能日志数量与标准性能日志数量相同，如果不能完全与标准性能日志数量相同，则采用向上取整的方式进行划分；

步骤C、对于属于少数性能故障类型的性能日志采用SMOTE方法对其进行人工合成数据，使其合成后的性能日志数量与标准性能日志数量相同，如果标准性能日志数量不是其整数倍，则同样采用向上取整的方式得出N值；

步骤D、分别将这些多数性能故障类型性能日志子集和少数性能故障类型性能日志集合、以及标准性能日志集进行笛卡尔乘积运算，也就是进行了排列组合，使所有的子集或集合相互不重复组合，最终形成若干个组合性能日志集合，再分别利用这若干个集合进行性能故障诊断模型的构建。

本发明基于监控等技术手段来获取性能日志，并通过分析软件运行时资源层的KPI对性能日志进行特征提取，其次结合警告日志分析结果对性能日志进行性能故障类型标注，然后采用删除与替代补全相结合以及组合SMOTE与欠抽样的方法对性能日志中的缺失数据和类型非均衡的问题进行处理，最后利用GBDT算法构建性能故障诊断模型，采用投票机制给出对系统的最终诊断结果，并对实时性能日志和诊断结果予以保存，周期性的对性能故障诊断模型进行更新。

附图说明

图1是本发明的方法诊断过程图。

图2是本发明的性能日志缺失数据处理流程示意图。

图3是本发明的性能日志类型均衡处理过程示意图。

具体实施方式

本发明主要基于警告日志的分析结果来对性能日志进行标注，通过利用GBDT算法对性能日志进行分析并建立性能故障诊断模型，从而实现对系统的性能状态的诊断。基于该方法，不仅能够高效的进行性能故障诊断，而且能够提供准确的诊断结果。

本发明的方法的诊断过程，参见图1。以下对该方法诊断过程进行具体的阐述：

步骤1，性能日志的获取与特征提取，包括以下步骤：

步骤1.1，性能日志一般是指记录反映系统的运行时相关的性能信息，例如cpu占用率等，以数值的形式记录。本发明采用监控等技术手段获取SaaS软件系统运行时的性能日志。

步骤1.2，通过分析软件运行时资源层的KPI对性能日志进行特征提取。SaaS软件系统的性能运行情况一般来说可以通过响应时间、吞吐率和资源利用率等指标进行反映。通过对性能日志进行特征提取和分析，来反映这三个性能指标，从而了解系统运行是的性能状态。本发明通过提取性能日志中时间、CPU、内存、磁盘和网络等资源层特征来反映以上三个性能指标，从而使性能日志可以直接且全面反映软件运行时性能状态。

步骤1.3，性能故障集合建立。性能故障包含软件性能故障和硬件性能故障，因为本发明针对SaaS软件性能维护，因此建立的性能故障集合只包含软件性能故障。性能故障集合包含反应CPU、内存、磁盘和网络方面的性能故障描述，以及正常状态。

步骤2，性能日志的标注，结合警告日志的分析结果对性能日志所述的性能故障类型进行标注，包括以下步骤：

步骤2.1，使用正则表达式和警告日志性能故障类型确定算法对警告日志进行提取，以确定其所属的性能故障类型。一条警告日志包含Time(时间)、Status(状态)、Details(描述信息)、Severity(警告级别)和Component(组件)等属性，使用正则表达式对警告日志Time属性值不符合规定格式的进行剔除，直接将警告级别为Normal等级的警告日志确定为normal类型，对非Normal等级的警告日志Component属性进行性能故障类型提取。如下所示，算法1给出了本发明所使用的非Normal等级的警告日志性能故障类型确定算法的伪代码。

步骤2.2，在警告日志集中寻找所有的警告日志对。警告日志的状态与等级是有相关性的，对于同一性能故障的开始和结束，其组件属性的记录是一致的，因此如果一条警告日志的等级与另一条警告日志的状态是相连接的，且两条警告日志的Component属性值相同，则认为这两条警告日志为一个警告日志对。

步骤2.3，为性能日志进行性能故障类型的标注。将警告日志对中的警告日志记录时间分别作为性能故障的开始时间和结束时间，将其类型记为性能故障类型，根据性能日志的记录时间，找出在该性能故障发生时间段内的所有性能日志，并为其标注性能故障类型，该类型即为性能故障类型。如下所示，算法2给出了本发明所使用的性能日志类别标注算法的伪代码。

步骤3，性能日志的预处理，对性能日志中的缺失数据和所属类型不均衡问题分别采用删除与替代补全相结合以及组合SMOTE与欠抽样的方法进行处理，包括以下步骤：

步骤3.1，性能日志缺失数据处理。

本发明认为性能日志的缺失率在一定程度下是可以采用中间值的方法进行补全的，但是当缺失率超过一定阈值或者缺失的数据为重要的信息时，则认为该条性能日志数据已经没有存在的价值，应该将其删除，如果强行对其采用替代填补的方法进行补全，则过多的加入了人工的干预，将使数据变得不可信，同时也有可能影响最终的性故障诊断结果，因此采用删除与替代补全相结合的方法对性能日志中的缺失数据进行处理。图2展示了该方法的处理流程。

首先判断一条性能日志的性能故障类型特征是否空缺，其次判断一条性能日志的缺失率是否超过阈值，对于性能故障类型特征不空缺而缺失率不超过阈值的性能日志采用同类型均值填补方法，对于性能故障类型特征空缺或缺失率超过阈值的性能日志进行删除。

对于同类型均值填补方法，首先选取与包含缺失特征值的性能日志的性能故障类型相同的所有性能日志，其次所有选出的性能日志的该特征值进行累加求均值，并将均值对缺失特征值进行填补。

步骤3.2，性能日志所属类型均衡处理。

本发明认为如果直接将非均衡的性能日志数据集用于GBDT训练、构建性能故障诊断模型时，会使性能故障诊断模型在多数性能故障类型的性能日志上产生过拟合现象，而在少数性能故障类型的性能日志上产生欠拟合的现象，从而使性能故障诊断模型的诊断能力大大下降，会增加SaaS软件性能故障的恢复时间。因此，在使用性能日志之前需要对其进行性能故障类型均衡处理，图3展示了本发明中对非均衡的性能日志的处理流程。

本发明的主要思想就是将选择一个少数性能故障类型作为划分标准，将多数性能故障类型的性能日志采用欠抽样的方式进行子集拆分，使每个子集与少数性能故障类型的性能日志数量相同，而将更少数性能故障类型的性能日志采用SMOTE的方式进行合成，使合成后的更少数类型集合数量与划分标准相同，最后将这些性能日志集合或子集进行一一组合，并分别应用到构建性能故障诊断模型中。以下给出了本发明处理非均衡的性能日志的具体步骤：

1)我们将average processor queue length性能故障类型作为划分标准，分别计算属于剩下性能故障类型的性能日志数量，并将其与标准性能日志数量作对比，多于标准性能日志数量的记作多数类型，而少于标准性能日志数量的记作少数类型。

2)对于属于多数性能故障类型性能日志采用欠抽样的方式对其进行若干子集划分，使每个子集内的性能日志数量与标准性能日志数量相同，如果不能完全与标准性能日志数量相同，则采用向上取整的方式进行划分。

3)对于属于少数性能故障类型的性能日志采用SMOTE方法对其进行人工合成数据，使其合成后的性能日志数量与标准性能日志数量相同，如果标准性能日志数量不是其整数倍，则同样采用向上取整的方式得出N值。

4)分别将这些多数性能故障类型性能日志子集和少数性能故障类型性能日志集合、以及标准性能日志集进行笛卡尔乘积运算，也就是进行了排列组合，使所有的子集或集合相互不重复组合，最终形成若干个组合性能日志集合，再分别利用这若干个集合进行性能故障诊断模型的构建。

步骤4，性能故障诊断模型构建，利用GBDT算法实现性能多个性能故障诊断模型的建立，包括以下步骤：

步骤4.1，选择CART回归模型作为GBDT的弱学习模型，并利用logistics变换将性能故障类型映射成对应概率，使用对数似然函数作为GBDT的损失函数。

步骤4.2，对于构建一个性能故障诊断模型，首先选取一个组合性能日志集合，在每次迭代中对于性能故障集中的每一个性能故障类型进行以下操作：对于集合中的每条性能日志，通过损失函数的负梯度来计算近似残差，也就是对损失函数计算一阶导数的负数作为新的学习目标；然后利用具有新的学习目标的性能日志拟合CART回归树，并对叶子节点计算增益，每个节点的增益都是一个十三维的向量，每一维增益代表着该节点属于各个性能故障类型的概率；最后合并累加弱学习模型，形成该次迭代所产生的新CART回归模型。重复以上步骤直至迭代完成，形成最终的强学习模型，也就是性能故障诊断模型。

步骤4.3，对于剩下所有的组合性能日志集合重复步骤4.2，最终得出若干个性能故障诊断模型。在进行对SaaS软件系统诊断时，采用投票机制对若干个诊断模型诊断结果进行投票，票数最高者为最终诊断结果。若出现平票情况，则表示当前系统处于两个甚至多个性能故障瓶颈中；或者诊断模型无法做出确定判断，此时则会交由人工进行判断。如果人工判断得到的性能故障类型不在性能故障集合中，则会对性能故障集合进行更新。

步骤4.4，对监控到的实时性能日志以及利用性能故障诊断模型对其进行诊断的结果予以保存，并周期性的利用这些保存的数据对性能日志集合和性能故障诊断模型进行更新。

本文中所描述的具体实施例仅仅是对本发明精神作举例说明。本发明所属技术领域的技术人员可以对所描述的具体实施例做各种各样的修改或补充或采用类似的方式替代，但并不会偏离本发明的精神或者超越所附权利要求书所定义的范围。

Claims (2)

1.一种基于GBDT决策树的SaaS软件性能故障诊断方法，其特征在于，包含以下步骤：

步骤1，性能日志的获取与特征提取，包括以下步骤：

步骤1.1，采用监控等技术手段获取SaaS软件系统运行时的性能日志；

步骤1.2，通过分析软件运行时资源层的KPI，提取性能日志中可以直接且全面反映软件运行时性能状态的特征；

步骤2，性能日志的标注，结合警告日志的分析结果对性能日志所述的性能故障类型进行标注，包括以下步骤：

步骤2.1，使用正则表达式和警告日志性能故障类型确定算法对警告日志进行提取，以确定其所属的性能故障类型，一条警告日志包含Time(时间)、Status(状态)、Details(描述信息)、Severity(警告级别)和Component(组件)等属性，使用正则表达式对警告日志Time属性值不符合规定格式的进行剔除，直接将警告级别为Normal等级的警告日志确定为normal类型，对非Normal等级的警告日志Component属性进行性能故障类型提取；

步骤2.2，根据警告日志的Status、Severity和Component属性找出警告日志对；

步骤2.3，将记录时间处于警告日志对时间段中的性能日志进行对应性能故障类型的标注；

步骤3，性能日志的预处理，对性能日志中的缺失数据和所属类型不均衡问题分别采用删除与替代补全相结合以及组合SMOTE与欠抽样的方法进行处理，包括以下步骤：

步骤3.1，首先判断一条性能日志的性能故障类型特征是否空缺，其次判断一条性能日志的缺失率是否超过阈值，对于性能故障类型特征不空缺而缺失率不超过阈值的性能日志采用同类型均值填补方法，对于性能故障类型特征空缺或缺失率超过阈值的性能日志进行删除；

步骤3.2，对于同类型均值填补方法，首先选取与包含缺失特征值的性能日志的性能故障类型相同的所有性能日志，其次所有选出的性能日志的该特征值进行累加求均值，并将均值对缺失特征值进行填补；

步骤3.3，选择某个少数性能故障类型作为划分标准，将多数性能故障类型的性能日志采用欠抽样的方式进行子集拆分，使每个子集与少数性能故障类型的性能日志数量相同；将更少数性能故障类型的性能日志采用SMOTE的方式进行合成，使合成后的更少数类型集合数量与划分标准相同；

步骤3.4，将这些性能日志集合或子集进行一一组合，得到若干个完整且均衡的组合性能日志集合；

步骤4，性能故障诊断模型构建，利用GBDT算法实现性能多个性能故障诊断模型的建立，包括以下步骤：

步骤4.1，选择CART回归模型作为GBDT的弱学习模型，并利用logistics变换将性能故障类型映射成对应概率，使用对数似然函数作为GBDT的损失函数；

步骤4.2，对于构建一个性能故障诊断模型，首先选取一个组合性能日志集合，在每次迭代中对于性能故障集中的每一个性能故障类型进行以下操作：对于集合中的每条性能日志，通过损失函数的负梯度来计算近似残差，也就是对损失函数计算一阶导数的负数作为新的学习目标；然后利用具有新的学习目标的性能日志拟合CART回归树，并对叶子节点计算增益，每个节点的增益都是一个十三维的向量，每一维增益代表着该节点属于各个性能故障类型的概率；最后合并累加弱学习模型，形成该次迭代所产生的新CART回归模型；重复以上步骤直至迭代完成，形成最终的强学习模型，也就是性能故障诊断模型；

步骤4.3，对于剩下所有的组合性能日志集合重复步骤4.2，最终得出若干个性能故障诊断模型；在进行对SaaS软件系统诊断时，采用投票机制对若干个诊断模型诊断结果进行投票，票数最高者为最终诊断结果；若出现平票情况，则表示当前系统处于两个甚至多个性能故障瓶颈中；或者诊断模型无法做出确定判断，此时则会交由人工进行判断；如果人工判断得到的性能故障类型不在性能故障集合中，则会对性能故障集合进行更新；

步骤4.4，对监控到的实时性能日志以及利用性能故障诊断模型对其进行诊断的结果予以保存，并周期性的利用这些保存的数据对性能日志集合和性能故障诊断模型进行更新。

2.根据权利要求1所述的一种基于GBDT决策树的SaaS软件性能故障诊断方法，其特征在于，所述步骤3.2具体包括：

步骤A、我们将average processor queue length性能故障类型作为划分标准，分别计算属于剩下性能故障类型的性能日志数量，并将其与标准性能日志数量作对比，多于标准性能日志数量的记作多数类型，而少于标准性能日志数量的记作少数类型；

步骤B、对于属于多数性能故障类型性能日志采用欠抽样的方式对其进行若干子集划分，使每个子集内的性能日志数量与标准性能日志数量相同，如果不能完全与标准性能日志数量相同，则采用向上取整的方式进行划分；

步骤C、对于属于少数性能故障类型的性能日志采用SMOTE方法对其进行人工合成数据，使其合成后的性能日志数量与标准性能日志数量相同，如果标准性能日志数量不是其整数倍，则同样采用向上取整的方式得出N值；

步骤D、分别将这些多数性能故障类型性能日志子集和少数性能故障类型性能日志集合、以及标准性能日志集进行笛卡尔乘积运算，也就是进行了排列组合，使所有的子集或集合相互不重复组合，最终形成若干个组合性能日志集合，再分别利用这若干个集合进行性能故障诊断模型的构建。