CN116108371A - 基于级联异常生成网络的云服务异常诊断方法与系统 - Google Patents

Abstract

本发明公开了基于级联异常生成网络的云服务异常诊断方法与系统，涉及计算机技术领域，方法包括S1构建级联异常生成网络模型；S2获取历史数据和异常知识库；S3历史数据和异常知识库导入级联异常生成网络模型并对其进行训练优化；S4获取实时数据，利用优化后的级联异常生成网络模型进行异常检测识别并生成异常识别结果；系统包括采集模块、储存模块、优化训练模块和异常诊断模块；通过级联异常生成网络模型用于识别多类常见云服务异常；依托级联异常生成网络模型，设计了适用于云平台监控时间序列数据的异常检测系统，实现了多类常见云服务异常的逐级诊断，有效提升了云服务的可用性和服务异常的可解释性。

Description

基于级联异常生成网络的云服务异常诊断方法与系统

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于级联异常生成网络的云服务异常诊断方法与系统。

背景技术

异常检测，顾名思义，是指从大量数据中分析出蕴含于其中的特定模式，这些模式通常包含重要的信息，且与正常的数据模式存在着不一致。自提出以来，异常检测得到了广泛的研究，取得了一系列的成果。云服务异常检测则是从云计算系统监控时间序列数据中识别与检测异常，从而及时发现云平台运行时刻系统性能异常与故障，常见的云服务异常包括CPU负载过高、内存负载过高、I/O负载过高、服务响应时间过长、后端服务故障等。从本质上来说，服务异常检测是时间序列异常检测在服务计算领域的具体应用。

传统的时间序列异常检测方法，将对时间序列中单位数据点的数值进行相应的度量，并对超出阈值或阈值范围的数据点进行异常告警。用经验似然比检验来识别和估计平稳时间序列中的异常值，并且可以区分出是加性异常值还是新息异常值；用基因算法检测多元时间序列中的异常值；基于定义一个合适的统计量，这个统计量来度量一个区域是否为异常维度的子集，然后递归使 用这种检验统计量，以确定异常区域；利用非凸惩罚似然来进行异常值检测及给出稳健的估计。

随着深度学习方法在各个领域取得的一系列的重要成果，许多研究者尝试采用基于深度学习方法。基于深度学习的异常检测与预测方法包括：直接使用较为成熟的预训练深度神经网络如VGG等以提取低维特征、显式地独立训练深度特征提取模型、基于重构误差检测异常的自编码器、基于生成与判别误差的生成对抗网络、基于分类误差的预测性模型等；端到端异常值直接学习则是利用深度神经网络直接学习数据实例的异常值，这是深度学习特有的方法，主要是考虑如何设计有效的损失函数以及如何将深度神经网络与异常值度量结合，包括基于排序的模型、优先驱动模型和端到端One-Class分类模型等。

在系统异常诊断领域，面对复杂云服务的动态随机性、多源不确定性、高度耦合性以及强干扰等特点，数据驱动的异常诊断方法更为适用，表现在其对海量、多源、高维数据进行统计分析和信息提取的直接性和有效性。为了充分利用动态过程中的高斯和非高斯信息，基于正态分布提出了一种分块监控的方法，分布利用动态主元分析和动态独立元分析方法处理高斯分布、非高斯分布数据，并结合贝叶斯推理组合子块的监视结果做出综合决策；提出动态核偏最小二乘方法，通过对测量空间执行正交分解，将其分为质量相关部分和质量无关部分，并引入遗忘因子，建立测量和质量指标之间更稳健的动态关系；针对微小异常随着时间的平缓演变特性，离散的决策函数无法充分反应这一演变过程，设计了支撑向量机的连续决策函数，在辨识的同时实现对异常严重性的判断；鉴于神经网络的“黑盒子”结构，可解释能力较差，从函数逼近的角度，使用案例法作为神经网络特征提取准则，实现变压器异常的实时检测；针对生产系统中成分的退化和机械的磨损，卷积神经网络与基于卡尔曼滤波的高斯混合模型相结合的异常检测方法，准确估计了物理信息系统中异常和合法事件的后验概率；将单类支持向量机与卷积神经网络算法相结合，在线检测多种故障和故障严重程度。

然而，由于异常本身的未知性、异构性和稀缺性，以及云服务监控数据本身高维性和各数据维度之间相关性，因此，现有方法和系统仍然存在下列不足：

1)针对运行时云服务进行异常检测与诊断，特别是具有时变、波动、弱有界、缺失特性的时间严苛型云服务，异常模型的检测精度仍然不足；

2)如何根据时间序列的特点，确定输入序列的嵌入维数和延迟时间，为深度神经网络选择合适的输入向量具有一定的难度以进一步提高异常模型的预测精度；

3)针对移动云服务系统所具有动态性、不确定性和多异常并发性等，考虑如何解决异常诊断存在的诊断精度低、泛化能力弱等问题。

发明内容

本发明的目的就在于为了解决上述问题设计了一种基于级联异常生成网络的云服务异常诊断方法及系统。

本发明通过以下技术方案来实现上述目的：

基于级联异常生成网络的云服务异常诊断方法，包括：

S1、构建级联异常生成网络模型，级联异常生成网络模型包括 n _l 层级联网络，每层级联网络均包括异常生成网络和隐层，一层异常生成网络用于识别一类服务异常，异常生成网络的输出作为隐层的输入，第 p层级联网络可以直接捕获第 p-1层级联网络的低阶线性相关性关系，其中 n _l 和 p均为大于1的正整数；

S2、获取历史数据和异常知识库；

S3、历史数据和异常知识库导入至级联异常生成网络模型，依次对每层级联网络进行训练优化，训练优化时，一层级联网络的异常生成网络以一类服务异常为训练目标，不同层的异常生成网络的训练目标不同；

S4、获取实时数据，利用训练优化后的级联异常生成网络模型进行异常检测识别并生成异常识别结果。

基于级联异常生成网络的云服务异常诊断系统，包括：

采集模块；采集模块用于获取云平台监控系统的实时监控数据；

储存模块；储存模块用于储存实时监控数据、历史数据和异常知识库；

优化训练模块；优化训练模块用于级联异常生成网络模型的训练优化，优化训练模块的数据信号输入端与储存模块的数据信号输出端连接，进行训练优化时，实现如上述的基于级联异常生成网络的云服务异常诊断方法中的训练优化方法；

异常诊断模块；异常诊断模块用于根据实时监控数据对云平台进行异常检测诊断，异常诊断模块的信号输入端与采集模块的信号输出端和优化训练模块的信号输出端连接，异常诊断模块的数据信号输出端与储存模块的数据信号输入端连接，训练优化后的级联异常生成网络模型作为异常诊断模块。

本发明的有益效果在于： 针对云平台系统监控数据，设计了异常生成网络，有效改进的异常判定性能，实现了高精度、低时延的非监督异常检测模型；通过级联异常生成网络模型用于识别多类常见云服务异常；依托级联异常生成网络模型，设计了适用于云平台监控时间序列数据的异常检测系统，实现了多类常见云服务异常的逐级诊断，有效提升了云服务的可用性和服务异常的可解释性。

附图说明

图1是本发明基于级联异常生成网络的云服务异常诊断方法的逐级异常诊断示意图；

图2是本发明级联异常生成网络模型的结构示意图；

图3是本发明异常生成网络的结构示意图；

图4是本发明基于级联异常生成网络的云服务异常诊断系统的示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。

因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

在本发明的描述中，需要理解的是，术语“上”、“下”、“内”、“外”、“左”、“右”等指示的方位或位置关系为基于附图所示的方位或位置关系，或者是该发明产品使用时惯常摆放的方位或位置关系，或者是本领域技术人员惯常理解的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的设备或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。

此外，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

在本发明的描述中，还需要说明的是，除非另有明确的规定和限定，“设置”、“连接”等术语应做广义理解，例如，“连接”可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接连接，也可以通过中间媒介间接连接，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

下面结合附图，对本发明的具体实施方式进行详细说明。

如图1所示，基于级联异常生成网络的云服务异常诊断方法，包括：

S1、构建级联异常生成网络模型，级联异常生成网络模型包括 n _l 层级联网络，每层级联网络均包括异常生成网络和隐层，如图3所示，一层异常生成网络用于识别一类服务异常，异常生成网络的输出作为隐层的输入，第 p层级联网络可以直接捕获第 p-1层级联网络的低阶线性相关性关系，其中 n _l 和 p均为大于1的正整数；

S2、获取历史数据和异常知识库；

S3、历史数据和异常知识库导入至级联异常生成网络模型，依次对每层级联网络进行训练优化，训练优化时，一层级联网络的异常生成网络以一类服务异常为训练目标，不同层的异常生成网络的训练目标不同；

S4、获取实时数据，利用训练优化后的级联异常生成网络模型进行异常检测识别并生成异常识别结果；具体包括：

S41、获取实时数据并导入至训练优化后的级联异常生成网络模型；

S42、优化训练后的异常生成网络计算重构误差、置信度和分类误差；

S43、计算高阶的统计指标；

S44、逐级计算每一层异常生成网络的异常判定值；

S45、逐级进行每一层异常生成网络的异常判定，若异常判定值大于阈值，则为对应类型的异常；

S46、综合各级异常判定结果，生成异常识别结果，异常识别结果包括异常类别和详细异常，异常类别包括正常、单异常和多异常。

如图2所示，异常生成网络为双向生成对抗网络，异常生成网络包括生成器、编码器、判断器和异常判定层，生成器采用基于多头注意力的变分贝叶斯循环神经网络，判别器采用全卷积神经网络，编码器采用时间卷积网络，生成器的输出和判别器的输出均作为异常判定层的输入。

生成器计算重构误差ℓ_G及其置信度，判别器计算分类误差，异常判定层根据重构误差ℓ_G、置信度和分类误差计算异常分数 s _x ，表示为 s _x =αℓ_D(X)-(1- α)ℓ_G(X)，其中ℓ_D为分类误差，ℓ_G为重构误差， α为生成器中贝叶斯循环神经网络所给出ℓ_G的置信度归一化至[0,1]区间后的值。通过改进的异常判定函数充分结合生成器的重构误差与判别器的分类误差，显著改善了异常值函数的性能，提高了检测精度。

隐层定义重建误差的平方SRE为第 p层异常生成网络中残差向量的平方范数，表示为，其中， x _p 是第 p层异常生成网络的输入，是 x _p 基于隐层特征 h _p 的重建，表示为， W _p 是隐层单元与第 p层异常生成网络上的重建之间的权重， n _l 是级联异常生成网络模型的总的级联层数， a为给定的显著性水平， a的上限可以通过核密度估计（Kernel Density Estimation, KDE）方法计算。基于残差的监控指标SRE可以反映级联异常生成网络中隐空间的投影变化，度量异常状态下过程变量相对于正常过程的偏差。因此，偏差越大，变量的相关性关系变化就越显著。

基于马氏距离的平方定义每层级联网络上隐层的统计指标 M ² ，表示为，其中∑_p是训练集在第 p层隐层上学习到的特征的协方差矩阵， h _p 和 h _p ^T 分别为第 p层隐层的特征表示矩阵和转置矩阵。 M ² 反映的是当前样本与原点在异常生成网络中隐层空间上的距离，同时度量了异常样本相对于正常过程在隐空间上的偏差；此外，马氏距离与数据维数无关，不受变量相关性的干扰。

异常检测基于以下规则进行：且 无异常，否则有异常或检测不确定，需进一步检测。

尽管引入多个高阶统计指标会增加异常检测的复杂性，但不同高阶指标的监控范围不同，多指标可以实现性能互补。在隐空间中， M ² 包含了正常过程中的大部分变量变化，那么其控制上限相对于SRE较大，即 M ² 适用于检测显著异常。SRE是对残差在剩余子空间的度量，可以反映隐空间中微小的数据变化，适用于微小异常的检测。

基于高阶相关性的多变量统计过程监控的级联异常生成网络模型包括特征提取和在线监控两部分：首先，变量之间的相关性关系可以由训练好的级联网络进行学习，提取出合适的相关性特征 h _p 及其重建后的表示；其次，数据集隐含的非线性信息通过定义的监控指标被逐级表示并分层统计。在线监测阶段将新观测样本投影到训练好的高阶映射空间中，通过衡量映射后的高阶统计监控量SRE和 M ² 判断是否有异常以及异常类别、残差在剩余子空间的度量、异常的显著性、样本的邻域密度等指标度量。

如图4所示，基于级联异常生成网络的云服务异常诊断系统，包括：

采集模块；采集模块用于获取云平台监控系统的实时监控数据；

储存模块；储存模块用于储存实时监控数据、历史数据和异常知识库；

优化训练模块；优化训练模块用于级联异常生成网络模型的训练优化，优化训练模块的数据信号输入端与储存模块的数据信号输出端连接，进行训练优化时，实现如上述的基于级联异常生成网络的云服务异常诊断方法中的训练优化方法；

异常诊断模块；异常诊断模块用于根据实时监控数据对云平台进行异常检测诊断，异常诊断模块的信号输入端与采集模块的信号输出端和优化训练模块的信号输出端连接，异常诊断模块的数据信号输出端与储存模块的数据信号输入端连接，训练优化后的级联异常生成网络模型作为异常诊断模块。

云服务异常诊断系统还包括数据预处理模块，数据处理模块的数据信号输出端分别与储存模块的数据信号输入端和异常诊断模块的数据信号输入端连接，数据预处理模块用于对实时监控数据进行预处理后再输入储存模块和异常诊断模块。

基于级联异常生成网络模型的多变量统计过程监控算法在离线建模训练阶段仅使用正常的历史数据，可有效缩短训练时间，降低训练成本，并且还可以避免不同类别之间的数据不均衡问题。同时，网络堆叠的层级越多，可以表征的非线性和高阶抽象特征就越丰富，可兼顾检测与诊断的实时性能与运行时云服务异常的复杂性，实现高精度的移动云服务时变异常检测与异常诊断，获得异常类别、残差在剩余子空间的度量、异常的显著性、样本的邻域密度等关键信息，实现有效的云服务异常诊断。

本技术针对运行在云平台上的云服务异常检测与诊断问题，设计了一种基于级联异常生成网络模型和高阶相关性的多变量统计过程监控的逐级异常诊断。其优点主要体现在: (1)针对云平台系统监控数据，利用基于多头注意力的变分贝叶斯循环神经网络、时间卷积网络、全卷积神经设计了异常生成网络，利用变分贝叶斯循环神经网络实现了自适应的重构误差与分类误差动态权重，有效改进的异常判定性能，实现了高精度、低时延的非监督异常检测模型；(2)通过级联异常生成网络模型用于识别8类常见云服务异常；(3)依托级联异常生成网络模型，设计了适用于云平台监控时间序列数据的高阶统计量指标和过程监控方法及软件系统，实现了8类常见云服务异常的逐级诊断，有效提升了云服务的可用性和服务异常的可解释性。

异常检测系统的具体实现方案如下：

1.数据预处理模块——对实时监控数据进行处理，具体为：

1.1从云平台监控系统的采集模块中获取实时监控数据，以亚马逊云平台AmazonAWS为例，即从其系统监控组件云监控CloudWatch获取系统资源和性能监控实时数据，解析所获取的实时监控数据，形成监控时间序列数据；

1.2对解析后的时序数据进行清洗；

1.3利用卡尔曼滤波对时序数据进行去噪；

1.4利用非负矩阵分解实现非负隐特征提取；

1.5对数据进行最大最小归一化；

1.6对归一化后的时序数据进行滑动窗口拆分；并将当前窗口数据分别发送给储存模块和异常诊断模块进行相应的后续处理；

2.储存模块——系统监控历史数据

2.1收到最新的实时监控数据后，根据存储规则将其存储至数据库；

2.2更新当前用于训练级联异常生成网络模型的历史数据源；

2.3收到最新的标签异常数据后，更新异常知识库中的对应异常类别；

2.4根据模型更新规则，向优化训练模块发送模型更新请求和最新训练数据集；

3.优化训练模块——训练优化级联异常生成网络模型

3.1收到模型更新请求和最新训练数据集后；

3.2以基于多头注意力的变分贝叶斯循环神经网络作为生成器，时间卷积神经网络为编码器，全卷积神经网络为判别器构造异常生成网络；

3.3以识别第一类异常为训练目标，开始训练异常生成网络；

3.4生成器计算重构误差及其置信度、判别器计算分类误差；

3.5计算高阶统计指标；

3.6不断迭代，更新模型损失函数直至收敛，更新异常判定和高阶统计指标阈值；

3.7重复3.1-3.6，完成8类异常的识别，完成级联异常生成网络模型的训练优化；并且训练好的级联异常生成网络模型发送至异常诊断模块；

4.异常诊断模块——实时异常检测与诊断

4.1从数据预处理模块获取最新的隐特征表示的归一化系统监控时序窗口数据；

4.2从优化训练模块获取最新的训练好的级联异常生成网络模型；

4.3利用训练好的级联异常生成网络模型，针对当前数据，生成器计算重构误差及其置信度；

4.4判别器计算分类误差；

4.5计算高阶统计指标；

4.6逐级计算各双向生成对抗网络的异常判定值，并对比阈值；

4.7逐级异常判定，若异常判定值大于阈值，则为对应类型的异常；

4.8综合各级异常判定结果，生成异常类别（正常/单异常/多异常）和详细异常信息；

4.9根据云平台监控系统的数据格式和通信协议，生成并发送异常详细信息；

4.10向储存模块发送异常详细信息，更新异常知识库。

本发明的技术方案不限于上述具体实施例的限制，凡是根据本发明的技术方案做出的技术变形，均落入本发明的保护范围之内。

Claims (8)

1.基于级联异常生成网络的云服务异常诊断方法，其特征在于，包括：

S1、构建级联异常生成网络模型，级联异常生成网络模型包括n _l 层级联网络，每层级联网络均包括异常生成网络和隐层，一层异常生成网络用于识别一类服务异常，异常生成网络的输出作为隐层的输入，第p层级联网络可以直接捕获第p-1层级联网络的低阶线性相关性关系，其中n _l 和p均为大于1的正整数；

S2、获取历史数据和异常知识库；

S3、历史数据和异常知识库导入至级联异常生成网络模型，依次对每层级联网络进行训练优化，训练优化时，一层级联网络的异常生成网络以一类服务异常为训练目标，不同层的异常生成网络的训练目标不同；

S4、获取实时数据，利用训练优化后的级联异常生成网络模型进行异常检测识别并生成异常识别结果。

2.根据权利要求1所述的基于级联异常生成网络的云服务异常诊断方法，其特征在于，异常生成网络为双向生成对抗网络，异常生成网络包括生成器、编码器、判断器和异常判定层，生成器采用基于多头注意力的变分贝叶斯循环神经网络，判别器采用全卷积神经网络，编码器采用时间卷积网络，生成器的输出和判别器的输出均作为异常判定层的输入。

3.根据权利要求2所述的基于级联异常生成网络的云服务异常诊断方法，其特征在于，生成器计算重构误差ℓ_G及其置信度，判别器计算分类误差，异常判定层根据重构误差ℓ_G、置信度和分类误差计算异常分数s _x ，表示为s _x =αℓ_D(X)-(1-α)ℓ_G(X)，其中ℓ_D为分类误差，ℓ_G为重构误差，α为生成器中贝叶斯循环神经网络所给出ℓ_G的置信度归一化至[0,1]区间后的值。

4.根据权利要求1所述的基于级联异常生成网络的云服务异常诊断方法，其特征在于，隐层定义重建误差的平方SRE为第p层异常生成网络中残差向量的平方范数，表示为，其中，x _p 是第p层异常生成网络的输入，是x _p 基于隐层特征h _p 的重建，表示为，W _p 是隐层单元与第p层异常生成网络上的重建之间的权重，n _l 是级联异常生成网络模型的总的级联层数，a为给定的显著性水平，a的上限可以通过核密度估计KDE方法计算。

5.根据权利要求4所述的基于级联异常生成网络的云服务异常诊断方法，其特征在于，基于马氏距离的平方定义每层级联网络上隐层的统计指标M ² ，表示为，其中∑_p是训练集在第p层隐层上学习到的特征的协方差矩阵，h _p 和h _p ^T 分别为第p层隐层的特征表示矩阵和转置矩阵。

6.根据权利要求5所述的基于级联异常生成网络的云服务异常诊断方法，其特征在于，在S4中包括：

S41、获取实时数据并导入至训练优化后的级联异常生成网络模型；

S42、优化训练后的异常生成网络计算重构误差、置信度和分类误差；

S43、计算高阶的统计指标；

S44、逐级计算每一层异常生成网络的异常判定值；

S45、逐级进行每一层异常生成网络的异常判定，若异常判定值大于阈值，则为对应类型的异常；

S46、综合各级异常判定结果，生成异常识别结果，异常识别结果包括异常类别和详细异常，异常类别包括正常、单异常和多异常。

7.基于级联异常生成网络的云服务异常诊断系统，其特征在于，包括：

采集模块；采集模块用于获取云平台监控系统的实时监控数据；

储存模块；储存模块用于储存实时监控数据、历史数据和异常知识库；

优化训练模块；优化训练模块用于级联异常生成网络模型的训练优化，优化训练模块的数据信号输入端与储存模块的数据信号输出端连接，进行训练优化时，实现如权利要求1-6任一项所述的基于级联异常生成网络的云服务异常诊断方法中的训练优化方法；

异常诊断模块；异常诊断模块用于根据实时监控数据对云平台进行异常检测诊断，异常诊断模块的信号输入端与采集模块的信号输出端和优化训练模块的信号输出端连接，异常诊断模块的数据信号输出端与储存模块的数据信号输入端连接，训练优化后的级联异常生成网络模型作为异常诊断模块。

8.根据权利要求7所述的基于级联异常生成网络的云服务异常诊断系统，其特征在于，云服务异常诊断系统还包括数据预处理模块，数据预处理模块用于对实时监控数据进行预处理，数据处理模块的数据信号输出端分别与储存模块的数据信号输入端和异常诊断模块的数据信号输入端连接。

Images