CN106603293A - 虚拟网络环境下一种基于深度学习的网络故障诊断方法 - Google Patents

Abstract

本发明公开了网络虚拟化环境下一种基于深度学习的网络故障诊断方法，将虚拟网络划分为物理网络和虚拟网络，结合网络故障发生特点，考虑时间影响因素，网络拓扑连接特性和虚拟网络‑物理网络映射关系,以故障严重等级概率综合衡量网络故障；将具有影响度的网络特征参数作为模型学习资源，关注网络历史数据的变化趋势和故障标签的对应关系，基于深度学习的视角，建立网络虚拟化环境下多故障等级概率的网络故障诊断模型对网络参数进行训练。在训练过程中调整故障预测模型，最后利用优化调整的深度学习网络，实现网络虚拟化环境下的故障诊断。本发明可以对网络虚拟化环境下的网络参数进行深入分析，因此，在对网络故障预测的时候具有更高的准确性。

Description

虚拟网络环境下一种基于深度学习的网络故障诊断方法

技术领域

本发明涉及虚拟网络环境下一种基于深度学习的网络故障诊断方法，属于网络故障诊断领域。

背景技术

网络虚拟化，是解决网络僵化的重要方法。网络虚拟化的主要工作是通过对底层物理基础设施资源的合理抽象，分配和隔离，实现了对传统网络的细化分割，相对于传统的网络，在网络的安全性，灵活性，可管理性和能源效率方面更有前景。网络虚拟化将传统网络分成底层网络(Substrate Network，简称SN)和虚拟网络(Virtual Network，简称VN)。底层网络由基础设施服务提供商(Infrastructure Providers，简称InPs)提供维护和运营，虚拟网络由虚拟网络服务提供商(Service Providers，简称SPs)运营。InPs为SPs提供底层网络资源组建面向不同服务的虚拟网络，由SPs在虚拟网络上部署用户服务和应用。

随着各类SPs的不断产生，越来越多的应用和网络服务运行在虚拟网络上，新的映射机制也使得虚拟网络的资源利用率也越来越高，这使得底层网络上的虚拟网络映射更加复杂；底层网络虚拟化，虚拟网络动态化使得各种虚拟网络对应的底层网络资源之间更容易互相干扰；底层网络对上层的虚拟网络是透明的，虚拟网络运营商无法获取底层基础设施的故障数据和映射信息。网络虚拟化环境下资源关系的复杂性和资源之间的相互影响导致一旦虚拟网络或者底层网络某处出现故障，这种故障会转播和蔓延，最终可能致使整个网络的瘫痪。

深度学习是一种从复杂数据中提取有用信息的有效方法，用以研究动态系统，将系统的数据从无序演变为有序，从无规律演变为有规律，以自组织的方式，形成宏观时间纬度的特征向量。虚拟化网络故障的判断需要从时间维度上分析，根据过去的一段时间内网络的参数的变趋势，深度学习的循环神经网络具有长时记忆的功能，更适用于该场景下，网络故障特征的挖掘和分析。该方法关注链路参数信息和故障标签类别，屏蔽了网络故障之间的关联性，利用深度学习自身自主学习，特征提取的优势，在样本训练的过程中找到属性之间的关联性，降低了建模过程中考虑各种约束关系的复杂性。同时该方法也不必关心底层网络和上层虚拟网络之间的映射关系，利用虚拟网络的症状信息，去预测虚拟网络上的故障位置，起到提前预警的作用。在网络虚拟化环境下，运营商更关注服务QoS的保证，因此，本文力求保证虚拟网络的服务QoS，通过故障预警，让虚拟网络运营商提前对网络故障做好准备，保证了服务的QoS。

基于深度学习基本理论，面向网络虚拟化环境下新型网络结构和不同业务QoS需求，采用深度学习循环神经网络，结合网络的链路参数，拓扑结构，故发生概率关于时间的统计特征等多个域，建立基于深度学习的故障严重度概率模型。随着网络虚拟化的发展，网络规模不断扩大，复杂度逐渐上升，用深度学习的方法来解决网络中的故障问题是网络虚拟化发展的必然趋势。

发明内容

技术问题：本发明目的是基于深度学习理论，综合分析网络虚拟化环境下物理网络和虚拟网络参数构成，结合网络故障发生统计特性，网络拓扑结构等多个域，建立了网络虚拟化环境下基于深度学习的虚拟网络故障严重度诊断模型，应用于网络虚拟化环境中的网络故障诊断。

技术方案：本发明是以网络虚拟化的基本架构为基础，以多层次网络故障诊断模型研究为主线，以深度学习理论为主要研究工具，结合故障发生概率统计模型，综合考虑虚拟网络结构，故障发生与时间的概率统计关系，旨在实现网络虚拟化环境下，网络故障诊断。

本发明将网络虚拟化环境下的网络结构参数划分为物理参数和虚拟参数两大类。物理参数是指在网络层面的相关参数，虚拟参数是指在虚拟网络层面的相关参数。物理链路和虚拟链路参数又分为：拓扑参数，性能参数，功能参数，统计参数。针对物理网络和虚拟网络不同，四种参数考虑的重点也不同。拓扑参数表征网络组件在网络中的位置特性和邻居节点分布；性能参数对于链路衡量其传输性能，对于节点衡量计算和通信性能；功能参数表征网络组件在虚拟网络中的组件类型，以及该组件所具有的功能；统计参数表征故障的统计信息，以及和故障发生时间之间的关系。通过性能参数变化趋势，结合拓扑参数、功能参数和统计参数共同预测网络的故障等级概率。

针对以上四类参数集合，作为深度学习的长短时记忆(Long Short-Term Memory,LSTM)循环神经网络输入，利用该神经网络的记忆功能，实现网络数据的特征提取。LSTM保存了在同一时刻不同网络参数之间的影响，并且由于自身记忆功能，对之前的神经网络输入数据特性，以及之间的特性关联均有记录，通过自学习，得到故障发生时的网络参数变化情况。在本发明中，将拓扑参数、性能参数、功能参数作为网络的主要参数来训练，将统计参数作为神经网络的辅助参数，正则化神经网络模型。LSTM最后单元接Softmax层，用来对实现对学习特征的分类，得到故障等级概率分布。

本发明在网络虚拟化环境下通过对网络结构特征和故障参数剖析，利用深度学习的方法，实现了对虚拟网络故障的诊断分析，得到网络组件故障等级概率，如图6所示，它包括以下几个流程：

1)网络虚拟化环境下，网络参数采集；

2)网络参数的预处理；

3)利用长短时记忆循环神经网络LSTM模型对处理后的网络数据进行训练，调整参数；

4)引入辅助损失函数和辅助数据集；

5)利用误差反向传播算法更新网络权重；

6)根据5)得到的LSTM模型对短期的网络故障进行预测。

所述1)网络参数采集为：根据预先确定的影响参数，编写程序上报网络组件参数，获取组件的软件运行日志，把数据保存在数据库中。网络根据预设的时间间隔阈值上报网络资源状态数据。在该步骤中，网络参数主要有：

2-1)拓扑参数向量包括该网络中网络组件的位置，近邻信息与从属关系，链路和节点数目信息；

2-2)性能参数向量包括该网络组件的带宽利用率，网络时延，丢包率，传输速率信息；

2-3)功能参数向量包括网络组件的类型，在网络中的负责的功能以及安全要求级别信息；

2-4)统计参数向量从概率的角度来描述故障的发生概率问题，包括了该网络组件发生故障的次数，发生故障的严重程度集合，网络组件正常运行的时长。

所述2)参数预处理为：从数据库中获取网络数据参数，对网络组件的非结构化的日志文件进行处理，得到日志文件中的异常记录，转换成结构化的数据存储起来；取出网络组件上报的网络参数，将所有在同一时间段内处理得到的网络特征参数转换为训练向量。采集到的网络数据集合是一个非平衡数据集合，网络故障数据所占比例很小，正常数据很多，在网络数据集合中有故障的部分采用过采样的方法，正常数据部分采用欠采样的方法实现非平衡数据集的处理，保证长短时记忆循环神经网络的学习精度。

所述的3)对处理后的网络数据进行训练：利用所述训练向量以及每个所述训练网络参数的对应故障等级标签训练长短时记忆循环神经网络。该神经网络的网络连接权重参数的初始化方法是使用服从高斯分布的随机初始化方法。根据输入的预处理后的参数向量矩阵，利用误差反向传播算法，最小化损失函数，更新神经网络权重值。在最后一层是Softmax多分类器，需要输入故障严重等级标签进行有监督训练，实现对以上各个层的网络参数的微调更新。

所述的4)选取统计参数作为循环神经网络训练的辅助数据集合，增加辅助损失函数，达到正则化神经网络的目的，防止训练过拟合。

所述的5)利用时间传播算法，对整个网络权重调整，最小化误差函数，得到最优神经网络模型。

所述的6)利用LSTM模型对网络故障进行预测：根据5)步骤得到的最佳网络参数生成的网络模型，将新检测得到的网络数据作为输入向量输入到模型中，最终输出是网络组件的故障严重度概率。

有益效果

本发明基于深度学习理论的视角，通过对网络虚拟化环境下虚拟网络结构和故障参数剖析，综合考虑故障发生的统计特性，建立了一种网络虚拟化环境下基于深度学习的虚拟网络故障诊断模型，应用在物理和虚拟网络的故障诊断，达到网络故障预警目的。

附图说明

图1是网络虚拟化网络结构框图。

图2是网络拓扑结构图。

图3是循环神经网络基本结构图。

图4是长短时记忆神经网络神经元结构图。

图5是基于LSTM神经网络和Softmax层多分类的虚拟网络故障诊断模型。

图6是网络虚拟化环境下网络故障诊断流程。

具体实施方式

以下结合附图具体说明本发明技术方案。

如图1所示是网络虚拟化的一般结构图，底层是底层网络，主要由各类网络硬件设施组成，是通信的基础部分；上层是虚拟网络层，通过一定的映射机制，由底层物理网络映射到上层虚拟网络，负责业务的运行。根据网络虚拟化的结构，结合故障所在层次的不同，以及在不同层次中网络结构特点的不同，可以将网络虚拟化环境下的网络故障来源做如下的分类：

物理网络是网络虚拟化的基础，负责数据的传输和交换。在物理网络中，故障可能发生在链路或者节点。对于物理链路，传输介质老化，自然或人为因素导致的传输介质损坏，复杂的外部电磁干扰等都有可能引起链路的传输时延增大，或者链路断掉等故障，影响底层网络的连通性。节点故障多重多样，可能发生的故障一般分为：内存故障，CPU故障，通信故障，软件(服务)故障。物理网络的节点是整个网络连通的重要组成部分，当链路节点上的服务软件发生故障，由于不断的报错，本身的计算资源需求增大，占用了其他软件的资源空间，合理的节点数据无法得到处理，导致计算节点处理能力的下降，节点通信端口阻塞，端口资源被故障程序大量占用，通信性能会显著降低。

虚拟网络是网络虚拟化的逻辑实现。由于虚拟网络是从物理网络通过映射机制得到的，物理网络的故障发生必然会影响到虚拟网络运行状况，该情况将不再下文中讨论，下面主要关注虚拟网络的本身的原因导致的故障。虚拟网络的组成是面向用户业务需求的，其虚拟节点承载业务需求，负责数据计算，通信转发，故障的发生通常是由于本身的软件故障导致，引起节点性能降低，数据阻塞等症状。另外，不合理的通信协议，或错误的数据转发机制可能会导致虚拟网络的链路的数据灾难，产生大量没用的数据流增大了链路负载，引起虚拟链路故障。

如图2是网络虚拟化环境下的网络拓扑图，包括了物理和虚拟网络两种状况。要预测节点N_a的故障等级，那么和节点N_a关联的链路L_ad，L_ae，L_af，L_ah的性能参数，以及节点N_a本身的性能参数都要考虑，所以节点故障等级预测的参数集合是{L_ad,L_ae,L_af,L_ah,N_a}，拓扑关联结构如图2中节点a附近结构所示。链路的故障预测设计链路本身以及链路的两个端点。例如：下图中预测链路L_bc的故障概率，那么N_b，N_c的性能参数特征必然会受到链路L_bc的影响。因此，{L_bc,N_b,N_c}是链路故障预测的参数集合，拓扑关联结构如图2中的链路L_bc部分所示。网络中一个网络组件发生故障，会引起范围网络的故障发生。

服务器具有一定的处理能力，当出现通信故障或者软件故障的时候，服务器一般可以通过自身的安装的安全处理程序去保证整个服务器的正常运行，可能某些严重的故障才能让整个服务器系统产生性能的下降，影响服务质量；而对于路由器来说，本身计算资源有限，无法安装额外的安全程序保证自身的稳定运行，往往会由于一些小的原因导致了自身系统的瘫痪。对于服务器和路由器两种不同的网络组件来说，故障的类型也会有所差异，而且不同的故障类型对整个虚拟网络来说，影响度又是不一样的，服务器的瘫痪会导致区域网络故障，而路由器故障一般影响到几条链路的流量而已。系统中存在的故障数目是N，软件运行的时间是t，那么从上次错误开始，系统无差错运行的概率是P＝1-e^-λNt，即当发生了一次故障后，随着时间的推移，无故障运行的时间越长，那么系统发生故障的概率就越大，因此虚拟网络中，历史统计数据对故障的预测有着密切的联系。

基于以上分析，可以将整个虚拟网络结构中的参数划分为拓扑参数，性能参数，功能参数和统计参数。如下：

X(t)＝[X^T(t) X^P(t) X^F(t) X^S(t)]

其中，

X^T(t)表示拓扑参数，X^P(t)表示性能参数，X^F(t)表示功能参数，X^S(t)表示表示统计参数。

在X^T(t)中，是网络组件的位置信息，通常以组件本身标识符来表示，表示网络组件的从属关系，对于虚拟节点，是控制和被控制的信息，对于虚拟链路，是链路本身两端的节点标识符，表示网络组件的邻接关系，对于虚拟节点是与该节点相邻连接的其它节点标识符，对于链路是与该链路两端虚拟节点连接所有链路的集合，表示连通度，对于节点是与该节点连接的链路数目，对于虚拟链路是2，表示始终和两个节点相连接。

在X^P(t)中，是网络组件的带宽信息，对于节点是和节点连接的链路的总的带宽利用率，对于链路是本身的链路带宽利用率，表示网络组件时延，对于虚拟节点，是与其连接的所有节点的时延和，对于链路是其本身的时延信息，表示网络组件的丢包率信息，对于虚拟节点是与其相连的所有链路的总丢包率，对于链路是自身丢包率，表示网络组件的网络传输速率，对于节点是节点的总的传输速率，对于链路是其本身的传输速率。

在X^F(t)中，表示网络组件类型，即是路由器、交换机、服务器，链路等，表示网络组件功能，即转发，数据处理等功能，表示该网络组件提供的网络服务集合，表示该网络组件在网络中的安全要求级别。

在X^S(t)中，表示网络组件发生故障次数，表示网络组件发生故障的历史数目，表示网络组件的历史错误，表示网络组件从上次故障开始，到t时刻已经正常工作的持续时间，或者机器从第一次运行的到时间t的时间间隔。

在时刻t，可以获得长度为n的历史数据集合在下面的式子中，X(t)是输入参数矩阵，n表示故障预测的关联数据的长度。

X(n)＝{X(t-n+1),X(t-n+2),...,X(t-1),X(t)}

在上述的四个参数中，拓扑参数，性能参数，功能参数将作为神经网络的主要输入参数集合，统计参数是神经网络的辅助输入参数集合，用来完成神经网络的正则化。

LSTM(Long Short-Term Memory,LSTM)是一种改进型的时间循环神经网络。图3是一般循环神经网络的结构，如图4所示，是LSTM的一般记忆块，对应图3中隐藏层的一个神经元，该记忆块包含了自连接状态细胞，输入，输出和遗忘门。在这个结构中，f_g，f_i，f_o分别是sigmoid，tanh和tanh激活函数。

sigmoid函数定义：

tanh函数定义：

f(t)，c(t)，o(t)，i(t)分别代表在时间t的时候遗忘门向量，细胞状态向量，输出向量，输入向量；x_t，h_t是在t时刻记忆单元的输入和输出。图中的虚线代表了神经网络中的窥探孔链接，输入门，输出门，遗忘门能够接收到细胞信息状态，使得门层(gate layer)状态不仅仅依赖于前面时刻的隐状态，也依赖于前面时刻的内部状态c_t-1。

在记忆结构中，输入门的激活向量是：

i(t)＝f_g(W_xix(t)+W_hih(t-1)+W_cic(t-1)+b_i)

f_g(·)是sigmoid函数，W_xi，W_hi，W_ci分别代表在当前隐藏层上，所有的输入，输出和细胞状态对当前输入单元的权重，x(t)是输入向量，h(t-1)是前面时刻的隐藏层向量，c(t-1)表示上一时刻的细胞状态向量，b_i是单元的偏差值。遗忘门的激活向量可以表示成：

f(t)＝f_g(W_xfx(t)+W_hfh(t-1)+W_cfc(t-1)+b_f)

记忆细胞的状态值更新如下：

y_g(t)＝f_i(W_xcx(t)+W_hch(t-1)+b_c)

c(t)＝i(t)·y_g(t)+f(t)·c(t-1)

记忆单元的输出最终受控于输出门的激活值：

o(t)＝f_g(W_xox(t)+W_hoh(t-1)+W_coc(t)+b_o)

可以得到最终的LSTM单元输出值：

h(t)＝o(t)·f_o(c(t))

网络权重利用梯度下降发更新，公式如下：

其中，是损失函数对神经网络中每个权重的偏导数，具体的求解可以通过链式求导法则得到结果。

对于本发明提出的基于LSTM网络故障预测模型如下图5所示，输入层是上文提到的虚拟网络参数向量，LSTM循环神经网络接收到数据后进行特征学习，最后一层是Softmax层，用来输出虚拟网络的故障等级概率。本文根据虚拟网络的故障严重程度，将预测指标分成6个等级：

y＝{1,2,3,4,5,6}

由1到6表示严重程度由低到高，Softmax层的输出函数是：

其中，k＝6，且xⁱ是第i个输入矩阵的神经网络训练输出向量，θ是Softmax层需要训练的参数。Softmax层的代价函数为：

其中，

f(值为真的表达式)＝1

m表示输入已标记样本个数，k表示分类类别数目，在本文中k＝6。最终的多分类损失函数定义为：

Claims (7)

1.网络虚拟化环境下一种基于深度学习的网络故障诊断方法，其特征在于，通过采集网络虚拟化环境下不同类别的网络状态数据，经过数据预处理后，利用长短时记忆循环神经网络对处理后的数据进行训练，同时引入辅助数据集合，通过误差反向传播算法完成模型参数调整，最后根据得到的最优模型，对网络虚拟化环境下的故障严重等级概率进行预测，包括以下过程：

1)网络虚拟化环境下，网络参数采集；

2)网络参数的预处理；

3)利用长短时记忆循环神经网络LSTM模型对处理后的网络数据进行训练，调整参数；

4)引入辅助数据集合和辅助损失函数；

5)使用误差反向传播算法更新神经网络权重；

6)根据5)得到的LSTM模型对短期的网络故障进行预测。

2.根据权利要求1所述的方法，其特征在于，所述步骤1)中，预先确定影响参数，编写程序上报网络组件参数，获取组件的软件运行日志，把数据保存在数据库中。网络根据预先设定的时间间隔值，上报网络数据，该步骤中网络数据包括：

1-1)拓扑参数向量，包括该网络中网络组件的位置，近邻信息与从属关系，链路和节点数目信息；

1-2)性能参数向量，包括该网络组件的带宽利用率，网络时延，丢包率，传输速率信息；

1-3)功能参数向量，包括网络组件的类型，在网络中的负责的功能以及安全要求级别信息；

1-4)统计参数向量，从概率的角度来描述故障的发生概率问题，包括了该网络组件发生故障的次数，发生故障的严重程度集合，网络组件正常运行的时长。

3.根据权利要求1所述的方法，其特征在于，所述2)的具体实施方法：从数据库中获取网络数据参数，对网络组件的非结构化的日志文件进行处理，得到日志文件中的异常记录，转换成结构化的数据存储起来；取出网络组件上报的网络参数，将所有在同一时间段内处理得到的网络特征参数转换为训练向量；采集到的网络数据集合是一个非平衡数据集合，网络故障数据所占比例很小，正常数据很多，在网络数据集合中有故障的部分采用过采样的方法，正常数据部分采用欠采样的方法实现非平衡数据集的处理，保证长短时记忆循环神经网络的学习精度。

4.根据权利要求1所述的方法，其特征在于，所述3)的具体实施方法：使用服从高斯分布的随机函数进行权重初始化，利用获得的训练数据集合，通过误差反向传播算法最小化损失函数，更新神经元连接权重，优化整个网络结构；最后一层是Softmax多分类器层，在该层通过有监督学习对LSTM循环神经网络进行参数微调，最小化的误差函数值。

5.根据权利要求1所述的方法，其特征在于，所述4)的具体实施方法：选取统计参数作为神经网络训练的辅助数据集合，增加辅助损失函数，达到正则化神经网络的目的，防止过拟合。

6.根据权利要求1所述的方法，其特征在于，所述5)的具体实施方法：利用时间传播算法，对整个网络权重调整，最小化误差函数，得到最优神经网络模型。

7.根据权利要求1所述的方法，其特征在于，所述6)的具体实施方法：根据5)步骤得到的最佳网络参数生成的网络模型，将新检测得到的网络数据作为输入向量输入到模型中，最终输出是网络组件的故障严重度概率。