CN111245673A - 一种基于图神经网络的sdn时延感知方法 - Google Patents

Abstract

本发明公开一种基于图神经网络的SDN时延感知方法，包括如下步骤：步骤1：根据相关情景数据集进行网络序列建模，通过TensorFlow框架中的TFRecord格式存储和读取样本数据；步骤2：构建由门控循环单元(GRU)、自编码器、多层感知机构所构成的三级级联神经网络模型；步骤3：使用步骤1的数据集对图神经网络模型进行训练；步骤4：将测试集输入到步骤3训练完成后的模型中，对数据进行感知、筛选并得到具有概括性的数据。本发明利用图神经网络基于非欧几里得空间的数据格式的准确的推理能力并且不会丢失图形数据的结构信息的特点，相比于其他深度学习模型展现出了更强大的数据处理能力。

Description

一种基于图神经网络的SDN时延感知方法

技术领域

本发明涉及情景网络技术和深度学习技术，具体涉及一种基于图神经网络的SDN时延感知方法。

背景技术

迄今为止，深度学习在图像识别和数据挖掘等领域已经取得了巨大的成功。大多数机器学习任务例如目标监测、机器翻译以及语音识别等曾严重依赖人工特征工程去获取特征信息集。随着多种深度学习方法如卷积神经网络(CNN，Convolutional NeuralNetwork)、循环神经网络(RNN，Recurrent Neural Network)等的提出，这种状况得到大幅改善。深度学习的成功离不开机器计算能力的高速发展、海量数据集的成功获取以及深度学习可以从欧几里得数据集中提取潜在表征的有效性。例如CNN可以利用局部连通性、图像数据合成性和时移不变性，提取出有意义的特征用于图像任务。尽管深度学习可以高效的捕捉欧几里得数据中的隐藏特征，但是在非欧几里得数据方面表现同样得到了广泛的应用。

网络中的情景是复杂多样且动态变化的，可以将SDN网络情景描述为网络环境、资源及用户业务的变化。其中网络的QoS情景包含了时延、抖动、丢包率等。

网络运行QoS状态的基本属性既是对网络情景的高级表征，也是网络服务策略抉择的一个重要参考值。SDN网络所具有的控制与转发分离特性使得网络控制器具有全网络的静态拓扑、动态转发表信息、资源利用率、故障状态等视图。在SDN的数据转发层，通过包括时延等网络情景感知可以实现对底层的流量情况的监控，并且可以通过网络中各节点的负载信息来获取链路时延、抖动以及丢包率等。据此对网络的全局状态进行分析可以提高网络的转发性能，实现负载均衡等网络功能。用户所处的网络环境对网络服务提供者而言同样不可或缺。例如用户所处网络位置决定其被服务的方式以及用户的服务体验也与据用户位置所部署网络服务相关。

发明内容

本发明克服了典型的深度学习应用会丢失图形数据的结构信息的不足，提出一种基于图神经网络的SDN时延感知方法，该方法充分考虑了节点所处情景，能够充分利用节点所处环境。为感知网络中的关于时延的情景要素，首先对网络进行序列建模，然后提出一种基于图神经网络的时延感知模型。

本发明解决技术问题所采用的技术方案如下：一种基于图神经网络的SDN时延感知方法，包括如下步骤：

步骤1：根据SDN网络用户业务流大小、网络资源(主要是可用带宽资源)、网络拓扑等环境特征信息进行网络序列建模，通过TensorFlow框架中的TFRecord格式存储和读取样本数据；

步骤2：构建图神经网络模型，所述图神经网络模型是一种由门控循环单元(GRU)、自编码器、多层感知机构(深度神经网络，即MLP)所构成的三级级联神经网络模型；

所述图神经网络模型具体级联结构如下：

第一层即消息传递阶段，通过GRU神经网络对SDN网络中链路和路径进行状态感知，即时延感知，此层以SDN网络中环境特征信息特征向量为输入，然后经由隐藏层中的GRU神经单元抓取链路、路径以及网络路由拓扑之间的依赖关系，再对网络中的路径和链路的时延信息进行计算与更新。

第二层自编码器对GRU神经单元所获得的输出进行重构和提取抽象特征，该层是一种无监督学习过程，无需知道数据的标签即可完成训练，即该层可以在无监督的条件下完成对输入数据的特征提取和重构。

第三层采用多层感知机的隐藏结构读取时延信息，得到最终结果。

步骤3：使用步骤1的样本数据对图神经网络模型进行训练，得到训练好的图神经网络模型；

步骤4：通过SDN控制组件将实时采集的网络数据输入到步骤2训练完成后的图神经网络模型中，输出为链路和路径的网络延迟估计值，在图神经网络模型中对数据进行时延感知的过程具体如下：

所述图神经网络模型包括消息阶段和读出阶段，消息阶段包含转换和输出两个处理过程，经由消息阶段后，读出阶段负责对状态聚合输出预测值，即网络延迟估计值，具体公式如下述：

其中M_t为转换函数，

为转换后的更新函数，U_t为输出函数，Re为读出函数，n，u为节点，t为时间，

为节点n，u的状态，ne[n]为节点n的邻接节点，e(n,u)为n,u的边，G代表计算网络全图的特征向量，

为读出的网络时延预测值。

进一步地，所述样本数据采用KDN(Knowledge Defined Networking)网络建模开源数据集。

进一步地，所述网络序列建模具体如下：

(1)对于一个连接关系矩阵为C、路由配置矩阵为RC、可用带宽资源矩阵为B以及负载矩阵T的SDN网络，其链路集合表示为C＝{c_i，j|i≠j；i，j＝1，2，3，...，n}，其中i，j代表两个节点，链路c_i，j的情景信息特征

公式如下述：

假设一条由m条路径组成的路由路径p_k的情景信息特征为

则可以将该路径表述为一个链路集合，具体公式如下述：

描述整条路径的情景信息特征的公式如下述：

其中|p_k|表示路径p_k的长度。

(2)时延信息为情景状态特征之一，为了感知SDN时延，路径p_k的时延计算公式如下述：

其中

表示处于路径p_k上的第m条链路

上的时延。可将路径p_k和链路c_i，j的状态信息即时延信息表示为矢量

在神经网络的参数传播过程中，主要遵循以下原则：

1)路径的状态属性与路径所包含的所有链路状态属性相关；

2)链路的状态属性与链路所处所有路径相关。

进一步地，所述图神经网络模型以MPNN消息传递机制和RouteNet架构为基础，并以此来感知网络中的时延信息。

进一步地，所述消息转换函数即消息传递机制更新图状态的数学处理过程。该过程主要涉及一个转换函数，此函数可以将节点的特征和边的特征作为输入并输出新的更新状态。最后再由输出函数处理更新状态和特征，产生输出。

进一步地，所述图神经网络的框架为消息传递神经网络，该框架假设边缘特征非离散，并将GNN处理过程分为消息阶段和读出阶段。

本发明的有益效果是：当前网络中的感知技术随着人工智能的发展逐渐广泛的应用于各种网络环境。针对SDN网络中多种多样的复杂情景，目前还没有具体的感知方法和技术。因此本发明以感知时延为例，建立具体的人工智能时延感知方案并提出了一种图神经网络模型来解决网络时延的感知，对研究普适性的网络多情景要素感知也具有现实意义和实用价值。

附图说明

图1为改进的图神经网络模型图；

图2为改进的模型与RouteNet模型的MAE对比；

图3为改进的模型与RouteNet模型的RMSE对比图；

图4为改进的模型与RouteNet模型的预测时延结果图。

具体实施方式

下面结合附图详细说明本发明。

针对典型的深度学习应用将图类型数据预处理成实数类型的矢量的过程中丢失图形数据的结构信息的问题，本发明将图神经网络应用到SDN时延感知，在图神经网络的计算过程中，能够充分利用节点所处环境，对网络进行序列建模，将情景状态特征输入基于图神经网络的时延感知模型，来感知网络中的网络延迟。

本发明提出的一种基于图神经网络的SDN时延感知方法，构建了一种基于图神经网络与自编码器的混合模型，模型是由GRU、自编码器、多层感知机所构成的三级级联神经网络模型。相较于传统图神经网络模型，大大提高了时延感知的准确度。

本发明提供一种基于图神经网络的SDN时延感知方法，该方法包括如下步骤：

步骤1：根据SDN网络用户业务流大小、网络资源(主要是可用带宽资源)、网络拓扑等环境特征信息进行网络序列建模，通过TensorFlow框架中的TFRecord格式存储和读取样本数据。所述样本数据采用KDN(Knowledge Defined Networking)网络建模开源数据集。

所述网络序列建模具体如下：

(1)对于一个连接关系矩阵为C、路由配置矩阵为RC、可用带宽资源矩阵为B以及负载矩阵T的SDN网络，其链路集合表示为C＝{c_i，j|i≠j；i，j＝1，2，3，...，n}，其中i，j代表两个节点，链路c_i，j的情景信息特征

公式如下述：

假设一条由m条路径组成的路由路径p_k的情景信息特征为

则可以将该路径表述为一个链路集合，具体公式如下述：

描述整条路径的情景信息特征的公式如下述：

其中|p_k|表示路径p_k的长度。

(2)时延信息为情景状态特征之一，为了感知SDN时延，路径p_k的时延计算公式如下述：

其中

表示处于路径p_k上的第m条链路

上的时延。对于多情景状态感知来讲，可将路径p_k和链路c_i，j的状态信息表示为矢量

其中链路状态矢量包含链路时延、丢包率、可用带宽等，路径状态矢量主要包括总时延、总丢包率等。在神经网络的参数传播过程中，主要遵循以下原则：

1)路径的状态属性与路径所包含的所有链路状态属性相关；

2)链路的状态属性与链路所处所有路径相关。

步骤2：构建图神经网络模型，如图1所示，所述图神经网络模型是一种由门控循环单元(GRU)、自编码器、多层感知机构所构成的三级级联神经网络模型。所述图神经网络模型以MPNN消息传递机制和RouteNet架构为基础，并以此来感知网络中的时延信息。图神经网络的框架为消息传递神经网络，该框架假设边缘特征非离散，并将GNN处理过程分为消息阶段和读出阶段。

GRU层以网络序列化建模后的网络基本情景状态信息，即时延信息作为输入，首先初始化网络状态，根据网络中的链路信息更新每条路径的情景属性，获得情景信息的进一步表达。通过GRU神经网络对SDN网络中链路和路径进行时延感知，此层以网络中环境特征向量x_i＝[x_i1，x_i2，x_i3，…，x_ij]^T为输入，然后经由隐藏层中的GRU神经单元抓取链路、路径以及网络路由拓扑之间的依赖关系，再对网络图中的时延信息进行计算与更新。

自编码器作为一种前馈神经网络，其作用在于将输入复制到输出，同时也是对数据的重构，将数据压缩为潜在空间表示。通过自编码器，模型可以获得更加抽象的情景信息。自编码网络由编码器Encoder和解码器Decoder两部分构成。

Encoder＝f(W_e*x+B_e)

Decoder＝g(W_d*Encoder+B_d)

其中，W_e表示输入层和编码器隐藏层的权重，B_d表示隐藏层和解码器层之间的权重向量，X为输入特征向量，B_e、B_d为对应连接的偏置向量，f、g为激活函数。通过第二层自编码器对GRU神经单元所获得的输出进行重构和提取抽象特征，该层是一种无监督学习过程，无需知道数据的标签即可完成训练，即该层可以在无监督的条件下完成对输入数据的特征提取和重构，

采用第三层类似多层感知机的隐藏结构读取时延信息，得到最终结果。

步骤3：使用步骤1的样本数据对图神经网络模型进行训练，得到训练好的图神经网络模型；

在对模型进行训练的实验过程中，每一次训练均使用75％的数据集作为训练数据集，剩余25％作为测试数据集，即每次训练时先输入75％的数据样本训练深度学习模型，待训练结束后通过余下25％数据样本对模型进行验证。重复上述过程即可提高模型的准确度，收敛后保存最终的模型即可。

选用含有不同层数、神经元数的GRU、不同隐藏层数和神经元数的MLP神经网络以及是否使用AutoEncoder模型进行相关实验。通过平均绝对误差(Mean Absolute Error，MAE)、均方根误差(Root Mean Square Error，MSE)、皮尔森系数(Pearson)评估模型表现，衡量最终训练出的不同模型的精度，从而选择性能较优的模型进行SDN智能时延感知。

步骤4：通过SDN控制组件将实时采集的网络数据输入到步骤2训练完成后的图神经网络模型中，输出为延迟估计值，在图神经网络模型中对数据进行时延感知的过程具体如下：

所述图神经网络模型包括消息阶段和读出阶段，消息阶段包含转换和输出两个处理过程，经由消息阶段后，读出阶段负责对状态聚合输出预测值，即网络延迟估计值，具体公式如下述：

其中M_t为转换函数，

为转换后的更新函数，U_t为输出函数，Re为读出函数，n，u为节点，t为时间，

为节点n，u的状态，ne[n]为节点n的邻接节点，e(n,u)为n,u的边，G代表计算网络全图的特征向量，

为读出的网络时延预测值。消息转换函数即消息传递机制更新图状态的数学处理过程。该过程主要涉及一个转换函数，此函数可以将节点的特征和边的特征作为输入并输出新的更新状态。最后再由输出函数处理更新状态和特征，产生输出。

下面结合实施例对本发明作进一步说明。

本发明基于TensorFlow和Keras深度学习框架开发实现所提出的GGAE情景感知模型，所使用的训练数据集为开源数据集NSFNet，该数据集包含不同流量强度(TI，TrafficIntensity)下的链路、路径的流量矩阵以及延迟数据。对于给定的两个节点i和j，其流量负载由如下公式控制，公式中U表示均匀分布，TI为控制流量大小的参数即流量强度。

通过平均绝对误差(Mean Absolute Error，MAE)、均方根误差(Root Mean SquareError，RMSE)、皮尔森系数(Pearson)评估模型表现，基于所使用的网络拓扑的结构特点，实施例中将GRU设置为动态RNN结构，可以快速建立图结构且能够处理长度可改变的路径信息。

由GGAE模型和RouteNet在感知时延时所测得Pearson系数对比图可以发现两模型的Pearson系数都能达到0.995以上，但基于GGAE的情景感知模型在最终收敛效果上要优于基于RouteNet的情景感知模型。

为验证GGAE模型情景感知上面的能力，如图2和3，通过测量其与RouteNet模型的时延预测值和真实值的平均绝对误差MAE和均方根误差RMSE可知，在相同训练时长上GGAE模型的平均绝对误差普遍小于RouteNet模型的结果。随着训练的次数增加，GGAE模型逐渐收敛并且相较于RouteNet而言其MAE收敛的值波动范围小，GGAE收敛的值也较小。如图4可知，GGAE模型的RMSE误差值相较于RouteNet模型大约降低了70％，并由图3计算绝对平均距离(MAD，Mean Absolute Distance)可知，在预测的实际效果上提高了25.93％。为此可知所提出的SDN时延感知模型能够更精准地预测时延信息，在时延感知方面的能力更强。

上述实施例用来解释说明本发明，而不是对本发明进行限制，在本发明的精神和权利要求的保护范围内，对本发明作出的任何修改和改变，都落入本发明的保护范围。

Claims (6)

1.一种基于图神经网络的SDN时延感知方法，其特征在于，包括如下步骤：

步骤1：根据SDN网络用户业务流大小、网络资源(主要是可用带宽资源)、网络拓扑等环境特征信息进行网络序列建模，通过TensorFlow框架中的TFRecord格式存储和读取样本数据；

步骤2：构建图神经网络模型，所述图神经网络模型是一种由门控循环单元(GRU)、自编码器、多层感知机构所构成的三级级联神经网络模型；

所述图神经网络模型具体级联结构如下：

第一层即消息传递阶段，通过GRU神经网络对SDN网络中链路和路径进行状态感知，即时延感知，此层以SDN网络中环境特征信息特征向量为输入，然后经由隐藏层中的GRU神经单元抓取链路、路径以及网络路由拓扑之间的依赖关系，再对网络中的路径和链路的时延信息进行计算与更新。

第二层自编码器对GRU神经单元所获得的输出进行重构和提取抽象特征，该层是一种无监督学习过程，无需知道数据的标签即可完成训练，即该层可以在无监督的条件下完成对输入数据的特征提取和重构。

第三层采用多层感知机的隐藏结构读取时延信息，得到最终结果。

步骤3：使用步骤1的样本数据对图神经网络模型进行训练，得到训练好的图神经网络模型；

步骤4：通过SDN控制组件将实时采集的网络数据输入到步骤2训练完成后的图神经网络模型中，输出为链路和路径的网络延迟估计值，在图神经网络模型中对数据进行时延感知的过程具体如下：

所述图神经网络模型包括消息阶段和读出阶段，消息阶段包含转换和输出两个处理过程，经由消息阶段后，读出阶段负责对状态聚合输出预测值，即网络延迟估计值，具体公式如下述：

其中M_t为转换函数，

为转换后的更新函数，U_t为输出函数，Re为读出函数，n，u为节点，t为时间，

为节点n，u的状态，ne[n]为节点n的邻接节点，e(n,u)为n,u的边，G代表计算网络全图的特征向量，

为读出的网络时延预测值。

2.根据权利要求1所述的一种基于图神经网络的SDN时延感知方法，其特征在于，所述样本数据采用KDN(Knowledge Defined Networking)网络建模开源数据集。

3.根据权利要求1所述的一种基于图神经网络的SDN时延感知方法，其特征在于，所述网络序列建模具体如下：

(1)对于一个连接关系矩阵为C、路由配置矩阵为RC、可用带宽资源矩阵为B以及负载矩阵T的SDN网络，其链路集合表示为C＝{c_i，j|i≠j；i，j＝1，2，3，...，n}，其中i，j代表两个节点，链路c_i，j的情景信息特征

公式如下述：

假设一条由m条路径组成的路由路径p_k的情景信息特征为

则可以将该路径表述为一个链路集合，具体公式如下述：

描述整条路径的情景信息特征的公式如下述：

其中|p_k|表示路径p_k的长度。

(2)时延信息为情景状态特征之一，为了感知SDN时延，路径p_k的时延计算公式如下述：

其中

表示处于路径p_k上的第m条链路

上的时延。可将路径p_k和链路c_i，j的状态信息即时延信息表示为矢量

在神经网络的参数传播过程中，主要遵循以下原则：

1)路径的状态属性与路径所包含的所有链路状态属性相关；

2)链路的状态属性与链路所处所有路径相关。

4.根据权利要求1所述的一种基于图神经网络的SDN时延感知方法，其特征在于，所述图神经网络模型以MPNN消息传递机制和RouteNet架构为基础，并以此来感知网络中的时延信息。

5.根据权利要求1所述的一种基于图神经网络的SDN时延感知方法，其特征在于，所述消息转换函数即消息传递机制更新图状态的数学处理过程。该过程主要涉及一个转换函数，此函数可以将节点的特征和边的特征作为输入并输出新的更新状态。最后再由输出函数处理更新状态和特征，产生输出。

6.根据权利要求1所述的一种基于图神经网络的SDN时延感知方法，其特征在于，所述图神经网络的框架为消息传递神经网络，该框架假设边缘特征非离散，并将GNN处理过程分为消息阶段和读出阶段。

Images