CN116582480B - 一种寻找最少失效链路使得路由不可达的方法 - Google Patents

Abstract

本发明涉及一种寻找最少失效链路使得路由不可达的方法，包括随机生成若干张路由传播图训练集，每张路由传播图指定源节点与目的节点；利用消息传递神经网络构建深度强化学习神经网络；使用随机数据集训练消息传递神经网络，用于生成链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点；输入现网网络配置与拓扑，转换成现网路由传播图；利用训练后的深度强化学习神经网络，针对现网路由传播图找出链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点。本发明能够快速地、准确地找到要切断的最少的链路集合，可用于网络配置验证工具判断现有网络的健壮性。

Description

一种寻找最少失效链路使得路由不可达的方法

技术领域

本发明涉及网络配置验证领域，特别是涉及一种寻找最少失效链路使得路由不可达的方法。

背景技术

现代网络变得越来越复杂。网络设备被配置为交换路由信息，以便达到各种目的地。这些配置可能涉及多种路由协议和复杂的路由过滤策略，并且往往有成千上万条的路由线路。因此手动检查配置的正确性是很难的，特别是当前设备在与其他设备交互的时候。业界提出了多种网络配置验证工具，通过描述网络意图，对现有网络配置进行可达性验证，检查现有配置是否满足意图。进一步，网络配置验证工具可以用于对需要下发的网络配置进行预验证，确保网络配置更新满足网络意图。

对于一个实际运行的网络，需要确保一些承载关键服务的设备是时刻到达的，即使存在部分链路失效的情况。特别的，对于一个给定网络与指定的两台设备，网络运维人员需要知道使得两个设备无法到达的最少失效链路是哪些，运维人员可以根据验证结果进行网络维护。这样的网络健壮性问题对网络设计具有重要意义。

现有技术通过枚举全部可能失效链路的集合，即从失效链路个数为1的失效链路集合开始，到失效链路个数为2甚至更多，然后判断给定失效链路集合时的指定两个设备的路由可达性。这种方法存在组合爆炸的复杂度，最坏情况下需要枚举个失效链路集合，其中M为网络链路个数，计算复杂度难以接受。因此需要研究更加高效地寻找使得路由不可达的最少失效链路集合方法。

发明内容

针对现有技术存在的问题，本发明的目的是提供一种寻找最少失效链路使得路由不可达的方法，其能够快速地、准确地找到要切断的最少的链路集合，可用于网络配置验证工具判断现有网络的健壮性。

为实现上述目的，本发明采用的技术方案是：

一种寻找最少失效链路使得路由不可达的方法，所述方法应用于网络配置验证系统，所述方法包括：

步骤1、随机生成若干张路由传播图训练集，每张路由传播图指定源节点与目的节点；

步骤2、利用消息传递神经网络构建深度强化学习神经网络；

步骤3、使用随机数据集训练消息传递神经网络，用于生成链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点；

步骤4、输入现网网络配置与拓扑，转换成现网路由传播图；

步骤5、利用训练后的深度强化学习神经网络，针对现网路由传播图找出链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点。

所述步骤1具体包括：

每张训练图有若干个点，代表设备的路由进程；有若干个边，代表路由进程间的连接关系；每条边上有路由策略信息，作为边的标签；每张训练图指定源节点与目的节点；每张训练图根据深度优先搜索算法求出最小的切边集合使得路由无法从目的节点传播到源节点。

所述步骤2包括：

使用消息传递神经网络构建q-eval深度神经网络和q-target深度神经网络两个结构相同的神经网络模型；每个神经网络由边嵌入层、点嵌入层和读出层组成。

所述步骤3具体包括：

针对每张路由传播训练图，判断图中每条边是否被断开了、每条边上的便签类型以及每条边是否连接着源节点和目的节点，将上述视为状态，作为神经网络的输入；当前可断开的边视为动作空间，作为神经网络的输出；根据上述输入的状态，获得输出的动作，并执行动作，根据逆向强化学习算法中奖励的计算方式计算奖励，并发生状态转移，获得下一个状态，并利用深度优先搜索算法进行不可达的判定，若不可达，则视为找出链路个数最少的链路集合；根据所述当前状态、动作、奖励以及下一个状态组成经验，根据所述经验基于经验回放机制和小批量梯度下降算法对深度强化学习神经网络进行训练，得到训练后的深度强化学习神经网络。

所述步骤5具体包括：

针对每张现网路由传播图，每次将边的信息作为状态，作为神经网络的输入，得到输出，每次切断一条边，并用深度优先方法判断图是否可达，若不可达，则获得链路个数最少的链路集合。

采用上述方案后，本发明能够根据图中边和节点信息，利用学习好的神经网络直接准确的推理出断开哪些边是最少的且令源节点和目的节点变得不可达，无需对断开哪些边进行不同的尝试。因此，本发明能够快速地、准确地找到要切断的最少的链路集合，可用于网络配置验证工具判断现有网络的健壮性。

附图说明

图1为本发明的系统示意图；

图2为本发明的算法流程示意图；

图3为本发明的寻找最少链路使得路由不可达的过程的示意图；

图4为本发明的性能结果示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。

此外，所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中，提供许多具体细节从而给出对本公开的实施例的充分理解。然而，本领域技术人员将意识到，可以实践本公开的技术方案而没有特定细节中的一个或更多，或者可以采用其它的方法、组元、装置、步骤等。在其它情况下，不详细示出或描述公知方法、装置、实现或者操作以避免模糊本公开的各方面。

附图中所示的方框图仅仅是功能实体，不一定必须与物理上独立的实体相对应。即，可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

附图中所示的流程图仅是示例性说明，不是必须包括所有的内容和操作/步骤，也不是必须按所描述的顺序执行。例如，有的操作/步骤还可以分解，而有的操作/步骤可以合并或部分合并，因此实际执行的顺序有可能根据实际情况改变。

本发明揭示了一种寻找最少失效链路使得路由不可达的方法，本发明方法所应用的系统如图1所示，运维人员通过网络控制器对现有网络的设备进行管理。其中，网络配置验证器是网络控制器的重要组成部分，网络控制器可以获取现网设备的配置与拓扑信息，同时指定网络意图，利用网络配置验证器进行现网配置的验证。本发明是运行在网络配置验证器之上，可用于寻找最少失效链路使得路由不可达。以下方法以BGP网络为例进行说明，其他类型的网络类似。

如图2所示，本发明的方法具体包括以下步骤：

步骤1、随机生成若干张路由传播图训练集，每张路由传播图指定源节点与目的节点。

具体地，每张训练图有若干个点，代表设备的路由进程；有若干个边，代表路由进程间的连接关系；每条边上有路由策略信息，作为边的标签；每张训练图指定源节点与目的节点；每张训练图根据深度优先搜索算法求出最小的切边集合使得路由无法从目的节点传播到源节点。

步骤2、利用消息传递神经网络构建深度强化学习神经网络。具体包括以下：

（1）使用消息传递神经网络建立深度强化学习神经网络模型，并初始化模型参数，消息传递神经网络由边嵌入层、点嵌入层和读出层组成；利用嵌入层对图中每条边和标签等向量进行消息传递，利用读出层进行Q值的输出。

（2）构建q-eval深度神经网络和q-target深度神经网络两个结构相同的神经网络，其中：q-eval深度神经网络用于获得当前状态s的动作a的估值函数；q-target神经网络模型用于选择下一个状态s’的动作a的估值函数。

（3）q-target深度神经网络的初始化参数与q-eval的深度神经网络的初始化参数相同，q-eval深度神经网络的参数每次迭代神经网络模型后进行更新，q-target深度神经网络的参数每迭代神经网络模型L次后更新一次。

（4）利用强化学习更新q-eval深度神经网络参数。其中，/>表示学习率，/>表示折扣比例，表示决策方在将图中的一条链路断开后获得的奖励；所述奖励根据逆向强化学习中奖励的定义进行计算，即r=,其中表示使得两个路由器变得不可达的最少无效链路集合，/>为当前时刻t无效链路集合，/>。

步骤3、使用随机数据集训练消息传递神经网络，用于生成链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点。

参照图3所示，使用随机数据集训练消息传递神经网络具体如下：

（1）加载一张路由传播训练图，并初始化神经网络，状态等。

（2）将路由传播图中每条边是否被断开了、每条边上的便签类型以及每条边是否连接着路由起点和路由终点作为状态输入q-eval深度神经网络，神经网络利用消息传递函数传递和节点相连的边及边上标签的信息，并传递给相邻节点，来捕获整张拓扑图的特征。

（3）判断当前未断开的边作为可以选择的动作集合，根据q-eval深度神经网络的读出层，从集合中选择动作向量：根据算法选择动作向量，以概率从可选动作集合中随机选一个动作，即要断开的边，或以1-/>选择使得估值函数最大且在动作集合中的动作。

（4）执行动作，根据动作将边断开，获得奖励和下一个状态。

（5）根据当前状态,动作/>，获得的奖励/>以及下一个状态/>，存储/>>作为经验池经验。

（6）使用深度优先搜索算法判断路由起点和终点是否还可达，其中深度优先搜索算法会在路由传播图不带标签的条件下搜索出若干条路由起点-终点的可达路径，并还原标签，再次判断上述路径是否可达，若存在一条可达路径，则认为源节点-目的节点可达，否则认为不可达，加载下一张路由传播图准备进行下一轮训练。

（7）将输入q-eval深度神经网络获得/>，输入至q-target深度神经网络获得目标估计值/>。

（8）从经验池中使用经验回放法随机抽取M个经验，计算每个经验的和，并根据均方误差损失函数/>和梯度下降更新q-eval的神经网络参数。

（9）重复迭代L次q-eval深度神经网络后，复制q-eval深度神经网络参数给q-target深度神经网络；

（10）重复迭代（1）-（7）直至均方误差损失函数收敛，此时得到的q-eval深度神经网络作为训练后的神经网络模型。

步骤4、输入现网网络配置与拓扑，转换成现网路由传播图。

步骤5、利用训练后的深度强化学习神经网络，针对现网路由传播图找出链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点。

本发明将现网路由传播图作为测试集，使用训练的神经网络模型进行针对现网路由传播图找出链路个数最少的链路集合的寻找，验证模型在其他规模的路由图的性能及泛化性能。测试包括以下步骤：

针对每张现网路由传播图，每次将边的信息作为状态，作为神经网络的输入，得到输出，切断一条边，并用深度优先搜索方法判断图是否可达，若不存在任何可达路径，视为不可达，则获得链路个数最少的链路集合。

表1 深度强化学习算法参数表

使用带有一定随机性的ER图进行训练，仿真参数如表1所示。接着分别使用带有不同规模的ER图（图中的边和点是随机生成的）和现网拓扑topology zoo图对训练好的模型进行测试。测试结果包括近似率和运行时间，其中，近似率是指本方法计算的结果与最优值的比值，最优值是通过深度优先算法暴力求解而得。深度优先算法虽然能求得最优值，但是耗时过长，因此作为本发明的对比方法。若近似率越小，说明越接近准确值。

结果如图4所示，从图中可以看出，在与训练图相同的ER图上的近似率均小于1.3，且运行时间随着图的规模增大，远小于深度优先算法暴力搜索算法；而90%的现网拓扑的近似率都在1.5-2。

综上所述，本发明的方法有着较高的准确率和显著减少的运行时间，能够快速地、准确地找到要切断的最少的链路集合，可用于网络配置验证工具判断现有网络的健壮性。

本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的电子设备中所包含的；也可以是单独存在，而未装配入该电子设备中。

上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该电子设备执行时，使得该电子设备实现上述实施例中所述的方法。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本公开实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。

应当理解的是，本公开并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。

Claims (1)

1.一种寻找最少失效链路使得路由不可达的方法，所述方法应用于网络配置验证系统，其特征在于：所述方法包括：

步骤1、随机生成若干张路由传播图训练集，每张路由传播图指定源节点与目的节点；

步骤2、利用消息传递神经网络构建深度强化学习神经网络；

步骤3、使用随机数据集训练消息传递神经网络，用于生成链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点；

步骤4、输入现网网络配置与拓扑，转换成现网路由传播图；

步骤5、利用训练后的深度强化学习神经网络，针对现网路由传播图找出链路个数最少的链路集合，集合内的链路失效将使得目的节点的路由无法传播到源节点；

所述步骤1具体包括：

每张训练图有若干个点，代表设备的路由进程；有若干个边，代表路由进程间的连接关系；每条边上有路由策略信息，作为边的标签；每张训练图指定源节点与目的节点；每张训练图根据深度优先搜索算法求出最小的切边集合使得路由无法从目的节点传播到源节点；

所述步骤2包括：

使用消息传递神经网络构建q-eval深度神经网络和q-target深度神经网络两个结构相同的神经网络模型；每个神经网络由边嵌入层、点嵌入层和读出层组成；

所述步骤3具体包括：

针对每张路由传播训练图，判断图中每条边是否被断开了、每条边上的便签类型以及每条边是否连接着源节点和目的节点，将路由传播训练图中每条边是否被断开了、每条边上的便签类型以及每条边是否连接着源节点和目的节点作为状态，作为神经网络的输入；当前可断开的边视为动作空间，作为神经网络的输出；根据上述输入的状态，获得输出的动作，并执行动作，根据逆向强化学习算法中奖励的计算方式计算奖励，并发生状态转移，获得下一个状态，并利用深度优先搜索算法进行不可达的判定，若不可达，则视为找出链路个数最少的链路集合；根据所述状态、动作、奖励以及下一个状态组成经验，根据所述经验基于经验回放机制和小批量梯度下降算法对深度强化学习神经网络进行训练，得到训练后的深度强化学习神经网络；

所述步骤5具体包括：

针对每张现网路由传播图，每次将边的信息作为状态，作为神经网络的输入，得到输出，每次切断一条边，并用深度优先方法判断图是否可达，若不可达，则获得链路个数最少的链路集合。