CN114205300B - 一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 - Google Patents
一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 Download PDFInfo
- Publication number
- CN114205300B CN114205300B CN202111460856.3A CN202111460856A CN114205300B CN 114205300 B CN114205300 B CN 114205300B CN 202111460856 A CN202111460856 A CN 202111460856A CN 114205300 B CN114205300 B CN 114205300B
- Authority
- CN
- China
- Prior art keywords
- coflow
- network
- local
- flow
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 48
- 238000000034 method Methods 0.000 title claims abstract description 33
- 230000002787 reinforcement Effects 0.000 claims abstract description 28
- 230000008569 process Effects 0.000 claims abstract description 4
- 238000012549 training Methods 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 15
- 238000004364 calculation method Methods 0.000 claims description 12
- 238000012546 transfer Methods 0.000 claims description 11
- 230000008901 benefit Effects 0.000 claims description 9
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000012544 monitoring process Methods 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 description 8
- 101100042631 Saccharomyces cerevisiae (strain ATCC 204508 / S288c) SIN3 gene Proteins 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 7
- 230000009471 action Effects 0.000 description 6
- 230000007246 mechanism Effects 0.000 description 6
- 238000012545 processing Methods 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 4
- 230000006855 networking Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000003542 behavioural effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000003278 mimic effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/08—Configuration management of networks or network elements
- H04L41/0896—Bandwidth or capacity management, i.e. automatically increasing or decreasing capacities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/142—Network analysis or design using statistical or mathematical methods
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Algebra (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Pure & Applied Mathematics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,每个用户端设备检测是否其所监管的节点产生coflow数据传输,用户端设备统计本地产生的coflow信息,估计其他用户端设备产生的流量规模,并将所有的流量信息汇总。初始化深度强化学习网络,执行X次深度强化学习迭代,迭代过程中,按照深度强化学习网络预测的本地coflow的带宽分配方案,计算对应的本地coflow流量传输完成的时间;通过调节深度强化学习网络的参数,来改变其预测的带宽分配方案,使得本地coflow流量传输完成的时间小于其自身的硬截止期限。最后根据计算出本地coflow的带宽分配策略。
Description
技术领域
本发明属于网络通信技术领域,具体涉及一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法。
背景技术
首先介绍一下本发明中涉及的一些专业术语:
广域网(WideArea Network,WAN)是连接不同地区局域网或城域网计算机通信的远程网。通常跨接很大的物理范围,所覆盖的范围从几十公里到几千公里,它能连接多个地区、城市和国家,或横跨几个洲并能提供远距离通信,形成国际性的远程网络。
软件定义广域网(Software Defined Wide Area Networking,SD-WAN)是将软件定义网络技术应用到广域网场景中所形成的一种服务,专门用于连接广阔地理范围的企业网络、数据中心、互联网应用以及云服务。
Coflow是一组具有相关语义和相同目标的数据传输产生的网络流量。
强化学习(Reinforcement Learning,RL),又称再励学习、评价学习或增强学习,是机器学习的范式和方法论之一,用于描述和解决智能体(agent)在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题。
深度强化学习(DeepReinforcementLearning,DRL)是机器学习的一个子领域,它结合了强化学习(RL)和深度学习。深度强化学习将深度学习融入到解决方案中,允许代理根据非结构化输入数据做出决策,而无需手动设计状态空间。深度强化学习算法能够接受非常大的输入并决定执行哪些操作来优化目标。
用户端设备(Customer Premise Equipment,CPE)是网络运营商提供的在用户端用以将用户设备与网络运营商核心网络基础设备隔离开来的实例网络设备和用户端软件。
软截止期限(SoftDeadline)为可延长截止期限,超过该截止期限会降低效益但不会带来严重损失。
硬截止期限(HardDeadline)为不可延长截止期限,超过该截止期限会带来严重损失。
Actor网络是在每个时间片中为智能体选择一个动作的神经网络。
Critic网络是评价Actor网络选择的动作的神经网络。
人工神经网络(Artificial Neural Networks,ANNs)也简称为神经网络(NNs)或称作连接模型,它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度,通过调整内部大量节点之间相互连接的关系,从而达到处理信息的目的。
OpenFlow协议是软件定义网络中数据平面和控制平面之间的通信协议,控制平面的控制器通过OpenFlow协议定义的规则和动作指示数据平面的交换机如何转发网络数据包。
流表(FlowTable)是OpenFlow协议中定义的类似于传统网络路由表的表结构,它由若干流表项构成。流表项由规则和动作集组成,若网络数据包符合流表项定义的规则,该数据包就会被执行相应的动作,如:从某个端口转发或者修改源或目的IP地址等。
计量表(MeterTable)是OpenFlow 1.3协议定义的一种特殊的表,用于计量和限速。它由若干计量表项构成。每个计量表项包括:计量表项标识符、计量段、计量表项计数器构成。一个计量表项可以包含一个或者多个计量段,每个计量段定义了速率以及动作,如果报文的速率超过了某些计量段,根据这些计量段中速率最大的那个定义的动作进行处理。计数器可以按队列、计量段和计量表项等方式进行维护。计数器可以帮助控制器收集有关网络的统计信息监控流量规则定义的流量进入率。
由于广域网带宽资源有限,如何高效的利用稀缺的带宽资源直接关系到网络的性能,因此流量调度是随着计算机网络学科产生以来一直备受关注的问题。根据流量调度的对象划分,现有的流量调度算法主要分为两类:不考虑流量之间关联性的调度方法和结合流量关联性的coflow调度方法。截至目前,虽然已经有应用于数据中心内部的coflow调度机制。但是这些方法要么采用集中式控制器收集全局范围内的coflow流量信息,要么需要获取完整的coflow流量信息用于调度决策,要么依赖非增量式修改原始的TCP/IP为核心的网络协议或引入额外的交换机硬件处理逻辑或额外物理设备。但是这些方法都存在严重不足:首先,集中式控制调度引发大量的通信开销,由于广域网跨度大延迟高,集中式控制还存在严重的一致性和扩展性问题。其次,对于事实数据处理、数据库查询、分块传输、流媒体等应用而言,关联性的coflow流量的产生往往并不是同时的,这就使得实时获取异地产生的流量规模变得十分困难,因此流量调度往往需要在信息不完整的情况下进行,需要获得完整coflow信息的调度方法难以应用。最后,额外的硬件设备和对终端协议栈的修改导致调度方法无法进行增量式部署。因此,现在没有能够兼顾解决以上问题并可以应用在广域网中的面向传输截止期限的流量信息不完整情况下分布式coflow调度方法。
软件定义广域网是一种新兴的广域网连接解决方案,其核心思想是将软件定义网络技术应用到广域网场景中。通过引入软件定义网络技术,软件定义广域网。利用Openflow协议我们可以的灵活的下发、修改复杂的细粒度的流量调度策略到交换层面。同时,随着人工智能技术应用的普及,强化学习以及深度强化学习技术通过将事物抽象为智能体,通过智能体之间与环境的交互来使智能体不断学习并试图通过奖励/惩罚机制来学习到一个最优策略的方法解决了大量决策问题。因此,基于深度强化学习的算法和软件定义广域网架构是实现能够在流量信息不完整的情况下保证coflow传输截止期限的流量调度方法。
发明内容
本发明的目的在于克服现有技术的不足,提供一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法。
本发明是通过以下技术方案实现的:
一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,包括以下步骤:
步骤1,每个用户端设备感知其所控制的节点为源节点到其他各个节点的底层网络出口带宽,记为Pmn,其中m表示源节点编号,n表示目的节点编号;
步骤2,每个用户端设备检测是否其所监管的节点产生coflow数据传输,一旦发现有coflow产生,则执行步骤3,否则继续监控;
步骤3,用户端设备统计本地产生的coflow信息,将本地产生的第i个coflow记为其中/>表示本地第i个coflow中的数据传输请求的总数,/> 表示本地第i个coflow中的第j个数据传输请求,其中/>分别表示传输起始时间、源节点、目的节点、流量规模、软截止期限和硬截止期限;
步骤4,根据估计其他用户端设备产生的流量规模,并将所有的流量信息汇总,记为/>
步骤5,初始化深度强化学习网络,执行X次深度强化学习迭代,具体迭代过程如下:
步骤5.1,用户端设备初始化深度强化学习网络的参数,训练actor网络的参数为训练cirtic网络的参数为/>目标actor网络的参数为/>目标cirtic网络的参数为设置迭代次数X,每次迭代将本地第i个coflow中的第j个数据传输请求/>的/>至/>分为T个时间片,单个时间片长度记为Δt,初始化迭代次数为0;
步骤5.2,对于每个时间片,根据训练actor网络输出得到为t时刻的本地coflow带宽预估分配方案,记为/>相关的函数表示为:
其中,为表示用户端设备本地第i个coflow中的第j个数据传输请求的带宽,λ和β为预定义常量参数;
步骤5.3,根据步骤5.2得到的本地coflow的带宽分配方案,可计算出本地coflow中的当前时间片完成传输的累计时间以及剩余流量大小,再计算出传输所获得的经济收益ui(t+Δt,vi(t+Δt)),计算公式为:
,
其中,H(t,Ri(t))为汉米尔顿方程,其形式为
为单位传输速率传输成本函数,Δt为时间片长度,初始时t为0,为该coflow的剩余流量规模随时间t变化的函数,该函数满足如下公式:
步骤5.4,根据训练critic网络输出获得传输的经济收益的估计值
步骤5.5,将步骤5.2中得到的Ri(t)和步骤5.3中得到的以及步骤5.4得到的/>作为输入,通过最小化损失函数的方法计算并更新训练critic网络参数/>其中,损失函数定义为/>计算公式为
此外,采用梯度下降法计算并更新训练actor网络的参数计算公式为
步骤5.6,通过软更新方法将训练actor网络、训练cirtic网络和目标actor网络、目标cirtic网络的参数进行同步;
步骤5.7,根据步骤5.3中更新后的vi(t)进行判断,当或vi(t)=0时,终止计算,记录/>否则,返回步骤5.2继续执行;
步骤5.8,如果迭代次数超过X次,则终止迭代,返回否则,返回步骤5.1继续执行;
步骤6,如果则放弃传输本地coflow对应的所有流量,终止流程;否则执行步骤7;
步骤7,根据重新计算/>为本地coflow的带宽分配策略,这里/>为节点k上第i个coflow中第j个数据传输的流量规模。
在上述技术方案中,步骤5.6中,同步公式如下:
θi,a′=τ·θi,a′+(1-τ)·θi,a
θi,c′=τ·θi,c′+(1-τ)·θi,c
其中τ为更新权值。
在上述技术方案中,还包括步骤8,用户端设备根据最终的带宽分配方案计算转发策略和带宽分配策略并以流表项、组表项和计量表项的形式下发到出口交换机上。
在上述技术方案中,还包括步骤9,用户端设备更新本地各个链路上网络带宽分配和使用情况。
本发明的优点和有益效果为:
现有的流量调度方法要么采用集中式控制;要么需要完整的coflow流量信息;要么需要额外的硬件设备或修改终端和交换机处理逻辑。这些调度机制都不能很好的应用在广域网中调度coflow流量。
本发明通过利用软件定义广域网技术和深度强化学习技术,在保证TCP、IP以及OpenFlow协议正常转发机制的前提上,提供了面向传输截止期限的流量信息不完整情况下软件定义广域网分布式coflow调度方法。该机制是一种增量实现方法,使软件定义广域网在使用基本的OpenFlow协议和保证以TCP、IP为核心的网络路由交换机制不变的条件下在同时保证传输的软硬截止期限成为了可能。
附图说明
图1是本发明的整体流程示意图。
图2是本发明的深度强化学习迭代流程示意图。
图3是本发明实施例二中的软件定义网络拓扑图。
对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,可以根据以上附图获得其他的相关附图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面结合具体实施例进一步说明本发明的技术方案。
实施例一
一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,包括以下步骤:
步骤1,每个用户端设备(CPE)感知其所控制的节点为源节点到其他各个节点的底层网络出口带宽,记为Pmn,其中m表示源节点编号,n表示目的节点编号。
步骤2,每个用户端设备检测是否其所监管的节点产生coflow数据传输,一旦发现有coflow产生,则执行步骤3,否则继续监控。
步骤3,用户端设备统计本地产生的coflow信息,将本地产生的第i个coflow记为其中/>表示本地第i个coflow中的数据传输请求的总数,/> 表示本地第i个coflow中的第j个数据传输请求,其中/>分别表示传输起始时间、源节点、目的节点、流量规模、软截止期限和硬截止期限。
步骤4,根据估计其他用户端设备产生的流量规模,并将所有的流量信息汇总,记为/>
步骤5,初始化深度强化学习网络,执行X次深度强化学习迭代,迭代过程中,按照深度强化学习网络预测的本地coflow的带宽分配方案,计算对应的本地coflow流量传输完成的时间;通过调节深度强化学习网络的参数,来改变其预测的带宽分配方案,使得本地coflow流量传输完成的时间小于其自身的硬截止期限。具体迭代过程如下:
步骤5.1,用户端设备初始化深度强化学习网络的参数,训练actor网络的参数为训练cirtic网络的参数为/>目标actor网络的参数为/>目标cirtic网络的参数为设置迭代次数X,每次迭代将本地第i个coflow中的第j个数据传输请求/>的/>至/>分为T个时间片,单个时间片长度记为Δt,初始化迭代次数为0。
步骤5.2,对于每个时间片,根据训练actor网络输出得到为t时刻的本地coflow带宽预估分配方案,记为/>相关的函数表示为:
其中,为表示用户端设备本地第i个coflow中的第j个数据传输请求的带宽,λ和β为预定义常量参数。
步骤5.3,根据步骤5.2得到的本地coflow的带宽分配方案,可计算出本地coflow中的当前时间片完成传输的累计时间以及剩余流量大小,再计算出传输所获得的经济收益ui(t+Δt,vi(t+Δt)),计算公式为:
,
其中,H(t,Ri(t))为汉米尔顿方程,其形式为
为单位传输速率传输成本函数,Δt为时间片长度,初始时t为0,为该coflow的剩余流量规模随时间t变化的函数,该函数满足如下公式:
步骤5.4,根据训练critic网络输出获得传输的经济收益的估计值
步骤5.5,将步骤5.2中得到的Ri(t)和步骤5.3中得到的以及步骤5.4得到的/>作为输入,通过最小化损失函数的方法计算并更新训练critic网络参数/>其中,损失函数定义为/>计算公式为
此外,采用梯度下降法计算并更新训练actor网络的参数计算公式为
步骤5.6,通过软更新方法将训练actor网络、训练cirtic网络和目标actor网络、目标cirtic网络的参数进行同步,同步公式如下:
θi,a′=τ·θi,a′+(1-τ)·θi,a
θi,c′=τ·θi,c′+(1-τ)·θi,c
其中τ为更新权值。
步骤5.7,根据步骤5.3中更新后的vi(t)进行判断,当(即当前时间片完成传输的累计时间超过硬截止期限)或vi(t)=0(即本地第i个coflow中的第j个数据传输请求/>的剩余流量为0,即完成传输)时,终止计算,记录/>否则,返回步骤5.2继续执行。
步骤5.8,如果迭代次数超过X次,则终止迭代,返回否则,返回步骤5.1继续执行。
步骤6,如果则放弃传输本地coflow对应的所有流量,终止流程(说明当前带宽不足,根本无法完成传输)。否则执行步骤7。
步骤7,根据重新计算/>为本地coflow的带宽分配策略,这里/>为节点k上第i个coflow中第j个数据传输的流量规模。
步骤8,用户端设备根据最终的带宽分配方案计算转发策略和带宽分配策略并以流表项、组表项和计量表项的形式下发到出口交换机上。
步骤9,用户端设备更新本地各个链路上网络带宽分配和使用情况。
实施例二
在实施例一的基础上,下面结合具体案例说明所述带宽分配方法,具体操作步骤如下:
1,假设底层网络拓扑如图3所示,TCP发送端1(IP:10.0.0.1Port:10001),TCP发送端2(IP:10.0.0.2Port:10002)和TCP接收端(IP:10.0.0.1Port:10003,Port:10003)之间的经过交换机连接可达。每条链路的带宽容量为100Mbps。
2,本例中假设TCP接收端发起数据传输请求,分别要求发送端1和发送端2分别在软截止期限1s硬截止期限2s内向其发送50Mb和100Mb数据。每超过软截止期限10ms,发送数据所得效益下降1%。
3,CPE1和CPE2接收到本地请求后,统计本地coflow请求信息,估计其他CPE端产生的流量规模。假设,CPE1估计CPE2端会产生50Mb流量,CPE2估计CPE1端会产生100M流量。
4,CPE1和CPE2初始化深度强化学习网络迭代次数X=10并将0-2s的时间划分为200个时间片。
5,经过学习迭代,CPE端得到CPE2端得到/>
6,经判断和/>均满足截止期限需求,执行步骤7。
7,CPE1和CPE2分别计算最优带宽分配方案,分别为其流量分配50Mbps和100Mbps带宽。执行下一步。
8,CPE将流表项以及计量表项置入网络设备。其中,CPE1的流表项部分信息如下所示:
priority=2,ip,in_port=1,dl_src=36:d2:9a:ba:87:bb,dl_dst=0a:8b:7f:f9:51:03,nw_src=10.0.0.1,nw_dst=10.0.0.3,tp_src=10001actions=meter:1,output:2
CPE1的计量表项部分信息如下所示:
meter=1kbps bands=type=drop rate=50000
9,CPE更新网络带宽使用情况。
以上对本发明做了示例性的描述,应该说明的是,在不脱离本发明的核心的情况下,任何简单的变形、修改或者其他本领域技术人员能够不花费创造性劳动的等同替换均落入本发明的保护范围。
Claims (4)
1.一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,其特征在于:包括以下步骤:
步骤1,每个用户端设备感知其所控制的节点为源节点到其他各个节点的底层网络出口带宽,记为Pmn,其中m表示源节点编号,n表示目的节点编号;
步骤2,每个用户端设备检测是否其所监管的节点产生coflow数据传输,一旦发现有coflow产生,则执行步骤3,否则继续监控;
步骤3,用户端设备统计本地产生的coflow信息,将本地产生的第i个coflow记为其中/>表示本地第i个coflow中的数据传输请求的总数,表示本地第i个coflow中的第j个数据传输请求,其中/>分别表示传输起始时间、源节点、目的节点、流量规模、软截止期限和硬截止期限;
步骤4,根据估计其他用户端设备产生的流量规模,并将所有的流量信息汇总,记为
步骤5,初始化深度强化学习网络,执行X次深度强化学习迭代,具体迭代过程如下:
步骤5.1,用户端设备初始化深度强化学习网络的参数,训练actor网络的参数为训练cirtic网络的参数为/>目标actor网络的参数为/>目标cirtic网络的参数为/>设置迭代次数X,每次迭代将本地第i个coflow中的第j个数据传输请求/>的/>至/>分为T个时间片,单个时间片长度记为Δt,初始化迭代次数为0;
步骤5.2,对于每个时间片,根据训练actor网络输出得到 为t时刻的本地coflow带宽预估分配方案,记为/>相关的函数表示为:
其中,为表示用户端设备本地第i个coflow中的第j个数据传输请求的带宽,λ和β为预定义常量参数;
步骤5.3,根据步骤5.2得到的本地coflow的带宽分配方案,可计算出本地coflow中的当前时间片完成传输的累计时间以及剩余流量大小,再计算出传输所获得的经济收益ui(t+Δt,vi(t+Δt)),计算公式为:
,
其中,H(t,Ri(t))为汉米尔顿方程,其形式为
为单位传输速率传输成本函数,Δt为时间片长度,初始时t为0,为该coflow的剩余流量规模随时间t变化的函数,该函数满足如下公式:
步骤5.4,根据训练critic网络输出获得传输的经济收益的估计值
步骤5.5,将步骤5.2中得到的Ri(t)和步骤5.3中得到的以及步骤5.4得到的/>作为输入,通过最小化损失函数的方法计算并更新训练critic网络参数/>其中,损失函数定义为/>计算公式为
采用梯度下降法计算并更新训练actor网络的参数计算公式为
步骤5.6,通过软更新方法将训练actor网络、训练cirtic网络和目标actor网络、目标cirtic网络的参数进行同步;
步骤5.7,根据步骤5.3中更新后的vi(t)进行判断,当或vi(t)=0时,终止计算,记录/>否则,返回步骤5.2继续执行;
步骤5.8,如果迭代次数超过X次,则终止迭代,返回否则,返回步骤5.1继续执行;
步骤6,如果则放弃传输本地coflow对应的所有流量,终止流程;否则执行步骤7;
步骤7,根据重新计算/>为本地coflow的带宽分配策略,这里/>为节点k上第i个coflow中第j个数据传输的流量规模。
2.根据权利要求1所述的能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,其特征在于:步骤5.6中,同步公式如下:
θi,a′=τ·θi,a′+(1-τ)·θi,a
θi,c′=τ·θi,c′+(1-τ)·θi,c
其中τ为更新权值。
3.根据权利要求1所述的能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,其特征在于:还包括步骤8,用户端设备根据最终的带宽分配方案计算转发策略和带宽分配策略并以流表项、组表项和计量表项的形式下发到出口交换机上。
4.根据权利要求3所述的能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法,其特征在于:还包括步骤9,用户端设备更新本地各个链路上网络带宽分配和使用情况。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111460856.3A CN114205300B (zh) | 2021-12-02 | 2021-12-02 | 一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111460856.3A CN114205300B (zh) | 2021-12-02 | 2021-12-02 | 一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114205300A CN114205300A (zh) | 2022-03-18 |
CN114205300B true CN114205300B (zh) | 2023-09-22 |
Family
ID=80650214
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111460856.3A Active CN114205300B (zh) | 2021-12-02 | 2021-12-02 | 一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114205300B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115297057B (zh) * | 2022-07-22 | 2024-02-02 | 国网黑龙江省电力有限公司信息通信公司 | 基于信息管理平台的网络流量控制方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111131080A (zh) * | 2019-12-26 | 2020-05-08 | 电子科技大学 | 分布式深度学习流调度方法、系统、设备 |
WO2020172825A1 (zh) * | 2019-02-27 | 2020-09-03 | 华为技术有限公司 | 一种确定传输策略的方法及装置 |
WO2020181761A1 (zh) * | 2019-03-11 | 2020-09-17 | 江苏君英天达人工智能研究院有限公司 | 一种sdn增强路径装箱装置及方法 |
CN111740925A (zh) * | 2020-05-29 | 2020-10-02 | 北京航空航天大学 | 一种基于深度强化学习的Coflow调度方法 |
CN111756653A (zh) * | 2020-06-04 | 2020-10-09 | 北京理工大学 | 基于图神经网络深度强化学习的多coflow调度方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105227488B (zh) * | 2015-08-25 | 2018-05-08 | 上海交通大学 | 一种用于分布式计算机平台的网络流组调度方法 |
WO2017139305A1 (en) * | 2016-02-09 | 2017-08-17 | Jonathan Perry | Network resource allocation |
-
2021
- 2021-12-02 CN CN202111460856.3A patent/CN114205300B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020172825A1 (zh) * | 2019-02-27 | 2020-09-03 | 华为技术有限公司 | 一种确定传输策略的方法及装置 |
WO2020181761A1 (zh) * | 2019-03-11 | 2020-09-17 | 江苏君英天达人工智能研究院有限公司 | 一种sdn增强路径装箱装置及方法 |
CN111131080A (zh) * | 2019-12-26 | 2020-05-08 | 电子科技大学 | 分布式深度学习流调度方法、系统、设备 |
CN111740925A (zh) * | 2020-05-29 | 2020-10-02 | 北京航空航天大学 | 一种基于深度强化学习的Coflow调度方法 |
CN111756653A (zh) * | 2020-06-04 | 2020-10-09 | 北京理工大学 | 基于图神经网络深度强化学习的多coflow调度方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114205300A (zh) | 2022-03-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110505099B (zh) | 一种基于迁移a-c学习的服务功能链部署方法 | |
US11057294B2 (en) | Route control method and route setting device | |
Kim et al. | Multi-agent reinforcement learning-based resource management for end-to-end network slicing | |
CN112600759B (zh) | 基于深度强化学习在Overlay网络下多路径流量调度方法及系统 | |
CN112532409B (zh) | 网络参数配置方法、装置、计算机设备以及存储介质 | |
CN110290011A (zh) | 边缘计算中基于Lyapunov控制优化的动态服务放置方法 | |
CN113162800B (zh) | 一种基于强化学习的网络链路性能指标异常定位方法 | |
Chen et al. | Building autonomic elastic optical networks with deep reinforcement learning | |
EP1798894A1 (en) | A fast simulated annealing for traffic matrix estimation | |
CN116137593A (zh) | 一种数字孪生辅助动态资源需求预测的虚拟网络功能迁移方法 | |
CN114205300B (zh) | 一种能够在流量信息不完整情况下保证coflow传输截止期限的流量调度方法 | |
Guan et al. | Virtual network embedding supporting user mobility in 5G metro/access networks | |
CN114598614A (zh) | 一种路径预测方法及相关装置 | |
Meng et al. | Intelligent routing orchestration for ultra-low latency transport networks | |
Liu et al. | Deep reinforcement learning based adaptive transmission control in vehicular networks | |
EP3531622B1 (en) | Method of handling packet flow in software-defined network, computer program product, and software-defined network | |
CN112333102B (zh) | 基于知识图谱的软件定义网络路由选择方法和系统 | |
Olsen et al. | Qrp01-5: Quantitative analysis of access strategies to remote information in network services | |
CN114697225B (zh) | 一种保证传输截止期限和Rabin公平性的软件定义广域网带宽分配方法 | |
Ren et al. | End-to-End Network SLA Quality Assurance for C-RAN: A Closed-Loop Management Method Based on Digital Twin Network | |
Liu et al. | Ppo-based reliable concurrent transmission control for telemedicine real-time services | |
Al Ridhawi et al. | Supporting next-generation network management with intelligent moving devices | |
Hu et al. | Intelligent multicast routing method based on multi-agent deep reinforcement learning in SDWN | |
Goudarzi et al. | A fast fuzzy-based (/spl Omega/,/spl alpha/)-fair rate allocation algorithm | |
Abbas | Bandwidth price estimation for scalable and responsive rate control |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |