CN113315719A - 流量调度方法、设备、系统及存储介质 - Google Patents
流量调度方法、设备、系统及存储介质 Download PDFInfo
- Publication number
- CN113315719A CN113315719A CN202010124804.8A CN202010124804A CN113315719A CN 113315719 A CN113315719 A CN 113315719A CN 202010124804 A CN202010124804 A CN 202010124804A CN 113315719 A CN113315719 A CN 113315719A
- Authority
- CN
- China
- Prior art keywords
- edge cloud
- pool
- traffic
- application
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 104
- 238000003860 storage Methods 0.000 title claims abstract description 21
- 238000004590 computer program Methods 0.000 claims description 19
- 230000001960 triggered effect Effects 0.000 claims description 18
- 238000013138 pruning Methods 0.000 claims description 4
- 238000007726 management method Methods 0.000 description 48
- 230000008569 process Effects 0.000 description 35
- 238000004891 communication Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 17
- 238000012545 processing Methods 0.000 description 14
- 238000005516 engineering process Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 5
- 230000005484 gravity Effects 0.000 description 4
- 230000004807 localization Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 238000007405 data analysis Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 238000013480 data collection Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000012217 deletion Methods 0.000 description 2
- 230000037430 deletion Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000006855 networking Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- 101100059544 Arabidopsis thaliana CDC5 gene Proteins 0.000 description 1
- 101100244969 Arabidopsis thaliana PRL1 gene Proteins 0.000 description 1
- 102100039558 Galectin-3 Human genes 0.000 description 1
- 101100454448 Homo sapiens LGALS3 gene Proteins 0.000 description 1
- 101150115300 MAC1 gene Proteins 0.000 description 1
- 101150051246 MAC2 gene Proteins 0.000 description 1
- 244000141353 Prunus domestica Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/24—Traffic characterised by specific attributes, e.g. priority or QoS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
Abstract
本申请实施例提供一种流量调度方法、设备、系统及存储介质。在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云节点或边缘云设备的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云节点或边缘云设备上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云节点或边缘云设备的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
Description
技术领域
本申请涉及网络技术领域,尤其涉及一种流量调度方法、设备、系统及存储介质。
背景技术
随着5G、物联网时代的到来以及云计算应用的逐渐增加,终端对云资源在时延、带宽等性能上的要求越来越高,传统集中式的云网络已经无法满足终端日渐增高的云资源需求。
随着边缘计算技术的出现,产生了边缘云的概念。如何合理地对边缘云中的应用流量进行调度是边缘云发展过程中亟需解决的问题。
发明内容
本申请的多个方面提供一种流量调度方法、设备、系统及存储介质,用以资源利用率,实现流量本地化、降低时延。
本申请实施例提供一种流量调度方法,包括:获取来自第一应用的当前流量,第一应用对应有初始池和工作池,工作池中边缘云节点的数量动态可变;若当前流量不满足工作池对应的调度策略,将当前流量调度至初始池中的边缘云节点上。
本申请实施例还提供一种流量调度方法,包括:获取第一流量信息,第一流量信息是第一应用被调度至初始池中的流量的信息;若根据第一流量信息确定需要在第一应用对应的工作池中新增边缘云节点,则在工作池中新增第一边缘云节点;以及将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上。
本申请实施例还提供一种流量调度方法,包括:获取第二流量信息,第二流量信息是第一应用被调度至其工作池中的流量的信息;若根据第二流量信息确定需要削减工作池中的边缘云节点,则削减工作池中的第二边缘云节点;以及将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或第一应用对应的初始池中的边缘云节点上。
本申请实施例还提供一种边缘云网络,包括:流量控制系统以及多个边缘云节点;流量控制系统,用于获取来自第一应用的当前流量,第一应用对应有初始池和工作池,初始池包括至少一个边缘云节点,工作池可以包含边缘云节点且其所包含的边缘云节点的数量动态可变;流量控制系统还用于:在当前流量不满足工作池对应的调度策略的情况下,将当前流量调度至初始池中的边缘云节点上。
本申请实施例还提供一种流量控制设备,包括:存储器、处理器;存储器,用于存储计算机程序;当计算机程序被处理器执行时,致使处理器实现本申请实施例提供的任一流量调度方法中的步骤。
本申请实施例还提供一种流量调度方法,包括:获取来自第一应用的当前流量,所述第一应用对应有初始池和工作池,所述工作池中边缘云设备的数量动态可变;若当前流量不满足所述工作池对应的调度策略,将当前流量调度至所述初始池中的边缘云设备上。
本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,当所述计算机程序被一个或多个处理器执行时,致使所述一个或多个处理器实现本申请实施例提供的任一流量调度方法中的步骤。
在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云节点或边缘云设备的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云节点或边缘云设备上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云节点或边缘云设备的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
附图说明
此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1a为本申请示例性实施例提供的一种网络系统的结构示意图;
图1b为本申请示例性实施例提供的一种流量控制系统根据调度策略调度流量的结构示意图;
图1c为本申请示例性实施例提供的另一种流量控制系统根据调度策略调度流量的结构示意图;
图1d为本申请示例性实施例提供的另一种网络系统的结构示意图;
图1e为本申请示例性实施例提供的一种削减工作池中边缘云节点的结构示意图;
图2a为本申请示例性实施例提供的一种流量调度方法的流程示意图;
图2b为本申请示例性实施例提供的另一种流量调度方法的流程示意图;
图2c为本申请示例性实施例提供的再一种流量调度方法的流程示意图;
图2d为本申请示例性实施例提供的又一种流量调度方法的流程示意图;
图3a为本申请示例性实施例提供的又一种流量调度方法的流程示意图;
图3b为本申请示例性实施例提供的又一种流量调度方法的流程示意图;
图3c为本申请示例性实施例提供的又一种流量调度方法的流程示意图;
图4为本申请示例性实施例提供的一种流量控制设备的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
随着边缘计算技术的出现,产生了边缘云网络。边缘云网络中部署有各种应用,也就面临着流量调度的问题。较为简单的一种解决方式是,直接参考公有云或中心云的流量调度方式。但是,边缘云网络具有自己的特点:边缘云节点数量较多,物理位置分布更广,单个边缘云节点包含的资源数量相对较少等,这些特点决定了公有云或中心云的流量调度方式在边缘云网络中并不适用。因此,如何合理地对边缘云中的应用流量进行调度是边缘云发展过程中亟需解决的问题。
针对边缘云网络面临的流量调度问题,在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云节点或边缘云设备的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云节点或边缘云设备上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云节点或边缘云设备的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
以下结合附图,详细说明本申请各实施例提供的技术方案。
图1a为本申请示例性实施例提供一种网络系统的结构示意图。如图1a所示,该网络系统100包括:流量控制系统101以及多个边缘云节点102。
本实施例的网络系统100是基于云计算技术和边缘计算的能力,构筑在边缘基础设施之上的云计算平台,是一种边缘位置的具备计算、网络、存储、安全等能力的云平台。
与中心云或者传统的云计算平台相对应,本实施例的网络系统100可以视为一种边缘云网络系统。边缘云是个相对概念,边缘云是指相对靠近终端的云计算平台,或者说,与中心云或者传统的云计算平台相区别,中心云或者传统的云计算平台可以包括资源规模化且位置集中的数据中心,而边缘云节点覆盖的网络范围更广泛,也因此具备距离终端更近的特性,单个边缘云节点的资源规模较小,但是边缘云节点的数量多,多个边缘云节点构成了本实施例中边缘云的组成部分。本实施例的终端是指云计算服务的需求端,例如可以是互联网中的终端或者用户端,或者物联网中的终端或用户端。边缘云网络是基于中心云或者传统的云计算系统与终端之间的基础设施构建的网络。
其中,网络系统100包括至少一个边缘云节点102,每个边缘云节点102包括一系列的边缘基础设施,这些边缘基础设施包括但不限于:分布式数据中心(DC)、无线机房或集群,运营商的通信网络、核心网设备、基站、边缘网关、家庭网关、计算设备或存储设备等边缘设备及对应的网络环境等等。在此说明,不同边缘云节点102的位置、能力以及包含的基础设施可以相同,也可以不相同。
需要说明的是,本实施例的网络系统100可以与中心云或传统的云计算平台等中心网络相结合,进一步与终端结合,从而形成“云边端三体协同”的网络架构,在该网络架构中,可以将网络转发、存储、计算以及智能化数据分析等任务放在网络系统100中的各边缘云节点102中处理,由于各边缘云节点102更靠近终端,因此可以降低响应时延,减轻中心云或传统的云计算平台的压力,降低带宽成本。除此之外,本实施例的网络系统100也可以直接与终端相结合,从而形成“边到端”的网络架构。
无论是哪种网络结构,网络系统100中均可以部署各种应用,以对外提供各种服务。这些应用主要部署在一个或多个边缘云节点102提供的资源上。可选地,这些应用包括网络系统100的用户或租户部署的应用,也可以包括网络系统100的提供商部署的应用。其中,网络系统100的用户或租户可以在网络系统100中租用或购买相应资源,在租用或购买的资源上部署自己的应用,这些应用可以为自己提供某种服务,如数据存储服务,也可以面向自己的下级用户提供服务,例如面向下级用户提供视频播放服务、邮件服务、游戏服务等等。网络系统100的提供商部署的应用主要是面向网络系统100的用户或租户提供基础服务的,例如应用部署服务、资源均衡服务等。
无论网络系统100中部署有哪些应用,如何合理地调度网络系统100中的应用流量,是保证多个边缘云节点102以正确和稳定的逻辑进行云计算服务的基础,也是网络系统100所面临的一个重要的挑战。其中,应用流量是指应用需要处理的各种网络请求。以支付应用来说,其流量包括但不限于:支付请求、绑定支付渠道的请求,以及添加支付账号或银行卡的请求,等等。以游戏应用来说,其流量包括但不限于:注册请求,购买道具请求,在线游戏请求,账户充值请求,外挂请求,等等。
在本实施例的网络系统100中,部署有流量控制系统101,流量控制系统101主要负责对网络系统100中的应用流量进行统一调度,即网络系统100的各种应用流量先到达流量控制系统101,流量控制系统101负责将这些应用流量合理地调度至部署有相应应用的边缘云节点102上进行处理,提高资源利用率。其中,流量控制系统101对不同应用进行流量调度的过程相同或类似,为便于描述,在本申请实施例中以第一应用103为例,对流量调度过程进行示例性说明。其中,第一应用103是网络系统100中部署的任一应用。第一应用103可以是任何类型的应用,例如,可以是视频类应用、游戏类应用、购物类应用或邮件类应用等。
假设,第一应用103是网络系统100的租户在网络系统100中部署的游戏类应用,第一应用103提供在线游戏服务。第一应用103可能有很多的游戏玩家,这些游戏玩家可能分散在全国甚至世界各地,这些游戏玩家使用其智能手机、个人电脑或平板电脑等终端设备在线玩游戏,在玩游戏过程中,会向第一应用103发起各种请求,例如购买道具的请求、匹配队友的请求、获取游戏场景的请求等。第一应用103的应用流量可能会较多,而且受时间或游戏升级等各种因素的影响,第一应用103的应用流量也会发生波动。对租户来说,可以在租用的N个边缘云节点102中部署第一应用103,那么在第一应用103的流量超出N个边缘云节点102的承受能力的情况下,游戏玩家的请求就不能被及时响应,甚至出现较为严重的延时,用户体验会下降。为了避免这种问题,租户可以多租用一些边缘云节点102,例如M个,并在M个边缘云节点102中全部部署第一应用103,以提供充足的计算资源,但是在应用流量较少的情况下,对于部署有第一应用103但却未使用到的边缘云节点102就存在资源浪费。其中,M、N是正整数,且M>N。
在本实施例中,为第一应用103设置初始池104和工作池105。初始池104中包括部署有第一应用103的边缘云节点102,可选地,部署有第一应用103的边缘云节点102上预先创建有第一应用103对应的实例,该实例可以处理第一应用103的流量。部署有第一应用103的边缘云节点102的数量可以是一个或多个。例如,初始池104中包括的部署有第一应用103的边缘云节点102可以是1个、2个、3个、10个或15个等。一般来说,初始池104中包含的部署有第一应用103的边缘云节点102的数量是固定不变或者基本不变(即变化频率比较低)的。相对初始池104,工作池105实际上是一个动态的资源池,该工作池105中包含的边缘云节点102的数量可以是0(即工作池105中不包含任何边缘云节点102),也可以是非0。在工作池105中包含的边缘云节点102的数量为非0的情况下,这些边缘云节点102上也会部署第一应用103,也可以处理第一应用103的应用流量。工作池105中边缘云节点102的数量可以是根据第一应用103的流量的多少动态可变的,用以实现资源的动态按需分配。
在本实施例中,流量控制系统101会维护工作池105对应的调度策略,该调度策略主要用于指示第一应用103的哪些流量可以被调度至工作池105中。基于此,流量控制系统101在获取到来自第一应用的当前流量的情况下,可以判断当前流量是否满足工作池105对应的调度策略;在当前流量不满足工作池105对应的调度策略的情况下,将当前流量调度至初始池104中的边缘云节点102上。可选地,若当前流量满足工作池105对应的调度策略,将当前流量调度至工作池105中的边缘云节点上。
在本申请实施例中,针对边缘云网络中的应用,设置初始池104和工作池105,且允许工作池105中边缘云节点102的数量动态可变;其中,初始池104与工作池105相配合,在应用流量无法被调度至工作池105中时,可将应用流量调度至初始池104中的边缘云节点102上,保证应用正常运行;而在工作池105中,可根据应用流量的大小,动态伸缩工作池105中边缘云节点102的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
在本实施例中,并不限定工作池105对应调度策略的具体内容。在一可选实施例中,工作池105对应的调度策略包括:流量需要满足的调度条件和指示流量需要被调度至哪个边缘云节点的描述信息。其中,流量需要满足的调度条件可以包含但不限于:流量来自的地域、流量所属的运营商、流量类型等等。流量类型可以包含但不限于:登录请求、支付请求、提交订单请求等等。边缘云节点102的描述信息是指边缘云节点的访问信息,访问信息是指能够成功访问边缘云节点102的信息,可以是其IP地址、MAC地址、URL地址或其它唯一性标识等。
结合上述调度策略,判断当前流量是否满足工作池105对应的调度策略的过程包括:将当前流量的属性与工作池105对应的调度策略中的调度条件进行匹配;若未匹配中任何调度条件,则确定当前流量不满足工作池对应的调度策略;若匹配中任一调度条件,则确定当前流量满足工作池105对应的调度策略。进一步,在匹配中的情况下,从工作池105对应的调度策略中,获取与被匹配中的调度条件对应的边缘云节点102的访问信息;将当前流量调度至工作池105中与访问信息对应的边缘云节点102上。
如图1b所示,假设调度策略中的调度条件为流量所属的运营商,边缘云节点102的访问信息为MAC地址,假设工作池105当前对应的调度策略包括:运营商a1->MAC地址m1、运营商a2->MAC地址m2、运营商a3->MAC地址m3等。相应地,工作池105中有MAC1对应的边缘云节点b1,MAC2对应的边缘云节点b2,MAC3对应的边缘云节点b3。基于此,流量控制系统101在接收到来自第一应用103的当前流量之后,获取当前流量的属性,将当前流量的属性与工作池105对应的调度策略中的调度条件进行匹配。情况1:若当前流量的运营商属性表示当前流量来自运营商a1,则流量控制系统101将当前流量调度至工作池105中MAC地址m1对应的边缘云节点b1上。情况2:若当前流量的运营商属性表示当前流量来自运营商a4,则在当前工作池105的调度策略中不包含运营商a4对应的调度策略,说明当前流量不满足工作池105对应的调度策略,则将当前流量调度至初始池104中的边缘云节点102上。
如图1c所示,假设调度策略中的调度条件包括流量来自的地域和流量所属的运营商,边缘云节点102的访问信息为IP地址,假设工作池105当前对应的调度策略包括:地域c1+运营商d1->IP地址e1,地域c2+运营商d2->IP地址e2,地域c3+运营商d3->IP地址e3等。相应地,工作池105中包括:IP地址e1对应的边缘云节点f1,IP地址e2对应的边缘云节点f2,IP地址e3对应的边缘云节点f3。基于此,流量控制系统101在接收到来自第一应用103的当前流量之后,获取当前流量的属性,将当前流量的属性与工作池105对应的调度策略中的调度条件进行匹配。情况1:若当前流量来自地域c1的运营商d1,则流量控制系统101将当前流量调度至工作池105中IP地址e1对应的边缘云节点f1上。情况2:若当前流量的地域属性表示当前流量来自地域c4,则在当前调度策略中不包含地域c4对应的调度策略,说明当前流量不满足工作池105对应的调度策略,则将当前流量调度至初始池104中的边缘云节点102上。
进一步,为了实现流量的按需分配,动态改变工作池105中边缘云节点102的数量。在一可选实施例中,如1d所示,网络系统100还包括:第一信息采集节点106和资源管理节点107。第一信息采集节点106和资源管理节点107通信连接。
其中,第一信息采集节点106,用于获取第一流量信息并上报给资源管理节点107,第一流量信息是第一应用103被调度至初始池104中的流量的信息。资源管理节点107,用于根据第一流量信息,判断是否需要在工作池105中新增边缘云节点102,并在判断结果为是的情况下,在工作池105中新增第一边缘云节点108;以及在后续流量调度过程中,控制流量控制系统101将第一应用103中原本需要被调度至初始池104中的至少部分后续流量,调度至第一边缘云节点108上。在本申请实施例中,第一边缘云节点108可以是一个或者多个,对此不做限定,在图1d中,仅展示了第一边缘云节点108为一个的情况。
在本申请实施例中,并不对第一信息采集节点106的节点形态进行限定,凡是可以进行信息采集并具有上报功能的节点形态均适用于本申请实施例。例如,节点形态可以是物理的服务器、终端、CPU芯片、FPGA芯片等;也可以是逻辑上的功能模块等。另外,在本申请实施例中,也不对第一信息采集节点106的数量进行限定,例如,第一信息采集节点106的数量可以是一个,也可以是多个。再者,也不对第一信息采集节点106的部署形态进行限定,第一信息采集节点106可以独立部署在初始池104中,与初始池104中各边缘云节点102通信连接;或者,也可以部署在初始池104中每个边缘云节点102上。在图1d中,展示了第一信息采集节点106部署在初始池104中每个边缘云节点102上的情况。可选地,第一信息采集节点106可以实现为服务网格(Service Mesh),服务网格可以处理服务通信、数据收集和分析汇报以及路由控制等等。因此,可以利用服务网格收集第一流量信息,并发送至资源管理节点107。
在本申请实施例中,不对资源管理节点107的节点形态进行限定。例如,节点形态可以是物理的服务器、终端、CPU芯片或FPGA芯片等;也可以是逻辑上的功能模块等。另外,在本申请实施例中,也不限定资源管理节点107的数量,例如可以是一个或者多个,在图1d中,展示了资源管理节点107的数量为1时的情况。在本申请实施例中,并不限定资源管理节点107的部署形态。可选地,资源管理节点107可以独立于初始池104和工作池105,单独部署在网络系统100中。或者,资源管理节点107也可以部署在初始池104或工作池105中的某个或某几个边缘云节点102中。
在本申请实施例中,并不对第一流量信息的内容进行限定,第一流量信息可以是任何能够反映被调度至初始池104中的流量属性的相关信息。例如,可以采集被调度至初始池104中的流量的四元组或五元组作为第一流量信息。其中,四元组包括:源IP地址、目的IP地址、源端口、目的端口;五元组包括:源IP地址、目的IP地址、协议号、源端口、目的端口。
第一信息采集节点106采集到第一流量信息(例如五元组)之后,会上报给资源管理节点107。在接收到第一信息采集节点106上报的第一流量信息之后,资源管理节点107可以根据第一流量信息,确定是否需要在工作池105中新增边缘云节点。在一可选实施例中,可以预先设置节点增加策略,则资源管理节点107可以根据第一流量信息,判断预设节点增加策略是否被触发;若是,确定需要在工作池105中新增边缘云节点。
其中,可以根据应用需求灵活设置节点增加策略。根据节点增加策略的不同,判断节点增加策略是否被触发的方式也会有所不同。下面以不同节点增加策略为例,对判断节点增加策略是否被触发的实施方式进行示例性说明。例如,判断预设节点增加策略是否被触发,包括以下至少一种判断操作:
判断操作1:根据第一流量信息,判断第一应用103中被调度至初始池104中的总流量是否大于设定第一流量阈值;
判断操作2:根据第一流量信息,判断第一应用103中被调度至初始池104中且来自指定运营商的流量是否大于设定第二流量阈值;
判断操作3:根据第一流量信息,判断第一应用103中被调度至初始池104中且来自指定地域内的流量是否大于设定第三流量阈值;
判断操作4:根据第一流量信息,判断第一应用103中被调度至初始池104中且属于指定流量类型的流量是否大于设定第四流量阈值;
判断操作5:根据第一流量信息,判断初始池104中边缘云节点102的负载是否超过设定负载阈值;
若至少一种判断操作的判断结果为是,确定预设节点增加策略被触发。
在本申请实施例中,并不对第一流量阈值、第二流量阈值、第三流量阈值、第四流量阈值以及负载阈值进行限定。第一流量阈值、第二流量阈值、第三流量阈值、第四流量阈值以及负载阈值可以是但不限于初始池104中总流量的30%、50%、70%、90%等等。其中,判断操作1-5分别对应不同的节点增加策略,可以择一使用,也可以以任意组合方式组合使用。在判断操作1-4中,若结果为是,说明需要将该指定属性的流量分配到工作池105中。在判断操作5中,根据第一流量信息,判断初始池104中边缘云节点的负载超过设定负载阈值,说明初始池104中的流量信息过大,需要将其调度至工作池105中,一方面缓解初始池104的压力,另一方面减少时延。其中,在预设节点增加策略被触发的情况下,可以确定需要在工作池105中新增第一边缘云节点108。
可选地,在工作池105中新增第一边缘云节点108的一种实施方式,包括:根据第一流量信息,从网络系统100中选择工作池105中需要新增的第一边缘云节点;根据第一应用103的镜像文件,在第一边缘云节点上创建第一应用103对应的实例。镜像(Mirroring)是一种文件存储形式,一个磁盘上的数据在另一个磁盘上存在一个完全相同的副本即为镜像文件。其中,在新增第一边缘云节点108时,利用第一应用103的镜像文件在第一边缘云节点108上创建相应实例,该实例和初始池中初始化时创建的实例一样,都是第一应用的具体实现或载体,可处理第一应用的流量,提供相应服务。其中,实例的实现形态可以是虚拟机、容器、函数计算服务或原生应用等。在本实施例中,可按需为第一应用分配资源,并在分配资源时实时创建相应实例,可节约资源,提高资源利用率。
在本申请实施例中,并不限定根据第一流量信息选择第一边缘云节点108的方式。凡是可以根据第一流量信息,从网络系统100中选择工作池105中需要新增的第一边缘云节点108的实施方式均适用于本申请实施例。在一可选实施例中,选择第一边缘云节点108的方式包括:根据第一流量信息,识别出第一应用103中被调度至初始池104中的流量来自的地域、流量所属的运营商和/或类型属性;从网络系统100中,选择与地域、运营商和/或类型属性匹配的边缘云节点,作为第一边缘云节点108。这里的选择操作是指从除初始池104和工作池105之外的其它边缘云节点中选择第一边缘云节点108的过程。在不同场景中,可使用不同的流量属性,根据不同流量属性,选择第一边缘云节点的实施方式也会有所不同。下面进行示例性说明:
示例1:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量来自的地域为地域g1。进而,在网络系统100中,选择与地域g1匹配的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择位于地域g1内的边缘云节点,或者,位于地域g1周围的边缘云节点,作为第一边缘云节点108。
示例2:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量所属的运营商为运营商h2。在网络系统100中,选择与运营商h2匹配的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择包含运营商h2提供的基础设施的边缘云节点,或者选择由运营商h2提供的边缘云节点,作为第一边缘云节点108。
示例3:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量的类型为类型i3(例如登录类流量),在网络系统100中,选择负责处理类型i3的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。在该示例中,不同类型的流量可由不同边缘云节点负责处理。
示例4:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量来自的地域为地域g4,且所属的运营商为运营商h4。在网络系统100中,选择与地域g4和运营商h4匹配的边缘云节点102,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择位于地域g4且包含运营商h4提供的基础设施的边缘云节点,或者选择位于地域g4且由运营商h4提供的边缘云节点,作为第一边缘云节点108。
示例5:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量来自的地域为地域g5,且类型为类型i5(例如支付类流量)。在网络系统100中,选择与地域g5以及类型i5匹配的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择位于地域g5内且负责处理流量类型i5的边缘云节点,作为第一边缘云节点108。
示例6:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量所属的运营商为运营商h6,且类型为类型i6(例如请求领优惠券的流量)。在网络系统100中,选择与运营商h6以及类型i6匹配的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择由运营商h6提供且负责处理流量类型i6的边缘云节点,作为第一边缘云节点108。
示例7:第一信息采集节点106采集第一流量信息并上报给资源管理节点107,资源管理节点107根据第一流量信息识别出被调度至初始池104中的流量来自的地域为地域g7,所属的运营商为运营商h7以及其类型为类型i7。在网络系统100中,选择与地域g7、运营商h6以及类型i7匹配的边缘云节点,作为工作池105中需要新增的第一边缘云节点108。例如,可以选择位于地域g7内由运营商h6提供且负责处理流量类型i7的边缘云节点,作为第一边缘云节点108。
无论在上述哪种示例中,在根据流量来自的地域选择第一边缘云节点108的情况下,均可以实现流量本地化,降低时延,提高服务质量。
在又一可选实施例中,资源管理节点107控制流量控制系统101将第一应用103中原本需要被调度至初始池104中的至少部分后续流量,调度至第一边缘云节点108上,包括:资源管理节点107在工作池105对应的调度策略中,添加第一边缘云节点108的访问信息及其对应的调度条件;若来自第一应用103的后续流量中出现满足该调度条件的流量,流量控制系统101会根据访问信息,将满足该调度条件的流量调度至第一边缘云节点108上。在本申请实施例中,并不限定资源管理节点107在工作池105对应的调度策略中,添加第一边缘云节点108的访问信息及其对应的调度条件的具体实施方式。例如,可以是资源管理节点107直接将第一边缘云节点108的访问信息及其对应的调度条件添加至工作池105对应的调度策略形成新的调度策略,然后将新的调度策略发送至流量控制系统101;也可以是资源管理节点107将第一边缘云节点108的访问信息及其对应的调度条件发送至流量控制系统101,以控制流量控制系统101将第一边缘云节点108的访问信息及其对应的调度条件添加到工作池105对应的调度策略中。
上述实施例,重点描述了在被调度至初始池104中的流量增加的情况下,可以在工作池105中增加新的边缘云节点的过程,这可以缓解初始池104的压力并减少通信时延。除这种情况之外,在第一应用103中被调度至工作池105中的流量增加且满足新增边缘云节点的条件(例如超过已有边缘云节点的承受能力)的情况下,也可以在工作池105中增加新的边缘云节点。为了便于在这种情况下及时地为工作池105新增边缘云节点,如图1d所示,该网络系统100还包括:第二信息采集节点111。第二信息采集节点111负责获取第二流量信息并上报给资源管理节点107,第二流量信息是第一应用103中被调度至工作池105中的流量的信息。资源管理节点107还可用于:根据第二流量信息,判断是否需要在工作池105中新增边缘云节点,并在判断结果为是的情况下,在工作池105中新增第三边缘云节点109;以及在后续流量调度过程中,控制流量控制系统101将第一应用103中需要被调度至工作池105中的至少部分流量,调度至第三边缘云节点109上。其中,第三边缘云节点109可以是一个或多个,在图1d中,仅展示了第三边缘云节点109为一个的情况。
在本申请实施例中,并不对第二信息采集节点111的节点形态进行限定,凡是可以进行信息采集并具有上报功能的节点形态均适用于本申请实施例。例如,节点形态可以是物理的服务器、终端、CPU芯片或FPGA芯片等;也可以是逻辑上的功能模块等。在本申请实施例中,也不对第二信息采集节点111的数量进行限定,例如,可以是一个或者多个。再者,也不对第二信息采集节点111的部署形态进行限定,第二信息采集节点111可以独立部署在工作池105中,并与工作池105中各边缘云节点102通信连接;或者,也可以部署在工作池105中的每个边缘云节点上。在图1d中,展示了第二信息采集节点111部署在工作池105中每个边缘云节点上的情况。可选地,第二信息采集节点111可以实现为服务网格,服务网格可以处理服务通信、数据收集和分析汇报以及路由控制等等。因此,可以利用服务网格收集第二流量信息,并发送至资源管理节点107。
在本申请实施例中,并不限定增加工作池105中第三边缘云节点109的具体实施方式。凡是可以在工作池105中增加第三边缘云节点109的实施方式均适用于本申请实施例。可选地,根据第二流量信息,识别出第一应用103中被调度至工作池105中的流量来自的地域、流量所属的运营商和/或类型属性;从网络系统100中,选择与地域、运营商和/或类型属性匹配的边缘云节点,作为第三边缘云节点109。这里的选择操作是指从除初始池104和工作池105之外的其它边缘云节点中选择第三边缘云节点109的过程。在不同场景中,可使用不同的流量属性,根据不同流量属性,选择第三边缘云节点的实施方式也会有所不同。其中,根据不同流量属性,选择第三边缘云节点的实施方式,与根据不同流量属性,选择第一边缘云节点的实施方式相同或类似,可参见前述示例性实施例,在此不再赘述。
在一可选实施例中,资源管理节点107控制流量控制系统101将第一应用103中需要被调度至工作池105中的至少部分流量,调度至第三边缘云节点09上,包括:在工作池105对应的调度策略中,增加第三边缘云节点109的访问信息及其对应的调度条件;这样,流量控制系统101会根据增加后的调度策略,将来自第一应用103的后续流量调度至第三边缘云节点109上。
在本申请实施例中,并不限定资源管理节点107在工作池105对应的调度策略中,添加第三边缘云节点109的访问信息及其对应的调度条件的具体实施方式。例如可以是资源管理节点107直接将第三边缘云节点109的访问信息及其对应的调度条件添加至工作池105对应的调度策略形成新的调度策略,然后将新的调度策略发送至流量控制系统101;也可以是资源管理节点107将第三边缘云节点109的访问信息及其对应的调度条件发送至流量控制系统101,以控制流量控制系统101将第三边缘云节点109的访问信息及其对应的调度条件添加到工作池105对应的调度策略中。
在上述实施例中,重点描述了在第一应用103的流量增加时,动态增加工作池105中边缘云节点的过程。第一应用103的流量是动态变化的,可能增加,也可能减少。当被调度至工作池105中的流量减少时,也可以动态减少工作池105中边缘云节点的数量。在一可选实施例中,资源管理节点107还用于:根据第二流量信息判断是否需要削减工作池105中的边缘云节点,并在判断结果为是的情况下,削减工作池105中的第二边缘云节点110;以及在后续流量调度过程中,控制流量控制系统101将第一应用103中原本需要被调度至第二边缘云节点110上的后续流量,调度至工作池105中剩余的边缘云节点和/或初始池中的边缘云节点102上。其中,第二边缘云节点110可以是一个或多个,在图1d中,仅展示了第二边缘云节点110为一个的情况。
在一可选实施例中,削减工作池105中的第二边缘云节点110包括:根据第二流量信息,识别出第一应用103中被调度至工作池105中各边缘云节点上的流量大小;根据工作池105中各边缘云节点上的流量大小,从中选择第二边缘云节点110;将第二边缘云节点110从工作池105中移除。例如,可以根据工作池105中各边缘云节点上的流量大小,从工作池105中选择流量小于设定阈值的边缘云节点作为第二边缘云节点110。或者,也可以根据工作池105中各边缘云节点上的流量大小,从工作池105中选择流量最小的边缘云节点作为第二边缘云节点110。或者,也可以根据工作池105中各边缘云节点上的流量大小和各边缘云节点的处理能力,计算出工作池105中各边缘云节点的负载比重;进而从中选择负载比重最大(或者大于设定比重阈值)的边缘云节点作为第二边缘云节点110。
进一步可选地,在移除第二边缘云节点110之前,还可以释放第一应用103在第二边缘云节点110上占用的资源。例如,将第一应用103对应的实例从第二边缘云节点110上删除,以释放占用的资源。
在一可选实施例中,资源管理节点107控制流量控制系统101将第一应用103中原本需要被调度至第二边缘云节点110上的后续流量,调度至工作池105中剩余的边缘云节点102和/或初始池104中的边缘云节点102上,包括:在工作池105对应的调度策略中,删除第二边缘云节点110的访问信息及其对应的调度条件;这样,流量控制系统101会根据删除后的调度策略,将来自第一应用103的后续流量调度至工作池中剩余的边缘云节点102和/或初始池104中的边缘云节点102上。
在本申请实施例中,并不限定资源管理节点107在工作池105对应的调度策略中,删除第二边缘云节点110的访问信息及其对应的调度条件的具体实施方式。例如,可以是资源管理节点107直接将第二边缘云节点110的访问信息及其对应的调度条件,从工作池105对应的调度策略中删除以形成新的调度策略,然后将新的调度策略发送至流量控制系统101;也可以是资源管理节点107向流量控制系统101发送删除指令,以指示流量控制系统101将第二边缘云节点110的访问信息及其对应的调度条件从工作池105对应的调度策略中删除。
下面举例说明削减工作池105中第二边缘云节点110的情况。如图1e所示,假设调度策略中的调度条件为流量所属的运营商,工作池105中IP地址为k1的第二边缘云节点110负责处理第一应用103中来自运营商j1的流量,IP地址为k2的边缘云节点102负责处理第一应用103中来自运营商j2的流量,初始池104中包含有IP地址为k3的边缘云节点102。
第二信息采集节点111获取第二流量信息,资源管理节点107根据第二流量信息的流量大小分析工作池105中各边缘云节点上的流量,从中选择流量较小的边缘云节点(即IP地址为k1的边缘云节点)作为第二边缘云节点110,释放第一应用103在第二边缘云节点110上占用的资源,并将第二边缘云节点110从工作池105中移除。资源管理节点107在工作池105对应的调度策略中,删除第二边缘云节点110的访问信息及其对应的调度条件,以形成新的调度策略。在图1e中,第二边缘云节点110、第二边缘云节点110的访问信息及其对应的调度条件处于虚线框中,表示删除状态。
可选地,若调度策略允许在工作池105内部进行流量分担,流量控制系统101在接收到来自运营商j1的后续流量(即原本需要被调度至第二边缘云节点110上的后续流量)时,可将来自运营商j1的后续流量调度至工作池105中IP地址为k2的边缘云节点102上,如图1e中实线所示示例1。或者,若调度策略不允许在工作池105内部进行流量分担,流量控制系统101在接收到来自运营商j1的后续流量(即原本需要被调度至第二边缘云节点110上的后续流量)时,可将来自运营商j1的后续流量调度至初始池104中IP地址为k3的边缘云节点102上,如图1e中虚线所示的示例2。
在此说明,本实施例提供的网络系统可以向其用户提供多种服务形式,供其用户选择。多种服务形式至少包括:本申请实施例提供的初始池和工作池相结合的动态服务形式和传统服务形式。传统服务形式是指在用户购买或租用的边缘云节点上均预先部署用户应用对应的实例,资源不会动态变化的服务形式。对用户来说,可以根据自己的应用需求,从多种服务形式中灵活选择所需的服务形式。例如,若用户优先追求服务质量和稳定性,则可以选择传统服务形式;若用户优先追求较低的资源成本和流量本地化,则可以选择使用动态服务形式。
在此说明,在上述系统实施例中,在对各应用进行流量调度的过程中,用于承载应用流量的资源粒度是边缘云节点,但并不限于此。在本申请实施例中,边缘云节点包含一系列边缘基础设施,在这些边缘基础设施中有一些具有一定计算或处理能力,还有一些是通信链路和网络环境等。为了简化描述,将这些具有一定计算或处理能力的边缘基础设施简称为边缘云设备。在逻辑上,边缘云节点是边缘云设备以及其它边缘基础设施的集合。基于此,在上述系统实施例中,在对各应用进行流量调度的过程中,用于承载应用流量的资源粒度除了是边缘云节点之外,还可以是边缘云设备。下面仍以第一应用为例,对以边缘云设备为资源粒度的流量调度过程进行简单说明。
在本申请实施例提供的网络系统中,可为第一应用设置初始池和工作池。初始池中包括部署有第一应用的边缘云设备,可选地,部署有第一应用的边缘云设备上预先创建有第一应用对应的实例,该实例可以处理第一应用的流量。部署有第一应用的边缘云设备的数量可以是一个或多个,这些边缘云设备可以来自同一边缘云节点,也可以来自不同边缘云节点,对此不做限定。一般来说,初始池中包含的部署有第一应用的边缘云设备的数量是固定不变或者基本不变(即变化频率比较低)的。相对初始池,工作池实际上是一个动态的资源池,该工作池中包含的边缘云设备的数量可以是0(即工作池中不包含任何边缘云设备),也可以是非0。在工作池中包含的边缘云设备的数量为非0的情况下,这些边缘云设备上也会部署第一应用,也可以处理第一应用的应用流量。工作池中边缘云设备的数量可以是根据第一应用的流量的多少动态可变的,用以实现资源的动态按需分配。同理,工作池中的边缘云设备可以来自同一边缘云节点,也可以来自不同边缘云节点。另外,工作池中的边缘云设备不同于初始池中的边缘云设备,但这两个资源池中可以包括来自同一边缘云节点的边缘云设备,也可以包括来自不同边缘云节点的边缘云设备。
其中,以边缘云设备为资源粒度和以边缘云节点为资源粒度为各应用进行流量调度,两者的区别主要在于:资源粒度不同,其它内容基本相同或类似。因此,以边缘云设备为资源粒度为各应用进行流量调度的详细实施过程,例如具体的调度策略、详细的流量调度过程以及针对工作池和初始池中边缘云设备的变更等内容,可参见前述实施例,在此不再赘述。
在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云设备的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云设备上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云设备的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
除了上述系统实施例之外,本申请还提供了一些流量调度方法的实施例,下面对本申请提供的组网方法实施例进行描述。
图2a为本申请示例性实施例提供的一种流量调度方法的流程示意图;如图2a所示,该方法包括:
21、获取来自第一应用的当前流量,第一应用对应有初始池和工作池,工作池中边缘云节点的数量动态可变;
22、若当前流量不满足工作池对应的调度策略,将当前流量调度至初始池中的边缘云节点上。
在本申请实施例中以第一应用为例,对流量调度方法进行示例性说明。其中,第一应用是边缘云网络中部署的任一应用。第一应用可以是任何类型的应用,例如,可以是视频类应用、游戏类应用、购物类应用或邮件类应用等。第一应用的当前流量是指应用需要处理的各种网络请求。以支付应用来说,其流量包括但不限于:支付请求、绑定支付渠道的请求,以及添加支付账号或银行卡的请求,等等。以游戏应用来说,其流量包括但不限于:注册请求,购买道具请求,在线游戏请求,账户充值请求,外挂请求,等等。
在本实施例中,第一应用对应有初始池和工作池。初始池中包括部署有第一应用的边缘云节点,部署有第一应用的边缘云节点可以处理第一应用的流量,其数量可以是一个或多个。例如,初始池中包括的部署有第一应用的边缘云节点可以是1个、2个、3个、10个或15个等。一般来说,初始池中包含的部署有第一应用的边缘云节点的数量是固定不变或者基本不变(即变化频率比较低)的。相对初始池,工作池实际上是一个动态的资源池,该工作池中包含的边缘云节点的数量可以是0(即工作池中不包含任何边缘云节点),也可以是非0。在工作池中包含的边缘云节点的数量为非0的情况下,这些边缘云节点上也会部署第一应用,也可以处理第一应用的应用流量。工作池中边缘云节点的数量可以是根据第一应用的流量的多少动态可变的,用以实现资源的动态按需分配。
在本实施例中,工作池105对应有调度策略,该调度策略主要用于指示第一应用的哪些流量可以被调度至工作池中。基于此,在获取到来自第一应用的当前流量的情况下,可以判断当前流量是否满足工作池对应的调度策略;在当前流量不满足工作池对应的调度策略的情况下,将当前流量调度至初始池中的边缘云节点上。可选地,若当前流量满足工作池对应的调度策略,将当前流量调度至工作池中的边缘云节点上。
在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云节点的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云节点上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云节点的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
在本实施例中,并不限定工作池对应调度策略的具体内容。在一可选实施例中,工作池对应的调度策略包括:流量需要满足的调度条件和指示流量需要被调度至哪个边缘云节点的描述信息。其中,流量需要满足的调度条件可以包含但不限于:流量来自的地域、流量所属的运营商、流量类型等等。流量类型可以包含但不限于:登录请求、支付请求、提交订单请求等等。边缘云节点的描述信息是指边缘云节点的访问信息,访问信息是指能够成功访问边缘云节点的信息,可以是其IP地址、MAC地址、URL地址或其它唯一性标识等。
结合上述调度策略,判断当前流量是否满足工作池对应的调度策略的过程包括:将当前流量的属性与工作池对应的调度策略中的调度条件进行匹配;若未匹配中任何调度条件,则确定当前流量不满足工作池对应的调度策略;若匹配中任一调度条件,则确定当前流量满足工作池对应的调度策略。进一步,在匹配中的情况下,从工作池对应的调度策略中,获取与被匹配中的调度条件对应的边缘云节点的访问信息;将当前流量调度至工作池中与访问信息对应的边缘云节点上。
进一步,为了实现流量的按需分配,动态改变工作池中边缘云节点的数量。在一可选实施例中,如图2b所示,流量调度方法除了步骤21和步骤22之外还包括:
23、获取第一流量信息,第一流量信息是第一应用中被调度至初始池中的流量的信息;
24、若根据第一流量信息确定需要在工作池中新增边缘云节点,则在工作池中新增第一边缘云节点;
25、将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上。
在本实施例中,并不限定步骤21-22描述的操作,与步骤23-25描述的操作之间的执行顺序,在图2b中,以步骤23-25位于步骤22之后进行图示。
在本申请实施例中,并不对第一流量信息的内容进行限定,第一流量信息可以是任何能够反映被调度至初始池中的流量属性的相关信息。例如,可以采集被调度至初始池104中的流量的四元组或五元组作为第一流量信息。其中,四元组包括:源IP地址、目的IP地址、源端口、目的端口;五元组包括:源IP地址、目的IP地址、协议号、源端口、目的端口。其中,根据四元组或五元组中的端口信息或协议号等,可获知这些流量的类型;进一步,根据IP地址、端口信息与运营商、地域等信息之间的映射关系,可以获知这些流量来自哪些地域、哪个运营商。
获取第一流量信息(例如五元组)之后,可以根据第一流量信息,确定是否需要在工作池中新增边缘云节点。在一可选实施例中,可以预先设置节点增加策略,则可以根据第一流量信息,判断预设节点增加策略是否被触发;若是,确定需要在工作池中新增边缘云节点。
其中,可以根据应用需求灵活设置节点增加策略。根据节点增加策略的不同,判断节点增加策略是否被触发的方式也会有所不同。下面以不同节点增加策略为例,对判断节点增加策略是否被触发的实施方式进行示例性说明。例如,判断预设节点增加策略是否被触发,包括以下至少一种判断操作:
判断操作1:根据第一流量信息,判断第一应用中被调度至初始池中的总流量是否大于设定第一流量阈值;
判断操作2:根据第一流量信息,判断第一应用中被调度至初始池中且来自指定运营商的流量是否大于设定第二流量阈值;
判断操作3:根据第一流量信息,判断第一应用中被调度至初始池中且来自指定地域内的流量是否大于设定第三流量阈值;
判断操作4:根据第一流量信息,判断第一应用中被调度至初始池中且属于指定流量类型的流量是否大于设定第四流量阈值;
判断操作5:根据第一流量信息,判断初始池中边缘云节点的负载是否超过设定负载阈值;
若至少一种判断操作的判断结果为是,确定预设节点增加策略被触发。
在本申请实施例中,并不对第一流量阈值、第二流量阈值、第三流量阈值、第四流量阈值以及负载阈值进行限定。第一流量阈值、第二流量阈值、第三流量阈值、第四流量阈值以及负载阈值可以是但不限于初始池中总流量的30%、50%、70%、90%等等。其中,判断操作1-5分别对应不同的节点增加策略,可以择一使用,也可以以任意组合方式组合使用。在判断操作1-4中,若结果为是,说明需要将该指定属性的流量分配到工作池中。在判断操作5中,根据第一流量信息,判断初始池中边缘云节点的负载超过设定负载阈值,说明初始池中的流量信息过大,需要将其调度至工作池中,一方面缓解初始池的压力,另一方面减少时延。其中,在预设节点增加策略被触发的情况下,可以确定需要在工作池中新增第一边缘云节点。
可选地,在工作池中新增第一边缘云节点的一种实施方式,包括:根据第一流量信息,从边缘云网络中选择工作池中需要新增的第一边缘云节点;根据第一应用的镜像文件,在第一边缘云节点上创建第一应用对应的实例。镜像(Mirroring)是一种文件存储形式,一个磁盘上的数据在另一个磁盘上存在一个完全相同的副本即为镜像文件。其中,在新增第一边缘云节点时,利用第一应用的镜像文件在第一边缘云节点上创建相应实例,该实例和初始池中初始化时创建的实例一样,都是第一应用的具体实现或载体,可处理第一应用的流量,提供相应服务。其中,实例的实现形态可以是虚拟机、容器、函数计算服务或原生应用等。在本实施例中,可按需为第一应用分配资源,并在分配资源时实时创建相应实例,可节约资源,提高资源利用率。
在本申请实施例中,并不限定根据第一流量信息选择第一边缘云节点的方式。凡是可以根据第一流量信息,从边缘云网络中选择工作池中需要新增的第一边缘云节点的实施方式均适用于本申请实施例。在一可选实施例中,选择第一边缘云节点的方式包括:根据第一流量信息,识别出第一应用中被调度至初始池中的流量来自的地域、流量所属的运营商和/或类型属性;从边缘云网络中,选择与地域、运营商和/或类型属性匹配的边缘云节点,作为第一边缘云节点。这里的选择操作是指从除初始池和工作池之外的其它边缘云节点中选择第一边缘云节点的过程。在不同场景中,可使用不同的流量属性,根据不同流量属性,选择第一边缘云节点的实施方式也会有所不同。示例性说明请参见系统实施例,在此不再赘述。
无论在上述哪种示例中,在根据流量来自的地域选择第一边缘云节点108的情况下,均可以实现流量本地化,降低时延,提高服务质量。
在又一可选实施例中,将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上,具体包括:在工作池对应的调度策略中,添加第一边缘云节点的访问信息及其对应的调度条件;若来自第一应用的后续流量中出现满足该调度条件的流量,根据访问信息,将满足该调度条件的流量调度至第一边缘云节点上。
上述实施例,重点描述了在被调度至初始池中的流量增加的情况下,可以在工作池中增加新的边缘云节点的过程,这可以缓解初始池的压力并减少通信时延。除这种情况之外,在第一应用中被调度至工作池中的流量增加且满足新增边缘云节点的条件(例如超过已有边缘云节点的承受能力)的情况下,也可以在工作池中增加新的边缘云节点。在一可选实施例中,如图2c所示,本实施例的流量调度方法除了包括步骤21-25之外还包括以下步骤:
26c、获取第二流量信息,第二流量信息是第一应用被调度至工作池中的流量的信息;
27c、若根据第二流量信息确定需要在工作池中新增边缘云节点,则在工作池中新增第三边缘云节点;
28c、将第一应用中需要被调度至工作池中的至少部分流量,调度至第三边缘云节点上。
在本实施例中,并不限定步骤21-22描述的操作,步骤23-25描述的操作以及步骤26c-28c描述的操作之间的执行顺序,在图2c中,以步骤26c-28c位于步骤25之后进行图示。
在本申请实施例中,并不限定增加工作池中第三边缘云节点的具体实施方式。凡是可以在工作池中增加第三边缘云节点的实施方式均适用于本申请实施例。可选地,根据第二流量信息,识别出第一应用中被调度至工作池中的流量来自的地域、流量所属的运营商和/或类型属性;从边缘云网络中,选择与地域、运营商和/或类型属性匹配的边缘云节点,作为第三边缘云节点。这里的选择操作是指从除初始池和工作池之外的其它边缘云节点中选择第三边缘云节点的过程。在不同场景中,可使用不同的流量属性,根据不同流量属性,选择第三边缘云节点的实施方式也会有所不同。其中,根据不同流量属性,选择第三边缘云节点的实施方式,与根据不同流量属性,选择第一边缘云节点的实施方式相同或类似,可参见前述示例性实施例,在此不再赘述。
在一可选实施例中,将第一应用中需要被调度至工作池中的至少部分流量,调度至第三边缘云节点上,包括:在工作池对应的调度策略中,增加第三边缘云节点的访问信息及其对应的调度条件;根据增加后的调度策略,将来自第一应用的后续流量调度至第三边缘云节点上。
在上述实施例中,重点描述了在第一应用的流量增加时,动态增加工作池中边缘云节点的过程。第一应用的流量是动态变化的,可能增加,也可能减少。当被调度至工作池中的流量减少时,也可以动态减少工作池中边缘云节点的数量。在一可选实施例中,如图2d所示,本实施例的流量调度方法除了包括步骤21-25之外还包括以下步骤:
26d、获取第二流量信息,第二流量信息是第一应用中被调度至工作池中的流量的信息;
27d、若根据第二流量信息确定需要削减工作池中的边缘云节点,则削减工作池中的第二边缘云节点;
28d、将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上。
在本实施例中,并不限定步骤21-22描述的操作,步骤23-25描述的操作以及步骤26d-28d描述的操作之间的执行顺序,在图2d中,以步骤26d-28d位于步骤25之后进行图示。
在本申请实施例中,并不限定削减工作池中第二边缘云节点的具体实施方式。凡是可以在工作池中削减第二边缘云节点的实施方式均适用于本申请实施例。可选地,根据第二流量信息,识别出第一应用中被调度至工作池中各边缘云节点上的流量大小;根据工作池中各边缘云节点上的流量大小,从中选择第二边缘云节点;将第二边缘云节点从工作池中移除。例如,可以根据工作池中各边缘云节点上的流量大小,从工作池中选择流量小于设定阈值的边缘云节点作为第二边缘云节点。或者,也可以根据工作池中各边缘云节点上的流量大小,从工作池中选择流量最小的边缘云节点作为第二边缘云节点。或者,也可以根据工作池中各边缘云节点上的流量大小和各边缘云节点的处理能力,计算出工作池中各边缘云节点的负载比重;进而从中选择负载比重最大(或者大于设定比重阈值)的边缘云节点作为第二边缘云节点。
进一步可选地,在移除第二边缘云节点之前,还可以释放第一应用在第二边缘云节点上占用的资源。例如,将第一应用对应的实例从第二边缘云节点上删除,以释放占用的资源。
在一可选实施例中,将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上,包括:在工作池对应的调度策略中,删除第二边缘云节点的访问信息及其对应的调度条件;根据删除后的调度策略,将来自第一应用的后续流量调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上。
本申请示例性实施例还提供另一种流量调度方法的流程示意图,如图3a所示,该方法包括:
31a、获取第一流量信息,第一流量信息是第一应用被调度至初始池中的流量的信息;
32a、若根据第一流量信息确定需要在第一应用对应的工作池中新增边缘云节点,则在工作池中新增第一边缘云节点;
33a、将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上。
本申请实施例与图2b所示的实施例相比,主要区别在于:图2b所示的实施例是在图2a所示实施例的基础上进行描述的,而本申请实施例独立于图2a所示实施例,其它内容均与前述实施例相同或相似,在此不再赘述,可参见前述实施例的描述。
本申请示例性实施例还提供又一种流量调度方法的流程示意图,如图3b所示,该方法包括:
31b、获取第二流量信息,第二流量信息是第一应用被调度至其工作池中的流量的信息;
32b、若根据第二流量信息确定需要削减工作池中的边缘云节点,则削减工作池中的第二边缘云节点;以及
33b、将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或第一应用对应的初始池中的边缘云节点上。
在一可选实施例中,图3b所示的方法还包括:若根据第二流量信息确定需要在工作池中新增边缘云节点,则在工作池中新增第三边缘云节点;以及将第一应用中需要被调度至工作池中的至少部分后续流量,调度至第三边缘云节点上。
本申请实施例与图2d所示的实施例相比,主要区别在于:图2d所示的实施例是在图2b所示实施例的基础上进行描述的,而本申请实施例独立于图2b所示实施例,其它内容均与前述实施例相同或相似,在此不再赘述,可参见前述实施例的描述。
图3c本申请示例性实施例提供的有一种流量调度方法的流程示意图。如图3c所示,该方法包括:
31c、获取来自第一应用的当前流量,第一应用对应有初始池和工作池,工作池中边缘云设备的数量动态可变。
32c、若当前流量不满足工作池对应的调度策略,将当前流量调度至初始池中的边缘云设备上。
进一步可选地,若当前流量满足工作池对应的调度策略,将当前流量调度至工作池中的边缘云设备上。
在本实施例中,可为第一应用设置初始池和工作池。初始池中包括部署有第一应用的边缘云设备,可选地,部署有第一应用的边缘云设备上预先创建有第一应用对应的实例,该实例可以处理第一应用的流量。部署有第一应用的边缘云设备的数量可以是一个或多个,这些边缘云设备可以来自同一边缘云节点,也可以来自不同边缘云节点,对此不做限定。一般来说,初始池中包含的部署有第一应用的边缘云设备的数量是固定不变或者基本不变(即变化频率比较低)的。
相对初始池,工作池实际上是一个动态的资源池,该工作池中包含的边缘云设备的数量可以是0(即工作池中不包含任何边缘云设备),也可以是非0。在工作池中包含的边缘云设备的数量为非0的情况下,这些边缘云设备上也会部署第一应用,也可以处理第一应用的应用流量。工作池中边缘云设备的数量可以是根据第一应用的流量的多少动态可变的,用以实现资源的动态按需分配。同理,工作池中的边缘云设备可以来自同一边缘云节点,也可以来自不同边缘云节点。
另外,工作池中的边缘云设备不同于初始池中的边缘云设备,但这两个资源池中可以包括来自同一边缘云节点的边缘云设备,也可以包括来自不同边缘云节点的边缘云设备。
在本实施例中,在对第一应用进行流量调度的过程中,用于承载应用流量的资源粒度是边缘云设备,而不是边缘云节点。在逻辑上,边缘云节点可看作是边缘云设备的集合。这里的边缘云设备主要是指边缘云节点包含的具有一定计算或处理能力的边缘基础设施。当然,除了边缘云设备之外,边缘云节点中还包括一些信链路、网络环境等其它边缘基础设施,对此不做限定。
其中,以边缘云设备为资源粒度和以边缘云节点为资源粒度为第一应用进行流量调度,两者的区别主要在于:资源粒度不同,其它内容基本相同或类似。因此,以边缘云设备为资源粒度为第一应用进行流量调度的详细实施过程,例如具体的调度策略、详细的流量调度过程以及针对工作池和初始池中边缘云设备的变更等内容,可参见前述实施例,在此不再赘述。
在本申请实施例中,针对边缘云网络中的应用,设置初始池和工作池,且允许工作池中边缘云设备的数量动态可变;其中,初始池与工作池相配合,在应用流量无法被调度至工作池中时,可将应用流量调度至初始池中的边缘云设备上,保证应用正常运行;而在工作池中,可根据应用流量的大小,动态伸缩工作池中边缘云设备的数量,实现资源的动态按需分配,极大地提高边缘云网络的资源利用率。
需要说明的是,上述实施例所提供方法的各步骤的执行主体均可以是同一设备,或者,该方法也由不同设备作为执行主体。比如,步骤21至步骤23的执行主体可以为设备A;又比如,步骤21和22的执行主体可以为设备A,步骤23的执行主体可以为设备B;等等。
另外,在上述实施例及附图中的描述的一些流程中,包含了按照特定顺序出现的多个操作,但是应该清楚了解,这些操作可以不按照其在本文中出现的顺序来执行或并行执行,操作的序号如21、22等,仅仅是用于区分开各个不同的操作,序号本身不代表任何的执行顺序。另外,这些流程可以包括更多或更少的操作,并且这些操作可以按顺序执行或并行执行。需要说明的是,本文中的“第一”、“第二”等描述,是用于区分不同的消息、设备、模块等,不代表先后顺序,也不限定“第一”和“第二”是不同的类型。
图4为本申请示例性实施例提供的一种流量控制设备的结构示意图。如图4所示,该设备包括:存储器402和处理器401。
存储器402,用于存储计算机程序,并可被配置为存储其它各种数据以支持在流量控制设备上的操作。这些数据的示例包括用于在流量控制设备上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。
存储器402,可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
在本实施例中,处理器401,与存储器402耦合,用于执行计算机程序,以用于:获取来自第一应用的当前流量,第一应用对应有初始池和工作池,工作池中边缘云节点的数量动态可变;若当前流量不满足工作池对应的调度策略,将当前流量调度至初始池中的边缘云节点上。第一应用是边缘云节点所在网络系统中部署的任一应用。
在一可选实施例中,处理器401还用于:若当前流量满足工作池对应的调度策略,将当前流量调度至工作池中的边缘云节点上。
在一可选实施例中,处理器401还用于:获取第一流量信息,第一流量信息是第一应用中被调度至初始池中的流量的信息;若根据第一流量信息确定需要在工作池中新增边缘云节点,则在工作池中新增第一边缘云节点;以及将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上。
在一可选实施例中,处理器401在工作池中新增第一边缘云节点时,具体用于:根据第一流量信息,从边缘云网络中选择工作池中需要新增的第一边缘云节点;根据第一应用的镜像文件,在第一边缘云节点上创建第一应用对应的实例。
在一可选实施例中,处理器401在根据第一流量信息,从边缘云网络中选择工作池中需要新增的第一边缘云节点时,具体用于:根据第一流量信息,识别出第一应用中被调度至初始池中的流量的地域、运营商和/或类型属性;从边缘云网络中,选择与地域、运营商和/或类型属性匹配的边缘云节点,作为第一边缘云节点。
在一可选实施例中,处理器401在将第一应用中原本需要被调度至初始池中的至少部分后续流量,调度至第一边缘云节点上时,具体用于:在工作池对应的调度策略中,添加第一边缘云节点的访问信息及其对应的调度条件;若来自第一应用的后续流量中出现满足调度条件的流量,根据访问信息,将满足调度条件的流量调度至第一边缘云节点上。
在一可选实施例中,处理器401在根据第一流量信息,确定是否需要在工作池中新增边缘云节点时,具体用于:根据第一流量信息,判断预设节点增加策略是否被触发;若是,确定需要在工作池中新增边缘云节点。
在一可选实施例中,处理器401在根据第一流量信息,判断预设节点增加策略是否被触发时,具体用于执行以下至少一种判断操作:根据第一流量信息,判断第一应用中被调度至初始池中的总流量是否大于设定第一流量阈值;根据第一流量信息,判断第一应用中被调度至初始池中且来自指定运营商的流量是否大于设定第二流量阈值;根据第一流量信息,判断第一应用中被调度至初始池中且来自指定地域内的流量是否大于设定第三流量阈值;根据第一流量信息,判断第一应用中被调度至初始池中且属于指定流量类型的流量是否大于设定第四流量阈值;根据第一流量信息,判断初始池中边缘云节点的负载是否超过设定负载阈值;若至少一种判断操作的判断结果为是,确定预设节点增加策略被触发。
在一可选实施例中,处理器401还用于:获取第二流量信息,第二流量信息是第一应用中被调度至工作池中的流量的信息;若根据第二流量信息确定需要削减工作池中的边缘云节点,则削减工作池中的第二边缘云节点;以及将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上。
在一可选实施例中,处理器401在削减工作池中的第二边缘云节点时,具体用于:根据第二流量信息,识别出第一应用被调度至工作池中各边缘云节点上的流量大小;根据工作池中各边缘云节点上的流量大小,从中选择第二边缘云节点;将第二边缘云节点从工作池中移除。
在一可选实施例中,处理器401在将第一应用中原本需要被调度至第二边缘云节点上的后续流量,调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上时,具体用于:在工作池对应的调度策略中,删除第二边缘云节点的访问信息及其对应的调度条件;根据删除后的调度策略,将来自第一应用的后续流量调度至工作池中剩余的边缘云节点和/或初始池中的边缘云节点上。
在一可选实施例中,处理器401还用于:获取第二流量信息,第二流量信息是第一应用被调度至工作池中的流量的信息;若根据第二流量信息确定需要在工作池中新增边缘云节点,则在工作池中新增第三边缘云节点;以及将第一应用中需要被调度至工作池中的至少部分流量,调度至第三边缘云节点上。
在一可选实施例中,处理器401还用于:在初始池中的边缘云节点上预先创建第一应用对应的实例。
进一步,如图4所示,该流量控制设备还包括:通信组件403、显示器407、电源组件408、音频组件409等其它组件。图4中仅示意性给出部分组件,并不意味着流量控制设备只包括图4所示组件。
需要说明的是,本实施例的流量控制设备除了具备本实施例描述的所有功能之外,也可以实现为上述系统实施例中的流量控制系统101,用于单独执行向初始池和工作池进行流量调度的操作;或者,也可以实现为上述系统实施例中的资源管理节点107,用于执行向工作池中新增边缘云节点的操作,或执行削减工作池中边缘云节点的操作。
进一步可选地,本实施例提供的流量控制设备还可以以边缘云设备作为承载应用流量的资源粒度,对第一应用进行流量调度。具体地,流量控制设备中的处理器401执行存储器402中存储的计算机程序,还用于:获取来自第一应用的当前流量,第一应用对应有初始池和工作池,工作池中边缘云设备的数量动态可变;以及在当前流量不满足工作池对应的调度策略的情况下,将当前流量调度至初始池中的边缘云设备上。进一步可选地,处理器401还用于:在当前流量满足工作池对应的调度策略的情况下,将当前流量调度至工作池中的边缘云设备上。
其中,以边缘云设备为资源粒度和以边缘云节点为资源粒度为第一应用进行流量调度,两者的区别主要在于:资源粒度不同,其它内容基本相同或类似。因此,在以边缘云设备为资源粒度为第一应用进行流量调度时,处理器401的相关功能与在以边缘云节点为资源粒度为第一应用进行流量调度时的功能基本相同或相似,在此不再赘述。
相应地,本申请实施例还提供一种存储有计算机程序的计算机可读存储介质,计算机程序被执行时能够实现上述方法实施例中可由流量控制设备执行的各步骤。
上述图4中的通信组件被配置为便于通信组件所在设备和其他设备之间有线或无线方式的通信。通信组件所在设备可以接入基于通信标准的无线网络,如WiFi,2G、3G、4G/LTE、5G等移动通信网络,或它们的组合。在一个示例性实施例中,通信组件经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
上述图4中的显示器包括屏幕,其屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。
上述图4中的电源组件,为电源组件所在设备的各种组件提供电力。电源组件可以包括电源管理系统,一个或多个电源,及其他与为电源组件所在设备生成、管理和分配电力相关联的组件。
上述图4中的音频组件,可被配置为输出和/或输入音频信号。例如,音频组件包括一个麦克风(MIC),当音频组件所在设备处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器或经由通信组件发送。在一些实施例中,音频组件还包括一个扬声器,用于输出音频信号。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (23)
1.一种流量调度方法,其特征在于,包括:
获取来自第一应用的当前流量,所述第一应用对应有初始池和工作池,所述工作池中边缘云节点的数量动态可变;
若当前流量不满足所述工作池对应的调度策略,将当前流量调度至所述初始池中的边缘云节点上。
2.根据权利要求1所述的方法,其特征在于,还包括:
若当前流量满足所述工作池对应的调度策略,将当前流量调度至所述工作池中的边缘云节点上。
3.根据权利要求1所述的方法,其特征在于,还包括:
获取第一流量信息,所述第一流量信息是所述第一应用中被调度至初始池中的流量的信息;
若根据所述第一流量信息确定需要在所述工作池中新增边缘云节点,则在所述工作池中新增第一边缘云节点;以及
将所述第一应用中原本需要被调度至所述初始池中的至少部分后续流量,调度至所述第一边缘云节点上。
4.根据权利要求3所述的方法,其特征在于,在所述工作池中新增第一边缘云节点,包括:
根据所述第一流量信息,从边缘云网络中选择所述工作池中需要新增的第一边缘云节点;
根据所述第一应用的镜像文件,在所述第一边缘云节点上创建所述第一应用对应的实例。
5.根据权利要求4所述的方法,其特征在于,根据所述第一流量信息,从边缘云网络中选择所述工作池中需要新增的第一边缘云节点,包括:
根据所述第一流量信息,识别出所述第一应用中被调度至初始池中的流量的地域、运营商和/或类型属性;
从所述边缘云网络中,选择与所述地域、运营商和/或类型属性匹配的边缘云节点,作为所述第一边缘云节点。
6.根据权利要求3所述的方法,其特征在于,将所述第一应用中原本需要被调度至所述初始池中的至少部分后续流量,调度至所述第一边缘云节点上,包括:
在所述工作池对应的调度策略中,添加所述第一边缘云节点的访问信息及其对应的调度条件;
若来自所述第一应用的后续流量中出现满足所述调度条件的流量,根据所述访问信息,将满足所述调度条件的流量调度至所述第一边缘云节点上。
7.根据权利要求3所述的方法,其特征在于,根据所述第一流量信息,确定是否需要在所述工作池中新增边缘云节点,包括:
根据所述第一流量信息,判断预设节点增加策略是否被触发;
若是,确定需要在所述工作池中新增边缘云节点。
8.根据权利要求7所述的方法,其特征在于,根据所述第一流量信息,判断预设节点增加策略是否被触发,包括以下至少一种判断操作:
根据所述第一流量信息,判断所述第一应用中被调度至所述初始池中的总流量是否大于设定第一流量阈值;
根据所述第一流量信息,判断所述第一应用中被调度至所述初始池中且来自指定运营商的流量是否大于设定第二流量阈值;
根据所述第一流量信息,判断所述第一应用中被调度至所述初始池中且来自指定地域内的流量是否大于设定第三流量阈值;
根据所述第一流量信息,判断所述第一应用中被调度至所述初始池中且属于指定流量类型的流量是否大于设定第四流量阈值;
根据所述第一流量信息,判断所述初始池中边缘云节点的负载是否超过设定负载阈值;
若至少一种判断操作的判断结果为是,确定预设节点增加策略被触发。
9.根据权利要求1-8任一项所述的方法,其特征在于,还包括:
获取第二流量信息,所述第二流量信息是所述第一应用中被调度至工作池中的流量的信息;
若根据所述第二流量信息确定需要削减所述工作池中的边缘云节点,则削减所述工作池中的第二边缘云节点;以及
将所述第一应用中原本需要被调度至所述第二边缘云节点上的后续流量,调度至所述工作池中剩余的边缘云节点和/或所述初始池中的边缘云节点上。
10.根据权利要求9所述的方法,其特征在于,削减所述工作池中的第二边缘云节点,包括:
根据所述第二流量信息,识别出所述第一应用被调度至所述工作池中各边缘云节点上的流量大小;
根据所述工作池中各边缘云节点上的流量大小,从中选择所述第二边缘云节点;
将所述第二边缘云节点从所述工作池中移除。
11.根据权利要求9所述的方法,其特征在于,将所述第一应用中原本需要被调度至所述第二边缘云节点上的后续流量,调度至所述工作池中剩余的边缘云节点和/或所述初始池中的边缘云节点上,包括:
在所述工作池对应的调度策略中,删除所述第二边缘云节点的访问信息及其对应的调度条件;
根据删除后的调度策略,将来自所述第一应用的后续流量调度至所述工作池中剩余的边缘云节点和/或所述初始池中的边缘云节点上。
12.根据权利要求1-8任一项所述的方法,其特征在于,还包括:
获取第二流量信息,所述第二流量信息是所述第一应用被调度至工作池中的流量的信息;
若根据所述第二流量信息确定需要在所述工作池中新增边缘云节点,则在所述工作池中新增第三边缘云节点;以及
将所述第一应用中需要被调度至所述工作池中的至少部分流量,调度至所述第三边缘云节点上。
13.根据权利要求1-8任一项所述的方法,其特征在于,所述初始池中的边缘云节点上预先创建有第一应用对应的实例。
14.一种流量调度方法,其特征在于,包括:
获取第一流量信息,所述第一流量信息是第一应用被调度至初始池中的流量的信息;
若根据所述第一流量信息确定需要在所述第一应用对应的工作池中新增边缘云节点,则在所述工作池中新增第一边缘云节点;以及
将所述第一应用中原本需要被调度至所述初始池中的至少部分后续流量,调度至所述第一边缘云节点上。
15.一种流量调度方法,其特征在于,包括:
获取第二流量信息,所述第二流量信息是第一应用被调度至其工作池中的流量的信息;
若根据所述第二流量信息确定需要削减所述工作池中的边缘云节点,则削减所述工作池中的第二边缘云节点;以及
将所述第一应用中原本需要被调度至所述第二边缘云节点上的后续流量,调度至所述工作池中剩余的边缘云节点和/或所述第一应用对应的初始池中的边缘云节点上。
16.根据权利要求15所述的方法,其特征在于,还包括:
若根据所述第二流量信息确定需要在所述工作池中新增边缘云节点,则在所述工作池中新增第三边缘云节点;以及
将所述第一应用中需要被调度至所述工作池中的至少部分后续流量,调度至所述第三边缘云节点上。
17.一种边缘云网络,其特征在于,包括:流量控制系统以及多个边缘云节点;
所述流量控制系统,用于获取来自第一应用的当前流量,所述第一应用对应有初始池和工作池,所述初始池包括至少一个边缘云节点,所述工作池可以包含边缘云节点且其所包含的边缘云节点的数量动态可变;
所述流量控制系统还用于:在当前流量不满足所述工作池对应的调度策略的情况下,将当前流量调度至所述初始池中的边缘云节点上。
18.根据权利要求17所述的系统,其特征在于,所述流量控制系统还用于:在当前流量满足所述工作池对应的调度策略的情况下,将当前流量调度至所述工作池中的边缘云节点上。
19.根据权利要求17所述的系统,其特征在于,还包括:第一信息采集节点和资源管理节点;
所述第一信息采集节点,用于获取第一流量信息并上报给所述资源管理节点,所述第一流量信息是所述第一应用被调度至所述初始池中的流量的信息;
所述资源管理节点,用于根据所述第一流量信息,判断是否需要在所述工作池中新增边缘云节点,并在判断结果为是的情况下,在所述工作池中新增第一边缘云节点;以及将所述第一应用中原本需要被调度至所述初始池中的至少部分后续流量,调度至所述第一边缘云节点上。
20.根据权利要求19所述的系统,其特征在于,所述第一信息采集节点创建在所述初始池中的边缘云节点上。
21.一种流量控制设备,其特征在于,包括:存储器和处理器;
所述存储器,用于存储计算机程序;当所述计算机程序被所述处理器执行时,致使所述处理器实现权利要求1-16任一项所述方法中的步骤。
22.一种存储有计算机程序的计算机可读存储介质,其特征在于,当所述计算机程序被一个或多个处理器执行时,致使所述一个或多个处理器实现权利要求1-16任一项所述方法中的步骤。
23.一种流量调度方法,其特征在于,包括:
获取来自第一应用的当前流量,所述第一应用对应有初始池和工作池,所述工作池中边缘云设备的数量动态可变;
若当前流量不满足所述工作池对应的调度策略,将当前流量调度至所述初始池中的边缘云设备上。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010124804.8A CN113315719A (zh) | 2020-02-27 | 2020-02-27 | 流量调度方法、设备、系统及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010124804.8A CN113315719A (zh) | 2020-02-27 | 2020-02-27 | 流量调度方法、设备、系统及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113315719A true CN113315719A (zh) | 2021-08-27 |
Family
ID=77370360
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010124804.8A Pending CN113315719A (zh) | 2020-02-27 | 2020-02-27 | 流量调度方法、设备、系统及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113315719A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115297124A (zh) * | 2022-07-25 | 2022-11-04 | 天翼云科技有限公司 | 一种系统运维管理方法、装置及电子设备 |
CN116599965A (zh) * | 2023-07-18 | 2023-08-15 | 中移(苏州)软件技术有限公司 | 通信方法、通信装置、电子设备和可读存储介质 |
Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103036946A (zh) * | 2012-11-21 | 2013-04-10 | 中国电信股份有限公司云计算分公司 | 一种用于云平台处理文件备份任务的方法和系统 |
CN103533086A (zh) * | 2013-10-31 | 2014-01-22 | 中国科学院计算机网络信息中心 | 一种云计算系统中的资源统一调度方法 |
CN105320565A (zh) * | 2014-07-31 | 2016-02-10 | 中国石油化工股份有限公司 | 一种针对多种应用软件的计算机资源调度方法 |
CN106126319A (zh) * | 2012-08-31 | 2016-11-16 | 华为技术有限公司 | 中央处理器资源分配方法和计算节点 |
CN107295466A (zh) * | 2016-03-31 | 2017-10-24 | 北京信威通信技术股份有限公司 | 通信处理方法及装置 |
WO2018188585A1 (zh) * | 2017-04-11 | 2018-10-18 | 中国移动通信有限公司研究院 | V2x资源配置方法、装置和相关设备、计算机存储介质 |
CN108833580A (zh) * | 2018-07-02 | 2018-11-16 | 北京天华星航科技有限公司 | 一种云数据处理方法、装置及云计算系统 |
CN108985556A (zh) * | 2018-06-06 | 2018-12-11 | 北京百度网讯科技有限公司 | 流量调度的方法、装置、设备和计算机存储介质 |
CN109471705A (zh) * | 2017-09-08 | 2019-03-15 | 杭州海康威视数字技术股份有限公司 | 任务调度的方法、设备及系统、计算机设备 |
CN109714407A (zh) * | 2018-12-19 | 2019-05-03 | 网易(杭州)网络有限公司 | 服务器资源调节方法及装置、电子设备和存储介质 |
CN109840139A (zh) * | 2017-11-29 | 2019-06-04 | 北京金山云网络技术有限公司 | 资源管理的方法、装置、电子设备及存储介质 |
CN109857518A (zh) * | 2019-01-08 | 2019-06-07 | 平安科技(深圳)有限公司 | 一种网络资源的分配方法及设备 |
CN109976917A (zh) * | 2019-04-08 | 2019-07-05 | 科大讯飞股份有限公司 | 一种负载调度方法、装置、负载调度器、存储介质及系统 |
CN110120979A (zh) * | 2019-05-20 | 2019-08-13 | 华为技术有限公司 | 一种调度方法、装置及相关设备 |
CN110149360A (zh) * | 2019-03-29 | 2019-08-20 | 新智云数据服务有限公司 | 调度方法、调度系统、存储介质和计算机设备 |
CN110300184A (zh) * | 2019-07-10 | 2019-10-01 | 深圳市网心科技有限公司 | 边缘节点分配方法、装置、调度服务器及存储介质 |
CN110433487A (zh) * | 2019-08-08 | 2019-11-12 | 腾讯科技(深圳)有限公司 | 一种业务资源分配的方法及相关装置 |
CN110647394A (zh) * | 2018-06-27 | 2020-01-03 | 阿里巴巴集团控股有限公司 | 一种资源分配方法、装置及设备 |
CN110825494A (zh) * | 2019-11-01 | 2020-02-21 | 北京京东尚科信息技术有限公司 | 物理机调度方法及装置、计算机可存储介质 |
US20210243770A1 (en) * | 2018-05-08 | 2021-08-05 | Nokia Solutions And Networks Oy | Method, computer program and circuitry for managing resources within a radio access network |
-
2020
- 2020-02-27 CN CN202010124804.8A patent/CN113315719A/zh active Pending
Patent Citations (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106126319A (zh) * | 2012-08-31 | 2016-11-16 | 华为技术有限公司 | 中央处理器资源分配方法和计算节点 |
CN103036946A (zh) * | 2012-11-21 | 2013-04-10 | 中国电信股份有限公司云计算分公司 | 一种用于云平台处理文件备份任务的方法和系统 |
CN103533086A (zh) * | 2013-10-31 | 2014-01-22 | 中国科学院计算机网络信息中心 | 一种云计算系统中的资源统一调度方法 |
CN105320565A (zh) * | 2014-07-31 | 2016-02-10 | 中国石油化工股份有限公司 | 一种针对多种应用软件的计算机资源调度方法 |
CN107295466A (zh) * | 2016-03-31 | 2017-10-24 | 北京信威通信技术股份有限公司 | 通信处理方法及装置 |
WO2018188585A1 (zh) * | 2017-04-11 | 2018-10-18 | 中国移动通信有限公司研究院 | V2x资源配置方法、装置和相关设备、计算机存储介质 |
CN109471705A (zh) * | 2017-09-08 | 2019-03-15 | 杭州海康威视数字技术股份有限公司 | 任务调度的方法、设备及系统、计算机设备 |
CN109840139A (zh) * | 2017-11-29 | 2019-06-04 | 北京金山云网络技术有限公司 | 资源管理的方法、装置、电子设备及存储介质 |
US20210243770A1 (en) * | 2018-05-08 | 2021-08-05 | Nokia Solutions And Networks Oy | Method, computer program and circuitry for managing resources within a radio access network |
CN108985556A (zh) * | 2018-06-06 | 2018-12-11 | 北京百度网讯科技有限公司 | 流量调度的方法、装置、设备和计算机存储介质 |
CN110647394A (zh) * | 2018-06-27 | 2020-01-03 | 阿里巴巴集团控股有限公司 | 一种资源分配方法、装置及设备 |
CN108833580A (zh) * | 2018-07-02 | 2018-11-16 | 北京天华星航科技有限公司 | 一种云数据处理方法、装置及云计算系统 |
CN109714407A (zh) * | 2018-12-19 | 2019-05-03 | 网易(杭州)网络有限公司 | 服务器资源调节方法及装置、电子设备和存储介质 |
CN109857518A (zh) * | 2019-01-08 | 2019-06-07 | 平安科技(深圳)有限公司 | 一种网络资源的分配方法及设备 |
CN110149360A (zh) * | 2019-03-29 | 2019-08-20 | 新智云数据服务有限公司 | 调度方法、调度系统、存储介质和计算机设备 |
CN109976917A (zh) * | 2019-04-08 | 2019-07-05 | 科大讯飞股份有限公司 | 一种负载调度方法、装置、负载调度器、存储介质及系统 |
CN110120979A (zh) * | 2019-05-20 | 2019-08-13 | 华为技术有限公司 | 一种调度方法、装置及相关设备 |
CN110300184A (zh) * | 2019-07-10 | 2019-10-01 | 深圳市网心科技有限公司 | 边缘节点分配方法、装置、调度服务器及存储介质 |
CN110433487A (zh) * | 2019-08-08 | 2019-11-12 | 腾讯科技(深圳)有限公司 | 一种业务资源分配的方法及相关装置 |
CN110825494A (zh) * | 2019-11-01 | 2020-02-21 | 北京京东尚科信息技术有限公司 | 物理机调度方法及装置、计算机可存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115297124A (zh) * | 2022-07-25 | 2022-11-04 | 天翼云科技有限公司 | 一种系统运维管理方法、装置及电子设备 |
CN115297124B (zh) * | 2022-07-25 | 2023-08-04 | 天翼云科技有限公司 | 一种系统运维管理方法、装置及电子设备 |
CN116599965A (zh) * | 2023-07-18 | 2023-08-15 | 中移(苏州)软件技术有限公司 | 通信方法、通信装置、电子设备和可读存储介质 |
CN116599965B (zh) * | 2023-07-18 | 2024-01-30 | 中移(苏州)软件技术有限公司 | 通信方法、通信装置、电子设备和可读存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11223549B2 (en) | Managing data transfers over network connections based on priority and a data usage plan | |
CN113726846B (zh) | 边缘云系统、资源调度方法、设备及存储介质 | |
CN113342478B (zh) | 资源管理方法、设备、网络系统及存储介质 | |
EP2822236B1 (en) | Network bandwidth distribution method and terminal | |
CN115633050A (zh) | 镜像管理方法、设备及存储介质 | |
CN111638935B (zh) | 镜像管理方法、网络系统、设备以及存储介质 | |
CN102970379A (zh) | 在多个服务器之间实现负载均衡的方法 | |
US9986438B2 (en) | Hierarchical spectrum coordination | |
EP3923549A1 (en) | Data downloading method and related apparatus | |
CN111431813B (zh) | 访问限流方法、设备及存储介质 | |
US20210337452A1 (en) | Sharing geographically concentrated workload among neighboring mec hosts of multiple carriers | |
CN113315719A (zh) | 流量调度方法、设备、系统及存储介质 | |
US9014036B2 (en) | Dynamic band selection and aggregation | |
US20230045979A1 (en) | Controlling delivery via unmanned delivery service through allocated network resources | |
US10755707B2 (en) | Selectively blacklisting audio to improve digital assistant behavior | |
CN105245500A (zh) | 一种多媒体资源共享方法和装置 | |
SG195439A1 (en) | Communication management system, communication management method and program | |
CN105610869A (zh) | 一种流媒体的调度方法及装置 | |
CN113315671A (zh) | 流量限速与信息配置方法、路由节点、系统及存储介质 | |
CN113965519A (zh) | 流量控制、集群资源保障方法、设备及存储介质 | |
CN113300866B (zh) | 节点能力管控方法、设备、系统及存储介质 | |
CN106982126A (zh) | 一种资源共享计费方法及计费装置、内存库 | |
KR20090083067A (ko) | 데이터 전송 방법 및 장치와 작업 수행 방법 및 장치 | |
CN114866553A (zh) | 一种数据分发方法、设备及存储介质 | |
CN113301082B (zh) | 资源管理方法、设备、系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |