CN112817770A - 一种提高分布式边缘计算系统负载均衡的方法 - Google Patents

一种提高分布式边缘计算系统负载均衡的方法 Download PDF

Info

Publication number
CN112817770A
CN112817770A CN202110255610.6A CN202110255610A CN112817770A CN 112817770 A CN112817770 A CN 112817770A CN 202110255610 A CN202110255610 A CN 202110255610A CN 112817770 A CN112817770 A CN 112817770A
Authority
CN
China
Prior art keywords
servers
server
edge
scheduling
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110255610.6A
Other languages
English (en)
Other versions
CN112817770B (zh
Inventor
张锋辉
汪茂
符茂胜
单李庆
张蒙
徐明凯
徐春天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
West Anhui University
Original Assignee
West Anhui University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by West Anhui University filed Critical West Anhui University
Priority to CN202110255610.6A priority Critical patent/CN112817770B/zh
Publication of CN112817770A publication Critical patent/CN112817770A/zh
Application granted granted Critical
Publication of CN112817770B publication Critical patent/CN112817770B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
    • G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种提高分布式边缘计算系统负载均衡的方法，该方法包括以下步骤：S1、在每个时间片开始阶段，各边缘服务器向网络中的其他边缘服务器广播当前自身的负载情况；S2、各边缘服务器根据所获取的其它边缘服务器的负载状态，将调度决定发送给其他边缘服务器；S3、当所有服务器都接收到其它服务器的调度决定后，判断自身的计算时间并将该时间反馈给发送调度决定的服务器；S4、所有调度的服务器执行学习算法，所有服务器根据自身的策略向量再次随机的选择一个服务器并发送其调度决定，直到算法终止。本发明极大的提高了由于分布式边缘计算服务器负载分布不均匀导致的服务质量下降和计算资源浪费问题，提高了分布式边缘服务系统服务质量。

Description

一种提高分布式边缘计算系统负载均衡的方法
技术领域
本发明属于通信技术领域，尤其涉及一种提高分布式边缘计算系统负载均衡的方法。
背景技术
为了降低计算服务器的任务传输时延，提高服务效率，一些网络运营商或计算服务提供商需要把多个计算服务器放置在网络边缘为不同区域的用户提供更加便捷和高效的计算服务，这些边缘计算服务器通常通过光纤进行连接。但是，这种分布式的方式缺乏中央调度器对所有边缘服务器进行控制，由于人群的流动性，会出现各个边缘服务器负载不均衡的现象，因此不可避免的带来网络中一些边缘服务器负载过重而其他服务器有少量的任务或处于空闲状态的问题。
发明内容
本发明的目的在于提供一种提高分布式边缘计算系统负载均衡的方法，旨在解决上述背景技术中现有技术的不足之处。
本发明是这样实现的，一种提高分布式边缘计算系统负载均衡的方法，该方法包括以下步骤：
S1、在每个时间片开始阶段，各边缘服务器向网络中的其他边缘服务器广播当前自身的负载情况；
S2、各边缘服务器根据所获取的其它边缘服务器的负载状态，将调度决定发送给其他边缘服务器；
S3、当所有服务器都接收到其它服务器的调度决定后，判断自身的计算时间并将该时间反馈给发送调度决定的服务器；
S4、所有调度的服务器执行学习算法，所有服务器根据自身的策略向量再次随机的选择一个服务器并发送其调度决定，直到算法终止。
优选地，在步骤S4中，所述学习算法包括以下步骤：
S41、每个服务器需要记录当前系统的状态；
S42、在所有服务器获取到当前的状态后，其根据自身的策略向量随机的选择一个调度动作，并将该决定发送给相应的服务器；
S43、在所有服务器收到其他服务器的调度决定后，评估自身的运行时间，并将该运行时间反馈回准备进行调度的服务器；
S44、所有服务器收到反馈后评估自身的运行时间和系统平均的运行时间的偏差的绝对值；
S45、服务器们根据时间偏差调整各自的策略向量；
S46、更新策略向量重复步骤S42～45，直到所有服务器的策略向量变为单位向量，而后服务器采取相应的动作并记录最优动作，该最优动作为当前状态下的单位向量中为1的位置所对应的动作；
S47、进入下一个时间片，每个服务器执行步骤S41～46，直到系统记录下所有系统状态下的最优动作，每个服务器可以根据每个时间片的状态进行调度。
相比于现有技术的缺点和不足，本发明具有以下有益效果：本发明极大的提高了由于分布式边缘计算服务器负载分布不均匀导致的服务质量下降和计算资源浪费问题，提高了分布式边缘服务系统服务质量。
附图说明
图1是本发明方法的步骤流程图；
图2是本发明对比实施例中三种方法中一个时间片中各个边缘服务器执行任务的执行时间结果对比图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
一种提高分布式边缘计算系统负载均衡的方法，如图1所示，该方法包括以下步骤：
S1、在每个时间片开始阶段，各边缘服务器向网络中的其他边缘服务器广播当前自身的负载情况
在步骤S1中，由于分布式边缘服务器不停的接收任务并且运行，因此为确保每个服务器负载均衡，本发明实施例中，将1天内分布式边缘计算服务器的计算时间分为M个时间片{T1,…TM}。系统中有N个边缘服务器，其索引为i，j，在每个时间片开始阶段，每个边缘服务器向网络中的其他服务器广播当前自身的负载情况。
S2、各边缘服务器根据所获取的其它边缘服务器的负载状态，将调度决定发送给其他边缘服务器
在步骤S2中，在每个边缘服务器获取网络中其它服务器的负载状态后，每个服务器选择一个其他的服务器进行任务调度，设服务器i决定向其中一个服务器j调度wij的任务量，并将该调度决定发送给其准备调度的服务器j。
S3、当所有服务器都接收到其它服务器的调度决定后，判断自身的计算时间并将该时间反馈给发送调度决定的服务器
S4、所有调度的服务器执行学习算法，所有服务器根据自身的策略向量再次随机的选择一个服务器并发送其调度决定，直到算法终止
在步骤S4中，当所有服务器都接收到其它服务器的调度决定后，判断自身的计算时间并将该时间反馈给发送调度任务的服务器，而后所有调度的服务器执行学习算法，接着所有服务器再次挑选一个服务器并发送其调度决定，直到算法终止为止。
在步骤S4中，上述学习算法具体包括以下步骤：
S41、每个服务器需要记录当前系统的状态，即系统中每个服务器的工作量{w1,…,wi,…,wN}，每个服务器都保存有一个其调度动作的策略向量，设服务器i有d个任务,则其调度动作的策略向量为
Figure BDA0002966931910000041
其中
Figure BDA0002966931910000042
表示服务器i向服务器1调度d个任务的概率为
Figure BDA0002966931910000043
其中
Figure BDA0002966931910000044
S42、在所有服务器获取到当前的状态后，其根据自身的策略向量随机的选择一个调度动作，并将该决定发送给相应的服务器。例如：服务器i选择的是
Figure BDA0002966931910000045
对应的动作，即服务器i选择将调度d个任务的决定发送到服务器N。
S43、在所有服务器收到其他服务器的调度决定后，评估自身的运行时间，并将该运行时间t反馈回准备进行调度的服务器。如服务器i的CPU的频率是ci，上一个时间片没有运行完的任务量为ri，本时刻到达的任务量为ai为，调度出的任务量为di为，其他服务器调度进来的任务量的总和为vi为，其运行的时间为：
Figure BDA0002966931910000046
S44、所有服务器收到反馈后评估自身的运行时间和系统平均的运行时间的偏差的绝对值。如：服务器i的偏差为ei＝|ti-ave|，其中ave中为系统运行的平均时间。设这些服务器运行最大的偏差为U，则采用该调度动作的收益为ui＝U-ei。
S45、服务器们根据时间偏差调整各自的策略向量，其依据如下式所示：
s′i＝si+βui(edi-si), (1)
其中，β为步长算子，s′i为算法更新后的策略向量edi为单位向量其数量和si一样，但采取动作di的相应位置为1，其它位置为0。
S46、更新策略向量重复步骤S42～45，直到所有服务器的策略向量变为单位向量，而后服务器采取相应的动作并记录最优动作，该最优动作为当前状态下的单位向量中为1的位置所对应的动作。
S47、系统进入下一个时间片，每个服务器执行步骤S41～46，直到系统记录下所有系统状态下的最优动作，而后每个服务器可以根据每个时间片的状态进行调度。
对比实施例
三种方法分别是：(1)不进行任务调度：也就是任务到达各个边缘服务器后，由各个边缘服务器来执行，而不进行任务调度；(2)本发明所采用的任务调度：也就是当任务到达时候，各个边缘服务器进行任务调度后每个边缘服务器的执行时间；(3)若系统中有中央控制器并采用集中式调度：也就是系统中有中央控制器，所有边缘服务器向其汇报自身的任务量，然后中央控制器执行线性规划，来计算每个服务器需要向其他服务器调度的任务，而后通知边缘服务器进行任务调度后的每个边缘服务器的执行时间。
结果如图2所示，该图是在一个时间片中的各个边缘计算服务器的执行时间，该时间片中有随机数量的任务到达各个服务器。从图2中可以看出，不进行任务调度时，每个边缘服务器执行时间有较大偏差，采用本发明的方法时每个边缘服务器的执行时间大体相当，其效果逼近有中央服务器时的效果。因此，采用本发明中的方法可以使系统达到负载均衡，并且可以逼近集中式方法，因此该方法可以很好的实现边缘计算服务器系统的负载均衡。
以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，均应包含在本发明的保护范围之内。

Claims (2)

1.一种提高分布式边缘计算系统负载均衡的方法，其特征在于，该方法包括以下步骤：
S1、在每个时间片开始阶段，各边缘服务器向网络中的其他边缘服务器广播当前自身的负载情况；
S2、各边缘服务器根据所获取的其它边缘服务器的负载状态，将调度决定发送给其他边缘服务器；
S3、当所有服务器都接收到其它服务器的调度决定后，判断自身的计算时间并将该时间反馈给发送调度决定的服务器；
S4、所有调度的服务器执行学习算法，所有服务器根据自身的策略向量再次随机的选择一个服务器并发送其调度决定，直到算法终止。
2.如权利要求1所述的提高分布式边缘计算系统负载均衡的方法，其特征在于，在步骤S4中，所述学习算法包括以下步骤：
S41、每个服务器需要记录当前系统的状态；
S42、在所有服务器获取到当前的状态后，其根据自身的策略向量随机的选择一个调度动作，并将该动作发送给相应的服务器；
S43、在所有服务器收到其他服务器的调度决定后，评估自身的运行时间，并将该运行时间反馈回准备进行调度的服务器；
S44、所有服务器收到反馈后评估自身的运行时间和系统平均的运行时间的偏差的绝对值；
S45、服务器们根据时间偏差调整各自的策略向量；
S46、更新策略向量重复步骤S42～45，直到所有服务器的策略向量变为单位向量，而后服务器采取相应的动作并记录最优动作，该最优动作为当前状态下的单位向量中为1的位置所对应的动作；
S47、进入下一个时间片，每个服务器执行步骤S41～46，直到系统记录下所有系统状态下的最优动作，每个服务器可以根据每个时间片的状态进行调度。
CN202110255610.6A 2021-03-09 2021-03-09 一种提高分布式边缘计算系统负载均衡的方法 Active CN112817770B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110255610.6A CN112817770B (zh) 2021-03-09 2021-03-09 一种提高分布式边缘计算系统负载均衡的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110255610.6A CN112817770B (zh) 2021-03-09 2021-03-09 一种提高分布式边缘计算系统负载均衡的方法

Publications (2)

Publication Number Publication Date
CN112817770A true CN112817770A (zh) 2021-05-18
CN112817770B CN112817770B (zh) 2024-01-30

Family

ID=75863063

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110255610.6A Active CN112817770B (zh) 2021-03-09 2021-03-09 一种提高分布式边缘计算系统负载均衡的方法

Country Status (1)

Country Link
CN (1) CN112817770B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170279877A1 (en) * 2016-03-28 2017-09-28 Industrial Technology Research Institute Load balancing method, load balancing system, load balancing device and topology reduction method
CN110297699A (zh) * 2018-03-23 2019-10-01 华为技术有限公司 调度方法、调度器、存储介质及系统
CN110445866A (zh) * 2019-08-12 2019-11-12 南京工业大学 一种移动边缘计算环境中任务迁移和协作式负载均衡方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170279877A1 (en) * 2016-03-28 2017-09-28 Industrial Technology Research Institute Load balancing method, load balancing system, load balancing device and topology reduction method
CN110297699A (zh) * 2018-03-23 2019-10-01 华为技术有限公司 调度方法、调度器、存储介质及系统
CN110445866A (zh) * 2019-08-12 2019-11-12 南京工业大学 一种移动边缘计算环境中任务迁移和协作式负载均衡方法

Also Published As

Publication number Publication date
CN112817770B (zh) 2024-01-30

Similar Documents

Publication Publication Date Title
CN109561148B (zh) 边缘计算网络中基于有向无环图的分布式任务调度方法
US6374297B1 (en) Method and apparatus for load balancing of web cluster farms
US7720551B2 (en) Coordinating service performance and application placement management
WO2019179250A1 (zh) 调度方法、调度器、存储介质及系统
CN112000388B (zh) 基于多边缘集群协同的并发任务调度方法及装置
CN111917818B (zh) 一种个性化服务需求的动态匹配方法
US8813087B2 (en) Managing a workload in a cluster of computing systems with multi-type operational resources
Ashouraei et al. A new SLA-aware load balancing method in the cloud using an improved parallel task scheduling algorithm
CN112052092B (zh) 一种风险感知的边缘计算任务分配方法
CN111107229B (zh) 用于智能客服的外呼预测方法及装置
CN112231085A (zh) 一种协同环境下基于时间感知的移动终端任务迁移方法
CN113641417B (zh) 一种基于分支定界法的车辆安全任务卸载方法
Jaykrushna et al. Linear regression assisted prediction based load balancer for cloud computing
CN109005211B (zh) 一种无线城域网环境下的微云部署及用户任务调度方法
CN103744735B (zh) 一种多核资源的调度方法及装置
CN112306642B (zh) 一种基于稳定匹配博弈理论的工作流调度方法
CN111199316A (zh) 一种基于执行时间评估的云雾协同计算电网调度方法
CN106936905B (zh) 基于openstack的Nova组件虚拟机的调度方法及其调度系统
CN116302578B (zh) 一种QoS约束的流应用延迟确保方法及系统
Chatterjee et al. A new clustered load balancing approach for distributed systems
CN113032146A (zh) 一种面向多接入边缘计算环境的健壮性服务供应方法
CN112817770A (zh) 一种提高分布式边缘计算系统负载均衡的方法
CN115756772A (zh) 面向边缘云混合作业的动态编排与任务调度方法及系统
CN110955527B (zh) 一种基于cpu核数预测实现并行任务调度的方法和系统
CN114327925A (zh) 一种电力数据实时计算调度优化方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant