CN110636138A - 基于响应比优先级的边缘服务器部署方法 - Google Patents

基于响应比优先级的边缘服务器部署方法 Download PDF

Info

Publication number
CN110636138A
CN110636138A CN201910972963.0A CN201910972963A CN110636138A CN 110636138 A CN110636138 A CN 110636138A CN 201910972963 A CN201910972963 A CN 201910972963A CN 110636138 A CN110636138 A CN 110636138A
Authority
CN
China
Prior art keywords
service request
edge server
edge
current
service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910972963.0A
Other languages
English (en)
Other versions
CN110636138B (zh
Inventor
李鑫
王锡龙
杨嘉杰
秦小麟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing University of Aeronautics and Astronautics
Original Assignee
Nanjing University of Aeronautics and Astronautics
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing University of Aeronautics and Astronautics filed Critical Nanjing University of Aeronautics and Astronautics
Priority to CN201910972963.0A priority Critical patent/CN110636138B/zh
Publication of CN110636138A publication Critical patent/CN110636138A/zh
Application granted granted Critical
Publication of CN110636138B publication Critical patent/CN110636138B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/60Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开的基于响应比优先级的边缘服务器部署方法,包括初始化全局时钟;当前程序时间片tn时刻到来时:确定服务请求;确定多个边缘服务器;初始化边缘服务器;调整全局时钟,清理服务请求;更新当前服务请求,并形成当前请求列表;遍历当前所有的边缘服务器,实现所有边缘服务器的状态与服务处理更新;tn时刻下,各边缘服务器对自身现在正在处理服务请求予以处理,同时采用响应比优先调度方法响应客户对象中新生成的服务请求;完成tn时刻的各服务器的处理流程后,返回开始下一个时间片tn+1。本发明方案有效改善了处理机调度的性能。

Description

基于响应比优先级的边缘服务器部署方法
技术领域
本发明涉及分布式系统优化部署计算,特别是基于响应比优先级的边缘服务器部署方法。
背景技术
5G网络的来临给云计算等技术提供了强有力的支持,同时也带来了一定的挑战。其中最为突出的问题有:云计算的计算资源中心化模式带来了响应速度低,可拓展性差,流量密度过高,安全性低等不足的问题,因此,边缘计算应运而生。在边缘计算中,为了最大化利用资源,又要尽快处理计算请求,边缘服务器的布置与分配尤为重要。由于用户行为的不可预测性,如何将各个边缘服务器布置在合适的位置,并在用户发出请求后,合理调配空余计算资源,从而保证在一定时间内处理请求,即如何合理的部署服务器成为了一个新的问题。
现有技术中首先定义一个空集合Z用来存储已经处理后的服务,然后对当前处理区域内的所有边缘服务器按负载从小到大进行排序,这里的负载就可以描述为计算资源、带宽资源,和储存资源的总和。然后从负载最小的服务器开始,将距离此服务器最近且未在集合Z中的服务请求传递给此边缘服务器进行处理,更新集合Z中已经获得处理的服务。之后按照从小到大的顺序对剩下的边缘服务器做同样的操作,当此种距离的服务处理完毕后,再扩大服务器的服务范围,在更大的服务范围内进行相同的操作,直到处理完毕所有请求为止,算法结束。
现有的技术方案采取的是贪心策略,将局部内负载最小的服务器做为目标,一点点扩大到整个服务范围,直至所有的服务处理完毕,由于是以负载大小作为参考依据,所以依旧存在着高延时比和网络带宽的占用。
发明内容
为解决上述问题,本发明公开的基于响应比优先级的边缘服务器部署方法,既考虑了作业的等待时间,又考虑作业运行时间的调度算法,因此既照顾了短作业,又不致使长作业的等待时间过长,从而改善了处理机调度的性能。。
本发明公开的基于响应比优先级的边缘服务器部署方法,包括
初始化全局时钟;
当前程序时间片tn时刻到来时:
确定服务请求;
确定多个边缘服务器;
初始化边缘服务器,统计其资源情况;
调整全局时钟,清理服务请求;重新赋予当前服务请求的响应比,(服务器将优先接收排在前面的服务请求,而将排在后面的请求拒绝,并发送重定向,如将服务请求按照响应比进行排序,是当前资源等情况,在排序第n位之前的服务请求加入当前请求列表,而在第n位之后的发回重新定向,其中n为自然数),更新并形成当前请求列表;
遍历当前所有的边缘服务器,实现所有边缘服务器的状态与服务处理更新;
tn时刻下,各边缘服务器对自身现在正在处理服务请求予以处理,同时响应客户对象中新生成的服务请求;
完成tn时刻的各服务器的处理流程后,返回开始下一个时间片tn+1。按照响应比优先级,确认响应比优先级高的最近边缘计算服务器以及次级响应比优先级的其它边缘计算服务器;
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,初始化边缘服务器,包括获取每个边缘服务器的地址信息。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,初始化边缘服务器,包括获取每个边缘服务器的计算资源。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,初始化边缘服务器,包括获取每个边缘服务器的内存资源。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,初始化边缘服务器,包括获取每个边缘服务器的带宽资源。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,当前程序时间片tn时刻到来时,所述清理当前服务请求为:全局时钟加1,遍历所有当前服务请求:
如果当前的服务请求的重定向次数超过策略次数,则将该服务请求移除;
如果当前的服务请求的重定向次数未超过策略次数,则重定向该服务请求。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,当前程序时间片tn时刻到来时,所述更新当前服务请求为:
获取新的服务请求计算并赋予响应比P,排序后并加入到当前请求列表中,未能加入的服务请求则重定向该服务请求。
本发明公开的基于响应比优先级的边缘服务器部署方法的一种改进,响应比P=(服务所需处理时间-重定向次数*θ)/最大服务所需处理时间,其中θ为常数。θ取决于实际应用场景服务请求数量,按需设置,值越大服务处理越及时。
技术起源:操作系统任务调度算法:高响应比调度算法。该算法的基本思想是既考虑了作业的等待时间,又考虑作业运行时间的调度算法,因此既照顾了短作业,又不致使长作业的等待时间过长,从而改善了处理机调度的性能。在这里与已有技术对比也是这种优势。
技术运用环境:
边缘计算服务请求与资源分配流程大致为如下步骤:
步骤一:初始化全局时钟,按预置的边缘服务器个数,初始化边缘服务器,包括其拥有的计算资源、内存资源与带宽资源、其定位参数等。边缘系统服务器的功能(能力)就通过其拥有的计算资源、内存资源与带宽资源来体现;
步骤二:当前程序时间片tn时刻到来时:用户对象首先调整全局时钟将,全局时钟加1,来清理所有当前的服务请求,遍历所有当前服务请求,如果当前的服务请求的重定向次数超过策略次数,则将该服务器请求移除,如果没有超过,则通过路由器重定向该服务请求。其次,更新当前服务请求,获取新的服务请求,并加入到当前请求列表中,再遍历当前所有的服务器,实现所有服务器的状态与服务处理更新;
步骤三:tn时刻下,各边缘服务器对自身现在正在处理服务请求予以处理,同时采用响应比调度方法响应客户对象中新生成的服务请求;
步骤四:完成tn时刻的各服务器的处理流程后,再返回到流程的第一个步骤,重新开始下一个时间片。
本发明为基于高响应比优先的边缘计算服务资源分配优化策略,采用类似操作系统中高响应比优先的方式,给服务请求赋予相应的响应比。该值在服务器接收服务请求时,用于请求排序,服务器将优先接收排在前面的服务请求,而将排在后面的请求拒绝,并发送重定位。该策略作用于分配过程中。
响应比定义为:
P=(服务所需处理时间-重定向次数*θ)/最大服务所需处理时间
式中的θ为预定的比例,也就是预定的常数值,从上式可以看出随着服务处理所需时间越大的请求,其初始的响应比越大,但会伴随着被重定向次数增加,其响应比也会逐渐的降低。因此本技术定义的响应比越小,优先级越大,会被优先排在前面,被服务器接收并处理。
本技术能够更公平并且更优的选择服务处理策略,从而能大大减少传输时延,并增加处理效率。对已有的技术而言,每一次的服务请求都不会重复,总是去寻找当前负载最小的结点,随着服务需求数量的增加,服务重定向的次数会显著增加,采用基于高响应比优先算法可以显著减少在处理过程中用户请求被重定向的次数,从而达到我们的目的。
附图说明
图1、本发明方案中边缘计算服务请求与资源分配流程图。
具体实施方式
下面具体实施方式,进一步阐明本发明,应理解下述具体实施方式仅用于说明本发明而不用于限制本发明的范围。
如图1所示,本发明方案其实施为,其中中0为重定向,1为接受请求并加入请求队列(注:图中表示了多个任务请求的状态包括了重定向多次的和达到阈值次数的):
本发明实施例提供的边缘服务器的部署方法,可以应用于分布式系统中的管理服务器。其中,该服务器可以为能够进行服务器管理的电子设备,该设备可以包括台式计算机、便携式计算机、互联网电视、服务器等,在此不作限定,任何可以实现本发明实施例的电子设备,均属于本发明实施例的保护范围。
用户发出服务请求。
初始化全局时钟。
在当前程序时间片tn时刻到来时:
确定多个边缘服务器
以可以响应服务请求的边缘服务器为当前进程中确定的多个边缘服务器,此时用户可以对该确定的边缘服务器进行访问,并发出任务请求。
在用户可以周期性的确定多个边缘服务器;或者,用户在发出指定的触发指令时,可以执行确定多个边缘服务器的步骤,等等。
边缘服务器的确认可以为通过互联网、局域网等方式进行。通过对其拥有的计算资源、内存资源、带宽资源以及定位参数/地址信息等多个方面来确认相关服务器是否满足要求,即判定该边缘服务器的活跃度是否满足请求任务的要求:是,则纳入确定的边缘服务器序列内;否,则予以排除。
初始化边缘服务器
获取确定的多个边缘服务器序列,分别通过对其活跃度包括对其拥有的计算资源、内存资源、带宽资源以及定位参数/地址信息等多个方面来判定相关服务器的优先级。具体可以通过响应比P=(服务所需处理时间-重定向次数*θ)/最大服务所需处理时间,其中θ为常数,可以为一个预设值,来进行判定。进而通过判定的优先级,将多个边缘服务器分组为最近边缘计算服务器和其他边缘计算服务器。需要注意的是这里的最近边缘计算服务器和其他边缘计算服务器,均可以包括序列中的多个满足要求的边缘服务器。在任务进程中最近边缘计算服务器拥有比其他边缘计算服务器更高的优先级。同时,预设所有边缘服务器的时钟为T1.0,即在全局时钟T1.0完成确定的多个边缘服务器的初始化。
清理请求服务
读取请求服务列表(此时列表应为空,所以没有任何动作),全局时钟调整,对全局时钟加1,(假定上个时钟已按照算法处理完毕)此时到了T2.0
重新赋予当前服务请求的响应比,形成当前请求列表。
T2.0时刻下,用户发送请求,即读取当前请求列表,获取当前执行任务,最近边缘计算服务器于T2.1判定是否可以处理,是,则于T2.1.0进行处理并于T2.1.0.0回复结果;否,在当前请求的尝试次数小于最大尝试次数(即策略次数)时,则于T2.1.1交由其他服务器(其他边缘计算服务器)处理。T2.1.1.0时,尝试次数加1。T2.1.1.1,判定是否可以处理,是,则于T2.1.1.1.0进行处理并于T2.1.1.1.0.0回复结果,则于T2.1.1.1.1交由其他服务器(其他边缘计算服务器)处理。循环重复上述过程,直至尝试次数超过最大尝试次数,于T2.1.2告知请求失败,重定向。
循环上述过程,直至完成当前请求列表。
在当前程序时间片tn时刻下:
用户已生成请求,并发送给最近的边缘服务器;
边缘服务器清理所有当前的服务请求,遍历请求列表中的服务请求,如果当前的服务请求的重定向次数超过预定的次数,则将该服务器请求移除,如果没有超过,则通过路由器对象重定向该服务请求;
tn时刻下,各边缘服务器对自身现在正在处理服务请求予以处理,同时响应用户对象中新生成的服务请求,各服务器首先遍历自己内部存储的正在处理服务请求列表,判断在当前时钟下,有无服务请求已经处理完成,如果有,则将其移出服务请求列表;对用户新来的请求,计算其响应比P,排序后并加入到当前请求列表中,未能加入的服务请求则重定向该服务请求到其它边缘服务器,并将其重定向次数加一;完成tn时刻的各服务器的处理流程后,再开始下一个时间片即流程的第一个步骤,重新开始下一个时间片的处理。
本发明方案所公开的技术手段不仅限于上述技术手段所公开的技术手段,还包括由以上技术特征任意组合所组成的技术方案。以上所述是本发明的具体实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也视为本发明的保护范围。

Claims (8)

1.基于响应比优先级的边缘服务器部署方法,包括
初始化全局时钟;
当前程序时间片tn时刻到来时:
确定服务请求;
确定多个边缘服务器;
初始化边缘服务器;
调整全局时钟,清理服务请求;重新赋予当前服务请求的响应比,形成当前请求列表;
遍历当前所有的边缘服务器,实现所有边缘服务器的状态与服务处理更新;
tn时刻下,各边缘服务器对自身现在正在处理服务请求予以处理,同时响应客户对象中新生成的服务请求;
完成tn时刻的各服务器的处理流程后,返回开始下一个时间片tn+1
2.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,所述初始化边缘服务器,包括获取每个边缘服务器的地址信息。
3.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,所述初始化边缘服务器,包括获取每个边缘服务器的计算资源。
4.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,所述初始化边缘服务器,包括获取每个边缘服务器的内存资源。
5.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,所述初始化边缘服务器,包括获取每个边缘服务器的带宽资源。
6.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,当前程序时间片tn时刻到来时,所述清理服务请求为:全局时钟加1,遍历所有当前服务请求:
如果当前的服务请求的重定向次数超过策略次数,则将该服务请求移除;
如果当前的服务请求的重定向次数未超过策略次数,则重定向该服务请求。
7.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,当前程序时间片tn时刻到来时,所述更新当前服务请求为:
获取新的服务请求,赋予响应比P,排序后加入到当前请求列表中,未能加入的服务请求则重定向该服务请求。
8.根据权利要求1所述的基于响应比优先级的边缘服务器部署方法,其特征在于,
所述响应比P=(服务所需处理时间-重定向次数*θ)/最大服务所需处理时间,其中θ为常数。
CN201910972963.0A 2019-10-14 2019-10-14 基于响应比优先级的边缘服务器部署方法 Active CN110636138B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910972963.0A CN110636138B (zh) 2019-10-14 2019-10-14 基于响应比优先级的边缘服务器部署方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910972963.0A CN110636138B (zh) 2019-10-14 2019-10-14 基于响应比优先级的边缘服务器部署方法

Publications (2)

Publication Number Publication Date
CN110636138A true CN110636138A (zh) 2019-12-31
CN110636138B CN110636138B (zh) 2020-07-03

Family

ID=68976615

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910972963.0A Active CN110636138B (zh) 2019-10-14 2019-10-14 基于响应比优先级的边缘服务器部署方法

Country Status (1)

Country Link
CN (1) CN110636138B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113742048A (zh) * 2021-11-03 2021-12-03 北京中科金马科技股份有限公司 一种酒店云服务系统及其服务方法
CN117215741A (zh) * 2023-08-29 2023-12-12 慧之安信息技术股份有限公司 一种基于响应比的边缘计算调度方法及系统

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108874525A (zh) * 2018-06-22 2018-11-23 浙江大学 一种面向边缘计算环境的服务请求分配方法
US20190108284A1 (en) * 2017-10-10 2019-04-11 Fujitsu Limited Information collection system, information collection method, and storage medium
CN109788046A (zh) * 2018-12-29 2019-05-21 河海大学 一种基于改进蜂群算法的多策略边缘计算资源调度方法
CN109951399A (zh) * 2019-03-25 2019-06-28 网宿科技股份有限公司 数据请求的处理方法、服务器以及交换机
CN110049130A (zh) * 2019-04-22 2019-07-23 北京邮电大学 一种基于边缘计算的服务部署和任务调度方法及装置
CN110111214A (zh) * 2019-04-24 2019-08-09 北京邮电大学 一种基于优先级的用户用能管理方法及系统
US10440148B1 (en) * 2015-10-30 2019-10-08 Amazon Technologies, Inc. Content delivery network balancer

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10440148B1 (en) * 2015-10-30 2019-10-08 Amazon Technologies, Inc. Content delivery network balancer
US20190108284A1 (en) * 2017-10-10 2019-04-11 Fujitsu Limited Information collection system, information collection method, and storage medium
CN108874525A (zh) * 2018-06-22 2018-11-23 浙江大学 一种面向边缘计算环境的服务请求分配方法
CN109788046A (zh) * 2018-12-29 2019-05-21 河海大学 一种基于改进蜂群算法的多策略边缘计算资源调度方法
CN109951399A (zh) * 2019-03-25 2019-06-28 网宿科技股份有限公司 数据请求的处理方法、服务器以及交换机
CN110049130A (zh) * 2019-04-22 2019-07-23 北京邮电大学 一种基于边缘计算的服务部署和任务调度方法及装置
CN110111214A (zh) * 2019-04-24 2019-08-09 北京邮电大学 一种基于优先级的用户用能管理方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
KENGO SASAKI,SATOSHI MAKIDO,AKIHIRO NAKAO: ""Vehicle Control System for Cooperative Driving Coordinated Multi-Layered Edge Servers"", 《2018 IEEE 7TH INTERNATIONAL CONFERENCE ON CLOUD NETWORKING》 *
赵磊: ""面向移动边缘计算的边缘服务器部署及资源分配研究"", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113742048A (zh) * 2021-11-03 2021-12-03 北京中科金马科技股份有限公司 一种酒店云服务系统及其服务方法
CN117215741A (zh) * 2023-08-29 2023-12-12 慧之安信息技术股份有限公司 一种基于响应比的边缘计算调度方法及系统

Also Published As

Publication number Publication date
CN110636138B (zh) 2020-07-03

Similar Documents

Publication Publication Date Title
US11416286B2 (en) Computing on transient resources
CN107911478B (zh) 基于化学反应优化算法的多用户计算卸载方法及装置
WO2021012956A1 (zh) 云平台的资源处理方法、相关设备及存储介质
US20080066070A1 (en) Method and system for the dynamic scheduling of jobs in a computing system
JP2002269023A5 (zh)
Misra et al. Multiarmed-bandit-based decentralized computation offloading in fog-enabled IoT
CN110636138B (zh) 基于响应比优先级的边缘服务器部署方法
US9817698B2 (en) Scheduling execution requests to allow partial results
Denninnart et al. Improving robustness of heterogeneous serverless computing systems via probabilistic task pruning
He et al. Tians scheduling: Using partial processing in best-effort applications
CN111343288A (zh) 作业调度方法、系统及计算设备
de Souza Toniolli et al. Resource allocation for multiple workflows in cloud-fog computing systems
Lee et al. Decentralized dynamic scheduling across heterogeneous multi-core desktop grids
CN116610422A (zh) 一种任务调度方法、装置和系统
US20170344266A1 (en) Methods for dynamic resource reservation based on classified i/o requests and devices thereof
Wu et al. ABP scheduler: Speeding up service spread in docker swarm
CN114201180A (zh) 微服务部署方法、可读存储介质及设备
CN116954905A (zh) 一种面向Flink大数据的任务编排与迁移方法
CN113918318B (zh) 移动边缘计算的联合优化方法及系统
Sato et al. Program file placement strategies for machine-to-machine service network platform in dynamic scenario
Kanemitsu et al. Prior node selection for scheduling workflows in a heterogeneous system
Lee et al. Scheduler for distributed and collaborative container clusters based on multi-resource metric
KR20150070930A (ko) 최적 비용을 고려한 마이그레이션 자원 할당 시스템 및 할당 방법
CN115809014A (zh) 一种调度控制方法、设备及计算机存储介质
US11893417B2 (en) Process request management apparatus, process request management method and program

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant