CN115002126B - 一种基于边缘服务器集群的服务调度方法及装置 - Google Patents
一种基于边缘服务器集群的服务调度方法及装置 Download PDFInfo
- Publication number
- CN115002126B CN115002126B CN202210469711.8A CN202210469711A CN115002126B CN 115002126 B CN115002126 B CN 115002126B CN 202210469711 A CN202210469711 A CN 202210469711A CN 115002126 B CN115002126 B CN 115002126B
- Authority
- CN
- China
- Prior art keywords
- edge server
- service
- service information
- determining
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000012545 processing Methods 0.000 claims abstract description 17
- 230000004044 response Effects 0.000 claims description 42
- 238000012417 linear regression Methods 0.000 claims description 19
- 238000012549 training Methods 0.000 claims description 8
- 230000003247 decreasing effect Effects 0.000 claims description 7
- 230000007812 deficiency Effects 0.000 claims description 7
- 238000004891 communication Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000005265 energy consumption Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000009877 rendering Methods 0.000 description 2
- 238000012512 characterization method Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000004134 energy conservation Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
- H04L67/1004—Server selection for load balancing
- H04L67/101—Server selection for load balancing based on network conditions
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请涉及边缘服务器技术领域,特别是涉及一种基于边缘服务器集群的服务调度方法及装置。该方法包括:采集边缘服务器的服务信息,其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数;对服务信息进行分类;确定分类后的服务信息的综合权重值;根据综合权重值确定边缘服务器的路径值;根据路径值对边缘服务器进行服务调度。由于该方法引进了综合权重值,根据综合权重值确定出边缘服务器的路径值,根据得到的路径值完成对边缘服务器的服务调度,以此实现在边缘服务器集群的环境下选择相应的边缘服务传输数据的路径,完成对边缘服务器集群的服务调度,提升用户体验感。
Description
技术领域
本申请涉及边缘服务器技术领域,特别是涉及一种基于边缘服务器集群的服务调度方法及装置。
背景技术
近年来,随着物联网技术和无线通讯技术的快速发展,大量计算密集,数据量大,时间敏感型的应用蓬勃发展。传统云计算系统中由于网络带宽限制、云计算中心成本高、网络延时高等原因,很难提供高质量的服务。为了解决这个问题,边缘服务器应运而生。边缘服务器通过在用户附近部署边缘服务器提供相应的服务,降低云计算中心压力,缩短服务相应时间,为用户提供更好的服务,但随着边缘服务器的部署也带来一些新的问题,多边缘服务器环境下如何选择最优的边缘服务器或边缘服务链路,更好的完成用户服务需求。
鉴于上述存在的问题,寻求如何对边缘服务器进行服务调度是本领域技术人员竭力解决的问题。
发明内容
本申请的目的是提供一种基于边缘服务器集群的服务调度方法及装置,用于对边缘服务器进行服务调度。
为解决上述技术问题,本申请提供一种基于边缘服务器集群的服务调度方法,该方法包括:
采集边缘服务器的服务信息,其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数;
对服务信息进行分类;
确定分类后的服务信息的综合权重值;
根据综合权重值确定边缘服务器的路径值;
根据路径值对边缘服务器进行服务调度。
优选地,采集边缘服务器的服务信息包括:
建立长连接;
通过长连接采集边缘服务器的服务信息。
优选地,对服务信息进行分类包括:
确定服务信息的影响因子和确定因子。
优选地,确定分类后的服务信息的综合权重值包括:
根据影响因子和确定因子得到对应的权重参数;
根据权重参数确定服务信息的综合权重值。
优选地,在根据综合权重值确定边缘服务器的路径值之后和根据路径值对边缘服务器进行服务调度之前,还包括:
根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值。
优选地,在根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值之后,还包括:
获取边缘服务器列表,边缘服务器列表包含边缘服务器集群中各节点间传输数据的路径;
根据边缘服务器列表和最小路径值进行服务调度。
优选地,在采集边缘服务器的服务信息之后,对服务信息进行分类之前,还包括:
判断边缘服务器利用率不足的次数是否达到预设次数;
若达到预设次数,则触发告警信息并降低CPU频率;
若未达到预设次数,则进入对服务信息进行分类的步骤。
优选地,在根据边缘服务器列表和最小路径值进行服务调度之后,还包括:
获取边缘服务器的响应时间;
判断响应时间是否达到预设时间;
若响应时间达到预设时间,则触发表征边缘服务器不足的预警信息并利用线性回归确定响应时间的影响因子;
若响应时间未达到预设时间,则进入采集边缘服务器的服务信息的步骤。
优选地,在利用线性回归确定响应时间的影响因子之后,还包括:
利用梯度递减线性回归模型确定响应时间的影响因子的权重参数;
通过迭代训练优化权重参数。
为解决上述技术问题,本申请还提供了一种基于边缘服务器集群的服务调度装置,应用于上述提及的基于边缘服务器集群的服务调度方法,该装置包括:
采集模块,用于采集边缘服务器的服务信息,其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数;
分类模块,用于对服务信息进行分类;
第一确定模块,用于确定分类后的服务信息的综合权重值;
第二确定模块,用于根据综合权重值确定边缘服务器的路径值;
调度模块,用于根据路径值对边缘服务器进行服务调度。
本申请所提供的一种基于边缘服务器集群的服务调度方法,包括:采集边缘服务器的服务信息,其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数;对服务信息进行分类;确定分类后的服务信息的综合权重值;根据综合权重值确定边缘服务器的路径值;根据路径值对边缘服务器进行服务调度。由于该方法引进了综合权重值,根据综合权重值确定出边缘服务器的路径值,根据得到的路径值完成对边缘服务器的服务调度,以此实现在边缘服务器集群的环境下选择相应的边缘服务传输数据的路径,完成对边缘服务器集群的服务调度,提升用户体验感。
本申请还提供了一种基于边缘服务器集群的服务调度装置,效果同上。
附图说明
为了更清楚地说明本申请实施例,下面将对实施例中所需要使用的附图做简单的介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例所提供的一种基于边缘服务器集群的服务调度方法流程图;
图2为本申请实施例所提供的另一种基于边缘服务器集群的服务调度方法流程图;
图3为本申请实施例所提供的一种基于边缘服务器集群的服务调度装置结构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下,所获得的所有其他实施例,都属于本申请保护范围。
本申请的核心是提供一种基于边缘服务器集群的服务调度方法及装置,其能够对边缘服务器进行服务调度。
为了使本技术领域的人员更好地理解本申请方案,下面结合附图和具体实施方式对本申请作进一步的详细说明。
近年来,随着物联网技术和无线通讯技术的快速发展,大量计算密集,数据量大,时间敏感型的应用蓬勃发展。传统云计算系统中由于网络带宽限制、云计算中心成本高、网络延时高等原因,很难提供高质量的服务。为了解决这个问题,边缘服务器应运而生。边缘服务器通过在用户附近部署边缘服务器提供相应的服务,降低云计算中心压力,缩短服务相应时间,为用户提供更好的服务,但随着边缘服务器的部署也带来一些新的问题,多边缘服务器环境下如何选择最优的边缘服务器或边缘服务链路,更好的完成用户服务需求。
图1为本申请实施例所提供的一种基于边缘服务器集群的服务调度方法流程图。如图1所示,一种基于边缘服务器集群的服务调度方法,包括:
S10:采集边缘服务器的服务信息。
其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数。需要说明的是,采集到的服务信息可以为多种形式,例如:CPU使用率为85%或者使用二进制数据串表示CPU的使用率为85%。其中,当使用二进制数据串表示CPU使用率时,该数据串可以是2位、4位、8位、16位等等。当二进制数据串为2位时,可以表示为11;当二进制数据串为4位时,可以表示为1111;当二进制数据串为8位时,可以表示为11111111;当二进制数据串为16位时,可以表示为1111111111111111。需要说明的是,可以通过一个数据串中1的个数来辨别CPU的使用率,还可以是通过8421码表示CPU使用率为85%,在本实施例中,对于使用何种方式表示CPU的使用率不作限定,可根据具体实施场景确定其实施方式。同样的,对于其他的服务信息也可以参照上述方式进行设定,在本实施例中不作限定。需要说明的是,采集边缘服务器的服务信息是在工作过程中,时时刻刻都在采集,以此实现对边缘服务器的准确调度。
作为一种优选的实施方式,对于采集边缘服务器的服务信息包括:
建立长连接;
通过长连接采集边缘服务器的服务信息。
在本实施例中,与长连接相对的是短连接。其中短连接指的是通讯双方有数据交互时,就建立一个连接,数据发送完成后,则断开此连接,即每次连接只完成一项业务的发送。然而长连接多用于操作频繁,点对点的通讯,而且连接数不能太多情况。如果每个操作都是短连接,再操作的话那么处理速度会降低很多,所以每个操作完后都不断开,下次处理时可以直接发送数据包,不用建立传输控制协议(Transmission Control Protocol,TCP)连接。例如:数据库的连接用长连接,如果用短连接频繁的通信会造成socket错误,而且频繁的socket创建也是对资源的浪费。而像WEB网站的http服务一般都用短链接,因为长连接对于服务端来说会耗费一定的资源,而像WEB网站这么频繁的成千上万甚至上亿客户端的连接用短连接会更省一些资源,如果用长连接,而且同时有成千上万的用户,如果每个用户都占用一个连接,导致并发量过大,因此,每个用户无需频繁操作情况下需用短连好。
但在本实施例中,由于存在多个边缘服务器,为了实现节能减排的目的,在本实施例中采用长连接的方式进行数据传输。除此之外,要通过nginx完成TCP的负载,以此实现更多的边缘服务器处于工作状态。同时,搭建长连接的媒介为netty。
S11:对服务信息进行分类。
作为一种优选的实施方式,对服务信息进行分类包括:
确定服务信息的影响因子和确定因子。
需要说明的是,边缘服务器以集群的形式部署在云端,确保边缘设备与管理程序网络畅通,假设边缘服务器集群部署了n个地区,记录为ES={es1,es2,…,esn},esj表示第j个地区的边缘服务器集群,假设对于esj提供z种服务,记录为esj={servicej1,servicej2,…,servicejz},由k台边缘服务器为servicej1提供服务,则对应的k台边缘服务器可以表示为servicej1k。
由上述实施例可知,此时servicej1k={servicej11,servicej12,…,servicej1k},此时,总计边缘服务器为L台,L可以表示为L=n×z×k。
用mes={t,c,m,p,wn}表示服务信息,其中,t表示服务类型,将其分类为确定因子;c表示CPU使用率,m表示内存使用率,p表示网络延时,wn表示等待任务数,将CPU使用率、内存使用率、网络延时、等待任务数确定为影响因子。则,此时全部边缘服务器的服务信息为mes={mes1,mes2,…,mesL}。
S12:确定分类后的服务信息的综合权重值。
作为一种优选的实施方式,对确定分类后的服务信息的综合权重值包括:
根据影响因子和确定因子得到对应的权重参数。
根据权重参数确定服务信息的综合权重值。
对于不同表征的不同服务信息的影响因子确定不同权重值计算出各个边缘服务器的综合权重值W={w1,w2,…,wL},其中w1为第1台边缘设备的综合权重值,w2为第2台边缘设备的综合权重值,以此类推。则,每个边缘服务器的综合权重值通过以下公式进行计算:
Wi=β0+β1*(1-ci)+β2*mi+β3*pi+β4*wni
这里的β0为随机误差,β1、β2、β3、β4是权重参数,采用向量βT表示权重参数,影响因子用x表示,即c为x1,m为x2,p为x3,wn为x4。
S13:根据综合权重值确定边缘服务器的路径值。
S14:根据路径值对边缘服务器进行服务调度。
由于该方法引进了综合权重值,根据综合权重值确定出边缘服务器的路径值,根据得到的路径值完成对边缘服务器的服务调度,以此实现在边缘服务器集群的环境下选择相应的边缘服务传输数据的路径,完成对边缘服务器集群的服务调度,提升用户体验感。
图2为本申请实施例所提供的另一种基于边缘服务器集群的服务调度方法流程图。在上述实施例的基础上,作为一种更优的实施例,如图2所示,在根据综合权重值确定边缘服务器的路径值之后,还包括:
S22:根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值。
同时,在根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值之后,还包括:
S23:获取边缘服务器列表。边缘服务器列表包含边缘服务器集群中各节点间传输数据的路径。
S24:根据边缘服务器列表和最小路径值进行服务调度。
将得到的综合权重值W={w1,w2,…,wL}作为多个边缘服务器构成的拓扑结构中的节点间的路径值。由于边缘服务器进行服务调度时,边缘服务器之间也存在互相调度,因此根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值。在得到最小路径值后,在上述实施例中提到将服务信息按照服务类型可以分成z类。此时,对应z类服务选择的对应的边缘服务器,可记为{servicej11,servicej22,…,servicejzz}。其中,servicej11为第一类服务器使用第一个边缘服务器,servicej22为第二类服务器使用第二个边缘服务器,以此类推。将边缘服务器列表和最小路径值通过长连接下发到调度中心,完成服务调度。
在上述实施例的基础上,作为一种更优的实施例,在采集边缘服务器的服务信息之后,对服务信息进行分类之前,还包括:
S20:判断边缘服务器利用率不足的次数是否达到预设次数。
若达到预设次数,则进入步骤S21。S21:触发告警信息并降低CPU频率。
若未达到预设次数,则进入步骤S11。
通过步骤S20的判断,能实现节能减排的目的。
在上述实施例的基础上,作为一种更优的实施例,在根据边缘服务器列表和最小路径值进行服务调度之后,还包括:
S25:获取边缘服务器的响应时间;
S26:判断响应时间是否达到预设时间;
若响应时间达到预设时间,则进入步骤S27。
S27:触发表征边缘服务器不足的预警信息并利用线性回归确定响应时间的影响因子。
若响应时间未达到预设时间,则进入步骤S10。
同时,在上述实施例的基础上,作为一种更优的实施例,在利用线性回归确定响应时间的影响因子之后,还包括:
S28:利用梯度递减线性回归模型确定响应时间的影响因子的权重参数;
S29:通过迭代训练优化权重参数。
边缘服务器调度完成后将响应时间与预设时间进行比较,如果响应时间超过预设时间则触发表征边缘服务器不足的预警信息并利用线性回归确定响应时间的影响因子。此时梯度递减线性回归模型确定响应时间的影响因子的权重参数,假设历史累计数据为m份,在进行通过迭代训练优化权重参数时可以通过以下公式计算:
其中,α为线性回归系数。需要说明的是,该方法还会应用并部署管理程序。在实际生产应用中,可以将管理程序称作服务端,将全部边缘服务器称作客户端。服务端与客户端之间通过建立的长连接进行传输数据。在上述实施例中提及的netty用于搭建服务端与客户端之间的长连接;nginx用于在服务端完成TCP的负载,以便于容纳足够多的边缘服务器。
通过建立管理程序与边缘服务器的长连接,通过长连接传输边缘服务器的服务信息,并对服务信息进行处理,判断边缘服务器利用率,如果长时间处于利用率不足的状态,需要降低边缘服务器CPU频率,从而降低服务器能耗。对服务信息进行分类,将服务类型作为决定因子,其余服务信息作为影响因子,根据影响因子确定综合权重值,计算得到每台边缘服务器的综合权重值,然后使用迪杰斯特拉算法计算出调用每个节点的边缘服务器的路径最小值,然后根据边缘服务器集群提供服务类别进行分类,得到每个服务对应的边缘服务器,并根据边缘服务器列表和路径最小值完成服务调度。最后判断服务的响应时间,若响应时间未达到预设时间,则利用梯度递减线性回归模型迭代训练优化权重参数,若响应时间达到预设时间,则触发表征边缘服务器不足的预警信息并利用线性回归确定响应时间的影响因子。此时,技术人员可以得知这一地区的服务边缘服务器可能不足,以此实现更好的为用户提供服务。通过基于边缘服务器集群的服务调度方法不仅能够降低边缘服务器集群的能耗,而且能够给出边缘服务器集群中最优的边缘服务器调度策略,为用户提供更好的服务,增强用户使用体验感。
在上述实施例中,对于基于边缘服务器集群的服务调度方法进行了详细描述,本申请还提供基于边缘服务器集群的服务调度装置对应的实施例。需要说明的是,本申请从两个角度对装置部分的实施例进行描述,一种是基于功能模块的角度,另一种是基于硬件的角度。
图3为本申请实施例所提供的一种基于边缘服务器集群的服务调度装置结构图。如图3所示,该装置应用于上述的基于边缘服务器集群的服务调度方法包括:
采集模块30,用于采集边缘服务器的服务信息,其中服务信息至少包括服务类型、CPU使用率、内存使用率、网络延时、等待任务数;
分类模块31,用于对服务信息进行分类;
第一确定模块32,用于确定分类后的服务信息的综合权重值;
第二确定模块33,用于根据综合权重值确定边缘服务器的路径值;
调度模块34,用于根据路径值对边缘服务器进行服务调度。
此外该装置还包括以下模块:
建立模块,用于建立长连接;
通过长连接触发采集模块30,用于通过长连接采集边缘服务器的服务信息;
第三确定模块,用于确定服务信息的影响因子和确定因子;
第四确定模块,用于根据影响因子和确定因子得到对应的权重参数;
第五确定模块,用于根据权重参数确定服务信息的综合权重值;
得到模块,用于根据迪杰斯特拉算法得到边缘服务器集群中各节点的最小路径值;
第一获取模块,用于获取边缘服务器列表,边缘服务器列表包含边缘服务器集群中各节点间传输数据的路径;
进行模块,用于根据边缘服务器列表和最小路径值进行服务调度。
第一判断模块,用于判断边缘服务器利用率不足的次数是否达到预设次数;
第一触发模块,用于若达到预设次数,则触发告警信息并降低CPU频率;
若未达到预设次数,则进入分类模块。
第二获取模块,用于获取边缘服务器的响应时间;
第二判断模块,用于判断响应时间是否达到预设时间;
第二触发模块,用于若响应时间达到预设时间,则触发表征边缘服务器不足的预警信息并利用线性回归确定响应时间的影响因子;
若响应时间未达到预设时间,则进入采集模块。
第六确定模块,用于利用梯度递减线性回归模型确定响应时间的影响因子的权重参数;
训练模块,用于通过迭代训练优化权重参数。
由于装置部分的实施例与方法部分的实施例相互对应,因此装置部分的实施例请参见方法部分的实施例的描述,这里暂不赘述。
由于该方法与装置对应,因此在该装置中,引进了综合权重值,根据综合权重值确定出边缘服务器的路径值,根据得到的路径值完成对边缘服务器的服务调度,以此实现在边缘服务器集群的环境下选择相应的边缘服务传输数据的路径,完成对边缘服务器集群的服务调度,提升用户体验感并能够将节约装置的能耗。
为解决上述技术问题,本申请还提供了一种基于边缘服务器集群的服务调度设备。该设备包括:
存储器,用于存储计算机程序;
处理器,用于执行计算机程序时实现如上述实施例中所提到的基于边缘服务器集群的服务调度方法的步骤。
本实施例提供的基于边缘服务器集群的服务调度设备可以包括但不限于智能手机、平板电脑、笔记本电脑或台式电脑等。
其中,处理器可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable LogicArray,PLA)中的至少一种硬件形式来实现。处理器也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称中央处理器(CentralProcessing Unit,CPU);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器可以集成有图像处理器(Graphics Processing Unit,GPU),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器还可以包括人工智能(Artificial Intelligence,AI)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。本实施例中,存储器至少用于存储以下计算机程序,其中,该计算机程序被处理器加载并执行之后,能够实现前述任意一个实施例公开的基于边缘服务器集群的服务调度方法的相关步骤。另外,存储器所存储的资源还可以包括操作系统和数据等,存储方式可以是短暂存储或者永久存储。其中,操作系统可以包括Windows、Unix、Linux等。数据可以包括但不限于基于边缘服务器集群的服务调度方法等。
在一些实施例中,基于边缘服务器集群的服务调度设备还可包括有显示屏、输入输出接口、通信接口、电源以及通信总线。
本领域技术人员可以理解,上述提及的结构并不构成对基于边缘服务器集群的服务调度方法的限定,可以包括比图示更多或更少的组件。
本申请实施例提供的基于边缘服务器集群的服务调度设备,包括存储器和处理器,处理器在执行存储器存储的程序时,能够实现基于边缘服务器集群的服务调度方法。
最后,本申请还提供一种计算机可读存储介质对应的实施例。计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现如上述方法实施例中记载的步骤。
可以理解的是,如果上述实施例中的方法以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory),ROM、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上对本申请所提供的一种基于边缘服务器集群的服务调度方法及装置进行了详细介绍。说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以对本申请进行若干改进和修饰,这些改进和修饰也落入本申请权利要求的保护范围内。
还需要说明的是,在本说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (3)
1.一种基于边缘服务器集群的服务调度方法,其特征在于,包括:
实时采集边缘服务器的服务信息mes,其中所述服务信息至少包括服务类型t、CPU使用率c、内存使用率m、网络延时p、等待任务数wn;
对所述服务信息进行分类;
确定所述服务信息的影响因子和确定因子t;所述服务信息表示为:mes={t,c,m,p,wn};其中,所述影响因子为所述CPU使用率、所述内存使用率、所述网络延时、所述等待任务数;
当所述边缘服务器部署的地区数为n时,边缘服务器集群为:ES={es1,es2,…,esn},esj表示第j个地区的边缘服务器集群;
当对第j个地区的所述边缘服务器集群提供z种服务,记录为esj={servicej1,servicej2,…,servicejz},由k台所述边缘服务器为servicej1提供服务,则对应的k台边缘服务器表示为servicej1k;对应的,servicej1k={servicej11,servicej12,…,servicej1k};
当全部的所述边缘服务器为L台时,L可以表示为L=n×z×k;
确定分类后的所述服务信息的综合权重值;
根据所述综合权重值确定所述边缘服务器的路径值;
根据所述路径值对所述边缘服务器进行服务调度;
其中,所述采集边缘服务器的服务信息包括:
通过异步驱动网络框架建立长连接;
通过所述长连接采集所述边缘服务器的所述服务信息;
所述确定分类后的所述服务信息的综合权重值包括:
根据所述影响因子和所述确定因子得到对应的权重参数;
根据所述权重参数确定所述服务信息的所述综合权重值W={w1,w2,…,wL};
在所述采集边缘服务器的服务信息之后,所述对所述服务信息进行分类之前,还包括:
判断所述边缘服务器利用率不足的次数是否达到预设次数;
若达到所述预设次数,则触发告警信息并降低CPU频率;
若未达到所述预设次数,则进入所述对所述服务信息进行分类的步骤;
所述根据所述路径值对所述边缘服务器进行服务调度包括:
获取边缘服务器列表,所述边缘服务器列表包含所述边缘服务器集群中各节点间传输数据的路径;
根据所述边缘服务器列表和最小路径值进行服务调度;
在所述根据所述边缘服务器列表和最小路径值进行服务调度之后,还包括:
获取所述边缘服务器的响应时间;
判断所述响应时间是否达到预设时间;
若所述响应时间达到所述预设时间,则发送表征所述边缘服务器不足的预警信息并利用线性回归确定所述响应时间的所述影响因子;
若所述响应时间未达到所述预设时间,则进入所述采集边缘服务器的服务信息的步骤;
在所述利用线性回归确定所述响应时间的所述影响因子之后,还包括:
利用梯度递减线性回归模型确定所述响应时间的所述影响因子的所述权重参数;
通过迭代训练优化所述权重参数。
2.根据权利要求1所述的基于边缘服务器集群的服务调度方法,其特征在于,在所述根据所述综合权重值确定所述边缘服务器的路径值之后和所述根据所述路径值对所述边缘服务器进行服务调度之前,还包括:
根据迪杰斯特拉算法得到所述边缘服务器集群中各节点的最小路径值。
3.一种基于边缘服务器集群的服务调度装置,其特征在于,应用于权利要求1或2所述的基于边缘服务器集群的服务调度方法包括:
采集模块,用于实时采集边缘服务器的服务信息mes,其中所述服务信息至少包括服务类型t、CPU使用率c、内存使用率m、网络延时p、等待任务数wn;
分类模块,用于对所述服务信息进行分类;
确定所述服务信息的影响因子和确定因子t;所述服务信息表示为:mes={t,c,m,p,wn};其中,所述影响因子为所述CPU使用率、所述内存使用率、所述网络延时、所述等待任务数;
当所述边缘服务器部署的地区数为n时,边缘服务器集群为:ES={es1,es2,…,esn},esj表示第j个地区的边缘服务器集群;
当对第j个地区的所述边缘服务器集群提供z种服务,记录为esj={servicej1,servicej2,…,servicejz},由k台所述边缘服务器为servicej1提供服务,则对应的k台边缘服务器表示为servicej1k;对应的,servicej1k={servicej11,servicej12,…,servicej1k};
当全部的所述边缘服务器为L台时,L可以表示为L=n×z×k;
第一确定模块,用于确定分类后的所述服务信息的综合权重值;
第二确定模块,用于根据所述综合权重值确定所述边缘服务器的路径值;
调度模块,用于根据所述路径值对所述边缘服务器进行服务调度;
其中,所述采集边缘服务器的服务信息包括:
通过异步驱动网络框架建立长连接;
通过所述长连接采集所述边缘服务器的所述服务信息;
所述确定分类后的所述服务信息的综合权重值包括:
根据所述影响因子和所述确定因子得到对应的权重参数;
根据所述权重参数确定所述服务信息的所述综合权重值W={w1,w2,…,wL};
在所述采集边缘服务器的服务信息之后,所述对所述服务信息进行分类之前,还包括:
判断所述边缘服务器利用率不足的次数是否达到预设次数;
若达到所述预设次数,则触发告警信息并降低CPU频率;
若未达到所述预设次数,则进入所述对所述服务信息进行分类的步骤;
所述根据所述路径值对所述边缘服务器进行服务调度包括:
获取边缘服务器列表,所述边缘服务器列表包含所述边缘服务器集群中各节点间传输数据的路径;
根据所述边缘服务器列表和最小路径值进行服务调度;
在所述根据所述边缘服务器列表和最小路径值进行服务调度之后,还包括:
获取所述边缘服务器的响应时间;
判断所述响应时间是否达到预设时间;
若所述响应时间达到所述预设时间,则发送表征所述边缘服务器不足的预警信息并利用线性回归确定所述响应时间的所述影响因子;
若所述响应时间未达到所述预设时间,则进入所述采集边缘服务器的服务信息的步骤;
在所述利用线性回归确定所述响应时间的所述影响因子之后,还包括:
利用梯度递减线性回归模型确定所述响应时间的所述影响因子的所述权重参数;
通过迭代训练优化所述权重参数。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210469711.8A CN115002126B (zh) | 2022-04-30 | 2022-04-30 | 一种基于边缘服务器集群的服务调度方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210469711.8A CN115002126B (zh) | 2022-04-30 | 2022-04-30 | 一种基于边缘服务器集群的服务调度方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115002126A CN115002126A (zh) | 2022-09-02 |
CN115002126B true CN115002126B (zh) | 2024-01-12 |
Family
ID=83026171
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210469711.8A Active CN115002126B (zh) | 2022-04-30 | 2022-04-30 | 一种基于边缘服务器集群的服务调度方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115002126B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116032895A (zh) * | 2022-12-13 | 2023-04-28 | 上海元镜像信息科技有限公司 | 一种旁路方式的智能媒体服务器调度方法、系统、设备及介质 |
CN116506507A (zh) * | 2023-06-29 | 2023-07-28 | 天津市城市规划设计研究总院有限公司 | 基于客户端特性的数据处理方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016074323A1 (zh) * | 2014-11-11 | 2016-05-19 | 网宿科技股份有限公司 | 内容分发网络的http调度系统和方法 |
CN114124778A (zh) * | 2021-10-20 | 2022-03-01 | 国电南瑞科技股份有限公司 | 一种基于QoS约束的任播服务源路由方法及装置 |
-
2022
- 2022-04-30 CN CN202210469711.8A patent/CN115002126B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016074323A1 (zh) * | 2014-11-11 | 2016-05-19 | 网宿科技股份有限公司 | 内容分发网络的http调度系统和方法 |
CN114124778A (zh) * | 2021-10-20 | 2022-03-01 | 国电南瑞科技股份有限公司 | 一种基于QoS约束的任播服务源路由方法及装置 |
Non-Patent Citations (2)
Title |
---|
"基于Linux边缘网关系统的设计与实现";张志超;中国优秀硕士学位论文全文数据库(信息科技辑)》;正文第1-5章 * |
张志超."基于Linux边缘网关系统的设计与实现".中国优秀硕士学位论文全文数据库(信息科技辑)》.2022,正文第1-5章. * |
Also Published As
Publication number | Publication date |
---|---|
CN115002126A (zh) | 2022-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN115002126B (zh) | 一种基于边缘服务器集群的服务调度方法及装置 | |
CN110263921B (zh) | 一种联邦学习模型的训练方法及装置 | |
CN108958916B (zh) | 一种移动边缘环境下工作流卸载优化方法 | |
CN109597965B (zh) | 基于深度神经网络的数据处理方法、系统、终端及介质 | |
CN110058950A (zh) | 基于无服务器架构的分布式云计算方法及设备 | |
CN112667400B (zh) | 边缘自治中心管控的边云资源调度方法、装置及系统 | |
CN105162875B (zh) | 大数据群体任务分配方法及装置 | |
WO2023124947A1 (zh) | 一种任务处理方法、装置及相关设备 | |
CN113064700A (zh) | 容器部署方法及装置 | |
CN111143039B (zh) | 一种虚拟机的调度方法、装置及计算机存储介质 | |
CN111353828A (zh) | 网点到店人数预测方法及装置 | |
CN114237869A (zh) | 基于强化学习的Ray双层调度方法、装置和电子设备 | |
CN115686846B (zh) | 边缘计算中融合图神经网络和强化学习的容器集群在线部署方法 | |
CN108319539A (zh) | 一种生成gpu卡槽位信息的方法及系统 | |
CN114610272A (zh) | Ai模型生成方法、电子设备及存储介质 | |
CN112084959A (zh) | 一种人群图像处理方法及装置 | |
AlOrbani et al. | Load balancing and resource allocation in smart cities using reinforcement learning | |
CN112910708B (zh) | 分布式服务调用方法及装置 | |
CN117061365A (zh) | 一种节点选择方法、装置、设备及可读存储介质 | |
CN114997401B (zh) | 自适应推理加速方法、装置、计算机设备和存储介质 | |
CN114528893A (zh) | 机器学习模型训练方法、电子设备及存储介质 | |
WO2022221638A1 (en) | Dynamic microservice intercommunication configuration | |
Ahn et al. | Scissionlite: Accelerating distributed deep neural networks using transfer layer | |
CN114611609A (zh) | 一种图网络模型节点分类方法、装置、设备及存储介质 | |
Shen et al. | Collaborative Learning-Based Scheduling for Kubernetes-Oriented Edge-Cloud Network |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |