CN114090251A - 一种边缘计算资源自适应动态调度方法及系统 - Google Patents
一种边缘计算资源自适应动态调度方法及系统 Download PDFInfo
- Publication number
- CN114090251A CN114090251A CN202111391758.9A CN202111391758A CN114090251A CN 114090251 A CN114090251 A CN 114090251A CN 202111391758 A CN202111391758 A CN 202111391758A CN 114090251 A CN114090251 A CN 114090251A
- Authority
- CN
- China
- Prior art keywords
- edge
- resource
- application
- scheduling
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 26
- 230000008569 process Effects 0.000 claims abstract description 14
- 230000008859 change Effects 0.000 claims abstract description 13
- 230000015654 memory Effects 0.000 claims description 27
- 238000012544 monitoring process Methods 0.000 claims description 23
- 238000005192 partition Methods 0.000 claims description 12
- 238000013468 resource allocation Methods 0.000 claims description 11
- 230000003044 adaptive effect Effects 0.000 claims description 9
- 238000012545 processing Methods 0.000 claims description 7
- 238000010276 construction Methods 0.000 claims description 3
- 238000001914 filtration Methods 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5044—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering hardware capabilities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/502—Proximity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5021—Priority
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/508—Monitor
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明提供一种边缘计算资源自适应动态调度方法及系统,属于边缘计算技术领域,本发明通过资源监控组件动态获取边缘节点的资源使用情况,结合边缘应用对于CPU、内存以及GPU的资源需求,构建出边缘节点的动态优先级,选择最优的边缘节点。在边缘应用运行过程中,监控边缘应用在一天中各个时间段的资源使用变化情况,对应用资源进行动态调整,并且把这种变化率作为调度的因子。该策略具有自适应性,可以根据动态的需求来调整资源,为边缘计算资源提供了一种高效、合理的调度策略。
Description
技术领域
本发明涉及边缘计算技术领域,尤其涉及一种边缘计算资源自适应动态调度方法及系统。
背景技术
云计算的发展使得物联网等移动设备可以通过云端的数据中心获得丰富的计算资源,但也不可避免地产生大量通信延迟,无法满足即时响应的移动应用需求。为了解决上述问题,边缘计算应运而生,边缘计算提出在靠近物或数据源头的一侧,采用网络、计算、存储、应用核心能力为一体的开放平台,就近提供高性能、高带宽、低延时的计算服务。边缘计算环境中包含多种数量庞大的资源,并由虚拟化技术支持资源管理,一种好的调度策略对边缘计算平台至关重要。
资源调度的问题是一个寻找最优映射的过程,即将任务集合映射到资源集合上,并尽可能地优化目标。现有的资源调度策略大多数是集中式的,即把调度问题作为一个整体来看待,解决方案一般在离线的情况下得出,因此调度策略无法响应实时的环境变化。
发明内容
为了解决以上技术问题,本发明提供了一种边缘计算资源自适应动态调度方法。最大限度地使用边缘计算服务器的资源,以便能够用尽可能少的设备和资源提供服务,并且不影响边缘应用的资源需求,实现资源的有效分配和调度。
本发明的技术方案是:
一种边缘计算资源自适应动态调度方法,通过资源监控组件动态获取边缘节点的资源使用情况,结合边缘应用对于CPU、内存以及GPU的资源需求,构建出边缘节点的动态优先级,选择最优的边缘节点。在边缘应用运行过程中,监控边缘应用在一天中各个时间段的资源使用变化情况,对应用资源进行动态调整,并且把这种变化率作为调度的因子。该策略具有自适应性,可以根据动态的需求来调整资源,为边缘计算资源提供了一种高效、合理的调度策略。
进一步的,
工作步骤如下:
1)边缘应用请求分配计算资源;
2)通过资源监控收集边缘节点cpu、内存使用率以及边缘应用cpu、内存使用率;
3)通过资源调度获取边缘应用对CPU、内存、GPU资源的需求;
4)根据CPU、内存、GPU资源的需求过滤掉不满足资源需求的边缘节点;
5)计算满足资源需求的各个边缘节点的得分,分数最高则为最优边缘节点;
6)边缘应用在运行过程中,根据实际资源占用情况以及边缘节点资源使用情况动态调整边缘应用资源分配。
进一步的,
如果实际资源占用过高,超过所设置的上限阈值,则通过资源调度进行自适应调度,自动增加边缘应用的资源分配,如果此边缘节点资源不足,则在同一边缘分区中选择其它分数最高节点部署相应的另外一个副本实例来平衡边缘应用负载;如果实际资源占用低于所设置的下限阈值,则通过资源调度自动缩减边缘应用的资源分配。
若出现云边网络断开情况,边缘应用不会调度到其它边缘节点,保证该边缘节点的应用可以正常运行,能够进行边缘自治,当网络恢复后,通过资源调度重新对该边缘节点应用进行自适应动态调度。
本发明还公开了一种边缘计算资源自适应动态调度系统,包括资源监控组件和资源调度组件,共同完成边缘计算资源的自适应动态调度,其中:
所述资源监控组件,实时监控边缘节点的资源使用情况,并且监控边缘节点各应用在一天中各个时间段资源使用情况,及时将监控信息传输到资源调度组件,支撑自适应动态调度策略的构建。
所述资源调度组件,根据资源监控组件上传的边缘节点资源信息结合边缘应用的资源需求,构建出边缘节点的动态优先级,调度边缘应用到优先级最高的边缘节点。
在边缘应用运行过程中,根据边缘应用的实时资源需求进行动态调整。并且在云边网络断开后,边缘节点应用可以正常运行,应用不会调度到其它边缘节点,保证边缘能够自治。
进一步的,
通过资源监控组件获取边缘计算平台中各个边缘节点的资源情况,
cpu_util表示边缘节点的CPU使用率,mem_util表示边缘节点的内存使用率,cpu_sum表示边缘节点的CPU总量,mem_sum表示边缘节点的内存总量,gpu_support表示是否支持GPU,cpu_rate(appi)表示该边缘节点上边缘应用CPU使用变化率,mem_rate(appi)表示该边缘节点上边缘应用内存使用变化率。
资源调度组件获取边缘应用对边缘分区、CPU、内存、GPU资源的需求情况,分别为cpu_request、mem_request、gpu_request,首先在此边缘分区中根据CPU、内存、GPU需求过滤掉不满足资源需求的边缘节点。
根据上述边缘节点资源情况和边缘应用资源需求情况,计算满足资源需求的各个边缘节点的得分;分数最高的即为该边缘应用的最优调度节点。
边缘应用在运行过程中,资源监控组件实时监控边缘应用的实际资源占用情况,如果实际资源占用过高,超过所设置的上限阈值,则资源调度组件进行自适应调度,自动增加边缘应用的资源分配,如果此边缘节点资源不足,则在同一边缘分区中选择其它分数最高节点部署相应的另外一个副本实例来平衡边缘应用负载;如果实际资源占用过低,低于所设置的下限阈值,则资源调度组件自动缩减边缘应用的资源分配。
若出现云边网络断开情况,边缘应用不会调度到其它边缘节点,保证该边缘节点的应用可以正常运行,能够进行边缘自治,当网络恢复后,资源调度组件可以重新对该边缘节点应用进行自适应动态调度。
本发明的有益效果是
本发明通过监控边缘节点的资源使用率结合边缘节点上应用的资源使用变化率,进行边缘应用的资源分配,同时在边缘应用运行过程中,可以对边缘应用资源进行自适应动态调整,可以最大限度的使用边缘计算服务器资源,又可以保证边缘应用稳定运行。
附图说明
图1是本发明的工作流程示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
边缘计算平台往往采用基于容器的轻量级虚拟化技术,同时在控制编排层使用Kubernetes这样的容器管理工具对应用程序和服务进行部署和生命周期管理。一种边缘计算资源自适应动态调度策略,其实现基于资源监控组件和资源调度组件,其中:
所述资源监控组件,实时监控边缘节点的资源使用情况,包括CPU使用率、内存使用率,并且监控边缘节点各应用在一天中各个时间段资源使用情况。及时将监控信息传输到资源调度组件,支撑自适应动态调度策略的构建。
所述资源调度组件,根据资源监控组件上传的边缘节点资源信息结合边缘应用的资源需求,构建出边缘节点的动态优先级,调度边缘应用到优先级最高的边缘节点。在边缘应用运行过程中,根据边缘应用的实时资源需求进行动态调整。并且在云边网络断开后,边缘节点应用可以正常运行,应用不会调度到其它边缘节点,保证边缘能够自治。
其具体实施过程如下:
1、通过资源监控组件获取边缘计算平台中各个边缘节点的资源情况。
其中cpu_util表示边缘节点的CPU使用率,mem_util表示边缘节点的内存使用率,cpu_sum表示边缘节点的CPU总量,mem_sum表示边缘节点的内存总量,gpu_support表示是否支持GPU,cpu_rate(appi)表示该边缘节点上边缘应用CPU使用变化率,mem_rate(appi)表示该边缘节点上边缘应用内存使用变化率。
2、资源调度组件获取边缘应用对边缘分区、CPU、内存、GPU资源的需求情况。分别为cpu_request、mem_request、gpu_request,首先在此边缘分区中根据CPU、内存、GPU需求过滤掉不满足资源需求的边缘节点。
3.根据上述边缘节点资源情况和边缘应用资源需求情况,计算满足资源需求的各个边缘节点的得分。其计算模型如下:
其中n表示边缘节点上边缘应用的数量。
4、根据上述计算模型,计算出各边缘节点的分数,分数最高的即为该边缘应用的最优调度节点。
5、边缘应用在运行过程中,资源监控组件实时监控边缘应用的实际资源占用情况,如果实际资源占用过高,超过所设置的上限阈值,则资源调度组件进行自适应调度,自动增加边缘应用的资源分配,如果此边缘节点资源不足,则在同一边缘分区中选择其它分数最高节点部署相应的另外一个副本实例来平衡边缘应用负载;如果实际资源占用过低,低于所设置的下限阈值,则资源调度组件自动缩减边缘应用的资源分配。
6、若出现云边网络断开情况,边缘应用不会调度到其它边缘节点,保证该边缘节点的应用可以正常运行,能够进行边缘自治,当网络恢复后,资源调度组件可以重新对该边缘节点应用进行自适应动态调度。
以上所述仅为本发明的较佳实施例,仅用于说明本发明的技术方案,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (10)
1.一种边缘计算资源自适应动态调度方法,其特征在于,
通过资源监控动态获取边缘节点的资源使用情况,结合边缘应用对于CPU、内存以及GPU的资源需求,构建出边缘节点的动态优先级,选择最优的边缘节点;在边缘应用运行过程中,监控边缘应用在各个时间段的资源使用变化情况,对应用资源进行动态调整,并且把这种变化率作为调度的因子。
2.根据权利要求1所述的方法,其特征在于,
工作步骤如下:
1)边缘应用请求分配计算资源;
2)通过资源监控收集边缘节点cpu、内存使用率以及边缘应用cpu、内存使用率;
3)通过资源调度获取边缘应用对边缘分区、CPU、内存、GPU资源的需求;
4)根据CPU、内存、GPU资源的需求过滤掉不满足资源需求的边缘节点;
5)计算满足资源需求的各个边缘节点的得分,分数最高则为最优边缘节点;
6)边缘应用在运行过程中,根据实际资源占用情况以及边缘节点资源使用情况动态调整边缘应用资源分配。
3.根据权利要求2所述的方法,其特征在于,
如果实际资源占用过高,超过所设置的上限阈值,则通过资源调度进行自适应调度,自动增加边缘应用的资源分配,如果此边缘节点资源不足,则在同一边缘分区中选择其它分数最高节点部署相应的另外一个副本实例来平衡边缘应用负载;如果实际资源占用低于所设置的下限阈值,则通过资源调度自动缩减边缘应用的资源分配。
4.根据权利要求2所述的方法,其特征在于,
若出现云边网络断开情况,边缘应用不会调度到其它边缘节点,保证该边缘节点的应用可以正常运行,能够进行边缘自治,当网络恢复后,通过资源调度重新对该边缘节点应用进行自适应动态调度。
5.一种边缘计算资源自适应动态调度系统,其特征在于,包括资源监控组件和资源调度组件,共同完成边缘计算资源的自适应动态调度,其中:
所述资源监控组件,实时监控边缘节点的资源使用情况,并且监控边缘节点各应用在一天中各个时间段资源使用情况,及时将监控信息传输到资源调度组件,支撑自适应动态调度策略的构建;
所述资源调度组件,根据资源监控组件上传的边缘节点资源信息结合边缘应用的资源需求,构建出边缘节点的动态优先级,调度边缘应用到优先级最高的边缘节点;
在边缘应用运行过程中,根据边缘应用的实时资源需求进行动态调整。并且在云边网络断开后,边缘节点应用可以正常运行,应用不会调度到其它边缘节点,保证边缘能够自治。
6.根据权利要求5所述的系统,其特征在于,
通过资源监控组件获取边缘计算平台中各个边缘节点的资源情况,
cpu_util表示边缘节点的CPU使用率,mem_util表示边缘节点的内存使用率,cpu_sum表示边缘节点的CPU总量,mem_sum表示边缘节点的内存总量,gpu_support表示是否支持GPU,cpu_rate(appi)表示该边缘节点上边缘应用CPU使用变化率,mem_rate(appi)表示该边缘节点上边缘应用内存使用变化率。
7.根据权利要求6所述的系统,其特征在于,
资源调度组件获取边缘应用对边缘分区、CPU、内存、GPU资源的需求情况,分别为cpu_request、mem_request、gpu_request,首先在此边缘分区中根据CPU、内存、GPU需求过滤掉不满足资源需求的边缘节点。
8.根据权利要求7所述的系统,其特征在于,
根据上述边缘节点资源情况和边缘应用资源需求情况,计算满足资源需求的各个边缘节点的得分;分数最高的即为该边缘应用的最优调度节点。
9.根据权利要求8所述的系统,其特征在于,
边缘应用在运行过程中,资源监控组件实时监控边缘应用的实际资源占用情况,如果实际资源占用过高,超过所设置的上限阈值,则资源调度组件进行自适应调度,自动增加边缘应用的资源分配,如果此边缘节点资源不足,则在同一边缘分区中选择其它分数最高节点部署相应的另外一个副本实例来平衡边缘应用负载;如果实际资源占用过低,低于所设置的下限阈值,则资源调度组件自动缩减边缘应用的资源分配。
10.根据权利要求9所述的系统,其特征在于,
若出现云边网络断开情况,边缘应用不会调度到其它边缘节点,保证该边缘节点的应用可以正常运行,能够进行边缘自治,当网络恢复后,资源调度组件可以重新对该边缘节点应用进行自适应动态调度。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111391758.9A CN114090251A (zh) | 2021-11-23 | 2021-11-23 | 一种边缘计算资源自适应动态调度方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111391758.9A CN114090251A (zh) | 2021-11-23 | 2021-11-23 | 一种边缘计算资源自适应动态调度方法及系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114090251A true CN114090251A (zh) | 2022-02-25 |
Family
ID=80303325
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111391758.9A Pending CN114090251A (zh) | 2021-11-23 | 2021-11-23 | 一种边缘计算资源自适应动态调度方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114090251A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115250227A (zh) * | 2022-06-02 | 2022-10-28 | 苏州思萃工业互联网技术研究所有限公司 | 一种边缘计算场景下实现故障迁移的调度系统 |
CN115599529A (zh) * | 2022-11-15 | 2023-01-13 | 阿里巴巴(中国)有限公司(Cn) | 边缘云函数计算系统和方法 |
-
2021
- 2021-11-23 CN CN202111391758.9A patent/CN114090251A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115250227A (zh) * | 2022-06-02 | 2022-10-28 | 苏州思萃工业互联网技术研究所有限公司 | 一种边缘计算场景下实现故障迁移的调度系统 |
CN115599529A (zh) * | 2022-11-15 | 2023-01-13 | 阿里巴巴(中国)有限公司(Cn) | 边缘云函数计算系统和方法 |
CN115599529B (zh) * | 2022-11-15 | 2023-03-10 | 阿里巴巴(中国)有限公司 | 边缘云函数计算系统和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103220337B (zh) | 基于自适应弹性控制的云计算资源优化配置方法 | |
CN103207814B (zh) | 一种去中心化的跨集群资源管理与任务调度系统与调度方法 | |
CN109213555B (zh) | 一种面向虚拟桌面云的资源动态调度方法 | |
CN110231976B (zh) | 一种基于负载预测的边缘计算平台容器部署方法及系统 | |
CN105141541A (zh) | 一种基于任务的动态负载均衡调度方法及装置 | |
CN114090251A (zh) | 一种边缘计算资源自适应动态调度方法及系统 | |
TWI763156B (zh) | 異質叢集中之機器學習工作負載編排技術 | |
Phan et al. | Traffic-aware horizontal pod autoscaler in Kubernetes-based edge computing infrastructure | |
CN112559182B (zh) | 资源分配方法、装置、设备及存储介质 | |
CN109783225B (zh) | 一种多租户大数据平台的租户优先级管理方法及系统 | |
CN105446816B (zh) | 一种面向异构平台的能耗优化调度方法 | |
CN103944997B (zh) | 结合随机抽样和虚拟化技术的负载均衡方法 | |
CN112799817A (zh) | 一种微服务资源调度系统和方法 | |
CN110442428A (zh) | Docker容器的协调方法 | |
CN107977271A (zh) | 一种数据中心综合管理系统负载均衡方法 | |
Liang et al. | A location-aware service deployment algorithm based on k-means for cloudlets | |
CN107122235B (zh) | 基于应用优先级的公共基础设施资源调度方法 | |
CN116340003A (zh) | 基于深度强化学习的自适应边缘计算资源管理方法及系统 | |
CN112559122A (zh) | 一种基于电力专用安防设备的虚拟化实例管控方法及系统 | |
CN111796933A (zh) | 资源调度方法、装置、存储介质和电子设备 | |
CN114691372A (zh) | 一种多媒体端边云系统的群体智能控制方法 | |
CN114490049A (zh) | 在容器化边缘计算中自动分配资源的方法及系统 | |
CN116708454B (zh) | 多集群云计算系统及多集群作业分发方法 | |
CN107203256A (zh) | 一种网络功能虚拟化场景下的节能分配方法与装置 | |
CN107948330A (zh) | 一种云环境下基于动态优先级的负载均衡策略 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |