CN109697108A - 一种基于代价模型的多数据中心调度方法 - Google Patents
一种基于代价模型的多数据中心调度方法 Download PDFInfo
- Publication number
- CN109697108A CN109697108A CN201811558543.XA CN201811558543A CN109697108A CN 109697108 A CN109697108 A CN 109697108A CN 201811558543 A CN201811558543 A CN 201811558543A CN 109697108 A CN109697108 A CN 109697108A
- Authority
- CN
- China
- Prior art keywords
- energy consumption
- migration
- electronic network
- virtual machine
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
- G06F2009/45595—Network integration; Enabling network access in virtual machine instances
Abstract
本发明涉及一种基于代价模型的多数据中心调度方法。本发明所述的方法包括如下步骤:1、建立代价模型;2、采集感知数据;3、统计感知数据;4、基于统计数据分析调度预测;5、执行云主机调度;6、调度结果通知用户且生成调度报表。本发明基于多个代价因素,其中包括电价成本代价、宿主机温度代价,实现成本最优调度、电热感知调度;通过递归配电子网、数据中心、冷池、机柜、服务的方式,一层层找到最合适的目标,进行调度迁移。
Description
技术领域
本发明涉及云计算系统能耗控制技术领域,尤其是一种基于代价模型的多数据中心调度方法。
背景技术
随着各个配电子网的多个数据中心不断投入使用,公司数据中心各种硬件资源和配套设施快速持续增加,致使数据中心的建设成本和运行能耗成本也随之攀升。而设备的资源利用率并不高;并且,在设备维护管理和成本能耗控制方面还存在以下亟需解决的难点:2015年全国数据中心能耗相当于三峡和葛洲坝的全年发电总量。根据Gartner分析,数据中心资源平均利用率仅为5-25%;供电、制冷能耗和IT能耗约各占一半,使得PUE居高不下。
目前已有的方案有数据中心控制方法和电源和数据中心控制方法,尚没有基于能耗方案的虚拟服务器的跨数据中心迁移。现有技术中主要存在以下缺陷:
1、不能综合考虑多个维度的代价模型;
2、不支持电热调度感知;
3、不知道跨配电子网、跨冷池的虚拟机迁移;
4、不支持离线应用的迁移;
5、不支持基于电价调度。
发明内容
本发明解决的技术问题在于提供一种基于代价模型的多数据中心调度方法;解决配电子网、数据中心平均资源利用率低、电价成本高、部分配电子网功耗负载过高等问题。
本发明解决上述技术问题的技术方案是:
所述的方法包括如下步骤:
步骤1:建立代价模型;
步骤2:采集感知数据;
步骤3:统计感知数据;
步骤4:基于统计数据分析调度预测;
步骤五:执行云主机调度;
步骤六:调度结果通知用户且生成调度报表。
所述的步骤1包括设置代价模型配置和配置各种资源的关系;
代价模型配置模块承担系统静态数据配置及管理,包括建立调度范围的资产台账、设置代价模型的基础维度及权重,设置调度等级、分发模式及调度算法生效周期和设置阈值;
配置各种资源的关系包括配电子网包括的数据中心;数据中心包括冷池;冷池包括服务器机柜和配电机柜、空调;机柜包含服务器。
所述的步骤2是通过动环接口采集服务器、机柜、数据中心的能耗;通过带外网络采集服务器的温度;通过云操作系统采集虚拟机的CPU、内存、磁盘大小;
所述步骤2的具体步骤如下:
每个数据中心启动采集代理;
加载数据收集插件;
通过用户名、密码、区域ID、命名空间连接到云操系统的认证中心;
获取所有云主机的列表;
循环获取每个云主机的CPU、内存、磁盘大小;
数据分片通过RPC传输到统一存储服务;
统一存储服务存放在数据库。
所述的步骤3是将采集的数据定期统计和排行;统计出配电子网、数据中心、冷池、机柜、服务器最近几个周期的功耗数据;分析出配电子网、数据中心、冷池、机柜、服务器的功耗排行;步骤3具体步骤是:
统计最近一段时间配电子网、数据中心的能耗,作为代价模型的一个权重因子;
查询该时间段能耗对应的电价,预测配电子网、数据中心的电费成本,作为代价模型的一个权重因子;
根据虚拟机的CPU、内存和磁盘,计算出带宽消耗作为一个权重因子,其中带宽消耗=(磁盘+内存空间大小);
通过虚拟机的磁盘、内存空间大小,计算出迁移时间,再通过服务器的功率计算出迁移时间消耗的能耗作为一个权重因子,其中迁移时间消耗的能耗=(迁移时间/一小时)*服务器功率;
通过虚拟机的的磁盘、内存空间大小以及服务器的带宽,从而计算传输延迟作为一个权重因子,其中传输延迟=(磁盘+内存空间大小)/服务器带宽;
通过虚拟机所在的服务器的温度,计算出当前温度对应的权重值作为一个权重因子;其中,温度越高,权重值越高;
计算出每个虚拟机的权重总和,记录这个周期虚拟机的权重值。
所述的步骤4是基于感知数据的统计和分析结果,对各个配电子网的功耗进行预测;并且根据算法,对云主机进行调度迁移;根据用户选择具体时间段的最佳能耗算法或均衡算法,执行调度迁移。
所述的最佳能耗算法步骤如下:
调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更高且预测迁移后未超过阈值的目标配电子网;
若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则选择能耗最高的目标配电子网;
通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最高的虚拟机迁移到目标配电子网的数据中心;
Slave调度系统收到指令后,选择虚拟机迁移到能耗最高且没有超过阈值的冷池下;
择虚拟机迁移到能耗最高且没有超过阈值的机柜;
选择虚拟机迁移到能耗最高且没有超过阈值的目标服务器下;
执行虚拟机迁移到目标服务器下;
若出现服务器空载,则执行关闭服务器电源。
所述的均衡算法步骤如下:
调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更低且预测迁移后未超过阈值的目标配电子网;
若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则选择能耗最低的目标配电子网;
通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最低的虚拟机迁移到目标配电子网的数据中心;
Slave调度系统收到指令后,选择虚拟机迁移到能耗最低且没有超过阈值的冷池下;
选择虚拟机迁移到能耗最低且没有超过阈值的机柜;
若冷池下有服务器关机,则执行启动服务器电源;
选择虚拟机迁移到能耗最低且没有超过阈值的目标服务器下;
执行虚拟机迁移到目标服务器下。
8、根据权利要求1所述的方法,其特征在于:
所述的步骤6中,对数据中心年度、季度或月度的能耗统计,冷池年度、季度或月度的能耗统计,系统任务调度执行年度、季度和月度的能耗统计,形成直观的图表进行展示。
本发明提供的方法可以根据不同的配电子网的电价进行调度迁移;本发明提供支持同一个云平台下多个数据中心的调度迁移。本发明通过递归配电子网、数据中心、冷池、机柜、服务的方式,一层层找到最合适的目标,进行调度迁移;本发明方法基于多个代价因素,其中包括电价成本代价、宿主机温度代价,实现成本最优调度、电热感知调度。
附图说明
下面结合附图对本发明进一步说明:
图1是本发明流程图。
具体实施方法
见图1所示,本发明的流程包括:
步骤一:建立代价模型。
是指建立云主机调度的代价模型。
该实施例中,设置代价模型配置;
其步骤具体为:代价模型配置模块主要承担系统静态数据配置及管理,比如:建立调度范围的资产台账、设置代价模型的基础维度及权重,设置调度等级、分发模式及调度算法生效周期及设置阈值等。
配置各种资源的关系,例如配电子网包括哪些数据中心;数据中心包括哪些冷池;冷池包括哪些服务器机柜和配电机柜、空调;机柜包含哪些服务器;
步骤二:采集感知数据。
通过动环接口采集服务器、机柜、数据中心的能耗;通过带外网络采集服务器的温度;
通过云操作系统采集虚拟机的CPU、内存、磁盘大小,其详细步骤如下:
1、每个数据中心启动采集代理
2、加载数据收集插件
3、通过用户名、密码、区域ID、命名空间连接到云操系统的认证中心
4、获取所有云主机的列表
5、循环获取每个云主机的CPU、内存、磁盘大小
6、数据分片通过RPC传输到统一存储服务
7、统一存储服务存放在数据库
步骤三:统计感知数据。
是指将采集上来的数据定期统计和排行,统计出配电子网、数据中心、冷池、机柜、服务器最近几个周期的功耗数据;分析出配电子网、数据中心、冷池、机柜、服务器的功耗排行。其详细步骤是:
1、统计最近一段时间配电子网、数据中心的能耗,这个作为代价模型的一个权重因子
2、查询该时间段能耗对应的电价,预测配电子网、数据中心的电费成本,这个作为代价模型的一个权重因子
3、根据虚拟机的CPU、内存和磁盘,从而计算出带宽消耗=(磁盘+内存空间大小),此作为一个权重因子
4、通过虚拟机的磁盘、内存空间大小,计算出迁移时间,再通过服务器的功率计算出这些时间消耗的能耗=(迁移时间/一小时)*服务器功率,此作为一个权重因子
5、通过虚拟机的的磁盘、内存空间大小以及服务器的带宽,从而计算传输延迟=(磁盘+内存空间大小)/服务器带宽,此作为一个权重因子
6、通过虚拟机所在的服务器的温度,计算出当前温度对应的权重值,温度越高,权重值越高,此作为一个权重因子
7、计算出每个虚拟机的权重总和,记录这个周期虚拟机的权重值
步骤四:基于统计数据分析调度预测
指基于感知数据的统计和分析结果,对各个配电子网的功耗进行预测,并且根据算法,对云主机进行调度迁移。是指根据用户选择具体时间段的最佳能耗算法或均衡算法,执行调度迁移。
最佳能耗算法步骤如下,
1、是指调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更高且预测迁移后未超过阈值的目标配电子网
2、若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则能耗最高的目标配电子网
3、通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最高的虚拟机迁移到目标配电子网的数据中心。
4、Slave调度系统收到指令后,选择虚拟机迁移到能耗最高且没有超过阈值的冷池下;
5、进一步,选择虚拟机迁移到能耗最高且没有超过阈值的机柜
6、进一步,选择虚拟机迁移到能耗最高且没有超过阈值的目标服务器下
7、执行虚拟机迁移到目标服务器下
8、若出现服务器空载,则执行关闭服务器电源
均衡算法步骤如下,
1、是指根据调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更低且预测迁移后未超过阈值的目标配电子网
2、若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则能耗最低的目标配电子网
3、通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最低的虚拟机迁移到目标配电子网的数据中心。
4、Slave调度系统收到指令后,选择虚拟机迁移到能耗最低且没有超过阈值的冷池下;
5、进一步,选择虚拟机迁移到能耗最低且没有超过阈值的机柜
6、若冷池下有服务器关机,则执行启动服务器电源,
7、进一步,选择虚拟机迁移到能耗最低且没有超过阈值的目标服务器下
8、执行虚拟机迁移到目标服务器下
步骤五:执行云主机调度。是指通过云平台接口执行云主机迁移。
步骤六:调度结果通知用户且生成调度报表。
例如:数据中心年度、季度或月度的能耗统计形成直观的图表进行展示;冷池年度、季度或月度的能耗统计形成直观的图表进行展示;系统任务调度执行年度、季度和月度的能耗统计形成直观的图表进行展示。
Claims (8)
1.一种基于代价模型的多数据中心调度方法,其特征在于:所述的方法包括如下步骤:
步骤1:建立代价模型;
步骤2:采集感知数据;
步骤3:统计感知数据;
步骤4:基于统计数据分析调度预测;
步骤五:执行云主机调度;
步骤六:调度结果通知用户且生成调度报表。
2.根据权利要求1所述的方法,其特征在于:
所述的步骤1包括设置代价模型配置和配置各种资源的关系;
代价模型配置模块承担系统静态数据配置及管理,包括建立调度范围的资产台账、设置代价模型的基础维度及权重,设置调度等级、分发模式及调度算法生效周期和设置阈值;
配置各种资源的关系包括配电子网包括的数据中心;数据中心包括冷池;冷池包括服务器机柜和配电机柜、空调;机柜包含服务器。
3.根据权利要求1所述的方法,其特征在于:
所述的步骤2是通过动环接口采集服务器、机柜、数据中心的能耗;通过带外网络采集服务器的温度;通过云操作系统采集虚拟机的CPU、内存、磁盘大小;
所述步骤2的具体步骤如下:
每个数据中心启动采集代理;
加载数据收集插件;
通过用户名、密码、区域ID、命名空间连接到云操系统的认证中心;
获取所有云主机的列表;
循环获取每个云主机的CPU、内存、磁盘大小;
数据分片通过RPC传输到统一存储服务;
统一存储服务存放在数据库。
4.根据权利要求1所述的方法,其特征在于:
所述的步骤3是将采集的数据定期统计和排行;统计出配电子网、数据中心、冷池、机柜、服务器最近几个周期的功耗数据;分析出配电子网、数据中心、冷池、机柜、服务器的功耗排行;步骤3具体步骤是:
统计最近一段时间配电子网、数据中心的能耗,作为代价模型的一个权重因子;
查询该时间段能耗对应的电价,预测配电子网、数据中心的电费成本,作为代价模型的一个权重因子;
根据虚拟机的CPU、内存和磁盘,计算出带宽消耗作为一个权重因子,其中带宽消耗=(磁盘+内存空间大小);
通过虚拟机的磁盘、内存空间大小,计算出迁移时间,再通过服务器的功率计算出迁移时间消耗的能耗作为一个权重因子,其中迁移时间消耗的能耗=(迁移时间/一小时)*服务器功率;
通过虚拟机的的磁盘、内存空间大小以及服务器的带宽,从而计算传输延迟作为一个权重因子,其中传输延迟=(磁盘+内存空间大小)/服务器带宽;
通过虚拟机所在的服务器的温度,计算出当前温度对应的权重值作为一个权重因子;其中,温度越高,权重值越高;
计算出每个虚拟机的权重总和,记录这个周期虚拟机的权重值。
5.根据权利要求1所述的方法,其特征在于:
所述的步骤4是基于感知数据的统计和分析结果,对各个配电子网的功耗进行预测;并且根据算法,对云主机进行调度迁移;根据用户选择具体时间段的最佳能耗算法或均衡算法,执行调度迁移。
6.根据权利要求5所述的方法,其特征在于:
所述的最佳能耗算法步骤如下:
调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更高且预测迁移后未超过阈值的目标配电子网;
若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则选择能耗最高的目标配电子网;
通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最高的虚拟机迁移到目标配电子网的数据中心;
Slave调度系统收到指令后,选择虚拟机迁移到能耗最高且没有超过阈值的冷池下;
择虚拟机迁移到能耗最高且没有超过阈值的机柜;
选择虚拟机迁移到能耗最高且没有超过阈值的目标服务器下;
执行虚拟机迁移到目标服务器下;
若出现服务器空载,则执行关闭服务器电源。
7.根据权利要求5所述的方法,其特征在于:
所述的均衡算法步骤如下:
调度系统的Master调度服务根据各个配电子网的功耗,寻找能耗比当前配电子网更低且预测迁移后未超过阈值的目标配电子网;
若存在一个或多个该目标子网迁移所付出的代价小于迁移后电价差额,则选择能耗最低的目标配电子网;
通知本配电子网下的各个数据中心的调度系统Slave调度服务,将该配电子网下权重最低的虚拟机迁移到目标配电子网的数据中心;
Slave调度系统收到指令后,选择虚拟机迁移到能耗最低且没有超过阈值的冷池下;
选择虚拟机迁移到能耗最低且没有超过阈值的机柜;
若冷池下有服务器关机,则执行启动服务器电源;
选择虚拟机迁移到能耗最低且没有超过阈值的目标服务器下;
执行虚拟机迁移到目标服务器下。
8.根据权利要求1所述的方法,其特征在于:
所述的步骤6中,对数据中心年度、季度或月度的能耗统计,冷池年度、季度或月度的能耗统计,系统任务调度执行年度、季度和月度的能耗统计,形成直观的图表进行展示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811558543.XA CN109697108A (zh) | 2018-12-19 | 2018-12-19 | 一种基于代价模型的多数据中心调度方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811558543.XA CN109697108A (zh) | 2018-12-19 | 2018-12-19 | 一种基于代价模型的多数据中心调度方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109697108A true CN109697108A (zh) | 2019-04-30 |
Family
ID=66232093
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811558543.XA Withdrawn CN109697108A (zh) | 2018-12-19 | 2018-12-19 | 一种基于代价模型的多数据中心调度方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109697108A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111481921A (zh) * | 2020-04-10 | 2020-08-04 | 网易(杭州)网络有限公司 | 云游戏实例的调度方法、装置、设备及存储介质 |
CN112395046A (zh) * | 2020-07-30 | 2021-02-23 | 上海有孚智数云创数字科技有限公司 | 基于温度预测的虚拟机迁移规划调度方法及其系统与介质 |
-
2018
- 2018-12-19 CN CN201811558543.XA patent/CN109697108A/zh not_active Withdrawn
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111481921A (zh) * | 2020-04-10 | 2020-08-04 | 网易(杭州)网络有限公司 | 云游戏实例的调度方法、装置、设备及存储介质 |
CN111481921B (zh) * | 2020-04-10 | 2023-06-13 | 网易(杭州)网络有限公司 | 云游戏实例的调度方法、装置、设备及存储介质 |
CN112395046A (zh) * | 2020-07-30 | 2021-02-23 | 上海有孚智数云创数字科技有限公司 | 基于温度预测的虚拟机迁移规划调度方法及其系统与介质 |
CN112395046B (zh) * | 2020-07-30 | 2021-06-04 | 上海有孚智数云创数字科技有限公司 | 虚拟机迁移规划调度方法及其系统与介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10817916B2 (en) | Client-selectable power source options for network-accessible service units | |
Guo et al. | Electricity cost saving strategy in data centers by using energy storage | |
Luo et al. | Spatio-temporal load balancing for energy cost optimization in distributed internet data centers | |
CN114362189A (zh) | 一种可调节负荷参与需求响应的调用方法、系统及装置 | |
Chen et al. | Electric demand response management for distributed large-scale internet data centers | |
US20120226922A1 (en) | Capping data center power consumption | |
US8359598B2 (en) | Energy efficient scheduling system and method | |
JP6819131B2 (ja) | 情報処理装置、情報処理方法、情報処理プログラムおよび情報処理システム | |
US20130035795A1 (en) | System And Method For Using Data Centers As Virtual Power Plants | |
Hatzopoulos et al. | Dynamic virtual machine allocation in cloud server facility systems with renewable energy sources | |
CN104035542B (zh) | 一种计算与制冷能耗权衡的虚拟机迁移方法及系统 | |
Tang et al. | A load control method for small data centers participating in demand response programs | |
KR102210084B1 (ko) | 신재생 에너지 연계형 전기차 충전 스테이션의 운영 및 관리 시스템 | |
WO2017171123A1 (ko) | 수요관리사업자의 경제성 dr 입찰을 위한 최적 분산자원 선택 및 구성 방법 | |
JP5622924B2 (ja) | 電力需要管理システム及び電力需要管理方法 | |
CN105975047A (zh) | 云数据中心功耗调节方法和系统 | |
JP2020120581A (ja) | 制御装置及び需給調整制御装置 | |
CN109697108A (zh) | 一种基于代价模型的多数据中心调度方法 | |
Neglia et al. | Geographical load balancing across green datacenters: A mean field analysis | |
Camus et al. | Self-Consumption Optimization of Renewable Energy Production in Distributed Clouds | |
JPWO2017149618A1 (ja) | 制御装置、発電制御装置、制御方法、システム、及び、プログラム | |
CN102811255A (zh) | 一种用于分布负载的装置和方法 | |
Sukprasert et al. | Quantifying the benefits of carbon-aware temporal and spatial workload shifting in the cloud | |
Wang et al. | Day-ahead emission-aware resource planning for data center considering energy storage and batch workloads | |
Lucanin et al. | A cloud controller for performance-based pricing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20190430 |
|
WW01 | Invention patent application withdrawn after publication |