CN114721835A - 边缘数据中心服务器能耗预测方法、系统、设备及介质 - Google Patents
边缘数据中心服务器能耗预测方法、系统、设备及介质 Download PDFInfo
- Publication number
- CN114721835A CN114721835A CN202210649578.4A CN202210649578A CN114721835A CN 114721835 A CN114721835 A CN 114721835A CN 202210649578 A CN202210649578 A CN 202210649578A CN 114721835 A CN114721835 A CN 114721835A
- Authority
- CN
- China
- Prior art keywords
- energy consumption
- characteristic
- data
- server
- importance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/505—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the load
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Evolutionary Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明实施例中提供了一种边缘数据中心服务器能耗预测方法、系统、设备及介质,属于数据处理技术领域,具体包括:在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;分别从每个系统数据中提取与能耗相关的特征数据集;通过随机森林算法计算每个特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;分别将每个特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;根据目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。通过本发明的方案,基于随机森林算法筛选特征参数并结合时序卷积神经网络建立能耗模型,提高了预测效率和精准度。
Description
技术领域
本发明实施例涉及数据处理技术领域,尤其涉及一种边缘数据中心服务器能耗预测方法、系统、设备及介质。
背景技术
目前,信息技术的发展,尤其是云计算的发展,由于虚拟化、高可靠性、可扩展性和大规模的按需服务,给我们的传统网络赋予了新的活力。与此同时,万物联网的趋势不断加深,智能手机、智能家电等端设备的数量不断增加,数据的快速增长对网络带宽有了更高的要求。边缘数据中心具有高性能、低延迟和高带宽的特点,可以为用户提供不间断的高质量网络体验。将网络边缘上的计算、网络与存储资源组成统一的平台,将数据在源头附近得到有效的处理。与云计算中心相比,每个边缘数据中心覆盖的物理区域较小,因此需要集中部署,同时流量需求的预期增长会导致网络能源消耗的急剧增加,能耗问题不容忽视。
为了满足日益增长的需求,部分互联网公司需要部署越来越多的基础设备,与此同时增加了数据中心的能耗。此外,随着能源消耗的增加,需要更多的冷却设备,从而产生更多的二氧化碳排放。相关数据显示,仅数据中心在2010年就使用了全球1.5%的电力。从2010年到2030年,数据中心的能源消耗预计将增长13%。能源的过度消耗必然会对边缘计算产生负面影响,增加运行成本的同时,对环境也产生了不利的影响。
可见,亟需一种高效精准的边缘数据中心服务器能耗预测方法。
发明内容
有鉴于此,本发明实施例提供一种边缘数据中心服务器能耗预测方法、系统、设备及介质,至少部分解决现有技术中存在预测效率和精准度较差的问题。
第一方面,本发明实施例提供了一种边缘数据中心服务器能耗预测方法,包括:
步骤1,在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
步骤2,分别从每个所述系统数据中提取与能耗相关的特征数据集;
步骤3,通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
步骤4,分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;
步骤5,根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
根据本发明实施例的一种具体实现方式,所述负载任务包括CPU密集型任务、内存密集型任务、I/O密集型任务和混合型任务。
根据本发明实施例的一种具体实现方式,所述步骤4之前,所述方法还包括:
利用预设公式对所述特征子集进行归一化。
根据本发明实施例的一种具体实现方式,所述预设公式为:
根据本发明实施例的一种具体实现方式,所述步骤3具体包括:
步骤3.4,将重要性大于所述阈值的特征参数形成特征子集。
根据本发明实施例的一种具体实现方式,所述时序卷积神经网络为ResNet架构,并由残差连接、因果卷积和膨胀卷积组成。
第二方面,本发明实施例提供了一种边缘数据中心服务器能耗预测系统,包括:
采集模块,用于在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
提取模块,用于分别从每个所述系统数据中提取与能耗相关的特征数据集;
计算模块,用于通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
训练模块,用于分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;
预测模块,用于根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
第三方面,本发明实施例还提供了一种电子设备,该电子设备包括:
至少一个处理器;以及,
与该至少一个处理器通信连接的存储器;其中,
该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述第一方面或第一方面的任一实现方式中的边缘数据中心服务器能耗预测方法。
第四方面,本发明实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述第一方面或第一方面的任一实现方式中的边缘数据中心服务器能耗预测方法。
第五方面,本发明实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述第一方面或第一方面的任一实现方式中的边缘数据中心服务器能耗预测方法。
本发明实施例中的边缘数据中心服务器能耗预测方案,包括:步骤1,在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;步骤2,分别从每个所述系统数据中提取与能耗相关的特征数据集;步骤3,通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;步骤4,分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;步骤5,根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
本发明实施例的有益效果为:通过本发明的方案,基于随机森林算法筛选特征参数并结合时序卷积神经网络建立能耗模型,提高了预测效率和精准度。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它的附图。
图1为本发明实施例提供的一种边缘数据中心服务器能耗预测方法的流程示意图;
图2为本发明实施例提供的一种数据采样过程示意图;
图3为本发明实施例提供的一种随机森林算法示意图;
图4为本发明实施例提供的一种膨胀因果卷积示意图;
图5为本发明实施例提供的一种时序卷积神经网络残差块可视化示意图,其中(a)表示TCN残差块,(b)表示TCN中的残差块连接示例;
图6为本发明实施例提供的一种边缘数据中心服务器能耗预测系统的结构示意图;
图7为本发明实施例提供的电子设备示意图。
具体实施方式
下面结合附图对本发明实施例进行详细描述。
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,下文描述在所附权利要求书的范围内的实施例的各种方面。应显而易见,本文中所描述的方面可体现于广泛多种形式中,且本文中所描述的任何特定结构及/或功能仅为说明性的。基于本发明,所属领域的技术人员应了解,本文中所描述的一个方面可与任何其它方面独立地实施,且可以各种方式组合这些方面中的两者或两者以上。举例来说,可使用本文中所阐述的任何数目个方面来实施设备及/或实践方法。另外,可使用除了本文中所阐述的方面中的一或多者之外的其它结构及/或功能性实施此设备及/或实践此方法。
还需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,图示中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
另外,在以下描述中,提供具体细节是为了便于透彻理解实例。然而,所属领域的技术人员将理解,可在没有这些特定细节的情况下实践所述方面。
本发明实施例提供一种边缘数据中心服务器能耗预测方法,所述方法可以应用于边缘数据中心场景的服务器能耗预测与资源分配过程。
参见图1,为本发明实施例提供的一种边缘数据中心服务器能耗预测方法的流程示意图。如图1所示,所述方法主要包括以下步骤:
步骤1,在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
具体实施时,数据采样是数据分析及建立能耗模型的前提,是数据处理、分析的基础。图2展示数据采样的流程图。由图可知,服务器通过智能电表连接电源。服务器的能耗数据由智能电表记录和保存到记录设备,并通过记录设备监控并记录其与能耗相关的特征参数数据。常见的监控软件有Zabbix、Ganglia、Hadoop内置计数和Nagios等等,其中Zabbix是开源的、兼容性极强且监控内容多样化的特征点,它可以监控主机性能(CPU负载、内存负载、硬盘使用率等)、网络设备(接口状态流量负载、设备运行状态)、数据库性能(数据库读写并发、访问数据库流量)等信息。Ganglia是一款为HPC(高性能计算)集群而设计的可扩展的分布式监控系统,具有良好的扩展性,同时Ganglia的负载开销低、支持高并发。Hadoop为每个作业维护若干内置计数器,如运行MapReduce作业时,从Hadoop集群收集实验数据集。
步骤2,分别从每个所述系统数据中提取与能耗相关的特征数据集;
可选的,所述负载任务包括CPU密集型任务、内存密集型任务、I/O密集型任务和混合型任务。
具体实施时,可以通过分析四种负载任务下服务器中三个主要子组件(CPU、内存、磁盘)的性能(将资源利用率、磁盘的读/写速率作为参考指标)及服务器能耗变化,得到所述特征数据集,以使得能清晰地理解不同负载任务下服务器中主要组件性能及能耗的变化关系,有助于建立能耗模型。通过观察四种负载任务下,CPU、内存利用率和磁盘读写速率变化以及相应时间的功耗变化(如a-d),可以分析出能耗与服务器子组件性能关系是否可以公式化。
a)CPU密集型负载任务:通过观察服务器三个子组件(CPU、内存、磁盘)性能与对应时间的能耗变化,分析CPU利用率变化与能耗之间关系。
b)I/O密集型负载任务:根据服务器三个子组件性能与对应时间的能耗变化,分析磁盘性能变化与能耗之间关系。
c)内存密集型负载任务:分析服务器三个子组件性能与对应时间的能耗变化,分析内存利用率怎样对系统能耗产生影响。
d)混合型负载任务:是以上三种类型负载的混合叠加,主要是模拟常见的生产场景。在混合型负载任务下,系统的性能更加稳定。
步骤3,通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
在上述实施例的基础上,所述步骤3具体包括:
步骤3.4,将重要性大于所述阈值的特征参数形成特征子集。
具体实施时,对于初步筛选出来的特征参数,进一步选择与服务器能耗相关性较大的特征参数对能耗建模尤为重要。针对上述情况,使用随机森林算法筛选特征参数,并将筛选出的特征作为时序卷积神经网络模型的输入来预测服务器能耗。
步骤一:计算袋外数据误差,
步骤二:再次计算加入噪声干扰的袋外数据的误差,
步骤四:筛选出最终特征,
根据前面计算出来的特征重要性,筛选出重要性值较高的特征。
可以将表达式(1)作为相应特征重要性度量的原因为:若给某个特征随机加入噪声之后,袋外的准确率大幅降低,侧说明这个特征对于样本的分类影响很大,也就是说它的重要性程度比较高。
通过随机森林算法计算出每个特征参数的重要性量比(将计算出来的特征重要性用百分比的形式表示),并确定一个阈值(低于阈值的特征参数对系统的能耗贡献可忽略不计),将低于阈值的特征去除,将重要性大于所述阈值的特征参数形成特征子集。
步骤4,分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型。
可选的,所述步骤4之前,所述方法还包括:
利用预设公式对所述特征子集进行归一化。
进一步的,所述预设公式为:
进一步的,所述时序卷积神经网络为ResNet架构,并由残差连接、因果卷积和膨胀卷积组成。
具体实施时,考虑到需要实时地监控并获取服务器的相关性能数据,同时考虑到组合监控能够克服单独的性能监控工具的部分局限性和缺点,我们在采用组合监控的方式去平衡系统开销和监控指标范围。为此,我们采用由Zabbix和Ganglia组成的联合监控方法。Zabbix和Ganglia的主要优点如下:Zabbix是分布式的监控体系和集中式的web管理,能够监控各种服务器/网络参数。Ganglia负载开销低、支持高并发,监控和显示集群中和节点的状态和性能信息。这种组合监控的方法有效融合了这两个监控软件的优势,在共同监控更多样化的能耗相关指标的同时,还确保了较低的系统开销。为了更好的训练模型,对收集到的原始数据进行预处理是必要和关键的,所以对原始数据集进行归一化,它可以加速梯度下降的速度,有助于优化模型训练和提高模型预测精度。因此,通过公式(2)Min-Max标准化对所述特征子集进行线性变换,将值映射到[0,1]区间,具体公式如下所示:
例如,“%Processor Time”是处理器用来处理非闲置线程时间的百分比。“PageFaults”是每秒钟出错页面的平均数量。“%Idle Time”是硬盘空闲时间占比。对于选择的参数:a)有代表性;b)容易监测;c)参数多样化。通过在服务器上部署的Zabbix和Ganglia监控软件获取的与能耗相关特征参数。在本文中,我们通过组合监控(Zabbix和Ganglia)的方式收集服务器在不同负载任务下(CPU密集型任务、内存密集型任务、I/O密集型任务、混合型任务)的与能耗相关的特征参数,并将这些特征参数用于建立能耗模型。
时序卷积神经网络(TCN)可以用来处理时间序列数据。时间序列数据是从不同时间点按顺序收集的数据序列,反映了状态或状态事物或现象随时间变化的程度。根据相关工作可知,TCN可以有效地处理序列建模任务,甚至优于其它模型。同时,TCN比LSTM保持更多的扩展记忆,对于数据的处理比RNN更为准确。TCN体系结构不仅比LSTM和GRU等规范循环网络更精确,而且更清晰,它可能是将深度网络应用于序列的一个更合适的起点。因此,可以使用TCN建立边缘服务器的能耗模型。
本发明实施例中,TCN采用ResNet架构,并由残差连接、因果卷积和膨胀卷积组成,是一个易于理解的结构。TCN使用ResNet架构和膨胀卷积,网络能够非常深入地观察过去进行预测。建模过程中,我们考虑时间序列数据和不同负载任务对服务器的影响,提高能耗模型的预测精度。根据相关工作可知,TCN体系结构比LSTM和GRU等标准循环网络更精确、更清晰。因此,TCN可能是将深度网络应用于序列的一个更合适的起点。另外,TCN具有以下优点:
(1)在训练评估中,一个长的输入序列可以在TCN中作为一个整体处理,而不是像RNN那样按顺序处理。
(2)具有灵活的感受视野,TCN可以通过多种方式改变其感受野大小。因此,TCN可以更好地控制模型的内存大小,并且很容易适应不同的域。
(3)TCN具有稳定的梯度。与循环架构不同,TCN具有不同于序列时间方向的反向传播路径。因此,TCN避免了梯度爆炸/消失的问题。
(4)TCN训练时内存要求低。 特别是在输入序列较长的情况下,LSTM 和GRU很容易占用大量内存来存储它们的多个单元门的部分结果。然而,在TCN中,过滤器跨层共享,反向传播路径仅取决于网络深度。因此,在实践中,我们发现门控RNN可能比TCN使用更多的内存。
(5)TCN可以通过滑动一维卷积核来接收任意长度的输入。
A)膨胀因果卷积
上式中,d是膨胀因子,k是过滤器大小,表示序列元素乘以卷积内核中的元素,每一层的有效历史为。因此,膨胀等效于在每两个相邻的过滤器抽头之间引入一个固定步长。例如,当d=1时,膨胀卷积通常是正常的卷积操作。使用更大的膨胀因子时,可以使得顶层的输出代表更广泛的输入,达到扩展网络的感受野。增加TCN感受野的两种方式为:选择更大的过滤器的k值和增大膨胀因子d。TCN的卷积层结构如图4所示,包括因果卷积和膨胀卷积,其中扩张率d=1、2、4和过滤器尺寸k=3。感受野能够覆盖输入序列中的所有值。将本文实验收集并预处理的数据:作为输入,假设函数映射为:,则膨胀卷积的输出为:
B)残差块
可以将按时间序列收集到的数据集作为TCN网络的输入,用于预测服务器的能耗。如图5(a)所示,残差连接以跨层的方式传输信息,通过将输入的信息与卷积运算相结合来提高深度网络的精度。残差块分为两个部分:直接映射部分和残差部分。表示第i-1个残差块的输入,表示第i-1个残差块的输出,所以每个残差块可表示为:
其中每个残差块包含两层膨胀卷积。同时,为了规范化隐藏层的输入(抵消梯度爆发的问题),权重归一化应用于每个卷积层。为了防止过拟合,在每个残差块的每个卷积层之后通过droput引入正则化。在TCN中,当输入和输出的宽度不一致时,采用残差链接,通过添加1×1卷积来确保逐元素加法接收到相同形状的张量,如图5中(a)和(b)所示,其中(a)表示TCN残差块,(b)表示TCN中的残差块连接示例。残差链接被证明是训练深层网络的有效方法,它使得网络可以跨层的方式传递信息。
将CPU密集型、内存密集型、I/O密集型和混合型下收集到的原始数据经过预处理后,按照合适比例划分为“训练集”和“测试集”,并作为TCN模型训练和预测的输入。在TCN训练和预测的过程中,收集相关结果。通过计算预测结果数据的平均相对误差(MRE)和平均绝对误差(MAE)来评估模型的预测精度。另外,可通过将TCN能耗模型与常见的能耗模型进行对比,证明TCN能耗模型的有效性。
步骤5,根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
具体实施时,当需要对所述目标服务器的能耗进行预测时,可以先检测所述目标服务器的负载状态是CPU密集型任务、内存密集型任务、I/O密集型任务和混合型任务的哪一个,然后选择相应的负载任务下得到的能耗模型预测该服务器的能耗值。具体的,所述负载状态的不同判别标准为:
(1)CPU密集型任务:系统I/O操作较少,主要消耗CPU资源,进程绝大部分任务依靠CPU的计算能力完成。
(2)内存密集型任务:任务长时间占用大量内存资源,其他资源占用率较少。
(3)I/O密集型任务:磁盘、网络I/O占主要的任务,计算量较小。
(4)混合型任务:任务长时间占用较大比例CPU、磁盘、内存等系统各个资源。
本实施例提供的边缘数据中心服务器能耗预测方法,通过基于随机森林算法筛选特征参数并结合时序卷积神经网络建立能耗模型,提高了预测效率和精准度。
与上面的方法实施例相对应,参见图6,本发明实施例还提供了一种边缘数据中心服务器能耗预测系统60,包括:
采集模块601,用于在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
提取模块602,用于分别从每个所述系统数据中提取与能耗相关的特征数据集;
计算模块603,用于通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
训练模块604,用于分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;
预测模块605,用于根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
图6所示系统可以对应的执行上述方法实施例中的内容,本实施例未详细描述的部分,参照上述方法实施例中记载的内容,在此不再赘述。
参见图7,本发明实施例还提供了一种电子设备70,该电子设备包括:至少一个处理器以及与该至少一个处理器通信连接的存储器。其中,该存储器存储有可被该至少一个处理器执行的指令,该指令被该至少一个处理器执行,以使该至少一个处理器能够执行前述方法实施例中的边缘数据中心服务器能耗预测方法。
本发明实施例还提供了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述方法实施例中的边缘数据中心服务器能耗预测方法。
本发明实施例还提供了一种计算机程序产品,该计算机程序产品包括存储在非暂态计算机可读存储介质上的计算程序,该计算机程序包括程序指令,当该程序指令被计算机执行时,使该计算机执行前述方法实施例中的边缘数据中心服务器能耗预测方法。
下面参考图7,其显示出了适于用来实现本发明实施例的电子设备70的结构示意图。本发明实施例中的电子设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等移动终端以及诸如数字TV、台式计算机等等的固定终端。图7示出的电子设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,电子设备70可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有电子设备70操作所需的各种程序和数据。处理装置701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
通常,以下装置可以连接至I/O接口705:包括例如触摸屏、触摸板、键盘、鼠标、图像传感器、麦克风、加速度计、陀螺仪等的输入装置706;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置707;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备70与其他设备进行无线或有线通信以交换数据。虽然图中示出了具有各种装置的电子设备70,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从ROM 702被安装。在该计算机程序被处理装置701执行时,执行本发明实施例的方法中限定的上述功能。
需要说明的是,本发明上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备可以执行上述方法实施例的相关步骤。
或者,上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备可以执行上述方法实施例的相关步骤。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。
应当理解,本发明的各部分可以用硬件、软件、固件或它们的组合来实现。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (9)
1.一种边缘数据中心服务器能耗预测方法,其特征在于,包括:
步骤1,在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
步骤2,分别从每个所述系统数据中提取与能耗相关的特征数据集;
步骤3,通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
步骤4,分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;
步骤5,根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
2.根据权利要求1所述的方法,其特征在于,所述负载任务包括CPU密集型任务、内存密集型任务、I/O密集型任务和混合型任务。
3.根据权利要求1所述的方法,其特征在于,所述步骤4之前,所述方法还包括:
利用预设公式对所述特征子集进行归一化。
6.根据权利要求1所述的方法,其特征在于,所述时序卷积神经网络为ResNet架构,并由残差连接、因果卷积和膨胀卷积组成。
7.一种边缘数据中心服务器能耗预测系统,其特征在于,包括:
采集模块,用于在运行不同负载任务下实时监控和采集目标服务器对应的系统数据;
提取模块,用于分别从每个所述系统数据中提取与能耗相关的特征数据集;
计算模块,用于通过随机森林算法计算每个所述特征数据集中每个特征参数的重要性,并将重要性大于阈值的特征参数形成特征子集;
训练模块,用于分别将每个所述特征子集输入时序卷积神经网络模型进行训练,生成每个负载任务对应的能耗模型;
预测模块,用于根据所述目标服务器当前的负载任务,选择对应的能耗模型预测该服务器的能耗值。
8.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述权利要求1-6中任一项所述的边缘数据中心服务器能耗预测方法。
9.一种非暂态计算机可读存储介质,其特征在于,该非暂态计算机可读存储介质存储计算机指令,该计算机指令用于使该计算机执行前述权利要求1-6中任一项所述的边缘数据中心服务器能耗预测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210649578.4A CN114721835A (zh) | 2022-06-10 | 2022-06-10 | 边缘数据中心服务器能耗预测方法、系统、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210649578.4A CN114721835A (zh) | 2022-06-10 | 2022-06-10 | 边缘数据中心服务器能耗预测方法、系统、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114721835A true CN114721835A (zh) | 2022-07-08 |
Family
ID=82232795
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210649578.4A Pending CN114721835A (zh) | 2022-06-10 | 2022-06-10 | 边缘数据中心服务器能耗预测方法、系统、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114721835A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115965160A (zh) * | 2023-01-18 | 2023-04-14 | 中国长江三峡集团有限公司 | 一种数据中心能耗预测方法、装置、存储介质及电子设备 |
CN116029701A (zh) * | 2023-01-19 | 2023-04-28 | 中国长江三峡集团有限公司 | 一种数据中心能耗评估方法、系统、装置及电子设备 |
CN116132347A (zh) * | 2023-04-06 | 2023-05-16 | 湖南工商大学 | 算网融合环境下基于Bi-LSTM的服务QoS预测方法 |
CN116248680A (zh) * | 2023-05-11 | 2023-06-09 | 湖南工商大学 | 一种从头肽段测序方法、装置及相关设备 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108595301A (zh) * | 2018-03-26 | 2018-09-28 | 中国科学院计算技术研究所 | 一种基于机器学习的服务器能耗预测方法和系统 |
CN110690701A (zh) * | 2019-10-16 | 2020-01-14 | 周静龙 | 一种异常线损影响因素的分析方法 |
CN111612627A (zh) * | 2020-05-28 | 2020-09-01 | 深圳博普科技有限公司 | 一种评估债券风险影响指标的方法 |
AU2020101854A4 (en) * | 2020-08-17 | 2020-09-24 | China Communications Construction Co., Ltd. | A method for predicting concrete durability based on data mining and artificial intelligence algorithm |
CN111737078A (zh) * | 2020-05-12 | 2020-10-02 | 华南理工大学 | 基于负载类型的自适应云服务器能耗测算方法、系统及设备 |
WO2021130298A1 (en) * | 2019-12-26 | 2021-07-01 | Siemens Mobility GmbH | System, apparatus and method for managing energy consumption at a technical installation |
WO2021185448A1 (en) * | 2020-03-19 | 2021-09-23 | Huawei Technologies Co., Ltd. | Temporal filtering in a layered machine learning model |
-
2022
- 2022-06-10 CN CN202210649578.4A patent/CN114721835A/zh active Pending
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108595301A (zh) * | 2018-03-26 | 2018-09-28 | 中国科学院计算技术研究所 | 一种基于机器学习的服务器能耗预测方法和系统 |
CN110690701A (zh) * | 2019-10-16 | 2020-01-14 | 周静龙 | 一种异常线损影响因素的分析方法 |
WO2021130298A1 (en) * | 2019-12-26 | 2021-07-01 | Siemens Mobility GmbH | System, apparatus and method for managing energy consumption at a technical installation |
WO2021185448A1 (en) * | 2020-03-19 | 2021-09-23 | Huawei Technologies Co., Ltd. | Temporal filtering in a layered machine learning model |
CN111737078A (zh) * | 2020-05-12 | 2020-10-02 | 华南理工大学 | 基于负载类型的自适应云服务器能耗测算方法、系统及设备 |
CN111612627A (zh) * | 2020-05-28 | 2020-09-01 | 深圳博普科技有限公司 | 一种评估债券风险影响指标的方法 |
AU2020101854A4 (en) * | 2020-08-17 | 2020-09-24 | China Communications Construction Co., Ltd. | A method for predicting concrete durability based on data mining and artificial intelligence algorithm |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115965160A (zh) * | 2023-01-18 | 2023-04-14 | 中国长江三峡集团有限公司 | 一种数据中心能耗预测方法、装置、存储介质及电子设备 |
CN115965160B (zh) * | 2023-01-18 | 2023-08-08 | 中国长江三峡集团有限公司 | 一种数据中心能耗预测方法、装置、存储介质及电子设备 |
CN116029701A (zh) * | 2023-01-19 | 2023-04-28 | 中国长江三峡集团有限公司 | 一种数据中心能耗评估方法、系统、装置及电子设备 |
CN116029701B (zh) * | 2023-01-19 | 2024-02-27 | 中国长江三峡集团有限公司 | 一种数据中心能耗评估方法、系统、装置及电子设备 |
CN116132347A (zh) * | 2023-04-06 | 2023-05-16 | 湖南工商大学 | 算网融合环境下基于Bi-LSTM的服务QoS预测方法 |
CN116248680A (zh) * | 2023-05-11 | 2023-06-09 | 湖南工商大学 | 一种从头肽段测序方法、装置及相关设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Abd Elaziz et al. | Advanced optimization technique for scheduling IoT tasks in cloud-fog computing environments | |
CN114721835A (zh) | 边缘数据中心服务器能耗预测方法、系统、设备及介质 | |
US10032114B2 (en) | Predicting application performance on hardware accelerators | |
CN110704751B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN113435602A (zh) | 确定机器学习样本的特征重要性的方法及系统 | |
CN106020715A (zh) | 存储池容量管理 | |
CN113886181B (zh) | 应用于AIOps故障预警的动态阈值预测方法、设备及介质 | |
CN111243682A (zh) | 药物的毒性预测方法及装置、介质和设备 | |
WO2021130596A1 (en) | Elastic execution of machine learning workloads using application based profiling | |
CN107392259B (zh) | 构建不均衡样本分类模型的方法和装置 | |
CN110708285B (zh) | 流量监控方法、装置、介质及电子设备 | |
US20210174189A1 (en) | Optimization Framework for Real-Time Rendering of Media Using Machine Learning Techniques | |
CN112037223B (zh) | 图像缺陷检测方法、装置及电子设备 | |
CN110348578A (zh) | 一种安全事件情景推演构建方法、系统、设备及介质 | |
CN111291715B (zh) | 基于多尺度卷积神经网络的车型识别方法、电子设备及存储介质 | |
Ding et al. | Classification rules mining model with genetic algorithm in cloud computing | |
CN110069997B (zh) | 场景分类方法、装置及电子设备 | |
CN113869599A (zh) | 鱼类疫病发展预测方法、系统、设备及介质 | |
CN111158918B (zh) | 支撑点并行枚举负载均衡方法、装置、设备及介质 | |
CN115543638B (zh) | 基于不确定性的边缘计算数据收集分析方法、系统及设备 | |
Xiong et al. | ShenZhen transportation system (SZTS): a novel big data benchmark suite | |
CN110555861A (zh) | 光流计算方法、装置及电子设备 | |
Khan | Hadoop performance modeling and job optimization for big data analytics | |
CN113672675B (zh) | 数据检测方法、装置和电子设备 | |
CN109255432B (zh) | 神经网络模型构建方法及装置、存储介质、电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220708 |