CN110532057A - 一种容器的资源使用量预测方法 - Google Patents
一种容器的资源使用量预测方法 Download PDFInfo
- Publication number
- CN110532057A CN110532057A CN201910678871.1A CN201910678871A CN110532057A CN 110532057 A CN110532057 A CN 110532057A CN 201910678871 A CN201910678871 A CN 201910678871A CN 110532057 A CN110532057 A CN 110532057A
- Authority
- CN
- China
- Prior art keywords
- node
- indicate
- intensive
- usage amount
- container
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
- G06F9/45533—Hypervisors; Virtual machine monitors
- G06F9/45558—Hypervisor-specific management and integration aspects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5019—Workload prediction
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种容器的资源使用量预测方法,通过构建密集型宽度学习模型,在此基础利用基于迭代式的最小二乘法求取特征节点的输出权值矩阵,以及采用共轭梯度法求解增强节点的输出权值矩阵,实现对密集型宽度学习模型的训练,从而获取全局最优解,优化网络结构,实现对容器的资源使用量的精确预测,能够有效提高预测精度和效率。
Description
技术领域
本发明涉及云计算技术领域,具体涉及一种容器的资源使用量预测方法。
背景技术
随着云计算技术的发展,容器云以其能提供更加轻量级的虚拟化解决方案 在云计算技术中占据越来越重要的地位。Kubernetes作为主流的容器云平台构建 于Docker之上,能为容器化应用提供资源调度、资源监控、自动化部署、服务 发现、弹性伸缩等服务。
容器的资源使用量预测是云服务商制定容器云弹性伸缩策略的关键环节, 它在为企业决策者们提供容器配置的依据方面起着越来越重要的作用。容器的 资源使用量预测是指通过研究容器的资源使用量的历史数据,找出这些数据的 发展趋势或者它们之间存在的关系,然后利用合适的数学方法建立针对容器的 资源使用量的预测模型,最终获得未来一段时间内容器的资源使用量的需求情 况。容器的资源使用量预测不仅为云容量规划、容器配置提供有效的决策支持, 而且容器的资源使用量预测对云计算资源的优化配置,云服务商的成本降低, 云系统的平稳运行有着重要影响。
设计预测模型与学习算法是容器的资源使用量预测研究的关键问题。现有 技术中采用基于传统的宽度学习预测模型,该预测模型利用岭回归方法,通过 试凑法获取最优正则化系数的方式,求取输出权值矩阵,这种方法需要人为调 整正则化系数,对于人为因素依赖性过高,从而降低了效率与泛化性能,因此 设计高效的预测模型对容器的资源使用量预测具有十分重要的意义。
发明内容
有鉴于此,本发明提供了一种容器的资源使用量预测方法,通过构建密集 型宽度学习模型,在此基础利用基于迭代式的最小二乘法求取特征节点的输出 权值矩阵,以及采用共轭梯度法求解增强节点的输出权值矩阵,实现对密集型 宽度学习模型的训练,从而获取全局最优解,优化网络结构,实现对容器的资 源使用量的精确预测,能够有效提高预测精度和效率。
本发明提供的一种容器的资源使用量预测方法,具体包括如下步骤:
步骤一、采集容器的资源使用量历史数据构建训练样本集,样本的输出为 选定时间点的容器的资源使用量,输入为所述选定时间点前的连续多个时间点 的容器的资源使用量;
步骤二、建立密集型宽度学习模型为式(1),并利用训练样本集进行训练:
式中,
其中,FN×1表示密集型宽度学习模型的输出数据,N表示样本个数,b表 示密集型特征节点的个数,d表示密集型增强节点的个数,表示密集型特 征节点矩阵,表示密集型增强节点矩阵,Wb×1表示密集型特征节点输出 权值矩阵,Wd×1表示密集型增强节点输出权值矩阵,W(b+d)×1表示输出权值矩 阵;Zi N×1表示第i个特征节点向量,XN×M表示密集型宽度学习模型的输入数据,M表示每个输入样本向量的特征维数,表示输入到第i个特征节点之间的 输入权值矩阵,表示第i个特征节点的偏置;Ηi N×1表示第i个增强节点向 量,表示特征节点到第i个增强节点之间的输入权值矩阵,表示第i 个增强节点的偏置;φ与均为可选择的非线性激活函数;和均为随机生成,且生成后保持不变;
求解特征节点的输出权值矩阵,在此基础上,以完成训练的特征节点形成 的误差作为输入,求解增强节点的输出权值矩阵,完成所述密集型宽度学习模 型的训练;
步骤三、将当前时间点前的连续多个时间点的容器的资源使用量输入到步 骤二训练好的所述密集型宽度学习模型中,预测当前时间点的容器的资源使用 量。
进一步地,所述非线性激活函数为sigmoid函数或sine函数。
进一步地,所述时间点的容器的资源使用量为当天0时到24时的容器的资 源使用量的平均值。
进一步地,所述步骤二中,采用基于迭代式的最小二乘法求解所述特征节 点的输出权值矩阵,采用共轭梯度法求解所述增强节点的输出权值矩阵。
有益效果:
本发明通过建立密集型宽度学习模型,在宽度学习模型的基础上,将特征 节点矩阵及增强节点矩阵分别进行线性组合形成新的密集型的特征节点矩阵与 增强节点矩阵,提高了宽度学习模型的泛化性能,在此基础上,利用基于迭代 式的最小二乘法与共轭梯度方法分别计算特征节点和增强节点的输出权值矩 阵,能够在无须人为参与的情况下提高算法的泛化性能,在一定程度上能够满 足容器的资源使用量预测的需要,同时为更准确地进行容器的资源使用量预测 提供了新思路和新途径。
具体实施方式
下面举实施例,对本发明进行详细描述。
本发明提供了一种容器的资源使用量预测方法,其基本思想是:采用容器 的资源使用量的历史数据输入宽度学习模型预测得到当前容器的资源使用量。 同时,建立密集型宽度学习模型,在宽度学习模型的基础上,将特征节点矩阵 及增强节点矩阵分别进行线性组合形成新的密集型的特征节点矩阵与增强节点 矩阵,在此基础上,利用基于迭代式的最小二乘法与共轭梯度方法分别计算特 征节点和增强节点的输出权值矩阵,从而完成对密集型宽度学习模型的训练。
本发明的预测方法包括基于共轭梯度的密集型宽度学习模型的构建、训练 和预测,具体步骤如下:
步骤一,采集容器的资源使用量历史数据形成训练样本。
采集预测时间点前M天的容器的资源使用量(本实施例中“时间点”的单 位为“天”),记录每天从0时到24时容器的资源使用量,再对记录到的结果求 平均值作为当天的容器的资源使用量,一共记录M个时间点的数据,M>4,形 成历史数据集K={k1,k2,…,km,…,kM},其中,km为第m天的容器的资源使用量。
从历史数据集K={k1,k2,…,km,…,kM}中选取训练样本的输入和输出,其中输 出为第j个时间点的容器的资源使用量,表达为yj=kj;对应的输入为第j个时 间之前的连续Q个时间点的容器的资源使用量,Q为大于或等于2的正整数。 这里可以设定由宽度为Q=4个时间点的滑动窗口按照1个时间点的宽度为步长 移动选择作为输入的时间点,那么第j个时间的输入样本表达为xj=[kp-1,kp-2,kp-3,kp-4],其中(p-4)>j。那么建立的训练样本集为 j表示第j个样本,N为训练样本集中样本的总数。
步骤二,建立密集型宽度学习模型为式(1),并利用训练样本集进行训练:
其中,FN×1∈RN×1表示密集型宽度学习模型的输出数据,N表示样本个数, b表示密集型特征节点的个数,d表示密集型增强节点的个数,表示密集 型特征节点矩阵,表示密集型增强节点矩阵,Wb×1表示密集型特征节点 输出权值矩阵,Wd×1表示密集型增强节点输出权值矩阵,W(b+d)×1表示输出权 值矩阵;Zi N×1表示第i个特征节点向量,XN×M∈RN×M表示密集型宽度学习模 型的输入数据,M表示每个输入样本向量的特征维数,表示输入到第i 个特征节点之间的输入权值矩阵,表示第i个特征节点的偏置;Ηi N×1表示 第i个增强节点向量,表示特征节点到第i个增强节点之间的输入权值矩阵, 表示第i个增强节点的偏置;φ与均为可选择的非线性激活函数; 和均为随机生成,且生成后保持不变。其中,现有技术中特征 节点矩阵由特征节点向量构成,而本发明中的密集型特征节点矩阵是由公式(1) 中的构成,由此可见,密集型特征节点矩阵中的特征节 点向量是由特征节点向量线性组合而成,即每项密集型特征节点矩阵中的特征 节点向量为每项特征节点向量与其前向特征节点向量的和;同理,密集型增强 节点矩阵是由公式(1)中的构成,密集型增强节点矩 阵是由增强节点向量线性组合而成,即每项密集型增强节点矩阵中的增强节点 向量为每项增强节点向量与其前向增强节点向量的和。
本发明通过建立密集型宽度学习模型,与原始的宽度学习模型相比,密集 型宽度学习模型提出了一个激进的密集连接机制,即分别将所有的特征节点和 增强节点间的输出矩阵逐个实现相互连接,从而建立了前面特征节点与后续特 征节点、前面增强节点与后续增强节点的密集连接,实现了特征节点与增强节 点输出矩阵的特征重用,该模型在相同节点参数的情形下具有比宽度学习更优 的泛化性能。
步骤三,采用训练样本训练密集型宽度学习模型,本发明首先采用基于迭 代式的最小二乘法求解特征节点的输出权值矩阵,在此基础上,以完成训练的 特征节点形成的误差作为输入,采用共轭梯度法求解增强节点的输出权值矩阵, 从而完成所述密集型宽度学习模型的训练。
训练样本分为两个部分,一部分用于训练,另一部分用于测试;当密集型 宽度学习模型的训练完成后,利用测试样本进行测试。
步骤四:基于共轭梯度的密集型宽度学习预测容器的资源使用量。
利用上述方法训练得到的基于共轭梯度的密集型宽度学习模型,可对待预 测容器的资源使用量进行预测,将当前时间点之前的连续Q个时间点的容器的 资源使用量输入上述容器的资源使用量预测模型中,便可得到当前时间点的容 器的资源使用量。
基于迭代式的最小二乘法求解密集型特征节点的输出权值矩阵,具体包括 如下步骤:
定义,L为所述密集型宽度学习模型中的第L个密集型特征节点,L的初始 值为L=1,且1≤L≤b;EN×1为所述密集型宽度学习模型的误差,其初始值为 E0 N×1=YN×1,YN×1为所述密集型宽度学习模型的理想输出矩阵;
步骤1.1、根据最小二乘法采用公式(2)计算第L个密集型特征节点的输 出权值:
式中,EL-1 N×1表示当所述密集型宽度学习模型中包含L-1个密集型特征节点 时,所述密集型宽度学习模型存在的误差;表示第L个密集型特征节点的 输出矩阵;WL表示第L个密集型特征节点的输出权值;
步骤1.2、根据步骤1.1中计算出的输出权值,采用公式(3)计算所述密集 型宽度学习模型当前的误差值:
式中,EL N×1表示当所述密集型宽度学习模型中包含L个密集型特征节点时, 所述密集型宽度学习模型存在的误差;
步骤1.3、令L自加1,当L≤b,执行步骤1.1;否则,则完成训练,输出 全部密集型特征节点的误差Eb N×1及特征节点的输出权值矩阵Wb×1,结束本流 程。
将步骤1.3中输出的全部密集型特征节点的误差Eb N×1作为共轭梯度法的输 入,采用共轭梯度法求解增强节点的输出权值矩阵,具体包括如下步骤:
步骤2.1、随机产生密集型增强节点的输出权值矩阵误差期望值为 ε>0,密集型增强节点的编号为k,且令k=0,则初始误差为
步骤2.2、令k自加1,若k=1,则令若k>1,则令其中,为搜索方向;
步骤2.3、计算步长因子
步骤2.4、更新密集型增强节点的输出权值矩阵
步骤2.5、计算第k步的误差
步骤2.6、当时,则令完成训练,输出Wd×1,结束 本流程;否则,执行步骤2.2。
上述过程中,以全部密集型特征节点的误差Eb N×1作为输入,采用共轭梯度 法求解增强节点的输出权值矩阵的方式,能够有效降低密集型宽度学习模型的 误差,使模型较易收敛,从而提高了密集型宽度学习模型的学习速度、缩短了 模型的训练时间,同时由于本发明的训练过程采用了迭代式的最小二乘法与共 轭梯度法的结合,能够有效的克服两种方法的不足,即过拟合和容易陷入局部 的问题。
综上所述,以上仅为本发明的较佳实施例而已,并非用于限定本发明的保 护范围。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等, 均应包含在本发明的保护范围之内。
Claims (4)
1.一种容器的资源使用量预测方法,其特征在于,具体包括如下步骤:
步骤一、采集容器的资源使用量历史数据构建训练样本集,样本的输出为选定时间点的容器的资源使用量,输入为所述选定时间点前的连续多个时间点的容器的资源使用量;
步骤二、建立密集型宽度学习模型为如下公式,并利用训练样本集进行训练:
,
式中,
其中,FN×1表示密集型宽度学习模型的输出数据,N表示样本个数,b表示密集型特征节点的个数,d表示密集型增强节点的个数,表示密集型特征节点矩阵,表示密集型增强节点矩阵,Wb×1表示密集型特征节点输出权值矩阵,Wd×1表示密集型增强节点输出权值矩阵,W(b+d)×1表示输出权值矩阵;Zi N×1表示第i个特征节点向量,XN×M表示密集型宽度学习模型的输入数据,M表示每个输入样本向量的特征维数,表示输入到第i个特征节点之间的输入权值矩阵,表示第i个特征节点的偏置;Hi N×1表示第i个增强节点向量,表示特征节点到第i个增强节点之间的输入权值矩阵,表示第i个增强节点的偏置;φ与均为可选择的非线性激活函数;和均为随机生成,且生成后保持不变;
求解特征节点的输出权值矩阵,在此基础上,以完成训练的特征节点形成的误差作为输入,求解增强节点的输出权值矩阵,完成所述密集型宽度学习模型的训练;
步骤三、将当前时间点前的连续多个时间点的容器的资源使用量输入到步骤二训练好的所述密集型宽度学习模型中,预测当前时间点的容器的资源使用量。
2.根据权利要求1所述的方法,其特征在于,所述非线性激活函数为sigmoid函数或sine函数。
3.根据权利要求1所述的方法,其特征在于,所述时间点的单位为天,所述时间点的容器的资源使用量为当天0时到24时的容器的资源使用量的平均值。
4.根据权利要求1所述的方法,其特征在于,所述步骤二中,采用基于迭代式的最小二乘法求解所述特征节点的输出权值矩阵,采用共轭梯度法求解所述增强节点的输出权值矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910678871.1A CN110532057B (zh) | 2019-07-25 | 2019-07-25 | 一种容器的资源使用量预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910678871.1A CN110532057B (zh) | 2019-07-25 | 2019-07-25 | 一种容器的资源使用量预测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110532057A true CN110532057A (zh) | 2019-12-03 |
CN110532057B CN110532057B (zh) | 2021-12-10 |
Family
ID=68660915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910678871.1A Active CN110532057B (zh) | 2019-07-25 | 2019-07-25 | 一种容器的资源使用量预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110532057B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111274530A (zh) * | 2020-01-19 | 2020-06-12 | 北京理工大学 | 一种容器云资源的预测方法 |
CN114493732A (zh) * | 2020-10-27 | 2022-05-13 | 华中科技大学 | 生鲜电商可复用容器租赁数量预测模型建立方法及其应用 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809247A (zh) * | 2016-02-25 | 2016-07-27 | 中国石油大学(华东) | 一种基于共轭梯度法的超限学习机建模方法 |
CN109445906A (zh) * | 2018-10-11 | 2019-03-08 | 北京理工大学 | 一种虚拟机需求数量预测方法 |
CN110018882A (zh) * | 2019-03-29 | 2019-07-16 | 北京理工大学 | 一种基于宽度学习的虚拟机性能预测方法 |
-
2019
- 2019-07-25 CN CN201910678871.1A patent/CN110532057B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105809247A (zh) * | 2016-02-25 | 2016-07-27 | 中国石油大学(华东) | 一种基于共轭梯度法的超限学习机建模方法 |
CN109445906A (zh) * | 2018-10-11 | 2019-03-08 | 北京理工大学 | 一种虚拟机需求数量预测方法 |
CN110018882A (zh) * | 2019-03-29 | 2019-07-16 | 北京理工大学 | 一种基于宽度学习的虚拟机性能预测方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111274530A (zh) * | 2020-01-19 | 2020-06-12 | 北京理工大学 | 一种容器云资源的预测方法 |
CN111274530B (zh) * | 2020-01-19 | 2021-12-31 | 北京理工大学 | 一种容器云资源的预测方法 |
CN114493732A (zh) * | 2020-10-27 | 2022-05-13 | 华中科技大学 | 生鲜电商可复用容器租赁数量预测模型建立方法及其应用 |
CN114493732B (zh) * | 2020-10-27 | 2024-05-28 | 华中科技大学 | 生鲜电商可复用容器租赁数量预测模型建立方法及其应用 |
Also Published As
Publication number | Publication date |
---|---|
CN110532057B (zh) | 2021-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104636801B (zh) | 一种基于优化bp神经网络的预测输电线路可听噪声方法 | |
Mellit et al. | Application of neural networks and genetic algorithms for sizing of photovoltaic systems | |
CN109117951A (zh) | 基于bp神经网络的概率潮流在线计算方法 | |
Guo et al. | Study on short-term photovoltaic power prediction model based on the Stacking ensemble learning | |
CN108549929A (zh) | 一种基于深层卷积神经网络的光伏功率预测方法 | |
CN108985521A (zh) | 光伏发电系统的输出功率预测方法、装置、设备及介质 | |
CN104636985A (zh) | 一种改进bp神经网络的输电线路无线电干扰预测方法 | |
CN108921298A (zh) | 强化学习多智能体沟通与决策方法 | |
CN109324291A (zh) | 一种针对质子交换膜燃料电池寿命预测的预测方法 | |
CN104408562A (zh) | 一种基于bp神经网络的光伏系统发电效率综合评估方法 | |
CN106803135A (zh) | 一种光伏发电系统输出功率的预测方法及装置 | |
Weng et al. | An evolutionary Nelder–Mead slime mould algorithm with random learning for efficient design of photovoltaic models | |
CN108921359A (zh) | 一种分布式瓦斯浓度预测方法及装置 | |
CN109934422A (zh) | 一种基于时间序列数据分析的神经网络风速预测方法 | |
CN107766991A (zh) | 一种分布式电源接入配电网的规划优化方法及系统 | |
CN110532057A (zh) | 一种容器的资源使用量预测方法 | |
CN110070228A (zh) | 一种神经元分支进化的bp神经网络风速预测方法 | |
CN109445906A (zh) | 一种虚拟机需求数量预测方法 | |
CN109858665A (zh) | 基于特征筛选与anfis-pso的光伏短期功率预测方法 | |
CN107453921A (zh) | 基于非线性神经网络的智慧城市系统人工智能评价方法 | |
CN105719101A (zh) | 光伏系统发电功率预测方法 | |
CN109961173A (zh) | 一种用于分布式电源发电功率的智能预测方法 | |
CN116307211A (zh) | 一种风电消纳能力预测及优化方法及系统 | |
CN109038605A (zh) | 一种考虑电压响应特性的电网无功规划方法 | |
CN115185334A (zh) | 一种基于gru神经网络的光伏mppt方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |