CN109445906B - 一种虚拟机需求数量预测方法 - Google Patents

Abstract

本发明公开了一种虚拟机需求数量预测方法。使用本发明能够实现虚拟机需求数量预测，同时为更准确地进行虚拟机需求预测提供了新思路和新途径。本发明中，通过在现有增量型极限学习机模型中加入动量项将网络训练误差反馈到隐含层的输出中使预测结果更逼近输出样本，能够减少增量型极限学习机的冗余隐含层节点，从而加快增量型极限学习机的网络收敛速度；通过引入优化解，即在训练过程中通过随机产生的输出权值并结合网络训练误差、输入样本，计算出更优的隐含层节点参数，包括输入权值、阈值、输出权值、网络训练误差，能够优化网络结构，提高网络训练过程的稳定性，从而有效降低网络训练误差。

Description

一种虚拟机需求数量预测方法

技术领域

本发明涉及云计算技术领域，具体涉及一种虚拟机需求数量预测方法。

背景技术

随着云计算技术的日趋成熟，云计算普遍采用虚拟化技术给用户分配计算资源，用户所获得的资源并不是一台或多台物理服务器，而是一台或多台物理服务器提供的虚拟机服务。在现有技术条件下，从响应客户需求到配置虚拟机的过程需要数分钟完成，但从提高效率节省时间成本的角度出发，现代虚拟机部署仅需数秒就能完成。

虚拟机需求数量预测是云服务商资源优化配置不可或缺的一个重要组成部分，它在为企业决策者们提供虚拟机配置的依据方面起着越来越重要的作用。虚拟机需求数量预测是指通过研究虚拟机需求的历史数据，找出这些数据的发展趋势或者它们之间存在的关系，然后利用合适的数学方法建立针对虚拟机需求的预测模型，最终获得未来一段时间内虚拟机的需求情况。虚拟机需求数量预测不仅为云容量规划、即时虚拟机配置提供有效的决策支持，而且虚拟机需求数量预测对云计算资源的优化配置，云服务商的成本降低，云系统的平稳运行有着重要影响。

设计预测模型与学习算法是虚拟机需求数量预测研究的关键问题。现有技术中采用基于传统的增量型极限学习机的预测模型存在许多降低准确性和学习效率的冗余节点，随机产生隐含层节点参数影响增量型极限学习机的稳定性，导致网络训练误差较大，因此设计高效的预测模型对虚拟机需求数量预测具有十分重要的意义。

发明内容

有鉴于此，本发明提供了一种虚拟机需求数量预测方法，通过在增量型极限学习机模型和训练过程中引入动量项和优化解，构建基于动量项与优化解的增量型极限学习机模型，实现对虚拟机需求数量的精确预测，能够有效提高预测精度和效率。

本发明的一种虚拟机需求数量预测方法，采用基于动量项与优化解的增量型极限学习机实现虚拟机需求数量预测，具体包括如下步骤：

步骤一、采用虚拟机请求数量的历史数据构建训练样本集，样本的输出为选定时间点的虚拟机请求数量，输入为所述选定时间点前的多个时间点的虚拟机请求数量；

步骤二、构建引入了动量项与优化解的增量型极限学习机模型为式(1)，并利用训练样本集进行训练；

式中，i表示为隐含层中的第i个节点，L_f表示经过训练后所确定的隐含层节点数；

第i个隐含层节点的输出矩阵；

为针对第i个隐含层节点加入的所述动量项，其中，e_i-1为在训练中由于增加了第i-1个隐含层节点而引入的网络训练误差，其表达了当学习机中仅有第1～第i-1个隐含层节点时，学习机产生的输出与样本给定的理想输出之间的差值；

是为第i个隐含层节点确定的输出权值的优化值，是隐含层节点输出权值的随机给定值与隐含层节点输出权值修正值的线性组合，其中隐含层节点输出权值的修正值是由训练中获得的隐含层节点输入权值和隐含层节点阈值迭代计算得到，隐含层节点输入权值和隐含层节点阈值是由训练中隐含层节点的网络训练误差和输入样本迭代计算得到；所述隐含层节点的

输入权值、阈值共同构成了所述优化解；

步骤三、将当前时间点前的多个时间的虚拟机请求数量输入到步骤二训练好的增量型极限学习机中，预测当前时间点的虚拟机请求数量。

进一步地，所述基于动量项与优化解的增量型极限学习机的训练过程包括如下步骤，每输入一个训练样本就执行一遍：

定义当前样本的输入向量为x，输出为y；

步骤1、极限学习机网络初始化阶段，令隐含层节点数L的初始值为0，最大值为L_max，网络训练误差e_L＝e₀＝y，误差期望值为ε；

步骤2、在隐含层增加一个节点，令L自加1，同时将L赋予新增加的隐含层节点作为其节点编号，随机产生该新增隐含层节点的输出权值β_L和相关参数v_L、z_L，且满足0<v_L<z_L<1,v_L+z_L＝1；

步骤3、根据式(2)计算新增隐含层节点的输出反馈矩阵：

H_L＝e_L-1(β_L)^-1 (2)

式中，e_L-1是增加前一个隐含节点的训练过程中所确定的，其表示当隐含层节点数为L-1时的网络训练误差；

步骤4、根据式(3)计算新增隐含层节点的输入权值：

a_L＝u(H_L)·x^-1 (3)

式中，u(H_L)＝arcsine(H_L)或u(H_L)＝arcsig(H_L)；

步骤5、根据式(4)计算新增隐含层节点的阈值：

b_L＝rmse(u(H_L)-a_L·x) (4)

式中，rmse为均方根误差函数；

步骤6、根据式(5)计算新增隐含层节点的输出矩阵：

步骤7、根据式(6)计算新增隐含层节点的输出权值的修正值：

步骤8、根据式(7)计算新增隐含层节点的输出权值的优化值：

步骤9、根据式(8)计算在增加了第L个新增隐含层节点后的网络训练误差值：

式中，

为动量项；

步骤10、判断是否满足L≥L_max或||e_L||≤ε，如果是，则完成训练，结束本流程，否则，返回步骤2。

进一步地，本发明所述时间点的单位为天，所述时间点的虚拟机请求数量为当天0时到24时的虚拟机请求数量之和。

有益效果：

本发明能够克服现有方法中，存在许多降低准确性和学习效率的冗余隐含层节点，随机产生隐含层节点参数影响增量型极限学习机的稳定性的缺点，在一定程度上能够满足虚拟机需求预测的需要，同时为更准确地进行虚拟机需求预测提供了新思路和新途径，具体来说包括以下几点：

1、通过在现有增量型极限学习机模型中加入动量项将网络训练误差反馈到隐含层的输出中使预测结果更逼近输出样本，能够减少增量型极限学习机的冗余隐含层节点，从而加快增量型极限学习机的网络收敛速度。

2、通过在现有增量型极限学习机模型的训练过程中引入优化解，即在训练过程中通过随机产生的输出权值并结合网络训练误差、输入样本，计算出更优的隐含层节点参数，包括输入权值、阈值、输出权值、网络训练误差，能够优化网络结构，提高网络训练过程的稳定性，从而有效降低网络训练误差。

附图说明

图1为基于动量项与优化解的增量型极限学习机算法流程。

图2(a)为基于动量项与优化解的增量型极限学习机预测结果图。

图2(b)为基于宽度学习模型预测结果图。

图2(c)为基于核函数的极限学习机模型预测结果图。

图2(d)为基于支持向量机模型(SVM)预测结果图。

图3为不同预测模型的性能对比图。

具体实施方式

下面结合附图并举实施例，对本发明进行详细描述。

本发明提供了一种虚拟机需求数量预测方法，其基本思想是：采用虚拟机需求数量的历史数据输入增量型极限学习机预测得到当前虚拟机需求数量。同时，对增量型极限学习机进行改进，一是在增量型极限学习机模型中增加了动量项，该动量项表达了输出权值优化值和网络训练误差对预测结果的影响，能够加快增量型极限学习机的收敛速度，提高增量型极限学习机的泛化性能；二是对现有增量型极限学习机在进行训练的过程中所采用的随机参数进行优化，引入输出反馈矩阵，并结合输入样本和网络训练误差，计算得到隐含层节点参数的优化解，包括输入权值、阈值、输出权值的优化值、网络训练误差，使网络输出结果逐渐逼近训练样本的标准输出，从而提高了增量型极限学习机的稳定性。

本发明的预测方法包括基于动量项和优化解的增量型极限学习机的构建、训练和预测，如图1所示，具体步骤如下：

步骤一：采集历史虚拟机需求数据形成训练样本。

采集预测时间点前M天的虚拟机请求数量(本实施例中“时间点”的单位为“天”)，记录每天从0时到24时虚拟机请求数量，一共记录M个时间点的数据，M>4，形成历史数据集K＝{k₁,k₂,…,k_m,…,k_M}，其中，k_m为第m天的虚拟机请求数量。

从历史数据集K＝{k₁,k₂,…,k_m,…,k_M}中选取训练样本的输入和输出，其中输出为第j个时间点的虚拟机请求数量，表达为y_j＝k_j；对应的输入为第j个时间之前的连续Q个时间点的虚拟机请求数量，Q为大于或等于2的正整数。这里可以设定由宽度为Q＝4个时间点的滑动窗口按照1个时间点的宽度为步长移动选择作为输入的时间点，那么第j个时间的输入样本表达为x_j＝[k_p-1,k_p-2,k_p-3,k_p-4]，其中(p-4)>j。那么建立的训练样本集为

j表示第j个样本，N为训练样本集中样本的总数。

步骤二：构建基于动量项与优化解的增量型极限学习机模型。

基于动量项与优化解的增量型极限学习机由三部分组成：输入层、隐含层和输出层，输入层的节点数量与输入向量x_j的元素个数相同，输出层的节点数输出向量y_j的元素个数相同，隐含层节点个数是L。该L值根据实际的训练情况获得，有可能是设定的作为跳出条件的隐含层最大节点数L_max，也可能是小于L_max的值。

基于动量项与优化解的增量型极限学习机模型为式(1)：

式中，i表示为隐含层中的第i个节点，L_f表示经过训练后所确定的隐含层节点数；

第i个隐含层节点的输出矩阵；

为针对第i个隐含层节点加入的所述动量项，其中，e_i-1为在训练中由于增加了第i-1个隐含层节点而引入的网络训练误差，其表达了当学习机中仅有第1～第i-1个隐含层节点时，学习机产生的输出与样本给定的理想输出之间的差值；

是为第i个隐含层节点确定的输出权值的优化值，是隐含层节点输出权值的随机给定值与隐含层节点输出权值修正值的线性组合，其中隐含层节点输出权值的修正值是由训练中获得的隐含层节点输入权值和隐含层节点阈值迭代计算得到，隐含层节点输入权值和隐含层节点阈值是由训练中隐含层节点的网络训练误差和输入样本迭代计算得到；所述隐含层节点的

输入权值、阈值共同构成了所述优化解。

步骤三：训练基于动量项与优化解的增量型极限学习机。

现有技术中增量型极限学习机的训练过程是，首先在训练初始阶段随机设定新增隐含层节点输入参数，包括输入权值、阈值，然后根据网络训练的输出与理想值之间的误差求得输出权值。本发明的学习机训练过程基本思路是，采用与现有技术相反的顺序进行训练，即在训练初始阶段随机产生新增隐含层节点的输出参数，包括输出权值、输出权值线性优化参数，再根据网络训练中隐含层节点的网络训练误差和输入样本迭代计算得到输入权值和阈值，再由输入权值和阈值迭代计算得到输出权值的修正值，最后，由随机输出权值、线性优化参数和输出权值的修正值进行线性计算得到输出权值的优化值。与现有技术相比，网络训练过程中不仅获得了更优的输出权值，还获得了经过优化的输入权值和阈值，能够降低网络训练误差的波动，从而提高了网络的泛化性能。

本发明的学习过程包括如下步骤，每输入一个训练样本就执行一遍：

步骤3.1、极限学习机网络初始化阶段，令隐含层节点数L的初始值为0，最大值为L_max，网络训练误差e_L＝e₀＝y，误差期望值为ε；这里，定义当前样本的输入向量为x，输出为y；

步骤3.2、在隐含层增加一个节点，令L自加1，同时将L赋予新增加的隐含层节点作为其节点编号，随机产生该新增隐含层节点的输出权值β_L和相关参数v_L、z_L，且满足0<v_L<z_L<1,v_L+z_L＝1；为后续计算输出反馈矩阵和优化解提供依据；现有技术中，该步骤是随机产生新增隐含层节点的输入权值和阈值；

步骤3.3、根据式(2)计算新增隐含层节点的输出反馈矩阵：

H_L＝e_L-1(β_L)^-1 (2)

式中，e_L-1是增加前一个隐含节点的训练过程中所确定的，其表示当隐含层节点数为L-1时的网络训练误差，通过随机产生的输出权值与前一个隐含层节点网络训练误差计算出输出反馈矩阵；

步骤3.4、根据式(3)计算新增隐含层节点的输入权值：

a_L＝u(H_L)·x^-1 (3)

式中，u(H_L)＝arcsine(H_L)或u(H_L)＝arcsig(H_L)，表达了对sine函数或sigmoidal函数求反函数；

步骤3.5、根据式(4)计算新增隐含层节点的阈值：

b_L＝rmse(u(H_L)-a_L·x) (4)

式中，rmse为均方根误差函数；

从式(3)和(4)可以看出，本发明的输入权值和阈值是由输出反馈矩阵与输入样本运算得到，其值会随着网络训练误差和输入样本的变化而变化，使得输入权值和阈值更优于现有技术随机产生的数值，从而能够降低网络训练误差的波动幅度，提高网络的稳定性；

步骤3.6、根据式(5)计算新增隐含层节点的输出矩阵：

式中，输出矩阵的运算过程可以采用sine函数或sigmoidal函数作为激励函数，即

步骤3.7、根据式(6)根据最小二乘法计算新增隐含层节点的输出权值的修正值，与现有技术相比将前一个隐含层节点的网络训练误差e_L-1引入到输出权值修正值的计算中：

步骤3.8、根据式(7)计算新增隐含层节点的输出权值的优化值，将输出权值的随机值与修正值做线性组合运算，获得输出权值的优化解，本发明新加入的输出权值的优化解可以加快网络的收敛速度；

步骤3.9、根据式(8)计算在增加了第L个新增隐含层节点后的网络训练误差为：

式中，

为动量项；

步骤3.10、判断是否满足L≥L_max或||e_L||≤ε，如果是，则完成训练，结束本流程，否则，返回步骤3.2。

训练样本分为两个部分，一部分用于训练，另一部分用于测试；当学习机的训练完成后，利用测试样本进行测试。

步骤四：基于动量项与优化解的增量型极限学习机预测虚拟机需求数量。

利用上述方法训练得到的基于动量项与优化解的增量型极限学习机，可对待预测虚拟机需求进行预测，将当前时间点之前的连续Q个时间点的虚拟机需求量输入上述虚拟机需求预测模型中，便可得到当前时间点的虚拟机需求数。

实施例1：

实验采集56天的虚拟机需求数量的数据，记录从0时到24时虚拟机需求总数，一共记录了56个时间点的数据。首先利用前49天的虚拟机需求数量的数据训练基于动量项与优化解的增量型极限学习机，最后用训练好的基于动量项与优化解的增量型极限学习机预测用后7天的虚拟机需求数量。

虚拟机需求数量预测模型性能以虚拟机需求数量测试的均方根误差RMSE(rootmean square error)为指标，来衡量虚拟机需求数量预测模型的泛化能力和精度。

实验选取了当前的几个主流的预测模型作为对比：支持向量机模型(SVM)、宽度学习模型和基于核函数的增量型极限学习机模型，并使用与相关文献一致的调参方法。各预测模型的对比结果如图2(a)-(d)与图3所示。

根据图2(a)-(d)及图3可知，与宽度学习模型、基于核函数的增量型极限学习机模型和支持向量机模型相比，运用基于动量项与优化解的增量型极限学习机模型的虚拟机需求数量均方根误差大幅下降，说明运用基于动量项与优化解的增量型极限学习机模型对虚拟机需求数量进行模拟预测是行之有效的。

综上所述，以上仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (3)

1.一种虚拟机需求数量预测方法，其特征在于，采用基于动量项与优化解的增量型极限学习机实现虚拟机需求数量预测，具体包括如下步骤：

步骤一、采用虚拟机请求数量的历史数据构建训练样本集，样本的输出为选定时间点的虚拟机请求数量，输入为所述选定时间点前的多个时间点的虚拟机请求数量；

步骤二、构建引入了动量项与优化解的增量型极限学习机模型为式(1)，并利用训练样本集进行训练；

式中，i表示为隐含层中的第i个节点，L_f表示经过训练后所确定的隐含层节点数；

第i个隐含层节点的输出矩阵；

为针对第i个隐含层节点加入的所述动量项，其中，e_i-1为在训练中由于增加了第i-1个隐含层节点而引入的网络训练误差，其表达了当学习机中仅有第1～第i-1个隐含层节点时，学习机产生的输出与样本给定的理想输出之间的差值；

是为第i个隐含层节点确定的输出权值的优化值，是隐含层节点输出权值的随机给定值与隐含层节点输出权值修正值的线性组合，其中隐含层节点输出权值的修正值是由训练中获得的隐含层节点输入权值和隐含层节点阈值迭代计算得到，隐含层节点输入权值和隐含层节点阈值是由训练中隐含层节点的网络训练误差和输入样本迭代计算得到；所述隐含层节点的

输入权值、阈值共同构成了所述优化解；

步骤三、将当前时间点前的多个时间的虚拟机请求数量输入到步骤二训练好的增量型极限学习机中，预测当前时间点的虚拟机请求数量。

2.根据权利要求1所述的方法，其特征在于，所述基于动量项与优化解的增量型极限学习机的训练过程包括如下步骤，每输入一个训练样本就执行一遍：

定义当前样本的输入向量为x，输出为y；

步骤1、极限学习机网络初始化阶段，设定隐含层节点数L的最大值为L_max，网络训练误差e_L＝e₀＝y，误差期望值为ε；

步骤2、在隐含层增加一个节点，令L自加1，同时将L赋予新增加的隐含层节点作为其节点编号，随机产生该新增隐含层节点的输出权值β_L和相关参数v_L、z_L，且满足0<v_L<z_L<1,v_L+z_L＝1；

步骤3、根据式(2)计算新增隐含层节点的输出反馈矩阵：

H_L＝e_L-1(β_L)^-1 (2)

式中，e_L-1是增加前一个隐含节点的训练过程中所确定的，其表示当隐含层节点数为L-1时的网络训练误差；

步骤4、根据式(3)计算新增隐含层节点的输入权值：

a_L＝u(H_L)·x^-1 (3)

式中，u(H_L)＝arcsine(H_L)或u(H_L)＝arcsig(H_L)；

步骤5、根据式(4)计算新增隐含层节点的阈值：

b_L＝rmse(u(H_L)-a_L·x) (4)

式中，rmse为均方根误差函数；

步骤6、根据式(5)计算新增隐含层节点的输出矩阵：

步骤7、根据式(6)计算新增隐含层节点的输出权值的修正值：

步骤8、根据式(7)计算新增隐含层节点的输出权值的优化值：

步骤9、根据式(8)计算在增加了L个新增隐含层节点后的网络训练误差值：

式中，

为动量项；

步骤10、判断是否满足L≥L_max或||e_L||≤ε，如果是，则完成训练，结束本流程，否则，返回步骤2。

3.根据权利要求1所述的方法，其特征在于，所述时间点的单位为天，所述时间点的虚拟机请求数量为当天0时到24时的虚拟机请求数量之和。

Images