CN110018882B - 一种基于宽度学习的虚拟机性能预测方法 - Google Patents

Abstract

本发明公开了一种基于宽度学习的虚拟机性能预测方法，通过建立基于宽度学习的虚拟机性能预测模型，随机产生输入到特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，再采用基于迭代式的最小二乘法求解宽度学习模型的输出权值矩阵，能够在无须人为参与的情况下实现对虚拟机性能的精确预测，能够克服现有方法中存在学习速度慢、网络训练时间长、网络难以收敛、过拟合和容易陷入局部的缺点，在一定程度上能够满足虚拟机性能预测的需要，同时为更准确地进行虚拟机性能预测提供了新思路和新途径。

Description

一种基于宽度学习的虚拟机性能预测方法

技术领域

本发明属于云计算技术领域，具体涉及一种基于宽度学习的虚拟机性能预测方法。

背景技术

计算是推动信息技术能力实现按需供给、促进信息技术和数据资源充分利用的全新业态,是信息化发展的重大变革和必然趋势。虚拟化技术是云计算的关键使能技术,利用虚拟化技术将大量的物理服务器资源转换为可灵活按需分配的虚拟资源。虚拟机性能预测不仅对云计算的成本与定价至关重要,而且直接影响虚拟机调度策略的制定。

当前虚拟机性能预测方法主要包括线性预测方法与非线性预测方法。线性预测方法一般是基于统计学习理论,采用基于最小二乘的多元线性回归拟合方法,该方法的预测误差较大,不适用于多个虚拟机的非线性预测；非线性预测方法是基于机器学习理论,采用基于传统神经网络的复杂非线性预测方法,该方法存在学习速度慢、网络训练时间长、网络难以收敛、过拟合和容易陷入局部最优等问题。在多虚拟机的复杂环境下,利用基于传统神经网络的非线性预测方法预测虚拟机性能精度较低。

采用基于宽度学习模型的方法预测虚拟机性能，能够克服当前虚拟机性能预测方法中存在的主要不足。但是，现有技术中基于宽度学习模型的训练过程中采用岭回归方法，通过试凑法获取最优正则化系数的方式，求取输出权值矩阵，这种方法需要人为调整正则化系数，对于人为因素依赖性过高，从而降低了预测精度和效率。

发明内容

有鉴于此，本发明提供了一种基于宽度学习的虚拟机性能预测方法，采用基于宽度学习的虚拟机性能预测模型，通过利用基于迭代式的最小二乘法求取输出权值，从而获取全局最优解，优化网络结构，实现对虚拟机性能的精确预测，能够有效提高预测精度和效率。

本发明提供的一种基于宽度学习的虚拟机性能预测方法，具体包括如下步骤：

采用虚拟机性能特征值和基准测试程序在虚拟机上的运行时间的历史数据构建训练样本集，输出为选定时间点的基准测试程序在虚拟机上的运行时间，输入为所述选定时间点前的多个时间点的虚拟机性能特征值；

建立基于宽度学习的虚拟机性能预测模型，随机产生输入到特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，将所述训练样本集输入到建立的所述预测模型中，采用基于迭代式的最小二乘法求解所述预测模型的输出权值矩阵，完成所述预测模型的训练；

采用当前时间点前的多个时间点的虚拟机性能特征值输入到训练得到的所述预测模型中，预测当前时间点的虚拟机性能，即基准测试程序在虚拟机上的运行时间。

进一步地，所述基于迭代式的最小二乘法求解所述预测模型的输出权值矩阵包括如下步骤：

定义，L为所述预测模型中的第L个节点，L的初始值为L＝1，且1≤L≤b+d；E^N×1为所述预测模型的误差，其初始值为E^N×1＝Y^N×1，Y^N×1为所述预测模型的理想输出矩阵；其中，N表示样本个数，b表示特征节点的个数，d表示增强节点的个数；

步骤1、根据最小二乘法采用公式(1)计算第L个节点的输出权值矩阵：

式中，A^N×L表示当所述预测模型中包含L个节点时，特征节点和增强节点相连得到的合并矩阵，即为所述预测模型的节点输出矩阵；W^L×1表示当所述预测模型中包含L个节点时，所述预测模型的输出权值矩阵；

步骤2、根据步骤1中计算出的输出权值矩阵，采用公式(2)计算所述预测模型当前的误差值：

步骤3、令L自加1，当L≤b+d，执行步骤1；否则，则完成训练，结束本流程。

进一步地，所述时间点的单位为天，所述时间点的虚拟机性能特征值和基准测试程序在虚拟机上的运行时间，分别为当天0时到24时的虚拟机性能特征值和基准测试程序在虚拟机上的运行时间的平均值。

进一步地，所述虚拟机性能特征值包括虚拟机CPU数量、虚拟机内存容量、宿主机CPU主频、虚拟机运行环境、虚拟机CPU和宿主机CPU绑定的情况。

进一步地，所述虚拟机运行环境的取值为为，当多虚拟机同时运行取值为1，单个虚拟机运行取值为0。

有益效果：

本发明通过建立基于宽度学习的虚拟机性能预测模型，随机产生输入到特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，再采用基于迭代式的最小二乘法求解宽度学习模型的输出权值矩阵，能够在无须人为参与的情况下实现对虚拟机性能的精确预测，能够克服现有方法中存在学习速度慢、网络训练时间长、网络难以收敛、过拟合和容易陷入局部的缺点，在一定程度上能够满足虚拟机性能预测的需要，同时为更准确地进行虚拟机性能预测提供了新思路和新途径。

附图说明

图1为本发明提供的基于宽度学习的虚拟机性能预测方法流程图。

图2为本发明提供的宽度学习模型与其他预测模型的预测结果对比图。

具体实施方式

下面结合附图并举实施例，对本发明进行详细描述。

本发明提供了一种基于宽度学习的虚拟机性能预测方法，其基本思想是：建立基于宽度学习的虚拟机性能预测模型，随机生成输入与特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，再采用基于迭代式的最小二乘法求解宽度学习模型的输出权值矩阵，然后以虚拟机性能特征值和基准测试程序在虚拟机上的运行时间构建训练样本，对基于宽度学习的虚拟机性能预测模型进行训练，最后以虚拟机性能历史数据作为输入预测基准测试程序在当前虚拟机上的运行时间，以获取当前虚拟机的性能。

本发明提供的一种基于宽度学习的虚拟机性能预测方法的预测方法，包括宽度学习模型的构建、训练和预测，如图1所示，具体步骤如下：

步骤一：采集虚拟机性能特征值和基准测试程序在虚拟机上的运行时间形成训练样本。

采用虚拟机性能特征值和基准测试程序在虚拟机上的运行时间构建训练样本集，样本的输入为虚拟机性能特征值包括：虚拟机CPU数量、虚拟机内存容量、宿主机CPU主频、虚拟机运行环境(多虚拟机同时运行取值为1，单个虚拟机运行取值为0)、虚拟机CPU和宿主机CPU绑定的情况(虚拟机CPU绑定到宿主机CPU取值为1，未绑定取值为0)，输出为基准测试程序在虚拟机上的运行时间。

采集预测时间点前M天的虚拟机性能特征值和基准测试程序在虚拟机上的运行时间(本实施例中“时间点”的单位为“天”)，记录每天从0时到24时虚拟机性能特征值和基准测试程序在虚拟机上的运行时间，并计算出该时间点的虚拟机性能特征值和基准测试程序在虚拟机上的运行时间的平均值作为该时间点的数据，一共记录N个时间点的数据，形成历史数据集

其中，j为时间点，1≤j≤N；x_j＝[x_1j,x_2j,x_3j,x_4j,x_5j]为第j个时间点的输入样本，其中x_1j表示为第j个时间点的虚拟机CPU数量，x_2j表示为第j个时间点的虚拟机内存容量，x_3j表示为第j个时间点的物理机CPU主频，x_4j表示为第j个时间点的虚拟机运行环境，x_5j表示为第j个时间点的虚拟机CPU和物理机CPU核心绑定的情况；y_j为第j个时间点的基准测试程序在虚拟机上的运行时间。

步骤二：构建基于宽度学习的虚拟机性能预测模型。

基于宽度学习的虚拟机性能预测模型由三部分组成：输入层、特征节点层、增强节点层和输出层，输入层的节点数量与输入向量x_j的元素个数相同，输出层的节点数量与输出向量y_j的元素个数相同，特征节点层节点个数是b，增强节点层节点个数是d。该b值与d值根据不同的应用而设置。

基于宽度学习的虚拟机性能预测模型为式(1)：

式中，N表示样本个数，M表示每个输入样本向量的特征维数，b表示特征节点的个数，d表示增强节点的个数，i表示特征节点和增强节点的个数，F^N×1∈R^N×1表示宽度学习模型的输出，X^N×M∈R^N×M表示给定的输入数据，

表示输入到特征节点之间的输入权值矩阵，

表示特征节点的偏置，

表示特征节点到增强节点之间的输入权值矩阵，

表示增强节点的偏置，其中，

和

是随机生成，一旦随机生成后就固定不变。A^N×(b+d)表示特征节点和增强节点相连得到的合并矩阵，即为宽度学习模型的节点输出矩阵，φ与

均为可选择的非线性激活函数，如sigmoid函数或sine函数，W^(b+d)×1表示输出权值矩阵。

步骤三：训练基于宽度学习的虚拟机性能预测模型。

现有技术中宽度学习模型的训练过程是，首先在训练初始阶段利用稀疏编码器计算获取输入与特征节点之间的输入权值矩阵和偏置，随机产生特征节点到增强节点之间的输入权值矩阵和偏置，然后根据岭回归方法，通过试凑法获取最优正则化系数，进而求取输出权值矩阵。本发明的宽度学习模型的训练过程基本思路是，首先，随机产生输入到特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，然后，采用基于迭代式的最小二乘法直接求解宽度学习模型的输出权值矩阵。与现有技术相比，模型训练过程中不需要人为调整正则化系数，因此，不仅能够缩短训练时间，还获得了更优的输出权值，从而有效提高了虚拟机性能的预测精度和效率。

本发明的学习过程包括如下步骤，每输入一个训练样本就执行一遍：

步骤3.1、宽度学习初始化阶段，初始化宽度学习模型的特征节点数b，增强节点数d；随机初始化宽度学习模型特征节点输入权值矩阵

和偏置

选取特征节点的激活函数φ；

步骤3.2、根据式(2)计算宽度学习模型的特征节点输出矩阵；

步骤3.3、随机初始化宽度学习模型增强节点输入权值矩阵

和偏置

选取增强节点的激活函数

步骤3.4、根据式(3)计算宽度学习模型的增强节点输出矩阵；

步骤3.5、通过合并特征节点输出矩阵Z^N×b和增强节点输出矩阵M^N×d，获取宽度学习模型的节点输出矩阵A^N×(b+d)＝[Z^N×b|M^N×d]；

步骤3.6、采用基于迭代的最小二乘法，根据公式(1)采用如下步骤迭代获取输出权值矩阵W^(b+d)×1，令L＝1，L为宽度学习模型中的第L个节点，且1≤L≤b+d；此时，令宽度学习模型的误差E^N×1为初始值，即E^N×1＝Y^N×1，Y^N×1为宽度学习模型的理想输出矩阵：

步骤a、根据最小二乘法采用公式(4)计算第L个节点的输出权值：

步骤b、根据步骤a中计算出的输出权值，采用公式(5)计算宽度学习模型当前的误差值：

步骤c、令L自加1，当L≤b+d，执行步骤a；否则，则完成训练，结束本流程。

训练样本分为两个部分，一部分用于训练，另一部分用于测试；当宽度学习模型的训练完成后，利用测试样本进行测试。

步骤四：基于宽度学习模型预测虚拟机性能。

利用上述方法训练得到的宽度学习模型，可对待预测虚拟机性能进行预测，将当前时间点之前的连续Q个时间点的虚拟机性能特征值输入上述虚拟机性能预测模型中，便可得到当前时间点的虚拟机的性能，即基准测试程序在虚拟机上的运行时间。

实施例一：

为了更好地说明本发明的技术效果，采用一个具体的实施例对本发明进行实验验证。在某虚拟化环境下，有如下配置的2台主机，其上均运行Xen：

主机1：Intel Core i5-600,DDR4 2133 16GB内存，西部数据SATA3 500GB硬盘；

主机2：AMD A10-7850K，DDR3 1866 16GB，金泰克SSD 100GB硬盘。

在每台主机上分别配置一组虚拟机。为了简化描述，本实施实例对于以上虚拟机性能特征进行了筛选，并且每个虚拟机性能特征仅使用较小的值域，所选用的特征包括：特征变量x1表示VCPU的个数，取值为1、2、3、4；特征变量x2表示为内存的大小，取值为450-700MB；特征变量x3表示为CPU的主频，主频3.3GHZ取值为3.3，主频3.6GHZ取值为3.6；特征变量x4表示为虚拟机运行环境，多虚拟机同时运行取值为1，单个虚拟机运行取值为0；特征变量x5表示为VCPU和CPU核心绑定的情况，VCPU绑定到固定的CPU核心取值为1，未绑定取值为0。

依次在一组虚拟机上运行衡量计算性能的基准测试程序，运行SPEC2006的一个基准测试程序，本实施实例中选取SPEC2006的429.mcf测试程序，以该测试程序的运行时间作为衡量计算性能的指标，每一台虚拟机测试一次，得到该组虚拟机的性能测试数据。表1为本实施实例中数据样本集数据列表。

	X1	X2	X3	X4	X5	Yn
							T1	1	500	3.3	1	0	1
T2	1	600	3.3	1	0	1.5
							T3	2	500	3.3	1	1	2
T4	2	700	3.3	1	1	2
							T5	1	500	3.6	0	0	1
T6	3	450	3.6	0	0	3
							T7	4	600	3.6	0	0	1
T8	2	500	3.6	0	1	1
							T9	2	600	3.3	1	0	1.25
T10	1	700	3.6	0	1	1.88

表1数据样本集数据列表

本实施实例中，以表1中前8组数据作为训练样本，后2组数据作为测试样本。

虚拟机性能预测模型以虚拟机性能指标的均方根误差RMSE(root mean squareerror)为指标，来衡量虚拟机性能预测模型的泛化能力和精度。

实验选取了当前的几个主流的预测模型作为对比：增量型极限学习机模型(I-ELM)、支持向量机模型(SVM)、宽度学习模型(BLS)、多隐含层极限学习机(HELM)、基于核函数的极限学习机模型(KELM)和随机森林回归模型(RFR)，并使用与相关文献一致的调参方法。各预测模型的对比结果如图2所示。

根据图2可知，与增量型极限学习机模型(I-ELM)、支持向量机模型(SVM)、多隐含层极限学习机(HELM)、基于核函数的极限学习机模型(KELM)和随机森林回归模型(RFR)相比，运用宽度学习模型(BLS)的虚拟机性能指标均方根误差大幅下降，说明运用宽度学习模型对虚拟机性能进行模拟预测是行之有效的。

综上所述，以上仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (4)

1.一种基于宽度学习的虚拟机性能预测方法，其特征在于，具体包括如下步骤：

采用虚拟机性能特征值和基准测试程序在虚拟机上的运行时间的历史数据构建训练样本集，输出为选定时间点的基准测试程序在虚拟机上的运行时间，输入为所述选定时间点前的多个时间点的虚拟机性能特征值；

建立基于宽度学习的虚拟机性能预测模型，随机产生输入到特征节点之间的输入权值矩阵、特征节点到增强节点之间的输入权值矩阵、特征节点的偏置和增强节点的偏置，将所述训练样本集输入到建立的所述虚拟机性能预测模型中，采用基于迭代式的最小二乘法求解所述虚拟机性能预测模型的输出权值矩阵，完成所述虚拟机性能预测模型的训练；

采用当前时间点前的多个时间点的虚拟机性能特征值输入到训练得到的所述虚拟机性能预测模型中，预测当前时间点的虚拟机性能，即基准测试程序在虚拟机上的运行时间；

所述基于宽度学习的虚拟机性能预测模型包括输入层、特征节点层、增强节点层和输出层，所述输入层的节点数量与输入向量x_j的元素个数相同，输出层的节点数量与输出向量y_j的元素个数相同，特征节点层节点个数是b，增强节点层节点个数是d；

所述基于宽度学习的虚拟机性能预测模型为公式(1)所示：

式中，N表示样本个数，M表示每个输入样本向量的特征维数，b表示特征节点的个数，d表示增强节点的个数，i表示特征节点和增强节点的个数，F^N×1∈R^N×1表示宽度学习模型的输出，X^N×M∈R^N×M表示给定的输入数据，

表示输入到特征节点之间的输入权值矩阵，

表示特征节点的偏置，

表示特征节点到增强节点之间的输入权值矩阵，

表示增强节点的偏置，其中，

和

是随机生成，且成后保持不变；Α^N×(b+d)表示特征节点和增强节点相连得到的合并矩阵，即为宽度学习模型的节点输出矩阵，φ与

均为可选择的非线性激活函数，如sigmoid函数或sine函数，W^(b+d)×1表示输出权值矩阵；

所述基于迭代式的最小二乘法求解所述虚拟机性能预测模型的输出权值矩阵包括如下步骤：

定义，L为所述虚拟机性能预测模型中的第L个节点，L的初始值为L＝1，且1≤L≤b+d；E^{N ×1}为所述虚拟机性能预测模型的误差，其初始值为E^N×1＝Y^N×1，Y^N×1为所述虚拟机性能预测模型的理想输出矩阵；其中，N表示样本个数，b表示特征节点的个数，d表示增强节点的个数；

步骤1、根据最小二乘法采用公式(2)计算第L个节点的输出权值矩阵：

式中，Α^N×L表示当所述虚拟机性能预测模型中包含L个节点时，特征节点和增强节点相连得到的合并矩阵，即为所述虚拟机性能预测模型的节点输出矩阵；W^L×1表示当所述虚拟机性能预测模型中包含L个节点时，所述虚拟机性能预测模型的输出权值矩阵；

步骤2、根据步骤1中计算出的输出权值矩阵，采用公式(3)计算所述虚拟机性能预测模型当前的误差值：

步骤3、令L自加1，当L≤b+d，执行步骤1；否则，则完成训练，结束本流程。

2.根据权利要求1所述的方法，其特征在于，所述时间点的单位为天，所述时间点的虚拟机性能特征值为所述时间点内从0时到24时的虚拟机性能特征值的平均值；所述时间点的基准测试程序在虚拟机上的运行时间为所述时间点内从0时到24时的基准测试程序在虚拟机上的运行时间的平均值。

3.根据权利要求1所述的方法，其特征在于，所述虚拟机性能特征值包括虚拟机CPU数量、虚拟机内存容量、宿主机CPU主频、虚拟机运行环境、虚拟机CPU和宿主机CPU绑定状态，所述虚拟机CPU和宿主机CPU绑定状态的取值为0或1，即，当虚拟机CPU和宿主机CPU之间为绑定状态时取值为1，当虚拟机CPU和宿主机CPU之间为非绑定状态时取值为0。

4.根据权利要求3所述的方法，其特征在于，所述虚拟机运行环境的取值为0或1，即，当虚拟机运行环境中存在多个虚拟机同时运行时取值为1，当虚拟机运行环境中只有单个虚拟机运行时取值为0。

Images