CN111124689B - 一种集群中容器资源动态分配方法 - Google Patents

Abstract

一种集群中容器资源动态分配方法，首先，采用LSTM‑RBF模型对容器历史资源使用时间序列进行分析并对容器未来的资源使用量进行预测；其次，构建了多容器多资源分配模型，该模型考虑不同类型的应用，为不同QoS需求的应用设置不同的权重，而且可以按照每个应用对每种资源的需求程度设置权重；然后，构建了系统效用最大化模型，以系统整体效用最大化为目标对多个容器使用的多种资源进行动态分配；最后，采用改进的鲸鱼优化算法求解多容器多资源问题；从系统整体的角度同时对多个容器使用的多种资源进行动态调度，可以达到系统效用最大化，系统整体资源利用率最优。

Description

一种集群中容器资源动态分配方法

技术领域

本发明属于计算机容器集群技术领域，具体涉及一种集群中容器资源动态分配方法。

背景技术

随着以docker为代表的容器虚拟化技术的迅速发展，其开销小、启动快、易部署、以应用为中心等优势使其广泛应用于云计算和边缘计算等应用场景，基于容器虚拟化技术和容器集群管理工具(如k8s)按需为用户提供服务。但是在包含多种容器应用的集群环境下，如何按需给容器动态分配多种资源仍没有得到很好的解决。

现有的容器资源分配方法主要有静态和动态两种。目前最流行的k8s集群基本采用静态分配、手动修改的方法，在创建容器时由用户通过limit和request参数指定需要的资源或在用户未指定时默认分配一定的资源，在容器的资源需求发生变化时手动对容器进行横向或纵向扩展，静态分配策略无法满足容器实时变动的资源需求，同时还允许用户设置QoS，当资源紧张时，K8S会杀掉低优先级容器保证高优先级容器的资源使用需求；动态资源分配方法一般采用特定的模型对容器未来的资源使用量进行预测，并结合容器的资源使用限制、系统可用资源等对容器资源进行动态调整或选择合适的节点进行容器部署。但现有的容器资源动态分配策略仅对关注的目标容器进行资源动态调整或选择合适的节点进行部署，系统其他容器的资源并不会动态调整，没有从系统整体的角度同时对多个容器使用的多种资源进行动态调度，很难达到系统整体资源利用率最优化。

发明内容

本发明要解决的问题是在多容器运行环境中(如k8s集群)，容器部署时如何确定应该给容器分配多少资源以及如何按照容器的资源需求变化动态调整分配给容器的资源，提升整体资源使用效率。

针对容器集群中多容器多资源动态分配问题，本发明了一种基于改进鲸鱼优化算法的容器资源动态分配方法，首先，采用LSTM-RBF模型对容器历史资源使用时间序列进行分析并对容器未来的资源使用量进行预测；其次，构建了多容器多资源分配模型，该模型考虑不同类型的应用，为不同QoS需求的应用设置不同的权重，而且可以按照每个应用对每种资源的需求程度设置权重；然后，构建了系统效用最大化模型，以系统整体效用最大化为目标对多个容器使用的多种资源进行动态分配；最后，采用改进的鲸鱼优化算法求解多容器多资源分配问题，可实施性强。

为实现上述目的，本发明提供如下技术方案：

一种集群中容器资源动态分配方法，基于改进鲸鱼优化算法进行容器资源动态分配；其特征在于：

包括下述步骤：

步骤1，获取多个容器多种资源历史使用数据，构建时间序列；

步骤2，利用LSTM进行时间序列预测，预测多个容器未来每种资源的使用量；

步骤3，构建多容器多资源分配模型和系统效用最大化模型；

步骤4，改进鲸鱼优化算法，提升算法的收敛精确度、速度以及综合寻优能力；

步骤5，将改进鲸鱼优化算法应用于多资源分配问题，对多个容器使用的多种资源重新分配，最大化系统的整体效用，获得多个容器多种资源分配值，通过修改容器对应的Cgroups文件重新分配资源。

本发明容器资源动态分配方法的优点：

1)现有的容器动态分配方法都是关注单个或特定目标容器资源的动态调整或选择合适的节点对其进行部署，而不考虑其他容器资源的动态调整，本发明与现有的容器动态分配方法相比，从系统整体的角度同时对多个容器使用的多种资源进行动态调度，可以达到系统效用最大化，系统整体资源利用率最优。

2)本发明与k8s现有的资源分配技术相比，能够按照容器资源使用需求动态分配系统资源，而不需要手动分配和调整，简单的杀掉低优化级容器保证高优化级容器的资源使用需求。

附图说明

图1为容器资源动态分配方法流程示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

相关技术术语定义如下：

弹性应用：应用能够根据分配的资源调整其执行

不精确计算模型：应用对每种资源的需求有最小值R_min和最大值R_max，最小值R_min必须被满足来保证应用正常运行，在此基础上提升资源分配可以提高应用的QoS,当资源达到最大值R_max时，此时再提升资源分配，应用的QoS也不会得到提升。

K8s：Kubernetes集群，是由Google开发的当前最流行的开源容器集群编排工具。

WOA：Whale Optimization Algorithm，鲸鱼优化算法，是一种比较流行的智能优化算法，智能优化算法是一类建立在物理现象或生物智能基础上的搜索优化算法，WOA算法是其中一种，它基于鲸鱼的气泡捕食法建立模型进行寻优。

IWOA：Improved Whale Optimization Algorithm，改进鲸鱼优化算法

LSTM：长短期记忆网络(LSTM，Long Short-Term Memory)是一种时间循环神经网络，是为了解决一般的RNN(循环神经网络)存在的长期依赖问题而专门设计出来的，可进行时间序列预测。

RBF：RBF(径向基)神经网络

Pod:Kubernetes集群中资源调度单位，可以理解为一组容器的集合，但大部分情况下Kubernetes集群里一个pod里运行一个容器。

本发明可以应用于k8s等容器集群编排/管理工具中。

在Kubernetes集群中，用户以容器的形式部署了多种形式的应用，包括前端在线商城、数据处理、数据存储、消息转发等容器应用，容器应用使用的资源是会动态变化的，如周末期间在线商城的访问量会比较工作日期间大，双11活动期间用户访问量会激增，因此需要动态调整容器应用使用的多种资源。本发明方案首先采用机器学习相关方法对容器应用历史的资源使用数据进行聚合分析，预测容器未来的资源使用情况；然后利用获取的容器应用资源使用需求，构建多容器多资源分配模型和系统效用最大化模型，采用改进鲸鱼优化算法获得能够使系统整体效用最大的多个容器多种资源分配策略，然后通过修改容器对应的cgroups文件的形式修改容器使用的资源。该方案可以以插件的形式集成到Kubernetes集群中，定时获取多个容器应用的资源使用需求，采用改进鲸鱼优化算法，以最大化系统整体效用为目标不断调整多容器的多种资源分配额度。

如图1所示，本发明了提供一种基于改进鲸鱼优化算法的容器资源动态分配方法。

首先基于k8s的HeapSter、InfluxDB、Grafana组件获取容器历史资源使用情况，利用LSTM-RBF模型对容器的历史资源时间序列进行建模预测，获得容器未来使用量；然后构建多容器多资源分配模型和系统效用最大化模型；最后将改进的鲸鱼优化算法应用于以系统效用最大化为目标的多容器多资源分配问题，求得多个容器多种资源的最佳分配策略，通过修改容器对应的Cgroups文件动态调整资源分配。

包括下述步骤：

步骤1，获取多容器多种资源历史使用数据，构建时间序列。

基于k8s集群HeapSter、InfluxDB、Grafana组件获取多个容器对多种资源的历史使用数据，包括特定时间下的内存、CPU、网络、磁盘I/O等资源，并存入时间序列数据库。

步骤2，利用LSTM进行时间序列预测，预测多个容器未来每种资源的使用量。

步骤2-1：从时间序列数据库中获取多个容器的历史资源使用数据，利用LSTM为每个容器的每种资源训练模型，并预测每个容器对每种资源的未来使用量；

步骤2-2：对比预测后一段时间内容器的每种资源使用量和预测得到此段时间的资源未来使用量，通过观测值和预测值对比，得到预测误差，使用RBF神经网络对误差进行建模，得到误差预测；

步骤2-3：利用RBF的误差预测值对LSTM的预测值进行修正，得到修正后的每个容器的未来资源使用量，并基于此计算每个容器每种资源使用量在系统该种资源上的占比，作为后续多容器多资源分配模型中设置每种资源所占权重的依据。

步骤3.构建多容器多资源分配模型和系统效用最大化模型；

步骤3-1：构建多容器多资源分配模型。

将系统中应用分为三类，在线应用，离线应用，实时计算应用，每种应用为弹性应用，其QoS和资源之间符合不确定模型,模型描述如下：

(1)n个容器的集合为π＝{π₁,π₂,…,π_n}；(2)m种共享资源集合为R＝{R₁,R₂,…,R_m}；(3)假设容器π_j获得的第i种资源R_i为R_ij(1≤i≤m,1≤j≤n)，那么

(4)容器π_j对第i种资源R_i的需求有一个最小值/>

和最大值/>

必须被满足来保证容器π_j最低的QoS。我们可以增加分配给容器π_j的资源量R_ij一直达到/>

这时即使我们继续增加R_ij，容器π_j的QoS也不会继续提升，其中/>

为第一步中通过机器学习方法预测的容器j对第i种资源的使用需求；(5)容器π_j的效用函数q_j＝λ_jf_j(ω_1jR_1j,ω_2jR_2j,…,ω_mjR_mj)，其中λ_j是一个介于[0,1]之间的值，它代表了容器(或应用)π_j的权重系数，可以为不同类型的应用设置不同的权重系数，ω_ij代表容器π_j对第i种资源的需求程度，因为不同类型的应用对不同类型资源的需求也有不同，所以考虑为不同类型的资源设置权重系数。效用函数满足/>

(6)不同容器(应用)的效用函数可能不一样，为了对不同容器(应用)的效用值有一个统一的度量标准，我们对效用函数进行归一化处理，归一化后的效用函数如下所示：

其中，1≤i≤m,1≤j≤n,0≤Q_j≤1 1。

步骤3-2：构建系统效用最大化模型

假设容器集群中包含n个容器{π₁,π₂,…,π_n}，每个容器使用m种共享资源{R₁,R₂,…,R_m}，容器π_j的归一化效用函数为Q_j(R_1j,R_2j,…,R_mj)。我们需要寻找一个m×n的资源分配矩阵U_ij来最大化所有容器的整体效用。系统效用最大化模型可以采用如下公式描述：

满足如下约束：

步骤4.从三个方面改进鲸鱼优化算法，提升算法的收敛精确度、速度以及综合寻优能力

4-1：引入非线性收敛因子，提升算法的探索和开发能力

从现有关于灰狼算法和鲸鱼算法的相关研究中，我们可以知道线性变化的收敛因子

无法反应算法的实际寻优过程，限制了算法的探索和开发能力。而选择非线性变化的收敛因子是常用的优化方法，因此，首先提出了一种新的非线性变化的收敛因子，作为后续其他改进的基础，其非线性变化方式如下：

引入非线性收敛因子，提升算法的探索和开发能力

其中t表示当前迭代次数，t_max是总的迭代次数。

4-2：加入惯性权重因子，调节当前最优个体对其他寻优个体的影响，释放算法的探索和开发能力，增强算法的综合水平

为了进一步提升算法的探索和开发能力，加快算法的收敛速度，受粒子群算法中惯性权重因子的启发，在鲸鱼优化算法(WOA)中引入惯性权重因子。在粒子群算法中，惯性权重因子可以调节算法的全局和局部搜索能力，惯性权重因子越大，算法的全局搜索能力越强，反之，算法的局部搜索能力越强。在WOA中，寻优个体的运动轨迹由参数个体(当前最优个体或随机选择个体)来决定，我们在WOA算法中引入惯性权重因子ω来调节参照个体对寻优个体运动的影响。引入惯性权重因子后，WOA算法的探索和开发能力以及它们之间的平衡由收敛因子

和惯性权重因子ω共同调节。

加入惯性权重因子，调节当前最优个体对其他寻优个体的影响，释放算法的探索和开发能力，增强算法的综合水平

带有惯性权重因子的鲸鱼优化算法中寻优个体的位置更新数学模型如下：

其中，t表示当前迭代次数，

和/>

为系数矩阵，D′＝|X^*(t)-X(t)|，/>

或/>

||是绝对值，·是点乘运算。/>

为当前寻优个体的位置向量，/>

为当前最优个体的位置向量，ω是惯性权重因子，其计算公式如下：

惯性权重因子可以更强地调节当前最优个体对其他寻优个体运行路线的影响，更大地释放算法的探索和开发能力，增强算法的综合水平，有利于算法在包含众多局部最优值的解空间中进行寻优。

4-3：最优个体变异机制，降低算法陷入局部最优的可能性

在WOA算法的开发阶段，所有的寻优个体均向当前最优个体更新位置，如果当前最优个体为局部最优，WOA算法就陷入了局部最优。智能优化算法基于生物智能或物理现象的随机搜索特性使得算法无法完全消除陷入局部最优的可能，但可以设计适当的机制降低算法陷入局部最优的可能性。为了降低WOA算法陷入局部最优的可能性，我们在每次迭代过程中对当前最优个体实施变异操作。

假设当前最优个体为X_i＝(x_i1,x_i2,...,x_id)，我们从X_i中选择一个元素x_k(k＝1,2,...,d)，并将其替换为[l_i,u_i]中的一个随机数，变异后新生成的寻优个体为X′_i＝(x′_i1,x′_i2,...,x′_id)，它的数学模型如下：

其中l_i和u_i分别为元素x_i的上界和下界，λ为[0,1]之间的随机值。然而，单次的变异操作可能会导致最优个体从当前包含全局最优值的区域跳出，转而跳入一个包含另一个更优的局部最优值的区域，为了减少这种情况发生的概率，我们在每次迭代过程中均对当前最优个体实施N次变异操作。

步骤5.将改进鲸鱼优化算法(Improved Whale Optimization Algorithm,IWOA)应用于多资源分配问题，对多个容器使用的多种资源重新分配，最大化系统的整体效用，通过修改容器对应的Cgroups文件重新分配资源。

上述技术方案既适用于k8s集群中以容器为单位的动态资源分配，也适用于以pod为单位的动态资源分配。

本发明从优化系统整体资源使用效率的角度出发，依据容器的实时资源使用需求、多容器多资源分配模型、系统效用最大化模型和改进的鲸鱼优化算法对多个容器使用的多种资源进行动态分配，以最大化系统的整体效用。

最后应说明的是：以上所述仅为本发明的解释，并不用于限制本发明，尽管对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种集群中容器资源动态分配方法，基于改进鲸鱼优化算法进行容器资源动态分配；其特征在于：

包括下述步骤：

步骤1，获取多个容器多种资源历史使用数据，构建时间序列；

步骤2，利用LSTM进行时间序列预测，预测多个容器未来每种资源的使用量；

步骤3，构建多容器多资源分配模型和系统效用最大化模型；

步骤4，改进鲸鱼优化算法，提升算法的收敛精确度、速度以及综合寻优能力；

步骤5，将改进鲸鱼优化算法应用于多资源分配问题，对多个容器使用的多种资源重新分配，最大化系统的整体效用，获得多个容器多种资源分配值，通过修改容器对应的Cgroups文件重新分配资源。

2.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，

步骤1中，基于k8s集群HeapSter、InfluxDB、Grafana组件获取多个容器对多种资源的历史使用数据，包括特定时间下的内存、CPU、网络、磁盘I/O等资源，并存入时间序列数据库。

3.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，

步骤2中包括：

步骤2-1：从时间序列数据库中获取多个容器的历史资源使用数据，利用LSTM为每个容器的每种资源训练模型，并预测每个容器对每种资源的未来使用量；

步骤2-2：对比预测后一段时间内容器的每种资源使用量和预测得到此段时间的资源未来使用量，通过观测值和预测值对比，得到预测误差，使用RBF神经网络对误差进行建模，得到误差预测；

步骤2-3：利用RBF的误差预测值对LSTM的预测值进行修正，得到修正后的每个容器的未来资源使用量，并基于此计算每个容器每种资源使用量在系统该种资源上的占比，作为后续多容器多资源分配模型中设置每种资源所占权重的依据。

4.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，

步骤3中包括：

步骤3-1：构建多容器多资源分配模型；将系统中应用分为三类，在线应用，离线应用，实时计算应用，每种应用为弹性应用，其QoS和资源之间符合不确定模型；

假设容器集群中包含n个容器{π₁,π₂,…,π_n}，每个容器使用m种共享资源{R₁,R₂,…,R_m}，容器π_j的效用函数q_j＝λ_jf_j(ω_1jR_1j,ω_2jR_2j,…,ω_mjR_mj)，其中λ_j是一个介于[0,1]之间的值，它代表了容器或应用π_j的权重系数，可为不同类型的应用设置不同的权重系数，ω_ij代表容器π_j对第i种资源的需求程度，因为不同类型的应用对不同类型资源的需求也有不同，所以考虑为不同类型的资源设置权重系数；效用函数满足

为了对不同容器或应用的效用值有一个统一的度量标准，对效用函数进行归一化处理：/>

其中，1≤i≤m,1≤j≤n,0≤Q_j≤1 1。

5.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，

步骤4中从三个方面改进鲸鱼优化算法,引入非线性收敛因子，加入惯性权重因子以及最优个体变异机制。

6.根据权利要求5所述的一种集群中容器资源动态分配方法，其特征在于，

步骤4中包括：

步骤4-1：引入非线性收敛因子

其中t表示当前迭代次数，t_max是总的迭代次数。

7.根据权利要求5所述的一种集群中容器资源动态分配方法，其特征在于，

步骤4中包括：

步骤4-2：带有惯性权重因子的鲸鱼优化算法中寻优个体的位置更新数学模型如下：

其中，t表示当前迭代次数，

和/>

为系数矩阵，D′＝|X^*(t)-X(t)|，/>

或/>

||是绝对值，·是点乘运算；/>

为当前寻优个体的位置向量，/>

为当前最优个体的位置向量，ω是惯性权重因子，其计算公式如下：

8.根据权利要求5所述的一种集群中容器资源动态分配方法，其特征在于，

步骤4中包括：

步骤4-3：假设当前最优个体为X_i＝(x_i1,x_i2,...,x_id)，我们从X_i中选择一个元素x_k(k＝1,2,...,d)，并将其替换为[l_i,u_i]中的一个随机数，变异后新生成的寻优个体为X′_i＝(x′_i1,x′_i2,...,x′_id)，它的数学模型如下：

其中l_i和u_i分别为元素x_i的上界和下界，λ为[0,1]之间的随机值；然而，单次的变异操作可能会导致最优个体从当前包含全局最优值的区域跳出，转而跳入一个包含另一个更优的局部最优值的区域，为了减少这种情况发生的概率，在每次迭代过程中均对当前最优个体实施N次变异操作。

9.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，应用于k8s集群中以容器为单位的动态资源分配。

10.根据权利要求1所述的一种集群中容器资源动态分配方法，其特征在于，应用于以pod为单位的动态资源分配。

Images