CN113992525B - 一种应用的容器数量调节方法及装置 - Google Patents

一种应用的容器数量调节方法及装置 Download PDF

Info

Publication number
CN113992525B
CN113992525B CN202111187472.9A CN202111187472A CN113992525B CN 113992525 B CN113992525 B CN 113992525B CN 202111187472 A CN202111187472 A CN 202111187472A CN 113992525 B CN113992525 B CN 113992525B
Authority
CN
China
Prior art keywords
historical
containers
application
moment
distribution
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202111187472.9A
Other languages
English (en)
Other versions
CN113992525A (zh
Inventor
胡韵
雷磊
郑洋飞
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alipay Hangzhou Information Technology Co Ltd
Original Assignee
Alipay Hangzhou Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alipay Hangzhou Information Technology Co Ltd filed Critical Alipay Hangzhou Information Technology Co Ltd
Priority to CN202111187472.9A priority Critical patent/CN113992525B/zh
Publication of CN113992525A publication Critical patent/CN113992525A/zh
Priority to PCT/CN2022/124500 priority patent/WO2023061348A1/zh
Priority to US18/397,379 priority patent/US20240137411A1/en
Application granted granted Critical
Publication of CN113992525B publication Critical patent/CN113992525B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1025—Dynamic adaptation of the criteria on which the server selection is based
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/70—Admission control; Resource allocation
    • H04L47/82—Miscellaneous aspects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/4557—Distribution of virtual machine instances; Migration and load balancing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects
    • G06F2009/45595—Network integration; Enabling network access in virtual machine instances
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2209/00—Indexing scheme relating to G06F9/00
    • G06F2209/50—Indexing scheme relating to G06F9/50
    • G06F2209/5019—Workload prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本说明书公开了一种应用的容器数量调节方法及装置，基于应用的历史数据，通过预训练的流量预测模型，对应用的未来预设时长内的流量分布进行预测，并基于预测得到的流量分布，通过预训练的数量预测模型，预测在该预设时长内该应用的容器数量分布，并根据得到的容器数量分布，调节该应用在该预设时长内各时刻的容器数量。能够预先对未来预设时长内应用的流量进行预测，以得到相应的各时刻应部署的容器数量，及时对应用各时刻的容器数量进行调节。

Description

一种应用的容器数量调节方法及装置
技术领域
本说明书涉及计算机技术领域，尤其涉及一种应用的容器数量调节方法及装置。
背景技术
对于容器化的应用，合理分配应用占用的容器资源，灵活根据应用的运行情况调节支持应用运行的容器数量，是避免应用运行故障，使应用保持良好的运行状态的关键。
在现有技术中，通过监测应用各时刻的流量，基于各时刻的流量，根据预设的服务等级目标(Service Level Objective，SLO)来对容器数量进行调节。在不违背SLO的前提下，当应用流量增加时，则基于增加后的流量值上调容器数量，当应用流量减少时，则基于减少后的流量值下调容器数量。
但是，由于现有的调节方法是基于流量变化进行后调节，即观测到流量变化后才进行容器数量的调节，容易出现容器数量调整不及时，导致应用运行受限甚至故障的问题。
发明内容
本说明书提供一种应用的容器数量调节方法及装置，以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案：
本说明书提供了一种应用的容器数量调节方法，包括：
确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量；
根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布；
根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布；
根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，确定应用的历史数据，具体包括：
根据历史上各时刻为应用配置的容器数量，确定历史数量分布；
当根据所述历史数量分布，确定所述应用在各历史时刻的容器数量变化具有周期性时，确定所述应用的历史数据。
可选地，所述方法还包括：
根据所述历史数量分布，确定所述应用的容器数量变化的周期长度；
根据预设的周期数量以及所述周期长度，确定各目标历史周期；
根据所述历史数量分布，确定各目标历史周期中各历史时刻的容器数量；
根据各目标历史周期中各历史时刻的容器数量，确定在所述预设时长内各时刻的容器数量，作为周期数量分布。
可选地，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
根据所述容器数量分布以及所述周期数量分布，确定目标数量分布；
根据所述目标数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
针对所述预设时长内的每个时刻，根据所述流量分布，确定该时刻对应的预测流量，并根据所述容器数量分布，确定该时刻应为所述应用配置的容器数量；
根据确定出的该时刻的流量以及容器数量，确定该时刻对应的容器中处理器的预测利用率；
以所述目标利用率为目标，根据该时刻的预测利用率，调节所述容器数量。
可选地，所述历史数据还包括所述应用在各历史时刻的历史预测流量、容器的历史预测数量以及容器中处理器的历史实际利用率；
根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
根据当前时刻之前，所述预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率；
根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率；
当所述准确率大于预设的比例阈值时，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量；
当所述准确率不大于预设的比例阈值时，根据所述应用的初始化数量分布，确定所述应用在所述预设时长内各时刻的容器数量。
可选地，根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率，具体包括：
针对当前时刻之前，所述预设时长内的每个历史时刻，确定该历史时刻的历史预测利用率与历史实际利用率间的差值，作为该历史时刻的利用率差值；
确定当前时刻之前，所述预设时长内利用率差值小于预设的差值阈值的历史时刻的数量，作为达标数量；
根据所述达标数量以及当前时刻之前所述预设时长内包含的历史时刻的总数，确定准确率。
可选地，所述方法还包括：
根据当前时刻之前，所述预设时长内各历史时刻对应的利用率差值，确定损失；
以所述损失最小为目标，调整所述数量预测模型以及所述流量预测模型的参数。
可选地，所述方法还包括：
获取所述应用的运行指标；
根据所述运行指标以及所述目标利用率，通过预先强化学习得到的强化预测模型，预测在所述预设时长内所述应用的容器的数量分布，作为强化数量分布；
当所述数量预测模型评估未通过时，根据所述强化数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布，具体包括：
针对预设的每种流量数据类型，确定各历史时刻中，该流量数据类型对应的分支流量；
根据各历史时刻的各流量数据类型对应的分支流量，通过预先训练的流量预测模型，预测所述应用在预设时长内各时刻的各分支流量，作为所述应用在所述预设时长内的流量分布。
可选地，根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布，具体包括：
将所述预设时长内各时刻的各分支流量以及预设的容器的目标利用率，输入预先训练的数量预测模型，确定所述预设时长内各时刻应为所述应用配置的容器数量；
其中，所述容器数量由各分支流量对应的容器数量构成，在同样流量下，不同分支流量对应的容器数量不完全相同。
可选地，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
确定所述应用的应用画像，根据所述应用画像，确定适合所述应用的调节模式；
根据所述调节模式以及所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
本说明书提供了一种应用的容器数量调节装置，包括：
历史数据确定模块，用于确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量；
流量预测模块，用于根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布；
数量预测模块，用于根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布；
调节模块，用于根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
本说明书提供了一种计算机可读存储介质，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述应用的容器数量调节方法。
本说明书提供了一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现上述应用的容器数量调节方法。
本说明书采用的上述至少一个技术方案能够达到以下有益效果：
在本说明书提供的应用的容器数量调节方法中，基于应用的历史数据，通过预训练的流量预测模型，对应用的未来预设时长内的流量分布进行预测，并基于预测得到的流量分布，通过预训练的数量预测模型，预测在该预设时长内该应用的容器数量分布，并根据得到的容器数量分布，调节该应用在该预设时长内各时刻的容器数量。
从上述方法中可以看出，本方法能够预先对未来预设时长内应用的流量进行预测，以得到相应的各时刻应部署的容器数量，及时对应用各时刻的容器数量进行调节。
附图说明
此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部分，本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。在附图中：
图1为本说明书中一种应用的容器数量调节方法的流程示意图；
图2为本说明书提供的一种预测模型的示意图；
图3为本说明书提供的一种预测模型示意图；
图4为本说明书提供的一种容器数量调节示意图；
图5为本说明书提供的一种应用的容器数量调节装置的示意图；
图6为本说明书提供的一种电子设备的结构示意图。
具体实施方式
为使本说明书的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本说明书技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本说明书保护的范围。
以下结合附图，详细说明本说明书各实施例提供的技术方案。
图1为本说明书中一种应用的容器数量调节方法的流程示意图，具体包括以下步骤：
S100：确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量。
在本说明书中，该应用的容器数量调节方法可由服务器执行。
为了能够及时对应用各时刻的容器数量进行调节，避免出现调节不及时的情况，在本说明书中，可预先通过模型对各时刻应用的容器数量进行预测，根据预测得到的容器数量，及时对各时刻配置给应用的支持应用运行的容器数量进行调节。
由于应用的历史运行情况已知，且能够体现应用长期对容器数量的需求以及需求的变化，因此，可以基于应用的历史数据来对应用未来各时刻对容器数量的需求进行预测。
于是，在本说明书一个或多个实施例中，该服务器首先可确定应用的历史数据，该历史数据至少包括该应用在各历史时刻的实际流量。即确定历史上该应用在运行过程中各时刻的流量。以便于在后续步骤中根据历史上的实际流量，预测该应用未来各时刻的流量，即未来各时刻的预测流量。
在本说明书一个或多个实施例中，由于可能存在未捕捉到应用流量的特殊情况，即存在个别时刻未捕捉到流量的情况，该服务器在确定出历史数据后，可对历史数据进行预处理，再根据预处理后的历史数据进行流量分布的预测。具体的，该服务器可针对每个未捕捉到流量的历史时刻，根据该历史时刻前后的相邻历史时刻对应的实际流量，确定该历史时刻的实际流量。例如，可将该历史时刻前后相邻历史时刻对应的实际流量取平均值，作为该历史时刻的实际流量，或者也可以取最大值，最小值等，具体可根据需要设置，本说明书在此不做限制。
当然，具体根据该历史时刻前后几个历史时刻来确定该历史时刻的实际流量，可灵活设置，如可预先设置时间区间，根据该时间区间来确定相邻历史时刻。例如，假设该时间区间为3，则该服务器可根据该历史时刻前3个相邻历史时刻对应的实际流量以及该历史时刻后3个相邻历史时刻对应的实际流量来确定该历史时刻的实际流量。
S102：根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布。
在本说明书一个或多个实施例中，该服务器可根据该应用的历史数据，通过预训练的流量预测模型，预测该应用在预设时长内各时刻的流量，得到该预设时长对应的该应用的流量分布，即预测该应用在预设时长内的流量分布。使得能够在后续步骤中，该服务器可根据该流量分布，进一步进行预测，得到该应用在该预设时长内的容器数量分布。
其中，该预设时长即预设的需要对该应用的容器数量进行预测的未来的一段时间长度。例如，该预设时长可以是未来一天，或者未来一小时、未来八小时等，当然也可以是其他时长，具体可根据需要设置，本说明书在此不做限制。该历史数据可以是该应用长期积累的历史数据，该服务器可从中确定至少部分历史数据输入到该流量预测模型，得到该预设时长内的流量分布。或者，该历史数据可与该流量预测模型的输入对应，例如该流量预测模型的输入为当前时刻前两个月内的历史数据，则该服务器可直接确定该应用两个月内的历史数据，而无需确定该应用长期累积的历史数据。
在本说明书一个或多个实施例中，该服务器可在日期的分界点或分界点前后时刻执行该应用的容器数量调节方法，例如，可在8日零点(或7日23:59分)，根据零点前的历史数据，预测8日当天该应用的容器数量分布。当然，零点只是示例，也可以是其他时间，本说明书在此不做限制。
S104：根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布。
在本说明书一个或多个实施例中，该服务器可根据预测得到的流量分布以及预设的容器的目标利用率，通过预训练的预测模型，预测在该预设时长内各时刻，应配置给该应用的容器数量，得到该预设时长内该应用的容器数量分布，即预测在该预设时长内该应用的容器数量分布。
其中，该目标利用率即容器中处理器的目标利用率，可至少根据该应用的历史利用率确定。
S106：根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
在本说明书一个或多个实施例中，在确定出该应用在该预设时长内的容器数量分布后，该服务器可根据该容器数量分布，调节该应用在该预设时长内各时刻的容器数量。
通常，不同的应用皆有其对应的初始化的容器数量，对应用的容器数量的调节是在对应用的容器数量进行初始化后，在初始化得到该预设时长内容器的初始化数量分布的基础上进行调节，即在该预设时长内各时刻的初始化数量的基础上进行容器数量的增减。因此，在本说明书中，可在对应用的容器数量进行初始化后，在得到的该预设时长内各时刻的初始化数量的基础上，根据预测得到的各时刻的容器数量，在初始化数量的基础上进行容器数量的调节。例如，假设该预设时长对应未来的一个小时，在该预设时长内的第3分钟，即第3时刻，容器的初始化数量为4，预测得到的容器数量为6，可将预测得到的该时刻的容器数量为目标，对该应用在该时刻的容器数量进行调节，因此，可将该预设时长内的第3分钟该应用的容器数量上调2个成为6个。
在本说明书一个或多个实施例中，应用的容器可对应指定的计算资源、存储资源等运行该应用所需的资源。例如，一个容器可以对应4个处理器内核(Core)。
在本说明书一个或多个实施例中，可将该流量预测模型以及该数量预测模型视为一个预测模型。该预测模型的结构可如图2所示。
图2为本说明书提供的一种预测模型的示意图。如图，该预测模型包括流量预测模型以及数量预测模型，将各历史时刻的实际流量输入该流量预测模型后，得到当前时刻后预设时长内的流量分布，将该流量分布输入数量预测模型后，可得到该预设时长内的容器数量分布。
基于图1所示的应用的容器数量调节方法，基于应用的历史数据，通过预训练的流量预测模型，对应用的未来预设时长内的流量分布进行预测，并基于预测得到的流量分布，通过预训练的数量预测模型，预测在该预设时长内该应用的容器数量分布，并根据得到的容器数量分布，调节该应用在该预设时长内各时刻的容器数量。
从上述方法中可以看出，本方法能够预先对未来预设时长内应用的流量进行预测，以得到相应的各时刻应部署的容器数量，及时对应用各时刻的容器数量进行调节。
另外，为了使对容器数量的调节尽可能可靠，该服务器还可以根据该数量预测模型历史上各时刻的预测数据以及实际数据，对该数量预测模型进行评估。
在本说明书一个或多个实施例中，该应用的历史数据还可包括该应用在各历史时刻的历史预测流量、容器的历史预测数量以及容器中处理器的历史实际利用率，该服务器可根据各历史时刻的历史利用率以及实际利用率，对该数量预测模型进行评估。
具体的，该服务器可根据当前时刻之前的预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率。并根据各历史时刻的历史预测利用率以及历史实际利用率，确定该数量预测模型的准确率。当该准确率大于预设的比例阈值时，则评估通过，确定该数量预测模型的预测结果足够准确，该服务器可根据该容器数量分布调节该应用在该预设时长内各时刻的容器数量。当该准确率不大于预设的比例阈值时，则评估不通过，该服务器可根据该应用的初始化数量分布，确定该应用在该预设时长内各时刻的容器数量。
在本说明书一个或多个实施例中，该服务器可从该历史数据中确定该预设时长前24小时对应的部分历史数据对该数量预测模型进行评估。
在本说明书一个或多个实施例中，该服务器还可以根据当前时刻之前，该预设时长内各历史时刻对应的利用率差值，确定损失，并以该损失最小为目标，调整该数量预测模型以及该流量预测模型的参数。
在本说明书一个或多个实施例中，该服务器在确定该数量预测模型的准确率时，可针对当前时刻之前该预设时长内的每个历史时刻，确定该历史时刻的历史预测利用率与历史实际利用率间的差值，作为该历史时刻的利用率差值。并确定当前时刻之前，该预设时长内利用率差值小于预设的差值阈值的历史时刻的数量，作为达标数量。然后，根据该达标数量以及当前时刻之前的预设时长内包含的历史时刻的总数，确定准确率。
在本说明书一个或多个实施例中，可将该达标数量以及当前时刻之前的预设时长内包含的历史时刻的总数的比值，作为准确率。
在本说明书一个或多个实施例中，该服务器还可以根据该总数以及该达标数量的差值，确定非达标数量，并根据该达标数量以及该非达标数量的比值，确定准确率。
在本说明书一个或多个实施例中，当针对当前时刻之前该预设时长内的每个历史时刻，该历史时刻的利用率差值小于预设的差值阈值时，则确定该历史时刻对应的预测得到的容器数量准确，该历史时刻的预测结果达标。该达标数量即当前时刻之前该预设时长内，预测得到的容器数量准确的历史时刻的数量。
其中，该差值阈值以及比例阈值具体皆可根据需要设置，本说明书在此不做限制。例如，该比例阈值可为80％。
在本说明书一个或多个实施例中，在对该数量预测模型进行评估时，还可根据以下三个方面进行评估：结果差值、偏离方向以及偏离比例。其中，结果差值，是指各历史时刻的历史预测利用率与各自对应的实际利用率间的差值，即各历史时刻的利用率差值。偏离方向是指历史预测利用率与实际利用率相比是偏大还是偏小。偏离比例是指结果差值与预设的差值阈值之差大于预设值的时刻所占的比例。
在本说明书一个或多个实施例中，结果差值的大小与数量预测模型的预测结果的准确性负相关，结果差值越小数量预测模型越有可能通过评估。为了保障应用的正常运行，即使预测得到的应用的容器数量不够准确，也希望预测得到的容器数量尽可能大于实际应当配置给应用的容器数量，避免由于容器容量不足而限制了应用的运行，因此，当各历史时刻的历史预测利用率与实际利用率相比偏大时，数量预测模型更有可能通过评估。当偏离比例越小时，数量预测模型更有可能通过评估，即当未偏离比例越大时，数量预测模型越有可能通过评估，且当未偏离比例大于预设的比例阈值时，评估通过。其中，该未偏离比例可对应上述准确率概念。
在本说明书一个或多个实施例中，可根据结果差值、偏离方向以及偏离比例中的一种或几种进行评估，具体怎样根据结果差值、偏离方向以及偏离比例中的一种或几种进行评估，本说明书在此不做限制，可根据需要设置。
在本说明书一个或多个实施例中，还可以不根据流量进行容器数量的预测，该服务器可基于应用运行过程中产生的运行指标，通过强化学习得到的强化预测模型进行容器数量的预测。
在本说明书一个或多个实施例中，在数量预测模型评估未通过时，该服务器还可以根据预先强化学习得到的强化预测模型预测得到的该预设时长内各时刻的容器数量，并在步骤S106中，根据强化预测模型预测得到的该预设时长内各时刻的容器数量，调节该应用的容器数量。
在本说明书一个或多个实施例中，该服务器可获取该应用的运行指标，根据该运行指标以及预设的目标利用率，通过预先强化学习得到的强化预测模型，确定在该预设时长内各时刻应配置给该应用的容器数量，以得到在该预设时长内该应用的容器的数量分布，作为强化数量分布。当该数量预测模型评估未通过时，再根据该强化数量分布，调节该应用在该预设时长内各时刻的容器数量。
其中，该运行指标包括该应用在运行过程中产生的各项指标数据，例如，线程切换次数、传输(traffic)数据包的数量、负载数量、触发垃圾回收(Garbage Collection，GC)的次数等等。
在本说明书一个或多个实施例中，该运行指标可以是时刻级别的指标，例如，一分钟为一个时刻，则该运行指标为分钟级别的指标。可具体采用该预设时长前与该预设时长处于同一时间段内每个时刻的运行指标。例如，假设该预设时长为一小时，且该预设时长为该预设时长所在的一天的第三个小时，则该运行指标可以是前一天第三个小时内每个时刻的运行指标。
在本说明书一个或多个实施例中，该运行指标中还可以包括流量，具体可以是该预设时长前与该预设时长处于同一时间段内每个时刻的实际流量。
在本说明书一个或多个实施例中，该服务器可根据该强化预测模型预测得到的该预设时长内各时刻对应的利用率与该预设时长内各时刻的实际利用率的差异，确定该强化预测模型的损失，并以该损失最小为目标，调整该强化预测模型的参数。
在本说明书一个或多个实施例中，该服务器还可直接根据该应用的运行指标，通过该强化预测模型进行容器数量的预测。并根据该强化预测模型预测得到的强化数量分布，调节该应用在该预设时长内各时刻的容器数量。即，无需在该数量预测模型评估未通过时，才使用该强化预测模型，可直接获取该应用的运行指标，根据该运行指标，通过预先强化学习得到的强化预测模型，确定在该预设时长内各时刻应配置给该应用的容器数量，以预测在该预设时长内该应用的容器的数量分布，作为强化数量分布。并根据该强化数量分布调节该应用在该预设时长内各时刻的容器数量。
即，在本说明书一个或多个实施例中，该服务器可根据通过数量预测模型以及强化预测模型两个模型进行容器数量的预测，并以优先根据数量预测模型的预测结果对该应用在预设时长内的容器数量进行调节的规则，根据对数量预测模型的评估结果，选择根据哪一模型的预测结果进行容器数量的调节。或者，该服务器也可以仅通过数量预测模型和强化预测模型中的一个模型进行预测，并根据得到的一个预测结果，对该应用在预设时长内的容器数量进行调节。
在本说明书一个或多个实施例中，为了最大程度的保障应用的正常运行，该服务器还可以在分别通过数量预测模型和强化预测模型预测得到容器数量分布以及强化数量分布后，针对该预设时长内的每个时刻，将容器数量分布中该时刻对应的容器数量以及强化数量分布中该时刻对应的容器数量的最大值，对该应用在预设时长内该时刻的容器数量进行调节。
在本说明书一个或多个实施例中，该服务器还可以对该强化预测模型进行评估，确定该强化预测模型的准确率，并在当该强化预测模型的准确率大于预设的比例阈值时，根据该强化预测模型输出的强化数量分布，调节该应用在该预设时长内各时刻的容器数量。在当该强化预测模型的准确率不大于预设的比例阈值时，根据该应用的初始化数量分布，确定该应用在该预设时长内各时刻的容器数量。
在本说明书一个或多个实施例中，该服务器还可以在通过流量预测模型进行预测前，先对该数量预测模型进行评估，当评估通过时，再通过该数量预测模型进行预测。即无需先通过流量预测模型预测得到在预设时长内的流量分布，根据流量分布以及预设的容器的目标利用率，通过该数量预测模型，预测得到容器数量分布后，再对该数量预测模型进行评估。而是先对该数量预测模型进行评估，待评估通过后，再依次基于该流量预测模型以及该数量预测模型进行预测，以减少预测带来的计算量。
在本说明书一个或多个实施例中，在对该数量预测模型进行评估时，该服务器还可以进行循环评估。具体的，首先，该服务器可根据评估过程中确定出的当前时刻之前，该预设时长内各历史时刻对应的利用率差值，确定损失以调整该数量预测模型的参数之后，得到调整后的数量预测模型。之后，根据调整后的数量预测模型，重新执行上述根据当前时刻之前的预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率。最后以根据各历史时刻的历史预测利用率、利用率差值、预设的差值阈值以及比例阈值进行评估的过程。
即，在调整数量预测模型参数后，该服务器可根据历史数据，通过调整后的数量预测模型，重新对当前时刻之前，该预设时长内各历史时刻的流量以及容器数量进行预测，并基于预测结果，重新确定当前时刻之前预设时长内，各历史时刻的历史预测利用率，以根据重新确定的各历史时刻的历史预测利用率以及历史实际利用率，重新对调整后的数量预测模型进行评估。待重新评估通过后，该服务器可再通过该流量预测模型对该预设时长内各时刻的流量进行预测，以进一步通过该数量预测模型，对该预设时长内各时刻的容器数量进行预测。若重新评估未通过，该服务器可直接根据初始化数量分布，确定该应用在当前时刻后的预设时长内各时刻的容器数量。
在本说明书一个或多个实施例中，在步骤S106中根据该数量预测模型预测得到的容器数量分布，确定应在该时刻配置给该应用的容器数量时，该服务器可直接将该容器数量分布中，该时刻对应的容器数量作为应在该时刻配置给该应用的容器数量，或者，当该数量预测模型评估未通过时，将该强化预测模型预测得到的强化数量分布中该时刻对应的容器数量，作为应在该时刻配置给该应用的容器数量。再或者，该服务器还可以将该容器数量分布中该时刻对应的容器数量与强化数量分布中该时刻对应的容器数量中的最大值，作为应在该时刻配置给该应用的容器数量。当然，也可以取平均值等，本说明书在此不做限制。
在本说明书一个或多个实施例中，该服务器还可以根据预设的服务水平指标(Service Level Indicator，SLI)以及服务等级目标(Service Level Objective，SLO)，结合预测得到的该容器数量分布来实时调节该应用在该预设时长内各时刻的容器数量。即结合预测得到的应用在该预设时长内各时刻的容器数量，以及实际捕捉到的流量，灵活调节该应用在该预设时长内各时刻的容器数量。
在本说明书一个或多个实施例中，具体的，该服务器可针对该预设时长内的每个时刻，确定该时刻处理器的实际利用率。之后，该服务器可根据该时刻的实际利用率，以该目标利用率为目标，调节该容器数量。
在本说明书一个或多个实施例中，该服务器还可以预设的该应用的目标利用率为目标，根据该时刻的实际利用率以及预设的时间限制条件，调节该时刻配置给该应用的容器数量。
其中，该目标利用率、预设的时间限制条件分别对应SLI以及SLO。SLI包括对该应用各时刻的实际利用率与目标利用率的大小关系的限制，SLO包括对该预设时长内不符合SLI的时刻的数量限制。
例如，在本说明书一个或多个实施例中，SLI可具体包括：针对该预设时长内的每个时刻，该时刻处理器的实际利用率不大于目标利用率。SLO可具体包括：在该预设时长内处理器的实际利用率大于目标利用率的时刻的数量小于预设时刻数量，即在该预设时长内处理器的利用率不满足SLI的时刻的数量小于预设时刻数量。
当在该预设时长内，依次针对该预设时长内的每个时刻，该服务器可判断截止到该时刻时，该应用的实际利用率是否违背了SLO，即在该预设时长内处理器的利用率不满足SLI的时刻的数量是否不小于预设时刻数量，若是，则以使下一时刻的实际利用率小于目标利用率为目标，调节下一时刻为该应用配置的容器数量，否则，根据该数量预测模型的预测结果和/或该强化预测模型的预测结果中的一种，调节该时刻为该应用配置的容器数量。
其中，该预设时刻可根据需要设置，如该预设时刻可以是5、10等，可根据需要合理设置，本说明书在此不做限制。
另外，由于对于具有周期性的应用，根据其历史数据确定其未来的流量分布会更准确。因此，在步骤S100确定历史数据之前，还可以判断该应用是否为周期性应用。
具体的，该服务器可确定该应用历史上各历史时刻的容器数量，作为各历史数量，并将确定出的各历史时刻的各历史数量，确定历史数量分布。之后，该服务器可根据该历史数量分布，判断该应用的容器数量变化是否具有周期性。当根据该历史数量分布，确定该应用在各历史时刻的容器数量变化具有周期性时，再确定该应用的历史数据。
在本说明书一个或多个实施例中，该服务器无需确定长期的历史数量分布，使得确定出的历史数量分布能够体现应用的周期性即可。例如，可确定两个月内的历史数量分布，以确定该应用的容器数量变化是否具有周期性。
进一步地，该服务器还可以根据该应用的容器数量变化的周期性，确定该应用在该预设时长内各时刻的容器数量，作为周期数量分布。具体的，该服务器可根据确定出的该历史数量分布，确定该应用的容器数量变化的周期长度。并按照时间倒序，根据预设的周期数以及该周期长度，从该预设时长前向前追溯，确定各目标历史周期，并根据该历史数量分布，确定各目标历史周期中各历史时刻的容器数量，以根据各目标历史周期中各历史时刻的容器数量，确定在该预设时长内各时刻的容器数量，作为周期数量分布。
其中，该周期长度，即一个周期对应的时长。该预设的周期数即向前追溯的周期数量。该周期数可根据需要设置，本说明书在此不做限制。
在本说明书一个或多个实施例中，该服务器还可以不判断该应用的容器数量变化是否具有周期性，直接确定历史数量分布以及确定该应用的容器数量变化的周期长度。
在本说明书一个或多个实施例中，该预设时长的时间长度可与该应用的周期长度相同，或存在倍数关系。
在本说明书一个或多个实施例中，在得到各目标历史周期中各历史时刻的容器数量之后，该服务器可根据各目标历史周期中各历史时刻的容器数量，确定该应用在该预设时长内各时刻的周期数量分布。具体的，当该周期数为1时，即当目标历史周期数量为1，且该周期长度不小于该预设时长时，该服务器可将该目标历史周期的各历史时刻对应的容器数量，作为该应用在该预设时长内各时刻配置的容器数量。当该周期长度小于该预设时长时，该服务器可根据该周期长度对该预设时长进行切割，确定各时间片段，并针对与该周期长度时长相同的时间片段，将该目标历史周期中各历史时刻的容器数量，作为该应用在该时间片段内各时刻配置的容器数量。对于与该周期长度时长不同的时间片段，该服务器可按照时间顺序，依次将该目标历史周期中各历史时刻的容器数量，作为与该周期长度时长不同的时间片段各时刻配置的容器数量。
其中，将该目标历史周期中各时刻对应的容器数量，作为该应用在该预设时长内各时刻配置的容器数量，即按照一个周期内部的时间顺序，该目标历史周期各时刻对应的容器数量，分别与该应用在该预设时长内各时刻对应的容器数量一一对应。即该目标历史周期中第i个时刻的容器数量与该应用在该预设时长内第i个时刻的容器数量相同。
在本说明书一个或多个实施例中，还可以在该目标历史周期中各时刻对应的容器数量上将容器数量按照预设的数值上调，并将上调后的各容器数量作为该预设时长内各时刻对应的容器数量，以尽可能保障确定出的容器数量不会限制该应用的正常运行。
当该周期数不为1时，该服务器可针对一个周期长度内的每个时刻维度，根据各目标历史周期在该时刻维度的容器数量，确定该应用在该预设时长中该时刻维度的容器数量。
在本说明书一个或多个实施例中，该服务器可通过将各目标历史周期在该时刻维度的容器数量取最大值、平均值、中位数等方法，确定该应用在该预设时长中该时刻维度的容器数量。
其中，该时刻维度，即在一个周期内，时刻的顺位。例如，假设一个周期的长度为1小时，则每一分钟对应一个时刻维度。该周期内的第10分钟即第10个时刻维度。
另外，为了使最终预测得到的该预设时长的容器数量分布尽可能准确，在本说明书中，在根据历史数据，通过流量预测模型进行该预设时长的流量分布的预测时，可分别进行长期以及短期的流量分布，以得到更丰富的流量分布，并基于流量分布得到更丰富的容器数量分布。
因此，在本说明书一个或多个实施例中，该流量分布可包括长期流量分布以及短期流量分布，该容器数量分布可包括长期数量分布以及短期数量分布。在步骤S102中基于历史数据进行预测时，该服务器可根据第一时间区间，按照时间倒序，从应用的历史数据中截取得到第一历史数据，并根据该第一历史数据，通过流量预测模型，进行长期的流量预测，得到该预设时长中各时刻的流量，作为长期流量分布。
在本说明书一个或多个实施例中，相应的，在步骤S104中，该服务器可根据得到的长期数量分布，通过该数量预测模型，输出长期数量分布。
另外，由于流量变化可能具有临时性以及突发性，为了使预测得到的该预设时长内各时刻的容器数量更准确，可使该预设时长内产生的数据参与到流量的预测。因此，该服务器还可在该预设时长内再进行短期的流量预测，具体的，该服务器可将该预设时长进行切分，确定各时间段，例如，假设该预设时长为1天，一个时间段可为1小时。之后，该服务器可按照时间顺序，依次针对每个时间段，更新截止到该时间段前的历史数据，并根据第二时间区间，按照时间倒序，从更新后的历史数据中截取得到第二历史数据，根据得到的第二历史数据，通过流量预测模型，得到该时间段中各时刻的流量，作为该时间段的短期流量分布。
在本说明书一个或多个实施例中，相应的，在步骤S104中，该服务器可按照时间顺序，分别根据各时间段对应的短期流量分布，通过该数量预测模型，确定各时间段的短期数量分布。
其中，该第一时间区间与该第二时间区间的长度不同，且该第一时间区间的长度大于该第二时间区间的长度，例如该第一时间区间为7天，则该服务器可从历史数据中追溯该预设时长前7天内的历史数据，并将得到的7天内的历史数据作为第一历史数据。假设该第二时间区间为2天，则该服务器可从历史数据中追溯当前时间段前2天内的历史数据，并将得到的2天内的历史数据作为第二历史数据。在对后续的时间段进行短期流量分布的预测时，可向前追溯该时间段前第二时间区间的历史数据。
在本说明书提供的一个或多个实施例中，该服务器还可以根据基于该应用的容器数量的变化周期确定的周期数量分布以及预测得到的该容器数量分布对该应用在该预设时长内各时刻的容器数量进行调节。因此，在本说明书步骤S106中，在根据该容器数量分布调节该应用在该预设时长内各时刻的容器数量时，该服务器还可以根据该容器数量分布以及该周期数量分布，确定目标数量分布。之后，该服务器可根据该目标数量分布，调节该应用在该预设时长内各时刻的容器数量。
在本说明书提供的一个或多个实施例中，在确定目标数量分布时，该服务器可针对该预设时长内的每个时刻，根据该周期数量分布，确定该时刻对应的第一数量，并根据该容器数量分布，确定该时刻对应的第二数量。当该第二数量大于该第一数量时，将该第二数量作为该时刻的目标数量，并根据该预设时长内各时刻的目标数量，确定目标数量分布。当该第二数量不大于该第一数量时，该服务器可将该第一数量作为目标数量，并根据该预设时长内各时刻的目标数量，确定目标数量分布。
在本说明书提供的一个或多个实施例中，该服务器还可以将各时刻的第一数量以及第二数量的平均值作为各时刻的目标数量，以确定该预设时长的目标数量分布。
在本说明书中，由于该服务器需要针对每个时间段，更新截止到该时间段前的历史数据，因此，对于每个时间段对应的短期流量分布的预测是一个渐进的预测过程。基于该渐进的预测过程，能够基于在该预设时长内逐渐产生的流量，考虑到该预设时长内的流量变动，得到短期流量分布，使得最终预测出的容器数量更合理，基于预测的各容器数量对该预设时长内各时刻容器数量的调节更合理准确。
在本说明书一个或多个实施例中，在进行长期流量分布的预测以及短期流量分布预测时可采用同一流量预测模型，为了使输入维度统一，可通过插值的方法进行维度同一。例如，将根据第二时间区间截取的历史数据进行补0，得到与第一时间区间截取的历史数据维度相同的输入。
或者，在本说明书一个或多个实施例中，该流量预测模型可包括长期预测模型以及短期预测模型，可以采用不同维度的训练样本分别对其进行训练。该长期预测模型则用于对长期流量分布的预测，该短期预测模型则用于对短期流量分布的预测。
在本说明书一个或多个实施例中，该长期预测模型的输入可以是历史2个月内每个时刻的实际流量，输出为未来一天内的流量分布。该短期预测模型的输入可以是历史两天内每个时刻的实际流量，输出为未来一小时内的流量分布。
在本说明书步骤S106中，该服务器可根据该长期数量分布以及短期数量分布，调节该预设时长内的各时刻为该应用配置的容器数量。具体的，该服务器可针对该预设时长内的每个时刻，根据该长期数量分布，确定该时刻对应的第一目标调节数量，根据该时刻所在时间段对应的短期数量分布，确定该时刻对应的第二目标调节数量。之后，该服务器可根据该第一目标调节数量以及该第二目标调节数量，调节该时刻的容器数量。
在本说明书提供的一个或多个实施例中，根据该第一目标调节数量以及该第二目标调节数量，调节该时刻的容器数量时，该服务器可根据该第一目标调节数量以及该第二目标调节数量中的最大值，对该时刻的容器数量进行调节。或者，该服务器还可以根据该第一目标调节数量以及该第二目标调节数量的平均值，对该时刻的容器数量进行调节。
另外，由于对于一个应用而言，针对每个时刻，该时刻的总流量由多种类型多种来源的分支流量构成。不同类型不同来源的流量，对容器数量的消耗不同。而对于总流量相同的两个时刻，由于其内部分支流量的差异性，该两个时刻分别需要分配给该应用的容器数量可能不同。
因此，在本说明书步骤S102中，该服务器还可以针对预设的每种流量数据类型，确定各历史时刻中，该流量数据类型对应的分支流量。并根据各历史时刻的各流量数据类型对应的分支流量，通过预先训练的流量预测模型，预测该应用在预设时长内各时刻的各分支流量，作为该应用在该预设时长内的流量分布。
其中预设的各流量数据类型，可根据该应用的不同功能对应的接口以及流量数据来源确定。例如，流量数据来源可包括：超文本传输协议(Hyper Text Transfer Protocol，HTTP)流量，信息(message)流量等等。
在本说明书步骤S104中，该服务器可将该预设时长内各时刻的各分支流量，输入预先训练的数量预测模型，确定该预设时长内各时刻应为该应用配置的容器数量。
其中，该容器数量由各分支流量对应的容器数量构成，在同样的总流量下，不同分支流量对应的容器数量不完全相同。
在本说明书一个或多个实施例中，在步骤S106中根据该容器数量分布，调节该应用在该预设时长内各时刻的容器数量时，该服务器还可以针对该预设时长内的每个时刻，根据该流量分布，确定该时刻对应预测的流量，并根据该容器数量分布，确定该时刻应为该应用配置的容器数量。之后，根据确定出的该时刻的流量以及容器数量，确定该时刻对应的容器中处理器的预测利用率，并以该目标利用率为目标，根据该时刻的预测利用率，调节该容器数量。
在本说明书一个或多个实施例中，可通过线性回归模型确定预测利用率，确定预测利用率的公式可具体如下：
C＝b0+b1x1+…+bnxn+ε
其中，C表示一个时刻该应用对应的预测利用率，b0～bn以及ε为对该线性回归模型训练得到的参数，x1～xn表示该时刻应用对应的各分支流量分别对应的单机能力，即该时刻对应的预测的各分支流量与容器数量的比值，则Fn表示该时刻对应的第n种分支流量，N表示该时刻对应的预测得到的容器数量。可见，同一时刻的预测利用率与容器数量负相关，可通过上调容器数量或下调容器数量来降低C的值或增大C的值。
在本说明书一个或多个实施例中，在以该目标利用率为目标，根据该时刻的预测利用率，调节该容器数量时，首先，该服务器可根据该时刻的预测利用率与该目标利用率的大小关系，以及预设的容器数量的调节区间，确定容器数量的搜索区间。例如，以[countmin，countmax]表示预设的调节区间，countmin表示预设的允许调节的容器数量的最小值，countmax表示预设的允许调节的容器数量的最大值。当该时刻的预测利用率大于该目标利用率时，为了使该时刻的预测利用率等于该目标利用率或尽可能接近该目标利用率，则可通过上调容器数量来降低该时刻的预测利用率，则该服务器可确定[countnow，countmax]为该时刻对应的搜索区间。当该时刻的预测利用率小于该目标利用率时，为了使该时刻的预测利用率等于该目标利用率或尽可能接近该目标利用率，则可通过下调容器数量来增大该时刻的预测利用率，则该服务器可确定[countmin，countnow]为该时刻对应的搜索区间。
其中，countnow表示该数量预测模型输出的该时刻对应的容器数量，且处于该调节区间内。
在确定出搜索区间之后，该服务器可针对该调节区间内的每一个容器数量，将该容器数量作为区间数量，根据该区间数量与该时刻对应的通过流量预测模型得到的流量，确定该区间数量对应的预测利用率，作为区间利用率。然后，该服务器可从该搜索区间中，确定使得区间利用率不大于目标利用率的区间数量，并从得到的区间数量中，确定对应的区间利用率与目标利用率差值最小的区间数量，作为最终在该时刻配置给该应用的容器数量。
在本说明书提供的一个或多个实施例中，当该时刻的预测利用率等于该目标利用率时，则无需根据预设的调节区间对该时刻的容器数量进行调节，可直接将该时刻对应的预测得到的容器数量，作为最终在该时刻配置给该应用的容器数量。
在本说明书提供的一个或多个实施例中，考虑到不同应用的性质不同，不同应用适合的容量调节模式不同。例如，一些应用不适合频繁调节容器数量，一些应用性能较好，则可频繁调节。因此，还可预设调节模式，灵活的根据应用性能，对其容器数量进行调节。
在本说明书提供的一个或多个实施例中，该服务器可确定该应用的应用画像，根据该应用画像，确定适合该应用的调节模式，并根据该调节模式以及该容器数量分布，调节该应用在该预设时长内各时刻的容器数量。
例如，该调节模式可包括：低频调节、周期调节以及高频调节。假设应用对应的调节模式为低频调节，且该低频调节为一天调节一次，则，该服务器可从预测得到的该预设时长各时刻的容器数量中，确定最大值作为调节目标，并根据该最大值对该应用在该预设时长各时刻的容器数量进行调节。
假设该应用对应的调节模式为周期调节，且在该预设时长内，包含该应用的两个周期长度，则该服务器可针对每一个周期长度，根据该周期长度对应的各容器数量中的最大值，对该周期长度中各时刻的容器数量进行调节。
假设该应用对应的调节模式为高频调节，且该高频调节为每5分钟一次，则该服务器可以5分数为长度，对该预设时长进行切割，确定各时间片段，并针对该预设时长中的每个时间片段，根据该时间片段对应的各容器数量中的最大值，对该时间片段中各时刻的容器数量进行调节。具体可根据需要设置，本说明书在此不做限制。
在本说明书提供的一个或多个实施例中，该服务器可确定该应用的各标签以及各标签对应的各数据，并根据各标签对应的数据，确定该应用的应用画像。由于应用的运行情况并非固定不变的，因此，可灵活对应用画像进行更新，如以一天为一个周期，每天更新应用的应用画像。
其中，该应用的各标签可根据需要设置，例如，标签可包括：事实类标签、刻画类标签以及预测类标签。其中，事实类标签包括统计型数据，包括历史上时刻级别(如，分钟级别)的应用运行指标、应用的部署情况等。刻画类标签包括对应用的客观属性进行描述的标签，属于稳定性的标签，具体可包括应用状态、版本、流量是否具有周期性、应用开发者对应用性能的标注、是否中央处理器(Central Processing Unit，CPU)敏感型应用、是否内存敏感型应用等。预测类标签为基于应用的场景，从时序上对后续标签的推测，包括流量的时序预测、应用在各种场景(如压力测试、引流、预测等场景)的容器数量的预测。
在本说明书提供的一个或多个实施例中，用于确定应用的各标签的数据可包括如下的至少部分数据：应用的周期性(如，一天一个周期、一个月两个周期等)、与应用的各功能关联的各接口的相关数据、应用当前处于的场景和节点(压力测试、应急、活动、日常)、应用的容量特征(是否处于基于开发者的标签制定的黑名单或白名单中、应用的CPU利用率的安全水位、是否内存敏感、是否CPU敏感等)、应用是否为中间件版本、应用的资源情况(是否为保活应用、是否为混合部署的应用等待)、应用涉及的容器部署情况(应用对应的服务器机型、机房、站点等)、应用的历史事件(流量增长情况、告警情况、限流情况等)、应用对应的业务场景等。
该服务器可根据上述标签中的一种或几种，确定该应用的调节模式。
在本说明书中，容量即与应用运行时使用的容器的总资源量，例如2个2Core的容器对应的容量为4Core。
另外，由于本说明书中可通过多种方式得到在该预设时长内每个时刻应为应用分配的容器数量，上述只公开了部分仅基于一种方式或多种方式的组合，调节该预设时长内各时刻的容器数量的内容。但本说明书不仅限于上述内容，在基于各种方式得到的在该预设时长内每个时刻应为应用分配的容器数量，调节该应用在该预设时长内各时刻的容器数量不冲突时，该服务器可任意组合上述几种方式得到的结果，以对该预设时长内各时刻的容器数量进行调节。
例如，本说明书一个或多个实施例中，除了根据容器数量分布以及周期数量分布确定目标分布，该服务器还可以根据周期数量分布以及强化数量分布，确定目标数量分布。
本说明书一个或多个实施例中，在根据目标数量分布，调节应用在该预设时长内各时刻的容器数量时，该服务器还可以针对每个时刻，从该目标数量分布中确定该时刻对应的容器的目标数量，以及确定该目标数量对应的预测利用率。并根据预设的容器数量的调节区间、该预测利用率以及预设的目标利用率，确定该时刻的搜索区间，以根据该搜索区间，确定最终在该时刻配置给该应用的容器数量。
在本说明书提供的一个或多个实施例中，根据周期数量分布调节应用在该预设时长内各时刻的容器数量，是基于历史的调节，根据数量预测模型输出的容器数量分布，调节应用在该预设时长内各时刻的容器数量，是基于预测的调节，基于预设的SLO的调节是实时的动态调节。该服务器可基于历史、预测、SLO中的一种或多种，灵活调节应用在该预设时长内各时刻的容器数量。
在本说明书提供的一个或多个实施例中，在预先对流量预测模型进行训练时，该服务器可确定各目标时刻，并针对每个目标时刻，将该目标时刻前第一时间区间内各时刻的实际流量作为训练样本，将该目标时刻后预设时长内各时刻的实际流量作为标签。将该训练样本输入到该流量预测模型后，得到该预设时长内各时刻的预测流量，该服务器可根据各时刻的实际流量以及预测流量间的差异，确定损失，并以该损失最小为目标，调整该流量预测模型的参数。
在本说明书提供的一个或多个实施例中，在预先对数量预测模型进行训练时，该服务器可针对每个目标时刻，将该流量预测模型输出的该目标时刻后预设时长内各时刻的预测流量作为训练样本。并将该目标时刻后预设时长内各时刻的处理器的实际利用率作为标签。并基于预测得到的各时刻的利用率与实际利用率的差值，确定该数量预测模型的损失，并以损失最小为目标，调整该数量预测模型的参数。
图3为本说明书提供的一种预测模型的示意图。如图，该预测模型包括流量预测模型、数量预测模型以及强化预测模型，将各历史时刻的实际流量输入流量预测模型后，得到当前时刻后预设时长内的流量分布，将该流量分布输入数量预测模型后，可得到该预设时长内的容器数量分布。将应用的运行指标输入该强化预测模型后，可得到当前时刻后预设时长内的强化数量分布。
图4为本说明书提供的一种容器数量调节示意图。如图，纵轴N表示容器数量，横轴表示时间T。可见该应用的容器数量变化具有周期性，且在一天内容器数量具有两个峰值。在t1与t2时间段由于存在流量突增的情况，该服务器将t1与t2时间段的容器数量也调节较高。
以上为本说明书的一个或多个实施例提供的应用的容器数量调节方法，基于同样的思路，本说明书还提供了相应的应用的容器数量调节装置，如图5所示。
图5为本说明书提供的一种应用的容器数量调节装置示意图，该装置包括：
历史数据确定模块200，用于确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量；
流量预测模块201，用于根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布；
数量预测模块202，用于根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布；
调节模块203，用于根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，所述历史数据确定模块200，还用于根据各历史时刻为应用配置的容器数量，确定历史数量分布，当根据所述历史数量分布，确定所述应用在各历史时刻的容器数量变化具有周期性时，确定所述应用的历史数据。
所述装置还包括：
周期确定模块204，用于根据所述历史数量分布，确定所述应用的容器数量变化的周期长度，根据预设的周期数量以及所述周期长度，确定各目标历史周期，根据所述历史数量分布，确定各目标历史周期中各历史时刻的容器数量，根据各目标历史周期中各历史时刻的容器数量，确定在所述预设时长内各时刻的容器数量，作为周期数量分布。
可选地，所述调节模块203，还用于根据所述容器数量分布以及所述周期数量分布，确定目标数量分布，根据所述目标数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，所述调节模块203，还用于针对所述预设时长内的每个时刻，根据所述流量分布，确定该时刻对应的预测流量，并根据所述容器数量分布，确定该时刻应为所述应用配置的容器数量，根据确定出的该时刻的流量以及容器数量，确定该时刻对应的容器中处理器的预测利用率，以所述目标利用率为目标，根据该时刻的预测利用率，调节所述容器数量。
可选地，所述历史数据还包括所述应用在各历史时刻的历史预测流量、容器的历史预测数量以及处理器的历史实际利用率，所述调节模块203，还用于根据当前时刻之前，所述预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率，根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率，当所述准确率大于预设的比例阈值时，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，当所述准确率不大于预设的比例阈值时，根据所述应用的初始化数量分布，确定所述应用在所述预设时长内各时刻的容器数量。
可选地，所述调节模块203，还用于针对当前时刻之前，所述预设时长内的每个历史时刻，确定该历史时刻的历史预测利用率与历史实际利用率间的差值，作为该历史时刻的利用率差值，确定当前时刻之前，所述预设时长内利用率差值小于预设的差值阈值的历史时刻的数量，作为达标数量，根据所述达标数量以及当前时刻之前所述预设时长内包含的历史时刻的总数，确定准确率。
所述装置还包括：
回归模块205，用于根据当前时刻之前，所述预设时长内各历史时刻对应的利用率差值，确定损失，以所述损失最小为目标，调整所述数量预测模型以及所述流量预测模型的参数。
可选地，所述调节模块203，还用于获取所述应用的运行指标，根据所述运行指标以及所述目标利用率，通过预先强化学习得到的强化预测模型，预测在所述预设时长内所述应用的容器的数量分布，作为强化数量分布，当所述数量预测模型评估未通过时，根据所述强化数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
可选地，所述流量预测模块201，还用于针对预设的每种流量数据类型，确定各历史时刻中，该流量数据类型对应的分支流量，根据各历史时刻的各流量数据类型对应的分支流量，通过预先训练的流量预测模型，预测所述应用在预设时长内各时刻的各分支流量，作为所述应用在所述预设时长内的流量分布。
可选地，所述数量预测模块202，还用于将所述预设时长内各时刻的各分支流量以及预设的容器的目标利用率，输入预先训练的数量预测模型，确定所述预设时长内各时刻应为所述应用配置的容器数量，其中，所述容器数量由各分支流量对应的容器数量构成，在同样流量下，不同分支流量对应的容器数量不完全相同。
可选地，所述调节模块203，还用于确定所述应用的应用画像，根据所述应用画像，确定适合所述应用的调节模式，根据所述调节模式以及所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
本说明书还提供了一种计算机可读存储介质，该存储介质存储有计算机程序，计算机程序可用于执行上述图1提供的应用的容器数量调节方法。
本说明书还提供了图6所示的电子设备的结构示意图。如图6所示，在硬件层面，该电子设备包括处理器、内部总线、内存以及非易失性存储器，当然还可能包括其他业务所需要的硬件。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，以实现上述图1提供的应用的容器数量调节方法。
当然，除了软件实现方式之外，本说明书并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白，本说明书的实施例可提供为方法、系统或计算机程序产品。因此，本说明书可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本说明书的实施例而已，并不用于限制本说明书。对于本领域技术人员来说，本说明书可以有各种更改和变化。凡在本说明书的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书的权利要求范围之内。

Claims (14)

1.一种应用的容器数量调节方法，其特征在于，包括：
确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量；
根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布；
根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布；
根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量；
其中，所述历史数据还包括所述应用在各历史时刻的历史预测流量、容器的历史预测数量以及容器中处理器的历史实际利用率；
根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
根据当前时刻之前，所述预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率；
根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率；
当所述准确率大于预设的比例阈值时，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量；
当所述准确率不大于预设的比例阈值时，根据所述应用的初始化数量分布，确定所述应用在所述预设时长内各时刻的容器数量。
2.如权利要求1所述的方法，其特征在于，确定应用的历史数据，具体包括：
根据各历史时刻为应用配置的容器数量，确定历史数量分布；
当根据所述历史数量分布，确定所述应用在各历史时刻的容器数量变化具有周期性时，确定所述应用的历史数据。
3.如权利要求2所述的方法，其特征在于，所述方法还包括：
根据所述历史数量分布，确定所述应用的容器数量变化的周期长度；
根据预设的周期数量以及所述周期长度，确定各目标历史周期；
根据所述历史数量分布，确定各目标历史周期中各历史时刻的容器数量；
根据各目标历史周期中各历史时刻的容器数量，确定在所述预设时长内各时刻的容器数量，作为周期数量分布。
4.如权利要求3所述的方法，其特征在于，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
根据所述容器数量分布以及所述周期数量分布，确定目标数量分布；
根据所述目标数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
5.如权利要求1所述的方法，其特征在于，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
针对所述预设时长内的每个时刻，根据所述流量分布，确定该时刻对应预测的流量，并根据所述容器数量分布，确定该时刻应为所述应用配置的容器数量；
根据确定出的该时刻的流量以及容器数量，确定该时刻对应的容器中处理器的预测利用率；
以所述目标利用率为目标，根据该时刻的预测利用率，调节所述容器数量。
6.如权利要求1所述的方法，其特征在于，根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率，具体包括：
针对当前时刻之前，所述预设时长内的每个历史时刻，确定该历史时刻的历史预测利用率与历史实际利用率间的差值，作为该历史时刻的利用率差值；
确定当前时刻之前，所述预设时长内利用率差值小于预设的差值阈值的历史时刻的数量，作为达标数量；
根据所述达标数量以及当前时刻之前所述预设时长内包含的历史时刻的总数，确定准确率。
7.如权利要求6所述的方法，其特征在于，所述方法还包括：
根据当前时刻之前，所述预设时长内各历史时刻对应的利用率差值，确定损失；
以所述损失最小为目标，调整所述数量预测模型以及所述流量预测模型的参数。
8.如权利要求1所述的方法，其特征在于，所述方法还包括：
获取所述应用的运行指标；
根据所述运行指标以及所述目标利用率，通过预先强化学习得到的强化预测模型，预测在所述预设时长内所述应用的容器的数量分布，作为强化数量分布；
当所述数量预测模型评估未通过时，根据所述强化数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
9.如权利要求1所述的方法，其特征在于，根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布，具体包括：
针对预设的每种流量数据类型，确定各历史时刻中，该流量数据类型对应的分支流量；
根据各历史时刻的各流量数据类型对应的分支流量，通过预先训练的流量预测模型，预测所述应用在预设时长内各时刻的各分支流量，作为所述应用在所述预设时长内的流量分布。
10.如权利要求9所述的方法，其特征在于，根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布，具体包括：
将所述预设时长内各时刻的各分支流量以及预设的容器的目标利用率，输入预先训练的数量预测模型，确定所述预设时长内各时刻应为所述应用配置的容器数量；
其中，所述容器数量由各分支流量对应的容器数量构成，在同样流量下，不同分支流量对应的容器数量不完全相同。
11.如权利要求1所述的方法，其特征在于，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量，具体包括：
确定所述应用的应用画像，根据所述应用画像，确定适合所述应用的调节模式；
根据所述调节模式以及所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量。
12.一种应用的容器数量调节装置，其特征在于，包括：
历史数据确定模块，用于确定应用的历史数据，所述历史数据至少包括所述应用在各历史时刻的实际流量；
流量预测模块，用于根据所述历史数据，通过预先训练的流量预测模型，预测所述应用在预设时长内的流量分布；
数量预测模块，用于根据所述流量分布以及预设的容器的目标利用率，通过预先训练的数量预测模型，预测在所述预设时长内所述应用的容器数量分布；
调节模块，用于根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量；
其中，所述历史数据还包括所述应用在各历史时刻的历史预测流量、容器的历史预测数量以及容器中处理器的历史实际利用率；
所述调节模块具体用于，根据当前时刻之前，所述预设时长内，各历史时刻的历史预测流量以及历史预测数量，确定各历史时刻的历史预测利用率；根据所述各历史时刻的历史预测利用率以及历史实际利用率，确定所述数量预测模型的准确率；当所述准确率大于预设的比例阈值时，根据所述容器数量分布，调节所述应用在所述预设时长内各时刻的容器数量；当所述准确率不大于预设的比例阈值时，根据所述应用的初始化数量分布，确定所述应用在所述预设时长内各时刻的容器数量。
13.一种计算机可读存储介质，其特征在于，所述存储介质存储有计算机程序，所述计算机程序被处理器执行时实现上述权利要求1～11任一项所述的方法。
14.一种电子设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1～11任一项所述的方法。
CN202111187472.9A 2021-10-12 2021-10-12 一种应用的容器数量调节方法及装置 Active CN113992525B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN202111187472.9A CN113992525B (zh) 2021-10-12 2021-10-12 一种应用的容器数量调节方法及装置
PCT/CN2022/124500 WO2023061348A1 (zh) 2021-10-12 2022-10-11 应用的容器数量调节
US18/397,379 US20240137411A1 (en) 2021-10-12 2023-12-27 Container quantity adjustment for application

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111187472.9A CN113992525B (zh) 2021-10-12 2021-10-12 一种应用的容器数量调节方法及装置

Publications (2)

Publication Number Publication Date
CN113992525A CN113992525A (zh) 2022-01-28
CN113992525B true CN113992525B (zh) 2024-06-21

Family

ID=79738227

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111187472.9A Active CN113992525B (zh) 2021-10-12 2021-10-12 一种应用的容器数量调节方法及装置

Country Status (3)

Country Link
US (1) US20240137411A1 (zh)
CN (1) CN113992525B (zh)
WO (1) WO2023061348A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113992525B (zh) * 2021-10-12 2024-06-21 支付宝(杭州)信息技术有限公司 一种应用的容器数量调节方法及装置
CN115037655B (zh) * 2022-05-19 2024-03-12 支付宝(杭州)信息技术有限公司 压测方法和系统
CN115550259B (zh) * 2022-09-13 2024-05-14 平安银行股份有限公司 基于白名单的流量分配方法及相关设备
CN116167463B (zh) * 2023-04-26 2023-07-07 之江实验室 一种面向智能计算的分布式模型训练容器调度方法及装置
CN117451284B (zh) * 2023-12-26 2024-04-12 宁德时代新能源科技股份有限公司 容器气密性异常检测方法、装置、电子设备和存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111026550A (zh) * 2019-11-29 2020-04-17 中国科学院深圳先进技术研究院 容器云环境下的任务调度方法、装置、服务器及存储装置
CN111143033A (zh) * 2019-12-20 2020-05-12 青岛海尔科技有限公司 基于可伸缩操作系统的操作执行方法及装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10439891B2 (en) * 2014-04-08 2019-10-08 International Business Machines Corporation Hyperparameter and network topology selection in network demand forecasting
CN104580524A (zh) * 2015-01-30 2015-04-29 华为技术有限公司 一种云平台上的资源伸缩方法和一种云平台
US10778599B2 (en) * 2017-03-30 2020-09-15 Home Box Office, Inc. Predictive scaling of computing resources
WO2018214060A1 (zh) * 2017-05-24 2018-11-29 北京质享科技有限公司 一种城市小尺度空气质量指数预测方法与系统
CN108093046A (zh) * 2017-12-18 2018-05-29 江苏润和软件股份有限公司 一种基于前馈控制的云应用容器资源调度方法
US20210064432A1 (en) * 2018-02-05 2021-03-04 Telefonaktiebolaget Lm Ericsson (Publ) Resource needs prediction in virtualized systems: generic proactive and self-adaptive solution
US10579093B2 (en) * 2018-03-01 2020-03-03 At&T Intellectual Property I, L.P. Workload prediction based CPU frequency scaling
CN110278288B (zh) * 2019-05-17 2021-10-26 平安科技（深圳）有限公司 预分配容器ip的方法、装置、计算机设备及存储介质
CN111130839B (zh) * 2019-11-04 2021-07-16 清华大学 一种流量需求矩阵预测方法及其系统
CN111079980B (zh) * 2019-11-22 2021-06-29 天合云能源互联网技术(杭州)有限公司 基于自适应分类策略和混合优化svr的光功率预测方法
CN111030869B (zh) * 2019-12-20 2022-09-20 锐捷网络股份有限公司 一种网络流量的预测方法及预测装置
CN111401609B (zh) * 2020-03-04 2023-01-17 平安科技（深圳）有限公司 车流量时间序列的预测方法及预测装置
CN112087504A (zh) * 2020-08-31 2020-12-15 浪潮通用软件有限公司 一种基于工作负载特性的动态负载均衡的方法及装置
CN112084040B (zh) * 2020-09-28 2021-07-20 上海道客网络科技有限公司 一种基于应用镜像数据识别的容器资源规划系统与方法
CN112289391B (zh) * 2020-10-28 2023-08-22 广西贺州市桂东电子科技有限责任公司 一种基于机器学习的阳极铝箔性能预测系统
CN113992525B (zh) * 2021-10-12 2024-06-21 支付宝(杭州)信息技术有限公司 一种应用的容器数量调节方法及装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111026550A (zh) * 2019-11-29 2020-04-17 中国科学院深圳先进技术研究院 容器云环境下的任务调度方法、装置、服务器及存储装置
CN111143033A (zh) * 2019-12-20 2020-05-12 青岛海尔科技有限公司 基于可伸缩操作系统的操作执行方法及装置

Also Published As

Publication number Publication date
CN113992525A (zh) 2022-01-28
WO2023061348A1 (zh) 2023-04-20
US20240137411A1 (en) 2024-04-25

Similar Documents

Publication Publication Date Title
CN113992525B (zh) 一种应用的容器数量调节方法及装置
CN110163417B (zh) 一种业务量的预测方法、装置及设备
CN109634561A (zh) 一种在线可视化编程方法及装置
CN111324533B (zh) A/b测试方法、装置及电子设备
CN116304720B (zh) 一种代价模型训练的方法、装置、存储介质及电子设备
CN116225669B (zh) 一种任务执行方法、装置、存储介质及电子设备
CN116302898A (zh) 一种任务治理方法、装置、存储介质及电子设备
CN117079480B (zh) 一种快速路上匝道交通信号灯的控制方法及装置
CN116347623B (zh) 一种任务调度的方法、装置、存储介质及电子设备
CN116403097A (zh) 一种目标检测方法、装置、存储介质及电子设备
CN114567886B (zh) 网络规划方法、装置、设备和计算机存储介质
CN116760871B (zh) 基于多协议协同的智慧表务管理系统
CN116996397B (zh) 一种网络丢包优化的方法、装置、存储介质及电子设备
CN117201334B (zh) 一种多模态网络流量预测方法及装置
CN116957105A (zh) 一种模型训练的方法、装置、存储介质及电子设备
CN116755862B (zh) 一种算子优化调度模型的训练方法、装置、介质及设备
CN117455015B (zh) 一种模型优化的方法、装置、存储介质及电子设备
CN118095907A (zh) 一种能耗监控与预测方法、装置、存储介质及电子设备
CN117294715A (zh) 端边云调度优化方法、系统和装置
CN118227450A (zh) 自动化测试任务调度方法、设备和存储介质
CN116776114A (zh) 一种风险检测的方法、装置、存储介质及电子设备
CN116483622A (zh) 异常恢复预测模型的生成方法、预测方法、装置及设备
CN117592998A (zh) 一种风控的方法、装置、存储介质及电子设备
CN116301626A (zh) 一种缓存资源管理方法、装置及设备
CN118051561A (zh) 知识图谱数据的同步方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant