CN114090204A - 一种资源预测方法及装置 - Google Patents
一种资源预测方法及装置 Download PDFInfo
- Publication number
- CN114090204A CN114090204A CN202111364690.5A CN202111364690A CN114090204A CN 114090204 A CN114090204 A CN 114090204A CN 202111364690 A CN202111364690 A CN 202111364690A CN 114090204 A CN114090204 A CN 114090204A
- Authority
- CN
- China
- Prior art keywords
- consumption
- interface
- moment
- tps
- resource
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明实施例提供一种资源预测方法及装置。该方法包括:采集生产环境中的服务器在各时刻的资源实际总消耗量以及服务器的各接口在各时刻的每秒交易量TPS;基于线性回归模型,通过各时刻的资源实际总消耗量和各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;构建接口间第一关联特征和接口间第二关联特征;基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量。更加清楚地了解生产环境中资源的实际使用情况。考虑到了各接口之间的相互作用,从而提高资源预测的准确性。得到的各接口的单TPS资源细估消耗量的准确性得到提升。
Description
技术领域
本发明实施例涉及资源调度技术领域,尤其涉及一种资源预测方法、装置、计算设备及计算机可读存储介质。
背景技术
随着计算机技术的发展,越来越多的技术应用在金融领域,传统金融业正在逐步向金融科技(Fintech)转变,但由于金融行业的安全性、实时性要求,也对技术提出的更高的要求。
应用系统接收用户的交易请求后,为交易请求分配相应的资源进行处理。当交易请求量较大时,需要根据交易请求量的增加相应地进行资源的扩容。以应用系统中的一台服务器为例,服务器中包含多个接口,不同的接口接收不同类型的交易请求,不同类型的交易请求对资源的消耗量不同,因此,若能确定任一接口的每个交易请求对资源的消耗量,即单TPS(Transaction Per Second,每秒交易量)资源消耗量,那么在后续时刻判断如何进行扩容时,就可根据该接口的单TPS资源消耗量及该接口增加的交易请求量,得出该接口增加的资源消耗量,进一步得到该服务器的各接口增加的资源总消耗量。根据增加的资源总消耗量相应地进行资源的扩容。
现有技术中通过对测试环境中的服务器进行压测确定各接口的单TPS资源消耗量。具体为,将测试环境中的机器设置成理想条件,即只进行单接口服务,通过单一地对每个接口进行压测得到各接口的单TPS资源消耗量。但是测试环境和实际的生产环境存在数据、配置、缓存等差异,将测试环境的压测结果直接应用于生产环境中,环境差异会导致扩容结果准确率低、不确定性高。同时,大多数服务器都为多接口的混合型服务器,不同的接口之间会互相影响,若在测试环境中将服务器设置成理想的单接口服务器进行单一压测,同样会导致扩容结果准确率低、不确定性高。
综上,本发明实施例提供一种资源预测方法,用以提高资源预测的准确性。
发明内容
本发明实施例提供一种资源预测方法,用以提高资源预测的准确性。
第一方面,本发明实施例提供一种资源预测方法,包括:
采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
通过采集生产环境中各时刻的服务器的监控数据并对监控数据进行分析,可以更加清楚地了解生产环境中资源的实际使用情况。监控数据包括生产环境中服务器在各时刻的资源实际总消耗量以及服务器的各接口在各时刻的TPS,对各接口的资源使用情况同时进行分析,且对任意两个接口构建了关联特征,考虑到了各接口之间的相互作用,从而提高资源预测的准确性。采用双线性回归模型对各接口的单TPS资源消耗量进行预测,进一步直观且准确地确定了各接口的资源使用情况。如此,得到的各接口的单TPS资源细估消耗量的准确性得到提升。
可选地,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量,包括:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求时,将满足设定要求时的第一初始值确定为各接口的单TPS资源粗估消耗量。
通过在线性回归模型中不断修正第一初始值,直至各时刻的资源实际总消耗量和各时刻的资源预估总消耗量满足设定要求,如此确定的单TPS资源粗估消耗量是在服务器提供多接口服务中确定的,因此准确性较高。
可选地,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量,包括:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
基于满足设定要求时的第一初始值,根据所述各接口在各时刻的TPS得到所述各接口在各时刻的资源预估总消耗量;计算所述各时刻的资源预估总消耗量和所述各时刻的资源实际总消耗量的差值,保留差值小于预设阈值的时刻对应的资源实际总消耗量;
基于保留的各时刻的资源实际总消耗量,将所述满足设定要求时的第一初始值和所述各接口在保留的各时刻的TPS代入线性回归方程,得到所述保留的各时刻的资源预估总消耗量;基于所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量,更新所述满足设定要求时的第一初始值,直至所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量满足设定要求时,将再次满足设定要求时的第一初始值确定为所述各接口的单TPS资源粗估消耗量。
通过滤除偏差较大的噪声数据,进一步优化了第一初始值。
可选地,根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征,包括:
将所述各接口的单TPS资源粗估消耗量表示成第一行向量,将所述第一行向量转置得到第一列向量;
将所述第一列向量与所述第一行向量相乘,得到所述接口间第一关联特征。
实际中,服务器的各个接口是相互关联的,而只针对各个接口独立地使用线性回归模型进行计算没有考虑到接口之间的关联关系。因此确定第一关联特征,第一关联特征反映了各接口间的单TPS资源粗估消耗量的关联关系。
可选地,针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征,包括:
针对任一时刻,将各接口在所述时刻的TPS表示成第二行向量,将所述第二行向量转置得到第二列向量;
将所述第二列向量与所述第二行向量相乘,得到所述接口间第二关联特征。
实际中,服务器的各个接口是相互关联的,而只针对各个接口独立地使用线性回归模型进行计算没有考虑到接口之间的关联关系。因此确定第二关联特征,第二关联特征反映了各接口间在任一时刻的TPS的关联关系。
可选地,基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量,包括:
将所述各接口间第一关联特征和所述各接口间第二关联特征代入双线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述各接口的单TPS资源粗估消耗量,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
将满足设定要求时的所述各接口的单TPS资源粗估消耗量,确定为所述各接口的单TPS资源细估消耗量。
通过在双线性回归模型中不断修正各接口的单TPS资源粗估消耗量,直至各时刻的资源实际总消耗量和各时刻的资源预估总消耗量满足设定要求,如此确定的单TPS资源粗估消耗量的准确性较高。
可选地,在确定各接口的单TPS资源细估消耗量之后,还包括:
对所述各接口的单TPS资源细估消耗量做归一化处理和/或正规化处理,分别得到所述各接口的单TPS资源细估消耗量的归一化向量和/或正规化向量;
根据所述各接口的单TPS资源细估消耗量、所述归一化向量和所述正规化向量中的至少两项,构建特征向量;
设置修正参数的第二初始值,将所述特征向量、所述第二初始值和所述各接口在各时刻的TPS代入线性回归方程,得到所述各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第二初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
根据满足所述设定要求时的第二初始值和所述特征向量确定各接口的最终单TPS资源细估消耗量。
对初步得到的单TPS资源细估消耗量做归一化处理,得到归一化向量,可以将各接口的单TPS资源细估消耗量限定在一定的范围内,从而可以加快后续求最优解的速度,提高处理精度;对初步得到的单TPS资源细估消耗量做正规化处理,得到正规化向量,可以使各接口的单TPS资源细估消耗量服从标准正态分布,进一步提高了处理精度。如此,基于单TPS资源细估消耗量、归一化向量和正规化向量中的至少两项构建的特征向量可以提高后续的处理精度。由于特征向量已固定,因此引入修正参数,对修正参数进行多次修正,得到修正参数的设定要求时的第二初始值。进一步基于设定要求时的第二初始值和特征向量得到最终单TPS资源细估消耗量。如此得到的最终单TPS资源细估消耗量相较于初步得到的单TPS资源细估消耗量进行了数据增强,包含了更多的信息,鲁棒性得到提升。
第二方面,本发明实施例还提供一种资源预测装置,包括:
采集单元,用于采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
处理单元,用于:
基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
可选地,所述处理单元,具体用于:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求时,将满足设定要求时的第一初始值确定为各接口的单TPS资源粗估消耗量。
可选地,所述处理单元,具体用于:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
基于满足设定要求时的第一初始值,根据所述各接口在各时刻的TPS得到所述各接口在各时刻的资源预估总消耗量;计算所述各时刻的资源预估总消耗量和所述各时刻的资源实际总消耗量的差值,保留差值小于预设阈值的时刻对应的资源实际总消耗量;
基于保留的各时刻的资源实际总消耗量,将所述满足设定要求时的第一初始值和所述各接口在保留的各时刻的TPS代入线性回归方程,得到所述保留的各时刻的资源预估总消耗量;基于所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量,更新所述满足设定要求时的第一初始值,直至所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量满足设定要求时,将再次满足设定要求时的第一初始值确定为所述各接口的单TPS资源粗估消耗量。
可选地,所述处理单元,具体用于:
将所述各接口的单TPS资源粗估消耗量表示成第一行向量,将所述第一行向量转置得到第一列向量;
将所述第一列向量与所述第一行向量相乘,得到所述接口间第一关联特征。
可选地,所述处理单元,具体用于:
针对任一时刻,将各接口在所述时刻的TPS表示成第二行向量,将所述第二行向量转置得到第二列向量;
将所述第二列向量与所述第二行向量相乘,得到所述接口间第二关联特征。
可选地,所述处理单元,具体用于:
将所述各接口间第一关联特征和所述各接口间第二关联特征代入双线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述各接口的单TPS资源粗估消耗量,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
将满足设定要求时的所述各接口的单TPS资源粗估消耗量,确定为所述各接口的单TPS资源细估消耗量。
可选地,所述处理单元,还用于:
对所述各接口的单TPS资源细估消耗量做归一化处理和/或正规化处理,分别得到所述各接口的单TPS资源细估消耗量的归一化向量和/或正规化向量;
根据所述各接口的单TPS资源细估消耗量、所述归一化向量和所述正规化向量中的至少两项,构建特征向量;
设置修正参数的第二初始值,将所述特征向量、所述第二初始值和所述各接口在各时刻的TPS代入线性回归方程,得到所述各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第二初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
根据满足所述设定要求时的第二初始值和所述特征向量确定各接口的最终单TPS资源细估消耗量。
第三方面,本发明实施例还提供一种计算设备,包括:
存储器,用于存储计算机程序;
处理器,用于调用所述存储器中存储的计算机程序,按照获得的程序执行上述任一方式所列的资源预测方法。
第四方面,本发明实施例还提供一种计算机可读存储介质,所述计算机可读存储介质存储有计算机可执行程序,所述计算机可执行程序用于使计算机执行上述任一方式所列的资源预测方法。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简要介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域的普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种系统架构的示意图;
图2为本发明实施例提供的一种资源预测方法的流程示意图;
图3A为本发明实施例提供的一种接口110的TPS变化情况的示意图;
图3B为本发明实施例提供的一种服务器的资源实际总消耗量的示意图;
图4为本发明实施例提供的一种各时刻的CPU预估总消耗量与各时刻的CPU实际总消耗量之间的关系的示意图;
图5为本发明实施例提供的一种各时刻的CPU预估总消耗量与各时刻的CPU实际总消耗量之间的关系的示意图;
图6为本发明实施例提供的一种确定接口间第一关联特征的示意图;
图7为本发明实施例提供的一种将接口间第一关联特征展开的方法的示意图;
图8为本发明实施例提供的一种资源预测方法的流程示意图;
图9为本发明实施例提供的一种得到特征向量以及修正参数的方法的流程示意图;
图10为本发明实施例提供的一种资源预测装置的结构示意图;
图11为本发明实施例提供的一种计算机设备的结构示意图。
具体实施方式
为使本申请的目的、实施方式和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施方式进行清楚、完整地描述,显然,所描述的示例性实施例仅是本申请一部分实施例,而不是全部的实施例。
基于本申请描述的示例性实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请所附权利要求保护的范围。此外,虽然本申请中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整实施方式。
需要说明的是,本申请中对于术语的简要说明,仅是为了方便理解接下来描述的实施方式,而不是意图限定本申请的实施方式。除非另有说明,这些术语应当按照其普通和通常的含义理解。
本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似或同类的对象或实体,而不必然意味着限定特定的顺序或先后次序,除非另外注明(Unless otherwise indicated)。应该理解这样使用的用语在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
图1示例性的示出了本发明实施例所适用的一种系统架构,该系统架构可以为服务器100,包括多个接口,如图1中示出的接口110、接口120、接口130。不同的接口可能处理不同的交易请求,也可能处理相同的交易请求,本发明实施例对此不作限制。例如,接口110接收开户的交易请求,接口120接收销户的交易请求,接口130接收转账的交易请求。
需要说明的是,上述图1所示的结构仅是一种示例,本发明实施例对此不做限定。
图1所示意的服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、内容分发网络(Content DeliveryNetwork,CDN)、以及大数据和人工智能平台等基础云计算服务的云服务器。
现有技术中,确定各接口的单TPS资源消耗量的方法为,搭建与工作环境的配置尽量一致的测试环境,在测试环境中,将服务器设置成理想条件即只提供单接口服务,从而测得各接口的单TPS资源消耗量。例如,向服务器100仅发送开户的交易请求,则开户的交易请求仅通过接口110接收。监控数据测得接口110任一时刻的TPS及该时刻对应的服务器的资源总消耗量,将该时刻服务器的资源总消耗量除以该时刻的接口110的TPS可得接口110的单TPS资源消耗量,即,确定了通过接口110的交易请求中,每个交易请求占用的资源消耗量。那么若后续业务人员确定了接口110增加的TPS后,将接口110增加的TPS乘以接口110的单TPS资源消耗量可得接口110增加的资源总消耗量。同理,可得接口120和接口130增加的资源总消耗量,那么可对应的进行资源的扩容。
但是上述方法在测试环境中进行,且假设服务器仅提供单接口服务,这样确定的单TPS资源消耗量准确度较低,且对每个接口单一进行压测,由于接口数量众多会导致测试复杂性高、耗时长等。
本发明实施例提供一种资源预测方法,如图2所示,包括如下步骤。
步骤201,采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
步骤202,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
步骤203,根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
步骤204,基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
本发明实施例提供的资源预测方法可以直接在生产环境中且服务器提供多接口服务的情况下进行。
通过采集生产环境中各时刻的服务器的监控数据并对监控数据进行分析,可以更加清楚地了解生产环境中资源的实际使用情况。监控数据包括生产环境中服务器在各时刻的资源实际总消耗量以及服务器的各接口在各时刻的TPS,对各接口的资源使用情况同时进行分析,且对任意两个接口构建了关联特征,考虑到了各接口之间的相互作用,从而提高资源预测的准确性。采用双线性回归模型对各接口的单TPS资源消耗量进行预测,进一步直观且准确地确定了各接口的资源使用情况。如此,得到的各接口的单TPS资源细估消耗量的准确性得到提升。
在步骤201中,采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS。
监控数据可以监控到服务器的各接口在各时刻的TPS,例如接口110在8:00-9:00的TPS变化情况如图3A所示,同理可得其他接口在各时刻的TPS变化情况。监控数据还可以监控到服务器在各时刻的资源实际总消耗量,以CPU资源为例,图3B示出了服务器在8:00-9:00的资源实际总消耗量变化情况。
在步骤202中,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量。
在任一时刻时,将各接口的TPS定义为x1,x2,…,xn,其中n为接口的数量。将各接口的单TPS资源消耗量定义为a1,a2,…,an。将服务器的资源实际总消耗量定义为y,则应满足公式(1)。
y=a1x1+a2x2+…+anxn+β (1)
其中,β为进程运行本身的CPU消耗量。
在公式(1)中,x1,x2,…,xn和y为通过监控数据获得,a1,a2,…,an为未知数,接下来通过线性回归的方法求得未知数。
具体为:设置各接口的单TPS资源消耗量的第一初始值,将第一初始值和各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于各时刻的资源实际总消耗量和各时刻的资源预估总消耗量,更新第一初始值,直至各时刻的资源实际总消耗量和各时刻的资源预估总消耗量满足设定要求时,将满足设定要求时的第一初始值确定为各接口的单TPS资源粗估消耗量。
举个例子,为a1,a2,…,an设置第一初始值,第一初始值在任意时刻的值是不变的。将第一初始值和各接口在任一时刻的TPS代入公式(1),得到该时刻的资源预估总消耗量y’,同理可得到各时刻的y’,求各时刻的y与y’的残差平方和,可得公式(2)。
D=∑(y-y’)2 (2)
采用最小二乘法或梯度下降法更新第一初始值,直至D最小时,可知此时,各时刻的y与y’的拟合程度最好,此时的第一初始值确定为各接口的单TPS资源粗估消耗量。
图4中示例性地示出了在a1,a2,…,an为满足设定要求时的第一初始值时,得到的各时刻的CPU预估总消耗量与各时刻的CPU实际总消耗量之间的关系。在图4中,各时刻的CPU实际总消耗量和CPU预估总消耗量的差值表示在下方的Error曲线中。
可以看出,Error曲线有很多突增,这些突增是噪声数据,会影响拟合效果。噪声数据产生的原因有很多,例如实际生产环境中会有进行不定项的CPU开销,例如日志压缩,此类情况发生时CPU总消耗量会有突增。这种不定项的CPU开销数据对于准确地拟合上式从而求解系数来说是噪声数据。接下来我们可以过滤掉此类噪声数据,进而得到更加准确的各接口的单TPS资源粗估消耗量的值。
具体为:基于上述方法得到的满足设定要求的第一初始值,根据各接口在各时刻的TPS得到各接口在各时刻的资源预估总消耗量;计算各时刻的资源预估总消耗量和各时刻的资源实际总消耗量的差值,保留差值小于预设阈值的时刻对应的资源实际总消耗量。
举例来说,在得到如图4所示的各时刻的CPU预估总消耗量与各时刻的CPU实际总消耗量之间的关系示意图后,设置一个预设阈值,若任一时刻的资源预估总消耗量和资源实际总消耗量的差值不小于预设阈值,则将该时刻对应的各接口的TPS值和资源实际总消耗量的值删除,保留差值小于预设阈值的时刻对应的资源实际总消耗量和各接口的TPS。
在对数据做出删减后,基于保留的各时刻的资源实际总消耗量和各接口在各时刻的TPS,再次进行拟合。依然采用线性回归模型,对上述方法得到的第一初始值再次进行更新。具体为:将满足设定要求时的第一初始值和各接口在保留的各时刻的TPS代入线性回归方程,得到保留的各时刻的资源预估总消耗量;基于所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量,更新所述满足设定要求时的第一初始值,直至所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量满足设定要求时,将再次满足设定要求时的第一初始值确定为所述各接口的单TPS资源粗估消耗量。
如此得到了更加优化的各接口的单TPS资源粗估消耗量。如图5,示例性的示出了过滤噪声数据后得到的各时刻的CPU预估总消耗量与各时刻的CPU实际总消耗量之间的关系示意图。可以看到,过滤掉噪声数据之后求得的修正版线性回归模型可以更好地拟合CPU实际总消耗量和其所涉及的各个接口的TPS值。同时,各时刻的CPU预估总消耗量与CPU实际总消耗量的差值均在0附近。
根据上述方法得到的各接口的单TPS资源粗估消耗量没有考虑到各接口间的相互关系,而在实际中,服务器中各个接口是相互关联的。因此通过步骤203继续进行优化。
在步骤203中,根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个。
具体地,将所述各接口的单TPS资源粗估消耗量表示成第一行向量,将所述第一行向量转置得到第一列向量;将所述第一列向量与所述第一行向量相乘,得到所述接口间第一关联特征。针对任一时刻,将各接口在所述时刻的TPS表示成第二行向量,将所述第二行向量转置得到第二列向量;将所述第二列向量与所述第二行向量相乘,得到所述接口间第二关联特征。
图6示例性示出了上述过程。例如,各接口的单TPS资源粗估消耗量表示成行向量为(1,2,3),则转置后得到列向量(1,2,3)T。用3×1的列向量乘1×3的行向量得到3×3的矩阵,即接口间第一关联特征。
同理,针对任一时刻,各接口在该时刻的TPS表示成行向量为(4,5,6),则转置后得到列向量(4,5,6)T。用3×1的列向量乘1×3的行向量得到3×3的矩阵,即接口间第二关联特征。
在步骤204中,基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量。
对单TPS资源粗估消耗量迭代优化,将优化后的单TPS资源粗估消耗量作为单TPS资源细估消耗量。
具体为,将所述各接口间第一关联特征和所述各接口间第二关联特征代入双线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述各接口的单TPS资源粗估消耗量,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;将满足设定要求时的所述各接口的单TPS资源粗估消耗量,确定所述各接口的单TPS资源细估消耗量。
举例来说,结合图7,在步骤203中得到的第一关联特征和第二关联特征均为3×3的矩阵,为了后续计算简便,可以将第一关联特征展开成一个1×9的行向量,将第二关联特征展开成一个9×1的列向量,将两个向量带入公式(1),得到任一时刻的资源预估总消耗量。针对各时刻,计算各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量的残差平方和。不断更新各接口的单TPS资源粗估消耗量,则第一关联特征随之更新,直至残差平方和最小,将此时的各接口的单TPS资源粗估消耗量确定为各接口的单TPS资源细估消耗量。
可选地,还可以进一步优化上述得到的单TPS资源细估消耗量。如图8所示。包括:
步骤801,对所述各接口的单TPS资源细估消耗量做归一化处理和/或正规化处理,分别得到所述各接口的单TPS资源细估消耗量的归一化向量和/或正规化向量;
步骤802,根据所述各接口的单TPS资源细估消耗量、所述归一化向量和所述正规化向量中的至少两项,构建特征向量;
步骤803,设置修正参数的第二初始值,将所述特征向量、所述第二初始值和所述各接口在各时刻的TPS代入线性回归方程,得到所述各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第二初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
步骤804,根据满足所述设定要求时的第二初始值和所述特征向量确定各接口的最终单TPS资源细估消耗量。
举例来说,结合图9,若各接口的单TPS资源细估消耗量如图9所示,为一个1×3的行向量,对该行向量做归一化处理,即令该行向量中的每一个数除以该行向量中最大的数,得到归一化向量;对该行向量做正规化处理,即令该行向量中的每一个数除以该行向量的模,得到正规化向量。若基于该行向量、归一化向量和正规化向量构建特征向量,则可以得到一个3×3的矩阵。
引入修正参数,修正参数的行数和列数根据特征向量的行数列数、各接口在各时刻的TPS的行数列数决定。在本例中,特征向量为一个3×3的矩阵,各接口在各时刻的TPS为一个3×1的列向量。则为了使该时刻的资源预估总消耗量为一个值,设置修正参数为一个1×3的行向量,如图9所示。
修正参数为未知数,设置修正参数的第二初始值,将特征向量、第二初始值和各接口在任一时刻的TPS代入线性回归方程,得到任一时刻的资源预估总消耗量;计算各时刻的资源实际总消耗量和资源预估总消耗量的残差平方和,不断更新第二初始值,直至残差平方和最小,此时的修正参数的第二初始值和特征向量的乘积为各接口的最终单TPS资源细估消耗量。
对初步得到的单TPS资源细估消耗量做归一化处理,得到归一化向量,可以将各接口的单TPS资源细估消耗量限定在一定的范围内,从而可以加快后续求最优解的速度,提高处理精度;对初步得到的单TPS资源细估消耗量做正规化处理,得到正规化向量,可以使各接口的单TPS资源细估消耗量服从标准正态分布,进一步提高了处理精度。如此,基于单TPS资源细估消耗量、归一化向量和正规化向量中的至少两项构建的特征向量可以提高后续的处理精度。由于特征向量已固定,因此引入修正参数,对修正参数进行多次修正,得到修正参数的设定要求时的第二初始值。进一步基于设定要求时的第二初始值和特征向量得到最终单TPS资源细估消耗量。如此得到的最终单TPS资源细估消耗量相较于初步得到的单TPS资源细估消耗量进行了数据增强,包含了更多的信息,鲁棒性得到提升。
值得注意的是,图8所示意的方法不仅可以对单TPS资源细估消耗量做归一化处理和/或正规化处理,还可以直接对单TPS资源粗估消耗量做归一化处理和/或正规化处理。若对单TPS资源粗估消耗量做归一化处理和/或正规化处理,则后续处理步骤与图8所示步骤相似,在此不再赘述。
本领域技术人员可以将单TPS资源粗估消耗量用于后续时刻服务器的资源预测总消耗量;也可以将单TPS资源细估消耗量用于后续时刻服务器的资源预测总消耗量;也可以将最终单TPS资源细估消耗量用于后续时刻服务器的资源预测总消耗量;本发明实施例对此不做限制。
在确定了单TPS资源消耗量(单TPS资源粗估消耗量或单TPS资源细估消耗量)后,可以在后续时刻进行扩容资源的预测。例如,得到接口110的单TPS的CPU消耗量为1%,接口120的单TPS的CPU消耗量为2%,接口130的单TPS的CPU消耗量为3%,业务人员设置接口110的TPS在后续时刻会增长100个/秒,接口120的TPS在后续时刻会增长200个/秒,接口130的TPS在后续时刻会增长300个/秒。则可知后续时刻服务器增加的资源总消耗量为100×1%+200×2%+300×3%。据此可对应用系统进行相应的扩容。
基于相同的技术构思,图10示例性的示出了本发明实施例提供的一种资源预测装置的结构,该结构可以执行资源预测的流程。
如图10所示,该装置具体包括:
采集单元1001,用于采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
处理单元1002,用于:
基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
可选地,所述处理单元1002,具体用于:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求时,将满足设定要求时的第一初始值确定为各接口的单TPS资源粗估消耗量。
可选地,所述处理单元1002,具体用于:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
基于满足设定要求时的第一初始值,根据所述各接口在各时刻的TPS得到所述各接口在各时刻的资源预估总消耗量;计算所述各时刻的资源预估总消耗量和所述各时刻的资源实际总消耗量的差值,保留差值小于预设阈值的时刻对应的资源实际总消耗量;
基于保留的各时刻的资源实际总消耗量,将所述满足设定要求时的第一初始值和所述各接口在保留的各时刻的TPS代入线性回归方程,得到所述保留的各时刻的资源预估总消耗量;基于所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量,更新所述满足设定要求时的第一初始值,直至所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量满足设定要求时,将再次满足设定要求时的第一初始值确定为所述各接口的单TPS资源粗估消耗量。
可选地,所述处理单元1002,具体用于:
将所述各接口的单TPS资源粗估消耗量表示成第一行向量,将所述第一行向量转置得到第一列向量;
将所述第一列向量与所述第一行向量相乘,得到所述接口间第一关联特征。
可选地,所述处理单元1002,具体用于:
针对任一时刻,将各接口在所述时刻的TPS表示成第二行向量,将所述第二行向量转置得到第二列向量;
将所述第二列向量与所述第二行向量相乘,得到所述接口间第二关联特征。
可选地,所述处理单元1002,具体用于:
将所述各接口间第一关联特征和所述各接口间第二关联特征代入双线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述各接口的单TPS资源粗估消耗量,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
将满足设定要求时的所述各接口的单TPS资源粗估消耗量,确定为所述各接口的单TPS资源细估消耗量。
可选地,所述处理单元1002,还用于:
对所述各接口的单TPS资源细估消耗量做归一化处理和/或正规化处理,分别得到所述各接口的单TPS资源细估消耗量的归一化向量和/或正规化向量;
根据所述各接口的单TPS资源细估消耗量、所述归一化向量和所述正规化向量中的至少两项,构建特征向量;
设置修正参数的第二初始值,将所述特征向量、所述第二初始值和所述各接口在各时刻的TPS代入线性回归方程,得到所述各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第二初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
根据满足所述设定要求时的第二初始值和所述特征向量确定各接口的最终单TPS资源细估消耗量。
基于相同的技术构思,本申请实施例提供了一种计算机设备,如图11所示,包括至少一个处理器1101,以及与至少一个处理器连接的存储器1102,本申请实施例中不限定处理器1101与存储器1102之间的具体连接介质,图11中处理器1101和存储器1102之间通过总线连接为例。总线可以分为地址总线、数据总线、控制总线等。
在本申请实施例中,存储器1102存储有可被至少一个处理器1101执行的指令,至少一个处理器1101通过执行存储器1102存储的指令,可以执行上述资源预测方法的步骤。
其中,处理器1101是计算机设备的控制中心,可以利用各种接口和线路连接计算机设备的各个部分,通过运行或执行存储在存储器1102内的指令以及调用存储在存储器1102内的数据,从而进行资源预测。可选的,处理器1101可包括一个或多个处理单元,处理器1101可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器1101中。在一些实施例中,处理器1101和存储器1102可以在同一芯片上实现,在一些实施例中,它们也可以在独立的芯片上分别实现。
处理器1101可以是通用处理器,例如中央处理器(CPU)、数字信号处理器、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件,可以实现或者执行本申请实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。
存储器1102作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块。存储器1102可以包括至少一种类型的存储介质,例如可以包括闪存、硬盘、多媒体卡、卡型存储器、随机访问存储器(Random AccessMemory,RAM)、静态随机访问存储器(Static Random Access Memory,SRAM)、可编程只读存储器(Programmable Read Only Memory,PROM)、只读存储器(Read Only Memory,ROM)、带电可擦除可编程只读存储器(Electrically Erasable Programmable Read-Only Memory,EEPROM)、磁性存储器、磁盘、光盘等等。存储器1102是能够用于携带或存储具有指令或数据结构形式的期望的程序代码并能够由计算机存取的任何其他介质,但不限于此。本申请实施例中的存储器1102还可以是电路或者其它任意能够实现存储功能的装置,用于存储程序指令和/或数据。
基于相同的技术构思,本发明实施例还提供一种计算机可读存储介质,计算机可读存储介质存储有计算机可执行程序,计算机可执行程序用于使计算机执行上述任一方式所列的资源预测的方法。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
显然,本领域的技术人员可以对本申请进行各种改动和变型而不脱离本申请的精神和范围。这样,倘若本申请的这些修改和变型属于本申请权利要求及其等同技术的范围之内,则本申请也意图包含这些改动和变型在内。
Claims (10)
1.一种资源预测方法,其特征在于,包括:
采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
2.如权利要求1所述的方法,其特征在于,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量,包括:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求时,将满足设定要求时的第一初始值确定为各接口的单TPS资源粗估消耗量。
3.如权利要求1所述的方法,其特征在于,基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量,包括:
设置各接口的单TPS资源消耗量的第一初始值,将所述第一初始值和所述各接口在各时刻的TPS代入线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第一初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
基于满足设定要求时的第一初始值,根据所述各接口在各时刻的TPS得到所述各接口在各时刻的资源预估总消耗量;计算所述各时刻的资源预估总消耗量和所述各时刻的资源实际总消耗量的差值,保留差值小于预设阈值的时刻对应的资源实际总消耗量;
基于保留的各时刻的资源实际总消耗量,将所述满足设定要求时的第一初始值和所述各接口在保留的各时刻的TPS代入线性回归方程,得到所述保留的各时刻的资源预估总消耗量;基于所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量,更新所述满足设定要求时的第一初始值,直至所述保留的各时刻的资源预估总消耗量和所述保留的各时刻的资源实际总消耗量满足设定要求时,将再次满足设定要求时的第一初始值确定为所述各接口的单TPS资源粗估消耗量。
4.如权利要求1所述的方法,其特征在于,根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征,包括:
将所述各接口的单TPS资源粗估消耗量表示成第一行向量,将所述第一行向量转置得到第一列向量;
将所述第一列向量与所述第一行向量相乘,得到所述接口间第一关联特征。
5.如权利要求1所述的方法,其特征在于,针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征,包括:
针对任一时刻,将各接口在所述时刻的TPS表示成第二行向量,将所述第二行向量转置得到第二列向量;
将所述第二列向量与所述第二行向量相乘,得到所述接口间第二关联特征。
6.如权利要求1所述的方法,其特征在于,基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量,包括:
将所述各接口间第一关联特征和所述各接口间第二关联特征代入双线性回归方程,得到各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述各接口的单TPS资源粗估消耗量,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
将满足设定要求时的所述各接口的单TPS资源粗估消耗量,确定为所述各接口的单TPS资源细估消耗量。
7.如权利要求1所述的方法,其特征在于,在确定各接口的单TPS资源细估消耗量之后,还包括:
对所述各接口的单TPS资源细估消耗量做归一化处理和/或正规化处理,分别得到所述各接口的单TPS资源细估消耗量的归一化向量和/或正规化向量;
根据所述各接口的单TPS资源细估消耗量、所述归一化向量和所述正规化向量中的至少两项,构建特征向量;
设置修正参数的第二初始值,将所述特征向量、所述第二初始值和所述各接口在各时刻的TPS代入线性回归方程,得到所述各时刻的资源预估总消耗量;基于所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量,更新所述第二初始值,直至所述各时刻的资源实际总消耗量和所述各时刻的资源预估总消耗量满足设定要求;
根据满足所述设定要求时的第二初始值和所述特征向量确定各接口的最终单TPS资源细估消耗量。
8.一种资源预测装置,其特征在于,包括:
采集单元,用于采集生产环境中的服务器在各时刻的资源实际总消耗量以及所述服务器的各接口在各时刻的每秒交易量TPS;
处理单元,用于:
基于线性回归模型,通过所述各时刻的资源实际总消耗量和所述各接口在各时刻的TPS,确定各接口的单TPS资源粗估消耗量;
根据第一接口的单TPS资源粗估消耗量和第二接口的单TPS资源粗估消耗量,构建接口间第一关联特征;针对任一时刻,根据所述第一接口在所述时刻的TPS和所述第二接口在所述时刻的TPS,构建接口间第二关联特征;所述第一接口和所述第二接口为所述各接口中的任一个;
基于双线性回归模型,通过各接口间第一关联特征和各接口间第二关联特征,确定各接口的单TPS资源细估消耗量;所述各接口的单TPS资源细估消耗量用于预测后续时刻所述服务器的资源预测总消耗量。
9.一种计算设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于调用所述存储器中存储的计算机程序,按照获得的程序执行权利要求1至7任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机可执行程序,所述计算机可执行程序用于使计算机执行权利要求1至7任一项所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111364690.5A CN114090204A (zh) | 2021-11-17 | 2021-11-17 | 一种资源预测方法及装置 |
PCT/CN2022/100675 WO2023087705A1 (zh) | 2021-11-17 | 2022-06-23 | 一种资源预测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111364690.5A CN114090204A (zh) | 2021-11-17 | 2021-11-17 | 一种资源预测方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114090204A true CN114090204A (zh) | 2022-02-25 |
Family
ID=80301775
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111364690.5A Pending CN114090204A (zh) | 2021-11-17 | 2021-11-17 | 一种资源预测方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114090204A (zh) |
WO (1) | WO2023087705A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115712526A (zh) * | 2022-11-24 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 训练预测模型以及预测资源使用量的方法及装置 |
WO2023087705A1 (zh) * | 2021-11-17 | 2023-05-25 | 深圳前海微众银行股份有限公司 | 一种资源预测方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8131519B2 (en) * | 2008-09-30 | 2012-03-06 | Hewlett-Packard Development Company, L.P. | Accuracy in a prediction of resource usage of an application in a virtual environment |
CN104778622A (zh) * | 2015-04-29 | 2015-07-15 | 清华大学 | Tps交易事件阈值的预测方法及预测系统 |
CN110188027A (zh) * | 2019-05-31 | 2019-08-30 | 深圳前海微众银行股份有限公司 | 生产环境的性能评估方法、装置、设备及存储介质 |
CN111552509B (zh) * | 2020-04-30 | 2021-08-24 | 深圳前海微众银行股份有限公司 | 一种接口间依赖关系的确定方法及装置 |
CN114090204A (zh) * | 2021-11-17 | 2022-02-25 | 深圳前海微众银行股份有限公司 | 一种资源预测方法及装置 |
-
2021
- 2021-11-17 CN CN202111364690.5A patent/CN114090204A/zh active Pending
-
2022
- 2022-06-23 WO PCT/CN2022/100675 patent/WO2023087705A1/zh unknown
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023087705A1 (zh) * | 2021-11-17 | 2023-05-25 | 深圳前海微众银行股份有限公司 | 一种资源预测方法及装置 |
CN115712526A (zh) * | 2022-11-24 | 2023-02-24 | 支付宝(杭州)信息技术有限公司 | 训练预测模型以及预测资源使用量的方法及装置 |
CN115712526B (zh) * | 2022-11-24 | 2024-08-16 | 支付宝(杭州)信息技术有限公司 | 训练预测模型以及预测资源使用量的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
WO2023087705A1 (zh) | 2023-05-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2022037337A1 (zh) | 机器学习模型的分布式训练方法、装置以及计算机设备 | |
CN114090204A (zh) | 一种资源预测方法及装置 | |
CN111352712B (zh) | 云计算任务跟踪处理方法、装置、云计算系统及服务器 | |
CN110188990B (zh) | 一种资源请求和资金请求分流方法、装置及设备 | |
CN113689285B (zh) | 一种检测用户特征的方法、装置、设备及存储介质 | |
CN111143209B (zh) | 分层压力测试方法、装置、电子设备及存储介质 | |
CN112148880A (zh) | 一种客服对话语料聚类方法、系统、设备及存储介质 | |
CN110084476B (zh) | 案件调整方法、装置、计算机设备和存储介质 | |
CN109992408B (zh) | 一种资源分配方法、装置、电子设备和存储介质 | |
CN115373827A (zh) | 基于区块链的负载均衡调度方法及装置、区块链系统 | |
CN110266770B (zh) | 基于博弈论的闲置云资源调度方法和装置 | |
CN116737373A (zh) | 负载均衡方法、装置、计算机设备、存储介质 | |
CN111291009A (zh) | 文件分块存储方法及装置 | |
CN113918345A (zh) | 一种配置硬件的容量计算方法、装置、计算机设备及介质 | |
CN112200234B (zh) | 模型分类的过程中防止模型窃取的方法及装置 | |
CN112242959B (zh) | 微服务限流控制方法、装置、设备及计算机存储介质 | |
CN114780250A (zh) | 函数内存分配方法、装置、计算机设备、存储介质和产品 | |
CN111598390B (zh) | 服务器高可用性评估方法、装置、设备和可读存储介质 | |
CN110795255B (zh) | 数据批量值调整方法、装置、可读存储介质和设备 | |
CN117764703B (zh) | 一种申请业务行为的评估方法及装置 | |
CN115878473A (zh) | 系统最大性能容量的预估方法、装置、设备及存储介质 | |
CN117764709A (zh) | 一种确定用户的信用状态的方法及装置 | |
CN115981842A (zh) | 一种云服务资源调度方法、装置、设备及存储介质 | |
CN117743916A (zh) | 一种模型训练方法、异常信息检测方法及装置 | |
CN115292191A (zh) | 应用的性能指标评估方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |