具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
实施例一
图1为本发明实施例一提供的一种任务算力估计方法的流程图,本实施例可适用于估计任务在运行时所需资源大小的情况,尤其是可以用于性能压测平台中在进行资源调度时,计算处于等待状态的压测任务所需资源大小的场景。该方法可以由任务算力估计装置来执行,该装置可以由软件和/或硬件的方式来实现,集成于可以进行资源调度的设备中。该方法具体包括以下步骤:
S110、在目标任务处于等待状态时,根据预设计算规则、目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数。
其中,目标任务可以是指性能测试平台中需要估计算力值的任意一个压测任务。等待状态可以是指还未运行的状态,即离线状态。压测脚本响应时间可以是指脚本运行时间和阻塞时间的总和。压测脚本响应时间可以预先在脚本调试过程中,即试运行环境中,进行测量。施压机可以是指在系统性能测试时可以产生压测流量的机器,其可以是虚拟机,也可以是物理机,比如服务器、电脑和手机等。参考施压机是为了统一算力标准而选取的一个固定的施压机。最大线程数可以是指参考施压机根据压测脚本加载的最大并发线程数。预设计算规则可以是根据大量业务脚本在参考施压机上的运行情况预先设置的,用于计算目标任务的压测脚本在该参考施压机上的最大线程数的规则。示例性地,预设计算规则可以是预先对大量业务脚本进行统计分析而设置的每个脚本响应时间与最大线程数之间的对应关系。
具体地,本实施例可以假设脚本运行时间和阻塞时间的比值固定,则脚本算力值与压测脚本响应时间近似为反比关系,即脚本执行越快,对应的算力值越大。本实施例中的压测脚本响应时间与压测脚本在参考施压机上的最大线程数可以近似为正比关系。当目标任务处于等待状态时,即还未运行该目标任务时,根据预设计算规则中的脚本响应时间与最大线程数之间的对应关系,可以确定目标任务对应的压测脚本响应时间对应的最大线程数,即目标任务对应的压测脚本在参考施压机上的最大线程数。
S120、根据参考施压机的参考算力值、压测脚本对应的最大线程数以及目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
其中,参考算力值可以是根据参考施压机的参考配置信息预先设置的一个算力值,用于反映参考施压机所具备的最大计算能力,即衡量参考施压在空载情况下具有的资源大小。参考配置信息可以是指参考施压机的硬件配置信息,比如中央处理器(CentralProcessing Unit,CPU)的核心数和主频、内存大小、硬盘存取速度等。示例性地,可以选取一个4核每核2100MHz的施压机作为参考施压机,该参考施压机的参考算力值可以设置为100。目标任务对应的目标并发线程数可以是指在任务压测场景中的最终并发线程数。目标并发线程数可以根据业务需求预先进行设置。示例性地,任务压测场景通常为一个梯度施压模型,比如初始并发线程数为10,每隔100秒增加10个线程,直到增加到1000线程时,稳定施压1小时,此为一个压测场景,该压测场景对应的目标并发线程数为1000。本实施例中的任务算力值用于衡量压测任务所需的资源大小。第一任务算力值可以用于反映处于等待状态的目标任务在运行时所需资源的大小。
具体地,本实施例可以根据参考施压机在使用全部参考算力值时,基于目标任务的压测脚本可以加载的最大线程数,以及目标任务对应的目标并发线程数,可以确定目标任务对应的第一任务算力值。例如,根据目标并发线程数与压测脚本对应的最大线程数之间的倍数,可以确定在加载目标并发线程数时所需参考施压机的数量,然后可以将参考施压机的数量与参考算力值的乘积确定为目标任务对应的第一任务算力值。
示例性地,S120可以包括:根据参考施压机的参考算力值和压测脚本对应的最大线程数,确定单线程脚本算力值;根据单线程脚本算力值和目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
其中,单线程脚本算力值可以是施压机在根据压测脚本加载一个线程时所需要消耗的资源大小。
具体地,可以将参考施压机的参考算力值除以压测脚本对应的最大线程数,并将得到的计算结果确定为单线程脚本算力值。将单线程脚本算力值与目标并发线程数的乘积可以确定为目标任务对应的第一任务算力值。本实施例可以根据脚本算力以及任务压测场景中的目标并发线程数确定目标任务对应的第一任务算力值,从而根据第一任务算力值可以估计运行目标任务所需的资源大小,以便可以预先占用适宜的施压机资源,避免出现施压机资源利用率过低或资源过载的情况,便于进行合理的资源调度。
本实施例的技术方案,在目标任务处于等待状态时,即当前还未运行目标任务时,可以根据针对参考施压机设定的预设计算规则,计算目标任务的压测脚本在参考施压机上的最大线程数,并通过设定该参考施压机的参考算力值,根据目标任务对应的目标并发线程数,可以确定目标任务在等待状态时对应的第一任务算力值,从而可以利用算力值的方式统一度量每个任务在运行时所需的资源大小,以便进行合理地资源调度,提高施压机的资源利用率以及避免出现资源过载的情况。
在上述技术方案的基础上,S110可以包括:根据在参考施压机上脚本响应时间与最大线程数之间的分段线性函数,以及目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数。
其中,本实施例中的预设计算规则可以是预先对在参考施压机上运行的大量业务脚本的运行结果进行统计分析而得到的一个脚本响应时间与最大线程数之间的分段线性函数。分段线性函数用于反映在每个脚本响应时间区间内,脚本响应时间与最大线程数之间的线性关系。示例性地,脚本响应时间与最大线程数之间的分段线性函数可以为:
其中,x是指脚本响应时间;y是指脚本在参考施压机上的最大线程数。
具体地,可以将目标任务对应的压测脚本响应时间代入分段线性函数中,从而可以确定目标任务的压测脚本对应的最大线程数。本实施例通过设置脚本响应时间与最大线程数之间的分段线性函数,可以更加准确地确定脚本对应的最大线程数,以便提高第一任务算力值计算的准确性。
实施例二
图2为本发明实施例二提供的一种任务算力估计方法的流程图,本实施例在上述实施例的基础上,当目标任务处于运行状态时,计算目标任务对应的第二任务算力值,以实时调整等待状态时计算的第一任务算力值,提高任务算力值的计算准确度。其中与上述实施例相同或相应的术语的解释在此不再赘述。
参见图2,本实施例提供的任务算力估计方法包括以下步骤:
S210、在目标任务处于等待状态时,根据预设计算规则、目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数。
S220、根据参考施压机的参考算力值、压测脚本对应的最大线程数以及目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
S230、在目标任务处于运行状态时,采集与目标任务关联的各关联施压机的关联配置信息、当前资源消耗信息和当前加载线程数。
其中,运行状态可以是指施压机正在执行目标任务的状态,即在线状态。关联施压机是指正在执行目标任务的施压机。关联施压机可以为一个或多个,其具体数量可以由压测平台中的控制中心预先确定。关联配置信息可以是指关联施压机的硬件配置信息,比如CPU的核心数和主频、内存大小、硬盘存取速度等。当前资源消耗信息可以是指关联施压机在执行目标任务时当前所消耗的资源信息。当前资源消耗信息可以包括但不限于CPU使用率、内存使用率和平均负载信息等。当前加载线程数可以是关联施压机当前加载的目标任务中的线程数量。
具体地,在目标任务处于运行状态时,可以基于预设采集频率,通过系统信息收集和报告Sigar接口采集每个关联施压机的关联配置信息、当前资源消耗信息和当前加载线程数。示例性地,预设采集频率可以是每隔200ms采集一次。Sigar是Hyperic HQ主要的数据收集组件,可兼容多数平台,例如windows系列平台、linux系列平台以及AIX系列平台等,可以用于收集关联施压机的信息。Sigar接口是一个用来收集施压机信息的极为方便使用的接口。在性能压测平台中,控制中心与每个施压机之间会建立一条长连接,可以将采集的关联配置信息、当前资源消耗信息和当前加载线程数上报至控制中心,并且控制中心在接收后,可以将这些信息存储至redis存储系统中,以便控制中心集群可以共享施压机的资源信息,从而可以更加便捷地进行资源调度。
需要注意的是,由于压测脚本的执行是一个复杂过程,并且可能因控制逻辑导致多次执行过程不同,从而也会导致脚本运行时间和阻塞时间不同,所以在运行目标任务之前无法准确地确定对应的脚本运行时间T
cpu和阻塞时间T
wait,因此无法利用公式
准确计算出压测脚本在参考施压机上的最大线程数N
Thread,其中N
Core是指CPU核心数;R
use是指CPU使用率。所以在利用预设计算规则计算出的等待状态时的第一任务算力值并不是非常准确的,本实施例可以根据目标任务在运行状态时采集的每个关联施压机的关联配置信息、当前资源消耗信息和当前加载线程数,计算出更加准确的第二任务算力值,从而可以实时调整等待状态时计算的第一任务算力值,以及实时调整后续分配的施压机资源,进一步保证避免出现施压机资源利用率低或者资源过载的情况,以便进行准确地资源调度。
S240、根据关联配置信息、当前资源消耗信息、以及参考施压机的参考算力值和参考配置信息,确定每个关联施压机对应的当前消耗算力值。
具体地,可以将每个关联施压机的关联配置信息与参考施压机的参考配置信息进行比较,根据比较结果以及参考施压机的参考算力值,确定每个关联施压机的最大算力值,从而可以对每个关联施压机具有的资源进行归一化处理。根据关联施压机的最大算力值和当前资源消耗消息可以确定每个关联施压机在运行目标任务时所消耗的资源大小,即当前消耗算力值。
需要注意的是,在计算目标任务在运行状态时的任务算力值时,需要假设关联施压机对应的消耗算力值均是被目标任务所消耗,忽略操作系统等其他进程的消耗情况。
示例性地,S240可以包括:根据参考施压机的参考算力值、参考配置信息以及关联配置信息,确定每个关联施压机对应的空载算力值;根据空载算力值和当前资源消耗信息,确定每个关联施压机对应的当前消耗算力值。
其中,空载算力值是指关联施压机在未运行施压任务时,所具备的最大计算能力。若关联施压机的空载算力值越大,则表明关联施压机的计算能力越大,具备的资源也越多。本实施例中的参考算力值是指参考施压机对应的空载算力值。
具体地,本实施例可以对参考配置信息和关联配置信息进行量化,将量化后的关联配置信息与量化后的参考配置信息之间的比值确定为关联施压机与参加施压机之间的性能比值。将参考施压机的参考算力值与性能比值之间的乘积可以确定为关联施压机对应的空载算力值,从而可以对每个关联施压机的空载资源进行归一化处理,以便更加便捷直观地衡量和对比每个关联施压机的空载资源大小,进而在对关联施压机进行资源调度时,可以通过分配算力值小于该空载算力值的任务的方式,来避免出现施压机过载的情况。
本实施例中的当前资源消耗信息为当前资源使用率时,可以将关联施压机的当前资源使用率与空载算力值的乘积确定为该关联施压机的当前消耗算力值。在性能压测平台的压测过程中,对施压机资源影响最大的参数为CPU使用率,从而可以以CPU使用率来表示施压机的资源消耗情况。示例性地,若某个关联施压机T1的CPU使用率为50%,空载算力值为200,则关联施压机T1对应的当前消耗算力值为100。通过计算关联施压机的消耗算力值,可以更加便捷地监控每个关联施压机的资源消耗情况。本实施例也可以根据关联施压机对应的空载算力值和当前消耗算力值确定关联施压机对应的剩余算力值,从而在资源调度时,可以向关联施压机分配与该剩余算力值相匹配的任务,从而提高施压机的资源利用率以及避免出现过载的情况。
S250、根据关联施压机对应的当前消耗算力值、当前加载线程数和目标并发线程数,确定目标任务在运行状态时对应的第二任务算力值。
具体地,本实施例可以根据每个关联施压机在开启对应的当前加载线程数时所消耗的当前消耗算力值,以及目标任务对应的目标并发线程数,可以确定运行目标任务实际所需要的资源大小,即第二任务算力值。
示例性地,可以根据如下公式确定目标任务在运行状态时对应的第二任务算力值:
其中,S是目标任务对应的第二任务算力值;Tm是目标任务的目标并发线程数;n是关联施压机的个数;Ci是第i个关联施压机对应的当前消耗算力值;Ti是第i个关联施压机对应的当前加载线程数。
具体地,根据每个关联施压机对应的当前消耗算力值以及每个关联施压机对应的当前加载线程数,确定加载每个任务线程所需的平均算力值,然后可以将平均算力值与目标并发线程数的乘积确定为目标任务对应的第二任务算力值。通过计算目标任务在运行状态时的第二任务算力值,可以实时修正等待状态时计算的第一任务算力值,从而获得更加准确的任务算力值,便于对任务进行合理调度,避免出现施压机过载或资源利用率低的问题。
示例性地,若目标任务的目标并发线程数为100,分配至两个关联施压机上,每个关联施压机当前均加载了20个线程,对应的当前消耗算力值分别为150和250,则该目标任务对应的任务算力值为:
本实施例的技术方案,在目标任务处于运行状态时,可以通过根据采集的每个关联施压机的关联配置信息、当前资源消耗信息和当前加载线程数,计算出更加准确的第二任务算力值,从而可以实时调整等待状态时计算的第一任务算力值,以及实时调整后续分配的施压机资源,进一步保证避免出现施压机资源利用率低或者资源过载的情况,便于后续进行准确地资源调度。
在上述技术方案的基础上,根据参考施压机的参考算力值、参考配置信息以及关联配置信息,确定每个关联施压机对应的空载算力值,可以包括:根据参考施压机的参考核心数和参考主频,确定参考施压机对应的参考性能值;根据关联施压机的目标核心数和目标主频,确定关联施压机对应的目标性能值;根据目标性能值与参考性能值确定关联施压机与参考施压机之间的性能比值;根据参考施压机的参考算力值和性能比值,确定关联施压机对应的空载算力值。
具体地,在性能压测平台的压测过程中,对施压机资源影响最大的配置信息为CPU核心数和主频,其他配置信息可以忽略,从而本实施例可以基于核心数和主频进行配置量化。本实施例可以将参考施压机的参考核心数与参考主频的乘积确定为参考施压机对应的参考性能值,将关联施压机的目标核心数和目标主频的乘积确定为关联施压机对应的目标性能值。根据目标性能值与参考性能值之间的比值确定为关联施压机与参考施压机之间的性能比值。将参考施压机的参考算力值与性能比值之间的乘积可以确定为关联施压机对应的空载算力值。
示例性地,若参考施压机为4核每核2100MHz,关联施压机为8核每核4200MHz,则参考施压机对应的参考性能值为8400,关联施压机对应的目标性能值为33600,关联施压机与参考施压机之间的性能比值为33600/8400=4,若参考施压值的参考算力值为100,则关联施压机对应的空载算力值为400,从而利用核心数和主频对配置信息进行量化的方式,可以更加便捷地确定每个关联施压机与参考施压机之间的性能比值,以便进行归一化处理。
以下是本发明实施例提供的任务算力估计装置的实施例,该装置与上述各实施例的任务算力估计方法属于同一个发明构思,在任务算力估计装置的实施例中未详尽描述的细节内容,可以参考上述任务算力估计方法的实施例。
实施例三
图3为本发明实施例三提供的一种任务算力估计装置的结构示意图,本实施例可适用于估计任务在运行时所需资源大小的情况,该装置具体包括:最大线程数确定模块310和第一任务算力值确定模块320。
其中,最大线程数确定模块310,用于在目标任务处于等待状态时,根据预设计算规则、目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数;第一任务算力值确定模块320,用于根据参考施压机的参考算力值、压测脚本对应的最大线程数以及目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
可选地,最大线程数确定模块310,具体用于:
根据在参考施压机上脚本响应时间与最大线程数之间的分段线性函数,以及目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数。
可选地,第一任务算力值确定模块320,具体用于:
根据参考施压机的参考算力值和压测脚本对应的最大线程数,确定单线程脚本算力值;根据单线程脚本算力值和目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
可选地,该装置还包括:
关联施压机信息采集模块,用于在目标任务处于运行状态时,采集与目标任务关联的各关联施压机的关联配置信息、当前资源消耗信息和当前加载线程数;
当前消耗算力值确定模块,用于根据关联配置信息、当前资源消耗信息、以及参考施压机的参考算力值和参考配置信息,确定每个关联施压机对应的当前消耗算力值;
第二任务算力值确定模块,用于根据关联施压机对应的当前消耗算力值、当前加载线程数和目标并发线程数,确定目标任务在运行状态时对应的第二任务算力值。
可选地,当前消耗算力值确定模块,包括:
空载算力值确定单元,用于根据参考施压机的参考算力值、参考配置信息以及关联配置信息,确定每个关联施压机对应的空载算力值;
当前消耗算力值确定单元,用于根据空载算力值和当前资源消耗信息,确定每个关联施压机对应的当前消耗算力值。
可选地,空载算力值确定单元,具体用于:根据参考施压机的参考核心数和参考主频,确定参考施压机对应的参考性能值;根据关联施压机的目标核心数和目标主频,确定关联施压机对应的目标性能值;根据目标性能值与参考性能值确定关联施压机与参考施压机之间的性能比值;根据参考施压机的参考算力值和性能比值,确定关联施压机对应的空载算力值。
可选地,根据如下公式确定目标任务在运行状态时对应的第二任务算力值:
其中,S是目标任务对应的第二任务算力值;Tm是目标任务的目标并发线程数;n是关联施压机的个数;Ci是第i个关联施压机对应的当前消耗算力值;Ti是第i个关联施压机对应的当前加载线程数。
可选地,当前资源消耗信息包括中央处理器CPU使用率。
本发明实施例所提供的任务算力估计装置可执行本发明任意实施例所提供的任务算力估计方法,具备执行任务算力估计方法相应的功能模块和有益效果。
值得注意的是,上述任务算力估计装置的实施例中,所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。
实施例四
图4是本发明实施例四提供的一种设备的结构示意图。参见图4,该设备包括:
一个或多个处理器410;
存储器420,用于存储一个或多个程序;
当一个或多个程序被一个或多个处理器410执行,使得一个或多个处理器410实现如上述任意实施例所提供的任务算力估计方法,该方法包括:
在目标任务处于等待状态时,根据预设计算规则、目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数;
根据参考施压机的参考算力值、压测脚本对应的最大线程数以及目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
图4中以一个处理器410为例;设备中的处理器410和存储器420可以通过总线或其他方式连接,图4中以通过总线连接为例。
存储器420作为一种计算机可读存储介质,可用于存储软件程序、计算机可执行程序以及模块,如本发明实施例中的任务算力估计方法对应的程序指令/模块(例如,任务算力估计装置中的最大线程数确定模块310和第一任务算力值确定模块320)。处理器410通过运行存储在存储器420中的软件程序、指令以及模块,从而执行设备的各种功能应用以及数据处理,即实现上述的任务算力估计方法。
存储器420主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据设备的使用所创建的数据等。此外,存储器420可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储器420可进一步包括相对于处理器410远程设置的存储器,这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本实施例提出的设备与上述实施例提出的任务算力估计方法属于同一发明构思,未在本实施例中详尽描述的技术细节可参见上述实施例,并且本实施例具备执行任务算力估计方法相同的有益效果。
实施例五
本实施例五提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例所提供的任务算力估计方法,该方法包括:
在目标任务处于等待状态时,根据预设计算规则、目标任务对应的压测脚本响应时间,确定压测脚本在参考施压机上的最大线程数;
根据参考施压机的参考算力值、压测脚本对应的最大线程数以及目标任务对应的目标并发线程数,确定目标任务在等待状态时对应的第一任务算力值。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是但不限于:电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
本领域普通技术人员应该明白,上述的本发明的各模块或各步骤可以用通用的计算装置来实现,它们可以集中在单个计算装置上,或者分布在多个计算装置所组成的网络上,可选地,他们可以用计算机装置可执行的程序代码来实现,从而可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路模块,或者将它们中的多个模块或步骤制作成单个集成电路模块来实现。这样,本发明不限制于任何特定的硬件和软件的结合。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。