CN111431741B - 服务上线方法、系统、计算机设备及存储介质 - Google Patents

服务上线方法、系统、计算机设备及存储介质 Download PDF

Info

Publication number
CN111431741B
CN111431741B CN202010189177.6A CN202010189177A CN111431741B CN 111431741 B CN111431741 B CN 111431741B CN 202010189177 A CN202010189177 A CN 202010189177A CN 111431741 B CN111431741 B CN 111431741B
Authority
CN
China
Prior art keywords
servers
service
online
qps
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010189177.6A
Other languages
English (en)
Other versions
CN111431741A (zh
Inventor
马多昌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing QIYI Century Science and Technology Co Ltd
Original Assignee
Beijing QIYI Century Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing QIYI Century Science and Technology Co Ltd filed Critical Beijing QIYI Century Science and Technology Co Ltd
Priority to CN202010189177.6A priority Critical patent/CN111431741B/zh
Publication of CN111431741A publication Critical patent/CN111431741A/zh
Application granted granted Critical
Publication of CN111431741B publication Critical patent/CN111431741B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0893Assignment of logical groups to network elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/08Configuration management of networks or network elements
    • H04L41/0803Configuration setting
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5041Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
    • H04L41/5051Service on demand, e.g. definition and deployment of services in real time
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/50Network service management, e.g. ensuring proper service fulfilment according to agreements
    • H04L41/5041Network service management, e.g. ensuring proper service fulfilment according to agreements characterised by the time relationship between creation and deployment of a service
    • H04L41/5054Automatic deployment of services triggered by the service manager, e.g. service implementation by automatic configuration of network components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L43/00Arrangements for monitoring or testing data switching networks
    • H04L43/08Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
    • H04L43/0805Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability
    • H04L43/0817Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters by checking availability by checking functioning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/51Discovery or management thereof, e.g. service location protocol [SLP] or web services
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Abstract

本发明实施例涉及一种服务上线方法、系统、计算机设备及存储介质,所述包括:获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线。通过获取的服务器运行参数确定支持服务顺利上线对应的服务器的目标数量,采用目标数量的服务对进行并行上线,避免因并行上线的服务器数量过多造成服务瘫痪,或者并行上线的服务器数量过少造成服务上线缓慢。

Description

服务上线方法、系统、计算机设备及存储介质
技术领域
本发明实施例涉及计算机领域,尤其涉及一种服务上线方法、系统、计算机设备及存储介质。
背景技术
服务进行发布上线时,根据服务对应流量的大小部署相应的服务器,对于流量比较大的业务服务的部署机器不止几台、十几台,可能需要上百台以上的机器,对于需要部署大量服务器的服务,上线过程中一直存在较多的问题,尤其是java程序,部署过程中先需要打包,然后上传资源文件、重启容器、重启其他关联服务才能使新的迭代在线上运行。
相关技术中,通常采用并行上线的方式,即同时上线多个服务器,并行上线的并行数量一般是上线人员根据经验手动输入的一个数字,同一个机房的机器不能全部并行上线,因为线上服务在运行过程,如果全量并行,可能造成一段时间的服务瘫痪,因此采用批量的并行上线,比如同时并行上线3台服务器,如果上线失败只会出现3台服务器故障,对于用户基本无感知,但是3台的上线过程太慢,如果并行量太大,可能造成服务瞬时的瘫痪。
发明内容
鉴于此,为解决上述技术问题或部分技术问题,本发明实施例提供一种服务上线方法、系统、计算机设备及存储介质。
第一方面,本发明实施例提供一种服务上线方法,包括:
获取服务器的总数量;
若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;
基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;
采用所述目标数量的服务器对所述服务进行并行上线。
在一个可能的实施方式中,所述运行参数包括:每秒查询率QPS参数和中央处理器CPU参数;
所述基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量,包括:
获取每个所述服务器对应的最高QPS值和最低QPS值;
获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;
基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;
基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;
基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;
基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;
基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;
获取所述服务对应的TQPS值;
基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
在一个可能的实施方式中,所述预设公式包括:
Figure BDA0002414643580000031
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
在一个可能的实施方式中,所述方法还包括:
若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
第二方面,本发明实施例提供一种服务上线系统,包括:
获取模块,用于获取服务器的总数量;
确定模块,用于若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;
所述确定模块,还用于基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;
控制模块,用于采用所述目标数量的服务器对所述服务进行并行上线。
在一个可能的实施方式中,所述运行参数包括:每秒查询率QPS参数和中央处理器CPU参数;所述确定模块,具体用于获取每个所述服务器对应的最高QPS值和最低QPS值;获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;获取所述服务对应的TQPS值;基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
在一个可能的实施方式中,所述预设公式包括:
Figure BDA0002414643580000041
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
在一个可能的实施方式中,所述控制模块,还用于若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
第三方面,本发明实施例提供一种计算机设备,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的服务上线程序,以实现上述第一方面中任一项所述的服务上线方法。
第四方面,本发明实施例提供一种存储介质,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述第一方面中任一项所述的服务上线方法。
本发明实施例提供的服务上线方案,通过获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的每秒查询率QPS参数和中央处理器CPU参数;基于所述QPS参数和所述CPU参数采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线,通过获取服务器QPS参数和CPU参数以及服务的QPS参数,根据上述参数确定支持服务顺利上线对应的服务器的目标数量,采用目标数量的服务对进行并行上线,避免因并行上线的服务器数量过多造成服务瘫痪,或者并行上线的服务器数量过少造成服务上线缓慢。
附图说明
图1为本发明实施例提供的一种服务上线方法的应用场景图;
图2为本发明实施例提供的一种服务上线方法的流程示意图;
图3为本发明实施例提供的另一种服务上线方法的流程示意图;
图4为本发明实施例提供的一种服务上线系统的结构示意图;
图5为本发明实施例提供的一种的计算机设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为便于对本发明实施例的理解,下面将结合附图以具体实施例做进一步的解释说明,实施例并不构成对本发明实施例的限定。
图1为本发明实施例提供的一种服务上线方法的应用场景图,如图1所示,具体包括:
将服务部署于服务器上执行上线操作,监控系统实时获取服务在上线过程中服务器的运行参数(在每台服务器上设置Agent,通过Agent采集服务的运行参数,并将该参数信息上报给监控系统),并将运行参数存储于监控系统本地,服务上线系统从监控系统中获取服务器的参数信息,根据参数信息计算服务进行并使上线是所需部署服务器的数量。
进一步地,服务器的运行参数可以包括:服务器的每秒查询率(Queries PerSecond,QPS)参数和中央处理器(Central Processing Unit,CPU)空闲占比(IDLE)。
服务上线系统根据监控系统中存储的服务器的运行参数,进行实时计算,确定上线该服务所需要的服务器的数量,服务上线系统通过slaver节点采用该数量的服务器对服务进行上线。
图2为本发明实施例提供的一种服务上线方法的流程示意图,如图2所示,该方法具体包括:
S21、获取服务器的总数量。
服务上线系统获取可以支持服务上线的服务器的总数量,并对服务器的总数量进行判断,将总数量与设定的数量阈值进行比较,若服务器的总数量大于等于设定数量阈值,则执行S22;若服务器的总数量小于设定数量阈值,则设置固定数量的服务器进行服务上线操作。
进一步地,数量阈值可根据服务上线系统管控的服务器的数量、以及服务的大小进行设定,例如,将数量阈值设置为:3。
S22、若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数。
若支持服务上线的服务器的总数量大于设定的数量阈值,则确定计算服务器的目标数量(并行上线数量),采用目标数据的服务器对服务进行上线。
服务上线系统从监控系统中获取服务器对应的运行参数;该运行参数可以包括服务器的每秒查询率QPS参数和中央处理器CPU参数,QPS参数可以是服务器的平均QPS值,CPU参数可以是服务器的平均CPU空间占比值。
S23、基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量。
服务上线系统获取待上线服务的TQPS参数,该TQPS参数为服务总的QPS值,再将服务器的运行参数和服务的TQPS参数作为参变量输入值预设公式中,计算得出执行服务并行上线时对应的所述服务器的目标数量,该目标数量的服务器为支持服务上线最优方案。
其中,预设公式可以根据历史服务的上线过程中分析得到,例如历史服务上线时,通过分析服务器的处理能力、支持服务器上线时服务器的QPS参数和CPU参数,以及服务器的数量,将服务稳定上线时对应服务器的QPS参数、CPU参数和服务器的数量之间的线性关系作为预设公式。
S24、采用所述目标数量的服务器对所述服务进行并行上线。
服务上线系统从多个服务器中目标数量的服务器,通过slaver节点采用目标数量的服务器对服务进行上线,在服务进行上线过程中,实时监测服务器QPS参数和CPU参数以及服务的QPS参数,根据上述参数动态调整服务器的数量,以保证服务顺利上线。
本发明实施例提供的服务上线方法,通过获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线,实时监测服务器QPS参数和CPU参数以及服务的QPS参数,根据上述参数确定支持服务顺利上线对应的服务器的目标数量,采用目标数量的服务对进行并行上线,避免因并行上线的服务器数量过多造成服务瘫痪,或者并行上线的服务器数量过少造成服务上线缓慢。
图3为本发明实施例提供的另一种服务上线方法的流程示意图,如图3所示,该方法具体包括:
S31、获取服务器的总数量。
S32、判断所述总数量是否大于等于设定的数量阈值。
服务上线系统通过slaver节点获取可以支持服务上线的服务器的总数量,并对服务器的总数量进行判断,将总数量与设定的数量阈值进行比较,若服务器的总数量大于等于设定数量阈值(即服务可以并行上线),则执行S32;若服务器的总数量小于设定数量阈值,则执行S39。
进一步地,数量阈值可根据服务上线系统管控的服务器的数量、以及服务的大小进行设定,例如,将数量阈值设置为:3。
S33、若所述总数量大于等于设定的数量阈值,获取每个所述服务器对应的最高QPS值和最低QPS值,以及获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值。
在本实施例中,每台服务器上设置Agent,通过Agent实时采集服务器的参数信息,并将该参数信息上报给监控系统,监控系统按照时间顺序将Agent上报的服务器的参数信息进行存储,服务上线系统从监控系统中获取服务器在设定时间段内的多个参数信息,参数信息可以包括服务器的QPS参数和CPU参数。
从设定时间段内的多个QPS参数中确定服务器对应的最高QPS值,和最低QPS值;最高QPS值可以是服务器处于高峰期时对应的每秒查询率最大值,最低QPS值可以是服务器处于低峰期时对应的每秒查询率最小值。
进一步地,从设定时间段内的多个CPU参数中确定服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;,最高CPU空闲占比值可以是服务器处于低峰期时对应的最大CPU缓存空间值,最低CPU空闲占比值可以是服务器处于高峰期时对应的最小CPU缓存空间值。
S34、基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值,以及基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值。
服务上线系统根据获取到的全部所述服务器对应的多个所述最高QPS值,进行求和取平均值,得到服务器对应的第一平均QPS值(该值可以表征每个服务器处于高峰期时对应的QPS值),根据获取到的全部所述服务器对应的多个所述最低QPS值,进行求和取平均值,得到服务器对应的第二平均QPS值(该值可以表征每个服务器处于低峰期时对应的QPS值)。
S35、基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值,以及基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值。
服务上线系统根据获取到的多个所述服务器对应的多个所述最高CPU空闲占比值,进行求和取平均值,得到服务器对应的第一平均CPU空闲占比值(该值可以表征每个服务器处于低峰期时对应的QPS值),根据获取到的多个所述服务器对应的多个所述最低CPU空闲占比值,进行求和取平均值,得到服务器对应的第二平均CPU空闲占比值(该值可以表征每个服务器处于高峰期时对应的QPS值)。
S36、基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子。
通过对历史服务在上线过程中对应服务器的平均QPS值和第二平均CPU空闲占比值进行线性分析,确定QPS和CPU在服务稳定上线过程中的线性关系,进而得出QPS相对于CPU的影响因子。
根据下述公式计算QPS相对于CPU的影响因子:
Figure BDA0002414643580000101
其中,SW为影响因子,HQPS为第一平均QPS值,LQPS为第二平均QPS值,HCPU为第二平均CPU空闲占比值,LCPU为第一平均CPU空闲占比值。
S37、获取所述服务对应的TQPS值。
服务上线系统获取服务在上线过程中对应的TQPS值,即全部服务器运行该服务总每秒查询率值,记作TQPS。
S38、基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
预设公式可以是:
Figure BDA0002414643580000102
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
进一步地,K为所述服务器预留CPU的缓存空间值,例如20%,对于K值的具体数值可根据实际情况进行设定,对此本实施例不作具体限定。
在本发明实施例的一可选方案中,预设公式还可以是:
Figure BDA0002414643580000103
其中,Y表示服务器的总数量,HTQPS表示高峰期Y台服务器总QPS值,HQPS表示单台服务器高峰期的QPS值,CQPS表示服务器的当前QPS值。上述公式表示,采用单台服务器的当前QPS值和所有服务器的总QPS值的差能占用多少台服务器,再采用高峰期所有服务器的总负载确定做多能够同时上线的服务器的数量。
需要说明的是,本发明实施例所涉及的预设公式不仅仅局限于上述两个公式,预设公式还可以以其它任何形式呈现,本方案主要保护采用服务器的总数量、服务器的QPS值、服务器的CPU空闲占比值来确定支持服务稳定上线的最优服务器数量,对于预设公式的获取方式,可采用一些辅助的线性分析软件,如ABAQUS、ADINA或MATLAB等。
S39、采用所述目标数量的服务器对所述服务进行并行上线。
服务上线系统从多个服务器中目标数量的服务器,通过slaver节点采用目标数量的服务器对服务进行上线,在服务进行上线过程中,实时监测服务器QPS参数和CPU参数以及服务的QPS参数,根据上述参数动态调整服务器的数量,以保证服务顺利上线。
S310、若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
预先设置若所述总数量小于设定的数量阈值(例如,数量阈值为3,可以支持服务上线的服务器的总数量为2),则采用一个服务器对服务进行上线,即,从支持服务上线的服务器中选择任意一个服务器对服务进行上线。
本发明实施例提供的服务上线方法,通过获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的每秒查询率QPS参数和中央处理器CPU参数;基于所述QPS参数和所述CPU参数采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线,实时监测服务器QPS参数和CPU参数以及服务的QPS参数,确定服务器处于高峰期的平均QPS值和CPU空闲占比值和处于低峰期的平均QPS值和CPU空闲占比值,以及服务的总QPS值,进而确定支持服务顺利上线对应的服务器的目标数量,采用目标数量的服务对进行并行上线,避免因并行上线的服务器数量过多造成服务瘫痪,或者并行上线的服务器数量过少造成服务上线缓慢。
图4为本发明实施例提供的一种服务上线系统的结构示意图,如图4所示,该方法具体包括:
获取模块41,用于获取服务器的总数量;
确定模块42,用于若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;
所述确定模块42,还用于基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;
控制模块43,用于采用所述目标数量的服务器对所述服务进行并行上线。
在一个可能的实施方式中,所述确定模块42,具体用于获取每个所述服务器对应的最高QPS值和最低QPS值;获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;获取所述服务对应的TQPS值;基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
在一个可能的实施方式中,所述预设公式包括:
Figure BDA0002414643580000121
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
在一个可能的实施方式中,所述控制模块43,还用于若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
本实施例提供的服务上线系统可以是如图4中所示的服务上线系统,可执行如图2-3中服务上线方法的所有步骤,进而实现图2-3所示服务上线方法的技术效果,具体请参照图2-3相关描述,为简洁描述,在此不作赘述。
图5为本发明实施例提供的一种的计算机设备的结构示意图,图5所示的计算机设备500包括:至少一个处理器501、存储器502、至少一个网络接口504和其他用户接口503。计算机设备500中的各个组件通过总线系统505耦合在一起。可理解,总线系统505用于实现这些组件之间的连接通信。总线系统505除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图5中将各种总线都标为总线系统505。
其中,用户接口503可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器502可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-OnlyMemory,ROM)、可编程只读存储器(ProgrammableROM,PROM)、可擦除可编程只读存储器(ErasablePROM,EPROM)、电可擦除可编程只读存储器(ElectricallyEPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(RandomAccessMemory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(StaticRAM,SRAM)、动态随机存取存储器(DynamicRAM,DRAM)、同步动态随机存取存储器(SynchronousDRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(DoubleDataRateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(SynchlinkDRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambusRAM,DRRAM)。本文描述的存储器502旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器502存储了如下的元素,可执行单元或者数据结构,或者他们的子集,或者他们的扩展集:操作系统5021和应用程序5022。
其中,操作系统5021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序5022,包含各种应用程序,例如媒体播放器(MediaPlayer)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序5022中。
在本发明实施例中,通过调用存储器502存储的程序或指令,具体的,可以是应用程序5022中存储的程序或指令,处理器501用于执行各方法实施例所提供的方法步骤,例如包括:获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线。
在一个可能的实施方式中,所述运行参数包括:每秒查询率QPS参数和中央处理器CPU参数;获取每个所述服务器对应的最高QPS值和最低QPS值;获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;获取所述服务对应的TQPS值;基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
在一个可能的实施方式中,所述预设公式包括:
Figure BDA0002414643580000151
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
在一个可能的实施方式中,若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
上述本发明实施例揭示的方法可以应用于处理器501中,或者由处理器501实现。处理器501可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器501中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器501可以是通用处理器、数字信号处理器(DigitalSignalProcessor,DSP)、专用集成电路(ApplicationSpecific IntegratedCircuit,ASIC)、现成可编程门阵列(FieldProgrammableGateArray,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器502,处理器501读取存储器502中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecificIntegratedCircuits,ASIC)、数字信号处理器(DigitalSignalProcessing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(ProgrammableLogicDevice,PLD)、现场可编程门阵列(Field-ProgrammableGateArray,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文所述功能的单元来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
本实施例提供的计算机设备可以是如图5中所示的计算机设备,可执行如图2-3中服务上线方法的所有步骤,进而实现图2-3所示服务上线方法的技术效果,具体请参照图2-3相关描述,为简洁描述,在此不作赘述。
本发明实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中,存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。
当存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述在服务上线设备侧执行的服务上线方法。
所述处理器用于执行存储器中存储的服务上线程序,以实现以下在服务上线设备侧执行的服务上线方法的步骤:
获取服务器的总数量;若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数;基于所述运行参数以及待上线服务的TQPS参数采用预设公式确定执行所述服务并行上线时对应的所述服务器的目标数量;采用所述目标数量的服务器对所述服务进行并行上线。
在一个可能的实施方式中,所述运行参数包括:每秒查询率QPS参数和中央处理器CPU参数;获取每个所述服务器对应的最高QPS值和最低QPS值;获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;获取所述服务对应的TQPS值;基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量。
在一个可能的实施方式中,所述预设公式包括:
Figure BDA0002414643580000171
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
在一个可能的实施方式中,若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种服务上线方法,其特征在于,包括:
获取服务器的总数量;
若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数,所述运行参数包括每秒查询率QPS参数和中央处理器CPU参数;
获取每个所述服务器对应的最高QPS值和最低QPS值;
获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;
基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;
基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;
基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;
基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;
基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;
获取所述服务对应的待上线服务的TQPS值;
基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量,其中,所述预设公式根据历史服务的上线过程中服务稳定上线时对应服务器的运行参数和服务器的数量之间的线性关系确定;
采用所述目标数量的服务器对所述服务进行并行上线。
2.根据权利要求1所述的方法,其特征在于,所述预设公式包括:
Figure FDA0004086705020000021
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
3.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
4.一种服务上线系统,其特征在于,包括:
获取模块,用于获取服务器的总数量;
确定模块,用于若所述总数量大于等于设定的数量阈值,则确定所述服务器对应的运行参数,所述运行参数包括:每秒查询率QPS参数和中央处理器CPU参数;
所述确定模块,还用于获取每个所述服务器对应的最高QPS值和最低QPS值;获取每个所述服务器对应的最高CPU空闲占比值和最低CPU空闲占比值;基于全部所述服务器对应的多个所述最高QPS值确定所述服务器对应的第一平均QPS值;基于全部所述服务器对应的多个所述最低QPS值确定所述服务器对应的第二平均QPS值;基于全部所述服务器对应的多个所述最高CPU空闲占比值确定所述服务器对应的第一平均CPU空闲占比值;基于全部所述服务器对应的多个所述最低CPU空闲占比值确定所述服务器对应的第二平均CPU空闲占比值;基于所述第一平均QPS值、所述第二平均QPS值、所述第一平均CPU空闲占比值和所述第二平均CPU空闲占比值确定所述服务器的QPS相对于CPU的影响因子;获取所述服务对应的待上线服务的TQPS值;基于所述TQPS值、所述第一平均QPS值和所述影响因子采用预设公式确定执行服务并行上线时对应的所述服务器的目标数量,其中,所述预设公式根据历史服务的上线过程中服务稳定上线时对应服务器的运行参数和服务器的数量之间的线性关系确定;
控制模块,用于采用所述目标数量的服务器对所述服务进行并行上线。
5.根据权利要求4所述的系统,其特征在于,所述预设公式包括:
Figure FDA0004086705020000031
其中,所述TQPS为所述服务对应的总QPS值、所述HQPS为第一平均QPS值、SW为影响因子、K为所述服务器预留CPU的缓存空间值、Y为所述服务器的总数量、N为所述服务器的目标数量。
6.根据权利要求4所述的系统,其特征在于,所述控制模块,还用于若所述总数量小于设定的数量阈值,则采用任意一个所述服务器对所述服务进行上线。
7.一种计算机设备,其特征在于,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的服务上线程序,以实现权利要求1~3中任一项所述的服务上线方法。
8.一种存储介质,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1~3中任一项所述的服务上线方法。
CN202010189177.6A 2020-03-17 2020-03-17 服务上线方法、系统、计算机设备及存储介质 Active CN111431741B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010189177.6A CN111431741B (zh) 2020-03-17 2020-03-17 服务上线方法、系统、计算机设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010189177.6A CN111431741B (zh) 2020-03-17 2020-03-17 服务上线方法、系统、计算机设备及存储介质

Publications (2)

Publication Number Publication Date
CN111431741A CN111431741A (zh) 2020-07-17
CN111431741B true CN111431741B (zh) 2023-04-21

Family

ID=71553644

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010189177.6A Active CN111431741B (zh) 2020-03-17 2020-03-17 服务上线方法、系统、计算机设备及存储介质

Country Status (1)

Country Link
CN (1) CN111431741B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112527318A (zh) * 2020-12-10 2021-03-19 北京奇艺世纪科技有限公司 服务处理方法、装置以及在线服务系统
CN113612846B (zh) * 2021-08-04 2022-07-29 掌阅科技股份有限公司 服务上线处理方法、计算设备及计算机存储介质
CN114500278B (zh) * 2021-12-30 2024-04-09 武汉思普崚技术有限公司 一种通过代理服务器升级特征库的方法和装置
CN115840582B (zh) * 2023-02-21 2023-05-09 北京一猫汽车科技有限公司 一种服务器批量管理代理发布系统

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150310403A1 (en) * 2014-04-24 2015-10-29 International Business Machines Corporation Establishment service rating via tip amounts
CN104461740B (zh) * 2014-12-12 2018-03-20 国家电网公司 一种跨域集群计算资源聚合和分配的方法
US9647950B2 (en) * 2015-05-11 2017-05-09 Ebay Inc. System and method of site traffic control
CN109426514B (zh) * 2017-08-24 2022-09-02 北京金山云网络技术有限公司 服务自动化部署方法、装置、电子设备及存储介质
CN110289994B (zh) * 2019-06-06 2022-04-08 厦门网宿有限公司 一种集群容量调整方法及装置

Also Published As

Publication number Publication date
CN111431741A (zh) 2020-07-17

Similar Documents

Publication Publication Date Title
CN111431741B (zh) 服务上线方法、系统、计算机设备及存储介质
KR101283864B1 (ko) 리소스 관리 방법과 내장 장치
Heger Hadoop performance tuning-a pragmatic & iterative approach
CN111818159B (zh) 数据处理节点的管理方法、装置、设备及存储介质
US9769254B2 (en) Productive spend metric based resource management for a portfolio of distributed computing systems
CN112162891B (zh) 服务器集群中的性能测试方法及相关设备
US20160205010A1 (en) Adaptive service timeouts
CN104025053A (zh) 使用集体操作建模的消息传递接口调谐
CN111737003A (zh) Pod均衡调度方法、装置、主节点及存储介质
CN106789308B (zh) 一种微服务架构可自动伸缩的gis服务装置及其控制方法
CN114490566B (zh) 集群数据迁移方法、装置、计算机设备及存储介质
CN110297743B (zh) 一种负载测试方法、装置和存储介质
CN116149846A (zh) 一种应用性能优化方法、装置、电子设备及存储介质
US20140344447A1 (en) Method and apparatus for executing application
US7596726B2 (en) Method and apparatus for selecting a primary resource in a redundant subsystem
US20190114079A1 (en) Apparatus for managing disaggregated memory and method thereof
CN110347546B (zh) 监控任务动态调整方法、装置、介质及电子设备
CN112559565A (zh) 一种异常检测方法、系统及装置
CN111580959A (zh) 一种数据写入方法、数据写入装置、服务器及存储介质
US7398384B2 (en) Methods and apparatus for acquiring expansion read only memory size information prior to operating system execution
CN116302534A (zh) 一种服务器存储设备性能优化方法、装置、设备及介质
CN114020468A (zh) 基于gpu指标的算法容器弹性伸缩方法、装置及其应用
CN108958823A (zh) 修改基本输入输出系统设定值的方法
CN116113011A (zh) 一种网络连接方法、装置及电子设备
CN113377396A (zh) 一种升级方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant