CN112380011A - 一种服务容量的动态调整方法及装置 - Google Patents
一种服务容量的动态调整方法及装置 Download PDFInfo
- Publication number
- CN112380011A CN112380011A CN202011277729.5A CN202011277729A CN112380011A CN 112380011 A CN112380011 A CN 112380011A CN 202011277729 A CN202011277729 A CN 202011277729A CN 112380011 A CN112380011 A CN 112380011A
- Authority
- CN
- China
- Prior art keywords
- service
- capacity
- time period
- current time
- calling times
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000004364 calculation method Methods 0.000 claims abstract description 28
- 238000004590 computer program Methods 0.000 claims description 18
- 230000009467 reduction Effects 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 20
- 238000004891 communication Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 6
- 230000003416 augmentation Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5011—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
- G06F9/5016—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals the resource being the memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明提供一种服务容量的动态调整方法及装置,可用于金融领域或其他技术领域。所述方法包括:根据流量数据统计获得服务在当前时间段内的调用次数;基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。所述装置用于执行上述方法。本发明实施例提供的服务容量的动态调整方法及装置,提高了服务的可靠性。
Description
技术领域
本发明涉及计算机技术领域,具体涉及一种服务容量的动态调整方法及装置。
背景技术
随着互联网技术的不断发展,需要处理的网络业务不断增长。
现有技术中,会配置CPU、内存等硬件资源,并部署服务以处理客户的服务调用请求。当服务调用请求的数量不断增加,部署的服务不能满足对服务调用请求的处理时,就会对服务进行扩容,增加CPU、内存等硬件资源并部署服务。但是,现有技术在进行服务扩容时,存在响应缓慢的问题,业务量快速增长时,容易产生由于扩容不及时导致的无法响应服务调用请求的情况。
因此,如何提出一种服务容量的动态调整方法,及时增加服务容量以提高服务的可靠性成为本领域需要解决的重要课题。
发明内容
针对现有技术中的问题,本发明实施例提供一种服务容量的动态调整方法及装置,能够至少部分地解决现有技术中存在的问题。
一方面,本发明提出一种服务容量的动态调整方法,包括:
根据流量数据统计获得服务在当前时间段内的调用次数;
基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;
若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
另一方面,本发明提供一种服务容量的动态调整装置,包括:
统计单元,用于根据流量数据统计获得服务在当前时间段内的调用次数;
第一计算单元,用于基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;
第一判断单元,用于在判断获知所述服务的容量调整参数满足容量扩充规则之后,对所述服务进行扩容。
再一方面,本发明提供一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现上述任一实施例所述服务容量的动态调整方法的步骤。
又一方面,本发明提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述任一实施例所述服务容量的动态调整方法的步骤。
本发明实施例提供的服务容量的动态调整方法及装置,根据流量数据统计获得服务在当前时间段内的调用次数,基于服务在当前时间段内的调用次数以及容量调整参数计算规则,计算获得服务的容量调整参数,在判断获知服务的容量调整参数满足容量扩充规则之后,对服务进行扩容,能够及时对服务进行扩容,提高了服务的可靠性。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1是本发明一实施例提供的服务容量的动态调整系统的结构示意图。
图2是本发明一实施例提供的服务容量的动态调整方法的流程示意图。
图3是本发明另一实施例提供的服务容量的动态调整方法的流程示意图。
图4是本发明又一实施例提供的服务容量的动态调整方法的流程示意图。
图5是本发明再一实施例提供的服务容量的动态调整方法的流程示意图。
图6是本发明一实施例提供的服务容量的动态调整装置的结构示意图。
图7是本发明另一实施例提供的服务容量的动态调整装置的结构示意图。
图8是本发明又一实施例提供的服务容量的动态调整装置的结构示意图。
图9是本发明再一实施例提供的服务容量的动态调整装置的结构示意图。
图10是本发明一实施例提供的电子设备的实体结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚明白,下面结合附图对本发明实施例做进一步详细说明。在此,本发明的示意性实施例及其说明用于解释本发明,但并不作为对本发明的限定。需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互任意组合。
图1是本发明一实施例提供的服务容量的动态调整系统的结构示意图,如图1所示,本发明实施例提供的服务容量的动态调整系统包括流量转发服务器1、调整判断服务器2和容量调整服务器3,其中:
流量转发服务器1与调整判断服务器2通信连接,调整判断服务器2与容量调整服务器3通信连接。
各个客户端发送的服务调用请求都会以流量数据的形式发送至应用服务器的网关,流量转发服务器1可以复制应用服务器的网关的流量数据,将所述流量数据转发至调整判断服务器2。调整判断服务器2接收所述流量数据,并执行本发明实施例提供的服务容量的动态调整方法,确定是否需要对服务进行扩容,如果需要进行扩容,那么发送扩容请求信息给容量调整服务器3进行服务扩容。容量调整服务器3安装有服务容量调整工具,容量调整服务器3可以调用服务容量调整工具进行服务扩容。其中,应用服务器是进行服务处理的服务器。
图2是本发明一实施例提供的服务容量的动态调整方法的流程示意图,如图2所示,本发明实施例提供的服务容量的动态调整方法,包括:
S201、根据流量数据统计获得服务在当前时间段内的调用次数;
具体地,流量转发服务器向调整判断服务器发送流量数据,所述调整判断服务器从所述流量数据中可以解析获得服务调用请求,所述调整判断服务器可以统计当前时间段内相同的服务调用请求出现的次数,获得服务在当前时间段内的调用次数,可以根据所述服务调用请求包括的服务名称或者服务标识确定所述服务调用请求对应的服务。其中,所述服务是指能够独立完成某种功能应用程序,可以是微服务,根据实际需要进行设置,本发明实施例不做限定。所述当前时间段的时间间隔根据实际需要进行设置,本发明实施例不做限定。
例如,流量转发服务器可以通过修改流量数据中各个数据包的目标地址和端口号等信息,将各个数据包括发送给调整判断服务器。流量转发服务器在发送各个数据包之后,等待调整判断服务器接收到数据包之后发送的接收反馈信息,流量转发服务器在接收到接收反馈信息之后,确定流量包发送成功。
S202、基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;
具体地,所述调整判断服务器在获得所述服务在所述当前时间段内的调用次数之后,可以根据所述服务在当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务器的容量调整参数。其中,容量调整参数计算规则是预设的。所述容量调整参数包括但不限于服务的使用率以及增长率,根据实际需要进行设置,本发明实施例不做限定。
S203、若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
具体地,所述调整判断服务器在获得所述服务的容量调整参数之后,可以判断所述服务的容量调整参数是否满足容量扩充规则,如果满足容量扩充规则,那么需要对所述服务进行扩容,可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。其中,所述容量扩充规则是预设的。
本发明实施例提供的服务容量的动态调整方法,根据流量数据统计获得服务在当前时间段内的调用次数,基于服务在当前时间段内的调用次数以及容量调整参数计算规则,计算获得服务的容量调整参数,在判断获知服务的容量调整参数满足容量扩充规则之后,对服务进行扩容,能够及时对服务进行扩容,提高服务的可靠性。
在上述各实施例的基础上,进一步地,所述基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数包括:
根据所述服务在所述当前时间段内的调用次数以及所述服务的额定容量,计算获得所述服务的当前时间段的使用率;
相应地,所述若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容包括:
若判断获知所述服务的当前时间段的使用率大于第一阈值,则对所述服务进行扩容。
具体地,所述调整判断服务器可以计算所述服务在所述当前时间段内的调用次数除以所述服务的额定容量的商值,将上述商值作为所述服务的当前时间段的使用率,所述服务的当前时间段的使用率作为所述服务的容量调整参数。其中,所述服务的额定容量是预设的,表示所述服务能够同时处理的服务调用请求的数量。
所述调整判断服务器将所述服务的当前时间段的使用率与第一阈值进行比较,如果所述服务的当前时间段的使用率大于第一阈值,说明所述服务的容量调整参数满足容量扩充规则,需要对所述服务进行扩容,所述调整判断服务器可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。其中,所述第一阈值根据实际经验进行设置,例如设置为服务的额定容量的90%,本发明实施例不做限定。对所述服务进行扩容的具体过程为现有技术,此处不进行赘述。
本发明实施例提供的服务容量的动态调整方法,在当前时间段的使用率大于第一阈值时,对服务进行扩容,在没有达到服务的额定容量时提前对服务进行扩容,以避免出现服务支撑能力不足的情况,提高了服务的可靠性。
图3是本发明另一实施例提供的服务容量的动态调整方法的流程示意图,如图3所示,在上述各实施例的基础上,进一步地,本发明实施例提供的服务容量的动态调整方法还包括:
S301、获取所述服务的当前时间段之前的n个连续时间段的使用率;
具体地,所述调整判断服务器可以获取所述服务的当前时间段之前的n个连续时间段的使用率,n为正整数,n根据实际需要进行设置,本发明实施例不做限定。
例如,时间段的时间间隔为3秒,n设置为600。
S302、若判断获知n+1个连续时间段的使用率中每个使用率都小于第二阈值,则对所述服务进行缩容。
具体地,所述调整判断服务器将n+1个连续时间段的使用率中每个使用率与第二阈值进行比较,如果每个使用率都小于第二阈值,说明所述服务的容量没有充分利用,可以对所述服务进行缩容,所述调整判断服务器可以发送服务缩容请求至容量调整服务器,容量调整服务器在接收到所述服务缩容请求之后,调用服务容量调整工具对所述服务进行缩容,以节省系统资源。其中,所述第二阈值根据实际经验进行设置,本发明实施例不做限定。
图4是本发明又一实施例提供的服务容量的动态调整方法的流程示意图,如图4所示,在上述各实施例的基础上,进一步地,所述基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数包括:
S401、根据所述服务在所述当前时间段内的调用次数以及所述服务在上一时间段内的调用次数,计算获得所述服务的当前时间段的增长率;
具体地,所述调整判断服务器可以计算所述服务在所述当前时间段内的调用次数减去所述服务在上一时间段内的调用次数的差值,然后在用上述差值除以所述服务在上一时间段内的调用次数的商值,将上述商值作为所述服务的当前时间段的增长率。
S402、根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及预设公式,计算所述服务的预测调用次数;
具体地,所述调整判断服务器在获得所述当前时间段的增长率之后,将所述服务在所述当前时间段的调用次数、所述当前时间段的增长率带入到预设公式中,可以计算获得所述服务的预测调用次数,所述服务的预测调用次数作为所述服务的容量调整参数。
例如,所述预设公式为:b=a(1+λ)α其中,b为所述服务的预测调用次数,a为所述服务在所述当前时间段的调用次数,λ为所述当前时间段的增长率,t为所述服务扩容需要的时间,p为所述当前时间段的时间间隔,表示向上取整,t根据实际经验进行设置,本发明实施例不做限定。
在上述各实施例的基础上,进一步地,所述若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容包括:
若判断获知所述服务的预测调用次数大于第三阈值,则对所述服务进行扩容。
具体地,所述调整判断服务器在获得所述服务的预测调用次数之后,将所述服务的预测调用次数与第三阈值进行比较,如果所述服务的预测调用次数大于第三阈值,说明所述服务的容量调整参数满足容量扩充规则,需要对所述服务进行扩容,所述调整判断服务器可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。
图5是本发明再一实施例提供的服务容量的动态调整方法的流程示意图,如图5所示,在上述各实施例的基础上,进一步地,本发明实施例提供的服务容量的动态调整方法还包括:
S501、根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数;
具体地,所述调整判断服务器可以根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数。其中,所述服务调用链路拓扑图是预设的,设定了相关的服务之间的调用之间的关系,根据相关服务中一个服务的调用关系,可以估算该服务在未来某个时间段的被调用次数,作为该服务的相关调用次数。
例如,服务A和服务B为相关服务,在调用完服务A之后,有80%的概率会调用服务B,那么在服务调用链路拓扑图设定服务A与服务B的调用次数之间的关系为服务A的调用次数乘以80%。如果服务A在当前时间段内的调用次数为100,那么服务B的相关调用次数为100×80%=80。比如服务A可以是在线购物中添加商品到购物车的服务,服务B可以是提交结算服务。
S502、根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及调用时间差,计算获得所述服务的相关调用次数所属时间段的预估调用次数;其中,所述调用时间差是预设的;
具体地,在所述服务的相关服务被调用之后,再调用所述服务会有一个时间差,该时间差即为调用时间差,根据调用时间差与所述当前时间段的时间间隔,可以确定所述服务的相关调用次数所属时间段,然后根据所述服务在所述当前时间段的调用次数和所述当前时间段的增长率,可以计算出所述服务的相关调用次数所属时间段的预估调用次数。其中,所述服务与相关服务之间的调用时间差是预设的。
例如,所述当前时间段的时间间隔为3s,服务A与服务B之间的调用时间差为10s,那么可以确定服务B的相关调用次数出现在当前时间段之后第4个时间段,在当前时间段之后第4个时间段会对服务B调用相关调用次数。所述调整判断服务器可以根据公式d=c(1+γ)ββ,计算服务B在当前时间段之后第4个时间段的预估调用次数d,c为服务B当前时间段的调用次数,γ为服务B在当前时间段的增长率,β为4。
S503、根据所述服务的相关调用次数和所述预估调用次数,确定是否需要对所述服务进行扩容。
具体地,所述调整判断服务器可以计算所述服务的相关调用次数和所述预估调用次数之和作为所述服务在所述服务的相关调用次数所属时间段的调用次数,然后将所述服务在所述服务的相关调用次数所属时间段的调用次数与第五阈值进行比较,如果所述服务在所述服务的相关调用次数所属时间段的调用次数大于第五阈值,那么需要对所述服务进行扩容,否则所述服务在所述服务的相关调用次数所属时间段的调用次数小于等于第五阈值,那么不需要对所述服务进行扩容。其中,所述第五阈值根据实际经验进行设置,本发明实施例不做限定。
图6是本发明一实施例提供的服务容量的动态调整装置的结构示意图,如图6所示,本发明实施例提供的服务容量的动态调整装置包括统计单元601、第一计算单元602和第一判断单元603,其中:
统计单元601用于根据流量数据统计获得服务在当前时间段内的调用次数;第一计算单元602用于基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;第一判断单元603用于在判断获知所述服务的容量调整参数满足容量扩充规则之后,对所述服务进行扩容。
具体地,流量转发服务器向统计单元601发送流量数据,统计单元601从所述流量数据中可以解析获得服务调用请求,统计单元601可以统计当前时间段内相同的服务调用请求出现的次数,获得服务在当前时间段内的调用次数,可以根据所述服务调用请求包括的服务名称或者服务标识确定所述服务调用请求对应的服务。其中,所述服务是指能够独立完成某种功能应用程序,可以是微服务,根据实际需要进行设置,本发明实施例不做限定。所述当前时间段的时间间隔根据实际需要进行设置,本发明实施例不做限定。
在获得所述服务在所述当前时间段内的调用次数之后,第一计算单元602可以根据所述服务在当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务器的容量调整参数。其中,容量调整参数计算规则是预设的。所述容量调整参数包括但不限于服务的使用率以及增长率,根据实际需要进行设置,本发明实施例不做限定。
在获得所述服务的容量调整参数之后,第一判断单元603可以判断所述服务的容量调整参数是否满足容量扩充规则,如果满足容量扩充规则,那么需要对所述服务进行扩容,可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。其中,所述容量扩充规则是预设的。
本发明实施例提供的服务容量的动态调整装置,根据流量数据统计获得服务在当前时间段内的调用次数,基于服务在当前时间段内的调用次数以及容量调整参数计算规则,计算获得服务的容量调整参数,在判断获知服务的容量调整参数满足容量扩充规则之后,对服务进行扩容,能够及时对服务进行扩容,提高服务的可靠性。
在上述各实施例的基础上,进一步地,第一计算单元602具体用于:
根据所述服务在所述当前时间段内的调用次数以及所述服务的额定容量,计算获得所述服务的当前时间段的使用率;
相应地,第一判断单元603具体用于:
若判断获知所述服务的当前时间段的使用率大于第一阈值,则对所述服务进行扩容。
具体地,第一计算单元602可以计算所述服务在所述当前时间段内的调用次数除以所述服务的额定容量的商值,将上述商值作为所述服务的当前时间段的使用率,所述服务的当前时间段的使用率作为所述服务的容量调整参数。其中,所述服务的额定容量是预设的,表示所述服务能够同时处理的服务调用请求的数量。
第一判断单元603将所述服务的当前时间段的使用率与第一阈值进行比较,如果所述服务的当前时间段的使用率大于第一阈值,说明所述服务的容量调整参数满足容量扩充规则,需要对所述服务进行扩容,第一判断单元603可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。其中,所述第一阈值根据实际经验进行设置,例如设置为服务的额定容量的90%,本发明实施例不做限定。对所述服务进行扩容的具体过程为现有技术,此处不进行赘述。
图7是本发明另一实施例提供的服务容量的动态调整装置的结构示意图,如图7所示,在上述各实施例的基础上,进一步地,本发明实施例提供的服务容量的动态调整装置还包括获取单元604和第二判断单元605,其中:
获取单元604用于获取所述服务的当前时间段之前的n个连续时间段的使用率;第二判断单元605用于在判断获知n+1个连续时间段的使用率中每个使用率都小于第二阈值之后,对所述服务进行缩容。
具体地,获取单元604可以获取所述服务的当前时间段之前的n个连续时间段的使用率,n为正整数,n根据实际需要进行设置,本发明实施例不做限定。
第二判断单元605将n+1个连续时间段的使用率中每个使用率与第二阈值进行比较,如果每个使用率都小于第二阈值,说明所述服务的容量没有充分利用,可以对所述服务进行缩容,第二判断单元605可以发送服务缩容请求至容量调整服务器,容量调整服务器在接收到所述服务缩容请求之后,调用服务容量调整工具对所述服务进行缩容,以节省系统资源。其中,所述第二阈值根据实际经验进行设置,本发明实施例不做限定。
图8是本发明又一实施例提供的服务容量的动态调整装置的结构示意图,如图8所示,在上述各实施例的基础上,进一步地,第一计算单元602包括第一计算子单元6021和第二计算子单元6022,其中:
第一计算子单元6021用于根据所述服务在所述当前时间段内的调用次数以及所述服务在上一时间段内的调用次数,计算获得所述服务的当前时间段的增长率;第二计算子单元6022用于根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及预设公式,计算所述服务的预测调用次数;
具体地,第一计算子单元6021可以计算所述服务在所述当前时间段内的调用次数减去所述服务在上一时间段内的调用次数的差值,然后在用上述差值除以所述服务在上一时间段内的调用次数的商值,将上述商值作为所述服务的当前时间段的增长率。
在获得所述当前时间段的增长率之后,第二计算子单元6022将所述服务在所述当前时间段的调用次数、所述当前时间段的增长率带入到预设公式中,可以计算获得所述服务的预测调用次数,所述服务的预测调用次数作为所述服务的容量调整参数。
在上述各实施例的基础上,进一步地,第一判断单元603具体用于:
若判断获知所述服务的预测调用次数大于第三阈值,则对所述服务进行扩容。
具体地,在获得所述服务的预测调用次数之后,第一判断单元603将所述服务的预测调用次数与第三阈值进行比较,如果所述服务的预测调用次数大于第三阈值,说明所述服务的容量调整参数满足容量扩充规则,需要对所述服务进行扩容,第一判断单元603可以发送扩容请求至容量调整服务器以使得所述容量调整服务器对所述服务进行扩容。
图9是本发明再一实施例提供的服务容量的动态调整装置的结构示意图,如图9所示,在上述各实施例的基础上,进一步地,本发明实施例提供的服务容量的动态调整装置还包括获得单元606、第二计算单元607和确定单元608,其中:
获得单元606用于根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数;第二计算单元607用于根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及调用时间差,计算获得所述服务的相关调用次数所属时间段的预估调用次数;其中,所述调用时间差是预设的;确定单元608用于根据所述服务的相关调用次数和所述预估调用次数,确定是否需要对所述服务进行扩容。
具体地,获得单元606可以根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数。其中,所述服务调用链路拓扑图是预设的,设定了相关的服务之间的调用之间的关系,根据相关服务中一个服务的调用关系,可以估算该服务在未来某个时间段的被调用次数,作为该服务的相关调用次数。
在所述服务的相关服务被调用之后,再调用所述服务会有一个时间差,该时间差即为调用时间差,第二计算单元607根据调用时间差与所述当前时间段的时间间隔,可以确定所述服务的相关调用次数所属时间段,然后根据所述服务在所述当前时间段的调用次数和所述当前时间段的增长率,可以计算出所述服务的相关调用次数所属时间段的预估调用次数。其中,所述服务与相关服务之间的调用时间差是预设的。
确定单元608可以计算所述服务的相关调用次数和所述预估调用次数之和作为所述服务在所述服务的相关调用次数所属时间段的调用次数,然后将所述服务在所述服务的相关调用次数所属时间段的调用次数与第五阈值进行比较,如果所述服务在所述服务的相关调用次数所属时间段的调用次数大于第五阈值,那么需要对所述服务进行扩容,否则所述服务在所述服务的相关调用次数所属时间段的调用次数小于等于第五阈值,那么不需要对所述服务进行扩容。其中,所述第五阈值根据实际经验进行设置,本发明实施例不做限定。
本发明实施例提供的装置的实施例具体可以用于执行上述各方法实施例的处理流程,其功能在此不再赘述,可以参照上述方法实施例的详细描述。
需要说明的是,本发明实施例提供的服务容量的动态调整方法及装置可用于金融领域,也可用于除金融领域之外的任意技术领域,本发明实施例对服务容量的动态调整方法及装置的应用领域不做限定。
图10是本发明一实施例提供的电子设备的实体结构示意图,如图10所示,该电子设备可以包括:处理器(processor)1001、通信接口(Communications Interface)1002、存储器(memory)1003和通信总线1004,其中,处理器1001,通信接口1002,存储器1003通过通信总线1004完成相互间的通信。处理器1001可以调用存储器1003中的逻辑指令,以执行如下方法:根据流量数据统计获得服务在当前时间段内的调用次数;基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
此外,上述的存储器1003中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
本实施例公开一种计算机程序产品,所述计算机程序产品包括存储在非暂态计算机可读存储介质上的计算机程序,所述计算机程序包括程序指令,当所述程序指令被计算机执行时,计算机能够执行上述各方法实施例所提供的方法,例如包括:根据流量数据统计获得服务在当前时间段内的调用次数;基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
本实施例提供一种计算机可读存储介质,所述计算机可读存储介质存储计算机程序,所述计算机程序使所述计算机执行上述各方法实施例所提供的方法,例如包括:根据流量数据统计获得服务在当前时间段内的调用次数;基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在本说明书的描述中,参考术语“一个实施例”、“一个具体实施例”、“一些实施例”、“例如”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
以上所述的具体实施例,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (12)
1.一种服务容量的动态调整方法,其特征在于,包括:
根据流量数据统计获得服务在当前时间段内的调用次数;
基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;
若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容。
2.根据权利要求1所述的方法,其特征在于,所述基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数包括:
根据所述服务在所述当前时间段内的调用次数以及所述服务的额定容量,计算获得所述服务的当前时间段的使用率;
相应地,所述若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容包括:
若判断获知所述服务的当前时间段的使用率大于第一阈值,则对所述服务进行扩容。
3.根据权利要求2所述的方法,其特征在于,还包括:
获取所述服务的当前时间段之前的n个连续时间段的使用率;
若判断获知n+1个连续时间段的使用率中每个使用率都小于第二阈值,则对所述服务进行缩容。
4.根据权利要求1所述的方法,其特征在于,所述基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数包括:
根据所述服务在所述当前时间段内的调用次数以及所述服务在上一时间段内的调用次数,计算获得所述服务的当前时间段的增长率;
根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及预设公式,计算所述服务的预测调用次数;
相应地,所述若判断获知所述服务的容量调整参数满足容量扩充规则,则对所述服务进行扩容包括:
若判断获知所述服务的预测调用次数大于第三阈值,则对所述服务进行扩容。
5.根据权利要求4所述的方法,其特征在于,还包括:
根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数;
根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及调用时间差,计算获得所述服务的相关调用次数所属时间段的预估调用次数;其中,所述调用时间差是预设的;
根据所述服务的相关调用次数和所述预估调用次数,确定是否需要对所述服务进行扩容。
6.一种服务容量的动态调整装置,其特征在于,包括:
统计单元,用于根据流量数据统计获得服务在当前时间段内的调用次数;
第一计算单元,用于基于所述服务在所述当前时间段内的调用次数以及容量调整参数计算规则,计算获得所述服务的容量调整参数;
第一判断单元,用于在判断获知所述服务的容量调整参数满足容量扩充规则之后,对所述服务进行扩容。
7.根据权利要求6所述的装置,其特征在于,所述第一计算单元具体用于:
根据所述服务在所述当前时间段内的调用次数以及所述服务的额定容量,计算获得所述服务的当前时间段的使用率;
相应地,所述判断单元具体用于:
若判断获知所述服务的当前时间段的使用率大于第一阈值,则对所述服务进行扩容。
8.根据权利要求7所述的装置,其特征在于,还包括:
获取单元,用于获取所述服务的当前时间段之前的n个连续时间段的使用率;
第二判断单元,用于在判断获知n+1个连续时间段的使用率中每个使用率都小于第二阈值之后,对所述服务进行缩容。
9.根据权利要求6所述的装置,其特征在于,所述第一计算单元包括:
第一计算子单元,用于根据所述服务在所述当前时间段内的调用次数以及所述服务在上一时间段内的调用次数,计算获得所述服务的当前时间段的增长率;
第二计算子单元,用于根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及预设公式,计算所述服务的预测调用次数;
相应地,所述判断单元具体用于:
若判断获知所述服务的预测调用次数大于第三阈值,则对所述服务进行扩容。
10.根据权利要求9所述的装置,其特征在于,还包括:
获得单元,用于根据所述服务的相关服务在当前时间段内的调用次数以及服务调用链路拓扑图,获得所述服务的相关调用次数;
第二计算单元,用于根据所述服务在所述当前时间段的调用次数、所述当前时间段的增长率以及调用时间差,计算获得所述服务的相关调用次数所属时间段的预估调用次数;其中,所述调用时间差是预设的;
确定单元,用于根据所述服务的相关调用次数和所述预估调用次数,确定是否需要对所述服务进行扩容。
11.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至5任一项所述方法的步骤。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至5任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011277729.5A CN112380011B (zh) | 2020-11-16 | 2020-11-16 | 一种服务容量的动态调整方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011277729.5A CN112380011B (zh) | 2020-11-16 | 2020-11-16 | 一种服务容量的动态调整方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112380011A true CN112380011A (zh) | 2021-02-19 |
CN112380011B CN112380011B (zh) | 2024-02-27 |
Family
ID=74584682
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011277729.5A Active CN112380011B (zh) | 2020-11-16 | 2020-11-16 | 一种服务容量的动态调整方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112380011B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114064284A (zh) * | 2021-11-23 | 2022-02-18 | 北京百度网讯科技有限公司 | 云服务器资源配置方法、装置、电子设备和介质 |
CN115562889A (zh) * | 2022-10-12 | 2023-01-03 | 中航信移动科技有限公司 | 一种应用控制方法、电子设备及存储介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180248939A1 (en) * | 2017-02-27 | 2018-08-30 | University Of Electronic Science And Technology Of China | Energy-saving deployment method of virtual cdn |
US20180254996A1 (en) * | 2017-03-03 | 2018-09-06 | International Business Machines Corporation | Automatic scaling of microservices based on projected demand |
CN108845881A (zh) * | 2018-05-30 | 2018-11-20 | 有米科技股份有限公司 | 服务器容量动态调整的方法及装置 |
CN110677459A (zh) * | 2019-09-02 | 2020-01-10 | 金蝶软件(中国)有限公司 | 资源调整方法、装置、计算机设备和计算机存储介质 |
CN110795236A (zh) * | 2019-09-26 | 2020-02-14 | 北京大米科技有限公司 | 调整服务器容量的方法、装置、电子设备及介质 |
CN111130908A (zh) * | 2019-12-31 | 2020-05-08 | 中信百信银行股份有限公司 | 基于调用流量分析预测的微服务动态聚合拆分系统 |
CN111782386A (zh) * | 2020-03-17 | 2020-10-16 | 新浪网技术(中国)有限公司 | 一种基于历史业务流量的数据库调度方法及系统 |
CN111881004A (zh) * | 2020-09-27 | 2020-11-03 | 苏宁金融科技(南京)有限公司 | 一种硬件资源管控方法、装置、设备、存储介质 |
-
2020
- 2020-11-16 CN CN202011277729.5A patent/CN112380011B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180248939A1 (en) * | 2017-02-27 | 2018-08-30 | University Of Electronic Science And Technology Of China | Energy-saving deployment method of virtual cdn |
US20180254996A1 (en) * | 2017-03-03 | 2018-09-06 | International Business Machines Corporation | Automatic scaling of microservices based on projected demand |
CN108845881A (zh) * | 2018-05-30 | 2018-11-20 | 有米科技股份有限公司 | 服务器容量动态调整的方法及装置 |
CN110677459A (zh) * | 2019-09-02 | 2020-01-10 | 金蝶软件(中国)有限公司 | 资源调整方法、装置、计算机设备和计算机存储介质 |
CN110795236A (zh) * | 2019-09-26 | 2020-02-14 | 北京大米科技有限公司 | 调整服务器容量的方法、装置、电子设备及介质 |
CN111130908A (zh) * | 2019-12-31 | 2020-05-08 | 中信百信银行股份有限公司 | 基于调用流量分析预测的微服务动态聚合拆分系统 |
CN111782386A (zh) * | 2020-03-17 | 2020-10-16 | 新浪网技术(中国)有限公司 | 一种基于历史业务流量的数据库调度方法及系统 |
CN111881004A (zh) * | 2020-09-27 | 2020-11-03 | 苏宁金融科技(南京)有限公司 | 一种硬件资源管控方法、装置、设备、存储介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114064284A (zh) * | 2021-11-23 | 2022-02-18 | 北京百度网讯科技有限公司 | 云服务器资源配置方法、装置、电子设备和介质 |
CN114064284B (zh) * | 2021-11-23 | 2024-06-07 | 北京百度网讯科技有限公司 | 云服务器资源配置方法、装置、电子设备和介质 |
CN115562889A (zh) * | 2022-10-12 | 2023-01-03 | 中航信移动科技有限公司 | 一种应用控制方法、电子设备及存储介质 |
CN115562889B (zh) * | 2022-10-12 | 2024-01-23 | 中航信移动科技有限公司 | 一种应用控制方法、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112380011B (zh) | 2024-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110138756B (zh) | 一种限流方法及系统 | |
WO2019148569A1 (zh) | 一种发送数据资源的获取请求的方法和系统 | |
CN108304256B (zh) | 一种边缘计算中低开销的任务调度方法及装置 | |
CN112380011B (zh) | 一种服务容量的动态调整方法及装置 | |
CN112948120A (zh) | 负载均衡方法、系统、装置和存储介质 | |
CN112398945A (zh) | 一种基于背压的业务处理方法及装置 | |
CN110933136A (zh) | 一种服务节点选择方法、装置、设备及可读存储介质 | |
CN114363963A (zh) | 一种云原生upf信令面负载均衡选择方法及系统 | |
CN116708450A (zh) | 负载均衡方法、装置、电子设备及计算机可读存储介质 | |
WO2024088079A1 (zh) | 请求处理方法以及系统 | |
CN109450684B (zh) | 一种网络切片系统物理节点容量扩充方法及装置 | |
CN112435123A (zh) | 一种基于同构多链系统的交易方法、系统及存储介质 | |
CN117221326A (zh) | 软件负载均衡调度方法、系统、电子设备和存储介质 | |
CN112437449A (zh) | 联合资源分配方法及区域编排器 | |
CN112968788A (zh) | 网络切片容量设置方法、控制方法、装置、设备及介质 | |
CN114697400A (zh) | 服务调度方法、系统及vtep | |
CN104580498B (zh) | 一种自适应云管理平台 | |
CN113949666A (zh) | 流量控制方法、装置、设备及系统 | |
CN113965563A (zh) | 基于模型的业务处理方法及装置、服务器 | |
CN109428901B (zh) | 消息处理方法以及消息处理装置 | |
CN112579297B (zh) | 一种数据处理方法及装置 | |
CN117478610B (zh) | 全局流量控制方法、装置、电子设备及存储介质 | |
CN116737359B (zh) | 一种电子商务信息处理方法及系统 | |
CN113590319B (zh) | 一种消息队列的计算资源负载均衡方法及装置 | |
CN112073455B (zh) | 一种数据处理方法、装置、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |