CN113079189B - 能力开放平台的容量控制方法、装置及电子设备 - Google Patents

能力开放平台的容量控制方法、装置及电子设备 Download PDF

Info

Publication number
CN113079189B
CN113079189B CN202010008917.1A CN202010008917A CN113079189B CN 113079189 B CN113079189 B CN 113079189B CN 202010008917 A CN202010008917 A CN 202010008917A CN 113079189 B CN113079189 B CN 113079189B
Authority
CN
China
Prior art keywords
service
capacity
service provider
time slice
current time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202010008917.1A
Other languages
English (en)
Other versions
CN113079189A (zh
Inventor
陈维靖
陈楷炜
詹伟伟
徐睿
崔志顺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Mobile Communications Group Co Ltd
China Mobile Group Guangdong Co Ltd
Original Assignee
China Mobile Communications Group Co Ltd
China Mobile Group Guangdong Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Mobile Communications Group Co Ltd, China Mobile Group Guangdong Co Ltd filed Critical China Mobile Communications Group Co Ltd
Priority to CN202010008917.1A priority Critical patent/CN113079189B/zh
Publication of CN113079189A publication Critical patent/CN113079189A/zh
Application granted granted Critical
Publication of CN113079189B publication Critical patent/CN113079189B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/56—Provisioning of proxy services
    • H04L67/566—Grouping or aggregating service requests, e.g. for unified processing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/61—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources taking into account QoS or priority requirements

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本发明实施例公开了一种能力开放平台的容量控制方法、装置及电子设备，用于解决现有方案估计得到的服务容量，与真实的服务容量存在较大偏差的问题。所述方法包括：基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方；基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。

Description

能力开放平台的容量控制方法、装置及电子设备
技术领域
本发明实施例涉及无线通信技术领域，尤其涉及一种能力开放平台的容量控制方法、装置及电子设备。
背景技术
能力开放平台，是指能够整合服务提供方的能力资源，并采用特定接口向能力消费方开放这些能力的技术平台。能力开放平台的服务容量评估，是指该平台在某一时段内能够接受的最大能力调用量。对能力开放平台的服务容量进行准确地评估，并据此对能力开放平台的能力调用进行容量控制，可以保证能力开放平台的平稳运行。
相关技术中，主要由运维人员凭借自身经验和历史能力调用量的分布情况、能力的历史平均响应时间以及能力开放平台承受的压力等因素，预估能力开放平台的服务容量。
相关技术中这种依赖人工经验估计得到的服务容量，与真实的服务容量存在较大偏差，亟待改进。
发明内容
本发明实施例提供一种能力开放平台的容量控制方法、装置及电子设备，用于解决现有方案估计得到的服务容量，与真实的服务容量存在较大偏差的问题。
本发明实施例采用下述技术方案：
第一方面，提供了一种能力开放平台的容量控制方法，包括：
基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方；
基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
第二方面，提供了一种能力开放平台的容量控制装置，包括：
总容量确定模块，用于基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方；
服务质量评估模块，用于基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
真实容量评估模块，用于基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
第三方面，提供了一种电子设备，包括：
存储器，存储有计算机程序指令；
处理器，当所述计算机程序指令被所述处理器执行时实现如第一方面所述的能力开放平台的容量控制方法。
第四方面，提供了一种计算机可读存储介质，
所述计算机可读存储介质包括指令，当所述指令在计算机上运行时，使得计算机执行如第一方面所述的能力开放平台的容量控制方法。
本发明实施例采用的上述至少一个技术方案，以当前时间片内服务提供方提供的服务的调用次数和响应时间的乘积，作为当前时间片内该服务提供方被消耗的总服务容量的原子值，以“系统成功率”和“平均响应时间”等评估指标为基础，计算服务质量评分，依据总服务容量和服务质量评分，对当前时间片内真实服务容量进行动态评估，得到贴近真实的系统容量值，评估准确性高。
附图说明
此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：
图1为本说明书的一个实施例提供的一种能力开放系统架构图。
图2为本说明书的一个实施例提供的一种能力开放平台的容量控制方法的流程示意图。
图3为本说明书的另一个实施例提供的一种能力开放平台的容量控制方法的流程示意图。
图4为为本说明书的一个实施例提供的一种能力开放平台的容量控制装置的结构示意图。
图5为本说明书的另一个实施例提供的一种能力开放平台的容量控制装置的结构示意图。
图6为本说明书的另一个实施例提供的一种电子设备的硬件结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚，下面将结合本说明书具体实施例及相应的附图对本申请技术方案进行清楚、完整地描述。显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本说明书中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
为解决现有方案估计得到的服务容量，与真实的服务容量存在较大偏差的问题，本说明书实施例提供一种能力开放平台的容量控制方法。本说明书实施例提供的方法的执行主体可以但不限于个人电脑、服务器等能够被配置为执行本发明实施例提供的该方法装置中的至少一种。
为便于描述，下文以该方法的执行主体为能够执行该方法的服务器为例，对该方法的实施方式进行介绍，具体可以是能力开放平台的服务器。可以理解，该方法的执行主体为服务器只是一种示例性的说明，并不应理解为对该方法的限定。
为了便于理解，先结合图1对本说明书实施例提供的能力开放系统的架构进行说明。如图1所示，该能力开放系统可以包括能力开放平台1和能力消费方2。其中，能力开放平台1是指能够整合服务提供方11的能力资源，并采用特定接口向能力消费方2开放这些能力的技术平台。
具体而言，能力开放平台11对内可以作为服务调用方12调用服务提供方11提供的一个或多个服务，以对外作为能力提供方13向能力消费方2提供能力。举例来说，能力开放平台1可以是短信开放平台，服务提供方11可以是短信网关，能力消费方可以是需要短信验证能力的某一应用(Application，APP)，在此基础上，能力开放平台1可以作为服务调用方调用短信网关提供的短信服务，向该APP提供短信验证能力。
应理解，尽管图1中仅示出了1一个服务提供方和一个能力消费方，但在实际应用中，服务提供方和能力消费方的数量可以扩展，而不仅仅是一个。
下面对本说明书提供的一种能力开放平台的容量控制方法进行说明。
本说明书的一个实施例提供的一种能力开放平台的容量控制方法的实现流程示意图如图1所示，该方法包括：
步骤201、基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量。
在实施本方法时，可以将时间按一定的长度进行分片，产生时间序列T1,T2,T3,…Ti,Ti+1，假设当前时间片为Ti，则Ti+1即为当前时间片的下一时间片。
本说明书实施例提供的方法是站在服务提供方的角度，控制能力开放平台的服务容量。一个能力开放平台中可以包括多个服务提供方，一个服务提供方可以提供一种或多种服务。能力开放平台在对外提供一种能力时，可以通过调用一个或多个服务提供方的一种或多种服务来实现。步骤201中所述的服务提供方可以是能力开放平台中的任一服务提供方。
当前时间片内消耗的服务提供方的总服务容量(用Ci表示)，可以是该服务提供方在当前时间片Ti内，所有服务调用过程所消耗的系统容量总值，其中包含了服务调用成功的有效系统容量和因为调用失败而浪费的无效系统容量。
假设：能力开放平台在单位时间内的能力调用次数为Fi；能力开放平台内部提供能力时的处理时长随着调用接口量的增长保持平稳时长，且根据历史服务调用情况可以统计为Ri；以及，某一服务提供方提供的服务包括a,b,c,…n，当前时间片Ti内对该服务提供方提供的服务的调用次数可以分别表示为fa,fb,fc,…fn，当前时间片Ti内该服务提供方提供的服务的平均响应时间可以分别为ta,tb,tc,…tn(单位可以为秒)。
则作为一个例子，可以基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，以及第一模型，确定所述当前时间片内消耗的所述服务提供方的总服务容量。
具体来说，所述第一模型可以为：
Figure BDA0002354595090000051
其中，Ci表示所述当前时间片Ti内单位时间消耗的所述服务提供方的总服务容量；k表示所述服务提供方提供的第k个服务，k＝1,2,3,…,n；tk表示在所述当前时间片内调用所述第k个服务的平均响应时间；fk表示在所述当前时间片内调用所述第k个服务的调用次数；Fi表示所述能力开放平台在单位时间内的能力调用次数，Ri表示所述能力开放平台内部提供能力时的处理时长。
Ci也可以理解为是，单位时间内，该服务提供方提供了相当于Ci笔耗时为单位时间(如1s)的服务调用。
步骤202、基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分。
其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间。可选地，这多个评估指标还可以包括当前时间片内的超时率和异常事件等等。本说明书对这多个评估指标的数量不做限制，可以理解，通常情况下，纳入考量的评估指标越全面，评估结果越接近实际情况。
服务提供方在所述当前时间片Ti内的服务质量评分Hi，是指该服务提供方提供大部分或所有服务在当前时间片Ti内的综合质量评分。
作为一个例子，可以采用“加权短板评估法”来确定服务提供方在所述当前时间片Ti内的服务质量评分Hi。具体来说，可以基于多个评估指标和第二模型，确定所述服务提供方在所述当前时间片内的服务质量评分。
其中，所述第二模型可以为：
Figure BDA0002354595090000061
在所述第二模型中，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分；k∈[1,n]，n表示所述评估指标的数量；wk表示第k个评分指标的权重，wk∈[1,100]，总权重
Figure BDA0002354595090000062
hk表示第k个评分指标的分值，hk基于预设函数计算得到。
可以理解，当n个评估指标的权重均相同时，第二模型可以简化为：
Figure BDA0002354595090000063
在第二模型中，hk可以利用预设函数f()来计算。作为一个例子，可以利用“hk＝f(quota,qmax,qmin)”这一函数来计算，其中，quota表示评分指标的值，qmax表示期望最佳指标值，qmin表示期望最差指标值。具体的，当所述多个评估指标包括服务提供方在所述当前时间片内的系统成功率、平均响应时间和超时率时，hk的具体计算方式可以如表1所示。
表1
Figure BDA0002354595090000071
步骤203、基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
作为一个例子，可以基于步骤201中计算出的总服务容量Ci、步骤202中计算出的服务质量评分Hi和第三模型，确定该服务提供方在当前时间片Ti内的真实服务容量RCi。
第三模型可以为：
Figure BDA0002354595090000072
其中，RCi表示所述服务提供方在所述当前时间片Ti内的真实服务容量，单位可以是事务数/秒(Transactions Per Second，TPS)。
其中，Ci表示所述当前时间片Ti内消耗的所述服务提供方的总服务容量，其取值范围可以是[0，100]。
其中，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分，H表示预设的服务质量合格分值。示例性地，根据能力开放平台对服务质量的基本要求，可以将H设为80，即当服务质量评分达到80分时，认为真实服务容量等同于所消耗的系统容量。当然，还可以将H设为其他合理的值，本说明书不做具体限定。
本说明书实施例提供的一种能力开放平台的容量控制方法，以当前时间片Ti内服务提供方提供的服务的调用次数和响应时间的乘积，作为当前时间片Ti内该服务提供方被消耗的总服务容量Ci的原子值，以“系统成功率”和“平均响应时间”等评估指标为基础，使用“加权短板评估法”计算服务质量评分Hi，依据总服务容量Ci和服务质量评分Hi，对当前时间片Ti内真实服务容量RCi进行动态评估，得到贴近真实的系统容量值，评估准确性高。
进一步地，可以想象，依据更贴近真实的系统容量值的容量评估结果，制定的流量控制策略将更为有效。此外，整个评估过程全自动化，不需要人工干预，因此可以提高服务容量评估效率。
可选地，本说明书的另一个实施例提供的一种能力开放平台的容量控制方法的实现流程示意图如图3所示，该方法除了包括上述步骤201、步骤202和步骤203，还可以包括：
步骤204、基于所述真实服务容量和预设保底探测容量，估计所述服务提供方在下一时间片内的可用服务容量限值。
作为一个例子，可以基于步骤203中计算出的服务提供方在当前时间片Ti内的真实服务容量RCi和预设保底探测容量，估计服务提供方在下一时间片Ti+1内的可用服务容量限值。
具体的，服务提供方在下一时间片Ti+1内的可用服务容量限值可以为：
ECi+1＝(RCi+BC)×Ti
其中，ECi+1为估计的服务提供方在下一时间片Ti+1内的可用服务容量限值，BC为预设保底探测容量，当RCi＝0时，BC为用于保探测服务提供方是否能恢复服务能力的流量。BC的值可以预先设定，例如可以设为2。
步骤205、基于所述服务提供方在所述当前时间片内的服务质量评分，确定是否对所述服务提供方在所述下一时间片内进行容量控制；若为是，执行步骤206；否则，结束本流程，或者在下一时间片重新执行步骤201至步骤205。
作为一个例子，在步骤205中，当所述服务提供方在所述当前时间片内的服务质量评分低于预设评分时，确定对所述服务提供方在所述下一时间片内进行容量控制，也即，若服务提供方在当前时间片Ti中的服务质量评分低于预设评分，则在下一时间片Ti+1启动服务容量控制。
其中，预设评分可以根据实际要求进行设定，例如可以设定为90分。
步骤206、基于所述可用服务容量限值和所述服务提供方在所述下一时间片内已消耗的服务容量，对所述服务提供方在所述下一时间片内的容量进行控制。
在一个例子中，服务提供方在所述下一时间片内已消耗的服务容量可用STi+1表示，如果STi+1≥ECi，则停止(即熔断)对该服务提供的所有服务的调用，直到下下个时间片Ti+2来临，下下个时间片Ti+2来临之后，重新依据时间片Ti+1内的服务质量评分，确定是否对所述服务提供方在时间片Ti+2内的容量进行限制，以此类推。其中，ECi+1为步骤204中估计的服务提供方在下一时间片Ti+1内的可用服务容量限值。
结合步骤203中的第三模型
Figure BDA0002354595090000091
可知，如果H＝80，启动流量控制的预设评分为90分，那么，当时间片Ti内的服务质量评分Hi在0分到80分之间时，时间片Ti+1内的可用服务容量呈缩小趋势；当时间片Ti内的服务质量评分Hi在80分到90分之间时，时间片Ti+1内的可用服务容量呈扩大趋势；当时间片Ti内的服务质量评分Hi在大于90分时，时间片Ti+1内的可用服务容量不受限制。
相比于图2所示的实施例，图3所示的实施例提供的一种能力开放平台的容量控制方法，可以进一步地根据服务提供方在时间片Ti内的真实服务容量RCi，计算该服务提供方在在Ti+1时间片内的服务容量限值，并根据该服务提供方在时间片Ti内的服务质量评分，决定是否在Ti+1时间片内对该服务提供方进行限流，使该服务提供方在Ti+1时间片内呈现扩容或缩容趋势，以保证该服务提供方符合动态服务水平调整要求，最终辅助实现能力开放平台流量控制策略的动态调整，以提升能力开放平台对突发流量或恶意攻击流量的应对能力。
另外，在相关技术中，能力开放平台的流量控制策略是针对能力消费方进行的，缺乏针对服务提供方的服务容量评估和流量控制策略，这两个环节的缺失，会导致某些服务提供方出现服务响应缓慢或拒绝服务时，故障蔓延到能力开放平台自身，进而影响其他服务提供方的服务水平，无法实现故障的有效隔离。本说明书实施例提供的能力开放平台的容量控制方法，正是从服务提供方的服务容量评估和流量控制出发，因此可以很好地实现故障隔离，避免某些服务提供方出现的故障蔓延到能力开放平台自身。
再有，在本说明书实施例提供的能力开放平台的容量控制方法中，无论是容量的动态评估，还是流量控制，都是自动化实现的，无需人工干预，并且，随着时间的推移自动动态调整。因此，不仅控制效率，而且应变能力强。
以上是对本说明书实施例提供的一种能力开放平台的容量控制方法的说明，下面对本说明书实施例提供的一种能力开放平台的容量控制装置进行介绍。
图4是本说明书的一个实施例提供的一种能力开放平台的容量控制装置400的结构示意图。在一种软件实施方式中，该能力开放平台的容量控制装置400可包括：处总容量确定模块401、服务质量评估模块402和真实容量评估模块403。
总容量确定模块401，用于基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方。
在应用本装置时，可以将时间按一定的长度进行分片，产生时间序列T1,T2,T3,…Ti,Ti+1，假设当前时间片为Ti，则Ti+1即为当前时间片的下一时间片。
当前时间片内消耗的服务提供方的总服务容量(用Ci表示)，可以是该服务提供方在当前时间片Ti内，所有服务调用过程所消耗的系统容量总值，其中包含了服务调用成功的有效系统容量和因为调用失败而浪费的无效系统容量。
假设：能力开放平台在单位时间内的能力调用次数为Fi；能力开放平台内部提供能力时的处理时长随着调用接口量的增长保持平稳时长，且根据历史服务调用情况可以统计为Ri；以及，某一服务提供方提供的服务包括a,b,c,…n，当前时间片Ti内对该服务提供方提供的服务的调用次数可以分别表示为fa,fb,fc,…fn，当前时间片Ti内该服务提供方提供的服务的平均响应时间可以分别为ta,tb,tc,…tn(单位可以为秒)。
则作为一个例子，可以基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，以及第一模型，确定所述当前时间片内消耗的所述服务提供方的总服务容量。
具体来说，所述第一模型可以为：
Figure BDA0002354595090000111
其中，Ci表示当前时间片Ti内单位时间消耗的所述服务提供方的总服务容量；k表示所述服务提供方提供的第k个服务，k＝1,2,3,...,n；tk表示在当前时间片内调用所述第k个服务的平均响应时间；fk表示在当前时间片内调用所述第k个服务的调用次数；Fi表示能力开放平台在单位时间内的能力调用次数，Ri表示能力开放平台内部提供能力时的处理时长。
服务质量评估模块402，用于基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间。
其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间。可选地，这多个评估指标还可以包括当前时间片内的超时率和异常事件等等。本说明书对这多个评估指标的数量不做限制，可以理解，通常情况下，纳入考量的评估指标越全面，评估结果越接近实际情况。
服务提供方在所述当前时间片Ti内的服务质量评分Hi，是指该服务提供方提供大部分或所有服务在当前时间片Ti内的综合质量评分。
作为一个例子，可以采用“加权短板评估法”来确定服务提供方在所述当前时间片Ti内的服务质量评分Hi。具体来说，可以基于多个评估指标和第二模型，确定所述服务提供方在所述当前时间片内的服务质量评分。
其中，所述第二模型可以为：
Figure BDA0002354595090000121
在所述第二模型中，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分；k∈[1,n]，n表示所述评估指标的数量；wk表示第k个评分指标的权重，wk∈[1,100]，总权重
Figure BDA0002354595090000122
hk表示第k个评分指标的分值，hk基于预设函数计算得到。
可以理解，当n个评估指标的权重均相同时，第二模型可以简化为：
Figure BDA0002354595090000123
在第二模型中，hk可以利用预设函数f()来计算。作为一个例子，可以利用“hk＝f(quota,qmax,qmin)”这一函数来计算，其中，quota表示评分指标的值，qmax表示期望最佳指标值，qmin表示期望最差指标值。
真实容量评估模块403，用于基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
作为一个例子，可以基于总容量确定模块401中计算出的总服务容量Ci、服务质量评估模块402中计算出的服务质量评分Hi和第三模型，确定该服务提供方在当前时间片Ti内的真实服务容量RCi。
第三模型可以为：
Figure BDA0002354595090000131
其中，RCi表示所述服务提供方在所述当前时间片Ti内的真实服务容量，单位可以是事务数/秒(Transactions Per Second，TPS)。
其中，Ci表示所述当前时间片Ti内消耗的所述服务提供方的总服务容量，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分，H表示预设的服务质量合格分值。
本说明书实施例提供的一种能力开放平台的容量控制装置，以当前时间片Ti内服务提供方提供的服务的调用次数和响应时间的乘积，作为当前时间片Ti内该服务提供方被消耗的总服务容量Ci的原子值，以“系统成功率”和“平均响应时间”等评估指标为基础，使用“加权短板评估法”计算服务质量评分Hi，依据总服务容量Ci和服务质量评分Hi，对当前时间片Ti内真实服务容量RCi进行动态评估，得到贴近真实的系统容量值，评估准确性高。
进一步地，可以想象，依据更贴近真实的系统容量值的容量评估结果，制定的流量控制策略将更为有效。此外，整个评估过程全自动化，不需要人工干预，因此可以提高服务容量评估效率。
可选地，本说明书的另一个实施例提供的一种能力开放平台的容量控制装置的结构示意图如图5所示，该装置除了包括总容量确定模块401、服务质量评估模块402和真实容量评估模块403，还可以包括：容量限值预估模块404、判断模块405和限流模块406。
容量限值预估模块404，用于基于所述真实服务容量和预设保底探测容量，估计所述服务提供方在下一时间片内的可用服务容量限值。
作为一个例子，可以基于真实容量评估模块403中计算出的服务提供方在当前时间片Ti内的真实服务容量RCi和预设保底探测容量，估计服务提供方在下一时间片Ti+1内的可用服务容量限值。
具体的，服务提供方在下一时间片Ti+1内的可用服务容量限值可以为：
ECi+1＝(RCi+BC)×Ti
其中，ECi+1为估计的服务提供方在下一时间片Ti+1内的可用服务容量限值，BC为预设保底探测容量，当RCi＝0时，BC为用于保探测服务提供方是否能恢复服务能力的流量。
判断模块405，用于基于所述服务提供方在所述当前时间片内的服务质量评分，确定是否对所述服务提供方在所述下一时间片内进行容量控制；若为是，触发限流模块406；否则，在下一时间片，重新触摸模块401至模块405。
作为一个例子，判断模块405可用于：当所述服务提供方在所述当前时间片内的服务质量评分低于预设评分时，确定对所述服务提供方在所述下一时间片内进行容量控制，也即，若服务提供方在当前时间片Ti中的服务质量评分低于预设评分，则在下一时间片Ti+1启动服务容量控制。
限流模块，用于基于所述可用服务容量限值和所述服务提供方在所述下一时间片内已消耗的服务容量，对所述服务提供方在所述下一时间片内的容量进行控制。
在一个例子中，服务提供方在所述下一时间片内已消耗的服务容量可用STi+1表示，如果STi+1≥ECi，则停止(即熔断)对该服务提供的所有服务的调用，直到下下个时间片Ti+2来临，下下个时间片Ti+2来临之后，重新依据时间片Ti+1内的服务质量评分，确定是否对所述服务提供方在时间片Ti+2内的容量进行限制，以此类推。其中，ECi+1为步骤204中估计的服务提供方在下一时间片Ti+1内的可用服务容量限值。
结合真实容量评估模块403中的第三模型
Figure BDA0002354595090000151
可知，如果H＝80，启动流量控制的预设评分为90分，那么，当时间片Ti内的服务质量评分Hi在0分到80分之间时，时间片Ti+1内的可用服务容量呈缩小趋势；当时间片Ti内的服务质量评分Hi在80分到90分之间时，时间片Ti+1内的可用服务容量呈扩大趋势；当时间片Ti内的服务质量评分Hi在大于90分时，时间片Ti+1内的可用服务容量不受限制。
相比于图4所示的实施例，图5所示的实施例提供的一种能力开放平台的容量控制装置，可以进一步地根据服务提供方在时间片Ti内的真实服务容量RCi，计算该服务提供方在在Ti+1时间片内的服务容量限值，并根据该服务提供方在时间片Ti内的服务质量评分，决定是否在Ti+1时间片内对该服务提供方进行限流，使该服务提供方在Ti+1时间片内呈现扩容或缩容趋势，以保证该服务提供方符合动态服务水平调整要求，最终辅助实现能力开放平台流量控制策略的动态调整，以提升能力开放平台对突发流量或恶意攻击流量的应对能力。
另外，在相关技术中，能力开放平台的流量控制策略是针对能力消费方进行的，缺乏针对服务提供方的服务容量评估和流量控制策略，这两个环节的缺失，会导致某些服务提供方出现服务响应缓慢或拒绝服务时，故障蔓延到能力开放平台自身，进而影响其他服务提供方的服务水平，无法实现故障的有效隔离。本说明书实施例提供的能力开放平台的容量控制方法，正是从服务提供方的服务容量评估和流量控制出发，因此可以很好地实现故障隔离，避免某些服务提供方出现的故障蔓延到能力开放平台自身。
再有，在本说明书实施例提供的能力开放平台的容量控制装置中，无论是容量的动态评估，还是流量控制，都是自动化实现的，无需人工干预，并且，随着时间的推移自动动态调整。因此，不仅控制效率，而且应变能力强。
能力开放平台的容量控制装置400能够实现图2～图3的方法实施例的方法，具体可参考图2～图3所示实施例的能力开放平台的容量控制方法，不再赘述。
图5是本说明书的一个实施例提供的电子设备的结构示意图。请参考图5，在硬件层面，该电子设备包括处理器，可选地还包括内部总线、网络接口、存储器。其中，存储器可能包含内存，例如高速随机存取存储器(Random-Access Memory，RAM)，也可能还包括非易失性存储器(non-volatile memory)，例如至少1个磁盘存储器等。当然，该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接，该内部总线可以是ISA(Industry Standard Architecture，工业标准体系结构)总线、PCI(PeripheralComponent Interconnect，外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture，扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示，图5中仅用一个双向箭头表示，但并不表示仅有一根总线或一种类型的总线。
存储器，用于存放程序。具体地，程序可以包括程序代码，所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器，并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行，在逻辑层面上形成能力开放平台的容量控制装置。处理器，执行存储器所存放的程序，并具体用于执行以下操作：
基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方；
基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
本发明实施例，以当前时间片内服务提供方提供的服务的调用次数和响应时间的乘积，作为当前时间片内该服务提供方被消耗的总服务容量的原子值，以“系统成功率”和“平均响应时间”等评估指标为基础，计算服务质量评分，依据总服务容量和服务质量评分，对当前时间片内真实服务容量进行动态评估，得到贴近真实的系统容量值，评估准确性高。
上述如本说明书图2～图3所示实施例揭示的能力开放平台的容量控制方法可以应用于处理器中，或者由处理器实现。处理器可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器，包括中央处理器(Central ProcessingUnit，CPU)、网络处理器(Network Processor，NP)等；还可以是数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field－Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书一个或多个实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书一个或多个实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器，处理器读取存储器中的信息，结合其硬件完成上述方法的步骤。
该电子设备还可执行图2的能力开放平台的容量控制方法，本说明书在此不再赘述。
本申请实施例还提出了一种计算机可读存储介质，该计算机可读存储介质存储一个或多个程序，该一个或多个程序包括指令，该指令当被包括多个应用程序的便携式电子设备执行时，能够使该便携式电子设备执行图2所示实施例的方法，并具体用于执行以下操作：
基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述目标服务能提供方为所述能力开放平台中的任一服务提供方；
基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
基于所述总服务容量和所述服务质量评分，评估所述服务提供方在所述当前时间片内的真实服务容量。
当然，除了软件实现方式之外，本说明书的电子设备并不排除其他实现方式，比如逻辑器件抑或软硬件结合的方式等等，也就是说以下处理流程的执行主体并不限定于各个逻辑单元，也可以是硬件或逻辑器件。
总之，以上所述仅为本说明书的较佳实施例而已，并非用于限定本说明书的保护范围。凡在本说明书一个或多个实施例的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例的保护范围之内。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

Claims (9)

1.一种能力开放平台的容量控制方法，其特征在于，包括：
基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述服务提供方为所述能力开放平台中的任一服务提供方；
基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
基于所述总服务容量、所述服务质量评分和第三模型，评估所述服务提供方在所述当前时间片内的真实服务容量；
其中，所述第三模型为：
Figure FDA0004025290900000011
在所述第三模型中，RCi表示所述服务提供方在所述当前时间片Ti内的真实服务容量，Ci表示所述当前时间片Ti内消耗的所述服务提供方的总服务容量，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分，H表示预设的服务质量合格分值。
2.根据权利要求1所述的方法，其特征在于，还包括：
基于所述真实服务容量和预设保底探测容量，估计所述服务提供方在下一时间片内的可用服务容量限值。
3.根据权利要求2所述的方法，其特征在于，还包括：
基于所述服务提供方在所述当前时间片内的服务质量评分，确定是否对所述服务提供方在所述下一时间片内进行容量控制；
若为是，基于所述可用服务容量限值和所述服务提供方在所述下一时间片内已消耗的服务容量，对所述服务提供方在所述下一时间片内的容量进行控制。
4.根据权利要求3所述的方法，其特征在于，所述基于所述服务提供方在所述当前时间片内的服务质量评分，确定是否对所述服务提供方在所述下一时间片内进行容量控制，包括：
当所述服务提供方在所述当前时间片内的服务质量评分低于预设评分时，确定对所述服务提供方在所述下一时间片内进行容量控制。
5.根据权利要求1所述的方法，其特征在于，所述基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，包括：
基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，以及第一模型，确定所述当前时间片内消耗的所述服务提供方的总服务容量；
其中，所述第一模型为：
Figure FDA0004025290900000021
在所述第一模型中，Ci表示所述当前时间片Ti内单位时间消耗的所述服务提供方的总服务容量；k表示所述服务提供方提供的第k个服务，k＝1,2,3,...,n；tk表示在所述当前时间片内调用所述第k个服务的平均响应时间；fk表示在所述当前时间片内调用所述第k个服务的调用次数；Fi表示所述能力开放平台在单位时间内的能力调用次数，Ri表示所述能力开放平台内部提供能力时的处理时长。
6.根据权利要求1所述的方法，其特征在于，所述基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，包括：
基于多个评估指标和第二模型，确定所述服务提供方在所述当前时间片内的服务质量评分；
其中，所述第二模型为：
Figure FDA0004025290900000022
在所述第二模型中，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分；k∈[1,n]，n表示所述评估指标的数量；wk表示第k个评分指标的权重，wk∈[1,100]，总权重
Figure FDA0004025290900000031
hk表示第k个评分指标的分值，hk基于预设函数计算得到。
7.一种能力开放平台的容量控制装置，其特征在于，包括：
总容量确定模块，用于基于当前时间片内对服务提供方提供的服务的调用次数和响应时间，确定所述当前时间片内消耗的所述服务提供方的总服务容量，所述服务提供方为所述能力开放平台中的任一服务提供方；
服务质量评估模块，用于基于多个评估指标的加权评分结果，确定所述服务提供方在所述当前时间片内的服务质量评分，其中，所述多个评估指标至少包括服务提供方在所述当前时间片内的系统成功率和平均响应时间；
真实容量评估模块，用于基于所述总服务容量、所述服务质量评分和第三模型，评估所述服务提供方在所述当前时间片内的真实服务容量；
其中，所述第三模型为：
Figure FDA0004025290900000032
在所述第三模型中，RCi表示所述服务提供方在所述当前时间片Ti内的真实服务容量，Ci表示所述当前时间片Ti内消耗的所述服务提供方的总服务容量，Hi表示所述服务提供方在所述当前时间片Ti内的服务质量评分，H表示预设的服务质量合格分值。
8.一种电子设备，其特征在于，包括：
存储器，存储有计算机程序指令；
处理器，当所述计算机程序指令被所述处理器执行时实现如权利要求1-6任一项所述的能力开放平台的容量控制方法。
9.一种计算机可读存储介质，其特征在于，
所述计算机可读存储介质包括指令，当所述指令在计算机上运行时，使得计算机执行如权利要求1-6任一项所述的能力开放平台的容量控制方法。
CN202010008917.1A 2020-01-03 2020-01-03 能力开放平台的容量控制方法、装置及电子设备 Active CN113079189B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010008917.1A CN113079189B (zh) 2020-01-03 2020-01-03 能力开放平台的容量控制方法、装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010008917.1A CN113079189B (zh) 2020-01-03 2020-01-03 能力开放平台的容量控制方法、装置及电子设备

Publications (2)

Publication Number Publication Date
CN113079189A CN113079189A (zh) 2021-07-06
CN113079189B true CN113079189B (zh) 2023-04-25

Family

ID=76608765

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010008917.1A Active CN113079189B (zh) 2020-01-03 2020-01-03 能力开放平台的容量控制方法、装置及电子设备

Country Status (1)

Country Link
CN (1) CN113079189B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114143221A (zh) * 2021-11-29 2022-03-04 重庆富民银行股份有限公司 一个基于全链路监控的服务资产管理方法、平台及存储介质
CN115051920B (zh) * 2022-06-02 2023-07-18 北京邮电大学 一种能力开放架构下nfv能力网元扩容的方法和系统
CN115080363B (zh) * 2022-08-23 2022-11-15 中国中金财富证券有限公司 一种基于业务日志的系统容量评估方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110351345A (zh) * 2019-06-25 2019-10-18 阿里巴巴集团控股有限公司 用于业务请求处理的方法及装置
CN110380982A (zh) * 2019-07-31 2019-10-25 浪潮商用机器有限公司 一种流量控制方法及相关装置
CN110598871A (zh) * 2018-05-23 2019-12-20 中国移动通信集团浙江有限公司 一种微服务架构下的业务流柔性控制的方法及系统

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8010337B2 (en) * 2004-09-22 2011-08-30 Microsoft Corporation Predicting database system performance

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110598871A (zh) * 2018-05-23 2019-12-20 中国移动通信集团浙江有限公司 一种微服务架构下的业务流柔性控制的方法及系统
CN110351345A (zh) * 2019-06-25 2019-10-18 阿里巴巴集团控股有限公司 用于业务请求处理的方法及装置
CN110380982A (zh) * 2019-07-31 2019-10-25 浪潮商用机器有限公司 一种流量控制方法及相关装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于商业银行信息系统的性能容量管理方法;信怀义;《电子技术与软件工程》;20160110;203页 *

Also Published As

Publication number Publication date
CN113079189A (zh) 2021-07-06

Similar Documents

Publication Publication Date Title
CN113079189B (zh) 能力开放平台的容量控制方法、装置及电子设备
CN110768912B (zh) Api网关限流方法及装置
CN107547433B (zh) 基于令牌漏桶进行限流的方法、装置和设备
CN113840012B (zh) 基于区块链的录屏取证方法、系统和电子设备
CN114157666A (zh) 一种基于智能云平台的负载均衡系统、方法、介质及装置
CN111367651B (zh) 服务限流系统、方法、装置及电子设备
CN111767142B (zh) 服务节点的限流阈值设置方法和服务端设备
CN112153143B (zh) Kubernetes集群的流量调度方法、装置及电子设备
CN106611137B (zh) 一种风险控制方法及装置
CN111562884B (zh) 一种数据存储方法、装置及电子设备
CN105933185A (zh) 一种确定路由器连接异常类型的方法与设备
CN112737798B (zh) 主机资源分配方法、装置及调度服务器、存储介质
CN109254904B (zh) 一种数据库压测方法、装置及电子设备
CN114124942B (zh) 核心网资源调度方法、装置及电子设备
CN112527615B (zh) 一种设备确定方法、装置、电子设备及存储介质
CN110060188B (zh) 核身方式推荐方法、装置及电子设备
CN108650150B (zh) 一种数据校验方法和装置
CN112907359B (zh) 一种银行贷款业务资质审核与风险控制系统及方法
CN110535785B (zh) 一种发送频率的控制方法、装置和分布式系统
CN110490737B (zh) 交易渠道控制方法、装置和电子设备
CN113516453A (zh) 建设项目投资资金管控预警方法、装置、设备及介质
CN117519956A (zh) 资源配额确定方法、装置、计算设备及介质
CN109145996B (zh) 异常环境下的指标数据生成方法、装置及电子设备
CN112346849A (zh) 一种配置cpu的方法及装置
CN110163471B (zh) 一种异常识别方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant