CN108718285A - 云计算集群的流量控制方法、装置及服务器 - Google Patents

Abstract

本发明实施例提供的云计算集群的流量控制方法、装置及服务器，通过代理服务器接收终端发送的多个交互请求，确定各交互请求的交互类型。针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

Description

云计算集群的流量控制方法、装置及服务器

技术领域

本发明涉及云计算技术领域，特别是涉及一种云计算集群的流量控制方法、装置及服务器。

背景技术

在信息化时代，对大量数据的高效处理使得信息化相关服务(例如：直播服务、企业数据管理服务)在人们的生活、工作中变得越来越普遍，因此，能够进行大量数据存储及高效处理的云计算集群被广泛使用。云计算集群的应用框架一般包括：向用户提供交互入口的前端万维网(World Wide Web，简称Web)，转发用户与云计算集群交互请求的代理服务器(Proxy Server)，以及代理服务器接入云计算集群的后端云计算集群接口。

然而，由于云计算集群的规模以及集群中各组件的性能有限，如果同一时刻代理服务器向云计算集群发送大量的交互请求，使得云计算集群的并发流量过大，很有可能造成云计算集群服务压力过大，集群性能下降，进而导致无法提供稳定的云计算服务。

发明内容

本发明实施例的目的在于提供一种云计算集群的流量控制方法、装置及服务器，以实现云计算集群的流量控制，进而提供稳定的云计算服务的目的。具体技术方案如下：

第一方面，本发明实施例提供了一种云计算集群的流量控制方法，应用于代理服务器，终端通过代理服务器与云计算集群进行交互，该方法包括：

接收用户端发送的多个交互请求；

确定各交互请求的交互类型；

针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量；

针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；

若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量；

针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至该云计算集群。

第二方面，本发明实施例提供了一种云计算集群的流量控制装置，应用于代理服务器，终端通过代理服务器与云计算集群进行交互，该装置包括：

接收模块，用于接收终端发送的多个交互请求；

确定模块，用于确定各交互请求的交互类型；针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量；针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量；

发送模块，用于针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求，并发送至该云计算集群。

第三方面，本发明实施例提供了一种服务器，该服务器包括：

处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序，实现上述第一方面提供的云计算集群的流量控制方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，该存储介质内存储有计算机程序，该计算机程序被处理器执行时实现上述第一方面提供的云计算集群的流量控制方法的步骤。

本发明实施例提供的一种云计算集群的流量控制方法、装置及服务器，通过代理服务器接收终端发送的多个交互请求，确定各交互请求的交互类型。针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量，针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量。若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量。针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送数量过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。

图1为本发明一实施例的云计算集群的流量控制方法的流程示意图；

图2为本发明另一实施例的云计算集群的流量控制方法的流程示意图；

图3为本发明一实施例的云计算集群的流量控制装置的结构示意图；

图4为本发明另一实施例的云计算集群的流量控制装置的结构示意图；

图5为本发明一实施例的服务器的结构示意图。

具体实施方式

为了使本领域技术人员更好地理解本发明中的技术方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行描述。

下面首先对本发明一实施例的云计算集群的流量控制方法进行介绍。

如图1所示，本发明一实施例的云计算集群的流量控制方法的流程，应用于代理服务器，终端通过代理服务器与云计算集群进行交互。当然，与终端交互的一云计算集群是已确定的。具体可以是代理服务器根据接收的交互请求包含的信息，或者预设云计算集群选取规则，确定出接收交互请求的云计算集群。例如根据交互请求包含的云计算集群标识信息确定，或者负载均衡原则确定。因此，对于上述不同的发送数量，不论代理服务器调度一个云计算集群，还是调度多个云计算集群，都可以是针对一云计算集群进行流量控制。

该方法可以包括：

S101，接收终端发送的多个交互请求。

其中，终端发送的多个交互请求，可以是同一终端发送的，也可以是多个终端发送的。

S102，确定各交互请求的交互类型。

由于对云计算集群的流量控制相当于控制该云计算集群对交互请求的并发处理数量，因此，可以根据云计算集群对交互请求并发处理的响应差异、以及交互请求所要实现的功能差异对各交互请求的交互类型进行区分。例如，交互请求的交互类型可以是查询类型、同步操作类型以及异步操作类型。或者，还可以根据交互请求的重要程度差异、以及接收交互请求的时间差异进行交互类型区分。例如，交互类型可以是重要类型、普通类型、以及等待发送时长超过预设时间阈值的紧急发送类型。

S103，针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量。

实际应用中，不同云计算集群的规模和集群中各组件性能往往存在差异，使得不同集群对交互请求的并发处理能力也存在差异，例如不同的OpenStack云计算集群具有不同规模，不同集群中的数据库、控制中心以及网络的性能也存在差异。因此，对于不同的云计算集群，为了使发送的交互请求数量与云计算集群对交互请求的并发处理能力相匹配，可以根据云计算集群的性能和/或规模，确定云计算集群能够并发处理的各交互类型的交互请求数量，并将该数量作为各交互类型的预设并发数量。

其中，预设的交互类型与云计算集群的对应关系，具体可以是预设的交互类型与该云计算集群的对应关系表，该对应关系表中可以包括：各交互类型与该云计算集群对应的预设并发数量。相应的，各交互类型的预设并发数量的确定方式，具体可以是从预设的交互类型与云计算集群的对应关系表中查找各交互类型的预设并发数量。

S104，针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量，若小于则执行S105，若不小于则执行S106。

由于接收的交互请求中可能包括至少两种交互类型，因此，对于要发送至一云计算集群的各交互类型的交互请求，可以针对各交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量。由此，就可以根据该交互类型的交互请求数量是否小于该交互类型的预设并发数量的判断结果，控制后续确定的交互请求发送数量，以使交互请求发送数量与云计算的性能和/或规模相匹配，从而避免集群并发流量过大。

S105，确定该交互类型的交互请求数量作为该交互类型的交互请求发送数量。

当该交互类型的交互请求数量小于该交互类型的预设并发数量时，表明该交互类型的交互请求数量不高于该云计算集群对该交互类型的交互请求的并发处理能力。也就是将该交互类型的交互请求同时全部发送至该云计算集群时，不会造成云计算集群压力过大，因此，此时可以确定该交互类型的交互请求数量作为该交互类型的交互请求发送数量。

S106，确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量。

当该交互类型的交互请求数量等于该交互类型的预设并发数量时，表明该交互类型的交互请求数量恰好与该云计算集群对该交互类型的交互请求的并发处理能力相同。该交互类型的交互请求数量大于该交互类型的预设并发数量时，就表明该交互类型的交互请求数量高于该云计算集群对该交互类型的交互请求的并发处理能力。对于这两种情况，为了在不增加云计算集群压力的情况下，尽可能提高交互请求处理效率，也就是并发处理尽可能多的交互请求，可以确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量。

S107，针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至该云计算集群。

例如：接收用户端发送的共100个交互请求，其中，已确定要发送至云计算集群A的交互请求有75个，要发送至云计算集群B的交互请求有25个。确定各交互请求的交互类型有c1、c2以及c3。针对云计算集群A，根据预设的交互类型与该云计算集群的对应关系，确定交互类型c1的预设并发数量为30，c2的预设并发数量为20，c3的预设并发数量为5。针对要发送至云计算集群A的各交互请求的交互类型，分别确定交互类型c1的交互请求数量为60，c2的交互请求数量为10，c3的交互请求数量为5。分别判断：交互类型c1的交互请求数量60，大于c1的预设并发数量为30；c2的交互请求数量10，小于c2的预设并发数量20；c3的交互请求数量5，等于c3的预设并发数量5。

由此，确定交互类型c1的交互请求发送数量为c1的预设并发数量30；确定c2的交互请求发送数量为c2的交互请求数量10；c3的交互请求发送数量为c3的预设并发数量5。针对各交互类型，按照该交互类型的交互请求发送数量，从要发送至云计算集群A的60个c1类型交互请求中，选择30个交互请求发送至云计算集群A；将要发送至云计算集群A的10个c2类型交互请求发送至云计算集群A；将要发送至云计算集群A的10个c3类型交互请求发送至云计算集群A。

其中，对于要发送至云计算集群A的60个c1类型交互请求，当30个交互请求完成发送后，发送余下30个交互请求。针对云计算集群B，根据预设的交互类型与该云计算集群的对应关系，确定交互类型c1的预设并发数量为35，c2的预设并发数量为23，c3的预设并发数量为6。确定要发送至云计算集群B的25个交互请求中，交互类型c1的交互请求数量为20，c2的交互请求数量为5。分别判断：交互类型c1的交互请求数量20，小于c1的预设并发数量为35；c2的交互请求数量5，小于c2的预设并发数量23。由此，确定交互类型c1的交互请求发送数量为c1的交互请求数量20；确定c2的交互请求发送数量为c2的交互请求数量5。针对各交互类型，按照该交互类型的交互请求发送数量，将要发送至云计算集群B的20个c1类型交互请求发送至云计算集群B；将要发送至云计算集群B的5个c2类型交互请求发送至云计算集群B。

本发明实施例提供的一种云计算集群的流量控制方法，通过代理服务器接收终端发送的多个交互请求，确定各交互请求的交互类型。针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量，针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量。若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量。针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送数量过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

当然，对于某一交互类型的交互请求数量大于该交互类型的预设并发数量的情况，当发送了预设并发数量个交互请求后，余下的交互请求数量小于该交互类型的预设并发数量时，可以将该交互类型余下的交互请求数量确定为该交互类型余下的交互请求的发送数量。同时，在实际应用中，终端发送交互请求的时间是不规律的，可能会造成某一时刻该交互类型的交互请求发送后，接收了新的该交互类型的交互请求，使下一时刻该交互类型余下的交互请求数量发生改变。对此，可以将该交互类型的新的交互请求计入数量，采用与图1所示实施例相同的方法进行发送。

基于上述交互类型的区分依据，可选的，本发明图1所示实施例中的交互类型可以包括：查询类型、同步操作类型以及异步操作类型。

其中，查询类型的交互请求，所要实现的功能是对信息的查询，例如查询虚拟机、物理机信息等。对于查询类型的交互请求，云计算集群可以直接返回查询结果。同步操作类型的交互请求，所要实现的功能是简单快速的操作，例如重启、添加安全外壳协议秘钥(Secure Shell key，简称SSH key)等。对于同步操作类型的交互请求，由于操作时长限制，云计算集群无法直接返回操作结果，而返回交互请求接收响应。同时，同步操作类型的交互请求并发度会受到虚拟技术的限制。异步操作类型的交互请求，所要实现的功能是复杂和具备原子性的操作，例如虚拟机新建、附加盘删除或者添加操作等。对于异步操作类型的交互请求，同样由于操作时长限制，云计算集群无法直接返回操作结果，而返回交互请求接收响应。

相应的，本发明图1所示实施例中的S103，可以包括：

若交互请求的交互类型为查询类型，针对一云计算集群，根据预设的查询类型与该云计算集群的对应关系，确定第一预设并发数量。

若交互请求的交互类型为同步操作类型，针对一云计算集群，根据预设的同步操作类型与该云计算集群的对应关系，确定第二预设并发数量。

若交互请求的交互类型为异步操作类型，针对一云计算集群，根据预设的异步操作类型与该云计算集群的对应关系，确定第三预设并发数量。

由于查询类型的交互请求处理速度相对而言较快，同步操作类型的交互请求并发度会受到虚拟技术的限制，异步操作类型的交互请求具有原子性需求。因此，实际应用中，同一云计算集群，可以并发处理的查询类型的交互请求数量较多，可以并发处理的同步操作类型的交互请求数量不宜过多，可以并发处理的异步操作类型的交互请求数量可以为1。对于一云计算集群，上述第一预设并发数量、第二预设并发数量以及第三预设并发数量的确定，可以考虑该云计算集群能够并发处理各交互类型的交互请求的能力。其中，各交互类型对应于该云计算集群的预设并发数量，具体可以根据云计算集群的规模和/性能与历史经验相结合确定。

实际应用中，云计算集群的性能和/或规模可能会出现变化，例如集群中组件损坏导致的集群规模减小，或者组件扩展带来的集群规模增加，或者组件性能下降造成的集群性能下降等。此时，如果依然根据云计算集群性能和/或规模改变前预设的交互类型与云计算集群的对应关系，确定各交互类型的交互请求发送数量，可能会造成发送的交互请求数量超出性能和/或规模下降后云计算集群的处理能力，云计算集群压力过大、性能进一步下降，云计算服务不够稳定的问题。或者，可能会造成发送的交互请求数量小于性能和/或规模上升后云计算集群的处理能力，云计算集群利用率过低、计算资源浪费的问题。

因此，在交互请求的发送过程中，可以根据云计算集群的性能和/或规模变化，实时调整各交互类型的交互请求发送数量，使各交互类型的交互请求发送数量与云计算集群的实时性能和/或规模相匹配。

为了使各交互类型的交互请求发送数量与云计算集群的实时性能和/或规模相匹配，可选的，在图1所示实施例的S103之后，本发明提供的云计算集群的流量控制方法，还可以包括：

获取交互类型与云计算集群的对应关系的更新信息。

根据更新信息，更新各交互类型的预设并发数量。

在上述根据更新信息，更新各交互类型的交互请求的预设并发数量之后，执行本发明图1所示实施例的S104。

其中，交互类型与云计算集群的对应关系的更新信息，具体可以是与云计算集群实时性能对应的、各交互类型的预设并发数量，也可以是云计算集群的实时性能。获取上述更新信息的方式，具体可以是代理服务器按预设周期，主动从云集群获取的，也可以是云计算集群检测到自身性能和/或规模改变时，发送至代理服务器的。任何可以获取云计算集群实时性能和/或规模的方法均可用于本发明，本实施例对此不作限制。

相应的，根据更新信息，更新各交互类型的预设并发数量，具体可以包括：当更新信息是与云计算集群实时性能对应的、各交互类型的预设并发数量时，将该更新信息作为各交互类型的预设并发数量。或者，具体可以包括：当更新信息是云计算集群的实时性能和/或规模时，将与该实时性能和/或规模对应的各交互类型的预设并发数量作为各交互类型的预设并发数量。

在云计算集群处理交互请求的过程中，可能会因突发异常(例如：程序错误、硬件损坏)造成交互失败。由于异步操作类型的交互请求需要具备原子性，而对于同一类型的交互请求而言，失败往往是连续发生的，因此，如果已发送的异步操作类型交互请求发生操作失败，而没有终止该类型尚未发送的交互请求，将导致异步操作类型交互请求不具备原子性。

为了避免突发异常导致的异步操作类型交互请求不具备原子性，如图2，本发明又一实施例的云计算集群的流量控制方法的流程所示，应用于代理服务器，终端通过代理服务器与云计算集群进行交互，该方法可以包括：

S201，接收终端发送的多个交互请求。

S202，确定各交互请求的交互类型。

S203，针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量。

S204，针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量，若小于则执行S205，若不小于则执行S206。

S205，确定该交互类型的交互请求数量作为该交互类型的交互请求发送数量。

S206，确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量。

S201至S206与本发明图1所示实施例中的S101至S106为相同步骤，在此不再赘述，详见图1所示实施例的描述。

针对查询类型和同步操作类型的交互请求，执行S207；针对异步操作类型的交互请求，执行S208至S211。

S207，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择对应数量个交互请求发送至对应的云计算集群。

由于查询类型和同步操作类型的交互请求不需要具备原子性，因此，依然可以采用与图1所示实施例相同的方法进行发送。

S208，按照异步操作类型的交互请求发送数量，选择对应数量个交互请求，作为第一交互请求，并将第一交互请求发送至对应的云计算集群。

S209，向云计算集群发送第一交互请求的操作结果查询请求。

S210，当云计算集群返回的操作结果查询响应为第一交互请求的操作已完成时，将异步操作类交互请求中除第一交互请求之外的交互请求，按照异步操作类型的交互请求发送数量，发送至该云计算集群。

S211，当云计算集群返回的操作结果查询响应为操作失败时，停止向云计算集群发送异步操作类型的交互请求。

为了避免在已发送的异步操作类型交互请求发生操作失败时，因没有终止该类型尚未发送的交互请求所导致的异步操作类型交互请求不具备原子性，可以在将异步操作类型的交互请求发送至对应云计算集群时，或者在对应云计算集群接收到异步操作类型的交互请求时，将这些已发送的异步操作类型的交互请求作为第一交互请求。通过向该云计算集群发送第一交互请求的操作结果查询请求，就可以根据云计算集群返回的相应操作结果查询请求相应结果，确定第一交互请求的操作是否失败。由此，在确定操作失败时，停止向该云计算集群发送异步操作类型的交互请求，就能够保证异步操作类型交互请求的原子性。

例如：针对云计算集群A，根据预设的交互类型与该云计算集群的对应关系，确定第三预设并发数量为1，异步操作类型的交互请求数量为5，由此确定异步操作类型的交互请求发送数量为1。按照该发送数量，从上述5个异步操作类型的交互请求中，选择1个交互请求Q1作为第一交互请求，并将第一交互请求Q1发送至云计算集群A。向云计算集群A发送第一交互请求Q1的操作结果查询请求。当云计算集群返回的操作结果查询响应为第一交互请求Q1的操作已完成时，从上述5个异步操作类交互请求中除第一交互请求Q1之外，余下4个交互请求中，按照异步操作类型的交互请求发送数量1，选择1个交互请求Q2发送至该云计算集群。当云计算集群返回的Q1的操作结果查询响应为操作失败时，停止向云计算集群发送异步操作类型的交互请求，也就是对于上述5个异步操作类交互请求中除第一交互请求Q1之外，余下4个交互请求不再发送。当然，在Q1操作完成，按照上述方法发送了Q2后，进行与Q1相同的操作，也就是发送对Q2的操作结果查询请求。如果Q2的操作结果查询请求响应结果为成功，继续按相同的方法发送余下的交互请求，如果Q2的操作结果查询请求响应结果为失败，则停止发送。对相同类型的交互请求的发送均采用相同方法，直至需要发送的交互请求数量为0。

可选的，在图2所示实施例的步骤S211之后，本发明又一实施例的云计算集群的流量控制方法，还可以包括：

向终端发送异步操作类交互请求失败的信息。

异步操作类交互请求失败的信息，具体可以包括该异步操作类型的交互请求、对应的云计算集群信息等。向终端发送异步操作类交互请求失败的信息，有利于及时排查并解决云计算集群的异常，提升云计算集群的服务质量。

相应于上述方法实施例，本发明一实施例还提供了云计算集群的流量控制装置。

如图3所示，本发明一实施例的云计算集群的流量控制装置的结构，该装置可以应用于代理服务器，终端通过代理服务器与云计算集群进行交互，该装置可以包括：

接收模块301，用于接收终端发送的多个交互请求；

确定模块302，用于确定各交互请求的交互类型；针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量。针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量；

发送模块303，用于针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至该云计算集群。

本发明实施例提供的一种云计算集群的流量控制装置，通过针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送数量过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

如图4所示，本发明另一实施例的云计算集群的流量控制装置的结构，该装置可以应用于代理服务器，终端通过代理服务器与云计算集群进行交互，该装置可以包括：

接收模块401，用于接收终端发送的多个交互请求；

401与本发明图3所示实施例中的301为相同模块；

确定模块402，用于确定各交互请求的交互类型；针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量；

确定模块402中还可以包括：

更新子模块4021，用于获取交互类型与云计算集群的对应关系的更新信息。根据更新信息，更新云计算集群下各交互类型的交互请求发送数量；

相应的，确定模块402，还用于在上述根据所述更新信息，更新各交互类型的交互请求的预设并发数量之后，执行所述针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；

发送模块403，用于针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至该云计算集群。

403与本发明图3所示实施例中的403为相同模块。

可选的，本发明图3所示实施例中的交互类型可以包括：查询类型、同步操作类型以及异步操作类型。

相应的，确定模块302，具体用于：

若交互请求的交互类型为查询类型，针对一云计算集群，根据预设的查询类型与该云计算集群的对应关系，确定第一预设并发数量；

若交互请求的交互类型为同步操作类型，针对一云计算集群，根据预设的同步操作类型与该云计算集群的对应关系，确定第二预设并发数量；

若交互请求的交互类型为异步操作类型，针对一云计算集群，根据预设的异步操作类型与该云计算集群的对应关系，确定第三预设并发数量。

可选的，本发明图3所示实施例中的发送模块303，具体用于：

针对查询类型和同步操作类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求发送至对应的云计算集群；

针对异步操作类型，执行如下操作：

按照异步操作类型的交互请求发送数量，选择对应数量个交互请求，作为第一交互请求，并将第一交互请求发送至对应的云计算集群；

向云计算集群发送所述第一交互请求的操作结果查询请求；

当云计算集群返回的操作结果查询响应为第一交互请求的操作已完成时，将异步操作类交互请求中除第一交互请求之外的交互请求，按照异步操作类型的交互请求发送数量，发送至对应的云计算集群；

当该云计算集群返回的操作结果查询响应为操作失败时，停止向该云计算集群发送异步操作类型的交互请求。

可选的，本发明图3所示实施例中的发送模块303，还可以用于：

向终端发送异步操作类交互请求失败的信息。

相应于上述实施例，本发明实施例还提供了一种服务器，可以作为用户端与云计算集群交互的代理服务器，如图5所示，服务器500，可以包括：

处理器5001、通信接口5002、存储器5003和通信总线5004，其中，处理器5001，通信接口5002，存储器通5003过通信总线5004完成相互间的通信；

存储器5003，用于存放计算机程序；

处理器5001，用于执行上述存储器5003上所存放的计算机程序时，实现上述实施例中，任一应用于代理服务器的云计算集群的流量控制方法的步骤。

本发明实施例提供的一种服务器，作为终端与云计算集群交互的代理服务器，通过针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送数量过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

上述存储器可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离于上述处理器的存储装置。

上述处理器可以是通用处理器，包括CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processor，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

本发明一实施例提供的计算机可读存储介质，包含于服务器，该计算机可读存储介质内存储有计算机程序，该计算机程序被处理器执行时，实现上述实施例中，任一应用于代理服务器的云计算集群的流量控制方法的步骤。

本发明实施例提供的一种计算机可读存储介质包含于代理服务器，该介质所存储的计算机程序被执行时，可以针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与交互请求发送数量相同数量的交互请求，并发送至云计算集群。以各交互请求的交互类型和云计算集群的对应关系为依据，确定各交互类型的预设并发数量。以各交互类型的预设并发数量与各类型交互请求的发送数量大小关系，控制各类型交互请求的发送数量，避免并发交互请求发送数量过多时，云计算集群并发流量过大造成的性能下降，从而实现对云计算平台的流量控制，提供稳定的云计算服务。

在本发明提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一云计算集群的流量控制方法的步骤。

在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、DSL(Digital Subscriber Line，数字用户线)或无线(例如：红外线、无线电、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如：DVD(Digital Versatile Disc，数字通用光盘))、或者半导体介质(例如：SSD(Solid StateDisk，固态硬盘))等。

在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置和服务器实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本发明的保护范围内。

Claims (11)

1.一种云计算集群的流量控制方法，其特征在于，应用于代理服务器，终端通过所述代理服务器与云计算集群进行交互，所述方法包括：

接收所述终端发送的多个交互请求；

确定各交互请求的交互类型；

针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量；

针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；

若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量；

针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求，并发送至所述云计算集群。

2.根据权利要求1所述的方法，其特征在于，所述交互类型包括：查询类型、同步操作类型以及异步操作类型；

所述针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量，包括：

若交互请求的交互类型为查询类型，针对一云计算集群，根据预设的查询类型与该云计算集群的对应关系，确定第一预设并发数量；

若交互请求的交互类型为同步操作类型，针对一云计算集群，根据预设的同步操作类型与该云计算集群的对应关系，确定第二预设并发数量；

若交互请求的交互类型为异步操作类型，针对一云计算集群，根据预设的异步操作类型与该云计算集群的对应关系，确定第三预设并发数量。

3.根据权利要求2所述的方法，其特征在于，所述针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求发送至对应的云计算集群，包括：

针对所述查询类型和同步操作类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求发送至对应的云计算集群；

针对所述异步操作类型，执行如下操作：

按照所述异步操作类型的交互请求发送数量，选择与所述交互请求发送数量相同数量的交互请求，作为第一交互请求，并将所述第一交互请求发送至对应的云计算集群；

向所述云计算集群发送所述第一交互请求的操作结果查询请求；

当所述云计算集群返回的操作结果查询响应为第一交互请求的操作已完成时，将所述异步操作类交互请求中除所述第一交互请求之外的交互请求，按照所述异步操作类型的交互请求发送数量，发送至所述云计算集群；

当所述云计算集群返回的操作结果查询响应为操作失败时，停止向所述云计算集群发送所述异步操作类型的交互请求。

4.根据权利要求3所述的方法，其特征在于，在所述当所述云计算集群返回的操作结果查询响应为操作失败时，停止向所述云计算集群发送所述异步操作类型的交互请求之后，所述方法还包括：

向所述终端发送所述异步操作类交互请求失败的信息。

5.根据权利要求1所述的方法，其特征在于，在所述针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量之后，所述方法还包括：

获取交互类型与云计算集群的对应关系的更新信息；

根据所述更新信息，更新各交互类型的交互请求的预设并发数量；

在所述根据所述更新信息，更新各交互类型的交互请求的预设并发数量之后，执行所述针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量。

6.一种云计算集群的流量控制装置，其特征在于，应用于代理服务器，终端通过所述代理服务器与云计算集群进行交互，所述装置包括：

接收模块，用于接收所述终端发送的多个交互请求；

确定模块，用于确定各交互请求的交互类型；针对一云计算集群，根据预设的交互类型与该云计算集群的对应关系，确定各交互类型的预设并发数量；针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量；若不小于，则确定该交互类型的预设并发数量作为该交互类型的交互请求发送数量；

发送模块，用于针对各交互类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求，并发送至所述云计算集群。

7.根据权利要求6所述的装置，其特征在于，所述交互类型包括：查询类型、同步操作类型以及异步操作类型；

所述确定模块，具体用于：

若交互请求的交互类型为查询类型，针对一云计算集群，根据预设的查询类型与该云计算集群的对应关系，确定第一预设并发数量；

若交互请求的交互类型为同步操作类型，针对一云计算集群，根据预设的同步操作类型与该云计算集群的对应关系，确定第二预设并发数量；

若交互请求的交互类型为异步操作类型，针对一云计算集群，根据预设的异步操作类型与该云计算集群的对应关系，确定第三预设并发数量。

8.根据权利要求7所述的装置，其特征在于，所述发送模块，具体用于：

针对所述查询类型和同步操作类型，按照该交互类型的交互请求发送数量，从该交互类型的各交互请求中，选择与所述交互请求发送数量相同数量的交互请求发送至对应的云计算集群；

针对所述异步操作类型，执行如下操作：

按照所述异步操作类型的交互请求发送数量，选择与所述交互请求发送数量相同数量的交互请求，作为第一交互请求，并将所述第一交互请求发送至对应的云计算集群；

向所述云计算集群发送所述第一交互请求的操作结果查询请求；

当所述云计算集群返回的操作结果查询响应为第一交互请求的操作已完成时，将所述异步操作类交互请求中除所述第一交互请求之外的交互请求，按照所述异步操作类型的交互请求发送数量，发送至所述云计算集群；

当所述云计算集群返回的操作结果查询响应为操作失败时，停止向所述云计算集群发送所述异步操作类型的交互请求。

9.根据权利要求8所述的装置，其特征在于，所述发送模块，还用于：

向所述终端发送所述异步操作类交互请求失败的信息。

10.根据权利要求6所述的装置，其特征在于，所述确定模块，还包括：

更新子模块，用于获取交互类型与云计算集群的对应关系的更新信息；根据所述更新信息，更新各交互类型的交互请求的预设并发数量；

所述确定模块，还用于在所述根据所述更新信息，更新各交互类型的交互请求的预设并发数量之后，执行所述针对各交互请求的交互类型，确定该交互类型的交互请求数量，并判断该交互类型的交互请求数量是否小于该交互类型的预设并发数量。

11.一种服务器，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过总线完成相互间的通信；存储器，用于存放计算机程序；处理器，用于执行存储器上所存放的程序，实现如权利要求1-5任一所述的方法步骤。