CN112615795A - 流量控制方法、装置、电子设备、存储介质及产品 - Google Patents

Abstract

本公开公开了一种流量控制方法、装置、电子设备、存储介质及产品，涉及计算机技术领域，尤其涉及云计算以及流量控制技术领域。具体实现方案为：获取对目标业务功能的访问请求；根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问。本公开的方案，解决了单独通过全局服务器对业务功能的访问请求的响应速度较慢，并且会消耗全局服务器的大量资源的问题，可以通过多种方式快速地对业务功能的访问请求进行响应，并且可以节省全局服务器的资源、保证系统的稳定性。

Description

流量控制方法、装置、电子设备、存储介质及产品

技术领域

本公开涉及计算机技术领域，尤其涉及但不限于应用在云计算以及流量控制技术领域，具体涉及一种流量控制方法、装置、电子设备、存储介质及产品。

背景技术

随着信息技术的飞速发展，诸如实时搜索、信息流或者人脸识别等业务功能得到了广泛的应用。这些业务功能可以部署于多个服务器上，为了避免各业务功能的用户访问量超出了业务功能所能承载的范围，通常需要针对各业务功能进行流量控制；例如，可以限制每秒钟内用户访问人脸识别业务功能的次数为10次，当超出10次时，用户将无法继续访问人脸识别业务功能。

如何对各业务功能进行流量控制是业内重要问题。

发明内容

本公开提供了一种流量控制方法、装置、电子设备、存储介质及产品。

根据本公开的一方面，提供了一种流量控制方法，包括：

获取对目标业务功能的访问请求；

根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许所述访问请求的访问。

根据本公开的另一方面，提供了一种流量控制装置，包括：

访问请求获取模块，用于获取对目标业务功能的访问请求；

访问请求响应模块，用于根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许所述访问请求的访问。

根据本公开的另一方面，提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开中任一实施例所述的流量控制方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据本公开中任一实施例所述的流量控制方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据本公开中任一实施例所述的流量控制方法。

根据本公开的技术方案提高了对业务功能的访问请求的响应速度。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开实施例的一种流量控制方法的示意图；

图2是根据本公开实施例的另一种流量控制方法的示意图；

图3是根据本公开实施例的再一种流量控制方法的示意图；

图4是根据本公开实施例的又一种流量控制方法的示意图；

图5是根据本公开实施例的另一种流量控制方法的示意图；

图6是根据本公开实施例的一种流量控制系统的示意图；

图7是根据本公开实施例的一种流量控制装置的结构示意图；

图8是用来实现本公开实施例的流量控制方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

图1是根据本公开实施例的一种流量控制方法的示意图，本实施例可适用于通过流控节点确定是否允许对目标业务功能的访问的情况，该方法可以通过流量控制装置执行，该装置可以通过软件和/或硬件的方式实现，并集成在电子设备中；本实施例中涉及到的电子设备可以为服务器、计算机、智能手机或者平板电脑等。具体的，参考图1，该方法具体包括如下：

S110、获取对目标业务功能的访问请求。

其中，目标业务功能可以为任一中业务功能；例如，可以为低延迟的实时搜索业务功能，也可以为高吞吐的信息流功能，还可以为低吞吐低延迟的数据上传业务功能，本实施例中对其不加以限定。

在本实施例中，目标业务功能的访问请求可以为用户访问目标业务功能的请求，例如，可以为用户访问资讯类搜索网站，搜索资料的请求；也可以为用户调用目标业务功能的请求，例如，可以为用户调用人脸识别业务，对待识别的人脸图像进行识别的请求，本实施例中对其不加以限制。

在本实施例的一个可选实现方式中，流控节点可以实时的获取到一个或者多个用户终端访问目标业务功能的请求，例如，流控节点可以同时获取到用户终端A以及用户终端B对人脸识别业务功能的访问请求。其中，用户终端可以为智能手机、计算机或者平板电脑等，本实施例中对其不加以限定。

其中，流控节点可以为流控集群中的任一流控节点，本实施例中对其不加以限定。需要说明的是，本实施例中涉及到的流控集群可以为依托云计算资源搭建的且包含多个流控节点的集群；示例性的，流控集群中可以包括100个、1000个或者50000个等数量的流控节点，本实施例中对其不加以限定。

在本实施例的另一个可选实现方式中，当用户在用户终端上点击与目标业务功能对应的控件，以访问目标业务功能时，用户终端可以实时的生成与目标业务功能对应的访问请求，并将生成的访问请求上传至流控集群中的任一流控节点，以使流控节点获取到对目标业务功能对应的访问请求，并进一步的对访问请求进行响应，从而确定是否允许访问请求的访问。

示例性的，当用户A在用户终端点击与人脸识别业务功能对应的控件时，用户终端生成对人脸识别业务功能的访问请求A，并将访问请求A上传至流控节点A，进一步的，流控节点A可以对访问请求A进行响应，例如，可以确定允许访问请求A的访问或者不允许访问请求A的访问。

S120、根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问。

其中，目标服务功能接口可以为与目标业务功能对应的一个开发接口，该开发接口中可以缓存流量额度，本实施例中将目标服务功能接口中缓存的流量额度称为接口流量额度；其中，接口流量额度可以为0，也可以不为0，本实施例中对其不加以限定；可以理解的是，如果目标服务功能接口中缓存的接口流量额度为0，则此时目标服务功能接口失效，为不可用状态。

需要说明的是，在本实施例中目标服务功能接口中缓存的流量额度应小于或者等于目标业务功能的全部流量额度；其中，目标业务功能的全部流量额度，为设定时间间隔内目标业务功能可以被访问的次数；示例性的，目标业务功能的全部流量额度可以为10次、1万次或者1亿次，本实施例中对其不加以限定。

示例性的，若目标业务功能的全部流量额度为10，即目标业务功能一秒钟可以被访问10次，则目标服务功能接口中缓存的接口流量额度应小于或者等于10。

这样设置的好处在于，可以保证对目标业务功能的访问量不会超出目标业务功能所能承载的范围。

需要说明的是，在本实施例中每个业务功能的全部流量额度可以通过与每个业务功能对应的流控规则来确定，所有业务功能的流控规则都存储在元信息数据库中；可以理解的是，每个流控规则中记录有与该流控规则对应的业务功能的标识、业务功能的全部流量额度以及时间间隔；示例性的，流控规则A可以为“A、10000次以及1秒”，其代表的含义是：业务功能A，1秒内允许访问的次数为10000次。还需要说明的是，流控规则中还可以包括目标业务功能的延时需求，或者目标业务功能所包含的业务逻辑的数量等参数，本实施例中对其不加以限定。

在本实施例中，每个流控节点中可以同时为多个业务功能缓存流量额度，本实施例中将流控节点中缓存的流量额度称为节点流量额度；流控节点中为目标业务功能缓存的流量额度可以为0也可以不为0，本实施例中对其不加以限定。

需要说明的是，在本实施例中每个流控节点中为目标业务功能缓存的流量额度应小于或者等于目标业务功能的全部流量额度；在本实施例的一个可选实现方式中，可以将目标业务功能的全部流量额度平均分配至多个流控节点中，例如，可以将目标业务功能的全部流量额度平均分配至5个流控节点中。

在本实施例中，可以通过全局服务器为目标业务功能确定全局流量额度，其中，目标业务功能的全局流量额度可以为设定时间间隔内目标业务功能的全部流量额度，也可以为设定时间间隔内目标业务功能的全部流量额度与已访问的流量额度的差值，本实施例中对其不加以限定。

示例性的，若目标业务功能的全部流量额度为1000次，即目标业务功能一秒中可以被访问1000次；若在1秒内，目标业务功能未被访问，则全局服务器可以确定目标业务功能的全局流量额度为1000次；若在第30毫秒，目标业务功能已被访问100次，则全局服务器可以确定目标业务功能的全局流量额度为1000-100＝900次。

在本实施例的一个可选实现方式中，流控节点在获取到对目标业务功能的访问请求之后，可以进一步的根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问。

示例性的，在本实施例中，流控节点可以根据目标服务功能接口中缓存的接口流量额度确定是否允许访问请求的访问；还可以根据目标服务功能接口中缓存的接口流量额度和流控节点中为目标业务功能缓存的节点流量额度，确定是否允许访问请求的访问；还可以同时根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度，确定是否允许访问请求的访问，本实施例中对此不加以限定。

示例性的，在本实施例的一个可选实现方式中，当流控节点获取到目标业务功能的访问请求时，如果与目标业务功能对应的目标服务功能接口中缓存的接口流量额度不为0(例如，为1、2或者100等，本实施例中对其不加以限定)，则此时可以直接允许访问请求的访问。

示例性的，在本实施例的另一个可选实现方式中，当流控节点获取到目标业务功能的访问请求时，如果与目标业务功能对应的目标服务功能接口中缓存的接口流量额度为0，且流控节点中为目标业务功能缓存的节点流量额度不为0，则流控节点可以将为目标业务功能缓存的节点流量额度中的一部分或者全部分配至与目标业务功能对应的目标服务功能接口，进而可以确定允许访问请求的访问。例如，流控节点中为目标业务功能缓存的节点流量额度为500，则可以将50次的流量额度分配至目标服务功能接口中，此时，目标服务功能接口中缓存的接口流量额度为50，即可以允许访问请求的访问。

示例性的，在本实施例的另一个可选实现方式中，当流控节点获取到目标业务功能的访问请求时，如果与目标业务功能对应的目标服务功能接口中缓存的接口流量额度为0，且流控节点中为目标业务功能缓存的节点流量额度也为0，则此时可以直接通过全局服务器确定是否允许访问请求的访问；例如，通过全局服务器为目标业务功能确定的全局流量额度不为0，则可以直接通过全局服务器确定允许访问请求的访问。

本实施例的方案，流控节点获取对目标业务功能的访问请求，并根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问，可以解决单独通过全局服务器对业务功能的访问请求的响应速度较慢，并且会消耗全局服务器的大量资源的问题，可以通过多种方式快速地对不同类型的业务功能的访问请求进行响应，并且可以节省全局服务器的资源、保证系统的稳定性。

图2是根据本公开实施例的另一种流量控制方法的示意图，本实施例是对上述技术方案的进一步细化，本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图2所示，流量控制方法包括如下：

S210、获取对目标业务功能的访问请求。

S220、在目标业务功能的流控类型为第一类型情况下，确定目标服务功能接口中缓存的接口流量额度是否可用。

其中，目标业务功能的流控类型可以与目标业务功能的功能或者性能相关，示例性的，如果目标业务功能为大规模、高吞吐或者低延迟的业务功能(例如，实时搜索业务功能)，则与目标业务功能对应的流控类型可以为大规模高吞吐、低延迟类型，本实施例中将其命名为第一类型；如果目标业务功能为低吞吐，并且没有延迟需求的业务功能(例如，上传视频的业务功能)，则与目标业务功能对应的流控类型可以为精准控制类型，本实施例中将其命名为第二类型。

在本实施例的一个可选实现方式中，流控节点在获取到对目标业务功能的访问请求之后，可以进一步的确定目标业务功能的流控类型。

可选的，可以根据目标业务功能的流控规则确定目标业务功能的流控类型；示例性的，流控节点在获取到对目标业务功能的访问请求之后，可以进一步的在元信息数据库中查询与目标业务功能对应的流控规则，如果与目标业务功能对应的流控规则中记录的目标业务功能的全部流量额度为100万次，则可以确定目标业务功能为高吞吐业务功能，则此时可以确定目标业务功能的流控类型为第一流控类型。

在本实施例的另一个例子中，流控节点在元信息数据库中查询到的与目标业务功能对应的流控规则中记录的目标业务功能的延时需求如果小于设定延时阈值0.01秒，则可以确定目标业务功能为低延迟业务功能，则此时也可以确定目标业务功能的流控类型为第一流控类型。

在本实施例的另一个例子中，流控节点在元信息数据库中查询到目标业务功能所包含的业务逻辑的数量大于业务逻辑数量阈值5万个，则可以确定目标业务功能为大规模业务功能，则此时也可以确定目标业务功能的流控类型为第一流控类型。

在本实施例的一个可选实现方式中，在确定目标业务功能的流控类型为第一类型情况下，则可以进一步的确定目标服务功能接口中缓存的接口流量额度是否可用，即可以进一步的确定目标服务功能接口中缓存的接口流量额度是否为0；可以理解的是，当目标服务功能接口中缓存的接口流量额度为0时，接口流量额度不可用；当目标服务功能接口中缓存的接口流量额度不为0时，接口流量额度可用。

示例性的，在确定人脸识别业务功能的流控类型为第一类型情况下，可以进一步的确定人脸识别业务功能的服务功能接口中缓存的接口流量额度是否为0；若是，则接口流量额度可用；否则，接口流量额度不可用。

S230、在接口流量额度不可用情况下，根据流控节点中为目标业务功能缓存的节点流量额度和/或全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度是否可用。

在本实施例的一个可选实现方式中，如果流控节点确定目标业务功能的接口流量额度不可用，即目标业务功能的目标服务功能接口中缓存的接口流量额度为0时，则可以进一步的根据流控节点中为目标业务功能缓存的节点流量额度、全局服务器中为目标业务功能确定的全局流量额度，或者同时根据流控节点中为目标业务功能缓存的节点流量额度以及全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，并且可以根据分配结果重新确定接口流量额度是否可用。

在本实施例的一个可选实现方式中，如果流控节点确定目标业务功能的接口流量额度不可用，则可以进一步的确定流控节点中为目标业务功能缓存的节点流量额度是否可用；若是，则可以将流控节点中为目标业务功能缓存的节点流量额度中的一部分(例如，流控节点中为目标业务功能缓存的节点流量额度的五分之一，或者三分之一等)分配至目标服务功能接口，并重新确定接口流量额度是否可用；此时，可以确定接口流量额度不为0，即确定接口流量额度可用，可以允许执行访问请求。

在本实施例的一个可选实现方式中，如果流控节点确定目标业务功能的接口流量额度不可用，则可以进一步的确定流控节点中为目标业务功能缓存的节点流量额度是否可用；若否，则可以进一步的确定全局服务器中为目标业务功能确定的全局流量额度是否可用；如果全局服务器中为目标业务功能确定的全局流量额度可用，则可以将全局流量额度依次分配至流控节点以及目标功能服务接口，并重新确定接口流量额度是否可用；此时，可以确定接口流量额度不为0，即确定接口流量额度可用，可以允许执行访问请求。

S240、在接口流量额度可用情况下，允许执行访问请求。

在本实施例的一个可选实现方式中，如果流控节点确定目标业务功能的接口流量额度可用，即目标业务功能的目标服务功能接口中缓存的接口流量额度不为0时，可以允许执行访问请求，即可以允许访问请求的访问。

这样设置的好处在于，可以在确定接口流量额度可用的情况下，快速地响应对业务功能的访问请求，并且可以节省全局服务器的资源、保证系统的稳定性。

在本实施例的另一个可选实现方式中，在根据流控节点中为目标业务功能缓存的节点流量额度和/或全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度可用之后，也可以允许执行对目标业务功能的访问请求。

本实施例的方案，流控节点在确定目标业务功能的流控类型为第一类型情况下，确定目标服务功能接口中缓存的接口流量额度是否可用；进一步的，在接口流量额度不可用情况下，根据流控节点中为目标业务功能缓存的节点流量额度和/或全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度是否可用；可以根据接口流量额度是否可用，来确定是否允许访问请求的访问，并且在接口流量额度不可用的情况下重新分配接口流量额度，可以快速地响应对大规模、高吞吐的业务功能的访问请求，无需通过全局服务器实时地统计目标业务功能的全局流量额度，可以节省全局服务器的资源、保证系统的稳定性。

图3是根据本公开实施例的再一种流量控制方法的示意图，本实施例是对上述技术方案的进一步细化，本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图3所示，流量控制方法包括如下：

S310、获取对目标业务功能的访问请求。

S320、在目标业务功能的流控类型为第一类型情况下，确定目标服务功能接口中缓存的接口流量额度不可用。

S330、确定流控节点中为目标业务功能缓存的节点流量额度是否可用。

在本实施例的一个可选实现方式中，如果流控节点确定目标业务功能的流控类型为第一类型，且目标服务功能接口中缓存的接口流量额度不可用，则可以进一步的确定流控节点中为目标业务功能缓存的节点流量额度是否可用，即确定流控节点中为目标业务功能缓存的节点流量额度是否为0；若是，则节点流量额度不可用；否则，节点流量额度可用。

S331、在节点流量额度可用情况下，从节点流量额度中重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，如果确定流控节点中为目标业务功能缓存的节点流量额度不为0次，即确定节点流量额度可用，则可以进一步的从节点流量额度中重新为目标服务功能接口分配接口流量额度。

示例性的，当流控节点确定接口流量额度为0，即接口流量额度不可用时，如果确定流控节点中为目标业务功能缓存的节点流量额度为5000次，即确定节点流量额度可用，则可以进一步的重新为目标服务功能接口分配接口流量额度，例如，可以分配500次节点流量额度至目标服务功能接口。

在本实施例的另一个例子中，如果流控节点同时接收到600个用户终端对目标业务功能的访问请求；进一步的，流控节点确定目标业务功能的流控类型为第一类型，且目标服务功能接口中缓存的接口流量额度不可用，如果确定流控节点中为目标业务功能缓存的节点流量额度为1000次，则可以分配700次节点流量额度至目标服务功能接口。

这样设置的好处在于，在目标业务功能的流控范围内，既可以同时允许600个用户终端对目标业务功能的访问请求，并且可以将剩余的流量额度存储在目标服务功能接口中，可以减少对下一次业务功能的访问请求的响应时间。

S332、在节点流量额度不可用情况下，根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，如果确定流控节点中为目标业务功能缓存的节点流量额度为0，即确定节点流量额度不可用，则可以进一步的根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度。

示例性的，当流控节点确定接口流量额度为0次，且确定流控节点中为目标业务功能缓存的节点流量额度为0次，即接口流量额度和节点流量额度均不可用时，如果确定全局服务器中为目标业务功能确定的全局流量额度可用，则可以根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，可以包括：确定全局服务器中为目标业务功能确定的全局流量额度是否可用；在全局流量额度可用情况下，从全局流量额度中重新为流控节点分配节点流量额度；从新分配的节点流量额度中重新为目标服务功能接口分配接口流量额度。

可选的，如果流控节点确定目标服务功能接口中缓存的接口流量额度与流控节点中为目标业务功能缓存的节点流量额度均不可用时，可以继续确定全局服务器中为目标业务功能确定的全局流量额度是否可用；如果全局服务器中为目标业务功能确定的全局流量额度可用，则可以从全局流量额度中重新为流控节点分配节点流量额度；进一步的，可以从新分配的节点流量额度中重新为目标服务功能接口分配接口流量额度。

这样设置的好处在于，可以保证对业务功能的访问请求进行快速响应的同时，又可以减轻全局服务器的计算量，为保证各个业务功能的正常运行提供依据。

示例性的，如果流控节点确定目标服务功能接口中缓存的接口流量额度与流控节点中为目标业务功能缓存的节点流量额度均为0，并且全局服务器中为目标业务功能确定的全局流量额度为1000次；则可以从全局流量额度中选择100次流量额度分配至流控节点，以生成新的节点流量额度；进一步的，从新分配的100次节点流量额度中选取50次流量额度分配至目标服务功能接口，以生成新的接口流量额度。

S340、在接口流量额度可用情况下，允许执行访问请求。

可以理解的是，现有技术中，直接通过全局服务器对各业务功能进行流量控制，需要全局服务器不断地对当前时间间隔内目标业务功能被访问的次数进行统计，并更新剩余访问次数；例如，目标业务功能每被访问一次，全局计数加1，剩余访问次数减1；当目标业务功能吞吐量较大时，例如，每秒钟被访问次数为50万次，此时全局服务器的计算量较大，甚至可能引起全局服务器的崩溃。

本实施例的方案，通过目标服务功能接口、流控节点以及全局服务器同时对目标业务功能的流量额度进行缓存，无需通过全局服务器实时的进行全局计数，可以节省全局服务器的资源、保证系统的稳定性，并且直接可以通过确定接口流量额度是否可用，快速地对目标业务功能的访问请求进行响应，提升了算法的处理效率。同时，在接口流量额度不可用的情况下，确定流控节点中为目标业务功能缓存的节点流量额度是否可用；在节点流量额度可用情况下，从节点流量额度中重新为目标服务功能接口分配接口流量额度；在节点流量额度不可用情况下，根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，可以快速地响应对大型、高吞吐的业务功能的访问请求，节省了全局服务器的资源。

图4是根据本公开实施例的又一种流量控制方法的示意图，本实施例是对上述技术方案的进一步细化，本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图4所示，流量控制方法包括如下：

S410、获取对目标业务功能的访问请求。

S420、在目标业务功能的流控类型为第一类型情况下，且目标服务功能的延时需求小于延时阈值情况下，还实时监测接口流量额度是否小于流量额度阈值。

其中，延时阈值可以为0.01秒、0.001秒或者0.01毫秒等，本实施例中对其不加以限定。流量额度阈值可以为20次、15次或者10次等，本实施例中对其不加以限定。

在本实施例的一个可选实现方式中，在确定目标业务功能的流控类型为第一类型情况下，可以进一步的确定目标业务功能的延时需求是否小于延时阈值，如果目标业务功能的延时需求(例如，0.01毫秒)小于延时阈值(例如，0.01秒)，则还可以对目标服务功能接口中缓存的流量额度进行实时监控，并确定目标服务功能接口中缓存的流量额度是否小于流量额度阈值。

S430、在接口流量额度小于流量额度阈值情况下，还重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，如果监测到目标服务功能接口中缓存的流量额度小于流量额度阈值，则可以重新为目标服务功能接口分配接口流量额度；例如，可以根据流控节点中为目标业务功能缓存的节点流量额度为目标服务功能接口分配接口流量额度，也可以根据全局服务器中为目标业务功能确定的全局流量额度，为目标服务功能接口分配接口流量额度，本实施例中对其不加以限定。

本实施例的方案，在目标业务功能的流控类型为第一类型情况下，且目标业务功能的延时需求小于延时阈值情况下，还实时监测接口流量额度是否小于流量额度阈值；在接口流量额度小于流量额度阈值情况下，还重新为目标服务功能接口分配接口流量额度，可以快速地响应对低延迟的业务功能的访问请求，为满足低延迟业务功能的延时需求提供依据。

图5是根据本公开实施例的另一种流量控制方法的示意图，本实施例是对上述技术方案的进一步细化，本实施例中的技术方案可以与上述一个或者多个实施例中的各个可选方案结合。如图5所示，流量控制方法包括如下：

S510、获取对目标业务功能的访问请求。

S520、在目标业务功能的流控类型为第二类型情况下，根据全局服务器中为目标业务功能确定的全局流量额度，确定是否允许访问请求的访问。

在本实施例中，如果目标业务功能为低吞吐，并且延时需求远大于延时阈值的业务功能(例如，上传视频的业务功能)，则与目标业务功能对应的流控类型可以为精准控制类型，本实施例中将其命名为第二类型。

在本实施例的一个可选实现方式中，流控节点在获取到对目标业务功能的访问请求之后，可以进一步的确定目标业务功能的流控类型。如果确定目标业务功能的流控类型为第二类型，则可以根据全局服务器中为目标业务功能确定的全局流量额度，确定是否允许访问请求的访问。

示例性的，如果确定目标业务功能的流控类型为第二类型，则在获取到对目标业务功能的访问请求之后，直接根据全局服务器中为目标业务功能确定的全局流量额度，确定是否云粗访问请求的访问；如果全局服务器中为目标业务功能确定的全局流量额度可用，则可以允许执行访问请求。

可以理解的是，当目标业务功能为低吞吐，并且延时需求远大于延时阈值的业务功能时，与目标业务功能对应的全部流量额度较小(例如，10或者5等，本实施例中对其不加以限定)，此时，如果将目标业务功能的流量额度缓存至目标服务功能接口中或者流控节点中，会出现流量额度有剩余，但无法执行访问请求的情况。

本实施例额度方案，在目标业务功能的流控类型为第二类型情况下，根据全局服务器中为目标业务功能确定的全局流量额度，确定是否允许访问请求的访问，可以精准地对目标业务功能进行流量控制，并且不会过多地消耗全局服务器的资源。

为了使本领域技术人员更好地理解本公开涉及到的流量控制方法，图6是根据本公开实施例的一种流量控制系统的示意图，包括：业务功能610，本实施例中以三个业务功能为例进行说明(业务功能611、业务功能612以及业务功能613)；流控集群620，本实施例中以三个流控节点为例进行说明(流控节点621、流控节点622以及流控节点623)；全局服务器630，需要说明的是，本实施例中涉及到的全局服务器也可以为redis集群。

需要说明的是，业务功能611、业务功能612以及业务功能613中可以设有目标服务功能接口，在本实施例中，该接口可以为软件开发工具包(Software Development Kit，SDK)；如图6所示，业务功能611中包含SDK641、业务功能612中包含SDK642。

在本实施例的一个可选实现方式中，在业务功能611为大规模、高吞吐的业务功能时，流控节点621或者流控节点622在接收到对业务功能611的访问请求时，会检测SDK641中是否缓存有流量额度，若是，则允许对业务功能611的访问请求；否则，继续检测流控节点621或者流控节点622中是否缓存有为业务功能611分配的流量额度，若是，则根据流控节点621或者流控节点622中为业务功能611分配的流量额度，为SDK641重新分配流量额度；并在检测到SDK641中缓存有流量额度时，允许对业务功能611的访问请求。

在本实施例的另一个可选实现方式中，在业务功能612为低延迟业务功能时，可以实时检测SDK642中缓存的流量额度，当SDK642中缓存的流量额度小于流量额度阈值时，可以根据流控节点中为业务功能612缓存的流量额度，或者全局服务器630为业务功能612确定的流量额度，重新为SDK642分配流量额度；此时，当接收到对业务功能612的访问请求时，可以直接允许对业务功能613的访问请求。

在本实施例的另一个可选实现方式中，在业务功能613为小规模、低吞吐或者高延迟的业务功能时，可以通过超文本传输协议(hyper text transfer protocol，http)将对业务功能613的访问请求发送至全局服务器630，全局服务器630对针对业务功能613的访问请求进行全局计数，当计数额度小于业务功能613的全部流量额度时，允许对业务功能613的访问请求。

本实施例的方案，针对不同的业务功能可以选取不同的流控规则，可以同时对不同类型的业务功能进行流量控制，可以保证对目标业务功能的访问请求的响应的准确性、快速性也可以减少全局服务器的资源消耗，可以提升系统的稳定性。

图7是根据本公开实施例的一种流量控制装置的结构示意图，该装置可以执行本公开任一实施例中涉及到的流量控制方法；参考图7，流量控制装置700，包括：访问请求获取模块710以及访问请求响应模块720。

其中，访问请求获取模块710，用于获取对目标业务功能的访问请求；

访问请求响应模块720，用于根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问。

本实施例的方案，流量控制装置通过访问请求获取模块获取对目标业务功能的访问请求；通过访问请求响应模块根据目标服务功能接口中缓存的接口流量额度、流控节点中为目标业务功能缓存的节点流量额度和全局服务器中为目标业务功能确定的全局流量额度中的至少一项，确定是否允许访问请求的访问，解决了单独通过全局服务器对业务功能的访问请求的响应速度较慢，并且会消耗全局服务器的大量资源的问题，可以通过多种方式快速地对业务功能的访问请求进行响应，并且可以节省全局服务器的资源、保证系统的稳定性。

在本实施例的一个可选实现方式中，访问请求响应模块720，包括：接口流量额度确定子模块和接口流量额度重新分配子模块；

接口流量额度确定子模块，用于在目标业务功能的流控类型为第一类型情况下，确定目标服务功能接口中缓存的接口流量额度是否可用；

接口流量额度重新分配子模块，用于在接口流量额度不可用情况下，根据流控节点中为目标业务功能缓存的节点流量额度和/或全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度是否可用。

在本实施例的一个可选实现方式中，接口流量额度重新分配子模块包括：节点流量额度确定单元、第一接口流量额度重新分配单元和第二接口流量额度重新分配单元；

节点流量额度确定单元，用于确定流控节点中为目标业务功能缓存的节点流量额度是否可用；

第一接口流量额度重新分配单元，用于在节点流量额度可用情况下，从节点流量额度中重新为目标服务功能接口分配接口流量额度；

第二接口流量额度重新分配单元，用于在节点流量额度不可用情况下，根据全局服务器中为目标业务功能确定的全局流量额度，重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，第二接口流量额度重新分配单元，具体用于

确定全局服务器中为目标业务功能确定的全局流量额度是否可用；

在全局流量额度可用情况下，从全局流量额度中重新为流控节点分配节点流量额度；

从新分配的节点流量额度中重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，访问请求响应模块720，还包括：访问请求允许执行子模块；

访问请求允许执行子模块，用于在接口流量额度可用情况下，允许执行访问请求。

在本实施例的一个可选实现方式中，访问请求响应模块，还包括：接口流量额度检测子模块和接口流量额度分配子模块；

接口流量额度检测子模块，用于在目标业务功能的流控类型为第一类型情况下，且目标服务功能的延时需求小于延时阈值情况下，还实时监测接口流量额度是否小于流量额度阈值；

接口流量额度分配子模块，用于在接口流量额度小于流量额度阈值情况下，还重新为目标服务功能接口分配接口流量额度。

在本实施例的一个可选实现方式中，访问请求响应模块，还包括：全局流量额度确定子模块；

全局流量额度确定子模块，用于在目标业务功能的流控类型为第二类型情况下，根据全局服务器中为目标业务功能确定的全局流量额度，确定是否允许访问请求的访问。

上述流量控制装置可执行本公开任意实施例所提供的流量控制方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本公开任意实施例提供的流量控制方法。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。

设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如，流量控制方法。例如，在一些实施例中，流量控制方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的流量控制方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行流量控制方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种流量控制方法，包括：

获取对目标业务功能的访问请求；

根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许所述访问请求的访问。

2.根据权利要求1所述的方法，其中，所述根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许执行所述访问请求，包括：

在所述目标业务功能的流控类型为第一类型情况下，确定所述目标服务功能接口中缓存的接口流量额度是否可用；

在所述接口流量额度不可用情况下，根据流控节点中为所述目标业务功能缓存的节点流量额度和/或全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度是否可用。

3.根据权利要求2所述的方法，其中，所述根据流控节点中为所述目标业务功能缓存的节点流量额度和/或全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度，包括：

确定所述流控节点中为所述目标业务功能缓存的节点流量额度是否可用；

在所述节点流量额度可用情况下，从所述节点流量额度中重新为所述目标服务功能接口分配接口流量额度；

在所述节点流量额度不可用情况下，根据全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度。

4.根据权利要求3所述的方法，其中，所述根据全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度，包括：

确定所述全局服务器中为所述目标业务功能确定的全局流量额度是否可用；

在所述全局流量额度可用情况下，从所述全局流量额度中重新为流控节点分配节点流量额度；

从新分配的节点流量额度中重新为所述目标服务功能接口分配接口流量额度。

5.根据权利要求2所述的方法，还包括：

在接口流量额度可用情况下，允许执行所述访问请求。

6.根据权利要求2所述的方法，还包括：

在所述目标业务功能的流控类型为第一类型情况下，且所述目标业务功能的延时需求小于延时阈值情况下，还实时监测接口流量额度是否小于流量额度阈值；

在所述接口流量额度小于流量额度阈值情况下，还重新为所述目标服务功能接口分配接口流量额度。

7.根据权利要求1所述的方法，根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许所述访问请求的访问，包括：

在所述目标业务功能的流控类型为第二类型情况下，根据全局服务器中为所述目标业务功能确定的全局流量额度，确定是否允许所述访问请求的访问。

8.一种流量控制装置，包括：

访问请求获取模块，用于获取对目标业务功能的访问请求；

访问请求响应模块，用于根据目标服务功能接口中缓存的接口流量额度、流控节点中为所述目标业务功能缓存的节点流量额度和全局服务器中为所述目标业务功能确定的全局流量额度中的至少一项，确定是否允许所述访问请求的访问。

9.根据权利要求8所述的装置，其中，所述访问请求响应模块，包括：接口流量额度确定子模块和接口流量额度重新分配子模块；

所述接口流量额度确定子模块，用于在所述目标业务功能的流控类型为第一类型情况下，确定所述目标服务功能接口中缓存的接口流量额度是否可用；

所述接口流量额度重新分配子模块，用于在所述接口流量额度不可用情况下，根据流控节点中为所述目标业务功能缓存的节点流量额度和/或全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度，且根据分配结果重新确定接口流量额度是否可用。

10.根据权利要求9所述的装置，其中，所述接口流量额度重新分配子模块包括：节点流量额度确定单元、第一接口流量额度重新分配单元和第二接口流量额度重新分配单元；

所述节点流量额度确定单元，用于确定所述流控节点中为所述目标业务功能缓存的节点流量额度是否可用；

所述第一接口流量额度重新分配单元，用于在所述节点流量额度可用情况下，从所述节点流量额度中重新为所述目标服务功能接口分配接口流量额度；

所述第二接口流量额度重新分配单元，用于在所述节点流量额度不可用情况下，根据全局服务器中为所述目标业务功能确定的全局流量额度，重新为所述目标服务功能接口分配接口流量额度。

11.根据权利要求10所述的装置，其中，所述第二接口流量额度重新分配单元，具体用于

确定所述全局服务器中为所述目标业务功能确定的全局流量额度是否可用；

在所述全局流量额度可用情况下，从所述全局流量额度中重新为流控节点分配节点流量额度；

从新分配的节点流量额度中重新为所述目标服务功能接口分配接口流量额度。

12.根据权利要求9所述的装置，其中，所述访问请求响应模块，还包括：访问请求允许执行子模块；

所述访问请求允许执行子模块，用于在接口流量额度可用情况下，允许执行所述访问请求。

13.根据权利要求9所述的装置，其中，所述访问请求响应模块，还包括：接口流量额度检测子模块和接口流量额度分配子模块；

所述接口流量额度检测子模块，用于在所述目标业务功能的流控类型为第一类型情况下，且所述目标服务功能的延时需求小于延时阈值情况下，还实时监测接口流量额度是否小于流量额度阈值；

接口流量额度分配子模块，用于在所述接口流量额度小于流量额度阈值情况下，还重新为所述目标服务功能接口分配接口流量额度。

14.根据权利要求8所述的装置，其中，所述访问请求响应模块，还包括：全局流量额度确定子模块；

所述全局流量额度确定子模块，用于在所述目标业务功能的流控类型为第二类型情况下，根据全局服务器中为所述目标业务功能确定的全局流量额度，确定是否允许所述访问请求的访问。

15.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的流量控制方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的流量控制方法。

Images