CN115567448A - 流量控制方法、装置、设备、介质及程序产品 - Google Patents
流量控制方法、装置、设备、介质及程序产品 Download PDFInfo
- Publication number
- CN115567448A CN115567448A CN202211172495.7A CN202211172495A CN115567448A CN 115567448 A CN115567448 A CN 115567448A CN 202211172495 A CN202211172495 A CN 202211172495A CN 115567448 A CN115567448 A CN 115567448A
- Authority
- CN
- China
- Prior art keywords
- flow
- cluster
- gateway
- micro service
- controlled
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/20—Traffic policing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L12/00—Data switching networks
- H04L12/66—Arrangements for connecting between networks having differing types of switching systems, e.g. gateways
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/29—Flow control; Congestion control using a combination of thresholds
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本申请实施例公开了一种流量控制方法、装置、设备、介质及程序产品。其中,方法包括:在接收到流量请求的情况下,确定流量请求对应的待控制流量;对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量;在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量;在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。本申请实施例能够在网关层面和微服务层面对流量进行控制,从而提升流量控制的便捷性和准确性,提升用户体验。
Description
技术领域
本申请属于互联网技术领域,尤其涉及一种流量控制方法、装置、设备、计算机存储介质及计算机程序产品。
背景技术
随着互联网的发展,用户的访问量与日俱增,业务复杂度和微服务的数量也随之增加。在上网高峰期,用户访问量的剧增可能会给服务器带来不可承受的压力,导致网络卡顿等网络质量问题,影响用户的体验。为了提升用户体验,保障网络物理通道的畅通和正常业务,需要进行流量控制。
目前,相关技术多是采用单机流控策略,各个流量控制节点对自身的流量进行控制。然而,单机流控策略仅能缓解自身节点的压力,在进行节点扩容、缩容时无法准确控制整个服务的请求限制,也无法保护下游的微服务资源,整体上缺乏便捷性和准确性,难以保障用户的体验。
发明内容
本申请实施例提供一种流量控制方法、装置、设备、计算机存储介质及计算机程序产品,能够在网关层面和微服务层面对流量进行控制。
第一方面,本申请实施例提供一种流量控制方法,包括:
在接收到流量请求的情况下,确定流量请求对应的待控制流量;
对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量,第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与待控制流量之和;
在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量,第二预计流量包括微服务集群的当前控制流量与待控制流量之和;
在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。
在一种可选的实施方式中,方法还包括:
在第一预计流量大于网关流量阈值的情况下,对待控制流量进行预设行为控制。
在一种可选的实施方式中,在在接收到流量请求的情况下,确定流量请求对应的待控制流量之前,方法还包括:
分别获取网关集群的容量信息,以及网关集群对应的每一微服务集群的容量信息;
基于网关集群的容量信息,确定网关流量阈值;
基于每一微服务集群的容量信息,分别确定每一微服务集群对应的微服务流量阈值;
基于网关流量阈值和微服务流量阈值,生成流量配置参数;
通过分布式系统配置中心向网关集群与微服务集群下发流量配置参数,以用于对待控制流量进行预设行为控制。
在一种可选的实施方式中,方法还包括:
在第一预计流量小于或等于网关流量阈值,且网关集群对应的微服务集群中,至少一个微服务集群对应的第二预计流量小于或等于微服务集群对应的微服务流量阈值的情况下,对待控制流量放行。
在一种可选的实施方式中,预设行为控制包括对待控制流量进行丢包处理,或者延迟放行待控制流量。
第二方面,本申请实施例提供一种流量控制装置,包括:
确定模块,用于在接收到流量请求的情况下,确定流量请求对应的待控制流量;
统计模块,用于对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量,第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与待控制流量之和;
统计模块,还用于在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量,第二预计流量包括微服务集群的当前控制流量与待控制流量之和;
控制模块,用于在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。
在一种可选的实施方式中,控制模块,还用于在第一预计流量大于网关流量阈值的情况下,对待控制流量进行预设行为控制。
第三方面,本申请实施例提供一种电子设备,设备包括:处理器以及存储有计算机程序指令的存储器;
处理器执行计算机程序指令时实现如本申请第一方面任一可选实施方式的流量控制方法。
第四方面,本申请实施例提供一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序指令,计算机程序指令被处理器执行时实现如本申请第一方面任一可选实施方式的流量控制方法。
第五方面,本申请实施例提供一种计算机程序产品,计算机程序产品中的指令由电子设备的处理器执行时,使得电子设备执行如本申请第一方面任一可选实施方式的流量控制方法。
本申请实施例的流量控制方法、装置、设备、计算机存储介质及计算机程序产品,能够基于待控制流量与网关集群中各流量控制节点的当前控制流量,确定网关集群的第一预计流量,并将第一预计流量与网关流量阈值进行比较,从而能够在网关层面、基于网关中的多个流量控制节点对流量进行控制,如此,能够基于网关流量阈值,对网关中多个流量控制节点的流量进行整体控制,从而提升流量控制的便捷性。本申请实施例还能够在第一预计流量小于或等于网关流量阈值的情况下,基于待控制流量与网关集群对应的每一微服务集群的当前控制流量,确定每一微服务集群对应的第二预计流量,在第二预计流量大于微服务流量阈值的情况下,对待控制流量进行预设行为控制,如此,能够在微服务层面对流量进行控制,从而能够提升流量控制的准确性,提升用户体验。本申请实施例能够在网关层面和微服务层面对流量进行控制,从而能够提升流量控制的便捷性和准确性,提升用户体验。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单的介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个实施例提供的流量控制方法的流程示意图;
图2是本申请另一个实施例提供的流量控制系统的示意图;
图3是本申请由一个实施例提供的流量控制装置的结构示意图;
图4是本申请再一个实施例提供的流量控制设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例,为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及具体实施例,对本申请进行进一步详细描述。应理解,此处所描述的具体实施例仅意在解释本申请,而不是限定本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本申请技术方案中对数据的获取、存储、使用、处理等均符合国家法律法规的相关规定。
如背景技术所述,便捷、准确地对流量进行控制,对于提升用户体验具有重要意义。
相关技术中多是采用单机流控策略,各个流量控制节点对自身的流量进行控制。然而,单机流控策略整体上缺乏便捷性和准确性,难以保障用户的体验。
相关技术还涉及分布式限流策略,以网关集群为维度,对网关集群的流量请求进行控制。在分布式限流策略中,无需关注网关数量和各网关的流量负载状况,只需关注网关的总流量负载,对网关集训进行流量控制。分布式限流虽然在一定程度上提升了流量控制的便捷性,但是无法基于微服务的流量负载状况进行流量控制,用户在访问服务器的过程中,仍然可能出现网络质量问题,造成用户体验下降。
鉴于此,发明人经深入思考,巧妙地设计了一种流量控制方法、装置、设备、计算机存储介质及计算机程序产品。按照这种流量控制方法能够在网关层面和微服务层面对流量进行控制。
下面结合附图,通过具体的实施例及其应用场景对本申请实施例所提供的流量控制方法进行介绍。本申请实施例提供的流量控制方法,执行该方法的装置可以是流量控制装置,或是该流量控制装置中用于执行流量控制方法的部分模块。本申请实施例中以流量控制装置执行流量控制方法为例,详细说明本申请实施例提供的流量控制方法。
下面结合附图1对本申请实施例提供的流量控制方法进行详细说明。
图1示出了本申请一个实施例提供的流量控制方法的流程示意图。如图1所示,流量控制方法具体可以包括以下步骤S110~S140。
S110,在接收到流量请求的情况下,确定流量请求对应的待控制流量。
上述流量请求可以包括用户请求访问服务器时,发送的流量请求。在一个实施例中,步骤S110具体可以包括基于用户访问服务器产生的业务和所使用的微服务,确定流量请求将要产生的流量,将该将要产生的流量确定为待控制流量。
S120,对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量,第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与待控制流量之和。
网关集群中可包括多个流量控制节点,步骤S120可以包括将网关集群中各流量控制节点的当前控制流量与待控制流量相加,得到流量请求通过后,网关集群预计负载的第一预计流量。
S130,在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量,第二预计流量包括微服务集群的当前控制流量与待控制流量之和。
上述网关流量阈值可以包括根据网关集群的总容量和/网络质量参数,确定的网关流量阈值。当第一预计流量小于或等于网关流量阈值时,可认为网关集群能够负载待控制流量。
网关集群可对应多个微服务集群,基于多个微服务集群,可以得到多个与微服务集群一一对应的第二预计流量。步骤S130可以包括分别将每一微服务集群的当前控制流量与待控制流量相加,得到待控制流量负载于该微服务集群时,微服务集群预计负载的第二预计流量。
S140,在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。
上述微服务流量阈值可以包括分别根据每一微服务集群的总容量和/或网络质量参数,确定的微服务流量阈值。上述预设行为控制可以包括对待控制流量进行限制。
本申请实施例的流量控制方法,能够基于待控制流量与网关集群中各流量控制节点的当前控制流量,确定网关集群的第一预计流量,并将第一预计流量与网关流量阈值进行比较,从而能够在网关层面、基于网关中的多个流量控制节点对流量进行控制,如此,能够基于网关流量阈值,对网关中多个流量控制节点的流量进行整体控制,从而提升流量控制的便捷性。本申请实施例还能够在第一预计流量小于或等于网关流量阈值的情况下,基于待控制流量与网关集群对应的每一微服务集群的当前控制流量,确定每一微服务集群对应的第二预计流量,在第二预计流量大于微服务流量阈值的情况下,对待控制流量进行预设行为控制,如此,能够在微服务层面对流量进行控制,从而能够提升流量控制的准确性,提升用户体验。本申请实施例能够在网关层面和微服务层面对流量进行控制,从而能够提升流量控制的便捷性和准确性,提升用户体验。
在一个实施例中,方法还可以包括:
在第一预计流量大于网关流量阈值的情况下,对待控制流量进行预设行为控制。
在第一预计流量大于网关流量阈值的情况下,可认为网关集群不能负载流量请求对应的待控制流量。该实施例中,在网关集群不能负载流量请求对应的待控制流量的情况下,对待控制流量进行预设行为控制,从而无需在微服务层面进行流量控制,提升了流量控制的便捷性。如此,能够在保证网络质量的同时,提高流量控制的效率。
在一个实施例中,在上述在接收到流量请求的情况下,确定流量请求对应的待控制流量之前,方法还可以包括:
分别获取网关集群的容量信息,以及网关集群对应的每一微服务集群的容量信息。
基于网关集群的容量信息,确定网关流量阈值。
基于每一微服务集群的容量信息,分别确定每一微服务集群对应的微服务流量阈值。
基于网关流量阈值和微服务流量阈值,生成流量配置参数。
通过分布式系统配置中心向网关集群与微服务集群下发流量配置参数,以用于对待控制流量进行预设行为控制。
该实施例基于网关集群的容量信息和微服务集群的容量信息,生成流量配置参数,并通过分布式系统配置中心向网关集群与微服务集群下发流量配置参数,如此,能够通过同一个配置中心配置网关集群与微服务集群的流量配置参数,并同步到网关集群和微服务集群。这样,不仅能够更方便地配置和获取流量配置参数,而且在流量配置参数发生更改时,无需重启工程服务来重新加载配置,提高了流量控制的效率。
在一个实施例中,分布式系统配置中心可以包括Zookeeper配置中心。
在一个实施例中,方法还可以包括:
在第一预计流量小于或等于网关流量阈值,且网关集群对应的微服务集群中,至少一个微服务集群对应的第二预计流量小于或等于微服务集群对应的微服务流量阈值的情况下,对待控制流量放行。
该实施例中,在网关集群和微服务集群均能够负载流量请求对应的待控制流量的情况下,对待控制流量放行,从而能够在基于流量请求产生的新的流量后,保障网络物理通道的畅通和业务的正常进行,从而能够提升流量控制的准确性和用户体验。
在一个实施例中,预设行为控制可以包括对待控制流量进行丢包处理,或者延迟放行待控制流量。
如此,能够通过多种方式对待控制流量进行限制,从而提升了流量控制的灵活性。
在一个实施例中,本申请实施例的方法可以通过如图2所示的流量控制系统执行。
如图2所示,流量控制系统可以包括网关集群、微服务集群、Zookeeper配置中心和流量配置控制面板。其中,网关集群中包括多个网关,每一网关可作为一个流量控制节点;网关集群对应多个微服务集群,每一微服务集群中包括多个微服务。在图2所示的流量控制系统中,网关中包括组件1。组件1可以为网关集成依赖包,其可以通过maven私服中央仓库获取。组件1可以从Zookeeper配置中心获取流量配置参数,基于组件1,可以通过自定义配置类注入过滤器Filter,并通过内部相关的异常处理(Exception Handle)接口控制基于预设行为控制的流量控制返回结果。微服务中包括组件2。组件2可以为微服务工程的依赖包,基于该依赖包可以通过Zookeeper配置中心获取流量配置参数,此外,组件2的配置文件中可以设置流量配置控制面板的监听端口,以用于微服务向流量配置控制面板发送心跳包。在组件2中,基于预设行为控制的流量控制返回结果可以通过实现内部相关的接口来控制。流量配置控制面板可以为轻量级控制台,流量配置控制面板可以用于可视化数据展示,以用于向相关人员展示流量控制行为。流量配置控制面板还可以用于配置持久化的监控参数,该监控参数一方面可用于接收微服务发送的心跳包,获取网关集群和微服务集群推送的数据包,并监控微服务的流量控制状态,另一方面可用于配置流量配置参数,并同步推送到Zookeeper配置中心。Zookeeper配置中心可以获取流量配置控制面板推送的流量配置参数,以用于通过网关集群和微服务集群读取配置的方式,向网关集群和微服务集群下发流量配置参数。
作为一个示例,流量控制方法可以包括:
分别通过网关集群和微服务集群向流量配置控制面板推送数据包。网关集群推送的数据包中可包括网关集群的容量信息,微服务集群推送的数据包中可包括每一微服务集群的容量信息。
通过流量配置控制面板,基于网关集群的容量信息,确定网关流量阈值。
通过流量配置控制面板,基于每一微服务集群的容量信息,分别确定每一微服务集群对应的微服务流量阈值。
通过流量配置控制面板,基于网关流量阈值和微服务流量阈值,生成流量配置参数,并同步推送到Zookeeper配置中心。
通过Zookeeper配置中心获取流量配置控制面板推送的流量配置参数,以用于通过网关集群和微服务集群读取配置的方式,向网关集群和微服务集群下发流量配置参数,以用于通过流量配置参数对待控制流量进行预设行为控制。
在接收到流量请求的情况下,确定流量请求对应的待控制流量。
对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量,第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与待控制流量之和。
在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量,第二预计流量包括微服务集群的当前控制流量与待控制流量之和。
在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。
基于相同的发明构思,本申请实施例还提供了一种流量控制装置200。
如图3所示,流量控制装置200可以包括确定模块201、统计模块202以及控制模块203。
确定模块201,用于在接收到流量请求的情况下,确定流量请求对应的待控制流量。
统计模块202,用于对网关集群中各流量控制节点对应的当前控制流量进行统计,得到网关集群的第一预计流量,第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与待控制流量之和。
统计定模块202,用于在第一预计流量小于或等于网关流量阈值的情况下,分别对网关集群对应的每一微服务集群的当前控制流量进行统计,得到每一微服务集群对应的第二预计流量,第二预计流量包括微服务集群的当前控制流量与待控制流量之和。
控制模块203,用于在每一微服务集群对应的第二预计流量大于微服务集群对应的微服务流量阈值的情况下,对待控制流量进行预设行为控制。
本申请实施例的流量控制装置,能够基于待控制流量与网关集群中各流量控制节点的当前控制流量,确定网关集群的第一预计流量,并将第一预计流量与网关流量阈值进行比较,从而能够在网关层面、基于网关中的多个流量控制节点对流量进行控制,如此,能够基于网关流量阈值,对网关中多个流量控制节点的流量进行整体控制,从而提升流量控制的便捷性。本申请实施例还能够在第一预计流量小于或等于网关流量阈值的情况下,基于待控制流量与网关集群对应的每一微服务集群的当前控制流量,确定每一微服务集群对应的第二预计流量,在第二预计流量大于微服务流量阈值的情况下,对待控制流量进行预设行为控制,如此,能够在微服务层面对流量进行控制,从而能够提升流量控制的准确性,提升用户体验。本申请实施例能够在网关层面和微服务层面对流量进行控制,从而能够提升流量控制的便捷性和准确性,提升用户体验。
在一个实施例中,控制模块还可用于在第一预计流量大于网关流量阈值的情况下,对待控制流量进行预设行为控制。
在一个实施例中,流量控制装置还可以包括:
获取模块,用于分别获取网关集群的容量信息,以及网关集群对应的每一微服务集群的容量信息;
确定模块,用于基于网关集群的容量信息,确定网关流量阈值。
确定模块,还用于基于每一微服务集群的容量信息,分别确定每一微服务集群对应的微服务流量阈值。
生成模块,用于基于网关流量阈值和微服务流量阈值,生成流量配置参数。
下发模块,用于通过分布式系统配置中心向网关集群与微服务集群下发流量配置参数,以用于对待控制流量进行预设行为控制。
在一个实施例中,流量控制装置还可以包括:
放行模块,用于在第一预计流量小于或等于网关流量阈值,且网关集群对应的微服务集群中,至少一个微服务集群对应的第二预计流量小于或等于微服务集群对应的微服务流量阈值的情况下,对待控制流量放行。
在一个实施例中,预设行为控制可以包括对所述待控制流量进行丢包处理,或者延迟放行所述待控制流量。
本申请实施例提供的流量控制装置能够实现图1的方法实施例实现的各个过程,为避免重复,这里不再赘述。
图4示出了本申请实施例提供的流量控制设备的硬件结构示意图。
在流量控制设备可以包括处理器301以及存储有计算机程序指令的存储器302。
具体地,上述处理器301可以包括中央处理器(CPU),或者特定集成电路(Application Specific Integrated Circuit,ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。
存储器302可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器302可包括硬盘驱动器(Hard Disk Drive,HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus,USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器302可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器302可在综合网关容灾设备的内部或外部。在特定实施例中,存储器302是非易失性固态存储器。
存储器可包括只读存储器(ROM),随机存取存储器(RAM),磁盘存储介质设备,光存储介质设备,闪存设备,电气、光学或其他物理/有形的存储器存储设备。因此,通常,存储器包括一个或多个编码有包括计算机可执行指令的软件的有形(非暂态)计算机可读存储介质(例如,存储器设备),并且当该软件被执行(例如,由一个或多个处理器)时,其可操作来执行参考根据本公开的一方面的方法所描述的操作。
处理器301通过读取并执行存储器302中存储的计算机程序指令,以实现上述实施例中的任意一种流量控制方法。
在一个示例中,流量控制设备还可包括通信接口303和总线310。其中,如图4所示,处理器301、存储器302、通信接口303通过总线310连接并完成相互间的通信。
通信接口303,主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线310包括硬件、软件或两者,将在线数据流量计费设备的部件彼此耦接在一起。举例来说而非限制,总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、外围组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线310可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。
该流量控制设备可以执行本申请实施例中的流量控制方法,从而实现结合图1和图3描述的流量控制方法和装置。
另外,结合上述实施例中的流量控制方法,本申请实施例可提供一种计算机存储介质来实现。该计算机存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种流量控制方法。
需要明确的是,本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本申请的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本申请的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本申请中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或系统。但是,本申请不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
上面参考根据本公开的实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各方面。应当理解,流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器,以产生一种机器,使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解,框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合,也可以由执行指定的功能或动作的专用硬件来实现,或可由专用硬件和计算机指令的组合来实现。
以上所述,仅为本申请的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的系统、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。
Claims (10)
1.一种流量控制方法,其特征在于,包括:
在接收到流量请求的情况下,确定所述流量请求对应的待控制流量;
对网关集群中各流量控制节点对应的当前控制流量进行统计,得到所述网关集群的第一预计流量,所述第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与所述待控制流量之和;
在所述第一预计流量小于或等于网关流量阈值的情况下,分别对所述网关集群对应的每一微服务集群的当前控制流量进行统计,得到所述每一微服务集群对应的第二预计流量,所述第二预计流量包括所述微服务集群的当前控制流量与所述待控制流量之和;
在所述每一微服务集群对应的第二预计流量大于所述微服务集群对应的微服务流量阈值的情况下,对所述待控制流量进行预设行为控制。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第一预计流量大于所述网关流量阈值的情况下,对所述待控制流量进行所述预设行为控制。
3.根据权利要求1或2所述的方法,其特征在于,在所述在接收到流量请求的情况下,确定所述流量请求对应的待控制流量之前,所述方法还包括:
分别获取所述网关集群的容量信息,以及所述网关集群对应的每一微服务集群的容量信息;
基于所述网关集群的容量信息,确定所述网关流量阈值;
基于所述每一微服务集群的容量信息,分别确定所述每一微服务集群对应的微服务流量阈值;
基于所述网关流量阈值和所述微服务流量阈值,生成流量配置参数;
通过所述分布式系统配置中心向所述网关集群与所述微服务集群下发所述流量配置参数,以用于对所述待控制流量进行预设行为控制。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第一预计流量小于或等于所述网关流量阈值,且所述网关集群对应的微服务集群中,至少一个所述微服务集群对应的第二预计流量小于或等于所述微服务集群对应的微服务流量阈值的情况下,对所述待控制流量放行。
5.根据权利要求1-4中任一项所述的方法,其特征在于,所述预设行为控制包括对所述待控制流量进行丢包处理,或者延迟放行所述待控制流量。
6.一种流量控制装置,其特征在于,包括:
确定模块,用于在接收到流量请求的情况下,确定所述流量请求对应的待控制流量;
统计模块,用于对网关集群中各流量控制节点对应的当前控制流量进行统计,得到所述网关集群的第一预计流量,所述第一预计流量包括网关集群中各流量控制节点对应的当前控制流量与所述待控制流量之和;
所述统计模块,还用于在所述第一预计流量小于或等于网关流量阈值的情况下,分别对所述网关集群对应的每一微服务集群的当前控制流量进行统计,得到所述每一微服务集群对应的第二预计流量,所述第二预计流量包括所述微服务集群的当前控制流量与所述待控制流量之和;
控制模块,用于在所述每一微服务集群对应的第二预计流量大于所述微服务集群对应的微服务流量阈值的情况下,对所述待控制流量进行预设行为控制。
7.根据权利要求6所述的装置,其特征在于,
所述控制模块,还用于在所述第一预计流量大于所述网关流量阈值的情况下,对所述待控制流量进行所述预设行为控制。
8.一种电子设备,其特征在于,所述设备包括:处理器以及存储有计算机程序指令的存储器;
所述处理器执行所述计算机程序指令时实现如权利要求1-5中任意一项所述的流量控制方法。
9.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现如权利要求1-5中任意一项所述的流量控制方法。
10.一种计算机程序产品,其特征在于,所述计算机程序产品中的指令由电子设备的处理器执行时,使得所述电子设备执行如权利要求1-5中任意一项所述的流量控制方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211172495.7A CN115567448A (zh) | 2022-09-26 | 2022-09-26 | 流量控制方法、装置、设备、介质及程序产品 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211172495.7A CN115567448A (zh) | 2022-09-26 | 2022-09-26 | 流量控制方法、装置、设备、介质及程序产品 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115567448A true CN115567448A (zh) | 2023-01-03 |
Family
ID=84743543
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211172495.7A Pending CN115567448A (zh) | 2022-09-26 | 2022-09-26 | 流量控制方法、装置、设备、介质及程序产品 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115567448A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117478610A (zh) * | 2023-12-27 | 2024-01-30 | 成都新希望金融信息有限公司 | 全局流量控制方法、装置、电子设备及存储介质 |
-
2022
- 2022-09-26 CN CN202211172495.7A patent/CN115567448A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117478610A (zh) * | 2023-12-27 | 2024-01-30 | 成都新希望金融信息有限公司 | 全局流量控制方法、装置、电子设备及存储介质 |
CN117478610B (zh) * | 2023-12-27 | 2024-03-12 | 成都新希望金融信息有限公司 | 全局流量控制方法、装置、电子设备及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106713396A (zh) | 服务器调度方法和系统 | |
CN115567448A (zh) | 流量控制方法、装置、设备、介质及程序产品 | |
CN112181614B (zh) | 任务超时监控方法、装置、设备、系统及存储介质 | |
CN116225703A (zh) | 集群处理方法、装置、设备及计算机可读存储介质 | |
CN111371536B (zh) | 一种控制指令的发送方法及装置 | |
CN111652486B (zh) | 一种业务指标的计算方法及装置 | |
CN109067864B (zh) | 通知消息推送方法、装置及电子设备 | |
CN111757371A (zh) | 一种传输时延的统计方法、服务器及存储介质 | |
CN113691457A (zh) | 限流控制方法、装置、设备及存储介质 | |
CN118152134A (zh) | 资源调整方法、装置、设备、介质及程序产品 | |
CN107103003B (zh) | 获取链路中数据的方法、获取设备、处理设备和系统 | |
CN117632443B (zh) | 业务流程的流转控制方法及装置、设备、介质 | |
CN114372298A (zh) | 数据完整性的确定方法、装置、计算机设备及存储介质 | |
CN113220554B (zh) | 检测程序代码的性能的方法和设备 | |
CN116132371A (zh) | 限流方法、装置、设备、介质及产品 | |
CN116781621A (zh) | 交易限流方法、装置、设备及计算机存储介质 | |
CN109063206B (zh) | 文章监控方法及装置 | |
CN115934313A (zh) | 一种业务请求处理的方法、装置、设备、介质及产品 | |
CN113592993A (zh) | 一种渲染的方法、装置、电子设备和计算机可读存储介质 | |
CN109587528B (zh) | 分配cdn资源的方法、装置、设备及介质 | |
CN115543594A (zh) | 存储资源的分配方法、装置、设备及存储介质 | |
CN115514820A (zh) | 数据调用的方法、装置、设备、存储介质及程序产品 | |
CN114710450A (zh) | 流量控制方法、装置、设备及计算机存储介质 | |
CN113590448A (zh) | 一种cpu使用率模拟方法、装置及电子设备 | |
CN117216113A (zh) | 用户的确定方法、装置、设备及计算机存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |