CN117675492A - 集群流量控制方法、装置、设备及介质 - Google Patents
集群流量控制方法、装置、设备及介质 Download PDFInfo
- Publication number
- CN117675492A CN117675492A CN202311689326.5A CN202311689326A CN117675492A CN 117675492 A CN117675492 A CN 117675492A CN 202311689326 A CN202311689326 A CN 202311689326A CN 117675492 A CN117675492 A CN 117675492A
- Authority
- CN
- China
- Prior art keywords
- flow control
- master node
- node
- request
- cluster
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 20
- 230000000694 effects Effects 0.000 claims abstract description 9
- 238000004590 computer program Methods 0.000 claims description 17
- 238000001514 detection method Methods 0.000 claims description 16
- 230000001186 cumulative effect Effects 0.000 claims description 5
- 230000000977 initiatory effect Effects 0.000 claims description 5
- 238000010200 validation analysis Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 description 11
- 238000009825 accumulation Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000012544 monitoring process Methods 0.000 description 7
- 230000004044 response Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005266 casting Methods 0.000 description 1
- 230000000052 comparative effect Effects 0.000 description 1
- 238000013499 data model Methods 0.000 description 1
- 238000013079 data visualisation Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 235000019800 disodium phosphate Nutrition 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明实施例公开了一种集群流量控制方法、装置、设备及介质。其包括:通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。本申请实施例不仅可提高流量控制的精度和可用性,而且还可以降低流量控制的延迟性。
Description
技术领域
本发明涉及物联网技术领域,尤其涉及一种集群流量控制方法、装置、设备及介质。
背景技术
随着物联网感知云平台的大量使用,当平台收到海量请求时,平台需要更多的资源来处理这些请求,处理每一个请求都需要消耗平台服务的网络、内存、CPU以及磁盘等相关资源,过多的请求会将服务的资源消耗尽并导致服务宕机,所以平台需要对请求的数量进行控制。
现有技术中对请求到平台服务的数量进行控制的方法如下:(1)通过在服务的每一个节点设置请求累计总数量的上线,当请求到服务时进行数量累计,然后判断累加的总量有没有超过规定的阈值,如果超过则进行流控。在物联网场景下为了保证服务的高可用性,服务通常都是多节点进行部署。当请求无法均匀的分配到每一个节点时,就会导致有些节点的请求累计总数量比较少,有些节点请求累计总数量比较大的情况。在这种情况下,请求量大的节点在达到流量控制阈值时就会对请求进行流控,而整体的流量控制阈值没有达到,导致流量控制不够精准的问题。(2)通过将流量控制处理放到一个节点进行处理,大致流程是在服务的节点接受到请求后,该节点立即向主节点发起是否进行流量控制的HTTP/TCP请求,由主节点判断是否对该请求进行流量控制拦截,同时也对请求累计总数量进行统计。但由于是通过HTTP/TCP请求到主节点,会存在一定的延迟,对整个请求的耗时有一定的影响。同时,主节点也存在单点问题,当主节点出现宕机时,整个流量控制将会失效,可用性不高。
发明内容
本发明实施例提供了一种集群流量控制方法、装置、设备及介质,旨在提高集群流量控制的精度和可用性以及降低流量控制的延迟性。
第一方面,本发明实施例提供了一种集群流量控制方法,其包括:
通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;
将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;
若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;
控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
第二方面,本发明实施例还提供了一种集群流量控制装置,其包括:
选举单元,用于通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;
初始化生效单元,用于将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;
接收发起单元,用于若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;
第一控制单元,用于控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
第三方面,本发明实施例还提供了一种计算机设备,所述计算机设备搭建有物联网平台,所述计算机设备包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现上述方法。
第四方面,本发明实施例还提供了一种计算机可读存储介质,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现上述方法。
本发明实施例提供了一种集群流量控制方法、装置、设备及介质。其中,所述方法包括:通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。本发明实施例的技术方案,将流量控制处理放到主节点进行处理,可提高流量控制的精度;通过Raft算法保证在主节点宕机的情况下,仍能再次选举出其它主节点作为主节点进行替换,从而保证流量控制继续生效,提高了流量控制的可用性;集群中的的各个非主节点在与主节点进行通信时使用UDP协议,UDP协议通信的耗时相对于HTTP/TCP的耗时降低很多,在一定程度上降低了流量控制的延迟性。
附图说明
为了更清楚地说明本发明实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种集群流量控制方法的流程示意图;
图2为本发明实施例提供的一种集群流量控制方法的子流程示意图;
图3为本发明实施例提供的选举主节点示意图;
图4为本发明实施例提供的耗时对比示意图;
图5为本发明实施例提供的可视化流控示意图;
图6为本发明实施例提供的节点处理示意图;
图7为本发明实施例提供的一种集群流量控制装置的示意性框图;
图8为本发明实施例提供的一种计算机设备的示意性框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
请参阅图1,图1是本发明实施例提供的一种集群流量控制方法的流程示意图。本发明实施例的集群流量控制方法可应用于物联网平台中,例如可通过配置于物联网平台上的软件程序来实现该集群流量控制方法。需要说明的是,本实施例中的物联网平台具体可为物联网感知云平台。如图1所示,该方法包括以下步骤S100-S130。
S100、通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点。
本发明实施例中,主节点是作为流量控制处理的核心节点,所有流量控制的计算都是由主节点进行处理,所以,在集群初始化过程中会优先进行主节点的选举。在本实施例中,集群中的各节点在启动后,通过Raft算法(Raft算法是一种共识算法,主要特点就是通过较为简单的算法实现分布式系统的数据一致性和高可用)发起主节点的选举,如图2所示,步骤S100具体可包括步骤S101-S104:S101、将所述集群中的各个节点初始化为非主节点状态;S102、从初始化为所述非主节点状态的各个节点中选取任一节点作为候选节点,所述候选节点可对自己进行投票,并向其它节点发送选举投票请求;S103、若所述其它节点在当前选举期内还未进行投票,则根据所述选举投票请求对所述候选节点进行投票;S104、若检测到所述候选节点的投票数大于预设票数,则将所述候选节点作为所述主节点。可理解地,在本实施例中,若检测到所述候选节点的投票数不大于预设票数,则返回将所述集群中的各个节点初始化为非主节点状态的步骤。需要说明的是,在本实施例中,所述预设票数为(N/2+1),N为所述集群中节点的个数;还需要说明的是,在本实施例中,当前选举期内所述候选节点发送的所述选举投票请求中的选举ID是相同的,表明在同一选举期内。实际应用中,通过Raft算法发起主节点的选举如图3所示,假设所述集群中包括节点A、节点B以及节点C,将节点A作为候选节点,节点A先给自己投票,此时,节点A的票数为1票,之后,向节点B和节点C发送选举投票请求(例如,图3中的投我),之后出出现三种选举结果,第一种选举结果为,节点B和节点C都将票投给了节点A,节点A的票数为3票,节点B和节点C都为0票,节点A为主节点;第二中选举结果为,节点B和节点C中的任意一个节点将票投给了节点A,例如,节点C将票投给节点A,节点B将票投给了自己,节点A为2票,节点B为1票,节点C为0票,主节点仍然为节点A;第三种选举结果为:节点B和节点C都将票投给了自己,节点A、节点B以及节点C都为1票,无法选出主节点,此时可进行重新选举,即重新将节点A、节点B以及节点C初始化为非主节点状态。
需要说明的是,在本实施例中,主节点选举完成之后,所述主节点会不断地向其它节点(非主节点)发送心跳检测信息,直至任一所述非主节点在预设心跳检测时间内没有接收到所述主节点发送的所述心跳检测信息为止。可理解地,在本实施例中,所述预设心跳检测时间为根据实际需求设定。
S110、将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值。
本发明实施例中,若检测到所述集群中的所有节点启动后,从所述数据库中加载所有节点的流量控制配置,并将所有的所述流量控制配置保存到本地,其中,本地是指内存;所述主节点选举完成之后,将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值,具体地,是将流量控制配置初始为对象可进行调用。之后,启动所述集群中的所有节点的定时任务,以定时的从数据库中加载所有节点的流量控制配置,并当检测到当前节点为所述主节点时返回执行所述将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值的步骤。可理解地,若检测到当前节点不为所述主节点,则不返回执行所述将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值的步骤。需要说明的是,在本实施中,在集群启动前期对流量控制阈值的可能存在预估不足的情况,当运行期间发现部分接口流量控制阈值设置的过大或者过小,不符合业务目标要求时,如果通过重新启动节点来调整流量控制阈值会严重影响使用体验,在本实施例中不仅可以通过在不重新启动节点的情况下动态调整流量控制阈值,提升使用体验。
S120、若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求。
本发明实施例中,经过选举确定主节点之后,由主节点作为流量控制判断的节点,同时,主节点启动UDP的服务用来接受非主节点的UDP请求。在本实施例中,若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求。需要说明的是,在本实施例中,当主节点出现问题时,例如出现宕机(宕机是指操作系统无法从一个严重系统错误中恢复过来,或系统硬件层面出问题,以致系统长时间无响应,而不得不重新启动计算机的现象)时,非主节点会根据Raft算法进行再次选举新的主节点,从而保障了主节点的高可用性。还需要说明的是,在本实施例中,如图4所示,非主节点通过UDP协议和主节点进行通信时,所需要的耗时基本维持在5ms以内,而非主节点同HTTP/TCP请求和主节点进行通信时,所需要的耗时基本维持在20ms左右,耗时有极大的性能提升,极大的降低了延迟性。
S130、控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
本发明实施例中,所述主节点接收所述非主节点发起UDP协议的请求之后,对所述UDP协议的请求数量进行累计以得到请求累计总数量,具体地,控制所述主节点获取所述UDP协议请求中请求接口的全局唯一ID;将所述全局唯一ID和获取的当前时间进行组合生成自增key,并通过所述自增key从缓存中进行原子性的自增操作得到所述请求累计总数量。
进一步地,计算出所述请求累计总数量之后,根据所述请求累计总数量和所述流量控制阈值进行流量控制。具体地,将所述请求累计总数量和所述流量控制阈值进行比较得到流控结果,并将所述流控结果返回给所述非主节点;若所述流控结果为所述请求累计总数量大于所述流量控制阈值,则控制所述非主节点向所述客户端返回拒绝请求;若所述流控结果为所述请求累计总数量不大于所述流量控制阈值,则控制所述非主节点向所述客户端返回通过请求。可理解地,流量控制用于防止在端口阻塞的情况下丢帧,这种方法是当发送或接收缓冲区开始溢出时通过将阻塞信号发送回源地址实现的。流量控制可以有效的防止由于网络中瞬间的大量数据对网络带来的冲击,保证用户网络高效而稳定的运行。
更进一步地,控制所述主节点向Prometheus输出所述请求累计总数量和所述流量控制阈值,其中,Prometheus是一个开源的服务监控系统和时序数据库,其提供了通用的数据模型和快捷数据采集、存储和查询接口;通过Grafana图形化展示所述请求累计总数量和所述流量控制阈值,其中,Grafana是一款开源的数据可视化工具,使用Grafana可以非常轻松的将数据转成图表的形式,以进行数据监控以及数据统计。具体地,主节点将请求的数据指标(请求累计总数量和流量控制阈值)输出Prometheus中,然后在Grafana中配置接口监控的指标图,通过监控图标能非常直观的看到流量控制情况。在实际应用中,如图5所示,图5是一个接口的流量监控图,这个接口设置的流量控制阈值为每秒500次请求,从图5中可以看出,当某个时间一秒内的请求数量超过500时就会被拦截,拦截线条展示的就是被拦截的请求数量,未被拦截线条展示的是通过的请求数量,未被拦截线条的最大值为500,正好对应了流量控制阈值。通过图表数据的展示,管理员可以可视化的检测当前网关的流量控制情况。
如图6所示,展示了非主节点接收到客户端发起的请求后的处理过程。大致过程如下:若非主节点接收到客户端发起的请求,则向向所述主节点发起UDP协议的请求;所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据请求累计总数量和流量控制阈值确定流控结果;主节点向非主节点返回流控结果,非主节点根据流控结果向客户端返回拒绝请求或通过请求;同时主节点还会将请求累计总数量和流量控制阈值输出至Prometheus,即向Prometheus推送请求指标。
综上所述,在本实施例中,主节点由Raft算法进行选举,在当前主节点出现异常时,可用由集群中非主节点依据Raft算法进行再次选举,从而保证流量控制处理的高可用性;主节点在选举完成后立即建立UDP监听服务,接受非主节点的UDP请求,在非主节点向主节点发起流量控制判断时,两边使用UDP协议进行通信,相比于现有技术中HTTP/TCP请求,降低了延迟性;而集群的各个节点通常都是在一个机房里面,各节点之间的网络情况基本都是非常良好的,所以使用UDP协议进行通信时,基本可用保证数据传输的稳定性;在主节点接受到流量控制处理的请求时,主节点可以获取到当前请求的相关数据(请求累计总数量和流量控制阈值),然后将这些数据以固定的格式推送给Prometheus,这样可以及时统计请求情况,在将数据保存到Prometheus的情况下,可以通过在Grafana上配置指标展示,从而实现流量控制的可视化监控。
图7是本发明实施例提供的一种集群流量控制装置200的示意性框图。如图7所示,对应于以上集群流量控制方法,本发明还提供一种集群流量控制装置200。该集群流量控制装置200包括用于执行上述集群流量控制方法的单元。具体地,请参阅图7,该集群流量控制装置200包括选举单元201、初始化生效单元202、接收发起单元203以及第一控制单元204。
其中,所述选举单元201用于通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;所述初始化生效单元202用于将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;所述接收发起单元203用于若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;所述第一控制单元204用于控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
在某些实施例,例如本实施例中,所述选举单元201包括初始化单元、发送单元、投票单元以及检测作为单元。
其中,所述初始化单元用于将所述集群中的各个节点初始化为非主节点状态;所述发送单元用于从初始化为所述非主节点状态的各个节点中选取任一节点作为候选节点,所述候选节点可对自己进行投票,并向其它节点发送选举投票请求;所述投票单元用于若所述其它节点在当前选举期内还未进行投票,则根据所述选举投票请求对所述候选节点进行投票;所述检测作为单元用于若检测到所述候选节点的投票数大于预设票数,则将所述候选节点作为所述主节点。
在某些实施例,例如本实施例中,所述第一控制单元204包括获取单元、生成操作单元、比较单元、第一控制子单元以及第二控制子单元。
其中,所述获取单元用于控制所述主节点获取所述UDP协议请求中请求接口的全局唯一ID;所述生成操作单元用于将所述全局唯一ID和获取的当前时间进行组合生成自增key,并通过所述自增key从缓存中进行原子性的自增操作得到所述请求累计总数量;所述比较单元用于将所述请求累计总数量和所述流量控制阈值进行比较得到流控结果,并将所述流控结果返回给所述非主节点;所述第一控制子单元用于若所述流控结果为所述请求累计总数量大于所述流量控制阈值,则控制所述非主节点向所述客户端返回拒绝请求;所述第二控制子单元用于若所述流控结果为所述请求累计总数量不大于所述流量控制阈值,则控制所述非主节点向所述客户端返回通过请求。
在某些实施例,例如本实施例中,所述集群流量控制装置200还包括输出单元、展示单元、第二控制单元以及加载返回单元。
其中,所述输出单元用于控制所述主节点向Prometheus输出所述请求累计总数量和所述流量控制阈值;所述展示单元用于通过Grafana图形化展示所述请求累计总数量和所述流量控制阈值;所述第二控制单元用于控制所述主节点向所有的所述非主节点发送心跳检测信息,直至任一所述非主节点在预设心跳检测时间内没有接收到所述主节点发送的所述心跳检测信息为止;所述加载返回单元用于启动所述集群中的所有节点的定时任务,以定时的从数据库中加载所有节点的流量控制配置,并当检测到当前节点为所述主节点时返回执行所述将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值的步骤。
需要说明的是,所属领域的技术人员可以清楚地了解到,上述集群流量控制装置200和各单元的具体实现过程,可以参考前述方法实施例中的相应描述,为了描述的方便和简洁,在此不再赘述。
上述集群流量控制装置可以实现为一种计算机程序的形式,该计算机程序可以在如图8所示的计算机设备上运行。
请参阅图8,图8是本申请实施例提供的一种计算机设备的示意性框图。该计算机设备900为搭建有物联网平台的设备。
参阅图8,该计算机设备900包括通过系统总线901连接的处理器902、存储器和接口907,其中,存储器可以包括存储介质903和内存储器904。
该存储介质903可存储操作系统9031和计算机程序9032。该计算机程序9032被执行时,可使得处理器902执行上述集群流量控制方法。
该处理器902用于提供计算和控制能力,以支撑整个计算机设备900的运行。
该内存储器904为存储介质903中的计算机程序9032的运行提供环境,该计算机程序9032被处理器902执行时,可使得处理器902执行一种集群流量控制方法。
该接口905用于与其它设备进行通信。本领域技术人员可以理解,图8中示出的结构,仅仅是与本申请方案相关的部分结构的框图,并不构成对本申请方案所应用于其上的计算机设备900的限定,具体的计算机设备900可以包括比图中所示更多或更少的部件,或者组合某些部件,或者具有不同的部件布置。
其中,所述处理器902用于运行存储在存储器中的计算机程序9032,以实现上述方法的实施例的流程步骤。
应当理解,在本申请实施例中,处理器902可以是中央处理单元(CentralProcessing Unit,CPU),该处理器902还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。其中,通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
本领域普通技术人员可以理解的是实现上述实施例的方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成。该计算机程序可存储于一存储介质中,该存储介质为计算机可读存储介质。该计算机程序被该无线通信系统中的至少一个处理器执行,以实现上述方法的实施例的流程步骤。
因此,本发明还提供一种存储介质。该存储介质可以为计算机可读存储介质。该存储介质存储有计算机程序。该计算机程序被处理器执行时使处理器执行上述集群流量控制方法的任意实施例。
所述存储介质可以是U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、磁碟或者光盘等各种可以存储程序代码的计算机可读存储介质。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、无线通信软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的。例如,各个单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式。例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。
本发明实施例方法中的步骤可以根据实际需要进行顺序调整、合并和删减。本发明实施例装置中的单元可以根据实际需要进行合并、划分和删减。另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以是两个或两个以上单元集成在一个单元中。
该集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分,或者该技术方案的全部或部分可以以软件产品的形式体现出来,该无线通信软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人无线通信,终端,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详细描述的部分,可以参见其他实施例的相关描述。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,尚且本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (10)
1.一种集群流量控制方法,其特征在于,包括:
通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;
将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;
若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;
控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
2.根据权利要求1所述的集群流量控制方法,其特征在于,所述通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,包括:
将所述集群中的各个节点初始化为非主节点状态;
从初始化为所述非主节点状态的各个节点中选取任一节点作为候选节点,所述候选节点可对自己进行投票,并向其它节点发送选举投票请求;
若所述其它节点在当前选举期内还未进行投票,则根据所述选举投票请求对所述候选节点进行投票;
若检测到所述候选节点的投票数大于预设票数,则将所述候选节点作为所述主节点。
3.根据权利要求1所述的集群流量控制方法,其特征在于,所述控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,包括:
控制所述主节点获取所述UDP协议请求中请求接口的全局唯一ID;
将所述全局唯一ID和获取的当前时间进行组合生成自增key,并通过所述自增key从缓存中进行原子性的自增操作得到所述请求累计总数量。
4.根据权利要求1所述的集群流量控制方法,其特征在于,所述根据所述请求累计总数量和所述流量控制阈值进行流量控制,包括:
将所述请求累计总数量和所述流量控制阈值进行比较得到流控结果,并将所述流控结果返回给所述非主节点;
若所述流控结果为所述请求累计总数量大于所述流量控制阈值,则控制所述非主节点向所述客户端返回拒绝请求;
若所述流控结果为所述请求累计总数量不大于所述流量控制阈值,则控制所述非主节点向所述客户端返回通过请求。
5.根据权利要求1所述的集群流量控制方法,其特征在于,所述控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制之后,还包括:
控制所述主节点向Prometheus输出所述请求累计总数量和所述流量控制阈值;
通过Grafana图形化展示所述请求累计总数量和所述流量控制阈值。
6.根据权利要求1所述的集群流量控制方法,其特征在于,所述通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点之后,还包括:
控制所述主节点向所有的所述非主节点发送心跳检测信息,直至任一所述非主节点在预设心跳检测时间内没有接收到所述主节点发送的所述心跳检测信息为止。
7.根据权利要求1所述的集群流量控制方法,其特征在于,所述将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值之后,还包括:
启动所述集群中的所有节点的定时任务,以定时的从数据库中加载所有节点的流量控制配置,并当检测到当前节点为所述主节点时返回执行所述将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值的步骤。
8.一种集群流量控制装置,其特征在于,包括:
选举单元,用于通过Raft算法从集群中的各个节点中选举出一个节点作为主节点,并将所述集群中除所述主节点之外的其它节点作为非主节点;
初始化生效单元,用于将与所述主节点相对应的流量控制配置进行初始化,并生效为流量控制阈值;
接收发起单元,用于若检测到任一所述非主节点接收到客户端发起的请求,则控制所述非主节点向所述主节点发起UDP协议的请求;
第一控制单元,用于控制所述主节点对所述UDP协议的请求数量进行累计以得到请求累计总数量,并根据所述请求累计总数量和所述流量控制阈值进行流量控制。
9.一种计算机设备,其特征在于,所述计算机设备搭建有物联网平台,所述计算机设备包括存储器及处理器,所述存储器上存储有计算机程序,所述处理器执行所述计算机程序时实现如权利要求1-7中任一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述存储介质存储有计算机程序,所述计算机程序当被处理器执行时可实现如权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311689326.5A CN117675492A (zh) | 2023-12-11 | 2023-12-11 | 集群流量控制方法、装置、设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311689326.5A CN117675492A (zh) | 2023-12-11 | 2023-12-11 | 集群流量控制方法、装置、设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117675492A true CN117675492A (zh) | 2024-03-08 |
Family
ID=90065873
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311689326.5A Pending CN117675492A (zh) | 2023-12-11 | 2023-12-11 | 集群流量控制方法、装置、设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117675492A (zh) |
-
2023
- 2023-12-11 CN CN202311689326.5A patent/CN117675492A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9384114B2 (en) | Group server performance correction via actions to server subset | |
JP5418250B2 (ja) | 異常検出装置、プログラム、及び異常検出方法 | |
CN108173698B (zh) | 网络服务管理方法、装置、服务器及存储介质 | |
CN110247856B (zh) | 服务器资源释放方法和装置 | |
CN110858843B (zh) | 业务请求处理方法、装置及计算机可读存储介质 | |
US10389801B2 (en) | Service request processing method, related apparatus, and system | |
CN106130972B (zh) | 资源访问控制方法和装置 | |
CN111726303A (zh) | 一种流量控制方法、装置以及计算设备 | |
CN110471749A (zh) | 任务处理方法、装置、计算机可读存储介质和计算机设备 | |
US20100235496A1 (en) | Method, System and Apparatus for Collecting Statistics of Characteristic Value with Threshold | |
JP2016126677A (ja) | 負荷算出方法、負荷算出プログラム及び負荷算出装置 | |
CN110311963B (zh) | 消息推送方法、装置、计算机设备及计算机可读存储介质 | |
CN106936926B (zh) | 访问数据节点的方法及系统 | |
CN106789723B (zh) | 多核网络转发限速的方法和装置 | |
CN114168071B (zh) | 一种分布式集群扩容方法、分布式集群扩容装置及介质 | |
CN113452770B (zh) | 数据同步方法、装置、计算机设备及存储介质 | |
CN117675492A (zh) | 集群流量控制方法、装置、设备及介质 | |
CN108804152B (zh) | 配置参数的调节方法及装置 | |
CN112860427A (zh) | 容器集群的负载均衡方法、装置与容器集群 | |
CN116455830A (zh) | 实现存储网关高可用分布式qos的方法 | |
JP2024016782A (ja) | リソース割り当ての決定方法、装置、計算装置及びコンピュータプログラム | |
CN111865722B (zh) | 一种节点健康状态检测及处理方法 | |
CN111935782A (zh) | 客户端重试机制的优化方法、存储介质 | |
CN110401708B (zh) | 基于服务器负载状态的会话处理系统及方法 | |
CN110636090B (zh) | 窄带宽条件下的数据同步方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |