CN114296869A - 一种基于tcp长连接的服务器节点服役方法及装置 - Google Patents
一种基于tcp长连接的服务器节点服役方法及装置 Download PDFInfo
- Publication number
- CN114296869A CN114296869A CN202111564441.0A CN202111564441A CN114296869A CN 114296869 A CN114296869 A CN 114296869A CN 202111564441 A CN202111564441 A CN 202111564441A CN 114296869 A CN114296869 A CN 114296869A
- Authority
- CN
- China
- Prior art keywords
- service node
- service nodes
- service
- capacity expansion
- node
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Transfer Between Computers (AREA)
Abstract
本说明书实施例公开了一种基于TCP长连接的服务器节点服役方法及装置。方案可以包括:获取服务节点的数量和与服务节点建立长连接的客户端连接总数量;服务节点包括扩容后的新增服务节点和已有服务节点;根据服务节点的数量和客户端连接总数量,确定各个服务节点所需处理的客户端连接平均数量;根据各个服务节点所需处理的客户端连接平均数量,确定已有服务节点需要断开的客户端连接的目标数量;将已有服务节点中目标数量的客户端连接断开;将从已有服务节点断开后的目标数量的客户端连接,分配至扩容后的新增服务节点。本说明书实施例提供的方法能够保证服务的稳定性,提升服务资源利用效率,快速缓解集群中其他服务节点压力。
Description
技术领域
本申请涉及服务器技术领域,尤其涉及一种基于TCP长连接的服务器节点服役方法及装置。
背景技术
传输控制协议(Transmission Control Protocol,简称TCP)是一种面向连接的、可靠的、基于字节流的传输层通信协议。客户端向服务器发起连接,服务器接受客户端连接,双方建立连接。客户端与服务器完成一次读写之后,它们之间的连接并不会主动关闭,后续的读写操作会继续使用这个连接。
在基于TCP的长连接应用场景中,客户端访问网络服务的报文先到达负载均衡调度器,调度器根据连接调度算法从后端的一组服务节点(服务池)选出一个服务节点,将数据报文发送给选定的服务节点,同时在本地记录连接哈希表,当这个客户端连接的下一次报文到达时,从连接哈希表中获取已选定的服务节点信息,再次将数据包发送到该服务节点。
当集群服务器的服务能力不足时,有效的解决方案是通过水平扩容(如增加服务节点)的方式来提升群集的服务能力。对于扩容后新增服务节点,如果客户端没有发起新的连接,原有服务节点的压力并未减小,然而要使新增服务节点服役,就必须重启负载均衡器,或重启其他现有服务节点,促使断开各客户端已建立的连接,触发客户端发起重连,进而由负载均衡器重新按负载均衡调度策略,完成重新分发连接,此时新增服务节点才有可能加入服务,但此操作会影响整个系统的服务稳定性和可靠性。
因此,急需一种使扩容后的服务节点快速服役的方法。
发明内容
本说明书实施例提供一种基于TCP长连接的服务器节点服役方法及装置,以减少扩容后的服务节点未服役的时间,提升扩容升级对客户端连接稳定性。
为解决上述技术问题,本说明书实施例是这样实现的:
本说明书实施例提供的基于TCP长连接的服务器节点服役方法,包括:
获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点;
根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量;
根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量;
将所述已有服务节点中所述目标数量的客户端连接断开;
将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
可选的,所述获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量之前,还包括:
调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
可选的,获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
可选的,所述将所述已有服务节点需要断开的客户端连接数量,分配至所述扩容后的新增服务节点之后,还包括:
调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。
本说明书实施例提供的一种基于TCP长连接的服务器节点服役装置,包括:第一获取模块,用于获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点;
第一确定模块,用于根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量;
第二确定模块,用于根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量;
客户端连接断开模块,用于将所述已有服务节点中所述目标数量的客户端连接断开;
分配模块,用于将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
可选的,第一调整模块,用于调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
可选的,所述装置还包括:
第二获取模块,用于获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
第二调整模块,用于当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
可选的,
第三调整模块,用于调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。
本说明书一个实施例至少能够达到以下有益效果:
通过获取服务节点的数量和全部客户端连接的总数量,计算出每一服务节点的客户端连接平均数量,将已有服务节点中的超出客户端连接平均数量的客户端断开,分配至扩容后的新增服务节点中。本说明书实施例中的方法仅针对已有服务点中的部分客户端断开连接,将客户端稳定连接的影响降到了最低,同时能够实现扩容后的新增节点的快速服役,提升服务资源利用效率及快速缓解集群中其他服务节点压力,快速提升集群整体服务能力。
附图说明
为了更清楚地说明本说明书实施例或已有技术中的技术方案,下面将对实施例或已有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本说明书实施例中基于TCP长连接的服务器节点服役方法的整体方案流程示意图;
图2为本说明书实施例提供的基于TCP长连接的服务器节点服役方法的流程示意图;
图3为本实施例提供的基于TCP长连接的服务器节点服役方法的整体架构示意图;
图4为本说明书实施例提供的经过扩容后的整体架构示意图;
图5为本说明书实施例提供的经过分配后的整体架构示意图;
图6为本说明书实施例提供的对应于图2的基于TCP长连接的服务器节点服役装置的结构示意图。
具体实施方式
为使本说明书一个或多个实施例的目的、技术方案和优点更加清楚,下面将结合本说明书具体实施例及相应的附图对本说明书一个或多个实施例的技术方案进行清楚、完整地描述。显然,所描述的实施例仅是本说明书的一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本说明书一个或多个实施例保护的范围。
应当理解,尽管在本申请文件中可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。
以下结合附图,详细说明本说明书各实施例提供的技术方案。
当服务器集群进行扩容后,扩容后的新增服务节点由于没有客户端发起长连接,使得扩容后的新增服务节点在一段时间内处于“未服役”状态。本申请技术方案为了减少“未服役”状态持续的时间,减少对集群现有节点的影响,减少集群因扩容带来的级联波动性,提出本申请的方案。
为了解决已有技术中的缺陷,本方案给出了以下实施例:
图1为本说明书实施例中一种基于TCP长连接的服务器节点服役方法的整体方案流程示意图。如图1所示,本申请的整体方案包括客户端10、负载均衡调度器20和服务器30。其中,客户端10访问服务器30的报文先到达负载均衡调度器20,负载均衡调度器20根据连接调度算法从服务器30的多个服务节点中选出一个服务节点,将数据报文发送给选定的服务节点,同时在本地记录连接哈希表,当这个客户端10连接的下一次报文到达时,从连接哈希表中获取已选定的服务节点信息,再次将数据包发送到该服务节点。
当服务器30节点扩容后,对于扩容后的新增服务节点的客户端10连接分配时,应用本申请的技术方案。
图2为本说明书实施例提供的一种基于TCP长连接的服务器节点服役方法的流程示意图。从程序角度而言,流程的执行主体可以为搭载于应用服务器或应用终端的程序。
如图2所示,该流程可以包括以下步骤:
步骤202:获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点。
实际应用中,可以通过统计客户端的IP+端口获取与服务节点建立长连接的总数量。
步骤204:根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量。
本实施例中,当根据所述服务节点的数量和所述客户端连接总数量,可以采用公式1进行计算客户端连接平均数量N,公式1如下:
客户端连接平均数量N=客户端连接总数量/服务节点的数量
如果服务节点数与客户端连接总数量不能整除,则其余数值表示在已有服务节点中,至少有该值个服务节点要处理的连接数等于N加1,从而得出每个服务节点具体实际要处理的连接数。
步骤206:根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量。
基于已有服务节点当前实际已连接的客户端连接,从中基于算法策略,选择出N或N+1条,作为可以继续保持连接的客户端连接,而N或N+1条之外的客户端连接作为要求服务节点断开连接的配置数据,将其发送给到对应的服务节点。
在选择继续保持连接的客户端连接时,可以随机选择随机的算法进行筛选,亦可采用顺序查找、或者倒序查找等方法确定出需要断开的连接。应理解,本说明书实施例中不局限于上述算法,凡是能确定出断开N或N+1条连接的算法都可以为本申请所利用。
步骤208:将所述已有服务节点中所述目标数量的客户端连接断开。
在已有服务节点中需要主动断开连接的配置数据中,从进程内的“客户端连接状态”缓存找到对应的TCP连接,并执行主动断开该客户端与服务节点之间的连接。
步骤210:将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
在已有服务节点的已建立连接的客户端接收到服务端主动断开连接后,客户端会重新发起连接请求。将重新发起请求的客户端连接分配至扩容后的新增服务节点中。
本说明书实施例中的基于TCP长连接的服务器节点实时服役方法,通过获取服务节点的客户端连接平均数量,将已有服务节点需要断开的目标数量的客户连接重新分配至扩容后的新增服务节点上,实现了扩容后的新增服务节点的快速服役,缩短扩容后的新增服务节点未服役的时间。由于仅对目标数量的客户端连接进行的重连接,尽可能的减少了对客户端稳定性的影响,有效缓解了集群中已有服务节点的压力,提升了集群整体服务能力。
应当理解,本说明书一个或多个实施例所述的方法中,部分步骤的顺序可以根据实际需要调整,或者可以省略部分步骤。
基于图2的方法,本说明书实施例还提供了该方法的一些具体实施方式,下面进行说明。
可选的,所述获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量之前,还包括:
调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
数据分配优先级是指分配给服务节点的先后顺序,数据分配优先级高的服务节点会有限被分配客户连接。在本实施例中可以通过调整服务节点的负载均衡调度权重实现数据分配优先级的调整。例如:调整扩容后的新增服务节点的负载均衡调度权重为999999,已有服务节点负载均衡调度权重调整为0。经过上述调整后,当客户端连接再分配时,会有限分配给扩容后的新增服务节点,而不会分配给已有服务节点。
通过上述方法,能够使扩容后的新增服务节点快速获得数据连接,进一步缩短扩容后的新增服务节点的未服役时间。
可选的,获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
最大允许连接窗口期可以动态进行调整,需要说明的是,当最大允许连接窗口期设置时间过长,会导致并不是由于服务端主动断开连接而进行重连接的客户端被分流到扩容后的新增服务节点,从而出现负载不均衡。
当断开的客户端连接全部实现重连,或最大允许连接窗口期结束,先恢复已有服务节点的数据分配优先级,再将扩容后的新增服务节点的分配优先级调整至于已有服务节点的数据分配优先级相同。
通过上述方法,避免了扩容后的新增服务节点出现负载不均衡的情况。
可选的,所述将所述已有服务节点需要断开的客户端连接数量,分配至所述扩容后的新增服务节点之后,还包括:
调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。需要说明的是,当客户端重新发起新的连接时,会无差别的分配至任意服务节点中。本实施例中,可以将扩容后的新增服务节点和已有服务节点的权重调整至0~999999之间的任意值。
通过上述方法,将扩容后的新增服务节点的数据分配优先级调整与已有服务节点的数据分配优先级相同,即全部服务节点的数据分配优先级相同,能够使负载均衡调度器均衡负载,将新连接请求分发全部服务节点。
根据上面的说明,本说明书实施例提供的一种实际应用场景下,基于TCP长连接的服务器节点实时服役方法。
图3为本实施例提供的基于TCP长连接的服务器节点服役方法的整体架构示意图。如图3所示,本实施例中以三个服务节点的集群,S1、S2和S3,负载均衡调度策略采用轮询,面向3000并发客户端(C1~C3000)的TCP长连接服务场景为例进行说明,客户端满载情况下,服务节点S1、S2、S3各个服务节点均服务1000个客户端。图4为本实施例提供的经过扩容后的整体架构示意图,如图4所示,经过扩容后,新增2个服务节点S4和S5。
在本实施例中服务节点的数量为5个,客户端连接总数量为3000。其中,扩容后的新增节点的数量为2个,已有服务节点的数量为3个。
在本实施例中各个所述服务节点所需处理的客户端连接平均数量=3000/5=600个。
由于已有服务节点最初服务的客户端的数量为1000个,客户端连接平均数量为600个,因此,已有服务节点需要断开的客户端连接的目标数量为400个。
本实施例中采用顺序查找的方式,确定出需要断开的客户端连接的目标数量。
将S1、S2和S3断开的1200个客户端连接,平均分配给S4和S5。图5为本实施例提供的经过分配后的整体架构示意图,如图5所示,分配给S4和S5各600个客户端连接。
通过上述方法,通过对已有服务节点筛选出一部分连接,而不是将全部连接进行重连,降低了对客户端稳定性的影响,并实现了扩容后的服务节点的快速服役,提升了服务资源利用率。
本说明书实施例可以用在云控平台基于TCP长连接的应用场景中,其中,云控平台是将路侧视觉感知设备(如摄像头、毫米波雷达、激光雷达等)实时采集的数据通过路侧计算单元(Roadside Computing Unit,简称RCU)上传至云端,将车载终端对交通道路中各元素进行数据采集,上传至云端,云端通过数据融合、协同决策控制等算法将车辆运动的决策与控制下发到车端,以及对交通的调控系统进行协同、综合控制的平台。道路上的各种交通参与物会实时接入RCU,而RCU上的客户端程序均是无间断运行的,如果没有特殊异常,并不会断开连接,所以如果服务端不使用主动断开连接,扩容后的新增服务节点就无法为这些RCU提供服务。
基于同样的思路,本说明书实施例还提供了上述方法对应的装置。图6为本说明书实施例提供的对应于图2的一种基于TCP长连接的服务器节点服役装置的结构示意图。如图6所示,该装置可以包括:
第一获取模块601,用于获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点;
第一确定模块603,用于根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量;
第二确定模块605,用于根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量;
客户端连接断开模块607,用于将所述已有服务节点中所述目标数量的客户端连接断开;
分配模块609,用于将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
基于图6的装置,本说明书实施例还提供了该方法的一些具体实施方案,下面进行说明。
可选的,第一调整模块,用于调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
可选的,所述装置还包括:
第二获取模块,用于获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
第二调整模块,用于当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
可选的,所述装置还包括:
第三调整模块,用于调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。
可以理解,上述的各模块是指计算机程序或者程序段,用于执行某一项或多项特定的功能。此外,上述各模块的区分并不代表实际的程序代码也必须是分开的。
上述对本说明书特定实施例进行了描述,在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本说明书中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可。
本说明书实施例提供的装置、设备与方法是对应的,因此,装置、设备也具有与对应方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述对应装置、设备的有益技术效果。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字符系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等,目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本发明的实施例可提供为方法、系统、或计算机程序产品。因此,本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字符多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带式磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (8)
1.一种基于TCP长连接的服务器节点服役方法,其特征在于,包括:
获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点;
根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量;
根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量;
将所述已有服务节点中所述目标数量的客户端连接断开;
将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
2.根据权利要求1所述的基于TCP长连接的服务器节点服役方法,其特征在于,所述获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量之前,还包括:
调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
3.根据权利要求2所述的基于TCP长连接的服务器节点服役方法,其特征在于,所述方法还包括:
获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
4.根据权利要求2所述的基于TCP长连接的服务器节点服役方法,其特征在于,所述将所述已有服务节点需要断开的客户端连接数量,分配至所述扩容后的新增服务节点之后,还包括:
调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。
5.一种基于TCP长连接的服务器节点服役装置,其特征在于,包括:
第一获取模块,用于获取服务节点的数量和与所述服务节点建立长连接的客户端连接总数量;所述服务节点包括扩容后的新增服务节点和已有服务节点;
第一确定模块,用于根据所述服务节点的数量和所述客户端连接总数量,确定各个所述服务节点所需处理的客户端连接平均数量;
第二确定模块,用于根据各个所述服务节点所需处理的客户端连接平均数量,确定所述已有服务节点需要断开的客户端连接的目标数量;
客户端连接断开模块,用于将所述已有服务节点中所述目标数量的客户端连接断开;
分配模块,用于将从所述已有服务节点断开后的所述目标数量的客户端连接,分配至所述扩容后的新增服务节点。
6.根据权利要求5所述的基于TCP长连接的服务器节点服役装置,其特征在于,
第一调整模块,用于调整所述扩容后的新增服务节点和已有服务节点的数据分配优先级,以使所述扩容后的新增服务节点的数据分配优先级高于所述已有服务节点的数据分配优先级。
7.根据权利要求6所述的基于TCP长连接的服务器节点服役装置,其特征在于,所述装置还包括:
第二获取模块,用于获取所述断开的客户端的最大允许连接窗口期,以及所述断开的客户端与所述扩容后的新增服务节点建立起连接的连接时间;
第二调整模块,用于当所述连接时间长于所述最大允许连接窗口期时,调整所述扩容后的新增服务节点的分配优先级与所述已有服务节点的数据分配优先级相同。
8.根据权利要求6所述的基于TCP长连接的服务器节点服役装置,其特征在于,所述装置还包括:
第三调整模块,用于调整所述扩容后的新增服务节点的数据分配优先级与已有服务节点的数据分配优先级相同。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111564441.0A CN114296869A (zh) | 2021-12-20 | 2021-12-20 | 一种基于tcp长连接的服务器节点服役方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111564441.0A CN114296869A (zh) | 2021-12-20 | 2021-12-20 | 一种基于tcp长连接的服务器节点服役方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114296869A true CN114296869A (zh) | 2022-04-08 |
Family
ID=80967531
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111564441.0A Pending CN114296869A (zh) | 2021-12-20 | 2021-12-20 | 一种基于tcp长连接的服务器节点服役方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114296869A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115242720A (zh) * | 2022-08-03 | 2022-10-25 | 北京达佳互联信息技术有限公司 | 长连接服务的连接方法、装置、电子设备以及存储介质 |
-
2021
- 2021-12-20 CN CN202111564441.0A patent/CN114296869A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115242720A (zh) * | 2022-08-03 | 2022-10-25 | 北京达佳互联信息技术有限公司 | 长连接服务的连接方法、装置、电子设备以及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170279674A1 (en) | Method and apparatus for expanding high-availability server cluster | |
US10009284B2 (en) | Policy-based session establishment and transfer in a virtualized/cloud environment | |
CN113300985B (zh) | 数据处理方法、装置、设备和存储介质 | |
CN110795244B (zh) | 一种任务分配方法、装置、设备及介质 | |
CN112929408A (zh) | 动态负载均衡方法及装置 | |
CN107645520B (zh) | 一种负载均衡方法、装置以及系统 | |
EP3779692B1 (en) | Blockchain data processing | |
CN112492574B (zh) | 一种负载迁移方法、装置及系统 | |
CN112448984A (zh) | 资源传输方法、电子设备及计算机存储介质 | |
CN110515728B (zh) | 服务器调度方法、装置、电子设备及机器可读存储介质 | |
CN105847377A (zh) | 集群网络的请求拥塞过载处理方法及系统 | |
CN112202829A (zh) | 基于微服务的社交机器人调度系统和调度方法 | |
CN109982034A (zh) | 视频监控系统中的访问请求处理方法及装置 | |
CN105592134A (zh) | 一种负载分担的方法和装置 | |
CN114296869A (zh) | 一种基于tcp长连接的服务器节点服役方法及装置 | |
CN110581784B (zh) | 一种节点健康检查方法、装置及设备 | |
CN116069493A (zh) | 一种数据处理方法、装置、设备以及可读存储介质 | |
US20210084100A1 (en) | Packet Processing Method, Related Device, and Computer Storage Medium | |
CN105657009A (zh) | 对象网关负载均衡系统、方法及跨区域对象网关存储系统 | |
CN114911602A (zh) | 一种服务器集群的负载均衡方法、装置、设备和存储介质 | |
CN117201457A (zh) | 一种地址分配管理方法、装置、存储介质及电子设备 | |
CN110365743B (zh) | 一种基于Zookeeper实现的支持多种可自定义负载算法的负载均衡器实现方法 | |
CN115776510A (zh) | 心跳包的控制方法和装置、处理器及电子设备 | |
CN115344350A (zh) | 云服务系统的节点设备及资源处理方法 | |
CN110413427B (zh) | 订阅数据拉取方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |