CN109308221A - 一种基于WebSocket长连接的Nginx动态负载均衡方法 - Google Patents

一种基于WebSocket长连接的Nginx动态负载均衡方法 Download PDF

Info

Publication number
CN109308221A
CN109308221A CN201810870243.9A CN201810870243A CN109308221A CN 109308221 A CN109308221 A CN 109308221A CN 201810870243 A CN201810870243 A CN 201810870243A CN 109308221 A CN109308221 A CN 109308221A
Authority
CN
China
Prior art keywords
load
end server
weight
nginx
performance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201810870243.9A
Other languages
English (en)
Other versions
CN109308221B (zh
Inventor
姚建国
刘栋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nanjing Post and Telecommunication University
Original Assignee
Nanjing Post and Telecommunication University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nanjing Post and Telecommunication University filed Critical Nanjing Post and Telecommunication University
Priority to CN201810870243.9A priority Critical patent/CN109308221B/zh
Publication of CN109308221A publication Critical patent/CN109308221A/zh
Application granted granted Critical
Publication of CN109308221B publication Critical patent/CN109308221B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/455—Emulation; Interpretation; Software simulation, e.g. virtualisation or emulation of application or operating system execution engines
    • G06F9/45533—Hypervisors; Virtual machine monitors
    • G06F9/45558—Hypervisor-specific management and integration aspects

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multi Processors (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种基于WebSocket长连接的Nginx动态负载均衡方法，包括建立Nginx和后端服务器节点之间的WebSocket长连接、计算各后端服务器节点在无负载下的静态权重和剩余负载阈值、收集后端服务器节点周期性负载信息、计算当前服务器后端节点的剩余负载参数和实时负载权重、判断剩余负载参数和剩余负载阈值大小关系和由Nginx根据最新负载权重合理分配请求六个步骤；主要解决了传统的静态负载均衡方法中负载权重不能根据后端服务器实际情况变动而导致负载不均衡的问题。

Description

一种基于WebSocket长连接的Nginx动态负载均衡方法
技术领域
本发明涉及的是一种Nginx的动态负载均衡方法，具体涉及是一种基于WebSocket长连接的Nginx动态负载均衡方法。
背景技术
随着社交网络、电子商务、移动互联网等的不断发展，用户数量急剧增加，单机系统已无法满足日益增长的需求。在目前最常用的方式就是利用多台服务器组成服务器集群模式，这些服务器一起为用户提供服务。集群模式能够使得几台或者多台处理性能一般的服务器结合起来，使其在对外的应用服务中具有一致的表现，并且充分利用每一台服务器的性能，提高系统的可靠性。而且集群中的服务器节点可以根据用户数量的多少和节点性能的不同动态的调节节点数量，做到资源最大化利用。提高系统的扩展性和可用性。
负载均衡是服务器集群中最重要的一部分，它负责管理每个服务器节点，使用合理的调度策略对到达服务器集群系统的请求进行分配，使其在面对高并发，大流量的情况下可以合理的分配请求到各个后端服务器节点，以减少服务请求响应时间，提高系统吞吐量。Nginx是一款轻量级服务器，具备反向代理和负载均衡功能，其扛并发能力出色，能够同时接收多个请求，是很多互联网公司使用的负载均衡方式。Nginx负载均衡的调度分配策略主要依靠于负载均衡算法，Nginx本身负载均衡方法包括轮询，加权轮询，IP哈希等算法，这些算法都是一种静态的负载均衡算法，不能够根据后端服务器节点的具体使用情况进行动态的调整请求分发策略，容易造成当后端中某一节点负载过大时，仍继续分配请求的情况，这种情况下会使得请求响应时间变慢，吞吐量降低，影响整个集群系统。静态负载均衡比较简单，易于实现，但由于没有考虑集群系统中服务器当前负载状态，很容易造成负载不均衡。
目前已经有很多学者研究出不同的动态负载均衡算法，通过收集后端服务器实时的负载信息，Nginx定时发送指令获取最新权重，使其根据后端服务器的实际处理能力动态调整权重。这种情况下，负载信息收集的周期完全由Nginx决定，后端服务器节点不能够根据自身实际情况作出快速的反馈，并且收集后端服务器节点负载信息同样会对服务器本身有一定的性能影响，信息收集周期很难把握。周期太短，容易产生较大的性能开销，周期过长，又会造成信息实时性不好。而且现有的web后端程序多数使用java语言编写，java应用中Java虚拟机的性能同样值得我们考虑，如果JVM内存太小，无论服务器性能多么优越都无法处理过多请求。所以在收集后端服务器节点负载信息时要根据实际情况考虑全面。
综上所述，现有技术中对于如何处理动态负载均衡算法中后端服务器节点主动上报负载信息问题以及对负载信息收集周期的设定问题和在java应用下收集负载信息没有考虑JVM负载问题尚没有公开的披露。
发明内容
为解决上述现有技术中存在的技术问题，本发明提供了一种基于WebSocket长连接的Nginx动态负载均衡方法，通过动态调节负载信息收集周期来收集后端服务器节点负载，计算负载权重，利用长连接机制主动反馈最新负载权重，当目前权重信息触发剩余负载阈值条件时，Nginx接收并且修改原有权重，实现动态负载均衡效果。
本发明解决其技术问题是通过以下技术方案实现的：
一种基于WebSocket长连接的Nginx动态负载均衡方法，包括以下步骤：
步骤S1、启动服务器集群，建立Nginx和后端服务器节点之间的WebSocket长连接；
步骤S2：完成步骤S1后，再计算各后端服务器节点在无负载下的静态权重，以及剩余负载阈值；
步骤S3：完成步骤S2后，后端服务器节点周期性收集负载信息，负载周期为t；
步骤S4：完成步骤S3后，利用长连接机制主动反馈最新负载信息，计算当前后端服务器节点的剩余负载参数和实时负载权重，并通过长连接发送最新负载信息到Nginx；
步骤S5：判断所述步骤S4得到的剩余负载参数和剩余负载阈值大小关系，若剩余负载参数小于剩余负载阙值，则由Nginx根据最新负载信息调节权重，若剩余负载参数大于等于剩余负载阙值，则保持Nginx负载权重不变，重复步骤S3和S4；
步骤S6：若步骤S5中负载信息权重已调节，则由Nginx根据最新负载权重合理分配请求。
作为进一步改进的技术方案，所述步骤S1中，以所述Nginx作为WebSocket服务端，以所述后端服务器节点作为WebSocket客户端，建立WebSocket长连接，并且发送心跳报文检测长连接状态，长连接可以使得后端服务器节点主动根据自身状态上报权重变化。
作为进一步改进的技术方案，所述步骤S2中，设集群系统中有n个后端服务器，将所述后端服务器表示为S＝[S1,S2,S3,......Sn]，以Si表示n个后端服务器中的第i个后端服务器节点，以C(Si)表示第i个后端服务器节点CPU的性能，以M(Si)表示第i个后端服务器节点内存的性能，以H(Si)表示第i个后端服务器节点磁盘IO的性能，以N(Si)表示第i个后端服务器节点网络带宽的性能，以J(Si)表示JVM的性能，以SUM(C)表示所有CPU的性能总和，以SUM(M)表示所有内存的性能总和，以SUM(H)表示所有磁盘IO的性能总和，以SUM(N)表示所有网络带宽的性能总和，以SUM(J)表示所有JVM的性能总和，所述第i个后端服务器节点的静态负载权重的计算公式如下：
其中Wsi表示第i个后端服务器节点的静态负载权重，Kc,Km,Kh,Kn,Kj分别为CPU，内存，磁盘IO、网络带宽和JVM的比重，Kc,Km,Kh,Kn,Kj的总和为1；所述n个后端服务器的静态负载权重即为W＝[Ws1,Ws2,Ws3,....Wsn],所述W也为Nginx初始的负载权重，所述第i个服务器节点的权值阈值的计算公式如下：
其中，T(Si)表示第i个服务器节点的剩余负载阈值，表示n个后端服务器的静态负载权重的总和。
作为进一步改进的技术方案，所述步骤S3中，所述后端服务器节点收集负载信息的初始的周期t为30秒，通过collect脚本每隔一个周期收集一次负载信息，再根据收集的信息分别计算出CPU，内存，磁盘，网络带宽，JVM的使用率，然后根据信息分别得到CPU，内存，磁盘，网络带宽，JVM的剩余率。
作为进一步改进的技术方案，所述步骤S4中，以Cr(si)表示第i个后端服务器节点CPU的剩余性能，以Mr(Si)表示第i个后端服务器节点内存的剩余性能，以Hr(Si)表示第i个后端服务器节点磁盘IO的剩余性能，以Nr(Si)表示第i个后端服务器节点网络带宽的剩余性能，以Jr(Si)表示JVM的剩余性能，以SUM(Cr)表示所有CPU剩余性能总和，以SUM(Mr)表示所有内存的性能总和，以SUM(Hr)表示所有磁盘IO的性能总和，以SUM(Nr)表示所有网络带宽的性能总和，以SUM((Jr)表示所有JVM的性能总和，实时权重的计算公式如下：
其中，Wri为第i个服务器节点的实时权重；
所述第i个服务器节点的剩余负载参数的计算公式如下：
其中，R(Si)表示第i个服务器节点的剩余负载参数，表示表示n个后端服务器的实时权重的总和。
作为进一步改进的技术方案，所述步骤S5中，若R(Si)＜T(Si)，Nginx将最新权重信息保存至一个日志文件中，再通过对robin.c文件的修改和扩展，读取文件内容，更新权重信息，若R(Si)≥T(Si)，则保持Nginx的负载权重不变，依次重复步骤S3和步骤S4；若连续3次进行步骤S5，均出现R(Si)≥T(Si)的情况，则将所述步骤S3中的收集周期增加t秒，同样，若连续3次进行步骤S5，均出现R(Si)＜T(Si)的情况，则将收集周期减少t秒。
作为进一步改进的技术方案，所述步骤S6中，若权重信息已调节更新，则在新的请求信息到达所述Nginx时，所述Nginx根据更新后的权重信息合理的调度，将请求分发到负载最小的后端服务器节点。
与现有技术相比，本发明的有益技术效果如下：
(1)解决了传统的静态负载均衡方法中负载权重不能根据后端服务器实际情况变动而导致负载不均衡的问题。
(2)解决了在Java应用下JVM状态对负载权重的影响问题。
(3)利用WebSocket长连接，后端服务器节点周期收集负载信息，主动上报权重变化，并动态调节收集周期，在后端服务器节点性能开销和负载信息实时性之间找到一个平衡点。
附图说明
图1为本发明的动态调节负载权重流程示意图；
图2为本发明中的WebSocket长连接模式图。
具体实施方式
下面通过具体实施例对本发明作进一步详述，以下实施例只是描述性的，不是限定性的，不能以此限定本发明的保护范围。
实施例
如图1、2所示，一种基于WebSocket长连接的Nginx动态负载均衡方法，包括以下步骤：
步骤S1、启动服务器集群,以Nginx作为WebSocket服务端，以后端服务器节点作为WebSocket客户端，建立WebSocket长连接，并且发送心跳报文检测长连接状态，长连接可以使得后端服务器节点主动根据自身状态上报权重变化。
需要说明的是，长连接可以使得后端服务器节点主动根据自身状态上报权重变化，相比较于请求-响应的短连接方式，解决了请求-响应模式下，后端服务器节点只能等待请求，然后应答响应报文，不能够主动地根据自身状态做出及时的反馈以及请求-响应模式下容易和实际业务混在一起，操作复杂的问题。
步骤S2：完成步骤S1后，将后端服务器表示为S＝[S1,S2,S3,......Sn]，以Si表示n个后端服务器中的第i个后端服务器节点，以C(Si)表示第i个后端服务器节点CPU的性能，以M(Si)表示第i个后端服务器节点内存的性能，以H(Si)表示第i个后端服务器节点磁盘IO的性能，以N(Si)表示第i个后端服务器节点网络带宽的性能，以J(Si)表示JVM的性能，以SUM(C)表示所有CPU的性能总和，以SUM(M)表示所有内存的性能总和，以SUM(H)表示所有磁盘IO的性能总和，以SUM(N)表示所有网络带宽的性能总和，以SUM(J)表示所有JVM的性能总和，即：
第i个后端服务器节点的静态负载权重的计算公式如下：
其中Wsi表示第i个后端服务器节点的静态负载权重，Kc,Km,Kh,Kn,Kj分别为CPU，内存，磁盘IO、网络带宽和JVM的比重，Kc,Km,Kh,Kn,Kj的总和为1；n个后端服务器的静态负载权重即为W＝[Ws1,Ws2,Ws3,....Wsn],W也为Nginx初始的负载权重，第i个服务器节点的权值阈值的计算公式如下：
为
其中，T(Si)表示第i个服务器节点的剩余负载阈值，表示n个后端服务器的静态负载权重的总和。
需要说明的是，阈值指的是触发到该条件，将会导致负载出现不均衡的现象，所以此时就需要对负载权重进行动态调整，使得负载较大的后端服务器接收较少的任务，减轻服务器压力。在动态调整负载权重时，并不是每一次变动都需要调整，因为频繁地调节节点权重会导致系统抖动，所以这里要有一个阈值，当触发阈值条件的时候，Nginx就会动态调节后端服务器节点负载权重。
步骤S3：完成步骤S2后，后端服务器节点收集负载信息的初始的周期t为30秒，通过collect脚本每隔一个周期收集一次负载信息，再根据收集的信息分别计算出CPU，内存，磁盘，网络带宽，JVM的使用率，然后根据信息分别得到CPU，内存，磁盘，网络带宽，JVM的剩余率。
需要说明的是，CPU信息可以通过top命令获取准确实时使用率，内存信息可以通过free-h命令获取实时的内存使用率，磁盘信息通过df-h命令获取磁盘剩余空间，在Linux系统下，/pro/net/dev文件下记录了网络带宽的使用情况，包括了接收和发送包的大小，数据包的个数，字节数等重要信息，JVM内存的使用情况可以通过编程方式获得，也可以通过jstat命令获取实时使用情况。
步骤S4：完成步骤S3后，以Cr(si)表示第i个后端服务器节点CPU的剩余性能，以Mr(Si)表示第i个后端服务器节点内存的剩余性能，以Hr(Si)表示第i个后端服务器节点磁盘IO的剩余性能，以Nr(Si)表示第i个后端服务器节点网络带宽的剩余性能，以Jr(Si)表示JVM的剩余性能，以SUM(Cr)表示所有CPU剩余性能总和，以SUM(Mr)表示所有内存的性能总和，以SUM(Hr)表示所有磁盘IO的性能总和，以SUM(Nr)表示所有网络带宽的性能总和，以SUM((Jr)表示所有JVM的性能总和，实时权重的计算公式如下：
其中，Wri为第i个服务器节点的实时权重；
第i个服务器节点的剩余负载参数的计算公式如下：
其中，R(Si)表示第i个服务器节点的剩余负载参数，表示表示n个后端服务器的实时权重的总和。
步骤S5：比较步骤S2和S4的计算结果，若R(Si)＜T(Si)，Nginx将最新权重信息保存至一个日志文件中，再通过对robin.c文件的修改和扩展，读取文件内容，更新权重信息，若R(Si)≥T(Si)，说明目前负载比较均衡，则保持Nginx的负载权重不变，Nginx会主动返回目前负载均衡的信息，告诉后端服务器节点在一个周期后继续收集负载信息，依次重复步骤S3和步骤S4；若连续3次进行步骤S5，均出现R(Si)≥T(Si)的情况，则说明后端服务器节点一直很稳定，可以适当增大收集周期，减小性能损耗，则将步骤S3中的收集周期增加t秒，同样，若连续3次进行步骤S5，均出现R(Si)＜T(Si)的情况，则说明后端服务器节点很不稳定，需要适当减少收集周期，则将收集周期减少t秒，如此便可以获取最实时的负载信息。
步骤S6：若步骤S5的权重信息已调节更新，则在新的请求信息到达Nginx时，Nginx根据更新后的权重信息合理的调度，将请求分发到负载最小的后端服务器节点。这样就实现了Nginx的动态负载均衡效果，提高了系统可靠性和可用性，减小平均请求响应时间。
以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (7)

1.一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，包括以下步骤：
步骤S1、启动服务器集群，建立Nginx和后端服务器节点之间的WebSocket长连接；
步骤S2：完成步骤S1后，再计算各后端服务器节点在无负载下的静态权重，以及剩余负载阈值；
步骤S3：完成步骤S2后，后端服务器节点周期性收集负载信息，负载周期为t；
步骤S4：完成步骤S3后，利用长连接机制主动反馈最新负载信息，计算当前后端服务器节点的剩余负载参数和实时负载权重，并通过长连接发送最新负载信息到Nginx；
步骤S5：判断所述步骤S4得到的剩余负载参数和剩余负载阈值大小关系，若剩余负载参数小于剩余负载阙值，则由Nginx根据最新负载信息调节权重，若剩余负载参数大于等于剩余负载阙值，则保持Nginx负载权重不变，重复步骤S3和S4；
步骤S6：若步骤S5中负载信息权重已调节，则由Nginx根据最新负载权重合理分配请求。
2.根据权利要求1所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S1中，以所述Nginx作为WebSocket服务端，以所述后端服务器节点作为WebSocket客户端，建立WebSocket长连接，并且发送心跳报文检测长连接状态，长连接可以使得后端服务器节点主动根据自身状态上报权重变化。
3.根据权利要求1或2所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S2中，设集群系统中有n个后端服务器，将所述后端服务器表示为S＝[S1,S2,S3,......Sn]，以Si表示n个后端服务器中的第i个后端服务器节点，以C(Si)表示第i个后端服务器节点CPU的性能，以M(Si)表示第i个后端服务器节点内存的性能，以H(Si)表示第i个后端服务器节点磁盘IO的性能，以N(Si)表示第i个后端服务器节点网络带宽的性能，以J(Si)表示JVM的性能，以SUM(C)表示所有CPU的性能总和，以SUM(M)表示所有内存的性能总和，以SUM(H)表示所有磁盘IO的性能总和，以SUM(N)表示所有网络带宽的性能总和，以SUM(J)表示所有JVM的性能总和，所述第i个后端服务器节点的静态负载权重的计算公式如下：
其中Wsi表示第i个后端服务器节点的静态负载权重，Kc,Km,Kh,Kn,Kj分别为CPU，内存，磁盘IO、网络带宽和JVM的比重，Kc,Km,Kh,Kn,Kj的总和为1；所述n个后端服务器的静态负载权重即为W＝[Ws1,Ws2,Ws3,....Wsn],所述W也为Nginx初始的负载权重，所述第i个服务器节点的权值阈值的计算公式如下：
其中，T(Si)表示第i个服务器节点的剩余负载阈值，表示n个后端服务器的静态负载权重的总和。
4.根据权利要求1或2所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S3中，所述后端服务器节点收集负载信息的初始的周期t为30秒，通过collect脚本每隔一个周期收集一次负载信息，再根据收集的信息分别计算出CPU，内存，磁盘，网络带宽，JVM的使用率，然后根据信息分别得到CPU，内存，磁盘，网络带宽，JVM的剩余率。
5.根据权利要求3所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S4中，以Cr(si)表示第i个后端服务器节点CPU的剩余性能，以Mr(Si)表示第i个后端服务器节点内存的剩余性能，以Hr(Si)表示第i个后端服务器节点磁盘IO的剩余性能，以Nr(Si)表示第i个后端服务器节点网络带宽的剩余性能，以Jr(Si)表示JVM的剩余性能，以SUM(Cr)表示所有CPU剩余性能总和，以SUM(Mr)表示所有内存的性能总和，以SUM(Hr)表示所有磁盘IO的性能总和，以SUM(Nr)表示所有网络带宽的性能总和，以SUM((Jr)表示所有JVM的性能总和，实时权重的计算公式如下：
其中，Wri为第i个服务器节点的实时权重；
所述第i个服务器节点的剩余负载参数的计算公式如下：
其中，R(Si)表示第i个服务器节点的剩余负载参数，表示表示n个后端服务器的实时权重的总和。
6.根据权利要求5所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S5中，若R(Si)＜T(Si)，Nginx将最新权重信息保存至一个日志文件中，再通过对robin.c文件的修改和扩展，读取文件内容，更新权重信息，若R(Si)≥T(Si)，则保持Nginx的负载权重不变，依次重复步骤S3和步骤S4；若连续3次进行步骤S5，均出现R(Si)≥T(Si)的情况，则将所述步骤S3中的收集周期增加t秒，同样，若连续3次进行步骤S5，均出现R(Si)＜T(Si)的情况，则将收集周期减少t秒。
7.根据权利要求6所述的一种基于WebSocket长连接的Nginx动态负载均衡方法，其特征在于，所述步骤S6中，若权重信息已调节更新，则在新的请求信息到达所述Nginx时，所述Nginx根据更新后的权重信息合理的调度，将请求分发到负载最小的后端服务器节点。
CN201810870243.9A 2018-08-02 2018-08-02 一种基于WebSocket长连接的Nginx动态负载均衡方法 Active CN109308221B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810870243.9A CN109308221B (zh) 2018-08-02 2018-08-02 一种基于WebSocket长连接的Nginx动态负载均衡方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810870243.9A CN109308221B (zh) 2018-08-02 2018-08-02 一种基于WebSocket长连接的Nginx动态负载均衡方法

Publications (2)

Publication Number Publication Date
CN109308221A true CN109308221A (zh) 2019-02-05
CN109308221B CN109308221B (zh) 2022-06-10

Family

ID=65225750

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810870243.9A Active CN109308221B (zh) 2018-08-02 2018-08-02 一种基于WebSocket长连接的Nginx动态负载均衡方法

Country Status (1)

Country Link
CN (1) CN109308221B (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109831524A (zh) * 2019-03-11 2019-05-31 平安科技（深圳）有限公司 一种负载均衡处理方法及装置
CN109951566A (zh) * 2019-04-02 2019-06-28 深圳市中博科创信息技术有限公司 一种Nginx负载均衡方法、装置、设备及可读存储介质
CN110691118A (zh) * 2019-08-30 2020-01-14 许昌许继软件技术有限公司 一种微服务集群中的服务选择方法及装置
CN110933139A (zh) * 2019-11-05 2020-03-27 浙江工业大学 一种解决Web服务器高并发的系统及方法
CN111381971A (zh) * 2020-03-17 2020-07-07 重庆邮电大学 一种基于Nginx的动态权重负载均衡方法
CN112532714A (zh) * 2020-11-25 2021-03-19 北京金山云网络技术有限公司 一种数据处理方法、处理装置、服务器及存储介质
CN112788076A (zh) * 2019-11-07 2021-05-11 北京京东尚科信息技术有限公司 一种多服务负载部署的方法和装置
CN112995265A (zh) * 2019-12-18 2021-06-18 中国移动通信集团四川有限公司 请求分发方法、装置及电子设备
CN113824768A (zh) * 2021-08-23 2021-12-21 北京天融信网络安全技术有限公司 负载均衡系统中的健康检查方法及装置和流量转发方法
CN114500578A (zh) * 2021-12-27 2022-05-13 天翼云科技有限公司 分布式存储系统负载均衡调度方法、装置及存储介质
CN114844897A (zh) * 2022-07-06 2022-08-02 深圳爱换电科技有限公司 基于物联网的分布式动态调节长连接服务的方法及装置
CN115134344A (zh) * 2022-06-29 2022-09-30 济南浪潮数据技术有限公司 一种虚拟机控制台的控制方法及组件
WO2023168937A1 (zh) * 2022-03-09 2023-09-14 中兴通讯股份有限公司 数据处理方法、装置、计算机设备及可读介质
CN117014375A (zh) * 2023-10-07 2023-11-07 联通在线信息科技有限公司 Cdn设备自适应流量控制和快速上下线的方法及设备
WO2024088079A1 (zh) * 2022-10-24 2024-05-02 杭州阿里云飞天信息技术有限公司 请求处理方法以及系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103368864A (zh) * 2013-07-31 2013-10-23 北京华易互动科技有限公司 一种基于c/s架构的智能负载均衡方法
US20150081773A1 (en) * 2013-09-13 2015-03-19 Box, Inc. High availability architecture for a cloud-based concurrent-access collaboration platform
CN106254377A (zh) * 2016-09-09 2016-12-21 四川长虹电器股份有限公司 支持海量长连接的软负载均衡方法及系统
CN107370663A (zh) * 2017-07-03 2017-11-21 中国南方电网有限责任公司 一种浏览器即时通讯服务分布式部署方法
CN108111586A (zh) * 2017-12-14 2018-06-01 重庆邮电大学 一种高并发支持的web集群系统及方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103368864A (zh) * 2013-07-31 2013-10-23 北京华易互动科技有限公司 一种基于c/s架构的智能负载均衡方法
US20150081773A1 (en) * 2013-09-13 2015-03-19 Box, Inc. High availability architecture for a cloud-based concurrent-access collaboration platform
CN106254377A (zh) * 2016-09-09 2016-12-21 四川长虹电器股份有限公司 支持海量长连接的软负载均衡方法及系统
CN107370663A (zh) * 2017-07-03 2017-11-21 中国南方电网有限责任公司 一种浏览器即时通讯服务分布式部署方法
CN108111586A (zh) * 2017-12-14 2018-06-01 重庆邮电大学 一种高并发支持的web集群系统及方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MARIJANA VUJOVIÜ等: "Upotreba NGINX i Websocket tehnologija", 《2015 23RD TELECOMMUNICATIONS FORUM TELFOR (TELFOR)》 *
杨小娇: "轻量级高并发Web服务器的研究与实现", 《中国优秀博硕士学位论文全文数据库(硕士)》 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109831524A (zh) * 2019-03-11 2019-05-31 平安科技（深圳）有限公司 一种负载均衡处理方法及装置
CN109951566A (zh) * 2019-04-02 2019-06-28 深圳市中博科创信息技术有限公司 一种Nginx负载均衡方法、装置、设备及可读存储介质
CN110691118A (zh) * 2019-08-30 2020-01-14 许昌许继软件技术有限公司 一种微服务集群中的服务选择方法及装置
CN110933139A (zh) * 2019-11-05 2020-03-27 浙江工业大学 一种解决Web服务器高并发的系统及方法
CN112788076A (zh) * 2019-11-07 2021-05-11 北京京东尚科信息技术有限公司 一种多服务负载部署的方法和装置
CN112995265A (zh) * 2019-12-18 2021-06-18 中国移动通信集团四川有限公司 请求分发方法、装置及电子设备
CN111381971A (zh) * 2020-03-17 2020-07-07 重庆邮电大学 一种基于Nginx的动态权重负载均衡方法
CN112532714A (zh) * 2020-11-25 2021-03-19 北京金山云网络技术有限公司 一种数据处理方法、处理装置、服务器及存储介质
CN113824768A (zh) * 2021-08-23 2021-12-21 北京天融信网络安全技术有限公司 负载均衡系统中的健康检查方法及装置和流量转发方法
CN113824768B (zh) * 2021-08-23 2022-11-15 北京天融信网络安全技术有限公司 负载均衡系统中的健康检查方法及装置和流量转发方法
CN114500578A (zh) * 2021-12-27 2022-05-13 天翼云科技有限公司 分布式存储系统负载均衡调度方法、装置及存储介质
CN114500578B (zh) * 2021-12-27 2024-06-11 天翼云科技有限公司 分布式存储系统负载均衡调度方法、装置及存储介质
WO2023168937A1 (zh) * 2022-03-09 2023-09-14 中兴通讯股份有限公司 数据处理方法、装置、计算机设备及可读介质
CN115134344A (zh) * 2022-06-29 2022-09-30 济南浪潮数据技术有限公司 一种虚拟机控制台的控制方法及组件
CN114844897A (zh) * 2022-07-06 2022-08-02 深圳爱换电科技有限公司 基于物联网的分布式动态调节长连接服务的方法及装置
CN114844897B (zh) * 2022-07-06 2022-11-04 深圳爱换电科技有限公司 基于物联网的分布式动态调节长连接服务的方法及装置
WO2024088079A1 (zh) * 2022-10-24 2024-05-02 杭州阿里云飞天信息技术有限公司 请求处理方法以及系统
CN117014375A (zh) * 2023-10-07 2023-11-07 联通在线信息科技有限公司 Cdn设备自适应流量控制和快速上下线的方法及设备
CN117014375B (zh) * 2023-10-07 2024-02-09 联通在线信息科技有限公司 Cdn设备自适应流量控制和快速上下线的方法及设备

Also Published As

Publication number Publication date
CN109308221B (zh) 2022-06-10

Similar Documents

Publication Publication Date Title
CN109308221A (zh) 一种基于WebSocket长连接的Nginx动态负载均衡方法
Lee et al. Load-balancing tactics in cloud
Ranjan et al. Qos-driven server migration for internet data centers
WO2021004063A1 (zh) 一种缓存服务器的带宽调度方法及装置
CN109547517B (zh) 一种带宽资源调度方法和装置
US8447883B1 (en) Reducing energy consumption of servers
CN102123087B (zh) 快速定标多级转发负载均衡方法及多级转发网络系统
CN103747274B (zh) 一种增设缓存集群的视频数据中心及其缓存资源调度方法
CN102035737A (zh) 一种基于认知网络的自适应负载均衡方法和装置
US20060179059A1 (en) Cluster monitoring system with content-based event routing
CN109710412A (zh) 一种基于动态反馈的Nginx负载均衡方法
CN107295048A (zh) 负载均衡方法及装置
Adam et al. Service middleware for self-managing large-scale systems
CN108881509A (zh) 一种基于httpdns的dns查询方法及装置
WO2024094104A1 (zh) 一种动态反馈加权云存储资源调度方法、装置及设备
Kang et al. Application of adaptive load balancing algorithm based on minimum traffic in cloud computing architecture
CN117155942A (zh) 一种微服务动态自适应客户端负载均衡方法及系统
CN107197039B (zh) 一种基于cdn的paas平台服务包分发方法及系统
Chunlin et al. Distributed QoS-aware scheduling optimization for resource-intensive mobile application in hybrid cloud
JP2005092862A (ja) 負荷分散方法及びクライアント・サーバシステム
CN108111567A (zh) 实现服务器负载均匀的方法及系统
Gao et al. An Improved Dynamic Smooth Weighted Round-robin Load-balancing Algorithm
Fan et al. An edge computing service model based on information-centric networking
CN106612310A (zh) 一种服务器调度方法、装置和系统
Duan et al. Dynamic load balancing in web cache cluster

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant