CN114422517A - 一种服务器负载均衡系统及其方法 - Google Patents

一种服务器负载均衡系统及其方法 Download PDF

Info

Publication number
CN114422517A
CN114422517A CN202210078046.XA CN202210078046A CN114422517A CN 114422517 A CN114422517 A CN 114422517A CN 202210078046 A CN202210078046 A CN 202210078046A CN 114422517 A CN114422517 A CN 114422517A
Authority
CN
China
Prior art keywords
server
user
access
access request
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210078046.XA
Other languages
English (en)
Inventor
张俊朋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Sanhe Electronic Industry Co ltd
Original Assignee
Guangdong Sanhe Electronic Industry Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Sanhe Electronic Industry Co ltd filed Critical Guangdong Sanhe Electronic Industry Co ltd
Priority to CN202210078046.XA priority Critical patent/CN114422517A/zh
Publication of CN114422517A publication Critical patent/CN114422517A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)
  • Multi Processors (AREA)

Abstract

本发明提供了本发明提供了一种服务器负载均衡系统，包括管理服务器和服务器集群，服务器集群处理管理服务器分发的用户访问请求，并实时计算自身的负载指标反馈给管理服务器；管理服务器包括请求检测模块、反馈模块、计算模块、分配模块和执行模块；计算模块计算管理服务器的通信信道的负载，并检测服务器集群的负担过重的节点是否已低于预定性能水平；分配模块接收到用户的访问请求，并将访问请求从请求队列中取出，交由请求检测模块估计访问请求的任务量和预期完成时间；反馈模块接收服务器集群的反馈结果。本发明通过执行模块对服务器的重新分配能够确保服务器的负载更加均衡，提升管理服务器的稳定性和可靠性。

Description

一种服务器负载均衡系统及其方法
技术领域
本发明涉及通信技术领域，尤其涉及一种服务器负载均衡系统及其方法。
背景技术
计算设备之间的网络通信常常通过例如使用分组交换网络从一个设备向另一个传输网络分组来执行。在一些客户端-服务器网络环境中，可以使用服务器集群计算机来处置到和来自多种客户端设备的通信。可以以被设计成确保服务器计算机在处理网络通信时不超负荷的方式来使用网络负载均衡技术。
如CN105208133A现有技术公开了一种服务器、负载均衡器以及服务器负载均衡方法和系统，负载均衡技术普遍应用于服务器集群中，由独立的负载均衡软件或硬件，按照设定的负载均衡策略，将服务请求分发至集群中不同的服务器，达到整体服务器集群的处理均衡目的。目前普遍采用的负载均衡策略均是基于被动均摊的原则，比如轮询策略(Round-Robin),或者带有权重的轮询策略(Weighted Round-Robin)。这些均衡策略技术是假设集群中的各服务器具有相似的处理能力，而实际应用中集群内各服务器性能参差不齐，并动态变化。其次，现有的均衡策略技术缺乏依据服务器实时处理情况进行动态调整的能力。
在传统的负载均衡模型下，由于客户端连接的服务器动态分配，客户端每次连接服务器后，尤其当大量客户端频繁上线下线时，服务器间都需要将连接信息在所有节点间同步，很容易导致死锁等问题，最终可能导致用户量下降，尤其在节点多的情况下，每两个节点间都要同步数据，形成复杂的网状结构，增加了服务器的负担，影响即时通讯服务器的性能。
为了解决本领域普遍存在减少服务器间同步客户端信息的工作量、智能程度较低、无法减轻服务器的负载、处理效率低下、没有考虑用户请求之间的差异，不能准确地判断服务器真实的负载状态等等问题，作出了本发明。
发明内容
本发明的目的在于，针对所存在的不足，提出了一种服务器负载均衡系统及其方法。
本发明采用如下技术方案：
一种服务器负载均衡系统，包括管理服务器和服务器集群，服务器集群处理管理服务器分发的用户访问请求，并实时计算自身的负载指标反馈给管理服务器；管理服务器包括请求检测模块、反馈模块、计算模块、分配模块和执行模块；
所述计算模块计算所述管理服务器的通信信道的负载，并检测服务器集群的负担过重的节点是否已低于预定性能水平；
所述分配模块接收到用户的访问请求，并将访问请求从请求队列中取出，交由所述请求检测模块估计访问请求的任务量和预期完成时间；
所述反馈模块接收服务器集群的反馈结果，并根据所述服务器集群的反馈结果通过所述执行模块将访问请求发送给匹配的服务器；
所述执行模块根据所述反馈模块、所述计算模块和所述请求检测模块的数据将与访问请求匹配的服务器分配给所述用户；其中，分配给用户的服务器为负载能力盈余的服务器；
所述计算模块包括若干个数据接口和状态监视器，所述状态监视器用于对各个数据接口进行监视；所述数据接口通过通信信道从网络中接收数据单元，并将数据单元通过多条路径发送给所述用户；所述状态监视器收集与多个路径相关联的各个服务器的各个I/O端口和各个队列的状态数据，并使用收集到的各个I/O端口和各个队列的状态数据为多个路径中的各个路径生成路径状态信息；
其中，通过分析所述状态数据以分析所述服务器通信信道的负载指数Fi，其中，所述负载指数Fi根据下式进行计算：
Figure BDA0003484899100000021
w1+w2+w3＝1
式中，Ci为服务器CPU的负载；Ni为服务器内存的负载；Ii为服务器各个I/O端口的负载；Q为负载等级基数，其值与所述服务器通信信道的变化幅值有关；w1为服务器CPU的载权重；w2为服务器内存的负载权重；w3为服务器各个I/O端口的负载权重；
根据负载指数Fj对所述节点的性能平均分配代价heathy(x1，x2，…，xM)进行计算：
Figure BDA0003484899100000022
式中，M为整个系统的服务器数量，(x1，x2，…，xM)表示服务器中的N个任务请求中能分配到的任务数为xi，且满足
Figure BDA0003484899100000031
N为服务器的任务请求数量；若heathy(x1，x2，…，xM)大于设定的预警阈值，则触发对所述节点所对应的服务器进行重新分配；若heathy(x1，x2，…，xM)小于预警阈值，且其值越小说明负载分布越均匀，当前服务器性能越好。
可选的，所述反馈模块包括从服务器集群接收连接请求，所述连接请求所述管理服务器和用户之间建立连接，所述反馈模块确定所述管理服务器和每个用户之间的连接数；若连接数小于或等于管理服务器与每个用户的连接数，从多个用户中选择调控权重较大的用户的连接请求，并对调控权重较大的用户授权其调换访问服务器的I/O端口，以实现所述用户和管理服务器建立连接关系。
所述请求检测模块包括请求检测器和拾取器，所述拾取器用于对所述访问请求队列中的访问请求进行提取，并将所述访问请求送入所述请求检测器中进行分析；其中，所述访问请求经过所述分配模块进行标记，并根据访问的时间顺序进行排列；
所述请求检测器用于对触发访问请求的用户的任务量和完成时间进行预估，并将分析结果传递到所述执行模块；
获取所述访问请求的起始访问时间点Rset和终止访问时间Rend，根据下式计算所述用户的访问任务量Taski：
Figure BDA0003484899100000032
式中，
Figure BDA0003484899100000033
为服务器当前的负载指标；s为服务器集群的可用数量；Di为访问请求队列中的第i个访问请求；其中，所述访问队列为Di＝{D1，D2，……，Ds}；
对应于该访问请求的服务器负载指标
Figure BDA0003484899100000034
根据下式进行计算：
Figure BDA0003484899100000035
式中，MI为所述访问请求的排队时间，满足：
Figure BDA0003484899100000036
yi为服务器任务池中积压的任务数量；zi为服务器每次运行完成的任务数量。
可选的，所述分配模块包括任务存储器和更新单元，所述任务存储器用于收集用户的访问请求，并将所述访问请求存储在存储器中；所述更新单元基于所述存储器中的访问请求数量，并对其进行更新；所述更新单元将所述访问请求队列依据时间戳进行更新，当所述请求检测模块将所述访问请求队列中的访问请求提取后，再次对所述访问请求队列进行更新。
可选的，所述分配模块还包括标记单元，所述标记单元对所述访问请求列表中的所述访问请求进行标记；所述标记单元包括标记器和识别器，所述识别器对各个用户标识进行识别，其中，所述用户标识包括ID地址和网关；所述标记器根据所述识别器的识别结果，对触发所述访问请求的用户进行密钥标记，并将所述密钥标记传输至所述执行模块中。
可选的，所述执行模块将与访问请求匹配的服务器分配给所述用户并验证所述用户的密钥标记，若核验通过，则向该密钥标记所对应的用户提供预连接；若核验不通过，则触发预警，并发出付出预警信号；其中，所述执行模块向核验通过的用户分配时，将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态。
本发明还提供一种服务器负载均衡方法，所述均衡方法包括以下步骤：
SETP1：将访问服务器的各个访问请求进行收集，并汇集形成访问请求队列，其中，各个所述访问请求队列按照时间戳进行排列；
SETP2：在SETP1的基础上，通过分配模块依次提取所述访问请求队列中的访问请求，并将其依次送入请求检测模块中，对该所述访问请求分析用户的访问任务量和访问时间；
SETP3：在SETP2的基础上，所述分配模块在提取所述访问请求队列后，对触发访问请求的用户进行标记；
SETP4：在SETP3的基础上，通过所述执行模块对触发访问请求的用户触发分配至负载能力盈余的服务器网关；
SETP5：通过反馈模块对管理服务器的连接数进行监控，并反馈至所述执行模块，当出现负载超过触发阈值，将用户的服务器网关进行调整。
可选的，所述均衡方法还包括：通过请求检测模块对触发所述访问请求的任务量和预期完成时间进行计算，并反馈至所述执行单元，并配合所述执行模块将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态。
可选的，所述均衡方法还包括：若某个访问请求不存在匹配，则将访问请求放置在所述访问请求队列的队首，并执行重新匹配的操作。
本发明所取得的有益效果是：
1.通过所述执行模块对所述服务器的重新分配能够确保所述服务器的负载更加均衡，提升所述管理服务器的稳定性和可靠性；
2.通过设置调控权重，能有效的过滤掉短时间内大规模的访问请求，也极大降低所述管理服务器的负载或过载的压力；
3.通过所述任务池提供的对任务的缓存机制，可以减少频繁地创建和回收任务实例产生的系统开销，并节省存储资源，极大的缓解所述管理服务器的额外工作量，有效的降低管理服务器的负载；
4.通过请求检测模块对触发所述访问请求的任务量和预期完成时间进行计算，并反馈至所述执行单元，并配合所述执行模块将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态；
5.通过所述执行模块根据所述反馈模块、所述请求检测模块和所述计算模块数据，将用户分配至负载能力盈余的服务器网关中，兼顾所述服务器和用户访问请求的均衡，同时，也极大的缓解所述管理服务器的过载。
为使能更进一步了解本发明的特征及技术内容，请参阅以下有关本发明的详细说明与附图，然而所提供的附图仅用于提供参考与说明，并非用来对本发明加以限制。
附图说明
从以下结合附图的描述可以进一步理解本发明。图中的部件不一定按比例绘制，而是将重点放在示出实施例的原理上。在不同的视图中，相同的附图标记指定对应的部分。
图1为本发明的均衡方法控制流程示意图。
图2为本发明的整体方框示意图。
图3为本发明的控制流程示意图。
图4为本发明的所述访问请求与所述管理服务器的方框流程示意图。
图5为本发明的执行模块和请求检测模块、计算模块、反馈模块方框示意图。
具体实施方式
以下是通过特定的具体实施例来说明本发明的实施方式，本领域技术人员可由本说明书所公开的内容了解本发明的优点与效果。本发明可通过其他不同的具体实施例加以施行或应用，本说明书中的各项细节也可基于不同观点与应用，在不悖离本发明的精神下进行各种修饰与变更。另外，本发明的附图仅为简单示意说明，并非依实际尺寸的描绘，事先声明。以下的实施方式将进一步详细说明本发明的相关技术内容，但所公开的内容并非用以限制本发明的保护范围。
实施例一；
根据图1、图2、图3、图4和图5，本实施例提供一种服务器负载均衡系统，包括管理服务器和服务器集群，服务器集群处理管理服务器分发的用户访问请求，并实时计算自身的负载指标反馈给管理服务器；管理服务器包括请求检测模块、反馈模块、计算模块、分配模块、执行模块和处理器；
所述处理器分别与所述请求检测模块、反馈模块、计算模块、分配模块、执行模块控制连接，并基于所述处理器的集中对所述请求检测模块、反馈模块、计算模块、分配模块、执行模块进行集中控制；
所述分配模块与所述请求检测模块相互配合，使得对所述管理服务器能够对所述用户的访问负载进行均衡，提升整个所述管理服务器向所述用户提供可靠的服务；
所述分配模块还对访问请求进行统计，对各个用户的访问请求依据时间戳的先后进行排序，并依次提供给所述请求检测模块，使得所述请求检测模块对所述访问请求的任务量和预期完成时间进行计算；
所述计算模块计算所述管理服务器的通信信道的负载，并检测服务器集群的负担过重的节点是否已低于预定性能水平；其中，所述性能水平根据设定的监控阈值进行确定，且在对不同访问请求和不同的时间段设置的监控阈值均不相同；
所述分配模块接收到用户的访问请求，并将访问请求从请求队列中取出，交由所述请求检测模块估计访问请求的任务量和预期完成时间；
所述反馈模块接收服务器集群的反馈结果，并根据所述服务器集群的反馈结果通过所述执行模块将访问请求发送给匹配的服务器；
所述执行模块根据所述反馈模块、所述计算模块和所述请求检测模块的数据将与访问请求匹配的服务器分配给所述用户；其中，分配给用户的服务器为负载能力盈余的服务器；
另外，在通过所述计算模块对所述管理服务器的通信信道进行计算的过程中，使得检测所述管理服务器自身的通信节点的状态，若超过设定的监测阈值，则通过所述执行模块对所述用户的访问服务器的I/O端口或者路径进行调整；
其中，所述计算模块包括若干个数据接口和状态监视器，所述状态监视器用于对各个数据接口进行监视；所述数据接口通过通信信道从网络中接收数据单元，并将数据单元通过多条路径发送给所述用户；所述状态监视器收集与多个路径相关联的各个服务器的各个服务器的I/O端口和各个队列的状态数据，并使用收集到的各个I/O端口和各个队列的状态数据为多个路径中的各个路径生成路径状态信息；
其中，通过分析所述状态数据以分析所述服务器通信信道的负载指数Fi，其中，所述负载指数Fi根据下式进行计算：
Figure BDA0003484899100000071
w1+w2+w3＝1
式中，Ci为服务器CPU的负载；Ni为服务器内存的负载；Ii为服务器各个I/O端口的负载；Q为负载等级基数，其值与所述服务器通信信道的变化幅值有关；w1为服务器CPU的载权重；w2为服务器内存的负载权重；w3为服务器各个I/O端口的负载权重；
若服务器处于空闲状态，存在：负载指数Fj＝0；
若服务器处于高负载范围内，存在：负载指数Fj＞负载阈值G，其中，G为预置的负载阈值；
若服务器处于低负载或高效运行的范围内，存在：负载指数Fj＜负载阈值G，其中，G为预置的负载阈值；
根据负载指数Fj对所述节点的性能平均分配代价heathy(x1，x2，…，xM)进行计算：
Figure BDA0003484899100000072
式中，M为整个系统的服务器数量，(x1，x2，…，xM)表示服务器中的N个任务请求中能分配到的任务数为xi，且满足
Figure BDA0003484899100000073
N为服务器的任务请求数量；若heathy(x1，x2，…，xM)大于设定的预警阈值，则触发对所述节点所对应的服务器进行重新分配；若heathy(x1，x2，…，xM)小于预警阈值，且其值越小说明负载分布越均匀，当前服务器性能越好；
其中，对所述服务器的重新分配由所述执行模块进行操作；同时，通过所述执行模块的处理操作后，能够确保所述服务器的负载更加均衡，提升所述管理服务器的稳定性和可靠性；
可选的，所述反馈模块包括从服务器集群接收连接请求，所述连接请求所述管理服务器和用户之间建立连接，所述反馈模块确定所述管理服务器和每个用户之间的连接数；若连接数小于或等于管理服务器与每个用户的连接数，从多个用户中选择调控权重较大的用户的连接请求，并对调控权重较大的用户授权其调换访问I/O端口，以实现将所述用户和管理服务器建立连接关系；
所述反馈模块对各个用户的连接数进行计算，并与所述管理服务器的允许的连接数进行比较，若超过允许的连接数，则对同一用户的多次访问请求进行剔除，以实现缓解所述管理服务器的压力；
若同一用户在短时间内多次访问所述服务器，则该用户的所述调控权重就变小；通过设置调控权重，能有效的过滤掉短时间内大规模的访问请求，也极大降低所述管理服务器的负载过载的压力；
其中，假设所述调控权重设置为Gh,所述调控权重Gh的取值满足：
Figure BDA0003484899100000081
式中，[]+为调控权重取正值才有效；αh为同一用户在同一周期中访问的数量；ω为权重基数值，其值由根据服务器在一个周期内允许的访问阈值数量进行设定，例如：有的服务器允许一个周期中最多允许刷新两次，有的允许刷新三次；
所述请求检测模块包括请求检测器和拾取器，所述拾取器用于对所述访问请求队列中的访问请求进行提取，并将所述访问请求送入所述请求检测器中进行分析；其中，所述访问请求经过所述分配模块进行标记，并根据访问的时间顺序进行排列；
所述请求检测器用于对触发访问请求的用户的任务量和完成时间进行预估，并将分析结果传递到所述执行模块；
获取所述访问请求的起始访问时间点Rset和终止访问时间Rend，根据下式计算所述用户的访问任务量Taski：
Figure BDA0003484899100000091
式中，
Figure BDA0003484899100000092
为服务器当前的负载指标；s为服务器集群的可用数量；Di为访问请求队列中的第i个访问请求；其中，所述访问队列为Di＝{D1，D2，……，Ds}；
对应于该访问请求的服务器负载指标
Figure BDA0003484899100000093
根据下式进行计算：
Figure BDA0003484899100000094
式中，Rset为起始访问时间点；Rend为终止访问时间；MI为所述访问请求的排队时间，满足：
Figure BDA0003484899100000095
yi为服务器任务池中积压的任务数量；zi为服务器每次运行完成的任务数量；
所述管理服务器设有任务池，用于对服务器当前的任务进行存储；其中，所述任务池是业务层存储任务的容器，是在线程间共享任务的实例池，当所述服务器启动时，任务池被创建，停止时被清除；由于所述任务池提供的对任务的缓存机制，可以减少频繁地创建和回收任务实例产生的系统开销，并节省存储资源，极大的缓解所述管理服务器的额外工作量，有效的降低管理服务器的负载；
可选的，所述分配模块包括任务存储器和更新单元，所述任务存储器用于收集用户的访问请求，并将所述访问请求存储在存储器中；所述更新单元基于所述存储器中的访问请求数量，并对其进行更新；所述更新单元将所述访问请求队列依据时间戳进行更新，当所述请求检测模块将所述访问请求队列中的访问请求提取后，再次对所述访问请求队列进行更新；若所述访问请求队列中的某一个请求任务被处理后，则将该访问请求的任务剔除，并对所述访问请求队列进行更新；
同时，所述分配模块还对所述任务请求进行标记，以实现对所述请求任务进行快速的响应；其中，所述分配模块还包括标记单元，所述标记单元对所述访问请求列表中的所述访问请求进行标记；所述标记单元包括标记器和识别器，所述识别器对各个用户标识进行识别，其中，所述用户标识包括但是不局限于以下列举的几种：ID地址、用户名称和网关；所述标记器根据所述识别器的识别结果，对触发所述访问请求的用户进行密钥标记，并将所述密钥标记传输至所述执行模块中；当所述用户的访问请求满足设定的要求，则在负载均衡的条件下，通过所述执行单元对所述用户提供访问；其中，通过所述密钥标记可以有效的防止用户标识被篡改；另外，所述密钥标记传输至所述执行模块中，所述密钥标记可以被所述执行模块解码，以提取所述用户的标识；此时，所述执行模块可以根据所述密钥标记向用户分配负载能力盈余的所述服务器网关，以实现向所述服务器提供访问；
可选的，所述执行模块将与访问请求匹配的服务器分配给所述用户并验证所述用户的密钥标记，若核验通过，则向该密钥标记所对应的用户提供预连接；若核验不通过，则触发预警，并发出付出预警信号；其中，所述执行模块向核验通过的用户分配时，将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态；
本发明还提供一种服务器负载均衡方法，所述均衡方法包括以下步骤：
SETP1：将访问服务器的各个访问请求进行收集，并汇集形成访问请求队列，其中，各个所述访问请求队列按照时间戳进行排列；
SETP2：在SETP1的基础上，通过分配模块依次提取所述访问请求队列中的访问请求，并将其依次送入请求检测模块中，对该所述访问请求分析用户的访问任务量和访问时间；
SETP3：在SETP2的基础上，所述分配模块在提取所述访问请求队列后，对触发访问请求的用户进行标记；
SETP4：在SETP3的基础上，通过所述执行模块对触发访问请求的用户触发分配至负载能力盈余的服务器网关；
SETP5：通过反馈模块对管理服务器的连接数进行监控，并反馈至所述执行模块，当出现负载超过触发阈值，将用户的服务器网关进行调整；
可选的，所述均衡方法还包括：通过请求检测模块对触发所述访问请求的任务量和预期完成时间进行计算，并反馈至所述执行单元，并配合所述执行模块将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态；
所述执行模块根据所述反馈模块、所述请求检测模块和所述计算模块数据，将用户分配至负载能力盈余的服务器网关中，兼顾所述服务器和用户访问请求的均衡，同时，也极大的缓解所述管理服务器的过载；
可选的，所述均衡方法还包括：若与某个访问请求不存在匹配，则将访问请求放置在所述访问请求队列的队首，并执行重新匹配的操作；当所述访问请求不匹配的时候，则将所述访问请求放置下在所所述访问请求队列的队首，使得所述请求检测模块能优选对该访问请求进行处理。
实施例二；
本实施例应当理解为至少包含前述任一一个实施例的全部特征，并在其基础上进一步改进，根据图1、图2、图3、图4和图5，还在于为所述服务器集群设定负载阈值量，并在运行的过程中接收所述服务器集群中的每一个服务器的负载量度；
基于来自服务器集群中的每一个的负载量度，生成负载的基准量度；
同时，为所述服务器集群中的各个服务器配置监控阈值，并基于各个服务器上的负载量度与负载的基线量度偏离监控量，所所述均衡系统还包括监控模块，所述监控模块用于接收相关联的服务器集群中的多个服务器的信息，所述信息包括服务器的故障率和服务器的实时资源负载状态；
根据接收到的信息确定与服务器相关的风险级别；所述监控模块从存储有多个服务器信息的数据库接收包括以下至少一项的策略：服务器的累积工作负载值限制和在服务器之间迁移工作负载的规则；
另外，基于工作负载值和确定的风险级别将接收到的第一工作负载分配给其中一个服务器；其中，分配接收的第一工作负载基于上述的所述策略触发；
同时，所述监控模块确定与当前分配给服务器的工作负载相关的资源负载；其中，基于所确定的资源负载分配接收的第一工作负载；其中接收多个服务器的信息包括向服务器查询与服务器相关联的资源负载和故障率；
所述监控模块根据所述偏离量大小生成至少一个的候选服务器列表，所述候选服务器列表是基于确定的风险级别生成的，并且接收到的第一工作负载被分配给列出的服务器之一；所述监控模块通过预测接收到的第一个工作负载对列出的服务器的假设影响来评估接收到的第一个工作负载；其中，基于评估分配接收的第一工作负载。
以上所公开的内容仅为本发明的优选可行实施例，并非因此局限本发明的保护范围，所以凡是运用本发明说明书及附图内容所做的等效技术变化，均包含于本发明的保护范围内，此外，随着技术发展其中的元素可以更新的。

Claims (9)

1.一种服务器负载均衡系统，包括管理服务器和服务器集群，其特征在于，服务器集群处理管理服务器分发的用户访问请求，并实时计算自身的负载指标反馈给管理服务器；管理服务器包括请求检测模块、反馈模块、计算模块、分配模块和执行模块；
所述计算模块计算所述管理服务器的通信信道的负载，并检测服务器集群的负担过重的节点是否已低于预定性能水平；
所述分配模块接收到用户的访问请求，并将访问请求从请求队列中取出，交由所述请求检测模块估计访问请求的任务量和预期完成时间；
所述反馈模块接收服务器集群的反馈结果，并根据所述服务器集群的反馈结果通过所述执行模块将访问请求发送给匹配的服务器；
所述执行模块根据所述反馈模块、所述计算模块和所述请求检测模块的数据将与访问请求匹配的服务器分配给所述用户；其中，分配给用户的服务器为负载能力盈余的服务器；
所述计算模块包括若干个数据接口和状态监视器，所述状态监视器用于对各个数据接口进行监视；所述数据接口通过通信信道从网络中接收数据单元，并将数据单元通过多条路径发送给所述用户；所述状态监视器收集与多个路径相关联的各个服务器的各个I/O端口和各个队列的状态数据，并使用收集到的各个I/O端口和各个队列的状态数据，并生成路径状态信息；其中，通过分析所述状态数据以分析所述服务器通信信道的负载指数Fi，其中，所述负载指数Fi根据下式进行计算：
Figure FDA0003484899090000011
w1+w2+w3＝1
式中，Ci为服务器CPU的负载；Ni为服务器内存的负载；Ii为服务器各个I/O端口的负载；Q为负载等级基数，其值与所述服务器通信信道的变化幅值有关；w1为服务器CPU的载权重；w2为服务器内存的负载权重；w3为服务器各个I/O端口的负载权重；
根据负载指数Fj对所述节点的性能平均分配代价heathy(x1，x2，…，xM)进行计算：
Figure FDA0003484899090000012
式中，M为整个系统的服务器数量，(x1，x2，…，xM)表示服务器中的N个任务请求中能分配到的任务数为xi，且满足
Figure FDA0003484899090000021
N为服务器的任务请求数量；若heathy(x1，x2，…，xM)大于设定的预警阈值，则触发对所述节点所对应的服务器进行重新分配；若heathy(x1，x2，…，xM)小于预警阈值，且其值越小说明负载分布越均匀，当前服务器性能越好。
2.根据权利要求1所述的一种服务器负载均衡系统，其特征在于，所述反馈模块包括从服务器集群接收连接请求，所述连接请求所述管理服务器和用户之间建立连接，所述反馈模块确定所述管理服务器和每个用户之间的连接数；若连接数小于或等于管理服务器与每个用户的连接数，从多个用户中选择调控权重较大的用户的连接请求，并对调控权重较大的用户授权其调换访问服务器的I/O端口，以实现所述用户和管理服务器建立连接关系。
3.根据权利要求2所述的一种服务器负载均衡系统，其特征在于，所述请求检测模块包括请求检测器和拾取器，所述拾取器用于对所述访问请求队列中的访问请求进行提取，并将所述访问请求送入所述请求检测器中进行分析；其中，所述访问请求经过所述分配模块进行标记，并根据访问的时间顺序进行排列；
所述请求检测器用于对触发访问请求的用户的任务量和完成时间进行预估，并将分析结果传递到所述执行模块；
获取所述访问请求的起始访问时间点Rset和终止访问时间Rend，根据下式计算所述用户的访问任务量Taski：
Figure FDA0003484899090000022
式中，
Figure FDA0003484899090000023
为服务器当前的负载指标；s为服务器集群的可用数量；Di为访问请求队列中的第i个访问请求；其中，所述访问队列为Di＝{D1，D2，……，Ds}；
对应于该访问请求的服务器负载指标
Figure FDA0003484899090000024
根据下式进行计算：
Figure FDA0003484899090000025
式中，MI为所述访问请求的排队时间，满足：
Figure FDA0003484899090000031
yi为服务器任务池中积压的任务数量；zi为服务器每次运行完成的任务数量。
4.根据权利要求3所述的一种服务器负载均衡系统，其特征在于，所述分配模块包括任务存储器和更新单元，所述任务存储器用于收集用户的访问请求，并将所述访问请求存储在存储器中；所述更新单元基于所述存储器中的访问请求数量，并对其进行更新；所述更新单元将所述访问请求队列依据时间戳进行更新，当所述请求检测模块将所述访问请求队列中的访问请求提取后，再次对所述访问请求队列进行更新。
5.根据权利要求4所述的一种服务器负载均衡系统，其特征在于，所述分配模块还包括标记单元，所述标记单元对所述访问请求列表中的所述访问请求进行标记；所述标记单元包括标记器和识别器，所述识别器对各个用户标识进行识别，其中，所述用户标识包括ID地址和网关；所述标记器根据所述识别器的识别结果，对触发所述访问请求的用户进行密钥标记，并将所述密钥标记传输至所述执行模块中。
6.根据权利要求5所述的一种服务器负载均衡系统，其特征在于，所述执行模块将与访问请求匹配的服务器分配给所述用户并验证所述用户的密钥标记，若核验通过，则向该密钥标记所对应的用户提供预连接；若核验不通过，则触发预警，并发出付出预警信号；其中，所述执行模块向核验通过的用户分配时，将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态。
7.一种服务器负载均衡方法，应用如权利要求6所述的一种服务器负载均衡系统，其特征在于，所述均衡方法包括以下步骤：
SETP1：将访问服务器的各个访问请求进行收集，并汇集形成访问请求队列，其中，各个所述访问请求队列按照时间戳进行排列；
SETP2：在SETP1的基础上，通过分配模块依次提取所述访问请求队列中的访问请求，并将其依次送入请求检测模块中，对该所述访问请求分析用户的访问任务量和访问时间；
SETP3：在SETP2的基础上，所述分配模块在提取所述访问请求队列后，对触发访问请求的用户进行标记；
SETP4：在SETP3的基础上，通过所述执行模块对触发访问请求的用户触发分配至负载能力盈余的服务器网关；
SETP5：通过反馈模块对管理服务器的连接数进行监控，并反馈至所述执行模块，当出现负载超过触发阈值，将用户的服务器网关进行调整。
8.根据权利要求7所述的一种服务器负载均衡方法，其特征在于，所述均衡方法还包括：通过请求检测模块对触发所述访问请求的任务量和预期完成时间进行计算，并反馈至所述执行单元，并配合所述执行模块将用户分配至负载能力盈余的服务器网关，实现维持该用户的连接状态。
9.根据权利要求8所述的一种服务器负载均衡方法，其特征在于，所述均衡方法还包括：若某个访问请求不存在匹配，则将访问请求放置在所述访问请求队列的队首，并执行重新匹配的操作。
CN202210078046.XA 2022-01-24 2022-01-24 一种服务器负载均衡系统及其方法 Pending CN114422517A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210078046.XA CN114422517A (zh) 2022-01-24 2022-01-24 一种服务器负载均衡系统及其方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210078046.XA CN114422517A (zh) 2022-01-24 2022-01-24 一种服务器负载均衡系统及其方法

Publications (1)

Publication Number Publication Date
CN114422517A true CN114422517A (zh) 2022-04-29

Family

ID=81277179

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210078046.XA Pending CN114422517A (zh) 2022-01-24 2022-01-24 一种服务器负载均衡系统及其方法

Country Status (1)

Country Link
CN (1) CN114422517A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116048819A (zh) * 2023-03-30 2023-05-02 杭州西软计算机工程有限公司 一种高并发数据存储方法和系统
CN116048819B (zh) * 2023-03-30 2024-05-31 鸿盈科技实业(深圳)有限公司 一种高并发数据存储方法和系统

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103327072A (zh) * 2013-05-22 2013-09-25 中国科学院微电子研究所 一种集群负载均衡的方法及其系统
CN103841129A (zh) * 2012-11-21 2014-06-04 华为技术有限公司 云计算的资源信息采集服务器和客户端、信息处理方法
CN104184813A (zh) * 2014-08-20 2014-12-03 杭州华为数字技术有限公司 虚拟机的负载均衡方法和相关设备及集群系统
CN105007336A (zh) * 2015-08-14 2015-10-28 深圳市云舒网络技术有限公司 服务器的负载均衡方法及其系统
CN105516360A (zh) * 2016-01-19 2016-04-20 苏州帕科泰克物联技术有限公司 一种计算机的负载均衡方法及装置
CN107992353A (zh) * 2017-07-31 2018-05-04 南京邮电大学 一种基于最小迁移量的容器动态迁移方法及系统
CN109451052A (zh) * 2018-12-18 2019-03-08 天津城建大学 一种基于模糊逻辑的sdn负载均衡方法
CN110266769A (zh) * 2019-05-29 2019-09-20 杭州梦视网络科技有限公司 一种应用于服务器集群的动态负载均衡方法及系统
CN113268339A (zh) * 2021-04-20 2021-08-17 国网电力科学研究院有限公司 基于差分进化算法的动态负载均衡方法及系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103841129A (zh) * 2012-11-21 2014-06-04 华为技术有限公司 云计算的资源信息采集服务器和客户端、信息处理方法
CN103327072A (zh) * 2013-05-22 2013-09-25 中国科学院微电子研究所 一种集群负载均衡的方法及其系统
CN104184813A (zh) * 2014-08-20 2014-12-03 杭州华为数字技术有限公司 虚拟机的负载均衡方法和相关设备及集群系统
CN105007336A (zh) * 2015-08-14 2015-10-28 深圳市云舒网络技术有限公司 服务器的负载均衡方法及其系统
CN105516360A (zh) * 2016-01-19 2016-04-20 苏州帕科泰克物联技术有限公司 一种计算机的负载均衡方法及装置
CN107992353A (zh) * 2017-07-31 2018-05-04 南京邮电大学 一种基于最小迁移量的容器动态迁移方法及系统
CN109451052A (zh) * 2018-12-18 2019-03-08 天津城建大学 一种基于模糊逻辑的sdn负载均衡方法
CN110266769A (zh) * 2019-05-29 2019-09-20 杭州梦视网络科技有限公司 一种应用于服务器集群的动态负载均衡方法及系统
CN113268339A (zh) * 2021-04-20 2021-08-17 国网电力科学研究院有限公司 基于差分进化算法的动态负载均衡方法及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116048819A (zh) * 2023-03-30 2023-05-02 杭州西软计算机工程有限公司 一种高并发数据存储方法和系统
CN116048819B (zh) * 2023-03-30 2024-05-31 鸿盈科技实业(深圳)有限公司 一种高并发数据存储方法和系统

Similar Documents

Publication Publication Date Title
CN106790726B (zh) 一种基于Docker云平台的优先级队列动态反馈负载均衡资源调度方法
Yu et al. Stochastic load balancing for virtual resource management in datacenters
Lee et al. Load-balancing tactics in cloud
CN105491138B (zh) 一种基于负载率分级触发的分布式负载调度方法
US9712448B2 (en) Proxy server, hierarchical network system, and distributed workload management method
CN108845874B (zh) 资源的动态分配方法及服务器
US20070043347A1 (en) Approach for distributing interrupts from high-interrupt load devices
CN111813330B (zh) 用于分派输入-输出的系统及方法
US20120166825A1 (en) Controlling the Power Consumption of Computers
CN104168332A (zh) 高性能计算中负载均衡与节点状态监控方法
WO2004104830A1 (en) System and method for adaptive admission control and resource management for service time guarantees
Chae et al. An adaptive load balancing management technique for RFID middleware systems
CN109347982A (zh) 一种数据中心的调度方法及装置
CN114422517A (zh) 一种服务器负载均衡系统及其方法
US20070067369A1 (en) Method and system for quantifying and comparing workload on an application server
Zhang et al. Load unbalancing to improve performance under autocorrelated traffic
KR101394365B1 (ko) 가상화 환경에서 프로세서를 할당하는 장치 및 방법
CN115167984A (zh) 基于云计算平台的考虑物理资源竞争的虚拟机负载均衡放置方法
KR100547625B1 (ko) 그리드 정보서비스를 위한 지능형 모니터링 시스템 및 방법
Shi et al. Developing an optimized application hosting framework in clouds
Hao et al. A Nginx-based Dynamic Feedback Load Balancing Algorithm With Adaptive Heartbeat Detecting
KR101813165B1 (ko) 소프트웨어 정의 네트워크를 위한 적응적 제어 평면 관리 방법 및 장치
JP5803655B2 (ja) データ転送のためのプログラム、情報処理方法及び転送装置、転送処理の割り当てを管理するためのプログラム、情報処理方法及び管理装置、並びに情報処理システム
KR101340118B1 (ko) 소비전력 추정 장치 및 그 방법
HoseinyFarahabady et al. Spark-Tuner: An elastic auto-tuner for apache spark streaming

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20220429

WD01 Invention patent application deemed withdrawn after publication