CN112738220B - 服务器集群的管理方法、负载均衡方法和负载均衡设备 - Google Patents

服务器集群的管理方法、负载均衡方法和负载均衡设备 Download PDF

Info

Publication number
CN112738220B
CN112738220B CN202011582774.1A CN202011582774A CN112738220B CN 112738220 B CN112738220 B CN 112738220B CN 202011582774 A CN202011582774 A CN 202011582774A CN 112738220 B CN112738220 B CN 112738220B
Authority
CN
China
Prior art keywords
server
cluster
load balancing
server cluster
access request
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011582774.1A
Other languages
English (en)
Other versions
CN112738220A (zh
Inventor
汪庆权
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou DPTech Technologies Co Ltd
Original Assignee
Hangzhou DPTech Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou DPTech Technologies Co Ltd filed Critical Hangzhou DPTech Technologies Co Ltd
Priority to CN202011582774.1A priority Critical patent/CN112738220B/zh
Publication of CN112738220A publication Critical patent/CN112738220A/zh
Application granted granted Critical
Publication of CN112738220B publication Critical patent/CN112738220B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1031—Controlling of the operation of servers by a load balancer, e.g. adding or removing servers that serve requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Abstract

本说明书提供一种服务器集群的管理方法、负载均衡方法和负载均衡设备，所述方法包括：本说明书实施例中，负载均衡设备上部署的VS引用多个服务器集群，在接收到用户的增加或减少服务器的指令的情况下，选择增加或减少服务器集群，或者在特定服务器集群内部增加或减少服务器。在收到访问请求时，根据访问请求，在确定的服务器集群中进行一级调度，选择一个服务器集群。并根据负载均衡算法，在这个服务器集群内部进行二级调度，选择处理该访问请求的服务器。这样减小了管理的复杂程度。这样，在增加服务器时，不用调整所有服务器的配置，在减少服务器时，不需要在较大范围内查找并删除需要删除的服务器，这样减小了管理服务器集群的复杂程度。

Description

服务器集群的管理方法、负载均衡方法和负载均衡设备
技术领域
本说明书涉及计算机应用技术领域，尤其涉及一种服务器集群的管理方法、负载均衡方法和负载均衡设备。
背景技术
负载均衡(Load Balance，LB)设备上部署有虚拟服务器(Virtual Server，VS)，VS接收访问请求，并基于负载均衡算法，将访问请求发送给其引用的服务器集群中的某个真实服务器(Real Server，RS)。
具体来说，负载均衡分为七层负载均衡和四层负载均衡。对于四层负载均衡，VS引用一个服务器集群，VS会将接收到的所有访问请求发送至该服务器集群中的某个真实服务器。对于七层负载均衡，VS引用多个服务器集群，这多个服务器集群与多个访问请求特征一一对应，VS会将接收到的访问请求依照访问请求特征发送至相应服务器集群中的某个真实服务器。
在实际应用中，VS对于其引用的任一服务器集群，基于该服务器集群中每个服务器的性能权值(与服务器性能正相关)控制每个服务器的连接数(处理的访问请求数量)，其中，服务器的性能权值与服务器的连接数正相关。
然而，对该服务器集群进行管理(例如向该服务器集群中增加服务器或减少服务器)十分复杂。
发明内容
为克服相关技术中存在的管理服务器集群的复杂问题，本说明书提供了一种服务器集群的管理方法、负载均衡方法和负载均衡设备。
根据本说明书实施例的第一方面，提供一种基于四层负载均衡的服务器集群的管理方法，应用于负载均衡设备，所述负载均衡设备上部署的虚拟服务器VS引用一个服务器集群；所述方法包括：
响应于用户输入的增加服务器指令的情况下，根据接收到的增加服务器的指令，确定待增加的至少一个服务器；
根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；
其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
根据本说明书实施例的第二方面，提供一种基于七层负载均衡的服务器集群的管理方法，应用于负载均衡设备，所述负载均衡设备上部署的VS引用至少两个服务器集群，不同的服务器集群对应于不同的访问请求特征；所述方法包括：
在接收到用户输入针对指定访问请求特征的增加服务器的指令的情况下，根据接收到的增加服务器的指令，确定待增加的至少一个服务器；
根据确定的至少一个服务器，创建至少一个服务器集群，建立创建的每个服务器集群与VS之间的引用关系，建立创建的每个服务器集权与该访问请求特征之间的对应关系；
其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
根据本说明书实施例的第三方面，提供一种基于本说明书实施例第一方面的四层负载均衡方法，应用于负载均衡设备，所述方法包括：
接收访问请求，并根据所述访问请求从VS引用的全部服务器集群中，确定N个服务器集群；
若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群；
根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
根据本说明书实施例的第四方面，提供一种基于本说明书实施例第二方面的七层负载均衡方法，应用于负载均衡设备，所述方法包括：
接收访问请求，并从该访问请求特征对应的全部服务器集群中，确定N个服务器集群；
若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群；
根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
根据本说明书实施例的第三方面，提供一种负载均衡设备，所述负载均衡设备上部署有VS，所述负载均衡设备包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如本说明书实施例第一到第四方面任一方面所述的方法。
本说明书实施例中，负载均衡设备上部署的VS在首次接收到用户输入的增加服务器的指令的情况下，不再将待增加的服务器加入该VS已引用的服务器集群，而是将需要增加的服务器单独建立一个或多个服务器集群，作为该VS新引用的服务器集群，并依据所有服务器集群的总服务器性能，为每个服务器集群配置集群性能权值(性能权值越大代表总服务器性能越强)。在收到访问请求时，根据访问请求，确定若干个服务器集群，若确定了不止一个服务器集群，则根据这些服务器集群的性能权值进行一级调度，选择一个服务器集群；并根据负载均衡算法，在这个服务器集群内部进行二级调度，选择处理该访问请求的服务器。
这样，在需要对服务器集群进行扩容时，选择增加新的服务器集群而不是向原有的服务器集群中加入新的服务器，原有的服务器集群内部没有受到影响，需要配置的从原有的服务器性能权值的变为了集群性能权值，由于服务器集群的数量远小于服务器的数量，大大减小了管理的复杂程度。
应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本说明书。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本说明书的实施例，并与说明书一起用于解释本说明书的原理。
图1A是本说明书示出的一种相关技术中四层负载均衡VS引用服务器的示意图。
图1B是本说明书示出的一种相关技术中七层负载均衡VS引用服务器的示意图。
图2是本说明书根据一示例性实施例示出的一种基于四层负载均衡的服务器集群的管理方法的流程图。
图3A是本说明示出的一种四层负载均衡VS引用服务器的示意图。
图3B是本说明书示出的一种七层负载均衡VS引用服务器的示意图。
图4是本说明书根据一示例性实施例示出的一种基于七层负载均衡的服务器集群的管理方法的流程图。
图5A是根据一示例性实施例示出的一种基于本说明书实施例第一方面的四层负载均衡方法的流程图。
图5B是根据一示例性实施例示出的一种基于本说明书实施例第二方面的七层负载均衡方法的流程图。
图6A是本说明书根据一示例性实施例示出的一种基于四层负载均衡的服务器集群的管理装置的框图。
图6B是本说明书根据一示例性实施例示出的一种基于七层负载均衡的服务器集群的管理装置的框图。
图7A是根据一示例性实施例示出的一种基于本说明书实施例第一方面的四层负载均衡装置的框图。
图7B是根据一示例性实施例示出的一种基于本说明书实施例第二方面的七层负载均衡装置的框图。
图8是本说明书实施例的服务器集群的管理装置和/或负载均衡装置所在计算机设备的一种硬件结构图。
具体实施方式
负载均衡设备上部署有VS，VS用于实现一个服务器集群中的服务器之间的负载均衡。服务器之间的负载均衡，根据处理到开放式系统互联通信参考模型(Open SystemInterconnection Reference Model，OSI)的层次，分为四层负载均衡和七层负载均衡。如图1A所示，用于实现四层负载均衡的VS引用了一个服务器集群；VS接收了访问请求后，依据负载均衡算法，选择该服务器集群中的一个服务器处理该访问请求。如图1B所示，用于实现七层负载均衡的VS中，根据访问请求中可能会携带的域名等，配置了多个特征，每个特征对应于一个VS引用的服务器集群；在VS接收到访问请求后，依据访问请求中携带的特征，确定处理该访问请求的服务器集群，再根据负载均衡算法，在该服务器集群内部选择一个服务器来处理该访问请求。
在服务器集群内部存在不同性能的服务器的情况下，需要为每个服务器分配性能权值，以使得可以根据性能权值来实现负载均衡。由于每次扩容时增加的服务器性能、型号的差异，通常，某个服务器集群在多次扩容(即在该服务器集群内部增加服务器)后，该服务器集群内部都会存在性能不同的服务器，且服务器集群内部的性能权值较为复杂。
在上述的情况下，在需要对某一服务器集群扩容时，如果该次增加的服务器的性能和原有的服务器集群内部的服务器性能不一致，在某些情况下，将需要为该服务器集群内部原有的服务器重新分配权值。某些情况可能是由于系统本身的限制，设置的性能权值只能是整数；这种情况下，向服务器集群中增加服务器可能存在以下情况：原有的服务器集群内部存在两种性能的服务器，服务器的性能权值分别是1和2，需要增加的服务器的性能和原有的服务器的性能比例为1:2:1.5，这时，需要调整原有的服务器的性能权值，使得新增加的服务器和原有服务器的比例满足1:2:1.5，且满足性能权值为整数的条件。此外，某些情况还可能是，由于系统本身的限制，设置的性能权值不能大于10；这种情况下，向服务器集群中增加服务器可能存在以下情况：原有的服务器集群内部存在两种性能的服务器，服务器的性能权值分别是7和8，需要增加的服务器的性能和原有的服务器的性能比例为7:8:15，这时，需要调整原有的服务器的性能权值，使得新增加的服务器和原有服务器的比例满足7:8:15，且满足性能权值不大于10的条件。上述的情况中，在多次扩容后，性能权值变得复杂，计算和修改每个服务器的性能权值的过程较为复杂。
此外，在需要对某一服务器集群进行测试或业务升级时，通常涉及了向该服务器集群中加入服务器和从该服务器集群中减少服务器两个过程，在从服务器集群中减少服务器的情况下，由于一个服务器集群内部服务器很多，从该服务器集群内部中找到对应需要删除的服务器并删除的过程较为麻烦，而且存在误删除的可能。
以上的两种情况均增加了管理服务器集群的复杂程度。
本说明书实施例中，负载均衡设备上部署的VS在接收到用户输入的增加服务器的指令的情况下，不再将待增加的服务器加入该VS已引用的服务器集群，而是将需要增加的服务器单独建立一个或多个服务器集群，作为该VS新引用的服务器集群，并依据所有服务器集群的总服务器性能，为每个服务器集群配置集群性能权值(性能权值越大代表总服务器性能越强)。在收到访问请求时，根据访问请求，确定若干个服务器集群，若确定了不止一个服务器集群，则根据这些服务器集群的性能权值进行一级调度，选择一个服务器集群；并根据负载均衡算法，在这个服务器集群内部进行二级调度，选择处理该访问请求的服务器。
这样，在需要对服务器集群进行扩容时，选择增加新的服务器集群而不是向原有的服务器集群中加入新的服务器，原有的服务器集群内部没有受到影响，需要配置的从原有的服务器性能权值的变为了集群性能权值，由于服务器集群的数量远小于服务器的数量，大大减小了管理的复杂程度。此外，从服务器集群中减少服务器时，只需要整组删除某个服务器集群，不需要查找并删除每个需要删除的服务器，也减少了管理服务器集群的负载程度。
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本说明书相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本说明书的一些方面相一致的装置和方法的例子。
在本说明书使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本说明书。在本说明书和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解，尽管在本说明书可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本说明书范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
接下来对本说明书实施例进行详细说明。
本说明书将从服务器集群扩容时服务器集群的管理，和VS接收到访问请求时的负载均衡两个阶段来阐述本方案。首先，先对服务器集群扩容时的服务器集群的管理方法进行详细说明。
对于四层负载均衡来说，如图2所示，图2是本说明书根据一示例性实施例示出的一种基于四层负载均衡的服务器集群的管理方法的流程图，该方法应用于负载均衡设备，所述负载均衡设备上部署的虚拟服务器VS引用一个服务器集群，该方法包括以下步骤：
步骤202，响应于用户输入的增加服务器的指令，确定待增加的至少一个服务器。
其中，用户和负载均衡设备的交互可以基于可视化界面，在这种情况下，用户输入的增加服务器的指令可以包括输入待增加的服务器、将待增加的服务器分组、输入每个服务器集群的集群性能权值以及某个具体的服务器集群处理的访问请求的业务类别。由于该VS在接收指令之前只引用了一个服务器集群，可以将该次接收的增加服务器指令看做首次接收的增加服务器的指令。
步骤204，根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
为每个服务器集群配置集群性能权值，可以在创建服务器集群后，建立引用关系前，也可以在建立引用关系后。集群性能权值可以是用户针对每个服务器集群的总服务器性能确定并输入的。集群性能权值可以用百分比的方式表示，比如集群性能权值可以是连接数占比，连接数即访问请求的数量；也可以用和服务器性能权值的相似方法(比如整数)表示。在用百分比表示的情况下，需要保证该VS引用的所有服务器的集群性能权值的和为1(如果是七层负载均衡VS的话，需要保证每个特征对应的所有服务器的集群性能权值和为1)，那么在增加服务器集群后，需要调整所有服务器集群的集群性能权值。在用整数方法表示的情况下，在增加服务器集群后，可能会需要调整每个服务器集群的集群性能权值，也可能只需要配置待增加的服务器集群的集群性能权值。在后续负载均衡的过程中，由于每个集群中的服务器数量较多，基于集群性能权值的一级调度可以较为粗糙，集群性能权值也可以取值较为粗糙，这样基于较为简单方便的集群性能权值的配置，在对于负载均衡影响较小的情况下，可以实现较为准确的负载均衡。
在步骤204中，可以创建一个服务器集群，也可以创建多个服务器集群。在该步骤创建多个服务器集群的情况下，创建服务器集群的过程具体包括：根据服务器处理访问请求的业务类别，创建至少两个服务器集群，每个服务器集群用于处理一个或多个业务类别的访问请求，且不同的业务类别对应的服务器集群不同。其中，业务类别可以包括：访问请求的源IP地址、访问请求的业务类型(比如下载文件、登录请求等)等。当某种业务类别的访问请求较多时，可以为该种业务类别的访问请求单独建立一个服务器集群，以集中处理该种访问请求，提高处理效率。
创建服务器的过程也可以是：根据本次待增加的服务器的性能，将性能一致的服务器加入同一个服务器集群。这样，创建的多个服务器集群中，每个服务器集群中的服务器的性能均一致，这样不用为每个服务器分配权值，配置待增加的服务器较为方便。
针对每个创建的服务器集群而言，如果该服务器集群内部存在性能不同的服务器，则需要为该服务器集群内部的每个服务器分配性能权值。但是与相关技术存在区别的是，本说明书中，配置性能权值只需要在创建服务器集群的时候配置一次，在后续的再次扩容的情况下，不需要更改性能权值。
在上述方法执行完成后，VS可能会再次接收增加服务器的指令或者减少服务器的指令。
再次响应于用户输入的增加服务器指令，确定待增加的至少一个服务器，将该至少一个服务器增加至特定服务器集群；或，再次响应于用户输入的增加服务器指令，确定待增加的至少一个服务器，则根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
在某些情况下，用户可能需要针对某一服务器集群扩容，比如该次增加的服务器较少，或者某一业务类别对应的服务器集群的服务器处理性能不足，这时，用户输入的扩容指令中，携带了针对的特定服务器集群的标识，根据所述标识，向该服务器集群中增加服务器，如果增加后该服务器集群内部存在性能不一致的服务器，则可能需要修改该服务器集群内部的服务器的性能权值。与首次增加的方案相似，VS接收的增加服务器的指令也可能是将该次待增加的至少一个服务器，作为一个或多个服务器集群，并建立VS与该一个或多个服务器集群的引用关系。
响应于用户输入的删除服务器的指令，确定待删除的至少一个服务器集群，将该至少一个服务器集群删除，并删除该服务器集群与VS的引用关系；其中，在删除后，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大；或，响应于用户输入的删除服务器的指令，确定待删除的至少一个服务器，且该至少一个服务器中，不存在任一服务器集群的所有服务器，将该至少一个服务器从每个服务器所在的服务器集群中删除。
在某些情况下，用户会输入减少服务器的指令，比如缩容，测试完成需要删除测试的服务器或者某一服务器出现问题需要删除。用户需要减少的服务器，可能是某几个服务器，也可能是某个服务器集群，所以要根据用户输入的减少服务器的指令中，提取信息，并将对应服务器或者服务器集群删除。
其中，上述所提及的增加服务器的指令，可以是单独的增加服务器的指令，也可以是从用户的一个指令(比如测试指令，业务升级指令)中，提取出的增加服务器的指令和减少服务器的指令。每个增加服务器的指令也可以是，从用户输入的一个管理指令中提取出的多个增加服务器的指令中的一个指令。
如图3A所示，图3A是一种依据上述方法的一个或多个实施例实现的四层服务器均衡VS引用的服务器的部署效果，与相关技术相比，一个用于实现四层负载均衡的VS可以引用多个服务器集群。在增加服务器时，不需要修改原有的所有服务器的性能权值，只需要为该次增加的服务器配置相关参数，以及配置集群性能权值，大大减小了配置的复杂程度。在测试或业务升级完成后，需要将由于测试或业务升级而增加的服务器删除时，由于按照服务器的批次建立了不同的服务器集群，则只需要删除一组或多组服务器集群就可以，这样减少了误删除的可能。
与基于四层负载均衡的服务器集群的管理方法类似，本说明书还提出了一种基于七层负载均衡的服务器集群的管理方法。对于七层负载均衡来说，如图4所示，图4是本说明书根据一示例性实施例示出的一种基于七层负载均衡的服务器集群的管理方法的流程图，该方法应用于负载均衡设备，所述负载均衡设备上部署的VS引用至少两个服务器集群，不同的服务器集群对应于不同的访问请求特征；所述方法包括：
步骤402，在接收到用户输入针对指定访问请求特征的增加服务器的指令的情况下，根据接收到的增加服务器的指令，确定待增加的至少一个服务器。
与基于四层负载均衡的服务器集群的管理方法不同的是，在本方法中，由于一个VS可以引用多个服务器集群，用户输入的增加服务器的指令是针对某个访问请求特征的。访问请求特征指的是访问请求中可能携带的特征。
步骤404，根据确定的至少一个服务器，创建至少一个服务器集群，建立创建的每个服务器集群与VS之间的引用关系，建立创建的每个服务器集权与该访问请求特征之间的对应关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
如图3B所示，图3B示出了在实现本方法后的七层负载均衡VS的部署服务器效果。本方法的具体实现方法与基于四层负载均衡的服务器集群的管理方法类似，相似的部分在此不再赘述。
在实现服务器集群的管理后，本说明书还基于部署后的四层或七层负载均衡，描述了一种负载均衡方法。
首先，如图5A所示，图5A示出了一种基于本说明书实施例第一方面的四层负载均衡方法，该方法应用于负载均衡设备，所述方法包括：
步骤502，接收访问请求，并根据所述访问请求从VS引用的全部服务器集群中，确定N个服务器集群。
确定N个服务器集群，N个服务器集群可以是全部的服务器集群，也可以是部分服务器集群。其中，根据所述访问请求从VS引用的全部服务器集群中，确定N个服务器集群，具体包括：根据访问请求的业务类别，确定对应于该业务类别的N个服务器集群。具体而言，在存在专门用于处理该业务类别的访问请求的服务器集群的情况下，确定专门用于处理该业务类别的服务器集群为这个N个服务器集群。在不存在专门用于处理该业务类别的访问请求的服务器集群的情况下，可以确定全部服务器集群为这N个服务器，也可以刨除专门用于处理某种业务的服务器集群，将其他的服务器集群作为这N个服务器集群。
步骤504，若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群。
该步骤通过不同的集群性能权值进行一级调度，其中集群性能权值可以是连接数占比，可以根据连接数占比，选择访问请求的去向，实现一定时间内发送到多个服务器集群的连接数比例符合连接数占比的比值。
步骤506，根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
其中，在每个服务器集群内部的调度方法，和相关技术相比并没有变化，可以根据该服务器集群内部有无性能不同的服务器，选择合适的算法。针对每个服务器集群而言，该服务器集群对应与一个预设的负载均衡算法。
在选择负载均衡算法时，可以根据服务器集群中服务器性能是否相同，来选择不同的负载均衡算法，例如，如果某一服务器集群内部所有服务器的性能均一致，可以选择如轮询算法、随机调度等算法作为负载均衡的算法；如果某个服务器集群内部存在性能不一致的服务器，可以选择如最小连接数算法、加权轮询算法、加权随机等算法作为负载均衡的算法，相应的，也需要根据服务器性能的大小，为每个服务器赋予性能权值以实现负载均衡，性能权值越大，代表该服务器的性能越强。
若N等于1，则根据负载均衡算法，从确定的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
上述方法增加了一级调度，也就是在确定的服务器集群之间调度，选择一个服务器集群，再在选择的服务器集群内部进行调度，根据负载均衡算法，选择一个具体的服务器，这样在服务器集群的管理后，实现了负载均衡。
与四层负载均衡类似，本说明书还提供一种七层负载均衡的方法，如图5B所示，图5B示出了一种基于本说明书实施例第二方面的七层负载均衡方法，该方法应用于负载均衡设备，所述方法包括：
步骤512，接收访问请求，并从该访问请求特征对应的全部服务器集群中，确定N个服务器集群。
从该访问请求特征对应的全部服务器集群中，确定N个服务器集群，具体包括：根据访问请求的业务类别，确定对应于该业务类别的N个服务器集群。
步骤514，若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群。
步骤516，根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
若N等于1，则根据负载均衡算法，从确定的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
本说明书一个或多个实现七层负载均衡的实施例中，与四层负载均衡的方法类似的部分不再赘述。
本说明书实施例中，负载均衡设备上部署的VS引用多个服务器集群，在接收到用户的增加或减少服务器的指令的情况下，选择增加或减少服务器集群，或者在特定服务器集群内部增加或减少服务器。在收到访问请求时，根据访问请求，在确定的服务器集群中进行一级调度，选择一个服务器集群。并根据负载均衡算法，在这个服务器集群内部进行二级调度，选择处理该访问请求的服务器。这样减小了管理的复杂程度。这样，在增加服务器时，不用调整所有服务器的配置，在减少服务器时，不需要在较大范围内查找并删除需要删除的服务器，这样减小了管理服务器集群的复杂程度。
与前述方法的实施例相对应，本说明书还提供了服务器集群的管理装置和负载均衡装置及其所应用的终端的实施例。
如图6A所示，图6A是本说明书根据一示例性实施例示出的一种基于四层负载均衡的服务器集群的管理装置的框图，该装置应用于负载均衡设备，所述负载均衡设备上部署的虚拟服务器VS引用一个服务器集群；所述装置包括：
服务器确定单元602，用于响应于用户输入的增加服务器的指令，确定待增加的至少一个服务器。
服务器集群创建单元604，用于根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
服务器集群创建单元604，具体用于根据服务器处理访问请求的业务类别，创建至少两个服务器集群，每个服务器集群用于处理一个或多个业务类别的访问请求，且不同的业务类别对应的服务器集群不同。
如图6B所示，图6B是本说明书根据一示例性实施例示出的一种基于七层负载均衡的服务器集群的管理装置的框图，该装置应用于负载均衡设备，所述负载均衡设备上部署的VS引用至少两个服务器集群，不同的服务器集群对应于不同的访问请求特征；所述装置包括：
服务器确定单元612，用于在接收到用户输入针对指定访问请求特征的增加服务器的指令的情况下，根据接收到的增加服务器的指令，确定待增加的至少一个服务器；
服务器集群创建单元614，用于根据确定的至少一个服务器，创建至少一个服务器集群，建立创建的每个服务器集群与VS之间的引用关系，建立创建的每个服务器集权与该访问请求特征之间的对应关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
服务器集群创建单元614，具体用于根据服务器处理访问请求的业务类别，创建至少两个服务器集群，每个服务器集群用于处理一个或多个业务类别的访问请求，且不同的业务类别对应的服务器集群不同。
图7A是根据一示例性实施例示出的一种基于本说明书实施例第一方面的四层负载均衡装置的框图，该装置应用于负载均衡设备，所述装置包括：
服务器集群确定单元702，用于接收访问请求，并根据所述访问请求从VS引用的全部服务器集群中，确定N个服务器集群。
服务器集群选择单元704，用于若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群。
服务器确定单元706，用于根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
其中，服务器集群确定单元702，具体用于接收访问请求，并根据访问请求的业务类别，确定对应于该业务类别的N个服务器集群。
所述装置还包括：服务器确定单元708，具体用于若N等于1，则根据负载均衡算法，从确定的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
图7B是根据一示例性实施例示出的一种基于本说明书实施例第二方面的七层负载均衡装置的框图，该装置应用于负载均衡设备，所述装置包括：
服务器集群确定单元712，用于接收访问请求，并从该访问请求特征对应的全部服务器集群中，确定N个服务器集群。
服务器集群选择单元714，用于若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群。
服务器确定单元716，用于根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
其中，服务器集群确定单元712，具体用于接收访问请求，并从该访问请求特征对应的全部服务器集群中，根据访问请求的业务类别，确定对应于该业务类别的N个服务器集群。
所述装置还包括：服务器确定单元718，具体用于若N等于1，则根据负载均衡算法，从确定的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
上述装置中各个模块的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。
对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本说明书方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
本说明书实施例提供一种负载均衡设备，所述负载均衡设备上部署有VS，所述负载均衡设备包括：一个或多个处理器；存储器，用于存储一个或多个程序；当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如前述的服务器集群的管理方法和/或负载均衡方法。
如图8所示，图8示出了实施例服务器集群的管理装置和/或负载均衡装置所在计算机设备的一种硬件结构图，该设备可以包括：处理器1010、存储器1020、输入/输出接口1030、通信接口1040和总线1050。其中处理器1010、存储器1020、输入/输出接口1030和通信接口1040通过总线1050实现彼此之间在设备内部的通信连接。
处理器1010可以采用通用的CPU(Central Processing Unit，中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit，ASIC)、或者一个或多个集成电路等方式实现，用于执行相关程序，以实现本说明书实施例所提供的技术方案。
存储器1020可以采用ROM(Read Only Memory，只读存储器)、RAM(Random AccessMemory，随机存取存储器)、静态存储设备，动态存储设备等形式实现。存储器1020可以存储操作系统和其他应用程序，在通过软件或者固件来实现本说明书实施例所提供的技术方案时，相关的程序代码保存在存储器1020中，并由处理器1010来调用执行。
输入/输出接口1030用于连接输入/输出模块，以实现信息输入及输出。输入输出/模块可以作为组件配置在设备中(图中未示出)，也可以外接于设备以提供相应功能。其中输入设备可以包括键盘、鼠标、触摸屏、麦克风、各类传感器等，输出设备可以包括显示器、扬声器、振动器、指示灯等。
通信接口1040用于连接通信模块(图中未示出)，以实现本设备与其他设备的通信交互。其中通信模块可以通过有线方式(例如USB、网线等)实现通信，也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信。
总线1050包括一通路，在设备的各个组件(例如处理器1010、存储器1020、输入/输出接口1030和通信接口1040)之间传输信息。
需要说明的是，尽管上述设备仅示出了处理器1010、存储器1020、输入/输出接口1030、通信接口1040以及总线1050，但是在具体实施过程中，该设备还可以包括实现正常运行所必需的其他组件。此外，本领域的技术人员可以理解的是，上述设备中也可以仅包含实现本说明书实施例方案所必需的组件，而不必包含图中所示的全部组件。
本说明书实施例还提供一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现前述的服务器集群的管理方法和/或负载均衡方法。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
本领域技术人员在考虑说明书及实践这里申请的发明后，将容易想到本说明书的其它实施方案。本说明书旨在涵盖本说明书的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本说明书的一般性原理并包括本说明书未申请的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本说明书的真正范围和精神由下面的权利要求指出。
应当理解的是，本说明书并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本说明书的范围仅由所附的权利要求来限制。
以上所述仅为本说明书的较佳实施例而已，并不用以限制本说明书，凡在本说明书的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本说明书保护的范围之内。

Claims (10)

1.一种基于四层负载均衡的服务器集群的管理方法，其特征在于，应用于负载均衡设备，所述负载均衡设备上部署的虚拟服务器VS引用一个服务器集群；每个服务器集群包括至少一个服务器；所述方法包括：
响应于用户输入的增加服务器指令，确定待增加的至少一个服务器；
根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；
其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
2.如权利要求1所述方法，其特征在于，创建至少一个服务器集群，具体包括：
根据服务器处理访问请求的业务类别，创建至少两个服务器集群，每个服务器集群用于处理一个或多个业务类别的访问请求，且不同的业务类别对应的服务器集群不同。
3.如权利要求1所述方法，其特征在于，所述方法还包括：
再次响应于用户输入的增加服务器指令，确定待增加的至少一个服务器，将该至少一个服务器增加至特定服务器集群；
或，
再次响应于用户输入的增加服务器指令，确定待增加的至少一个服务器，则根据确定的至少一个服务器，创建至少一个服务器集群，并建立创建的每个服务器集群与VS之间的引用关系；其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
4.如权利要求1所述方法，其特征在于，所述方法还包括：
响应于用户输入的删除服务器的指令，确定待删除的至少一个服务器集群，将该至少一个服务器集群删除，并删除该服务器集群与VS的引用关系；其中，在删除后，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大；
或，
响应于用户输入的删除服务器的指令，确定待删除的至少一个服务器，且该至少一个服务器中，不存在任一服务器集群的所有服务器，将该至少一个服务器从每个服务器所在的服务器集群中删除。
5.一种基于七层负载均衡的服务器集群的管理方法，其特征在于，应用于负载均衡设备，所述负载均衡设备上部署的VS引用至少两个服务器集群，不同的服务器集群对应于不同的访问请求特征；每个服务器集群包括至少一个服务器；所述方法包括：
在接收到用户输入针对指定访问请求特征的增加服务器的指令的情况下，根据接收到的增加服务器的指令，确定待增加的至少一个服务器；
根据确定的至少一个服务器，创建至少一个服务器集群，建立创建的每个服务器集群与VS之间的引用关系，建立创建的每个服务器集权与该访问请求特征之间的对应关系；
其中，所述VS所引用的每个服务器集群具有集群性能权值，对应的总服务器性能更大的服务器集群的集群性能权值更大。
6.一种四层负载均衡方法，其特征在于，应用于负载均衡设备，所述负载均衡设备基于权利要求1至4任一项的基于四层负载均衡的服务器集群的管理方法进行服务器集群的管理，所述方法包括：
接收访问请求，并根据所述访问请求，从VS引用的全部服务器集群中确定N个服务器集群；
若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群；
根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
7.如权利要求6所述方法，其特征在于，根据所述访问请求从VS引用的全部服务器集群中，确定N个服务器集群，具体包括：
根据访问请求的业务类别，确定对应于该业务类别的N个服务器集群。
8.如权利要求6所述方法，其特征在于，所述方法还包括：
若N等于1，则根据负载均衡算法，从确定的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
9.一种七层负载均衡方法，其特征在于，应用于负载均衡设备，所述负载均衡设备基于权利要求5的基于七层负载均衡的服务器集群的管理方法进行服务器集群的管理，所述方法包括：
接收访问请求，并从该访问请求特征对应的全部服务器集群中，确定N个服务器集群；
若N大于1，则通过负载均衡算法，基于确定的N个服务器集群中不同服务器集群的集群性能权值，选择处理该访问请求的服务器集群；
根据负载均衡算法，从选择的服务器集群中确定一个服务器，并将该访问请求发送给确定的服务器。
10.一种负载均衡设备，其特征在于，所述负载均衡设备上部署有VS，所述负载均衡设备包括：
一个或多个处理器；
存储器，用于存储一个或多个程序；
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1至9中任一项所述的方法。
CN202011582774.1A 2020-12-28 2020-12-28 服务器集群的管理方法、负载均衡方法和负载均衡设备 Active CN112738220B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011582774.1A CN112738220B (zh) 2020-12-28 2020-12-28 服务器集群的管理方法、负载均衡方法和负载均衡设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011582774.1A CN112738220B (zh) 2020-12-28 2020-12-28 服务器集群的管理方法、负载均衡方法和负载均衡设备

Publications (2)

Publication Number Publication Date
CN112738220A CN112738220A (zh) 2021-04-30
CN112738220B true CN112738220B (zh) 2023-02-28

Family

ID=75606998

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011582774.1A Active CN112738220B (zh) 2020-12-28 2020-12-28 服务器集群的管理方法、负载均衡方法和负载均衡设备

Country Status (1)

Country Link
CN (1) CN112738220B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11567680B2 (en) * 2020-07-15 2023-01-31 Dynavisor, Inc. Method and system for dynamic storage scaling
CN113746933A (zh) * 2021-09-14 2021-12-03 京东科技信息技术有限公司 显示信息的方法和装置
CN114095419B (zh) * 2021-11-12 2023-11-28 软通动力信息技术(集团)股份有限公司 一种集群路由方法、装置、系统及存储介质
CN116155911A (zh) * 2021-11-23 2023-05-23 华为云计算技术有限公司 一种版本升级方法及装置
CN114244888A (zh) * 2021-12-10 2022-03-25 珠海格力电器股份有限公司 设备与服务器的连接方法、装置与连接系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105516325A (zh) * 2015-12-18 2016-04-20 内蒙古农业大学 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
CN108089934A (zh) * 2016-11-22 2018-05-29 成都华为技术有限公司 集群管理方法及集群服务器
CN110149397A (zh) * 2019-05-20 2019-08-20 湖北亿咖通科技有限公司 一种微服务整合方法和装置
CN110389841A (zh) * 2019-07-25 2019-10-29 中南民族大学 一种服务器负载均衡方法、装置和存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007249445A (ja) * 2006-03-15 2007-09-27 Hitachi Ltd クラスタシステムの負荷分散制御方法およびその装置
US9026655B2 (en) * 2007-01-31 2015-05-05 Oracle America, Inc. Method and system for load balancing
CN103685461B (zh) * 2013-10-24 2018-01-30 瑞典爱立信有限公司 一种集群管理装置、管理系统以及管理方法
CN110515731A (zh) * 2019-08-22 2019-11-29 北京浪潮数据技术有限公司 一种数据处理方法、装置及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105516325A (zh) * 2015-12-18 2016-04-20 内蒙古农业大学 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段
CN108089934A (zh) * 2016-11-22 2018-05-29 成都华为技术有限公司 集群管理方法及集群服务器
CN110149397A (zh) * 2019-05-20 2019-08-20 湖北亿咖通科技有限公司 一种微服务整合方法和装置
CN110389841A (zh) * 2019-07-25 2019-10-29 中南民族大学 一种服务器负载均衡方法、装置和存储介质

Also Published As

Publication number Publication date
CN112738220A (zh) 2021-04-30

Similar Documents

Publication Publication Date Title
CN112738220B (zh) 服务器集群的管理方法、负载均衡方法和负载均衡设备
CN110399307A (zh) 一种测试方法、测试平台及目标服务器
CN109413147B (zh) 服务节点的管理方法、装置、设备及计算机可读存储介质
CN112860375B (zh) 基于Kubernetes的容器化应用请求复制方法、系统、介质和设备
CN107800814B (zh) 虚拟机部署方法及装置
CN111930290B (zh) 资源部署方法及装置
CN111562884B (zh) 一种数据存储方法、装置及电子设备
CN112631758A (zh) 一种边缘计算资源调度方法、装置、设备及可读存储介质
CN114527996A (zh) 一种多服务的部署方法、装置、电子设备及存储介质
CN111431730A (zh) 一种业务处理方法、系统、计算机设备及可读介质
CN112749015B (zh) 负载均衡方法及装置
CN116933886B (zh) 一种量子计算执行方法、系统、电子设备及存储介质
CN115454576B (zh) 一种虚拟机进程管理方法、系统及电子设备
CN107682271B (zh) 一种路由线路的生成方法及装置
CN113179295B (zh) 报文处理方法及装置
CN116418826A (zh) 对象存储系统扩容方法、装置、系统及计算机设备
CN114070889B (zh) 配置方法、流量转发方法、设备、存储介质及程序产品
CN115580618A (zh) 一种负载均衡方法、装置、设备及介质
CN111741487B (zh) 无线网格网络路由选择的测试方法、装置和终端设备
CN108520025B (zh) 一种服务节点确定方法、装置、设备及介质
CN115086226B (zh) 一种匿名网络中匿名链路建立方法和系统
CN115473835B (zh) 流量统计方法及相关设备
CN111314457B (zh) 设置虚拟私有云的方法和装置
CN110213314B (zh) 确定存储节点的方法、装置、服务器
CN117376320A (zh) 一种链路地址选择方法、装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant