CN111381963A - 负载均衡方法、装置、计算机可读存储介质和计算机设备 - Google Patents

负载均衡方法、装置、计算机可读存储介质和计算机设备 Download PDF

Info

Publication number
CN111381963A
CN111381963A CN202010130749.3A CN202010130749A CN111381963A CN 111381963 A CN111381963 A CN 111381963A CN 202010130749 A CN202010130749 A CN 202010130749A CN 111381963 A CN111381963 A CN 111381963A
Authority
CN
China
Prior art keywords
server
processing unit
load balancing
weight
servers
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010130749.3A
Other languages
English (en)
Other versions
CN111381963B (zh
Inventor
张戎
汪华
林向东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tencent Technology Shenzhen Co Ltd
Original Assignee
Tencent Technology Shenzhen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tencent Technology Shenzhen Co Ltd filed Critical Tencent Technology Shenzhen Co Ltd
Priority to CN202010130749.3A priority Critical patent/CN111381963B/zh
Publication of CN111381963A publication Critical patent/CN111381963A/zh
Application granted granted Critical
Publication of CN111381963B publication Critical patent/CN111381963B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5083—Techniques for rebalancing the load in a distributed system
    • G06F9/5088—Techniques for rebalancing the load in a distributed system involving task migration
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer And Data Communications (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请涉及一种负载均衡方法、装置、计算机可读存储介质和计算机设备，所述方法包括：获取当前时刻下目标集群中各服务器的处理单元使用率；各所述服务器的处理单元使用率与各所述服务器所对应的权重正相关；在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各所述服务器所对应的权重；所述负载均衡条件，用于约束负载均衡时各所述处理单元使用率与平均处理单元使用率的关系；按照重新确定的各所述权重为各所述服务器分配处理任务。本申请提供的方案可以更准确地实现负载均衡。

Description

负载均衡方法、装置、计算机可读存储介质和计算机设备
技术领域
本申请涉及计算机技术领域，特别是涉及一种负载均衡方法、装置、计算机可读存储介质和计算机设备。
背景技术
随着计算机技术的发展，提供服务的服务器集群经常需要同时面对海量的用户以及大量的并发请求数据。为了避免由于服务器负载较大出现无法响应的情况，往往需要使得各服务器之间大致负载均衡，避免某一台服务器负载较高。
然而，现有技术中存在多种负载均衡方式，比如轮询或者基于最小负载调度等。但在实际使用过程中，现有的这些负载均衡方式存在准确度不高的问题，各台服务器的负载仍会存在较大差异，整体负载不够均衡稳定。
发明内容
基于此，有必要针对现有的这些负载均衡方式存在准确度不高的技术问题，提供一种负载均衡方法、装置、计算机可读存储介质和计算机设备。
一种负载均衡方法，包括：
获取当前时刻下目标集群中各服务器的处理单元使用率；各所述服务器的处理单元使用率与各所述服务器所对应的权重正相关；
在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则
根据负载均衡条件重新确定各所述服务器所对应的权重；所述负载均衡条件，用于约束负载均衡时各所述处理单元使用率与平均处理单元使用率的关系；
按照重新确定的各所述权重为各所述服务器分配处理任务。
一种负载均衡装置，包括：
获取模块，用于获取当前时刻下目标集群中各服务器的处理单元使用率；各所述服务器的处理单元使用率与各所述服务器所对应的权重正相关；
确定模块，用于在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各所述服务器所对应的权重；所述负载均衡条件，用于约束负载均衡时各所述处理单元使用率与平均处理单元使用率的关系；
分配模块，用于按照重新确定的各所述权重为各所述服务器分配处理任务。
一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行上述负载均衡方法的步骤。
一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行上述负载均衡方法的步骤。
上述负载均衡方法、装置、计算机可读存储介质和计算机设备，在获取到当前时刻下目标集群中各服务器的处理单元使用率后，若这些处理单元使用率中存在多于一个处理单元使用率之间的差异满足权重调整条件，即自动根据负载均衡条件重新确定各服务器所对应的权重。由于各服务器的处理单元使用率与各服务器所对应的权重正相关，且负载均衡条件用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系，这样基于各服务器当前的处理单元使用率出发，考虑到各服务器的实际处理能力，再按照重新确定的各权重为各服务器分配处理任务，使得目标集群中各服务器快速准确地达到负载均衡状态。
附图说明
图1为一个实施例中负载均衡方法的流程示意图；
图2为一个实施例中调整权重之前目标集群各服务器的处理单元使用率随时间变化的示意图；
图3为一个实施例中调整权重之后目标集群各服务器的处理单元使用率随时间变化的示意图；
图4为一个实施例中服务器集群管理页面的示意图；
图5为一个实施例中服务器集群的设置页面的示意图；
图6为一个实施例中负载均衡方法的应用环境图；
图7为另一个实施例中负载均衡方法的流程示意图；
图8为一个实施例中负载均衡装置的结构框图；
图9为另一个实施例中负载均衡装置的结构框图；
图10为一个实施例中计算机设备的结构框图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。
如图1所示，在一个实施例中，提供了一种负载均衡方法。本实施例主要以该方法应用于计算机设备来举例说明。参照图1，该负载均衡方法具体包括如下步骤：
S102，获取当前时刻下目标集群中各服务器的处理单元使用率；各服务器的处理单元使用率与各服务器所对应的权重正相关。
其中，目标集群是作为目标进行负载均衡的服务器集群。服务器集群可以是将多于一个服务器集中起来共同基于同一种业务提供服务。服务器集群可以利用多于一个服务器并行进行数据处理，从而获得较高的响应速度和处理速度。
在一个实施例中，目标集群的数量可以为一个，也可以多于一个。
处理单元使用率是指服务器在数据处理过程中使用处理单元的比率。处理单元使用率具体可以是CPU(central processing unit，中央处理器)使用率，或者GPU(GraphicsProcessing Unit，图形处理器)使用率等。
服务器所对应的权重，用于量化反映服务器的处理能力。服务器所对应的权重越大，表示该服务器的处理能力越强，分配给该服务器进行处理的服务请求可以越多，那么，该服务器的处理单元使用率则越高。也就是说，目标集群中任意一个服务器的处理单元使用率与该服务器所对应的权重正相关。
在一个实施例中，目标集群中任意一个服务器的处理单元使用率，是该服务器所对应的权重的函数，且为单调递增函数。
具体地，计算机设备可以定时监控目标集群中各服务器的处理单元使用率，从而在定时时间节点，获取当前时刻下目标集群中各服务器的处理单元使用率。计算机设备也可以按时间周期监控目标集群中各服务器的处理单元使用率，从而在周期性时间节点，获取当前时刻下目标集群中各服务器的处理单元使用率。计算机设备还可以实时监控目标集群中各服务器的处理单元使用率，从而实时获取到当前时刻下目标集群中各服务器的处理单元使用率。
在一个具体的实施例中，负载均衡方法可通过计算机程序实现的算法模块来执行，该通过计算机程序实现的算法模块可以部署在任何独立于上述目标集群的计算机设备上。这样，计算机设备上的通过计算机程序实现的算法模块可获取当前时刻下目标集群中各服务器的处理单元使用率。
S104，在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各服务器所对应的权重；负载均衡条件，用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系。
其中，权重调整条件是触发进行权重调整的约束条件。在当前满足权重调整条件时，即启动进行权重调整。权重调整条件具体可以是集群中存在多于一个服务器的处理单元使用率之间的差异达到预设数值。
负载均衡条件是集群处于负载均衡状态所需要满足的条件。当集群中各服务器的处理单元使用率与平均处理单元使用率之间关系满足负载均衡条件，则认定集群处于负载均衡状态。其中，平均处理单元使用率是集群中各服务器的处理单元使用率的平均数值。负载均衡条件具体可以是集群中各服务器的处理单元使用率与平均处理单元使用率之间的差异低于预设数值。
可以理解，在实际应用中，通常需要保证目标集群内部的服务器不能宕机，且尽量处于效率最大化状态。那么，理想状态是让处理能力强的服务器能够分配到较多的服务请求，处理能力弱的服务器分配较少的服务请求，出现故障的服务器将不再接受服务请求直至故障恢复，从而让集群内部各服务器的处理单元使用率尽量保持一致。而这些服务器的处理单元使用率达到一致时，它们的服务器的处理单元使用率的平均值也和服务器的处理单元使用率是一致的。
在一个实施例中，在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各服务器所对应的权重，包括：在存在多于一个处理单元使用率之间的极差达到第一预设数值，或者，在存在多于一个处理单元使用率之间的方差达到第二预设数值时，则根据负载均衡条件重新确定各服务器所对应的权重。
其中，多于一个处理单元使用率之间的极差，具体是指这多于一个处理单元使用率中，最大的处理单元使用率与最小的处理单元使用率之间的差异。当这多于一个处理单元使用率是目标集群下所有服务器的处理单元使用率时，这多于一个处理单元使用率之间的极差即为目标集群的极差。第一预设数值为预先设置的极差阈值。
可以理解，对于存在多于一个处理单元使用率之间的极差达到第一预设数值的场景，当多于一个的数量小于目标集群下服务器的数量时，这多于一个处理单元使用率之间的极差达到第一预设数值，必然可以推出目标集群的极差也达到第一预设数值；当多于一个的数量等于目标集群下服务器的数量时，这多于一个处理单元使用率之间的极差达到第一预设数值，即目标集群的极差也达到第一预设数值。而在目标集群的极差达到第一预设数据，也就是目标集群的极差达到极差阈值时，可以认为目标集群内有服务器的负载之间的差异较大，需要调整服务器所对应的权值以均衡目标集群内各服务器的负载。
多于一个处理单元使用率之间的方差，具体是指这多于一个处理单元使用率中，各处理单元使用率与平均处理单元使用率之差的平方和的平均数。当这多于一个处理单元使用率是目标集群下所有服务器的处理单元使用率时，这多于一个处理单元使用率之间的方差即为目标集群的方差。第一预设数值为预先设置的极差阈值。在多于一个处理单元使用率之间的方差或者目标集群的方差达到第二预设数据，也就是达到方差阈值时，可以认为目标集群内服务器的负载偏离平均负载的程度较大，需要调整服务器所对应的权值以均衡目标集群内服务器的负载。
在一个实施例中，权重调整条件可以是存在多于一个处理单元使用率之间的极差达到第一预设数值。计算机设备可在获取当前时刻下目标集群中各服务器的处理单元使用率后，确定这些处理单元使用率中的最大值和最小值，然后计算该最大值和最小值之间的差异值，将该差异值与第一预设数值进行比较。当该差异值大于或者等于第一预设数值时，即认定，存在多于一个处理单元使用率之间的极差达到第一预设数值。另外，计算机设备也可比较当前时刻下目标集群中各服务器的处理单元使用率，当存在多于一个处理单元使用率中最大值和最小值的差异大于或者等于第一预设数值时，也认定存在多于一个处理单元使用率之间的极差达到第一预设数值。
在一个实施例中，存在多于一个处理单元使用率之间的方差达到第二预设数值，计算机设备可在获取当前时刻下目标集群中各服务器的处理单元使用率后，确定这些处理单元使用率方差，然后将该方差与第二预设数值进行比较。当该方差大于或者等于第二预设数值时，即认定，存在多于一个处理单元使用率之间的方差达到第二预设数值。另外，计算机设备也可计算这些处理单元使用率中部分处理单元使用率的方差，当这部分处理单元使用率的方差大于或者等于第二预设数值时，也认定存在多于一个处理单元使用率之间的方差达到第二预设数值。
上述实施例中，提供了多种发现负载失衡，并触发进行权重调整以均衡负载的约束条件，从而可以更加及时地均衡负载，使得集群时刻处于负载均衡状态，不会出现较大处理单元使用率差异的场景，可有效地保证业务的稳定运行。
在一个实施例中，在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各服务器所对应的权重，包括：在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则获取负载均衡条件所指向的目标函数；目标函数根据各服务器的处理单元使用率与平均处理单元使用率之间的差异创建；各服务器的处理单元使用率为各服务器所对应的权重的正相关函数；最小化目标函数，重新确定各服务器所对应的权重。
可以理解，在实际应用中，通常需要保证目标集群内部的服务器不能宕机，且尽量处于效率最大化状态。那么，理想状态是让处理能力强的服务器能够分配到较多的服务请求，处理能力弱的服务器分配较少的服务请求，出现故障的服务器将不再接受服务请求直至故障恢复，从而让集群内部各服务器的处理单元使用率尽量保持一致。而这些服务器的处理单元使用率达到一致时，它们的服务器的处理单元使用率的平均值也和服务器的处理单元使用率是一致的。那么，可根据各服务器的处理单元使用率与平均处理单元使用率之间的差异构建目标函数，通过对目标函数求取最小值，以使各服务器的处理单元使用率与平均处理单元使用率之间的差异尽量小，从而来实现目标集群的负载均衡。由于各服务器的处理单元使用率为各服务器所对应的权重的正相关函数，那么对目标函数求取最小值，也就是寻找一组权重，使得目标函数的取值达到最小。
具体地，由于构建目标函数进行计算的目的，是为了使各服务器的处理单元使用率与平均处理单元使用率之间的差异尽量小。那么，目标函数具体可以是绝对值损失函数或者平方损失函数。其中，绝对值损失函数具体可以是平均绝对误差(Mean AbsoluteError)，平均绝对误差是绝对误差的平均值，本实施例中的绝对误差，可以是各服务器的处理单元使用率与平均处理单元使用率之间的差异值。平方损失函数具体可以是均方误差(Mean Squared Error)或者均方根误差。均方误差是指参数估计值与参数真值之差平方的期望值，在本实施例中，均方误差为各服务器的处理单元使用率与平均处理单元使用率之差平方的期望值。均方根误差是均方误差的算术平方根。
在一个实施例中，可基于均方误差构建目标函数，此时目标函数如下式所示：
Figure BDA0002395707450000071
Figure BDA0002395707450000072
其中，n为目标集群中服务器的数量；wi为第i个服务器所对应的权重；fi(wi)为第i个服务器的处理单元使用率；μ为平均处理单元使用率。
本实施例中的目标函数是基于均方误差的函数，旨在寻找一组w1,w2,...,wn，使得L(w1,w2,...,wn)达到最小值。
可以理解，负载均衡状态目的是一个集群内的所有服务器的CPU使用率都几乎保持一致，不希望有服务器之间的CPU使用率的差值过大。例如，两台服务器，希望最好都是50％和50％的CPU使用率，而不希望一台服务器是90％的CPU使用率，另一台是10％的CPU使用率。在这种情况下，希望这n台服务器的CPU使用率几乎达到一致的情况。而这些CPU使用率达到一致的时候，它们的平均值和单个服务器的CPU使用率一样，此时的目标函数恰好达到最小值，也就是零。所以构建如式(1)的函数，即为了计算该目标函数的最小值。
可以理解，负载均衡条件所指向的目标函数，是指求解目标函数的最小值所或者的新的各服务器所对应的权重，可以用于调节目标集群至负载均衡状态。
上述实施例中，考虑到集群中每一个服务器的实际处理能力，通过构建目标函数，基于目标函数来选择合适的权重给服务器，使得目标集群中各服务器快速准确地达到负载均衡状态。
在一个实施例中，最小化目标函数，重新确定各服务器所对应的权重，包括：计算目标函数对于各服务器所对应的权重的导函数；基于目标函数的梯度下降方向，根据导函数确定各服务器所对应的权重的迭代公式；基于迭代公式进行多次迭代，确定最小化目标函数的各权重。
可以理解，在最小化目标函数时，可以通过梯度下降法、最小二乘法、牛顿法以及拟牛顿法等算法来求取目标函数的最小值，以得到使得目标函数取得最小值的各服务器所对应的权重。可以理解，本实施例中可以通过梯度下降法来一步步的迭代求解，得到最小化的目标函数和各服务器所对应的权重。
具体地，计算机设备可计算目标函数对于各服务器所对应的权重的导函数，也就是目标函数对各服务器所对应的权重的梯度，如下所示：
Figure BDA0002395707450000081
由于
Figure BDA0002395707450000082
则
Figure BDA0002395707450000083
那么：
Figure BDA0002395707450000084
基于此，假设用
Figure BDA0002395707450000085
来表示第k次迭代中第i个服务器所对应的权重。那么，根据梯度下降法，对于每一个
Figure BDA0002395707450000086
都存在权重的迭代公式。
在一个实施例中，基于梯度下降法，各服务器所对应的权重的迭代公式如下式所示：
Figure BDA0002395707450000091
其中，k为迭代次数，ηi>0为学习率。学习率可以自定义设置，一般取一个较小的正数即可，用于权重的迭代过程，保证持续可以获得目标函数的最小值。
将式(4)带入式(5)可以得到：
Figure BDA0002395707450000092
由于fi(wi)为第i个服务器的处理单元使用率，而且，当wi增大时，fi(wi)会随着wi的增大而增大，因此，fi(wi)对于wi是一个严格递增函数，则fi'(wi)＞0。
于是，在这种场景下，为简化式(6)可将学习率ηi定义为：
Figure BDA0002395707450000093
此时，权重的迭代公式可以改写为：
Figure BDA0002395707450000094
Figure BDA0002395707450000095
因此，基于式(8)和式(9)可以得到：对于k≥0均有
Figure BDA0002395707450000096
成立。也就是说，基于式(7)对学习率的定义，无论迭代多少次，目标集群内所有服务器所对应的权重之和为恒定值，符合历史经验且符合自然规律。
需要说明的是，在自然规律和历史经验下，当目标集群中某个服务器的处理单元使用率低于平均处理单元使用率时，通常需要增加该服务器所对应的权重来提高该服务器的处理单元使用率；或者，当目标集群中某个服务器的处理单元使用率高于平均处理单元使用率时，通常需要降低该服务器所对应的权重来降低该服务器的处理单元使用率。
而对于最后得到的权重的迭代公式(8)进行分析可知：
(1)当μ＞fi(wi)时，该迭代公式会使得wi增大，显然这与自然规律和历史经验是相符合的。即第i个服务器的处理单元使用率低于平均处理单元使用率时，通常需要增加该服务器所对应的权重来提高该服务器的处理单元使用率。
(2)当μ＜fi(wi)时，该迭代公式会使得wi减小，显然这与自然规律和历史经验也是相符合的。即第i个服务器的处理单元使用率高于平均处理单元使用率时，通常需要减小该服务器所对应的权重来提高该服务器的处理单元使用率。
(3)当|μ-fi(wi)|偏大时，根据权重的迭代公式可知wi需要的改动幅度相对较大，这与自然规律和历史经验也是相符合的，因为|μ-fi(wi)|偏大说明第i个服务器的处理单元使用率偏移平均处理单元使用率较大，需要进行较大的调整。
(4)当|μ-fi(wi)|偏小时，根据权重的迭代公式可知wi需要的改动幅度相对较小，这与自然规律和历史经验也是相符合的，因为|μ-fi(wi)|偏小说明第i个服务器的处理单元使用率偏移平均处理单元使用率较小，需要进行较小的调整。
所以，基于式(1)所示的目标函数以及式(7)所示的学习率，根据梯度下降法可以得到符合历史经验且符合自然规律的权重的迭代公式。那么，在本申请实施例中，即可毫无疑义地基于该迭代公式重新确定能使得目标集群负载均衡、且准确的各服务器所对应的权重。
在另外的实施例中，学习率可以根据情况自定调整，是正数即可，不一定要按照式(7)定义。
上述实施例中，通过梯度下降算法可以方便准确地获得使目标函数取得最小值的各服务器所对应的权重，后续可按照重新确定的各权重为各服务器分配处理任务，使得目标集群中各服务器快速准确地达到负载均衡状态。
在一个实施例中，权重调整条件，还可以是在当前时刻目标集群中存在服务器的处理单元使用率异常。服务器的处理单元使用率异常比如服务器的处理单元使用率为0或者较高甚至为100％。在当前时刻目标集群中存在服务器的处理单元使用率异常，则判定该服务器出现故障，处于异常状态。此时可在重新确定各服务器所对应的权重时，将该服务器所对应的权重设置为零。直到该服务器故障恢复后，不再将该服务器所对应的权重设置为零，再重新确定各服务器所对应的权重，使得目标集群中所有服务器达到负载均衡状态。
S106，按照重新确定的各权重为各服务器分配处理任务。
具体地，计算机设备按照重新确定的各权重为各服务器分配处理任务时，可以将历史已分配但尚未处理的处理任务进行调度，使得各服务器的处理任务与各服务器的权重匹配，再继续按照重新确定的各权重分配尚未分配的处理任务；计算机设备也可以直接继续分配尚未分配的处理任务，使得各服务器的处理任务与各服务器的权重匹配。
举例说明，例如处理任务的总量是100，目标集群包括四个服务器(A、B、C、D)，这四个服务器的权重分别为50、25、15、10。则为服务器A分配50个处理任务，为服务器B分配25个处理任务，为服务器C分配15个处理任务，为服务器D分配10个处理任务。
如图2所示，该图示出了一个实施例中调整权重之前目标集群各服务器的处理单元使用率随时间变化的示意图。参考图2，可以看到存在服务器之间的处理单元使用率相差较大。如图3所示，该图示出了一个实施例中调整权重之后目标集群各服务器的处理单元使用率随时间变化的示意图。参考图3，可以看到存在调整各服务器所对应的权重后，各服务器的处理单元使用率基本一致。对比图2和图3，可以明显看出经过各服务器所对应权重的调整，目标集群从负载不均衡的状态更新为负载均衡状态。
上述负载均衡方法，在获取到当前时刻下目标集群中各服务器的处理单元使用率后，若这些处理单元使用率中存在多于一个处理单元使用率之间的差异满足权重调整条件，即自动根据负载均衡条件重新确定各服务器所对应的权重。由于各服务器的处理单元使用率与各服务器所对应的权重正相关，且负载均衡条件用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系，这样基于各服务器当前的处理单元使用率出发，考虑到各服务器的实际处理能力，再按照重新确定的各权重为各服务器分配处理任务，使得目标集群中各服务器快速准确地达到负载均衡状态。
在一个实施例中，获取当前时刻下目标集群中各服务器的处理单元使用率，包括：实时获取目标集群中各服务器的处理单元使用率。按照重新确定的各权重为各服务器分配处理任务，包括：实时按照重新确定的各权重为各服务器分配处理任务，以使目标集群中各服务器实时处于负载均衡状态。
具体地，计算机设备可实时监控目标集群中各服务器的处理单元使用率，以实时获取目标集群的运行状态。当目标集群的运行状态不为负载均衡状态，则实时重新确定各服务器所对应的权重，并实时按照重新确定的各权重为各服务器分配处理任务，以使目标集群中各服务器实时处于负载均衡状态。
在本实施例中，通过实时监控目标集群中各服务器的处理单元使用率，可以及时地发现负载不均衡的情形，并及时地自动调整，从而使得目标集群中各服务器实时处于负载均衡状态。
在一个实施例中，该负载均衡方法还包括：接收目标应用传递的目标集群标识；根据目标集群标识确定接入本地的目标集群；其中，目标集群标识由目标应用，在目标集群标识所对应的配置页面产生对应于接入入口的触发操作时发起传递。
具体地，终端上可运行有目标应用，该目标应用可用于将服务器集群接入至执行负载均衡方法的计算机设备，具体接入该计算机设备中通过计算机程序实现的算法模块，该计算机设备通过该算法模块来实现负载均衡方法。
终端在根据用户操作运行目标应用后，可继续根据用户操作展示服务器集群管理页面，该服务器集群管理页面中可显示有服务器集群列表。举例说明，如图4所示，该图示出了一个实施例中服务器集群管理页面的示意图。参考图4，该图中显示有服务器集群列表410，该服务器集群列表中显示有集群标识(ID)。
进一步地，终端可根据在服务器集群列表的用户操作，进入服务器集群的配置页面，该配置页面包括接入入口，终端可在该配置页面产生对应于接入入口的触发操作时，传递该配置页面所对应的服务器集群的集群标识传递至计算机设备。举例说明，如图5所示，该图示出了一个实施例中服务器集群的设置页面的示意图。参考图5，该图所示的页面可通过操作图4中显示的集群标识进入，该页面中显示有接入入口510，用户可通过该接入入口控制服务器集群接入计算机设备。该接入入口上可显示有接入状态。比如，在通过接入入口接入计算机设备后，该接入入口上可显示有“已接入”字样，以表示该服务器集群处于接入状态；在未接入计算机设备时，该接入入口上可显示有“未接入”字样，以表示该服务器集群处于未接入状态。
这样，计算机设备在接收到目标应用传递的目标集群标识后，可确定这些目标集群标识所标识的服务器集群，从而确定接入本地的目标集群。后续则可监控这些目标集群中各服务器的处理单元使用率，以实时及时调控负载，使得目标集群实时处于负载均衡状态。
在本实施例中，提供了对目标集群进行负载均衡调节的途径，使得需要保持负载均衡的集群可以根据该途径，通过本申请提供的方案确保实时处于负载均衡的状态。
在另外的实施例中，在重新确定目标集群中各服务器所对应的权重，进行负载均衡调节时，可以不是一次调节目标集群至负载均衡状态。具体可以是经过有限次的重新确定目标集群中各服务器所对应的权重，有限次地调节目标集群至负载均衡状态。当多于一个处理单元使用率之间的差异小于某个阈值时，则认为调节完成。在调节完成后，各服务器所对应的权重会保持一段时间，直到下一次进行负载均衡调节。
在另外的实施例中，一个服务器集群可以是一个路由下的所有服务器。在前的实施例中的服务器集群标识或者目标集群标识均可以是路由标识(ID)。目标应用可基于统一路由查找需要接入计算机设备保持负载均衡的路由，并通过路由标识进入路由设置，即设置是否接入计算机设备保持负载均衡。
图6为一个实施例中负载均衡方法的应用环境图。参照图6，该负载均衡方法的应用环境包括服务器集群610和调节服务器620。服务器集群610的数量可以多于一个。调节服务器620上运行有通过计算机程序实现的算法模块，在服务器集群610接入调节服务器620上的算法模块时，调节服务器620即将服务器集群610作为目标集群，并通过其上运行的算法模块实时监控服务器集群610中各服务器的处理单元使用率(即CPU使用率)，继而执行前述实施例所提供的负载均衡方法。
如图7所示，在一个具体的实施例中，图6中所示的调节服务器620可通过其上运行的通过计算机程序实现的算法模块执行负载均衡方法，该负载均衡方法具体包括以下步骤：
S702，实时获取目标集群中各服务器的CPU使用率。
S704，判断是否存在多于一个CPU使用率之间的极差达到第一预设数值，或者是否存在多于一个CPU使用率之间的方差达到第二预设数值；若存在多于一个CPU使用率之间的极差达到第一预设数值，则跳转到S706；若存在多于一个CPU使用率之间的方差达到第二预设数值，则跳转到S706；若既不存在多于一个CPU使用率之间的极差达到第一预设数值，也不存在多于一个CPU使用率之间的方差达到第二预设数值，则跳转到S702。
S706，获取负载均衡条件所指向的目标函数；目标函数根据各服务器的处理单元使用率与平均处理单元使用率之间的差异创建；各服务器的处理单元使用率为各服务器所对应的权重的正相关函数。
S708，计算目标函数对于各服务器所对应的权重的导函数；基于目标函数的梯度下降方向，根据导函数确定各服务器所对应的权重的迭代公式；基于迭代公式进行多次迭代，确定最小化目标函数的各权重。
S710，实时按照重新确定的各权重为各服务器分配处理任务，以使目标集群中各服务器实时处于负载均衡状态。
另外，还可以包括S700，接收目标应用传递的目标集群标识；根据目标集群标识确定接入本地的目标集群；其中，目标集群标识由目标应用，在目标集群标识所对应的配置页面产生对应于接入入口的触发操作时发起传递。
需要说明的是，S700可以是准备步骤，该步骤的执行频率以及执行条件与S702至S710的执行频率以及执行条件不同。S700在目标应用传递目标集群标识时才执行，S702至S704可实时执行，S706至S710则在存在多于一个CPU使用率之间的极差达到第一预设数值，或者，存在多于一个CPU使用率之间的方差达到第二预设数值时执行。
上述负载均衡方法，通过定量监控，即监控是否存在多于一个CPU使用率之间的极差达到第一预设数值，或者，存在多于一个CPU使用率之间的方差达到第二预设数值，来实现在目标集群未处于负载均衡状态时及时进行调整，以自动调整至最佳的负载均衡状态。
而且，所要重新确定的权重与服务器实际运行时的CPU使用率相关，能够动态计算，适应不同的服务器硬件；权重由目标函数所决定，根据实际情况自动发布，减少人工变更所带来的风险；集群下面的服务器时刻处于负载均衡状态，不会出现较大CPU使用率极差的场景，可以有效地保证业务的稳定运行。
应该理解的是，虽然上述各实施例的流程图中的各个步骤按照箭头的指示依次显示，但是这些步骤并不是必然按照箭头指示的顺序依次执行。除非本文中有明确的说明，这些步骤的执行并没有严格的顺序限制，这些步骤可以以其它的顺序执行。而且，上述各实施例中的至少一部分步骤可以包括多个子步骤或者多个阶段，这些子步骤或者阶段并不必然是在同一时刻执行完成，而是可以在不同的时刻执行，这些子步骤或者阶段的执行顺序也不必然是依次进行，而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
如图8所示，在一个实施例中，提供了一种负载均衡装置800。参照图8，该负载均衡装置800包括：获取模块801、确定模块802和分配模块803。
获取模块801，用于获取当前时刻下目标集群中各服务器的处理单元使用率；各服务器的处理单元使用率与各服务器所对应的权重正相关。
确定模块802，用于在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各服务器所对应的权重；负载均衡条件，用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系。
分配模块803，用于按照重新确定的各权重为各服务器分配处理任务。
上述负载均衡装置，在获取到当前时刻下目标集群中各服务器的处理单元使用率后，若这些处理单元使用率中存在多于一个处理单元使用率之间的差异满足权重调整条件，即自动根据负载均衡条件重新确定各服务器所对应的权重。由于各服务器的处理单元使用率与各服务器所对应的权重正相关，且负载均衡条件用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系，这样基于各服务器当前的处理单元使用率出发，考虑到各服务器的实际处理能力，再按照重新确定的各权重为各服务器分配处理任务，使得目标集群中各服务器快速准确地达到负载均衡状态。
在一个实施例中，获取模块801还用于实时获取目标集群中各服务器的处理单元使用率。分配模块803还用于实时按照重新确定的各权重为各服务器分配处理任务，以使目标集群中各服务器实时处于负载均衡状态。
如图9所示，在一个实施例中，负载均衡装置800还包括接收模块804，用于接收目标应用传递的目标集群标识；根据目标集群标识确定接入本地的目标集群；其中，目标集群标识由目标应用，在目标集群标识所对应的配置页面产生对应于接入入口的触发操作时发起传递。
在一个实施例中，确定模块802还用于在存在多于一个处理单元使用率之间的极差达到第一预设数值，或者，在存在多于一个处理单元使用率之间的方差达到第二预设数值时，则根据负载均衡条件重新确定各服务器所对应的权重。
在一个实施例中，确定模块802还用于在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则获取负载均衡条件所指向的目标函数；目标函数根据各服务器的处理单元使用率与平均处理单元使用率之间的差异创建；各服务器的处理单元使用率为各服务器所对应的权重的正相关函数；最小化目标函数，重新确定各服务器所对应的权重。
在一个实施例中，目标函数如下式所示：
Figure BDA0002395707450000161
Figure BDA0002395707450000162
其中，n为目标集群中服务器的数量；wi为第i个服务器所对应的权重；fi(wi)为第i个服务器的处理单元使用率；μ为平均处理单元使用率。
在一个实施例中，确定模块802还用于计算目标函数对于各服务器所对应的权重的导函数；基于目标函数的梯度下降方向，根据导函数确定各服务器所对应的权重的迭代公式；基于迭代公式进行多次迭代，确定最小化目标函数的各权重。
在一个实施例中，各服务器所对应的权重的迭代公式如下式所示：
Figure BDA0002395707450000171
其中，k为迭代次数，ηi>0为学习率。
图10示出了一个实施例中计算机设备的内部结构图。该计算机设备具体可以是图6中的调节服务器620。如图10所示，该计算机设备包括该计算机设备包括通过系统总线连接的处理器、存储器和网络接口。其中，存储器包括非易失性存储介质和内存储器。该计算机设备的非易失性存储介质存储有操作系统，还可存储有计算机程序，该计算机程序被处理器执行时，可使得处理器实现负载均衡方法。该内存储器中也可储存有计算机程序，该计算机程序被处理器执行时，可使得处理器执行负载均衡方法。本领域技术人员可以理解，图10中示出的结构，仅仅是与本申请方案相关的部分结构的框图，并不构成对本申请方案所应用于其上的计算机设备的限定，具体的计算机设备可以包括比图中所示更多或更少的部件，或者组合某些部件，或者具有不同的部件布置。
在一个实施例中，本申请提供的负载均衡装置可以实现为一种计算机程序的形式，计算机程序可在如图10所示的计算机设备上运行。计算机设备的存储器中可存储组成该负载均衡装置的各个程序模块，比如，图8所示的获取模块801、确定模块802和分配模块803。各个程序模块构成的计算机程序使得处理器执行本说明书中描述的本申请各个实施例的负载均衡方法中的步骤。
例如，图10所示的计算机设备可以通过如图8所示的负载均衡装置中的获取模块801执行获取当前时刻下目标集群中各服务器的处理单元使用率的步骤；各服务器的处理单元使用率与各服务器所对应的权重正相关。通过确定模块802执行在存在多于一个处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各服务器所对应的权重的步骤；负载均衡条件，用于约束负载均衡时各处理单元使用率与平均处理单元使用率的关系。通过分配模块803执行按照重新确定的各权重为各服务器分配处理任务的步骤。
在一个实施例中，提供了一种计算机设备，包括存储器和处理器，存储器存储有计算机程序，计算机程序被处理器执行时，使得处理器执行上述负载均衡方法的步骤。此处负载均衡方法的步骤可以是上述各个实施例的负载均衡方法中的步骤。
在一个实施例中，提供了一种计算机可读存储介质，存储有计算机程序，计算机程序被处理器执行时，使得处理器执行上述负载均衡方法的步骤。此处负载均衡方法的步骤可以是上述各个实施例的负载均衡方法中的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。
以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对本申请专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求为准。

Claims (15)

1.一种负载均衡方法，其特征在于，所述方法包括：
获取当前时刻下目标集群中各服务器的处理单元使用率；各所述服务器的处理单元使用率与各所述服务器所对应的权重正相关；
在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则
根据负载均衡条件重新确定各所述服务器所对应的权重；所述负载均衡条件，用于约束负载均衡时各所述处理单元使用率与平均处理单元使用率的关系；
按照重新确定的各所述权重为各所述服务器分配处理任务。
2.根据权利要求1所述的方法，其特征在于，所述获取当前时刻下目标集群中各服务器的处理单元使用率，包括：
实时获取目标集群中各服务器的处理单元使用率；
所述按照重新确定的各所述权重为各所述服务器分配处理任务，包括：
实时按照重新确定的各所述权重为各所述服务器分配处理任务，以使所述目标集群中各服务器实时处于负载均衡状态。
3.根据权利要求1所述的方法，其特征在于，所述方法还包括：
接收目标应用传递的目标集群标识；
根据所述目标集群标识确定接入本地的目标集群；
其中，所述目标集群标识由所述目标应用，在所述目标集群标识所对应的配置页面产生对应于接入入口的触发操作时发起传递。
4.根据权利要求1所述的方法，其特征在于，所述在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各所述服务器所对应的权重，包括：
在存在多于一个所述处理单元使用率之间的极差达到第一预设数值，或者，在存在多于一个所述处理单元使用率之间的方差达到第二预设数值时，则根据负载均衡条件重新确定各所述服务器所对应的权重。
5.根据权利要求1所述的方法，其特征在于，所述在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各所述服务器所对应的权重，包括：
在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则
获取负载均衡条件所指向的目标函数；所述目标函数根据各所述服务器的处理单元使用率与平均处理单元使用率之间的差异创建；各所述服务器的处理单元使用率为各所述服务器所对应的权重的正相关函数；
最小化所述目标函数，重新确定各所述服务器所对应的权重。
6.根据权利要求5所述的方法，其特征在于，所述目标函数如下式所示：
Figure FDA0002395707440000021
Figure FDA0002395707440000022
其中，n为目标集群中服务器的数量；wi为第i个服务器所对应的权重；fi(wi)为第i个服务器的处理单元使用率；μ为平均处理单元使用率。
7.根据权利要求5所述的方法，其特征在于，所述最小化所述目标函数，重新确定各所述服务器所对应的权重，包括：
计算所述目标函数对于各所述服务器所对应的权重的导函数；
基于所述目标函数的梯度下降方向，根据所述导函数确定各所述服务器所对应的权重的迭代公式；
基于所述迭代公式进行多次迭代，确定最小化所述目标函数的各权重。
8.根据权利要求7所述的方法，其特征在于，各所述服务器所对应的权重的迭代公式如下式所示：
Figure FDA0002395707440000023
其中，k为迭代次数，ηi>0为学习率。
9.一种负载均衡装置，包括：
获取模块，用于获取当前时刻下目标集群中各服务器的处理单元使用率；各所述服务器的处理单元使用率与各所述服务器所对应的权重正相关；
确定模块，用于在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则根据负载均衡条件重新确定各所述服务器所对应的权重；所述负载均衡条件，用于约束负载均衡时各所述处理单元使用率与平均处理单元使用率的关系；
分配模块，用于按照重新确定的各所述权重为各所述服务器分配处理任务。
10.根据权利要求9所述的装置，其特征在于，所述获取模块还用于实时获取目标集群中各服务器的处理单元使用率；所述分配模块还用于实时按照重新确定的各所述权重为各所述服务器分配处理任务，以使所述目标集群中各服务器实时处于负载均衡状态。
11.根据权利要求9所述的装置，其特征在于，所述确定模块还用于在存在多于一个所述处理单元使用率之间的极差达到第一预设数值，或者，在存在多于一个所述处理单元使用率之间的方差达到第二预设数值时，则根据负载均衡条件重新确定各所述服务器所对应的权重。
12.根据权利要求9所述的装置，其特征在于，所述确定模块还用于在存在多于一个所述处理单元使用率之间的差异满足权重调整条件时，则获取负载均衡条件所指向的目标函数；所述目标函数根据各所述服务器的处理单元使用率与平均处理单元使用率之间的差异创建；各所述服务器的处理单元使用率为各所述服务器所对应的权重的正相关函数；最小化所述目标函数，重新确定各所述服务器所对应的权重。
13.根据权利要求12所述的装置，其特征在于，所述确定模块还用于计算所述目标函数对于各所述服务器所对应的权重的导函数；基于所述目标函数的梯度下降方向，根据所述导函数确定各所述服务器所对应的权重的迭代公式；基于所述迭代公式进行多次迭代，确定最小化所述目标函数的各权重。
14.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如权利要求1至8中任一项所述的方法的步骤。
15.一种计算机设备，包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如权利要求1至8中任一项所述的方法的步骤。
CN202010130749.3A 2020-02-28 2020-02-28 负载均衡方法、装置、计算机可读存储介质和计算机设备 Active CN111381963B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010130749.3A CN111381963B (zh) 2020-02-28 2020-02-28 负载均衡方法、装置、计算机可读存储介质和计算机设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010130749.3A CN111381963B (zh) 2020-02-28 2020-02-28 负载均衡方法、装置、计算机可读存储介质和计算机设备

Publications (2)

Publication Number Publication Date
CN111381963A true CN111381963A (zh) 2020-07-07
CN111381963B CN111381963B (zh) 2023-06-09

Family

ID=71218648

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010130749.3A Active CN111381963B (zh) 2020-02-28 2020-02-28 负载均衡方法、装置、计算机可读存储介质和计算机设备

Country Status (1)

Country Link
CN (1) CN111381963B (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111930516A (zh) * 2020-09-17 2020-11-13 腾讯科技（深圳）有限公司 一种负载均衡方法及相关装置
CN112019630A (zh) * 2020-09-01 2020-12-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN112261120A (zh) * 2020-10-19 2021-01-22 广东电网有限责任公司电力调度控制中心 一种配电物联网云边协同任务卸载方法及装置
CN113242283A (zh) * 2021-04-29 2021-08-10 西安点告网络科技有限公司 一种服务器动态负载均衡方法、系统、设备及存储介质
CN114780463A (zh) * 2022-03-01 2022-07-22 阿里巴巴（中国）有限公司 中断控制方法、设备、分布式系统及存储介质

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101504620A (zh) * 2009-03-03 2009-08-12 华为技术有限公司 一种虚拟化集群系统负载平衡方法、装置及系统
CN103259739A (zh) * 2012-02-15 2013-08-21 株式会社日立制作所 负载均衡设备以及负载均衡方法
CN103885831A (zh) * 2012-12-19 2014-06-25 中国电信股份有限公司 虚拟机宿主机的选择方法与装置
CN104008011A (zh) * 2013-10-17 2014-08-27 中华电信股份有限公司 丛集环境中平衡实体机资源负载的方法
US20160088072A1 (en) * 2014-09-19 2016-03-24 Facebook, Inc. Balancing load across cache servers in a distributed data store
US20170075749A1 (en) * 2015-09-14 2017-03-16 Dynatrace Llc Method And System For Real-Time Causality And Root Cause Determination Of Transaction And Infrastructure Related Events Provided By Multiple, Heterogeneous Agents
CN107124472A (zh) * 2017-06-26 2017-09-01 杭州迪普科技股份有限公司 负载均衡方法及装置、计算机可读存储介质

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101504620A (zh) * 2009-03-03 2009-08-12 华为技术有限公司 一种虚拟化集群系统负载平衡方法、装置及系统
CN103259739A (zh) * 2012-02-15 2013-08-21 株式会社日立制作所 负载均衡设备以及负载均衡方法
CN103885831A (zh) * 2012-12-19 2014-06-25 中国电信股份有限公司 虚拟机宿主机的选择方法与装置
CN104008011A (zh) * 2013-10-17 2014-08-27 中华电信股份有限公司 丛集环境中平衡实体机资源负载的方法
US20160088072A1 (en) * 2014-09-19 2016-03-24 Facebook, Inc. Balancing load across cache servers in a distributed data store
US20170075749A1 (en) * 2015-09-14 2017-03-16 Dynatrace Llc Method And System For Real-Time Causality And Root Cause Determination Of Transaction And Infrastructure Related Events Provided By Multiple, Heterogeneous Agents
CN107124472A (zh) * 2017-06-26 2017-09-01 杭州迪普科技股份有限公司 负载均衡方法及装置、计算机可读存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
S. WILSON PRAKASH等: "Server-based Dynamic Load Balancing" *
刘志飘等: "一种能量感知的虚拟机放置智能优化算法" *

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112019630A (zh) * 2020-09-01 2020-12-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN112019630B (zh) * 2020-09-01 2023-09-01 北京天融信网络安全技术有限公司 一种负载均衡方法以及装置
CN111930516A (zh) * 2020-09-17 2020-11-13 腾讯科技（深圳）有限公司 一种负载均衡方法及相关装置
CN112261120A (zh) * 2020-10-19 2021-01-22 广东电网有限责任公司电力调度控制中心 一种配电物联网云边协同任务卸载方法及装置
CN113242283A (zh) * 2021-04-29 2021-08-10 西安点告网络科技有限公司 一种服务器动态负载均衡方法、系统、设备及存储介质
CN114780463A (zh) * 2022-03-01 2022-07-22 阿里巴巴（中国）有限公司 中断控制方法、设备、分布式系统及存储介质

Also Published As

Publication number Publication date
CN111381963B (zh) 2023-06-09

Similar Documents

Publication Publication Date Title
CN111381963A (zh) 负载均衡方法、装置、计算机可读存储介质和计算机设备
US10361928B2 (en) Cluster instance management system
CN107026907B (zh) 一种负载均衡方法、负载均衡器及负载均衡系统
US6742100B1 (en) Method and system for managing memory pools in a partitioned computer system
US10129101B2 (en) Application driven and adaptive unified resource management for data centers with Multi-Resource Schedulable Unit (MRSU)
US7467291B1 (en) System and method for calibrating headroom margin
JP5050854B2 (ja) 資源量計算システム、方法およびプログラム
US20230093389A1 (en) Service request allocation method and apparatus, computer device, and storage medium
CN103870334A (zh) 一种大规模漏洞扫描的任务分配方法及装置
US6738886B1 (en) Method and system for automatically distributing memory in a partitioned system to improve overall performance
CN110716808B (zh) 业务处理方法、装置、计算机设备和存储介质
CN109587220B (zh) 负载均衡方法、装置、计算机设备和存储介质
CN110677459A (zh) 资源调整方法、装置、计算机设备和计算机存储介质
CN106133693A (zh) 虚拟机的迁移方法、装置及设备
CN106101276B (zh) 一种集群负载均衡方法及装置
US20120233313A1 (en) Shared scaling server system
CN112711479A (zh) 服务器集群的负载均衡系统、方法、装置和存储介质
CN112689007A (zh) 资源分配方法、装置、计算机设备和存储介质
CN116467082A (zh) 一种基于大数据的资源分配方法及系统
CN109460301B (zh) 一种流数据负载的弹性资源配置方法及系统
CN115168017B (zh) 一种任务调度云平台及其任务调度方法
CN106919450B (zh) 资源调整方法和装置
JP6565429B2 (ja) 仮想マシン共有を用いるデータセンタネットワークにおけるリスク軽減
US20130159513A1 (en) Information processing system and operation management method
CN112416888B (zh) 用于分布式文件系统的动态负载均衡方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40026162

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant