CN113938488A - 一种基于动静态加权轮询的负载均衡方法 - Google Patents
一种基于动静态加权轮询的负载均衡方法 Download PDFInfo
- Publication number
- CN113938488A CN113938488A CN202111119816.2A CN202111119816A CN113938488A CN 113938488 A CN113938488 A CN 113938488A CN 202111119816 A CN202111119816 A CN 202111119816A CN 113938488 A CN113938488 A CN 113938488A
- Authority
- CN
- China
- Prior art keywords
- performance
- load
- node
- server
- weight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003068 static effect Effects 0.000 title claims abstract description 33
- 238000000034 method Methods 0.000 title claims abstract description 22
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 39
- 238000002922 simulated annealing Methods 0.000 claims abstract description 6
- 239000011159 matrix material Substances 0.000 claims description 26
- 238000011156 evaluation Methods 0.000 claims description 25
- 230000004044 response Effects 0.000 claims description 14
- 230000008859 change Effects 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 9
- 230000007704 transition Effects 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 6
- 230000007334 memory performance Effects 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 5
- 238000012546 transfer Methods 0.000 claims description 4
- 238000001816 cooling Methods 0.000 claims description 3
- 230000007423 decrease Effects 0.000 claims description 3
- 230000009191 jumping Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 238000012935 Averaging Methods 0.000 claims description 2
- 229910000734 martensite Inorganic materials 0.000 claims description 2
- 238000013135 deep learning Methods 0.000 abstract description 2
- 230000000694 effects Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000000137 annealing Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/14—Network analysis or design
- H04L41/142—Network analysis or design using statistical or mathematical methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Physics & Mathematics (AREA)
- Algebra (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Mathematical Physics (AREA)
- Probability & Statistics with Applications (AREA)
- Pure & Applied Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种基于动静态加权轮询的负载均衡方法，涉及服务器、负载均衡、深度学习等领域。首先收集服务器集群各节点性能参数，生成节点性能权值；其次，根据服务器运行情况计算区间阈值；当负载均衡服务器接收负载请求时，判断集群负载超过所述的区间阈值，则根据节点性能权值对服务器负载实行静态加权轮询；否则，动态调整服务器节点性能权值，根据调整后的节点性能权值对服务器负载实行动态加权轮询。本发明通过模拟退火算法计算集群负载阈值，相比于传统负载均衡方法，改善了其在低负载下效率低和高负载下效率不稳定的问题。
Description
技术领域
本发明涉及服务器、负载均衡、深度学习等领域，具体涉及一种基于动静态加权轮询的负载均衡方法。
技术领域
随着网络用户和网络业务数量的几何倍数增长，面对大用户访问量以及高并发访问需求，采用集群系统的多服务器策略成为了首选[1]。服务器集群将多台服务器组成一个集群为用户提供统一的网络服务，既可以增加系统的并发能力，又可以减少单台服务器故障所带来的的损失，实现系统的高可靠性和高可用性。而由于服务器性能不一、请求处理速度不一等导致的资源与负载不均的问题一直存在，因此对于集群系统而言，如何合理的配置系统资源以及均衡集群系统中的负载是最为关键的问题，负载均衡技术也就随之孕育而生。
尽管现在关于负载均衡算法已有很多研究，但是依然存在一些未解决好的问题。目前常见的动态负载均衡算法是根据服务器反馈的实际负载信息，实时变动负载的分配策略来进行负载均衡调度，这些算法普遍存在着在低负载情况下比传统静态的加权轮询、最小连接等算法效率更低的问题。在低负载情况下，由于动态收集服务器节点实时负载信息和重新计算权值所耗时间及占用的服务器性能影响超过了算法优化所带来的收益，因此效率较低。而如何自适应地在适合的负载区间采用静态和动态算法也是目前未解决的问题。
因此，如何提高负载算法在不同负载情况下的效率是有待解决的问题。
发明内容
为了解决上述的技术问题，本发明的目的在于提高负载均衡算法在采用静态、动态算法区间阈值的准确性以及在不同负载情况下的负载均衡效率，提供一种基于动静态加权轮询的负载均衡方法。
本发明所采用的技术方案是：
一种基于动静态加权轮询的负载均衡方法，包括以下步骤：
A、收集服务器集群各节点性能参数，生成节点性能权值；
B、根据服务器运行情况计算区间阈值；
C、当负载均衡服务器接收负载请求时，判断集群负载是否超过所述的区间阈值，若未超过，则根据步骤A生成的节点性能权值对服务器负载实行静态加权轮询；若超过，则动态调整服务器节点性能权值，根据调整后的节点性能权值对服务器负载实行动态加权轮询。
进一步地，所述的步骤A包括：
A1、采集CPU(C)、内存(M)、磁盘I/O(I)和网络带宽(N)信息传输给负载均衡服务器，当集群中存在n个服务器节点时，对于每个节点Si∈{S1,S2,S3…Sn}(n>1)，服务器性能评价指标占比记为C(Si)∈{C(S1),C(S2),C(S3)…C(Sn)}(n>1)，计算公式为：
C(Si)＝σC*Cc(Si)+σM*CM(Si)+σI*CI(Si)+σN*CN(Si)
其中，C(Si)表示节点Si的性能评价指标占比，Cc(Si)表示节点Si的CPU性能占整个服务器集群的CPU性能的占比，CM(Si)表示节点Si的内存性能占整个服务器集群的内存性能的占比，CI(Si)表示节点Si的磁盘I/O性能占整个服务器集群的磁盘I/O性能的占比，CN(Si)表示节点Si的网络带宽性能占整个服务器集群的网络带宽性能的占比；σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值；
A2、根据层次分析法，将定性因素定量化，得到性能评价特征向量为R＝(R1，R2，R3，R4)T；
A3、根据性能评价指标得到当前服务器性能参数下的各节点权重为：
其中，Wc(Sc)、WM(SM)、WI(SI)和WN(SN)分别为服务器集群中节点Si的CPU、内存、磁盘I/O和带宽的初始性能值，A为使得A*C(Si)>1的权值常数；D(Si)为服务器集群中节点Si的权重值。
进一步地，所述的步骤A2具体为：
根据层次分析法，将定性因素定量化，由服务器性能因素建立评估因素集U＝{u1，u2，u3，u4}，u1、u2、u3和u4分别表示CPU、内存、磁盘I/O和带宽的评估因素，并设定uij为ui对uj的相对重要值；
对评估因素集U中元素进行两两比较，构造判断矩阵P如下:
对判断矩阵P中的各列相加并归一化：
其中，uij表示判断矩阵P中第i行第j列的元素，
表示判断矩阵P中第i行第j列的元素归一化结果；将归一化后的矩阵中各行元素取均值，得到性能评价特征向量为R＝(R1，R2，R3，R4)T。
进一步地，所述的步骤B包括：
B1、根据模拟退火算法，将服务器性能的负载均衡优化问题设为
根据负载信息收集模块设置在负载并发量为x下节点Si静态响应时间
与性能转化方程为：
动态响应时间
与性能转化方程为：
其中，ψx(.)为模块配置的在负载并发量x下性能参数对应的响应时间影响因数，S为求取目标函数
的可行解集合，若从当前解i产生了新解j，则j是否接受为当前解则由以下转移概率决定：
其中，Pt(i-＞j)表示在温度t下从当前解i转移至新解j的概率，f(i)、f(j)分别表示目标函数在当前解i和新解j的取值；T称为控制参数，模拟金属系统中的温度，通常在初始时T取较大值T0，然后缓慢递减到Tk(k＝1,2,3…)，然后在每个Tk值执行Lk次Metropolis准则，再过渡到下一个控制参数Tk+1，依次可以跳出局部最优解；
B2、设置初始温度和末温，设置马氏链长度并选取降温函数为Tk＝Ts*0.99k，Ts为初温；
B3、根据服务器集群在运行状态下的负载性能参数的初始值及使用率，进行多次迭代解转移，获得在当前服务器集群性能参数下的静态、动态算法最优区间阈值xP。
进一步地，所述的步骤C中，若集群负载超过所述的区间阈值，则通过性能使用率L进行动态权重调节：
L(Si)＝σC*UC(Si)+σM*UM(Si)+σI*UI(Si)+σN*UN(Si)
其中，L(Si)表示节点Si的性能使用率，UC(Si)、UM(Si)、UI(Si)、UN(Si)分别表示节点Si的CPU使用率、内存占用率、磁盘I/O利用率和网络带宽占用率，σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值。性能使用率L准确的反映了节点在每一时刻的负载情况，并引入变量λ来反映当前节点的负载情况：
其中，λ(Si)代表节点Si当前使用率与所有节点使用率平均值的比值；
更新后的服务器节点性能权值为：
其中，A为使得A*C(Si)>1的权值常数，当负载变量λ大于1时，表示当前节点负载较重，在权重上减去λ，当λ小于1时则相反。
进一步地，收集各服务器节点的运行参数采用的是服务器节点主动上报的方式，设置上报周期T，并选择负载变化率Δt来控制集群上报负载信息的频率：
其中，Load(.)表示对应时刻的负载率，T＝t2-t1；当服务器负载率在T时间内变化率小于预设Δt时，运行参数将不会上报，只更新当前的负载信息。
本发明的动静态结合负载均衡算法产生以下几种良好的效果：
效果1：本发明采用层次分析法，根据重要性判断矩阵及正互反矩阵进行静态加权轮询算法的权值计算，使基于加权轮询的静态负载均衡算法中的权值设置更加合理，在低负载情况下也有更好的效率。
效果2：本发明使用模拟退火算法计算静态、动态负载均衡算法区间划分阈值，通过模拟退火算法可跳出局部最优解的特性找到全局的最佳区间划分阈值，使得静态、动态算法的选择对负载均衡效果的正向影响更具显著。
效果3：本发明根据负载变化率来决定是否上报动态收集参数，使得服务器节点负载在变化率较小时对负载均衡服务器的负担减小，使本发明在实际负载均衡使用中的效果更加优秀。
效果4：本发明通过收集各节点参数计算出的节点使用率比值及引入反映与使用率平均值的比值来决定动态负载均衡算法的权值，能够更好的根据服务器集群中各节点的负载情况来动态调节权重，进一步提高了在阈值之上的高负载情况下的负载均衡效果，提高了动态负载均衡算法的效率。
附图说明
图1是本发明的设计步骤图；
图2是对服务器进行静态加权轮询的流程图；
图3是根据运行参数计算区间阈值的流程图；
图4是进行动态负载均衡的流程图；
图5是本发明的应用流程图；
图6是本发明实施例中的平均响应时间对比图；
图7是本发明实施例中的实际并发连接数对比图。
具体实施方式
以下结合附图和具体实施对本发明进行详细描述，但不作为对本发明的限定。如图1所示，一种基于动静态加权轮询的负载均衡方法主要包括以下步骤：
A，收集服务器集群各节点性能参数，生成节点性能权值。
本实施例中，步骤A的具体实现方式为：
S11，各服务器节点预安装信息收集模块，将CPU(C)、内存(M)、磁盘I/O(I)和网络带宽(N)信息传输给负载均衡服务器，当集群中存在n个服务器节点时，对于每个节点Si∈{S1,S2,S3…Sn}(n>1)，服务器性能评价指标占比记为C(Si)∈{C(S1),C(S2),C(S3)…C(Sn)}(n>1)，计算公式为：
C(Si)＝σC*Cc(Si)+σM*CM(Si)+σI*CI(Si)+σN*CN(Si)
其中，C(Si)表示节点Si的性能评价指标占比，Cc(Si)表示节点Si的CPU性能占整个服务器集群的CPU性能的占比，CM(Si)表示节点Si的内存性能占整个服务器集群的内存性能的占比，CI(Si)表示节点Si的磁盘I/O性能占整个服务器集群的磁盘I/O性能的占比，CN(Si)表示节点Si的网络带宽性能占整个服务器集群的网络带宽性能的占比；σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值；
S12，如图2所示，根据层次分析法，将定性因素定量化，由服务器性能因素建立评估因素集U＝{u1，u2，u3，u4}，u1、u2、u3和u4分别表示CPU、内存、磁盘I/O和带宽的评估因素，并设定uij为ui对uj的相对重要值，uij取自1-9之间的整数；
本实施例中，根据表1中的“1-9值”矩阵判断标度进行设值。
表1“1-9值”矩阵判断原理图
对评估因素集U中元素进行两两比较，构造判断矩阵P如下:
该矩阵满足正互反矩阵的三个条件：(1)uij>0；(2)uii＝1；(3)
因此根据正互反矩阵的性质及层次分析法，当该矩阵为一致性矩阵时，可求得该矩阵的最大特征根为4。根据实验测试过程中服务器节点CPU最高，内存变化率较高，磁盘I/O速率和网络带宽变化率相对较低的情况，代入服务器节点性能参数，可构造出判断矩阵P表述如下:
对判断矩阵P中的各列相加并归一化：
其中，uij表示判断矩阵P中第i行第j列的元素，
表示判断矩阵P中第i行第j列的元素归一化结果；将归一化后的矩阵中各行元素取均值，得到性能评价特征向量为R＝(R1，R2，R3，R4)T。
计算结果如表2所示：
表2矩阵归一化一般式结果
计算性能评价特征向量为R＝(R1，R2，R3，R4)T。本实施例中，表中∑一栏归一化可得求得最大特征根的特征向量为：R＝(0.455，0.263，0.141，0.141)T。
S13，根据性能评价指标得到当前服务器性能参数下的各节点权重为：
其中，Wc(Sc)、WM(SM)、WI(SI)和WN(SN)分别为服务器集群中节点Si的CPU、内存、磁盘I/O和带宽的初始性能值，A为使得A*C(Si)>1的权值常数；D(Si)为服务器集群中节点Si的权重值。
B，根据各节点权重值对服务器负载实行静态加权轮询。
本实施例中，步骤B的具体实现方式为：
S21，装载了Nginx的负载均衡服务器根据静态轮询算法，设定各服务器节点的权值。
S22，当负载均衡服务器接收负载请求时，根据各服务器权值进行优先级区分的轮询负载分配。
C，根据运行情况计算区间阈值。
本实施例中，步骤C的具体实现方式为：
S31，根据模拟退火算法，将服务器性能的负载均衡优化问题设为
根据负载信息收集模块设置在负载并发量为x下节点Si静态响应时间
与性能转化方程为：
动态响应时间
与性能转化方程为：
其中，ψx(.)为模块配置的在负载并发量x下性能参数对应的响应时间影响因数，S为求取目标函数
的可行解集合，若从当前解i产生了新解j，则j是否接受为当前解则由以下转移概率决定：
其中，Pt(i-＞j)表示在温度t下从当前解i转移至新解j的概率，f(i)、f(j)分别表示目标函数在当前解i和新解j的取值；T称为控制参数，模拟金属系统中的温度，通常在初始时T取较大值T0，然后缓慢递减到Tk(k＝1,2,3…)，然后在每个Tk值执行Lk次Metropolis准则，再过渡到下一个控制参数Tk+1，依次可以跳出局部最优解；
S32，设置初始温度和末温，设置马氏链长度并选取降温函数为Tk＝Ts*0.99k，Ts为初温，根据服务器集群在运行状态下的负载性能参数的初始值及使用率(Wc(Sc)、WM(SM)、WI(SI)和WN(SN)及UC(Si)、UM(Si)、UI(Si)和UN(Si))代入模拟退火算法中；
S33，进行多次迭代解转移，获得在当前服务器集群性能参数下的静态、动态算法最优区间阈值xP，将其写入Nginx作为算法判断参数。
具体的，如图3所示，根据步骤S31-32中的方法预设负载均衡优化参数，解转移概率公式，设置初温、马氏链长度和末温。计算当前温度参数下的控制参数，并计算初始解，扰动产生新解计算并根据解转移公式判断是否接受新解，再判断当前迭代次数是否达到最大迭代次数，若否，则继续扰动产生新解进行迭代，若是则判断当前温度是否达到末温；若未达到末温，则根据温度公式进行降温重置迭代次数后重复上述计算步骤，若达到末温，迭代结束，获得最优解。
D，收集运行参数生成动态节点权值。
本实施例中，步骤D的具体实现方式为：
S41，收集各服务器节点的运行参数采用的是服务器节点主动上报的方式，设置上报周期T，并选择负载变化率Δt来控制集群上报负载信息的频率：
其中，Load(.)表示对应时刻的负载率，T＝t2-t1；当负载变化率小于预设Δt时，运行信息将不会上报，只更新当前的负载信息。
S42，负载均衡服务器收集到集群节点的负载信息参数后，通过性能使用率L进行动态权重调节：
L(Si)＝σC*UC(Si)+σM*UM(Si)+σI*UI(Si)+σN*UN(Si)
其中，L(Si)表示节点Si的性能使用率，UC(Si)、UM(Si)、UI(Si)、UN(Si)分别表示节点Si的CPU使用率、内存占用率、磁盘I/O利用率和网络带宽占用率，σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值。性能使用率L准确的反映了节点在每一时刻的负载情况，并引入变量λ来反映当前节点的负载情况：
其中，λ(Si)代表节点Si当前使用率与所有节点使用率平均值的比值，当λ(Si)大于1时，代表当前节点的使用率已超过平均值，需要适当减小该节点的权重，提高那些未达到平均使用率的节点权重，以取得更好的负载均衡效果。
S43，负载均衡服务器设置使用率均衡下的各节点负载权重为：
其中，A为使得A*C(Si)>1的权值常数，当负载变量λ大于1时，表示当前节点负载较重，在权重上减去λ，当λ小于1时则相反。该策略可以更好的反映当前节点的使用率对负载权重的影响，使得负载均衡分配更加合理。
E，对超过阈值负载实行动态加权轮询。
本实施例中，步骤E的具体实现方式为：
S51，装载了Nginx的负载均衡服务器，当集群负载超过阈值时，根据动态负载权重设置加权轮询权值。
S52，当负载均衡服务器接收负载请求时，根据各服务器权值进行优先级区分的轮询负载分配。
具体的，如图4所示，根据预设的服务器运行参数上报周期计算负载变化率，判断负载变化率是否超过阈值，若没有超过，则本次运行参数不上报。若超过，则上报本次运行参数，计算节点Si当前使用率与所有节点使用率平均值的比值λ(Si)，重新计算动态负载权重，根据各节点更新后的新权重值对服务器负载实行动态加权轮询。
F，根据实时运行参数，当负载均衡服务器接收负载请求时，实现在整体流程下的动、静态结合的负载均衡调度。
如图5所示，启动Nginx，根据步骤A初始化各服务器权重并根据步骤C计算阈值，当接收到客户端请求后，判断集群负载是否超过阈值，若未超过，则采用步骤B的方法对服务器负载实行静态加权轮询。若超过阈值，则根据步骤D动态调整服务器节点权重，根据新权重值进行动态加权轮询，并定时上传节点性能使用率，用于下一轮中的服务器节点权重的动态调整。
为了验证本发明的实施效果，给出了如下实施例。
实验环境由虚拟机搭建的6台服务器组成，其中一台服务器作为测试客户端，一台作为反向代理服务器，剩下4台作为后端服务器集群，虚拟机操作系统均为CentOS7，其他参数如表3所示：
表3实验环境参数表
设置各后端服务器每隔8s上传一次节点性能使用率情况，并利用Siege工具进行模拟多用户并发访问及数据实时收集，根据文献及实验结果反馈，本文选取服务器平均响应时间和实际并发连接数作为算法评价的性能指标。
将Nginx自带的加权轮询算法、基于动态权重的负载均衡算法以及本方法进行对比实验，均在本实验环境中通过不断提高并发连接数，每次运行20分钟，获得对应的平均响应时间及实际并发连接数，并生成对比结果如图6-7所示。
由上述实验结果可知，本发明提出的基于动静态加权轮询的负载均衡方法既保留了静态算法在低并发低负载情况下的平均响应时间低的优势，又通过在高并发高负载情况下的动态负载权重的调节，在节点超过集群平均负载情况时减少权重，增加负载较小的节点的权重，充分利用了服务器各节点的资源，使得整个服务器集群系统的性能得到进一步优化，与传统的加权轮询算法和基于动态权重的负载均衡算法相比都具有更低的平均响应时间和更高的实际并发数量。
以上列举的仅是本发明的具体实施例。显然，本发明不限于以上实施例，还可以有许多变形。本领域的普通技术人员能从本发明公开的内容直接导出或联想到的所有变形，均应认为是本发明的保护范围。
Claims (6)
1.一种基于动静态加权轮询的负载均衡方法，其特征在于，包括以下步骤：
A、收集服务器集群各节点性能参数，生成节点性能权值；
B、根据服务器运行情况计算区间阈值；
C、当负载均衡服务器接收负载请求时，判断集群负载是否超过所述的区间阈值，若未超过，则根据步骤A生成的节点性能权值对服务器负载实行静态加权轮询；若超过，则动态调整服务器节点性能权值，根据调整后的节点性能权值对服务器负载实行动态加权轮询。
2.根据权利要求1所述的一种基于动静态加权轮询的负载均衡算法，其特征在于，所述的步骤A包括：
A1、采集CPU(C)、内存(M)、磁盘I/O(I)和网络带宽(N)信息传输给负载均衡服务器，当集群中存在n个服务器节点时，对于每个节点Si∈{S1，S2，S3...Sn}(n＞1)，服务器性能评价指标占比记为C(Si)∈{C(S1)，C(S2)，C(S3)...C(Sn)}(n＞1)，计算公式为：
C(Si)＝σC*Cc(Si)+σM*CM(Si)+σI*CI(Si)+σN*CN(Si)
其中，C(Si)表示节点Si的性能评价指标占比，Cc(Si)表示节点Si的CPU性能占整个服务器集群的CPU性能的占比，CM(Si)表示节点Si的内存性能占整个服务器集群的内存性能的占比，CI(Si)表示节点Si的磁盘I/O性能占整个服务器集群的磁盘I/O性能的占比，CN(Si)表示节点Si的网络带宽性能占整个服务器集群的网络带宽性能的占比；σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值；
A2、根据层次分析法，将定性因素定量化，得到性能评价特征向量为R＝(R1，R2，R3，R4)T；
A3、根据性能评价指标得到当前服务器性能参数下的各节点权重为：
其中，Wc(Sc)、WM(SM)、WI(SI)和WN(SN)分别为服务器集群中节点Si的CPU、内存、磁盘I/O和带宽的初始性能值，A为使得A*C(Si)＞1的权值常数；D(Si)为服务器集群中节点Si的权重值。
3.根据权利要求2所述的一种基于动静态加权轮询的负载均衡算法，其特征在于，所述的步骤A2具体为：
根据层次分析法，将定性因素定量化，由服务器性能因素建立评估因素集U＝{u1，u2，u3，u4}，u1、u2、u3和u4分别表示CPU、内存、磁盘I/O和带宽的评估因素，并设定uij为ui对uj的相对重要值；
对评估因素集U中元素进行两两比较，构造判断矩阵P如下：
对判断矩阵P中的各列相加并归一化：
其中，uij表示判断矩阵P中第i行第j列的元素，
表示判断矩阵P中第i行第j列的元素归一化结果；将归一化后的矩阵中各行元素取均值，得到性能评价特征向量为R＝(R1，R2，R3，R4)T。
4.根据权利要求1所述的一种基于动静态加权轮询的负载均衡算法，其特征在于，所述的步骤B包括：
B1、根据模拟退火算法，将服务器性能的负载均衡优化问题设为
根据负载信息收集模块设置在负载并发量为x下节点Si静态响应时间
与性能转化方程为：
动态响应时间
与性能转化方程为：
其中，ψx(.)为模块配置的在负载并发量x下性能参数对应的响应时间影响因数，S为求取目标函数
的可行解集合，若从当前解i产生了新解j，则j是否接受为当前解则由以下转移概率决定：
其中，Pt(i-＞j)表示在温度t下从当前解i转移至新解j的概率，f(i)、f(j)分别表示目标函数在当前解i和新解j的取值；T称为控制参数，模拟金属系统中的温度，通常在初始时T取较大值T0，然后缓慢递减到Tk(k＝1，2，3...)，然后在每个Tk值执行Lk次Metropolis准则，再过渡到下一个控制参数Tk+1，依次可以跳出局部最优解；
B2、设置初始温度和末温，设置马氏链长度并选取降温函数为Tk＝Ts*0.99k，Ts为初温；
B3、根据服务器集群在运行状态下的负载性能参数的初始值及使用率，进行多次迭代解转移，获得在当前服务器集群性能参数下的静态、动态算法最优区间阈值xP。
5.根据权利要求1所述的一种基于动静态加权轮询的负载均衡算法，其特征在于，步骤C中，若集群负载超过所述的区间阈值，则通过性能使用率L进行动态权重调节：
L(Si)＝σC*UC(Si)+σM*UM(Si)+σI*UI(Si)+σN*UN(Si)
其中，L(Si)表示节点Si的性能使用率，UC(Si)、UM(Si)、UI(Si)、UN(Si)分别表示节点Si的CPU使用率、内存占用率、磁盘I/O利用率和网络带宽占用率，σC、σM、σI、σN分别表示CPU、内存、磁盘I/O和网络带宽性能的权重值。性能使用率L准确的反映了节点在每一时刻的负载情况，并引入变量λ来反映当前节点的负载情况：
其中，λ(Si)代表节点Si当前使用率与所有节点使用率平均值的比值；
更新后的服务器节点性能权值为：
其中，A为使得A*C(Si)＞1的权值常数，当负载变量λ大于1时，表示当前节点负载较重，在权重上减去λ，当λ小于1时则相反。
6.根据权利要求5所述的一种基于动静态加权轮询的负载均衡算法，其特征在于，收集各服务器节点的运行参数采用的是服务器节点主动上报的方式，设置上报周期T，并选择负载变化率Δt来控制集群上报负载信息的频率：
其中，Load(.)表示对应时刻的负载率，T＝t2-t1；当服务器负载率在T时间内变化率小于预设Δt时，运行参数将不会上报，只更新当前的负载信息。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111119816.2A CN113938488B (zh) | 2021-09-24 | 2021-09-24 | 一种基于动静态加权轮询的负载均衡方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111119816.2A CN113938488B (zh) | 2021-09-24 | 2021-09-24 | 一种基于动静态加权轮询的负载均衡方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113938488A true CN113938488A (zh) | 2022-01-14 |
| CN113938488B CN113938488B (zh) | 2023-11-24 |
Family
ID=79276515
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111119816.2A Active CN113938488B (zh) | 2021-09-24 | 2021-09-24 | 一种基于动静态加权轮询的负载均衡方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113938488B (zh) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114090394A (zh) * | 2022-01-19 | 2022-02-25 | 山东卓朗检测股份有限公司 | 分布式服务器集群负载异常分析方法 |
| CN114945024A (zh) * | 2022-05-19 | 2022-08-26 | 东北林业大学 | 基于长短期记忆网络的服务器负载均衡优化方法 |
| CN115225733A (zh) * | 2022-02-22 | 2022-10-21 | 北京邮电大学 | 基于直接路由和动态量化解析负载的标识解析方法及装置 |
| CN115550373A (zh) * | 2022-11-28 | 2022-12-30 | 中国电子科技集团公司第十五研究所 | 基于云平台管控的联合试验任务环境负载均衡建模方法 |
| CN115633041A (zh) * | 2022-10-31 | 2023-01-20 | 中科星图数字地球合肥有限公司 | 多集群的管理方法、装置、电子设备和可读存储介质 |
| CN116192858A (zh) * | 2023-02-17 | 2023-05-30 | 通明智云(北京)科技有限公司 | 一种基于加权流量的负载均衡方法及装置 |
| CN116418749A (zh) * | 2023-02-17 | 2023-07-11 | 通明智云(北京)科技有限公司 | 一种动态调整权重的负载均衡方法及装置 |
| CN116489099A (zh) * | 2023-04-19 | 2023-07-25 | 北京志凌海纳科技有限公司 | 一种基于流分类的自适应负载均衡调度方法和系统 |
| CN116600553A (zh) * | 2023-07-18 | 2023-08-15 | 科瑞特空调集团有限公司 | 一种室内服务器动态降温控制方法及系统 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109783235A (zh) * | 2018-12-29 | 2019-05-21 | 西安交通大学 | 一种基于最大熵原理的负载均衡调度方法 |
| CN111258762A (zh) * | 2020-01-15 | 2020-06-09 | 北京工业大学 | 一种动态周期的媒体服务器负载均衡算法 |
| CN111277629A (zh) * | 2020-01-13 | 2020-06-12 | 浙江工业大学 | 一种基于高可用性的web高并发系统及方法 |
| CN112231075A (zh) * | 2020-09-07 | 2021-01-15 | 武汉市九格合众科技有限责任公司 | 一种基于云服务的服务器集群负载均衡控制方法及系统 |
-
2021
- 2021-09-24 CN CN202111119816.2A patent/CN113938488B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109783235A (zh) * | 2018-12-29 | 2019-05-21 | 西安交通大学 | 一种基于最大熵原理的负载均衡调度方法 |
| CN111277629A (zh) * | 2020-01-13 | 2020-06-12 | 浙江工业大学 | 一种基于高可用性的web高并发系统及方法 |
| CN111258762A (zh) * | 2020-01-15 | 2020-06-09 | 北京工业大学 | 一种动态周期的媒体服务器负载均衡算法 |
| CN112231075A (zh) * | 2020-09-07 | 2021-01-15 | 武汉市九格合众科技有限责任公司 | 一种基于云服务的服务器集群负载均衡控制方法及系统 |
Non-Patent Citations (4)
| Title |
|---|
| 李国;申亚坤;李永华;曲文丽;: "一种面向多类型服务的动态负载均衡算法", 现代电子技术, no. 12 * |
| 李慧斌;何利力;: "基于预测阈值的动态权值负载均衡算法", 软件导刊, no. 06 * |
| 汪佳文;王书培;徐立波;郭家军;俞成海;: "基于权重轮询负载均衡算法的优化", 计算机系统应用, no. 04 * |
| 黄静;李炳;: "基于Nginx的Web服务器性能优化研究", 浙江理工大学学报(自然科学版), no. 04 * |
Cited By (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114090394B (zh) * | 2022-01-19 | 2022-04-22 | 山东卓朗检测股份有限公司 | 分布式服务器集群负载异常分析方法 |
| CN114090394A (zh) * | 2022-01-19 | 2022-02-25 | 山东卓朗检测股份有限公司 | 分布式服务器集群负载异常分析方法 |
| CN115225733B (zh) * | 2022-02-22 | 2024-04-05 | 北京邮电大学 | 基于直接路由和动态量化解析负载的标识解析方法及装置 |
| CN115225733A (zh) * | 2022-02-22 | 2022-10-21 | 北京邮电大学 | 基于直接路由和动态量化解析负载的标识解析方法及装置 |
| CN114945024A (zh) * | 2022-05-19 | 2022-08-26 | 东北林业大学 | 基于长短期记忆网络的服务器负载均衡优化方法 |
| CN114945024B (zh) * | 2022-05-19 | 2023-05-12 | 东北林业大学 | 基于长短期记忆网络的服务器负载均衡优化方法 |
| CN115633041A (zh) * | 2022-10-31 | 2023-01-20 | 中科星图数字地球合肥有限公司 | 多集群的管理方法、装置、电子设备和可读存储介质 |
| CN115633041B (zh) * | 2022-10-31 | 2024-06-04 | 中科星图数字地球合肥有限公司 | 多集群的管理方法、装置、电子设备和可读存储介质 |
| CN115550373A (zh) * | 2022-11-28 | 2022-12-30 | 中国电子科技集团公司第十五研究所 | 基于云平台管控的联合试验任务环境负载均衡建模方法 |
| CN116418749A (zh) * | 2023-02-17 | 2023-07-11 | 通明智云(北京)科技有限公司 | 一种动态调整权重的负载均衡方法及装置 |
| CN116418749B (zh) * | 2023-02-17 | 2023-11-17 | 通明智云(北京)科技有限公司 | 一种动态调整权重的负载均衡方法及装置 |
| CN116192858B (zh) * | 2023-02-17 | 2024-01-09 | 通明智云(北京)科技有限公司 | 一种基于加权流量的负载均衡方法及装置 |
| CN116192858A (zh) * | 2023-02-17 | 2023-05-30 | 通明智云(北京)科技有限公司 | 一种基于加权流量的负载均衡方法及装置 |
| CN116489099B (zh) * | 2023-04-19 | 2023-12-05 | 北京志凌海纳科技有限公司 | 一种基于流分类的自适应负载均衡调度方法和系统 |
| CN116489099A (zh) * | 2023-04-19 | 2023-07-25 | 北京志凌海纳科技有限公司 | 一种基于流分类的自适应负载均衡调度方法和系统 |
| CN116600553A (zh) * | 2023-07-18 | 2023-08-15 | 科瑞特空调集团有限公司 | 一种室内服务器动态降温控制方法及系统 |
| CN116600553B (zh) * | 2023-07-18 | 2023-09-19 | 科瑞特空调集团有限公司 | 一种室内服务器动态降温控制方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113938488B (zh) | 2023-11-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113938488A (zh) | 一种基于动静态加权轮询的负载均衡方法 | |
| US11481653B2 (en) | Predictive asset optimization for computer resources | |
| He et al. | QoE-driven content-centric caching with deep reinforcement learning in edge-enabled IoT | |
| CN108416465B (zh) | 一种移动云环境下的工作流优化方法 | |
| CN113434212A (zh) | 基于元强化学习的缓存辅助任务协作卸载与资源分配方法 | |
| CN108881432A (zh) | 基于ga算法的云计算集群负载调度方法 | |
| CN110502323B (zh) | 一种云计算任务实时调度方法 | |
| CN113822456A (zh) | 一种云雾混构环境下基于深度强化学习的服务组合优化部署方法 | |
| CN114585006B (zh) | 基于深度学习的边缘计算任务卸载和资源分配方法 | |
| CN112398700B (zh) | 一种服务降级方法及装置、存储介质、计算机设备 | |
| CN117155942A (zh) | 一种微服务动态自适应客户端负载均衡方法及系统 | |
| CN115220916A (zh) | 视频智能分析平台的自动算力调度方法、装置及系统 | |
| JP7111779B2 (ja) | コンピュータリソースのための予測的資産最適化 | |
| CN114945024B (zh) | 基于长短期记忆网络的服务器负载均衡优化方法 | |
| JP2021005387A5 (zh) | ||
| Chen et al. | Clustered popularity prediction for content caching | |
| CN111858029A (zh) | 基于离散粒子群的Storm集群负载均衡方法及系统 | |
| CN111047040A (zh) | 基于IFPA算法的Web服务组合方法 | |
| CN115016889A (zh) | 一种用于云计算的虚拟机优化调度方法 | |
| CN113268339A (zh) | 基于差分进化算法的动态负载均衡方法及系统 | |
| CN114358490A (zh) | 面向电力需求响应的多可调资源调节能力聚合方法及系统 | |
| CN116339932A (zh) | 资源调度方法、装置和服务器 | |
| CN114449536A (zh) | 一种基于深度强化学习的5g超密集网络多用户接入选择方法 | |
| CN113157344A (zh) | 移动边缘计算环境下基于drl的能耗感知任务卸载方法 | |
| CN113132482A (zh) | 一种基于强化学习的分布式消息系统参数自适应优化方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |