CN109040283A - 一种基于差值反馈式的改进型负载均衡算法 - Google Patents

一种基于差值反馈式的改进型负载均衡算法 Download PDF

Info

Publication number
CN109040283A
CN109040283A CN201810966866.6A CN201810966866A CN109040283A CN 109040283 A CN109040283 A CN 109040283A CN 201810966866 A CN201810966866 A CN 201810966866A CN 109040283 A CN109040283 A CN 109040283A
Authority
CN
China
Prior art keywords
load
node
difference
cluster
threshold value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810966866.6A
Other languages
English (en)
Inventor
王鹏
黄洪琼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Maritime University
Original Assignee
Shanghai Maritime University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Maritime University filed Critical Shanghai Maritime University
Priority to CN201810966866.6A priority Critical patent/CN109040283A/zh
Publication of CN109040283A publication Critical patent/CN109040283A/zh
Pending legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Multi Processors (AREA)

Abstract

本发明公开了一种基于差值反馈式的改进型负载均衡算法，包含如下步骤：设定服务器集群节点的CPU剩余利用率的阈值以及集群中节点负载差值的阈值R(Si)；负载均衡器在一定的时间间隔内对服务器集群节点的CPU剩余利用率进行采集，并计算集群节点的负载差值ΔL(Si)；将集群节点的负载差值与设定的负载差值的阈值和集群节点的当前CPU剩余利用率与之前设定的CPU剩余利用率的阈值进行比较，选出节点负载权值最高的一组集群，将用户请求分发到权值相对较高的集群节点中。

Description

一种基于差值反馈式的改进型负载均衡算法
技术领域
本发明涉及服务器集群服务质量的算法领域，特别涉及一种基于差值反馈式的改进型负载均衡算法。
背景技术
随着互联网的快速发展，用户对网络的访问也在快速的增加，各种业务的需求变得多样化，从而导致网络的负荷急剧增长，处理用户访问的难度加强，不能同时服务大量用户并发式访问的问题也随之出现。本发明利用集群的知识解决Web服务，获得提升服务器的服务质量的目的。
目前最常用的负载均衡算法分为动态负载均衡和静态负载均衡。其中，静态的负载均衡是按一定的比例来分发任务的，例如：轮询负载(RR)和加权轮询负载(WRR)；动态的负载均衡则是依据当前的服务器集群节点的负载状况来分发用户请求任务，例如：最小连接负载(LC)和加权最小连接负载(WLC)。但是在实际情况中，服务器各自的性能参差不齐，静态负载均衡很难获取到一个较准确的值来反映当前运行的状况，并且在服务器负载均衡发生较大改变的情形下，动态的负载均衡算法表达当前运行的状况也并不一定十分的精准。比如每年天猫、京东等各大网上商城有优惠活动时，不计其数的用户为了在特定的时间内抢到打折的商品而使网站出现卡顿或抢到了一直处于排队付款的状态等。
如图1所示，负载调节模块通过分配器模块向服务器集群发送一请求消息，客户端群收到服务器集群发送的响应响应指令，同时服务器集群将反馈消息反馈至负载调节模块。服务器节点的工作流程请参见图2。
发明内容
本发明的目的是提供一种基于差值反馈式的改进型负载均衡算法，基于服务器集群均衡研究成果的基础之上，借力于神经网络对集群中的各个节点所承载的信息进行反馈，利用网络仿真对集群的均衡状况做预测分析。本文通过针对网络提供的用户请求，在一种并发式的访问情形下，利用现有的集群系统，为网络用户的请求提供更好的服务，充分高效地利用服务器集群系统的全部资源，以此保障网络服务的实时畅通。
为了实现以上目的，本发明是通过以下技术方案实现的：
一种基于差值反馈式的改进型负载均衡算法，其特点是，包含如下步骤：
S1，设定服务器集群节点的CPU剩余利用率的阈值以及集群中节点负载差值的阈值R(Si)；
S2，负载均衡器在一定的时间间隔内对服务器集群节点的CPU剩余利用率进行采集，并计算集群节点的负载差值ΔL(Si)；
S3，将集群节点的负载差值与设定的负载差值的阈值进行比较，如果计算得到的负载差值ΔL(Si)大于设定的负载差值的阈值，则执行步骤S4，反之，则执行步骤S5；
S4，将集群节点的当前CPU剩余利用率与之前设定的CPU剩余利用率的阈值进行对比，若当前的CPU剩余利用率小于设定的CPU剩余利用率的阈值，则执行步骤S5，反之，则执行步骤S6；
S5，集群中节点的负载差值的阈值变为0，该节点直接放弃对用户的请求，从而寻找其他节点；
S6，计算新节点的负载权值W(Si)，并将其分发到相应的集群系统；
S7，选出节点负载权值最高的一组集群，将用户请求分发到权值相对较高的集群节点中。
所述的步骤S2中计算集群节点的负载差值ΔL(Si)：
ΔL(Si)＝(WMAX-W(Si))*P(Si),i＝0,1,…,n-1，其中WMAX为集群中所有节点负载权值的最大值，Si表示节点，W(Si)表示集群节点负载权值的初始值，P(Si)表示服务器相对应的集群节点的性能。
所述的步骤S6中计算新节点的负载权值W(Si)：
W(Si)＝L(Si)/P(Si)。
所述的步骤S5中集群中节点的负载差值的阈值变为0，0代表着该节点已无法进行用户请求。
所述的步骤S7包含：将步骤S6得到的负载权值进行比较，得到各个服务器节点的权值的比例w(s1):w(S2):…:w(sn)，并根据该服务器节点权值的比例对各个服务器进行一个负载的分配。
本发明与现有技术相比，具有以下优点：
均衡算法是对集群性能进行改善的关键，其处理机制的优缺点影响着集群的可行性和有效性。然而现有集群存在着各种各样的差别，集群中各个节点机能的不同会造成节点之间出现负载失衡的现象，对于用户大量并发式、长时间对数据进行响应的请求，存在较大的概率会造成集群节点的奔溃，进而对集群的可行性和有效性产生不良影响。良好的集群均衡可以对集群中的资源得到充实的利用，能够很好地发挥集群的优势，为用户请求提供高质量的服务。
本发明提出基于负载差值反馈式的改进型WLC算法，针对HTTP服务与WLC算法在对服务器分配的任务时，随时间变化对集群中节点的性能未能进行显著区分，服务器集群节点之间的曲线趋于重合的趋势，将节点自身的处理机制和节点的负载差值作为权衡集群节点负载的标志，并将其运用到反馈式均衡算法上。本发明提出的基于差值的反馈式均衡算法，可以根据集群节点之间的不同性能对用户请求进行不同的分配响应，对高性能的集群分配较多的响应，对低性能的集群分配较少的响应，能够充分运用集群节点的真实负载情况，确保在节点中对用户请求分发的可行性和有效性。达到提高集群系统的稳定性、准确性和可靠性，从而确保服务器系统持续稳定运转的良好效果。
附图说明
图1为反馈式负载均衡算法示意图；
图2为服务器节点的工作流程图；
图3为本发明一种基于差值反馈式的改进型负载均衡算法的流程图。
具体实施方式
以下结合附图，通过详细说明一个较佳的具体实施例，对本发明做进一步阐述。
如图3所示，一种基于差值反馈式的改进型负载均衡算法，包含如下步骤：
S1，设定服务器集群节点的CPU剩余利用率的阈值以及集群中节点负载差值的阈值R(Si)；
假设本章将CPU剩余率的阈值设定为3％，集群中节点的负载差值的阈值设定为2％。其中，负载差值ΔL(Si)，指的是集群中节点还可以承受负载量的多少，从另一方面可以反映出集群中各个节点的负载情况。设集群中所有节点负载权值的最大值为WMAX。
S2，负载均衡器在一定的时间间隔内对服务器集群节点的CPU剩余利用率进行采集，并计算集群节点的负载差值ΔL(Si)；
S3，将集群节点的负载差值与设定的负载差值的阈值进行比较，如果计算得到的负载差值ΔL(Si)大于设定的负载差值的阈值，则执行步骤S4，反之，则执行步骤S5；
S4，将集群节点的当前CPU剩余利用率与之前设定的CPU剩余利用率的阈值进行对比，若当前的CPU剩余利用率小于设定的CPU剩余利用率的阈值，则执行步骤S5，反之，则执行步骤S6；
S5，集群中节点的负载差值的阈值变为0，该节点直接放弃对用户的请求，从而寻找其他节点；其中所述的步骤S5中集群中节点的负载差值的阈值变为0，0代表着该节点已无法进行用户请求。
S6，计算新节点的负载权值W(Si)，并将其分发到相应的集群系统；
S7，选出节点负载权值最高的一组集群，将用户请求分发到权值相对较高的集群节点中。
所述的步骤S2中计算集群节点的负载差值ΔL(Si)：
ΔL(Si)＝(WMAX-W(Si))*P(Si),i＝0,1,…,n-1，其中WMAX为集群中所有节点负载权值的最大值，Si表示节点，W(Si)表示集群节点负载权值的初始值，假设集群中节点的数量为n,即S1，S2，…,Sn,集群中节点的配置和自身处理的性能是完全不同的。
所述的步骤S6中计算新节点的负载权值W(Si)：
W(Si)＝L(Si)/P(Si)。
集群系统的处理机制用参数P表示，动态负载值L表明了节点当前自身的负载情况，并且服务器的负载量会随着L的值发生正比关系，当集群节点的处理机制越繁忙，其所能处理的用户请求的性能随之减弱；反之，集群节点的处理机制处于空闲状态时，其所能处理的用户请求的性能便会加强。
所述的步骤S7具体为：将S6中得到的负载权值进行比较，得到各个服务器节点的权值的比例w(S1):w(S2):…:w(Sn)，从而根据这个服务器节点权值的比例对各个服务器进行一个负载的分配，使得对用户的请求能够更好的根据权值比例进行分发。
综上所述，本发明一种基于差值反馈式的改进型负载均衡算法，针对HTTP服务与WLC算法在对服务器分配的任务时对集群中节点的性能未能进行显著区分，服务器集群节点之间的曲线趋于重合的趋势的问题，本发明提出的基于差值的反馈式均衡算法可以很好地根据集群节点之间的不同性能对用户请求进行不同的分配响应，对高性能的集群分配较多的响应，对低性能的集群分配较少的响应，达到提高集群系统的稳定性、准确性和可靠性，从而确保服务器系统持续稳定运转的良好效果。
尽管本发明的内容已经通过上述优选实施例作了详细介绍，但应当认识到上述的描述不应被认为是对本发明的限制。在本领域技术人员阅读了上述内容后，对于本发明的多种修改和替代都将是显而易见的。因此，本发明的保护范围应由所附的权利要求来限定。

Claims (5)

1.一种基于差值反馈式的改进型负载均衡算法，其特征在于，包含如下步骤：
S1，设定服务器集群节点的CPU剩余利用率的阈值以及集群中节点负载差值的阈值R(Si)；
S2，负载均衡器在一定的时间间隔内对服务器集群节点的CPU剩余利用率进行采集，并计算集群节点的负载差值ΔL(Si)；
S3，将集群节点的负载差值与设定的负载差值的阈值进行比较，如果计算得到的负载差值ΔL(Si)大于设定的负载差值的阈值，则执行步骤S4，反之，则执行步骤S5；
S4，将集群节点的当前CPU剩余利用率与之前设定的CPU剩余利用率的阈值进行对比，若当前的CPU剩余利用率小于设定的CPU剩余利用率的阈值，则执行步骤S5，反之，则执行步骤S6；
S5，集群中节点的负载差值的阈值变为0，该节点直接放弃对用户的请求，从而寻找其他节点；
S6，计算新节点的负载权值W(Si)，并将其分发到相应的集群系统；
S7，选出节点负载权值最高的一组集群，将用户请求分发到权值相对较高的集群节点中。
2.如权利要求1所述的基于差值反馈式的改进型负载均衡算法，其特征在于，所述的步骤S2中计算集群节点的负载差值ΔL(Si)：
ΔL(Si)＝(WMAX-W(Si))*P(Si),i＝0,1,…,n-1，其中WMAX为集群中所有节点负载权值的最大值，Si表示节点，W(Si)表示集群节点负载权值的初始值，P(Si)表示服务器相对应的集群节点的性能。
3.如权利要求1所述的基于差值反馈式的改进型负载均衡算法，其特征在于，所述的步骤S6中计算新节点的负载权值W(Si)：
W(Si)＝L(Si)/P(Si)。
4.如权利要求1所述的基于差值反馈式的改进型负载均衡算法，其特征在于，所述的步骤S5中集群中节点的负载差值的阈值变为0，0代表着该节点已无法进行用户请求。
5.如权利要求1所述的基于差值反馈式的改进型负载均衡算法，其特征在于，所述的步骤S7包含：
将步骤S6得到的负载权值进行比较，得到各个服务器节点的权值的比例w(S1):w(S2):…:w(Sn)，并根据该服务器节点权值的比例对各个服务器进行一个负载的分配。
CN201810966866.6A 2018-08-23 2018-08-23 一种基于差值反馈式的改进型负载均衡算法 Pending CN109040283A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810966866.6A CN109040283A (zh) 2018-08-23 2018-08-23 一种基于差值反馈式的改进型负载均衡算法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810966866.6A CN109040283A (zh) 2018-08-23 2018-08-23 一种基于差值反馈式的改进型负载均衡算法

Publications (1)

Publication Number Publication Date
CN109040283A true CN109040283A (zh) 2018-12-18

Family

ID=64628134

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810966866.6A Pending CN109040283A (zh) 2018-08-23 2018-08-23 一种基于差值反馈式的改进型负载均衡算法

Country Status (1)

Country Link
CN (1) CN109040283A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131486A (zh) * 2019-12-30 2020-05-08 北京三快在线科技有限公司 执行节点的负载调节方法、装置、服务器及存储介质
CN111416869A (zh) * 2020-03-26 2020-07-14 华泰证券股份有限公司 一种分布式集群中节点权重调整的方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104902001A (zh) * 2015-04-07 2015-09-09 杭州电子科技大学 基于操作系统虚拟化的Web请求负载均衡方法
CN105959395A (zh) * 2016-06-15 2016-09-21 徐州医科大学 一种集群自反馈式负载均衡调度系统及方法
CN106657379A (zh) * 2017-01-06 2017-05-10 重庆邮电大学 一种nginx服务器负载均衡的实现方法及系统

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104902001A (zh) * 2015-04-07 2015-09-09 杭州电子科技大学 基于操作系统虚拟化的Web请求负载均衡方法
CN105959395A (zh) * 2016-06-15 2016-09-21 徐州医科大学 一种集群自反馈式负载均衡调度系统及方法
CN106657379A (zh) * 2017-01-06 2017-05-10 重庆邮电大学 一种nginx服务器负载均衡的实现方法及系统

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
张慧芳: "基于动态反馈的加权最小连接数服务器负载均衡算法研究", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
张玉芳等: "基于负载权值的负载均衡算法", 《计算机应用研究》 *
李坤: "基于动态反馈机制的服务器负载均衡算法研究", 《电子科技》 *
王鹏，黄洪琼: "基于神经网络反馈机制的改进型负载均衡算法", 《现代计算机》 *

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111131486A (zh) * 2019-12-30 2020-05-08 北京三快在线科技有限公司 执行节点的负载调节方法、装置、服务器及存储介质
CN111131486B (zh) * 2019-12-30 2023-04-07 北京三快在线科技有限公司 执行节点的负载调节方法、装置、服务器及存储介质
CN111416869A (zh) * 2020-03-26 2020-07-14 华泰证券股份有限公司 一种分布式集群中节点权重调整的方法

Similar Documents

Publication Publication Date Title
Rao et al. QoS guarantees and service differentiation for dynamic cloud applications
Kim et al. CometCloud: An autonomic cloud engine
Xu et al. Improved particle swarm optimization based workflow scheduling in cloud-fog environment
US20170329643A1 (en) Distributed node intra-group task scheduling method and system
Duggan et al. A multitime‐steps‐ahead prediction approach for scheduling live migration in cloud data centers
CN102938790B (zh) 云计算系统中的资源分配方法
CN107426332B (zh) 一种web服务器集群的负载均衡方法及系统
US20090119233A1 (en) Power Optimization Through Datacenter Client and Workflow Resource Migration
CN104375897B (zh) 基于最小相对负载不均衡度的云计算资源调度方法
CN108173937A (zh) 访问控制方法和装置
Mekala et al. A DRL-based service offloading approach using DAG for edge computational orchestration
CN108551489A (zh) 一种应用服务器负载均衡方法、系统、装置及存储介质
Dubey et al. An extended intelligent water drop approach for efficient VM allocation in secure cloud computing framework
Mekala et al. Resource offload consolidation based on deep-reinforcement learning approach in cyber-physical systems
CN102957624A (zh) 内容路由方法和装置
CN102932271A (zh) 负载均衡的实现方法和装置
Manikandan et al. Virtualized load balancer for hybrid cloud using genetic algorithm
Tammaro et al. Dynamic resource allocation in cloud environment under time-variant job requests
CN109040283A (zh) 一种基于差值反馈式的改进型负载均衡算法
Tiwary et al. CPS: a dynamic and distributed pricing policy in cyber foraging systems for fixed state cloudlets
Dechouniotis et al. A control‐theoretic approach towards joint admission control and resource allocation of cloud computing services
CN105187531A (zh) 应用于云计算虚拟化服务器集群的负载均衡的系统及方法
Shenbaga Moorthy et al. Optimal provisioning and scheduling of analytics as a service in cloud computing
Muchori et al. Machine learning load balancing techniques in cloud computing: A review
Gohil et al. Fair fit—a load balance aware VM placement algorithm in cloud data centers

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20181218