CN103945005A - 基于多评价指标的动态负载均衡框架 - Google Patents
基于多评价指标的动态负载均衡框架 Download PDFInfo
- Publication number
- CN103945005A CN103945005A CN201410189253.8A CN201410189253A CN103945005A CN 103945005 A CN103945005 A CN 103945005A CN 201410189253 A CN201410189253 A CN 201410189253A CN 103945005 A CN103945005 A CN 103945005A
- Authority
- CN
- China
- Prior art keywords
- node
- load
- load balancing
- evaluation index
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Abstract
本发明涉及一种新的负载均衡框架，尤其是一种应用在高并发访问分布式系统之上的动态负载均衡框架。本发明包括分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端。负载均衡节点包括评价指标收集模块，负载计算模块和负载列表更新模块。本发明将评价指标收集模块部署在分布式系统的每一个节点，并通过评价指标存储节点作为信息传输中介，与负载均衡节点进行负载数据的传输，同时所述的动态负载均衡框架采用了基于多评价指标的动态负载均衡算法进行前端用户访问的调度。本发明稳定性高、效率快，不但解决了用户访问端高并发数据访问的效率瓶颈，同时避免了因为负载均衡节点负载过重而造成的处理性能问题。
Description
技术领域
本发明涉及一种应用在高并发访问分布式系统之上的动态负载均衡框架，属于互联网技术领域。
背景技术
负载均衡机制是建立在分布式系统结构之上，为集群系统提供了一种有效透明的方法，用来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高系统灵活性和可用性的一种技术。它的目标是把用户端的任务合理地分配到集群的各个节点，以达到整个分布式系统的负载均衡，保障系统有高效的数据处理能力和服务质量。
目前存在的一些负载均衡框架，仅仅通过一些简单的负载均衡算法进行任务的调度，并没有非常准确地根据节点的实时负载进行任务的分配，同时，单个负载均衡节点需要完成如节点信息采集，负载决策和任务调度等一系列的工作，大量的信息在该节点的积聚会产生较高的开销和延迟，使得前端的负载调度成为整个集群系统的性能瓶颈，从而降低了系统的处理效率。
发明内容
本发明的目的是克服现有技术中存在的不足，提供一种新的负载均衡框架，该框架采用的是一种基于多评价指标的动态负载均衡算法，同时，为了减低负载均衡节点的工作压力，我们将评价指标的采集工作转移到分布式系统的各自的节点上完成。
按照本发明提供的技术方案，所述基于多评价指标的动态负载均衡框架包括：分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端，所述分布式系统节点用来完成该节点负载信息的采集工作，该节点上部署的信息采集模块将节点的负载评价指标数据周期性（比如每5-10秒）地写入到评价指标存储节点的关系型数据库中，即评价指标数据库；所述负载均衡节点用来从评价指标数据库中收集数据并进行节点综合负载的计算，针对负载均衡节点采用双机热备技术，增加一个备份节点，在负载均衡主节点无法工作的时候，由备份节点自动接管后续的系统负载工作；所述用户访问端是整个框架的访问入口，用户的请求首先发送至负载均衡节点，负载均衡节点根据优先队列中维护的节点负载轻重的数据，挑选出最佳的服务节点，然后将用户请求直接转发至该节点，由该节点响应前端的用户请求。
所述负载均衡节点采用的多评价指标的动态负载均衡算法是：根据节点的多个负载评价指标，包括系统的CPU利用率、I/O利用率和内存利用率，并赋予每个评价指标不同的权值，利用线性加权方法，计算出每个节点的综合负载，并以此选出合适的服务节点，进行任务的计算或访问。
所述的负载均衡节点包括评价指标收集模块，负载计算模块和负载列表更新模块，所述评价指标收集模块按照用户设定的频率去访问评价指标存储节点以获取各个存储节点的最新评价指标，并且将数据传入负载计算模块；所述负载计算模块根据评价指标收集模块定期传来的数据，进行综合负载的计算，然后对比设定的负载指标阈值判别每个节点的负载轻重程度；所述负载列表更新模块中始终维护一个节点负载轻重的优先队列，根据负载计算模块的判别结果，用来进行队列的更新。所述优先队列常驻内存中，同时采用Nosql数据库进行备份。
本发明的优点：将负载信息收集模块部署在分布式系统的各自节点上，而不是集中部署在负载均衡节点，并采用了一种基于多评价指标的动态负载均衡算法；同时，在负载均衡节点实时维护节点负载均衡数据的优先队列，减短负载均衡节点的响应时间。本发明稳定性高、效率快，不但解决了用户访问端高并发数据访问的效率瓶颈，同时避免了因为负载均衡节点负载过重而造成的处理性能问题。
附图说明
图1为本发明框架的结构图。
图2为本发明框架中负载均衡节点的模块划分图。
图3 为本发明框架内的工作流程示意图。
具体实施方式
下面结合具体附图和实施例对本发明作进一步说明。
为了减小负载均衡节点的负载，本方案采用在分布式系统每个节点上部署负载信息采集模块的方案进行节点负载数据的监控；在负载均衡节点中始终维护负载优先队列来减小负载均衡节点的响应时间。
如图1所示，所述的动态负载均衡框架包括分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端组成。
所述分布式系统节点用来完成该节点负载信息的采集工作，该节点上部署的信息采集模块将节点的负载评价指标数据周期性地写入到关系型数据库中。为了使得数据库中新近保存的数据能够尽量接近该节点此刻的真实数据，应该把该周期的数值设定的尽量小一些，但也不能过小，否则频繁的采集动作会增加节点的系统运行负担，一般将周期设置为5-10秒最佳。
所述负载均衡节点用来从评价指标数据库中收集数据并进行节点综合负载的计算，同时，因为负载均衡节点是整个系统最重要的部分之一，为防止该节点的宕机带来的毁灭性灾难，此处将针对负载均衡节点采用双机热备技术，增加一个备份节点，在负载均衡主节点无法工作的时候，由备份节点自动接管后续的系统负载工作，从而保证系统整体运行的稳定性。
所述用户访问端是整个框架的访问入口，用户的请求首先发送至负载均衡节点，负载均衡节点根据优先队列中维护的节点负载轻重的数据，挑选出最佳的服务节点，然后将用户请求直接转发至该节点，由该节点响应前端的用户请求。
如图2所示，所述的负载均衡节点可细分为三部分，分别为评价指标收集模块，负载计算模块和负载列表更新模块。每个模块的功能描述如下：
1) 评价指标收集模块会按照用户设定的频率（比如每隔10分钟或者20分钟）去访问评价指标存储节点以获取各个存储节点的最新评价指标。并且将数据传入负载计算模块。
2) 负载计算模块根据评价指标收集模块定期传来的数据，按照预先定义好的算法进行综合负载的计算，然后对比设定的负载指标阈值判别每个节点的负载轻重程度。
3) 负载列表更新模块中始终维护一个节点负载轻重的优先队列，根据负载计算模块的判别结果，用来进行队列的更新。考虑到此队列数据更新的效率问题，一般直接将该队列常驻内存中，但为了防止因为节点的宕机而造成该数据的丢失，同时采用效率较高的Nosql数据库进行备份。
如图3所示，以负载均衡框架内的数据通信为例示范整个框架的工作流程，包括如下的步骤：
s1、分布式系统中的每一个节点按照每隔一定时间周期(几秒)的频率发送自身的评价指标数值至评价指标存储节点，如CPU利用率，I/O利用率，内存利用率等指标；
s2、评价指标存储节点将步骤s1中发送的评价指标数据存储在关系型数据库中，如Mysql数据库；
s3、负载均衡节点中负载优先队列的更新操作；
s3-1、负载均衡节点通过评价指标收集模块按照用户设定的周期向评价指标存储节点发送负载数据请求；
s3-2、评价指标存储节点通过数据库的连接响应步骤s3-1中的访问请求，返回每个节点的评价指标数值；
s3-3、启动节点的计算负载模块，针对步骤s3-2中返回的评价指标数据，按照预先设定好的负载算法进行节点负载轻重的判断；
s3-4、负载列表更新模块根据步骤s3-3中计算出来的各个节点的负载情况更新节点中维护的负载优先队列；
其中步骤s3相对独立，与步骤s1，s2没有顺序的先后关系。
本发明首先采用了多评价指标的动态负载均衡算法，对节点负载的评判准确性较高且实时性更强；另一方面，将评价指标的采集模块从由在负载均衡节点集中部署的方案改为部署在每个分布式系统节点分别采集的方案，在很大程度上减轻负载均衡节点的工作负载，提高了负载均衡节点进行任务调度的效率。同时，将评价指标单独存储在存储节点的数据库中，不但方便了该数据的存储与访问，同时避免了因为分布式系统与负载均衡节点直接传输此类数据带来的网络带宽的拥堵。此外，负载均衡节点中负载优先队列的设计带来了负载决策快速响应的好处，提高了系统的整体效率。
Claims (5)
1. 基于多评价指标的动态负载均衡框架，其特征是：包括分布式系统节点、评价指标存储节点、负载均衡节点及其备份节点和用户访问端，所述分布式系统节点用来完成该节点负载信息的采集工作，该节点上部署的信息采集模块将节点的负载评价指标数据周期性地写入到评价指标存储节点的关系型数据库中，即评价指标数据库；所述负载均衡节点用来从评价指标数据库中收集数据并进行节点综合负载的计算，针对负载均衡节点采用双机热备技术，增加一个备份节点，在负载均衡主节点无法工作的时候，由备份节点自动接管后续的系统负载工作；所述用户访问端是整个框架的访问入口，用户的请求首先发送至负载均衡节点，负载均衡节点根据优先队列中维护的节点负载轻重的数据，挑选出最佳的服务节点，然后将用户请求直接转发至该节点，由该节点响应前端的用户请求。
2.如权利要求1所述基于多评价指标的动态负载均衡框架，其特征是，所述写入评价指标数据库的周期设置为5-10秒。
3.如权利要求1所述基于多评价指标的动态负载均衡框架，其特征是，所述负载均衡节点计算节点综合负载的方法是：根据节点的多个负载评价指标，包括系统的CPU利用率、I/O利用率和内存利用率，并赋予每个评价指标不同的权值，利用线性加权方法，计算出每个节点的综合负载，并以此选出合适的服务节点，进行任务的计算或访问。
4.如权利要求1所述基于多评价指标的动态负载均衡框架，其特征是，所述的负载均衡节点包括评价指标收集模块，负载计算模块和负载列表更新模块，所述评价指标收集模块按照用户设定的频率去访问评价指标存储节点以获取各个存储节点的最新评价指标，并且将数据传入负载计算模块；所述负载计算模块根据评价指标收集模块定期传来的数据，进行综合负载的计算，然后对比设定的负载指标阈值判别每个节点的负载轻重程度；所述负载列表更新模块中始终维护一个节点负载轻重的优先队列，根据负载计算模块的判别结果，用来进行队列的更新。
5.如权利要求1，4所述基于多评价指标的动态负载均衡框架，其特征是，所述优先队列常驻内存中，同时采用Nosql数据库进行备份。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410189253.8A CN103945005B (zh) | 2014-05-06 | 2014-05-06 | 基于多评价指标的动态负载均衡框架 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410189253.8A CN103945005B (zh) | 2014-05-06 | 2014-05-06 | 基于多评价指标的动态负载均衡框架 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN103945005A true CN103945005A (zh) | 2014-07-23 |
| CN103945005B CN103945005B (zh) | 2017-06-13 |
Family
ID=51192485
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410189253.8A Active CN103945005B (zh) | 2014-05-06 | 2014-05-06 | 基于多评价指标的动态负载均衡框架 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN103945005B (zh) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106156176A (zh) * | 2015-04-17 | 2016-11-23 | 腾讯科技（深圳）有限公司 | 一种数据清理方法及装置 |
| CN107562913A (zh) * | 2017-09-12 | 2018-01-09 | 郑州云海信息技术有限公司 | 一种分布式文件系统的数据存储方法及装置 |
| CN109617992A (zh) * | 2018-12-29 | 2019-04-12 | 杭州趣链科技有限公司 | 一种基于区块链的边缘计算节点动态选举方法 |
| CN109842689A (zh) * | 2019-03-28 | 2019-06-04 | 中国联合网络通信集团有限公司 | 一种选择服务器接入的方法和装置 |
| CN109933431A (zh) * | 2019-03-11 | 2019-06-25 | 浪潮通用软件有限公司 | 一种智能的客户端负载均衡方法及系统 |
| CN110049084A (zh) * | 2018-12-10 | 2019-07-23 | 阿里巴巴集团控股有限公司 | 分布式系统的限流方法、装置及设备 |
| CN115629717A (zh) * | 2022-12-08 | 2023-01-20 | 四川汉唐云分布式存储技术有限公司 | 一种基于分布式存储的负载均衡方法和存储介质 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101820384A (zh) * | 2010-02-05 | 2010-09-01 | 浪潮(北京)电子信息产业有限公司 | 一种集群服务动态分配方法及装置 |
| CN103188345A (zh) * | 2013-03-01 | 2013-07-03 | 北京邮电大学 | 分布式动态负载管理系统和方法 |
-
2014
- 2014-05-06 CN CN201410189253.8A patent/CN103945005B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN101820384A (zh) * | 2010-02-05 | 2010-09-01 | 浪潮(北京)电子信息产业有限公司 | 一种集群服务动态分配方法及装置 |
| CN103188345A (zh) * | 2013-03-01 | 2013-07-03 | 北京邮电大学 | 分布式动态负载管理系统和方法 |
Cited By (11)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106156176A (zh) * | 2015-04-17 | 2016-11-23 | 腾讯科技（深圳）有限公司 | 一种数据清理方法及装置 |
| CN107562913A (zh) * | 2017-09-12 | 2018-01-09 | 郑州云海信息技术有限公司 | 一种分布式文件系统的数据存储方法及装置 |
| CN110049084A (zh) * | 2018-12-10 | 2019-07-23 | 阿里巴巴集团控股有限公司 | 分布式系统的限流方法、装置及设备 |
| CN110049084B (zh) * | 2018-12-10 | 2021-08-24 | 创新先进技术有限公司 | 分布式系统的限流方法、装置及设备 |
| CN109617992A (zh) * | 2018-12-29 | 2019-04-12 | 杭州趣链科技有限公司 | 一种基于区块链的边缘计算节点动态选举方法 |
| CN109933431A (zh) * | 2019-03-11 | 2019-06-25 | 浪潮通用软件有限公司 | 一种智能的客户端负载均衡方法及系统 |
| CN109933431B (zh) * | 2019-03-11 | 2023-04-04 | 浪潮通用软件有限公司 | 一种智能的客户端负载均衡方法及系统 |
| CN109842689A (zh) * | 2019-03-28 | 2019-06-04 | 中国联合网络通信集团有限公司 | 一种选择服务器接入的方法和装置 |
| CN109842689B (zh) * | 2019-03-28 | 2021-07-27 | 中国联合网络通信集团有限公司 | 一种选择服务器接入的方法和装置 |
| CN115629717A (zh) * | 2022-12-08 | 2023-01-20 | 四川汉唐云分布式存储技术有限公司 | 一种基于分布式存储的负载均衡方法和存储介质 |
| CN115629717B (zh) * | 2022-12-08 | 2023-03-21 | 四川汉唐云分布式存储技术有限公司 | 一种基于分布式存储的负载均衡方法和存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN103945005B (zh) | 2017-06-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN103945005A (zh) | 基于多评价指标的动态负载均衡框架 | |
| US11507430B2 (en) | Accelerated resource allocation techniques | |
| CN110166282B (zh) | 资源分配方法、装置、计算机设备和存储介质 | |
| CN103605567B (zh) | 面向实时性需求变化的云计算任务调度方法 | |
| CN108829494A (zh) | 基于负载预测的容器云平台智能资源优化方法 | |
| CN110225074B (zh) | 一种基于设备地址域的通讯报文分发系统及分发方法 | |
| CN103152393B (zh) | 一种云计算的计费方法和计费系统 | |
| CN108182105B (zh) | 基于Docker容器技术的局部动态迁移方法及控制系统 | |
| CN102664812B (zh) | 融合业务预测与实时负载的两阶段服务系统负载预测与均衡方法 | |
| CN108845878A (zh) | 基于无服务器计算的大数据处理方法及装置 | |
| CN103384206A (zh) | 一种面向海量数据的并行处理方法及系统 | |
| CN104376365A (zh) | 一种基于关联规则挖掘的信息系统运行规则库的构造方法 | |
| CN104298550A (zh) | 一种面向Hadoop的动态调度方法 | |
| CN102694868A (zh) | 一种集群系统实现及任务动态分配方法 | |
| CN104572307A (zh) | 一种对虚拟资源进行弹性调度的方法 | |
| CN110888714A (zh) | 容器的调度方法、装置和计算机可读存储介质 | |
| CN103699433A (zh) | 一种于Hadoop平台中动态调整任务数目的方法及系统 | |
| CN103957280A (zh) | 一种物联网中的传感网络连接分配和调度方法 | |
| CN105975345B (zh) | 一种基于分布式内存的视频帧数据动态均衡存储管理方法 | |
| CN106068626A (zh) | 分布网络管理架构中的负载均衡 | |
| CN101986661A (zh) | 一种改进的虚拟机群下MapReduce数据处理方法 | |
| CN115344207A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
| CN109165045A (zh) | 一种调整服务器的硬件配置的方法和装置 | |
| CN105740077A (zh) | 一种适用于云计算的任务分配方法 | |
| Guo | Ant colony optimization computing resource allocation algorithm based on cloud computing environment |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20170412 Address after: Chongqing city 402269 District Luohuang Jiangjin peace Town Primary School Applicant after: Peng Xiaoxia Address before: 214135 Jiangsu New District of Wuxi City Linghu Road No. 200 China Sensor Network International Innovation Park building C Applicant before: Jiangsu Internet of Things Research & Develoment Co., Ltd. |
|
| CB03 | Change of inventor or designer information | ||
| CB03 | Change of inventor or designer information |
Inventor after: Duan Jinwei Inventor before: Xu Qin Inventor before: Chen Shudong |
|
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20170504 Address after: Jinan street 030009 Shanxi city of Taiyuan province No. 7 Building 94 floor A block 3 room 0307-0312 Applicant after: Shanxi Ruixin Zhida media Polytron Technologies Inc Address before: Chongqing city 402269 District Luohuang Jiangjin peace Town Primary School Applicant before: Peng Xiaoxia |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |