CN105516325A - 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 - Google Patents
一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 Download PDFInfo
- Publication number
- CN105516325A CN105516325A CN201510944462.3A CN201510944462A CN105516325A CN 105516325 A CN105516325 A CN 105516325A CN 201510944462 A CN201510944462 A CN 201510944462A CN 105516325 A CN105516325 A CN 105516325A
- Authority
- CN
- China
- Prior art keywords
- resource
- load
- server
- application
- dilatation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D30/00—Reducing energy consumption in communication networks
- Y02D30/50—Reducing energy consumption in communication networks in wire-line communication networks, e.g. low power modes or reduced link rate
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明涉及物联网技术领域,特别是一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段及方法,该系统包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。本发明能够同时处理一般情况和高负荷的情景,有效的实现负载迁移,提高资源的利用率,减少资源消耗。
Description
技术领域
本发明涉及云计算技术领域,特别是一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段。
背景技术
云是一个包含有大量可用虚拟资源的资源池,实现资源按需分配。所谓资源按需分配就是根据应用需求进行动态资源分配,当应用负载较大时,增加服务资源;当应用负载较小时,减少服务资源。
为了实现资源按需分配,需要采用弹性扩容的方法,当增加存储资源或计算资源等服务资源时,能够将新增加的资源添加到已有资源中,形成一个整体对外提供服务,实现弹性扩容。另外,还需要采用流量分发的方式,将原本在老处理节点上处理的任务分流一部分到新节点上。
因为任务的类型不同,服务器的处理能力不同等,随机选择资源会造成负载不均衡等问题。为了合理的把负载分配给不同的服务器,需要应用响应能够正确反映各个服务器能力及网络状态的负载均衡算法。当服务器处于低负载状态或过载时,通过负载重分配和迁移,动态关闭和重启物理机,实现负载均衡,获得更高的系统效率。通过这种根据不同的负载动态地重新配置虚拟资源的方法,可以实现资源的有效利用。
中国发明专利申请CN104394224A公开了一种负载均衡系统,包括对云节点提供负载均衡服务的负载均衡模块,若干用于对云节点的负载进行均衡计算与对后端模块进行动态健康检查的监听模块,若干用于设置与云节点所对应服务权重的后端模块,能够动态地对后端模块进行监控,进行网络请求的转发,从而提高了云节点的可靠性。但该发明基于OpenStack架构,主要解决的是云计算平台中网络访问的并发性问题,只是对计算机集群中的虚拟机的负载进行简单采集,并没有考虑负载的动态变化,从而影响了用户体验,甚至无法满足部分用户的请求。
发明内容
本发明针对现有技术的上述缺陷,提出了一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段。本系统包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。
进一步的,当有新任务到达时,负载平衡模块工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发:当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
进一步的,当资源需求增加时,先在已有集群内开启新的服务器,当已有的集群剩余资源无法满足新到达应用的资源需求时,开启新的集群进行服务。
本发明还提出一种负载平衡方法:
4)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配
给如下的服务器:
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占
用的服务器s资源;Ureq表示新到应用的资源请求。
5)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。迁移的资源为Uadd=Unow,s′-Umax,s′+Ureq。
6)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2上
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源。迁移的资源为:
采用上述的集群负载平衡和服务节点平衡两级负载平衡手段后,能够同时处理一般情况和高负荷的情景,有效的实现负载迁移,提高资源的利用率,减少资源消耗。
附图说明
下面结合附图和具体实施方式对本发明作进一步详细的说明。
图1为本发明的系统框图。
图2为本发明负载均衡的流程图。
图中:1为集群间负载平衡模块,2为集群,3为集群内负载平衡模块,4为服务器节点。
具体实施方式
如图1所示,本发明的物联网检测系统包括两级负载平衡模块:集群间负载平衡模块1和集群内平衡模块3;其中,所述集群间负载平衡模块1负责集群2之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;所述集群内平衡模块3负载集群内部各个服务器节点4的负载平衡,处理一般应用负载的情况。
进一步的,当有新任务到达时,负载平衡模块工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发;当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
进一步的,当资源需求增加时,先在已有集群内开启新的服务器,当已有集群的剩余资源无法满足新到达应用的资源需求时,开启新的集群进行服务。
本发明提出的负载平衡方法如下:
1)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配给如下的服务器:
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。
2)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源;Ureq表示新到应用的资源请求。迁移的资源为Uadd=Unow,s′-Umax,s′+Ureq。
3)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2上
其中,Umax,s表示服务器s最大能够提供的资源;Unow,s表示当前任务已占用的服务器s资源。迁移的资源为:
虽然以上描述了本发明的具体实施方式,但是本领域熟练技术人员应当理解,这些仅是举例说明,可以对本实施方式作出多种变更或修改,而不背离本发明的原理和实质,本发明的保护范围仅由所附权利要求书限定。
Claims (4)
1.一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:所述系统包括两级负载平衡模块:集群负载平衡模块和服务节点平衡模块;其中,集群负载平衡模块负责集群之间的负载平衡,处理潮汐效应和高峰负荷等重应用负载的情况;服务节点平衡模块负载集群内部各个服务器的负载平衡,处理一般应用负载的情况。
2.根据权利要求1所述的根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:当有新任务到达时,负载平衡模块开始工作;如果当前的资源无法满足需求,则进行资源弹性扩容,对扩容的资源重新进行负载平衡和流量分发;当发现有空闲资源或低效率资源时,进行资源回收,对回收后的资源重新进行负载平衡。
3.根据权利要求2所述的根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段,其特征在于:当资源需求增加时,先在已有集群内开启新的服务器,当已有的集群的剩余资源都无法满足新到达应用的资源需求时,开启新的集群进行服务。
4.一种负载平衡方法,其特征在于:
1)当无资源弹性扩容和资源回收时,有新任务到达时,将应用负载分配给如下的服务器:
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源;表示新到应用的资源请求。
2)当有资源弹性扩容时,将服务器s′上的部分负载迁移到新服务器上
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源;表示新到应用的资源请求。迁移的资源为
3)当有资源回收时,将服务器s1上的部分负载迁移到服务器s2上
其中,表示服务器s最大能够提供的资源;表示当前任务已占用的服务器s资源。迁移的资源为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510944462.3A CN105516325A (zh) | 2015-12-18 | 2015-12-18 | 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510944462.3A CN105516325A (zh) | 2015-12-18 | 2015-12-18 | 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN105516325A true CN105516325A (zh) | 2016-04-20 |
Family
ID=55723955
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510944462.3A Pending CN105516325A (zh) | 2015-12-18 | 2015-12-18 | 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105516325A (zh) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106911501A (zh) * | 2017-02-22 | 2017-06-30 | 广东网金控股股份有限公司 | 一种自动化的减容方法及其装置 |
CN106970839A (zh) * | 2017-02-22 | 2017-07-21 | 广东网金控股股份有限公司 | 一种自动化的扩容方法及其装置 |
CN109739627A (zh) * | 2018-12-26 | 2019-05-10 | 上海连尚网络科技有限公司 | 任务的调度方法、电子设备及介质 |
CN110198356A (zh) * | 2019-06-10 | 2019-09-03 | 莫毓昌 | 一种基于混合云的用户请求调度机制 |
CN111049745A (zh) * | 2019-12-23 | 2020-04-21 | 厦门亿联网络技术股份有限公司 | 一种基于大数据分析的网络规划方法及装置 |
CN111405583A (zh) * | 2019-01-02 | 2020-07-10 | 中国移动通信有限公司研究院 | 一种潮汐效应规避方法、装置和计算机可读存储介质 |
CN112118275A (zh) * | 2019-06-20 | 2020-12-22 | 北京车和家信息技术有限公司 | 过载处理方法、物联网平台及计算机可读存储介质 |
CN112738220A (zh) * | 2020-12-28 | 2021-04-30 | 杭州迪普科技股份有限公司 | 服务器集群的管理方法、负载均衡方法和负载均衡设备 |
CN112965817A (zh) * | 2021-02-22 | 2021-06-15 | 网易(杭州)网络有限公司 | 资源管理方法、装置和电子设备 |
CN113672396A (zh) * | 2021-10-25 | 2021-11-19 | 中电云数智科技有限公司 | 一种流式计算作业处理方法以及装置 |
CN115643180A (zh) * | 2022-12-26 | 2023-01-24 | 北京数原数字化城市研究中心 | 一种弹性扩容方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102495857A (zh) * | 2011-11-21 | 2012-06-13 | 北京新媒传信科技有限公司 | 一种分布式数据库的负载均衡方法 |
CN102833355A (zh) * | 2012-09-22 | 2012-12-19 | 广东电子工业研究院有限公司 | 一种面向云计算的负载均衡系统及机制 |
CN103226467A (zh) * | 2013-05-23 | 2013-07-31 | 中国人民解放军国防科学技术大学 | 数据并行处理方法、系统及负载均衡调度器 |
CN103391299A (zh) * | 2012-05-08 | 2013-11-13 | 深圳市腾讯计算机系统有限公司 | 负载均衡方法和负载均衡系统 |
-
2015
- 2015-12-18 CN CN201510944462.3A patent/CN105516325A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102495857A (zh) * | 2011-11-21 | 2012-06-13 | 北京新媒传信科技有限公司 | 一种分布式数据库的负载均衡方法 |
CN103391299A (zh) * | 2012-05-08 | 2013-11-13 | 深圳市腾讯计算机系统有限公司 | 负载均衡方法和负载均衡系统 |
CN102833355A (zh) * | 2012-09-22 | 2012-12-19 | 广东电子工业研究院有限公司 | 一种面向云计算的负载均衡系统及机制 |
CN103226467A (zh) * | 2013-05-23 | 2013-07-31 | 中国人民解放军国防科学技术大学 | 数据并行处理方法、系统及负载均衡调度器 |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106970839A (zh) * | 2017-02-22 | 2017-07-21 | 广东网金控股股份有限公司 | 一种自动化的扩容方法及其装置 |
CN106911501A (zh) * | 2017-02-22 | 2017-06-30 | 广东网金控股股份有限公司 | 一种自动化的减容方法及其装置 |
CN109739627A (zh) * | 2018-12-26 | 2019-05-10 | 上海连尚网络科技有限公司 | 任务的调度方法、电子设备及介质 |
CN111405583A (zh) * | 2019-01-02 | 2020-07-10 | 中国移动通信有限公司研究院 | 一种潮汐效应规避方法、装置和计算机可读存储介质 |
CN110198356A (zh) * | 2019-06-10 | 2019-09-03 | 莫毓昌 | 一种基于混合云的用户请求调度机制 |
CN112118275A (zh) * | 2019-06-20 | 2020-12-22 | 北京车和家信息技术有限公司 | 过载处理方法、物联网平台及计算机可读存储介质 |
CN111049745A (zh) * | 2019-12-23 | 2020-04-21 | 厦门亿联网络技术股份有限公司 | 一种基于大数据分析的网络规划方法及装置 |
CN111049745B (zh) * | 2019-12-23 | 2021-08-24 | 厦门亿联网络技术股份有限公司 | 一种基于大数据分析的网络规划方法及装置 |
CN112738220A (zh) * | 2020-12-28 | 2021-04-30 | 杭州迪普科技股份有限公司 | 服务器集群的管理方法、负载均衡方法和负载均衡设备 |
CN112738220B (zh) * | 2020-12-28 | 2023-02-28 | 杭州迪普科技股份有限公司 | 服务器集群的管理方法、负载均衡方法和负载均衡设备 |
CN112965817A (zh) * | 2021-02-22 | 2021-06-15 | 网易(杭州)网络有限公司 | 资源管理方法、装置和电子设备 |
CN112965817B (zh) * | 2021-02-22 | 2023-08-11 | 网易(杭州)网络有限公司 | 资源管理方法、装置和电子设备 |
CN113672396A (zh) * | 2021-10-25 | 2021-11-19 | 中电云数智科技有限公司 | 一种流式计算作业处理方法以及装置 |
CN113672396B (zh) * | 2021-10-25 | 2021-12-28 | 中电云数智科技有限公司 | 一种流式计算作业处理方法以及装置 |
CN115643180A (zh) * | 2022-12-26 | 2023-01-24 | 北京数原数字化城市研究中心 | 一种弹性扩容方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105516325A (zh) | 一种根据应用负载进行弹性扩容和流量分发扩展的云负载平衡手段 | |
CN103227838B (zh) | 一种多重负载均衡处理装置与方法 | |
CN105391797B (zh) | 基于sdn的云服务器负载均衡方法及装置 | |
CN103051564B (zh) | 资源动态调配的方法和装置 | |
US8984526B2 (en) | Dynamic processor mapping for virtual machine network traffic queues | |
CN102902587B (zh) | 分布式任务调度方法、系统和装置 | |
CN105426245A (zh) | 包括分散的部件的动态地组成的计算节点 | |
CN104836819A (zh) | 动态负载均衡的方法、系统及监控调度设备 | |
CN106850834A (zh) | 一种业务请求方法和装置及负载均衡器 | |
CN104158911A (zh) | 一种面向服务器集群的控制方法及系统 | |
CN105007337A (zh) | 集群系统负载均衡的方法和系统 | |
CN102314336B (zh) | 一种数据处理方法和系统 | |
CN105589750A (zh) | 一种cpu资源调度方法和服务器 | |
CN102622275A (zh) | 一种云计算环境下负载均衡实现方法 | |
US20120233313A1 (en) | Shared scaling server system | |
CN104917805A (zh) | 一种负载分担的方法和设备 | |
CN104598316A (zh) | 一种存储资源分配方法及装置 | |
CN104639645A (zh) | 网络负载均衡方法、装置及集群服务系统 | |
CN111083189B (zh) | 用于在运行时处理数据倾斜的系统和方法 | |
CN104283963A (zh) | 一种分布合作式的cdn负载均衡方法 | |
CN111352726B (zh) | 一种基于容器化微服务的流数据处理方法及装置 | |
CN103677993A (zh) | 虚拟机资源负载平衡系统及方法 | |
Khetan et al. | A novel survey on load balancing in cloud computing | |
CN105487928A (zh) | 一种控制方法、装置及Hadoop系统 | |
CN112685167A (zh) | 资源使用方法、电子设备和计算机程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20160420 |
|
RJ01 | Rejection of invention patent application after publication |