CN104270321A - 一种网络负载均衡方法及系统 - Google Patents
一种网络负载均衡方法及系统 Download PDFInfo
- Publication number
- CN104270321A CN104270321A CN201410479308.9A CN201410479308A CN104270321A CN 104270321 A CN104270321 A CN 104270321A CN 201410479308 A CN201410479308 A CN 201410479308A CN 104270321 A CN104270321 A CN 104270321A
- Authority
- CN
- China
- Prior art keywords
- server
- assessed value
- virtual server
- message
- new information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
本发明提供一种网络负载均衡方法及系统，上述方法包括以下步骤：获取各服务器处理的消息数据；根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群；按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。本发明通过形成虚拟服务器群优化负载均衡技术，将负载分配给合适的服务器，从而提高了各服务器的处理速度和响应速度。
Description
技术领域
本发明属于网络通信领域，尤其涉及一种网络负载均衡方法及系统。
背景技术
负载均衡是指将负载进行平衡、分摊到多个操作单元上进行执行，从而共同完成工作任务的思想。在网络应用中，它提供了一种廉价有效透明的方法来扩展网络设备和服务器的带宽、增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。这其中服务器的负载均衡最常见的。一方面，随着Internet的快速发展和业务量的不断提高，基于网络的数据访问流量迅速增长，数据中心、大型企业以及门户网站等的服务器逐渐被数据淹没。另一方面，相对于网络技术的发展，服务器处理器速度和内存访问速度的增长却远远低于网络带宽和应用服务的增长，网络带宽增长的同时带来的用户数量的增长，也使得服务器资源消耗严重，服务器成为了网络瓶颈。
发明内容
本发明提供一种网络负载均衡方法及系统，以解决上述问题。
本发明提供一种网络负载均衡方法。上述方法包括以下步骤：获取各服务器处理的消息数据；根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群；按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
本发明还提供了一种网络负载均衡系统，包括：控制器、负载均衡服务器；其中，所述控制器与所述负载均衡服务器直接相连；所述控制器，用于获取各服务器处理的消息数据，并根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群，以及将划分结果通知负载均衡服务器；所述负载均衡服务器，用于根据所述划分结果，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
相较于先前技术，根据本发明提供的网络负载均衡方法及系统，通过形成虚拟服务器群优化负载均衡技术，将负载分配给合适的服务器，从而提高了各服务器的处理速度和响应速度。
附图说明
此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：
图1所示为根据本发明的较佳实施例提供的网络负载均衡方法的流程图；
图2所示为根据本发明的又一较佳实施例的网络负载均衡系统的示意图。
具体实施方式
下文中将参考附图并结合实施例来详细说明本发明。需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。
图1所示为根据本发明的较佳实施例提供的网络负载均衡方法的流程图。如图1所示，本发明的较佳实施例提供的网络负载均衡方法包括步骤102～106。
在步骤102，获取各服务器处理的消息数据。各个服务器可以将其在一段时间内处理的消息数据发送给控制器。该消息数据可以包括消息的数量、业务类型。
在步骤104，根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群。
在现有技术中通常按照地域来划分服务器，例如华东区域的服务器、华北区域的服务器，当华东区域的服务器的负担过重时，就将华东区域的任务迁移给华北区域的服务器，而在本实施例中，并不是按照区域来划分服务器，而是根据当前处理的消息数据的情况来划分服务器，形成虚拟的服务器群，这样，能够根据实际的业务处理情况来划分服务器群。
在步骤106，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
在步骤104中，根据所述消息数据对所述各服务器进行划分的过程包括：
根据消息的类型、每一类型消息对应的权重以及每一类型消息的数量获取各服务器当前处理消息数据的评估值；
根据所述各服务器的评估值所处的评估值区间，对所述各服务器进行划分，评估值在同一评估值区间的服务器属于同一虚拟服务器群。
| 消息类型 | 权重 | 数量 | 评估值 |
| 会议消息 | 30％ | 100,000 | 30,000 |
| 教学消息 | 50％ | 200,000 | 100,000 |
| 聊天消息 | 20％ | 200,000 | 40,000 |
| 总计 | 170,000 |
表1
如上表1所示，消息的类型可以是会议消息、教学消息、聊天消息，其中，会议消息可以是视频会议的通信数据，教学消息可以是在线课堂的通信数据，聊天消息可以是即时通信数据。假设服务器A所处理的消息数据的情况如表1所示。那么服务器A的评估值的计算规则为：30％×100000+50％×200000+20％×200000＝170000。其他服务器的评估值计算过程同服务器A的计算过程，这样就可以计算出各服务器的评估值。
预设评估值区间，例如0～10000，10001～80000，80001～150000，150001～190000分别是4个评估值区域，根据服务器的评估值所处的区间，将各服务器划分为多个虚拟服务器群。评估值越高，表示服务器的负担越重，处理的核心业务较多，表1中的权重值表示业务的重要程度。因此处于区间150001～190000的服务器负担较重，核心业务处理的较多，而处于区间0～10000的服务器负担相对较轻，核心业务处理的也较少。
在接收到新消息之后，将该新消息发送给划分出的虚拟服务器群进行处理，如何确定处理该新消息的虚拟服务器群，可以采用以下几种方案。
第一种是使每一评估值区间对应一个处理等级；将新消息发送至处理等级小于预设等级的多个虚拟服务器群，并且按照预定比例将新消息分配给所述处理等级小于预设等级的多个虚拟服务器群。
例如，在上述例子中，0～10000，10001～80000，80001～150000，150001～190000这四个区间的处理等级分别为等级一、等级二、等级三和等级四。预设等级是等级三，小于等级三的虚拟服务器群是评估值区间0～10000和10001～80000所对应的虚拟服务器群。将该新消息按照一定比例(例如2:1)分配给这两个虚拟服务器群。
第二种是按照预设策略，将新消息发送至多个虚拟服务器群中评估值区间最小的虚拟服务器群，并且对于所述评估值区间最小的服务器群，根据所述消息数据确定当前处理消息量最小的服务器，将新消息发送至处理消息量最小的服务器，或者，在新消息的数量大于预设值时，将新消息分别发送至评估值区间最小的虚拟服务群中的多个服务器中进行处理。
例如，将新消息发送给评估值区间0～10000所对应的虚拟服务器群。在该虚拟服务器群中，服务器x当前所处理的消息量是最小的，那么将新消息给该服务器x处理。或者，如果该新消息数量较大，大于预设值10000，则可以将该新消息分别分配给该虚拟服务器群中的多个服务器(例如：服务器x、服务器y)来处理。
需说明的是，虚拟服务器群的划分并不是固定的，可以按照预定时间周期获取各服务器的消息数据，并根据该消息数据对各服务器进行动态划分。也就是说每隔一定时间就再次获取各服务器处理消息的情况，然后根据最新的消息数据来重新划分虚拟服务器群。
因此，在接收到新消息之后，将该新消息发送给核心业务处理的较少的服务器，从而减轻处理核心业务较多的服务器的负担，并不是单纯按照服务器的消息处理数量来进行消息的分配控制。
图2所示为根据本发明的又一较佳实施例的网络负载均衡系统的示意图。
网络负载均衡系统包括：控制器202、负载均衡服务器204；其中，所述控制器202与所述负载均衡服务器204直接相连；所述控制器202，用于获取各服务器处理的消息数据，并根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群，以及将划分结果通知负载均衡服务器；所述负载均衡服务器204，用于根据所述划分结果，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
其中，所述控制器202包括评估值处理单元2022、虚拟服务器群划分单元2024；其中，所述评估值处理单元2022与所述虚拟服务器群划分单元204直接相连；
评估值处理单元2022，用于根据消息的类型、每一类型消息对应的权重以及每一类型消息的数量获取各服务器当前处理消息数据的评估值并将所述评估值发送至所述虚拟服务器群划分单元；虚拟服务器群划分单元2024，用于根据所述各服务器的评估值所处的评估值区间，对所述各服务器进行划分，评估值在同一评估值区间的服务器属于同一虚拟服务器群。
需说明的是，负载均衡服务器204可以设置在控制器202中。
根据本发明提供的网络负载均衡方法及系统，通过形成虚拟服务器群优化负载均衡技术，将负载分配给合适的服务器，从而提高了各服务器的处理速度和响应速度。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种网络负载均衡方法，其特征在于，包括以下步骤：
获取各服务器处理的消息数据；
根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群；
按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
2.根据权利要求1所述的方法，其特征在于，根据所述消息数据对所述各服务器进行划分的过程包括：
根据消息的类型、每一类型消息对应的权重以及每一类型消息的数量获取各服务器当前处理消息数据的评估值；
根据所述各服务器的评估值所处的评估值区间，对所述各服务器进行划分，评估值在同一评估值区间的服务器属于同一虚拟服务器群。
3.根据权利要求2所述的方法，其特征在于，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的多个虚拟服务器群进行处理的过程为：
每一评估值区间对应一个处理等级；
将所述新消息发送至处理等级小于预设等级的多个虚拟服务器群，并且按照预定比例将所述新消息分配给所述处理等级小于预设等级的多个虚拟服务器群。
4.根据权利要求2所述的方法，其特征在于，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个虚拟服务器群进行处理的过程为：
将所述新消息发送至所述多个虚拟服务器群中评估值区间最小的虚拟服务器群。
5.根据权利要求4所述的方法，其特征在于，对于所述评估值区间最小的服务器群，根据所述消息数据确定当前处理消息量最小的服务器，将所述新消息发送至所述处理消息量最小的服务器。
6.根据权利要求4所述的方法，其特征在于，在所述新消息的数量大于预设值时，将所述新消息分别发送至所述评估值区间最小的虚拟服务群中的多个服务器中进行处理。
7.根据权利要求1所述的方法，其特征在于，按照预定时间周期获取所述各服务器的消息数据，并根据所述消息数据对所述各服务器进行动态划分。
8.根据权利要求1至7中任一项所述的方法，其特征在于，所述消息的类型至少包括以下一种或多种：
会议消息、聊天消息、教学消息、系统消息。
9.一种网络负载均衡系统，其特征在于，包括：控制器、负载均衡服务器；其中，所述控制器与所述负载均衡服务器直接相连；
所述控制器，用于获取各服务器处理的消息数据，并根据所述消息数据对所述各服务器进行划分，形成多个虚拟服务器群，以及将划分结果通知负载均衡服务器；
所述负载均衡服务器，用于根据所述划分结果，按照预设策略，将接收到的新消息发送给所述多个虚拟服务器群中的一个或多个虚拟服务器群进行处理。
10.根据权利要求9所述的网络负载均衡系统，其特征在于，所述控制器包括评估值处理单元、虚拟服务器群划分单元；其中，所述评估值处理单元与所述虚拟服务器群划分单元直接相连；
评估值处理单元，用于根据消息的类型、每一类型消息对应的权重以及每一类型消息的数量获取各服务器当前处理消息数据的评估值并将所述评估值发送至所述虚拟服务器群划分单元；
虚拟服务器群划分单元，用于根据所述各服务器的评估值所处的评估值区间，对所述各服务器进行划分，评估值在同一评估值区间的服务器属于同一虚拟服务器群。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410479308.9A CN104270321A (zh) | 2014-09-18 | 2014-09-18 | 一种网络负载均衡方法及系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201410479308.9A CN104270321A (zh) | 2014-09-18 | 2014-09-18 | 一种网络负载均衡方法及系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN104270321A true CN104270321A (zh) | 2015-01-07 |
Family
ID=52161813
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201410479308.9A Pending CN104270321A (zh) | 2014-09-18 | 2014-09-18 | 一种网络负载均衡方法及系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN104270321A (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106385375A (zh) * | 2015-07-31 | 2017-02-08 | 北京国双科技有限公司 | 用于消息队列的负载均衡方法和装置 |
| CN106789699A (zh) * | 2016-12-23 | 2017-05-31 | 航天星图科技（北京）有限公司 | 一种分布式在线流处理服务系统 |
| CN111092890A (zh) * | 2019-12-19 | 2020-05-01 | 视联动力信息技术股份有限公司 | 一种监控点播信息负载分担方法、装置、电子设备及介质 |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1992953A (zh) * | 2005-12-30 | 2007-07-04 | 中兴通讯股份有限公司 | 一种分布式hlr内存数据库的实现方法 |
| CN101304436A (zh) * | 2008-07-07 | 2008-11-12 | 杭州华三通信技术有限公司 | 实现应用层会话持续性的负载均衡方法、系统及设备 |
| CN101438609A (zh) * | 2006-05-03 | 2009-05-20 | 思科技术公司 | 用于服务器群资源分配的系统和方法 |
-
2014
- 2014-09-18 CN CN201410479308.9A patent/CN104270321A/zh active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN1992953A (zh) * | 2005-12-30 | 2007-07-04 | 中兴通讯股份有限公司 | 一种分布式hlr内存数据库的实现方法 |
| CN101438609A (zh) * | 2006-05-03 | 2009-05-20 | 思科技术公司 | 用于服务器群资源分配的系统和方法 |
| CN101304436A (zh) * | 2008-07-07 | 2008-11-12 | 杭州华三通信技术有限公司 | 实现应用层会话持续性的负载均衡方法、系统及设备 |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106385375A (zh) * | 2015-07-31 | 2017-02-08 | 北京国双科技有限公司 | 用于消息队列的负载均衡方法和装置 |
| CN106385375B (zh) * | 2015-07-31 | 2019-12-03 | 北京国双科技有限公司 | 用于消息队列的负载均衡方法和装置 |
| CN106789699A (zh) * | 2016-12-23 | 2017-05-31 | 航天星图科技（北京）有限公司 | 一种分布式在线流处理服务系统 |
| CN106789699B (zh) * | 2016-12-23 | 2019-03-19 | 中科星图股份有限公司 | 一种分布式在线流处理服务系统 |
| CN111092890A (zh) * | 2019-12-19 | 2020-05-01 | 视联动力信息技术股份有限公司 | 一种监控点播信息负载分担方法、装置、电子设备及介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109857546B (zh) | 基于Lyapunov优化的多服务器移动边缘计算卸载方法及装置 | |
| CN109862592B (zh) | 一种基于多基站协作的移动边缘计算环境下资源管理和调度方法 | |
| CN109327550A (zh) | 一种访问请求的分配方法、装置、存储介质和计算机设备 | |
| CN109672711B (zh) | 一种基于反向代理服务器Nginx的http请求处理方法及系统 | |
| CN103561049A (zh) | 一种处理终端调度请求的方法、系统及装置 | |
| Phan et al. | Traffic-aware horizontal pod autoscaler in Kubernetes-based edge computing infrastructure | |
| CN102791032A (zh) | 网络带宽分配方法及终端 | |
| CN103391299A (zh) | 负载均衡方法和负载均衡系统 | |
| CN103401947A (zh) | 多个服务器的任务分配方法和装置 | |
| CN105589750A (zh) | 一种cpu资源调度方法和服务器 | |
| CN104253850A (zh) | 一种任务分布式调度方法和系统 | |
| CN104598316B (zh) | 一种存储资源分配方法及装置 | |
| CN102299959A (zh) | 一种数据库集群系统的负载均衡实现方法和装置 | |
| CN104320854A (zh) | 资源调度方法及装置 | |
| CN105491150A (zh) | 基于时间序列的负载均衡处理方法及系统 | |
| Kapgate | Efficient service broker algorithm for data center selection in cloud computing | |
| CN103595654A (zh) | 基于多核CPU的HQoS实现方法、装置及网络设备 | |
| CN104270321A (zh) | 一种网络负载均衡方法及系统 | |
| CN111078391A (zh) | 一种业务请求处理方法、装置及设备 | |
| CN103218265B (zh) | 基于空间密度聚类的并行式虚拟角色划分方法 | |
| Kyung et al. | A load distribution scheme over multiple controllers for scalable SDN | |
| CN105657009A (zh) | 对象网关负载均衡系统、方法及跨区域对象网关存储系统 | |
| CN104899097A (zh) | 线程分配数量计算方法以及装置 | |
| CN103905324A (zh) | 一种基于报文五元组的调度分流方法和系统 | |
| CN107704320B (zh) | 一种分布式系统的任务分配方法及系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| C06 | Publication | ||
| PB01 | Publication | ||
| C10 | Entry into substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| C53 | Correction of patent of invention or patent application | ||
| CB02 | Change of applicant information |
Address after: Suzhou City, Jiangsu province 215121 Suzhou Industrial Park Road No. 8 only Weiting Technology Venture Building 7 floor Applicant after: Kuo Di education and science company limited Address before: Suzhou City, Jiangsu province 215121 Suzhou Industrial Park Road No. 8 only Weiting Technology Venture Building 7 floor Applicant before: Suzhou Kuodi Network Technology Co., Ltd. |
|
| COR | Change of bibliographic data |
Free format text: CORRECT: APPLICANT; FROM: SUZHOU KUODI NETWORK TECHNOLOGY CO., LTD. TO: CODYY EDUCATION TECHNOLOGY CO., LTD. |
|
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20150107 |
|
| WD01 | Invention patent application deemed withdrawn after publication |