CN102932269A - 负载均衡的实现方法和装置 - Google Patents
负载均衡的实现方法和装置 Download PDFInfo
- Publication number
- CN102932269A CN102932269A CN201210476709XA CN201210476709A CN102932269A CN 102932269 A CN102932269 A CN 102932269A CN 201210476709X A CN201210476709X A CN 201210476709XA CN 201210476709 A CN201210476709 A CN 201210476709A CN 102932269 A CN102932269 A CN 102932269A
- Authority
- CN
- China
- Prior art keywords
- message
- server
- feature
- matching relationship
- characteristic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Computer And Data Communications (AREA)
Abstract
本发明公开了一种负载均衡的实现方法和装置,该方法包括:提取报文的特征,然后缓存该报文内容,在确定报文特征所对应的服务之后,根据特征匹配关系,将报文发送给该服务器。由于该特征匹配关系包括报文的特征与服务器之间的对应关系,所以能确定与报文的特征相对应的服务器,从而实现负载均衡。当报文特征无对应的服务器时,还可以将报文发送到预先指定的默认服务器。本发明的方法能实现服务器资源合理安排,从而满足云计算数据中心多用户或网络安全应用数据中心的需求。
Description
技术领域
本发明涉及计算机领域,具体地,涉及一种负载均衡的实现方法和装置。
背景技术
数据中心有大量的服务器,当大量用户通过网络访问数据中心的服务器时,为保证数据中心所有服务器的使用效率最大化,在网络入口需要安装一个负载均衡设备,设备中保存数据中心可用服务器的列表,每当用户发起访问数据中心的请求时,负载均衡设备按照一定的请求分配策略,将不同用户的访问请求分配到不同的服务器上。
随着一般数据中心向云计算数据中心发展,大量用户可以通过网络直接使用云计算数据中心内部的服务器设备,因此使得进入数据中心的流量(该流量可以理解为是本文中提到的接收的报文)有了用户属性,从而需要负载均衡设备在分配流量时,能够根据流量特征,将同一用户的流量分配给该用户的服务器。此外,在有些数据中心的分布式网络安全应用中,每台服务器需要处理不同的流量,也需要负载均衡设备根据流量特征把不同流量分配给不同服务器。
一般负载均衡设备都是基于服务器的资源和负载状态进行流量分配的,但是这些负载均衡设备都只是把流量分配给负载最轻资源最多的服务器,却没有详细考虑输入流量的特征。所以,在每台服务需要处理特定流量特征的应用场景中,一般负载均衡设备不能满足需求。
由于已有的负载均衡方案仅仅是根据各个服务器的负载进行报文(流量)的分配和处理,因此,很可能导致具有相同特征的报文被分配给不同的服务器进行处理,例如,将来自同一会话或同一客户端的多个报文分配给不同的服务器,也可能将容量差别很大以及格式不同的报文分配给同一服务器,这样就会导致同一服务器需要接收并处理差异较大以及属于不同业务的报文,因此会影响处理的效率,并且不利于业务进行。
针对相关技术中现有负载均衡方案的处理方法未考虑报文特征、无法满足特定应用场景需求的问题,目前尚未提出有效的解决方案。
发明内容
针对相关技术中现有负载均衡方案的处理方法未考虑报文特征、无法满足特定应用场景需求的问题,本发明提出一种负载均衡的实现方法和装置,能够根据报文的特征将报文分配到对应的服务器,从而提高报文的处理效率,对业务过程进行优化。
本发明的技术方案是这样实现的:
根据本发明的一个方面,提供了一种负载均衡的实现方法。
该负载均衡的实现方法包括:
提取报文的特征;
根据特征匹配关系,确定报文的特征所对应的服务器,其中,特征匹配关系包括报文的特征与服务器之间的对应关系;
将报文发送到确定的服务器。
此外,提取报文的特征进一步包括:
缓存报文的内容;
并且,将报文发送到确定的服务器包括:
提取缓存的报文的内容,并将该内容发送至服务器。
进一步地,特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
可选地,根据特征匹配关系,确定报文的特征所对应的服务器包括:
在根据第一匹配关系和第二匹配关系中之一无法确定报文的特征所对应的服务器的情况下,则根据第一匹配关系和第二匹配关系中的另一个确定报文的特征所对应的服务器。
并且,该方法进一步包括:
在根据第一匹配关系和第二匹配关系均无法确定报文的特征所对应的服务器的情况下,则将报文发送到预先指定的默认服务器。
根据本发明的另一个方面,提供了一种负载均衡的实现装置。
该负载均衡的实现装置包括:
提取模块,用于提取报文的特征;
确定模块,用于根据特征匹配关系,确定报文的特征所对应的服务器,其中,特征匹配关系包括报文的特征与服务器之间的对应关系;
发送模块,用于将报文发送到确定的服务器。
此外,该实现装置进一步包括:
缓存模块,用于缓存报文的内容;并且,发送模块用于提取缓存的报文的内容,并将该内容发送至服务器。
可选地,特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
可选地,在确定模块根据第一匹配关系和第二匹配关系中之一无法确定报文的特征所对应的服务器的情况下,则确定模块根据第一匹配关系和第二匹配关系中的另一个确定报文的特征所对应的服务器。
并且,在确定模块根据第一匹配关系和第二匹配关系均无法确定报文的特征所对应的服务器的情况下,则发送模块将报文发送到预先指定的默认服务器。
本发明通过根据报文的特征报文发送给与其特征所对应的服务器,能够保证具有类似或相同特征(例如,属于同一业务、来自同一用户等)的报文尽可能由同一服务器进行处理,从而提高报文的处理效率,合理安排服务器资源,对业务过程进行优化。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明的实施例的负载均衡的实现方法的流程图;
图2是根据本发明的实施例的负载均衡的实现装置的框图;
图3是根据本发明的实施例的负载均衡装置的具体结构实例的框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
根据本发明的一个方面,提供了一种负载均衡的实现方法。
如图1所示,该负载均衡的实现方法包括:
步骤S101,提取报文的特征;
步骤S103,根据特征匹配关系,确定报文的特征所对应的服务器,其中,特征匹配关系包括报文的特征与服务器之间的对应关系;
步骤S105,将报文发送到确定的服务器。
此外,在提取报文的特征时,可以缓存报文的内容;
并且,在将报文发送到确定的服务器时,可以提取缓存的报文的内容,并将该内容发送至服务器。
进一步地,特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
可选地,在根据特征匹配关系确定报文的特征所对应的服务器时,可以在根据第一匹配关系和第二匹配关系中之一无法确定报文的特征所对应的服务器的情况下,则根据第一匹配关系和第二匹配关系中的另一个确定报文的特征所对应的服务器。
也就是说,在确定发送报文的目标服务器时,可以首先通过第一匹配关系确定该目标服务器,如果根据第一匹配关系无法确定目标服务器,则会根据第二匹配关系确定目标服务器。此外,也可以首先通过第二匹配关系确定该目标服务器,如果根据第二匹配关系无法确定目标服务器,再根据第一匹配关系确定目标服务器。
并且,在根据第一匹配关系和第二匹配关系均无法确定报文的特征所对应的服务器的情况下,则将报文发送到预先指定的默认服务器。
根据本发明的另一个方面,提供了一种负载均衡的实现装置。
如图2所示,该负载均衡的实现装置包括:
提取模块21,用于提取报文的特征;
确定模块22,用于根据特征匹配关系,确定报文的特征所对应的服务器,其中,特征匹配关系包括报文的特征与服务器之间的对应关系;
发送模块23,用于将报文发送到确定的服务器。
此外,该实现装置进一步包括:
缓存模块(未示出),用于缓存报文的内容;并且,在需要发送报文的情况下,上述发送模块23用于提取缓存的报文的内容,并将该内容发送至服务器。
可选地,特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
可选地,在确定模块根据第一匹配关系和第二匹配关系中之一无法确定报文的特征所对应的服务器的情况下,则确定模块根据第一匹配关系和第二匹配关系中的另一个确定报文的特征所对应的服务器。
并且,在确定模块根据第一匹配关系和第二匹配关系均无法确定报文的特征所对应的服务器的情况下,则发送模块将报文发送到预先指定的默认服务器。
在另一实施例中,也可以采用上述第一匹配关系和第二匹配关系中的一个来确定目标服务器。在另一实施例中,可以采用其他的匹配关系、或这些匹配关系与上述第一和第二匹配关系的组合来确定目标服务器。
根据本发明的负载均衡的实现装置,可以按照图3所示的功能模块来实现。
如图3所示,在实际应用中,根据本发明实施例的负载均衡的实现装置的具体功能组成可以包括:报文特征提取、报文特征规则配置模块、报文缓存模块。另外,为了便于进行报文特征的匹配,该装置中还可以进一步配置有TCAM规则表、DRAM规则表,其中,TCAM规则表用于实现专用芯片规则匹配,DRAM规则表用于实现CPU规则匹配和负载均衡策略计算。
其中,图2中所示的提取模块用于实现图3中的报文特征提取,图2中所示的确定模块的功能可以对应于报文特征规则配置模块的功能,用于根据图3中的规则表实现专用芯片规则匹配和CPU规则匹配(以及相关的负载均衡策略计算)。上述的缓存模块和发送模块能够实现图3中所示的报文缓存模块的功能,缓存报文的内容,并将报文的内容发送至确定(与报文特征匹配)的服务器。
在图3所示的装置处理输入的报文时,不是根据服务器资源和负载状态选择目标服务器,而是首先提取出报文中的特征,然后在用户配置的报文特征的规则表中查询,根据报文特征和规则的匹配情况,最后选择目标服务器。
为了保证报文特征规则能充分描述报文特征,该设备支持根据报文中的五元组信息、会话状态信息、应用内容信息等特征确定目标服务器,为了保证报文特征规则的容量和查询效率,该设备采用专用芯片和CPU作为控制芯片,采用三态内容访问存储器(TCAM)和动态随机访问存储器(DRAM)作为存储芯片。
基于报文特征的负载均衡设备的处理过程如下:
一、在负载均衡设备启动和运行过程中,用户都可以通过报文特征规则配置模块在设备中配置规则,指定何种特征的报文由哪些服务器处理,即确定了报文的特征与服务器的对应关系。这里的报文特征可以包括报文的五元组信息、会话状态信息、应用内容信息等、或其组合,报文特征规则配置模块能够将格式复杂的规则保存到TCAM规则表中,将不带有掩码的五元组规则保存到DRAM规则表中。
二、负载均衡设备对输入报文的每个报文,首先由提取模块提取出用户可能关心的特征,由报文缓存模块储存报文内容。
三、报文特征首先传递到专用芯片,由专用芯片从TCAM规则表中查询报文特征和规则表中规则是否匹配的情况。
四、专用芯片将报文特征和TCAM规则表的匹配结果传递到CPU中,由CPU从DRAM规则表中查询报文特征和规则表中规则的匹配情况,然后CPU综合报文在所有规则表中的匹配结果,确定该报文的负载均衡策略。如果报文特征匹配了某条规则,则把报文分配给规则中指定的目标服务器,如果没有匹配任何规则,则按默认的负载均衡策略选择目标服务器。
五、CPU确定目标服务器后,控制报文缓存模块向目标服务器输出报文。
类似地,在其他实现方式中,如果流量特征规则复杂度不高,用于流量特征规则匹配的上述装置可以不包括专用芯片和CPU,可以简化为只有专用芯片或CPU,存储规则的器件不一定包括TCAM和DRAM,可以简化为只有TCAM或DRAM,或者使用静态随机访问存储器SRAM。
综上所述,借助于本发明的上述技术方案,通过根据报文的特征报文发送给与其特征所对应的服务器,能够保证具有类似或相同特征(例如,属于同一业务、来自同一用户等)的报文尽可能由同一服务器进行处理,从而提高报文的处理效率,合理安排服务器资源,对业务过程进行优化。通过上述实施例中合理配置匹配规则,能够进一步提高处理的效率。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种负载均衡的实现方法,其特征在于,所述方法包括:
提取报文的特征;
根据特征匹配关系,确定所述报文的特征所对应的服务器,其中,所述特征匹配关系包括报文的特征与服务器之间的对应关系;
将所述报文发送到确定的所述服务器。
2.根据权利要求1所述的实现方法,其特征在于,提取所述报文的特征进一步包括:
缓存所述报文的内容;
并且,将所述报文发送到确定的所述服务器包括:
提取缓存的所述报文的内容,并将该内容发送至所述服务器。
3.根据权利要求1所述的实现方法,其特征在于,所述特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
4.根据权利要求3所述的实现方法,其特征在于,根据特征匹配关系,确定所述报文的特征所对应的服务器包括:
在根据所述第一匹配关系和所述第二匹配关系中之一无法确定所述报文的特征所对应的服务器的情况下,则根据所述第一匹配关系和所述第二匹配关系中的另一个确定所述报文的特征所对应的服务器。
5.根据权利要求4所述的实现方法,其特征在于,进一步包括:
在根据所述第一匹配关系和所述第二匹配关系均无法确定所述报文的特征所对应的服务器的情况下,则将所述报文发送到预先指定的默认服务器。
6.一种负载均衡的实现装置,其特征在于,所述装置包括:
提取模块,用于提取报文的特征;
确定模块,用于根据特征匹配关系,确定所述报文的特征所对应的服务器,其中,所述特征匹配关系包括报文的特征与服务器之间的对应关系;
发送模块,用于将所述报文发送到确定的所述服务器。
7.根据权利要求6所述的实现装置,其特征在于,所述实现装置进一步包括:
缓存模块,用于缓存所述报文的内容,并且,所述发送模块用于将缓存的该内容发送至所述服务器。
8.根据权利要求6所述的实现装置,其特征在于,所述特征匹配关系包括以下至少之一:
第一匹配关系,为报文协议特征与服务器的对应关系;
第二匹配关系,为报文应用负载特征与服务器的对应关系。
9.根据权利要求8所述的实现装置,其特征在于,在所述确定模块根据所述第一匹配关系和所述第二匹配关系中之一无法确定所述报文的特征所对应的服务器的情况下,则所述确定模块根据所述第一匹配关系和所述第二匹配关系中的另一个确定所述报文的特征所对应的服务器。
10.根据权利要求9所述的实现装置,其特征在于,在所述确定模块根据所述第一匹配关系和所述第二匹配关系均无法确定所述报文的特征所对应的服务器的情况下,则所述发送模块将所述报文发送到预先指定的默认服务器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210476709XA CN102932269A (zh) | 2012-11-21 | 2012-11-21 | 负载均衡的实现方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210476709XA CN102932269A (zh) | 2012-11-21 | 2012-11-21 | 负载均衡的实现方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN102932269A true CN102932269A (zh) | 2013-02-13 |
Family
ID=47646976
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210476709XA Pending CN102932269A (zh) | 2012-11-21 | 2012-11-21 | 负载均衡的实现方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102932269A (zh) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905324A (zh) * | 2014-03-21 | 2014-07-02 | 汉柏科技有限公司 | 一种基于报文五元组的调度分流方法和系统 |
CN104052679A (zh) * | 2014-06-03 | 2014-09-17 | 腾讯科技(深圳)有限公司 | 网络流量的负载均衡方法和装置 |
CN104158755A (zh) * | 2014-07-30 | 2014-11-19 | 华为技术有限公司 | 传输报文的方法、装置和系统 |
CN107864101A (zh) * | 2017-12-26 | 2018-03-30 | 杭州迪普科技股份有限公司 | 负载均衡方法和装置 |
CN107967650A (zh) * | 2017-11-08 | 2018-04-27 | 中国银行股份有限公司 | 一种核心银行系统的批量账务数据处理方法及装置 |
CN108712508A (zh) * | 2018-06-06 | 2018-10-26 | 亚信科技(中国)有限公司 | 一种负载均衡方法及装置 |
CN109600624A (zh) * | 2018-12-18 | 2019-04-09 | 浩云科技股份有限公司 | 一种基于流媒体的分布式负载均衡方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5918021A (en) * | 1996-06-03 | 1999-06-29 | Intel Corporation | System and method for dynamic distribution of data packets through multiple channels |
CN1925452A (zh) * | 2006-10-11 | 2007-03-07 | 杭州华为三康技术有限公司 | 数据转发系统、方法以及网络转发设备 |
CN101207568A (zh) * | 2007-03-16 | 2008-06-25 | 中国科学技术大学 | 多协议适配器及其对多种业务实现适配处理的方法 |
CN101656677A (zh) * | 2009-09-18 | 2010-02-24 | 杭州迪普科技有限公司 | 一种报文分流处理方法及装置 |
CN102209019A (zh) * | 2010-03-30 | 2011-10-05 | 杭州华三通信技术有限公司 | 一种基于报文净荷的负载均衡方法和负载均衡设备 |
-
2012
- 2012-11-21 CN CN201210476709XA patent/CN102932269A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5918021A (en) * | 1996-06-03 | 1999-06-29 | Intel Corporation | System and method for dynamic distribution of data packets through multiple channels |
CN1925452A (zh) * | 2006-10-11 | 2007-03-07 | 杭州华为三康技术有限公司 | 数据转发系统、方法以及网络转发设备 |
CN101207568A (zh) * | 2007-03-16 | 2008-06-25 | 中国科学技术大学 | 多协议适配器及其对多种业务实现适配处理的方法 |
CN101656677A (zh) * | 2009-09-18 | 2010-02-24 | 杭州迪普科技有限公司 | 一种报文分流处理方法及装置 |
CN102209019A (zh) * | 2010-03-30 | 2011-10-05 | 杭州华三通信技术有限公司 | 一种基于报文净荷的负载均衡方法和负载均衡设备 |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103905324A (zh) * | 2014-03-21 | 2014-07-02 | 汉柏科技有限公司 | 一种基于报文五元组的调度分流方法和系统 |
CN104052679A (zh) * | 2014-06-03 | 2014-09-17 | 腾讯科技(深圳)有限公司 | 网络流量的负载均衡方法和装置 |
CN104052679B (zh) * | 2014-06-03 | 2016-05-11 | 腾讯科技(深圳)有限公司 | 网络流量的负载均衡方法和装置 |
CN104158755A (zh) * | 2014-07-30 | 2014-11-19 | 华为技术有限公司 | 传输报文的方法、装置和系统 |
CN104158755B (zh) * | 2014-07-30 | 2017-12-05 | 华为技术有限公司 | 传输报文的方法、装置和系统 |
US10333835B2 (en) | 2014-07-30 | 2019-06-25 | Huawei Technologies Co., Ltd. | Packet transmission method, apparatus, and system |
CN107967650A (zh) * | 2017-11-08 | 2018-04-27 | 中国银行股份有限公司 | 一种核心银行系统的批量账务数据处理方法及装置 |
CN107864101A (zh) * | 2017-12-26 | 2018-03-30 | 杭州迪普科技股份有限公司 | 负载均衡方法和装置 |
CN108712508A (zh) * | 2018-06-06 | 2018-10-26 | 亚信科技(中国)有限公司 | 一种负载均衡方法及装置 |
CN109600624A (zh) * | 2018-12-18 | 2019-04-09 | 浩云科技股份有限公司 | 一种基于流媒体的分布式负载均衡方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102932269A (zh) | 负载均衡的实现方法和装置 | |
Hoang et al. | Optimal admission control policy for mobile cloud computing hotspot with cloudlet | |
CN113037869B (zh) | 用于内容分发网络系统的回源的方法和装置 | |
US8706864B1 (en) | Behavior monitoring and compliance for multi-tenant resources | |
CN109218355A (zh) | 负载均衡引擎,客户端,分布式计算系统以及负载均衡方法 | |
CN110166570B (zh) | 业务会话管理方法、装置、电子设备 | |
CN112261094B (zh) | 一种报文处理方法及代理服务器 | |
US20080080371A1 (en) | Macro-spatial network multiplexing | |
US8903972B2 (en) | Method and apparatus for sharing contents using information of group change in content oriented network environment | |
CN114285781B (zh) | Srv6业务流量统计方法、装置、电子设备及介质 | |
US10178033B2 (en) | System and method for efficient traffic shaping and quota enforcement in a cluster environment | |
CN103248670A (zh) | 计算机网络环境下的连接管理 | |
WO2023221452A1 (zh) | 报文处理系统、方法、设备和存储介质 | |
CN107645540A (zh) | web应用系统的负载均衡方法 | |
CN114268667B (zh) | 数据转发方法、装置、计算机设备及存储介质 | |
US10225358B2 (en) | Page push method, device, server and system | |
CN103368872A (zh) | 数据包转发系统和方法 | |
CN112968965B (zh) | Nfv网络节点的元数据服务方法、服务器及存储介质 | |
US20090132582A1 (en) | Processor-server hybrid system for processing data | |
WO2013189421A2 (zh) | 分布式的话单统计方法、装置以及系统 | |
US11777870B1 (en) | Machine-learning (ML)-based systems and methods for maximizing resource utilization | |
CN112491935A (zh) | 一种用于区块链的水波式广播方法及系统 | |
CN116055403A (zh) | 报文数据的传输方法、装置和服务器 | |
Garg et al. | A review on Internet of Things: communication protocols, wireless technologies, and applications | |
KR101219816B1 (ko) | 서비스 중단없이 안정적으로 회원 서비스 시스템의 데이터 이전이 가능한 클라우드 서버 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C12 | Rejection of a patent application after its publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20130213 |