CN103067439B - 负载均衡方法和系统 - Google Patents
负载均衡方法和系统 Download PDFInfo
- Publication number
- CN103067439B CN103067439B CN201210395471.8A CN201210395471A CN103067439B CN 103067439 B CN103067439 B CN 103067439B CN 201210395471 A CN201210395471 A CN 201210395471A CN 103067439 B CN103067439 B CN 103067439B
- Authority
- CN
- China
- Prior art keywords
- request message
- server
- transmission protocol
- network transmission
- protocol request
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 91
- 230000005540 biological transmission Effects 0.000 claims abstract description 161
- 235000014510 cooky Nutrition 0.000 claims description 8
- 238000004422 calculation algorithm Methods 0.000 description 12
- 238000012545 processing Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 5
- 230000000977 initiatory effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 4
- 230000011218 segmentation Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002688 persistence Effects 0.000 description 3
- 230000006399 behavior Effects 0.000 description 2
- 238000013506 data mapping Methods 0.000 description 2
- 238000004148 unit process Methods 0.000 description 2
- 241000949477 Toona ciliata Species 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000001846 repelling effect Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Abstract
本发明公开了一种负载均衡方法和系统,所述负载均衡系统包括:第二接收模块,用于接收多个客户端设备发送的网络传输协议请求消息;第二解析模块,用于对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;第二查找模块,用于在每个所述网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;第二分发模块,用于将具有相同内容的所述设备标识字段的各请求消息,优先分发给同一服务器进行处理。采用本发明的技术方案能够较大地提升系统后端多台服务器的运行效率。
Description
技术领域
本发明涉及互联网技术领域,具体涉及一种负载均衡方法和系统。
背景技术
LVS(LinuxVirtualServer,Linux虚拟主机)服务器作为网络接入设备,负责流量的负载均衡,在接收到用户的请求后,会按照一定的负载均衡策略把用户请求分发给后端的RS(RealServer,真实服务器)。
轮询方式的负载均衡策略是目前使用最为广泛的均衡策略,它又分为两种:RR(Round-Robin,轮询)和WRR(WeightedRound-Robin,基于权值的轮询)。
图1为相关技术中RR负载均衡策略原理示意图;如图1所示,RR的工作原理如下:
多个用户向LVS发起连接,LVS会把用户的连接逐一分发给后端的RS:
连接1分发给RS1,连接2分发给RS2,连接3分发给RS3。
图2为相关技术中WRR负载均衡策略原理示意图;如图2所示,WRR的工作原理如下:
多个用户向LVS发起连接,LVS上配置了3个RS,这3个RS的权值如下:
RS1:权值为3;
RS2:权值为2;
RS3:权值为1;
LVS会把用户的连接按照权值分发给后端的RS:
3个连接(连接1、2、4)分发给RS1,2个连接(连接3、5)分发给RS2,1个连接(连接6)分发给RS3。
上述轮询负载均衡策略和基于权值的轮询负载均衡策略对访问请求的处理方式,均是基于系统后端真实服务器当前连接用户数而对用户访问请求的分发,采用的分发依据较为单一,相比随机分发,对系统后端多台RS运行效率的提升并不明显。
发明内容
鉴于上述问题,提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的负载均衡方法和相应的负载均衡系统。
依据本发明的一个方面,提供了一种负载均衡方法,包括:接收多个客户端设备发送的网络传输协议请求消息;对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;在每个所述网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;将具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理。
可选的,所述将具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理包括:获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;将每个所述设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;将所述取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。
可选的,所述将具有相同的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理包括:为具有相同的所述设备标识字段的各网络传输协议请求消息,优先选择同一服务器;判断所选择服务的服务器是否可用;若判断结果为所选择的服务器可用,则将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给所选择的同一服务器;若判断结果为所选择的服务器不可用,则重新确定后端服务可用的服务器的数目;将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理。
可选的,所述将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理包括:获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;将每个所述设备标识字段的内容的第二哈希值对所述服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一所述服务可用的服务器;将所述取模得到相同余数的各网络传输协议请求消息分发给所选择的同一所述服务可用的服务器进行处理。
可选的,上述方法还包括:如果所述网络传输协议请求消息的数据内容中未查找到所述设备标识字段,则在所述网络传输协议请求消息的数据内容中查找包含所述请求消息指向的网络访问对象内容的访问对象字段;将具有相同内容的所述访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。
可选的,所述设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。
根据本发明的另一个方面,还提供了一种负载均衡系统,包括:第二接收模块,用于接收多个客户端设备发送的网络传输协议请求消息;第二解析模块,用于对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;第二查找模块,用于在每个所述网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;第二分发模块,用于将具有相同内容的所述设备标识字段的各请求消息,优先分发给同一服务器进行处理。
可选的,所述第二分发模块包括:第二哈希值获得单元,用于获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;第三选择单元,用于将每个所述设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;第四分发单元,将所述取模得到相同余数的各网络传输协议请求消息优先分发给所述第三选择单元选择的同一服务器进行处理。
可选的,所述第二分发模块包括:第四选择单元,用于为具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先选择同一服务器;第二判断单元,用于判断所述第四选择单元选择的服务器是否可用;第五分发单元,用于当所述第二判断单元的判断结果为所选择的服务器可用时,将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给所述第四选择单元选择的同一服务器;第二服务可用确定单元,用于当所述第二判断单元的判断结果为所选择的服务器不可用时,重新确定后端服务可用的服务器的数目;第六分发单元,用于将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理。
可选的,所述第六分发单元包括:第二计算子单元,用于获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;第二选择子单元,用于将每个所述设备标识字段的内容的第二哈希值对所述服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一所述服务可用的服务器;第二分发子单元,用于将所述取模得到相同余数的各网络传输协议请求消息分发给所述第二选择子单元选择的同一所述服务可用的服务器进行处理。
可选的,上述装置还包括:第三查找模块,用于当所述第二查找模块在所述网络传输协议请求消息的数据内容中未查找到所述设备标识字段时,在所述网络传输协议请求消息的数据内容中查找包含所述请求消息指向的网络访问对象内容的访问对象字段;第三分发模块,用于将具有相同内容的所述访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。
可选的,所述设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。
本发明的技术方案根据客户端设备发送的请求消息内容选择服务的服务器,将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备,即访问同一网络资源对象的多个客户端设备,发送到同一台服务器上进行处理,降低了相同缓存内容所占的空间,使得系统后端多台服务器有更多的空间缓存更多的内容,从而提高了系统后端多台服务器的利用率和命中率,较大地提升了系统后端多台服务器的运行效率。
本发明的技术方案根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器,将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求,即同一台客户端设备的多个访问请求,发送到同一台服务器上进行处理,这样,同一台客户端设备的多个访问请求只需要在一台服务器上建立Session(会话)对象,(与同一台客户端设备的多个访问请求分别由多台服务器处理,需要在多台服务器分别建立Session对象相比),降低了Session对象保持持久性所需要的服务器内存量,从而较大地提升了系统后端多台服务器的运行效率。
上述说明仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1为相关技术中RR负载均衡策略原理示意图;
图2为相关技术中WRR负载均衡策略原理示意图;
图3示出了根据本发明一个实施例的负载均衡方法流程图;
图4示出了根据本发明一个实施例的对请求消息进行读取并解析的示意图;
图5示出了根据本发明一个实施例的负载均衡方法流程图;
图6示出了根据本发明一个实施例的负载均衡系统示意图;以及
图7示出了根据本发明一个实施例的负载均衡系统示意图。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
请参阅图3,其为本发明一种负载均衡方法第一实施例流程图。在本实施例中,包括如下步骤:
步骤310:接收多个客户端设备发送的请求消息。
客户端设备发送的请求消息可以是任意网络通信协议的请求消息,例如网络传输协议(包括HTTP(HyperTextTransferProtocol,超文本传输协议),HTTPS(HyperTextTransferProtocoloverSecureSocketLayer,安全超级文本传输协议),FTP(FileTransferProtocol,文件传输协议)等)请求消息。在具体实现本步骤时,有多种实现方式,例如,可以通过虚拟主机如LVS接收多个客户端设备发送的请求消息,也可以通过真实的网络接入设备作为请求调度器接收多个客户端设备发送的请求消息。本发明实施例对如何接收多个客户端设备发送的请求消息没有限制,只要能够实现对客户端设备发送的请求消息的接收,即可应用本发明实施例的技术方案。
步骤S320:对多个客户端设备发送的请求消息分别进行解析,得到每个请求消息中的数据内容。
客户端设备发送的请求消息一般以ASCII码数据形式发送,通过对其进行解析,将ASCII码数据形式的数据映射为技术人员惯用的数据形式。参阅图4,其为本发明一实施例的对请求消息进行读取并解析的示意图。在图4的示意图中,通过keepalived程序读取客户端设备发送的请求消息,并解析出包含字段信息的数据内容;采用LVS作为访问请求调度器,keepalived程序通过setsockopt接口向LVS传递解析出的数据内容,LVS把该数据内容保存在特定的数据结构中,方便后续的查找。其中,keepalived程序运行在UserSpace(用户空间),LVS运行在KernelSpace(内核空间),通过setsockopt接口实现数据交换,以避免内核空间的程序出错,导致系统死机。
步骤S330:在每个请求消息的数据内容中,查找包含请求消息指向的网络访问对象内容的访问对象字段。
客户端设备发送的请求消息一般包含明确指向网络访问对象的内容的访问对象字段,如统一资源定位符URL字段,或主机和端口号Host字段。URL也被称为网页地址,如同在网络上的门牌,是互联网上标准的资源地址。Host字段用于指定客户端设备所访问的资源所在的主机名和端口号。
步骤S340:将具有相同内容的访问对象字段的各请求消息,优先分发给同一服务器进行处理。
在具体实施本步骤时,只要多个请求消息的访问对象字段的内容相同,即将该多个请求消息分发给同一服务器进行处理,亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。而具体到如何根据请求消息访问对象字段的内容选择所分发的服务器则有多种实现方式,下面仅给出两种具体实现方式的示例。
(一)根据请求消息访问对象字段的内容选择所分发的服务器的第一具体实现方式:
A1:获得每个请求消息中访问对象字段的内容的第一哈希值;B1:将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模,为取模得到相同余数的各请求消息优先选择同一服务器;C1:将取模得到相同余数的各请求消息分发给所选择的同一服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。
(二)根据请求消息访问对象字段的内容选择所分发的服务器的第二具体实现方式:
A2:为具有相同内容的访问对象字段的各请求消息,优先选择同一服务器;B2:判断所选择的服务器是否可用;C2:若判断结果为所选择的服务器可用,则将具有相同内容的访问对象字段的各请求消息分发给所选择的同一服务器进行处理;D2:若判断结果为所选择的服务器不可用,则重新确定后端服务可用的服务器的数目;E2:将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理。一般情况下,系统后端的服务器均能正常提供服务,然而个别情况下服务器也会发生故障,这就需要及时确定所选择的服务器是否可用,才能提供可靠的服务。具体而言,确定后端服务器是否可用的方法有多种,例如可以利用正常的数据流来确定服务器是否可用,比如TCP(TransmissionControlProtocol,传输控制协议)连接服务器超时等;也可检测是否可以ping(PacketInternetGroper,因特网包探索器)通,是否可以获取指定内容,或是否支持特定的脚本或行为来判定服务器是否服务可用。
可选的,在上述第二种具体实现方式中,A2中所述的为具有相同内容的访问对象字段的各请求消息,优先选择同一服务器的具体实现手段与前述第(一)种具体实现方式中的A1-C1的手段相同,故不再赘述。E2中所述的将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现:
E21:获得每个请求消息中访问对象字段的内容的第一哈希值;E22:将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各请求消息选择同一服务可用的服务器;E23:将取模得到相同余数的各请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。
需要指出的是,本发明上述实施例对访问请求进行分发的实质是,只要多个客户端设备的请求消息的网络访问对象内容相同,就将该多个客户端设备的请求消息发送到同一服务器上进行处理,而实现这种分发的规则可以有多种,获取网络访问对象内容的哈希值只是实现这种分发的一种特定规则,本领域技术人员可以理解,任何可以将具有相同网络访问对象内容的多个客户端设备的请求消息发送到同一服务器上进行处理的分发规则,均落入本发明的保护范围之内。例如,也可以直接将具有相同网络访问对象内容的多个请求消息随机分发给同一台服务器进行处理,同样可以达到相同的效果。
通过实施上述步骤即可实现根据客户端设备发送的请求消息内容选择服务的服务器,将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备,在CDN(ContentDeliveryNetwork,内容分发网络)等Cache(缓存)类Web(网络)服务中,多个用户访问相同的Web内容(网页、图片、JS脚本等)时,访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理,这样,降低了相同缓存内容所占的空间,使得系统后端多台服务器有更多的空间缓存更多的内容,从而提高了系统后端多台服务器的利用率和命中率,较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时,会把请求逐一分发给后端的服务器处理,基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理,因此,轮询负载均衡策略和基于权值的轮询负载均衡策略均会造成把访问对象内容相同的多个请求分发给多台服务器处理,从而导致后端多台服务器有相同的Cache内容,占用了大量的Cache空间,降低了后端多台服务器的运行效率。
请参阅图5,其为本发明负载均衡方法第二实施例流程图。在本实施例中,包括如下步骤:
步骤510:接收多个客户端设备发送的网络传输协议请求消息。
客户端设备发送的网络传输协议请求消息可以是任意网络传输协议请求消息,如HTTP请求消息,HTTPS请求消息,FTP请求消息等。在具体实现本步骤时,有多种实现方式。例如,可以通过虚拟主机如LVS接收多个客户端设备发送的网络传输协议请求消息,也可以通过真实的网络接入设备作为请求调度器接收多个客户端设备发送的网络传输协议请求消息。本发明实施例对如何接收多个客户端设备发送的网络传输协议请求消息没有限制,只要能够实现对客户端设备发送的网络传输协议请求消息的接收,即可应用本发明实施例的技术方案。
步骤520:对多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容。
客户端设备发送的网络传输协议请求消息一般以ASCII码数据形式发送,通过对其进行解析,将ASCII码数据形式的数据映射为技术人员惯用的数据形式。例如,在对网络传输协议请求消息进行解析时,也可以通过keepalived程序读取客户端设备发送的请求消息,并解析出包含字段信息的数据内容;采用LVS作为访问请求调度器,keepalived程序通过setsockopt接口向LVS传递解析出的数据内容,LVS把该数据内容保存在特定的数据结构中,方便后续的查找。其中,keepalived程序运行在UserSpace(用户空间),LVS运行在KernelSpace(内核空间),通过setsockopt接口实现数据交换,以避免内核空间的程序出错,导致系统死机。
步骤530:在每个网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;
客户端设备发送的网络传输协议请求消息一般包含标识客户端设备身份的内容的设备标识字段,如小型文字档案Cookie字段或标识设备身份的随机数字段。Cookie是某些网站为了辨别客户端身份、进行Session跟踪而储存在客户端设备上的数据。标识设备身份的随机数字段客户端设备在发起请求时,在HTTP头部中添加X-Seq头部字段进行配置,X-Seq头部字段的内容为一个随机数(在客户端设备首次发起请求时配置一个随机数,该客户端设置之后再发起请求时X-Seq头部字段中的数字与第一次发起请求时X-Seq头部字段中的数字相同),例如,某客户端设备在第一次发起请求时X-Seq头部字段的内容配置为该客户端设备发起请求的时间(精确到秒(s)级别),如:X-Seq:1348451800。其中1348451800为客户端设备发起请求时自世界协调时间UTC(UniversalTime,Coordinated)1970-01-0100:00:00以来所经过的秒数,当该客户端设备之后再次发起请求时X-Seq头部字段的内容均配置为:X-Seq:1348451800。
步骤540:将具有相同内容的设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理。
在具体实施本步骤时,只要多个网络传输协议请求消息的设备标识字段的内容相同,即将该多个网络传输协议请求消息分发给同一服务器进行处理,亦即将同一客户端设备的多个访问请求发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器则有多种实现方式,下面仅给出两种具体实现方式的示例。
(一)根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器的第一具体实现方式:
a1:获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值;b1:将每个设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;c1:将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。
(二)根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器的第二具体实现方式:
a2:为具有相同的设备标识字段的各网络传输协议请求消息,优先选择同一服务器;b2:判断所选择服务的服务器是否可用;c2:若判断结果为所选择的服务器可用,则将具有相同内容的设备标识字段的各网络传输协议请求消息分发给所选择的同一服务器;d2:若判断结果为所选择的服务器不可用,则重新确定后端服务可用的服务器的数目;e2:将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。一般情况下,系统后端的服务器均能正常提供服务,然而个别情况下服务器也会发生故障,这就需要及时确定所选择的服务器是否可用,才能提供可靠的服务。具体而言,确定后端服务器是否可用的方法有多种,例如可以利用正常的数据流来确定服务器是否可用,比如TCP(TransmissionControlProtocol,传输控制协议)连接服务器超时等;也可检测是否可以ping(PacketInternetGroper,因特网包探索器)通,是否可以获取指定内容,或是否支持特定的脚本或行为来判定服务器是否服务可用。
可选的,在上述第二种具体实现方式中,将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现:
e21:获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值;e22:将每个设备标识字段的内容的第二哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器;e23:将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。
需要指出的是,本发明上述实施例对访问请求进行分发的实质是,只要多个网络传输协议请求消息是来自同一客户端设备,就将该客户端设备的多个网络传输协议请求消息发送到同一服务器上进行处理,而实现这种分发的规则可以有多种,获取客户端设备身份内容的哈希值只是实现这种分发的一种特定规则,本领域技术人员可以理解,任何可以将具有相同客户端设备身份内容的多个网络传输协议请求消息发送到同一服务器上进行处理的分发规则,均落入本发明的保护范围之内。
通过实施上述步骤,即可实现根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器,将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求,即同一台客户端设备的多个访问请求,发送到同一台服务器上进行处理,这样,同一台客户端设备的多个访问请求只需要在一台服务器上建立Session对象,降低了Session对象保持持久性所需要的服务器内存量,从而较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时,会把请求逐一分发给后端的服务器处理,基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理,这样,同一客户端设备的多个访问请求会被分发给多台服务器处理,而同一客户端设备的每个访问请求都会在其访问的服务器上生成一个单独的Session对象,随着访问的客户端设备的增多,为了保持每个客户端设备在多台服务器上Session对象的持久性,将会大大增加所占用的系统后端多台服务器的内存量,从而导致系统后端多台服务器的运行效率较低。
步骤550:如果网络传输协议请求消息的数据内容中未查找到设备标识字段,则在网络传输协议请求消息的数据内容中查找包含请求消息指向的网络访问对象内容的访问对象字段。
在客户端设备发送的网络传输协议请求消息中,并不必然包含标识客户端设备身份的设备标识字段,如某些客户端设备会禁用Cookie功能,这样,在网络传输协议请求消息的数据内容中就查找不到设备标识字段。而客户端设备发送的网络传输协议请求消息都包含指向网络访问对象内容的访问对象字段,因此,可以将访问对象字段作为备用字段客户端设备发送的网络传输协议请求消息的数据内容中进行查找。
步骤560:将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。
在具体实施本步骤时,只要多个网络传输协议请求消息的访问对象字段的内容相同,即将该多个网络传输协议请求消息分发给同一服务器进行处理,亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息访问对象字段的内容选择所分发的服务器则有多种实现方式,下面仅给出两种具体实现方式的示例。
(一)根据网络传输协议请求消息访问对象字段的内容选择所分发的服务器的第一具体实现方式:
A1:获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值;B1:将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;C1:将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。
(二)根据网络传输协议网络传输协议请求消息访问对象字段的内容选择所分发的服务器的第二具体实现方式:
A2:为具有相同内容的访问对象字段的各网络传输协议请求消息,优先选择同一服务器;B2:判断所选择的服务器是否可用;C2:若判断结果为所选择的服务器可用,则将具有相同内容的访问对象字段的各网络传输协议请求消息分发给所选择的同一服务器进行处理;D2:若判断结果为所选择的服务器不可用,则重新确定后端服务可用的服务器的数目;E2:将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。一般情况下,系统后端的服务器均能正常提供服务,然而个别情况下服务器也会发生故障,这就需要及时确定所选择的服务器是否可用,才能提供可靠的服务。具体而言,确定后端服务器是否可用的方法有多种,例如可以利用正常的数据流来确定服务器是否可用,比如TCP(TransmissionControlProtocol,传输控制协议)连接服务器超时等;也可检测是否可以ping(PacketInternetGroper,因特网包探索器)通,是否可以获取指定内容,或是否支持特定的脚本或行为来判定服务器是否服务可用。
可选的,在上述第二种具体实现方式中,将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现:
E21:获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值;E22:将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器;E23:将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言,哈希值可以通过多种算法(如CRC32算法)获得;而在选择服务器时,也可以用后端服务器的数目对得到的第一哈希值的取值范围分段,例如,后端服务器的数目为10,将第一哈希值的取值范围分为1-10段,即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。
需要指出的是,本发明上述实施例对访问请求进行分发的实质是,只要多个客户端设备的请求消息的网络访问对象内容相同,就将该多个客户端设备的请求消息发送到同一服务器上进行处理,而实现这种分发的规则可以有多种,获取网络访问对象内容的哈希值只是实现这种分发的一种特定规则,本领域技术人员可以理解,任何可以将具有相同网络访问对象内容的多个客户端设备的请求消息发送到同一服务器上进行处理的分发规则,均落入本发明的保护范围之内。
如果网络传输协议请求消息的数据内容中未查找到设备标识字段,通过实施上述步骤也可实现根据客户端设备发送的请求消息内容选择服务的服务器,将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备,即访问同一网络资源对象的多个客户端设备,发送到同一台服务器上进行处理,降低了相同缓存内容所占的空间,使得系统后端多台服务器有更多的空间缓存更多的内容,从而提高了系统后端多台服务器的利用率和命中率,较大地提升了系统后端多台服务器的运行效率。
此外,需要指出的是,本发明实施例中的服务器可以是真实服务器(RS),也可以是虚拟服务器。多个虚拟服务器可以通过软件架设在同一个物理服务器上,而每个虚拟服务器又可以提供真实服务器的所有功能,这样相对来说可以降低每个虚拟服务器的成本。
与前述本发明实施例提供的负载均衡方法相对应,本发明实施例还提供了一种负载均衡系统,如图6所示,该系统包括:
第一接收模块610,用于接收多个客户端设备发送的请求消息;
第一解析模块620,用于对多个客户端设备发送的请求消息分别进行解析,得到每个请求消息中的数据内容;
第一查找模块630,用于在每个请求消息的数据内容中,查找包含请求消息指向的网络访问对象内容的访问对象字段;
第一分发模块640,用于将具有相同内容的访问对象字段的各请求消息,优先分发给同一服务器进行处理。
在具体实施时,只要多个请求消息的访问对象字段的内容相同,即将该多个请求消息分发给同一服务器进行处理,亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。
其中,在一种具体的实施方式下,第一分发模块640具体可以包括:第一哈希值获得单元,用于计算每个请求消息中访问对象字段的内容的第一哈希值;第一选择单元,用于将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模,为取模得到相同余数的各请求消息优先选择同一服务器;第一分发单元,用于将取模得到相同余数的各请求消息分发给第一选择单元选择的同一服务器进行处理。
其中,在另一种具体的实施方式下,第一分发模块640具体可以包括:第二选择单元,用于为具有相同内容的访问对象字段的各请求消息,优先选择同一服务器;第一判断单元,用于判断第二选择单元选择的服务器是否可用;第二分发单元,用于当第一判断单元的判断结果为所选择的服务器可用时,将具有相同内容的访问对象字段的各请求消息分发给第二选择单元选择的同一服务器进行处理;第一服务可用确定单元,用于当第一判断单元的判断结果为所选择的服务器不可用时,重新确定后端服务可用的服务器的数目;第三分发单元,用于将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理。
其中,第三分发单元具体可以包括:第一计算子单元,用于计算每个请求消息中访问对象字段的内容的第一哈希值;第一选择子单元,用于将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各请求消息选择同一服务可用的服务器;第一分发子单元,用于将取模得到相同余数的各请求消息分发给第一选择子单元选择的同一服务可用的服务器进行处理。
可选的,访问对象字段可以为统一资源定位符URL字段,或主机和端口号Host字段。
通过实施上述实施例即可实现根据客户端设备发送的请求消息内容选择服务的服务器,将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备,在CDN(ContentDeliveryNetwork,内容分发网络)等Cache(缓存)类Web(网络)服务中,多个用户访问相同的Web内容(网页、图片、JS脚本等)时,访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理,这样,降低了相同缓存内容所占的空间,使得系统后端多台服务器有更多的空间缓存更多的内容,从而提高了系统后端多台服务器的利用率和命中率,较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时,会把请求逐一分发给后端的服务器处理,基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理,因此,轮询负载均衡策略和基于权值的轮询负载均衡策略均会造成把访问对象内容相同的多个请求分发给多台服务器处理,从而导致后端多台服务器有相同的Cache内容,占用了大量的Cache空间,降低了后端多台服务器的运行效率。
与前述本发明实施例提供的负载均衡方法相对应,本发明实施例还提供了一种负载均衡系统,如图7所示,该系统包括:
第二接收模块710,用于接收多个客户端设备发送的网络传输协议请求消息;
第二解析模块720,用于对多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;
第二查找模块730,用于在每个网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;
第二分发模块740,用于将具有相同内容的设备标识字段的各请求消息,优先分发给同一服务器进行处理。
在具体实施时,只要多个网络传输协议请求消息的设备标识字段的内容相同,即将该多个网络传输协议请求消息分发给同一服务器进行处理,亦即将同一客户端设备的多个访问请求发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器则有多种实现方式。
其中,在一种具体的实施方式下,第二分发模块740包括:第二哈希值获得单元,用于获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值;第三选择单元,用于将每个设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;第四分发单元,将取模得到相同余数的各网络传输协议请求消息优先分发给第三选择单元选择的同一服务器进行处理。
其中,在另一种具体的实施方式下,第二分发模块740包括:第四选择单元,用于为具有相同内容的设备标识字段的各网络传输协议请求消息,优先选择同一服务器;第二判断单元,用于判断第四选择单元选择的服务器是否可用;第五分发单元,用于当第二判断单元的判断结果为所选择的服务器可用时,将具有相同内容的设备标识字段的各网络传输协议请求消息分发给第四选择单元选择的同一服务器;第二服务可用确定单元,用于当第二判断单元的判断结果为所选择的服务器不可用时,重新确定后端服务可用的服务器的数目;第六分发单元,用于将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。
可选的,第六分发单元具体可以包括:第二计算子单元,用于获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值;第二选择子单元,用于将每个设备标识字段的内容的第二哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器;第二分发子单元,用于将取模得到相同余数的各网络传输协议请求消息分发给第二选择子单元选择的同一服务可用的服务器进行处理。
在一种可选的具体实施方式中,该装置还可以包括:第三查找模块,用于当第二查找模块在网络传输协议请求消息的数据内容中未查找到设备标识字段时,则在网络传输协议请求消息的数据内容中查找包含请求消息指向的网络访问对象内容的访问对象字段;第三分发模块,用于将具有相同内容的访问对象字段的各请求消息分发给同一服务器进行处理。
可选的,第三分发模块具体可以包括:
第三哈希值获得单元,用于获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值;
第五选择单元,将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一服务器;
第七分发单元,用于将取模得到相同余数的各网络传输协议请求消息分发给第五选择单元选择的同一服务器进行处理。
在另一种可选的具体实施方式中,第三分发模块具体可以包括:
第六选择单元,用于为具有相同内容的访问对象字段的各网络传输协议请求消息选择同一服务器;
第三判断单元,用于判断第六选择单元选择的服务器是否可用;
第八分发单元,用于当第三判断单元的判断结果为所选择的服务器可用时,将具有相同的访问对象字段的各网络传输协议请求消息分发给第六选择单元选择的同一服务器;
第三服务可用确定单元,用于当第三判断单元的判断结果为所选择的服务器不可用时,重新确定后端服务可用的服务器的数目;
第九分发单元,用于将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。
在一种可选的具体实施方式中,第九分发单元具体可以包括:
第三计算子单元,用于计算每个网络传输协议请求消息中访问对象字段的内容的第一哈希值;
第三选择子单元,用于将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器;
第三分发子单元,用于将取模得到相同余数的各网络传输协议请求消息分发给第三选择子单元选择的同一服务可用的服务器进行处理。
可选的,设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。
可选的,访问对象字段为统一资源定位符URL字段,或主机和端口号Host字段。
通过实施上述实施例,即可实现根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器,将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求,即同一台客户端设备的多个访问请求,发送到同一台服务器上进行处理,这样,同一台客户端设备的多个访问请求只需要在一台服务器上建立Session对象,降低了Session对象保持持久性所需要的服务器内存量,从而较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时,会把请求逐一分发给后端的服务器处理,基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理,这样,同一客户端设备的多个访问请求会被分发给多台服务器处理,而同一客户端设备的每个访问请求都会在其访问的服务器上生成一个单独的Session对象,随着访问的客户端设备的增多,为了保持每个客户端设备在多台服务器上Session对象的持久性,将会大大增加所占用的系统后端多台服务器的内存量,从而导致系统后端多台服务器的运行效率较低。
在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述,构造这类系统所要求的结构是显而易见的。此外,本发明也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本发明的内容,并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
本申请可以应用于计算机系统/服务器,其可与众多其它通用或专用计算系统环境或配置一起操作。适于与计算机系统/服务器一起使用的众所周知的计算系统、环境和/或配置的例子包括但不限于:个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境,等等。计算机系统/服务器可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常,程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等,它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施,分布式云计算环境中,任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中,程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。
Claims (12)
1.一种负载均衡方法,应用于虚拟主机LVS中,所述LVS运行在内核空间,包括:
接收多个客户端设备发送的网络传输协议请求消息;
对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;
在每个所述网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;
将具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理;
所述对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容,包括:
通过运行在用户空间的程序读取客户端设备发送的请求消息,并解析出包含访问对象字段的数据内容;采用LVS作为访问请求调度器,所述运行在用户空间的程序通过接口向运行在内核空间的LVS传递解析出的数据内容,LVS把该数据内容保存在特定的数据结构中。
2.如权利要求1所述的方法,所述将具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理包括:
获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;
将每个所述设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;
将所述取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。
3.如权利要求1所述的方法,所述将具有相同的所述设备标识字段的各网络传输协议请求消息,优先分发给同一服务器进行处理包括:
为具有相同的所述设备标识字段的各网络传输协议请求消息,优先选择同一服务器;
判断所选择服务的服务器是否可用;
若判断结果为所选择的服务器可用,则将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给所选择的同一服务器;
若判断结果为所选择的服务器不可用,则重新确定后端服务可用的服务器的数目;
将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理。
4.如权利要求3所述的方法,所述将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理包括:
获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;
将每个所述设备标识字段的内容的第二哈希值对所述服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一所述服务可用的服务器;
将所述取模得到相同余数的各网络传输协议请求消息分发给所选择的同一所述服务可用的服务器进行处理。
5.如权利要求1所述的方法,还包括:
如果所述网络传输协议请求消息的数据内容中未查找到所述设备标识字段,则在所述网络传输协议请求消息的数据内容中查找包含所述请求消息指向的网络访问对象内容的访问对象字段;
将具有相同内容的所述访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。
6.根据权利要求1-5中任一项所述的方法,所述设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。
7.一种负载均衡系统,所述系统被设置在虚拟主机LVS中,所述LVS运行在内核空间,所述系统包括:
第二接收模块,用于接收多个客户端设备发送的网络传输协议请求消息;
第二解析模块,用于对所述多个客户端设备发送的网络传输协议请求消息分别进行解析,得到每个网络传输协议请求消息中的数据内容;
第二查找模块,用于在每个所述网络传输协议请求消息的数据内容中,查找包含标识客户端设备身份内容的设备标识字段;
第二分发模块,用于将具有相同内容的所述设备标识字段的各请求消息,优先分发给同一服务器进行处理;
所述第二解析单元具体用于,通过运行在用户空间的程序读取客户端设备发送的请求消息,并解析出包含访问对象字段的数据内容;采用LVS作为访问请求调度器,所述运行在用户空间的程序通过接口向运行在内核空间的LVS传递解析出的数据内容,LVS把该数据内容保存在特定的数据结构中。
8.如权利要求7所述的系统,所述第二分发模块包括:
第二哈希值获得单元,用于获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;
第三选择单元,用于将每个所述设备标识字段的内容的第二哈希值对后端服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器;
第四分发单元,将所述取模得到相同余数的各网络传输协议请求消息优先分发给所述第三选择单元选择的同一服务器进行处理。
9.如权利要求7所述的系统,所述第二分发模块包括:
第四选择单元,用于为具有相同内容的所述设备标识字段的各网络传输协议请求消息,优先选择同一服务器;
第二判断单元,用于判断所述第四选择单元选择的服务器是否可用;
第五分发单元,用于当所述第二判断单元的判断结果为所选择的服务器可用时,将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给所述第四选择单元选择的同一服务器;
第二服务可用确定单元,用于当所述第二判断单元的判断结果为所选择的服务器不可用时,重新确定后端服务可用的服务器的数目;
第六分发单元,用于将具有相同内容的所述设备标识字段的各网络传输协议请求消息分发给同一所述服务可用的服务器进行处理。
10.如权利要求9所述的系统,所述第六分发单元包括:
第二计算子单元,用于获得每个网络传输协议请求消息中所述设备标识字段的内容的第二哈希值;
第二选择子单元,用于将每个所述设备标识字段的内容的第二哈希值对所述服务可用的服务器的数目取模,为取模得到相同余数的各网络传输协议请求消息选择同一所述服务可用的服务器;
第二分发子单元,用于将所述取模得到相同余数的各网络传输协议请求消息分发给所述第二选择子单元选择的同一所述服务可用的服务器进行处理。
11.如权利要求7所述的系统,还包括:
第三查找模块,用于当所述第二查找模块在所述网络传输协议请求消息的数据内容中未查找到所述设备标识字段时,在所述网络传输协议请求消息的数据内容中查找包含所述请求消息指向的网络访问对象内容的访问对象字段;
第三分发模块,用于将具有相同内容的所述访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。
12.根据权利要求7-11中任一项所述的系统,所述设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210395471.8A CN103067439B (zh) | 2012-10-17 | 2012-10-17 | 负载均衡方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210395471.8A CN103067439B (zh) | 2012-10-17 | 2012-10-17 | 负载均衡方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN103067439A CN103067439A (zh) | 2013-04-24 |
CN103067439B true CN103067439B (zh) | 2016-05-11 |
Family
ID=48109895
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210395471.8A Active CN103067439B (zh) | 2012-10-17 | 2012-10-17 | 负载均衡方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103067439B (zh) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105573996A (zh) * | 2014-10-09 | 2016-05-11 | 阿里巴巴集团控股有限公司 | 数据库处理方法、装置及系统 |
CN105577328B (zh) * | 2014-10-09 | 2019-06-11 | 电信科学技术研究院 | 一种信道状态信息反馈方法及终端 |
CN107493308B (zh) * | 2016-06-12 | 2021-02-12 | 阿里巴巴集团控股有限公司 | 一种发送消息的方法和装置及分布式设备集群系统 |
CN106254544A (zh) * | 2016-09-28 | 2016-12-21 | 乐视控股(北京)有限公司 | 数据访问方法及装置 |
CN107888643A (zh) * | 2016-09-30 | 2018-04-06 | 北京神州泰岳软件股份有限公司 | 一种udp负载均衡方法、装置和系统 |
CN107809342A (zh) * | 2017-12-13 | 2018-03-16 | 深圳市智物联网络有限公司 | 一种负载均衡方法及负载均衡装置 |
CN109359226A (zh) * | 2018-11-01 | 2019-02-19 | 广州品唯软件有限公司 | 一种数据获取方法及相关装置 |
CN111556123A (zh) * | 2020-04-23 | 2020-08-18 | 长沙科谦电子科技有限公司 | 一种基于边缘计算的自适应网络快速配置及负载均衡系统 |
CN113064715B (zh) * | 2020-12-16 | 2024-04-26 | 上海金融期货信息技术有限公司 | 用于金融领域的负载均衡与缓存中心系统及风控系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101304436A (zh) * | 2008-07-07 | 2008-11-12 | 杭州华三通信技术有限公司 | 实现应用层会话持续性的负载均衡方法、系统及设备 |
CN101453404A (zh) * | 2007-11-30 | 2009-06-10 | 华为技术有限公司 | 一种实现负载均衡的方法及装置 |
CN101848137A (zh) * | 2009-03-26 | 2010-09-29 | 北京快网科技有限公司 | 一种应用于三层网络的负载均衡方法和系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8578027B2 (en) * | 2010-03-09 | 2013-11-05 | Blackberry Limited | Communications system providing server load balancing based upon load and separation metrics and related methods |
-
2012
- 2012-10-17 CN CN201210395471.8A patent/CN103067439B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101453404A (zh) * | 2007-11-30 | 2009-06-10 | 华为技术有限公司 | 一种实现负载均衡的方法及装置 |
CN101304436A (zh) * | 2008-07-07 | 2008-11-12 | 杭州华三通信技术有限公司 | 实现应用层会话持续性的负载均衡方法、系统及设备 |
CN101848137A (zh) * | 2009-03-26 | 2010-09-29 | 北京快网科技有限公司 | 一种应用于三层网络的负载均衡方法和系统 |
Also Published As
Publication number | Publication date |
---|---|
CN103067439A (zh) | 2013-04-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN103067439B (zh) | 负载均衡方法和系统 | |
CN105554065B (zh) | 处理报文的方法、转换单元和应用单元 | |
US20170346927A1 (en) | Information processing method, client, server and computer-readable storage medium | |
CN105553993B (zh) | 一种远程服务调用方法、装置及服务器 | |
US7904345B2 (en) | Providing website hosting overage protection by transference to an overflow server | |
CN105915650B (zh) | 负载均衡方法和装置 | |
US20080243536A1 (en) | Providing website hosting overage protection by storage on an independent data server | |
CN102932434B (zh) | 一种用于对服务器进行负载均衡的方法及装置 | |
CN109639782A (zh) | 消息发送平台、方法 | |
WO2016044476A1 (en) | Instance backed mobile devices | |
CN113259479B (zh) | 一种数据处理方法以及设备 | |
CN112954089B (zh) | 一种解析数据的方法、装置、设备以及存储介质 | |
CN114024972B (zh) | 一种长连接通信方法、系统、装置、设备及存储介质 | |
JP6275860B2 (ja) | チャット情報伝送方法および装置、ならびにチャット情報プッシュ方法およびサーバ | |
TW200841675A (en) | Dispatching client requests to appropriate server-side methods | |
CN109818997A (zh) | 一种负载均衡方法、系统及存储介质 | |
Sahadevan et al. | An offline online strategy for IoT using MQTT | |
CN103580988A (zh) | 消息接收、推送、传输的方法、装置、服务器组及系统 | |
US11843642B1 (en) | Serverless signaling in peer-to-peer session initialization | |
CN101521633A (zh) | 即时通讯中的消息传送方法及装置 | |
CN105281987B (zh) | 路由器及数据上传方法、装置、系统 | |
CN109246024B (zh) | 一种组网中负载分担方法、装置、终端设备及存储介质 | |
EP3096492A1 (en) | Page push method, device, server and system | |
US10956468B2 (en) | Cognitive template question system | |
US9912757B2 (en) | Correlation identity generation method for cloud environment |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
TR01 | Transfer of patent right |
Effective date of registration: 20220801 Address after: Room 801, 8th floor, No. 104, floors 1-19, building 2, yard 6, Jiuxianqiao Road, Chaoyang District, Beijing 100015 Patentee after: BEIJING QIHOO TECHNOLOGY Co.,Ltd. Address before: 100088 room 112, block D, 28 new street, new street, Xicheng District, Beijing (Desheng Park) Patentee before: BEIJING QIHOO TECHNOLOGY Co.,Ltd. Patentee before: Qizhi software (Beijing) Co.,Ltd. |
|
TR01 | Transfer of patent right |