CN102932434B - 一种用于对服务器进行负载均衡的方法及装置 - Google Patents

Abstract

本发明公开了一种用于对服务器进行负载均衡的方法，包括：接收多个客户端设备发送的请求消息；对所述多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；在每个所述请求消息的数据内容中，查找包含所述请求消息指向的网络访问对象内容的访问对象字段；将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理。本发明还公开了一种用于对服务器进行负载均衡的装置，能够较大地提升系统后端多台服务器的运行效率。

Description

一种用于对服务器进行负载均衡的方法及装置

技术领域

本发明涉及互联网技术领域，具体涉及一种用于对服务器进行负载均衡的方法及装置。

背景技术

LVS(Linux Virtual Server，Linux虚拟主机)服务器作为网络接入设备，负责流量的负载均衡，在接收到用户的请求后，会按照一定的负载均衡策略把用户请求分发给后端的RS(Real Server，真实服务器)。

轮询方式的负载均衡策略是目前使用最为广泛的均衡策略，它又分为两种：RR(Round-Robin，轮询)和WRR(Weighted Round-Robin，基于权值的轮询)。

图1为相关技术中RR负载均衡策略原理示意图；如图1所示，RR的工作原理如下：

多个用户向LVS发起连接，LVS会把用户的连接逐一分发给后端的RS：

连接1分发给RS1，连接2分发给RS2，连接3分发给RS3。

图2为相关技术中WRR负载均衡策略原理示意图；如图2所示，WRR的工作原理如下：

多个用户向LVS发起连接，LVS上配置了3个RS，这3个RS的权值如下：

RS1：权值为3；

RS2：权值为2；

RS3：权值为1；

LVS会把用户的连接按照权值分发给后端的RS：

3个连接(连接1、2、4)分发给RS1，2个连接(连接3、5)分发给RS2，1个连接(连接6)分发给RS3。

上述轮询负载均衡策略和基于权值的轮询负载均衡策略对访问请求的处理方式，均是基于系统后端真实服务器当前连接用户数而对用户访问请求的分发，采用的分发依据较为单一，相比随机分发，对系统后端多台RS运行效率的提升并不明显。

发明内容

鉴于上述问题，提出了本发明以便提供一种克服上述问题或者至少部分地解决上述问题的用于对服务器进行负载均衡的方法和相应的用于对服务器进行负载均衡的装置。

依据本发明的一个方面，提供了一种用于对服务器进行负载均衡的方法，包括：接收多个客户端设备发送的请求消息；对所述多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；在每个所述请求消息的数据内容中，查找包含所述请求消息指向的网络访问对象内容的访问对象字段；将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理。

可选的，所述将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理包括：获得每个请求消息中所述访问对象字段的内容的第一哈希值；将每个所述访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；将所述取模得到相同余数的各请求消息分发给所选择的同一服务器进行处理。

可选的，所述将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理包括：为具有相同内容的所述访问对象字段的各请求消息，优先选择同一服务器；判断所选择的服务器是否可用；若判断结果为所选择的服务器可用，则将具有相同内容的所述访问对象字段的各请求消息分发给所选择的同一服务器进行处理；若判断结果为所选择的服务器不可用，则重新确定后端服务可用的服务器的数目；将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理。

可选的，所述将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理包括：获得每个请求消息中所述访问对象字段的内容的第一哈希值；将每个所述访问对象字段的内容的第一哈希值对所述服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一所述服务可用的服务器；将所述取模得到相同余数的各请求消息分发给所选择的同一所述服务可用的服务器进行处理。

可选的，所述访问对象字段为统一资源定位符URL字段，或主机和端口号Host字段。

根据本发明的另一个方面，还提供了一种用于对服务器进行负载均衡的装置，包括：第一接收模块，用于接收多个客户端设备发送的请求消息；第一解析模块，用于对所述多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；第一查找模块，用于在每个所述请求消息的数据内容中，查找包含所述请求消息指向的网络访问对象内容的访问对象字段；第一分发模块，用于将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理。

可选的，所述第一分发模块包括：第一哈希值获得单元，用于获得每个请求消息中所述访问对象字段的内容的第一哈希值；第一选择单元，用于将每个所述访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；第一分发单元，用于将所述取模得到相同余数的各请求消息分发给所述第一选择单元选择的同一服务器进行处理。

可选的，所述第一分发模块包括：第二选择单元，用于为具有相同内容的所述访问对象字段的各请求消息，优先选择同一服务器；第一判断单元，用于判断所述第二选择单元选择的服务器是否可用；第二分发单元，用于当所述第一判断单元的判断结果为所选择的服务器可用时，将具有相同内容的所述访问对象字段的各请求消息分发给所述第二选择单元选择的同一服务器进行处理；第一服务可用确定单元，用于当所述第一判断单元的判断结果为所选择的服务器不可用时，重新确定后端服务可用的服务器的数目；第三分发单元，用于将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理。

可选的，所述第三分发单元包括：第一计算子单元，用于计算每个请求消息中所述访问对象字段的内容的第一哈希值；第一选择子单元，用于将每个所述访问对象字段的内容的第一哈希值对所述服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一所述服务可用的服务器；第一分发子单元，用于将所述取模得到相同余数的各请求消息分发给所述第一选择子单元选择的同一所述服务可用的服务器进行处理。

可选的，所述访问对象字段为统一资源定位符URL字段，或主机和端口号Host字段。

本发明的技术方案根据客户端设备发送的请求消息内容选择服务的服务器，将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备，即访问同一网络资源对象的多个客户端设备，发送到同一台服务器上进行处理，降低了相同缓存内容所占的空间，使得系统后端多台服务器有更多的空间缓存更多的内容，从而提高了系统后端多台服务器的利用率和命中率，较大地提升了系统后端多台服务器的运行效率。

本发明的技术方案根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器，将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求，即同一台客户端设备的多个访问请求，发送到同一台服务器上进行处理，这样，同一台客户端设备的多个访问请求只需要在一台服务器上建立Session(会话)对象，(与同一台客户端设备的多个访问请求分别由多台服务器处理，需要在多台服务器分别建立Session对象相比)，降低了Session对象保持持久性所需要的服务器内存量，从而较大地提升了系统后端多台服务器的运行效率。

上述说明仅是本发明技术方案的概述，为了能够更清楚了解本发明的技术手段，而可依照说明书的内容予以实施，并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂，以下特举本发明的具体实施方式。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为相关技术中RR负载均衡策略原理示意图；

图2为相关技术中WRR负载均衡策略原理示意图；

图3示出了根据本发明一个实施例的用于对服务器进行负载均衡的方法流程图；

图4示出了根据本发明一个实施例的对请求消息进行读取并解析的示意图；

图5示出了根据本发明一个实施例的用于对服务器进行负载均衡的方法流程图；

图6示出了根据本发明一个实施例的用于对服务器进行负载均衡的装置示意图；以及

图7示出了根据本发明一个实施例的用于对服务器进行负载均衡的装置示意图。

具体实施方式

下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例，然而应当理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了能够更透彻地理解本公开，并且能够将本公开的范围完整的传达给本领域的技术人员。

请参阅图3，其为本发明一种用于对服务器进行负载均衡的方法第一实施例流程图。在本实施例中，包括如下步骤：

步骤310：接收多个客户端设备发送的请求消息。

客户端设备发送的请求消息可以是任意网络通信协议的请求消息，例如网络传输协议(包括HTTP(HyperText Transfer Protocol，超文本传输协议)，HTTPS(HyperText Transfer Protocol over Secure Socket Layer，安全超级文本传输协议)，FTP(File Transfer Protocol，文件传输协议)等)请求消息。在具体实现本步骤时，有多种实现方式，例如，可以通过虚拟主机如LVS接收多个客户端设备发送的请求消息，也可以通过真实的网络接入设备作为请求调度器接收多个客户端设备发送的请求消息。本发明实施例对如何接收多个客户端设备发送的请求消息没有限制，只要能够实现对客户端设备发送的请求消息的接收，即可应用本发明实施例的技术方案。

步骤S320：对多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容。

客户端设备发送的请求消息一般以ASCII码数据形式发送，通过对其进行解析，将ASCII码数据形式的数据映射为技术人员惯用的数据形式。参阅图4，其为本发明一实施例的对请求消息进行读取并解析的示意图。在图4的示意图中，通过keepalived程序读取客户端设备发送的请求消息，并解析出包含字段信息的数据内容；采用LVS作为访问请求调度器，keepalived程序通过setsockopt接口向LVS传递解析出的数据内容，LVS把该数据内容保存在特定的数据结构中，方便后续的查找。其中，keepalived程序运行在User Space(用户空间)，LVS运行在Kernel Space(内核空间)，通过setsockopt接口实现数据交换，以避免内核空间的程序出错，导致系统死机。

步骤S330：在每个请求消息的数据内容中，查找包含请求消息指向的网络访问对象内容的访问对象字段。

客户端设备发送的请求消息一般包含明确指向网络访问对象的内容的访问对象字段，如统一资源定位符URL字段，或主机和端口号Host字段。URL也被称为网页地址，如同在网络上的门牌，是互联网上标准的资源地址。Host字段用于指定客户端设备所访问的资源所在的主机名和端口号。

步骤S340：将具有相同内容的访问对象字段的各请求消息，优先分发给同一服务器进行处理。

在具体实施本步骤时，只要多个请求消息的访问对象字段的内容相同，即将该多个请求消息分发给同一服务器进行处理，亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。而具体到如何根据请求消息访问对象字段的内容选择所分发的服务器则有多种实现方式，下面仅给出两种具体实现方式的示例。

(一)根据请求消息访问对象字段的内容选择所分发的服务器的第一具体实现方式：

A1：获得每个请求消息中访问对象字段的内容的第一哈希值；B1：将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；C1：将取模得到相同余数的各请求消息分发给所选择的同一服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。

(二)根据请求消息访问对象字段的内容选择所分发的服务器的第二具体实现方式：

A2：为具有相同内容的访问对象字段的各请求消息，优先选择同一服务器；B2：判断所选择的服务器是否可用；C2：若判断结果为所选择的服务器可用，则将具有相同内容的访问对象字段的各请求消息分发给所选择的同一服务器进行处理；D2：若判断结果为所选择的服务器不可用，则重新确定后端服务可用的服务器的数目；E2：将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理。一般情况下，系统后端的服务器均能正常提供服务，然而个别情况下服务器也会发生故障，这就需要及时确定所选择的服务器是否可用，才能提供可靠的服务。具体而言，确定后端服务器是否可用的方法有多种，例如可以利用正常的数据流来确定服务器是否可用，比如TCP(Transmission Control Protocol，传输控制协议)连接服务器超时等；也可检测是否可以ping(Packet Internet Groper，因特网包探索器)通，是否可以获取指定内容，或是否支持特定的脚本或行为来判定服务器是否服务可用。

可选的，在上述第二种具体实现方式中，A2中所述的为具有相同内容的访问对象字段的各请求消息，优先选择同一服务器的具体实现手段与前述第(一)种具体实现方式中的A1-C1的手段相同，故不再赘述。E2中所述的将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现：

E21：获得每个请求消息中访问对象字段的内容的第一哈希值；E22：将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一服务可用的服务器；E23：将取模得到相同余数的各请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。

需要指出的是，本发明上述实施例对访问请求进行分发的实质是，只要多个客户端设备的请求消息的网络访问对象内容相同，就将该多个客户端设备的请求消息发送到同一服务器上进行处理，而实现这种分发的规则可以有多种，获取网络访问对象内容的哈希值只是实现这种分发的一种特定规则，本领域技术人员可以理解，任何可以将具有相同网络访问对象内容的多个客户端设备的请求消息发送到同一服务器上进行处理的分发规则，均落入本发明的保护范围之内。例如，也可以直接将具有相同网络访问对象内容的多个请求消息随机分发给同一台服务器进行处理，同样可以达到相同的效果。

通过实施上述步骤即可实现根据客户端设备发送的请求消息内容选择服务的服务器，将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备，在CDN(Content Delivery Network，内容分发网络)等Cache(缓存)类Web(网络)服务中，多个用户访问相同的Web内容(网页、图片、JS脚本等)时，访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理，这样，降低了相同缓存内容所占的空间，使得系统后端多台服务器有更多的空间缓存更多的内容，从而提高了系统后端多台服务器的利用率和命中率，较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时，会把请求逐一分发给后端的服务器处理，基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理，因此，轮询负载均衡策略和基于权值的轮询负载均衡策略均会造成把访问对象内容相同的多个请求分发给多台服务器处理，从而导致后端多台服务器有相同的Cache内容，占用了大量的Cache空间，降低了后端多台服务器的运行效率。

请参阅图5，其为本发明一种用于对服务器进行负载均衡的方法第二实施例流程图。在本实施例中，包括如下步骤：

步骤510：接收多个客户端设备发送的网络传输协议请求消息。

客户端设备发送的网络传输协议请求消息可以是任意网络传输协议请求消息，如HTTP请求消息，HTTPS请求消息，FTP请求消息等。在具体实现本步骤时，有多种实现方式。例如，可以通过虚拟主机如LVS接收多个客户端设备发送的网络传输协议请求消息，也可以通过真实的网络接入设备作为请求调度器接收多个客户端设备发送的网络传输协议请求消息。本发明实施例对如何接收多个客户端设备发送的网络传输协议请求消息没有限制，只要能够实现对客户端设备发送的网络传输协议请求消息的接收，即可应用本发明实施例的技术方案。

步骤520：对多个客户端设备发送的网络传输协议请求消息分别进行解析，得到每个网络传输协议请求消息中的数据内容。

客户端设备发送的网络传输协议请求消息一般以ASCII码数据形式发送，通过对其进行解析，将ASCII码数据形式的数据映射为技术人员惯用的数据形式。例如，在对网络传输协议请求消息进行解析时，也可以通过keepalived程序读取客户端设备发送的请求消息，并解析出包含字段信息的数据内容；采用LVS作为访问请求调度器，keepalived程序通过setsockopt接口向LVS传递解析出的数据内容，LVS把该数据内容保存在特定的数据结构中，方便后续的查找。其中，keepalived程序运行在User Space(用户空间)，LVS运行在KernelSpace(内核空间)，通过setsockopt接口实现数据交换，以避免内核空间的程序出错，导致系统死机。

步骤530：在每个网络传输协议请求消息的数据内容中，查找包含标识客户端设备身份内容的设备标识字段；

客户端设备发送的网络传输协议请求消息一般包含标识客户端设备身份的内容的设备标识字段，如小型文字档案Cookie字段或标识设备身份的随机数字段。Cookie是某些网站为了辨别客户端身份、进行Session跟踪而储存在客户端设备上的数据。标识设备身份的随机数字段客户端设备在发起请求时，在HTTP头部中添加X-Seq头部字段进行配置，X-Seq头部字段的内容为一个随机数(在客户端设备首次发起请求时配置一个随机数，该客户端设置之后再发起请求时X-Seq头部字段中的数字与第一次发起请求时X-Seq头部字段中的数字相同)，例如，某客户端设备在第一次发起请求时X-Seq头部字段的内容配置为该客户端设备发起请求的时间(精确到秒(s)级别)，如：X-Seq：1348451800。其中1348451800为客户端设备发起请求时自世界协调时间UTC(Universal Time，Coordinated)1970-01-0100:00:00以来所经过的秒数，当该客户端设备之后再次发起请求时X-Seq头部字段的内容均配置为：X-Seq：1348451800。

步骤540：将具有相同内容的设备标识字段的各网络传输协议请求消息，优先分发给同一服务器进行处理。

在具体实施本步骤时，只要多个网络传输协议请求消息的设备标识字段的内容相同，即将该多个网络传输协议请求消息分发给同一服务器进行处理，亦即将同一客户端设备的多个访问请求发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器则有多种实现方式，下面仅给出两种具体实现方式的示例。

(一)根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器的第一具体实现方式：

a1：获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值；b1：将每个设备标识字段的内容的第二哈希值对后端服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器；c1：将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。

(二)根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器的第二具体实现方式：

a2：为具有相同的设备标识字段的各网络传输协议请求消息，优先选择同一服务器；b2：判断所选择服务的服务器是否可用；c2：若判断结果为所选择的服务器可用，则将具有相同内容的设备标识字段的各网络传输协议请求消息分发给所选择的同一服务器；d2：若判断结果为所选择的服务器不可用，则重新确定后端服务可用的服务器的数目；e2：将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。一般情况下，系统后端的服务器均能正常提供服务，然而个别情况下服务器也会发生故障，这就需要及时确定所选择的服务器是否可用，才能提供可靠的服务。具体而言，确定后端服务器是否可用的方法有多种，例如可以利用正常的数据流来确定服务器是否可用，比如TCP(Transmission Control Protocol，传输控制协议)连接服务器超时等；也可检测是否可以ping(Packet Internet Groper，因特网包探索器)通，是否可以获取指定内容，或是否支持特定的脚本或行为来判定服务器是否服务可用。

可选的，在上述第二种具体实现方式中，将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现：

e21：获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值；e22：将每个设备标识字段的内容的第二哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器；e23：将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个请求消息选择同一服务器进行处理。

需要指出的是，本发明上述实施例对访问请求进行分发的实质是，只要多个网络传输协议请求消息是来自同一客户端设备，就将该客户端设备的多个网络传输协议请求消息发送到同一服务器上进行处理，而实现这种分发的规则可以有多种，获取客户端设备身份内容的哈希值只是实现这种分发的一种特定规则，本领域技术人员可以理解，任何可以将具有相同客户端设备身份内容的多个网络传输协议请求消息发送到同一服务器上进行处理的分发规则，均落入本发明的保护范围之内。

通过实施上述步骤，即可实现根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器，将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求，即同一台客户端设备的多个访问请求，发送到同一台服务器上进行处理，这样，同一台客户端设备的多个访问请求只需要在一台服务器上建立Session对象，降低了Session对象保持持久性所需要的服务器内存量，从而较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时，会把请求逐一分发给后端的服务器处理，基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理，这样，同一客户端设备的多个访问请求会被分发给多台服务器处理，而同一客户端设备的每个访问请求都会在其访问的服务器上生成一个单独的Session对象，随着访问的客户端设备的增多，为了保持每个客户端设备在多台服务器上Session对象的持久性，将会大大增加所占用的系统后端多台服务器的内存量，从而导致系统后端多台服务器的运行效率较低。

步骤550：如果网络传输协议请求消息的数据内容中未查找到设备标识字段，则在网络传输协议请求消息的数据内容中查找包含请求消息指向的网络访问对象内容的访问对象字段。

在客户端设备发送的网络传输协议请求消息中，并不必然包含标识客户端设备身份的设备标识字段，如某些客户端设备会禁用Cookie功能，这样，在网络传输协议请求消息的数据内容中就查找不到设备标识字段。而客户端设备发送的网络传输协议请求消息都包含指向网络访问对象内容的访问对象字段，因此，可以将访问对象字段作为备用字段客户端设备发送的网络传输协议请求消息的数据内容中进行查找。

步骤560：将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务器进行处理。

在具体实施本步骤时，只要多个网络传输协议请求消息的访问对象字段的内容相同，即将该多个网络传输协议请求消息分发给同一服务器进行处理，亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息访问对象字段的内容选择所分发的服务器则有多种实现方式，下面仅给出两种具体实现方式的示例。

(一)根据网络传输协议请求消息访问对象字段的内容选择所分发的服务器的第一具体实现方式：

A1：获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值；B1：将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器；C1：将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。

(二)根据网络传输协议网络传输协议请求消息访问对象字段的内容选择所分发的服务器的第二具体实现方式：

A2：为具有相同内容的访问对象字段的各网络传输协议请求消息，优先选择同一服务器；B2：判断所选择的服务器是否可用；C2：若判断结果为所选择的服务器可用，则将具有相同内容的访问对象字段的各网络传输协议请求消息分发给所选择的同一服务器进行处理；D2：若判断结果为所选择的服务器不可用，则重新确定后端服务可用的服务器的数目；E2：将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。一般情况下，系统后端的服务器均能正常提供服务，然而个别情况下服务器也会发生故障，这就需要及时确定所选择的服务器是否可用，才能提供可靠的服务。具体而言，确定后端服务器是否可用的方法有多种，例如可以利用正常的数据流来确定服务器是否可用，比如TCP(Transmission Control Protocol，传输控制协议)连接服务器超时等；也可检测是否可以ping(Packet InternetGroper，因特网包探索器)通，是否可以获取指定内容，或是否支持特定的脚本或行为来判定服务器是否服务可用。

可选的，在上述第二种具体实现方式中，将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理可以通过以下方式实现：

E21：获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值；E22：将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器；E23：将取模得到相同余数的各网络传输协议请求消息分发给所选择的同一服务可用的服务器进行处理。具体而言，哈希值可以通过多种算法(如CRC32算法)获得；而在选择服务器时，也可以用后端服务器的数目对得到的第一哈希值的取值范围分段，例如，后端服务器的数目为10，将第一哈希值的取值范围分为1-10段，即可为第一哈希值落在同一取值范围段的多个网络传输协议请求消息选择同一服务器进行处理。

需要指出的是，本发明上述实施例对访问请求进行分发的实质是，只要多个客户端设备的请求消息的网络访问对象内容相同，就将该多个客户端设备的请求消息发送到同一服务器上进行处理，而实现这种分发的规则可以有多种，获取网络访问对象内容的哈希值只是实现这种分发的一种特定规则，本领域技术人员可以理解，任何可以将具有相同网络访问对象内容的多个客户端设备的请求消息发送到同一服务器上进行处理的分发规则，均落入本发明的保护范围之内。

如果网络传输协议请求消息的数据内容中未查找到设备标识字段，通过实施上述步骤也可实现根据客户端设备发送的请求消息内容选择服务的服务器，将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备，即访问同一网络资源对象的多个客户端设备，发送到同一台服务器上进行处理，降低了相同缓存内容所占的空间，使得系统后端多台服务器有更多的空间缓存更多的内容，从而提高了系统后端多台服务器的利用率和命中率，较大地提升了系统后端多台服务器的运行效率。

此外，需要指出的是，本发明实施例中的服务器可以是真实服务器(RS)，也可以是虚拟服务器。多个虚拟服务器可以通过软件架设在同一个物理服务器上，而每个虚拟服务器又可以提供真实服务器的所有功能，这样相对来说可以降低每个虚拟服务器的成本。

与前述本发明实施例提供的一种用于对服务器进行负载均衡的方法相对应，本发明实施例还提供了一种用于对服务器进行负载均衡的装置，如图6所示，该装置包括：

第一接收模块610，用于接收多个客户端设备发送的请求消息；

第一解析模块620，用于对多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；

第一查找模块630，用于在每个请求消息的数据内容中，查找包含请求消息指向的网络访问对象内容的访问对象字段；

第一分发模块640，用于将具有相同内容的访问对象字段的各请求消息，优先分发给同一服务器进行处理。

在具体实施时，只要多个请求消息的访问对象字段的内容相同，即将该多个请求消息分发给同一服务器进行处理，亦即将访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理。

其中，在一种具体的实施方式下，第一分发模块640具体可以包括：第一哈希值获得单元，用于计算每个请求消息中访问对象字段的内容的第一哈希值；第一选择单元，用于将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；第一分发单元，用于将取模得到相同余数的各请求消息分发给第一选择单元选择的同一服务器进行处理。

其中，在另一种具体的实施方式下，第一分发模块640具体可以包括：第二选择单元，用于为具有相同内容的访问对象字段的各请求消息，优先选择同一服务器；第一判断单元，用于判断第二选择单元选择的服务器是否可用；第二分发单元，用于当第一判断单元的判断结果为所选择的服务器可用时，将具有相同内容的访问对象字段的各请求消息分发给第二选择单元选择的同一服务器进行处理；第一服务可用确定单元，用于当第一判断单元的判断结果为所选择的服务器不可用时，重新确定后端服务可用的服务器的数目；第三分发单元，用于将具有相同内容的访问对象字段的各请求消息分发给同一服务可用的服务器进行处理。

其中，第三分发单元具体可以包括：第一计算子单元，用于计算每个请求消息中访问对象字段的内容的第一哈希值；第一选择子单元，用于将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一服务可用的服务器；第一分发子单元，用于将取模得到相同余数的各请求消息分发给第一选择子单元选择的同一服务可用的服务器进行处理。

可选的，访问对象字段可以为统一资源定位符URL字段，或主机和端口号Host字段。

通过实施上述实施例即可实现根据客户端设备发送的请求消息内容选择服务的服务器，将包含请求消息指向的网络访问对象内容的访问对象字段具有相同内容的多个客户端设备，在CDN(Content Delivery Network，内容分发网络)等Cache(缓存)类Web(网络)服务中，多个用户访问相同的Web内容(网页、图片、JS脚本等)时，访问同一网络资源对象的多个客户端设备发送到同一台服务器上进行处理，这样，降低了相同缓存内容所占的空间，使得系统后端多台服务器有更多的空间缓存更多的内容，从而提高了系统后端多台服务器的利用率和命中率，较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时，会把请求逐一分发给后端的服务器处理，基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理，因此，轮询负载均衡策略和基于权值的轮询负载均衡策略均会造成把访问对象内容相同的多个请求分发给多台服务器处理，从而导致后端多台服务器有相同的Cache内容，占用了大量的Cache空间，降低了后端多台服务器的运行效率。

与前述本发明实施例提供的一种用于对服务器进行负载均衡的方法相对应，本发明实施例还提供了一种用于对服务器进行负载均衡的装置，如图7所示，该装置包括：

第二接收模块710，用于接收多个客户端设备发送的网络传输协议请求消息；

第二解析模块720，用于对多个客户端设备发送的网络传输协议请求消息分别进行解析，得到每个网络传输协议请求消息中的数据内容；

第二查找模块730，用于在每个网络传输协议请求消息的数据内容中，查找包含标识客户端设备身份内容的设备标识字段；

第二分发模块740，用于将具有相同内容的设备标识字段的各请求消息，优先分发给同一服务器进行处理。

在具体实施时，只要多个网络传输协议请求消息的设备标识字段的内容相同，即将该多个网络传输协议请求消息分发给同一服务器进行处理，亦即将同一客户端设备的多个访问请求发送到同一台服务器上进行处理。而具体到如何根据网络传输协议请求消息设备标识字段的内容选择所分发的服务器则有多种实现方式。

其中，在一种具体的实施方式下，第二分发模块740包括：第二哈希值获得单元，用于获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值；第三选择单元，用于将每个设备标识字段的内容的第二哈希值对后端服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息优先选择同一服务器；第四分发单元，将取模得到相同余数的各网络传输协议请求消息优先分发给第三选择单元选择的同一服务器进行处理。

其中，在另一种具体的实施方式下，第二分发模块740包括：第四选择单元，用于为具有相同内容的设备标识字段的各网络传输协议请求消息，优先选择同一服务器；第二判断单元，用于判断第四选择单元选择的服务器是否可用；第五分发单元，用于当第二判断单元的判断结果为所选择的服务器可用时，将具有相同内容的设备标识字段的各网络传输协议请求消息分发给第四选择单元选择的同一服务器；第二服务可用确定单元，用于当第二判断单元的判断结果为所选择的服务器不可用时，重新确定后端服务可用的服务器的数目；第六分发单元，用于将具有相同内容的设备标识字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。

可选的，第六分发单元具体可以包括：第二计算子单元，用于获得每个网络传输协议请求消息中设备标识字段的内容的第二哈希值；第二选择子单元，用于将每个设备标识字段的内容的第二哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器；第二分发子单元，用于将取模得到相同余数的各网络传输协议请求消息分发给第二选择子单元选择的同一服务可用的服务器进行处理。

在一种可选的具体实施方式中，该装置还可以包括：第三查找模块，用于当第二查找模块在网络传输协议请求消息的数据内容中未查找到设备标识字段时，则在网络传输协议请求消息的数据内容中查找包含请求消息指向的网络访问对象内容的访问对象字段；第三分发模块，用于将具有相同内容的访问对象字段的各请求消息分发给同一服务器进行处理。

可选的，第三分发模块具体可以包括：

第三哈希值获得单元，用于获得每个网络传输协议请求消息中访问对象字段的内容的第一哈希值；

第五选择单元，将每个访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息选择同一服务器；

第七分发单元，用于将取模得到相同余数的各网络传输协议请求消息分发给第五选择单元选择的同一服务器进行处理。

在另一种可选的具体实施方式中，第三分发模块具体可以包括：

第六选择单元，用于为具有相同内容的访问对象字段的各网络传输协议请求消息选择同一服务器；

第三判断单元，用于判断第六选择单元选择的服务器是否可用；

第八分发单元，用于当第三判断单元的判断结果为所选择的服务器可用时，将具有相同的访问对象字段的各网络传输协议请求消息分发给第六选择单元选择的同一服务器；

第三服务可用确定单元，用于当第三判断单元的判断结果为所选择的服务器不可用时，重新确定后端服务可用的服务器的数目；

第九分发单元，用于将具有相同内容的访问对象字段的各网络传输协议请求消息分发给同一服务可用的服务器进行处理。

在一种可选的具体实施方式中，第九分发单元具体可以包括：

第三计算子单元，用于计算每个网络传输协议请求消息中访问对象字段的内容的第一哈希值；

第三选择子单元，用于将每个访问对象字段的内容的第一哈希值对服务可用的服务器的数目取模，为取模得到相同余数的各网络传输协议请求消息选择同一服务可用的服务器；

第三分发子单元，用于将取模得到相同余数的各网络传输协议请求消息分发给第三选择子单元选择的同一服务可用的服务器进行处理。

可选的，设备标识字段为小型文字档案Cookie字段或标识设备身份的随机数字段。

可选的，访问对象字段为统一资源定位符URL字段，或主机和端口号Host字段。

通过实施上述实施例，即可实现根据客户端设备发送的网络通信协议请求消息内容选择服务的服务器，将标识客户端设备身份内容的设备标识字段具有相同内容的多个访问请求，即同一台客户端设备的多个访问请求，发送到同一台服务器上进行处理，这样，同一台客户端设备的多个访问请求只需要在一台服务器上建立Session对象，降低了Session对象保持持久性所需要的服务器内存量，从而较大地提升了系统后端多台服务器的运行效率。而轮询负载均衡策略在对客户端设备的访问请求进行调度时，会把请求逐一分发给后端的服务器处理，基于权值的轮询负载均衡策略则根据当前服务器权值的大小把请求分发给后端当前权值较大的服务器处理，这样，同一客户端设备的多个访问请求会被分发给多台服务器处理，而同一客户端设备的每个访问请求都会在其访问的服务器上生成一个单独的Session对象，随着访问的客户端设备的增多，为了保持每个客户端设备在多台服务器上Session对象的持久性，将会大大增加所占用的系统后端多台服务器的内存量，从而导致系统后端多台服务器的运行效率较低。

在此提供的算法和显示不与任何特定计算机、虚拟系统或者其它设备固有相关。各种通用系统也可以与基于在此的示教一起使用。根据上面的描述，构造这类系统所要求的结构是显而易见的。此外，本发明也不针对任何特定编程语言。应当明白，可以利用各种编程语言实现在此描述的本发明的内容，并且上面对特定语言所做的描述是为了披露本发明的最佳实施方式。

在此处所提供的说明书中，说明了大量具体细节。然而，能够理解，本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中，并未详细示出公知的方法、结构和技术，以便不模糊对本说明书的理解。

类似地，应当理解，为了精简本公开并帮助理解各个发明方面中的一个或多个，在上面对本发明的示例性实施例的描述中，本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而，并不应将该公开的方法解释成反映如下意图：即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说，如下面的权利要求书所反映的那样，发明方面在于少于前面公开的单个实施例的所有特征。因此，遵循具体实施方式的权利要求书由此明确地并入该具体实施方式，其中每个权利要求本身都作为本发明的单独实施例。

本领域那些技术人员可以理解，可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件，以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外，可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述，本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。

此外，本领域的技术人员能够理解，尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征，但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如，在下面的权利要求书中，所要求保护的实施例的任意之一都可以以任意的组合方式来使用。

本发明的各个部件实施例可以以硬件实现，或者以在一个或者多个处理器上运行的软件模块实现，或者以它们的组合实现。本领域的技术人员应当理解，可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的设备中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如，计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上，或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到，或者在载体信号上提供，或者以任何其他形式提供。

应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制，并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中，不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中，这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。

本申请可以应用于计算机系统/服务器，其可与众多其它通用或专用计算系统环境或配置一起操作。适于与计算机系统/服务器一起使用的众所周知的计算系统、环境和/或配置的例子包括但不限于：个人计算机系统、服务器计算机系统、瘦客户机、厚客户机、手持或膝上设备、基于微处理器的系统、机顶盒、可编程消费电子产品、网络个人电脑、小型计算机系统、大型计算机系统和包括上述任何系统的分布式云计算技术环境，等等。计算机系统/服务器可以在由计算机系统执行的计算机系统可执行指令(诸如程序模块)的一般语境下描述。通常，程序模块可以包括例程、程序、目标程序、组件、逻辑、数据结构等等，它们执行特定的任务或者实现特定的抽象数据类型。计算机系统/服务器可以在分布式云计算环境中实施，分布式云计算环境中，任务是由通过通信网络链接的远程处理设备执行的。在分布式云计算环境中，程序模块可以位于包括存储设备的本地或远程计算系统存储介质上。

Claims (10)

1.一种用于对服务器进行负载均衡的方法，应用于虚拟主机LVS中，所述LVS运行在内核空间，所述方法包括：

接收多个客户端设备发送的请求消息；

对所述多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；

在每个所述请求消息的数据内容中，查找包含所述请求消息指向的网络访问对象内容的访问对象字段；

将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理。

2.如权利要求1所述的方法，所述将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理包括：

获得每个请求消息中所述访问对象字段的内容的第一哈希值；

将每个所述访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；

将所述取模得到相同余数的各请求消息分发给所选择的同一服务器进行处理。

3.如权利要求1所述的方法，所述将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理包括：

为具有相同内容的所述访问对象字段的各请求消息，优先选择同一服务器；

判断所选择的服务器是否可用；

若判断结果为所选择的服务器可用，则将具有相同内容的所述访问对象字段的各请求消息分发给所选择的同一服务器进行处理；

若判断结果为所选择的服务器不可用，则重新确定后端服务可用的服务器的数目；

将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理。

4.如权利要求3所述的方法，所述将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理包括：

获得每个请求消息中所述访问对象字段的内容的第一哈希值；

将每个所述访问对象字段的内容的第一哈希值对所述服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一所述服务可用的服务器；

将所述取模得到相同余数的各请求消息分发给所选择的同一所述服务可用的服务器进行处理。

5.根据权利要求1-4中任一项所述的方法，所述访问对象字段为统一资源定位符URL字段，或主机和端口号Host字段。

6.一种用于对服务器进行负载均衡的装置，所述装置具体为虚拟主机LVS，所述LVS运行在内核空间，所述装置包括：

第一接收模块，用于接收多个客户端设备发送的请求消息；

第一解析模块，用于对所述多个客户端设备发送的请求消息分别进行解析，得到每个请求消息中的数据内容；

第一查找模块，用于在每个所述请求消息的数据内容中，查找包含所述请求消息指向的网络访问对象内容的访问对象字段；

第一分发模块，用于将具有相同内容的所述访问对象字段的各请求消息，优先分发给同一服务器进行处理。

7.如权利要求6所述的装置，所述第一分发模块包括：

第一哈希值获得单元，用于获得每个请求消息中所述访问对象字段的内容的第一哈希值；

第一选择单元，用于将每个所述访问对象字段的内容的第一哈希值对后端服务器的数目取模，为取模得到相同余数的各请求消息优先选择同一服务器；

第一分发单元，用于将所述取模得到相同余数的各请求消息分发给所述第一选择单元选择的同一服务器进行处理。

8.如权利要求6所述的装置，所述第一分发模块包括：

第二选择单元，用于为具有相同内容的所述访问对象字段的各请求消息，优先选择同一服务器；

第一判断单元，用于判断所述第二选择单元选择的服务器是否可用；

第二分发单元，用于当所述第一判断单元的判断结果为所选择的服务器可用时，将具有相同内容的所述访问对象字段的各请求消息分发给所述第二选择单元选择的同一服务器进行处理；

第一服务可用确定单元，用于当所述第一判断单元的判断结果为所选择的服务器不可用时，重新确定后端服务可用的服务器的数目；

第三分发单元，用于将具有相同内容的所述访问对象字段的各请求消息分发给同一所述服务可用的服务器进行处理。

9.如权利要求8所述的装置，所述第三分发单元包括：

第一计算子单元，用于计算每个请求消息中所述访问对象字段的内容的第一哈希值；

第一选择子单元，用于将每个所述访问对象字段的内容的第一哈希值对所述服务可用的服务器的数目取模，为取模得到相同余数的各请求消息选择同一所述服务可用的服务器；

第一分发子单元，用于将所述取模得到相同余数的各请求消息分发给所述第一选择子单元选择的同一所述服务可用的服务器进行处理。

10.根据权利要求6-9中任一项所述的装置，所述访问对象字段为统一资源定位符URL字段，或主机和端口号Host字段。