CN110417886A - 一种综合业务的负载均衡方法、装置及系统 - Google Patents

Abstract

本发明公开一种综合业务的负载均衡方法、装置及系统。所述方法包括注册、加载各业务服务器和终端的特征及属性信息；收集业务服务器负载情况；终端发送均衡请求；查询终端和业务服务器信息及负载情况，确定每一种业务的目标服务器地址返回给终端；终端根据目标服务器地址，将每种业务和相应的服务器建立业务连接。所述装置包括注册模块、加载模块、负载监测模块、接收模块、获取模块。所述系统包括负载均衡装置。本发明通过保存和加载各业务服务器及终端的特征及属性信息，终端携ID发出请求，然后根据终端ID和终端及服务器的特征及属性信息，结合负载情况综合进行匹配，将选择的目标服务器地址返回终端，从而实现多种业务的综合均衡调度。

Description

一种综合业务的负载均衡方法、装置及系统

技术领域

本发明属于网络通信技术领域，具体涉及一种支持多用业务和区域属性、可同时对多种业务进行均衡和调度的综合业务的负载均衡方法、装置及系统。

背景技术

目前已知的软件负载均衡的方案中，常见的有DNS负载均衡、LVS负载均衡，nginx负载均衡等几种方式。

DNS负载均衡(如图1所示)，是在DNS服务器中为同一个域名配置多个IP地址，DNS服务器对每个DNS查询的应答将以DNS文件中主机记录的IP地址按顺序返回不同的解析结果，将客户端的访问引导到不同的主机上去，使得不同的客户端访问不同的服务器主机，从而达到负载均衡的目的。DNS负载均衡是一种简单而有效的方法，但是其不能区分服务器的差异，也不能反映服务器的当前运行状态。

LVS系统(Linux Virtual Server)负载均衡(如图2所示)，是基于IP的数据请求负载均衡调度方案，前端有对外的负载均衡服务，请求会发送给LVS调度器，调度器根据预设算法决定将该请求发送给后端的某台业务服务器。业务服务器通过设计，可以实现最终用户不论是访问哪台真实服务器，得到的服务内容都是一样的，整个集群对用户而言都是透明的。根据LVS工作模式的不同，真实服务器会选择不同的方式将用户需要的数据发送到终端用户。LVS的负载能力强，因为其工作方式逻辑非常简单，仅进行请求分发，而且工作在网络第4层，没有流量，所以其效率不需要有过多的忧虑。但是对于HTTP应用实施分流策略，比如域名、结构等，则无法实现。

Nginx(如图3所示)是一款自由的、开源的、高性能的HTTP服务器和反向代理服务器；同时也是一个IMAP、POP3、SMTP代理服务器；nginx可以作为一个HTTP服务器进行网站的发布处理，也可以作为反向代理进行负载均衡的实现。nginx工作在网络第7层，所以它可以针对HTTP应用本身来做分流策略；可以检测到服务器内部的故障，比如根据服务器处理网页返回的状态码、超时等等，并且会把返回错误的请求重新提交到另一个节点。但是，其负载度和稳定度和LVS还有很大差距，流量受限于机器IO和配置。

上述常见的DNS负载均衡、LVS负载均衡及nginx负载均衡方法，都存在一个共同的问题，就是只能进行应用层面的负载均衡，对于同时存在的多种复杂、业务相关性较强的流量，无法实现智能的均衡和调度以及针对区域的导向。

发明内容

本发明的第一目的在于提供一种支持多用业务和区域属性、可同时对多种业务进行均衡和调度的综合业务的负载均衡方法；第二目的在于提供一种综合业务的负载均衡装置；第三目前在于提供一种综合业务的负载均衡系统。

本发明的第一目的是这样实现的：包括信息注册、信息加载、收集负载情况、发送请求、获取服务器地址、业务连接步骤，具体包括：

A、信息注册：注册各业务服务器和各终端的特征信息及属性信息；

B、信息加载：加载已注册的各业务服务器和各终端的特征信息及属性信息；

C、收集负载情况：收集各业务服务器的当前负载情况；

D、发送请求：终端就如何与业务服务器进行业务连接发送均衡请求；

E、获取服务器地址：根据终端的均衡请求，查询终端和业务服务器的特征信息及属性信息，以及业务服务器的负载情况，确定每一种业务对应的目标服务器地址并返回给终端；

F、业务连接：终端根据获取到的每一种业务的目标服务器地址，将每种业务和相应的服务器建立业务连接。

本发明的第二目的是这样实现的：包括

注册模块：用于注册各业务服务器和各终端的特征信息及属性信息；

加载模块：用于加载已注册的各业务服务器和各终端的特征信息及属性信息；

负载监测模块：用于收集各业务服务器的当前负载情况；

接收模块：用于接收终端就如何与业务服务器进行业务连接的均衡请求；

获取模块：用于根据终端的均衡请求，查询终端和业务服务器的信息及业务服务器的当前负载情况，确定每一种业务的目标服务器地址返回给终端。

本发明的第三目的是这样实现的：包括综合业务的负载均衡装置。

本发明的有益效果：本发明通过注册和加载各类业务服务器的特征信息及属性信息，以及各终端的特征信息及属性信息；终端携带其ID发出业务连接的询问请求，根据询问请求中的终端ID和已注册并加载的各终端和各业务服务器的特征信息及属性信息，同时结合各服务器的当前负载情况，综合进行匹配和选择，将选择的每一种业务的服务器地址返回到终端，终端将每种业务和相应的服务器建立业务连接。使得终端在统一调度之下，综合衡量终端的业务类型及所属区域，以及服务器的负载压力等因素，使不同的业务连接到不同的服务器，实现不同业务服务器间的负载均衡和可靠的网络连接，从而加强网络的数据处理能力，使业务负载均衡有更大的智能性和灵活性，解决业务服务器的负载压力问题，满足业务上不同的需求。而且本发明的负载均衡判断在服务器端进行，将最终的导向目标发送到终端执行，并且采用多维度确定业务服务器，可以利用到更多的流量属性进行分流，有效减轻网络和服务器压力。

附图说明

图1为DNS负载均衡原理示意图；

图2为LVS负载均衡原理示意图；

图3为nginx负载均衡原理示意图；

图4为本发明之负载均衡方法应用场景框架图；

图5为本发明之负载均衡方法的流程示意图；

图6为本发明之测试系统原理结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的说明，但不以任何方式对本发明加以限制，基于本发明教导所作的任何变更或改进，均属于本发明的保护范围。

如图4和图5所示，本发明之综合业务的负载均衡方法，包括信息注册、信息加载、收集负载情况、发送请求、获取服务器地址、业务连接步骤，具体包括：

A、信息注册：注册各业务服务器和各终端的特征信息及属性信息；

B、信息加载：加载已注册的各业务服务器和各终端的特征信息及属性信息；

C、收集负载情况：收集各业务服务器的当前负载情况；

D、发送请求：终端就如何与业务服务器进行业务连接发送均衡请求；

E、获取服务器地址：根据终端的均衡请求，查询终端和业务服务器的特征信息及属性信息，以及业务服务器的负载情况，确定每一种业务对应的目标服务器地址并返回给终端；

F、业务连接：终端根据获取到的每一种业务的目标服务器地址，将每种业务和相应的服务器建立业务连接。

优选的，所述业务服务器的特征信息包括业务类型、区域信息，所述业务服务器的属性信息包括地址。

优选的，所述终端的特征信息包括终端执行的所有业务种类、终端区域信息，所述终端的属性信息为终端ID。

优选的，所述业务服务器的地址为IP地址或域名，所述终端ID为一个编号ID、终端的mac地址、终端的磁盘ID和/或终端的系统SN。

优选的，所述B步骤的加载各业务服务器和各终端的特征信息中，是将各业务服务器和各终端的特征信息读入内存中、放入redis表中、保存在数据库中或放入文件中。

优选的，所述E步骤中包括下述具体工步：

E10：根据终端ID查询对应的终端注册信息，提取终端的终端区域、业务种类；

E20：根据提取的终端信息，进而匹配到每一种业务对应的一组业务服务器；

E30：根据业务服务器的最大连接数，和已经分配的终端连接数，确定每一个业务服务器的空闲连接数，为每一种业务选择一个还有剩余连接的业务服务器；

E40：提取每一个已被选择的业务服务器的地址，作为最终确定的目标服务器地址返回给终端。

优选的，所述E30工步中确定每一个业务服务器的空闲连接数后，以顺序、轮询或随机方式，为每一种业务选择一个还有剩余连接的服务器。

优选的，所述E步骤中，返回给终端目标服务器地址，还同时返回给终端对应业务的其它服务器地址作为冗余地址；所述F步骤中，终端与目标服务器无法建立业务连接时，可选择冗余地址建立业务连接，且在连通性恢复正常之后，重新切换回目标服务器建立业务连接。

如图6所示，本发明之综合业务的负载均衡装置，包括

注册模块：用于注册各业务服务器和各终端的特征信息及属性信息；

加载模块：用于加载已注册的各业务服务器和各终端的特征信息及属性信息；

负载监测模块：用于收集各业务服务器的当前负载情况；

接收模块：用于接收终端就如何与业务服务器进行业务连接的均衡请求；

获取模块：用于根据终端的均衡请求，查询终端和业务服务器的信息及业务服务器的当前负载情况，确定每一种业务的目标服务器地址返回给终端。

优选的，所述获取模块包括

提取单元：用于根据终端均衡请求中终端的属性信息，即终端ID，查询对应的终端注册信息，提取终端的特征信息，即终端区域、业务种类；

匹配单元：用于根据提取的终端特征信息及终端ID，进而匹配到每一种业务对应的一组业务服务器；

分配单元：用于根据业务服务器的最大连接数，和已经分配的终端连接数，确定每一个业务服务器的空闲连接数，为每一种业务选择一个还有剩余连接的业务服务器；

确认单元：用于提取每一个已被选择的业务服务器的地址，作为最终确定的目标服务器地址返回给终端。

本发明之综合业务的负载均衡系统，包括上述综合业务的负载均衡装置。

实施例

S100：在均衡服务器上注册各业务服务器包括业务类型、区域信息、厂商信息的特征信息及包括IP地址或域名等地址信息的属性信息，以及注册各终端包括终端执行的所有业务种类、终端区域信息的特征信息及包括编号ID、终端的mac地址、终端的磁盘ID和/或终端的系统SN终端ID等任何一种具有全局唯一性标识的属性信息；

所述业务服务器根据业务种类的不同，有若干不同的集群，如对于支持http/https协议的web服务器，但是根据业务的不同，又分为web认证服务器(A类集群)，web管理服务器(B类集群)，分别负责不同的业务；而对于ftp协议来说，有负责ftp文件接受的服务器(C类集群)，有专用于文件下载的服务器(D类集群)；另外，也有一些私有协议的业务服务器(E、F…等集群)；

相同的业务服务器，可以在不同的地域均有部署，各自负责本地域内的终端服务；

每个集群内的服务器器进行顺序编号1，2，3…，这样，在全系统内，结合地域，集群类型等进行统一编号，则可以如以下的编号方式甲-A-1，乙-B-1…。

S200：均衡服务器加载各业务服务器和各终端的特征信息及属性信息；

S210、服务器信息加载：每一个服务器群内的所有服务器可共享同一个维度的特征信息；二维特征信息的情况下包含地域和业务类型，即针对特定的地域和业务类型的组合对应一个特定的服务器群。

服务器的维度特征信息还可以继续增加，例如再增加一个终端厂商信息的维度，则扩展为三维信息，表示每个区域，每种业务，为每个厂商的终端单独设立服务器集群。

还可以有更多的维度来确定服务器群，在更高维度上依据不同维度属性的任意组合以确定服务器群。

被加载的服务器信息可以保存在数据库中，也可以保存在文件中，还可以以不同的格式保存在不同诸如内存、硬盘、闪存盘等物理介质中。

S220、终端信息加载：和服务器的信息类似，终端的维度特征信息，二维特征信息的情况下包含地域和业务类型；而终端的属性是终端ID。

终端的维度特征信息还可以继续增加，如果再增加一个终端厂商信息，则扩展为三维信息。

可以有更多种的终端维度特征信息，其全部或者不同的组合，可以组成不同维度的分组。

终端ID是终端全局唯一性的标识，可以是用户可配置的，或者是其终端设备内置的硬件特征的抽象，如网卡MAC地址、磁盘ID或系统的SN等，这些不同的编码方式，或者几种特征的组合，只要符合一个公共的特征：不同终端ID各自不同，ID可以作为该终端独一无二的表征即可。

S300：均衡服务器监测并收集每一台业务服务器的当前负载情况；

S400：终端的每一个业务需要连接到哪一台服务器，都向均衡服务器发送包括终端ID的询问请求。

终端请求的通信内容和格式为：终端ID，业务1名称，业务2名称，业务3名称…，业务N名称，终端所属区域，终端厂商信息。

S500：均衡服务器根据终端的均衡请求，查询终端和业务服务器的信息及业务服务器的负载情况，确定每一种业务的目标服务器地址返回给终端；

S510、终端和业务服务器集群的匹配：均衡服务器收到终端的询问请求后，提取信息中的终端ID，根据终端ID在加载到本地的终端信息库中匹配到该终端数据，并提取其终端区域、业务种类等特征信息。根据这些特征信息到业务服务器的信息库中，匹配到每一种业务对应的一组业务服务器群，这个业务服务器群中的服务器数量可以是N(N≥1)。

S520、负载均衡：针对每一台服务器预置的最大连接数和已经分配的终端连接数，以顺序、轮询或随机等方式，为每一种业务从已匹配的业务服务器群中确定一台还有剩余连接的服务器作为目标服务器，提取每一个已被选择的业务服务器的IP地址、网址等地址信息返回给终端。若业务服务器群中某台服务器已经分配的终端连接数量达到预设上限，则不再向该服务器继续分配。

在均衡服务器返回给终端目标服务器地址信息的同时，还返回给终端对应业务已匹配的业务服务器群中的其它服务器地址作为冗余地址。

还可以在每一组业务服务器群中，可以设置一台备份服务器，负载均衡服务器返回到终端的地址信息中包含此服务器的地址信息。

顺序的定义如下：假定有N台服务器(N≥1)，将其按照一定的规则进行排序，比如按照服务器的编号排序，先从第一台服务器开始分配，第一台分配满了之后，再继续分配第二台，第二台满了之后，再分配第三台，以此类推。

轮询的定义如下：假定有N台服务器(N≥1)，将其按照一定的规则进行排序，比如按照服务器的编号排序，第一个请求分配给第一台服务器，第二个请求分配给第二台服务器…，当分配到第N台服务器之后再重新回到第一台服务器进行分发。如果某台服务器已经分配达到上限，则退出分发队列。

随机的定义如下：假定有N台服务器(N≥1)组成一个队列，每一个请求随机分配给队列中的一台服务器。如果某台服务器已经分配达到上限，则退出分发队列。

均衡服务器可以根据所监测每台业务服务器的系统当前负载，以动态的调整每台业务服务器的最大连接数。调整最大连接数之后的请求分配方式不变。

服务器返回的通信内容和格式为：业务1分配的服务器地址1，业务1备份的服务器地址11，业务1备份的服务器地址12…；业务2分配的服务器地址2，业务2备份的服务器地址21，业务2备份的服务器地址22…；业务N分配的服务器地址N，业务N备份的服务器地址N1，业务N备份的服务器地址N2…。

S600：终端根据从均衡服务器获取到的每一种业务的目标服务器地址，将每种业务和相应的服务器建立业务连接。

终端与目标服务器无法建立业务连接时，可选择连接冗余地址建立业务连接，且在连通性恢复正常之后，重新切换回目标服务器建立业务连接。

Claims (10)

1.一种综合业务的负载均衡方法，其特征在于包括信息注册、信息加载、收集负载情况、发送请求、获取服务器地址、业务连接步骤，具体包括：

A、信息注册：注册各业务服务器和各终端的特征信息及属性信息；

B、信息加载：加载已注册的各业务服务器和各终端的特征信息及属性信息；

C、收集负载情况：收集各业务服务器的当前负载情况；

D、发送请求：终端就如何与业务服务器进行业务连接发送均衡请求；

E、获取服务器地址：根据终端的均衡请求，查询终端和业务服务器的特征信息及属性信息，以及业务服务器的负载情况，确定每一种业务对应的目标服务器地址并返回给终端；

F、业务连接：终端根据获取到的每一种业务的目标服务器地址，将每种业务和相应的服务器建立业务连接。

2.根据权利要求1所述综合业务的负载均衡方法，其特征在于所述业务服务器的特征信息包括业务类型、区域信息，所述业务服务器的属性信息包括地址；所述终端的特征信息包括终端执行的所有业务种类、终端区域信息，所述终端的属性信息为终端ID。

3.根据权利要求2所述综合业务的负载均衡方法，其特征在于所述业务服务器的地址为IP地址或域名，所述终端ID为一个编号ID、终端的mac地址、终端的磁盘ID和/或终端的系统SN。

4.根据权利要求2所述综合业务的负载均衡方法，其特征在于所述B步骤的加载各业务服务器和各终端的特征信息中，是将各业务服务器和各终端的特征信息读入内存中、放入redis表中、保存在数据库中或放入文件中。

5.根据权利要求2、3或4所述综合业务的负载均衡方法，其特征在于所述E步骤中包括下述具体工步：

E10：根据终端ID查询对应的终端注册信息，提取终端的终端区域、业务种类；

E20：根据提取的终端信息，进而匹配到每一种业务对应的一组业务服务器；

E30：根据业务服务器的最大连接数，和已经分配的终端连接数，确定每一个业务服务器的空闲连接数，为每一种业务选择一个还有剩余连接的业务服务器；

E40：提取每一个已被选择的业务服务器的地址，作为最终确定的目标服务器地址返回给终端。

6.根据权利要求5所述综合业务的负载均衡方法，其特征在于所述E30工步中确定每一个业务服务器的空闲连接数后，以顺序、轮询或随机方式，为每一种业务选择一个还有剩余连接的服务器。

7.根据权利要求5所述综合业务的负载均衡方法，其特征在于所述E步骤中，返回给终端目标服务器地址的同时，还返回给终端对应业务的其它服务器地址作为冗余地址；所述F步骤中，终端与目标服务器无法建立业务连接时，可选择冗余地址建立业务连接，且在连通性恢复正常之后，重新切换回目标服务器建立业务连接。

8.一种综合业务的负载均衡装置，其特征在于包括

注册模块：用于注册各业务服务器和各终端的特征信息及属性信息；

加载模块：用于加载已注册的各业务服务器和各终端的特征信息及属性信息；

负载监测模块：用于收集各业务服务器的当前负载情况；

接收模块：用于接收终端就如何与业务服务器进行业务连接的均衡请求；

获取模块：用于根据终端的均衡请求，查询终端和业务服务器的信息及业务服务器的当前负载情况，确定每一种业务的目标服务器地址返回给终端。

9.根据权利要求8所述综合业务的负载均衡装置，其特征在于所述获取模块包括

提取单元：用于根据终端均衡请求中终端的属性信息，即终端ID，查询对应的终端注册信息，提取终端的特征信息，即终端区域、业务种类；

匹配单元：用于根据提取的终端特征信息及终端ID，进而匹配到每一种业务对应的一组业务服务器；

分配单元：用于根据业务服务器的最大连接数，和已经分配的终端连接数，确定每一个业务服务器的空闲连接数，为每一种业务选择一个还有剩余连接的业务服务器；

确认单元：用于提取每一个已被选择的业务服务器的地址，作为最终确定的目标服务器地址返回给终端。

10.一种综合业务的负载均衡系统，包括权利要求8或9所述综合业务的负载均衡装置。