CN109688229A - 一种负载均衡集群下会话保持系统 - Google Patents

Abstract

本发明公开了一种负载均衡集群下会话保持系统，属于计算机技术领域，一种负载均衡集群下会话保持系统，包括位于集群的前端负载调度器中的负载均衡模块、位于集群的每个后端节点中的会话管理模块和位于集群中存储集群的每个服务节点上的会话存储模块，负载均衡模块连接有用户，负载均衡模块与会话管理模块连接，会话管理模块与会话存储模块连接，负载均衡模块包括请求分类、粘贴会话、负载计算、阈值触发和节点选择，会话存储模块包括内存存储子模块和持久化子模块，实现高并发环境下Web集群会话通信的高效准确，具备高效、高可用、自适应的特点。

Description

一种负载均衡集群下会话保持系统

技术领域

本发明涉及计算机技术领域，更具体地说，涉及一种负载均衡集群下会话保持系统。

背景技术

当前，国内云计算产业呈现爆发式发展，推广使用到各个领域，这使得云平台的计算资源需求量大幅上升，为应对这一情况，使用负载均衡集群技术是最佳的选择。其高可用、扩展性强、低成本的特性也得到业界的青睐。但是，在Web应用领域，由于HTTP协议本身是无状态协议，而电商等业务需要保持会话状态，因此要在HTTP协议基础上使用了会话保持技术。该技术在单机环境下工作正常，然而，在负载均衡集群环境下，会话保持技术会由于前后服务节点的变化导致Web应用的逻辑混乱。因此，为了推广负载均衡集群到电商领域，如何在负载均衡集群中保持会话是必须解决的问题。

现有技术中《一种基于cookie的会话保持方法及装置》于2017-12-13日向中国国家知识产权局申请专利并获得批准(审中-实审)，于2018-05-04日公开，公开号：107995304A。本申请提供一种基于cookie的会话保持方法，所述方法包括：在接收到客户端发出的HTTP报文的情况下，判断其是否携cookie信息；在客户端发出的HTTP报文没有携带cookie信息的情况下，根据预设的负载均衡算法为客户端发送的HTTP报文分配服务器，并将客户端发出的HTTP报文发送给分配的服务器；在接收到分配的服务器发出的响应报文的情况下，在响应报文中插入cookie信息，并将插入cookie信息的响应报文返回给客户端；在接收到客户端再次发出的HTTP报文的情况下，解析其携带的cookie信息，根据解析得到的cookie信息将所述客户端再次发出的HTTP报文转发到分配的服务器。

该技术方案虽然实现了集群下的会话保持，但在同一用户产生高并发请求的情况下，集群容易负载失衡，且由于会话信息存储在本地，难以保证会话数据高可用。

现有技术中《一种多服务器下的会话保持共享方法及系统》于2015-08-11日向中国国家知识产权局申请专利并获得批准(审中-实审)，于2015-12-09日公开，公开号：105141676A。本发明涉及一种多服务器下的会话保持共享方法及系统，包括以下步骤：当系统中的任一服务器接收客户端发送的用于请求创建会话的会话请求时，根据会话请求获取会话ID；接收到会话请求的所述服务器根据会话ID查询缓存服务器，得到查询结果；所述服务器将查询结果返回给客户端。本发明避免web服务器之间进行会话复制等不必要操作，使会话能够统一进行管理，不用担心引web服务器因重启导致的会话丢失。

该技术方案实现了会话保持，保证了会话数据高可用，但同时也导致缓存服务器的性能成为整个集群的性能瓶颈。

传统的负载均衡算法如轮询、加权轮询、源地址散列调度等这类算法由于决定请求分配的参数是节点的静态环境指标，在高并发环境下容易负载倾斜。而采用动态算法如加权最少链接来根据节点当前环境分配负载，在业务类型相近的情况下能获得较好的集群性能，但在当前复杂的请求业务环境使得这种算法难以适用。对于会话保持机制，粘性会话机制是在一定时间内将保持用户与后台某个节点的连接，但这种方法的会话数据易丢失，破坏了负载均衡粒度，会话服务器机制则将会话数据在集群内共享，保证了会话数据高可用，但同时导致了结构复杂，存储节点易成为性能瓶颈。

发明内容

1.要解决的技术问题

针对现有技术中存在的问题，本发明的目的在于提供一种负载均衡集群下会话保持系统，采用基于内容分类的加权负载反馈负载均衡算法，并将粘性会话和会话服务器技术相结合，有效解决了负载均衡集群下会话保持的问题，能够实现高并发环境下Web集群会话通信的高效准确，具备高效、高可用、自适应等特点。

2.技术方案

为解决上述问题，本发明采用如下的技术方案。

一种负载均衡集群下会话保持系统，包括位于集群的前端负载调度器中的负载均衡模块、位于集群的每个后端节点中的会话管理模块和位于集群中存储集群的每个服务节点上的会话存储模块，所述负载均衡模块连接有用户，所述负载均衡模块与会话管理模块连接，所述会话管理模块与会话存储模块连接，采用基于内容分类的加权负载反馈负载均衡算法，并将粘性会话和会话服务器技术相结合，有效解决了负载均衡集群下会话保持的问题，能够实现高并发环境下Web集群会话通信的高效准确，具备高效、高可用、自适应等特点。

进一步的，所述负载均衡模块包括请求分类、粘贴会话、负载计算、阈值触发和节点选择。

进一步的，所述会话存储模块包括内存存储子模块和持久化子模块。

进一步的，所述负载均衡集群下会话保持系统还包括后端Web服务器。

进一步的，所述负载均衡模块采用基于Cookie会话保持技术，所述基于Cookie会话保持技术连接有Cookie局域网共享模块。

进一步的，局域网共享储存网盘内设有加密进程。

进一步的，所述会话存储模块采用redis集群。

进一步的，所述负载均衡集群下会话保持系统采用基于内容分类的加权负载反馈负载均衡算法。

进一步的，所述基于内容分类的加权负载反馈负载均衡算法包括如下步骤：

(1)集群初始状态下，负载调度器依据系统配置文件得到后端节点的初始权重，系统运行后，随着后端节点负载状态的变化，权重会发生变化；

(2)系统开始运行后，用户浏览器的第一次请求报文来到集群的负载调度器，负载调度器首先解析报文得到请求类型，然后依据对应服务的初始权重将报文转发至合适的后端节点；后端节点处理完后会生成新的会话数据，将包含会话ID的Cookie连同响应包返回调度器，调度器将该会话ID与后端节点关联写入会话信息表，同时响应用户浏览器；

(3)当该用户请求再次到来时，调度器从请求报文解析得到Cookie，如果Cookie中存在节点信息数据，则比对集群中后端节点信息，如果找到对应的节点则将请求转发至该后端节点，否则按照步骤(2)处理；

(4)调度器比对节点与相应服务的权重与严重负载阈值，如果权重小于严重负载阈值，则说明该节点已严重过载，确认其上的会话数据已全部上传至会话存储集群后，清除节点该会话的所有会话数据，清除会话信息表中相应记录，然后在剩余节点中重新选择合适节点；如果权重大于严重负载阈值并且小于临界负载阈值，则说明该节点处于临界负载状态，调度器清除会话信息表中相应记录，同时节点照常处理会话，回复包含Cookie的响应包给调度器；如果权重大于临界负载阈值，则说明该节点处于正常工作状态，模块不做任何处理，节点处理完会话后响应会话；

(5)调度器选择完后端节点后，更新会话信息表中该会话的会话ID对应的后端节点信息，将请求转发至新的后端节点；

(6)新的节点接受到请求后，发现自身没有这个会话的会话数据，会从会话存储集群中获取相应会话数据，正常处理该请求。

3.有益效果

相比于现有技术，本发明的优点在于：

(1)相比较现有技术存在的负载易失衡以及会话数据易丢失的问题，本发明能在会话保持的情况下维持集群的负载均衡，实现会话数据的高可用。

(2)相比较现有技术存在的缓存服务器性能瓶颈的问题，本发明能在一定程度上缓解性能瓶颈问题，提高集群性能的上限。

本发明采用基于内容分类的加权负载反馈负载均衡算法，并将粘性会话和会话服务器技术相结合，有效解决了负载均衡集群下会话保持的问题，能够实现高并发环境下Web集群会话通信的高效准确，具备高效、高可用、自适应的特点。

附图说明

图1为本发明的系统架构图；

图2为负载均衡算法流程图；

图3为会话数据管理的时序图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述；显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例，基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

在本发明的描述中，需要说明的是，术语“上”、“下”、“内”、“外”、“顶/底端”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性。

在本发明的描述中，需要说明的是，除非另有明确的规定和限定，术语“安装”、“设置有”、“套设/接”、“连接”等，应做广义理解，例如“连接”，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以具体情况理解上述术语在本发明中的具体含义。

实施例1：

一种负载均衡集群下会话保持系统，图1是本发明提供的系统架构图，如图1所示，该图示意了一种会话保持系统：

首先，该系统用户请求与负载均衡模块进行交互：负载均衡模块位于集群的前端负载调度器中，负责接收用户的会话请求，对请求内容进行区分，将请求分发至后端Web服务器，同时采用基于Cookie会话保持技术，在用户会话过去连入过集群的情况下，在设定的时间内，同一用户会话会持续连接在同一后端服务器上，在初次请求或负载失衡时，收集后端服务器的负载情况，重新调配请求至后端节点。

其次，负载均衡模块与会话管理模块进行交互；会话管理模块位于集群的每个后端节点中，负责管理存储在本地的会话信息，并且定期收集自身的负载情况，便于负载均衡模块调度时获取利用，会话数据存储在本地服务器的共享内存上，本模块会管理本地会话的新建、修改、删除及将会话数据复制一份到会话存储模块。

最后，会话管理模块与会话存储模块进行交互；会话存储模块位于集群中存储集群的每个服务节点上，负责集群全局会话数据的存储与备份，采用redis集群实现。该模块主要分为内存存储和持久化两个部分，内存存储部分将会话数据按照一定的结构存储在内存中，用于快速访问，持久化部分将内存中的会话数据写入硬盘中，用于防止数据丢失。

当本系统适用于使用内网的企业用户时，首先在企业用户的内网中建立Cookie局域网共享模块，Cookie局域网共享模块包括Cookie权限读取/载入进程和局域网共享存储网盘，Cookie权限读取/载入进程获得局域网内企业用户的终端Cookie读取/载入权限，局域网共享存储网盘存储企业用户电脑所有的Cookie,例如：现有技术中使用cookie进行识别也就是Haproxy在用户第一次访问后在用户浏览器插入了一个Cookie，用户下一次访问的时候浏览器就会带上这个Cookie给Haproxy，Haproxy进行识别。

配置指令:cookie SESSION_COOKIE insert indirect nocache

配置例子如下：

cookie SERVERID insert indirect nocache

server web01 192.168.56.11:8080check cookie web01

server web02 192.168.56.12:8080check cookie web02

当企业用户使用终端浏览器时被插入的Cookie会同时插入所有使用局域网共享存储网盘的企业用户终端中，之后企业用户使用内网内任何一台终端再次访问浏览器时就会带上含这个Cookie给Haproxy，Haproxy进行识别。

配置指令同样是:cookie SESSION_COOKIE insert indirect nocache

而不是重新要插入一个Cookie，配合基于内容分类的加权负载反馈负载均衡算法，并将粘性会话和会话服务器技术相结合，有效解决了负载均衡集群下会话保持的问题，实现高并发环境下Web集群会话通信的高效准确。

图2是本发明提供的负载均衡算法流程图，如图2所示，该图示意了一种基于内容分类的加权负载反馈负载均衡算法，下面将结合实际操作对流程图进行分析：

(1)集群初始状态下，负载调度器依据系统配置文件得到后端节点的初始权重P，系统运行后，随着后端节点负载状态的变化，权重P会发生变化；

(2)系统开始运行后，用户浏览器的第一次请求报文来到集群的负载调度器，负载调度器首先解析报文得到请求类型，然后依据对应服务的初始权重P将报文转发至合适的后端节点；后端节点处理完后会生成新的会话数据，将包含会话ID的Cookie连同响应包返回调度器，调度器将该会话ID与后端节点关联写入会话信息表，同时响应用户浏览器；

(3)当该用户请求再次到来时，调度器从请求报文解析得到Cookie，如果Cookie中存在节点信息数据，则比对集群中后端节点信息，如果找到对应的节点则将请求转发至该后端节点，否则按照步骤(2)处理；

(4)调度器比对节点与相应服务的权重P与严重负载阈值H，如果P小于H，则说明该节点已严重过载，确认其上的会话数据已全部上传至会话存储集群后，清除节点该会话的所有会话数据，清除会话信息表中相应记录，然后在剩余节点中重新选择合适节点；如果P大于H并且小于临界负载阈值T，则说明该节点处于临界负载状态，调度器清除会话信息表中相应记录，同时节点照常处理会话，回复包含Cookie的响应包给调度器；如果P大于T，则说明该节点处于正常工作状态，模块不做任何处理，节点处理完会话后响应会话；

(5)调度器选择完后端节点后，更新会话信息表中该会话的会话ID对应的后端节点信息，将请求转发至新的后端节点；

(6)新的节点接受到请求后，发现自身没有这个会话的会话数据，会从会话存储集群中获取相应会话数据，正常处理该请求。

图3是本发明提供的会话数据管理的时序图，如图3所示，该图示意了一种会话管理时序：

后端节点收到调度器转发的来自于用户的新请求后，会话管理模块会检查报文头中是否存在会话ID，而新的请求没有会话ID，然后PHP会为该用户创建会话，生成独一无二的会话ID和会话ID对应的会话数据。会话ID会以Cookie的形式返回用户客户端，同时，会异步的将会话数据序列化后存入当前节点的本地内存中，并备份一份到会话存储集群。当用户的请求再一次到后端节点，会话管理模块同样会检查报头，由于是再次访问集群，报文中会携带用户自身会话的会话ID，模块依据会话ID到本地内存中查询会话ID对应的记录。当存在时，则直接从本地内存获取相应的会话数据；当不存在时，则到会话存储集群中查询获取会话数据。得出会话数据后，将会话数据反序列化后赋值给新建的变量$_SESSION，再继续执行脚本之后的内容。脚本执行完成后，PHP将变量$_SESSION的值序列化后更新在本地内存中相关记录，并备份一份到会话存储集群。后端节点收到调度器转发的来自于用户的请求后，会话管理模块会检查报文头中是否存在会话ID，已经存在会话ID的话，则可以直接写入会话数据，异步写入并完成响应客户。

本发明采用基于内容分类的加权负载反馈负载均衡算法，并将粘性会话和会话服务器技术相结合，有效解决了负载均衡集群下会话保持的问题，能够实现高并发环境下Web集群会话通信的高效准确，具备高效、高可用、自适应的特点。

以上所述，仅为本发明较佳的具体实施方式；但本发明的保护范围并不局限于此。任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，根据本发明的技术方案及其改进构思加以等同替换或改变，都应涵盖在本发明的保护范围内。

Claims (10)

1.一种负载均衡集群下会话保持系统，其特征在于：包括位于集群的前端负载调度器中的负载均衡模块、位于集群的每个后端节点中的会话管理模块和位于集群中存储集群的每个服务节点上的会话存储模块，所述负载均衡模块连接有用户，所述负载均衡模块与会话管理模块连接，所述会话管理模块与会话存储模块连接。

2.根据权利要求1所述的一种负载均衡集群下会话保持系统，其特征在于：所述负载均衡模块包括请求分类、粘贴会话、负载计算、阈值触发和节点选择。

3.根据权利要求1所述的一种负载均衡集群下会话保持系统，其特征在于：所述会话存储模块包括内存存储子模块和持久化子模块。

4.根据权利要求1所述的一种负载均衡集群下会话保持系统，其特征在于：所述负载均衡集群下会话保持系统还包括后端Web服务器。

5.根据权利要求1所述的一种负载均衡集群下会话保持系统，其特征在于：所述负载均衡模块采用基于Cookie会话保持技术，所述基于Cookie会话保持技术连接有Cookie局域网共享模块。

6.根据权利要求5所述的一种负载均衡集群下会话保持系统，其特征在于：所述Cookie局域网共享模块包括Cookie权限读取/载入进程和局域网共享存储网盘。

7.根据权利要求6所述的一种负载均衡集群下会话保持系统，其特征在于：所述局域网共享储存网盘内设有加密进程。

8.根据权利要求1所述一种负载均衡集群下会话保持系统，其特征在于：所述会话存储模块采用redis集群。

9.根据权利要求1所述的一种负载均衡集群下会话保持系统，其特征在于：所述负载均衡集群下会话保持系统采用基于内容分类的加权负载反馈负载算法。

10.根据权利要求1-5所述的一种负载均衡集群下会话保持系统，其特征在于：所述基于内容分类的加权负载反馈负载均衡算法包括如下步骤：

(1)集群初始状态下，负载调度器依据系统配置文件得到后端节点的初始权重，系统运行后，随着后端节点负载状态的变化，权重会发生变化；

(2)系统开始运行后，用户浏览器的第一次请求报文来到集群的负载调度器，负载调度器首先解析报文得到请求类型，然后依据对应服务的初始权重将报文转发至合适的后端节点；后端节点处理完后会生成新的会话数据，将包含会话ID的Cookie连同响应包返回调度器，调度器将该会话ID与后端节点关联写入会话信息表，同时响应用户浏览器；

(3)当该用户请求再次到来时，调度器从请求报文解析得到Cookie，如果Cookie中存在节点信息数据，则比对集群中后端节点信息，如果找到对应的节点则将请求转发至该后端节点，否则按照步骤(2)处理；

(4)调度器比对节点与相应服务的权重与严重负载阈值，如果权重小于严重负载阈值，则说明该节点已严重过载，确认其上的会话数据已全部上传至会话存储集群后，清除节点该会话的所有会话数据，清除会话信息表中相应记录，然后在剩余节点中重新选择合适节点；如果权重大于严重负载阈值并且小于临界负载阈值，则说明该节点处于临界负载状态，调度器清除会话信息表中相应记录，同时节点照常处理会话，回复包含Cookie的响应包给调度器；如果权重大于临界负载阈值，则说明该节点处于正常工作状态，模块不做任何处理，节点处理完会话后响应会话；

(5)调度器选择完后端节点后，更新会话信息表中该会话的会话ID对应的后端节点信息，将请求转发至新的后端节点；

(6)新的节点接受到请求后，发现自身没有这个会话的会话数据，会从会话存储集群中获取相应会话数据，正常处理该请求。