CN113489775B - 一种基于vpp的七层负载均衡服务器及负载均衡方法 - Google Patents

Abstract

本发明公开了一种基于VPP的七层负载均衡服务器负载均衡方法，基于VPP的七层负载均衡包括：负载均衡管理模块、七层负载均衡应用，以及VPP原本的转发节点和协议栈。其中：负载均衡管理模块主要包括对负载均衡进行配置的命令行接口以及对VPP转发的修改功能；七层负载均衡应用则负责了报文的负载均衡处理、请求的会话保持等关键功能，该控制方法由VPP本体负责报文转发及协议栈处理，能够获得更好的性能表现，同时，由于七层负载均衡应用是独立的，即使出现故障也不会影响VPP本身的报文转发，修改和更新也更加方便。

Description

一种基于VPP的七层负载均衡服务器及负载均衡方法

技术领域

本发明涉及通信技术，具体涉及一种基于VPP的七层负载均衡服务器及负载均衡方法。

背景技术

Vector Packet Processor，向量包处理器，缩写VPP，是一个开源的报文处理框架。核心思想是将整个报文处理流程分布到由许多节点构成的node graph，并且通过在每个节点一次处理多个报文(burst)的方式，提高cache命中率以及利用各种SIMD指令、编译器优化一次对多个报文进行相同处理来提高报文处理速度。同时VPP实现了用户态的协议栈，可以配合DPDK使报文在用户态走完全部处理流程，可以加快处理速度的同时，减少应用对内核的依赖，便于应用和功能更新。

随着网络应用部分的业务量不断提高，访问量和数据流量快速增长，要求服务器的处理能力和计算强度也相应增大，使得单一的服务器设备难以承担。负载均衡(LoadBalance)就是将大量的类似请求分摊到合适的多个不同的实际操作单元上执行，如Web服务器、FTP服务器等。常见的负载均衡一般根据实施的网络协议层级分为四层负载均衡和七层负载均衡，前者通常具有更好的性能表现，后者则可以结合应用达到更理想的均衡效果。常见的软件实现前者有LSV，后者则有NGINX等。此外，还可以通过在网络中服务器前端增设专用负载均衡设备和选择特殊的部署方式来实现更好的负载均衡效果。

其中，传统的七层负载均衡一般通过增设专用的负载均衡设备或在服务器上安装负载均衡软件实现。前者需要购入专用设备，增加网络维护和运营成本；后者则需要让报文多次经过服务器内核处理，性能较低容易使负载均衡的服务器自身成为新的瓶颈。

发明内容

针对现有技术中的上述不足，本发明提供了基于VPP的七层负载均衡服务器及负载均衡方法。

为了达到上述发明目的，本发明采用的技术方案为：

一种基于VPP的七层负载均衡服务器负载均衡方法，包括如下步骤：

S1、初始化VPP；

S2、利用步骤S1初始化后的VPP获取报文并通过VPP默认转发流程将报文发送给协议栈；

S3、当报文被协议栈处理后，通过VPP向七层负载均衡应用发送建立事件通知，并将报文的负载存入会话对应的FIFO缓存中；

S4、创建代理会话并对FIFO缓存中的报文的负载进行七层解析，获取其中的会话键值，判断所获取的会话是否存在会话保持表项，若是则分配其对应的实服务，否则分配一个新的实服务；

S5、将报文的负载转发给实服务，根据实服务的回复依次寻找对应的代理会话和客户端，并将最终的回复报文发送至客户端。

上述方案的有益效果是，由VPP本体负责报文转发及协议栈处理，能够获得更好的性能表现，同时，由于七层负载均衡应用是独立的，所以其即使出现故障也不会影响VPP本身的报文转发，修改和更新也更加方便。

进一步的，所述步骤S1具体包括：

S11、使能VPP的会话管理功能；

S12、向VPP添加负载均衡的服务配置；

S13、根据步骤S12添加的服务配置创建七层负载均衡应用，并注册连接响应以及报文处理的回调函数；

S14、根据步骤S13建立的七层负载均衡应用添加转发表项。

上述进一步方案的有益效果是，对VPP命令行操作进行统一。

进一步的，所述步骤S12中服务配置包括虚服务配置和实服务配置，其中，添加虚服务配置时执行如下操作：

S121、分配虚服务内存并赋值，同时为虚服务分配会话保持表；

S122、分配并初始化新建流表，并在其中填入各实服务的索引；

S123、添加虚服务对应的本地路由表项到VPP转发流程，并标记为本地类型；

添加实服务配置时执行如下操作：

S121、分配实服务内存并赋值；

S122、寻找实服务对应的虚服务，并更新虚服务的新建流表。

上述进一步方案的有益效果是，通过新建和更新流表的方式可以动态的修改负载均衡配置并使其生效，可以结合心跳保活机制动态增减可用的实服务，保障负载均衡的可用性

进一步的，所述步骤S4具体包括：

S41、将FIFO中的报文的负载作为七层协议的头部进行解析，并等待头部全部解析完成；

S42、检查经步骤S41解析后的报文的负载是否存在与实服务的连接，若存在，则直接取出后端连接并将报文的内容转发给实服务；若不存在，则根据配置和报文特征检查客户端是否已发起过连接且存在会话保持；

S43、当VPP与实服务的连接建立成功后，将该连接记录于代理会话中，并转发收到的报文内容给实服务。

上述进一步方案的有益效果是可实现会话保持效果，客户端短暂的断开连接不会导致会话消失，仍会使用同一个实服务，保障客户应用的正常运行。

进一步的，所述步骤S42中根据配置和报文特征检查客户端是否已发起过连接且存在会话保持的具体方式为：

S431、若已存在会话保持，则直接将新的客户端连接使用原会话的实服务；

S432、若不存在会话，则重新根据配置及报文特征将客户端会话绑定至任意可用的实服务，并根据配置决定是否随机生成一个哈希值作为该会话保持键值；

S433、通知VPP向步骤S432分配的实服务发起连接。

上述进一步方案的有益效果是，可实现会话保持效果，客户端短暂的断开连接不会导致会话消失，仍会使用同一个实服务，保障客户应用的正常运行

进一步的，所述步骤S5中根据实服务的回复依次寻找对应的代理会话和客户端具体包括：

S51、当VPP收到实服务的回复后，对报文进行七层解析并直至解析完成；

S52、当回复报文中存在会话保持键值时，提取字段作为会话保持的键值；当回复报文中不存在会话时，则使用步骤S432生成的哈希值作为会话保持键值插入到回复报文中；

S53、根据与实服务的连接找到代理会话，通过代理会话找到客户端的连接并将回复报文发送给客户端。

上述进一步方案的有益效果是，用户可根据实际需要选择不同的会话保持方式，能应对更多的使用场景。

还提出一种基于VPP的七层负载均衡服务器，包括负载均衡管理模块、七层负载均衡应用、VPP转发节点和协议栈；

其中，所述负载均衡管理模块用于对七层负载均衡应用进行配置命令同事对VPP转发进行修改；

所述七层负载均衡应用用于对报文的负载均衡进行解析以及会话保持；

所述VPP转发节点用于接收来自客户端和实服务的报文，并检查其目的地址是否是虚服务或自身的地址，如果是则将报文上交给协议栈进一步处理；

所述协议栈用于对客户端和实服务的报文进行传输层协议处理，传递报文负载给七层负载均衡应用，为七层负载均衡应用的负载封装并发送，通知监听虚服务端口的七层负载均衡应用连接建立事件。

上述方案的有益效果是，管理模块与七层负载均衡应用分开，使用与VPP本身的命令行实现，更易使用；七层负载均衡应用与VPP分离则保障了整个系统运行的稳定性；利用VPP自身的转发和协议栈则能进行高效可靠的报文转发和协议处理。

附图说明

图1为本发明基于VPP的七层负载均衡服务器负载均衡控制方法流程示意图。

图2为本发明实施例初始化流程示意图。

图3为本发明实施例负载均衡与客户端连接收包处理流程示意图。

图4为本发明实施例与实服务连接的收包处理流程示意图。

图5为本发明实施例基于VPP的七层负载均衡服务器结构示意图。

具体实施方式

下面对本发明的具体实施方式进行描述，以便于本技术领域的技术人员理解本发明，但应该清楚，本发明不限于具体实施方式的范围，对本技术领域的普通技术人员来讲，只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内，这些变化是显而易见的，一切利用本发明构思的发明创造均在保护之列。

一种基于VPP的七层负载均衡服务器负载均衡方法，如图1所示，包括如下步骤：

S1、初始化VPP；

在本实施例里，如图2所示，初始化VPP具体包括如下流程，

S11、使能VPP的会话管理功能；

S12、向VPP添加负载均衡的服务配置，具体而言，在VPP中增加七层负载均衡相关的命令行，添加虚服务配置时执行如下操作：

S121、分配虚服务内存并赋值，同时为虚服务分配会话保持表；

S122、分配并初始化新建流表，并在其中填入各实服务的索引；

S123、添加虚服务对应的本地路由表项到VPP转发流程，并标记为本地类型；

添加实服务配置时执行如下操作：

S121、分配实服务内存并赋值；

S122、寻找实服务对应的虚服务，并更新虚服务的新建流表。

S13、根据步骤S12添加的服务配置创建七层负载均衡应用，并注册连接响应以及报文处理的回调函数；

S14、根据步骤S13建立的七层负载均衡应用添加转发表项。

S2、利用步骤S1初始化后的VPP获取报文并通过VPP默认转发流程将报文发送给协议栈；

完成初始化后，七层负载均衡应用就可以开始做负载均衡了，首先，利用VPP将报文从接口收上来之后走VPP的默认转发流程即可，由于之前下发了对应虚服务的本地FIB，所以报文会被收上VPP的协议栈处理。

S3、当报文被协议栈处理后，通过VPP向七层负载均衡应用发送建立事件通知，并将报文的负载存入会话对应的FIFO缓存中；

VPP的会话管理模块会通知我们的七层负载均衡应用连接建立事件或收包事件并将报文的负载存到该会话对应的FIFO缓存。

S4、创建代理会话并对FIFO缓存中的报文的负载进行七层解析，获取其中的会话键值，判断所获取的会话是否存在会话保持表项，若是则分配其对应的实服务，否则分配一个新的实服务；

在本实施例里，如图3所示，步骤S4具体包括：

S41、将FIFO中的报文的负载作为七层协议的头部进行解析，并等待头部全部解析完成；

负载均衡应用会尝试对FIFO中的内容作为七层协议的头部进行解析，如果解析未完成就继续等待，直到头部全部接收完成。

S42、检查经步骤S41解析后的报文的负载是否存在与实服务的连接，若存在，则直接取出后端连接并将报文的内容转发给实服务；若不存在，则根据配置和报文特征检查客户端是否已发起过连接且存在会话保持；

在本实施例里，等头部接收完成后，就开始检查是否已存在与实服务的连接，具体方式为：

S421、若已存在会话保持，则直接将新的客户端连接使用原会话的实服务；

S422、若不存在会话，则重新根据配置及报文特征就爱那个客户端会话绑定至任意可用的实服务，并根据配置决定是否随机生成一个哈希值作为该会话保持键值；

S423、通知VPP向步骤S432分配的实服务发起连接；

S43、当VPP与实服务的连接建立成功后，将该连接记录于代理会话中，并转发收到的报文内容给实服务

S5、将报文的负载转发给实服务，根据实服务的回复依次寻找对应的代理会话和客户端，并将最终的回复报文发送至客户端。

具体而言，如图4所示，根据实服务的回复依次寻找对应的代理会话和客户端具体包括：

S51、当VPP收到实服务的回复后，对报文进行七层解析并直至解析完成；

S52、当回复报文中存在会话保持键值时，提取字段作为会话保持的键值；当回复报文中不存在会话时，则使用步骤S432生成的哈希值作为会话保持键值插入到回复报文中；

S53、根据与实服务的连接找到代理会话，通过代理会话找到客户端的连接并将回复报文发送给客户端。

还提出一种基于VPP的七层负载均衡服务器，如图5所示，包括负载均衡管理模块、七层负载均衡应用、VPP转发节点和协议栈；

其中，所述负载均衡管理模块用于对七层负载均衡应用进行配置命令同事对VPP转发进行修改；

所述七层负载均衡应用用于对报文的负载均衡进行解析以及会话保持；

所述VPP转发节点用于接收来自客户端和实服务的报文，并检查其目的地址是否是虚服务或自身的地址，如果是则将报文上交给协议栈进一步处理；

所述协议栈用于对客户端和实服务的报文进行传输层协议处理，传递报文负载给七层负载均衡应用，为七层负载均衡应用的负载封装并发送，通知监听虚服务端口的七层负载均衡应用连接建立事件。

本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

本发明中应用了具体实施例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

本领域的普通技术人员将会意识到，这里所述的实施例是为了帮助读者理解本发明的原理，应被理解为本发明的保护范围并不局限于这样的特别陈述和实施例。本领域的普通技术人员可以根据本发明公开的这些技术启示做出各种不脱离本发明实质的其它各种具体变形和组合，这些变形和组合仍然在本发明的保护范围内。

Claims (7)

1.一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，包括如下步骤：

S1、初始化VPP；

S2、利用步骤S1初始化后的VPP获取报文并通过VPP默认转发流程将报文发送给协议栈；

S3、当报文被协议栈处理后，通过VPP向七层负载均衡应用发送建立事件通知，并将报文的负载存入会话对应的FIFO缓存中；

S4、创建代理会话并对FIFO缓存中的报文的负载进行七层解析，获取其中的会话键值，判断所获取的会话是否存在会话保持表项，若是则分配其对应的实服务，否则分配一个新的实服务；

S5、将报文的负载转发给实服务，根据实服务的回复依次寻找对应的代理会话和客户端，并将最终的回复报文发送至客户端。

2.根据权利要求1所述的一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，所述步骤S1具体包括：

S11、使能VPP的会话管理功能；

S12、向VPP添加负载均衡的服务配置；

S13、根据步骤S12添加的服务配置创建七层负载均衡应用，并注册连接响应以及报文处理的回调函数；

S14、根据步骤S13建立的七层负载均衡应用添加转发表项。

3.根据权利要求2所述的一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，所述步骤S12中服务配置包括虚服务配置和实服务配置，其中，添加虚服务配置时执行如下操作：

S121、分配虚服务内存并赋值，同时为虚服务分配会话保持表；

S122、分配并初始化新建流表，并在其中填入各实服务的索引；

S123、添加虚服务对应的本地路由表项到VPP转发流程，并标记为本地类型；

添加实服务配置时执行如下操作：

S121、分配实服务内存并赋值；

S122、寻找实服务对应的虚服务，并更新虚服务的新建流表。

4.根据权利要求3所述的一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，所述步骤S4具体包括：

S41、将FIFO中的报文的负载作为七层协议的头部进行解析，并等待头部全部解析完成；

S42、检查经步骤S41解析后的报文的负载是否存在与实服务的连接，若存在，则直接取出后端连接并将报文的内容转发给实服务；若不存在，则根据配置和报文特征检查客户端是否已发起过连接且存在会话保持；

S43、当VPP与实服务的连接建立成功后，将该连接记录于代理会话中，并转发收到的报文内容给实服务。

5.根据权利要求4所述的一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，所述步骤S42中根据配置和报文特征检查客户端是否已发起过连接且存在会话保持的具体方式为：

S421、若已存在会话保持，则直接将新的客户端连接使用原会话的实服务；

S422、若不存在会话，则重新根据配置及报文特征将客户端会话绑定至任意可用的实服务，并根据配置决定是否随机生成一个哈希值作为该会话保持键值；

S423、通知VPP向步骤S422分配的实服务发起连接。

6.根据权利要求5所述的一种基于VPP的七层负载均衡服务器负载均衡方法，其特征在于，所述步骤S5中根据实服务的回复依次寻找对应的代理会话和客户端具体包括：

S51、当VPP收到实服务的回复后，对报文进行七层解析并直至解析完成；

S52、当回复报文中存在会话保持键值时，提取字段作为会话保持的键值；当回复报文中不存在会话时，则使用步骤S432生成的哈希值作为会话保持键值插入到回复报文中；

S53、根据与实服务的连接找到代理会话，通过代理会话找到客户端的连接并将回复报文发送给客户端。

7.一种基于权利要求1-6任一项控制方法的七层负载均衡服务器，其特征在于，包括负载均衡管理模块、七层负载均衡应用、VPP转发节点和协议栈；

其中，所述负载均衡管理模块用于对七层负载均衡应用进行配置命令同事对VPP转发进行修改；

所述七层负载均衡应用用于对报文的负载均衡进行解析以及会话保持；

所述VPP转发节点用于接收来自客户端和实服务的报文，并检查其目的地址是否是虚服务或自身的地址，若是则将报文上交给协议栈进一步处理；

所述协议栈用于对客户端和实服务的报文进行传输层协议处理，传递报文负载给七层负载均衡应用，为七层负载均衡应用的负载封装并发送，通知监听虚服务端口的七层负载均衡应用连接建立事件。