CN103297347A - 一种负载均衡处理方法及装置 - Google Patents

Abstract

本发明提供一种负载均衡处理方法，应用于负载均衡设备上，该方法包括：确定接收到的数据报文所属会话，如果属于新会话则根据预设算法选择一条接入链路并创建会话记录，将会话的第一及第二出接口标识更新为选择到的链路的出接口标识；如果该报文属于已有会话，检查该会话的第一与第二出接口标识是否相同，如相同则检查接入链路的带宽是否饱和，如果是则依据迁移算法重新选择一条相对空闲的接入链路，并更新该会话的第二出接口标识；将该报文从第二出接口标识从对应的接入链路上发送出去。相较于现有技术，本发明可以针对一条链路上承载的已有会话的数据报文流量进行调度，可以有效避免已有会话的数据报文流量增大导致的严重丢包问题。

Description

一种负载均衡处理方法及装置

技术领域

本发明涉及数据通信技术领域，尤其涉及一种负载均衡处理方法及装置。

背景技术

在企业组网应用中，尤其是在大中型企业的组网应用中，企业为了确保内部员工透过Internet访问远程服务器的体验，另一方面为了访问Internet业务的可靠性，通常会在企业网络出口部署两个或更多的运营商（ISP）链路（比如电信链路、联通链路等）来实现Internet接入。

请参考图1所示，在部署多条运营商链路时，企业网络的管理者通常还希望在出口位置的设备上实现多链路的负载均衡功能，也就是说将出口的流量在多条链路上根据某种算法进行负载分担。企业内网的个人计算机PC用户需要访问Internet上的远程服务器时，PC发出去的业务报文被企业网出口部署的负载均衡设备按某种算法在两条运营商链路上选择较优的一条链路进行分发。负载均衡设备通常是具有负载均衡功能的网关设备，在很多实现中通过增加这样的软件功能来实现出口网关设备负载均衡的调度功能。然而目前负载均衡的调度仍然存在一些缺陷需要解决。

发明内容

有鉴于此，本发明提供一种负载均衡处理装置，应用于负载均衡设备上，该负载均衡设备至少可通过两条接入链路接入外部网络；该装置包括：均衡运算单元、标识处理单元以及发送调度单元，其中：

均衡运算单元，用于在负载均衡设备接收到数据报文后查询会话表以确定该数据报文所属会话，如果查询未命中则确定该报文属于新会话并根据预设的负载均衡算法为该报文选择一条接入链路；如果查询命中则确定该报文属于已有会话；

标识处理单元，用于在该报文属于新会话时在会话表为其创建会话记录；并将会话表中该会话的第一出接口标识以及第二出接口标识更新为该选择到的接入链路对应的出接口标识；

其中该标识处理单元进一步用于在该报文属于已有会话时检查该会话的第一出接口标识与第二出接口标识是否相同，如果相同，则检查该第二出接口标识对应的接入链路的带宽占用是否已经达到预设的饱和阈值，如果达到则确定该接入链路处于饱和状态并依据迁移算法重新选择一条相对空闲的接入链路，并将会话表中该会话的第二出接口标识更新为重新选择的接入链路的出接口标识；

发送调度单元，用于将该报文从第二出接口标识对应的接入链路上发送出去。

本发明还提供一种负载均衡处理方法，应用于负载均衡设备上，该负载均衡设备至少可通过两条接入链路接入外部网络；其中，该方法包括：

步骤A、在负载均衡设备接收到数据报文后查询会话表以确定该数据报文所属会话，如果查询未命中则确定该报文属于新会话并根据预设的负载均衡算法为该报文选择一条接入链路；如果查询命中则确定该报文属于已有会话；

步骤B、在该报文属于新会话时在会话表为其创建会话记录；并将会话表中该会话的第一出接口标识以及第二出接口标识更新为该选择到的接入链路对应的出接口标识；在该报文属于已有会话时检查该会话的第一出接口标识与第二出接口标识是否相同，如果相同，则检查该第二出接口标识对应的接入链路的带宽占用是否已经达到预设的饱和阈值，如果达到则确定该接入链路处于饱和状态并依据迁移算法重新选择一条相对空闲的接入链路，并将会话表中该会话的第二出接口标识更新为重新选择的接入链路的出接口标识；

步骤C、将该报文从第二出接口标识从对应的接入链路上发送出去。

相较于现有技术，本发明可以针对一条链路上承载的已有会话的数据报文流量进行调度，可以有效避免已有会话的数据报文流量增大导致的严重丢包问题。

附图说明

图1是一种典型的企业负载均衡组网方案示意图。

图2是本发明一种实施方式中负载均衡处理装置的逻辑结构图。

图3是本发明一种实施方式中负载均衡处理方法流程图。

具体实施方式

各种负载均衡的算法已经被广泛应用在网络技术的各个层面中，从接入网络到核心网络都可以看到负载均衡的应用。负载均衡算法所调度的对象可能是报文，也可能是主机（比如在VRRP这样的协议中），也可能是基于会话进行调度。本发明适用于以会话为基本调度对象的负载均衡应用场景中。这类型技术通常应用在企业网络的出口的负载均衡设备上。在这种应用的算法实现上，通常基于链路带宽的实际使用，来决定归属于不同会话的数据报文在不同的接入链路上调度发送。但这种基于带宽的链路负载均衡分发算法主要是基于会话连接的建立来触发的，也就是每一个新会话连接建立时根据此时接入链路带宽的状况选择最优的一条接入链路来发送该会话的数据报文。系统判断链路实际使用带宽达到该链路设置的饱和阈值后，对于新的会话连接，就不再往该链路进行分配，直到该链路实际带宽小于上述预设的饱和阈值为止。这种调度分发机制不能解决已有的会话连接的流量超出链路设置的带宽阈值的问题。

举例来说，假设负载均衡网络设备在ISP1接入链路上调度了10条会话连接，这10个会话上起初业务报文流量不大，但是过一段时间后，部分会话上的数据报文流量大幅度增加，从而导致数据报文总体流量超出了链路占用超过了饱和阈值，此时负载均衡网络设备只能确保新建立的会话连接不往ISP1链路上调度，但是无法解决当前该链路上已有会话的数据报文流量增大导致带宽占用超过饱和阈值而引发大量丢包问题，大量丢包显然是最影响用户上网体验的问题。这种问题在长连接并且对带宽比较敏感的应用中会更为突出，如果某个长连接的数据报文流量需求超出带宽实际能力，不仅可能导致该长连接的数据报文发生丢包甚至可能导致其应用中断。

为了解决上述问题，本发明相应提供一种负载均衡处理方法及对应的装置。请参考图2，该装置可以运行在负载均衡设备一般的硬件架构上，该硬件架构中通常可以包括CPU、内存、非易失性存储器以及包括接口在内的各种业务硬件。以软件实现为例，该装置在逻辑上包括均衡运算单元、标识处理单元、发送调度单元、回切处理单元以及配置管理单元。其在运行过程中执行如下处理流程。

步骤101，均衡运算单元用于在负载均衡设备接收到数据报文后查询会话表以确定该数据报文所属会话，如果查询未命中则确定该报文属于新会话并根据预设的负载均衡算法为该报文选择一条接入链路转步骤102处理；如果查询命中则确定该报文属于已有会话转步骤103处理；

步骤102，标识处理单元用于在该报文属于新会话时在会话表为其创建会话记录；并将会话表中该会话的第一出接口标识以及第二出接口标识更新为步骤101选择到的接入链路对应的出接口标识，然后转步骤106处理；

均衡运算单元在收到一个数据报文以后，可以根据报文的会话特征（比如报文五元组）查找会话表，如果命中一条会话记录说明该报文属于一个已有会话的后续报文，与现有技术不同的是本发明并不是立刻根据该会话记录对应的出接口标识（比如出接口索引）来确定发送该报文的链路。本发明在命中会话记录之后，对于已有会话的报文本发明会继续在后续步骤中判断其有无迁移到其他接入链路上发送的需要。

如果该报文属于一个新会话的首报文，会话表中显然不会有与该报文会话特征对应的会话记录，此时可以和现有技术一样创建一条新的会话记录。然后采用预设的负载均衡算法来为当前报文选择一条链路。显然对于一个新会话的首报文来说，均衡算法单元当前所选择的链路一般是比较空闲链路，其带宽占用通常会小于饱和阈值，或者如全部链路都饱和，则选择占用情况最接近饱和阈值的链路。无论是上述那种情形，此时不需要考虑一个新会话首报文发送链路的迁移问题，因此可以转到步骤106做发送调度处理。

步骤103，标识处理单元根据会话表判断该报文所属会话的第一出接口标识以及第二出接口标识是否相同；如果相同转步骤104处理，否则转步骤108处理；

步骤104，标识处理单元进一步判断该第一出接口标识对应的链路带宽占用是否达到预设阈值，如果是转步骤105，否则转步骤106；

步骤105，标识处理单元将第二出接口标识更新为其他相对空闲的链路对应的出接口标识；

步骤106，发送调度单元将该报文调度到第一出接口标识所对应的接口上进行相应的业务处理；

步骤107，发送调度单元将经过业务处理的报文通过第二出接口标识对应的链路发送出去；

步骤108，回切处理单元进一步判断预设的回切条件是否满足，如果是则将第二出接口标识更新为第一出接口标识转步骤106，否则转步骤106处理。

相对于现有技术而言，本发明使用两个出接口标识，其中第一出接口标识主要用来确定报文离开前应该在哪个接口上进行其需要进行业务处理。一个出接口通常可以指向一个接口。第一出接口标识的引入可以确保一个会话的所有报文始终在相同的接口上进行业务处理。以最为典型的地址转换（NAT）业务为例，如果一个会话的多个报文在不同的接口上进行NAT处理，这马上会导致会话中断，因为NAT处理会对报文中的源IP地址和源端口进行修改，在不同的接口上做NAT处理会导致IP地址和端口号的修改结果不一致，这就显然会立刻导致会话中断。同样的道理，有一些部分安全处理等业务处理也可能会遇到同样的问题，因而第一出接口标识的存在可以在相当程度上避免这些问题。当然如果某些应用不需要会话所有数据报文在同一接口上进行业务处理，则并不需要第一出接口标识来引导会话报文到同一个接口上进行业务处理。

在本发明中，第二出接口标识与传统技术中的出接口标识作用类似，主要用来告知发送调度单元当前这个数据报文应该从哪条链路上发送出去。但是与现有技术不同的是，本发明会根据实际情况来变更第二出接口标识。对于一个已有会话的后续报文来说，由于步骤101的处理，此前在该会话作为新会话其首报文到来的时候，标识处理单元已经为其创建了会话记录并更新了该会话的第一出接口标识以及第二出接口标识。此时在处理后续报文时，会先判断该会话记录对应的第一出接口与第二出接口标识是否相同。如果不相同则意味着在之前的处理过程中，标识处理单元曾经修改过第二出接口标识。如果相同则意味着标识处理单元未曾修改过该第二出接口标识，或者其修改后又被回切处理单元重新修改回来了。

当第一出接口标识与第二出接口标识相同的时候，标识处理单元需要检查第二出接口标识对应的链路的带宽占用情况，如果该链路带宽占用已经超过了预设饱和阈值，比如90%，则说明该链路已经饱和，一旦该链路上承载的多个会话的数据报文流量突然增大，则很可能导致该链路出现大量丢包的情况，因此此时需要考虑将其上已经承载的会话的数据报文迁移到相对空闲的接入链路上去。所谓相对空闲包括两种情况，一种是空闲状态的链路，即带宽占用未达到饱和阈值，另一种是虽然也达到了饱和阈值，但是饱和度比当前这个接入链路要轻。在现有技术中，均衡运算单元运用负载均衡算法为报文选择链路的时候，没有考虑到一个会话上的数据报文流量大小会有极大的波动性，这种波动性可能导致一条链路的带宽占用可能在极短的时间从50%增加到90%，甚至更高。而本发明则在通过第二出接口标识对应的接入链路发送报文之前先检查该接入链路带宽占用情况。一旦超过饱和阈值，则此时依据预设的迁移算法（可参考各种已有的负载均衡算法实现）新选择一条相对空闲的接入链路来代替该链路，将会话表中该会话记录的第二出接口标识修改为该相对空闲链路的出接口标识。这样一来，后续属于该会话的数据报文会持续从新选择的链路来发送。

当第一出接口标识与第二出接口标识不相同的时候，这说明标识处理单元在该会话更早的后续报文处理过程中已经修改了会话记录的第二出接口标识，也就是说之前本会话已经有报文经历了步骤105的处理。步骤105的处理说明原接入链路（也就是第一出接口标识对应的接入链路）曾经出现过饱和状态。但是接入链路的状态是动态的，此时也许原链路可能已经从饱和状态变为空闲状态了，此时可以考虑由回切处理单元来判断是否可能回切。考虑会话的数据报文流量回切的主要原因是，原来承载该会话数据报文流量的接入链路很可能是最适合发送该会话的数据报文的链路，因为均衡运算单元在第一次为该会话选择接入链路时很可能会考虑到该会话在不同链路上的时延问题。比如说某些应用所产生的会话，其会话对端可能是位于运营商A网络的服务器，如果从运营商B的链路接入时延可能比较高；只有原链路（也就是运营商A的接入链路）已经饱和，才被迫选择了迁移，毕竟时延高一点要比发生丢包对用户来说更容易被接受。

在优选的方式中，若报文所属会话的第一出接口标识与第二出接口标识不同，则说明该报文所属会话是被迁移过的会话，此时可以进一步看看该会话是否可以被回切到原来的接入链路上。回切条件同样可以基于预设的回切阈值来判断，回切处理单元可以判断原链路（也就是第一出接口标识对应的链路）的带宽占用是否小于预设的回切阈值，如果是则说明原链路已经足够空闲，此时可以再次将第二出接口标识修更新为与第一出接口标识相同的出接口标识，相当于回到了链路未达到饱和阈值时的处理结果。回切处理完成后，从当前这个数据报文开始，该会话的后续报文又可以重新回到原链路上来发送了。当然，如果带宽占用不小于回切阈值，则说明原链路的带宽占用依然比较饱和，此时可以放弃回切，继续从新选择到的链路（也就是修改后的第二出接口标识对应的新链路）上发送。

如前所述，一旦步骤执行到106时，发送调度单元会根据会话记录对应的第一出接口标识确定对这个报文对应进行业务处理的接口，比如进行NAT处理或者安全处理等。等到步骤106的报文完成业务处理之后，发送调度单元再通过会话记录表中该会话记录的第二出接口标识所对应的链路将报文发送出去。由于第二出接口标识的引入，本发明在发送报文之前全面地考虑了链路的带宽占用实际，一旦带宽占用过高，则可以将一个会话的数据报文流量切换到其他空闲链路上去。而优选的方式中，又可以根据实际情况来实现回切。相较于现有技术，本发明在负载均衡的实现上充分考虑了会话之间在流量大小上的差异性，极大幅度地提高了实际负载的均衡性。尤其在大型的企业网络中，由于应用种类繁多，因此会话在流量大小上通常会呈现出极大的差异性，本发明的实施效果更加显著。

进一步来说，本发明在实施过程中运用的各种阈值等参数均可以由用户透过配置管理单元来配置，配置管理单元可以从管理通道接收用户各种参数配置，然后将其保存在预定的位置中。软件运行的时候可以读取这些参数加以运用。具体的参数配置示例说明如表1。

表1

根据表1，值得注意的是，本发明在优选的实施方式中，还引入了回切标识这个参数，配置管理单元通过管理通道接收来自管理者的各种配置参数，当接收到回切标识有效参数时，将所述回切处理单元使能，当接收到回切标识无效参数时，将所述回切处理单元去使能。负载均衡设备的管理者可以根据实际情况来确定是否允许回切。毕竟回切功能使能虽然有其好处，但有可能会引发迁移--回切--再迁移这样的循环式的震荡。当然为了避免这一震荡，管理者可以透过配置管理单元将回切占用阈值适当调低，比如调整为80%，保证其比占用阈值小，避免刚回切又饱和情况的发生，这样可以有效降低震荡出现的可能性。此外，考虑到管理员可能会对迁移的会话种类有要求，比如说某些应用的会话，管理员希望其优先被迁移，此时其可以通过配置管理单元下发指定迁移ACL，而标识处理单元在修改第二出接口标识之前则可以先检查该会话是否匹配指定迁移ACL，如果匹配则继续修改，否则不修改返回。

此外考虑到部分应用的QoS（Quality of Service，服务质量）有优先保障需求，在优选的方式中，在网络设备接收到数据报文时，均衡运算单元先匹配用户通过管理配置单元预先配置的关联ACL，如果数据报文匹配到该关联ACL则将该关联ACL指定的链路的出接口标识作为该报文的第一出接口标识以及第二出接口标识，然后转步骤106进行处理发送调度处理，如果没有匹配到转步骤101继续处理。

在本发明中，关联ACL可以理解为一种QoS保证机制，对于部分应用的数据报文，为了保证该应用的通信体验，可以对其数据报文的实际发送链路进行强制绑定。比如说某个应用通信的对端服务器仅仅在运营商A的网络中有部署，而运营商B的网络中没有部署提供相同服务的服务器。为了确保该应用的QoS，可以通过关联ACL优先将该应用的所有数据报文从接入运营商A的链路发送出去。

关联ACL中可以配置该应用的数据报文的会话特征（比如报文五元组甚至更多的特征）以及对应的链路。此时所有数据报文先进行ACL匹配，若某一数据报文命中预先配置的关联ACL则根据该关联ACL中指定的链路将该数据报文发送出去，此时发送该报文所需要的第一接口标识和第二出接口标识都是该关联ACL中指定的出接口标识。值得注意的是，并不是所有组网场景都需要配置关联ACL来进行QoS保证的，因此步骤100仅仅是可选的实现步骤。

以上所述仅为本发明的较佳实施例而已，并不用以限制本发明，凡在本发明的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本发明保护的范围之内。

Claims (14)

1.一种负载均衡处理装置，应用于负载均衡设备上，该负载均衡设备至少可通过两条接入链路接入外部网络；该装置包括：均衡运算单元、标识处理单元以及发送调度单元，其特征在于：

均衡运算单元，用于在负载均衡设备接收到数据报文后查询会话表以确定该数据报文所属会话，如果查询未命中则确定该报文属于新会话并根据预设的负载均衡算法为该报文选择一条接入链路；如果查询命中则确定该报文属于已有会话；

标识处理单元，用于在该报文属于新会话时在会话表为其创建会话记录；并将会话表中该会话的第一出接口标识以及第二出接口标识更新为该选择到的接入链路对应的出接口标识；

其中该标识处理单元进一步用于在该报文属于已有会话时检查该会话的第一出接口标识与第二出接口标识是否相同，如果相同，则检查该第二出接口标识对应的接入链路的带宽占用是否已经达到预设的饱和阈值，如果达到则确定该接入链路处于饱和状态并依据迁移算法重新选择一条相对空闲的接入链路，并将会话表中该会话的第二出接口标识更新为重新选择的接入链路的出接口标识；

发送调度单元，用于将该报文从第二出接口标识对应的接入链路上发送出去。

2.如权利要求1所述的装置，其特征在于，所述发送调度单元进一步用于在将报文发送出去之前，将该报文调度到第一出接口标识对应的接口上进行业务处理。

3.如权利要求1所述的装置，其特征在于，还包括：

回切处理单元，用于在该会话的第一出接口标识与第二出接口标识不相同时，进一步判断第一出接口标识对应的接入链路的带宽占用是否小于预设的回切阈值，如果是将会话表中该会话的第二出接口标识更新为与第一出接口标识相同的出接口标识。

4.如权利要求3所述的装置，其特征在于，所述回切阈值小于所述饱和阈值。

5.如权利要求3所述的装置，其特征在于，还包括配置管理单元，用于通过管理通道接收来自管理者的配置参数，当接收到回切标识有效参数时，将所述回切处理单元使能，当接收到回切标识无效参数时，将所述回切处理单元去使能。

6.如权利要求3所述的装置，其特征在于，所述配置管理单元进一步用于接收管理者发送的指定迁移ACL并保存，所述回切处理单元进一步用于先检查该报文所属会话是否匹配所述指定迁移ACL，如果是则继续，否则返回。

7.如权利要求1所述的装置，其特征在于，所述配置管理单元进一步用于接收管理者发送的链路关联ACL并保存，均衡运算单元进一步用于在接收到数据报文时先检查该报文所属会话是否匹配链路关联ACL，如果是则将该报文的第二出接口标识修改为该链路关联ACL指定的接入链路的出接口标识并转发送调度单元处理。

8.一种负载均衡处理方法，应用于负载均衡设备上，该负载均衡设备至少可通过两条接入链路接入外部网络；其特征在于，该方法包括：

步骤A、在负载均衡设备接收到数据报文后查询会话表以确定该数据报文所属会话，如果查询未命中则确定该报文属于新会话并根据预设的负载均衡算法为该报文选择一条接入链路；如果查询命中则确定该报文属于已有会话；

步骤B、在该报文属于新会话时在会话表为其创建会话记录；并将会话表中该会话的第一出接口标识以及第二出接口标识更新为该选择到的接入链路对应的出接口标识；在该报文属于已有会话时检查该会话的第一出接口标识与第二出接口标识是否相同，如果相同，则检查该第二出接口标识对应的接入链路的带宽占用是否已经达到预设的饱和阈值，如果达到则确定该接入链路处于饱和状态并依据迁移算法重新选择一条相对空闲的接入链路，并将会话表中该会话的第二出接口标识更新为重新选择的接入链路的出接口标识；

步骤C、将该报文从第二出接口标识从对应的接入链路上发送出去。

9.如权利要求8所述的方法，其特征在于，所述步骤C进一步包括：

在将报文从第二出接口标识对应的接入链路上发送出去之前，将该报文调度到第一出接口标识对应的接口上进行业务处理。

10.如权利要求8所述的方法，其特征在于，还包括：

步骤D、在该会话的第一出接口标识与第二出接口标识不相同时，进一步判断第一出接口标识对应的接入链路的带宽占用是否小于预设的回切阈值，如果是将会话表中该会话的第二出接口标识更新为与第一出接口标识相同的出接口标识。

11.如权利要求10所述的方法，其特征在于，所述回切阈值小于所述饱和阈值。

12.如权利要求10所述的方法，其特征在于，还包括：

步骤E、通过管理通道接收来自管理者的配置参数，当接收到回切标识有效参数时，使能步骤D的处理，当接收到回切标识无效参数时，将步骤D的处理去使能。

13.如权利要求10所述的方法，其特征在于，所述步骤E进一步包括：接收管理者发送的指定迁移ACL并保存，所述步骤D进一步包括：先检查该报文所属会话是否匹配所述指定迁移ACL，如果是则继续，否则返回。

14.如权利要求8所述的方法，其特征在于，所述步骤E进一步包括：接收管理者发送的链路关联ACL并保存，所述步骤A进一步包括：在接收到数据报文时先检查该报文所属会话是否匹配链路关联ACL，如果是则将该报文的第二出接口标识修改为该链路关联ACL指定的接入链路的出接口标识并转步骤C处理。

Images