WO2010048886A1 - 一种负载均衡的方法、装置及系统 - Google Patents

Description

一种负载均衡的方法、 装置及系统 本申请要求于 2008 年 10 月 29 日提交中国专利局、 申请号为 200810202120.4、 发明名称为"一种负载均衡的方法、 装置及系统"的中国专利 申请的优先权， 其全部内容通过引用结合在本申请中。

技术领域

本发明涉及设备集成技术领域， 尤其涉及一种负载均衡的方法、装置及系 统。

背景技术

随着电信设备集成度的提高，电信设备的处理能力和计算能力也相应地增 大。处理能力和计算能力的增大使得电信设备难以承担。如果抛弃现有电信设 备去做大量的硬件升级显然是不现实的，会造成资源的严重浪费。在这种情况 下， 负载均衡技术应运而生。

负载均衡技术采用多个处理单元构成资源池，由分发单元对资源池中的处 理单元统一进行控制。 具体为： 各处理单元将自身负载状况上报至分发单元， 当有服务请求时， 分发单元根据一定的算法为该服务请求分配一个处理单元， 然后将该服务请求转给相应的处理单元进行处理。分发单元还要更新各处理单 元的负载状况， 以便为后续的服务请求分配处理单元。

发明人在研究过程中，发现现有负载均衡技术至少存在以下缺点： 不易进 行扩展， 并且， 可靠性不强。 具体为： 若用户希望电信设备具有更大的处理能 力或者计算能力， 需要增加处理单元的个数， 而分发单元的能力是有限的， 其 所能控制的处理单元的个数也是有限的， 因此， 很难再增加处理单元的个数， 意即不易进行扩展。

分发单元是现有负载均衡技术的核心， 一旦分发单元发生故障， 负载均衡 技术将无法实施， 因此， 现有负载均衡技术的可靠性不强。

发明内容

有鉴于此， 本发明提供了一种负载均衡的方法、 装置及系统， 使其易于扩 展， 并且具有较强的可靠性。

一种负载均衡的方法， 包括： 当接收到 n个服务请求时，第一分发处理单元判断当前负载是否小于预设 的负载门限， 所述 n为自然数；

若当前负载小于预设的负载门限，并且所述第一分发处理单元容许对所述 n个服务请求中的 m个服务请求执行操作，则选择第二分发处理单元作为候选 分发处理单元， 将所述 n个服务请求中除 m个服务请求以外的服务请求转发 至所述候选分发处理单元， 其中所述 m为自然数并且小于 n;

或者， 若当前负载大于或等于预设的负载门限， 则选择第二分发处理单元 作为候选分发处理单元， 将所述 n个服务请求转发至所述候选分发处理单元。

一种负载均衡的装置， 包括：

第一判断单元， 用于当接收到 n个服务请求时， 判断当前负载是否小于预 设的负载门限， 所述 n为自然数；

第一选择单元， 用于若当前负载小于预设的负载门限， 并且容许对所述 n 个服务请求中的 m个服务请求执行操作， 则选择第二分发处理单元作为候选 分发处理单元；

第一转发单元， 用于将所述 n个服务请求中除 m个服务请求以外的服务 请求转发至所述候选分发处理单元， 其中所述 m为自然数并且小于 n;

第二选择单元， 用于若当前负载大于或等于预设的负载门限， 则选择第二 分发处理单元作为候选分发处理单元；

第二转发单元， 用于将所述 n个服务请求转发至所述候选分发处理单元。 一种负载均衡的系统， 包括：

q个分发处理单元， 所述 q个分发处理单元用于相互上报负载更新消息， 当所述 q个分发处理单元中的第一分发处理单元容许对接收到的 n个服务请求 执行操作时， 所述第一分发处理单元对所述 n个服务请求执行操作；

或者， 当所述第一分发处理单元容许对所述 n个服务请求中的 m个服务 请求执行操作时， 所述第一分发处理单元对所述 n个服务请求中的 m个服务 请求执行操作；

当所述第一分发处理单元拒绝对所述 n个服务请求执行操作时，根据所述 负载更新消息选择候选分发处理单元，将所述 n个服务请求转发至所述候选分 发处理单元； 或者， 当所述第一分发处理单元允许对 n个服务请求中的 m个服务请求 执行操作时，根据所述负载更新消息选择候选分发处理单元，将所述 n个服务 请求中除 m个服务请求以外的服务请求转发至所述候选分发处理单元；

其中， q为大于 1的自然数， m、 n为自然数， 且 m小于 n。

可以看出， 在本发明实施例中，各分发处理单元均可以执行分发与处理操 作， 可以根据需要增加分发处理单元的个数， 无需考虑某个分发处理单元的处 理能力， 容易扩展。 若某个分发处理单元发生故障， 不会对其它分发处理单元 造成影响， 可靠性较强。

附图说明

图 1为本发明方法实施例流程图；

图 2为本发明方法实施例具体流程图；

图 3为本发明装置实施例结构图；

图 4为本发明系统实施例结构图。

具体实施方式

为使本发明的上述特征、优点更加明显易懂， 下面结合具体实施方式对本 发明进行详细说明。

本发明实施例提供了一种负荷均衡的方法， 包括：

当接收到 n个服务请求时，第一分发处理单元判断当前负载是否小于预设 的负载门限， 所述 n为自然数；

若当前负载小于预设的负载门限，并且所述第一分发处理单元容许对所述 n个服务请求中的 m个服务请求执行操作，则选择第二分发处理单元作为候选 分发处理单元， 将所述 n个服务请求中除 m个服务请求以外的服务请求转发 至所述候选分发处理单元， 其中所述 m为自然数并且小于 n;

或者， 若当前负载大于或等于预设的负载门限， 则选择第二分发处理单元 作为候选分发处理单元， 将所述 n个服务请求转发至所述候选分发处理单元。

请参考图 1 , 为本发明方法实施例流程图， 可以包括：

步骤 101 : 当接收到 n个服务请求时， 第一分发处理单元判断当前负载是 否小于预设的负载门限， n为自然数；

步骤 102: 若当前负载小于预设的负载门限， 并且所述第一分发处理单元 容许对所述 n个服务请求中的 m个服务请求执行操作， 或者， 若当前负载大 于等于预设的负载门限， 选择候选分发处理单元， m为自然数并且小于 n; 步骤 103:将所述 n个服务请求中除 m个服务请求以外的服务请求，或者， 所述 n个服务请求转发至所述候选分发处理单元。

下面结合具体实施例对图 1所示步骤进行详细说明。

在具体实施例中， 有 q个分发处理单元（DPU, Dispatch Process Unit ) , q 为自然数， 各 DPU具有的功能相同， 既可以由自身对接收到的服务请求进行处 理， 又可以将接收到的服务请求转至其它 DPU进行处理， 为了描述方便， 在下 文中， 仅以第一 DPU的视角为例进行说明， 并且， 假设共有 4个 DPU, 分别为 第一 DPU、 第二 DPU、 第三 DPU以及第四 DPU。

还需要说明的是， 第一 DPU、 第二 DPU、 第三 DPU以及第四 DPU的负载门 限可以相同， 也可以不同， 并且， 各个 DPU还可以具有多个负载门限， 在具体 实施例中， 仅以第一 DPU、 第二 DPU、 第三 DPU以及第四 DPU的负载门限相同 为例进行说明。

请参考图 2所示， 该具体实施例可以包括以下步骤：

步骤 201 : 当前周期内， 当第一 DPU接收到 n个服务请求时， 判断第一 DPU 的负载是否小于预设的负载门限 LoadThd, 如果小于， 转入步骤 202, 否则， 转入步骤 203;

需要指出的是， 步骤 201的执行时机还可以在设置的时间段内， 此时， 下 文指出的上个周期应为上个时间段。

步骤 201中， n为自然数， 负载可以是中央处理器 CPU占用率、带宽占用率、 内存占用率或者这些占用率的综合信息等。

步骤 202: 第一 DPU对接收到的服务请求执行相关操作， 流程结束； 若第一 DPU的负载小于负载门限，说明第一 DPU自身有能力处理接收到的 服务请求， 因此， 由该第一 DPU自身进行处理。

若第一 DPU当前处理能力可以处理全部 n个接收到的服务请求， 则由第一 DPU处理全部接收到的服务请求， 流程结束。若第一 DPU当前处理能力只能处 理 n个服务请求中 m ( m为自然数）个服务请求， 则对于第一 DPU无法处理的服 务请求， 转入步骤 203。 步骤 203: 第一 DPU在第二 DPU、 第三 DPU以及第四 DPU中选择一个候选 DPU;

其中， 候选 DPU是负载低于负载门限， 并且在第二 DPU、 第三 DPU以及第 四 DPU中， 负载最低的 DPU。

步骤 204: 第一 DPU计算候选 DPU可以接受的服务请求个数， 并计算 4个

DPU中， 除候选 DPU以外的 DPU可能向候选 DPU转发服务请求的个数 T1 ; 若 4个 DPU中， 除候选 DPU以外的任一 DPU的负载大于负载门限， 则 4个 DPU中， 除候选 DPU以外的任一 DPU将向候选 DPU转发自己接收到的服务请 求。

根据公式（ 1 )计算候选 DPU可以接受的服务请求个数：

A1 =负载门限 /候选 DPU的单位服务请求占用的负载 LoadUnit -候选 DPU 向第一 DPU上报的负载更新消息中的服务请求个数 （ 1 ) 公式（1 ) 中， A1为候选 DPU可以接受的服务请求个数。 LoadUnit为预设 数值。负载门限 /候选 DPU的 LoadUnit为候选 DPU在负载不大于负载门限的情况 下， 总共可以处理的服务请求个数。

需要指出的是， 第一 DPU、 第二 DPU、 第三 DPU以及第四 DPU会周期性相 互上报负载更新消息， 包括当前负载、 当前接收到的服务请求个数等。

根据公式（ 2 )计算 4个 DPU中， 除候选 DPU以外的 DPU中， 负载大于负载 门限的 DPU可能向候选 DPU转发的服务请求个数：

Tl = ∑ (负载一负载门限） /(第一 [/上个周期的负载一负载门限） （2 ) 所有负载不低于负载门限的 opt/ 公式（2 )中， T1为 4个 DPU中， 除候选 DPU以外的 DPU中， 负载大于负载 门限的 DPU可能向候选 DPU转发的服务请求个数。

步骤 205:判断 T1是否大于候选 DPU可以接受的服务请求个数 A1 ,若大于， 进入步骤 206, 否则， 进入步骤 208;

若 T1大于 A1 , 则说明若 4个 DPU中， 除候选 DPU以外的 DPU中， 负载大于 负载门限的 DPU会将各自接收到的服务请求转至候选 DPU,将有可能导致候选 DPU的负载大于预设负载门限， 所以， 需要保证 4个 DPU中， 除候选 DPU以外 的 DPU中， 负载大于负载门限的 DPU向候选 DPU转发的服务请求在候选 DPU 可接受的范围内。

步骤 206: 第一 DPU将保存的候选 DPU的负载进行更新， 将候选 DPU的负 载更新为负载门限；

步骤 206保证了在候选 DPU的负载再次发生变化之前， 第一 DPU不会再将 此次选择的候选 DPU作为候选 DPU。

步骤 207: 第一 DPU根据（T1-A1 ) /T1 , 计算出概率值， 当任取的随机数 小于该概率值时， 返回步骤 203 , 当任取的随机数大于等于该概率值时， 进入 步骤 208;

当任取的随机数小于该概率值时， 第一 DPU需要重新选择一个候选 DPU, 因此， 返回步骤 203重新执行操作， 当任选的随机数大于等于该概率值时， 进 入步骤 208 , 第一 DPU将服务请求转发至此次选择的候选 DPU。

步骤 207为可选项， 其目的在于保证候选 DPU的负载不大于负载门限。 第 一 DPU还可以返回步骤 203 ,或者进入步骤 208,返回步骤 203的概率为（ T1-A1 ) /T1 , 进入步骤 208的概率为 1- ( T1-A1 ) /Tl。

步骤 208: 第一 DPU将接收到的服务请求转至候选 DPU, 并更新候选 DPU 的负载。

候选 DPU的负载更新为： 候选 DPU的负载 =候选 DPU当前负载 + ( TlxLoadUnit ) 。 以根据需要增加 DPU的个数， 无需考虑某个 DPU的处理能力， 容易扩展。 若某 个 DPU发生故障， 不会对其它 DPU造成影响， 可靠性较强。

以上对本发明具体实施例进行了详细说明，下面结合一个具体实施对本发 明具体实施例进行说明。

在具体实例中， 将 CDMA2000基站控制器 BSC中的呼叫信令处理单元

( CSPU, Call Signal Process Unit )作为具体实施例中的 DPU, 将综合服务请 求次数 ( ISRN, Integrate Service Request Number )作为具体实施例中的负载。 一次语音服务请求为 1个 ISRN, —次短消息服务请求根据信令处理的复杂度折 合为 0.3个 ISRN。 为了提升 BSC的容量， 可以将若干个 CSPU组成 CSPU资源池。 结合具体实 施例， 假设共有 4个 CSPU, 分别为第一 CSPU、 第二 CSPU、 第三 CSPU以及第 四 CSPU。 并且， 以各 CSPU的负载门限均相同为例进行说明。

具体实施例可以包括以下步骤：

步骤 A1： 当前周期内，当第一 CSPU接收到 n个服务请求时，判断第一 CSPU 自身的 ISNR个数是否小于预设的 ISRN门限 ISRNThd, 如果小于预设的 ISRN门 限 ISRNThd, 则转入步骤 A2, 否则， 转入步骤 A3; 步骤 A1中， n为自然数。

步骤 A2: 第一 CSPU对接收到的服务请求执行相关操作， 流程结束； 第一 CSPU自身的 ISNR个数小于 ISNR门限， 说明第一 CSPU有能力处理接 收到的服务请求， 因此， 由第一 CSPU自身处理接收到的服务请求。

若第一 CSPU当前处理能力可以处理全部 n个接收到的服务请求，则由第一 CSPU处理全部接收到的服务请求， 流程结束。若第一 CSPU当前处理能力只能 处理 n个服务请求中 m( m为自然数，且 m小于 n )个服务请求，则对于第一 CSPU 无法处理的服务请求， 转入步骤 A3。 第一 CSPU只能处理部分服务请求时， 可 以从 n个服务请求中随机选择 m个服务请求进行处理， 其余的服务请求转入步 骤 A3。

步骤 A3: 第一 CSPU在第二 CSPU、 第三 CSPU以及第四 CSPU中选择一个 候选 CSPU;

其中， 候选 CSPU是 ISNR低于 ISNR门限， 并且在第二 CSPU、 第三 CSPU 以及第四 CSPU中， ISNR最小的 CSPU。

步骤 A4: 第一 CSPU计算候选 CSPU可以接受的服务请求个数， 并计算 4个 CSPU中， 除候选 CSPU以外的 CSPU可能向候选 CSPU转发服务请求的个数 T2; 若 4个 CSPU中， 除候选 CSPU以外的任一 CSPU的 ISNR大于 ISNR门限，贝' J4 个 CSPU中，除候选 CSPU以外的任一 CSPU将向候选 CSPU转发自己接收到的服 务请求。

根据公式（3 )计算候选 CSPU可以接受的服务请求个数：

A2 =候选 CSPU在 ISNR不大于 ISNR门限情况下总共可以处理 ISNR的个数 -候选 CSPU向第一 CSPU上报的负载更新消息中的 ISNR个数 （ 3 ) 公式（3 ) 中， A2为候选 CSPU可以接受的服务请求个数。 需要指出的是， 第一 CSPU、 第二 CSPU、 第三 CSPU以及第四 CSPU会周期性（例如： 1秒）相 互上报 ISNR更新消息， 包括当前 ISNR、 当前接收到的服务请求个数等。

根据公式（ 4 )计算 4个 CSPU中， 除候选 CSPU以外的 CSPU中， ISNR个数 大于 ISNR门限的 CSPU可能向候选 CSPU转发的服务请求个数：

^T2 = 个周期的 IWW—IWW门限）（ ⁴ )

公式（4 ) 中， 丁2为4个 8?11中， 除候选 CSPU以外的 CSPU中， ISNR个数 大于 ISNR门限的 CSPU可能向候选 CSPU转发的服务请求个数。

步骤 A5:判断 T2是否大于候选 CSPU可以接受的服务请求个数 A2,若大于， 进入步骤 A6, 否则， 进入步骤 A8;

若 T2大于 A2, 则说明 4个 CSPU中， 除候选 CSPU以外的 CSPU中， ISNR个 数大于 ISNR门限的 CSPU会将各自接收到的服务请求转至候选 CSPU, 将有可 能导致候选 CSPU的 ISNR个数大于 ISNR门限， 所以， 需要保证 4个 CSPU中， 除 候选 CSPU以外的 CSPU中， ISNR个数大于 ISNR门限的 CSPU向候选 CSPU转发 的服务请求在候选 CSPU可接受的范围内。

步骤 A6: 第一 CSPU将保存的候选 CSPU的 ISNR进行更新， 将候选 CSPU 的 ISNR更新为 ISNR门限；

步骤 A6保证了在候选 CSPU的 ISNR再次发生变化之前， 第一 CSPU不会再 将此次选择的候选 CSPU作为候选 CSPU。

步骤 A7: 第一 CSPU根据（T2-A2 ) /T2, 计算出概率值， 当任取的随机数 小于该概率值时， 返回步骤 203 , 当任取的随机数大于等于该概率值时， 进入 步骤 A8;

当任取的随机数小于该概率值时， 第一 CSPU需要重新选择一个候选 CSPU, 因此， 返回步骤 A3重新执行操作， 当任取的随机数大于等于该概率值 时， 进入步骤 A8 , 第一 CSPU将服务请求转发至此次选择的候选 CSPU。

步骤 A7为可选项， 其目的在于保证候选 CSPU的负载不大于负载门限。 第 一 DPU还可以返回步骤 A3 , 或者进入步骤 A8, 返回步骤 A3的概率为 （T1-A1 ) /T1 , 进入步骤 A8的概率为 1- ( T1-A1 ) /TL 步骤 A8 : 第一 CSPU将接收到的服务请求转至候选 CSPU , 并更新候选 CSPU的 ISNR个数；

候选 CSPU的 ISNR更新为： 候选 CSPU的 ISNR个数 =候选 CSPU当前 ISNR 个数 + T2。

以上对具体实例进行了详细说明， 需要指出的是， 具体实施例中的 BSC还 可以是移动交换中心 MSC、通用媒体网关 UMG , DPU还可以是各种协议处理 单元， 例如： 业务数据单元（SDU ) , 负载还可以是中央处理器 CPU占用率、 宽带占用率、 内存占用率等等。 以根据需要增加 CSPU的个数时， 无需考虑某个 CSPU的处理能力， 容易扩展。 若某个 CSPU发生故障， 不会对其它 CSPU造成影响， 可靠性较强。

本发明实施例提供了一种负载均衡的装置， 包括：

第一判断单元， 用于当接收到 n个服务请求时， 判断当前负载是否小于预 设的负载门限， 所述 n为自然数；

第一选择单元， 用于若当前负载小于预设的负载门限， 并且容许对所述 n 个服务请求中的 m个服务请求执行操作， 则选择第二分发处理单元作为候选 分发处理单元；

第一转发单元， 用于将所述 n个服务请求中除 m个服务请求以外的服务 请求转发至所述候选分发处理单元， 其中所述 m为自然数并且小于 n;

第二选择单元， 用于若当前负载大于或等于预设的负载门限， 则选择第二 分发处理单元作为候选分发处理单元；

第二转发单元， 用于将所述 n个服务请求转发至所述候选分发处理单元。 所述装置还包括：

第二判断单元， 用于判断是否将所述 n个服务请求中除 m个服务请求以外 的服务请求转发至所述第一选择单元选择的候选分发处理单元， 若是， 则将所 述 n个服务请求中除 m个服务请求以外的服务请求转发至所述第一选择单元选 择的候选分发处理单元， 否则， 所述第二判断单元通知所述第一选择单元重新 选择候选分发处理单元。 第三判断单元， 用于判断是否将所述 n个服务请求转发至所述第二选择单 元选择的候选分发处理单元， 若是， 则将所述 n个服务请求转发至所述第一选 择单元选择的候选分发处理单元， 否则， 所述第三判断单元通知所述第二选择 单元重新选择候选分发处理单元。

请参考图 3 , 为本发明提供的装置实施例结构图， 可以包括：

第一判断单元 301 , 用于当接收到 n个服务请求时， 判断此次周期内， 当 前负载是否小于预设的负载门限， n为自然数；

选择单元 302, 用于若所述第一判断单元 301判断出当前负载小于预设的 负载门限， 并且所述装置容许对所述 n个服务请求中的 m个服务请求执行操 作， 或者， 若当前负载大于等于预设的负载门限， 选择候选分发处理单元， m 为自然数并且小于 n;

转发单元 303 ,用于将所述 n个服务请求中除 m个服务请求以外的服务请 求， 或者， 所述 n个服务请求转发至所述候选分发处理单元。

结合步骤 201至步骤 208, 选择单元 303可以包括：

确定单元， 用于根据接收到的负载更新消息， 确定负载小于各自负载门限 值的 k个分发处理单元， k为自然数；

所述选择单元 302在所述确定单元确定的 k个分发处理单元中，选择负载 为最小值的分发处理单元作为候选分发处理单元。

转发单元 303可以包括：

第二判断单元， 用于判断是否将所述 n个服务请求， 或者， 所述 n个服务 请求中除 m个服务请求以外的服务请求， 转发至所述选择单元当前选择的候 选分发处理单元；

若所述第二判断单元判断出将所述 n个服务请求，或者， 所述 n个服务请 求中除 m个服务请求以外的服务请求， 转发至所述选择单元当前选择的候选 分发处理单元， 则转发单元将所述 n个服务请求， 或者， 所述 n个服务请求中 除 m个服务请求以外的服务请求转发至当前选择的候选分发处理单元； 否则， 所述第二判断单元通知所述选择单元重新选择候选分发处理单元。

其中， 第二判断单元可以包括：

计算单元， 用于计算第一数值以及第二数值， 所述第一数值是当前选择的 候选分发处理单元实际可接受的服务请求个数，所述第二数值是负载不低于各 自负载门限的分发处理单元将向所述当前选择的候选分发处理单元转发服务 请求的个数；

比较单元，用于比较所述计算单元计算的所述第一数值以及所述第二数值 的大小；

所述第二判断单元根据所述比较单元进行的比较，判断是否将所述 n个服 务请求， 或者， 所述 n个服务请求中除 m个服务请求以外的服务请求转发至 当前选择的候选分发处理单元。

下面结合步骤 201至步骤 208, 对本发明装置实施例提供的各单元执行的 操作进行详细说明。

当第一 DPU接收到 n个服务请求时，第一 PDU的第一判断单元 301判断在本 周期内， 当前负载是否小于预设的负载门限， n为自然数。 若第一判断单元 301 判断出第一 DPU的当前负载小于预设的负载门限，并且第一 DPU可以处理全部 n个服务请求， 或者第一 DPU可以处理其中的 m个服务请求， 则第一 DPU对全 部 n个服务请求或者 m个服务请求进行处理。

当第一 DPU只能处理 m个服务请求， 或者， 第一 DPU的第一判断单元 301 判断出本周期内， 当前负载大于等于预设的负载门限， 则第一 DPU的选择单元 302在 4个 DPU中选择候选 DPU。选择单元 302进行选择具体为： 确定单元确定 4 个 DPU中， 负载小于预设的负载门限的 DPU, 并从中选择负载最小的 DPU作为 当前选择的候选 DPU。

计算单元根据公式（1 )计算 A1 , 根据公式（2 )计算 T1 , 比较单元比较 A1与 T1的大小， 当 T1小于等于 A1时， 转发单元 303将 n个服务请求或者除 m个 服务请求以外的服务请求转发至当前选择的候选 DPU。 当 T1大于 A1时， 并且， 任取随机数小于步骤 207中计算出的概率值， 则选择单元 302重新选择候选 DPU。 当 T1大于 A1时， 并且任取随机数大于等于步骤 207中计算出的概率值， 则转发单元 303将 n个服务请求或者除 m个服务请求以外的服务请求转发至当 前选择的候选 DPU。 以根据需要增加 DPU的个数， 无需考虑某个 DPU的处理能力， 容易扩展。 若某 个 DPU发生故障， 不会对其它 DPU造成影响， 可靠性较强。

以上对本发明装置实施例进行了详细说明， 结合方法具体实例， 装置实施 例中的 DPU可以为 CSPU , 负载可以是 ISRN , 下面结合方法具体实例中， 步 骤 A1至步骤 A8对本发明装置实施例提供的各单元执行的操作进行详细说明。

当第一 CSPU接收到 n个服务请求时， 第一 CSDU的第一判断单元 301判断 在本周期内， 当前 ISNR个数是否小于预设的 ISNR门限， n为自然数。 若第一判 断单元 301判断出第一 CSPU的当前 ISNR个数小于预设的 ISNR门限， 并且第一 CSPU可以处理全部 n个服务请求， 或者第一 CSPU可以处理其中的 m个服务请 求， 则第一 CSPU对全部 n个服务请求或者 m个服务请求进行处理。

当第一 CSPU只能处理 m个服务请求，或者，第一 CSPU的第一判断单元 301 判断出本周期内， 当前负载大于等于预设的 ISNR门限， 则第一 CSPU的选择单 元 302在 4个 CSPU中选择候选 CSPU。 选择单元 302进行选择具体为： 确定单元 确定 4个 CSPU中， ISNR个数小于预设的 ISNR门限的 CSPU, 并从中选择 ISNR 个数最小的 CSPU作为当前选择的候选 CSPU。

计算单元根据公式（3 )计算 A2, 根据公式（4 )计算 T2, 比较单元比较 A2与 T2的大小， 当 T2小于等于 A2时， 转发单元 303将 n个服务请求或者除 m个 服务请求以外的服务请求转发至当前选择的候选 CSPU。当 T2大于 A2时，并且， 任取随机数小于步骤 A7中计算出的概率值， 则选择单元 302重新选择候选 CSPU。 当 T2大于 A2时， 并且任取随机数大于等于步骤 A7中计算出的概率值， 则转发单元 303将 n个服务请求或者除 m个服务请求以外的服务请求转发至当 前选择的候选 CSPU。 以根据需要增加 CSPU的个数时， 无需考虑某个 CSPU的处理能力， 容易扩展。 若某个 CSPU发生故障， 不会对其它 CSPU造成影响， 可靠性较强。

本发明实施例还提供了一种负载均衡系统， 包括：

q个分发处理单元， 所述 q个分发处理单元用于相互上报负载更新消息， 当所述 q个分发处理单元中的第一分发处理单元容许对接收到的 n个服务请求 执行操作时， 所述第一分发处理单元对所述 n个服务请求执行操作； 或者， 当所述第一分发处理单元容许对所述 n个服务请求中的 m个服务 请求执行操作时， 所述第一分发处理单元对所述 n个服务请求中的 m个服务 请求执行操作；

当所述第一分发处理单元拒绝对所述 n个服务请求执行操作时，根据所述 负载更新消息选择候选分发处理单元，将所述 n个服务请求转发至所述候选分 发处理单元；

或者， 当所述第一分发处理单元允许对 n个服务请求中的 m个服务请求 执行操作时，根据所述负载更新消息选择候选分发处理单元，将所述 n个服务 请求中除 m个服务请求以外的服务请求转发至所述候选分发处理单元；

其中， q为大于 1的自然数， m、 n为自然数， 且 m小于 n。

本发明实施例还提供了一种负载均衡系统， 参见图 4, 包括：

q个分发处理单元（包括： 第一分发处理单元 401-1、 第二分发处理单元

401-2、 第三分发处理单元 401-3 第 q分发处理单元 401-q ), 所述 q个分 发处理单元用于相互上报负载更新消息，当所述 q个分发处理单元中的第一分 发处理单元容许自身对接收到的 n个服务请求执行操作时，或者， 当所述第一 分发处理单元容许自身对所述 n个服务请求中的 m个服务请求执行操作时， 所述第一分发处理单元对所述 n个服务请求或者 m个服务请求执行操作； 当所述第一分发处理单元拒绝对所述 n个服务请求或者允许对 n个服务请 求中的 m个服务请求执行操作时， 根据所述负载更新消息选择候选分发处理 单元， 将所述 n个服务请求， 或者所述 n个服务请求中除 m个服务请求以外 的服务请求转发至所述候选分发处理单元；

其中， q为大于 1的自然数， m、 n为自然数， 且 m小于 n。

假设 q等于 4, 各分发处理单元执行的操作与方法实施例相同、 当分发处理 单元具体为 CSPU, 负载具体为 ISNR时， 各分发处理单元执行的操作方法具体 实例相同。 具体请参见方法实施例以及方法具体实例的描述。

通过本发明实施例提供的负载均衡方法、装置和系统，各分发处理单元均 可以执行分发与处理操作， 可以根据需要增加分发处理单元的个数， 无需考虑 某个分发处理单元的处理能力， 容易扩展。 若某个分发处理单元发生故障， 不 会对其它分发处理单元造成影响， 可靠性较强。

最后， 还需要说明的是， 在本文中， 诸如第一和第二等之类的关系术 语仅仅用来将一个实体或者操作与另一个实体或操作区分开来， 而不一定 要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。 而 且， 术语"包括"、 "包含"或者其任何其他变体意在涵盖非排他性的包含， 从而使得包括一系列要素的过程、 方法、 物品或者设备不仅包括那些要素， 而且还包括没有明确列出的其他要素， 或者是还包括为这种过程、 方法、 物品或者设备所固有的要素。 在没有更多限制的情况下， 由语句"包括一 个 ...... "限定的要素， 并不排除在包括所述要素的过程、 方法、 物品或者设 备中还存在另外的相同要素。

通过以上的实施方式的描述， 本领域的技术人员可以清楚地了解到本 发明可借助软件加必需的硬件平台的方式来实现， 当然也可以全部通过硬 件来实施， 但很多情况下前者是更佳的实施方式。 基于这样的理解， 本发 明的技术方案对背景技术做出贡献的全部或者部分可以以软件产品的形式 体现出来， 该计算机软件产品可以存储在存储介质中， 如 ROM/RAM、 磁 碟、 光盘等， 包括若干指令用以使得一台计算机设备（可以是个人计算机， 服务器， 或者网络设备等） 执行本发明各个实施例或者实施例的某些部分 所述的方法。

以上对本发明所提供的一种负载均衡的方法、 装置及系统进行了详细 上实施例的说明只是用于帮助理解本发明的方法及其核心思想； 同时， 对 于本领域的一般技术人员， 依据本发明的思想， 在具体实施方式及应用范 围上均会有改变之处， 综上所述， 本说明书内容不应理解为对本发明的限 制。

Claims

权 利 要 求

1、 一种负载均衡的方法， 其特征在于， 包括：

当接收到 n个服务请求时，第一分发处理单元判断当前负载是否小于预设 的负载门限， 所述 n为自然数；

若当前负载小于预设的负载门限，并且所述第一分发处理单元容许对所述 n个服务请求中的 m个服务请求执行操作，则选择第二分发处理单元作为候选 分发处理单元， 将所述 n个服务请求中除 m个服务请求以外的服务请求转发 至所述候选分发处理单元， 其中所述 m为自然数并且小于 n;

或者， 若当前负载大于或等于预设的负载门限， 则选择第二分发处理单元 作为候选分发处理单元， 将所述 n个服务请求转发至所述候选分发处理单元。

2、 根据权利要求 1所述的方法， 其特征在于， 所述选择第二分发处理单 元作为候选分发处理单元包括：

所述第一分发处理单元接收除所述第一分发处理单元外的其他分发处理 单元发送的负载更新消息；

根据所述负载更新消息确定负载小于各自负载门限值的 k个分发处理单 元， k为自然数；

在所述 k个分发处理单元中，选择负载为最小值的第二分发处理单元作为 候选分发处理单元。

3、 根据权利要求 1所述的方法， 其特征在于， 在将所述 n个服务请求中 除 m个服务请求以外的服务请求转发至所述候选分发处理单元之前， 所述方 法还包括：

A1、 判断是否将所述 n个服务请求中除 m个服务请求以外的服务请求转 发至候选分发处理单元；

若判断要将所述 n个服务请求中除 m个服务请求以外的服务请求转发至 候选分发处理单元， 则将所述 n个服务请求中除 m个服务请求以外的服务请 求转发至所述候选分发处理单元； 若判断不将所述 n个服务请求中除 m个服 务请求以外的服务请求转发至候选分发处理单元，则重新选择第三分发处理单 元作为候选分发处理单元， 并返回步骤 Al。

4、 根据权利要求 3所述的方法， 其特征在于， 步骤 A1包括： 计算第一数值以及第二数值，所述第一数值是当前选择的候选分发处理单 元实际可接受的服务请求个数，所述第二数值是负载不小于各自负载门限的分 发处理单元将向所述选择的候选分发处理单元转发服务请求的个数；比较所述 第一数值与所述第二数值的大小；

若所述第二数值大于所述第一数值， 且需要重新选择候选分发处理单元， 则判断不将所述 n个服务请求中除 m个服务请求以外的服务请求转发至候选 分发处理单元；

或

若所述第二数值大于所述第一数值， 且不需要重新选择候选分发处理单 元， 则判断要将所述 n个服务请求中除 m个服务请求以外的服务请求转发至 候选分发处理单元；

或

若所述第二数值小于等于所述第一数值，则判断要将所述 n个服务请求中 除 m个服务请求以外的服务请求转发至候选分发处理单元。

5、 根据权利要求 4所述的方法， 其特征在于， 若所述第二数值大于所述 第一数值， 且需要重新选择候选分发处理单元， 则判断不将所述 n个服务请求 中除 m个服务请求以外的服务请求转发至候选分发处理单元之后进一步包括： 将所述第二处理单元的负载更改为第二分发处理单元的负载门限。

6、 根据权利要求 1所述的方法， 其特征在于， 在将所述 n个服务请求转 发至所述候选分发处理单元之前， 所述方法还包括：

Bl、 判断是否将所述 n个服务请求转发至所述候选分发处理单元； 若判断要将所述 n个服务请求转发至所述候选分发处理单元， 则将所述 n 个服务请求转发至所述候选分发处理单元，若判断不将所述 n个服务请求转发 至所述候选分发处理单元，则重新选择第三分发处理单元作为候选分发处理单 元， 并返回步骤 Bl。

7、 根据权利要求 6所述的方法， 其特征在于， 步骤 B1包括：

计算第一数值以及第二数值，所述第一数值是当前选择的候选分发处理单 元实际可接受的服务请求个数，所述第二数值是负载不小于各自负载门限的分 发处理单元将向所述选择的候选分发处理单元转发服务请求的个数； 比较所述第一数值与所述第二数值的大小；

若所述第二数值大于所述第一数值， 且需要重新选择候选分发处理单元， 则判断不将所述 n个服务请求转发至所述候选分发处理单元；

或

若所述第二数值大于所述第一数值， 且不需要重新选择候选分发处理单 元， 则判断要将所述 n个服务请求转发至候选分发处理单元；

或

若所述第二数值小于等于所述第一数值，则判断要将所述 n个服务请求转 发至候选分发处理单元。

8、 根据权利要求 7所述的方法， 其特征在于， 若所述第二数值大于所述 第一数值， 且需要重新选择候选分发处理单元， 则判断不将所述 n个服务请求 转发至所述候选分发处理单元之后进一步包括：

将所述第二处理单元的负载更改为第二分发处理单元的负载门限。

9、 根据权利要求 4或 7所述的方法， 其特征在于， 计算第一数值包括： 根据所述候选分发处理单元的负载在不大于其负载门限的情况下，可以接 受的服务请求的个数，以及所述候选分发处理单元向所述第一分发处理单元上 报的服务请求个数， 计算所述第一数值；

计算第二数值包括：

根据负载不小于各自负载门限的分发处理单元各自的负载以及负载门限、 所述第一分发处理单元上一周期的负载、所述第一分发处理单元的负载门限计 算所述第二数值。

10、 一种负载均衡的装置， 其特征在于， 包括：

第一判断单元， 用于当接收到 n个服务请求时， 判断当前负载是否小于预 设的负载门限， 所述 n为自然数；

第一选择单元， 用于若当前负载小于预设的负载门限， 并且容许对所述 n 个服务请求中的 m个服务请求执行操作， 则选择第二分发处理单元作为候选 分发处理单元；

第一转发单元， 用于将所述 n个服务请求中除 m个服务请求以外的服务 请求转发至所述候选分发处理单元， 其中所述 m为自然数并且小于 n; 第二选择单元， 用于若当前负载大于或等于预设的负载门限， 则选择第二 分发处理单元作为候选分发处理单元；

第二转发单元， 用于将所述 n个服务请求转发至所述候选分发处理单元。

11、 根据权利要求 10所述的装置， 其特征在于， 所述装置还包括： 第二判断单元， 用于判断是否将所述 n个服务请求中除 m个服务请求以 外的服务请求转发至所述第一选择单元选择的候选分发处理单元， 若是， 则将 所述 n个服务请求中除 m个服务请求以外的服务请求转发至所述第一选择单 元选择的候选分发处理单元， 否则， 所述第二判断单元通知所述第一选择单元 重新选择候选分发处理单元。

12、 根据权利要求 10所述的装置， 其特征在于， 所述装置还包括： 第三判断单元，用于判断是否将所述 n个服务请求转发至所述第二选择单 元选择的候选分发处理单元， 若是， 则将所述 n个服务请求转发至所述第一选 择单元选择的候选分发处理单元， 否则， 所述第三判断单元通知所述第二选择 单元重新选择候选分发处理单元。

13、 一种负载均衡的系统， 其特征在于， 包括：

q个分发处理单元， 所述 q个分发处理单元用于相互上报负载更新消息， 当所述 q个分发处理单元中的第一分发处理单元容许对接收到的 n个服务请求 执行操作时， 所述第一分发处理单元对所述 n个服务请求执行操作；

或者， 当所述第一分发处理单元容许对所述 n个服务请求中的 m个服务 请求执行操作时， 所述第一分发处理单元对所述 n个服务请求中的 m个服务 请求执行操作；

当所述第一分发处理单元拒绝对所述 n个服务请求执行操作时，根据所述 负载更新消息选择候选分发处理单元，将所述 n个服务请求转发至所述候选分 发处理单元；

或者， 当所述第一分发处理单元允许对 n个服务请求中的 m个服务请求 执行操作时，根据所述负载更新消息选择候选分发处理单元，将所述 n个服务 请求中除 m个服务请求以外的服务请求转发至所述候选分发处理单元；

其中， q为大于 1的自然数， m、 n为自然数， 且 m小于 n。