CN107222514A - 一种负载方法和系统 - Google Patents

Abstract

本发明提供了一种负载方法，所述方法包括：判断所述主负载设备的业务负载值是否超过阈值；如果超过，调用所述临时负载设备进行业务负载，并启动所述备用负载设备；当对所述备用负载设备启动完毕后，将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。本发明避免了在备用负载启动的过程中由于业务负载持续上升，超过主负载设备的业务负载能力时而引起的服务异常、不可用，甚至挂起现象。

Description

一种负载方法和系统

技术领域

本发明涉及网络技术领域，尤其涉及一种负载方法和系统。

背景技术

云服务中线上服务器业务负载上升达到阈值的时候，就需要扩容出新的服务器来应对新增负载。

现有技术中的扩容方案是横向扩容，也就是启动更多的扩容服务器来支撑当前业务负载。

在实现本发明的过程中，发明人发现现有技术至少存在如下问题：

扩容新服务器的等待时间通常是几分钟或者更长，如果在此期间业务负载持续上升，一旦超出线上服务器的处理能力，就会造成服务异常、不可用，甚至是服务挂起的现象。

发明内容

本发明提供一种负载方法，当主负载设备的业务负载值超过阈值时，调用临时负载设备进行业务负载，并启动备用负载设备，当所述备用负载设备启动完毕后将所述临时负载设备的业务负载切换到所述备用负载设备上。本发明避免了在备用负载启动的过程中由于业务负载持续上升，超过主负载设备的业务负载能力时而引起的服务异常、不可用，甚至挂起现象。

本发明提供一种负载方法，所述方法应用于包括主负载设备、临时负载设备和备用负载设备的系统中，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述方法包括：

判断所述主负载设备的业务负载值是否超过阈值；

如果超过，调用所述临时负载设备进行业务负载，并启动所述备用负载设备；

当对所述备用负载设备启动完毕后，将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同，其中，业务负载能力越高的所述备用负载设备的启动时间越长；

启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同；

启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

将所述临时负载设备的业务负载切换到所述备用负载设备上，具体包括：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

在将所述临时负载设备的业务负载切换到所述备用负载设备上后，所述方法还包括：

当所述备用负载设备的业务负载为零时，关闭所述备用负载设备。

一种系统，所述系统中包括主负载设备、临时负载设备和备用负载设备，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述系统包括：

判断模块，用于判断所述主负载设备的业务负载值是否超过阈值；

调用模块，如果超过阈值，用于调用所述临时负载设备进行业务负载；

启动模块，用于启动所述备用负载设备；

切换模块，当对所述备用负载设备启动完毕后，用于将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同，其中，业务负载能力越高的所述备用负载设备的启动时间越长；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

所述切换模块，具体用于：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

所述系统，还包括：

关闭模块，在将所述临时负载设备的业务负载切换到所述备用负载设备上后，当所述备用负载设备的业务负载为零时，用于关闭所述备用负载设备。

本发明中当主负载设备的业务负载值超过阈值时，调用临时负载设备进行业务负载，并启动备用负载设备，当所述备用负载设备启动完毕后将所述临时负载设备的业务负载切换到所述备用负载设备上。本发明避免了在备用负载启动的过程中由于业务负载持续上升，超过主负载设备的业务负载能力时而引起的服务异常、不可用，甚至挂起现象。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本发明实施例中的一种负载方法；

图2为本发明实施例中在线服务器、扩容服务器和缓冲服务器位置结构示意图；

图3为本发明实施例中的一种系统的结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

为了解决现有技术中提出的问题，本发明提出了一种负载方法，具体方法如图1所示，所述方法应用于包括主负载设备、临时负载设备和备用负载设备的系统中，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述方法包括以下步骤：

步骤101，判断所述主负载设备的业务负载值是否超过阈值，如果超过，则执行步骤102，如果没有超过，则结束流程。

具体的，所述主负载设备和所述备用负载设备能够提供稳定的负载业务，并为用户提供稳定的、高品质的服务，所述主负载设备和所述备用负载设备的稳定性、业务负载能力、提供业务的能力，以及硬件配置和硬件性能要高于所述临时负载设备，所述主负载设备和所述备用负载设备是横向启动，也就是说，在主负载设备的负载能力超过阈值时，才会启动所述备用负载设备，进一步的，所述方法具体可用于横向启动的场景里。

所述临时负载设备为时刻开启状态，即处于随时可以进行业务负载的状态，在所述主负载设备超过阈值时立即使用所述临时负载设备进行业务负载，以使所述临时负载设备为所述主负载设备分担负载，并且所述临时负载设备处于开启状态时其所消耗的成本相对于所述主负载设备和所述备用负载设备处于开启状态时所消耗的成本要低很多，所述成本包括如：维护成本、消耗成本，以及资源占用成本等。

当所述主负载设备的业务负载值接近阈值时，表示所述主负载设备能够提供的业务负载能力已经很少，如果所述业务负载在持续增长，那么会超过所述主负载设备的业务负载能力，需要横向启动所述备用负载设备。

步骤102，调用所述临时负载设备进行业务负载，并启动所述备用负载设备。

具体的，由于启动所述备用负载设备需要一定时间，为了避免在所述备用负载设备的过程中，当前的业务负载超过所述主负载设备的业务负载能力，因此调用所述临时负载设备，由于所述临时负载设备时刻处于开启状态，因此所述临时负载设备可以随时在所述主负载设备超过其负载能力时为所述主负载设备分担业务负载，在所述备用负载设备启动的过程中起到一个过渡作用，在此期间，所述临时负载设备能够为稳定的负载业务，并为用户提供稳定的、高品质的服务。

其中，所述备用负载设备为多个，并且多个所述备用负载设备的负载能力可以相同，也可以不同，并且负载能力越高的所述备用负载设备启动时间也越长。

当所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同时，启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

具体的，为了保证启动的所述备用负载设备能够承担超出所述主负载设备的业务负载，并且保证合理的启动所述备用负载设备，需要根据所述增长速率和各个所述备用负载设备的启动时间来启动所述备用负载设备，这样可以节省系统的资源和成本，例如：所述备用负载设备有3个，业务负载能力分别为：10、15、20，启动时间分别为3分钟、4分钟、5分钟，如果当前业务负载的增长速率为1，那么需要启动业务负载能力为10的所述备用负载设备；如果当业务负载的增长速率为3，并且如果超过业务负载能力为10的所述备用负载设备的阈值，但是没有超过业务负载能力为15的所述备用负载设备的阈值，那么需要启动业务负载能力为15的所述备用负载设备，如果未超过业务负载能力为10的所述备用负载设备的阈值，那么需要启动业务负载能力为10的所述备用负载设备。

其中，在确定系统中使用何种级别的业务负载量的所述备用负载设备可以根据实际情况确定。

当所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同时，启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

具体的，由于多个所述备用负载设备的启动时间相同，在启动时启动任何一个都可以，但是为了保证启动的所述备用负载设备能够负载超过所述主负载设备的业务负载，并且保证启动合理个数的所述备用负载设备，需要根据所述增长速率和各个所述备用负载设备的启动时间来启动所述备用负载设备的个数，例如：所述备用负载设备有3个，业务负载能力都为10，启动时间都为3分钟，如果当前业务负载的增长速率为1，那么需要启动的个数为1个；如果当前业务负载的增长速率为3，并且如果超过了一个所述备用负载设备的阈值，那么需要启动的个数为2个，如果未超过一个所述备用负载设备的阈值，那么需要启动的个数为1个；如果当前业务负载的增长速率为4，那么需要启动的个数为2个。

其中，在确定系统中使用何种级别的业务负载量的所述备用负载设备可以根据实际情况确定。

在所述备用负载设备为多个的情况下，当所述主负载设备的业务负载值超过阈值后，启动所述备用负载设备时，也可以任意启动多个所述备用负载设备中的一个，如果启动的所述备用负载设备的负载能力不能满足超出所述主负载设备负载能力的业务负载，那么任意启动另一个所述备用负载设备，直到启动的所述备用负载设备的负载能力能够满足超出所述主负载设备负载能力的业务负载。当然所述备用负载设备也可以为一个，所述备用负载设备的负载能力是根据日常的业务负载量确定的，即所述备用负载设备的业务负载能力足够强大，在所述主负载设备的业务负载值超过阈值后，由所述临时负载设备暂时进行业务负载，当所述备用负载设备启动完成后，将所述临时负载设备上负载的业务切换到所述备用负载设备上进行业务负载。

步骤103，当对所述备用负载设备启动完毕后，将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

具体的，为了保证为能够保证更好的进行业务负载，以及为用户提供更好的服务，当对所述备用负载设备启动完毕后，需要将所述临时负载设备的业务负载切换到所述备用负载设备上，进而让所述备用负载设备进行业务负载。

将所述临时负载设备的业务负载切换到所述备用负载设备上，具体包括：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

具体的，所述临时负载设备是通过其运行的应用来进行业务负载的，当对所述备用负载设备启动完毕后只需要将所述应用关闭，就会释放业务负载，系统会将释放的业务负载切换到启动了的所述备用负载设备上，这样不用关闭所述临时负载设备就能达到释放业务负载的效果，并且相对于关闭所述临时负载设备的方法更加合理和节省时间，同时在调用所述临时负载设备时，通过启动所述临时负载设备中的所述应用就可以调用所述临时负载设备了，或者在所述临时负载设备关闭所述应用释放业务负载后，所述临时负载设备可以主动加载所述应用，以在调用所述临时负载设备时可以立即使用。当超出所述备用负载设备的负载能力时，可以按照上述方法再调用所述临时负载设备进行业务负载，并启动其他所述备用负载设备。

在将所述临时负载设备的业务负载切换到所述备用负载设备上后，所述方法还包括：

当所述备用负载设备的业务负载为零时，关闭所述备用负载设备。

具体的，为了节约成本，以及避免不必要的资源浪费，当所述备用负载设备的业务负载为零时，即所述备用负载设备不在进行业务负载和为用户提供服务时，需要关闭所述备用负载设备，当再次超出所述主负载设备时，可以按照上述方法再调用所述临时负载设备进行业务负载，并启动所述备用负载设备。

所述系统可以为云服务系统，所述云服务系统中包括在线服务器、扩容服务器和缓冲服务器，其中，在线服务器对应本实施例中的主负载设备、扩容服务器对应本实施例中的备用负载设备、缓冲服务器对应本实施例中的临时负载设备，当然也可以是其他系统，凡是在主负载设备超过阈值需要横向启动备用服务器，且启动备用服务器的过程中会造成服务异常、不可用，甚至是服务挂起的现象的系统均属于本发明的保护范围。

本发明中当主负载设备的业务负载值超过阈值时，调用临时负载设备进行业务负载，并启动备用负载设备，当所述备用负载设备启动完毕后将所述临时负载设备的业务负载切换到所述备用负载设备上。本发明避免了在备用负载启动的过程中由于业务负载持续上升，超过主负载设备的业务负载能力时而引起的服务异常、不可用，甚至挂起现象，实现了零等待、零风险的业务负载。

为了进一步阐述本发明的技术思想，现结合具体的应用场景，对本申请的技术方案进行说明，具体的，云服务器包括在线服务器、扩容服务器和缓冲服务器，具体如图2所示，其中，所述在线服务器为当前正在进行业务负载的服务器，所述缓冲服务器为随时可以进行临时业务负载的服务器，所述扩容服务器是进行扩容后才能进行业务负载的服务器，其中，所述缓冲服务器放于缓存池中，如果当前业务负载超过云服务中在线服务器的负载阈值，需要横向对扩容服务器进行扩容时，所述方法包括：

1、从缓存池中调用所述缓冲服务器，以快速对超出所述在线服务器负载能力的业务负载进行负载，这样可以在超出所述在线服务器的负载能力时所述云服务仍可以为用户提供服务，实现零等待、零风险的目的。

2、对扩容服务器进行扩容，如果云服务器中有多个所述扩容服务器，且多个所述扩容服务器的业务负载能力不同，根据当前的业务负载增长速率和各个所述扩容服务器的扩容时间扩容对应负载能力的所述扩容服务器；如果云服务器中有多个所述扩容服务器，且多个所述扩容服务器的业务负载能力相同，根据当前的业务负载增长速率和所述扩容服务器的扩容时间扩容对应个数的所述扩容服务器，具体方法已在上述进行了详细说明，在此不再一一赘述。

3、当对所述扩容服务器扩容完毕后，立即让所述扩容服务器上线。

4、关闭所述缓冲服务器进行业务负载的应用，并将所述缓冲服务器放回所述缓存池中，放入所述缓存池中的所述缓冲服务器可以自动启动进行业务负载的应用，但是不进行业务负载，也可以在调用所述缓冲服务器后，所述缓冲服务器在加载所述应用，以对业务负载进行负载。

5、将所述缓冲服务器负载的业务负载切换到所述扩容服务器中进行业务负载。当超出所述扩容服务器的业务负载能力时，可以按照上述方法再次调用所述缓冲服务器，并启动其他所述扩容服务器。

6、当所述扩容服务器的业务负载为零时，关闭所述扩容服务器。当超出所述在线服务器的业务负载能力时，可以按照上述方法再次调用所述缓冲服务器进行业务负载，并启动其他所述扩容服务器。

基于与上述方法同样的申请构思，本发明提出了一种系统，如图3所示，所述系统中包括主负载设备、临时负载设备和备用负载设备，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述系统包括：

判断模块31，用于判断所述主负载设备的业务负载值是否超过阈值；

调用模块32，如果超过阈值，用于调用所述临时负载设备进行业务负载；

启动模块33，用于启动所述备用负载设备；

切换模块34，当对所述备用负载设备启动完毕后，用于将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同，其中，业务负载能力越高的所述备用负载设备的启动时间越长；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

所述切换模块，具体用于：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

所述系统，还包括：

关闭模块，在将所述临时负载设备的业务负载切换到所述备用负载设备上后，当所述备用负载设备的业务负载为零时，用于关闭所述备用负载设备。

本发明中当主负载设备的业务负载值超过阈值时，调用临时负载设备进行业务负载，并启动备用负载设备，当所述备用负载设备启动完毕后将所述临时负载设备的业务负载切换到所述备用负载设备上。本发明避免了在备用负载启动的过程中由于业务负载持续上升，超过主负载设备的业务负载能力时而引起的服务异常、不可用，甚至挂起现象，实现了零等待、零风险的业务负载。

本领域普通技术人员可以理解：实现上述各方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成。前述的程序可以存储于一计算机可读取存储介质中。该程序在执行时，执行包括上述各方法实施例的步骤；而前述的存储介质包括：ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。

以上所描述的装置实施例仅仅是示意性的，其中作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到至少两个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围。

Claims (10)

1.一种负载方法，其特征在于，所述方法应用于包括主负载设备、临时负载设备和备用负载设备的系统中，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述方法包括：

判断所述主负载设备的业务负载值是否超过阈值；

如果超过，调用所述临时负载设备进行业务负载，并启动所述备用负载设备；

当对所述备用负载设备启动完毕后，将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

2.如权利要求1所述方法，其特征在于，所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同，其中，业务负载能力越高的所述备用负载设备的启动时间越长；

启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

3.如权利要求1所述方法，其特征在于，所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同；

启动所述备用负载设备，具体包括：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

4.如权利要求1所述方法，其特征在于，将所述临时负载设备的业务负载切换到所述备用负载设备上，具体包括：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

5.如权利要求1所述方法，其特征在于，在将所述临时负载设备的业务负载切换到所述备用负载设备上后，所述方法还包括：

当所述备用负载设备的业务负载为零时，关闭所述备用负载设备。

6.一种系统，其特征在于，所述系统中包括主负载设备、临时负载设备和备用负载设备，其中，所述主负载设备为当前正在进行业务负载的设备，所述临时负载设备为随时可以进行临时业务负载的设备，所述备用设备是进行启动后才能进行业务负载的设备，所述系统包括：

判断模块，用于判断所述主负载设备的业务负载值是否超过阈值；

调用模块，如果超过阈值，用于调用所述临时负载设备进行业务负载；

启动模块，用于启动所述备用负载设备；

切换模块，当对所述备用负载设备启动完毕后，用于将所述临时负载设备的业务负载切换到所述备用负载设备上，以使所述备用负载设备进行业务负载。

7.如权利要求6所述系统，其特征在于，所述备用负载设备为多个，且不同的所述备用负载设备的负载能力不同，其中，业务负载能力越高的所述备用负载设备的启动时间越长；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和各个所述备用负载设备的启动时间启动对应负载能力的所述备用负载设备。

8.如权利要求6所述系统，其特征在于，所述备用负载设备为多个，且各个所述备用负载设备的负载能力相同；

所述启动模块，具体用于：

确定当前业务负载的增长速率；

根据所述增长速率和所述备用负载设备的启动时间启动对应数量的所述备用负载设备。

9.如权利要求6所述系统，其特征在于，所述切换模块，具体用于：

关闭所述临时负载设备进行业务负载的应用；

将所述临时负载设备的业务负载切换到所述备用负载设备上。

10.如权利要求6所述系统，其特征在于，所述系统，还包括：

关闭模块，在将所述临时负载设备的业务负载切换到所述备用负载设备上后，当所述备用负载设备的业务负载为零时，用于关闭所述备用负载设备。