CN111897649A - 调度服务器数目的方法和装置 - Google Patents

Abstract

本发明公开了一种调度服务器数目的方法和装置。其中，该方法包括：检测服务器的流量是否大于第一预设值；在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。本发明解决了现有技术中流媒体服务器调用时，使用成本高的技术问题。

Description

调度服务器数目的方法和装置

技术领域

本发明涉及计算机技术领域，具体而言，涉及一种调度服务器数目的方法和装置。

背景技术

流媒体服务器通常部署在云平台上，而这些服务器通常会根据使用时长进行收费。为了节省流媒体服务器的运行成本，需要在不影响功能需求的前提下，自动对有少量的业务存在的服务器进行收缩(关闭)；当已有服务器满足不了现有服务时，再自动伸展(开启)一台服务器以满足功能需求。

针对上述由于现有技术中流媒体服务器调用时，使用成本高的问题，目前尚未提出有效的解决方案。

发明内容

本发明实施例提供了一种调度服务器数目的方法和装置，以至少解决现有技术中流媒体服务器调用时，使用成本高的技术问题。

根据本发明实施例的一个方面，提供了一种调度服务器数目的方法，包括：检测服务器的流量是否大于第一预设值；在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

可选的，在检测服务器的流量是否大于第一预设值之前，该方法还包括：获取服务器的型号；依据服务器的型号获取负载能力表，其中，负载能力表，用于指示服务器的负载能力；依据预设周期采集服务器的吞吐量，并依据采集到的吞吐量生成服务器负载状态表。

可选的，如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务包括：在服务器为第一类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理待处理业务；在服务器为第二类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理待处理业务；若增加第二类服务器的数量增至最大值，且存在增加的待处理业务，则增加第一类服务器的数量，并通过增加的第一类服务器处理待处理业务。

可选的，在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量包括：检测第一类服务器和第二类服务器中是否存在吞吐量降低的服务器；在检测结果为是的情况下，若存在增加的待处理业务，则将待处理业务分配至吞吐量降低的服务器。

进一步地，可选的，该方法还包括：在各服务器的吞吐量未变化，且降低的情况下，若吞吐量小于第二预设值，则依据预设策略缩减服务器数量；其中，预设策略包括：缩减第二类服务器数目；缩减第二类服务器中吞吐量最小的服务器；若缩减所有第二类服务器，则缩减第一类服务器中吞吐量最小的服务器；当缩减第一类服务器数目达到预设数目时，保持第一类服务器数目；逐个缩减服务器数目；依据吞吐量是否达到预设范围缩减服务器；缩减运行时间最长，且负载最小的服务器中的一个或至少两个的组合。

可选的，该方法还包括：当第一类服务器或第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，若存在增加的待处理业务，则将增加的待处理业务转移至其他服务器，并提示用户在预设时间内的断开待缩减服务器中的业务；当在预设时间内未断开待缩减服务器中的业务时，断开待缩减服务器中的业务，并将存在增加的待处理业务分配至吞吐量低的服务器；或，当第一类服务器或第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，关闭待缩减服务器。

可选的，该方法还包括：当第二类服务器的数目伸展为最大值时，若存在增加的待处理业务，则增加第一类服务器的数量；其中，若存在增加的待处理业务，则将待处理业务分配至增加的第一类服务器中；若流量降低，且达到预设策略缩减服务器数量，则检测增加的第一类服务器的吞吐量和负载能力，并依据吞吐量和负载能力确定是否缩减第一类服务器。

根据本发明实施例的另一方面，还提供了一种调度服务器数目的装置，包括：检测模块，用于检测服务器的流量是否大于第一预设值；类型确定模块，用于在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；第一服务器调度模块，用于如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；第二服务器调度模块，用于在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

根据本发明实施例的另一方面，还提供了一种存储介质，其中，存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行上述调度服务器数目的方法。

根据本发明实施例的另一方面，还提供了一种处理器，其中，处理器用于运行程序，其中，程序运行时执行上述调度服务器数目的方法。

在本发明实施例中，通过检测服务器的流量是否大于第一预设值；在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数，达到了节省成本的目的，从而实现了动态调整流媒体服务器数量的技术效果，进而解决了现有技术中流媒体服务器调用时，使用成本高的技术问题。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是根据本发明实施例的调度服务器数目的方法的流程示意图；

图2是根据本发明实施例的一种调度服务器数目的方法的示意图；

图3是根据本发明实施例的调度服务器数目的装置的示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例1

根据本发明实施例，提供了一种调度服务器数目的方法的方法实施例，需要说明的是，在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行，并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1是根据本发明实施例的调度服务器数目的方法的流程示意图，如图1所示，该方法包括如下步骤：

步骤S102，检测服务器的流量是否大于第一预设值；

步骤S104，在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；

步骤S106，如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；

步骤S108，在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

在本发明实施例中，通过检测服务器的流量是否大于第一预设值；在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数，达到了节省成本的目的，从而实现了动态调整流媒体服务器数量的技术效果，进而解决了现有技术中流媒体服务器调用时，使用成本高的技术问题。

可选的，在步骤S102中检测服务器的流量是否大于第一预设值之前，本申请实施例提供的调度服务器数目的方法还包括：获取服务器的型号；依据服务器的型号获取负载能力表，其中，负载能力表，用于指示服务器的负载能力；依据预设周期采集服务器的吞吐量，并依据采集到的吞吐量生成服务器负载状态表。

可选的，步骤S106中如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务包括：在服务器为第一类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理待处理业务；在服务器为第二类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理待处理业务；若增加第二类服务器的数量增至最大值，且存在增加的待处理业务，则增加第一类服务器的数量，并通过增加的第一类服务器处理待处理业务。

可选的，步骤S108中在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量包括：检测第一类服务器和第二类服务器中是否存在吞吐量降低的服务器；在检测结果为是的情况下，若存在增加的待处理业务，则将待处理业务分配至吞吐量降低的服务器。

进一步地，可选的，本申请实施例提供的调度服务器数目的方法还包括：在各服务器的吞吐量未变化，且降低的情况下，若吞吐量小于第二预设值，则依据预设策略缩减服务器数量；其中，预设策略包括：缩减第二类服务器数目；缩减第二类服务器中吞吐量最小的服务器；若缩减所有第二类服务器，则缩减第一类服务器中吞吐量最小的服务器；当缩减第一类服务器数目达到预设数目时，保持第一类服务器数目；逐个缩减服务器数目；依据吞吐量是否达到预设范围缩减服务器；缩减运行时间最长，且负载最小的服务器中的一个或至少两个的组合。

可选的，本申请实施例提供的调度服务器数目的方法还包括：当第一类服务器或第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，若存在增加的待处理业务，则将增加的待处理业务转移至其他服务器，并提示用户在预设时间内的断开待缩减服务器中的业务；当在预设时间内未断开待缩减服务器中的业务时，断开待缩减服务器中的业务，并将存在增加的待处理业务分配至吞吐量低的服务器；或，当第一类服务器或第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，关闭待缩减服务器。

可选的，本申请实施例提供的调度服务器数目的方法还包括：当第二类服务器的数目伸展为最大值时，若存在增加的待处理业务，则增加第一类服务器的数量；其中，若存在增加的待处理业务，则将待处理业务分配至增加的第一类服务器中；若流量降低，且达到预设策略缩减服务器数量，则检测增加的第一类服务器的吞吐量和负载能力，并依据吞吐量和负载能力确定是否缩减第一类服务器。

为了更好的适用于大业务量阶梯式增长或者减少的场景，本申请实施例提供的调度服务器数目的方法提出的自动伸缩方案采用主从模式。

本申请实施例提供的调度服务器数目的方法是使用两个不同类型自动伸缩组构成一个子系统集群，一为主一为辅，为主的自动伸缩组服务器性能强于从组的服务器性能。从组的伸展策略基于主组的情况进行触发，在持续触发多次从组伸展策略或主组的情况还没有得到改善时，触发主组本身的伸展策略去缓解情况。主组起到主力作用，从组起到海绵作用。主组和从组的服务器个数可以根据业务场景自行定义。如主组服务器的最小个数可以为2个，最大为6个。从组服务器的最小个数可以为0个，最大为6个。如图2所示，图2是根据本发明实施例的一种调度服务器数目的方法的示意图。

如图2所示，具体的伸缩策略如下：

(1)流媒体服务器一启动就获取其所在服务器的具体型号，根据型号确定负载能力，如网卡能力，上报到数据库的一张负载能力表内。

(2)流媒体服务器需要定时将所在服务器的网卡I和O的吞吐量情况(按百分比)上报到数据库的一张服务器负载实时情况表内。

(3)当主组的服务器平均网卡进入流量达到全部能力的80％时，如果还继续有新业务增加，就触发伸展一个新的从组的服务器。

(4)如果启动的一个从组服务器平均网卡进入流量达到其能力的80％时，如果还继续有新业务增加，就触发伸展一个新的从组的服务器。直到从组服务器的最大个数为止。

(5)在自动伸缩组下次伸展前，哪个服务器的吞吐量比例越低，下次增加的业务就往哪个子系统调度。

(6)如果各服务器的吞吐量比例稳定一段时间后，业务没有继续上涨，反而不断减少。当业务减少到一定比例时，如某台服务器的平均网卡进入流量低于5％，则服务器需要缩减。

缩减策略如下：

1、从组缩减优先。

2、从组内哪个服务器的吐量比例最少，就缩减哪个。

3、如果从组没有服务器了，就缩减主组内网卡吐量比例最少的那个服务器。

4、如果主组内服务器数量已经达到基本配置了(至少两个)，就不再进行缩减。

5、缩减是一个一个服务器逐步缩减。

6、缩减判断的依据是网卡吐量比例达到设定范围。

7、优先缩减服务器运行时间最长的，负载量最小的。

(7)从组都已经伸展到最大数，如果业务还要继续上涨，此时会伸展一个主组的服务器。

特别的：

场景一：主组或从组服务器网卡吞吐量已经达到缩减标准，但是缩减的那台服务器承载业务量很大，如果一下子断掉会影响客户体验效果。

解决措施1：需要缩减的那个服务器不再承接新的业务，等待客户自动断掉业务。15分钟后还没有断掉连接的都将随着服务器的关闭而断掉。新业务都分配到网卡吞量比例低的服务器上。

解决措施2：直接关闭该台服务器。

场景二：从组都已经伸展到最大数，如果业务还要继续上涨，此时会伸展一个主组的服务器。

如果此时主组的服务器使用率很低，运维成本反而会更大。

解决措施1：如果业务量还要继续增加就负载到该主组新增服务器上(它的吞吐量比例最低)。

如果业务量再持续不断下降，已经达到了缩减范围，此时比较服务器性价比，15分钟内缩减这个主组的服务器。

解决措施2：完全按照各组的标准条件执行伸缩：网卡吞吐量比例伸缩的范围。

实施例2

根据本发明实施例的另一方面，还提供了一种调度服务器数目的装置，图3是根据本发明实施例的调度服务器数目的装置的示意图，如图3所示，包括：检测模块32，用于检测服务器的流量是否大于第一预设值；类型确定模块34，用于在检测结果为进入服务器的流量大于第一预设值的情况下，确定服务器所属类型；第一服务器调度模块36，用于如果存在增加的待处理业务，依据服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理待处理业务；第二服务器调度模块38，用于在服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

实施例3

根据本发明实施例的另一方面，还提供了一种存储介质，其中，存储介质包括存储的程序，其中，在程序运行时控制存储介质所在设备执行上述实施例1中的调度服务器数目的方法。

实施例4

根据本发明实施例的另一方面，还提供了一种处理器，其中，处理器用于运行程序，其中，程序运行时执行上述实施例1中的调度服务器数目的方法。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

在本发明的上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述的部分，可以参见其他实施例的相关描述。

在本申请所提供的几个实施例中，应该理解到，所揭露的技术内容，可通过其它的方式实现。其中，以上所描述的装置实施例仅仅是示意性的，例如所述单元的划分，可以为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，单元或模块的间接耦合或通信连接，可以是电性或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种调度服务器数目的方法，其特征在于，包括：

检测服务器的流量是否大于第一预设值；

在检测结果为进入服务器的流量大于第一预设值的情况下，确定所述服务器所属类型；

如果存在增加的待处理业务，依据所述服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理所述待处理业务；

在所述服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

2.根据权利要求1所述的方法，其特征在于，在检测服务器的流量是否大于第一预设值之前，所述方法还包括：

获取服务器的型号；

依据所述服务器的型号获取负载能力表，其中，所述负载能力表，用于指示所述服务器的负载能力；

依据预设周期采集所述服务器的吞吐量，并依据采集到的所述吞吐量生成服务器负载状态表。

3.根据权利要求1或2所述的方法，其特征在于，如果存在增加的待处理业务，依据所述服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理所述待处理业务包括：

在所述服务器为第一类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理所述待处理业务；

在所述服务器为所述第二类服务器的情况下，如果存在增加的待处理业务，增加第二类服务器的数量，通过增加的第二类服务器处理所述待处理业务；

若增加所述第二类服务器的数量增至最大值，且存在增加的待处理业务，则增加所述第一类服务器的数量，并通过增加的第一类服务器处理所述待处理业务。

4.根据权利要求1所述的方法，其特征在于，在所述服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量包括：

检测第一类服务器和第二类服务器中是否存在吞吐量降低的服务器；

在检测结果为是的情况下，若存在增加的待处理业务，则将所述待处理业务分配至所述吞吐量降低的服务器。

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

在各服务器的吞吐量未变化，且降低的情况下，若吞吐量小于所述第二预设值，则依据预设策略缩减服务器数量；

其中，所述预设策略包括：缩减第二类服务器数目；缩减所述第二类服务器中吞吐量最小的服务器；若缩减所有所述第二类服务器，则缩减所述第一类服务器中吞吐量最小的服务器；当缩减所述第一类服务器数目达到预设数目时，保持所述第一类服务器数目；逐个缩减服务器数目；依据吞吐量是否达到预设范围缩减服务器；缩减运行时间最长，且负载最小的服务器中的一个或至少两个的组合。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

当所述第一类服务器或所述第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，若存在增加的待处理业务，则将所述增加的待处理业务转移至其他服务器，并提示用户在预设时间内的断开待缩减服务器中的业务；

当在所述预设时间内未断开待缩减服务器中的业务时，断开待缩减服务器中的业务，并将存在增加的待处理业务分配至吞吐量低的服务器；

或，

当所述第一类服务器或所述第二类服务器中的服务器的吞吐量达到预设缩减标准，且待缩减服务器承载的业务量大时，关闭所述待缩减服务器。

7.根据权利要求5所述的方法，其特征在于，所述方法还包括：

当所述第二类服务器的数目伸展为最大值时，若存在增加的待处理业务，则增加所述第一类服务器的数量；

其中，若存在增加的待处理业务，则将所述待处理业务分配至增加的第一类服务器中；

若流量降低，且达到预设策略缩减服务器数量，则检测增加的所述第一类服务器的吞吐量和负载能力，并依据所述吞吐量和负载能力确定是否缩减所述第一类服务器。

8.一种调度服务器数目的装置，其特征在于，包括：

检测模块，用于检测服务器的流量是否大于第一预设值；

类型确定模块，用于在检测结果为进入服务器的流量大于第一预设值的情况下，确定所述服务器所属类型；

第一服务器调度模块，用于如果存在增加的待处理业务，依据所述服务器的类型，增加至少一类服务器的数量，通过增加的服务器处理所述待处理业务；

第二服务器调度模块，用于在所述服务器的吞吐量小于第二预设值的情况下，减少至少一类服务器的数量。

9.一种存储介质，其中，所述存储介质包括存储的程序，其中，在所述程序运行时控制所述存储介质所在设备执行权利要求1至7中任意一项所述的调度服务器数目的方法。

10.一种处理器，其中，所述处理器用于运行程序，其中，所述程序运行时执行权利要求1至7中任意一项所述的调度服务器数目的方法。

Images