CN101039281A - 一种流媒体服务器负荷分担方法 - Google Patents

Abstract

本发明公开了一种流媒体服务器负荷分担方法，包括：(a)流媒体服务器启动后，定期将资源发送周期和系统资源信息发送给门户服务器，由所述门户服务器记录到数据库中，同时，所述门户服务器根据数据库的记录写入时间和资源发送周期定期设置流媒体服务器的状态；(b)终端访问所述门户服务器时，所述门户服务器查找数据库中状态为活动的流媒体服务器的系统资源信息，根据系统资源信息及CPU与媒体连接的权重关系计算出负荷最小的流媒体服务器，并将该负荷最小的流媒体服务器的统一资源定位符发送给终端，所述终端根据得到的统一资源定位符发起向该负荷最小的流媒体服务器的媒体访问，完成负荷分担。

Description

一种流媒体服务器负荷分担方法

技术领域

本发明涉及流媒体通讯领域，尤其涉及流媒体系统多流媒体服务器进行负荷分担的方法。

背景技术

随着网络技术的发展，一种新的媒体技术应运而生，这就是流媒体技术。流媒体是指在网络中使用流式传输技术的连续时基媒体，如音频、视频、音视频或多媒体文件。流媒体技术可以使用户边下载边收看媒体内容，而不需要把媒体文件全部下载到本地才能观看。

在流媒体系统中，一台流媒体服务器只能提供有限的实时媒体流连接，当访问流媒体的用户较多的情况下，就需要增加流媒体服务器的数量，使各个流媒体服务器共同为用户提供流媒体业务，提高系统处理流媒体业务能力。

当一个流媒体系统存在多个流媒体服务器时，如何使系统的各个流媒体服务器比较均衡的处理流媒体业务，发挥各自的最佳性能就是目前要解决的问题。目前存在的一种流媒体负荷分担方法是：一台负载均衡服务器作为前端，拥有公网IP和外网相连，各流媒体服务器拥有私网地址，负载均衡服务器既作为服务器又作为客户端，对来内网和外网的数据进行识别后转发。该技术存在如下不足：负载均衡服务器，负责来自外面客户端的数据识别和转发，同时也负责内部服务器向客户端发送的数据的识别和转发。当用户在线点播媒体数很大的时候，由于每个媒体点播的数据量都很大，就会在负载均衡服务器处形成瓶颈，使系统的性能无法全部发挥出来。还有一种较好的方法是：门户子系统实时监控各流媒体服务器的运行状态，当终端访问流媒体文件时，门户子系统选择负荷最小的流媒体服务器提供服务。但是该方法对于判定各流媒体服务器是否运行正常以及如何选择最小负荷分担的流媒体服务器没有提供解决方案。

发明内容

本发明所要解决的技术问题是提供一种流媒体服务器负荷分担方法，为判定各流媒体服务器是否运行正常以及如何选择最小负荷的流媒体服务器提供了解决方案。

为了解决上述技术问题，本发明提供了一种流媒体服务器负荷分担方法，包括以下步骤：

(a)流媒体服务器启动后，定期将资源发送周期和系统资源信息发送给门户服务器，由所述门户服务器记录到数据库中，同时，所述门户服务器根据数据库的记录写入时间和资源发送周期定期设置流媒体服务器的状态；

(b)终端访问所述门户服务器时，所述门户服务器查找数据库中状态为活动的流媒体服务器的系统资源信息，根据系统资源信息及CPU与媒体连接的权重关系计算出负荷最小的流媒体服务器，并将该负荷最小的流媒体服务器的统一资源定位符发送给终端，所述终端根据得到的统一资源定位符发起向该负荷最小的流媒体服务器的媒体访问，完成负荷分担。

进一步地，所述系统资源信息包括CPU使用百分比和当前媒体流连接数，或者还包括内存使用百分比。

进一步地，在所述步骤(a)中，流媒体服务器发送资源发送周期和系统资源信息给门户服务器的周期为3-20秒。

进一步地，在所述步骤(a)中，所述门户服务器向数据库中记录信息进一步包括以下步骤：所述门户服务器查找数据库判断是否有该流媒体服务器信息，如果是，则更新该流媒体服务器的系统资源信息，记录写入时间并置该流媒体服务器状态为活动，如果否，则生成一条记录，将该流媒体服务器信息、流媒体服务器系统资源信息写入数据库，记录写入时间并置该流媒体服务器状态为活动。

进一步地，所述流媒体服务器信息包括IP地址、端口号、最大媒体连接数和资源发送周期。

进一步地，在所述步骤(a)中，所述门户服务器更新流媒体服务器状态的周期为三个资源发送平均周期，所述资源发送平均周期是所有流媒体服务器资源发送周期的平均值。

进一步地，在所述步骤(a)中，所述门户服务器根据数据库的记录写入时间和资源发送周期设置流媒体服务器的状态是指，所述门户服务器判断某流媒体服务器的最后一次记录写入时间与当前时间的差是否大于等于该流媒体服务器资源发送周期的n倍，1≤n≤5，如果否，则置该服务器状态为活动。

进一步地，在所述步骤(b)中，所述根据系统资源信息及CPU与媒体连接的权重关系计算出负荷最小的流媒体服务器是指，将每个状态为活动的流媒体服务器的CPU使用百分比乘以流媒体服务器最大媒体连接数，再乘以CPU与媒体连接的权重关系，再加上当前的媒体连接数，得出的结果中值最小的即为负荷最小的流媒体服务器，设CPU与媒体连接的权重关系为m，m的取值范围为1≤m≤3。

本发明方法是对现有技术中提到的第二种方法的改进，采用本发明所述方法，与现有技术相比，解决了多流媒体服务器进行点播直播业务时存在的瓶颈问题，改进了流媒体服务器状态监测和流媒体服务器选择的方法，使每个服务器都可以发挥到最大的性能，达到了各个流媒体服务器进行负荷分担的效果，提高了流媒体系统对外提供业务的能力。

附图说明

图1是本实施例多流媒体服务器负荷分担方式的组网示意图；

图2是本实施例流服务器资源上报和状态更新流程图；

图3是本实施例负荷分担方式下的业务流程图。

具体实施方式

下面结合附图和具体实施方式对本发明作进一步的详细描述。

本发明的重点是负荷分担模块，所以对于系统中其他部分的应用流程不进行更细的阐述。

图1为流媒体服务器实现负荷分担时流媒体系统的组网方式。其中，数据库可以和门户服务器共用一台物理服务器，即将数据库和门户程序都安装在同一台服务器上，门户服务器通过数据库接口函数访问数据库。负荷分担模块和门户服务器合设，负荷分担模块和门户程序通过内部接口进行通讯，门户服务器向负荷分担模块请求服务的流媒体服务器地址，负荷分担模块返回服务的流媒体服务器地址。负荷分担模块通过数据库接口函数对数据进行访问。

本发明涉及到门户服务器、流媒体服务器、数据库服务器，其中门户服务器中还包括负荷分担模块，流媒体服务器中还包括资源收集模块。

门户服务器：提供终端用户的业务展现、业务管理和内容管理，并提供媒体系统服务的控制系统；

负荷分担模块：负荷分担模块设置于门户服务器上，可以作为门户服务器的子模块，接收各流媒体服务器发送的系统资源消息，将消息中的流媒体服务器系统资源信息提取出来写入数据库，当有用户点播时，查询数据库各流媒体服务器的系统资源情况，根据一定算法选择出负荷最小的流媒体服务器作为提供点播业务的服务器。

流媒体服务器：实现对用户的鉴权以及向用户提供实时媒体点播、直播等服务；

资源收集模块：资源收集模块作为流媒体服务器的一个子模块，当流媒体服务器程序启动时被激活后，根据配置的时间定时收集并发送系统的资源信息到门户服务器。

数据库服务器：存储流媒体系统门户信息、用户信息、文件信息和流媒体服务器信息等，供门户服务器和负荷分担模块访问。数据库服务器可以和门户服务器共用一台服务器主机。

如图2所示(为了清楚区分负荷分担模块的作用，图中将其与门户服务器分开绘制)，流媒体服务器的负荷分担方法包括以下步骤：

步骤201，流媒体服务器启动后，流媒体服务器中的资源收集模块定时收集系统资源信息，并将资源发送周期以及获取的系统资源信息发送到配置的负荷分担模块；

收集和发送的系统资源信息包括CPU使用百分比和当前媒体流连接数，或者还可包括内存使用百分比。资源收集模块收集发送系统资源的周期可以配置，配置区间为3～20秒，在本实施例中默认为5秒。

3-20秒的上报周期是根据流媒体系统容量大小应用的不同来进行设置的。对于用户量很大访问非常频繁的重点系统，由于用户在线访问数变化比较大，对系统资源的监控频率就要比较高，需要配置为3秒上报一次。由于资源上报也要耗费系统资源，太频繁的上报会加重系统的负担，每1秒上报一次的系统开销是每3秒上报一次系统开销的3倍。另外，经过实验，低于3秒的上报在系统负荷很大时，系统资源的变化也不是特别明显，所以最小上报周期取3秒。

由于流媒体服务器是提供用户媒体流的主体，所以流媒体服务器在非活动状态必需尽快发现。按流媒体服务器非活动状态时应该在1分钟内被检查发现，并且由于采用3个发送周期没有收到上报认为流媒体服务器处于非服务状态，因此把1分钟分为三个资源发送周期，每个资源发送周期应该小于等于20秒，所以将上报的最大周期设置为20秒，20秒的上限也是从系统的健壮性角度考虑的。另外，通过实验，对于20秒的周期，系统的资源会产生巨大的变化，上报周期如果再大就不能及时的反应系统的运行状态了。

资源收集模块把流媒体服务器的系统资源提供给负荷分担模块，负荷分担模块与资源收集模块一起对系统资源信息起保活作用，负荷分担模块根据流媒体服务器系统资源最后一次更新的时间，来判断该服务器是否处于活动状态。由于网络丢包或者服务器忙等原因，流媒体服务器发送的系统资源信息有时负荷分担模块会无法收到，所以不能因为一个发送周期没有更新流媒体服务器系统资源信息就判定该服务器为非活动。当流媒体服务器的系统资源信息在超过三个发送周期没有更新的情况下，负荷分担模块即认为该流媒体服务器已经处于非活动状态。

步骤202，负荷分担模块接收到流媒体服务器发送的系统资源消息后，查数据库，记录系统资源信息；

如果数据库中没有该服务器信息，则生成一条记录，把该流媒体服务器信息(包括IP地址、端口号、最大媒体连接数、资源发送周期)和流媒体服务器系统资源信息写入数据库，记录写入时间(负荷分担模块写入数据库的时间)并置该服务器状态为活动；如果数据库中有该服务器信息，则更新该流媒体服务器的系统资源信息，记录写入时间并置服务器状态为活动。

同时，负荷分担模块每隔3个流服务器资源发送平均周期(各个流服务器资源发送周期的平均值)读取一次状态为活动的服务器记录写入时间信息和资源发送周期信息，对于每个流媒体服务器，负荷分担模块根据该服务器的最后一次记录写入时间与当前时间的差是否大于等于该流媒体服务器的3个资源发送周期来判定服务器的状态是否为非活动，如果大于等于3个，则置该服务器状态为非活动。例如，负荷分担模块每30秒(假设30秒为3个资源发送平均周期)读取一次状态为ON的服务器记录写入时间信息，如果一个资源发送周期为8秒的流媒体服务器最后一次记录写入时间距离现在大于等于24秒，则置该服务器状态为OFF。

对于最后记录写入时间距当前时间的时间差在1-5个流媒体服务器资源上报周期之内均可认为其处于活动状态。但是，通过3个资源上报周期来判定服务器是否为活动是比较合适的值。由于网络拥塞或服务器忙等原因，很可能导致上报的消息丢失或没有被及时发送，仅凭一次就判定服务器为非活动非常不合理，容易导致对服务器状态的误判，降低系统的稳定性。但如果连续3个周期没有收到，不管是网络原因或是服务器忙的原因，说明系统已经产生问题了导致不能收到该服务器的消息，可以认为该服务器为非活动，是比较合理的。

负荷分担模块可以在每3个流媒体服务器资源发送平均周期时对流媒体服务器的状态进行一次判断。负荷分担模块通过从数据库中读取各个流媒体服务器的资源发送周期，算出平均值，得到资源发送平均周期。

在其他实施例中除了采用流媒体服务器的资源发送平均周期外，还可根据所有流媒体服务器中资源发送周期最大或最小值来进行判断，或者采用预定的其他时间。同样地，负荷分担模块除了采用3个周期检测一次的方法外，还可根据需要进行设置。

当终端访问门户服务器时，流程如图3所示，包括以下步骤：

步骤301，终端访问门户服务器，发起点播或直播业务请求；

步骤302，门户服务器收到点播请求后，向负荷分担模块请求提供本次服务器的服务器信息，即请求最小负荷流媒体服务器信息；

步骤303，负荷分担模块查找数据库中状态为活动的流媒体服务器系统资源信息，根据系统资源信息计算出负荷最小的流媒体服务器；

算法如下：

对每个状态为ON的流媒体服务器的CPU使用百分比乘以流媒体服务器最大媒体连接数的m倍，m为CPU与媒体连接的权重关系，其取值范围为1-3，加上当前的媒体连接数，得出的结果中值最小的，即为本次服务的流媒体服务器。

由于在实际应用中流媒体系统在搭建时各流媒体服务器的选择为相同型号或相近型号的服务器，因此各流媒体服务器在性能上不会有多大差别，所以本文考虑的所有流媒体服务器的最大媒体连接数是相同的，该值由门户服务器统一设置。

以上算法仅仅考虑了CPU的使用百分比和当前的媒体连接数。设CPU的权重为媒体连接的2倍，按流媒体服务器的最大媒体连接数为1000个考虑，则将CPU的使用百分比乘以2000；如果流媒体服务器的最大媒体连接数为1500个，则CPU的使用百分比要乘3000；如果流媒体服务器的最大媒体连接数为2000个，则CPU的使用百分比要乘4000。依此类推。将CPU的权重按媒体连接的2倍权重对待，充分考虑到了CPU的重要性。

例如，有两个流媒体服务器，CPU使用百分比和当前媒体连接数分别为(70％，600)和(75％，580)，按流媒体服务器的最大媒体连接数为1000个考虑，设CPU的权重为媒体连接的2倍，则两个服务器的计算结果分别为：70％*2000+600＝2000，75％*2000+580＝2080。提供服务的服务器为结果值较小的服务器，即值为2000的服务器。

这种方法对系统的CPU资源以及当前媒体连接数都作了考虑，没有单纯的以CPU占用率作为系统资源的唯一核定目标。这种方法兼顾了网络流量在资源占有的比重。因为存在一种情况，虽然两台服务器的CPU资源非常接近，但在线连接数多的网络的负荷会大些。考虑到CPU相对于网络流量来比在系统资源中更重要，所以将CPU的权重设为2。

根据在实验室进行实验，这种算法能比较好的反应流服务器的资源占有情况，在各个流服务器系统资源都占有很大的时候，继续增加负荷测试，各服务器的系统资源均比较均衡的增加，没有出现个别资源占用变化较大的情况。

步骤304，负荷分担模块将负荷最小的流媒体服务器信息返回给门户服务器；

步骤305，门户服务器将获得的流媒体地址和文件信息生成访问URL，返回给终端用户；

步骤306，用户根据收到的URL(Uniform Resource Locator，统一资源定位符)向流媒体服务器发起点播请求；

步骤307，流媒体服务器收到用户的点播请求后，对URL进行鉴权检查，鉴权通过后，向用户发送媒体流；

步骤308，用户开始接收并播放点播的文件，文件播放完成，流媒体服务器生成点播话单，点播流程结束。

当然，本发明还可有其他多种实施例，在不背离本发明精神及其实质的情况下，熟悉本领域的技术人员可根据本发明作出各种相应的改变和变形，但这些相应的改变和变形都应属于本发明所附的权利要求的保护范围。

Claims (10)

1、一种流媒体服务器负荷分担方法，包括以下步骤：

(a)流媒体服务器启动后，定期将资源发送周期和系统资源信息发送给门户服务器，由所述门户服务器记录到数据库中，同时，所述门户服务器根据数据库的记录写入时间和资源发送周期定期设置流媒体服务器的状态；

(b)终端访问所述门户服务器时，所述门户服务器查找数据库中状态为活动的流媒体服务器的系统资源信息，根据系统资源信息及CPU与媒体连接的权重关系计算出负荷最小的流媒体服务器，并将该负荷最小的流媒体服务器的统一资源定位符发送给终端，所述终端根据得到的统一资源定位符发起向该负荷最小的流媒体服务器的媒体访问，完成负荷分担。

2、如权利要求1所述的方法，其特征在于，所述系统资源信息包括CPU使用百分比和当前媒体流连接数，或者还包括内存使用百分比。

3、如权利要求1所述的方法，其特征在于，在所述步骤(a)中，流媒体服务器发送资源发送周期和系统资源信息给门户服务器的周期为3-20秒。

4、如权利要求1所述的方法，其特征在于，在所述步骤(a)中，所述门户服务器向数据库中记录信息进一步包括以下步骤：所述门户服务器查找数据库判断是否有该流媒体服务器信息，如果是，则更新该流媒体服务器的系统资源信息，记录写入时间并置该流媒体服务器状态为活动，如果否，则生成一条记录，将该流媒体服务器信息、流媒体服务器系统资源信息写入数据库，记录写入时间并置该流媒体服务器状态为活动。

5、如权利要求4所述的方法，其特征在于，所述流媒体服务器信息包括IP地址、端口号、最大媒体连接数和资源发送周期。

6、如权利要求1所述的方法，其特征在于，在所述步骤(a)中，所述门户服务器更新流媒体服务器状态的周期为三个资源发送平均周期，所述资源发送平均周期是所有流媒体服务器资源发送周期的平均值。

7、如权利要求1所述的方法，其特征在于，在所述步骤(a)中，所述门户服务器根据数据库的记录写入时间和资源发送周期设置流媒体服务器的状态是指，所述门户服务器判断某流媒体服务器的最后一次记录写入时间与当前时间的差是否大于等于该流媒体服务器资源发送周期的n倍，1≤n≤5，如果否，则置该服务器状态为活动。

8、如权利要求7所述的方法，其特征在于，n＝3。

9、如权利要求1所述的方法，其特征在于，在所述步骤(b)中，所述根据系统资源信息及CPU与媒体连接的权重关系计算出负荷最小的流媒体服务器是指，将每个状态为活动的流媒体服务器的CPU使用百分比乘以流媒体服务器最大媒体连接数，再乘以CPU与媒体连接的权重关系，再加上当前的媒体连接数，得出的结果中值最小的即为负荷最小的流媒体服务器，设CPU与媒体连接的权重关系为m，m的取值范围为1≤m≤3。

10、如权利要求9所述的方法，其特征在于，m＝2。

Images