CN104244020A - 一种云环境视频直播服务的请求路由方法 - Google Patents

Abstract

一种云环境视频直播服务的请求路由方法，采集云计算系统中各个数据中心的状态信息，并计算数据中心的服务器CPU负载；然后建立请求路由的效用函数以及约束条件，并建立请求路由优化问题；再根据历史数据，估计用户数量参数，并划分区间；最终应用动态请求路由算法，计算得到各个阶段的请求路由策略，本发明可根据云计算视频直播系统的当前状态以及对用户数量的估计，运用所提出的动态请求路由算法，得到最优的请求路由策略，可有效提高云提供商所得利润，提高资源利用率。

Description

一种云环境视频直播服务的请求路由方法

技术领域

本发明属于互联网中的云计算视频直播系统资源分配领域，特别涉及一种云环境视频直播服务的请求路由方法。

背景技术

随着核心网络与用户接入网络速度的迅速提高，实时流媒体已经变成了在线大规模视频直播的主要手段之一。云计算环境可为实时流媒体直播提供平台，具有较强的适应性与可扩展性。

云环境中的数据中心通常分布在一片较大的地理区域内。终端用户可从各个数据中心中获取实时流媒体数据，而不是直接从源服务器中获取数据。这种方式可以有效的避免网络拥塞与源服务器过载。

在基于云环境的实时流媒体直播系统中，英特网内容提供商(ICPs,Internet Content Providers)将实时视频进行采集、编码、与压缩等处理，并将视频流媒体数据传输给核心服务器(core server)。核心服务器再通过云提供商的覆盖网络(该覆盖网络既可以是专用线路，也可以是公共线路)将这些数据分发到各个地区的数据中心中。来自不同地区的终端用户向云提供商发起视频请求，并通过请求路由(RR,Request Routing)技术被重定向到某个边缘服务器中。

云服务提供商所面对的一个核心问题，是如何设计合理的请求路由策略，以使得其能够获得尽可能高的经济利益，并在此同时保证系统性能较好。在传统基于Web的应用中已经存在一些请求路由策略，这些策略有很多都具有动态性(称为自适应的请求路由策略)，因为动态的请求路由策略可以更合理的利用有限的资源。但是，这些基于Web的动态请求路由策略无法直接移植到视频流媒体直播环境。究其原因，在于：(1)在视频直播应用中，终端用户在系统的驻留时间比在传统Web应用中的驻留时间长的多，通常是几个量级的差距。在整个观看过程中，终端用户都要占据着服务器资源与网络资源。(2)一旦终端用户开始从某个数据中心接收数据，该终端用户就不能被随意的重定向到其它数据中心，因为这个过程通常会导致视频播放的中断，进而影响用户体验。

另一方面，非自适应请求路由策略(又称为静态路由请求策略)也具有较大局限性。因为静态请求策略必须考虑到系统的“最差情形”。但是，“最差情形”并不一定会经常出现，而“最差情形”下的最优静态路由请求策略，在“通常情形”中的实际性能可能会有下降，即它不是“通常情形”下的最优策略。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种云环境视频直播服务的请求路由方法，可应用于基于云平台的大型分布式视频直播系统中，有效降低云运营商的运营成本，提高资源利用率。

为了实现上述目的，本发明采用的技术方案是：

一种云环境视频直播服务的请求路由方法，包括如下步骤：

步骤(1)，采集云计算系统中各个数据中心的状态信息，并计算数据中心的服务器CPU负载；

步骤(2)，建立请求路由的效用函数以及约束条件，并建立请求路由优化问题；

步骤(3)，根据历史数据，估计用户数量参数，并划分区间；

步骤(4)，应用动态请求路由算法，计算得到各个阶段的请求路由策略。

所述步骤(1)中状态信息包括：

地区i终端用户所占总用户数量的比例

数据中心j的背景负载λ_j；

数据中心j当前可用网络带宽能支持的用户数B_j；

数据中心j当前正在使用视频服务的终端用户数量x_j；

所述数据中心的服务器CPU负载计算公式为：

其中，j表示数据中心编号，表示数据中心j的服务器CPU负载，ι_j表示每个用户所占用的CPU的量。

所述步骤(2)中效用函数为所述约束条件包括服务能力约束、带宽约束以及流量守恒约束，

在服务能力约束条件下，

在带宽约束条件下，

在流量守恒约束约束条件下， $\begin{array}{c}\underset{j}{\mathrm{\Σ}}{f}_{\mathrm{ij}}=1,\∀i\\ f_{\mathrm{ij}}\≥0,\∀i,j\end{array}$

请求路由优化问题

其中，N为终端用户总数，f_ij为请求路由策略，即地区i的用户有f_ij％被数据中心j服务，Π(d_ij)为当i地区的用户被数据中心j服务且延迟为d_ij时的收入，c_j为地区j单位网络带宽的租用成本，th_j为一事先规定的阈值，th_j≤1。

所述延迟d_ij＝D_ij+δ_j，其中D_ij为网络延迟，δ_j为数据中心j中的服务器响应延迟，g_j(x)为服务器在负载为x下的响应时间函数，由排队论相关结论得出。

所述步骤(3)中用户数量参数为N_L,N_H,且其中，区间[N_L,N_H]是正常区间，即以前各次类似视频流媒体直播的终端用户总数都在该区间范围内，是“最差”情形，是系统管理员所给出的用户总数上界的估计；将区间分割为n-1个阶段：P₁＝[p₁，p₂),P₂＝[p₂，p₃),…,P_n-1＝[p_n-1，p_n]，p_k<p_k+1，p₁＝N_L且

所述步骤(4)中动态请求路由算法如下：

对于第一个阶段P₁，根据该阶段内用户的数量N以及当前所拥有的资源数量(包括λ_j与B_j，分别为可用的CPU利用率与网络带宽)，通过请求路由优化问题(即步骤3中的RRS(N,λ_j,B_j))计算得到阶段P₁的请求路由策略f_ij(P₁)。而后，计算得到请求路由策略f_ij(P₁)所消耗的资源量(表示为μ_j与b_j，分别为消耗的CPU利用率与网络带宽)，并利用以下公式

B_j＝B_j-b

λ_j＝λ_j-μ

计算应用请求路由策略f_ij(P₁)后所剩余的资源数量。此后，不断重复上述步骤，直至计算得到最后一个阶段的请求路由策略f_ij(P_n-1)。

与现有技术相比，本发明可根据实际用户访问情况与云计算系统中各个数据中心的资源使用情况，计算最佳的请求路由策略。该方法可保证视频直播的连续性，不影响终端用户体验，同时还可以提高云计算系统的资源利用率，降低云提供商的运营成本。

附图说明

图1为根据本发明技术所构建的自动化网络管理系统的示意图。

具体实施方式

下面结合附图和实施例详细说明本发明的实施方式。

本专利的系统环境如图1所示，其中云计算系统覆盖的地域被划分为I块，每个地域中有一个数据中心。视频由源服务器采集，并通过云入口传送进入云计算系统。云计算系统中有多个数据中心，地理上分布于各个地区。数据中心负责将源服务器传送过来的视频数据发送给终端用户。请求路由策略用来决定哪些区域的终端用户访问哪些数据中心。

本发明中提出的云环境视频直播服务请求路由方法包括以下几个主要的处理过程：

步骤(1)，采集系统状态信息，包括：地区i终端用户所占总用户数量的比例数据中心j的背景负载λ_j，数据中心j当前可用网络带宽能支持的用户数B_j，数据中心j当前正在使用视频服务的终端用户数量x_j。

步骤(2)，计算云计算系统中数据中心j的服务器CPU负载。大量研究表明，CPU负载与用户数量呈线性关系。因此，数据中心j的CPU负载可表示为其中ι_j为每个用户所占用的CPU的量。

步骤(3)，建立系统效用函数。效用函数可表达为收入与成本之差。一般情况下，系统对视频服务所提供的服务质量越好，则系统响应时间越小，响应的所得收入就会越高。另一方面，系统的成本主要体现在网络带宽租用成本。令请求路由策略为f_ij(即地区i的用户有f_ij％被数据中心j服务)，N为终端用户总数，则有此时可定义系统的效用函数为：

其中，Π(d_ij)为当i地区的用户被数据中心j服务且延迟为d_ij时的收入，c_j为地区j单位网络带宽的租用成本。延迟d_ij可分为两部分d_ij＝D_ij+δ_j，其中D_ij为网络延迟，δ_j为数据中心j中的服务器响应延迟。根据已有研究结果，服务器响应延迟可表达为其中，g_j(x)为服务器在负载为x下的响应时间函数，可由排队论相关结论得出。

步骤(4)，建立请求路由的约束条件。约束条件规定了什么样的请求路由策略是可行的，主要包括：

步骤(4.1)，服务能力约束：

其中th_j≤1为一事先规定的阈值。服务能力约束说明，数据中心j的服务器CPU不能过载。

步骤(4.2)，带宽约束：

带宽约束表明，数据中心j所服务的终端用户消耗的总带宽不得超过所租用的带宽。

步骤(4.3)，流量守恒约束：

$\begin{array}{c}\underset{j}{\mathrm{\&Sigma;}}{f}_{\mathrm{ij}}=1,\&ForAll;i\\ f_{\mathrm{ij}}\&GreaterEqual;0,\&ForAll;i,j\end{array}---\left(4\right)$

流量守恒约束表明，所有的请求都必须被系统服务。

步骤(5)，建立请求路由优化问题。当已知终端用户数量N、数据中心的背景负载λ_j、以及当前每个数据中心的可用带宽B_j后，就可以建立如下请求路由优化问题RRS(N,λ_j,B_j)：

通过求解RRS问题就可以得到终端用户为N时的最优请求路由策略。

步骤(6)，根据动态请求路由算法计算最优请求路由策略。在实际视频直播前，难以精确预测终端用户总数N。在本专利中，使用三个辅助参数来设计动态请求路由算法，这三个参数由系统管理员对以往历史数据进行统计得到。其中，区间[N_L,N_H]是“正常”区间，即以前各次类似视频流媒体直播的终端用户总数都在该区间范围内。是“最差”情形，是系统管理员所给出的用户总数上界的估计。将区间分割为n-1个阶段：P₁＝[p₁，p₂),P₂＝[p₂，p₃),…,P_n-1＝[p_n-1，p_n]，p_k<p_k+1，p₁＝N_L且最后，利用动态请求路由算法计算得到阶段P_k的请求路由调度策略f_ij(P_k)。在阶段P_k，对每个新到的终端用户请求使用策略f_ij(P_k)。动态请求路由算法如下所示：

动态请求路由算法

01:函数:MPS

输入:资源使用情况λ_j,B_j，用户数量估计参数N_L,N_H,以及所有的阶段P_k

输出:每个阶段P_k的请求路由策略f_ij(P_k)

02:初始化F＝{f_ij(P_k)},k＝1,2,…,n；

/*F用来存储各个阶段的请求路由策略*/

B＝{B_j},λ＝{λ_j}；

/*B与λ用来存储当前系统的资源占用量*/

05:for(k＝1；k<n；k++)

06:f_ij(P_k)＝RRS(p_k+1-p_k,B_j,λ_j)；

07:Resource_Consumption(P_k,&b,&μ)；

08:B_j＝B_j-b；

00:λ_j＝λ_j-μ；

09:end for

10:return F＝{f_ij(P_k)}；

其中，Resource_Consumption(P_k,&b,&μ)计算阶段P_k所消耗的网络带宽与CPU利用率，并将这两个值存储在b与μ中。

步骤(7)，在每个阶段P_k，应用f_ij(P_k)做为请求路由策略。

运用上述云环境视频直播服务的请求路由方法，对一个具体例子进行请求路由分配。

首先，通过历史信息统计，得到各个地区的用户分布。例如，云计算系统覆盖了8个区域，每个区域用户分布如下表所示：

区域	1	2	3	4	5	6	7	8
									分布	0.2	0.25	0.3	0.05	0.02	0.06	0.01	0.11

其次，通过测量等手段，获得当前云计算系统的状态信息，如下表所示

数据中心	cj	Bj	λj	thj	ιj
						1	10	80	0.3	0.85	0.01
2	7	80	0.1	0.9	0.008

3	8	100	0.2	0.85	0.01
						4	8	50	0.1	0.9	0.015
5	5	50	0.1	0.9	0.01
						6	3	50	0.2	0.9	0.01
7	2	20	0.1	0.95	0.012
						8	4	40	0.1	0.85	0.01

并计算数据中心j的CPU负载CPU：

第三步，建立效用函数与约束条件，并建立请求路由优化问题

第四步，预测终端用户数量区间并将其分割为n-1个阶段：P₁＝[p₁，p₂),P₂＝[p₂，p₃),…,P_n-1＝[p_n-1，p_n]，p_k<p_k+1，p₁＝N_L且

第五步，运用上述动态请求路由算法，计算得到各个阶段的请求路由策略f_ij(P_k)，例如，对于第一个阶段，得到的请求路由策略可以是如下矩阵：

$f_{\mathrm{ij}}\left(P_1\right)=\left(\begin{array}{cccccccc}0.5& 0.15& 0& 0& 0& 0.3& 0.05& 0\\ 0& 0.4& 0.1& 0.15& 0.1& 0& 0& 0.25\\ 0.05& 0.05& 0.35& 0.1& 0.15& 0.1& 0.1& 0.1\\ 0& 0.1& 0.1& 0.3& 0.15& 0.15& 0.1& 0.1\\ 0& 0& 0.3& 0.1& 0.6& 0& 0& 0\\ 0.1& 0& 0& 0.15& 0& 0.55& 0.1& 0.1\\ 0& 0& 0.05& 0.1& 0& 0.2& 0.45& 0.2\\ 0& 0.2& 0& 0& 0& 0& 0.15& 0.65\end{array}\right)$

其中每个元素的含义是从区域i到数据中心j所路由的请求的百分比，可以看到，该矩阵每行的和都是1。

以上，对本发明的具体实施方式做了具体描述，但是不应该认定本发明的具体实施只局限于这些说明。对于本发明所属领域的普通技术人员来说，在不脱离本发明构思和由权利要求书所限定的保护范围的前提之下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (6)

1.一种云环境视频直播服务的请求路由方法，其特征在于，包括如下步骤：

步骤(1)，采集云计算系统中各个数据中心的状态信息，并计算数据中心的服务器CPU负载；

步骤(2)，建立请求路由的效用函数以及约束条件，并建立请求路由优化问题；

步骤(3)，根据历史数据，估计用户数量参数，并划分区间；

步骤(4)，应用动态请求路由算法，计算得到各个阶段的请求路由策略。

2.根据权利要求1所述云环境视频直播服务的请求路由方法，其特征在于，所述步骤(1)中状态信息包括：

地区i终端用户所占总用户数量的比例

数据中心j的背景负载λ_j；

数据中心j当前可用网络带宽能支持的用户数B_j；

数据中心j当前正在使用视频服务的终端用户数量x_j；

所述数据中心的服务器CPU负载计算公式为：

其中，j表示数据中心编号，表示数据中心j的服务器CPU负载，ι_j表示每个用户所占用的CPU的量。

3.根据权利要求2所述云环境视频直播服务的请求路由方法，其特征在于，所述步骤(2)中效用函数为所述约束条件包括服务能力约束、带宽约束以及流量守恒约束，

在服务能力约束条件下，

在带宽约束条件下，

在流量守恒约束约束条件下， $\begin{array}{c}\underset{j}{\mathrm{\&Sigma;}}{f}_{\mathrm{ij}}=1,\&ForAll;i\\ f_{\mathrm{ij}}\&GreaterEqual;0,\&ForAll;i,j\end{array}$

请求路由优化问题

其中，N为终端用户总数，f_ij为请求路由策略，即地区i的用户有f_ij％被数据中心j服务，Π(d_ij)为当i地区的用户被数据中心j服务且延迟为d_ij时的收入，c_j为地区j单位网络带宽的租用成本，th_j为一事先规定的阈值，th_j≤1。

4.根据权利要求3所述云环境视频直播服务的请求路由方法，其特征在于，所述延迟d_ij＝D_ij+δ_j，其中D_ij为网络延迟，δ_j为数据中心j中的服务器响应延迟，g_j(x)为服务器在负载为x下的响应时间函数，由排队论相关结论得出。

5.根据权利要求3所述云环境视频直播服务的请求路由方法，其特征在于，所述步骤(3)中用户数量参数为N_L,N_H,且其中，区间[N_L,N_H]是正常区间，即以前各次类似视频流媒体直播的终端用户总数都在该区间范围内，是“最差”情形，是系统管理员所给出的用户总数上界的估计；将区间分割为n-1个阶段：P₁＝[p₁，p₂),P₂＝[p₂，p₃),…,P_n-1＝[p_n-1，p_n]，p_k<p_k+1，p₁＝N_L且

6.根据权利要求4或5所述云环境视频直播服务的请求路由方法，其特征在于，所述步骤(4)中动态请求路由算法如下：

对于第一个阶段P₁，根据该阶段内用户的数量N以及当前所拥有的资源数量(包括λ_j与B_j，分别为可用的CPU利用率与网络带宽)，通过请求路由优化问题(即步骤3中的RRS(N,λ_j,B_j))计算得到阶段P₁的请求路由策略f_ij(P₁)。而后，计算得到请求路由策略f_ij(P₁)所消耗的资源量(表示为μ_j与b_j，分别为消耗的CPU利用率与网络带宽)，并利用以下公式

B_j＝B_j-b

λ_j＝λ_j-μ

计算应用请求路由策略f_ij(P₁)后所剩余的资源数量。此后，不断重复上述步骤，直至计算得到最后一个阶段的请求路由策略f_ij(P_n-1)。