CN101764993A - 一种视频点播系统中的协作缓存方法及视频点播系统 - Google Patents

Abstract

本发明公开了一种视频点播系统中的协作缓存方法及视频点播系统。所述方法包括：步骤101、本地服务器接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；步骤102、异地服务器接收重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息；步骤103、本地服务器根据异地服务器返回的响应消息进行处理。本发明还提供一种视频点播系统。本发明的方案能够保证本地用户服务能力的情况下，将来自不同小区用户的请求重定向到合适的服务器上，从而不仅提高服务器的缓存效率，还提高系统的服务能力。

Description

一种视频点播系统中的协作缓存方法及视频点播系统

技术领域

本发明涉及数字家庭技术领域，具体涉及一种分布式的视频点播系统中的协作缓存方法及视频点播系统。

背景技术

随着集群技术的发展，采用多台服务器组成的集群式视频点播(Video-On-Demand，VOD)系统得到了大量的应用，相应的集群中的协作缓存技术也得到了广泛的研究。VOD服务集群系统按照集中程度和管理方式分为两类：一类是集中式的VOD集群，另一类是分布式的VOD服务集群系统。集中式的VOD集群系统通常拥有独立的管理服务器，负责维护管理整个集群系统。如果将这些相互独立的VOD服务器通过网络联系起来，就形成一个分布式的VOD服务集群系统，该系统由多台VOD服务器组成，这些服务器之间通过高速的网络连接起来。每台VOD服务器都被设计来负责给自己小区的用户提供服务，并直接处理小区用户的接入控制问题。在这个分布式的系统中，各个服务器节点进行简单的协作，在服务器空闲的时候可以为异地负载较高的小区提供服务，那么整个系统的服务能力都能获得提升。

但传统协作方法并没有考虑缓存策略可能带来的影响，对分布式的协作缓存策略涉及到的服务器如何决定是否需要重定向一个本地请求或者是否接受一个重定向过来的异地请求，或者如果有多个异地服务器发送了同意接入信息，如何选取合适的异地服务器使得系统的总服务能力增加等各方面，都没有提供一个明确的解决方案。

发明内容

本发明要解决的技术问题是提供一种视频点播系统中的协作缓存方法及视频点播系统，能够保证本地用户服务能力的情况下，将来自不同小区用户的请求重定向到合适的服务器上，从而不仅提高服务器的缓存效率，还提高系统的服务能力。

为解决上述技术问题，本发明提供的技术方案如下：

本发明提供一种视频点播系统中的协作缓存方法，包括：

步骤101、本地服务器接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；

步骤102、异地服务器接收重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息；

步骤103、本地服务器根据异地服务器返回的响应消息进行处理。

优选的，所述步骤101具体包括：

本地服务器接收业务请求；

本地服务器判断该请求是否能与前向流形成间隔缓存；

若是，缓存这个间隔，从缓存中为这个请求提供服务，若否，磁盘服务的流数增加，进一步判断负载r_j是否小于阈值T₁；

若是，由本地服务器从本地I/O中提供服务；若否，进一步判断r_j是否大于阈值T_h；

若是，本地服务器向异地服务器发送重定向请求消息。

优选的，所述步骤102具体包括：

异地服务器接收到本地服务器发送的服务重定向请求消息后，判断自身是否处于重载状态，若是，拒绝该请求，并向本地服务器发送拒绝的响应消息，若否，判断服务器其是否处于轻负载的状态；

若是，发送带有参数s1的接受消息，表明接受此次点播请求，若否，进一步判断点播的节目是否是热门影片；

若是，发送带有参数s2的接受消息，表明接受此次点播请求；若否，拒绝该重定向请求，向本地服务器发送拒绝消息。

优选的，所述步骤103具体包括：

本地服务器接收异地服务器发送的响应消息；

根据响应消息判断是否有异地服务器接受重定向请求；

如果有一台异地服务器发送接受消息，则本地服务器就将该请求发送给该台异地服务器；如果有多台异地服务器发送接受消息，那么根据各异地服务器返回的接受消息中的参数s的值进行判断，将该请求发送给s值小的那台异地服务器；

如果所有的异地服务器都拒绝接入该请求，则本地服务器判断自身是否还有足够的磁盘I/O接入该请求，若是，接入该请求，若否，拒绝该请求。

本发明提供一种视频点播系统：

包括本地服务器和异地服务器；

所述本地服务器用于接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；根据异地服务器返回的响应消息进行处理；

所述异地服务器接收所述本地服务器发送的重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息。

优选的，所述本地服务器接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息，具体按以下过程操作：

所述本地服务器接收业务请求；

本地服务器判断该请求是否能与前向流形成间隔缓存；

若是，缓存这个间隔，从缓存中为这个请求提供服务，若否，磁盘服务的流数增加，进一步判断负载r_j是否小于阈值T₁；

若是，由本地服务器从本地I/O中提供服务；若否，进一步判断r_j是否大于阈值T_h；

若是，本地服务器向异地服务器发送重定向请求消息。

优选的，所述异地服务器接收所述本地服务器发送的重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息，具体按以下过程操作：

所述异地服务器接收到本地服务器发送的服务重定向请求消息后，判断自身是否处于重载状态，若是，拒绝该请求，并向本地服务器发送拒绝的响应消息，若否，判断服务器其是否处于轻负载的状态；

若是，发送带有参数s1的接受消息，表明接受此次点播请求，若否，进一步判断点播的节目是否是热门影片；

若是，发送带有参数s2的接受消息，表明接受此次点播请求；若否，拒绝该重定向请求，向本地服务器发送拒绝消息。

优选的，所述本地服务器根据异地服务器返回的响应消息进行处理，具体按以下过程操作：

所述本地服务器接收异地服务器发送的响应消息；

根据响应消息判断是否有异地服务器接受重定向请求；

如果有一台异地服务器发送接受消息，则本地服务器就将该请求发送给该台异地服务器；如果有多台异地服务器发送接受消息，那么根据各异地服务器返回的接受消息中的参数s的值进行判断，将该请求发送给s值小的那台异地服务器；

如果所有的异地服务器都拒绝接入该请求，则本地服务器判断自身是否还有足够的磁盘I/O接入该请求，若是，接入该请求，若否，拒绝该请求。

上述技术方案可以看出，本发明所提出方法能够在保证本地用户服务能力的情况下，将来自不同小区用户的请求重定向到合适的服务器上，解决了重定向时服务器如何决定是否需要重定向一个本地请求、如何决定是否接受一个重定向过来的异地请求、如何选取合适的异地服务器等不同方面的问题，从而使得单台VOD上间隔缓存算法的效率提高，并且保证各个VOD之间负载的均衡。该方法还大大提高服务器的缓存效率，进而提高系统的服务能力。

附图说明

下面将结合实施例和附图对本发明作进一步的详细描述。下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它的附图。

图1是本发明可扩展的协作缓存方法的流程图；

图2是本发明方法中的其中一个步骤的具体流程图；

图3是本发明方法中的另一个步骤的具体流程图；

图4是本发明方法中的另一个步骤的具体流程图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

本发明提供一种分布式的视频点播系统中的协作缓存方法及视频点播系统，能在保证本地用户服务能力的情况下，将来自不同小区用户的请求重定向到合适的服务器上，这样，不仅提高服务器的缓存效率，同时提高系统的服务能力。

以下对本发明方案进行详细介绍。

本发明提供的一种分布式的VOD系统中的可扩展的协作缓存方法，该方法流程图如附图1所示，具体实施步骤如下：

步骤101、本地服务器接收业务请求，判断是否由本地服务，若否，向异地服务器发送重定向请求消息；

步骤102、异地服务器接收重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息；

步骤103、本地服务器根据异地服务器返回的响应消息进行处理。

由此可得，步骤101中本地服务器由于负载原因会向异地服务器发送重定向请求；步骤102中异地服务器根据情况判断是否接受步骤101发送来的重定向请求，并给予响应消息；步骤103中本地服务器对步骤102异地服务器发送过来响应消息作相应的处理。

以下具体介绍上述各步骤：

(一)关于步骤101：

该步骤中，本地服务器在接受本地请求后，决定是否直接接入请求由本地服务，如果为否，则发送重定向消息请求其他异地服务器服务，而本地服务器能否接受请求和本地的负载有关。

这里，定义r_j为当前第j台VOD服务器上通过磁盘I/O服务的流的个数，R_j表示第j台机器通过I/O最多能够提供的用户请求并发数。由于流媒体服务器的瓶颈主要是磁盘I/O，因此可以用r_j来描述系统的负载，同时，定义两个阈值T₁和T_h(T₁＜T_h)来表示服务器负载的高低。

步骤101的具体实施过程请参阅附图2，具体步骤如下：

步骤201、用户发送本地请求，本地服务器接收请求；

步骤202、本地服务器判断该请求是否能与前向流形成间隔缓存；若是，进入步骤203，若否，进入步骤204；

步骤203、如果接受到的请求能与前向流形成缓存间隔，缓存这个间隔，从缓存中为这个请求提供服务，此时磁盘的I/O负载不增加；

步骤204、如果接受到的请求不能与前向流形成缓存间隔，磁盘服务的流数增加，即r_j＝r_j+1；进一步判断负载r_j是否小于阈值T₁，若是，进入步骤205，若否，进入步骤206；

步骤205、当负载r_j小于阈值T₁时，本地服务器处于轻负载的状态，因此不需要重定向任何请求，所有的本地请求都能接入服务，即由本地服务器从本地I/O中提供服务；

步骤206、进一步判断r_j是否大于T_h，如是，进入步骤207，若否，进入步骤208；

当本地服务器的负载r_j在T₁与T_h之间或负载r_j大于T_h时，表明本地服务器的I/O已经中度负载，继续服务将导致该服务器重载甚至过载。

步骤207、当本地负载r_j大于T_h时，那么服务器已经处于重载的情况，很有可能到达过载情况。这时，本地服务器以一定的概率P_j向异地服务器发送重定向请求。

P_j的大小根据当前的负载状况，表示为：

$P_j=P_{\max }\frac{r_j-T_l}{T_h-T_l}$

步骤208、接受请求，由本地服务器从本地I/O中提供服务。

(二)关于步骤102：

该步骤涉及重定向请求判断过程。服务器不能无限制的接收异地请求，只有在服务器本身负载比较低的情况下，或者能够用少量缓存就能接入的情况下才接入该异地请求。因此异地服务器需判断是否决定接受本地服务器发送过来的重定向请求。

这里，定义一个参数s表示接受某次点播所需的代价，其中，s表示接受一个异地请求所消耗的资源与当前可用资源的比，这个值越大意味着服务这个异地请求的代价越大。将参数s返回给请求的本地服务器，本地服务器就可以根据参数s的不同的值来选取合适的服务器重定向请求。

步骤102的具体过程参见图3所示，图3中的具体步骤如下：

步骤301、异地服务器收到本地服务器发来的一个服务重定向请求；

步骤302、异地服务器判断自身是否处于重载状态，若是，进入步骤303，若否，进入步骤304；

步骤303、如果异地服务器处于重载状态，拒绝该请求，并向本地服务器发送拒绝的响应消息；

步骤304、如果服务器没有处于重载状态，则判断服务器其是否处于轻负载的状态，若是，进入步骤305，若否，进入步骤306；

步骤305，如果服务器处于轻负载状态，则发送带有参数s1的接受消息，表明接受此次点播请求，并需付出s1的代价；

步骤306，如果服务器没有处于轻负载状态，进一步判断点播的节目是否是热门影片，若是则转到步骤307，若否，转入步骤；

该步骤判断重定向请求中请求点播的影片对当前服务器来说是否是一个热门影片，如果是热门影片，且通过很小的缓存开销就能服务，或者当前服务器的负载很低(R_j＜T_l)，因此转入步骤307否则，转到步骤308；

步骤307、异地服务器会发送一个同意接入的消息，该消息带有参数s2，用来表示此次的开销为s2；

步骤308、异地服务器拒绝该重定向请求，向本地服务器发送拒绝消息。

(三)关于步骤103：

该步骤中，本地服务器需要根据异地服务器发送的是否接受重定向的响应消息进行相应的处理。

步骤103的具体实施过程请参阅附图4，具体步骤如下：

步骤401、本地服务器接收异地服务器发送的响应消息；

步骤402、判断是否有异地服务器接受重定向请求，若是，进入步骤403，若否，进入步骤404；

步骤403、如果有一台异地服务器发送接受消息，那么本地服务器就将该请求发送给该台异地服务器；如果有多台异地服务器发送接受消息，那么就要根据各异地服务器返回的接受消息中的参数s的值来判断，将该请求发送给s最小的，即需要付出代价最小的那台异地服务器；

步骤404，如果所有的异地服务器都拒绝接入该请求，那么本地服务器需要判断自身是否还有足够的磁盘I/O接入该请求，若是，进入步骤405，若否，进入步骤406；

步骤405，如果本地I/O还能负载此次点播，则本地服务器接入该请求；

步骤406，如果不能在保证现有用户服务质量的情况下接入该请求，那么本地服务器拒绝此次点播请求。

上述技术方案可以看出，本发明所提出可扩展的协作缓存方法能够在保证本地用户服务能力的情况下，将来自不同小区用户的请求重定向到合适的服务器上，解决了重定向时服务器如何决定是否需要重定向一个本地请求、如何决定是否接受一个重定向过来的异地请求、如何选取合适的异地服务器等不同方面的问题，从而使得单台VOD上间隔缓存算法的效率提高，并且保证各个VOD之间负载的均衡。另外本地服务器为了获得最大的收益，会将点播请求重定向到代价最小的异地服务器上，从而大大提高服务器的缓存效率，保证整个系统服务能力的提高。

本发明还相应的提供一种视频点播系统，该系统：

包括本地服务器和异地服务器；

所述本地服务器用于接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；根据异地服务器返回的响应消息进行处理；

所述异地服务器接收所述本地服务器发送的重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息。

需要说明的是，上述装置和系统内的各单元之间的信息交互、执行过程等内容，由于与本发明方法实施例基于同一构思，具体内容可参见本发明方法实施例中的叙述，此处不再赘述。

本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成，该程序可以存储于一计算机可读存储介质中，存储介质可以包括：只读存储器(ROM，Read Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁盘或光盘等。

以上对本发明实施例所提供的一种视频点播系统中的协作缓存方法及视频点播系统进行了详细介绍。对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上所述，本说明书内容不应理解为对本发明的限制。

Claims (8)

1.一种视频点播系统中的协作缓存方法，其特征在于，包括：

步骤101、本地服务器接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；

步骤102、异地服务器接收重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息；

步骤103、本地服务器根据异地服务器返回的响应消息进行处理。

2.根据权利要求1所述的视频点播系统中的协作缓存方法，其特征在于：

所述步骤101具体包括：

本地服务器接收业务请求；

本地服务器判断该请求是否能与前向流形成间隔缓存；

若是，缓存这个间隔，从缓存中为这个请求提供服务，若否，磁盘服务的流数增加，进一步判断负载r_j是否小于阈值T₁；

若是，由本地服务器从本地I/O中提供服务；若否，进一步判断r_j是否大于阈值T_h；

若是，本地服务器向异地服务器发送重定向请求消息。

3.根据权利要求1或2所述的一种视频点播系统中的协作缓存方法，其特征在于：

所述步骤102具体包括：

异地服务器接收到本地服务器发送的服务重定向请求消息后，判断自身是否处于重载状态，若是，拒绝该请求，并向本地服务器发送拒绝的响应消息，若否，判断服务器其是否处于轻负载的状态；

若是，发送带有参数s1的接受消息，表明接受此次点播请求，若否，进一步判断点播的节目是否是热门影片；

若是，发送带有参数s2的接受消息，表明接受此次点播请求；若否，拒绝该重定向请求，向本地服务器发送拒绝消息。

4.根据权利要求1或2所述的视频点播系统中的协作缓存方法，其特征在于：

所述步骤103具体包括：

本地服务器接收异地服务器发送的响应消息；

根据响应消息判断是否有异地服务器接受重定向请求；

如果有一台异地服务器发送接受消息，则本地服务器就将该请求发送给该台异地服务器；如果有多台异地服务器发送接受消息，那么根据各异地服务器返回的接受消息中的参数s的值进行判断，将该请求发送给s值小的那台异地服务器；

如果所有的异地服务器都拒绝接入该请求，则本地服务器判断自身是否还有足够的磁盘I/O接入该请求，若是，接入该请求，若否，拒绝该请求。

5.一种视频点播系统，其特征在于：

包括本地服务器和异地服务器；

所述本地服务器用于接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息；根据异地服务器返回的响应消息进行处理；

所述异地服务器接收所述本地服务器发送的重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息。

6.根据权利要求5所述的视频点播系统，其特征在于：

所述本地服务器接收业务请求，判断是否由本地为该业务请求提供服务，若否，向异地服务器发送重定向请求消息，具体按以下过程操作：

所述本地服务器接收业务请求；

本地服务器判断该请求是否能与前向流形成间隔缓存；

若是，缓存这个间隔，从缓存中为这个请求提供服务，若否，磁盘服务的流数增加，进一步判断负载r_j是否小于阈值T₁；

若是，由本地服务器从本地I/O中提供服务；若否，进一步判断r_j是否大于阈值T_h；

若是，本地服务器向异地服务器发送重定向请求消息。

7.根据权利要求5或6所述的视频点播系统，其特征在于：

所述异地服务器接收所述本地服务器发送的重定向请求消息后判断是否接受所述业务请求，向所述本地服务器返回响应消息，具体按以下过程操作：

所述异地服务器接收到本地服务器发送的服务重定向请求消息后，判断自身是否处于重载状态，若是，拒绝该请求，并向本地服务器发送拒绝的响应消息，若否，判断服务器其是否处于轻负载的状态；

若是，发送带有参数s1的接受消息，表明接受此次点播请求，若否，进一步判断点播的节目是否是热门影片；

若是，发送带有参数s2的接受消息，表明接受此次点播请求；若否，拒绝该重定向请求，向本地服务器发送拒绝消息。

8.根据权利要求5或6所述的视频点播系统，其特征在于：

所述本地服务器根据异地服务器返回的响应消息进行处理，具体按以下过程操作：

所述本地服务器接收异地服务器发送的响应消息；

根据响应消息判断是否有异地服务器接受重定向请求；

如果有一台异地服务器发送接受消息，则本地服务器就将该请求发送给该台异地服务器；如果有多台异地服务器发送接受消息，那么根据各异地服务器返回的接受消息中的参数s的值进行判断，将该请求发送给s值小的那台异地服务器；

如果所有的异地服务器都拒绝接入该请求，则本地服务器判断自身是否还有足够的磁盘I/O接入该请求，若是，接入该请求，若否，拒绝该请求。

Images