CN103188296B - 一种网络字节缓存的实现方法及其设备 - Google Patents

Abstract

本发明公开了一种网络代理缓存的方法及其设备，该方法包括以下步骤：服务端缓存设备接收来自客户端缓存设备缓存中的数据块索引信息；服务端缓存设备接收并保存所述数据块索引信息；服务端缓存设备根据生成的数据块查找本地数据块索引信息，如果查找成功，则向客户端缓存设备发送该数据块对应的索引信息。该设备包括接收模块、数据生成模块、查找模块、数据块重组模块和发送模块。本发明能够减少缓存命中失败的可能性，减少出错机率，同时对索引信息交互过程给带宽资源造成的额外压力进行优化。

Description

一种网络字节缓存的实现方法及其设备

技术领域

本发明涉及网络代理缓存技术，尤其涉及一种网络字节缓存的实现方法及其设备。

背景技术

网络字节缓存技术是把用户所要请求访问的网络资源缓存到本地，在最短的时间内将信息连续、完整、实时地传递给最终用户，从而降低网络的带宽负荷，并提高数据的传输速度。

图1为现有技术字节缓存(Byte Cache)技术的网络拓扑结构。如图1所示，该网络包括一对网络代理缓存设备，其中一个网络代理缓存设备靠近发起连接的用户，称为客户端网络代理缓存设备，用于接收/转发来自用户的访问请求，并缓存相应的数据；另一个网络代理缓存设备靠近服务器，称为服务端网络代理缓存设备，用于接收/转发来自服务器的用户所请求的资源，并缓存相应的数据。

图2为现有技术字节缓存技术客户端-服务端的信令图。如图2所示，用户端与服务端建立一个连接，客户端网络代理缓存设备向服务端网络代理缓存设备转发用户的网络访问请求，服务端网络代理缓存设备将从服务器获取相应的网络资源。服务端网络代理缓存设备将从服务器获取的数据流基于内容指纹(Content Fingerprinting)技术划分多个数据块，为了防止数据块的大小过大或过小，数据块的最小限度和最大限度可以被指定，同时可以限制数据块的平均大小，例如4KB。

服务端网络代理缓存设备将数据块标识符(索引)发送给客户端网络代理缓存设备，如果客户端网络代理缓存设备已经缓存了该索引的数据块，则将该索引替换成缓存中的数据块，并将该数据块重组后发送给用户；如果客户端网络代理缓存设备未缓存该索引的数据块，客户端网络代理缓存设备则向服务端网络代理缓存设备发送获取该索引数据块请求，服务端网络代理缓存设备向客户端网络代理缓存设备发送该索引的原始数据块，客户端网络代理缓存设备接收该索引的原始数据块，并将数据块重组后发送给用户。另外，字节缓存技术同样可以用来优化客户端向服务器上传的数据流量。

现有技术字节缓存技术的益处在于当客户端网络代理缓存设备能够以较高的概率将索引恢复成相应的数据块，由于索引的大小远远小于对应的数据块，整个系统能够取得极高的传输压缩比。如果这种操作失败的概率较高时，则导致需要向服务端网络代理缓存设备频繁的请求原始数据块，那么反而会降低整个传输过程的效率。如果对原始数据块的请求失败，则意味着原始数据块的请求失败，意味着原始信息的丢失，则该条连接的传输就会中断。

发明内容

本发明的目的是解决上述现有技术存在的问题。

为实现上述目的，一方面，本发明提供了一种网络字节缓存的实现方法，该方法包括以下步骤：客户端缓存设备存储数据块及其索引信息，并将所存储的信息发送给服务端缓存设备以保持信息同步，服务端缓存设备接收来自客户端缓存设备缓存中的数据块索引信息；服务端缓存设备接收并保存所述数据块索引信息；服务端缓存设备根据生成的数据块查找本地数据块索引信息，如果查找成功，则向客户端缓存设备发送该数据块所对应的索引信息。

另一方面，本发明提供了一种网络字节缓存的设备，该设备包括接收模块，用于接收数据流信息；数据块生成模块，用于根据数据流生成数据块；查找模块，用于根据数据块索引查找本地数据块；数据块重组模块，用于重组数据块；发送模块，用于发送数据。

根据本发明的方法及其设备，能够极大提高索引命中成功率，减少出错机率，同时对索引信息交互过程给带宽资源造成的额外压力进行优化。

附图说明

本发明的示例性实施例将从下文中给出的详细说明和本发明不同实施例的附图中被更完全地理解，然而这不应该被视为将本发明限制于具体的实施例，而应该只是为了解释和理解。

图1为现有技术网络字节缓存技术的网络拓扑结构；

图2为现有技术网络字节缓存技术客户端-服务端的信令图；

图3为本发明实施例网络字节缓存的分布式系统应用场景图；

图4为本发明实施例网络字节缓存的实现方法流程图；

图5为本发明一实施例服务端网络字节缓存的方法流程图；

图6为本发明另一实施例服务端网络字节缓存的方法流程图；

图7为本发明实施例客户端网络字节缓存的方法流程图；

图8为本发明实施例网络字节缓存的设备示意结构图。

具体实施方式

本领域的普通技术人员将意识到，所述示例性实施例的下述详细说明仅仅是说明性的，并且不是意在以任何方式加以限制。

图3为本发明实施例网络字节缓存的分布式系统应用场景图。如图所示，用户A可同时访问服务器A和服务器B，用户B也可同时访问服务器A和服务器B。客户端缓存设备C(设备C)与服务端缓存设备A(设备A)、服务端缓存设备B(设备B)分别构成对端设备。同样，客户端缓存设备D(设备D)与服务端缓存设备A、服务端缓存设备B也构成对端设备。对端设备间维护着稳定的信息交互通道。

本发明实施例网络字节缓存的分布式系统的服务端缓存设备A、服务端缓存设备B、客户端缓存设备C和客户端缓存设备D分别具有不同的特征码(characteristic value)，例如，服务端缓存设备B的特征码为0x0001、客户端缓存设备C的特征码为0x0010。特征码具有两两正交的特点。

本发明实施例网络字节缓存的分布式系统的每个缓存设备都会建立一个索引表，该索引表用于描述数据块在整个系统内的分布式存储情况。索引表中的每个表项对应一个数据块的分布式存储信息。

表1示例了索引表的表项内容：

表1

索引

位图

时间戳

数据块长

热点值

其中，索引为数据块基于内容的指纹；位图(bitmap)为数据块在分布式系统中的存储情况，例如，位图为0x0011，则表示数据块已在服务端缓存设备B和客户端缓存设备C中存储，因为服务端缓存设备B的特征码0x0001，客户端缓存设备C的特征码为0x0010，根据特征码的两两正交的特点，0x0011＝0x0001&0x0010。时间戳(timestamp)表示该表项最近一次被访问(被建立)的时间。数据块长为数据被划分后的数据块长度。热点值为该表项所对应的数据是否为热点数据块，即是否在当前一段时间内被反复访问，该热点的初始值H_new为0，在表项被访问时根据相应的公式进行更新，其公式为：H_new＝H_old*A/(timestamp_new-timestamp_old)+1，其中A是大于0的正实数，最近被访问过的表项加权慢慢变大，而较远的访问其权重慢慢降低。

以下针对索引表的表项新建操作进行阐述：

在一个例子中，当客户端缓存设备C在本地缓存中缓存了某个数据块时，则会查找本地的索引表。如果该索引表中没有该数据块对应的表项，则在本地的索引表中为该数据块创建表项，表项中的位图等于缓存设备的特征码；如果本地索引表中已存有对应的表项，则代表该数据块在客户端缓存设备C的对端设备服务端缓存设备A或服务端缓存设备B中已经存储，则此时只需要更新该索引表的位图(bitmap)表项，其公式为：bitmap_new＝bitmap_old+characteristic value。客户端缓存设备C同时将新建的索引信息通过信息交互通道发送给其对端设备，使其对端设备的索引信息保持同步。例如，客户端缓存设备C在本地存储了某个数据块后，则将新建的索引信息发送给对端设备服务端缓存设备A和服务端缓存设备B，服务端缓存设备A和服务端缓存设备B在接收到索引信息后查找本地的的索引表，如果其索引表中没有该表项，则在本地新建表项，该表项的位图等于客户端缓存设备C的特征码。如果其索引表中已存在该表项，则更新本地索引表中的位图表项。

以下针对索引表的表项删除操作进行阐述：

当缓存设备的本地缓存资源用尽时或者索引表项的个数超过上限时会触发缓存的老化，缓存设备将会找出索引表项中热点值最低的表项，若同时有多个热点值相同的表项，则指出其中时间戳最早的表项，然后删除该表项以及该表项所对应的数据块。当有索引表项被删除时，如果在删除表项的同时删除了表项所对应的数据块，则意味着数据块在分布式系统中的存储发生了改变，需要将删除的信息发送给缓存设备的对端设备。当对端设备接收到删除的信息时，则更新本地的索引表项，当更新后的索引表项中位图表项为0，则意味着数据块在整个分布式系统中已经被删除，然后删除该表项。

上述缓存设备与对端缓存设备需要同步的索引信息仅占用很小的容量，例如20字节，因此，客户端缓存设备通过IP数据报文来同步服务端缓存设备的一个索引信息的代价是很高的，再加上索引信息的同步同样是需要占用相应网络带宽，因此当网络带宽消耗比较严重的时候，应当尽量避免发送大量的小包用于同步索引信息。

在一个实施例中，根据当前网络的可用带宽资源、待发送信息的大小、和信息被延迟发送的时间，给出了以下决策公式：

P＝A0*Bandwidth_Available+A1*Delay+A2*Message_Size，其中，A0，A1和A2为大于零的常量；Bandwidth_Available为当前可用的带宽，即用户所配置的链路带宽减去实时带宽消耗；Delay为距离上一次发送信息的延迟时间，即决策时刻的当前时间最早一次产生需要同步的信息的时间；Message_Size为累积的尚未发出去的信息的大小，即延迟时间段内产生的信息的大小总合。

上述决策由索引信息的产生所触发，之后以一定的频率进行探查。当P大于预先给定的门限则发送所有的信息，当P小于预先给定的门限则暂停发送信息，当所有的信息都被发送后，上述决策停止。

本发明实施例网络字节缓存的分布式系统采用索引信息分布式存储的方式，在服务端缓存设备将数据流切割成一个个数据块后可以通过查询本地的索引表信息来决定是否用索引来代替数据块发送给客户端缓存设备，极大提高了索引命中成功率，减少出错机率，同时对索引信息交互过程给带宽资源造成的额外压力进行优化。

图4为本发明实施例网络字节缓存的实现方法流程图。该方法流程图包括步骤301-305。

在步骤301，服务端缓存设备接收来自客户端缓存设备缓存中的数据块索引信息。

客户端缓存设备将从服务端缓存设备获取的数据块信息缓存在本地磁盘上，根据数据块内容建立相应的数据块索引，并将该索引保存在索引表中。相同内容的数据块所对应的索引是相同的，而不同的索引所映射的数据块是不相同的。

当客户端的索引表信息被更新时，客户端缓存设备则将索引的更新信息发送给服务端缓存设备，服务端缓存设备根据接收到的索引信息来更新本地的索引表，保持与客户端缓存设备的索引信息同步。

在步骤302，服务端缓存设备接收并保存数据块索引信息。

服务端缓存设备接收步骤301中客户端缓存设备发送的数据块的索引表项信息，如果本地索引表中没有该表项，则在本地新建表项，该表项的位图等于客户端缓存设备的特征码；如果本地索引表中已存在该表项，则更新本地索引表中的位图表项。

在步骤303，服务端缓存设备根据生成的数据块查找本地数据块索引信息，如果查找成功，则向客户端缓存设备发送该数据块对应的索引信息。

具体地，服务端缓存设备从服务器获取用户的访问请求资源，将该资源的数据流划分多个数据块，并根据数据块建立相应的索引，服务端缓存设备根据生成的数据块索引查找本地数据块索引信息，如果查找成功，则向客户端缓存设备发送该数据块对应的索引信息，并将该索引映射的数据块存储在内存中。

本发明实施例通过同步客户端网络代理缓存设备和服务端网络代理缓存设备的数据块索引信息，可以减少缓存命中失败的可能性，减少出错机率。

图5为本发明一实施例服务端网络字节缓存的方法流程图。在客户端代理缓存设备与服务端网络代理缓存设备的数据块索引信息同步后，服务端网络代理缓存的方法步骤包括步骤401-405：

在步骤401，服务端网络代理缓存设备从服务端获取数据流。

具体地，客户端网络代理缓存设备向服务端网络代理缓存设备转发用户的网络访问请求，服务端网络代理缓存设备将从服务器获取相应的网络资源。

在步骤402，服务端网络代理缓存设备将从服务器获取的数据流划分多个数据块，并根据数据块内容建立相应的数据块索引。

在步骤403，服务端网络代理缓存设备判断客户端是否已存储上述索引所映射的数据块。

具体地，服务端网络代理缓存设备根据与同步后的数据块索引信息来判断客户端网络代理缓存设备是否存有该数据块。当判断客户端网络代理缓存设备已缓存该数据块，则执行步骤404，否则执行步骤405。

在步骤404，服务端网络代理缓存设备将在步骤402获取的数据块索引发送给客户端网络代理缓存设备，并在内存中缓存在步骤402中获取的数据块。

在步骤405，服务端网络代理缓存设备将在步骤402获取的数据块发送给客户端网络代理缓存设备。

本发明实施例，当网络状况处于不稳定状态时，服务端网络代理缓存设备在给定时间内未接收到客户端网络代理缓存设备的回复信息，则主动将获取的数据块推送给客户端网络代理缓存设备。上述客户端网络代理缓存设备的回复信息包括索引替换块成功信号或索引替换块失败信号。

图5所示的服务端网络字节缓存的方法的不足之处在于缓存的数据块会大量消耗服务端缓存设备的内存，且传输是否成功需要客户端缓存设备的确认。

图6为本发明另一实施例服务端网络字节缓存的方法流程图。图6是针对图5所示的方法进行了优化。

在客户端代理缓存设备与服务端网络代理缓存设备的数据块索引信息同步后，服务端网络代理缓存设备在数据块缓存的管理中使用最近最少使用(Least Recently Used，LRU)算法，针对反复被访问的热点数据块存储在本地磁盘的数据缓存中，即热点值高的索引/数据块总是会被保存在索引表及设备的磁盘中，频繁被更新的都是热点值低的索引/数据块。因而对端设备的数据块缓存以及索引信息中，热点数据块本身的缓存及索引信息是比较稳定的，在服务端缓存设备进行数据块到索引的替换时，有极大的概率索引能够在客户端缓存设备中被成功恢复成数据块。

如图6所示的服务端字节缓存的方法步骤包括步骤501-507：

在步骤501，服务端网络代理缓存设备从服务端获取数据流。

具体地，客户端网络代理缓存设备向服务端网络代理缓存设备转发用户的网络访问请求，服务端网络代理缓存设备将从服务器获取相应的网络资源。

在步骤502，服务端网络代理缓存设备将从服务器获取的数据流划分多个数据块，并根据数据块内容建立相应的数据块索引。

在步骤503，服务端网络代理缓存设备判断客户端是否已存储数据块。

具体地，服务端网络代理缓存设备根据与客户端网络代理缓存设备同步后的索引信息来判断客户端网络代理缓存设备是否存有该数据块。当判断客户端网络代理缓存设备已缓存该数据块，则执行步骤504，否则执行步骤506。

在步骤504，服务端网络代理缓存设备继续判断本地磁盘中的数据块缓存中是否存有该数据块。当判断本地磁盘中的数据块缓存中存有该数据块，则执行步骤505，否则执行步骤507。

在步骤505，服务端网络代理缓存设备向客户端网络代理缓存设备发送该数据块的索引。

在步骤507，服务端网络代理缓存设备向客户端网络代理缓存设备发送该数据块的索引，并在内存中缓存该数据块。

在正常情况下，图6所示的服务端字节缓存的方法失败的概率很小，但为了侦测异常，服务端缓存设备需要统计在一段时间内从客户端缓存设备接收到的数据块替换失败信息的次数，如果失败过多，则表明对端设备出现了较为严重的索引信息不同步，因此需要转换采用图5所示的服务端字节缓存的方法。

在一个例子中，P＝(e)^-an，其中n是一段时间内客户端缓存设备数据块恢复失败所引起服务端缓存设备需要从本地磁盘中读取原始数据块的次数，a是一个大于0的实数。当P小于预先设置的门限时，则将采用图5所示的服务端字节缓存的方法。

图7为本发明实施例客户端网络字节缓存的方法流程图。客户端网络字节缓存的方法包括步骤601-603。

在步骤601，客户端网络代理缓存设备从服务端网络代理缓存设备获取数据块索引，相同内容的数据块所对应的索引是相同的，而不同的索引所映射的数据块也是不相同的。

在步骤602，客户端网络代理缓存设备根据获取的数据块索引查找本地缓存中的数据块，如果查找成功，则执行步骤603，否则执行步骤604。

在步骤603，客户端网络代理缓存设备将获取的数据块索引替换成该数据块索引映射的数据块，并将数据块重组后发送给用户。

在步骤604，客户端网络代理缓存设备向服务端网络代理缓存设备发送获取该索引原始数据块请求。

图8为本发明实施例网络字节缓存的设备示意结构图。图8所示出的网络代理缓存的设备既可以作为客户端网络代理缓存设备，也可以作为服务端网络代理缓存设备，但是无论作为客户端网络代理缓存设备还是作为服务端网络代理缓存设备，本发明网络代理缓存的设备仅为示例，在能够实现本发明的目的的前提下，本领域技术人员可以对其进行任意的改变。

如图8所示，本发明实施例网络字节缓存设备包括接收模块701、数据块生成模块702、查找模块703、数据块重组模块704、发送模块705和存储模块706。

接收模块701用于接收数据流信息，作为客户端网络代理缓存设备时，接收模块701接收来自用户的网络访问请求，以及来自服务端的数据块信息；作为服务端网络代理缓存设备时，接收模块701接收来自客户端的网络访问请求，以及来自服务端的数据流。

数据块生成模块702用于根据数据流生成数据块，作为服务端网络代理缓存设备时，数据块生成模块702将从服务器获取的数据流基于内容指纹技术划分多个数据块，并为数据块建立相应的数据块索引信息。

查找模块703用于根据数据块索引查找本地数据块，作为客户端网络代理缓存设备时，查找模块703根据接收模块701接收的数据块索引信息查找本地缓存中该数据块索引所映射的数据块；作为服务端网络代理缓存设备时，查找模块703根据数据块生成模块702生成的数据块查找相应的数据块索引。

数据块重组模块704根据数据块索引信息，将本地缓存中的数据块按照数据块的序号进行重组，重组后的数据由发送模块705进行发送。

发送模块705用于数据的发送，作为客户端网络代理缓存设备时，发送模块705用于转发用户的网络访问请求，以及回复对端服务器的数据接收应答信息；作为服务端网络代理缓存设备时，发送模块705可发送由数据块重组模块704生成的数据块索引信息到客户端网络代理缓存设备。

需要说明的是，该网络字节缓存设备可以是一个独立的网络设备，也可以是以一个模块形式存储在于网关、上网行为管理等网络设备中。

结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块，或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。

尽管已经示出并描述了本发明的特殊实施例，然而在不背离本发明的示例性实施例及其更宽广方面的前提下，本领域技术人员显然可以基于此处的教学做出变化和修改。因此，所附的权利要求意在将所有这类不背离本发明的示例性实施例的真实精神和范围的变化和更改包含在其范围之内。

Claims (10)

1.一种网络字节缓存的实现方法，其特征在于，所述方法包括：

服务端缓存设备接收来自客户端缓存设备缓存中的数据块索引信息；

所述服务端缓存设备接收并保存所述数据块索引信息；

当所述服务端缓存设备接收到数据块索引信息时，查找本地索引表，如果其索引表中没有该数据块对应的表项，则在本地新建表项，该表项中的位图表项等于所述客户端缓存设备的特征码；如果其索引表中己存在该数据块对应的的表项，则更新本地索引表中的表项位图；

所述服务端缓存设备根据生成的数据块查找本地数据块索引信息，如果查找成功，则向客户端缓存设备发送该数据块对应的索引信息。

2.根据权利要求1所述的方法，其特征在于：所述客户端缓存设备和所述服务端缓存设备分别具有特征码，索引信息包括表项位图，表项位图由所述特征码构成，根据所述表项位图确定所述数据块缓存在特征码相应的缓存设备中。

3.根据权利要求1所述的方法，其特征在于：所述数据块索引信息包括索引表项、位图表项、时间戳表项、数据块长表项和热点值表项中的一种或多种。

4.根据权利要求1所述的方法，其特征在于：所述客户端缓存设备和/或服务端缓存设备根据热点值表项中的热点值删除老化的表项以及所述表项对应的数据块。

5.根据权利要求1所述的方法，其特征在于：所述客户端缓存设备和/或服务端缓存设备通过信息同步策略保持索引信息同步。

6.根据权利要求5所述的方法，其特征在于：所述信息同步策略由网络可用带宽资源、待发送信息的大小、和信息被延迟发送的时间中的一个或多个因素决定。

7.根据权利要求1所述的方法，其特征在于，所述方法还包括：

服务端缓存设备根据生成的数据块及索引信息判断客户端缓存设备是否已经存储了所述索引所对应的数据块，如果是，则向客户端缓存设备发送所述数据块索引，并在本地内存中缓存所述数据块；如果不是，则向客户端缓存设备发送所述数据块。

8.根据权利要求1所述的方法，其特征在于，所述方法还包括：

服务端缓存设备在生成的数据块及索引信息判断客户端缓存设备已经存储了所述索引所对应的数据块的情况下，判断本地缓存中是否存有所述数据块，如果是，则向客户端缓存设备发送所述数据块，否则向客户端缓存设备发送所述数据块的索引，并在本地缓存所述数据块。

9.根据权利要求1所述的方法，其特征在于：所述服务端缓存设备使用最近最少使用算法，针对反复使用的热点数据块存储在本地磁盘的数据缓存中。

10.一种网络字节缓存的设备，其特征在于包括，

接收模块(701)，接收客户端缓存设备的数据块索引信息和服务器数据流；

数据块生成模块(702)，用于将所述数据流基于内容指纹技术划分多个数据块，并为数据块建立相应的数据块索引信息；

查找模块(703)，当接收模块(701)接收到数据块索引信息时，查找本地索引表；如果其索引表中没有该数据块对应的表项，则在本地新建表项，该表项中的位图表项等于客户端缓存设备的特征码；如果其索引表中己存在该数据块对应的表项，更新本地索引表中的表项位图；

所述查找模块(703)还用于根据所述数据块在本地索引表中查找索引信息；

发送模块(705)，如果所述查找模块(703)根据所述数据块在本地索引表中查找索引信息查找成功，发送模块(705)则向客户端缓存设备发送该数据块对应的索引信息。