CN103997540B - 网络分布式存储的实现方法 - Google Patents

Abstract

本发明提供了一种网络分布式存储的实现方法，该方法包括：客户终端设备将设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台；管理平台收到存储文件的请求后，根据文件大小、文件上传者IP地址选择合适的客户终端设备进行文件存储，并记录文件标识和设备编号；管理平台收到读取文件的请求后，根据文件标识查找存储文件的客户终端设备，以便从客户终端设备上下载文件。本发明存储分布更广，更贴近用户，不需要增加存储服务器，最大限度地利用了空闲资源，节省了成本。

Description

网络分布式存储的实现方法

技术领域

本发明涉及通信技术领域，具体涉及一种网络分布式存储的实现方法及相应的分布式存储系统、以及客户终端设备(CPE，Customer Premise Equipment)。

背景技术

分布式存储系统，是将数据分散存储在多台独立的设备上。传统的网络存储系统采用集中的存储服务器存放所有数据，存储服务器成为系统性能的瓶颈，不能满足大规模存储应用的需要。分布式网络存储系统采用可扩展的系统结构，利用多台存储服务器分担存储负荷。

随着网络通信速率的提高，以及网络存储的数据量越来越大，随之又产生了新的问题，即需要不断增加存储服务器来存储这些数据。

发明内容

本发明的特征和优点在下文的描述中部分地陈述，或者可从该描述显而易见，或者可通过实践本发明而学习。

为克服现有技术的问题，本发明提供一种网络分布式存储的实现方法，利用客户终端设备中的空闲存储空间，不需要增加存储服务器也能实现分布式网络存储。

本发明解决上述技术问题所采用的技术方案如下：

根据本发明的一个方面，提供一种网络分布式存储的实现方法，包括：

客户终端设备将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台；

管理平台收到存储文件的请求后，根据文件大小、文件上传者IP地址选择合适的客户终端设备，将文件存储到选定的客户终端设备，并记录文件标识和客户终端设备编号；其中，对于新的客户终端设备，直接在客户终端设备上存入合适的数据；对于存储过内容的客户终端设备，管理平台首先判断客户终端设备是否有要删除的内容，如果有，则由客户终端设备删除内容后上报管理平台；如果不需要删除内容，则判断存储空间是否足够；如果存储空间不够，则客户终端设备不操作，而是提供其它网络存储服务；如果存储空间足够，则客户终端设备存入合适大小的数据；

管理平台收到读取文件的请求后，根据文件标识查找存储文件的客户终端设备，并从客户终端设备上下载文件或通知请求设备直接从客户终端设备上下载文件。

根据本发明的一个实施例，客户终端设备在每次启动后向管理平台上报其客户终端设备编号、IP地址、空闲存储空间和已存储的内容，并在每次完成数据存储或删除后向管理平台上报存储空间和存储内容的变化。

根据本发明的一个实施例，对网络存储报文打上特定的标签，以区分需要在客户终端设备上进行存储的数据，还是需要客户终端设备转发到用户端的数据，或是进入客户终端设备系统处理的数据。

根据本发明的一个实施例，已存储的内容通过文件名或消息摘要算法第五版的值的方式上报管理平台。

根据本发明的一个实施例，在将文件存储到客户终端设备上时进行冗余备份，将文件存储在多个客户终端设备上。

根据本发明的一个实施例，从客户终端设备上下载文件时，如有多个客户终端设备上存储有文件，则同时从多个客户终端设备上下载文件，加快下载速度。

根据本发明的一个实施例，管理平台收到读取文件的请求后，筛选所有存储了请求内容的客户终端设备中距离请求设备最近的客户终端设备，供请求设备进行下载。

根据本发明的另一个方面，提供一种网络分布式存储系统，包括：

客户终端设备，其将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台，用于利用其外部存储设备的剩余空间存储网络文件，并供请求设备或管理平台下载其所存储的文件；

管理平台，其收到存储文件的请求后，根据文件大小、文件上传者IP地址选择合适的客户终端设备，将文件存储到选定的客户终端设备，并记录文件标识和客户终端设备编号；并在收到读取文件的请求后，根据文件标识查找存储文件的客户终端设备，并从客户终端设备上下载文件或通知请求设备直接从客户终端设备上下载文件。

根据本发明的另一个方面，提供一种客户终端设备，包括：

上报模块，其将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台，供管理平台选择合适的客户终端设备来存储网络文件；

存储模块，其响应管理平台的操作，利用客户终端设备上的外部存储设备的剩余空间存储网络文件，并供请求设备或管理平台下载其所存储的文件。

本发明提供了一种网络分布式存储的实现方法，利用客户终端设备中的空闲存储空间，不需要增加存储服务器也能实现分布式网络存储。本发明的分布式存储系统利用的不是专门部署的存储空间，而是CPE设备上的空余空间，相比传统的分布式存储系统，存储分布更广，更贴近用户，不需要增加存储服务器，最大限度地利用了空闲资源，节省了成本。

通过阅读说明书，本领域普通技术人员将更好地了解这些技术方案的特征和内容。

附图说明

下面通过参考附图并结合实例具体地描述本发明，本发明的优点和实现方式将会更加明显，其中附图所示内容仅用于对本发明的解释说明，而不构成对本发明的任何意义上的限制，在附图中：

图1为CPE的nandflash分区图；

图2为本发明实施例的网络分布式存储流程图；

图3为本发明实施例的网络分布式存储内容的下载流程图；

图4为本发明实施例的网络分布式存储体系统结构示意图；

图5为本发明实施例的CPE内部模块结构示意图。

具体实施方式

目前，CPE设备已具备使用nand-flash的成熟技术。Flash存储器又称闪存，它结合了ROM(随机存取存储器)和RAM(只读存储器)的长处，不仅具备电子可擦除可编程(EEPROM)的性能，还可以快速读取数据(具有非易失性随机访问存储器，即NVRAM的优势)，使数据不会因为断电而丢失。Nand-flash内存是flash内存的一种，其内部采用非线性宏单元模式，为固态大容量内存的实现提供了廉价有效的解决方案,NAND-flash的单元尺寸几乎是NOR-flash的一半，由于生产过程更为简单，NAND结构可以在给定的模具尺寸内提供更高的容量，也就相应地降低了价格。

随着国内进行大规模的“光进铜退”用户线路改造，家庭用户线路的传输速率也由铜线时代的最高理论值：上行速率1.2Mbps；下行速率24Mbps，增加到由EPON(以太无源光网络)光纤到户的上行、下行1Gbps，更快的GPON(千兆位以太无源光网络)达到上行1.25Gbps，下行2.5Gbps。在网络数据的传输方面，网络传输速度已经不是限制CPE(连接因特网络的用户层硬件)内置存储器作为网络分布存储的瓶颈。

本发明涉及利用CPE(Customer Premise Equipment，客户终端设备)内置存储器作为网络分布存储的一种实现方法，使用家庭网络通信系统中的必须的设备CPE，利用CPE存储器中闲置的空间，作为分布式存储系统的存储服务器。

本发明也采用分布式存储系统，但利用的不是专门部署的存储空间，而是CPE设备上的空余空间，相比传统的分布式存储系统，存储分布更广，更贴近用户。

本发明CPE的存储器以Nand-flash作为优选实施例进行说明。CPE使用nand-flash的大小为1-2GB，而CPE的系统都在10MB左右，且CPE系统使用flash的空间最大不会超过64MB,剩下的存储空间都被闲置了,并且，随着用户的使用习惯，设备由使用时通电转变成为一直通电，使用模式和使用习惯的转变使得CPE具备了作为网络存储设备的三个要点：1)有存储空间；2)具备IP地址；3)设备一直在线。当然，本发明并不限于只有使用nand-flash技术的CPE才能够适用本发明的方案，任何具有存储器的CPE均可以适用本发明。

CPE系统是基于linux内核进行开发的系统，CPE的对外部存储设备如sram、nand-flash等具备读写能力，因此，可以利用这些外部存储设备，根据需要对计算机网络数据选择进行转发或本地存储。Nand-flash可以看作PC的硬盘，如图1所示的CPE系统nandflash分区，引导区51相当于PC的BIOS，程序区52和配置区53(配置区用于存放系统配置参数)相当于安装PC操作系统的C盘，flash中剩下的空间即网络数据区54就是PC中的其他盘，可以用来存放网络数据。

对于需要存放的数据，可以对网络存储报文打上特定的标签，让CPE区分是转发到用户端，或是进入CPE系统处理，还是本地存储,对于网络存储报文可以直接在本地存储。首先，判断网络数据是本地数据还是用户数据，如果是用户数据则发送给用户端，例如多媒体视频等。如果是本地数据，则判断是CPE系统数据，还是网络存储数据，如果是CPE系统数据，则发送给CPE系统处理。如果是网络存储数据则直接在本地存储。

对每台CPE赋予一个标识ID，CPE利用自身的IP地址将设备ID号、IP地址、flash空闲存储空间和已存储的内容上报到网络中的管理平台(如服务器)，这样，管理平台就能知道目前整个网络环境中有多少台CPE可用，每台CPE上存储了什么内容，以及每台CPE的空闲存储空间，有了可操作的数据。

分布式存储包括存储和下载两方面：

1.存储的示例性步骤如图2所示

101.CPE启动后上报管理平台设备ID号、IP地址、flash空闲存储空间和已存储的内容，已存储的内容可以通过文件名、MD5值(消息摘要算法第五版的值)等方式上报服务器；

102.平台判断CPE的状态，如果是新设备，则进入步骤103；

103.存入合适大小的数据，合适的数据是指满足CPE设备上剩余空间和需要保存的数据，存入是指将数据保存在CPE上，是实现分布式存储的基础。通过向管理平台上报信息判断其内容和空闲存储空间。

104.如果CPE是存储过的设备(或已上报设备)，管理平台检索CPE存储的内容；

105.管理平台判断其内容，是否为要删除内容，还是要保留或存储。

106.如果是要删除的内容，则删除内容后上报平台信息，这是因为有些数据已经从服务器中标记为删除，则需要从分布的存储中删除。

107.如果不需要删除内容，则判断存储空间是否足够。

108.如果存储空间不够，则不操作，而是提供其它网络存储服务，例如存储更小一些的网络文件。

109.如果存储空间足够，则存入合适大小的数据，通过向管理平台上报信息判断其内容和空闲存储空间。

服务器收到存储的文件的请求后，根据文件大小、文件上传者IP所属范围等信息选择合适的CPE，将文件存储到相应CPE，记录文件ID和CPE编号等相关信息，并考虑冗余，将文件存储在多个CPE上，防止某个CPE断电后无法获取文件。服务器收到读取文件的请求后，根据文件ID查找存储文件的CPE，如有多个可同时从多个CPE上下载文件，加快下载速度。

2.下载的示例性步骤如图3所示

201.管理平台收到下载请求；

202.管理平台判断请求内容是否在分布式存储系统中有保留；

203.如果没有保留，则反馈无保留信息；

204.如果有保留内容，则管理平台检索保留内容的CPE设备；

205.判断保留内容CPE设备到请求设备的路由距离；

206.反馈距离请求设备合适的设备ID或IP地址,例如反馈距离最近的CPE设备ID或IP地址。通过筛选所有存储了请求内容的CPE设备中，找到距离请求设备最近的设备。一份数据可能存储在多个CPE上，服务器记录所有存储了文件的CPE，筛选最近的设备，供请求设备下载文件，这样有利于快速传输文件。

1、CPE能够利用flash中的空闲存储空间

2、CPE主动上报设备中关键的信息，并且能够响应平台的操作。

如图4所示，本发明的网络分布式存储系统，包括：

客户终端设备20，其将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台，用于利用其外部存储设备的剩余空间存储网络文件，并供请求设备或管理平台下载其所存储的文件；

管理平台10，其收到存储文件的请求后，根据文件大小、文件上传者IP地址选择合适的客户终端设备，将文件存储到选定的客户终端设备20，并记录文件标识和客户终端设备编号；并在收到读取文件的请求后，根据文件标识查找存储文件的客户终端设备20，并从客户终端设备20上下载文件或通知请求设备直接从客户终端设备上下载文件。

如图5所示，本发明的客户终端设备20，包括：

上报模块21，其将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台，供管理平台选择合适的客户终端设备来存储网络文件；

存储模块22，其响应管理平台的操作，利用客户终端设备上的外部存储设备的剩余空间存储网络文件，并供请求设备或管理平台下载其所存储的文件。

本发明的分布式存储系统利用的不是专门部署的存储空间，而是CPE设备上的空余空间，相比传统的分布式存储系统，存储分布更广，更贴近用户，不需要增加存储服务器，最大限度地利用了空闲资源，节省了成本。

以上参照附图说明了本发明的优选实施例，本领域技术人员不脱离本发明的范围和实质，可以有多种变型方案实现本发明。举例而言，作为一个实施例的部分示出或描述的特征可用于另一实施例以得到又一实施例。以上仅为本发明较佳可行的实施例而已，并非因此局限本发明的权利范围，凡运用本发明说明书及附图内容所作的等效变化，均包含于本发明的权利范围之内。

Claims (6)

1.一种网络分布式存储的实现方法，其特征在于，包括：

客户终端设备将客户终端设备编号、IP地址、空闲存储空间和已存储的内容上报到网络中的管理平台；

管理平台收到存储文件的请求后，根据文件大小、文件上传者IP地址选择合适的客户终端设备，将文件存储到选定的客户终端设备，并记录文件标识和客户终端设备编号；其中，对于新的客户终端设备，直接在客户终端设备上存入合适的数据；对于存储过内容的客户终端设备，管理平台首先判断客户终端设备是否有要删除的内容，如果有，则由客户终端设备删除内容后上报管理平台；如果不需要删除内容，则判断存储空间是否足够；如果存储空间不够，则客户终端设备不操作，而是提供其它网络存储服务；如果存储空间足够，则客户终端设备存入合适大小的数据；

管理平台收到读取文件的请求后，根据文件标识查找存储文件的客户终端设备，并从客户终端设备上下载文件或通知请求设备直接从客户终端设备上下载文件。

2.根据权利要求1所述的网络分布式存储的实现方法，其特征在于，客户终端设备在每次启动后向管理平台上报其客户终端设备编号、IP地址、空闲存储空间和已存储的内容，并在每次完成数据存储或删除后向管理平台上报存储空间和存储内容的变化。

3.根据权利要求1所述的网络分布式存储的实现方法，其特征在于，对网络存储报文打上特定的标签，以区分需要在客户终端设备上进行存储的数据，还是需要客户终端设备转发到用户端的数据，或是进入客户终端设备系统处理的数据。

4.根据权利要求1所述的网络分布式存储的实现方法，其特征在于，在将文件存储到客户终端设备上时进行冗余备份，将文件存储在多个客户终端设备上。

5.根据权利要求4所述的网络分布式存储的实现方法，其特征在于，从客户终端设备上下载文件时，如有多个客户终端设备上存储有文件，则同时从多个客户终端设备上下载文件，加快下载速度。

6.根据权利要求5所述的网络分布式存储的实现方法，其特征在于，管理平台收到读取文件的请求后，筛选所有存储了请求内容的客户终端设备中距离请求设备最近的客户终端设备，供请求设备进行下载。