CN107451138A - 一种分布式文件系统存储方法和系统 - Google Patents

Abstract

本发明实施例提供一种分布式文件系统存储方法和系统，其中所述方法包括：聚合各分布式文件系统的配置信息，所述配置信息包括策略属性和挂载点路径；当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性；将所述文件数据写入和所述文件数据匹配的策略属性对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。本发明实施例能够统一管理分布式文件系统，充分发挥分布式文件系统存储性能，从而提升存储利用率，提高用户体验。

Description

一种分布式文件系统存储方法和系统

技术领域

本发明实施方式涉及通信技术领域，尤其涉及一种分布式文件系统存储方法和系统。

背景技术

目前包括彩铃、WAP(Wireless Application Protocol，无线应用协议)网关等产品中都用到了网络存储设备，为了达到大容量、高吞吐量和高可靠性的要求，随着对这些产品可靠性等要求的提高，往往价格也是呈现指数级上升，这些设备在整个系统的中的成本往往都超过了50％，例如Google的GFS(Google File System，谷歌文件系统)就是自研的文件存储技术，使系统的成本得到了大量的下降。

分布式文件系统是一个通用存储软件平台，运行在通用硬件之上，为需要存储服务的产品提供存储平台支撑，提供存储、查询检索和管理产品所产生的海量数据服务，如多媒体内容存储、业务数据存储等。在廉价的通用硬件平台上构建分布式文件系统已经是各种存储类业务发展的必然趋势。分布式文件系统平台分布式文件子系统采用分布式非对称的软件架构，实现功能和特性的分离，用于完成数据的存取、访问与管理等功能。平台的模块划分清楚，接口明确，便于其他产品和项目在此平台基础上开发或运用。

分布式文件系统在各视频，邮件等各领域得到广泛应用，但是在实际使用过程中还是有各种复杂的场景制约分布式文件系统的使用。例如，在实际使用过程中，数据的高可靠性是用户关心的最重要的问题，一套分布式文件系统在使用过程中不可避免的会产生数据一致性问题。此外，不同的分布式文件系统有着不同的存储副本策略，对于不同大小文件的存储性能又有不同的侧重，有的分布式文件系统小文件存储OPS(单位时间内读写IO次数)高，但是大文件系统能差；有的大文件带宽高，但是小文件OPS低。还有，在分布式文件系统内部和之间不同的存储域，不同的存储命名空间，文件数据共享困难，对于不同种类大小的文件没有一个存储策略导致存储空间浪费等，另外用户替换已有的分布式文件系统时经常面临着组网替换，服务器通信替换，软件替换，运维更换等一系列技术难点。

发明内容

本发明实施方式的目的在于提供一种分布式文件系统存储方法和系统，能够统一管理分布式文件系统，充分发挥分布式文件系统存储性能，从而提升存储利用率，提高用户体验。

为实现上述目的，本发明实施方式提供一种分布式文件系统存储方法，所述方法包括：聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口；当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性；调用和所述文件数据匹配的策略属性对应的分布式文件系统的接口，将所述文件数据通过所述接口写入和所述文件数据匹配的策略属性对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。

进一步地，所述聚合各分布式文件系统的配置信息，包括：检测到分布式文件系统时，对分布式文件系统的策略属性、挂载点路径和接口进行配置，所述分布式文件系统包括已存在的分布式文件系统和新增的分布式文件系统；在对分布式文件系统配置完成后，聚合各分布式系统的配置信息。

进一步地，所述方法还包括：当接收到文件数据的读请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，通过所述接口读取所述对应的分布式文件系统中的文件数据。

进一步地，所述方法还包括：当接收到文件数据的写请求时，对需要写入的文件数据进行加密；相应地，所述方法还包括：当接收到文件数据的写请求时，对需要读出的经过加密的文件数据进行解密。

进一步地，所述方法还包括：根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统外的其他分布式文件系统；将所述写入对应的分布式文件系统的文件数据远程备份到其他的分布式文件系统中。

进一步地，所述方法还包括：当接收到文件数据的删除请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从所述对应的分布式文件系统中删除所述文件数据；如果所述文件数据在所述其他分布式系统中有远程备份，则从远程备份的所述其他分布式文件系统中删除所述文件数据。

本发明实施方式还提供的一种用于分布式文件系统存储装置，所述装置部署在服务器通信上，包括：系统扩展性模块，用于聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口；策略选择器，用于当接收到文件数据的写请求时，查找和所述文件数据匹配的策略属性；数据分发模块，用于调用和所述文件数据匹配的策略属性对应的分布式文件系统的接口，将所述文件数据通过所述接口写入和所述文件数据匹配的策略属性对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。

进一步地，所述系统扩展性模块具体用于：当检测到分布式文件系统时，对分布式文件系统的策略属性、挂载点路径和接口进行配置，所述分布式文件系统包括已存在的分布式文件系统和新增的分布式文件系统；在对分布式文件系统配置完成后，聚合各分布式系统的配置信息。

进一步地，所述数据分发模块，还用于：当接收到文件数据的读请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从所述对应的分布式文件系统中读取文件数据。

进一步地，所述装置还包括：数据加密/解密模块，用于当接收到文件数据的写请求时，对需要写入的文件数据进行加密；当接收到文件数据的写请求时，对需要读出的经过加密的文件数据进行解密。

进一步地，所述数据分发模块还用于：根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统外的其他分布式文件系统；调用所述其他分布式文件系统的接口，将所述写入对应的分布式文件系统的文件数据远程备份到其他分布式文件系统。

进一步地，所述数据分发模块还用于：当接收到文件数据的删除请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从所述对应的分布式文件系统中删除所述文件数据；如果所述文件数据在所述其他分布式系统中有远程备份，则从远程备份的所述其他分布式文件系统中删除所述文件数据。

本发明实施例的分布式文件系统存储方法和装置，通过对分布式文件系统的配置信息进行聚合操作，实现了对不同分布式文件系统实行统一调度，进行文件数据的写入、读出和删除；预先配置存储策略，并根据存储策略进行文件数据的写入，提升了存储服务器通信存储利用率；可以对文件数据进行加密，使得存储在分布式文件系统的文件数据对于底层系统不可见，从而保证文件数据的安全性；可以对文件数据进行远程备份，实现远程备份容灾，保证重要文件数据的可靠性。因此，本发明实施例的分布式文件系统存储方法和装置充分发挥分布式文件系统读写性能，且提升了用户体验。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。

附图说明

附图用来提供对本发明技术方案的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明的技术方案，并不构成对本发明技术方案的限制。

图1为本发明实施方式中用于分布式文件系统存储装置的结构示意图；

图2为本发明实施方式中分布式文件系统存储方法的流程示意图；

图3为本发明实施方式中分布式文件系统存储方法的具体步骤示意图。

具体实施方式

为使本发明的目的、技术方案和优点更加清楚明白，下文中将结合附图对本发明的实施例进行详细说明。需要说明的是，在不冲突的情况下，本发明中的实施例及实施例中的特征可以相互任意组合。

在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行。并且，虽然在流程图中示出了逻辑顺序，但是在某些情况下，可以以不同于此处的顺序执行所示出或描述的步骤。

图1为本发明实施方式中用于分布式文件系统存储装置示意图。如图1所示，该装置部署在服务器通信上，通过对不同分布式文件系统，不同存储域，不同命名空间的文件系统统一调度实现文件的存储，以此来实现不同分布式文件系统之间的高扩展性，高可用性，远程备份，策略生成，数据加密解密等功能。

本发明实施例的用于分布式文件系统存储装置系统包括：系统扩展性模块、策略选择器、数据分发模块、数据加密/解密模块，其中，

系统扩展性模块，用于聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口。

具体地，当检测到分布式文件系统时，对分布式文件系统的策略属性、挂载点路径和接口进行配置，所述分布式文件系统包括已存在的分布式文件系统和新增的分布式文件系统。

在对分布式文件系统配置完成后，聚合各分布式系统的配置信息通知数据分发模块，以便由数据分发模块统一调度。

策略选择器，用于当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性。

具体地，存储策略可以是根据文件数据大小或文件数据类型等选择分布式文件系统。

例如，对于不同大小的文件数据，小文件数据存储在OPS高的分布式文件系统中，大文件数据存储在带宽高的分布式文件系统中，从而充分发挥存储系统存储性能。

再例如，对于不同类型的文件数据，临时文件数据可以存储在单副本分布式文件系统中，减少临时文件数据对文件系统存储性能的冲击，重要文件数据可以存放多副本的分布式文件系统中，或者通过数据分发模块实现远程备份容灾，保证重要文件数据的可靠性。

数据分发模块，用于调用不同的分布式文件系统接口来读写文件数据，记录文件数据的路径信息和挂载点路径信息的映射关系，从而便于后续文件数据分发。

具体地，和该数据分发模块通信的接口遵循统一的POSIX(PortableOperating System Interface，可移植操作系统接口)，POSIX标准定义了操作系统为应用程序提供的接口标准，当然也可以是其他的接口标准，在此不限制。

当客户端调用IO接口时，该数据分发模块将调用不同的分布式文件系统接口来读写文件数据，记录文件数据的路径信息和挂载点路径信息的映射关系，从而便于后续文件数据分发。

此外，根据需要，例如根据文件数据的重要性，数据分发模块还可以将重要文件数据同步或异步备份到其他的分布式文件系统，以此来实现重要文件数据的远程备份。该数据分发模块还用于当接收到文件数据的删除请求时，从对应的分布式文件系统中删除所述文件数据；如果所述文件数据有远程备份，则从远程备份的分布式文件系统中删除所述文件数据。

数据加密/解密模块，用于当接收到文件数据的写请求时，对需要写入的文件数据进行加密；当接收到文件数据的写请求时，对需要读出的经过加密的文件数据进行解密。

具体地，该数据加密/解密模块提供加密解密算法，当接收到文件数据的写请求时，对需要写入的文件数据进行加密，当接收到文件数据的写请求时，对需要读出的经过加密的文件数据进行解密，使得存储在分布式文件系统的文件数据对于底层系统不可见，从而保证文件数据的安全性。

在本发明的具体实施例中，硬件的基本配置可以如下：CPU为E5-2620，6核心，12线程，2500MHZ或更高型号；SSD硬盘，记录文件数据的路径信息和挂载点路径信息的映射关系；内存大于96G。当然硬件的配置还有其他的可能，在此并不做限制。

基于图1所示的装置，本发明还提供了一种分布式文件系统存储方法，如图2所示，该方法包括：

步骤21，聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口。

步骤22，当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性；

步骤23，调用和所述文件数据匹配的策略属性对应的分布式文件系统的接口，将所述文件数据写入所述对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。

基于图2所示的方法，本发明还提供了一种分布式文件系统存储方法，如图3所示，本发明的方法具体包括：

步骤31，系统扩展性模块聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口。

在本步骤中，系统扩展性模块对各分布式文件系统进行配置，包括分布式文件系统的挂载点路径、策略属性、接口等。

系统扩展性模块聚合各分布式文件系统的配置信息，当发现有新增的分布式文件系统时，可以将该新增的分布式文件系统的配置信息加入进行聚合，其中各分布式文件系统可以有不同的副本冗余策略，并不做具体限制，只需要接入的分布式文件系统满足POSIX语义规范即可。

在配置完成后通知数据分发模块，以便由数据分发模块统一调度。

步骤32，当接收到文件数据的写请求时，对需要写入的文件数据进行加密。

在本步骤中，当用户进程接收到文件数据的写请求时，数据加密/解密模块判断是否需要对该文件数据进行加密，例如该文件数据是隐私数据，则数据加密/解密模块该文件数据进行加密。

步骤33，根据预先设置的存储策略文件数据查找和所述文件数据匹配的策略属性。

在本步骤中，存储策略可以是根据文件数据大小或文件数据类型等选择分布式文件系统。策略选择器根据预先设置的存储策略为文件数据选择对应的分布式文件系统。

步骤34，调用文件数据对应的分布式文件系统接口，并通过所述接口来读写文件数据。

在本步骤中，数据分发模块将调用和所述文件数据匹配的策略属性对应的分布式文件系统接口，将所述文件数据写入所述对应的分布式文件系统中，例如将文件数据写入分布式文件系统1。

步骤35，将文件数据远程备份到其他的分布式文件系统。

在本步骤中，根据需要，例如该文件数据为重要文件，则数据分发模块可以进一步地将文件数据异步分发到其他的分布式文件系统，例如远程备份到分布式文件系统2，从而保证重要文件数据的可靠性。

具体地，根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统外的其他分布式文件系统，调用所述其他分布式文件系统的接口，将文件数据远程备份到其他的分布式文件系统。

步骤36，记录文件数据路径和分布式文件系统挂载点路径的映射关系。

在本步骤中，数据分发模块还需要记录文件数据路径和分布式文件系统挂载点路径的映射关系，从而便于后续文件数据分发。

步骤37，当接收到文件数据的读请求时，根据文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从对应的分布式文件系统中读取文件数据。

在本步骤中，当用户进程接收到文件数据的读请求时，数据分发模块查找之前记录的文件数据路径和分布式文件系统挂载点路径的映射关系，确定对应的分布式文件系统，并从该对应的分布式文件系统中读取文件数据。

步骤38，对需要读出的文件数据进行解密。

在本步骤中，如果需要读出的文件数据是加密数据，则数据加密/解密模块对该文件数据进行解密。

步骤39，读出文件数据。

在本步骤中，向用户进程返回需要读出的文件数据。

此外，本发明的分布式文件系统存储方法还可以进一步包括：

当用户进程接收到文件数据的删除请求时，数据分发模块查找之前记录的文件数据路径和分布式文件系统挂载点路径的映射关系，确定对应的分布式文件系统，调用和所述文件数据对应的分布式文件系统的接口，从该对应的分布式文件系统中删除该文件数据；

如果该文件数据有远程备份到其他的分布式文件系统，数据分发模块还需要根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统外的其他分布式文件系统；调用所述其他分布式文件系统的接口，从远程备份的其他分布式文件系统中删除该文件数据。

本发明实施例的分布式文件系统存储方法和装置，通过对分布式文件系统的配置信息进行聚合操作，实现了对不同分布式文件系统实行统一调度，进行文件数据的写入、读出和删除；预先配置存储策略，并根据存储策略进行文件数据的写入，提升了存储服务器通信存储利用率；可以对文件数据进行加密，使得存储在分布式文件系统的文件数据对于底层系统不可见，从而保证文件数据的安全性；可以对文件数据进行远程备份，实现远程备份容灾，保证重要文件数据的可靠性。

因此，本发明实施例的分布式文件系统存储方法和装置充分发挥分布式文件系统读写性能，且提升了用户体验。

通过以上的实施方式的描述可知，本领域的技术人员可以清楚地了解到本发明可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器通信，或者网络设备等)执行本发明各个实施方式或者实施方式的某些部分所述的方法。

虽然通过实施方式描绘了本发明，本领域普通技术人员知道，本发明有许多变形和变化而不脱离本发明的精神，希望所附的权利要求包括这些变形和变化而不脱离本发明的精神。

Claims (12)

1.一种分布式文件系统存储方法，其特征在于，所述方法应用于服务器通信上，包括：

聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口；

当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性；

调用和所述文件数据匹配的策略属性对应的分布式文件系统的接口，将所述文件数据通过所述接口写入所述对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。

2.根据权利要求1所述的方法，其特征在于，所述聚合各分布式文件系统的配置信息，包括：

当检测到分布式文件系统时，对分布式文件系统的策略属性、挂载点路径和接口进行配置，所述分布式文件系统包括已存在的分布式文件系统和新增的分布式文件系统；

在对分布式文件系统配置完成后，聚合各分布式系统的配置信息。

3.根据权利要求1所述的方法，其特征在于，所述方法还包括：

当接收到文件数据的读请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，通过所述接口读取所述对应的分布式文件系统中的文件数据。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：当接收到文件数据的写请求时，对需要写入的文件数据进行加密；

相应地，

所述方法还包括：当接收到文件数据的读请求时，对需要读出的经过加密的文件数据进行解密。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统之外的其他分布式文件系统；

调用所述其他分布式文件系统的接口，将所述写入对应的分布式文件系统的文件数据远程备份到所述其他分布式文件系统中。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

当接收到文件数据的删除请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从所述对应的分布式文件系统中删除所述文件数据；

如果所述文件数据在所述其他分布式系统中有远程备份，则从远程备份的所述其他分布式文件系统中删除所述文件数据。

7.一种分布式文件系统存储装置，其特征在于，所述装置部署在服务器通信上，包括：

系统扩展性模块，用于聚合各分布式文件系统的配置信息，所述配置信息包括存储文件数据的策略属性、分布式文件系统的挂载点路径和分布式文件系统与服务器通信的接口；

策略选择器，用于当接收到文件数据的写请求时，根据预先设置的存储策略查找和所述文件数据匹配的策略属性；

数据分发模块，用于调用和所述文件数据匹配的策略属性对应的分布式文件系统的接口，通过所述接口将所述文件数据写入所述对应的分布式文件系统中，并记录文件数据路径和分布式文件系统挂载点路径的映射关系。

8.根据权利要求7所述的装置，其特征在于，所述系统扩展性模块具体用于：

当检测到分布式文件系统时，对分布式文件系统的策略属性、挂载点路径和接口进行配置，所述分布式文件系统包括已存在的分布式文件系统和新增的分布式文件系统；

在对分布式文件系统配置完成后，聚合各分布式系统的配置信息。

9.根据权利要求7所述的装置，其特征在于，所述数据分发模块，还用于：

当接收到文件数据的读请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，通过所述接口读取所述对应的分布式文件系统中的文件数据。

10.根据权利要求9所述的装置，其特征在于，所述装置还包括：

数据加密/解密模块，用于当接收到文件数据的写请求时，对需要写入的文件数据进行加密；当接收到文件数据的写请求时，对需要读出的经过加密的文件数据进行解密。

11.根据权利要求7所述的装置，其特征在于，所述数据分发模块还用于：

根据聚合的各分布式文件系统的配置信息，确定除所述文件数据写入对应的分布式文件系统外的其他分布式文件系统；

调用所述其他分布式文件系统的接口，将所述写入对应的分布式文件系统的文件数据远程备份到所述其他分布式文件系统。

12.根据权利要求7或11所述的装置，其特征在于，所述数据分发模块还用于：

当接收到文件数据的删除请求时，根据所述文件数据路径和分布式文件系统挂载点路径的映射关系，调用和所述文件数据对应的分布式文件系统的接口，从所述对应的分布式文件系统中删除所述文件数据；

如果所述文件数据在所述其他分布式系统中有远程备份，则从远程备份的所述其他分布式文件系统中删除所述文件数据。