CN104601687B - 一种分发跨地域高效存储内容的方法及系统 - Google Patents

Abstract

本发明提供一种分发跨地域高效存储内容的方法及系统，实现了一个全局统一名字空间，用户可以在任意一个客户端上访问和操作全系统内的内容，降低了个管理和操作的难度；同时支持多种内容分发策略，可实现内容的主动推送和被动拉取，提高了内容分发的效率；支持多种数据保护策略，支持自定义文件的保护粒度；支持全系统的数据调度，降低了广域网上的流量。

Description

一种分发跨地域高效存储内容的方法及系统

技术领域

本发明涉及一种网络数据处理技术，具体涉及一种分发跨地域高效存储内容的方法及系统。

背景技术

随着云计算技术的普及，企业产生的数据量越来越大，已经达到PB级别，千万级别对象的数据量，需要存储系统能够支持海量数据的高效存取；由于企业数据一般部署在多个不同的站点，为了实现统一的管理，跨地域数据的管理和访问需要存储系统的支持。

现有的传统内容分发网络CDN(Content Distribution Network)系统，是通过在多个地点部署CDN节点，每一个CDN节点提供内容的缓存，内容管理，负载均衡，以及流量管理功能的。CDN系统根据用户的访问需求，将内容分发到用户就近的CDN节点，用户直接从就近的CDN节点访问数据，而不是集中到中央节点获取数据，达到降低内容生产者需要的网络带宽，优化用户的下载速度，提高整体系统效率的目的。

通用云计算和云存储平台，如Google公司的Google File System，Amazon公司的S3系统等，实现了一种基于云的面向自己的应用的存储需求的数据存储系统。

EMC的Atmos系统实现了一种跨地域的云存储平台，提供了位置独立的全球命名空间，并且实现了多租户，基于策略的智能管理，实现了云端的数据保护GeoProtect,并且提供了Web访问接口和传统的文件访问接口。

本发明人研究、观察发现已有的技术在实现跨地域的内容分发和管理系统的时候，存在如下需要解决的问题：

1.现有系统中，如CDN系统实现了内容的分发，但不关注内容的操作和管理；其他支持广域网的文件系统虽然实现了跨站点的数据的聚合，但全球命名空间并不是一个统一的名字空间，用户仍然需要指定访问位置。

2.就全局数据调度而言：CDN系统只根据用户的访问行为进行内容的分发和负载均衡，并不知道全局行为。需要根据全局的行为的跨地域的存储分发系统，以及用户的策略进行统一调度和管理，以降低广域网上的流量。

3.数据保护方面：由于数据跨地域和跨站点，不仅需要保证数据在各种故障情况下的安全性，而且需要实现文件和对象级别的数据保护。CDN系统通过将内容分发到不同地域的CDN节点，实现部分的容错性,但是没有实现全系统的数据保护

4.在系统开发难度上：CDN系统的内容管理和内容修改，需要在CDN系统之外实现；私有云的存储系统一般提供私有API，进行编程和使用，开发和使用难度较大。

发明内容

为了克服上述缺陷，本发明提供了一种分发跨地域高效存储内容的方法及系统，实现了一个全局统一名字空间，用户可以在任意一个客户端上访问和操作存储内容分发网络SDN(Storage Distribution Network)系统内的内容，降低了个管理和操作的难度；同时支持多种内容分发策略，可实现内容的主动推送和被动拉取，提高了内容分发的效率；支持多种数据保护策略，支持自定义文件的保护粒度；支持全系统的数据调度，降低了广域网上的流量。

为了实现上述发明目的，本发明采取如下技术方案：

一种分发跨地域高效存储内容的方法，其特征在于，所述方法包括下述步骤：

(1)内容管理系统对全系统的文件发出管理操作请求

(2)客户端子系统接收内容管理系统的文件操作请求，并将其转化为SDN系统的操作请求后发送给SDN系统；

(3)SDN系统站点元数据子系统接收客户端的文件操作请求，进行文件的站点位置解析，并根据当前文件策略进行相应操作后转发给站点数据子系统进行处理，同时站点的元数据子系统之间进行消息交互；

(4)SDN系统的站点数据子系统将数据根据元数据指定的策略存储到后端存储上，或将文件需要读取的数据从后端存储读取；

步骤(1)中所述的文件管理操作包括文件的访问、存取、添加、修改和删除；

步骤(3)中所述策略包括：文件块级数据保护策略和内容分发策略，内容分发策略包括：主动推送策略和被动推送策略。

本发明提供的优选技术方案中，所述步骤(3)站点的元数据子系统间消息交互方式的步骤包括：

(1)对附近的SDN站点间，或有高速网络连接的情况下，SDN站点在接收到来自客户端子系统操作请求的时候，SDN站点的元数据处理模块处理完元数据并修改请求后，将该操作生成操作日志，由消息处理模块以操作日志消息的方式发送给另一SDN站点；

(2)所述另一SDN站点的消息处理模块在接收到来自所述SDN站点的操作日志消息后，将消息解析为对应的元数据处理操作，由所述另一SDN站点的元数据处理模块完成元数据修改，并生成确认消息，由消息处理模块将确认消息发送给所述SDN站点，该SDN站点在接收到确认消息后，确认本次元数据修改操作完成；

(3)对于SDN站点与异地SDN站点的情况，由所述SDN站点的站点一致性维护模块做周期性启动站点之间的元数据文件同步操作，将周期内的所述SDN站点修改的元数据文件异步同步到异地站点，并接收来自异地SDN站点的元数据文件同步操作，由站点一致性维护模块将异地SDN站点发送的修改文本合并到本站点的元数据子系统中。

本发明提供的第二优选技术方案中，所述客户端子系统的名字空间访问操作方式包括下述步骤：

(1)客户端子系统接收全局文件访问请求并将该请求发送到站点A的站点元数据子系统；

(2)站点A的站点元数据子系统解析全局名字空间，确定对应名字空间到站点映射，并根据映射关系对应到站点，将请求发到对应站点的模块进行处理；

A如果文件位于本站点，直接将请求发送到站点数据子系统；

B如果文件位于其他站点P上，站点A的元数据子系统将请求发送到对应站点P的元数据子系统；

C站点P在收到请求之后，将请求发送给本站点P对应的站点数据子系统；

(3)站点数据子系统将本站点元数据子系统发送的文件操作请求处理结果返回给站点元数据子系统；

(4)站点P的元数据子系统将收到站点A转发的文件操作请求交由该站点P的站点数据子系统处理，并将结果应答到站点A；

(5)站点元数据子系统将接收的站点的文件操作应答之后的结果返回给客户端子系统，完成全局名字空间的文件操作。

本发明提供的第三优选技术方案中，所述文件块级数据保护策略，包括下述步骤：

(1)站点元数据子系统中策略管理模块接收策略，并在客户端子系统发起文件创建、写入数据，或副本的增加或减少操作时，根据策略，将文件分布到对应的SDN站点，以指定的策略将文件存储到站点数据子系统中；

(2)站点元数据子系统若发现系统中的文件副本小于指定的副本数时，则自动启动副本增加操作，将新生成的副本分布到对应的站点上。

本发明提供的第四优选技术方案中，所述主动推送策略方式，包括下述步骤：

(1)SDN系统根据文件的访问频率，文件的访问热点位置，主动从热点文件所在SDN站点A发起文件推送操作请求，将文件推送到文件访问热点SDN站点H上；

(2)站点H接收到文件推送操作后，在本站点H上生成文件副本信息，并更新站点H的元数据信息；

(3)当SDN客户端子系统向就近SDN站点H发起对该文件的操作请求时，SDN站点H的站点元数据子系统将查找到本地文件存在副本，并将请求直接发送给本站点H站点数据子系统处理；

(4)处理的结果返回给客户端子系统。

本发明提供的第五优选技术方案中，所述被动拉取策略方式，包括下述步骤：

(1)客户端子系统发起全局名称空间下的文件访问操作,由站点A的站点元数据子系统解析；

(2)SDN站点元数据子系统解析名称空间，若发现本站点无该文件副本，则向有此副本文件的SDN站点P发起文件副本拉取操作请求；

(3)站点P接收到文件副本拉取操作后，发起文件拉取操作，将文件副本发送给站点A，站点A在接收到文件副本之后，在站点A上生成文件副本，并更新本地站点A对应的元数据信息；

(4)客户端子系统直接访问SDN站点A内的文件副本，向客户端子系统返回对应的数据，后续的文件访问操作直接访问站点的本地副本。

本发明提供的第六优选技术方案中，一种分发跨地域高效存储内容的系统，其包括内容管理系统、客户端子系统和SDN系统，所述SDN系统由部署在不同地域的SDN站点组成，所述SDN站点包括站点元数据子系统和站点数据子系统。

本发明提供的第七优选技术方案中，所述站点数据子系统包括存储设备、存储节点、分布式的存储系统。

本发明提供的第八优选技术方案中，所述客户端子系统与所述内容管理系统在同一机器上。

本发明提供的第九优选技术方案中，所述站点元数据子系统包括消息处理模块、站点元数据处理模块、策略管理模块和站点一致性维护模块。

与现有技术相比，本发明的有益效果在于：

本发明提供的一种分发跨地域高效存储内容的方法及系统，使用支持全局统一名字空间的存储系统进行广域网上的内容分发，支持标准文件操作接口，用户可以直接使用唯一的全局名字空间中的路径访问操作文件，简化了上层应用的使用难度；支持主动推送和被动拉取的文件分发策略，提高了内容分发系统的全局效率；同时实现了跨地域的全局副本机制，极大的提高了数据的可靠性。

附图说明

图1是实现跨地域高效存储内容分发系统架构图

图2是站点之间的交互方式的流程图

图3是全局名字空间访问操作方式的流程图

图4是主动推送策略方式的流程图

图5是被动拉取策略方式的流程图

具体实施方式

下面结合附图对本发明作进一步详细说明。

实现跨地域的高效存储内容分发方法及系统，实现了一个全局统一名字空间，支持内容分发策略、数据保护策略、全系统的数据调度。

内容管理系统，实现全系统的内容管理，包括文件的访问，文件存取，文件的添加，修改，删除等操作。

客户端子系统位于内容管理系统所在的机器上，为内容管理系统提供标准的文件访问和操作接口(包括POSIX文件访问接口，SOAP访问接口等)。客户端子系统将内容管理系统的文件操作请求，转化为对SDN系统的操作。

SDN系统由部署在多个不同地域的SDN站点组成，每一个SDN站点包括两种类型的子系统，站点元数据子系统和站点数据子系统。

站点元数据子系统，负责接收来自客户端的文件操作请求，进行文件的站点位置解析，并根据当前文件对应的策略进行相应操作，将对应的操作转发到对应的站点数据模块上进行处理。同时站点的元数据模块之间进行消息交互，实现一个全局的统一名字空间。

站点数据子系统，负责接收来自元数据的数据操作，将数据根据元数据指定的策略存储到后端存储上，或者是将文件需要读取的数据从后端存储读取。站点数据模块并不限于单一的存储设备或存储节点，其可以是一个分布式的存储系统。

所述策略包括文件块级的数据保护策略和内容分发策略，内容分发策略包括主动推送策略和被动拉取策略。

SDN系统支持多种策略指定方式：支持全系统默认策略，该默认策略在系统运行时指定；同时支持文件级别的策略指定，用户通过操作接口能够指定某一个文件使用何种策略；同时支持基于文件生命周期的策略，支持文件在特定时间段使用特定策略。

站点元数据子系统是SDN系统的核心，其包括但不限于如下功能模块：

消息处理模块：负责处理来自其他子系统模块的请求消息，进行消息的解码，根据消息的请求类型将消息转发给各个模块处理，在模块将消息处理完成之后，将消息的处理结果发送回对应的子系统，完成一次消息处理过程。

站点元数据处理模块：负责实现客户端子系统传输过来的文件全局名字空间中的路径解析，以及元数据访问操作请求。

策略管理模块：负责确定文件在站点内和站点间的策略，这些策略包括文件的操作方式，文件在站点内和站点间存储位置，文件的分布方式，文件的冗余度。

站点一致性维护模块：负责维护各个站点之间的元数据的一致性，通过与其他站点的元数据模块之间的消息交互，维持整个分布式系统的全局名字空间。

实现跨地域的高效存储内容分发方法，其包括站点间的交互方式、SDN系统全局名字空间文件操作方式、实现文件块级的数据保护方式、主动推送策略方式以及被动拉取策略方式。

如图2所示，在本系统中，为了保证跨地域的内容分发系统的全局名字空间，需要通过站点的元数据子系统之间的交互，维持全系统名字空间的最终一致性。站点之间的交互方式具体的步骤：

(1)对于SDN站点间位置临近，或者存在高速网络连接的情况下，SDN站点1在接收到来自客户端子系统操作请求的时候，SDN站点1的元数据处理模块在处理完元数据修改请求后，将该操作生成操作日志，由消息处理模块以操作日志消息的方式发送给SDN站点2；

(2)SDN站点2的消息处理模块在接收到来自SDN站点1的操作日志消息后，将消息解析为对应的元数据处理操作，由SDN站点2的元数据处理模块完成元数据修改，并生成确认消息，由消息处理模块将确认消息发送给SDN站点1，SDN站点1在接收到确认消息后，确认本次元数据修改操作完成；

(3)对于SDN站点与异地SDN站点的情况，由SDN站点1的站点一致性维护模块，周期性启动站点之间的元数据文件同步操作，将周期内的SDN站点1修改的元数据文件异步同步到异地站点，并接收来自异地SDN站点的元数据文件同步操作，由站点一致性维护模块将异地SDN站点发送过来的修改文本合并到本站点的元数据子系统中。

如图3所述，由于站点的元数据子系统维护了跨地域的名字空间的最终一致性，全局名字空间访问文件操作，具体步骤：

(1)客户端子系统接收全局文件访问请求，将请求发送到站点A的站点元数据子系统；

(2)站点A的站点元数据子系统解析全局名字空间，确定对应名字空间到站点的映射，根据映射关系对应到站点，将请求发到对应站点的模块进行处理；

A如果文件位于本站点，直接将请求发送到站点数据子系统；

B如果文件位于其他站点P上，站点A的元数据子系统将请求发送到对应站点P的元数据子系统；

C站点P在收到请求之后，将请求发送给本站点P对应的站点数据子系统；

(3)站点数据子系统处理本站点元数据子系统发送的文件操作请求，处理完成后，将结果返回给站点元数据子系统；

(4)站点P的元数据子系统在接收到站点A转发过来的文件操作请求，将请求交由该站点P的站点数据子系统处理，处理完成后，将结果应答到站点A；

(5)站点元数据子系统接收本地或者其他站点的文件操作应答之后，将结果返回给客户端子系统，完成一次全局名字空间的文件操作。

对于数据的可靠性，本发明提出的SDN系统实现了跨站点的文件副本机制，结合SDN站点数据模块支持的文件块级的数据保护策略，提高了数据在站点内和站点间的可靠性。具体步骤：

(1)站点元数据子系统中策略管理模块接收策略，并在客户端子系统发起文件创建、写入数据，或副本的增加减少操作时，根据策略，将文件分布到对应的SDN站点，以指定的策略将文件存储到站点数据子系统中；

(2)站点元数据子系统若发现系统中的文件副本小于指定的副本数，则自动启动副本增加操作，将新生成的副本分布到对应的站点上。

SDN系统的数据保护策略内容包括如下几个方面：

(1)文件的副本个数，即一个文件有多少个副本

(2)文件的副本分布信息,包括文件的数据在站点之间如何分布，文件在站点内部如何分布

(3)文件的数据删除策略：例如文件不允许被删除，还是文件多长时间之后能够删除

支持用户自定义的内容分发策略，用户可以指定文件的副本生成的时机，同时系统可以根据系统特征主动调度，以提高全局的系统效率。具体的内容分发策略有如下两种：主动推送策略和被动拉取策略。

主动推动策略指的是SDN系统根据系统中文件访问的频率和访问位置，主动的将数据文件推送到对应的SDN站点，以加速对应站点的文件访问效率，如图4所示，具体步骤：

(1)SDN系统根据文件的访问频率，文件的访问热点位置，主动从热点文件所在SDN站点A发起文件推送操作请求，将文件推送到文件访问热点SDN站点H上；

(2)站点H在接收到文件推送操作之后，在本站点H上生成文件的副本信息，并更新站点H的元数据信息

(3)当SDN客户端子系统向就近的SDN站点H发起对该文件的操作请求，SDN站点H的站点元数据子系统将查找到本地文件存在副本，将请求直接发送给本站点H的站点数据子系统处理；

(4)处理完成后，将结果返回给客户端子系统。

被动拉取策略指的是SDN系统在客户端模块访问全局名字空间对应的文件时，如果本地站点没有该文件对应的副本信息，SDN系统被动从文件副本所在的站点被动拉取副本，并存储到本地，以加速本站点的该文件访问操作，该方法对上层应用透明，无需应用参与到副本的创建和拉取操作。如图5所示，具体步骤：

(1)客户端子系统发起全局名称空间下的文件访问操作,由站点A的站点元数据子系统负责解析

(2)SDN站点元数据子系统进行名称空间解析，若发现本站点上不存在该文件的副本，则向存在副本文件的SDN站点P发起文件副本拉取操作请求；

(3)站点P接收到文件副本拉取操作后，发起文件拉取操作，将文件副本发送给站点A，站点A在接收到文件副本之后，在站点A上生成文件副本，并更新本地站点A对应的元数据信息；

(4)客户端子系统直接访问SDN站点A内的文件副本，向客户端子系统返回对应的数据，后续的文件访问操作就能够直接访问站点的本地副本。

最后应当说明的是：以上实施例仅用以说明本发明的技术方案而非对其限制，尽管参照上述实施例对本发明进行了详细的说明，所属领域的普通技术人员在其启发下依然可以对本发明的具体实施方式进行修改或者等同替换，这些未脱离本发明精神和范围的任何修改或者等同替换，均在申请待批的本发明的权利要求保护范围之内。

Claims (7)

1.一种分发跨地域高效存储内容的方法，其特征在于，所述方法包括下述步骤：

(1)内容管理系统对全系统的文件发出文件操作请求；

(2)客户端子系统接收内容管理系统的文件操作请求，并将其转化为存储内容分发网络SDN系统的操作请求后发送给SDN系统；

(3)SDN系统站点元数据子系统接收客户端子系统的文件操作请求，进行文件的站点位置解析，并根据当前文件策略进行相应操作后转发给站点数据子系统进行处理，同时站点的元数据子系统之间进行消息交互；

(4)SDN系统的站点数据子系统将数据根据元数据指定的文件策略存储到后端存储上，或将文件需要读取的数据从后端存储读取；

步骤(1)中所述的文件操作请求包括文件的访问、存取、添加、修改和删除；

步骤(3)中所述文件策略包括：文件块级数据保护策略和内容分发策略，内容分发策略包括：主动推送策略和被动拉取策略。

2.根据权利要求1所述分发跨地域高效存储内容的方法，其特征在于，所述步骤(3)站点的元数据子系统间消息交互的步骤包括：

对附近的SDN站点间，或有高速网络连接的情况下，SDN站点在接收到来自客户端子系统文件操作请求的时候，SDN站点的元数据处理模块处理完元数据并修改请求后，将该操作生成操作日志，由所述SDN站点的消息处理模块以操作日志消息的方式发送给另一SDN站点；

所述另一SDN站点的消息处理模块在接收到来自所述SDN站点的操作日志消息后，将消息解析为对应的元数据处理操作，由所述另一SDN站点的元数据处理模块完成元数据修改，并生成确认消息，由所述另一SDN站点消息处理模块将确认消息发送给所述SDN站点，该SDN站点在接收到确认消息后，确认本次元数据修改操作完成；

对于SDN站点与异地SDN站点的情况，由所述SDN站点的站点一致性维护模块做周期性启动站点之间的元数据文件同步操作，将周期内的所述SDN站点修改的元数据文件异步同步到异地站点，并接收来自异地SDN站点的元数据文件同步操作，由站点一致性维护模块将异地SDN站点发送的修改文本合并到本站点的元数据子系统中。

3.根据权利要求1所述分发跨地域高效存储内容的方法，其特征在于，所述客户端子系统的名字空间访问操作包括下述步骤：

客户端子系统接收全局文件访问请求并将该请求发送到站点A的站点元数据子系统；

站点A的站点元数据子系统解析全局名字空间，确定对应名字空间到站点映射，并根据映射关系对应到站点，将请求发到对应站点的模块进行处理；

A如果文件位于本站点，直接将请求发送到站点数据子系统；

B如果文件位于其他站点P上，站点A的元数据子系统将请求发送到对应站点P的元数据子系统；

C站点P在收到请求之后，将请求发送给本站点P对应的站点数据子系统；

站点数据子系统将本站点元数据子系统发送的文件操作请求处理结果返回给站点元数据子系统；

站点P的元数据子系统将收到站点A转发的文件操作请求交由该站点P的站点数据子系统处理，并将结果应答到站点A；

站点元数据子系统将接收的站点的文件操作应答之后的结果返回给客户端子系统，完成全局名字空间的文件操作。

4.根据权利要求1所述分发跨地域高效存储内容的方法，其特征在于，所述文件块级数据保护策略，包括下述步骤：

站点元数据子系统中策略管理模块接收策略，并在客户端子系统发起文件创建、写入数据，或副本的增加或减少操作时，根据策略，将文件分布到对应的SDN站点，以指定的策略将文件存储到站点数据子系统中；

站点元数据子系统若发现系统中的文件副本小于指定的副本数时，则自动启动副本增加操作，将新生成的副本分布到对应的站点上。

5.根据权利要求1所述分发跨地域高效存储内容的方法，其特征在于，所述主动推送策略方式，包括下述步骤：

SDN系统根据文件的访问频率，文件的访问热点位置，主动从热点文件所在SDN站点A发起文件推送操作请求，将文件推送到文件访问热点SDN站点H上；

站点H接收到文件推送操作后，在本站点H上生成文件副本信息，并更新站点H的元数据信息；

当SDN客户端子系统向就近SDN站点H发起对该文件的操作请求时，SDN站点H的站点元数据子系统将查找到本地文件存在副本，并将请求直接发送给本站点H站点数据子系统处理；

处理的结果返回给客户端子系统。

6.根据权利要求1所述分发跨地域高效存储内容的方法，其特征在于，所述被动拉取策略方式，包括下述步骤：

客户端子系统发起全局名称空间下的文件访问操作,由站点A的站点元数据子系统解析；

SDN站点元数据子系统解析名称空间，若发现本站点无该文件副本，则向有此副本文件的SDN站点P发起文件副本拉取操作请求；

站点P接收到文件副本拉取操作后，发起文件拉取操作，将文件副本发送给站点A，站点A在接收到文件副本之后，在站点A上生成文件副本，并更新本地站点A对应的元数据信息；

客户端子系统直接访问SDN站点A内的文件副本，向客户端子系统返回对应的数据，后续的文件访问操作直接访问站点的本地副本。

7.一种分发跨地域高效存储内容的系统，其包括内容管理系统、客户端子系统和存储内容分发网络SDN系统，其特征在于，所述SDN系统由部署在不同地域的SDN站点组成，所述SDN站点包括站点元数据子系统和站点数据子系统；

所述站点数据子系统包括存储设备、存储节点、分布式的存储系统；

所述客户端子系统与所述内容管理系统在同一机器上；

所述站点元数据子系统包括消息处理模块、站点元数据处理模块、策略管理模块和站点一致性维护模块；

所述内容管理系统，用于对全系统的文件发出文件操作请求；

所述客户端子系统，用于接收内容管理系统的文件操作请求，并将其转化为存储内容分发网络SDN系统的操作请求后发送给SDN系统；

所述站点元数据子系统，用于接收客户端子系统的文件操作请求，进行文件的站点位置解析，并根据当前文件策略进行相应操作后转发给站点数据子系统进行处理，同时站点的元数据子系统之间进行消息交互；

所述站点数据子系统，用于将数据根据元数据指定的文件策略存储到后端存储上，或将文件需要读取的数据从后端存储读取。