CN104283960B - 实现异构网络存储的虚拟化整合及分级管理的系统 - Google Patents

Abstract

本发明提供一种实现异构网络存储的虚拟化整合及分级管理的系统，通过存储虚拟化技术，能够将企业中已经部署的各种网络存储设备整合为同一个“存储资源池”，使得上层业务系统能够以一致的接口访问在各种不同的网络存储，避免针对不同的网络存储进行特定开发工作；通过分级存储技术，能够实现按策略地将不同级别的数据归集到不同级别的存储资源中。本发明能够同时提供多种异构存储的虚拟化整合和高度灵活的分级策略，为大型企业的异构存储管理、使用、技术演进提供最大的便利，同时整体上降低存储成本，并实现对存储的高性能访问，解决大型企业异构存储管理的难题。

Description

实现异构网络存储的虚拟化整合及分级管理的系统

技术领域

本发明涉及对多种异构的网络存储设备进行整合、虚拟化和分级的技术领域，尤其涉及一种实现异构网络存储的虚拟化整合及分级管理的系统。

背景技术

数据存储系统是企业IT基础设施的关键组成部分。早期，数据存储主要依赖于磁带或计算机的本地硬盘。随着信息技术的飞速发展，本地硬盘的容量和存储性能远远不能满足软件系统的需求，例如一些3D游戏的安装包动辄就有数GB的大小，而一些数据库管理系统所生成的数据库文件，更可能达到TB(1TB＝1024GB)甚至成百上千TB大小。传统的将硬盘放到计算机主机箱内的做法已经不能满足现代应用程序对存储容量的需求，这就催生了网络存储技术。

如图1所示，网络存储技术将存储系统扩展到网络上，使网络设备成为了网络中的一个节点，其它计算机节点通过网络访问、使用存储。这样，即使计算机主机内只有一块硬盘，甚至没有硬盘，也可以通过网络来存取存储设备中的数据。在过去20年，网络存储领域也相继出现过多种不同的技术，目前广泛使用的有：NAS(Net Attached Storage，网络附加存储)，SAN(Storage Area Network，存储区域网络)，以及对象存储系统(也称为云存储)。三种技术各有不同的特点及适用场景，如表1所示：

表1：主流网络存储技术特征表

在企业，特别是大型企业中，一般不仅仅只存在一种存储，而是普遍部署了多种的异构网络存储，原因有几个方面：

1)历史原因：

网络存储技术经过较长时间的发展，在此期间，先后发展出了多种网络存储技术(包括表一的三种)，并在不同阶段占据较为主流的地位。企业在不同阶段采购的存储类型很有可能也是不一样的。出于保护已有投资的目的，不会轻易将已经部署、可以正常使用的存储资源废弃，从而导致多种异构存储并存的局面。

2)技术差异原因：

不同存储的成本、技术特点和使用场景存在一定的差异。如表一所示，SAN的性能最好，但价格最为昂贵，且难以扩展到很大规模，主要用于企业的核心业务系统，如电力的营销系统、银行的核心交易系统等；NAS价格适中，性能一般，但部署方便，适用于对数据性能要求不高的场景；对象存储价格最低，也可以比较容易地扩展到PB乃至更高的规模，极有可能在大数据时代成为主流的存储技术，但其目前还存在技术成熟度较低，技术复杂性高的缺点，使用范围还比较有限。

多种异构存储的并存对企业的IT基础设施管理及软件系统开发工作都带来极大不便，也导致了额外的成本支出。如何整合、优化使用多种异构的网络存储，降低总体存储成本，并满足不同业务系统对存储的要求，是企业存储管理工作领域亟待解决的问题。

为了解决企业多种异构存储的管理及使用难题，工业界也提出了相应的技术，从以下几个方面尝试解决该问题，具体的方法和技术有：

1)通过一定程度的存储虚拟化，实现对不同存储资源的一致使用各网络存储技术的接口是不一样的，这意味着如果企业部署不同了网络存储产品，在没有没有额外的手段前提下，软件系统就需要专门针对该存储产品进行额外的开发及接口适配，才可以使用相应的网络存储。存储虚拟化技术，指的是将可以将不同的网络存储系统整合成相同的访问接口，软件系统可以基于该接口一致地访问底层存储，而不需要关系具体采用何种网络存储产品。如图2所示。

目前，主流的服务器操作系统，已经在文件系统层面内置了对NAS和SAN存储进行虚拟化的方案：windows系统中的CIFS技术、Linux系统中的NFS技术。通过文件系统的支持，能够将网络存储挂载(mount)为本地文件系统的一个逻辑目录，使得部署在操作系统中的上层业务系统能够像访问本地硬盘一样访问网络存储，而不需要关心具体部署的是何种存储。

这种解决方案的问题是，操作系统仅对发展时间较长、广泛使用的网络存储技术进行兼容，而无法兼容如对象存储等新兴的网络存储技术。

2)通过对存储进行分级，实现对不同级别存储的优化使用

数据分级存储是指，根据数据的重要性、访问频率、保留时间和性能等指标，将数据采取归集到不同的存储设备上进行存储，特别是将将不重要的数据、使用频率低的历史数据归集到廉价的存储中，从而在满足业务系统对数据存储需求的前提下，整体减小存储成本。这方面方案较多，如专利号为201110311219.X，专利名称为：一种系统分级存储的方法，提出了将数据从高端存储迁移至中端存储上，再将数据最终归档至低端存储的方法；专利号为：200510000139.7，专利名称为：分级存储管理系统，提出了将数据在不同级别存储中自动迁移的方案；专利号为：201310603664.2，专利名称为：数据分级存储系统和数据分级存储方法，通过预设数据使用频率，并通过客户端服务端架构将不同频率的数据分级别进行存储的方案等。上述方案都一定程度上实现了对数据分级存储管理，但也存在一些应用上的不足：

a)数据并非直接、实时地存储到不同级别存储中

目前的分级存储方案，一般是将存储资源划分了几种级别(如在线，近线，离线)，而后在进行数据写入时，先统一写入到高级别存储(如在线存储)，再根据一定的策略，定期或通过手动触发的方式将数据迁移到低级别存储中。如果系统要读取已经放置在低级别存储中的文件，则需要先拷贝或迁移到高级别存储。这种形式不适用于没有明显访问热点的业务系统中的文件，也不利于存储资源的规划。

b)分级策略通常不够灵活，并且不能按需实时调整

灵活的数据分级策略，通常要求能根据系统来源、文件类型、文件所述业务等各纬度将数据放置到不同级别的存储中。一方面，现有方案多是根据数据访问频率等少数纬度来决定数据的存储归属，另一方面，由于不是发生在数据实时写入的时候进行数据分级，在离线的场景下再进行数据迁移时通常会由于元数据的缺失而导致不能做到最灵活的按策略配置(策略计算需要丰富的文件元数据支持)，这也进一步导致数据策略的实时调整未必能够实时生效。

综上所述，在多种异构存储的整合使用问题方面，首先，目前没有技术方案同时兼顾了多种存储的虚拟化整合使用以及通过分级存储降低两个方面，不能整体上解决企业异构存储管理和使用的难题；其次，在异构存储虚拟化方面，很难兼顾目前最新发展的存储技术(以及不断发展出的新存储技术)。而在分级存储方面，难以提供高度灵活的分级策略，也难以做到数据写入时就实时进行数据归集，导致难以覆盖没有明显的数据访问热点的业务系统对存储的需求。

发明内容

本发明要解决的技术问题，在于提供一种实现异构网络存储的虚拟化整合及分级管理的系统，能够同时提供多种异构存储的虚拟化整合和高度灵活的分级策略，为大型企业的异构存储管理、使用、技术演进提供最大的便利，同时整体上降低存储成本，并实现对存储的高性能访问，解决大型企业异构存储管理的难题。

本发明是这样实现的：一种实现异构网络存储的虚拟化整合及分级管理的系统，所述系统包括装有客户端组件的客户端和装有服务端组件的服务端，所述客户端组件部署在需要使用存储资源的各业务系统上，客户端组件是业务系统使用存储的入口，提供了所有与存储使用相关的接口，并配合服务端实现存储虚拟化使用及分级管理；所述服务端组件能部署在不同的服务器上，并支持水平线性扩展；服务端组件包括元数据管理组件、路径及权限管理组件、对象存储管理组件、块数据及文件管理组件；

所述元数据管理组件负责管理所有文件的元数据，实现元数据与文件的关联关系管理、元数据查询的业务；所述元数据，是文件的基本特征及业务上下文相关信息；所述路径及权限管理组件：用于将文件的路径数据及权限数据从元数据管理组件中剥离出来，并采用内存数据库进行存储，确保文件读取、写入的性能；所述对象存储管理组件：用于支撑对象存储的管理功能，包括对象存储的写入、读取管理功能的封装；提供Http应用层接口，不能挂载为文件系统中的一个目录，需要由对象存储管理组件实现管理集成，并配合客户端实现对象存储的虚拟化整合；所述块数据及文件管理组件：用于支撑块存储设备、文件存储设备两种存储设备的文件读取和写入相关的所有功能；通过块数据及文件管理组件提供的块存储设备和文件存储设备的管理功能封装，配合以客户端组件，实现支撑块存储设备和文件存储设备存储，或类似存储设备的虚拟化；

将各业务系统与客户端连接，客户端与服务端连接，服务端与各存储资源连接，通过调用一中间件来实现异构网络存储的虚拟化整合及分级管理；所述中间件包括：分布式协调组件和分级存储策略；所述分布式协调组件，用于存储分布式集群下的配置；所述分级存储策略包括：策略计算规则、目标存储类型以及目标存储管理组件IP。

本发明具有如下优点：1.本发明不同于现有技术方案仅关注存储虚拟化或分级存储，本发明能够同时提供多种异构存储的虚拟化整合和高度灵活的分级策略，可一站式解决异构网络存储管理中面临的难题，避免了多种方案实施时存在的不兼容问题。

2.在存储虚拟化方面，不同于现有方案仅能支持特定存储技术的虚拟化，本发明首先针对现有主流的网络存储技术进行了全面兼容，并通过一致的接口对外提供存储使用服务，从而实现了存储虚拟化整合；更进一步的，本发明在架构设计层面确保了未来能方便扩展存储管理组件以支持新增的存储技术设备，所以实现了更完善的异构存储虚拟化整合方案。

3.在分级存储方面，避免了现有方案在分级策略上不够灵活以及不能在数据写入的同时就实时进行分级归集的问题，本发明提出了一种以客户端为主体、支持利用丰富的元数据信息计算分级信息的分级策略管理方式，能够实现数据的实时写入分级及高度灵活分级，从而能够覆盖更多类型的业务系统需求(如没有明显数据访问热点的业务系统的存储分级需求)，有利于异构网络存储设备资源的规划管理。

附图说明

图1为现有技术的网络存储技术原理框图。

图2为现有技术的异构存储整合及虚拟化的实现原理框图。

图3为本发明系统的原理框图。

图4为本发明系统实现异构网络存储的虚拟化整合及分级管理的原理框图。

具体实施方式

请参阅图3和图4所示，本发明同时包含了存储虚拟化与分级存储两个方面的特性，从而能够完整地解决网络异构存储管理及使用上的难题。通过存储虚拟化技术，能够将企业中已经部署的各种网络存储设备整合为同一个“存储资源池”，使得上层业务系统能够以一致的接口访问在各种不同的网络存储，避免针对不同的网络存储进行特定开发工作；通过分级存储技术，能够实现按策略地将不同级别的数据归集到不同级别的存储资源中。最终，上述两种方案的整合实施能够有效地提升异构存储管理的便利性、降低整体成本。

其次，针对现有的存储虚拟化技术方案普遍存在的难以实现各种主流异构存储兼容支持的问题，本发明提出的技术方案及系统实现，能够覆盖到企业中使用的主流网络存储技术，包括SAN存储技术、NAS存储技术以及对象存储技术，并能方便地扩展以支持新的存储技术，从而实现对异构存储的真正虚拟化整合。

第三，针对现有的分级存储技术方案普遍存在的分级策略不够灵活以及不能实时将数据写入到相应级别的存储设备的问题，本发明能够根据对元数据的组合判断，提供高度灵活的分级策略，并在业务系统将数据提交写入的同时进行策略匹配和分级判断，实时将数据写入到不同级别的存储中，从而利于存储资源的规划工作，也适用于没有明显数据访问热点的业务系统的数据分级存储。

一种实现异构网络存储的虚拟化整合及分级管理的系统，所述系统包括装有客户端组件的客户端和装有服务端组件的服务端，所述客户端组件部署在需要使用存储资源的各业务系统上，客户端组件是业务系统使用存储的入口，提供了所有与存储使用相关的接口，所述所有与存储使用相关的接口包括文件上传、文件写入、文件下载、文件读取、文件查询以及文件元数据管理；并配合服务端实现存储虚拟化使用及分级管理；所述服务端组件能部署在不同的服务器上，并支持水平线性扩展(所有服务端组件均可以部署在1到n台服务器上，用以满足整体性能的扩展需要)；服务端组件包括元数据管理组件、路径及权限管理组件、对象存储管理组件、块数据及文件管理组件；

所述元数据管理组件负责管理所有文件的元数据，实现元数据与文件的关联关系管理、元数据查询的业务；所述元数据，是文件的基本特征及业务上下文相关信息；所述路径及权限管理组件：由于业务系统对存储中的每次文件管理操作(如文件读取、写入)都涉及到文件路径的定位及权限校验，用于将文件的路径数据(如位于块存储或文件存储中的逻辑路径，或者在对象存储中的访问url)及权限数据从元数据管理组件中剥离出来，并采用内存数据库进行存储，确保文件读取、写入的性能；所述对象存储管理组件：用于支撑对象存储的管理功能，包括对象存储的写入、读取管理功能的封装；提供Http应用层接口，不能挂载为文件系统中的一个目录，需要由对象存储管理组件实现管理集成，并配合客户端实现对象存储的虚拟化整合；所述块数据及文件管理组件：用于支撑块存储设备(如SAN存储)、文件存储设备(如NAS存储)两种存储设备的文件读取和写入相关的所有功能；两种存储设备的共同点是可以基于操作系统(Linux、Windows等)的文件系统提供的“挂载”功能，为操作系统上的业务系统或组件所调用，故可以通过该组件提供的块存储设备和文件存储设备的管理功能封装，配合以客户端组件，即可实现SAN存储和NAS存储，或类似存储设备的虚拟化；

将各业务系统与客户端连接，客户端与服务端连接，服务端与各存储资源连接，通过调用一中间件来实现异构网络存储的虚拟化整合及分级管理；所述中间件包括：分布式协调组件和分级存储策略；所述分布式协调组件，用于存储分布式集群下的配置；所述分级存储策略包括：策略计算规则、目标存储类型以及目标存储管理组件IP。

整体系统可以满足业务系统使用异构存储过程中，对存储虚拟化和分级管理的需求，并保留了对存储资源的高性能使用。

其中，所述元数据包括：文件的文件名、文件大小、文件类型、文件所属业务系统、以及文件各种业务信息。

所述客户端和服务端之间的通信有文件流式传输和远程对象调用两种方式，其中文件流式传输采用的是TCP/IP的Socket通讯，远程对象调用采用Apache Thrift库，都是与编程语言无关的实现，不限于采用何种编程语言开发(可以采用Java、C++、Python等主流编程语言)，最大限度确保了整体方案对业务系统的通用性。

所述系统实现异构网络存储的虚拟化整合及分级管理，具体为：步骤1：业务系统调用所述虚拟化整合及分级管理的系统的客户端组件提供的接口(如：软件包的文件上传接口)，提交文件流及文件元数据；

步骤2：客户端连接所述分布式协调组件，读取预先设定的分级存储策略；分级存储策略由业务系统根据自身的数据存储需求进行定义——如可以将视频类型的数据设定为存储到“对象存储”设备中；

步骤3：客户端组件根据元数据信息获得文件的存储策略，并将存储策略与预先定义的分级存储策略匹配，明确文件流需要进行操作(写入到)的存储类型及存储级别；由于可以利用丰富的元数据辅助分级策略计算，并且策略是针对每一个个体文件的，可以支持几乎所有的分级规则。

步骤4：客户端读取匹配的存储策略中的目标存储类型和管理组件ip信息，将文件通过流式传输接口提交到对应的管理组件中，所述管理组件为对象存储管理组件或块存储及文件存储管理组件，以及未来新增存储类型后扩充的其它存储管理组件；

步骤5：管理组件将文件操作到对应的存储级别、存储类型的存储设备中，自此，完成文件流的操作；

步骤6：客户端将文件的实际路径及用于权限校验的校验串信息写入到路径及权限管理组件中，用以支撑文件读取或下载时的高速处理，确保存储管理性能。

存储资源中的对象存储的设备；如果分级存储策略的获取需要用到文件的元数据，则能从元数据管理组件或业务系统上传的元数据中获取相应的数据，用于辅助计算。存储资源包括：SAN存储、NAS存储、对象存储以及其他存储。

通过以上各步骤，首先，实现了基于策略的高度灵活的分级存储管理功能，业务系统面对的是一致的文件管理接口，而无需关心底层使用的具体存储技术，从而实现现有异构存储的虚拟化；其次，基于合理的客户端-服务端分层，增加新的存储设备仅需要扩展对应的存储管理组件即可，能够满足长期使用过程中可能引入的新存储技术，从而能够适应企业存储技术不断演进的需要；更进一步的，由于系统的设计采用将客户端集成到业务系统中，而服务端各组件均支持水平线性扩展，并且为支持文件快速读取等引入专门的路径及权限元数据组件，可以确保业务系统在使用存储时的高性能。

以上所述仅为本发明的较佳实施例，凡依本发明申请专利范围所做的均等变化与修饰，皆应属本发明的涵盖范围。

Claims (6)

1.一种实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：所述系统包括装有客户端组件的客户端和装有服务端组件的服务端，所述客户端组件部署在需要使用存储资源的各业务系统上，客户端组件是业务系统使用存储的入口，提供了所有与存储使用相关的接口，并配合服务端实现存储虚拟化使用及分级管理；所述服务端组件能部署在不同的服务器上，并支持水平线性扩展；服务端组件包括元数据管理组件、路径及权限管理组件、对象存储管理组件、块数据及文件管理组件；

所述元数据管理组件负责管理所有文件的元数据，实现元数据与文件的关联关系管理、元数据查询的业务；所述元数据，是文件的基本特征及业务上下文相关信息；所述路径及权限管理组件：用于将文件的路径数据及权限数据从元数据管理组件中剥离出来，并采用内存数据库进行存储，确保文件读取、写入的性能；所述对象存储管理组件：用于支撑对象存储的管理功能，包括对象存储的写入、读取管理功能的封装；提供Http应用层接口，不能挂载为文件系统中的一个目录，需要由对象存储管理组件实现管理集成，并配合客户端实现对象存储的虚拟化整合；所述块数据及文件管理组件：用于支撑块存储设备、文件存储设备两种存储设备的文件读取和写入相关的所有功能；通过块数据及文件管理组件提供的封装块存储设备和文件存储设备的管理功能，配合以客户端组件，实现支撑块存储设备和文件存储设备存储，或类似存储设备的虚拟化；

将各业务系统与客户端连接，客户端与服务端连接，服务端与各存储资源连接，通过调用一中间件来实现异构网络存储的虚拟化整合及分级管理；所述中间件包括：分布式协调组件和分级存储策略；所述分布式协调组件，用于存储分布式集群下的配置；所述分级存储策略包括：策略计算规则、目标存储类型以及目标存储管理组件IP。

2.根据权利要求1所述的实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：所述所有与存储使用相关的接口包括文件上传接口、文件写入接口、文件下载接口、文件读取接口、文件查询接口以及文件元数据管理接口。

3.根据权利要求1所述的实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：所述元数据包括：文件的文件名、文件大小、文件类型、文件所属业务系统、以及文件各种业务信息。

4.根据权利要求1所述的实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：所述客户端和服务端之间的通信有文件流式传输和远程对象调用两种方式，其中文件流式传输采用的是TCP/IP的Socket通讯，远程对象调用采用Apache Thrift库，都是与编程语言无关的实现，不限于采用何种编程语言开发。

5.根据权利要求1所述的实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：所述系统实现异构网络存储的虚拟化整合及分级管理，具体为：步骤1：业务系统调用所述虚拟化整合及分级管理的系统的客户端组件提供的接口，提交文件流及文件元数据；

步骤2：客户端连接所述分布式协调组件，读取预先设定的分级存储策略；分级存储策略由业务系统根据自身的数据存储需求进行定义；

步骤3：客户端组件根据元数据信息获得文件的存储策略，并将存储策略与预先定义的分级存储策略匹配，明确文件流需要进行操作的存储类型及存储级别；

步骤4：客户端读取匹配的存储策略中的目标存储类型和管理组件ip信息，将文件通过流式传输接口提交到对应的管理组件中，所述管理组件为对象存储管理组件或块存储及文件存储管理组件；

步骤5：管理组件将文件操作到对应的存储级别、存储类型的存储设备中，自此，完成文件流的操作；

步骤6：客户端将文件的实际路径及用于权限校验的校验串信息写入到路径及权限管理组件中，用以支撑文件读取或下载时的高速处理，确保存储管理性能。

6.根据权利要求1所述的实现异构网络存储的虚拟化整合及分级管理的系统，其特征在于：如果分级存储策略的获取需要用到文件的元数据，则存储资源中的对象存储的设备能从元数据管理组件或业务系统上传的元数据中获取相应的数据，用于辅助计算。