CN104731517A - 一种存储池容量分配方法和装置 - Google Patents

Abstract

本发明公开了一种存储池容量分配方法和装置，其中，该方法包括：创建磁盘组的存储池，将存储池封装成虚拟卷；对业务主机向磁盘组的业务数据访问进行监控，判定业务数据是否存放在最佳存储层上；如果业务数据未存放在最佳存储层上，对存储池进行动态分层处理。本发明的存储池容量分配方法和装置，能够以最小的空间提供最高的可用容量，并能够通过自动进行数据放置提高系统性能并降低成本。所有存储资源统一管理分配，可实现性能最大化、单位存储容量能耗最小化，以及更加快速、简便的存储管理。

Description

一种存储池容量分配方法和装置

技术领域

本发明涉及通信领域中存储池技术领域，具体地，涉及存储池容量分配方法和装置。

背景技术

先介绍一下传统的磁盘组系统到业务主机的关系，如图1所示，在一般情况下，存储规划师会按照用户对存储空间的需求，将磁盘组以逻辑单元号（Logital Unit Number，以下简称LUN）为基本单位，划分给用户足够多的LUN映射在主机上。此时，我们假设服务器A能够得到的读写性能是基准性能，其值为100%。

当用户有多个业务系统的时候，按照传统的规划方式，存储结构将变为图2的结构。我们可以看到图2所示的情况也是困扰大部分大型企业级用户的问题：即对于业务主机，在同一磁盘组系统完成存储空间分配后，服务器A和B同时发起IO请求的时候，磁盘组1会成为热点磁盘组。此时，磁盘组系统能为服务器A和B提供的读写性能会下降至基准性能的50%，甚至更少。

对于存储系统管理员来说，有一项非常繁重的工作是数据摆放，根据数据库的IO特性，人工将数据分到不同的磁盘上。即便如此，数据库还有可能会出现热点数据。目前，存储池容量分配的一般经验是为应用预分配1-2年的存储容量，而实际的容量利用率往往不足50%。

现有的存储池容量分配方法和业务主机卷管理软件都要求存储系统的存储规划师详细分析业务类型，明确业务主机对IO量的需求。以尽量避免多个大型IO量的应用系统（即业务主机）被规划在同一磁盘组系统内，导致该磁盘组成为热点，甚至存储资源匮乏。因此，在规划过程中，以下情况是一直存在的：

存储规划师必需过度分配存储容量来保证底层的磁盘组有足够的存储处理器资源来消除在业务高峰期性能不足导致应用积压等风险，与之对应的是存储规划师还需同时精确计算业务周期内数据增长量以避免存储空间被过快分配而产生的存储资源紧缺的风险。

由图2所示的情况可以看出困扰大部分大型企业级用户的问题：即对于业务主机，在同一磁盘组系统完成存储空间分配后，服务器A和B同时发起IO请求的时候，磁盘组1会成为热点磁盘组。此时，磁盘组系统能为服务器A和B提供的读写性能会下降至基准性能的50%，甚至更少。而造成这种困扰的原因主要在于用户和存储规划师不得不在每一次划分存储空间之前就考虑到业务的数据读写特性，并尽量避免大事务或者大IO的业务主机的LUN是由同一磁盘组分配来的。

发明内容

本发明是为了克服现有技术中存储池容量分配效率不高的缺陷，根据本发明的一个方面，提出一种存储池容量分配方法。

根据本发明实施例的存储池容量分配方法，包括：

创建磁盘组的存储池，将存储池封装成虚拟卷；

对业务主机向磁盘组的业务数据访问进行监控，判定业务数据是否存放在最佳存储层上；

如果业务数据未存放在最佳存储层上，对存储池进行动态分层处理。

本发明是为了克服现有技术中存储池容量分配效率不高的缺陷，根据本发明的另一个方面，提出一种存储池容量分配装置。

根据本发明实施例的存储池容量分配装置，包括：

创建封装模块，用于创建磁盘组的存储池，将存储池封装成虚拟卷；

监控判定模块，用于对业务主机向磁盘组的业务数据访问进行监控，判定业务数据是否存放在最佳存储层上；

分层处理模块，用于如果业务数据未存放在所述最佳存储层上，对存储池进行动态分层处理。

本发明的存储池容量分配方法和装置，能够以最小的空间提供最高的可用容量，并能够通过自动进行数据放置提高系统性能并降低成本。所有存储资源统一管理分配，可实现性能最大化、单位存储容量能耗最小化，以及更加快速、简便的存储管理。

本发明的其它特征和优点将在随后的说明书中阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明而了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

下面通过附图和实施例，对本发明的技术方案做进一步的详细描述。

附图说明

附图用来提供对本发明的进一步理解，并且构成说明书的一部分，与本发明的实施例一起用于解释本发明，并不构成对本发明的限制。在附图中：

图1为现有技术中存储-主机的结构示意图；

图2为现有技术中多任务情况下存储-主机的结构示意图；

图3为本发明创建磁盘组存储池的结构示意图；

图4为本发明多任务情况下存储-主机的改进结构示意图；

图5为本发明统一存储池的结构示意图；

图6为本发明动态分层步骤的流程示意图；

图7为本发明决定最佳存储层的数据分析示意图；

图8为本发明零存储层回收示意图；

图9为本发明存储池容量分配装置的结构示意图。

具体实施方式

下面结合附图，对本发明的具体实施方式进行详细描述，但应当理解本发明的保护范围并不受具体实施方式的限制。

本发明专门针对现有存储系统的虚拟化特点和存储池容量分配方法，采用一种新的存储池容量分配方法和装置，将磁盘组进行多次封装，该装置既包含了多个磁盘组在总容量上的特性，也具备以下虚拟化特性：

1、能将最终业务系统发起的IO请求更加均衡的分布在多个磁盘组内，达到性能优化的目的。

2、封装后的存储池在存储物理底层源自多个磁盘组，不同的磁盘组能为存储池争取更多的存储系统处理资源，能间接提高IO性能。

3、统一存储池的动态容量供应使得用户可以将存储空间分配给应用系统，而这些存储空间在被使用前是没有真正的物理映射的。这种“按需”分配的方法意味着可分配的存储的空间可以超过实际的存储物理空间。当用户增加物理存储容量时，也不会打断应用系统的正常运行。同时具有了以下优点：

1）减少了初始安装成本，因为用户开始只需要购买必要的物理磁盘容量；

2）减少了因为改变存储系统和主机系统配置的各项成本和时间。

本发明通过重新组织现有的磁盘组，并保持磁盘组系统原有的LUN管理方式，当重新组织后的新的磁盘组集合仍以LUN为单位划分给业务主机，业务主机发起IO请求时，IO请求会持续的在底层各磁盘组上并行进行。当多台业务主机发起IO请求的时候，相比现有的磁盘组系统，大量的IO会均匀的分散在多个磁盘组上，而非集中在同一磁盘组导致该磁盘组繁忙，以此提高存储系统IO性能。

本发明的存储池容量分配方法和装置让业务主机在每次进行IO操作的时候，IO会较之现有存储结构的LUN分配方法更加分散的将读写操作并发的分布在更多的磁盘组内。

在封装开始，先使用存储系统的管理软件创建一个磁盘组的存储池，存储池用于容纳已经创建好的磁盘组。磁盘组的磁盘阵列（Redundant Arrays ofIndependent Disks，以下简称RAID）类型可以是存储系统支持的任意类型，比如：RAID1+0、RAID5、RAID6，等等，如图3所示。

将磁盘组放入存储池之后，可以根据存储系统的管理软件设置存储池可分配存储容量的上限，这个上限可以根据存储的特性将值设置得远大于存储池的磁盘组的实际容量。受益于该特性，图2的存储结构示意图就进化成了如图4所示。

然后，开始进行封装步骤，将整个存储池封装为“虚拟卷”。“虚拟卷”定义为存储层组成的LUN，LUN为资源分配的单位。

从另一种角度来看，虚拟卷是指通过FC端口映射给主机的LUN。与现有的LUN不同，虚拟卷存储空间在被使用前是没有真正的物理映射的。只有当主机写I/O发生时，存储系统才会分配最小单位的存储层给该虚拟卷。本发明将提供实时的虚拟卷容量利用率统计，从而解决了存储容量利用率手工统计滞后、不准确等问题。为准确规划存储容量提供可靠的依据，有助于存储系统整体容量利用率的提升。

虚拟卷使用前必须关联到一个存储池。存储池为虚拟卷提供实际的物理空间，以最小分配单元即存储层为基本分配单位，一个存储系统可以包括多个存储池。存储池由虚拟卷构成，一个虚拟卷的卷数最大可达1024。存储池的大小可调并且可动态增长，如图5所示。

每个存储池及其上虚拟卷的元数据管理通过共享内存中的动态地址表进行。动态地址表负责主机逻辑地址（LBA）和存储系统物理地址的映射。为了提高可靠性，动态地址表被备份到存储池的第一个虚拟卷上。

存储池随机分配最小分配单元的存储层给虚拟卷，以确保主机I/O平均分布在存储池的所有虚拟卷上。当虚拟卷删除、“Reclaim Zero Pages”、存储池扩充及收缩、或容灾引发存储池存储层分布不均时，存储系统会在不中断主机I/O的情况下自动地触发后台进程重新平衡存储层在存储池各虚拟卷组上的分布，从而始终确保整个存储池的I/O负载均衡。

在新的存储池中将按如下步骤建立封装的“虚拟卷”。封装步骤包括：

步骤102：对存储池进行条带化处理，使用RAID技术条带化所有磁盘组。

步骤104：虚拟化所有磁盘组，逻辑上将物理空间转化为逻辑空间，该条带化后的逻辑空间可调整大小，可读写。

步骤106：按照统一的大小将条带化后的磁盘组进行切片处理，每一个切片为一个存储层。每一个封装完成的存储层为存储池分配资源的最小单位。每一个存储层带有一个属性标记，此标记将标示此存储层的物理属性，如所在RAID组、磁盘转速、物理性能、是否写保护等。每一个RAID组，由多个逻辑上的存储层组成。

步骤108：存储池完成虚拟卷的封装，按照正常流程接受业务主机对业务数据的I/O访问。

步骤110，对业务主机向业务数据的I/O访问量进行监控，对磁盘访问次数计数且将每一存储层平均每小时的I/O访问量录入表中。存储池将根据分层的定义决定每一个存储层能够达到的最佳性能，再根据存储层（page）在上一个监控周期内的I/O访问频率，判定目前的业务数据是否存放在最佳存储层上。

经过一段时间运行，如果发现业务数据已经存放在最佳存储层上，则继续按照正常流程接受业务主机对业务数据的I/O访问，即继续上述步骤108的流程；否则，如果发现业务数据未存放在最佳存储层上，例如出现存储池中的磁盘组出现运行效率不高的问题：如部分磁盘组成为热点，部分磁盘组的存储容量利用率较低等。此时，开始进行动态分层步骤，如图6所示。动态分层步骤包括：

步骤202，分配新存储层：从可用空间的最高层分配新存储层。默认情况下，SAS(Serial Attached SCSI，即串行连接SCSI）和SATA（Serial AdvancedTechnology Attachment）层为新存储层分配预留一定的空间。存储池随机分配存储层给上述虚拟卷，以确保主机I/O平均分布在存储池的所有虚拟卷上。当虚拟卷删除、“零存储层回收”、存储池扩充及收缩、或容灾引发存储池内的存储层分布不均时，存储系统会在不中断主机I/O的情况下自动地触发后台进程重新平衡存储层在存储池各虚拟卷上的分布，从而始终确保整个存储池的I/O负载均衡。

步骤204，继续对业务主机向业务数据的I/O访问量进行监控，对业务主机向磁盘组的访问次数计数且将每一存储层平均每小时接受的I/O访问量录入表中。存储池将根据分层的定义决定每一个存储层能够达到的最佳性能，再根据存储层（page）在上一个监控周期内的I/O访问频率，决定其存放的最佳存储层。而存储层在实际物理层次上就是实际业务访问的数据块。因此分层及移动数据块的最佳参考依据来自于如下I/O监控信息：

只统计存储层正常状态下的I/O，不包括：

·Page allocation，

·page deletion，

·paircreate,

·migrate,

·add/delete pool-vol,

·ZPR，

忽略“管理I/O”

·page relocation

·rebalance

·failure processing(correction copy etc.)

步骤206，决定最佳存储层：分析数据并评估存储层重新定位计划。根据图7所示的监控信息，假设各业务在第一个周期对于数据块的I/O访问量是105，第二个周期的I/O访问量是81，以此类推，本发明将在多个周期内对I/O访问量进行加权平均，此加权平均值将作为此业务数据块的I/O访问量的数据依据，再将此数据依据匹配已定义的存储层，将得到业务数据的最佳存储层。

步骤208，重新定位：从最小编号的虚拟卷开始，一次一个虚拟卷执行重新定位（在一些命令中称作重新分配）。如下所示，下一重新定位循环从上一个完成的虚拟卷继续进行：

步骤2082：如果目标层没有足够空间来重新定位所有请求存储层，则不会重新定位这些存储层。

步骤2084：当出现以下一种情况时，重新定位完成：

计划或能够重新定位的所有存储层已重新定位；

达到自动周期；

已修改存储池配置或参数；

用户取消了重新定位。

步骤210，重复上述步骤208的步骤，完成重新定位可能需要循环数次。

完成上述动态分层的步骤之后，分配存储池内的存储内容即可按照现有的存储LUN分配方式分配给各业务主机，存储池容量分配的步骤结束。

以一次普通的IO请求为例，按照本发明的存储池容量分配方法完成封装、动态分层之后的系统，来自多个业务主机的IO请求将被平均的分摊在多个磁盘组系统中，此时存储系统能够为主机提供的IO性能为：

其中N为业务主机数量，M为磁盘组数量。

在图4所示场景中，若存储池内磁盘组数量大于2，存储系统就能为连接存储池的两台业务主机提供超过基准数的IO性能。

与现有LUN管理方式不同的是，按本发明存储池容量分配方法创建存储池分配存储空间之后，业务主机获得的2TB存储空间来自于多个磁盘组。此时业务主机发起IO操作，由于在存储侧IO请求会横跨多个磁盘组进行，因此在存储侧将IO压力相比现有方法得到了更有效的分散。同时，由于多个磁盘组在各自存储后端板卡可以争用到的处理器资源更多，通过存储系统本身的负载均衡功能平衡处理器、缓存等硬件资源，也能间接的提高IO处理能力。

另外，虚拟卷与存储池的关联被删除后，分配给它的存储层被存储池回收做再分配使用。本发明还提供了“Reclaim Zero Pages”功能，后台自动地回收因现有虚拟卷到虚拟卷迁移或ASRU等工具触发的“全0存储层”，如图8所示。

定期的0存储层回收有助于应用系统分配空间的重复利用，是提高存储容量利用率的有效手段之一。

通常，当读I/O的LBA地址在DMT中没有任何关联时，存储池将映射一个空存储层“NULL Page”给此LBA，并返回数据块0给应用。对于写操作，如果LBA地址映射到未分配的物理空间，存储池将分配一个最小分配单元大小的存储层到DMT。

当存储池满时，磁盘阵列因无可用的存储池存储层分配将返回“WriteProtect”写错误给操作系统。当读操作的LBA地址从未关联任何存储池存储层（包括NULL Page）时，磁盘阵列将返回“Illegal Request”读错误给操作系统。

一般来说，虚拟卷的可用性由其跨越的PG（磁盘卷组）组数量决定，任一PG组出现故障，都会影响虚拟卷的数据可用性。传统的LUN规划，本发明建议一个PG组跑1个应用；精简配置后，则可以规划多个应用。对于精简配置，一旦PG组发生故障一方面影响的应用会更多；另一方面PG故障需要恢复整个存储池，随着容量增加，数据恢复的时间会更长。

虚拟卷保护支持RAID1、RAID5和RAID6。针对RAID组内多个驱动器故障（这种情况很少见），相对于RAID5，RAID1或RAID6资源池可以提供更好保护，如下表所示。

RAID级别	容量效率	读性能	顺序写性能	随机写	可靠性
						RAID5（7D+1P）	100%	100%	100%	100%	避免单磁盘故障
RAID6（6D+2P）	85.7%	100%	85.7%	66.7%	避免双磁盘故障

可见，现有技术中，对于存储系统管理员来说，有一项非常繁重的工作是数据摆放。根据数据库的IO特性，人工将数据分到不同的磁盘上，即便如此，数据库还有可能会出现热点数据。

而本发明将现有的LUN虚拟化到一个存储池，存储池的容量分配工作将很大程度的简化。磁盘系统自动将虚拟卷在所有磁盘之间进行条带化，IO负载被自动分配到所有的LUN，存储系统管理员不用考虑数据在磁盘上如何分布，从根本上解决热点数据的问题。

现有技术中，存储池容量分配的一般经验是为应用预分配1-2年的存储容量，而实际的容量利用率往往不足50%。而本发明是一种虚拟空间分配技术，预分配的存储空间在被使用前是没有真正的物理映射的。精简配置将改变以往费时的手工容量利用率统计模式，解决存储容量利用率统计滞后、不准确等问题，为准确分配存储容量提供可靠的依据，从而有助于提高磁盘系统的存储容量利用率。

本发明主要针对存储系统进行二次封装，统一管理所有存储资源，防止热点磁盘组，均衡IO性能。对于现有存储系统，通常是对物理磁盘进行分组管理，依照总线和位置不同划分成若干个RAID组（RAID1，RAID5）。

磁盘组中虚拟化出若干LUN用于业务数据承载，当几个大业务量业务使用同一个磁盘组时就会出现热点磁盘组，从而导致磁盘组涉及的所有业务系统性能下降。

本发明主要是解决热点磁盘组对业务性能的影响，使每一个LUN存储空间跨越多个磁盘组，均匀的分布业务IO分布至多个物理磁盘组，从而实现均衡整个阵列IO分布，防止热点磁盘组的产生，并且还能够避免在业务主机层面进行二次虚拟卷管理给业务主机带来的性能影响。

本发明采用一种存储池容量分配方法和装置再次封装物理磁盘组进入一个大的组，装置内包含多个磁盘组从而突破物理磁盘组中磁盘数量限制（物理磁盘组性能并非磁盘数量越多性能越好，为均衡性能业界基本上限制4-16个磁盘为一个硬RAID组，物理磁盘组中磁盘数量限制业务系统使用LUN跨越磁盘情况）。

本发明在存储池容量分配装置的基础上划分应用于业务数据的LUN，经过IO均衡性算法，业务主机识别的一个磁盘可以实现跨越多个物理磁盘组达到最大化的阵列数据内分布，从而实现所有业务主机均等的访问阵列，达到存储性能最大化，业务的及时响应，防止热点磁盘组导致整个存储性能下降。

本发明的存储池容量分配方法，能够以最小的空间提供最高的可用容量，并能够通过自动进行数据放置提高系统性能并降低成本。所有存储资源统一管理分配，可实现性能最大化、单位存储容量能耗最小化，以及更加快速、简便的存储管理。

如图9所示，本发明公开了一种存储池容量分配装置，包括：

创建封装模块100，用于创建磁盘组的存储池，将存储池封装成虚拟卷；

监控判定模块200，用于对业务主机向磁盘组的业务数据访问进行监控，判定业务数据是否存放在最佳存储层上；

分层处理模块300，用于如果业务数据未存放在最佳存储层上，对存储池进行动态分层处理。

其中，创建封装模块100包括：

条带转换子模块110，用于对磁盘组进行条带化处理，通过虚拟化磁盘组将磁盘组的物理空间转换为逻辑空间；

切片生成子模块120，用于按照统一大小对条带化的磁盘组进行切片处理，生成存储层。

其中，分层处理模块300包括：

重新分配子模块310，用于将与业务数据大小相对应的存储层重新分配在所述虚拟卷上。

其中，监控判定模块200包括：

访问获得子模块210，用于获得业务主机向磁盘组的访问次数和每一存储层平均每小时接受的I/O访问量。

其中，分层处理模块300包括：

访问获取子模块320，用于获取在每个周期对数据块的I/O访问量；

加权平均子模块330，用于对多个周期内的所述I/O访问量进行加权平均；

匹配获得子模块340，用于根据加权平均值匹配已定义的存储层，获得最佳存储层。

本发明的存储池容量分配装置，能够以最小的空间提供最高的可用容量，并能够通过自动进行数据放置提高系统性能并降低成本。所有存储资源统一管理分配，可实现性能最大化、单位存储容量能耗最小化，以及更加快速、简便的存储管理。

本发明能有多种不同形式的具体实施方式，上面以图3-图9为例结合附图对本发明的技术方案作举例说明，这并不意味着本发明所应用的具体实例只能局限在特定的流程或实施例结构中，本领域的普通技术人员应当了解，上文所提供的具体实施方案只是多种优选用法中的一些示例，任何体现本发明权利要求的实施方式均应在本发明技术方案所要求保护的范围之内。

最后应说明的是：以上所述仅为本发明的优选实施例而已，并不用于限制本发明，尽管参照前述实施例对本发明进行了详细的说明，对于本领域的技术人员来说，其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。

Claims (10)

1.一种存储池容量分配方法，其特征在于，包括：

创建磁盘组的存储池，将所述存储池封装成虚拟卷；

对业务主机向所述磁盘组的业务数据访问进行监控，判定所述业务数据是否存放在最佳存储层上；

如果所述业务数据未存放在所述最佳存储层上，对所述存储池进行动态分层处理。

2.根据权利要求1所述的方法，其特征在于，所述将存储池封装成虚拟卷包括：

对所述磁盘组进行条带化处理，通过虚拟化所述磁盘组将所述磁盘组的物理空间转换为逻辑空间；

按照统一大小对条带化的磁盘组进行切片处理，生成存储层。

3.根据权利要求2所述的方法，其特征在于，所述对所述存储池进行动态分层处理包括：

将与所述业务数据大小相对应的存储层重新分配在所述虚拟卷上。

4.根据权利要求3所述的方法，其特征在于，所述对业务主机向所述磁盘组的业务数据访问进行监控包括：

获得业务主机向磁盘组的访问次数和每一存储层平均每小时接受的I/O访问量。

5.根据权利要求4所述的方法，其特征在于，所述判定所述业务数据是否存放在最佳存储层上包括：

获取在每个周期对数据块的I/O访问量，对多个周期内的所述I/O访问量进行加权平均，根据加权平均值匹配已定义的存储层，获得最佳存储层。

6.一种存储池容量分配装置，其特征在于，包括：

创建封装模块，用于创建磁盘组的存储池，将所述存储池封装成虚拟卷；

监控判定模块，用于对业务主机向所述磁盘组的业务数据访问进行监控，判定所述业务数据是否存放在最佳存储层上；

分层处理模块，用于如果所述业务数据未存放在所述最佳存储层上，对所述存储池进行动态分层处理。

7.根据权利要求6所述的装置，其特征在于，所述创建封装模块包括：

条带转换子模块，用于对所述磁盘组进行条带化处理，通过虚拟化所述磁盘组将所述磁盘组的物理空间转换为逻辑空间；

切片生成子模块，用于按照统一大小对条带化的磁盘组进行切片处理，生成存储层。

8.根据权利要求7所述的装置，其特征在于，所述分层处理模块包括：

重新分配子模块，用于将与所述业务数据大小相对应的存储层重新分配在所述虚拟卷上。

9.根据权利要求8所述的装置，其特征在于，所述监控判定模块包括：

访问获得子模块，用于获得业务主机向磁盘组的访问次数和每一存储层平均每小时接受的I/O访问量。

10.根据权利要求9所述的装置，其特征在于，所述分层处理模块包括：

访问获取子模块，用于获取在每个周期对数据块的I/O访问量；

加权平均子模块，用于对多个周期内的所述I/O访问量进行加权平均；

匹配获得子模块，用于根据加权平均值匹配已定义的存储层，获得最佳存储层。