CN109783467A - 一种分布式文件系统的嵌套目录文件个数配额设置方法 - Google Patents
一种分布式文件系统的嵌套目录文件个数配额设置方法 Download PDFInfo
- Publication number
- CN109783467A CN109783467A CN201910029002.6A CN201910029002A CN109783467A CN 109783467 A CN109783467 A CN 109783467A CN 201910029002 A CN201910029002 A CN 201910029002A CN 109783467 A CN109783467 A CN 109783467A
- Authority
- CN
- China
- Prior art keywords
- quota
- file number
- setting
- subdirectory
- file
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明提供一种分布式文件系统的嵌套目录文件个数配额设置方法,包括如下步骤:S1:限制某个目录写入文件的数量;客户端向mds预申请文件个数并将文件个数阈值上报给mds更新;获取客户端实际文件个数并在设定时间间隔上报mds更新;这里的时间间隔可以设成10s;当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值;检测mds更新新的阈值是否成功,若否,报错文件个数超过阈值,无法写入文件;S2:设置配额的父目录与配额子目录的关联关系;S3:根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置。
Description
技术领域
本发明涉及分布式存储系统技术领域,具体涉及一种分布式文件系统的嵌套目录文件个数配额设置方法。
背景技术
计算机通过文件系统管理、存储数据,而信息爆炸时代中人们可以获取的数据成指数倍的增长,单纯通过增加硬盘个数来扩展计算机文件系统的存储容量的方式,在容量大小、容量增长速度、数据备份、数据安全等方面的表现都差强人意。
分布式文件系统可以有效解决数据的存储和管理难题:将固定于某个地点的某个文件系统,扩展到任意多个地点/多个文件系统,众多的节点组成一个文件系统网络。每个节点可以分布在不同的地点,通过网络进行节点间的通信和数据传输。人们在使用分布式文件系统时,无需关心数据是存储在哪个节点上、或者是从哪个节点从获取的,只需要像使用本地文件系统一样管理和存储文件系统中的数据。
随着分布式文件存储系统的快速发展,存储容量已达到PB级别,存储数据越来越多,适用范围越来越广泛,但是在嵌套目录下文件个数如何配额设置值得深究。
发明内容
针对分布式文件存储系统的嵌套目录下文件个数如何配额的问题,本发明提供一种分布式文件系统的嵌套目录文件个数配额设置方法。
本发明的技术方案是:
一种分布式文件系统的嵌套目录文件个数配额设置方法,包括如下步骤:
限制某个目录写入文件的数量;
设置配额的父目录与配额子目录的关联关系;
根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置。
进一步的,步骤限制某个目录写入文件的数量,包括:
客户端向mds预申请文件个数并将文件个数阈值上报给mds更新;
获取客户端实际文件个数并在设定时间间隔上报mds更新。
进一步的,步骤限制某个目录写入文件的数量,还包括:
当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值。
进一步的,当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值,还包括;
检测mds更新新的阈值是否成功,若否,报错文件个数超过阈值,无法写入文件。
进一步的,步骤设置配额的父目录与配额子目录的关联关系,包括:设置配额的父目录与设置配额子目录没有关联,或
设置配额的父目录与设置配额子目录统计相互关联。
进一步的,步骤根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置,包括:
若,设置配额的父目录与设置配额子目录没有关联;
设置配额的父目录与设置配额子目录统计和超额判断没有关联;
目录配额嵌套设置时,子目录取消配额设置,其已用数据会统计到父目录中。
进一步的,步骤目录配额嵌套设置时,子目录取消配额设置,其已用数据会统计到父目录中,还包括:
若设置父目录文件个数配额同时设置子目录文件个数配额,则父目录和子目录的目录文件个数配额分别生效;
当取消子目录文件个数配额设置,且其已用数据超过父目录配额设置上限时,则父目录配额设置将等于上限值,无法写入数据。
配额目录不将自身统计进去,父目录会统计文件个数包括设置有配额的子目录本身。
当第一子目录设置了文件个数配额,其他子目录未设置文件个数配额,则父目录实际文件个数为其他未设置文件个数配额的子目录下文件个数的和+1;
当第一子目录设置了文件个数配额又取消,且第一子目录下的实际文件个数超过了父目录文件个数阈值,将报错无法写入数据。
又或者进一步的,步骤根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置,还包括:
若,设置配额的父目录与设置配额子目录统计相互关联,
设置子目录配额文件个数不超过父目录配额文件个数;
目录配额嵌套设置时,当父目录文件个数配额写满,或
父目录至根目录中任一目录文件个数配额写满时,子目录无法写入数据。
客户端限制第一子目录设置文件个数阈值小于父目录设置的文件个数阈值,在设置第一子目录文件个数阈值时先判断下父目录的文件个数阈值,当其他子目录写满父目录文件个数阈值,则第一子目录无法在写入数据。
父目录实际文件个数为第一子目录下文件个数+其他子目录下文件个数。
从以上技术方案可以看出,本发明具有以下优点:配额的父目录与设置配额子目录统计相互关联时,客户端限制第一子目录设置文件个数阈值小于父目录设置的文件个数阈值,在设置第一子目录文件个数阈值时先判断下父目录的文件个数阈值,当其他子目录写满父目录文件个数阈值,则第一子目录无法在写入数据。
配额的父目录与设置配额子目录没有关联时,当第一子目录设置了文件个数配额又取消,且第一子目录下的实际文件个数超过了父目录文件个数阈值,将报错无法写入数据,本发明的设计方法适用于多种分布式文件存储场景,方便客户操作,可用性强,会更效率的满足客户需求,可以满足产品的多元化。
此外,本发明设计原理可靠,结构简单,具有非常广泛的应用前景。
由此可见,本发明与现有技术相比,具有突出的实质性特点和显著地进步,其实施的有益效果也是显而易见的。
附图说明
图1为一种分布式文件系统的嵌套目录文件个数配额设置方法流程示意图。
图2为嵌套目录结构示意图。
具体实施方式
下面结合附图并通过具体实施例对本发明进行详细阐述,以下实施例是对本发明的解释,而本发明并不局限于以下实施方式。
实施例一
如图1所示,本发明实施例提供一种分布式文件系统的嵌套目录文件个数配额设置方法,包括如下步骤:
S1:限制某个目录写入文件的数量;
本步骤中,客户端向mds预申请文件个数并将文件个数阈值上报给mds更新;
获取客户端实际文件个数并在设定时间间隔上报mds更新;这里的时间间隔可以设成10s;
当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值;
检测mds更新新的阈值是否成功,若否,报错文件个数超过阈值,无法写入文件;
S2:设置配额的父目录与配额子目录的关联关系;
本实施例中,设置配额的父目录与设置配额子目录没有关联;
S3:根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置;
在这里的关联关系根据步骤2中所述为设置配额的父目录与设置配额子目录没有关联;
也就是,设置配额的父目录与设置配额子目录统计和超额判断没有关联;
在目录配额嵌套设置时,子目录取消配额设置,其已用数据会统计到父目录中。
在这里需要说明的是,若设置父目录文件个数配额同时设置子目录文件个数配额,则父目录和子目录的目录文件个数配额分别生效;
当取消子目录文件个数配额设置,且其已用数据超过父目录配额设置上限时,则父目录配额设置将等于上限值,无法写入数据。
根据上述,需要注意的是,配额目录不将自身统计进去,父目录会统计文件个数包括设置有配额的子目录本身。
如图2所述,目录B、目录C和目录D分别为目录A的子目录,客户端目录A实际文件个数统计:
当子目录B设置了文件个数配额,C和D未设置文件个数配额,则目录A实际文件个数为目录C下文件个数+目录D下文件个数+1;
当子目录B设置了文件个数配额又取消,且子目录B下的实际文件个数超过了目录A文件个数阈值,将报错无法写入数据。
实施例二
本发明实施例提供一种分布式文件系统的嵌套目录文件个数配额设置方法,包括如下步骤:
S1:限制某个目录写入文件的数量;
本步骤中,客户端向mds预申请文件个数并将文件个数阈值上报给mds更新;
获取客户端实际文件个数并在设定时间间隔上报mds更新;这里的时间间隔可以设成10s;
当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值;
检测mds更新新的阈值是否成功,若否,报错文件个数超过阈值,无法写入文件;
S2:设置配额的父目录与配额子目录的关联关系;
本实施例中,设置配额的父目录与设置配额子目录没有关联;
S3:根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置;
在这里的关联关系根据步骤2中所述为设置配额的父目录与设置配额子目录统计相互关联;
设置子目录配额文件个数不超过父目录配额文件个数;
目录配额嵌套设置时,当父目录文件个数配额写满,或
父目录至根目录中任一目录文件个数配额写满时,子目录无法写入数据。
如图2所述,目录B、目录C和目录D分别为目录A的子目录,客户端目录A实际文件个数统计:
客户端限制子目录B设置文件个数阈值小于目录A设置的文件个数阈值,在设置子目录B文件个数阈值时先判断下目录A的文件个数阈值;
当子目录C或者D写满目录A设置的文件个数阈值时,则子目录B无法在写入数据。
客户端目录A实际文件个数统计:目录A实际文件个数为目录B下文件个数+目录C下文件个数+目录D下文件个数。
本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (8)
1.一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,包括如下步骤:
限制某个目录写入文件的数量;
设置配额的父目录与配额子目录的关联关系;
根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置。
2.根据权利要求1所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤限制某个目录写入文件的数量,包括:
客户端向mds预申请文件个数并将文件个数阈值上报给mds更新;
获取客户端实际文件个数并在设定时间间隔上报mds更新。
3.根据权利要求2所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤限制某个目录写入文件的数量,还包括:
当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值。
4.根据权利要求3所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,当写入文件时,mds判断文件个数是否超过设定的预申请文件个数阈值,若是,mds更新新的阈值,还包括;
检测mds更新新的阈值是否成功,若否,报错文件个数超过阈值,无法写入文件。
5.根据权利要求4所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤设置配额的父目录与配额子目录的关联关系,包括:设置配额的父目录与设置配额子目录没有关联,或
设置配额的父目录与设置配额子目录统计相互关联。
6.根据权利要求5所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置,包括:
若,设置配额的父目录与设置配额子目录没有关联;
设置配额的父目录与设置配额子目录统计和超额判断没有关联;
目录配额嵌套设置时,子目录取消配额设置,其已用数据会统计到父目录中。
7.根据权利要求6所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤目录配额嵌套设置时,子目录取消配额设置,其已用数据会统计到父目录中,还包括:
若设置父目录文件个数配额同时设置子目录文件个数配额,则父目录和子目录的目录文件个数配额分别生效;
当取消子目录文件个数配额设置,且其已用数据超过父目录配额设置上限时,则父目录配额设置将等于上限值,无法写入数据。
8.根据权利要求5所述的一种分布式文件系统的嵌套目录文件个数配额设置方法,其特征在于,步骤根据设置的配额的父目录与配额子目录的关联关系进行目录文件个数配额设置,还包括:
若,设置配额的父目录与设置配额子目录统计相互关联,
设置子目录配额文件个数不超过父目录配额文件个数;
目录配额嵌套设置时,当父目录文件个数配额写满,或
父目录至根目录中任一目录文件个数配额写满时,子目录无法写入数据。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910029002.6A CN109783467A (zh) | 2019-01-12 | 2019-01-12 | 一种分布式文件系统的嵌套目录文件个数配额设置方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910029002.6A CN109783467A (zh) | 2019-01-12 | 2019-01-12 | 一种分布式文件系统的嵌套目录文件个数配额设置方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109783467A true CN109783467A (zh) | 2019-05-21 |
Family
ID=66500357
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910029002.6A Pending CN109783467A (zh) | 2019-01-12 | 2019-01-12 | 一种分布式文件系统的嵌套目录文件个数配额设置方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109783467A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111190863A (zh) * | 2019-12-29 | 2020-05-22 | 浪潮电子信息产业股份有限公司 | 一种目录管理方法、装置、设备、介质 |
CN111552438A (zh) * | 2020-04-23 | 2020-08-18 | 广州市百果园信息技术有限公司 | 一种对象写入的方法、装置、服务器和存储介质 |
CN111723069A (zh) * | 2020-06-09 | 2020-09-29 | 苏州浪潮智能科技有限公司 | 一种分布式系统的配额管理方法、系统、设备以及介质 |
CN113626404A (zh) * | 2021-06-30 | 2021-11-09 | 济南浪潮数据技术有限公司 | 分布式文件系统嵌套目录配额的控制方法、装置及介质 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130191350A1 (en) * | 2012-01-25 | 2013-07-25 | Hitachi, Ltd. | Single Instantiation Method Using File Clone and File Storage System Utilizing the Same |
CN105677789A (zh) * | 2015-12-31 | 2016-06-15 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件系统的目录容量管理方法及系统 |
CN106899676A (zh) * | 2017-02-28 | 2017-06-27 | 郑州云海信息技术有限公司 | 一种多客户端写入目录配额分配方法 |
CN107506440A (zh) * | 2017-08-24 | 2017-12-22 | 郑州云海信息技术有限公司 | 一种分布式系统目录的配额方法及装置 |
CN107589915A (zh) * | 2017-09-25 | 2018-01-16 | 郑州云海信息技术有限公司 | 一种分布式存储系统的容量信息监控方法、装置及设备 |
CN107918527A (zh) * | 2017-11-01 | 2018-04-17 | 北京小米移动软件有限公司 | 存储空间分配方法及装置以及文件存储方法及装置 |
CN109388614A (zh) * | 2018-09-27 | 2019-02-26 | 郑州云海信息技术有限公司 | 一种目录文件个数配额的方法、系统及设备 |
CN109446177A (zh) * | 2018-11-02 | 2019-03-08 | 郑州云海信息技术有限公司 | 一种分布式文件系统目录文件个数配额的实现方法及装置 |
-
2019
- 2019-01-12 CN CN201910029002.6A patent/CN109783467A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130191350A1 (en) * | 2012-01-25 | 2013-07-25 | Hitachi, Ltd. | Single Instantiation Method Using File Clone and File Storage System Utilizing the Same |
CN105677789A (zh) * | 2015-12-31 | 2016-06-15 | 浪潮(北京)电子信息产业有限公司 | 一种分布式文件系统的目录容量管理方法及系统 |
CN106899676A (zh) * | 2017-02-28 | 2017-06-27 | 郑州云海信息技术有限公司 | 一种多客户端写入目录配额分配方法 |
CN107506440A (zh) * | 2017-08-24 | 2017-12-22 | 郑州云海信息技术有限公司 | 一种分布式系统目录的配额方法及装置 |
CN107589915A (zh) * | 2017-09-25 | 2018-01-16 | 郑州云海信息技术有限公司 | 一种分布式存储系统的容量信息监控方法、装置及设备 |
CN107918527A (zh) * | 2017-11-01 | 2018-04-17 | 北京小米移动软件有限公司 | 存储空间分配方法及装置以及文件存储方法及装置 |
CN109388614A (zh) * | 2018-09-27 | 2019-02-26 | 郑州云海信息技术有限公司 | 一种目录文件个数配额的方法、系统及设备 |
CN109446177A (zh) * | 2018-11-02 | 2019-03-08 | 郑州云海信息技术有限公司 | 一种分布式文件系统目录文件个数配额的实现方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111190863A (zh) * | 2019-12-29 | 2020-05-22 | 浪潮电子信息产业股份有限公司 | 一种目录管理方法、装置、设备、介质 |
CN111190863B (zh) * | 2019-12-29 | 2022-04-22 | 浪潮电子信息产业股份有限公司 | 一种目录管理方法、装置、设备、介质 |
CN111552438A (zh) * | 2020-04-23 | 2020-08-18 | 广州市百果园信息技术有限公司 | 一种对象写入的方法、装置、服务器和存储介质 |
CN111723069A (zh) * | 2020-06-09 | 2020-09-29 | 苏州浪潮智能科技有限公司 | 一种分布式系统的配额管理方法、系统、设备以及介质 |
CN113626404A (zh) * | 2021-06-30 | 2021-11-09 | 济南浪潮数据技术有限公司 | 分布式文件系统嵌套目录配额的控制方法、装置及介质 |
CN113626404B (zh) * | 2021-06-30 | 2024-02-13 | 济南浪潮数据技术有限公司 | 分布式文件系统嵌套目录配额的控制方法、装置及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109783467A (zh) | 一种分布式文件系统的嵌套目录文件个数配额设置方法 | |
CN101216821B (zh) | 数据采集系统的存储管理方法 | |
CN104301360B (zh) | 一种日志数据记录的方法、日志服务器及系统 | |
CN103345472B (zh) | 基于有限二叉树布隆过滤器的去冗文件系统及其构建方法 | |
CN109542358A (zh) | 一种固态硬盘冷热数据分离方法、装置及设备 | |
CN105824572B (zh) | 一种磁盘存储空间管理方法、装置及存储设备 | |
CN103092848B (zh) | 一种图片存储与检索方法 | |
CN107908503A (zh) | 从备份系统流式恢复数据库 | |
CN104011717A (zh) | 对数据存储备份的数据选择 | |
CN104933114A (zh) | 一种海量日志管理云平台 | |
CN102332004B (zh) | 用于海量数据管理的数据处理方法和系统 | |
CN110168532A (zh) | 数据更新方法和存储装置 | |
CN110232097A (zh) | 一种数据同步方法及装置 | |
CN108108374A (zh) | 一种数据仓库的存储方法及装置 | |
CN106210026B (zh) | 分布式文件系统多客户端目录配额精度的控制方法及系统 | |
CN109240607A (zh) | 一种文件读取方法和装置 | |
CN105981013A (zh) | 一种基于稀疏文件的数据库存储模型的系统和方法 | |
CN110222039A (zh) | 数据存储及垃圾数据清理方法、装置、设备及存储介质 | |
CN110175206A (zh) | 用于多数据库分离的智能分析业务方法、系统及介质 | |
CN101771567A (zh) | 自主内存数据库基于日志的数据持久或双机热备方法 | |
CN109753381A (zh) | 一种基于对象存储的持续数据保护方法 | |
CN104246716B (zh) | 存储空间对象的处理方法及设备 | |
CN102866964B (zh) | 一种保护存储设备上数据的方法及装置 | |
CN107480242A (zh) | 一种创建文件系统快照树的方法及系统 | |
CN111813866A (zh) | 一种改进的区块链账本同步方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190521 |
|
RJ01 | Rejection of invention patent application after publication |