CN115617747B - 一种文件存储方法、装置及设备 - Google Patents
一种文件存储方法、装置及设备 Download PDFInfo
- Publication number
- CN115617747B CN115617747B CN202211620845.1A CN202211620845A CN115617747B CN 115617747 B CN115617747 B CN 115617747B CN 202211620845 A CN202211620845 A CN 202211620845A CN 115617747 B CN115617747 B CN 115617747B
- Authority
- CN
- China
- Prior art keywords
- quota
- slave
- target object
- amount
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/14—Details of searching files based on file metadata
- G06F16/148—File search processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/172—Caching, prefetching or hoarding of files
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/178—Techniques for file synchronisation in file systems
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请提供一种文件存储方法、装置及设备,该方法包括:接收MDS发送的针对目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;基于从配额设备存储的目标对象的配额分数量和目标对象的已用配额数量,确定目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;基于所述申请配额数量更新所述目标对象的已用配额数量。通过本申请的技术方案,可以有效的提升文件存储系统的存储性能。
Description
技术领域
本申请涉及通信技术领域,尤其是涉及一种文件存储方法、装置及设备。
背景技术
文件存储系统可以通过网络文件系统提供存储服务,文件存储系统可以包括MDS(Meta Data Server,元数据服务器)和OSD(Object-based Storage Device,对象存储设备),MDS用于管理文件存储系统中的元数据,用户对元数据的操作均需要经过MDS,OSD是实际存储文件的组件,由硬盘和对应的守护进程组成,用户对文件存储系统的请求最终均会由OSD进行操作和固化。
在文件存储系统的使用过程中,可能出现个别用户过度甚至恶意占用存储资源情况,影响其它用户的正常使用。为了解决这一问题,需要提前按需为目标对象配置配额数量,即目标对象占用的配额不能超出配额数量,一旦超出配额数量,则不再存储这个目标对象的文件,从而保证存储资源的合理利用。
MDS在接收到客户端发送的针对目标对象的文件写入请求后,从OSD查询是否允许针对目标对象的文件写入。比如说,若目标对象的已用配额与当前申请配额之和大于目标对象的配额数量,则禁止针对目标对象的文件写入。若目标对象的已用配额与当前申请配额之和不大于目标对象的配额数量,则允许针对目标对象的文件写入。显然,在允许针对目标对象的文件写入时,MDS基于文件写入请求完成文件写入过程,反之,MDS禁止文件写入过程。
其中,OSD用于存储每个目标对象对应的配额数量和已用配额,因此,MDS每次接收到文件写入请求后,均需要从OSD查询是否允许针对目标对象的文件写入,这样,在高并发场景下,OSD可能会成为访问性能瓶颈,无法反馈目标对象的配额信息,导致MDS无法获知是否允许针对目标对象的文件写入。
发明内容
本申请提供一种文件存储方法,文件存储系统包括主配额设备和多个从配额设备,所述主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储所述目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为所述配额总数量,所述方法应用于任一从配额设备,所述方法包括:
接收元数据服务器MDS发送的针对所述目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;
基于所述从配额设备存储的所述目标对象的配额分数量和所述目标对象的已用配额数量,确定所述目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;
若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
基于所述申请配额数量更新所述目标对象的已用配额数量。
本申请提供一种文件存储装置,文件存储系统包括主配额设备和多个从配额设备,所述主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储所述目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为所述配额总数量,所述装置应用于任一从配额设备,所述装置包括:
接收模块,用于接收元数据服务器MDS发送的针对所述目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;
确定模块,用于基于所述从配额设备存储的所述目标对象的配额分数量和所述目标对象的已用配额数量,确定所述目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;
发送模块,用于若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
处理模块,用于基于所述申请配额数量更新所述目标对象的已用配额数量。
本申请提供一种电子设备,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现本申请上述示例的文件存储方法。
由以上技术方案可见,本申请实施例中,文件存储系统可以包括主配额设备和多个从配额设备,由多个从配额设备共同存储目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为目标对象的配额总数量,从而由多个从配额设备共同实现配额查询功能,而不是由一个主配额设备单独实现配额查询功能,这样,MDS每次接收到文件写入请求后,可以从任意一个从配额设备查询是否允许针对目标对象的文件写入,在高并发场景下,多个从配额设备共同实现配额查询功能时,不会出现访问性能瓶颈,能够及时反馈目标对象的配额信息,使得MDS能够及时获知是否允许针对目标对象的文件写入,通过分布式配额管理解决配额性能瓶颈,可以有效的提升文件存储系统的存储性能。
附图说明
为了更加清楚地说明本申请实施例或者现有技术中的技术方案,下面将对本申请实施例或者现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请中记载的一些实施例,对于本领域普通技术人员来讲,还可以根据本申请实施例的这些附图获得其他的附图。
图1是本申请一种实施方式中的文件存储方法的流程示意图;
图2是本申请一种实施方式中的文件存储装置的结构示意图;
图3是本申请一种实施方式中的电子设备的硬件结构图。
具体实施方式
在本申请实施例使用的术语仅仅是出于描述特定实施例的目的,而非限制本申请。本申请和权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其它含义。还应当理解,本文中使用的术语“和/或”是指包含一个或多个相关联的列出项目的任何或所有可能组合。
应当理解,尽管在本申请实施例可能采用术语第一、第二、第三等来描述各种信息,但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如,在不脱离本申请范围的情况下,第一信息也可以被称为第二信息,类似地,第二信息也可以被称为第一信息。取决于语境,此外,所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。
本申请实施例中提出一种文件存储方法,文件存储系统可以包括主配额设备和多个从配额设备。其中,主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储该目标对象的配额分数量,且所有从配额设备存储的配额分数量之和可以为配额总数量。参见图1所示,为该文件存储方法的流程示意图,该方法可以应用于任一从配额设备,该方法可以包括:
步骤101、接收MDS发送的针对目标对象的配额申请请求,该配额申请请求可以包括待写入的目标文件对应的申请配额数量。
步骤102、基于本从配额设备存储的该目标对象的配额分数量和该目标对象的已用配额数量,确定该目标对象的剩余配额数量;其中,已用配额数量可以表示本从配额设备为该目标对象分配的配额数量。
步骤103、若该申请配额数量小于或等于该剩余配额数量,则向MDS发送配额同意响应,以使MDS基于该配额同意响应写入目标文件。
步骤104、基于该申请配额数量更新目标对象的已用配额数量。
在一种可能的实施方式中,若申请配额数量大于剩余配额数量,则本从配额设备可以向其它多个从配额设备发送针对目标对象的借用请求消息,该借用请求消息包括借用配额数量,该借用配额数量基于申请配额数量和剩余配额数量确定。若本从配额设备接收到至少一个候选从配额设备返回的借用响应消息,则可以选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是多个其它从配额设备中的针对目标对象的剩余配额数量大于或等于借用配额数量的其它从配额设备,即多个其它从配额设备中的部分。本从配额设备向目标从配额设备发送借用确认消息,以使目标从配额设备基于借用配额数量更新目标对象的已用配额数量;以及,本从配额设备向MDS发送配额同意响应,以使MDS写入目标文件;基于借用配额数量更新目标对象的已用配额数量。
示例性的,在本从配额设备向其它从配额设备发送针对目标对象的借用请求消息之后,则:若本从配额设备未接收到候选从配额设备返回的借用响应消息,则向MDS发送配额拒绝响应,以使MDS禁止写入目标文件。
示例性的,选择一个候选从配额设备作为目标从配额设备,可以包括但不限于:若借用响应消息包括候选从配额设备存储的目标对象的配额分数量,基于各候选从配额设备对应的配额分数量,选择配额分数量与申请配额数量最接近的候选从配额设备作为目标从配额设备;或者,选择配额分数量最大的候选从配额设备作为目标从配额设备;或,若借用响应消息包括候选从配额设备针对目标对象的剩余配额数量,基于各候选从配额设备对应的剩余配额数量,选择剩余配额数量与借用配额数量最接近的候选从配额设备作为目标从配额设备;或者,选择剩余配额数量最大的候选从配额设备作为目标从配额设备。
示例性的,若配额总数量为文件数配额总数量M,从配额设备的数量为N,则前N-1个从配额设备存储的配额分数量均为M/N的向下取整值,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;其中,MDS采用轮询策略从所有从配额设备中选择一个从配额设备,并将针对目标对象的配额申请请求发送给该从配额设备。或者,若配额总数量为文件容量配额总数量M,则前N-1个从配额设备存储的配额分数量为M*1/2 k,k表示前N-1个从配额设备中第k个从配额设备,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;其中,MDS采用目标策略从所有从配额设备中选择一个从配额设备,将针对目标对象的配额申请请求发送给该从配额设备;目标策略为:选择配额分数量与申请配额数量最接近的从配额设备,或者,选择配额分数量最大的从配额设备,或者,选择剩余配额数量与申请配额数量最接近的从配额设备,或者,选择剩余配额数量最大的从配额设备。
在一种可能的实施方式中,若接收到MDS发送的针对目标对象的配额释放请求,配额释放请求包括待释放配额数量,那么:若目标对象的已用配额数量大于或等于待释放配额数量,则本从配额设备基于待释放配额数量更新目标对象的已用配额数量;若已用配额数量小于待释放配额数量,则本从配额设备向多个其它从配额设备发送针对目标对象的配额回收消息,该配额回收消息包括待回收配额数量,该待回收配额数量基于待释放配额数量和已用配额数量确定;若本从配额设备接收到至少一个候选从配额设备返回的配额回收响应,则选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是多个其它从配额设备中的针对目标对象的已用配额数量大于或等于待回收配额数量的其它从配额设备,即多个其它从配额设备中的部分其它从配额设备;向目标从配额设备发送配额回收确认,以使目标从配额设备基于待回收配额数量更新目标对象的已用配额数量;基于待回收配额数量更新目标对象的已用配额数量。
在一种可能的实施方式中,若从配额设备针对目标对象的剩余配额数量小于第一阈值,且触发多个从配额设备的配额重均衡过程,那么:本从配额设备获取待均衡从配额设备,待均衡从配额设备针对目标对象的剩余配额数量大于第二阈值,第二阈值大于第一阈值;本从配额设备获取待均衡配额数量,并向待均衡从配额设备发送配额重均衡消息,该配额重均衡消息包括待均衡配额数量,以使待均衡从配额设备基于待均衡配额数量增加目标对象的已用配额数量;本从配额设备基于待均衡配额数量减少目标对象的已用配额数量。
在一种可能的实施方式中,若从配额设备针对目标对象的剩余配额数量小于第三阈值,且触发多个从配额设备的配额碎片整理过程,那么:本从配额设备获取待整合从配额设备,待整合从配额设备针对目标对象的剩余配额数量大于第四阈值,第四阈值大于第三阈值;本从配额设备基于剩余配额数量确定待整合配额数量,向待整合从配额设备发送碎片整理消息,碎片整理消息包括待整合配额数量,以使待整合从配额设备基于待整合配额数量减少目标对象的已用配额数量;本从配额设备基于待整合配额数量增加目标对象的已用配额数量。
由以上技术方案可见,本申请实施例中,文件存储系统可以包括主配额设备和多个从配额设备,由多个从配额设备共同存储目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为目标对象的配额总数量,从而由多个从配额设备共同实现配额查询功能,而不是由一个主配额设备单独实现配额查询功能,这样,MDS每次接收到文件写入请求后,可以从任意一个从配额设备查询是否允许针对目标对象的文件写入,在高并发场景下,多个从配额设备共同实现配额查询功能时,不会出现访问性能瓶颈,能够及时反馈目标对象的配额信息,使得MDS能够及时获知是否允许针对目标对象的文件写入,通过分布式配额管理解决配额性能瓶颈,可以有效的提升文件存储系统的存储性能。
以下结合具体应用场景,对本申请实施例的文件存储方法进行说明。
文件存储系统可以通过网络文件系统提供存储服务,如ceph文件存储系统等,ceph文件存储系统允许将存储资源以网络文件系统的方式对外提供服务,如NFS、CIFS等,因此,ceph文件存储系统可以对外提供NFS、CIFS等类型的文件存储,用户可以通过这些协议完成文件的读写、修改、共享等操作。文件存储系统包括MDS和OSD,MDS用于管理文件存储系统中的元数据,用户对元数据的操作均需要经过MDS,OSD是实际存储文件的组件,由硬盘和对应的守护进程组成,用户对文件存储系统的请求最终均会由OSD进行操作和固化。
在文件存储系统的使用过程中,可能出现个别用户过度甚至恶意占用存储资源的情况,影响其它用户的正常使用。为了解决这一问题,需要提前按需为目标对象配置配额数量,即目标对象占用的配额不能超出配额数量,一旦超出配额数量,则不再存储这个目标对象的文件,从而能够保证存储资源的合理利用。其中,配额是一种存储资源利用的管理机制,文件存储系统可以通过对目标对象配置配额,以使用户只能在配额范围内进行文件的操作,用户超出配额范围的文件请求将会被拒绝,从而可以保证资源利用都在合理范围内。
在基于配额的文件存储过程中,MDS接收到客户端发送的针对目标对象的文件写入请求后,从OSD查询是否允许针对目标对象的文件写入。例如,若目标对象的已用配额与当前申请配额之和大于目标对象的配额数量,禁止针对目标对象的文件写入。若目标对象的已用配额与当前申请配额之和不大于目标对象的配额数量,允许针对目标对象的文件写入。在允许针对目标对象的文件写入时,MDS基于文件写入请求完成文件写入过程,反之,禁止文件写入过程。
其中,OSD用于存储每个目标对象对应的配额数量和已用配额,因此,MDS每次接收到文件写入请求后,均需要从OSD查询是否允许针对目标对象的文件写入,这样,在高并发场景下,OSD可能会成为访问性能瓶颈,无法反馈目标对象的配额信息,导致MDS无法获知是否允许针对目标对象的文件写入。
针对上述发现,本申请实施例中提出一种文件存储方法,文件存储系统包括主配额设备和多个从配额设备,由多个从配额设备共同存储目标对象的配额分数量,从而由多个从配额设备共同实现配额查询功能,这样,在高并发场景下,多个从配额设备共同实现配额查询功能时,不会出现访问性能瓶颈,能够及时反馈目标对象的配额信息,通过分布式配额管理解决配额性能瓶颈。
第一、配额创建流程。
示例性的,当需要对目标对象配置配额时,可以在文件存储系统中创建主配额设备和多个从配额设备(如N个从配额设备,N为大于1的正整数),主配额设备可以称为master_quota对象,主配额设备可以由OSD进行管理和控制,即由一个OSD来处理这个对象的读写操作,即后续主配额设备的操作均由该OSD实现,N个从配额设备可以为N个slave_quota对象,N个从配额设备可以由N个OSD进行管理和控制,N个从配额设备和N个OSD一一对应,即由一个OSD来处理对应的对象的读写操作,即后续从配额设备的操作均由该从配额设备对应的OSD实现。其中,针对同一目标对象,该目标对象的主配额设备对应的OSD和该目标对象的从配额设备对应的OSD可以不同,该目标对象的不同从配额设备对应的OSD可以不同。针对不同目标对象,不同目标对象的主配额设备对应的OSD可以不同,不同目标对象的从配额设备对应的OSD可能部分相同,即可能部分OSD相同,剩余部分OSD部分。
示例性的,主配额设备可以用于存储目标对象的配额总数量,多个从配额设备(如N个从配额设备)均用于存储目标对象的配额分数量,且所有从配额设备存储的配额分数量之和可以为该目标对象的配额总数量。
其中,目标对象可以为目标用户或者目标目录,也就是说,可以为目标用户配置配额,也可以为目标目录配置配额,对此目标对象的类型不作限制。
其中,配额可以为文件数配额,配额也可以是容量配额,对此配额的类型不作限制。文件数配额指的是文件个数的使用配额,文件数配额是指目标对象的总文件数量不超过该文件数配额。此外,容量配额指的是存储容量的使用配额,容量配额是指目标对象的总存储空间不超过该容量配额。
示例性的,主配额设备不提供具体配额分配控制,主配额设备用于记录配额整体信息,如目标对象的inode信息、用户信息、配额阈值、已用阈值等,这些内容可以通过键值对的方式存储在主配额设备中。比如说,主配额设备可以存储每个目标对象的配额总数量,以文件数配额为例,主配额设备可以存储每个目标对象的配额总数量,参见表1所示,为配额总数量的一个示例。
表1
示例性的,从配额设备用于完成配额分配控制,当MDS需要申请配额时,MDS将向从配额设备发起配额请求,完成配额分配回收等操作。
其中,从配额设备用于记录配额阈值(即配额分数量)和已用配额数量等信息。以文件数配额为例,从配额设备可以存储每个目标对象的配额分数量和已用配额数量,参见表2所示,为从配额设备1的配额分数量的一个示例,参见表3所示,为从配额设备2的配额分数量的一个示例,显然,从配额设备1存储的配额分数量与从配额设备2存储的配额分数量之和为配额总数量。
表2
表3
其中,N个从配额设备可以采用从配额设备1、从配额设备2、...、从配额设备n的方式进行命名,从哈希算法来看,这些从配额设备可以映射到不同的pg(归置组,一个pg能够管理多个对象,可以理解成存储池是由若干管理着对象的pg组成的逻辑概念),并最终由不同OSD进行管理。在后续实施例中,由从配额设备处理的操作,实际上是由从配额设备对应的OSD完成。
其中,从配额设备的数量N可以根据经验配置,对此不作限制,如N与业务并发量有关,可以通过业务并发量/单OSD的ops得到,N值可以为奇数。
第二、配额数量管理。
情况1,针对配额为文件数配额的情况,若配额总数量为文件数配额总数量M,从配额设备的数量为N,则前N-1个从配额设备存储的配额分数量均可以为M/N的向下取整值,第N个从配额设备存储的配额分数量可以为M减前N-1个从配额设备的配额分数量之和,显然,基于上述配额数量管理方式,所有从配额设备存储的配额分数量之和可以为目标对象的配额总数量M。
假设针对目标对象1的文件数配额总数量M为100,从配额设备的数量N为3,则从配额设备1针对目标对象1的配额分数量为33(100除以3的向下取整值),从配额设备2针对目标对象1的配额分数量为33,从配额设备3针对目标对象1的配额分数量为34(100-33-33),即配额分数量之和为100。
情况2、针对配额为容量配额的情况,若配额总数量为文件容量配额总数量M,从配额设备的数量为N,则前N-1个从配额设备存储的配额分数量为M*1/2 k,k表示前N-1个从配额设备中第k个从配额设备,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和。比如说,针对前N-1个从配额设备中第1个从配额设备,从配额设备存储的配额分数量为M*1/2 1,针对前N-1个从配额设备中第2个从配额设备,从配额设备存储的配额分数量为M*1/2 2,以此类推,针对前N-1个从配额设备中第N-1个从配额设备,从配额设备存储的配额分数量为M*1/2 N-1,显然,基于上述配额数量管理方式,所有从配额设备存储的配额分数量之和可以为目标对象的配额总数量M。
假设针对目标对象1的文件容量配额总数量M为100,从配额设备的数量N为3,则从配额设备1针对目标对象1的配额分数量为50(100*1/2 1),从配额设备2针对目标对象1的配额分数量为25(100*1/2 2),从配额设备3针对目标对象1的配额分数量为25(100-50-25),即配额分数量之和为100。
又例如,假设针对目标对象1的文件容量配额总数量为M,从配额设备的数量N为5,那么,从配额设备1针对目标对象1的配额分数量为M*1/2,从配额设备2针对目标对象1的配额分数量为M*1/4,从配额设备3针对目标对象1的配额分数量为M*1/8,从配额设备4针对目标对象1的配额分数量为M*1/16,从配额设备5针对目标对象1的配额分数量为M*1/16。
第三、配额申请流程。
示例性的,针对文件存储的配额申请流程,可以采用如下步骤:
步骤S11、MDS在接收到客户端发送的针对目标对象的文件写入请求之后,向从配额设备发送针对目标对象的配额申请请求,该配额申请请求可以包括待写入的目标文件对应的申请配额数量、目标对象的唯一标识等。
示例性的,若目标对象的配额为文件数配额,则MDS可以采用轮询策略从所有从配额设备中选择一个从配额设备,并将针对目标对象的配额申请请求发送给这个从配额设备,从而能够将大量配额申请请求均匀分配到N个从配额设备。比如说,针对100个配额申请请求,若N个从配额设备为5个从配额设备,那么,将第1个配额申请请求发送给从配额设备1,将第2个配额申请请求发送给从配额设备2,将第3个配额申请请求发送给从配额设备3,将第4个配额申请请求发送给从配额设备4,将第5个配额申请请求发送给从配额设备5,将第6个配额申请请求发送给从配额设备1,以此类推,每个从配额设备可以承担20个配额申请请求,在高并发场景下,可以将每个从配额设备的压力降到1/5。
在上述方式中,是采用轮询策略选择从配额设备,MDS也可以采用其它策略选择从配额设备,能够将大量配额申请请求均匀分配到N个从配额设备即可。
示例性的,若目标对象的配额为文件容量配额,则MDS可以采用目标策略从所有从配额设备中选择一个从配额设备,并将针对目标对象的配额申请请求发送给这个从配额设备。其中,目标策略可以包括但不限于:选择配额分数量与申请配额数量最接近的从配额设备,或者,选择配额分数量最大的从配额设备,或者,选择剩余配额数量与申请配额数量最接近的从配额设备,或者,选择剩余配额数量最大的从配额设备。当然,上述只是几个示例,对此不作限制。
其中,可以根据实际业务配置目标策略为策略a:选择配额上限与待申请配额空间最接近的从配额设备。比如说,MDS可以获取每个从配额设备的配额分数量(针对目标对象的配额分数量),并获取待写入的目标文件对应的申请配额数量,可以从所有配额分数量中查询到与该申请配额数量最接近的配额分数量,并将针对目标对象的配额申请请求发送给该配额分数量对应的从配额设备。
其中,可以根据实际业务配置目标策略为策略b:选择配额上限最大的从配额设备。比如说,MDS可以获取每个从配额设备的配额分数量(针对目标对象的配额分数量),并从所有配额分数量中查询到最大的配额分数量,并将针对目标对象的配额申请请求发送给最大的配额分数量对应的从配额设备。
其中,可以根据实际业务配置目标策略为策略c:选择可用配额大小与待申请配额空间最接近的从配额设备。比如说,MDS可以获取每个从配额设备的剩余配额数量(即针对目标对象的剩余配额数量,即目标对象的可用配额大小),并获取待写入的目标文件对应的申请配额数量(即待申请配额空间),可以从所有剩余配额数量中查询到与该申请配额数量最接近的剩余配额数量,并将针对目标对象的配额申请请求发送给该剩余配额数量对应的从配额设备。
其中,可以根据实际业务配置目标策略为策略d:选择可用配额最大的从配额设备。比如说,MDS可以获取每个从配额设备的剩余配额数量(针对目标对象的剩余配额数量),从所有剩余配额数量中查询到最大的剩余配额数量,并将针对目标对象的配额申请请求发送给最大的剩余配额数量对应的从配额设备。
步骤S12、从配额设备接收MDS发送的配额申请请求,该配额申请请求可以包括目标文件对应的申请配额数量、目标对象的唯一标识等。
步骤S13、从配额设备基于本从配额设备存储的该目标对象的配额分数量和该目标对象的已用配额数量,确定该目标对象的剩余配额数量;其中,目标对象的已用配额数量可以表示本从配额设备为该目标对象分配的配额数量。
示例性的,参见表4所示,为配额数量表的示例,配额数量表可以包括目标对象的配额分数量和目标对象的已用配额数量,假设配额申请请求中携带目标对象1的唯一标识,那么,本从配额设备通过查询配额数量表,可以确定目标对象1的配额分数量为50,确定目标对象1的已用配额数量为10,并确定目标对象1的剩余配额数量为40,即配额分数量与已用配额数量的差值。
表4
步骤S14、若申请配额数量小于或等于该剩余配额数量,则从配额设备向MDS发送配额同意响应,以使MDS基于该配额同意响应写入目标文件。
示例性的,在得到目标对象1的剩余配额数量之后,可以判断目标文件对应的申请配额数量是否小于或等于目标对象1的剩余配额数量。如果是,则从配额设备可以向MDS发送配额同意响应,MDS在接收到该配额同意响应之后,就可以写入目标文件,本实施例中对此目标文件的写入过程不作限制。
步骤S15、若申请配额数量小于或等于该剩余配额数量,则从配额设备还可以基于该申请配额数量更新目标对象的已用配额数量,比如说,在当前已用配额数量的基础上加上该申请配额数量,得到更新后的已用配额数量。
比如说,假设申请配额数量为20,则将已用配额数量更新为30(即在当前已用配额数量10的基础上加上该申请配额数量30),参见表5所示。
表5
步骤S16、若申请配额数量大于剩余配额数量,则本从配额设备向多个其它从配额设备(如本从配额设备之外的每个从配额设备)发送针对目标对象的借用请求消息,该借用请求消息可以包括借用配额数量、目标对象的唯一标识等。
示例性的,本从配额设备可以基于目标对象对应的申请配额数量和剩余配额数量确定目标对象对应的借用配额数量。比如说,可以确定申请配额数量与剩余配额数量的差值(记为差额配额),且借用配额数量可以大于或者等于该差额配额,后续以借用配额数量等于该差额配额为例进行说明。
比如说,参见表4所示,目标对象1的剩余配额数量为40,假设申请配额数量为60(从配额申请请求中获知),则目标对象1的借用配额数量为20。
示例性的,本从配额设备(后续记为从配额设备X)可以通过组播方式向其它从配额设备发送借用请求消息(也可以称为差额配额申请消息),也可以通过广播方式向其它从配额设备发送借用请求消息,对此不做限制,只要能够将借用请求消息发送给除本从配额设备之外的每个从配额设备即可。
示例性的,其它从配额设备(任一其它从配额设备)在接收到针对目标对象的借用请求消息之后,基于自身存储的该目标对象的配额分数量和该目标对象的已用配额数量,确定该目标对象的剩余配额数量,如配额分数量与已用配额数量的差值作为剩余配额数量。若该剩余配额数量大于或等于该借用配额数量(从借用请求消息中获知),则向从配额设备X返回借用响应消息,若该剩余配额数量小于该借用配额数量,则不向从配额设备X返回借用响应消息。
步骤S17、若本从配额设备接收到至少一个候选从配额设备(将返回借用响应消息的其它从配额设备称为候选从配额设备)返回的借用响应消息,则从所有候选从配额设备中选择一个候选从配额设备作为目标从配额设备,并执行步骤S18。示例性的,各候选从配额设备是多个其它从配额设备中的针对目标对象的剩余配额数量大于或等于借用配额数量的其它从配额设备,也就是说,只有剩余配额数量大于或等于借用配额数量的其它从配额设备才会发送借用响应消息,这些返回借用响应消息的其它从配额设备作为候选从配额设备。
在一种可能的实施方式中,本从配额设备向其它从配额设备发送针对目标对象的借用请求消息之后,若本从配额设备未接收到候选从配额设备返回的借用响应消息,即未接收到任一从配额设备返回的借用响应消息,则本从配额设备确定目标对象的配额空间不足,且本从配额设备向MDS发送配额拒绝响应,MDS在接收到配额拒绝响应之后,可以禁止写入目标文件,对此过程不再赘述。
本从配额设备确定目标对象的配额空间不足时,还可以触发针对目标对象的配额重均衡过程,配额重均衡过程可以参见后续实施例,在此不再赘述。
在一种可能的实施方式中,本从配额设备从所有候选从配额设备中选择一个候选从配额设备作为目标从配额设备,可以包括但不限于:从所有候选从配额设备中任一选择一个候选从配额设备作为目标从配额设备,例如,将第一个返回借用响应消息的候选从配额设备作为目标从配额设备,随机选择一个候选从配额设备作为目标从配额设备,对此不做限制。或者,若借用响应消息包括候选从配额设备存储的目标对象的配额分数量,则基于各候选从配额设备对应的配额分数量,选择配额分数量与申请配额数量最接近的候选从配额设备作为目标从配额设备。或者,若借用响应消息包括候选从配额设备存储的目标对象的配额分数量,则选择配额分数量最大的候选从配额设备作为目标从配额设备。或者,若借用响应消息包括候选从配额设备针对目标对象的剩余配额数量,则基于各候选从配额设备对应的剩余配额数量,选择剩余配额数量与借用配额数量最接近的候选从配额设备作为目标从配额设备。或者,若借用响应消息包括候选从配额设备针对目标对象的剩余配额数量,则选择剩余配额数量最大的候选从配额设备作为目标从配额设备。当然,上述只是几个示例,对此不做限制。
其中,可以根据实际业务配置策略a:选择配额上限与待申请配额空间最接近的从配额设备。比如说,在采用策略a时,本从配额设备可以获取每个候选从配额设备针对目标对象的配额分数量,并获取待写入的目标文件对应的申请配额数量,可以从所有配额分数量中查询到与该申请配额数量最接近的配额分数量,并将该配额分数量对应的候选从配额设备作为目标从配额设备。
其中,可以根据实际业务配置策略b:选择配额上限最大的从配额设备。比如说,在采用策略b时,本从配额设备可以获取每个候选从配额设备针对目标对象的配额分数量,并从所有配额分数量中查询到最大的配额分数量,并将最大的配额分数量对应的候选从配额设备作为目标从配额设备。
其中,可以根据实际业务配置策略c:选择可用配额大小与待申请配额空间(即借用配额数量)最接近的从配额设备。比如说,在采用策略c时,本从配额设备可以获取每个候选从配额设备针对目标对象的剩余配额数量,并获取借用配额数量,可以从所有剩余配额数量中查询到与该借用配额数量最接近的剩余配额数量,并将该剩余配额数量对应的候选从配额设备作为目标从配额设备。
其中,可以根据实际业务配置策略d:选择可用配额最大的从配额设备。比如说,在采用策略d时,本从配额设备可以获取每个候选从配额设备针对目标对象的剩余配额数量,从所有剩余配额数量中查询到最大的剩余配额数量,并将最大的剩余配额数量对应的候选从配额设备作为目标从配额设备。
步骤S18、本从配额设备向目标从配额设备发送借用确认消息,该借用确认消息可以包括借用配额数量、目标对象的唯一标识等。
示例性的,目标从配额设备在接收到借用确认消息之后,可以基于该借用配额数量更新目标对象的已用配额数量,即在目标对象的当前已用配额数量的基础上加上该借用配额数量,得到更新后的已用配额数量。比如说,假设目标对象的当前已用配额数量为20,借用配额数量为20,则目标从配额设备将已用配额数量更新为40(即在当前已用配额数量20的基础上加上借用配额数量20)。
步骤S19、本从配额设备向目标从配额设备发送借用确认消息之后,本从配额设备还可以向MDS发送配额同意响应,MDS在接收到该配额同意响应之后,就可以基于该配额同意响应写入目标文件,对此目标文件的写入过程不作限制。
示例性的,本从配额设备向目标从配额设备发送借用确认消息之后,还可以基于该借用配额数量更新目标对象的已用配额数量。比如说,可以基于申请配额数量和该借用配额数量确定本从配额设备的消耗配额数量,如申请配额数量与该借用配额数量的差值为本从配额设备的消耗配额数量。然后,在当前已用配额数量的基础上加上该消耗配额数量,得到更新后的已用配额数量。
比如说,在表4的基础上,假设申请配额数量为60,借用配额数量为20,则本从配额设备的消耗配额数量为40(60-20),将已用配额数量更新为50(即在当前已用配额数量10的基础上加上该消耗配额数量40),参见表6所示。
表6
至此,完成配额申请流程,成功写入目标文件或者禁止写入目标文件。
第四、配额释放流程。
示例性的,在删除目标对象的文件时,还可以释放目标对象的配额,针对删除文件时的配额释放流程,可以采用如下步骤:
步骤S21、MDS在接收到客户端发送的针对目标对象的文件删除请求之后,向从配额设备发送针对目标对象的配额释放请求,该配额释放请求可以包括待删除文件对应的待释放配额数量、目标对象的唯一标识等。
示例性的,若目标对象的配额为文件数配额,则MDS可以采用轮询策略从所有从配额设备中选择一个从配额设备,并将针对目标对象的配额释放请求发送给这个从配额设备,从而将大量配额释放请求均匀分配到多个从配额设备。
示例性的,若目标对象的配额为文件容量配额,则MDS可以采用目标策略从所有从配额设备中选择一个从配额设备,并将针对目标对象的配额释放请求发送给这个从配额设备。其中,目标策略可以包括但不限于:选择配额分数量与待释放配额数量最接近的从配额设备,或者,选择配额分数量最大的从配额设备,或者,选择剩余配额数量与待释放配额数量最接近的从配额设备,或者,选择剩余配额数量最大的从配额设备。当然,上述只是示例,对此不作限制。
步骤S22、从配额设备接收MDS发送的针对目标对象的配额释放请求,该配额释放请求可以包括待释放配额数量、目标对象的唯一标识等。
步骤S23、若目标对象的已用配额数量大于或等于目标对象的待释放配额数量,则本从配额设备基于待释放配额数量更新目标对象的已用配额数量。
比如说,本从配额设备在当前已用配额数量的基础上减去该待释放配额数量,得到更新后的已用配额数量,从而对已用配额数量进行释放。
步骤S24、若目标对象的已用配额数量小于目标对象的待释放配额数量,则本从配额设备向多个其它从配额设备发送针对目标对象的配额回收消息,该配额回收消息可以包括待回收配额数量、目标对象的唯一标识等。
示例性的,本从配额设备可以基于该待释放配额数量和该已用配额数量确定目标对象对应的待回收配额数量。比如说,可以确定该待释放配额数量与该已用配额数量的差值(记为差额配额),且待回收配额数量可以大于或者等于该差额配额,后续以待回收配额数量等于该差额配额为例进行说明。
示例性的,本从配额设备(后续记为从配额设备X)可以通过组播方式向其它从配额设备发送配额回收消息,也可以通过广播方式向其它从配额设备发送配额回收消息。其它从配额设备(任一其它从配额设备)在接收到针对目标对象的配额回收消息之后,若针对目标对象的已用配额数量大于或等于待回收配额数量,则向从配额设备X返回配额回收响应,若针对目标对象的已用配额数量小于待回收配额数量,则不向从配额设备X返回配额回收响应。
步骤S25、若本从配额设备接收到至少一个候选从配额设备(将返回配额回收响应的其它从配额设备称为候选从配额设备)返回的配额回收响应,则从所有候选从配额设备中选择一个候选从配额设备作为目标从配额设备,并执行步骤S26。示例性的,各候选从配额设备是多个其它从配额设备中的针对目标对象的已用配额数量大于或等于待回收配额数量的其它从配额设备,即,只有已用配额数量大于或等于待回收配额数量的其它从配额设备才会发送配额回收响应,这些返回配额回收响应的其它从配额设备作为候选从配额设备。
在一种可能的实施方式中,本从配额设备从所有候选从配额设备中选择一个候选从配额设备作为目标从配额设备,可以包括但不限于:从所有候选从配额设备中任一选择一个候选从配额设备作为目标从配额设备。或者,若配额回收响应包括候选从配额设备存储的目标对象的配额分数量,则基于各候选从配额设备对应的配额分数量,选择配额分数量与待释放配额数量最接近的候选从配额设备作为目标从配额设备。或者,若配额回收响应包括候选从配额设备存储的目标对象的配额分数量,则选择配额分数量最大的候选从配额设备作为目标从配额设备。或者,若配额回收响应包括候选从配额设备针对目标对象的已用配额数量,则基于各候选从配额设备对应的已用配额数量,选择已用配额数量与待回收配额数量最接近的候选从配额设备作为目标从配额设备。或者,若配额回收响应包括候选从配额设备针对目标对象的已用配额数量,则选择已用配额数量最大的候选从配额设备作为目标从配额设备。
步骤S26、本从配额设备向目标从配额设备发送配额回收确认,该配额回收确认可以包括待回收配额数量、目标对象的唯一标识等。示例性的,目标从配额设备在接收到配额回收确认之后,可以基于该待回收配额数量更新目标对象的已用配额数量,即在当前已用配额数量的基础上减去该待回收配额数量,得到更新后的已用配额数量,从而对已用配额数量进行释放。
步骤S27、本从配额设备基于待回收配额数量更新目标对象的已用配额数量。
比如说,可以基于待释放配额数量和该待回收配额数量确定本从配额设备的回收配额数量,如待释放配额数量与该待回收配额数量的差值为本从配额设备的回收配额数量。然后,在当前已用配额数量的基础上减去本从配额设备的回收配额数量,得到更新后的已用配额数量,从而对已用配额数量进行释放。
至此,完成配额释放流程,成功对已用配额数量进行释放。
在一种可能的实施方式中,针对步骤S24,若目标对象的已用配额数量小于目标对象的待释放配额数量A,则本从配额设备X可以将目标对象的已用配额数量更新为0,并可以将目标对象的待释放配额数量A更新为待释放配额数量B(待释放配额数量B为待释放配额数量A与已用配额数量的差值)。然后,本从配额设备X向另一个从配额设备Y发送针对目标对象的配额释放请求,该配额释放请求可以包括待释放配额数量B和目标对象的唯一标识等。
从配额设备Y在接收到配额释放请求后,若目标对象的已用配额数量大于或等于待释放配额数量B,则从配额设备Y基于待释放配额数量B更新目标对象的已用配额数量。若目标对象的已用配额数量小于待释放配额数量B,则从配额设备Y将目标对象的已用配额数量更新为0,将目标对象的待释放配额数量B更新为待释放配额数量C(待释放配额数量C为待释放配额数量B与已用配额数量的差值)。然后,从配额设备Y向另一个从配额设备Z发送针对目标对象的配额释放请求,该配额释放请求可以包括待释放配额数量C,以此类推,一直到目标对象的已用配额数量大于或等于待释放配额数量,完成配额释放流程。
第五、配额重均衡过程。
示例性的,若第一从配额设备(所有从配额设备中任一从配额设备)获知目标对象的剩余配额数量(即配额分数量与已用配额数量的差值)小于第一阈值,则表示剩余配额数量不足以应对一次配额申请,向MDS发送配额均衡事件。MDS接收到配额均衡事件后,可以查询每个从配额设备针对目标对象的剩余配额数量。或者,若第一从配额设备获知目标对象的已用配额数量大于预设阈值,则表示剩余配额数量不足以应对一次配额申请,MDS发送配额均衡事件。MDS接收到配额均衡事件后,可以查询每个从配额设备针对目标对象的剩余配额数量。或者,MDS可以周期性查询每个从配额设备针对目标对象的剩余配额数量。
基于每个从配额设备针对目标对象的剩余配额数量,若MDS获知第一从配额设备针对目标对象的剩余配额数量小于第一阈值,且待均衡从配额设备针对目标对象的剩余配额数量大于第二阈值,第二阈值可以大于第一阈值,则表示部分从配额设备的已用配额数量较高,且各从配额设备的已用配额数量比例不均匀,因此,MDS可以触发多个从配额设备的配额重均衡过程。
示例性的,针对多个从配额设备的配额重均衡过程,可以包括以下步骤:
步骤S31、第一从配额设备获取待均衡从配额设备。示例性的,第一从配额设备针对目标对象的剩余配额数量小于第一阈值,待均衡从配额设备针对目标对象的剩余配额数量大于第二阈值,且第二阈值大于第一阈值。
比如说,MDS可以将待均衡从配额设备的信息发送给第一从配额设备,以使第一从配额设备获知哪个从配额设备作为待均衡从配额设备。
示例性的,待均衡从配额设备的数量可以为一个,即由一个待均衡从配额设备将自身的配额均衡给第一从配额设备。待均衡从配额设备的数量也可以为多个,即由多个待均衡从配额设备将各自的配额均衡给第一从配额设备。
步骤S32、第一从配额设备获取待均衡配额数量。
示例性的,可以由MDS获取待均衡配额数量,并将待均衡配额数量发送给第一从配额设备,以使第一从配额设备获取待均衡配额数量。或者,也可以直接由第一从配额设备自身获取待均衡配额数量,对此不作限制。
示例性的,为了获取待均衡配额数量,可以采用如下方式:可以基于待均衡从配额设备的第一剩余配额数量确定待均衡配额数量,如将第一剩余配额数量的1/3作为待均衡配额数量。或者,可以基于第一从配额设备的第二剩余配额数量和待均衡从配额设备的第一剩余配额数量确定待均衡配额数量,如计算第一剩余配额数量和第二剩余配额数量的均值,将均值与第二剩余配额数量的差值作为待均衡配额数量。当然,上述只是几个示例,对此不作限制。
步骤S33、第一从配额设备向待均衡从配额设备发送配额重均衡消息,该配额重均衡消息可以包括待均衡配额数量、目标对象的唯一标识等。
步骤S34、待均衡从配额设备基于该待均衡配额数量增加目标对象的已用配额数量,即在当前已用配额数量的基础上增加待均衡配额数量,得到更新后的已用配额数量,即将待均衡配额数量的配额共享给第一从配额设备。
步骤S35、第一从配额设备基于该待均衡配额数量减少目标对象的已用配额数量,即在当前已用配额数量的基础上减少待均衡配额数量,得到更新后的已用配额数量,即将待均衡配额数量的配额共享给第一从配额设备。
至此,完成配额重均衡过程,使得各从配额设备的配额动态均衡。
第六、配额碎片整理过程。
示例性的,若第二从配额设备(所有从配额设备中任一从配额设备)获知目标对象的剩余配额数量小于第三阈值,则可以向MDS发送配额碎片整理事件。MDS接收到配额碎片整理事件后,查询每个从配额设备针对目标对象的剩余配额数量。或者,MDS周期性查询每个从配额设备针对目标对象的剩余配额数量。
基于每个从配额设备针对目标对象的剩余配额数量,若MDS获知第二从配额设备针对目标对象的剩余配额数量小于第三阈值,且待整合从配额设备针对目标对象的剩余配额数量大于第四阈值且小于第五阈值(大于第四阈值表示待整合从配额设备的剩余配额数量多于第二从配额设备的剩余配额数量,小于第五阈值表示待整合从配额设备的剩余配额数量比较少),第四阈值大于第三阈值,则表示各从配额设备的已用配额数量均比较高,如所有从配额设备的已用配额数量均大于80%,因此,MDS触发多个从配额设备的配额碎片整理过程。
综上所述,MDS获取每个从配额设备针对目标对象的剩余配额数量,并基于每个从配额设备的剩余配额数量检查是否满足配额碎片整理条件,当满足配额碎片整理条件时,MDS可以将小容量的碎片配额空间(即第二从配额设备的剩余配额数量)集中整理到大容量的碎片配额空间(即待整合从配额设备)。
示例性的,针对多个从配额设备的配额碎片整理过程,可以包括以下步骤:
步骤S41、第二从配额设备获取待整合从配额设备。示例性的,第二从配额设备针对目标对象的剩余配额数量小于第三阈值,待整合从配额设备针对目标对象的剩余配额数量大于第四阈值,且第四阈值大于第三阈值。
比如说,MDS可以将待整合从配额设备的信息发送给第二从配额设备,以使第二从配额设备获知哪个从配额设备作为待整合从配额设备。
示例性的,第二从配额设备的数量可以为一个,即由一个第二从配额设备将自身的配额整合给待整合从配额设备。第二从配额设备的数量也可以为多个,即由多个第二从配额设备将各自的配额整合给待整合从配额设备。
步骤S42、第二从配额设备基于剩余配额数量确定待整合配额数量。
示例性的,第二从配额设备可以基于第二从配额设备针对目标对象的剩余配额数量确定待整合配额数量,如将剩余配额数量作为待整合配额数量。
步骤S43、第二从配额设备向待整合从配额设备发送碎片整理消息,该碎片整理消息可以包括待整合配额数量、目标对象的唯一标识等。
步骤S44、待整合从配额设备基于待整合配额数量减少目标对象的已用配额数量,即在当前已用配额数量的基础上减少待整合配额数量,得到更新后的已用配额数量,即将待整合配额数量的配额共享给待整合从配额设备。
步骤S45、第二从配额设备基于待整合配额数量增加目标对象的已用配额数量,即在当前已用配额数量的基础上增加待整合配额数量,得到更新后的已用配额数量,即将待整合配额数量的配额共享给待整合从配额设备。
至此,完成配额碎片整理过程,使得碎片配额会集中到大容量的待整合从配额设备上,这样,待整合从配额设备可以完成后续的申请操作。
第七、配额对象的启用与关闭。
示例性的,当从配额设备作为碎片关闭对象时,表示该从配额设备已无可用配额可供分配,MDS不再发送配额申请到这个从配额设备。
示例性的,当MDS对从配额设备发起配额释放流程时,则将对应的从配额设备进行启用,后续的配额申请可以继续发送到这个从配额设备上。
第八、配额查询过程。
示例性的,MDS可以周期性(比如间隔30S)发送查询请求到所有从配额设备,每个从配额设备可以将自身管理的配额信息发送给MDS,这样,MDS可以获取每个从配额设备管理的配额信息,如每个从配额设备的配额分数量和已用配额数量等。然后,MDS可以汇总所有从配额设备的配额信息,并将所有从配额设备的汇总信息更新到主配额设备,所有从配额设备的汇总信息可以为目标对象的配额总数量(即所有从配额设备的配额分数量之和)、目标对象的总已用配额数量(即所有从配额设备的已用配额数量之和)。MDS还可以在内存中记录每个从配额设备的配额信息、所有从配额设备的汇总信息等内容。
示例性的,在配额信息的展示过程中,可以读取主配额设备存储的汇总信息并展示,如目标对象的配额总数量、目标对象的总已用配额数量。
第九、配额内存结构。
示例性的,可以基于MDS缓存中的配额信息选择从配额设备,比如说,当MDS初始化时,MDS需要读取各从配额设备的配额信息,并在内存中进行配额缓存,即存储各从配额设备的配额信息。其中,在内存中缓存以下内容:从配额设备的名称(即唯一标识)、目录名称(即目标对象的唯一标识)、配额上限(即配额分数量)、已用配额数量、可用配额数量(即剩余配额数量)。
示例性的,当MDS触发配额周期性查询、配额碎片整理、配额再均衡等过程后,还可以同步更新配额缓存,即同步更新上述内存中缓存的内容。
第十、配额修改过程。
示例性的,当需要对某一个目标对象(如目录等)进行配额修改时,需要更新主配额设备存储的配额整体信息(即配额总数量)和各从配额设备存储的分担配额信息(即配额分数量)。比如说,可以从所有从配额设备获取分担配额信息,更新目录实际配额使用情况,判断是否具有修改条件。修改主配额设备记录的配额整体信息,并根据新阈值调整各从配额设备的分担配额信息。
第十一、配额删除过程。
示例性的,当需要对某一个目标对象(如目录等)进行配额删除时,只需要删除主配额设备存储的该目标对象的配额整体信息(即配额总数量)和各从配额设备存储的该目标对象的分担配额信息(即配额分数量)即可。
由以上技术方案可见,本申请实施例中,文件存储系统可以包括主配额设备和多个从配额设备,由多个从配额设备共同存储目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为目标对象的配额总数量,从而由多个从配额设备共同实现配额查询功能,而不是由一个主配额设备单独实现配额查询功能,这样,MDS每次接收到文件写入请求后,可以从任意一个从配额设备查询是否允许针对目标对象的文件写入,在高并发场景下,多个从配额设备共同实现配额查询功能时,不会出现访问性能瓶颈,能够及时反馈目标对象的配额信息,使得MDS能够及时获知是否允许针对目标对象的文件写入,通过分布式配额管理解决配额性能瓶颈,可以有效的提升文件存储系统的存储性能。通过将配额分担到更多的从配额设备进行管理,达到降低单点性能瓶颈的效果。
基于与上述方法同样的申请构思,本申请实施例中提出一种文件存储装置,文件存储系统包括主配额设备和多个从配额设备,所述主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储所述目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为所述配额总数量,所述装置应用于任一从配额设备,参见图2所示,为所述装置的结构示意图,所述装置包括:
接收模块21,用于接收元数据服务器MDS发送的针对所述目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;
确定模块22,用于基于所述从配额设备存储的所述目标对象的配额分数量和所述目标对象的已用配额数量,确定所述目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;
发送模块23,用于若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
处理模块24,用于基于所述申请配额数量更新目标对象的已用配额数量。
示例性的,所述发送模块23,还用于若所述申请配额数量大于所述剩余配额数量,则向多个其它从配额设备发送针对所述目标对象的借用请求消息,所述借用请求消息包括借用配额数量,所述借用配额数量基于所述申请配额数量和所述剩余配额数量确定;所述处理模块24,还用于若接收到至少一个候选从配额设备返回的借用响应消息,则选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是所述多个其它从配额设备中的针对所述目标对象的剩余配额数量大于或等于所述借用配额数量的其它从配额设备;所述发送模块23,还用于向所述目标从配额设备发送借用确认消息,以使所述目标从配额设备基于所述借用配额数量更新所述目标对象的已用配额数量;向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;所述处理模块24,还用于基于所述借用配额数量更新目标对象的已用配额数量。
示例性的,所述发送模块23,还用于在向其它从配额设备发送针对所述目标对象的借用请求消息后,若未接收到候选从配额设备返回的借用响应消息,则向所述MDS发送配额拒绝响应,以使所述MDS禁止写入所述目标文件。
示例性的,所述处理模块24选择一个候选从配额设备作为目标从配额设备时具体用于:若所述借用响应消息包括候选从配额设备存储的所述目标对象的配额分数量,基于各候选从配额设备对应的配额分数量,选择配额分数量与所述申请配额数量最接近的候选从配额设备作为所述目标从配额设备;或者,选择配额分数量最大的候选从配额设备作为所述目标从配额设备;或,
若所述借用响应消息包括候选从配额设备针对所述目标对象的剩余配额数量,基于各候选从配额设备对应的剩余配额数量,选择剩余配额数量与所述借用配额数量最接近的候选从配额设备作为所述目标从配额设备;或者,选择剩余配额数量最大的候选从配额设备作为所述目标从配额设备。
示例性的,若所述配额总数量为文件数配额总数量M,从配额设备的数量为N,则前N-1个从配额设备存储的配额分数量均为M/N的向下取整值,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;
其中,所述MDS采用轮询策略从所有从配额设备中选择一个从配额设备,并将针对所述目标对象的配额申请请求发送给该从配额设备;
若所述配额总数量为文件容量配额总数量M,则前N-1个从配额设备存储的配额分数量为M*1/2 k,k表示前N-1个从配额设备中第k个从配额设备,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;
其中,所述MDS采用目标策略从所有从配额设备中选择一个从配额设备,并将针对所述目标对象的配额申请请求发送给该从配额设备;其中,所述目标策略为:选择配额分数量与申请配额数量最接近的从配额设备,或者,选择配额分数量最大的从配额设备,或者,选择剩余配额数量与申请配额数量最接近的从配额设备,或者,选择剩余配额数量最大的从配额设备。
示例性的,若接收到所述MDS发送的针对所述目标对象的配额释放请求,所述配额释放请求包括待释放配额数量,所述处理模块24,还用于若所述目标对象的已用配额数量大于或等于所述待释放配额数量,则基于所述待释放配额数量更新所述目标对象的已用配额数量;所述发送模块23,还用于若所述已用配额数量小于所述待释放配额数量,则向多个其它从配额设备发送针对所述目标对象的配额回收消息,所述配额回收消息包括待回收配额数量,所述待回收配额数量基于所述待释放配额数量和所述已用配额数量确定;所述处理模块24,还用于若接收到至少一个候选从配额设备返回的配额回收响应,则选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是所述多个其它从配额设备中的针对所述目标对象的已用配额数量大于或等于所述待回收配额数量的其它从配额设备;所述发送模块23,还用于向所述目标从配额设备发送配额回收确认,以使所述目标从配额设备基于所述待回收配额数量更新所述目标对象的已用配额数量;所述处理模块24,还用于基于所述待回收配额数量更新所述目标对象的已用配额数量。
示例性的,若所述从配额设备针对所述目标对象的剩余配额数量小于第一阈值,且触发所述多个从配额设备的配额重均衡过程,所述处理模块24,还用于获取待均衡从配额设备,所述待均衡从配额设备针对所述目标对象的剩余配额数量大于第二阈值,所述第二阈值大于所述第一阈值;获取待均衡配额数量;所述发送模块23,还用于向所述待均衡从配额设备发送配额重均衡消息,所述配额重均衡消息包括所述待均衡配额数量,以使所述待均衡从配额设备基于所述待均衡配额数量增加所述目标对象的已用配额数量;所述处理模块24,还用于基于所述待均衡配额数量减少所述目标对象的已用配额数量。
示例性的,若所述从配额设备针对所述目标对象的剩余配额数量小于第三阈值,且触发所述多个从配额设备的配额碎片整理过程,所述处理模块24,还用于获取待整合从配额设备,所述待整合从配额设备针对所述目标对象的剩余配额数量大于第四阈值,所述第四阈值大于所述第三阈值;基于所述剩余配额数量确定待整合配额数量;所述发送模块23,还用于向所述待整合从配额设备发送碎片整理消息,所述碎片整理消息包括所述待整合配额数量,以使待整合从配额设备基于所述待整合配额数量减少所述目标对象的已用配额数量;所述处理模块24,还用于基于所述待整合配额数量增加目标对象的已用配额数量。
基于与上述方法同样的申请构思,本申请实施例提出一种电子设备(如上述从配额设备),参见图3所示,电子设备包括处理器31和机器可读存储介质32,机器可读存储介质32存储有能够被处理器31执行的机器可执行指令;处理器31用于执行机器可执行指令,以实现本申请上述示例公开的文件存储方法。
基于与上述方法同样的申请构思,本申请实施例还提供一种机器可读存储介质,所述机器可读存储介质上存储有若干计算机指令,所述计算机指令被处理器执行时,能够实现本申请上述示例公开的文件存储方法。
其中,上述机器可读存储介质可以是任何电子、磁性、光学或其它物理存储装置,可以包含或存储信息,如可执行指令、数据,等等。例如,机器可读存储介质可以是:RAM(Radom Access Memory,随机存取存储器)、易失存储器、非易失性存储器、闪存、存储驱动器(如硬盘驱动器)、固态硬盘、任何类型的存储盘(如光盘、dvd等),或者类似的存储介质,或者它们的组合。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机,计算机的具体形式可以是个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件收发设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任意几种设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本申请的实施例可提供为方法、系统、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可以由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其它可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其它可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
而且,这些计算机程序指令也可以存储在能引导计算机或其它可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或者多个流程和/或方框图一个方框或者多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其它可编程数据处理设备上,使得在计算机或者其它可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其它可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅为本申请的实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。
Claims (10)
1.一种文件存储方法,其特征在于,文件存储系统包括主配额设备和多个从配额设备,所述主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储所述目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为所述配额总数量,所述方法应用于任一从配额设备,所述方法包括:
接收元数据服务器MDS发送的针对所述目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;
基于所述从配额设备存储的所述目标对象的配额分数量和所述目标对象的已用配额数量,确定所述目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;
若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
基于所述申请配额数量更新所述目标对象的已用配额数量。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
若所述申请配额数量大于所述剩余配额数量,则向多个其它从配额设备发送针对所述目标对象的借用请求消息,所述借用请求消息包括借用配额数量,所述借用配额数量基于所述申请配额数量和所述剩余配额数量确定;
若接收到至少一个候选从配额设备返回的借用响应消息,则选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是所述多个其它从配额设备中的剩余配额数量大于或等于所述借用配额数量的其它从配额设备;
向所述目标从配额设备发送借用确认消息,以使所述目标从配额设备基于所述借用配额数量更新所述目标对象的已用配额数量;
向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
基于所述借用配额数量更新所述目标对象的已用配额数量。
3.根据权利要求2所述的方法,其特征在于,所述向多个其它从配额设备发送针对所述目标对象的借用请求消息后,所述方法还包括:
若未接收到候选从配额设备返回的借用响应消息,则向所述MDS发送配额拒绝响应,以使所述MDS禁止写入所述目标文件。
4.根据权利要求2所述的方法,其特征在于,
所述选择一个候选从配额设备作为目标从配额设备,包括:
若所述借用响应消息包括候选从配额设备存储的所述目标对象的配额分数量,基于各候选从配额设备对应的配额分数量,选择配额分数量与所述申请配额数量最接近的候选从配额设备作为所述目标从配额设备;或者,选择配额分数量最大的候选从配额设备作为所述目标从配额设备;或,
若所述借用响应消息包括候选从配额设备针对所述目标对象的剩余配额数量,基于各候选从配额设备对应的剩余配额数量,选择剩余配额数量与所述借用配额数量最接近的候选从配额设备作为所述目标从配额设备;或者,选择剩余配额数量最大的候选从配额设备作为所述目标从配额设备。
5.根据权利要求1-4任一项所述的方法,其特征在于,
若所述配额总数量为文件数配额总数量M,从配额设备的数量为N,则前N-1个从配额设备存储的配额分数量均为M/N的向下取整值,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;
其中,所述MDS采用轮询策略从所有从配额设备中选择一个从配额设备,并将针对所述目标对象的配额申请请求发送给该从配额设备;
或者,
若所述配额总数量为文件容量配额总数量M,则前N-1个从配额设备存储的配额分数量为M*1/2 k,k表示前N-1个从配额设备中第k个从配额设备,第N个从配额设备存储的配额分数量为M减前N-1个从配额设备的配额分数量之和;
其中,所述MDS采用目标策略从所有从配额设备中选择一个从配额设备,并将针对所述目标对象的配额申请请求发送给该从配额设备;其中,所述目标策略为:选择配额分数量与申请配额数量最接近的从配额设备,或者,选择配额分数量最大的从配额设备,或者,选择剩余配额数量与申请配额数量最接近的从配额设备,或者,选择剩余配额数量最大的从配额设备。
6.根据权利要求1-4任一项所述的方法,其特征在于,
若接收到所述MDS发送的针对所述目标对象的配额释放请求,所述配额释放请求包括待释放配额数量,所述方法还包括:
若所述目标对象的已用配额数量大于或等于所述待释放配额数量,则基于所述待释放配额数量更新所述目标对象的已用配额数量;
若所述已用配额数量小于所述待释放配额数量,则向多个其它从配额设备发送针对所述目标对象的配额回收消息,所述配额回收消息包括待回收配额数量,所述待回收配额数量基于所述待释放配额数量和所述已用配额数量确定;
若接收到至少一个候选从配额设备返回的配额回收响应,则选择一个候选从配额设备作为目标从配额设备;其中,各候选从配额设备是所述多个其它从配额设备中的已用配额数量大于或等于所述待回收配额数量的其它从配额设备;
向所述目标从配额设备发送配额回收确认,以使所述目标从配额设备基于所述待回收配额数量更新所述目标对象的已用配额数量;
基于所述待回收配额数量更新所述目标对象的已用配额数量。
7.根据权利要求1-4任一项所述的方法,其特征在于,
若所述从配额设备针对所述目标对象的剩余配额数量小于第一阈值,且触发所述多个从配额设备的配额重均衡过程,所述方法还包括:
获取待均衡从配额设备,所述待均衡从配额设备针对所述目标对象的剩余配额数量大于第二阈值,所述第二阈值大于所述第一阈值;
获取待均衡配额数量,并向所述待均衡从配额设备发送配额重均衡消息,所述配额重均衡消息包括所述待均衡配额数量,以使所述待均衡从配额设备基于所述待均衡配额数量增加所述目标对象的已用配额数量;
基于所述待均衡配额数量减少所述目标对象的已用配额数量。
8.根据权利要求1-4任一项所述的方法,其特征在于,
若所述从配额设备针对所述目标对象的剩余配额数量小于第三阈值,且触发所述多个从配额设备的配额碎片整理过程,所述方法还包括:
获取待整合从配额设备,所述待整合从配额设备针对所述目标对象的剩余配额数量大于第四阈值,所述第四阈值大于所述第三阈值;
基于所述剩余配额数量确定待整合配额数量,向所述待整合从配额设备发送碎片整理消息,所述碎片整理消息包括所述待整合配额数量,以使所述待整合从配额设备基于所述待整合配额数量减少所述目标对象的已用配额数量;
基于所述待整合配额数量增加所述目标对象的已用配额数量。
9.一种文件存储装置,其特征在于,文件存储系统包括主配额设备和多个从配额设备,所述主配额设备用于存储目标对象的配额总数量,各从配额设备用于存储所述目标对象的配额分数量,且所有从配额设备存储的配额分数量之和为所述配额总数量,所述装置应用于任一从配额设备,所述装置包括:
接收模块,用于接收元数据服务器MDS发送的针对所述目标对象的配额申请请求,所述配额申请请求包括待写入的目标文件对应的申请配额数量;
确定模块,用于基于所述从配额设备存储的所述目标对象的配额分数量和所述目标对象的已用配额数量,确定所述目标对象的剩余配额数量;其中,所述已用配额数量表示所述从配额设备为所述目标对象分配的配额数量;
发送模块,用于若所述申请配额数量小于或等于所述剩余配额数量,则向所述MDS发送配额同意响应,以使所述MDS写入所述目标文件;
处理模块,用于基于所述申请配额数量更新所述目标对象的已用配额数量。
10.一种电子设备,其特征在于,包括:处理器和机器可读存储介质,所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令;所述处理器用于执行机器可执行指令,以实现权利要求1-8任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211620845.1A CN115617747B (zh) | 2022-12-16 | 2022-12-16 | 一种文件存储方法、装置及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211620845.1A CN115617747B (zh) | 2022-12-16 | 2022-12-16 | 一种文件存储方法、装置及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115617747A CN115617747A (zh) | 2023-01-17 |
CN115617747B true CN115617747B (zh) | 2023-03-28 |
Family
ID=84880320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211620845.1A Active CN115617747B (zh) | 2022-12-16 | 2022-12-16 | 一种文件存储方法、装置及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115617747B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103064639A (zh) * | 2012-12-28 | 2013-04-24 | 华为技术有限公司 | 数据存储方法及装置 |
CN109388614A (zh) * | 2018-09-27 | 2019-02-26 | 郑州云海信息技术有限公司 | 一种目录文件个数配额的方法、系统及设备 |
CN113342746A (zh) * | 2021-08-06 | 2021-09-03 | 联想凌拓科技有限公司 | 文件管理系统、文件管理方法、电子设备和存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6832248B1 (en) * | 2001-05-10 | 2004-12-14 | Agami Systems, Inc. | System and method for managing usage quotas |
US9285992B2 (en) * | 2011-12-16 | 2016-03-15 | Netapp, Inc. | System and method for optimally creating storage objects in a storage system |
CN108924186A (zh) * | 2018-06-04 | 2018-11-30 | 郑州云海信息技术有限公司 | 一种云管平台中文件存储的创建方法和系统 |
CN108829352B (zh) * | 2018-06-06 | 2021-03-30 | 郑州云海信息技术有限公司 | 一种分布式存储系统的用户配额方法及系统 |
CN109669630A (zh) * | 2018-12-06 | 2019-04-23 | 郑州云海信息技术有限公司 | 一种海量存储系统的目录文件个数配额方法 |
CN111552438B (zh) * | 2020-04-23 | 2023-07-28 | 广州市百果园信息技术有限公司 | 一种对象写入的方法、装置、服务器和存储介质 |
CN113672175A (zh) * | 2021-08-09 | 2021-11-19 | 浙江大华技术股份有限公司 | 分布式对象存储方法、装置和设备及计算机存储介质 |
-
2022
- 2022-12-16 CN CN202211620845.1A patent/CN115617747B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103064639A (zh) * | 2012-12-28 | 2013-04-24 | 华为技术有限公司 | 数据存储方法及装置 |
CN109388614A (zh) * | 2018-09-27 | 2019-02-26 | 郑州云海信息技术有限公司 | 一种目录文件个数配额的方法、系统及设备 |
CN113342746A (zh) * | 2021-08-06 | 2021-09-03 | 联想凌拓科技有限公司 | 文件管理系统、文件管理方法、电子设备和存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115617747A (zh) | 2023-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9934231B2 (en) | System and methods for prioritizing data in a cache | |
US9805048B2 (en) | System and method for managing a deduplication table | |
CN106066896B (zh) | 一种应用感知的大数据重复删除存储系统及方法 | |
CN113094396B (zh) | 基于节点内存的数据处理方法、装置、设备以及介质 | |
JP4317531B2 (ja) | 複数のメモリ・バッファ・サイズを均衡させるためのシステムおよび方法 | |
US20150215656A1 (en) | Content management apparatus and method, and storage medium | |
CN107077300A (zh) | 用于平衡分段清除与i/o工作负载的速率匹配技术 | |
CN103116552A (zh) | 用于在分布式存储系统中分配存储空间的方法和装置 | |
US8700684B2 (en) | Apparatus and method for managing a file in a distributed storage system | |
US8868863B2 (en) | Method and apparatus for a frugal cloud file system | |
CN109726139A (zh) | 存储器系统及控制方法 | |
CN102253869A (zh) | 可缩放的容错元数据服务 | |
CN112114753B (zh) | 一种数据写入方法、装置及设备 | |
US11093410B2 (en) | Cache management method, storage system and computer program product | |
US10613755B1 (en) | Efficient repurposing of application data in storage environments | |
CN102164160A (zh) | 支持大并发量文件下载的方法、装置及系统 | |
CN107341114B (zh) | 一种目录管理的方法、节点控制器和系统 | |
CN109063103A (zh) | 一种分布式非易失文件系统 | |
CN107665098A (zh) | 信息处理方法、存储设备及计算机存储介质 | |
KR20100073154A (ko) | 메타데이터 서버, 데이터 서버의 데이터 처리 방법 및 이를이용한 비대칭 클러스터 분산 파일 시스템 | |
CN107172152B (zh) | 一种基于ceph集群cap机制统计配额系统及方法 | |
EP2746958B1 (en) | Method and system of caching web content in a hard disk | |
CN105162869B (zh) | 一种用于数据备份管理的方法与设备 | |
CN109656836A (zh) | 一种数据处理方法及装置 | |
US10387043B2 (en) | Writing target file including determination of whether to apply duplication elimination |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |