CN114564450A - 分布式文件系统的处理方法、装置、系统、介质和设备 - Google Patents
分布式文件系统的处理方法、装置、系统、介质和设备 Download PDFInfo
- Publication number
- CN114564450A CN114564450A CN202210208799.8A CN202210208799A CN114564450A CN 114564450 A CN114564450 A CN 114564450A CN 202210208799 A CN202210208799 A CN 202210208799A CN 114564450 A CN114564450 A CN 114564450A
- Authority
- CN
- China
- Prior art keywords
- file
- address
- target
- addresses
- temporary
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
- G06F16/162—Delete operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/178—Techniques for file synchronisation in file systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1095—Replication or mirroring of data, e.g. scheduling or transport for data synchronisation between network nodes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明实施例提供一种分布式文件系统的处理方法、装置、系统、介质和设备,处理方法包括:当安装并启动文件系统时,当前服务器组中的若干服务器分别在注册中心注册属性信息作为存储服务被使用;当接收到用户端发起的上传一个目标文件时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址;将目标文件上传至与目标地址对应的存储服务,并获得一个与目标文件对应的文件ID;将目标文件对应的文件ID和文件名称录入数据库,并将目标文件对应的文件名称返回至用户端。本发明实施例提供的分布式文件系统的处理方法,支持区域内部优先访问,提高了文件的操作效率。
Description
技术领域
本发明涉及信息技术领域,尤其涉及一种分布式文件系统的处理方法、装置、系统、介质和设备。
背景技术
目前,分布式文件系统有很多,基本上只提供了文件的上传、下载、删除等基本功能。在设计和部署架构上相对简单无法提供高可靠的容错能力,对于多中心如同城双活架构下也无法保证区域优先的原则。
发明内容
有鉴于此,本发明实施例的目的在于提供一种分布式文件系统的处理方法、装置、系统、介质和设备,使得分布式文件系统能够支持区域内部优先访问,提升对文件操作的效率。
为达到上述目的,第一方面,本发明提供一种分布式文件系统的处理方法,所述方法包括:
当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,其中,所述区域优先策略是指从所述注册中心获取已注册的IP地址后,按照所述IP地址对应的服务器的磁盘剩余容量和所述IP地址注册的先后顺序挑选出与所述用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;
将所述目标文件上传至与所述目标地址对应的存储服务,并从所述存储服务获得一个与所述目标文件对应的文件ID;
将所述目标文件对应的文件ID和文件名称录入数据库,并将所述目标文件对应的文件名称返回至所述用户端。
在一些可能的实施方式中,在将所述目标文件上传至与所述目标地址对应的存储服务之后,还可以包括:
触发已注册的IP地址中除所述目标地址外的剩余IP地址分别将所述目标文件同步上传至所述剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。
在一些可能的实施方式中,所述方法还可以包括:
当所述目标文件为临时文件时,将临时文件上传时间录入数据库。
在一些可能的实施方式中,在将临时文件上传时间录入数据库之后,还包括:
根据所述临时文件标识和所述临时文件上传时间,定时地检索所述数据库中到期的临时文件;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;
根据所述临时文件ID从所述待清理临时文件的目标地址对应的存储服务中删除所述到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除所述到期的临时文件。
在一些可能的实施方式中,所述根据临时文件标识和临时文件上传时间,定时地检索所述数据库中到期的临时文件,具体可以包括:
当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将所述临时文件判定为到期的临时文件,并删除所述数据库中录入的所述到期的临时文件的录入信息。
在一些可能的实施方式中,所述方法还可以包括:
当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从所述数据库获取待下载的文件名称对应的待下载的文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;
根据所述待下载的文件ID从所述下载文件的目标地址对应的存储服务中下载文件;
将下载的文件返回给用户端。
在一些可能的实施方式中,所述方法还可以包括:
当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从所述数据库获取待删除的文件名称对应的待删除文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;
根据所述待删除文件ID,从所述待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除所述待删除文件;
将删除成功标识返回至用户端。
第二方面,本发明实施例提供了一种分布式文件系统的处理装置,所述处理装置包括:
获取与选择模块,用于当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,其中,所述区域优先策略是指从所述注册中心获取已注册的IP地址后,按照所述IP地址对应的服务器的磁盘剩余容量和所述IP地址注册的先后顺序挑选出与所述用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;
上传模块,用于将所述目标文件上传至与所述目标地址对应存储服务,并从所述存储服务获得一个与所述目标文件对应的文件ID;
录入与返回模块,用于将所述目标文件对应的文件ID、文件名称录入数据库,并将所述目标文件对应的文件名称返回至用户端。
在一些可能的实施方式中,还可以包括:
触发模块,用于触发已注册的IP地址中除所述目标地址外的剩余IP地址分别将所述目标文件同步上传至所述剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。
在一些可能的实施方式中,还可以包括:
时间录入模块,用于当所述目标文件为临时文件时,将临时文件上传时间录入数据库。
在一些可能的实施方式中,还可以包括:
定时检索模块,用于根据所述临时文件上传时间,定时地检索所述数据库中到期的临时文件;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;根据所述临时文件ID从所述待清理临时文件的目标地址对应的存储服务中删除所述到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除所述到期的临时文件;其中,到期的临时文件是指,当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将所述临时文件判定为到期的临时文件。
在一些可能的实施方式中,还可以包括:
文件下载模块,用于当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从所述数据库获取待下载的文件名称对应的待下载的文件ID;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;根据所述待下载的文件ID从所述下载文件的目标地址对应的存储服务中下载文件;将下载的文件返回给用户端。
在一些可能的实施方式中,还可以包括:
文件删除模块,用于当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从所述数据库获取待删除的文件名称对应的待删除文件ID;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;根据所述待删除文件ID,从所述待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除所述待删除文件;将删除成功标识返回至用户端。第三方面,本发明实施例提供了一种分布式文件系统的处理系统,所述系统包括第二方面所述的处理装置以及一个或多个服务器组;
所述一个或多个服务器组中的若干服务器分别在所述处理装置中的注册中心注册属性信息作为存储服务被使用,其中,所述属性信息包括IP地址和磁盘剩余容量;
所述一个服务器组中的若干台服务器分别定时地在注册中心注册属性信息,当所述一个服务器组磁盘剩余容量不足时,通过依次增加多个服务器组进行磁盘容量的扩容。
第四方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述任意一种分布式文件系统的处理方法。
第五方面,本发明实施例提供了一种电子设备,其包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如上述任意一种分布式文件系统的处理方法。
上述技术方案具有如下有益效果:
本发明提供了一种分布式文件系统的处理方法、装置、介质和设备,包括如下步骤:当安装并启动文件系统时,当前服务器组中的若干服务器分别在注册中心注册属性信息作为存储服务被使用;当接收到用户端发起的上传一个目标文件时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址;将目标文件上传至与目标地址对应的存储服务,并获得一个与目标文件对应的文件ID;将目标文件对应的文件ID和文件名称录入数据库,并将目标文件对应的文件名称返回至用户端。本发明实施例根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,使得分布式文件系统支持区域内部优先访问,提高了对文件的操作效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例的一种分布式文件系统的处理方法流程图;
图2是本发明实施例的作为一个举例说明的文件上传的部署流程图;
图3是本发明实施例的一种组内文件同步的部署流程图;
图4是本发明实施例的临时文件上传的部署流程图;
图5是本发明实施例的一种自动清理到期的临时文件的部署流程图;
图6是本发明实施例的一种下载文件的部署流程图;
图7是本发明实施例的一种删除文件的部署流程图;
图8是本发明实施例的一种区域优先策略的部署流程图;
图9是本发明实施例的第一种分布式文件系统的处理装置的结构框图;
图10是本发明实施例的第二种分布式文件系统的处理装置的结构框图;
图11是本发明实施例的第三种分布式文件系统的处理装置的结构框图;
图12是本发明实施例的第四种分布式文件系统的处理装置的结构框图;
图13是本发明实施例的第五种分布式文件系统的处理装置的结构框图;
图14是本发明实施例的第六种分布式文件系统的处理装置的结构框图;
图15是本发明实施例的一种分布式文件系统的处理系统的结构框图;
图16是本发明实施例的一种组间扩容的部署图;
图17是本发明实施例的一种计算机可读存储介质的功能框图;
图18是本发明实施例的一种电子设备的功能框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
实施例一
图1是本发明实施例提供的一种分布式文件系统的处理方法的流程图,该文件系统的处理方法包括如下步骤:
S110,当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址。
本实施例中,当文件系统接收到用户端发起的上传一个目标文件的请求时,即当用户端选择一个目标文件发起上传文件系统时,文件系统从注册中心获取到多个已注册的IP地址,根据区域优先策略从多个IP地址中选择一个地址作为目标地址用于上传文件。具体的,每台服务器都会往注册中心排队注册属性信息,包括IP地址和磁盘剩余容量信息,另外,局域网内部如果设置了防火墙策略就可以将网络划分为两个区域,彼此相邻就互为相邻区域,本区域内部就叫同一区域,根据区域优先策略,首先会从注册中心获取与用户端在同一个区域的已注册的IP地址后,按照每个IP地址对应服务器的磁盘剩余容量和服务器注册的先后顺序挑选出与用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;例如,如果同一区域中有多个IP地址,那么我们就会选择磁盘剩余容量较大的这个IP地址对应的存储服务,在如果有两个或多个服务器的磁盘剩余容量相同的情况,我们会按照注册的先后顺序选择先注册的IP地址对应的存储服务。本发明实施例通过区域优先策略,可以提高文件的处理效率。
S120,将目标文件上传至与目标地址对应的存储服务,并从存储服务获得一个与目标文件对应的文件ID。
具体的,文件系统确定要上传的目标地址后,将用户端选择的目标文件上传至目标地址对应的存储服务中,并且会从存储服务得到一个与目标文件对应的文件ID。
S130,将目标文件对应的文件ID和文件名称录入数据库,并将目标文件对应的文件名称返回至用户端。
具体的,文件系统将得到的目标文件对应的文件ID和文件名称记录到数据库,并且将文件名称返回给用户端,以便用户端后续根据文件名称从文件系统中下载此文件和/或删除此文件等。
图2是本发明实施例的作为一个举例说明的文件上传的部署流程图,如图2所示,本实施例中的当前服务器组为A组,A组服务器组中可以有多台服务器,多台服务器中的部分或者全部可以在注册中心注册存储服务,用于存储用户端上传的文件,例如,A组服务器中有两台服务器分别在注册中心注册了存储服务A1和A2,即存储服务A1和存储服务A2分别部署在这两台服务器上,每台服务器都有一个唯一的地址,通过这个唯一的地址就能访问此台服务器上部署的存储服务A1或A2。具体文件上传流程如下:
S11,当安装并启动文件系统时,A组服务器在注册中心注册了两个IP地址,分别对应于存储服务A1和存储服务A2,存储服务A1和存储服务A2作为存储文件的载体,用于存储用户上传的文件。
S12,用户端可以选择一个目标文件发起上传至文件系统的请求,其中,上传的目标文件包括目标文件对应的文件名称。
S13,当文件系统接收到用户端上传的目标文件时,文件系统从注册中心获取到两个IP地址,分别为存储服务A1和存储服务A2对应的IP地址,然后,根据区域优先策略从两个IP地址中选择一个IP地址作为上传的目标文件的地址。
S14,文件系统通过选择的IP地址将目标文件上传至存储服务A1或者存储服务A2,并获得一个与上传的目标文件对应的文件ID,将目标文件上传到存储服务A1或者存储服务A2后都会从对应的存储服务A1或A2获得一个唯一的ID,此ID与上传的目标文件一一对应,根据这个文件ID就能找到上传的文件。
S15,文件系统将文件ID与上传的目标文件对应的文件名称录入数据库,用于记录上传文件的信息。
S16,文件系统将上传的目标文件的文件名称返回给用户端,以便后续用户端根据文件名称对上传的文件进行下载和/或删除等操作。
本发明实施例通过在注册中心注册若干IP地址,再根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,使得分布式文件系统支持区域内部优先访问,提高了文件的操作效率。
图3是本发明实施例的一种组内文件同步的部署流程图,如图3所示,在一些实施例中,在将目标文件上传至与目标地址对应的存储服务之后,还包括如下步骤:触发已注册的IP地址中除目标IP地址外的剩余IP地址分别对应的存储服务同步上传目标文件,使得已注册的每个IP地址对应的存储文件相互备份。
具体的,存储服务A1和存储服务A2分别在注册中心注册属性信息,作为存储服务被使用,当文件系统根据区域优先策略选择存储服务A1或者存储服务A2中的一个对应的IP地址作为目标地址时,例如,选择存储服务A1作为文件存储的载体,通过存储服务A1的IP地址将文件上传至存储服务A1后,会触发A2同步上传该文件,可以使得文件在组内(A组内)的每个存储服务(存储服务A1和存储服务A2)中是相互备份的,即每个存储服务中存储的文件保持一致性,以便于保证一个存储服务无法提供服务时另外的存储服务能够正常提供服务。
本发明实施例支持高可靠的容错机制,当区域内部无法访问存储服务时可以访问其他区域的存储服务。
文件在同组(A组)的存储服务(A1和A2)中,是互相备份的,两边文件一致,保证一边无法提供服务时另外一边正常提供服务,本发明实施例中,同组内的存储服务数量越多,容灾能力越强。
图4是本发明实施例的临时文件上传的部署流程图,如图4所示,在一些实施例中,当目标文件为临时文件(所谓临时文件是指,上传的文件具有一定的实效性,超过一定时间将要自动删除以节省磁盘空间的文件)时,将临时文件上传时间录入数据库,此处,上传临时文件时同时将临时文件的上传时间录入数据库,就标识该上传的文件是临时文件。以A组存储服务为例,具体临时文件上传流程如下:
S21,当安装并启动文件系统时,A组服务器在注册中心注册了多个属性信息,该属性信息包括IP地址和磁盘剩余容量,图4中分别为存储服务A1和存储服务A2,存储服务A1和存储服务A2作为存储文件的载体,用于存储用户上传的文件,包括临时文件。
S22,用户端可以选择一个临时文件发起上传至文件系统,上传的临时文件还包括临时文件名称和临时文件上传时间。
S23,当文件系统接收到用户端上传的临时文件时,文件系统从注册中心获取到两个IP地址,分别为存储服务A1和存储服务A2对应的IP地址,然后,根据区域优先策略从两个IP地址中选择一个IP地址作为上传临时文件的地址。
S24,文件系统通过选择的IP地址将临时文件上传至存储服务A1或者存储服务A2,并获得一个上传的临时文件对应的文件ID;
将临时文件上传到存储服务A1或者存储服务A2后都会从存储服务A1或存储服务A2获得一个唯一的临时文件ID,此临时文件ID与临时文件一一对应,根据这个临时文件ID就能找到上传的临时文件。
S25,文件系统将临时文件ID、临时文件名称、临时文件标识和临时文件上传时间录入数据库,用于记录上传的临时文件的信息。
S26,文件系统将临时文件名称返回给用户端,以便后续用户端根据临时文件名称对上传的临时文件进行下载和/或删除等操作。
图5是本发明实施例的一种自动清理到期的临时文件的部署流程图,如图5所示,本实施例中,上传的临时文件有一定的时效性,超过一定时间需要自动删除以节省磁盘空间。因此,在将临时文件上传时间录入数据库之后,还可以包括:
S31,根据临时文件上传时间定时地检索数据库中到期的临时文件,具体的,文件系统的定时任务定时地检索数据库,比如五分钟查询一次,以临时文件标识为条件从数据库中检索出需要清理的临时文件信息,例如,当定时任务的检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值(比如24小时)时,判定为到期的临时文件。另外,这个临时文件的存储时间可以由文件系统任意设定,可以设定所有临时文件统一使用一个存储时间,也可以根据实际需要分别设定临时文件的存储时间,检索出到期的临时文件后将删除数据库中录入的到期的临时文件的录入信息。
S32,文件系统从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为将要清理临时文件的目标地址;
S33,根据临时文件ID从清理临时文件的目标地址对应的存储服务中删除到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除到期的临时文件,使得组内的所有存储服务文件同步。
本发明实施例可以定时查询数据库,自动清理数据库中的临时文件录入信息,以及删除存储服务中的临时文件,自动节省磁盘空间。
图6是本发明实施例的一种下载文件的部署流程图,如图6所示,在一些实施例中,用户端上传完文件后,还可以下载上传的文件,以A组存储服务为例,下载文件的具体流程如下:
S41,文件下载,用户端发起文件下载的请求;
S42,根据文件名称获取文件ID,当接收到用户端输入的需要下载的文件名称时,根据需要下载的文件名称从数据库获取需要下载的文件名称对应的文件ID;
用户端输入需要下载的文件名称到文件系统,当接收到用户端输入的需要下载的文件名称时,文件系统根据要下载的文件名称从数据库获取到要下载的文件对应的文件ID。
S43,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为下载文件的目标地址;
文件系统需要根据区域优先策略从已注册的IP地址(即存储服务A1和存储服务A2的对应IP地址)中选择一个作为下载文件的目标地址。
S44,根据文件ID下载文件。
具体地,根据下载文件ID从下载文件的目标地址对应的存储服务中下载文件;
在上传文件到存储服务后都会返回一个唯一的ID,此ID与文件名称一一对应,根据这个文件ID就能找到需要下载的文件。
S45,将下载的文件返回给用户端。
图7是本发明实施例的一种删除文件的部署流程图,如图7所示,在一些实施例中,用户端上传完文件后,还可以删除上传的文件,以释放磁盘存储空间,以A组存储服务为例,删除文件的具体流程如下:
S51,删除文件,用户端发起删除已上传的文件请求;
S52,当接收到用户端输入的需要删除的文件名称时,根据需要删除的文件名称从数据库获取需要删除的文件名称对应的文件ID;
用户端输入需要删除的文件名称到文件系统,当接收到用户端输入的需要删除的文件名称时,文件系统根据要删除的文件名称从数据库获取到要删除的文件对应的文件ID。
S53,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为删除文件的目标地址;
文件系统需要根据区域优先策略从已注册的IP地址(即存储服务A1和存储服务A2对应的IP地址)中选择一个作为删除文件的目标地址。
S54,根据文件ID从删除文件的目标地址对应的存储服务中将待删除的文件删除,同时触发剩余IP地址对应的存储服务同步删除该待删除的文件;
S55,通知用户端删除成功,文件系统删除用户请求删除的文件后,会返回删除成功的标识给用户端。
另外,需要说明的是,删除组内(例如A组)中一个存储服务中的文件后,会触发组内其他存储服务同步删除该文件,使得组内多个存储服务的存储文件一致性。例如,删除存储服务A1中的文件后,会触发存储服务A2同样删除该文件,使得存储服务A1和存储服务A2中存储的文件保持一致。
在一些实施例中,对于文件的上传、下载和删除等操作,由于文件流比较占用网络带宽,如果进行跨区域操作,会导致网络资源浪费,所以在进行文件上传、下载和删除等操作时在获取存储服务对应的IP地址信息后,会挑选出与文件使用者处于同区域的存储服务对应的IP地址,即通过同区域的IP地址对应的存储服务进行文件的上传、下载和删除等操作。例如,文件系统从注册中心获取已注册的IP地址后,挑选出与用户端处于同一区域的存储服务所对应的IP地址作为目标IP地址。
图8是本发明实施例的一种区域优先策略的部署流程图,如图8所示,以A组存储服务为例,文件系统有B1、B2两个节点,存储服务有A1、A2两个节点,如果B1和A1均在1机房(即相同区域),B2和A2均在2机房(即相同区域),那么就配置B1->A1,B2->A2,即当文件系统B1做文件操作时,访问A1存储服务。当文件系统B2做文件操作时,访问A2存储服务,从而做到本区域内优先调用。当B1访问的A1无法提供储存服务时,比如此存储服务所在的服务器被火烧了,网线被拔了等情况,B1才允许访问A2。当然,存储服务的节点越多容灾的能力越强,即只有在与用户端属于同一区域的全部IP地址对应的存储服务所在的服务器损坏等无法使用的情况下,系统才会自动选择相邻区域的IP地址对应的存储服务,其中相邻区域的界定是由系统自动识别并选择的。
本发明实施例的有益效果如下:
本发明实施例通过在注册中心注册若干IP地址,再根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,使得分布式文件系统支持区域内部优先访问,提高了对文件的操作效率;
本发明实施例支持高可靠的容错机制,当无法访问区域内部存储服务时,可以访问其他区域的存储服务;
本发明实施例可以定时查询数据库,自动清理数据库中的临时文件录入信息,以及删除存储服务中的临时文件,自动节省磁盘空间;
本发明实施例通组间扩容,可以使得文件存储的容量更大。
实施例二
图9是本发明实施例的第一种分布式文件系统的处理装置的功能框图。如图9所示,该处理装置100包括:
获取与选择模块10,用于当接收到用户端发起的上传文件请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,其中,区域优先策略是指从注册中心获取已注册的IP地址后,按照IP地址对应的服务器的磁盘剩余容量和IP地址注册的先后顺序挑选出与用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址。
本实施例中,当文件系统接收到用户端发起的上传一个目标文件时,即当用户端选择一个目标文件发起上传文件系统时,文件系统从注册中心获取到若干个已注册的IP地址,根据区域优先策略从若干个IP地址中选择一个地址作为目标地址用于上传文件。本发明实施例通过区域优先策略,可以提高文件的处理效率。具体的,每台服务器都会往注册中心排队注册属性信息,包括IP地址和磁盘剩余容量信息,另外,局域网内部如果设置了防火墙策略就可以将网络划分为两个区域,彼此相邻就互为相邻区域,本区域内部就叫同一区域,根据区域优先策略,首先会从注册中心获取与用户端在同一个区域的已注册的IP地址后,按照每个IP地址对应服务器的磁盘剩余容量和服务器注册的先后顺序挑选出与用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;例如,如果同一区域中有多个IP地址,那么我们就会选择磁盘剩余容量加大的这个IP地址对应的存储服务,在如果有两个或多个服务器的磁盘剩余容量相同的情况,我们会按照注册的先后顺序选择先注册的IP地址对应的存储服务。
上传模块20,用于将目标文件上传至与目标地址对应存储服务,并从存储服务获得一个与目标文件对应的文件ID。
具体的,文件系统确定要上传的目标地址后,将用户端选择的目标文件上传至目标地址对应的存储服务中,同时会从存储服务得到一个与目标文件对应的文件ID。
录入与返回模块30,用于将目标文件对应的文件ID、文件名称录入数据库,并将目标文件对应的文件名称返回至用户端。
文件系统将得到的目标文件对应的文件ID和文件名称记录到数据库,同时将文件名称返回给用户端,以便用户端后续根据文件名称从文件系统中下载此文件和删除此文件等。
图10是本发明实施例的第二种分布式文件系统的处理装置的功能框图,如图10所示,在一些实施例中,处理装置100还可以包括:
触发模块40,用于触发已注册的IP地址中除目标地址外的剩余IP地址分别将目标文件同步上传至剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。相关细节可参见图3所示的方法实施例。
图11是本发明实施例的第三种分布式文件系统的处理装置的功能框图,如图11所示,在一些实施例中,处理装置100还可以包括:
时间录入模块50,用于当所述目标文件为临时文件时,将临时文件上传时间录入数据库。相关细节可参见图4所示的方法实施例。
图12是本发明实施例的第四种分布式文件系统的处理装置的功能框图,如图12所示,在一些实施例中,处理装置100还可以包括:
定时检索模块60,用于根据临时文件上传时间,定时地检索数据库中到期的临时文件;从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;根据临时文件ID从待清理临时文件的目标地址对应的存储服务中删除到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除到期的临时文件;其中,到期的临时文件是指,当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将临时文件判定为到期的临时文件。相关细节可参见图5所示的方法实施例。
图13是本发明实施例的第五种分布式文件系统的处理装置的功能框图,如图13所示,在一些实施例中,处理装置100还可以包括:
文件下载模块70,用于当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从数据库获取待下载的文件名称对应的待下载的文件ID;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;根据待下载的文件ID下载文件的目标地址对应的存储服务中下载文件;将下载的文件返回给用户端。相关细节可参见图6所示的方法实施例。
图14是本发明实施例的第六种分布式文件系统的处理装置的功能框图,如图14所示,在一些实施例中,处理装置100还可以包括:
文件删除模块80,用于当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从数据库获取待删除的文件名称对应的待删除文件ID;从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;根据待删除文件ID,从待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除待删除文件;将删除成功标识返回至用户端。相关细节可参见图7所示的方法实施例。
本发明实施例的处理装置具有如下有益效果:
本发明实施例通过在注册中心注册若干IP地址,再根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,使得分布式文件系统支持区域内部优先访问,提高了对文件的操作效率;
本发明实施例支持高可靠的容错机制,当无法访问区域内部存储服务时,可以访问其他区域的存储服务;
本发明实施例可以定时查询数据库,自动清理数据库中的临时文件录入信息,以及删除存储服务中的临时文件,自动节省磁盘空间;
本发明实施例通过组间扩容,可以使得文件存储的容量更大。
实施例三
图15是本发明实施的一种分布式文件系统的处理系统的结构框图,如图15所示,该处理系统包括处理装置以及一个或多个服务器组,例如,服务器组1、服务器组2、……、服务器组N;
一个或多个服务器组中的若干服务器分别在处理装置中的注册中心注册属性信息作为存储服务被使用,其中,属性信息包括IP地址和磁盘剩余容量。
具体的,在文件系统安装并启动时,文件系统中的当前一个服务器组(例如服务器组1)中的多个服务器分别在文件系统的注册中心注册自己的属性信息,这样,注册中心就有多个已注册的IP地址和每个IP地址对应的磁盘剩余容量信息。属性信息一般包括IP地址和磁盘剩余容量,因为每台服务器都有一个与之对应的磁盘和一个唯一的IP地址,不同的存储服务部署在不同的服务器上,所以每一个存储服务均有一个唯一的IP地址与之对应,通过IP地址就能访问此台服务器上部署的存储服务。
在一些实施例中,由于组内存储服务的磁盘是有限的,随着文件的不断上传,占用存储空间将越来越大,终究会将原有的磁盘占满。当前服务器组中的若干台服务器分别定时的在注册中心注册属性信息,当前服务器组磁盘剩余容量不足时,通过依次增加若干个服务器组(例如服务器组2、……服务器组N)进行磁盘容量的扩容。作为一个举例说明,图11是本发明实施例的一种组间扩容的部署图,如图16所示,A组服务器在注册中心注册了存储服务A1和存储服务A2的属性信息,C组服务器在注册中心注册了存储服务C1和存储服务C2的属性信息,存储服务A1、存储服务A2、存储服务C1和存储服务C2定时的(例如30秒)往注册中心注册自己的属性信息,包括IP地址和磁盘剩余容量。客户端每次上传文件时,文件系统都会从注册中心获取存储服务A1、存储服务A2、存储服务C1和存储服务C2的属性信息,会选择剩余容量比较大的存储服务的IP地址将文件上传上去,另外,如果两个或者多个磁盘的剩余容量相等时,会按照IP地址注册的先后顺序来选择对应的存储服务。
在本实施例中,存储服务A1和存储服务A2属于相同的组A组内的存储服务,在A组内,存储服务A1和存储服务A2的文件是相互备份的,存储服务C1和存储服务C2是属于C组内的存储服务,存储服务C1和存储服务C2的文件是相互备份的;文件系统选择A组还是C组来上传文件,是根据每个组的磁盘剩余容量来选择的,即哪个组的磁盘剩余容量多就选择哪个组;在选择完上传的组后,选择组内的哪个存储服务上传文件是根据区域优先策略进行选择的。
当然,还可以增加多个组进行磁盘容量的扩容,不同的组之间没有关联,例如A组和C组之间是相互独立的。本发明实施例的处理系统,通过组间扩容,可以使得文件存储的容量更大。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本发明的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
实施例三
如图17所示,本发明实施例还提供了一种计算机可读存储介质300,计算机可读存储介质300内存储有计算机程序310,该计算机程序310被处理器执行时,实现:
当安装并启动文件系统时,当前服务器组中的若干服务器分别在注册中心注册属性信息作为存储服务被使用,其中,属性信息包括IP地址和磁盘剩余容量;
当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址;
将目标文件上传至与目标地址对应的存储服务,并获得一个与目标文件对应的文件ID;
将目标文件对应的文件ID和文件名称录入数据库,并将目标文件对应的文件名称返回至用户端。
一种可能的处理中,该计算机程序310被处理器执行时,实现:在将所述目标文件上传至与所述目标地址对应的存储服务之后,还包括:
触发已注册的IP地址中除所述目标地址外的剩余IP地址分别将所述目标文件同步上传至所述剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。
一种可能的处理中,该计算机程序310被处理器执行时,实现:当所述目标文件为临时文件时,将临时文件上传时间录入数据库。
一种可能的处理中,该计算机程序310被处理器执行时,实现:在将临时文件上传时间录入数据库之后,还包括:
根据所述临时文件上传时间,定时地检索所述数据库中到期的临时文件;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;
根据所述临时文件ID从所述待清理临时文件的目标地址对应的存储服务中删除所述到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除所述到期的临时文件。
一种可能的处理中,该计算机程序310被处理器执行时,实现:所述根据临时文件上传时间,定时地检索所述数据库中到期的临时文件,具体包括:
当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将所述临时文件判定为到期的临时文件,并删除所述数据库中录入的所述到期的临时文件的录入信息。
一种可能的处理中,该计算机程序310被处理器执行时,实现:
当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从所述数据库获取待下载的文件名称对应的待下载的文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;
根据所述待下载的文件ID从所述下载文件的目标地址对应的存储服务中下载文件;
将下载的文件返回给用户端。
一种可能的处理中,该计算机程序310被处理器执行时,实现:
当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从所述数据库获取待删除的文件名称对应的待删除文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;
根据所述待删除文件ID,从所述待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除所述待删除文件;
将删除成功标识返回至用户端。
图1至图9所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。当然,还有其他方式的可读存储介质,例如量子存储器、石墨烯存储器等等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
实施例四
图18是本发明的一个实施例电子设备的结构示意图。本发明实施例还提供一种电子设备,请参考图18,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-AccessMemory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是工业标准体系结构ISA总线、外设部件互连标准PCI总线或扩展工业标准结构EISA总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图18中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,用于存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成基于集中配置的自动化容灾系统。处理器,执行存储器所存放的程序,并具体用于执行图1至图9所示实施例揭示的分布式文件系统的处理方法。
上述如图1至图9所示实施例揭示的分布式文件系统的处理方法可以应用于处理器中,或者由处理器实现。处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(CentralProcessing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital SignalProcessor,DSP)、专用集成电路(Application Specific IntegratedCircuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
当然,除了软件实现方式之外,本发明的电子设备并不排除其他实现方式,比如逻辑器件抑或软硬件结合的方式等等,也就是说以下处理流程的执行主体并不限定于各个逻辑单元,也可以是硬件或逻辑器件。上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、车载人机交互设备、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
虽然本发明提供了如实施例或流程图所述的方法操作步骤,但基于常规或者无创造性的手段可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式,不代表唯一的执行顺序。在实际中的装置或终端产品执行时,可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境,甚至为分布式数据处理环境)。
本发明是参照根据本发明实施例的方法、设备、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、电子设备及可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本发明的较佳实施例而已,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所作的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (16)
1.一种分布式文件系统的处理方法,其特征在于,所述方法包括:
当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址;其中,所述区域优先策略是指从所述注册中心获取已注册的IP地址后,按照所述IP地址对应的服务器的磁盘剩余容量和所述IP地址注册的先后顺序挑选出与所述用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;
将所述目标文件上传至与所述目标地址对应的存储服务,并从所述存储服务获得一个与所述目标文件对应的文件ID;
将所述目标文件对应的文件ID和文件名称录入数据库,并将所述目标文件对应的文件名称返回至所述用户端。
2.根据权利要求1所述的方法,其特征在于,在将所述目标文件上传至与所述目标地址对应的存储服务之后,还包括:
触发已注册的IP地址中除所述目标地址外的剩余IP地址分别将所述目标文件同步上传至所述剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
当所述目标文件为临时文件时,将临时文件上传时间录入数据库。
4.根据权利要求3所述的方法,其特征在于,在将临时文件上传时间录入数据库之后,还包括:
根据所述临时文件上传时间,定时地检索所述数据库中到期的临时文件;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;
根据所述临时文件ID从所述待清理临时文件的目标地址对应的存储服务中删除所述到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除所述到期的临时文件。
5.根据权利要求4所述的方法,其特征在于,所述根据临时文件上传时间,定时地检索所述数据库中到期的临时文件,具体包括:
当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将所述临时文件判定为到期的临时文件,并删除所述数据库中录入的所述到期的临时文件的录入信息。
6.根据权利要求2所述的方法,其特征在于,所述方法还包括:
当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从所述数据库获取待下载的文件名称对应的待下载的文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;
根据所述待下载的文件ID从所述下载文件的目标地址对应的存储服务中下载文件;
将下载的文件返回给用户端。
7.根据权利要求2所述的方法,其特征在于,所述方法还包括:
当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从所述数据库获取待删除的文件名称对应的待删除文件ID;
从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;
根据所述待删除文件ID,从所述待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除所述待删除文件;
将删除成功标识返回至用户端。
8.一种分布式文件系统的处理装置,其特征在于,所述处理装置包括:
获取与选择模块,用于当接收到用户端发起的上传一个目标文件的请求时,从注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为目标地址,其中,所述区域优先策略是指从所述注册中心获取已注册的IP地址后,按照所述IP地址对应的服务器的磁盘剩余容量和所述IP地址注册的先后顺序挑选出与所述用户端处于同一区域或者相邻区域的存储服务所对应的IP地址作为目标IP地址;
上传模块,用于将所述目标文件上传至与所述目标地址对应存储服务,并从所述存储服务获得一个与所述目标文件对应的文件ID;
录入与返回模块,用于将所述目标文件对应的文件ID、文件名称录入数据库,并将所述目标文件对应的文件名称返回至用户端。
9.根据权利要求8所述的处理装置,其特征在于,还包括:
触发模块,用于触发已注册的IP地址中除所述目标地址外的剩余IP地址分别将所述目标文件同步上传至所述剩余IP地址对应的存储服务,使得已注册的每个IP地址对应的存储文件相互备份。
10.根据权利要求8所述的处理装置,其特征在于,还包括:
时间录入模块,用于当所述目标文件为临时文件时,将临时文件上传时间录入数据库。
11.根据权利要求10所述的处理装置,其特征在于,还包括:
定时检索模块,用于根据所述临时文件上传时间,定时地检索所述数据库中到期的临时文件;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个IP地址作为待清理临时文件的目标地址;根据所述临时文件ID从所述待清理临时文件的目标地址对应的存储服务中删除所述到期的临时文件,并触发剩余IP地址分别对应的存储服务同步删除所述到期的临时文件;其中,到期的临时文件是指,当定时任务检索时的时间减去临时文件上传时的时间大于预设的临时文件存储时间阈值时,将所述临时文件判定为到期的临时文件。
12.根据权利要求8所述的处理装置,其特征在于,还包括:
文件下载模块,用于当接收到用户端输入的待下载的文件名称时,根据待下载的文件名称从所述数据库获取待下载的文件名称对应的待下载的文件ID;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待下载文件的目标地址;根据所述待下载的文件ID从所述下载文件的目标地址对应的存储服务中下载文件;将下载的文件返回给用户端。
13.根据权利要求8所述的处理装置,其特征在于,还包括:
文件删除模块,用于当接收到用户端输入的待删除的文件名称时,根据待删除的文件名称从所述数据库获取待删除的文件名称对应的待删除文件ID;从所述注册中心获取已注册的IP地址,根据区域优先策略从已注册的IP地址中选择一个地址作为待删除文件的目标地址;根据所述待删除文件ID,从所述待删除文件的目标地址对应的存储服务中将待删除的文件删除,并触发剩余IP地址分别对应的存储服务同步删除所述待删除文件;将删除成功标识返回至用户端。
14.一种分布式文件系统的处理系统,其特征在于,所述系统包括如权利要求8所述的处理装置以及一个或多个服务器组;
所述一个或多个服务器组中的若干服务器分别在所述处理装置中的注册中心注册属性信息作为存储服务,其中,所述属性信息包括IP地址和磁盘剩余容量;其中,
所述一个服务器组中的若干台服务器分别定时地在注册中心注册属性信息,当所述一个服务器组磁盘剩余容量不足时,通过依次增加多个服务器组进行磁盘容量的扩容。
15.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-7中任意一项所述的一种分布式文件系统的处理方法。
16.一种电子设备,其特征在于,其包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1-7中任意一项所述的一种分布式文件系统的处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210208799.8A CN114564450B (zh) | 2022-03-04 | 2022-03-04 | 分布式文件系统的处理方法、装置、系统、介质和设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210208799.8A CN114564450B (zh) | 2022-03-04 | 2022-03-04 | 分布式文件系统的处理方法、装置、系统、介质和设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114564450A true CN114564450A (zh) | 2022-05-31 |
CN114564450B CN114564450B (zh) | 2023-02-28 |
Family
ID=81717925
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210208799.8A Active CN114564450B (zh) | 2022-03-04 | 2022-03-04 | 分布式文件系统的处理方法、装置、系统、介质和设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114564450B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115118652A (zh) * | 2022-07-18 | 2022-09-27 | 中信百信银行股份有限公司 | 路由分配方法、装置和设备及存储介质 |
CN115695454A (zh) * | 2022-06-13 | 2023-02-03 | 中移互联网有限公司 | 一种mec主机的数据存储方法、装置、设备及存储介质 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1996843A (zh) * | 2005-12-26 | 2007-07-11 | 北大方正集团有限公司 | 轻量级分布式文件存储系统及文件上传的方法 |
CN103559100A (zh) * | 2005-06-29 | 2014-02-05 | 伊姆西公司 | 利用服务器保存客户端数据的方法及服务器 |
CN103841159A (zh) * | 2012-11-26 | 2014-06-04 | 北京新媒传信科技有限公司 | 一种离线文件传输系统和方法 |
CN105025053A (zh) * | 2014-04-24 | 2015-11-04 | 苏宁云商集团股份有限公司 | 基于云存储技术的分布式文件的上传方法及其系统 |
CN110334072A (zh) * | 2018-03-22 | 2019-10-15 | 腾讯科技(深圳)有限公司 | 一种分布式文件系统、文件更新方法及装置 |
CN110377431A (zh) * | 2019-07-29 | 2019-10-25 | 中国工商银行股份有限公司 | 多注册中心场景下服务调用方法及装置 |
CN111225032A (zh) * | 2019-12-19 | 2020-06-02 | 福建升腾资讯有限公司 | 一种应用服务与文件服务分离的方法、系统、设备和介质 |
US20200394163A1 (en) * | 2018-03-22 | 2020-12-17 | China Unionpay Co., Ltd. | Method, device, and computer apparatus for merging regions of hbase table |
CN112748885A (zh) * | 2021-01-18 | 2021-05-04 | 联想(北京)有限公司 | 一种信息处理方法、装置、设备及存储介质 |
CN112947843A (zh) * | 2019-12-10 | 2021-06-11 | 北京金山云网络技术有限公司 | 存储系统的配置、调度方法、装置及电子设备 |
-
2022
- 2022-03-04 CN CN202210208799.8A patent/CN114564450B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103559100A (zh) * | 2005-06-29 | 2014-02-05 | 伊姆西公司 | 利用服务器保存客户端数据的方法及服务器 |
CN1996843A (zh) * | 2005-12-26 | 2007-07-11 | 北大方正集团有限公司 | 轻量级分布式文件存储系统及文件上传的方法 |
CN103841159A (zh) * | 2012-11-26 | 2014-06-04 | 北京新媒传信科技有限公司 | 一种离线文件传输系统和方法 |
CN105025053A (zh) * | 2014-04-24 | 2015-11-04 | 苏宁云商集团股份有限公司 | 基于云存储技术的分布式文件的上传方法及其系统 |
CN110334072A (zh) * | 2018-03-22 | 2019-10-15 | 腾讯科技(深圳)有限公司 | 一种分布式文件系统、文件更新方法及装置 |
US20200394163A1 (en) * | 2018-03-22 | 2020-12-17 | China Unionpay Co., Ltd. | Method, device, and computer apparatus for merging regions of hbase table |
CN110377431A (zh) * | 2019-07-29 | 2019-10-25 | 中国工商银行股份有限公司 | 多注册中心场景下服务调用方法及装置 |
CN112947843A (zh) * | 2019-12-10 | 2021-06-11 | 北京金山云网络技术有限公司 | 存储系统的配置、调度方法、装置及电子设备 |
CN111225032A (zh) * | 2019-12-19 | 2020-06-02 | 福建升腾资讯有限公司 | 一种应用服务与文件服务分离的方法、系统、设备和介质 |
CN112748885A (zh) * | 2021-01-18 | 2021-05-04 | 联想(北京)有限公司 | 一种信息处理方法、装置、设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
PAUL BARTUS,等: "Using file-aware deduplication to improve capacity in storage systems", 《2017 IEEE COLOMBIAN CONFERENCE ON COMMUNICATIONS AND COMPUTING (COLCOM)》 * |
吴文蔚: "分布式云存储系统的数据迁移优化策略浅析", 《山西电子技术》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115695454A (zh) * | 2022-06-13 | 2023-02-03 | 中移互联网有限公司 | 一种mec主机的数据存储方法、装置、设备及存储介质 |
CN115695454B (zh) * | 2022-06-13 | 2023-10-27 | 中移互联网有限公司 | 一种mec主机的数据存储方法、装置、设备及存储介质 |
CN115118652A (zh) * | 2022-07-18 | 2022-09-27 | 中信百信银行股份有限公司 | 路由分配方法、装置和设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114564450B (zh) | 2023-02-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114564450B (zh) | 分布式文件系统的处理方法、装置、系统、介质和设备 | |
CN106550003B (zh) | 负载均衡的控制方法、装置及系统 | |
CN112506670B (zh) | 一种多节点自动化运维任务处理方法、系统及存储介质 | |
CN109669709B (zh) | 一种区块链升级的数据迁移方法及数据迁移系统 | |
US20030187868A1 (en) | Data acquisition system | |
CN106383668B (zh) | 一种信息存储方法、存储管理设备及客户端 | |
CN107147748B (zh) | 文件上传方法和装置 | |
CN111176549B (zh) | 基于云存储的数据存储方法、装置和存储介质 | |
CN107040576B (zh) | 信息推送方法及装置、通讯系统 | |
CN108900547B (zh) | 回源控制方法及装置 | |
CN108063685B (zh) | 日志分析方法及装置 | |
CN110581784A (zh) | 一种节点健康检查方法、装置及设备 | |
CN113836232A (zh) | 联盟链中的共识方法和系统 | |
CN108256311B (zh) | 一种授权认证方法、装置及电子设备 | |
CN112698783A (zh) | 对象存储方法、装置及系统 | |
CN113542398B (zh) | 分布式集群系统的管控方法、装置、介质和设备 | |
CN114691175A (zh) | 一种应用更新方法、装置和系统 | |
JP2006079488A (ja) | データ収集装置、データ収集システム及びデータ収集方法 | |
CN114585035A (zh) | 一种语音通话方法、装置和计算机可读存储介质 | |
CN114048171A (zh) | 图像数据的存储方法、装置、介质和设备 | |
CN113259449A (zh) | 分布式存储方法、装置、设备及存储介质 | |
CN112835892A (zh) | 热点数据检测方法、装置、电子设备及存储介质 | |
CN111400327A (zh) | 一种数据同步方法、装置、电子设备及存储介质 | |
CN112241395B (zh) | 应用程序文件的清理方法、装置、终端设备及存储介质 | |
CN114637781A (zh) | 数据滤重方法、装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |