CN106980645B - 一种分布式文件系统架构实现方法和装置 - Google Patents
一种分布式文件系统架构实现方法和装置 Download PDFInfo
- Publication number
- CN106980645B CN106980645B CN201710102058.0A CN201710102058A CN106980645B CN 106980645 B CN106980645 B CN 106980645B CN 201710102058 A CN201710102058 A CN 201710102058A CN 106980645 B CN106980645 B CN 106980645B
- Authority
- CN
- China
- Prior art keywords
- data
- data storage
- file
- server
- management server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/11—File system administration, e.g. details of archiving or snapshots
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
- G06F16/162—Delete operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种分布式文件系统架构实现方法,包括:在接收到获取数据指令后,获取所述数据;将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令;管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。本发明还公开了一种分布式文件系统架构实现装置。本发明实现通过网络进行节点间的通信和数据传输,进而解决了数据存储和管理的问题。
Description
技术领域
本发明涉及分布式系统技术领域,尤其涉及一种分布式文件系统架构实现方法和装置。
背景技术
在信息爆炸的时代人类获取的数据成指数倍的增长,通过增加硬盘个数来扩展计算机文件系统的存储容量的方式,其缺陷在于其容量的大小、容量增长的速度、数据备份、数据安全等方面的表现随着时代的发展逐步的放大。分布式文件系统可以有效解决数据的存储和管理难题:将固定于某个地点的某个文件系统,扩展到任意多个地点/多个文件系统,众多的节点组成一个文件系统网络。每个节点可以分布在不同的地点,通过网络进行节点间的通信和数据传输。人们在使用分布式文件系统时,无需关心数据是存储在哪个节点上、或者是从哪个节点从获取的,只需要像使用本地文件系统一样管理和存储文件系统中的数据。分布式文件系统的数据存储解决方案,归根结底是将大问题划分为小问题。使大量的文件,均匀分布到多个数据服务器上,从而实现分散存储,解决磁盘空间有限,性能瓶颈,磁盘出现故障等问题。
上述内容仅用于辅助理解本发明的技术方案,并不代表承认上述内容是现有技术。
发明内容
本发明的主要目的在于提供一种分布式文件系统架构实现方法,旨在通过网络进行节点间的通信和数据传输,进而解决数据存储和管理的问题。
本发明提供的一种分布式文件系统架构实现方法,包括:
在接收到获取数据指令后,获取所述数据;
将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令;
管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
优选地,所述将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令,还包括:
在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
优选地,所述管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝,还包括:
在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
优选地,所述方法,还包括:
获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
优选地,所述方法,还包括:
将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
此外,为实现上述目的,本发明还提供一种分布式文件系统架构实现装置,包括:
接收模块,用于在接收到获取数据指令后,获取所述数据;
写入模块,用于将获取到的数据写入数据存储服务器预先创建的数据文件中;
发送模块,用于向管理服务器发送数据已完成写入的指令;
管理模块,用于管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
优选地,还包括:
调整模块,用于在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
所述发送模块,还用于将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
优选地,还包括:
新建模块,用于在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
保存模块,用于当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
优选地,还包括:
操作模块,用于获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
优选地,还包括:
备份模块,用于将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
本发在接收到获取数据指令后,获取所述数据;将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令;管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。实现了通过网络进行节点间的通信和数据传输,进而解决了数据的存储和管理问题。
附图说明
图1为本发明分布式文件系统架构实现方法的第一实施例的流程示意图;
图2为本发明分布式文件系统架构实现方法的第二实施例的流程示意图;
图3为本发明分布式文件系统架构实现方法的第三实施例的流程示意图;
图4为本发明分布式文件系统架构实现装置的第一实施例的功能模块示意图;
图5为本发明分布式文件系统架构实现装置的第二实施例的功能模块示意图;
图6为本发明分布式文件系统架构实现装置的第三实施例的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
基于上述问题,本发明提供一种分布式文件系统架构实现方法。
参照图1,图1为本发明分布式文件系统架构实现方法的第一实施例的流程示意图。
在一实施例中,所述方法包括:
步骤S10,在接收到获取数据指令后,获取所述数据;
在本实施例中,客户端待机时间内,待接收到获取数据指令后,控制获取数据功能用以获取所述数据;所述获取数据指令,由客户端接收到的指令为准;所述获取数据,为与当前客户端有关联的其他电子设备终端中的数据内容,用以使客户端在接收到获取数据指令后,直接于所述数据内容所在的电子设备终端中获取。
步骤S20,将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令;
已获取到的数据,待获取完成后,将数据写入至数据存储服务器预先创建的数据文件中,所述数据文件,为数据存储服务器在数据写入时,预先创建数据文件,用以保存写入的数据,数据文件相当于数据存储的容器,用以保存数据文件,并与当前写入的数据存储服务器中已存储的其他数据提供区别,以便所述数据有数据操作指令时,能够区分出操作指令所对应的数据内容。当数据写入至数据文件完成后,向管理服务器发送当前数据写入已完成的指令,使管理服务器保存当前数据写入的操作内容;所述数据写入已完成指令,内容包括数据写入状态、数据容量、数据文件标识等信息。
进一步的,所述将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令,还包括:
在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
获取到的数据写入至数据存储服务器过程中,为免除获取到的数据容量与数据存储服务器容量不同出现的存储问题,获取数据的大小,即数据容量;并将获取到的数据容量与数据存储服务器的容量对比,若数据容量小于数据存储服务器容量,则继续将数据写入至数据存储服务器中保存;若数据容量大于数据存储服务器容量,则增加数据存储服务器,用以将当前数据存储服务器不能存储的多余数据写入新增加数据服务器预先新增的数据文件中。所述增加数据存储服务器用以存储当前写入数据的数据存储服务器的剩余数据,根据剩余数据的容量进行增加,已以达到数据全部写入数据存储服务器的目的。
将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
数据写入完成后,统计数据写入的信息,并将所述信息整理成为动态信息发送至管理服务器中;所述动态信息,为当前数据写入数据存储服务器中的具体步骤及细节等内容,包括数据容量、数据存储服务器容量、数据存储服务器使用数量、数据写入时间、数据写入完成时间等;所述动态信息格式即动态信息详细条例内容,由管理服务器制定,发送至数据存储服务器中使数据存储服务器按照所述制定条例填写,并在填写完成后将动态信息发送至管理服务器,以便管理服务器管理数据存储服务器,即管理数据存储资源,进一步的实现存储空间的统一调度,减少数据写入数据存储服务器时由于存储服务器内存问题引起的数据存储失误。
步骤S30,管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
数据写入数据存储服务器中,在数据写入完成够,向管理服务器发送数据以写入完成的信息,以使管理服务器接收到信息后,在管理服务器中保留所述写入数据的信息,并通过接收到的指令,控制管理服务器管理所述数据存储服务器中已写入完成的数据。在此之前,数据存储服务器与管理服务器通过有线/无线的方式进行关联,具体关联方式与数据存储服务器及管理服务器相关,管理服务器统筹与之关联的数据存储服务器的管理,具体管理方式包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
其中,所述文件读写调度包括将所需数据写入至对应数据存储服务器,并根据接收到的数据操作指令,执行数据操作指令所对应的数据存储服务器中的已存储的数据。例如,同时有超过一次的数据写入及数据读取操作,管理服务器根据指令发起的时间,调整指令执行顺序。
其中,所述文件空间的回收及恢复,在当前管理服务器接收到数据文件删除操作时,根据预先设置的文件删除超时参数内容,确认删除文件的方式。所述预先设置的文件删除超时参数,为管理服务器中设置的文件删除机制,根据参数内容,确定当前所删除文件的删除状态,所述超时参数于管理服务器中相关功能进行设置。例如,当前文件删除超时参数设置为0,在接收到文件删除指令后,将所述删除指令对应的文件彻底从磁盘(数据存储服务器所在磁盘)中删除,即不保存于回收站一类的数据删除文件临时存储空间。
其中,所述数据存储节点的拷贝,表现为当前已存储于数据存储服务器中的数据文件若有数据更改,将更改内容作为一个存储节点进行保存,即数据更改节点。并在管理服务器接收到数据读取指令后,根据所述数据读取指令内容,对应读取至所述数据读取指令指定的文件存储节点中。
进一步的,所述通过管理服务器管理与所述管理服务器关联的数据存储服务器,所述管理内容包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝,还包括:
在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
管理服务器管理与之关联的数据存储服务器及其数据存储服务器中所存储的数据文件,在所述数据存储服务器中,对当前数据存储服务器已存储的数据文件新建指针列表,所述指针列表中指针指示至当前数据存储服务器中的已保存的数据文件,所述指针内容为读取所述指针对应数据文件的地址,在读取所述指针内容时,根据指针内容即读取文件地址读取至对应数据文件。
当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
检测到指针列表中指针所对应的数据文件有数据更改时,在所述数据文件所对应的指针中新建指针标识,并将已更改的数据文件重新保存为一份数据备份文件保存至更改备份文件所保存的对应区域,将读取所述备份文件的地址保存至指针中,并提取所述更改备份文件的更改内容作为所述指针的标识内容,以便于辨别指针内容。在接收到指针列表中指针对应的数据文件的数据读取指令时,根据所述数据读取指令所读取的数据文件内容,使所述数据读取指令读取至对应的指针列表中对应的指针标识内容,根据所述指针标识内容即可读取到对应的备份文件。通过指针地址读取到对应备份数据文件,此种读取方式,相当于为数据读取指令提供一个瞬时数据的影像,不影响所述数据文件的原始文件及其所述数据文件的其他指针标识。
本实施例中,通过管理服务器管理与所述管理服务器关联的数据存储服务器,并通过管理服务器设置及管理数据存储服务器中已存储数据操作,使用户在使用分布式文件系统时,像使用本地文件系统一样管理和存储文件系统中的数据,使大量的文件均匀分布到多个数据服务器上,从而实现分散存储没解决磁盘空间有限、性能瓶颈及磁盘出现故障等,进而解决了数据的存储和管理问题。
参照图2,图2为本发明分布式文件系统架构实现方法的第二实施例的流程示意图。基于上述方法的第一实施例,所述方法,还包括:
步骤S40,获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
客户端与管理服务器进行关联,并通过管理服务器获得与所述管理服务器关联的数据存储服务器多存储数据文件的内容,所述数据内容以客户端所能实现的形式于客户端中显示,作为客户端的本地文件;如此,所述客户端即可通过对本地文件的操作,生成所述数据文件的操作指令,传输至管理服务器中,并由管理服务器根据所述数据文件的操作指令,操作所述数据文件的操作指令对应数据存储服务器中的数据文件。
参照图3,图3为本发明分布式文件系统架构实现方法的第三实施例的流程示意图。基于上述方法的第一实施例,所述方法,还包括:
步骤S50,将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
管理服务器管理与之关联的数据存储服务器及其数据存储服务器中存储的数据文件,并统筹整个管理服务器及与之关联的数据存储服务器组成的分布式文件系统的工作内容;将所述管理服务器的工作内容统计后保存为日志文件,且,所述日志文件备份至元数据日志服务器中,所述管理服务器的工作内容,每执行一次操作内容,都会记录在日志文件中,并及时更新元数据服务器中的日志文件;若管理服务器出现故障,元数据服务器通过保存的日志文件,接手管理服务器管理数据存储服务器的所有管理工作,避免出现管理混乱的问题。
上述第一至第二实施例的分布式文件系统架构实现方法的执行主体均可以为有安装管理服务器及数据存储服务器的电子设备或其他硬件设备。其中,该电子设备或其他硬件设备包括但不限于手机、pad、笔记本电脑等。
本发明进一步提供一种分布式文件系统架构实现装置。
参照图4,图4为本发明分布式文件系统架构实现装置的第一实施例的功能模块示意图。
在一实施例中,所述装置包括:接收模块10、写入模块20、发送模块30、调整模块40、管理模块50、新建模块60及保存模块70。
接收模块10,用于在接收到获取数据指令后,获取所述数据;
在本实施例中,客户端待机时间内,待接收到获取数据指令后,控制获取数据功能用以获取所述数据;所述获取数据指令,由客户端接收到的指令为准;所述获取数据,为与当前客户端有关联的其他电子设备终端中的数据内容,用以使客户端在接收到获取数据指令后,直接于所述数据内容所在的电子设备终端中获取。
写入模块20,用于将获取到的数据写入数据存储服务器预先创建的数据文件中;
已获取到的数据,待获取完成后,将数据写入至数据存储服务器预先创建的数据文件中,所述数据文件,为数据存储服务器在数据写入时,预先创建数据文件,用以保存写入的数据,数据文件相当于数据存储的容器,用以保存数据文件,并与当前写入的数据存储服务器中已存储的其他数据提供区别,以便所述数据有数据操作指令时,能够区分出操作指令所对应的数据内容。
发送模块30,用于向管理服务器发送数据已完成写入的指令;
当数据写入至数据文件完成后,向管理服务器发送当前数据写入已完成的指令,使管理服务器保存当前数据写入的操作内容;所述数据写入已完成指令,内容包括数据写入状态、数据容量、数据文件标识等信息。
进一步的,所述将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令,还包括:
调整模块40,用于在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
获取到的数据写入至数据存储服务器过程中,为免除获取到的数据容量与数据存储服务器容量不同出现的存储问题,获取数据的大小,即数据容量;并将获取到的数据容量与数据存储服务器的容量对比,若数据容量小于数据存储服务器容量,则继续将数据写入至数据存储服务器中保存;若数据容量大于数据存储服务器容量,则增加数据存储服务器,用以将当前数据存储服务器不能存储的多余数据写入新增加数据服务器预先新增的数据文件中。所述增加数据存储服务器用以存储当前写入数据的数据存储服务器的剩余数据,根据剩余数据的容量进行增加,已以达到数据全部写入数据存储服务器的目的。
所述发送模块30,还用于将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
数据写入完成后,统计数据写入的信息,并将所述信息整理成为动态信息发送至管理服务器中;所述动态信息,为当前数据写入数据存储服务器中的具体步骤及细节等内容,包括数据容量、数据存储服务器容量、数据存储服务器使用数量、数据写入时间、数据写入完成时间等;所述动态信息格式即动态信息详细条例内容,由管理服务器制定,发送至数据存储服务器中使数据存储服务器按照所述制定条例填写,并在填写完成后将动态信息发送至管理服务器,以便管理服务器管理数据存储服务器,即管理数据存储资源,进一步的实现存储空间的统一调度,减少数据写入数据存储服务器时由于存储服务器内存问题引起的数据存储失误。
管理模块50,用于管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
数据写入数据存储服务器中,在数据写入完成够,向管理服务器发送数据以写入完成的信息,以使管理服务器接收到信息后,在管理服务器中保留所述写入数据的信息,并通过接收到的指令,控制管理服务器管理所述数据存储服务器中已写入完成的数据。在此之前,数据存储服务器与管理服务器通过有线/无线的方式进行关联,具体关联方式与数据存储服务器及管理服务器相关,管理服务器统筹与之关联的数据存储服务器的管理,具体管理方式包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝。
其中,所述文件读写调度包括将所需数据写入至对应数据存储服务器,并根据接收到的数据操作指令,执行数据操作指令所对应的数据存储服务器中的已存储的数据。例如,同时有超过一次的数据写入及数据读取操作,管理服务器根据指令发起的时间,调整指令执行顺序。
其中,所述文件空间的回收及恢复,在当前管理服务器接收到数据文件删除操作时,根据预先设置的文件删除超时参数内容,确认删除文件的方式。所述预先设置的文件删除超时参数,为管理服务器中设置的文件删除机制,根据参数内容,确定当前所删除文件的删除状态,所述超时参数于管理服务器中相关功能进行设置。例如,当前文件删除超时参数设置为0,在接收到文件删除指令后,将所述删除指令对应的文件彻底从磁盘(数据存储服务器所在磁盘)中删除,即不保存于回收站一类的数据删除文件临时存储空间。
其中,所述数据存储节点的拷贝,表现为当前已存储于数据存储服务器中的数据文件若有数据更改,将更改内容作为一个存储节点进行保存,即数据更改节点。并在管理服务器接收到数据读取指令后,根据所述数据读取指令内容,对应读取至所述数据读取指令指定的文件存储节点中。
进一步的,所述通过管理服务器管理与所述管理服务器关联的数据存储服务器,所述管理内容包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝,还包括:
新建模块60,用于在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
管理服务器管理与之关联的数据存储服务器及其数据存储服务器中所存储的数据文件,在所述数据存储服务器中,对当前数据存储服务器已存储的数据文件新建指针列表,所述指针列表中指针指示至当前数据存储服务器中的已保存的数据文件,所述指针内容为读取所述指针对应数据文件的地址,在读取所述指针内容时,根据指针内容即读取文件地址读取至对应数据文件。
保存模块70,用于当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
检测到指针列表中指针所对应的数据文件有数据更改时,在所述数据文件所对应的指针中新建指针标识,并将已更改的数据文件重新保存为一份数据备份文件保存至更改备份文件所保存的对应区域,将读取所述备份文件的地址保存至指针中,并提取所述更改备份文件的更改内容作为所述指针的标识内容,以便于辨别指针内容。在接收到指针列表中指针对应的数据文件的数据读取指令时,根据所述数据读取指令所读取的数据文件内容,使所述数据读取指令读取至对应的指针列表中对应的指针标识内容,根据所述指针标识内容即可读取到对应的备份文件。通过指针地址读取到对应备份数据文件,此种读取方式,相当于为数据读取指令提供一个瞬时数据的影像,不影响所述数据文件的原始文件及其所述数据文件的其他指针标识。
本实施例中,通过管理服务器管理与所述管理服务器关联的数据存储服务器,并通过管理服务器设置及管理数据存储服务器中已存储数据操作,使用户在使用分布式文件系统时,像使用本地文件系统一样管理和存储文件系统中的数据,使大量的文件均匀分布到多个数据服务器上,从而实现分散存储没解决磁盘空间有限、性能瓶颈及磁盘出现故障等,进而解决了数据的存储和管理问题。
参照图5,图5为本发明分布式文件系统架构实现装置的第二实施例的功能模块示意图。所述装置还包括:操作模块80。
操作模块80,用于获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
客户端与管理服务器进行关联,并通过管理服务器获得与所述管理服务器关联的数据存储服务器多存储数据文件的内容,所述数据内容以客户端所能实现的形式于客户端中显示,作为客户端的本地文件;如此,所述客户端即可通过对本地文件的操作,生成所述数据文件的操作指令,传输至管理服务器中,并由管理服务器根据所述数据文件的操作指令,操作所述数据文件的操作指令对应数据存储服务器中的数据文件。
参照图6,图6为本发明分布式文件系统架构实现装置的第三实施例的功能模块示意图。所述装置还包括:备份模块90。
备份模块90,用于将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
管理服务器管理与之关联的数据存储服务器及其数据存储服务器中存储的数据文件,并统筹整个管理服务器及与之关联的数据存储服务器组成的分布式文件系统的工作内容;将所述管理服务器的工作内容统计后保存为日志文件,且,所述日志文件备份至元数据日志服务器中,所述管理服务器的工作内容,每执行一次操作内容,都会记录在日志文件中,并及时更新元数据服务器中的日志文件;若管理服务器出现故障,元数据服务器通过保存的日志文件,接手管理服务器管理数据存储服务器的所有管理工作,避免出现管理混乱的问题。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (8)
1.一种分布式文件系统架构实现方法,其特征在于,所述方法包括以下步骤:
在接收到获取数据指令后,获取所述数据;
将获取到的数据写入数据存储服务器预先创建的对应数据文件中,并向管理服务器发送数据已完成写入的指令,所述数据已完成写入的指令,包括数据写入状态、数据容量及数据文件标识;
管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝;
其中,所述将获取到的数据写入数据存储服务器预先创建的数据文件中,并向管理服务器发送数据已完成写入的指令,还包括:
在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
2.如权利要求1所述分布式文件系统架构实现方法,其特征在于,所述管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝,还包括:
在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
3.如权利要求1所述分布式文件系统架构实现方法,其特征在于,所述方法,还包括:
获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
4.如权利要求1至3任一项所述分布式文件系统架构实现方法,其特征在于,所述方法,还包括:
将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
5.一种分布式文件系统架构实现装置,其特征在于,包括:
接收模块,用于在接收到获取数据指令后,获取所述数据;
写入模块,用于将获取到的数据写入数据存储服务器预先创建的对应数据文件中;
调整模块,用于在将数据写入对应数据存储服务器时,若当前数据存储服务器数据存储容量小于写入数据容量,根据实际数据存储需求,增加数据存储服务器,用以超出当前写入数据存储服务器容量的数据写入;
发送模块,用于向管理服务器发送数据已完成写入的指令,所述数据已完成写入的指令,包括数据写入状态、数据容量及数据文件标识;
管理模块,用于管理服务器接收数据已完成写入的指令,并管理与管理服务器关联的数据存储服务器,所述管理包括文件读写调度、文件空间的回收及恢复、数据存储节点的拷贝;
所述发送模块,还用于将数据存储服务器写入数据时增加数据存储服务器存储数据的动态信息发送至管理服务器,使管理服务器管理数据存储资源,并统一调度存储空间。
6.如权利要求5所述分布式文件系统架构实现装置,其特征在于,还包括:
新建模块,用于在数据存储服务器中新建指针列表,所述指针列表中指针指示至当前数据存储服务器中已存储数据的数据文件;
保存模块,用于当指针列表中对应的数据文件发生数据更改时,在所述数据文件所属指针列表中新建指针标识,用以保存所述数据文件更改的内容,作为所述数据文件的快照影像。
7.如权利要求5所述分布式文件系统架构实现装置,其特征在于,还包括:
操作模块,用于获取客户端对本地文件的操作指令,并将操作指令传送至管理服务器,通过管理服务器执行所述操作指令,并根据操作指令内容对应操作远程数据存储服务器上与所述操作指令对应的文件。
8.如权利要求5至7任一项所述分布式文件系统架构实现装置,其特征在于,还包括:
备份模块,用于将管理服务器的操作内容备份至元数据日志服务器中,用以记录日志信息,在管理服务器出现问题时通过元数据日志服务器执行管理数据存储服务器的工作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710102058.0A CN106980645B (zh) | 2017-02-24 | 2017-02-24 | 一种分布式文件系统架构实现方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710102058.0A CN106980645B (zh) | 2017-02-24 | 2017-02-24 | 一种分布式文件系统架构实现方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106980645A CN106980645A (zh) | 2017-07-25 |
CN106980645B true CN106980645B (zh) | 2020-09-15 |
Family
ID=59338591
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710102058.0A Active CN106980645B (zh) | 2017-02-24 | 2017-02-24 | 一种分布式文件系统架构实现方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106980645B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101187931A (zh) * | 2007-12-12 | 2008-05-28 | 浙江大学 | 分布式文件系统多文件副本的管理方法 |
CN101808127A (zh) * | 2010-03-15 | 2010-08-18 | 成都市华为赛门铁克科技有限公司 | 数据备份方法、系统和服务器 |
CN103229480A (zh) * | 2011-11-29 | 2013-07-31 | 华为技术有限公司 | 分布式存储系统中的数据处理方法及设备、客户端 |
CN103473277A (zh) * | 2013-08-27 | 2013-12-25 | 华为技术有限公司 | 文件系统的快照方法和装置 |
CN104850548A (zh) * | 2014-02-13 | 2015-08-19 | 中国移动通信集团山西有限公司 | 一种实现大数据平台输入/输出处理的方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102664914A (zh) * | 2012-03-22 | 2012-09-12 | 北京英孚斯迈特信息技术有限公司 | 一种IS/DFS-Image分布式文件存储查询系统 |
-
2017
- 2017-02-24 CN CN201710102058.0A patent/CN106980645B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101187931A (zh) * | 2007-12-12 | 2008-05-28 | 浙江大学 | 分布式文件系统多文件副本的管理方法 |
CN101808127A (zh) * | 2010-03-15 | 2010-08-18 | 成都市华为赛门铁克科技有限公司 | 数据备份方法、系统和服务器 |
CN103229480A (zh) * | 2011-11-29 | 2013-07-31 | 华为技术有限公司 | 分布式存储系统中的数据处理方法及设备、客户端 |
CN103473277A (zh) * | 2013-08-27 | 2013-12-25 | 华为技术有限公司 | 文件系统的快照方法和装置 |
CN104850548A (zh) * | 2014-02-13 | 2015-08-19 | 中国移动通信集团山西有限公司 | 一种实现大数据平台输入/输出处理的方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN106980645A (zh) | 2017-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11397648B2 (en) | Virtual machine recovery method and virtual machine management device | |
US8738883B2 (en) | Snapshot creation from block lists | |
US9009443B2 (en) | System and method for optimized reclamation processing in a virtual tape library system | |
US7343449B2 (en) | Storage subsystem and storage system | |
US9335931B2 (en) | System and method for making snapshots of storage devices | |
US20150113218A1 (en) | Distributed Data Processing Method and Apparatus | |
CN109376197B (zh) | 一种数据同步方法、服务器及计算机存储介质 | |
US20110093437A1 (en) | Method and system for generating a space-efficient snapshot or snapclone of logical disks | |
US20170083419A1 (en) | Data management method, node, and system for database cluster | |
CN106357703B (zh) | 集群切换方法与设备 | |
CN111984465A (zh) | 数据库远程备份方法、装置、介质和电子设备 | |
EP2572280A1 (en) | System and method for making snapshots of storage devices | |
CN103197987A (zh) | 一种数据备份的方法、数据恢复的方法及系统 | |
CN113190384B (zh) | 基于纠删码的数据恢复控制方法、装置、设备及介质 | |
CN113467719A (zh) | 数据写入方法及装置 | |
US10235089B2 (en) | Storage control device, method and storage system to backup data using allocation information | |
CN106980645B (zh) | 一种分布式文件系统架构实现方法和装置 | |
US20200387412A1 (en) | Method To Manage Database | |
CN114490540B (zh) | 数据存储方法、介质、装置和计算设备 | |
CN114328007B (zh) | 一种容器备份还原方法、装置及其介质 | |
CN110018987B (zh) | 快照创建方法、装置及系统 | |
EP1693756B1 (en) | Storage subsystem and storage system | |
CN110018985B (zh) | 快照删除方法、装置及系统 | |
US20240036989A1 (en) | Storage system and management method | |
JP6906585B2 (ja) | 情報をバックアップするための方法及び装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
TA01 | Transfer of patent application right | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20190902 Address after: 100089 Floor 1-4, No. 2 Building, No. 9 Courtyard, Dijin Road, Haidian District, Beijing Applicant after: Beijing Toyou Feiji Electronics Co., Ltd. Address before: 518000 Feiyada Science and Technology Building, Yuehai Street, Nanshan District, Shenzhen City, Guangdong Province, 1402E Applicant before: Shenzhen City Rui Bo deposit information technology Co. Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |