CN107844546A - 一种文件系统元数据管理系统及方法 - Google Patents
一种文件系统元数据管理系统及方法 Download PDFInfo
- Publication number
- CN107844546A CN107844546A CN201711027475.XA CN201711027475A CN107844546A CN 107844546 A CN107844546 A CN 107844546A CN 201711027475 A CN201711027475 A CN 201711027475A CN 107844546 A CN107844546 A CN 107844546A
- Authority
- CN
- China
- Prior art keywords
- metadata
- client
- server end
- file system
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种文件系统元数据管理系统,该系统包括客户端和服务器端,服务器端包括元数据服务和元数据关系数据库;元数据关系数据库存储有文件系统元数据;其中,客户端通过元数据服务,利用数据库索引功能查询元数据关系数据库,得出目标元数据。可见,将文件系统元数据存储至关系数据库,这样,利用数据库索引功能来查询元数据,避免遍历所有文件,可快速查找出所需元数据,提高了元数据查询效率。本发明提供的文件系统元数据管理方法同样具有上述有益效果。
Description
技术领域
本发明涉及存储技术领域,特别涉及一种文件系统元数据管理系统及方法。
背景技术
随着信息技术快速发展,大数据和云存储技术已普遍应用于多个领域。
其中,企业和组织的存储服务器集群中通常会存储数以亿计的文件,如此庞大的文件系统,对元数据的管理效率也是一个很大的挑战。现有的文件系统的元数据管理一般是通过系统提供的访问接口进行,通过传统的访问接口进行元数据的查找、分页、排序等操作都需要顺序遍历整个文件夹,进而导致查询效率低下,耗时较长。
发明内容
本发明的目的是提供一种文件系统元数据管理系统及方法,以提高文件系统元数据查询效率。
为实现上述目的,本发明提供如下技术方案:
一种文件系统元数据管理系统,包括客户端和服务器端,所述服务器端包括元数据服务和元数据关系数据库;所述元数据关系数据库存储有文件系统元数据;
其中,所述客户端通过所述元数据服务,利用数据库索引功能查询所述元数据关系数据库,得出目标元数据。
可选地,所述服务器端还包括分页查询接口,用于根据所述客户端发送的查询请求,分页输出所述目标元数据。
可选地,所述服务器端包括排序查询接口,用于根据所述客户端发送的查询请求包含的排序信息,输出所述目标元数据。
可选地,所述文件系统元数据包括绝对路径数据、索引编号数据、类型数据、创建时间数据和修改时间数据。
一种文件系统元数据管理方法,应用于文件系统元数据管理系统,该文件系统元数据管理系统包括客户端和服务器端,所述服务器端包括元数据服务和元数据关系数据库;所述元数据关系数据库存储有文件系统元数据;该方法包括:
所述客户端根据查询指令生成查询请求,并将所述查询请求发送至所述服务器端;
所述服务器端根据所述查询请求,通过所述元数据服务,利用数据库索引功能查询所述元数据关系数据库,得出目标元数据。
可选地,所述服务器端还包括分页查询接口,所述方法还包括:
所述服务器端根据所述客户端发送的所述查询请求,通过所述分页查询接口,分页输出所述目标元数据至所述客户端;所述客户端显示所述目标元数据。
可选地,所述客户端根据查询指令生成查询请求,包括:
所述客户端接收用户输入的查询指令,根据所述查询指令生成所述查询请求。
本发明提供的文件系统元数据管理系统,包括客户端和服务器端,服务器端包括元数据服务和元数据关系数据库;元数据关系数据库存储有文件系统元数据;其中,客户端通过元数据服务,利用数据库索引功能查询元数据关系数据库,得出目标元数据。可见,将文件系统元数据存储至关系数据库,这样,利用数据库索引功能来查询元数据,避免遍历所有文件,可快速查找出所需元数据,提高了元数据查询效率。本发明提供的文件系统元数据管理方法同样具有上述有益效果。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1为本发明实施例提供的文件系统元数据管理系统的结构示意框图;
图2为本发明实施例提供的文件系统元数据管理方法的流程示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参考图1,图1为本发明实施例提供的文件系统元数据管理系统的结构示意框图,该系统包括客户端11和服务器端12,服务器端包括元数据服务121和元数据关系数据库122;元数据关系数据库存储有文件系统元数据;
其中,客户端通过元数据服务,利用数据库索引功能查询元数据关系数据库,得出目标元数据。
可以理解,上述文件系统元数据可以为但不限于绝对路径数据、索引编号数据、类型数据、创建时间数据和修改时间数据。
为了便于查询,数据库所使用的数据结构的必然是可快速查询的数据结构,因此,基于数据库的数据结构和索引功能,便可大幅提高元数据的查询效率。
服务器端具体为分布式存储服务器,该存储服务器上的元数据服务可以为每一个目录维护一张表,这一张表内可以保存着直属子目录和文件的元数据信息。具体地,该表的表名可以具体为目录绝对路径,其结构可以如下:
名称类型大小索引编号创建时间
name type size inode c_time
本实施例中,服务器端还可以包括分页查询接口,用于根据客户端发送的查询请求,分页输出目标元数据。尤其是对于单目录数据量巨大,导致客户端的处理数据和显示压力较大时,通过该分页接口,一次返回少量数据,进而降低客户端处理和显示的压力。
具体地,用户可以在客户端输入相应的目标元数据信息,例如,名称信息、创建时间、类型信息等,客户端根据用户操作指令生成相应的查询请求,发送至服务器端,服务器端查找出相应的目标元数据后,通过分页查询接口返回给客户端显示。
相较于传统的通过访问接口查询目标元数据时,无论所需查找的元数据的数量多少,都需要遍历出所有的元数据,利用分页接口则可提高查询效率,且在客户端处理压力较大时,可以降低客户端的压力。
本实施例中,服务器端包括排序查询接口,用于根据客户端发送的查询请求包含的排序信息,输出目标元数据。即,将文件和目录的基本属性数据存储至关系数据库中,通过数据库的数据结构和索引功能,不仅能提供元数据的查询效率,当需要进行数据排序时,还可以提高排序效率。
本实施例中,可以利用SQL语句来实现数据库的相应功能。例如:
添加一个文件testfile的sql语句:INSERT INTO testdir VALUES(‘testfile’,’file’,100,12345,‘2017-09-01 08:01:01’);
更新testfile大小sql语句:
UPDATE testdir SET size=1000WHERE name=’testfile’;
按创建时间从前往后排序,查询第10到20个文件的sql语句:
SELECT TOP 10*FROM testdir WHERE type=’file’AND c_time NOT IN(SELECTTOP 10c_time FROM testdir WHERE type=’file’ORDER BY c_time)ORDER BY c_time;
删除名为testfile的文件:
DELETE FROM testdir WHERE name=’testfile’。
当然,关系数据库的相应功能的实现还可以通过其它语言来实现,在此不作限定。
本发明实施例提供的文件系统元数据管理系统,包括客户端和服务器端,服务器端包括元数据服务和元数据关系数据库;元数据关系数据库存储有文件系统元数据;其中,客户端通过元数据服务,利用数据库索引功能查询元数据关系数据库,得出目标元数据。可见,将文件系统元数据存储至关系数据库,这样,利用数据库索引功能来查询元数据,避免遍历所有文件,可快速查找出所需元数据,提高了元数据查询效率。
下面对本发明实施例提供的文件系统元数据管理方法进行介绍,下文描述的文件系统元数据管理方法与上文描述的文件系统元数据管理系统可相互对应参照。
请参考图2,图2为本发明实施例提供的文件系统元数据管理方法的流程示意图,该方法可以应用于文件系统元数据管理系统,该文件系统元数据管理系统包括客户端和服务器端,服务器端包括元数据服务和元数据关系数据库;元数据关系数据库存储有文件系统元数据;该方法包括以下步骤:
步骤201:客户端根据查询指令生成查询请求,并将查询请求发送至服务器端;
步骤202:服务器端根据查询请求,通过元数据服务,利用数据库索引功能查询元数据关系数据库,得出目标元数据。
可选地,服务器端还包括分页查询接口,方法还包括:
服务器端根据客户端发送的查询请求,通过分页查询接口,分页输出目标元数据至客户端;客户端显示目标元数据。
可选地,客户端根据查询指令生成查询请求,包括:
客户端接收用户输入的查询指令,根据查询指令生成查询请求。
本发明实施例提供的文件系统元数据管理方法,将文件系统元数据存储至关系数据库,这样,利用数据库索引功能来查询元数据,避免遍历所有文件,可快速查找出所需元数据,提高了元数据查询效率。
说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
专业人员还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以直接用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上对本发明所提供的文件系统元数据管理系统及方法进行了详细介绍。本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想。应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以对本发明进行若干改进和修饰,这些改进和修饰也落入本发明权利要求的保护范围内。
Claims (7)
1.一种文件系统元数据管理系统,其特征在于,包括客户端和服务器端,所述服务器端包括元数据服务和元数据关系数据库;所述元数据关系数据库存储有文件系统元数据;
其中,所述客户端通过所述元数据服务,利用数据库索引功能查询所述元数据关系数据库,得出目标元数据。
2.如权利要求1所述的系统,其特征在于,所述服务器端还包括分页查询接口,用于根据所述客户端发送的查询请求,分页输出所述目标元数据。
3.如权利要求1或2所述的系统,其特征在于,所述服务器端包括排序查询接口,用于根据所述客户端发送的查询请求包含的排序信息,输出所述目标元数据。
4.如权利要求3所述的系统,其特征在于,所述文件系统元数据包括绝对路径数据、索引编号数据、类型数据、创建时间数据和修改时间数据。
5.一种文件系统元数据管理方法,其特征在于,应用于文件系统元数据管理系统,该文件系统元数据管理系统包括客户端和服务器端,所述服务器端包括元数据服务和元数据关系数据库;所述元数据关系数据库存储有文件系统元数据;该方法包括:
所述客户端根据查询指令生成查询请求,并将所述查询请求发送至所述服务器端;
所述服务器端根据所述查询请求,通过所述元数据服务,利用数据库索引功能查询所述元数据关系数据库,得出目标元数据。
6.如权利要求5所述的方法,其特征在于,所述服务器端还包括分页查询接口,所述方法还包括:
所述服务器端根据所述客户端发送的所述查询请求,通过所述分页查询接口,分页输出所述目标元数据至所述客户端;所述客户端显示所述目标元数据。
7.如权利要求6所述的方法,其特征在于,所述客户端根据查询指令生成查询请求,包括:
所述客户端接收用户输入的查询指令,根据所述查询指令生成所述查询请求。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711027475.XA CN107844546A (zh) | 2017-10-27 | 2017-10-27 | 一种文件系统元数据管理系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711027475.XA CN107844546A (zh) | 2017-10-27 | 2017-10-27 | 一种文件系统元数据管理系统及方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107844546A true CN107844546A (zh) | 2018-03-27 |
Family
ID=61680802
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711027475.XA Pending CN107844546A (zh) | 2017-10-27 | 2017-10-27 | 一种文件系统元数据管理系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107844546A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108897859A (zh) * | 2018-06-29 | 2018-11-27 | 郑州云海信息技术有限公司 | 一种元数据检索方法、装置、设备及计算机可读存储介质 |
CN109542852A (zh) * | 2018-12-03 | 2019-03-29 | 郑州云海信息技术有限公司 | 一种目录信息处理方法及相关装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1547137A (zh) * | 2003-12-02 | 2004-11-17 | 中国科学院计算技术研究所 | 基于数据库的海量文件管理系统与方法 |
CN102023979A (zh) * | 2009-09-09 | 2011-04-20 | 中国工商银行股份有限公司 | 元数据管理方法及系统 |
CN104063487A (zh) * | 2014-07-03 | 2014-09-24 | 浙江大学 | 基于关系型数据库及k-d树索引的文件数据管理方法 |
CN106776783A (zh) * | 2016-11-24 | 2017-05-31 | 福建亿榕信息技术有限公司 | 非结构化数据存储管理方法、服务器和系统 |
-
2017
- 2017-10-27 CN CN201711027475.XA patent/CN107844546A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1547137A (zh) * | 2003-12-02 | 2004-11-17 | 中国科学院计算技术研究所 | 基于数据库的海量文件管理系统与方法 |
CN102023979A (zh) * | 2009-09-09 | 2011-04-20 | 中国工商银行股份有限公司 | 元数据管理方法及系统 |
CN104063487A (zh) * | 2014-07-03 | 2014-09-24 | 浙江大学 | 基于关系型数据库及k-d树索引的文件数据管理方法 |
CN106776783A (zh) * | 2016-11-24 | 2017-05-31 | 福建亿榕信息技术有限公司 | 非结构化数据存储管理方法、服务器和系统 |
Non-Patent Citations (4)
Title |
---|
HZS0502030128: "smile开发类库——SQLRunner分页查询数据库", 《HTTPS://WWW.ITEYE.COM/BLOG/HZS0502030128-1472598》 * |
JAVA界的小菜鸟: "实现一个通用分页查询接口", 《HTTPS://WWW.CNBLOGS.COM/CHENYONGTAO/P/7247504.HTML》 * |
小小程序汪: "分页查询接口常见设计思路", 《HTTPS://BLOG.CSDN.NET/STARLH35/ARTICLE/DETAILS/76726737》 * |
郝桂英等: "《数据库原理及应用教程 Visual FoxPro》", 31 January 2016, 北京理工大学出版社 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108897859A (zh) * | 2018-06-29 | 2018-11-27 | 郑州云海信息技术有限公司 | 一种元数据检索方法、装置、设备及计算机可读存储介质 |
CN109542852A (zh) * | 2018-12-03 | 2019-03-29 | 郑州云海信息技术有限公司 | 一种目录信息处理方法及相关装置 |
CN109542852B (zh) * | 2018-12-03 | 2021-10-29 | 郑州云海信息技术有限公司 | 一种目录信息处理方法及相关装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109299102B (zh) | 一种基于Elastcisearch的HBase二级索引系统及方法 | |
US9842152B2 (en) | Transparent discovery of semi-structured data schema | |
US8918434B2 (en) | Optimizing sparse schema-less data in relational stores | |
US10831736B2 (en) | Fast multi-tier indexing supporting dynamic update | |
CN106066895B (zh) | 一种智能查询系统 | |
CN111767303A (zh) | 一种数据查询方法、装置、服务器及可读存储介质 | |
US8880463B2 (en) | Standardized framework for reporting archived legacy system data | |
US9569441B2 (en) | Archival of objects and dynamic search | |
WO2008066637A2 (en) | Generation of a multidimensional dataset from an associative database | |
CN108509437A (zh) | 一种ElasticSearch查询加速方法 | |
WO2018097846A1 (en) | Edge store designs for graph databases | |
US10769115B2 (en) | Data handling | |
CN107943952A (zh) | 一种基于Spark框架进行全文检索的实现方法 | |
US9524305B2 (en) | Boolean term conversion for null-tolerant disjunctive predicates | |
JP7153420B2 (ja) | データベース中にグラフ情報を記憶するためのb木使用 | |
CN107577714A (zh) | 一种基于HBase的数据查询方法 | |
US20180357330A1 (en) | Compound indexes for graph databases | |
CN107844546A (zh) | 一种文件系统元数据管理系统及方法 | |
WO2018226255A1 (en) | Functional equivalence of tuples and edges in graph databases | |
US10877959B2 (en) | Integrated database table access | |
Haque et al. | Distributed RDF triple store using hbase and hive | |
US10885157B2 (en) | Determining a database signature | |
Bao et al. | Query optimization of massive social network data based on hbase | |
US11675751B2 (en) | Systems and methods for capturing data schema for databases during data insertion | |
Nindito et al. | Comparative study of storing unstructured data type between BasicFile and SecureFile in Oracle Database 12c |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180327 |