CN103077187A - 日志管理方法和日志管理系统 - Google Patents
日志管理方法和日志管理系统 Download PDFInfo
- Publication number
- CN103077187A CN103077187A CN2012105572703A CN201210557270A CN103077187A CN 103077187 A CN103077187 A CN 103077187A CN 2012105572703 A CN2012105572703 A CN 2012105572703A CN 201210557270 A CN201210557270 A CN 201210557270A CN 103077187 A CN103077187 A CN 103077187A
- Authority
- CN
- China
- Prior art keywords
- journal file
- log files
- data
- data log
- index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了日志管理方法和日志管理系统,其后,该日志管理方法包括:采用追加写的方式将文件日志记录到数据日志文件中;以及创建索引日志文件,索引日志文件记录每个数据日志文件中的第一个事务的事务号。通过本发明的技术方案,能够保持较高的写性能并快速找到所需事务。
Description
技术领域
本发明总的来说涉及日志系统,更具体地,涉及日志管理方法和日志管理系统。
背景技术
为了保证多元数据服务器的一致性和原子性,采用日志系统来完成元数据的数据存储。为了管理日志设备,大部分系统采用了卷积写(其是文件长度固定,写完文件尾再写文件头,循环写文件的方式)。由于卷积写的方式,必须需要记录当前写的位置,因此,必须有头部来进行维护,这样每次写文件,不仅要写数据,还要写文件头。
因此,现有日志系统采用卷积写,每次写均需要写两次文件,而由于文件头都是在磁盘一个固定的位置,而数据部分则在磁盘的不同位置,因此,每次写文件,磁头将需要在磁道上进行来回的寻道,导致降低了写设备的性能。同时,采用卷积写的方式,管理文件比较复杂,例如,出现一个日志事务占用当前日志设备文件尾部和卷积和的设备头的情况,这样极易出现问题。
针对相关技术中的问题,目前尚未提出有效的解决方案。
发明内容
针对相关技术中的问题,本发明提出一种日志管理方法和日志管理系统,其能够保持较高的写性能。
根据本发明的一个方面,提供了一种日志管理方法,包括:采用追加写的方式将文件日志记录到数据日志文件中;以及创建索引日志文件,索引日志文件记录每个数据日志文件中的第一个事务的事务号。
优选地,数据日志文件为多个数据日志文件,当一个数据日志文件写满时,再新建一个新的数据日志文件。
更优选地,根据时间来划分多个数据日志文件。
更优选地,根据日志记录长度来划分多个数据日志文件。
优选地,当需要查找一个事务的数据时,根据索引日志文件确定该事务属于哪个数据日志文件,然后顺序读该事务所在的数据日志文件。
优选地,当索引日志文件大于阈值时,创建一个新的索引日志文件,并将原索引日志文件中的有效数据拷入新的索引日志文件中。
更优选地,根据日志系统的系统容量来确定阈值。
根据本发明的另一方面,提供了一种日志管理系统,包括:数据日志文件记录模块,用于采用追加写的方式将文件日志记录到数据日志文件中;以及索引日志文件创建模块,用于创建索引日志文件,索引日志文件记录每个数据日志文件中的第一个事务的事务号。
优选地,数据日志文件为多个数据日志文件,当一个数据日志文件写满时,数据日志文件记录模块再新建一个新的数据日志文件,其中,根据时间或者日志记录长度来划分所述多个数据日志文件。
优选地,当索引日志文件大于阈值时,索引日志文件创建模块创建一个新的索引日志文件,并将原索引日志文件中的有效数据拷入新的索引日志文件中,其中,根据日志系统的系统容量来确定该阈值。
本发明通过采用追加写的方式记录文件日志,保持了较高的写性能,并且通过索引日志文件,能够快速找到所需的事务。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是根据本发明实施例的日志管理方法的流程图;
图2是根据本发明实施例的日志管理系统的框图;以及
图3是根据本发明实施例的数据日志文件和索引日志文件的示图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员所获得的所有其他实施例,都属于本发明保护的范围。
图1是根据本发明实施例的日志管理方法的流程图。
参照图1,根据本发明的日志管理方法包括:S102,采用追加写的方式将文件日志记录到数据日志文件中;以及S104,创建索引日志文件,索引日志文件记录每个数据日志文件中的第一个事务的事务号。
这里,数据日志文件可以为多个数据日志文件,当一个数据日志文件写满时,再新建一个新的数据日志文件。优选地,可以根据时间和/或日志记录长度来划分多个数据日志文件。当然,本领域技术人员应该理解,也可以根据其他方式来划分数据日志文件。
当需要查找一个事务的数据时,根据索引日志文件确定该事务属于哪个数据日志文件,然后顺序读该事务所在的数据日志文件。
此外,当索引日志文件大于阈值时,可以创建一个新的索引日志文件,并将原索引日志文件中的有效数据拷入新的索引日志文件中。注意,根据日志系统的系统容量来确定阈值。
图2是根据本发明实施例的日志管理系统的框图。
参照图2,根据本发明的,日志管理系统包括:数据日志文件记录模块22,用于采用追加写的方式将文件日志记录到数据日志文件中;以及索引日志文件创建模块24,用于创建索引日志文件,索引日志文件记录每个数据日志文件中的第一个事务的事务号。
以下参照图3详细描述本发明。
图3是根据本发明实施例的数据日志文件和索引日志文件的示图。
参照图3,本发明的技术方案采用索引日志文件管理的方式。如图所示,将文件日志记录到数据日志文件中,文件可以根据时间和/或日志记录长度来进行划分。并且还采用追加写的方式不断写到数据日志文件的尾部,当该数据日志文件文件写满时,新建一个新的数据日志文件。
同时,还创建索引日志文件,该索引日志文件记录每个数据日志文件的第一个事务的事务号。这样,当需要查找某个事务的数据时,就可以根据索引日志文件查到其属于哪个数据日志文件,然后再顺序读该数据日志文件即可。
此外,当索引日志文件太大时,创建一个新的索引日志文件,将原来的索引日志中的有效数据拷入新创建的索引日志文件中。这样既回收了磁盘空间,同时索引日志文件和数据日志文件仍然是一一对应的关系,此外,由于索引日志文件没有给数据日志的信息,从而也回收了数据日志的空间,这也就是本领域技术人员已知的文件空洞回收方式,即,随着日志文件的增加,有一部分日志文件已经被应用,因此这些日志文件及其相对应的索引日志文件已经没有用,但它们还占用一定的空间,通过创建新的索引日志文件并将原有索引日志中的有效数据拷入新创建的索引日志文件中,使得已经无效的索引日志文件被删除,这样就回收了索引日志文件的一部分空间,并且相应回收了被删除索引日志文件所对应的那些数据日志文件的空间。
注意,本领域技术人员应该明白,这里所说的索引日志文件的大小是相对于日志系统的系统容量来决定的,当系统容量较大时,自然索引日志文件可以较大,而当系统容量较小时,索引日志文件相对也较小。
通过本发明的方法:数据日志文件按顺序追加写入日志设备,这样能够保持较高的写性能。当需要查找某个事务时,根据索引日志文件,快速找到所需事务所在的数据日志文件并读该数据日志文件即可,这样就无需遍历所有的数据日志文件。此外,当索引日志文件太大时,可以采用文件空洞方式进行回收。
综上所述,借助于本发明的上述技术方案,通过采用追加写数据日志文件而使文件号不断递增且索引日志文件仅维护所有数据日志的事务的最小号,可以保持较高的写性能并且能够快速找到所需事务。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种日志管理方法,其特征在于,所述日志管理方法包括:
采用追加写的方式将文件日志记录到数据日志文件中;以及
创建索引日志文件,所述索引日志文件记录每个数据日志文件中的第一个事务的事务号。
2.根据权利要求1所述的日志管理方法,其特征在于,所述数据日志文件为多个数据日志文件,当一个数据日志文件写满时,再新建一个新的数据日志文件。
3.根据权利要求2所述的日志管理方法,其特征在于,根据时间来划分所述多个数据日志文件。
4.根据权利要求2所述的日志管理方法,其特征在于,根据日志记录长度来划分所述多个数据日志文件。
5.根据权利要求1所述的日志管理方法,其特征在于,当需要查找一个事务的数据时,根据所述索引日志文件确定该事务属于哪个数据日志文件,然后顺序读该事务所在的数据日志文件。
6.根据权利要求1所述的日志管理方法,其特征在于,当所述索引日志文件大于阈值时,创建一个新的索引日志文件,并将原索引日志文件中的有效数据拷入所述新的索引日志文件中。
7.根据权利要求6所述的日志管理方法,其特征在于,根据日志系统的系统容量来确定所述阈值。
8.一种日志管理系统,其特征在于,所述日志管理系统包括:
数据日志文件记录模块,用于采用追加写的方式将文件日志记录到数据日志文件中;以及
索引日志文件创建模块,用于创建索引日志文件,所述索引日志文件记录每个数据日志文件中的第一个事务的事务号。
9.根据权利要求7所述的日志管理系统,其特征在于,所述数据日志文件为多个数据日志文件,当一个数据日志文件写满时,所述数据日志文件记录模块再新建一个新的数据日志文件,其中,根据时间或者日志记录长度来划分所述多个数据日志文件。
10.根据权利要求8所述的日志管理系统,其特征在于,当所述索引日志文件大于阈值时,所述索引日志文件创建模块创建一个新的索引日志文件,并将原索引日志文件中的有效数据拷入所述新的索引日志文件中,其中,根据日志系统的系统容量来确定所述阈值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012105572703A CN103077187A (zh) | 2012-12-20 | 2012-12-20 | 日志管理方法和日志管理系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2012105572703A CN103077187A (zh) | 2012-12-20 | 2012-12-20 | 日志管理方法和日志管理系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN103077187A true CN103077187A (zh) | 2013-05-01 |
Family
ID=48153717
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2012105572703A Pending CN103077187A (zh) | 2012-12-20 | 2012-12-20 | 日志管理方法和日志管理系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN103077187A (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104462349A (zh) * | 2014-12-05 | 2015-03-25 | 曙光信息产业(北京)有限公司 | 一种文件处理方法及装置 |
CN104035729B (zh) * | 2014-05-22 | 2017-02-15 | 中国科学院计算技术研究所 | 一种日志映射的块设备精简配置方法 |
CN108446203A (zh) * | 2018-03-20 | 2018-08-24 | 万帮充电设备有限公司 | 服务器事务日志处理方法及装置 |
CN109165305A (zh) * | 2018-07-24 | 2019-01-08 | 浙江大华技术股份有限公司 | 一种特征值存储、检索方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101639848A (zh) * | 2009-06-01 | 2010-02-03 | 北京四维图新科技股份有限公司 | 一种空间数据引擎及应用其管理空间数据的方法 |
CN101876996A (zh) * | 2009-12-01 | 2010-11-03 | 广州从兴电子开发有限公司 | 一种内存数据库到文件数据库的数据同步方法及系统 |
CN102129435A (zh) * | 2010-01-13 | 2011-07-20 | 中国移动通信集团公司 | 数据存储业务控制方法及系统 |
CN102368267A (zh) * | 2011-10-25 | 2012-03-07 | 曙光信息产业(北京)有限公司 | 一种维护分布式系统中副本一致性的方法 |
CN102541982A (zh) * | 2011-10-25 | 2012-07-04 | 曙光信息产业(北京)有限公司 | 一种组织和访问元数据文件日志的方法 |
-
2012
- 2012-12-20 CN CN2012105572703A patent/CN103077187A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101639848A (zh) * | 2009-06-01 | 2010-02-03 | 北京四维图新科技股份有限公司 | 一种空间数据引擎及应用其管理空间数据的方法 |
CN101876996A (zh) * | 2009-12-01 | 2010-11-03 | 广州从兴电子开发有限公司 | 一种内存数据库到文件数据库的数据同步方法及系统 |
CN102129435A (zh) * | 2010-01-13 | 2011-07-20 | 中国移动通信集团公司 | 数据存储业务控制方法及系统 |
CN102368267A (zh) * | 2011-10-25 | 2012-03-07 | 曙光信息产业(北京)有限公司 | 一种维护分布式系统中副本一致性的方法 |
CN102541982A (zh) * | 2011-10-25 | 2012-07-04 | 曙光信息产业(北京)有限公司 | 一种组织和访问元数据文件日志的方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104035729B (zh) * | 2014-05-22 | 2017-02-15 | 中国科学院计算技术研究所 | 一种日志映射的块设备精简配置方法 |
CN104462349A (zh) * | 2014-12-05 | 2015-03-25 | 曙光信息产业(北京)有限公司 | 一种文件处理方法及装置 |
CN104462349B (zh) * | 2014-12-05 | 2019-02-19 | 曙光信息产业(北京)有限公司 | 一种文件处理方法及装置 |
CN108446203A (zh) * | 2018-03-20 | 2018-08-24 | 万帮充电设备有限公司 | 服务器事务日志处理方法及装置 |
CN109165305A (zh) * | 2018-07-24 | 2019-01-08 | 浙江大华技术股份有限公司 | 一种特征值存储、检索方法及装置 |
CN109165305B (zh) * | 2018-07-24 | 2021-02-02 | 浙江大华技术股份有限公司 | 一种特征值存储、检索方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102222085B (zh) | 一种基于相似性与局部性结合的重复数据删除方法 | |
US9996557B2 (en) | Database storage system based on optical disk and method using the system | |
US10255235B2 (en) | Database storage system based on jukebox and method using the system | |
CN104077380B (zh) | 一种重复数据删除方法、装置及系统 | |
CN103020255B (zh) | 分级存储方法和装置 | |
KR102310246B1 (ko) | 세컨더리 인덱스 생성 방법 및 세컨더리 인덱스 저장 장치 | |
CN102033924B (zh) | 一种数据存储方法和系统 | |
CN104346357A (zh) | 一种嵌入式终端的文件存取方法及系统 | |
CN102591947A (zh) | 用于数据去重复的快速且低ram占用的索引 | |
CN103399823B (zh) | 业务数据的存储方法、设备和系统 | |
CN101916290B (zh) | 内存数据库的管理方法和装置 | |
CN101582076A (zh) | 一种基于数据库的重复数据删除方法 | |
CN104268088A (zh) | 车载dvr硬盘数据存储方法 | |
CN102999605A (zh) | 一种通过优化数据放置来减少数据碎片的方法和装置 | |
CN103034592B (zh) | 数据处理方法和装置 | |
CN104239438A (zh) | 基于分离存储的文件信息存储方法和文件信息读写方法 | |
CN103617097A (zh) | 文件恢复方法及装置 | |
CN103257830A (zh) | 存储单元的访问方法和存储单元 | |
CN103077187A (zh) | 日志管理方法和日志管理系统 | |
CN107506466B (zh) | 一种小文件存储方法及系统 | |
CN103049224A (zh) | 将数据导入物理磁带的方法、装置和系统 | |
CN104050057B (zh) | 一种历史感知的数据去重碎片消除方法与系统 | |
CN104008207A (zh) | 基于光盘的数据库的数据外部存储系统及数据存储方法 | |
CN103176867A (zh) | 一种快速文件差异备份方法 | |
CN105183949A (zh) | 一种铁路主数据的清洗方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20130501 |