JP6445049B2 - ログの管理方法及び計算機システム - Google Patents
ログの管理方法及び計算機システム Download PDFInfo
- Publication number
- JP6445049B2 JP6445049B2 JP2016570238A JP2016570238A JP6445049B2 JP 6445049 B2 JP6445049 B2 JP 6445049B2 JP 2016570238 A JP2016570238 A JP 2016570238A JP 2016570238 A JP2016570238 A JP 2016570238A JP 6445049 B2 JP6445049 B2 JP 6445049B2
- Authority
- JP
- Japan
- Prior art keywords
- log
- storage device
- header identifier
- file
- backup data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000007726 management method Methods 0.000 title claims description 25
- 238000003860 storage Methods 0.000 claims description 75
- 238000012545 processing Methods 0.000 claims description 74
- 238000011084 recovery Methods 0.000 claims description 63
- 238000000034 method Methods 0.000 claims description 28
- 230000008569 process Effects 0.000 claims description 25
- 230000007246 mechanism Effects 0.000 description 13
- 238000007792 addition Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 238000004590 computer program Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 206010044048 Tooth missing Diseases 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000002955 isolation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1471—Saving, restoring, recovering or retrying involving logging of persistent data for recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
- G06F11/14—Error detection or correction of the data by redundancy in operation
- G06F11/1402—Saving, restoring, recovering or retrying
- G06F11/1446—Point-in-time backing up or restoration of persistent data
- G06F11/1458—Management of the backup or restore process
- G06F11/1469—Backup restoration techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/13—File access structures, e.g. distributed indices
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2365—Ensuring data consistency and integrity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
- G06F2201/80—Database-specific techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2201/00—Indexing scheme relating to error detection, to error correction, and to monitoring
- G06F2201/84—Using snapshots, i.e. a logical point-in-time copy of the data
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Computer Security & Cryptography (AREA)
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に記載したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加、削除、又は置換のいずれもが、単独で、又は組み合わせても適用可能である。
Claims (4)
- プロセッサとメモリとストレージ装置とを有する計算機システムで、前記プロセッサが所定の処理を実行し、前記ストレージ装置に前記処理の内容を含むログを格納するログの管理方法であって、
前記プロセッサが、前記所定の処理の内容を含むログを生成する第1のステップと、
前記プロセッサが、前記ログを前記ストレージ装置のログファイルに書き込む第2のステップと、
前記プロセッサが、前記ログを格納するログ領域の終端を決定して前記ストレージ装置のログファイルに書き込む第3のステップと、
前記プロセッサが、前記所定の処理の対象となるデータのバックアップデータを生成して、前記ストレージ装置に格納する第4のステップと、
前記プロセッサが、前記バックアップデータと前記ログファイルを読み込んで、前記ログを前記バックアップデータに適用して、前記ログファイルに書き込まれたログ領域の終端までリカバリを実行する第5のステップと、
を含み、
前記第2のステップは、
当該ログが正常であるか否かを示すログヘッダ識別子を当該ログに設定するステップと、
当該ログのサイズを示す情報を当該ログに設定するステップと、を含み、
前記第5のステップは、
前記ログヘッダ識別子を読み込んで当該ログヘッダ識別子が正常であるか否かを判定するステップと、
前記ログヘッダ識別子が不正である場合には、前記サイズを読み込んで次のログを探索するステップと、
前記ログヘッダ識別子が正常なログの場合には、前記ログを前記バックアップデータに適用してリカバリを行うステップと、
を含むことを特徴とするログの管理方法。 - プロセッサとメモリとストレージ装置とを有する計算機システムで、前記プロセッサが所定の処理を実行し、前記ストレージ装置に前記処理の内容を含むログを格納するログの管理方法であって、
前記プロセッサが、前記所定の処理の内容を含む固定長のログを生成する第1のステップと、
前記プロセッサが、前記ログを前記ストレージ装置のログファイルに書き込む第2のステップと、
前記プロセッサが、前記ログを格納するログ領域の終端を決定して前記ストレージ装置のログファイルに書き込む第3のステップと、
前記プロセッサが、前記所定の処理の対象となるデータのバックアップデータを生成して、前記ストレージ装置に格納する第4のステップと、
前記プロセッサが、前記バックアップデータと前記ログファイルを読み込んで、前記ログを前記バックアップデータに適用して、前記ログファイルに書き込まれたログ領域の終端までリカバリを実行する第5のステップと、
を含み、
前記第2のステップは、
当該ログが正常であるか否かを示すログヘッダ識別子を当該ログに設定するステップを含み、
前記第5のステップは、
前記ログヘッダ識別子を読み込んで当該ログヘッダ識別子が正常であるか否かを判定するステップと、
前記ログヘッダ識別子が不正である場合には、予め設定されたサイズを読み込んで次のログを探索するステップと、
前記ログヘッダ識別子が正常な場合には、前記ログを前記バックアップデータに適用してリカバリを行うステップと、
を含むことを特徴とするログの管理方法。 - プロセッサとメモリとストレージ装置とを有する計算機システムであって、
前記計算機システムは、
所定の処理を実行して前記処理の内容を含むログを生成し、前記ストレージ装置に前記ログを格納し、前記所定の処理の対象となるデータのバックアップデータを生成して前記ストレージ装置に格納する実行部と、
前記ログを格納するログ領域の終端を決定して前記ストレージ装置のログファイルに書き込み、リカバリの際には前記バックアップデータと前記ログファイルを読み込んで、前記ログを前記バックアップデータに適用するリカバリを、前記ログファイルに書き込まれたログ領域の終端まで行うログ管理部と、
を有し、
前記実行部は、
当該ログが正常であるか否かを示すログヘッダ識別子と、当該ログのサイズを示す情報を当該ログに設定し、
前記ログ管理部は、
前記ログヘッダ識別子を読み込んで当該ログヘッダ識別子が正常であるか否かを判定し、前記ログヘッダ識別子が不正である場合には、前記サイズを読み込んで次のログを探索し、前記ログヘッダ識別子が正常なログの場合には、前記ログを前記バックアップデータに適用してリカバリを行うことを特徴とする計算機システム。 - プロセッサとメモリとストレージ装置とを有する計算機システムであって、
前記計算機システムは、
所定の処理を実行して前記処理の内容を含む固定長のログを生成し、前記ストレージ装置に前記ログを格納し、前記所定の処理の対象となるデータのバックアップデータを生成して前記ストレージ装置に格納する実行部と、
前記ログを格納するログ領域の終端を決定して前記ストレージ装置のログファイルに書き込み、リカバリの際には前記バックアップデータと前記ログファイルを読み込んで、前記ログを前記バックアップデータに適用するリカバリを、前記ログファイルに書き込まれたログ領域の終端まで行うログ管理部と、
を有し、
前記実行部は、
当該ログが正常であるか否かを示すログヘッダ識別子を当該ログに設定し、
前記ログ管理部は、
前記ログヘッダ識別子を読み込んで当該ログヘッダ識別子が正常であるか否かを判定し、前記ログヘッダ識別子が不正である場合には、予め設定されたサイズを読み込んで次のログを探索し、前記ログヘッダ識別子が正常な場合には、前記ログを前記バックアップデータに適用してリカバリを行うことを特徴とする計算機システム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2015/051343 WO2016117022A1 (ja) | 2015-01-20 | 2015-01-20 | ログの管理方法及び計算機システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2016117022A1 JPWO2016117022A1 (ja) | 2017-04-27 |
JP6445049B2 true JP6445049B2 (ja) | 2018-12-26 |
Family
ID=56416588
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016570238A Expired - Fee Related JP6445049B2 (ja) | 2015-01-20 | 2015-01-20 | ログの管理方法及び計算機システム |
Country Status (3)
Country | Link |
---|---|
US (1) | US10025675B2 (ja) |
JP (1) | JP6445049B2 (ja) |
WO (1) | WO2016117022A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9979785B2 (en) * | 2015-09-29 | 2018-05-22 | Veritas Technologies Llc | Systems and methods for restoring data from opaque data backup streams |
CN110832473B (zh) * | 2017-06-21 | 2023-01-13 | 华为技术有限公司 | 日志结构管理系统及方法 |
JP7135403B2 (ja) * | 2018-04-23 | 2022-09-13 | 株式会社リコー | ダンプ処理装置及び画像形成装置 |
CN109241015B (zh) * | 2018-07-24 | 2021-07-16 | 北京百度网讯科技有限公司 | 用于在分布式存储系统中写入数据的方法 |
JP7119794B2 (ja) * | 2018-09-05 | 2022-08-17 | トヨタ自動車株式会社 | ログデータの生成方法、プログラム、及びデータ構造 |
JP7279439B2 (ja) * | 2019-03-20 | 2023-05-23 | 株式会社リコー | ネットワーク機器、ログ記録方法、およびプログラム |
US11237924B2 (en) * | 2019-12-11 | 2022-02-01 | Commvault Systems, Inc. | Dynamic resizing and re-distribution of destination data storage resources for bare metal restore operations in a data storage management system |
JP7358287B2 (ja) * | 2020-03-30 | 2023-10-10 | キオクシア株式会社 | 半導体記憶装置及びその制御方法 |
CN114489480A (zh) * | 2021-12-23 | 2022-05-13 | 深圳市世强元件网络有限公司 | 高并发存储数据的方法及系统 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07248949A (ja) * | 1994-03-10 | 1995-09-26 | Hitachi Ltd | 入出力実行方法 |
US5966706A (en) * | 1997-02-19 | 1999-10-12 | At&T Corp | Local logging in a distributed database management computer system |
JPH10247157A (ja) * | 1997-03-06 | 1998-09-14 | Nippon Telegr & Teleph Corp <Ntt> | トランザクション処理システムおよびそのリカバリ方法 |
US6173292B1 (en) * | 1998-03-04 | 2001-01-09 | International Business Machines Corporation | Data recovery in a transactional database using write-ahead logging and file caching |
JP4615344B2 (ja) * | 2005-03-24 | 2011-01-19 | 株式会社日立製作所 | データ処理システム及びデータベースの管理方法 |
JP4766240B2 (ja) * | 2005-11-08 | 2011-09-07 | 日本電気株式会社 | ファイル管理方法、装置、およびプログラム |
KR101977575B1 (ko) * | 2012-09-28 | 2019-05-13 | 삼성전자 주식회사 | 디렉토리 엔트리 조회 장치, 그 방법 및 디렉토리 엔트리 조회 프로그램이 기록된 기록 매체 |
US9274798B2 (en) * | 2013-01-18 | 2016-03-01 | Morgan Stanley | Multi-threaded logging |
-
2015
- 2015-01-20 JP JP2016570238A patent/JP6445049B2/ja not_active Expired - Fee Related
- 2015-01-20 US US15/313,137 patent/US10025675B2/en not_active Expired - Fee Related
- 2015-01-20 WO PCT/JP2015/051343 patent/WO2016117022A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20170206147A1 (en) | 2017-07-20 |
US10025675B2 (en) | 2018-07-17 |
WO2016117022A1 (ja) | 2016-07-28 |
JPWO2016117022A1 (ja) | 2017-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6445049B2 (ja) | ログの管理方法及び計算機システム | |
US10977124B2 (en) | Distributed storage system, data storage method, and software program | |
US9665304B2 (en) | Storage system with fast snapshot tree search | |
US9697219B1 (en) | Managing log transactions in storage systems | |
US9280578B1 (en) | Combining transactions in a metadata transaction log | |
US7293145B1 (en) | System and method for data transfer using a recoverable data pipe | |
JP6211196B2 (ja) | 自律的メモリ検索のための方法及びシステム | |
US10127242B1 (en) | Data de-duplication for information storage systems | |
CN109086388B (zh) | 区块链数据存储方法、装置、设备及介质 | |
US9996421B2 (en) | Data storage method, data storage apparatus, and storage device | |
JP6152431B2 (ja) | データベース管理システム及び方法 | |
WO2018076633A1 (zh) | 一种远程数据复制方法、存储设备及存储系统 | |
CN109726264B (zh) | 用于索引信息更新的方法、装置、设备和介质 | |
US10452644B2 (en) | Computer system, method for verifying data, and computer | |
US10452496B2 (en) | System and method for managing storage transaction requests | |
US11068181B2 (en) | Generating and storing monotonically-increasing generation identifiers | |
US11442663B2 (en) | Managing configuration data | |
US11210024B2 (en) | Optimizing read-modify-write operations to a storage device by writing a copy of the write data to a shadow block | |
US10712941B2 (en) | Leveraging temporal locality to link files together and bypass accessing a central inode list | |
US10656867B2 (en) | Computer system, data management method, and data management program | |
CN112559457A (zh) | 数据访问方法及装置 | |
US11256583B2 (en) | Efficient handling of RAID-F component repair failures | |
US12093568B1 (en) | Segregated filesystem metadata operations using buffered atomic write interface | |
US10719401B2 (en) | Increasing data recoverability during central inode list loss | |
KR102005727B1 (ko) | 파일 시스템의 변경 연산 가로채기 기법을 기반으로 한 다중 스냅샷 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161128 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180206 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180314 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180904 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181106 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181128 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6445049 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |