JP2013008291A - 分散データストアシステムおよび障害復旧方法 - Google Patents
分散データストアシステムおよび障害復旧方法 Download PDFInfo
- Publication number
- JP2013008291A JP2013008291A JP2011141791A JP2011141791A JP2013008291A JP 2013008291 A JP2013008291 A JP 2013008291A JP 2011141791 A JP2011141791 A JP 2011141791A JP 2011141791 A JP2011141791 A JP 2011141791A JP 2013008291 A JP2013008291 A JP 2013008291A
- Authority
- JP
- Japan
- Prior art keywords
- slave
- server
- slave server
- servers
- wal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【解決手段】複数のスレーブサーバのそれぞれは、当該スレーブサーバが管理している複数の部分テーブルのそれぞれを複数のグループのいずれかに分類し、複数のグループのそれぞれと、複数のグループのそれぞれに属する部分テーブルへの更新情報を記憶する複数の分割WALログのそれぞれとを対応付け、マスターサーバは、複数のスレーブサーバのいずれかに障害が発生したことを検知すると当該障害が発生したスレーブサーバの複数の分割WALログのそれぞれを選択し、当該障害が発生したスレーブサーバ以外のスレーブサーバの中からリカバリ用スレーブサーバを選択し、複数のスレーブサーバのそれぞれは、リカバリ用スレーブサーバとして選択された場合、選択された分割WALログを読み込むことで、当該選択された分割WALログに対応するグループに属する部分テーブルの管理を開始する。
【選択図】図4
Description
前記複数のスレーブサーバのそれぞれは、当該スレーブサーバが管理している複数の部分テーブルのそれぞれを複数のグループのいずれかに分類し、該複数のグループのそれぞれと、前記WALログを複数のファイルに分割することによって生成された、前記複数のグループのそれぞれに属する部分テーブルへの更新情報を記憶する複数の分割WALログのそれぞれとを対応付けるWALログ管理部を有し、
前記マスターサーバは、
前記複数のスレーブサーバのそれぞれに障害が発生したことを検知する障害検知部と、
前記障害検知部にて前記複数のスレーブサーバのいずれかに障害が発生したことが検知されると、当該障害が発生したスレーブサーバの複数の分割WALログのそれぞれを選択し、該選択された分割WALログに対応するグループに属する部分テーブルを管理させるスレーブサーバを、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中からリカバリ用スレーブサーバとして選択するリカバリ要求部と、を有し、
前記複数のスレーブサーバのそれぞれは、前記リカバリ要求部にて当該スレーブサーバが前記リカバリ用スレーブサーバとして選択された場合、前記選択された分割WALログを読み込むことにより、当該選択された分割WALログに対応するグループに属する部分テーブルの管理を開始するリカバリ処理部を有する。
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが管理している複数の部分テーブルのそれぞれを複数のグループのいずれかに分類し、該複数のグループのそれぞれと、前記WALログを複数のファイルに分割することによって生成された、前記複数のグループのそれぞれに属する部分テーブルへの更新情報を記憶する複数の分割WALログのそれぞれとを対応付ける処理と、
前記マスターサーバが、前記複数のスレーブサーバのいずれかに障害が発生したことを検知すると、当該障害が発生したスレーブサーバの複数の分割WALログのそれぞれを選択する処理と、
前記マスターサーバが、前記選択された分割WALログに対応するグループに属する部分テーブルを管理させるスレーブサーバを、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中からリカバリ用スレーブサーバとして選択する選択処理と、
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが前記リカバリ用スレーブサーバとして選択された場合、前記選択された分割WALログを読み込むことにより、当該選択された分割WALログに対応するグループに属する部分テーブルの管理を開始する処理と、を有する。
/スレーブサーバのIPアドレス/wallog/1/wal.log
...
/スレーブサーバのIPアドレス/wallog/N/wal.log
そして、リカバリ処理部23は、生成したファイルパスを用いて分割WALログを読み込み、読み込んだ分割WALログをメモリ上へ展開する。これによりメモリ上バッファが再構築され、新たなAreaの管理が開始されることになる。すなわち、リカバリの対象となったAreaに対する検索や更新が可能となる。
次に、障害検知部12は、第1のタイマーの経過時間が第1の所定時間を超えたかどうかを確認する(ステップS22)。
(ステップS32)。そして、ステップS30の動作へ遷移する。
11 スレーブサーバ管理部
12 障害検知部
13 リカバリ要求部
14 リバランス部
20−1〜20−n スレーブサーバ
21 マスターサーバ接続部
22 WALログ管理部
23 リカバリ処理部
24 ロード部
25 アンロード部
26 稼働状態確認部
Claims (6)
- マスターサーバと、複数のスレーブサーバとを有し、前記マスターサーバが、複数のデータを記憶するテーブルを分割することによって前記複数のスレーブサーバのそれぞれに複数の部分テーブルを割り当て、前記複数のスレーブサーバのそれぞれが、前記割り当てられた複数の部分テーブルを、当該複数の部分テーブルのそれぞれへの更新情報を記憶するWALログを用いて管理する分散データストアシステムであって、
前記複数のスレーブサーバのそれぞれは、当該スレーブサーバが管理している複数の部分テーブルのそれぞれを複数のグループのいずれかに分類し、該複数のグループのそれぞれと、前記WALログを複数のファイルに分割することによって生成された、前記複数のグループのそれぞれに属する部分テーブルへの更新情報を記憶する複数の分割WALログのそれぞれとを対応付けるWALログ管理部を有し、
前記マスターサーバは、
前記複数のスレーブサーバのそれぞれに障害が発生したことを検知する障害検知部と、
前記障害検知部にて前記複数のスレーブサーバのいずれかに障害が発生したことが検知されると、当該障害が発生したスレーブサーバの複数の分割WALログのそれぞれを選択し、該選択された分割WALログに対応するグループに属する部分テーブルを管理させるスレーブサーバを、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中からリカバリ用スレーブサーバとして選択するリカバリ要求部と、を有し、
前記複数のスレーブサーバのそれぞれは、前記リカバリ要求部にて当該スレーブサーバが前記リカバリ用スレーブサーバとして選択された場合、前記選択された分割WALログを読み込むことにより、当該選択された分割WALログに対応するグループに属する部分テーブルの管理を開始するリカバリ処理部を有する分散データストアシステム。 - 請求項1に記載の分散データストアシステムにおいて、
前記リカバリ要求部は、前記複数のスレーブサーバのそれぞれが管理している部分テーブルの数に応じ、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中から前記リカバリ用スレーブサーバを選択する分散データストアシステム。 - 請求項1または請求項2に記載の分散データストアシステムにおいて、
前記マスターサーバは、前記複数のスレーブサーバのそれぞれが管理している部分テーブルの数が、当該複数のスレーブサーバ間で均一化されているかどうかを判定する均一化判定を実行するリバランス部をさらに有し、
前記リバランス部は、前記均一化判定において均一化されていないと判定した場合、前記複数のスレーブサーバの中から、管理している部分テーブルの数が最多のスレーブサーバを最多スレーブサーバとして選択するとともに、管理している部分テーブルの数が最少のスレーブサーバを最少スレーブサーバとして選択し、
前記複数のスレーブサーバのそれぞれは、
前記リバランス部にて当該スレーブサーバが前記最多スレーブサーバとして選択された場合、当該スレーブサーバにて管理している部分テーブルのうちのいずれかを選択し、該選択した部分テーブルを管理対象から除外するアンロード部と、
前記リバランス部にて当該スレーブサーバが前記最少スレーブサーバとして選択された場合、前記管理対象から除外された部分テーブルを、当該スレーブサーバが管理する部分テーブルとするロード部と、をさらに有する分散データストアシステム。 - マスターサーバと、複数のスレーブサーバとを有し、前記マスターサーバが、複数のデータを記憶するテーブルを分割することによって前記複数のスレーブサーバのそれぞれに複数の部分テーブルを割り当て、前記複数のスレーブサーバのそれぞれが、前記割り当てられた複数の部分テーブルを、当該複数の部分テーブルのそれぞれへの更新情報を記憶するWALログを用いて管理する分散データストアシステムにおける障害復旧方法であって、
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが管理している複数の部分テーブルのそれぞれを複数のグループのいずれかに分類し、該複数のグループのそれぞれと、前記WALログを複数のファイルに分割することによって生成された、前記複数のグループのそれぞれに属する部分テーブルへの更新情報を記憶する複数の分割WALログのそれぞれとを対応付ける処理と、
前記マスターサーバが、前記複数のスレーブサーバのいずれかに障害が発生したことを検知すると、当該障害が発生したスレーブサーバの複数の分割WALログのそれぞれを選択する処理と、
前記マスターサーバが、前記選択された分割WALログに対応するグループに属する部分テーブルを管理させるスレーブサーバを、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中からリカバリ用スレーブサーバとして選択する選択処理と、
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが前記リカバリ用スレーブサーバとして選択された場合、前記選択された分割WALログを読み込むことにより、当該選択された分割WALログに対応するグループに属する部分テーブルの管理を開始する処理と、を有する障害復旧方法。 - 請求項4に記載の障害復旧方法において、
前記選択処理は、前記マスターサーバが、前記複数のスレーブサーバのそれぞれが管理している部分テーブルの数に応じ、前記複数のスレーブサーバのうち、当該障害が発生したスレーブサーバ以外のスレーブサーバの中から前記リカバリ用スレーブサーバを選択する処理である障害復旧方法。 - 請求項4または請求項5に記載の障害復旧方法において、
前記マスターサーバが、前記複数のスレーブサーバのそれぞれが管理している部分テーブルの数が、当該複数のスレーブサーバ間で均一化されているかどうかを判定する均一化判定を実行する処理と、
前記マスターサーバが、前記均一化判定において均一化されていないと判定した場合、前記複数のスレーブサーバの中から、管理している部分テーブルの数が最多のスレーブサーバを最多スレーブサーバとして選択するとともに、管理している部分テーブルの数が最少のスレーブサーバを最少スレーブサーバとして選択する処理と、
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが前記最多スレーブサーバとして選択された場合、当該スレーブサーバにて管理している部分テーブルのうちのいずれかを選択し、該選択した部分テーブルを管理対象から除外する処理と、
前記複数のスレーブサーバのそれぞれが、当該スレーブサーバが前記最少スレーブサーバとして選択された場合、前記管理対象から除外された部分テーブルを、当該スレーブサーバが管理する部分テーブルとする処理と、をさらに有する障害復旧方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011141791A JP5405530B2 (ja) | 2011-06-27 | 2011-06-27 | 分散データストアシステムおよび障害復旧方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011141791A JP5405530B2 (ja) | 2011-06-27 | 2011-06-27 | 分散データストアシステムおよび障害復旧方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013008291A true JP2013008291A (ja) | 2013-01-10 |
JP5405530B2 JP5405530B2 (ja) | 2014-02-05 |
Family
ID=47675569
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011141791A Active JP5405530B2 (ja) | 2011-06-27 | 2011-06-27 | 分散データストアシステムおよび障害復旧方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5405530B2 (ja) |
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014229036A (ja) * | 2013-05-22 | 2014-12-08 | 日本電信電話株式会社 | 情報処理装置、情報処理方法、および、情報処理プログラム |
WO2015025384A1 (ja) * | 2013-08-21 | 2015-02-26 | 株式会社東芝 | データベースシステム、プログラムおよびデータ処理方法 |
JP2016511486A (ja) * | 2013-03-15 | 2016-04-14 | アマゾン・テクノロジーズ・インコーポレーテッド | データベースエンジンを備えたデータベースシステム及び別個の分散型ストレージサービス |
JP2016517124A (ja) * | 2013-04-30 | 2016-06-09 | アマゾン・テクノロジーズ・インコーポレーテッド | 効率的な読み取り用レプリカ |
US10162875B2 (en) | 2013-08-27 | 2018-12-25 | Kabushiki Kaisha Toshiba | Database system including a plurality of nodes |
CN110532123A (zh) * | 2019-08-30 | 2019-12-03 | 北京小米移动软件有限公司 | HBase系统的故障转移方法及装置 |
CN112835885A (zh) * | 2019-11-22 | 2021-05-25 | 北京金山云网络技术有限公司 | 一种分布式表格存储的处理方法、装置及系统 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001306379A (ja) * | 2000-04-19 | 2001-11-02 | Nec Soft Ltd | 障害発生時のデータの自動リカバリ方法および装置と記憶媒体 |
JP2005078394A (ja) * | 2003-09-01 | 2005-03-24 | Nec Corp | 非共有型データベースクラスタシステム,データベースノードおよび動的データ再配置方法ならびにプログラム |
JP2005339079A (ja) * | 2004-05-26 | 2005-12-08 | Hitachi Ltd | データベース管理システムにおける処理代行方法 |
-
2011
- 2011-06-27 JP JP2011141791A patent/JP5405530B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001306379A (ja) * | 2000-04-19 | 2001-11-02 | Nec Soft Ltd | 障害発生時のデータの自動リカバリ方法および装置と記憶媒体 |
JP2005078394A (ja) * | 2003-09-01 | 2005-03-24 | Nec Corp | 非共有型データベースクラスタシステム,データベースノードおよび動的データ再配置方法ならびにプログラム |
JP2005339079A (ja) * | 2004-05-26 | 2005-12-08 | Hitachi Ltd | データベース管理システムにおける処理代行方法 |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016511486A (ja) * | 2013-03-15 | 2016-04-14 | アマゾン・テクノロジーズ・インコーポレーテッド | データベースエンジンを備えたデータベースシステム及び別個の分散型ストレージサービス |
JP2018152118A (ja) * | 2013-03-15 | 2018-09-27 | アマゾン・テクノロジーズ・インコーポレーテッド | データベースエンジンを備えたデータベースシステム及び別個の分散型ストレージサービス |
US10747746B2 (en) | 2013-04-30 | 2020-08-18 | Amazon Technologies, Inc. | Efficient read replicas |
JP2016517124A (ja) * | 2013-04-30 | 2016-06-09 | アマゾン・テクノロジーズ・インコーポレーテッド | 効率的な読み取り用レプリカ |
JP2014229036A (ja) * | 2013-05-22 | 2014-12-08 | 日本電信電話株式会社 | 情報処理装置、情報処理方法、および、情報処理プログラム |
JPWO2015025384A1 (ja) * | 2013-08-21 | 2017-03-02 | 株式会社東芝 | データベースシステム、プログラムおよびデータ処理方法 |
WO2015025384A1 (ja) * | 2013-08-21 | 2015-02-26 | 株式会社東芝 | データベースシステム、プログラムおよびデータ処理方法 |
US10685041B2 (en) | 2013-08-21 | 2020-06-16 | Kabushiki Kaisha Toshiba | Database system, computer program product, and data processing method |
US10162875B2 (en) | 2013-08-27 | 2018-12-25 | Kabushiki Kaisha Toshiba | Database system including a plurality of nodes |
CN110532123A (zh) * | 2019-08-30 | 2019-12-03 | 北京小米移动软件有限公司 | HBase系统的故障转移方法及装置 |
CN110532123B (zh) * | 2019-08-30 | 2023-08-04 | 北京小米移动软件有限公司 | HBase系统的故障转移方法及装置 |
CN112835885A (zh) * | 2019-11-22 | 2021-05-25 | 北京金山云网络技术有限公司 | 一种分布式表格存储的处理方法、装置及系统 |
CN112835885B (zh) * | 2019-11-22 | 2023-09-01 | 北京金山云网络技术有限公司 | 一种分布式表格存储的处理方法、装置及系统 |
US12001450B2 (en) | 2019-11-22 | 2024-06-04 | Beijing Kingsoft Cloud Network Technology Co., Ltd. | Distributed table storage processing method, device and system |
Also Published As
Publication number | Publication date |
---|---|
JP5405530B2 (ja) | 2014-02-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3811597B1 (en) | Zone redundant computing services using multiple local services in distributed computing systems | |
JP5405530B2 (ja) | 分散データストアシステムおよび障害復旧方法 | |
JP6328432B2 (ja) | ゲートウェイ装置、ファイルサーバシステム及びファイル分散方法 | |
EP2791813B1 (en) | Load balancing in cluster storage systems | |
US11671497B2 (en) | Cluster hierarchy-based transmission of data to a storage node included in a storage node cluster | |
CN109597567B (zh) | 一种数据处理方法和装置 | |
JP2019101703A (ja) | 記憶システム及び制御ソフトウェア配置方法 | |
US9917884B2 (en) | File transmission method, apparatus, and distributed cluster file system | |
US10908834B2 (en) | Load balancing for scalable storage system | |
US8930501B2 (en) | Distributed data storage system and method | |
CN104184812B (zh) | 一种基于私有云的多点数据传输方法 | |
US11436344B1 (en) | Secure encryption in deduplication cluster | |
US9218140B2 (en) | System and method for selectively utilizing memory available in a redundant host in a cluster for virtual machines | |
US20210326047A1 (en) | Application-Aware Management of a Storage System | |
JPWO2014188682A1 (ja) | ストレージノード、ストレージノード管理装置、ストレージノード論理容量設定方法、プログラム、記録媒体および分散データストレージシステム | |
US10931750B1 (en) | Selection from dedicated source volume pool for accelerated creation of block data volumes | |
US11803453B1 (en) | Using host connectivity states to avoid queuing I/O requests | |
US11630598B1 (en) | Scheduling data replication operations | |
US10067949B1 (en) | Acquired namespace metadata service for controlling access to distributed file system | |
CN110298031B (zh) | 一种词典服务系统及模型版本一致性配送方法 | |
US10956442B1 (en) | Dedicated source volume pool for accelerated creation of block data volumes from object data snapshots | |
US11681475B2 (en) | Methods, devices, and a computer program product for processing an access request and updating a storage system | |
KR102084031B1 (ko) | 복수 서버의 로컬 저장소를 통합 관리하는 방법 및 그 장치 | |
JP2024514467A (ja) | 地理的に分散されたハイブリッドクラウドクラスタ | |
JP2013088920A (ja) | 計算機システム及びデータ管理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20130305 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20131018 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131029 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131030 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5405530 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |