JP6020803B2 - 分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム - Google Patents
分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム Download PDFInfo
- Publication number
- JP6020803B2 JP6020803B2 JP2012173536A JP2012173536A JP6020803B2 JP 6020803 B2 JP6020803 B2 JP 6020803B2 JP 2012173536 A JP2012173536 A JP 2012173536A JP 2012173536 A JP2012173536 A JP 2012173536A JP 6020803 B2 JP6020803 B2 JP 6020803B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- nodes
- node
- distributed storage
- logical connection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Debugging And Monitoring (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
第1の実施の形態での配置制御手法は、各構成ノード10Xの制御手段2によってデータ転送の必要性と、データ転送量及び転送先を決定し実行する手法である。各構成ノード10Xは、図1に示した通り、ネットワークを介して結合されているため、どのノードに対してもデータを転送することは可能である。ただ、全てのノードを転送先にしてデータ転送量を計算することは計算コストが大きくなるため、各構成ノードを任意のトポロジで論理的に結合し、その論理的な結合先のノードだけを各制御手段2における転送先候補ノードとし、その転送先候補ノードに対するデータの転送必要性可否判断やデータ転送量及び転送先を算出するための計算処理を行う事で、計算量を削減する。
制約ルールを保持する実施例としては、決められたインタフェースを持つ実行プログラムとして保持する方法がある。例えば、転送先ノード番号と転送候補断片データを渡し、転送可ならばYESを応答し、転送不可ならばNOを応答するようなプログラムである。これらの実行プログラムを制約ルール保持手段25に保持させておき、データ選択/ルールチェック手段23は、制約ルールとなる実行プログラムを制約ルール保持手段25から取り出し、実行プログラムに対し転送先ノード番号と転送候補断片データを渡し実行することで、転送可否判定を行う。このインタフェースは別の形であってもよい。例えば、転送先ノード番号と転送候補断片データのデータ配置状態情報(全体の情報)を渡す、あるいは転送候補断片データのID情報から配置先を決定するプログラムを渡す、ということが考えられる。
次に、図6、図7のフローチャートを参照して、第1の実施の形態の全体動作について詳細に説明する。図6は各構成ノード10Xにおけるデータの転送制御処理フローである。このフローが定期的に実行されることによりシステムを安定的に負荷分散させ動作させる。図7は図6のステップS103を詳細に説明するフローチャートであり、ある転送先ノードに対し、実際に転送するデータ断片を選択する処理である。
次に、図7を用いてデータ選択/ルールチェック手段23によるステップS103の動作について説明する。前述したように、データ選択/ルールチェック手段23は、制御内容計算手段22によって決定された、接続先毎のノード、データ転送量及びその転送先ノードの情報から、データ転送量を満たす分のデータ断片を、状態取得手段21を介してデータストア1から選ぶ(ステップS201)。例えば、決定されたデータ転送量がデータ断片100個分に相当するのであれば、データ選択/ルールチェック手段23はデータストア1に格納されているデータ断片を100個選ぶ。選ぶ方法としては、ランダムに選ぶ、FIFO(First in First out)順に選ぶ、FILO(First in Last out)順に選ぶ、など様々な方法が考えられるが、ここではどのような方法に基づいてもよい。
次に、図8を参照して、本発明の第2の実施の形態について詳細に説明する。図8において、第2の実施の形態は、構成ノードが第1の実施の形態とほぼ同じ構成を持つが、制御手段2内に論理的接合形態管理手段26を備える点が異なる。
2 制御手段
3 データ受信手段
4 負荷監視手段
21 状態取得手段
22 制御内容計算手段
23 データ選択/ルールチェック手段
24 データ移動制御手段
25 制約ルール保持手段
26 論理的接合形態管理手段
100〜108 構成ノード
200 ネットワーク
Claims (8)
- データを保持するための記憶手段を備える複数の構成ノードがネットワークを介して接続された分散ストレージシステムであって、
各構成ノードが、それぞれ論理的に接続された、前記複数の構成ノードの数より少ない数の論理的接続先ノードに対しデータを転送するデータ転送手段と、
前記記憶手段のデータ保持状態情報及び前記複数の構成ノードの数より少ない数の論理的接続先ノードと構成ノード自身の負荷情報を負荷状態として取得する状態取得手段と、
取得した負荷状態から転送すべきデータ量を転送先ノード毎に計算する制御内容計算手段と、
転送されるデータが満たすべき制約ルールを格納している制約ルール保持手段と、
計算された転送すべきデータ量から制約を満たすデータを選択し、前記制約ルールを参照して選択したデータが制約ルールを満たしているか確認するデータ選択/ルールチェック手段と、
を含む制御手段を備えることにより、データ転送の必要性の有無判断、データ転送量及び転送先を決定する制御を実行することを特徴とする、分散ストレージシステム。 - 前記各構成ノードが、それぞれ自身以外の構成ノードからの転送データを受信し前記記憶手段へ保持するデータ受信手段と、
前記複数の構成ノードの負荷情報を取得し、前記状態取得手段と前記任意の数の論理的接続先ノードに送信する負荷監視手段と、をさらに備えることを特徴とする請求項1に記載の分散ストレージシステム。 - 前記制御手段が、論理的接合形態の情報を管理しあらかじめ定めた契機でその情報を変更する論理的接合形態管理手段をさらに備えたことを特徴とする請求項1または2に記載の分散ストレージシステム。
- 前記論理的接合形態管理手段は、前記制約ルールを満たさない転送データ断片の選択頻度が一定以上の場合に、前記論理的接合形態の情報を変更することを特徴とする請求項3に記載の分散ストレージシステム。
- データを保持するための記憶手段を備える複数の構成ノードがネットワークを介して接続された分散ストレージシステムにおけるデータ移動制御方法であって、
各構成ノードは、それぞれ転送されるデータが満たすべき制約ルールをあらかじめ制約ルール保持手段に格納しており、
各構成ノードはまた、
それぞれ論理的に接続された、前記複数の構成ノードの数より少ない数の論理的接続先ノードに対しデータを転送するステップと、
前記記憶手段のデータ保持状態情報及び前記前記複数の構成ノードの数より少ない数の論理的接続先ノードと構成ノード自身の負荷情報を負荷状態として取得するステップと、
取得した負荷状態から転送すべきデータ量を転送先ノード毎に計算するステップと、
計算された転送すべきデータ量から制約を満たすデータを選択し、前記制約ルールを参照して選択したデータが制約ルールを満たしているか確認するステップと、を実行することにより、データ転送の必要性の有無判断、データ転送量及び転送先を決定することを特徴とする、分散ストレージデータ移動制御方法。 - 前記各構成ノードは更に、論理的接合形態の情報を管理しあらかじめ定めた契機でその情報を変更するステップを実行することを特徴とする請求項5に記載の分散ストレージデータ移動制御方法。
- 前記論理的接合形態の情報を変更するステップは、前記制約ルールを満たさない転送データ断片の選択頻度が一定以上の場合に、前記論理的接合形態の情報を変更することを特徴とする請求項6に記載の分散ストレージデータ移動制御方法。
- データを保持するための記憶手段を備える複数の構成ノードがネットワークを介して接続された分散ストレージシステムであって各構成ノードは、それぞれ転送されるデータが満たすべき制約ルールをあらかじめ制約ルール保持手段に格納している分散ストレージシステムに適用されるデータ移動制御用プログラムであって、
各構成ノードのコンピュータに、論理的に接続された、前記複数の構成ノードの数より少ない数の論理的接続先ノードに対しデータを転送するステップと、
前記記憶手段のデータ保持状態情報及び前記前記複数の構成ノードの数より少ない数の論理的接続先ノードと構成ノード自身の負荷情報を負荷状態として取得するステップと、
取得した負荷状態から転送すべきデータ量を転送先ノード毎に計算するステップと、
計算された転送すべきデータ量から制約を満たすデータを選択し、前記制約ルールを参照して選択したデータが制約ルールを満たしているか確認するステップと、
を実行させるための分散ストレージデータ移動制御用プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012173536A JP6020803B2 (ja) | 2012-08-06 | 2012-08-06 | 分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012173536A JP6020803B2 (ja) | 2012-08-06 | 2012-08-06 | 分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2014032575A JP2014032575A (ja) | 2014-02-20 |
JP6020803B2 true JP6020803B2 (ja) | 2016-11-02 |
Family
ID=50282344
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012173536A Active JP6020803B2 (ja) | 2012-08-06 | 2012-08-06 | 分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6020803B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109034617A (zh) * | 2018-07-26 | 2018-12-18 | 国网浙江省电力有限公司温州供电公司 | 基于大数据的配电网指标分析方法及系统 |
KR20210077329A (ko) * | 2019-12-17 | 2021-06-25 | 에스케이하이닉스 주식회사 | 스토리지 시스템, 이를 위한 스토리지 장치 및 동작 방법 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4263927B2 (ja) * | 2003-03-05 | 2009-05-13 | 国立大学法人東京工業大学 | 蓄積制御装置 |
JP4887955B2 (ja) * | 2006-07-21 | 2012-02-29 | 日本電気株式会社 | データ配置管理システム及び方法とプログラム |
JP5381336B2 (ja) * | 2009-05-28 | 2014-01-08 | 富士通株式会社 | 管理プログラム、管理装置および管理方法 |
-
2012
- 2012-08-06 JP JP2012173536A patent/JP6020803B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2014032575A (ja) | 2014-02-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10853337B2 (en) | Lifecycle transition validation for storage objects | |
US10642654B2 (en) | Storage lifecycle pipeline architecture | |
US9971823B2 (en) | Dynamic replica failure detection and healing | |
CA2978889C (en) | Opportunistic resource migration to optimize resource placement | |
US9460185B2 (en) | Storage device selection for database partition replicas | |
KR101925696B1 (ko) | 대규모 데이터 스트림들의 획득, 저장, 및 소비를 위한 관리 서비스 | |
AU2014346366B2 (en) | Partition-based data stream processing framework | |
US9489443B1 (en) | Scheduling of splits and moves of database partitions | |
US9355060B1 (en) | Storage service lifecycle policy transition management | |
US8140791B1 (en) | Techniques for backing up distributed data | |
AU2018202230A1 (en) | Client-configurable security options for data streams | |
CN102981929B (zh) | 磁盘镜像的管理方法和系统 | |
US20120159102A1 (en) | Distributed storage system, distributed storage method, and program and storage node for distributed storage | |
US10810054B1 (en) | Capacity balancing for data storage system | |
JP6011786B2 (ja) | 分散ストレージシステム、分散ストレージデータ配置制御方法及び分散ストレージデータ配置制御用プログラム | |
Sadooghi et al. | Fabriq: Leveraging distributed hash tables towards distributed publish-subscribe message queues | |
US10019182B2 (en) | Management system and management method of computer system | |
JP6020803B2 (ja) | 分散ストレージシステム、分散ストレージデータ移動制御方法及び分散ストレージデータ移動制御用プログラム | |
US10594620B1 (en) | Bit vector analysis for resource placement in a distributed system | |
US10909094B1 (en) | Migration scheduling for fast-mutating metadata records | |
JP2024514467A (ja) | 地理的に分散されたハイブリッドクラウドクラスタ | |
Pippal et al. | High availability of databases for cloud | |
Shen | Distributed storage system model design in internet of things based on hash distribution | |
US11233738B1 (en) | Dynamic performance configuration for data traffic workflows | |
US11586608B1 (en) | Handling requests to access separately stored items in a non-relational database |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150702 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20151217 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20160328 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160420 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160907 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160920 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6020803 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |