JP2017016404A - 分散ストレージシステム、データ再配置方法およびデータ再配置プログラム - Google Patents
分散ストレージシステム、データ再配置方法およびデータ再配置プログラム Download PDFInfo
- Publication number
- JP2017016404A JP2017016404A JP2015132715A JP2015132715A JP2017016404A JP 2017016404 A JP2017016404 A JP 2017016404A JP 2015132715 A JP2015132715 A JP 2015132715A JP 2015132715 A JP2015132715 A JP 2015132715A JP 2017016404 A JP2017016404 A JP 2017016404A
- Authority
- JP
- Japan
- Prior art keywords
- storage unit
- data
- data storage
- weight
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
【解決手段】分散ストレージシステム10は、ディスクが追加された場合、重み記憶部123に記憶されている追加されたディスクの重みを、所定の増加値ずつ増加させる。そして、分散ストレージシステム10は、重み付け部201が追加されたディスクの重みを増加させるたびに、追加されたディスクを含む各ディスクの蓄積量の比が、追加されたディスクを含む各ディスクの重みの比と等しくなるように、追加されたディスク以外のディスクが蓄積する複製データのうち、追加されたディスクに移動させる複製データを決定する。そして、分散ストレージシステム10は、複製データが決定されるたびに、決定された複製データを、追加されたディスクに移動させる。
【選択図】図1
Description
以下の実施形態では、第1の実施形態に係る分散ストレージシステムの構成、分散ストレージシステムにおける各部の処理の流れを順に説明し、最後に第1の実施形態による効果を説明する。
まず、図1を用いて分散ストレージシステムの構成について説明する。図1は、第1の実施形態に係る分散ストレージシステムの構成の一例を示す図である。図1に示すように、分散ストレージシステム10は、ネットワーク20を介してクライアント30と接続されている。また、分散ストレージシステム10は、受付部11、管理部12および蓄積部13を有する。受付部11は、クライアント30から送信されるデータ等を受け付ける。管理部12は、システムの管理および制御を行う。蓄積部13は、複製されたデータを蓄積する。
ここで、主に管理部12の制御部122および重み記憶部123によって行われるデータ配置の基本的な動作について説明する。まず、管理部12の重み記憶部123について図2を用いて説明する。図2は、第1の実施形態に係る分散ストレージシステムの重み記憶部の構成の一例を示す図である。図2に示すように、重み記憶部123は、ハッシュ表21および構成データ22を記憶している。また、ハッシュ表21には、デバイス一覧表221およびデータ配置一覧表222が含まれる。
ここで、分散ストレージシステム10に、新たな蓄積ノード134が追加された場合の動作について説明する。
次に、図10を用いて分散ストレージシステム10のデータ再配置の処理について説明する。図10は、第1の実施形態に係る分散ストレージシステムの処理の一例を示す図である。図10に示すように、まず、新たな蓄積ノードが追加された場合、構成データ更新部204は構成データ22を更新する(ステップS11)。この時、構成データ22には、新たに追加された蓄積ノードに含まれるディスクの重みの最大値が記載される。
重み記憶部123は、各ディスクの最大容量に比例する値を、各ディスクの重みとして記憶し、また、分散ストレージシステム10にディスクが追加された場合、追加されたディスクの最大容量に比例する値よりも小さい所定の初期値を、追加されたディスクの重みとして記憶する。重み付け部201は、重み記憶部123に記憶されている追加されたディスクの重みを、追加されたディスクの最大容量に比例する値よりも小さい所定の増加値ずつ増加させる。そして、蓄積先決定部202は、重み付け部201が追加されたディスクの重みを増加させるたびに、追加されたディスクを含む各ディスクの蓄積量の比が、追加されたディスクを含む各ディスクの重みの比と等しくなるように、追加されたディスク以外のディスクが蓄積する複製データのうち、追加されたディスクに移動させる複製データを決定する。そして、複製データ配置部203蓄積先決定部202によって複製データが決定されるたびに、蓄積先決定部202によって決定された複製データを、追加されたディスクに移動させる。
第1の実施形態においては、蓄積ノードが追加された場合について説明した。本発明は、蓄積ノードの追加、すなわち増設の場合だけでなく、蓄積ノードの減設の場合にも適用することが可能である。そこで、第2の実施形態においては、蓄積ノードが減設される場合について説明する。なお、蓄積ノードの減設は、蓄積ノードを分散ストレージシステム10から除去することによって行われる。
第2の実施形態に係る分散ストレージシステムの基本的な構成は第1の実施形態の分散ストレージシステムの構成と同様である。重み記憶部123は、各ディスクの最大容量に比例する値を、各ディスクの重みとして記憶する。具体的には、構成データ22およびデバイス一覧表221に重みが記憶される。
重み記憶部123は、各ディスクの最大容量に比例する値を、各ディスクの重みとして記憶する。重み付け部201は、分散ストレージシステム10からディスクが除去される場合、重み記憶部に記憶されている除去されるディスクの重みを、除去されるディスクの最大容量に比例する値よりも小さい所定の減少値ずつ減少させる。蓄積先決定部202は、重み付け部201が除去されるディスクの重みを減少させるたびに、除去されるディスクを含む各ディスクの蓄積量の比が、除去されるディスクを含む各ディスクの重みの比と等しくなるように、除去されるディスクが蓄積する複製データのうち、除去されるディスクから移動させる複製データを決定する。複製データ配置部203は、蓄積先決定部によって複製データが決定されるたびに、蓄積先決定部によって決定された複製データを、除去されるディスクから移動させる。
上記の実施形態では、ハッシュ表21が管理部12の重み記憶部123に記憶されることとしたが、図13に示すように、ハッシュ表21を、受付部11や蓄積部13の各蓄積ノードに配布するようにしてもよい。図13は、その他の実施形態に係る分散ストレージシステムの構成の一例を示す図である。この場合、ハッシュ表21も分散して保存されることになり、故障等によりハッシュ表21が参照できなくなることを防止することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況等に応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPU(Central Processing Unit)および当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
図14は、プログラムが実行されることにより、分散ストレージシステムが実現されるコンピュータの一例を示す図である。コンピュータ1000は、例えば、メモリ1010、CPU1020を有する。また、コンピュータ1000は、ハードディスクドライブインタフェース1030、ディスクドライブインタフェース1040、シリアルポートインタフェース1050、ビデオアダプタ1060、ネットワークインタフェース1070を有する。これらの各部は、バス1080によって接続される。
11 受付部
12 管理部
13 蓄積部
21 ハッシュ表
22 構成データ
111 グループID変換部
121 監視部
122 制御部
123 重み記憶部
131、132、133、134 蓄積ノード
131a、131b、131c、132a、132b、132c、133a、133b、133c、134a、134b、134c ディスク
201 重み付け部
202 蓄積先決定部
203 複製データ配置部
204 構成データ更新部
221 デバイス一覧表
222 データ配置一覧表
Claims (8)
- 複数のデータ記憶部を有し、複数の複製データを各データ記憶部に分散する分散ストレージシステムであって、
各データ記憶部の最大容量に比例する値を、各データ記憶部の重みとして記憶し、また、前記分散ストレージシステムにデータ記憶部が追加された場合、該追加されたデータ記憶部の最大容量に比例する値よりも小さい所定の初期値を、前記追加されたデータ記憶部の重みとして記憶する重み記憶部と、
前記重み記憶部に記憶されている前記追加されたデータ記憶部の重みを、前記追加されたデータ記憶部の最大容量に比例する値よりも小さい所定の増加値ずつ増加させる重み付け部と、
前記重み付け部が前記追加されたデータ記憶部の重みを増加させるたびに、前記追加されたデータ記憶部を含む各データ記憶部の蓄積量の比が、前記追加されたデータ記憶部を含む各データ記憶部の重みの比と等しくなるように、前記追加されたデータ記憶部以外のデータ記憶部が蓄積する複製データのうち、前記追加されたデータ記憶部に移動させる複製データを決定する蓄積先決定部と、
前記蓄積先決定部によって複製データが決定されるたびに、前記蓄積先決定部によって決定された複製データを、前記追加されたデータ記憶部に移動させる複製データ配置部と、
を有することを特徴とする分散ストレージシステム。 - 前記データ記憶部は、少なくとも1つ以上のデータ記憶部の集合であるノード単位で前記分散ストレージシステムへ追加され、
前記重み記憶部は、前記ノードに含まれるデータ記憶部毎の重みの増加値の閾値である第1の閾値と、前記ノード毎に設定された重みの増加値の閾値である第2の閾値と、をさらに記憶し、
前記重み付け部は、前記第1の閾値に前記ノードに含まれるデータ記憶部の個数を乗じた値が前記第2の閾値より小さい場合は、前記第1の閾値を前記増加値とし、前記第1の閾値に前記ノードに含まれるデータ記憶部の個数を乗じた値が前記第2の閾値以上である場合は、前記第2の閾値を前記データ記憶部の個数で除した値を前記増加値とすることを特徴とする請求項1に記載の分散ストレージシステム。 - 複数のデータ記憶部を有し、複数の複製データを各データ記憶部に分散する分散ストレージシステムであって、
各データ記憶部の最大容量に比例する値を、各データ記憶部の重みとして記憶する重み記憶部と、
前記分散ストレージシステムからデータ記憶部が除去される場合、前記重み記憶部に記憶されている該除去されるデータ記憶部の重みを、前記除去されるデータ記憶部の最大容量に比例する値よりも小さい所定の減少値ずつ減少させる重み付け部と、
前記重み付け部が前記除去されるデータ記憶部の重みを減少させるたびに、前記除去されるデータ記憶部を含む各データ記憶部の蓄積量の比が、前記除去されるデータ記憶部を含む各データ記憶部の重みの比と等しくなるように、前記除去されるデータ記憶部が蓄積する複製データのうち、前記除去されるデータ記憶部から移動させる複製データを決定する蓄積先決定部と、
前記蓄積先決定部によって複製データが決定されるたびに、前記蓄積先決定部によって決定された複製データを、前記除去されるデータ記憶部から移動させる複製データ配置部と、
を有することを特徴とする分散ストレージシステム。 - 前記データ記憶部は、少なくとも1つ以上のデータ記憶部の集合であるノード単位で前記分散ストレージシステムから除去され、
前記重み記憶部は、前記ノードに含まれるデータ記憶部毎の重みの減少値の閾値である第1の閾値と、前記ノード毎に設定された重みの減少値の閾値である第2の閾値と、をさらに記憶し、
前記重み付け部は、前記第1の閾値に前記ノードに含まれるデータ記憶部の個数を乗じた値が前記第2の閾値より小さい場合は、前記第1の閾値を前記減少値とし、前記第1の閾値に前記ノードに含まれるデータ記憶部の個数を乗じた値が前記第2の閾値以上である場合は、前記第2の閾値を前記データ記憶部の個数で除した値を前記減少値とすることを特徴とする請求項3に記載の分散ストレージシステム。 - データ記憶部の入出力の頻度を監視する監視部をさらに有し、
前記複製データ配置部は、前記データ記憶部の入出力の頻度が所定の値以下である場合に、複製データを移動させることを特徴とする請求項1から4のいずれか1項に記載の分散ストレージシステム。 - 複数のデータ記憶部を有し、複数の複製データを各データ記憶部に分散する分散ストレージシステムで実行されるデータ再配置方法であって、
各データ記憶部の最大容量に比例する値を、各データ記憶部の重みとして重み記憶部に記憶させる第1の記憶工程と、
前記分散ストレージシステムにデータ記憶部が追加された場合、該追加されたデータ記憶部の最大容量に比例する値よりも小さい所定の初期値を、前記追加されたデータ記憶部の重みとして前記重み記憶部に記憶させる第2の記憶工程と、
前記重み記憶部に記憶されている前記追加されたデータ記憶部の重みを、前記追加されたデータ記憶部の最大容量に比例する値よりも小さい所定の増加値ずつ増加させる重み付け工程と、
前記重み付け工程が前記追加されたデータ記憶部の重みを増加させるたびに、前記追加されたデータ記憶部を含む各データ記憶部の蓄積量の比が、前記追加されたデータ記憶部を含む各データ記憶部の重みの比と等しくなるように、前記追加されたデータ記憶部以外のデータ記憶部が蓄積する複製データのうち、前記追加されたデータ記憶部に移動させる複製データを決定する蓄積先決定工程と、
前記蓄積先決定工程によって複製データが決定されるたびに、前記蓄積先決定工程によって決定された複製データを、前記追加されたデータ記憶部に移動させる複製データ配置工程と、
を含んだことを特徴とするデータ再配置方法。 - 複数のデータ記憶部を有し、複数の複製データを各データ記憶部に分散する分散ストレージシステムで実行されるデータ再配置方法であって、
各データ記憶部の最大容量に比例する値を、各データ記憶部の重みとして重み記憶部に記憶させる記憶工程と、
前記分散ストレージシステムからデータ記憶部が除去される場合、前記重み記憶部に記憶されている該除去されるデータ記憶部の重みを、前記除去されるデータ記憶部の最大容量に比例する値よりも小さい所定の減少値ずつ減少させる重み付け工程と、
前記重み付け工程が前記除去されるデータ記憶部の重みを減少させるたびに、前記除去されるデータ記憶部を含む各データ記憶部の蓄積量の比が、前記除去されるデータ記憶部を含む各データ記憶部の重みの比と等しくなるように、前記除去されるデータ記憶部が蓄積する複製データのうち、前記除去されるデータ記憶部から移動させる複製データを決定する蓄積先決定工程と、
前記蓄積先決定工程によって複製データが決定されるたびに、前記蓄積先決定工程によって決定された複製データを、前記除去されるデータ記憶部から移動させる複製データ配置工程と、
を含んだことを特徴とするデータ再配置方法。 - コンピュータを、請求項1から5のいずれか1項に記載の分散ストレージシステムとして機能させるためのデータ再配置プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015132715A JP6315608B2 (ja) | 2015-07-01 | 2015-07-01 | 分散ストレージシステム、データ再配置方法およびデータ再配置プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015132715A JP6315608B2 (ja) | 2015-07-01 | 2015-07-01 | 分散ストレージシステム、データ再配置方法およびデータ再配置プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017016404A true JP2017016404A (ja) | 2017-01-19 |
JP6315608B2 JP6315608B2 (ja) | 2018-04-25 |
Family
ID=57828177
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015132715A Active JP6315608B2 (ja) | 2015-07-01 | 2015-07-01 | 分散ストレージシステム、データ再配置方法およびデータ再配置プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6315608B2 (ja) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119741A (ja) * | 2004-10-19 | 2006-05-11 | Hitachi Ltd | ストレージネットワークシステム及びホスト計算機並びに物理パス割当方法 |
US20130132450A1 (en) * | 2011-11-22 | 2013-05-23 | Fujitsu Limited | Node determining program, node determining apparatus, and node determining method |
JP2014186364A (ja) * | 2013-03-21 | 2014-10-02 | Kddi Corp | 分散システム |
JP2014228946A (ja) * | 2013-05-20 | 2014-12-08 | 富士通株式会社 | 情報処理装置、情報処理システム、情報処理装置の制御方法及び情報処理装置の制御プログラム |
JP2015022327A (ja) * | 2013-07-16 | 2015-02-02 | 日本電信電話株式会社 | データ再配置装置、方法およびプログラム |
-
2015
- 2015-07-01 JP JP2015132715A patent/JP6315608B2/ja active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006119741A (ja) * | 2004-10-19 | 2006-05-11 | Hitachi Ltd | ストレージネットワークシステム及びホスト計算機並びに物理パス割当方法 |
US20130132450A1 (en) * | 2011-11-22 | 2013-05-23 | Fujitsu Limited | Node determining program, node determining apparatus, and node determining method |
JP2013109672A (ja) * | 2011-11-22 | 2013-06-06 | Fujitsu Ltd | ノード決定プログラム、ノード決定装置およびノード決定方法 |
JP2014186364A (ja) * | 2013-03-21 | 2014-10-02 | Kddi Corp | 分散システム |
JP2014228946A (ja) * | 2013-05-20 | 2014-12-08 | 富士通株式会社 | 情報処理装置、情報処理システム、情報処理装置の制御方法及び情報処理装置の制御プログラム |
JP2015022327A (ja) * | 2013-07-16 | 2015-02-02 | 日本電信電話株式会社 | データ再配置装置、方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6315608B2 (ja) | 2018-04-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9645756B2 (en) | Optimization of in-memory data grid placement | |
US9740536B2 (en) | Method of achieving intra-machine workload balance for task chunks for distributed graph-processing systems | |
US10050862B2 (en) | Distributed application framework that uses network and application awareness for placing data | |
US9703610B2 (en) | Extensible centralized dynamic resource distribution in a clustered data grid | |
US8713125B2 (en) | Method and system for scaling usage of a social based application on an online social network | |
JP6886964B2 (ja) | 負荷平衡方法及び装置 | |
US9594801B2 (en) | Systems and methods for allocating work for various types of services among nodes in a distributed computing system | |
KR101790701B1 (ko) | 분산 인-메모리 환경에서 데이터 복제 및 이주를 이용한 부하 분산 시스템 | |
CN108804465B (zh) | 一种分布式缓存数据库数据迁移的方法及系统 | |
US10346217B1 (en) | Best-effort key affinity workload sharding | |
US20130007091A1 (en) | Methods and apparatuses for storing shared data files in distributed file systems | |
Honnutagi | The Hadoop distributed file system | |
CN110765092A (zh) | 分布式搜索系统、索引分发方法及存储介质 | |
Mate et al. | Robust multi-tenant server consolidation in the cloud for data analytics workloads | |
JP6374841B2 (ja) | 仮想マシン配置装置および仮想マシン配置方法 | |
Fazul et al. | Improving data availability in HDFS through replica balancing | |
US10379780B2 (en) | Statistics management for scale-out storage | |
JP6315608B2 (ja) | 分散ストレージシステム、データ再配置方法およびデータ再配置プログラム | |
US20220391411A1 (en) | Dynamic adaptive partition splitting | |
JP7485046B2 (ja) | 負荷分散方法、負荷分散装置、負荷分散システムおよびプログラム | |
US10122789B1 (en) | Log information transmission integrity | |
US11797282B2 (en) | Optimizing services deployment in a cloud computing environment | |
US10379902B2 (en) | Information processing device for aggregating load information, information processing system for aggregating load information, and non-transitory computer-readable storage medium recording program for aggregating load information | |
JP2024514467A (ja) | 地理的に分散されたハイブリッドクラウドクラスタ | |
Al Nuaimi et al. | Partial storage optimization and load control strategy of cloud data centers |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170626 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180312 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180320 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180322 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6315608 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |