JP6217302B2 - ストレージ管理装置、情報処理システムおよびストレージ管理プログラム - Google Patents

ストレージ管理装置、情報処理システムおよびストレージ管理プログラム Download PDF

Info

Publication number
JP6217302B2
JP6217302B2 JP2013215112A JP2013215112A JP6217302B2 JP 6217302 B2 JP6217302 B2 JP 6217302B2 JP 2013215112 A JP2013215112 A JP 2013215112A JP 2013215112 A JP2013215112 A JP 2013215112A JP 6217302 B2 JP6217302 B2 JP 6217302B2
Authority
JP
Japan
Prior art keywords
storage
data
management
backup
management unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013215112A
Other languages
English (en)
Other versions
JP2015079311A (ja
Inventor
勝 新満
勝 新満
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2013215112A priority Critical patent/JP6217302B2/ja
Priority to US14/477,185 priority patent/US20150106581A1/en
Publication of JP2015079311A publication Critical patent/JP2015079311A/ja
Application granted granted Critical
Publication of JP6217302B2 publication Critical patent/JP6217302B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0646Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
    • G06F3/065Replication mechanisms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1448Management of the data involved in backup or backup restore
    • G06F11/1451Management of the data involved in backup or backup restore by selection of backup contents
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2053Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements where persistent mass storage functionality or persistent mass storage control functionality is redundant
    • G06F11/2094Redundant storage or storage space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0614Improving the reliability of storage systems
    • G06F3/0619Improving the reliability of storage systems in relation to data integrity, e.g. data losses, bit errors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0638Organizing or formatting or addressing of data
    • G06F3/064Management of blocks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/10Protocols in which an application is distributed across nodes in the network
    • H04L67/1097Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/20Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements
    • G06F11/2097Error detection or correction of the data by redundancy in hardware using active fault-masking, e.g. by switching out faulty elements or by switching in spare elements maintaining the standby controller/processing unit updated
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/3058Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
    • G06F11/3062Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations where the monitored property is the power consumption
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/815Virtual

Description

本発明は、ストレージ管理装置などに関する。
近年、物理サーバ上で、仮想マシン(Virtual Machine)を動作させる仮想化技術が利用されている。例えば、データセンタでは、仮想化プログラムを利用して物理サーバ上で仮想マシンを動作させる環境が増加している。この仮想化プログラムは、物理サーバ上で動作する仮想マシンを他のデータセンタの物理サーバ上へ移行する機能がある。かかる仮想マシンの移行は、「マイグレーション」といわれる。
マイグレーションに関して、データセンタを運用する際に、仮想マシン群の負荷状態により仮想マシンの移行を管理する技術がある(例えば、特許文献1参照)。かかる技術では、例えば、稼働中の仮想マシン数が最も少ない物理サーバで稼働する仮想マシンを停止対象とする。また、負荷の変動が類似したデータセンタが同じ物理サーバ上に集まるように仮想マシンの移行先を制御する。
特開2006−174609号公報 特開2011−90594号公報
ところで、データセンタには、仮想マシンに対して仮想ディスクが配備される。仮想ディスクは、冗長化が実現されるために、各データセンタで仮想マシンに対して同じ容量を備える。例えば、3個のデータセンタであれば、仮想マシンに対する仮想ディスクの総容量は、仮想マシンに対して3倍の仮想ディスクの容量を備えることになる。
しかしながら、仮想マシンに対して3倍の仮想ディスクの容量を備えることになると、仮想マシンのデータの更新に伴い、システム全体の仮想ディスクの総容量が増加してしまうという問題がある。
1つの側面では、本発明は、仮想マシンに対するストレージの冗長性を保証しつつ、ストレージに記憶されるデータの総容量を削減することを目的とする。
本願の開示するストレージ管理装置は、1つの態様において、第1のストレージと第2のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、データをマスタデータとして前記第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージに保持させる管理を行なう第1の管理部と、前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう第2の管理部と、を備える。
本願の開示するストレージ管理装置の1つの態様によれば、仮想マシンに対するストレージの冗長性を保証しつつ、ストレージに記憶されるデータの総容量を削減することができる。
図1は、実施例に係る情報処理システムのハードウェア構成を示す図である。 図2Aは、実施例に係るデータセンタの機能構成を示す図である。 図2Bは、実施例に係る管理部の機能構成の一例を示す図である。 図3Aは、マスタストレージとバックアップストレージのDCが稼働する場合を示す図である。 図3Bは、バックアップストレージとリザーブストレージのDCが稼働する場合を示す図である。 図3Cは、マスタストレージとリザーブストレージのDCが稼働する場合を示す図である。 図4Aは、マスタストレージからバックアップストレージへVMを移行する場合を示す図である。 図4Bは、バックアップストレージからマスタストレージへVMを移行する場合を示す図である。 図5は、仮想マシンとデータ保存先ボリュームの関係を示す図である。 図6Aは、ストレージステータステーブルのデータ構造の一例を示す図である。 図6Bは、DC電力ステータステーブルのデータ構造の一例を示す図である。 図6Cは、DC基本電力量テーブルのデータ構造の一例を示す図である。 図7Aは、実施例に係るDC管理処理のシーケンスを示す図である。 図7Bは、実施例に係るDC管理処理のシーケンスを示す図である。 図7Cは、実施例に係るDC管理処理のシーケンスを示す図である。 図7Dは、実施例に係るDC管理処理のシーケンスを示す図である。 図8Aは、導入設定処理のシーケンスを示す図である。 図8Bは、導入設定処理のシーケンスを示す図である。 図8Cは、導入設定処理のシーケンスを示す図である。 図8Dは、導入設定処理のシーケンスを示す図である。 図9Aは、DC電力コスト比較処理のシーケンスを示す図である。 図9Bは、DC電力コスト比較処理のシーケンスを示す図である。 図10Aは、マスタストレージの移行処理のシーケンスを示す図である。 図10Bは、マスタストレージの移行処理のシーケンスを示す図である。 図10Cは、マスタストレージの移行処理のシーケンスを示す図である。 図10Dは、マスタストレージの移行処理のシーケンスを示す図である。 図11Aは、バックアップストレージの移行処理のシーケンスを示す図である。 図11Bは、バックアップストレージの移行処理のシーケンスを示す図である。 図11Cは、バックアップストレージの移行処理のシーケンスを示す図である。 図11Dは、バックアップストレージの移行処理のシーケンスを示す図である。 図11Eは、バックアップストレージの移行処理のシーケンスを示す図である。 図11Fは、バックアップストレージの移行処理のシーケンスを示す図である。 図12は、DC管理プログラムを実行する管理サーバのハードウェア構成を示すブロック図である。
以下に、本願の開示するストレージ管理装置、情報処理システムおよびストレージ管理プログラムの実施例を図面に基づいて詳細に説明する。本実施例では、仮想マシンを提供する複数のデータセンタを含む情報処理システムに適用するものとする。なお、本実施例によりこの発明が限定されるものではない。そして、各実施例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
[実施例に係る情報処理システムの構成]
図1は、実施例に係る情報処理システムのハードウェア構成を示す図である。図1に示すように、情報処理システム9は、複数のデータセンタ1,2,3を有する。複数のデータセンタ1,2,3は、それぞれネットワークで接続される。ネットワークは、専用回線であっても良いし、専用回線でなくても良い。情報処理システム9は、移行可能な仮想マシン(VM:Virtual Machine)について、データセンタ1,2,3のうち1つのデータセンタに搭載される第1のストレージと別のデータセンタに搭載される第2のストレージとの間でデータの格納先が切り替えられるシステムである。複数のデータセンタ1,2,3は、それぞれ日照時間帯が異なる地域、すなわち同時点で電力コストが異なる地域に設置され、情報処理システム9は、例えば、同時点の電力コストに応じて、VMを移行するとともに、VMのデータの格納先を切り替える。なお、実施例では、データセンタ1,2,3は、日照時間帯が異なる地域の例として、それぞれA国、B国、C国に設置されているものとする。
[データセンタのハードウェア構成]
次に、データセンタ1の機能構成を、図2Aを参照して説明する。図2Aは、実施例に係るデータセンタの機能構成を示す図である。なお、データセンタ2,3の機能構成は、データセンタ1と同一であるので、データセンタ2,3の説明を省略する。
データセンタ1は、太陽光発電パネル11、インバータ12、配電盤13、電力量計14、仮想マシン(VM)運用設備15および管理サーバ16を有する。
太陽光発電パネル11は、太陽光のエネルギーを充電するために用いられるパネルである。すなわち、データセンタ1は、太陽光発電パネル11によって発電された電力を用いて運用する。インバータ12は、直流電力から交流電力を電気的に生成する。配電盤13は、配電の開閉の切り替えを行う。電力量計14は、電力量を計測する。
仮想マシン(VM)運用設備15は、インフラの基盤を示し、VMを運用させるために用いられる設備である。VM運用設備15には、ネットワークスイッチ151、物理サーバ152およびストレージ装置153が含まれる。物理サーバ152は、サーバ仮想化プログラムを実行することによって、ハイパーバイザー152a上で複数の仮想マシン(VM001,VM002)154を動作させる。
ストレージ装置153は、ストレージコントローラ153a、マスタ格納ボリューム101、バックアップ格納ボリューム102およびリザーブ格納ボリューム103を有する。ストレージコントローラ153aは、ストレージであるマスタ格納ボリューム101、バックアップ格納ボリューム102およびリザーブ格納ボリューム103を制御する。
マスタ格納ボリューム101、バックアップ格納ボリューム102およびリザーブ格納ボリューム103には、ストレージとしての所定の役割がVM毎に割り当てられる。マスタ格納ボリューム101には、マスタストレージとしての役割が割り当てられる。マスタストレージは、VMの仮想ディスクの記憶領域が割り当てられるストレージである。なお、仮想ディスクのデータは更新可能とする。バックアップ格納ボリューム102には、バックアップストレージとしての役割が割り当てられる。バックアップストレージは、マスタストレージの仮想ディスクのデータを複製した仮想ディスクの記憶領域と、複製後更新された差分データを格納する記憶領域が割り当てられるストレージである。なお、複製した仮想ディスクは更新不可とする。リザーブ格納ボリューム103には、リザーブストレージとしての役割が割り当てられる。リザーブストレージは、仮想ディスクに生じた差分データを格納する記憶領域が割り当てられるストレージのことをいう。すなわち、1つのVMについて、例えば、第1のデータセンタのストレージ装置は、マスタストレージとしての役割を担い、第2のデータセンタのストレージ装置は、バックアップストレージとしての役割を担い、第3のデータセンタのストレージ装置は、リザーブストレージとしての役割を担う。マスタストレージとしての役割を担うデータセンタは、VMを主に利用する拠点である。なお、1つのVMについて、各ストレージに割り当てられる役割は、例えば、システム管理者によって割り当てられる。
管理サーバ16は、情報処理システム9における複数のストレージを管理する。管理サーバ16は、他のDC2,3の管理サーバ26,36との間で主従関係を有する。管理サーバ間の主従関係は、予め管理者によって設定される。主の管理サーバは、他のDCの管理サーバへDCの運用に関わる命令を通知する。従の管理サーバは、命令に応じてDCの構成設備、VM、ストレージ装置のリモートコピーなどの起動および停止を実行する。なお、主従関係の主となる管理サーバは、「リード」というものとする。以降、DC1の管理サーバ16を「リード」として説明する。
管理サーバ16は、管理部161および記憶部162を有する。管理部161は、導入設定部161a、第1の管理部161b、電力コスト比較部161c、第2の管理部161dおよび第3の管理部161eを有する。なお、管理サーバ16は、ストレージ管理装置の一例である。導入設定部161aは、割当部の一例である。電力コスト比較部161cは、算出部および判定部の一例である。
導入設定部161aは、移行可能なVMに対して、あらかじめ、DC毎に、マスタストレージ、バックアップストレージおよびリザーブストレージとしての役割を割り当てる。例えば、導入設定部161aは、移行可能なVMに対して、マスタストレージとしての役割を担うDCがあらかじめ設定されると、バックアップストレージ、リザーブストレージとしての役割を担う各DCを、日照時間帯に応じて設定する。なお、マスタストレージとしての役割を担うDCは、例えば、システム管理者によって設定される。
第1の管理部161bは、データをマスタデータとしてマスタストレージに保持させ、マスタデータと等価のデータをバックアップデータとしてバックアップストレージに保持させる管理を行う。例えば、あるVMに対して、DC1がマスタストレージとしての役割、DC2がバックアップストレージとしての役割であるとする。DC1の管理サーバ16は「リード」であるとする。第1の管理部161bは、DC1で運用中のVMのデータをマスタデータとして、DC1のマスタ格納ボリューム101に更新する。そして、第1の管理部161bは、更新したデータをバックアップデータとして、当該VMに対する更新前のデータと等価のデータを有するDC2のバックアップ格納ボリューム202にリモートコピーする。これにより、第1の管理部161bは、マスタ格納ボリューム101およびバックアップ格納ボリューム202のVMに対するデータを冗長化できる。
電力コスト比較部161cは、それぞれのDC1,2,3の電力コストを算出する。そして、電力コスト比較部161cは、算出したそれぞれの電力コストに基づいて、VMが運用中のDCの電力コストが、VMが移行された場合の移行先のDCの電力コストより高いか否かを判定する。電力コスト比較部161cは、判定の結果、VMが運用中のDCの電力コストが、VMが移行された場合の移行先のDCの電力コストより高いと判定された場合に、以下の処理を行う。すなわち、電力コスト比較部161cは、後述する第2の管理部161dおよび第3の管理部161eに、VMが運用中のDCから移行先のDCへVMのデータの格納先を切り替えさせる。
言い換えると、電力コスト比較部161cは、例えば、太陽光の発電量を元に、各DCの電力コストを比較し、電力コストを削減可能なDCを判別する。そして、電力コスト比較部161cは、電力コストの比較結果に基づき、第2の管理部161dおよび第3の管理部161eに、電力コストを削減可能なDCにVMを移行するように制御させる。すなわち、電力コスト比較部161cは、電力コストを削減可能なDCを、VMの運用に活用させるとともに、VMによって更新される更新データ(以降、「差分データ」ともいう)の保存に活用させる。
第2の管理部161dは、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる管理を行う。また、第2の管理部161dは、更新データをリザーブストレージに複製させる管理を行う。例えば、あるVMに対して、DC1がマスタストレージとしての役割、DC2がバックアップストレージとしての役割、DC3がリザーブストレージとしての役割であるとする。DC1の管理サーバ16は「リード」であるとする。第2の管理部161dは、DC1のマスタ格納ボリューム101からDC2のバックアップ格納ボリューム202にデータの格納先が切り替えられた場合、DC1のVM運用設備15の運用を停止させ、DC1からDC2へVMを移行させる。第2の管理部161dは、DC2のバックアップ格納ボリューム202に対する更新データを差分データとして、バックアップ格納ボリューム202の、バックアップデータと独立した領域に保持させる。そして、第2の管理部161dは、更新データをリザーブデータとして、DC3のリザーブ格納ボリューム303にリモートコピーさせる。これにより、第2の管理部161dは、VMについて、バックアップ格納ボリューム202に更新された更新データ(差分データ)をリザーブ格納ボリューム303に保持するので、差分データを冗長化できる。
第3の管理部161eは、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合に、リザーブストレージに複製された更新データをマスタストレージに複製させる管理を行う。例えば、あるVMに対して、DC1がマスタストレージとしての役割、DC2がバックアップストレージとしての役割、DC3がリザーブストレージとしての役割であるとする。DC1の管理サーバ16は「リード」であるとする。第3の管理部161eは、DC2のバックアップ格納ボリューム202からDC1のマスタ格納ボリューム101にデータの格納先が切り替えられた場合、DC2のVM運用設備25の運用を停止させ、DC2からDC1へ再びVMを移行させる。第3の管理部161eは、リザーブ格納ボリューム303に複製されたリザーブデータをマスタ格納ボリューム101にリモートコピーさせる。これにより、第3の管理部161eは、VMの再移行時に、リザーブストレージの差分データだけをマスタ格納ボリューム101にコピーすることで、VMを移行する期間を短縮できる。
ここで、管理部161の機能を示す図の一例を、図2Bを参照して説明する。図2Bは、実施例に係る管理部の機能構成の一例を示す図である。図2Bに示すように、管理部161は、DC管理プログラムの実行により実現されるDC管理部161A、コピー制御プログラムの実行により実現されるコピー制御部161Bおよびハイパーバイザー管理プログラムの実行により実現されるハイパーバイザー管理部161Cを有する。DC管理部161Aは、導入設定部161a、第1の管理部161b、電力コスト比較部161c、第2の管理部161dおよび第3の管理部161eの各機能を含む。
コピー制御部161Bは、DC間のデータのリモートコピーを制御する。コピー制御部161Bは、DC管理部161Aによって呼び出される。ハイパーバイザー管理部161Cは、ハイパーバイザー152aを管理する。ハイパーバイザー管理部161Cは、DC管理部161Aによって呼び出される。DC管理プログラム、コピー制御プログラムおよびハイパーバイザー管理プログラムは、例えば記憶部162に格納される。
また、管理サーバ16は、ストレージステータステーブル164、DC電力ステータステーブル165およびDC基本電力量テーブル166を有する。ストレージステータステーブル164は、VMに対する各DCのストレージの役割を記憶する。また、ストレージステータステーブル164は、VMに対する各DCのストレージの稼働状態を記憶する。DC電力ステータステーブル165は、DCの電力コストを算出するために用いられる情報を、DC毎に記憶する。DC基本電力量テーブル166は、物理サーバ数に応じた基本電力量を、DC毎に記憶する。なお、ストレージステータステーブル164、DC電力ステータステーブル165およびDC基本電力量テーブル166のデータ構造の詳細は、後述する。
ここで、ストレージの役割とVMによって処理されるデータの保存先の関係を、図3A〜図3Cを参照して説明する。図3Aは、マスタストレージとバックアップストレージのDCが稼働する場合を示す図である。図3Bは、バックアップストレージとリザーブストレージのDCが稼働する場合を示す図である。図3Cは、マスタストレージとリザーブストレージのDCが稼働する場合を示す図である。各図で示されるVM(A)は、マスタストレージとしての役割を担うA国のDC1で主に利用されるVMであるとする。すなわち、VM(A)について、A国のDC1がマスタストレージであり、B国のDC2がバックアップストレージであり、C国のDC3がリザーブストレージであるとする。なお、A国のDC1の管理サーバ16は「リード」であるとする。
図3Aに示すように、A国とB国が日照時間帯であるので、A国のDC1およびB国のDC2のVM運用設備15,25が稼働する。C国は日没時間帯であるので、C国のDC3のVM運用設備35は停止する。A国のDC1で、VM(A)は、I/O(Input/Output)処理を実行し、ストレージ装置153のマスタ格納ボリューム101の仮想ディスクにデータが書き込まれる。そして、管理部161は、書き込まれた更新データをバックアップデータとして、B国のDC2のバックアップ格納ボリューム202の仮想ディスクにリモートコピーする。これにより、マスタ格納ボリューム101およびバックアップ格納ボリューム202のVM(A)についてのデータは、冗長化される。すなわち、マスタストレージの役割を担うA国のDC1がVM(A)を運用し、バックアップストレージの役割を担うB国のDC2が更新されたデータをバックアップデータとして保存する。
図3Bに示すように、A国は日没時間帯であるので、A国のDC1のVM運用設備15は停止する。B国とC国が日照時間帯であるので、B国のDC2およびC国のDC3のVM運用設備25,35が稼働する。管理部161は、VM(A)を、A国のDC1からB国のDC2に運用移行させる。運用移行時点では、バックアップ格納ボリューム202のVM(A)についての仮想ディスクは、マスタ格納ボリューム101の仮想ディスクと等価である。そして、B国のDC2で、VM(A)は、I/O処理を実行し、ストレージ装置253のバックアップ格納ボリューム202(ここでは、バックアップ2)にデータが書き込まれる。すなわち、書き込まれた更新データは、差分データとして、バックアップ格納ボリューム202のバックアップ1と別の領域であるバックアップ2に保存される。そして、管理部161は、管理部261を介して、保存された差分データを、C国のDC3のリザーブ格納ボリューム303にリモートコピーする。これにより、VM(A)について、バックアップ格納ボリューム202の差分データおよびリザーブ格納ボリューム303の差分データは、冗長化される。すなわち、バックアップストレージの役割を担うB国のDC2がVMを運用し、リザーブストレージの役割を担うC国のDC3が更新されたデータをリザーブデータとして保存する。
図3Cに示すように、A国とC国が日照時間帯であるので、A国のDC1およびC国のDC3のVM運用設備15,35が稼働する。B国は日没時間帯であるので、B国のDC2のVM運用設備25は停止する。管理部161は、VM(A)を、B国のDC2からA国のDC1に運用移行する。運用移行時点では、バックアップ格納ボリューム202のVM(A)についての仮想ディスクは、マスタ格納ボリューム101の仮想ディスクと等価である。そして、A国のDC1で、VM(A)は、I/O処理を実行し、ストレージ装置153のマスタ格納ボリューム101(ここでは、マスタ2)にデータが書き込まれる。すなわち、書き込まれた更新データは、差分データとして、マスタ格納ボリューム101のマスタ1と別の領域であるマスタ2に保存される。そして、管理部161は、書き込まれた更新データを、管理部361を介して、C国のDC3のリザーブ格納ボリューム303にリモートコピーする。これにより、VM(A)について、マスタ格納ボリューム101の差分データおよびリザーブ格納ボリューム303の差分データは、冗長化される。すなわち、マスタストレージの役割を担うA国のDC1がVMを運用し、リザーブストレージの役割を担うC国のDC3が更新されたデータをリザーブデータとして保存する。
また、VM(A)について、DC間でVMを移行する処理の概要を、図4A〜図4Bを参照して説明する。図4Aは、マスタストレージからバックアップストレージへVMを移行する場合を示す図である。図4Bは、バックアップストレージからマスタストレージへVMを移行する場合を示す図である。VM(A)について、A国のDC1がマスタストレージであり、B国のDC2がバックアップストレージであり、C国のDC3がリザーブストレージであるとする。なお、A国のDC1の管理サーバ16は「リード」であるとする。
図4Aでは、日照時間帯がB国、C国になり、日没時間帯がA国になった場合とする。図4Aに示すように、A国のDC1は、日没時間帯となったので、VM(A)の運用移行を開始する。管理部161は、管理部361を介して、停止中であったC国のDC3のVM運用設備35を起動する(S201)。そして、管理部161は、運用しているVM(A)を停止させる(S202)。すると、VM(A)は、実行していたI/O処理を完了し(S203)、仕掛中の更新データを、B国のDC2のバックアップ格納ボリューム202の仮想ディスクにコピーする(S204)。そして、管理部161は、ネットワークの設定を変更すべく、DNS(Domain Name System)の登録変更をする(S205)。
続いて、管理部161は、DC間でVM(A)を移行すべく、B国のDC2に対して、VM(A)の起動を通知する(S206)。すると、B国のDC2で、VM(A)は、I/O処理を開始し、ストレージ装置253のバックアップ格納ボリューム202(ここでは、バックアップ2)にデータを書き込む。そして、VM(A)は、書き込んだ更新データを仮想ディスク上のデータの差分データとして、バックアップ格納ボリューム202のバックアップ2に保存する。そして、管理部261は、保存された差分データについて、C国のDC3のリザーブ格納ボリューム303へリモートコピーを開始(起動)する(S207)。これにより、バックアップストレージの役割を担うB国のDC2で、VM(A)の運用が開始される。
その後、B国のDC2で、VM(A)の運用が開始されると、管理部161は、稼働中のA国のDC1のVM運用設備15を停止させる(S208)。この結果、管理部161は、運用移行時に、仕掛中の更新データだけをバックアップストレージの仮想ディスクにコピーすることで、VM(A)を移行する期間を短縮できる。
図4Bでは、日照時間帯がA国、C国になり、日没時間帯がB国になった場合とする。図4Bに示すように、A国のDC1は、日照時間帯となったので、B国のDC2からのVM(A)の運用移行を開始する。管理部161は、A国のDC1のVM運用設備15を起動する(S211)。すると、管理部161は、リザーブストレージからマスタストレージへのコピー起動を指示し、管理部361は、リザーブデータとして保存された差分データについて、A国のDC1のマスタ格納ボリューム101(ここでは、マスタ2)へのリモートコピーを開始(起動)する(S212)。そして、管理部161は、B国のDC2で運用しているVM(A)を停止させる(S213)。すると、B国のDC2で、VM(A)は、実行していたI/O処理を完了し(S214)、仕掛中の更新データをストレージ装置253のバックアップ格納ボリューム202(ここでは、バックアップ2)に書き込む。すなわち、書き込まれた更新データは、差分データとして、バックアップ格納ボリューム202のバックアップ1と別の領域であるバックアップ2に保存される。
続いて、管理部261は、管理部361を介して、保存された差分データを、C国のDC3のストレージ装置353のリザーブ格納ボリューム303にリモートコピーする(S215)。そして、管理部361は、差分データをA国のDC1のマスタ格納ボリューム101(ここでは、マスタ2)にリモートコピーし、コピーを完了する(S216)。これにより、バックアップストレージの差分データとマスタストレージの差分データは等価になる。
続いて、管理部161は、マスタ格納ボリューム101(ここでは、マスタ1)の仮想ディスクへマスタ2の差分データを反映する(S217)。そして、管理部161は、ネットワークの設定を変更すべく、DNSの登録変更をする(S218)。
続いて、管理部161は、DC間でVM(A)を移行させるべく、A国のDC1に対して、VM(A)を起動させる(S219)。すると、A国のDC1で、VM(A)は、I/O処理を開始し、ストレージ装置153のマスタ格納ボリューム101(ここでは、マスタ2)にデータを書き込む。そして、VM(A)は、書き込んだ更新データを仮想ディスク上のデータの差分データとして保存する。そして、管理部161は、保存された差分データについて、C国のDC3のリザーブ格納ボリューム303へのリモートコピーを開始(起動)する。これにより、マスタストレージの役割を担うA国のDC1で、VM(A)の運用が開始される。
さらに、管理部161は、管理部261を介して、B国のDC2のバックアップ1の仮想ディスクへバックアップ2の差分データを反映する(S220)。そして、管理部161は、管理部261を介して、稼働中のB国のDC2のVM運用設備25を停止する(S221)。これにより、管理部161は、運用移行時に、リザーブストレージの差分データだけをマスタストレージの差分データにコピーすることで、VM(A)を移行する期間を短縮できる。
次に、DC1における仮想マシン(VM)とVMによって処理されるデータの保存先ボリュームとの関係を、図5を参照して説明する。図5は、仮想マシンとデータ保存先ボリュームの関係を示す図である。図5では、仮想マシン154には、VM001、VM002およびVM003があるとして説明する。DC1のVM毎のストレージとしての役割は、VM001についてマスタストレージであり、VM002についてバックアップストレージであり、VM003についてリザーブストレージであるとする。
図5に示すように、VM001およびVM002が運用中である。VM001は、DC1をマスタストレージの役割として使用するので、I/O処理を実行すると、処理されたデータを、ストレージ装置153のマスタ格納ボリューム101に書き込む。VM002は、DC1をバックアップストレージの役割として使用するので、I/O処理を実行すると、処理されたデータを、ストレージ装置153のバックアップ格納ボリューム102に書き込む。VM003は、DC1をリザーブストレージの役割として使用するので、VM003について他のDC2で処理されたデータが差分データとしてリザーブ格納ボリューム103に書き込まれる。
次に、ストレージステータステーブル164のデータ構造を、図6Aを参照して説明する。図6Aは、ストレージステータステーブルのデータ構造の一例を示す図である。図6Aに示すように、ストレージステータステーブル164は、ストレージ役割をそれぞれマスタ164b、バックアップ164c、リザーブ164dとするDC拠点を仮想マシン名164aに対応付けて記憶する。また、ストレージステータステーブル164は、マスタ164e、バックアップ164f、リザーブ164gをストレージ役割とするDCの稼働状態を仮想マシン名164a毎に記憶する。
一例として、仮想マシン名164aが「VM001」である場合、ストレージ役割をマスタ164bとするDC拠点を「日本」、バックアップ164cとするDC拠点を「ドイツ」、リザーブ164dとするDC拠点を「アメリカ」と記憶している。そして、マスタ164eをストレージ役割とするDCの稼働状態を「稼働」、バックアップ164fをストレージ役割とするDCの稼働状態を「稼働」、リザーブ164gをストレージ役割とするDCの稼働状態を「停止」と記憶している。
次に、DC電力ステータステーブル165のデータ構造を、図6Bを参照して説明する。図6Bは、DC電力ステータステーブルのデータ構造の一例を示す図である。図6Bに示すように、DC電力ステータステーブル165は、測定値を示す消費電力量165bおよび発電量165c、VM登録数165d、電力単価165e、電力コストを示す移行前165fおよび移行後165gを、DC名165aに対応付けて記憶する。DC名165aは、DCの名称を示す。消費電力量165bは、DC名165aが示すDCで消費された電力量を示す。発電量165cは、DC名165aが示すDCで発電された発電量を示す。VM登録数165dは、DC名165aが示すDCで運用するVMの数を示す。電力単価165eは、DC名165aが示すDCで電力を使用した場合の単価を示す。移行前165fは、移行前にかかった電力コストを示す。移行後165gは、移行後にかかった電力コストを示す。
一例として、DC名165aが「日本」である場合、消費電力量165bとして「260MWh(megawatt−hour)」、発電量165cとして「200MWh」、VM登録数165dとして「500」、電力単価165eとして「$180/MWh」を記憶している。移行前165fの電力コストとして「$46800」、移行後165gの電力コストとして「--」を記憶している。
次に、DC基本電力量テーブル166のデータ構造を、図6Cを参照して説明する。図6Cは、DC基本電力量テーブルのデータ構造の一例を示す図である。図6Cに示すように、DC基本電力量テーブル166は、物理サーバの稼働数に応じた基本電力量をDC名166aに対応付けて記憶する。一例として、DC名166aが「日本」である場合、1物理サーバ166bとして「26MW(megawatt)」、2物理サーバ166cとして「3
1MW」、3物理サーバ166dとして「36MW」、n物理サーバ166nとして「xxxMW」を記憶している。
[DC管理処理のシーケンス]
次に、管理サーバ16が「リード」であるとした場合の管理部161によるDC管理処理のシーケンスを、図7A〜図7Dを参照して説明する。図7A〜図7Dは、実施例に係るDC管理処理のシーケンスを示す図である。なお、図7A〜図7Dでは、日本DCをDC1とし、ドイツDCをDC2とし、アメリカDCをDC3として説明する。
日本DC1の管理サーバ16では、管理部161が、ドイツDC2の管理サーバ26およびアメリカDC3の管理サーバ36へ、リードの管理サーバであることを宣言する(ステップS11)。そして、管理部161は、導入設定処理を実行する(ステップS12)。なお、導入設定処理では、仮想マシン「VM001」について、マスタストレージの役割を日本DC1と設定し、バックアップストレージの役割をドイツDC2と設定し、リザーブストレージとしての役割をアメリカDC3と設定したとする。仮想マシン「VM002」について、マスタストレージの役割をアメリカDC3と設定し、バックアップストレージの役割を日本DC1と設定し、リザーブストレージとしての役割をドイツDC2と設定したとする。仮想マシン「VM003」について、マスタストレージの役割をドイツDC2と設定し、バックアップストレージの役割をアメリカDC3と設定し、リザーブストレージとしての役割を日本DC1と設定したとする。導入設定処理の詳細は、後述する。
ここで、日本、ドイツが日照時間帯であり、アメリカが日没時間帯であるとする。すると、管理部161は、日本DC1からドイツDC2へ、仮想ディスクに書き込まれた更新データ、差分データのリモートコピー処理を開始する(ステップS13)。例えば、「VM001」がI/O処理を実行すると、ストレージ装置153のマスタ格納ボリューム101の仮想ディスクにデータが書き込まれる。すると、管理部161は、管理部261を介して、書き込まれた更新データを、ドイツDC2のバックアップ格納ボリューム202の仮想ディスクにリモートコピーする。「VM002」がI/O処理を実行すると、ストレージ装置153のバックアップ格納ボリューム102に差分データとしてデータが書き込まれる。そして、管理部161は、管理部261を介して、書き込まれた差分データを、ドイツDC2のリザーブ格納ボリューム203にリモートコピーする。
そして、管理部161は、ドイツDC2の管理サーバ26に対し、ドイツDC2から日本DC1に対するリモートコピー処理の開始を指示する(ステップS14)。例えば、ドイツDC2で、「VM003」がI/O処理を実行すると、ストレージ装置253のマスタ格納ボリューム201の仮想ディスクにデータが書き込まれる。そして、管理サーバ26の管理部261は、書き込まれた更新データを、日本DC1のバックアップ格納ボリューム102の仮想ディスクにリモートコピーする。
そして、管理部161は、日本DC1で稼働するVM(アメリカDC3のVMを含む)を起動(運用開始)する(ステップS15)。ここでは、日本DC1で稼働するVMは、「VM001」および「VM002」である。そして、管理部161は、ドイツDC2の管理サーバ26に対して、ドイツDC2で稼働するVMの起動を通知する(ステップS15A)。
ここで、日本が徐々に日没時間帯になり、ドイツおよびアメリカが日照時間帯になるとする。管理部161は、DCの運用に伴う電力コストの比較を開始し(ステップS16)、DC電力コスト比較処理を実行する(ステップS17)。なお、DC電力コスト比較処理の詳細は、後述する。
そして、管理部161は、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いか否かを判定する(ステップS18)。VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高くないと判定した場合(ステップS18;No)、管理部161は、判定処理を繰り返すべく、ステップS17に遷移する。
一方、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いと判定した場合(ステップS18;Yes)、管理部161は、VMが移行された場合の移行後のDCに移行処理を開始する。すなわち、管理部161は、アメリカDC3の管理サーバ36へ、VM運用設備35の起動を通知し(ステップS19)、VMなどの移行を開始する(ステップS20)。
そして、管理部161は、マスタストレージの移行処理を実行する(ステップS21)。すなわち、管理部161は、VM運用設備15が停止される日本DC1のストレージ役割がマスタであるVMの移行処理を実行する。そして、管理部161は、バックアップストレージの移行処理を実行する(ステップS22)。すなわち、管理部161は、VM運用設備15が停止される日本DC1のストレージ役割がバックアップであるVMの移行処理を実行する。なお、マスタストレージの移行処理およびバックアップストレージの移行処理の詳細は、後述する。そして、管理部161は、日本DC1のVM運用設備15を停止する(ステップS23)。
ここで、ドイツが徐々に日没時間帯になり、アメリカおよび日本が日照時間帯になるとする。管理部161は、DCの運用に伴う電力コストの比較を開始し(ステップS24)、DC電力コスト比較処理を実行する(ステップS25)。
そして、管理部161は、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いか否かを判定する(ステップS26)。VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高くないと判定した場合(ステップS26;No)、管理部161は、判定処理を繰り返すべく、ステップS25に遷移する。
一方、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いと判定した場合(ステップS26;Yes)、管理部161は、VMが移行された場合の移行後のDCに移行処理を開始する。すなわち、管理部161は、日本DC1のVM運用設備15の起動を通知し(ステップS27)、移行開始を通知する(ステップS28)。
そして、管理部161は、ドイツDC2に対するマスタストレージの移行処理を実行する(ステップS29)。すなわち、管理部161は、VM運用設備25が停止されるドイツDC2のストレージ役割がマスタであるVMの移行処理を実行する。そして、管理部161は、バックアップストレージの移行処理を実行する(ステップS30)。すなわち、管理部161は、VM運用設備25が停止されるドイツDC2のストレージ役割がバックアップであるVMの移行処理を実行する。そして、管理部161は、ドイツDC2の管理サーバ26へドイツDC2のVM運用設備25の停止指示を通知する(ステップS31)。
ここで、アメリカが徐々に日没時間帯になり、日本およびドイツが日照時間帯になるとする。管理部161は、DCの運用に伴う電力コストの比較を開始し(ステップS32)、DC電力コスト比較処理を実行する(ステップS33)。
そして、管理部161は、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いか否かを判定する(ステップS34)。VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高くないと判定した場合(ステップS34;No)、管理部161は、判定処理を繰り返すべく、ステップS33に遷移する。
一方、VMを移行する前の稼働中のDCの電力コストが、VMが移行された場合の移行後のDCの電力コストより高いと判定した場合(ステップS34;Yes)、管理部161は、VMが移行された場合の移行後のDCに移行処理を開始する。すなわち、管理部161は、ドイツDC2の管理サーバ26へドイツDC2のVM運用設備25の起動指示を通知し(ステップS35)、移行開始を通知する(ステップS36)。
そして、管理部161は、アメリカDC3に対するマスタストレージの移行処理を実行する(ステップS37)。すなわち、管理部161は、VM運用設備35が停止されるアメリカDC3のストレージ役割がマスタであるVMの移行処理を実行する。そして、管理部161は、バックアップストレージの移行処理を実行する(ステップS38)。すなわち、管理部161は、VM運用設備35が停止されるアメリカDC3のストレージ役割がバックアップであるVMの移行処理を実行する。そして、管理部161は、アメリカDC3の管理サーバ36へアメリカDC3のVM運用設備35の停止指示を通知する(ステップS39)。このように、管理部161は、DCの拠点がそれぞれ日没時間帯になると、DCの移行処理を実行する。
[導入設定処理のシーケンス]
次に、管理部161による導入設定処理のシーケンスを、図8A〜図8Dを参照して説明する。図8A〜図8Dは、導入設定処理のシーケンスを示す図である。なお、図8A〜図8Dでは、日本DCをDC1とし、ドイツDCをDC2とし、アメリカDCをDC3として説明する。また、図8A〜図8Dでは、日本DC1の管理サーバ16がリードであるとする。
管理部161は、ストレージステータステーブル164を記憶領域に生成する(ステップS41)。そして、管理部161は、例えばシステム管理者によって入力されたVMの名称をストレージステータステーブル164の仮想マシン名164aに登録する。そして、管理部161は、VM毎に、マスタストレージを設定する(ステップS42)。すなわち、管理部161は、ストレージ役割をマスタストレージとするDCを、VM毎に設定する。ストレージ役割をマスタストレージとするDCは、VMを主に利用する拠点である。
そして、管理部161は、VM毎に、各DCのストレージ役割(バックアップ/リザーブ)をストレージステータステーブル164へ反映する(ステップS43)。例えば、仮想マシン名164aに「VM001」、「VM002」、「VM003」が登録されたとする。管理部161は、「VM001」に対して、ストレージ役割をマスタ164bとするDC拠点を「日本」に設定する。すると、管理部161は、日照の時間順序に応じて、ストレージ役割をバックアップ164cとするDC拠点を「ドイツ」、ストレージ役割をリザーブ164dとするDC拠点を「アメリカ」に設定する。同様に、管理部161は、「VM002」に対して、ストレージ役割をマスタ164bとするDC拠点を「アメリカ」に設定する。すると、管理部161は、日照の時間順序に応じて、ストレージ役割をバックアップ164cとするDC拠点を「日本」、ストレージ役割をリザーブ164dとするDC拠点を「ドイツ」に設定する。
続いて、管理部161は、DC電力ステータステーブル165を記憶領域に生成する(ステップS44)。そして、管理部161は、例えばシステム管理者によって入力された各DCの電力単価の値をDC電力ステータステーブル165の電力単価165eに登録する(ステップS45)。
続いて、管理部161は、日本DC1のVM運用に必要なVM運用設備15を起動する(ステップS46)。VM運用設備15には、例えば、電源設備、空調設備および物理サーバが含まれる。そして、管理部161は、日本DC1のストレージ装置153へマスタストレージの格納ボリューム(マスタ格納ボリューム101)を作成する(ステップS47)。管理部161は、日本DC1のストレージ装置153へバックアップストレージ(仮想ディスク、差分データ)の格納ボリューム(バックアップ格納ボリューム102)を作成する(ステップS48)。管理部161は、日本DC1のストレージ装置153へリザーブストレージ(差分データ)の格納ボリューム(リザーブ格納ボリューム103)を作成する(ステップS49)。
続いて、管理部161は、ドイツDC2のVM運用に必要なVM運用設備25の起動指示をドイツDC2の管理サーバ26に通知する(ステップS50)。すると、ドイツDC2の管理サーバ26では、管理部261が、VM運用設備25を起動する(ステップS51)。
そして、管理部261からVM運用設備25の起動完了が通知されると、管理部161は、ドイツDC2の管理サーバ26へ、マスタ、バックアップ、リザーブの格納ボリューム作成を指示する(ステップS52)。すると、管理サーバ26では、管理部261が、ドイツDC2のストレージ装置253へマスタストレージの格納ボリューム(マスタ格納ボリューム201)を作成する(ステップS53)。管理部261は、ドイツDC2のストレージ装置253へバックアップストレージ(仮想ディスク、差分データ)の格納ボリューム(バックアップ格納ボリューム202)を作成する(ステップS54)。管理部261は、ドイツDC2のストレージ装置253へリザーブストレージ(差分データ)の格納ボリューム(リザーブ格納ボリューム203)を作成する(ステップS55)。そして、管理部261は、リードの管理サーバ16へ格納ボリュームの作成完了を通知する(ステップS56)。
続いて、管理部161は、アメリカDC3のVM運用に必要なVM運用設備35の起動指示をアメリカDC3の管理サーバ36に通知する(ステップS57)。すると、アメリカDC3の管理サーバ36では、管理部361が、VM運用設備35を起動する(ステップS58)。
そして、管理部361からVM運用設備35の起動完了が通知されると、管理部161は、アメリカDC3の管理サーバ36へ、マスタ、バックアップ、リザーブの格納ボリューム作成を指示する(ステップS59)。すると、管理サーバ36では、管理部361が、アメリカDC3のストレージ装置353へマスタストレージの格納ボリューム(マスタ格納ボリューム301)を作成する(ステップS60)。管理部361は、アメリカDC3のストレージ装置353へバックアップストレージ(仮想ディスク、差分データ)の格納ボリューム(バックアップ格納ボリューム302)を作成する(ステップS61)。管理部361は、アメリカDC3のストレージ装置353へリザーブストレージ(差分データ)の格納ボリューム(リザーブ格納ボリューム303)を作成する(ステップS62)。そして、管理部361は、リードの管理サーバ16へ格納ボリュームの作成完了を通知する(ステップS63)。
そして、管理部161は、DC基本電力量テーブル166を記憶領域に生成する(ステップS64)。そして、管理部161は、物理サーバの稼働数に応じた各DCの基本電力量をDC基本電力量テーブル166へ反映する(ステップS65)。例えば、管理部161は、システム管理者によって入力された各DCの基本電力量をDC基本電力量テーブル166へ設定する。そして、管理部161は、導入設定処理を終了する。
[DC電力コスト比較処理のシーケンス]
次に、管理部161によるDC電力コスト比較処理のシーケンスを、図9A〜図9Bを参照して説明する。図9A〜図9Bは、DC電力コスト比較処理のシーケンスを示す図である。なお、図9A〜図9Bでは、日本DCを停止DCとし、ドイツDCを継続DCとし、アメリカDCを起動DCとして説明する。停止DCとは、現在稼働中のDCであるが、日没により運用を停止することを意味する。継続DCとは、現在稼働中のDCであり、運用を継続することを意味する。起動DCとは、現在停止中のDCであるが、日の出に伴い運用を開始することを意味する。また、図9A〜図9Bでは、日本DCの管理サーバ16がリードであるとする。
管理部161は、停止DCの電力量計14から消費電力量を測定し、測定結果と電力単価から停止DCの電力コストを算出する(ステップS71)。そして、管理部161は、停止DCの消費電力量165bと電力コスト(移行前165f)をDC電力ステータステーブル165へ反映する(ステップS72)。
続いて、管理部161は、継続DCの管理サーバ26へ、消費電力量と電力コストの算出指示を行う(ステップS73)。継続DCの管理サーバ26では、管理部261が、継続DCの電力量計24から消費電力量を測定し、測定結果と電力単価から継続DCの電力コストを算出する(ステップS74)。そして、管理部261は、消費電力量と電力コストをリードの管理サーバ16へ送信する(ステップS75)。
そして、管理サーバ16の管理部161は、継続DCの消費電力量165bと電力コスト(移行前165f)をDC電力ステータステーブル165へ反映する(ステップS76)。
そして、管理サーバ16の管理部161は、ストレージステータステーブル164を参照し、各DCのVM登録数(マスタストレージ数)をカウントする。そして、管理部161は、カウントしたマスタストレージ数をDC電力ステータステーブル165のVM登録数165dへ反映する(ステップS77)。
そして、管理部161は、DC電力ステータステーブル165およびDC基本電力量テーブル166を参照し、継続DCで稼働が想定されるVM登録数に応じた電力コストを算出する。そして、管理部161は、DC電力ステータステーブル165の電力コスト(移行後165g)へ反映する(ステップS78)。例えば、管理部161は、以下の式(1)に基づいて、継続DCの移行後の電力コストを算出する。
電力コスト($)={継続DCのVM登録数(マスタ+バックアップ)に応じた基本電力量−継続DCの発電量}×継続DCの電力単価・・・式(1)
続いて、管理部161は、起動DCの管理サーバ36へ起動DCの発電量の測定指示を行う(ステップS79)。起動DCの管理サーバ36では、管理部361が、測定した発電量をリードの管理サーバ16へ送信する(ステップS80)。そして、管理サーバ16の管理部161は、起動DCの発電量をDC電力ステータステーブル165の発電量165cへ反映する(ステップS81)。
そして、管理部161は、DC電力ステータステーブル165およびDC基本電力量テーブル166を参照し、起動DCで稼働が想定されるVM登録数に応じた電力コストを算出する。そして、管理部161は、DC電力ステータステーブル165の電力コスト(移行後165g)へ反映する(ステップS82)。例えば、管理部161は、以下の式(2)に基づいて、起動DCの移行後の電力コストを算出する。
電力コスト($)={起動DCのVM登録数(マスタ+バックアップ)に応じた基本電力量−起動DCの発電量}×起動DCの電力単価・・・式(2)
そして、管理部161は、DC電力ステータステーブル165を参照し、移行前電力コストおよび移行後電力コストを算出する(ステップS83)。例えば、管理部161は、移行前電力コストとして、DC電力ステータステーブル165の移行前165fの各電力コストを加算する。管理部161は、移行後電力コストとして、DC電力ステータステーブル165の移行後165gの各電力コストを加算する。
そして、管理部161は、算出した、移行前電力コストおよび移行後電力コストを戻して、DC電力コスト比較処理を終了する。
[マスタストレージの移行処理のシーケンス]
次に、管理部161によるマスタストレージの移行処理のシーケンスを、図10A〜図10Dを参照して説明する。図10A〜図10Dは、マスタストレージの移行処理のシーケンスを示す図である。なお、図10A〜図10Dでは、一例として、VM運用設備が停止される日本DCのストレージ役割がマスタであるVMの移行処理について説明する。したがって、日本DCを停止DCとし、ドイツDCを継続DCとし、アメリカDCを起動DCとして説明する。ここで、停止DCとは、現在稼働中のDCであるが、日没により運用を停止することを意味する。継続DCとは、現在稼働中のDCであり、運用を継続することを意味する。起動DCとは、現在停止中のDCであるが、日の出に伴い運用を開始することを意味する。また、図10A〜図10Dでは、日本DCの管理サーバ16がリードであるとする。また、説明の便宜上、対象VMは1つであるとし、このVMについて、日本DCがマスタストレージの役割を担い、ドイツDCがバックアップストレージの役割を担い、アメリカDCがリザーブストレージの役割を担うものとする。
管理部161は、継続DCの管理サーバ26へバックアップストレージ(バックアップ格納ボリューム202)のリモートコピー起動を通知する(ステップS91)。すると、継続DCの管理サーバ26では、管理部261が、起動DCの管理サーバ36へリザーブストレージ(リザーブ格納ボリューム303)の初期化を通知する(ステップS92)。
起動DCの管理サーバ36では、管理部361が、ストレージ装置353へリザーブストレージに割り当てたリザーブ格納ボリューム303のフォーマットを指示する(ステップS93)。すると、ストレージ装置353は、ストレージ格納ボリューム303のフォーマットを実行する(ステップS94)。そして、管理サーバ36は、継続DCの管理サーバ26へリザーブ格納ボリューム303のフォーマット完了を通知する(ステップS95)。
継続DCの管理サーバ26では、管理部261が、リードの管理サーバ16へリモートコピーの準備完了を通知する(ステップS96)。
リードの管理サーバ16では、管理部161が、ハイパーバイザー152aの管理プログラム(以下、HV管理ソフト)を介して、停止DCをマスタストレージに定義したVMを停止する(ステップS97)。HV管理ソフトは、一例として、ハイパーバイザー管理プログラム161Cである。例えば、管理部161は、マスタストレージとして定義された停止DCのVMを、ストレージステータステーブル164を参照して取得する。そして、管理部161は、停止DCについて、ストレージステータステーブル164のVMに対応する稼働状態164eを、「稼働」から「停止」に変更する(ステップS98)。
続いて、管理部161は、停止DCのマスタストレージから継続DCのバックアップストレージへのリモートコピー完了を監視する(ステップS99)。すなわち、管理部161は、仕掛中の更新データを、継続DC国のバックアップ格納ボリューム202の仮想ディスクへリモートコピーし、リモートコピーの完了を監視する。そして、継続DCのストレージ装置253は、マスタストレージからのリモートコピーが完了すると、リモートコピーの完了を通知する(ステップS100)。
続いて、管理部161は、継続DCの管理サーバ26へバックアップストレージを割り当てたVMの起動を通知する(ステップS101)。すなわち、管理部161は、DC間でVMを移行させる。
継続DCの管理サーバ26では、管理部261が、停止DCから移行するVMの仮想ディスクについて、設定変更をHV管理ソフトへ通知する(ステップS102)。例えば、管理部261は、HV管理ソフトへ、差分データを保存するボリュームを生成するように依頼する。すなわち、管理部261は、移行するVMのI/O処理について、バックアップ格納ボリューム202の既存の仮想ディスクを更新しないで、バックアップ格納ボリューム202の別のボリュームへ保存する。
そして、管理部261は、バックアップストレージ(継続DC)からリザーブストレージ(起動DC)へリモートコピーを開始する(ステップS103)。そして、ストレージ装置253は、リモートコピーを実行(開始)するとともに(ステップS104)、管理部261にリモートコピー開始を通知する(ステップS105)。管理部261は、停止DCから移行するVMである対象VMの差分データ(スナップショット)の作成をHV管理ソフトへ指示する(ステップS106)。
そして、管理部261は、対象VMの差分データ(スナップショット)をバックアップストレージへ保存する(ステップS107)。すなわち、対象VMにおけるデータの更新は、差分ディスクへ反映される。対象VMの差分データがバックアップストレージへ保存されると、ストレージ装置253は、バックアップストレージ(継続DC)からリザーブストレージ(起動DC)のリモートコピーを実行する(ステップS108)。
続いて、管理部261は、停止DCから移行するVMの起動をHV管理ソフトへ指示する(ステップS109)。そして、管理部261は、リードの管理サーバ16へ停止DCから移行したVMが起動されたことを通知する(ステップS110)。
すると、リードの管理サーバ16では、管理部161が、継続DCについて、ストレージステータステーブル164のVMに対応する稼働状態164eを、「停止」から「稼働」に変更する(ステップS111)。そして、管理部161は、マスタストレージの移行処理を終了する。
[バックアップストレージの移行処理のシーケンス]
次に、管理部161によるバックアップストレージの移行処理のシーケンスを、図11A〜図11Fを参照して説明する。図11A〜図11Fは、バックアップストレージの移行処理のシーケンスを示す図である。なお、図11A〜図11Fでは、一例として、VM運用設備が停止される日本DCのストレージ役割がバックアップであるVMの移行処理について説明する。したがって、日本DCを起動DCとし、ドイツDCを停止DCとし、アメリカDCを継続DCとして説明する。停止DCとは、現在稼働中のDCであるが、日没により運用を停止することを意味する。継続DCとは、現在稼働中のDCであり、運用を継続することを意味する。起動DCとは、現在停止中のDCであるが、日の出に伴い運用を開始することを意味する。また、図11A〜図11Fでは、日本DCの管理サーバ16がリードであるとする。また、説明の便宜上、対象VMは1つであるとし、このVMについて、日本DCがマスタストレージの役割を担い、ドイツDCがバックアップストレージの役割を担い、アメリカDCがリザーブストレージの役割を担うものとする。
ストレージ装置253は、バックアップストレージ(停止DC)からリザーブストレージ(継続DC)へのリモートコピーを継続して実行している(ステップS121)。
管理部161は、継続DCの管理サーバ36へリザーブストレージ(リザーブ格納ボリューム303)からマスタストレージ(起動DC)へのリレーコピーの起動を指示する(ステップS122)。ここでいう「リレーコピー」とは、リモートコピーの中でも特に、リザーブストレージからマスタストレージへ差分データをリモートコピーすることをいう。
継続DCの管理サーバ36では、管理部361が、リザーブストレージ(継続DC)からマスタストレージ(起動DC)へリレーコピーを開始する(ステップS123)。そして、ストレージ装置353は、リレーコピーを開始(実行)するとともに(ステップS124)、管理部361にリレーコピー開始を通知する(ステップS125)。そして、管理部361は、リードの管理サーバ16へリレーコピーの開始を通知する(ステップS126)。
リードの管理サーバ16では、管理部161が、ハイパーバイザー152aの管理プログラム(以下、HV管理ソフト)の実行により、停止DCにバックアップストレージを割り当てたVMの停止を指示する(ステップS127)。例えば、管理部161は、バックアップストレージとして定義された停止DCのVMを、ストレージステータステーブル164を参照して取得する。そして、管理部161は、停止DCについて、ストレージステータステーブル164のVMに対応する稼働状態164eを、「稼働」から「停止」に変更する(ステップS128)。
そして、管理部161は、バックアップストレージ(停止DC)からリザーブストレージ(継続DC)のリモートコピー完了を指示する(ステップS129)。すなわち、管理部161は、停止DCの管理サーバ26へ、仕掛中のデータの最終データの更新を指示する。そして、停止DCの管理サーバ26では、管理部261が、バックアップストレージ(停止DC)とリザーブストレージ(継続DC)間のリモートコピー完了をストレージ装置253に指示する(ステップS130)。
そして、ストレージ装置253は、バックアップストレージ(停止DC)からリザーブストレージ(継続DC)へのリモートコピーを実行(最終)する(ステップS131)。この結果、継続DCのストレージ装置353は、リモートコピーされたデータを、リザーブストレージ(継続DC)からマスタストレージ(起動DC)へリレーコピーする。
そして、ストレージ装置253は、リモートコピーの実行が完了すると、リモートコピーの完了を管理サーバ26へ通知する(ステップS132)。これにより、停止DCでVMが停止された後のバックアップストレージの差分データとリザーブストレージの差分データとは等価になる。そして管理サーバ26は、リードの管理サーバ16へバックアップストレージ(停止DC)とリザーブストレージ(継続DC)間のリモートコピーの完了を通知する(ステップS133)。
続いて、管理部161は、リザーブストレージ(継続DC)からマスタストレージ(起動DC)へのリレーコピー完了を監視する(ステップS134)。すなわち、管理部161は、バックアップストレージからリザーブストレージへリモートコピーされた仕掛中の更新データについて、リレーコピーの完了を監視する。
継続DCの管理サーバ36では、管理部361が、リザーブストレージ(継続DC)とマスタストレージ(起動DC)間のリレーコピーを継続し(ステップS135)、ストレージ装置353は、リレーコピーを実行する(ステップS136)。その後、ストレージ装置353は、リレーコピーの完了を管理サーバ36に通知する(ステップS137)。これにより、停止DCでVMが停止された後のバックアップストレージの差分データとマスタストレージの差分データとは等価になる。そして、管理部361は、リードの管理サーバ16へリザーブストレージ(継続DC)とマスタストレージ(起動DC)間のリレーコピーの完了を通知する(ステップS138)。
続いて、リードの管理サーバ16では、管理部161が、HV管理ソフトに対し、マスタストレージの仮想ディスクへ対象VMの差分データを反映するように指示する(ステップS139)。すなわち、HV管理ソフトは、マスタストレージの仮想ディスクであってバックアップストレージに保存された仮想ディスクと冗長である仮想ディスクへリレーコピーされた差分データを反映する。
リードの管理サーバ16では、管理部161は、停止DCから移行するVMの仮想ディスクについて、差分データを保存する仮想ディスクの設定変更をHV管理ソフトへ通知する(ステップS140)。例えば、管理部161は、HV管理ソフトへ、差分データを保存するボリュームを生成するように依頼する。すなわち、管理部161は、移行するVMのI/O処理について、マスタ格納ボリューム101の既存の仮想ディスクを更新しないで、新たに生成されたマスタストレージの別ボリュームへ保存する。
そして、管理部161は、マスタストレージ(起動DC)からリザーブストレージ(継続DC)へ対象ボリューム(差分データのみ)のリモートコピーを起動する(ステップS141)。そして、ストレージ装置153は、リモートコピーを開始(実行)するとともに(ステップS142)、リードの管理サーバ16へリモートコピー開始を通知する(ステップS143)。管理サーバ16では、管理部161が、HV管理ソフトに対し、停止DCから移行するVMである対象VMの差分データ(スナップショット)の作成を指示する(ステップS144)。
続いて、管理部161は、停止DCから移行するVMの起動をHV管理ソフトへ指示する(ステップS145)。そして、管理部161は、起動DCについて、ストレージステータステーブル164のVMに対応する稼働状態164eを、「停止」から「稼働」に変更する(ステップS146)。
続いて、管理部161は、停止DCの管理サーバ26へ運用移行するVMの仮想ディスクへ差分データを反映するように指示する(ステップS147)。そして、停止DCの管理サーバ26では、管理部261が、HV管理ソフトに対し、バックアップストレージの仮想ディスクへ対象VMの差分データを反映するように指示する(ステップS148)。これにより、バックアップストレージの仮想ディスクは、マスタストレージの仮想ディスクと同等になる。
[実施例の効果]
上記実施例によれば、管理サーバ16は、データをマスタデータとしてマスタストレージに保持させ、マスタデータと等価のデータをバックアップデータとしてバックアップストレージに保持させる管理を行なう。また、管理サーバ16は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップストレージに保持されたバックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる。そして、管理サーバ16は、更新データをマスタストレージおよびバックアップストレージと異なるリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ16は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合でも、切り替えられた格納先に更新された更新データだけを差分データとして別のストレージに保持させる。この結果、管理サーバ16は、データの冗長性を保証しつつ、データの総容量を削減できる。すなわち、管理サーバ16は、3個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
また、上記実施例によれば、管理サーバ16は、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合に、リザーブストレージに複製された更新データをマスタストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ16は、バックアップストレージからマスタストレージにデータの格納先が切り替えられた場合でも、リザーブストレージに複製された更新データだけをマスタストレージに複製させる。この結果、管理サーバ16は、バックアップストレージとマスタストレージのデータの冗長性を保証することができ、さらに、データの総容量を削減できる。
また、上記実施例によれば、管理サーバ16は、移行可能なVMにあらかじめ割り当てられたマスタストレージ、バックアップストレージおよびリザーブストレージに対する、VMのデータを管理する。かかる構成によれば、管理サーバ16は、移行可能なVMにそれぞれのストレージが割り当てられれば、VMのデータの冗長性を保証することができ、さらに、データの総容量を削減することが可能となる。
また、上記実施例によれば、管理サーバ16は、移行可能な複数のVMに対して、あらかじめ、マスタストレージ、バックアップストレージおよびリザーブストレージを割り当てる。かかる構成によれば、管理サーバ16は、VMのデータの冗長性を保証し、さらに、データの総容量を削減することが可能となる。
また、上記実施例によれば、管理サーバ16は、第1のDC1で運用中のVMのデータをマスタデータとしてDC1のマスタストレージに保持させる。そして、管理サーバ16は、マスタデータと等価のデータをバックアップデータとしてDC2のバックアップストレージに保持させる管理を行う。また、管理サーバ16は、DC2で運用中のVMに対して、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合に、バックアップストレージに保持されたバックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させる。そして、管理サーバ16は、更新データをマスタストレージおよびバックアップストレージと異なるリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ16は、マスタストレージからバックアップストレージにデータの格納先が切り替えられた場合でも、切り替えられた格納先に更新された更新データだけを差分データとして別のストレージに保持させる。この結果、管理サーバ16は、DC1、2、3のVMに対するデータの冗長性を保証しつつ、DC1、2、3のデータの総容量を削減できる。すなわち、管理サーバ16は、DC1、2、3の3個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
また、上記実施例によれば、管理サーバ16は、それぞれのDCの電力コストを算出する。管理サーバ16は、算出されたそれぞれの電力コストに基づいて、VMが運用中のDCの電力コストが、VMが移行された場合の移行先のVMの電力コストより高いか否かを判定する。そして、管理サーバ16は、判定の結果、VMが運用中のDCの電力コストが、VMが移行された場合の移行先のDCの電力コストより高いと判定された場合に、VMが運用中のDCから移行先のDCへVMのデータの格納先を切り替える。そして、管理サーバ16は、データの格納先が切り替えられた場合に、バックアップデータに対する更新データをバックアップデータと独立してバックアップストレージに保持させ、更新データをリザーブストレージに複製させる管理を行なう。かかる構成によれば、管理サーバ16は、それぞれのDCのうち電力コストの高くないDCへVMのデータの格納先を切り替えるので、全体の電力コストを削減できる。
[その他]
なお、実施例では、情報処理システム9は、複数のデータセンタを備え、複数のデータセンタは、それぞれA国、B国、C国に設置されているとして説明した。しかしながら、情報処理システム9は、これに限定されない。すなわち、複数のデータセンタは、同じ国に設置されているものとしても良く、それぞれ日照時間帯が異なる地域、すなわち同時点で電力コストが異なる地域に設置されていれば良い。
また、実施例では、管理部161は、DC間でのVMの移行に応じてデータの格納先が切り替えられる場合に、DC間でデータを管理する。すなわち、第1の管理部161bは、DC1で運用中のVMのデータをマスタデータとして、DC1のマスタ格納ボリューム101に更新する。そして、第1の管理部161bは、更新したデータをバックアップデータとして、当該VMに対する更新前のデータと等価のデータを有するDC2のバックアップ格納ボリューム202にリモートコピーする。そして、第2の管理部161dは、DC1のマスタ格納ボリューム101からDC2のバックアップ格納ボリューム202にデータの格納先が切り替えられた場合、DC1のVM運用設備15の運用を停止させ、DC1からDC2へVMを移行させる。そして、第2の管理部161dは、DC2のバックアップ格納ボリューム202に対する更新データを差分データとして、バックアップ格納ボリューム202の、バックアップデータと独立した領域に保持させる。そして、第2の管理部161dは、更新データをリザーブデータとして、DC3のリザーブ格納ボリューム303にリモートコピーさせる。しかしながら、管理部161は、これに限定されず、DC間でのVMの移行に応じなくても、所定の条件でデータの格納先が切り替えられる場合に、データを管理するとしても良い。すなわち、第1の管理部161bは、ホストからアクセスされたデータをマスタデータとして、ストレージ装置153のマスタ格納ボリューム101に更新する。そして、第1の管理部161bは、更新したデータをバックアップデータとして、更新前のデータと等価のデータを有する同じストレージ装置153のバックアップ格納ボリューム102にコピーする。そして、第2の管理部161dは、所定の条件でマスタ格納ボリューム101からバックアップ格納ボリューム102にデータの格納先が切り替えられた場合、バックアップ格納ボリューム102に対する更新データを差分データとして、バックアップ格納ボリューム102の、バックアップデータと独立した領域に保持させる。そして、第2の管理部161dは、更新データをリザーブデータとして、同じストレージ装置153のリザーブ格納ボリューム103にリモートコピーさせる。これにより、管理サーバ16は、データの冗長性を保証しつつ、データの総容量を削減することができる。すなわち、管理サーバ16は、3個のストレージに対して、同じ容量のデータを保持しなくても、データの冗長性を保証できる。
また、図示したデータセンタ1の各構成要素は、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、データセンタ1の分散・統合の具体的態様は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。例えば、第1の管理部161b、第2の管理部161dおよび第3の管理部161eを1個の管理部に統合しても良い。また、第2の管理部161dを、VMを移行させる移行管理部と、更新データをバックアップストレージに保持させる保持管理部と、更新データをリザーブストレージに複製させる複製管理部に分散しても良い。データセンタ2,3もデータセンタ1と同様である。
なお、実施例では、管理サーバ16が有する機能をソフトウェアによって実現することで、同様の機能を有する管理部161を得ることができる。そこで、以下では、図2Aに示した管理サーバ16と同様の機能を実現するDC管理プログラムを実行するコンピュータの一例を説明する。図12は、DC管理プログラムを実行する管理サーバの一例を示す図である。
図12に示すように、管理サーバ200は、各種演算処理を実行するCPU203と、ユーザからのデータの入力を受け付ける入力装置215と、表示装置209を制御する表示制御部207とを有する。また、管理サーバ200は、記憶媒体からプログラムなどを読取るドライブ装置213と、ネットワークを介してストレージ装置153や他のコンピュータとの間でデータの授受を行う通信制御部217とを有する。また、管理サーバ200は、各種情報を一時記憶するメモリ201と、HDD205を有する。そして、メモリ201、CPU203、HDD205、表示制御部207、ドライブ装置213、入力装置215、通信制御部217は、バス219で接続されている。
ドライブ装置213は、例えばリムーバブルディスク211などの可搬型記憶媒体用の装置である。HDD205は、DC管理プログラム205a、コピー制御プログラム205b、ハイパーバイザープログラム205cおよびDC管理関連情報205dを記憶する。
CPU203は、DC管理プログラム205a、コピー制御プログラム205bおよびハイパーバイザープログラム205cを読み出して、メモリ201に展開し、プロセスとして実行する。かかるプロセスは、管理部161の各機能部に対応する。DC管理関連情報205dは、ストレージステータステーブル164、DC電力ステータステーブル165およびDC基本電力量テーブル166に対応する。そして、例えばリムーバブルディスク211が、ストレージステータステーブル164などの各情報を記憶する。
なお、DC管理プログラム205a、コピー制御プログラム205bおよびハイパーバイザープログラム205cについては、必ずしも最初からHDD205に記憶させておかなくても良い。例えば、管理サーバ200に挿入されるフレキシブルディスク(FD)、CD−ROM、DVDディスク、光磁気ディスク、ICカードなどの「可搬用の物理媒体」に当該プログラムを記憶させておく。そして、管理サーバ200がこれらからDC管理プログラム205a、コピー制御プログラム205bおよびハイパーバイザープログラム205cを読み出して実行するようにしても良い。
以上の実施例を含む実施形態に関し、さらに以下の付記を開示する。
(付記1)第1のストレージと第2のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、
データをマスタデータとして前記第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージに保持させる管理を行なう第1の管理部と、
前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう第2の管理部と、
を備えることを特徴とするストレージ管理装置。
(付記2)前記第2のストレージから前記第1のストレージにデータの格納先が切り替えられた場合に、前記第3のストレージに複製された更新データを前記第1のストレージに複製させる管理を行なう第3の管理部
をさらに備えることを特徴とする付記1に記載のストレージ管理装置。
(付記3)前記データにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第1のストレージ、前記第2のストレージおよび前記第3のストレージを割り当てる割当部
をさらに備えることを特徴とする付記1または付記2に記載のストレージ管理装置。
(付記4)前記ストレージ管理装置は、第1のデータセンタと第2のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理し、
前記第1の管理部は、
前記第1のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第1のデータセンタの第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のデータセンタの第2のストレージに保持させる管理を行ない、
前記第2の管理部は、
前記第2のデータセンタで運用中の前記仮想マシンに対して、前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう
ことを特徴とする付記1または付記2に記載のストレージ管理装置。
(付記5)移行可能な複数の仮想マシンのデータにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第1のストレージ、前記第2のストレージおよび前記第3のストレージを割り当てる割当部
をさらに備えることを特徴とする付記4に記載のストレージ管理装置。
(付記6)それぞれのデータセンタの電力コストを算出する算出部と、
前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、をさらに備え、
前記第2の管理部は、
前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第3のストレージに複製させる管理を行なう
ことを特徴とする付記4または付記5に記載のストレージ管理装置。
(付記7)第1のデータセンタおよび第2のデータセンタを備える情報処理システムであって、
前記第1のデータセンタおよび前記第2のデータセンタのうちいずれか1つのデータセンタのストレージ管理装置であって、前記第1のデータセンタと前記第2のデータセンタ間で移行可能な仮想マシンのデータを格納する複数のストレージを管理するストレージ管理装置は、
前記第1のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第1のデータセンタの第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のデータセンタの第2のストレージに保持させる管理を行なう第1の管理部と、
前記第2のデータセンタで運用中の前記仮想マシンに対して、前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう第2の管理部と、
を備えることを特徴とする情報処理システム。
(付記8)第1のストレージと第2のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置に、
データをマスタデータとして前記第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージに保持させる管理を行ない、
前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう
処理を実行させることを特徴とするストレージ管理プログラム。
(付記9)第1のストレージと第2のストレージとの間でデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置が、
データをマスタデータとして前記第1のストレージに保持させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージに保持させる管理を行ない、
前記第1のストレージから前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに保持された前記バックアップデータに対する更新データを前記バックアップデータと独立して前記第2のストレージに保持させ、前記更新データを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理を行なう、
処理を実行することを特徴とするストレージ管理方法。
1,2,3 データセンタ
9 情報処理システム
11 太陽光発電パネル
12 インバータ
13 配電盤
14 電力量計
15 仮想マシン(VM)運用設備
151 ネットワークスイッチ
152 物理サーバ
152a サーバ仮想化プログラム(ハイパーバイザー)
153 ストレージ装置
153a ストレージコントローラ
101 マスタ格納ボリューム
102 バックアップ格納ボリューム
103 リザーブ格納ボリューム
154 仮想マシン(VM)
16 管理サーバ
161 管理部
161a 導入設定部
161b 第1の管理部
161c 電力コスト比較部
161d 第2の管理部
161e 第3の管理部
162 記憶部
164 ストレージステータステーブル
165 DC電力ステータステーブル
166 DC基本電力量テーブル

Claims (8)

  1. 第1のストレージと第2のストレージとの間で交互にデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置であって、
    前記データの格納先が前記第1のストレージである場合に、データをマスタデータとして前記第1のストレージに格納させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージの第1の記憶領域に格納させる管理を行なう第1の管理部と、
    前記データの格納先が前記第2のストレージであって、前記第2のストレージに格納された前記バックアップデータを更新する場合に、更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理とを行なう第2の管理部と、
    を備えることを特徴とするストレージ管理装置。
  2. 前記第2のストレージから前記第1のストレージに前記データの格納先が切り替えられた場合に、前記第3のストレージに複製された更新データを前記第1のストレージに複製させる管理を行なう第3の管理部
    をさらに備えることを特徴とする請求項1に記載のストレージ管理装置。
  3. 前記データにおける前記マスタデータの保存先、前記バックアップデータの保存先、前記更新データの保存先として、前記第1のストレージ、前記第2のストレージおよび前記第3のストレージを割り当てる割当部
    をさらに備えることを特徴とする請求項1または請求項2に記載のストレージ管理装置。
  4. 前記ストレージ管理装置は、第1のデータセンタと第2のデータセンタとの間で交互に移行可能な仮想マシンのデータを格納する複数のストレージを管理し、
    前記第1の管理部は、
    前記第1のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第1のデータセンタの第1のストレージに格納させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のデータセンタの第2のストレージの第1の記憶領域に格納させる管理を行ない、
    前記第2の管理部は、
    前記第2のデータセンタで運用中の前記仮想マシンに対して、前記第1のデータセンタの前記第1のストレージから前記第2のデータセンタの前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに格納された前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理とを行なう
    ことを特徴とする請求項1または請求項2に記載のストレージ管理装置。
  5. それぞれのデータセンタの電力コストを算出する算出部と、
    前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、をさらに備え、
    前記第2の管理部は、
    前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第3のストレージに複製させる管理とを行なう
    ことを特徴とする請求項4に記載のストレージ管理装置。
  6. 第1のデータセンタおよび第2のデータセンタを備える情報処理システムであって、
    前記第1のデータセンタおよび前記第2のデータセンタのうちいずれか1つのデータセンタのストレージ管理装置であって、前記第1のデータセンタと前記第2のデータセンタとの間で交互に移行可能な仮想マシンのデータを格納する複数のストレージを管理するストレージ管理装置は、
    前記第1のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第1のデータセンタの第1のストレージに格納させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のデータセンタの第2のストレージ第1の記憶領域に格納させる管理を行なう第1の管理部と、
    前記第2のデータセンタで運用中の前記仮想マシンに対して、前記第1のデータセンタの前記第1のストレージから前記第2のデータセンタの前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに格納された前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理とを行なう第2の管理部と、
    それぞれのデータセンタの電力コストを算出する算出部と、
    前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、を備え、
    前記第2の管理部は、
    前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第3のストレージに複製させる管理とを行なう
    ことを特徴とする情報処理システム。
  7. 第1のストレージと第2のストレージとの間で交互にデータの格納先が切り替えられるシステムにおける複数のストレージを管理するストレージ管理装置に、
    前記データの格納先が前記第1のストレージである場合に、データをマスタデータとして前記第1のストレージに格納させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のストレージの第1の記憶領域に格納させる管理を行ない、
    前記データの格納先が前記第2のストレージであって、前記第2のストレージに格納された前記バックアップデータを更新する場合に、更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理とを行なう
    処理を実行させることを特徴とするストレージ管理プログラム。
  8. 第1のデータセンタと第2のデータセンタとの間で交互に移行可能な仮想マシンのデータを格納する複数のストレージを管理するストレージ管理装置であって、
    前記第1のデータセンタで運用中の前記仮想マシンのデータをマスタデータとして前記第1のデータセンタの第1のストレージに格納させ、前記マスタデータと等価のデータをバックアップデータとして前記第2のデータセンタの第2のストレージの第1の記憶領域に格納させる管理を行なう第1の管理部と、
    前記第2のデータセンタで運用中の前記仮想マシンに対して、前記第1のデータセンタの前記第1のストレージから前記第2のデータセンタの前記第2のストレージにデータの格納先が切り替えられた場合に、前記第2のストレージに格納された前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第1のストレージおよび前記第2のストレージと異なる第3のストレージに複製させる管理とを行なう第2の管理部と、
    それぞれのデータセンタの電力コストを算出する算出部と、
    前記算出部によって算出されたそれぞれの電力コストに基づいて、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いか否かを判定する判定部と、を備え、
    前記第2の管理部は、
    前記判定部による判定の結果、前記仮想マシンが運用中のデータセンタの電力コストが、前記仮想マシンが移行された場合の移行先のデータセンタの電力コストより高いと判定された場合に、前記仮想マシンが運用中のデータセンタから前記移行先のデータセンタへ前記仮想マシンのデータの格納先を切り替え、データの格納先が切り替えられた場合に、前記バックアップデータを更新する更新データを、前記バックアップデータを格納する前記第1の記憶領域と独立した前記第2のストレージの第2の記憶領域に格納させる管理と、前記第2の記憶領域に格納された更新データのみを前記第3のストレージに複製させる管理とを行なう
    ことを特徴とするストレージ管理装置。
JP2013215112A 2013-10-15 2013-10-15 ストレージ管理装置、情報処理システムおよびストレージ管理プログラム Expired - Fee Related JP6217302B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2013215112A JP6217302B2 (ja) 2013-10-15 2013-10-15 ストレージ管理装置、情報処理システムおよびストレージ管理プログラム
US14/477,185 US20150106581A1 (en) 2013-10-15 2014-09-04 Storage management device, information processing system, storage management method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013215112A JP6217302B2 (ja) 2013-10-15 2013-10-15 ストレージ管理装置、情報処理システムおよびストレージ管理プログラム

Publications (2)

Publication Number Publication Date
JP2015079311A JP2015079311A (ja) 2015-04-23
JP6217302B2 true JP6217302B2 (ja) 2017-10-25

Family

ID=52810663

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013215112A Expired - Fee Related JP6217302B2 (ja) 2013-10-15 2013-10-15 ストレージ管理装置、情報処理システムおよびストレージ管理プログラム

Country Status (2)

Country Link
US (1) US20150106581A1 (ja)
JP (1) JP6217302B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10721125B2 (en) * 2017-07-20 2020-07-21 Vmware, Inc. Systems and methods for update propagation between nodes in a distributed system

Family Cites Families (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6442585B1 (en) * 1997-11-26 2002-08-27 Compaq Computer Corporation Method for scheduling contexts based on statistics of memory system interactions in a computer system
JP4021823B2 (ja) * 2003-09-01 2007-12-12 株式会社日立製作所 リモートコピーシステム及びリモートコピーの方法
US7120769B2 (en) * 2004-03-08 2006-10-10 Hitachi, Ltd. Point in time remote copy for multiple sites
US7395265B2 (en) * 2004-08-27 2008-07-01 Hitachi, Ltd. Data processing system and storage subsystem provided in data processing system
JP2006072789A (ja) * 2004-09-03 2006-03-16 Hitachi Ltd ストレージシステム及びストレージシステムのデータ管理装置
US7603581B2 (en) * 2006-03-17 2009-10-13 International Business Machines Corporation Remote copying of updates to primary and secondary storage locations subject to a copy relationship
JP2007293442A (ja) * 2006-04-21 2007-11-08 Hitachi Ltd ストレージシステム及びその制御方法
US20080109804A1 (en) * 2006-11-06 2008-05-08 Richard Welcher Bloomstein Additional uses of virtualization for disaster recovery and prevention
US7873805B2 (en) * 2007-02-23 2011-01-18 Lewis, Rice & Fingersh, L.C. Data recovery systems and methods
JP2008276626A (ja) * 2007-05-02 2008-11-13 Hitachi Ltd 記憶制御装置及び記憶制御装置の制御方法
JP4481338B2 (ja) * 2008-03-28 2010-06-16 株式会社日立製作所 バックアップシステム、ストレージ装置及びデータのバックアップ方法
US8135921B2 (en) * 2008-06-06 2012-03-13 International Business Machines Corporation Automated paging device management in a shared memory partition data processing system
JP2008262600A (ja) * 2008-07-17 2008-10-30 Hitachi Ltd ストレージシステムの制御方法、ストレージシステム、及びストレージ装置
US8155766B2 (en) * 2008-11-03 2012-04-10 Hitachi, Ltd. Methods and apparatus to provision power-saving storage system
WO2011024221A1 (en) * 2009-08-26 2011-03-03 Hitachi,Ltd. Remote copy system
US8856794B2 (en) * 2009-10-13 2014-10-07 Empire Technology Development Llc Multicore runtime management using process affinity graphs
US20110270945A1 (en) * 2010-04-30 2011-11-03 Hitachi, Ltd. Computer system and control method for the same
US8639976B2 (en) * 2011-02-15 2014-01-28 Coraid, Inc. Power failure management in components of storage area network
US8719264B2 (en) * 2011-03-31 2014-05-06 Commvault Systems, Inc. Creating secondary copies of data based on searches for content
US8788877B2 (en) * 2011-08-03 2014-07-22 International Business Machines Corporation Acquiring a storage system into copy services management software
CN104011683B (zh) * 2012-01-10 2017-07-07 富士通株式会社 虚拟机管理方法以及虚拟机管理装置
US9037818B1 (en) * 2012-03-29 2015-05-19 Emc Corporation Active replication switch
US9483361B2 (en) * 2013-05-08 2016-11-01 Commvault Systems, Inc. Information management cell with failover management capability
US9882980B2 (en) * 2013-10-22 2018-01-30 International Business Machines Corporation Managing continuous priority workload availability and general workload availability between sites at unlimited distances for products and services
US9274907B1 (en) * 2013-12-19 2016-03-01 Emc Corporation Decommissioning of virtual backup appliances

Also Published As

Publication number Publication date
JP2015079311A (ja) 2015-04-23
US20150106581A1 (en) 2015-04-16

Similar Documents

Publication Publication Date Title
CN101727331B (zh) 升级活动虚拟机的客户操作系统的方法和设备
EP2306320B1 (en) Server image migration
JP4890048B2 (ja) 記憶制御装置及び記憶制御装置を用いたデータマイグレーション方法
US8074090B2 (en) Storage system including plurality of storage apparatuses
US10838829B2 (en) Method and apparatus for loading data from a mirror server and a non-transitory computer readable storage medium
US9003149B2 (en) Transparent file system migration to a new physical location
JP5691390B2 (ja) 電源装置およびプログラム
US20110066879A1 (en) Virtual machine system, restarting method of virtual machine and system
Wang et al. Replication-based fault-tolerance for large-scale graph processing
US20120260051A1 (en) Computer system, management system and data management method
JP2007334709A (ja) ストレージ制御装置、ストレージ制御プログラム、ストレージ制御方法
JP2014519061A (ja) 計算機システム及びそのデータ移行方法
CN109947536A (zh) 一种基于Kubernetes的PostgreSQL自动化部署方法
WO2011158300A1 (ja) 計算機システムおよびその更改方法
JP2011170528A (ja) 分散型情報処理システム及び分散ストレージシステム
Chen et al. Replication-based fault-tolerance for large-scale graph processing
JP6217302B2 (ja) ストレージ管理装置、情報処理システムおよびストレージ管理プログラム
CN103389909B (zh) 一种渲染农场节点虚拟化部署系统及其应用
JP2011248742A (ja) ストレージ管理システム、及び管理計算機、並びにプログラム
CN110221868B (zh) 主机系统的部署方法、装置、电子设备及存储介质
US11256717B2 (en) Storage of key-value entries in a distributed storage system
US10846012B2 (en) Storage system for minimizing required storage capacity during remote volume replication pair duplication
JP2022169072A (ja) ストレージシステム、ストレージノード仮想計算機復旧方法、及び復旧プログラム
CN112685130A (zh) 分布式存储环境下的虚拟机备份方法、装置和存储介质
JP4750169B2 (ja) ストレージ制御装置、ストレージ制御プログラム、ストレージ制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20170315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170725

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170815

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170829

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170911

R150 Certificate of patent or registration of utility model

Ref document number: 6217302

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees