JP4958883B2 - 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム - Google Patents

管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム Download PDF

Info

Publication number
JP4958883B2
JP4958883B2 JP2008277601A JP2008277601A JP4958883B2 JP 4958883 B2 JP4958883 B2 JP 4958883B2 JP 2008277601 A JP2008277601 A JP 2008277601A JP 2008277601 A JP2008277601 A JP 2008277601A JP 4958883 B2 JP4958883 B2 JP 4958883B2
Authority
JP
Japan
Prior art keywords
storage devices
management server
storage
server device
amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008277601A
Other languages
English (en)
Other versions
JP2010108115A (ja
Inventor
真一 林
雄一 田口
勝美 大内
陽子 志賀
猛 加藤
潤 沖津
忠克 中島
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2008277601A priority Critical patent/JP4958883B2/ja
Priority to US12/361,816 priority patent/US8429434B2/en
Publication of JP2010108115A publication Critical patent/JP2010108115A/ja
Priority to US13/471,607 priority patent/US8397089B2/en
Application granted granted Critical
Publication of JP4958883B2 publication Critical patent/JP4958883B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/20Cooling means
    • G06F1/206Cooling means comprising thermal management
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3215Monitoring of peripheral devices
    • G06F1/3221Monitoring of peripheral devices of disk drive devices
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3234Power saving characterised by the action undertaken
    • G06F1/325Power saving in peripheral device
    • G06F1/3268Power saving in hard disk drive
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0625Power saving in storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0646Horizontal data movement in storage systems, i.e. moving data in between storage devices or systems
    • G06F3/0647Migration mechanisms
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5011Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resources being hardware resources other than CPUs, Servers and Terminals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/50Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5094Allocation of resources, e.g. of the central processing unit [CPU] where the allocation takes into account power or heat criteria
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K7/00Constructional details common to different types of electric apparatus
    • H05K7/20Modifications to facilitate cooling, ventilating, or heating
    • H05K7/20709Modifications to facilitate cooling, ventilating, or heating for server racks or cabinets; for data centers, e.g. 19-inch computer racks
    • H05K7/20836Thermal management, e.g. server temperature control
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2206/00Indexing scheme related to dedicated interfaces for computers
    • G06F2206/10Indexing scheme related to storage interfaces for computers, indexing schema related to group G06F3/06
    • G06F2206/1012Load balancing
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Thermal Sciences (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Air Conditioning Control Device (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Power Sources (AREA)

Description

本発明は、ストレージ装置及び空調装置に対する管理サーバ装置よる制御方法であって特に、消費電力削減(省電力)のための制御を目的とする制御方法に関する。
近年、情報通信技術の急速な発展により情報処理装置および処理されるデータ量が爆発的に増加すると予想されている。また、代表的な情報処理装置であるサーバの高性能化による発熱量の増加およびサーバの高集積化に伴い、データセンタにおける消費電力の増大および発熱量の増大が問題になっている。さらに、二酸化炭素排出量が増大することから地球温暖化も問題になっている。
特許文献1には、複数のコンピュータを管理するシステムにおいて、複数のコンピュータの稼働状況と温度分布に基づいて、過熱コンピュータと非過熱コンピュータを抽出し、過熱コンピュータで動作しているソフトウェアを非過熱コンピュータで動作させることにより消費電力を削減する技術が開示されている。さらに特許文献1には、抽出した過熱コンピュータで動作しているソフトウェアを非過熱コンピュータで動作させたときのコンピュータと空調装置の消費電力を比較して過熱コンピュータで動作しているソフトウェアを非過熱コンピュータで動作させるか判断する技術が開示されている。
特開2007−179437
情報処理基盤を担うデータセンタでは高性能・高集積サーバが集約されているため、給電設備、および、空調装置の消費電力も大きな問題となってきており、情報処理装置と設備を合わせた消費電力の削減が大きな課題となっている。
データセンタの省電力化に向けて情報処理装置および設備の省電力化の取り組みは始まっており、サーバ装置、ストレージ装置、ネットワーク装置、給電設備、空調装置自体の省電力化がそれぞれ進められている。さらに省電力化を進めるために、情報処理装置と空調装置とが連携し、データセンタ全体の消費電力を削減することが必要である。
特許文献1によると、過熱コンピュータで動作しているソフトウェアを非過熱コンピュータで動作させているが、これにより必ずしもデータセンタ全体で消費される消費電力を削減できるとは限らない。
例えば、データセンタにおいては、複数台のサーバを複数台の空調装置により冷却している。したがって、複数台設置された空調装置と複数台設置されたサーバ装置との位置関係を考慮せずに、単に過熱したサーバ装置から非過熱のサーバ装置へ処理を移し、均等に処理を分散させるだけで、空調装置の冷却効率を改善できるとは限らない。また、サーバ装置においても特定のコンピュータにソフトウェアの動作を集中させ、ソフトウェアを動作させる必要がなくなったコンピュータの電源を切った方が消費電力を削減できることがある。
さらに、データセンタにおいて使用される情報処理装置は、サーバ装置だけではなく、ストレージ装置もある。しかし、特許文献1には、ストレージ装置と空調装置との関係で、両者の消費電力を削減することは開示されていない。
本発明では、上記課題を解決するための、管理サーバ装置による制御方法は、管理サーバに接続され論理ボリュームを提供し複数のRAIDグループを構成する複数の記憶装置を含む複数のストレージ装置と、前記管理サーバ装置に接続される空調装置とを有するストレージシステムの前記管理サーバ装置による制御方法であって、前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出し、前記複数の組み合わせのそれぞれに対し、前記複数のストレージ装置に含まれるストレージ装置ごとの発熱量を算出し、前記複数の組み合わせのそれぞれに対し、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報とをもとに、前記発熱量の前記空調装置への分配率を算出し、前記発熱量と前記分配率より前記空調装置に伝わる熱量を算出し、前記複数の組み合わせのそれぞれに対し、前記空調装置に伝わる前記熱量を冷却するための前記空調装置の消費電力を算出し、前記空調装置の前記消費電力をもとに、前記複数の組み合わせに含まれる組み合わせを選択し、前記選択された組み合わせをもとに、前記複数のストレージ装置に対して、稼動量を増やす第1のストレージ装置に格納されたデータを、稼動量を減らす第2のストレージ装置へ移動する移動指示を出す、ことを特徴とする前記管理サーバ装置による制御方法である。
本発明により、空調装置の消費電力及びストレージ装置の消費電力を削減することができる。
以下、図を用いて本発明の一実施例を説明する。
図1は、本実施例におけるシステム構成を示す図である。本システムは空調装置101、ストレージエリアネットワーク102、管理サーバ装置103、管理用ネットワーク104、業務サーバ装置105、ストレージ装置106から構成される。空調装置101、管理サーバ装置103、業務サーバ装置105、ストレージ装置106は、管理用ネットワーク104を介して接続する。業務サーバ装置105、ストレージ装置106は、ストレージエリアネットワーク102を介して接続される。管理用ネットワーク104は、例えば、イーサネット(登録商標)などである。そして、管理用ネットワーク104は、管理サーバ装置により各装置を管理する際に利用される。例えば、管理サーバ装置103が管理用ネットワーク104を介して、ストレージ装置106から様々な情報を取得することができる。ストレージエリアネットワーク102は、例えば、ファイバチャネルなどである。そして、ストレージエリアネットワーク102は、例えば、業務サーバ装置105が業務処理に必要な情報をストレージ装置106から読み出し、ストレージ装置106に書き込むために利用される。
図2は、本実施例におけるデータセンタ201を上方より観察した場合の各装置配置図の一例である。本実施例におけるデータセンタでは、図2に示すように、空調装置101、温度センサ203、ラック202がデータセンタ201に配置される。ラック202の詳細については、図3を用いて説明する。本実施例におけるデータセンタでは、温度センサ203が、各空調装置101及びラック202の間に配置されている。ただし、温度センサ203の配置される場所は、これに限定されるものではない。
図3は、本実施形態におけるラック202を横から観察した場合の装置配置図の一例である。図3に示すようにラック202aには、上方より、業務サーバ装置(1)105、業務サーバ装置(2)105、ストレージ装置(1)106、ストレージ装置(2)106が配置され、各装置の間に温度センサ203が配置される。ラック202bには、上方より、業務サーバ装置(3)105、業務サーバ装置(4)105、ストレージ装置(3)106、ストレージ装置(4)106が配置され、各装置の間に温度センサ203が配置される。ラック202cには、上方より、業務サーバ装置(5)105、業務サーバ装置(6)105、ストレージ装置(5)106、ストレージ装置(6)106が配置され、各装置の間に温度センサ203が配置される。ただし、各ラックに搭載される業務サーバ装置105とストレージ装置106の数及び、配置される場所についてはこれに限定されるものではない。そして、温度センサの数や配置される場所もこれに限定されるものではない。
図4は、本実施例における図1の管理サーバ装置103の構成の一例を詳細に示す図である。管理サーバ装置103は、中央処理装置401、記憶装置402、接続装置403、バス404、主記憶装置405により構成される。そして、中央処理装置401、記憶装置402、接続装置403、主記憶装置405はそれぞれバス404を介して接続する。管理サーバ103は、接続装置403を介して管理用ネットワーク104に接続する。
そして、主記憶装置405には、制約条件作成プログラム406、熱分布最適化プログラム407、稼動量分布最適化プログラム408、論理ボリューム配置最適化プログラム409、論理ボリューム移動プログラム410、空調装置設定変更プログラム411、稼動履歴取得プログラム412、構成情報413、稼動履歴情報414、稼動量割り当て移動案情報415、論理ボリューム移動案情報416、制約条件情報417、熱量配分率情報418、空調冷却能力情報419が格納される。主記憶装置405内の各プログラムは、中央処理装置401により読み出され、実行される。
また、記憶装置402は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)などであり、主記憶装置405内の機能および情報を記憶し、管理サーバ装置103が起動するときに主記憶装置405にコピーする。
接続装置403は、管理用ネットワーク104を介して受信した情報を主記憶装置405に書き込み、主記憶装置405から読み込んだ情報を、管理用ネットワーク104を介して送信する。
図5は、本実施例における図1の業務サーバ装置105の構成の一例を詳細に示す図である。業務サーバ装置105は、中央処理装置501、記憶装置502、接続装置a 503、バス504、主記憶装置505、温度センサ510、接続装置b 511から構成される。そして、中央処理装置501、記憶装置502、接続装置a 503、主記憶装置505、温度センサ510、接続装置b 511は、それぞれバス504を介して接続する。さらに、業務サーバ装置105は、接続装置a 503を介して管理用ネットワーク104に接続する。業務サーバ装置105は、接続装置b 511を介してストレージエリアネットワーク102に接続する。
主記憶装置505には、業務処理プログラム506、仮想サーバ制御プログラム507、仮想サーバ508が記憶される。中央処理装置501は、主記憶装置505内のプログラムを実行する。
記憶装置502は、例えば、HDDやSSDなどであり、主記憶装置505内のプログラムおよび情報を記憶し、業務サーバ装置105が起動するときに主記憶装置505にコピーする。
接続装置a 503は、管理用ネットワーク104を介して受信した情報を主記憶装置505に書き込み、主記憶装置505から読み込んだ情報を、管理用ネットワーク104を介して送信する。
接続装置b 511は、ストレージエリアネットワーク102を介して受信した情報を主記憶装置505に書き込み、主記憶装置505から読み込んだ情報を、ストレージエリアネットワーク102を介して送信する。
温度センサ510は、業務サーバ装置105内の温度を計測するセンサである。
業務処理プログラム506は、例えば給与計算などであり、業務サーバ105が業務サーバ105の利用者へ提供するサービスの処理を実行する。
仮想サーバ制御プログラム507は、仮想サーバ507を起動、停止、作成、および、削除など、仮想サーバ507を制御する機能である。
仮想サーバ508は、サーバ装置内の構成を仮想的に作り出す機能であり、仮想サーバ508内で業務処理プログラム509を動作させる。業務処理プログラム509は、業務処理プログラム506と同等の機能を有する。
主記憶装置505上に業務処理プログラム506があれば、仮想サーバ制御プログラム507、仮想サーバ508、および、業務処理プログラム509はなくてもよい。逆に、主記憶装置505上に仮想サーバ制御プログラム507、仮想サーバ508、および、業務処理プログラム509があれば、業務処理プログラム506はなくてもよい。
図6は、本実施例における図1のストレージ装置106の構成の一例を詳細に示す図である。ストレージ装置106は、中央処理装置601、主記憶装置602、接続装置a 604、バス605、温度センサ606、接続装置c 607、接続装置b 609、記憶装置608から構成される。そして、中央処理装置601、主記憶装置602、接続装置a 604、温度センサ606、接続装置c 607、接続装置b 609は、バス605を介して接続する。バス605と、記憶装置608とは、接続装置c 606を介して接続する。また、ストレージ装置106は、接続装置a 604を介して管理用ネットワーク104と接続する。ストレージ装置106は、接続装置b 609を介してストレージエリアネットワーク102と接続する。
主記憶装置602には、論理ボリューム移動プログラム603が格納される。そして、主記憶装置602内のプログラムは、中央処理装置601により実行される。
記憶装置608は、例えば、HDDやSSDなどであり、主記憶装置602内のプログラムおよび情報を記憶し、ストレージ装置106が起動するときに主記憶装置602にコピーする。
接続装置bは、業務サーバ装置105からの命令を受信し、それに従い記憶装置601に情報を書き込み、または、記憶装置601から情報を読み込み、結果を業務サーバ105に送信する。
論理ボリューム移動プログラム603は、記憶装置601内の論理ボリュームに格納されるデータを他のストレージ装置106に移動する機能である。具体的には、移動先のストレージ装置106内のRGに作成された論理ボリュームに、移動元のストレージ装置106内の論理ボリューム内のデータをコピーする機能を有する。そして、移動元のストレージ装置106内の論理ボリュームを削除する機能である。
図7のテーブル701は、本実施例の図4の構成情報413の一部であり、空調装置、温度センサ、各ラックの位置情報を示す図である。位置情報はこれに限られるものではない。各ラックに含まれるストレージ装置、業務サーバ装置ごとに位置情報を示してもよい。具体的には、データセンタ201内の空調装置101、温度センサ203、および、ラック202の配置位置と寸法の情報である。装置名称702は空調装置101、温度センサ203、および、ラック202の名称を示す。X座標703、Y座標704、および、Z座標705は、それぞれデータセンタ201内の各装置の配置位置を示す。幅706、奥行き707、および、高さ708は、それぞれ各装置の寸法を示す。ただし、温度センサは温度を計測する位置が分かればよいため寸法はなくてもよい。
図8のテーブル801は、本実施例の図4の構成情報413の一部であり、ストレージ装置106および業務サーバ装置105と各装置を搭載するラック202および所有者との関係を示す情報である。装置名称802は、ストレージ装置106およびサーバ装置105の名称を示す。ラック名称803は、各装置が搭載されているラック202の名称を示す。所有者804は、各装置の所有者を示す。発熱量関数805は、稼動量がxであるときの発熱量を計算する関数の式である。各ストレージ装置は、FC(Fiber Chanel)のインターフェースを備えるHard Disk Drive(HDD)、SATA(Serial Advanced Technology Attachment)のインターフェースを備えるHDD、Flash Memory (FM)などの記憶装置により、構成されている。そして、FCのインターフェースを備えるHDDや、SATAのインターフェースを備えるHDDや、FMなどの記憶装置の種別に応じて、稼動量に対する発熱量は異なる。それぞれの関数は、各ストレージ装置が備える上記記憶装置の種別に応じて、決定されてもよいし、ストレージ装置ごとに事前に測定して求めてもよい。本実施例には、発熱量関数を簡単のため1次関数としているが、これに限定されるものではない。また、本実施例では、関数を用いて、各ストレージ装置の稼動量に対する発熱量を計算しているが、これに限定されるものではなく、テーブルなどを用いて求めてもよい。このように、ストレージ装置や業務サーバ装置ごとに稼動量に対する発熱量を算出することによって、より正確に各ストレージ装置の発熱量を算出することができる。
図9のテーブル901は、本実施例における図4の構成情報413の一部であり、記憶装置608が搭載されているストレージ装置106と、記憶装置608が所属しているRG(RAID(Redundant Arrays of Inexpensive Disks) Group)の情報である。RAIDとは、複数台の記憶装置をまとめて1台の記憶装置として管理する技術である。RAIDを構成することにより、RAIDを構成している複数台の記憶装置に分散してデータを書き込むことができ、データの読み書きの速度が向上することがある。また、データの書き込み時にデータを復旧するための誤り訂正情報を、RAIDを構成する記憶装置に書き込むため、RAIDを構成する記憶装置の一部が故障した場合においてもデータを復旧することができる。RGとは、RAIDを構成している記憶装置の集まりのことを示す。
記憶装置名称902は、記憶装置608の名称である。ストレージ装置名称903は、記憶装置608が搭載されているストレージ装置106の名称を示す。RG名称904は、記憶装置が所属するRGの名称を示す。電源状態905は、記憶装置の電源状態を示す。電源が入っている場合は「入」であり、電源が切れている場合は「切」である。
図10のテーブル1001は、本実施例における図4の構成情報413の一部であり、論理ボリュームが配置されているRG名称と、論理ボリュームの容量と、論理ボリュームの移動可能性の情報である。論理ボリュームとは、1つのRGに複数台の業務サーバ装置105からアクセスできるようにRGを分割したものである。1つの論理ボリュームにアクセスできる業務サーバ装置105は1台のみとしてもよい。論理ボリューム名称1002は、論理ボリュームの名称を示す。RG名称1003は、論理ボリュームが配置されているRGの名称を示す。容量1004は、論理ボリュームの容量を示す。移動可能性1005は、論理ボリューム内のデータを他の論理ボリュームに移動できるか否かを示す。「移動可能」の場合には、論理ボリューム内のデータを他の論理ボリュームに移動することができ、「移動不可能」の場合には、論理ボリューム内のデータを他の論理ボリュームに移動することができない。また、「移動可能」の場合には、該論理ボリュームへ、他の論理ボリュームから移動されたデータを書き込むことができる。接続元1006は、論理ボリュームへアクセスするサーバ装置を示す。バックアップ先1007は、論理ボリューム内のデータをバックアップするためのバックアップ先論理ボリュームを示す。バックアップ先論理ボリュームは、バックアップ元論理ボリュームの情報を復元するためにバックアップ元論理ボリュームのデータを保存しておくための論理ボリュームである。具体的には、論理ボリューム名称1002に示す論理ボリューム内のデータをバックアップ先1007に示す論理ボリュームにコピーする。そして、論理ボリューム名称1002に示す論理ボリュームを構成するRGまたは記憶装置が故障して交換した場合や、論理ボリューム名称1002に示す論理ボリュームに誤ったデータを書き込んだ場合に、バックアップ先1007に示す論理ボリュームから論理ボリューム名称1002に示す論理ボリュームにコピーすることによりデータを復元する。
図11のテーブル1101は、本実施例における図4の構成情報413の一部であり、RGの情報である。RG名称1102は、RGの名称を示す。RAIDレベル1103は、RGのRAIDレベルを示す。ディスク数1104は、RGを構成するディスク数を示す。ディスク種別1105は、RGを構成するディスクの種別を示す。消費電力1106は、RGを構成するディスクの消費電力を示す。論理ボリューム数1107は、RGに配置された論理ボリューム数を示す。空き容量1108は、RGの空き容量を示す。限界稼動量1109は、RGの限界稼動量を示す。RGの限界稼動量とは、RGの通常の性能を維持できる限界の稼動量のことである。限界稼動量を超えてRGに対して命令すると、命令に対する応答時間が限界稼動量を超えていないときに比べて長くなる。限界稼動量1109の単位は1秒当たりのRGへのアクセス数である。上限稼動量1110は、RGの上限稼動量を示す。上限稼動量1110の単位は1秒当たりのRGへのアクセス数である。限界稼動量1109に示す限界稼動量に達するまでRGが稼動すると、突発的に生じた命令により限界稼動量を超えてしまうことがあるため、上限稼動量1110に示す上限稼動量を上限として稼動する。本実施例においては、RG毎に限界稼動量及び上限稼動量を設定しているが、ストレージ装置ごとに限界稼動量及び上限稼動量を設定してもよい。
図12のテーブル1201は、本実施例における図4の稼動履歴情報414の一部であり、業務サーバ装置の稼動履歴の情報である。装置名称1202は業務サーバ装置の名称を示す。業務サーバ装置は、物理的な業務サーバ装置であってもよいし、仮想的な業務サーバ装置であってもよい。稼動量履歴1203は、業務サーバ装置の稼動量履歴を示し、具体的には中央処理装置の使用率である。中央処理装置の使用率の単位は%である。稼動量履歴1203に示す稼動量は、例えば、1日の平均稼動量でもよいし、ある時点での瞬間稼動量でもよい。
図13のテーブル1301は、本実施例における図4の稼動履歴情報414の一部であり、RGの稼動履歴の情報である。RG名称1302はRGの名称を示す。稼動量履歴1303はRGの稼動量履歴を示す。稼動量履歴1303の単位は1秒当たりのRGへのアクセス数である。稼動量履歴1303に示す稼動量は、例えば、1日の平均稼動量でもよいし、ある時点の瞬間稼動量でもよい。
図14のテーブル1401は、本実施例における図4の稼動履歴情報414の一部であり、論理ボリュームの稼動履歴の情報である。論理ボリューム名称1402は論理ボリュームの名称を示す。稼動量履歴1403はRGの稼動量履歴を示す。稼動量履歴1403の単位は1秒当たりの論理ボリュームへのアクセス数である。稼動量履歴1403に示す稼動量は、例えば、1日の平均稼動量でもよいし、ある時点の瞬間稼動量でもよい。
図15のテーブル1501は、本実施例における図4の稼動履歴414の一部であり、ストレージ装置の稼動履歴の情報である。装置名称1502はストレージ装置の名称を示す。稼動量履歴1503は、ストレージ装置の稼動量履歴を示し、単位は1秒当たりのストレージ装置へのアクセス数である。稼動量履歴1503に示す稼動量は、例えば、1日の平均稼動量でもよいし、ある時点の瞬間稼動量でもよい。
図16のテーブル1601は、本実施例における図4の構成情報413の一部であり、ストレージ装置106間の接続情報である。ストレージ装置名称1602及びストレージ装置名称1603はそれぞれストレージ装置の名称を示す。同一行の2つのストレージ装置は、ストレージエリアネットワーク102を介して接続され、互いに通信可能であることを示す。
図17のテーブル1701は、本実施例における図4の構成情報413の一部であり、サーバ装置およびストレージ装置間の接続情報である。サーバ装置名称1702はサーバ装置105の名称を示す。ストレージ装置名称1703はストレージ装置106の名称を示す。同一行のサーバ装置とストレージ装置はストレージエリアネットワーク102を介して接続されていることを示す。つまり、サーバ装置はストレージ装置にアクセスできることを示す。
図18のテーブル1801は、本実施例における図4の稼動量割り当て移動案情報415である。ストレージ装置名称1802は、ストレージ装置106の名称を示す。稼動量増減1803は、ストレージ装置の稼動量の増減量を示す。稼動量増減1803の単位は1秒当たりのアクセス数である。稼動量増減1803の単位は1秒当たりのアクセス数であるが、1秒当たりのストレージ筐体へのアクセス時間などストレージ筐体の稼動量を示すものであればよい。
図19のテーブル1901は、本実施例における論理ボリュームデータ移動案情報416である。論理ボリューム名称1902は、論理ボリュームの名称を示す。移動元RG 1903は、論理ボリュームの移動元RGを示す。移動先RG 1904は、論理ボリューム内のデータの移動先RGを示す。同一行の移動元RGから移動先RGに論理ボリューム内のデータを移動する案であることを示す。本実施例においては、論理ボリューム単位で論理ボリューム内のデータを移動する案を作成するが、RG単位で作成してもよい。
図20のテーブル2001は、制約条件情報417である。ストレージ装置名称2002は、ストレージ装置106の名称を示す。稼動量増減2003は、制約条件の稼動量の増減量を示す。移動可能性2004は、ストレージ装置から稼動量を移動できるか移動できないかを示す。
図21は、本実施例におけるデータセンタ201全体での消費電力を削減するために、管理サーバ装置103が、ストレージ装置の論理ボリューム内のデータ移動先を決定し、論理ボリューム内のデータを移動する処理の流れを示す。
処理2101では、管理サーバ装置103の中央処理装置401が主記憶装置に記憶された稼動履歴取得プログラム412を実行し、稼動履歴を取得する。具体的には、ストレージ装置106から稼動量履歴を取得し、RG毎の稼動量をテーブル1301(図13)の稼動量履歴1303に記録する。また、論理ボリューム毎の稼動量をテーブル1401(図14)の稼動量履歴1403に記録する。そして、ストレージ装置毎の稼動量を、該ストレージ装置に所属するRGの稼動量を加算して算出する。算出結果を、テーブル1501(図15)の稼動量履歴1503に記録する。ストレージ装置をまたがってRGを構成している場合は、記憶装置608および記憶装置701の数の割合に応じて稼動量を分割して加算し、ストレージ装置の稼動量を算出する。例えば、テーブル901において、RG1はストレージ装置1およびストレージ装置2にまたがっており、記憶装置の数はそれぞれ2台ずつであるため、RG1の稼動量を2等分した値をそれぞれのストレージ装置の稼動量に加算する。RG1の稼動量が900であるため、ストレージ装置1およびストレージ装置2に加算される稼動量はそれぞれ450ずつとなる。
また、業務サーバ装置105から稼動量履歴を取得し、テーブル1201(図12)の稼動量履歴1203に記録する。なお、ストレージ装置ごとに稼動量履歴を取得してもよい。
判断2102では、処理2101で取得した稼動量が上限稼動量1110に示す上限稼動量を超えていないかRG毎に判断する。上限稼動量を超えているRGがあれば処理2103に進み、そうでなければ処理2104に進む。例えば、テーブル1101(図11)およびテーブル1301(図13)によるとRG3の上限稼動量が1400であるのに対して、稼動量履歴が1600であり上限稼動量を超えているため、処理2103に進む。
処理2103は、中央処理装置401が制約条件作成プログラム406を実行することにより、制約条件情報2001を作成する。判断2102において上限稼動量が超えていると判断された各RGについて、稼動量履歴1503の稼動量から上限稼動量1110に示す上限稼動量を引いた稼動量を減らすように移動量増減2003に追加する。このときに、移動可能性2004の移動可能性はすべて移動可能としておく。例えば、テーブル1101およびテーブル1301によるとRG3の稼動量履歴が上限稼動量を200超えているため、ストレージ装置5およびストレージ装置6の稼動量を100ずつ減らすようにテーブル2001に記録し、処理2104に進む。
処理2104では、稼動量の割り当ての最適化(好適化)計算を行う。処理2104の詳細を図23の処理2301から処理2310に示す。処理2104は、中央処理装置401が稼動量最適化プログラムを実行することにより、処理される。
処理2301では、実行を開始し、処理2302では、複数のストレージ装置の稼動量の割り当ての組み合わせ及び業務サーバ装置の稼動量の割り当ての組み合わせを算出する。稼動量の割り当ての組み合わせが非常に多く、実時間内ですべて算出することができない場合には、各ストレージ装置や各業務サーバ装置に離散的に稼動量を割り当てることが好ましい。また、近似解法として局所探索法などのアルゴリズムにより一部の組み合わせを算出することが好ましい。そして、好ましくは、制約条件2001を満たさない組み合わせについては、除くようにする。図20の制約条件の場合には、ストレージ装置5とストレージ装置6の稼動量を100以上減らす組み合わせを選択する。
処理2303では、処理2302で算出した稼動量の割り当ての組み合わせの中から1つの組み合わせを選択する。
処理2304では、処理2302で選択した稼動量の割り当てと発熱量関数805を用いてそれぞれのストレージ装置106および業務サーバ装置105から発生する発熱量を計算(推定)する。
処理2305は、ストレージ装置106およびサーバ装置105と空調装置101の間の距離2404を、表701を用いて計算する。
処理2306は、処理2304で計算した発熱量と、処理2302で計算した距離とから、ストレージ装置106及びサーバ装置105から発した熱が、データセンタ201内の空調装置101に与える熱量分配率を計算する。なお、好ましくは熱量分配率を求めるためには、温度センサに203、510、606より現在のデータセンタ内の温度分布を算出し、該温度分布も考慮して熱量分配率を計算する。具体的には、距離2404からデータセンタの温度分布によって異なる熱分布を求める関数もしくはテーブルを用いてストレージ装置またはサーバ装置が発する熱が空調装置に伝わる割合を計算する。
その後、各ストレージ装置及びサーバ装置から発生した発熱量と、処理2305で求めた熱量分配率より、複数のストレージ装置及び複数のサーバ装置から各空調装置に伝わる熱量を算出し、各空調装置が冷却する熱量を計算する。
一例として、ストレージ装置及び業務サーバ装置の発熱量の、空調装置への熱量分配率を求めた結果が図24に示す熱量配分率情報418の一例である。図24の2401はストレージ装置や業務サーバ装置の名称、2403には空調装置の名称、2404には2401の装置から発生する発熱量、2404は2401の各装置と2403の空調装置との距離、2405には2401の各装置から発生する熱が、各空調装置に伝わる分配率(%)を格納する。例えば、分配される熱量を求める関数がy=1/x(y:熱量、x:距離)である場合には、図24において、行2407の距離2405は2であるため熱を伝える度合いは1/2となる。同様にして行2408から行2412までそれぞれ熱を伝える度合いを計算する。行2407から行2412までの熱を伝える度合いの総和は3139/2520(1/2+1/5+1/8+1/6+1/7+1/9)となり、行2407の配分率2406は1/2÷3139/2520=40%となる。同様にして行2408から行2412までそれぞれ配分率2406を計算する。そして、図24においてストレージ装置1の発熱量が100Wであるときにストレージ装置1が発した熱は空調装置1に40W伝わる。このようにして全てのストレージ装置およびサーバ装置が各空調装置に伝わる熱量を計算する。
処理2307は、処理2306で計算した、ストレージ装置及びサーバ装置の発熱量であって、各空調装置に分配される熱量から、各空調装置が該熱量を冷却するための消費電力をそれぞれ計算する。例えば、処理2306により求めた、各装置から発し、空調装置に伝わる熱量の合計値を求める。そして、空調冷却能力情報の一例である図25のテーブルを用いて、その合計の熱量より冷却するために必要な空調装置の消費電力を求める。図25の、熱量2502は、ストレージ装置及びサーバ装置から空調装置に伝わる熱量である。空調出力2503は、空調装置に伝わる熱量を冷却するために必要な空調出力のランクである。そして、消費電力2504は、空調出力2503の時に空調装置により消費される電力である。
その後、処理2302で算出した稼動量の割り当ての組み合わせすべてについて、処理2304から処理2307の処理をしていない場合には(判断2308:いいえの場合)、処理2309にて、まだ処理2304から処理2307の処理をしていない稼動量の割り当ての組み合わせ中から、次の稼動量の割り当ての組み合わせを選択する。
そして、処理2308にて選択された稼動量の割り当ての組み合わせに対して処理2304から処理2307の処理を実行する。
処理2302で算出した稼動量の割り当ての組み合わせすべてについて、処理2304から処理2307の処理をした場合には(判断2308:はいの場合)、処理2310にて、算出した消費電力のうちもっとも小さい消費電力である稼動量の割り当ての組み合わせを選択する。そして、選択された稼動量の割り当ての結果をテーブル1801として記録する。本実施例では、ラックa 202a内の装置の発熱量が大きく空調効率が低下し、ラックa 202aの発熱量を減少させる例を示す。数値計算をした結果、空調効率を上げるためにストレージ装置1およびストレージ装置2の稼動量をそれぞれ200ずつ減少させる。この結果をテーブル1801に記録する。その後、処理2104を終了し、処理2105に進む。
処理2105は、中央処理装置401が論理ボリューム配置最適化プログラム409を実行することにより、処理2104で作成した稼動量の割り当ての組み合わせをもとに、どの論理ボリュームに格納されたデータをどのRGへと移動するかを計算する。
図22は、図21の処理2105の詳細を示す図である。図22の処理2201では、まず稼動量を減らすストレージ装置を選択する。そして、該ストレージ装置に含まれる論理ボリュームに優先度を付与し、優先度の最も高い論理ボリュームを移動元論理ボリュームとして選択する。
具体的には、テーブル1801の稼動量増減1803のうち、稼動量を減らす(稼動量増減が負の値である)ストレージ装置を選択する。図18では、テーブル1801より稼動量を減らすストレージ装置として、ストレージ装置1、ストレージ装置2、ストレージ装置5およびストレージ装置6が選択される。そして、ストレージ装置に求められる性能を維持し、移動後のストレージ装置全体の消費電力を削減するために、ストレージ装置に含まれる論理ボリュームに、以下の順で論理ボリューム移動の優先度を決定する。以下の優先度を決定する順序は独立して定義される。
優先度は、まず判断2102において上限稼動量が超えていると判断されたRG内の論理ボリュームから順に高い優先度を決定する。その後、以下の(1)から(4)のいずれかの順にて高い優先度を決定する。つまり、判断2102において上限稼動量が超えていると判断されたRG内の論理ボリュームの移動先RGを先に決定し、その後、(1)から(4)のいずれかの順にそって移動先RGを決定する。
(1)論理ボリュームが所属するRGの消費電力1106が高い順
(2)論理ボリュームが所属するRGの論理ボリューム数1107が少ない順
(3)論理ボリュームが所属するストレージ装置内のRGの論理ボリューム数1107の総和が少ない順
(4)論理ボリュームが所属するRGがストレージ装置をまたがっている数が多い順
前記条件(1)は、消費電力が高いRGから消費電力が低いRGに論理ボリューム内のデータを移動させてストレージ装置の消費電力を削減するためである。前記条件(2)は、RGに含まれる論理ボリューム内のデータを全て移動させてRGを構成する記憶装置の電源を切るためである。前記条件(3)は、ストレージ装置の論理ボリューム内のデータを全て移動させてストレージ装置の電源を切るためである。前記条件(4)は、ストレージ装置をまたがっているRGを移動することを防止し、複数のストレージ装置の稼動量が増減することを防ぐためである。
そして、優先度の最も高い論理ボリュームを移動元論理ボリュームとして以下の処理を行う。
判断2202は、該移動元論理ボリュームが、移動可能論理ボリュームであるか判断する。処理2201で選択した移動元論理ボリューム内のデータを移動可能であるかテーブル1001から判断する。選択した移動元論理ボリュームが、移動不可能である場合は、処理2215に進む。移動可能論理ボリュームがある場合は、処理2203に進む。ここで、処理2215では、処理2201で付与した優先度をもとに選択された移動元論理ボリュームの次の優先度の論理ボリュームを選択し、判断2202に戻る。
処理2203は、論理ボリューム内のデータを移動する移動先RG候補を選択する。具体的には、テーブル1801の稼動量増減1803で、移動量を増やす(稼動量増減1803が正の値である)ストレージ装置を選択する。つまり、テーブル1801より稼動量を減らすストレージ装置として、ストレージ装置3、ストレージ装置4が選択される。そして、ストレージ装置全体の消費電力を削減するために、該ストレージ装置に含まれるRGに対して、以下の順で論理ボリューム内のデータ移動時に移動先のRGとしての優先度を決定する。
(1)RGの消費電力1106が低い順
(2)RGの空き容量1108が少ない順
(3)RGの論理ボリューム数1107が多い順
(4)筐体内のRGの空き容量1108の総和が少ない順
(5)筐体内のRGの論理ボリューム数1107の総和が多い順
(6)またがっている筐体の数が少ないRGの順
前記条件(1)により、消費電力が低いRGに論理ボリューム内のデータを移動させてストレージ装置の消費電力を削減することができる。消費電力の高いRGよりも、消費電力の低いRGに論理ボリュームを移動させたほうが、増加する消費電力が小さいためである。前記条件(2)、および、前記条件(3)は、あるRGにデータを集約して、データの格納されていないRGを構成する記憶装置の電源を切るためである。RGを構成する記憶装置の電源を切ることにより、消費電力を削減することができる。前記条件(4)、および、前記条件(5)は、あるストレージ装置にデータを集約して、ストレージ装置内の論理ボリュームを全て移動させてストレージ装置の電源を切るためである。ストレージ装置の電源を切ることにより、消費電力を削減することができる。前記条件(6)は、ストレージ装置をまたがっているRGを移動すると複数のストレージ装置の稼動量が増減することを防ぐためである。
判断2204では、処理2203で選択した移動先のRGに移動元論理ボリューム内のデータを格納するための空き容量があるかどうかを、テーブル1101を用いて確認する。空き容量があるRGが存在する場合は処理2205へ進む。空き容量があるRGが存在しない場合は処理2215に進む。処理2215は、上述したとおりである。処理2205では、空き容量のあるRGを、新たな移動先RG候補として選択する。
判断2206は、同構成RGがあるか判断する。選択された移動元論理ボリュームが所属するRGと同じ構成のRGが、処理2205で選択された移動先RG候補の中にあるかを確認する。同構成RGがある場合は処理2207に進む。同構成RGがない場合は処理2207に進む。テーブル1101においてRAIDレベル1103、ディスク数1104、ディスク種別1105が全て同じ値であるときに同構成RGとする。なお、ディスク種別は、別であってもよい。処理2215は、上述したとおりである。処理2207では、処理2205で選択されたRGの中で、選択された移動元論理ボリュームと同構成のRGを、新たな移動先RG候補として選択する。
判断2208では、運用ポリシを満たしているか確認する。具体的には、選択された移動元論理ボリュームが所属するストレージ装置の所有者と、処理2207で選択されたRGが所属するストレージ装置の所有者が同一であるか確認する。所有者が同一であるRGが存在する場合には、処理2209に進む。所有者が同一であるRGが存在しない場合には、処理2215に進む。処理2215は、上述したとおりである。処理2209では、処理2207で選択されたRGの中で、選択された移動元論理ボリュームの所属するストレージ装置と、同一の所有者のストレージ装置に所属するRGを、新たな移動先RG候補として選択する。
判断2210は、接続性を確認する。まず、選択された移動元論理ボリュームが所属するストレージ装置から処理2209にて選択された移動先RGの所属するストレージ装置に接続できるか確認する。そのために、選択された移動元論理ボリュームが所属するストレージ装置と、選択された移動先RGの所属するストレージ装置が接続できるかテーブル1601で確認する。次に、バックアップ先に接続できるか確認する。そのために、選択された移動先RGが所属するストレージ装置と、選択された移動元論理ボリュームのバックアップ先1007の論理ボリュームが所属するストレージ装置が接続できるかテーブル1601で確認する。次に、移動先RGのストレージ装置が、移動元論理ボリュームの所属する接続元サーバに接続できるか確認する。そのために、選択された移動元論理ボリュームが所属するストレージ装置が接続するサーバ装置を接続元1006から取得し、該サーバ装置が処理2209にて選択されたRGが所属するストレージ装置と接続できるかテーブル1701で確認する。以上の3つの接続性を満たすRGが存在する場合には、処理2211に進む。接続性を満たすRGが存在しない場合には、処理2215に進む。処理2215は、上述したとおりである。処理2211では、処理2209で選択されたRGの中で、接続性を満たすストレージ装置内のRGを、新たな移動先RG候補として選択する。
処理2212では、処理2211で選択された移動先RG候補のうち、処理2203にて付与された優先度が高いRGを移動先RGとして選択する。そして、図19に移動元論理ボリュームと共に格納する。具体的には選択された移動元論理ボリュームをテーブル1901の論理ボリューム名称1902に記録し、その論理ボリュームを構成する移動元RGを移動元RG1903に記録し、処理2212にて選択された移動先RGを移動先RG1904に記録する。
処理2213では、図18に示される稼動量の割り当て変更案を変更する。具体的には、移動元論理ボリュームの所属するストレージ装置の「移動量増減」の項に、移動される論理ボリュームへの稼働量を加算し、移動先RGの所属するストレージ装置の「移動量増減」の項に、移動される論理ボリュームへの稼働量を減算する。
判断2214においては、移動元論理ボリューム内のデータの移動先であるRGをすべて決定し、移動元論理ボリュームのデータを移動先RGを作成した場合には、終了し、処理2106へ進む。移動案の作成が終了していない場合には、処理2201に戻り、新たな移動元論理ボリュームを選択する。
以上の処理により、SLA(Service Level Agreement: サービスレベルに関するサービス提供元とサービス提供先の間の合意)および運用ポリシを満たす実運用に耐えられる配置で、空調装置の消費電力とストレージ装置の消費電力の合計を最小化し、性能が劣化した場合においても消費電力の増加量を最小限に抑えて性能を維持する。
処理2106は、中央処理装置401が論理ボリューム移動プログラムを実行することにより、移動の対象となった論理ボリュームを移動する。論理ボリューム移動プログラム410がテーブル1901に従い、ストレージ装置106に論理ボリューム移動を指示する。論理ボリューム移動プログラム603は、論理ボリューム移動の指示に従い、論理ボリューム1をRG1からRG2に移動し、論理ボリューム5をRG3からRG2に移動する。移動した結果、論理ボリューム数1107が0になったRGがある場合はRGを構成する記憶装置の電源を切り、電源状態905を「切」にする。電源を切った記憶装置が配置されているストレージ装置内の全ての記憶装置の電源が切られているか電源状態905で確認し、全ての記憶装置の電源が切られている場合は、ストレージ装置の電源を切る。論理ボリュームを移動するときに、移動先の記憶装置が配置されているストレージ装置の電源が切られている場合は、電源を入れてから論理ボリュームを移動する。移動先の記憶装置の電源が切られている場合は、電源を入れ、移動先のRGに所属する穂所記憶装置に電源を入れ電源状態905を「入」にしてから論理ボリュームを移動する。
処理2107は、処理2104で計算した結果に従い、中央処理装置が空調装置設定変更プログラム411を実行することにより空調装置101の設定を変更する。
本実施例においては、移動元論理ボリュームと移動先RGを決定する際、運用ポリシを満たすかどうかを確認したが、所有者が同一の業務サーバ装置及びストレージ装置ごとに図21の処理を行ってもよい。その場合には、判断2208及び処理2209は必要ない。
本実施例では、限界稼動量1109の単位は、それぞれ1秒当たりのRGへのアクセス数であるが、1秒当たりのRGへのアクセス時間など、RGの性能を示し、稼動量からのRGの発熱量を推定できるものであればよい。
また、限界稼動量1110の単位は、それぞれ1秒当たりのRGへのアクセス数であるが、1秒当たりのRGへのアクセス時間など、RGの性能を示し、稼動量からのRGの発熱量を推定できるものであればよい。
また、稼動量履歴1303の単位は、それぞれ1秒当たりの論理ボリュームへのアクセス数であるが、1秒当たりの論理ボリュームへのアクセス時間など、RGの性能を示し、稼動量からの論理ボリュームの発熱量を推定できるものであればよい。
また、稼動量履歴1403の単位は、それぞれ1秒当たりの論理ボリュームへのアクセス数であるが、1秒当たりの論理ボリュームへのアクセス時間など、論理ボリュームの性能を示し、稼動量からの論理ボリュームの発熱量を推定できるものであればよい。
また、稼動量履歴1503の単位は、それぞれ1秒当たりのストレージ装置へのアクセス数であるが、1秒当たりのストレージ装置へのアクセス時間など、ストレージ装置の性能を示し、稼動量からのストレージ装置の発熱量を推定できるものであればよい。
本実施例におけるシステム構成を示す図である。 本実施例におけるデータセンタ内の装置の配置を示す図である。 本実施例におけるラック内の装置の配置を示す図である。 本実施例における管理サーバの構成を示す図である。 本実施例における業務サーバの構成を示す図である。 本実施例におけるストレージ装置の構成を示す図である。 本実施例における装置の位置情報を示す図である。 本実施例におけるストレージ装置の構成を示す図である。 本実施例における記憶装置の構成を示す図である。 本実施例における論理ボリュームの構成を示す図である。 本実施例におけるRGの構成を示す図である。 本実施例におけるサーバ装置の稼動量履歴を示す図である。 本実施例におけるRGの稼動量履歴を示す図である。 本実施例における論理ボリュームの稼動量履歴を示す図である。 本実施例におけるストレージ装置の稼動量履歴を示す図である。 本実施例におけるストレージ装置間の接続性を示す図である。 本実施例におけるサーバ、ストレージ間の接続性を示す図である。 本実施例におけるストレージ装置の稼動量の増減を示す図である。 本実施例における論理ボリュームの移動先を示す図である。 本実施例における制約条件を示す図である。 本実施例における論理ボリューム移動の全体の流れを示す図である。 本実施例における論理ボリュームの移動先を決定する流れを示す図である。 本実施例における温度分布および負荷分布を計算する流れを示す図である。 本実施例におけるストレージ装置から空調装置への距離と熱の配分率を示す図である。 本実施例における空調装置に伝わる熱量に応じた出力と消費電力を示す図である。
符号の説明
101…空調装置、102…ストレージエリアネットワーク、103…管理サーバ装置、104…管理用ネットワーク、105…業務サーバ装置、106…ストレージ装置、201…データセンタ、202…ラック、203…温度センサ、401…中央処理装置、402…記憶装置、403…接続装置、404…バス、405…主記憶装置、501…中央処理装置、502…記憶装置、503…接続装置a、504…バス、505…主記憶装置、510…温度センサ、511…接続装置b、601…中央処理装置、602…主記憶装置、604…接続装置a、605…バス、606…温度センサ、607…接続装置c、608…記憶装置、609…接続装置b

Claims (15)

  1. 管理サーバに接続され論理ボリュームを提供し複数のRAIDグループを構成する複数の記憶装置を含む複数のストレージ装置と、前記管理サーバ装置に接続される空調装置とを有するストレージシステムの前記管理サーバ装置による制御方法であって、
    前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出し、
    前記複数の組み合わせのそれぞれに対し、前記複数のストレージ装置に含まれるストレージ装置ごとの発熱量を算出し、
    前記複数の組み合わせのそれぞれに対し、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報とをもとに、前記発熱量の前記空調装置への分配率を算出し、前記発熱量と前記分配率より前記空調装置に伝わる熱量を算出し、
    前記複数の組み合わせのそれぞれに対し、前記空調装置に伝わる前記熱量を冷却するための前記空調装置の消費電力を算出し、
    前記空調装置の前記消費電力をもとに、前記複数の組み合わせに含まれる組み合わせを選択し、
    前記選択された組み合わせをもとに、前記複数のストレージ装置に対して、稼動量を増やす第1のストレージ装置に格納されたデータを、稼動量を減らす第2のストレージ装置へ移動する移動指示を出す、ことを特徴とする前記管理サーバ装置による制御方法。
  2. 請求項1に記載の管理サーバ装置による制御方法であって、
    前記複数のストレージ装置より、前記複数のRAIDグループそれぞれの稼動量を含む稼動履歴情報を取得し、
    前記複数の組み合わせを算出する際に、前記複数のストレージ装置のうち前記稼動量が上限値を超えるRAIDグループが所属するストレージ装置の稼動量を減少させる、前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出し、
    前記発熱量を算出する際に、前記複数のストレージ装置に含まれる複数の記憶装置の種別に応じた稼動量と発熱量との関係である発熱量関数を用いて算出し、
    前記複数のストレージ装置は、温度センサを含み、
    前記複数のストレージ装置から、前記温度センサにより計測された温度情報を取得し、
    前記複数のストレージ装置から前記空調装置に伝わる熱量を算出する際に、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報と、さらに前記複数のストレージ装置の温度情報をもとに、前記複数のストレージ装置の熱量の前記空調装置への分配率を算出し、
    前記消費電力を算出する際、空調冷却能力情報を用いて前記空調装置に伝わる前記熱量より前記消費電力を算出し、
    前記第1のストレージ装置の前記論理ボリュームに対して、前記論理ボリュームが含まれるRAIDグループで消費される電力が高い順又は、前記論理ボリュームが含まれるRAIDグループに格納されるデータ容量が小さい順又は、前記複数のストレージ装置内のRAIDグループに格納される前記論理ボリューム数が少ない順に、高い優先度となるように決定する第1の優先度を設定し、
    前記第1の優先度の高い順に前記論理ボリュームに格納されるデータの移動先である前記第2のストレージ装置に含まれるストレージ装置を決定し、
    前記第2のストレージ装置のRAIDグループに対し、前記RAIDグループの消費電力が低い順、又は前記RAIDグループの空き容量が少ない順、又はRAIDグループに格納される論理ボリューム数が多い順に、高い優先度となるように決定する第2の優先度を設定し、
    前記第1のストレージ装置の前記論理ボリュームに格納されるデータを移動する先である前記第2のストレージ装置の前記RAIDグループを決定する時、前記第2の優先度が高い順に決定する、ことを特徴とする前記管理サーバ装置による制御方法。
  3. 請求項1に記載の前記管理サーバ装置による制御方法であって、
    前記複数のストレージ装置は、温度センサを含み、
    前記複数のストレージ装置から、前記温度センサにより計測された温度情報を取得し、
    前記複数のストレージ装置から前記空調装置に伝わる熱量を算出する際に、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報と、さらに前記複数のストレージ装置の温度情報をもとに、前記複数のストレージ装置の熱量の前記空調装置への分配率を算出する、ことを特徴とする前記管理サーバ装置による制御方法。
  4. 請求項1に記載の前記管理サーバ装置による制御方法であって、
    前記複数の組み合わせのそれぞれに対し、前記複数のストレージ装置に含まれるストレージ装置ごとの発熱量を算出する際に、前記複数のストレージ装置に含まれる複数の記憶装置の種別に応じた稼動量と発熱量との関係を用いて算出する、ことを特徴とする前記管理サーバ装置による制御方法。
  5. 請求項1に記載の前記管理サーバ装置による制御方法であって、
    前記複数のストレージ装置より、前記RAIDグループに対する稼動量を取得し、
    前記複数のストレージ装置のうち、前記稼動量が上限値を超えるRAIDグループが所属するストレージ装置の稼動量を減少させるように、前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出する、ことを特徴とする前記管理サーバ装置による制御方法。
  6. 請求項1に記載の前記管理サーバ装置による制御方法であって、
    前記第1のストレージ装置の前記論理ボリュームに対して第1の優先度を設定し、
    前記第1の優先度の高い順に前記論理ボリュームに格納されるデータの移動先である前記第2のストレージ装置に含まれるストレージ装置を決定する、ことを特徴とする前記管理サーバ装置による制御方法。
  7. 請求項6に記載の前記管理サーバ装置による制御方法であって、
    前記第1の優先度は、前記論理ボリュームが含まれるRAIDグループで消費される電力が高い順又は、前記論理ボリュームが含まれるRAIDグループに格納されるデータ容量が小さい順又は、前記複数のストレージ装置内のRAIDグループに格納される前記論理ボリューム数が少ない順に、高い優先度となるように決定する、ことを特徴とする前記管理サーバ装置による制御方法。
  8. 請求項6に記載の前記管理サーバ装置による制御方法であって、
    前記複数のストレージ装置より、前記RAIDグループに対する稼動量を取得し、
    前記複数のストレージ装置のうち前記稼動量が上限値を超えるRAIDグループが所属するストレージ装置の稼動量を、減少させるように、前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出し、
    前記上限値を超えるRAIDグループに含まれる論理ボリュームの優先度を、他の論理ボリュームよりも高く設定する、ことを特徴とする前記管理サーバ装置による制御方法。
  9. 請求項6に記載の前記管理サーバ装置による制御方法であって、
    前記第2のストレージ装置のRAIDグループに第2の優先度を設定し、
    前記第1のストレージ装置の前記論理ボリュームに格納されるデータを移動する先である前記第2のストレージ装置の前記RAIDグループを決定する時、前記第2の優先度が高い順に決定する、ことを特徴とする前記管理サーバ装置による制御方法。
  10. 請求項9に記載の前記管理サーバ装置による制御方法であって、
    前記第2の優先度は、前記RAIDグループの消費電力が低い順、又は前記RAIDグループの空き容量が少ない順、又はRAIDグループに格納される論理ボリューム数が多い順に、高い優先度となるように決定する、ことを特徴とする前記管理サーバ装置による制御方法。
  11. 請求項1に記載の前記管理サーバ装置による制御方法であって、
    前記ストレージ装置において、前記移動指示により前記第1のストレージ装置から前記第2のストレージ装置にデータを移動した後、前記RAIDグループ格納される論理ボリューム数が0になった場合、又は、前記RAIDグループに前記RAIDグループを構成する記憶装置の電源を切る、ことを特徴とする前記管理サーバ装置による制御方法。
  12. 請求項11に記載の前記管理サーバ装置による制御方法であって、
    前記複数のストレージ装置に含まれるストレージ装置のすべての前記RAIDグループを構成する記憶装置の電源を切った場合、前記ストレージ装置の電源を切る、ことを特徴とする前記管理サーバ装置による制御方法。
  13. ストレージシステムであって、
    管理サーバ装置と、
    前記管理サーバ装置に接続され論理ボリュームを提供し複数のRAIDグループを構成する複数の記憶装置を含む複数のストレージ装置と、
    前記管理サーバ装置に接続される空調装置とを有し、
    前記管理サーバ装置は、前記複数のストレージ装置に対する稼動量の割り当ての組み合わせを複数算出し、
    前記管理サーバ装置は、前記複数の組み合わせのそれぞれに対し、前記複数のストレージ装置に含まれるストレージ装置ごとの発熱量を算出し、
    前記管理サーバ装置は、前記複数の組み合わせのそれぞれに対し、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報とをもとに、前記複数のストレージ装置の前記発熱量の前記空調装置への分配率を算出し、前記発熱量と前記分配率より前記空調装置に伝わる熱量を算出し、
    前記管理サーバ装置は、前記複数の組み合わせのそれぞれに対し、前記空調装置に伝わる前記熱量を冷却するための消費電力を算出し、
    前記管理サーバ装置は、前記空調装置の前記消費電力をもとに、前記複数の組み合わせに含まれる組み合わせを選択し、
    前記管理サーバ装置は、前記選択された組み合わせをもとに、前記複数のストレージ装置に対して、稼動量を増やす第1のストレージ装置に格納されたデータを、稼動量を減らす第2のストレージ装置へ移動する移動指示を出し、
    前記複数のストレージ装置は、前記移動指示をもとに、前記第1のストレージ装置から、前記第2のストレージ装置へデータを移動する、ことを特徴とするストレージシステム。
  14. 請求項13に記載のストレージシステムであって、
    前記複数のストレージ装置は、温度センサを含み、
    前記管理サーバ装置は、前記複数のストレージ装置から、前記温度センサにより計測された温度情報を取得し、
    前記管理サーバ装置は、前記複数のストレージ装置から前記空調装置に伝わる熱量を算出する際に、前記発熱量と、前記複数のストレージ装置及び前記空調装置の位置情報と、さらに前記複数のストレージ装置の温度情報をもとに、前記複数のストレージ装置の熱量の前記空調装置への分配率を算出する、ことを特徴とするストレージシステム。
  15. 請求項13に記載のストレージシステムであって、
    前記管理サーバ装置は、前記複数の組み合わせのそれぞれに対し、前記複数のストレージ装置に含まれるストレージ装置ごとの発熱量を算出する際に、前記複数のストレージ装置に含まれる複数の記憶装置の種別に応じた稼動量と発熱量との関係を用いて算出する、ことを特徴とするストレージシステム。
JP2008277601A 2008-10-29 2008-10-29 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム Expired - Fee Related JP4958883B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008277601A JP4958883B2 (ja) 2008-10-29 2008-10-29 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム
US12/361,816 US8429434B2 (en) 2008-10-29 2009-01-29 Control method with management server apparatus for storage device and air conditioner and storage system
US13/471,607 US8397089B2 (en) 2008-10-29 2012-05-15 Control method with management server apparatus for storage device and air conditioner and storage system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008277601A JP4958883B2 (ja) 2008-10-29 2008-10-29 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム

Publications (2)

Publication Number Publication Date
JP2010108115A JP2010108115A (ja) 2010-05-13
JP4958883B2 true JP4958883B2 (ja) 2012-06-20

Family

ID=42118652

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008277601A Expired - Fee Related JP4958883B2 (ja) 2008-10-29 2008-10-29 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム

Country Status (2)

Country Link
US (2) US8429434B2 (ja)
JP (1) JP4958883B2 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5218276B2 (ja) * 2009-05-19 2013-06-26 富士通株式会社 空調制御システム、空調制御方法および空調制御プログラム
JP5682566B2 (ja) * 2009-10-16 2015-03-11 日本電気株式会社 機器選択システム、機器選択方法、及び機器選択用プログラム
US8473108B2 (en) 2010-11-09 2013-06-25 Hitachi, Ltd. Information apparatus and method of optimizing cooling efficiency of air conditioner
JP5611080B2 (ja) * 2011-02-22 2014-10-22 三菱電機株式会社 管理装置、管理システム、管理方法及びプログラム
WO2012117534A1 (ja) * 2011-03-02 2012-09-07 株式会社日立製作所 計算機システムおよびその制御方法
US8761955B2 (en) 2011-04-27 2014-06-24 Hitachi, Ltd. Management computer, computer system including the same, and method for providing allocating plan for it equipment
JP5568535B2 (ja) * 2011-09-28 2014-08-06 株式会社日立製作所 データセンタの負荷割当て方法及び情報処理システム
WO2013176681A1 (en) * 2012-05-25 2013-11-28 Hewlett-Packard Development Company, L.P. Providing a model of impact of a cooling infrastructure
CN103729328A (zh) * 2012-10-15 2014-04-16 深圳市腾讯计算机系统有限公司 数据中心模块及由微模块组成的数据中心
JP2016110305A (ja) * 2014-12-04 2016-06-20 富士通株式会社 ストレージ制御装置、キャッシュ制御方法、キャッシュ制御プログラム、及びコンピュータシステム
US10528098B2 (en) * 2016-06-29 2020-01-07 Western Digital Technologies, Inc. Thermal aware workload scheduling
US11144354B2 (en) * 2018-07-31 2021-10-12 Vmware, Inc. Method for repointing resources between hosts

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030193777A1 (en) * 2002-04-16 2003-10-16 Friedrich Richard J. Data center energy management system
JP2004126968A (ja) 2002-10-03 2004-04-22 Fujitsu Ltd 並列計算機のジョブスケジューリング装置
US7373268B1 (en) * 2003-07-30 2008-05-13 Hewlett-Packard Development Company, L.P. Method and system for dynamically controlling cooling resources in a data center
US7197433B2 (en) * 2004-04-09 2007-03-27 Hewlett-Packard Development Company, L.P. Workload placement among data centers based on thermal efficiency
JP4406316B2 (ja) * 2004-05-11 2010-01-27 株式会社日立製作所 計算機システム用空調設備及びその温度制御方法
US7447920B2 (en) * 2004-08-31 2008-11-04 Hewlett-Packard Development Company, L.P. Workload placement based on thermal considerations
US7644148B2 (en) * 2005-05-16 2010-01-05 Hewlett-Packard Development Company, L.P. Historical data based workload allocation
US7461273B2 (en) 2005-05-16 2008-12-02 Hewlett-Packard Development Company, L.P. Power distribution among servers
JP4895266B2 (ja) * 2005-12-28 2012-03-14 富士通株式会社 管理システム、管理プログラムおよび管理方法
JP2007219703A (ja) * 2006-02-15 2007-08-30 Fujitsu Ltd ハードディスクストレージ制御プログラム、ハードディスクストレージ装置、ハードディスクストレージ制御方法
US7676280B1 (en) * 2007-01-29 2010-03-09 Hewlett-Packard Development Company, L.P. Dynamic environmental management
US8094452B1 (en) * 2007-06-27 2012-01-10 Exaflop Llc Cooling and power grids for data center
US7472558B1 (en) * 2008-04-15 2009-01-06 International Business Machines (Ibm) Corporation Method of determining optimal air conditioner control
JP4648966B2 (ja) * 2008-08-19 2011-03-09 日立電線株式会社 データセンタ
WO2010032501A1 (ja) * 2008-09-17 2010-03-25 株式会社日立製作所 情報処理システムの運用管理方法
EP2343649B1 (en) * 2008-10-30 2017-10-25 Hitachi, Ltd. Operation management apparatus of information processing system

Also Published As

Publication number Publication date
US8429434B2 (en) 2013-04-23
US8397089B2 (en) 2013-03-12
US20120226856A1 (en) 2012-09-06
JP2010108115A (ja) 2010-05-13
US20100106988A1 (en) 2010-04-29

Similar Documents

Publication Publication Date Title
JP4958883B2 (ja) 管理サーバ装置によるストレージ装置及び空調装置の制御方法及びストレージシステム
JP7374939B2 (ja) 分散型ストレージシステム
JP5451875B2 (ja) 計算機システム及びその記憶制御方法
JP5661921B2 (ja) 計算機システム及び管理システム
JP4874368B2 (ja) フラッシュメモリを用いたストレージシステムの管理方法及び計算機
US8719645B2 (en) Runtime dynamic performance skew elimination
JP4885575B2 (ja) 記憶領域の割当ての最適化方法及びそれを実現するための管理計算機
JP6097845B2 (ja) 不揮発性キャッシュメモリにデータをバックアップするストレージシステム
JP2007066129A (ja) ストレージシステムとストレージ装置及びその制御方法
JP5973089B2 (ja) ストレージシステムの移行方式および移行方法
US8868864B2 (en) Storage apparatus and storage apparatus control method
JP4229626B2 (ja) ファイル管理システム
JP2009043030A (ja) ストレージシステム
JP2010108409A (ja) ストレージ管理方法及び管理サーバ
JPWO2008136075A1 (ja) ストレージ管理プログラム、ストレージ管理装置およびストレージ管理方法
JP2009076062A (ja) 情報システムにおける熱管理のための方法および装置
US7873866B2 (en) Computer system, storage system and configuration management method
JP2020154587A (ja) 計算機システム及びデータ管理方法
JPWO2012046328A1 (ja) マイグレーション先の決定を支援する方法及び管理システム
US9075606B2 (en) Storage apparatus and method of determining device to be activated
WO2015198441A1 (ja) 計算機システム、管理計算機、および管理方法
JP5602564B2 (ja) 計算機システム及び計算機システムの管理方法
WO2014087517A1 (ja) 論理ボリュームの配置方法および再配置方法
JP5597266B2 (ja) ストレージシステム
US10747432B2 (en) Storage device, storage system, and storage control method

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20100316

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100329

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120221

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120319

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150330

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees