JP2009294810A - ストレージシステムおよびその管理方法 - Google Patents

ストレージシステムおよびその管理方法 Download PDF

Info

Publication number
JP2009294810A
JP2009294810A JP2008146393A JP2008146393A JP2009294810A JP 2009294810 A JP2009294810 A JP 2009294810A JP 2008146393 A JP2008146393 A JP 2008146393A JP 2008146393 A JP2008146393 A JP 2008146393A JP 2009294810 A JP2009294810 A JP 2009294810A
Authority
JP
Japan
Prior art keywords
command
path
host
port
upper limit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008146393A
Other languages
English (en)
Other versions
JP4701267B2 (ja
Inventor
Hideki Minato
秀樹 湊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2008146393A priority Critical patent/JP4701267B2/ja
Priority to US12/176,712 priority patent/US8683025B2/en
Publication of JP2009294810A publication Critical patent/JP2009294810A/ja
Application granted granted Critical
Publication of JP4701267B2 publication Critical patent/JP4701267B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0653Monitoring storage devices or systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/349Performance evaluation by tracing or monitoring for interfaces, buses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0602Interfaces specially adapted for storage systems specifically adapted to achieve a particular effect
    • G06F3/0604Improving or facilitating administration, e.g. storage management
    • G06F3/0605Improving or facilitating administration, e.g. storage management by facilitating the interaction with a user or administrator
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0628Interfaces specially adapted for storage systems making use of a particular technique
    • G06F3/0629Configuration or reconfiguration of storage systems
    • G06F3/0632Configuration or reconfiguration of storage systems by initialisation or re-initialisation of storage systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/06Digital input from, or digital output to, record carriers, e.g. RAID, emulated record carriers or networked record carriers
    • G06F3/0601Interfaces specially adapted for storage systems
    • G06F3/0668Interfaces specially adapted for storage systems adopting a particular infrastructure
    • G06F3/067Distributed or networked storage systems, e.g. storage area networks [SAN], network attached storage [NAS]

Abstract

【課題】ホストからストレージ装置へのアクセス性能を向上することができるストレージシステムの管理方法を提供する。
【解決手段】ホストサーバ106は、アプリケーションを実行する際に少なくともホストバスアダプタとストレージのポートとを経由して論理ボリューム(LU)にアクセスするパスであるパス情報と、各パスに同時に発行される同時コマンド発行数とをストレージ管理サーバ121に送信する。ストレージ監視エージェントサーバ140は、ストレージのポートで同時に実行可能なポートのコマンド多重数上限値を、ストレージ管理サーバ121に送信する。ストレージ管理サーバ121は、パス情報と、同時コマンド発行数と、ポートのコマンド多重数上限値を受理すると、ポートのコマンド多重数上限値を、該ポートを利用する各パスに、同時コマンド発行数から比例配分して各パスのコマンド多重数上限値を算出し、その算出結果をホストに送信する。
【選択図】図1

Description

本発明は、ホストからストレージ装置へのアクセス性能を向上することができるストレージシステムとその管理方法に関する。
ミッドレンジ以上のストレージシステムでは、数が限られたストレージ装置側ポートを多くの業務ホストで共有するため、1つのストレージ装置側ポートに複数の業務ホストを接続する機能が提供されている。ストレージ装置側からは、ホストのHBA(Host Bus Adapter)に割り当てられているWWN(World Wide Name)でホストを区別することで、1つのポートで各ホストに専用のLU(Logical Unit)を提供することが可能となっている。
ストレージ装置側の1つのポートで同時に実行可能なコマンド数(以下、『コマンド多重数』)には上限がある。そのポートにつながれている各ホストからそれぞれ同時に発行されるコマンド数の総数が、ストレージ装置側ポートの上限を超えないように、各ホストのHBAでコマンド多重数の上限を設定する必要がある。
一方、ストレージ装置側でパス毎のアクセス許可を制御する方法がある(例えば、特許文献1参照)。すなわち、記憶制御装置(ストレージ装置側の制御装置)は、接続する各ホストに設定されるコマンド多重数の合計が、記憶制御装置のコマンド多重処理能力を超えないように監視・制御する。なお、パスとは、ホストとストレージ装置を結ぶI/O(Input/Output)経路をいう。
特開2005−322181号公報
前記、ストレージ装置側ポートの上限を超えないように、各ホストのHBAでコマンド多重数の上限を設定する課題として(1)がある。
(1)複雑な設定を誤ってストレージ装置のポートでコマンド多重数の溢れが発生した場合、ストレージ装置からホストへキュー・フル(Queue Full:コマンド多重数溢れ)ステータスが返される。このステータスを受け取ったHBAは、コマンドの多重化を止めてしまうため、その後I/O性能が著しく低下する。
また、(1)の課題のほかに、下記の課題がある。
(2)LUへ現在同時発行中のコマンド数(以下、『同時コマンド発行数』)が、設定された上限に達してこれ以上コマンドの多重化ができないとき、他のパスでは割り当てられたコマンド多重数にまだ余裕があるという事態が起き、全体としてポートのコマンド実行能力が十分活用できていない。
(3)ホスト障害対策として正・副パスを設けると、普段使用されない副パスにも無駄なコマンド多重数を固定配分することになり、効率が落ちる。
(4)障害を契機とする系/パス切り替えによる他ホストのコマンド多重数への影響がわからず、業務アプリ利用をどの程度抑制するかなどの定量的な見極めが困難である。
(5)ストレージ装置の機能などにより形成されるストレージ装置を跨ぐペア(正論理ボリューム(PVOL)と副論理ボリューム(SVOL))に対して正・副パスを設けると、正・副パスとポートを共有する他のパスとの関連を意識した上限値の設定が必要だが手動設定ではミスを誘発する可能性ある。
(6)性能の異なるストレージ装置をマッピングした場合、性能の差を意識したコマンド多重数上限値の配分が必要となるが、複雑なストレージ装置内部のマッピング状況を意識した手動設定ではミスを誘発する可能性がある。
(7)ホスト上にロードバランサを導入してパス多重化を行っている場合、ロードバランサのアルゴリズムに応じた適切なコマンド多重数上限値の配分が必要だが、他ホストへの配分も考慮した値を手動設定することはミスを誘発する可能性がある。一般的なロードバランスアルゴリズムでは、多重化されたパスの性能は均等であることが要求される。
本発明は、前記の課題を解決するための発明であって、ホストからストレージ装置へのアクセス性能を向上することができるストレージシステムとその管理方法を提供することを目的とする。
前記目的を達成するために、アプリケーションを実行するホスト(例えば、ホストサーバ106)が、SAN(Storage Area Network)を介してストレージと、LAN(Local Area Network)を介して管理サーバ(例えば、ストレージ管理サーバ121)と通信可能にされ、ストレージを監視する監視サーバ(例えば、ストレージ監視エージェントサーバ140)が、SANを介してストレージと、LANを介して管理サーバと通信可能にされるストレージシステムにおいて、ホストからストレージへアクセスするアクセス性能を管理するストレージシステムの管理方法であって、
ホストは、アプリケーションを実行する際に少なくとも自身のホストバスアダプタとSANとストレージのポートとを経由して論理ボリュームにアクセスするパスであるパス情報と、各パスに同時に発行されるコマンド数である同時コマンド発行数を管理サーバに送信し、
監視サーバは、ストレージのポートで同時に実行可能なコマンド数であるポートのコマンド多重数上限値を、管理サーバに送信し、
管理サーバは、パス情報と、同時コマンド発行数と、ポートのコマンド多重数上限値を受理すると、ポートのコマンド多重数上限値を、該ポートを利用する各パスに、同時コマンド発行数から比例配分して各パスのコマンド多重数上限値を算出し、その算出結果をホストに送信し、
ホストは、受理した各パスのコマンド多重数上限値を、ホストバスアダプタに対して設定することを特徴とする。
本発明によれば、ホストからストレージ装置へのアクセス性能を向上することができる。
以下、本発明を実施するための最良の形態を図面に基づいて詳細に説明する。
図1は、本実施形態のストレージシステムを示す構成図である。本実施形態のストレージシステムは、ストレージエリアネットワーク(SAN:Storage Area Network)環境における業務システム及びSAN環境のストレージを管理するシステムを含む。
業務システムを構成するハードウェアは、APクライアント101、ローカルエリアネットワーク(LAN)105、ホストサーバ106、SANスイッチ129、及びストレージ装置131である。業務システムを構成するソフトウェアは、アプリケーション(AP)113、ファイル管理システム114、及びパス情報を取得するパス管理ソフト115、HBAドライバ116である。なお、ホストサーバ106、SANスイッチ129、ストレージ装置131、APクライアント101は、1つ以上であればよい。なお、APはApplicationの略である。
SAN環境のストレージ管理のためのシステムを構成するハードウェアは、ストレージ管理クライアント102、ストレージ管理サーバ121、及びストレージ監視エージェントサーバ140である。ストレージ管理のためのシステムを構成するソフトウェアは、ストレージ管理クライアント102上のストレージ管理ソフト126、ストレージ監視エージェントサーバ140上のストレージ監視エージェント145、ホストサーバ106上のAP設定更新部117、HBA設定更新部118、AP監視エージェント111、及びホスト監視エージェント112である。なお、ストレージ監視エージェントサーバ140は、1つ以上であればよい。以下、各構成要素について説明する。
(APクライアント)
APクライアント101は、業務システムのユーザインタフェース機能を提供するパソコン、ワークステーション又はシンクライアント端末の装置である。APクライアント101は、LAN105を経由してホストサーバ106のAP113と通信する。なお、シンクライアント装置とは、クライアント端末が、サーバに接続するための最小限のネットワーク機能、及びユーザが入出力を行うためのGUI(Graphical User Interface)を装備していればよいことを意味する。
(ホストサーバ)
ホストサーバ106は、業務に必要なサービスを提供するためのアプリケーション(アプリケーションソフトウェア)を実行するコンピュータであり、CPU(Central Processing Unit)108、メモリ110、ハードディスク装置(HDD:Hard Disk Drive)109、ネットワークインタフェースカード(NIC:Network Interface Card)107、及びホストバスアダプタ(HBA)119を備える。
CPU108は、HDD109に格納された種々のソフトウェアプログラムをメモリ110に読み込んで実行するプロセッサである。以下の説明においてメモリ110に読み込まれたソフトウェアプログラムが実行する処理は、実際にはそれらのソフトウェアプログラムを実行するCPU108によって実行される。
メモリ110は、例えばダイナミックRAM(Random Access Memory)のような半導体記憶装置である。HDD109についても、ハードディスク装置の代わりに、例えばフラッシュメモリのような半導体記憶装置を使用してもよい。メモリ110には、HDD109から読み込まれCPU108によって実行されるソフトウェアプログラム及びCPU108によって参照されるデータが格納される。
具体的には、少なくともAP113、AP監視エージェント111、ホスト監視エージェント112、ファイル管理システム114、パス管理ソフト115、HBAドライバ116、AP設定更新部117、及びHBA設定更新部118のソフトウェアプログラムがCPU108によって実行される。
ホストサーバ106によるストレージ装置131へのデータの入出力は、例えばファイバーチャネル(FC:Fibre Channel)プロトコルに基づいて実行されてもよいが、その他のプロトコルに基づいて実行されてもよい。ホストサーバ106とストレージ装置131との間の通信については、HBA119及びSANスイッチ129を使用する代わりに、NIC107及びLAN105を使用してもよい。
AP113は、業務システムの業務論理機能を提供するソフトウェア又はデータベース(DB)管理ソフトである。AP113は、APクライアント101からの処理要求に応答し、必要に応じてストレージ装置131に対するデータの入出力を実行する。AP113からストレージ装置131のデータへのアクセスは、ファイル管理システム114、パス管理ソフト115、HBAドライバ116を利用して、HBA119のポート127、SANスイッチ129のホスト側ポート128、SANスイッチ129、SANスイッチ129のストレージ側ポート130、及びストレージ装置131のポート132を経由して実行される。
AP監視エージェント111は、AP113に関する構成情報を取得するためのソフトウェアである。ホスト監視エージェント112は、ファイル管理システム114及びHBAドライバ116からファイルシステムに関する構成情報、統計情報、及びHBAから発行されているコマンド数を取得するためのソフトウェアである。
AP設定更新部117は、ストレージ管理サーバ121上のストレージ管理ソフト126と通信し、その指示に従ってAP113の設定更新に関する処理を行うためのソフトウェアである。HBA設定更新部118は、ストレージ管理サーバ121上のストレージ管理ソフト126と通信し、その指示に従ってHBA119の設定更新に関する処理を行うソフトウェアである。
NIC107は、ホストサーバ106がLAN105を経由してAPクライアント101、及びストレージ管理サーバ121と通信するために使用される。HBA119は、ホストサーバ106がSANスイッチ129を経由してストレージ装置131と通信するために使用される。HBA119は、通信ケーブルの接続端子としてのポート127を備える。
ファイル管理システム114は、ホストサーバ106の基本ソフト(OS:Operating System)の一部であり、AP113に対してデータの入出力先となる記憶領域をファイルという単位で提供する。ファイル管理システム114が管理するファイルは、ある一群の単位(以下、ファイルシステムと記載する。)で、OSによって管理される論理デバイスと(マウントの操作で)対応付けられる。ファイルシステム中のファイルは、多くの場合、木(ツリー)構造で管理される。
(SANスイッチ)
SANスイッチ129は、それらが備えるホスト側ポート128とストレージ側ポート130の間の接続を切り替えることによって、ホストサーバ106とストレージ装置131との間のデータアクセス経路を設定する。
(ストレージ装置)
ストレージ装置131は、SANスイッチ129を介してホストサーバ106又はストレージ監視エージェントサーバ140と通信するためのポート132、並びに、LAN105を介してストレージ管理サーバ121と通信するためのNIC133、転送制御部134、仮想ボリューム管理制御部137、及び物理HDD群139を備える。転送制御部134は、コマンドキュー135及びマイクロプロセッサ(MPU:Micro Processing Unit)136を備える。
MPU136は、ポート132を経由してホストサーバ106から発行された読み込み又は書き込みコマンドをコマンドキュー135に格納し、コマンドを到着順に下位層へ転送する。
転送制御部134は、下位層へ転送したコマンドの完了を待たずに次のコマンドを転送することでコマンドを多重化する機能を提供する。コマンドキュー135は、例えばダイナミックRAMのような半導体記憶装置である。
仮想ボリューム管理制御部137は、ホストサーバ106に対して物理HDD群139の記憶領域を仮想論理ボリューム(LU)138として見せる機能、及び1つのストレージ側のポート132から複数のホストサーバ106へLU138を提供する機能を有する。図1では、仮想ボリューム管理制御部137がストレージ装置131に内蔵される構成を示したが、仮想ボリューム管理制御部137をストレージ装置131とは独立したサーバにおいて稼動する構成をとってもよい。
ストレージ装置131の1つのポート132を、SANスイッチ129を経由して複数のホストサーバ106が共有し、転送制御部134がHBA119をWWNにより区別することで、ストレージ装置131がそれぞれのホストサーバ106に専用のLU138を提供する構成をとってもよい。
(ストレージ管理クライアント)
ストレージ管理クライアント102は、ストレージ管理ソフト126のユーザインタフェース機能を提供する装置である。ストレージ管理クライアント102は、少なくとも、ユーザから入力を受け付けるための入力装置103、及びユーザに情報を表示するための表示装置104を備える。表示装置104は、例えば、CRT(Cathode Ray Tube)又は液晶表示装置のような画像表示装置である。表示装置104に表示される画面の例については後述する。ストレージ管理クライアント102は、LAN105を経由してストレージ管理サーバ121のストレージ管理ソフト126と通信する。
(ストレージ管理サーバ)
ストレージ管理サーバ121は、後述するストレージ監視エージェント145が収集するストレージ装置131の構成情報や性能統計情報の要約及びホスト監視エージェント112が収集したホストサーバ106の構成情報及び性能統計情報の要約を蓄積し、さらにストレージ管理クライアント102へ提供する機能を有するソフトウェアを実行するコンピュータである。さらにストレージ監視エージェント145及びホスト監視エージェント112の設定情報を管理するインターフェースをストレージ管理クライアント102に提供するソフトウェアを実行するコンピュータであってもよい。
ストレージ管理サーバ121は、CPU123、メモリ125、HDD124、及びNIC122を備える。CPU123は、HDD124に格納されたソフトウェアプログラムをメモリ125に読み込んで実行するプロセッサである。以下の説明においてメモリ125に読み込まれたソフトウェアプログラムが実行する処理は、実際にはそのソフトウェアプログラムを実行するCPU123によって実行される。メモリ125は、例えばダイナミックRAMのような半導体記憶装置である。HDD124についても、ハードディスク装置の代わりに、例えばフラッシュメモリのような半導体記憶装置を使用してもよい。メモリ125には、HDD124から読み込まれCPU123によって実行されるソフトウェアプログラム及びCPU123によって参照されるデータが格納される。具体的には、少なくともストレージ管理ソフト126がCPU123によって実行される。
ストレージ管理ソフト126は、SANの構成情報、統計情報、及びAP実行管理情報の収集と監視、並びに、HBA119のコマンド多重数上限値を自動調整する機能を提供するソフトウェアである。ストレージ管理ソフト126は、SANを構成するハードウェア及びソフトウェアから構成情報、及び統計情報を取得するため、それぞれ専用のエージェントソフトウェアを利用する。
また、ストレージ管理ソフト126は、HBA119のコマンド多重数上限値を自動調整するため、HBA設定更新部118を利用する。また、ストレージ管理ソフト126は、AP113の設定を自動調整するため、AP設定更新部117を利用する。
NIC122は、ストレージ管理サーバ121がLAN105を経由してストレージ管理クライアント102、ストレージ監視エージェントサーバ140、ホストサーバ106、及びストレージ装置131と通信するために使用される。ストレージ管理サーバ121とストレージ装置131との間の通信については、HBA(図示省略)を設けてSANスイッチ129を経由する構成としてもよい。
(ストレージ監視エージェントサーバ)
ストレージ監視エージェントサーバ140は、ストレージ装置131の構成情報及び性能統計情報を収集ならびに蓄積するソフトウェアを実行するコンピュータであり、CPU142、メモリ144、HDD143、NIC141、及びHBA146を備える。ストレージ装置131の容量規模が非常に大きい、もしくはストレージ装置131が業務システム内に複数台存在した場合、ストレージ監視エージェントサーバ140を複数台設置することにより、監視範囲を分割する構成をとってもよい。
CPU142は、HDD143に格納されたソフトウェアプログラムをメモリ144に読み込んで実行するプロセッサである。以下の説明においてメモリ144に読み込まれたソフトウェアプログラムを実行する処理は、CPU142によって実行される。メモリ144は、例えばダイナミックRAMのような半導体記憶装置である。HDD143については、ハードディスク装置の代わりに、例えばフラッシュメモリのような半導体記憶装置又は光ディスク装置を使用してもよい。
メモリ144には、HDD143から読み込まれCPU142によって実行されるソフトウェアプログラム及びCPU142によって参照されるデータが格納される。具体的には、少なくともストレージ監視エージェント145がCPU142によって実行される。NIC141は、ストレージ監視エージェントサーバ140がLAN105を経由してストレージ管理サーバ121と通信するために使用される。
ストレージ監視エージェント145は、HBA146のポート147及びSANスイッチ129を経由して、ストレージ装置131に関する構成情報並びに統計情報を取得するソフトウェアである。
HBA146は、ストレージ監視エージェントサーバ140がSANスイッチ129を経由してストレージ装置131と通信するために使用される。HBA146は、通信ケーブルの接続端子としてのポート147を備える。ストレージ監視エージェントサーバ140とストレージ装置131との間の通信については、HBA146及びSANスイッチ129を使用する代わりに、NIC141及びLAN105を使用してもよい。
なお、エージェントソフトウェアの構成及び配置にはいろいろな方法があり得る。図1では、ストレージ監視エージェント145を専用のストレージ監視エージェントサーバ140で稼動する構成を示したが、ストレージ管理サーバ121において稼動する構成をとってもよい。さらに、ストレージ装置131との通信経路として、HBA146、SANスイッチ129、及びポート132を経由する代わりに、NIC141、LAN105、及びNIC133を経由する経路を使用する構成をとってもよい。
図2は、本実施形態の骨子を示す概念図である。ストレージシステムの管理方法の処理手順について、(a)〜(l)について、図1を適宜参照して説明する。なお、(a)〜(l)は、図2に示す(a)〜(l)と対応しており、主要箇所に記載している。また、課題での(1)〜(7)の解決手段として、下記の(1)〜(7)が対応している。
(1)基本手順(図21参照)。
基本手順は、(a)〜(d)で構成される。
(a)ストレージ管理サーバ121(図2において、ストレージ管理ソフト126で記載している。)は、ホストサーバ106からパス管理ソフト115を介してパス情報を取得する。
(b)ホストサーバ106は、パス毎の同時コマンド発行数を観測し、パス毎の平均値を算出し、ストレージ管理サーバ121が収集する。なお、同時コマンド発行数の変動は、ホストサーバ106上で観測している。具体的には、HBA119のドライバが、ホストサーバ106からのコマンド発行数を管理している。パス毎(LU毎)のコマンド多重数上限値は設定可能である。
(c)ストレージ監視エージェントサーバ140は、ストレージ装置のポートのコマンド多重数上限値を取得し、ストレージ管理サーバ121が収集する。
(d)ストレージ管理サーバ121は、(c)で得られたストレージ装置のポートのコマンド多重数上限値を、各パスに(b)で得られた取得値により比例配分し、その配分結果をホストサーバ106に送信し、ホストサーバ106は、その配分結果を反映する。
具体的には、図2のホスト201(HOST1)、ホスト202(HOST2)、ホスト203(HOST3),ホスト204(HOST4)、ホスト205(HOST5)において、ストレージ管理ソフト126のエージェント情報収集部S401は、各ホストからのパス情報を取得する。また、エージェント情報収集部S401は、同時コマンド発行数の情報を収集している。さらに、エージェント情報収集部S401は、ストレージ装置のポートのコマンド多重数上限値を取得している。エージェント情報収集部S401は、稼動性能情報をコマンド多重数配分作成部S410に稼動性能情報を渡し、コマンド多重数配分作成部S410は、分配結果をホスト201,202,203,204,205に通知する。各ホストは、各HBA(図2においては、WWN1〜WWN7)のパス毎のコマンド多重数を設定することができる。これにより、パス毎のコマンド多重数の上限値設定を自動化し、ホストからストレージ装置へのI/O性能の劣化を防ぐことができる。なお、稼動性能情報には、後記するリソース統計情報テーブル402、リソース構成情報テーブル407の情報である。
(2)前記した(1)の基本手順に、以下の手順を追加する(図26参照)。
(e)ホストサーバ106は、パス毎の同時コマンド発行数が、パス毎のコマンド多重数上限に達したことをホストサーバ106上で検知し、ストレージ管理サーバ121に通知する。
(f)ストレージ管理サーバ121は、上限に達していないもしくは業務優先度の低いパスに割り当てられているコマンド多重数を一時的に当該パスへ移動する指令を、ホストサーバ106に通知する。
具体的には、図2において、ホスト202でパス毎の同時コマンド発行数が、パス毎のコマンド多重数が上限に達したことをホスト上で検知した場合、ストレージ管理サーバ121に通知する。ストレージ管理サーバ121は、他のホストの状況をみて、ホスト201から、上限に達していないもしくは業務優先度の低いパスに割り当てられているコマンド多重数を一時的にコマンド多重数が上限に達しているパスへ移動することを、ホスト202に指令することができる。これにより、LUへ現在同時発行中の同時コマンド発行数が、設定された上限に達してこれ以上コマンドの多重化ができないとき、他のパスでは割り当てられたコマンド多重数にまだ余裕があるときに、全体としてポートのコマンド実行能力を十分活用できる。
(3)前記した(1)の基本手順に、以下の手順を追加する(図23参照)。
(g)ホストサーバ106のパス管理ソフト115から、系/パス切り替え発生状況を取得し、ストレージ管理サーバ121に通知する。
(h)ストレージ管理サーバ121は、系/パス切り替え発生時に(a)〜(d)を即時実施する。
具体的には、図2において破線の楕円で囲んだように、ホスト204からホスト205への系切替(系切り替え)が発生すると、ホスト204は、ストレージ管理サーバ121に通知し、ホスト205への系切り替えに伴う、パス切り替えを行う。これにより、障害発生時に即座に対応したパス毎のコマンド多重数の上限値の自動調整することができる。
(4)前記した(3)の手順に、以下の手順を追加する。
(i)ストレージ管理サーバ121は、切り替え先ポートに、既に接続されていたホストについて、
(低下した配分量)/(パス切り替え直前の配分量)
をパス切り替えによる性能への影響度合いとして画面表示、もしくは影響度合いに比例してアプリケーション利用者数の上限を自動調整する。
具体的には、図2において、配分影響表示部S411が、影響レポート画面210を表示する。ホスト204とホスト205から成るクラスタにおいて、実行系ホストがホスト204からホスト205に切り替わったときの影響レポート画面の例を示している。影響レポート画面210には、系が切り替わったことにより、ストレージ装置131AのポートY(PortY)を利用しているホスト206(HOST6)、ホスト207(HOST7)の影響度合いを示されている。詳細については、図33を参照して後述する。なお、アプリケーション利用者数の上限の自動調整は、AP設定作成部S420(図4参照)が行う。これにより、障害影響度合いに基づくアプリケーション調整の自動化をすることができる。
(5)前記した(3)の手順に、以下の手順を追加する。
(j)ストレージ管理サーバ121は、系切り替え発生を契機とし、仮想ボリュームPVOLへのパスに対する同時コマンド発行数の観測値を元に、仮想ボリュームSVOLへのパスのコマンド多重数上限値を(d)の方式で算出する。
具体的には、図2において、ストレージ管理サーバ121は、セカンダリサイトであるストレージ装置131Aの仮想ボリュームSVOLへのパスのコマンド多重数の上限値を、ストレージ装置131の仮想ボリュームPVOLの観測値を利用して算出し利用する。これによれば、系切り替え前はSVOLに対するI/O履歴が無いため、PVOLの観測値を活用することができる。
(6)前記した(1)の手順、または(3)の手順に、以下の手順を追加する(図22参照)。
(c+)ストレージ監視エージェントサーバ140は、外部接続のストレージ装置のポートのコマンド多重数上限値を取得し、ストレージ管理サーバ121が収集する。
(k)ストレージ管理サーバ121は、外部ストレージ装置ポートのコマンド多重数上限値を、マッピングされたLUSE1へのパスのコマンド多重数上限としてコマンド多重数を配分する。
具体的には、図2において、外部ストレージ装置131Bのポートのコマンド多重数上限値を、ストレージ装置131のマッピングされたLUSE1へのパスのコマンド多重数上限値としてコマンド多重数を配分することを意味する。
(7)前記した(1)の手順に、以下の手順を追加する(図25参照)。
(l)多重化されたパスは、一般的に高優先度と最大性能を求められるため、ロードバランスされた各パスに一次計算により配分された中から最大値を採用する。ロードバランスされたパスには、(b)で算出された値のうち最大値を均一に配分し、その他のパスへは(d)の方式で再度比例配分する。
具体的には、図2において、論理ボリュームのLU3へのPortBおよびPortCへのパスには、最大値を均一に配分する。これによれば、ロードバランスされたパス構成のポート性能のチューニングを自動化することができる。
図3は、ストレージ装置の変形例を示すシステム構成図である。図3に示すシステム構成図は、図1と比較して、ストレージ装置304にストレージ装置312が外部接続されている、もしくは主サイトであるストレージ装置304に対し、副サイトとしてストレージ装置318が接続される。
ストレージ装置304には、転送制御部305、仮想ボリューム管理制御部306、LU307、仮想ボリュームPVOL308を有する。ストレージ装置312には、転送制御部313、仮想ボリューム管理制御部314、LU315、物理HDD群316を有する。同様に、ストレージ装置318には、転送制御部319、仮想ボリューム管理制御部320、仮想ボリュームSVOL321、物理HDD群322を有する。
ストレージ装置304は、外部接続されたストレージ装置312の物理HDD群316上に作成されたLU315の仮想ボリュームを、LU307としてマッピングし、ポート303を経由してLU307に発行されたI/Oは、ポート309及びポート311を経由してLU315へ転送され、物理HDD群316へのI/Oとして処理される。
ストレージ装置304とストレージ装置318は、互いに正・副の関係にあり、ストレージ装置304上に構築された仮想ボリュームPVOL308は、ポート310及びポート317を経由して仮想ボリュームSVOL321へ同期コピーされ、仮想ボリュームPVOL308と仮想ボリュームSVOL321の内容は常に同じであることが保証される。
図4は、ストレージシステムの管理方法を示す機能ブロック図である。適宜図1を参照して説明する。ストレージ管理ソフト126は、プログラムモジュールとして、エージェント情報収集部S401(図27参照)、優先順位設定部S404(図28参照)、配分移動候補選択順位付け部S405(図30参照)、パス対応検索部S408(図29参照)、コマンド多重数配分作成部S410(図21〜図23、図25、図26参照)、配分影響表示部S411、外部ストレージ対応検索部S412(図31参照)、HBA設定更新制御部S414、ミラーボリューム対応検索部S415(図32参照)、AP設定更新制御部S418、及びAP設定作成部S420(図24参照)を有する。
また、リソース統計情報テーブル402(図6参照)、配分順位付け条件テーブル403(図16参照)、リソース構成情報テーブル407(図34参照)、パス対応テーブル409(図15参照)、コマンド多重数配分制御テーブル406(図17参照)、外部ストレージ対応テーブル413(図19参照)、ミラーボリューム対応テーブル416(図20参照)、コマンド多重数配分スケジュールテーブル417(図18参照)、及びAP設定スケジュールテーブル419(図14参照)は、メモリ125又はHDD124に格納される。
SAN環境に関する構成情報、及び統計情報の収集並びに監視は以下のように行なわれる。AP監視エージェント111、ホスト監視エージェント112、及びストレージ監視エージェント145は、所定のタイミングで(例えば、スケジューリング設定に従い、定期的にタイマーによって)起動されるか、あるいは、ストレージ管理ソフト126の要求によって起動されて、自エージェントが担当する監視対象装置又はソフトウェアから構成情報又は統計情報を取得する。ストレージ管理ソフト126のエージェント情報収集部S401も同様に、所定のタイミングで(例えば、スケジューリング設定に従い定期的に)起動され、AP監視エージェント111、ホスト監視エージェント112、及びストレージ監視エージェント145から構成情報又は統計情報を収集する。
そして、エージェント情報収集部S401は、収集した情報をリソース構成情報テーブル407又はリソース統計情報テーブル402のいずれかとして格納する。また、リソース統計情報テーブル402には、ホスト監視エージェント112がHBAドライバ116へ問い合わせることによって観測する情報として、ホストサーバ106からHBA119を経由してストレージ装置131に発行されるコマンドの同時発行数が含まれる。
リソースとは、SANを構成するハードウェア(ストレージ装置、ホストサーバ)とその物理的又は論理的な構成要素(アレイグループ、論理ボリューム)、及び、これらハードウェア上で実行されるプログラム(業務ソフト、データベース管理システム、ファイル管理システム、ボリューム管理ソフト)とその論理的な構成要素(ファイルシステム、論理デバイス)を総称したものである。
リソース構成情報テーブル407は、大別するとリソース間の関連情報とリソース個別の属性情報とに分けられ、前者はリソース間に存在するI/Oの依存関係を表すものである。例えば、リソースAに対するI/O命令がリソースBに対するI/O命令に変換されて処理される場合、又は、リソースAに対するI/O命令を処理するときにリソースBの処理能力が使用される場合、リソースAとリソースBの間にI/O依存関係がある。
図34は、リソース構成情報テーブルに含まれる各種テーブルを示す説明図である。リソース構成情報テーブル407は、HBA−ファイルシステム関連テーブル700(図7参照)、アプリケーション(AP)−ファイルシステム関連テーブル800(図8参照)、ファイルシステム−ストレージ装置関連テーブル900(図9参照)、ストレージ装置−LU関連テーブル1000(図10参照)、ホストサーバ−クラスタ関連テーブル1100(図11参照)、ストレージ装置側ポートのコマンド多重数上限値テーブル1200(図12参照)、AP構成情報テーブル1300(図13参照)を有する。詳細な各テーブルの説明は、後述する。
ストレージ管理クライアント102は、リソース構成情報テーブル407又はパス対応テーブル409から取得したパス一覧を画面表示し(図中では省略)、ユーザにそれぞれのパスの優先順位もしくは優先順位を決定するための条件を入力させ、設定情報を優先順位設定部S404へ送信する。優先順位設定部S404は、入力された優先順位もしくは優先順位を決定するための条件を配分順位付け条件テーブル403へ格納する。
配分移動候補選択順位付け部S405は、パス対応テーブル409が更新されるタイミング(つまり、ホストサーバ106における系切り替えを契機としたパス切り替えが発生したタイミング)又はストレージ管理ソフト126からの要求で起動され、配分順位付け条件テーブル403に格納された情報を元に、パス対応テーブル409に格納されたパス情報へ優先順位情報を追加又は更新する。
ホストサーバ106のHBA119に与えるコマンド多重数上限値の自動調整は、以下のように行われる。コマンド多重数配分作成部S410は、エージェント情報収集部S401によりリソース統計情報テーブル402又はリソース構成情報テーブル407が更新されたタイミング、もしくはストレージ管理ソフト126の要求により起動される。コマンド多重数配分作成部S410は、パス対応テーブル409に格納されたパス対応情報から、同一のポート132に接続されているパスをグルーピングし、同一のグループ内にあるパスについて、パス上に存在するホストサーバ106のHBA119に関するコマンド多重数統計情報をリソース統計情報テーブル402から抽出する。
さらに、リソース構成情報テーブル407からストレージ装置131のポート132のコマンド多重数上限値を抽出し、それをHBA119に関するコマンド多重数統計情報の値に応じてグループ内各HBAに比例配分した値を算出する。算出したHBA毎のコマンド多重数配分量をグループ単位でコマンド多重数配分制御テーブルへ格納する。さらに、配分実行時刻(例えば、即時配分実施であれば現在の時刻)とコマンド多重数配分制御テーブル406の配分量データへのリンク(例えば、インデックスやID番号)を、グループ毎にコマンド多重数配分スケジュールテーブル417へ格納する。
例えば、比例配分の計算式は、(A1)式となる。
図2において、ホスト201(HOST1)からLU1へのI/O経路に対するコマンド多重数の配分量をf1とすると、
f1=F×m1/(m1+m2+m3+m4+…) …(A1) 但し、
F:ストレージ装置のポートA(PortA)のコマンド多重数上限値
m1、m2、m3、m4、…:
ポートAに接続された各LUに対する同時コマンド発行数(単位時間あたりの平均)
なお、m1、m2、m3、m4、…の値は、ホスト監視エージェントがHBAドライバを通じて観測する。比例配分はLU毎に実施される。
コマンド多重数配分作成部S410がコマンド多重数配分量を算出(一次配分)した結果、ロードバランサによってパス多重化が行われているパスに不均衡な配分が実施されてしまう場合、コマンド多重数配分作成部S410は、次に述べる手順にて是正する。
[手順1]一次配分によって、ロードバランスされた各パスへ割り当てられた配分量のうち、最大のものを調べる。
[手順2]手順1で求めた最大値を、ロードバランスされた各パスへ均一に割り当てる。
[手順3]ストレージ装置131のポート132のコマンド多重数上限値から、手順2で割り当てた配分量を差し引き、残りのコマンド多重数配分量を、ポート132に接続されたロードバランスされたパス以外のパスへ再度比例配分する。
HBA設定更新制御部S414は、コマンド多重数配分スケジュールテーブル417が更新されるタイミング、もしくはストレージ管理ソフト126からの要求に応じて起動され、コマンド多重数配分スケジュールテーブル417に格納された最新の配分スケジュールを抽出し、配分スケジュールに格納されたリンク(例えばインデックスやID番号)をキーとしてコマンド多重数配分制御テーブル406から配分量情報を抽出し、ホストサーバ106のHBA設定更新部118に対し、指定時刻に指定配分量で更新命令を発行する。
ホストサーバ106から同時に発行されるコマンド数が、HBA119に配分したコマンド多重数上限値に達したことをホスト監視エージェント112によって検出した場合、ストレージ管理ソフト126によりコマンド多重数配分作成部S410が起動され、現在コマンド多重数の上限に達していない他のパスへ割り当てられているコマンド多重数の一部を、上限値に達したHBA119に配分移動する。配分移動元は、配分移動候補順位付け部S405によりパス対応テーブル409へ格納された順位付け情報に基づき、優先順位の低いHBAから高いHBAへ配分移動する。
外部ストレージ対応検索部S412は、リソース構成情報テーブル407が更新されたタイミング、もしくはストレージ管理ソフト126の要求により起動され、ストレージ装置304上にマッピングされた仮想ボリュームLU307と外部接続されたストレージ装置312の対応関係情報を外部ストレージ対応テーブル413へ格納する。コマンド多重数配分作成部S410が外部ストレージ対応テーブル413に格納された対応関係情報を用いてコマンド多重数配分量を算出する処理の詳細は図22において説明する。
ミラーボリューム対応検索部S415は、リソース構成情報テーブル407が更新されたタイミング、もしくはストレージ管理ソフト126の要求により起動され、ストレージ装置304上に作成されたプライマリボリュームである仮想ボリュームPVOL308(図3参照)と、外部接続されたストレージ装置318に作成されたセカンダリボリュームである仮想ボリュームSVOL321(図3参照)の同期コピー対応関係情報を、ミラーボリューム対応テーブル416に格納する。コマンド多重数配分作成部S410がミラーボリューム対応テーブル416に格納された同期コピー対応関係情報を用いてコマンド多重数配分量を算出する処理の詳細は図23において説明する。
配分影響表示部S411は、パス対応テーブル409が更新されるタイミング(つまり、ホストサーバ106における系切り替えを契機としたパス切り替えが発生したタイミング)又はストレージ管理ソフト126からの要求で起動され、切り替えが発生したパスの新たな接続先のポート132に既に接続されていた他のパスをパス対応テーブル409から抽出し、コマンド多重数配分スケジュールテーブル417とコマンド多重数配分制御テーブル406に格納された情報から、抽出したパス上のHBA119に配分されたコマンド多重数のパス切り替え発生前後の変動値をストレージ管理クライアント上の表示装置104を経由してユーザ表示する。変動値は、パス切り替え発生前を100%とした百分率で表示してもよい。
AP設定作成部S420は、パス対応テーブル409が更新されるタイミング(つまり、ホストサーバ106における系切り替えを契機としたパス切り替えが発生したタイミング)又はストレージ管理ソフト126からの要求で起動される。AP設定作成部S420は、リソース構成情報からAP113の構成情報(例えば、Webアプリケーションであれば、最大ログインユーザ数の設定)を取得し、AP113が利用するパスに関して配分影響表示部S411と同様の手順で取得したコマンド多重数の変動値の百分率による比例計算を行い、AP113の構成情報(例えば、Webアプリケーションであれば、最大ログインユーザ数の設定)を調整した値を算出する。例えば、変動値の百分率が−50%であれば、最大ログインユーザ数を通常の50%に制限することになる。
算出した値とAP113の設定値変更予定時刻をAP設定スケジュールテーブル419へ格納する。AP設定更新制御部は、AP設定スケジュールテーブル419が更新されるタイミング又はストレージ管理ソフト126からの要求で起動され、AP設定更新部に更新後のAP113の構成情報を通知する。
図5は、リソース、リソース間の性能に関する依存関係ならびにI/O経路の具体例を示す説明図である。リソースとは、SAN環境の性能監視においてまとまった単位でメトリック値が取得されるSAN構成要素である。SANを構成する具体的なハードウェアやソフトウェアごとにさまざまな種類のリソースがある。個々のSAN環境中のリソースは互いに性能上の影響を及ぼし合う関係にある。
図5に示すように、SAN環境のハードウェアは、ホストサーバA(501)、ホストサーバB(502)、ホストサーバC(503)、ホストサーバD(504)という4つのホストサーバ106と、スイッチA(551)、スイッチB(552)、スイッチC(553)、スイッチD(554)という4つのSANスイッチ129、ストレージ装置A(573)という1つのストレージ装置131で構成される。ホストサーバA(501)では、業務ソフトとサーバのハードならびにOSの性能情報を取得するためそれぞれAP監視エージェント111(図1参照)とホスト監視エージェント112(図1参照)が稼動しているものとする。他のホストサーバも同様である。
アプリケーションであるAP−A(505)、AP−B(506)は、AP監視エージェント111の情報取得対象となるリソースの一例である。また、ファイルシステムであるFS−A(510)〜FS−C(512)と、HBA−A(516)、HBA−B(517)、ポート(521)、ポート(522)は、ホスト監視エージェント112が情報取得の対象とするリソースの一例である。ファイルシステムは、OSがデータの入出力サービスを提供する単位である。
例えば、AP−A(505)と、FS−A(510)ならびにFS−B(511)を結ぶ線は、AP−A(505)がFS−A(510)ならびにFS−B(511)にI/Oを発行するという関係を表し、FS−A(510)とHBA−A(516)を結ぶ線は、FS−A(510)に対するI/OはHBA−A(516)を経由するという関係を表している。この関係は両リソースの間にI/O経路があり、一方の負荷が増えると他方の負荷も増えるという性能上の依存関係があることを意味する。
ストレージ装置A(573)の性能情報を取得するためストレージ監視エージェント145(図1参照)が稼動しているものとする。このストレージ監視エージェント145が情報取得対象とするリソースには、ポート(555〜558)と、論理ボリュームであるLU−A(561)〜LU−E(565)、アレイグループであるAG−A(566)〜AB−B(567)、物理HDD(568〜572)がある。
アレイグループは、ストレージサブシステムの機能によって複数の物理的なハードディスクドライブを論理的に1つの高速かつ高信頼のディスクドライブに見せたものである。また、論理ボリュームは、同じくストレージサブシステムの機能によって1つのアレイグループを切り分け、ホストサーバの用途に合ったサイズの論理的なディスクドライブに見せたものである。ホストサーバのファイルシステムは、ストレージ装置の論理ボリュームに割り当てられ、論理ボリュームはアレイグループに、アレイグループは物理ディスクに割り当てられるため、これらリソース間には性能の依存関係がある。
また、ホストサーバのファイルシステムと、同ファイルシステムが割り当てられるストレージ装置の論理ボリュームの対が決まると、この両者の間でやり取りされる入出力データの配送経路として、HBAのポートから、SANスイッチのポートを経て、ストレージサブシステムのポートまでが決まる。従って、ホストサーバのボリュームにかかる入出力の負荷は、経路上のポートに対する通信の負荷となるため、ボリューム及び論理ボリュームの対と、経路上のポートの間には性能の依存関係がある。
図5に示す例では、FS−A(510)はLU−A(561)に割り当てられる。また、LU−A(561)は、AG−A(566)に、AG−A(566)は物理HDD(568〜570)に割り当てられ、FS−A(510)とストレージ装置A(573)の対にポート521からポート527、ポート533、ポート539、ポート545、ポート555までの経路が対応する。AP−A(505)が利用するFS−A(510)に対するI/O負荷は、FS−A(510)から、ポート527、ポート533、ポート539、ポート545、ポート555、LU−A(561)、AG−A(566)というI/O経路(パス)を経て物理HDD(568〜570)に達する。
ホストサーバA(501)にロードバランス機能を持つパス管理ソフト(図中では省略)を導入している場合、AP−A(505)からLU−A(561)へのI/O経路として、ポート521、ポート527、ポート533、ポート539、ポート545、ポート555、LU−A(561)というI/O経路の他に、ポート522、ポート528、ポート534、ポート540、ポート546、ポート556、LU−A(561)というI/O経路を設けて、パス管理ソフトによりそれぞれのI/O経路へ均にI/Oを発行する構成をとってもよい。
ホストサーバB(502)とホストサーバC(503)はクラスタA(526)に属しており、ホストサーバに冗長性を持たせている。クラスタ構成では、一方のホストサーバがアプリケーションによるサービスを提供している間は、他方のホストサーバのアプリケーションは停止した状態となる。サービス提供中のホストサーバのハードウェアもしくはソフトウェアに障害が発生し、アプリケーションがサービスの提供を続行できない状況が発生した場合、サービス提供中のホストサーバ上のアプリケーションを停止し、他方のホストサーバ上のアプリケーションを起動する。なお、この動作を『系の切り替え』と呼ぶ。
AP−C(507)とAP−D(508)が参照・更新するデータはLU−D(564)に格納し、系の切り替えが発生した場合、停止したアプリケーションから、新たに起動するアプリケーションへデータが引き継がれる。例えば、ホストサーバB(502)に障害が発生し、ホストサーバC(503)へ系の切り替えが発生した場合、FS−D(513)からLU−D(564)へのI/O経路は遮断され、新たにFS−E(514)からLU−D(564)へのI/O経路が接続される。FS−E(514)からLU−D(564)へのI/O経路上に存在するポート558について、ポート558を経由する別のI/O経路としてホストサーバD(504)のFS−F(515)からLU−E(565)へのI/O経路が別に存在している。系の切り替えを契機として、FS−E(514)からLU−DへのI/O経路がポート558へ負荷を与えることにより、FS−F(515)からLU−E(565)へのI/O経路に新たな性能上の影響を与える。
次に各種テーブルについて、適宜図5を参照して説明する。
図6は、リソース統計情報テーブルの構造の一例を示す説明図である。リソース統計情報テーブル402には、ホスト監視エージェント112やストレージ監視エージェント145が収集したリソース統計情報が格納されている。図6は、ホスト監視エージェント112が観測したパス毎のコマンド同時発行数の単位時間毎平均値が格納された例を示している。図6に示す例では、リソース統計情報テーブル402には、番号欄601、ホストサーバ欄602、LU欄603、コマンド同時発行数欄604、収集時刻欄605を有する。例えば、番号#1によれば、ホストサーバA(501)は、LU−A(561)とのパスにおいて、コマンド同時発行数が101であることがわかる。
次に、図34に示した各種テーブルについて、図7〜図13を参照して説明する。なお、適宜図5を参照する。図7〜13は、リソース構成情報テーブル407に格納されたストレージシステム内に存在するハードウェアもしくはソフトウェアの構成情報の具体例である。
そのうち、図7〜図10は、ストレージ装置131の上に存在するLU138と、LU138の上にある情報を利用するAP113の、[利用者]−[利用対象]の関係を格納するテーブルの具体例である。図7〜10の各テーブルは、JOIN(結合)して1つのテーブルに格納する構成をとってもよい。
図7は、HBA−ファイルシステム関連テーブルを示す説明図である。HBA−ファイルシステム関連テーブル700は、HBAとファイルシステムの関係を格納しているテーブルの具体例であり、ホストサーバ欄701、HBA欄702、ファイルシステム欄703とを有する。例えば、ホストサーバA(501)にはHBA−A(516)とHBA−B(517)があり、HBA−A(516)からはファイルシステムA(510)へのI/Oが発行され、HBA−B(517)からはファイルシステムFS−B(511)及びファイルシステムFS−C(512)へのI/Oが発行されることを表している。
図8は、アプリケーション(AP)−ファイルシステム関連テーブルを示す説明図である。アプリケーション(AP)−ファイルシステム関連テーブル800は、アプリケーションとファイルシステムの関係を格納しているテーブルの具体例であり、ホストサーバ欄801、AP欄802、ファイルシステム欄803を有する。例えば、ホストサーバA(501)には、アプリケーションAP−A(505)とアプリケーションAP−B(506)があり、アプリケーションAP−A(505)は、ファイルシステムFS−A(510)とファイルシステムFS−B(511)へ業務データを格納し、アプリケーションAP−B(506)はファイルシステムFS−C(512)に業務データを格納することを表している。
図9は、ファイルシステム−ストレージ装置関連テーブルを示す説明図である。ファイルシステム−ストレージ装置関連テーブル900は、ファイルシステムとストレージ装置の関係を格納しているテーブルの具体例であり、ホストサーバ欄901、ファイルシステム欄902、ストレージ装置欄903、ポート欄904を有する。例えば、ホストサーバA(501)には、ファイルシステムFS−A(510)、ファイルシステムFS−B(511)及びファイルシステムFS−C(512)があり、ファイルシステムFS−A(510)へのI/Oは、ストレージ装置A(573)のポートA(555)を経由してストレージ装置A(573)内の記憶領域を利用していることを表している。
図10は、ストレージ装置−LU関連テーブルを示す説明図である。ストレージ装置−LU関連テーブル1000は、ストレージ装置とLUの関係を格納しているテーブルの具体例であり、ストレージ装置欄1001、ポート欄1002、LU欄1003を有する。例えば、ストレージ装置A(501)には、ポートC(557)及びポートD(558)があり、LU−D(564)に対して発行されたI/OはポートC(557)またはポートD(558)で受信することを表している。すなわち、I/O経路が二重化の例である。
図11は、ホストサーバ−クラスタ関連テーブルを示す説明図である。ホストサーバ−クラスタ関連テーブル1100は、ホストサーバがクラスタを構成している場合のクラスタ名(論理ホスト名)とホストサーバ名(物理ホスト名)の関係を格納するテーブルの具体例である。クラスタ構成をとっているホストサーバでは、クラスタグループに含まれるいずれかのホストサーバがオンライン(実行系)となり、それ以外のホストサーバがオフライン(待機系)となる。ホストサーバ−クラスタ関連テーブル1100は、ホストサーバ欄1101、クラスタ欄1102、実行系であるか否かの識別子欄1103を有する。例えば、図11の示す例においては、ホストサーバB(502)は、クラスタA(526)に属し、実行系であり、ホストサーバC(503)は、クラスタA(526)に属し、待機系となっている。実行系であるか否かの識別子が、後にコマンド多重数の配分量を計算するときの配分条件として利用される。
図12は、ストレージ装置側ポートのコマンド多重数上限値テーブルを示す説明図である。ストレージ装置側ポートのコマンド多重数上限値テーブル1200は、ストレージ装置上の各ポートのコマンド多重数上限値を格納するテーブルであり、ストレージ装置欄1201、ポート欄1202、コマンド多重数上限値欄1203を有する。例えば、ストレージ装置A(573)には、ポートA(555)、ポートB(556)、ポートC(557)及びポートD(558)があり、それぞれ同時に処理できるコマンド数の上限が256であることを表している。
図13は、AP構成情報テーブル1300を示す説明図である。AP構成情報テーブル1300は、業務アプリケーション(AP)の構成情報を格納するテーブルであり、ホストサーバ欄1301、AP欄1302、最大ログインユーザ数の規定値欄1303、最大ログインユーザ数の現在値欄1304を有する。例えば、ホストサーバA(501)ではAP−A(505)及びAP−B(506)が実行されており、それぞれの業務アプリケーションに設定された最大ログインユーザ数の規定値および現在値が格納されている。規定値とは初期設定時に与えられる最も期待される能力値であり、現在値とは現在設定された値である。現在値はストレージ装置への負荷を考慮して最適な値が動的に設定され、規定値とは異なる値が設定されることもある。
図14は、AP設定スケジュールテーブルを示す説明図である。AP設定スケジュールテーブル419は、アプリケーションの設定更新の配分予定時刻(調整予定時刻)を格納するテーブルであり、番号欄1401、配分予定時刻欄1402、配分完了時刻欄1403、ホストサーバ欄1404、AP欄1405、最大ログインユーザ数の調整値欄1406を有する。配分予定時刻欄1402の他に、配分実行履歴を保存するために配分完了時刻欄1403に配分完了時刻を保存している。例えば、ホストサーバA(501)のAP−A(505)は、コマンド多重数配分量の変化量に応じて最大ログインユーザ数を20,000(図13参照)から18、000アカウントに調整されたことを表している。なお、後述する図17及び図18のように、配分予定時刻と設定値の情報を別々のテーブルに保持する構成をとってもよい。
図15は、パス対応テーブルを示す説明図である。図15に示すパス対応テーブル409は、配分移動候補選択順位付け部S405による順位付け後のパス対応テーブルであり、リソース構成情報テーブル407に格納された各種リソースの構成情報から、コマンド多重数の配分量を計算するために必要なパス対応情報を抽出した結果を格納するテーブルである。パス対応テーブル409は、番号欄1501、ホストサーバ欄1502、AP欄1503、ファイルシステム欄1504、HBA欄1505、ストレージ装置のポート欄1506、LU欄1507、帯域保障欄1508、優先度欄1509、収集時刻欄1510を有する。
図15の例では、後述する配分順位付け条件テーブル403に格納された各LUの優先順位情報をマージし、各パスの配分量を計算する条件として加える構成となっている。ホストサーバがクラスタ構成をとっている場合は、現在実行系となっているホストサーバのパスだけを抽出する。例えば、図5のような構成でクラスタAのホストサーバBが実行系、ホストサーバCが待機系となっている場合は、ホストサーバCのパス情報は抽出しない。抽出しない理由は、ホストサーバCが利用するパスは系切り替えが発生するまで使用されないためである。
図16は、配分順位付け条件テーブルを示す説明図である。配分順位付け条件テーブル403は、統計情報に基づく自動コマンド多重数配分に加え、各LUに優先順位を与えるテーブルであり、リソースの一時的な負荷の増加に応じた自動配分移動の対象ボリューム選択条件として利用される。配分順位付け条件テーブル403は、番号欄1601、LU欄1602、優先度欄1603、帯域保証欄1604を有する。図16に示す優先度欄1603には、図5のストレージ装置A全体を100%として各LUの業務優先度合いを百分率により設定した値が入力されている。優先度欄1603の値は、システム管理者が図4の優先順位設定部S404を経由して設定する。
配分量を一定量保証したいボリューム、もしくは自動配分移動対象外のボリュームを指定する属性を追加して、コマンド多重数の配分条件に加えてもよい。図5では、帯域保証欄1604を追加し、帯域保証ありのLUに対しては、パス切り替えを契機とする自動配分移動の対象から除外する例を示している。帯域保証欄1604の値は、システム管理者が図4の優先順位設定部S404を経由して設定する。
図17は、コマンド多重数配分制御テーブルを示す説明図である。コマンド多重数配分制御テーブル406は、番号欄1701、ホストサーバ欄1702、HBA欄1703、LU欄1704、コマンド多重数配分量欄1705を有する。各パスへのコマンド多重数配分量欄1705の値は、HBA欄1703の設定値として与える。パス管理ソフト115のパス定義によってHBAに接続されているLU毎に、コマンド多重発行数の上限値を設定する必要がある。このため、コマンド多重数の配分量は、ホスト、HBA、LUの組み合わせ毎に割り当てられる。
図18は、コマンド多重数配分スケジュールテーブルを示す説明図である。コマンド多重数配分スケジュールテーブル417は、コマンド多重数配分の配分予定時刻(実行予定時刻)を格納するテーブルであり、番号欄1801、配分予定時刻欄1802、配分完了時刻欄1803を有する。番号欄1801は、図17の番号欄1701と対応する。配分予定時刻欄1802の配分予定時刻の他に、配分実行履歴を保存するために配分完了時刻を配分完了時刻欄1803に保存する構成をとっている。
図19は、外部ストレージ対応テーブルを示す説明図である。外部ストレージ対応テーブル413は、外部接続されたストレージ装置からマッピングされたLUについての、マッピング先ストレージ装置とマッピング元ストレージ装置の対応関係を格納するテーブルであり、番号欄1901、マッピング先ストレージ装置欄1902、LU欄1903、マッピング元ストレージ装置欄1904、LU欄1905を有する。例えば、番号#1によれば、ストレージ装置Aには、外部ストレージからマッピングされているLU−Hがあり、LU−HへのI/Oはマッピング元外部接続ストレージ装置Bへ転送され、LU−LへのI/Oとして処理されることを表している。
図20は、ミラーボリューム対応テーブルを示す説明図である。ミラーボリュームとは、ある論理ボリュームの内容を複製したボリュームのことであり、正ボリューム(プライマリボリューム)へのI/Oを即座に副ボリューム(セカンダリボリューム)に反映して、正・副を常に同一の状態に保つ同期コピー方式と、定期的に正ボリュームの内容を複写してスナップショットを保存する非同期方式がある。業務システムに冗長性を持たせるためホストサーバとLUの双方を二重化した運用を行うような場合、正・副ボリュームを常に同一の状態に保つ同期方式が利用される。
ミラーボリューム対応テーブル416は、番号欄2001、プライマリボリューム欄2002、ストレージ装置のプライマリサイト欄2003、セカンダリボリューム欄2004、ストレージ装置のセカンダリサイト欄2005、コピー方式欄2006を有する。図20の例では、ストレージ装置AのプライマリボリュームPは、ストレージ装置BのセカンダリボリュームTと同期コピー関係にあることを表している。
次に各部の処理について図21〜図32を参照して説明する。適宜図4を参照する。
図21は、コマンド多重数配分作成部の処理を示すフローチャートである。コマンド多重数配分作成部S410は、ストレージ装置のポートのコマンド実行能力を発揮するために、ポートに接続された各パスへ配分する処理である。コマンド多重数配分作成部S410は、ストレージ装置のポート毎にステップS2102〜ステップS2107)を繰り返し、対象ポートが無ければ終了する(ステップS2101)。ステップS2102において、リソース構成情報テーブル407から、ストレージ装置側のポートのコマンド多重数上限値を取得する。ステップS2103において、パス対応テーブル409から、ストレージ装置側のポートに接続されているパスの一覧を取得する。
ステップS2104において、リソース統計情報テーブル402から、パス毎のコマンド同時発行数一覧を取得する。ステップS2105において、ストレージ装置側のポートのコマンド多重数上限値を、ステップS2104で取得したコマンド同時発行数の値に基づき各パスへ比例配分した値を算出する。ステップS2106において、ステップS2105で算出したコマンド多重数配分量をコマンド多重数配分制御テーブル406へ格納する。
ステップS2107において、コマンド多重数配分スケジュールテーブル417へ、コマンド多重数配分実行時刻を格納する。例えば、即時実行するのであれば実行時刻として現在時刻を格納する。
図22は、コマンド多重数配分作成部の変形例1を示すフローチャートである。図22では、図21のフローチャートに、外部ストレージ装置が接続された場合の考慮を追加している(ステップS2206〜ステップS2208)。
コマンド多重数配分作成部S410は、ストレージ装置のポート毎にステップS2202〜ステップS2210を繰り返し、対象ポートが無ければ終了する(ステップS2201)。ステップS2202において、リソース構成情報テーブル407から、ストレージ装置側のポートのコマンド多重数上限値を取得する。ステップS2203において、パス対応テーブル409から、ストレージ装置側のポートに接続されているパスの一覧を取得する。ステップS2204において、リソース統計情報テーブル402から、パス毎のコマンド同時発行数一覧を取得する。ステップS2205において、ストレージ装置側のポートのコマンド多重数上限値を、ステップS2204で取得したコマンド同時発行数の値に基づき各パスへ比例配分した値を算出する。
ステップS2206において、外部ストレージ装置からマッピングされているLUについて、外部ストレージ装置のポートのコマンド多重数上限値を取得する。ステップS2207において、外部ストレージ判定条件を満たしているか否かを判定する。外部ストレージ判定条件が全て真の場合は(ステップS2207,Yes)、ステップS2208へ進み、いずれか又は両方が偽の場合は(ステップS2207,No)、ステップS2209へ進む。
外部ストレージ判定条件を以下に示す。
条件1:現在処理の対象となっているLUは外部ストレージ装置からマッピングされたLUである。
条件2:(ステップS2205で算出された配分量)>(外部ストレージ装置のポートのコマンド多重数上限値)。
ステップS2208において、現在処理の対象となっているLUへの配分量を(外部ストレージ装置のポートのコマンド多重数上限値)に設定し、現在処理の対象となっているLU以外のLUへの配分量をステップS2206の手順で再度比例配分する。
ステップS2209において、ステップS2205またはステップS2208で算出したコマンド多重数配分量をコマンド多重数配分制御テーブル406へ格納する。ステップS2210において、コマンド多重数配分スケジュールテーブル417へ、コマンド多重数配分実行時刻を格納する。例えば、即時実行するのであれば実行時刻として現在時刻を格納する。
図23は、コマンド多重数配分作成部の変形例2を示すフローチャートである。図23では、図21のフローチャートに、ミラーボリュームが存在した場合の考慮を追加している(ステップS2305、ステップS2306)。
コマンド多重数配分作成部S410は、ストレージ装置のポート毎にステップS2302〜ステップS2309を繰り返し、対象ポートが無ければ終了する(ステップS2301)。ステップS2302において、リソース構成情報テーブル407から、ストレージ装置側のポートのコマンド多重数上限値を取得する。ステップS2303において、パス対応テーブル409から、ストレージ装置側のポートに接続されているパスの一覧を取得する。ステップS2304において、リソース統計情報テーブル402から、パス毎のコマンド同時発行数一覧を取得する。
ステップS2305において、系切り替え判定条件に満たしているか否かを判定する。系切り替え条件が全て真の場合は(ステップS2305,Yes)、ステップS2306へ進み、いずれか又は両方が偽の場合は(ステップS2305,No)、ステップS2307へ進む。
系切り替え条件を以下に示す。
条件1:パス切り替えを契機とする再配分である。
条件2:ミラーリングされているセカンダリボリュームに新たにパスが接続された。(I/O経路がプライマリボリュームからセカンダリボリュームへ移った。)
ステップS2306において、ステップS2304で取得したパス毎のコマンド同時発行数のうち、セカンダリボリュームのコマンド同時発行数統計情報を、系切り替え直前まで利用されていたプライマリボリュームの統計情報に入れ替える。セカンダリボリュームには系切り替え直前までI/Oが無いため、プライマリボリュームの統計情報を配分量計算に利用する。
ステップS2307において、ストレージ装置側のポートのコマンド多重数上限値を、ステップS2304及びステップS2306において取得したコマンド同時発行数の値に基づき各パスへ比例配分した値を算出する。ステップS2308において、ステップS2307において算出したコマンド多重数配分量をコマンド多重数配分制御テーブル406へ格納する。ステップS2309において、コマンド多重数配分スケジュールテーブル417へ、コマンド多重数配分実行時刻を格納する。例えば、即時実行するのであれば実行時刻として現在時刻を格納する。
図24は、AP設定作成部の処理を示すフローチャートである。AP設定作成部S420は、アプリケーション(AP)の構成情報を、コマンド多重数配分量変化量に基づき自動調整する処理を行う。AP設定作成部S420は、AP毎にステップS2402〜ステップS2405を繰り返し、対象APが無ければ終了する(ステップS2401)。ステップS2402において、リソース構成情報テーブル407から、アプリケーションの構成情報を取得する。ステップS2403において、コマンド多重数配分制御テーブル406から、アプリケーションが利用するパスのコマンド多重数配分量調整前と調整後のコマンド多重数配分量を取得する。
ステップS2404において、例えば、以下のような計算式に基づきアプリケーションの新しい設定値を算出する。アプリケーション設定値(例えば、最大ログインユーザ数)算出式は、(A2)式で示される。
(コマンド多重数配分量調整後の配分量)/(コマンド多重数配分量調整前の配分量)×(アプリケーションのログインユーザ数の規定値) …(A2)
ステップS2405において、ステップS2404において算出したアプリケーション設定の調整値と設定更新予定時刻をAP設定スケジュールテーブル419へ格納する。例えば、即時実行するのであれば更新予定時刻として現在時刻を格納する。
図25は、コマンド多重数配分作成部の変形例3を示すフローチャートである。図25では、図21のフローチャート(ステップS2102〜ステップS2107)に、ロードバランスされたパスが存在する場合の考慮を追加している(ステップS2501〜ステップS2504)。ステップS2102〜ステップS2107は、説明を省略する。
コマンド多重数配分作成部S410は、ステップS2501において、ロードバランサ判定条件を満たすか否かを判定する。下記のロードバランサ条件が真の場合は(ステップS2501,Yes),ステップS2502へ進み、偽の場合は(ステップS2502,No)処理を終了する。
ロードバランサ条件:監視対象のストレージシステム内にロードバランサによるパス多重化されたパスがある。
ステップS2502において、ステップS2105によって割り当てられたコマンド多重数配分量のうち、多重化されたパスに割り当てられた配分量を抽出し、その中で最大の配分量の値を多重化されたパスへ均配分する。均配分の結果残ったコマンド多重数配分量をステップS2105の手順で他のパスへ再度比例配分する。例えば、ホストサーバAからLU−AへのパスがパスA〜Eまで存在したとすると、図21のコマンド多重数配分の結果によりパスA〜Eに割り当てられた配分量のうち最大のもの(例えばパスCへの配分量Cn)を、パスA〜Eに均配分(パスA〜Eの配分量を全てCnに変更)し、パスA〜E上に存在するストレージ装置の各ポートについて、パスA〜Eへ割り当てた配分量を除いたコマンド多重数上限値をその他のパスへ再度比例配分する。
ステップS2503において、ステップS2502において算出したコマンド多重数配分量をコマンド多重数配分制御テーブル406へ格納する。ステップS2504において、コマンド多重数配分スケジュールテーブル417へ、コマンド多重数配分実行時刻を格納する。例えば、即時実行するのであれば実行時刻として現在時刻を格納する。ただし、この処理は、図21で既に行われており、スケジュールに変更がなければ省略可能な処理となる。
図26は、コマンド多重数配分作成部の変形例4を示すフローチャートである。図26では、図21のフローチャート(ステップS2101〜ステップS2107)に、パスのコマンド同時発行数がHBA119に割り当てられた上限値に達した場合の考慮を追加している(ステップS2601、ステップS2602)。ステップS2101〜ステップS2107は、説明を省略する。
コマンド多重数配分作成部S410は、ステップS2601において配分量移動条件判定を満たすか否かを判定する。配分量移動判定条件が全て真の場合は(ステップS2601,Yes)、ステップS2602へ進み、いずれかまたは両方が偽の場合は(ステップS2601,No)、ステップS2101に進む。
配分量移動判定条件を下記に示す。
条件1:配分されたコマンド多重数の上限値に達したパスがある。
条件2:条件1に該当するパス上に存在するストレージ装置のポートと同じポートを経由するパスがある。
条件3:条件2に該当するパスに接続されたLUが上限値に達したLUよりも優先度が低い。
ステップS2602において、ステップ2601の条件3に該当するLU(LU−B)に配分された配分量を、以下の(A3)の計算式に基づき、一部をステップS2601の条件1に該当するパスに接続されたLU(LU−A)へ移動する。例えば、LU−Bのコマンド多重数配分量のうち、利用されていない配分量をLU−Aへ移動する。
(LU−Bの配分量)−(LU−Bのコマンド同時発行数統計情報から取得される単位時間毎平均値) …(A3)
図27は、エージェント情報収集部の処理を示すフローチャートである。エージェント情報収集部S401は、ステップS2701において、エージェント(ストレージ監視エージェント、ホスト監視エージェント及びAP監視エージェントを含む)毎に処理が繰り返し実行され、ステップS2702において、エージェントが採取した稼働性能情報(リソース統計情報及びリソース構成情報)毎に処理が繰り返し実行される。
エージェント情報収集部S401は、ステップS2703において、稼動性能情報種別判定条件を満たすか否かを判定する。ここでの稼動性能情報種別判定条件とはエージェントが採取した稼働性能情報がリソース統計情報である。稼動性能情報種別判定条件が真の場合は(ステップS2703,リソース統計情報)、ステップS2704へ進み、偽の場合は(ステップ,リソース構成情報)、ステップS2705へ進む。
ステップS2704において、エージェントが採取したリソース統計情報をリソース統計情報テーブル402へ格納する。ステップS2705において、エージェントが採取したリソース構成情報をリソース構成情報テーブル407へ格納する。
図28は、優先順位設定部の処理を示すフローチャートである。優先順位設定部S404は、ステップS2801において、リソース構成情報テーブル407のストレージ装置−LU関連テーブル1000(図10参照)の情報を元に、ストレージ管理クライアント102に対してLU一覧表を表示する。LU一覧表には、配分順位付け条件テーブル403に格納するために必要な情報として、優先度が含まれる。帯域保証を入力する欄を追加してもよい。ステップS2802において、ステップS2801において表示したLU一覧表に対してユーザが入力した優先度及び帯域保証の値を、配分順位付け条件テーブル403へ格納し、処理を終了する。
図29は、パス対応検索部の処理を示すフローチャートである。パス対応検索部S408は、ステップS2901において、リソース構成情報テーブル407からリソース構成情報を含む各種テーブル(図7〜13)を結合し、1つのテーブルにしてメモリ125もしくはHDD124上に一時的情報として格納する。ステップS2902において、ステップS2901において生成したリソース構成情報の結合結果を、パス対応テーブル409に格納し、メモリ125もしくはHDD124上の一時的情報を削除し、処理を終了する。
図30は、配分移動候補選択順位付け部の処理を示すフローチャートである。配分移動候補選択順位付け部S405は、ステップS3001において、配分順位付け条件テーブル403に格納されたLU毎の順位付け情報(優先度及び帯域保証)と、パス対応テーブル409を結合し、1つのテーブルにしてメモリ125もしくはHDD124上に一時的情報として格納する。ステップS3002において、ステップS3001において生成したLU毎の順位付け情報とパス対応テーブル409の結合結果をパス対応テーブル409に格納し、メモリ125もしくはHDD124上の一時的情報を削除し、処理を終了する。
図31は、外部ストレージ対応検索部の処理を示すフローチャートである。外部ストレージ対応検索部S412は、ステップS3101において、リソース構成情報テーブル407からLUと外部ストレージ装置のマッピング対応情報(図中では省略)を検索する。ステップS3102において、ステップS3101において検索により抽出されたLUと外部ストレージ装置のマッピング対応情報を外部ストレージ対応テーブル413に格納する。
図32は、ミラーボリューム対応検索部の処理を示すフローチャートである。ミラーボリューム対応検索部S415は、ステップS3201において、リソース構成情報テーブル407からLUの正・副ボリューム対応情報(図中では省略)を検索する。ステップS3202において、ステップS3201において検索により抽出された正・副ボリューム対応情報をミラーボリューム対応テーブル416に格納し、処理を終了する。
図33は、配分影響表示部が表示する影響レポート画面を示す具体例である。配分影響表示部S411は、ストレージ管理クライアント102の表示装置104に影響レポート画面を表示する。影響レポート画面では、系切り替えによるI/O経路への性能上の影響を、にコマンド多重数の配分量の変化を指標として表示される。図33においては、図2のHOST4とHOST5から成るクラスタにおいて、実行系ホストがHOST4からHOST5に切り替わったときの影響レポート画面の例を示している。
メッセージ3301において、どのホストサーバからどのホストサーバへ実行系が切り替わったかを示しており、例では、HOST4からHOST5へ実行系ホストが切り替わったことを示している。
メッセージ3302において、系切り替えによって、クラスタが利用するパスがどのパスからどのパスへ移ったかを示しており、例では、HBA(WWN6)に接続されたI/O経路から、HBA(WWN7)に接続されたI/O経路へ移ったことを示している。
テーブル3309は、図2のPortYに接続された各ホストサーバへの影響度合いを示すため、各ホストサーバに割り当てられたコマンド多重数の配分量(各ホストサーバにおける各LUに割り当てられた量の合計)が、系切り替え前と後でどのように変化したかを表示する。なお、テーブル3309は、ホストサーバ単位で纏めたものをレポートしているが、LU毎にレポートしてもよい。
テーブル3309は、番号欄3303、ホストサーバ欄3304、優先度欄3305、切り替え前配分欄3306、切り替え後配分欄3307、影響度欄3308を有する。ホストサーバ欄3304には、系切り替えによる影響を受けるホストサーバの名前が表示される。優先度欄3305には、各ホストサーバの業務優先度が、システム全体を100%とした百分率で表示される。切り替え前配分欄3306には、系切り替え前の各ホストサーバに割り当てられたコマンド多重数の配分量(各ホストサーバにおける各LUに割り当てられた量の合計)が表示される。切り替え後配分欄3307には、系切り替え後の各ホストサーバに割り当てられたコマンド多重数の配分量(各ホストサーバにおける各LUに割り当てられた量の合計)が表示される。影響度欄3308には、下記の計算による影響度合いが百分率で表示される。影響度計算は(A4)式で求められる。
(系切り替え後の配分量の増加量)/(切り替え前の配分量)×100 …(A4)
なお、「系切り替え後の配分量の増加量」において減少する場合は負の値となる。
本実施形態によれば、以下の効果がある。なお、下記の(1)〜(7)は、発明が解決しようとする課題の(1)〜(7)に対応している。
(1)パス毎のコマンド多重数の上限値設定を自動化し、I/O性能の劣化を防ぐことができる。
(2)ストレージ装置ポートのコマンド実行能力を最大限活用することができる。
(3)障害発生に即座に対応した上限値の自動調整できる。
(4)障害影響度合いに基づくアプリケーションの調整を自動化できる。
(5)関連ボリュームの性能観測値の有効活用できる。
(6)性能の異なるストレージ装置を含めパス毎のコマンド多重数の上限値を一括調整できる。
(7)ロードバランスされたパス構成のポート性能のチューニングを自動化できる。
本実施形態のストレージシステムを示す構成図である。 本実施形態の骨子を示す概念図である。 ストレージ装置の変形例を示すシステム構成図である。 ストレージシステムの管理方法を示す機能ブロック図である。 リソース、リソース間の性能に関する依存関係ならびにI/O経路の具体例を示す説明図である。 リソース統計情報テーブルの構造の一例を示す説明図である。 HBA−ファイルシステム関連テーブルを示す説明図である。 アプリケーション(AP)−ファイルシステム関連テーブルを示す説明図である。 ファイルシステム−ストレージ装置関連テーブルを示す説明図である。 ストレージ装置−LU関連テーブルを示す説明図である。 ホストサーバ−クラスタ関連テーブルを示す説明図である。 ストレージ装置側ポートのコマンド多重数上限値テーブルを示す説明図である。 AP構成情報テーブル1300を示す説明図である。 AP設定スケジュールテーブルを示す説明図である。 パス対応テーブルを示す説明図である。 配分順位付け条件テーブルを示す説明図である。 コマンド多重数配分制御テーブルを示す説明図である。 コマンド多重数配分スケジュールテーブルを示す説明図である。 外部ストレージ対応テーブルを示す説明図である。 ミラーボリューム対応テーブルを示す説明図である。 コマンド多重数配分作成部の処理を示すフローチャートである。 コマンド多重数配分作成部の変形例1を示すフローチャートである。 コマンド多重数配分作成部の変形例2を示すフローチャートである。 AP設定作成部の処理を示すフローチャートである。 コマンド多重数配分作成部の変形例3を示すフローチャートである。 コマンド多重数配分作成部の変形例4を示すフローチャートである。 エージェント情報収集部の処理を示すフローチャートである。 優先順位設定部の処理を示すフローチャートである。 パス対応検索部の処理を示すフローチャートである。 配分移動候補選択順位付け部の処理を示すフローチャートである。 外部ストレージ対応検索部の処理を示すフローチャートである。 ミラーボリューム対応検索部の処理を示すフローチャートである。 配分影響表示部が表示する影響レポート画面を示す具体例である。 リソース構成情報テーブルに含まれる各種テーブルを示す説明図である。
符号の説明
101 APクライアント
102 ストレージ管理クライアント
106 ホストサーバ
113 AP
114 ファイル管理システム
115 パス管理ソフト
116 HBAドライバ
117 AP設定更新部
118 HBA設定更新部
121 ストレージ管理サーバ
126 ストレージ管理ソフト
129 SANスイッチ
131 ストレージ装置
132 ポート
134 転送制御部
137 仮想ボリューム管理制御部
138 LU
139 物理HDD群
402 リソース統計情報テーブル
403 配分順位付け条件テーブル
406 コマンド多重数配分制御テーブル
407 リソース構成情報テーブル
409 パス対応テーブル
413 外部ストレージ対応テーブル
416 ミラーボリューム対応テーブル
417 コマンド多重数配分スケジュールテーブル
419 AP設定スケジュールテーブル
S401 エージェント情報収集部
S404 優位順位設定部
S405 配分移動候補選択順位付け部
S408 パス対応検索部
S410 コマンド多重数配分作成部
S411 配分影響表示部
S412 外部ストレージ対応検索部
S414 HBA設定更新制御部
S415 ミラーボリューム対応検索部
S418 AP設定更新制御部
S420 AP設定作成部

Claims (14)

  1. アプリケーションを実行するホストが、SAN(Storage Area Network)を介してストレージと、LAN(Local Area Network)を介して管理サーバと通信可能にされ、前記ストレージを監視する監視サーバが、前記SANを介して前記ストレージと、前記LANを介して前記管理サーバと通信可能にされるストレージシステムにおいて、前記ホストから前記ストレージへアクセスするアクセス性能を管理するストレージシステムの管理方法であって、
    前記ホストは、前記アプリケーションを実行する際に少なくとも自身のホストバスアダプタと前記SANと前記ストレージのポートとを経由して論理ボリュームにアクセスするパスであるパス情報と、前記各パスに同時に発行されるコマンド数である同時コマンド発行数を前記管理サーバに送信し、
    前記監視サーバは、前記ストレージのポートで同時に実行可能なコマンド数であるポートのコマンド多重数上限値を、前記管理サーバに送信し、
    前記管理サーバは、前記パス情報と、前記同時コマンド発行数と、前記ポートのコマンド多重数上限値を受理すると、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、その算出結果を前記ホストに送信し、
    前記ホストは、受理した前記各パスのコマンド多重数上限値を、前記ホストバスアダプタに対して設定する
    ことを特徴とするストレージシステムの管理方法。
  2. 前記ホストは、各パスの同時コマンド発行数が、前記各パスのコマンド多重数上限値に達したことを検知すると、前記管理サーバに通知し、
    前記管理サーバは、上限に達していない、もしくは、業務優先度の低いパスに割り当てられているコマンド多重数を一時的に当該パスへ移動する指令を、前記ホストに通知する
    ことを特徴とする請求項1に記載のストレージシステムの管理方法。
  3. 複数のホストを結合し、クラスタを形成している場合、第1のホストから第2のホストへの系/パス切り替えが発生すると、
    前記管理サーバは、前記第2のホストのパス情報と、前記第2のホストの同時コマンド発行数と、前記第2のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、その算出結果を前記第2のホストに送信し、
    前記第2のホストは、受理した前記各パスのコマンド多重数上限値を、前記ホストバスアダプタに対して設定する
    ことを特徴とする請求項1に記載のストレージシステムの管理方法。
  4. 前記管理サーバは、前記系/パス切り替えが発生すると、
    切り替え先ポートに既に接続されていた第3のホストに対して、前記第3のホストのパス情報と、前記第3のホストの同時コマンド発行数と、前記第3のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、その算出結果を前記第3のホストに送信し、
    前記第3のホストは、受理した前記各パスのコマンド多重数上限値を、前記ホストバスアダプタに対して設定する
    ことを特徴とする請求項3に記載のストレージシステムの管理方法。
  5. 複数のホストを結合し、クラスタを形成している場合、第1のホストから第2のホストへの系/パス切り替えが発生すると、
    前記管理サーバは、前記第2のホストのパス情報と、前記第2のホストの同時コマンド発行数に代えて系/パス切り替え前の前記第1のホストの同時コマンド発行数と、前記第2のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、その算出結果を前記第2のホストに送信し、
    前記第2のホストは、受理した前記各パスのコマンド多重数上限値を、前記ホストバスアダプタに対して設定する
    ことを特徴とする請求項1に記載のストレージシステムの管理方法。
  6. 複数のストレージが多段接続され、第1のストレージに対して外部接続の第2のストレージが接続されている場合、
    前記監視サーバは、前記第2のストレージのポートで同時に実行可能なコマンド数であるポートのコマンド多重数上限値を、前記管理サーバに送信し、
    前記管理サーバは、前記第2のストレージのポートのコマンド多重数上限値を、前記第1のストレージのポートのコマンド多重数上限値と設定し、各パスへのコマンド多重数上限値を算出する
    ことを特徴とする請求項1または請求項2に記載のストレージシステムの管理方法。
  7. 前記管理サーバは、
    前記パス情報からロードバランスされた多重化されたパスが存在すると判定すると、
    各パスに割り当てられたコマンド多重数配分量のうち、多重化されたパスに割り当てられた配分量を抽出し、
    その中で最大の配分量の値を多重化されたパスへ均配分し、
    前記均配分の結果残ったコマンド多重数配分量を他のパスへ再度比例配分する
    ことを特徴とする請求項1に記載のストレージシステムの管理方法。
  8. アプリケーションを実行する複数のホストおよびストレージをSAN(Storage Area Network)に接続したシステムにおいて、前記各ホストから前記ストレージへのアクセス性能を管理する管理サーバを有するストレージシステムであって、
    前記管理サーバは、
    前記各ホストにおいて前記アプリケーションを実行する際に少なくとも自身のホストバスアダプタと前記ストレージのポートとを経由して論理ボリュームにアクセスするパスであるパス情報と、前記各パスに同時に発行されるコマンド数である同時コマンド発行数と、前記ストレージのポートで同時に実行可能なコマンド数であるポートのコマンド多重数上限値とを収集する情報収集手段と、
    前記パス情報と、前記同時コマンド発行数と、前記ポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出するコマンド多重数配分作成手段と、
    前記各パスのコマンド多重数上限値を更新する更新情報を、前記各ホストに対して送信するホストバスアダプタ更新手段とを有する
    ことを特徴とするストレージシステム。
  9. 前記管理サーバは、
    各パスの同時コマンド発行数が、前記各パスのコマンド多重数上限値に達した検知情報を受理すると、
    上限に達していない、もしくは、業務優先度の低いパスに割り当てられているコマンド多重数を一時的に当該パスへ移動する指令を、前記ホストに通知する
    ことを特徴とする請求項8に記載のストレージシステム。
  10. 前記管理サーバは、
    複数のホストを結合し、クラスタを形成して管理している場合、第1のホストから第2のホストへの系/パス切り替え指令を受理すると、
    前記コマンド多重数配分作成手段は、前記第2のホストのパス情報と、前記第2のホストの同時コマンド発行数と、前記第2のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、
    前記ホストバスアダプタ更新手段は、前記各パスのコマンド多重数上限値を更新する更新情報を、前記第2のホストに送信する
    ことを特徴とする請求項8に記載のストレージシステム。
  11. 前記管理サーバは、
    前記系/パス切り替え指令を受理すると、
    前記コマンド多重数配分作成手段は、前記切り替え先ポートに既に接続されていた第3のホストに対して、前記第3のホストのパス情報と、前記第3のホストの同時コマンド発行数と、前記第3のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、
    前記ホストバスアダプタ更新手段は、前記各パスのコマンド多重数上限値を更新する更新情報を、前記第3のホストに送信する
    ことを特徴とする請求項10に記載のストレージシステム。
  12. 前記管理サーバは、
    複数のホストを結合し、クラスタを形成して管理している場合、第1のホストから第2のホストへの系/パス切り替え指令を受理すると、
    前記コマンド多重数配分作成手段は、前記第2のホストのパス情報と、前記第2のホストの同時コマンド発行数に代えて系/パス切り替え前の前記第1のホストの同時コマンド発行数と、前記第2のホストのポートのコマンド多重数上限値から、前記ポートのコマンド多重数上限値を、該ポートを利用する各パスに、前記同時コマンド発行数から比例配分して前記各パスのコマンド多重数上限値を算出し、
    前記ホストバスアダプタ更新手段は、前記各パスのコマンド多重数上限値を更新する更新情報を、前記第3のホストに送信する
    ことを特徴とする請求項8に記載のストレージシステム。
  13. 複数のストレージが多段接続され、第1のストレージに対して外部接続の第2のストレージが接続されている場合、
    前記情報収集手段は、前記第2のストレージのポートで同時に実行可能なコマンド数であるポートのコマンド多重数上限値を収集し、
    前記コマンド多重数配分作成手段は、前記第2のストレージのポートのコマンド多重数上限値を、前記第1のストレージのポートのコマンド多重数上限値と設定し、各パスへのコマンド多重数上限値を算出する
    ことを特徴とする請求項8または請求項9に記載のストレージシステム。
  14. 前記コマンド多重数配分作成手段は、
    前記パス情報からロードバランスされた多重化されたパスが存在すると判定すると、
    各パスに割り当てられたコマンド多重数配分量のうち、多重化されたパスに割り当てられた配分量を抽出し、
    その中で最大の配分量の値を多重化されたパスへ均配分し、
    前記均配分の結果残ったコマンド多重数配分量を他のパスへ再度比例配分する
    ことを特徴とする請求項8に記載のストレージシステム。
JP2008146393A 2008-06-04 2008-06-04 ストレージシステムおよびその管理方法 Expired - Fee Related JP4701267B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008146393A JP4701267B2 (ja) 2008-06-04 2008-06-04 ストレージシステムおよびその管理方法
US12/176,712 US8683025B2 (en) 2008-06-04 2008-07-21 Method for managing storage system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008146393A JP4701267B2 (ja) 2008-06-04 2008-06-04 ストレージシステムおよびその管理方法

Publications (2)

Publication Number Publication Date
JP2009294810A true JP2009294810A (ja) 2009-12-17
JP4701267B2 JP4701267B2 (ja) 2011-06-15

Family

ID=41401300

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008146393A Expired - Fee Related JP4701267B2 (ja) 2008-06-04 2008-06-04 ストレージシステムおよびその管理方法

Country Status (2)

Country Link
US (1) US8683025B2 (ja)
JP (1) JP4701267B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012168995A1 (ja) * 2011-06-06 2012-12-13 株式会社日立製作所 I/oスイッチの制御方法、仮想計算機の制御方法及び計算機システム
JP2013127758A (ja) * 2011-12-19 2013-06-27 Fujitsu Ltd ストレージ装置、ストレージ装置の制御方法及びストレージ装置制御プログラム
JP2013210760A (ja) * 2012-03-30 2013-10-10 Nec Corp 仮想化システム、スイッチコントローラ、ファイバチャネルスイッチ、マイグレーション方法、マイグレーションプログラム
JP2014010476A (ja) * 2012-06-27 2014-01-20 Fujitsu Ltd ストレージ仮想化装置、ストレージ仮想化方法及びストレージ仮想化プログラム
WO2014175028A1 (ja) * 2013-04-25 2014-10-30 株式会社日立製作所 通信装置及びコマンド転送方法
US20160142335A1 (en) 2014-11-19 2016-05-19 Fujitsu Limited Storage management device, storage management method, and computer-readable recording medium
US10037162B2 (en) 2015-06-15 2018-07-31 Fujitsu Limited Storage management device, storage management method, and computer-readable recording medium

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8019873B2 (en) * 2008-09-30 2011-09-13 Microsoft Corporation Mesh platform utility computing portal
US8521922B2 (en) * 2011-01-10 2013-08-27 International Business Machines Corporation Input/output (I/O) path selection based on workload types
US8677031B2 (en) 2011-03-31 2014-03-18 Intel Corporation Facilitating, at least in part, by circuitry, accessing of at least one controller command interface
JP6955159B2 (ja) * 2017-11-21 2021-10-27 富士通株式会社 ストレージシステム、ストレージ制御装置およびプログラム
JP6878369B2 (ja) * 2018-09-03 2021-05-26 株式会社日立製作所 ボリューム配置管理装置、ボリューム配置管理方法、及びボリューム配置管理プログラム
CN110557436B (zh) * 2019-07-31 2022-06-21 视联动力信息技术股份有限公司 一种数据传输方法、装置、电子设备和存储介质
JP7017546B2 (ja) * 2019-09-27 2022-02-08 株式会社日立製作所 ストレージシステム、パス管理方法、及びパス管理プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005309748A (ja) * 2004-04-21 2005-11-04 Hitachi Ltd ストレージシステム及びストレージシステムの障害解消方法
JP2005322181A (ja) * 2004-04-05 2005-11-17 Hitachi Ltd コマンド多重数監視制御方式およびこのコマンド多重数監視制御方式を運用するコンピュータシステム
JP2007058727A (ja) * 2005-08-26 2007-03-08 Hitachi Ltd ストレージ管理システムおよびその方法
JP2007164572A (ja) * 2005-12-15 2007-06-28 Nec Corp ディスクアレイ装置及び制御方法並びにプログラム
JP2007323356A (ja) * 2006-05-31 2007-12-13 Hitachi Ltd 記憶制御装置及び記憶制御装置のコマンド実行数制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6311257B1 (en) * 1999-04-13 2001-10-30 Emc Corporation Method and system for allocating memory for a command queue
JP2004302751A (ja) * 2003-03-31 2004-10-28 Hitachi Ltd 計算機システムの性能管理方法、および、記憶装置の性能を管理する計算機システム
JP2005038071A (ja) * 2003-07-17 2005-02-10 Hitachi Ltd ストレージの容量を最適化する管理方法
JP2005326911A (ja) * 2004-05-12 2005-11-24 Hitachi Ltd San管理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005322181A (ja) * 2004-04-05 2005-11-17 Hitachi Ltd コマンド多重数監視制御方式およびこのコマンド多重数監視制御方式を運用するコンピュータシステム
JP2005309748A (ja) * 2004-04-21 2005-11-04 Hitachi Ltd ストレージシステム及びストレージシステムの障害解消方法
JP2007058727A (ja) * 2005-08-26 2007-03-08 Hitachi Ltd ストレージ管理システムおよびその方法
JP2007164572A (ja) * 2005-12-15 2007-06-28 Nec Corp ディスクアレイ装置及び制御方法並びにプログラム
JP2007323356A (ja) * 2006-05-31 2007-12-13 Hitachi Ltd 記憶制御装置及び記憶制御装置のコマンド実行数制御方法

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012168995A1 (ja) * 2011-06-06 2012-12-13 株式会社日立製作所 I/oスイッチの制御方法、仮想計算機の制御方法及び計算機システム
JPWO2012168995A1 (ja) * 2011-06-06 2015-02-23 株式会社日立製作所 I/oスイッチの制御方法、仮想計算機の制御方法及び計算機システム
US9361255B2 (en) 2011-06-06 2016-06-07 Hitachi, Ltd. Method for controlling I/O switch, method for controlling virtual computer, and computer system
JP2013127758A (ja) * 2011-12-19 2013-06-27 Fujitsu Ltd ストレージ装置、ストレージ装置の制御方法及びストレージ装置制御プログラム
JP2013210760A (ja) * 2012-03-30 2013-10-10 Nec Corp 仮想化システム、スイッチコントローラ、ファイバチャネルスイッチ、マイグレーション方法、マイグレーションプログラム
US10007536B2 (en) 2012-03-30 2018-06-26 Nec Corporation Virtualization system, switch controller, fiber-channel switch, migration method and migration program
JP2014010476A (ja) * 2012-06-27 2014-01-20 Fujitsu Ltd ストレージ仮想化装置、ストレージ仮想化方法及びストレージ仮想化プログラム
WO2014175028A1 (ja) * 2013-04-25 2014-10-30 株式会社日立製作所 通信装置及びコマンド転送方法
US20160142335A1 (en) 2014-11-19 2016-05-19 Fujitsu Limited Storage management device, storage management method, and computer-readable recording medium
US10277676B2 (en) 2014-11-19 2019-04-30 Fujitsu Limited Storage management device, storage management method, and computer-readable recording medium
US10037162B2 (en) 2015-06-15 2018-07-31 Fujitsu Limited Storage management device, storage management method, and computer-readable recording medium

Also Published As

Publication number Publication date
JP4701267B2 (ja) 2011-06-15
US8683025B2 (en) 2014-03-25
US20090307341A1 (en) 2009-12-10

Similar Documents

Publication Publication Date Title
JP4701267B2 (ja) ストレージシステムおよびその管理方法
US8694749B2 (en) Control method of device in storage system for virtualization
US6895485B1 (en) Configuring and monitoring data volumes in a consolidated storage array using one storage array to configure the other storage arrays
US7548924B2 (en) Managing method for storage subsystem
US8281085B2 (en) Storage system construction managing device and construction management method
JP4341897B2 (ja) 記憶装置システム及びデータ複製方法
US9088528B2 (en) Computer system and management method for the computer system and program
US20080059602A1 (en) Load balancing method for data I/O paths between groups in which multi-path management is employed
US20140129769A1 (en) System for data migration from a storage tier allocated to a virtual logical volume
US20070055737A1 (en) Storage path control method
US20100036896A1 (en) Computer System and Method of Managing Backup of Data
US8285929B2 (en) Management computer
US20140143418A1 (en) Management computer, storage system management method, and storage system
JP2007115019A (ja) ストレージのアクセス負荷を分散する計算機システム及びその制御方法
JP2005275525A (ja) ストレージシステム
WO2012160589A1 (en) Data storage system and controlling method thereof
JP4232357B2 (ja) 計算機システム
WO2014155555A1 (ja) 管理システム及び管理プログラム
US10002025B2 (en) Computer system and load leveling program
US20150142738A1 (en) Computer system
US11422704B2 (en) Adapting service level policies for external latencies
EP2782001B1 (en) Storage system, storage apparatus, and control program
JPWO2013108386A1 (ja) 計算機システムの管理方法、計算機システム及び記憶媒体
US20220237091A1 (en) Alerting and managing data storage system port overload due to host path failures
JP2005301880A (ja) 計算機システムにおけるデータ入出力処理方法、ストレージ装置、ホスト計算機、および計算機システム、

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100628

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100706

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100831

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110307

LAPS Cancellation because of no payment of annual fees