WO2005017736A1

WO2005017736A1 - ディスクアレイ装置におけるボトルネックを検出するシステムおよびプログラム

Info

Publication number: WO2005017736A1
Application number: PCT/JP2004/011780
Authority: WO
Inventors: Tadaomi Kato; Juichi Sakai; Naoki Hirabayashi; Takaaki Yamato; Tomonari Horikoshi; Yutaka Hiyoshi
Original assignee: Hiyoshi Keiko; Fujitsu Ltd
Current assignee: Hiyoshi Keiko; Fujitsu Ltd
Priority date: 2003-08-19
Filing date: 2004-08-17
Publication date: 2005-02-24
Anticipated expiration: 2006-02-19
Also published as: US20060106926A1; WO2005017735A1; JPWO2005017736A1

Abstract

　資源使用率だけを基にボトルネックを検出・特定する従来の方法では、本来解消すべきボトルネックを見逃し、未発生のボトルネックに対してボトルネック解消処理を行う場合があるという課題を有していた。そこで、クライアント端末にサービスを提供するサーバと、サーバが使用するデータが格納されるディスクアレイ装置と、ディスクアレイ装置のボトルネックを検出する監視端末とがネットワークを介して接続されるシステムを提供する。ディスクアレイ装置あるいはサーバは、サーバが発行するIO要求の数と各IO要求を処理するのに要した時間とディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を算出する。監視端末は、パフォーマンス情報に含まれる処理時間をIO要求数で割った平均応答時間に基づき基準点を定める。そして、基準点以前の所定期間における資源使用率に基づき、資源をボトルネックと特定することを特徴とする。

Description

明細書

ディスクアレイ装置におけるボトルネックを検出'

ラム

技術分野

[0001] 本発明は、ディスクアレイ装置とそのディスクアレイ装置に対しデータの入出力を行うサーバを含むシステムに関する。

背景技術

[0002] 現在業務システムとして、ネットワークを介してクライアント端末にサービスを提供するサーバと、そのサーバにて稼動するアプリケーションプログラムが使用する各種データを格納するディスクアレイ装置とが接続されたシステムが随所で使用されている。このようなシステムでは、アプリケーションの処理に伴う時間が増大するとクライアント端末に提供するサービスを低下させてしまう。そこで、アプリケーションの処理に伴う時間が一定の基準以上となるよう、システムの'性能に関する様々な情報 (パフォーマンス情報）を監視し、アプリケーションの処理を遅らせる原因になり得る箇所 (ボトルネック）が発生していないか検出する処理が実行され、ボトルネックが検出された場合、ボトルネックを特定し、そのボトノレネックに対してボトノレネックを解消する処理が行われている。

[0003] ディスクアレイ装置に関するボトノレネックとしては、デイスアレイ装置内の CPU、物理ディスク等の資源がある。従来は、ディスクアレイ装置におけるボトルネックの検出 '特定が一体として実行され、所定時間に資源が使用された時間の累積値を、その所定時間で割ることにより算出される資源使用率を利用し、資源使用率が閾値を超える場合、その資源がボトルネックであると特定してレ、た。

[0004] し力しながら、資源使用率の上昇とボトルネックの発生は必ずしも対応しない場合がある。一例として、資源としてディスクが選択された場合を説明する。

[0005] 図 1は、アプリケーションの処理に伴うディスク使用率とボトルネックの発生を説明するための図である。縦軸が経過時間 11を表し、横軸がアプリケーションの処理に伴つてサーバにより発行される書き込み、読み込み等の入出力 (10)要求を処理するのに要する時間 12 (応答時間）を表す。図 1Aは、 10要求がある時間に集中して到着する場合であり、図 1Bは、 10要求が比較的均等に到着する場合である。

[0006] 図 1Aでは、ディスクアレイ装置における処理能力以上の 10要求が短時間に集中して到着した結果、ボトルネックが発生する例である。 10要求の処理が済まないうちに、次々と 10要求が到着するため、後から到着した 1〇要求ほど処理に時間を要している。図 1Bでは、 1〇要求が順調に処理されており、ボトルネックの発生は見られない。

[0007] 応答時間の累積値を所定時間に到着した 10要求数で割った平均応答時間と、その所定時間に占めるディスクが使用された時間を合計した累積時間の割合であるデイスク使用率をそれぞれ算出してみると、図 1Aでは、平均応答時間が 35ミリ秒 (ms) 、ディスク使用率が 53%であるのに対し、図 1Bでは、平均応答時間 14ms、ディスク使用率が 67%になる。

[0008] ところ力従来の資源使用率を監視してボトルネックを検出する方法では、ディスク使用率の閾値を 60%とした場合、ディスクがボトノレネックとして検出されるのは、図 1 Bの場合である。しかし、実際は図 1Bの場合ボトルネック解消処理を行う必要はなぐボトルネック解消処理が必要なのは図 1 Aの場合である。資源としてディスク以外の CPUや他の資源を監視する場合にも資源使用率と応答時間に関して図 1と同じこと力 ^s言える。

[0009] 因みに関連する従来技術としては、 10競合を解消するディスクアレイ装置（特許文献 1)等がある。

特許文献 1 :特開 2000 - 215007号公報

発明の開示

発明が解決しょうとする課題

[0010] このように、資源使用率だけを基にボトルネックを検出'特定する従来の方法では、本来解消すべきボトルネックを見逃し、未発生のボトルネックに対してボトルネック解消処理を行う場合があるとレ、う課題を有してレ、た。

課題を解決するための手段

[0011] そこで本発明の目的は、ボトルネックの発生を適切に検出することが可能なシステムおよびプログラムを提供することにある。 [0012] 上記目的は、ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置と、前記ネットワークを介して前記ディスクアレイ装置に接続され、前記ディスクアレイ装置のボトルネックを検出する監視端末を有するシステムであって、前記ディスクアレイ装置あるいは前記サーバは、前記サーバから前記ディスクアレイ装置に対して発行される 10要求の数と各 10要求を処理するのに要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を算出して前記監視端末に定期的に通知し、前記監視端末は、前記定期的に通知されるパフォーマンス情報に含まれる前記処理時間を前記 1〇要求数で割った平均応答時間が第一の閾値を超える期間が、第一の所定期間を超える時刻を基準点とし、前記基準点以前の第二の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とする請求の範囲第 1項に記載のシステムを提供することにより達成される。

[0013] また上記目的は、請求の範囲第 1項において、前記監視端末は、前記平均応答時間が前記第一の閾値を越える期間が、連続して前記第一の所定期間を超える時刻を基準点とすることを特徴とする請求の範囲第 2項に記載のシステムを提供することにより達成される。

[0014] また上記目的は、請求の範囲第 1項において、前記監視端末は、前記平均応答時間が前記第一の閾値を超える期間を第三の所定期間累積した結果が、前記第一の所定期間を超える時刻を基準点とすることを特徴とする請求の範囲第 3項に記載のシステムを提供することにより達成される。

[0015] また上記目的は、請求の範囲第 3項において、前記監視端末は、前記第三の所定期間毎に前記累積結果を求めることを特徴とする請求の範囲第 4項に記載のシステムを提供することにより達成される。

[0016] また上記目的は、請求の範囲第 3項において、前記監視端末は、前記第三の所定期間より短い間隔で前記累積結果を求めることを特徴とする請求の範囲第 5項に記載のシステムを提供することにより達成される。 [0017] また上記目的は、請求の範囲第 3項において、前記監視端末は、前記第三の所定期間内に前記平均応答時間が、前記第一の閾値より低い第三の閾値を下回った場合、累積された期間を一旦ゼロにリセットすることを特徴とする請求の範囲第 6項に記載のシステムを提供することにより達成される。

[0018] また上記目的は、請求の範囲第 1項において、前記監視端末は、前記基準点以前であって、更に前記平均応答時間が第四の閾値を超えた期間である第四の所定期間に占める、前記資源使用率が前記資源毎に設定された前記第二の閾値を超える期間の割合が、前記所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とする請求の範囲第 7項に記載のシステムを提供することにより達成される。

[0019] また上記目的は、ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置とを有するシステムに含まれ、該ネットワークを介して前記ディスクアレイ装置に接続された端末にて実行されるプログラムであって、前記端末に、前記サーバあるいは前記ディスクアレイ装置により定期的に通知される、前記ディスクアレイ装置に対して前記サーバから発行される 10要求の数と各 10要求の処理に要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を受信させ、前記受信したパフォーマンス情報に含まれる前記処理時間を前記 10要求数で割った平均応答時間が第一の閾値を超える期間が、第一の所定期間を超える時刻を基準点とし、前記基準点以前の第二の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定させることを特徴とする請求の範囲第 8項に記載のプログラムを提供することにより達成される。

[0020] また上記目的は、ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置と、前記ネットワークを介して前記ディスクアレイ装置に接続され、前記ディスクアレイ装置のボトルネックを検出する監視端末を有するシステムであって、前記ディスクアレイ装置あるいは前記サーバは、前記サーバから前記ディスクアレイ装置に対して発行される 10要求の数と各 1〇要求を処理するのに要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を算出して前記監視端末に定期的に通知し、前記監視端末は、前記定期的に通知されるパフォーマンス情報に含まれる前記処理時間を前記 10要求数で割った平均応答時間が第一の閾値を超える期間に基づき基準点となる時間を決定し、前記基準点以前の第一の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とするシステムを提供することにより達成される。

[0021] より好ましい実施例によれば、基準点は、平均応答時間が第一の閾値を超える期間が、連続して第二の所定期間を超える時刻である。また、基準点は、平均応答時間が第一の閾値を超える期間を第三の所定期間累積した合計が第二の所定期間を超える時刻でもよレ、。更に、基準点は、平均応答時間が連続して第一の閾値を超える期間において、時間を横軸に、平均応答時間を縦軸に配置し、時間に対する平均応答時間をプロットしてできる波形と、平均応答時間が第一の閾値を示す横線とで囲まれる部分の面積が、所定の面積を超える時刻とすることもできる。また、基準点は、時間に対する平均応答時間をプロットしてできる波形と、平均応答時間が第一の閾値を示す横線とで囲まれる部分の面積を第三の所定期間累積した合計が、所定の面積を超える時刻であってもよい。

[0022] また上記目的は、ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置とを有するシステムに含まれ、該ネットワークを介して前記ディスクアレイ装置に接続された端末にて実行されるプログラムであって、前記端末に、前記サーバあるいは前記ディスクアレイ装置により定期的に通知される、前記ディスクアレイ装置に対して前記サーバから発行される 10要求の数と各 1〇要求の処理に要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を受信させ、前記受信したパフォーマンス情報に含まれる前記処理時間を前記 1〇要求数で割った平均応答時間が第一の閾値を超える期間に基づき基準点となる時間を決定させ、前記基準点以前の第一の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定させることを特徴とするプログラムを提供することにより達成される。

発明の効果

[0023] 応答時間を基にボトルネックの検出を実施し、特定条件として応答時間とは異なる資源使用率を用いることで、 2つの基準によってボトルネックの特定を行うことができ、従来よりもボトルネックの検出を適切に行うことが可能である。

図面の簡単な説明

[0024] [図 1]アプリケーションの処理に伴うディスク使用率とボトルネックの発生を説明するための図である。

[図 2]本発明の実施形態におけるシステム全体の構成例を示す図である。

[図 3]サーバの構成例を示す図である。

[図 4]ディスクアレイ装置の構成例を示す図である。

[図 5]本発明の実施形態におけるボトルネック検出方法を説明するフローチャートでめる。

[図 6]基準点条件 (その 1)を説明する図である。

[図 7]基準点条件 (その 2)を説明する図である。

[図 8]累積期間の算出法の変形例である。

[図 9]累積期間が算出される間隔の例を説明する図である。

[図 10]ボトルネックを特定する条件（その 1)を説明するための図である。

[図 11]ボトルネックを特定する条件（その 2)を説明するための図である。

[図 12]基準点条件 (その 3)を説明する図である。

[図 13]基準点条件 (その 4)を説明する図である。

発明を実施するための最良の形態

[0025] 以下、本発明の実施の形態について図面に従って説明する。し力ながら、本発明の技術的範囲はかかる実施の形態に限定されるものではない。

[0026] 図 1に示されるように、ボトルネックが発生すると、 1〇要求の処理に要する応答時間が増大する。従って、ボトルネックの発生を検出するには応答時間を監視するのがよレ、。そこで本発明の実施形態においては、従来のように資源使用率を監視し、資源使用率によりボトルネックを検出するのではなぐ応答時間に対して設定された条件に基づき、ボトルネックを検出する基準点を決定する。そして、基準点以前のパフォ一マンス情報の履歴を参照し、資源使用率に対して設定された特定条件に基づき、ボトルネックを特定するものである。

[0027] 図 2は、本発明の実施形態における一般的なシステムの構成例を示す図である。サーバ 22は、ネットワーク 21を介してクライアント端末 24に対しサービスを提供する。サーバ 22上で稼動するアプリケーションに応じて、ウェブサーバ、メールサーバ、データベースサーバ等さまざまなサービスが提供される。監視端末 25は、サーバ 22ゃデイスクアレイ装置 23の動作状態を監視するための端末である。

[0028] FC(Fiber Channel)スィッチ等を含む構成の SAN(Storage

Area Network)26を介してサーバ 22に接続されたディスクアレイ装置 23には、上記のアプリケーションに使用されるさまざまなデータが格納される。クライアント端末からの要求に応じてサーバ 22は、ディスクアレイ装置 23に格納されたデータにアクセスし、アプリケーションに基づく処理結果をクライアント端末 24に応答する。

[0029] 図 3は、サーバ 22の構成例を示す図である。基本的な構成は、クライアント端末 24 、監視端末 25でも同様である。サーバ 22は、ネットワークを介した通信を処理するネットワークインタフェース 36 (ネットワーク IF)と、サーバ 22に接続するディスクアレイ装置 23、 FCスィッチ等の周辺機器とのデータ交換を処理する入出力 IF38と、 OSゃァプリケーシヨン力 Sインストールされる内蔵ディスク 37と、実行のために読み出された OS やアプリケーションが格納され、また処理に必要なデータが格納されるメモリ 35と、サーバ 22内の各装置をメモリに格納されたプログラムに従って制御する CPU34とを有する。サーバ 22内の各装置は内部バス 39により接続される。

[0030] 図 4は、ディスクアレイ装置 23の構成例を示す図である。ディスクアレイ装置 23は、ネットワークを介した通信を処理するネットワーク IF43と、ディスクアレイ装置 23に接続するサーバ 22、 FCスィッチ等の周辺機器 40とのデータ交換を処理する入出力 IF 45と、データを格納するディスク 47を複数含むディスク群 46と、ディスクアレイ装置 2 3を制御するプログラムであるファームウェアが格納され、また処理に必要なデータが格納されるメモリ 42と、ディスクアレイ装置 23内の各装置をファームウェアに従って制御する CPU41とを有する。ディスクアレイ装置 23内の各装置は内部バス 44により接糸冗れる。

[0031] 続いて本発明の実施形態におけるボトルネック検出方法を説明する。本発明の実施形態においては、応答時間に対して設定された条件に基づき、ボトルネックを検出する基準点を決定する。そして、基準点以前のパフォーマンス情報の履歴を参照し、資源使用率に対して設定された特定条件に基づき、ボトルネックを特定するものである。

[0032] 図 5は、本発明の実施形態におけるボトルネック検出方法を説明するフローチヤ一トである。例えば、監視端末 25のメモリ 36に格納されたプログラムを実行することにより、本発明のボトルネック検出方法が実施される。ここでは、図 2の監視端末を用いてディスクアレイ装置のボトルネックを検出する様子を、図 3、図 4に示される各装置の構成例を参照して説明する。

[0033] まず、ボトルネックを検出する基準点を設定する際の応答時間に関する条件 (基準点条件）を図 2の監視端末 25に設定する（Sl)。本実施形態においては、応答時間が基準点条件を満たすことにより、ボトルネックの検出が実行され、基準点以前のパフォーマンス情報の履歴を参照し、ボトルネックが特定される。基準点条件としては、例えば、平均応答時間が連続して所定の閾値を超える期間が所定期間に達することや、第一の所定期間内に平均応答時間が第一の閾値を超える期間の累積期間が第二の所定期間に達すること等と設定することができる。なお基準点条件については、図 6から図 9にて後述する。

[0034] これらの条件は、監視端末 25に含まれるメモリ 35や内蔵ディスク 37等の記憶手段に予め格納される。例えば、複数の条件にそれぞれ、基準点条件を特定する数字を対応させ、基準点条件に対応する変数にその数字を格納する。すると、基準点条件に対応する変数に格納された数字を読み出すことにより、条件を決定することができる。条件力 S1つのみであれば、自動的にその条件が使用される。

[0035] 次に、ボトルネックを特定する条件（特定条件）をディスクアレイ装置 23に含まれる資源毎に監視端末 25に設定する（S2)。特定条件としては、例えば、所定期間に占める、ある資源の使用率がその資源に設定された所定の閾値を超える期間の割合が所定値を越えること等と設定することができる。基準点条件同様これらの条件は、監視端末 25に含まれるメモリ 35や内蔵ディスク 37等の記憶手段に変数として格納され、その変数を読み出すことにより特定条件が決定されるよう構成してもよい。なお特定条件については、図 9、図 10にて後述する。

[0036] 次に、監視端末 25にてディスクアレイ装置 23に関するパフォーマンス情報を取得する（S3)。ディスクアレイ装置 23においては、定期的にファームウェアを CPU41が実行することにより、少なくとも 1〇要求数、 1〇応答時間、ディスクアレイ装置 23に含まれる資源の資源使用率を含むパフォーマンス情報を取得し、メモリ 42等の記憶手段に蓄積することができる。

[0037] また、サーバ 22やディスクアレイ装置 23に SNMP(Simple

Network Management Protocol)エージェント機能を持つプログラムを組み込み、監視端末 25に SNMPマネージャ機能を持つプログラムを組み込むことで、ネットワークを介して、サーバ 22やディスクアレイ装置 23に蓄積されたパフォーマンス情報を定期的に監視端末 25にて取得し、監視端末 25に含まれる内蔵ディスク 37等の記憶手段に格納すること力できる。こうして、ステップ S3において、監視端末 25にてディスクァレィ装置 23に関するパフォーマンス情報を取得することができる。

[0038] そして、監視端末 25にて、取得したパフォーマンス情報を基にボトルネックを検出するか判定し、ボトルネックの検出を実行する場合は基準点を決定する（S4)。ステツプ S4のボトルネック検出判定は、ステップ S3で取得したパフォーマンス情報に含まれる応答時間がステップ S1で設定された基準点条件を満たす力を判定すればょレ、。この判定の具体例については図 6から図 9に後述する。

[0039] ステップ S4で基準点条件を満たさない場合、ボトルネック検出処理は行われないので、ステップ S8に進み、一定時間待機した後、再びパフォーマンス情報を取得し（S3 )、ボトルネックを検出するかを判定する（S4)処理を繰り返す。ステップ S4で基準点条件を満たす場合、条件を満たす時刻を基準点と決定し、監視端末 25にて、ステツプ S3で取得したパフォーマンス情報を基に資源毎にその資源がボトルネックかを判定する（S5)。ステップ S5では、取得したパフォーマンス情報に含まれる資源毎の資源使用率がステップ S2で設定された特定条件を満たす力、を判定すればよい。この判定の具体例については図 10および図 1 1に後述する。

[0040] ステップ S5で条件を満たす場合、監視端末 25にてその資源をボトルネックと特定する（S6)。ボトルネックである資源が特定された後の処理はさまざまである。例えば、メールでシステム管理者に通知することもできるし、監視端末 25に接続された図示しないディスプレイ装置にその資源がボトルネックであることを表示することもできるし、自動的な処理をさせることもできる。自動的な処理をより具体的に述べると、例えば、 CPUやディスクをシステム構成から切り離したり、ディスクを停止させたり、 CPUの冷去口ファン速度を上昇させたりすることである。

[0041] ステップ S5で条件を満たさない場合、監視端末にてディスクアレイ装置 23に含まれるすべての資源についてステップ S5の判定が完了したかを判定する（S7)。未だ、判定の行われていない資源がある場合 (ステップ S7で Noの場合）、ステップ S5に戻り処理が続行する。すべての資源についてステップ S5の判定が完了すれば（ステップ S7で Yesの場合）、ステップ S8に進み、一定時間経過した後、再びパフォーマンス情報を取得し (S 3)、ボトルネックを検出するかを判定する（S4)。

[0042] 以上のボトルネック検出処理により、監視端末 25にて、定期的にパフォーマンス情報を取得し、ボトルネックの検出を行うことができる。ボトルネックを検出する力を判定するのに使用されるのは、ボトルネックの発生に連動して時間が増大する応答時間であり、ボトルネックの発生とは必ずしも連動しない資源使用率を利用する従来例よりもボトルネックの検出を適切に行うことが可能となる。またボトルネックを特定する条件として使用されるのは資源使用率であり、ボトルネック検出を実施する条件 (基準点条件）として応答時間を用いることにより、単一のパフォーマンス情報（資源使用率）のみを用いる従来例よりも、ボトルネックの特定をより適切に行うことが可能となる。

[0043] なお、本発明の実施形態においては、監視端末 25にて、ボトルネック検出処理を実行する様子を説明したが、ネットワーク 21を介してディスクアレイ装置 23に接続されていればどの端末においても実行することが可能である。従ってサーバ 22にて実行することもでき、その場合新たなハードウェアを導入することなく本発明の方法を適用すること力 Sできる。

[0044] 続いて、ステップ S 1で設定される基準点条件について、レ、くつかの例を用いて説明する。まず、基準点条件として、平均応答時間が連続してある閾値を超える期間が所定期間に達することと設定することができる。

[0045] 図 6は、基準点条件 (その 1)を説明する図である。期間と共に変化する平均応答時間の一例を示す図 6のグラフを基に、その条件を適用してボトルネック検出処理が実行される場合を説明する。

[0046] 図 6では、閾値として 30ms、所定期間として 600秒を採用する。つまり、平均応答時間が 30msを超える期間が 600秒連続した場合、図 5のステップ S5以降の処理が開始される。

[0047] 図 6で最初に連続して平均応答時間が 30msを超えるのは、区間 61である。しかし区間 61の期間合計 (累積期間）は、所定期間の 600秒に満たない。そこで、区間 61 では、ボトルネックの検出は実施されなレ、。次に連続して平均応答時間が 30msを超える区間 62では、 600秒以上平均応答時間が閾値を超える状態が連続するため、累積期間が 600秒を超える時刻 63が基準点と決定され、ボトルネックの検出が実行される。

[0048] 連続して平均応答時間が閾値を超えた期間の合計が所定期間に達するのは、平均応答時間の高い状態が持続していることを意味し、ボトルネックが発生している可能性が高い。従って、基準点条件をこのように設定することでボトルネックをより適切に検出することができる。

[0049] 基準点条件の別の条件として、第一の所定期間内に平均応答時間がある閾値を超える期間の合計 (累積期間）が、第二の所定期間に達することと設定することができる。図 7は、基準点条件 (その 2)を説明する図である。期間と共に変化する平均応答時間の一例を示す図 7のグラフを基に、その条件を適用してボトルネック検出処理が実行される場合を説明する。

[0050] 図 7では、第一の所定期間として 3600秒、第二の所定期間として、 600秒、閾値として 30msを採用する。つまり、 3600秒の内、平均応答時間が 30msを超える期間の合計が 600秒に達した場合、図 5のステップ S5以降の処理が開始される。

[0051] 図 7で 3600秒に区切られた最初のブロック 71では、平均応答時間が 30msを超える期間の合計は、第二の所定期間の 600秒に満たない。そこで、ブロック 71では、ボトルネックの検出は実行されなレ、。次の 3600秒（ブロック 72)では、累積期間が 600 秒を超える時、ボトルネックの検出が実行される。

[0052] ある期間内に平均応答時間が閾値を超えた期間の合計が（第二の)所定期間に達するのは、平均応答時間の高い状態が持続していることを意味し、ボトルネックの発生の可能性が高い。従って、基準点条件をこのように設定することでボトルネックをより検出しやすくすることができる。更に、図 7の設定にすると、連続して平均応答時間が閾値を超える区間が短レ、ため、図 6の設定ではボトルネックの検出が行われなレヽ場合でも、ボトルネックの検出が実行されることがあり、よりボトルネックの検出精度を上げ'ること力 Sできる。

[0053] 図 8は、図 7における累積期間の算出法の変形例である。図 7においては、単純に平均応答時間が閾値を超える期間を加算するが、図 8では、第一の閾値より低い第二の閾値を用意し、平均応答時間が第二の閾値を下回る場合、それまでの累積期間をゼロにするようにして累積期間を算出するものである。

[0054] 図 8は、 3600秒に区切られたあるブロックにおける、期間と共に変化する平均応答時間の一例を示すグラフである。第二の閾値として 5msを採用する。他の条件は図 7 と同様とする。今、平均応答時間が第一の閾値（30ms)を越える区間 81で 400秒が累積される。しかし、その後平均応答時間が第二の閾値を下回るとき、それまでの累積期間がゼロにリセットされる。その後再び、平均応答時間が第一の閾値を超える区間 82が 200秒連続するが、累積値力 Sリセットされているため、第二の所定期間には達しない（ちなみに累積期間がリセットされていなければこの時点が基準点と決定され、ボトルネックの検出が実施される）。

[0055] 図 8において平均応答時間が第二の閾値を下回る場合、平均応答時間が変動してレ、ることを意味する。ディスクアレイ装置 23においてボトルネックが発生する場合であれば、平均応答時間が高い状態が維持されるため、平均応答時間に変動が生じている場合、ディスクアレイ装置 23以外でボトルネックが発生している可能性を意味し、図 8の累積期間算出法にはこれを除外する効果がある。

[0056] 図 9は、累積期間が算出される間隔の例を説明する図である。言い換えると、図 7における第一の所定期間の取り方の変形例を説明する図である。図 7においては、第一の所定期間（3600秒）を互いに重ならない範囲として、 3600秒ごとに区切ったブロックが現れた力図 9では、 3600秒のブロックを少しずつずらして第一の所定時間を取るものである。

[0057] 図 9Aは、図 7と同じ方法を図に表したものである。 3600秒のブロック 91力 S互レヽに重ならないように位置する。図 9Bは、 3600秒のブロック 91が少しずつずれて位置する。ずれの量は、均一でも不均一でも構わない。図 9Bのようにブロックを取ることで、ボトルネックの検出処理が行われる回数を増やすことができ、よりボトルネックの検出精度を上げることができる。

[0058] 次に、ステップ S2で設定される特定条件について、レ、くつか例を用いて説明する。

ボトルネックを特定する条件としては、所定期間内に資源使用率が第一の閾値を越える期間の合計時間が、その所定時間に占める割合 (影響度)を算出し、その割合が所定値以上であることと設定することができる。

[0059] まず、所定期間の一例としては、単純に基準点から所定期間前までの時間範囲とすることである。期間と共に変化する平均応答時間の一例を示す図 10のグラフに基づき、その条件を適用してボトルネック検出処理が特定される場合を説明する。

[0060] 図 10では、所定期間として 3600秒を採用する。資源毎に設定される資源使用率の閾値としては、 CPU使用率の閾値として 80%、ディスク使用率の閾値として 60%を採用する。そして、影響度に対する所定値として 80%を採用する。つまり、基準点から 3600秒前までの期間（影響度を見る範囲）において、 CPU使用率が 80%を超えた期間の合計が影響度を見る範囲全体の 80%以上であれば CPUがボトルネックと特定され、同様にディスク使用率が 60%を越えた期間の合計が影響度を見る範囲全体の 80%以上であればディスクがボトルネックと特定される。

[0061] 図 10では、基準点から 3600秒前までにおいて、 CPU使用率が 80%を超えた区間 102が、影響度を見る範囲 101に占める割合が 20%であり、ディスク使用率が 60% を超えた区間 103が、影響度を見る範囲 101に占める割合が 95%であることがわかる。従って、影響度に対して設定された所定値（80%)を超えるディスクがボトルネックであると特定される。

[0062] 所定期間の別の一例としては、基準点から所定期間前までの履歴において、平均応答時間が第二の閾値を超える時間範囲とすることである。期間と共に変化する平均応答時間の一例を示す図 11のグラフに基づき、その条件を適用してボトルネックが特定される場合を説明する。

[0063] 図 11では、第二の閾値として 30msを採用する。それ以外は図 10の場合と同様とする。図 11では、基準点から 3600秒前までにおいて、更に、平均応答時間が第二の閾値（30ms)を超える時間範囲を影響度を見る範囲として抜き出す。すると 2つの区間 111、 1 12が該当する。

[0064] そして、影響度を見る範囲（区間 111、 112)にて、 CPU使用率が 80%を超えた区間 113が、影響度を見る範囲（区間 111、 112)に占める割合が 20%であり、ディスク使用率が 60%を超えた時間（区間 114、 115)の合計が、影響度を見る範囲（区間 1 11、 112)に占める割合が 85%であることがわかる。従って、影響度に対して設定された所定値（80%)を超えるディスクがボトルネックであると特定される。

[0065] 以上、本発明の実施形態をまとめると、ボトルネックと特定される資源は、基準点で応答時間が高い状態が継続しており、基準点以前に資源使用率も高い状態であつた資源である。こうして、応答時間を基にボトルネックの検出を実施し、特定条件として応答時間とは異なる資源使用率を用いることで、 2つの基準によってボトルネックの特定を行うことができ、従来よりもボトルネックの検出を適切に行うことが可能である。

[0066] なお、上記図 6から図 11にて使用される数値は一例に過ぎず、実施の形態に合わせて自由に設定することが可能である。また、ディスクアレイ装置 23とサーバ 22間の接続法は SANを介す方法に限定されず、 SCSKSmall Computer System Interface)ケ一ブル等を用いたダイレクト接続でも本発明の適用が可能である。

[0067] また、本発明の実施形態においては、ディスクアレイ装置 23におけるボトルネックを検出するために、ディスクアレイ装置 23に蓄積されるパフォーマンス情報を用いたが、サーバ 22でも、 OSに備えられたコマンド等を定期的に CPU34が実行することにより、少なくとも 1〇要求数、 10応答時間、ディスクアレイ装置 23に含まれる資源の資源使用率を含むパフォーマンス情報を取得し、パフォーマンス情報を内蔵ディスク 37等の記憶手段に蓄積することができる。従って、サーバに蓄積されるパフォーマンス情報を利用することも可能である。 [0068] 更に、本発明のボトルネック検出方法は、監視端末 25、あるいはサーバ 22にて実行されるプログラムとして実施することも可能である。

[0069] ここで更に、ボトルネックの検出を開始するための条件である、基準点条件の変形例について説明する。図 6から図 9に説明した基準点条件においては、平均応答時間が連続して所定の閾値を超える期間が所定期間に達することや、第一の所定期間内に平均応答時間が第一の閾値を超える期間の累積期間が第二の所定期間に達することを一例として挙げた。ここでは、平均応答時間が閾値を超える部分の面積が所定面積に達する場合や、所定期間内に平均応答時間が閾値を超える部分の面積 (累積面積)が所定面積に達する場合に、ボトルネックの検出が開始される。

[0070] 図 12は、基準点条件 (その 3)を説明する図である。期間と共に変化する平均応答時間の一例を示す図 12のグラフを基に、平均応答時間が連続してある閾値を超える部分の面積が所定面積に達すると、ボトルネック検出処理が実行される場合を説明する。

[0071] 図 12では、閾値として 30msを採用する。つまり、平均応答時間が 30msを超える期間の平均応答時間と、閾値である 30msを示す横線とで囲まれる部分の面積が所定面積に達する場合、図 5のステップ S 5以降の処理が開始される。

[0072] 平均応答時間と、閾値である 30msを示す横線とで囲まれる部分の面積は、平均応答時間を関数により表せる場合 (近似モデルにより近似される場合も含む）には、平均応答時間が 30msを超える期間の最初から最後までの積分値として求めることができる。また、図 12に示されるように、微小区間毎の長方形による近似により面積を求めても良い。

[0073] 図 12で最初に連続して平均応答時間が 30msを超えるのは、区間 121である。し力区間 121から算出される面積は、所定面積 Sに満たない。そこで、区間 121では、ボトルネックの検出は実施されない。

[0074] 次に連続して平均応答時間が 30msを超える区間 122から算出される面積は、所定面積を超える。従って、平均応答時間が 30msを超える期間の最後の時刻が基準点と決定され、ボトルネックの検出が実行される。なお、基準点は平均応答時間が 30 msを超える期間のどの時刻が選択されてもよい。 [0075] 平均応答時間が所定の閾値を超える期間は短いが、その応答遅延の程度が大きい場合には、ボトルネックが発生している可能性が高レ、。この面積方式を使用すると、平均応答時間が所定の閾値を超える期間が短いため、図 6から図 9に示す方式ではボトルネックの検出が行われない場合にも、ボトルネックの検出を開始することができる。つまり、短い時間帯で応答時間が極端に遅い場合であってもボトノレネックの検出を開始することができ、基準点条件をこのように設定することでボトルネックをより適切に検出することができる。

[0076] 図 13は、基準点条件 (その 4)を説明する図である。期間と共に変化する平均応答時間の一例を示す図 13のグラフを基に、所定期間内に平均応答時間が閾値を超える部分の面積が所定面積に達するとボトルネックの検出が実行される場合を説明する。

[0077] 図 13では、所定期間として 3600秒、閾値として 30msを採用する。つまり、 3600秒の内、平均応答時間が 30msを超える期間における、平均応答時間が 30msを超える期間の平均応答時間と、閾値である 30msを示す横線とで囲まれる部分の面積が所定面積に達する場合、図 5のステップ S 5以降の処理が開始される。

[0078] 図 13で 3600秒に区切られた最初のブロック 131では、平均応答時間が 30msを超える期間が 2箇所あり、平均応答時間と、閾値である 30msを示す横線とで囲まれる部分の面積は、それぞれ Sl l、 S12であるとする。そして、その合計（S11 + S12)は所定面積を超えない。そこで、ブロック 131では、ボトノレネックの検出は実行されない

[0079] 次の 3600秒（ブロック 132)では、平均応答時間が 30msを超える期間から算出される面積の合計（S21 + S22)が所定面積以上となる。従って、平均応答時間が 30 msを超える期間の最後の時刻が基準点と決定され、ボトルネックの検出が実行される。なお、基準点は平均応答時間が 30msを超える期間のどの時刻が選択されてもよレ、。

[0080] ある期間内に平均応答時間が閾値を超えた期間から算出される面積の合計が所定面積に達するのは、短い時間帯で応答時間が極端に遅い場合が発生している可能性を示唆し、ボトルネックが発生している可能性が高い。従って、基準点条件をこのように設定することでボトルネックをより検出しやすくすることができる。更に、図 13 の設定にすると、連続して平均応答時間が閾値を超える区間が短いため、図 12の設定ではボトルネックの検出が行われない場合でも、ボトルネックの検出が実行されることがあり、よりボトルネックの検出精度を上げることができる。

[0081] 図 6から図 9に示した基準点条件では、閾値 (例えば 30ms)を大きく超える現象に対する配慮を行っていない。つまり、所定の閾値を超える期間は短いが、その応答遅延の程度が大きい場合には、ボトルネックが発生している可能性が高いものの、それを適切に検出できない事態も起こりうる。一方、図 12、図 13に示される基準点条件によれば、短い時間帯で応答時間が極端に遅い場合であってもボトルネックの検出を開始することができ、より適切にボトルネックを検出することができるようになる。

[0082] また、図 13における累積面積の算出法として、図 8に示されるように、第一の閾値（例えば 30ms)より低い第二の閾値（5ms)を用意し、平均応答時間が第二の閾値を下回る場合、それまでの累積面積をゼロにするようにして累積面積を算出してもよい。また、累積面積を算出する間隔として、図 9Bに示されるように、所定長（例えば 360 0秒）のブロックを少しずつずらして所定期間を取ることもできる。

[0083] 図 12、図 13に示すような、面積に基づくボトルネック検出の開始法を採用しても、その後の処理は図 5に示される場合と変わらずに行うことができる。つまり、ボトルネックの判断は、図 10、図 11に示されるように行って良レ、。また、図 12、図 13に示される変形例であっても、図 1一図 11に示される実施形態同様の効果を得ることができる。産業上の利用可能性

[0084] 本発明のボトルネック検出方法は、例えば、ネットワークを介してクライアント端末にサ一ビスを提供するサーバと、そのサーバにて稼動するアプリケーションプログラムが使用する各種データを格納するディスクアレイ装置とが接続されたシステム等に適用が可能である。

[0085] 本発明の保護範囲は、上記の実施の形態に限定されず、特許請求の範囲に記載された発明とその均等物に及ぶものである。

Claims

請求の範囲

[1] ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置と、前記ネットワークを介して前記ディスクアレイ装置に接続され、前記ディスクアレイ装置のボトルネックを検出する監視端末を有するシステムであって、前記ディスクアレイ装置あるいは前記サーバは、前記サーバから前記ディスクアレイ装置に対して発行される 10要求の数と各 10要求を処理するのに要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を算出して前記監視端末に定期的に通知し、

前記監視端末は、前記定期的に通知されるパフォーマンス情報に含まれる前記処理時間を前記 10要求数で割った平均応答時間が第一の閾値を超える期間が、第一の所定期間を超える時刻を基準点とし、前記基準点以前の第二の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とするシステム。

[2] 請求項 1において、

前記監視端末は、前記平均応答時間が前記第一の閾値を越える期間が、連続して前記第一の所定期間を超える時刻を基準点とすることを特徴とするシステム。

[3] 請求項 1において、

前記監視端末は、前記平均応答時間が前記第一の閾値を超える期間を第三の所定期間累積した結果が、前記第一の所定期間を超える時刻を基準点とすることを特徴とするシステム。

[4] 請求項 3において、

前記監視端末は、前記第三の所定期間毎に前記累積結果を求めることを特徴とするシステム。

[5] 請求項 3において、

前記監視端末は、前記第三の所定期間より短い間隔で前記累積結果を求めることを特徴

[6] 請求項 3において、

前記監視端末は、前記第三の所定期間内に前記平均応答時間が、前記第一の閾値より低い第三の閾値を下回った場合、累積された期間を一旦ゼロにリセットすることを特徴とするシステム。

[7] 請求項 1において、

前記監視端末は、前記基準点以前であって、更に前記平均応答時間が第四の閾値を超えた期間である第四の所定期間に占める、前記資源使用率が前記資源毎に設定された前記第二の閾値を超える期間の割合が、前記所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とするシステム。

[8] ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置とを有するシステムに含まれ、該ネットワークを介して前記ディスクァレィ装置に接続された端末にて実行されるプログラムであって、

HU記端末に、

前記サーバあるいは前記ディスクアレイ装置により定期的に通知される、前記ディスクアレイ装置に対して前記サーバ力発行される 10要求の数と各 10要求の処理に要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフオーマンス情報を受信させ、

前記受信したパフォーマンス情報に含まれる前記処理時間を前記 10要求数で割つた平均応答時間が第一の閾値を超える期間が、第一の所定期間を超える時刻を基準点とし、前記基準点以前の第二の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定させることを特徴とするプログラム。

[9] 請求項 8において、

前記基準点は、前記平均応答時間が前記第一の閾値を越える期間が、連続して前記第一の所定期間を超える時刻であることを特徴とするプログラム。

[10] 請求項 8において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間を第三の所定期間累積した結果が、前記第一の所定期間を超える時刻であることを特徴とするプログラム。

[11] 請求項 10において、

前記第三の所定期間毎に前記累積結果が求められることを特徴とするプログラム。

[12] 請求項 10において、

前記第三の所定期間より短い間隔で前記累積結果を求めることを特徴とするプログラム。

[13] 請求項 10において、

前記第三の所定期間内に前記平均応答時間が、前記第一の閾値より低い第三の閾値を下回った場合、累積された期間が一旦ゼロにリセットされることを特徴とするプログラム。

[14] 請求項 8において、

前記基準点以前の第二の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合の代わりに、前記基準点以前であって、更に前記平均応答時間が第四の閾値を超えた期間である第四の所定期間に占める、前記資源使用率が前記資源毎に設定された前記第二の閾値を超える期間の割合が、前記所定の割合を超える場合に、該資源をボトルネックと特定させることを特徴とするプログラム。

[15] ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置と、前記ネットワークを介して前記ディスクアレイ装置に接続され、前記ディスクアレイ装置のボトルネックを検出する監視端末を有するシステムであって、前記ディスクアレイ装置あるいは前記サーバは、前記サーバから前記ディスクアレイ装置に対して発行される 1〇要求の数と各 10要求を処理するのに要した時間と該ディスクアレイ装置に含まれる資源毎の資源使用率を含むパフォーマンス情報を算出して前記監視端末に定期的に通知し、

前記監視端末は、前記定期的に通知されるパフォーマンス情報に含まれる前記処理時間を前記 1〇要求数で割った平均応答時間が第一の閾値を超える期間に基づき基準点となる時間を決定し、前記基準点以前の第一の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定することを特徴とするシステム。

[16] 請求項 15において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間が、連続して第二の所定期間を超える時刻であることを特徴とするシステム。

[17] 請求項 15において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間を第三の所定期間累積した合計が第二の所定期間を超える時刻であることを特徴とするシステム。

[18] 請求項 15において、

前記基準点は、前記平均応答時間が連続して前記第一の閾値を超える期間において、時間を横軸に、前記平均応答時間を縦軸に配置し、前記時間に対する前記平均応答時間をプロットしてできる波形と、前記平均応答時間が前記第一の閾値を示す横線とで囲まれる部分の面積が、所定の面積を超える時刻であることを特徴とするシステム。

[19] 請求項 15において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間において、時間を横軸に、前記平均応答時間を縦軸に配置し、前記時間に対する前記平均応答時間をプロットしてできる波形と、前記平均応答時間が前記第一の閾値を示す横線とで囲まれる部分の面積を第三の所定期間累積した合計が、所定の面積を超える時刻であることを特徴とするシステム。

[20] 請求項 17又は 19において、

前記第三の所定期間毎に前記累積合計が求められることを特徴とするシステム。

[21] 請求項 17又は 19において、

前記第三の所定期間より短い間隔で前記累積合計が求められることを特徴とするシステム。

[22] 請求項 17又は 19において、

前記監視端末は、前記第三の所定期間内に前記平均応答時間が、前記第一の閾値より低い第三の閾値を下回った場合、前記累積合計が一旦ゼロにリセットされることを特徴とするシステム。

[23] 請求項 15において、

[24] ネットワークを介してクライアント端末にサービスを提供するサーバと、前記サーバおよび前記ネットワークに接続され、前記サーバが使用するデータが格納されるディスクアレイ装置とを有するシステムに含まれ、該ネットワークを介して前記ディスクァレィ装置に接続された端末にて実行されるプログラムであって、

HU記端末に、

前記受信したパフォーマンス情報に含まれる前記処理時間を前記 10要求数で割つた平均応答時間が第一の閾値を超える期間に基づき基準点となる時間を決定させ、前記基準点以前の第一の所定期間に占める、前記資源使用率が前記資源毎に設定された第二の閾値を超える期間の割合が、所定の割合を超える場合に、該資源をボトルネックと特定させることを特徴とするプログラム。

[25] 請求項 24において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間が、連続して第二の所定期間を超える時刻であることを特徴とするプログラム。

[26] 請求項 24において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間を第三の所定期間累積した合計が第二の所定期間を超える時刻であることを特徴とするプログラム

[27] 請求項 24において、

前記基準点は、前記平均応答時間が連続して前記第一の閾値を超える期間において、時間を横軸に、前記平均応答時間を縦軸に配置し、前記時間に対する前記平均応答時間をプロットしてできる波形と、前記平均応答時間が前記第一の閾値を示す横線とで囲まれる部分の面積が、所定の面積を超える時刻であることを特徴とするプログラム。

[28] 請求項 24において、

前記基準点は、前記平均応答時間が前記第一の閾値を超える期間において、時間を横軸に、前記平均応答時間を縦軸に配置し、前記時間に対する前記平均応答時間をプロットしてできる波形と、前記平均応答時間が前記第一の閾値を示す横線とで囲まれる部分の面積を第三の所定期間累積した合計が、所定の面積を超える時刻であることを特徴とするプログラム。

[29] 請求項 26又は 28において、

前記第三の所定期間毎に前記累積合計が求められることを特徴とするプログラム。

[30] 請求項 26又は 28において、

前記第三の所定期間より短い間隔で前記累積結果が求められることを特徴とする

[31] 請求項 26又は 28において、

前記第三の所定期間内に前記平均応答時間が、前記第一の閾値より低い第三の閾値を下回った場合、前記累積合計が一旦ゼロにリセットされることを特徴とするプログラム。

[32] 請求項 24において、

前記基準点以前であって、更に前記平均応答時間が第四の閾値を超えた期間である第四の所定期間に占める、前記資源使用率が前記資源毎に設定された前記第二の閾値を超える期間の割合が、前記所定の割合を超える場合に、該資源をボトノレネックと特定させることを特徴とするプログラム。