JPWO2012093469A1 - 性能評価装置及び性能評価方法 - Google Patents
性能評価装置及び性能評価方法 Download PDFInfo
- Publication number
- JPWO2012093469A1 JPWO2012093469A1 JP2012551765A JP2012551765A JPWO2012093469A1 JP WO2012093469 A1 JPWO2012093469 A1 JP WO2012093469A1 JP 2012551765 A JP2012551765 A JP 2012551765A JP 2012551765 A JP2012551765 A JP 2012551765A JP WO2012093469 A1 JPWO2012093469 A1 JP WO2012093469A1
- Authority
- JP
- Japan
- Prior art keywords
- workload
- composite
- performance
- model
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
- G06F11/3414—Workload generation, e.g. scripts, playback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3447—Performance evaluation by modeling
Abstract
性能評価装置は、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複数の複合ワークロードを評価対象コンピュータ上に順次発生させるワークロード制御手段と、各ワークロード発生中の1次性能データ、及び、複合ワークロード発生中の複合性能データを取得するデータ取得手段と、取得された1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、複合性能データ及び1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、を備える。
Description
本発明は、コンピュータの性能評価技術に関する。
近年、仮想化技術の進歩、普及により、サービスを提供するサーバを仮想マシンとして実現する形態が増加している。これに伴い、仮想マシンを実現するサーバコンピュータ等を運用するデータセンタにおける消費電力も年々増加しており、消費電力の削減が急務になっている。
仮想化環境においては、別々のハードウェア(コンピュータ)上で実行されていた仮想マシンを同一のハードウェア上で動作させることで、リソースの効率的な使用が可能である。しかしながら、現状、仮想マシンに対するサービスレベルを維持するために、同一ハードウェア上で実行する仮想マシンの数を過度に制限しているため、本来使えるリソースを十分活用できていない。
サービスレベルを維持しつつ、少ない数のハードウェアに仮想マシンを集約するためには、ハードウェアのキャパシティと仮想マシンの必要キャパシティとを正確に見積もることが重要である。この見積もりの精度が低い場合、必要となるハードウェアの数が増加することになる。サービスレベルを維持するために、仮想マシンの必要キャパシティを大きく見積もらざるを得ず、同一ハードウェア上で実行させる仮想マシンの数が少なく設定されるからである。
下記特許文献1には、異なる複数の測定条件での情報処理システムの性能試験を自動的に連続して実行できるようにする技術が提案されている。具体的には、測定条件の互いに異なる項目の設定値を任意に組み合わせて生成した性能試験データに基づいて、情報処理システムの性能試験を実行することが提案されている。
しかしながら、上述のような手法では、計測対象の項目毎(例えば、コンピュータ資源毎)に性能試験が行われるに過ぎず、複数の項目を組み合わせた性能試験が考慮されていない。実際、仮想化環境のみでなく他の環境下においても、コンピュータ(システム)上で1つのコンピュータ資源を利用した1つの処理のみが実行されることは少なく、複数の処理が並列して実行されることが多い。
よって、上述の手法で得られた性能データは、実運用を考慮した場合、精度が低い可能性がある。
特に、仮想化環境では、システムや仮想マシンに対するコンフィグレーションを柔軟に変更でき、様々な性質を持った複数の仮想マシンが同一ハードウェア上で共存するため、コンピュータのキャパシティ(性能)の見積もりが非常に難しい。
本発明の目的は、コンピュータの性能を高精度に評価する技術を提供することにある。
本発明の各態様では、上述した課題を解決するために、それぞれ以下の構成を採用する。
第1の態様は、評価対象コンピュータの性能を評価する性能評価装置に関する。第1の態様に係る性能評価装置は、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを評価対象コンピュータ上に順次発生させるワークロード制御手段と、各ワークロード発生中の評価対象コンピュータの1次性能データ、及び、複合ワークロード発生中の評価対象コンピュータの複合性能データを取得するデータ取得手段と、データ取得手段により取得された1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、データ取得手段により取得された複合性能データ及びデータ解析手段により生成された1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、を備える。
第2の態様は、コンピュータにより実行される、評価対象コンピュータの性能を評価する性能評価方法に関する。第2の態様に係る性能評価方法は、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、各ワークロード発生中の評価対象コンピュータの1次性能データを取得し、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを評価対象コンピュータ上に順次発生させ、複合ワークロード発生中の評価対象コンピュータの複合性能データを取得し、取得された前記1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成し、取得された複合性能データ及び生成された1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成することを含む。
第3の態様は、上記第2の態様に含まれる各構成をコンピュータに実現させる性能評価プログラムである。なお、別態様としては、第3の態様に係る性能評価プログラムを記録したコンピュータが読み取り可能な記録媒体であってもよい。この記録媒体は、非一時的な有形の媒体を含む。
上記各態様によれば、コンピュータの性能を高精度に評価する技術を提供することができる。
以下、本発明の実施の形態における性能評価システムについて図面を用いて説明する。以下に挙げた各実施形態はそれぞれ例示であり、本発明は以下の各実施形態の構成に限定されない。
[第1実施形態]
図1は、第1実施形態における性能評価システムの構成例を概念的に示す図である。第1実施形態における性能評価システム1は、図1に示すように、性能評価装置10と、性能評価の対象となるサーバ装置20とを有する。
図1は、第1実施形態における性能評価システムの構成例を概念的に示す図である。第1実施形態における性能評価システム1は、図1に示すように、性能評価装置10と、性能評価の対象となるサーバ装置20とを有する。
性能評価システム1では、性能評価装置10がサーバ装置20の所定のコンピュータ資源に関する性能を評価する。性能評価装置10は、性能モデルを生成することにより、所定のコンピュータ資源に関する性能を評価する。
性能評価装置10は、ハードウェア構成として、RAM(Random Access Memory)12、ROM(Read Only Memory、図示せず)、ハードディスク(HDD)13等のようなメモリ、CPU(Central Processing Unit)11、入出力インタフェース14等を有する。これら各ハードウェア要素は例えばバス15により接続される。入出力インタフェース14は、性能評価装置10及びサーバ装置20の間で所定通信方式の通信を可能とするネットワークインタフェースを含む。
サーバ装置20のハードウェア構成も性能評価装置10と同様である。本実施形態は、性能評価装置10及びサーバ装置20のハードウェア構成を限定しない。また、本実施形態は、性能評価の対象となるコンピュータをサーバ装置に限定するものではなく、コンピュータであればよい。性能評価装置10及びサーバ装置20は、例えば、メモリに格納されるプログラムがCPU11により実行されることにより、図2に示す各処理部をそれぞれ実現する。
図2は、第1実施形態における性能評価装置10及びサーバ装置20の処理構成例を概念的に示す図である。性能評価装置10は、図2に示すように、ワークロード制御部101、データ取得部102、データ解析部103、モデル生成部104等を有する。
ワークロード制御部101は、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し該複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを該評価対象コンピュータ上に順次発生させる。
ここで、ワークロードとは、或るコンピュータ資源を利用する処理負荷を意味し、例えば、CPU負荷、ネットワーク送信負荷、ネットワーク受信負荷、ハードディスク読込み負荷、ハードディスク書込み負荷、画像処理負荷等である。また、単一ワークロード種とは、処理負荷(ワークロード)の種類を意味する。
例えば、CPUに関するワークロードとして浮動小数点演算が利用される場合には、この浮動小数点演算というタイプが単一ワークロード種に該当する。また、グラフィックに関するワークロードとしてテスト画像の表示処理が利用される場合には、そのテスト画像の表示処理というタイプが単一ワークロード種に該当する。この例によれば、浮動小数点演算を示す単一ワークロード種に関しては、演算量又は演算負荷の異なる複数の浮動小数点演算が用意され、これら各浮動小数点演算が各ワークロードに該当する。
複合ワークロード種については、評価対象となるサーバ装置20上で並列に実行される2つの異なる単一ワークロードのワークロード種を組み合わせた種類を意味する。例えば、浮動小数点演算とネットワーク送信処理との2つの異なる単一ワークロード種の組み合わせが、1つの複合ワークロード種に該当する。この例によれば、浮動小数点演算とネットワーク送信処理とからなる複合ワークロード種に関しては、或る演算量を持つ浮動小数点演算と或る送信量を持つネットワーク送信処理との組み合わせが各複合ワークロードに該当する。
データ取得部102は、各ワークロード発生中のサーバ装置20の1次性能データ、及び、複合ワークロード発生中のサーバ装置20の複合性能データを取得する。ここで、1次性能データとは、所定のコンピュータ資源の稼働状況を示すデータを意味し、例えば、CPU使用率、CPU使用量、ネットワーク送信量、ネットワーク受信量、ハードディスク読込み量、ハードディスク書込み量等のいずれか1つ又はいずれか複数の組み合わせである。
データ解析部103は、データ取得部102により取得された1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成する。このモデル化には、例えば、周知の統計解析手法等が利用される。本実施形態は、このモデル化手法を限定しない。
モデル生成部104は、データ取得部102により取得された複合性能データ及びデータ解析部103により生成された各1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成する。この複合性能モデルは、その複合ワークロード種に対応する少なくとも2つのワークロードの組み合わせが実行された際のサーバ装置20の性能データの特性を示す。
サーバ装置20は、ワークロード生成部201、データ計測部202等を有する。
ワークロード生成部201は、性能評価装置10のワークロード制御部101の制御により、各ワークロード及び複合ワークロードをそれぞれ異なるタイミングで実行する。複合ワークロードの実行では、その複合ワークロードを構成する各ワークロードが並列に実行される。
ワークロード生成部201は、サーバ装置20に予め保持される、各ワークロードに対応するプログラム(タスク、プロセス等)を実行するようにしてもよい。また、単一ワークロード種毎にそれぞれ当該プログラムが保持され、ワークロード生成部201が、ワークロード制御部101から送られるパラメータを当該プログラムに適用して実行するようにしてもよい。
データ計測部202は、各ワークロード発生中の各1次性能データ、及び、複合ワークロード発生中の複合性能データを計測する。計測された1次性能データ及び複合性能データは、性能評価装置10へ送られる。
〔第1実施形態の作用及び効果〕
第1実施形態では、性能評価装置10の制御に応じて、サーバ装置20において、各ワークロードが実行され、各ワークロード発生中のサーバ装置20の1次性能データがそれぞれ計測され、計測された各1次性能データがそれぞれ性能評価装置10に送られる。同様に、複合ワークロードが実行された場合には、その複合ワークロード発生中のサーバ装置20の複合性能データが計測され、その複合性能データが性能評価装置10に送られる。
第1実施形態では、性能評価装置10の制御に応じて、サーバ装置20において、各ワークロードが実行され、各ワークロード発生中のサーバ装置20の1次性能データがそれぞれ計測され、計測された各1次性能データがそれぞれ性能評価装置10に送られる。同様に、複合ワークロードが実行された場合には、その複合ワークロード発生中のサーバ装置20の複合性能データが計測され、その複合性能データが性能評価装置10に送られる。
性能評価装置10では、各1次性能データをモデル化することにより、各単一ワークロード種に対する各1次性能モデルがそれぞれ生成され、生成された各1次性能モデル及び複合性能データに基づいて、複合ワークロード種に対する複合性能モデルが生成される。
このように、第1実施形態によれば、複数の処理負荷が並列して発生している状況下の性能モデル(複合性能モデル)を生成することができる。よって、第1実施形態によれば、サーバ装置20の実際の運用下の性能を正確に評価することができる。
[第2実施形態]
第2実施形態における性能評価システム1は、図1に示す上述の第1形態と同様の構成を有する。以下、第2実施形態における性能評価システム1について第1実施形態と異なる内容を中心に説明する。
第2実施形態における性能評価システム1は、図1に示す上述の第1形態と同様の構成を有する。以下、第2実施形態における性能評価システム1について第1実施形態と異なる内容を中心に説明する。
図3は、第2実施形態における性能評価装置10及びサーバ装置20の処理構成例を概念的に示す図である。なお、サーバ装置20は、第1実施形態と同様であるため、サーバ装置20の説明はここでは省略する。
第2実施形態における性能評価装置10は、第1実施形態の構成に加えて、更に、モデル推定部105、性能データ格納部106、性能モデル格納部107を有する。これら新たな各処理部についても、例えば、メモリに格納されるプログラムがCPU11により実行されることで実現される。新たな各処理部以外の処理部についても、第1実施形態と異なる内容を中心に以下に説明する。
ワークロード制御部101は、ワークロード及び複合ワークロードを発生させるにあたり、発生させるワークロードについての情報を取得する。この情報は、例えば、図4、図5及び図6に示されるようなワークロード計画ファイルから取得される。これらワークロード計画ファイルは、性能評価装置10に格納されていてもよいし、他の装置から取得されてもよい。各ワークロード計画ファイルには、単一ワークロード種のワークロードをサーバ装置20上で発生させるために必要な情報がそれぞれ格納される。
図4は、CPUに関する単一ワークロード種のワークロード計画ファイルの例を示す図である。図5は、ネットワーク送信に関する単一ワークロード種のワークロード計画ファイルの例を示す図である。図4及び図5に示すように、例えば、単一ワークロード種のワークロード計画ファイルには、単一ワークロード種を識別する情報、分割数、発生時間、ワークロード上限値(W_Thres_CPU、W_Thres_NWSEND)、通信先アドレス等が格納される。
ワークロード上限値は、単一ワークロード種に対応するコンピュータ資源の性能が最大となる最小のワークロード値である。例えば、CPUに関する単一ワークロード種のワークロード上限値は、CPU使用率が最大(例えば100%)になる最小のワークロード値である。ネットワーク送信に関する単一ワークロード種のワークロード上限値は、例えば、ビットレートが最大となる最小のワークロード値である。
ここで、ワークロード値は、そのワークロードの大きさを示す。例えば、ワークロードが浮動小数点演算であれば、そのワークロード値は、単位時間あたりの浮動小数点演算回数に設定されてもよい。また、ワークロードがネットワーク送信処理であれば、そのワークロード値は、単位時間あたりの送信データ量に設定されてもよい。
ワークロード制御部101は、図4及び図5に示されるワークロード計画ファイルを参照した場合、例えば、以下の(式1)及び(式2)で示される各ワークロード値(V_CPU(i)、V_NWSEND(k))を持つ各ワークロードをサーバ装置20上に発生させる。
Dは分割数を示し、i及びkは、0以上かつ分割数以下の整数である。
V_CPU(i)=i×(W_Thres_CPU/D) (式1)
V_NWSEND(k)=k×(W_Thres_NWSEND/D) (式2)
V_CPU(i)=i×(W_Thres_CPU/D) (式1)
V_NWSEND(k)=k×(W_Thres_NWSEND/D) (式2)
図4及び図5の例によれば、ワークロード制御部101は、CPUに関する単一ワークロード種に関しそれぞれ異なるワークロード値を持つ21(0≦i≦20)個のワークロードを60秒間ずつサーバ装置20上に発生させる。その後、ワークロード制御部101は、ネットワーク送信に関する単一ワークロード種に関しそれぞれ異なるワークロード値を持つ21(0≦k≦20)個のワークロードを60秒間ずつサーバ装置20上に発生させる。
ワークロード制御部101は、単一ワークロード種を識別する情報、分割数、発生時間、ワークロード上限値を含むワークロード実行指示をサーバ装置20に送ることにより、所望のワークロードを発生させてもよい。また、図4及び図5の例では、各ワークロード値は、ワークロード上限値を所定の分割数で分割することで得られたが、予め所望の数のワークロード値が設定されるようにしてもよい。
ワークロード制御部101は、サーバ装置20上に発生させるワークロードに対応するプログラムを他のコンピュータ上で実行する必要がある場合には、そのプログラムを実行するように他のコンピュータへ指示する。例えば、ネットワーク受信に関するワークロードをサーバ装置20上に発生させる場合、他のコンピュータ上でサーバ装置20へデータ送信を行うプログラムが必要となる。このような場合、ワークロード制御部101は、ネットワーク受信に関するワークロードをサーバ装置20上に発生させる前又は同時に、他のコンピュータ上でデータ送信プログラムが実行されるように制御する。
ワークロード制御部101は、サーバ装置20のデータ計測部202に計測の開始を指示するようにしてもよい。この場合には、ワークロード制御部101は、ワークロード生成部201がワークロード又は複合ワークロードを実行させる前又は同時に、所定の性能データの計測の開始をデータ計測部202に指示する。
図6は、2次複合ワークロード種のワークロード計画ファイルの例を示す図である。以降、構成する単一ワークロード種の数(K)に応じてその複合ワークロード種をK次複合ワークロード種と表記する。同様に、K個のワークロードが組み合わされた複合ワークロードはK次複合ワークロードと表記する。
図6に示されるファイルには、CPUに関する単一ワークロード種とネットワーク送信に関する単一ワークロード種とを組み合わせた2次複合ワークロード種のワークロード計画が設定されている。複合ワークロード種のワークロード計画ファイルには、複合ワークロード種を識別する情報、分割数、発生時間、通信先アドレス、それを構成する各単一ワークロード種のワークロード上限値が格納される。
ワークロード制御部101は、複合ワークロード種に関し発生させる複合ワークロードの数を、その複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数に設定する。
図4、図5及び図6の例では、CPU及びネットワーク送信の各単一ワークロード種に関しそれぞれ発生させるワークロードの数が21個であるため、それらのワークロードの全組み合わせ数は、441(=21×21)個である。ところが、複合ワークロード種に関して発生させる複合ワークロードの数は、CPUに関し発生させる11個のワークロードと、ネットワーク送信に関し発生させる11個のワークロードとの全組み合わせ(121=11×11)から、単一ワークロードの数(22)を引いた数となる。ここで減算された数(22)は、上記(式1)及び(式2)におけるiが0又はkが0となる組み合わせであり、これらは単一ワークロードであり複合ワークロードではない。
ワークロード制御部101は、各単一ワークロード種に関する各ワークロードをそれぞれ発生させた後、組み合わされるワークロード種の数が少ない複合ワークロード種から順に複合ワークロードをサーバ装置20上に発生させる。図6の例によれば、2次複合ワークロードとして、ワークロード制御部101は、上記(式1)及び(式2)に分割数D(=10)を適用して得られるV_CPU(i)及びV_NWSEND(k)を示す各ワークロードを並列にサーバ装置20上に発生させる。このとき、既に実行されている1つのワークロード(iが0又はkが0の組み合わせ)は除かれる。
なお、複合ワークロード種に関し発生させる複合ワークロードの数は、その複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数であれば、特に限定されない。複合ワークロードの数を減らすことにより、本実施形態は、計測回数を減らし、計測時間を減らすことができる。
データ取得部102は、評価対象とされる性能の種類に応じた性能データを取得するようにしてもよい。例えば、最終的にCPU性能の評価が望まれる場合には、データ取得部102は、CPU性能を示す性能データを取得するようにしてもよい。また、最終的にネットワーク送信性能の評価が望まれる場合には、データ取得部102は、ネットワーク送信性能を示す性能データを取得するようにしてもよい。
性能データ格納部106は、データ取得部102により取得された各性能データをそれぞれ格納する。性能モデル格納部107は、データ解析部103により生成された1次性能モデル、モデル生成部104により生成されたK(Kは2以上)次の性能モデル、モデル推定部105により推定される近似複合性能モデル等を格納する。
性能データ格納部106及び性能モデル格納部107に格納される各データは適宜抽出され、各処理部で利用される。以降の説明では、自明であることから、性能データ格納部106及び性能モデル格納部107に格納される各データを利用する各処理部の説明において、性能データ格納部106及び性能モデル格納部107から抽出することを特に明記しない。
モデル推定部105は、データ解析部103により生成された1次性能モデルのうち、2次複合ワークロード種を構成する各単一ワークロード種に対応する各1次性能モデルを用いて、その2次複合ワークロード種に対する近似複合性能モデルを推定する。モデル推定部105は、例えば、各1次性能モデルを足し合わせることにより、当該近似複合性能モデルを推定する。
例えば、CPU性能の評価のための2次複合ワークロード種に対する近似複合性能モデルM2CPU_CPU_NWSEND〜()は、以下の式で表すことができる。
M2CPU_CPU_NWSEND〜(WL_CPU、WL_NWSEND)
=K(M1CPU_CPU(WL_CPU)+M1CPU_NWSEND(WL_NWSEND))
M2CPU_CPU_NWSEND〜(WL_CPU、WL_NWSEND)
=K(M1CPU_CPU(WL_CPU)+M1CPU_NWSEND(WL_NWSEND))
WL_CPUは、CPUワークロードのワークロード値を示す変数であり、WL_NWSENDは、ネットワーク送信ワークロードのワークロード値を示す変数である。M1CPU_CPU(WL_CPU)は、CPUの単一ワークロード種に対するCPU性能モデルである。M1CPU_NWSEND(WL_NWSEND)は、ネットワーク送信の単一ワークロード種に対するCPU性能モデルである。Kは、引数の値がCPU性能の最大値を超える場合にはCPU性能の最大値を返す関数を示す。
なお、ここで推定される近似複合性能モデルは、1次性能モデルを足し合わせたものであるため、2つの種類のワークロードを同時に発生させたことによる競合要素が考慮されていない。よって、近似複合性能モデルと実際の複合性能モデルとの間には誤差が存在する。
モデル推定部105は、K(Kは3以上の整数)個の単一ワークロード種が利用される場合に、モデル生成部104により生成された、(K−1)個の異なるワークロード種を組み合わせた(K−1)次の複合ワークロード種に対する(K−1)次性能モデルを用いて、K個の異なるワークロード種を組み合わせたK次の複合ワークロード種に対する近似複合性能モデルを推定する。モデル推定部105は、例えば、各(K−1)次性能モデルを足し合わせることにより、当該K次複合ワークロード種に対する近似複合性能モデルを生成する。
更に、例えば、CPU性能の評価のための3次複合ワークロード種に対する近似複合性能モデルM3CPU_CPU_NWSEND_HDDWT〜()は、以下の式で表すことができる。
M3CPU_CPU_NWSEND_HDDWT〜(WL_CPU、WL_NWSEND、WL_HDDWT)
=K(M2CPU_CPU_NWSEND(WL_CPU/2、WL_NWSEND/2)+M2CPU_CPU_HDDWT(WL_CPU/2、WL_HDDWT/2)+M2CPU_NWSEND_HDDWT(WL_NWSEND/2、WL_HDDWT/2))
M3CPU_CPU_NWSEND_HDDWT〜(WL_CPU、WL_NWSEND、WL_HDDWT)
=K(M2CPU_CPU_NWSEND(WL_CPU/2、WL_NWSEND/2)+M2CPU_CPU_HDDWT(WL_CPU/2、WL_HDDWT/2)+M2CPU_NWSEND_HDDWT(WL_NWSEND/2、WL_HDDWT/2))
M2CPU_CPU_NWSEND()は、CPUの単一ワークロード種とネットワーク送信の単一ワークロード種との組み合わせに係る2次複合ワークロード種に対する2次性能モデルを示す。M2CPU_CPU_HDDWT()は、CPUの単一ワークロード種とハードディスク書き込みの単一ワークロード種との組み合わせに係る2次複合ワークロード種に対する2次性能モデルを示す。M2CPU_NWSEND_HDDWT()は、ネットワーク送信の単一ワークロード種とハードディスク書き込みの単一ワークロード種との組み合わせに係る2次複合ワークロード種に対する2次性能モデルを示す。Kは、引数の値がCPU性能の最大値を超える場合にはCPU性能の最大値を返す関数を示す。
なお、上記M3CPU_CPU_NWSEND_HDDWT〜()における、各2次複合ワークロード種に対する2次性能モデルの変数(各ワークロード値)がそれぞれ2で除算されているのは、重複している性能要素を減じるためである。M次の複合ワークロード種に対する近似複合性能モデルの場合には、各変数(各ワークロード値)は、(M−1)で除算される。
データ解析部103は、データ取得部102により取得された複合性能データと、モデル推定部105により推定された近似複合性能モデルから得られる近似複合性能データとの差分データをモデル化することにより、複合ワークロード種に対する差分データモデルを生成する。ここで生成される差分データモデルが、近似複合性能モデルと実際の複合性能モデルとの間の誤差に相当する。
モデル生成部104は、モデル推定部105により推定された近似複合性能モデル及びデータ解析部103により生成された差分データモデルを用いて、複合ワークロード種に対する複合性能モデルを生成する。モデル生成部104は、例えば、近似複合性能モデル及び差分データモデルを足し合わせることにより、複合ワークロード種に対する複合性能モデルを生成する。
例えば、CPU性能の評価のための2次の複合ワークロード種に対する複合性能モデルM2CPU_CPU_NWSEND()は、以下の式で表すことができる。ここでは、CPUの単一ワークロード種とネットワーク送信の単一ワークロード種とを組み合わせた2次複合ワークロード種を例に挙げる。
M2CPU_CPU_NWSEND(WL_CPU、WL_NWSEND)
=M2CPU_CPU_NWSEND〜(WL_CPU、WL_NWSEND)+M2CPU_DIFF_CPU_NWSEND(WL_CPU、WL_NWSEND)
M2CPU_CPU_NWSEND(WL_CPU、WL_NWSEND)
=M2CPU_CPU_NWSEND〜(WL_CPU、WL_NWSEND)+M2CPU_DIFF_CPU_NWSEND(WL_CPU、WL_NWSEND)
上記式におけるM2CPU_DIFF_CPU_NWSEND(WL_CPU、WL_NWSEND)は、データ解析部103により生成される、CPUの単一ワークロード種とネットワーク送信の単一ワークロード種とを組み合わせた2次複合ワークロード種に対する差分データモデルを示す。
〔動作例〕
図7は、第2実施形態における性能評価システム1の動作例を示すフローチャートである。以下の説明では、サーバ装置20のCPU性能を評価対象とする場合の動作を例に挙げる。この評価対象とすべきサーバ装置20のコンピュータ資源については、予め性能評価装置10に設定されていてもよいし、ユーザにより入力されるようにしてもよい。以下の動作例は、CPU性能を評価対象とする場合のみならず、他のコンピュータ資源に関する性能、即ち、ネットワーク性能、ハードディスクアクセス性能、グラフィック性能等を評価対象とする場合にも適用可能である。
図7は、第2実施形態における性能評価システム1の動作例を示すフローチャートである。以下の説明では、サーバ装置20のCPU性能を評価対象とする場合の動作を例に挙げる。この評価対象とすべきサーバ装置20のコンピュータ資源については、予め性能評価装置10に設定されていてもよいし、ユーザにより入力されるようにしてもよい。以下の動作例は、CPU性能を評価対象とする場合のみならず、他のコンピュータ資源に関する性能、即ち、ネットワーク性能、ハードディスクアクセス性能、グラフィック性能等を評価対象とする場合にも適用可能である。
性能評価装置10では、ワークロード制御部101が、性能モデルを生成するにあたり、利用すべき単一ワークロード種に関する情報を取得する。例えば、ワークロード制御部101は、ワークロード計画ファイルからその情報を取得する。なお、CPU、ネットワーク送信及びハードディスク書き込みに関する3つの単一ワークロード種が利用される場合には、ワークロード制御部101は、利用すべき単一ワークロード種の数Mに3を設定し、変数Kを1に設定する(S1、S2)。
ワークロード制御部101は、M個の単一ワークロード種のうちの1つの単一ワークロード種を選択し、この選択された単一ワークロード種に関しワークロード計画情報を取得する(S3)。例えば、図4及び図5に示されるようなワークロード計画ファイルから当該ワークロード計画情報が取得される。
ワークロード制御部101は、上記取得されたワークロード計画情報に基づいて、当該選択された単一ワークロード種に関する複数のワークロードの発生をサーバ装置20に指示する。この指示には、上記ワークロード計画情報が含まれるようにしてもよい。
サーバ装置20では、ワークロード生成部201がその指示を受け、その指示に応じたワークロードを実行する(S4)。図4の例によれば、ワークロード値(V_CPU(0))のCPUワークロードが60秒間実行され、その後、ワークロード値(V_CPU(1))のCPUワークロードが60秒間実行される。図4の例によれば、このように、21個の各ワークロード値に対応する各ワークロードが60秒間ずつ順次実行される。
このとき、サーバ装置20では、データ計測部202がサーバ装置20のCPU性能を示す性能データ(1次性能データ)を計測している。ここでは、例えば、CPU使用率が1次性能データとして計測される。データ計測部202は、計測された1次性能データを性能評価装置10に送る。
性能評価装置10では、データ取得部102がサーバ装置20のデータ計測部202から送られる1次性能データを取得する。ここで取得される1次性能データは、上記選択された単一ワークロード種に関する各ワークロード発生中の性能を示す。
続いて、データ解析部103は、データ取得部102により取得された各1次性能データをモデル化することにより、上記選択された単一ワークロード種に対する1次性能モデルを生成する(S5;YES、S6)。このモデル化には、例えば、多項式回帰手法が利用される。この場合に生成される1次性能モデルは、性能を示す値(目的変数)とそれに影響を与えたワークロード値(説明変数)とで表す多項式、即ち、多項式回帰モデルとなる。
ワークロード制御部101は、或る単一ワークロード種に対する1次性能モデルの生成が完了したが、全ての単一ワークロード種の処理が完了していないため(S9;NO)、2つ目の単一ワークロード種を選択し、この選択された単一ワークロード種に関しワークロード計画情報を取得する(S3)。
以降、M個の単一ワークロード種に対するM個の1次性能モデルが生成されるまで(S9;YES)、上述と同様に、各単一ワークロード種に対する1次性能モデルの生成処理がそれぞれ実行される(S3、S4、S5;YES、S6)。
全ての単一(K=1)ワークロード種に対する1次性能モデルの生成処理が完了すると(S9;YES、S10;NO)、モデル推定部105は、生成されたM個の1次性能モデルの中のいずれか2個の各組み合わせをそれぞれ足し合わせることにより、2次の近似複合性能モデルを推定する(S11)。ここで推定される(K+1)次の近似複合性能モデルの数は、MC(K+1)で示される。このCは、コンビネーションを示す。3つの単一ワークロード種が利用される場合には、3つの2次近似複合性能モデルが生成される(M=3かつK=1)。
例えば、CPU、ネットワーク送信及びハードディスク書き込みに関する3つの単一ワークロード種が利用される場合には、CPUに関する1次性能モデルとネットワーク送信に関する1次性能モデルとが足しあわされた2次の近似複合性能モデルと、CPUに関する1次性能モデルとハードディスク書き込みに関する1次性能モデルとが足しあわされた2次の近似複合性能モデルと、ネットワーク送信に関する1次性能モデルとハードディスク書き込みに関する1次性能モデルとが足しあわされた2次の近似複合性能モデルと、が推定される。
モデル推定部105により2次の近似複合性能モデルが構築されると、変数Kに1が加算される(S12)。続いて、ワークロード制御部101は、2次の複合ワークロード種に関するワークロード計画情報を取得する(S3)。例えば、図6のようなワークロード計画ファイルから当該ワークロード計画情報が取得される。
ワークロード制御部101は、取得された計画情報に応じて、2次の複合ワークロードの発生をサーバ装置20に指示する。サーバ装置20では、ワークロード生成部201がその指示に応じて2次の複合ワークロードを実行する(S4)。即ち、ワークロード生成部201は、指示で示される複合ワークロード種に対応する2つのワークロードを並列に実行する。
このとき、データ計測部202が、サーバ装置20における2次の複合ワークロード発生中の性能データ(複合性能データ)を計測している。この計測された2次の複合ワークロード発生中の複合性能データは、性能評価装置10のデータ取得部102により取得される。
続いて、データ解析部103は、モデル推定部105により既に推定された2次の近似複合性能モデルに、取得された複合性能データに対応する複合ワークロードを構成する各ワークロードのワークロード値を適用することにより、各近似複合性能データをそれぞれ取得する。データ解析部103は、データ取得部102により取得された複合性能データと、取得された近似複合性能データとの差分データをモデル化することにより、差分データモデルを生成する(S5;NO、S7)。このモデル化にも、例えば、上述と同様に、多項式回帰手法が利用される。
続いて、モデル生成部104は、モデル推定部105により既に推定された近似複合性能モデル及びデータ解析部103により生成された差分データモデルを足し合わせることにより、2次の複合ワークロード種に対する複合性能モデルを生成する(S8)。このモデル同士の足し合わせは、例えば、多項式同士の足し算となる。
以降、MC2個の2次性能モデルが生成されるまで(S9;YES)、上述と同様に、各2次の複合ワークロード種に対する複合性能モデルの生成処理がそれぞれ実行される(S3、S4、S5;NO、S7、S8)。
全ての2次の複合ワークロード種に対する複合性能モデルの生成処理が完了すると(S9;YES、S10;NO)、モデル推定部105は、MC2個の2次性能モデルの中のいずれか3個の各組み合わせをそれぞれ足し合わせることにより、3次の近似複合性能モデルを推定する(S11)。Mが3でKが2の場合には、1つの3次近似複合性能モデルが生成される。
なお、Mが2の場合には、上述のように3次近似複合性能モデルが生成されることなく、処理は終了される(S10;YES)。
例えば、CPU、ネットワーク送信及びハードディスク書き込みに関する3つの単一ワークロード種が利用される場合には、CPU及びネットワーク送信の各単一ワークロード種が組み合わされた2次の複合ワークロード種に対する複合性能モデルと、CPU及びハードディスク書き込みの各単一ワークロード種が組み合わされた2次の複合ワークロード種に対する複合性能モデルと、ネットワーク送信及びハードディスク書き込みの各単一ワークロード種が組み合わされた2次の複合ワークロード種に対する複合性能モデルと、が足しあわされた3次の近似複合性能モデルが推定される。
モデル推定部105により3次の近似複合性能モデルが構築されると、変数Kに1が加算される。続いて、ワークロード制御部101は、3次の複合ワークロード種に関するワークロード計画情報を取得する(S3)。以降、2次の複合ワークロード種の処理と同様に処理され(S4、S5;NO、S7)、上記3次の近似複合性能モデルを利用して、3次の複合ワークロード種に対する複合性能モデルが生成される(S8)。
このように最終的に望まれるM次の複合ワークロード種に対する複合性能モデルが生成されるまで、上述のような処理が繰り返される。
〔第2実施形態の作用及び効果〕
上述のように、第2実施形態における性能評価システム1では、まず、複数の単一ワークロード種に対する各1次性能モデルが生成される。具体的には、ワークロード制御部101の制御に応じて、単一ワークロード種毎の複数ワークロードがワークロード生成部201によってサーバ装置20上に所定時間ずつ順次実行され、各ワークロード発生中のサーバ装置20の性能データがデータ計測部202によってそれぞれ計測される。
上述のように、第2実施形態における性能評価システム1では、まず、複数の単一ワークロード種に対する各1次性能モデルが生成される。具体的には、ワークロード制御部101の制御に応じて、単一ワークロード種毎の複数ワークロードがワークロード生成部201によってサーバ装置20上に所定時間ずつ順次実行され、各ワークロード発生中のサーバ装置20の性能データがデータ計測部202によってそれぞれ計測される。
計測された性能データはデータ取得部102によって取得され、データ解析部103が、単一ワークロード種毎に複数の性能データをそれぞれモデル化することにより、各単一ワークロード種に対する1次性能モデルを生成する。
このように、第2実施形態では、各1次性能モデルは、同一種で大きさの異なる複数のワークロードに対応する複数の性能データに基づいてそれぞれ生成される。ここで、単一ワークロード種に関し発生させるワークロードの数(サンプル数)が大きい程、詳細な性能データが取得されるため、生成される1次性能モデルの精度も高くなる。
ところで、複合性能モデルのための複合ワークロードは、少なくとも2つの異種のワークロードの組み合わせであるため、組み合わせられる単一ワークロード種のサンプル数を増やすと、複合ワークロードのサンプル数は飛躍的に増加する。つまり、精度の高い複合性能モデルの生成には、通常、長い計測時間が費やされる。
一方、計測時間を削減するために、当該サンプル数を減らした場合には、得られる性能データの数が少なくなるため、1次性能モデル及び複合性能モデルの精度が劣化することになる。
そこで、第2実施形態は、上述のように生成された複数の1次性能モデルを用いて、精度を劣化させることなく効率よく複合性能モデルを生成する。なお、上述のような1次性能モデルのためのサンプル数は、1次性能モデルの精度が劣化しない程度の通常設定される値に設定されればよい。
第2実施形態では、Kを2以上の整数とすると、K次の近似複合性能モデルと差分データモデルとの足し算により、K次の性能モデルを生成する(モデル生成部104)。
K次の近似複合性能モデルは、複数の(K−1)次の性能モデルの中のK個の各組み合わせの足し算により推定される(モデル推定部105)。但し、K次の近似複合性能モデルは、K個のワークロードを同時に発生させたことによる競合要素が考慮されていないため、真のK次性能モデルとの間に誤差がある。
第2実施形態では、この誤差を埋めるために、データ解析部103により生成される上記差分データモデルが利用される。差分データモデルは、データ計測部202により計測された、K次の複合ワークロード発生中のサーバ装置20上の性能データと、K次の近似複合性能モデルから得られる近似複合データとの複数の差分データがデータ解析部103によりモデル化されることにより生成される。
このように、第2実施形態では、K次の性能モデルを生成するために実行される実質的なモデル化処理は、差分データモデル構築のための処理である。差分データモデルの複雑さは、真のK次の性能モデルより小さい。従って、第2実施形態によれば、差分データモデルを生成するためのサンプル数、即ち、複合ワークロードのサンプル数を削減することができる。より複雑な分布を示すデータをモデル化するためには、より多くの計測点による計測が必要であるからである。
サンプル数を削減することができれば、計測時間の削減にも繋がる。従って、第2実施形態によれば、K次の複合性能モデルを計測回数を削減することにより効率的に生成することができる。但し、第2実施形態によれば、計測回数を削減しても、性能モデルの精度を維持することができる。これは、複合ワークロードに対する複合性能モデル化を、近似性能モデルと真の複合性能モデルとの差分値のモデル化へ変換することにより、モデル化の対象の複雑さを軽減しているからである。
〔第3実施形態〕
第3実施形態では、上述の各実施形態における評価対象であるサーバ装置20が仮想マシン環境を提供可能である場合の例を挙げる。以下、第3実施形態について、上述の各実施形態と異なる内容を中心に説明する。
第3実施形態では、上述の各実施形態における評価対象であるサーバ装置20が仮想マシン環境を提供可能である場合の例を挙げる。以下、第3実施形態について、上述の各実施形態と異なる内容を中心に説明する。
図8は、第3実施形態におけるサーバ装置20の処理構成例を概念的に示す図である。第3実施形態におけるサーバ装置20は、第1実施形態及び第2実施形態の構成に加えて、複数の仮想マシン260(#1)及び260(#2)、サーバ制御部250を新たに有する。仮想マシンの実現手法は一般的な手法が利用されればよい。
第3実施形態におけるサーバ装置20では、サーバ制御部250が、各仮想マシン260(#1)及び260(#2)を制御し、性能評価装置10のワークロード制御部101からの指示内容に応じて、ワークロード生成部201(#1)及び201(#2)を各仮想マシン260(#1)及び260(#2)上に実現させる。
ワークロード生成部201(#1)及び201(#2)はそれぞれ、第1実施形態及び第2実施形態と同様に、各仮想マシン260(#1)及び260(#2)上にワークロード又は複合ワークロードを発生させる。
データ計測部202は、各仮想マシン260(#1)及び260(#2)の各性能データ、並びに、サーバ装置20全体の性能データをそれぞれ計測する。これにより、性能評価装置10のデータ取得部102は、各仮想マシン260(#1)及び260(#2)の各性能データ、並びに全体の性能データをそれぞれ取得する。
性能評価装置10の処理構成は、第1実施形態及び第2実施形態の構成と同様であればよい。但し、第3実施形態では、同一種のワークロードでも発生させる仮想マシンが異なる場合、異なるワークロードとして扱われる。即ち、CPU及びネットワーク送信の2つの単一ワークロード種が利用される場合には、仮想マシン260(#1)上で発生されたCPUワークロード及びネットワーク送信ワークロード、仮想マシン260(#2)上で発生されたCPUワークロード及びネットワーク送信ワークロードの4つの単一ワークロード種が存在するものとして処理される。
データ解析部103におけるモデル化においては、データ取得部102により取得された各仮想マシン260(#1)及び260(#2)の各性能データ、並びに全体の性能データが用いられる。1次性能モデル及び複合性能モデルの生成手法については第1実施形態及び第2実施形態と同様である。
このように、第3実施形態によれば、仮想マシン毎の性能モデルを精度を劣化させることなく効率よく生成することができる。
[変形例]
上述の各実施形態は、組み合わされるワークロード種の数が少ない複合ワークロード種から順に、漸次的に性能モデルを生成した。これは、各次の性能モデルを生成するための差分データモデルの複雑さを低減することにより、性能モデルの精度を劣化させることなく効率を上げるためであった。
上述の各実施形態は、組み合わされるワークロード種の数が少ない複合ワークロード種から順に、漸次的に性能モデルを生成した。これは、各次の性能モデルを生成するための差分データモデルの複雑さを低減することにより、性能モデルの精度を劣化させることなく効率を上げるためであった。
しかしながら、評価対象とする性能の種類等によれば、異種のワークロード同士の競合に関する要素が性能モデルの精度の高さに与える影響が小さい場合もあり得る。このような場合、上述の各実施形態のように漸次的な生成手法ではなく、以下のような性能モデルの生成手法を用いるようにしてもよい。
1つ目として、1次性能モデルを用いて最終的な3次以上の性能モデルを直接生成する手法が取られてもよい。この手法は、K個の1次性能モデルを足し合わせることにより、K次の近似複合性能モデルを推定し、K次の複合ワークロードの発生中の複合性能データを計測し、差分データモデルを生成し、K次の近似複合性能モデルと差分データモデルとを足し合わせることによりK次の複合性能モデルを生成する。
この手法では、例えば、3次の性能モデルを生成する際には、2次の複合ワークロードを発生させる際に生じる競合要素と、3次の複合ワークロードを発生させる際に生じる競合要素が考慮されないため、当該差分データモデルが上記各実施形態と比べて複雑になる。よって、差分データモデルを得るためのサンプル数は、上記各実施形態と比べて多くすることが好ましい。しかしながら、この手法によれば、中間次数の複合ワークロードの計測時間が省かれるため、上記各実施形態と比べて処理量及び計測時間を少なくすることができる。
2つ目として、K次の近似複合性能モデルを推定する場合、(K−1)次の性能モデルのみでなく、(K−2)以下の次数の性能モデルも利用する手法が取られてもよい。具体的には、例えば、2次の性能モデルと1次性能モデルとを足し合わせることで、3次の近似複合性能モデルを生成するようにしてもよい。なお、この手法においても、1つ目の手法と同様に、考慮されない競合要素が存在することになるため、当該差分データモデルが上記各実施形態と比べて複雑になる。
なお、上記実施形態の説明には、複数のフローチャートを用いており、それぞれに複数のステップ(処理)を順番に記載しているが、その記載の順番は、本実施形態で実行される処理ステップの各順番を必ずしも限定するものではない。本実施形態では、図示される処理ステップの順番を内容的に支障しない範囲で変更することができる。また、上述した実施形態及び変形例は、その内容が相反しない範囲で組み合わせることができる。
上記の各実施形態及び各変形例の一部又は全部は、以下の付記のようにも記載され得る。但し、各実施形態及び各変形例が以下の記載に限定されるものではない。
(付記1)複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを評価対象コンピュータ上に順次発生させるワークロード制御手段と、各ワークロード発生中の評価対象コンピュータの1次性能データ、及び、複合ワークロード発生中の評価対象コンピュータの複合性能データを取得するデータ取得手段と、データ取得手段により取得された1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、データ取得手段により取得された複合性能データ及びデータ解析手段により生成された1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、を備えることを特徴とする性能評価装置。
(付記2)上記ワークロード制御手段は、複合ワークロード種に関し発生させる複合ワークロードの数を、複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数に設定することを特徴とする付記1に記載の性能評価装置。
(付記3)上記モデル生成手段は、上記データ解析手段により生成された1次性能モデルの少なくとも1つを用いて、複合ワークロード種に対する近似複合性能モデルを推定するモデル推定手段を含み、上記データ解析手段は、上記データ取得手段により取得された複合性能データと、上記モデル推定手段により推定された近似複合性能モデルから得られる近似複合性能データとの差分データをモデル化することにより、複合ワークロード種に対する差分データモデルを生成し、上記モデル生成手段は、上記モデル推定手段により推定された近似複合性能モデル及び上記データ解析手段により生成された差分データモデルを用いて、複合ワークロード種に対する複合性能モデルを生成する、ことを特徴とする付記1又は2に記載の性能評価装置。
(付記4)上記モデル推定手段は、上記モデル生成手段により生成された、(K−1)個(Kは3以上の整数)の異なるワークロード種を組み合わせた(K−1)次の複合ワークロード種に対する(K−1)次性能モデルを用いて、K個の異なるワークロード種を組み合わせたK次の複合ワークロード種に対する近似複合性能モデルを推定する、ことを特徴とする付記3に記載の性能評価装置。
(付記5)上記ワークロード制御手段は、各単一ワークロード種の全てに関しそれぞれ全てのワークロードを発生させた後、組み合わされるワークロード種の数が少ない複合ワークロード種から順に複合ワークロードを発生させることを特徴とする付記1から4のいずれか1つに記載の性能評価装置。
(付記6)コンピュータが、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、各ワークロード発生中の評価対象コンピュータの1次性能データを取得し、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを評価対象コンピュータ上に順次発生させ、複合ワークロード発生中の評価対象コンピュータの複合性能データを取得し、取得された上記1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成し、取得された複合性能データ及び生成された1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成する、ことを含む性能評価方法。
(付記7)複合ワークロード種に関し発生させる複合ワークロードの数は、複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数に設定されることを特徴とする付記6に記載の性能評価方法。
(付記8)上記複合性能モデルの生成は、生成された1次性能モデルの少なくとも1つを用いて、複合ワークロード種に対する近似複合性能モデルを推定し、取得された上記複合性能データと、推定された上記近似複合性能モデルから得られる近似複合性能データとの差分データをモデル化することにより、複合ワークロード種に対する差分データモデルを生成し、推定された近似複合性能モデル及び生成された差分データモデルを用いて、複合ワークロード種に対する複合性能モデルを生成する、ことを含む付記6又は7に記載の性能評価方法。
(付記9)上記近似複合性能モデルの推定は、生成された、(K−1)個(Kは3以上の整数)の異なるワークロード種を組み合わせた(K−1)次の複合ワークロード種に対する(K−1)次性能モデルを用いて、K個の異なるワークロード種を組み合わせたK次の複合ワークロード種に対する近似複合性能モデルを推定する、ことを含む付記8に記載の性能評価方法。
(付記10)各単一ワークロード種の全てに関しそれぞれ全てのワークロードを発生させた後、組み合わされるワークロード種の数が少ない複合ワークロード種から順に複合ワークロードを発生させることを特徴とする付記6から9のいずれか1つに記載の性能評価方法。
(付記11)コンピュータに、複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを評価対象コンピュータ上に順次発生させるワークロード制御手段と、各ワークロード発生中の評価対象コンピュータの1次性能データ、及び、複合ワークロード発生中の評価対象コンピュータの複合性能データを取得するデータ取得手段と、上記データ取得手段により取得された1次性能データをモデル化することにより、各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、上記データ取得手段により取得された複合性能データ及び上記データ解析手段により生成された1次性能モデルに基づいて、複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、を実現させることを特徴とする性能評価プログラム。
(付記12)上記ワークロード制御手段は、複合ワークロード種に関し発生させる複合ワークロードの数を、複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数に設定する、ことを特徴とする付記11に記載の性能評価プログラム。
(付記13)上記モデル生成手段は、上記データ解析手段により生成された1次性能モデルの少なくとも1つを用いて、複合ワークロード種に対する近似複合性能モデルを推定するモデル推定手段、を含み、上記データ解析手段は、上記データ取得手段により取得された複合性能データと、上記モデル推定手段により推定された近似複合性能モデルから得られる近似複合性能データとの差分データをモデル化することにより、複合ワークロード種に対する差分データモデルを生成し、上記モデル生成手段は、上記モデル推定手段により推定された近似複合性能モデル及び上記データ解析手段により生成された差分データモデルを用いて、複合ワークロード種に対する複合性能モデルを生成する、ことを特徴とする付記11又は12に記載の性能評価プログラム。
(付記14)上記モデル推定手段は、上記モデル生成手段により生成された、(K−1)個(Kは3以上の整数)の異なるワークロード種を組み合わせた(K−1)次の複合ワークロード種に対する(K−1)次性能モデルを用いて、K個の異なるワークロード種を組み合わせたK次の複合ワークロード種に対する近似複合性能モデルを推定する、ことを特徴とする付記13に記載の性能評価プログラム。
(付記15)上記ワークロード制御手段は、各単一ワークロード種の全てに関しそれぞれ全てのワークロードを発生させた後、組み合わされるワークロード種の数が少ない複合ワークロード種から順に複合ワークロードを発生させることを特徴とする付記11から14のいずれか1つに記載の性能評価プログラム。
(付記16)上記付記1から5のいずれか1つに記載の性能評価装置と、上記ワークロード制御手段の制御により、各ワークロード及び複合ワークロードをそれぞれ異なるタイミングで実行するワークロード生成手段と、各ワークロード発生中の各一次性能データ、及び、複合ワークロード発生中の複合性能データを計測するデータ計測手段と、を含む上記評価対象コンピュータと、を備える性能評価システム。
(付記17)付記11から15のいずれか1つに記載の性能評価プログラムを記録したコンピュータが読み取り可能な記録媒体。
この出願は、2011年1月6日に出願された日本出願特願2011−001467を基礎とする優先権を主張し、その開示の全てをここに取り込む。
Claims (7)
- 複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し該複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを該評価対象コンピュータ上に順次発生させるワークロード制御手段と、
前記各ワークロード発生中の前記評価対象コンピュータの1次性能データ、及び、前記複合ワークロード発生中の前記評価対象コンピュータの複合性能データを取得するデータ取得手段と、
前記データ取得手段により取得された前記1次性能データをモデル化することにより、前記各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、
前記データ取得手段により取得された前記複合性能データ及び前記データ解析手段により生成された前記1次性能モデルに基づいて、前記複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、
を備えることを特徴とする性能評価装置。 - 前記ワークロード制御手段は、前記複合ワークロード種に関し発生させる複合ワークロードの数を、前記複合ワークロード種を構成する各単一ワークロード種に関しそれぞれ発生させるワークロードの全組み合わせ数よりも少ない数に設定する、
ことを特徴とする請求項1に記載の性能評価装置。 - 前記モデル生成手段は、
前記データ解析手段により生成された前記1次性能モデルの少なくとも1つを用いて、前記複合ワークロード種に対する近似複合性能モデルを推定するモデル推定手段、
を含み、
前記データ解析手段は、前記データ取得手段により取得された前記複合性能データと、前記モデル推定手段により推定された前記近似複合性能モデルから得られる近似複合性能データとの差分データをモデル化することにより、前記複合ワークロード種に対する差分データモデルを生成し、
前記モデル生成手段は、前記モデル推定手段により推定された前記近似複合性能モデル及び前記データ解析手段により生成された前記差分データモデルを用いて、前記複合ワークロード種に対する複合性能モデルを生成する、
ことを特徴とする請求項1又は2に記載の性能評価装置。 - 前記モデル推定手段は、前記モデル生成手段により生成された、(K−1)個(Kは3以上の整数)の異なるワークロード種を組み合わせた(K−1)次の複合ワークロード種に対する(K−1)次性能モデルを用いて、K個の異なるワークロード種を組み合わせたK次の複合ワークロード種に対する近似複合性能モデルを推定する、
ことを特徴とする請求項3に記載の性能評価装置。 - 前記ワークロード制御手段は、前記各単一ワークロード種の全てに関しそれぞれ全てのワークロードを発生させた後、組み合わされるワークロード種の数が少ない複合ワークロード種から順に前記複合ワークロードを発生させることを特徴とする請求項1から4のいずれか1項に記載の性能評価装置。
- コンピュータが、
複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、
前記各ワークロード発生中の前記評価対象コンピュータの1次性能データを取得し、
少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し該複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを該評価対象コンピュータ上に順次発生させ、
前記複合ワークロード発生中の前記評価対象コンピュータの複合性能データを取得し、
取得された前記1次性能データをモデル化することにより、前記各単一ワークロード種に対する1次性能モデルをそれぞれ生成し、
取得された前記複合性能データ及び生成された前記1次性能モデルに基づいて、前記複合ワークロード種に対する複合性能モデルを生成する、
ことを含む性能評価方法。 - コンピュータに、
複数の単一ワークロード種の各々に関し大きさの異なる複数のワークロードを評価対象コンピュータ上に順次発生させ、かつ、少なくとも2つの異なる単一ワークロード種を組み合わせた複合ワークロード種に関し該複合ワークロード種に対応する異種のワークロードを組み合わせた複数の複合ワークロードを該評価対象コンピュータ上に順次発生させるワークロード制御手段と、
前記各ワークロード発生中の前記評価対象コンピュータの1次性能データ、及び、前記複合ワークロード発生中の前記評価対象コンピュータの複合性能データを取得するデータ取得手段と、
前記データ取得手段により取得された前記1次性能データをモデル化することにより、前記各単一ワークロード種に対する1次性能モデルをそれぞれ生成するデータ解析手段と、
前記データ取得手段により取得された前記複合性能データ及び前記データ解析手段により生成された前記1次性能モデルに基づいて、前記複合ワークロード種に対する複合性能モデルを生成するモデル生成手段と、
を実現させることを特徴とする性能評価プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011001467 | 2011-01-06 | ||
JP2011001467 | 2011-01-06 | ||
PCT/JP2011/007343 WO2012093469A1 (ja) | 2011-01-06 | 2011-12-28 | 性能評価装置及び性能評価方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2012093469A1 true JPWO2012093469A1 (ja) | 2014-06-09 |
Family
ID=46457337
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012551765A Pending JPWO2012093469A1 (ja) | 2011-01-06 | 2011-12-28 | 性能評価装置及び性能評価方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US9529688B2 (ja) |
JP (1) | JPWO2012093469A1 (ja) |
WO (1) | WO2012093469A1 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015184818A (ja) * | 2014-03-20 | 2015-10-22 | 株式会社東芝 | サーバ、モデル適用可否判定方法およびコンピュータプログラム |
JP6107801B2 (ja) * | 2014-12-12 | 2017-04-05 | 日本電気株式会社 | 情報処理装置、情報処理システム、タスク処理方法、及び、プログラム |
US10198307B2 (en) * | 2016-03-31 | 2019-02-05 | Netapp, Inc. | Techniques for dynamic selection of solutions to storage cluster system trouble events |
US10552413B2 (en) * | 2016-05-09 | 2020-02-04 | Sap Se | Database workload capture and replay |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3987333B2 (ja) | 2001-12-06 | 2007-10-10 | 新日鉄ソリューションズ株式会社 | 性能測定装置、性能測定システム、記録媒体およびプログラム |
JP4240062B2 (ja) * | 2006-05-31 | 2009-03-18 | 日本電気株式会社 | 計算機システムおよび性能計測方法ならびに管理サーバ装置 |
EP2193484A4 (en) * | 2007-08-31 | 2011-12-21 | Cirba Inc | METHOD AND SYSTEM FOR EVALUATING VIRTUALIZED ENVIRONMENTS |
US7650259B2 (en) * | 2007-10-01 | 2010-01-19 | International Business Machines Corporation | Method for tuning chipset parameters to achieve optimal performance under varying workload types |
JP4906686B2 (ja) | 2007-11-19 | 2012-03-28 | 三菱電機株式会社 | 仮想マシンサーバサイジング装置及び仮想マシンサーバサイジング方法及び仮想マシンサーバサイジングプログラム |
-
2011
- 2011-12-28 JP JP2012551765A patent/JPWO2012093469A1/ja active Pending
- 2011-12-28 US US13/978,412 patent/US9529688B2/en active Active
- 2011-12-28 WO PCT/JP2011/007343 patent/WO2012093469A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US20130282337A1 (en) | 2013-10-24 |
US9529688B2 (en) | 2016-12-27 |
WO2012093469A1 (ja) | 2012-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10372422B2 (en) | Performance verification device for verifying performance of program, method, and recording medium having program recorded thereon for causing computer to perform the method | |
US9645909B2 (en) | Operation management apparatus and operation management method | |
US8255906B2 (en) | Modeling overhead for a plurality of virtualization technologies in a computer system | |
US20120079497A1 (en) | Predicting Resource Requirements for a Computer Application | |
US20190340532A1 (en) | Quantum computer simulator characterization | |
US10282272B2 (en) | Operation management apparatus and operation management method | |
US11362891B2 (en) | Selecting and using a cloud-based hardware accelerator | |
US10432491B2 (en) | Control device for estimation of power consumption and energy efficiency of application containers | |
Willnecker et al. | Comparing the accuracy of resource demand measurement and estimation techniques | |
JP2010225133A (ja) | 消費電力評価装置、電力係数作成システム、消費電力評価方法及び電力係数作成方法。 | |
WO2012093469A1 (ja) | 性能評価装置及び性能評価方法 | |
US11144357B2 (en) | Selecting hardware accelerators based on score | |
US10248462B2 (en) | Management server which constructs a request load model for an object system, load estimation method thereof and storage medium for storing program | |
US20110191094A1 (en) | System and method to evaluate and size relative system performance | |
CN109992408B (zh) | 一种资源分配方法、装置、电子设备和存储介质 | |
Awad et al. | On the predictive properties of performance models derived through input-output relationships | |
Brebner | Automatic performance modelling from application performance management (APM) data: an experience report | |
US11263369B2 (en) | Workflow simulation using provenance data similarity and sequence alignment | |
JP6163926B2 (ja) | 仮想マシン管理装置、仮想マシン管理方法、及びプログラム | |
JP5871018B2 (ja) | 性能予測装置、性能モデル生成方法およびプログラム | |
Rzehorz et al. | Data intensive ATLAS workflows in the Cloud | |
CN110716830B (zh) | 一种压测机选择方法、装置、电子设备及存储介质 | |
Prokop et al. | Requirements-based execution time prediction of a partitioned real-time system using I/O and SLOC estimates | |
Kapur et al. | On the development of discrete software reliability growth models | |
JP5326442B2 (ja) | 統計量推定装置、統計量推定プログラム、統計量推定方法 |