JP2004094978A - 性能測定装置および性能測定方法 - Google Patents

性能測定装置および性能測定方法 Download PDF

Info

Publication number
JP2004094978A
JP2004094978A JP2003401818A JP2003401818A JP2004094978A JP 2004094978 A JP2004094978 A JP 2004094978A JP 2003401818 A JP2003401818 A JP 2003401818A JP 2003401818 A JP2003401818 A JP 2003401818A JP 2004094978 A JP2004094978 A JP 2004094978A
Authority
JP
Japan
Prior art keywords
input
condition
information processing
performance
test data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2003401818A
Other languages
English (en)
Other versions
JP4113106B2 (ja
Inventor
Kentaro Kurinami
栗並 賢太郎
Yoshifumi Sakai
坂井 良文
Tatsuya Hasegawa
長谷川 達也
Taku Oshiro
大城 卓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NS Solutions Corp
Original Assignee
NS Solutions Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NS Solutions Corp filed Critical NS Solutions Corp
Priority to JP2003401818A priority Critical patent/JP4113106B2/ja
Publication of JP2004094978A publication Critical patent/JP2004094978A/ja
Application granted granted Critical
Publication of JP4113106B2 publication Critical patent/JP4113106B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Debugging And Monitoring (AREA)

Abstract

【課題】 異なる複数の測定条件を同時に入力できるようにするとともに、異なる複数の測定条件での情報処理システムの性能試験を自動的に連続して実行できるようにする。
【解決手段】 条件入力画面としてパラメータおよび設定値の入力欄が追加可能な表形式の画面を用いるとともに、条件入力画面を介して入力された互いに異なるパラメータ群のそれぞれ1つの設定値を、テストパターン制御部211にて、任意に組み合わせてテストパターンおよび設定値に関する情報であるパラメータファイルを自動的に生成し、生成したパラメータファイルに基づいて、実行制御部220により情報処理システムのサーバ103、クライアント端末104を制御して性能試験を1回の入力動作だけで連続して実行させることができるようにする。
【選択図】 図2

Description

 本発明は、異なる複数の測定条件での情報処理システムの性能を連続して測定する性能測定装置および性能測定方法に関する。
 従来から、さまざまな条件での情報処理システム(情報処理装置)のハードウェアおよびソフトウェアの性能を比較して評価するために、当該情報処理システムの性能を測定する方法として、ベンチマークテスト(以下、「ベンチマーク」とも称す。)があった。ベンチマークでは、測定対象である情報処理システムの測定条件を1つのベンチマーク毎に逐一入力して定義し、定義された測定条件に基づいて情報処理システムに処理を実行させ性能を測定していた。
 例えば、情報処理システムとしてメールサーバの性能を測定する場合には、メールサーバが有するCPU数、メールサーバを使用するユーザ数、および送受信される電子メールのデータサイズ等を測定条件として定義していた。そして、定義された測定条件に従って、ユーザ数と同数のクライアント端末およびオペレータをユーザ数と同数だけ用意してオペレータの手作業によりメールサーバへのアクセスを行ったり、定義された測定条件を仮想的なプロセスとしてデータ(プログラム)化してクライアント端末に実行させたりして、メールサーバの性能を測定していた。
 また、ある1つの測定条件での情報処理システムの性能を測定した後、異なる測定条件での情報処理システムの性能を測定しようとする場合には、オペレータが新たな測定条件を入力して再定義し、再定義された測定条件に基づいて情報処理システムに処理を実行させ性能を測定していた。すなわち、オペレータによる測定条件の入力作業およびベンチマークの実行を繰り返し行うことにより、異なる複数の測定条件での情報処理システムの性能を測定していた。このようにして、異なる複数の測定条件での情報処理システムの性能を測定し、測定結果を比較して評価することにより使用条件に最も適合するメールサーバの仕様を決定したりしていた。
 しかしながら、上述した従来のベンチマークの実行に関しては、以下のような問題点があった。
(第1の問題点)
 測定条件を定義するオペレータは、ベンチマークを実行しようとする度に測定条件を毎回定義しなければならず、新たな測定条件の入力作業や修正作業を行わなければならなかった。
 したがって、異なる複数の測定条件でのベンチマークをそれぞれ実行しようとする場合であっても、自動的にベンチマークを連続して実行することはできなかった。すなわち、オペレータは、1つの測定条件でのベンチマークの終了を確認した後、新たな1つの測定条件を入力し再定義するための入力作業および修正作業を行わねばならず、性能測定を実行する効率が非常に悪いという問題があった。
 さらに、例えば、情報処理システムが有するCPU数やメモリサイズ等の測定条件を変更してベンチマークをそれぞれ実行する場合には、従来は、測定条件に合わせてCPUやメモリ等を挿抜しなければならなかった。したがって、CPU数やメモリサイズ等を変更する場合においても、オペレータは1つの測定条件でのベンチマークの終了を確認した後、新たな測定条件を定義するためにCPUやメモリ等の挿抜作業を行わねばならなかった。
 また、ベンチマークの種類や測定条件によっては、処理(ベンチマークの実行)が何時間もかかることがあり、例えば夜中にベンチマークの実行結果が得られる(ベンチマークが終了する)こともある。そのような場合、オペレータが不在であることが多いため、翌朝オペレータが操作するまでは次の測定条件の入力が行われず、無駄な時間を費やしてしまうという問題があった。
(第2の問題点)
 測定条件を定義する際、測定対象である情報処理システム(情報処理システムのアプリケーション)毎に異なる測定条件の定義が行われていた。例えば、情報処理システムとしてメールサーバの性能を測定する場合には、送受信される電子メールのデータサイズや、アクセスするユーザ数、およびユーザのアクセス頻度等の測定条件を定義していた。また、ウェブサーバの性能を測定する場合には、同時アクセス数、ユーザに提供する1つのコンテンツのデータサイズや、アプレットおよびサーブレットの有無等の測定条件を定義していた。
 このように測定対象である情報処理システム毎に定義する測定条件が異なるために、オペレータが測定条件を入力する際のユーザインタフェースも測定対象の情報処理システム毎に異なる固有のユーザインタフェースを有していた。したがって、同一のオペレータが、異なった様々な情報処理システムに対してベンチマークを実行しようとする場合には、情報処理システム毎に異なるユーザインタフェースを使用して測定条件の定義を行わねばならず、作業が煩雑であるとともに、利便性に欠けるという問題があった。
(第3の問題点)
 上記第1の問題点にて述べたように、異なる複数の条件でのベンチマークを実行するには、条件の一部分のみを変更した測定条件であっても、測定条件の各項目に対する入力作業を繰り返し行わねばならず、作業効率が非常に悪いとともに、オペレータによる測定条件の入力間違い等を引き起こしてしまうことがあった。変更された測定条件の異なる部分のみを再入力するようにしたとしても、測定条件の組み合わせが多くなると、再入力すべき測定条件を直し忘れたり、ある測定条件の入力を忘れてしまったりすることがあった。
 したがって、異なる複数の条件でのベンチマークを実行する場合には、測定条件の入力間違い等が存在しないように、入力すべき測定条件と入力された測定条件とが同じであるか否かの確認作業に多大な時間および労力を要してしまうという問題があった。さらに、当該確認作業にて、測定条件の入力間違い等が発見できなかった場合には、所望の測定条件でのベンチマークが行えないという問題があった。
 本発明は、このような問題を解決するためになされたものであり、異なる複数の測定条件を同時に入力できるようにするとともに、異なる複数の測定条件での情報処理システムの性能試験を自動的に連続して実行できるようにすることを目的とする。
 本発明の性能測定装置は、入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定装置であって、上記測定条件に係る情報を入力するための条件入力画面を表示する表示手段と、上記表示手段により表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力手段と、上記入力手段で入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成手段と、上記試験データ生成手段により生成された性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御手段とを備え、上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能であることを特徴とする。
 本発明の性能測定装置の他の特徴とするところは、入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定装置であって、上記測定条件を入力する為の少なくともサービス提供装置のハードウェア条件、サービスを受ける装置のハードウェア条件、サービスのトランザクション条件およびワークロード条件の領域に分割して構成され、且つ上記サービスのトランザクション条件とワークロード条件の項目はサービスに応じて条件入力画面を表示する表示手段と、上記表示手段を介して入力された測定条件を格納する測定条件格納手段と、上記測定条件格納手段に格納された測定条件に基づいて上記情報処理システムの性能試験を実行する制御手段とを備え、上記条件入力画面で入力される測定条件の同じ項目に複数の設定値が入力されたときには、制御手段は、測定条件の組み合わせを生成して測定条件格納手段に格納し、順次1組の測定条件を呼び出して性能試験を実行することを特徴とする。
 本発明の性能測定装置のその他の特徴とするところは、入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定装置であって、上記測定条件に係る情報を入力するための条件入力画面を表示する表示手段と、上記表示手段により表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力手段と、上記入力手段で入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成手段と、上記試験データ生成手段により生成された性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御手段とを備え、上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能であることを特徴とする。
 本発明の性能測定方法は、入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定方法であって、上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、条件入力画面を介して入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて性能試験データを生成する試験データ生成ステップと、上記試験データ生成ステップにて生成した上記性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御ステップとを有し、上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割して、上記条件入力画面を上記所定のサービスに関わらず共通の形式にするとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目を設定したうえで上記測定条件の同じ項目に複数の設定値を入力可能に条件入力画面に表示したことを特徴とする。
 本発明の性能測定方法の他の特徴とするところは、入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定方法であって、上記測定条件に係る情報を入力するための条件入力画面を表示する表示ステップと、上記表示ステップにて表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力ステップと、上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記入力ステップにて入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成ステップと、上記試験データ生成ステップにて生成された性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御ステップとを有し、上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能に条件入力画面に表示することを特徴とする。
 本発明の性能測定方法のその他の特徴とするところは、入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定方法であって、上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、条件入力画面を介して入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて性能試験データを生成する試験データ生成ステップと、上記試験データ生成ステップにて生成した上記性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御ステップとを有し、上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割して、上記条件入力画面を上記所定のサービスに関わらず共通の形式にするとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値を入力可能に条件入力画面に表示したことを特徴とする。
 本発明の性能測定方法のその他の特徴とするところは、入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定方法であって、上記測定条件に係る情報を入力するための条件入力画面を表示する表示ステップと、上記表示ステップにて表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力ステップと、上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記入力ステップにて入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成ステップと、上記試験データ生成ステップにて生成された性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御ステップとを有し、上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能に条件入力画面に表示することを特徴とする。
 本発明によれば、測定条件に係る情報を入力するための条件入力画面を、第1の情報処理装置群に関する部分と、第2の情報処理装置群に関する部分と、所定のサービスに関する部分とに分割して、所定のサービス内容に応じて入力項目が設定されるとともに、測定条件に複数の設定値を入力可能にして、入力された測定条件を基に互いに異なる項目の設定値を任意に組み合わせて自動的に生成した性能試験データに基づいて、情報処理システムに性能試験を実行させる。
 これにより、異なる複数の測定条件を同時に入力し、それを任意に組み合わせて自動的に複数の性能試験データが生成し、生成した複数の性能試験データに基づいて、情報処理システムに性能試験を実行させることができる。したがって、条件入力画面にて複数の設定値を同時に入力することにより、生成された複数の性能試験データが、情報処理システムに供給され異なる複数の測定条件でのベンチマークテストを自動的に連続して実行することができる。
 以下、本発明の一実施形態を図面に基づいて説明する。
 図1は、本発明の実施形態による性能測定装置を適用したベンチマークテスト制御装置を備えるベンチマークテストシステムの一構成例を示すブロック図である。なお、図1においては、クライアント・サーバ型システムの1つであり、電子メールの送受信を行うメールシステムの性能を測定するベンチマークテストシステムを一例として示している。
 図1において、101はベンチマークテスト制御装置(以下、「ベンチマーク制御装置」とも称す。)であり、条件入力画面、テストパターン選択画面および結果表示画面等を表示する。また、ベンチマーク制御装置101は、各パラメータの設定値をベンチマークのパラメータ群毎にグループ化した条件パターンの組み合わせであるテストパターン(測定条件)を生成したり、測定対象である情報処理システム102に実行するベンチマークの各パラメータの設定値を供給したりして、ベンチマークの実行を制御するものである。なお、ベンチマーク制御装置101の詳細については後述する。
 情報処理システム102は、メールサーバ103とクライアント端末104とにより構成される。
 メールサーバ103は、情報処理システム102にて電子メールを送受信したり、電子メールの管理を行ったりするものである。また、メールサーバ103は、ベンチマーク制御装置101からの指示に応じて、自らが有するCPUの数、メモリサイズ等のハードウェア構成を変更したり、テストパターン(測定条件)が変わる毎にベンチマークでの測定結果(CPU稼働率等のリソース情報)をベンチマーク制御装置101に供給したりする。
 クライアント端末104は、メールサーバ103に対してアクセスし電子メールの送受信を行う端末である。本実施形態においては、クライアント端末104は、ベンチマーク制御装置101から供給されるベンチマークの各パラメータの設定値に基づいて仮想プロセスを生成し、生成した仮想プロセスに従ってメールサーバ103に対してアクセスする。また、クライアント端末104は、テストパターン(測定条件)が変わる毎にベンチマークでの測定結果(アクセスに対するメールサーバ103の応答時間等)をベンチマーク制御装置101に供給したりする。
 ベンチマーク制御装置101と、メールサーバ103およびクライアント端末104は、個別の信号線を介して通信可能なようにそれぞれ接続されている。また、メールサーバ103とクライアント端末104とは、それぞれが備える図示しないネットワークインタフェースにより、LAN(Local Area Network)やWAN(Wide Area Network)等のネットワーク105を介して互いに通信可能なように接続されている。
 なお、図1においては、ベンチマーク制御装置101と、メールサーバ103およびクライアント端末104とは、個別の信号線を介してそれぞれ接続するようにしているが、メールサーバ103およびクライアント端末104に対して通信可能なようにベンチマーク制御装置101をネットワーク105に接続するようにしても良い。
 また、図1では、2つのクライアント端末104を図示しているが、ベンチマークを実行し、その結果をベンチマーク制御装置101に供給できる処理能力さえあれば良く、クライアント端末104の数は任意である。
 図2は、本実施形態におけるベンチマーク制御装置101の構成例を示すブロック図である。なお、この図2において、図1に示したブロックと同一の機能を有するブロックには同一の符号を付し、重複する説明は省略する。
 図2において、ベンチマーク制御装置101は、ユーザインタフェース部200、管理部210および実行制御部220により構成される。
 ユーザインタフェース部200は、ユーザインタフェース生成部202を有するユーザインタフェース制御部201と、例えばディスプレイのような表示装置を備えた表示部203と、例えばキーボードやマウスのような入力装置を備えた入力部204とにより構成される。
 ユーザインタフェース制御部201は、入力部204から入力される情報(ベンチマークの測定条件値、テストパターンの選択(実行)/非選択(実行せず)等)を管理部210に供給する。また、ユーザインタフェース制御部201は、入力部204から入力された指示等に基づいて、データ(ファイル)を管理部210から読み出し、データ(ファイル)に応じたユーザインタフェースをユーザインタフェース生成部202にて生成して表示部203に供給する。
 表示部203は、ユーザインタフェース制御部201から供給される表示データに係る表示画面を表示するものであり、表示される表示画面には、条件入力画面、テストパターン選択画面、および結果表示画面等がある。
 ここで、上記条件入力画面は、オペレータがベンチマークのパラメータ(CPU数、クライアント側のユーザ数、処理内容等の測定条件を入力する項目)を追加、削除したり、パラメータの設定値(測定条件値)を入力したりするための画面である。上記テストパターン選択画面は、入力されたベンチマークの条件パターン(パラメータの設定値)に基づいて作成した全テストパターンを表示し、実行するテストパターンの選択をオペレータに促すための画面である。また、上記結果表示画面は、実行したベンチマークでの性能の測定結果をオペレータ等に提示するための画面である。
 入力部204は、ベンチマークのパラメータおよび設定値を入力したり、全テストパターンの中から実行するテストパターンを選択したりして、ユーザインタフェース制御部201に供給する。
 管理部210は、ベンチマークのテストパターン、パラメータおよびその設定値、ベンチマークの測定結果等のデータを記憶したり、記憶したデータをユーザインタフェース部200や実行制御部220に供給したりする。管理部210は、テストパターン生成部212およびパラメータファイル生成部213を有するテストパターン制御部211と、測定条件ファイル格納部214と結果記憶部215とにより構成される。
 テストパターン制御部211は、ユーザインタフェース部200から供給されるベンチマークのパラメータおよび条件パターンに基づいて、ベンチマークの全テストパターンおよびパラメータファイルを生成する。また、テストパターン制御部211は、生成したテストパターンの中から実行するテストパターンの選択をオペレータに対して要求したり、実行するテストパターンに対応するパラメータファイルを実行制御部220に供給したりする。
 テストパターン生成部212は、入力部204より条件入力画面に従って入力され、ユーザインタフェース制御部201を介して供給されたベンチマークの条件パターンに応じて、ベンチマークの全テストパターンを生成する。すなわち、テストパターン生成部212は、互いに異なるパラメータ群の条件パターンの全ての組み合わせを自動的に生成する。
 パラメータファイル生成部213は、条件入力画面に従って入力部204より入力され、ユーザインタフェース制御部201を介して供給されたベンチマークの条件パターンに基づいて、全テストパターンのパラメータファイルを生成する。ここで、パラメータファイルとは、各パラメータ群のそれぞれ1つの条件パターンを組み合わせたベンチマークの測定条件(各パラメータの設定値)を示すものであり、1つのテストパターンに対して1つのパラメータファイルが存在する。
 例えば、ベンチマークのパラメータ群が4つあり、各パラメータ群にそれぞれ3通りの条件パターンが設定されている場合には、テストパターン生成部212は、81通り(3×3×3×3)のテストパターンを生成する。このとき、パラメータファイル生成部213は、4つのパラメータ群からそれぞれ1つの条件パターンを選択して任意に組み合わせることにより、81通りのテストパターンにそれぞれ対応する81個のパラメータファイルを生成する。
 上述のようにしてそれぞれ生成されたテストパターンおよびパラメータファイルは、実行制御部220に適宜供給されるとともに、測定条件ファイル格納部214に格納して保存される。測定条件ファイル格納部214に保存されたテストパターンおよびパラメータファイルは、要求に応じて測定条件ファイル格納部214から読み出してユーザインタフェース部200に供給することができ、次回以降のベンチマークにおけるパラメータおよびその設定値の入力に使用することができる。
 結果記憶部215は、1つのテストパターンのベンチマークが終了する毎に、実行制御部220内の後述する結果収集部225によりメールサーバ103およびクライアント端末104から収集されたベンチマークの実行結果(CPU稼働率、処理応答時間等)を記憶する。
 実行制御部220は、サーバ制御部221とクライアント制御部222と結果収集部225とにより構成され、情報処理システム102におけるベンチマークの実行を制御する。
 サーバ制御部221は、管理部210内のテストパターン制御部211から実行するテストパターンのパラメータファイルが供給され、ベンチマークを実行する際、供給されたパラメータファイルに基づいて、ハードウェア構成や初期状態設定等をメールサーバ103に指示する。
 クライアント制御部222は、ベンチマークを実行する際にクライアント端末104の制御を行うものであり、実行制御データ出力部223およびプロセス制御部224を有する。
 実行制御データ出力部223は、テストパターン制御部211から供給された実行するテストパターンのパラメータファイルを実行制御データとしてクライアント端末104に供給する。これにより、クライアント端末104は、実行制御データとして供給されたパラメータファイルに基づいて、仮想プロセスを生成する。なお、実行制御データ出力部223が、供給されたパラメータファイルからクライアント端末104にて実行させる仮想プロセスを生成し、生成した仮想プロセスを実行させるためのデータを実行制御データとしてクライアント端末104に供給するようにしても良い。
 プロセス制御部224は、実行するテストパターンのパラメータファイルに基づいた仮想プロセスのクライアント端末104での実行を制御する。
 結果収集部225は、1つのテストパターンのベンチマークが終了する毎に、メールサーバ103およびクライアント端末104からベンチマークの実行結果(CPU稼働率、処理応答時間等)を収集し、管理部210内の結果記憶部215に供給し記憶させる。
 次に、動作について説明する。
 図3は、図1に示すベンチマークテストシステムの処理動作を示すフローチャートである。
 まず、処理動作を開始すると、ステップS301にて、ユーザインタフェース制御部201は、アプリケーション選択画面(テスト選択画面)を表示部203に表示し、情報処理システム102にて性能測定の対象とするアプリケーションの選択を要求する。ここで、アプリケーション選択画面では、選択可能なアプリケーション名が、例えばリストボックス等のGUI(グラフィックユーザインタフェース)により一覧表示される。
 オペレータは、一覧表示されたアプリケーション名の中から入力部204を用いてアプリケーションを選択する。例えば、情報処理システム102にて、測定対象のアプリケーションが電子メールに関わるものであれば、アプリケーションとして"メール"を選択し、同様に、測定対象のアプリケーションがウェブに関わるものであれば"ウェブ"を選択し、データベースに関わるものであれば、"データベース"を選択する。
 次に、ステップS302にて、ユーザインタフェース生成部202は、ステップS301において選択されたアプリケーションに応じて、インタフェースである条件入力画面の内容(入力項目等)を生成する。
 具体的には、ユーザインタフェース生成部202は、条件入力画面を介して設定値の入力を要求するベンチマークのパラメータ(項目)を、サーバに依存するパラメータ(サーバ条件のパラメータ群)と、クライアントに依存するパラメータ(クライアント条件のパラメータ群)と、アプリケーションに依存するパラメータとに区分する。さらに、アプリケーションに依存するパラメータは、情報処理システム102での処理内容に関するトランザクションのパラメータ(トランザクション条件のパラメータ群)と、負荷に関するワークロードのパラメータ(ワークロード条件のパラメータ群)とに区分する。
 ユーザインタフェース生成部202は、選択されたアプリケーションに応じてインタフェースを生成する際、サーバに依存するパラメータおよびクライアントに依存するパラメータは、選択されたアプリケーションにかかわらず共通のパラメータとする。また、アプリケーションに依存するパラメータ(トランザクションのパラメータ、ワークロードのパラメータ)については、選択されたアプリケーションに応じて適切なパラメータ(項目)に変更する。しかしながら、アプリケーションに依存するパラメータの項目名を変えるだけで、条件入力画面における表示形式や基本的な入力方法等は同じである。
 例えば、選択されたアプリケーションが"メール"である場合には、ユーザインタフェース生成部202は、トランザクションのパラメータを、メールの送信、メールの受信(POPプロトコルによるもの)、メールの受信(IMAPプロトコルによるもの)等にする。また、ユーザインタフェース生成部202は、ワークロードのパラメータを、1つの電子メールのデータサイズ、同一のユーザからのアクセス間隔(時間)、ベンチマークの実行開始時点で電子メールを保有しているユーザ数、およびその電子メール数等にする。
 ユーザインタフェース制御部201は、選択されたアプリケーションに応じたインタフェースである条件入力画面を表示部203に表示させる。
 ステップS303にて、オペレータは、表示部203に表示された条件入力画面に従い入力部204を用いて、ベンチマークのパラメータの追加、削除を行ったり、パラメータの設定値を入力したりする。そして、パラメータの追加、削除、およびパラメータの設定値の入力が完了すると、パラメータおよび入力された設定値が管理部210内のテストパターン制御部211に供給される。
 図4は、条件入力画面の一例を示す図である。
 なお、図4においては、ベンチマークのパラメータの設定値を入力した条件入力画面を示している。
 図4に示すように、条件入力画面440は、サーバ条件のパラメータ群について表示するサーバ条件入力ウィンドウ400、クライアント条件のパラメータ群について表示するクライアント条件入力ウィンドウ410と、トランザクション条件のパラメータ群について表示するトランザクション条件入力ウィンドウ420と、ワークロード条件のパラメータ群について表示するワークロード条件入力ウィンドウ430との4つのウィンドウにより構成される。
 サーバ条件入力ウィンドウ400には、設定ボタン401および読込ボタン402が設けられている。オペレータが、入力部204を操作して設定ボタン401を押下(クリック)することにより、パラメータ表示部403に表示されている入力したパラメータおよび設定値が設定される、すなわち管理部210内のテストパターン制御部211に供給される。
 また、入力部204を操作して読込ボタン402を押下(クリック)することにより、リポジトリである測定条件ファイル格納部214に格納されている過去に設定されたパラメータおよびその設定値が読み出されて、パラメータ表示部403に表示される。この読込ボタン402を使用して、過去に設定したパラメータおよびその設定値を再利用することで、入力部204を用いてのパラメータおよびその設定値の入力作業を軽減するとともに、確認作業を簡素化したとしても入力間違い等の発生を防止することができる。
 さらに、サーバ条件入力ウィンドウ400には、行挿入ボタン404および行削除ボタン405が設けられており、パラメータを追加しようとする際には、行挿入ボタン404を押下(クリック)することにより、パラメータ表示部403に1行追加される。同様に、パラメータを削除しようとする際には、削除しようとする行を選択して行削除ボタン405を押下(クリック)することにより、パラメータ表示部403から選択した行が削除される。
 パラメータ表示部403は、サーバ条件のパラメータおよびその設定値を表形式で表示する部分である。パラメータ表示部403では、サーバ名「マシン1」、がパラメータとして入力され、ベンチマークで使用するサーバ「マシン1」のCPU数およびメモリサイズが設定値として入力されている。
 すなわち、サーバ条件については、サーバ名(パラメータ)「マシン1」がパラメータ群を形成し、サーバ名「マシン1」の設定値であるCPU数「4」、メモリサイズ「1GB」が条件パターンS1を形成し、設定値であるCPU数「4」、メモリサイズ「2GB」が条件パターンS2を形成する。ここで、本実施形態では、メールサーバ103は1つであるため、サーバ名「マシン1」の設定値のみ入力しているが、複数のサーバを有する場合には、サーバ名を複数入力し、サーバ毎に設定値を入力することができる。
 また、クライアント条件入力ウィンドウ410、トランザクション条件入力ウィンドウ420およびワークロード条件入力ウィンドウ430についても、サーバ条件ウィンドウ400と同様に、設定ボタン、読込ボタン、行挿入ボタンおよび行削除ボタンがそれぞれ設けられている。なお、各ウィンドウ410、420、430にそれぞれ設けられている設定ボタン、読込ボタン、行挿入ボタンおよび行削除ボタンの機能は、サーバ条件ウィンドウ400に設けられた各ボタンの機能と同じであるので、説明は省略する。
 また、クライアント条件入力ウィンドウ410、トランザクション条件入力ウィンドウ420およびワークロード条件入力ウィンドウ430のそれぞれのパラメータ表示部413、423、433も、サーバ条件ウィンドウ400と同様にアプリケーションにかかわらず表形式でパラメータおよびその設定値が表示され、サーバ条件と同様に、パラメータ群および条件パターン(クライアント条件C1、C2、C3、トランザクション条件T1、T2、ワークロード条件W1、W2)がそれぞれ形成される。
 なお、トランザクション条件の条件パターンには、トランザクションの割合を入力するようになっているが、トランザクションの割合を百分率で入力しても良いし、比率で入力しても良い。トランザクションの割合を比率で入力したとしても、ベンチマークの実行においては、百分率に換算し処理が実行される。
 また、図4では、サーバ条件、クライアント条件、トランザクション条件およびワークロード条件の各入力ウィンドウ400、410、420、430により4分割した条件入力画面440を示しているが、条件入力画面440は4分割した表示画面に限らず、パラメータの設定値を入力したいウィンドウだけを表示するようにしても良いし、1つのウィンドウを表示するようにしても良い。
 また、図4においては、図示していないが、行挿入ボタンおよび行削除ボタンと同様に、条件パターンを追加しようとする際に、パラメータ表示部に1列追加するための列挿入ボタン、および条件パターンを削除しようとする際に、パラメータ表示部から選択した列を削除する列削除ボタンを、各ウィンドウ400、410、420、430に設けるようにしても良い。
 図3に戻り、ステップS303において、全ての条件入力ウィンドウの設定ボタンが押下され、全てのパラメータと設定値(条件パターン)がテストパターン制御部211に供給されると、ステップS304にて、テストパターン制御部211内のテストパターン生成部212は、互いに異なるパラメータ群の条件パターンによる全ての条件パターンの組み合わせをテストパターンとして自動的に生成する。また、テストパターン制御部211内のパラメータファイル生成部213は、テストパターン生成部212と同様にして、全テストパターンにそれぞれ対応するパラメータファイルを生成する。
 これにより、入力された条件パターンの全ての組み合わせを網羅したテストパターンと、テストパターンに対応したパラメータの設定値からなるパラメータファイルがそれぞれ生成される。ステップS305にて、テストパターン制御部211は、ステップS304においてそれぞれ生成したテストパターンおよびパラメータファイルを測定条件ファイル格納部214に格納する。
 次に、ステップS306にて、テストパターン制御部211は、ステップS304において生成された全テストパターンをリスト化し、ユーザインタフェース制御部201を介して、図5に示すようなテストパターン選択画面を表示部203に表示させる。オペレータは、テストパターン選択画面に表示された全テストパターンの中から、入力部204を用いて、ベンチマークを実行するテストパターンを選択するとともに、ベンチマークの実行開始をテストパターン制御部211に指示する。
 図5は、テストパターン選択画面の一例を示す図である。
 図5に示すように、テストパターン選択画面では、各パラメータ群にて設定された条件パターンの全ての組み合わせ、すなわち全テストパターンが、複数のパラメータ群を適当に組み合わせることで、X系列の条件パターンとY系列の条件パターンとに2次元化して表示される。図5においては、一例として図4におけるクライアント条件の条件パターン(3通り)をX系列の条件パターンとし、サーバ条件、トランザクション条件およびワークロード条件の条件パターンを組み合わせた条件パターン(12通り)をY系列の条件パターンとして示している。
 なお、テストパターン選択画面として表示するために全テストパターンを2次元化する際の複数のパラメータ群の組み合わせは、テストパターン制御部211が任意のパラメータ群を自動的に組み合わせても良いし、オペレータが入力部204を用いて指示できるようにして、指示に従ってテストパターン制御部211がパラメータ群を組み合わせても良い。
 また、表形式で表示されたテストパターン選択画面において、X系列の条件パターンとY系列の条件パターンとの各交差部が1つのテストパターンに該当する。さらに、テストパターン選択画面にて、X系列の条件パターンとY系列の条件パターンとの各交差部に設けられたチェックボックスは、当該交差部にて示されるテストパターンのベンチマークを実行するか否かを選択するためのものである。チェックボックスにチェックがある(選択されている)場合は、当該テストパターンのベンチマークを実行することを示し、チェックがない(選択されていない)場合には、当該テストパターンのベンチマークを実行しないことを示している。
 なお、テストパターン選択画面の表示開始時には、全てのチェックボックスをチェックした状態でテストパターン選択画面を表示する。これにより、チェックボックスのチェック漏れによる実行すべきベンチマークの漏れを防止することができる。また、実行ボタン501はベンチマークの実行開始を指示するためのものである。
 図3に戻り、ステップS306において、テストパターン選択画面上におけるチェックボックスの選択/非選択操作が、入力部204を用いてオペレータにより行われ、実行ボタン501が押下されると、ステップS307に進み、ベンチマークの実行開始がテストパターン制御部211に指示される。テストパターン制御部211は、ベンチマークの実行開始の指示を受けると、情報処理システム102に対するベンチマーク実行処理を開始する。このベンチマーク実行処理については、後述する。
 ステップS307でのベンチマーク実行処理が完了すると、ステップS308にて、ユーザインタフェース制御部202は、ステップS307において実行したベンチマークの測定結果を結果記憶部215から読み出し、所定の形式で表示部203に表示させ、ベンチマークテストシステムの処理動作が終了する。
 図6は、図3に示すベンチマーク実行処理の動作を詳細に示すフローチャートである。
 ベンチマーク実行処理では、まず、ステップS601にて、テストパターン制御部211は、入力された条件パターンに基づいて作成された全テストパターンのリストから1つのテストパターンを選択する。ステップS601でのテストパターン制御部211によるテストパターンの選択は、全テストパターンのリストにおいて、以前に選択していないテストパターンを1つずつ選択していく。
 次に、ステップS602にて、テストパターン制御部211は、ステップS601において選択したテストパターンが実行選択されているか否か、すなわち図5に示したようなテストパターン選択画面にてチェックボックスがチェックされているか否かを判断する。上記判断の結果、テストパターン制御部211は、ステップS601において選択したテストパターンが実行選択されていると判断した場合には、ステップS603に進み、実行選択されていないと判断した場合には、ステップS601に戻る。
 ステップS601において選択したテストパターンが実行選択されていると判断した場合に進むステップS603にて、テストパターン制御部211は、当該テストパターンに対応するパラメータファイルを読み出す。さらに、テストパターン制御部211は、読み出したパラメータファイルをサーバ制御部221およびクライアント制御部222にそれぞれ供給する。
 次に、ステップS604にて、サーバ制御部221は、ステップS603において供給されたパラメータファイルに基づいて、サーバ構成の変更をメールサーバ103に指示する。そして、メールサーバ103は、サーバ構成の変更指示をサーバ制御部221から受けると、指示に従いサーバ構成の変更を行う。
 このステップS604において行われるサーバ構成の変更の指示では、メールサーバ103のソフトウェア構成(例えば、電子メールシステムであればベンチマーク開始時の電子メール保有数等)に限らず、ハードウェア構成(例えば、使用するCPU数、メモリサイズ等)の変更を指示することも可能である。ハードウェア構成の変更では、例えば所定の命令を出力することによりCPU数やメモリサイズの制御を行うソフトウェアによる切り換え指示によりサーバ構成を変更し、メールサーバ103でのCPUやメモリの挿抜は行わない。
 ステップS605にて、クライアント制御部222内の実行制御データ出力部223は、ステップS603において供給されたパラメータファイルを実行制御データとしてクライアント端末104に出力する。そして、ステップS606にて、クライアント端末104は、供給されたパラメータファイルに基づいて、仮想プロセスを生成する。
 さらに、クライアント制御部222内のプロセス制御部224が、クライアント端末104に仮想プロセスの実行開始を指示することで、クライアント端末104は、パラメータファイルに基づいて生成した仮想プロセスを実行する。これにより、情報処理システム102において、1つのテストパターンのベンチマークが実行される。
 クライアント端末104による仮想プロセスの実行が終了する、すなわち1つのテストパターンのベンチマークが終了すると、ステップS607にて、結果収集部225は、メールサーバ103およびクライアント端末104からベンチマークの実行結果(測定結果)をそれぞれ収集し、結果記憶部215に記憶させる。
 次に、ステップS608にて、テストパターン制御部211は、全テストパターンのリストに選択可能なテストパターン、すなわちステップS601にて選択されていないテストパターンがあるか否か判断する。判断の結果、選択可能なテストパターンがある場合には、ステップS601に戻り、上述したステップS601〜S608の処理を繰り返し、選択可能なテストパターンがなくなるまで上述したステップS601〜S608の処理を繰り返し行う。すなわち、全テストパターンのリストに表示されるテストパターンを全て選択するまで、上述したステップS601〜S608の処理を繰り返し行い、実行選択されたテストパターンでのベンチマークを自動的に連続して実行する。
 一方、選択可能なテストパターンがない、すなわちステップS601における選択処理で、全テストパターンの選択が完了した場合には、ベンチマーク実行処理を終了する。
 次に、結果表示画面について説明する。
 図7(A)は、ベンチマークを実行したテストパターン毎に測定結果を表示する結果表示画面の一例を示す図である。
 図7(A)において、701はベンチマークを実行した1つのテストパターンの測定結果を示すリストであり、テストパターン名、ベンチマークでの応答時間(平均値、分散値、最大値)、CPU稼働率等が表示される。また、リスト701には、例えばCPU稼働率をグラフ化して表示するためのグラフボタン702が設けられており、入力部204の操作によりグラフボタン702が押下されると、図7(B)に示すような当該ベンチマークでのCPU稼働率のグラフを表示する結果表示画面に切り替わる。なお、図7(B)において、横軸はベンチマークの実行開始時からの時間であり、縦軸はCPU稼働率である。
 また、本実施形態におけるベンチマークテストシステムでは、全テストパターンの中から選択したテストパターンでのベンチマークを自動的に連続して行うとともに、ベンチマークの測定結果を結果記憶部215に記憶する。したがって、あるパラメータの設定値のみを変化させた複数のテストパターンでのベンチマークを容易に実行し、ベンチマークの測定結果を得ることができる。
 そこで、図7(A)に示す結果表示画面には、上述したリスト701に加えて、当該テストパターンの1つのパラメータの設定値の変化に対する測定結果(図7(A)においては、CPU稼働率および応答時間)の変化を表示するための表示ボタン704、706が設けられている。
 例えば、使用するCPU数の変化に対するCPU稼働率の変化を表示させたいときには、オペレータは、入力部204を用いて、変化対象のパラメータを指定するためのリストボックス703にて「CPU数」を選択した後、表示ボタン704を押下する。このとき、リスト701に測定結果が表示されているテストパターンに対してパラメータの設定値がCPU数だけ異なるテストパターンがある場合には、ユーザインタフェース制御部201は、CPU数だけ異なるテストパターンでのベンチマークの測定結果を結果記憶部215から読み出す。
 さらに、ユーザインタフェース制御部201は、CPU数だけ異なるテストパターンでのベンチマークの測定結果を、図7(C)に示すように横軸を変化対象のパラメータとしてグラフ化し表示する。
 なお、1つのパラメータの設定値を変化させたときの応答時間の変化を表示させたい場合には、リストボックス705、表示ボタン706を用いて、CPU稼働率の変化を表示させるときと同様の操作を行えば良いので、説明は省略する。
 以上、詳しく説明したように本実施形態によれば、オペレータがベンチマークのパラメータを追加、削除したり、パラメータの設定値を入力したりするための条件入力画面をサーバ条件、クライアント条件およびアプリケーションに関する条件を入力する部分に分割し、さらにアプリケーションに関する条件については、トランザクション条件およびワークロード条件を入力する部分に分割する。さらに、実際にパラメータおよびパラメータの設定値を入力するパラメータ表示部を表形式で表示し、パラメータ欄や設定値の入力欄を追加、削除できるようにして1つのパラメータに対して複数の設定値を同時に設定したりできるようにする。そして、サーバ条件とクライアント条件については、アプリケーションによらず共通にし、アプリケーションに関するトランザクション条件とワークロード条件については、アプリケーションに応じてパラメータの内容は変わるものの、表形式で表示するような基本的な形式はアプリケーションによらず同じにする。
 これにより、オペレータは、パラメータ毎に任意の数の設定値を同時に入力することができ、1回のベンチマーク毎にその都度設定値を入力する必要がなくなり、パラメータの設定値の入力を非常に容易に行うことができる。また、パラメータ欄や設定値の入力欄を追加、削除したりできることで、変化させたいパラメータのみを表示させ設定値を入力することができる。
 また、本実施形態では、テストパターン制御部211にて、条件入力画面を介して入力されたパラメータと設定値(条件パターン)に基づいて、互いに異なるパラメータ群の条件パターンによる全ての組み合わせであるテストパターンと対応するパラメータファイルを生成する。さらに、全てのテストパターンの中から、テストパターン選択画面を介して実行するテストパターンを選択させ、情報処理システム102でのベンチマークを実行する。
 これにより、多くのパラメータがあったとしても、パラメータ毎に設定値を入力するだけで、全ての設定値の組み合わせ(テストパターン)が生成され、テストパターン選択画面を介して表示されたテストパターンの中から選択するだけで、多くの入力作業を行うことなく実行したいベンチマークに対応するテストパターンを容易に選択し、実行することができる。また、テストパターン選択画面にて複数のテストパターンを選択しても、テストパターンに対応するパラメータファイルがテストパターン制御部211から実行制御部220を介して情報処理システム102に順次供給され、ベンチマークが実行される。
 さらに、ベンチマークの際にハードウェアの構成を変更しなければならなくても、本実施形態では、ハードウェアを所定の命令により制御するようにしたので、実際に挿抜等の作業を行う必要がない。したがって、オペレータは、テストパターン選択画面にてテストパターンを選択するだけで、情報処理システム102では、複数のテストパターンでのベンチマークが自動的に連続して行われるので、従来に比べて複数のベンチマークに要する労力を低減できるとともに、時間も非常に短縮することができる。
 また、本実施形態では、ベンチマーク制御装置にベンチマークの実行結果を記憶する結果記憶部215を設けたので、パラメータの設定値を変化させた複数の実行結果を蓄積しておくことができ、測定対象システムの性能評価やサイジングに必要なデータの分析を行うことができる。
 なお、上述した本実施形態においては、ベンチマークを実行し性能を測定する情報処理システム102として電子メールシステムを一例として示したが、本発明は電子メールシステムに限らず、例えば、データベースサーバを有するシステムやウェブサーバを有するシステムにも適用することができる。異なるシステムでは、条件入力画面のアプリケーションに関する条件の項目が異なるだけで、動作等は電子メールシステムの場合と同じである。
 また、本実施形態では、サーバ103と複数のクライアント端末104とからなる情報処理システム102をベンチマークによる測定対象の一例として示したが、サーバに対応する情報処理機能(サーバ機能)と、クライアント端末に対応する情報処理機能(クライアント機能)との双方を備えた1つの情報処理装置を測定対象としても良い。
 また、本実施形態では、ベンチマーク制御装置101は、入力部204および表示部203を備えた一つの装置により構成されているが、例えば、入力部204および表示部203として他の端末装置を用いて、ネットワーク等の通信手段を介してベンチマーク制御装置に接続しても、本実施形態と同じ効果を得ることができる。
 なお、以上に説明した本実施形態の性能測定装置は、コンピュータのCPUあるいはMPU、RAM、ROMなどで構成できるものであり、RAMやROMに記憶されたプログラムが動作することによって実現でき、上記プログラムは本発明の実施形態に含まれる。また、コンピュータが上記機能を果たすように動作させるプログラムを、例えばCD−ROMのような記録媒体に記録し、コンピュータに読み込ませることによって実現できるものであり、上記プログラムを記録した記録媒体は本発明の実施形態に含まれる。上記プログラムを記録する記録媒体としては、CD−ROM以外に、フレキシブルディスク、ハードディスク、磁気テープ、光磁気ディスク、不揮発性メモリカード等を用いることができる。
 また、コンピュータがプログラムを実行し処理を行うことにより、上述の実施形態の機能が実現されるプログラムプロダクトは、本発明の実施形態に含まれる。上記プログラムプロダクトとしては、上述の実施形態の機能を実現するプログラム自体、上記プログラムが読み込まれたコンピュータ、ネットワークを介して通信可能に接続されたコンピュータに上記プログラムを提供可能な送信装置、および当該送信装置を備えるネットワークシステム等がある。
 また、コンピュータが供給されたプログラムを実行することにより上述の実施形態の機能が実現されるだけでなく、そのプログラムがコンピュータにおいて稼働しているOS(オペレーティングシステム)あるいは他のアプリケーションソフト等と共同して上述の実施形態の機能が実現される場合や、供給されたプログラムの処理の全てあるいは一部がコンピュータの機能拡張ボードや機能拡張ユニットにより行われて上述の実施形態の機能が実現される場合も、かかるプログラムは本発明の実施形態に含まれる。
 また、本発明をネットワーク環境で利用するべく、全部あるいは一部のプログラムが他のコンピュータで実行されるようになっていても良い。
 例えば、本実施形態に示した性能測定装置は、図8に示すようなコンピュータ機能800を有し、そのCPU801により本実施形態での動作が実施される。
 コンピュータ機能800は、上記図8に示すように、CPU801と、ROM802と、RAM803と、キーボード(KB)809のキーボードコントローラ(KBC)805と、表示部としてのCRTディスプレイ(CRT)810のCRTコントローラ(CRTC)806と、ハードディスク(HD)811およびフレキシブルディスク(FD)812のディスクコントローラ(DKC)807と、ネットワークインタフェースカード(NIC)808とが、システムバス804を介して互いに通信可能に接続された構成としている。
 CPU801は、ROM802あるいはHD811に記憶されたソフトウェア(プログラム)、あるいはFD812より供給されるソフトウェア(プログラム)を実行することで、システムバス804に接続された各構成部を総括的に制御する。
 すなわち、CPU801は、上述したような動作を行うための処理プログラムを、ROM802、あるいはHD811、あるいはFD812から読み出して実行することで、本実施形態での動作を実現するための制御を行う。
 RAM803は、CPU801の主メモリあるいはワークエリア等として機能する。
 KBC805は、KB809や図示していないポインティングデバイス等からの指示入力を制御する。
 CRTC806は、CRT810の表示を制御する。
 DKC807は、ブートプログラム、種々のアプリケーション、ユーザファイル、ネットワーク管理プログラム、および本実施形態における上記処理プログラム等を記憶するHD811およびFD812とのアクセスを制御する。
 NIC808はネットワーク813上の他の装置と双方向にデータをやりとりする。
本発明の実施形態による性能測定装置を適用したベンチマークテスト制御装置を備えるベンチマークテストシステムの一構成例を示すブロック図である。 本実施形態におけるベンチマークテスト制御装置101の構成例を示すブロック図である。 ベンチマークテストシステムの処理動作を示すフローチャートである。 条件入力画面の一例を示す図である。 テストパターン選択画面の一例を示す図である。 図3に示すベンチマーク実行処理の動作を詳細に示すフローチャートである。 結果表示画面の一例を示す図である。 性能測定装置を実現可能なコンピュータの一構成例を示すブロック図である。
符号の説明
 101 ベンチマークテスト制御装置
 102 情報処理システム(メールシステム)
 103 メールサーバ
 104 クライアント端末
 105 ネットワーク
 200 ユーザインタフェース部
 201 ユーザインタフェース制御部
 202 ユーザインタフェース生成部
 203 表示部
 204 入力部
 210 管理部
 211 テストパターン制御部
 212 テストパターン生成部
 213 パラメータファイル生成部
 214 測定条件ファイル格納部
 215 結果記憶部
 220 実行制御部
 221 サーバ制御部
 222 クライアント制御部
 223 実行制御データ出力部
 224 プロセス制御部
 225 結果収集部

Claims (13)

  1.  入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定装置であって、
     上記測定条件に係る情報を入力するための条件入力画面を表示する表示手段と、
     上記表示手段により表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力手段と、
     上記入力手段で入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成手段と、
     上記試験データ生成手段により生成された性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御手段とを備え、
     上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能であることを特徴とする性能測定装置。
  2.  上記所定のサービスに関する入力部分には、サービスのトランザクションに関する条件入力部分と、サービスのワークロードに関する条件入力部分とが配置されていることを特徴とする請求項1記載の性能測定装置。
  3.  上記性能試験データに基づいて、上記情報処理システムを構成する情報処理装置のハードウェアおよびソフトウェアの構成が設定可能であり、上記試験実行制御手段は、上記情報処理装置のハードウェアの構成を設定する際、当該情報処理装置に所定の命令を供給してハードウェアの構成を設定することを特徴とする請求項1または2に記載の性能測定装置。
  4.  上記試験データ生成手段により上記測定条件の互いに異なる項目の設定値を任意に組み合わせて生成した上記性能試験データを格納する試験データ格納手段をさらに備え、
     上記入力手段により上記測定条件に係る情報を入力する際に、上記入力手段からの指示に応じて、上記試験データ格納手段に格納した性能試験データに基づいた上記測定条件の設定値を提供することを特徴とする請求項1〜3の何れか1項に記載の性能測定装置。
  5.  上記生成された性能試験データに基づいて、上記試験実行制御手段により上記情報処理システムに実行させた性能試験の測定結果を記憶する結果記憶手段をさらに備えることを特徴とする請求項1〜4の何れか1項に記載の性能測定装置。
  6.  上記試験データ生成手段により、上記測定条件の互いに異なる項目の設定値を任意に組み合わせて生成された全ての性能試験データのなかから上記情報処理システムの性能試験を実行する性能試験データを選択する選択手段をさらに備え、
     上記試験実行制御手段は、上記選択手段により選択された性能試験データに基づく上記情報処理システムの性能試験だけを実行することを特徴とする請求項1〜5の何れか1項に記載の性能測定装置。
  7.  上記情報処理システムは、サーバコンピュータとクライアント端末を有し、
     上記第1の情報処理装置群はサーバコンピュータであり、
     上記第2の情報処理装置群はクライアント端末であることを特徴とする請求項1〜6の何れか1項に記載の性能測定装置。
  8.  入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定装置であって、
     上記測定条件を入力する為の少なくともサービス提供装置のハードウェア条件、サービスを受ける装置のハードウェア条件、サービスのトランザクション条件およびワークロード条件の領域に分割して構成され、且つ上記サービスのトランザクション条件とワークロード条件の項目はサービスに応じて条件入力画面を表示する表示手段と、
     上記表示手段を介して入力された測定条件を格納する測定条件格納手段と、
     上記測定条件格納手段に格納された測定条件に基づいて上記情報処理システムの性能試験を実行する制御手段とを備え、
     上記条件入力画面で入力される測定条件の同じ項目に複数の設定値が入力されたときには、制御手段は、測定条件の組み合わせを生成して測定条件格納手段に格納し、順次1組の測定条件を呼び出して性能試験を実行することを特徴とする性能測定装置。
  9.  入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定装置であって、
     上記測定条件に係る情報を入力するための条件入力画面を表示する表示手段と、
     上記表示手段により表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力手段と、
     上記入力手段で入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成手段と、
     上記試験データ生成手段により生成された性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御手段とを備え、
     上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能であることを特徴とする性能測定装置。
  10.  入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定方法であって、
     上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、条件入力画面を介して入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて性能試験データを生成する試験データ生成ステップと、
     上記試験データ生成ステップにて生成した上記性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御ステップとを有し、
     上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割して、上記条件入力画面を上記所定のサービスに関わらず共通の形式にするとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目を設定したうえで上記測定条件の同じ項目に複数の設定値を入力可能に条件入力画面に表示したことを特徴とする性能測定方法。
  11.  入力された測定条件に基づいて、所定のサービスを提供する情報処理システムの性能を測定する性能測定方法であって、
     上記測定条件に係る情報を入力するための条件入力画面を表示する表示ステップと、
     上記表示ステップにて表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力ステップと、
     上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記入力ステップにて入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成ステップと、
     上記試験データ生成ステップにて生成された性能試験データに基づいて、上記情報処理システムの性能試験を実行する試験実行制御ステップとを有し、
     上記条件入力画面は、少なくとも1つの情報処理装置からなり上記所定のサービスを提供する第1の情報処理装置群のハードウェアに関する入力部分と、少なくとも1つの情報処理装置からなり上記所定のサービスの提供を受ける第2の情報処理装置群のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能に条件入力画面に表示することを特徴とする性能測定方法。
  12.  入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定方法であって、
     上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、条件入力画面を介して入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて性能試験データを生成する試験データ生成ステップと、
     上記試験データ生成ステップにて生成した上記性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御ステップとを有し、
     上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割して、上記条件入力画面を上記所定のサービスに関わらず共通の形式にするとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値を入力可能に条件入力画面に表示したことを特徴とする性能測定方法。
  13.  入力された測定条件に基づいて、所定のサービスを提供する情報処理装置の性能を測定する性能測定方法であって、
     上記測定条件に係る情報を入力するための条件入力画面を表示する表示ステップと、
     上記表示ステップにて表示された上記条件入力画面に従って、上記測定条件に係る情報を入力する入力ステップと、
     上記入力された測定条件を基に互いに異なる項目の設定値からなる1組の設定値群を1つの性能試験データとして、上記入力ステップにて入力された上記測定条件の互いに異なる項目の設定値を任意に組み合わせて上記性能試験データを生成する試験データ生成ステップと、
     上記試験データ生成ステップにて生成された性能試験データに基づいて、上記情報処理装置の性能試験を実行する試験実行制御ステップとを有し、
     上記条件入力画面は、上記所定のサービスを提供する第1の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスの提供を受ける第2の情報処理機能のハードウェアに関する入力部分と、上記所定のサービスに関する入力部分とに分割されるとともに、上記所定のサービスに関する入力部分は、サービスの内容に応じて入力項目が設定され、且つ上記測定条件の同じ項目に複数の設定値が入力可能に条件入力画面に表示することを特徴とする性能測定方法。
JP2003401818A 2003-12-01 2003-12-01 性能測定装置および性能測定方法 Expired - Lifetime JP4113106B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003401818A JP4113106B2 (ja) 2003-12-01 2003-12-01 性能測定装置および性能測定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003401818A JP4113106B2 (ja) 2003-12-01 2003-12-01 性能測定装置および性能測定方法

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2001373304A Division JP3987333B2 (ja) 2001-12-06 2001-12-06 性能測定装置、性能測定システム、記録媒体およびプログラム

Publications (2)

Publication Number Publication Date
JP2004094978A true JP2004094978A (ja) 2004-03-25
JP4113106B2 JP4113106B2 (ja) 2008-07-09

Family

ID=32064728

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003401818A Expired - Lifetime JP4113106B2 (ja) 2003-12-01 2003-12-01 性能測定装置および性能測定方法

Country Status (1)

Country Link
JP (1) JP4113106B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006285316A (ja) * 2005-03-31 2006-10-19 Hitachi Ltd サーバ性能計測方法及びサーバ性能計測システム並びにこれらに用いるコンピュータプログラム
WO2007142053A1 (ja) * 2006-06-05 2007-12-13 Nec Corporation 監視装置、監視システム、監視方法およびプログラム
JP2009519520A (ja) * 2005-12-16 2009-05-14 インターナショナル・ビジネス・マシーンズ・コーポレーション 処理能力のリアル・タイム・ベンチマーキングに基づきソフトウェア製品の使用量を測定する方法、システムおよびコンピュータ・プログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006285316A (ja) * 2005-03-31 2006-10-19 Hitachi Ltd サーバ性能計測方法及びサーバ性能計測システム並びにこれらに用いるコンピュータプログラム
JP4677813B2 (ja) * 2005-03-31 2011-04-27 株式会社日立製作所 サーバ性能計測方法及びサーバ性能計測システム並びにこれらに用いるコンピュータプログラム
JP2009519520A (ja) * 2005-12-16 2009-05-14 インターナショナル・ビジネス・マシーンズ・コーポレーション 処理能力のリアル・タイム・ベンチマーキングに基づきソフトウェア製品の使用量を測定する方法、システムおよびコンピュータ・プログラム
US8799870B2 (en) 2005-12-16 2014-08-05 International Business Machines Corporation Method system and computer program for metering usage of software products based on real-time benchmarking of processing power
WO2007142053A1 (ja) * 2006-06-05 2007-12-13 Nec Corporation 監視装置、監視システム、監視方法およびプログラム
US8549137B2 (en) 2006-06-05 2013-10-01 Nec Corporation Monitoring device, monitoring system, monitoring method, and program

Also Published As

Publication number Publication date
JP4113106B2 (ja) 2008-07-09

Similar Documents

Publication Publication Date Title
US7222269B2 (en) Performance evaluation device, performance evaluation information managing device, performance evaluation method, performance evaluation information managing method, performance evaluation system
US7844036B2 (en) Visual test automation tool for message-based applications, web applications and SOA systems
CN109388791B (zh) 图表动态展示方法、装置、计算机设备及存储介质
JP2011502303A (ja) リアルタイムコラボレーションの間のデータ及びローカル計算のプライベートビュー
KR100437746B1 (ko) 원격의 호스트 시스템 상에서 실행되는 작업을 로컬의 워크스테이션에서 모니터링하는 방법 및 분산 컴퓨터 시스템과 컴퓨터 판독가능한 기록 매체
CN104272327A (zh) 作业管理方法以及管理系统
JP5390227B2 (ja) 情報分析装置及びその方法、情報分析システム、プログラム、記憶媒体
JP3987333B2 (ja) 性能測定装置、性能測定システム、記録媒体およびプログラム
US5987475A (en) Apparatus and method for processing hypertext and recording medium
JP2010067056A (ja) 制御プログラム、情報処理システム、および情報処理方法
JP4113106B2 (ja) 性能測定装置および性能測定方法
CN109725973B (zh) 一种数据处理方法和数据处理装置
CN111368425A (zh) 一种利用框图工具进行接口关系分析的方法和装置
JP3683216B2 (ja) 性能評価装置、情報処理方法およびプログラム
CN112269741B (zh) 应用程序兼容性测试方法及相关设备
JP4430908B2 (ja) マルチウィンドウ表示制御装置およびこれを使用するコンピュータシステム
JP5668836B2 (ja) 情報処理装置,情報取得方法及び情報取得プログラム
CN112035360A (zh) 中间件测试方法、装置、计算机设备及可读存储介质
JP2006031178A (ja) 負荷テスト実施装置、負荷テスト実施方法、負荷テスト実施プログラム
CN114676067B (zh) 一种测试脚本的参数化处理方法以及装置
US8688783B2 (en) Selection of real time collaboration tools
JP3271682B2 (ja) 入力イベント記録/再生装置
CN113918581A (zh) 业务单据的变更方法、变更装置和存储介质
JP2004094386A (ja) グラフレポート作成システム
JP2006277577A (ja) 処理装置及び処理装置システム

Legal Events

Date Code Title Description
A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20031219

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040113

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040427

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20050125

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080410

R150 Certificate of patent or registration of utility model

Ref document number: 4113106

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110418

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120418

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130418

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130418

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140418

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250