JP6007906B2 - システム性能予測方法、情報処理装置およびその制御プログラム - Google Patents

システム性能予測方法、情報処理装置およびその制御プログラム Download PDF

Info

Publication number
JP6007906B2
JP6007906B2 JP2013520625A JP2013520625A JP6007906B2 JP 6007906 B2 JP6007906 B2 JP 6007906B2 JP 2013520625 A JP2013520625 A JP 2013520625A JP 2013520625 A JP2013520625 A JP 2013520625A JP 6007906 B2 JP6007906 B2 JP 6007906B2
Authority
JP
Japan
Prior art keywords
model
output
performance prediction
input
black box
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013520625A
Other languages
English (en)
Other versions
JPWO2012173283A1 (ja
Inventor
大地 木村
大地 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2012173283A1 publication Critical patent/JPWO2012173283A1/ja
Application granted granted Critical
Publication of JP6007906B2 publication Critical patent/JP6007906B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3447Performance evaluation by modeling
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3452Performance evaluation by statistical analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3466Performance evaluation by tracing or monitoring
    • G06F11/3485Performance evaluation by tracing or monitoring for I/O devices

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Computer Hardware Design (AREA)
  • Quality & Reliability (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Debugging And Monitoring (AREA)

Description

本発明は、対象とするシステムの実際の振る舞い(挙動)を反映した性能予測を行う技術に関する。
上記技術分野において、特許文献1(特開2000−298593号公報)では、マルチタスク環境における並列計算機のスループットやレスポンス、リソース使用率などの性能指標を、並列計算機システムを待ち行列モデルに変換することで予測する方法が提案されている。この待ち行列モデルによる予測においては、構築するシステムに関するパラメータ(例えば、1リクエストあたりの処理時間(Demand)など)が事前に与えられているものとし、そのパラメータを用いて予測が行われる。
係るパラメータを調整する技術として、特許文献2では、アプリケーションと、このアプリケーションに対応するアプリケーションモデルのログ出力とを比較する。そして、特許文献2では、係るアプリケーションモデルのパラメータを自動的に調整すると共に、調整済みのパラメータを、当該アプリケーションモデル(以下、単に「モデル」と略称する場合がある)に反映する。即ち、特許文献2には、アプリケーションの実行環境に応じた適当なパラメータを選ぶことにより、そのアプリケーションの性能予測の精度を向上する方法が提案されている。
また、特許文献3においては、サーバ計算機システム全体をブラックボックス化して、計測トランザクションを与えて、待ち行列網によるモデルとは異なる単純確立計算で同時処理数を推定する。
特開2000−298593号公報 特開2002−215423号公報 特開平10−187495号公報
しかしながら、上記特許文献1では、事前に与えられた値と、実際に構築した対象システム(即ち、性能予測の対象とすべきシステム)における値とが異なることがある。そのため、上記特許文献1では、係るアプリケーションモデルを用いて予測した性能指標と、実際に構築した当該対象システムの性能指標との間に差異が生じるという問題がある。
また、特許文献2(特開2002−215423号公報)に記載された方法は、対象システムをシミュレーションすることを目的としており、既知の情報に基づいて作成されたモデルのパラメータを調整する。このため、係る特許文献2に記載された技術は、作成済みのモデルにおけるパラメータの調整手法を開示するに留まる。
また、特許文献3(特開平10−187495号公報)は、対象システム全体をブラックボックスに置き換えてモデルの評価データを推定する手法を開示する。即ち、特許文献3において、評価対象のモデルは、係る特許文献2と同様に、既知の情報に基づいて作成された対象システムのシミュレーションモデルである。したがって、特許文献3によっても、モデルを用いて予測した性能指標と、実際に構築した対象システムの性能指標との間に差異が生じるという問題を解決することはできない。
本発明の主たる目的は、上述の課題を解決する技術を提供することにある。
上記目的を達成するため、本発明に係る情報処理装置は、
性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測手段と、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換手段と、
前記調整部位置換手段によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測手段が計測した入力に対して、前記システムモデルの予測出力を算出する予測出力算出手段と、
前記入出力計測手段が計測した前記性能予測対象システムの出力と、前記予測出力算出手段が算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整手段と、
を備えることを特徴とする。
上記目的を達成するため、本発明に係るシステム性能予測方法は、情報処理装置によって、
性能予測の対象とする性能予測対象システムの入力および出力を計測し、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整することを特徴とする。
上記目的を達成するため、本発明に係る制御プログラム(コンピュータ・プログラム)は、
性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測機能と、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換機能と、
前記調整部位置換機能によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測機能によって計測した前記入力に対して、前記システムモデルの予測出力を算出する予測出力算出機能と、
前記入出力計測機能によって計測した前記性能予測対象システムの前記出力と、前記予測出力算出機能によって算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整機能と、
をコンピュータに実行させることを特徴とする。
更に、上記目的を達成するため、本発明に係るシステム性能予測方法は、情報処理装置によって、
性能予測の対象である性能予測対象システムの入力および出力を計測し、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整し、
前記ブラックボックスの調整により、前記性能予測対象システムについて計測した前記出力と、前記システムモデルの前記予測出力との差が最も小さくなった場合に、前記システムモデルについて算出した前記予測出力を、前記性能予測対象システムの性能予測結果とする、ことを特徴とする。
更に同目的は、上記構成を有する方法、装置、並びにコンピュータ・プログラムだけでなく、更には係るコンピュータ・プログラムが格納されている、コンピュータ読み取り可能な記憶媒体によっても達成される。
本発明によれば、性能予測の対象システムの実際の振る舞いを反映した性能予測を行うことができる。
本発明の第1実施形態に係る情報処理装置の構成を示すブロック図である。 本発明の第2実施形態に係る情報処理装置の機能構成を示すブロック図である。 本発明の第2実施形態の第1実施例に係る部位モデルをブラックボックスに置き換えるシステムモデルを概念的に説明する図である。 本発明の第2実施形態の第2実施例に係る部位モデルをブラックボックスに置き換えるシステムモデルを示す図である。 本発明の第2実施形態の第2実施例に係る部位モデルをブラックボックスに置き換えるシステムモデルを示す図である。 本発明の第2実施形態の第2実施例に係る部位モデルをブラックボックスに置き換えるシステムモデルを示す図である。 本発明の第2実施形態に係る情報処理装置のハードウェア構成を示すブロック図である。 本発明の第2実施形態に係るシステムモデル・データベースの構成を概念的に示す図である。 本発明の第2実施形態に係るブラックボックス・データベース、モデル調整アルゴリズムおよびモデル調整条件の構成を示す図である。 本発明の第2実施形態に係る情報処理装置の制御手順を示すフローチャートである。 本発明の第3実施形態に係る情報処理装置の機能構成を示すブロック図である。 本発明の第4実施形態に係る情報処理装置の機能構成を示すブロック図である。 本発明の第5実施形態に係る情報処理装置の機能構成を示すブロック図である。 本発明の第5実施形態に係る置換順序データの第1構成を示す図である。 本発明の第5実施形態に係る置換順序データの第2構成を示す図である。 本発明の第5実施形態に係るブラックボックスの置換順序例を示す図である。 本発明の第5実施形態に係る情報処理装置のハードウェア構成を示すブロック図。 本発明の第5実施形態に係るシステムモデル・データベースの構成を示す図である。 本発明の第5実施形態に係る情報処理装置の制御手順を示すフローチャートである。 本発明の第6実施形態に係る情報処理システムの構成を示すブロック図である。
以下に、図面を参照して、本発明の実施の形態について例示的に詳しく説明する。ただし、以下の実施の形態に記載されている構成要素は単なる例示であり、本発明の技術範囲をそれらのみに限定する趣旨のものではない。
[第1実施形態]
本発明の第1実施形態としての情報処理装置100について、図1を用いて説明する。図1は、本発明の第1実施形態に係る情報処理装置の構成を示すブロック図である。情報処理装置100は、性能予測の対象とする性能予測対象システムのシステムモデルを生成する装置である。
図1に示すように、情報処理装置100は、入出力計測部101と、調整部位置換部102と、予測出力算出部103と、モデル調整部104とを含む。
入出力計測部101は、性能予測対象システム110の入力および出力を計測する。ここで、性能予測対象システム110は、情報処理装置100を用いて性能を予測すべき対象である。図1に破線で示すシステムモデル105は、係る性能予測対象システム110に対応するモデルである。このシステムモデル105は、図1に概念的に例示する如く、複数の部位モデル105aにより構成される。
調整部位置換部102は、係るシステムモデル105について、指定された部位モデル105aを、部位モデル105aの入力と出力とに接続されたブラックボックス106aに置き換える。図1に破線で示す置換モデル106は、調整部位置換部102において指定された部位モデル105aが、ブラックボックス106aに置き換えられた状態の、性能予測対象システム110の置換モデルを概念的に示している。
予測出力算出部103は、係る置換モデル106に基づいて、入出力計測部101が計測した入力(即ち、計測入力:measured input)101aに関して、置換モデル106による予測出力(predicted output)103aを算出する。
モデル調整部104は、入出力計測部101が計測した性能予測対象システム110の出力(即ち、計測出力:measured output)101bと、予測出力算出部103が算出した置換モデル106による予測出力103aとの差がより小さくなるように、ブラックボックス106aにおける入力と出力との関係を調整する。
本実施形態によれば、性能予測の対象システムの実際の振る舞いを反映した性能予測を行うことができる。
[第2実施形態]
次に、上述した第1の実施形態を基本とする本発明の第2実施形態に係る情報処理装置について説明する。本実施形態においては、システムモデルに含まれる部位モデルのうち、オペレータの指示などにより指定された部位モデルを、ブラックボックスに置き換える。そして、本実施形態においては、係るブラックボックスを含むシステムモデルに性能予測対象システムの計測入力を入力して、その予測出力を監視すると共に、性能予測対象システムの計測出力と予測出力との差が小さくなるように、当該ブラックボックスを調整する。
本実施形態によれば、オペレータの指示に応動してシステムモデルにおいて環境の変化などに起因して性能の変動が生じた場合であっても、その変動に応じて、当該指定された部位モデルを、適切なブラックボックスに置き換えることができる。このため、本実施形態によれば、迅速に性能予測の対象システムの実際の振る舞いを反映した性能予測を行うことができる。
《情報処理装置の機能構成》
図2は、本実施形態に係る情報処理装置200の機能構成を示すブロック図である。
図2において、情報処理装置200は、性能予測の対象とする性能予測対象システム210と、ネットワーク220を介して通信可能に接続されている。情報処理装置200は、コンピュータ等の、プログラム(コンピュータ・プログラム/ソフトウェア・プログラム)に従って動作する装置である。
性能予測対象システム210は、本実施形態における性能予測の対象である。係る性能予測対象システム210は、1台、もしくは、複数台のコンピュータ等のプログラムに従って動作する装置で構成される。なお、複数台の装置で構成される場合は、それらの間の通信は、ネットワーク220を介して行ってもよいし、直接に接続された通信ケーブル等で行ってもよい。係るネットワーク220は、例えばインターネットなどでもよいし、あるいは、LAN(Local Area Network)でもよい。但し、ネットワーク220は、情報処理装置200と性能予測対象システム210との間の通信を可能にする構成であれば何ら限定されない。
情報処理装置200は、通信制御部201と、入出力計測部202と、性能予測部203と、モデル調整部204と、モデル蓄積部205と、調整部位置換部206と、置換部位受付部207と、を含む。
モデル蓄積部205は、性能予測対象システム210の性能指標の入力と出力との関係のシステムモデルを蓄積しているデータベース(以下、「DB」と標記する場合がある)である。ここで、入力とは、例えば、単位時間内にシステムが処理しなくてはならないリクエスト数などである。出力とは、例えば、システムのスループットや応答時間などである。しかし、係る入力及び出力は、これらに限定されるものではなく、独立変数と従属変数の関係としてモデルで記述できる場合には、その独立変数を入力とし、従属変数を出力としてよい。
通信制御部201は、ネットワーク220を介して性能予測対象システム210と通信する。入出力計測部202は、通信制御部201を介して性能予測対象システム210にアクセスし、性能予測対象システム210の入力および出力を計測する機能を備える。
置換部位受付部207は、オペレータによる操作により、ブラックボックスに置換する部位モデルの指定を受け付ける。例えば、オペレータの操作に従って、キーボード等の入力装置からブラックボックスに置き換える部位モデルを選択してもよい。また、コンピュータ等が備えているハードディスクドライブ(HDD)等の記録媒体からブラックボックスに置き換えるべき部位モデルを獲得してもよい。また、インターネット等の通信網を介してサーバ等からブラックボックスに置き換えるべき部位モデルを獲得してもよい。調整部位置換部206は、置換部位受付部207により獲得した部位モデルを、ブラックボックスに置き換える。
なお、本実施形態におけるブラックボックスとは、学習や回帰などによって、入力に対して適当な出力を決定することができる仕組みである。例えば、係る仕組みは、ニューラルネットワークや隠れマルコフモデルなどで実現してもよいし、多項式関数などによる近似やノンパラメトリック回帰関数で実現してもよい。
性能予測部203は、調整部位置換部206によって指定された部位モデルをブラックボックスに置き換えたシステムモデルの入力と出力との関係を用いて、入出力計測部202が計測した性能予測対象システム210の入力に対して、システムモデルが予測する予測出力を算出する。
モデル調整部204は、入出力計測部202が計測した性能予測対象システム210の入力および出力と、性能予測部203が算出したブラックボックスを含むシステムモデルが予測する予測出力とを基に、係るブラックボックスを調整する。
《システムモデル》
次に、本実施形態におけるシステムモデルの例と、部位モデルのブラックボックスへの置き換えの例を示す。
(第1実施例)
図3Aは、本発明の第2実施形態の第1実施例に係る部位モデルをブラックボックスに置き換えるシステムモデル300を概念的に説明する図である。図3Aの左側は、複数の部位モデル(モジュール311〜316)によって構成されたオリジナルのシステムモデル310である。図3Aの右側は、係る複数の部位モデルのうち、1つの部位モデル(即ち、指定された部位モデル:モジュール323)を、ブラックボックスに置き換えたシステムモデル320を表す。
図3Aに示される例において、モジュールとは、システムの部分的な要素を模倣したモデルであり、例えば、CPU(Central Processing Unit)の振る舞いを模倣した待ち行列モデルなどが挙げられる。しかし、システムの各部分と一対一に対応する必要はなく、システムモデル310が性能予測対象システム210の振る舞いを模倣するのに必要な構成要素であればよい。
また、モジュールは、1つまたは1つ以上の入力を受け取って、規定された処理を施し、1つまたは1つ以上の出力を決定する。この規定された処理とは、y=exp(u)(ここで、uは入力、yは出力)のように数式で表されるものでもよいし、待ち行列などでもよい。すなわち、受け取った入力に対して、あらかじめ定められた手順にのっとって、計算もしくはシミュレーションされ出力が決定するものであれば良く、係るモジュールは、これらの例示には限定されない。
図3Aに示される例では、システムモデル310への入力は、まず、モジュール311に渡される。モジュール311は規定された処理を施し、その出力をモジュール312と313とに渡す。モジュール312と313とは、モジュール311から渡された出力を入力として規定された処理を施す。以下同様に、モジュール間での入出力が行われ、最終的にモジュール316の出力がシステムモデル310の出力になる。図3Aに示される例では、入力および出力が一種類であるが、複数種類の入出力の場合もまったく同様に扱えることは自明である。
ブラックボックスに置き換える部位モデルの獲得は、例えば、図3Aのように、システムモデルがグラフィカルに表示されている場合は、モジュールをクリックするというユーザの入力操作に従ってもよいし、各モジュールに識別可能なIDが割り当てられている場合には、そのIDの指定によってもよい。モジュールが一意に識別できる方法であれば、これらの例示に限定されるものではない。また、指定する部位モデルは複数であってもよい。
図3Aに示す置換後のシステムモデル320においては、モジュール313がブラックボックス323に置き換えられている。本実施例では、このシステムモデル320を用いて、性能予測対象システム210についての計測した入力に基づいて予測出力を算出し、性能予測対象システム210について計測した出力と比較しながらブラックボックス323を調整する。
(第2実施例)
図3Bは、本発明の第2実施形態の第2実施例に係る部位モデルをブラックボックスに置き換えるシステムモデル301を示す図である。
図3Bは、Webサーバ330とアプリケーション・サーバ340とデータベース・サーバ350とからなるサーバシステムのシステムモデル301の例である。これらの各サーバは、CPUとディスクと、それらを繋ぐ待ち行列によってモデル化されるとする。
尚、以下の説明及び/または図面において、アプリケーション・サーバ340は「APサーバ」、データベース・サーバ350は「DBサーバ」、ディスク(記憶装置)は「DK」と標記する場合がある。
Webサーバ330は、CPU331と2つのDK332,333と待ち行列を有する。APサーバ340は、CPU341と2つのDK342,343と待ち行列を有する。DBサーバ350は、CPU351と2つのDK352,353と待ち行列を有する。
図3Cは、本発明の第2実施形態の第2実施例に係る部位モデルを、ブラックボックスに置き換えたシステムモデル302を示す図である。図3Cにおいては、上述した図3Bに示すシステムモデル301に含まれるAPサーバ340のCPU341が、ブラックボックス370(図3Cには“B・B”で示す)に置き換えられている。
図3Dは、本発明の第2実施形態の第2実施例に係る部位モデルを、ブラックボックスに置き換えるシステムモデル303を示す図である。図3Cにおいては、図3Bのシステムモデル301に含まれるAPサーバ340が、ブラックボックス380(図3Dには“B・B”で示す)に置き換えられている。
図3Cおよび図3Dに示す置換後のシステムモデル302および303を用いて、性能予測対象システムに対する計測した入力であるクライアント360からのアクセスに基づいて、性能予測対象システムからの応答である予測出力を算出する。性能予測対象システムに関して計測した出力と比較しながらブラックボックス370あるいは380を調整する。
《情報処理装置のハードウェア構成》
図4Aは、本発明の第2実施形態に係る情報処理装置200のハードウェア構成を示すブロック図である。
図4Aにおいて、CPU410は演算制御用のプロセッサであり、プログラムを実行することで、上述した図2に示す各機能構成を実現する。ROM420は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。通信制御部201は、ネットワークを介して性能予測対象システムと通信する。
RAM440は、CPU410が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM440には、本実施形態の実現に必要なデータを記憶する領域が確保されている。441は、性能予測対象システム210(以下、「実システム」と称する場合がある)から送信された入力データ(計測した入力)である。442は、実システムから送信された出力データ(計測した出力)である。
443は、システムモデルから出力されるモデル予測出力データである。444は、実システムから送信された出力データ442とシステムモデルから出力されるモデル予測出力データ443との差分である出力データ差分である。445は、オペレータにより指示入力されたブラックボックスに置き換える部位モデルを指示する置換指示データである。
446は、性能予測対象システムのシステムモデルである。447は、置換指示データ445に従って部位モデルがブラックボックスに置換されたシステムモデルである。448は、部位モデルを置換する際に使用されたブラックボックスである。
ストレージ450は、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。即ち、451は、モデル蓄積部205を構成するシステムモデルDBである(図4B参照)。452は、部位モデルを置換するのに使用されたブラックボックスを蓄積するブラックボックスDBである。453は、部位モデルがブラックボックスに置き換えられたシステムモデルによりブラックモデルを調整する手順を示すモデル調整アルゴリズムである。454は、モデル調整アルゴリズム453に従ったブラックボックス調整における調整完了を判定するためのモデル調整条件である。
また、ストレージ450には、以下のプログラムが格納される。455は、全体の処理を実行させる情報処理プログラムである。456は、情報処理プログラム455において、実システムの入出力を計測する入出力計測モジュールである。457は、情報処理プログラム455において、部位モデルをブラックボックスに置換したシステムモデルにより、そのブラックボックスを制御する調整部位制御モジュールである。
入力インタフェース460は、オペレータによる操作やデータの入力をインタフェースする。入力インタフェース460には、例えば、キーボード461やマウス(登録商標)462、記憶媒体463が接続される。出力インタフェース470は、オペレータに対する操作入力指示や処理結果などの出力をインタフェースする。出力インタフェース470には、例えば、表示部471やプリンタ472が接続される。
なお、図4Aには、本実施形態に必須なデータやプログラムのみが示されており、OS(Operating System)などの汎用のデータやプログラムは図示されていない。
(システムモデルDB)
図4Bは、本発明の第2実施形態に係るシステムモデルDB451の構成を概念的に示す図である。
システムモデルID481は、システムモデルを識別する識別子である。システムモデルDB451は、システムモデルID481に対して、当該システムモデルが対象とするモデル対象482と、その特徴などを含む属性483と、システムモデルへの入力と出力とを示す入力/出力484とを関連付けて(紐付けして)格納する。さらに、システムモデルDB451は、実際のシステムモデル485を含む。図4Bには、システムモデル485としてサーバの待ち行列モデルの一例を示している(図3B〜図3D参照)。
(ブラックボックスDB、モデル調整アルゴリズムおよびモデル調整条件)
図4Cは、本実施形態に係るブラックボックスDB452、モデル調整アルゴリズム453およびモデル調整条件454の構成を示す図である。
ブラックボックスを識別する識別子であるブラックボックスID491に関連付けて、ブラックボックス種別492が記憶される。同様に、ブラックボックスID491に関連付けて、モデル調整アルゴリズム453と、モデル調整条件454とが記憶される。
図4Cには、ブラックボックス種別492として、ニューラルネットワークや、マルコフモデル、多項式関数、あるいはルックアップテーブルなどが、その例として図示されているが、これに限定されない。例えば、ノンパラメトリック回帰関数なども含まれる。又、様々な性能予測対象システムに適応可能な種々のブラックボックスが準備されている。同じ種別についても複数準備されており、ブラックボックスの構造が異なるものや、モデル調整アルゴリズムが異なるものや、モデル調整条件が異なるものなど、が考えられる。
モデル調整アルゴリズム453としては、例えば、ブラックボックスがニューラルネットワークの場合は、調整するパラメータとして各シナプス荷重が選択され、その初期値や調整ステップが規定される。また、ブラックボックスが多項式近似の場合は、調整するパラメータとして各係数などが選択され、その初期値や調整順や調整ステップが規定される。初期値としては、ランダムな値が与えられてもよいし、あらかじめ、置き換えられる前の部位モデルの振る舞いを模倣するように値が与えられてもよい。
図4Cにおいては、ブラックボックス種別492として2つの“ニューラルネットワーク”が準備されており、これに関連付けられた状態で、モデル調整アルゴリズム453としては、それぞれ“バックプロパゲーションA”と“バックプロパゲーションB”が設定されている。また、図4Cにおいては、ブラックボックス種別492として2つの“マルコフモデル”が準備されており、これに関連付けられた状態で、モデル調整アルゴリズム453としては、一方には“強化学習”が設定され、他方には“遺伝的アルゴリズム”が設定されている。更に、図4Cにおいては、ブラックボックス種別492として“多項式関数”が準備されており、これに関連付けられた状態で、モデル調整アルゴリズム453としては、“モンテカルロ法”が設定されている。なお、図4Cに示すブラックボックス種別492中の“ルックアップテーブル”は、データ収集機能を表すので、データを収集する際のステップ幅がモデル調整アルゴリズム453となる。
モデル調整条件454としては、例えば、性能予測対象システム210から計測された出力と、システムモデルが予測した予測出力とを比較し、その誤差があらかじめ定められた精度以下である場合に調整完了としてよい。すなわち、本実施形態では、係るモデル調整条件454が成立した場合に、ブラックボックスを含むシステムモデルが、あらかじめ定められた精度の範囲内で実システムの振る舞い(挙動)を予測できていると判断し、調整を完了する。
また、調整完了のタイミングとしては、以下の例が挙げられる。
・ある一定回数の調整を経ても上記誤差が変化しない、すなわち、調整が平衡状態にあるとみなせる場合、
・あらかじめ定められた回数の調整を行った場合。
尚、本実施形態では、上記種々のあらかじめ規定された条件が所定回数後にも満足されずに調整不可となった場合の条件として、他の部位モデルの置換に変更するか、或いはブラックボックス種別を変更するかなどの手順も記憶されてよい。
図4Cには、ニューラルネットワーク、マルコフモデル、多項式関数に対しては、性能予測対象システムの測定出力と、ブラックボックスを含むシステムモデルの予測出力との差分である誤差が、所定閾値以下になった場合の例を示している。図4Cにおいては、αとβとの2つの閾値があり、それぞれのブラックボックス種別とモデル調整アルゴリズムとに対応して適切な方が設定されている。なお、測定出力と予測出力との差分による条件判断であるので、全て同じ値にしても構わない。あるいは、性能予測対象システム210の種別や用途に対応して、モデル調整の精度を変えることも考えられる。
《情報処理装置の制御手順》
図5は、本発明の第2実施形態に係る情報処理装置200の制御手順を示すフローチャートである。図4Aに示すCPU410は、RAM440を使用しながら、係るフローチャートに記載された手順を実行することにより、図2に示す各機能構成を実現する。
まず、CPU410は、ネットワーク220を介して性能予測対象システム210にアクセスし、性能予測対象システム210の入力および出力を計測する(ステップS501)。
次に、CPU410は、オペレータの入力操作に従ってシステムモデルDB451が蓄積しているシステムモデルの、ブラックボックスに置換して調整する部位モデルの情報を獲得する(ステップS503)。なお、インターネット等の通信網を介したサーバ等からの命令に従って、ブラックボックスに置換して調整する部位モデルの情報を獲得してもよい。
次に、CPU410は、指定された部位モデルを、ブラックボックスに置き換える(ステップS505)。
一例として、図3Aに示されるシステムモデル310の中のモジュール313が指定された結果、モジュール313がブラックボックス323に置き換えられたとする。置き換えられたブラックボックス323は、モジュール311からの入力に応じて、モジュール315に出力を与える。なお、指定された部位モデルが複数の場合には、各モジュールをそれぞれブラックボックスに置き換えることになる。
次に、CPU410は、部位モデルをブラックボックスに置き換えたシステムモデルの入力と出力との関係を用いて、性能予測対象システム210からステップS501にて入手した入力(計測した入力値)に対して、モデルが予測する予測出力を算出する(ステップS507)。
次に、CPU410は、ブラックボックスの調整が終了したか否かをモデル調整条件454に基づいて判断する(ステップS509)。ブラックボックスの調整が終了したと判断した場合(ステップS509にてYES)、CPU410は処理を終了する。一方、調整終了でなければ(ステップS509にてNO)、CPU410は処理をステップS511に進める。ここで、ブラックボックスの調整の終了を判断するモデル調整条件454としては、図4Cを参照して上述した例の通りである。
そして、CPU410は、性能予測対象システム210からステップS501にて入手した入力および出力(何れも計測結果)と、ステップS507において算出したシステムモデルの予測出力とを基に、モデル調整アルゴリズム453に従ってブラックボックスを調整する(ステップS511)。CPU410は、ステップS511においてブラックボックスを調整した後、調整されたブラックボックスを含むモデルが予測する予測出力をステップS507において再び算出する。
即ち、本実施形態において、ブラックボックスの調整は、具体的には、性能予測対象システム210から入手した出力(計測した出力値)に、算出したシステムモデルの予測出力を近づけるように、学習または近似などの方法によってブラックボックスを調整する。例えば、性能予測対象システム210から入手した出力(計測した出力値)との差を評価関数とし、強化学習や遺伝的アルゴリズム、モンテカルロ法などによって、ブラックボックスのパラメータを補正する。例えば、ニューラルネットワークの場合は各シナプス荷重を補正する。多項式近似の場合は、各係数などを補正する。
このように本実施形態によれば、ブラックボックスの入出力(図3Aの例の場合、モジュール312の入出力が相当する)に対応するシステムモデルの部分的な要素が直接計測できなくても、計測した実システムの出力と、モデルが予測する予測出力との差分を評価関数とすることで、ブラックボックスを調整することができる。
なお、ブラックボックスの入出力に対応するシステムモデルの部分的な要素が直接計測できる場合には、ブラックボックスの予測出力と、部分的な要素の出力の計測結果を近づけるために、バックプロパゲーションなどの教師有り学習や、最小二乗法などを用いるとよい。
[第3実施形態]
次に、上述した第1及び第2の実施形態を基本とする本発明の第3実施形態に係る情報処理装置について説明する。本実施形態に係る情報処理装置は、ブラックボックスに置き換える部位モデルの指定を、オペレータなど外部から行なわずに、自装置内部で指定するという構成が上記第2実施形態と異なる。本実施形態においては、情報処理装置がシステムモデルの種別などに応じて、外部環境による影響がある部位や部位モデルに丸めが多い部位などを優先的にブラックボックスに置き換える。本実施形態によれば、オペレータの操作を簡素化して、迅速に性能予測の対象システムの実際の振る舞いを反映した性能予測を行うことができる。
《情報処理装置の機能構成》
図6は、本発明の第3実施形態に係る情報処理装置600の機能構成を示すブロック図である。
図6に関しては、第2実施形態の図2と異なる部分についてのみ説明する。その他の構成および動作は、第2実施形態と同様であるため、同じ構成については同じ符号を付してその詳しい説明を本実施形態では省略する。
モデル調整部位指定部607は、システムモデルの種別などに応じて、外部環境による影響がある部位や、部位モデルに丸めが多い部位などを、優先的にブラックボックスに置き換えるべく、調整部位置換部206に対して、部位モデルを指定する情報を送る。
[第4実施形態]
次に、上述した第1及び第2の実施形態を基本とする本発明の第4実施形態に係る情報処理装置について説明する。本実施形態に係る情報処理装置は、ブラックボックスの調整が完了した調整後に、システムモデルのモデルとしての妥当性を評価するという構成が上記第2実施形態と異なる。本実施形態によれば、ブラックボックスの調整が完了したシステムモデルが実システムのモデルとして不適切である場合に、不適切なシステムモデルによる性能予測を回避することができる。
《情報処理装置の機能構成》
図7は、本発明の第4実施形態に係る情報処理装置700の機能構成を示すブロック図である。
図7に関しては、第2実施形態の図2と異なる部分についてのみ説明する。その他の構成および動作は、第2実施形態と同様であるため、同じ構成については同じ符号を付してその詳しい説明を本実施形態では省略する。
モデル妥当性評価部708は、ブラックボックスが調整された後のシステムモデルが、性能予測対象システム210に関する性能予測に使用するのに妥当か否かを評価する。そして、この評価の結果、妥当と判断された場合、情報処理装置700は、当該調整後のシステムモデルを、性能予測対象システム210の性能予測に使用する。一方、係る評価の結果が妥当でないとの判断の場合、情報処理装置700は、その判断結果をオペレータなどに報知する。
ここで、ブラックボックスが調整された後のモデルが妥当であるか否かは、例えば、次のように評価される。例えば、指定されたモジュールの一部をブラックボックスへ置き換えた場合には、指定されたモジュールの影響下でブラックボックスの調整が行われる。このように、ブラックボックスは、それを含むモジュールからの影響を強く受けて調整されるので、真に修正すべきモジュールを指定していれば、モデルと実際のシステムとの間における振る舞い(挙動)の齟齬(食い違い)は、そのモジュール内に閉じた状態であり、このような場合は当該モジュールの外部に影響が及ぶことはない。このため、この場合のブラックボックスは、比較的単純な構成になる。
逆に、真に修正すべきではないモジュールが指定されている場合は、モデルと実際のシステムとの振る舞いの齟齬は、そのモジュール外に現れる。このため、このような場合は、修正すべきではないモジュールに含まれるブラックボックスによってその齟齬を調整しようとする結果、ブラックボックスは複雑な構成になる。
従って、ブラックボックスの構成が単純であるほど、調整された後のモデルは妥当であると評価されてよい。ここで、ブラックボックスの構成が単純であるとは、たとえば、ブラックボックスが多項式関数であれば項の数が少ない、ニューラルネットワークであればニューロンやシナプスの数が少ない、などということを指す。これは、システムを構成するモジュールをブラックボックスに置き換えた場合にも適用できる。すなわち、上記モジュールをシステム全体に、上記モジュールの一部をモジュールに置き換えた状況であっても、上述と同様に、調整されたブラックボックスを含むシステムモデルの評価基準となる。
また、調整されたモデルが妥当であるかの評価には、モデルの良さを評価する一般的な指標である赤池情報量規準(AIC)やベイズ情報量規準(BIC)などを用いてもよい。
なお、評価基準は上記例に限定されず、ブラックボックスを含むシステムモデルの評価基準となるものであればよい。
[第5実施形態]
次に、上述した第1及び第2の実施形態などを基本とする本発明の第5実施形態に係る情報処理装置について説明する。本実施形態に係る情報処理装置は、部位モデルをブラックボックスに順次置換すると共にシステムモデルを調整し、その調整したシステムモデルの中で適切な置換が行なわれたシステムモデルを評価し、評価結果をオペレータなどに提示する、という構成が、上述した実施形態における情報処理装置と異なる。
本実施形態によれば、どの部位モデルを修正すべきかを予め把握できていない場合においても、妥当に調整されたモデルが提示されるので、システムの実際の振る舞いを反映した性能予測を行うことができるモデルを得ることができる。さらに、本実施形態によれば、部位モデルの一部をブラックボックスに置き換える場合には、その部位モデルの影響を強く受けながらブラックボックスが調整される。モデルと実際のシステムの振る舞いの齟齬がその部位モデル内に閉じるか否かによって、調整されたモデルの妥当性は大きく異なる。よって、この性質を利用すれば、指定された部位モデルの調整が妥当かどうかの根拠が与えられる。
《情報処理装置の機能構成》
図8は、本発明の第5実施形態に係る情報処理装置800の機能構成を示すブロック図である。
に関しては、第2実施形態の図2と異なる部分についてのみ説明する。その他の構成および動作は、第2実施形態と同様であるため、同じ構成については同じ符号を付してその詳しい説明を本実施形態では省略する。
モデル調整部位指定部807は、置換する部位モデルの順序を記憶する置換順序データ807aを有する。モデル調整部位指定部807は、置換順序データ807aに記憶された順序(順序を表す情報)に従って、調整部位置換部206に対して、ブラックボックスに置換する部位モデルあるいはその一部を指定する。
モデル妥当性評価部708は、第4実施形態と同様に、順次に置換されたブラックボックスが調整された後のそれぞれのシステムモデルが、性能予測対象システム210による性能予測に使用するのに妥当か否かを評価する。
調整モデル提示部809は、モデル妥当性評価部708の妥当性の評価の結果、妥当性の基準を超えたシステムモデルを提示する。提示方法としては、例えば、妥当性の基準を超えたシステムモデルを、その妥当性の評価値と共に一覧表示すればよい。また、他の提示方法としては、例えば、妥当性の評価が最も高いシステムモデルを提示してもよい。また、提示方法としては、例えば、ディスプレイ等の画面上に表示してもよいし、ハードディスクドライブ等の記憶装置(記録媒体)に記録してもよい。
(置換順序データ)
図9Aは、本発明の第5実施形態に係る置換順序データ807aの第1構成807a−1を示す図である。
第1構成807a−1には、図9Aに示すように、置換順序901の順に、以下の各種情報が関連付けて記憶される。
・置換部位902:ブラックボックスに置換する部位を表す情報、
・ブラックボックス種別903:ブラックボックスの種別を表す情報、
・調整完了時データ904:調整が完了したブラックボックスの状態を示す情報、
・妥当性評価905:妥当性の評価結果を表す情報。
図9Aには、図3Aにおけるモジュールの選択順を示している。なお、調整完了時データ904と、妥当性評価905とは、別途、モデル妥当性評価部708や調整モデル提示部809が保持してもよい。
図9Bは、本発明の第5実施形態に係る置換順序データ807aの第2構成807a−2を示す図である。
図9Bは、ブラックボックスに置換する部位が部位モデルのみでなく、その部位モデル内の一部である場合も含む例を示している。図9Bに示す例では、図3Bにおける各サーバのブラックボックスへの置換と、係るサーバ内に含まれる要素をブラックボックスに置換する場合を示している。図9Bに示す各項目において、図9Aと同じ参照番号は同じ情報内容である。そして、図9Bにおいて追加された項目である“部位の部分”906は、同じ置換部位であるAPサーバ340の2つのCPU341とDK342とを示している。
(ブラックボックスの置換順序例)
図10は、本発明の第5実施形態に係るブラックボックスの置換順序例1000を示す図である。図10には、図3Aにおけるモジュールの選択順を示している。
図10の左側は、モジュール(部位モデル)311〜316の1つ1つを、順にブラックボックスに置換する例を表す。係る個々のモジュールを表す円(○印)内の数字順に、モジュール311〜316が置換される。図10の右側は、複数のモジュール(部位モデル)からなる組み(ペア)も処理対象として含んだ状況において、順にブラックボックスに置換する例である。即ち、この場合、モジュールの円内の数字順に、1番目にモジュール311、2番目にモジュール(311,313)、3番目にモジュール313、4番目にモジュール312、5番目にモジュール315、6番目にモジュール314、そして7番目にモジュール(314,316)が置換される。
《情報処理装置のハードウェア構成》
図11Aは、本発明の第5実施形態に係る情報処理装置800のハードウェア構成を示すブロック図である。
図11Aにおいて、CPU1110は演算制御用のプロセッサであり、プログラムを実行することで図8に示す各機能構成を実現する。ROM1120は、初期データおよびプログラムなどの固定データおよびプログラムを記憶する。通信制御部201は、ネットワークを介して性能予測対象システムと通信する。
RAM1140は、CPU1110が一時記憶のワークエリアとして使用するランダムアクセスメモリである。RAM1140には、本実施形態の実現に必要なデータを記憶する領域が確保されている。なお、図11Aにおいて、上述した第2実施形態において説明した図4と同様なデータには、同じ参照番号を付し、本実施形態における説明は省略する。
図11Aに示すRAM1440の内部には、更に、置換部位モデル1145および妥当性評価1449が一時記憶されている。この置換部位モデル1145は、現在(即ち、現時点において)ブラックボックスに置き換えられている部位モデルを表す情報である。妥当性評価1449は、ブラックボックスの調整が完了した後のシステムモデルの妥当性評価を表す情報である。
ストレージ1150は、データベースや各種のパラメータ、あるいは本実施形態の実現に必要な以下のデータまたはプログラムが記憶されている。なお、上述した第2実施形態において説明した図4と同様なデータには、同じ参照番号を付し、本実施形態における説明は省略する。1151は、本実施形態のシステムモデルDB(図11B参照)を示す。ストレージ1150には、以下のプログラムが格納される。1155は、全体の処理を実行させる情報処理プログラムを示す。1057は、ブラックボックスに置換する部位モデルを順に選択する機能を実現する調整部位選択モジュールを示す。
なお、図11Aには、本実施形態に必須なデータやプログラムのみが示されており、OSなどの汎用のデータやプログラムは図示を省略している。
(システムモデルDB)
図11Bは、本発明の第5実施形態に係るシステムモデルDB1151の構成を示す図である。本実施形態のシステムモデルDB1151は、上述した図4Bに示すシステムモデルDB451のデータ(481〜485)に加えて、システムモデルに対応するブラックボックス置換順序1186が記憶され、置換順序データ807aとして使用される。
《情報処理装置の制御手順》
図12は、本発明の第5実施形態に係る情報処理装置の制御手順を示すフローチャートである。図11Aに示した情報処理装置800において、CPU1110は、RAM1440を使用しながら、係るフローチャートに記載した手順を実行することにより、図11Aに示す各機能構成を実現する。なお、図12において、上述した第2実施形態における図5に示したフローチャートと同様な処理内容のステップ(即ち、CPU410がRAM440を参照して実行するステップ)には、同じ参照番号を付し、本実施形態における説明は省略する。
即ち、本実施形態において、CPU1110は、ステップS501において入力及び出力を計測した後、部位モデルを順番に指定する(ステップS1203)。ここで、指定する順序は、すべての部位モデルを含む必要はない。例えば、図3Aに示す例において、モジュール311を調整する必要がないということが明らかに判っている場合には、モジュール311を順序に含まずに、残りのモジュール312〜316を順番に指定してもよい。順序は、例えば、各モジュールに割り当てられた識別可能なIDのアルファベット順などと定めてもよいし、各モジュールに優先度を割り当てて、その優先度の順などと定めてもよい。即ち、本実施形態において、ステップS1203に係る処理は、モジュールの順序が一意に識別できる方法であれば、これらの例示に限定されない。調整する部位が複数になる場合には、組み合わせによって順序が定められてよい。上記のようにモジュール311が調整する必要がないことがあらかじめ分かっている場合には、残りのモジュール312〜316から組み合わせを選ぶ。
図9Bにも一部示したように、調整する部位が2つ(341,342)の部位からなる組み合わせ(ペア)の場合には、次のペアは(312,314)、その次のペアは(312,315)というように順序が定められてよい。また、順序を定める場合に、調整する部位が1つ、2つ、3つというように特定の数に固定されないまま順序を定めてもよい。この場合には、調整する部位の数の上限は、あらかじめ定められた数で打ち切ってもよい。例えば、調整する部位の数を3つまでとすれば、上記のような順序になる。
次に、CPU1110は、指定したモデルの部位モデルの一部をブラックボックスに置き換える(ステップS1205)。一例として、図3Aに示されるシステムモデル310の中のモジュール313を指定したとすると、CPU1110は、モジュール313の一部をブラックボックスに置き換える。ここで、ブラックボックスに置き換えるモジュールの一部は、システムモデル310を作成するときにあらかじめ指定されているとする。モジュールの一部は、例としては、モジュールが待ち行列の場合では処理時間、モジュールがy=a*exp(b*u)のように数式(ここで、uは入力、yは出力、a、bは係数)で表されるものの場合は、その係数、などのパラメータであってよい。
但し、本実施形態は、上記の例示に限らず、ブラックボックスへの置き換えによって、モジュールの要件である「システムの部分的な要素の模倣」から大きく逸脱しない範囲における“一部分”であればよい。一部をブラックボックスに置き換えられたモジュール313は、置き換えられる前と同様に、モジュール311から入力を受け、モジュール315に出力を与える。調整する部位が複数の場合には、各モジュールの一部をそれぞれ上記のようにブラックボックスに置き換えられる。
CPU1110は、ステップS507、ステップS509、ステップS511において、上述した実施形態と同様な処理を行う。
そしてCPU1110は、ブラックボックスが調整されたシステムモデルの妥当性を評価する(ステップS1213)。なお、ここでの評価基準については、上述した第4実施形態において説明された基準を使用することとし、本実施形態における説明は省略する。
次に、CPU1110は、ステップS1215における判断の結果、システムモデルについて次に調整する部位があればステップS1205に戻って処理を繰り返し、次に調整する部位がなければステップS1217に処理を進める。
そして、CPU1110は、ステップS1213において評価された各調整されたシステムモデルの中で妥当に調整されたモデルを提示する(ステップS1217)。本ステップにおいて、CPU1110は、最も妥当であると評価されたシステムモデルだけを提示してもよいし、妥当だと評価された順に、システムモデルをその評価値(項の数、AICの値など)と共に提示してもよい。
[第6実施形態]
次に、本発明の第6実施形態に係る情報処理システムについて説明する。上述した各実施形態においては、性能予測を行うべき対象のシステムと、そのシステムの性能予測を実行する情報処理装置とからなる構成について説明した。本実施形態に係る情報処理システムは、複数のサーバからなる性能予測を行なう性能予測システムと、複数のサーバからなる性能予測対象システムとを有する構成が、上記実施形態と異なる。本実施形態によれば、ネットワークに接続され複数のサーバからなるシステムを、複数のサーバからなるシステムで協働した性能予測が可能である。なお、本実施形態の各機能構成や動作は上記実施形態で説明したものを利用できるのでその詳しい説明を省略し、本実施形態では情報処理システムの構成のみを説明する。
《情報処理システムの構成》
図13は、本発明の第6実施形態に係る情報処理システム1300の構成を示すブロック図である。
性能予測対象システム1320は、各々がネットワーク1350に接続するWebサーバ1321と、APサーバ1322と、DBサーバ1323とからなる。性能予測システム1310は、各々がネットワーク1350に接続する性能予測サーバ1311と、システムモデルDBサーバ1312と、システムモデル実行サーバ1313とからなる。性能予測サーバ1311は、ブラックボックスの部位モデルの置換と評価を行なう。システムモデルDBサーバ1312は、システムモデルDBを管理する。システムモデル実行サーバ1313は、システムモデルによるシミュレーションを実行する。
図13に示す情報処理システム1300においては、ブラックボックスを置き換える部位モデルの選択や評価結果の報知は、ネットワーク1350に接続する性能予測指示端末1330にて行なわれる。さらに、ネットワーク1350には、種々の他の対象システム1340が接続されている。
[他の実施形態]
本発明は、性能予測を行うべき対象であるシステムについて、そのシステムの実際の振る舞い(挙動)を反映した性能予測の用途に適用可能である。例えば、情報処理システムに本発明を適用した場合においては、実際に運用しないと判らない振る舞いがある場合に、精度のよい性能予測を実現することができる。
また、本発明によれば、システム全体ではなく、システムの一部であるモジュールだけをブラックボックスに置き換え可能である。これにより、前記のシステムに類似したシステムのモデルの予測の精度も向上することが可能になる。すなわち、本発明によれば、ブラックボックスに置き換えられた部分に関しては同一であるが、その他の(ブラックボックスに置き換わっていない)モジュールのパラメータの変更などによって、前記のシステムに類似したシステムのモデルを作成することができる。この場合、既にシステムの実際の振る舞いにより調整されたブラックボックスを含んでいるので、前記のシステムに類似したシステムのモデルは、その分、予測の精度が上がっていると期待される。
特許文献3のようにシステムのモデル全体(図3Aの310)をブラックボックスに置き換える方法では、類似のシステムのモデルの予測の精度を高めることは期待できない。モデル全体をブラックボックスに置き換えると、一般には、情報処理システムのパラメータ(たとえばCPUの駆動周波数など)が、ブラックボックスにどのように反映されているか不明なため、類似のシステムのモデルを構築することはできない。しかし、本発明のように、システムの一部であるモジュールだけをブラックボックスに置き換えれば、その置き換えられたブラックボックス以外のモジュールに対しては、情報処理システムのパラメータを反映できるので、類似のシステムのモデルの構築が可能となる。
以上、本発明の実施形態について詳述したが、それぞれの実施形態に含まれる別々の特徴を如何様に組み合わせたシステムまたは装置も、本発明の範疇に含まれる。
また、本発明は、複数の機器から構成されるシステムに適用されてもよいし、単体の装置に適用されてもよい。さらに、本発明は、実施形態の機能を実現する制御プログラムが、システムあるいは装置に直接あるいは遠隔から供給される場合にも適用可能である。したがって、本発明の機能をコンピュータで実現するために、コンピュータにインストールされる制御プログラム、あるいはその制御プログラムを格納した媒体、その制御プログラムのダウンロードが可能なWWW(World Wide Web)サーバも、本発明の範疇に含まれる。
[実施形態の他の表現]
上記の実施形態の一部または全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測手段と、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換手段と、
前記調整部位置換手段によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測手段が計測した入力に対して、前記システムモデルの予測出力を算出する予測出力算出手段と、
前記入出力計測手段が計測した前記性能予測対象システムの前記出力と、前記予測出力算出手段が算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整手段と、
を備える情報処理装置。
(付記2)
前記調整部位置換手段が置き換える前記部位モデルを指定するユーザからの入力を受け付ける受付手段を備える付記1に記載の情報処理装置。
(付記3)
前記調整部位置換手段が置き換える前記部位モデルを指定する指定手段を備える付記1または2に記載の情報処理装置。
(付記4)
前記部位置換手段は、前記指定された部位モデルの一部をブラックボックスに置き換える付記1乃至3のいずれか1項に記載の情報処理装置。
(付記5)
前記部位モデルに置き換えたブラックボックスの前記モデル調整手段による調整後に、前記性能予測対象システムのシステムモデルの妥当性を評価する評価手段をさらに備える付記1乃至4のいずれか1項に記載の情報処理装置。
(付記6)
前記ブラックボックスは、学習および回帰の少なくとも何れかによって、入力に対して適当な出力を決定することができる構成であり、ニューラルネットワーク、隠れマルコフモデル、多項式関数およびノンパラメトリック回帰関数のいずれかである付記1乃至5のいずれか1項に記載の情報処理装置。
(付記7)
前記評価手段は、前記モデル調整手段による調整後の前記ブラックボックスがより単純な構成である場合、赤池情報量規準(AIC)がより小さい場合、または、ベイズ情報量規準(BIC)がより低い場合に、前記性能予測対象システムのシステムモデルの妥当性がより高いと評価する付記5または6に記載の情報処理装置。
(付記8)
前記指定手段は、あらかじめ決められた順に前記システムモデルに含まれる前記部位モデルを指定し、
前記評価手段は、各々の前記部位モデルに置き換えたブラックボックスの前記モデル調整手段による調整後に、前記性能予測対象システムのシステムモデルの妥当性を評価し、
前記情報処理装置は、前記評価手段によって妥当性がより高いと評価された前記モデル調整手段による調整後の前記性能予測対象システムのシステムモデルをユーザに提示する提示手段をさらに備える付記5乃至7のいずれか1項に記載の情報処理装置。
(付記9)
前記調整部位置換手段は、複数の前記部位モデルを1つまたは複数の前記ブラックボックスに置き換える付記1乃至8のいずれか1項に記載の情報処理装置。
(付記10)
前記性能予測対象システムのシステムモデルを、該システムモデルを構成する複数の部位モデルにより蓄積するモデル蓄積手段をさらに備える付記1乃至9のいずれか1項に記載の情報処理装置。
(付記11)
情報処理装置によって、
性能予測の対象とする性能予測対象システムの入力および出力を計測し、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整する、システム性能予測方法。
(付記12)
性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測機能と、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換機能と、
前記調整部位置換機能によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測機能によって計測した前記入力に対して、前記システムモデルの予測出力を算出する予測出力算出機能と、
前記入出力計測機能によって計測した前記性能予測対象システムの前記出力と、前記予測出力算出機能によって算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整機能と、
をコンピュータに実現させる制御プログラム。
(付記13)
情報処理装置によって、
性能予測の対象である性能予測対象システムの入力および出力を計測し、
複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整し、
前記ブラックボックスの前記調整により、前記性能予測対象システムについて計測した前記出力と、前記システムモデルの前記予測出力との差が最も小さくなった場合に、前記システムモデルについて算出した前記予測出力を、前記性能予測対象システムの性能予測結果とする、性能予測方法。
以上、上述した実施形態を模範的な例として本発明を説明した。しかしながら、本発明は、上述した実施形態には限定されない。即ち、本発明は、本発明のスコープ内において、当業者が理解し得る様々な態様を適用することができる。
この出願は、2011年6月16日に出願された日本出願特願2011−134566を基礎とする優先権を主張し、その開示の全てをここに取り込む。
100,200,600,700,800 情報処理装置
101 入出力計測部
101a 計測した入力
101b 計測した出力
102 調整部位置換部
103 予測出力算出部
103a 予測出力
104 モデル調整部
105 システムモデル
105a 部位モデル
106 置換モデル
106a ブラックボックス
110,210 性能予測対象システム(性能を予測すべき対象であるシステム)
201 通信制御部
202 入出力計測部
203 性能予測部
204 モデル調整部
205 モデル蓄積部
206 調整部位置換部
207 置換部位受付部
220,1350 ネットワーク(通信ネットワーク)
300,485 システムモデル
301,310 オリジナルのシステムモデル
302,303,320 一部をブラックボックスに置き換えたシステムモデル
311〜316 部位モデル(モジュール)
323 指定された部位モデル(ブラックボックス)
330,1321 Webサーバ
331,341,351,410,1110 CPU
332,333,342,343,352,353 記憶装置(ハードデスクドライブ:DK)
340,1322 アプリケーション・サーバ(APサーバ)
350,1323 データベース・サーバ(DBサーバ)
360 クライアント
370 ブラックボックス(B・B)
380 ブラックボックス・サーバ(B・Bサーバ)
420,1120 ROM
440,1440 RAM
450,1150 ストレージ
451 システムモデル・データベース
452 ブラックボックス・データベース
543 モデル調整アルゴリズム
454 モデル調整条件
460 入力インタフェース
461 キーボード
462 マウス
463 記憶媒体
470 出力インタフェース
471 表示部
472 プリンタ
607,807 モデル調整部位指定部
708 モデル妥当性評価部
807 置換順序データ
809 調整モデル提示部
1000 ブラックボックスの置換順序例
1300 情報処理システム
1310 性能予測システム
1311 性能予測サーバ
1312 システムモデル・データベース・サーバ
1313 システムモデル実行サーバ
1320 性能予測対象システム(性能を予測すべき対象であるシステム)
1330 性能予測指示端末
1340 他の対象システム

Claims (10)

  1. 性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測手段と、
    複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換手段と、
    前記調整部位置換手段によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測手段が計測した入力に対して、前記システムモデルの予測出力を算出する予測出力算出手段と、
    前記入出力計測手段が計測した前記性能予測対象システムの出力と、前記予測出力算出手段が算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整手段と、
    を備える情報処理装置。
  2. 前記調整部位置換手段が置き換える前記部位モデルを指定するユーザからの入力を受け付ける受付手段を備える請求項1に記載の情報処理装置。
  3. 前記調整部位置換手段が置き換える前記部位モデルを指定する指定手段を備える請求項1または2に記載の情報処理装置。
  4. 前記部位モデルに置き換えたブラックボックスの前記モデル調整手段による調整後に、前記性能予測対象システムのシステムモデルの妥当性を評価する評価手段をさらに備える請求項3に記載の情報処理装置。
  5. 前記指定手段は、あらかじめ決められた順に前記システムモデルに含まれる前記部位モデルを指定し、
    前記評価手段は、各々の前記部位モデルに置き換えたブラックボックスの前記モデル調整手段による調整後に、前記性能予測対象システムのシステムモデルの妥当性を評価し、
    前記情報処理装置は、前記評価手段によって妥当性がより高いと評価された前記モデル調整手段による調整後の前記性能予測対象システムのシステムモデルをユーザに提示する提示手段をさらに備える請求項4に記載の情報処理装置。
  6. 前記調整部位置換手段は、複数の前記部位モデルを1つまたは複数の前記ブラックボックスに置き換える請求項1乃至5のいずれか1項に記載の情報処理装置。
  7. 前記性能予測対象システムのシステムモデルを、該システムモデルを構成する複数の部位モデルにより蓄積するモデル蓄積手段をさらに備える請求項1乃至6のいずれか1項に記載の情報処理装置。
  8. 情報処理装置によって、
    性能予測の対象とする性能予測対象システムの入力および出力を計測し、
    複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
    前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
    前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整する、システム性能予測方法。
  9. 性能予測の対象である性能予測対象システムの入力および出力を計測する入出力計測機能と、
    複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換える調整部位置換機能と、
    前記調整部位置換機能によって前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記入出力計測機能によって計測した前記入力に対して、前記システムモデルの予測出力を算出する予測出力算出機能と、
    前記入出力計測機能によって計測した前記性能予測対象システムの前記出力と、前記予測出力算出機能によって算出した前記システムモデルの予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整するモデル調整機能と、
    をコンピュータに実現させる制御プログラム。
  10. 情報処理装置によって、
    性能予測の対象である性能予測対象システムの入力および出力を計測し、
    複数の部位モデルにより構成された前記性能予測対象システムのシステムモデルについて、指定された部位モデルを該部位モデルの入力と出力とに接続されたブラックボックスに置き換え、
    前記置き換えに際して、前記指定された部位モデルをブラックボックスに置き換えた前記性能予測対象システムのシステムモデルに基づいて、前記性能予測対象システムについて計測した前記入力に対して前記システムモデルの予測出力を算出し、
    前記性能予測対象システムについて計測した前記出力と、算出した前記システムモデルの前記予測出力との差がより小さくなるように、前記ブラックボックスにおける入力と出力との関係を調整し、
    前記ブラックボックスの前記調整により、前記性能予測対象システムについて計測した前記出力と、前記システムモデルの前記予測出力との差が最も小さくなった場合に、前記システムモデルについて算出した前記予測出力を、前記性能予測対象システムの性能予測結果とする、システム性能予測方法。
JP2013520625A 2011-06-16 2012-06-15 システム性能予測方法、情報処理装置およびその制御プログラム Active JP6007906B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011134566 2011-06-16
JP2011134566 2011-06-16
PCT/JP2012/065931 WO2012173283A1 (ja) 2011-06-16 2012-06-15 システム性能予測方法、情報処理装置およびその制御プログラム

Publications (2)

Publication Number Publication Date
JPWO2012173283A1 JPWO2012173283A1 (ja) 2015-02-23
JP6007906B2 true JP6007906B2 (ja) 2016-10-19

Family

ID=47357258

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013520625A Active JP6007906B2 (ja) 2011-06-16 2012-06-15 システム性能予測方法、情報処理装置およびその制御プログラム

Country Status (3)

Country Link
US (1) US20140188446A1 (ja)
JP (1) JP6007906B2 (ja)
WO (1) WO2012173283A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015083333A1 (ja) * 2013-12-04 2015-06-11 日本電気株式会社 性能予測装置、性能予測方法、及び、コンピュータ・プログラムが格納された記憶媒体
JP2015184818A (ja) * 2014-03-20 2015-10-22 株式会社東芝 サーバ、モデル適用可否判定方法およびコンピュータプログラム
US9715663B2 (en) 2014-05-01 2017-07-25 International Business Machines Corporation Predicting application performance on hardware accelerators
US20150324690A1 (en) * 2014-05-08 2015-11-12 Microsoft Corporation Deep Learning Training System
WO2018181293A1 (ja) * 2017-03-30 2018-10-04 日本電気株式会社 情報処理装置、情報処理方法、およびプログラム
US11586947B2 (en) * 2017-06-29 2023-02-21 Nec Corporation Visualization system, visualization method, and visualization program
US10795347B2 (en) * 2018-09-28 2020-10-06 Rockwell Automation Technologies, Inc. Systems and methods for controlling industrial devices based on modeled target variables
US11610110B2 (en) 2018-12-05 2023-03-21 Bank Of America Corporation De-conflicting data labeling in real time deep learning systems
CN111198808B (zh) * 2019-12-25 2023-12-22 东软集团股份有限公司 预测性能指标的方法、装置、存储介质及电子设备

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02226460A (ja) * 1989-02-28 1990-09-10 Toshiba Corp 適応型学習制御システム
JPH09134289A (ja) * 1995-11-08 1997-05-20 Toshiba Corp 推論モデル更新機能を備えた帰納推論装置及び帰納推論装置の推論モデル更新方法
JP2923874B2 (ja) * 1996-12-26 1999-07-26 日本電気株式会社 高負荷エミュレーション性能評価方法とその装置
US8510242B2 (en) * 2007-08-31 2013-08-13 Saudi Arabian Oil Company Artificial neural network models for determining relative permeability of hydrocarbon reservoirs
WO2011052147A1 (ja) * 2009-10-30 2011-05-05 日本電気株式会社 評価モデル分析システム、評価モデル分析方法およびプログラム

Also Published As

Publication number Publication date
JPWO2012173283A1 (ja) 2015-02-23
US20140188446A1 (en) 2014-07-03
WO2012173283A1 (ja) 2012-12-20

Similar Documents

Publication Publication Date Title
JP6007906B2 (ja) システム性能予測方法、情報処理装置およびその制御プログラム
EP3629553B1 (en) Method and device for service scheduling
JP5212381B2 (ja) フィードフォーワード制御方法、サービス提供品質制御装置、システム、プログラム及びその記録媒体
US11334831B2 (en) Predictive risk assessment in system modeling
US8285836B2 (en) Policy creation support method, policy creation support system, and program therefor
US11410063B2 (en) Self-intelligent improvement in predictive data models
US7444272B2 (en) Self-modulation in a model-based automated management framework
Mao et al. Search-based QoS ranking prediction for web services in cloud environments
US20160380908A1 (en) Resource Prediction for Cloud Computing
US20070022142A1 (en) System and method to generate domain knowledge for automated system management by combining designer specifications with data mining activity
CN112053042A (zh) 动态构建效能评估体系的方法、系统、计算机设备及存储介质
JP2008536218A (ja) 確率モデル作成用のコンピュータシステム
Chejerla et al. QoS guaranteeing robust scheduling in attack resilient cloud integrated cyber physical system
CN113825165A (zh) 基于时间图网络的5g切片网络拥塞预警方法及装置
CN105933138B (zh) 一种时空维度相结合的云服务可信态势评估与预测方法
Gyeera et al. Regression analysis of predictions and forecasts of cloud data center KPIs using the boosted decision tree algorithm
JP5636922B2 (ja) 性能予測装置、性能予測方法およびプログラム
CN109711555A (zh) 一种预测深度学习模型单轮迭代时间的方法和系统
WO2021181605A1 (ja) 機械学習モデル決定システム及び機械学習モデル決定方法
KR102261055B1 (ko) 클릭율 최대화를 위한 이미지 디자인 파라미터 최적화 방법 및 시스템
JP6418537B1 (ja) 説明変数に確率密度関数を適用した回帰分析によるデータ予測システム、データ予測方法、及びデータ予測プログラム
JP5532052B2 (ja) 評価モデル分析システム、評価モデル分析方法およびプログラム
Chen et al. A proactive self-adaptation approach for software systems based on environment-aware model predictive control
JP7396478B2 (ja) モデル訓練プログラム、モデル訓練方法および情報処理装置
CN112579405B (zh) 一种选取区块链基准测试程序性能评价指标的方法和系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160816

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160829

R150 Certificate of patent or registration of utility model

Ref document number: 6007906

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150