JPWO2016194051A1

JPWO2016194051A1 - 確率的システムの注目指標の統計量を最小化するパラメータセットを探索するシステム

Info

Publication number: JPWO2016194051A1
Application number: JP2017521322A
Authority: JP
Inventors: 幸二福田; 泰幸工藤
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 2015-05-29
Filing date: 2015-05-29
Publication date: 2018-03-29
Anticipated expiration: 2035-05-29
Also published as: WO2016194051A1; JP6449456B2

Abstract

システムは、評価済みパラメータセットと、評価済みパラメータセットそれぞれの注目指標の評価値と、を含む評価情報を保持し、第１パラメータセット集合のパラメータセットそれぞれについて、評価情報から第１評価済みパラメータセット集合及び対応する注目指標の評価値を選択し、第１評価済みパラメータセット集合の評価済みパラメータセットそれぞれとの距離に基づいて、第１評価済みパラメータセット集合のパラメータセットそれぞれの注目指標の評価値に対応する第１重みを算出し、選択した注目指標の評価値と、前記第１重みとに基づいて、第１パラメータセット集合の当該パラメータセットの注目指標の統計量の推定値を算出する。

Description

本発明は、確率的システムの注目指標の統計量を最小化するパラメータセットを探索するシステムに関する。

興味の対象であるシステム（系）が与えられたとき、計算機がモデル化された当該システムの振る舞いをシミュレーションすることにより、将来の振る舞いを予測する。例えば、ある種の物理現象や、多数の要素が絡み合う社会現象などは、単純な決定論的なモデルでは記述されることができず、複雑かつ確率的なモデルとして記述される。決定論的なシステムは、与えられた初期条件のもとでシステムの将来の振る舞いが一つに定まる。これに対して、確率的なシステムは、システムの将来の振る舞いはある確率分布にしたがって分布する。

確率的なシステムにおいては、ある注目する指標に関する何らかの統計量、例えば、期待値や最頻値あるいはバリュー・アット・リスク等に興味がある場合が多い。このような確率的なシステムの統計的な振る舞いを、計算機が予測、シミュレーションする方法として、モンテカルロ・シミュレーション法が知られている。モンテカルロ・シミュレーション法は、対象システムに存在する確率的な振る舞いを乱数によって模擬したシミュレーションを多数回繰り返し行うことで、注目指標に関する統計量を推定する方法である。このとき、シミュレーションの回数を増やすことで、大数の法則により、注目指標に関する統計量が真の値に近づくと考えられる。

本技術分野の背景技術として、特開２００４−１１７２２８号公報（特許文献１）がある。特許文献１には、「気象物理量を対象とした気象庁発表の長期予報を取得するデータ取得ステップ０２０１、気象物理量の従う時系列モデルを作成する気象時系列モデル作成ステップ０２０２、推定期間における推定地点の気象物理量をシミュレーション回数だけシミュレートする気象物理量シミュレーションステップ０２０３、気象物理量のシミュレーション結果を気象物理量推定結果として出力する気象物理量推定結果出力ステップ０２０４を有する。さらに、気象時系列モデル作成ステップ０２０２を、気象時系列モデルのパラメータ推定ステップ０２０２１および気象時系列モデルのパラメータ補正ステップ０２０２２から構成する。」と記載されている（要約参照）。

例えば、特許文献１に記載のシミュレーション技術における「気象時系列モデルのパラメータ」のように、一般に、モンテカルロ・シミュレーションの対象である確率的なモデルには、複数のパラメータが存在する。これ以降、考察の対象であるシステムに存在する複数のパラメータの組をパラメータセットと呼ぶ。このとき、しばしば、システムに存在する複数のパラメータの最適化を行う、すなわち、許容されるパラメータセットの範囲の中で、ある与えられた注目指標、例えば、特許文献１に記載のシミュレーション技術における推定期間における推定地点の気象物理量、に関する何らかの統計量、例えば期待値や最頻値あるいはバリュー・アット・リスク等、を最小化あるいは最大化するパラメータセットを探索したい場合がある。

特開２００４−１１７２２８号公報

決定論的なシステムにおいてパラメータ最適化を行う手法として、山登り法や準ニュートン法、あるいは、差分進化法（ＤｉｆｆｅｒｅｎｔｉａｌＥｖｏｌｕｔｉｏｎ）や粒子群最適化法（ＰａｒｔｉｃｌｅＳｗａｒｍＯｐｔｉｍｉｚａｔｉｏｎ）といった公知の手法がある。計算機が、確率的なシステムにおけるパラメータ最適化、すなわち、注目指標に関する何らかの統計量を最小化あるいは最大化するパラメータセットを探索する問題に、上述した公知の最適化手法をそのまま適用する例を説明する。

計算機は、最初に最適なパラメータセットの候補の初期値を何らかの手段、例えば、許容されるパラメータセットの範囲の中でランダムに選択する等によって定める。その後、計算機は、現在のパラメータセットの候補における最適化の目的関数の値を実験あるいはシミュレーション等により評価する処理と、評価した目的関数の値に基づいて最適なパラメータセットの候補を更新する処理と、を繰り返す。計算機は、当該処理を繰り返すことにより、逐次的に最適なパラメータセットの候補を真のパラメータセットに近づける、最適化を行う。

ここで、最適化の目的関数は、注目指標そのものではなくて、注目指標に関する統計量である。計算機は、現在のパラメータセット候補における注目指標に関する統計量を十分な精度で評価するには、現在のパラメータセット候補において注目指標を評価する処理、すなわち注目指標の評価値の算出を多数回行う。計算機は、算出された多数の評価値から統計量を推定する。

したがって、計算機は、上述した公知の最適化手法をそのまま適用して最適化処理を行う場合、パラメータセットの候補を更新するたびに、そのパラメータセットにおいて注目指標を評価する処理を多数回行う必要があるため、処理量が膨大になる。

なお、以上で述べた、確率的なシステムの注目指標の評価値の算出は、必ずしも、モンテカルロ・シミュレーション等の計算機上の処理によって行われるものではない。例えば、何らかの物理的な確率的システム、あるいは、現実世界の確率的システムを考察対象とする場合、計算機上でのシミュレーションではなく、例えば実験又は観測等による評価処理が行われる。一般に、実験および観測には多大な時間や費用がかかることを考えると、最適なパラメータセットを探索するまでに行われる実験および観測の合計回数を可能な限り減らす必要がある。

上記課題を解決するために、本発明の一態様は、例えば、以下のような構成を採用する。パラメータセットから注目指標の評価値を出力する確率的システムの前記注目指標の統計量、を最小化するパラメータセットを探索する、システムであって、プロセッサと、メモリと、を含み、前記メモリは、評価済みパラメータセットと、前記評価済みパラメータセットそれぞれの前記注目指標の評価値と、を含む評価情報を保持し、前記プロセッサは、探索処理を繰り返し、前記探索処理において、１以上のパラメータセットからなる第１パラメータセット集合を取得し、前記第１パラメータセット集合が所定の精度で収束していないと判定した場合、前記第１パラメータセット集合のパラメータセットそれぞれについて、前記評価情報から第１評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、前記第１評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第１重みを算出し、前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値と、前記第１重みとに基づいて、前記第１パラメータセット集合の当該パラメータセットの前記注目指標の統計量の推定値を算出し、前記第１パラメータセット集合から、１以上のパラメータセットからなり、前記第１パラメータセット集合と異なる新パラメータセット集合候補、を所定のアルゴリズムを用いて、生成し、前記新パラメータセット集合候補のパラメータセットそれぞれについて、前記評価情報から第２評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、前記第２評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第２評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第２重みを算出し、前記第２評価済みパラメータセット集合のパラメータセットそれぞれの注目指標の評価値と前記第２重みとに基づいて、前記新パラメータセット集合候補の当該パラメータセットの注目指標の統計量の推定値を算出し、前記第１パラメータセット集合及び前記新パラメータセット集合候補のパラメータセットそれぞれの前記注目指標の統計量の推定値の大きさ、に基づいて、前記第１パラメータセット集合と前記新パラメータセット集合候補から、１以上のパラメータセットからなる新パラメータセット集合に含めるパラメータセットを選択し、前記新パラメータセット集合を、次回の探索処理における第１パラメータセット集合として採用する、システム。

本発明の一態様によれば、パラメータセット最適化の精度を維持しつつ、処理量を削減することができる。上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。

実施例１において、パラメータセット最適化システムの全体構成の一例を表すブロック図である。実施例１において、パラメータセット最適化システムの全体処理の一例を表すフローチャートである。実施例１において、統計量の推定処理の一例を表すフローチャートである。実施例１において、統計量の推定処理の一例におけるパラメータセット間の距離の概念を説明する図である。実施例１において、統計量の推定処理のおける重み関数の一例を表す図である。実施例１において、統計量の推定処理の別の一例を表すフローチャートである。実施例１において、統計量の推定処理の別の一例における平均半径の概念を説明する図である。実施例１において、統計量の推定処理の別の一例における重み関数の一例を表す図である。実施例１において、統計量の推定処理の別の一例を表すフローチャートである。実施例１において、統計量の推定処理における経験分布関数の推定の一例を表す図である。実施例１において、公知の最適化手法を確率的なシステムのパラメータセット最適化処理に適応した場合のログ出力の一例を表す図である。実施例１において、本発明におけるパラメータセット最適化システムのログ出力の一例を表す図である。実施例１において、本発明におけるパラメータセット最適化システムの設定画面の一例を表す図である。実施例２において、６個のトランジスタで構成されるＳＲＡＭセルの回路の一例を表す回路図である。実施例３において、銀行の収支計画表の一例を表す図である。実施例３において、銀行の収益の確率分布の一例を示す図である。

以下、本発明の実施形態について述べる。本実施形態は本発明を実現するための一例に過ぎず、本発明の技術的範囲を限定するものではないことに注意すべきである。本実施形態においては、便宜上その必要があるときは、複数のセクションまたは実施形態に分割して説明するが、特に明示した場合を除き、それらは互いに無関係なものではなく、一方は他方の一部または全部の変形例、詳細、補足説明等の関係にある。

また、以下の実施形態において、要素の数等（個数、数値、量、範囲等を含む）に言及する場合、特に明示した場合および原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。

以下、本発明の実施形態を、添付図面を参照して説明する。なお、各図において、共通の構成には原則として同一の参照符号を付し、繰り返しの説明は省略する。

本実施例は、確率的なシステムにおけるパラメータセット最適化システムについて説明する。まず、本実施例のパラメータセット最適化システムがパラメータセットの最適化を実行するための理論的側面について説明する。

本実施例のパラメータセット最適化システムがパラメータセットの最適化の対象としている確率的なシステムにおいて、最適化の対象となる注目指標を確率変数Ｘで表す。以下、確率的なシステムを、単にシステムとも呼ぶ。つまり、考察対象である確率的なシステムの注目指標は確率変数Ｘでモデル化される。また、ｘはＸの実現値を表す。注目指標Ｘの分布は、システムのパラメータセットｚに依存し、さらにＸの確率密度関数が、ｆ（ｘ，ｚ）という形で表記されるとする。

以下、システムのパラメータセットｚを単にパラメータセットｚと表記する。また、確率変数Ｘがパラメータセットｚに依存していることを強調したい場合にはＸ_ｚあるいはｘ_ｚいう表記を用いる。パラメータセットｚは、Ｎ次元のベクトル（すなわち、システムの挙動はＮ個のパラメータに依存している）であり、ｚの成分は、ｚ＝（ｚ_ｉ）（ただし、ｉ＝１，…，Ｎ）であるとする。

さて、注目指標Ｘに関する何らかの統計量Ａ（ｚ）を考える。Ａ（ｚ）は、例えば、Ｘ_ｚの確率密度関数ｆ（ｘ，ｚ）をｘの関数と考えた場合における、１つの実数を返す汎関数である。ここで、Ａ（ｚ）は、パラメータセットｚの関数となることに注意する。

ｘ_ｚの期待値Ａ（ｚ）＝Ｅ［Ｘ_ｚ］、ｘ_ｚの最頻値Ａ（ｚ）＝ａｒｇｍａｘ_ｘ［ｆ（ｘ，ｚ）］、及び以下の数式で定まるＡ（ｚ）で定義されるバリュー・アット・リスク等は、いずれもＡ（ｚ）の一例である。ただし、下記数式におけるαは、許容可能なリスクの閾値を示し、たとえば、９５％（α＝０．９５）、９９％（α＝０．９９）等の値をとる。

実際に興味あるシステムについてＡ（ｚ）を検討する場合、しばしば、Ｘの確率密度関数ｆ（ｘ，ｚ）が未知であることが問題となる。しかしながら、Ｘの確率密度関数ｆ（ｘ，ｚ）自体は未知であっても、しばしば、Ｘの分布を生み出す挙動自体は既知（又はモデル化可能）である。

この場合、たとえば、パラメータセット最適化装置はモンテカルロ・シミュレーションによって、システムの挙動の実現値ｘを多数生成して、Ｘの分布、すなわち累積分布関数Ｆ（ｘ，ｚ）を経験分布によって模擬する。パラメータセット最適化装置は、Ｆ（ｘ，ｚ）から注目指標に関する統計量Ａ（ｚ）の値を近似的に算出できる。

あるいは、Ｘの分布を生み出す挙動自体が未知であっても、繰り返し同一のパラメータセットｚの下での注目指標の実現値ｘを実験によって観測できれば、パラメータセット最適化装置がＦ（ｘ，ｚ）を経験分布によって模擬することで、注目指標に関する統計量Ａ（ｚ）の値を近似的に算出できる。以下、注目指標の実現値ｘを算出することを注目指標の評価とも呼び、ｘを注目指標の評価値とも呼ぶ。

実際の応用においては、しばしば、許容されるパラメータセットの範囲内で、注目指標に関する統計量Ａ（ｚ）を最小化あるいは最大化するようなパラメータセットｚを探索したい、すなわち、パラメータセットの最適化を行いたい場合がある。なお、Ａ（ｚ）を最大化することは、−Ａ（ｚ）を最小化することと同値であるため、以下では、最小化について述べる。金融分野において、それぞれ異なるリスクおよび収益を持つ複数の資産を最適に組み合わせてポートフォリオを構成することで、期待利益あるいは９５％バリュー・アット・リスクを最大化するパラメータセットを探索することは、上記したパラメータセット最適化の一例である。

また、農業分野における施設園芸、たとえばビニールハウスを用いた栽培において、天気予報等によって予想された未来の天候の確率分布と燃料費との兼ね合いを考えて、期待利益を最大化するパラメータセットを探索することは上記したパラメータセット最適化の一例である。例えば、管理者は、探索したパラメータセットに従って、空調制御を行う。

上述した山登り法等の既存手法をそのままパラメータセット最適化に適用した場合の問題の本質は、パラメータセット最適化の処理過程で、任意に与えられたパラメータセットｚにおける注目指標Ｘ_ｚの分布関数Ｆ（ｘ，ｚ）を十分な精度で求める必要があること、である。上記の既存手法においては、パラメータセットｚにおいて多数回の評価を行ってＦ（ｘ，ｚ）を経験分布で近似することにより求めていた。

ところで、確率的なシステムにおいて、分布関数Ｆ（ｘ，ｚ）は、ｚに関して、連続あるいは少なくとも区分的に連続である場合が多い。すなわち、あるパラメータセットｚと、異なるパラメータセットｚ’との違い（例えばユークリッド距離等）が微小であるなら、それぞれの分布関数Ｆ（ｘ，ｚ）とＦ（ｘ，ｚ’）の違い（例えば任意の点にｘ_１におけるＦ（ｘ_１，ｚ）とＦ（ｘ_１，ｚ’）との間のユークリッド距離等）は微小であると考えてよい。したがって、Ｆ（ｘ，ｚ）の汎関数である統計量Ａ（ｚ）とＡ（ｚ’）の違い（例えばユークリッド距離等）も微小であると考えられる。

本実施例のパラメータセット最適化システムは、例えば、与えられたパラメータセットｚにおける、最適化の目的変数すなわち注目指標に関する統計量Ａ（ｚ）を、最適化の過程で過去に計算した異なるパラメータセットｚ’での実現値ｘ_ｚ’を用いて推定する。パラメータセット最適化システムは、上述した処理により、各パラメータセットｚにおける評価、すなわち、実験あるいはシミュレーション、の回数を大幅に減らすことができる。

ところで、「現在のパラメータセット」は、必ずしも１つのパラメータセットである必要はない。例えば、差分進化法や粒子群最適化法といった広義の進化的アルゴリズムでは、世代毎に、複数のパラメータセットからなるパラメータセット集合を評価および更新することで、パラメータセットの最適化を行う。煩雑さを避けるため、以下では、特に断らない限り、「現在のパラメータセット」には、複数のパラメータセットにより構成されるパラメータセット集合が含まれるものとする。

以下、本実施例のパラメータセット最適化システムの構成について説明する。図１は、本実施例のパラメータセット最適化システム１００の構成例を示す。パラメータセット最適化システム１００は、例えば、ＣＰＵ１０１、メモリ１０２、通信インタフェース１０３、二次記憶装置１０４、入力装置１０５、及び出力装置１０６を含む計算機上に構成される。また、図２において、パラメータセット最適化システム１００は１つの計算機から構成されているが、複数の計算機から構成されてもよい。

ＣＰＵ１０１は、プログラムに従って動作するプロセッサ及び／又は論理回路を含み、データの入力／出力、読み込み／書き込みを行い、さらに、後述する各プログラムを実行する。メモリ１０２は、ＣＰＵ１０１が実行するプログラム及びデータを一時的にロードして記憶し、さらに各プログラム及び各データを保持する。通信インタフェース１０３は、外部装置等からデータ等の入力、及び外部装置等に対してデータ等の出力を行うインタフェースである。

二次記憶装置１０４は、例えばＨＤＤ等の不揮発性の記憶装置であり、プログラム及びデータを保持する。メモリ１０２が保持するプログラムやデータの一部又は全部が二次記憶装置１０４に格納されてもよい。入力装置１０５は、例えば、マウスやキーボード等のデバイスを含み、ユーザ等からの入力を受け付ける。出力装置１０６は、プリンタやディスプレイ等のデバイスを含み、処理結果等を出力する。

プログラムはＣＰＵ１０１によって実行されることで、定められた処理をメモリ１０２及び通信インタフェース１０３等を用いながら行う。従って、本実施例及び他の実施例においてプログラムを主語とする説明は、ＣＰＵ１０１を主語とした説明でもよい。若しくは、プログラムが実行する処理は、そのプログラムが動作する計算機及び計算機システムが行う処理である。

ＣＰＵ１０１は、プログラムに従って動作することによって、所定の機能を実現する機能部として動作する。例えば、ＣＰＵ１０１は、後述する初期パラメータセット選択部２０１に従って動作することで初期パラメータセット選択の機能を果たし、後述する指標評価部２０２に従って動作することで指標評価の機能を果たす。さらに、ＣＰＵ１０１は、各プログラムが実行する複数の処理のそれぞれを実現する機能部としても動作する。計算機及び計算機システムは、これらの機能部を含む装置及びシステムである。

以下、ＣＰＵ１０１が、メモリ１０２、通信インタフェース１０３、二次記憶装置１０４等と協調して実行する各機能について説明する。メモリ１０２は、それぞれプログラムである、初期パラメータセット選択部２０１、指標評価部２０２、現在統計量推定部２０４、新規パラメータセット候補選択部２０５、新規統計量推定部２０６、パラメータセット選択部２０７、終了条件判定部２０８、及び最適化処理全体制御部２０９を含む。また、メモリ１０２はデータ等を記憶する領域である評価値記憶部２０３を含む。

最適化処理全体制御部２０９は、パラメータセット最適化システム１００全体の制御を行う。また、最適化処理全体制御部２０９は、後述するパラメータセット最適化処理全体を制御する。最適化処理全体制御部２０９は、例えば、ユーザ等が指定した注目指標および何らかの統計量についてパラメータセットの最適化処理を行う。

また、最適化処理全体制御部２０９は、終了条件判定部２０８が必要な精度で最適なパラメータセットが探索できたと判定した場合、例えば、最適化処理を終了させて処理結果を出力装置１０６に出力通知する。また、最適化処理全体制御部２０９は、パラメータセット最適化の処理途中で何らかの理由により処理が継続できなくなった場合には、処理を中断し、エラーメッセージを例えば出力装置１０６に出力する処理を行う。

初期パラメータセット選択部２０１は、予め定められた範囲から、現在のパラメータセットの初期値を、所定の手段で選択して出力する。当該所定の手段については後述する。指標評価部２０２は、現在のパラメータセットｚの入力を、初期パラメータセット選択部２０１又はパラメータセット選択部２０７から受け付け、例えば注目指標をシミュレーション等の手段によって評価して、評価結果を出力する。また、指標評価部２０２は、シミュレーション等によって当該評価を行う代わりに、評価処理の指示を外部システム又は出力装置１０６に出力してもよい。このとき、例えば、外部システム又は実験者が、当該指示に従って評価処理を行い、評価結果を指標評価部２０２に入力する。

評価値記憶部２０３は、例えば、初期パラメータセット選択部２０１又はパラメータセット選択部２０７によって入力された現在のパラメータｚと、指標評価部２０２によって入力された評価結果と、の組を記憶する。現在統計量推定部２０４は、例えば、指標評価部２０２が評価した現在のパラメータセットｚの下での評価結果と、評価値記憶部２０３が保持するｚと異なる過去のパラメータセットの下での評価結果と、から現在のパラメータセットｚにおける統計量Ａ（ｚ）の推定値Ａ^＊（ｚ）を算出して出力する。具体的な算出方法は後述する。

終了条件判定部２０８は、現在統計量推定部２０４が算出したＡ^＊（ｚ）、および、必要であれば、ｚと異なる過去のパラメータセットにおける統計量の推定値と、からパラメータセットの最適化が、例えばユーザが指定した精度で収束しているかを判定する。終了条件判定部２０８は、判定結果を最適化処理全体制御部２０９に通知する。

新規パラメータセット候補選択部２０５は、現在のパラメータセットｚ、および統計量推定部２０４が算出したＡ^＊（ｚ）をもとに、新たなパラメータセットの候補ｚＮを、予め定められた範囲から選択して出力する。

新規統計量推定部２０６は、現在および過去のパラメータセットと、現在および過去のパラメータセットにおける評価結果と、から、新規パラメータセット候補選択部２０５が出力した新たなパラメータセットの候補ｚＮにおける統計量の推定値Ａ^＊（ｚＮ）を算出して出力する。Ａ^＊（ｚＮ）の具体的な算出方法は、例えば、現在統計量推定部２０４における推定方法と同様であり、詳細は後述する。

パラメータセット選択部２０７は、例えば、現在のパラメータセットｚと現在統計量推定部２０４が出力したＡ^＊（ｚ）との組、および、新規パラメータセット候補選択部２０５が出力した新たなパラメータセットの候補ｚＮと新規統計量推定部２０６が出力したＡ^＊（ｚＮ）との組、を比較する。パラメータセット選択部２０７は、当該比較によって、新たなパラメータセット候補ｚＮを採用するか棄却するかを判定する。パラメータセット選択部２０７は、判定結果にもとづいて、新たな現在のパラメータセットｚを出力する。パラメータセット選択部２０７が出力した新たな現在のパラメータセットｚは、再び指標評価部２０２で評価されることになる。

図２は、本実施例における最適化方法の全体処理の一例を示す。初期パラメータセット選択部２０１は、予め定められた範囲から、現在のパラメータセットの初期値を何らかの手段で選択する（Ｓ２１１）。例えば、パラメータセット最適化システム１００が、あらかじめ最適なパラメータセットについての事前知識を保持していれば、初期パラメータセット選択部２０１は、当該事前知識にしたがって当該初期値を選択する。パラメータセット最適化システム１００が当該事前知識を保持していなければ、初期パラメータセット選択部２０１は、例えば、均等に又はランダムに、当該範囲から当該初期値を選択すればよい。

次に、指標評価部２０２は、現在のパラメータセットｚのもとで注目指標を評価する（Ｓ２１２）。現在のパラメータセットが集合である場合には、指標評価部２０２は各パラメータセットについて注目指標を評価する。確率的なシステムを想定しているため、指標評価部２０２が、同じパラメータセットｚのもとで評価するたびに評価値、すなわち注目指標Ｘ_ｚの実現値ｘ_ｚは毎回異なる値になることに注意する。

指標評価部２０２は、例えば、乱数を用いて確率的な挙動を模擬するモンテカルロ・シミュレーション等の手法によって、注目指標の評価を行えばよい。なお、指標評価部２０２は、現在のパラメータセットにおける指標の評価を１回のみ行ってよいし、複数回行ってもよい。指標評価部２０２は、複数回の評価を行うことで、後述するステップＳ２１３で算出される、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）の精度を高めることができる。

しかし、指標評価部２０２が現在のパラメータセットｚを用いて複数回の評価を行う場合、その分、最適化処理全体の評価回数が増えてしまう。一般的には、パラメータセットの最適化処理全体の評価回数を一定に保った上で、最適化の精度を高めることためには、各パラメータセットにおける評価は１回のみとするのが最良であることが多い。ここで精度とは、例えば、推定値Ａ^＊（ｚ）の確率９５％における信頼区間の幅を意味し、信頼区間が狭いほど精度は高い。

また、指標評価部２０２は、後述するステップＳ２１３で算出される統計量の推定値Ａ^＊（ｚ）の精度をもとに、ステップＳ２１２における評価回数を適応的に変えてもよい。具体的には、例えば、ステップＳ２１３で算出されたＡ^＊（ｚ）の精度が所定の精度に達していなければ、再びステップＳ２１２に戻って指標評価部２０２は注目指標の評価を行い、Ａ^＊（ｚ）の精度が必要な精度に達するまで繰り返してもよい。

評価値記憶部２０３は、現在のパラメータセットと注目指標の評価結果との組み合わせを記憶する。また、外部システムがシミュレーション等により、又は実験者が実験によりステップＳ２１２における評価処理を行ってもよい。

次に、現在統計量推定部２０４は、ステップＳ２１２で算出された現在のパラメータセットｚの下での評価結果、すなわちＸ_ｚの実現現値ｘ_ｚと、ｚと異なる過去のパラメータセットの下での評価結果と、の一部又は全部に基づいて、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）を算出する（Ｓ２１３）。

なお、現在統計量推定部２０４は、Ａ^＊（ｚ）の算出において、現在のパラメータセットｚの下での評価結果を用いなくてもよい。また、現在統計量推定部２０４は、Ａ^＊（ｚ）の算出において、例えば、過去のパラメータセットのうち、採用された順番が新しい順に所定個数のパラメータセットを選択して用いてもよい。

なお、現在統計量推定部２０４は、パラメータセットの初期値ｚにおけるＡ^＊（ｚ）を算出する際には、過去の評価結果が評価値記憶部２０３に蓄積されていないため、Ｘ_ｚの実現現値ｘ_ｚからＡ^＊（ｚ）を算出する。

なお、現在統計量推定部２０４は、ステップＳ２１３において、Ａ^＊（ｚ）そのものではなく、Ａ^＊（ｚ）を導出可能な別の量あるいは関数を推定してもよい。具体的には、現在統計量推定部２０４は、例えば、統計量Ａ（ｚ）ではなく、注目指標Ｘの分布関数Ｆ（ｘ，ｚ）を推定してもよい。この場合、現在統計量推定部２０４は、推定分布関数Ｆ^＊（ｘ，ｚ）からＡ^＊（ｚ）を計算することができる。

以下、特に言及しない限り、Ａ^＊（ｚ）を算出するという言葉を使う場合に、Ａ^＊（ｚ）を導出可能な別の量あるいは関数を算出する場合を含むものとする。Ａ^＊（ｚ）の具体的な算出方法については、図３等を用いて後述する。なお、評価値記憶部２０３は、現在のパラメータセットとＡ^＊（ｚ）との組み合わせを、記憶する。

次に、終了条件判定部２０８は、現在のパラメータセットおよびステップＳ２１３で算出されたＡ^＊（ｚ）、および、必要であれば、過去の異なるパラメータセットにおける統計量の推定値、を用いてパラメータセットの最適化が、例えばユーザが指定した精度で収束しているかを判定する（Ｓ２１４）。

現在のパラメータセットが集合である場合には、終了条件判定部２０８は、例えば、以下に述べる方法を用いて収束判定を行う。終了条件判定部２０８は、例えば、集合内のパラメータセット間の距離を、２乗平均平方根あるいはマハラノビス距離等で定義して、現在のパラメータセット集合のパラメータセットのばらつきの大きさを計算する。終了条件判定部２０８は、例えば、計算したばらつきが例えばユーザが指定した閾値以下である場合には、パラメータセットが収束したと判定し、ばらつきが当該閾値を超える場合には、収束していないと判定する。

また、終了条件判定部２０８は、最適化の過程でのばらつきの減少が飽和した場合に、具体的には例えば、前回のパラメータセットのばらつきと現在のパラメータセットのばらつきとの差が所定の閾値以下である場合に、収束したと判定し、当該減少が飽和していない場合に収束していないと判定してもよい。

また、終了条件判定部２０８は、各パラメータセットにおける統計量の推定値Ａ^＊（ｚ）を勘案したパラメータセット間の距離を用いて収束判定を行ってもよい。終了条件判定部２０８は、当該距離を用いることによって、最適化の目的関数である統計量Ａ（ｚ）が最適値の周りでｚに対して急激に変化している場合であっても、高精度に収束判定ができる。なお、ステップＳ２１４における判定にＡ^＊（ｚ）が用いられない場合、ステップＳ２１３とステップＳ２１４の順序を入れ替えてもよい。

また、現在のパラメータセットが１個のパラメータセットのみである場合、終了条件判定部２０８は、例えば、現在のパラメータセットｚと、ｚと異なる過去のパラメータセットのうち直近に採用されたパラメータセットと、の距離を計算する。終了条件判定部２０８は、例えば、計算した距離が所定の閾値以下であればパラメータセットが収束したと判定し、計算した距離が当該所定の閾値を超えていれば収束していないと判定する。

パラメータセットの最適化が収束している場合（Ｓ２１４：Ｎｏ）、最適化処理全体制御部２０９は最適化処理を終了し、例えば、現在のパラメータセットｚを示す情報を出力装置１０６に出力する。現在のパラメータセットが集合である場合は、最適化処理全体制御部２０９は、例えば、当該集合を示す情報を出力装置１０６に出力してもよいし、当該集合のパラメータセットの重心を含む所定サイズの領域を示す情報を出力装置１０６に出力してもよい。パラメータセットの最適化が収束していない場合（Ｓ２１４：Ｙｅｓ）、ステップＳ２１５に進む。

次に、新規パラメータセット候補選択部２０５は、現在のパラメータセットｚおよびステップＳ２１３で算出されたＡ^＊（ｚ）をもとに、新たなパラメータセットの候補ｚＮを、所定の範囲から選択する（Ｓ２１５）。新規パラメータセット候補選択部２０５は、例えば、山登り法や準ニュートン法、あるいは、差分進化法や粒子群最適化法といった手法を用いてｚＮを選択する。

最適化の目的関数、すなわち、注目指標に関する統計量Ａ（ｚ）が、ｚに対して滑らかで単峰的であれば、新規パラメータセット候補選択部２０５は、例えば、山登り法や準ニュートン法などの手法を用いるのが望ましい。また、ｚに対して急激に変化する場所がある場合や多峰的である場合には、新規パラメータセット候補選択部２０５は、差分進化法や粒子群最適化法といった広義の進化的最適化法、あるいは、焼きなまし法やタブーサーチなどの手法を用いるのが望ましい。

次に、新規統計量推定部２０６は、例えば、現在および過去のパラメータセットとその評価結果との組の一部又は全部に基づいて、ステップＳ２１５で選択された新たなパラメータセットの候補ｚＮにおける統計量の推定値Ａ^＊（ｚＮ）を算出する（Ｓ２１６）。新規統計量推定部２０６は、例えば、ステップＳ２１３と同様の方法を用いてＡ^＊（ｚＮ）を算出すればよく、その具体的な算出方法は、図３等を用いて後述する。

次に、パラメータセット選択部２０７は、ステップＳ２１３で算出されたＡ^＊（ｚ）と、ステップＳ２１６で算出されたＡ^＊（ｚＮ）と、を比較して、新たなパラメータセット候補ｚＮを採用するか棄却するかを判定する（Ｓ２１７）。パラメータセット選択部２０７は、判定結果にもとづいて、現在のパラメータセットを更新する。

以下、ステップＳ２１７の判定方法について述べる。パラメータセット選択部２０７は、例えば、Ａ^＊（ｚＮ）が、Ａ^＊（ｚ）よりも小さい場合には、新たなパラメータセットｚＮを採用し、Ａ^＊（ｚＮ）が、Ａ^＊（ｚ）よりも大きい場合には、ｚＮを棄却し現在のパラメータセットｚを再び採用する。また、パラメータセット選択部２０７は、０以上の実数ａに対して、Ａ^＊（ｚＮ）がＡ^＊（ｚ）のａ倍より小さい場合に、ｚＮを採用し、Ａ^＊（ｚＮ）がＡ^＊（ｚ）のａ倍より大きい場合に、ｚＮを棄却しｚを再び採用してもよい。この場合、aが１未満であるなら新たなパラメータセットｚＮが採用されにくくなり、ａが１より大きければ新たなパラメータセットｚＮが採用されやすくなるため、最適化の効率が変化する。

また、パラメータセット選択部２０７は、例えば、Ａ^＊（ｚＮ）とＡ^＊（ｚ）との比が、計算機内で発生させた乱数よりも小さい場合に、ｚＮを採用し、大きい場合にｚＮを棄却しｚを再び採用する、乱択アルゴリズムを用いて判定を行ってもよい。パラメータセット選択部２０７において乱数を用いた判定を行うことにより、最適化処理の初期値による影響が排除されやすくなるため、パラメータ最適化が初期値によらず安定的に行える。

パラメータセットが集合である場合のステップＳ２１７における判定方法の一例を説明する。パラメータセット選択部２０７は、例えば、現在のパラメータセット集合及び新たなパラメータセット集合のパラメータセットそれぞれに対応する統計量の推定値を小さい順に所定個数選択する。パラメータセット選択部２０７は、例えば、当該選択した推定値に対応するパラメータセットからなる集合を新パラメータセット集合とする。

また、パラメータセット選択部２０７は、例えば、当該推定値それぞれに乱数を割り当て、割り当てられた乱数が所定値以上の推定値から、小さい順に所定個数の推定値を選択し、当該選択した推定値に対応するパラメータセットからなる集合を新パラメータセット集合としてもよい。

ステップＳ２１７における判定の結果、新たなパラメータセットｚＮが採用される場合には、パラメータセット選択部２０７は、現在のパラメータセットｚを、新たなパラメータセットｚＮに変更し（Ｓ２１８）、ステップＳ２１２に戻る。一方、ステップＳ２１７における判定の結果、新たなパラメータセットｚＮが採用されなかった場合には、パラメータセット選択部２０７は現在のパラメータセットｚを変更せずに、ステップＳ２１２に戻る。その後、パラメータセット最適化システム１００は、ステップＳ２１３による最適化処理が終了するまで、ステップＳ２１２からステップＳ２１３を繰り返し実行する。

なお、ステップＳ２１３におけるＡ^＊（ｚ）の算出方法と、ステップＳ２１６におけるＡ^＊（ｚＮ）の算出方法は、互いに異なってもよい。また、これらの算出方法は、本フローにおけるループの度に異なってもよい。

図３は、現在統計量推定部２０４が行うステップＳ２１３の処理の一例を示す。図３の例において、評価値記憶部２０３は、Ｌ個のパラメータセットｚ₁からｚ_Ｌ、及び当該Ｌ個のパラメータセットそれぞれにおける評価結果ｘ₁からｘ_Ｌを保持している。当該Ｌ個のパラメータセットは、現在のパラメータセットｚを含んでいてもよい。図３は、現在統計量推定部２０４が、ｚ₁からｚ_Ｌ、及びｘ₁からｘ_Ｌを用いて、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）を算出する処理の一例を示す。なお、図３は統計量が平均値である例を示す。

現在統計量推定部２０４は、重み計算処理を行う（Ｓ３０１）。現在統計量推定部２０４は、重み計算処理において、現在のパラメータセットｚと、評価値記憶部２０３が保持するＬ個のパラメータセットｚ₁からｚ_Ｌそれぞれと、の間の、所定の距離関数ｒ_ｋ＝ｄ（ｚ，ｚ_ｋ）で定まる距離を計算する（ただし、ｋは１以上Ｌ以下の自然数）。現在統計量推定部２０４は、計算したｒ_ｋそれぞれから、距離によって定まる関数ｗ_ｋ＝ｗ（ｒ_ｋ）によって重みそれぞれを計算する。なお、現在統計量推定部２０４は、距離関数ｄ（ｚ，ｚ_ｋ）として、例えば、ユークリッド距離、マンハッタン距離、又はチェビシェフ距離などを用いればよい。

図４は、現在統計量推定部２０４が距離ｒ_ｋを計算する処理の概念を説明する図である。図４では、現在統計量推定部２０４が、評価値記憶部２０３が保持する６個のパラメータセットｚ₁からｚ_６それぞれと、現在のパラメータセットｚと、の距離ｒ₁からｒ_６を計算する例を示す。また、距離ｒで定まる重み関数ｗ（ｒ）は、例えば、ｒについての減少関数であり、ｒが無限大でｗ（ｒ）が０に収束するような関数であるとする。

図５は、重み関数ｗ（ｒ）として１／ｒ＾α（ただしαは１より大きな実数）が用いられる例を示す。ｗ（ｒ）＝１／ｒ＾αは、自己相似な関数であり、特徴的な大きさを持たない。従って、現在統計量推定部２０４は、上述した関数を用いて重みを算出することにより、図６で後述する関数を使う場合のように、ｚ_ｋの平均半径を計算する操作を行う必要がないため、処理量を低下させることができる。

図３の説明に戻る。現在統計量推定部２０４は、Ａ^＊（ｚ）を計算する推定値計算処理を行う（Ｓ３０２）。具体的には、現在統計量推定部２０４は、推定値計算処理において、Ｌ個の重みｗ₁からｗ_Ｌの総和Ｗを計算する。続いて、現在統計量推定部２０４は、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）を、ｘ_ｋそれぞれに対応する相対重みｗ_ｋ／Ｗをかけて総和することにより算出する。

現在統計量推定部２０４は、以上の処理により、つまりパラメータセットｚ_ｋにおける評価値ｘ_ｋに重みを付与した値を用いて、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）を算出することができる。なお、図３は、統計量が平均値である例を示しているが、他の統計量の推定値を算出する場合には、ステップＳ３０２の数式を重み付きの当該統計量を算出する数式に変更すればよい。

図６は、現在統計量推定部２０４が行うステップＳ２１３の統計量推定処理の別の一例を示す。図６の例において、評価値記憶部２０３が保持する情報等の前提条件は図３の例と同様である。なお、図６は統計量が平均値である例を示す。

現在統計量推定部２０４は、Ｌ個のパラメータセットｚ_１からｚ_Ｌの平均半径ｒ_ｍを計算する（Ｓ６０１）。具体的には、現在統計量推定部２０４は、例えば、Ｌ個のパラメータセットの重心ｚ_ｍを計算する。続いて、現在統計量推定部２０４は、ｚ_ｍと各パラメータセットｚ_ｋ（ｋは１以上Ｌ以下の自然数）との距離の２乗平均を計算することで、平均半径ｒ_ｍを計算する。

図７は、複数のパラメータセットの重心ｚ_ｍおよび平均半径ｒ_ｍの概念を説明する図である。図７の白色の各点は、Ｌ個のパラメータセットそれぞれを示し、黒色の点は重心ｚ_ｍを示す。

図６の説明に戻る。続いて、現在統計量推定部２０４は、図３と同様の方法で距離ｒ_ｋそれぞれを算出する。さらに現在統計量推定部２０４は重みｗ_ｋそれぞれを計算する（Ｓ６０２）。図６の例における重みｗ_ｋは、ｒ_ｋだけでなく、平均半径ｒ_ｍにも依存している、即ち重みを算出する関数はｗ（ｒ_ｋ；ｒ_ｍ）の形をしている。続いて、現在統計量推定部２０４は、ステップＳ３０２と同様の方法で、Ａ^＊（ｚ）を計算する推定値計算処理を行う（Ｓ６０３）。

図８は、重み関数ｗ（ｒ）＝ｗ（ｒ；ｒ_ｍ）として、ガウス関数ｅｘｐ（−ｒ_ｋ＾２／２ｒ_ｍ＾２）が用いられる例を示す。ガウス関数は、自己相似ではない。また、ガウス関数は、関数の大きさ（スケール）を特徴づけるパラメータ（図８の例では平均半径ｒ_ｍ）を含む。また、ガウス関数は、図５の関数ｗ（ｒ）＝１／ｒ＾αと異なって、ｒ＝０でもｗ（ｒ）が無限大に発散しない。

従って、現在統計量推定部２０４はガウス関数を用いて重みを算出することにより、ｚ_１からｚ_Ｌに、与えられたパラメータセットｚと全く同じ、あるいは非常に近いパラメータセットが含まれている場合、即ちｒが０、あるいは０に非常に近い場合であっても、統計量推定処理を安定して行うことができる。

図９は、現在統計量推定部２０４が行うステップＳ２１３の統計量推定処理の別の一例を示す。図９の例において、評価値記憶部２０３が保持する情報等の前提条件は図３の例と同様である。

図９の例において、現在統計量推定部２０４は、Ｌ個のパラメータセットにおける評価結果ｘ₁からｘ_Ｌから、現在のパラメータセットｚにおける統計量の推定値Ａ^＊（ｚ）を直接算出するのではなく、まず、ｚにおける注目指標Ｘの推定分布関数Ｆ^＊（ｘ，ｚ）を算出する。現在統計量推定部２０４は、算出したＦ^＊（ｘ，ｚ）を用いてＡ^＊（ｚ）を計算する。

現在統計量推定部２０４は、まず、例えば、ステップＳ３０１と同様の方法で、与えられたパラメータセットｚと、評価値記憶部２０３が保持するＬ個の各パラメータセットｚ_ｋと、の距離ｒ_ｋを算出し、距離ｒ_ｋから重みｗ_ｋそれぞれを計算する（Ｓ９０１）。

次に、現在統計量推定部２０４は、各重みｗ_ｋの総和Ｗを計算し、相対重みｗ_ｋ／Ｗを用いてＦ^＊（ｘ，ｚ）を算出する（Ｓ９０２）。具体的には、現在統計量推定部２０４は、評価値ｘ_ｋを閾値とするステップ関数Ｕ（ｘ−ｘ_ｋ）の重み付き総和として、Ｆ^＊（ｘ，ｚ）を算出する。ただし、Ｕ（ｘ）は単位ステップ関数である。

図１０は、分布関数推定処理の概念を説明する図である。図１０の例では、評価値記憶部２０３が６個のパラメータセットｚ₁からｚ_６及び各パラメータセットの注目指標の評価値ｘ₁からｘ_６を保持している。図１０は、ｘ₁からｘ_６の大小関係がｘ_３＜ｘ₁＜ｘ_６＜ｘ_２＜ｘ_５＜ｘ_４であった場合における推定分布関数Ｆ^＊（ｘ；ｚ）の例を示す。

Ｆ^＊（ｘ，ｚ）は、各ｘ_ｋにおいて高さｗ_ｋ／Ｗのステップを有している。なお、ここで説明した分布関数の推定処理は、経験分布関数の推定において、重みｗ_ｋ／Ｗを用いた重み付けの処理を付加したものとなっている。また、現在統計量推定部２０４は、図３に示した重みではなく、例えば、図６で説明したガウス関数などの特徴的なスケール（大きさ）を持つ関数を重み関数として用いて分布関数を推定してもよい。この場合、現在統計量推定部２０４は、例えば、図６で説明したように、当該スケールとして平均半径ｒ_ｍを用いればよい。

図９の説明に戻る。現在統計量推定部２０４は、分布関数推定処理において推定されたパラメータｚにおける推定分布関数Ｆ^＊（ｘ，ｚ）から、統計量の推定値Ａ^＊（ｚ）を計算する（Ｓ９０３）。現在統計量推定部２０４は、真の分布関数Ｆ（ｘ，ｚ）から統計量Ａ（ｚ）を算出する計算において、例えば、真の分布関数Ｆ（ｘ，ｚ）のかわりに推定された分布関数Ｆ^＊（ｘ，ｚ）を用いることによりＡ^＊（ｚ）を計算すればよい。

現在統計量推定部２０４は、図９で説明した方法において、与えられたパラメータセットｚにおける推定分布関数Ｆ^＊（ｘ，ｚ）を求め、Ｆ^＊（ｘ，ｚ）からＡ^＊（ｚ）を算出している。従って、重み付き評価値から統計量を直接的に推定する具体的な実現方法（例えばステップＳ３０２に示した平均を直接推定する数式）がわからない場合であっても、現在統計量推定部２０４はＡ^＊（ｚ）を算出することができる。また、現在統計量推定部２０４が分布関数の近似関数Ｆ^＊（ｘ，ｚ）を用いてＡ^＊（ｚ）を算出する方法は、例えば、統計量Ａ（ｚ）が注目指標ｘの最頻値（モード）である場合などにおいて、Ａ^＊（ｚ）を直接推定する方法よりも精度が高い。

なお、図３から図９を、ステップＳ２１３における現在統計量推定処理の説明として記載したが、例えば、下記の読み替えを行うことにより、当該説明をステップＳ２１６の新規統計量推定処理の説明として読み替えることができる。例えば、現在統計量推定部２０４を新規統計量推定部２０６と、現在のパラメータセットｚを新たなパラメータセットの候補ｚＮと、それぞれ読み替えればよい。

図１１は、従来の最適化方法、すなわち、山登り法や準ニュートン法あるいは差分進化法や粒子群最適化法といった公知の最適化手法をそのまま確率的なシステムにおけるパラメータセットの最適化に適用した場合の指標評価の履歴の一例を示す。履歴内のＣｏｕｎｔは指標評価処理の延べ回数を、ＰｏｉｎｔＣｏｕｎｔは同一パラメータセットにおける評価回数を、ｚ１およびｚ２はパラメータセットｚの要素の値を、ＥｖａｌｕａｔｅｄＶａｌは注目指標の評価値ｘ_ｚの値を示す。

前述したように、計算機は、確率的なシステムにおけるパラメータ最適化に従来の最適化方法をそのまま適用する場合、注目指標に関する統計量Ａ（ｚ）を十分な精度で算出するために、各パラメータセットについて評価処理を多数回繰り返して行うて、必要がある。履歴は、同一のパラメータセットについて１００回ずつ評価した評価値を含む。さらに、履歴は１００回の評価結果から算出された平均値を含み、当該算出された平均値が当該パラメータセットにおける統計量の推定値Ａ^＊（ｚ）として用いられる。

図１２は、本実施例の最適化手法を用いた場合の指標評価の履歴の一例を示す。当該履歴は例えば、出力装置１０６に出力される。図１２の履歴は、Ｃｏｕｎｔ、ｚ１、ｚ２、ＥｖａｌｕａｔｅｄＶａｌ、及び注目指標の評価値ｘ_ｚにおける統計量の推定値Ａ^＊（ｚ）を示すＥｓｔｉｍａｔｅｄＶａｌを含む。Ｃｏｕｎｔ、ｚ１、ｚ２、及びＥｖａｌｕａｔｅｄＶａｌが示す情報は図１１と同様である。

本実施例のパラメータセット最適化システム１００は、各パラメータセットにおける評価を１回（又は従来の最適化方法をそのまま適用した場合に比べて少ない回数）行う。図１２の履歴の例は、各パラメータセットにおける評価値１つに対して、１つのＡ^＊（ｚ）が表示されている点、及びＣｏｕｎｔの度にパラメータセットが変わっている点において、図１１の履歴と異なる。

図１３は、本実施例におけるパラメータセット最適化処理システムのユーザインタフェースの一例である。ユーザインタフェース１３００は、例えば出力装置１０６に表示され、最適化の対象を指定するための最適化対象設定セクション１３１０と、最適化の処理条件を表示するための最適化条件設定セクション１３２０と、を含む。ユーザは、例えば、入力装置１０５を介して、各セクションに最適化の対象および条件を入力する。

最適化対象設定セクション１３１０は、例えば、最適化対象モデル指定セクション１３１１、注目指標指定セクション１３１２、チェックボックス１３１３、パラメータセット指定セクション１３１４、および統計量指定セクション１３１５を含む。最適化対象モデル指定セクション１３１１は、最適化の対象であるシミュレーションモデルの指定を受け付ける。注目指標指定セクション１３１２は、シミュレーション結果から最適化の注目指標Ｘの実現値ｘを計算する方法の指定を受け付ける。

パラメータセット指定セクション１３１４は、最適化の対象である１または複数のパラメータであるパラメータセットｚの指定を受け付ける。チェックボックス１３１３は、最適化対象モデルに含まれるすべてのパラメータを最適化対象に指定するためのチェックボックスである。

統計量指定セクション１３１５は、注目指標Ｘの分布から算出される統計量Ａ（ｚ）の種類の指定を受け付ける。期待値、最頻値、あるいは、バリュー・アット・リスク等は、統計量指定セクション１３１５において指定される統計量の種類の一例である。また、統計量指定セクション１３１５は、例えば、注目指標Ｘの分布から統計量指標を算出する数式の入力を受け付けてもよい。

最適化条件設定セクション１３２０は、例えば、最適化手法指定セクション１３２１、モデル評価回数指定セクション１３２２、計算時間指定セクション１３２３、信頼度指定セクション１３２４、及び信頼区間半径指定セクション１３２５を含む。最適化手法指定セクション１３２１は、例えば、山登り法や準ニュートン法、差分進化法や粒子群最適化法、等の手法の指定を受け付ける。また、最適化手法指定セクション１３２１は、最適化手法が記述されたプログラム等の指定を受け付けてもよい。

モデル評価回数指定セクション１３２２は、最適化処理全体におけるモデルの評価すなわちシミュレーションの延べ回数の指定を受け付ける。計算時間指定セクション１３２３は、最適化処理にかける最大時間の指定を受け付ける。なお、モデル評価回数と計算時間は比例関係にあるため、どちらか一方を指定すると他方は自動的に定まる。したがって、ユーザはモデル評価回数指定セクション１３２２あるいは計算時間指定セクション１３２３の一方の値のみを指定することが可能であり、他方のセクションはパラメータセット最適化システム１００が算出した値を表示してもよい。

信頼度指定セクション１３２４及び信頼区間半径指定セクション１３２５は、最適化の目標精度を決定するための情報の指定を受け付ける。図１３の例では、本システムによる最適化処理の結果得られた最適パラメータセットを中心として、信頼区間半径指定セクション１３２５において指定された信頼区間半径すなわち１０^−５、の球の中に、真に最適なパラメータセットが存在する確率が、信頼度指定セクション１３２４において指定された信頼度すなわち９５％以上という条件を示す。

なお、モデル評価回数と計算時間からなる組と、信頼度と信頼区間半径からなる組と、の間において、一方を定めると他方は自動的に定まるという関係にある。したがって、ユーザは、この２つの組のどちらか一方のみを指定することができる。このとき、他方のセクションの組はパラメータセット最適化システム１００が自動的に算出した目安の値を表示してもよい。

以上、本実施例のパラメータセット最適化システム１００は、最適化処理の過程で必要なパラメータセットｚにおける最適化の対象である注目指標の統計量Ａ（ｚ）を、過去に評価した異なるパラメータセットにおける注目指標の評価値、を使って推定することで、それぞれのパラメータセット候補における注目指標の評価回数は１回のみで十分となる。この結果、本実施例のパラメータセット最適化システム１００は、最適化処理における精度を維持しつつ、最適化処理全体における注目指標の評価回数の合計回数を大幅に削減し、高速な最適化処理を実現することが可能となる。

本実施例は、多数のパラメータが存在する確率的なモデルにおいて、パラメータセットの最適化を行う手段を、半導体集積回路の電子回路における製造ばらつきを考慮した設計に応用する例を説明する。

近年、半導体集積回路の微細化が進むにしたがって、集積回路を構成する個々のトランジスタの特性のばらつきが大きくなっている。集積回路を構成するトランジスタの特性ばらつきは、例えば、集積回路の製造時において、形成される回路要素の物理的なサイズ、基板に注入される不純物イオンの数、又は格子欠陥の数等の製造時に不可避的に生じる確率的な現象に起因する。つまり、当該回路は、個々のトランジスタの特性が確率的にばらつくことを想定して設計される必要がある。

したがって、トランジスタの特性のばらつきを確率分布でモデル化した上で、例えば、回路全体の特性の期待値やばらつき（分散）の大きさ、又は集積回路の歩留まり、すなわち集積回路を構成する回路全体の特性が望ましい範囲におさまる確率、等をモンテカルロ・シミュレーションによって推定することが行われる。回路設計者は、例えば、設計した回路のばらつきを考慮した特性を最適にするように設計パラメータを最適化する必要がある。

個々のトランジスタにおける設計パラメータは、例えば、ゲート幅Ｗ、ゲート長Ｌ、拡散層幅ＬＯＤ、トランジスタ間距離ＰＤＸといった、ばらつき・電力・レイアウト面積等に関係するものを１０程度含む。したがって、一般に、回路ブロックの設計パラメータの数は、回路を構成するトランジスタ数の１０倍程度になる。多数のトランジスタで構成される複雑な回路ブロックにおける設計パラメータは膨大な数となりえるため、個々の設計パラメータの最適化を人手で行うことは困難である。本実施例では、回路のばらつきを考慮した特性、たとえば、性能期待値や歩留まり、あるいは消費電力といった値を最適にするような設計パラメータを自動的に求めることで、設計の効率を大幅に向上できる。

図１４は、６個のトランジスタで構成されるＳＲＡＭセルの回路の例を示す。ＳＲＡＭセルは、通常時にはＳＲＡＭセルに記憶された値が失われないことと、記憶の書き換え時にはＳＲＡＭセルの記憶値が意図した値にきちんと書き変わること、という互いに相反する特性を満たす必要がある。

製造された集積回路における個々のトランジスタの実際のパラメータ値は、集積回路の製造時のばらつきによって設計時に指定された値にはならず、例えば、ある確率分布にしたがって分布する。その結果、例えば、通常にＳＲＡＭセルに記憶していた値が失われる、又は、記憶の書き換え時にはＳＲＡＭセルの記憶値が意図した値にきちんと書き変わらない、等の不良が起こりえる。

そこで、回路設計者は、例えば、設計パラメータ値をいろいろな値に変えてモンテカルロ・シミュレーションを行い、実際に製造されるＳＲＡＭセル回路の不良率を最小にするように設計パラメータを最適化する必要がある。以下、実施例１の確率的なシステムにおけるパラメータセット最適化の手法を当該最適化の適用する例を説明する。

本実施例におけるパラメータベクトルｚは、トランジスタの設計パラメータからなる。例えば、個々のトランジスタに１０の設計パラメータがある場合、６個のトランジスタで構成されるＳＲＡＭセル回路におけるパラメータベクトルｚは、６０次元のベクトルである。

ところで、前述のように、ＳＲＡＭ回路の特性ばらつきは、トランジスタの実際のパラメータ値が製造時にばらつくことに起因する。すなわち、トランジスタの特性を決める６０次元の設計パラメータｚに対して、実際には製造時のばらつきにより、例えば、６０次元のパラメータｙが生成される。

これを模擬するために、指標評価部２０２は、評価を行う毎に、内部で新たな乱数を発生させ、６０次元のベクトルである現在のパラメータセットｚと乱数の値ｗとから製造後の実際のパラメータ値ｙを関数ｙ＝ｙ（ｗ，ｚ）によって定める。このとき、製造後の実際のパラメータ値ｙの確率分布が、設計パラメータセットがｚであるときの、製造ばらつきを表すように、乱数ベクトルｗが従う確率密度関数ｇ（ｗ）と、関数ｙ（ｗ，ｚ）と、が定められているものとする。

指標評価部２０２は、製造後の実際のパラメータｙを定めれば、ＳＲＡＭセル回路の挙動ｘ（ｔ）を、通常の回路シミュレーションによって決定論的に定めることができる。したがって、指標評価部２０２は、パラメータｙのもとで、ＳＲＡＭ回路が良品であるか不良品であるかを定めることができる。指標評価部２０２は、ＳＲＡＭ回路が良品であれば０を、不良品であれば１を評価結果として出力する。このとき、評価結果の統計量Ａ（ｚ）をｘの期待値Ｅ［ｘ］とすれば、Ａ（ｚ）は、ＳＲＡＭセルの不良率を示す。

現在統計量推定部２０４および新規統計量推定部２０６は、指標評価部２０２が出力した、あるいは、指標評価部２０２が過去に出力して評価値記憶部２０３に記憶されているＳＲＡＭ回路の良品または不良品の判定結果より、与えられたパラメータセットｚにおける判定結果の期待値、すなわち、不良率を推定する。以上により、前述の実施例１におけるパラメータセット最適化システム１００を用いて、ＳＲＡＭ回路の不良率を最小とする設計パラメータの最適化を行うことが可能である。

以上のように、本実施例のパラメータセット最適化システム１００は、多数のトランジスタで構成される半導体集積回路の電子回路における、製造ばらつきを考慮した設計パラメータ値の最適値を効率的に求めることができる。

本実施例は、確率的なシステムにおけるパラメータセットの最適化手段を、金融分野、とくに、銀行の収益最適化に適用した例を説明する。

金融機関においては、通常四半期毎に、取り扱っている金融商品の将来の取扱高の目標について事業計画を立案する。金融機関に限らず営利企業の目的は限られた資産あるいはその他のリソースをもとにできるだけ多くの収益をあげることであり、事業計画の立案は、すなわち、最大の収益をあげるように、保有する資産あるいその他のリソースをどこに配分するかを決めるという最適化問題である。

図１５は、銀行における収支計画表の例を示す。収支計画表の最左列は、当該銀行における取扱金融商品の科目を示す。取扱金融商品の科目は、例えば、企業向けの事業融資、個人向けの住宅ローン貸付、カードローン貸付、および銀行が自ら保有している有価証券配当について、それぞれＡからＣまでの３区分の科目を含む。

実際の銀行においては、数千程度の金融商品の科目を保有することがある。表の各行は、最上行に示される期間における、金融商品の科目それぞれについての取扱高を示す。例えば、現時点が２０１４年２Ｑ終了時とすれば、‘１４／１Ｑおよび‘１４／２Ｑの取扱高は実績値を示し、‘１４／３Ｑ以降の取扱高は現時点（２０１４年２Ｑ終了時点）における計画値を示す。図１５の例では四半期単位で計８期間についての計画の例を示しているが、実際の銀行においては、例えば、月単位又は週単位で５年程度の計画を立てることもあり、このとき、収支計画表は数百程度の期間を含む。

各科目における取扱高と収益との関係は、例えば、主に銀行の資金調達金利、すなわちスポットレートに依存する。スポットレートと収益の関係については、科目毎にある程度の確度をもったモデル化が可能であるのに対して、将来のスポットレートは不確定であり確率的な予測しかできない。

そこで、銀行の経営においては、例えば、モンテカルロ・シミュレーションによって収益の期待値やばらつきをシミュレーションし、事業計画の妥当性を判断する。具体的には、例えば、乱数を用いて将来のスポットレートの実現パスを生成し、各科目の計画取扱高をもとに収益値を計算し、全科目の収益を合計することで銀行全体の収益値を計算する、という処理を多数回行う。当該多数回の処理によって、与えられた事業計画の下での銀行全体の収益の期待値やばらつきを推定する。

以下、実施例１の確率的なシステムにおけるパラメータセット最適化手法を銀行の収益予測シミュレーションに適用する例を説明する。

本実施例におけるパラメータベクトルｚは、例えば、全ての科目それぞれについて未来の各期間における取扱高の計画値である。例えば、科目数は数千程度、期間は数百期間である場合、パラメータベクトルｚは十万次元程度のベクトルである。

指標評価部２０２は、評価を行う毎に、内部で新たな乱数を発生させて、将来のスポットレートの実現パスを１本生成する。指標評価部２０２は、例えば、Ｈｕｌｌ−Ｗｈｉｔｅモデル、ＣＩＲモデル、又はＢＤＴモデルなどの確率的なモデルを用いて、当該実現パスを生成する。これらのモデルは、時刻ｔ＋１でのスポットレートを、時刻ｔでのスポットレートと、（時刻ｔで新たに生成する）乱数と、に基づいて定める。その後、生成した将来のスポットレートの実現パスと、現在のパラメータセットｚ、すなわち、合計十万項目程度の取扱高の計画値と、から、銀行全体の収益を計算して出力する。

現在統計量推定部２０４および新規統計量推定部２０６は、指標評価部２０２が出力した、あるいは、指標評価部２０２が過去に出力して評価値記憶部２０３に記憶されている収益値より、与えられたパラメータセットｚにおける収益値の期待値あるいはバリュー・アット・リスクを推定する。以上の構成により、前述の実施例１におけるパラメータセット最適化システム１００を用いて、銀行全体の収益の期待値あるいはバリュー・アット・リスクを最大化するような事業計画の立案が可能となる。

図１６は、銀行の収益の確率分布の一例を示す。バリュー・アット・リスク（ＶａＲ）は、ある期間における資産価値の損失リスクを推定した値を示す。図１６の例では、最大損失がＶａＲ以下となる確率が９５％であることを示す。

以上のように、本実施例のパラメータセット最適化システム１００は、金融分野、とくに銀行の事業計画立案のプロセスを効率化することができる。

なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることも可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。

また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、ＳＳＤ（ＳｏｌｉｄＳｔａｔｅＤｒｉｖｅ）等の記録装置、または、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体に置くことができる。

また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。

Claims

パラメータセットから注目指標の評価値を出力する確率的システムの前記注目指標の統計量、を最小化するパラメータセットを探索する、システムであって、
プロセッサと、メモリと、を含み、
前記メモリは、評価済みパラメータセットと、前記評価済みパラメータセットそれぞれの前記注目指標の評価値と、を含む評価情報を保持し、
前記プロセッサは、探索処理を繰り返し、
前記探索処理において、
１以上のパラメータセットからなる第１パラメータセット集合を取得し、
前記第１パラメータセット集合が所定の精度で収束していないと判定した場合、
前記第１パラメータセット集合のパラメータセットそれぞれについて、
前記評価情報から第１評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、
前記第１評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第１重みを算出し、
前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値と、前記第１重みとに基づいて、前記第１パラメータセット集合の当該パラメータセットの前記注目指標の統計量の推定値を算出し、
前記第１パラメータセット集合から、１以上のパラメータセットからなり、前記第１パラメータセット集合と異なる新パラメータセット集合候補、を所定のアルゴリズムを用いて、生成し、
前記新パラメータセット集合候補のパラメータセットそれぞれについて、
前記評価情報から第２評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、
前記第２評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第２評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第２重みを算出し、
前記第２評価済みパラメータセット集合のパラメータセットそれぞれの注目指標の評価値と前記第２重みとに基づいて、前記新パラメータセット集合候補の当該パラメータセットの注目指標の統計量の推定値を算出し、
前記第１パラメータセット集合及び前記新パラメータセット集合候補のパラメータセットそれぞれの前記注目指標の統計量の推定値の大きさ、に基づいて、前記第１パラメータセット集合と前記新パラメータセット集合候補から、１以上のパラメータセットからなる新パラメータセット集合に含めるパラメータセットを選択し、
前記新パラメータセット集合を、次回の探索処理における第１パラメータセット集合として採用する、システム。
請求項１に記載のシステムであって、
前記プロセッサは、
前記第１パラメータセット集合のパラメータセットのばらつき、又は前記第１パラメータセット集合と、前記第１パラメータセット集合と異なる、過去の探索処理における第１パラメータセット集合と、の距離に基づいて、前記第１パラメータセット集合が前記所定の精度で収束しているか否かを判定する、システム。
請求項１に記載のシステムであって、
前記プロセッサは、前記第１パラメータセット集合のパラメータセットそれぞれについて、前記第１評価済みパラメータセット集合のパラメータセットそれぞれとの距離の逆数に基づいて、前記第１重みを算出する、システム。
請求項３に記載のシステムであって、
前記プロセッサは、前記第１重みを下記数式で表される関数で算出し、

上記数式における、ｒは前記第１パラメータセット集合の当該パラメータセットと前記第１評価済みパラメータセット集合のパラメータセットとの距離、αは１より大きい実数である、システム。
請求項１に記載のシステムであって、
前記プロセッサは、
前記第１パラメータセット集合のパラメータセットそれぞれについて、前記第１評価済みパラメータセット集合のパラメータセットそれぞれとの距離を、ガウス関数に代入した値に基づいて、前記第１重みを算出し、
前記ガウス関数は、前記第１評価済みパラメータセット集合のパラメータセットそれぞれと、前記第１評価済みパラメータセット集合の重心と、の距離の平均値に基づくスケールを有する、システム。
請求項５に記載のシステムであって、
前記ガウス関数は、下記数式で表され、

上記数式における、ｒは前記第１パラメータセットの当該パラメータセットと前記第１評価済みパラメータセット集合のパラメータセットとの距離、ｒ_ｍは前記平均値である、システム。
請求項１に記載のシステムであって、
前記プロセッサは、
前記第１パラメータセット集合のパラメータセットそれぞれについて、
前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値それぞれに基づくステップ関数と、前記第１重みと、に基づいて、前記第１パラメータセット集合の当該パラメータセットの前記注目指標が従う推定分布関数を生成し、
前記推定分布関数から、前記第１パラメータセット集合の当該パラメータセットの前記注目指標の統計量の推定値を算出する、システム。
請求項７に記載のシステムであって、
前記プロセッサは、下記数式を用いて前記推定分布関数を算出し、

上記数式における、ｚは前記第１パラメータセット集合の当該パラメータセット、Ｌは前記第１評価済みパラメータセット集合の要素数、ｘ_１乃至ｘ_Ｌそれぞれは前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値、ｗ_１乃至ｗ_Ｌそれぞれは前記ｘ_１乃至前記ｘ_Ｌそれぞれに対応する重み、Ｕは単位ステップ関数である、システム。
請求項１に記載のシステムであって、
前記プロセッサは、前記新パラメータセット集合候補のパラメータセットそれぞれについて、前記第２評価済みパラメータセット集合のパラメータセットそれぞれとの距離の逆数に基づいて、前記第２重みを算出する、システム。
請求項９に記載のシステムであって、
前記プロセッサは、前記第２重みを下記数式で表される関数で算出し、

上記数式における、ｒは前記新パラメータセット集合候補の当該パラメータセットと前記第２評価済みパラメータセット集合のパラメータセットとの距離、αは１より大きい実数である、システム。
請求項１に記載のシステムであって、
前記プロセッサは、
前記新パラメータセット集合候補のパラメータセットそれぞれについて、前記第２評価済みパラメータセット集合のパラメータセットそれぞれとの距離を、ガウス関数に代入した値に基づいて、前記第２重みを算出し、
前記ガウス関数は、前記第２評価済みパラメータセット集合のパラメータセットそれぞれと、前記第２評価済みパラメータセット集合の重心と、の距離の平均値に基づくスケールを有する、システム。
請求項１１に記載のシステムであって、
前記ガウス関数は、下記数式で表され、

上記数式における、ｒは前記新パラメータセット集合候補の当該パラメータセットと前記第２評価済みパラメータセット集合のパラメータセットとの距離、ｒ_ｍは前記平均値である、システム。
請求項１に記載のシステムであって、
前記プロセッサは、
前記新パラメータセット集合候補のパラメータセットそれぞれについて、
前記第２評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値それぞれに基づくステップ関数と、前記第１重みと、に基づいて、前記新パラメータセット集合候補の当該パラメータセットの前記注目指標が従う推定分布関数を生成し、
前記推定分布関数から、前記新パラメータセット集合候補の当該パラメータセットの前記注目指標の統計量の推定値を算出する、システム。
請求項１３に記載のシステムであって、
前記プロセッサは、下記数式を用いて前記推定分布関数を算出し、

上記数式における、ｚは前記新パラメータセット集合候補の当該パラメータセット、Ｌは前記第２評価済みパラメータセット集合の要素数、ｘ_１乃至ｘ_Ｌそれぞれは前記第２評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値、ｗ_１乃至ｗ_Ｌそれぞれは前記ｘ_１乃至前記ｘ_Ｌそれぞれに対応する重み、Ｕは単位ステップ関数である、システム。
システムが、パラメータセットから注目指標の評価値を出力する確率的システムの前記注目指標の統計量、を最小化するパラメータセットを探索する、方法であって、
前記システムは、評価済みパラメータセットと、前記評価済みパラメータセットそれぞれの前記注目指標の評価値と、を含む評価情報を保持し、
前記方法は、前記システムが探索処理を繰り返し、
前記探索処理において、前記システムが、
１以上のパラメータセットからなる第１パラメータセット集合を取得し、
前記第１パラメータセット集合が所定の精度で収束していないと判定した場合、
前記第１パラメータセット集合のパラメータセットそれぞれについて、
前記評価情報から第１評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、
前記第１評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第１重みを算出し、
前記第１評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値と、前記第１重みとに基づいて、前記第１パラメータセット集合の当該パラメータセットの前記注目指標の統計量の推定値を算出し、
前記第１パラメータセット集合から、１以上のパラメータセットからなり、前記第１パラメータセット集合と異なる新パラメータセット集合候補、を所定のアルゴリズムを用いて、生成し、
前記新パラメータセット集合候補のパラメータセットそれぞれについて、
前記評価情報から第２評価済みパラメータセット集合及び対応する前記注目指標の評価値を選択し、
前記第２評価済みパラメータセット集合のパラメータセットそれぞれとの距離に基づいて、前記第２評価済みパラメータセット集合のパラメータセットそれぞれの前記注目指標の評価値に対応する第２重みを算出し、
前記第２評価済みパラメータセット集合のパラメータセットそれぞれの注目指標の評価値と前記第２重みとに基づいて、前記新パラメータセット集合候補の当該パラメータセットの注目指標の統計量の推定値を算出し、
前記第１パラメータセット集合及び前記新パラメータセット集合候補のパラメータセットそれぞれの前記注目指標の統計量の推定値の大きさ、に基づいて、前記第１パラメータセット集合と前記新パラメータセット集合候補から、１以上のパラメータセットからなる新パラメータセット集合に含めるパラメータセットを選択し、
前記新パラメータセット集合を、次回の探索処理における第１パラメータセット集合として採用する、方法。