JP7359287B2 - 情報処理装置、制御方法及びプログラム - Google Patents

Description

本発明は、シミュレーションに関する処理を行う情報処理装置、制御方法及び記憶媒体の技術分野に関する。

シミュレーションの最適パラメータを求めるための学習を行う技術が存在する。また、特許文献１には、ボルツマンマシンの各カプラ及び各ノードの夫々の重み値及びバイアスを表すデータを得るためのシミュレーションによる量子アニーリングを実行するサンプリング装置が開示されている。

特表２０１９－５１５３９７号公報

機械学習技術を使って、観測データ、観測結果、シミュレーションパラメータの関係をモデル化し、ある観測データにマッチングするシミュレーションパラメータを求める場合、複雑なモデルでは、機械学習に十分な観測データ数を得ることが困難であった。

本発明の目的は、上述した課題を鑑み、シミュレーションパラメータを求めるための機械学習を好適に実行することが可能な情報処理装置、制御方法及び記憶媒体を提供することを主な課題とする。

情報処理装置の一の態様は、情報処理装置であって、観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段と、を有し、前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する。

制御方法の一の態様は、コンピュータにより、観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行い、前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行し、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、制御方法である。

プログラムの一の態様は、観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段としてコンピュータを機能させ、前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、プログラムである。

本発明によれば、シミュレーションパラメータを求めるための機械学習を好適に実行することができる。

第１実施形態に係る機械学習システムの構成を示す。 情報処理装置のハードウェア構成を示す。 制限ボルツマンマシンを表すイジング式を示す。 シミュレーションパラメータに関する機械学習の概要図である。 可視変数と隠れ変数との関係性をニューラルネットワークとして表現する制限ボルツマンマシンの機械学習の概要を示す。 情報処理装置及び記憶装置の機能ブロック図である。 第１実施形態において情報処理装置が実行する処理手順を示すフローチャートの一例である。 比較例における情報処理装置の構成を示す。 多層ニューラルネットワークを用いる第２実施形態における情報処理装置及び記憶装置のブロック構成図の一例を示す。 第２実施形態において情報処理装置が実行する処理手順を示すフローチャートの一例である。 第３実施形態における情報処理装置のブロック図である。 第３実施形態における情報処理装置の処理手順を示すフローチャートの一例である。

以下、図面を参照しながら、情報処理装置、制御方法及び記憶媒体の実施形態について説明する。

＜第１実施形態＞
（１－１）システム構成
図１は、第１実施形態に係る機械学習システム１００の構成を示す。機械学習システム１００は、シミュレーションの最適パラメータを求めるためのシステムであって、主に、情報処理装置１と、入力装置２と、表示装置３と、記憶装置４とを備える。

情報処理装置１は、観測データと観測結果の因果関係をモデル化してシミュレーションする場合に必要なパラメータ（「シミュレーションパラメータ」とも呼ぶ。）の最適解を算出する。ここでのシミュレーションとは、観測データに基づき予測すべき観測結果と一致するもしくは近い結果を得ることができる数式又はプログラムである。本実施形態では、情報処理装置１は、機械学習の１つである制限ボルツマンマシンの方式を用い、かつ、量子アニーリングのサンプリングを用いる。これにより、情報処理装置１は、少ないトレーニングデータ数でも最適なシミュレーションパラメータを求める。情報処理装置１は、通信網を介し、又は、無線若しくは有線による直接通信により、入力装置２と、表示装置３と、記憶装置４とデータ通信を行う。

入力装置２は、ユーザの入力を受け付けるインターフェースであり、例えば、タッチパネル、ボタン、音声入力装置などが該当する。入力装置２は、ユーザの入力に基づき生成した入力情報を情報処理装置１へ供給する。表示装置３は、例えば、ディスプレイ、プロジェクタ等であり、情報処理装置１から供給される表示情報に基づき、所定の表示を行う。

記憶装置４は、情報処理装置１が実行する処理に必要な各種情報を記憶するメモリである。記憶装置４は、情報処理装置１に接続又は内蔵されたハードディスクなどの外部記憶装置であってもよく、フラッシュメモリなどの記憶媒体であってもよい。また、記憶装置４は、情報処理装置１とデータ通信を行うサーバ装置であってもよい。この場合、記憶装置４は、複数のサーバ装置から構成されてもよい。

なお、図１に示す機械学習システム１００の構成は一例であり、当該構成に種々の変更が行われてもよい。例えば、情報処理装置１は、複数の装置から構成されてもよい。この場合、情報処理装置１を構成する複数の装置は、予め割り当てられた処理を実行し、かつ、これらの処理を実行するために必要な情報の授受を、これらの複数の装置間において行う。このように、情報処理装置１が行う一連の処理は、複数の装置により（即ちクラウドにより）実行されてもよい。

（１－２）情報処理装置のハードウェア構成
図２は、情報処理装置１のハードウェア構成を示す。情報処理装置１は、ハードウェアとして、プロセッサ１１と、メモリ１２と、インターフェース１３とを含む。プロセッサ１１、メモリ１２及びインターフェース１３は、データバス１９を介して接続されている。

プロセッサ１１は、メモリ１２に記憶されているプログラムを実行することにより、所定の処理を実行する。プロセッサ１１は、ＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、ＧＰＵ（Ｇｒａｐｈｉｃｓ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）、量子プロセッサなどのプロセッサである。

メモリ１２は、ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）などの各種の揮発性メモリ及び不揮発性メモリにより構成される。また、メモリ１２には、情報処理装置１が実行する処理を実行するためのプログラムが記憶される。また、メモリ１２は、作業メモリとして使用され、記憶装置４から取得した情報等を一時的に記憶する。なお、メモリ１２は、記憶装置４として機能してもよい。同様に、記憶装置４は、情報処理装置１のメモリ１２として機能してもよい。なお、情報処理装置１が実行するプログラムは、メモリ１２以外の記憶媒体に記憶されてもよい。

インターフェース１３は、情報処理装置１と他の装置とを電気的に接続するためのインターフェースである。例えば、インターフェース１３は、情報処理装置１と入力装置２とを接続するためのインターフェース、情報処理装置１と表示装置３とを接続するためのインターフェース、情報処理装置１と記憶装置４とを接続するためのインターフェースを含む。情報処理装置１と他の装置とを接続するためのインターフェースは、プロセッサ１１の制御に基づき記憶装置４とデータの送受信を有線又は無線により行うためのネットワークアダプタなどの通信インターフェースである。他の例では、情報処理装置１と他の装置とはケーブル等により接続されてもよい。この場合、インターフェース１３は、記憶装置４とデータの授受を行うためのＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）、ＳＡＴＡ（Ｓｅｒｉａｌ ＡＴ Ａｔｔａｃｈｍｅｎｔ）などに準拠したインターフェースを含む。

なお、情報処理装置１のハードウェア構成は、図２に示す構成に限定されない。例えば、情報処理装置１は、入力装置２又は表示装置３の少なくとも一方を含んでもよい。また、情報処理装置１は、スピーカなどの音出力装置と接続又は内蔵してもよい。

（１－３）概要説明
情報処理装置１は、可視変数と隠れ変数との関係性をニューラルネットワークとして表現する制限ボルツマンマシンを用いる。まず、制限ボルツマンマシンについて補足説明する。

図３は、制限ボルツマンマシンを表すイジング式を示す。図３に示すように、制限ボルツマンマシンは、ネットワークのノードの重みとエッジの重みで定義され、イジングモデルに分類されることから、量子アニーリングに適用可能なモデルである。即ち、学習により暫定的に求めた制限ボルツマンマシンに量子アニーリングを適用すると、その暫定状態でエネルギー的に安定したノード及びエッジの重みの値をサンプリングできる。そのサンプリングされたデータを使って学習を繰り返すことで、エネルギー的に安定した、最尤度の重みのデータセット（即ち学習モデル）を求めることが可能である。

次に、制限ボルツマンマシンを用いた最適なシミュレーションパラメータの導出について説明する。第１実施形態では、観測データ及びシミュレーションパラメータを可視変数とし、因果関係のあるシミュレーション可能な事象に影響を与える特徴量を隠れ変数とする。

まず、情報処理装置１は、実測した観測データ及び観測結果の組み合わせと、暫定的に用意されたシミュレーションパラメータとを用いて機械学習を行う。ここで、観測結果は、観測データからシミュレーションにより予測すべき正解の事象等を示す。そして、情報処理装置１は、暫定のシミュレーションパラメータによるシミュレーション結果と観測結果とが許容誤差範囲内であれば正例、そうでなければ負例とする２値分類の機械学習を行う。図４は、上記の機械学習の概要図である。図４において、「パラメータ」は、「シミュレーションパラメータ」を示す。図４に示すように、情報処理装置１は、観測データとシミュレーションパラメータとを用いたシミュレーションによりシミュレーション結果を生成する。そして、情報処理装置１は、生成したシミュレーション結果を対応する観測結果と比較し、これらが実質的に一致していれば正例、そうでなければ負例とする２値分類の機械学習を行う。

図５は、可視変数と隠れ変数との関係性をニューラルネットワークとして表現する制限ボルツマンマシンの機械学習の概要を示す。図５に示すように、制限ボルツマンマシンとは、観測可能なデータを可視層とし、そのデータの特徴を隠れ層とする２層のネットワーク構造で表現されたニューラルネットワークである。ボルツマンマシンは、構成するノードの重みとノード間のエッジの重みの総和をネットワークの持つエネルギーと定義し、そのエネルギーが最小となるノードとエッジの組合せが、最も高い頻度で発生する組合せであり、その組み合わせを求めることがモデル化である。そして、情報処理装置１は、機械学習の実行により、図５に示すニューラルネットワークの各ノードの重み及びエッジの重みを取得する。

次に、情報処理装置１は、上記ニューラルネットワークのシミュレーションパラメータを変数とし、ボルツマンマシンとしてアニーリングを適用することで、可視変数のサンプリングを行う。これにより、情報処理装置１は、隠れ層データに対応する尤もらしいシミュレーションパラメータのデータセットを得ることができる。

次に、情報処理装置１は、サンプリングで得られたシミュレーションパラメータのデータセットを使って、シミュレーションを行い、そのシミュレーション結果と観測結果との差異の有無に基づき、正例か負例かのラベルを付け、必要に応じてさらに機械学習を行う。情報処理装置１は、上記のサンプリング、機械学習を繰り返すことで、精度の良いニューラルネットワークを求めることができる。その後、情報処理装置１は、予測する対象となる観測データを可視層に設定し、かつ、隠れ層は十分に機械学習された機械学習モデルを設定したニューラルネットワークをボルツマンマシンとみなし、シミュレーションパラメータのサンプリングを行う。これにより、情報処理装置１は、最適なシミュレーションパラメータのデータセットを好適に取得することができる。

（１－４）機能ブロック
図６は、情報処理装置１及び記憶装置４の機能ブロックの一例である。情報処理装置１のプロセッサ１１は、機能的には、ニューラルネットワーク部２３と、機械学習部２４と、サンプリング計算部２５と、シミュレーション計算部２６と、最適解抽出部２７と、を有する。また、記憶装置４は、機能的には、可視変数保持部４１と、隠れ変数保持部４２とを含んでいる。なお、図６では、データ又はタイミング信号の授受が行われるブロック同士を実線により結んでいるが、データ又はタイミング信号の授受が行われるブロックの組合せは図６に限定されない。後述する他の機能ブロックの図においても同様である。

可視変数保持部４１は、可視層の各可視変数と隠れ層の各隠れ変数との関係性をニューラルネットワークとして表現する制限付きボルツマンマシンにおける可視変数に関する情報を記憶する。具体的には、可視変数保持部４１は、観測された観測データと、当該観測データから予測すべき正解を示す観測結果と、当該観測データに対応する暫定のシミュレーションパラメータとを保持する。ここで、観測データ及び観測結果は実測されたデータであり、観測データは、対応する観測結果と因果関係のあるデータである。例えば、気象予測であれば、観測データは、ある時点の対象地域での気象データ及び対象地域の地形を示すデータであり、観測結果は、一定時間後に対象地域で観測された気象データである。上記の因果関係は、シミュレーションできるものであり、シミュレーションする際の不確定要素を表す１又は複数の変数がシミュレーションパラメータとして表現される。従って、可視変数保持部４１には、上記変数の個数分のシミュレーションパラメータが可視変数として記憶されている。可視変数保持部４１は、観測データと、観測結果と、１又は複数のシミュレーションパラメータとの組合せを、後述する機械学習に用いるための学習データセットとして記憶する。また、可視変数保持部４１は、上記学習データセットとは別に、機械学習システム１００により予測を行う対象となる観測データをさらに記憶してもよい。

隠れ変数保持部４２は、可視層の各可視変数と隠れ層の各隠れ変数との関係性をニューラルネットワークとして表現する制限付きボルツマンマシンにおける隠れ変数に関する情報を記憶する。隠れ変数保持部４２が記憶する隠れ変数は、直接実測ができない状態変数であり、可視変数の組合せ計算で求められる状態の特徴を示す変数である。隠れ変数の数は、観測対象の事象に依存し、例えばヒューリスティックに定まる。

ニューラルネットワーク部２３は、可視変数保持部４１及び隠れ変数保持部４２が夫々記憶する情報に基づき、ニューラルネットワークを構成する。このニューラルネットワークは、各可視変数と、各隠れ変数とに対する重みと、これらの間の関係の重みとをパラメータとして含んでいる。なお、ニューラルネットワークのパラメータ（初期値及学習後の値を含む）に関する情報は、隠れ変数保持部４２に記憶される。

機械学習部２４は、可視変数保持部４１に記憶されたデータ又は後述するサンプリング計算部２５がサンプリングしたデータに基づき、ニューラルネットワーク部２３が構成するニューラルネットワークの機械学習を実行する。この場合、機械学習部２４は、可視変数保持部４１に学習データセットとして記憶された観測データ、観測結果、及びシミュレーションパラメータの組を学習データセットとして、ニューラルネットワーク部２３が構成するニューラルネットワークの学習を行う。この場合、機械学習部２４は、観測データとシミュレーションパラメータから算出したシミュレーション結果と、対応する観測結果との誤差評価に基づき、ニューラルネットワークのパラメータの学習を行う。そして、機械学習部２４は、観測結果とシミュレーション結果との誤差が予め設定した許容誤差範囲内であれば正例とし、上記誤差が許容誤差範囲外であれば負例として２値分類の機械学習を行う。なお、上記のシミュレーション結果は、シミュレーション計算部３６が算出してもよく、可視変数保持部４１等に予め記憶されてもよい。機械学習部２４は、学習した隠れ層のノードの重み及びエッジの重みのパラメータ等を、隠れ変数保持部４２に記憶する。

また、後述するサンプリング計算部２５によるサンプリングが行われた場合、機械学習部２４は、サンプリングされたシミュレーションパラメータをさらに用いて、ニューラルネットワークの学習を行う。この場合、機械学習部２４は、サンプリングされたシミュレーションパラメータに基づきシミュレーション計算部３６が生成するシミュレーション結果と、サンプリングの元となるシミュレーションパラメータに対応する観測結果との誤差評価を行う。そして、機械学習部２４は、誤差評価に基づき、サンプリングされたシミュレーションパラメータが正例か負例であるかのラベルを生成する。そして、機械学習部２４は、生成したラベルと、サンプリングされたシミュレーションパラメータと、サンプリングの元となるシミュレーションパラメータに対応する観測データ及び観測結果とを用いて、上述の２値分類の機械学習を行う。

サンプリング計算部２５は、機械学習部２４による機械学習の過程において、ニューラルネットワーク部２３が構成するニューラルネットワークをボルツマンマシンとみなし、エネルギー的に安定した可視層及び隠れ層の各変数をサンプリングする。なお、一般に、機械学習では、通常、多数のデータセットを用意し、機械学習が収束するまで繰り返し学習を行う。これに対し、本実施形態では、学習の収束の状態に関わらず、サンプリング計算部２５によるサンプリングの計算を行う。この場合、サンプリング計算部２５は、シミュレーションパラメータを未知の変数とし、ニューラルネットワークのパラメータ（重みのパラメータ等の構成要素）を実行済みの機械学習により得られた数値を適用する。そして、サンプリング計算部２５は、ニューラルネットワーク部２３が構成するニューラルネットワークをボルツマンマシンとみなし、量子アニーリングや疑似アニーリングを行うことで、機械学習に用いるシミュレーションパラメータを複数回取得する。これは、ニューラルネットワークのエネルギー的に安定した、最尤度となるサンプリング行うことに等しい。その後、機械学習部２４は、サンプリングしたデータセットを含めて、機械学習を行う。なお、サンプリングで得られたシミュレーションパラメータは、元のシミュレーションパラメータに対応する観測データ、観測結果に変更はないので、サンプリングで得られたシミュレーションパラメータでのシミュレーション結果と一致するかどうかの誤差評価は可能である。サンプリング計算部２５は、サンプリングで得られたシミュレーションパラメータを可視変数保持部４１に記憶する。

シミュレーション計算部２６は、可視変数保持部４１から取得した観測データに対し、シミュレーションパラメータを用いたシミュレーションを実行することで、観測データから導かれるシミュレーション結果を生成する。

また、機械学習部２４は、サンプリング計算部２５がサンプリングしたシミュレーションパラメータを用いた場合のシミュレーション計算部２６のシミュレーション結果と、対応する観測結果との比較結果が許容誤差範囲内であるか否かの誤差評価を行う。そして、機械学習部２４は、誤差評価において誤差が許容誤差範囲外と評価した場合には、さらなる機械学習を行う。この場合、機械学習部２４による機械学習、サンプリング計算部２５によるシミュレーションパラメータのサンプリング、シミュレーション計算部２６によるシミュレーションが再び繰り返される。一方、機械学習部２４は、誤差評価において誤差が許容誤差範囲内と評価した場合には、機械学習部２４による機械学習は十分になされたとみなし、機械学習が完了した旨を最適解抽出部２７に通知する。

最適解抽出部２７は、機械学習部２４から機械学習完了の通知があった場合、機械学習部２４による機械学習により得られたパラメータ等を用いて、最適なシミュレーションパラメータを抽出する。具体的には、最適解抽出部２７は、予測する対象となる観測データを可視層に設定し、かつ、隠れ層には十分に機械学習された機械学習モデルを設定したニューラルネットワークをニューラルネットワーク部２３に構成させる。そして、最適解抽出部２７は、ニューラルネットワーク部２３が構成したニューラルネットワークをボルツマンマシンとみなし、量子アニーリングや疑似アニーリングを行うことで、サンプリングを行う。これにより、最適解抽出部２７は、最尤度のシミュレーションパラメータのデータセットを好適に抽出する。

なお、図６において説明したニューラルネットワーク部２３、機械学習部２４、サンプリング計算部２５、シミュレーション計算部２６及び最適解抽出部２７の各構成要素は、例えば、プロセッサ１１がプログラムを実行することによって実現できる。より具体的には、各構成要素は、メモリ１２又は記憶装置４に格納されたプログラムを、プロセッサ１１が実行することによって実現され得る。また、必要なプログラムを任意の不揮発性記憶媒体に記録しておき、必要に応じてインストールすることで、各構成要素を実現するようにしてもよい。なお、これらの各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア、及びソフトウェアのうちのいずれかの組合せ等により実現してもよい。また、これらの各構成要素は、例えばＦＰＧＡ（field-programmable gate array）又はマイコン等の、ユーザがプログラミング可能な集積回路を用いて実現してもよい。この場合、この集積回路を用いて、上記の各構成要素から構成されるプログラムを実現してもよい。このように、各構成要素は、プロセッサ以外のハードウェアにより実現されてもよい。以上のことは、後述する他の実施の形態においても同様である。

（１－５）処理フロー
図７は、第１実施形態において情報処理装置１が実行する処理手順を示すフローチャートの一例である。情報処理装置１は、例えば、入力装置２などから供給される外部入力等に基づき、所定の実行指示を検知した場合に、図７のフローチャートを実行する。

まず、ニューラルネットワーク部２３は、観測データと観測結果とシミュレーションパラメータとの相関関係をモデル表現するニューラルネットワークの構成の設定を行う（ステップＳ００１）。ニューラルネットワークでは、可視変数および隠れた特徴を示す隠れ変数の数だけノードがあり、ノードの重み、ノード間のエッジの重みが不確定変数（即ち学習により決定すべきパラメータ）となる。ニューラルネットワークの構成に関するパラメータは、例えば隠れ変数保持部４２に記憶されている。

次に、ニューラルネットワーク部２３は、観測データと、観測結果とを可視変数保持部４１から読み込む（ステップＳ００２）。さらに、ニューラルネットワーク部２３は、読み込んだ観測データに対応する暫定のシミュレーションパラメータを可視変数保持部４１から読み込む（ステップＳ００３）。次に、シミュレーション計算部２６は、観測データとシミュレーションパラメータを使ってシミュレーションを実行することでシミューション結果を生成し、ニューラルネットワーク部２３はこのシミュレーション結果をさらに読み込む（ステップＳ００４）。この場合、シミュレーション計算部２６は、可視変数保持部４１が学習データとして記憶する１組の観測データ及び観測結果に対し、複数のシミュレーションパラメータを使って、複数のシミュレーション結果を生成する。複数の観測データ及び観測結果の組が学習データとして可視変数保持部４１に記憶されている場合、シミュレーション計算部２６は、各観測データ及び観測結果の組に対して順次同様の処理を実行する。

次に、機械学習部２４は、機械学習を実行する（ステップＳ００５）。この場合、機械学習部２４は、ニューラルネットワーク部２３が構成するニューラルネットワークに対し、観測データとシミュレーションパラメータを入力する。そして、機械学習部２４は、観測結果とシミュレーション結果が一致又は予め設定した許容誤差範囲内であれば、正例とし、観測結果とシミュレーション結果が許容誤差範囲外であれば負例として学習する。そして、機械学習部２４は、観測データとシミュレーションパラメータの入力を変更させた複数の組合せについてこの学習を実行する。機械学習部２４は、この学習を、予め設定した学習回数に達するまで、又は、セルフバリデーションの誤差が予め設定した閾値より小さくなるまで繰り返す。

次に、サンプリング計算部２５は、ボルツマンマシンの設定を行う（ステップＳ００６）。この場合、サンプリング計算部２５は、ニューラルネットワークのノード及びエッジの重みの値をステップＳ００５での学習により得られた暫定値に設定し、シミュレーションパラメータについては未確定の状態（即ち変数）とする。そして、サンプリング計算部２５は、ニューラルネットワークをボルツマンマシンとみなし、アニーリング技術を適用することで、シミュレーションパラメータのサンプリングを行う（ステップＳ００７）。これにより、サンプリング計算部２５は、ボルツマンマシンのエネルギーが最も低い状態が、最も尤もらしい状態で、未確定としたシミュレーションパラメータの数値を求める。サンプリング計算部２５は、このシミュレーションパラメータの数値を求める処理を予め決めた回数を実行し、当該回数に応じた個数のシミュレーションパラメータのサンプリングを行う。

シミュレーション計算部２６は、サンプリング計算部２５がサンプリングしたシミュレーションパラメータを使ってシミュレーションを実行することで、シミュレーション結果を生成する（ステップＳ００８）。そして、機械学習部２４は、生成したシミュレーション結果と、可視変数保持部４１が保持する対応の観測結果との比較（即ち誤差評価）を行う（ステップＳ００９）。そして、機械学習部２４は、シミュレーション結果と観測結果との差異が、あらかじめ設定した許容誤差範囲外である場合（ステップＳ０１０；Ｎｏ）、機械学習は未完了（不十分）であると判定する。この場合、機械学習部２４は、ステップＳ００５において、より多くの学習データを用いた機械学習を行う。この時、処理時間の短縮のため、機械学習部２４は、先の機械学習で作成した学習モデルをベースに追加学習を行ってもよい。この場合、好適には、機械学習部２４は、ステップＳ００７でサンプリングされたシミュレーションパラメータを用いた学習と、当該サンプリングされたシミュレーションパラメータを用いない学習とで、適切な重みとなるように、学習回数、学習率といったパラメータを、入力装置２によるユーザ入力に基づき設定するとよい。

ステップＳ０１０において、シミュレーション結果と観測結果との差異が許容誤差範囲内である場合（ステップＳ０１０；Ｙｅｓ）、情報処理装置１は、十分な精度で機械学習が行われ、機械学習が完了したとみなし、次の処理に進む。次に、最適解抽出部２７は、予測対象となる観測データを取得し、シミュレーションパラメータを未確定（変数）とし、隠れ層のノード及びエッジの重みは機械学習で得られた数値をボルツマンマシンに設定する（ステップＳ０１１）。最適解抽出部２７は、予測対象となる観測データを、可視変数保持部４１から取得してもよく、インターフェース１３を介して外部装置から取得してもよい。

そして、最適解抽出部２７は、予め決めた回数だけ、又は、予め定めた統計値（例えば、得られたサンプリングの確率分布）が得られるまで、アニーリングを実行し、シミュレーションパラメータの最適解を導出する（ステップＳ０１２）。そして、最適解抽出部２７は、最適解となったシミュレーションパラメータを可視変数保持部４１から取り出す（ステップＳ０１３）。この場合、最適解抽出部２７は、例えば、取り出したシミュレーションパラメータを、表示装置３に表示させる。

以上の処理によれば、情報処理装置１は、その適切なシミュレーションパラメータを短時間で求めることができる。具体的には、情報処理装置１は、機械学習部２４による機械学習、サンプリング計算部２５によるサンプリング、シミュレーション計算部２６によるシミュレーションを繰り返すことで、少ない（あるいは偏った）観測データしか用意がない場合であっても、精度の高い機械学習を行うことができる。また、精度の高い機械学習の実行により、機械学習のトレーニング回数が減り、従来よりも短時間で機械学習が完了することも期待できる。

（１－６）効果
第１実施形態の効果について補足説明する。

一般に、気象、風洞、流体、材料、創薬などにおけるシミュレーションパラメータの組合せは無限にあり、好適なシミュレーションパラメータを求めることは困難であった。また、シミュレーションモデルを熟知している必要があり、専門知識が必要であった。例えば、気象のシミュレーションでは、いくつかの誤差を含めたパラメータセットを事前に設定しておき、そのいくつかのパラメータセットで行ったシミュレーション結果を得て、それらの結果を有識者が比較、組み合せて検討するアンサンブル予報が行われる。上記手法では、予測は求めた範囲内となるが、最尤推定では十分な精度となっていない。その理由は、状況に応じて、最適なシミュレーションパラメータを選択できていないためである。

ある状況における最適なシミュレーションパラメータは、その状況と類似している過去の状況で、シミュレーションと観測結果が一致するようなシミュレーションパラメータを見つければよいのだが、類似している過去の状況のサンプル数が十分あるとは限らない。十分なサンプル数があれば、機械学習を使うことで、その状況に合致するシミュレーションパラメータを推定することが可能だが、サンプル数が少なければ、機械学習モデルが不正確となり、求めるシミュレーションパラメータも不正確となる。

以上を勘案し、第１実施形態では、情報処理装置１は、機械学習部２４による機械学習、サンプリング計算部２５によるサンプリング、シミュレーション計算部２６によるシミュレーションを繰り返し、学習データを適宜増やしながら機械学習を行う。これにより、少ない（あるいは偏った）観測データしか用意がない場合であっても、精度の高い機械学習を行うことができる。

また、第１実施形態に係る情報処理装置１は、サンプリングによるシミュレーションパラメータの選定後にシミュレーションを実行し、シミュレーション結果の誤差評価を元に再学習を行うため、最適なシミュレーションパラメータを得ることが可能である。この効果について、比較例を参照して説明する。

図８は、比較例における情報処理装置１Ｘの構成を示す。情報処理装置１Ｘは、情報処理装置１が有するシミュレーション計算部２６を有していない。

この場合、ニューラルネットワーク部２３Ｘは、可視変数保持部４１及び隠れ変数保持部４２が保持する変数から、ニューラルネットワークを構成する。そして、機械学習部２４Ｘは、観測データ及びシミュレーションパラメータを複数用意し、そのデータセットに対する観測データの結果とシミュレーション結果との差異、つまり一致すれば正例、一致しなければ負例と学習するように、機械学習を実行する。そして、サンプリング計算部２５Ｘは、この機械学習の収束の状態に関わらず、サンプリング計算を行う。即ち、サンプリング計算部２５Ｘは、ニューラルネットワークの構成要素は暫定の数値の状態で、いくつかの要素をマスクする。そして、サンプリング計算部２５Ｘは、ニューラルネットワークをボルツマンマシンとみなし、ここで量子アニーリングや疑似アニーリングを行うことで、マスクしなかったニューラルネットワークの要素に対して、マスクした部分のエネルギー的に安定した、最尤度となるサンプリングデータセットを得る。そして、機械学習部２４Ｘは、サンプリングしたデータセットを含めて、機械学習を行う。そして、最適解抽出部２７Ｘは、予測する対象となる観測データを可視層に設定し、かつ、隠れ層は十分に機械学習された機械学習モデルを設定したニューラルネットワークをニューラルネットワーク部２３Ｘに構成させる。そして、最適解抽出部２７Ｘは、ニューラルネットワーク部２３Ｘが構成したニューラルネットワークをボルツマンマシンとみなし、量子アニーリングや疑似アニーリングを行うことで、サンプリングを行う。これにより、最適解抽出部２７Ｘは、最尤度のシミュレーションパラメータのデータセットを抽出する。

しかしながら、比較例では、観測データが増えるわけではないので、精度のよいシミュレーションパラメータを得ることは困難であった。これに対し、第１実施形態に係る情報処理装置１は、サンプリングによるシミュレーションパラメータの選定後にシミュレーションを実行し、シミュレーション結果の誤差評価を元に機械学習を再実行する。これにより、情報処理装置１は、適切なシミュレーションパラメータを好適に得ることができる。

（１－７）変形例
第１実施形態に好適な変形例について説明する。これらの変形例は、後述の第２実施形態に適用してもよい。

（変形例１）
サンプリング計算部２５によるサンプリング処理において、サンプリング計算部２５は、可視変数となる観測データを含めて変数としてよい。この場合、機械学習部２４は、サンプリングにより得られた多様な観測データを含めて学習を行うことが可能となる。なお、この場合、サンプリングにより得られた観測データに対する観測結果は未知であるため、情報処理装置１は、シミュレーション結果が正例か負例かのラベルを付けに関する有識者等によるユーザ入力を、入力装置２により受け付ける。

（変形例２）
長期間にわたる時系列データなどを対象にすると、ネットワークの入力ノード数が膨大となる場合がある。その場合、いくつかのサブセットに分割したネットワークごとに学習を行う手法が存在する。よって、情報処理装置１は、分割したネットワーク単位で、第１実施形態において説明したサンプリング、機械学習、シミュレーションを行ってもよい。

＜第２実施形態＞
第２実施形態では、より複雑な事象を対象に予測やシミュレーションを行うため、３層以上の多層ニューラルネットワーク（ディープラーニング）を用いる。多層ニューラルネットワークを用いる場合の第１の例では、ニューラルネットワークの層のうちの１つの層を対象にサンプリング、機械学習、シミュレーションを繰り返す。多層ニューラルネットワークを用いる場合の第２の例では、１つの層を対象にサンプリング、機械学習、シミュレーションを行った後に、別の層を対象にサンプリング、機械学習、シミュレーションを行い、順番にすべての層を対象にサンプリング、機械学習、シミュレーションを行う。

（２－１）機能ブロック
図９は、多層ニューラルネットワークを用いる第２実施形態における情報処理装置１Ａ及び記憶装置４Ａのブロック構成図の一例を示す。情報処理装置１Ａは、入力装置２、表示装置３及び記憶装置４Ａとデータ通信可能であって、図２に示す情報処理装置１と同一のハードウェア構成を有する。そして、情報処理装置１Ａのプロセッサ１１は、第１ニューラルネットワーク部３１と、第１機械学習部３２と、第２ニューラルネットワーク部３３と、第２機械学習部３４と、サンプリング計算部３５と、シミュレーション計算部３６と、最適解抽出部３７と、を有する。また、記憶装置４Ａは、観測データ保持部４３と、中間変数保持部４４と、シミュレーションデータ保持部４５とを有する。

観測データ保持部４３は、学習データとなる観測データと観測結果との組を記憶する。観測データは観測結果と因果関係のあるデータであり、ある事象の要因と結果に対応し、観測データの変数の数だけ、観測データ保持部４３に保持される。

中間変数保持部４４は、後述のニューラルネットワークの中間層の変数に関する情報を記憶する。中間変数保持部４４に保持されるデータは、直接観測できない状態変数であるが、観測結果に影響を有する変数で、観測データの組合せ計算で求められる状態の特徴を示す変数である。中間層変数の数は、観測対象の事象に依存するが、ヒューリスティックに定まる。

シミュレーションデータ保持部４５は、シミュレーション計算部３６により用いられるシミュレーションパラメータ及びそのシミュレーション結果を含むデータを保持する。

第１ニューラルネットワーク部３１は、観測データ保持部４３及び中間変数保持部４４が保持する各データの重み、及び、データ間の関係の重みに関するパラメータを含むニューラルネットワーク（「第１ニューラルネットワーク」とも呼ぶ。）を構成する。第１ニューラルネットワークは、観測データ保持部４３が保持する観測データと観測結果との関係性を表すニューラルネットワークである。第１ニューラルネットワークは、３層以上有するディープラーニング型のニューラルネットワークであってもよい。第１ニューラルネットワークのパラメータは、メモリ１２又は記憶装置４Ａに記憶される。

第１機械学習部３２は、観測データ保持部４３が保持するデータを用いて第１ニューラルネットワークの機械学習を実行する。この場合、第１機械学習部３２は、観測データ保持部４３が保持するデータセットに基づき、機械学習が収束するまで繰り返し学習を行う。ここで、観測データ保持部４３が保持するデータセットを用いた機械学習が収束しない場合、後述するサンプリング計算部３５による観測データのサンプリングが行われる。この場合、第１機械学習部３２は、サンプリングしたデータセットを含めて、機械学習を行う。

第２ニューラルネットワーク部３３は、観測データ保持部４３及び中間変数保持部４４の各データの重み及びデータ間の関係の重みに関するパラメータを含むニューラルネットワーク（「第２ニューラルネットワーク」とも呼ぶ。）を構成する。第２ニューラルネットワークは、シミュレーションデータ保持部４５が記憶するシミュレーションパラメータを含むシミュレーションデータと中間変数保持部４４が保持する中間層変数との間の関係性を表すニューラルネットワークである。第２ニューラルネットワークのパラメータは、メモリ１２又は記憶装置４Ａに記憶される。

第２機械学習部３４は、シミュレーションデータ保持部４５が記憶するシミュレーションデータを用いて第２ニューラルネットワーク部３３の機械学習を実行する。この場合、第２機械学習部３４は、シミュレーション計算部３６がシミュレーションパラメータを用いて算出したシミュレーション結果と、中間層変数との関係性を示す第２ニューラルネットワークの機械学習を実行する。

また、第２機械学習部３４は、第１実施形態の機械学習部２４と同様、サンプリング計算部３５によりサンプリングされたシミュレーションパラメータに対する誤差評価を行う。そして、第２機械学習部３４は、誤差評価に基づき、正例か負例かに関するラベル生成、及び、当該ラベル及びサンプリングされたシミュレーションパラメータを用いた第２ニューラルネットワーク部３３の機械学習を行う。また、第２機械学習部３４は、サンプリングされたシミュレーションパラメータの誤差評価に基づき、第２ニューラルネットワーク部３３の機械学習の完了判定を行う。

サンプリング計算部３５は、第１ニューラルネットワーク及び第２ニューラルネットワークを夫々ボルツマンマシンとみなして指定の変数のサンプリングを行う。第１ニューラルネットワークの場合、サンプリング計算部３５は、観測データを未知の変数とし、それ以外のニューラルネットワークの構成要素をそれまでの機械学習で得られた数値を適用した第１ニューラルネットワークをボルツマンマシンとみなし、量子アニーリングや疑似アニーリングを行う。これにより、サンプリング計算部３５は、サンプリングした回数に応じた個数の観測データを取得する。これは、第１ニューラルネットワークのエネルギー的に安定した、最尤度となるサンプリング行うことに等しい。その後、サンプリングしたデータセットを含めた第１機械学習部３２による機械学習により、最尤度の第１ニューラルネットワークが求まり、中間層変数が求まる。

第２ニューラルネットワークの場合、サンプリング計算部３５は、第２機械学習部３４が機械学習した第２ニューラルネットワークをボルツマンマシンとみなし、対象の観測データに対応するシミュレーションパラメータを、サンプリングする。これにより、サンプリング計算部３５は、サンプリングした回数に応じた個数のシミュレーションパラメータを取得する。これは、第２ニューラルネットワークのエネルギー的に安定した、最尤度となるサンプリング行うことに等しい。その後、サンプリングしたシミュレーションパラメータのデータセットを用いた第２機械学習部３４による機械学習により、最尤度の第２ニューラルネットワークが求まる。

シミュレーション計算部３６は、観測データの事象をコンピュータ上でシミュレーションする。最適解抽出部３７は、指定の観測事象に対する最適なシミュレーションパラメータを抽出する。最適解抽出部３７は、第２機械学習部３４から第２ニューラルネットワーク部３３の機械学習の完了通知があった場合に、学習された第２ニューラルネットワークを制限ボルツマンマシンとみなし、シミュレーションパラメータの最尤度データを抽出する。

（２－２）処理フロー
図１０は、第２実施形態において情報処理装置１Ａが実行する処理手順を示すフローチャートの一例である。情報処理装置１Ａは、例えば、入力装置２などから供給される外部入力等に基づき、所定の実行指示を検知した場合に、図１０のフローチャートを実行する。

まず、第１ニューラルネットワーク部３１は、観測データと観測結果との相関関係をモデル表現する第１ニューラルネットワークの構成の設定を行う（ステップＳ１０１）。次に、第１ニューラルネットワーク部３１は、観測データ保持部４３が記憶する観測データと観測結果とを読み込む（ステップＳ１０２）。そして、第１機械学習部３２は、第１ニューラルネットワークの機械学習（「第１機械学習」とも呼ぶ。）を実行する（ステップＳ１０３）。この場合、第１機械学習部３２は、例えば、セルフバリデーション若しくはクロスバリデーションに基づく誤差が所定の閾値以下となるまで、又は、予め設定した回数だけ第１機械学習を繰り返し行う。このとき、学習データが不足するときには、サンプリング計算部３５は、第１ニューラルネットワークをボルツマンマシンとして設定し、サンプリングで学習データを増やす。これにより、第１機械学習部３２は、精度の高い第１機械学習を好適に実行する。

次に、第２ニューラルネットワーク部３３は、第２ニューラルネットワークの構成の設定を行う（ステップＳ１０４）。第２ニューラルネットワークは、中間変数保持部４４が保持する第１ニューラルネットワークの出力に相当する中間層変数とシミュレーションパラメータとシミュレーション結果との相対関係をモデル表現するニューラルネットワークである。次に、シミュレーション計算部３６は、観測データに対応するシミュレーションパラメータを読み込む（ステップＳ１０５）。そして、シミュレーション計算部３６は、観測データに対応するシミュレーションの計算を実行する（ステップＳ１０６）。シミュレーション計算部３６は、得られたシミュレーション結果をシミュレーションデータ保持部４５に記憶する。

次に、第２機械学習部３４は、第２ニューラルネットワークの機械学習（「第２機械学習」とも呼ぶ。）を実行する（ステップＳ１０７）。この場合、第２機械学習部３４は、例えば、セルフバリデーション若しくはクロスバリデーションに基づく誤差が所定の閾値以下となるまで、又は、予め設定した回数だけ機械学習を繰り返し行う。このとき、学習データが不足するときには、サンプリング計算部３５は、第２ニューラルネットワークをボルツマンマシンとして設定し、サンプリングで学習データを増やす。これにより、第２機械学習部３４は、精度の高い機械学習を好適に実行する。具体的には、第２機械学習部３４は、サンプリング計算部３５によりサンプリングされたシミュレーションパラメータに対する誤差評価を行う。そして、第２機械学習部３４は、誤差評価に基づき、正例か負例かに関するラベル生成、及び、当該ラベル及びサンプリングされたシミュレーションパラメータを用いた第２ニューラルネットワーク部３３の機械学習を行う。また、第２機械学習部３４は、サンプリングされたシミュレーションパラメータの誤差評価に基づき、第２ニューラルネットワーク部３３の機械学習の完了判定を行う。

次に、最適解抽出部３７は、予測対象となる観測データを取得し、シミュレーションパラメータを未確定（変数）とし、ステップＳ１０７の機械学習で得られた数値をボルツマンマシンに設定する（ステップＳ１０８）。最適解抽出部３７は、予測対象となる観測データを、観測データ保持部４３から取得してもよく、インターフェース１３を介して外部装置から取得してもよい。そして、最適解抽出部３７は、予め決めた回数だけ、又は、予め定めた統計値（例えば、得られたサンプリングの確率分布）が得られるまで、アニーリングを実行し、シミュレーションパラメータの最適解を導出する（ステップＳ１０９）。そして、最適解抽出部３７は、最適解となったシミュレーションパラメータをシミュレーションデータ保持部４５から取り出す（ステップＳ０１１０）。この場合、最適解抽出部３７は、例えば、取り出したシミュレーションパラメータを、表示装置３に表示させる。

（２－３）変形例
（変形例２－１）
情報処理装置１Ａは、前段の第１ニューラルネットワークの機械学習において、ボルツマンマシン型のニューラルネットワークを前提としたが、中間層の変数を求めることができる、オートエンコーダ型のネットワークを用いてもよい。ただし、オートエンコーダ型のネットワークでは、サンプリングは行うことができないので、この場合、情報処理装置１Ａは、サンプリングによる第１ニューラルネットワークの学習データの増量は行わない。

（変形例２－２）
第１ニューラルネットワークは、多層のネットワークであってもよい。その場合、中間層についても多層となってもよい。

（変形例２－３）
後段の第２ニューラルネットワークに基づきシミュレーションパラメータを求める処理において、最適解抽出部３７は、量子アニーリング/シミュレーションアニーリングの組合せ最適化の方式により、最適なシミュレーションパラメータを求めた。これに代えて、最適解抽出部３７は、タブサーチ又は遺伝アルゴリズムなどの最適解を求解する方式を使って、最適なシミュレーションパラメータを求めてもよい。

＜第３実施形態＞
図１１は、第３実施形態における情報処理装置１Ｂのブロック図である。情報処理装置１Ｂは、主に、機械学習手段１５Ｂと、サンプリング計算手段１６Ｂと、シミュレーション計算手段１７Ｂとを有する。なお、情報処理装置１Ｂは、複数の装置から構成されてもよい。

機械学習手段１５Ｂは、観測データと、観測結果と、観測データを基に観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う。機械学習手段１５Ｂは、例えば、第１実施形態における機械学習部２４、又は、第２実施形態における第２機械学習部３４とすることができる。また、モデルは、第１実施形態における制限ボルツマンマシン又は第２実施形態における多層ニューラルネットワークとすることができる。

サンプリング計算手段１６Ｂは、機械学習の結果に基づき、機械学習に用いるシミュレーションパラメータのサンプリングを行う。サンプリング計算手段１６Ｂは、第１実施形態におけるサンプリング計算部２５、又は、第２実施形態におけるサンプリング計算部３５とすることができる。

シミュレーション計算手段１７Ｂは、サンプリングされたシミュレーションパラメータを用いたシミュレーションを実行する。シミュレーション計算手段１７Ｂは、第１実施形態におけるシミュレーション計算部２６、又は、第２実施形態におけるシミュレーション計算部３６とすることができる。

そして、機械学習手段１５Ｂは、シミュレーションの結果であるシミュレーション結果の誤差評価に基づき機械学習を再実行する。この場合、第１の例では、機械学習手段１５Ｂは、誤差評価に基づき、機械学習の継続の要否の判定（即ち完了判定）を行う。第２の例では、機械学習手段１５Ｂは、誤差評価に基づき、サンプリングされたシミュレーションパラメータが正例か負例かを示すラベルの生成を行い、当該シミュレーションパラメータと当該ラベルとに基づき機械学習を再実行する。

図１２は、第３実施形態における情報処理装置１Ｂの処理手順を示すフローチャートの一例である。機械学習手段１５Ｂは、観測データと、観測結果と、シミュレーションパラメータとの関係を示すモデルの機械学習を行う（ステップＳ２０１）。サンプリング計算手段１６Ｂは、ステップＳ２０１の機械学習の結果に基づき、機械学習に用いるシミュレーションパラメータのサンプリングを行う（ステップＳ２０２）。シミュレーション計算手段１７Ｂは、ステップＳ２０２でサンプリングされたシミュレーションパラメータを用いたシミュレーションを実行する（ステップＳ２０３）。機械学習手段１５Ｂは、シミュレーションの結果であるシミュレーション結果の誤差評価に基づき機械学習を再実行する（ステップＳ２０４）。なお、機械学習手段１５Ｂが機械学習を再実行する場合、ステップＳ２０１～ステップＳ２０３が再び実施される。

第３実施形態に係る情報処理装置１Ｂは、シミュレーションパラメータを得るために必要な機械学習を好適に実行することができる。

なお、上述した各実施形態において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータであるプロセッサ等に供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記憶媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記憶媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記憶媒体（例えば光磁気ディスク）、ＣＤ－ＲＯＭ（Read Only Memory）、ＣＤ－Ｒ、ＣＤ－Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ（Random Access Memory））を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。

その他、上記の各実施形態の一部又は全部は、以下の付記のようにも記載され得るが以下には限られない。

［付記１］
観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、
前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、
サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段と、を有し、
前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、情報処理装置。

［付記２］
前記機械学習手段による前記機械学習が完了した場合、前記モデルにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段をさらに有する、付記１に記載の情報処理装置。

［付記３］
前記モデルは、制限ボルツマンマシンである、付記１または２に記載の情報処理装置。

［付記４］
前記モデルは、少なくとも３層以上有するニューラルネットワークである、付記１または２に記載の情報処理装置。

［付記５］
前記モデルは、前段に構成された第１ニューラルネットワークと、後段に構成された第２ニューラルネットワークとを含み、
前記機械学習手段は、前記観測データと前記観測結果とに基づき、前記第１ニューラルネットワークの機械学習を行い、前記第１ニューラルネットワークの出力と前記シミュレーションパラメータとに基づき、前記第２ニューラルネットワークの機械学習を行い、
前記サンプリング計算手段は、前記第２ニューラルネットワークの機械学習の結果に基づき、当該機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、
前記機械学習手段は、サンプリングされた前記シミュレーションパラメータを用いた前記シミュレーション結果の誤差評価に基づき、前記第２ニューラルネットワークの機械学習を再実行する、付記４に記載の情報処理装置。

［付記６］
前記第１ニューラルネットワークは、オートエンコーダ型のネットワークである、付記５に記載の情報処理装置。

［付記７］
前記第１ニューラルネットワークは、ディープラーニング型のネットワークである、付記５に記載の情報処理装置。

［付記８］
前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段を有する、付記５～７のいずれか一項に記載の情報処理装置。

［付記９］
前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数としてタブサーチ又は遺伝アルゴリズムを適用することでシミュレーションパラメータを抽出する最適解抽出手段を有する、付記５～７のいずれか一項に記載の情報処理装置。

［付記１０］
前記機械学習手段は、前記誤差評価が示す誤差が閾値以下の場合、前記機械学習が完了したと判定する、付記１～９のいずれか一項に記載の情報処理装置。

［付記１１］
前記機械学習は、入力されたシミュレーションパラメータが正例か負例かのラベルに基づき学習を行う２値分類の機械学習であり、
前記機械学習手段は、前記誤差評価に基づき、前記ラベルを生成することで、前記サンプリングされた前記シミュレーションパラメータに基づき、前記機械学習を再実行する、付記１～１０のいずれか一項に記載の情報処理装置。

［付記１２］
コンピュータにより、
観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行い、
前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、
サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行し、
前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、
制御方法。

［付記１３］
観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、
前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、
サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段
としてコンピュータを機能させ、
前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、
プログラムが格納された記憶媒体。

［付記１４］
観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、
前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、
サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段と、を有し、
前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、情報処理システム。

［付記１５］
前記機械学習手段による前記機械学習が完了した場合、前記モデルにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段をさらに有する、付記１４に記載の情報処理システム。

［付記１６］
前記モデルは、制限ボルツマンマシンである、付記１４または１５に記載の情報処理システム。

［付記１７］
前記モデルは、少なくとも３層以上有するニューラルネットワークである、付記１４または１５に記載の情報処理システム。

［付記１８］
前記モデルは、前段に構成された第１ニューラルネットワークと、後段に構成された第２ニューラルネットワークとを含み、
前記機械学習手段は、前記観測データと前記観測結果とに基づき、前記第１ニューラルネットワークの機械学習を行い、前記第１ニューラルネットワークの出力と前記シミュレーションパラメータとに基づき、前記第２ニューラルネットワークの機械学習を行い、
前記サンプリング計算手段は、前記第２ニューラルネットワークの機械学習の結果に基づき、当該機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、
前記機械学習手段は、サンプリングされた前記シミュレーションパラメータを用いた前記シミュレーション結果の誤差評価に基づき、前記第２ニューラルネットワークの機械学習を再実行する、付記１７に記載の情報処理システム。

［付記１９］
前記第１ニューラルネットワークは、オートエンコーダ型のネットワークである、付記１８に記載の情報処理システム。

［付記２０］
前記第１ニューラルネットワークは、ディープラーニング型のネットワークである、付記１８に記載の情報処理システム。

［付記２１］
前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段を有する、付記１８～２０のいずれか一項に記載の情報処理システム。

［付記２２］
前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数としてタブサーチ又は遺伝アルゴリズムを適用することでシミュレーションパラメータを抽出する最適解抽出手段を有する、付記１８～２０のいずれか一項に記載の情報処理システム。

［付記２３］
前記機械学習手段は、前記誤差評価が示す誤差が閾値以下の場合、前記機械学習が完了したと判定する、付記１４～２２のいずれか一項に記載の情報処理システム。

［付記２４］
前記機械学習は、入力されたシミュレーションパラメータが正例か負例かのラベルに基づき学習を行う２値分類の機械学習であり、
前記機械学習手段は、前記誤差評価に基づき、前記ラベルを生成することで、前記サンプリングされた前記シミュレーションパラメータに基づき、前記機械学習を再実行する、付記１４～２３のいずれか一項に記載の情報処理システム。

以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。すなわち、本願発明は、請求の範囲を含む全開示、技術的思想にしたがって当業者であればなし得るであろう各種変形、修正を含むことは勿論である。また、引用した上記の特許文献等の各開示は、本書に引用をもって繰り込むものとする。

本発明は、気象（海洋、防災などを対象とした気象予測を含む）、風洞、流体（車メーカが行う空気抵抗予測を含む）、材料、創薬などにおけるシミュレーションで、確度の高い予測の高速計算に好適に利用される。

１、１Ａ、１Ｂ 情報処理装置
２ 入力装置
３ 表示装置
４ 記憶装置
１５Ｂ 機械学習手段
１６Ｂ サンプリング計算手段
１７Ｂ シミュレーション計算手段
１００ 機械学習システム

Claims (13)

1. 観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、
   前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、
   サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段と、を有し、
   前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、情報処理装置。
2. 前記機械学習手段による前記機械学習が完了した場合、前記モデルにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段をさらに有する、請求項１に記載の情報処理装置。
3. 前記モデルは、制限ボルツマンマシンである、請求項１または２に記載の情報処理装置。
4. 前記モデルは、少なくとも３層以上有するニューラルネットワークである、請求項１または２に記載の情報処理装置。
5. 前記モデルは、前段に構成された第１ニューラルネットワークと、後段に構成された第２ニューラルネットワークとを含み、
   前記機械学習手段は、前記観測データと前記観測結果とに基づき、前記第１ニューラルネットワークの機械学習を行い、前記第１ニューラルネットワークの出力と前記シミュレーションパラメータとに基づき、前記第２ニューラルネットワークの機械学習を行い、
   前記サンプリング計算手段は、前記第２ニューラルネットワークの機械学習の結果に基づき、当該機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、
   前記機械学習手段は、サンプリングされた前記シミュレーションパラメータを用いた前記シミュレーション結果の誤差評価に基づき、前記第２ニューラルネットワークの機械学習を再実行する、請求項４に記載の情報処理装置。
6. 前記第１ニューラルネットワークは、オートエンコーダ型のネットワークである、請求項５に記載の情報処理装置。
7. 前記第１ニューラルネットワークは、ディープラーニング型のネットワークである、請求項５に記載の情報処理装置。
8. 前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数とみなしてサンプリングを行うことで、最尤度のシミュレーションパラメータを抽出する最適解抽出手段を有する、請求項５～７のいずれか一項に記載の情報処理装置。
9. 前記機械学習手段による前記機械学習が完了した場合、前記第２ニューラルネットワークにおいて、前記シミュレーションパラメータを変数としてタブサーチ又は遺伝アルゴリズムを適用することでシミュレーションパラメータを抽出する最適解抽出手段を有する、請求項５～７のいずれか一項に記載の情報処理装置。
10. 前記機械学習手段は、前記誤差評価が示す誤差が閾値以下の場合、前記機械学習が完了したと判定する、請求項１～９のいずれか一項に記載の情報処理装置。
11. 前記機械学習は、入力されたシミュレーションパラメータが正例か負例かのラベルに基づき学習を行う２値分類の機械学習であり、
    前記機械学習手段は、前記誤差評価に基づき、前記ラベルを生成することで、前記サンプリングされた前記シミュレーションパラメータに基づき、前記機械学習を再実行する、請求項１～１０のいずれか一項に記載の情報処理装置。
12. コンピュータにより、
    観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行い、
    前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行い、
    サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行し、
    前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、
    制御方法。
13. 観測データと、観測結果と、前記観測データを基に前記観測結果を予測するためのシミュレーションを行う場合に必要なシミュレーションパラメータとの関係を示すモデルの機械学習を行う機械学習手段と、
    前記機械学習の結果に基づき、前記機械学習に用いる前記シミュレーションパラメータのサンプリングを行うサンプリング計算手段と、
    サンプリングされた前記シミュレーションパラメータを用いたシミュレーションを実行するシミュレーション計算手段
    としてコンピュータを機能させ、
    前記機械学習手段は、前記シミュレーションの結果であるシミュレーション結果の誤差評価に基づき前記機械学習を再実行する、
    プログラム。

Images