JP7489876B2 - モデル解析装置、モデル解析方法、及びプログラム - Google Patents

Description

本発明は、モデル解析装置、モデル解析方法、及びプログラムに関する。

近年、ディープニューラルネットワークなどの深層学習を用いて予測モデルを生成する技術が知られている（例えば、特許文献１を参照）。

特開２０１８－９２３７７号公報

しかしながら、上述したような深層学習等の機械学習によるモデル生成方法で生成された予測モデルでは、予測モデルを構成するシステム構造がブラックボックス化されており、入力データに対する演算処理の過程を把握することが困難であった。

本発明は、上記問題を解決すべくなされたもので、その目的は、深層学習等の機械学習によるモデル生成方法を用いて生成された予測モデルのシステム構造を把握することができるモデル解析装置、モデル解析方法、及びプログラムを提供することにある。

上記問題を解決するために、本発明の一態様は、機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析装置であって、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部と、前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成部とを備えることを特徴とするモデル解析装置である。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、前記処理要素及び前記パラメータ値を選択して初期モデルを生成する初期モデル生成処理と、前記初期モデルの前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する最適化処理とを実行することを特徴とする。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、前記処理要素を格子状に配置したマトリックス構造であって、予め指定されたマトリックス構造に当てはめて、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、前記処理要素及び前記パラメータ値を選択して初期モデルを生成する初期モデル生成処理と、前記初期モデルの前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する最適化処理とを実行することを特徴とする。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、前記マトリックス構造が拡張された場合に、拡張前の前記マトリックス構造の前記処理要素の組み合わせ及び前記パラメータ値を維持しつつ、拡張された部分の前記処理要素の組み合わせ及び前記パラメータ値を選択し、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する追加最適化処理を実行することを特徴とする。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、前記追加最適化処理を前記マトリックス構造の複数階層に対して実行し、階層的に抽象化した前記等価モデルを生成することを特徴とする。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、前記予測モデルにおける前記入力データに対する前記出力データと、前記等価モデルにおける前記入力データに対する出力データとの差が最小になるように、前記処理要素の組み合わせ及び前記パラメータ値を決定することを特徴とする。

また、本発明の一態様は、上記のモデル解析装置において、前記等価モデル生成部は、遺伝的アルゴリズムに基づいて、前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記最適化処理を実行することを特徴とする。

また、本発明の一態様は、機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析方法であって、等価モデル生成部が、前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成ステップを含むことを特徴とするモデル解析方法である。

また、本発明の一態様は、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部を備え、機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析装置のコンピュータに、前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成処理を実行させるためのプログラムである。

本発明によれば、深層学習等の機械学習によるモデル生成方法を用いて生成された予測モデルのシステム構造を把握することができる。

第１の実施形態によるモデル解析装置の一例を示すブロック図である。 解析対象の推定モデルの一例を示す図である。 第１の実施形態における処理要素の具体例を示す図である。 第１の実施形態における処理要素の具体例を示す第２の図である。 第１の実施形態における等価モデルの構成例を示す図である。 第１の実施形態における入力端子部及び出力端子部の構成例を示す図である。 第１の実施形態によるモデル解析装置の動作の一例を示すフローチャートである。 第１の実施形態における等価モデルの生成例を示す図である。 第２の実施形態によるモデル解析装置の一例を示すブロック図である。 第２の実施形態における追加最適化処理を説明する図である。 第２の実施形態によるモデル解析装置の動作の一例を示すフローチャートである。 第２の実施形態における階層的に抽象化した等価モデルの生成例及び解析例を示す図である。 処理要素の配置にマトリックス構造でない配置を適用した場合の等価モデルにの構成例を示す図である。

以下、本発明の一実施形態によるモデル解析装置、及びモデル解析方法について、図面を参照して説明する。

［第１の実施形態］
図１は、第１の実施形態によるモデル解析装置１の一例を示すブロック図である。
図１に示すように、モデル解析装置１は、入力部１１と、表示部１２と、記憶部１３と、制御部２０とを備えている。モデル解析装置１は、例えば、ディープニューラルネットワークなどの深層学習を用いて生成された解析対象の予測モデル（以下、解析対象モデルという）と同等の動作を行い、構造解析可能な等価モデルを生成して、解析対象モデルを解析（翻訳）する装置である。

モデル解析装置１は、解析対象モデルに対する入力データと、当該入力データに対する解析対象モデルの出力データとを用いて、解析対象モデルと等価の処理を行う等価モデルを生成する。ここで、図２を参照して、解析対象モデルについて説明する。

図２は、解析対象の推定モデルの一例を示す図である。
図２に示すように、解析対象モデルは、例えば、深層学習を用いて生成された予測モデルであり、入力データ（入力信号）から、出力データ（出力信号）を推定する。解析対象モデルは、構成するシステム構造がブラックボックス化されており、入力データ（入力信号）に対する演算処理の過程を把握することができないものとする。

図１の説明に戻り、入力部１１は、例えば、キーボードやマウスなどの入力装置であり、モデル解析装置１への設定情報などの各種入力情報を受け付ける。
表示部１２は、例えば、液晶ディスプレイなどの表示装置であり、モデル解析装置１が利用する各種情報を表示する。表示部１２は、例えば、モデル解析のための設定画面の表示や、生成した等価モデルの表示などに用いられる。

記憶部１３は、モデル解析装置１が利用する各種情報を記憶する。記憶部１３は、要素記憶部１３１と、対象モデル記憶部１３２と、入出力データ記憶部１３３と、解析結果記憶部１３４とを備える。

要素記憶部１３１は、等価モデルを構成する処理要素を記憶する。要素記憶部１３１は、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の処理要素を記憶する。

処理要素として、例えば、フックの方法を適用する場合に、入力信号Ｘ（ばねの伸び）に対して、ゲインｋを掛ける（ｋＸ）ことで、出力Ｆ（ばねから受ける力）を得る。この場合の（ｋＸ）が処理要素に該当し、パラメータｋの取り得る範囲がパラメータ要素に該当する。要素記憶部１３１は、このような等価モデルに構成される可能性のある処理要素（例えば、ｋＸ、ｋ／Ｘ、ｋｃｏｓＸ、等）と、パラメータｋの取り得る範囲（パラメータ要素）とを対応付けて記憶する。
具体的に、要素記憶部１３１には、例えば、図３及び図４に示すような処理要素が、予め記憶されている。

図３及び図４は、本実施形態における処理要素の具体例を示す図である。
なお、本実施形態で用いる処理要素は、後述する格子状に配置されたマトリックス構造を構成する処理要素が、行方向（Ｘ方向）か、又は行方向（Ｘ方向）と列方向（Ｙ方向）との２方向から信号を入力する構成となっている。
また、図３及び図４に示す具体例では、処理要素を回路要素と演算要素とに区別して各種取り揃えている。ここで、回路要素は、信号の伝送経路を構成する経路要素である。

図３に示す処理要素は、複数の方向からの信号を重畳して入力できる構成となっている。また、図４に示す処理要素は、一方向からの信号のみを入力する構成となっている。
なお、これらの図に示した処理要素の中には、「ａ」や「ｂ」の係数で示されたパラメータを含むものと、含まないものが混在している。例えば、経路要素、乗算器（ＭＰ）、符号関数（ＳＧＮ）、アークサイン（ＡＳＩＮ）、アークコサイン（ＡＣＯＳ）、及びアークタンジェント（ＡＴＡＮ）の処理要素は、パラメータを含んでいない。

再び、図１の説明に戻り、対象モデル記憶部１３２は、上述した図２に示すような解析対象の推定モデルを記憶する。
入出力データ記憶部１３３は、解析対象モデルに対して入力した入力データと、当該入力データに対する解析対象モデルによる出力データとを対応付けて記憶する。なお、入出力データ記憶部１３３が記憶する入力データ及び出力データは、等価モデルを生成する際の学習データとして使用される。

解析結果記憶部１３４は、モデル解析装置１が解析結果として生成した等価モデルを記憶する。ここで、図５を参照して、等価モデルの構成について説明する。

図５は、本実施形態における等価モデルの構成例を示す図である。
図５（ａ）に示すように、等価モデルは、入力端子部ＩＮ１と、要素マトリックスＭ１と、出力端子部ＯＵＴ１とを備えている。

要素マトリックスＭ１は、等価モデルを構成する個々の構成要素ＳＥを格子状に配置して構成されるマトリックス構造である。ここで、構成要素ＳＥは、上述した処理要素と処理要素に対応するパラメータ要素の取り得る範囲内のパラメータ値との組である。

入力端子部ＩＮ１は、要素マトリックスＭ１に入力信号（入力データ）を供給する端子部である。また、出力端子部ＯＵＴ１は、要素マトリックスＭ１からの出力を構成する端子部である。

また、図５（ｂ）は、等価モデルを構成要素ＳＥにより表した場合の一例を示している。図５（ｂ）において、構成要素ＳＥは、上述した処理要素とパラメータ要素のパラメータ値との組で表現される。この図に示す例では、等価モデルの入力端子部ＩＮ１と、要素マトリックスＭ１とを示している。解析結果記憶部１３４は、図５に示すような構造の等価モデルを、解析結果として記憶する。

また、図６は、本実施形態における入力端子部ＩＮ１及び出力端子部ＯＵＴ１の構成例を示す図である。
図６（ａ）及び図６（ｂ）は、入力端子部ＩＮ１の構成例を示し、図６（ｃ）～図６（ｅ）は、出力端子部ＯＵＴ１の構成例を示している。

入力端子部ＩＮ１に関しては、図６（ａ）に示すように、１つの入力端子から入力信号が入力される構成にすることも可能であり、また、図６（ｂ）に示すように、全ての入力端子からそれぞれ入力信号が入力される構成にすることも可能である。

また、出力端子部ＯＵＴ１に関しては、図６（ｃ）に示すように、１つの出力端子から出力信号を出力する構成の他に、図６（ｄ）に示すように、全ての出力端子からの信号を重畳した出力信号を出力する構成や、図６（ｅ）に示すように、全ての出力端子からそれぞれ出力信号を出力する構成にすることも可能である。

なお、入力端子部ＩＮ１及び出力端子部ＯＵＴ１の各種構成を、処理要素として、上述した要素記憶部１３１に記憶させておき、等価モデルを生成する際に、任意に選択されるようにしてもよい。

再び、図１の説明に戻り、制御部２０は、例えば、ＣＰＵ（Central Processing Unit）などを含むプロセッサであり、モデル解析装置１を統括的に制御する。制御部２０は、設定処理部２１と、対象モデル処理部２２と、等価モデル生成部２３と、表示処理部２４とを備えている。

設定処理部２１は、モデル解析装置１による解析対象モデルの解析を行うための各種設定を行う。設定処理部２１は、例えば、入力部１１か受け付けた入力情報に基づいて、解析対象モデルを外部から取得し、取得した解析対象モデルを対象モデル記憶部１３２に記憶させる。また、設定処理部２１は、入力部１１か受け付けた入力情報に基づいて、等価モデルの構成の設定（例えば、入力端子部ＩＮ１、要素マトリックスＭ１、及び出力端子部ＯＵＴ１の構成）や、入力データ（入力信号）の設定などを行う。

すなわち、設定処理部２１は、入力部１１を介して利用者の要求を受け付け、例えば、要素マトリックスＭ１の構造を、２行×３列のマトリックス構造にする、等の等価モデルを生成するための設定を行う。なお、要素マトリックスＭ１に使用する一部の構成要素ＳＥを利用者が予め指定することも可能であり、このような場合には、設定処理部２１は、要素マトリックスＭ１内の一部の構成要素ＳＥ（例えば、処理要素）の初期設定を行う。

対象モデル処理部２２は、対象モデル記憶部１３２が記憶する解析対象モデルによる処理を実行し、入力データ（入力信号）に対する出力データ（出力信号）を生成する。対象モデル処理部２２は、入力データ（入力信号）及び生成した出力データ（出力信号）を、入出力データ記憶部１３３に記憶させる。

等価モデル生成部２３は、解析対象モデルに対する入力データ及び出力データを学習データとして、入力データに対して解析対象モデルの出力データが出力されるように、上述した構成要素ＳＥを決定して、等価モデルを生成する。すなわち、等価モデル生成部２３は、入力データに対して解析対象モデルの出力データが出力されるように、要素記憶部１３１が記憶する複数種類の処理要素のうちから、選択した処理要素の組み合わせ、及び選択した処理要素に対応するパラメータ要素の取り得る範囲内のパラメータ値を決定して、等価モデルを生成する。ここで、等価モデルとは、解析対象モデルと等価の処理を実行するモデルであり、解析対象モデルを翻訳したモデルである。

等価モデル生成部２３は、例えば、初期モデル生成処理と、最適化処理とを実行することで、等価モデルを生成する。等価モデル生成部２３は、初期モデル生成処理として、設定処理部２１によって利用者が指定した要素マトリックスＭ１の構造（予め指定されたマトリックス構造）に当てはめて、要素記憶部１３１が記憶する複数種類の処理要素のうちから、処理要素及びパラメータ値を選択して初期モデルを生成する。等価モデル生成部２３は、生成した初期モデルを解析結果記憶部１３４に記憶させる。

また、等価モデル生成部２３は、最適化処理として、解析結果記憶部１３４が記憶する初期モデルの処理要素の組み合わせ及びパラメータ値を変更して、入力データに対して解析対象モデルの出力データが出力されるように、最適化して等価モデルを生成する。等価モデル生成部２３は、例えば、解析対象モデルにおける入力データに対する出力データと、等価モデルにおける入力データに対する出力データとの差（出力データの誤差）が最小になるように、処理要素の組み合わせ及びパラメータ値を決定する。

等価モデル生成部２３は、生成した等価モデルを解析結果記憶部１３４に記憶させる。
また、等価モデル生成部２３は、初期モデル生成処理部２３１と、最適化処理部２３２とを備える。

初期モデル生成処理部２３１は、上述した初期モデル生成処理を実行する。初期モデル生成処理部２３１は、例えば、利用者によって指定された、入力端子部ＩＮ１の構成、要素マトリックスＭ１の構造（例えば、ｎ行×ｍ列のマトリックス構造など）、出力端子部ＯＵＴ１の構成などに基づいて、要素マトリックスＭ１の構造に当てはめて、構成要素ＳＥ（処理要素及びパラメータ値）を配置して、初期モデルを生成する。なお、初期モデル生成処理部２３１は、利用者によって使用する構成要素ＳＥが指定された場合には、指定された構成要素ＳＥを含む初期モデルを生成する。初期モデル生成処理部２３１は、生成した初期モデルを解析結果記憶部１３４に記憶させる。

最適化処理部２３２は、上述した最適化処理を実行する。最適化処理部２３２は、解析結果記憶部１３４が記憶する初期モデルの処理要素及びパラメータ値を変更して、当該モデルに入出力データ記憶部１３３の入力データを処理させた出力データを生成する。また、最適化処理部２３２は、例えば、処理要素及びパラメータ値の変更前の出力データと、変更後の出力データとで、入出力データ記憶部１３３が記憶する解析対象モデルの出力データにより近い方を採用する（評価処理）。最適化処理部２３２は、このような、処理要素及びパラメータ値の変更処理と、評価処理とを繰り返し実行して、解析結果記憶部１３４が記憶するモデルの出力データが、解析対象モデルの出力データになるように最適化する。

具体的には、最適化処理部２３２は、例えば、遺伝的アルゴリズム（ＧＡ：Genetic Algorithms）に基づいて、処理要素の組み合わせ及びパラメータ値を変更して、最適化処理を実行する。ここで、遺伝的アルゴリズムとは、生物界の進化の仕組みを模倣する解探索手法であり、例えば、選択淘汰（ルーレット選択）、進化オペレーション（交叉、突然変異、パラメータシフトなど）などの最適化の態様がある。最適化処理部２３２は、図５（ｂ）に示すように、等価モデルの構成要素ＳＥの処理要素をコード遺伝子とし、パラメータ値をパラメータ遺伝子として、遺伝的アルゴリズムを適用して、等価モデル（初期モデル）の最適化を実行する。

また、最適化処理部２３２は、最適化処理（変更処理及び評価処理）を繰り返し実行し、最適化処理の終了条件に達した場合に、最適化処理を終了する。ここで、最適化処理の終了条件は、例えば、最適化処理の繰り返し回数が、所定の回数に達した場合や、等価モデルの出力データと解析対象モデルの出力データとの差が、所定の閾値以下になった場合などである。最適化処理部２３２は、最適化処理の終了条件に達した場合に、解析結果記憶部１３４が記憶するモデルを、等価モデルとして採用する。

表示処理部２４は、表示部１２に各種情報を表示する処理を実行する。表示処理部２４は、例えば、設定処理部２１による設定処理の際に、各種設定入力の画面を表示部１２に表示させる。また、表示処理部２４は、利用者が解析結果（等価モデルの構造）を確認する際に、解析結果記憶部１３４が記憶する等価モデルの構造を表示部１２に表示させる。

次に、図面を参照して、本実施形態によるモデル解析装置１の動作について説明する。
図７は、本実施形態によるモデル解析装置１の動作の一例を示すフローチャートである。ここでは、予め解析対象モデルが指定されており、入出力データ記憶部１３３には、既に、解析対象モデルの入力データ及び出力データが記憶されているものとする。

図７に示すように、モデル解析装置１は、まず、各種設定情報を設定する（ステップＳ１０１）。モデル解析装置１の設定処理部２１は、例えば、入力部１１か受け付けた入力情報に基づいて、等価モデルの構成の設定（例えば、入力端子部ＩＮ１、要素マトリックスＭ１、及び出力端子部ＯＵＴ１の構成）などを行う。

次に、モデル解析装置１の等価モデル生成部２３は、等価モデルの初期モデルを生成する（ステップＳ１０２）。等価モデル生成部２３の初期モデル生成処理部２３１は、例えば、利用者によって指定された、入力端子部ＩＮ１の構成、要素マトリックスＭ１の構造（例えば、ｎ行×ｍ列のマトリックス構造など）、出力端子部ＯＵＴ１の構成などに基づいて、要素マトリックスＭ１の構造に当てはめて、要素記憶部１３１が記憶する構成要素ＳＥ（処理要素及びパラメータ値）を配置して、初期モデルを生成する。初期モデル生成処理部２３１は、生成した初期モデルを解析結果記憶部１３４に記憶させる。

次に、等価モデル生成部２３の最適化処理部２３２は、入力データに対する等価モデルの出力データを算出する（ステップＳ１０３）。最適化処理部２３２は、解析結果記憶部１３４が記憶する現在の等価モデル（初期モデル）により、入出力データ記憶部１３３が記憶する入力データを処理させて、現在の等価モデル（初期モデル）の出力データを生成する。

次に、最適化処理部２３２は、等価モデルの出力データと、解析対象モデルの出力データとに基づいて、等価モデルを評価する（ステップＳ１０４）。最適化処理部２３２は、等価モデルの出力データと、解析対象モデルの出力データとを比較して、例えば、処理要素及びパラメータ値を変更した等価モデルの中から、等価モデルの出力データが、入出力データ記憶部１３３が記憶する解析対象モデルの出力データに最も近いものを採用する。

次に、最適化処理部２３２は、終了条件に達したか否かを判定する（ステップＳ１０５）。最適化処理部２３２は、例えば、最適化処理の繰り返し回数が、所定の回数に達したか否かや、等価モデルの出力データと解析対象モデルの出力データとの差が、所定の閾値以下になった否か、などの終了条件に達したか否かを判定する。最適化処理部２３２は、終了条件に達した場合（ステップＳ１０５：ＹＥＳ）に、処理を終了し、解析結果記憶部１３４が記憶する最終のモデルを等価モデルとする。また、最適化処理部２３２は、終了条件に達していない場合（ステップＳ１０５：ＮＯ）に、処理をステップＳ１０６に進める。

ステップＳ１０６において、最適化処理部２３２は、等価モデルを変更する。すなわち、最適化処理部２３２は、要素記憶部１３１が記憶する処理要素及びパラメータ要素を用いて、構成要素ＳＥを変更して、解析結果記憶部１３４が記憶する現在のモデルを変更する。最適化処理部２３２は、例えば、遺伝的アルゴリズムの手法を用いて等価モデル（現在のモデル）を変更する。ステップＳ１０６の処理後に、最適化処理部２３２は、処理をステップＳ１０３に戻す。

以上説明したように、本実施形態によるモデル解析装置１は、深層学習等の機械学習によるモデル生成方法を用いて生成された、入力データから出力データを予測する解析対象モデル（予測モデル）を解析する装置であって、要素記憶部１３１と、等価モデル生成部２３とを備える。要素記憶部１３１は、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の処理要素を記憶する。等価モデル生成部２３は、予測モデルに対する入力データ及び出力データを学習データとして、入力データに対して出力データが出力されるように、要素記憶部１３１が記憶する複数種類の処理要素のうちから、選択した処理要素の組み合わせ、及び選択した処理要素に対応するパラメータ要素の取り得る範囲内のパラメータ値を決定して、等価モデルを生成する。ここで、等価モデルとは、予測モデルと等価の処理を行うモデルであり、処理要素とパラメータ値とを含む構成要素ＳＥにより構成される。

これにより、本実施形態によるモデル解析装置１は、解析対象モデル（予測モデル）と等価の処理を行う等価モデルを、処理要素の組み合わせにより生成するため、等価モデルを構成する処理要素を確認することで、解析対象モデル（予測モデル）のシステム構造を把握することができる。

図８は、本実施形態における等価モデルの生成例を示す図である。
例えば、図８に示す等価モデルは、要素マトリックスＭ１を２行×３列で構成する場合の一例を示している。図８（ａ）は、解析結果記憶部１３４が記憶する等価モデルの一例を示し、図８（ｂ）は、解析結果記憶部１３４が記憶する等価モデルを、処理要素及びパラメータ値に基づいて、処理の流れを図示したものである。

図８（ｂ）に示すように、本実施形態によるモデル解析装置１は、生成した等価モデルを、処理要素により図示することで、ブラックボックスである解析対象モデル（予測モデル）のシステム構造を容易に把握することができる。

また、本実施形態では、等価モデル生成部２３は、初期モデル生成処理と、最適化処理とを実行する。等価モデル生成部２３は、初期モデル生成処理として、処理要素を格子状に配置したマトリックス構造（例えば、要素マトリックスＭ１）であって、予め指定されたマトリックス構造に当てはめて、要素記憶部１３１が記憶する複数種類の処理要素のうちから、処理要素及びパラメータ値を選択して初期モデルを生成する。等価モデル生成部２３は、最適化処理として、初期モデルの処理要素の組み合わせ及びパラメータ値を変更して、入力データに対して出力データが出力されるように、最適化して等価モデルを生成する。

これにより、本実施形態によるモデル解析装置１は、マトリックス構造（例えば、要素マトリックスＭ１）を定義することで、等価モデルの精度を調整することができるとともに、マトリックス構造により、利用者の経験則やノウハウを等価モデルの生成に盛り込むことができ、効率よく等価モデルを生成することができる。

また、本実施形態では、等価モデル生成部２３は、遺伝的アルゴリズムに基づいて、処理要素の組み合わせ及びパラメータ値を変更して、最適化処理を実行する。
これにより、本実施形態によるモデル解析装置１は、遺伝的アルゴリズムを利用することで、等価モデルを効率よく等価モデルを最適化することができる。

また、本実施形態では、等価モデル生成部２３は、解析対象モデル（予測モデル）における入力データに対する出力データと、等価モデルにおける入力データに対する出力データとの差が最小になるように、処理要素の組み合わせ及びパラメータ値を決定する。
これにより、本実施形態によるモデル解析装置１は、解析対象モデル（予測モデル）と等価な高精度の等価モデルを生成することができる。

また、本実施形態によるモデル解析方法は、深層学習等の機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する解析対象モデル（予測モデル）を解析するモデル解析方法であって、等価モデル生成ステップを含む。等価モデル生成ステップにおいて、等価モデル生成部２３が、解析対象モデル（予測モデル）に対する入力データ及び出力データを学習データとして、入力データに対して出力データが出力されるように、要素記憶部１３１が記憶する複数種類の処理要素のうちから、選択した処理要素の組み合わせ、及び選択した処理要素に対応するパラメータ要素の取り得る範囲内のパラメータ値を決定して、等価モデルを生成する。ここで、要素記憶部１３１は、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の処理要素を記憶する。
これにより、本実施形態によるモデル解析方法は、上述したモデル解析装置１と同様の効果を奏し、解析対象モデル（予測モデル）のシステム構造を把握することができる。

［第２の実施形態］
次に、図面を参照して、第２の実施形態によるモデル解析装置１ａについて説明する。
本実施形態では、モデル解析装置１ａが、階層的に等価モデルを生成する場合の一例について説明する。

図９は、第２の実施形態によるモデル解析装置１ａの一例を示すブロック図である。
図９に示すように、モデル解析装置１ａは、入力部１１と、表示部１２と、記憶部１３と、制御部２０ａとを備えている。
なお、この図において、上述した図１と同一の構成には同一の符号を付与して、その説明を省略する。

制御部２０ａは、例えば、ＣＰＵなどを含むプロセッサであり、モデル解析装置１ａを統括的に制御する。制御部２０ａは、設定処理部２１と、対象モデル処理部２２と、等価モデル生成部２３ａと、表示処理部２４とを備えている。

等価モデル生成部２３ａは、上述した第１の実施形態と同様に、入力データに対して解析対象モデルの出力データが出力されるように、等価モデルを生成する。但し、本実施形態では、等価モデル生成部２３ａは、要素マトリックスＭ１を拡張して、追加の最適化処理を実行する追加最適化処理の機能を有している。本実施形態では、等価モデル生成部２３ａは、階層的に等価モデルを生成する手法により、等価モデルを生成することが可能である。

等価モデル生成部２３ａは、例えば、利用者によって、要素マトリックスＭ１の構造（マトリックス構造）が、拡張された場合に、追加最適化処理を実行する。等価モデル生成部２３ａは、追加最適化処理として、拡張前の要素マトリックスＭ１の構造の処理要素の組み合わせ及びパラメータ値を維持しつつ、拡張された部分の処理要素の組み合わせ及びパラメータ値を選択し、入力データに対して解析対象モデルの出力データが出力されるように、最適化して等価モデルを生成する。

また、等価モデル生成部２３ａは、追加最適化処理を要素マトリックスＭ１の構造の複数階層に対して実行し、階層的に抽象化した等価モデルを生成する。ここで、図１０を参照して、本実施形態による階層的に等価モデルを生成する手法（追加最適化処理）について説明する。

図１０は、本実施形態における追加最適化処理を説明する図である。
本実施形態による階層的に等価モデルを生成する手法（追加最適化処理）では、例えば、図１０（ａ）に構成要素ＳＥを格子状に配列した要素マトリックスＭ１のような等価モデルを最終的に生成する場合に、等価モデル生成部２３ａは、まず、要素マトリックスＭ１の１行目に相当する第１の階層Ｍ１－１を最適化する（図１０（ｂ）参照）。

次に、等価モデル生成部２３ａは、図１０（ｃ）に示すように、最適化された第１の階層Ｍ１－１に、新たに第２の階層Ｍ１－２を拡張して追加し、等価モデルの最適化を実行する。ここで、等価モデル生成部２３ａは、第１の階層Ｍ１－１の処理要素の組み合わせ及びパラメータ値を維持しつつ、拡張された部分の処理要素の組み合わせ及びパラメータ値を選択して、等価モデルを追加で最適化する。

このようにして、等価モデル生成部２３ａは、新たに作成した構成要素ＳＥの組み合わせからなる下位の階層を順次追加していき（図１０（ｄ）参照）、追加した構成要素ＳＥを最適化して、最終的に図１０（ａ）に示すような要素マトリックスＭ１の構造の等価モデルを生成する。
また、等価モデル生成部２３ａは、初期モデル生成処理部２３１と、最適化処理部２３２と、追加最適化処理部２３３とを備える。

追加最適化処理部２３３は、上述した追加最適化処理を実行する。すなわち、追加最適化処理部２３３は、追加最適化処理を要素マトリックスＭ１の構造（マトリックス構造）の複数階層に対して実行し、階層的に抽象化した等価モデルを生成する。

次に、図１１を参照して、本実施形態によるモデル解析装置１ａの動作について説明する。
図１１は、本実施形態によるモデル解析装置１ａの動作の一例を示すフローチャートである。ここでは、上述した図７に示す例と同様に、予め解析対象モデルが指定されており、入出力データ記憶部１３３には、既に、解析対象モデルの入力データ及び出力データが記憶されているものとする。

図１１に示すように、モデル解析装置１ａは、まず、各種設定情報を設定する（ステップＳ２０１）。モデル解析装置１ａの設定処理部２１は、例えば、入力部１１か受け付けた入力情報に基づいて、等価モデルの構成の設定（例えば、入力端子部ＩＮ１、要素マトリックスＭ１、及び出力端子部ＯＵＴ１の構成）や、階層化の設定などを行う。

続く、ステップＳ２０２からステップＳ２０６までの処理は、上述した図７に示すステップＳ１０２からステップＳ１０６までの処理と同様であるため、ここではその説明を省略する。

なお、本実施形態では、ステップＳ２０５において、最適化処理部２３２は、１つの階層における終了条件に達したか否かを判定する。最適化処理部２３２は、終了条件に達した場合（ステップＳ２０５：ＹＥＳ）に、処理をステップＳ２０７に進める。

ステップＳ２０７において、追加最適化処理部２３３は、構成要素ＳＥを追加するか否かを判定する。すなわち、追加最適化処理部２３３は、要素マトリックスＭ１を、例えば、図１０（ｃ）のように拡張するか否かを判定する。追加最適化処理部２３３は、構成要素ＳＥを追加する場合（ステップＳ２０７：ＹＥＳ）に、処理をステップＳ２０８に進める。また、追加最適化処理部２３３は、構成要素ＳＥを追加しない場合（ステップＳ２０７：ＮＯ）に、処理を終了し、解析結果記憶部１３４が記憶する最終のモデルを等価モデルとする。

ステップＳ２０８において、追加最適化処理部２３３は、構成要素ＳＥを追加する。すなわち、追加最適化処理部２３３は、要素マトリックスＭ１を、例えば、図１０（ｃ）のように、階層を追加する拡張を行い、処理をステップＳ２０３に戻して、追加の最適化を実行させる。なお、この追加最適化処理では、すでに最適化されている要素マトリックスＭ１の構造の構成要素ＳＥ（処理要素の組み合わせ及びパラメータ値）を維持しつつ、拡張された階層の最適化が実行される。

以上説明したように、本実施形態によるモデル解析装置１ａは、要素記憶部１３１と、第１の実施形態と同様の等価モデルを生成する等価モデル生成部２３ａとを備える。
これにより、本実施形態によるモデル解析装置１ａは、第１の実施形態と同様の効果を奏し、解析対象モデル（予測モデル）のシステム構造を把握することができる。

また、本実施形態では、等価モデル生成部２３ａは、要素マトリックスＭ１の構造（マトリックス構造）が拡張された場合に、追加最適化処理を実行する。等価モデル生成部２３ａは、追加最適化処理として、拡張前の要素マトリックスＭ１の構造（マトリックス構造）の処理要素の組み合わせ及びパラメータ値（例えば、構成要素ＳＥ）を維持しつつ、拡張された部分の処理要素の組み合わせ及びパラメータ値を選択し、入力データに対して解析対象モデルの出力データが出力されるように、最適化して等価モデルを生成する。

これにより、本実施形態によるモデル解析装置１ａは、追加最適化処理を実行することで、等価モデルのモデル精度を向上させることができる。ここで、等価モデルのモデル精度とは、解析対象モデル（予測モデル）の出力に対する等価モデルの出力の精度を示している。

また、本実施形態では、等価モデル生成部２３ａは、追加最適化処理を要素マトリックスＭ１の構造（マトリックス構造）の複数階層に対して実行し、階層的に抽象化した等価モデルを生成する。

これにより、本実施形態によるモデル解析装置１ａは、階層的に抽象化した等価モデルを生成することで、等価モデルの構成において、モデルへの寄与度を明確にすることができ、さらに詳細なシステム構造を把握することができる。

図１２は、本実施形態における階層的に抽象化した等価モデルの生成例及び解析例を示す図である。
図１２に示す等価モデルは、５行×４列の要素マトリックスＭ１の構造であり、第１の階層モデルＰ_１（ｓ）～第５の階層モデルＰ_５（ｓ）の５段階に抽象化した等価モデルである。この場合、モデル精度は、第１の階層モデルＰ_１（ｓ）よりも第５の階層モデルＰ_５（ｓ）の方が高く、階層化が多い程、モデル精度は高くなる。また、モデルへの寄与度は、第５の階層モデルＰ_５（ｓ）よりも第１の階層モデルＰ_１（ｓ）の方が高く、階層化が低い程、モデルへの寄与度が高くなる。

これらのことから、本実施形態によるモデル解析装置１ａでは、各階層のモデルの構成要素ＳＥを確認することで、解析対象モデル（予測モデル）に寄与する要因を把握することができ、さらに詳細なシステム構造を把握することができる。また、本実施形態によるモデル解析装置１ａでは、階層化することでモデル精度を把握できるため、要求レベルに応じたモデルを決定することができる。

なお、本発明は、上記の各実施形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で変更可能である。
例えば、上記の各実施形態において、モデル解析装置１（１ａ）が、対象モデル記憶部１３２及び対象モデル処理部２２を備える例を説明したが、これに限定されるものではない。モデル解析装置１（１ａ）は、解析対象モデルの入力データ及び出力データを取得できればよく、対象モデル記憶部１３２及び対象モデル処理部２２を備えない形態であってもよい。

また、上記の各実施形態において、モデル解析装置１（１ａ）が、解析対象モデルがモデル全体がブラックボックス化されている例を説明したが、これに限定されるものではなく、解析対象モデルは、ブラックボックス化されている部分が一部分であってもよい。

また、上記の各実施形態において、モデル解析装置１（１ａ）は、記憶部１３の一部又は全部を外部（例えば、ネットワークを介して接続可能なサーバ装置など）に備え、外部から取得するようにしてもよい。

また、上記実施形態において、モデル解析装置１（１ａ）は、処理要素を格子状（マトリックス構造）に配置したが、これに限定されるものではなく、様々な配置をしてもよい。モデル解析装置１（１ａ）は、図１３に示すように、処理要素の配置をマトリックス構造でないようにしてもよい。

図１３（ａ）及び図１３（ｂ）に示す等価モデルは、モデル解析装置１（１ａ）が、マトリックス構造を用いない配置を適用した場合の等価モデルの構成例を示している。このような構成に場合に、等価モデル生成部２３（２３ａ）は、初期モデル生成処理として、要素記憶部１３１が記憶する複数種類の処理要素のうちから、処理要素及びパラメータ値を選択して初期モデルを生成する。そして、等価モデル生成部２３（２３ａ）は、最適化処理として、初期モデルの処理要素の組み合わせ及びパラメータ値を変更して、入力データに対して出力データが出力されるように、最適化して等価モデルを生成する。

また、等価モデル生成部２３ａは、追加最適化処理として、マトリックス構造が拡張された場合に、図１３（ａ）及び図１３（ｂ）に示す等価モデルの処理要素の組み合わせ及びパラメータ値を維持しつつ、拡張された部分の処理要素の組み合わせ及びパラメータ値を選択し、入力データに対して前記出力データが出力されるように、最適化して等価モデルを生成するを実行するようにしてもよい。

また、上記の各実施形態において、等価モデル生成部２３（２３ａ）は、遺伝的アルゴリズムを利用して、最適化して等価モデルを生成する例を説明したが、これに限定されるものではなく、他の手法を利用して、等価モデルを最適化してもよい。

また、上記の各実施形態において、作成される等価モデルは、必ずしも解析するモデルと完全に一致したモデルとは限らない。モデル解析装置１（１ａ）は、最適化処理の終了条件や追加される階層等により解析するモデルと等価モデルとの間に差異が生じることがある。モデル解析装置１（１ａ）は、この差異を許容できる範囲に収まるように終了条件等を設定するようにしてもよい。

また、上記の各実施形態において、モデル解析装置１（１ａ）は、１台の装置で構成する例を説明したが、複数の装置で構成されてもよい。

なお、上述したモデル解析装置１（１ａ）が備える各構成は、内部に、コンピュータシステムを有している。そして、上述したモデル解析装置１（１ａ）が備える各構成の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述したモデル解析装置１（１ａ）が備える各構成における処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。

また、「コンピュータシステム」は、インターネットやＷＡＮ、ＬＡＮ、専用回線等の通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ－ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。このように、プログラムを記憶した記録媒体は、ＣＤ－ＲＯＭ等の非一過性の記録媒体であってもよい。

また、記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部又は外部に設けられた記録媒体も含まれる。なお、プログラムを複数に分割し、それぞれ異なるタイミングでダウンロードした後にモデル解析装置１（１ａ）が備える各構成で合体される構成や、分割されたプログラムのそれぞれを配信する配信サーバが異なっていてもよい。さらに「コンピュータ読み取り可能な記録媒体」とは、ネットワークを介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ（ＲＡＭ）のように、一定時間プログラムを保持しているものも含むものとする。また、上記プログラムは、上述した機能の一部を実現するためのものであってもよい。さらに、上述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル（差分プログラム）であってもよい。

また、上述した機能の一部又は全部を、ＬＳＩ（Large Scale Integration）等の集積回路として実現してもよい。上述した各機能は個別にプロセッサ化してもよいし、一部、又は全部を集積してプロセッサ化してもよい。また、集積回路化の手法はＬＳＩに限らず専用回路、又は汎用プロセッサで実現してもよい。また、半導体技術の進歩によりＬＳＩに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。

１、１ａ モデル解析装置
１１ 入力部
１２ 表示部
１３ 記憶部
２０、２０ａ 制御部
２１ 設定処理部
２２ 対象モデル処理部
２３、２３ａ 等価モデル生成部
２４ 表示処理部
１３１ 要素記憶部
１３２ 対象モデル記憶部
１３３ 入出力データ記憶部
１３４ 解析結果記憶部
２３１ 初期モデル生成処理部
２３２ 最適化処理部
２３３ 追加最適化処理部
Ｍ１ 要素マトリックス
ＩＮ１ 入力端子部
ＯＵＴ１ 出力端子部
ＳＥ 構成要素

Claims (9)

1. 機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析装置であって、
   入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部と、
   前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成部と
   を備えることを特徴とするモデル解析装置。
2. 前記等価モデル生成部は、
   前記要素記憶部が記憶する複数種類の前記処理要素のうちから、前記処理要素及び前記パラメータ値を選択して初期モデルを生成する初期モデル生成処理と、
   前記初期モデルの前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する最適化処理と
   を実行する
   ことを特徴とする請求項１に記載のモデル解析装置。
3. 前記等価モデル生成部は、
   前記処理要素を格子状に配置したマトリックス構造であって、予め指定されたマトリックス構造に当てはめて、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、前記処理要素及び前記パラメータ値を選択して初期モデルを生成する初期モデル生成処理と、
   前記初期モデルの前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する最適化処理と
   を実行する
   ことを特徴とする請求項２に記載のモデル解析装置。
4. 前記等価モデル生成部は、
   前記マトリックス構造が拡張された場合に、拡張前の前記マトリックス構造の前記処理要素の組み合わせ及び前記パラメータ値を維持しつつ、拡張された部分の前記処理要素の組み合わせ及び前記パラメータ値を選択し、前記入力データに対して前記出力データが出力されるように、最適化して前記等価モデルを生成する追加最適化処理を実行する
   ことを特徴とする請求項３に記載のモデル解析装置。
5. 前記等価モデル生成部は、
   前記追加最適化処理を前記マトリックス構造の複数階層に対して実行し、階層的に抽象化した前記等価モデルを生成する
   ことを特徴とする請求項４に記載のモデル解析装置。
6. 前記等価モデル生成部は、
   前記予測モデルにおける前記入力データに対する前記出力データと、前記等価モデルにおける前記入力データに対する出力データとの差が最小になるように、前記処理要素の組み合わせ及び前記パラメータ値を決定する
   ことを特徴とする請求項１から請求項５のいずれか一項に記載のモデル解析装置。
7. 前記等価モデル生成部は、
   遺伝的アルゴリズムに基づいて、前記処理要素の組み合わせ及び前記パラメータ値を変更して、前記最適化処理を実行する
   ことを特徴とする請求項２から請求項５のいずれか一項に記載のモデル解析装置。
8. 機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析方法であって、
   等価モデル生成部が、前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成ステップ
   を含むことを特徴とするモデル解析方法。
9. 入力に対して所定の処理を行う処理要素と、当該処理要素が処理する際に用いるパラメータの取り得る範囲を規定したパラメータ要素とを対応付けて、複数種類の前記処理要素を記憶する要素記憶部を備え、機械学習によるモデル生成方法を用いて生成された入力データから出力データを予測する予測モデルを解析するモデル解析装置のコンピュータに、
   前記予測モデルに対する入力データ及び出力データを学習データとして、前記入力データに対して前記出力データが出力されるように、前記要素記憶部が記憶する複数種類の前記処理要素のうちから、選択した前記処理要素の組み合わせ、及び選択した前記処理要素に対応する前記パラメータ要素の前記取り得る範囲内のパラメータ値を決定して、前記予測モデルと等価の処理を行う等価モデルを生成する等価モデル生成処理を
   実行させるためのプログラム。

Images