JP2020027319A - 評価装置、評価方法、および、コンピュータプログラム - Google Patents

Abstract

【課題】 目的変数と説明変数との共変関係を表す構造モデルを評価する評価装置において、目的変数と説明変数との対応関係が示された対応データに適合する構造モデルを機械的に選択することが可能な技術を提供する。【解決手段】 評価装置は、製品の品質を表す目的変数と製品の製造工程で得られる製品に関連する説明変数との対応関係が示された対応データを用いて構造学習によって構造モデルを作成するモデル作成部と、対応データを用いて目的変数を既知とした条件付きガウス分布の最尤推定値を算出する最尤推定値演算部と、最尤推定値に基づいて構造モデルを評価するモデル評価部と、を備える。【選択図】 図１

Description

本発明は、構造モデルを評価する評価装置、評価方法、および、構造モデルをコンピュータに評価させるコンピュータプログラムに関する。

従来、多変数間の共変関係を求める方法として共分散構造分析が知られている。共分散構造分析では、他変数間の相関係数を算出可能な分散共分散行列を求める。しかしながら、分散共分散行列の要素の数は、変数の数の二乗のオーダーで大きくなるため、変数の数が大きくなると分散共分散行列を求める労力が大きくなる。そこで、より少ない変数で構造モデルを作成することが可能なスパース構造学習が提案されている。例えば、特許文献１には、グラフィカルラスーのアルゴリズムを用いたスパース構造学習におけるガウス分布の最尤推定値と構造モデルの特性を規定する罰則値との関係が開示されている。また、特許文献２には、精度行列がスパース行列となる解を得るためグラフィカルラスーのアルゴリズムによって条件付きガウス分布を算出する技術が開示されている。

Ｓｐａｒｓｅ ｉｎｖｅｒｓｅ ｃｏｖａｒｉａｎｃｅ ｅｓｔｉｍａｔｉｏｎ ｗｉｔｈ ｔｈｅ ｇｒａｐｈｉｃａｌ ｌａｓｓｏ；Ｊ．Ｆｒｉｅｄｍａｎ， Ｔ．Ｈａｓｔｉｅ， ａｎｄ Ｒ．Ｔｉｂａｈｉｒａｎｉ：Ｂｉｏｓｔａｔｉｓｔｉｃｓ． ２００８ Ｊｕｌ；９（３）：４３２−４４１． 特願２００８−２４７３８０号公報

しかしながら、特許文献１では、スパース構造学習によって求められたスパース行列がテストデータと合っているかどうかを基準に罰則値を設定するため、変数の数が多くなると複数の変数のうち特定の一の変数と他の変数との共変関係を示す偏相関係数が全てゼロとなる場合がある。このため、一の変数と他の変数との共変関係を求めるためには、構造モデルを恣意的に選択する必要がある。また、特許文献２では、多次元時系列データの異常度を計算することを目的としており、罰則値の設定方法について言及されていない。このため、多次元時系列データに最も適合する構造モデルを恣意的に選択する必要がある。

本発明は、上述した課題を解決するためになされたものであり、製品の品質を表す目的変数と、製品の製造工程で得られる製品に関連する説明変数との共変関係を表す構造モデルを評価する評価装置において、目的変数と説明変数との対応関係が示された対応データに適合する構造モデルを機械的に選択することが可能な技術を提供することを目的とする。

本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。

（１）本発明の一形態によれば、製品の品質を表す目的変数と、前記製品の製造工程で得られる前記製品に関連する説明変数との共変関係を表す構造モデルを評価する評価装置が提供される。評価装置は、前記目的変数と前記説明変数との対応関係が示された対応データを用いて構造学習によって前記構造モデルを作成するモデル作成部と、前記対応データを用いて前記目的変数を既知とした条件付きガウス分布の最尤推定値を算出する最尤推定値演算部と、前記最尤推定値に基づいて前記構造モデルを評価するモデル評価部と、を備える。

この構成によれば、製品の品質を表す変数である目的変数を既知とした条件付きガウス分布の最尤推定値に基づいて構造モデルを評価することができる。これにより、目的変数と製品の製造工程で得られる製品に関連する説明変数との共変関係を良好に表した構造モデルを機械的に選択することができる。

（２）上記形態の評価装置において、前記モデル作成部は、前記構造モデルの特性に関連する特性値を変更することによって前記対応データから前記特性値の異なる複数の前記構造モデルを作成し、前記最尤推定値演算部は、前記特性値の異なる前記複数の構造モデルのそれぞれについて、条件付きガウス分布の尤度推定値を算出するとともに、算出した複数の前記尤度推定値のうちの最大値を前記最尤推定値とし、前記モデル評価部は、前記最尤推定値に対応する前記構造モデルを選択することによって前記構造モデルを評価してもよい。この構成によれば、モデル作成部は、特性値を変更することによって複数の構造モデルを作成することができる。最尤推定値演算部は、複数の構造モデルのそれぞれについて算出される条件付きガウス分布の尤度推定値のうちの最大値を最尤推定値とする。これにより、モデル評価部は、特性値が異なる複数の構造モデルのうちから目的変数と説明変数との共変関係を良好に表した構造モデルを機械的に選択することができる。

（３）上記形態の評価装置において、前記モデル作成部は、前記対応データのうち、前記最尤推定値演算部がテストデータとして用いる部分を除いた残りの前記対応データの一部を学習用データとして用いて前記構造モデルを作成し、前記最尤推定値演算部は、前記テストデータを用いて、前記構造モデルにおける前記条件付きガウス分布の対数尤度を算出し、前記モデル作成部は、前記対応データのうち、前記最尤推定値演算部がテストデータとして用いる部分が異なる複数パターンの学習用データによって、一つの前記特性値において複数の前記構造モデルを作成し、前記最尤推定値演算部は、一つの前記特性値において前記複数の構造モデルのそれぞれに対応する対数尤度を算出し、算出した前記対数尤度の平均値を前記尤度推定値としてもよい。この構成によれば、モデル作成部は、いわゆる交差検証を用いて、一つの特性値において複数の構造モデルを作成することができる。最尤推定値演算部は、一つの特性値において複数算出される対数尤度に基づいて当該対数尤度の平均値を算出し、尤度推定値とする。モデル評価部は、当該尤度推定値を構造モデルの選択基準とする。これにより、一つの特性値に対して算出される尤度推定値は、複数の対数尤度の平均値であるため、尤度推定値の精度を向上することができる。したがって、構造モデルの選択性の精度を向上することができる。

（４）上記形態の評価装置において、前記特性値とは、前記構造モデルの特性としてのスパース性を決定する罰則値であり、前記モデル作成部は、前記罰則値を変更することによって前記複数の構造モデルを作成してもよい。この構成によれば、共分散構造選択などの構造学習に比べ、対応データに適合する最適な構造モデルを求める労力を低減することができる。

（５）上記形態の評価装置において、前記構造モデルには、前記目的変数と前記説明変数との偏相関係数が示されており、前記モデル作成部は、前記特性値を変化させることによって、前記構造モデルを作成するとともに、作成した前記構造モデルの前記偏相関係数が、全て０であるか否かを判定し、前記最尤推定値演算部は、前記モデル作成部が前記目的変数と前記説明変数との偏相関係数が全て０であると判定すると、前記最尤推定値の算出を開始してもよい。この構成によれば、モデル作成部は、目的変数と説明変数との偏相関係数が０となり変化しなくなると、構造モデルの作成を中止する。これにより、モデル作成部が作成する構造モデルの数を少なくすることができるため、対応データに適合する最適な構造モデルを求める労力を低減することができる。

（６）上記形態の評価装置において、前記目的変数を既知とした条件付きガウス分布は、多変量正規分布の確率密度関数を既知の前記目的変数で積分して得られる周辺分布の密度関数によって多変量正規分布の確率密度関数を除したものであってもよい。

なお、本発明は、種々の態様で実現することが可能であり、例えば、評価方法、評価システム、評価をコンピュータに実行させるコンピュータプログラム、コンピュータプログラムを配布するためのサーバ装置、コンピュータプログラムを記憶した一時的でない記憶媒体等などの形態で実現することができる。

評価装置の概略構成を示した説明図である。 評価方法の対応データの処理を説明する説明図である。 評価装置の構造学習の結果を説明するグラフィカルモデルである。 評価方法の手順を示すフローチャートである。 最終罰則値の決定方法を説明する特性図である。 評価装置の効果を説明する特性図である。 評価装置の効果を説明するグラフィカルモデルである。

＜第一実施形態＞
図１は、第一実施形態における評価装置１の概略構成を示した説明図である。評価装置１は、製品の品質を表す品質変数と製品の製造工程で得られる製品に関連する工程変数との対応関係が示された対応データを用いて構造学習を行うとともに、当該構造学習によって作成される「構造モデル」としての精度行列を評価する。

ここで、品質変数とは、例えば、製品の重さ、製品の所定の部位の厚みや製品の表面状態など、主に完成した製品を検査することによって得られる製品の特性を表す数値である。また、工程変数とは、例えば、製品の加工工程において製品に加えられる圧力の大きさや加圧時間、製品の加熱工程における製品の加熱温度や加熱時間など、製造工程において当該製品の製造の際に測定される工程条件に関連する数値である。対応データは、一つ以上の品質変数と、当該一つ以上の品質変数に対応する工程変数とが一つのセットとなっている変数データセットを複数有している。本実施形態では、変数データセットは、複数の品質変数と、複数の品質変数に対応する複数の工程変数とが一つのセットとなっているとする。

評価装置１は、モデル作成部１０、最尤推定値演算部２０、モデル評価部３０、記憶部４０、および、図示しない通信部を備える。モデル作成部１０、最尤推定値演算部２０、および、モデル評価部３０は、ＣＰＵがＲＯＭに格納されているコンピュータプログラムをＲＡＭに展開し実現される。記憶部４０は、ハードディスク、フラッシュメモリ、メモリカードなどで構成されている。

モデル作成部１０は、標準化処理部１１、分割処理部１２、罰則値設定部１３、構造学習処理部１４、および、偏相関係数判定部１５を備える。モデル作成部１０は、対応データを用いて、構造学習によって精度行列を作成する。

標準化処理部１１は、標準化された対応データを作成する。具体的には、標準化処理部１１は、評価装置１の外部から入力される対応データに含まれる複数の品質変数のそれぞれのデータを、平均が０であり分散が１となるように変換する。また、標準化処理部１１は、対応データに含まれる複数の工程変数を、平均が０であり分散が１となるように変換する。

分割処理部１２は、標準化された対応データを分割する。具体的には、分割処理部１２は、標準化された対応データを、それぞれが少なくとも一つ以上の変数データセットを有する複数のグループに分割する。

図２は、分割処理部１２における対応データの分割処理を説明する説明図である。分割処理部１２は、図２に示すように、標準化された対応データＤｓｔｄをＫ個（Ｋは、２以上の整数）の分割データＤｄに分割する。このとき、Ｋ個の分割データＤｄのそれぞれには、Ｎ個（Ｎは、１以上の整数）の変数データセットが含まれる。

分割処理部１２では、さらに、Ｋ個の分割データＤｄを、後述する構造学習に用いるため、テストデータと学習用データとに分類する。具体的には、図２に示すように、Ｋ個の分割データＤｄのうち、一つの分割データＤｄをテストデータとし、テストデータとして分割データＤｄを除く残りの分割データＤｄを学習用データとする（例えば、図２の点線Ｐｔ１、Ｐｔ２参照）。分割処理部１２は、このようにして、Ｋ個の分割データＤｄのそれぞれがテストデータとなり、テストデータとなった分割データＤｄを除く残りの分割データＤｄが学習用データとなるよう分割データＤｄを分類する。

罰則値設定部１３は、スパース構造学習においてスパース性を規定する「特性値」としての罰則値を設定する。罰則値設定部１３は、後述する構造モデルの評価方法において任意の罰則値を仮の罰則値として設定する。また、罰則値設定部１３は、仮の罰則値を変更可能である。

構造学習処理部１４は、分割処理部１２が作成する学習用データおよび罰則値設定部１３が設定する仮の罰則値を用いて構造学習を行う。これにより、構造学習処理部１４は、学習用データに基づく精度行列を求めることができる。

図３は、評価装置１の構造学習の結果を説明するグラフィカルモデルである。図３には、構造学習を行った結果、求められた精度行列から導かれる多変数間の相関関係が表されている。図３では、一例として、八つの変数ａ、ｂ、ｃ、ｄ、ｅ、ｆ、ｇ、ｈの相関を示すグラフィカルモデルを示している。図３に示す二つの変数をつなぐ直線の太さは、二つの変数間の相関関係の強さを表している。

例えば、図３（ａ）に示すように、罰則値Ｐｖ１を用いての構造学習では、変数ａと変数ｄ、変数ｂと変数ｃ、および、変数ｅと変数ｈとの間に、比較的強い相関があることが分かる。しかしながら、罰則値が罰則値Ｐｖ１とは異なる罰則値Ｐｖ２を用いての構造学習では作成される構造モデルが異なり、図３（ｂ）に示すように、八つの変数間の相関関係が図３（ａ）のグラフィカルモデルに比べ変化する。また、罰則値が罰則値Ｐｖ１、Ｐｖ２とは異なる罰則値Ｐｖ３を用いての構造学習でも同様に構造モデルが異なり、図３（ｃ）に示すように、八つの変数間の相関関係が図３（ａ）、（ｂ）のグラフィカルモデルに比べ変化する。構造学習処理部１４は、このようにして、複数の構造モデルを作成する。

偏相関係数判定部１５は、構造学習処理部１４が求めた精度行列に基づいて、品質変数に含まれる目的変数と説明変数との偏相関係数の全てが０であるか否かを判定する。偏相関係数判定部１５の判定結果は、罰則値設定部１３と最尤推定値演算部２０とに出力される。

ここで、対応データに含まれる目的変数と説明変数とについて説明する。
目的変数とは、一つの変数データセットに含まれる品質変数の一つの変数を指す。具体的には、例えば、図３で用いた八つの変数ａ、ｂ、ｃ、ｄ、ｅ、ｆ、ｇ、ｈのうち品質変数を変数ａ、ｂとし、工程変数を変数ｃ、ｄ、ｅ、ｆ、ｇ、ｈとしたとき、目的変数は変数ａまたは変数ｂとなる。
また、説明変数とは、一つの変数データセットに含まれる複数の品質変数と複数の工程変数とのうち目的変数となった品質変数を除く残りの品質変数および工程変数を指す。具体的には、例えば、図３で用いた八つの変数ａ、ｂ、ｃ、ｄ、ｅ、ｆ、ｇ、ｈのうち品質変数を変数ａ、ｂとし、工程変数を変数ｃ、ｄ、ｅ、ｆ、ｇ、ｈとしたとき、変数ａを目的変数とすると、変数ｂ、ｃ、ｄ、ｅ、ｆ、ｇ、ｈが説明変数となる。また、変数ｂを目的変数とすると、変数ａ、ｃ、ｄ、ｅ、ｆ、ｇ、ｈが説明変数となる。

最尤推定値演算部２０は、対数尤度演算部２１、尤度平均値演算部２２、および、罰則値取得部２３を備える。最尤推定値演算部２０は、対応データを用いて、目的変数を既知とした条件付きガウス分布の対数尤度を算出し、対数尤度に基づいて最終罰則値を決定する。

対数尤度演算部２１は、複数の分割データのうち学習用データを除く残りの分割データをテストデータとして用いて、目的変数を既知とした条件付きガウス分布の対数尤度を算出する。ここで、目的変数を既知とした条件付きガウス分布とは、多変量正規分布の確率密度関数を既知の目的変数で積分して得られる周辺分布の密度関数によって多変量正規分布の確率密度関数を除したものである。

尤度平均値演算部２２は、複数の対数尤度から、対数尤度の平均値を尤度推定値として算出する。

罰則値取得部２３は、偏相関係数判定部１５が目的変数と説明変数との偏相関係数の全てが０であると判定するとき、「最尤推定値」としての尤度推定値の最大値に対応する仮の罰則値を最終罰則値として取得する。罰則値取得部２３は、取得した最終罰則値をモデル評価部３０に出力する。

モデル評価部３０は、罰則値取得部２３が出力する最終罰則値によって規定される構造モデルを精度行列記憶部４３から選択する。

記憶部４０は、分割データ記憶部４１、罰則値記憶部４２、精度行列記憶部４３、対数尤度記憶部４４、および、尤度平均値記憶部４５を備える。

分割データ記憶部４１は、分割処理部１２が出力する分割データを記憶する。分割データ記憶部４１は、記憶する分割データを、罰則値設定部１３、構造学習処理部１４、および、対数尤度演算部２１に出力する。

罰則値記憶部４２は、罰則値設定部１３が出力する仮の罰則値を記憶する。罰則値記憶部４２は、記憶する仮の罰則値を構造学習処理部１４および対数尤度演算部２１に出力する。

精度行列記憶部４３は、構造学習処理部１４が出力する精度行列および説明変数の平均値を記憶する。精度行列記憶部４３は、記憶する精度行列を、偏相関係数判定部１５、対数尤度演算部２１、および、モデル評価部３０に出力する。

対数尤度記憶部４４は、対数尤度演算部２１が出力する目的変数を既知とした条件付きガウス分布の対数尤度を記憶する。対数尤度記憶部４４は、記憶する対数尤度を尤度平均値演算部２２に出力する。

尤度平均値記憶部４５は、尤度平均値演算部２２が出力する対数尤度の平均値を記憶する。尤度平均値記憶部４５は、記憶する対数尤度の平均値を罰則値取得部２３に出力する。

図４は、評価装置１による構造モデルの評価方法の手順を示すフローチャートである。本実施形態では、評価装置１による構造モデルの評価処理を、交差検証およびグラフィカルラスーによる構造推定を適用して行う。

ステップＳ１１において、対応データを標準化する。具体的には、標準化処理部１１は、評価装置１の外部から入力される対応データを標準化する。本実施形態では、対応データは、Ｍ種類（Ｍは、２以上の整数、図２参照）の変数のそれぞれについて（Ｎ×Ｋ）個の値を有するデータである。すなわち、対応データは、（Ｎ×Ｋ）個のＭ次元ベクトルから構成されているデータであるともいえる。ここで、対応データを構成するＭ次元ベクトルのうちｎ（ｎは、１以上（Ｎ×Ｋ）以下の整数）番目のＭ次元ベクトルを、便宜的に以下の式（１）のように示す。

次に、ステップＳ１２において、標準化された対応データをＫ個に分割する。具体的には、図２に示したように、分割処理部１２は、標準化された対応データを、Ｋ個の分割データに分割する。このとき、Ｋ個の分割データのそれぞれには、１番からＫ番までの番号が付される。

次に、ステップＳ１３において、仮の罰則値を設定する。具体的には、罰則値設定部１３は、仮の罰則値を設定する。本実施形態では、最初のステップＳ１３では、仮の罰則値として、ほとんど０の比較的小さい値を設定する。

次に、ステップＳ１４において、１番目の分割データをテストデータとし、残りの分割データを学習用データとする（図２のパターンＰｔ１参照）。具体的には、分割データ記憶部４１は、ステップＳ１２で作成された分割データの１番目の分割データをテストデータとし、１番目の分割データを除いた残りの２番目の分割データからＫ番目の分割データまでを学習用データとする。すなわち、学習用データは、（Ｋ-１）個の分割データからなる。

次に、ステップＳ１５において、学習用データを用いてグラフィカルラスーによる構造推定を実施し、学習用データにおける精度行列Λおよび説明変数の平均値ｍを算出する。具体的には、構造学習処理部１４は、分割データ記憶部４１に記憶されている学習用データを用いてグラフィカルラスーによる構造推定を実施する。このとき、２番目の分割データからＫ番目の分割データまでの学習用データにおける精度行列Λおよび説明変数の平均値ｍは、精度行列記憶部４３に記憶される。なお、ステップＳ１５において算出される説明変数の平均値ｍは、以下の式（２）のように示される。

次に、ステップＳ１６において、直前のステップＳ１５において算出された精度行列Λおよび説明変数の平均値ｍならびにテストデータとしての１番目の分割データを用いて、目的変数を既知とする条件付きガウス分布の対数尤度Ｌ（ｘ）を算出する。具体的には、対数尤度演算部２１は、以下の式（３）によって、テストデータに含まれるＮ個の変数データセットに対して、説明変数が与えられたときの条件付きガウス分布の対数尤度Ｌ（ｘ）を算出する。

すなわち、

このとき、テストデータに含まれるｎ番目の変数データセットの確率分布は、以下の式（４）で表される。

また、目的変数が変数データセットの１番目、すなわち、ｘ₁に格納されているとき、Ｐ（ｘ⁽ⁿ⁾）をｘ₁で積分して得られる周辺分布Ｐ（ｘ_-1 ⁽ⁿ⁾）は、以下の式（５）で表される。

なお、

であり、

である。
算出された条件付きガウス分布の対数尤度Ｌ（ｘ）は、対数尤度記憶部４４に記憶される。

次に、ステップＳ１７において、ステップＳ１４においてテストデータとした分割データが、Ｋ番目の分割データであるか否かを判定する。具体的には、分割データ記憶部４１は、テストデータとした分割データが、Ｋ番目の分割データであるか否かを判定する。１回目のステップＳ１４の後では、テストデータとされた分割データは１番目であるため、ステップＳ１８に進む。

次に、ステップＳ１８において、ステップＳ１４でテストデータとした分割データの番号を一つ繰り上げる。

次に、ステップＳ１４において、２番目の分割データをテストデータとし、残りの分割データを学習用データとする。具体的には、分割データ記憶部４１は、ステップＳ１２で作成された分割データの２番目の分割データをテストデータとし、２番目の分割データを除いた１番目の分割データおよび３番目の分割データからＫ番目の分割データまでを１回目のステップＳ１４において学習用データとした学習用データとはパターンが異なる学習用データとする。

次に、ステップＳ１５において、ステップＳ１４において学習用データとした１番目の分割データおよび３番目の分割データからＫ番目の分割データまでの分割データを用いて、グラフィカルラスーによる構造推定を実施し、学習用データにおける精度行列Λおよび説明変数の平均値ｍを算出する。このとき、１番目の分割データおよび３番目の分割データからＫ番目の分割データまでの学習用データにおける精度行列Λおよび説明変数の平均値ｍは、精度行列記憶部４３に記憶される。

次に、ステップＳ１６において、直前のステップＳ１５において算出された精度行列Λおよび説明変数の平均値ｍならびにテストデータとしての２番目の分割データを用いて目的変数を既知とする条件付きガウス分布の対数尤度Ｌ（ｘ）を算出する。算出された条件付きガウス分布の対数尤度Ｌ（ｘ）は、対数尤度記憶部４４に記憶される。

次に、ステップＳ１７において、ステップＳ１４においてテストデータとした分割データが、Ｋ番目の分割データであるか否かを判定する。具体的には、分割データ記憶部４１は、テストデータとした分割データが、Ｋ番目の分割データであるか否かを判定する。２回目のステップＳ１４の後では、テストデータとされた分割データは２番目であるため、ステップＳ１８に進む。本実施形態では、このようにして、Ｋ個の分割データのそれぞれを１番目から順番にテストデータとして、ステップＳ１４〜Ｓ１７を繰り返す。ステップＳ１４〜Ｓ１７をＫ回繰り返したのち、ステップＳ１７において、分割データ記憶部４１がテストデータとした分割データが、Ｋ番目の分割データであると判定すると、ステップＳ１９に進む。

次に、ステップＳ１９において、尤度推定値を算出する。具体的には、尤度平均値演算部２２は、対数尤度記憶部４４が記憶しているＫ個の対数尤度Ｌ（ｘ）を用いて対数尤度Ｌ（ｘ）の平均値を尤度推定値として算出する。平均値が算出されるＫ個の対数尤度Ｌ（ｘ）は、一つの仮の罰則値においてステップＳ１４からステップＳ１８の繰り返しによって算出された対数尤度Ｌ（ｘ）である。尤度平均値演算部２２が算出した尤度推定値は、対応する仮の罰則値とともに尤度平均値記憶部４５に記憶される。

次に、ステップＳ２０において、目的変数と説明変数との偏相関係数が全て０であるか否かを判定する。具体的には、偏相関係数判定部１５は、精度行列記憶部４３に記憶されている精度行列Λに基づいて、精度行列Λに示されている目的変数と説明変数との偏相関係数が全て０であるか否かを判定する。目的変数と説明変数との偏相関係数が全て０でないと判定されると、ステップＳ２１に進む。目的変数と説明変数との偏相関係数が全て０であると判定されると、ステップＳ２２に進む。

ステップＳ２０において目的変数と説明変数との偏相関係数が全て０でないと判定されると、ステップＳ２１において、仮の罰則値を更新する。具体的には、罰則値設定部１３は、仮の罰則値を大きくする。

ステップＳ２１の次に、ステップＳ１３において、ステップＳ２１で更新された仮の罰則値を、新たな仮の罰則値として設定する。ステップＳ１３以降、目的変数と説明変数との偏相関係数が全て０であると判定されるまでステップＳ１４からステップＳ２０までを繰り返す。

ステップＳ２０において目的変数と説明変数との偏相関係数が全て０であると判定されると、モデル作成部１０における構造モデルの作成を中止する。これは、目的変数と説明変数との偏相関係数が全て０になると、これ以上罰則値を大きくしても目的変数と説明変数との偏相関係数は０のままであるためである。

次に、ステップＳ２２において、尤度推定値の最大値に対応する仮の罰則値を求める。具体的には、罰則値取得部２３は、尤度平均値記憶部４５が記憶している複数の尤度推定値のうち当該平均値の最大値に対応する罰則値を、最終罰則値とする。

図５は、本実施形態における最終罰則値の決定方法を説明する特性図である。図５には、ステップＳ２２において得られる尤度推定値と罰則値との関係を示す特性図の一例である。図５に示す特性図を実際に作成するにあたって、交差検証法として１０分割交差検証法を用いた。図５に示すように、ここでは、尤度推定値は、罰則値が０．０１から増加していくと、大きくなっていくが、罰則値が０．０５を超えると小さくなる。図５に示す特性図から、尤度推定値が最大となるときの罰則値０．０５を最終罰則値と決定することとなる（図５の点線Ｐｖ４）。

次に、ステップＳ２３において、ステップＳ２２で取得した最終罰則値によって規定される構造モデルを選択する。具体的には、モデル評価部３０は、精度行列記憶部４３に記憶されている複数の精度行列のうち最終罰則値に対応する精度行列を選択する。これにより、目的変数と説明変数との共変関係を良好に表す構造モデルが機械的に選択される。

図６は、評価装置１の効果を説明する特性図であって、評価装置１による評価方法を適用した適用例の特性図である。図６は、Ｋａｒｅｎ Ｓａｃｈｓ ｅｔ ａｌ，Ｓｃｉｅｎｃｅ，２００５，５２３−５２９に記載されている細胞シグナル伝達のネットワーク分析のデータ（以下、「参考データ」という）を図４に示すフローチャートに適用し、尤度推定値と罰則値との関係を示している。図６では、目的変数を変数ＰＫＡとした場合（図６の点線Ｇｋ）、および、目的変数を変数Ｐｌｃｇとした場合（図６の二点鎖線Ｇｌ）の尤度推定値と罰則値との関係を示している。また、図６には、目的変数を設定しない場合を比較例として、参考データを交差検証およびグラフィカルラスーによる構造推定を適用したときに算出されるガウス分布の対数尤度の平均値と罰則値との関係を、実線Ｇ５で示している。

また、図７は、本実施形態の評価装置１による評価方法を適用した適用例のグラフィカルモデルである。図７には、図６に示す三つの場合における変数間の相関を、グラフィカルモデルで示している。図７（ａ）、（ｂ）は、比較例のグラフィカルモデルである。図７（ｃ）は、目的変数を変数ＰＫＡとした場合のグラフィカルモデルである。図７（ｄ）は、目的変数を変数Ｐｌｃｇとした場合のグラフィカルモデルである。

比較例の場合、図７（ａ）に示すように、罰則値が０．００１のときには、各変数は全ての変数との間につながりがあることがわかる。
また、比較例でのガウス分布の対数尤度の平均値の最大値に対応する罰則値は、図６に示すように、０．５１となる（図６の点線Ｐｖ５）。この罰則値によって規定される構造モデルのグラフィカルモデルである図７（ｂ）を見ると、各変数間のつながりがほとんど切断されているため、例えば、変数ＰＫＡとつながりのある変数を特定することは困難である。

一方、目的変数を変数ＰＫＡとした場合、尤度推定値の最大値に対応する罰則値は、図６に示すように、０．０８となる（図６の点線Ｐｖｋ）。この罰則値によって規定される構造モデルのグラフィカルモデルである図７（ｃ）を見ると、目的変数である変数ＰＫＡにつながる変数Ａｋｔや変数Ａｋｔにつながる変数Ｅｒｋが認められる。

また、目的変数を変数Ｐｌｃｇとした場合、尤度推定値の最大値に対応する罰則値は、図６に示すように、０．１０となる（図６の点線Ｐｖｌ）。この罰則値によって規定される構造モデルのグラフィカルモデルである図７（ｄ）を見ると、目的変数である変数Ｐｌｃｇにつながる変数ＰＩＰ３や変数ＰＩＰ３につながる変数ＰＩＰ２が認められる。

以上説明した、本実施形態の評価装置１によれば、製品の品質を表す品質変数の一つである目的変数を既知とした条件付きガウス分布の最尤推定値に基づいて構造モデルを評価することができる。これにより、モデル評価部３０は、目的変数と製品の製造工程で得られる製品に関連する説明変数との共変関係を良好に表す構造モデルを機械的に選択することができる。したがって、構造モデルの選択において恣意性を排除することができるため、構造学習結果の信頼性を向上することができる。

また、本実施形態の評価装置１によれば、モデル作成部１０は、罰則値を変更することによって複数の構造モデルを作成することができる。最尤推定値演算部２０は、複数の構造モデルのそれぞれについて算出される条件付きガウス分布の尤度推定値のうちの最大値を最尤推定値とする。これにより、モデル評価部３０は、複数の構造モデルのうちから対応データに適合する最適な構造モデルを機械的に選択することができる。

また、本実施形態の評価装置１によれば、モデル作成部１０は、いわゆる交差検証を用いて、一つの罰則値において複数の構造モデルを作成することができる。最尤推定値演算部２０は、一つの罰則値において複数算出される対数尤度に基づいて当該対数尤度の平均値を算出し、尤度推定値とする。モデル評価部３０は、当該尤度推定値を構造モデルの選択基準とする。これにより、一つの罰則値に対して算出される尤度推定値は、複数の対数尤度から算出されているため、尤度推定値の精度を向上することができる。したがって、構造モデルの選択性の精度を向上することができる。

また、本実施形態の評価装置１によれば、スパース構造学習によって構造モデルを求めているため、共分散構造分析などの構造学習に比べ、対応データに適合する最適な構造モデルを求める労力を低減することができる。

また、本実施形態の評価装置１によれば、モデル作成部１０は、目的変数と説明変数との偏相関係数が０となり変化しなくなると、構造モデルの作成を中止する。これにより、モデル作成部１０が作成する構造モデルの数を少なくすることができるため、対応データに適合する最適な構造モデルを求める労力を低減することができる。

＜本実施形態の変形例＞
本発明は上記の実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。

［変形例１］
上述の実施形態では、評価装置１の一例として、モデル作成部１０は、標準化処理部１１、分割処理部１２、罰則値設定部１３、構造学習処理部１４、および、偏相関係数判定部１５を備えるとした。また、最尤推定値演算部２０は、対数尤度演算部２１、尤度平均値演算部２２、および、罰則値取得部２３を備えるとした。しかしながら、モデル作成部１０と、最尤推定値演算部２０とは、これらの構成に限定されない。モデル作成部１０は、対応データを用いて、構造学習によって精度行列を作成すればよい。最尤推定値演算部２０は、対応データを用いて、目的変数を既知とした条件付きガウス分布の対数尤度の平均値を複数演算し、当該平均値の最大値を選択すればよい。また、評価装置１の構成は、種々の変形が可能である。例えば、評価装置は、ネットワーク上に配置された複数の装置が協働することによって構成されてもよい。

［変形例２］
上述の実施形態では、目的変数と説明変数との共変関係を表す構造モデルを、精度行列であるとした。しかしながら、構造モデルは、精度行列に限定されない。目的変数と説明変数との共変関係を表すものであればよい。

［変形例３］
上述の実施形態では、「最尤推定値」として、条件付きガウス分布の対数尤度の平均値であるとした。しかしながら、「最尤推定値」はこれに限定されない。条件付きガウス分布の対数尤度の最大値、対数尤度の標準偏差の最小値、あるいは、平均値と標準偏差とを組み合わせた指標であってもよいし、これら以外であってもよい。

［変形例４］
上述の実施形態では、評価装置１による構造モデルの評価処理を、交差検証を適用して行うとした。しかしながら、評価装置１による構造モデルの評価処理は、これに限定されない。罰則値を変更して複数の構造モデルを作成してもよい。

［変形例５］
上述の実施形態では、「特性値」を、構造モデルのスパース性を決定する罰則値であるとした。しかしながら、「特性値」は、これに限定されない。構造モデルの特性を決定する値であればよい。

［変形例６］
上述の実施形態では、モデル作成部１０は、偏相関係数判定部１５が目的変数と説明変数との偏相関係数の全てが０であると判定すると、構造モデルの作成を中止するとした。しかしながら、偏相関係数判定部１５はなくてもよい。また、モデル作成部１０は、偏相関係数が０を除く所定の値となるまで、または、偏相関係数の減少率が所定の値以上となるまで構造モデルの作成をおこなってもよい。

［変形例７］
上述の実施形態では、構造学習の方法としてグラフィカルラスーのアルゴリズムを用いた。しかしながら、構造学習の方法は、グラフィカルラスーに限定されない。例えば、共分散構造選択などの構造学習によって精度行列が得られればよい。

以上、実施形態、変形例に基づき本態様について説明してきたが、上記した態様の実施の形態は、本態様の理解を容易にするためのものであり、本態様を限定するものではない。本態様は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得るとともに、本態様にはその等価物が含まれる。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することができる。

１…評価装置
１０…モデル作成部
１１…標準化処理部
１２…分割処理部
１３…罰則値設定部
１４…構造学習処理部
１５…偏相関係数判定部
２０…最尤推定値演算部
２１…対数尤度演算部
２２…尤度平均値演算部
２３…罰則値取得部
３０…モデル評価部
４０…記憶部
４１…分割データ記憶部
４２…罰則値記憶部
４３…精度行列記憶部
４４…対数尤度記憶部
４５…尤度平均値記憶部

Claims (8)

1. 製品の品質を表す目的変数と、前記製品の製造工程で得られる前記製品に関連する説明変数との共変関係を表す構造モデルを評価する評価装置であって、
   前記目的変数と前記説明変数との対応関係が示された対応データを用いて、構造学習によって前記構造モデルを作成するモデル作成部と、
   前記対応データを用いて、前記目的変数を既知とした条件付きガウス分布の最尤推定値を算出する最尤推定値演算部と、
   前記最尤推定値に基づいて前記構造モデルを評価するモデル評価部と、を備える、
   評価装置。
2. 請求項１に記載の評価装置であって、
   前記モデル作成部は、前記構造モデルの特性に関連する特性値を変更することによって前記対応データから前記特性値の異なる複数の前記構造モデルを作成し、
   前記最尤推定値演算部は、前記特性値の異なる前記複数の構造モデルのそれぞれについて、条件付きガウス分布の尤度推定値を算出するとともに、算出した複数の前記尤度推定値のうちの最大値を前記最尤推定値とし、
   前記モデル評価部は、前記最尤推定値に対応する前記構造モデルを選択することによって前記構造モデルを評価する、
   評価装置。
3. 請求項２に記載の評価装置であって、
   前記モデル作成部は、前記対応データのうち、前記最尤推定値演算部がテストデータとして用いる部分を除いた残りの前記対応データの一部を学習用データとして用いて前記構造モデルを作成し、
   前記最尤推定値演算部は、前記テストデータを用いて、前記構造モデルにおける前記条件付きガウス分布の対数尤度を算出し、
   前記モデル作成部は、前記対応データのうち、前記最尤推定値演算部がテストデータとして用いる部分が異なる複数パターンの学習用データによって、一つの前記特性値において複数の前記構造モデルを作成し、
   前記最尤推定値演算部は、一つの前記特性値において前記複数の構造モデルのそれぞれに対応する対数尤度を算出し、算出した前記対数尤度の平均値を前記尤度推定値とする、
   評価装置。
4. 請求項２または請求項３に記載の評価装置であって、
   前記特性値とは、前記構造モデルの特性としてのスパース性を決定する罰則値であり、
   前記モデル作成部は、前記罰則値を変更することによって前記複数の構造モデルを作成する、
   評価装置。
5. 請求項１から請求項４のいずれか一項に記載の評価装置であって、
   前記構造モデルには、前記目的変数と前記説明変数との偏相関係数が示されており、
   前記モデル作成部は、前記特性値を変化させることによって、前記構造モデルを作成するとともに、作成した前記構造モデルの前記偏相関係数が、全て０であるか否かを判定し、
   前記最尤推定値演算部は、前記モデル作成部が前記目的変数と前記説明変数との偏相関係数が全て０であると判定すると、前記最尤推定値の算出を開始する、
   評価装置。
6. 請求項１から請求項５のいずれか一項に記載の評価装置であって、
   前記目的変数を既知とした条件付きガウス分布は、多変量正規分布の確率密度関数を既知の前記目的変数で積分して得られる周辺分布の密度関数によって多変量正規分布の確率密度関数を除したものである、
   評価装置。
7. 製品の品質を表す目的変数と、前記製品の製造工程で得られる前記製品に関連する説明変数との共変関係を表す構造モデルを評価する評価方法であって、
   前記目的変数と前記説明変数との対応関係が示された対応データを用いて、構造学習によって前記構造モデルを作成するモデル作成工程と、
   前記対応データを用いて、前記目的変数を既知とした条件付きガウス分布の最尤推定値を算出する最尤推定値演算工程と、
   前記最尤推定値に基づいて前記構造モデルを評価するモデル評価工程と、を備える、
   評価方法。
8. 製品の品質を表す目的変数と、前記製品の製造工程で得られる前記製品に関連する説明変数との共変関係を表す構造モデルをコンピュータに評価させるコンピュータプログラムであって、
   前記目的変数と前記説明変数との対応関係が示された対応データを用いて、構造学習によって前記構造モデルを作成するモデル作成機能と、
   前記対応データを用いて、前記目的変数を既知とした条件付きガウス分布の最尤推定値を算出する最尤推定値演算機能と、
   前記最尤推定値に基づいて前記構造モデルを評価するモデル評価機能と、を前記コンピュータに実行させる、
   コンピュータプログラム。

Images