JP7326872B2 - 推定装置、推定方法及びプログラム - Google Patents

Description

特許法第３０条第２項適用 平成３０年９月５日北海道大学において開催された社団法人電気学会 電子・情報・システム部門大会（Ｃ部門大会）で発表

特許法第３０条第２項適用 平成３１年３月６日熊本大学において開催された第６回制御部門マルチシンポジウムで発表

本発明は、推定装置、推定方法及びプログラムに関する。

近年、製造プラントや種々の建物、一般家庭の家屋、店舗等において、様々な設備の状態を多数のセンサで計測することが行われている。この計測結果は、例えばサンプリングタイミングが揃えられて、等サンプリング周期の２次元の状態データとして得られる。

また、組立加工工程やバッチプロセス工程においては、組立・加工やバッチ処理の結果として所定の製品又は半製品が繰り返し生産又は製造される。このように生産又は製造された製品（又は半製品）は、その品質や特性等の状態が複数の項目に関して計測又は測定される。したがって、この場合、等サンプリング周期ではないものの、製品（又は半製品）を１サンプルとして、複数の項目に関して計測された製品（又は半製品）毎の２次元の状態データが得られる。

上述したような状態データは、複数の状態変数の組で表されるデータを１つのサンプルとして、複数のサンプルで構成された２次元のデータ形式で表現される。１サンプルは、例えば、設備の状態を多数のセンサで計測した場合には１回のサンプリングタイミングで計測された計測結果を表すデータであり、製品（又は半製品）の状態を計測等された場合には１つの製品（又は半製品）の計測結果を表すデータである。

ここで、状態データの一例を図１（ａ）に示す。図１（ａ）に示す状態データは、状態変数Ｘ_１，Ｘ_２，・・・，Ｘ_Ｎの組で表されるデータを１つのサンプルとして、Ｋ個のサンプルで構成された２次元データである。なお、各状態変数Ｘ_１，Ｘ_２，・・・，Ｘ_Ｎは、例えば、センシング対象の温度や圧力、流量等のセンシング結果を表す変数である。また、サンプル番号は各サンプルを表す番号であり、以降では変数ｋで表すと共に、サンプル番号ｋのサンプルを単に「サンプルｋ」とも表す。更に、以降では、サンプルｋ（ｋ＝１，・・・，Ｋ）における状態変数Ｘ_ｎ（ｎ＝１，・・・，Ｎ）の値（状態変数値）をｘ_ｋｎと表す。

ところで、各サンプルに対して、当該サンプルの品質（例えば、品質を表す或る特性を計測した計測結果や製品の正常又は異常等）を表すデータも得られる場合がある。この場合、上述した状態データの各サンプルに対して、これらの各サンプルの品質を表す品質データが関連付けられることが多い。品質データの一例を図１（ｂ）に示す。図１（ｂ）に示す品質データは、図１（ａ）に示す状態変数データを構成する各サンプルの品質（図１（ｂ）に示す例では「濃度」）を示すデータで構成されたデータである。なお、サンプルの品質を表す変数を品質変数として、以降ではサンプル番号ｋの品質変数の値（品質変数値）をｙ_ｋと表す。

このように状態データと品質データとの両方が得られる場合に、各サンプルｋの各状態変数値ｘ_ｋｎ（ｎ＝１，・・・，Ｎ）と品質変数値ｙ_ｋとの関係を調べて、品質に関係する状態変数Ｘ_ｎ（すなわち、品質の良否に影響がある状態変数Ｘ_ｎ）を推定することが従来から行われている。これは、品質に関係する状態変数Ｘ_ｎの値を調整等することで、品質の改善や劣化防止等が期待できるためである。

これに対して、複数の入力変数を入力として正常又は異常を示す出力変数を出力するモデル（例えば、重回帰モデルや決定木モデル等）において、複数の入力変数のうち、出力変数に対して影響度の高い入力変数の推定する手法が提案されている（例えば、非特許文献１乃至３を参照）。

Koichi Fujiwara, Hiroshi Sawada. Manabu Kano, "Input variable selection for PLS modeling using nearest correlation spectral clustering", Chemometrics and Intelligent Laboratory Systems, Volume 118, 15 August 2012, Pages 109-119 中川 義明, 加藤 学, 中川繁政, 「統計的アプローチによる鉄鋼製品品質改善」, 日本設備管理学会誌 19(4), Pages 220-227, 2008-2-28 石橋 直人, 飯坂 達也, 樺澤 明裕, 勝野 徹, 斎藤 俊哉, 大野 健, 「デマンドレスポンスを考慮した需要予測へのJITモデリングの適用」, 電気学会論文誌Ｂ, Vol.134, No.1, pp24-31

しかしながら、従来の手法では、例えば、想定外の外乱や偶発的に発生するノイズ等の影響により推定精度が低下する場合があった。また、或る変数が品質に関係があると推定されたとしても、物理的知見との整合性が不明確であったり、当該変数が推定された根拠が不明であったりする場合があった。このため、ユーザは、品質の改善や劣化防止等を効果的に行うことができない場合があった。

本発明の実施の形態は、上記の点に鑑みてなされたもので、複数の状態変数の中から品質に関係する状態変数を高い精度で推定することを目的とする。

上記目的を達成するため、本発明の実施の形態は、サンプル数及び状態変数の個数をそれぞれ行及び列とする行列で表される状態データと、該状態データに関連付けられる品質データとを用いて、前記状態変数のうち、前記品質データが表す品質に関係する状態変数を推定する推定装置であって、前記状態データの互いに異なる列の組み合わせ毎に、該組み合わせに対応する１以上の列ベクトルを抽出する抽出手段と、前記抽出手段により抽出された列ベクトルから前記品質データを予測するための所定の予測モデルの精度を表す第１の指標値と、前記組み合わせに対応する１以上の状態変数の値を前記品質が向上するように変更する場合における容易性を表す第２の指標値との少なくとも一方を算出する算出手段と、前記算出手段により算出された前記第１の指標値又は／及び前記第２の指標値に対応する状態変数を出力する出力手段と、を有することを特徴とする。

複数の状態変数の中から品質に関係する状態変数を高い精度で推定することを目的とする。

状態データ及び品質データの一例を説明するための図である。 第一の実施形態に係る推定装置の一例の機能構成を示す図である。 第一の実施形態に係る推定処理の一例を示すフローチャートである。 出力画面の一例を示す図である。 ２次元散布図の一例を示す図である。 ３次元散布図の一例を示す図である。 従来手法との比較例を示す図である。 ２変数間の相関と品質改善方向との関係の一例を説明するための図である。 第二の実施形態に係る推定装置の一例の機能構成を示す図である。 第二の実施形態に係る推定処理の一例を示すフローチャートである。 効果の一例を説明するための図である。 一実施形態に係る推定装置のハードウェア構成の一例を示す図である。

以下、本発明の各実施形態について、図面を参照しながら詳細に説明する。

［第一の実施形態］
第一の実施形態では、状態データの複数の状態変数Ｘ_ｎの中から品質に対する影響が大きい１以上の状態変数を推定する推定装置１０について説明する。

ここで、状態データは、上述したように、サンプルｋ（ｋ＝１，・・・，Ｋ）毎の各状態変数Ｘ_ｎ（ｎ＝１，・・・，Ｎ）の値により構成される。すなわち、状態データは、例えば、ｘ_ｋｎを要素とするＫ×Ｎ行列で表されるデータである。このような状態データは、対象（例えば、製造プラント内の設備や建物内の設備、バッチプロセスで生産等される製品（又は半製品）等）の状態を表すデータである。なお、状態変数Ｘ_ｎとしては、対象に応じて、当該対象の何等かの状態を表す任意の変数（例えば、温度を表す変数、圧力を表す変数、流量を表す変数等）を採用することができる。

以降では、Ｋ×Ｎ行列の状態データをＸと表し、状態データＸにおけるｎ列目を表すベクトルをｘ_ｎ＝（ｘ_１ｎ，・・・，ｘ_Ｋｎ）^ｔと表す。したがって、状態データＸは、Ｘ＝［ｘ_１ ｘ_２ ・・・ ｘ_Ｎ］と表すことができる。なお、ｔは転置を表す。

また、品質データは、上述したように、サンプルｋ（ｋ＝１，・・・，Ｋ）毎の品質変数値ｙ_ｋにより構成される。すなわち、品質データは、例えば、ｙ_ｋを要素とするベクトルで表されるデータである。このような品質データは、対象の品質を表すデータである。以降では、このベクトルをｙ＝（ｙ_１，・・・，ｙ_Ｋ）^ｔと表す。

ここで、品質変数値ｙ_ｋは、連続値であっても離散値（特に、「０」又は「１」のいずれかを取り得る２値や、「－１」又は「１」のいずれかを取り得る２値）であってもよい。例えば、或る状態における対象の特性等を品質とする場合は、品質変数値ｙ_ｋは連続値となることが多い。一方、或る状態における対象の正常又は異常を品質とする場合は、品質変数値ｙ_ｋは「０」又は「１」の２値（又は、「－１」又は「１」の２値）となる場合が多い。

なお、状態変数は、例えば、「説明変数」、「運転変数」、「操作変数」等と称されてもよい。また、品質変数は、例えば、「目的変数」等と称されてもよい。

＜推定装置１０の機能構成＞
まず、本実施形態に係る推定装置１０の機能構成について、図２を参照しながら説明する。図２は、第一の実施形態に係る推定装置１０の一例の機能構成を示す図である。

図２に示すように、本実施形態に係る推定装置１０は、推定処理部１１０と、記憶部１２０とを有する。

記憶部１２０は、状態データＸと、この状態データＸに関連付けられた品質データｙとを記憶する。ここで、状態データＸに関連付けられた品質データｙとは、Ｋ×Ｎ行列の状態データＸの各行ｋ（すなわち、各サンプルｋ）に対応する品質変数値ｙ_ｋで構成される品質データｙのことである。言い換えれば、状態データＸと品質データｙとが関連付けられている場合とは、同一のサンプルｋ（ｋ＝１，・・・，Ｋ）に関する状態変数値ｘ_ｋｎ（ｎ＝１，・・・，Ｎ）及び品質変数値ｙ_ｋとで状態データＸ及び品質データｙがそれぞれ構成されている場合のことである。

推定処理部１１０は、複数の状態変数Ｘ_ｎの中から品質に対する影響が大きい１以上の状態変数を推定するための推定処理を行う。ここで、推定処理部１１０には、抽出部１１１と、モデル作成部１１２と、指標値算出部１１３と、ソート部１１４と、出力部１１５とが含まれる。

抽出部１１１は、状態変数Ｘ_ｎのインデックスを表す変数をｉ，ｊ（ただし、ｉ＜ｊ）として、ｉ及びｊの組み合わせ毎に、状態変数Ｘ_ｉに対応するベクトルｘ_ｉ＝（ｘ_１ｉ，・・・，ｘ_Ｋｉ）^ｔと、状態変数Ｘ_ｊに対応するベクトルｘ_ｊ＝（ｘ_１ｊ，・・・，ｘ_Ｋｊ）^ｔとを、記憶部１２０に記憶されている状態データＸから抽出する。

モデル作成部１１２は、抽出部１１１により抽出されたｘ_ｉ及びｘ_ｊを用いて、品質データｙを予測する予測モデルｆ（ｘ_ｉ，ｘ_ｊ）を作成する。ここで、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）としては、品質データｙを予測可能な任意の教師有りモデルを用いることができる。例えば、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）としては、線形の重回帰モデル、非線形のニューラルネットワーク、サポートベクトル回帰等を用いることができる。

指標値算出部１１３は、モデル作成部１１２により作成されたｆ（ｘ_ｉ，ｘ_ｊ）間で品質の予測精度を比較するための指標値Ｐ_ｉｊを算出する。そして、指標値算出部１１３は、指標値Ｐ_ｉｊを記憶部１２０に保存する。

ソート部１１４は、ｉ及びｊの全ての組み合わせに対して指標値Ｐ_ｉｊが算出された場合、記憶部１２０に記憶されている指標値Ｐ_ｉｊを昇順又は降順のいずれかでソートする。

出力部１１５は、ソート部１１４によりソートされた指標値Ｐ_ｉｊのうちの上位Ｌ件の指標値Ｐ_ｉｊのインデックス（ｉ，ｊ）を出力する。なお、出力部１１５は、これらの上位Ｌ件の指標値Ｐ_ｉｊを任意の出力先に出力すればよい。このような出力先としては、例えば、記憶部１２０、ディスプレイ等の表示装置、通信ネットワークを介して接続される他の装置等が挙げられる。

なお、推定装置１０としては、例えば、ＰＣ（パーソナルコンピュータ）、ＰＬＣ（Programmable Logic Controller）、ＭＥＳ（Manufacturing Execution System）として機能する装置又はシステム、スマートフォン、タブレット端末等を用いることができる。

＜推定処理＞
次に、本実施形態に係る推定処理について、図３を参照しながら説明する。図３は、本実施形態に係る推定処理の一例を示すフローチャートである。

まず、推定処理部１１０は、変数ｉを１に初期化する（ステップＳ１０１）。次に、推定処理部１１０は、変数ｊをｉ＋１とする（ステップＳ１０２）。

次に、推定処理部１１０の抽出部１１１は、状態変数Ｘ_ｉに対応するベクトルｘ_ｉと、状態変数Ｘ_ｊに対応するベクトルｘ_ｊとを、記憶部１２０に記憶されている状態データＸから抽出する（ステップＳ１０３）。すなわち、抽出部１１１は、状態変数Ｘ_ｎの互いに異なるインデックスｉ，ｊ（ただし、ｉ＜ｊ）の組み合わせ（ｉ，ｊ）に対応するベクトルの組（ｘ_ｉ，ｘ_ｊ）を状態データＸから抽出する。

次に、推定処理部１１０のモデル作成部１１２は、上記のステップＳ１０３で抽出されたｘ_ｉ及びｘ_ｊを用いて、品質データｙを予測する予測モデルｆ（ｘ_ｉ，ｘ_ｊ）を作成する（ステップＳ１０４）。すなわち、モデル作成部１１２は、品質変数値ｙ_ｋを予測する関数をｆ_ｋ、ｆ＝（ｆ_１，・・・，ｆ_Ｋ）として、以下の式（１）で表される予測モデルを作成する。

ここで、本明細書のテキストでは、予測値を表す記号であるハット「＾」を、便宜上、文字の頭上ではなく、文字の直前に記載する。例えば、上記の式（１）の左辺を「＾ｙ^{（ｉ，ｊ）}」と表す。なお、＾ｙ^{（ｉ，ｊ）}は、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）による品質データｙの予測値である。また、＾ｙ^{（ｉ，ｊ）}＝（＾ｙ_１ ^{（ｉ，ｊ）}＝ｆ_１（ｘ_ｉ，ｘ_ｊ），・・・，＾ｙ_Ｋ ^{（ｉ，ｊ）}＝ｆ_Ｋ（ｘ_ｉ，ｘ_ｊ））^ｔである。

次に、推定処理部１１０の指標値算出部１１３は、上記のステップＳ１０４で作成された予測モデルｆ（ｘ_ｉ，ｘ_ｊ）の指標値Ｐ_ｉｊを算出し、この算出した指標値Ｐ_ｉｊを記憶部１２０に保存する（ステップＳ１０５）。ここで、指標値Ｐ_ｉｊとしては、各（ｉ，ｊ）に対して作成された予測モデルｆ（ｘ_ｉ，ｘ_ｊ）間で品質の予測精度を比較可能な任意の指標値を採用することができる。

例えば、品質変数値ｙ_ｋが連続値である場合には、指標値Ｐ_ｉｊとして、例えば、品質データｙと予測モデルｆ（ｘ_ｉ，ｘ_ｊ）との誤差の二乗和（誤差二乗和）等を採用することができる。誤差二乗和の場合、指標値Ｐ_ｉｊは以下の式（２）で表される。

なお、誤差二乗和は、残差平方和等とも称される。

また、品質変数値ｙ_ｋが２値（「０」又は「１」や「－１」又は「１」等）である場合には、指標値Ｐ_ｉｊとして、例えば、混同行列（Confusion Matrix）によって計算可能な指標値を採用することができる。例えば、品質変数値ｙ_ｋが「０」又は「１」の２値を取り得る場合、まず、ＴＰ^{（ｉ，ｊ）}、ＦＰ^{（ｉ，ｊ）}、ＦＮ^{（ｉ，ｊ）}及びＴＮ^{（ｉ，ｊ）}を以下のように定義する。なお、０をｎｅｇａｔｉｖｅ、１をｐｏｓｉｔｉｖｅとする。

・ＴＰ^{（ｉ，ｊ）}：ｙ_ｋ＝１、かつ、＾ｙ_ｋ ^{（ｉ，ｊ）}＝１であるｋの個数
・ＦＰ^{（ｉ，ｊ）}：ｙ_ｋ＝０、かつ、＾ｙ_ｋ ^{（ｉ，ｊ）}＝１であるｋの個数
・ＦＮ^{（ｉ，ｊ）}：ｙ_ｋ＝１、かつ、＾ｙ_ｋ ^{（ｉ，ｊ）}＝０であるｋの個数
・ＴＮ^{（ｉ，ｊ）}：ｙ_ｋ＝０、かつ、＾ｙ_ｋ ^{（ｉ，ｊ）}＝０であるｋの個数
このとき、指標値Ｐ_ｉｊは、例えば、Ｐ_ｉｊ＝ＦＰ^{（ｉ，ｊ）}＋ＦＮ^{（ｉ，ｊ）}とすればよい。又は、例えば、Ｐ_ｉｊ＝ＴＰ^{（ｉ，ｊ）}＋ＴＮ^{（ｉ，ｊ）}としてもよい。なお、ＦＰ^{（ｉ，ｊ）}＋ＦＮ^{（ｉ，ｊ）}又はＴＰ^{（ｉ，ｊ）}＋ＴＮ^{（ｉ，ｊ）}をＫで割った値をＰ_ｉｊとしてもよい。

次に、推定処理部１１０は、変数ｊに１を加算する（ステップＳ１０６）。次に、推定処理部１１０は、ｊ＞Ｎであるか否かを判定する（ステップＳ１０７）。

ステップＳ１０７でｊ＞Ｎでないと判定された場合（すなわち、ｊ≦Ｎであると判定された場合）、推定処理部１１０は、ステップＳ１０３に戻る。これにより、ｊ＝ｉ＋１，・・・，Ｎに対して、上記のステップＳ１０３～ステップＳ１０６が繰り返し実行される。

一方で、ステップＳ１０７でｊ＞Ｎであると判定された場合、推定処理部１１０は、ｉに１を加算する（ステップＳ１０８）次に、推定処理部１１０は、ｉ＞Ｎ－１であるか否かを判定する（ステップＳ１０９）。

ステップＳ１０９でｉ＞Ｎ－１でないと判定された場合（すなわち、ｉ≦Ｎ－１であると判定された場合）、推定処理部１１０は、ステップＳ１０２に戻る。これにより、ｉ＝１，・・・，Ｎ－１に対して、上記のステップＳ１０２～ステップＳ１０８が繰り返し実行される。したがって、ｉ，ｊ（ただし、ｉ＜ｊ）の全ての組み合わせ（ｉ，ｊ）に対して、上記のステップＳ１０３～ステップＳ１０６が繰り返し実行される。

ｉ，ｊ（ただし、ｉ＜ｊ）の全ての組み合わせ（ｉ，ｊ）に対して、上記のステップＳ１０３～ステップＳ１０６が繰り返し実行されることで、記憶部１２０には、Ｎ（Ｎ－１）／２個の指標値Ｐ_１１，Ｐ_１２，・・・，Ｐ_１Ｎ，Ｐ_２１，Ｐ_２２，・・・，Ｐ_２Ｎ，・・・，Ｐ_{（Ｎ－１）Ｎ}が保存される。

一方で、ステップＳ１０９でｉ＞Ｎ－１であると判定された場合、推定処理部１１０のソート部１１４は、記憶部１２０に記憶されている指標値Ｐ_ｉｊを昇順又は降順にソートする（ステップＳ１１０）。ここで、昇順又は降順のいずれでソートするかは上記のステップＳ１０５でどのような指標値を採用したかによって異なる。すなわち、指標値Ｐ_ｉｊが大きい程、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）の予測精度が高い場合には、これらの指標値Ｐ_ｉｊを降順でソートする。一方で、指標値Ｐ_ｉｊが小さい程、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）の予測精度が高い場合には、これらの指標値Ｐ_ｉｊを昇順でソートする。

具体的には、例えば、指標値として誤差二乗和が採用された場合には、ソート部１１４は、各指標値Ｐ_ｉｊを昇順でソートする。また、例えば、指標値としてＰ_ｉｊ＝ＦＰ^{（ｉ，ｊ）}＋ＦＮ^{（ｉ，ｊ）}が採用された場合には、ソート部１１４は、各指標値Ｐ_ｉｊを昇順でソートする。一方で、例えば、指標値としてＰ_ｉｊ＝ＴＰ^{（ｉ，ｊ）}＋ＴＮ^{（ｉ，ｊ）}が採用された場合には、ソート部１１４は、各指標値Ｐ_ｉｊを降順でソートする。

これにより、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）の予測精度が高い順に、指標値Ｐ_ｉｊがソートされる。なお、予測モデルｆ（ｘ_ｉ，ｘ_ｊ）の予測精度が高いとは、品質データｙを予測する際に、当該予測に対するｘ_ｉ及びｘ_ｊの影響が大きいことを意味する。

最後に、推定処理部１１０の出力部１１５は、上記のステップＳ１１０でソートされた指標値Ｐ_ｉｊのうちの上位Ｌ件の指標値Ｐ_ｉｊのインデックス（ｉ，ｊ）を出力する（ステップＳ１１１）。すなわち、出力部１１５は、上位Ｌ件の指標値Ｐ_ｉｊのインデックス（ｉ_１，ｊ_１），（ｉ_２，ｊ_２），・・・，（ｉ_Ｌ，ｊ_Ｌ）を出力する。ここで、Ｌは予め設定されるパラメータである。

これにより、品質に関係する状態変数Ｘ_ｎ（すなわち、品質に影響する状態変数Ｘ_ｎ）のインデックスの組（ｉ_１，ｊ_１），（ｉ_２，ｊ_２），・・・，（ｉ_Ｌ，ｊ_Ｌ）が得られる。したがって、ユーザは、品質に関係する状態変数Ｘ_ｎの組み合わせの列

を得ることができる。

なお、ｉに関する上位Ｌ件のｉ_１，ｉ_２，・・・，ｉ_Ｌには、互いに同一となるインデックスも含み得る。同様に、ｊに関する上位Ｌ件のｊ_１，ｊ_２，・・・，ｊ_Ｌには、互いに同一となるインデックスも含み得る。

以上のように、本実施形態に係る推定装置１０は、状態データＸと、この状態データＸと関連付けられる品質データｙとを入力として、品質に関係する状態変数Ｘ_ｎの複数の組み合わせを出力することができる。このように、本実施形態に係る推定装置１０は、品質に関係する状態変数Ｘ_ｎの組み合わせを推定することができる。

このとき、本実施形態に係る推定装置１０は、互いに異なるｘ_ｉ及びｘ_ｊ毎に品質データｙを予測する予測モデルｆ（ｘ_ｉ，ｘ_ｊ）を作成した上で、この予測モデルｆ（ｘ_ｉ，ｘ_ｊ）に関する所定の指標値Ｐ_ｉｊを比較することで、状態変数Ｘ_ｎの組み合わせを推定する。このため、本実施形態に係る推定装置１０によれば、品質に対する影響が大きい状態変数Ｘ_ｎの組み合わせ（言い換えれば、品質要因である状態変数Ｘ_ｎの組み合わせ）を得ることができる。

したがって、本実施形態に係る推定装置１０によって出力された状態変数Ｘ_ｎの組み合わせは品質に対する影響が明確であり、物理的な知見と整合している可能性が高く、ユーザは、品質の改善や劣化防止等を効果的に行うことができるようになる。

なお、本実施形態に係る推定装置１０は、互いに異なる２つの状態変数Ｘ_ｎの組み合わせを出力したが、これに限られず、互いに異なる３つ以上の状態変数Ｘ_ｎの組み合わせを出力してもよいし、１つの状態変数Ｘ_ｎのみを出力してもよい。例えば、互いに異なる３つの状態変数Ｘ_ｎの組み合わせを出力する場合、状態変数Ｘ_ｎのインデックスを表す変数をｉ，ｊ，ｍとして、これらｉ，ｊ，ｍの組み合わせ（ｉ，ｊ，ｍ）毎に、品質データｙを予測する予測モデルｆ（ｘ_ｉ，ｘ_ｊ，ｘ_ｍ）を作成し、指標値Ｐ_ｉｊｍを算出すればよい。

また、本実施形態に係る推定装置１０によって出力された組み合わせに含まれる各状態変数Ｘ_ｎについて、品質に対する影響度の大きさに応じて順位付けをしてもよい。すなわち、各組み合わせ（Ｘ_ｉ，Ｘ_ｊ）に対して、Ｘ_ｉ＞Ｘ_ｊ，Ｘ_ｉ＝Ｘ_ｊ又はＸ_ｉ＜Ｘ_ｊのいずれかを特定した上で、特定した結果を出力してもよい。この特定は、例えば、品質データｙを予測する予測モデルｆ（ｘ_ｉ）と、品質データｙを予測する予測モデルｆ（ｘ_ｊ）とを作成した上で、これらの予測モデルｆ（ｘ_ｉ）及びｆ（ｘ_ｊ）間で指標値を比較することで行うことができる。

ここで、上記のステップＳ１１１では、例えば、図４に示す画面（以降、「出力画面」と表す。）１０００がディスプレイ等に出力（表示）されてもよい。図４に示す出力画面１０００には、上位Ｌ件の指標値Ｐ_ｉｊのインデックス（ｉ，ｊ）と、インデックス（ｉ，ｊ）それぞれの変数名と、指標値と、インデックス（ｉ，ｊ）の変数の散布図へのリンクボタン１１００とが含まれる。

例えば、図４に示す出力画面１０００の１行目（Ｎｏ１）では、変数番号１（変数名：入口温度）と変数番号２（変数名：入口圧力）との指標値が４５（つまり、Ｐ_１２＝４５）であることが表示されている。同様に、２行目（Ｎｏ２）では、変数番号１（変数名：入口温度）と変数番号３（変数名：出口温度）との指標値が５８（つまり、Ｐ_１３＝５８）であることが表示されている。以降も同様である。

このように、図４に示す出力画面１０００では、例えば、指標値の昇順に、変数番号（インデックス）の組と変数名の組とが表示される。また、図４に示す出力画面１０００において、ユーザが散布図へのリンクボタン１１００を押下することで、出力部１１５により、当該リンクボタン１１００に対応する変数同士の相関を表す散布図が表示される。

例えば、図５（ａ）～図５（ｃ）に示す２次元散布図が表示される。図５（ａ）～図５（ｃ）に示す２次元散布図では、横軸を変数番号１の変数、縦軸を変数番号２の変数とした場合における散布図（つまり、変数番号１の変数値と変数番号２の変数値との組み合わせをプロットした図）である。

また、これら散布図中の各点は、例えば、正常（ＯＫ）又は異常（ＮＧ）を表すラベル（例えば、品質変数値そのもの又は品質変数値に応じた値）が付与されている場合にはラベルの値に応じた色（又は、ラベル値に応じた表示態様）で表示される。また、散布図中に、正常・異常を判別するモデル（予測モデル）が表す直線（このような直線等は「判別境界」とも称される。）も表示される。これにより、ユーザは、変数間の関係や正常・異常の関係を視覚的及び感覚的に容易に把握することができるようになる。また、ユーザは、物理的知見との整合性を判断する際にも容易に判断することが可能となる。なお、図７に示す例では、正常・異常を判別するモデル（予測モデル）が直線で表されているが、直線に限られず、曲線であってもよい。

更に、図５（ａ）～図５（ｃ）に示すように、変数番号１の変数と変数番号２の変数との間の混同行列（Confusion Matrix）が表示されてもよい。

ここで、図５（ａ）～図５（ｃ）では２つの変数の相関を表す散布図を示したが、例えば、図６に示すように、３つの変数の相関を３次元散布図で表示してもよい。これにより、ユーザは、３つの変数間の関係や正常・異常の関係を視覚的及び感覚的に容易に把握することができるようになる。また、ユーザは、物理的知見との整合性を判断する際にも容易に判断することが可能となる。なお、図６に示す例では、正常・異常を判別するモデル（予測モデル）が平面で表されているが、平面に限られず、曲面であってもよい。なお、これらの平面や曲面は判別境界である。

なお、上記の図６に示す３次元散布図では、例えば、ユーザによるマウス操作等によって、散布図を回転表示させることができてもよい。同様に、図５（ａ）～図５（ｃ）や図６に示す散布図は、拡大表示や縮小表示等ができてもよい。

＜従来手法との比較例＞
ここで、従来手法との比較例について説明する。或る製品１台ずつの製造条件及び状態を表す２０個の状態変数と、当該製品の品質として良品又は不良品のいずれかを示す品質変数とを用いて、本実施形態に係る推定装置１０が実行する手法（本実施形態の手法）と、従来手法とを比較する。従来手法としては、相関法と、ＰＬＳ－Ｂｅｔａと、ＰＬＳ－ＶＩＰと、ＰＣＡ－ＬＤＡと、決定木の変数重要度とを用いて、状態変数のうちの上位３変数を出力した。

なお、相関法、ＰＬＳ－Ｂｅｔａ及びＰＬＳ－ＶＩＰについては、例えば、上記の非特許文献１を参照されたい。また、ＰＣＡ－ＬＤＡについては、例えば、上記の非特許文献２を参照されたい。更に、決定木の変数重要度については、例えば、上記の非特許文献３を参照されたい。

ここで、２０個の状態変数について、品質に対する影響が高い順に変数番号（インデックス）が１、２、３、・・・、２０であるものとする。したがって、正解変数番号は１、２、３であるものとする。このとき、従来手法と本実施形態の手法との比較例を図７に示す。図７は、従来手法との比較例を示す図である。

図７に示すように、従来手法では３変数全てが正解しているものは無いのに対して、本実施形態の手法では３変数全てが正解している。したがって、本実施形態の手法では、従来手法と比較して、品質に関係する状態変数が高い精度で得られることがわかる。

［第二の実施形態］
上述したように、第一の実施形態では、品質に対する影響が高い状態変数の組を推定することができる。このため、これら推定された状態変数を操作することで、品質改善（例えば、製造される製品の品質を不良品から良品に改善する等）を図ることが可能となる。

しかしながら、推定された状態変数間に相関がある場合には、品質改善が困難な場合がある。例えば、図８（ａ）に示すように、２つの状態変数Ｘ_ｉ及びＸ_ｊを相関に沿って操作することで品質改善が可能な場合には、容易に品質改善を図ることができる。一方で、例えば、図８（ｂ）に示すように、品質改善のためには状態変数Ｘ_ｉ及びＸ_ｊを相関から外れた方向に操作する必要がある場合には、品質改善を図ることが困難となる。

したがって、品質改善を考慮した場合、図８（ａ）に示したような状態変数間の相関に沿って品質改善が可能な状態変数の組をユーザに提示することが好ましい。このことは、品質改善方向と、状態変数間の相関の方向とができるだけ平行になるような状態変数の組（つまり、品質データｙを予測する予測モデルｆの判別境界と、状態変数間の相関の方向とができるだけ垂直になるような状態変数の組）をユーザに提示することが好ましい、と言い換えることができる。これは、品質改善方向と、状態変数間の相関の方向とができるだけ平行である方が、これらの状態変数の値を品質改善方向に操作し易いためである。

そこで、第二の実施形態では、品質改善も考慮して、品質に対する影響が高い状態変数の組を推定する場合について説明する。なお、第二の実施形態でも、第一の実施形態と同様に、主に、２つの状態変数の組を推定する場合について説明する。ただし、３つ以上の状態変数の組（組み合わせ）を推定する場合についても同様に適用可能である。

以降の第二の実施形態では、第一の実施形態と実質的に同一の構成要素については、適宜、その説明を省略する。

＜推定装置１０の機能構成＞
まず、本実施形態に係る推定装置１０の機能構成について、図９を参照しながら説明する。図９は、第二の実施形態に係る推定装置１０の一例の機能構成を示す図である。

図９に示すように、本実施形態に係る推定装置１０の推定処理部１１０は、更に、品質改善方向算出部１１６を有する。

品質改善方向算出部１１６は、状態データＸ及び品質データｙを用いて、品質が改善する状態変数Ｘ_ｎの方向をａ_ｎとする品質改善方向ベクトルａ＝（ａ_１，ａ_２，・・・，ａ_Ｎ）^ｔを算出する。

また、本実施形態に係る指標値算出部１１３は、状態変数Ｘ_ｉ及びＸ_ｊ（ただし、ｉ＝１，・・・，Ｎ－１ ｊ＝ｉ＋１，・・・，Ｎ）毎に、品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である度合いを表す指標値Ｑ_ｉｊを算出する。更に、本実施形態に係る指標値算出部１１３は、指標値Ｐ_ｉｊ及びＱ_ｉｊを用いて、最終的な指標値Ｒ_ｉｊを算出する。本実施形態では、この指標値Ｒ_ｉｊが、ｉ及びｊの組み合わせのソートに用いられる。

＜推定処理＞
次に、本実施形態に係る推定処理について、図１０を参照しながら説明する。図１０は、第二の実施形態に係る推定処理の一例を示すフローチャートである。なお、以降では、各品質変数値ｙ_ｋは「－１」又は「１」のいずれかを取り得るものとする。

まず、推定処理部１１０の品質改善方向算出部１１６は、状態データＸ及び品質データｙを用いて、品質改善方向ベクトルａを算出する（ステップＳ２０１）。品質改善方向算出部１１６は、状態データＸを主成分分析で次元圧縮した上で、次元圧縮された圧縮空間で主成分スコアＴを説明変数、品質変数を目的変数として重回帰モデルを作成する。そして、品質改善方向算出部１１６は、圧縮空間での偏回帰係数ｄに対して主成分分析でのローディング行列Ｐを乗ずることで品質方向ベクトルａを算出する。

具体的には、品質改善方向算出部１１６は、以下のＳｔｅｐ１１～Ｓｔｅｐ１４により、品質改善方向ベクトルａを算出する。

Ｓｔｅｐ１１）まず、品質改善方向算出部１１６は、状態データＸ＝［ｘ_１ ｘ_２ ・・・ ｘ_Ｎ］∈Ｒ^Ｋ×Ｎを中心化する。すなわち、品質改善方向算出部１１６は、ｘ_１，ｘ_２，・・・，ｘ_Ｎに対して中心化を行う。なお、Ｒは実数全体を表す。

Ｓｔｅｐ１２）次に、品質改善方向算出部１１６は、主成分分析モデルをＸ＝ＴＰ^ｔ＋Ｅとする。

ここで、Ｔ∈Ｒ^Ｋ×ｐは主成分スコア行列、Ｋ×ｐは主成分分析による次元圧縮後の次元数、Ｐ∈Ｒ^Ｎ×ｐはローディング行列、Ｅ∈Ｒ^Ｋ×Ｎは主成分分析における残差である。

Ｓｔｅｐ１３）次に、品質改善方向算出部１１６は、主成分スコアＴに対する品質データｙの重回帰モデルをｙ＝Ｔｄ＋ｅとする。

ここで、ｅ∈Ｒ^Ｋ×１は回帰分析における残差を各成分とするベクトル、ｄ∈Ｒ^ｐ×１は回帰分析における残差の二乗和ｅ^ｔｅを最小化する偏回帰係数である。

Ｓｔｅｐ１４）そして、品質改善方向算出部１１６は、ａ＝Ｐｄ∈Ｒ^Ｎ×１により品質改善方向ベクトルａ＝（ａ_１，ａ_２，・・・，ａ_Ｎ）^ｔを算出する。

なお、上記のＳｔｅｐ１１～Ｓｔｅｐ１４の手順は、主成分回帰（ＰＣＲ：Principal Component Regression）と同等である。

次に、推定処理部１１０は、図３のステップＳ１０１～ステップＳ１０９により指標値Ｐ_ｉｊ（ただし、ｉ＝１，・・・，Ｎ－１ ｊ＝ｉ＋１，・・・，Ｎ）を算出し、この算出した指標値Ｐ_ｉｊを記憶部１２０に保存する（ステップＳ２０２）。ここで、第一の実施形態で説明した算出方法により指標値Ｐ_ｉｊを算出してもよいが、本実施形態では、状態データＸ＝［ｘ_１ ｘ_２ ・・・ ｘ_Ｎ］∈Ｒ^Ｋ×Ｎを上記と同様に中心化した上で、以下の算出方法により指標値Ｐ_ｉｊを算出してもよい。

すなわち、図３のステップＳ１０４において、モデル作成部１１２は、ステップＳ１０３で抽出されたｘ_ｉ及びｘ_ｊについての回帰式をｙ＝［ｘ_ｉ ｘ_ｊ］ｂ＋ｅとして、この回帰式における残差の二乗和ｅ^ｔｅを最小化するｂ∈Ｒ^２×１を求めた後、予測モデルを＾ｙ^{（ｉ，ｊ）}＝ｆ（ｘ_ｉ，ｘ_ｊ）＝ｓｉｇｎ（［ｘ_ｉ ｘ_ｊ］ｂ）とする。なお、［ｘ_ｉ ｘ_ｊ］は、ｘ_ｉ及びｘ_ｊを列ベクトルとするＫ×２の行列である。

そして、図３のステップＳ１０５において、指標値算出部１１３は、以下の式（３）により指標値Ｐ_ｉｊを算出する。

これは、実際のｙ∈Ｒ^Ｋ×１と予測モデルｆによる推定結果である＾ｙ^{（ｉ，ｊ）}との相関係数の絶対値を指標値Ｐ_ｉｊとすることを意味している。

なお、ステップＳ２０１とステップＳ２０２との処理順は順不同である。すなわち、ステップＳ２０２は、ステップＳ２０１の後に実行されてもよい。

次に、推定処理部１１０の指標値算出部１１３は、上記のステップＳ２０１で算出された品質改善方向ベクトルａを用いて、指標値Ｑ_ｉｊ（ただし、ｉ＝１，・・・，Ｎ－１ ｊ＝ｉ＋１，・・・，Ｎ）を算出し、この算出した指標値Ｑ_ｉｊを記憶部１２０に保存する（ステップＳ２０３）。指標値算出部１１３は、例えば、指標値Ｑ_ｉｊを以下の式（４）により算出する。

ここで、ａ_ｉ及びａ_ｊはそれぞれ品質改善方向ベクトルａのｉ番目の成分及びｊ番目の成分である。これにより、品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である度合いを表す指標値Ｑ_ｉｊが得られる。この指標値Ｑ_ｉｊは０以上１以下の値を取り、その値が大きい程「品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である」であることを表す。

なお、ステップＳ２０３は少なくともステップＳ２０１の後に実行されればよく、ステップＳ２０３は、ステップＳ２０２の前に実行されてもよい。

次に、推定処理部１１０の指標値算出部１１３は、記憶部１２０に記憶されている指標値Ｐ_ｉｊ及びＱ_ｉｊを用いて指標値Ｒ_ｉｊを算出し、この算出した指標値Ｒ_ｉｊを記憶部１２０に保存する（ステップＳ２０４）。指標値算出部１１３は、例えば、Ｐ_ｉｊとＱ_ｉｊとの幾何平均をＲ_ｉｊとして算出する。すなわち、指標値算出部１１３は、Ｒ_ｉｊ＝（Ｐ_ｉｊＱ_ｉｊ）^１／２とする。これにより、ｉ＝１，・・・，Ｎ－１ ｊ＝ｉ＋１，・・・，Ｎに対して、指標値Ｒ_ｉｊが算出及び保存される。

なお、Ｐ_ｉｊとＱ_ｉｊとの幾何平均をＲ_ｉｊとすることは一例であって、これ以外にも、例えば、Ｐ_ｉｊとＱ_ｉｊとの重み付き和をＲ_ｉｊとしてもよい。具体的には、例えば、重みをα及びβ（ただし、０≦α≦１、０≦β≦１、α＋β＝１）として、Ｒ_ｉｊ＝αＰ_ｉｊ＋βＱ_ｉｊとしてもよい。

このとき、特に、α又はβのいずれか一方を０、他方を１としてもよい。例えば、予測モデルの予測精度が十分に高いと考えられる場合（例えば、各Ｐ_ｉｊが所定の閾値以上である場合等）には、Ｐ_ｉｊを考慮しなくてもよいため、Ｒ_ｉｊ＝Ｑ_ｉｊとしてもよい。又は、例えば、ユーザ等によってα及びβの値が予め設定されており、α＝１、β＝０と設定されていてもよい。

なお、上記のステップＳ２０４において、例えば、指標値Ｐ_ｉｊが「その値が小さい程、予測モデルｆの予測精度が高い」ことを表し、指標値Ｑ_ｉｊが「その値が大きい程、品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である」こと表す場合は、各指標値Ｐ_ｉｊ（又は指標値Ｑ_ｉｊ）の正負を逆転させたものを改めて指標値Ｐ_ｉｊ（又は指標値Ｑ_ｉｊ）とすればよい。

次に、推定処理部１１０のソート部１１４は、記憶部１２０に記憶されている指標値Ｒ_ｉｊを昇順又は降順にソートする（ステップＳ２０５）。例えば、指標値Ｒ_ｉｊが大きい程、予測モデルｆの予測精度が高く、かつ、品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である場合には、これらの指標値Ｒ_ｉｊを降順でソートする。一方で、指標値Ｒ_ｉｊが小さい程、予測モデルｆの予測精度が高く、かつ、品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である場合には、これらの指標値Ｒ_ｉｊを昇順でソートする。

最後に、推定処理部１１０の出力部１１５は、上記のステップＳ２０５でソートされた指標値Ｒ_ｉｊのうちの上位Ｌ件の指標値Ｒ_ｉｊのインデックス（ｉ，ｊ）を出力する（ステップＳ２０６）。これにより、品質に関係し、かつ、品質改善が容易（つまり、品質改善のための操作が容易）な状態変数Ｘ_ｎのインデックスの組が得られる。このとき、出力部１１５は、第一の実施形態と同様に、画面上に指標値Ｒ_ｉｊとそのインデックス（ｉ，ｊ）を出力したり、状態変数の散布図を出力したりしてもよい。また、画面上に指標値を出力する場合には、指標値Ｒ_ｉｊと併せて（又は指標値Ｒ_ｉｊは画面上に出力させずに）指標値Ｐ_ｉｊ及び指標値Ｑ_ｉｊの少なくとも一方を画面上に出力させてもよい。

以上のように、本実施形態に係る推定装置１０は、状態データＸと、この状態データＸと関連付けられる品質データｙとを入力として、品質に関係し、かつ、品質改善が容易な状態変数Ｘ_ｎの複数の組み合わせを出力することができる。このように、本実施形態に係る推定装置１０は、品質に関係し、かつ、品質改善が容易な状態変数Ｘ_ｎの組み合わせを推定することができる。

なお、本実施形態では指標値Ｐ_ｉｊ及び指標値Ｑ_ｉｊの両方の指標値を算出したが、例えば、指標値Ｐ_ｉｊ及び指標値Ｑ_ｉｊのいずれか一方のみ算出してもよい（指標値Ｐ_ｉｊのみを算出する場合は第一の実施形態と同様となる。）。

ここで、図１０に示す推定処理では、品質改善方向ベクトルａ＝（ａ_１，ａ_２，・・・，ａ_Ｎ）^ｔを算出（ステップＳ２０１）した後、この品質改善方向ベクトルａを用いて指標値Ｑ_ｉｊを算出（ステップＳ２０３）したが、例えば、以下のＳｔｅｐ２１～Ｓｔｅｐ２４をｉ及びｊの組み合わせ毎に繰り返すことで指標値Ｑ_ｉｊを算出してもよい。なお、状態データＸは中心化されているものとする。

Ｓｔｅｐ２１）品質改善方向算出部１１６は、全状態変数（つまり、Ｘ_１，・・・，Ｘ_Ｎ）からｉ番目の状態変数とｊ番目の状態変数とを抽出した２次元平面（つまり、Ｘ_ｉとＸ_ｊとで構成される２次元平面）内で２変数データに主成分分析を適用し、その第一主成分のベクトルを、状態変数Ｘ_ｉ及びＸ_ｊ同士の相関の方向として抽出し、ｗ^{（ｉ，ｊ）}とする。

Ｓｔｅｐ２２）次に、品質改善方向算出部１１６は、以下の方法１又は方法２のいずれかによりａ^{（ｉ，ｊ）}を計算する。

（方法１）全状態変数を主成分分析で次元圧縮した空間を作成し、この空間内での判別境界の法線ベクトル（Ｎ次元）を抽出する。このＮ次元の法線ベクトルから、ｉ番目の要素とｊ番目の要素とを抽出したベクトルをａ^{（ｉ，ｊ）}とする。

（方法２）全状態変数からｉ番目の状態変数とｊ番目の状態変数とを抽出した２次元平面内での判別境界の法線ベクトル（２次元）を抽出し、この２次元の法線ベクトルをａ^{（ｉ，ｊ）}とする。

Ｓｔｅｐ２３）品質改善方向算出部１１６は、以下の式（５）により指標値Ｑ_ｉｊを算出する。

なお、上記では判別境界がベクトル（つまり、線形）で表されているものとしたが、必ずしも線形である必要はなく、少なくとも局所的に線形であればよい。また、上記のＳｔｅｐ２１～Ｓｔｅｐ２４は、２つの状態変数を用いてｗ^{（ｉ，ｊ）}及びａ^{（ｉ，ｊ）}を計算したが、３つ以上の状態変数に関しても同様に適用可能である。

上記の式（５）に示す指標値Ｑ_ｉｊは判別境界と品質改善方向ベクトルａ^{（ｉ，ｊ）}との内積を正規化したものを表しており、０以上１以下の値を取り、その値が大きい程「品質改善方向と状態変数Ｘ_ｉ及びＸ_ｊ間の相関の方向とが平行である」であることを表す。

なお、上記のＳｔｅｐ２１～Ｓｔｅｐ２４はｉ及びｊの組み合わせ毎に繰り返されるため、図３に示す推定処理におけるｉ及びｊのループ処理（ステップＳ１０２～ステップＳ１０９）の中に組み込むことが可能である。

＜本実施形態の効果＞
ここで、本実施形態の効果について説明する。本実施形態の効果を説明するために、多重共線性を持った複数変数のデータとして以下を考える。

ｕ_ｎ∈Ｒ^Ｋ×１を、ｎ＝１，２，・・・，ＮのＮ変数でＫサンプルの正規分布Ｎ（０，１^２）に従う無相関な正規乱数の縦ベクトルとし、これらｕ_ｎを横に並べたデータ行列Ｕ＝［ｕ_１ ｕ_２ ・・・ ｕ_Ｎ］∈Ｒ^Ｋ×Ｎを作成する。このデータ行列Ｕを用いて、Ｘ＝ＵＤＶ∈Ｒ^Ｋ×Ｎとして、このＸを状態データとする。

ここで、Ｄ∈Ｒ^Ｎ×Ｎは対角行列Ｄ＝ｄｉａｇ（ｄ_１，・・・，ｄ_ｐ，ε，・・・，ε）で、ｄ_ｉは絶対値が一定の大きさを持つスカラー値、εは微小なスカラー値である。行列Ｄは、Ｎ次元のデータ空間をｐ（＜Ｎ）次元に圧縮する働きをする。

Ｖ∈Ｒ^Ｎ×Ｎはランダムに生成した回転（正則）行列である（つまり、Ｉを単位行列として、Ｖ^ｔＶ＝Ｉ）。このランダムな方向の回転行列は、Ｎ次元空間内でランダムに発生させたデータを固有値分解して得られる固有ベクトル行列から得ることができる。

このようにしてＮ次元空間内で、ｐ次元に圧縮されたデータを状態データＸとして用いる。この状態データＸは、一般に２変数の組を見ると必ずしも相関は高くないが、３変数以上の変数として高い相関を持つデータとなる。

次に、状態データＸに基づいて、各成分ｙ_ｋが２値（「－１」又は「１」、つまりｙ_ｋ∈｛－１，１｝）の品質データｙ∈Ｒ^Ｋ×１をｙ＝ｓｉｇｎ（Ｘｈ＋ｅ）により作成する。

ここで、ｈ∈Ｒ^Ｎ×１は各状態変数Ｘ_ｎ（ｎ＝１，・・・，Ｎ）の重みを表す係数ベクトル、ｅ∈Ｒ^Ｋ×１は正規分布Ｎ（０，０．３^２）に従う乱数をサンプル数Ｋだけ並べた縦ベクトルである。ｈの各要素の値は、その絶対値が大きい程、当該要素に対応する状態変数が重要な因子（要因）であることになる。

このとき、Ｎ＝１０、ｐ＝５、Ｄ＝ｄｉａｇ（５，４，２，１，０，５，ε，・・・，ε）、ε＝０，０１、ｈ＝（１０，９，８，７，・・・，１）^ｔ、Ｎ＝２００として、本実施形態に係る推定装置１０が実行する手法（本実施形態の手法）を用いると、以下の表１に示す順位で状態変数の組が得られる。

これらの状態変数の組のうち、順位が「１」の状態変数の組Ｘ_１及びＸ_１０を用いて、状態変数Ｘ_１の変数値とＸ_１０の変数値との組み合わせをプロットした図を図１１に示す。図１１に示すように、状態変数Ｘ_１及びＸ_１０間の相関の方向と、品質改善方向とがほぼ平行になっていることがわかる。このため、これらの状態変数Ｘ_１及びＸ_１０は、品質改善のための操作が容易であることがわかる。

＜推定装置１０のハードウェア構成＞
最後に、第一の実施形態及び第二の実施形態に係る推定装置１０のハードウェア構成について、図１２を参照しながら説明する。図１２は、一実施形態に係る推定装置１０のハードウェア構成の一例を示す図である。

図１２に示すように、本実施形態に係る推定装置１０は、入力装置２０１と、表示装置２０２と、外部Ｉ／Ｆ２０３と、通信Ｉ／Ｆ２０４と、ＲＯＭ（Read Only Memory）２０５と、ＲＡＭ（Random Access Memory）２０６と、プロセッサ２０７と、補助記憶装置２０８とを有する。これら各ハードウェアは、バス２０９により相互に通信可能に接続されている。

入力装置２０１は、例えば各種ボタンやタッチパネル、キーボード、マウス等であり、推定装置１０に各種の操作を入力するのに用いられる。表示装置２０２は、例えばディスプレイ等であり、推定装置１０による各種の処理結果を表示する。なお、推定装置１０は、入力装置２０１及び表示装置２０２の少なくとも一方を有していなくてもよい。

外部Ｉ／Ｆ２０３は、外部装置とのインタフェースである。外部装置には、記録媒体２０３ａ等がある。推定装置１０は、外部Ｉ／Ｆ２０３を介して、記録媒体２０３ａ等の読み取りや書き込みを行うことができる。記録媒体２０３ａには、例えば、ＳＤメモリカード(SD memory card）やＵＳＢメモリ、ＣＤ（Compact Disk）、ＤＶＤ（Digital Versatile Disk）等がある。なお、推定処理部１１０を実現する１以上のプログラムは、記録媒体２０３ａに格納されていてもよい。

通信Ｉ／Ｆ２０４は、推定装置１０を通信ネットワークに接続するためのインタフェースである。推定装置１０は、通信部Ｉ／Ｆ２０４を介して、他の装置とデータ通信を行うことができる。なお、推定処理部１１０を実現する１以上のプログラムは、通信Ｉ／Ｆ２０４を介して、所定のサーバ等から取得（ダウンロード）されてもよい。

ＲＯＭ２０５は、電源を切ってもデータを保持することができる不揮発性の半導体メモリである。ＲＡＭ２０６は、プログラムやデータを一時保持する揮発性の半導体メモリである。

プロセッサ２０７は、例えばＣＰＵ（Central Processing Unit）やＧＰＵ（Graphics Processing Unit）等であり、ＲＯＭ２０５や補助記憶装置２０８等からプログラムやデータをＲＡＭ２０６上に読み出して処理を実行する演算装置である。推定処理部１１０を実現する１以上のプログラムは、例えば補助記憶装置２０８に格納されている１以上のプログラムがプロセッサ２０７に実行させる処理により実現される。なお、推定装置１０は、プロセッサ２０７として、ＣＰＵとＧＰＵとの両方を有していてもよいし、ＣＰＵ又はＧＰＵのいずれか一方のみを有していてもよい。

補助記憶装置２０８は、例えばＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）等であり、プログラムやデータを格納している不揮発性のメモリである。記憶部１２０は、例えば補助記憶装置２０８等を用いて実現される。

補助記憶装置２０８に格納されているプログラムやデータには、例えば、基本ソフトウェアであるＯＳ（Operating System）、ＯＳ上で動作する各種アプリケーションプログラム、推定処理部１１０を実現する１以上のプログラム等がある。

本実施形態に係る推定装置１０は、図１２に示すハードウェア構成を有することにより、上述した各種処理を実現することができる。なお、図１２では、推定装置１０が１台のコンピュータで実現される場合のハードウェア構成例を示したが、推定装置１０は複数台のコンピュータで実現されていてもよい。

本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。

１０ 推定装置
１１０ 推定処理部
１１１ 抽出部
１１２ モデル作成部
１１３ 指標値算出部
１１４ ソート部
１１５ 出力部
１２０ 記憶部

Claims (13)

1. サンプル数及び状態変数の個数をそれぞれ行及び列とする行列で表される状態データと、該状態データに関連付けられる品質データとを用いて、前記状態変数のうち、前記品質データが表す品質に関係する状態変数を推定する推定装置であって、
   前記状態データの互いに異なる列の組み合わせ毎に、該組み合わせに対応する１以上の列ベクトルを抽出する抽出手段と、
   前記抽出手段により抽出された列ベクトルを入力として前記品質データを予測する所定の予測モデルの精度を表す第１の指標値と、前記組み合わせに対応する１以上の状態変数の値を前記品質が向上するように変更する場合における容易性を表す第２の指標値との少なくとも一方を算出する算出手段と、
   前記算出手段により算出された前記第１の指標値又は／及び前記第２の指標値に対応する状態変数を出力する出力手段と、
   を有することを特徴とする推定装置。
2. 前記算出手段は、
   前記第１の指標値又は／及び前記第２の指標値に基づいて、所定の第３の指標値を算出し、
   前記出力手段は、
   前記算出手段により算出された前記第３の指標値に対応する状態変数を出力する、ことを特徴とする請求項１に記載の推定装置。
3. 前記算出手段により算出された前記第３の指標値を、該第３の指標値に応じて昇順又は降順にソートするソート手段を有し、
   前記出力手段は、
   前記ソート手段によりソートされた前記第３の指標値のうち、上位の所定の件数の第３の指標値に対応する状態変数を出力する、ことを特徴とする請求項２に記載の推定装置。
4. 前記ソート手段は、
   前記第３の指標値が高い程、前記予測モデルの精度が高く、かつ、前記容易性が高い場合には、前記第３の指標値を降順にソートし、
   前記第３の指標値が低い程、前記予測モデルの精度が高く、かつ、前記容易性が高い場合には、前記第３の指標値を昇順にソートする、ことを特徴とする請求項３に記載の推定装置。
5. 前記算出手段は、
   前記第１の指標値又は前記第２の指標値のいずれかを算出した場合は、算出した前記第１の指標値又は前記第２の指標値を前記第３の指標値とし、
   前記第１の指標値と前記第２の指標値との両方を算出した場合は、前記第１の指標値と前記第２の指標値との重み付き和又は幾何平均を前記第３の指標値として算出する、ことを特徴とする請求項２乃至４の何れか一項に記載の推定装置。
6. 前記予測モデルは、重回帰モデル、ニューラルネットワーク又はサポートベクトル回帰のいずれかである、ことを特徴とする請求項１乃至５の何れか一項に記載の推定装置。
7. 前記算出手段は、
   前記品質データに含まれる品質値が連続値である場合、該品質値と前記予測モデルにより予測された予測値との誤差二乗和を前記第１の指標値として算出し、
   前記品質データに含まれる品質値が２値である場合、混同行列に基づく値を前記第１の指標値として算出する、ことを特徴とする請求項１乃至６の何れか一項に記載の推定装置。
8. 前記抽出手段は、
   前記状態データの互いに異なる列の組み合わせを（ｉ，ｊ）として、ｉ列目の列ベクトルとｊ列目の列ベクトルとを抽出し、
   前記算出手段は、
   前記ｉ列目の列ベクトルと前記ｊ列目の列ベクトルとに基づいて作成された前記予測モデルの精度を表す指標値Ｐ_ｉｊを前記第１の指標値として算出する、ことを特徴とする請求項１乃至７の何れか一項に記載の推定装置。
9. 前記算出手段は、
   前記状態データと前記品質データとを用いて、主成分回帰により、前記品質が向上する方向を表す品質方向ベクトルを算出し、
   前記組み合わせに対応する１以上の状態変数間の相関の方向と前記品質方向ベクトルが表す方向とが平行である度合いを表す指標値を前記第２の指標値として算出する、ことを特徴とする請求項１乃至８の何れか一項に記載の推定装置。
10. 前記出力手段は、
    前記第１の指標値又は／及び前記第２の指標値と、前記第１の指標値又は／及び前記第２の指標値に対応する状態変数とを含む画面を表示する、ことを特徴とする請求項１乃至９の何れか一項に記載の推定装置。
11. 前記出力手段は、
    前記画面におけるユーザ操作に応じて、前記第１の指標値又は／及び前記第２の指標値に対応する２以上の状態変数間の相関を表す散布図を表示する、ことを特徴とする請求項１０に記載の推定装置。
12. サンプル数及び状態変数の個数をそれぞれ行及び列とする行列で表される状態データと、該状態データに関連付けられる品質データとを用いて、前記状態変数のうち、前記品質データが表す品質に関係する状態変数を推定する推定装置が、
    前記状態データの互いに異なる列の組み合わせ毎に、該組み合わせに対応する１以上の列ベクトルを抽出する抽出手順と、
    前記抽出手順により抽出された列ベクトルを入力として前記品質データを予測する所定の予測モデルの精度を表す第１の指標値と、前記組み合わせに対応する１以上の状態変数の値を前記品質が向上するように変更する場合における容易性を表す第２の指標値との少なくとも一方を算出する算出手順と、
    前記算出手順により算出された前記第１の指標値又は／及び前記第２の指標値に対応する状態変数を出力する出力手順と、
    を実行することを特徴とする推定方法。
13. サンプル数及び状態変数の個数をそれぞれ行及び列とする行列で表される状態データと、該状態データに関連付けられる品質データとを用いて、前記状態変数のうち、前記品質データが表す品質に関係する状態変数を推定する推定装置に、
    前記状態データの互いに異なる列の組み合わせ毎に、該組み合わせに対応する１以上の列ベクトルを抽出する抽出手順と、
    前記抽出手順により抽出された列ベクトルを入力として前記品質データを予測する所定の予測モデルの精度を表す第１の指標値と、前記組み合わせに対応する１以上の状態変数の値を前記品質が向上するように変更する場合における容易性を表す第２の指標値との少なくとも一方を算出する算出手順と、
    前記算出手順により算出された前記第１の指標値又は／及び前記第２の指標値に対応する状態変数を出力する出力手順と、
    を実行させることを特徴とするプログラム。

Images