JPWO2019235614A1 - 関係性分析装置、関係性分析方法およびプログラム - Google Patents
関係性分析装置、関係性分析方法およびプログラム Download PDFInfo
- Publication number
- JPWO2019235614A1 JPWO2019235614A1 JP2020523203A JP2020523203A JPWO2019235614A1 JP WO2019235614 A1 JPWO2019235614 A1 JP WO2019235614A1 JP 2020523203 A JP2020523203 A JP 2020523203A JP 2020523203 A JP2020523203 A JP 2020523203A JP WO2019235614 A1 JPWO2019235614 A1 JP WO2019235614A1
- Authority
- JP
- Japan
- Prior art keywords
- data
- type
- parameter
- distribution
- sample data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
- G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computational Mathematics (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Analysis (AREA)
- Evolutionary Computation (AREA)
- Algebra (AREA)
- Operations Research (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Business, Economics & Management (AREA)
- Probability & Statistics with Applications (AREA)
- Databases & Information Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Economics (AREA)
- Medical Informatics (AREA)
- Strategic Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Human Resources & Organizations (AREA)
- Development Economics (AREA)
- Game Theory and Decision Science (AREA)
- Computer Hardware Design (AREA)
- Geometry (AREA)
- Entrepreneurship & Innovation (AREA)
- Marketing (AREA)
- Quality & Reliability (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Complex Calculations (AREA)
Abstract
関係性分析装置は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、を備える。
Description
本発明は、関係性分析装置、関係性分析方法および記録媒体に関する。
シミュレーションや機械学習などの場面で、入力データの特殊性など入力データの性質に応じた処理が行われる場合がある。
例えば、特許文献１には、非理想的な観測データや、非連続性または特異性がある観測データに対応して、広域にわたって高分解能かつ高精度なシミュレーションを行うためのシミュレーション装置が記載されている。このシミュレーション装置は、シミュレーションにおける状態ベクトルの初期状態およびパラメータを基に、状態ベクトルの経時変化をシミュレーションし、状態ベクトルに関連する情報に基づいて、複数の観測データのうち利用する観測データを選択する。そして、このシミュレーション装置は、状態ベクトルと選択された観測データとを基に、全観測データに基づく第１の事後分布または欠如した観測データに基づく第２の事後分布を生成し、第１および第２の事後分布を統合する。そして、このシミュレーション装置は、第２の事後分布と統合後の事後分布との何れを用いるか判定する。
例えば、特許文献１には、非理想的な観測データや、非連続性または特異性がある観測データに対応して、広域にわたって高分解能かつ高精度なシミュレーションを行うためのシミュレーション装置が記載されている。このシミュレーション装置は、シミュレーションにおける状態ベクトルの初期状態およびパラメータを基に、状態ベクトルの経時変化をシミュレーションし、状態ベクトルに関連する情報に基づいて、複数の観測データのうち利用する観測データを選択する。そして、このシミュレーション装置は、状態ベクトルと選択された観測データとを基に、全観測データに基づく第１の事後分布または欠如した観測データに基づく第２の事後分布を生成し、第１および第２の事後分布を統合する。そして、このシミュレーション装置は、第２の事後分布と統合後の事後分布との何れを用いるか判定する。
また、特許文献２には、予測モデルの学習の計算手順を簡潔化する学習装置が記載されている。この学習装置は、訓練サンプルデータの入力データである訓練データと、テストデータとの生成確率の比である重要度に基づき、テストデータの出力を予測するための予測モデルを学習する。学習に際し、この学習装置は、重要度を考慮した損失関数である重要度重み付き損失関数を用いて予測モデルの学習を行う。
複数種類のデータ間の関係性の分析において、データ全体における関係性を分析する場合と、一部の領域における関係性を分析する場合とで、抽出すべき関係性が異なる場合がある。一部の領域における関係性を分析する場合、例えば、回帰分析の手法を用い、観測データに対して領域に応じた重み付けを行うことが考えられる。
しかしながら、一般的な回帰分析では、微分可能な関数によるモデルを使用し、モデルのパラメータ（関数の係数）の値を機械学習する。このため、モデルが不明である場合（例えば、モデルとして用いられている関数を参照できない場合）には、回帰分析手法を適用することはできない。
しかしながら、一般的な回帰分析では、微分可能な関数によるモデルを使用し、モデルのパラメータ（関数の係数）の値を機械学習する。このため、モデルが不明である場合（例えば、モデルとして用いられている関数を参照できない場合）には、回帰分析手法を適用することはできない。
本発明の目的の一例は、上述の課題を解決することのできる関係性分析装置、関係性分析方法および記録媒体を提供することである。
本発明の第１の態様によれば、関係性分析装置は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、を備える。
本発明の第２の態様によれば、関係性分析方法は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを含む。
本発明の第３の態様によれば、記録媒体は、コンピュータに、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを実行させるためのプログラムを記憶する。
この発明の実施形態によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
以下、本発明の実施形態を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
＜第１実施形態＞
図１は、第１実施形態に係る関係性分析システムの機能構成の例を示す概略ブロック図である。図１に示す構成で、関係性分析システム１は、関係性分析装置１００と、シミュレータサーバ９００とを備える。関係性分析装置１００は、入出力部１１０と、記憶部１７０と、制御部１８０とを備える。制御部１８０は、パラメータサンプルデータ算出部１８１と、第２種類サンプルデータ取得部１８２と、パラメータ値決定部１８３とを備える。
図１は、第１実施形態に係る関係性分析システムの機能構成の例を示す概略ブロック図である。図１に示す構成で、関係性分析システム１は、関係性分析装置１００と、シミュレータサーバ９００とを備える。関係性分析装置１００は、入出力部１１０と、記憶部１７０と、制御部１８０とを備える。制御部１８０は、パラメータサンプルデータ算出部１８１と、第２種類サンプルデータ取得部１８２と、パラメータ値決定部１８３とを備える。
関係性分析装置１００は、関係性分析を行う。具体的には、関係性分析装置１００は、第１種類のデータおよび第２種類のデータ間の関係性（例えば、相関関係）のモデルのパラメータ値を観測データに基づいて決定することで、データ間の関係性（例えば、相関関係）を分析する。
関係性分析装置１００は、例えばパソコン（Personal Computer；ＰＣ）またはワークステーション（Workstation）等のコンピュータを用いて構成される。
関係性分析装置１００は、例えばパソコン（Personal Computer；ＰＣ）またはワークステーション（Workstation）等のコンピュータを用いて構成される。
以下では、第１種類のデータをデータＸと称し、第２種類のデータをデータＹと称する。また、観測データの個数をｎ（ｎは正の整数）として、データＸの観測データ（第１種類の観測データ）を観測データＸnと表記し、データＹの観測データ（第２種類の観測データ）を観測データＹnと表記する。また、観測データＸnの要素をＸ1、・・・、Ｘnと表記し、観測データＹnの要素をＹ1、・・・、Ｙnと表記する。このように、関係性分析装置１００は、データＸi（ｉは、１≦ｉ≦ｎの整数）とデータＹiとが一対一に対応付けられた観測データ（従って、Ｘ−Ｙ平面にプロット可能な観測データ）を取得する。
観測データＸnおよびＹnは特定の種類のデータに限定されず、実測されたいろいろなデータとすることができる。観測データを得るための実測方法は特定の方法に限定されず、ユーザなど人による計数または測定、あるいはセンサを用いたセンシングなど、いろいろな方法を採用可能である。
例えば、観測データＸnの要素は、観測対象を構成している構成要素の状態を表すものであってもよい。観測データＹnの要素は、センサ等を用いて観測対象に関して観測された状態を表すものであってもよい。例えばユーザが、製造工場の生産性を分析したい場合、観測データＸnは、当該製造工場における各設備の稼働状況を表すものであってもよい。観測データＹnは、複数の設備によって構成されるラインにて製造される製品の個数を表すものであってもよい。
観測対象、および、観測データは、上述した例に限定されず、たとえば、加工工場における設備であってもよいし、ある施設を建設する場合における建設システムであってもよい。
例えば、観測データＸnの要素は、観測対象を構成している構成要素の状態を表すものであってもよい。観測データＹnの要素は、センサ等を用いて観測対象に関して観測された状態を表すものであってもよい。例えばユーザが、製造工場の生産性を分析したい場合、観測データＸnは、当該製造工場における各設備の稼働状況を表すものであってもよい。観測データＹnは、複数の設備によって構成されるラインにて製造される製品の個数を表すものであってもよい。
観測対象、および、観測データは、上述した例に限定されず、たとえば、加工工場における設備であってもよいし、ある施設を建設する場合における建設システムであってもよい。
関係性分析装置１００は、観測データＸnおよびＹnと、シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）と、パラメータθについて仮設定された事前分布（Prior）である分布π（θ）とを与えられて、データＸとデータＹとの関係性分析を行う。分布π（θ）は、例えば関係性分析装置１００のユーザが、シミュレーション対象に関して有する知識に応じた精度で設定する。
シミュレータサーバ９００は、シミュレータｒ（ｘ，θ）を提供する。シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）は、パラメータθの値の設定、および、変数ｘへのデータＸの値の入力を受けて、データＹの値を出力する。一般的な関係性分析では微分可能な関数がモデルとして用いられるのに対し、関係性分析装置１００では、シミュレータｒ（ｘ，θ）のモデルの関数を微分できる必要はない。例えば、シミュレータｒ（ｘ，θ）が、シミュレータサーバ９００のように関係性分析装置１００以外の装置によって管理され、関係性分析装置１００が、この装置にデータＸの値とパラメータθの値とを送信してデータＹの値を受信する形態であってもよい。
あるいは、関係性分析装置１００が、関係性分析装置１００自らの内部にシミュレータｒ（ｘ，θ）を備えていてもよい。この場合、シミュレータｒ（ｘ，θ）がブラックボックス化されているなど、関係性分析装置１００にとってシミュレータの回帰関数が未知であってもよい。
あるいは、関係性分析装置１００が、関係性分析装置１００自らの内部にシミュレータｒ（ｘ，θ）を備えていてもよい。この場合、シミュレータｒ（ｘ，θ）がブラックボックス化されているなど、関係性分析装置１００にとってシミュレータの回帰関数が未知であってもよい。
図２は、シミュレータによる回帰関数の設定例を示す図である。図２では、横軸はＸ座標（データＸの座標）を示し、縦軸はＹ座標（データＹの座標）を示す。なお、以下の説明においては、説明の便宜上、回帰関数という言葉を用いて説明するが、必ずしも一般的な（数学的な）「回帰」を表しているものに限定されない。たとえば、モデルが不明確である場合も含めて「回帰」にて表すとする。
線Ｌ１１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
上述したように、真のモデル（線Ｌ１１）は、必ずしも、数学的な関数（たとえば、一次関数、二次関数、指数関数、ガウス関数）を用いて表されているとは限らず、ｘと、ｙとの関係性を便宜的に示したものである。さらには、真のモデルが実際に表現される必要はない。以降、説明の便宜上、関数という言葉を用いるが、関数という言葉を、関係性を表すものという意味で用いる。
また、点Ｐ１１のように丸で示されるデータが、真のモデルに基づいて生成されている。図２の例では、データにノイズが含まれており、各データが線Ｌ１２の近傍にプロットされている。
線Ｌ１１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
上述したように、真のモデル（線Ｌ１１）は、必ずしも、数学的な関数（たとえば、一次関数、二次関数、指数関数、ガウス関数）を用いて表されているとは限らず、ｘと、ｙとの関係性を便宜的に示したものである。さらには、真のモデルが実際に表現される必要はない。以降、説明の便宜上、関数という言葉を用いるが、関数という言葉を、関係性を表すものという意味で用いる。
また、点Ｐ１１のように丸で示されるデータが、真のモデルに基づいて生成されている。図２の例では、データにノイズが含まれており、各データが線Ｌ１２の近傍にプロットされている。
線Ｌ１２は、シミュレータの入出力であるｘおよびｙに関して数学的な回帰分析を行い、その結果得られた回帰関数の例を示す。シミュレータサーバ９００が提供するシミュレータｒ（ｘ，θ）は、パラメータθの値の設定を受けると、例えば、線Ｌ１２に例示されるような数学的な回帰関数に従うデータＹを出力する。言い換えると、この状態でデータＸの値の入力を受けると、シミュレータｒ（ｘ，θ）は、入力されたデータＸの値に対応するデータＹの値を出力する。これは、観測対象が工場であるという例の場合、シミュレータに入力されたデータＸ（例えば、設備の状態）と、出力されたデータＹ（例えば、あるラインの製造数）との間には、統計的に当該回帰関数に従う関係性があるということを表す。
関係性分析装置１００は、観測データに基づいて、観測データに対応するパラメータ値を算出し、算出したパラメータ値をシミュレータに設定する。これにより、シミュレータは、データＸの値の入力に対してデータＹの値を出力する。すなわち、パラメータ値の設定により、シミュレータがシミュレーションを実行可能になる。
関係性分析装置１００は、観測データに基づいて、観測データに対応するパラメータ値を算出し、算出したパラメータ値をシミュレータに設定する。これにより、シミュレータは、データＸの値の入力に対してデータＹの値を出力する。すなわち、パラメータ値の設定により、シミュレータがシミュレーションを実行可能になる。
入出力部１１０は、データの入出力を行う。特に、入出力部１１０は、観測データを取得する。例えば入出力部１１０が、設備を監視しているセンサ、製品個数を数える装置等を用いて構成されていてもよい。あるいは、入出力部１１０は、通信装置を備え、他の装置と通信を行ってデータを送受信するようにしてもよい。また、入出力部１１０が、通信装置に加えて、或いは代えて、キーボードおよびマウス等の入力デバイスを備え、ユーザ操作によるデータの入力を受け付けるようにしてもよい。
記憶部１７０は、各種データを記憶する。記憶部１７０は、関係性分析装置１００が備える記憶デバイスを用いて構成される。
記憶部１７０は、各種データを記憶する。記憶部１７０は、関係性分析装置１００が備える記憶デバイスを用いて構成される。
制御部１８０は、関係性分析装置１００の各部を制御して各種処理を実行する。制御部１８０は、関係性分析装置１００が備えるＣＰＵ（Central Processing Unit、中央処理装置）が、記憶部１７０からプログラムを読み出して実行することで構成される。
パラメータサンプルデータ算出部１８１は、パラメータθに関して仮設定された分布π（θ）に基づいて、パラメータθのサンプルデータを複数算出する。分布π（θ）は、ガウス分布に従う分布であってもよいし、ある数値区間における一様乱数を用いて設定されてもよい。但し、分布π（θ）は、これらの例に限定されない。上記のように、パラメータθは、シミュレータｒ（ｘ，θ）のパラメータである。シミュレータｒ（ｘ，θ）は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力する。
パラメータサンプルデータ算出部１８１は、パラメータθに関して仮設定された分布π（θ）に基づいて、パラメータθのサンプルデータを複数算出する。分布π（θ）は、ガウス分布に従う分布であってもよいし、ある数値区間における一様乱数を用いて設定されてもよい。但し、分布π（θ）は、これらの例に限定されない。上記のように、パラメータθは、シミュレータｒ（ｘ，θ）のパラメータである。シミュレータｒ（ｘ，θ）は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力する。
第２種類サンプルデータ取得部１８２は、第１種類の観測データ（観測データＸn）とパラメータθのサンプルデータとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータ毎に第２種類のサンプルデータ（データＹのサンプルデータ）を取得する。
パラメータ値決定部１８３は、第２種類の観測データ（観測データＹn）と、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータ（データＹのサンプルデータ）との差異に基づいてパラメータθのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータθの値を算出する。パラメータ値決定部１８３が算出するパラメータθの値は、関係性分析装置１００がパラメータθの適切な値（データＸとデータＹとの関係を模擬するための値）として決定する値である。
パラメータ値決定部１８３は、第２種類の観測データ（観測データＹn）と、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータ（データＹのサンプルデータ）との差異に基づいてパラメータθのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータθの値を算出する。パラメータ値決定部１８３が算出するパラメータθの値は、関係性分析装置１００がパラメータθの適切な値（データＸとデータＹとの関係を模擬するための値）として決定する値である。
図３は、第１実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
（ステップＳ１１）
パラメータサンプルデータ算出部１８１は、パラメータθの事前分布（分布π（θ））に基づいてパラメータθのサンプルデータθ<1> jを生成する。＜１＞は、事前分布に基づくデータであることを示す。
生成するデータの数をｍ（ｍは正の整数）とし、ｊを１≦ｊ≦ｍの整数として、θ<1> jは式（１）のように示される。
（ステップＳ１１）
パラメータサンプルデータ算出部１８１は、パラメータθの事前分布（分布π（θ））に基づいてパラメータθのサンプルデータθ<1> jを生成する。＜１＞は、事前分布に基づくデータであることを示す。
生成するデータの数をｍ（ｍは正の整数）とし、ｊを１≦ｊ≦ｍの整数として、θ<1> jは式（１）のように示される。
ｄθは、パラメータθの次元数を示す。
式（１）に示されるように、θ<1> jは、ｄθ次元の実数として示され、分布π（θ）に従う。この時点では最適なパラメータ値は不明であり、例えばユーザが、得られている情報に基づいてパラメータθの分布を推定し、事前分布π（θ）として登録しておく。
ステップＳ１１の後、処理がステップＳ１２へ進む。
式（１）に示されるように、θ<1> jは、ｄθ次元の実数として示され、分布π（θ）に従う。この時点では最適なパラメータ値は不明であり、例えばユーザが、得られている情報に基づいてパラメータθの分布を推定し、事前分布π（θ）として登録しておく。
ステップＳ１１の後、処理がステップＳ１２へ進む。
（ステップＳ１２）
第２種類サンプルデータ取得部１８２は、ステップＳ１１で得られたサンプルデータθ<1> j毎に、観測データＸnに対応するサンプルデータＹ<1>n jを取得する。第２種類サンプルデータ取得部１８２は、θ<1> jとＸnとをシミュレータｒ（ｘ，θ）に入力してＹ<1>n jを取得する。第２種類サンプルデータ取得部１８２は、サンプルデータθ<1> j毎に、ｎ個（観測データＸnの要素数と同数）の要素を有するサンプルデータＹ<1>n jを取得する。観測データＸnの要素と、サンプルデータＹ<1>n jの要素とが一対一に対応付けられ、Ｘ−Ｙ平面にプロット可能である。
Ｙ<1>n jは、式（２）のように示される。
第２種類サンプルデータ取得部１８２は、ステップＳ１１で得られたサンプルデータθ<1> j毎に、観測データＸnに対応するサンプルデータＹ<1>n jを取得する。第２種類サンプルデータ取得部１８２は、θ<1> jとＸnとをシミュレータｒ（ｘ，θ）に入力してＹ<1>n jを取得する。第２種類サンプルデータ取得部１８２は、サンプルデータθ<1> j毎に、ｎ個（観測データＸnの要素数と同数）の要素を有するサンプルデータＹ<1>n jを取得する。観測データＸnの要素と、サンプルデータＹ<1>n jの要素とが一対一に対応付けられ、Ｘ−Ｙ平面にプロット可能である。
Ｙ<1>n jは、式（２）のように示される。
式（２）に示されるように、Ｙ<1>n jは、ｎ次元の実数として示され、シミュレータｒ（ｘ，θ）の学習モデルｐ（ｙ｜ｘ，θ）に観測データＸnおよびサンプルデータθ<1> jを入力した分布ｐ（ｙ｜Ｘn，θ<1> j）に従う。
ステップＳ１２の後、処理がステップＳ１３へ進む。
ステップＳ１２の後、処理がステップＳ１３へ進む。
（ステップＳ１３）
パラメータ値決定部１８３は、ステップＳ１２で得られたＹ<1>n jと、観測データＹnとに基づいて、θ<1> j毎に重みを算出し、重み付け平均する。
重み付け平均で得られるパラメータ値θ<2>は、式（３）のように示される。＜２＞は、Ｙ<1>n jとＹnとの比較に基づく重みを反映済みのデータであることを示す。
パラメータ値決定部１８３は、ステップＳ１２で得られたＹ<1>n jと、観測データＹnとに基づいて、θ<1> j毎に重みを算出し、重み付け平均する。
重み付け平均で得られるパラメータ値θ<2>は、式（３）のように示される。＜２＞は、Ｙ<1>n jとＹnとの比較に基づく重みを反映済みのデータであることを示す。
重みｗjは、式（４）のように示される。
ｋは、Ｙ<1>n jとＹnとの近さ（ノルム）を算出する関数である。ｋとしてガウシアンカーネルを用いることができ、式（５）のように示される。
パラメータ値決定部１８３は、Ｙ<1>n jとＹnとが近いほど、サンプルデータθ<1> jに対する重みを大きくする。すなわち、パラメータ値決定部１８３は、尤度が高いサンプルデータθ<1> j（観測データＹnを近似する精度が高いサンプルデータθ<1> j）に対する重みを大きくする。
ステップＳ１３の後、関係性分析装置１００は、図３の処理を終了する。
関係性分析装置１００が、パラメータ値決定部１８３が決定した重みを用いて、シミュレータにおけるパラメータを更新するようにしてもよい。このような処理を行うことによって、第２種類のサンプルデータに対して予測精度が高いシミュレーションを行うことができる。
ステップＳ１３の後、関係性分析装置１００は、図３の処理を終了する。
関係性分析装置１００が、パラメータ値決定部１８３が決定した重みを用いて、シミュレータにおけるパラメータを更新するようにしてもよい。このような処理を行うことによって、第２種類のサンプルデータに対して予測精度が高いシミュレーションを行うことができる。
以上のように、パラメータサンプルデータ算出部１８１は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力するシミュレータｒ（ｘ，θ）のパラメータθに関して仮設定された分布π（θ）に基づいて、パラメータθのサンプルデータθ<1> jを複数算出する。第２種類サンプルデータ取得部１８２は、第１種類の観測データＸnとパラメータθのサンプルデータθ<1> jとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータθ<1> j毎に第２種類のサンプルデータＹ<1>n jを取得する。パラメータ値決定部１８３は、第２種類の観測データＹnと、算出された第２種類のサンプルデータＹ<1>n jとの差異に基づいて、パラメータθのサンプルデータθ<1> jの各々に対する重みを算出し、得られた重みを用いてパラメータθの値θ<2>を算出する。
このように、関係性分析装置１００では、シミュレータのパラメータθのサンプルデータθ<1> jを生成し、生成したサンプルデータθ<1> jをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータθの値を決定することができる。関係性分析装置１００によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１００では、シミュレータのパラメータθのサンプルデータθ<1> jを生成し、生成したサンプルデータθ<1> jをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータθの値を決定することができる。関係性分析装置１００によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
＜第２実施形態＞
第１実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第２実施形態では、パラメータθの推定値を分布で求める例について説明する。
図４は、第２実施形態に係る関係性分析装置の機能構成の例を示す概略ブロック図である。図４に示す構成は、パラメータ値決定部１８３が、カーネル平均算出部１９１と、カーネル平均対応パラメータ算出部１９２と、パラメータ予測分布算出部１９３と、第２種類予測分布データ算出部１９４とを備える点で、図１の場合と異なる。それ以外は、図１の場合と同様である。
第１実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第２実施形態では、パラメータθの推定値を分布で求める例について説明する。
図４は、第２実施形態に係る関係性分析装置の機能構成の例を示す概略ブロック図である。図４に示す構成は、パラメータ値決定部１８３が、カーネル平均算出部１９１と、カーネル平均対応パラメータ算出部１９２と、パラメータ予測分布算出部１９３と、第２種類予測分布データ算出部１９４とを備える点で、図１の場合と異なる。それ以外は、図１の場合と同様である。
カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>n jとの下でのパラメータθの事後分布を示すカーネル平均を算出する。
カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを算出する。
パラメータ予測分布算出部１９３は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを用いてパラメータθの予測分布のカーネル表現を算出する。
第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出したパラメータの予測分布のカーネル表現を用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータを算出する。
カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを算出する。
パラメータ予測分布算出部１９３は、カーネル平均算出部１９１が算出したカーネル平均に基づくパラメータθのサンプルデータを用いてパラメータθの予測分布のカーネル表現を算出する。
第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出したパラメータの予測分布のカーネル表現を用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータを算出する。
図５は、第２実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
図５のステップＳ２１〜Ｓ２２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ２２の後、処理がステップＳ２３へ進む。
図５のステップＳ２１〜Ｓ２２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ２２の後、処理がステップＳ２３へ進む。
（ステップＳ２３）
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（３）は、カーネル平均を求める式と捉えて式（６）のように表すことができる。カーネル平均算出部１９１は、式（６）に基づいてカーネル平均μ＾θ|XYを求める。
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（３）は、カーネル平均を求める式と捉えて式（６）のように表すことができる。カーネル平均算出部１９１は、式（６）に基づいてカーネル平均μ＾θ|XYを求める。
重みｗjは、式（７）のように示される。
上付きのＴは、行列またはベクトルの転置を示す。
ｋyは、式（８）のように示される。
ｋyは、式（８）のように示される。
ｋyとして、式（９）で示されるガウシアンカーネル関数（Gaussian Kernel Function）を用いる。
Ｇはグラム行列（Gramm Matrix）を示し、式（１０）のように示される。
カーネル平均μ＾θ|XYは、ＸおよびＹの元でのθの事後分布をカーネル平均埋め込み（Kernel Mean Embeddings）により再生核ヒルベルト空間（Reproducing Kernel Hilbert Space；ＲＫＨＳ）上で表現したものに該当する。
ステップＳ２３の後、処理がステップＳ２４へ進む。
ステップＳ２３の後、処理がステップＳ２４へ進む。
（ステップＳ２４）
カーネル平均対応パラメータ算出部１９２は、パラメータθについて、カーネル平均μ＾θ|XYに基づくサンプルデータ｛θ<3> 1，・・・，θ<3> m｝（ｍはサンプル数を示す正の整数）を求める。＜３＞は、カーネル平均に基づくデータであることを示す。
カーネル平均に基づくサンプルデータは、カーネルハーディング（Kernel Herding）の手法を用いて帰納的に求めることができる。この場合、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、カーネル平均対応パラメータ算出部１９２は、式（１１）に基づいて、サンプルデータθ<3> j+1を算出する。
カーネル平均対応パラメータ算出部１９２は、パラメータθについて、カーネル平均μ＾θ|XYに基づくサンプルデータ｛θ<3> 1，・・・，θ<3> m｝（ｍはサンプル数を示す正の整数）を求める。＜３＞は、カーネル平均に基づくデータであることを示す。
カーネル平均に基づくサンプルデータは、カーネルハーディング（Kernel Herding）の手法を用いて帰納的に求めることができる。この場合、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、カーネル平均対応パラメータ算出部１９２は、式（１１）に基づいて、サンプルデータθ<3> j+1を算出する。
ａｒｇｍａｘθｈj（θ）は、ｈj（θ）の値を最大にするθの値を示す。
ｈjは、式（１２）により再帰的に示される。
ｈjは、式（１２）により再帰的に示される。
式（１２）のμには、ステップＳ２３で得られたカーネル平均μ＾θ|XYを入力する。
また、ｈjの初期値ｈ0を、ｈ0：＝μ＾θ|XYと設定する。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<3> 1，・・・，θ<3> m｝には、事前分布に基づくサンプルデータＹ<1>n jと観測データＹnとの近さ（ノルム）に応じた重み付けが反映されている。
ステップＳ２４の後、処理がステップＳ２５へ進む。
また、ｈjの初期値ｈ0を、ｈ0：＝μ＾θ|XYと設定する。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<3> 1，・・・，θ<3> m｝には、事前分布に基づくサンプルデータＹ<1>n jと観測データＹnとの近さ（ノルム）に応じた重み付けが反映されている。
ステップＳ２４の後、処理がステップＳ２５へ進む。
（ステップＳ２５）
パラメータ予測分布算出部１９３は、シミュレータｒ（ｘ，θ）に観測データＸnおよびサンプルデータθ<3> jを入力して、分布ｐ（ｙ｜Ｘn，θ<3> j）に従う｛θ<3> j，Ｙ<3>n j｝をシミュレーションにより算出する。
ステップＳ２５の後、処理がステップＳ２６へ進む。
パラメータ予測分布算出部１９３は、シミュレータｒ（ｘ，θ）に観測データＸnおよびサンプルデータθ<3> jを入力して、分布ｐ（ｙ｜Ｘn，θ<3> j）に従う｛θ<3> j，Ｙ<3>n j｝をシミュレーションにより算出する。
ステップＳ２５の後、処理がステップＳ２６へ進む。
（ステップＳ２６）
パラメータ予測分布算出部１９３は、ステップＳ２５で得られたサンプルデータ｛θ<3> j，Ｙ<3>n j｝を用いて、データＹの予測分布（Predictive Distribution）のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルール（Kernel Sum Rule）を用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘn，Ｙn）は、式（１３）のように示される。
パラメータ予測分布算出部１９３は、ステップＳ２５で得られたサンプルデータ｛θ<3> j，Ｙ<3>n j｝を用いて、データＹの予測分布（Predictive Distribution）のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルール（Kernel Sum Rule）を用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘn，Ｙn）は、式（１３）のように示される。
予測分布ｐ（ｙ｜Ｘn，Ｙn）のカーネル表現ν＾y|YXは、式（１４）のように示される。
ｖ1、・・・、ｖmは、式（１５）のように示される。
グラム行列Ｇθ<3>は、式（１６）のように示される。
グラム行列Ｇθ<3>θは、式（１７）のように示される。
δmは、逆行列の計算を安定化させるための係数である。
Ｉは単位行列を示す。
ステップＳ２６の後、処理がステップＳ２７へ進む。
Ｉは単位行列を示す。
ステップＳ２６の後、処理がステップＳ２７へ進む。
（ステップＳ２７）
第２種類予測分布データ算出部１９４は、ステップＳ２６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布に基づくサンプルデータＹ<4>n jを求める。＜４＞は、予測分布のカーネル表現に基づくデータであることを示す。
ステップＳ２７でも、ステップＳ２４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ２７では、式（１８）に基づいてサンプルデータを算出する。
第２種類予測分布データ算出部１９４は、ステップＳ２６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布に基づくサンプルデータＹ<4>n jを求める。＜４＞は、予測分布のカーネル表現に基づくデータであることを示す。
ステップＳ２７でも、ステップＳ２４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ２７では、式（１８）に基づいてサンプルデータを算出する。
ａｒｇｍａｘyｈj（ｙ）は、ｈj（ｙ）の値を最大にするｙの値を示す。
ｈ’jは、式（１９）により再帰的に示される。
ｈ’jは、式（１９）により再帰的に示される。
式（１９）のνにはステップＳ２６で得られた予測分布のカーネル表現ν＾y|YXを入力する。また、ｈ’jの初期値ｈ’0を、ｈ’0：＝ν＾y|YXと設定する。
ステップＳ２７の後、処理がステップＳ２８へ進む。
ステップＳ２７の後、処理がステップＳ２８へ進む。
（ステップＳ２８）
第２種類予測分布データ算出部１９４は、ステップＳ２４で得られたサンプルデータ｛θ<3> 1，・・・，θ<3> m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ２４で得られたパラメータのサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、パラメータのサンプルデータそのものを参照することで、信頼区間、および、カーネル平均対応パラメータ算出部１９２が算出したパラメータそのものの信頼性を、より高精度に判断することができる。また、例えばパラメータの分布が多峰的である場合、または、パラメータの分布が非対称な場合など、特定の分布でパラメータのサンプルデータを捉えられない場合、関係性分析装置１００が、パラメータのサンプルデータをそのままユーザに提示することで、ユーザは、パラメータの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ２７で得られたデータＹのサンプルデータＹ<4>n jの分布を求めるようにしてもよい。
ステップＳ２８の後、関係性分析装置１００は、図５の処理を終了する。
第２種類予測分布データ算出部１９４は、ステップＳ２４で得られたサンプルデータ｛θ<3> 1，・・・，θ<3> m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ２４で得られたパラメータのサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、パラメータのサンプルデータそのものを参照することで、信頼区間、および、カーネル平均対応パラメータ算出部１９２が算出したパラメータそのものの信頼性を、より高精度に判断することができる。また、例えばパラメータの分布が多峰的である場合、または、パラメータの分布が非対称な場合など、特定の分布でパラメータのサンプルデータを捉えられない場合、関係性分析装置１００が、パラメータのサンプルデータをそのままユーザに提示することで、ユーザは、パラメータの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ２７で得られたデータＹのサンプルデータＹ<4>n jの分布を求めるようにしてもよい。
ステップＳ２８の後、関係性分析装置１００は、図５の処理を終了する。
以上のように、カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>n jとの下でのパラメータθの事後分布を示すカーネル平均μ＾θ|XYを算出する。カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均μ＾θ|XYに基づくパラメータθのサンプルデータ｛θ<3> 1，・・・，θ<3> m｝を算出する。パラメータ予測分布算出部１９３は、パラメータθのサンプルデータ｛θ<3> 1，・・・，θ<3> m｝を用いてデータＹの予測分布のカーネル表現ν＾y|YXを算出する。第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出したデータＹの予測分布のカーネル表現ν＾y|YXを用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータＹ<4>n jを算出する。
このように、関係性分析装置１００がサンプルデータを生成することで、サンプルデータからデータの分布を求めることができる。関係性分析装置１００が、データの分布を求めるようにしてもよい。あるいは、関係性分析装置１００がサンプルデータをユーザに提示し、ユーザがデータの分布を求めるようにしてもよい。
＜第３実施形態＞
第３実施形態では、関係性分析装置が、共変量シフト（Covariate Shift）に対応する場合について説明する。共変量シフトとは、訓練時とテスト時とで入力の分布が異なるが入出力関数は変わらないことである。ここでは、観測データのデータＸの分布と、関係性分析対象（分析したい範囲）のデータＸの分布とが異なるが真のモデルは変わらない場合を共変量シフトとして扱う。観測データのデータＸの分布をｑ0（ｘ）と表記し、関係性分析対象のデータＸの分布をｑ1（ｘ）と表記する。
第３実施形態では、関係性分析装置が、共変量シフト（Covariate Shift）に対応する場合について説明する。共変量シフトとは、訓練時とテスト時とで入力の分布が異なるが入出力関数は変わらないことである。ここでは、観測データのデータＸの分布と、関係性分析対象（分析したい範囲）のデータＸの分布とが異なるが真のモデルは変わらない場合を共変量シフトとして扱う。観測データのデータＸの分布をｑ0（ｘ）と表記し、関係性分析対象のデータＸの分布をｑ1（ｘ）と表記する。
図６は、共変量シフトの例を示す図である。図６で、横軸はＸ座標（データＸの座標）を示し、縦軸はＹ座標（データＹの座標）を示す。
線Ｌ２１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
また、点Ｐ２２のように丸で示されるデータ、点Ｐ２３のように十字で示されるデータのいずれも真のモデルに基づいて生成されている。丸で示されるデータを丸データと称し、十字で示されるデータを十字データと称する。
線Ｌ２１は、真のモデルを示す。ここでは、真のモデルの関数をｙ＝Ｒ（ｘ）とする。
また、点Ｐ２２のように丸で示されるデータ、点Ｐ２３のように十字で示されるデータのいずれも真のモデルに基づいて生成されている。丸で示されるデータを丸データと称し、十字で示されるデータを十字データと称する。
図６の例では、データにノイズが含まれており、丸データ、十字データのいずれも、線Ｌ２１の近傍にプロットされている。
一方、丸データと十字データとでは、ｘ軸方向の分布が異なる。丸データが図６の左右に広く分布しているのに対し、十字データは、図６の左側に偏って分布している。この分布の違いから、丸データの場合と十字データの場合とで回帰関数が異なる。例えば直線回帰を行う場合、丸データの回帰直線は線Ｌ２２となり、十字データの回帰直線は線Ｌ２３となる。
一方、丸データと十字データとでは、ｘ軸方向の分布が異なる。丸データが図６の左右に広く分布しているのに対し、十字データは、図６の左側に偏って分布している。この分布の違いから、丸データの場合と十字データの場合とで回帰関数が異なる。例えば直線回帰を行う場合、丸データの回帰直線は線Ｌ２２となり、十字データの回帰直線は線Ｌ２３となる。
このように、真のモデルが同じであっても分布の違いから回帰関数が異なる場合がある。例えば、得られた観測データが丸データである場合、この観測データ（丸データ）に基づいて回帰関数を求めると線Ｌ２２が得られる。一方、ユーザが、十字データの分布の場合について関係性分析を行いたい場合、線Ｌ２２を回帰関数としたのでは精度が低く、線Ｌ２３を回帰関数として求めたい。
そこで、関係性分析装置１００は、観測データの場合のデータＸの分布と関係性分析を行いたい範囲のデータＸの分布との比較に基づいて観測データに重みづけを行い、関係性分析を行いたい範囲のデータＸの分布に対応するパラメータθの値を求める。
そこで、関係性分析装置１００は、観測データの場合のデータＸの分布と関係性分析を行いたい範囲のデータＸの分布との比較に基づいて観測データに重みづけを行い、関係性分析を行いたい範囲のデータＸの分布に対応するパラメータθの値を求める。
第３実施形態にかかる関係性分析システムの構成および関係性分析装置１００の構成は、第１実施形態の場合（図１）と同様である。第３実施形態では、パラメータ値決定部１８３が行う処理が、第１実施形態の場合と異なる。第３実施形態では、パラメータ値決定部１８３は、第２種類の観測データＹnと、第２種類のサンプルデータＹ<1>n jとの差異、および、第１種類の観測データＸnが従う第１分布と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータの値を算出する。
第１実施形態では、パラメータ値決定部１８３は、観測データＹnと、サンプルデータＹ<1>n jとの近さで示される、パラメータのサンプルデータθ<1> jの尤度に基づく重みを算出している。これに対し、第３実施形態では、パラメータ値決定部１８３は、サンプルデータθ<1> jの尤度に加えて、観測データの分布ｄ1（ｘ）への一致度合いに基づいてサンプルデータθ<1> jの各々を重み付けする。
第１実施形態では、パラメータ値決定部１８３は、観測データＹnと、サンプルデータＹ<1>n jとの近さで示される、パラメータのサンプルデータθ<1> jの尤度に基づく重みを算出している。これに対し、第３実施形態では、パラメータ値決定部１８３は、サンプルデータθ<1> jの尤度に加えて、観測データの分布ｄ1（ｘ）への一致度合いに基づいてサンプルデータθ<1> jの各々を重み付けする。
図７は、第３実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
図７のステップＳ３１〜Ｓ３２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ３２の後、処理がステップＳ３３へ進む。
図７のステップＳ３１〜Ｓ３２は、図３のステップＳ１１〜Ｓ１２と同様である。ステップＳ３２の後、処理がステップＳ３３へ進む。
（ステップＳ３３）
パラメータ値決定部１８３は、パラメータのサンプルデータθ<1> j毎に重みを算出し、重み付け平均する。図３のステップＳ１２では、パラメータ値決定部１８３は、サンプルデータＹ<1>n jと、観測データＹnとに基づいて、θ<1> j毎に重みを算出する。これに対し、ステップＳ３３では、パラメータ値決定部１８３は、サンプルデータＹ<1>n jおよび観測データＹnに加えて、さらに、観測データＸnの分布ｑ0（ｘ）および回帰を求めたい領域を示す分布ｑ1（ｘ）に基づいて重みを算出する。
重み付け平均で得られるパラメータ値θ<5>は、式（２０）のように示される。＜５＞は、Ｙ<1>n j、Ｙn、ｑ0（ｘ）およびｑ1（ｘ）に基づく重みを反映済みのデータを示す。
パラメータ値決定部１８３は、パラメータのサンプルデータθ<1> j毎に重みを算出し、重み付け平均する。図３のステップＳ１２では、パラメータ値決定部１８３は、サンプルデータＹ<1>n jと、観測データＹnとに基づいて、θ<1> j毎に重みを算出する。これに対し、ステップＳ３３では、パラメータ値決定部１８３は、サンプルデータＹ<1>n jおよび観測データＹnに加えて、さらに、観測データＸnの分布ｑ0（ｘ）および回帰を求めたい領域を示す分布ｑ1（ｘ）に基づいて重みを算出する。
重み付け平均で得られるパラメータ値θ<5>は、式（２０）のように示される。＜５＞は、Ｙ<1>n j、Ｙn、ｑ0（ｘ）およびｑ1（ｘ）に基づく重みを反映済みのデータを示す。
重みｗ’jは、式（２１）のように示される。
ｋ’は、Ｙ<1>n jとＹnとの近さ（ノルム）を算出し、分布ｑ1（ｘ）への一致度合いを加味する関数である。ｋ’としてガウシアンカーネルを変形した式を用いることができ、式（２２）のように示される。
βiは、Ｘnの各要素の分布ｑ1（ｘ）への一致度合いを示す関数であり、式（２３）のように示される。
白丸の演算子は、アダマール積（Hadamard Product）、すなわち、行列またはベクトルの要素毎の積を示す。
ステップＳ１３の後、関係性分析装置１００は、図７の処理を終了する。
ステップＳ１３の後、関係性分析装置１００は、図７の処理を終了する。
以上のように、パラメータサンプルデータ算出部１８１は、第１種類のデータ（データＸ）の値の入力を受けて第２種類のデータ（データＹ）の値を出力するシミュレータｒ（ｘ，θ）のパラメータθに関して仮設定された分布π（０）に基づいて、パラメータθのサンプルデータθ<1> jを複数算出する。第２種類サンプルデータ取得部１８２は、第１種類の観測データＸnとパラメータθのサンプルデータθ<1> jとをシミュレータｒ（ｘ，θ）に入力して、パラメータθのサンプルデータθ<1> j毎に第２種類のサンプルデータＹ<1>n jを取得する。パラメータ値決定部１８３は、第２種類の観測データＹnと、算出された第２種類のサンプルデータＹ<1>n jとの差異、および、第１種類の観測データＸnが従う第１分布ｑ0（ｘ）と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布ｑ1（ｘ）との関係に基づいて、パラメータθのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータθの値を算出する。
これにより、関係性分析装置１００は、共変量シフトに対応して、より高精度に関係性分析を行うことができる。
これにより、関係性分析装置１００は、共変量シフトに対応して、より高精度に関係性分析を行うことができる。
また、第１実施形態の場合と同様第３実施形態でも、関係性分析装置１００では、シミュレータのパラメータθのサンプルデータθ<1> jを生成し、生成したサンプルデータθ<1> jをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータθの値を決定することができる。関係性分析装置１００によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１００によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１００によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
＜第４実施形態＞
第３実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第４実施形態では、パラメータθの推定値を分布で求める例について説明する。
第４実施形態に係る関係性分析システムの構成および関係性分析装置１００の構成は、第２実施形態の場合（図４）と同様である。第４実施形態では、パラメータ値決定部１８３が行う処理が、第１実施形態の場合と異なる。第３実施形態では、パラメータ値決定部１８３は、第２種類の観測データＹnと、第２種類のサンプルデータＹ<1>n jとの差異、および、第１種類の観測データＸnが従う第１分布と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布とに基づいて、パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータの値を算出する。
第３実施形態では、パラメータθの推定値がｄθ次元の実数値で求まる。これに対し、第４実施形態では、パラメータθの推定値を分布で求める例について説明する。
第４実施形態に係る関係性分析システムの構成および関係性分析装置１００の構成は、第２実施形態の場合（図４）と同様である。第４実施形態では、パラメータ値決定部１８３が行う処理が、第１実施形態の場合と異なる。第３実施形態では、パラメータ値決定部１８３は、第２種類の観測データＹnと、第２種類のサンプルデータＹ<1>n jとの差異、および、第１種類の観測データＸnが従う第１分布と、第１種類のデータの分布であって関係を求めたい領域を示す第２分布とに基づいて、パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いてパラメータの値を算出する。
図８は、第４実施形態に係る関係性分析装置１００が行う処理の手順の例を示すフローチャートである。
ステップＳ４１〜Ｓ４２は、図２のステップＳ１１〜Ｓ１２と同様である。
ステップＳ４２の後、処理がステップＳ４３へ進む。
ステップＳ４１〜Ｓ４２は、図２のステップＳ１１〜Ｓ１２と同様である。
ステップＳ４２の後、処理がステップＳ４３へ進む。
（ステップＳ４３）
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（２０）は、カーネル平均を求める式と捉えて式（２４）のように表すことができる。カーネル平均算出部１９１は、式（２４）に基づいてカーネル平均μ＾θ<6>|XYを求める。＜６＞は、分布ｑ1（ｘ）への適合度合いに基づく重み付け済みのデータであることを示す。
カーネル平均算出部１９１は、カーネル平均を求める。
上述した式（２０）は、カーネル平均を求める式と捉えて式（２４）のように表すことができる。カーネル平均算出部１９１は、式（２４）に基づいてカーネル平均μ＾θ<6>|XYを求める。＜６＞は、分布ｑ1（ｘ）への適合度合いに基づく重み付け済みのデータであることを示す。
重みｗ<6> jは、式（２５）のように示される。
ｋ<6> y（Ｙn）は、式（２６）のように示される。
グラム行列Ｇ<6>は、式（２７）のように示される。
ｋ<6> y（Ｙn，Ｙn’）は、式（２８）のように示される。
式（２８）は、重み付けされたカーネル関数に該当する。
カーネル平均μ＾θ<6>|XYは、ＸおよびＹの下でのθの事後分布に、分布ｑ1（ｘ）への一致度合いに基づく重みづけをしたものを、カーネル平均埋め込みにより再生核ヒルベルト空間上で表現したものに該当する。
ステップＳ４３の後、処理がステップＳ４４へ進む。
カーネル平均μ＾θ<6>|XYは、ＸおよびＹの下でのθの事後分布に、分布ｑ1（ｘ）への一致度合いに基づく重みづけをしたものを、カーネル平均埋め込みにより再生核ヒルベルト空間上で表現したものに該当する。
ステップＳ４３の後、処理がステップＳ４４へ進む。
（ステップＳ４４）
カーネル平均対応パラメータ算出部１９２は、パラメータθ<6>について、カーネル平均μ＾θ<6>|XYに基づくサンプルデータ｛θ<6> 1，・・・，θ<6> m｝（ｍはサンプル数を示す正の整数）を求める。
カーネル平均に基づくサンプルデータは、カーネルハーディングの手法を用いて帰納的に求めることができる。この場合、カーネル平均対応パラメータ算出部１９２は、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、式（２９）に基づいて、サンプルデータθ<6> j+1を算出する。
カーネル平均対応パラメータ算出部１９２は、パラメータθ<6>について、カーネル平均μ＾θ<6>|XYに基づくサンプルデータ｛θ<6> 1，・・・，θ<6> m｝（ｍはサンプル数を示す正の整数）を求める。
カーネル平均に基づくサンプルデータは、カーネルハーディングの手法を用いて帰納的に求めることができる。この場合、カーネル平均対応パラメータ算出部１９２は、ｊを０≦ｊ≦ｍ（ｍはサンプル数を示す正の整数）として、式（２９）に基づいて、サンプルデータθ<6> j+1を算出する。
ａｒｇｍａｘθｈj（θ）は、ｈj（θ）の値を最大にするθの値を示す。
ｈjは、式（３０）により再帰的に示される。
ｈjは、式（３０）により再帰的に示される。
式（３０）のμには、ステップＳ４３で得られたカーネル平均μ＾θ<6>|XYを入力する。また、ｈjの初期値ｈ0を、ｈ0：＝μ＾θ<6>|XYと設定する。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<6> 1，・・・，θ<6> m｝には、事前分布に基づくサンプルデータＹ<1>n jと観測データＹnとの近さに応じた重み付け、および、分布ｑ1（ｘ）への一致度合いに基づく重み付けが反映されている。
ステップＳ４４の後、処理がステップＳ４５へ進む。
Ｈは再生核ヒルベルト空間を示す。
ステップＳ２４で得られるサンプルデータ｛θ<6> 1，・・・，θ<6> m｝には、事前分布に基づくサンプルデータＹ<1>n jと観測データＹnとの近さに応じた重み付け、および、分布ｑ1（ｘ）への一致度合いに基づく重み付けが反映されている。
ステップＳ４４の後、処理がステップＳ４５へ進む。
（ステップＳ４５）
パラメータ予測分布算出部１９３は、学習モデルｐ（ｙ｜ｘ，θ）に観測データＸnおよびサンプルデータθ<6> jを入力した分布ｐ（ｙ｜Ｘn，θ＿ｍｃv j）に従う｛θ<6> j，Ｙ<6>n j｝を、シミュレーションにより算出する。
ステップＳ４５の後、処理がステップＳ２６へ進む。
パラメータ予測分布算出部１９３は、学習モデルｐ（ｙ｜ｘ，θ）に観測データＸnおよびサンプルデータθ<6> jを入力した分布ｐ（ｙ｜Ｘn，θ＿ｍｃv j）に従う｛θ<6> j，Ｙ<6>n j｝を、シミュレーションにより算出する。
ステップＳ４５の後、処理がステップＳ２６へ進む。
（ステップＳ４６）
パラメータ予測分布算出部１９３は、ステップＳ４５で得られたサンプルデータ｛θ<6> j，Ｙ<6>n j｝を用いて、分布ｑ1（ｘ）に対応するデータＹの予測分布のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルールを用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘ<6> n，Ｙ<6> n）は、式（３１）のように示される。
パラメータ予測分布算出部１９３は、ステップＳ４５で得られたサンプルデータ｛θ<6> j，Ｙ<6>n j｝を用いて、分布ｑ1（ｘ）に対応するデータＹの予測分布のカーネル表現ν＾y|YXを算出する。
予測分布のカーネル表現ν＾y|YXは、カーネルサムルールを用いて算出することができる。この場合、予測分布ｐ（ｙ｜Ｘ<6> n，Ｙ<6> n）は、式（３１）のように示される。
予測分布ｐ（ｙ｜Ｘn，Ｙn）のカーネル表現ν＾y|XYは、式（３２）のように示される。
ｖ1、・・・、ｖmは、式（３３）のように示される。
グラム行列Ｇθ<6>は、式（３４）のように示される。
グラム行列Ｇθ<6>θは、式（３５）のように示される。
δmは、逆行列の計算を安定化させるための係数である。
Ｉは単位行列を示す。
ステップＳ４６の後、処理がステップＳ４７へ進む。
Ｉは単位行列を示す。
ステップＳ４６の後、処理がステップＳ４７へ進む。
（ステップＳ４７）
第２種類予測分布データ算出部１９４は、ステップＳ４６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布Ｙ<6>n jのサンプルデータを求める。
ステップＳ４７でも、ステップＳ４４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ４７では、式（３６）に基づいてサンプルデータを算出する。
第２種類予測分布データ算出部１９４は、ステップＳ４６で得られた予測分布のカーネル表現ν＾y|YXを用いて、予測分布Ｙ<6>n jのサンプルデータを求める。
ステップＳ４７でも、ステップＳ４４の場合と同様、カーネルハーディングの手法を用いて帰納的にサンプルデータを求めることができる。ステップＳ４７では、式（３６）に基づいてサンプルデータを算出する。
ａｒｇｍａｘyｈ’j（ｙ）は、ｈ’j（ｙ）の値を最大にするｙの値を示す。
ｈ’jは、式（３７）により再帰的に示される。
ｈ’jは、式（３７）により再帰的に示される。
式（３７）のνにはステップＳ４６で得られた予測分布のカーネル表現ν＾y|YXを入力する。また、ｈ’jの初期値ｈ’0を、ｈ’0：＝ν＾y|YXと設定する。
ステップＳ４７の後、処理がステップＳ４８へ進む。
ステップＳ４７の後、処理がステップＳ４８へ進む。
（ステップＳ２８）
第２種類予測分布データ算出部１９４は、ステップＳ４４で得られたサンプルデータ｛θ<6> 1，・・・，θ<6> m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ４４で得られたサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、サンプルデータそのものを参照することで、信頼区間およびデータそのものの信頼性を、より高精度に判断することができる。また、例えばデータの山が複数ある場合または非対称な分布の場合など、特定の分布でサンプルデータを捉えられない場合、関係性分析装置１００が、サンプルデータをそのままユーザに提示することで、ユーザは、データの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ４７で得られたデータＹのサンプルデータＹ<6>n jの分布を求めるようにしてもよい。
ステップＳ４８の後、関係性分析装置１００は、図８の処理を終了する。
第２種類予測分布データ算出部１９４は、ステップＳ４４で得られたサンプルデータ｛θ<6> 1，・・・，θ<6> m｝から、パラメータθの分布を求める。例えば、第２種類予測分布データ算出部１９４は、パラメータθの分布がガウス分布など特定の分布に従うと仮定し、サンプルデータから平均値および分散など分布の特徴量を算出する。
あるいは、関係性分析装置１００が、ステップＳ４４で得られたサンプルデータをそのままユーザに提示する（例えば、グラフで表示する）ようにしてもよい。ユーザは、サンプルデータそのものを参照することで、信頼区間およびデータそのものの信頼性を、より高精度に判断することができる。また、例えばデータの山が複数ある場合または非対称な分布の場合など、特定の分布でサンプルデータを捉えられない場合、関係性分析装置１００が、サンプルデータをそのままユーザに提示することで、ユーザは、データの分布を把握し得る。
また、第２種類予測分布データ算出部１９４が、パラメータのサンプルデータに加えて、あるいは代えて、ステップＳ４７で得られたデータＹのサンプルデータＹ<6>n jの分布を求めるようにしてもよい。
ステップＳ４８の後、関係性分析装置１００は、図８の処理を終了する。
以上のように、カーネル平均算出部１９１は、第１種類の観測データＸnと、第２種類サンプルデータ取得部１８２が取得した第２種類のサンプルデータＹ<1>n jとの下でのパラメータθの事後分布を示すカーネル平均μ＾θ|XYを算出する。カーネル平均対応パラメータ算出部１９２は、カーネル平均算出部１９１が算出したカーネル平均μ＾θ|XYに基づくパラメータθのサンプルデータ｛θ<6> 1，・・・，θ<6> m｝を算出する。パラメータ予測分布算出部１９３は、パラメータθのサンプルデータ｛θ<6> 1，・・・，θ<6> m｝を用いてデータＹの予測分布のカーネル表現ν＾y|YXを算出する。第２種類予測分布データ算出部１９４は、パラメータ予測分布算出部１９３が算出した予測分布のカーネル表現ν＾y|YXを用いて、第２種類のデータ（データＹ）の予測分布に従うサンプルデータＹ<6>n jを算出する。
このように、関係性分析装置１００がサンプルデータを生成することで、サンプルデータからデータの分布を求めることができる。関係性分析装置１００が、データの分布を求めるようにしてもよい。あるいは、関係性分析装置１００がサンプルデータをユーザに提示し、ユーザがデータの分布を求めるようにしてもよい。
次に、関係性分析装置１００の動作実験について説明する。
図９は、実験におけるシミュレーション対象の組立工程の例を示す図である。図９に示す組立工程では、組立装置が、上側部品、下側部品、および２つのねじの４つの部品を組み立てて製品を生成する。組立装置が組み立てた製品は検査装置に搬入される。検査装置は、製品が４つ搬入されると検査を行う。
図９は、実験におけるシミュレーション対象の組立工程の例を示す図である。図９に示す組立工程では、組立装置が、上側部品、下側部品、および２つのねじの４つの部品を組み立てて製品を生成する。組立装置が組み立てた製品は検査装置に搬入される。検査装置は、製品が４つ搬入されると検査を行う。
この組立工程で、単位時間当たりの製品の生産量をデータＸとし、Ｘ個（データＸの値）の製品の出荷時間をデータＹとする。また、パラメータの数は２とし、組立装置の作業時間をθ1、検査装置の作業時間をθ2とする。
図１０は、得られたＸとＹの関係を示す図である。図１０のグラフの横軸はデータＸを示し、縦軸はデータＹを示す。また、点Ｐ３１のような丸で観測データが示されている。
線Ｌ３１は、関係性分析の結果得られたＸとＹの関係を示す線である。
図１０は、得られたＸとＹの関係を示す図である。図１０のグラフの横軸はデータＸを示し、縦軸はデータＹを示す。また、点Ｐ３１のような丸で観測データが示されている。
線Ｌ３１は、関係性分析の結果得られたＸとＹの関係を示す線である。
線Ｌ３１が階段状になっているのは、検査装置が、製品が４つ搬入されてから検査を行うことによる待ち時間が生じているものと考えられ、ＸとＹとの関係を高精度に求められている。
図１１は、実験で得られたパラメータの値を示す図である。図１１のグラフの横軸はパラメータθ1を示し、縦軸はパラメータθ2を示す。
点Ｐ３１は、パラメータの真の値を示す。点Ｐ３２は、実験で得られたパラメータの値を示す。点Ｐ３２は点Ｐ３１に近く、パラメータ値を適切に算出できている。
図１１は、実験で得られたパラメータの値を示す図である。図１１のグラフの横軸はパラメータθ1を示し、縦軸はパラメータθ2を示す。
点Ｐ３１は、パラメータの真の値を示す。点Ｐ３２は、実験で得られたパラメータの値を示す。点Ｐ３２は点Ｐ３１に近く、パラメータ値を適切に算出できている。
図１２は、共変量シフトの実験におけるパラメータ値の設定例を示す図である。
上述した組立工程のシミュレーションの実験で、Ｘの値が１１０を超えると、θ1、θ2共に値が大きくなる（組立および検査に時間を要する）ように、真のパラメータ値を設定する。
上述した組立工程のシミュレーションの実験で、Ｘの値が１１０を超えると、θ1、θ2共に値が大きくなる（組立および検査に時間を要する）ように、真のパラメータ値を設定する。
図１３は、実験で得られたＸとＹの関係を示す図である。図１３のグラフの横軸はデータＸを示し、縦軸はデータＹを示す。また、点Ｐ４１のような丸で観測データが示されている。
観測データの分布が、ｑ0（Ｘ）＝Ｎ（Ｘ｜１００，１０）と、Ｘ＝１００を中心に分布しているのに対し、予測したい領域は、ｑ１（Ｘ）＝Ｎ（Ｘ｜１２０，１０）と、Ｘ＝１２０の場合について予測したいとする。
観測データの分布が、ｑ0（Ｘ）＝Ｎ（Ｘ｜１００，１０）と、Ｘ＝１００を中心に分布しているのに対し、予測したい領域は、ｑ１（Ｘ）＝Ｎ（Ｘ｜１２０，１０）と、Ｘ＝１２０の場合について予測したいとする。
線Ｌ４１は、共変量シフトの処理を行わない場合に得られるＸとＹの関係を示す線である。線Ｌ４２は、共変量シフトを行った場合に得られるＸとＹの関係を示す線である。
共変量シフトを行わない場合の線Ｌ４１が、Ｘ＝１００付近のデータを精度よく近似しているのに対し、共変量シフトを行った場合の線Ｌ４２は、Ｘ＝１２０付近のデータを精度よく近似している。このように、共変量シフトに対応した結果を得られた。
また、図１０の場合と同様、階段状の線を得られており、この点でもＸとＹとの関係を高精度に求められている。
共変量シフトを行わない場合の線Ｌ４１が、Ｘ＝１００付近のデータを精度よく近似しているのに対し、共変量シフトを行った場合の線Ｌ４２は、Ｘ＝１２０付近のデータを精度よく近似している。このように、共変量シフトに対応した結果を得られた。
また、図１０の場合と同様、階段状の線を得られており、この点でもＸとＹとの関係を高精度に求められている。
図１４は、共変量シフトの実験で得られたパラメータの値を示す図である。図１１のグラフの横軸はパラメータθ1を示し、縦軸はパラメータθ2を示す。
点Ｐ５１は、パラメータの真の値を示す。点Ｐ５２は、共変量シフトによるパラメータの真の値を示す。点Ｐ５３は、共変量シフトで得られたパラメータの値を示す。また、点Ｐ５４等により、カーネルハーディングで得られたパラメータ値の分布が示されている。
点Ｐ５１は、パラメータの真の値を示す。点Ｐ５２は、共変量シフトによるパラメータの真の値を示す。点Ｐ５３は、共変量シフトで得られたパラメータの値を示す。また、点Ｐ５４等により、カーネルハーディングで得られたパラメータ値の分布が示されている。
点Ｐ５３は、点Ｐ５２に近く、パラメータ値を適切に算出できている。
また、カーネルハーディングで得られたパラメータ値の分布は、縦方向の分布が大きい。これにより、パラメータθ1の値の影響よりもパラメータθ2の値の影響の方が大きいことが示されている。また、カーネルハーディングで得られたパラメータ値の分布は、左肩上がりとなっている。これにより、パラメータθ1の値を改善すれば、多少の効率の改善は見込まれることが示されている。
このように、関係性分析装置１００が求めるパラメータ値の分布を参照して、ボトルネック解析等の感度解析を行うことができる。
また、カーネルハーディングで得られたパラメータ値の分布は、縦方向の分布が大きい。これにより、パラメータθ1の値の影響よりもパラメータθ2の値の影響の方が大きいことが示されている。また、カーネルハーディングで得られたパラメータ値の分布は、左肩上がりとなっている。これにより、パラメータθ1の値を改善すれば、多少の効率の改善は見込まれることが示されている。
このように、関係性分析装置１００が求めるパラメータ値の分布を参照して、ボトルネック解析等の感度解析を行うことができる。
次に、図１５を参照して本発明の実施形態の構成について説明する。
図１５は、本発明の実施形態に係る関係性分析装置の構成の例を示す図である。図１５に示す関係性分析装置１０は、パラメータサンプルデータ算出部１１と、第２種類サンプルデータ取得部１２と、パラメータ値決定部１３とを備える。
図１５は、本発明の実施形態に係る関係性分析装置の構成の例を示す図である。図１５に示す関係性分析装置１０は、パラメータサンプルデータ算出部１１と、第２種類サンプルデータ取得部１２と、パラメータ値決定部１３とを備える。
かかる構成にて、パラメータサンプルデータ算出部１１は、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータのサンプルデータを複数算出する。第２種類サンプルデータ取得部１２は、前記第１種類の観測データと前記パラメータのサンプルデータとを前記シミュレータに入力して、前記パラメータのサンプルデータ毎に前記第２種類のサンプルデータを取得する。パラメータ値決定部１３は、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータのサンプルデータの各々に対する重みを算出し、得られた重みを用いて前記パラメータの値を算出する。
これにより、関係性分析装置１０は、共変量シフトに対応して、より高精度に関係性分析を行うことができる。
また、関係性分析装置１０では、シミュレータのパラメータのサンプルデータを生成し、生成したサンプルデータをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータの値を決定することができる。関係性分析装置１０によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１０によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
また、関係性分析装置１０では、シミュレータのパラメータのサンプルデータを生成し、生成したサンプルデータをシミュレータに入力して評価することで、モデルの関数を微分する必要なしにパラメータの値を決定することができる。関係性分析装置１０によればこの点で、関係性分析について、モデルの関数を微分できない場合や、モデルが不明な場合であっても対応可能である。
このように、関係性分析装置１０によれば、複数種類のデータ間の関係性分析で一部の領域における関係性を分析する際に、モデルが不明な場合であっても対応可能である。
なお、制御部１８０の機能の全部または一部を実行するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各部の処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであっても良い。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
この出願は、２０１８年６月７日に出願された日本国特願２０１８−１０９８８０を基礎とする優先権を主張し、その開示の全てをここに取り込む。
本発明は、関係性分析装置、関係性分析方法および記録媒体に適用してもよい。
１００ 関係性分析装置
１１０ 入出力部
１７０ 記憶部
１８０ 制御部
１８１ パラメータサンプルデータ算出部
１８２ 第２種類サンプルデータ取得部
１８３ パラメータ値決定部
１９１ カーネル平均算出部
１９２ カーネル平均対応パラメータ算出部
１９３ パラメータ予測分布算出部
１９４ 第２種類予測分布データ算出部
１１０ 入出力部
１７０ 記憶部
１８０ 制御部
１８１ パラメータサンプルデータ算出部
１８２ 第２種類サンプルデータ取得部
１８３ パラメータ値決定部
１９１ カーネル平均算出部
１９２ カーネル平均対応パラメータ算出部
１９３ パラメータ予測分布算出部
１９４ 第２種類予測分布データ算出部
本発明は、関係性分析装置、関係性分析方法およびプログラムに関する。
本発明の目的の一例は、上述の課題を解決することのできる関係性分析装置、関係性分析方法およびプログラムを提供することである。
本発明の第３の態様によれば、プログラムは、コンピュータに、第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出する、ことを実行させるためのプログラムである。
Claims (4)
- 第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出するパラメータサンプルデータ算出部と、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを取得する第２種類サンプルデータ取得部と、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、算出された前記重みを用いて前記パラメータの値を算出するパラメータ値決定部と、
を備える関係性分析装置。 - 前記パラメータ値決定部は、
前記第１種類の観測データと、算出された前記第２種類のサンプルデータとの下での前記パラメータの事後分布に、前記第１種類のデータの各要素の前記第２分布への一致度合いが反映されたカーネル平均を算出するカーネル平均算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを算出するカーネル平均対応パラメータ算出部と、
前記カーネル平均に基づく前記パラメータのサンプルデータを用いて前記パラメータの予測分布のカーネル表現を算出するパラメータ予測分布算出部と、
前記パラメータの予測分布のカーネル表現を用いて、前記第２種類のデータの予測分布に従うサンプルデータを算出する第２種類予測分布データ算出部と、
を備える請求項１に記載の関係性分析装置。 - 第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを含む関係性分析方法。 - コンピュータに、
第１種類のデータの入力を受けて第２種類のデータを出力するシミュレータのパラメータに関して仮設定された分布に基づいて、前記パラメータの複数のサンプルデータを算出し、
前記第１種類の観測データと前記パラメータの複数のサンプルデータの各々とを前記シミュレータに入力して、前記パラメータの複数のサンプルデータの各々毎に前記第２種類のサンプルデータを算出し、
前記第２種類の観測データと前記第２種類のサンプルデータとの差異、および、前記第１種類の観測データが従う第１分布と、前記第１種類のデータの分布であって関係を求めたい領域を示す第２分布との関係に基づいて、前記パラメータの複数のサンプルデータの各々に対する重みを算出し、
算出された前記重みを用いて前記パラメータの値を算出する、
ことを実行させるためのプログラムを記憶した記録媒体。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2018109880 | 2018-06-07 | ||
| JP2018109880 | 2018-06-07 | ||
| PCT/JP2019/022727 WO2019235614A1 (ja) | 2018-06-07 | 2019-06-07 | 関係性分析装置、関係性分析方法および記録媒体 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2019235614A1 true JPWO2019235614A1 (ja) | 2021-07-01 |
| JP7017712B2 JP7017712B2 (ja) | 2022-02-09 |
Family
ID=68770309
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020523203A Active JP7017712B2 (ja) | 2018-06-07 | 2019-06-07 | 関係性分析装置、関係性分析方法およびプログラム |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20210232957A1 (ja) |
| JP (1) | JP7017712B2 (ja) |
| WO (1) | WO2019235614A1 (ja) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101553100B1 (ko) | 2012-10-31 | 2015-09-14 | 주식회사 엘지화학 | 중합 생산성이 우수한 염화비닐계 중합체의 현탁중합 방법 |
| US20210311009A1 (en) * | 2018-07-31 | 2021-10-07 | Nec Corporation | Information processing apparatus, control method, and non-transitory storage medium |
| EP3839781A4 (en) * | 2018-10-02 | 2022-04-06 | Nippon Telegraph And Telephone Corporation | CALCULATION DEVICE, METHOD AND PROGRAM |
| JP7367843B2 (ja) * | 2020-03-02 | 2023-10-24 | 日本電信電話株式会社 | 関係性抽出装置、関係性抽出方法、及びプログラム |
| US11694116B2 (en) * | 2020-07-27 | 2023-07-04 | BlueOwl, LLC | Vehicle resiliency, driving feedback and risk assessment using machine learning-based vehicle wear scoring |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11296561A (ja) * | 1998-04-07 | 1999-10-29 | Toshiba Corp | ワーストケース・モデルパラメータ生成方法及び装置 |
| JP2012149920A (ja) * | 2011-01-17 | 2012-08-09 | Toshiba Denpa Syst Eng Kk | 降水強度推定システム及び降水強度推定方法 |
| WO2016194051A1 (ja) * | 2015-05-29 | 2016-12-08 | 株式会社日立製作所 | 確率的システムの注目指標の統計量を最小化するパラメータセットを探索するシステム |
Family Cites Families (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US9858534B2 (en) * | 2013-11-22 | 2018-01-02 | California Institute Of Technology | Weight generation in machine learning |
| EP3440543A4 (en) * | 2016-04-05 | 2019-08-28 | Deakin University | SYSTEMS AND METHOD FOR MANUFACTURING A PRODUCT |
| JP6562883B2 (ja) * | 2016-09-20 | 2019-08-21 | 株式会社東芝 | 特性値推定装置および特性値推定方法 |
| US20180349158A1 (en) * | 2017-03-22 | 2018-12-06 | Kevin Swersky | Bayesian optimization techniques and applications |
| CN111247590A (zh) * | 2017-10-17 | 2020-06-05 | 阿费梅特里克斯公司 | 检测装置和方法 |
| US10794609B2 (en) * | 2018-02-05 | 2020-10-06 | Mitsubishi Electric Research Laboratories, Inc. | Methods and systems for personalized heating, ventilation, and air conditioning |
| JP7199683B2 (ja) * | 2018-02-27 | 2023-01-06 | 国立研究開発法人情報通信研究機構 | ニューラル機械翻訳モデルの訓練方法及び装置並びにそのためのコンピュータプログラム |
| US20210232738A1 (en) * | 2018-06-07 | 2021-07-29 | Nec Corporation | Analysis device, analysis method, and recording medium |
| JP7058386B2 (ja) * | 2018-06-07 | 2022-04-22 | 日本電気株式会社 | 分析装置、分析方法およびプログラム |
| WO2019235603A1 (ja) * | 2018-06-07 | 2019-12-12 | 日本電気株式会社 | 関係性分析装置、関係性分析方法および記録媒体 |
-
2019
- 2019-06-07 JP JP2020523203A patent/JP7017712B2/ja active Active
- 2019-06-07 US US15/734,779 patent/US20210232957A1/en active Pending
- 2019-06-07 WO PCT/JP2019/022727 patent/WO2019235614A1/ja active Application Filing
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11296561A (ja) * | 1998-04-07 | 1999-10-29 | Toshiba Corp | ワーストケース・モデルパラメータ生成方法及び装置 |
| JP2012149920A (ja) * | 2011-01-17 | 2012-08-09 | Toshiba Denpa Syst Eng Kk | 降水強度推定システム及び降水強度推定方法 |
| WO2016194051A1 (ja) * | 2015-05-29 | 2016-12-08 | 株式会社日立製作所 | 確率的システムの注目指標の統計量を最小化するパラメータセットを探索するシステム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP7017712B2 (ja) | 2022-02-09 |
| WO2019235614A1 (ja) | 2019-12-12 |
| US20210232957A1 (en) | 2021-07-29 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7017712B2 (ja) | 関係性分析装置、関係性分析方法およびプログラム | |
| Giagopoulos et al. | Structural health monitoring and fatigue damage estimation using vibration measurements and finite element model updating | |
| JP7017711B2 (ja) | 関係性分析装置、関係性分析方法およびプログラム | |
| JPWO2020065806A1 (ja) | 処理装置、処理方法、およびプログラム | |
| JP7058386B2 (ja) | 分析装置、分析方法およびプログラム | |
| Jung et al. | Modeling temporal crowd work quality with limited supervision | |
| JPWO2019235611A1 (ja) | 分析装置、分析方法およびプログラム | |
| Liu et al. | Software reliability forecasting: singular spectrum analysis and ARIMA hybrid model | |
| Souza et al. | Impact of damping models in damage identification | |
| Haj Mohamad et al. | Detection of cracks in a rotating shaft using density characterization of orbit plots | |
| Nazir et al. | Testability estimation model (TEM OOD) | |
| US11367020B2 (en) | Signal selection device, learning device, and signal selection method and program | |
| Warner et al. | A computationally-efficient inverse approach to probabilistic strain-based damage diagnosis | |
| JP2021179906A (ja) | 影響度算出プログラム、影響度算出装置、影響度算出方法 | |
| Bui et al. | Modal analysis of slow varying non-stationary vibration by model updating with Schur complement | |
| Campisi | Multilayer perceptrons as function approximators for analytical solutions of the diffusion equation | |
| CN111507639B (zh) | 理财风险分析方法及装置 | |
| King | Production implementation of recurrent neural networks in adaptive instructional systems | |
| US20240176325A1 (en) | System and method for predicting ai useful life based on accelerated life testing data | |
| Chou et al. | Modal property extraction based on frequency domain stochastic subspace identification | |
| Singh et al. | Inception Time Model for Structural Damage Detection Using Vibration Measurements | |
| van Oijen et al. | Introduction to Bayesian Science | |
| Codex | Integrating TESS with β-Diversity Indices for Turnover Estimation: A Review and Evaluation of Combined Metrics in Assessing Community Dynamics | |
| JP2005267474A (ja) | マハラノビス距離を利用した異常原因診断方法及びプログラム | |
| Arias-Giraldo et al. | enmpa: An R package for ecological niche modeling using presence-absence data and generalized linear models |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201204 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201204 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20201204 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211221 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220113 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7017712 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |