JP6398991B2 - モデル推定装置、方法およびプログラム - Google Patents
モデル推定装置、方法およびプログラム Download PDFInfo
- Publication number
- JP6398991B2 JP6398991B2 JP2015549102A JP2015549102A JP6398991B2 JP 6398991 B2 JP6398991 B2 JP 6398991B2 JP 2015549102 A JP2015549102 A JP 2015549102A JP 2015549102 A JP2015549102 A JP 2015549102A JP 6398991 B2 JP6398991 B2 JP 6398991B2
- Authority
- JP
- Japan
- Prior art keywords
- hidden
- reference value
- model estimation
- determinant
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/067—Enterprise or organisation modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/06—Resources, workflows, human or project management; Enterprise or organisation planning; Enterprise or organisation modelling
- G06Q10/063—Operations research, analysis or management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Theoretical Computer Science (AREA)
- Human Resources & Organizations (AREA)
- Data Mining & Analysis (AREA)
- Strategic Management (AREA)
- Entrepreneurship & Innovation (AREA)
- Economics (AREA)
- Pure & Applied Mathematics (AREA)
- Mathematical Optimization (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Mathematical Physics (AREA)
- Operations Research (AREA)
- General Engineering & Computer Science (AREA)
- Algebra (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Educational Administration (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Quality & Reliability (AREA)
- Marketing (AREA)
- Game Theory and Decision Science (AREA)
- Development Economics (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Complex Calculations (AREA)
Description
であり、p(X | Z, jx)は、平均がZAで共分散行列
の正規分布となる。Iは単位行列である。ここで、Xndは、平均が
で分散
の正規分布にしたがう。ここで重要な点は、パラメータAが隠れ変数のインデックスkに対して相互に依存している点である。
と表す。ただし、a_kは混合比である。pkはk番目の隠れ変数に対応する分布であり、jkはそのパラメータである。隠れ属性モデルとは異なり、混合分布では隠れ変数のインデックスkに対して、パラメータjkが相互に独立である事がわかる。
を考える。ここで、
である点に注意すべきである。log p(X, Z|j)に関するヘッセ行列は、jz、jk(k=1, ..., K)に関してブロック対角となる。そのため、log p(X, Z|j)をp(X, Z|j)の最尤推定量周りでテイラー展開して、3次以上の項を無視することによって、log p(X, Z|j)は、以下の式4に示すように近似される。
で割った行列であり、p(X, Z|j)のヘッセ行列のブロック対角項に対応する。式4の近似を(式3)に代入することで、log p(X, Z|M)の近似式として、以下に示す式5が得られる。
log det(Fz)、log det(Fk)は相対的に小さくなるため、無視することが可能である。式5からこれらに関する項を無視して、式1へ代入すると、因子化情報量基準として、以下の式6が得られる。
について、log p(X, Z|j)を最尤推定量周りでテイラー展開して3次以上の項を無視すると、以下の式8に示す近似式が得られる。
log det(Fz)、log det(Fd)を相対的に小さいとして無視すると、p(X,Z|M)の近似として、以下の式9が得られる。
という項が、式10ではDd log Nになり、モデル複雑性が隠れ変数に依存しなくなっている点である。より具体的に説明する。非特許文献2で提案されている因子化漸近ベイズ推論では、モデルの複雑性が隠れ変数に依存していることによって、不要な隠れ状態の削除やモデルの同定性など、理論的に優れた性質を持つ。なお、不要な隠れ状態の削除については、非特許文献2の" Section 4.4 Shrinkage Mechanism"で説明されている。また、モデルの同定性については、非特許文献2の" Section 4.5 Identifiability"で説明されている。しかし、隠れ属性モデルに関して上述のように得られる式10では、そのような性質が失われてしまう。
が、入力データ111として設定された閾値を下回った場合には、その状態をモデルから削除する。
が、入力データ111として設定された閾値を下回った場合には、その状態をモデルから削除する。
102 隠れ状態数設定部
103 初期化処理部
104 隠れ変数変分確率計算処理部
105 情報量基準近似処理部
106 隠れ状態選択処理部
107 パラメータ最適化処理部
108 最適性判定処理部
109 モデル推定結果出力装置
Claims (9)
- 行列として表される観測データに関するヘッセ行列の行列式の近似値を計算する計算部と、
前記行列式の近似値を利用して隠れ変数の変分確率を計算する変分確率計算部と、
変分分布に基づいて隠れ状態を削除する隠れ状態削除部と、
周辺化対数尤度関数を完全変数に対する推定量に関してラプラス近似した近似量の下界として定義される基準値に対してパラメータを最適化するとともに、基準値を計算するパラメータ最適化部と、
前記基準値が収束したか否かを判定する収束判定部とを
備えることを特徴とするモデル推定装置。 - 計算部がヘッセ行列の行列式の近似値を計算し、変分確率計算部が隠れ変数の変分確率を計算し、隠れ状態削除部が隠れ状態を削除し、パラメータ最適化部がパラメータを最適化し、計算部がヘッセ行列の行列式の近似値を計算し、パラメータ最適化部が基準値を計算し、収束判定部が、前記基準値が収束したか否かを判定するループ処理を、収束判定部が、前記基準値が収束したと判定するまで繰り返す
請求項1に記載のモデル推定装置。 - モデル推定装置は、隠れ属性モデル推定装置である請求項1または請求項2に記載のモデル推定装置。
- コンピュータが、
行列として表される観測データに関するヘッセ行列の行列式の近似値を計算し、
前記行列式の近似値を利用して隠れ変数の変分確率を計算し、
変分分布に基づいて隠れ状態を削除し、
周辺化対数尤度関数を完全変数に対する推定量に関してラプラス近似した近似量の下界として定義される基準値に対してパラメータを最適化し、
ヘッセ行列の行列式の近似値を計算し、
前記基準値を計算し、
前記基準値が収束したか否かを判定する
ことを特徴とするモデル推定方法。 - コンピュータが、
ヘッセ行列の行列式の近似値を計算し、隠れ変数の変分確率を計算し、隠れ状態を削除し、パラメータを最適化し、ヘッセ行列の行列式の近似値を計算し、前記基準値を計算し、前記基準値が収束したか否かを判定するループ処理を、前記基準値が収束するまで繰り返す
請求項4に記載のモデル推定方法。 - モデル推定方法は、隠れ属性モデル推定方法である請求項4または請求項5に記載のモデル推定方法。
- コンピュータに、
行列として表される観測データに関するヘッセ行列の行列式の近似値を計算する計算処理、
前記行列式の近似値を利用して隠れ変数の変分確率を計算する変分確率計算処理、
変分分布に基づいて隠れ状態を削除する隠れ状態削除処理、
周辺化対数尤度関数を完全変数に対する推定量に関してラプラス近似した近似量の下界として定義される基準値に対してパラメータを最適化するパラメータ最適化処理、
前記基準値を計算する基準値計算処理、および、
前記基準値が収束したか否かを判定する収束判定処理
を実行させるためのモデル推定プログラム。 - コンピュータに、
計算処理、変分確率計算処理、隠れ状態削除処理、パラメータ最適化処理、計算処理、基準値計算処理、および収束判定処理のループ処理を、基準値が収束したと判定されるまで繰り返し実行させる
請求項7に記載のモデル推定プログラム。 - モデル推定プログラムは、隠れ属性モデル推定プログラムである請求項7または請求項8に記載のモデル推定プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US13/898,118 US20140344183A1 (en) | 2013-05-20 | 2013-05-20 | Latent feature models estimation device, method, and program |
US13/898,118 | 2013-05-20 | ||
PCT/JP2014/002219 WO2014188659A1 (en) | 2013-05-20 | 2014-04-21 | Latent feature models estimation device, method, and program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016520220A JP2016520220A (ja) | 2016-07-11 |
JP2016520220A5 JP2016520220A5 (ja) | 2016-08-18 |
JP6398991B2 true JP6398991B2 (ja) | 2018-10-03 |
Family
ID=51896584
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015549102A Active JP6398991B2 (ja) | 2013-05-20 | 2014-04-21 | モデル推定装置、方法およびプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20140344183A1 (ja) |
EP (1) | EP3000058A4 (ja) |
JP (1) | JP6398991B2 (ja) |
WO (1) | WO2014188659A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9489632B2 (en) * | 2013-10-29 | 2016-11-08 | Nec Corporation | Model estimation device, model estimation method, and information storage medium |
US9355196B2 (en) * | 2013-10-29 | 2016-05-31 | Nec Corporation | Model estimation device and model estimation method |
US11281686B2 (en) | 2018-06-04 | 2022-03-22 | Nec Corporation | Information processing apparatus, method, and program |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6671661B1 (en) * | 1999-05-19 | 2003-12-30 | Microsoft Corporation | Bayesian principal component analysis |
US7480640B1 (en) * | 2003-12-16 | 2009-01-20 | Quantum Leap Research, Inc. | Automated method and system for generating models from data |
US7499897B2 (en) * | 2004-04-16 | 2009-03-03 | Fortelligent, Inc. | Predictive model variable management |
WO2011108632A1 (ja) * | 2010-03-03 | 2011-09-09 | 日本電気株式会社 | モデル選択装置、モデル選択方法及びモデル選択プログラム |
US9326698B2 (en) * | 2011-02-18 | 2016-05-03 | The Trustees Of The University Of Pennsylvania | Method for automatic, unsupervised classification of high-frequency oscillations in physiological recordings |
-
2013
- 2013-05-20 US US13/898,118 patent/US20140344183A1/en not_active Abandoned
-
2014
- 2014-04-21 WO PCT/JP2014/002219 patent/WO2014188659A1/en active Application Filing
- 2014-04-21 EP EP14800548.1A patent/EP3000058A4/en not_active Withdrawn
- 2014-04-21 JP JP2015549102A patent/JP6398991B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016520220A (ja) | 2016-07-11 |
US20140344183A1 (en) | 2014-11-20 |
WO2014188659A1 (en) | 2014-11-27 |
EP3000058A4 (en) | 2017-02-22 |
EP3000058A1 (en) | 2016-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20220076150A1 (en) | Method, apparatus and system for estimating causality among observed variables | |
Angelikopoulos et al. | X-TMCMC: Adaptive kriging for Bayesian inverse modeling | |
Carley et al. | Response surface methodology | |
US9043261B2 (en) | Latent variable model estimation apparatus, and method | |
JP6398990B2 (ja) | モデル推定装置、方法およびプログラム | |
US9852378B2 (en) | Information processing apparatus and information processing method to estimate cause-effect relationship between variables | |
Del Castillo et al. | Bayesian modeling and optimization of functional responses affected by noise factors | |
US9292801B2 (en) | Sparse variable optimization device, sparse variable optimization method, and sparse variable optimization program | |
JP6398991B2 (ja) | モデル推定装置、方法およびプログラム | |
US20070239415A2 (en) | General graphical gaussian modeling method and apparatus therefore | |
CN112613617A (zh) | 基于回归模型的不确定性估计方法和装置 | |
Mesters et al. | Generalized dynamic panel data models with random effects for cross-section and time | |
Koutsourelakis et al. | Scalable Bayesian reduced-order models for simulating high-dimensional multiscale dynamical systems | |
Persing et al. | Likelihood computation for hidden Markov models via generalized two-filter smoothing | |
WO2020218246A1 (ja) | 最適化装置、最適化方法、及びプログラム | |
JP7331938B2 (ja) | 学習装置、推定装置、学習方法及び学習プログラム | |
Zeileis et al. | party with the mob: Model-Based Recursive Partitioning in R | |
Berk | Data mining within a regression framework | |
Bogaerts et al. | A fast inverse approach for the quantification of set-theoretical uncertainty | |
Li et al. | A BYY scale-incremental EM algorithm for Gaussian mixture learning | |
Silva | Generalized autoregressive neural network models | |
Lamine et al. | The threshold EM algorithm for parameter learning in bayesian network with incomplete data | |
KR20110116563A (ko) | 주성분 분석과 마르코프 연쇄 몬테카를로 기법을 결합한 퍼지 군집화 방법 | |
Chen et al. | Detecting change-points in epidemic models | |
Verschueren | Regularized Buckley–James Method: A Comprehensive Review and Applications |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160617 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170303 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180529 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180724 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180807 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180820 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6398991 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |