JP6536157B2 - モデル推定システム、モデル推定方法およびモデル推定プログラム - Google Patents
モデル推定システム、モデル推定方法およびモデル推定プログラム Download PDFInfo
- Publication number
- JP6536157B2 JP6536157B2 JP2015091413A JP2015091413A JP6536157B2 JP 6536157 B2 JP6536157 B2 JP 6536157B2 JP 2015091413 A JP2015091413 A JP 2015091413A JP 2015091413 A JP2015091413 A JP 2015091413A JP 6536157 B2 JP6536157 B2 JP 6536157B2
- Authority
- JP
- Japan
- Prior art keywords
- variable
- component
- parameter selection
- probability
- free parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
前記推定されたコンポーネントの種類およびそのパラメータ、ならびに前記計算された潜在変数の変分確率を取得し、自由パラメータ選択変数を計算する自由パラメータ選択変数計算処理と、前記観測値データ、前記推定されたコンポーネントの種類およびそのパラメータ、前記計算された潜在変数の変分確率、ならびに前記計算された自由パラメータ選択変数を取得し、自由度が限定された周辺化モデル事後確率の下界の最大化を継続するかを判定する最適性判断処理と、計算された潜在変数の変分確率、推定された前記コンポーネントの種類およびそのパラメータを出力する結果出力処理とを実行させることを特徴とする。
次に、本実施形態のモデル推定システムの構成を説明する。図1は、モデル推定システムの第1の実施形態の構成を示すブロック図である。モデル推定システムは、データ入力部101と、状態数設定部102と、初期化処理部103と、潜在変数変分確率計算処理部111と、コンポーネント最適化処理部112と、自由パラメータ選択変数計算部113と、最適性判断処理部114と、結果出力部121とを備える。モデル推定システムは、2つ以上の物理的に分離した装置が有線または無線で接続されている構成であってよい。この点は、後述の各実施形態において同様である。
第2の実施形態(実施形態2)では、ξも含めてモデル化し、それを推定する方法を説明する。図3は、第2の実施形態のモデル推定システムの構成を示すブロック図である。以下、第1の実施形態と同じ構成の説明を省略する。
図5は、第3の実施形態のモデル推定システムの構成を示すブロック図である。本実施形態のモデル推定システムは、図1に示す第1の実施形態の構成に加え、コンポーネント削除判定処理部315を備えている。本実施形態のモデル推定システムのコンポーネント削除判定処理部315以外の構成は、図1に示す第1の実施形態と同様であるため、説明を省略する。
コンポーネントのパラメータの次元が非常に大きくなる代表的な例は、文書の生成モデルである。
小売り店舗の商品配置を考える際、売れ行きの近い店舗の売上を参考に商品構成を考えることが有用であると予想される。売れ行きの近い店舗をクラスタリングするために、各店舗で商品の売り上げをモデル化した場合、商品の数が多いため、コンポーネントの次元が大きくなってしまう。このような場合でも、第1の実施形態から第3の実施形態のモデル推定システムによって店舗のクラスタ数を設定することなくクラスタリングを実施できる。
102 状態数設定部
103、203 初期化処理部
111、211 潜在変数変分確率計算処理部
112、212 コンポーネント最適化処理部
113、213 自由パラメータ選択変数計算部
114、215 最適性判断処理部
121 結果出力部
214 自由パラメータ選択変数分布最適化処理部
315 コンポーネント削除判定処理部
Claims (9)
- 隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得するデータ入力部と、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定する状態数設定部と、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、および自由パラメータ選択変数の初期値を設定する初期化処理部と、
前記観測値データ、ならびに前記初期化処理部が初期値を設定した潜在変数の変分確率、コンポーネントの種類、パラメータおよび自由パラメータ選択変数を取得し、当該自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるような潜在変数の変分確率を計算する潜在変数変分確率計算処理部と、
前記観測値データ、ならびに前記初期化処理部が初期値を設定した潜在変数の変分確率、コンポーネントの種類、パラメータおよび自由パラメータ選択変数を取得し、前記隠れ変数モデルのコンポーネントごとに分離され当該自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定するコンポーネント最適化処理部と、
前記コンポーネント最適化処理部が推定したコンポーネントの種類およびそのパラメータ、ならびに前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率を取得し、自由パラメータ選択変数を計算する自由パラメータ選択変数計算部と、
前記観測値データ、前記コンポーネント最適化処理部が推定したコンポーネントの種類およびそのパラメータ、前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率、ならびに前記自由パラメータ選択変数計算部が計算した自由パラメータ選択変数を取得し、自由度が限定されたモデル事後確率の下界の最大化を継続するかを判定する最適性判断処理部と、
前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率、前記コンポーネント最適化処理部が推定した前記コンポーネントの種類およびそのパラメータを出力する結果出力部とを備えた
ことを特徴とするモデル推定システム。 - 隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得するデータ入力部と、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定する状態数設定部と、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、自由パラメータ選択変数の変分確率、および自由パラメータ選択変数分布のパラメータの初期値を設定する初期化処理部と、
前記観測値データ、ならびに前記初期化処理部が初期値を設定した潜在変数の変分確率、コンポーネントの種類、パラメータ、自由パラメータ選択変数および自由パラメータ選択変数分布のパラメータを取得し、当該自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるような潜在変数の変分確率を計算する潜在変数変分確率計算処理部と、
前記観測値データ、ならびに前記初期化処理部が設定した潜在変数の変分確率、コンポーネントの種類、パラメータ、自由パラメータ選択変数および自由パラメータ選択変数分布のパラメータを取得し、前記隠れ変数モデルのコンポーネントごとに分離され自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定するコンポーネント最適化処理部と、
前記コンポーネント最適化処理部が推定したコンポーネントの種類およびそのパラメータ、ならびに前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率を取得し、自由パラメータ選択変数の変分確率を計算する自由パラメータ選択変数計算部と、
前記自由パラメータ選択変数計算部が計算した自由パラメータ選択変数の変分確率を取得し、自由パラメータ選択変数分布のパラメータを計算する自由パラメータ選択変数分布最適化処理部と、
前記観測値データ、前記コンポーネント最適化処理部が推定したコンポーネントの種類およびそのパラメータ、前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率、前記自由パラメータ選択変数計算部が計算した自由パラメータ選択変数の変分確率、前記自由パラメータ選択変数分布最適化処理部が計算した自由パラメータ選択変数分布のパラメータを取得し、自由度が限定されたモデル事後確率の下界の最大化を継続するかを判定する最適性判断処理部と、
前記潜在変数変分確率計算処理部が計算した潜在変数の変分確率、前記コンポーネント最適化処理部が推定した前記コンポーネントの種類およびそのパラメータを出力する結果出力部とを備えた
ことを特徴とするモデル推定システム。 - 潜在変数の変分確率を取得し、各コンポーネントにおいて、前記変分確率の和が閾値よりも小さければ当該コンポーネントの変分確率を0とするコンポーネント削除判定処理部を備えた
請求項1または請求項2記載のモデル推定システム。 - 最適性判断処理部が、モデル事後確率の下界の最大化を継続すると判定した場合に、
潜在変数変分確率計算処理部は、コンポーネント最適化処理部が前に推定したコンポーネントの種類およびパラメータ、自らが前に計算した潜在変数の変分確率、ならびに自由パラメータ選択変数計算部が前に計算した自由パラメータ選択変数を取得し、再度、モデル事後確率の下界が最大となるように潜在変数の変分確率を計算し、
前記コンポーネント最適化処理部は、自らが前に推定したコンポーネントの種類およびパラメータ、前記潜在変数変分確率計算処理部が前に計算した潜在変数の変分確率、ならびに前記自由パラメータ選択変数計算部が前に計算した自由パラメータ選択変数を取得し、再度、隠れ変数モデルのコンポーネントごとに分離されたモデル事後確率の下界が最大となるようにコンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定し、
前記自由パラメータ選択変数計算部は、前記コンポーネント最適化処理部が前に推定したコンポーネントの種類およびパラメータ、ならびに前記潜在変数変分確率計算処理部が前に計算した潜在変数の変分確率を取得し、再度、自由パラメータ選択変数の変分確率を計算する
請求項1記載のモデル推定システム。 - 最適性判断処理部が、モデル事後確率の下界の最大化を継続すると判定した場合に、
潜在変数変分確率計算処理部は、コンポーネント最適化処理部が前に推定したコンポーネントの種類およびパラメータ、自らが前に計算した潜在変数の変分確率、自由パラメータ選択変数計算部が前に計算した自由パラメータ選択変数の変分確率、ならびに自由パラメータ選択変数分布最適化処理部が前に計算した自由パラメータ選択変数分布のパラメータを取得し、再度、モデル事後確率の下界が最大となるように潜在変数の変分確率を計算し、
前記コンポーネント最適化処理部は、自らが前に推定したコンポーネントの種類およびパラメータ、前記潜在変数変分確率計算処理部が前に計算した潜在変数の変分確率、前記自由パラメータ選択変数計算部が前に計算した自由パラメータ選択変数の変分確率、ならびに前記自由パラメータ選択変数分布最適化処理部が前に計算した自由パラメータ選択変数分布のパラメータを取得し、再度、隠れ変数モデルのコンポーネントごとに分離されたモデル事後確率の下界が最大となるようにコンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定し、
前記自由パラメータ選択変数計算部は、前記コンポーネント最適化処理部が前に推定したコンポーネントの種類およびパラメータ、ならびに前記潜在変数変分確率計算処理部が前に計算した潜在変数の変分確率を取得し、再度、自由パラメータ選択変数の変分確率を計算し、
前記自由パラメータ選択変数分布最適化処理部は、前記自由パラメータ選択変数計算部が前に計算した自由パラメータ選択変数の変分確率を取得し、再度、自由パラメータ選択変数分布のパラメータを計算する
請求項2記載のモデル推定システム。 - 隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得し、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定し、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、および自由パラメータ選択変数の初期値を設定し、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータおよび前記自由パラメータ選択変数を取得し、前記自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるような潜在変数の変分確率を計算し、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータおよび前記自由パラメータ選択変数を取得し、前記隠れ変数モデルのコンポーネントごとに分離され自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定し、
推定された前記コンポーネントの種類およびそのパラメータ、ならびに計算された前記潜在変数の変分確率を取得し、自由パラメータ選択変数を計算し、
前記観測値データ、推定された前記コンポーネントの種類およびそのパラメータ、計算された前記潜在変数の変分確率、ならびに計算された前記自由パラメータ選択変数を取得し、自由度が限定されたモデル事後確率の下界の最大化を継続するかを判定し、
計算された前記潜在変数の変分確率、推定された前記コンポーネントの種類およびそのパラメータを出力する
ことを特徴とするモデル推定方法。 - 隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得し、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定し、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、自由パラメータ選択変数の変分確率、および自由パラメータ選択変数分布のパラメータの初期値を設定し、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータ、前記自由パラメータ選択変数および前記自由パラメータ選択変数分布のパラメータを取得し、前記自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるような潜在変数の変分確率を計算し、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータ、前記自由パラメータ選択変数および前記自由パラメータ選択変数分布のパラメータを取得し、前記隠れ変数モデルのコンポーネントごとに分離され前記自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定し、
推定された前記コンポーネントの種類およびそのパラメータ、ならびに計算された前記潜在変数の変分確率を取得し、自由パラメータ選択変数の変分確率を計算し、
計算された前記自由パラメータ選択変数の変分確率を取得し、自由パラメータ選択変数分布のパラメータを計算し、
前記観測値データ、推定された前記コンポーネントの種類およびそのパラメータ、計算された前記潜在変数の変分確率、計算された前記自由パラメータ選択変数の変分確率、計算された前記自由パラメータ選択変数分布のパラメータを取得し、自由度が限定されたモデル事後確率の下界の最大化を継続するかを判定し、
計算された前記潜在変数の変分確率、推定された前記コンポーネントの種類およびそのパラメータを出力する
ことを特徴とするモデル推定方法。 - コンピュータに、
隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得するデータ入力処理と、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定する状態数設定処理と、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、および自由パラメータ選択変数の初期値を設定する初期化処理と、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータおよび前記自由パラメータ選択変数を取得し、前記自由パラメータ選択変数により自由度が限定された周辺化モデル事後確率の下界が最大となるような潜在変数の変分確率を計算する潜在変数変分確率計算処理と、
前記観測値データ、ならびに初期値が設定された前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータおよび自由パラメータ選択変数を取得し、前記隠れ変数モデルのコンポーネントごとに分離され前記自由パラメータ選択変数により自由度が限定された周辺化モデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定するコンポーネント最適化処理と、
推定された前記コンポーネントの種類およびそのパラメータ、ならびに計算された前記潜在変数の変分確率を取得し、自由パラメータ選択変数を計算する自由パラメータ選択変数計算処理と、
前記観測値データ、推定された前記コンポーネントの種類およびそのパラメータ、計算された前記潜在変数の変分確率、ならびに計算された前記自由パラメータ選択変数を取得し、自由度が限定された周辺化モデル事後確率の下界の最大化を継続するかを判定する最適性判断処理と、
計算された前記潜在変数の変分確率、推定された前記コンポーネントの種類およびそのパラメータを出力する結果出力処理と
を実行させるためのモデル推定プログラム。 - コンピュータに、
隠れ変数モデルの推定対象となる観測値データ、隠れ変数モデルを構成するコンポーネントの種類、およびその状態数候補集合を取得するデータ入力処理と、
前記状態数候補集合のうちまだ計算が完了していない要素を状態数として設定する状態数設定処理と、
潜在変数の変分確率、パラメータ、ハイパーパラメータ、前記コンポーネントの種類、自由パラメータ選択変数の変分確率、および自由パラメータ選択変数分布のパラメータの初期値を設定する初期化処理と、
前記観測値データ、ならびに前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータ、前記自由パラメータ選択変数および前記自由パラメータ選択変数分布のパラメータを取得し、前記自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるような潜在変数の変分確率を計算する潜在変数変分確率計算処理と、
前記観測値データ、ならびに前記潜在変数の変分確率、前記コンポーネントの種類、前記パラメータ、前記自由パラメータ選択変数および前記自由パラメータ選択変数分布のパラメータを取得し、前記隠れ変数モデルのコンポーネントごとに分離され自由パラメータ選択変数により自由度が限定されたモデル事後確率の下界が最大となるように前記コンポーネントの種類およびそのパラメータを最適化することにより最適な前記コンポーネントの種類およびそのパラメータを推定するコンポーネント最適化処理と、
推定された前記コンポーネントの種類およびそのパラメータ、ならびに計算された潜在変数の変分確率を取得し、自由パラメータ選択変数の変分確率を計算する自由パラメータ選択変数計算処理と、
計算された前記自由パラメータ選択変数の変分確率を取得し、自由パラメータ選択変数分布のパラメータを計算する自由パラメータ選択変数分布最適化処理と、
前記観測値データ、推定された前記コンポーネントの種類およびそのパラメータ、計算された前記潜在変数の変分確率、計算された前記自由パラメータ選択変数の変分確率、計算された前記自由パラメータ選択変数分布のパラメータを取得し、自由度が限定されたモデル事後確率の下界の最大化を継続するかを判定する最適性判断処理と、
計算された前記潜在変数の変分確率、推定された前記コンポーネントの種類およびそのパラメータを出力する結果出力処理と
を実行させるためのモデル推定プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015091413A JP6536157B2 (ja) | 2015-04-28 | 2015-04-28 | モデル推定システム、モデル推定方法およびモデル推定プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015091413A JP6536157B2 (ja) | 2015-04-28 | 2015-04-28 | モデル推定システム、モデル推定方法およびモデル推定プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016207136A JP2016207136A (ja) | 2016-12-08 |
JP6536157B2 true JP6536157B2 (ja) | 2019-07-03 |
Family
ID=57490079
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015091413A Active JP6536157B2 (ja) | 2015-04-28 | 2015-04-28 | モデル推定システム、モデル推定方法およびモデル推定プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6536157B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110727768B (zh) * | 2019-10-24 | 2022-10-11 | 中国科学院计算技术研究所 | 一种候选回答语句生成和自然语言选择方法及系统 |
CN111276183B (zh) * | 2020-02-25 | 2023-03-21 | 云南大学 | 一种基于参数估计的张量分解处理海量基因序列的方法 |
CN113485269B (zh) * | 2021-07-20 | 2023-01-03 | 浙江大学 | 一种基于隐变量模型的工业过程监测方法 |
-
2015
- 2015-04-28 JP JP2015091413A patent/JP6536157B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2016207136A (ja) | 2016-12-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Thornton et al. | Auto-WEKA: Combined selection and hyperparameter optimization of classification algorithms | |
US10839314B2 (en) | Automated system for development and deployment of heterogeneous predictive models | |
JP6443858B2 (ja) | 算出装置、算出方法、学習装置、学習方法、及びプログラム | |
CA3088689C (en) | Finite rank deep kernel learning for robust time series forecasting and regression | |
JP6299759B2 (ja) | 予測関数作成装置、予測関数作成方法、及びプログラム | |
Dhar et al. | Admm based scalable machine learning on spark | |
US20220138194A1 (en) | Parameter optimization apparatus, method, and system | |
WO2018079225A1 (ja) | 自動予測システム、自動予測方法および自動予測プログラム | |
JP6536157B2 (ja) | モデル推定システム、モデル推定方法およびモデル推定プログラム | |
US9355196B2 (en) | Model estimation device and model estimation method | |
Ver Steeg et al. | Demystifying information-theoretic clustering | |
CA3119533C (en) | Finite rank deep kernel learning with linear computational complexity | |
CA3119351C (en) | Extending finite rank deep kernel learning to forecasting over long time horizons | |
JP6743902B2 (ja) | マルチタスク関係学習システム、方法およびプログラム | |
Bonneuil et al. | Viable ramsey economies | |
Friebe et al. | Adaptive runtime estimate of task execution times using bayesian modeling | |
Hannah et al. | Semiconvex regression for metamodeling-based optimization | |
JP6414321B2 (ja) | 人数予測システム、人数予測方法および人数予測プログラム | |
JP6550899B2 (ja) | モデル推定システム、モデル推定方法およびモデル推定プログラム | |
US9489632B2 (en) | Model estimation device, model estimation method, and information storage medium | |
Oliveira et al. | k-Nearest neighbor for short term water demand forecasting | |
JP5815468B2 (ja) | スパム分類モデル生成装置及び方法及びプログラム | |
Vakilzadeh | Stochastic model updating and model selection with application to structural dynamics | |
JPWO2011016281A1 (ja) | ベイジアンネットワーク構造学習のための情報処理装置及びプログラム | |
JP2009301557A (ja) | 学習システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180305 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190412 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190507 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190520 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6536157 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |