JP2010039723A - 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 - Google Patents
非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 Download PDFInfo
- Publication number
- JP2010039723A JP2010039723A JP2008201274A JP2008201274A JP2010039723A JP 2010039723 A JP2010039723 A JP 2010039723A JP 2008201274 A JP2008201274 A JP 2008201274A JP 2008201274 A JP2008201274 A JP 2008201274A JP 2010039723 A JP2010039723 A JP 2010039723A
- Authority
- JP
- Japan
- Prior art keywords
- matrix
- gaussian distribution
- distribution
- variance
- mixture ratio
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 239000011159 matrix material Substances 0.000 title claims abstract description 587
- 238000004364 calculation method Methods 0.000 title claims description 26
- 238000009826 distribution Methods 0.000 claims abstract description 534
- 239000000203 mixture Substances 0.000 claims abstract description 109
- 238000000354 decomposition reaction Methods 0.000 claims description 60
- 239000013598 vector Substances 0.000 claims description 19
- 239000006185 dispersion Substances 0.000 abstract description 8
- 230000006870 function Effects 0.000 description 88
- 230000014509 gene expression Effects 0.000 description 36
- 238000007476 Maximum Likelihood Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000000034 method Methods 0.000 description 5
- 230000035945 sensitivity Effects 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 238000004891 communication Methods 0.000 description 4
- 230000015654 memory Effects 0.000 description 4
- 238000005284 basis set Methods 0.000 description 2
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000000926 separation method Methods 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 239000004744 fabric Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
Images
Landscapes
- Complex Calculations (AREA)
Abstract
【解決手段】ポアソン分布とガウス分布の基底行列、混合比および重み行列の初期値を生成し、観測データに基づいたガウス分布の分散より生成されたガウス分布率行列で混合比率を更新し、基底行列および重み行列の更新を収束するまで繰り返す。
【選択図】図1
Description
言い換えると、非負値行列分解は、すべての観測データ(J個のK次元非負値ベクトル)
したがって、基底行列Wおよび重み行列Hの行列同士の近さをフロベニウスノルムで測った場合で最適解を得ることは、目的関数を式5に示したフロベニウスノルムとして定義し、尤度関数を次式に示すガウス(Gauss)分布と仮定して最尤推定していることに相当する。
しかしながら、一般に、観測データがどのような統計分布に従って生成されたかを事前に知ることはできず、かつ、必ずしもガウス分布やポアソン分布に理想的に従っているとは限らない。このため、従来、状況に応じてどちらかの目的関数を採用することが好ましいかを経験的に選択していた。
D.D.Lee and H.S.Seung,"Learning the Parts of Objects by Non−negative Matrix Factorization,"Natura Vol.401,pp.788−791,1999.
また、音響信号のスペクトログラムのようなスパースなデータ(鋭いピーク成分がまばらにあり、それ以外は極端に小さい成分からなるデータ)に関しては、上記のいずれの影響も陽に受けることになる。したがって、尤度関数としてポアソン分布と仮定した場合は、小さい成分の影響を大きく受け、尤度関数としてガウス分布と仮定した場合は、鋭いピーク成分(外れ値や飛び値)の影響を大きく受けることになる。このため、どちらの尤度関数と仮定したとしても、NMFモデルのパラメータの推定精度が低下してしまうという問題がある。
前記ガウス分布率行列、前記基底行列、前記重み行列、および前記観測データに基づき、前記ガウス分布の分散を更新し、前記パラメータ更新部の基底行列更新部が、前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記基底行列を更新し、前記パラメータ更新部の重み行列更新部が、前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記重み行列を更新し、収束判定部は、前記パラメータ更新部により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしているか否かを判定し、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていない場合、前記ガウス分布率行列生成部に前記ガウス分布率行列の生成を指示する信号を出力し、この生成された前記ガウス分布率行列に基づき前記パラメータ更新部により更新されたパラメータの更新を再度判定し、分解行列出力部は、前記収束判定部により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていると判定された場合、更新された前記基底行列および前記重み行列を出力することを特徴とする非負値行列分解の数値計算方法である。
また、本発明によれば、観測データがポアソン分布ないしガウス分布のいずれかに従っていない場合であっても、観測データの実際の統計分布にポアソン分布とガウス分布の混合分布で表現可能な範囲内で柔軟に尤度関数が適応されるため、そのもとで最尤のNMFパラメータを得ることができる。
さらに、本発明によれば、効率的にNMFパラメータを算出可能な乗法更新アルゴリズムを実現することができる。
また、本発明によれば、音響信号のスペクトログラムのようなスパースなデータに対しても、高精度なNMFパラメータを推定することができる。
図1に示すとおり、本実施の形態の非負値行列分解の計算装置は、初期パラメータ生成部1、ガウス分布率行列生成部2、パラメータ更新部3、収束判定部4および分解行列出力部5を有する。
ただし、基底行列Wと重み行列Hは、それぞれK×I行列、I×J行列である。なお、ここで言うK,Jは、観測データ行列Xの行数および列数であり、Iは、基底ベクトルが備える非負値基底ベクトルの個数であって予め定められている任意の定数である。
それぞれの初期値の選択可能な範囲は、基底行列W=(wk,i)K×Iに関しては、すべてのkとiに対しての範囲として、
なお、基底行列W=(wk,i)K×Iは、K×I行列で(k,i)成分がwk,iである行列(w1,w2,・・・wI)を表す。また、分布混合比λは、ガウス分布とポアソン分布の混合比率を表す。
ガウス分布率行列生成部2は、上述の式17を利用して計算されたガウス分布率γk,jを要素とした、次式に示すガウス分布率行列Γを生成し、パラメータ更新部3に出力する。
また、ガウス分布率行列生成部2は、入力された観測データ行列X、および初期パラメータ生成部1あるいは分解行列出力部5から入力された基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2を、パラメータ更新部3に出力する。
基底行列更新部33は、更新した基底行列Wを収束判定部4に出力する。
本実施の形態において、収束判定部4は、パラメータ更新部3により、基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2が、下に示す式26のポアソン分布とガウス分布の混合分布により定義された目的関数を最大化するよう更新され、この目的関数の値の変化率が所定値以下となったか否かを判定する。
つまり、観測データxがポアソン分布ないしガウス分布のいずれかに従っている場合、どちらの分布に従っているか収束判定部4により判定されるまで、パラメータ更新部3による更新が繰り返される。このため、観測データxがどちらの分布に従っているかが推定され、同時にそのもとで適切なNMFパラメータが推定される。
一方、観測データxがポアソン分布ないしガウス分布のいずれかに従っていない場合であっても、観測データxの実際の統計分布にポアソン分布とガウス分布の混合分布で表現可能な範囲内で柔軟に尤度関数が適応されるため、そのもとで最尤のNMFパラメータを得ることができる。
したがって、本発明は、観測データxが、いずれの統計分布の分布形に従っているか不明な場合であっても、観測データxに応じた最尤のNMFパラメータを得ることができる。
また、本発明によれば、音響信号のスペクトログラムのようなスパースなデータに対しても、高精度なNMFパラメータを推定することができる。
ガウス分布率行列生成部2は、入力された観測データ行列Xに基づき、これら基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2の初期値を用いて、式17によりガウス分布率γk,iを計算し、このガウス分布率γk,iよりガウス分布率行列Γを生成する(S2)。ガウス分布率行列生成部2は、生成したガウス分布率行列Γと、観測データ行列X、基底行列W、重み行列H、分布混合比λおよびガウス分布の分散σ2の初期値を、パラメータ更新部3に出力する。
すなわち、分布混合比更新部31は、ガウス分布率行列生成部2から入力されたガウス分布率行列Γの要素であるガウス分布率γk,jをガウス分布率γ´k,jとし、これを用いて式19に基づき分布混合比λを更新する(S3)。
ガウス分布分散更新部32は、ガウス分布率行列生成部2から入力された基底行列W、重み行列H、ガウス分布率γk,jを、それぞれ基底行列W´、重み行列H´、ガウス分布率γ´k,jとし、これらと観測データ行列X=(xk,j)K×Jを用いて、式20に基づきガウス分布の分散σ2を更新する(S4)。
基底行列更新部33は、ガウス分布率行列生成部2から入力された基底行列W、重み行列H、ガウス分布行列Γ、およびガウス分布の分散σ2を、それぞれ基底行列W´、重み行列H´、ガウス分布行列Γ´、ガウス分布の分散σ´2とし、これらと観測データ行列X=(xk,j)K×Jを用いて、式21に基づき基底行列Wを更新する(S5)。
重み行列更新部34は、ガウス分布率行列生成部2から入力された基底行列W、重み行列H、ガウス分布行列Γ、およびガウス分布の分散σ2を、それぞれ基底行列W´、重み行列H´、ガウス分布行列Γ´、ガウス分布の分散σ´2とし、これらと観測データ行列X=(xk,j)K×Jを用いて、式24に基づき重み行列Hを更新する(S6)。
基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2が、それぞれ所定の基準を満たしている場合(S7−YES)、収束判定部4は、更新された最新の基底行列Wおよび重み行列Hを出力する指示の信号を、分解行列出力5に出力する。
分解行列出力部5は、収束判定部4から出力の指示信号を受けて、更新された最新の基底行列Wおよび重み行列Hを出力する(S8)。
ステップS2に戻って、指示信号を受けたガウス分布率行列生成部2は、パラメータ更新部3から更新された最新の基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2を読み出し、観測データxに基づきガウス分布率行列Γを生成し、パラメータ更新部3に出力する。パラメータ更新部3は、ガウス分布率行列生成部2から入力されたガウス分布率行列をおよび観測データxに基づき基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2を更新し、収束判定部4に出力する。これら観測データxおよびパラメータ等が入力された収束判定部4は、パラメータの更新の判定を行う。
すなわち、収束判定部4は、それぞれのパラメータが所定の基準を満たすまで、この生成されたガウス分布率行列Γに基づきパラメータ更新部3により更新されたパラメータの更新の判定を繰り返す。
パラメータ更新部3は、更新された基底行列W、重み行列H、分布混合比λ、ガウス分布の分散σ2を収束判定部4に出力する。
ここで、ガウス分布とポアソン分布の尤度関数について説明する。
図3は、ポアソン分布の尤度関数の概形を示す図であり、図4は、ガウス分布の尤度関数の概形を示す図であり、図5は、ポアソン分布とガウス分布の混合分布の概形を示す図である。図3〜5において、凸型の複数の波形a〜oは、それぞれ異なる観測値xの尤度関数を示している。
図3からわかるように、尤度関数がポアソン分布の場合、観測データxが大きいほど尤度関数の分布の裾が広くなる。このため、本実施の形態では、観測データxの値が大きいほど、NMFモデル(基底行列Wと重み行列Hの積をとった行列)[WH]k,jの要素値と観測データxk,jとのずれに対して感度が鈍くなるようなコスト(尤度関数)を設けていることに相当する。
図4からわかるように、尤度関数がガウス分布の場合、ポアソン分布の場合とは逆に、尤度関数の分布の裾は観測データxの大きさによらず一定である。このため、本実施の形態では、ポアソン分布のときに比べて観測値xk,jの値が大きいほどNMFモデル[WH]k,jの要素値と観測値xとのずれに対して感度が鋭くなるようなコストを設けていることに相当する。
特に音響信号のスペクトログラムのようにスパースなデータ(鋭いピーク成分がまばらにあり、それ以外は極端に小さい成分からなるデータ)に関しては、上記のいずれの影響も陽に受けることになるため、いずれか一方の尤度関数を仮定した場合、必然的に仮定した尤度関数の影響を受けることとなってしまう。
本発明は、ポアソン分布とガウス分布の混合分布により尤度関数を定義し、観測データに応じてNMFパラメータだけでなく、観測データの統計分布の分布形も適応的に推定することができる。よって本発明は、これら統計分布と尤度関数とのバランスを観測データから適応的に調節し、適切な感度のコストを設けることが可能であり、いかなる応用場面でも最適化基準の選択に迫られることなく、統一的に利用可能なNMFの枠組みを確率する可能性を発揮することができる。
次に、図5を参照して、ポアソン分布とガウス分布の混合分布について説明する。
図5に示すポアソン分布とガウス分布の混合分布は、
この式27の混合分布の尤度関数は、式5に示すフロベニウスノルムおよび式6に示すIダイバージェンスで定義される目的関数の両特性を含むハイブリッド尤度関数である。
ただし、ガウス分布とポアソン分布の分布混合比λは、0≦λ≦1である。すなわち、分布混合比λが大きいほど、混合分布はガウス分布に近似し、分布混合比λが小さいほど、混合分布はポアソン分布に近似する。
なお、本実施の形態において、パラメータ更新部3は、上述の対数尤度関数Lを目的関数として、この目的関数を最大化するように各パラメータを更新し、収束判定部4は、この目的関数の値の変化率が所定値以下となったか否かを判定している。
次に、本実施の形態における乗法更新アルゴリズムを導くための、最適な補助関数の計算について説明する。
まず、対数関数の凸性に基づき、
本実施の形態においては、上述の理論に基づき、ガウス分布率行列生成部2によるガウス分布率行列Γの更新、およびパラメータ更新部3による基底行列W、重み行列H、分布混合比λ、およびガウス分布の分散σ2の更新を繰り返すことで、本発明にかかる非負値行列分解の数値計算装置は、対数尤度関数Lを単調増加させている。
式41により算出された補助関数Gに基づき算出される各パラメータの更新式について説明する。
まず、ガウス分布率行列Γ=Γ´という条件のもとで、補助関数G(W,H,λ,σ2,Γ,M)が最大となる分布混合比λを求める。
なお、ガウス分布率γk,iの式45より
この式56の両辺に、
ただし、
以上により、基底行列Wの更新式は、
この式66の両辺に、
以上により、重み行列Hの更新式は、
本実施の形態において、パラメータ更新部3は、上述のとおり算出された式48,53,64,73に基づき、基底行列W、重み行列H、分布混合比λおよびガウス分布の分散σ2を更新し、ガウス分布率行列生成部2により生成されたガウス分布率行列Γのもとで補助関数Gを最大化させている。つまり、この補助関数Gを最大化させるように更新を繰り返すことによって、収束判定部4は、目的関数Lを効率的に局所最大化させるための基底行列W、重み行列H、分布混合比λおよびガウス分布の分散σ2を得て、パラメータの更新判定を実行することができる。
ここで、下に示す式74および式75のときの、
式74のとき、ガウス分布率γk,jの式45より
同様に、式75のとき、ガウス分布率行列Γは、
本発明は、パラメータ更新部3により、このハイブリッドな乗法更新式を用いて基底行列Wおよび重み行列Hを更新している。
このため、本発明は、ポアソン分布とガウス分布の混合分布により尤度関数を定義し、観測データに応じてNMFパラメータだけでなく、観測データの統計分布の分布形も適用的に推定することができる。
非負値行列とは、全成分が非負(0以上)の値で構成される行列である。
次式に示す記号は、「全てのk,iに対して」という意味を表している。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、フラッシュメモリ等の書き込み可能な不揮発性メモリ、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
2 ガウス分布率行列生成部
3 パラメータ更新部
4 収束判定部
5 分解行列出力部
31 分布混合比更新部
32 ガウス分布分散更新部
33 基底行列更新部
34 重み行列更新部
Claims (6)
- 非負値データを格納した非負値ベクトルが並べられた観測データに基づき、この観測データに応じた非負値行列分解モデルのパラメータを計算する非負値行列分解の数値計算方法において、
初期パラメータ生成部が、
前記非負値行列分解モデルのパラメータである、基底行列、重み行列、ガウス分布とポアソン分布の混合比率をあらわす分布混合比、およびガウス分布の分散のそれぞれの初期値を生成し、
前記ガウス分布率行列生成部が、
前記初期パラメータ生成部から入力された前記パラメータの初期値、あるいは、パラメータ更新部により更新された前記基底行列、前記重み行列、前記分布混合比、および前記ガウス分布の分散の値に基づき、前記観測データの各要素がガウス分布およびポアソン分布のうちガウス分布から生成された確率を表したガウス分布率行列を生成し、
前記パラメータ更新部の分布混合比更新部が、
前記ガウス分布率行列に基づき、前記分布混合比を更新し、
前記パラメータ更新部のガウス分布分散更新部が、
前記ガウス分布率行列、前記基底行列、前記重み行列、および前記観測データに基づき、前記ガウス分布の分散を更新し、
前記パラメータ更新部の基底行列更新部が、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記基底行列を更新し、
前記パラメータ更新部の重み行列更新部が、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記重み行列を更新し、
収束判定部は、
前記パラメータ更新部により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしているか否かを判定し、
前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていない場合、前記ガウス分布率行列生成部に前記ガウス分布率行列の生成を指示する信号を出力し、この生成された前記ガウス分布率行列に基づき前記パラメータ更新部により更新されたパラメータの更新を再度判定し、
分解行列出力部は、
前記収束判定部により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていると判定された場合、更新された前記基底行列および前記重み行列を出力する
ことを特徴とする非負値行列分解の数値計算方法。 - 前記収束判定部は、前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、前記ポアソン分布とガウス分布の混合分布により定義された目的関数を最大化する所定の基準を満たしているか否かを判断することを特徴とする請求項1に記載の非負値行列分解の数値計算方法。
- 非負値データを格納した非負値ベクトルが並べられた観測データに基づき、この観測データに応じた非負値行列分解モデルのパラメータを計算する非負値行列分解の数値計算装置において、
前記非負値行列分解モデルのパラメータである、基底行列、重み行列、ガウス分布とポアソン分布の混合比率をあらわす分布混合比、およびガウス分布の分散のそれぞれの初期値を生成する初期パラメータ生成部と、
前記初期パラメータ生成部から入力された前記パラメータの初期値、あるいは、パラメータ更新部により更新された前記基底行列、前記重み行列、前記分布混合比、および前記ガウス分布の分散に基づき、前記観測データの各要素がガウス分布およびポアソン分布のうちガウス分布から生成された確率を表したガウス分布率行列を生成するガウス分布率行列生成部と、
前記ガウス分布率行列生成部から入力された前記基底行列、前記重み行列、前記分布混合比、および前記ガウス分布の分散を、それぞれ更新する基底行列更新部、重み行列更新部、分布混合比更新部、およびガウス分布分散更新部を有するパラメータ更新部と、
前記パラメータ更新部により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしているか否かを判定し、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていない場合、前記ガウス分布率行列生成部に前記ガウス分布率行列の生成を指示する信号を出力し、この生成された前記ガウス分布率行列に基づき前記パラメータ更新部により更新されたパラメータの更新を再度判定する収束判定部と、
前記収束判定部により、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていると判定された場合、前記基底行列および前記重み行列を出力する分解行列出力部とを備え、
前記パラメータ更新部は、
前記ガウス分布率行列に基づき、前記分布混合比を更新する分布混合比更新部と、
前記ガウス分布率行列、前記基底行列、前記重み行列、および前記観測データに基づき、前記ガウス分布の分散を更新するガウス分布分散更新部と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記基底行列を更新する基底行列更新部と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記重み行列を更新する重み行列更新部を有することを特徴とする非負値行列分解の数値計算装置。 - 前記収束判定部は、前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、前記ポアソン分布とガウス分布の混合分布により定義された目的関数を最大化する所定の基準を満たしているか否かを判断することを特徴とする請求項3に記載の非負値行列分解の数値計算装置。
- 非負値データを格納した非負値ベクトルが並べられた観測データに基づき、この観測データに応じた非負値行列分解モデルのパラメータを計算するコンピュータに、
前記非負値行列分解モデルのパラメータである、基底行列、重み行列、ガウス分布とポアソン分布の混合比率をあらわす分布混合比、およびガウス分布の分散のそれぞれの初期値を生成する初期パラメータ生成手段と、
前記初期パラメータ生成手段から入力された前記パラメータの初期値、あるいは、更新手段により更新された前記基底行列、前記重み行列、前記分布混合比、および前記ガウス分布の分散に基づき、前記観測データの各要素がガウス分布およびポアソン分布のうちガウス分布から生成された確率を表したガウス分布率行列を生成するガウス分布率行列生成手段と、
前記ガウス分布率行列に基づき、前記分布混合比を更新する更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、および前記観測データに基づき、前記ガウス分布の分散を更新する更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記基底行列を更新するガウス分布分散更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記重み行列を更新する基底行列更新手段と、
前記更新手段により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしているか否かの前記パラメータの更新を判定し、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていない場合、前記ガウス分布率行列生成手段に前記ガウス分布率行列の生成を指示する信号を出力し、この生成された前記ガウス分布率行列に基づき前記更新手段により更新された前記パラメータの更新を再度判定する収束判定手段と、
前記収束判定手段により、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていると判定された場合、前記基底行列および前記重み行列を出力する分解行列出力手段と、
を実行させるためのプログラム。 - 非負値データを格納した非負値ベクトルが並べられた観測データに基づき、この観測データに応じた非負値行列分解モデルのパラメータを計算するコンピュータに、
前記非負値行列分解モデルのパラメータである、基底行列、重み行列、ガウス分布とポアソン分布の混合比率をあらわす分布混合比、およびガウス分布の分散のそれぞれの初期値を生成する初期パラメータ生成手段と、
前記初期パラメータ生成手段から入力された前記パラメータの初期値、あるいは、更新手段により更新された前記基底行列、前記重み行列、前記分布混合比、および前記ガウス分布の分散に基づき、前記観測データの各要素がガウス分布およびポアソン分布のうちガウス分布から生成された確率を表したガウス分布率行列を生成するガウス分布率行列生成手段と、
前記ガウス分布率行列に基づき、前記分布混合比を更新する更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、および前記観測データに基づき、前記ガウス分布の分散を更新する更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記基底行列を更新する更新手段と、
前記ガウス分布率行列、前記基底行列、前記重み行列、前記観測データ、および前記ガウス分布の分散に基づき、前記重み行列を更新する更新手段と、
前記更新手段により更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしているか否かの前記パラメータの更新を判定し、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていない場合、前記ガウス分布率行列生成手段に前記ガウス分布率行列の生成を指示する信号を出力し、この生成された前記ガウス分布率行列に基づき前記更新手段により更新された前記パラメータの更新を再度判定する収束判定手段と、
前記収束判定手段により、前記更新された前記基底行列、前記重み行列、前記分布混合比および前記ガウス分布の分散が、それぞれ所定の基準を満たしていると判定された場合、前記基底行列および前記重み行列を出力する分解行列出力手段とを実行させるためのプログラムを記憶した記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008201274A JP5068228B2 (ja) | 2008-08-04 | 2008-08-04 | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008201274A JP5068228B2 (ja) | 2008-08-04 | 2008-08-04 | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010039723A true JP2010039723A (ja) | 2010-02-18 |
JP5068228B2 JP5068228B2 (ja) | 2012-11-07 |
Family
ID=42012215
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008201274A Expired - Fee Related JP5068228B2 (ja) | 2008-08-04 | 2008-08-04 | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5068228B2 (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8731881B2 (en) | 2011-03-18 | 2014-05-20 | Nec Corporation | Multivariate data mixture model estimation device, mixture model estimation method, and mixture model estimation program |
KR20150064602A (ko) * | 2013-12-03 | 2015-06-11 | 삼성전자주식회사 | 신규 물질 탐색 시스템 및 그 탐색 방법 |
JP2016038680A (ja) * | 2014-08-06 | 2016-03-22 | 学校法人電子開発学園 | 計算処理装置、計算処理方法、計算処理システム、及びプログラム |
WO2020013236A1 (ja) * | 2018-07-11 | 2020-01-16 | 日本電信電話株式会社 | データ解析装置、方法、及びプログラム |
CN114878735A (zh) * | 2021-01-22 | 2022-08-09 | 株式会社岛津制作所 | 通过两个变量确定的数据的解析方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005258440A (ja) * | 2004-03-12 | 2005-09-22 | Mitsubishi Electric Research Laboratories Inc | 別個の信号の成分を分離する方法およびシステム |
JP2008215881A (ja) * | 2007-02-28 | 2008-09-18 | National Institute Of Advanced Industrial & Technology | 信号強度の時系列情報の解析方法、解析プログラム、並びに解析装置 |
-
2008
- 2008-08-04 JP JP2008201274A patent/JP5068228B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005258440A (ja) * | 2004-03-12 | 2005-09-22 | Mitsubishi Electric Research Laboratories Inc | 別個の信号の成分を分離する方法およびシステム |
JP2008215881A (ja) * | 2007-02-28 | 2008-09-18 | National Institute Of Advanced Industrial & Technology | 信号強度の時系列情報の解析方法、解析プログラム、並びに解析装置 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8731881B2 (en) | 2011-03-18 | 2014-05-20 | Nec Corporation | Multivariate data mixture model estimation device, mixture model estimation method, and mixture model estimation program |
KR20150064602A (ko) * | 2013-12-03 | 2015-06-11 | 삼성전자주식회사 | 신규 물질 탐색 시스템 및 그 탐색 방법 |
KR102224714B1 (ko) | 2013-12-03 | 2021-03-08 | 삼성전자주식회사 | 신규 물질 탐색 시스템 및 그 탐색 방법 |
JP2016038680A (ja) * | 2014-08-06 | 2016-03-22 | 学校法人電子開発学園 | 計算処理装置、計算処理方法、計算処理システム、及びプログラム |
WO2020013236A1 (ja) * | 2018-07-11 | 2020-01-16 | 日本電信電話株式会社 | データ解析装置、方法、及びプログラム |
JP2020009314A (ja) * | 2018-07-11 | 2020-01-16 | 日本電信電話株式会社 | データ解析装置、方法、及びプログラム |
JP7014069B2 (ja) | 2018-07-11 | 2022-02-01 | 日本電信電話株式会社 | データ解析装置、方法、及びプログラム |
CN114878735A (zh) * | 2021-01-22 | 2022-08-09 | 株式会社岛津制作所 | 通过两个变量确定的数据的解析方法 |
CN114878735B (zh) * | 2021-01-22 | 2024-01-23 | 株式会社岛津制作所 | 通过两个变量确定的数据的解析方法 |
Also Published As
Publication number | Publication date |
---|---|
JP5068228B2 (ja) | 2012-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Huang et al. | Functional coefficient regression models for non‐linear time series: a polynomial spline approach | |
JP5068228B2 (ja) | 非負値行列分解の数値計算方法、非負値行列分解の数値計算装置、プログラムおよび記憶媒体 | |
Bistrian et al. | Processing epidemiological data using dynamic mode decomposition method | |
US20100198897A1 (en) | Deriving a function that represents data points | |
EP2546759A1 (en) | Generation of recommendation values | |
WO2021213649A1 (en) | Method and system for generating a predictive model | |
WO2020177863A1 (en) | Training of algorithms | |
WO2019106758A1 (ja) | 言語処理装置、言語処理システムおよび言語処理方法 | |
CN115062777A (zh) | 卷积神经网络的量化方法、神经网络、设备及存储介质 | |
JP2019075003A (ja) | 近似計算装置、近似計算方法及びプログラム | |
JP7349811B2 (ja) | 訓練装置、生成装置及びグラフ生成方法 | |
JP5956359B2 (ja) | パラメータ推定方法、装置、及びプログラム | |
JP7158175B2 (ja) | 情報処理装置、システム、情報処理方法及びプログラム | |
CN116472538A (zh) | 用于量化神经网络的方法和系统 | |
JP2021002322A (ja) | イジングマシンデータ入力機器、及びイジングマシンにデータを入力する方法 | |
WO2020040007A1 (ja) | 学習装置、学習方法及び学習プログラム | |
CN111160487A (zh) | 人脸图像数据集的扩充方法和装置 | |
JP4313803B2 (ja) | 行列における数値分解方法 | |
JP4531738B2 (ja) | 行列における数値分解方法 | |
Gong et al. | Adaptive methods for center choosing of radial basis function interpolation: a review | |
JP2021089388A (ja) | 音響解析装置、音響解析方法及び音響解析プログラム | |
JP2005242580A (ja) | パラメータ推定方法、データ予測方法、パラメータ推定装置、データ予測装置、及びコンピュータプログラム | |
JP5942998B2 (ja) | 線形制約条件生成装置及び方法、半正定値最適化問題求解装置、計量学習装置、並びにコンピュータ・プログラム | |
WO2019008625A1 (ja) | 信号処理装置、信号処理方法およびプログラムを記憶する記憶媒体 | |
CN116433662B (zh) | 一种基于稀疏分解与景深估计的神经元提取方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20100526 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100902 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120802 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120807 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120814 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150824 Year of fee payment: 3 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5068228 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150824 Year of fee payment: 3 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |