JP2013037471A - 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム - Google Patents
確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム Download PDFInfo
- Publication number
- JP2013037471A JP2013037471A JP2011171836A JP2011171836A JP2013037471A JP 2013037471 A JP2013037471 A JP 2013037471A JP 2011171836 A JP2011171836 A JP 2011171836A JP 2011171836 A JP2011171836 A JP 2011171836A JP 2013037471 A JP2013037471 A JP 2013037471A
- Authority
- JP
- Japan
- Prior art keywords
- measurement information
- probability model
- dimensions
- variable
- dimension
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 57
- 238000005259 measurement Methods 0.000 claims abstract description 146
- 238000001514 detection method Methods 0.000 claims abstract description 14
- 238000009826 distribution Methods 0.000 claims description 63
- 230000002159 abnormal effect Effects 0.000 claims description 28
- 230000005540 biological transmission Effects 0.000 claims description 12
- 230000008859 change Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 18
- 230000006399 behavior Effects 0.000 abstract description 9
- 230000008569 process Effects 0.000 description 33
- 238000004422 calculation algorithm Methods 0.000 description 26
- 239000011159 matrix material Substances 0.000 description 24
- 230000006870 function Effects 0.000 description 19
- 238000000354 decomposition reaction Methods 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 8
- 238000004590 computer program Methods 0.000 description 7
- 239000013598 vector Substances 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 4
- 238000013450 outlier detection Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000004888 barrier function Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000004069 differentiation Effects 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 238000005315 distribution function Methods 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000012549 training Methods 0.000 description 2
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 241000321453 Paranthias colonus Species 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007477 logistic regression Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000012066 statistical methodology Methods 0.000 description 1
Images
Landscapes
- Complex Calculations (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
【課題】３以上の次元を有する計測情報を高精度に確率モデル化し、かつ、ストリーム処理によって確率モデルを逐次更新することを可能にする。
【解決手段】受信部１１は、２人以上のユーザの行動を検出する２以上のセンサから、ユーザの行動を示すセンサ情報を受信し、センサ情報記億部１２は、センサ情報を記憶する。モデル化部１３は、時間を変数とし、ユーザとセンサを変化しないと仮定し、センサ情報記億部１２が記憶するセンサ情報を確率モデル化する。モデル記憶部１４は、確率モデルを記憶する。モデル更新部１５は、モデル化部１３が確率モデル化に用いなかったセンサ情報に基づいて、モデル記憶部１４が記憶する確率モデルを更新する。欠損値予測部１６および異常値検出部１７は、センサ情報と確率モデルとを比較して、それぞれ欠損値を予測し、異常値を検出する。
【選択図】図２
【解決手段】受信部１１は、２人以上のユーザの行動を検出する２以上のセンサから、ユーザの行動を示すセンサ情報を受信し、センサ情報記億部１２は、センサ情報を記憶する。モデル化部１３は、時間を変数とし、ユーザとセンサを変化しないと仮定し、センサ情報記億部１２が記憶するセンサ情報を確率モデル化する。モデル記憶部１４は、確率モデルを記憶する。モデル更新部１５は、モデル化部１３が確率モデル化に用いなかったセンサ情報に基づいて、モデル記憶部１４が記憶する確率モデルを更新する。欠損値予測部１６および異常値検出部１７は、センサ情報と確率モデルとを比較して、それぞれ欠損値を予測し、異常値を検出する。
【選択図】図２
Description
本発明は、取得したデータに基づいて確率モデルを更新する確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラムに関する。
近年、安価なセンサの出現や、ネットワーク環境の普及によって、多種多様なセンサを容易に用いることができるようになった。それに伴い、顧客の購買行動の分析や地域の交通状況を分析などについて、マルチセンサの情報に基づいてモデル化する技術が盛んに研究されている。業務のマネジメントの観点では、主観的に捉えきれない変化を検出する方法として、センサデータを使ったマネジメント支援方法が検討されている。
しかし、非定型業務においては、ミスやトラブルの種類は多種多様であるため、あらかじめミスやトラブルの種類を想定して検出することは難しい。そのため、業務の定常状態をモデル化しそのモデルとの差を検知することが考えられる。
非特許文献１では、各センサ情報の分布を個別に仮定することができ、かつ多様な分布(ガウス分布、ベルヌーイ分布、ポアソン分布、指数分布など)を扱える。そのため、従来の手法に比べてマルチセンサ環境のデータに対して高精度のモデル化が可能であり、欠損値予測や異常値検出の性能が高い。
K.Hayashi, T.Takenouchi, T.Shibata, Y.Kamiya, D.Kato, K.Kunieda, K.Yamada and K.Ikeda, "Exponential Family Tensor Factorization for Missing-Values Prediction and Anomaly Detection", IEEE International Conference on Data Mining 2010.
しかしながら、非特許文献１の技術は、バッチ処理方式であり、計算量が膨大である。たとえば、１年などの長期間かつ大規模なデータを用いてモデル化を行うには、大規模コンピュータ・クラスタを用いて数日かかる。したがって、業務状態のリアルタイムモニタリングなど、センサデータのストリーム処理が必要な場面では使用できない。
本発明は、上述のような事情に鑑みてなされたもので、３以上の次元を有する計測情報を高精度に確率モデル化し、かつ、ストリーム処理によって確率モデルを逐次更新することを可能にする確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラムを提供することを目的とする。
本発明の第１の観点に係る確率モデル更新装置は、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする。
本発明の第２の観点に係る確率モデル更新システムは、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置と、前記計測装置と接続する確率モデル更新装置とで構成される確率モデル更新システムであって、
前記計測装置は、それぞれ、
前記対象のそれぞれについて２以上の特性を計測する計測手段と、
前記計測手段が計測した前記特性から３以上の次元を有する計測情報を生成する生成手段と、
前記計測情報を送信する送信手段と、を備え、
前記確率モデル更新装置は、
前記計測装置から、前記計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置と、前記計測装置と接続する確率モデル更新装置とで構成される確率モデル更新システムであって、
前記計測装置は、それぞれ、
前記対象のそれぞれについて２以上の特性を計測する計測手段と、
前記計測手段が計測した前記特性から３以上の次元を有する計測情報を生成する生成手段と、
前記計測情報を送信する送信手段と、を備え、
前記確率モデル更新装置は、
前記計測装置から、前記計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする。
本発明の第３の観点に係る確率モデル更新方法は、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置がそれぞれ実行する
前記対象のそれぞれについて２以上の特性を計測する計測ステップと、
前記計測ステップで計測した前記特性から３以上の次元を有する計測情報を生成する生成ステップと、
前記計測情報を送信する送信ステップと、
確率モデル更新装置が実行する
前記計測装置から、前記計測情報を受信する受信ステップと、
前記計測情報を記憶する記憶ステップと、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化ステップと、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新ステップと、
を備えることを特徴とする。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置がそれぞれ実行する
前記対象のそれぞれについて２以上の特性を計測する計測ステップと、
前記計測ステップで計測した前記特性から３以上の次元を有する計測情報を生成する生成ステップと、
前記計測情報を送信する送信ステップと、
確率モデル更新装置が実行する
前記計測装置から、前記計測情報を受信する受信ステップと、
前記計測情報を記憶する記憶ステップと、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化ステップと、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新ステップと、
を備えることを特徴とする。
本発明の第４の観点に係るプログラムは、コンピュータを、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段、
前記計測情報を記憶する記憶手段、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段、および、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段、
として機能させることを特徴とする。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段、
前記計測情報を記憶する記憶手段、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段、および、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段、
として機能させることを特徴とする。
本発明によれば、３以上の次元を有する計測情報を高精度に確率モデル化し、かつ、ストリーム処理によって確率モデルを逐次更新することが可能になる。
本実施の形態では、本発明をユーザの行動を検出するマルチセンサシステムに適用する。本実施の形態では、対象はユーザであり、計測装置はセンサであり、計測情報はセンサ情報である。また、特性はユーザの各種行動であり、計測情報の次元は、「ユーザ」、「特性」、「時間」である。
以下、本発明を実施するための形態について図を参照して詳細に説明する。なお図中、同一または同等の部分には同一の符号を付す。
図１は、本発明の実施の形態に係る確率モデル更新システムの構成例を示すブロック図である。確率モデル更新システム１００は、ネットワーク上の確率モデル更新装置１と複数のセンサ２とで構成される。
センサ２は、ユーザの行動を検出して、確率モデル更新装置１に送信する。センサ２は、たとえば、ユーザの位置を検出するセンサや、ユーザの動きを検出するセンサなどに加え、ユーザが使用する端末なども含む。端末の場合は、ユーザが端末を操作した情報をユーザの行動を示すセンサ情報として確率モデル更新装置１に送信する。確率モデル更新装置１は、それぞれのセンサ２からセンサ情報を受信し、これに基づいてユーザの行動の確率モデル化を行う。また、確率モデル更新装置１は、定期的に確率モデルを更新する。
図２は、実施の形態に係る確率モデル更新装置の機能構成例を示す図である。確率モデル更新装置１は、受信部１１、センサ情報記憶部１２、モデル化部１３、モデル記憶部１４、モデル更新部１５、欠損値予測部１６および異常値検出部１７を備える。
受信部１１は、複数のセンサ２からセンサ情報を受信する。
センサ情報記憶部１２は、受信部１１が受信したセンサ情報を記憶する。
モデル化部１３は、センサ情報記憶部１２が記憶した所定の期間のセンサ情報に基づいて、確率モデルを生成するモデル化処理を行う。モデル化処理の詳細は、後述する。
モデル記憶部１４は、モデル化部１３のモデル化処理によって生成された確率モデルを記憶する。
モデル更新部１５は、モデル記憶部１４が記憶する確率モデルを定期的に更新するモデル更新処理を行う。モデル更新処理の詳細は、後述する。
欠損値予測部１６は、受信部１１が受信したセンサ情報とモデル記憶部１４が記憶する確率モデルとに基づいて欠損値の予測を行う。欠損値の予測方法については、後述する。
異常値検出部１７は、センサ情報記憶部１２が記憶するセンサ情報とモデル記憶部１４が記憶する確率モデルとに基づいて異常値の検出を行う。異常値の検出方法については、後述する。
ここで、モデル化部１３およびモデル更新部１５がそれぞれ行う、モデル化処理およびモデル更新処理について説明する。モデル化処理およびモデル更新処理は、指数分布族のテンソル因子分解（ＥＴＦ：Exponential family Tensor Factorization）のオンラインアルゴリズムによって行われる。テンソルとは、多次元の配列である。Ｍ次元の配列をＭ次のテンソルと呼ぶ。特別な場合として、１次、２次のテンソルはそれぞれベクトルおよび行列である。
モデル化処理およびモデル更新処理の説明を行うにあたって、まず、代表的なテンソル因子分解のアルゴリズムと、指数分布族のテンソル因子分解のバッチアルゴリズムとを説明する。以下では、理解を容易にするため３次のテンソルで考える。しかし、結果はより高次のテンソルに容易に拡張できる。以下、テンソルは、アンダーラインを引いた文字で表記する。
まず、代表的なテンソル因子分解としてＴｕｃｋｅｒ分解を説明する。ＸをＤ１×Ｄ２×Ｄ３次の観測値テンソルとする。観測入力Ｄ≡Ｄ１Ｄ２Ｄ３を有する。Ｔｕｃｋｅｒ分解は、Ｘを分解したコアテンソルＺと、３つの因子行列Ｕ（ｍ）（ｍ＝１，２，３）を生成する方法を提供する。Ｘの（ｉ，ｊ，ｋ）番要素を以下の式で表す。
ここで、ｚｑｒｓはＺの（ｑ，ｒ，ｓ）番要素、ｕｉｑ （ｍ）は因子行列Ｕ（ｍ）の（ｉ，ｑ）番要素、εｉｊｋは観測ノイズである。行列Ｕ（ｍ）は、ｍ次のＸの上の相関関係の構造を表す。Ｔｕｃｋｅｒ分解は、二乗誤差の和（εｉｊｋ）を最小にすることによってパラメータＺおよび｛Ｕ（ｍ）｝を推定する。高次特異値分解（ＨＯＳＶＤ：Higher-order singular value decomposition）は、Ｔｕｃｋｅｒ分解の解法の１つである。以下では、テンソルＸの要素を行列の形式に並べた展開（行列形式）を考える。結果の行列もまた、ｍ次元のＸに従った構造を保持する。詳細は、T. G. Kolda and B. W. Bader, “Tensor decompositions and applications," Sandia National Laboratories, Albuquerque, NM and Livermore, CA, Tech. Rep., 2007.を参照。ＨＯＳＶＤは、因子行列Ｕ（ｍ）を展開テンソルＸ（ｍ）の左特異ベクトルとして推定する。
後の便宜のため、ベクトルと行列を使って、数１を以下の数２の形に書く。数式中のアルファベットまたはギリシャ文字の上部に矢印が付いている記号は、ベクトルを表す。以下、これらの上部に矢印が付いている文字を○→と表記する。同様に、数式中の上部に〜が付いている文字を○〜と表記し、上部に＾が付いている文字を○＾と表記する。それぞれ、○にはアルファベットまたはギリシャ文字が入る。ｘ→は、要素が任意に並べ替えられたＸの要素で与えられるＤ次元ベクトルである。これは、行列のベクトル化になぞらえている。
ここで、○の中に×の記号は行列のクロネッカ積を表す。また、Ｗは、ベクトル化されたノイズであるε→のもとで、ベクトル化されたコアテンソルであるｚ→の線形マッピングを表す。この形式では、Ｔｕｃｋｅｒ分解は、標準線形モデルとして見られる。標準線形モデルとの主な違いは、Ｗがクロネッカ積を通して｛Ｕ（ｍ）｝で表現されることである。
行列表記を用いて、数１は数３に書き直せる。
Ｚ（１）とＥ（１）は、テンソルＺとノイズに関係する展開テンソルである。Ｘ（２）およびＸ（３）も数３と同じように書き直せる。後述する｛Ｕ（ｍ）｝に関する期待対数尤度の勾配を導くためにこの表現を用いる。
続いて、指数型分布族のテンソル因子分解のバッチアルゴリズムを説明する。Ｔｕｃｋｅｒ分解では、数１において誤差εｉｊｋの二乗和を最小にすることによって、パラメータＵ（１）、Ｕ（２）、Ｕ（３）およびＺを推定する。この推定は、確率の観点では、球状ガウスノイズεの想定の下で、最尤推定解として考えることができる。しかしながら、この仮定はデータＸが異質な分布を有する場合は適当ではない。この問題を扱うために、モデルを数４に示すように一般化する。
ここで、θ→≡Ｗｚ→は、自然母数と呼ばれるＤ次元のベクトルであり、ｈｄはｘｄ→の想定された指数型分布族を特定する指標である。分布関数Ｅｘｐｏｎｈは指数型分布族である。
関数Ｆｈ（ｘ）は、基底因数、ψｈ（θ）は対数分配関数すなわち数６である。
すべてのＥｘｐｏｎｈを等方ガウス分布とする場合は、対数尤度は従来のＴｕｃｋｅｒ分解の損失関数と等価である。数６の両辺を微分することによって、導関数ψ’が、Ｅｘｐｏｎｈ（ｘ｜θ）の上で自然母数θから条件付き期待値ｘへの写像であることがわかる。また、２次導関数ψ”を用いて分散を計算することができる。ψｈは凸関数であり、Ｅｘｐｏｎｈは対数凹関数である。
図３は、指数型分布における関数ψとその導関数をまとめた表を示す図である。
指数型分布族のテンソル因子分解で取り扱うモデルは一般化した線形モデル（P. McCullagh and J. A. Nelder, Generalized Linear Models, Second Edition, 1989.を参照）に強く関係している。たとえば、二値データに対してＥｘｐｏｎｈ（ｘ｜θ）としてベルヌーイ分布を選べば、ψ’はシグモイド関数になる。その場合、モデルはロジスティック回帰と等価であり、ｚ→、ｘ→、およびＷはそれぞれ、入力、出力および回帰係数に等しい。
ここでのモデルの鍵となる想定は、数４における指標ｈによって制御される属性の不均質性である。ＰＣＡなどの既存の分解モデルとは異なり、このモデルでは指標ｈｄ（ｄ＝１，．．．，Ｄ）を変えることによって、指数型分布族（数５）から任意に分布関数を選択することができる。これによって、より柔軟なデータのモデリングが可能である。
以下では、ｚ→をｘ→に関係する隠れた変数として扱い、一般化された線形の隠れた変数モデル（P. Huber, E. Ronchetti, and M. P. V. Feser, “Estimation of generalized linear latent variable models," Journal of the Royal Statistical Society. Series B, Statistical Methodology, pp. 893?908, 2004.を参照）の概念に従って、ｚ→に標準ガウス事前分布Ｎ（０，１）を想定する。また、各因子行列｛Ｕ（ｍ）｝に球状ガウス事前分布の精度αｍを追加する。それは、二乗正規化に等価である。最終的に、同時対数尤度Ｌは次の数７のように書ける。
第１項および第２項は、自然母数θ→＝Ｗｚ→で尤度（数４）に対応する。第３項と第４項はそれぞれ、ｚ→および｛Ｕ（ｍ）｝の事前分布である。このモデルを指数型分布族のテンソル因子分解という。
パラメータの推定には、以下のＥＭアルゴリズムを用いる。
まず、ガウス分布ｑ（ｚ→）≡Ｎ（ｚ→｜ｚ０→，Σ０）にラプラス近似を適用して、事後分布ｐ（ｚ→｜ｘ→）を近似する。ラプラス近似では、ｚ０→は最大事後確率（ＭＡＰ）すなわちｚ→の事後確率分布のモード（最頻値）であり、Σ０は、ｚ０→におけるヘシアンの負逆数である。ｚ０→を探索するために、数８に示す勾配とヘシアンによる、勾配法を用いる。
ここで、ψ’→≡（ψｈ’（θ１→），．．．，ψ’ｈＤ（θＤ→））、およびΨ”→≡ｄｉａｇ（ψ”→）である。負のヘシアンは正定行列なので、任意のＷに対して、大域で最大値を見いだすことができる。以上の処理をＥステップと呼ぶ。
次に、Ｕ（ｍ）の周辺ＭＡＰ推定をとる。以下に示す数９の期待対数尤度の近似を考える。
そして、数３を用いてＬの勾配を計算する。ここに、展開されたコアテンソルＺ（１）と自然母数Θを導入する。
Ｕ（１）の疑似逆行列をＵ（１） −と書けば、期待対数尤度（数９）の勾配は、以下の数１１のように書ける。
Ψ’（１）は、ψ’→の展開テンソルであり、数１２である。
ここに、微分と積分の演算を交換できると仮定する。先に指摘したように、勾配におけるＥｑ［Ψ’（１）（Θ（１））Ｔ］の期待値の計算は、関数ψの非線形性のため一般に扱いにくい。
期待値を近似するために、ＧＰの積分と微分に関して有用な性質を適用する。共分散関数がガウスカーネルであるＧＰによって、ψ（θ）の近似をψ〜（θ）と書く。第１に、θがガウス分布のランダム変数なら、任意のｎについて期待値Ｅｑ［ψ〜（θ）θｎ］は、数１３を用いて解析的に解ける。
第２に、ψのｎ次導関数ｄｎψ／ｄθｎは、他のＧＰとしてのψ〜を用いて直接的に近似できる。
前節でｚ→の事後分布をガウス分布として近似したので、θ→＝Ｗｚ→の事後分布は、Ｗを定数とすると、ガウス分布である。そこで、カーネル（数１３の１つ目の式）の期待値の結果とＧＰ（数１４）の導関数を結合することによって、期待値Ｅｑ［Ψ’（１）（Θ（１））Ｔ］を計算できる。
同様の方法で、Ｕ（２）およびＵ（３）についても、勾配を計算することができる。｛Ｕ（ｍ）｜ｍ＝１，２，３｝の更新のために交互最適化を用いる。すなわち、｛Ｕ（ｎ）｜ｎ≠ｍ｝を固定してＵ（ｍ）に関してＬを最大化することを、指標ｍを変化させて繰り返す。｛Ｕ（ｍ）｝に関する（局所）最適解を得るために疑似ニュートン法を用いる。以上の処理をＭステップと呼ぶ。
ＥＭ反復で収束したのち、観測入力Ｄの下で自然母数θ０→の推定値を得る。そして、予測分布Ｅ［ｘｄ→｜Ｄ］の平均によって欠損値ｘｄ→を推定できる。モデルパラメータであるｚ→の事後分布による周辺化は、ベイズ予測分布の計算に必要だが、扱いにくい。しかしながらこの枠組みでは、ψ’（θ０ｄ→）は与えられたθ０ｄ→の条件付き平均であり、したがって、ｚ０→の事後分布でψ’〜（θ０ｄ→）を周辺化することにより予測分布の平均を近似できる。
再び、期待値Ｅ［ψ’〜（θ０ｄ→）］はＧＰの事後分布を用いて解析的に解ける。また、予測分布の変数または他の高次モーメントを導くことができる。ここでは、その説明を省略する。
前述の指数型分布族のテンソル因子分解の説明において、ガウス分布の分散を１と想定したので、ガウス分布でデータを正規化する。すなわち、パラメータの推定の前にデータサンプルの標準偏差で各部を正規化する。ＥＭアルゴリズムを始める前に、ＨＯＳＶＤを用いて｛Ｕ（ｍ）｝を初期化する。Ｍ次のデータテンソルＸのための推定アルゴリズムの疑似コードを図４に示す。図４の疑似コードに現れるＣ、ｓ、ｙおよびγ２は、カーネル行列、入力、出力、およびＧＰのハイパーパラメータである。
ＭステップにおけるＧＰ近似のために、トレーニング入力ｓを設定する。ｘ→の各要素は数４で独立に分布すると仮定しているので、期待値は、独立の期待値の積、すなわち数１６のように、因数分解できる。
従って、ψ（θ０→）の各次に入力を共通にできる。また、事後分布が稠密であるように、および／または、関数ψおよびψ’が大きい値をとるように、トレーニング入力によって領域をカバーすることが重要である。従って、Ｎをランダムに選択して、重みψ（θ０→）の事後分布の平均θ０→＝ＷＺ０→の各次元から１つの次元の入力θｎ（ｎ＝１，．．．，Ｎ）をとる。
一方、入力がまばらな領域では、ＧＰの特性のためＧＰの平均はゼロに近い。勾配に基づく最適化を適用するためには、この特性は問題である。なぜなら、コスト関数Ｌ（θ）は、θ→∞で発散するからである。この問題を回避するために、ＧＰの入力が領域［ｍｉｎ（ｓ），ｍａｘ（ｓ）］からはずれる場合は、ＧＰの平均の代わりにバリア関数を用いる。Ｅ［ψ（θ）］およびＥ［ψ’（θ）］をバリア関数として用いるために、それらにゼロ次デルタ法を適用する。
Ｅステップにおける主たる複雑性は、ラプラス近似における共分散（ヘシアンの逆数）の計算である。それは、Ｋ＝ｄｉｍ（ｚ→）としてＫ３のオーダーである。ＭステップのＧＰ近似では、式（１２）で定義されるカーネル行列Ｃの逆行列は、ＮおよびＮ’をＧＰにおける観測の通常の入力とその微分の数として、（Ｎ＋Ｎ’）３のオーダー（の回数の計算）が必要である。ＥＭ反復の間にこの最も費用のかかる計算を必要とするのは１回だけである。さらに、最大化処理の期待対数尤度の勾配における行列乗算のために、（Ｄ（Ｎ＋Ｎ’）２）＋Ｋ３のオーダーの回数の計算を必要とする。
前述のＴｕｃｋｅｒ分解の説明で述べたように、因子行列Ｕ（ｍ）はｍ次の観測テンソルの低次元特徴量と見られる。異常な値を含むテンソルからパラメータを推定すれば、因子行列の（異常値に）対応する部分は、通常の部分に比べて外れ値として捕捉される。因子行列を外れ値検出の入力として用いれば、全データ集合に影響する高いインパクトの異常を発見できる。それは、独立モデルアプローチより強力な検出を達成できる。さらに、異質なテンソルにおける異常値は、ｐＴｕｃｋｅｒよりもＥＴＦの特性空間で弁別される異常として現れる。なぜなら、論理的に、ＥＴＦは指数型分布族の適切な想定の下で、データの標準的な部分を抽出するからである。
外れ値を検出する最も単純な方法は、入力間の距離を用いることである。入力間の距離として、"an object O in a dataset T is a DB(p,D) outlier if at leaset fraction p of the objects in T lies greater than destance D frm O." (E. M. Knorr, R. T. Ng, and V. Tucakov, "Distance-based outliers: algorithms and applications," The VLDB Journal, vol. 8, no. 3-4, pp. 237-253, 2000.)による定義を採用することができる。
ここで、モデル化部１３およびモデル更新部１５がそれぞれ行うモデル化処理およびモデル更新処理を実行するためのＥＴＦのオンラインアルゴリズムついて説明する。ＥＴＦのオンラインアルゴリズムは、バッチアルゴリズムをオンライン処理に拡張したものである。オンライン処理では、データテンソルを複数のスライスに分割し、パラメータを逐次推定する。この拡張によってリアルタイムにデータ処理が可能になり、パラメータ推定の精度に必要な計算費用を削減する。
データテンソルのｌ番の次元の量が相当大きく、バッチアルゴリズムでは計算不可能であることを想定する。そのようなテンソルに対して、まず、データテンソルＸをｌ番の次元に沿ってスライスし、ＸをＤ１×．．．Ｄｌ−１×Ｄｌ〜×Ｄｌ＋１×．．．ＤＬのテンソルＸ〜と、Ｄ１×．．．Ｄｌ−１×（Ｄｌ−Ｄｌ〜）×Ｄｌ＋１×．．．ＤＬのテンソルＸ＾に分割する。Ｘ〜をバッチアルゴリズムで処理できるように、充分小さくＤｌ〜（＜Ｄｌ）を選ぶ。
本実施の形態では、３次のデータテンソルを想定しており、ｌ番の次元は、「時間」である。それ以外の次元は、「特性」と「ユーザ」である。「時間」は恒常的に変化するが、「特性」と「ユーザ」は変化しないと仮定する。なお、次元はこれに限らない。たとえば、ユーザの「位置」や行動の「対象」を次元としてもよい。また、変数とする次元（ｌ番の次元）は「時間」に限らず、行動の「対象」や「ユーザ」としてもよい。
パラメータＺ、｛Ｕｎ｜ｎ≠ｌ｝および｛ｕｌ，ｉ｜ｉ＝１，．．．，Ｄｌ〜｝を、分割されたテンソルＸ〜についてバッチアルゴリズムで推定したのちに、残りのＵ１をＸ＾について推定する。周辺尤度Ｌは以下の数１７および数１８のように分解できる。
Ｕｌのｉ番の行ベクトルｕｌ，ｉは、観測ｘｉ （ｌ）にのみ依存するので、ｉ＝１，．．．，Ｄｌについて、ｕｌ，ｉを逐次推定できる。ｕｌ，ｉと同様に事後共分散Σを逐次アップデートする。なぜなら、数１９に示すように、ｚ→が固定されていても事後確率分布のヘシアンは、ｕｌ，ｉに伴って変化するからである。
ｌ ｌ，ｉの最大化とΣのアップデートは、バッチアルゴリズムのＭステップおよびＥステップにそれぞれ対応する。このアルゴリズムを図５に示す擬似コードに要約する。
図５の擬似コードにおいて、ｉｎｉｔｉａｌｉｚｅからｆｏｒ ｉ＝１，．．．，Ｄｌの前までがモデル化処理に相当し、ｆｏｒ ｉ＝１，．．．，Ｄｌとｅｎｄ ｆｏｒの間の部分がモデル更新処理に相当する。
オンラインアルゴリズムの重要な利点は、バッチアルゴリズムより大幅に計算費用が低いことである。交互アップデートを必要としないので、収束する速さは相当に速い。他の利点は、時系列データのオンライン処理である。このアルゴリズムによれば、ｘｉ （ｌ）がｉ番の時刻ごとに観測されるとき、ｕｌ，ｉをリアルタイムに推定できる。
コンピュータによる処理を比較することは難しいが、オンラインアルゴリズムはバッチアルゴリズムより著しく速い。オンラインアルゴリズムでは１つの変数Ｕｌしかないので、バッチあるゴリズムで用いる座標傾斜法を必要としない。そのことは、収束のための計算費用を劇的に削減する。
Ｋ＞Ｄ＼ｌの場合は、逆行列の補助定理
Σｉ＝（Σｉ−１ −１＋Ｗｉ ＴΨｉ”Ｗｉ）−１
＝Σｉ−１−Σｉ−１Ｗｉ Ｔ（Ψｉ”＋ＷｉΣｉ−１Ｗｉ Ｔ）−１ＷｉΣｉ−１
を用いて、効率的に事後共分散Σｉをアップデートできる。それによって、コンピュータ処理は、Ｋ３のオーダーからＤ＼ｌ ３のオーダーに減少する。
Ｋ＞Ｄ＼ｌの場合は、逆行列の補助定理
Σｉ＝（Σｉ−１ −１＋Ｗｉ ＴΨｉ”Ｗｉ）−１
＝Σｉ−１−Σｉ−１Ｗｉ Ｔ（Ψｉ”＋ＷｉΣｉ−１Ｗｉ Ｔ）−１ＷｉΣｉ−１
を用いて、効率的に事後共分散Σｉをアップデートできる。それによって、コンピュータ処理は、Ｋ３のオーダーからＤ＼ｌ ３のオーダーに減少する。
アルゴリズムが収束すると、観測入力ｘＩ→の下におけるパラメータｚ→および｛Ｕｌ｝の推定値を得る。これらのパラメータを主に２つの目的、すなわち、欠損値の予測と異常値の検出に使用する。自然母数θ→が与えられたとして、ベイズ予測分布Ｅ［ｘｄ→｜ｘＩ→］の平均によって、欠損値、すなわち観測値の指標の集合Ｉに含まれないｄについてのｘｄ→を予測する。因子行列Ｕｌは、データのｌ番の次元における異常値を検出するのに用いられる。
以下に、欠損値予測部１６が行う、欠損値予測処理について説明する。
事後分布によるｚ→の周辺化は、ベイズ予測分布の計算で必要になるが、扱いにくい。その代わり、ＧＰの予測分布の平均ｍ’の一階導関数により非線形関数ψ’（θ）を近似し、数２０で与えられる予測分布の平均を近似する。
第２行の変換には、数２１の関係を用いている。
以下の定理により、数２２の方程式において、ｐ＝１およびｑ＝０の場合の期待値Ｅｑ［ｍ’ｈ（ｄ）（θｄ→）］の解析的形式が与えられる。また、以下の定理を用いて、ＥＴＦの予測分布の分散（ｐ＝２）またはそれ以上の高次のモーメント（ｐ≧３）が得られる。
以下の定理により、数２２の方程式において、ｐ＝１およびｑ＝０の場合の期待値Ｅｑ［ｍ’ｈ（ｄ）（θｄ→）］の解析的形式が与えられる。また、以下の定理を用いて、ＥＴＦの予測分布の分散（ｐ＝２）またはそれ以上の高次のモーメント（ｐ≧３）が得られる。
定理：ｍ（ｐ）を、共分散関数がガウスカーネルであるＧＰの予測平均関数のｐ次導関数とする。任意の正の整数ｐ，ｑ≧０について、平均μ＊で分散がσ＊ ２のガウス分布であるｐ（ｘ＊）の期待値Ｅｐ（ｘ＊）［ｘ＊ ｑｍ（ｐ）（ｘ＊）］は、ｐ，ｑ，μ＊およびσ＊ ２の関数として陽に表される。
以下に、異常値検出部１７が行う異常値検出処理について説明する。
因子行列Ｕｌは、観測テンソルのｌ番の次元の低次元特徴量である。異常な値を含むテンソルからパラメータを推定すれば、因子行列の（異常値に）対応する部分は、通常の部分に比べてはずれ値として捕捉される。因子行列をはずれ値検出の入力として用いることによって、観測ノイズの影響なしに本質的な異常値を探索できる。
外れ値を発見するにはいくつかの方法がある。ここでは、前述のKnorr 他が提案する距離ベースの外れ値を採用する。
定義：少なくともＴのオブジェクトの部分ｐがＯからの距離ｒより大きい位置にあれば、
データセットＴにおけるオブジェクトＯはＤＢ（ｐ，ｒ）外れ値である。
データセットＴにおけるオブジェクトＯはＤＢ（ｐ，ｒ）外れ値である。
図６は、距離ベースの外れ値の概念を示す図である。ｐ＝０．９９５、およびＤｌ＝１０００、すなわち図６の点の数が１０００であるとして、点Ｏを中心とする半径ｒの多次元球に多くても５つした他の点が含まれない場合、点Ｏは外れ値として検出される。Ｔｕｃｋｅｒ分解では、｛Ｕｌ｝およびＺの間の尺度は、誤りを引き起こす。すなわち、αＵｌおよび（１／α）Ｚは同じΘになる。従って、距離ベースの外れ値に適用する前にＵｌを列方向に正規化する必要がある。たとえば、ユークリッド距離をとる場合、正規化はコサイン距離に類似する。
ここでは、たとえば多重ネットワークにおける異常ノードのような異常値のみに着目する。言い換えれば、データテンソルの個別の要素の異常値ではなく、モードの区別できる次元の異常値に着目する。
図７は、実施の形態に係る確率モデル更新装置のモデル化処理およびモデル更新処理の動作の一例を示すフローチャートである。確率モデル更新装置１の受信部１１は、各センサ２からセンサ情報を受信する（ステップＳ１１）。センサ情報記憶部１２は、受信部１１が受信したセンサ情報を記憶する（ステップＳ１２）。モデル化部１３は、所定の時間（たとえば、１ヶ月）が経過したか否かを判定する（ステップＳ１３）。所定の時間が経過していない場合（ステップＳ１３；ＮＯ）、ステップＳ１１に戻り、ステップＳ１１〜ステップＳ１３を繰り返す。所定の時間が経過した場合（ステップＳ１３；ＹＥＳ）、モデル化部１３は、センサ情報記憶部１２が記憶するセンサ情報に基づいて、ユーザの行動を確率モデル化するモデル化処理を実行する（ステップＳ１４）。モデル記憶部１４は、モデル化部１３がモデル化処理によって生成された確率モデルを記憶する（ステップＳ１５）。
次に、モデル更新部１５は、時刻ｉがＤｌになったか否かを判定する（ステップＳ１６）。時刻ｉがＤｌになっていない場合（ステップＳ１６；ＮＯ）、モデル更新部１５は、モデル更新処理を実行し（ステップＳ１７）、ステップＳ１６およびステップＳ１７を繰り返す。時刻ｉがＤｌになった場合（ステップＳ１６；ＹＥＳ）、処理を終了する。
なお、上記のフローチャートでは、ステップＳ１１〜ステップＳ１５のモデル化処理は、１度だけ実行しているが、定期的に（たとえば１年ごと）に実行してもよいし、センサやユーザに変更があるごとに実行してもよい。
以上説明したように、３以上の次元を有する計測情報を高精度に確率モデル化し、かつ、ストリーム処理によって確率モデルを逐次更新することが可能になる。たとえば、ユーザの行動の確率モデルを逐次更新し、これに基づいて異常値を検出することにより、業務におけるミスやトラブルの検出精度の向上が期待できる。
上述の実施の形態では、本発明をユーザの行動を検出するマルチセンサシステムに適用した例を示した。しかし本発明はこれに限らない。たとえば、気象を対象とする場合、計測装置は、「風速」、「気温」、「湿度」といった特性を計測し、「特性」、「時間」、「計測地点」といった次元の気象情報を計測情報として生成する。あるいは、交通車両を対象とする場合、計測装置は、「速さ」、「台数」、「向き」といった特性を計測し、「特性」、「計測地点」、「時間」といった次元の交通情報を計測情報として生成する。
図８は、本発明の実施の形態に係る確率モデル更新装置のハードウェア構成例を示すブロック図である。確率モデル更新装置１は、図８に示すように、制御部３１、主記憶部３２、外部記憶部３３、操作部３４、表示部３５および送受信部３６を備える。主記憶部３２、外部記憶部３３、操作部３４、表示部３５および送受信部３６はいずれも内部バス３０を介して制御部３１に接続されている。
制御部３１はＣＰＵ（Central Processing Unit）等から構成され、外部記憶部３３に記憶されている制御プログラム３０に従って、モデル化部１３、モデル更新部１５、欠損値予測部１６および異常値検出部１７の各処理を実行する。
主記憶部３２はＲＡＭ（Random-Access Memory）等から構成され、外部記憶部３３に記憶されている制御プログラム３０をロードし、制御部３１の作業領域として用いられる。
外部記憶部３３は、フラッシュメモリ、ハードディスク、ＤＶＤ−ＲＡＭ（Digital Versatile Disc Random-Access Memory）、ＤＶＤ−ＲＷ（Digital Versatile Disc ReWritable）等の不揮発性メモリから構成され、確率モデル更新装置１の処理を制御部３１に行わせるためのプログラムをあらかじめ記憶し、また、制御部３１の指示に従って、このプログラムが記憶するデータを制御部３１に供給し、制御部３１から供給されたデータを記憶する。センサ情報記憶部１２およびモデル記憶部１４は、外部記憶部３３に構成される。
操作部３４はキーボードやテンキーなどのポインティングデバイス等と、キーボードやテンキー等を内部バス３０に接続するインタフェース装置から構成されている。さらに操作部３４は音声入力装置を備えることとしてもよい。モデル化処理を実行するまでの所定の時間などの入力を行う場合は、操作部３４を介して、指示が制御部３１に供給される。
表示部３５は、ＣＲＴ（Cathode Ray Tube）またはＬＣＤ（Liquid Crystal Display）などから構成され、制御部３１から送られてきた情報を表示する。モデル化処理を実行するまでの所定の時間などの入力を行う場合は、表示部３５は、操作画面を表示する。
送受信部３６は、通信ネットワークに接続する網終端装置または無線通信装置、およびそれらと接続するシリアルインタフェースまたはＬＡＮ（Local Area Network）インタフェースから構成されている。受信部１１は、送受信部３６を介して通信ネットワークに接続し、センサ２からセンサ情報を受信する。
図２に示す確率モデル更新装置１の受信部１１、センサ情報記憶部１２、モデル化部１３、モデル記憶部１４、モデル更新部１５、欠損値予測部１６および異常値検出部１７の処理は、制御プログラム３０が、制御部３１、主記憶部３２、外部記憶部３３、操作部３４、表示部３５および送受信部３６などを資源として用いて処理することによって実行する。
その他、前記のハードウェア構成やフローチャートは一例であり、任意に変更および修正が可能である。
制御部３１、主記憶部３２、外部記憶部３３、操作部３４、内部バス３０などから構成される時刻同期処理を行う中心となる部分は、専用のシステムによらず、通常のコンピュータシステムを用いて実現可能である。たとえば、前記の動作を実行するためのコンピュータプログラムを、コンピュータが読み取り可能な記録媒体（フレキシブルディスク、ＣＤ−ＲＯＭ、ＤＶＤ−ＲＯＭ等）に格納して配布し、当該コンピュータプログラムをコンピュータにインストールすることにより、前記の処理を実行する確率モデル更新装置１を構成してもよい。また、インターネット等の通信ネットワーク上のサーバ装置が有する記憶装置に当該コンピュータプログラムを格納しておき、通常のコンピュータシステムがダウンロード等することで確率モデル更新装置１を構成してもよい。
また、確率モデル更新装置１の機能を、ＯＳ（オペレーティングシステム）とアプリケーションプログラムの分担、またはＯＳとアプリケーションプログラムとの協働により実現する場合などには、アプリケーションプログラム部分のみを記録媒体や記憶装置に格納してもよい。
また、搬送波にコンピュータプログラムを重畳し、通信ネットワークを介して配信することも可能である。たとえば、通信ネットワーク上の掲示板（BBS, Bulletin Board System）に前記コンピュータプログラムを掲示し、ネットワークを介して前記コンピュータプログラムを配信してもよい。そして、このコンピュータプログラムを起動し、ＯＳの制御下で、他のアプリケーションプログラムと同様に実行することにより、前記の処理を実行できるように構成してもよい。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
（付記１）
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新装置。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新装置。
（付記２）
前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化手段は、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新手段は、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする付記１に記載の確率モデル更新装置。
前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化手段は、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新手段は、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする付記１に記載の確率モデル更新装置。
（付記３）
前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出手段をさらに備えることを特徴とする付記１または２に記載の確率モデル更新装置。
前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出手段をさらに備えることを特徴とする付記１または２に記載の確率モデル更新装置。
（付記４）
前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測手段をさらに備えることを特徴とする付記１ないし３のいずれかに記載の確率モデル更新装置。
前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測手段をさらに備えることを特徴とする付記１ないし３のいずれかに記載の確率モデル更新装置。
（付記５）
２以上の対象のそれぞれについて２以上の特性を計測する計測装置と、前記計測装置と接続する確率モデル更新装置とで構成される確率モデル更新システムであって、
前記計測装置は、それぞれ、
前記対象のそれぞれについて２以上の特性を計測する計測手段と、
前記計測手段が計測した前記特性から３以上の次元を有する計測情報を生成する生成手段と、
前記計測情報を送信する送信手段と、を備え、
前記確率モデル更新装置は、
前記計測装置から、前記計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新システム。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置と、前記計測装置と接続する確率モデル更新装置とで構成される確率モデル更新システムであって、
前記計測装置は、それぞれ、
前記対象のそれぞれについて２以上の特性を計測する計測手段と、
前記計測手段が計測した前記特性から３以上の次元を有する計測情報を生成する生成手段と、
前記計測情報を送信する送信手段と、を備え、
前記確率モデル更新装置は、
前記計測装置から、前記計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新システム。
（付記６）
２以上の対象のそれぞれについて２以上の特性を計測する計測装置がそれぞれ実行する
前記対象のそれぞれについて２以上の特性を計測する計測ステップと、
前記計測ステップで計測した前記特性から３以上の次元を有する計測情報を生成する生成ステップと、
前記計測情報を送信する送信ステップと、
確率モデル更新装置が実行する
前記計測装置から、前記計測情報を受信する受信ステップと、
前記計測情報を記憶する記憶ステップと、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化ステップと、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新ステップと、
を備えることを特徴とする確率モデル更新方法。
２以上の対象のそれぞれについて２以上の特性を計測する計測装置がそれぞれ実行する
前記対象のそれぞれについて２以上の特性を計測する計測ステップと、
前記計測ステップで計測した前記特性から３以上の次元を有する計測情報を生成する生成ステップと、
前記計測情報を送信する送信ステップと、
確率モデル更新装置が実行する
前記計測装置から、前記計測情報を受信する受信ステップと、
前記計測情報を記憶する記憶ステップと、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化ステップと、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新ステップと、
を備えることを特徴とする確率モデル更新方法。
（付記７）
前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化ステップでは、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新ステップでは、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする付記６に記載の確率モデル更新方法。
前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化ステップでは、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新ステップでは、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする付記６に記載の確率モデル更新方法。
（付記８）
前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出ステップをさらに備えることを特徴とする付記６または７に記載の確率モデル更新方法。
前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出ステップをさらに備えることを特徴とする付記６または７に記載の確率モデル更新方法。
（付記９）
前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測ステップをさらに備えることを特徴とする付記６ないし８のいずれかに記載の確率モデル更新方法。
前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測ステップをさらに備えることを特徴とする付記６ないし８のいずれかに記載の確率モデル更新方法。
（付記１０）
コンピュータを、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段、
前記計測情報を記憶する記憶手段、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段、および、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段、
として機能させることを特徴とするプログラム。
コンピュータを、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段、
前記計測情報を記憶する記憶手段、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段、および、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段、
として機能させることを特徴とするプログラム。
１ 確率モデル更新装置
２ センサ
１１ 受信部
１２ センサ情報記憶部
１３ モデル化部
１４ モデル記憶部
１５ モデル更新部
１６ 欠損値予測部
１７ 異常値検出部
３１ 制御部
３２ 主記憶部
３３ 外部記憶部
３４ 操作部
３５ 表示部
３６ 送受信部
１００ 確率モデル更新システム
２ センサ
１１ 受信部
１２ センサ情報記憶部
１３ モデル化部
１４ モデル記憶部
１５ モデル更新部
１６ 欠損値予測部
１７ 異常値検出部
３１ 制御部
３２ 主記憶部
３３ 外部記憶部
３４ 操作部
３５ 表示部
３６ 送受信部
１００ 確率モデル更新システム
Claims (10)
- ２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新装置。 - 前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化手段は、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新手段は、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする請求項１に記載の確率モデル更新装置。 - 前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出手段をさらに備えることを特徴とする請求項１または２に記載の確率モデル更新装置。
- 前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測手段をさらに備えることを特徴とする請求項１ないし３のいずれか１項に記載の確率モデル更新装置。
- ２以上の対象のそれぞれについて２以上の特性を計測する計測装置と、前記計測装置と接続する確率モデル更新装置とで構成される確率モデル更新システムであって、
前記計測装置は、それぞれ、
前記対象のそれぞれについて２以上の特性を計測する計測手段と、
前記計測手段が計測した前記特性から３以上の次元を有する計測情報を生成する生成手段と、
前記計測情報を送信する送信手段と、を備え、
前記確率モデル更新装置は、
前記計測装置から、前記計測情報を受信する受信手段と、
前記計測情報を記憶する記憶手段と、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段と、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段と、
を備えることを特徴とする確率モデル更新システム。 - ２以上の対象のそれぞれについて２以上の特性を計測する計測装置がそれぞれ実行する
前記対象のそれぞれについて２以上の特性を計測する計測ステップと、
前記計測ステップで計測した前記特性から３以上の次元を有する計測情報を生成する生成ステップと、
前記計測情報を送信する送信ステップと、
確率モデル更新装置が実行する
前記計測装置から、前記計測情報を受信する受信ステップと、
前記計測情報を記憶する記憶ステップと、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化ステップと、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新ステップと、
を備えることを特徴とする確率モデル更新方法。 - 前記計測情報は、前記対象の次元と、前記特性の次元と、時間の次元とを含む前記３以上の次元を有し、
前記確率モデルは、前記対象の次元と、前記特性の次元と、前記時間の次元とを含む前記３以上の次元で示され、
前記モデル化ステップでは、前記時間の次元を変数とし、前記対象および前記特性を含む他の次元は変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定し、
前記モデル更新ステップでは、前記パラメータの決定に用いた前記計測情報に含まれない時間の前記計測情報に基づいて、前記確率モデルを更新することを特徴とする請求項６に記載の確率モデル更新方法。 - 前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、異常値を検出する異常値検出ステップをさらに備えることを特徴とする請求項６または７に記載の確率モデル更新方法。 - 前記確率モデル更新装置が実行する
前記計測情報と前記確率モデルとを比較し、欠損値を予測する欠損値予測ステップをさらに備えることを特徴とする請求項６ないし８のいずれか１項に記載の確率モデル更新方法。 - コンピュータを、
２以上の対象のそれぞれについて２以上の特性を計測する計測装置から、３以上の次元を有する計測情報を受信する受信手段、
前記計測情報を記憶する記憶手段、
前記計測情報の前記３以上の次元で示される確率モデルについて、前記３以上の次元のうち１の次元を変数とし、変数とした次元以外の次元を変化しないと仮定し、前記計測情報を指数型分布族に当てはめて、前記確率モデルのパラメータを決定するモデル化手段、および、
前記変数の値が、前記パラメータの決定に用いた前記計測情報に含まれない値である前記計測情報に基づいて、前記確率モデルを更新するモデル更新手段、
として機能させることを特徴とするプログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011171836A JP2013037471A (ja) | 2011-08-05 | 2011-08-05 | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011171836A JP2013037471A (ja) | 2011-08-05 | 2011-08-05 | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2013037471A true JP2013037471A (ja) | 2013-02-21 |
Family
ID=47887048
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011171836A Pending JP2013037471A (ja) | 2011-08-05 | 2011-08-05 | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2013037471A (ja) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10146502B2 (en) | 2014-09-29 | 2018-12-04 | International Business Machines Corporation | Stream-processing data |
| JP2020027547A (ja) * | 2018-08-16 | 2020-02-20 | 日本電信電話株式会社 | テンソルデータ計算装置、テンソルデータ計算方法及びプログラム |
| US10878325B2 (en) | 2014-12-02 | 2020-12-29 | Samsung Electronics Co., Ltd. | Method and device for acquiring state data indicating state of user |
| KR102246303B1 (ko) * | 2021-03-04 | 2021-04-29 | 한국과학기술원 | 다차원 데이터 스트림에서의 실시간 이상치 탐지 방법 및 장치 |
| CN114202107A (zh) * | 2021-11-18 | 2022-03-18 | 华南理工大学 | 一种超短期风速预测方法及装置 |
| KR20220135438A (ko) * | 2021-03-30 | 2022-10-07 | 서울대학교산학협력단 | 시간 연속성을 고려한 텐서 분해 방법 및 그 장치 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000194703A (ja) * | 1998-12-22 | 2000-07-14 | Ncr Internatl Inc | デ―タベ―ス内の欠落した観察情報の推定方法および推定装置 |
| JP2011081823A (ja) * | 2002-06-28 | 2011-04-21 | Koninkl Philips Electronics Nv | 確率分布関数を用いて行動をモデル化するための方法及び装置 |
-
2011
- 2011-08-05 JP JP2011171836A patent/JP2013037471A/ja active Pending
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000194703A (ja) * | 1998-12-22 | 2000-07-14 | Ncr Internatl Inc | デ―タベ―ス内の欠落した観察情報の推定方法および推定装置 |
| JP2011081823A (ja) * | 2002-06-28 | 2011-04-21 | Koninkl Philips Electronics Nv | 確率分布関数を用いて行動をモデル化するための方法及び装置 |
Non-Patent Citations (1)
| Title |
|---|
| JPN6015031328; 桑田 修平: '顧客行動分析におけるＣＥＰを用いたストリームデータの活用' 電子情報通信学会技術研究報告 Ｖｏｌ．１１０ Ｎｏ．１０７ 第１１０巻, 20100621, ｐ．１３-１８, 社団法人電子情報通信学会 * |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US10146502B2 (en) | 2014-09-29 | 2018-12-04 | International Business Machines Corporation | Stream-processing data |
| US10579453B2 (en) | 2014-09-29 | 2020-03-03 | International Business Machines Corporation | Stream-processing data |
| US10878325B2 (en) | 2014-12-02 | 2020-12-29 | Samsung Electronics Co., Ltd. | Method and device for acquiring state data indicating state of user |
| JP2020027547A (ja) * | 2018-08-16 | 2020-02-20 | 日本電信電話株式会社 | テンソルデータ計算装置、テンソルデータ計算方法及びプログラム |
| JP7091930B2 (ja) | 2018-08-16 | 2022-06-28 | 日本電信電話株式会社 | テンソルデータ計算装置、テンソルデータ計算方法及びプログラム |
| KR102246303B1 (ko) * | 2021-03-04 | 2021-04-29 | 한국과학기술원 | 다차원 데이터 스트림에서의 실시간 이상치 탐지 방법 및 장치 |
| KR20220135438A (ko) * | 2021-03-30 | 2022-10-07 | 서울대학교산학협력단 | 시간 연속성을 고려한 텐서 분해 방법 및 그 장치 |
| KR102469374B1 (ko) * | 2021-03-30 | 2022-11-21 | 서울대학교산학협력단 | 시간 연속성을 고려한 텐서 분해 방법 및 그 장치 |
| CN114202107A (zh) * | 2021-11-18 | 2022-03-18 | 华南理工大学 | 一种超短期风速预测方法及装置 |
| CN114202107B (zh) * | 2021-11-18 | 2024-04-19 | 华南理工大学 | 一种超短期风速预测方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP2814218B1 (en) | Detecting anomalies in work practice data by combining multiple domains of information | |
| Daye et al. | High-dimensional heteroscedastic regression with an application to eQTL data analysis | |
| US11030246B2 (en) | Fast and accurate graphlet estimation | |
| US20100007489A1 (en) | Adaptive learning for enterprise threat managment | |
| CN110138595A (zh) | 动态加权网络的时间链路预测方法、装置、设备及介质 | |
| US7636698B2 (en) | Analyzing mining pattern evolutions by comparing labels, algorithms, or data patterns chosen by a reasoning component | |
| US11468364B2 (en) | Determining impact of features on individual prediction of machine learning based models | |
| JP2013037471A (ja) | 確率モデル更新システム、確率モデル更新装置、確率モデル更新方法およびプログラム | |
| US11481647B1 (en) | Determining high impact features for a prediction of a machine learning model | |
| WO2020191001A1 (en) | Real-world network link analysis and prediction using extended probailistic maxtrix factorization models with labeled nodes | |
| US20220292315A1 (en) | Accelerated k-fold cross-validation | |
| Castelletti et al. | Network structure learning under uncertain interventions | |
| US20220327394A1 (en) | Learning support apparatus, learning support methods, and computer-readable recording medium | |
| Zhang et al. | State space modeling of autocorrelated multivariate Poisson counts | |
| CN110717116B (zh) | 关系网络的链接预测方法及系统、设备、存储介质 | |
| Zhan et al. | Neural networks for geospatial data | |
| Tang et al. | Nested coordinate descent algorithms for empirical likelihood | |
| Guan et al. | Fast expectation-maximization algorithms for spatial generalized linear mixed models | |
| Park et al. | Variable selection for Gaussian process regression through a sparse projection | |
| US20240005181A1 (en) | Domain exploration using sparse graphs | |
| CA3130687C (en) | System and method for performing operations on multi-dimensional functions | |
| Moradzadeh et al. | Understanding simple liquids through statistical and deep learning approaches | |
| US11055620B2 (en) | Distributable clustering model training system | |
| JP7420244B2 (ja) | 学習装置、学習方法、推定装置、推定方法及びプログラム | |
| Su et al. | A two-stage optimal subsampling estimation for missing data problems with large-scale data |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140718 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20140718 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150731 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150811 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20151208 |