JP2015207179A - 行動理解システムおよびプログラム - Google Patents
行動理解システムおよびプログラム Download PDFInfo
- Publication number
- JP2015207179A JP2015207179A JP2014087833A JP2014087833A JP2015207179A JP 2015207179 A JP2015207179 A JP 2015207179A JP 2014087833 A JP2014087833 A JP 2014087833A JP 2014087833 A JP2014087833 A JP 2014087833A JP 2015207179 A JP2015207179 A JP 2015207179A
- Authority
- JP
- Japan
- Prior art keywords
- behavior
- action
- sensor
- action element
- sequence
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Emergency Alarm Devices (AREA)
- Alarm Systems (AREA)
Abstract
【課題】教師信号なしに行動に関連する特徴を抽出する従来技術においては、焦電センサやスイッチセンサ等の情報量の乏しいセンサデータの部分系列の情報を最大限に活用できておらず、比較的少量のデータから低コストに行動のモデルを構築することができていない。【解決手段】本発明は、センサデータの部分系列の出現頻度をノイズに頑健かつ効率良く分析することで行動に関連する特徴を行動素として抽出し、行動のモデルを、教師信号を用いずに、システム導入の負担が軽減され、再導入に柔軟性のある低コストで構築する行動認識技術を提案する。【選択図】図1
Description
本発明は、センサネットワーク環境の下で人間の行動を認識し、異常行動の検知や行動の識別などの行動分析を行う技術に関する。
従来、住居やオフィスに多様かつ多数のセンサを設置し、ネットワーク経由でそれら情報を収集・分析することで人間の行動を認識する技術(以下、「行動認識技術」と呼ぶ)が用いられてきた。
例えば、特許文献1においては、独居高齢者宅に人体の動きを検知するモーションセンサーを多数設置し、センサ情報の分析に基づいて居住者の行動を認識し、異常な行動が検知された場合には、遠隔にいる家族や介助者に通報する技術が開示されている。
このような技術において用いられるセンサは多種多様であり、動画像に基づいて人間の行動を監視する技術、人間に加速度センサを着装し行動を推定する技術、物体にRFIDを接着し物体を持ったことを認識する技術、床圧センサを用いて動線を推定する技術等、多種多様なセンサに基づく行動認識技術が知られている。
例えば、特許文献1においては、独居高齢者宅に人体の動きを検知するモーションセンサーを多数設置し、センサ情報の分析に基づいて居住者の行動を認識し、異常な行動が検知された場合には、遠隔にいる家族や介助者に通報する技術が開示されている。
このような技術において用いられるセンサは多種多様であり、動画像に基づいて人間の行動を監視する技術、人間に加速度センサを着装し行動を推定する技術、物体にRFIDを接着し物体を持ったことを認識する技術、床圧センサを用いて動線を推定する技術等、多種多様なセンサに基づく行動認識技術が知られている。
しかし、個人の住居において日常生活行動を分析する場合等は特に、利用者のプライバシー漏えいの危険性を考えるとカメラやマイクの設置は難しい。また、ウェアラブルセンサの着装は利用者にとって煩わしく、日常的に使用してもらえない場合が多い。さらに、物体一つ一つにセンサ付けたり、床圧センサを後付けで設置したりすることは設置コストが大きい。このような制約から、行動に関して多くの情報をもたらすセンサが利用できない場合も多く、焦電センサやドアスイッチセンサ等、設置・維持コストが低く利用者負担が小さいものの得られる情報が乏しいセンサしか利用できない場合が多い。
このような情報量が小さいセンサを用いる場合、個人毎に大きく異なる居住環境や行動様式の違いを捨象した汎用的な行動のモデルを構築することは困難である。そこで、個人毎に取得したデータから個人に特化した行動のモデルを学習することになるが、行動に該当するデータ区間の切り出しや、その区間がどのような行動に対応するのかを表すラベルの付与等、行動に関する教師信号付きの個人データを、システムの導入前に用意することはコスト的に許容できない場合が多い。また、生活環境や行動様式は時間とともに変化するので、その都度教師信号付きのデータを用意することはさらに非現実的である。
こうしたシステム導入の負担軽減と再導入の柔軟性の現実的な要請から、個人のデータから教師信号を用いずに行動のモデルを構築する教師なし学習技術が用いられている。例えば、特許文献1では、各時点のセンサ発火パターンを特徴ベクトルとし、画像分割の手法を応用して特徴ベクトル列を分割し、行動のローカルテンプレートを抽出する技術が開示されている。特許文献2では、移動速度をモニタリングすることで、移動開始から移動停止までの区間に動線を分割し行動のブロックを抽出する技術が開示されている。いずれの技術でも、得られた行動ブロックごとに、センサデータを生成する行動モデルが、隠れマルコフモデルを用いてデータから学習される。
その他、センサデータ系列から教師信号を用いずに行動に関連するパターンを抽出する手法として、例えば非特許文献2のようにLatent Dirichlet Allocation等の文書のトピック分類技術を応用した方法や、非特許文献3のように頻出パターンマイニング法を用いた方法も提案されている。
また、行動認識技術ではないが、特許文献3および非特許文献4では、音声コンテンツを教師信号なしでトピック毎に分割する技術が開示されている。
また、行動認識技術ではないが、特許文献3および非特許文献4では、音声コンテンツを教師信号なしでトピック毎に分割する技術が開示されている。
H.Lodhi et al.:Text classification using string kernes, Journal of Machine Learning Research, Vol.2,pp.419-444(2002).
T.Huynh et al.:Discovery of activity patterns using topic models, Proc.of Internat. Conf.on Ubiquitous Computing,pp.10-19(2008).
D.Cook et al.:Activity discovery and activity recognition:a new partnership, IEEE Transactions on Systems, Man, and Cybernetics Part B,Vol.43,No.3,pp.820-824(2013).
K.Sadohara:Kernel topic segmentation for informal multi-party meetings and performance degradation caused by insufficient lexicon, In Proceedings of IEEE Workshop on Spoken Language Technology,pp.418-423(2010).
M. Girolami:Mercer kernel-based clustering in feature space, IEEE Trans. on Neural Networks,vol.13,no.3,pp.780-784(2002).
しかしながら、上述したような教師信号なしに行動に関連する特徴を抽出する既存技術においては、行動に対応する時区間の切り出しや行動の識別等の分析において、焦電センサやスイッチセンサ等単独では情報量の乏しいセンサの系列に関わる情報を最大限活用できておらず、少量の個人データから低コストに個人に特化した行動のモデルを構築することができていない。
特定の行動の認識には、特徴的なセンサデータの部分系列が重要な役割を果たす。しかし、通常そのような部分系列には、ノイズにより本来無関係なセンサの発火が割り込んだり、あるセンサの発火の代わりに近接するセンサが発火したりするので、このようなノイズによる部分系列の変形に頑健な分析が求められる。
また同時に、長さlのデータ列に含まれる長さpの不連続な部分列はlCp個存在するので、大きなlとpに対して効率の良い分析法が必要になる。
また同時に、長さlのデータ列に含まれる長さpの不連続な部分列はlCp個存在するので、大きなlとpに対して効率の良い分析法が必要になる。
このような問題点に鑑み、本発明は、センサデータの部分系列の出現頻度をノイズに頑健かつ効率良く分析することで行動に関連する特徴を教師信号なしで抽出し、行動のモデルを自動的に構築することができ、システム導入時の負担が軽減され再導入に柔軟性のある低コストな行動認識技術を提案する。
センサデータの部分系列の分析を効率よく行う目的で文字列カーネル(非特許文献1参照)を用いる。
発明者らは、文字列カーネルを用いた音声区間の類似性に基づいて、音声コンテンツを意味的に等質な部分に分割するトピック分割技術(特許文献3参照)を開示している。
発明者らは、文字列カーネルを用いた音声区間の類似性に基づいて、音声コンテンツを意味的に等質な部分に分割するトピック分割技術(特許文献3参照)を開示している。
本発明は、この技術を行動認識のために拡張し、データ系列を、部分系列の出現頻度に基づく類似性が高い部分毎に分割する。
その際、利用頻度の高い行動のチャンク(行動素と呼ぶ)が所与の場合は、行動素を再利用するような分割を計算し、得られた分割から利用頻度が高い分割を新たな行動素とする。
このようなプロセスを繰り返すことで、個人毎の行動履歴であるセンサデータ系列だけから、この個人に典型的な行動素を抽出することが可能になる。
その際、利用頻度の高い行動のチャンク(行動素と呼ぶ)が所与の場合は、行動素を再利用するような分割を計算し、得られた分割から利用頻度が高い分割を新たな行動素とする。
このようなプロセスを繰り返すことで、個人毎の行動履歴であるセンサデータ系列だけから、この個人に典型的な行動素を抽出することが可能になる。
このように抽出された行動素に基づいて、異常な行動を検知したり、行動を分類したり、行動を可視化したり、類似した過去の行動を検索したり、行動毎の頻度・累積時間を計量したりといった個人毎の行動の分析が可能になる。
本発明の一形態によれば、センサデータに行動ラベルを付与する等の作業が不要となり、センサを設置する以外の作業を必要としないシステム導入の負担が軽減され再導入に柔軟性のある低コストな異常行動検知が可能となる。
また、別の一形態において、特定の行動にラベルを振り行動の識別を行う場合には、ラベルが付与されていないその他多数の行動との誤認識が問題となるが、本発明では、その個人の典型的な行動を網羅的に記述する行動素に基づいて識別を行うことで高い識別精度を実現することができる。
また、別の一形態において、特定の行動にラベルを振り行動の識別を行う場合には、ラベルが付与されていないその他多数の行動との誤認識が問題となるが、本発明では、その個人の典型的な行動を網羅的に記述する行動素に基づいて識別を行うことで高い識別精度を実現することができる。
さらに、別の一形態において、例えば1日分の行動を行動素毎に分割し可視化したり、特定の行動素に類似した過去の行動を検索し時間や回数を計量して提示したりすることにより、利用者の行動パターンを分析する手段を、高コストな行動ラベルの付与なしでも提供することが可能になる。
次に、図面を参照して、本発明の実施形態を説明する。
(日常生活異常監視技術・日常生活異常監視システム)
(全体構成例)
図1を用いて日常生活異常監視技術の全体構成例を説明する。利用者の居宅に、人間感知センサ(焦電センサ等)や、スイッチセンサ(磁気近接型ドア開閉センサ等)のようなプライバシー侵襲度が低くいセンサを複数設置する。
これらのセンサとしては、電池で1年以上動作し、有線・無線で親機に情報を伝達可能な安価なセンサが利用可能である。
焦電センサについては、理想的には、検知範囲を狭めて天井に設置することで、利用者のおおまかな動線を取得できるように設置することが望ましい。天井に設置できない場合は、壁面にグリッド状に設置し、センサXとセンサYが同時に発火することを以てXとYの検知範囲の交わる領域で動作が行われたことを検知できる。
これらセンサからの情報を受信装置で一括して受信し、行動素抽出装置において日常行動に典型的にみられるセンサの発火の部分系列(以後、行動素と呼ぶ)を抽出する。
(全体構成例)
図1を用いて日常生活異常監視技術の全体構成例を説明する。利用者の居宅に、人間感知センサ(焦電センサ等)や、スイッチセンサ(磁気近接型ドア開閉センサ等)のようなプライバシー侵襲度が低くいセンサを複数設置する。
これらのセンサとしては、電池で1年以上動作し、有線・無線で親機に情報を伝達可能な安価なセンサが利用可能である。
焦電センサについては、理想的には、検知範囲を狭めて天井に設置することで、利用者のおおまかな動線を取得できるように設置することが望ましい。天井に設置できない場合は、壁面にグリッド状に設置し、センサXとセンサYが同時に発火することを以てXとYの検知範囲の交わる領域で動作が行われたことを検知できる。
これらセンサからの情報を受信装置で一括して受信し、行動素抽出装置において日常行動に典型的にみられるセンサの発火の部分系列(以後、行動素と呼ぶ)を抽出する。
行動素を抽出する際には、過去に抽出された行動素を記録した行動素DBのデータが参照され、新たに得られた行動素は行動素DBに記録される。次に異常検出装置において、抽出された行動素が行動素DBに記録されている過去の行動素と比較され、類似度が計算される。
この際、過去のどの行動素とも類似していない行動素が検出された場合、異常性の高い行動と判断され異常警報装置が警報を発報する。
この警報はインターネット等の居宅外のネットワークを通じて伝搬され、監視センター、あるいは遠隔地で見守る家族やケアワーカーの元へ伝達される。
(異常検知方法)
次に、図2を用いて異常検知方法の処理手順を説明する。センサから得られるデータは、まずデータ前処理部で分析に適した単位・形式に変換された後、行動素抽出部において抽出した行動素の系列に変換される。
続いて異常検出部では、行動素毎に、過去に記録された行動素との類似度が計算され、過去のどの行動素とも類似度が低い行動素には高い異常度が付与される。
最後に異常警報部では各行動素の異常度が、与えられた閾値を超える場合に警報を発報する。
以下、各部をより詳細に説明する。
次に、図2を用いて異常検知方法の処理手順を説明する。センサから得られるデータは、まずデータ前処理部で分析に適した単位・形式に変換された後、行動素抽出部において抽出した行動素の系列に変換される。
続いて異常検出部では、行動素毎に、過去に記録された行動素との類似度が計算され、過去のどの行動素とも類似度が低い行動素には高い異常度が付与される。
最後に異常警報部では各行動素の異常度が、与えられた閾値を超える場合に警報を発報する。
以下、各部をより詳細に説明する。
(データ前処理部)
センサから得られる生データは、典型的には図3に示すように、センサの名前(3列目)と、センサの状態(4列目)が変化した日時(1・2列目)が間欠的に記録されたものである。
センサの状態が変化したという情報同様、センサの情報が変化していないという情報も行動を理解するために重要な情報源であるので、データ前処理部は、間欠的な情報を連続する時区間の情報に変換する。
センサから得られる生データは、典型的には図3に示すように、センサの名前(3列目)と、センサの状態(4列目)が変化した日時(1・2列目)が間欠的に記録されたものである。
センサの状態が変化したという情報同様、センサの情報が変化していないという情報も行動を理解するために重要な情報源であるので、データ前処理部は、間欠的な情報を連続する時区間の情報に変換する。
具体的には、ある定められた幅の時間窓(以後フレームと呼ぶ)を動かし、窓内で発火したセンサのIDを発火した時間順に1行に並べる。
図4は、図3の生データに対して、幅30秒の窓を10秒ずつシフトさせて得られるフレームの列を表している。例えば、ドアセンサD001のIDは63であり、図4において最初の3フレームの間で発火した(ドアが開いた)ことが分かる。
また、1つのフレームに同じIDが複数回現れることは、当該フレームの間に同じセンサが複数回発火したことを示している。
さらに、あるフレームの間にどのセンサも発火しない場合は、図4最後のフレームのように特別なID、0が記録される。
また、データ前処理部においては、行動の周期性を考慮してセンサデータを1日(24時間)毎に分割する。
分析の単位は、必ずしも1日に限る必要はなく、1週間あるいは1か月でも良いが、分析の単位が、後続する行動素抽出部において抽出される行動素の粒度に影響を与えることに留意すべきである。
(行動素抽出部)
図5を用いて行動素抽出部をさらに詳細に説明する。まず、シード選択部において、行動素抽出のシードとなる過去の行動素を行動素DBからN個選択する。選択されたN個のシードを参照して、フレーム列分節手段は与えられたフレーム列を複数の行動素に分節する。続いて行動素登録手段は、新たに得られた行動素とそれら行動素を抽出する際に参照したシードを行動素DBに登録する。以下、フレーム列分節手段、行動素登録手段、シード選択手段の順に説明する。
図5を用いて行動素抽出部をさらに詳細に説明する。まず、シード選択部において、行動素抽出のシードとなる過去の行動素を行動素DBからN個選択する。選択されたN個のシードを参照して、フレーム列分節手段は与えられたフレーム列を複数の行動素に分節する。続いて行動素登録手段は、新たに得られた行動素とそれら行動素を抽出する際に参照したシードを行動素DBに登録する。以下、フレーム列分節手段、行動素登録手段、シード選択手段の順に説明する。
(フレーム列分節手段)
本発明では、フレームを行動素に分節する際、フレームに含まれるセンサIDの部分列が行動を特徴づけるために有用であると考え、フレームに出現するセンサIDの部分列の頻度に基づく類似性を文字列カーネルを用いて計算する。
各フレームfに含まれるセンサIDの列に対して、長さがp以下で不連続なものも許容した任意の部分列の頻度を成分とする特徴ベクトルφ(f)を考える。
本発明では、フレームを行動素に分節する際、フレームに含まれるセンサIDの部分列が行動を特徴づけるために有用であると考え、フレームに出現するセンサIDの部分列の頻度に基づく類似性を文字列カーネルを用いて計算する。
各フレームfに含まれるセンサIDの列に対して、長さがp以下で不連続なものも許容した任意の部分列の頻度を成分とする特徴ベクトルφ(f)を考える。
例えば、fがa b a c bというセンサ列を持つ場合、長さ2の部分列は、aaが1回、abが2回、acが1回、baが1回、bbが1回、bcが1回、cbが1回出現する。しかし、例えばabの2度目の出現には、間にbacが挟まっている。
このような場合、λ(0≦λ≦1)を用いてλ3と1より小さい頻度を与える。つまり、この例の場合、abの頻度はλ0+λ3と数える。
このように不連続な部分列の頻度を考慮することで、ノイズにより無関係なセンサの発火が割り込むような場合でも、行動に特徴的なセンサの発火部分列を考慮した分析を行うことができる。
このように不連続な部分列の頻度を考慮することで、ノイズにより無関係なセンサの発火が割り込むような場合でも、行動に特徴的なセンサの発火部分列を考慮した分析を行うことができる。
しかし、長さlの文字列に含まれる長さpの不連続な部分文字列はlCp個存在するので、lとpが大きな値をとる場合には、上記特徴ベクトルφ(f)を陽に取り扱うことは計算量的に現実的ではない。幸い、非特許文献1で示されているように、二つのフレームf、gの特徴ベクトルの内積<φ(f)・φ(g)>は、動的計画法を用いてO(pLf Lg)の計算量で計算できることが知られている。ただし、Lf、Lgはそれぞれf、gに現れる文字の数、すなわち発火したセンサの数である。動的計画法を用いて効率良く計算可能な文字列の特徴ベクトル間の内積K(f,g)=<φ(f)・φ(g)>は文字列カーネルと呼ばれる。本発明で用いる文字列カーネルの計算手続きは、本発明者による特許文献3記載の計算手続きと同じであるため詳細は特許文献3を参照する。ただし、本発明に関連する点を2点再掲する。
次に、文字列カーネルはセンサの近接性を織り込むことも可能である。
特定の行動を特徴付けるセンサの発火列を分析する際、あるセンサの代わりに近接する別のセンサが発火する状況もしばしば起こり得る。
このような場合、2つのセンサa,bの近さAabを定義し、文字列カーネルの計算に織り込むことができる。
特定の行動を特徴付けるセンサの発火列を分析する際、あるセンサの代わりに近接する別のセンサが発火する状況もしばしば起こり得る。
このような場合、2つのセンサa,bの近さAabを定義し、文字列カーネルの計算に織り込むことができる。
Aabを考慮した文字列カーネルの計算については、特許文献3を参照されたいが、得られる文字列カーネルが特徴ベクトルの内積であることを保証するためには行列{Aab}a∈Θ,b∈Θが対称かつ半正定値でなければならない。
これを満たす行列の例としては以下を用いることができる。
これを満たす行列の例としては以下を用いることができる。
ただし、Θはセンサ集合、P(θ)はセンサθの発火確率、P(a|θ)はθの代わりにaが発火する確率とする。
特許文献3では、文字列カーネルを用いてフレーム列を分節する方法が示されている。ここで示された方法では、分節されたフレーム部分列に対応する特徴ベクトルの2乗ノルムの和が最大になるように分節する。
特許文献3では、文字列カーネルを用いてフレーム列を分節する方法が示されている。ここで示された方法では、分節されたフレーム部分列に対応する特徴ベクトルの2乗ノルムの和が最大になるように分節する。
2乗のノルムを最大化することで、類似した(余弦が正である)フレームを一つにまとめるような分節を行うことができる。
本発明では、この方法を拡張し、既に典型的な行動素が知られている場合には、典型的な行動素に類似したフレーム部分列を選好するような分節を計算する。具体的には、分節のシードとなる行動素s1,…,sNが与えられるとき、以下のような分節B*を計算する。
本発明では、この方法を拡張し、既に典型的な行動素が知られている場合には、典型的な行動素に類似したフレーム部分列を選好するような分節を計算する。具体的には、分節のシードとなる行動素s1,…,sNが与えられるとき、以下のような分節B*を計算する。
ここで、Ps(b)はbの特徴ベクトルのsへの射影を表す。最適な分割は特許文献3同様、動的計画法を用いて計算できる。違いは上記score関数の部分が特徴ベクトルの2乗ノルムか、射影の2乗ノルムの最大値になっているかどうかだけである。
特許文献3同様、このような分節を行う前には、特徴ベクトルのセンタリングを行うことが望ましい。フレーム列f1,…,fLの重心gを原点とするセンタリングを用いる場合、
特許文献3同様、このような分節を行う前には、特徴ベクトルのセンタリングを行うことが望ましい。フレーム列f1,…,fLの重心gを原点とするセンタリングを用いる場合、
(行動素登録手段)
続いて行動素登録手段では、フレーム列分節手段で得られた行動素とそれら行動素を抽出する際に参照されたシードが行動素DBに登録される。
図6は、単純に行動素を保存し、行動素が参照される度に頻度を1増やし、頻度が多い上位N個の行動素を次の分節のためのシードとして用意する行動素登録手段の1例が示されている。
続いて行動素登録手段では、フレーム列分節手段で得られた行動素とそれら行動素を抽出する際に参照されたシードが行動素DBに登録される。
図6は、単純に行動素を保存し、行動素が参照される度に頻度を1増やし、頻度が多い上位N個の行動素を次の分節のためのシードとして用意する行動素登録手段の1例が示されている。
あるいは図7のように、行動素が保存される度にN個のクラスタに分割するクラスタリングをカーネルk−means法(非特許文献5参照)を用いて行い、各クラスタの中で最も重心に近い行動素を次の分節のためのシード候補として用意する行動素登録手段の別の例が示されている。
(シード選択手段)
続いてシード選択手段について説明する。図8は、図6記載の行動素登録手段に対応するシード選択手段を示している。
続いてシード選択手段について説明する。図8は、図6記載の行動素登録手段に対応するシード選択手段を示している。
図9は、図7記載の行動素登録手段に対応するシード選択手段の1例を示しており、各クラスタの重心に最も近い行動素をシードとして選択する。
いずれの場合でも、もし行動素DBにシードが存在しない場合は、任意の1日のすべてのフレームをシードとする初期化を行うことができる。
いずれの場合でも、もし行動素DBにシードが存在しない場合は、任意の1日のすべてのフレームをシードとする初期化を行うことができる。
(異常検出部)
行動素抽出部において抽出された行動素は、異常検出部において、行動素DBに格納された行動素に対して類似度が計算され、最も大きな類似度が当該行動素に付与される。
その際、行動素DBに格納された行動素の量が膨大で計算時間が許容できない場合は、シード選択部で選ばれた典型的行動素であるシードに対して類似度を計算することができる。
行動素抽出部において抽出された行動素は、異常検出部において、行動素DBに格納された行動素に対して類似度が計算され、最も大きな類似度が当該行動素に付与される。
その際、行動素DBに格納された行動素の量が膨大で計算時間が許容できない場合は、シード選択部で選ばれた典型的行動素であるシードに対して類似度を計算することができる。
この場合、類似性を計算する対象をシードに限ると仮定すると、行動素抽出部でシードに対する射影の2乗ノルムを最大にするシードが参照されることを考えれば、参照されたシードが最も大きな類似度を持つことが分かるので、最大類似度を持つシードを改めて探索する必要はないことに注意されたい。
(異常警報部)
図14では、一日分のデータから行動素を抽出した例を示している。破線で囲まれた時区間が抽出された行動素を表している。
各行動素には、抽出時に参照されたシードとの類似度(表の表示は通常度)が示されている。この値が与えられた閾値よりも低い場合に異常警報部において異常が警報される。
図14では、一日分のデータから行動素を抽出した例を示している。破線で囲まれた時区間が抽出された行動素を表している。
各行動素には、抽出時に参照されたシードとの類似度(表の表示は通常度)が示されている。この値が与えられた閾値よりも低い場合に異常警報部において異常が警報される。
以上、これまでに述べた方法で異常を検出すれば、機器の異常や普段とは違う行動を検出することができる。
(変形例)
以上述べた方法は、行動素の抽出と行動素DBの更新を日々行う手順を示したが、例えば最初の1週間を行動素の学習期間と位置づけ、7日分のデータに対して、行動素の抽出と行動素DBの更新を複数回繰り返すことで、行動素DBに含まれる行動素を精製することも効果的である。
以上述べた方法は、行動素の抽出と行動素DBの更新を日々行う手順を示したが、例えば最初の1週間を行動素の学習期間と位置づけ、7日分のデータに対して、行動素の抽出と行動素DBの更新を複数回繰り返すことで、行動素DBに含まれる行動素を精製することも効果的である。
その場合、学習期間以降、次の学習期間までの間は、シード選択手段で選択される行動素は固定されることが望ましい。
また、フレーム列分節手段において、行動素の粒度をより小さくする目的で、得られた一つ一つの分節に対して再帰的に分節を適用する方法も効果的である。
さらに、一の周期の開始時刻から現在時刻までのデータに対して、上述した行動素の抽出と異常の検出を一定時間毎(監視の目的にあわせて、たとえば30分)に繰り返し適用することで、リアルタイム的に日常生活異常監視装置を実現することができる。
上の実施例では構成のし易さから手段ごとに独立した各装置で構成したが、必ずしも独立している必要はなく、装置に当該手段が備わっていれば、例えば、一台のパーソナルコンピュータを以って代用することができる。
また、各処理部を有する装置は任意の組み合わせの装置とすることができる。
さらには、行動素抽出部のような計算量が大きな処理をクラウド上で動作させることも現実的な選択肢である。
また異常の警報とは、バッチ処理、リアルタイム処理の別を問わないし、近接地・遠隔地への警報を問わないし、表示、警報音、または両方による警報であってもよい。
また、各処理部を有する装置は任意の組み合わせの装置とすることができる。
さらには、行動素抽出部のような計算量が大きな処理をクラウド上で動作させることも現実的な選択肢である。
また異常の警報とは、バッチ処理、リアルタイム処理の別を問わないし、近接地・遠隔地への警報を問わないし、表示、警報音、または両方による警報であってもよい。
(その他の実施形態)
(日常行動識別技術・日常行動識別システム)
図10を用いて、日常行動識別技術の全体構成例を説明する。センサの構成、受信装置および行動素抽出装置については図1記載の日常生活異常監視装置と同じである。
行動識別装置は、フレーム列および行動素列を入力とし、フレーム部分列あるいは行動素部分列にあらかじめ与えられた行動ラベルを付与する。
図10を用いて、日常行動識別技術の全体構成例を説明する。センサの構成、受信装置および行動素抽出装置については図1記載の日常生活異常監視装置と同じである。
行動識別装置は、フレーム列および行動素列を入力とし、フレーム部分列あるいは行動素部分列にあらかじめ与えられた行動ラベルを付与する。
行動識別装置について図11を用いてさらに説明する。本発明の行動識別装置は、主に、特徴ベクトル計算部、行動モデル学習部および行動識別部から構成される。
図11中、データ前処理部および行動素抽出部については図2記載のデータ前処理部および行動素抽出部と同じ情報処理を行う。
図11中、データ前処理部および行動素抽出部については図2記載のデータ前処理部および行動素抽出部と同じ情報処理を行う。
(特徴ベクトル計算部)
センサデータはデータ前処理部、行動素抽出部を経て行動素の列に変換される。
特徴ベクトル計算部では、フレーム部分列が別途指定される場合において、対応する時区間の行動ラベルを推定するために用いる特徴ベクトルを計算する。
なお、フレーム部分列の代わりに行動素部分列を指定することも当然可能であり、その場合対応するフレーム部分列が指定されたとみなして特徴ベクトルの計算が行われる。
センサデータはデータ前処理部、行動素抽出部を経て行動素の列に変換される。
特徴ベクトル計算部では、フレーム部分列が別途指定される場合において、対応する時区間の行動ラベルを推定するために用いる特徴ベクトルを計算する。
なお、フレーム部分列の代わりに行動素部分列を指定することも当然可能であり、その場合対応するフレーム部分列が指定されたとみなして特徴ベクトルの計算が行われる。
フレームはセンサの発火系列であり、センサの発火を「単語」とみなすと、フレーム列の行動ラベルを推定する問題は、文書(単語列)の分類と同じ問題とみなせ、様々な文書分類技術の適用が可能である。文書分類技術においては、単語の出現確率に注目したbag−of−word特徴が分類に有効であることが知られている。
本発明でも、フレーム列中で発火したセンサをbag−of−word特徴として用いるが、それに加えて典型的な行動素に対する類似性も特徴として用いる。
具体的には、図5記載のシード選択手段と同じ手続きを用いて典型的なN個の行動素s1,…,sNが与えられる時、任意のフレーム列uに対して、以下の式で示されるコサイン類似度を成分とするN次元ベクトルを対応させる。
結果的に、特徴ベクトル計算部において、指定されたフレーム部分列uに対して、uで発火するセンサ系列に加えて、典型的な行動素毎の類似度を成分とするN次元の特徴ベクトルが計算され、同時に指定された行動ラベルとの対が学習サンプルDBに蓄積される。
(行動モデル学習部)
利用者からの直接の指示、あるいは一定量の学習データが付加される毎に、行動ラベル毎のモデルが行動モデル学習部において学習サンプルDBを参照しつつ学習され、行動モデルDBに保存される。
利用者からの直接の指示、あるいは一定量の学習データが付加される毎に、行動ラベル毎のモデルが行動モデル学習部において学習サンプルDBを参照しつつ学習され、行動モデルDBに保存される。
行動モデルは、学習データxを所与とする行動ラベルBの確率モデルP(B|x)∝P(B)P(x|B)であり、学習データから統計的に学習される。
P(x|B)のモデル化においては単純ベイズ法用い、さらにxのフレーム列uにおいてセンサθが独立に発火すると仮定し以下のようにモデル化する。
P(x|B)のモデル化においては単純ベイズ法用い、さらにxのフレーム列uにおいてセンサθが独立に発火すると仮定し以下のようにモデル化する。
ここで、P(θ|B)はセンサθのBにおける発火確率であり、P(us|B)はBにおける行動素sに対するコサイン類似度の確率分布である。
なお、コサイン類似度の分布は適切なビン数(例えば10)で離散化するものとする。
なお、ここでは一つのセンサ(センサuni−gram)の発火確率P(θ|B)を用いたモデル化を例示したが、連続するn個のセンサθ1…θnの発火確率P(θ1…θn|B)を用いたモデル化に容易に拡張できる。
なお、コサイン類似度の分布は適切なビン数(例えば10)で離散化するものとする。
なお、ここでは一つのセンサ(センサuni−gram)の発火確率P(θ|B)を用いたモデル化を例示したが、連続するn個のセンサθ1…θnの発火確率P(θ1…θn|B)を用いたモデル化に容易に拡張できる。
このような行動識別における行動素の効果について、あるデータに対する実験結果を示した図12を用いて説明する。
この実験では、睡眠や食事等11種類の行動とそれ以外の行動、合計12種類の行動の識別率を、およそ1か月分の日常生活データを用いて測定したものである。
識別に用いる行動モデルは、センサ発火のbi−gramを用いるモデル、行動素を用いるモデル、bi−gramと行動素を組み合わせたモデルの3種類のモデルを比較している。
この実験では、睡眠や食事等11種類の行動とそれ以外の行動、合計12種類の行動の識別率を、およそ1か月分の日常生活データを用いて測定したものである。
識別に用いる行動モデルは、センサ発火のbi−gramを用いるモデル、行動素を用いるモデル、bi−gramと行動素を組み合わせたモデルの3種類のモデルを比較している。
なお、行動モデルは評価に用いたデータより前の1か月分のデータから学習されており、この学習データから、長さ最大4のセンサ発火部分系列を考慮して、N=624個の行動素を抽出している。
図12から分かるように、行動素の利用は識別率向上に寄与するが、特に、11行動以外の行動も識別する場合には有意に識別性能が向上する。
これは、日常生活にはあらかじめ想定し得る行動以外にさまざま行動が存在し、しかもその割合は大きく(このデータでは50%以上)、そのような想定しえない行動を行動素として抽出することで識別率が向上しているためと考えられる。
これは、日常生活にはあらかじめ想定し得る行動以外にさまざま行動が存在し、しかもその割合は大きく(このデータでは50%以上)、そのような想定しえない行動を行動素として抽出することで識別率が向上しているためと考えられる。
(日常行動可視化技術・日常行動可視化システム)
図13を用いて、日常行動可視化技術の全体構成例を説明する。センサの構成、受信装置、行動素抽出装置、異常検出装置および異常警報装置については図1記載の日常生活異常監視装置と同じである。
図13を用いて、日常行動可視化技術の全体構成例を説明する。センサの構成、受信装置、行動素抽出装置、異常検出装置および異常警報装置については図1記載の日常生活異常監視装置と同じである。
また、行動識別装置は図10記載の行動識別装置と同じである。
以下、残る行動可視化装置および行動素検索装置について説明する。
以下、残る行動可視化装置および行動素検索装置について説明する。
(行動可視化装置)
異常検出装置から得られる異常度(あるいは逆に通常度)が付与された行動素の列に基づいて、行動可視化装置において日常行動の可視化が行われ、接続されたディスプレイ等の表示装置に表示される。
異常検出装置から得られる異常度(あるいは逆に通常度)が付与された行動素の列に基づいて、行動可視化装置において日常行動の可視化が行われ、接続されたディスプレイ等の表示装置に表示される。
図14には、ある1日分のデータの可視化の例が示されている。破線で囲まれた時区間が抽出された行動素を表しており、各行動素には抽出時に参照されたシードとの類似度が「通常度」として表示されている。
また、一群の行動素には、行動識別装置により付与された行動ラベル「睡眠」が表示されている。
このラベルは、行動可視化装置において、様々な行動素列を自動的に生成し、行動識別装置を用いて行動ラベルの推定を行わせ、確信度がある閾値を越えた場合にのみ表示させることで実現される。
このラベルは、行動可視化装置において、様々な行動素列を自動的に生成し、行動識別装置を用いて行動ラベルの推定を行わせ、確信度がある閾値を越えた場合にのみ表示させることで実現される。
あるいは、利用者がマウス等のポインティングデバイスを用いてフレーム列(行動素列)を選択し、識別ボタンを押すことで、最もあり得る行動ラベルを推定・表示させることができる。
さらに、フレーム列を選択後、ラベルを入力しラベリングボタンを押すことで、新しい学習データを行動識別装置の学習サンプルDBに登録することができる。
また、学習ボタンを押すことで、新しい学習データを用いて行動モデルの再学習を強制的に行わせることもできる。
また、学習ボタンを押すことで、新しい学習データを用いて行動モデルの再学習を強制的に行わせることもできる。
(行動素検索装置)
図中、ポインタで選択された行動素は、睡眠中ベッドから抜け出してトイレに行ってベッドに戻るまでの一連の行動に対応している。
この状態で検索ボタンを押すことで、行動素検索装置において、選択された行動素に類似した行動素を行動素DB中で検索させることができる。
この検索は、図2の異常検出部と同様に、行動素DBに蓄積された行動素に対してコサイン類似度を計算し、一定の閾値を越えて類似した行動素を抽出することで実現される。
図中、ポインタで選択された行動素は、睡眠中ベッドから抜け出してトイレに行ってベッドに戻るまでの一連の行動に対応している。
この状態で検索ボタンを押すことで、行動素検索装置において、選択された行動素に類似した行動素を行動素DB中で検索させることができる。
この検索は、図2の異常検出部と同様に、行動素DBに蓄積された行動素に対してコサイン類似度を計算し、一定の閾値を越えて類似した行動素を抽出することで実現される。
図では、このような検索の結果、過去1か月の間に睡眠中に起きてトイレに行った回数が20回であること、それにより睡眠が中断された時間がおよそ100分であることが表示されている。
このような情報は利用者の健康管理に役立てることができる。
このような情報は利用者の健康管理に役立てることができる。
Claims (12)
- センサと受信装置と行動素抽出装置と異常検出装置と異常警報装置を備えた居住空間における人間の日常生活異常監視システムであって、
居住空間には少なくとも人間感知センサとスイッチセンサとを含むセンサが複数個配置され、
受信装置において、各センサから送信された各センサ情報は時系列的に少なくともセンサの名前、センサの状態およびその状態が変化した日時を含むセンサデータ列に変換され、
行動素抽出装置において、変換されたセンサデータ列は所定の時間間隔ごとに所定の幅の時間窓において発火したセンサ文字列と時間窓情報からなるフレームに変換され、
前記フレームは所定の周期を構成するように所定の時間毎に分割されて各フレーム列を構成し、
前記フレームの部分列からなる行動素を要素とする行動素DBは所与の周期のフレーム列で初期化され、
一の周期のフレーム列は、行動素DBから所定の基準で選択されたN個のシードを参照して、シードに類似したフレーム部分列を選好するよう文字列カーネルにより計算して複数の行動素に分節し、
前記分節された複数の行動素は所定の基準に対応して行動素DBに登録され、
異常検出装置において、一の周期において当該登録された行動素DBの各行動素に関し、前記分節手段において参照されたシードとの類似度が計算され、
異常警報装置において、前記類似度が所定の閾値より低い場合に当該行動素に関し異常警報を発することを特徴とする日常生活異常監視システム。 - 前記所定の規準は、参照頻度が多い上位N個の行動素であり、
分節された行動素が参照された行動素である時は当該行動素の参照頻度を1増やし参照されたシードと合わせて行動素DBに登録することを特徴とする日常生活異常監視システム。 - 前記所定の規準は、N個の各クラスタにおいてその重心に最も近い行動素N個であり、
分節された行動素をN個のクラスタに分割して行動素DBに登録することを特徴とする日常生活異常監視システム。 - センサと受信装置と行動素抽出装置と行動識別装置を備えた居住空間における人間の日常生活行動識別システムであって、
居住空間には少なくとも人間感知センサとスイッチセンサとを含むセンサが複数個配置され、
受信装置において、各センサから送信された各センサ情報は時系列的に少なくともセンサの名前、センサの状態およびその状態が変化した日時を含むセンサデータ列に変換され、
行動素抽出装置において、変換されたセンサデータ列は所定の時間間隔ごとに所定の幅の時間窓において発火したセンサ文字列と時間窓情報からなるフレームに変換され、
前記フレームは所定の周期を構成するように所定の時間毎に分割されて各フレーム列を構成し、
前記フレームの部分列からなる行動素を要素とする行動素DBは所与の周期のフレーム列で初期化され、
一の周期のフレーム列は、行動素DBから所定の基準で選択されたN個のシードを参照して、シードに類似したフレーム部分列を選好するよう文字列カーネルにより計算して複数の行動素に分節し、
前記分節された複数の行動素は所定の基準に対応して行動素DBに登録され、
行動識別装置は、特徴ベクトル計算部、行動モデル学習部および行動識別部から構成され、
特徴ベクトル計算部において、指定された行動ラベルに対応するフレーム部分列uに対して、N次元の特徴ベクトルが計算され、同時に指定された行動ラベルとの対とuのセンサ発火系列が学習サンプルDBに蓄積され
行動モデル学習部において、
行動モデルは、前記学習サンプルDBの学習データを所与とする行動ラベルの確率モデルであり、前記学習データから統計的に学習されて、行動モデルDBに保存され
行動識別部において、前記行動モデルDBの前記行動ラベルの確率モデルおよびその事前確率に基づいて、前記登録された行動素の当該行動ラベルを推定することを特徴とする日常生活行動識別システム。 - 請求項4に記載する日常生活行動識別システムに、さらに、行動素検索装置、表示装置を有する行動可視化装置、を備えた日常行動可視化システムであって、
前記表示装置に前記一の周期について、前記抽出された行動素を、横軸を一の周期を時系列として、縦軸を前記参照されたシードとの類似度(通常度)として、当該行動素の属すべき行動ラベルの確信度に基づいて行動素列として表示し、
行動素検索装置において、前記一の行動素列を指定すると、全周期において類似する行動素列を検索して、
行動可視化装置において、全周期における当該行動素列の発現回数と当該累積行動時間を前記表示装置に表示することを特徴とする日常行動可視化システム。 - 請求項5に記載する日常行動可視化システムに、さらに、異常検出装置、および異常警報装置を備えた日常行動可視化システムであって、
異常検出装置において、前記一の周期の表示において、前記分節手段において参照されたシードとの類似度が所定の閾値より低い行動素を検出し、
異常警報装置において、前記一の周期の当該行動素に関し異常警報を発することを特徴とする日常行動可視化システム。 - 請求項1に記載する日常生活異常監視システムを実行するプログラムを記録した記録媒体。
- 請求項2に記載する日常生活異常監視システムを実行するプログラムを記録した記録媒体。
- 請求項3に記載する日常生活異常監視システムを実行するプログラムを記録した記録媒体。
- 請求項4に記載する日常生活行動識別システムを実行するプログラムを記録した記録媒体。
- 請求項5に記載する日常行動可視化システムを実行するプログラムを記録した記録媒体。
- 請求項6に記載する日常行動可視化システムを実行するプログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014087833A JP2015207179A (ja) | 2014-04-22 | 2014-04-22 | 行動理解システムおよびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014087833A JP2015207179A (ja) | 2014-04-22 | 2014-04-22 | 行動理解システムおよびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015207179A true JP2015207179A (ja) | 2015-11-19 |
Family
ID=54603927
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014087833A Pending JP2015207179A (ja) | 2014-04-22 | 2014-04-22 | 行動理解システムおよびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015207179A (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017167878A (ja) * | 2016-03-17 | 2017-09-21 | 国立研究開発法人産業技術総合研究所 | 行動分析システムおよびプログラム |
JP2020091527A (ja) * | 2018-12-03 | 2020-06-11 | 株式会社チームボックス | モニタリング装置、モニタリングシステム、モニタリング方法及びモニタリングプログラム |
JP2021033730A (ja) * | 2019-08-27 | 2021-03-01 | Kddi株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JPWO2019207714A1 (ja) * | 2018-04-26 | 2021-04-22 | 日本電気株式会社 | 動作推定システム、動作推定方法および動作推定プログラム |
CN112801468A (zh) * | 2021-01-14 | 2021-05-14 | 深联无限(北京)科技有限公司 | 智慧社区多态离散信息的智能管理与决策辅助方法 |
JP2022024384A (ja) * | 2020-07-28 | 2022-02-09 | Kddi株式会社 | 情報処理装置及び情報処理方法 |
WO2023105788A1 (ja) * | 2021-12-10 | 2023-06-15 | 富士通株式会社 | 行動区間検出プログラム、装置、及び方法 |
WO2023105787A1 (ja) * | 2021-12-10 | 2023-06-15 | 富士通株式会社 | 行動区間評価プログラム、装置、及び方法 |
CN118053052A (zh) * | 2024-04-16 | 2024-05-17 | 之江实验室 | 一种无监督的高精矢量地图元素异常检测方法 |
-
2014
- 2014-04-22 JP JP2014087833A patent/JP2015207179A/ja active Pending
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017167878A (ja) * | 2016-03-17 | 2017-09-21 | 国立研究開発法人産業技術総合研究所 | 行動分析システムおよびプログラム |
US11848091B2 (en) | 2018-04-26 | 2023-12-19 | Nec Corporation | Motion estimation system, motion estimation method, and motion estimation program |
JPWO2019207714A1 (ja) * | 2018-04-26 | 2021-04-22 | 日本電気株式会社 | 動作推定システム、動作推定方法および動作推定プログラム |
JP7192860B2 (ja) | 2018-04-26 | 2022-12-20 | 日本電気株式会社 | 動作推定システム、動作推定方法および動作推定プログラム |
JP2020091527A (ja) * | 2018-12-03 | 2020-06-11 | 株式会社チームボックス | モニタリング装置、モニタリングシステム、モニタリング方法及びモニタリングプログラム |
JP7178975B2 (ja) | 2019-08-27 | 2022-11-28 | Kddi株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP2021033730A (ja) * | 2019-08-27 | 2021-03-01 | Kddi株式会社 | 情報処理装置、情報処理方法、及びプログラム |
JP2022024384A (ja) * | 2020-07-28 | 2022-02-09 | Kddi株式会社 | 情報処理装置及び情報処理方法 |
JP7352523B2 (ja) | 2020-07-28 | 2023-09-28 | Kddi株式会社 | 情報処理装置及び情報処理方法 |
CN112801468A (zh) * | 2021-01-14 | 2021-05-14 | 深联无限(北京)科技有限公司 | 智慧社区多态离散信息的智能管理与决策辅助方法 |
WO2023105788A1 (ja) * | 2021-12-10 | 2023-06-15 | 富士通株式会社 | 行動区間検出プログラム、装置、及び方法 |
WO2023105787A1 (ja) * | 2021-12-10 | 2023-06-15 | 富士通株式会社 | 行動区間評価プログラム、装置、及び方法 |
CN118053052A (zh) * | 2024-04-16 | 2024-05-17 | 之江实验室 | 一种无监督的高精矢量地图元素异常检测方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2015207179A (ja) | 行動理解システムおよびプログラム | |
Aminikhanghahi et al. | Enhancing activity recognition using CPD-based activity segmentation | |
Yin et al. | Sensor-based abnormal human-activity detection | |
US9278255B2 (en) | System and method for activity recognition | |
US10636524B2 (en) | Method and system for optimized wake-up strategy via sleeping stage prediction with recurrent neural networks | |
US11551103B2 (en) | Data-driven activity prediction | |
Aminikhanghahi et al. | Using change point detection to automate daily activity segmentation | |
Thida et al. | Laplacian eigenmap with temporal constraints for local abnormality detection in crowded scenes | |
JP6650305B2 (ja) | 行動分析システムおよびプログラム | |
US10950352B1 (en) | System, computer-readable storage medium and method of deep learning of texture in short time series | |
Coronato et al. | A situation-aware system for the detection of motion disorders of patients with autism spectrum disorders | |
WO2018148628A1 (en) | Detection of risky objects in image frames | |
Zhang et al. | ISEE Smart Home (ISH): Smart video analysis for home security | |
Jiang et al. | A real-time fall detection system based on HMM and RVM | |
Creagh et al. | Interpretable deep learning for the remote characterisation of ambulation in multiple sclerosis using smartphones | |
Yan et al. | Estimating individualized daily self-reported affect with wearable sensors | |
Sylligardos et al. | Choose wisely: An extensive evaluation of model selection for anomaly detection in time series | |
Yin et al. | Dynamical recursive feature elimination technique for neurophysiological signal-based emotion recognition | |
Ganesan et al. | Elderly people activity recognition in smart grid monitoring environment | |
Lu et al. | Diversify: A general framework for time series out-of-distribution detection and generalization | |
Abramova et al. | Method for undefined complex human activity recognition | |
Li et al. | A heterogeneous ensemble learning-based acoustic fall detection method for elderly people in indoor environment | |
Chen et al. | Recovering human mobility flow models and daily routine patterns in a smart environment | |
Ahmed et al. | Predicting physiological developments from human gait using smartphone sensor data | |
Pérez et al. | Combining machine learning and symbolic representation of time series for classification of behavioural patterns |