以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明が、全て請求されていることを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現したり、追加される発明の存在を否定するものではない。
本発明によれば、監視システムが提供される。この監視システム(例えば、図1の監視システム10)は、監視領域の監視に基づく第1のデータを出力する第1のセンサ(例えば、図4のマイクロ波センサ23)と、前記監視領域の監視に基づく第2のデータを出力する第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)と、前記監視領域を撮影する撮影手段(例えば、図4のCCDカメラ21)と、前記第1のデータと、前記第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出手段(例えば、図4のマイクロ波センサ縮退処理部54)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出手段(例えば、図4のフォトセンサ縮退処理部52)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御手段(例えば、図4のイベント通知判定部56)と、前記イベントを通知するように判定された場合、前記撮影手段により撮影される画像を呈示するように制御する呈示制御手段(例えば、図5の呈示画像構築部72)と、前記画像が呈示された前記イベントに対してユーザにより入力される通知の必要性の評価、および前記イベントの特徴に基づいて、前記イベント判定情報を更新する判定情報更新手段(例えば、図5の通知判定テーブル更新部74)とを備える。
この監視システム(例えば、図1の監視システム10)においては、前記第1のセンサ、前記第2のセンサ、前記撮影手段、前記第1のイベント検出手段、前記第2のイベント検出手段、前記通知制御手段、前記呈示制御手段、および前記判定情報更新手段は、第1の情報処理装置(例えば、図1のマルチセンサカメラ1)、および第2の情報処理装置(例えば、図1の処理ボックス2)のいずれかに分離して配置されるようにすることができる。
本発明によれば、情報処理方法が提供される。この情報処理方法は、監視領域の監視に基づく第1のデータを出力する第1のセンサ(例えば、図4のマイクロ波センサ23)と、前記監視領域の監視に基づく第2のデータを出力する第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)と、前記監視領域を撮影する撮影手段(例えば、図4のCCDカメラ21)とを備える情報処理システム(例えば、図1の監視システム10)が、前記第1のデータと、前記第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出ステップ(例えば、図24のステップS24)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出ステップ(例えば、図24のステップS23)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御ステップ(例えば、図22のステップS8およびS9)と、前記イベントを通知するように判定された場合、前記撮影手段により撮影される画像を呈示するように制御する呈示制御ステップ(例えば、図27のステップS103)と、前記画像が呈示された前記イベントに対してユーザにより入力される通知の必要性の評価、および前記イベントの特徴に基づいて、前記イベント判定情報を更新する判定情報更新ステップ(例えば、図27のステップS115)とを含む。
本発明によれば、プログラムが提供される。このプログラムは、第1のセンサ(例えば、図4のマイクロ波センサ23)による監視領域の監視に基づき出力される第1のデータと、第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)による前記監視領域の監視に基づき出力される第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出ステップ(例えば、図24のステップS24)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出ステップ(例えば、図24のステップS23)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御ステップ(例えば、図22のステップS8およびS9)と、前記イベントを通知するように判定された場合、前記監視領域を撮影した画像を呈示するように制御する呈示制御ステップ(例えば、図27のステップS103)と、前記画像が呈示された前記イベントに対してユーザにより入力される通知の必要性の評価、および前記イベントの特徴に基づいて、前記イベント判定情報を更新する判定情報更新ステップ(例えば、図27のステップS115)とを含む。
本発明によれば、情報処理装置が提供される。この情報処理装置(例えば、図1のマルチセンサカメラ1)は、監視領域の監視に基づく第1のデータを出力する第1のセンサ(例えば、図4のマイクロ波センサ23)と、前記監視領域の監視に基づく第2のデータを出力する第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)と、前記監視領域を撮影する撮影手段(例えば、図4のCCDカメラ21)と、前記第1のデータと、前記第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出手段(例えば、図4のマイクロ波センサ縮退処理部54)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出手段(例えば、図4のフォトセンサ縮退処理部52)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御手段(例えば、図4のイベント通知判定部56)と、前記イベントを通知するように判定された場合、前記撮影手段により撮影される画像、および前記イベントの特徴を表す特徴データを他の情報処理装置(例えば、図1の処理ボックス2)に送信する送信手段(例えば、図4の送信部59)と、前記イベント判定情報を前記他の情報処理装置から受信する受信手段(例えば、図4の受信部60)とを備える。
本発明によれば、情報処理方法が提供される。この情報処理方法は、監視領域の監視に基づく第1のデータを出力する第1のセンサ(例えば、図4のマイクロ波センサ23)と、前記監視領域の監視に基づく第2のデータを出力する第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)と、前記監視領域を撮影する撮影手段(例えば、図4のCCDカメラ21)とを備える情報処理装置(例えば、図1のマルチセンサカメラ1)が、前記第1のデータと、前記第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出ステップ(例えば、図24のステップS24)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出ステップ(例えば、図24のステップS23)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御ステップ(例えば、図22のステップS8およびS9)と、前記イベントを通知するように判定された場合、前記撮影手段により撮影される画像、および前記イベントの特徴を表す特徴データを他の情報処理装置(例えば、図1の処理ボックス2)に送信する送信ステップ(例えば、図22のステップS11)と、前記イベント判定情報を前記他の情報処理装置から受信する受信ステップ(例えば、図22のステップS12)とを含む。
本発明によれば、プログラムが提供される。このプログラムは、第1のセンサ(例えば、図4のマイクロ波センサ23)による監視領域の監視に基づき出力される第1のデータと、第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)による前記監視領域の監視に基づき出力される第2のデータに基づき調整した検出条件とに基づいて、前記監視領域におけるイベントの第1の状態を検出する第1のイベント検出ステップ(例えば、図24のステップS24)と、前記第2のデータに基づいて、前記イベントの第2の状態を検出する第2のイベント検出ステップ(例えば、図24のステップS23)と、前記イベントの第1の状態と前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴、および、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報に基づいて、前記イベントの通知の有無を判定する通知制御ステップ(例えば、図22のステップS8およびS9)と、前記イベントを通知するように判定された場合、前記監視領域を撮影した画像、および前記イベントの特徴を表す特徴データを他の情報処理装置(例えば、図1の処理ボックス2)に送信する送信ステップ(例えば、図22のステップS11)と、前記イベント判定情報を前記他の情報処理装置から受信する受信ステップ(例えば、図22のステップS12)とを含む。
本発明によれば、情報処理装置が提供される。この情報処理装置(例えば、図1の処理ボックス2)は、第1のセンサ(例えば、図4のマイクロ波センサ23)による監視領域の監視に基づき検出されたイベントの第1の状態と、第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)による前記監視領域の監視に基づき検出された前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴を表わす特徴データ、および、前記監視領域を撮影した画像を他の情報処理装置(例えば、図1のマルチセンサカメラ1)から受信する受信手段(例えば、図5の受信部71)と、前記画像の呈示を制御する呈示制御手段(例えば、図5の呈示画像構築部72)と、前記画像が呈示された前記イベントに対してユーザにより入力された通知の必要性の評価、および、前記イベントの特徴に基づいて、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報を更新する判定情報更新手段(例えば、図5の通知判定テーブル更新部74)と、更新された前記イベント判定情報を前記他の情報処理装置に送信する送信手段(例えば、図5の送信部75)とを備える。
この情報処理装置(例えば、図1の処理ボックス2)は、更新された前記イベント判定情報を蓄積するイベント判定情報蓄積手段(例えば、図21の過去通知判定テーブル蓄積部217)をさらに備えるようにすることができる。
本発明によれば、情報処理方法が提供される。この情報処理方法は、情報処理装置(例えば、図1の処理ボックス2)が、第1のセンサ(例えば、図4のマイクロ波センサ23)による監視領域の監視に基づき検出されたイベントの第1の状態と、第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)による前記監視領域の監視に基づき検出された前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴を表わす特徴データ、および、前記監視領域を撮影した画像を他の情報処理装置(例えば、図1のマルチセンサカメラ1)から受信する受信ステップ(例えば、図27のステップS104、ステップS106)と、前記画像の呈示を制御する呈示制御ステップ(例えば、図27のステップS103)と、前記画像が呈示された前記イベントに対してユーザにより入力された通知の必要性の評価、および、前記イベントの特徴に基づいて、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報を更新する判定情報更新ステップ(例えば、図27のステップS115)と、更新された前記イベント判定情報を前記他の情報処理装置に送信する送信ステップ(例えば、図27のステップS116)とを含む。
本発明によれば、プログラムが提供される。このプログラムは、情報処理装置(例えば、図1の処理ボックス2)が、第1のセンサ(例えば、図4のマイクロ波センサ23)による監視領域の監視に基づき検出されたイベントの第1の状態と、第2のセンサ(例えば、図4のフォトセンサ22−1乃至22−3)による前記監視領域の監視に基づき検出された前記イベントの第2の状態との組み合わせにより表される前記イベントの特徴を表わす特徴データ、および、前記監視領域を撮影した画像を他の情報処理装置(例えば、図1のマルチセンサカメラ1)から受信する受信ステップ(例えば、図27のステップS104、ステップS106)と、前記画像の呈示を制御する呈示制御ステップ(例えば、図27のステップS103)と、前記画像が呈示された前記イベントに対してユーザにより入力された通知の必要性の評価、および、前記イベントの特徴に基づいて、前記イベントの特徴により前記イベントの通知の必要性を判定するイベント判定情報を更新する判定情報更新ステップ(例えば、図27のステップS115)と、更新された前記イベント判定情報を前記他の情報処理装置に送信する送信ステップ(例えば、図27のステップS116)とを含む処理をコンピュータに実行させる。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した監視システム10の構成例を表している。この構成例においては、図中左側の監視領域側にマルチセンサカメラ1が備えられており、図中右側の通知・呈示側に、処理ボックス2、呈示部3、および、処理ボックス2を遠隔操作するためのリモートコントローラ4が備えられている。マルチセンサカメラ1と処理ボックス2は、無線アンテナ1Aと無線アンテナ2Aを介して、相互に無線通信を行なう。処理ボックス2とリモートコントローラ4は、相互に無線通信あるいは赤外線通信を行う。処理ボックス2と呈示部3は、バスなどの有線あるいは無線により接続されている。なお、マルチセンサカメラ1と処理ボックス2は、無線通信に限られるものではなく、有線による通信であってもよい。
マルチセンサカメラ1は、イベントを監視したい領域(必要な場所)に設置されている。マルチセンサカメラ1には、例えば、図2に示されるように、CCD(Charge Coupled Device)カメラ21、フォトセンサ22−1乃至22−3、およびマイクロ波センサ23の3種類のセンサが設けられており、各センサは、図示せぬバッテリにより駆動される。
CCDカメラ21は、監視領域(視野角)内の状況を随時撮影する。その詳細は後述するが、マルチセンサカメラ1は、フォトセンサ22−1乃至22−3およびマイクロ波センサ23で検出されたイベントに基づいて、イベントデータを通知するか否かを判定し、イベントデータを通知すると判定した場合、CCDカメラ21で撮影された画像データ(イベントデータ)を処理ボックス2に送信する。
フォトセンサ22−1乃至22−3は、図3に示されるように、自己が監視することが可能な領域31−1乃至31−3内の平均輝度をセンサデータとして出力しており、人物が領域31−1乃至31−3内に進入または退出したことに応じて、その出力が変化する。
マイクロ波センサ23は、マイクロ波を発生し、図3に示されるように、自己が監視することが可能な領域32内に照射しており、そのマイクロ波が人物(監視対象)に当たって反射されたときの反射波を検知し、反射波が基準の位相より進んでいるか、または遅れているかを表わすセンサデータを生成する。この位相の進みと遅れは、ドップラ効果によるものであり、物体の接近または離反に対応している。
以下、フォトセンサ22−1乃至22−3およびマイクロ波センサ23が監視することが可能な領域31−1乃至31−3および領域32を、単に、監視領域31−1乃至31−3、および監視領域32と記載する。なお、図3の例では、マイクロ波センサ23の監視領域32は、フォトセンサ22−1乃至22−3の監視領域31−1乃至31−3を合わせた監視領域に比べ、その領域(視野角)が狭くなっている。
図1の説明に戻る。マルチセンサカメラ1は、イベントを通知すると判定した場合、無線アンテナ1Aを介して、イベント呈示に必要なデータを処理ボックス2に送信する。
処理ボックス2は、マルチセンサカメラ1から送信されてきたイベント呈示に必要なデータを、無線アンテナ2Aを介して受信し、その受信データに基づいて呈示画像および音声を構築し、呈示部3およびリモートコントローラ4に供給または送信して、イベントを呈示させる。
呈示部3は、例えば、一般のテレビジョン受像機とされ、イベントが発生していない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を表示し、イベントが発生した場合、一般の視聴信号の一部分にイベント画像が挿入されたピクチャインピクチャの画像を表示する。なお、呈示部3は、テレビジョン受像機に限定されるものではなく、専用のモニタでもよい。また、表示される画像は、ピクチャインピクチャの画像ではなく、画面全体の画像としてもよい。
ユーザは、呈示部3に呈示されたイベントに対して、判断を行ない、その判断の結果に基づいて、リモートコントローラ4から各種指令を入力することができる。例えば、いま発生したイベントを今後も知らせて欲しいときは、その旨を、OKボタン(図示せず)を操作し、いま発生したイベントを今後は知らせなくてもよいときは、その旨を、NGボタン(図示せず)を操作して指示入力することができる。このユーザからの判断の入力に基づいて、処理ボックス2で作成される、イベントを通知するか否かを判定する際に用いられる(図20を参照して後述する)が時間とともに変化するため、ユーザが監視システム10を使用する度にユーザが意図するイベントのみが検知され、通知されるようになる。
またマルチセンサカメラ1に搭載されるCCDカメラ21は、イベントを通知すると判定された場合にのみ動作するため、無駄な消費電力を抑えることができる。
図4と図5は、図1の監視システム10の機能的構成例を示すブロック図である。図4は、図1に示した監視システム10のマルチセンサカメラ1の機能的構成例を示すブロック図であり、図5は、図1に示した監視システム10の処理ボックス2、呈示部3およびリモートコントローラ4の機能的構成例を示すブロック図である。
まず、図4を参照して、監視システム10のマルチセンサカメラ1の機能的構成例について説明する。
マルチセンサカメラ1のCCDカメラ21は、監視領域内の状況を随時撮影し、画像信号を通知画像データとしてスイッチ58を介して送信部59に供給する。
フォトセンサ22−1乃至22−3は、監視領域31−1乃至31−3(図3)内の平均輝度をセンサデータとしてA/D変換部51−1乃至51−3に供給する。A/D変換部51−1乃至51−3は、供給されたアナログのセンサデータを一定の間隔でデジタルデータにA/D変換して、フォトセンサ縮退処理部52およびフォトセンサ出力選択部53に供給する。
ここで、図6を参照して、フォトセンサ22−1が出力するセンサデータ101の出力レベルの変化と人物の行動との関係について説明する。同図において、縦軸はフォトセンサ22−1が出力するセンサデータの出力レベルを表わし、横軸は時間を表わしている。また、基準値Lは、人物が監視領域31−1内に侵入していない場合のセンサ出力値であり、背景の平均輝度に対応している。
反応区間Xは、フォトセンサ22−1が出力するセンサデータ101の出力レベルが基準値Lから変化している区間(時間)であり、人物が監視領域31−1内に存在していることを表わしている。この反応区間Xにおいて、センサデータ101の出力レベルが基準値Lから離れる方向(図6の例の場合、正の方向に離れているが、負の方向に離れる場合もある)に変化する区間Aは、人物が監視領域31−1内に徐々に進入しているか、または監視領域31−1内でフォトセンサ22−1に徐々に接近していることを表わし、センサデータ101の出力レベルが変化しない区間Bは、人物が監視領域31−1内で行動していない(静止している)ことを表わし、センサデータ101の出力レベルが基準値Lに近づく方向(図6の例の場合、負の方向に近づいているが、正の方向に近づく場合もある)に変化する区間Cは、人物が監視領域31−1から徐々に退出しているか、または監視領域31−1内でフォトセンサ22−1から徐々に離反していることを表わしている。
このように、フォトセンサ22−1が出力するセンサデータ101の出力レベルの変化および変化する方向に応じて、監視領域31−1内における人物の行動をおおよそ推定することができる。
なお、図6に示すセンサデータ101は、人物に対する平均輝度の出力レベルが基準値(背景に対する平均輝度)Lより高い場合の特性を表わしており、人物に対する平均輝度の出力レベルが基準値Lより低い場合には、センサデータ101の出力変化は、負の方向に変化する。
また、フォトセンサ22−2,22−3が出力するセンサデータの出力レベルの変化と人物の行動との関係は、上述したフォトセンサ22−1の場合と同様であり、その説明は省略する。
図4の説明に戻る。図6を参照して説明したように、フォトセンサ22−1乃至22−3からは、A/D変換部51−1乃至51−3を介して、監視領域の平均輝度に基づいた出力値を持つセンサデータが時々刻々と出力される。同じようなイベントでもその出力値は少しずつ異なるため、その出力値に基づき、人物の行動(イベント)を解析し、パターン化する場合、解析処理が複雑になり、またイベントのパターンが不必要に細かく分類されてしまう。そのため、細かく分類されたイベントのパターンから、ユーザが通知を必要とするイベントを抽出するために、ユーザに対して、通知が必要か否かを判断する入力が過度に要求されることになる。さらに、センサデータをそのまま扱ったのでは、時間の経過とともに蓄積されるデータ量が大きくなってしまう。そこで、フォトセンサ縮退処理部52は、フォトセンサ22−1乃至22−3が出力するセンサデータから、人物の行動パターンを簡単かつ正確に分類するために、フォトセンサ22−1乃至22−3の検出状態をパターン化(以下、縮退処理と称する)する。
具体的には、フォトセンサ縮退処理部52は、フォトセンサ22−1乃至22−3からA/D変換部51−1乃至51−3を介して供給されたセンサデータに基づいて、出力レベルが基準値Lから離れている(反応している)フォトセンサのうち、最も直近に反応を開始したフォトセンサの番号をフォトセンサ22−1乃至22−3の検出状態を表わす番号(以下、フォトセンサ状態番号と称する)とする。監視システム10では、フォトセンサ状態番号とその継続時間により、図7を参照して後述するように、フォトセンサ22−1乃至22−3により検出されたイベントのパターンが表わされる(記述される)。
フォトセンサ縮退処理部52は、求めたフォトセンサの状態番号およびその状態の継続時間をフォトセンサ出力選択部53および状態記述部55に供給する。
以下、本実施の形態では、フォトセンサ22−1の番号を“1”とし、フォトセンサ22−2の番号を“2”とし、フォトセンサ22−3の番号を“3”として説明する。従って、最も直近に反応したフォトセンサが、フォトセンサ22−1の場合、フォトセンサ状態番号は状態番号1とされ、フォトセンサ22−2の場合、フォトセンサ状態番号は状態番号2とされ、フォトセンサ22−3の場合、フォトセンサ状態番号は状態番号3とされる。いずれのフォトセンサも反応していないと判定された場合、フォトセンサ状態番号は、状態番号0とされる。
ここで、図7を参照して、フォトセンサ縮退処理部52により、人物の行動に応じて求められるフォトセンサ状態番号の例について説明する。
図7は、人物111が、フォトセンサ22−1乃至22−3の監視領域31−1乃至31−3において、図中矢印で示される方向に(図中、左から右方向にマルチセンサカメラ1の前を水平に横切るように)行動している様子を模式的に示している。フォトセンサ22−1乃至22−3は、それぞれ、常時、監視領域31−1乃至31−3内の平均輝度をセンサデータとして出力しており、図7Aに示されるように人物111が行動した場合、それに対応して、センサデータ101の出力レベルが変化する(図6)。
フォトセンサ縮退処理部52は、フォトセンサ22−1乃至22−3からそれぞれA/D変換部51−1乃至51−3を介して供給されたセンサデータに基づき、最も直近に出力レベルが基準値Lから離れた(反応した)フォトセンサの番号をフォトセンサ状態番号として求めるとともに、そのフォトセンサのセンサデータ101の出力レベルが基準値Lから離れている区間(図6に示す反応区間X)をその状態の継続時間として求め、出力する。例えば、図7Aに示される例の場合、図7Bに示されるように、フォトセンサ縮退処理部52から、状態番号3およびその継続時間taが出力され、次に状態番号2およびその継続時間tbが出力され、最後に状態番号1およびその継続時間tcが出力される。
以上のフォトセンサ縮退処理部52によるフォトセンサのセンサデータの縮退処理により、監視領域31−1乃至31−3で発生したイベントに対するフォトセンサ22−1乃至22−3の検出状態が、簡単かつ正確にパターン化される。また、監視領域内の人物111の横方向の動きが規定されるようになる。
図4の説明に戻る。フォトセンサ出力選択部53は、フォトセンサ22−1乃至22−3からA/D変換部51−1乃至51−3を介して供給されたセンサデータ、およびフォトセンサ縮退処理部52から供給されたフォトセンサ状態番号に基づいて、最も直近に反応が始まったフォトセンサの出力値をマイクロ波センサ縮退処理部54に出力する。
例えば、フォトセンサ縮退処理部52からフォトセンサ状態番号として状態番号1が入力された場合、フォトセンサ出力選択部53は、フォトセンサ22−1の出力値をマイクロ波センサ縮退処理部54に出力する。同様に、フォトセンサ出力選択部53は、状態番号2が入力された場合、フォトセンサ22−2の出力値を、状態番号3が入力された場合、フォトセンサ22−3の出力値を、マイクロ波センサ縮退処理部54にそれぞれ出力する。
フォトセンサ出力選択部53は、フォトセンサ縮退処理部52から状態番号0が入力された(どのフォトセンサも反応していない)場合、出力値0を出力する。また、フォトセンサ出力選択部53は、周囲が明るすぎるなどの要因により、フォトセンサの定常状態の出力値(図6のセンサデータ101の基準値L)が高すぎたり、あるいは低すぎたりして、フォトセンサが使用できない環境にあると判定した場合、フォトセンサ22−1乃至22−3が機能していないことを通知する信号(以下、フォトセンサ使用不可信号と称する)をマイクロ波センサ縮退処理部54、およびイベント通知判定部56に出力する。
マイクロ波センサ23は、監視領域32(図3)内にマイクロ波を照射しており、接近の反応を表わすセンサデータを接近ポート41からA/D変換部51−4に供給し、離反の反応を表わすセンサデータを離反ポート42からA/D変換部51−5に供給する。A/D変換部51−4,51−5は、供給されたアナログのセンサデータを一定の間隔でデジタルデータにA/D変換して、マイクロ波センサ縮退処理部54に供給する。
ここで、図8と図9を参照して、マイクロ波センサ23の原理について説明する。
図8は、マイクロ波センサ23の監視領域32内において、人物111−1,111−2が、それぞれ、図中矢印で示されるように、マイクロ波センサ23に接近または離反している様子を模式的に示している。マイクロ波センサ23は、常時、監視領域32内にマイクロ波を照射しており、図8に示されるように、センサを中心とした円周に対し人物111−1がほぼ垂直に接近するように行動した場合、それに対応して、例えば、図9Aに示されるような接近の反応を表わすセンサデータ121を接近ポート41から出力する。またマイクロ波センサ23は、センサを中心とした円周に対し人物111−2がほぼ垂直に離反するように行動した場合、それに対応して、例えば、図9Bに示されるような離反の反応を表わすセンサデータ122を離反ポート42から出力する。同図において、縦軸はマイクロ波センサ23が出力するセンサデータの出力レベルを表わし、横軸は時間を表わしている。
なお、センサデータ121,122は、いずれも2値出力とされ、図9A,図9Bに示されるセンサデータは高レベルの出力であり、説明を簡単にするために、低レベルの出力の表示は省略している。以下、同様に、マイクロ波センサ23から出力されるセンサデータの例を示す場合は、低レベルの出力は省略して表示する。
高レベルのセンサデータは、接近ポート41あるいは離反ポート42のいずれからのみ出力され、同時に両方のポートから出力されることはない。
図4の説明に戻る。マイクロ波センサ縮退処理部54は、フォトセンサ縮退処理部52と同様に、マイクロ波センサ23が出力するセンサデータの縮退処理を行う。
マイクロ波センサ縮退処理部54は、図示せぬバッファを持ち、マイクロ波センサ23の接近ポート41および離反ポート42からA/D変換部51−4,51−5を介して供給されたマイクロ波センサ23のセンサデータをバッファに蓄積する。そのバッファ内に蓄積されているマイクロ波センサデータのうち、直近の所定の期間(以下、バッファサイズと称する)に蓄積された接近ポート41から出力された接近反応を示す高レベルのデータ(以下、接近反応データと称する)の個数および離反ポート42から出力された離反反応を示す高レベルのデータ(以下、離反反応データと称する)の個数が、所定のしきい値(以下、他のしきい値と区別するために、反応しきい値と称する)以上か否かを判定することにより、マイクロ波センサ23が接近反応しているか、あるいは離反反応しているかを判定する。なお、マイクロ波センサ23のバッファには、バッファサイズより長い期間マイクロ波センサデータが蓄積される。
図10は、マイクロ波センサ縮退処理部54に入力されるマイクロ波センサ23のセンサデータの例を示す図である。矢印131で示される期間をバッファサイズとし、マイクロ波センサ縮退処理部54が、離反反応データ122が全て入力された時点でマイクロ波センサ23の反応を判定する場合、マイクロ波センサ縮退処理部54は、矢印131で示される期間にバッファに蓄積されたマイクロ波センサデータの個数に基づき、マイクロ波センサ23の反応を判定する(以下、マイクロ波センサ反応判定処理と称する)。この場合、矢印131で示される期間にバッファに蓄積された接近反応データ121の個数は4であり、離反反応データ122の個数は2である。従って、例えば反応しきい値を3とした場合、接近反応データ121の個数4が反応しきい値3を超えており、マイクロ波センサ縮退処理部54は、マイクロ波センサ23が接近反応していると判定する。
図11は、マイクロ波センサ縮退処理部54により求められるマイクロ波センサ23の検出状態を表わす番号(以下、マイクロ波センサ状態番号と称する)を示す図である。マイクロ波センサ状態番号は、図10を参照して上述したマイクロ波センサ反応判定処理により、マイクロ波センサ23が接近反応していると判定された場合、状態番号1とされ、マイクロ波センサ23が離反反応していると判定された場合、状態番号2とされ、マイクロ波センサ23が接近反応も離反反応もしていないと判定された場合、状態番号0とされる。
直近のバッファサイズの期間にマイクロ波センサ縮退処理部54のバッファ内に蓄積された接近反応データ数および離反反応データ数がともに反応しきい値以上となり、マイクロ波センサ反応処理により、接近反応と離反反応の両方の反応をしていると判定された場合、直近の反応(直近にマイクロ波センサ23から出力された高レベルのデータの種類)に従いマイクロ波センサ状態番号が決められる。マイクロ波センサ状態番号は、マイクロ波センサ23が、直近に接近反応した(直近に接近ポート41から接近反応データ121が出力された)場合、状態番号1とされ、直近に離反反応した(直近に接近ポート42から離反反応データ122が出力された)場合、状態番号2とされる。
マイクロ波センサ状態番号の継続時間は、状態番号1の場合、マイクロ波センサ縮退処理部54のマイクロ波センサ23の反応判定処理により接近反応の判定が継続している時間とされ、状態番号2の場合、離反反応の判定が継続している時間とされる。
マイクロ波センサ縮退処理部54は、求めたマイクロ波センサ状態番号およびその状態の継続時間を状態記述部55に供給する。
以上のマイクロ波センサ縮退処理部54によるマイクロ波センサ23のセンサデータの縮退処理により、マイクロ波センサ23の検出状態が、簡単にパターン化される。また、監視領域内の人物111の縦方向の動きが規定されるようになる。
しかし、マイクロ波センサ23から出力されるセンサデータは、ドップラ効果を利用して監視対象の動き(イベント)を検出するというセンサの特性上、出力が不安定になる場合があり、イベントの状態が、正確にマイクロ波センサ状態番号に反映されない可能性がある。
図12と図13は、マイクロ波センサ23が出力するセンサデータの他の例を説明する図である。
図12において、人物111は、マイクロ波センサ23の監視領域32およびフォトセンサ22−3の監視領域31−3の外から、監視領域32および監視領域31−3内に侵入し、ゆっくりした速度で、図中矢印で示される方向に(図中、左上から右下方向)、監視領域31−3から監視領域31−2を斜めに横断するものとする。
この例の場合、マイクロ波センサ23は、図13に示されるようなセンサデータを出力する。人物111が監視領域32に侵入して、ゆっくりした速度で斜めに進んでいる区間Aにおいて、接近反応データ121および離反反応データ122が不規則に出力されている(不安定な反応のセンサデータが出力されている)。
図14と図15は、マイクロ波センサ23が出力するセンサデータの他の例を説明する図である。
図14において、人物111は、マイクロ波センサ23の監視領域32およびフォトセンサ22−3の監視領域31−3の外から、扉141を開けて、監視領域32および監視領域31−3内に侵入し、扉141を閉めた後、監視領域32および監視領域31−3内の図中点Sにおいてしばらく立ち止まり、その後点Sから図中矢印で示されるように、監視領域31−3から監視領域31−2を斜め下方向に横断するものとする。
この例の場合、マイクロ波センサ23は、図15に示されるようなセンサデータを出力する。人物111が扉を開けて監視領域32内に侵入する区間Aにおいて、接近反応データ121−1が安定して出力されている。扉141が閉められる区間Bにおいて、離反反応データ122−1が安定して出力されている。人物111が点Sで立ち止まっている区間Cにおいて、離反反応データ122−2および接近反応データ121−2が不規則に出力されている(不安定な反応のセンサデータが出力されている)。人物111が図中点Sから矢印の方向に斜めに進んでいる間、接近反応データ121−3が安定して出力されている。
このように、マイクロ波センサ23から出力されるセンサデータは、図12の例のように、人物111の移動速度が遅い時、あるいはマイクロ波センサ23から人物111の距離が遠い時などに、図13に示されるように不安定な出力となる場合がある。また、マイクロ波センサ23から出力されるセンサデータは、図14の例のように、人物111が停止していても、人物111の微妙な動きにより、図15の区間Cにおける離反反応データ122−2および接近反応データ121−2に示されるように、ノイズ的な出力が混じった不安定な出力となる場合がある。
例えば、マイクロ波センサ縮退処理部54が、図13に示されるマイクロ波センサ23から出力される不安定なセンサデータから、人物111が接近している(マイクロ波センサ23が接近反応している)状態(状態番号1)を検出するためには、マイクロ波センサ縮退処理部54のバッファサイズを大きくし、反応しきい値を小さくして、マイクロ波センサ23の反応を検知する感度を高くする(マイクロ波センサ23の反応を検知しやすくする)必要がある。しかし、そうした場合、マイクロ波センサ縮退処理部54は、図15の離反反応データ122−2のノイズ的な出力に対しても、マイクロ波センサ23が離反反応していると誤検出し、検出信号122−1および122−2が出力されている間、人物111が扉を閉める状態(状態番号2)が継続していると判定してしまう可能性がある。
逆に、マイクロ波センサ縮退処理部54が、図15に示される離反反応データ122−2および接近反応データ121−2から、人物111が停止している(マイクロ波センサ23が接近反応も離反反応もしていない)状態(状態番号0)を検出するためには、マイクロ波センサ縮退処理部54のバッファサイズを小さくし、反応しきい値を小さくし、マイクロ波センサ23の反応を検出する感度を低くする(マイクロ波センサ23の反応を検知しにくくする)必要がある。しかし、そうした場合、マイクロ波センサ縮退処理部54は、図13に示されるマイクロ波センサ23から出力されるセンサデータから、人物111が接近している(マイクロ波センサ23が接近反応している)状態(状態番号1)を検出できない可能性がある。
そこで、本発明では、上述したマイクロ波センサ23の不安定な出力から、人物111の動き(イベント)に正確に対応した状態番号を検出できるようにする。この点について、図16乃至図18を参照して説明する。
図16は、フォトセンサ22−1乃至22−3ら出力されるセンサデータとマイクロ波センサ23から出力されるセンサデータの特性の違いを示した図である。図17は、図13の出力例に、フォトセンサ22−3から出力されるセンサデータ101−1およびフォトセンサ22−2から出力されるセンサデータ101−2を加えた図である。図18は、図15の出力例に、フォトセンサ22−3から出力されるセンサデータ101−1およびフォトセンサ22−2から出力されるセンサデータ101−2を加えた図である。
例えば、人物111が、監視システム10の監視領域内のマルチセンサカメラ1(マイクロ波センサ23)から遠くない場所で、遅くない速度で大きな動きをした場合、図16に示されるように、人物111の動きに反応して、マイクロ波センサ23のセンサデータは安定した出力となり、フォトセンサ22−1乃至22−3のセンサデータは大きく変化する。例えば、この場合のフォトセンサ22−2、22−3、およびマイクロ波センサ23のセンサデータは、図18の区間A、区間Bおよび区間Dに示されるようなデータになる。この場合、マイクロ波センサ縮退処理部54は、バッファサイズや反応しきい値の値に関わらず、マイクロ波センサ23のセンサデータから、正確にマイクロ波センサ23の反応を検出し、状態番号を求めることができる。
例えば、人物111が、マルチセンサカメラ1(マイクロ波センサ23)から遠い場所で大きな動きをしたり、ゆっくりした速度で大きな動きをした場合、図16に示されるように、フォトセンサ22−1乃至22−3のセンサデータは、人物111の動きに反応して大きく変化するが、マイクロ波センサ23のセンサデータは、人物111の動きに反応したり、反応しなかったりして、不安定な出力となる。例えば、この場合のフォトセンサ22−2、22−3、およびマイクロ波センサ23のセンサデータは、図17に示されるようなデータとなる。フォトセンサ22−3のセンサデータ101−1およびフォトセンサ22−2のセンサデータ101−2は、図12の人物111の動きに反応して、大きく変化しているが、マイクロ波センサ23のセンサデータ121,122は、人物111の動きに反応したり、反応しなかったりして、不安定になっている。
この場合、フォトセンサ22−3,22−2のセンサデータ101−1,101−2が大きく変化していることにより、人物111が大きな動きをしており、マイクロ波センサ23のセンサデータ121,122は、その動きに対応していることが想定できる。従って、マイクロ波センサ縮退処理部54のバッファサイズを大きくし、反応しきい値を小さくし、マイクロ波センサ23の反応を検知する感度を高くすることにより、図17のマイクロ波センサ23の不安定なセンサデータ121,122から、マイクロ波センサ23の反応が正確に検出され、人物111の動きに対応したマイクロ波センサ状態番号が求められる。
例えば、人物111が微小な動き(例えば、立ち止まった状態で、体を揺するなど)をした場合、図16に示されるように、フォトセンサ22−1乃至22−3のセンサデータは、人物111の動きに反応せずに、ほとんど変化しないが、マイクロ波センサ23のセンサデータは、人物111の動きに反応したり、反応しなかったりして、不安定な出力となる。例えば、この場合のフォトセンサ22−2、22−3、およびマイクロ波センサ23のセンサデータは、図18の区間Cにおけるデータとなる。図18の区間Cにおいて、図14の人物111は点Sで立ち止まっており、フォトセンサ22−3のセンサデータ101−1およびフォトセンサ22−2のセンサデータ101−2はほとんど変化していないが、マイクロ波センサ23のセンサデータ122−1,121−2は、人物111の微小な動きに反応したり、反応しなかったりして、不安定になっている。
この場合、フォトセンサ22−3,22−2のセンサデータ101−1,101−2がほとんど変化していないことにより、人物111がほとんど動いておらず、マイクロ波センサ23のセンサデータ122−1,121−2は、人物111の微小な動きに対応していることが想定できる。従って、マイクロ波センサ縮退処理部54のバッファサイズを小さくし、反応しきい値を大きくし、マイクロ波センサ23の反応を検知する感度を低くすることにより、図18の区間Cにおけるマイクロ波センサ23の不安定なセンサデータ122−2,121−2は、マイクロ波センサ23のノイズ的な反応として無視され、人物111の動き(イベント)の誤検出が防止される。
このように、フォトセンサ22−1乃至22−3のセンサデータの変化に基づき、マイクロ波センサ縮退処理部54のバッファサイズと反応しきい値を調整することにより、マイクロ波センサ23のセンサデータから、高精度にイベントの状態(状態番号)が検出されるようになる。
図4の説明に戻る。マイクロ波センサ縮退処理部54は、フォトセンサ出力選択部53から供給されるフォトセンサ22−1乃至22−3の出力値を所定の期間保存しておき、その保存されている出力値の最大値と最小値の差(以下、DRと称する)を求める。マイクロ波センサ縮退処理部54は、求めた差DRが所定のしきい値より小さい(人物111が停止しているか、微小な動きをしている)場合、バッファサイズを小さめの値B_small、反応しきい値を大きめの値th_largeに設定する。マイクロ波センサ縮退処理部54は、求めた差DRが所定のしきい値以上(人物111が大きな動きをしている)の場合、バッファサイズを大きめの値B_large、反応しきい値を小さめの値th_small、にそれぞれ設定する。
マイクロ波センサ縮退処理部54は、フォトセンサ出力選択部53からフォトセンサ使用不可信号が入力された(フォトセンサ22−1乃至22−3が使用できない環境にある)場合、バッファサイズをB_largeとB_smallの中間の値B_defaultに設定し、反応しきい値をth_largeとth_smallの中間の値th_defaultに設定する。
状態記述部55は、フォトセンサ縮退処理部52から供給されたフォトセンサ状態番号とその継続時間、およびマイクロ波センサ縮退処理部54から供給されたマイクロ波センサ状態番号とその継続時間に基づいて、監視領域内における人物111の一連の行動(センサ反応)の状態に関するデータ(以下、状態記述データと称する)を記述し、それをイベント通知判定部56に供給するとともに、スイッチ57を介して送信部59に供給する。
ここで、図19を参照して、状態記述データの例について説明する。
状態記述部55は、フォトセンサ縮退処理部52から供給されたフォトセンサ状態番号、およびマイクロ波センサ縮退処理部54から供給されたマイクロ波センサ状態番号を記述する。また、状態記述部55は、フォトセンサ状態番号の継続時時間とマイクロ波センサ状態番号の継続時間のうち短い方を、先に記述したフォトセンサ状態番号およびマイクロ波センサ状態番号を組み合せた状態の継続時間として記述する。
すなわち、状態記述部55は、フォトセンサ状態番号、マイクロ波センサ状態番号、およびフォトセンサ状態番号とマイクロ波センサ状態番号を組み合わせた状態の継続時間を1単位とし、それを時間軸方向に連続的に並べたものを状態記述データ151−1乃至151−n(以下、状態記述データ151−1乃至151−nを個々に区別する必要がない場合、単に状態記述データ151と称する)として記述する。このように、状態記述データは、監視領域において発生したイベントの特徴を表わすデータである。
図4の説明に戻る。イベント通知判定部56は、状態記述部55から供給された状態記述データ151(図19)と、受信部60を介して処理ボックス2から受信した通知判定テーブル(図20を参照して後述する)を比較し、比較の結果、イベントを通知すると判定した場合、通知イベント発生信号を送信部59に供給するとともに、CCDカメラ21に電源制御信号を供給してその電源をオンさせ、スイッチ57に状態記述データ送信制御信号を供給してオンさせ、スイッチ58に通知画像送信制御信号を供給してオンさせる。これにより、CCDカメラ21から出力された通知画像データが、スイッチ58を介して送信部59に供給され、状態記述部55から出力された状態記述データ151がスイッチ57を介して送信部59に供給される。
ここで、図20を参照して、通知判定テーブルの例について説明する。
通知判定テーブルは、ユーザに通知が不要なイベントのパターンが登録されているテーブルである。同図に示されるように、フォトセンサ状態番号、マイクロ波センサ状態番号、およびフォトセンサ状態番号とマイクロ波センサ状態番号を組み合わせた状態における継続時間の最小値および最大値が1つの状態記述データに規定される。この状態記述データ171−1乃至171−mからなる人物の行動が1つの通知判定テーブルに規定される。そして、通知判定テーブル161−1乃至161−nからなる通知判定テーブル群が、図5の処理ボックス2の通知判定テーブル更新部74で作成および更新され、イベント通知判定部56に供給される。
以下、状態記述データ171−1乃至171−mを個々に区別する必要がない場合、単に状態記述データ171と称し、通知判定テーブル161−1乃至161−nを個々に区別する必要がない場合、単に通知判定テーブル161と称する。また、後述する図21の仮通知判定テーブル蓄積部215に蓄積される仮の通知判定テーブルは、以上で説明した通知判定テーブル161と同じ形式であり、以下の説明では、図20は、仮の通知判定テーブルとしても引用する。
なお、マルチセンサカメラ1の初期状態においては、処理ボックス2から通知判定テーブル161が送信されておらず、イベント通知判定部56は、この通知判定テーブル161を保持していないため、状態記述部55から状態記述データ151が供給されると、直ちに通知イベントと判定する。すなわち、初期状態においては、全てのイベントが通知されることになる。これにより、必要なイベントがユーザに通知されないことが防止される。
送信部59は、処理ボックス2に対し、イベント通知判定部56から供給された通知イベント発生信号を送信するとともに、CCDカメラ21から供給された通知画像データおよび状態記述部55から供給された状態記述データ151を送信する。
受信部60は、処理ボックス2から送信されてきた通知判定テーブル161を受信し、それをイベント通知判定部56に供給する。
図5は、図1に示した監視システム10の処理ボックス2、呈示部3およびリモートコントローラ4の機能的構成例を示すブロック図である。
処理ボックス2の受信部71は、マルチセンサカメラ1から送信されてきた通知画像データおよび通知イベント発生信号を受信すると、これらを呈示画像構築部72に供給する。また受信部71は、マルチセンサカメラ1から送信されてきた状態記述データ151を受信すると、それを状態記述データ蓄積部73に供給し、そこに蓄積させる。
呈示画像構築部72は、受信部71を介してマルチセンサカメラ1からイベントが通知された場合、一般視聴信号(テレビジョン放送信号)の一部に通知画像データを挿入した通知データを構築(作成)し、それを呈示部3に供給して呈示させる。また、呈示画像構築部72は、通知画像データにより構成される(一般視聴信号を含まない)リモートコントローラ4用の通知データを構築し、送信部76に供給する。なお、呈示画像構築部72は、イベントが通知されていない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を呈示部3に供給して呈示させる。
呈示部3用の通知データは、一般の視聴信号の一部に通知画像データを挿入して構成されているため、呈示部3には、ピクチャインピクチャの表示が呈示される。また、リモートコントローラ4用の通知データは、通知画像データから構成されているため、リモートコントローラ4の呈示部82には、イベントを表わす表示(例えば、監視している場所の画像)のみが呈示される。
通知判定テーブル更新部74は、受信部77を介してリモートコントローラ4からユーザフィードバック(FB)に関する信号(以下、適宜、ユーザFB信号と称する)を受信した場合、そのユーザフィードバックを状態記述データ蓄積部73に供給し、そこに蓄積させる。また通知判定テーブル更新部74は、状態記述データ蓄積部73に蓄積されている状態記述データ151とそれに対応するユーザフィードバックを読み込み、それらと通知判定テーブル161を比較し、比較の結果に基づいてテーブルを更新する。そして、通知判定テーブル更新部74は、以前にマルチセンサカメラ1に送信した通知判定テーブル161と異なる場合、新しい通知判定テーブル161を送信部75に供給する。
ここで、ユーザフィードバックとは、ユーザが、呈示されたイベントに対して、判断を行ない、リモートコントローラ4の入力部83を用いて入力されたユーザの判断入力を意味する。例えば、ユーザは、イベントを今後も知らせて欲しい場合には、入力部83のOKボタン(図示せず)を操作し、今後はイベントとして検出しなくてもよい場合には、NGボタン(図示せず)を操作することで、ユーザフィードバックとして入力することができる。あるいは、イベントとして検出しなくてもよい場合だけ、フィードバックさせるようにしてもよい。
状態記述データ蓄積部73は、受信部71から状態記述データ151が供給された場合に、通知判定テーブル更新部74からユーザフィードバックが供給されたとき、状態記述データ151とユーザフィードバックを対応付けて蓄積し、状態記述データ151またはユーザフィードバックのいずれか一方のみが供給された場合、新規の状態記述データまたは新規のユーザフィードバックとして蓄積する。
送信部75は、通知判定テーブル更新部74から供給された通知判定テーブル161をマルチセンサカメラ1に送信する。送信部76は、呈示画像構築部72から供給された通知データをリモートコントローラ4に送信する。受信部77は、リモートコントローラ4から送信されてきたユーザFB信号を受信し、それを通知判定テーブル更新部74に供給する。
リモートコントローラ4の受信部81は、処理ボックス2から送信されてきた通知データを受信し、それを呈示部82に呈示させる。入力部83は、呈示されたイベントに対するユーザからの判断に基づく入力を受け、その入力(ユーザフィードバック)に関する信号を送信部84に供給する。送信部84は、入力部83から供給されたユーザFB信号を処理ボックス2に送信する。
ここで、ユーザフィードバックとは、上述したように、例えば、「今後も知らせて欲しいイベントである」、あるいは、「今後は知らせなくてよいイベントである」などのユーザによる判断(イベントに対する通知の必要性の評価)の入力を意味する。マルチセンサカメラ1と処理ボックス2は、このユーザフィードバックに基づいて、処理を変化させる。
図21は、図5の処理ボックス2の通知判定テーブル更新部74の詳細な構成例を示すブロック図である。
ユーザフィードバック(FB)判定部211は、状態記述データ蓄積部73に蓄積されている状態記述データ151(図19)とそれに対応するユーザフィードバックを読み込み、ユーザフィードバックが「OK」を示すデータであるか、または「NG」を示すデータであるかを判定し、判定結果を状態記述データ151とともに状態記述パターン比較部212に供給する。
状態記述パターン比較部212は、ユーザフィードバック判定部211から供給された状態記述データ151に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンと、仮通知判定テーブル蓄積部215に蓄積されている全ての仮の通知判定テーブル161の状態記述データ171に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンを比較する。状態記述パターン比較部212は、比較の結果、状態記述データ151とフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンが一致する仮の通知判定テーブル161があれば、その仮の通知判定テーブル161と状態記述データ151を既存パターン更新部214に供給し、一致するものがなければ、状態記述データ151を新規パターン作成部213に供給する。
新規パターン作成部213は、状態記述パターン比較部212から供給された状態記述データ151に基づき、新規の通知判定テーブル161を作成し、仮通知判定テーブル蓄積部215に追加し、そこに蓄積させる。
既存パターン更新部214は、状態記述パターン比較部212から供給された仮の通知判定テーブル161を、状態記述データ151に基づき更新し、仮通知判定テーブル蓄積部215に供給し、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を更新する。
仮通知判定テーブル蓄積部215は、新規パターン作成部213により追加された通知判定テーブル161、および既存パターン更新部214により更新された通知判定テーブル161を、仮の通知判定テーブル161として蓄積する。
テーブル比較部216は、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161と、過去通知判定テーブル蓄積部217に蓄積されている過去の通知判定テーブル161を比較し、同じではないと判定した場合、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を、最新の通知判定テーブル161として送信部75を介してマルチセンサカメラ1に送信する。また、テーブル比較部216は、仮の通知判定テーブル161を過去通知判定テーブル蓄積部217に供給し、過去通知判定テーブル蓄積部217に蓄積されている過去の通知判定テーブル161を更新する。
過去通知判定テーブル蓄積部217は、テーブル比較部216により更新された通知判定テーブル161を過去の通知判定テーブル161として蓄積する。
次に、図22のフローチャートを参照して、マルチセンサカメラ1における処理について説明する。なお、この処理は、ユーザにより、監視領域における監視が指令されたとき、開始される。
ステップS1において、マルチセンサカメラ1の初期化処理が行なわれる。具体的には、イベント通知判定部56は、CCDカメラ21に電源制御信号を供給してその電源をオフさせ、イベント通知フラグをオフし、保持している通知判定テーブル161をクリアする。
ステップS2において、フォトセンサ縮退処理部52およびフォトセンサ出力選択部53は、フォトセンサ22−1乃至22−3から、A/D変換部51−1乃至51−3によりアナログデータからデジタルデータにA/D変換されたセンサデータを取得する。また、マイクロ波センサ縮退処理部54は、マイクロ波センサ23の接近ポート41および離反ポート42から、A/D変換部51−4,51−5によりアナログデータからデジタルデータにA/D変換されたセンサデータを取得する。
ステップS3において、フォトセンサ縮退処理部52、フォトセンサ出力選択部53、マイクロ波センサ縮退処理部54、および状態記述部55は、ステップS2の処理で取得したフォトセンサデータとマイクロ波センサデータに基づいて、監視領域内における人物111の一連の行動に関し、状態データ記述処理を行う。この状態データ記述処理の詳細については、図24のフローチャートを参照して後述するが、この処理により、状態記述部55から状態記述データ151(図19)がイベント通知判定部56に出力される。
ステップS4において、イベント通知判定部56は、イベント通知フラグがオンである(通知イベント発生中である)か否かを判定し、イベント通知フラグがオンではなくオフである(通知イベント発生中ではない)と判定した場合、ステップS8に進む。最初は、ステップS1の処理でイベント通知フラグはオフされているので、処理はステップS8に進む。
ステップS8において、イベント通知判定部56は、通知イベントが発生しているか否かのイベント通知判定処理を行う。具体的には、ステップS3の処理で、例えば、図23に示されるように、フォトセンサ状態番号1、マイクロ波センサ状態番号1および継続時間T1からなる状態記述データ151−1と、フォトセンサ状態番号1、マイクロ波センサ状態番号2および継続時間T2からなる状態記述データ151−2が記述された場合、イベント通知判定部56は、フォトセンサ状態番号1とマイクロ波センサ状態番号1の組み合わせ、フォトセンサ状態番号1とマイクロ波センサ状態番号2の組み合わせの順のパターンと、保持している通知判定テーブル161(図20)の状態記述データ171(通知が不要なパターン)に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンを比較し、一致するものがなければ通知イベントが発生していると判断する。
これに対し、フォトセンサ状態番号1とマイクロ波センサ状態番号1の組み合わせ、フォトセンサ状態番号1とマイクロ波センサ状態番号2の組み合わせの順のパターンに一致する通知判定テーブル161がある場合、イベント通知判定部56は、図23に示されるように、状態記述データ151−1の継続時間T1が、通知判定テーブル161の状態記述データ171−1の継続時間最小値Tmin1と継続時間最大値Tmax1の範囲内におさまっている(Tmin1≦T1≦Tmax1)か否か、また、状態記述データ151−2の継続時間T2が、通知判定テーブル161の状態記述データ171−2の継続時間最小値Tmin2と継続時間最大値Tmax2の範囲内におさまっている(Tmin2≦T2≦Tmax2)か否かの判定を行い、少なくともいずれか一方が、その範囲内におさまっていなければ、通知不要とはいえないので、通知イベントが発生していると判定する。
これに対して、イベント通知判定部56は、状態記述データ151−1の継続時間T1が、通知判定テーブル161の状態記述データ171−1の継続時間最小値Tmin1と継続時間最大値Tmax1の範囲内におさまっており(Tmin1≦T1≦Tmax1)、かつ、状態記述データ151−2の継続時間T2が、通知判定テーブル161の状態記述データ171−2の継続時間最小値Tmin2と継続時間最大値Tmax2の範囲内におさまっていれば(Tmin2≦T2≦Tmax2)、非通知イベントが発生していると判定する(発生しているのは通知する必要がないイベントであると判定する)。
なお、イベント通知判定部56は、後述する図25のステップS44において送信されるフォトセンサ使用不可信号を受信した場合、フォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンではなく、マイクロ波センサ状態番号のパターンのみに基づいて、上述したイベント通知判定処理を行なう。
さらに、マルチセンサカメラ1の初期状態においては、まだ通知判定テーブル161が処理ボックス2から送信されてきておらず、イベント通知判定部56は、この通知判定テーブル161を保持していないため、状態記述部55から状態記述データ151が供給されると、直ちに通知イベントと判定する。
ステップS9において、イベント通知判定部56は、ステップS8の処理結果に基づいて、発生したイベントが通知イベントであるか否かを判定し、通知イベントであると判定した場合、ステップS10に進み、CCDカメラ21に電源制御信号を供給してその電源をオンさせるとともに、イベント通知フラグをオンする。すなわち、発生したイベントが通知イベントであると判定された場合にのみCCDカメラ21の電源がオンされ、通知イベントでない場合には、CCDカメラ21の電源はオフのままとなっており、これにより、無駄なバッテリ消費を抑えることができる。
ステップS11において、イベント通知判定部56は、送信部59を介して処理ボックス2に通知イベント発生信号を送信するとともに、通知画像送信制御信号をスイッチ58に供給してオンさせる。これにより、CCDカメラ21から処理ボックス2に対し、通知画像データ(CCDカメラ21が監視領域32を撮影して得たイベント画像)の送信が開始される。処理ボックス2は、この通知画像データを受信し、呈示部3に呈示させる(後述する図27のステップS103)。
ステップS9において、発生したイベントが通知イベントではない、すなわち非通知イベントであると判定された場合、ステップS10,S11の処理はスキップされ、処理はステップS12に進む。
ステップS4において(ステップS10の処理でイベント通知フラグがオンとされ、後述するステップS12またはステップS13の処理を経て、ステップS2,S3の処理の後、再び行われるステップS4の処理において)、イベント通知フラグがオンである(通知イベント発生中である)と判定された場合、処理はステップS5に進み、イベント通知判定部56は、イベント終了であるか否かを判定する。イベント終了であると判定した場合、ステップS6に進み、イベント通知判定部56は、CCDカメラ21に電源制御信号を供給してその電源をオフさせるとともに、ステップS10の処理でオンされたイベント通知フラグをオフする。
ステップS7において、イベント通知判定部56は、状態記述データ送信制御信号をスイッチ57に供給してオンさせ、通知画像送信制御信号をスイッチ58に供給してオフさせる。これにより、ステップS3の処理で状態記述部55から出力された状態記述データ151がスイッチ57および送信部59を介して処理ボックス2に送信されるとともに、CCDカメラ21からスイッチ58および送信部59を介して処理ボックス2に送信されていた通知画像データ(イベント画像)の送信が停止される。処理ボックス2は、この状態記述データ151を受信し、状態記述データ蓄積部73に蓄積し(後述する図27のステップS108)、この状態記述データ151に基づき通知判定テーブル161を必要に応じて更新し(後述する図27のステップS115)、更新した通知判定テーブル161を送信してくる(後述する図27のステップS116)。
ステップS5において、イベント終了ではないと判定された場合、ステップS6,S7の処理はスキップされ、処理はステップS12に進む。
ステップS12において、イベント通知判定部56は、受信部60を介して処理ボックス2より通知判定テーブル161を受信したか否かを判定し、通知判定テーブル161を受信したと判定した場合、ステップS13に進み、保持している通知判定テーブル161を、受信した通知判定テーブル161により更新する。
ステップS12において、処理ボックス2より通知判定テーブル161を受信していないと判定された場合、または、ステップS13の処理の後、処理はステップS2に戻り、上述した処理が繰り返し実行される。
次に、図24のフローチャートを参照して、図22のステップS3における状態データ記述処理の詳細について説明する。
ステップS21において、フォトセンサ縮退処理部52は、図6と図7を参照して上述したフォトセンサ縮退処理により、フォトセンサ状態番号を求める。すなわち、フォトセンサ縮退処理部52は、図22のステップS2の処理で取得したフォトセンサデータに基づいて、出力レベルが基準値Lから離れている(反応している)フォトセンサのうち、最も直近に反応を開始したフォトセンサの番号をフォトセンサ状態番号とし、そのフォトセンサのセンサデータ101の出力レベルが基準値Lから離れている区間(図6に示す反応区間X)をその状態の継続時間として求める。
ステップS22において、フォトセンサ縮退処理部52は、ステップS21で求めたフォトセンサ状態番号を、その継続時間とともに、フォトセンサ出力選択部53および状態記述部55に出力する。
ステップS23において、フォトセンサ出力選択部53は、フォトセンサデータ出力処理を行う。このフォトセンサデータ出力処理の詳細については、図25のフローチャートを参照して後述するが、この処理により、最も直近に反応が始まったフォトセンサの出力値がマイクロ波センサ縮退処理部54に出力される。
ステップS24において、マイクロ波センサ縮退処理部54は、マイクロ波センサデータ縮退処理を行う。このマイクロ波センサデータ縮退処理の詳細については、図26のフローチャートを参照して後述するが、この処理により、マイクロ波センサ23の状態番号とその継続時間が求められ、状態記述部55に出力される。
ステップS25において、状態記述部55は、ステップS22において取得したフォトセンサ状態番号とその継続時間、およびステップS24において取得したマイクロ波センサ状態番号とその継続時間に基づき、図19を参照して説明したように、すなわち、フォトセンサ状態番号の継続時間とマイクロ波センサ状態番号の継続時間の短い方、並びにフォトセンサ状態番号およびマイクロ波センサ状態番号により状態記述データ151が記述される。
ステップS26において、状態記述部55は、ステップS25において記述した状態記述データ151をイベント通知判定部56に出力するとともに、スイッチ57を介して送信部59に出力する。
以上の処理により、状態記述部55から出力された状態記述データ151は、図22のステップS8において、イベント通知判定処理に用いられるとともに、ステップS7において、処理ボックス2に送信される。
次に、図25のフローチャートを参照して、図24のステップS23におけるフォトセンサデータ出力処理を説明する。
ステップS41において、フォトセンサ出力選択部53は、フォトセンサ22−1乃至22−3が使用できる環境か否かを判定する。フォトセンサ出力選択部53は、周囲が明るすぎるなどの要因により、フォトセンサの定常状態の出力値が高すぎたり、あるいは低すぎたりして、フォトセンサ22−1乃至22−3が使用できない環境であると判定した場合、処理をステップS44に進め、フォトセンサ使用不可信号をマイクロ波センサ縮退処理部54、およびイベント通知判定部56に出力する。マイクロ波センサ縮退処理部54は、この信号に基づいて、後述する図26のステップS61の判定処理を行ない、イベント通知判定部56は、上述した図22のステップS8で、この信号に基づいてイベント判定処理を行なう。
ステップS41において、フォトセンサ22−1乃至22−3が使用できる環境であると判定された場合、処理はステップS42に進み、フォトセンサ出力選択部53は、図24のステップS22でフォトセンサ縮退処理部52より出力されたフォトセンサ状態番号を取得し、それに基づき、フォトセンサ22−1乃至22−3が反応しているか否かを判定する。フォトセンサ状態番号が状態番号0以外の場合、フォトセンサ22−1乃至22−3のいずれかが反応していると判定され、処理はステップS43に進む。
ステップS43において、フォトセンサ出力選択部53は、最も直近に反応が始まったフォトセンサの出力値をマイクロ波センサ縮退処理部54に出力する。すなわち、フォトセンサ出力選択部53は、ステップS42で取得したフォトセンサ状態番号が状態番号1の場合、図22のステップS2において取得したフォトセンサデータのうち、フォトセンサ22−1の出力値を出力し、フォトセンサ状態番号が状態番号2の場合、フォトセンサ22−2の出力値を出力し、フォトセンサ状態番号が状態番号3の場合、フォトセンサ22−3の出力値を出力する。
ステップS42において、どのフォトセンサも反応していない(フォトセンサ状態番号が状態番号0)と判定された場合、処理はステップS45に進み、フォトセンサ出力選択部53は、出力値0をマイクロ波センサ縮退処理部54に出力する。
以上の処理により、フォトセンサ22−1乃至22−3の検出状態に基づき、フォトセンサ出力選択部53から、最も直近に反応したフォトセンサの出力値がマイクロ波センサ縮退処理部54に出力される。
次に、図26のフローチャートを参照して、図24のステップS24におけるマイクロ波センサデータ縮退処理を説明する。
ステップS61において、マイクロ波センサ縮退処理部54は、フォトセンサ出力選択部53からフォトセンサ使用不可信号を受信したか否かを判定する。上述した図25のステップS44の処理によりフォトセンサ出力選択部53からフォトセンサ使用不可信号が出力された場合、ステップS61において、フォトセンサ使用不可信号が受信され、処理はステップS66に進む。
ステップS66において、マイクロ波センサ縮退処理部54は、マイクロ波センサ縮退処理部54のバッファサイズをB_defaultに、反応しきい値をth_defaultに設定する。すなわち、この場合には、バッファサイズと反応しきい値の値は、予め設定されている値に固定される。
ステップS61において、フォトセンサ使用不可信号を受信していないと判定された場合、処理はステップS62に進み、マイクロ波センサ縮退処理部54は、フォトセンサ出力選択部53から出力されたフォトセンサの出力値が0か否かを判定する。フォトセンサの出力値が0でないと判定された場合(フォトセンサ22−1乃至22−3の少なくともいずれか1つが反応している場合)、処理はステップS63に進む。
ステップS63において、マイクロ波センサ縮退処理部54は、フォトセンサの出力値の差DRを計算する。上述したように、マイクロ波センサ縮退処理部54は、フォトセンサ出力選択部53から出力されたフォトセンサの出力値を所定の期間(例えば約1秒間)保存しておき、保存されているフォトセンサの出力値の最大値と最小値の差をフォトセンサの出力値の差DRとする。
ステップS64において、マイクロ波センサ縮退処理部54は、ステップS63の処理により求められたフォトセンサの出力値の差DRが十分小さい(予め設定されている所定のしきい値より小さい)か否かを判定する。フォトセンサの出力値の差DRが十分小さくない(所定のしきい値以上である)(例えば、監視領域で人物111が大きな動きをしている)と判定された場合、処理はステップS65に進み、マイクロ波センサ縮退処理部54は、バッファサイズを大きな値であるB_larageに、反応しきい値を小さな値であるth_smallに、それぞれ設定する。バッファサイズの値を大きくすると、図10の矢印131で示される期間が長くなり、反応判定処理対象とされるマイクロ波センサデータの個数が多くなり、マイクロ波センサ23の反応を検知する感度が高くなる。また、反応しきい値を小さくすると、接近反応データ121または離反反応データ122の個数が少なくても反応があると判定されるので、やはり感度が高くなる。
ステップS62においてフォトセンサの出力値が0(監視領域でイベントが発生していない)と判定された場合、およびステップS64においてフォトセンサの出力値の差DRが十分小さい(所定のしきい値より小さい)(例えば、監視領域で人物111が停止している)と判定された場合、処理はステップS67に進み、マイクロ波センサ縮退処理部54は、バッファサイズを小さい値であるB_small(B_small<B_large)に、反応しきい値を大きい値であるth_large(th_large>th_small)に、それぞれ設定し、マイクロ波センサ23の反応を検知する感度を低くする。なお、バッファサイズB_defultと反応しきい値th_defaultの値は、それぞれ、バッファサイズB_smallとB_largeの中間の値(B_small<B_default<B_large)、または反応しきい値th_smallとth_largeの中間の値(th_small<th_default<th_large)とされている。
このように、バッファサイズと反応しきい値が、フォトセンサの出力に基づいて動的に変化されるので、すなわち、フォトセンサの出力でマイクロ波センサ23の反応の検出条件を動的に調整するようにしたので、正確な検出が可能となる。
マイクロ波センサ縮退処理部54は、ステップS65、ステップS66、またはステップS67の処理の後、ステップS68において、ステップS65乃至S67の処理で設定されたバッファサイズと反応しきい値に基づき、図10および図11を参照して上述したマイクロ波センサデータの縮退処理を行ない、マイクロ波センサ状態番号とその継続時間を求める。
例えば、ステップS65の処理によりバッファサイズがB_large、反応しきい値がth_smallに設定されている場合、マイクロ波センサ縮退処理部54は、直近のバッファサイズB_largeの期間にバッファ内に蓄積されたマイクロ波センサデータに基づき、蓄積されている接近反応データ121または離反反応データ122の個数が、反応しきい値th_small以上か否かを判定する。マイクロ波センサ縮退処理部54は、接近反応データ121の個数が反応しきい値th_small以上であると判定した場合、マイクロ波センサ状態番号を状態番号1とし、離反反応データ122の個数が反応しきい値th_small以上であると判定した場合、マイクロ波センサ状態番号を状態番号2とする。
マイクロ波センサ縮退処理部54は、接近反応データ121および離反反応データ122の個数がともに反応しきい値th_small以上であると判定した場合、最も直近に出力されたマイクロ波センサデータの種類によりマイクロ波センサ状態番号を求める。最も直近に出力されたマイクロ波センサデータが接近反応データ121の場合、マイクロ波センサ状態番号は状態番号1とされ、最も直近に出力されたマイクロ波センサデータが離反反応データ122の場合、マイクロ波センサ状態番号は状態番号2とされる。マイクロ波センサ縮退処理部54は、接近反応データ121および離反反応データ122の個数がともに反応しきい値th_small未満であると判定した場合、マイクロ波センサ状態番号を状態番号0とする。
マイクロ波センサ縮退処理部54は、マイクロ波センサ状態番号の継続時間を、状態番号1の場合、マイクロ波センサ反応判定処理によるマイクロ波センサ23の接近反応の判定が継続している時間とし、状態番号2の場合、離反反応の判定が継続している時間とする。
ステップS66の処理によりバッファサイズがB_default、反応しきい値がth_defaultに設定された場合、およびステップS67の処理によりバッファサイズがB_small、反応しきい値がth_smallに設定された場合も、上述した処理と同様の処理が行われる。
ステップS69において、マイクロ波センサ縮退処理部54は、ステップS68で求めたマイクロ波センサ状態番号を、その継続時間とともに、状態記述部55に出力する。
以上のようにして、フォトセンサ22−1乃至22−3の出力値に基づいて調整されたバッファサイズと反応しきい値に基づき、マイクロ波センサ状態番号とその継続時間が検出され、状態記述部55に出力される。
次に、図27のフローチャートを参照して、図22のマルチセンサカメラ1の処理に対応して実行される処理ボックス2における処理について説明する。なお、この処理は、ユーザにより、監視領域における監視をするよう指令されたとき開始される。あるいはまた、ユーザにより、呈示部3に対して一般視聴信号(放送番組信号)に対応する画像の呈示を行うよう指令されたとき、図22の処理とともに自動的に実行させるようにしてもよい。
ステップS101において、処理ボックス2の初期化処理が行なわれる。具体的には、通知判定テーブル更新部74は、状態記述データ蓄積部73に蓄積されている状態記述データ151、および仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161をクリアするとともに、ユーザフィードバック受信フラグをオフする。受信部71は、イベント受信フラグ、および状態記述データ受信フラグをオフする。
ステップS102において、受信部71は、イベント受信フラグがオンである(通知イベント受信中である)か否かを判定し、イベント受信フラグがオフであると判定された場合(処理開始直後はこの判定結果となる)、ステップS104に進み、受信部71は、マルチセンサカメラ1から通知イベント発生信号および通知画像データを受信したか否かを判定し、通知イベント発生信号および通知画像データを受信したと判定した場合、ステップS105に進み、イベント受信フラグをオンし、状態記述データ受信フラグをオフする(ただし、最初の場合すでにオフされている)。
ステップS102において、イベント受信フラグがオンであると判定した場合(ステップS105の処理が行われた後、後述するステップS114またはS117の処理を経て、再びステップS102の処理が行われた場合)、受信部71はステップS103において、マルチセンサカメラ1から送信されてきた(上述した図22のステップS11の処理により送信されてきた)通知画像データおよび通知イベント発生信号を呈示画像構築部72に供給する
また、ステップS103において、呈示画像構築部72は、受信部71から供給された通知画像データを、呈示部3に供給される一般視聴信号の一部に挿入し、通知データ(ピクチャインピクチャで呈示するための画像データ)を構築し、それを呈示部3に供給し、呈示させる。また呈示画像構築部72は、リモートコントローラ4専用の通知データ(イベント画像を表示するための画像)を構築し、送信部76を介してリモートコントローラ4に送信する。リモートコントローラ4は、この通知データを受信し、呈示部82に呈示させる(後述する図29のステップS162)。このようにして、呈示部3と呈示部82にイベント画像が表示される。
ステップS103の処理の後、ステップS105の処理の後、またはステップS104において、通知イベント発生信号および通知画像データを受信していないと判定された場合、ステップS106に進み、受信部71は、マルチセンサカメラ1から状態記述データ151を受信したか否かを判定する。
ステップS106において、状態記述データ151を受信したと判定した場合、ステップS107に進み、受信部71は、状態記述データ受信フラグをオンし、イベント受信フラグをオフする。
ステップS108において、受信部71は、マルチセンサカメラ1から送信されてきた(上述した図22のステップS7の処理によりイベント終了時に送信されてきた)状態記述データ151を受信し、状態記述データ蓄積部73に蓄積させる。ただし、このときに、既にユーザフィードバック受信フラグがオンである場合、すなわち、イベントの途中で、呈示されたイベントに対するユーザの判断(「OK(今後も通知して欲しい)」または「NG(今後は通知しなくても良い)」の判断)が入力され、後述するステップS110の処理でユーザFB信号が受信され、ステップS111の処理により、そのユーザフィードバックが新規のユーザフィードバックとして状態記述データ蓄積部73に蓄積されている場合、そのユーザフィードバックに対応付けて状態記述データ151が蓄積される。
ステップS108の処理の後、または、ステップS106において、状態記述データ151を受信していないと判定された場合、ステップS109に進み、通知判定テーブル更新部74は、受信部77を介してリモートコントローラ4から送信されてきた(後述する図29のステップS164の処理により送信されてきた)ユーザFB信号を受信したか否かを判定し、ユーザFB信号を受信したと判定した場合、ステップS110に進む。
ステップS110において、通知判定テーブル更新部74は、ユーザフィードバック受信フラグをオンする。
ステップS111において、通知判定テーブル更新部74は、このとき、状態記述データ受信フラグがオンであれば、ユーザフィードバック(「OK(今後も通知して欲しい)」または「NG(今後は通知しなくても良い)」)を状態記述データ蓄積部73に蓄積されている状態記述データ151に対応付けて蓄積させる。
ステップS111において、通知判定テーブル更新部74は、イベント受信フラグがオンかつ状態記述データ受信フラグがオフであれば、ユーザフィードバックを新規のユーザフィードバックとして蓄積させる。これは、ユーザがイベントの途中で(上述したステップS106の処理で呈示されたイベントの状態記述データ151が受信される前に)、リモートコントローラ4の入力部83を用いて呈示中のイベントに対するユーザの判断を入力し、ステップS109において、受信部77を介してリモートコントローラ4から送信されてきた(後述する図29のステップS164の処理により送信されてきた)ユーザFB信号が受信された場合である。蓄積された新規のユーザフィードバックは、上述したステップS108の処理により、イベント終了時にマルチセンサカメラ1から受信する(上述したステップS106の処理により受信する)状態記述データ151と対応付けられて、状態記述データ蓄積部73に蓄積される。
また、ステップS111において、イベント受信フラグがオフかつ状態記述データ受信フラグがオフであれば、すなわち、イベントの呈示が行われておらず、かつ呈示されたイベントに関する状態記述データ151が受信されていなければ、そのユーザフィードバックは、イベントの呈示とは無関係に入力されたものとして、無視される。
ステップS112において、通知判定テーブル更新部74により、ステップS109で受信したユーザFB信号が「NG(今後は通知しなくても良い)」を示す信号か否かを判定し、「NG」を示す信号であると判定された場合、処理はステップS113に進み、受信部71は、イベント受信フラグをオフする。これにより、ユーザから「NG」と判断されたイベントの呈示が、イベントの途中でも停止される。すなわち、その後、イベント終了時まで(上述した図22のステップS5の処理でイベント終了と判定され、ステップS6とS7の処理でマルチセンサカメラ1からのイベントの通知が停止されるまで)マルチセンサカメラ1からのイベントの通知は継続されるが、処理がステップS102に戻ったとき、イベント受信フラグがオフと判定されるので、ステップS103の呈示処理が行われないようになる。
ステップS113においてオフされたイベント受信フラグは、ステップS104においてマルチセンサカメラ1から通知イベント発生信号および通知画像データを受信したと判定され、ステップS105においてオンされるまで、オフされたままとなる。通知イベント発生信号は、新たなイベントが検出され、上述した図22のステップS11の処理が行われるまで、マルチセンサカメラ1から送信されてこないため、マルチセンサカメラ1から新たなイベントが通知されるまで、イベント受信フラグはオフされたままである。
ステップ113の処理の後、ステップS109でユーザFB信号が受信されていないと判定された場合、またはステップS112でユーザFB信号が「OK(今後も通知して欲しい)」を示す信号であると判定された場合、ステップS114において、通知判定テーブル更新部74は、状態記述データ受信フラグおよびユーザフィードバック受信フラグが共にオンであるか否かを判定し、少なくとも一方がオフである場合には、処理はステップS102に戻り、それ以降の処理が繰り返される。状態記述データ受信フラグおよびユーザフィードバック受信フラグが共にオンであると判定された場合(呈示されたイベントの状態記述データ151が受信され、かつ、そのイベントに対してユーザからフィードバックが入力された場合)、ステップS115に進み、通知判定テーブル更新処理を行う。この通知判定テーブル更新処理の詳細については、図28のフローチャートを参照して後述するが、この処理により、過去通知判定テーブル蓄積部217に蓄積される通知判定テーブル161が更新される。
ステップS116において、通知判定テーブル更新部74は、ステップS115の処理により、過去の通知判定テーブル161と異なる通知判定テーブル161が作成され、過去通知判定テーブル蓄積部217に蓄積された場合には、その新しい通知判定テーブル161を、送信部75を介してマルチセンサカメラ1に送信する。マルチセンサカメラ1は、この新しい通知判定テーブル161を受信し、更新する(上述した図22のステップS13)。
ステップS117において、通知判定テーブル更新部74は、状態記述データ受信フラグおよびユーザフィードバック受信フラグをオフする。
ステップS117の処理の後、処理はステップS102に戻り、上述した処理が繰り返し実行される。
以上のようにして、イベント画像がユーザに呈示され、それに対応するユーザのフィードバックが入力される。ユーザのフィードバックが入力されると、通知判定テーブル161が更新され、マルチセンサカメラ1に送信される。
次に、図28のフローチャートを参照して、図27のステップS115における通知判定テーブル更新処理の詳細について説明する。
ステップS131において、通知判定テーブル更新部74の状態記述パターン比較部212は、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161をクリアする。
ステップS132において、ユーザフィードバック判定部211は、状態記述データ蓄積部73にステップS111の処理で蓄積されている最新の状態記述データ151とそれに対応するユーザフィードバックを読み込む。
ステップS133において、ユーザフィードバック判定部211は、ステップS132の処理で読み込んだユーザフィードバックが「NG(今後はイベントとして検出しなくてもよい)」を示すデータであるか否かを判定し、ユーザフィードバックが「NG」を示すデータであると判定した場合、その判定結果を状態記述データ151(図19)とともに状態記述パターン比較部212に供給する。
次に、ステップS134において、状態記述パターン比較部212は、ユーザフィードバック判定部211から供給された状態記述データ151に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンと、仮通知判定テーブル蓄積部215に蓄積されている全ての仮の通知判定テーブル161の状態記述データ171に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンを比較する。
ステップS135において、状態記述パターン比較部212は、ステップS134の処理による比較の結果、パターンが一致するものがあるか否か、すなわち、状態記述データ171に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンが状態記述データ151と一致する仮の通知判定テーブル161があるか否かを判定する。いまの場合、ステップS131の処理で、仮の通知判定テーブル161がクリアされている状態であるとすると、パターンが一致するものがないと判定され、状態記述パターン比較部212は、状態記述データ151を新規パターン作成部213に供給する。
ステップS137において、新規パターン作成部213は、状態記述パターン比較部212から供給された状態記述データ151に含まれるフォトセンサ状態番号、マイクロ波センサ状態番号、並びにそれに対応する継続時間を、新規の通知判定テーブル161として仮通知判定テーブル蓄積部215に追加・蓄積する。このとき、継続時間は、通知判定テーブル161上の最小値および最大値として設定される。いまの場合、仮の通知判定テーブル161がクリアされている状態なので、追加された通知判定テーブル161が、最初の仮の通知判定テーブル161となる。その後、処理はステップS138に進む。
ステップS133において、ユーザフィードバックが「NG」を示すデータでないと判定された場合、ステップS134乃至S137の処理はスキップされ、処理はステップS138に進む。すなわち、この場合仮の通知判定テーブル161を追加する処理は実行されない。
ステップS138において、ユーザフィードバック判定部211は、状態記述データ蓄積部73に蓄積されている全ての状態記述データ151とそれに対応するユーザフィードバックを読み込んだか否かを判定し、未だ読み込んでいないデータがあると判定した場合、処理はステップS132に戻る。
ステップS132において、ユーザフィードバック判定部211は、再び状態記述データ蓄積部73に蓄積されている次の状態記述データ151とそれに対応するユーザフィードバックを読み込む。
ステップS133の再度の処理において、ステップS132の処理で読み込んだユーザフィードバックが「NG」を示すデータでないと判定された場合、ステップS134乃至S137の処理はスキップされ、処理はステップS138に進む。ステップS133において、ユーザフィードバックが「NG」を示すデータであると判定された場合、その判定結果が状態記述データ151(図19)とともに状態記述パターン比較部212に供給され、処理はステップS134に進む。
ステップS134において、状態記述パターン比較部212は、ユーザフィードバック判定部211から供給された状態記述データ151に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンと、仮通知判定テーブル蓄積部215に蓄積されている全ての仮の通知判定テーブル161の状態記述データ171に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンを比較する。いま、2回目以降の処理なので、少なくとも1回目のステップS137の処理で仮の通知判定テーブル161が蓄積されている。従って、パターンが一致する場合がある。
ステップS135において、状態記述パターン比較部212は、ステップS134の処理による比較の結果、パターンが一致するものがあると判定した場合、状態記述データ151と、状態記述データ171に含まれるフォトセンサ状態番号とマイクロ波センサ状態番号の組み合わせのパターンが状態記述データ151と一致する仮の通知判定テーブル161を既存パターン更新部214に供給し、処理はステップS136に進む。
ステップS136において、既存パターン更新部214は、状態記述パターン比較部212から供給された状態記述データ151とパターンが一致する仮の通知判定テーブル161を、状態記述パターン比較部212から供給された状態記述データ151に基づき更新する。
すなわち、既存パターン更新部214は、まず、マルチセンサカメラ1から受信された状態記述データ151に含まれる継続時間と、状態記述データ151とパターンが一致する仮の通知判定テーブル161の状態記述データ171に含まれる継続時間の最小値および最大値を比較する。
そして、既存パターン更新部214は、比較の結果、状態記述データ171の継続時間の最小値より状態記述データ151の継続時間の方が短いと判断した場合、状態記述データ171の継続時間の最小値を状態記述データ151の継続時間に置き換え(更新し)、また、状態記述データ171の継続時間の最大値より状態記述データ151の継続時間の方が長いと判断した場合、状態記述データ171の継続時間の最大値を状態記述データ151の継続時間に置き換える(更新する)。既存パターン更新部214は、更新した状態記述データ151とパターンが一致する仮の通知判定テーブル161を、仮通知判定テーブル蓄積部215に更新通知判定テーブル161として供給し、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を更新する。
ステップS135において、ステップS134の処理による比較の結果、パターンが一致するものがないと判定された場合、1回目の処理の場合と同様に、状態記述パターン比較部212は状態記述データ151を新規パターン作成部213に供給し、処理はステップS137に進む。
ステップS137において、1回目の処理の場合と同様に、新規パターン作成部213は、状態記述パターン比較部212から供給された状態記述データ151に含まれるフォトセンサ状態番号、マイクロ波センサ状態番号、並びにそれに対応する継続時間を継続時間の最小値および最大値とする新規の通知判定テーブル161として仮通知判定テーブル蓄積部215に追加・蓄積する。
ステップS138において、状態記述データ蓄積部73に蓄積されている全ての状態記述データ151とそれに対応するユーザフィードバックが読み込まれたと判定されるまで、ステップS132乃至S138の処理が繰り返し実行され、状態記述データ蓄積部73に蓄積されている全ての状態記述データ151とそれに対応するユーザフィードバックから仮の通知判定テーブル161が作成される。
ステップS138において、全ての状態記述データ151とそれに対応するユーザフィードバックを読み込んだと判定された場合、処理はステップS139に進み、テーブル比較部216は、過去通知判定テーブル蓄積部217に蓄積されている過去の通知判定テーブル161と、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を比較する。
ステップS140において、テーブル比較部216は、ステップS139の処理による比較の結果、過去の通知判定テーブル161と仮の通知判定テーブル161が同じであるか否かを判定し、同じではないと判定した場合、ステップS141に進み、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を、最新の通知判定テーブル161として送信部75に供給する。上述したように、この最新の通知判定テーブル161が、図27のステップS116において、マルチセンサカメラ1に送信される。
ステップS140において、過去の通知判定テーブル161と仮の通知判定テーブル161が同じであると判定された場合、そのテーブルは既にマルチセンサカメラ1に送信されているので、ステップS141の処理はスキップされ、処理はステップS142に進む。
ステップS142において、テーブル比較部216は、仮通知判定テーブル蓄積部215に蓄積されている仮の通知判定テーブル161を過去通知判定テーブル蓄積部217に供給し、既に蓄積されている過去の通知判定テーブル161を更新する。
以上の処理により、図20に示されているような通知判定テーブル161−1乃至161−nからなる通知判定テーブル161群が過去通知判定テーブル蓄積部217に蓄積される。この通知判定テーブル161には、イベントとして通知しなくてよい場合のパターンが記憶されることになる。
次に、図29のフローチャートを参照して、図27の処理ボックス2の処理に対応して実行されるリモートコントローラ4における処理について説明する。なお、この処理は、リモートコントローラ4の電源をオンしたとき、開始される。
ステップS161において、受信部81は、処理ボックス2より通知データを受信したか否かを判定し、通知データを受信するまで待機する。そして、通知データを受信したと判定した場合、ステップS162に進み、受信部81は、処理ボックス2から送信されてきた(上述した図27のステップS103の処理により送信されてきた)通知データに基づくイベント画像(通知画像データ)を呈示部82に呈示させる。
ユーザは、呈示部82に呈示されたイベント画像を見て、入力部83を操作し、判断(例えば、いま呈示されているイベントは今後も知らせて欲しいイベントであるのか、あるいは、今後は知らせなくてよいイベントであるのか)を入力する。
ステップS163において、入力部83は、呈示されたイベントに対するユーザからの判断(ユーザフィードバック)が入力されたか否かを判定し、ユーザフィードバックが入力されたと判定した場合、ユーザFB信号を、送信部84に供給し、ステップS164に進む。
ステップS164において、送信部84は、入力部83から供給されたユーザFB信号を処理ボックス2に送信する。処理ボックス2は、これを受信し、状態記述データ蓄積部73に蓄積されている状態記述データ151に対応付ける(図27のステップS111)。
ステップS164の処理の後、または、ステップS163において、ユーザフィードバックが入力されていないと判定された場合、処理はステップS161に戻り、上述した処理が繰り返し実行される。
以上のように、フォトセンサ22−1乃至22−3の反応、およびマイクロ波センサ23の反応を組み合わせることにより、単独のセンサでは区別することができなかったイベントを、短時間で、かつ、高精度に検出することができる。
特に、マイクロ波センサ23のセンサデータに基づくイベントの検出条件を、フォトセンサ22−1乃至22−3の出力値により調整することにより、さらにイベントの検出精度が向上する。
さらに、マルチセンサカメラ1の状態記述部55が、フォトセンサ22−1乃至22−3の反応、およびマイクロ波センサ23の反応に基づいて状態記述データ151(図19)を記述し、それを通知イベントに用いるようにしたので、より効果的なイベント通知システムを構築することが可能となる。
また、ユーザからのフィードバックに基づいて、イベント通知の判定に用いる通知判定テーブル161を変化(更新)させるようにしたので、ユーザが意図するイベントのみを検出することができ、かつ、イベントを通知する場合にのみ、CCDカメラ21の電源をオンするようにしたので、無駄なバッテリ消費を抑えることができる。
以上においては、フォトセンサ22−1乃至22−3およびマイクロ波センサ23を統合利用する場合の例について説明したが、フォトセンサ22−1乃至22−3に限らず、CCD(Charge Coupled Device)センサ、CMOS(Complementary Metal Oxide Semiconductor)センサを使用することも可能である。
さらに、CCDカメラに限らず、CMOS(Complementary Metal Oxide Semiconductor)カメラやその他のカメラを使用することも可能である。
また、マルチセンサカメラ1や呈示部3は、1台ではなく、複数台設けるようにしたり、処理ボックス2は、呈示部3と別の筐体とせず、一体型とするようにしたり、リモートコントローラ4に呈示部82を設けずに、呈示部3のみの呈示とするようにしたり、あるいは、処理ボックス2にユーザフィードバックを入力するための入力部を設けるようにすることができる。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図30は、汎用のパーソナルコンピュータ300の内部の構成例を示す図である。CPU(Central Processing Unit)301は、ROM(Read Only Memory)302に記憶されているプログラム、または記憶部308からRAM(Random Access Memory)303にロードされたプログラムに従って各種の処理を実行する。RAM303にはまた、CPU301が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU301、ROM302、およびRAM303は、バス304を介して相互に接続されている。このバス304にはまた、入出力インターフェース305も接続されている。
入出力インターフェース305には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部306、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部307、ハードディスクなどで構成される記憶部308、およびモデムやターミナルアダプタなどで構成される通信部309が接続されている。通信部309は、インターネットを含むネットワークを介して通信処理を行う。
入出力インターフェース305にはまた、必要に応じてドライブ310が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア311が適宜装着され、そこから読み出されたコンピュータプログラムが、記憶部308にインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図30に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア311により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM303または記憶部308に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表わすものである。
1 マルチセンサカメラ, 2 処理ボックス, 3 呈示部, 4 リモートコントローラ, 10 監視システム, 22 フォトセンサ, 23 マイクロ波センサ, 52 フォトセンサ縮退処理部, 53 フォトセンサ出力選択部, 54 マイクロ波センサ縮退処理部, 55 状態記述部, 56 イベント通知判定部, 72 呈示画像構築部, 73 状態記述データ蓄積部, 74 通知判定テーブル更新部, 82 呈示部, 83 入力部, 211 ユーザフィードバック判定部, 212 状態記述パターン比較部, 213 新規パターン作成部, 214 既存パターン更新部, 215 仮通知判定テーブル蓄積部, 216 テーブル比較部, 217 過去通知判定テーブル蓄積部