以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
さらに、この記載は、本明細書に記載されている発明が、全て請求されていることを意味するものではない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現したり、追加される発明の存在を否定するものではない。
本発明によれば、監視装置が提供される。この監視装置(例えば、図1のマルチセンサカメラ1)は、監視領域を監視するセンサ(例えば、図6のフォトセンサ102−1乃至102−3)と、前記センサの監視に基づいて、前記監視領域におけるイベントを検出するイベント検出手段(例えば、図6のイベント検出部152)と、前記イベント検出手段により検出された前記イベントに基づいて、前記監視により保護される空間内(例えば、図4の室内123)に存在する人の数を推定する推定手段(例えば、図6の在宅人数推定部153)と、前記推定手段により推定された前記空間内に存在する人の数の推移に基づいて、しきい値(例えば、居住人数)を設定する設定手段(例えば、図6の居住人数推定部154)と、前記推定手段により推定された前記空間内に存在する人の数と前記設定手段により設定された前記しきい値との比較に基づいて、ユーザへの前記イベントの通知を制御する通知制御手段(例えば、図6のイベント通知制御部155)とを備える。
この監視装置(例えば、図1のマルチセンサカメラ1)においては、前記センサは、前記イベントを検出するための第1のセンサ(例えば、図6のフォトセンサ102−1乃至102−3)と、前記監視領域の監視に基づく画像データを出力する第2のセンサ(例えば、図6のCCDカメラ101)とを含み、前記通知制御手段は、前記第2のセンサによる前記画像データの出力もさらに制御するようにすることができる。
本発明によれば、監視方法が提供される。この監視方法は、センサ(例えば、図6のフォトセンサ102−1乃至102−3)の監視に基づいて、監視領域におけるイベントを検出するイベント検出ステップ(例えば、図7のステップS2乃至S6、S8、図8のS11乃至S13、図15のステップS52乃至S57、および図16のステップS58乃至S60)と、前記イベント検出ステップの処理により検出された前記イベントに基づいて、前記監視により保護される空間内(例えば、図4の室内123)に存在する人の数を推定する推定ステップ(例えば、図8のステップS14、S15、S18乃至S21、図16のステップS61、S62、およびS65乃至S68)と、前記推定ステップの処理により推定された前記空間内に存在する人の数の推移に基づいて、しきい値(例えば、居住人数)を設定する設定ステップ(例えば、図7のステップS7、S9、S10、図8のステップS16、およびS17)と、前記推定ステップの処理により推定された前記空間内に存在する人の数と前記設定ステップの処理により設定された前記しきい値との比較に基づいて、ユーザへの前記イベントの通知を制御する通知制御ステップ(例えば、図16のステップS63、およびS64とを含む。
本発明によれば、プログラムが提供される。このプログラムは、センサ(例えば、図6のフォトセンサ102−1乃至102−3)の監視に基づいて、監視領域におけるイベントを検出するイベント検出ステップ(例えば、図7のステップS2乃至S6、S8、図8のS11乃至S13、図15のステップS52乃至S57、および図16のステップS58乃至S60)と、前記イベント検出ステップの処理により検出された前記イベントに基づいて、前記監視により保護される空間内(例えば、図4の室内123)に存在する人の数を推定する推定ステップ(例えば、図8のステップS14、S15、S18乃至S21、図16のステップS61、S62、およびS65乃至S68)と、前記推定ステップの処理により推定された前記空間内に存在する人の数の推移に基づいて、しきい値(例えば、居住人数)を設定する設定ステップ(例えば、図7のステップS7、S9、S10、図8のステップS16、およびS17)と、前記推定ステップの処理により推定された前記空間内に存在する人の数と前記設定ステップの処理により設定された前記しきい値との比較に基づいて、ユーザへの前記イベントの通知を制御する通知制御ステップ(例えば、図16のステップS63、およびS64とを含む処理をコンピュータに実行させる。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した監視システム10の構成例を表している。この構成例においては、図中左側の監視領域側にマルチセンサカメラ1が備えられており、図中右側の通知・呈示側に、処理ボックス2および呈示部3が備えられている。マルチセンサカメラ1と処理ボックス2は、無線アンテナ1Aと無線アンテナ2Aを介して、相互に無線通信を行なう。処理ボックス2と呈示部3は、バスなどの有線あるいは無線により接続されている。なお、マルチセンサカメラ1と処理ボックス2は、無線通信に限られるものではなく、有線による通信であってもよい。
処理ボックス2は、マルチセンサカメラ1から送信されてきたイベントデータを、無線アンテナ2Aを介して受信し、その受信データに基づいて呈示画像を構築し、呈示部3に供給または送信して、イベントを呈示させる。
呈示部3は、例えば、一般のテレビジョン受像機とされ、イベントが発生していない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を表示し、イベントが発生した場合、一般の視聴信号の一部分にイベント画像が挿入されたピクチャインピクチャの画像を表示する。
なお、呈示部3は、テレビジョン受像機に限定されるものではなく、専用のモニタでもよい。また、呈示部3は、携帯電話機などの携帯情報端末でもよい。さらに、表示される画像は、ピクチャインピクチャの画像ではなく、画面全体の画像としてもよい。また、呈示部3は、イベント画像を表示せずに、例えばアラームを鳴動させるなどして、イベントの発生の通知のみするようにしてもよい。
図2は、マルチセンサカメラ1を正面から見た図である。マルチセンサカメラ1には、CCD(Charge Coupled Device)カメラ101、およびフォトセンサ102−1乃至102−3が設けられている。
CCDカメラ101は、監視領域(視野角)内の状況を随時撮影する。その詳細は後述するが、マルチセンサカメラ1は、フォトセンサ102−1乃至102−3で検出されたイベントに基づいて、ユーザにイベントを通知するか否かを判定し、ユーザにイベントを通知すると判定した場合、無線アンテナ1Aを介して、CCDカメラ101で撮影された画像データ(イベントデータ)を処理ボックス2に送信する。このとき、マルチセンサカメラ1に搭載されるCCDカメラ101は、イベントを検出した場合にのみ動作するため、無駄な消費電力を抑えることができる。
マルチセンサカメラ1は、イベントを監視したい領域(必要な場所)に設置されている。図3は、マルチセンサカメラ1の内部の基本部分の構成例を示している。マルチセンサカメラ1には、CCDカメラ101、フォトセンサ102−1乃至102−3から出力されるデータを取得し、それらのセンサのデータに基づき、不審者の侵入など監視領域で発生したイベントを検出する信号処理部103が設けられている。
信号処理部103で検出されたイベントは、必要に応じて(イベントの内容に応じて)ユーザに通知される。例えば、各センサからのデータに基づき、不審者の侵入が検出された場合、CCDカメラ101で撮影した画像データが、送信部104を介して処理ボックス2に送信される。さらに、画像データから生成された通知用のデータが処理ボックス2から呈示部3へ供給され、ユーザにイベントの情報が呈示される。バッテリ105は、マルチセンサカメラ1の各部に対して必要な電力を供給している。
マルチセンサカメラ1は、例えば、住宅やビルなどの所定の空間(保護される対象としての空間)内への侵入者を監視する。図4に示されるように、その空間が、監視対象の建物の内部の室内123であるとき、建物の玄関122に対向する位置に設置される。フォトセンサ102−1乃至102−3は、自己が監視することが可能な監視領域111−1乃至111−3内の平均輝度をセンサデータとして出力しており、人物が監視領域111−1乃至111−3内に進入または退出したことに応じて、その出力が変化する。また、マルチセンサカメラ1は、フォトセンサ102−2の監視領域111−2内のほぼ中央にドア121が位置するように設置されており、ドア121を介しての室内123に対する人物の進入や退出に伴い、フォトセンサ102−2の出力が変化する(フォトセンサ102−2が反応する)。この例では、監視領域111−1乃至111−3が相互に重ならないように、フォトセンサ102−1乃至102−3が配置されている。
ここで、図5を参照して、フォトセンサ102−1が出力するセンサデータ131の出力レベルの変化と人物の行動との関係について説明する。同図において、縦軸はフォトセンサ102−1が出力するセンサデータの出力レベルを表わし、横軸は時間を表わしている。また、基準値Lは、人物が監視領域111−1内に侵入していない場合のセンサデータの出力値であり、背景の平均輝度に対応している。
反応区間Xは、フォトセンサ102−1が出力するセンサデータ131の出力レベルが基準値Lから変化している区間(時間)であり、人物が監視領域111−1内に存在していることを表わしている。この反応区間Xにおいて、センサデータ131の出力レベルが基準値Lから離れる方向(図5の例の場合、正の方向に離れているが、負の方向に離れる場合もある)に変化する区間Aは、人物が監視領域111−1内に徐々に進入しているか、または監視領域111−1内でフォトセンサ102−1に徐々に接近していることを表わし、センサデータ131の出力レベルが変化しない区間Bは、人物が監視領域111−1内で行動していない(静止している)ことを表わし、センサデータ131の出力レベルが基準値Lに近づく方向(図5の例の場合、負の方向に近づいているが、正の方向に近づく場合もある)に変化する区間Cは、人物が監視領域111−1から徐々に退出しているか、または監視領域111−1内でフォトセンサ102−1から徐々に離反していることを表わしている。
このように、フォトセンサ102−1が出力するセンサデータ131の出力レベルの変化および変化する方向に応じて、監視領域111−1内における人物の行動をおおよそ推定することができる。
なお、図5に示すセンサデータ131は、人物に対する平均輝度の出力レベルが基準値(背景に対する平均輝度)Lより高い場合の特性を表わしており、人物に対する平均輝度の出力レベルが基準値Lより低い場合には、センサデータ131の出力変化は、負の方向に変化する。
また、フォトセンサ102−2と102−3が出力するセンサデータの出力レベルの変化と人物の行動との関係は、上述したフォトセンサ102−1の場合と同様であり、その説明は省略する。
マルチセンサカメラ1は、図9乃至図14を参照して後述するように、フォトセンサ102−1乃至102−3から出力されたセンサデータに基づいて、玄関122内への人物の進入、および玄関122からの人物の退出を検出し、監視対象の建物内(室内123)にいる人数を推定する。そして、監視対象の建物の中にいる人数が所定のしきい値(例えば、監視対象の建物に住んでいる居住者の人数)を超えた場合、マルチセンサカメラ1は、ユーザに監視領域内で発生したイベントを通知するために、CCDカメラ101で撮影した画像データ(イベントデータ)を処理ボックス2に送信する。
図6は、信号処理部103と処理ボックス2の詳細な構成を含む監視システム10の機能的構成例を示すブロック図である。
信号処理部103は、センサデータ処理部151、イベント検出部152、在宅人数推定部153、居住人数推定部154、イベント通知制御部155、およびデータ蓄積部156により構成される。
CCDカメラ101は、監視領域内の状況を随時撮影し、画像データをセンサデータ処理部151に供給する。センサデータ処理部151は、CCDカメラ101から供給された画像データから、イベントの通知に必要なデータ(以下、通知画像データと称する)を生成し、データ蓄積部156に供給し、蓄積させる。
フォトセンサ102−1乃至102−3は、監視領域111−1乃至111−3(図4)内の平均輝度をセンサデータとしてセンサデータ処理部151に供給する。センサデータ処理部151は、フォトセンサ102−1乃至102−3から出力されたセンサデータから、イベント検出に必要なデータを抽出して、イベント検出部152に供給する。
イベント検出部152は、センサデータ処理部151から供給されたフォトセンサ102−1乃至102−3のセンサデータに基づき、監視領域におけるイベントの発生を検出する。具体的には、イベント検出部152は、フォトセンサ102−1乃至102−3のうち少なくとも1つのフォトセンサの出力レベルが基準値L(図5)から離れている(反応している)場合、監視領域でイベントが発生していると判定する。そして、イベント検出部152は、監視領域でイベントが発生していると判定した場合、CCDカメラ101の電源をオンし、監視領域内の状況の撮影を開始させる。前述したように、センサデータ処理部151は、CCDカメラ101の撮影により出力された画像データから通知画像データを生成し、生成された通知画像データがデータ蓄積部156に蓄積される。また、イベント検出部152は、監視領域でのイベントの発生の有無を表わすイベント発生中フラグを管理し、監視領域でイベントが発生していると判定した場合、イベント発生中フラグをオンとする。
さらに、イベント検出部152は、イベント発生中にフォトセンサ102−1乃至102−3が反応した順序を記録し、イベント終了時に、図9乃至図14を参照して後述するように、そのフォトセンサの反応順序に基づき、検出したイベントにおける人物の動きを推定する。イベント検出部152は推定したイベント推定結果を、在宅人数推定部153に通知する。
在宅人数推定部153は、イベント検出部152より通知されたイベント推定結果に基づき、監視対象となっている建物内に現在いる人数(在宅人数)を推定し、在宅人数推定カウンタに記録する。在宅人数推定部153は、推定した在宅人数を、居住人数推定部154とイベント通知制御部155に通知する。
居住人数推定部154は、人数推定部154から通知された在宅人数に基づき、図7と図8を参照して後述する居住人数推定処理を行ない、監視対象の建物に居住する人数(居住人数)を推定する。居住人数推定部154は、推定した居住人数をイベント通知制御部155に通知する。居住人数推定部154は、居住人数推定処理中の在宅人数の最大値を表わす在宅人数最大値を記録する。
イベント通知制御部155は、在宅人数推定部153から通知された在宅人数、および居住人数推定部154から通知された居住人数に基づき、イベントを通知するか否かを判定する。イベント通知制御部155は、在宅人数が居住人数を上回った場合、監視対象の建物内に不審者が侵入した可能性があると判定し、発生した(人物が監視対象の建物内に侵入し、在宅人数が居住人数を上回ることになった)イベントを通知するために、そのイベントの通知画像データをデータ蓄積部156から取得し、送信部104を介して、処理ボックス2に送信する。
また、イベント通知制御部155は、図示せぬ入力部を介して、ユーザに直接居住人数を設定させることも可能である。
処理ボックス2には、受信部171および呈示画像構築部172が設けられている。
受信部171は、マルチセンサカメラ1から送信されてきた通知画像データを受信すると、呈示画像構築部172に供給する。
呈示画像構築部172は、受信部171を介してマルチセンサカメラ1から通知画像データを受信した場合、一般視聴信号(テレビジョン放送信号)の一部に通知画像データを挿入した通知データを構築(作成)し、それを呈示部3に供給して呈示させる。呈示部3用の通知データは、一般の視聴信号の一部に通知画像データを挿入して構成されているため、呈示部3には、ピクチャインピクチャの表示が呈示される。
次に、図7乃至図17を参照して、監視システム10により実行される処理を説明する。監視システム10では、まずマルチセンサカメラ1で居住人数推定処理が行なわれた後、通常の監視処理が行なわれる。
まず、図7と図8のフローチャートを参照して、マルチセンサカメラ1における居住人数推定処理について説明する。なお、この処理は、ユーザにより、監視領域における監視が指令されたとき、開始される。
ステップS1において、マルチセンサカメラ1の初期化処理が行なわれる。具体的には、イベント検出部152はイベント発生中フラグをオフし、在宅人数推定部153は在宅人数推定カウンタを0にリセットし、居住人数推定部154は在宅人数最大値を0にリセットする。
ステップS2において、イベント検出部152は、センサデータ処理部151を介して、フォトセンサ102−1乃至102−3から出力されたセンサデータを取得する。
ステップS3において、イベント検出部152は、イベント発生中フラグがオンか否かを判定する。いまの場合、ステップS1の初期化処理でイベント発生中フラグはオフとされているので、処理はステップS4に進む。
ステップS4において、イベント検出部152は、ステップS2の処理で取得したセンサデータに基づき、監視領域でイベントが発生しているか否かを判定する。イベント検出部152は、フォトセンサ102−1乃至102−3のうち少なくとも1つのフォトセンサが反応している場合、監視領域でイベントが発生していると判定し、処理はステップS5に進む。
ステップS5において、イベント検出部152は、フォトセンサ102−1乃至102−3の反応履歴の記録を開始する。すなわち、ステップS4において検出されたイベントの発生中に反応したフォトセンサの順序の記録が開始される。
ステップS6において、イベント検出部152は、イベント発生中フラグをオンする。その後、処理はステップS7に進む。
ステップS4において、フォトセンサ102−1乃至102−3のいずれのフォトセンサも反応しておらず、イベントが発生していないと判定された場合、ステップS5とS6の処理はスキップされ、処理はステップS7に進む。
ステップS7において、居住人数推定部154は、居住人数推定処理開始から所定の時間(例えば1週間)が経過したか否かを判定する。いまの場合、居住人数推定処理が開始されたばかりであり、居住人数推定処理開始から所定の時間が経過していないと判定され、処理はステップS2に戻る。
ステップS2において、1度目のステップS2の処理と同様、イベント検出部152は、フォトセンサ102−1乃至102−3から出力されたセンサデータを取得する。
ステップS3において、イベント発生中フラグがオフであると判定された場合、すなわち監視領域でイベントが発生していない場合、処理はステップS4に進み、上述したステップS4乃至S7の処理が行なわれる。
ステップS3において、イベント発生中フラグがオンであると判定された場合、すなわち監視領域でイベントが発生している場合、処理はステップS8に進む。
ステップS8において、イベント検出部152は、監視領域で発生中のイベントが終了したか否かを判定する。イベント検出部152は、ステップS2の処理で取得したセンサデータに基づき、フォトセンサ102−1乃至102−3のいずれもが反応していない状態が一定の期間継続したか否かを判定し、フォトセンサ102−1乃至102−3のいずれもが反応していない期間が一定期間継続していない場合、イベントは終了していないと判定し、処理はステップS2に戻る。その後、ステップS8において、イベントが終了したと判定されるまで、ステップS2、S3およびS8の処理が繰り返される。
ステップS8において、フォトセンサ102−1乃至102−3のいずれもが反応していない期間が一定期間継続し、イベントが終了したと判定された場合、処理はステップS11に進む。
ステップS11において、イベント検出部152は、フォトセンサ102−1乃至102−3の反応履歴の記録を停止する。
ステップS12において、イベント検出部152は、イベント発生中フラグをオフする。
ステップS13において、イベント検出部152は、イベント発生中に記録したフォトセンサ102−1乃至102−3の反応履歴に基づき、発生したイベントの内容を推定し、推定したイベント推定結果を在宅人数推定部153に通知する。
ここで、図9乃至図14を参照して、ステップS13のイベント内容推定処理の詳細について説明する。
図9は、図4に示される監視領域における人物201−1乃至201−4の行動を模式的に示しており、図10乃至図13は、人物201−1乃至201−4の行動に伴い、フォトセンサ102−1乃至102−3から出力されるセンサデータ131−1乃至131−3の波形を示している。
なお、図10乃至図13において、縦軸はフォトセンサ102−1乃至102−3が出力するセンサデータの出力レベルを表わし、横軸は時間を表わしている。また、フォトセンサ102−1から出力されるセンサデータがセンサデータ131−1、フォトセンサ102−2から出力されるセンサデータがセンサデータ131−2、フォトセンサ102−3から出力されるセンサデータがセンサデータ131−3とされる。
人物201−1が、図9において、矢印で示されるように、マルチセンサカメラ1の前を左から右方向にマルチセンサカメラ1に対してほぼ平行に通り過ぎた場合、フォトセンサ102−1乃至102−3から図10に示されるセンサデータが出力される。
まず、人物201−1がフォトセンサ102−3の監視領域111−3に進入することに伴い、センサデータ131−3の出力レベルが変化する(フォトセンサ102−3が反応する)。次に、人物201−1が監視領域111−3から出て、フォトセンサ102−2の監視領域111−2に進入することに伴い、センサデータ131−3は通常の出力レベルに戻り、センサデータ131−2の出力レベルが変化する(フォトセンサ102−2が反応する)。つづいて、人物201−1が監視領域111−2から出て、フォトセンサ102−1の監視領域111−1に進入することに伴い、センサデータ131−2は通常の出力レベルに戻り、センサデータ131−1の出力レベルが変化する(フォトセンサ102−1が反応する)。最後に、人物201−1が監視領域111−1から出ることに伴い、センサデータ131−1は通常の出力レベルに戻る。すなわち、人物201−1の行動に伴い、フォトセンサは、フォトセンサ102−3、フォトセンサ102−2、フォトセンサ102−1の順に反応する。
人物201−2が、図9において、矢印で示されるように、マルチセンサカメラ1の前を左から右方向に監視領域111−2の中央付近までマルチセンサカメラ1に対してほぼ平行に進み、監視領域111−2の中央付近で向きを変え、それまでの進行方向と逆に、右から左方向にマルチセンサカメラ1に対してほぼ平行に引き返した場合、フォトセンサ102−1乃至102−3から図11に示されるセンサデータが出力される。
まず、人物201−2が監視領域111−3に進入することに伴い、センサデータ131−3の出力レベルが変化する。次に、人物201−2が監視領域111−3から出て、監視領域111−2に進入することに伴い、センサデータ131−3は通常の出力レベルに戻り、センサデータ131−2の出力レベルが変化する。つづいて、人物201−2が監視領域111−2から出て、監視領域111−3に引き返すことに伴い、センサデータ131−2は通常の出力レベルに戻り、センサデータ131−3の出力レベルが変化する。最後に、人物201−2が監視領域111−3から出ることに伴い、センサデータ131−3は通常の出力レベルに戻る。すなわち、人物201−2の行動に伴い、フォトセンサは、フォトセンサ102−3、フォトセンサ102−2、フォトセンサ102−3の順に反応する。
人物201−3が、図9において、矢印で示されるように、マルチセンサカメラ1の前を左から右方向に監視領域111−2の中央付近までマルチセンサカメラ1に対してほぼ平行に進み、ドア121を開けて玄関122の室内123に入った場合、フォトセンサ102−1乃至102−3から図12に示されるセンサデータが出力される。
まず、人物201−3が監視領域111−3に進入することに伴い、センサデータ131−3の出力レベルが変化する。次に、人物201−3が監視領域111−3から出て、監視領域111−2に進入することに伴い、センサデータ131−3は通常の出力レベルに戻り、センサデータ131−2の出力レベルが変化する。最後に、人物201−3が、ドア121を開けて玄関122の室内123に入り、監視領域111−2から出ることに伴い、センサデータ131−2は通常の出力レベルに戻る。すなわち、人物201−3の行動に伴い、フォトセンサは、フォトセンサ102−3、フォトセンサ102−2の順に反応する。
人物201−4が、図9において、矢印で示されるように、ドア121を開けて玄関122の室内123から出てきた後、マルチセンサカメラ1の前を右から左方向にマルチセンサカメラ1に対してほぼ平行に進み、監視領域111−3から出て行った場合、フォトセンサ102−1乃至102−3から図13に示されるセンサデータが出力される。
まず、人物201−4が、ドア121を通り玄関122から出てきて、監視領域111−2に進入することに伴い、センサデータ131−2の出力レベルが変化する。次に、人物201−4が監視領域111−2から出て、監視領域111−3に進入することに伴い、センサデータ131−2は通常の出力レベルに戻り、センサデータ131−3の出力レベルが変化する。最後に、人物201−4が監視領域111−3から出ることに伴い、センサデータ131−3は通常の出力レベルに戻る。すなわち、人物201−4の行動に伴い、フォトセンサは、フォトセンサ102−2、フォトセンサ102−3の順に反応する。
以上のように、人物201−1乃至201−4の行動パターンの違いにより、フォトセンサ102−1乃至102−3の反応する(センサデータの出力レベルが変化する)順序が異なる。特に、最初に反応したフォトセンサおよび最後に反応したフォトセンサに基づき、監視領域内の人物201の行動は、図14に示されるように推定される。
図14の1行目と2行目は、イベント発生時に最初に反応したフォトセンサを示している。最初に反応したフォトセンサの「左」はフォトセンサ102−3を指しており、「中」はフォトセンサ102−2を指しており、「右」はフォトセンサ102−1を指している。
図14の1列目と2列目は、イベント終了時に最後に反応したフォトセンサを示している。最初に反応したフォトセンサと同様に、最後に反応したフォトセンサの「左」はフォトセンサ102−3を指しており、「中」はフォトセンサ102−2を指しており、「右」はフォトセンサ102−1を指している。
図14の3行目乃至5行目、および3列目乃至5列目は、最初に反応したフォトセンサおよび最後にフォトセンサに基づき推定される人物201の行動(イベント)の内容を示している。
「通過」と記述された欄は、図9の人物201−1のように、人物がマルチセンサカメラ1の監視領域内を左から右方向に、あるいは右から左方向に通過したと推定されることを示している。
「引き返し」と記述された欄は、図9の人物201−2のように、人物がマルチセンサカメラ1の監視領域内に左方向から進入した後、引き返して左方向から出ていったり、あるいはマルチセンサカメラ1の監視領域内に右方向から進入した後、引き返して右方向から出ていったりしたと推定されることを示している。
「玄関に入る」と記述された欄は、図9の人物201−3のように、人物がマルチセンサカメラ1の監視領域内に左方向から進入した後、あるいはマルチセンサカメラ1の監視領域内に右方向から進入した後、ドア121から玄関122の室内123に入ったと推定されることを示している。
「玄関から出る」と記述された欄は、図9の人物201−4のように、室内123にいた人物がドア121を通って玄関122の室内123から出た後、マルチセンサカメラ1の監視領域内の左方向から出て行ったり、あるいは右方向から出て行ったりしたと推定されることを示している。
「玄関から出て、玄関に入る」と記述された欄は、室内123にいた人物がドア121を通って玄関122の室内123から出た後、マルチセンサカメラ1の監視領域内から出ないまま、ドア121から玄関122の室内123に入った(戻った)と推定されることを示している。
図14に示されるように、最初に反応したフォトセンサが「中」すなわちフォトセンサ102−2の場合、人物はドア121を通り玄関122から出てきたと推定され、最後に反応したフォトセンサが「中」すなわちフォトセンサ102−2の場合、人物はドア121から玄関122の中に入ったと推定される。従って、「玄関から出る」および「玄関に入る」イベントを検出して、監視対象の建物に進入したり、建物から退出したりした人数を把握することにより、監視対象の建物内にいる人数の推定が可能となる。
図8に戻り、ステップS13において、イベント検出部152は、図14を参照して上述した方法により、発生したイベントの内容(人物の動き)を推定し、推定したイベント推定結果を在宅人数推定部153に通知する。
ステップS14において、在宅人数推定部153は、ステップS13の処理でイベント検出部152から通知されたイベント推定結果が「玄関に入る」か否かを判定する。イベント推定結果が「玄関に入る」と判定された場合、処理はステップS15に進み、在宅人数推定部153は、在宅人数推定カウンタの値を1つ増加する。すなわち、監視対象の建物内にいると推定される人数が1人増加される。そして、在宅人数推定部153は、在宅人数推定カウンタの値を居住人数推定部154に通知する。
ステップS16において、居住人数推定部154は、ステップS15の処理で通知された在宅人数推定カウンタの値と、居住人数推定部154が記録している在宅人数最大値を比較する。在宅人数推定カウンタの値が在宅人数最大値より大きいと判定された場合、居住人数推定部154は、ステップS17において、在宅人数最大値を在宅人数推定カウンタの値に更新する。これにより、居住人数推定部154は、居住人数推定処理中に、監視対象の建物内に同時にいた人数の最大値を記録する。その後、処理はステップS2に戻り、それ以降の処理が繰り返される。
ステップS16において、在宅人数推定カウンタの値が在宅人数最大値以下の場合、ステップS17の処理はスキップされ、処理はステップS2に戻り、それ以降の処理が繰り返される。
ステップS14において、イベント推定結果が「玄関に入る」ではないと判定された場合、処理はステップS18に進み、在宅人数推定部153は、イベント推定結果が「玄関から出る」か否かを判定する。イベント推定結果が「玄関から出る」と判定された場合、処理はステップS19に進み、在宅人数推定部153は、在宅人数推定カウンタの値を1つ減少する。すなわち、監視対象の建物内にいると推定される人数が1人減らされる。
ステップS20において、在宅人数推定部153は、在宅人数推定カウンタの値が0未満か否かを判定する。在宅人数推定カウンタの値が0未満であると判定された場合、処理はステップS21に進み、在宅人数推定部153は、在宅人数推定カウンタの値を0に補正する。その後、処理はステップS2に戻り、それ以降の処理が繰り返される。
ステップS20において、在宅人数推定カウンタの値が0以上であると判定された場合、ステップS21の処理はスキップされ、処理はステップS2に戻り、それ以降の処理が繰り返される。
ステップS18において、イベント推定結果が「玄関から出る」ではないと判定された場合、ステップS19乃至S21の処理はスキップされ、処理はステップS2に戻り、それ以降の処理が繰り返される。すなわち、イベント推定結果が「玄関に入る」および「玄関から出る」のいずれでもない場合、在宅人数推定カウンタおよび在宅人数最大値の更新は行なわれない。このイベント推定結果が「玄関に入る」および「玄関から出る」のいずれでもない場合には、イベント推定結果が「玄関から出て、玄関に入る」の場合も含まれる。
その後、ステップS7において、居住人数推定処理開始から所定の時間が経過したと判定されるまで、上述したステップS2乃至S8およびステップS11乃至S21の処理が繰り返される。すなわち、フォトセンサ102−1乃至102−3から出力されたセンサデータに基づき検出されたイベントの内容の推定結果により、在宅人数推定カウンタおよび在宅人数最大値の更新が繰り返される。なお、居住人数推定処理中は、ユーザへのイベントの通知は行なわれない。
ステップS7において、居住人数推定処理開始から所定の時間が経過したと判定された場合、処理はステップS9に進み、居住人数推定部154は、監視対象の建物の居住人数を在宅人数最大値に設定する。すなわち、居住人数推定処理中の監視対象の建物内の在宅人数の推移に基づき、その在宅人数の最大値が監視対象の建物に居住する人数に設定される。
ステップS10において、居住人数推定部154は、ステップS9の処理で設定した居住人数をイベント通知制御部155に通知する。その後、マルチセンサカメラ1における居住人数推定処理は終了し、引き続き、監視システム10は、図15乃至図17のフローチャートで示される監視処理を開始する。
なお、監視システム10において、以上に説明した居住人数推定処理を実施せずに、ユーザが直接居住人数を設定することも可能である。その場合、ユーザから設定された居住人数は、イベント通知制御部155に通知され、記録される。
次に、図15乃至図17のフローチャートを参照して、監視システム10において居住人数推定処理後に行なわれる監視処理について説明する。
まず、図15と図16を参照して、マルチセンサカメラ1における監視処理について説明する。なお、この処理は、図7と図8のフローチャートを参照して上述した居住人数推定処理の終了に引き続いて、開始される。あるいは、ユーザから直接居住人数が設定され、監視領域における監視が指令されたとき、開始される。
ステップS51において、マルチセンサカメラ1の初期化処理が行なわれる。具体的には、イベント検出部152はイベント発生中フラグをオフする。また、在宅人数推定部153は、居住人数推定処理に引き続き監視処理が行なわれる場合、在宅人数推定カウンタを居住人数推定処理終了時の値のままとし、居住人数推定処理が行なわれずに、ユーザから居住人数が設定された場合、在宅人数推定カウンタの値を0にリセットする。
ステップS52において、イベント検出部152は、センサデータ処理部151を介して、フォトセンサ102−1乃至102−3から出力されたセンサデータを取得する。
ステップS53において、イベント検出部152は、イベント発生中フラグがオンか否かを判定する。いまの場合、ステップS51の初期化処理でイベント発生中フラグはオフとされているので、処理はステップS54に進む。
ステップS54において、イベント検出部152は、ステップS52の処理で取得したセンサデータに基づき、監視領域でイベントが発生しているか否かを判定する。イベント検出部152は、フォトセンサ102−1乃至102−3のうち少なくとも1つのフォトセンサが反応している場合、監視領域でイベントが発生していると判定し、処理はステップS55に進む。
ステップS55において、イベントの記録が開始される。具体的には、イベント検出部152は、CCDカメラ101の電源をオンし、CCDカメラ101による監視領域の撮影が開始され、CCDカメラ101から出力された画像データがセンサデータ処理部151へ供給される。センサデータ処理部151は、CCDカメラ101から供給された画像データからイベントの通知に必要なデータ(通知画像データ)を生成し、データ蓄積部156に蓄積させる。イベント検出部152は、フォトセンサ102−1乃至102−3の反応履歴の記録を開始する。すなわち、ステップS54において検出されたイベントについて、通知画像データの蓄積および反応したフォトセンサの順序の記録が開始される。
ステップS56において、イベント検出部152は、イベント発生中フラグをオンし、処理はステップS52に戻る。
ステップS54において、フォトセンサ102−1乃至102−3のいずれのフォトセンサも反応しておらず、イベントが発生していないと判定された場合、ステップS55とS56の処理はスキップされ、処理はステップS52に戻る。
ステップS52において、1度目のステップS52の処理と同様、イベント検出部152は、フォトセンサ102−1乃至102−3から出力されたセンサデータを取得する。
ステップS53において、イベント発生中フラグがオフと判定された場合、すなわち監視領域でイベントが発生していない場合、処理はステップS54に進み、上述したステップS54乃至S56の処理が行なわれる。
ステップS53において、イベント発生中フラグがオンであると判定された場合、すなわち監視領域でイベントが発生している場合、処理はステップS57に進む。
ステップS57において、イベント検出部152は、監視領域で発生中のイベントが終了したか否かを判定する。イベント検出部152は、ステップS52の処理で取得したセンサデータに基づき、フォトセンサ102−1乃至102−3のいずれもが反応していない状態が一定の期間継続したか否かを判定し、フォトセンサ102−1乃至102−3のいずれもが反応していない期間が一定期間継続していない場合、イベントは終了していないと判定し、処理はステップS52に戻る。その後、ステップS57において、イベントが終了したと判定されるまで、ステップS52、S53およびS57の処理が繰り返される。
ステップS57において、フォトセンサ102−1乃至102−3のいずれもが反応していない期間が一定期間継続し、イベントが終了したと判定された場合、処理はステップS58に進む。
ステップS58において、イベントの記録が停止される、具体的には、イベント検出部152は、CCDカメラ101の電源をオフし、データ蓄積部156への通知画像データの蓄積を停止させる。イベント検出部152は、フォトセンサ102−1乃至102−3の反応履歴の記録を停止する。
ステップS59において、イベント検出部152は、イベント発生中フラグをオフする。
ステップS60において、イベント検出部152は、居住人数推定処理中の図8のステップS13と同様の処理により、発生したイベントの内容を推定し、推定したイベント推定結果を在宅人数推定部153に通知する。
ステップS61において、在宅人数推定部153は、ステップS60の処理でイベント検出部152から通知されたイベント推定結果が「玄関に入る」か否かを判定する。イベント推定結果が「玄関に入る」と判定された場合、処理はステップS62に進み、在宅人数推定部153は、在宅人数推定カウンタの値を1つ増加する。すなわち、監視対象の建物内にいると推定される人数が1人増加される。そして、在宅人数推定部153は、在宅人数推定カウンタの値を居住人数推定部154に通知する。
ステップS63において、居住人数推定部154は、ステップS62の処理で通知された在宅人数推定カウンタの値と、居住人数を比較する。在宅人数推定カウンタの値が居住人数より大きいと判定された場合、すなわち監視対象の建物内の人数が居住人数より多く、不審者が侵入した可能性があると判定された場合、処理はステップS64に進む。
ステップS64において、イベント通知制御部155は、発生した(ステップS63の処理で不審者が侵入した可能性があると判定された)イベントに関する通知画像データをデータ蓄積部156から取得して、送信部104を介して処理ボックス2に送信する。処理ボックス2は、後述する図17のステップS101において、この通知画像データを受信し、呈示部3に呈示させる。その後、処理はステップS52に戻り、それ以降の処理が繰り返される。
ステップS63において、在宅人数推定カウンタの値が居住人数以下と判定された場合、ステップS64の処理はスキップされ、発生したイベントの通知画像データは処理ボックス2に送信されずに、処理はステップS52に戻り、それ以降の処理が繰り返される。
ステップS61において、イベント推定結果が「玄関に入る」でないと判定された場合、処理はステップS65に進み、在宅人数推定部153は、イベント推定結果が「玄関から出る」か否かを判定する。イベント推定結果が「玄関から出る」と判定された場合、処理はステップS66に進み、在宅人数推定部153は、在宅人数推定カウンタの値を1つ減少する。すなわち、監視対象の建物内にいると推定される人数が1人減らされる。
ステップS67において、在宅人数推定部153は、在宅人数推定カウンタの値が0未満か否かを判定する。在宅人数推定カウンタの値が0未満であると判定された場合、処理はステップS68に進み、在宅人数推定部153は、在宅人数推定カウンタの値を0に補正する。その後、発生したイベントの通知画像データは処理ボックス2に送信されずに、処理はステップS52に戻り、それ以降の処理が繰り返される。
ステップS67において、在宅人数推定カウンタの値が0以上であると判定された場合、ステップS68の処理はスキップされ、発生したイベントの通知画像データは処理ボックス2に送信されずに、処理はステップS52に戻り、それ以降の処理が繰り返される。
ステップS65において、イベント推定結果が「玄関から出る」でないと判定された場合、ステップS66乃至S68の処理はスキップされ、発生したイベントの通知画像データは処理ボックス2に送信されずに、処理はステップS52に戻り、それ以降の処理が繰り返される。
以上のようにして、マルチセンサカメラ1により検出されたイベントに基づき推定された監視対象の建物内にいる在宅人数が居住人数を上回った場合、不審者が侵入した可能性があると判定され、不審者が侵入した可能性のあるイベントの通知画像データが、処理ボックス2に送信される。
次に、図17のフローチャートを参照して、図15と図16のマルチセンサカメラ1の処理に対応して実行される処理ボックス2の処理について説明する。なお、この処理は、ユーザにより、監視領域における監視をするよう指令されたとき開始される。あるいはまた、ユーザにより、呈示部3に対して一般視聴信号(放送番組信号)に対応する画像の呈示を行うよう指令されたとき、自動的に実行させるようにしてもよい。
ステップS101において、受信部171は、マルチセンサカメラ1から、上述した図16のステップS64の処理により送信されてきた通知画像データを受信したか否かを判定する。通知画像データを受信したと判定された場合、処理はステップS102に進み、通知画像データを受信していないと判定された場合、ステップS101の処理が繰り返される。
ステップS102において、呈示画像構築部172は、受信部171から供給された通知画像データを、呈示部3に供給される一般視聴信号の一部に挿入し、通知データ(ピクチャインピクチャで呈示するための画像データ)を構築し、それを呈示部3に供給し、呈示させる。このようにして、呈示部3にイベント画像が表示される。その後、処理はステップS101に戻り、上述した処理が繰り返される。
以上のように、監視システム10は、監視対象の建物に居住している人数と、在宅している人数を把握し、在宅人数が居住人数を上回った場合、不審者が侵入した可能性があると判定し、不審者が侵入した可能性のあるイベントをユーザに通知する。従って、不審者の侵入を容易に検出できるとともに、ユーザに不必要なイベントを通知する回数が減り、不必要なイベント通知による消費電力が抑えられる。
以上においては、マルチセンサカメラ1にCCDカメラ101を利用する例について説明したが、CCDカメラ101に限らず、CMOS(Complementary Metal Oxide Semiconductor)カメラやその他のカメラを使用することも可能である。
また、マルチセンサカメラ1や呈示部3は、1台ではなく、複数台設けるようにしたり、処理ボックス2は、呈示部3と別の筐体とせず、一体型とするようにしたり、マルチセンサカメラ1に処理ボックス2の機能を搭載して、マルチセンサカメラ1から、呈示部3に直接イベントを通知するようにしてもよい。
さらに、不審者が侵入したか否かを判定するためのしきい値である居住人数を固定値とするのではなく、居住人数推定処理中の在宅人数の推移に基づき、曜日や時間帯などにより変動させるようにしてもよい。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図18は、汎用のパーソナルコンピュータ300の内部の構成例を示す図である。CPU(Central Processing Unit)301は、ROM(Read Only Memory)302に記憶されているプログラム、または記憶部308からRAM(Random Access Memory)303にロードされたプログラムに従って各種の処理を実行する。RAM303にはまた、CPU301が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU301、ROM302、およびRAM303は、バス304を介して相互に接続されている。このバス304にはまた、入出力インターフェース305も接続されている。
入出力インターフェース305には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部306、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部307、ハードディスクなどで構成される記憶部308、およびモデムやターミナルアダプタなどで構成される通信部309が接続されている。通信部309は、インターネットを含むネットワークを介して通信処理を行う。
入出力インターフェース305にはまた、必要に応じてドライブ310が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア311が適宜装着され、そこから読み出されたコンピュータプログラムが、記憶部308にインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図18に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア311により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM303または記憶部308に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表わすものである。
1 マルチセンサカメラ, 2 処理ボックス, 3 呈示部, 10 監視システム, 101 CCDカメラ, 102 フォトセンサ, 103 信号処理部, 104 送信部, 151 センサデータ処理部, 152 イベント検出部, 153 在宅人数推定部, 154 居住人数推定部, 155 イベント通知制御部, 156 データ蓄積部, 171 受信部, 172 呈示画像構築部