JP4406821B2 - 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム - Google Patents

監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム Download PDF

Info

Publication number
JP4406821B2
JP4406821B2 JP2003274762A JP2003274762A JP4406821B2 JP 4406821 B2 JP4406821 B2 JP 4406821B2 JP 2003274762 A JP2003274762 A JP 2003274762A JP 2003274762 A JP2003274762 A JP 2003274762A JP 4406821 B2 JP4406821 B2 JP 4406821B2
Authority
JP
Japan
Prior art keywords
event
feature amount
processing
calculation
presentation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003274762A
Other languages
English (en)
Other versions
JP2005039548A (ja
Inventor
哲二郎 近藤
小林  直樹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2003274762A priority Critical patent/JP4406821B2/ja
Publication of JP2005039548A publication Critical patent/JP2005039548A/ja
Application granted granted Critical
Publication of JP4406821B2 publication Critical patent/JP4406821B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Input (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Television Systems (AREA)
  • Alarm Systems (AREA)

Description

本発明は、監視システムおよび方法、情報処理装置および方法、記録媒体、並びにプログラムに関し、特に、必要なイベントを確実に検知および通知し、カメラ等の消費電力を抑えることができるようにした監視システムシステムおよび方法、情報処理装置および方法、記録媒体、並びにプログラムに関する。
従来、ホームセキュリティシステムとして、撮像装置から送信される監視画像を表示するモニタTV(Television)を見ることにより、センサ情報を知る手法が提案されている(例えば、特許文献1参照)。
また、赤外線センサと画像センサが組み合わされた監視装置が、人体の有無および画策の有無を判定することにより、監視領域内に進入した人体を検出する手法が提案されている(例えば、特許文献2参照)。
さらに、複数台のインテリジェントカメラを有する監視カメラシステムが、監視領域の異常を検知し、検知した映像や音声を記録または再生する手法が提案されている(例えば、特許文献3参照)。
これらの特許文献1乃至特許文献3に記載の発明においては、主に、特定の場所または特定の異常(イベント)が検出される。
特開平8−124078号公報 特開2000−339554号公報 特開平7−212748号公報
しかしながら、これらの特許文献1乃至特許文献3に記載されている発明では、センサ(撮像装置、監視装置、または複数台のインテリジェントカメラ)を設置した際の調整が煩わしいばかりでなく、一度設置してしまうと、別の場所に移動させることが困難である課題があった。
また、従来使用されている無線カメラは、常時、画像および音声等を送信し続ける為、バッテリを使ったシステムに適用することが困難である課題があった。
本発明はこのような状況に鑑みてなされたものであり、必要なイベントを確実に検知および通知し、カメラ等の消費電力を抑えることができるようにするものである。
本発明の監視システムは、センサの反応を検知する検知手段と、検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段と、第1の算出手段により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段と、第2の算出手段により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築手段と、構築手段により構築された呈示データに基づく呈示を行う呈示手段と、呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段と、取得手段により取得されたユーザからの判断の入力を、第1の算出手段により算出された特徴量に対応付けて蓄積する蓄積手段とを備える
前記第2の算出手段により算出された距離に基づいて、イベントを通知するか否かを判定する判定手段をさらに設け、構築手段は、判定手段によりイベントを通知すると判定された場合、呈示データを構築するようにすることができる。
前記第2の算出手段は、第1の算出手段により算出された特徴量と、蓄積手段に蓄積されている、ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間での距離を算出するようにすることができる。
前記センサは、赤外線センサ、カメラ、またはマイクロホンであるようにすることができる。
前記構築手段は、テレビジョン放送に基づく信号にイベントデータを挿入して呈示データを構築するようにすることができる。
前記構築手段は、判定手段によりイベントを通知しないと判定された場合、予め定められた信号に基づくデータを呈示データとするようにすることができる。
本発明の監視方法は、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む
本発明の第1の記録媒体に記録されているプログラムは、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む処理をコンピュータに実行させる
本発明の第1のプログラムは、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む処理をコンピュータに実行させる
本発明の第1の情報処理装置は、センサの反応を検知する検知手段と、検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段と、第1の算出手段により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段と、第2の算出手段により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信手段と、他の装置から供給されたユーザからの判断の入力を取得する取得手段と、取得手段により取得されたユーザからの判断の入力を、第1の算出手段により算出された特徴量に対応付けて蓄積する蓄積手段とを備える
前記第2の算出手段により算出された距離に基づいて、イベントを通知するか否かを判定する判定手段をさらに設け、送信手段は、判定手段によりイベントを通知すると判定された場合、イベントデータを他の装置に送信するようにすることができる。
前記第2の算出手段は、第1の算出手段により算出された特徴量と、蓄積手段に蓄積されている、ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間での距離を算出するようにすることができる。
前記センサは、赤外線センサ、カメラ、またはマイクロホンであるようにすることができる。
本発明の第1の情報処理方法は、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む
本発明の第2の記録媒体に記録されているプログラムは、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む処理をコンピュータに実行させる
本発明の第2のプログラムは、センサの反応を検知する検知ステップと、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップとを含む処理をコンピュータに実行させる
本発明の第2の情報処理装置は、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築手段と、構築手段により構築された呈示データに基づく呈示を行う呈示手段と、呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段と、取得手段により取得されたユーザからの判断の入力を他の装置に送信する送信手段とを備える
前記他の装置よりイベントが通知されていない場合、構築手段は、予め定められた信号に基づくデータを呈示データとするようにすることができる。
本発明の第2の情報処理方法は、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を他の装置に送信する送信ステップとを含む
本発明の第3の記録媒体に記録されているプログラムは、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を他の装置に送信する送信ステップとを含む処理をコンピュータに実行させる
本発明の第3のプログラムは、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップと、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、取得ステップの処理により取得されたユーザからの判断の入力を他の装置に送信する送信ステップとを含む処理をコンピュータに実行させる
第1の本発明においては、センサの反応が検知され、その検知に基づいて物体の特徴量が算出され、算出された特徴量と過去に算出された特徴量との特徴量空間での距離が算出され、算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データが構築されて呈示される。また、イベント呈示に基づいて入力されたユーザからの判断が、算出された特徴量に対応付けて蓄積される。
第2の本発明においては、センサが検知され、その検知に基づいて物体の特徴量が算出され、算出された特徴量と過去に算出された特徴量との特徴量空間での距離が算出され、算出された距離に応じて、イベントを通知するためのイベントデータが他の装置に送信される。また、他の装置から供給されたユーザからの判断が、算出された特徴量に対応付けて蓄積される。
第3の本発明においては、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータが、予め定められた信号に基づくデータに挿入されて呈示データが構築されて呈示される。また、イベント呈示に基づいて入力されたユーザからの判断が他の装置に送信される。
第1の本発明によれば、検知したイベントを通知することができる。特に、ユーザの判断の入力に基づいて、必要なイベントを確実に検知し、通知することが可能となる。また、無駄な消費電力を抑えることができる。
第2の本発明によれば、検知したイベントを通知することができる。特に、ユーザが必要とするイベントのみ確実に検知し、他の装置に通知するとともに、無駄な消費電力を抑えることが可能となる。
第3の本発明によれば、検知したイベントを呈示することができる。特に、通常の場合、予め定められた信号をユーザに視聴させ、イベントが発生した場合、そのイベントを呈示してユーザに通知することができる。
以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加される発明の存在を否定するものではない。
請求項1に記載の監視システム(例えば、図1の監視システム10)は、センサの反応を検知する検知手段(例えば、図5のステップS2の処理を実行する図2の人体検知判定部13)と、検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段(例えば、図5のステップS4の処理を実行する図2の特徴量計算部14)と、第1の算出手段により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段(例えば、図6のステップS26の処理を実行する図3の距離計算部41)と、第2の算出手段により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築手段(例えば、図7のステップS45の処理を実行する図2の呈示画像構築部22)と、構築手段により構築された呈示データに基づく呈示を行う呈示手段(例えば、図7のステップS45の処理を実行する図2の呈示部3、または図8のステップS62の処理を実行する図2の呈示部32)と、呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段(例えば、図5のステップS7の処理を実行する図2のイベント通知判定部15)と、取得手段により取得されたユーザからの判断の入力を、第1の算出手段により算出された特徴量に対応付けて蓄積する蓄積手段(例えば、図5のステップS8の処理を実行する図3の特徴量蓄積部42)とを備える
請求項2に記載の監視システムは、第2の算出手段により算出された距離に基づいて、イベントを通知するか否かを判定する判定手段(例えば、図6のステップS29またはステップS30の処理を実行する図3の距離判定部43)をさらに備え、構築手段は、判定手段によりイベントを通知すると判定された場合、呈示データを構築する
請求項3に記載の監視システムの第2の算出手段は、第1の算出手段により算出された特徴量と、蓄積手段に蓄積されている、ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間(例えば、図4に示されるような背景差分の絶対値の和、背景差分の重心位置の水平成分、および背景差分の重心位置の垂直成分の3種類の特徴量軸で構成される特徴量空間)での距離を算出する
請求項4に記載の監視システムのセンサは、赤外線センサ(例えば、図2の赤外線センサ12)、カメラ、またはマイクロホンである
請求項5に記載の監視システムの構築手段は、テレビジョン放送に基づく信号(例えば、図2に示す一般視聴信号)にイベントデータを挿入して呈示データを構築する
請求項6に記載の監視システムの構築手段は、判定手段によりイベントを通知しないと判定された場合、予め定められた信号(例えば、図4に示す一般視聴信号)に基づくデータを呈示データとする
請求項7に記載の監視方法は、センサの反応を検知する検知ステップ(例えば、図5のステップS2)と、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップ(例えば、図5のステップS4)と、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップ(例えば、図6のステップS26)と、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップ(例えば、図7のステップS45)と、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップ(例えば、図7のステップS45または図8のステップS62)と、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップ(例えば、図5のステップS7)と、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップ(例えば、図5のステップS8)とを含む
なお、請求項8に記載の記録媒体に記録されているプログラム、および請求項9に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項7に記載の監視方法と同様である。
請求項10に記載の情報処理装置(例えば、図1のマルチセンサカメラ1)は、センサの反応を検知する検知手段(例えば、図5のステップS2の処理を実行する図2の人体検知判定部13)と、検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段(例えば、図5のステップS4の処理を実行する図2の特徴量計算部14)と、第1の算出手段により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段(例えば、図6のステップS26の処理を実行する図3の距離計算部41)と、第2の算出手段により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信手段(例えば、図6のステップS24の処理を実行する図2のイベント通知判定部15)と、他の装置から供給されたユーザからの判断の入力を取得する取得手段(例えば、図5のステップS7の処理を実行する図2のイベント通知判定部15)と、取得手段により取得されたユーザからの判断の入力を、第1の算出手段により算出された特徴量に対応付けて蓄積する蓄積手段(例えば、図5のステップS8の処理を実行する図3の特徴量蓄積部42)とを備える
請求項11に記載の情報処理装置は、第2の算出手段により算出された距離に基づいて、イベントを通知するか否かを判定する判定手段(例えば、図6のステップS29またはステップS30の処理を実行する図3の距離判定部43)をさらに備え、送信手段は、判定手段によりイベントを通知すると判定された場合、イベントデータを他の装置に送信する
請求項12に記載の情報処理装置の第2の算出手段は、第1の算出手段により算出された特徴量と、蓄積手段に蓄積されている、ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間(例えば、図4に示されるような背景差分の絶対値の和、背景差分の重心位置の水平成分、および背景差分の重心位置の垂直成分の3種類の特徴量軸で構成される特徴量空間)での距離を算出する
請求項13に記載の情報処理装置のセンサは、赤外線センサ(例えば、図2の赤外線センサ12)、カメラ、またはマイクロホンである
請求項14に記載の情報処理方法は、センサの反応を検知する検知ステップ(例えば、図5のステップS2)と、検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップ(例えば、図5のステップS4)と、第1の算出ステップの処理により算出された特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップ(例えば、図6のステップS26)と、第2の算出ステップの処理により算出された距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップ(例えば、図6のステップS24)と、他の装置から供給されたユーザからの判断の入力を取得する取得ステップ(例えば、図5のステップS7)と、取得ステップの処理により取得されたユーザからの判断の入力を、第1の算出ステップの処理により算出された特徴量に対応付けて蓄積する蓄積ステップ(例えば、図5のステップS8)とを含む
なお、請求項15に記載の記録媒体に記録されているプログラム、および請求項16に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項14に記載の情報処理方法と同様である。
請求項17に記載の情報処理装置(例えば、図1の処理ボックス2)は、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築手段(例えば、図7のステップS45の処理を実行する図2の呈示画像構築部22)と、構築手段により構築された呈示データに基づく呈示を行う呈示手段(例えば、図7のステップS45の処理を実行する図2の呈示部3、または図8のステップS62の処理を実行する図2の呈示部32)と、呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段(例えば、図5のステップS7の処理を実行する図2のイベント通知判定部15)と、取得手段により取得されたユーザからの判断の入力を他の装置に送信する送信手段(例えば、図7のステップS49の処理を実行する図2の送信部25)とを備える
請求項18に記載の情報処理装置は、他の装置よりイベントが通知されていない場合、構築手段は、予め定められた信号(例えば、図2に示す一般視聴信号)に基づくデータを呈示データとする
請求項19に記載の情報処理方法は、他の装置からイベントが通知された場合、イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップ(例えば、図7のステップS45)と、構築ステップの処理により構築された呈示データに基づく呈示を行う呈示ステップ(例えば、図7のステップS45または図8のステップS62)と、呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップ(例えば、図5のステップS7)と、取得ステップの処理により取得されたユーザからの判断の入力を他の装置に送信する送信ステップ(例えば、図7のステップS49)とを含む

なお、請求項20に記載の記録媒体に記録されているプログラム、および請求項21に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項19に記載の情報処理方法と同様である。
以下に、本発明の実施の形態について図面を参照して説明する。
図1は、本発明を適用した監視システム10の構成例を表している。この構成例においては、図中左側の監視領域側にマルチセンサカメラ1が備えられており、図中右側の通知・呈示側に、処理ボックス2、呈示部3、および、処理ボックス2を遠隔操作するためのリモートコントローラ4が備えられている。マルチセンサカメラ1と処理ボックス2は、無線アンテナ1Aと無線アンテナ2Aを介して、相互に無線通信を行なう。処理ボックス2とリモートコントローラ4は、相互に無線通信あるいは赤外線通信を行う。処理ボックス2と呈示部3は、バスなどの有線あるいは無線により接続されている。なお、マルチセンサカメラ1と処理ボックス2は、無線通信に限られるものではなく、有線による通信であってもよい。
マルチセンサカメラ1は、イベントを監視したい領域(必要な場所)に設置されている。マルチセンサカメラ1には、CCD(Charge Coupled Device)カメラ11および赤外線センサ12(図2)が設けられており、各センサは、図示せぬバッテリにより駆動される。その詳細は後述するが、マルチセンサカメラ1は、赤外線センサ12で検出されたイベントに基づいて、イベントデータを通知するか否かを判定し、イベントデータを通知すると判定した場合、無線アンテナ1Aを介して、CCDカメラ11で撮影された画像データ(イベント呈示に必要なデータ)を処理ボックス2に送信する。
処理ボックス2は、マルチセンサカメラ1から送信されてきたイベント呈示に必要なデータを、無線アンテナ2Aを介して受信し、その受信データに基づいて呈示画像および音声を構築し、呈示部3およびリモートコントローラ4に供給または送信して、イベントを呈示させる。
呈示部3は、例えば、一般のテレビジョン受像機とされ、イベントが発生していない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を表示し、イベントが発生した場合、一般の視聴信号の一部分にイベント画像が挿入されたピクチャインピクチャの画像を表示する。なお、呈示部3は、テレビジョン受像機に限定されるものではなく、専用のモニタでもよい。また、表示される画像は、ピクチャインピクチャの画像ではなく、画面全体の画像としてもよい。
ユーザは、呈示部3に呈示されたイベントに対して、判断を行ない、その判断の結果に基づいて、リモートコントローラ4から各種指令を入力することができる。例えば、いま発生したイベントを今後も知らせて欲しいときは、その旨を、OKボタン(図示せず)を操作し、いま発生したイベントを今後は知らせなくてもよいときは、その旨を、NGボタン(図示せず)を操作して指示入力することができる。このユーザからの判断の入力に基づいて、処理ボックス2により検出されるイベントが時間と共に変化し、ユーザが監視システム10を使う度にユーザが意図するイベントのみが検出され、通知されるようになる。
またマルチセンサカメラ1に搭載されるCCDカメラ11は、イベントを通知すると判定された場合にのみ動作するため、無駄な消費電力を抑えることができる。
図2は、図1に示した監視システム10の機能的構成例を示すブロック図である。
マルチセンサカメラ1のCCDカメラ11は、監視領域内の状況を随時撮影し、画像信号を通知画像データとしてスイッチ16を介して送信部17に供給するとともに、特徴量計算部14に供給する。赤外線センサ12は、図示せぬ物体から発する赤外領域の光を受光し、受けた光を電気信号に変換し、センサデータとして人体検知判定部13に供給する。
人体検知判定部13は、赤外線センサ12からセンサデータが供給されると、赤外線センサが反応した(すなわち、主に、人体、猫、犬等の動物を検知した)と判定し、電源制御信号をCCDカメラ11に供給してその電源をオンさせる。これにより、CCDカメラ11から出力された通知画像データが、特徴量計算部14に供給される。
特徴量計算部14は、CCDカメラ11から供給された画像データから特徴量データを算出し、その算出結果をイベント通知判定部15に供給する。
イベント通知判定部15は、特徴量計算部14から供給された特徴量データと、過去に算出された特徴量データとの特徴量空間での距離を算出し、その算出結果に基づいて、イベントが発生しているか否かを判定し、イベントが発生していると判定した場合、処理ボックス2に通知するイベントを送信部17に供給するとともに、スイッチ16にイベント通知信号を供給してオンさせる。これにより、CCDカメラ11から出力された通知画像データが、スイッチ16を介して送信部17に供給される。
またイベント通知判定部15は、受信部18を介して処理ボックス2から受信したユーザフィードバック(FB)に関する信号(以下、適宜、ユーザFB信号と称する)を現在発生しているイベントの特徴量データに対応付けて蓄積する。
ここで、ユーザフィードバックとは、ユーザが、呈示されたイベントに対して、判断を行ない、リモートコントローラ4の入力部33を用いて入力されたユーザの判断入力を意味する。例えば、ユーザは、イベントを今後も知らせて欲しい場合には、入力部33のOKボタン(図示せず)を操作し、今後はイベントとして検出しなくてもよい場合には、NGボタン(図示せず)を操作することで、ユーザフィードバックとして入力することができる。あるいは、イベントとして検出しなくてもよい場合だけ、フィードバックさせるようにしてもよい。
送信部17は、処理ボックス2に対し、イベント通知判定部15から供給されたイベントを送信するとともに、CCDカメラ11から供給された通知画像データを送信する。受信部18は、処理ボックス2から送信されてきたユーザフィードバックを受信し、それをイベント通知判定部15に供給する。
処理ボックス2の受信部21は、マルチセンサカメラ1から送信されてきた通知画像データおよびイベントを呈示画像構築部22に供給する。
呈示画像構築部22は、受信部21を介してマルチセンサカメラ1からイベントが通知された場合、図示せぬ装置(呈示部3でもよい)から供給される一般視聴信号(テレビジョン放送信号)の一部に通知画像データを挿入した通知データを構築(作成)し、それを呈示部3に供給して呈示させる。また、呈示画像構築部22は、通知画像データにより構成される(一般視聴信号を含まない)リモートコントローラ4用の通知データを構築し、送信部23に供給する。なお、呈示画像構築部22は、イベントが通知されていない場合(通常の場合)、一般の視聴信号(放送信号に基づく映像)を呈示部3に供給して呈示させる。
呈示部3用の通知データは、一般の視聴信号の一部に通知画像データを挿入して構成されているため、呈示部3には、ピクチャインピクチャの表示が呈示される。また、リモートコントローラ4用の通知データは、通知画像データから構成されているため、リモートコントローラ4の呈示部32には、イベントを表わす表示(例えば、監視している場所の画像)のみが呈示される。
送信部23は、呈示画像構築部32から供給された通知データをリモートコントローラ4に送信する。受信部24は、リモートコントローラ4から送信されてきたユーザFB信号を受信し、それを送信部25に供給する。送信部25は、受信部24から供給されたユーザFB信号をマルチセンサカメラ1に送信する。
リモートコントローラ4の受信部31は、処理ボックス2から送信されてきた通知データを受信し、それを呈示部32に呈示させる。入力部33は、呈示されたイベントに対するユーザからの判断に基づく入力を受け、その入力(ユーザフィードバック)に関する信号を送信部34に供給する。送信部34は、入力部33から供給されたユーザFB信号を処理ボックス2に送信する。
ここで、ユーザフィードバックとは、上述したように、例えば、「今後も知らせて欲しいイベントである」、あるいは、「今後は知らせなくてよいイベントである」などのユーザによる判断の入力を示す。マルチセンサカメラ1と処理ボックス2は、このユーザフィードバックに基づいて、処理を変化させる。
図3は、図2のマルチセンサカメラ1のイベント通知判定部15の詳細な構成例を示すブロック図である。
距離計算部41は、特徴量計算部14から供給された現在の特徴量データと、特徴量蓄積部42に蓄積されている、ユーザフィードバック(OK(通知して欲しい)またはNG(通知しなくてよい))が対応付けられた過去の特徴量データとの特徴量空間での距離を算出し、算出した距離データを距離判定部43に供給する。ここで、利用される特徴量は、背景差分(予め保持しておいた背景画像データと移動物体の位置を表わす現在画像データの画素値の差分)の絶対値の和、背景差分の重心位置の画像中での水平成分、および背景差分の重心位置の画像中での垂直成分の3種類であり、この3種類の特徴量軸で構成される特徴量空間での距離が算出される。
また距離計算部41は、特徴量計算部14から供給された現在の特徴量データを特徴量蓄積部42に供給し、そこに蓄積させる。
距離判定部43は、距離計算部41から供給された距離データのうち、最も近い距離が所定の閾値以上であるか否かを判定し、その判定結果に基づいて、処理ボックス2に通知するイベントを送信部45に供給する。
特徴量蓄積部42は、距離計算部41により追加された特徴量データを蓄積する。なお、蓄積された特徴量データに対して、処理ボックス2からユーザフィードバックが供給された場合、特徴量蓄積部42は、特徴量データにユーザフィードバックを対応付けて蓄積する。
なお、マルチセンサカメラ1の初期状態においては、特徴量蓄積部42に特徴量データが蓄積されておらず、イベント通知判定部15は、特徴量計算部14から現在の特徴量データが供給されると、直ちに通知イベントと判定する。すなわち、初期状態においては、全てのイベントが通知されることになる。これにより、必要なイベントがユーザに通知されないことが防止される。
図4は、特徴量空間での距離算出およびイベント通知を説明する図である。同図において、x軸は、背景差分の重心位置の水平成分を表わし、y軸は、背景差分の絶対値の和を表わし、z軸は、背景差分の重心位置の垂直成分を表わしている。
図4の例の場合、特徴量P1は、時刻t1において特徴量計算部14で算出された特徴量データを表わし、特徴量P2は、時刻t2において特徴量計算部14で算出された特徴量データを表わし、特徴量P3は、時刻t3において特徴量計算部14で算出された特徴量データを表わしている。また、図中、白い円で示される特徴量Q1乃至Q4は、特徴量蓄積部42に蓄積されている過去の特徴量データのうち、ユーザフィードバックによりNG(イベントを通知しなくてよい)とされた特徴量データを表わし、図中、黒い円で示される特徴量Q5乃至Q10は、特徴量蓄積部42に蓄積されている過去の特徴量データのうち、ユーザフィードバックによりOK(イベントを通知してほしい)とされた特徴量データを表わしている。
距離計算部41は、時刻t1において、現在の特徴量P1とユーザフィードバックによりNG(イベントを通知しなくてよい)とされた全ての特徴量Q1乃至Q4との距離(特徴量空間でのユークリッド距離)をそれぞれ算出し、算出した距離データを距離判定部43に供給する。距離判定部43は、距離計算部41から供給された距離データのうち、最も近い距離データ(図4の例の場合、特徴量Q1との距離)が予め設定されている所定の閾値以上であるか否かを判定し、所定の閾値以上ではない(閾値未満である)と判定した場合、非通知イベントと判断する。
また距離計算部41は、時刻t2において、現在の特徴量P2とユーザフィードバックによりNGとされた全ての特徴量Q1乃至Q4との距離をそれぞれ算出し、算出した距離データを距離判定部43に供給する。距離判定部43は、距離計算部41から供給された距離データのうち、最も近い距離データ(図4の例の場合、特徴量Q2との距離)が予め設定されている所定の閾値以上であるか否かを判定し、所定の閾値以上ではない(閾値未満である)と判定した場合、非通知イベントと判断する。
さらに距離計算部41は、時刻t3において、現在の特徴量P3とユーザフィードバックによりNGとされた全ての特徴量Q1乃至Q4との距離をそれぞれ算出し、算出した距離データを距離判定部43に供給する。距離判定部43は、距離計算部41から供給された距離データのうち、最も近い距離データ(図4の例の場合、特徴量Q4との距離)が予め設定されている所定の閾値以上であるか否かを判定し、所定の閾値以上であると判定した場合、通知イベントと判断する。
図4の例では、現在の特徴量P1乃至P3とユーザフィードバックによりNG(イベントを通知しなくてよい)とされた全ての特徴量Q1乃至Q4との距離をそれぞれ算出し、最も近い距離データが所定の閾値以上である場合、通知イベントであると判断し、所定の閾値より小さい場合、非通知イベントであると判断することができる。あるいは、現在の特徴量P1乃至P3とユーザフィードバックによりOK(イベントを通知して欲しい)とされた全ての特徴量Q5乃至Q10との距離をそれぞれ算出し、最も近い距離データが予め設定されている所定の閾値以下である場合、通知イベントであると判断し、所定の閾値より大きい場合、非通知イベントであると判断するようにしてもよい。
次に、図5のフローチャートを参照して、マルチセンサカメラ1における処理について説明する。なお、この処理は、ユーザにより、監視領域における監視を開始するよう指令されたとき、開始される。
ステップS1において、人体検知判定部13は、CCDカメラ11に電源制御信号を供給してその電源をオフさせる。イベント通知判定部15は、イベント通知フラグをオフし、特徴量蓄積部42に蓄積されている特徴量データをクリアする。
ステップS2において、人体検知判定部13は、赤外線センサ12が反応したか否か、すなわち、赤外線センサ12から動物(主に人物)を検知したことを示すセンサデータが供給されたか否かを判定し、赤外線センサ12が反応したと判定した場合、ステップS3に進み、CCDカメラ11に電源制御信号を供給してその電源をオンさせる。すなわち、赤外線センサ12が反応するまでは、赤外線センサ12に較べ、消費電力が大きいCCDカメラ11の電源がオフのままとなっており、これにより、無駄なバッテリ消費を抑えることができる。
そして、ステップS3の処理により、CCDカメラ11から特徴量計算部14に画像データが供給される。ステップS4において、特徴量計算部14は、CCDカメラ11から供給された画像データに基づいて、特徴量を算出する。具体的には、特徴量計算部14は、予めCCDカメラ11から背景画像データを取得して保持しており、赤外線センサ12の反応に応じてCCDカメラ11から供給された現在の画像データと背景画像データから、背景差分の絶対値の和、背景差分の重心位置の画像中での水平成分、および背景差分の重心位置の画像中での垂直成分の3種類の特徴量を算出する。
ステップS5において、イベント通知判定部15は、ステップS4の処理で算出された特徴量データに基づいて、イベント通知判定処理を行う。このイベント通知判定処理の詳細については、図6のフローチャートを参照して後述するが、この処理により、イベント通知判定部15から通知イベントが発生されるか、または非通知イベントが発生される(イベントは通知されない)。
ステップS2において、赤外線センサが反応していないと判定された場合、ステップS6に進み、人体検知判定部13は、CCDカメラ11に電源制御信号を供給してその電源をオフさせ、イベント通知判定部15は、イベント通知フラグをオフする。その後、処理は、ステップS7に進む。
ステップS7において、イベント通知判定部15は、受信部18を介して処理ボックス2から(後述する図7のステップS49の処理により)送信されてきたユーザFB信号を受信したか否かを判定し、ユーザFB信号を受信したと判定した場合、ステップS8に進み、ユーザフィードバック(「OK(今後も通知して欲しい)」または「NG(今後は通知しなくても良い)」)を、最近発生したイベントに対応する特徴量データに対応付けて特徴量蓄積部42に蓄積する。
ステップS7において、ユーザFB信号を受信していないと判定された場合、または、ステップS8の処理の後、処理はステップS2に戻り、上述した処理が繰り返し実行される。
次に、図6のフローチャートを参照して、図5のステップS5におけるイベント通知判定処理の詳細について説明する。
ステップS21において、距離計算部41は、特徴量計算部14で算出された(図5のステップS4の処理で算出された)特徴量データがあるか否か(すなわち、CCDカメラ11の電源がオンであるか否か)を判定し、特徴量データがあると判定した場合、ステップS22に進み、その特徴量データを読み込む。
ステップS23において、距離判定部43は、イベントフラグがオンである(イベント通知中である)か否かを判定し、イベントフラグがオンであると判定した場合、ステップS24に進み、送信部17を介して処理ボックス2にイベントを通知するとともに、イベント通知信号をスイッチ16に供給してオンさせる。これにより、CCDカメラ11から処理ボックス2に対し、通知画像データ(イベント画像)の送信が開始される。処理ボックス2は、この通知画像データを受信し、呈示部3に呈示させる(後述する図7のステップS45)。
ステップS23において、イベントフラグがオンではなくオフである(イベント通知中ではない)と判定された場合、ステップS25に進み、距離計算部41は、特徴量蓄積部42に蓄積されている過去の特徴量データとそれに対応するユーザフィードバック(「OK(今後も通知して欲しい)」または「NG(今後は通知しなくても良い)」)を読み込む。ステップS26において、距離計算部41は、ステップS22の処理で読み込んだ現在の特徴量データと、ステップS25の処理で読み込んだ過去の特徴量データとの特徴量空間での距離を算出する。すなわち、距離計算部41は、図4に示したように、背景差分の絶対値の和、背景差分の重心位置の水平成分、および背景差分の重心位置の垂直成分の3種類の特徴量軸で構成される特徴量空間での距離を算出する。
さらに、距離計算部41は、いま着目している過去の特徴量データに対応するユーザフィードバックがNGの場合、過去に算出されたNGに対応する特徴量データとの最短距離より、いま着目しているデータの距離の方が小さい場合には、いま着目しているデータの距離をNGに対応するデータとの最短距離として保持する。同様に、距離判定部43は、いま着目している過去の特徴量データに対応するユーザフィードバックがOKの場合、過去に算出されたOKに対応する特徴量データとの最短距離より、いま着目しているデータの距離の方が小さい場合には、いま着目しているデータの距離をOKに対応するデータとの最短距離として保持する。
ステップS27において、距離計算部41は、特徴量蓄積部42に蓄積されている全ての過去の特徴量データを読み込んだか否かを判定し、未だ読み込んでいない過去の特徴量データがあると判定した場合、ステップS25に戻り、上述した処理を繰り返し実行する。
ステップS27において、全ての過去の特徴量データを読み込んだと判定された場合、ステップ28に進み、距離計算部41は、現在の特徴量データを特徴量蓄積部42に供給してそこに蓄積させる。
ステップS29において、距離判定部43は、ステップS26の処理で距離計算部41により算出されたNGに対応する過去の特徴量データとの最短距離が所定の閾値以上であるか否かを判定し、所定の閾値以上であると判定した場合、ステップS31に進む。
ステップS29において、NGに対応する過去の特徴量データとの最短距離が所定の閾値以上ではなく、所定の閾値よりも小さいと判定された場合、ステップS30に進み、距離判定部43は、さらに、OKに対応する過去の特徴量データとの最短距離が所定の閾値以下であるか否かを判定し、所定の閾値以下であると判定した場合、ステップS31に進む。ステップS31において、イベント通知判定部15は、イベントフラグをオンする。
ステップS21において、特徴量計算部14で算出された特徴量データがないと判定された場合(すなわち、CCDカメラ11の電源がオフであると判定された場合)、ステップS32に進み、イベント通知判定部15は、イベントフラグをオフする。
ステップS24の処理の後、ステップS31の処理の後、ステップS32の処理の後、または、ステップS30において、OKに対応する過去の特徴量データとの最短距離が所定の閾値より大きいと判定された場合、処理は、図5のステップS6にリターンされる。
以上の処理により、特徴量空間での距離に応じて、イベント通知判定部15からイベントが発生されるか、あるいは、イベントは通知されない(非通知イベントである)。
なお、マルチセンサカメラ1の初期状態においては、特徴量蓄積部42に特徴量データが蓄積されておらず、距離判定部43は、特徴量計算部14から現在の特徴量データが供給されると、直ちにイベントを発生する。
次に、図7のフローチャートを参照して、図5のマルチセンサカメラ1の処理に対応して実行される処理ボックス2における処理について説明する。なお、この処理は、ユーザにより、呈示部3に対して一般視聴信号(放送番組信号)に対応する画像の呈示を行うよう指令されたとき、または監視領域における監視を開始するよう指令されたとき、開始される。
ステップS41において、受信部21は、イベント受信フラグをオフする。ステップS42において、受信部21は、イベント受信フラグがオンである(イベント受信中である)か否かを判定し、イベント受信フラグがオンであると判定した場合、ステップS43に進む。
ステップS43において、受信部21は、(上述した図6のステップS24の処理により)マルチセンサカメラ1から送信されてきた通知画像データの受信が終了したか否かを判定し、通知画像データの受信が終了したと判定した場合、ステップS44に進み、イベント受信フラグをオフする。その後、処理はステップS48に進む。
ステップS43において、未だ通知画像データの受信が終了していないと判定された場合、受信部21は、(上述した図6のステップS24の処理により)マルチセンサカメラ1から送信されてきた通知画像データおよび通知イベントを呈示画像構築部22に供給し、ステップS45に進む。
ステップS45において、呈示画像構築部22は、受信部21から供給された通知画像データを一般視聴信号の一部に通知画像データを挿入した通知データ(ピクチャインピクチャで呈示するための画像データ)を構築し、それを呈示部3に出力し、呈示させる。また呈示画像構築部22は、一般視聴信号を含まないリモートコントローラ4用の通知データ(通知画像データにより構成されるデータ)を構築し、送信部23を介してリモートコントローラ4に送信する。リモートコントローラ4は、この通知データを受信し、呈示部62に呈示させる(後述する図8のステップS62)。
ステップS42において、イベント受信フラグがオンではなくオフである(イベント受信中ではない)と判定された場合、ステップS46に進み、受信部21は、(上述した図6のステップS24の処理により)マルチセンサカメラ1から送信されてきたイベントを受信したか否かを判定する。
ステップS46において、イベントを受信したと判定された場合、ステップS47に進み、受信部21は、イベント受信フラグをオンした後、ステップS48に進む。一方、ステップS46において、イベントを受信していないと判定された場合、ステップS47の処理はスキップされ、処理はステップS48に進む。
ステップS48において、受信部24は、リモートコントローラ4から(後述する図8のステップS64の処理により)送信されてきたユーザFB信号を受信したか否かを判定し、ユーザFB信号を受信したと判定した場合、ステップS49に進む。
ステップS49において、受信部24は、受信したユーザFB信号を、送信部25を介してマルチセンサカメラ1に送信する。マルチセンサカメラ1は、このユーザFB信号を受信し、特徴量データに対応付ける(上述した図5のステップS8)。
ステップS49の処理の後、または、ステップS48において、ユーザFB信号を受信していないと判定された場合、処理はステップS42に戻り、上述した処理が繰り返し実行される。
次に、図8のフローチャートを参照して、図7の処理ボックス2の処理に対応して実行されるリモートコントローラ4における処理について説明する。なお、この処理は、処理ボックス2の送信部23により、図7のステップS45の処理が実行されたとき、開始される。
ステップS61において、受信部31は、処理ボックス2より通知イベントを受信したか否かを判定し、通知イベントを受信するまで待機する。そして、通知イベントを受信したと判定した場合、ステップS62に進み、受信部31は、(上述した図7のステップS45の処理により)処理ボックス2から通知イベントとともに送信されてきた通知データに基づくイベント画像(通知画像データ)を呈示部32に呈示させる。
ユーザは、呈示部32に呈示されたイベント画像を見て、入力部33を操作し、判断(例えば、いま呈示されているイベントは今後も知らせて欲しいイベントであるか、あるいは、今後は知らせなくてよいイベントであるのか)を入力する。
ステップS63において、入力部33は、呈示されたイベントに対するユーザからの判断(ユーザフィードバック)が入力されたか否かを判定し、ユーザフィードバックが入力されたと判定した場合、ユーザFB信号を、送信部34に供給し、ステップS64に進む。
ステップS64において、送信部34は、入力部33から供給されたユーザFB信号を処理ボックス2に送信する。処理ボックス2は、これを受信し、マルチセンサカメラ1に送信する(図7のステップS49)。
ステップS64の処理の後、または、ステップS63において、ユーザフィードバックが入力されていないと判定された場合、処理はステップS61に戻り、上述した処理が繰り返し実行される。
以上のように、赤外線センサ12の反応に応じて得られたCCDカメラ11の画像データから現在の特徴量を算出し、その特徴量とNG(イベントとして通知しなくてよい)とされた過去の全ての特徴量との距離を算出し、その最短距離が所定の閾値以上である場合、イベントを通知することができる。また、現在の特徴量とOK(イベントとして通知して欲しい)とされた過去の全ての特徴量との距離を算出し、その最短距離が所定の閾値以下である場合、イベントを通知することができる。
なお、OK(イベントとして通知して欲しい)とされた過去の全ての特徴量との距離を算出し、その最短距離が所定の閾値以下であるか否かを判定する処理(図6のステップS30の処理)は、省略するようにしてもよい。なぜなら、NG(イベントとして通知しなくてよい)とされた過去の全ての特徴量との距離を算出し、その最短距離が所定の閾値以上であった場合には、イベントを通知するため、さらに、OK(イベントとして通知して欲しい)とされた過去の全ての特徴量との距離を算出し、その最短距離が所定の閾値以下であるか否かを判定することは、冗長的であるためである。
以上のように、特徴量空間における過去のユーザからの指定(ユーザフィードバック)との距離の判定を行うことで、木の葉の揺れ等による差分の小さい外乱は通知しないようにしたり、犬、猫等が検出されても通知しないようにすることができる。
以上においては、ユーザからのフィードバックに基づいて、イベント通知の判定に用いる過去の特徴量が変化していくため、ユーザが意図するイベントのみを検出することができ、かつ、イベントを通知する場合にのみ、CCDカメラ11の電源をオンするようにしたので、無駄なバッテリ消費を抑えることができる。
また、以上においては、背景差分の絶対値の和、背景差分の重心位置の水平成分、および背景差分の重心位置の垂直成分の3つの特徴量を利用する場合の例について説明したが、これに限らず、例えば、フレーム間差分の絶対値の和、フレーム間差分の重心位置の水平成分、およびフレーム間差分の重心位置の垂直成分などの3つの特徴量を利用するようにしたり、あるいは、特徴量の数を3つに限らず、それ以上に増やすようにしてもよい。
さらに、赤外線センサ12を利用して人体を検知する場合の例について説明したが、これに限らず、例えば、マイクロホン、フォトセンサ、マイクロ波センサ、あるいは、他のセンサを利用することも勿論可能である。
また、マルチセンサカメラ1や呈示部3は、1台ではなく、複数台設けるようにしたり、処理ボックス2は、呈示部3と別の筐体とせず、一体型とするようにしたり、リモートコントローラ4に呈示部32を設けずに、呈示部3のみの呈示とするようにしたり、あるいは、処理ボックス2にユーザフィードバックを入力するための入力部を設けるようにすることができる。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、ネットワークや記録媒体からインストールされる。
図9は、汎用のパーソナルコンピュータ100の内部の構成例を示す図である。CPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記憶されているプログラム、または記憶部108からRAM(Random Access Memory)103にロードされたプログラムに従って各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU101、ROM102、およびRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インターフェース105も接続されている。
入出力インターフェース105には、ボタン、スイッチ、キーボードあるいはマウスなどで構成される入力部106、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などのディスプレイ、並びにスピーカなどで構成される出力部207、ハードディスクなどで構成される記憶部108、およびモデムやターミナルアダプタなどで構成される通信部109が接続されている。通信部109は、インターネットを含むネットワークを介して通信処理を行う。
入出力インターフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリなどよりなるリムーバブルメディア111が適宜装着され、そこから読み出されたコンピュータプログラムが、記憶部108にインストールされる。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを記録する記録媒体は、図9に示されるように、装置本体とは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini-Disc)(登録商標)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア111により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される、プログラムが記録されているROM103または記憶部108に含まれるハードディスクなどで構成される。
なお、本明細書において、プログラム格納媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表わすものである。
本発明を適用した監視システムの構成例を示す図である。 図1の監視システムの機能的構成例を示すブロック図である。 図2のイベント通知判定部の詳細な構成例を示すブロック図である。 特徴量空間での距離算出およびイベント通知を説明するための図である。 マルチセンサカメラにおける処理を説明するフローチャートである。 図5のステップS5の処理におけるイベント通知判定処理の詳細を説明するフローチャートである。 処理ボックスにおける処理を説明するフローチャートである。 リモートコントローラにおける処理を説明するフローチャートである。 汎用のパーソナルコンピュータの構成例を示すブロック図である。
符号の説明
1 マルチセンサカメラ, 2 処理ボックス, 3 呈示部, 4 リモートコントローラ, 10 監視システム, 11 CCDカメラ, 12 赤外線センサ, 13 人体検知判定部, 14 特徴量計算部, 15 イベント通知判定部, 22 呈示画像構築部,32 呈示部, 33 入力部

Claims (21)

  1. センサの反応を検知する検知手段と、
    前記検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段と、
    前記第1の算出手段により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段と、
    前記第2の算出手段により算出された前記距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築手段と、
    前記構築手段により構築された前記呈示データに基づく呈示を行う呈示手段と、
    前記呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段と、
    前記取得手段により取得された前記ユーザからの判断の入力を、前記第1の算出手段により算出された前記特徴量に対応付けて蓄積する蓄積手段と
    を備える視システム。
  2. 前記第2の算出手段により算出された前記距離に基づいて、イベントを通知するか否かを判定する判定手段をさらに備え、
    前記構築手段は、前記判定手段により前記イベントを通知すると判定された場合、前記呈示データを構築する
    求項1に記載の監視システム。
  3. 前記第2の算出手段は、前記第1の算出手段により算出された前記特徴量と、前記蓄積手段に蓄積されている、前記ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間での距離を算出する
    求項1に記載の監視システム。
  4. 前記センサは、赤外線センサ、カメラ、またはマイクロホンである
    求項1に記載の監視システム。
  5. 前記構築手段は、テレビジョン放送に基づく信号に前記イベントデータを挿入して前記呈示データを構築する
    求項1に記載の監視システム。
  6. 前記構築手段は、前記判定手段により前記イベントを通知しないと判定された場合、予め定められた信号に基づくデータを呈示データとする
    求項1に記載の監視システム。
  7. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    を含む視方法。
  8. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    を含む処理をコンピュータに実行させるためのプログラムを記録したコンピュータみ取り可能な録媒体。
  9. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを含む呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    含む処理をコンピュータに実行させるためのプログラム。
  10. センサの反応を検知する検知手段と、
    前記検知手段による検知に基づいて、物体の特徴量を算出する第1の算出手段と、
    前記第1の算出手段により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出手段と、
    前記第2の算出手段により算出された前記距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信手段と、
    前記他の装置から供給されたユーザからの判断の入力を取得する取得手段と、
    前記取得手段により取得された前記ユーザからの判断の入力を、前記第1の算出手段により算出された前記特徴量に対応付けて蓄積する蓄積手段と
    を備える報処理装置。
  11. 前記第2の算出手段により算出された前記距離に基づいて、イベントを通知するか否かを判定する判定手段をさらに備え、
    前記送信手段は、前記判定手段により前記イベントを通知すると判定された場合、前記イベントデータを前記他の装置に送信する
    求項10に記載の情報処理装置。
  12. 前記第2の算出手段は、前記第1の算出手段により算出された前記特徴量と、前記蓄積手段に蓄積されている、前記ユーザからの判断の入力が対応付けられた過去の特徴量との特徴量空間での距離を算出する
    求項10に記載の情報処理装置。
  13. 前記センサは、赤外線センサ、カメラ、またはマイクロホンである
    求項10に記載の情報処理装置。
  14. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、
    前記他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    を含む報処理方法。
  15. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、
    前記他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    を含む処理をコンピュータに実行させるためのプログラムを記録したコンピュータみ取り可能な録媒体。
  16. センサの反応を検知する検知ステップと、
    前記検知ステップの処理による検知に基づいて、物体の特徴量を算出する第1の算出ステップと、
    前記第1の算出ステップの処理により算出された前記特徴量と、過去に算出された特徴量との特徴量空間での距離を算出する第2の算出ステップと、
    前記第2の算出ステップの処理により算出された前記距離に応じて、イベントを通知するためのイベントデータを他の装置に送信する送信ステップと、
    前記他の装置から供給されたユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を、前記第1の算出ステップの処理により算出された前記特徴量に対応付けて蓄積する蓄積ステップと
    含む処理をコンピュータに実行させるためのプログラム。
  17. 他の装置からイベントが通知された場合、前記イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築手段と、
    前記構築手段により構築された前記呈示データに基づく呈示を行う呈示手段と、
    前記呈示手段による呈示に基づいて、ユーザからの判断の入力を取得する取得手段と、
    前記取得手段により取得された前記ユーザからの判断の入力を前記他の装置に送信する送信手段と
    を備える報処理装置。
  18. 前記他の装置より前記イベントが通知されていない場合、前記構築手段は、前記予め定められた信号に基づくデータを呈示データとする
    求項17に記載の情報処理装置。
  19. 他の装置からイベントが通知された場合、前記イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を前記他の装置に送信する送信ステップと
    を含む報処理方法。
  20. 他の装置からイベントが通知された場合、前記イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を前記他の装置に送信する送信ステップと
    を含む処理をコンピュータに実行させるためのプログラムを記録したコンピュータみ取り可能な録媒体。
  21. 他の装置からイベントが通知された場合、前記イベントとともに送信されてくるイベントデータを、予め定められた信号に基づくデータに挿入して呈示データを構築する構築ステップと、
    前記構築ステップの処理により構築された前記呈示データに基づく呈示を行う呈示ステップと、
    前記呈示ステップの処理による呈示に基づいて、ユーザからの判断の入力を取得する取得ステップと、
    前記取得ステップの処理により取得された前記ユーザからの判断の入力を前記他の装置に送信する送信ステップと
    含む処理をコンピュータに実行させるためのプログラム。
JP2003274762A 2003-07-15 2003-07-15 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム Expired - Fee Related JP4406821B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003274762A JP4406821B2 (ja) 2003-07-15 2003-07-15 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003274762A JP4406821B2 (ja) 2003-07-15 2003-07-15 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム

Publications (2)

Publication Number Publication Date
JP2005039548A JP2005039548A (ja) 2005-02-10
JP4406821B2 true JP4406821B2 (ja) 2010-02-03

Family

ID=34211632

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003274762A Expired - Fee Related JP4406821B2 (ja) 2003-07-15 2003-07-15 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム

Country Status (1)

Country Link
JP (1) JP4406821B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4321541B2 (ja) 2006-04-03 2009-08-26 ソニー株式会社 監視装置と監視方法
KR101815904B1 (ko) * 2017-01-13 2018-01-08 (주)이젝스 전자기기 식별 시스템 및 그 식별 방법
KR101862218B1 (ko) * 2017-02-15 2018-07-05 (주)이젝스 전자기기 식별에 의한 상황 인지 시스템 및 그 방법

Also Published As

Publication number Publication date
JP2005039548A (ja) 2005-02-10

Similar Documents

Publication Publication Date Title
US7840284B2 (en) Information processing system and associated methodology of surveillance event monitoring
US7944471B2 (en) Object detecting apparatus and method, program and recording medium used therewith, monitoring system and method, information processing apparatus and method, and recording medium and program used therewith
US20070223048A1 (en) Remote control apparatus, system and method
US20060064732A1 (en) Adapter apparatus and network camera control method
US7986299B2 (en) Remote control apparatus, remote control system and device-specific information display method
JP2015080079A (ja) 機器及びその制御方法
JP2017212682A (ja) 画像出力装置、画像出力方法及びプログラム
JP4316584B2 (ja) 画像表示装置及びその制御方法
US20090079822A1 (en) Apparatus and method for automatically controlling power of video appliance
CN110557607A (zh) 图像处理设备、信息处理设备、信息处理方法和记录介质
US9042704B2 (en) Reproduction apparatus and control method thereof
JP4406821B2 (ja) 監視システムおよび方法、情報処理装置、記録媒体、並びにプログラム
JP6065550B2 (ja) 映像装置
JP5185746B2 (ja) カメラ
JP7103358B2 (ja) 通信制御装置、通信制御装置の制御方法及びプログラム
JP3820586B2 (ja) 情報処理システムおよび方法、記録媒体、並びにプログラム
JP4438344B2 (ja) 監視システムおよび方法、情報処理装置および方法、記録媒体、並びにプログラム
JP4438341B2 (ja) 監視システムおよび方法、情報処理装置および方法、記録媒体、並びにプログラム
JP2008085729A (ja) 映像撮影装置,テレビジョン受像機,映像表示システム
JP4403418B2 (ja) 情報処理システムおよび方法、記録媒体、並びにプログラム
JP4492582B2 (ja) 情報処理装置および監視処理システム
JP3965580B2 (ja) 監視システムおよび方法、情報処理装置および方法、記録媒体、並びにプログラム
JP6035988B2 (ja) 撮像装置及び異常通知方法
US11778137B2 (en) Information processing device, information processing method, and non-transitory recording medium
JP2013074512A (ja) 訪問者通知装置、その装置を備える訪問者通知システム、および訪問者通知装置を制御するためのプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060714

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090730

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090806

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090925

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091015

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091028

R151 Written notification of patent or utility model registration

Ref document number: 4406821

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131120

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees